JP2002065721A - 視覚障害者用環境認識支援装置及びその方法 - Google Patents

視覚障害者用環境認識支援装置及びその方法

Info

Publication number
JP2002065721A
JP2002065721A JP2000259795A JP2000259795A JP2002065721A JP 2002065721 A JP2002065721 A JP 2002065721A JP 2000259795 A JP2000259795 A JP 2000259795A JP 2000259795 A JP2000259795 A JP 2000259795A JP 2002065721 A JP2002065721 A JP 2002065721A
Authority
JP
Japan
Prior art keywords
user
sound
height
stereo
ground
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2000259795A
Other languages
English (en)
Inventor
Hiroyoshi Yamaguchi
博義 山口
Hiroshi Miwa
浩史 三輪
Hideyuki Wakai
秀之 若井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2000259795A priority Critical patent/JP2002065721A/ja
Publication of JP2002065721A publication Critical patent/JP2002065721A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Rehabilitation Tools (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 3次元的広がりをもった空間領域の随所に存
在する様々な物体の距離や動きなどを視覚障害者に的確
に知らせる。 【解決手段】 ユーザの前頭部などに装着した多眼ステ
レオカメラ20で、ユーザ前方の空間を撮影する。デー
タ処理装置30が、その撮影画像を受けて、ステレオ視
法により、ユーザ前方の空間内の物体の3次元位置(距
離画像)を計算し、その距離画像に基づいて空間内の物
体を地面や各種の障害物)などとして識別し、その識別
結果を用いて、ユーザが手で触れる触覚表示装置40
や、ユーザの両耳に装着したステレオヘッドホン50を
駆動する。触覚表示装置40は、表示面に配列された多
数の進退自在なピン41により、地面や障害物の位置や
高さを表した凹凸画像を形成する。ステレオヘッドホン
50は、地面や障害物がユーザに対してどの方向のどの
距離にあるかをユーザに知らせるステレオ音響を発生す
る。

Description

【発明の詳細な説明】
【0001】
【発明が属する技術分野】本発明は、視覚障害者が周囲
の環境(例えば、障害物の存在や地面の凹凸など)を認
識することを助けるための装置に関わる。本発明の装置
の用途は、主に視覚障害者の支援であるが、それだけに
限られるわけではない。
【0002】
【従来の技術】従来のこの種の装置として、特開平1−
97457号及び特開平7−116208号に記載のも
のがある。特開平1−97457号に記載された装置
は、CCDカメラと触覚表示装置とを組み合わせたもの
である。CCDカメラは、ユーザの前方を撮影して、画
素単位の光強度を表した電気信号を触覚表示装置に出力
する。触覚表示装置は、各画素に対応して2次元配置さ
れた多数の進退自在なピンを表示面に備えたものであ
り、CCDカメラからの各画素の電気信号で各ピンの突
出量を調節することにより、CCDカメラが撮影した画
像の明暗を表した凹凸模様を表示面に形成する。この凹
凸模様をユーザが触ることで、ユーザは自分の前方の様
子を触覚的に認識することができる。
【0003】特開平7−116208号に記載された装
置は、測距・測温装置と刺激装置とを組み合わせたもの
である。測距装置は、ユーザの位置から一つの指向方向
へ赤外光を発射し、その指向方向に存在する物体からの
反射光を受光して、その受光位置よりその物体までの距
離を測定し、また、物体からの受光した光の波長成分よ
りその物体の温度を測定する。そして、測定された物体
の距離と温度から、物体の危険度が算出される。刺激装
置は、2本かその程度の本数の進退自在なピンを有し、
物体の危険度に応じてピンを突出させることで、物体の
危険度に応じた刺激をユーザに与える。色々な方向の物
体を検出する場合には、測距・測温装置の指向方向は手
動又は自動で変化させられる。例えば、歩行中に足元か
ら遠く前方へと指向方向を変化させていくことで、歩行
方向の近くから遠くまでの物体を検出することができ
る。
【0004】
【発明が解決しようとする課題】特開平1−97457
号の装置によれば、ユーザは自分の前方をカメラで撮影
した2次元画像を、触覚表示装置の凹凸模様を通じて認
識することができる。しかし、この2次元画像は、カメ
ラの視界に入った様々な物体の明暗を表したものであっ
て、物体までの距離を表したものではない。そのため、
この2次元画像は、ユーザにとって、歩行の安全性など
を判断するのには余り役立たない。
【0005】一方、特開平7−116208号の装置
は、ある指向方向に存在する物体の距離を測定して、そ
の距離に応じた刺激をユーザに与える。それにより、ユ
ーザは、指向方向の安全性を判断することができる。し
かし、この装置が一時に検出できるものは、一つの指向
方向に存在する物体までの距離である。つまり、この装
置は、一つの指向方向に存在する物体の「一点」までの
距離を検出してユーザに教えるだけであり、ユーザ前方
に広がる3次元の空間領域の随所に存在する様々な障害
物(例えば、足元の石ころ、前方の階段、左側の壁、右
方を行く人など)の位置を一時に検出してユーザに教え
るということができない。そのため、ユーザは、歩行の
安全性の判断に必要な領域全体の状況の把握に苦労す
る。また、このこと故に、物体が移動している場合に、
その移動の状況(例えば、右手から正面を横切ろうとし
ているなど)を的確に把握することもユーザにとって難
しい。
【0006】従って、本発明の目的は、3次元的広がり
をもった空間領域の随所に存在する様々な物体の距離や
動きなどをユーザに的確に知らせることができる装置を
提供することにある。
【0007】
【課題を解決するための手段】本発明に従う視覚障害者
用環境認識支援装置は、ユーザの前方に広がる3次元空
間を監視する空間監視手段と、空間監視手段の出力信号
を用いて、上記3次元空間内で物体が占めている物体領
域の3次元座標を計算する計算手段と、計算手段によっ
て計算された前記物体領域の3次元座標に応じた触覚刺
激又は音響を発生するための駆動信号を出力する駆動手
段と、駆動手段から駆動信号を受けて触覚刺激又は音響
を発生する通知手段とを備える。
【0008】この視覚障害者用環境認識支援装置は、ユ
ーザの前方に広がる3次元空間を監視して、その3次元
空間内で物体が占めている物体領域の3次元座標を計算
し、その物体領域の3次元座標に応じた触覚刺激又は音
響をユーザに提供する。従来のようにユーザから見て一
つの指向方向に存在する「一点」としての物体を検出す
るのではなく、ユーザから見て「面」として広がった3
次元空間を実質的同時に監視して、その3次元空間の随
所に存在する様々な物体の領域の3次元座標に一挙に把
握して、それに応じた刺激をユーザに与えるので、ユー
ザは周囲に存在する様々な物体の方向や距離を従来より
ずっと容易に把握でき、歩行などの安全性をより容易に
確認できる。
【0009】好適な実施形態では、通知手段として、ユ
ーザが触れて感知できる凹凸画像を生成する触覚表示装
置が用いられる。この触覚表示装置は、凹凸画像のどの
位置にどの程度の突起又は凹みがあるかによって、3次
元空間内のどの3次元位置に物体が存在するのかを表現
する。
【0010】好適な実施形態では、通知手段として、ま
た、ユーザが左右の耳で音源の距離と方向を感知できる
ステレオ音響を生成するステレオ音響発生装置が用いら
れる。このステレオ音響発生装置は、物体がユーザから
どの方向にどの程度の距離に存在するかを表現したステ
レオ音響をユーザに提供する。
【0011】好適な実施形態では、空間監視手段とし
て、複数の異なる位置から上記3次元空間を撮影する複
数眼のカメラが用いられる。その複数眼のカメラで撮影
された複数枚の画像を用いて、ステレオ視法により、3
次元空間内の物体領域の3次元座標が計算され、それに
応じて上記の凹凸画像やステレオ音響が制御される。複
数眼のカメラを用いることで、自然照明の下で精度良く
物体の3次元座標が計算でき、また、カメラとしてビデ
オカメラを用いれば、移動する物体の3次元位置も実時
間で把握してユーザに感知させることができる。
【0012】好適な実施形態では、3次元空間内の物体
領域の3次元座標を計算した後、その3次元座標に基づ
いて環境認識という処理が行われて、3次元空間に存在
する個々の物体の種類と3次元座標が識別される。そし
て、識別された物体の種類と3次元座標に応じて上記の
凹凸画像やステレオ音響が制御される。例えば、環境認
識によって、個々の物体が障害物(例えば、人、自動
車、路上の設置物、穴、段差、建物、壁など)であるか
否か(例えば、平らな地面)が識別され、そして、少な
くとも障害物と判断された物体について、その3次元座
標に応じて、その障害物の方向や距離や高さなどをユー
ザに感知させるように凹凸画像やステレオ音響が制御さ
れる。
【0013】
【発明の実施の形態】図1は、本発明に従う視覚障害者
環境認識支援装置の一実施形態の全体構成を示す。
【0014】この視覚障害者環境認識支援装置は、ステ
レオカメラ20、データ処理装置30及び環境通知装置
40又は50を備える。
【0015】ステレオカメラ20は、ステレオ視法を用
いた距離画像を作成するために撮影に用いられるもので
あり、異なる位置にほぼ同一方向を向いて配置された複
数個のビデオカメラ(例えばCCDカメラ)21を有す
る。ステレオ視法を用いる観点から、ステレオカメラ2
0は2個以上であれば何個のビデオカメラを持ってもよ
いが、この実施形態では、精度の高い距離画像が得られ
るようにするために、3×3マトリックスに配置された
9個もの多くのビデオカメラを持った多眼ステレオカメ
ラを採用する。ステレオカメラ20は、特にユーザの前
方を撮影するのに都合の良い位置、例えば帽子10の正
面部(つまりユーザの前頭部)に装着されている。ステ
レオカメラ20(つまり、その9個のビデオカメラ2
1)は、ユーザが歩行の安全を確認するのに必要な広い
視野角を有している。このステレオカメラ20により、
その視野角をもってユーザ前方に3次元的に広がる空間
領域を一時に撮影することができる。
【0016】データ処理装置30は、ステレオカメラ2
0の9個のビデオカメラ21から出力される9本の動画
像データの最新のフレーム画像を入力して、これら9枚
のフレーム画像をステレオ視法により処理することで、
ステレオカメラ20の視野についての最新での距離画像
(つまり、ステレオカメラ20の位置から、視野内3次
元空間の物体で占められた領域までの距離を画素単位で
表した画像)を形成する。こうして、データ処理装置3
0は、最新の距離画像を次々と連続的に作り出し(つま
り、距離動画像を作り出し)、これに基づいて環境通知
装置40又は50を制御及び駆動する。そのために、デ
ータ処理装置30は、距離画像を計算する距離画像計算
部31と、距離画像に基づいて環境通知装置40又は5
0を制御及び駆動する制御・駆動部32とを有する。制
御・駆動部32は、距離画像を解析して、その中から地
面を識別し、さらに、地面よりも高い高さをもつ物体
(プラス高さの障害物)や地面よりも下に落ち込んでい
る凹部(マイナス高さの障害物)などを識別する。この
ように、カメラ視野内に存在する各種の物体を識別する
処理を、この明細書では「環境認識」と呼ぶ。制御・駆
動部32は、この環境認識によって識別した地面や障害
物などの各種物体の種類(つまり、地面か、障害物かな
ど)と3次元位置に応じた駆動信号を環境通知装置40
又は50に出力する。
【0017】環境通知装置40又は50は、触覚表示装
置40とステレオヘッドフォン50のいずれか一方、又
は双方の組み合わせである。触覚表示装置40は、特開
平1−97457号に記載された触覚表示装置と同様
に、ベース板の一方の表面(表示面)に、多数の進退自
在なピン41を立てて二次元配列したものであり、各ピ
ン41の突出量を独立して調節することができ、それら
多数の2次元配列されたピン41が凹凸画像を形成す
る。ユーザは、この触覚表示装置40のピン41が作る
凹凸画像を、手などで触れて感じることで、その凹凸画
像が表している各種物体の種類や位置を把握する。例え
ば、ピン41が高く突出している箇所はそこに障害物が
存在することを意味し、ピン41が低くなっている箇所
はそこは歩くことのできる地面であることを意味する。
触覚表示装置40は、その表示面にユーザが手など触れ
るのに適した場所、例えばユーザの腰の位置や、歩行補
助用杖(図2、参照番号140)の握りの位置などに取
りつけることができる。
【0018】ステレオヘッドフォン50は、ユーザの左
右の耳に独立して音を与える2つのイヤホン(又はスピ
ーカ)50L、50Rをもつ通常のステレオヘッドホン
であるが、後述する制御・駆動部32が行う制御及び駆
動方法により、障害物の位置や距離をユーザに聴覚的に
通知することができる。その一つの方法は、ステレオ音
響効果(つまり、左右の耳に与える音響の特性に様々な
相違をつけることで、その音源の位置や距離をユーザに
聴覚的に把握させる効果)を用いた方法である。すなわ
ち、制御・駆動部32が、距離画像に基づいて何処にど
のような障害物が存在するかを識別し、その識別された
各障害物から音が発されたと仮定したときにユーザの左
右の耳に聞こえる音響を計算し、その計算した音響を左
右のイヤホン50L、50Rに出力する方法である。こ
の時、障害物の各種類に対して特有の音を事前に決めて
おけば、障害物の種類を容易に知ることができる。ま
た、別の方法は、障害物の位置や距離を表す音声メッセ
ージ(例えば、「ピー、2m先に障害物あり」など)を
ステレオヘッドフォン50に出力する方法である。
【0019】触覚表示装置40とステレオヘッドフォン
50のいずれか一方だけを用いてもよいが、その双方を
組み合わせて用いれば、ユーザはより容易に周囲の環境
を把握することができる。
【0020】この視覚障害者環境認識支援装置は、上記
構成に加えて望ましくは、ステレオカメラ20の動き
(特に、回転角度)を検出するための角度センサ(又は
水平センサ)60を、帽子10などの適当箇所に設置が
できる。これは、ユーザの頭部の動きによってステレオ
カメラ20の指向方向が変わっても、データ処理装置3
0がそれを正確に把握し水平方向を割り出せるようにす
るためである。角度センサ(又は水平センサ)60とし
ては、例えば、ジャイロを利用して回転加速度を計測し
て傾き角度を計算するような角度センサや、その姿勢が
どのように変化しても常に水平方向を示す信号を出力す
る水平センサなどが採用できる。角度センサを用いる場
合、頭部の回転動作きはピッチ(上を向いたり下を向い
たりする動き)と、ロール(左右に首を傾ける動き)
と、ヨー(左右に水平回転させる動き)に大別できる。
角度センサを用いる場合、これら3種類の回転動作のう
ち、ユーザが最も頻繁に行なうピッチの角度を検出する
ことが第一に重要であり、加えてロールの角度も検出す
れば一層望ましい。こうして頭部のピッチやロールの角
度を検出することで、ユーザが頭部を動かしても、デー
タ処理装置30は常に水平方向を正確に認識することが
でき、その結果、データ処理装置30の制御・駆動部3
2が行う環境認識の精度が高まり、ユーザに一層正確な
環境情報を伝えることができる。
【0021】以下、データ処理装置30が行う距離画像
の生成と、環境認識と、環境通知装置40又は50の駆
動の処理について、より詳細に説明する。
【0022】まず、ステレオカメラ20からの動画像に
基づくステレオ視法による距離画像の生成について説明
する。データ処理装置30の距離画像計算部31は、ス
テレオカメラ20から、その9個のビデオカメラ21が
出力する9本の動画像の最新のフレーム(グレースケー
ルの静止輝度画像)を取り込む。距離画像計算部31
は、3×3マトリックスに並んだビデオカメラ21のう
ちの中央に位置する1個のカメラ(以下、基準カメラと
いう)21からの1枚の輝度画像を基準画像とし、他の
8個のカメラ21からの8枚の輝度画像を参照画像とし
て、8枚の参照画像の各々と基準画像とでペアを作り
(8ペアができる)、各ペアについて、両輝度画像間の
画素毎の視差を所定の方法で求める。
【0023】ここで、視差を求める方法としては、例え
ば特開平11−175725号に開示された方法を用い
ることができる。特開平11−175725号に開示さ
れた方法は、簡単に言えば、次のようなものである。ま
ず、基準画像上で1つ画素を選択し、その選択画素を中
心にした所定サイズ(例えば3×3画素)のウィンドウ
領域を基準画像から取り出す。次に、参照画像上で上記
選択画素から所定の視差分だけずれた位置にある画素
(対応候補点という)を選び、その対応候補点を中心に
した同サイズのウィンドウ領域を参照画像から取り出
す。そして、参照画像から取り出した対応候補点のウィ
ンドウ領域と、基準画像から取り出した選択画素のウィ
ンドウ領域との間で、輝度パターンの類似度(例えば両
ウィンドウ領域内の位置的に対応する画素間の輝度値の
差の二乗加算値の逆数)を計算する。視差を最小値から
最大値まで順次に変えて対応候補点を移動させながら、
個々の対応候補点について、その対応候補点のウィンド
ウ領域と、基準画像からの選択画素のウィンドウ領域と
の間の類似度の計算を繰り返す。その結果から、最も高
い類似度が得られた対応候補点を選び、その対応候補点
に対応する視差を、上記選択画素における視差と決定す
る。このような視差の決定を、基準画像の全ての画素に
ついて行う。基準画像の各画素についての視差から、物
体の各画素に対応する部分と基準カメラとの間の距離が
一対一で決まる。従って、基準画像の全ての画素につい
て視差を計算することで、結果として、基準カメラから
物体までの距離を基準画像の画素毎に表した距離画像が
得られる。
【0024】距離画像計算部31は、8ペアの各々につ
いて上記の方法で距離画像を計算し、それら8枚の距離
画像を統計的手法で統合して(例えば平均を計算し
て)、その結果を最終的な距離画像として出力する。
【0025】次に、データ処理装置30の制御・駆動部
32が行う環境認識について説明する。
【0026】環境認識は、基本的に、例えば特開平10
−143659号に記載された方法を用いて行うことが
できる。この方法は、簡単に言えば、距離画像内の各画
素の2次元座標と距離とから各画素の所定座標系での3
次元座標を計算し、その3次元座標が示す高さを用い
て、地面に相応しい所定の閾値よりも低い高さをもった
(又は、地面に相応しい所定の上閾値と下閾値の間の高
さをもった)画素群を抽出して、これを地面として識別
する。次に、その地面よりも所定値以上高い高さをもっ
た画素群を抽出し、その画素群を相互間の距離が近い画
素同士の集合に分類し、各画素集合を個々の障害物とし
て識別する。
【0027】このような環境認識を行う場合、制御・駆
動部32は、距離画像から各画素の3次元座標を計算す
るに当たり、ステレオカメラ20の指向方向が水平では
ないことを考慮に入れて、距離画像が表すステレオカメ
ラ20の向きを基準とした座標系を、水平方向を基準に
した座標系に変換する処理を行う。この座標変換の処理
について、図2を参照して説明する。
【0028】図2は、ステレオカメラ20の向きと地面
との関係を示す。
【0029】図2において、点線130は水平方向を示
し、一点鎖線120はステレオカメラ20の指向方向を
示し、矢印110はステレオカメラ20の指向方向12
0を中心に上下方向に均等に開いた視野角を示してい
る。なお、図示しないが、ユーザ100を真上から眺め
た場合には、ステレオカメラ20の指向方向120はユ
ーザ100の頭部の真正面前方に向っており、その視野
は指向方向120を中心に図2の視野角110と同様な
角度で左右に開いている。
【0030】歩行の安全性を確認する上でユーザ100
にとり最も重要な情報は、ユーザ100の進行方向にお
ける地面200の形状と、地面200よりある程度低い
高さからユーザ頭部より若干高い高さまでの高さ範囲に
おける穴や物体などの障害物の有無である。そこで、図
2に示すように、ユーザ100が普通の姿勢で前を向い
ている歩いている状態で、ステレオカメラ20の指向方
向120は水平より角度θだけ下方に傾いて設定されて
おり、それにより、ステレオカメラ20の視野角110
内に、ユーザ100の進行方向における、特に、歩行に
重要な足元近くから5メートル又は10メートル程度先
までの距離範囲の、地面200より或る程度低い高さか
らユーザ頭部より若干高い高さまでの高さ範囲が入るよ
うになっている。
【0031】よって、図2に示すように、ユーザ100
が通常に前を向いている状態で、ステレオカメラ20の
指向方向120を基準とした座標系(以下、カメラ座標
系という)X’−Y’−Z’は、水平方向を基準とした
座標系(以下、全体座標系という)X−Y−Zに対し
て、所定の角度θだけ前方下方へ傾いている。距離画像
計算部31がステレオカメラ20からのデータを基に作
成した距離画像のデータは、カメラ座標系X’−Y’−
Z’で表されたものである。制御・駆動部32は、環境
認識を行う際、距離画像から直接的に得られる各画素の
カメラ座標系X’−Y’−Z’での3次元座標値を、上
記角度θを用いて、全体座標系X−Y−Zで表された3
次元座標値に変換する。また、図1に示した角度センサ
60が設けられている場合には、制御・駆動部32は、
この座標変換の際に、上記角度θに加えて、角度センサ
60で検出されたユーザ頭部のピッチ角(X’軸回りの
回転角)やロール角(Y’軸回りの回転角)も考慮に入
れる。こうして、制御・駆動部32は、水平方向を基準
にした全体座標系X−Y−Zで表された各画素の3次元
座標値を計算し、それに基づいて、上述した特開平11
−175725号の環境認識方法で地面200を識別
し、地面200上の障害物を識別する。
【0032】特開平11−175725号の環境認識方
法を行う際、制御・駆動部32は、予め分っているユー
ザ100の身長を利用して、ステレオカメラ20の高さ
よりユーザ身長分だけ低い高さを中心に、それより所定
量だけ高い上側閾値と所定量だけ低い下側閾値を設定
し、この上側閾値と下側閾値の間の高さをもつ画素群を
抽出して、これを地面200として識別することができ
る。通常、地面200は水平であるから、この方法で精
度良く地面200が識別できる。一方、地面200が坂
道や階段になっている場合には、この方法で抽出された
画素は、地面200の全体の中でユーザ100の足元近
くに存在する等高の細長いストライプ形の部分だけを表
す少数の画素となる。その場合、地面200全体は、そ
の抽出されたストライプ形の部分を回転軸にして、水平
な面を若干角度だけ回転させたような傾斜平面に沿った
坂道又は階段になっていると想定される。そこで、その
ような傾斜した地面200を識別するために、そのスト
ライプ状の部分に対して直角に水平に伸びる座標軸を想
定し、その座標軸上の各位置ごとに最も低い高さをもっ
た画素を選び出す。それら選び出した画素が、傾斜した
地面200の候補である。続いて、それら選び出した画
素の中から、上記ストライプ状の部分とほぼ同一の傾斜
平面を形成することができる画素を抽出する。こうして
抽出した画素群によって形成される傾斜平面を、地面2
00として識別することができる。この場合、最終的に
抽出した画素群によって実質連続な傾斜平面が形成され
るならば、その地面200はその傾斜平面に沿った坂道
であると判断できる。一方、最終的に抽出した画素によ
って形成されるものが、実質連続な傾斜平面ではなく、
間隔をおいてほぼ平行に並んだ複数のストライプ状の部
分に分断された傾斜平面である場合には、その地面20
0は階段であると判断できる。さらに、その坂道又は階
段と判断した地面200の遠方に、その坂道又は階段に
接続する水平面が検出されたなら、それも地面200と
して識別できる。このような方法で、地面200を、水
平な地面、登り坂、下り坂、登り階段、下り階段などに
区別して認識することができる。
【0033】こうして地面200を識別した後、制御・
駆動部32は、その地面200よりも所定の高さ(歩行
障害になる可能性のある最低高さであり、例えば5セン
チメートル)以上に高い高さをもつ画素を抽出し、それ
らの画素を距離的に近い画素同士でグループ化すること
で幾つかの画素群に分類し、各画素群をそれぞれプラス
高さの障害物(例えば、壁、柱、人、車両、設置物、看
板、段差の立ち上がりなど)として識別する。さらに、
制御・駆動部32は、地面200よりも所定の深さ(歩
行障害になると判断される可能性のある最低深さであ
り、例えば5センチメートル)以上に深く落ち込んだ高
さをもつ画素を抽出し、それらの画素を距離的に近い画
素同士でグループ化することで幾つかの画素群に分類
し、各画素群をそれぞれマイナス高さの障害物(例え
ば、穴、窪み、溝、段差の落ち込みなど)として識別す
る。
【0034】このようにしてプラス高さ及びマイナス高
さの障害物を識別した後、制御・駆動部32は、さら
に、各障害物のもつ高さ、平面サイズ又は地面との位置
関係などを割りだし、それらに基づいて各障害物を更に
細かく識別することもできる。例えば、高さについて、
最大及び最低の高さをユーザの身長、ユーザの腰、ユー
ザの膝、地面、地面下深さ10cmなどで区切って分類
し、また、平面サイズについては、その最大寸法を1
m、50cmなどで区切って分類し、また、地面との位
置関係については、地面から離れている、地面に接して
いるなどを識別して分類する。それらの分類結果を用い
て、プラス高さ障害物を、例えば、最大高さが身長以上
で平面サイズが1m以上のもの(壁や建物や大型の設置
物など)、最大高さが身長以下で平面サイズが1m以上
のもの(自動車、ガードレールなど)、最大高さが腰以
上で平面サイズが1m以内のもの(人や小型の設置物な
ど)、最大高さが膝以下で平面サイズが1m以上のもの
(階段上り口、段差の立ちあがり、低く大きい設置物な
ど)、最大高さが膝以下で平面サイズが50m以下のも
の(路上の岩石や、小さい物品など)、最低高さが身長
以下で地面から離れているもの(吊り下った障害物、建
物から横に出っ張った障害物など)などの何れに該当す
るかを判断する。また、マイナス高さの障害物を、例え
ば、最低高さが地面下10cmより低く地面に接してい
るもの(階段の下り口、段差の立下り、道路の側溝、駅
のプラットホームの端、地面の深い穴など)、最低高さ
が地面下10cmより高く地面に接しているもの(地面
の浅い穴や窪み、小さい段差など)などの何れに該当す
るかを判断する。
【0035】また、制御・駆動部32は、地面200の
表面に、小さい突起が規則的に並んだストライプ状の領
域を検出し、それを視覚障害者誘導用の点字ストライプ
であると識別することもできる。
【0036】以上のような方法で環境認識を行うこと
で、例えば次のようなものを認識することができる。
【0037】 地面(床面を含む)、テーブル面、そ
れらの面の傾きや凸凹度 階段(登り下り)、壁 プラス高さの障害物(車、人、壁、看板、つまずく
物など)、マイナス高さの障害物(穴、駅プラットホー
ムの端などの段差の落ち込み、側溝など) 路上の点字ストライプ、車道と歩道の分離石 物体(人、物、食器、食べ物) スペース(電車の中、作業場) 次に、上記環境認識の結果を用いて制御・駆動部32が
行う、環境通知装置40又は50を制御及び駆動する処
理について説明する。
【0038】まず、触覚表示装置40を制御及び駆動す
る処理について説明する。触覚表示装置40を制御及び
駆動する方法としては、(1) 環境認識で識別した物体
の位置と高さを触覚表示装置40に表示する方法、(2)
カメラの視野角内の3次元空間に任意の平面を設け、
その平面内での物体の有無を触覚表示装置40に表示す
る方法の2通りがある。
【0039】図3は、上記(1)の識別した物体の位置と
高さを触覚表示装置40に表示する方法の一例を示して
いる。
【0040】図3(A)は、ユーザ100が立っている
場所の平面図であり、ユーザ100は水平な地面200
上に立っており、左斜め前方と右側には壁300、31
0があり、正面の前方に登り階段320がある例を示し
ている。ユーザ頭部のステレオカメラ20の視野角11
0内には、ユーザ100の前方の地面200、壁30
0、310及び登り階段320が入っている。点線40
0で囲んだ領域は、触覚表示装置40に表示されるX−
Y座標領域を示している。
【0041】制御・駆動部32は、環境認識で識別した
物体(地面や障害物)であって表示対象のX−Y座標領
域400内に位置する物体を選び出し、その物体を触覚
表示装置40に表示する。このとき、図3(B)に示す
ように、各物体を表す画素群のX、Y座標(つまり、各
物体の水平位置)を触覚表示装置40の表示面内での各
ピン41の位置に対応させ、各物体を表す画素群がもつ
最大のZ座標(つまり、各物体の最大高さ)を各ピン4
1の突出量(高さ)に対応させる。その際、各画素の
X、Y、Z座標値と触覚表示装置40の各ピン41の各
突出量とを1対1で対応させることができれば、各画素
のX、Y、Z座標値をそのまま用いることができるが、
実際には、触覚表示装置40がもつピン41の配列数及
び制御できる突出量の段階数はそれ程多くはないから、
各画素のX、Y、Z座標値と1対1で対応させることは
できない。そこで、表示対象のX−Y座標領域400を
ピン41の縦横の配列数で区分して各ピン41に対応し
た領域ブロックに分け、各領域ブロック内に位置する各
物体の部分の最大Z座標値を求めて、それを各領域ブロ
ックにおける各物体の最大高さとし、そして、その各ブ
ロックの最大高さをピン41の突出量の段階数で離散化
して、その離散化した最大高さを用いて各ピン41の突
出量を制御する。
【0042】その結果、図3(B)に示すように、触覚
表示装置40の表示面には、真上から表示対象領域40
0を眺めて、その領域400内の各場所の最大高さを各
ピン41の高さで表現した凹凸模様が表示される。図3
(B)の例の場合、各ピン41の高さは3段階に制御で
き、白抜き円で示したピン41は最も低くて地面200
を表しており、ハッチングの円で示したピン41は中間
の高さで上り階段320の前半部分(プラス高さの障害
物の一種)を表しており、黒塗りの円で示したピン41
は最も高くて壁300、310と登り階段320の後半
部分(いずれも、プラス高さの障害物の一種)を表して
いる。なお、×印を付けたピン41は、視野角110の
外側の場所に対応するものであり、これは例えばハッチ
ングのピン41と同様に中程度の高さにするなどして、
視野角110の外側であることの注意をユーザに与える
ようにすることができる。ピン41の高さの段階数がよ
り多くなれば、環境認識の説明で述べたような様々な種
類の障害物をピンの高さで区別して表現できるし、ま
た、地面が階段や坂である場合にはその高さの変化もピ
ンの高さを違えて表現することができる。
【0043】この表示方法によれば、ユーザは、触覚表
示装置40の表示面に触れて各場所の高さを感じ取るこ
とで、何処が地面であり、何処に障害物が存在し、その
障害物のサイズや高さや平面形状がどのようであるかを
推測することができ、進行方向の環境の様子を把握する
ことができる。
【0044】また、前述したように、ステレオカメラ2
0の撮影結果から得られる距離画像は、実時間で変化し
ていく動画像であるから、それを表現した触覚表示装置
40の表示面にも、実時間で対象物の動きが現われる。
例えば、ユーザの歩行に伴ってユーザに対する壁や階段
などの位置が変化したり、人や自動車などの物体が自ら
移動した場合、触覚表示装置40では、それらの物体に
対応する突出したピン41が別のピン41に移っていく
ので、ユーザはそれらの物体の移動を実時間で認識する
ことができる。
【0045】図4〜図7は、環境認識で識別した障害物
を触覚表示装置40に表示する方法の幾つかの別の例を
示している。
【0046】図4の例では、図4(A)に示すように、
表示対象の領域内に両側を壁330、340で囲まれた
地面(道路)200があり、この地面200内に穴(マ
イナス高さの障害物)350があったとする。この場
合、図4(B)に示すように、触覚表示装置40では、
壁330、340と地面(道路)200については、図
3の例と同様にその最大高さをピン41の高さで表現す
る(白抜きと黒塗りの円で図示するピン)と共に、穴
(マイナス高さの障害物)350については、ユーザに
特に注意を促すために、ピン41の高さを地面より高く
したりピン41を振動させたりする(ハッチングの円で
図示するピン)。
【0047】図5の例では、図5(A)に示すように、
表示対象の領域内に両側を壁330、340で囲まれた
地面(道路)200があり、この地面200内に躓き原
因となり得る所定範囲の高さとサイズをもった障害物
(プラス高さの障害物)360があったとする。この場
合、図5(B)に示すように、触覚表示装置40では、
壁330、340と地面(道路)200については、図
3の例と同様にその最大高さをピン41の高さで表現す
る(白抜きと黒塗りの円で図示するピン)と共に、躓き
の原因となり得る障害物360については、ユーザに特
に注意を促すために、ピン41の高さを地面より高くし
たりピン41を振動させたりする(ハッチングの円で図
示するピン)。
【0048】図6の例では、図6(A)に示すように、
表示対象の領域内に両側を壁330、340で囲まれた
地面(道路)200があり、この地面200内に視覚障
害者誘導用の点字ストライプ370があったとする。こ
の場合、図6(B)に示すように、触覚表示装置40で
は、壁330、340と地面(道路)200について
は、図3の例と同様にその最大高さをピン41の高さで
表現する(白抜きと黒塗りの円で図示するピン)と共
に、点字ストライプ370については、ユーザに特に気
付かせる促すために、ピン41の高さを地面より高くし
たりピン41を振動させたりする(ハッチングの円で図
示するピン)。
【0049】図4〜図6に示した表示方法によれば、歩
行の際にユーザが特に認識すべき対象物の位置を効果的
にユーザに知らせることができる。
【0050】図7の例では、図7(A)の平面図に示す
ように、ユーザ100が既に通過してきた領域に点字ス
トライプ380などの環境認識で識別された物体があ
る。制御・駆動部32は、既に通過してきた領域におけ
る点字ストライプ380などの物体の位置と共に、ユー
ザ100が歩いてきた軌跡390も記憶しておく。そし
て、ユーザ100が特別の表示モードを選ぶと、図7
(B)に示すように、触覚表示装置40に、その記憶し
ておいた通過領域における点字ストライプ380などの
物体(ハッチングの円で示すピン)とユーザ100の軌
跡390(黒塗りの円で示すピン)とを表示する。この
表示モードを利用すると、ユーザは、ちょうど後ろを振
り返って自分の今歩いてきた軌跡を確認するのと同様な
ことができ、正しい経路を歩いているか否かを判断する
のに役立つ。
【0051】図8と図9は、上述した(2)の表示方法、
つまり、表示対象の空間内に任意の平面を設け、その平
面内での物体の有無を触覚表示装置40に表示する方法
の一例を示している。
【0052】図8は、この方法を行うときの空間内での
平面の設定の仕方の様々な例を示している。
【0053】図8(A)は、ステレオカメラの視野角内
の3次元空間内に、全体座標系のZ軸に沿った任意の位
置で水平面600A〜600Hを設定する例と、全体座
標系のY軸に沿った任意の位置でX軸に平行な鉛直面6
01A〜601Jを設定する例とを示している。また、
図8(B)は、同じ3次元空間内に、全体座標系のX軸
に沿った任意の位置においてY軸に平行な鉛直面602
A〜602Iを設定する例を示している。
【0054】制御・駆動部32は、図8に示したような
平面の一つを空間内に設定すると、環境認識で識別した
物体の中から、その設定した平面と交差する物体を選
び、その選んだ物体の設定平面内での位置を、触覚表示
装置40に表示する。この場合、触覚表示装置40の表
示面をその設定平面とみなして、物体の存在する位置の
ピン41だけを突出させ、物体の存在しない位置のピン
41は突出させないというような方法で物体を表示す
る。この表示方法で使用する触覚表示装置40において
は、ピン41の突出量の段階数は突出するかしないかの
2段階で十分である。
【0055】望ましくは、制御・駆動部32は、設定平
面の位置を自動的に移動させる。例えば、水平面を設定
する場合、その水平面の高さ位置を図8(A)に示した
最も低い位置600Hから最も高い位置600Aへ向っ
て段階的に上昇させていき、最も高い位置600Aに達
すると再び最も低い位置600Hに戻って同様の動作を
繰り返すというように、表示対象空間の全範囲を設定平
面でスイ−プすることを、例えば数秒程度の周期で繰り
返す。そして、このスイ−ピングにおける設定平面の各
位置で、上記のようにその設定平面内に存在する物体を
触覚表示装置40に表示する。
【0056】図9は、この設定平面のスイーピングの方
法を用いて、図3(A)に例示した表示対象領域400
の様子を触覚表示装置40に表示した結果を示してい
る。図9(A)は、地面200すれすれの最も低い位置
に水平面を設定したときの表示例であり、壁300、3
10や登り階段320などのプラス高さの障害物が存在
する全領域のピン41(黒塗り円で示したピン)が突出
しており、障害物の存在しない地面200の領域のピン
41(白抜き円で示したピン)だけが下がっている。図
9(B)は、その水平面を中程度の高さ(例えば地上1
m)まで上昇させたときの表示例であり、壁300、3
10と上り階段320の奥の高い部分が存在する領域の
ピン41(黒塗り円で示したピン)だけは依然として突
出しているが、上り階段320のうち上り口付近の低い
部分の領域700のピンは下がっている。図9(C)
は、その水平面を最も高い位置(例えば地上2m)まで
上昇させたときの表示例であり、壁300、310が存
在する領域のピン41(黒塗り円で示したピン)のみが
突出しているだけで、それ以外の領域のピンは全て下が
っている。
【0057】図9(A)、(B)、(C)の順で触覚表
示装置40の表示が変遷し、それが例えば数秒周期で繰
り返される。ユーザは、この表示の変遷を手などで触っ
て感じ取ることにより、地面すれすれの低い位置から自
分の身長より若干高い位置までの空間にどのような高さ
の物体が何処に存在しているかを把握することができ
る。
【0058】なお、このように設定平面をスイープさせ
る方法は、水平面だけでなく、例えば図8(A)に例示
したX軸に平行な鉛直面601A〜601Jについて
も、図8(B)に例示したY軸に平行な鉛直面602A
〜602Iについても同様に行うことができる。また、
平面の設定の仕方としては、図8に示したような全体座
標系の座標軸に沿って設定する方法だけでなく、ユーザ
の所望する任意の方向に設定する方法も可能である。
【0059】次に、環境認識の結果を用いてステレオヘ
ッドホン50を制御及び駆動する処理について説明す
る。
【0060】図10は、ステレオヘッドホン50の制御
及び駆動方法の一例を示している。
【0061】図10に示すように、表示対象の空間内
に、例えば地面(道路)200があり、その両側には壁
330、340があり、その地面200内に穴350や
岩360などがあったとする。制御・駆動部32は、ユ
ーザ100の歩行の障害となる障害物、つまり壁33
0、340や穴350や岩36をそれぞれ独立した音源
であるとみなす。このとき、壁330、340や穴35
0や岩360などの各障害物は、環境認識で分類した各
障害物の種類に固有の音色や発音周期をもった音響を発
する音源であるとみなし、ユーザがその固有の音響から
各障害物の種類が識別できるようにする。また、壁33
0、340のようにサイズの大きい障害物については、
それをユーザからの距離に応じて複数の部分(例えば、
ユーザに近い部分、やや遠い部分、遠い部分など)に区
分して、その各部分が独立した音源であるとみなしても
よい。そして、制御・駆動部32は、各音源がそれぞれ
の固有の音響を発したとみなして、その音響がユーザ1
00の左右の耳101、102に受信されたときの波
形、強度、時刻などを計算して、その左右の耳に受信さ
れる音響信号を生成し、これをステレオヘッドホン50
の左右のイヤホン50L、50Rに出力する。ユーザ
は、左右の耳101、102に聞こえるステレオ音響効
果により、どのような種類の障害物がどの方向にどの程
度の距離の位置に存在するかを感じ取ることができる。
すなわち、ステレオ音響効果を利用して、表示対象空間
の音響的3次元画像をユーザに提供するのである。
【0062】また、別の方法として、ステレオ音響効果
に加えて、イルカやコウモリが超音波で周囲の環境を認
識する原理を利用することもできる。すなわち、各障害
物330、340、350、360を音源とみなすので
はなく、ユーザ100を或る音響を或る周期(例えば2
〜3秒間隔)で発する音源とみなし、そのユーザ100
が発した音響が各障害物330、340、350、36
0で反射してユーザ100の左右の耳101、102に
受信されたときにどのように聞こえるかをシミュレート
する。図11は、この方法を行うときの制御・駆動部3
2の処理の流れを示している。
【0063】図11に示すように、対象空間の距離画像
に基づいて環境認識を行って各障害物を識別した(ステ
ップS1)後、ユーザから仮想的な音波を対象空間に発
射したと仮定して(S2)、その音波が各障害物に当た
って反射してきてユーザの左右の耳に受信されたときの
左右の耳における受音響の強度や音波発射から受音まで
の遅れ時間等を計算する(S3)。このとき、各障害物
の種類毎に、反射音響の周波数や音色を異ならせれば、
ユーザはその反射音響から各障害物の種類が識別するこ
とができる。また、音波発射から受音までの遅れ時間の
計算では、音速を真の音速よりも遅く設定して計算する
ことで、小さな距離の違いであってもユーザの耳には明
確な受音時刻の違いとして感じ取れるようにする。こう
して、左右の耳の受音響を計算したならば、その音響を
左右の耳のイヤホンに出力する(S4)。
【0064】この方法により、障害物の距離が、聞こえ
る音の強度だけでなく、聞こえる時刻の違いとしても現
われるので、ユーザはより一層明確に障害物の距離を把
握することができる。
【0065】図12は、触覚表示装置40の表示面の形
状の変形例を示している。
【0066】触覚表示装置40の表示面は、単純な四角
形でもよいが、図12に示すように、手800の形に応
じた扇型に近い形状でも良い。また、このような扇型に
近い形状は、ステレオカメラの視野の平面形状にも近い
ので、視野内の空間の様子を無駄なく表現することがで
きる。
【0067】図13は、ステレオカメラの変形例を示し
ている。
【0068】図13(A)のステレオカメラでは、ヘア
バンド900の額に当たる前部に複数個のビデオカメラ
910が取りつけられている。図13(B)のステレオ
カメラでは、眼鏡920の前部フレームに複数個のビデ
オカメラ910が取りつけられている。図13(C)の
ステレオカメラでは、手で持つ懐中電灯型のスティック
930の先端部に複数個のビデオカメラ910が取りつ
けられている。このように、ステレオカメラの構成とし
ては様々なものが採用できる。
【0069】以上、本発明の代表的な一実施形態を説明
したが、上記の実施形態はあくまで本発明の説明のため
の例示であり、本発明を上記実施形態にのみ限定する趣
旨ではない。従って、本発明は、上記実施形態以外の様
々な形態でも実施することができる。
【0070】例えば、各ピンが出ているか否かの2値し
か表現できない触覚制御装置を用いて、制御・駆動部で
は地面か障害物かだけを識別する最も簡単な環境認識を
行い、そして、障害物の存在する箇所だけ触覚制御装置
のピンを出すことで、単純に障害物だけをユーザに通知
するようにしてもよい。
【0071】また、GPSなどのユーザの位置を割り出
すシステムと、建物の内部や地上の地形を極めて詳細且
つ正確に示した地図システムとを追加して、ユーザが地
図上の何処をどの方向に歩いているかを高精度に検出
し、この検出結果と、上述の実施形態で行っている距離
画像に基づく環境認識の結果とを組み合わせて、より詳
細且つ高精度な環境情報提供をユーザに行うようにして
もよい。
【0072】また、空間の3次元計測の方法として、上
述した実施形態ではステレオカメラで撮影した画像から
ステレオ視法で距離画像を得る方法(一般に「パッシブ
ステレオ法」と呼ばれる)を採用したが、それだけでな
く例えば次のような様々な方法を用いることもできる。
【0073】(1) 能動型(パターン投光を必要とする
方法) アクティブステレオ法 光切断法、ランダムドット投影法、空間コード化法など 照度差ステレオ法 モアレ法 (2) 受動型(通常照明下で行うことができ、投光を必
要としない方法) パッシブステレオ法 2眼ステレオ法、3眼ステレオ法、多眼ステレオ法(上
記実施形態の方法) レンズ焦点法 単眼視法(テクチャや影などを利用する) 環境通知装置としては、上述した触覚表示装置及びステ
レオヘッドホンの他にも、様々な感覚刺激を発生する装
置を採用することができる。例えば、機械的振動を発す
るバイブレータや、警告音を発するスピーカ又はイヤホ
ンなども利用できる。特に、バイブレータは、視覚障害
だけでなく聴覚障害も持つユーザにとって便利である。
バイブレータの利用形態としては、例えば、腕輪形のバ
イブレータを片腕又は望ましくは両腕に装着し、更に望
ましくは腕以外の身体箇所にも各箇所に適した形態のバ
イブレータを装着し、そして、それらのバイブレ−タの
振動の強度や、振動波形や、振動間隔や、振動させるバ
イブレータの位置選択や、複数箇所のバイブレータの振
動の組み合わせなどを制御することで、どの方向のどの
距離にどのような障害物があるかをユーザに知らせる方
法などがある。
【図面の簡単な説明】
【図1】本発明に従う視覚障害者環境認識支援装置の一
実施形態の全体構成を示す斜視図。
【図2】ステレオカメラ20の向きと地面との関係を示
す説明図。
【図3】環境認識で識別した物体の位置と高さを触覚表
示装置40に表示する方法の一例を示した図。
【図4】環境認識で識別した物体を触覚表示装置40に
表示する方法の別の例を示した図。
【図5】環境認識で識別した物体を触覚表示装置40に
表示する方法の更に別の例を示した図。
【図6】環境認識で識別した物体を触覚表示装置40に
表示する方法の更にまた別の例を示した図。
【図7】環境認識で識別した物体を触覚表示装置40に
表示する方法のまた別の例を示した図。
【図8】表示対象空間内に任意の平面を設け、その平面
内での物体の有無を触覚表示装置40に表示する方法を
行うときの、平面の設定の仕方の様々な例を示した図。
【図9】表示対象空間内に任意の平面を設け、その平面
内での物体の有無を触覚表示装置40に表示する方法を
行うときの、触覚表示装置40の表示例を示した図。
【図10】ステレオヘッドホン50の制御及び駆動方法
の一例を示した図。
【図11】ステレオ音響効果に加えて、イルカやコウモ
リが超音波で周囲の環境を認識する原理を利用して音響
3次元画像をユーザに提供するときの、制御・駆動部3
2の処理の流れを示すフローチャート。
【図12】触覚表示装置40の表示面の形状の変形例を
示した平面図。
【図13】ステレオカメラの変形例を示してた斜視図。
【符号の説明】
20 ステレオカメラ 21ビデオカメラ(例えばCCDカメラ) 30 データ処理装置 31 距離画像計算部 32 制御・駆動部 40 触覚表示装置 41 ピン 50 ステレオヘッドホン 100 ユーザ 110 ステレオカメラの視野角 200 地面
───────────────────────────────────────────────────── フロントページの続き (72)発明者 若井 秀之 神奈川県平塚市万田1200 株式会社小松製 作所研究所内 Fターム(参考) 5B057 AA19 BA02 CA13 CA16 DA06 DA15 DB03 DC01

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 ユーザの前方に広がる3次元空間を監視
    する空間監視手段と、 前記空間監視手段の出力信号を用いて、前記3次元空間
    内で物体が占めている物体領域の3次元座標を計算する
    計算手段と、 前記計算手段によって計算された前記物体領域の3次元
    座標に応じた触覚刺激又は音響を発生するための駆動信
    号を出力する駆動手段と、 前記駆動手段から前記駆動信号を受けて前記触覚刺激又
    は音響を発生する通知手段とを備えた視覚障害者用環境
    認識支援装置。
  2. 【請求項2】 前記通知手段が、ユーザが触れて感知で
    きる凹凸画像を生成する触覚表示装置を有し、 前記駆動手段が、前記物体領域の3次元位置を凹凸画像
    で表現するように前記触覚表示装置を駆動する請求項1
    記載の視覚障害者用環境認識支援装置。
  3. 【請求項3】 前記通知手段が、ユーザが左右の耳で音
    源の距離と方向を感知できるステレオ音響を生成するス
    テレオ音響発生装置を有し、 前記駆動手段が、前記物体領域のユーザからの距離と方
    向を前記ステレオ音響で表現するように前記ステレオ音
    響発生装置を駆動する請求項1記載の視覚障害者用環境
    認識支援装置。
  4. 【請求項4】 空間監視手段が、複数の異なる位置から
    前記3次元空間を撮影する複数眼のカメラを有し、 前記計算手段が、前記複数眼のカメラで撮影された複数
    枚の画像を用いて、ステレオ視法により前記物体領域の
    3次元座標を計算する請求項1記載の視覚障害者用環境
    認識支援装置。
  5. 【請求項5】 前記計算手段によって計算された前記物
    体領域の3次元座標に基づいて、前記3次元空間に存在
    する個々の物体の種類と3次元座標を識別する環境認識
    手段を更に備え、 前記駆動手段は、前記環境認識手段によって識別された
    物体の種類と3次元座標に応じて前記触覚刺激又は音響
    を制御する請求項1記載の視覚障害者用環境認識支援装
    置。
  6. 【請求項6】 環境認識手段は、前記3次元空間に存在
    する個々の物体を障害物か否か識別し、 前記駆動手段は、前記環境認識手段によって識別された
    障害物の3次元座標に応じて前記触覚刺激又は音響を制
    御する請求項5記載の視覚障害者用環境認識支援装置。
  7. 【請求項7】 ユーザの前方に広がる3次元空間を監視
    するステップと、 前記空間監視の結果に基づいて、前記3次元空間内で物
    体が占めている物体領域の3次元座標を計算するステッ
    プと、 前記計算手段によって計算された前記物体領域の3次元
    座標に応じた触覚刺激又は音響を前記ユーザに与えるス
    テップとを備えた視覚障害者用環境認識支援方法。
JP2000259795A 2000-08-29 2000-08-29 視覚障害者用環境認識支援装置及びその方法 Pending JP2002065721A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000259795A JP2002065721A (ja) 2000-08-29 2000-08-29 視覚障害者用環境認識支援装置及びその方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000259795A JP2002065721A (ja) 2000-08-29 2000-08-29 視覚障害者用環境認識支援装置及びその方法

Publications (1)

Publication Number Publication Date
JP2002065721A true JP2002065721A (ja) 2002-03-05

Family

ID=18747917

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000259795A Pending JP2002065721A (ja) 2000-08-29 2000-08-29 視覚障害者用環境認識支援装置及びその方法

Country Status (1)

Country Link
JP (1) JP2002065721A (ja)

Cited By (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003023699A (ja) * 2001-07-05 2003-01-24 Saibuaasu:Kk 空間情報聴覚化装置および空間情報聴覚化方法
WO2005046542A1 (ja) * 2003-11-17 2005-05-26 Satoru Kaneko 超音波視覚補助装置
JP2005266014A (ja) * 2004-03-16 2005-09-29 Tokyo Institute Of Technology 視覚障害者用画像認識装置、その方法及びプログラム
JP2006208193A (ja) * 2005-01-28 2006-08-10 Yoshiji Mogi 障害物位置検知システム
WO2006098134A1 (ja) * 2005-03-17 2006-09-21 The University Of Tokushima 赤外線案内システムおよび利用者案内端末装置
KR100690562B1 (ko) 2005-06-20 2007-03-09 경북대학교 산학협력단 청각을 이용한 시각 재현 장치 및 제어방법
WO2007066717A1 (ja) * 2005-12-08 2007-06-14 The University Of Tokyo 電気触覚ディスプレイ
GB2441434A (en) * 2006-08-29 2008-03-05 David Charles Dewhurst AUDIOTACTILE VISION SUBSTITUTION SYSTEM e.g. FOR THE BLIND
US7386163B2 (en) 2002-03-15 2008-06-10 Sony Corporation Obstacle recognition apparatus and method, obstacle recognition program, and mobile robot apparatus
WO2010011045A2 (ko) * 2008-07-24 2010-01-28 Park Sun Ho 영상정보의 촉각감지 가능한 신호 변환 장치 및 방법
WO2010145013A1 (en) * 2009-06-19 2010-12-23 Andrew Mahoney System and method for alerting visually impaired users of nearby objects
JP2011030584A (ja) * 2009-07-29 2011-02-17 Hitachi Kokusai Electric Inc 歩行補助装置
DE102009059820A1 (de) * 2009-12-21 2011-06-22 Dietrich, Karl Werner, Dr., 51519 Orientierungshilfe für Blinde durch den Tastsinn
JP2011521511A (ja) * 2008-04-18 2011-07-21 ソニー エリクソン モバイル コミュニケーションズ, エービー 拡張現実を強化した音声
JP2012133678A (ja) * 2010-12-22 2012-07-12 Kyocera Corp 触感呈示装置
CN102688120A (zh) * 2012-06-08 2012-09-26 綦峰 彩色声像导盲方法及彩色声像导盲仪
KR101230341B1 (ko) * 2010-11-30 2013-02-06 전자부품연구원 시각 지원 보조 시스템 및 방법
JP2013034490A (ja) * 2011-08-03 2013-02-21 Alpha Media:Kk 視覚障害者歩行支援装置
JP2013226345A (ja) * 2012-04-27 2013-11-07 Nidek Co Ltd 空間認識装置
JP2013254474A (ja) * 2012-02-10 2013-12-19 Konan Gakuen 障害物検出装置
JP2014062795A (ja) * 2012-09-20 2014-04-10 Sumitomo (Shi) Construction Machinery Co Ltd 作業機械用周辺監視装置
JP2014062794A (ja) * 2012-09-20 2014-04-10 Sumitomo (Shi) Construction Machinery Co Ltd 作業機械用周辺監視装置
KR101428401B1 (ko) * 2013-07-12 2014-08-14 한양대학교 산학협력단 영상 정보를 촉각 신호로 변환하여 제공하는 장치 및 방법
WO2016036160A1 (ko) * 2014-09-05 2016-03-10 주식회사 디자인아이피 시각 장애인을 위한 정보 제공 장치
JP2016059808A (ja) * 2014-09-12 2016-04-25 トヨタ自動車株式会社 ロボットによるユーザアシスタンス
US9370459B2 (en) 2009-06-19 2016-06-21 Andrew Mahoney System and method for alerting visually impaired users of nearby objects
CN106074095A (zh) * 2016-05-26 2016-11-09 英华达(上海)科技有限公司 一种低视力者辅助设备及方法
KR101794493B1 (ko) * 2010-07-09 2017-11-07 디지맥 코포레이션 햅틱 기술을 채용한 이동 디바이스들 및 방법들
GB2554113A (en) * 2016-06-19 2018-03-28 Charles Dewhurst David System for presenting items
CN108042323A (zh) * 2017-12-10 2018-05-18 吴得佑 具备障碍物探测与智能导航的手杖及其应用方法
JP2019053367A (ja) * 2017-09-13 2019-04-04 株式会社アルファメディア 画像処理装置および移動支援装置
KR20190135233A (ko) * 2018-05-28 2019-12-06 사회복지법인 삼성생명공익재단 시각 보조 장치 및 시각 보조 장치를 이용한 사용자의 시각 보조 방법
CN110559127A (zh) * 2019-08-27 2019-12-13 上海交通大学 基于听觉与触觉引导的智能助盲***及方法
CN110613550A (zh) * 2018-07-06 2019-12-27 北京大学 一种将视觉信息转化成触觉图形时域编码的头盔装置及方法
CN112130555A (zh) * 2020-06-09 2020-12-25 广东科学技术职业学院 基于激光导航雷达及计算机视觉感知融合的自行走机器人及***
CN113407743A (zh) * 2016-04-08 2021-09-17 北京三星通信技术研究有限公司 物体信息翻译、以及衍生信息获取方法和装置
EP3964865A1 (en) * 2020-09-04 2022-03-09 Università di Pisa A system for assisting a blind or low-vision subject displacements
CN115470420A (zh) * 2022-10-31 2022-12-13 北京智源人工智能研究院 基于知识图谱健康安全提示方法、电子设备及存储介质

Cited By (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003023699A (ja) * 2001-07-05 2003-01-24 Saibuaasu:Kk 空間情報聴覚化装置および空間情報聴覚化方法
US7386163B2 (en) 2002-03-15 2008-06-10 Sony Corporation Obstacle recognition apparatus and method, obstacle recognition program, and mobile robot apparatus
WO2005046542A1 (ja) * 2003-11-17 2005-05-26 Satoru Kaneko 超音波視覚補助装置
JP2005266014A (ja) * 2004-03-16 2005-09-29 Tokyo Institute Of Technology 視覚障害者用画像認識装置、その方法及びプログラム
JP2006208193A (ja) * 2005-01-28 2006-08-10 Yoshiji Mogi 障害物位置検知システム
WO2006098134A1 (ja) * 2005-03-17 2006-09-21 The University Of Tokushima 赤外線案内システムおよび利用者案内端末装置
JP2006258591A (ja) * 2005-03-17 2006-09-28 Univ Of Tokushima 赤外線案内システムおよび利用者案内端末装置
KR100690562B1 (ko) 2005-06-20 2007-03-09 경북대학교 산학협력단 청각을 이용한 시각 재현 장치 및 제어방법
US8920174B2 (en) 2005-12-08 2014-12-30 The University Of Tokyo Electric tactile display
WO2007066717A1 (ja) * 2005-12-08 2007-06-14 The University Of Tokyo 電気触覚ディスプレイ
EP1970877A1 (en) * 2005-12-08 2008-09-17 The University of Tokyo Electric tactile display
EP1970877A4 (en) * 2005-12-08 2014-05-21 Univ Tokyo ELECTRIC TOUCH DISPLAY
GB2441434A (en) * 2006-08-29 2008-03-05 David Charles Dewhurst AUDIOTACTILE VISION SUBSTITUTION SYSTEM e.g. FOR THE BLIND
GB2441434B (en) * 2006-08-29 2010-06-23 David Charles Dewhurst Audiotactile vision substitution system
JP2011521511A (ja) * 2008-04-18 2011-07-21 ソニー エリクソン モバイル コミュニケーションズ, エービー 拡張現実を強化した音声
WO2010011045A3 (ko) * 2008-07-24 2010-05-06 Park Sun Ho 영상정보의 촉각감지 가능한 신호 변환 장치 및 방법
WO2010011045A2 (ko) * 2008-07-24 2010-01-28 Park Sun Ho 영상정보의 촉각감지 가능한 신호 변환 장치 및 방법
WO2010145013A1 (en) * 2009-06-19 2010-12-23 Andrew Mahoney System and method for alerting visually impaired users of nearby objects
US9370459B2 (en) 2009-06-19 2016-06-21 Andrew Mahoney System and method for alerting visually impaired users of nearby objects
US9801778B2 (en) 2009-06-19 2017-10-31 Andrew Mahoney System and method for alerting visually impaired users of nearby objects
JP2011030584A (ja) * 2009-07-29 2011-02-17 Hitachi Kokusai Electric Inc 歩行補助装置
DE102009059820A1 (de) * 2009-12-21 2011-06-22 Dietrich, Karl Werner, Dr., 51519 Orientierungshilfe für Blinde durch den Tastsinn
US9836929B2 (en) 2010-07-09 2017-12-05 Digimarc Corporation Mobile devices and methods employing haptics
KR101794493B1 (ko) * 2010-07-09 2017-11-07 디지맥 코포레이션 햅틱 기술을 채용한 이동 디바이스들 및 방법들
KR101230341B1 (ko) * 2010-11-30 2013-02-06 전자부품연구원 시각 지원 보조 시스템 및 방법
JP2012133678A (ja) * 2010-12-22 2012-07-12 Kyocera Corp 触感呈示装置
JP2013034490A (ja) * 2011-08-03 2013-02-21 Alpha Media:Kk 視覚障害者歩行支援装置
JP2013254474A (ja) * 2012-02-10 2013-12-19 Konan Gakuen 障害物検出装置
JP2013226345A (ja) * 2012-04-27 2013-11-07 Nidek Co Ltd 空間認識装置
CN102688120A (zh) * 2012-06-08 2012-09-26 綦峰 彩色声像导盲方法及彩色声像导盲仪
JP2014062795A (ja) * 2012-09-20 2014-04-10 Sumitomo (Shi) Construction Machinery Co Ltd 作業機械用周辺監視装置
JP2014062794A (ja) * 2012-09-20 2014-04-10 Sumitomo (Shi) Construction Machinery Co Ltd 作業機械用周辺監視装置
KR101428401B1 (ko) * 2013-07-12 2014-08-14 한양대학교 산학협력단 영상 정보를 촉각 신호로 변환하여 제공하는 장치 및 방법
WO2016036160A1 (ko) * 2014-09-05 2016-03-10 주식회사 디자인아이피 시각 장애인을 위한 정보 제공 장치
JP2016059808A (ja) * 2014-09-12 2016-04-25 トヨタ自動車株式会社 ロボットによるユーザアシスタンス
CN113407743A (zh) * 2016-04-08 2021-09-17 北京三星通信技术研究有限公司 物体信息翻译、以及衍生信息获取方法和装置
CN106074095A (zh) * 2016-05-26 2016-11-09 英华达(上海)科技有限公司 一种低视力者辅助设备及方法
GB2554113A (en) * 2016-06-19 2018-03-28 Charles Dewhurst David System for presenting items
JP7101350B2 (ja) 2017-09-13 2022-07-15 株式会社アルファメディア 画像処理装置および移動支援装置
JP2019053367A (ja) * 2017-09-13 2019-04-04 株式会社アルファメディア 画像処理装置および移動支援装置
CN108042323A (zh) * 2017-12-10 2018-05-18 吴得佑 具备障碍物探测与智能导航的手杖及其应用方法
CN108042323B (zh) * 2017-12-10 2024-01-09 吴得佑 具备障碍物探测与智能导航的手杖及其应用方法
KR20190135233A (ko) * 2018-05-28 2019-12-06 사회복지법인 삼성생명공익재단 시각 보조 장치 및 시각 보조 장치를 이용한 사용자의 시각 보조 방법
KR102291179B1 (ko) 2018-05-28 2021-08-19 사회복지법인 삼성생명공익재단 시각 보조 장치 및 시각 보조 장치를 이용한 사용자의 시각 보조 방법
US11475663B2 (en) 2018-05-28 2022-10-18 Samsung Life Public Welfare Foundation Visual aid device and visual aid method by which user uses visual aid device
CN110613550A (zh) * 2018-07-06 2019-12-27 北京大学 一种将视觉信息转化成触觉图形时域编码的头盔装置及方法
CN110559127A (zh) * 2019-08-27 2019-12-13 上海交通大学 基于听觉与触觉引导的智能助盲***及方法
CN112130555A (zh) * 2020-06-09 2020-12-25 广东科学技术职业学院 基于激光导航雷达及计算机视觉感知融合的自行走机器人及***
CN112130555B (zh) * 2020-06-09 2023-09-15 广东科学技术职业学院 基于激光导航雷达及计算机视觉感知融合的自行走机器人及***
EP3964865A1 (en) * 2020-09-04 2022-03-09 Università di Pisa A system for assisting a blind or low-vision subject displacements
CN115470420A (zh) * 2022-10-31 2022-12-13 北京智源人工智能研究院 基于知识图谱健康安全提示方法、电子设备及存储介质

Similar Documents

Publication Publication Date Title
JP2002065721A (ja) 視覚障害者用環境認識支援装置及びその方法
Jafri et al. Visual and infrared sensor data-based obstacle detection for the visually impaired using the Google project tango tablet development kit and the unity engine
US9370459B2 (en) System and method for alerting visually impaired users of nearby objects
Hoang et al. Obstacle detection and warning system for visually impaired people based on electrode matrix and mobile Kinect
US9801778B2 (en) System and method for alerting visually impaired users of nearby objects
Dunai et al. Real-time assistance prototype—A new navigation aid for blind people
US11750789B2 (en) Image display system
US10782780B2 (en) Remote perception of depth and shape of objects and surfaces
Skulimowski et al. Interactive sonification of U-depth images in a navigation aid for the visually impaired
WO2003107039A2 (en) Method and apparatus for a multisensor imaging and scene interpretation system to aid the visually impaired
CN107341789B (zh) 一种基于rgb-d相机和立体声的视障人士通路预知***和方法
Dunai et al. Sensory navigation device for blind people
JP2006011880A (ja) 環境地図作成方法、環境地図作成装置、及び移動型ロボット装置
WO2005087452A9 (ja) ロボット装置、及びその動作制御方法、並びに移動装置
CN104036488A (zh) 一种基于双目视觉的人体姿态动作研究方法
KR101744282B1 (ko) 보행 안전용 사각지대 투영 안내시스템
Rao et al. A vision-based system to detect potholes and uneven surfaces for assisting blind people
JP2006251596A (ja) 視覚障害者支援装置
US20230296405A1 (en) Method and system of detecting obstacle elements with a visual aid device
JP5002068B1 (ja) 環境情報伝達装置
Hoang et al. Obstacle detection and warning for visually impaired people based on electrode matrix and mobile Kinect
KR101821592B1 (ko) 가상 현실을 이용한 보행 시뮬레이터 시스템 및 그 보행자 위치 산출 방법
JP7422361B2 (ja) 追跡装置、及び追跡プログラム
US20190230460A1 (en) Method and apparatus for creating a three-dimensional scenario
Trivedi et al. A wearable device for assisting persons with vision impairment