JPS59184973A - ロボツトの環境理解システム - Google Patents

ロボツトの環境理解システム

Info

Publication number
JPS59184973A
JPS59184973A JP58059119A JP5911983A JPS59184973A JP S59184973 A JPS59184973 A JP S59184973A JP 58059119 A JP58059119 A JP 58059119A JP 5911983 A JP5911983 A JP 5911983A JP S59184973 A JPS59184973 A JP S59184973A
Authority
JP
Japan
Prior art keywords
point
spherical
mapping
parallel
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP58059119A
Other languages
English (en)
Other versions
JPH0352106B2 (ja
Inventor
Susumu Kawakami
進 川上
Takashi Uchiyama
隆 内山
Yasushi Inamoto
稲本 康
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP58059119A priority Critical patent/JPS59184973A/ja
Publication of JPS59184973A publication Critical patent/JPS59184973A/ja
Publication of JPH0352106B2 publication Critical patent/JPH0352106B2/ja
Granted legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Control Of Position Or Direction (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】
(A)  発明の技術分野 本発明はロボットの環境理解システム、特に例えば人間
が遠隔操縦するような悪環境作業用ロボット等において
、センサアームに搭載された単眼カメラ等により、ロボ
ットの周囲に存在する物体などの環境を該ロボット自身
が認識し理解できるようにしたロボットの環境理解シ゛
ステムに四するものである。 (B)  技術の背景と問題点 ロボットは、現在予め指定されたような手順で動作し、
物を製造するというような用途で、多く実用化されてい
る。例えば、宇宙作業、海底作eJ1火災現場に卦ける
作業等の悪環境作業用ロボット等を考えた場合、ロボッ
ト自身がある程度環tj1 %−3]j解し、行動を決
定できるような知能を有することが要請される。それに
は、まずロボットの周囲にある立体、移動物体等を正し
く認識し、把握できるようにしなければならない。 1疋来、物体の認識方式として、例えば3角測景の応用
によるものや、いわゆるハフ(Hosgh )変i功に
よるものが知られている。3角測量を応用するものは、
所足の間隔だけ離れた2個のカメラを持ち、2個のカメ
ラで捉えた像の視差により、3次元計測を行う。該方式
には、処理時間が長くかがシ、認識結果が不安定であり
、移動ロボット等に実用化するのは困難であるという問
題がある。 一方、ハフ変換は、入力画像についての直線あるいは線
分の抽出等において、確かさを濃縮させる手法として用
しられるものである。第1図はハフ変換の説明図を示す
。いわゆるハフ変換においては、第1図(イ)図示の如
き画像プレーン上の点(”l+’i )が、第1図(ロ
)図示の如きパラメータプレーンにおいて、 ρ= E4cxysθ+y<sinθ で表わされる正弦波に変換される。ここで、第1図(イ
)図示の如き1直線上の各点に対応する正弦波を、パラ
メータプレーンにプロットすると、第1図(ロ)図示の
如く、2点(ρが正のものだけ考えれば1点)で交わる
。これにより、ハフ変換を用−て、直線あるいは線分の
抽出、途切れ、歪みのある線分の再生、点状移動物体の
検出、交点の再生がi」能になる。しかし、自然界に最
も多く存在する子行線(無限遠に交点がある)の検出は
不可能’t 、また処理時間が大きく、3次元計測に不
向きであるという問題がある。 なお、ロボットの眼として用いらカーるカメラは、辿常
のテレビカメラと同様なものが用いられているため、入
射角が小さいほど角度分解能が低く、不均質であって、
視野が小さいという問題があった。 (C1発明の目的と構成 本発明は上記問題点の解決を図り、例えば単眼カメラに
よって、外部物体の形状等を正しく捉えることができる
ようにすることを目的としている。そのため本発明のロ
ボット環境理解システムは、光学的手段によシ周囲に存
在する物体の3次元情報を抽出し環境を理解するロボッ
トの環境理解システムにおいて、球面投影によ)外部物
体の1′4!を捕捉する画像入力手段と、該画像入力手
段によって角度情報として捕捉した像について、投影球
面上において点を直線に、また直線をその直線に含まれ
る点に対応する直線群によって定まる点に球面上で双対
写像を行い、該写像された点の有無を検出して、外部物
体の構成線分を抽出する球面写像処理部とを少なくとも
そなえ、球面写像による3次元計測を行うようにしたこ
とを特徴としている。以下図面を参照しつつ実施例に従
って説明する。 (D)  発明の実施例 第2図は本発明に関連したロボットの全体システム構成
例を示す。 ロボットの全体システムは1例えば第2図図示の茹り、
ロボットの環境を理解する環境胛解システム1と、ロボ
ットへの概略指示による環境把握・探索または概略指示
による移動・作業等のオペレータによる支援またはオペ
レータへの支援のためのオペレータ支援システム2と、
ロボットKl”際に動作させるアーム移動機構3等から
なる。 環境理解システム1に赴いては、球面カメラ4で捉えた
画像情報をもとに、まず輪郭抽出プロセッサ5が外部物
体についての輪郭の強調、領域の分割、色による物体の
分離などを行い、球面写像プロセッサ6が、球面写像を
行うことによって、線分抽出、途切れ再生、交点再生等
の確かさを礫縮させ、移動情報を含めて3次元情報を抽
出する。 具体的には、例えば外部物体の面/稜の方向計測、#動
物体の方向・速度・トラッキングの検知、無限遠点をと
らえた全体構造の抽出、奥行計測、複合物体の分離等を
行う。 このような3次元情報の計測結果は、動的な自己の位置
および自己の周囲状況を実時間で把握する状況騨解部7
と、立体認識部8とに伝達さり、る。 立体認識部8は、各種要素物体の情報を、その位相的特
徴にもとづいた類似度により、階層的に格納した要素物
体モデルデータベースを有してi−B、類似度認識プロ
セッサにより、適度の詳細度でもって上記モデルデータ
ベースを検索し、外部の要素物体を立体認識する。環境
解釈部9は、環境モデルを階層的に格納した環境モデル
データベースを何しており、環境解釈プロ、セッサによ
って、立体@g 、jjψ部8で認識された要素物体を
、環境モデルデータベースのモデルと対比して複合関係
、配置関係を解釈し、環境を理解する。 オペレータ支援システム2内にあるテレイブジスタンス
部10は、環境理解システム1の解釈した物体を、隠線
および隠面も含めて、球面スクリーン11に立体表示す
る。また、再生立体およびオペレータ指示部位を、違和
感なく原画像に実時間でオーバレイス名。オペレータイ
ンク・フェース部12は、指示計測プロセッサと行動決
定プロセッサとを有している。指示計測プロセッサは、
オペレータの非拘束の手・頭・体等の計測機構を有し、
才だ音声認識、応答を行い、指令を解釈するものである
。行動決定プロセッサは、自律的にあるいはオペレータ
指示によシ、カメラ、アーム、移動等の制御を行うもの
である。特に、球面カメラ4に対しては、視角および視
野移動のための制御信号を与える。 本発明は上記構成の中でも、特に、環境理解システム1
における球面カメラ4、輸郭抽出プロセッサ5および球
面写像プロセッサ6に関連している。寸ず、球面カメラ
4の機構について説明する。 第3図ないし第5図は球面カメラについての説明図、第
6図は本発明に係る画像入力部の一実励例’r4成、第
7図は第6図図示実施例を説明するだめの図、似8図は
等距離射影レンズの特性蒲明図な示す。 本発明に用いられるカメラは、光軸からの弧距蛸tが光
の入射角に比例した位置に結像するような1メンズ、す
なわち等距離射影レンズと、2次元的な位置分解能が均
質な受光素子とをそなえている。 ゴたは、等距離射影レンズの代わりに、通常のレンズと
、2次元的な位置分解能が均質な平面受光素子と、?l
’、を予約座標変換部と、をそなえ、上記等距離射影レ
ンズによって受光した場合と実質的に同様になるよう、
入力画像情報についての座標の変換を行うようにしても
よい。 上記球面カメラは、仮想的には、第3図に図示1、&如
く・、ピンホール20と球面受光素子21とによって構
成されるカメラと同等であると考えてよい。現実的には
、ピンホール20では、光量不足や像のぼけの問題があ
るため、ピンホール20は、レンズ系で置き換えられる
。さらに、球面状の受光素子21は製作が困難であるの
で、平面受光素子を用いることになる。そのため、第4
図に示すように、理想的な球面22と平面受光素子23
との間に違いが生ずる。なお、図中符号24は、レンズ
または複数枚の組合せレンズによるレンズ系を表わして
いる。 例えば、 MOSやCODなどの平面受光素子は、通常
受光セルが縦・横力間に等間隔に並んでおり、分解能は
受光位置によらず一定である。、また、いわゆるビジコ
ン等の連続平面受光素子も2次元的な位イlツ分解能が
均質である。そこで、レンズオたはレンズ系24によっ
て、第4図に図示したような理想球面22と平面受光素
子23とのずれfk4叉り除く必要がある。 例えば第5図図示の如く、レンズ24の中心から焦点距
離fのところにある受光面に結像する像の誦さをWとす
る。レンズの光軸に対する入St光の角度をψとすると
、通常のレンズでは、y = fta11ψ °゛°゛
゛゛■の関係がある。しかし、第3図のようなピンホー
ル・カメラの球面受光素子21と同等の像を、第412
!1図示平面受光素子23に結像させるためには、yが
ψに比例するような射影方式、すなわぢ、v=fψ ・
°・・−・・・・■ となるレンズを用いることになる。このようなレンズは
、魚眼レンズの一種であり、いわゆる等距離射影レンズ
として、知らhている。 な訃、上記のような特別な射影方式のレンズを便わなく
ても、通常のレンズやその他の射影方式のレンズで、以
下のように球面カメラ″f構成できる。この球面カメラ
は、第6図図示の如く、受光素子26と画像メモリ27
と座標変換制御回路28と演算回路29とからなる。 受光素子26からは、2次元画像を1次元的にJII+
1次走査した信号が出力される。図示省略しているが、
もちろん以降の処理をディジタル信号として扱うときに
は、受光素子26の出力映像信号は、A/D変換器によ
ってアナログ/ディジタル変換さhている。この映像信
号を、一旦、画像メモリ27に書き込む。座標変換制御
回路28は、画像メモリ27へのデータψ、き込み、読
み出し、および画像メモリ27からの出力デー−夕の演
算を行なう演算回路29を制御するものである。 例えば通常レンズを用いる場合、通常レンズで結像する
像1′は、第0式から、 y’=ftanψ ・・・・・・ ■ となる。これを変換して第0式の特性にしたいわけであ
るから、第0式を第0式に代入して、v=fψ =  fIan   ”(v’/f  )      
 ・・  ・・  ・ ・   ■が得られる。すなわ
ち、座標変換制御回路28および演算回路29は、第0
式の座標変換を電子的に行う。 画像メモリ27には、受光素子26の受光セルと1対1
に対応する画像データが、第7図に白丸印で示す如く格
納される。これらは、レンズ特性が上記第0式と異なる
ため等角度間隔になっていない。等角度間隔に対応する
格子膚は、レンズ特性によって、例えば第7図に黒丸印
で示す如く決まる。な卦、レンズが通常レンズである場
合には、黒丸印の位置は、上記第0式によって定まる。 そこで、黒丸印の位置のデータを、近傍4個の白丸印か
ら、距離に応じた重み付は平均によって、内31トする
ようにすればよい。または、白丸印の間隔が密のとき、
すなわち受光素子26の分解能が十分イ111かいとき
には、近似的に黒丸印に最も近い白丸F:1」の飴を出
力として採用してもよい。 通常lノンズの角度分簿能と上記等距離射影レンズの角
1u優チ解能とを図示すると、例えば第8図の如くにな
る。 西宮レンズの角度分解能は、第0式をψで微分すること
によシ、 七なる。一方、等距離射影レンズの角度分解能は、胆(
2式をψで微分することにより、 となる。第0式および第0式をプロットしたものが第8
図である。こり、かられかるように等距離射影レンズの
角度分解能は、入射角ψによらずに一定であるのに対し
、通常レンズでは、入射角ψが小さ込はど、角度分解能
が低い。 すなわち、等距離射影レンズまたはそれと同等な変換を
行う機構を用いた球面カメラは、角度分解能が入射角に
よらず均質であるという特徴と、視野が太きいという特
徴を有している。従って、この球面カメラをロボットの
視覚に適用した場合に、角贋分解能の均質性から、正確
な3次元計filJを行うことが可能となる。また、視
野が大きいことから広範囲な視覚情報を得ることができ
、例えば遠隔地にbるオペレータに対しても、臨場感の
ある画像を呈示することができる。 上記球面カメラによって捉えた画像情報にもとづいて、
次のように球面写像による3次元計測が行われる。 まず、線分の球面上の投影を球面上の1点に写像するこ
とによ)、カメラと線分とを含む平面の法線ベクトルを
求め、同時線分を抽出する。また、途切りたp、歪んだ
線分の球面上の投影を写像し。 その分布のピークを求めて代辰点とし、逆写像により、
途切−7″1.+歪みのない線分を再生する。さらに、
球面上の投影の変化情報ケ、球面上の1点に写像するこ
とによシ、m線移動する点状物体の軌跡を抽出する。ま
た、複数の線分の球面上の投影を、そilそれ球面上の
1点に写像し、次にこれらの写像点を再び写像すること
によって、元の線分の交点を再生する。また、ロボット
の眼すなわちカメラを動かしたときの交点の動きの有無
から平行線群を検出するとともに、知iii′il!を
オl用しても平行線群を検出する。なお、ハフ(Hos
gh )変換と変数変換とを組み合わせることによって
も、上記球面写像と同様の効果を得ることができる。以
下詳細に説明する。 第9図ないし第11図は球面投影についての栃明図、第
12図卦よび第13図は球面写像の原理説明図、第14
図Fi線分の抄出についての誼明図、第15図会よび第
16図は線分の再生についての翳明図、第17図は移動
物体の検出についての説明図、第18図は交点の再生に
ついての説明図、第19図は平行線の検出についての説
明図、第40図は本発明に係る一笑施例構成ブロック図
、第21図は球面投影画像メモリと写像メモリとの関係
を説明するだめの図、第22図は緯度および経度アドレ
スのMe明図、第23図はハフ変換の応用についての説
明図を示す。 例えばM9図図示の如く、平面投影が外部の立体31を
平面32上に投影するのに対し、球面投影の場合には、
立体31を球面33に投影する。−lイ辿のレンズを持
ったカメラによって、立体31を写した場合、平面投影
のようになるが、先に述べたような球面カメラを用いた
場合、球面33への球面投影となる。なお、この場合カ
メラは球面33の球の中心に位置していると考えてよい
。なお、以下の説明では、球面33による球の半径は1
、すなわち単位法に投影するものとして費明する。 第10図図示の如く、ユークリッド平面35土の直線を
球面33上に投影した場合、球面33上にお込ては大円
37となる。大円37ばすなわち球面上における直線と
定義してよい。同様に平面−$−5上の点は、球面33
上の極に対応し、こh2は応と定義きれる。この球面投
影によシ、いわゆるユークリッド幾何に代えて、球面幾
何、特にリーマンの楕円的非ユークリッド幾何が適用さ
れることになる。 この球面投影によれば、第11図(イ)図示の如く、j
−クリッド平面35において交わらない平行線38が、
球面33上に卦ける交点39で有限の範囲で父ノ・)る
。もちろん、第11図(ロ)図示の如く、平面35土で
交差する直線4oは、球面33土に卦いても交わる。以
上のような性質によシ、球面投影によれV、1、平行線
の無限遠点での交点を紐度・経度で計測できることとな
る。この平行線の無限遠交点が81面できると(八う性
質は、以下に説明する球面写像による3次元計測のポイ
ントになる。 本兄明の場合、球面カメラによって捕捉された1ini
像データを直接計測データとして用いるだけではなく、
゛以下
【説明するように球面上における双文・1写像、
すなわち球面写像にょ勺データを変換して処理するよう
にされる。 第12図は球面写像により点を直#(球面上では大円)
に対応させる例を示してしる。第12図(イ)図示の如
く、3次元空間内の点PI′i、球面投影によシ球面3
3上の涜P′に投影される。廣P′はさらに球面写像に
よシ大円である直線lに写像さり、る。なお、ロボット
の眠であるカメラは、原点Oに位置している。直線lへ
の写像は、第12図(ロ)図示の如く、点P′と原点O
とを結ぶ線分に垂直な平面−によって、球面33を切っ
た切シロに対応するものとして与えられ、る。このよう
に、球面写像により、外部の点Pは球面33上における
直線lに対応づけられることとなる。 第1312は球面写像により、直線を直線群によって定
丑る点に対応させる例を示している。3次元空間内の直
線りは、球面投影より、球面33上の「線L′に投影さ
れる。直線り上の点P1. P2. p3.・・は、直
線L′上の点PI’ 、P2’ 、P3’ 、・・・に
それぞれ投影される。これらの各点PI’ 、P2’ 
、P3’ 、・・・ハ゛、球面写像によシ大円群である
直線群A?1. llz、 IJs 、・・に写1譲さ
れるが、これらの大円は原点0について対称ft 2 
A (対心点)で交わる。この2点を1点と考メ1、片
方で代表させて、写像の意味で以後S点と117ぶ。す
なわち、直a!Lの情報が、球面写像によって、1点S
IC濃縮されたことになる。なお、上官i、’+ Pi
、 P2. P3.・・・P1’ 、P2’ 、Ps’
 、・・およびTo、12゜73、・・・は、概念とし
ては連続であるが、現実的には受元累子や画像メモリの
構成に依存した離散的な位置に対応するものとなる。 原産0から点Sに至るベクトルを9で表わすと、9はW
MLと原点Oとを含む平面の法線ベクトルとなる。本方
式により′8は計測可能であシ、この9は3次元的情報
を含んでいるため、例えばハフ変換や最小2乗法による
他の線分検出法にはない大きな特長となっている。 第14図は上記球面写像にもとづく線分の抽出を断明す
るだめの図である。第14図図示の如く、球面写像によ
hば、外部の線分りを投影した線分IL’が8点に写像
されることになる。第14図中の矢印は、大円の一部で
ある勝分L′から8点への写像勿意味している。従って
、線分の有無を写像球面における8点の有無により検出
すれば、旨いSN比で線分を抽出することができる。 第15図および第16図は、途切りたシ歪んだシしてい
る線分を再生する例を説明するための図である。カメラ
によって捉えた像は、ノイズによシ歪んだシ、また背景
との関係で一部がぼやけてしまうことがある。以下のよ
うに球面軍隊によっC1情報の濃縮を行い、途切れや歪
みのある線分を再生する。もし、入力した像が外部の直
線の一部である線分を投影したものであれば、多少の途
切刃や歪みがあっても1例えば第15図図示の如く、こ
れらの球面写像は、真のS点付近に集まってくることに
なる。すなわち、線分上の各点に対する大円が、S点付
近を通る。従って、その大円が最も集まったピークの位
置を8点とみなし、第16図図示の如く、点から線への
逆写像を行えば、腓分が再生されることとなる。なお、
第16図においては、球面33上の線分に対応する3次
元空間の線分が示されているが、この方向ベクトルが求
まるわけてはない。球面33上においてのみ再生される
。この方向ベクトルは1例えば眼の移動や平行照明によ
って後述する如く求めることができる。 第17図は移動物体の検出を説明するための図である。 例えば一定の時間間隔で投影像を画像メモリに蓄えてお
き、最新のものと一瞬前のものとの差をとる。こうすれ
ば像の変化が抽出できる。球面33上の投影された像の
変化を抽出したならば、この変化点の写像を次々に累積
してゆく。いま、第17図図示の如く、点状物体が直線
運動しているとすれば、S点付近に写像される累積信号
が増大する。そこでそのピーク位置を8点とみなし、第
16図の場合と同様な逆写像を行う。これによって#r
 +m 33上において、移動物体の軌跡を抽出するこ
とができる。なお、この方式により、複数の移動物体を
同時に検出することができる。また、物体が移動すれば
するほどピークが大きくなるため、8N比がよくなると
いう特徴をもっている。 線分の内生と同様に交点の再生も、第18図を参照して
、以下に説明する如く可能である。第18図図示の如く
、線分Pの8点をSp、線分908点を8Qとする。ま
た、Spと8Qとを通る大円をlとする。lを含む平面
の法線を原点0に立てると、球面33上でP′〜′の交
点に交わる。この点を写像の゛・写像という意味でSS
と呼ぶことにする。すなわち、各線分の8点をもう一度
写像することによって、交点SSを再生することができ
る。各線分の情報が各8点に集積し、これら8点の情報
がSS点に集積することから、元の線分のすべての構成
点がSS点に集積していると考えることができる。従っ
て、高いSN比による交点の再生が可能である。なお、
3本以上の線分が1点で交わる場合も同様である。 特別な場合として、線分が平行であるときの例を第19
図に図示している。人工物の世界には、例えば窓のサツ
シ、本棚、ビル並というように、互いに平行となる線分
の数が多い。平行線は、一般的には無限遠点が交点であ
ると言うことができる。 このような無限遠点の交点は、通常の手段では求めるこ
とが困難である。しかし、本方式によれば、第19図か
られかるように、第18図の場合と同様に[・1面33
上に交点SSを求めることができる。しかも、互いに平
行な線分の数が多いほど、高いSN1にで交点の内生が
可能である。な訃、交点SSが実際の平行線か否かの判
定は、次のようにして行うことができる。 ロボットの眼であるカメラを平行移動させる。 無限遠点は一定であるため、平行線に対応するSS点は
、眼を平行移動させても動くことはない。従って、眼を
平行移動させて、SS点が動かなければ、平行線である
と言える。逆に、眼の平行移動によって、SS点が動け
ば、平行線でないと判定できる。 J Jp 、眼を動かす代わりに、2台のカメラを使っ
ても同様に判定できる。SS点が2台のカメラにおいて
同一ならば、平行線に対応している。 また、平行線の判定に、次のような知識を利用すること
もできる。例えば人工物の世界では直方体形状が多いた
め、1点で交わる稜の数は3以下の場合が多い。すなわ
ち、直方体の角などにおいて、4本の線分が交わること
はない。従って、4本以上の線分が1点で交わる場合に
は、平行と判定してほとんど誤ることはない。また、多
面体の頂点である稜の交点は、それらの稜をはさむ面に
接している。そこで、SS点がその対応する線分をはさ
む領域からある距離以上離れていないとき、それらの線
分は平行ではなく、1つの頂点で交わル稜であると判定
してよい。 本発明に係る一実施例構成を示す第20図において、符
号4卦よび5は第2図に対応し、  50は球面投影画
像メモリに対する緯度および経度のアドレスを発生させ
る緯度・経度アドレス発生部、5】はアドレスエンコー
ダ、52はデマルチプレクサ、53および54は球面投
影画像メモリ、55はマルチプレクサ、56は変化検出
器、57および58は写像メモリ、59は線分について
の8点検出器、60は移動物体についてのS点検出器、
61および62はアドレスエンコーダ、63は写像の写
像データが格納される写像・写像メモリ、64は交点を
示す88点の検出器、65は平行線判定部を表わす。な
お、出力信号01ないし05は、第2図図示状況理解部
7または立体認識部8に伝達される。 球面カメラ4で捉えた画像情報は、輪郭抽出プロセッサ
5に供給される。輪郭抽出プロセッサ5は、濃淡・色画
像を実時間で輪郭58Ii調し、領域分割および輪郭抽
出を行う。なお、この技術は公知であるので、この程度
の説明にとどめる。輪郭抽出プロセッサ5の出力は、デ
マルチプレクサ52にずれかに格納される。このとき格
納アドレスは、緯度・経度アドレス発生部50によって
与えられる。 第1球面投影画像メモリ53および第2球面投影画像メ
モリ54には、それぞれ異なる時点における画像情報が
格納さ九ることになる。 球面投影画像メモリ53または54に輪郭の1点J点が
書き込まれると同時に、第21図に示すごとく、各輪郭
点に対応する大円の情報が写像メモリ57に畳き込まれ
る。写像メモリ57のアドレスは、第22図に示す如く
、球面33上の1点を表わす経IQa卦よび緯度βによ
って与えらhる。従って、輪郭の1点を写像した大円は
、(α、β)平面では正弦波になる。写像メモリ57の
各セルは、例えばカウンタで構成されると考えてよく、
書き込まれるごとに・1つずつ値を加算する。 S点検出器59は、写像メモリ57の各セルをスキャン
することによシ、値のピーク包曾を求める。 そのピーク位置が第14図および第15図で説明したよ
うに、線分にりbでの8点ということになる。 検出された線分情報は、出力信号02として出力される
とともに、球面投影画像メモリ53.54にフィードバ
ックされる。すなわち、このフィードバックは第16図
で説明した線分再生の処理に相当する。 マルチプレクサ55は、デマルチプレクサ52によって
現在選択して−るものと反対側の球面投影画像メモリ5
3または54を選択し、読み出し情報を出力信号01と
して立体認識部等に出力するとともに、変化検出器56
に出力する。変化検出器56は、現在の投影画像情報と
1時点前の同じ位置における投影画像情報との差を逐次
演算する。変化がなけり、ば1例えばOが出力され、変
化があれば新しい変化点について1が出力される。この
出力6・才、アドレスエンコーダ51の示す経度αおよ
び緯Mtβ上の写像メモリ58に書き込まれる。なお、
写像メモリ58は、第21図で説明した写像メモリ57
と同様な構成となっている。 S点検出器60は、写像メモリ58の各セルをスキャン
することにより、第17図で説明した原理によって移動
する物体の8点を検出する。検出結果(Iま、立体認識
部解へ出力されるとともに、アドレスエンコーダ62を
経由して、球面投影画像メモリ53.54へフィードバ
ックさね、る。 8点検出器59によって検出された線分についてのS点
情報は、アドレスエンコーダ6jを経由して、写像・写
像メモリ63へ書き込゛まり、る。写像・写像メモリ6
3は、写像メモリ57.58と同様な構成をもつメモリ
である。SS点検出器64は、第18図および第19図
で説明したSS点を、写像・写像メモリ63から検出し
、線分の交膚(平行線を含む)を抽出する。平行線判定
部65は、眼の移動または知識の利用によって、上述し
た如<、SS点が平行線に対応するかどうかを判定する
機構である。SS点検出器64および平行線判定部65
の出力は、立体認識部等へ伝達され、また球面投影画像
メモリ53゜54ヘフイードバツクされる。 なお、第1図で説明したハフ変換と、変数変換とを組合
わせることによシ、上記球面写像と同様の効果を得るこ
とができる。上記ハフ変換の式において、ρの代わシに
tanβと置く。θをaと書けば、 抽β=x6cQsa+16 sinβ となる。tanβとαのパラメータプレーンは、第23
図図示の如く、円柱の側面と考えることができ、画像プ
レーンの点は、円柱を斜めに切った切カ口の楕円となる
。また画像プレーンの直線はこれらの楕円の交点になる
。これは楕円写像と言うことができる。さらにαとβと
のパラメータプレーンを考えると、第22図と全く同じ
になシ、これは球面写像である。従って、平行線の検出
や上記ベクトルもの計測が可能となる。 すなわち、球面カメラや球面写像を用い々いでも、ハフ
変換と、ρ−−βの変数変換によシ、球面写像と同様の
効果を得ることができる。ただ−辿常のカメラを用いて
ρ−1anβの変数変換を行うと、通常分解能は均質で
はない。 」二記球面カメラおよび球面写像による認識の方式に′
)JOえて、さらに以下に説明するように、平行スリッ
ト光による平行照明を利用して3次元計測を行うことが
できる。すなわち、対象物体に平行スリット光を投影す
ることによシ、単眼で稜および面の方向を3次元計測す
る。照射した平行スリット光の抽出には、平行スリット
光を回転させたとき、球面写像におけるスリット像の写
像の写像の写像(以下SSS点という)が、不変である
という性質を利用することができる、。また、平行スリ
ット光の間隔を利用して対象物体までの距離を計測する
ことができる。なお、スリット光間隔が可変であるよう
にした平行スリット光発生機構を後に説明する。 第24図は平行スリット光利用による3次元計測の概念
説明図、第25図ないし第27図は平行スリット光利用
による3次元計測の原理を説明するための図、第28図
は3次元計測の処理についての説明図、第29図ないし
第31図は距離計測についての原理を説明するだめの図
、第32図は、本発明に関連した一実施例構成ブロック
図、第33肉は従来の平行スリット光発生方式の例、第
34図ないし第38図はスリット光間隔を可変にした平
行スリット元発生機構の説明図を示す。 従来、一般に3次元計測を行う場合には、例えばカメラ
を2台使用したステレオ方式によp1三角測針をm−て
計測を行っている。以下に述べる方式によれば、第24
図図示の如く、単眼の球面カメラ4により、3次元計測
を行うことができる。 第24図において、符号70は平行スリット光発生機構
、71.71’はLEDレーザ、72はミラー、73は
平光スリット光、74はミラー回転軸、75は走奔軸を
表わす。平行スリット光発生機構70は、ロボットに搭
載されていても、または他の場所に設置されていてもよ
い。LEDレーザ71.71’から出力されるレーザ光
は、ミラー72によって反射され、平行スリット光73
を生成する。ミラー72は、ミラー回転軸74によって
回転自在になってお)、丑だ疋畳軸75によって、左右
に振れるようになっているので、平行スリット光73を
任意の場所に照射し、また平行スリット光73を回転さ
せることができるようになっている。この平行光スリッ
ト光73が照射された物体からの反射光を、球面カメラ
4によって捉えることによって、以下に評明する如く、
物体の面の法線ベクトルmや各稜の方向ベクトルんが求
められる。 以下の謄明では、ベクトルはすべて長さ1の単位ベクト
ルとする。第25図および第26図に示す如く、2本の
平行スリット光が平面にあたって生じた像76の3次元
ベクトルをそれぞれの1.@2とする。また、カメラの
位置を原点Oとする。球面写像によれば、第13図を参
照して前述した如く、原点0とε1とを含む平面の法線
ベクトル91卦よび原点Oと(+12とを含む平面の法
線ベクトル92を求めることができる。 ベクトル91とベクトル@1とは、3次元空間で直交す
る。これをいわゆる直交ダイヤグラム表紀法で表わすと
、 91−ΦI となる。同様に、ベクトル182、ベクトルの2にっb
て、 (82−Φ2 と表わされる。ところで、Φ1とLB2とは平行である
から、3次元空1’、4Jにおいて同じベクトルであシ
、これをΦと書くと、 Ql−@−%l。 となる。なお、91と82とは同じベクトルではない。 一般に、2つの異なるベクトルと互いに!W交するベク
トルは、それらのベクトル精で表わすことができる。す
なわち、 C″′[′81X92コ/19□X9□1となる。 第27図は、第26図に四元した平行スリット光を回転
させた場合を示している。先と同様に、C′=口J’ 
x 92コ/ l L x e□1となる。ここでΦ′
は、0と異なるベクトルとする。 ところで、平面の法線ベクトル界は、ΦにもC/にも化
いK iM交する。すなわち、直交ダイヤグラムで表記
すると。 α−n−Φ′ となる。したがって、 μm[3x[相]′コ/1φ×ω′1 となり、これによって、平面の法線ベクトルμがfl−
1明する。 また、稜の各ベクトルを/bz、 jb2.・・・とす
る。球面写像によhば、上述した如く、それぞれの稜に
対する8点のベクトル’jbs、 @b2.  ・、す
なわち原点Oと稜を含む平面の法綜ベクトルを求めるこ
とができる。各’8biは各hiと直交する。すなわち
、’bz  I’s 、  (’−1+、2 l山ンの
pυ係にある。 また、 Toiは声とも直交する。そこで、ebi  
hi  rrL となシ、したがって、 Jbi=E9biXn龜]/ l ’Qbi xμI(
s=1.z、・・・)となる。これにょシ、各校のベク
トルlbiが判印Jする。詰26図および第27図は、
面が4辺形の場合の例を示しているが、一般の多角形の
場合についても同様である。 上記原理に基づいて、物体の面と稜とを求める処理を、
フローチャートの形で図示すると、第28図の如くにな
る。図かられかるように、単眼のカメ2で3次元計測が
できる。 また、平行スリット光の間隔を使うことにょ九以下に述
べるように距離計測を行い、奥行きなどを調べることが
できる。第29図に〉いて、αは平行スリット光73の
間隔、Cは平行スリット73f含む平面の長さ1の法線
ベクトルを表わす。αおよび@は、平行スリット光発生
機構の状態によ、す、既仰である。bは、ある稜につい
ての平行スリット光73にはさまれた部分の長さく実距
離)を表わす。また、Lは第28図の処理によシ計測し
たその稜の単位方向ベクトルとする。 第29図かられかるように、bは、αGとβとのベクト
ルの内積となる。すなわち、 b=(αG、ル)−〇(Φ、fb) と表わされる。 第30図に示す如く、ロボットの眼であるカメラlから
、bの部分の両端を見た単位方向ベクトルをそれぞれc
、dlとする。ベクトルbとCとの交角を第31図図示
の如くθ、とすわば ・・・θ。−Jπで1−1戸 ノーなる。同様に、ベクトル必と洸との交角をθdと1
 ノr ば siuθd=ITT口藷、11)z となる。またベクトルCと五との交角を1とする。 第31図の△OCD において、正弦定理から七なる。 ベクトルルとの1および角度Tは、そり。 、−t−ノー−カメラ4の撮像面における線分すの位置
と長;と力)ら計測できる。また、bは先に求めである
ズハら、こノ″Lらの式から、カメラ4がら部分すまで
の距離υまたは品を知ることができる。 球11f1カメラ4で捉えた像の中から、平行スリット
光を抽出し、他の線分と区別して認識する場合には、例
えは色の明確な平行スリット光を物体に照射するように
し、カメラ4に色フィルタを用いて平行スリット光の色
だけを抽出するか、または、カラーカメラを用いて、色
分離によp1スリット光を抽出すればよい。しかし、周
囲が明るい場合等、一般に物体表面の色が影脅するため
、スリット光のみを確実に抽出することは容易では々い
。 次のように球面写像の特長を活かして、平行スリット光
を確実に抽出することができる。いま、球面写像におい
て、平行スリット光の88点を考える。スリット光の回
転によって、SS点は無限遠湘を移動するが、その軌跡
は、物体表面の平面上の無限遠にあシ、直線(球面上で
は大円)になる。 従って、SS点の軌跡の写像SSS点は、1点であって
不動である。この性質を利用して、平行スリット光の抽
出を行う。すなわち、スリット光を回転させて、SSS
S全点察し、それが1点で動かないものを抽出すればよ
い。 第32図は上記方式の一実施例ブロック図である。 第32図において、符号4 、5 、50ないし65は
第20図に対応している。これらについては、第20図
と同様であるので、ここでの説、明は省略する。 fQ180はアドレスエンコーダ、81は写像・写像・
写像メモリ、82はSSS点検出器、83は平行スリッ
ト光判定部、84はアドレスエンコーダ、85バ一致ア
ドレス選択部、86はアドレスエンコーダ87は一致ア
ドレス選択部を表わす。 SS点検出器64で検出さり、だ2本以上の直線の交点
?表わすSSA情報は、アドレスエンコータ80に入力
式i7る。もちろん、この88A、には前述した如く、
平行線の交点も含まれる。写像・写像・写像メモ1J8
1は、写像メモリ57.58等と同様に構成されており
、アドレスエンコーダ80の出力によって、SS点の写
像の情報が1.き込まれる。SSS点検出器82は、写
像・写像・写像メモリ8■を走査して、上記SSS点を
検出する。平行スリット光判定部83は、平行スリット
光を回転させてもSSS点が動かないかどうかを判定し
、不動であるSSS点を平行スリット光によるものと認
識する。この認識結果は、アドレスエンコーダ84によ
るSS点への逆変換アドレス情報とともに一致アドレス
選択部85に供給さ吐る。一致アドレス選択部85は、
このアドレスをSS点検出器64の出力アドレス情報と
比較し、一致するものを選択する。すなわち、平行スリ
ット光の抜き出しが、ここで行われることになる。抽出
された情報は、アドレスエンコーダ86を経て、一致ア
ドレス選択部87へ送出される。 一致アドレス選択部87は、SA検出器59の出力との
マツチングをとることによシ、平行スリット光のSベク
トルを求め、立体認識部等へ結果を出力する。 以上説明したように、該方式によれば、単眼でもって3
次元計測を行うことができる。また、スリット光源はど
こにあってもよく、スリット光源の位置、方向に無関係
に計測可能である。従って、環境に最も適したスリット
光を利用することができる。さらに、スリット光の間隔
およびスリット光源の方向が既知であれば、入力画像の
スリット光間隔から距離についても計測できる。 平行スリット光の発生機構として、従来、例えば第33
図(イ)、(ロ)図示の如く、スリット92を用いる方
式が知られている。第33図(イ)の場合、点光源90
から出射される光をレンズ91で平行にし、スリット9
2を通過させる。第33図(ロ)の場合には、同様に棒
状光源93の出射光を円柱レンズ94ヲ経由させた後に
、スリット92全通す。しかし、これらの方式には、ス
リット間隔が固定であシ、スリット間隔を広げるには、
大口径レンズ、幅広レンズ等を必要とするという欠点が
ある。 対象物体が小さい場合には、平行スリット光のrI4J
隔を狭くする必要があるときがあり、また遠くのものを
見るときなどは、広いほうがよい。従って、スリット光
の間隔を自由に変えることができるようにすることが望
まれる。 」−記のほかに、レーザ光を円柱鏡に反射させてスリッ
ト光を作る方式があシ、また、2本の平行スリット光を
得るために、1本のスリット光を移動させて多重露光す
る方式がある。この方式によhば、移動距離を変えるこ
とにより、任意の間隔の平行スリット光が得られるが、
画像の入力時間が長くかかるという欠点がある。 上記欠点は、例えば第34図図示の如く、光源としてL
EDレーザ71.71’などを2個用い、対象物の大き
さ、距離に応じて、間隔αを可変にすることにより、解
決される。 1だ、ビームスプリッタを利用することによシ、1台の
レーザを光源として用いて、2本の平行スリット光を得
ることができる。第35図はその発生機構の例を示し、
第36図ないし第38図は第35図図示機構を上から見
た図全示している。 LEDレーザ71から射出されたレーザ光は、ビームス
プリッタ95によシ、図示の如く分離される。 一方のレーザ光はミラー72−2.72−1.72−4
によって反射され、他方はミラー72−3.72−4.
によって反射される。第36図かられかるように、ミラ
ー72−2とミラー72−3のどちらか一方、または両
方を、矢印の如く移動させることによって、平行スリッ
ト光の間隔を可変にすることができる。 または、第37図に示すように、ミラー72−1を太キ
くシておき、ミラー72−2を矢印のように移動させて
もよい。さらにまた、例えば第38図に示す如く、大形
ミラーJ2−1と小形ミラー72−2とを平行に配置し
、両者を平行に保った甘ま、ミラー72−2を中心に矢
印のように回転させてもよい。 Y行スリット光を利用するのではなく、動きをλ11川
することによって、以下に説明する如く、単眼による3
次元計測を行うこともできる。ロボットの眼であるカメ
ラを直線移動させて、球面写像の交点(SS点)から、
直線あるいは線分の方向ベクトルを計測する。まだ、眼
(カメラ)を直線移動させるとき、対象物体が移動する
角速度を利用(−て1.[lIdと対象物体との距離全
計測する。また、面線あるいは線分が移動するとき、移
動のし方を1自線移動と仮定することによって、そのl
IW線または線分の方向ベクトルを計測する。さらにま
た、線分が移動するとき、移動のし方を直線移動と仮定
することによって、その移動方向ベクトルを計測する。 長さが既知の線分が移動するとき、移動のし方を直線移
動と仮定し、移動の速さを計測することかできる。また
、部屋・ルB下等の構造線を利用することによって、全
体構造の計測および自己位置の計測が可能である。 第39図は直線の方向ベクトル計測についての説明図、
第40ないし第44図は眼の移動による英行き計測につ
いての説明図、第45図は画線移動による央行き分離の
概念を説明するための図、第46図は朦分の移動による
3次元計測の説明図、第47図は長さが既知である線分
の移動の速さを計測する原理についての説明図、第48
図は物体の直線移動による3次元計測の処理説明図、第
49図ないし第51図は構造線を利用した3次元計測の
説明図、第52図は本発明に関連した一実施例構成ブロ
ック図を示す。 まず、第39図を参照して、眼であるカメラを直線移動
させることによシ、または移動する物体を観測すること
によシ、直線または線分の方向ベクトルを計測する原理
について説明する。第39図図示の如く、眼を直線移動
させると、1つの直線(線分を含む。以下同様。)の移
動前ベクトルE1と移動後ベクトル旧2とは、互いに平
行な対になる。 また直線が移動すると、移動前後の対E1とE2とが得
られるが、ここで移動が回転ではなくM&!移動したと
仮定すれば、 IhとE2とは同様に互いに平行な対に
なる。bずれの場合も、球面写像によシ直線の対の交点
(SS点)を求めると、原点からSS虚へ至るベクトル
Φは、  El、 B2と平行になる。 すなわち、 E1〒1lii2−LII == (cos (Z 11 aytβ9SInaII
a)sβ−IIβ)ただし、α:SS点の経度 β:SS点の緯度 これによシ、直線の方向ベクトルが得られることV(な
る。 1)1(すなわちカメラの移動によって次のように奥1
jきを計測することができる。眼を速さ■で方向旧にn
線移動させると、球面写像においては、物体が球面上を
角速度ωで回転する。第40図は物体として直線を考え
た場合の図を示している。直線し)相対的にお方向へ−
Vの速さで移動する。直線の球面上への投影像は、SS
点を中心として角度ωで回転する。 例えば、物体のコーナ一点などの1点Aまでの距離rを
求める場合を第41図に図示する。原点Oにある眼から
点Aを見る単位方向ベクトルを小とする。ベクトル旧と
Oとの交角をθとすれば・・・θ=1「饗ILp戸 となる。すると図かられかるように ω             ω となる。■と旧は既知であり、raとωはカメラの撮像
面における点Aの位置および動きの速さから計測可能で
あるから、上式によりrを知ることができる。 観測対象が線分であるときに、その線分上の一点の位置
を示すベクトルrを求める場合を第42図に図示する。 原点Oから対象の線分を含む直線に下した垂線の長さを
r、とする。この垂線とベクトルrおよび旧とが成す角
度をそれぞれψ、θとする。線分(に対するSベクトル
を9とすれば、S用θ−(旧 、9 ) Lなる。そこで先と同様にして となる。すると図かられかるように ’=(Q”l’)(e+rJ[(@x9コ一とり]3,
9)、馳ψ・(s+[(i+x@ゴ)ω となる。ここでβと■は既知であり、eと6は既に述べ
た方法で計測できる。またωとψはそhぞhカメラ4の
撮像面における線分の移動の速さおよびその位置から求
められる。したがって上式によシ、ベクトルrの大きさ
、すなわちカメラ給から線分までの距離を知ることがで
きる。 また、眼の移動方向旧が未知のときには、球面トの直線
の移動方向りを計測して 1B = −6 で求めることができる。すなわち、線分に着目した場合
、第43図図示(21,Φ22に対するSベクトルをそ
れぞれ@z1.922とすると、こhらの関係を直交ダ
イヤグラム表記で表わした場合、となる。従って、 お=−乃=E@21X侶22’]/IVj□1×9□2
1となる。同様に2個以上のコーナ一点に着目した場合
、第44図において、  aa’、bb’のもベクトル
ζ。 9bから、 1’=  ”=[’axt”b]/1Lzxli!b1
によって、求めることができる。 例えば第45図図示の如く、眼を移動させて物を見た場
合に、近くにあるものほど眼の前を素早く移動し、遠く
にあるものほど動きの変化が少ない。 従って、この性質を利用することにより、球面上の投影
像の角速度ωを観測し、その大小によって、物体の英行
き分離を行うことができる。 次に第46図を参照して、眼の移動ではなく、線分の移
動による3次元計測について説明する。なお、線分は直
線移動していると仮定する。第46図において、ト11
は線分の移動前の方向ベクトル、):12は線分の移動
中の方向ベクトルs 121オよびU>Z2は線分の移
動方向ベクトル、Flは原点OがらBox、 et2の
88 A SStに至るssSベクトルc2は原点0か
らB21.222の8B点882に至る88ベクトルを
表わす。また、Elll 812. Ezt、 B22
に対するSベクトル(図示省略)を、それぞh幻□1,
8□2゜@21.922とする。これらの関係を直交ダ
イヤグラム表記で表わすと、 1t(tt=fiiitz      ト21=l[1
i221  1     1  1 となる。従って、線分の方向c1は、 tl =旧112旧12°[9t I X912] /
 lε11X9121から求められ、またその移動方向
c2は、σ2 ″凹2!畦22=[’Lt×92zコ/
l 92xx9zz  Iから求められる。 長さが既知である線分の移動の速さは、次のようにし7
てFjl測することができる。第47図において、既知
の線分の長さをlとする。線分鼎が直線移動して時間を
後に、面になったとする。ここで、原点Oから点A 、
 B 、 C、I)に至る方向ベクトルを、それぞれe
 + rb + (C’ + dlとする。旧Il、 
rBx2.421゜匹22については、第46図の場合
と同様である。 時間tの間における線分ACの長さを求めhは、移動の
速さが求まる。 線分の方向ベクトル1B11.Bi2は、前述した方式
で計測する。球面投影によシ、方向ベクトルC9p、v
、dLは計測できる。また、乙AOB、 4 COD。 4 AOCも計測できる。△AOBにおいて、正弦定理
から、 となる。/AOBは計測可能であシ、捷たZABOは旧
11とbの交角であるから、その内積によ−リ、cos
  (ZABO) −(Fixt、 To)で求まる。 したがって、 となる。△C0I)について、同様にすれば、となる。 次に△AOCについて層目すると、余弦定I中から、 式と全代入すれば、豆の長さが求捷ることになる。 會分面が面へ移動するまでの時間tで、 ACを割え1
ば、移動の速さVが求まる。すなわち、V=屁/l である。 以上述べた原理によシ、第481g+図示の如き処理全
実行すhば、移動物体を検知し、その方向、速度を求め
、トラッキングすることができる。すなわち、移動物体
の線分の交点を抽出しs (”z=r81+×612 
J/ 19t t X%+1111 を演算することに
よって、屓廚の方向を検出できる。また、移動軌跡を抽
出し、;2=「Qh1xQ22J/l’G2tx%h2
1を求めることにヨッテ、移動方向が得られる。また、
原点から線分端点への方向ベクトルを抽出し、V=AC
/lを演算、するこないし第51図を参照して説明する
。第49図図示の如く、視点を上、下または左、右に移
動することによって、視界が変化する。第50図および
第51図において、Dはカメラの運動方向、lけカメラ
の光軸式に垂直な大円、 CLは例えば廊下の四隅に現
われるコーナー線を表わしている。第49図かられかる
ように、例えばカメラが上方向へ移動すると、コーナー
線CLは、大円lを下伸に移動するこ七になる。t(、
カメラを左方向へ移動させると、コーナー線CLは、右
側に向って動く。下方向または右方向への移動の場合も
同様である。この自己の運動方向とコーナー線の移動と
の関係から、例えば部屋・廊下等に多くある平行線ケ利
用して、全体構造の把握や自己の位置の計測を行うこと
ができる。すなわち、眼(カメラ)を取付けたアームの
移動や、自分自身の移動を行い、球面写像のSS点の動
きの有無から、前述した手段により平行線を抽出し、そ
れらの平行線に関する画像情報の弯化f?睨測すれば、
例えば廊下における自己位置を知ることができ、ナビゲ
ーション等に利用することができる。 第52図は上記動きを利用した計測を行う方式の一実施
例ブロック図である。第52図において、符号4 、5
 ’、 50ないし65は第20図に対応している。 こり、らについては、第20図と同様であるので、ここ
での説明は省略する。100は第2の写像・写像メモ!
J、101は88点検出器、102は角速度抽出部、1
03は奥行き分離部、104は線分端点抽出部、105
は第3の写像メモり、106はS点検出器、107はベ
クトル植演算部、108は端点ベクトル計副部、109
は線分移動速さ計算部、11Oは構造線移動針側部を表
わす。 カメラの直線移動または対象物体の直線移動によシ、上
述した如<、8点検出器60によって、移加1物体につ
いての8点が検出される。この検出情引Lアドレスエン
コーダ62によって、アドレスが生成されて、写像・写
像メモIJ100へ導かれる。 SS点検出器101は、 SS点検出器64と同様に、
写像・写像メモリ100を参照することによシ、第39
図に図示したSS点を検出する。これによって、線分ベ
クトルが求まることになる。 角速度抽出部102は、第40図等に図示した角速度ω
を求めるものである。奥行分離部103は、第45図に
示した原理によシ、角速度ωの大小によって、球面投影
画像メモ’) 53.54上の画像情報につじで、各物
体の奥行き分離を行う。 変化検出器56の出力情報によシ、線分端点抽出部10
4は、移動線分のコーナ一点等の端点を抽出する。この
抽出情報は、写像メモリ105に書き込まれる。S点検
出器106はS点検出器60と同様に、写像メモ!j1
05から8点を検出し、移動軌跡を抽出する。ベクトル
積演算部1.07は、第48図などで説明したような、
ベクトル積の演算を行い、線分移動ベクトルを求める。 また、線分端点抽出部104の出力は、端点ベクトル計
測部108に導びかれる。嬌姿ベクトル計測%1(10
8は、端点情報と経度・緯度アドレスとから、?鼾、4
7図で紛明した端点ベクトルを求める。線分移動1虫さ
針基1部109は、この端点ベクトルき、SS点検出h
=ioiが検出した線分方向ベクトルとから、第47図
で説明したような計算を奥行し、線分の移動の速さを求
める。第52図に図示した出力01〜r、l+tI″i
立体認識部等へ導かれる。 第24図以下で説明した平行線検出による3次元計測の
原Jjlj ′!r一応用して、第2図図示オペレータ
支援システム2におけるオペl/−夕の動作の計測を行
うことができる。 ηλ53図は平行線検出をオII用したオペレータ計測
の俯念説明図、第541は平行マーカの実測例、第55
図は平行マーカによる3次元計測を説明するだめの図を
示す。 PI! 53図において、符号J1は第2図に対応し、
120はセンサベースロボットを表わす。例えば、重用
空間のような環境において、ロボッ) 120に作業を
させる場合、人間は球面スクリーン11を見て、別の場
所から遠隔操縦することが考えられでいる。このような
場合、従米ハンドルや操作レバーまたはキーボードによ
って、ロボット12゜への指示が与えられるようにして
いた。しかし、このような方式は、的確な指令を迅速に
与えるΦとが、一般に困難である。例えばオペレータが
頭を動かして球面スクリーン11への視線を変えると、
ロボット120も同じ方向にロボットの眼であるカメラ
を回わすとか、例えばオペレータが球面スクリーンl1
士の1点を指差すと、ロボッ) 120が指差した方向
にあるものを作業対象として認識するとかいうようにで
きれば、オペレータはロボット120を自分の手足のよ
うに操作しやすくなる。 オペレータ等の動作を観測する場合、一般には:A−ヘ
V −夕の姿勢等を拘束するセンサによって、動作を電
気信号に変えることが行われる。以下に述べる方式によ
れば、オペレータの動作や姿勢等を非拘呆で計測するこ
とができる。 ロボット120に指示を与えるオペレータの手、腕、脚
、頭部等の身体部分に、平行線のマーカを取り付ける。 例えば、第24図以下の如く、頭部で駿)れば、ヘルメ
ッ) 1.21または11・Δ子122に平行マーカ1
25を牧り付ければよい。また、腕や指の方向検出には
、例えば手首バンド123や指輪124をオj1用する
ことができる。指輪124のように小宴いものについて
は、 5Nkhtよぐするために、図示の如く拉数組の
平行マーカ125を用いるとなおよい。 この平行マーカ125を操縦室にある球面カメラで入力
し、上述した球面写像等によって、マーカの位置や向き
を実時間計測する。入力画像から平行マーカ125の抽
出には、マーカの色情報を利用す第1ばよい。 平行スリット光による3次元計測では、スリット光を回
転させること17i:よって、物体面の法線ベクトルを
計測(−だが、ここでは、面を求める必要はない。平行
マーカ125の3次元方向ベクトルおよび平行マ〜力1
25の3次元空間座標が求まhばよい。第55図に示す
如く、平行マーカ1.250ベク1゛ルをel、 (1
12とし、カメラの位置を原点0として、球面写像によ
って+1. e2に対するSベクトル91゜@2を求め
る。これは、直交ダイヤグラム表記で、’FA1−(e
l 嘗2−C2 と表わさり、る。ここで(lとの2とは平行であるから
同じベクトルであシ、これをCと書くと、”1− @ 
−”2 となる。従って、 C−口9xxSt2’l /  191x821によシ
、平行マーカ125の3次元方向ベクトルCが求まる。 例えば指差したポイントをロボットが認知するVC6−
1,,3次元方向ベクトルCのほかに、そのベクトル(
が3次元空間において、どの点を通るかについて知る必
要がある。平行マーカ125の3次元空間座標は、例え
ば互いに離れた2台のカメラで平行マーカを受像し、公
知の三角測量によって求める。操縦室にカメラを2台以
上設置することは容易である。 なお、平行マーカ125だけを周囲から抽出するには、
明確な色のついたマーカを用い、例えばカメラにカラー
フィルタを用いたり、カラーカメラで受1象後に色分離
処理を行えはよい。実施例のブロック図については、第
32図などと同様に考えらり、るので省略する。 次に、第2図図示立体認識部8における類似度にもとづ
く立体認識の例について駿明する。 i′B56図は類似度に基づく立体認識についての処(
ill概念税明図、第57図ないし第62図は類似度の
114層についての説明図を示す。 ロボットが周囲にある物体を認識するとき、どの程度寸
で厳密に認識すわばよいかは、そのときの状態や条件に
よって異なる。例えば、オペレータがロボットに対して
対象物体を指示する場合にも、もし周囲に四角い物体が
1個しかなけhば、J、ljに「四角い物」という情報
だけで、ロボットは対象物体を正しく把えることができ
よう。一方、四角い物が、周囲に種々多数存在する場合
には、その寸法等の琢らに詳しい情報を必要とする。 凪56図(Cおいて、128は類似度認識プロセッサ、
129は要素物体モデルデータベース、131U同相1
の認識部、132は同相…の認識部、133は同相lの
認識部、134はおよその拡大率による認識部、135
は同相■の認識部を表わす。すなわち、本方式では、面
の性質・接続関係、面の方向ベクトル、面の相対間隔、
拡大率、絶対寸法というように、類似度で階層化さり、
たモデルに基づき、要求に応じた詳しさで認識が行われ
る。また、例えばロボットがある階層以上に詳しい認識
をすることができずに、認識が中断した場合、その階層
にオケる推定図をオペレータに呈示し、オペレータに確
認・修正を求める。一方、オペレータからは概略的な物
体探索指示など、必要な詳しさで物体の形状指示が可能
である。要素物体モデル・データベース129への新し
い物体の登録に際し、認識可能な詳しさの段階まで認識
を行い、あとはオペレータ支援によル、スクリーン上で
直視的な教示により、新しい情報を得て登録を行う。 類似度の階層の最上位では、いわゆる双対空■1の利用
によって、多面体、回転体等の面の性質や接続関係が調
べられる。第57図(イ)は、実空間における6面体を
表わし、第57図(ロ)は、その6面体を双対空間にお
いて表現したものである。図中、■。 12)、■2国1口2口はそノ1−それ6面体の而を表
わ[7,特に口ないし国は陰で視線から隠れた面を表わ
している。実空間から双対空間への写像は5図かられか
るように、線は線、誂は点、頂点は旬にそれぞれ対応す
るようにされる。ここで、同一の悄造(接続関係)から
なる双対図に対応する多面体は、面の接続関係が同一(
同相I)とみなす。 同相lでは、面の数nが決まる。すなわち、認識部13
1は、上述の球面写像プロセッサからの情報を整理し、
平面/曲面を識別した情報について、phi 素物体モ
デルデータベース129の最上位の各種モデルとあては
めて、マツチングをとることにより、例えば四角い物と
いったレベルでの認識を行う。 類似度の階層の第2位のレベルでは、面の方向ベクトル
(同相■)が着目される。例えば、第58図に図示した
ように、n個の面の法線ベクトルを即位ベクトルmi(
長さ1)で規定する。すなわち、A = (ul、 X
2. ++°、 nbn)と規定し、への法線ベクトル
を持っn多面体を半径1の球に外接する標準n多面体で
代表させる。 表現を簡単化するために、仮に2次元空間の4辺・形を
例にとると、第59図図示の如く、単位ベクトルn1〜
μ4によって、標準4辺形STが定まることになる。こ
のように、同相■ではn個の単位ベクトルが決まる。同
相■の認識部132は、以上のように、球面写像プロセ
ッサの出力から得らり、た面/稜の方向ベクトルについ
て、データベース】29のモデルと照合することにょシ
、例えば踏み台のような物といった認識を行う。 類似度の階層の第3位のレベルでは、面の相対間隔すな
わち同相Iの相似について着目される。 ここでは、第60図に図示したように、n個の法線ベク
トルの大きさの比を定めることが行われる。 すなわち、 113 = (町、 421”21− + ’nnLn
 )が求められる。ここでA2.・・・、匂は、それぞ
れ町に対するμ2.・・・置−の比である。代表n多面
体として、1141を法線とする面が半径1の球に接す
るものを選ぶ。例えば、2次元で表わした場合、第61
図図示のような四辺形ST1が代表することになる。 この同相lでは、n個の法線ベクトルの大きさの比が決
まる。同相1の認識部133は、面の相対間隔情報から
、例えば細い踏み台というレベルの認識を行うことにな
る。 類似度の階層の第4位のレベルでは、およその拡大率に
もとづく認識が行われる。上記単位ベクトル叡、につい
て、およその拡大率に′を与えることにより、 C/ = A/ iB = (A’ru1. A’A2rw2.1.、 A’A
、nvb、 )を演算し、モデルとの照合を行う。すな
わち、認1fi1部134は、稜の寸法比情報等によシ
立体のおよその大きさを定め、例えば大きい踏み台とい
った1、−ベルでの認識を行う。 類似度の階層の最下位レベルでは、同相IV −t−な
わち合同かどうかの絶対寸法に基づく認識が行わ、lす
る。ここでは、厳密な拡大率ルを与えることにより、立
体の厳密な寸法を定める。第61図のような2次元の4
辺形の場合、第62図図示の如く、その絶対的なサイズ
が決められることになる。特徴パラメータは、 C−相 = (AaL、、 AA2rtt2. ・−、kAnr
at、 )で与えられる。同相■で最も詳細な認識がな
さり。 る。同相■の認識部135は、稜の寸法情報等にょシ、
絶対寸法で登録されたモデルと照合して、例えば高さ5
0CTLの踏み台といったレベルの簡識を行うことにな
る。 これによって、要求に応じた詳しさで認識することが可
能となる一方、概略指示での探索も可能となる。もちろ
ん、不十分な認識についてはオペレータ支援が可能であ
る。 (E)  発明の詳細 な説明した如く本発明によれば、球面カメラによる等距
離射影の像を球面写像することにより、入力画像情報か
ら立体認識などに極めて有効な情報を各種抽出すること
ができ、ロボットの視覚として有効な方式を提供するこ
とが可能になる。
【図面の簡単な説明】
&λ1図従来用いら・れているハフ変換の〜明図、!!
J32図は本発明に関連したロボットの全体システム構
成し11、第3図ないし第5図は球面カメラにつし)て
の説明図、第6図は本発明に係る画像入力部の一実施例
オn成、第7図は第6図図示実施例を説す11するため
の図、第8図は特距離躬影レンズの特性説明図、第9図
ないし第11図は球面投影についての船町図、菓12図
および第13図は球面写像の原岬説明図、第14図は線
分の抽出についての説明図、第15図および第16図は
線分の再生についての説明図、第17図は移動物体の検
出についての説明1メ1、第18図は交点の再生につい
ての説明図、第19図は平行線の検出についての説明図
、第20図は本発明に係る一実施例構成ブロック図、第
21図は球面投影画像メモリと写像メモリとの関係を説
明するだめの回、第22図は緯度および経度アドレスの
説明図、第23図はノ・フ変換の応用についての説明図
、第24図は平行スリット光利用による3次元計測の概
念説明図、第25図ないし第27図は平行スリット光利
用による3次元計測の原理を説明するだめの図、第28
図は3次元計測の処理についての説明図、第29図ない
し第31図は距離計測につじでの原理を説明するだめの
図、第32図は、本発明に関連した一実施例構成ブロッ
ク図、第33図は従来の平行スリット光発生方式の例、
第34図ないし第38図はスリット光間隔を司変にした
平行スリット光発生機構の説明図、第39図は直線の方
向ベクトル計沖1についての説明図、第40図ないし第
44図は眼の移動による奥行き計測につじでの説明図、
第45図は直線移動による奥行き分離の概念を説明する
だめの図、第46図は線分の移動による3次元計測の説
明図、第47図は長さが既知である線分の移動の速さを
計測する原理についての説明図、第48図は物体の直線
移動による3次元計測の処理説明図、第49図ないし第
51図は構造線を利用した3次元計測の説明図、第52
図は本発明に関連した一実施例構成ブロック図、第53
図は平行線検出を利用したオペ1/−夕計測の概念説明
図、第54図は平行マーカの実施例、第55図は平行マ
ーカによる3次元計測を説明するだめの図、第56図は
類イ以度に基づく立体認識についての処甥概念欣明lB
+ 、第57図ないし第62図は類似度C)酸1脩につ
いての説。 明図を示す。 図中、1は環境理解システム、2はオペレータ支援シス
テム、3はアーム移動機構、4は球面カメラ、5は輪郭
抽出プロセッサ、33は球面、53オマび54は球面投
影画像メモリ、57および58は写像メモリを表わす。 特許出願人  富士通株式会社 代理人弁理士  森 1) 寛(外1名)才z、H ″lt−εm 才′1図 才10膓 才12図 へ ’;]”Ill す53I¥1 fs+B

Claims (1)

    【特許請求の範囲】
  1. 光学的手段によル周囲に存在する物体の3次元十n#を
    抽出し環境を理解するロボットの環境理解システムにお
    いて、球面投影によ、り外部物体の像を捕捉する画像入
    力手段と、該画像入力手段によって角度情報として捕捉
    した像について、投影球面上において点を直線に、また
    直線をその直線に含まれる点に対応する直線群によって
    定壕る点に球面上で双対写像を行い、該写像された点の
    有無を検出して、外部物体の構成線分を抽出する球面写
    像処理部とを少なくともそなえ、球面写像による3次元
    計測を行うようにしたことを特徴とするロボットの環境
    理解システム。
JP58059119A 1983-04-04 1983-04-04 ロボツトの環境理解システム Granted JPS59184973A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP58059119A JPS59184973A (ja) 1983-04-04 1983-04-04 ロボツトの環境理解システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP58059119A JPS59184973A (ja) 1983-04-04 1983-04-04 ロボツトの環境理解システム

Publications (2)

Publication Number Publication Date
JPS59184973A true JPS59184973A (ja) 1984-10-20
JPH0352106B2 JPH0352106B2 (ja) 1991-08-08

Family

ID=13104101

Family Applications (1)

Application Number Title Priority Date Filing Date
JP58059119A Granted JPS59184973A (ja) 1983-04-04 1983-04-04 ロボツトの環境理解システム

Country Status (1)

Country Link
JP (1) JPS59184973A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0165086A2 (en) * 1984-04-13 1985-12-18 Fujitsu Limited Information extraction by mapping
WO1990016037A1 (en) 1989-06-20 1990-12-27 Fujitsu Limited Method for measuring position and posture of object
JPH03113579A (ja) * 1989-09-28 1991-05-14 Agency Of Ind Science & Technol 3次元計測方法
JP2009288885A (ja) * 2008-05-27 2009-12-10 Tottori Univ 車線検出装置、車線検出方法、及び車線検出プログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5691765A (en) * 1995-07-27 1997-11-25 Sensormatic Electronics Corporation Image forming and processing device and method for use with no moving parts camera

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0165086A2 (en) * 1984-04-13 1985-12-18 Fujitsu Limited Information extraction by mapping
WO1990016037A1 (en) 1989-06-20 1990-12-27 Fujitsu Limited Method for measuring position and posture of object
US5446798A (en) * 1989-06-20 1995-08-29 Fujitsu Limited Method and apparatus for measuring position and orientation of an object based on a sequence of projected points
JPH03113579A (ja) * 1989-09-28 1991-05-14 Agency Of Ind Science & Technol 3次元計測方法
JP2009288885A (ja) * 2008-05-27 2009-12-10 Tottori Univ 車線検出装置、車線検出方法、及び車線検出プログラム

Also Published As

Publication number Publication date
JPH0352106B2 (ja) 1991-08-08

Similar Documents

Publication Publication Date Title
US11748906B2 (en) Gaze point calculation method, apparatus and device
US20200111250A1 (en) Method for reconstructing three-dimensional space scene based on photographing
Scaramuzza Omnidirectional vision: from calibration to root motion estimation
Scaramuzza et al. Extrinsic self calibration of a camera and a 3d laser range finder from natural scenes
CN105279750B (zh) 一种基于ir-uwb和图像矩的装备展示导览***
US5699444A (en) Methods and apparatus for using image data to determine camera location and orientation
CN108765548A (zh) 基于深度相机的三维场景实时重建方法
Zhao et al. Reconstruction of textured urban 3D model by fusing ground-based laser range and CCD images
CN111981982B (zh) 一种基于加权sfm算法的多向合作靶标光学测量方法
JP7273284B2 (ja) データ生成方法、装置およびプログラム
Geyer et al. Conformal rectification of omnidirectional stereo pairs
CN109613974A (zh) 一种大场景下的ar家居体验方法
Tang et al. Design of vertically aligned binocular omnistereo vision sensor
WO2008034942A1 (en) Method and apparatus for stereopanoramic imaging
KR102389762B1 (ko) 디지털 트윈 연동 증강현실 카메라를 통한 공간 형성 및 인식 시스템 및 그 방법
Vunder et al. Improved situational awareness in ros using panospheric vision and virtual reality
JPS59184973A (ja) ロボツトの環境理解システム
TW565736B (en) Method for determining the optical parameters of a camera
JP2003296708A (ja) データ処理方法、データ処理プログラムおよび記録媒体
KR20220107893A (ko) 실제대상물과 가상대상물 사이의 상호작용을 지원하는 장치 및 이를 운영하는 방법
JP2005063012A (ja) 全方位カメラ運動と3次元情報の復元方法とその装置及びプログラム並びにこれを記録した記録媒体
Carpiceci Survey problems and representation of architectural painted surfaces
Gutierrez et al. A cost-efficient 3D sensing system for autonomous mobile robots
JP2000331151A (ja) 画像処理方法、画像歪み補正処理装置、及びそのプログラムを記録した記録媒体
Ahmad Yusri et al. Preservation of cultural heritage: a comparison study of 3D modelling between laser scanning, depth image, and photogrammetry methods