JP2005024463A - ステレオ広視野画像処理装置 - Google Patents
ステレオ広視野画像処理装置 Download PDFInfo
- Publication number
- JP2005024463A JP2005024463A JP2003192336A JP2003192336A JP2005024463A JP 2005024463 A JP2005024463 A JP 2005024463A JP 2003192336 A JP2003192336 A JP 2003192336A JP 2003192336 A JP2003192336 A JP 2003192336A JP 2005024463 A JP2005024463 A JP 2005024463A
- Authority
- JP
- Japan
- Prior art keywords
- stereo
- camera
- image
- wide
- intruder
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Measurement Of Optical Distance (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】ステレオ視の撮像領域から正確な距離情報を取得しつつ、非ステレオ視の撮像領域も活用して広い実効視野を得る。
【解決手段】ステレオカメラ1の各カメラ1a,1bの光軸が同一平面上で非平行となるように配置し、ステレオ視の領域RMと非ステレオ視の領域RSとにより実効視野を拡大し、更にステー2の中心位置に旋回軸3を設け、駆動モータ4によりカメラ系全体を回転させて広域の走査を可能とする。これにより、侵入物監視装置に適用する場合、何れか一方のカメラの視野内に物体が侵入すれば、その侵入物を検知することができ、光軸を平行に配置したステレオカメラを用いた装置に比較し、検知可能範囲を拡大することができる。また、単に、単眼式のカメラを複数台併設した監視装置に比較し、ステレオ法を併用した確実な検知を行うことができ、誤検出を防止して信頼性を向上することができる。
【選択図】 図1
【解決手段】ステレオカメラ1の各カメラ1a,1bの光軸が同一平面上で非平行となるように配置し、ステレオ視の領域RMと非ステレオ視の領域RSとにより実効視野を拡大し、更にステー2の中心位置に旋回軸3を設け、駆動モータ4によりカメラ系全体を回転させて広域の走査を可能とする。これにより、侵入物監視装置に適用する場合、何れか一方のカメラの視野内に物体が侵入すれば、その侵入物を検知することができ、光軸を平行に配置したステレオカメラを用いた装置に比較し、検知可能範囲を拡大することができる。また、単に、単眼式のカメラを複数台併設した監視装置に比較し、ステレオ法を併用した確実な検知を行うことができ、誤検出を防止して信頼性を向上することができる。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、ステレオカメラを用いて正確な距離情報と広い実効視野とを得ることのできるステレオ広視野画像処理装置に関する。
【0002】
【従来の技術】
一般に、画像による三次元計測技術として、ステレオカメラで撮像した一対の画像間の対応位置を求め、この対応位置の視差からステレオカメラの取り付け位置や焦点距離等のカメラパラメータを用いて三角測量の原理により距離を求める、いわゆるステレオ法による画像処理の技術が知られている。このステレオ法による画像処理の技術は、建物や敷地内への侵入物を監視する監視装置、車両の前方に存在する他の車両や歩行者を検出する車両周辺監視装置等に適用することができ、ステレオ画像から物体の有無と物体の三次元情報を得ることができる。
【0003】
ステレオ画像を撮像するステレオカメラは、2台のカメラの互いの視野が重なるステレオ視の領域がある限り、原理的には、各カメラをどのような位置に配置しても良いが、取り扱い上の利便性から、一方のカメラを平行移動した位置に他方のカメラを配置し、互いの光軸が同一平面上で平行となる、いわゆる平行ステレオカメラが多く用いられている。平行ステレオカメラは、標準ステレオカメラと称される場合もある。
【0004】
上述の平行ステレオカメラに対し、各カメラの光軸が互いに交差する方向に配置したステレオカメラや、互いのカメラの光軸が開く方向に配置したステレオカメラを使用した画像処理の技術も知られており、前者は、特許文献1(特開平6−331349号公報)に開示され、後者は、特許文献2(特開2001−312018号公報)に開示されている。
【0005】
【特許文献1】
特開平6−331349号公報
【0006】
【特許文献2】
特開2001−312018号公報
【0007】
【発明が解決しようとする課題】
しかしながら、従来、ステレオカメラで撮像した画像を処理して物体を検出する装置では、正確な距離情報を得ることができるものの、カメラの全視野のうち、ステレオ視の領域のみが処理対象となるため、実効視野が狭いという問題がある。特許文献1や特許文献2に開示のステレオカメラでは、平行ステレオカメラより視野の拡大が図られているが、あくまでステレオ視の領域に限定される。
【0008】
すなわち、特許文献1に開示の技術は、ステレオ測距の機能のみに限定されるものであり、ステレオカメラの全視野のうち、非ステレオ視の領域については全く役に立っていない。また、特許文献2に開示の技術は、人間の視野を自然に近い形で再現するステレオ画像を得るものであり、人間が見る機能のみを考慮し、ステレオ測距の機能は考慮されていない。
【0009】
本発明は上記事情に鑑みてなされたもので、ステレオ視の撮像領域から正確な距離情報を取得しつつ、非ステレオ視の撮像領域も活用して広い実効視野を得ることのできるステレオ広視野画像処理装置を提供することを目的としている。
【0010】
【課題を解決するための手段】
上記目的を達成するため、本発明のステレオ広視野画像処理装置は、互いに重なる撮像視野を有する一組のカメラであって、一方のカメラの光軸と他方のカメラの光軸とを非平行に配置したステレオカメラと、上記ステレオカメラの各カメラの撮像画像で物体の存在を検出する非ステレオ処理手段と、上記ステレオカメラで撮像した一対の画像の互いの撮像視野が重なる領域で物体の存在と物体までの距離とを検出するステレオ処理手段とを備えたことを特徴とする。
【0011】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。図1〜図5は本発明の実施の第1形態に係わり、図1はステレオカメラの配置を示す説明図、図2は広視野画像処理装置のブロック構成図、図3は侵入物検出処理のフローチャート、図4は非ステレオ視による侵入物候補を示す説明図、図5はステレオ視による侵入物の確定を示す説明図である。
【0012】
図1において、符号1は、互いに同期のとれた2台のカメラ1a,1bからなるステレオカメラであり、同図においては、両カメラ1a,1bの設置面と直交する方向から見た配置を示す。ステレオカメラ1を構成する各カメラ1a,1bは、例えば撮像素子としてCCD(電荷結合素子)を用いたカメラであり、互いの撮像視野が重なる領域を有しながら互いの光軸(撮像面垂直軸)が同一平面上で非平行となる偏差をもつようにステー2に設置されている。尚、ここでの偏差とは、両カメラ1a,1bの光軸を平行に配置した場合に対する振れである。
【0013】
各カメラ1a,1bの光軸の偏差は、図1に示すように互いの光軸が開く方向、或いは互いの光軸が交差する方向に設定される。従って、各カメラの光軸を平行に配置するステレオカメラ(標準ステレオカメラ)に対し、両カメラ1a,1bの撮像視野が重なるステレオ視の領域RMと、各カメラ1a,1b毎の単眼の非ステレオ視の領域RSとにより実効視野を拡大することができ、本ステレオカメラ1を広視野画像用のステレオカメラとすることができる。
【0014】
更に、本形態においては、カメラ系の中心線上となるステー2の両カメラ1a,1bの取付け間隔の中心位置に、カメラ系全体を旋回させるための旋回軸3が設けられている。旋回軸3には、駆動モータ4が直接或いはギヤ等を介して連結され、各カメラ1a,1bの相対位置を保持しながらステレオカメラ1全体を回転させるカメラ回転機構を形成している。
【0015】
そして、駆動モータ4により、カメラ系全体を旋回軸3を中心として両光軸のなす平面に沿って旋回させることで、広域の走査を可能としている。但し、本形態においては、カメラ系の旋回は連続的なものではなく、予め設定された有限個の回転角度毎、例えば、カメラ系中心線で10°刻みの一定の角度刻み毎に旋回させる離散的なものである。
【0016】
尚、ステレオカメラ1全体を回転させず、各カメラ1a,1bそれぞれを回転させるようにしても良いが、その場合には、互いのカメラ位置と回転角度との関係を精密に管理する必要がある。
【0017】
ステレオカメラ1は、以下の説明では、カメラ1a,1bが左右水平に配置されているものとし、一方のカメラ1aをステレオマッチング処理における基準画像を撮像する右カメラ、他方のカメラ1bをステレオマッチング処理における参照画像を撮像する左カメラ、基準画像を右画像、参照画像を左画像と表現するが、両カメラ1a,1bを上下方向や斜め方向に配置しても良い。
【0018】
広視野画像用ステレオカメラとしてのステレオカメラ1で撮像した一対の画像は、図2に示す広視野画像処理装置20によって処理される。この広視野画像処理装置20は、各カメラ1a,1bの系統に対応して、各カメラ1a,1bからの画像信号を比例増幅するアンプ5a,5b、アンプ5a,5bで比例増幅したアナログ画像信号を所定の輝度階調(例えば256階調のグレースケール)のデジタル画像信号に変換するA/D変換器6a,6b、アンプ5a,5bの固有ゲインの補正等を行なう補正回路7a,7b、補正回路7a,7bを経た左右の画像間のステレオ視の領域RMで走査線方向に対応位置を探索する等のステレオマッチングを行い、対応位置の視差(画素ずれ量)を求めるステレオマッチング回路8、ステレオマッチング回路8で求めた視差を距離画像データとしてストアする距離画像メモリ9aと補正回路7aを経た右の元画像データをストアする右画像メモリ9bと補正回路7bを経た左の元画像データをストアする左画像メモリ9cとからなる画像メモリ9、画像メモリ9にストアされた距離画像データ及び左右の元画像データを用い、主として各種画像処理・画像認識を行うマイクロコンピュータ10、マイクロコンピュータ10から適宜出力される旋回軸3の角度指示値により駆動モータ4を駆動し、ステレオカメラ1全体を角度指示値に従った角度だけ旋回させる旋回制御回路11を備えて構成される。
【0019】
マイクロコンピュータ10は、ファームウエアとして画像認識処理部10aを備えている。この画像認識処理部10aは、本発明に係わる非ステレオ処理手段及びステレオ処理手段としての機能を含むものであり、非ステレオ視による広視野の情報とステレオ視による詳細な距離情報とを用い、各種の認識処理、例えば、建造物への侵入物監視における人物や物体の存在と位置の認識、車両の前方・側方監視における先行車両や歩行者の存在と位置の認識等の処理を行う。
【0020】
更に、画像認識処理部10aは、本発明に係わるカメラ回転制御手段としての機能も含み、認識処理の際、必要に応じて旋回制御回路11に旋回軸3の旋回角度を指示する角度指示値を出力し、駆動モータ4によりステレオカメラ1を旋回させて撮像方向を可変する。
【0021】
以下、ステレオカメラ1を用いた広視野画像処理装置20を、建物・敷地内への侵入物(侵入者)を監視する侵入物監視装置として適用する場合を例に取り、この侵入物監視装置による侵入物検出処理について、図3のフローチャートを用いて説明する。
【0022】
図3に示す侵入物検出処理は、撮像画像のフレーム毎の処理を示し、先ず、ステップS1において、右画像データ及び左画像データの両方に対し、単眼法による侵入物検知処理を行う。このステップS1における侵入物検知は、非ステレオ法による処理であるため、侵入物の検知精度が低く、地面に映った影や外光の反射等の虚像を検知する可能性がある。従って、ステップS1での侵入物検知処理では、画像中に侵入してきた物体である可能性が高い領域を、とりあえず侵入物の“候補”として抽出し、この侵入物候補の有無及び位置を検出する。
【0023】
このような侵入物候補を抽出する技術としては、既知の技術、例えば背景差分法による領域抽出の技術を採用することができる。背景差分法による領域抽出では、侵入物を含まない画像を背景画像として用いるが、本形態では、カメラ系全体の旋回に対応するため、前述の角度刻み毎に異なる背景画像を予めメモリ上に記憶しておく。
【0024】
そして、現在のカメラ系の旋回角度に対応する背景画像を選択して現フレームの画像と比較することで、侵入物候補を検出する。例えば、背景画像と現フレームの画像との画素毎の輝度を比較し、輝度の差の絶対値が所定の閾値以上である画素の集合を、侵入物の候補となる領域として抽出する。侵入物候補の位置は、領域の重心位置で代表する。
【0025】
次に、ステップS1からステップS2へ進み、左右画像の少なくとも一方の画像に侵入物候補が有るか否かを調べる。その結果、左右何れの画像にも侵入物候補が存在しない場合には、次の画像フレームまで待機し、次フレームで再度ステップS1の処理を行う。
【0026】
また、左右画像の少なくとも一方に侵入物候補がある場合には、ステップS2からステップS3へ進み、左右両画像に侵入物候補があるか否かを調べる。そして、左右画像の一方にのみ侵入物候補がある場合、すなわち、両カメラ1a,1bの視野が重ならない非ステレオ視の領域に侵入物候補が映っている場合には、ステップS3からステップS4へ進んでステレオカメラ1全体を旋回させる処理を行い、左右画像の両者に侵入物候補がある場合、ステップS3からステップS5へ進み、ステレオ法による侵入物の確定を行う。
【0027】
但し、同じフレームで、左画像の非ステレオ視の領域と右画像の非ステレオ視の領域とに、それぞれ別の侵入物候補が映っている場合には、ステレオカメラ1の設置位置や監視位置の優先度等から予め設定した方向の画像側にのみ侵入物候補があるものとして、ステップS3からステップS4へ進む。
【0028】
左右画像の一方にのみ侵入物候補がある場合、ステップS4では、侵入物候補の位置情報により、侵入物候補がステレオ視の領域に入るようステレオカメラ1全体を旋回させる角度指示値を算出し、この角度指示値を旋回制御回路11に出力して駆動モータ4を回転させ、ステレオカメラ1全体を旋回させる。すなわち、右画像に侵入物候補が映っていた場合にはステレオカメラ1全体を右回転させ、左画像に侵入物候補が映っていた場合にはステレオカメラ1全体を左回転させ、次フレームまで待機する。
【0029】
例えば、図4に示すように、ステップS1の処理で右画像の非ステレオ視の領域に、侵入物候補S’が検出されたとき、この侵入物候補S’は、地面に映った影や外光の反射等の虚像である可能性がある。従って、ステレオカメラ1全体を右回転させて侵入物候補S’の重心を通るラインLを左右画像のステレオ視の領域内に移動させ、図5に示すように、次フレームを撮影する。そして、右画像のステレオ視の領域に映った侵入物の像SRと、左画像のステレオ視の領域に映った侵入物の像SLとに対し、ステレオマッチングを行うことにより、侵入物候補S’が真に侵入物を捉えたものか否かを確認する。
【0030】
左右画像の両者に侵入物候補が映り、侵入物候補がステレオ視の領域に入った場合、ステップS5では、ステレオ法を用いて再度侵入物の検知処理を行い、侵入物を正確に確定する。このステレオ法による侵入物の検知処理としては、例えば、本出願人による特願2002−255417号に記載の背景視差を用いたマッチングの技術を用いることができる。
【0031】
この背景視差によるマッチングでは、予め侵入物を含まない左右画像に対してステレオマッチングを行い、基準画像(右画像)上の各位置における視差(背景視差)を求めて背景距離画像として記憶しておく。そして、現在の左右の元画像に対し、背景距離画像の背景視差分だけずらし、左右画像の一致度を計算する。但し、本形態では、カメラ系全体の旋回に対応するため、前述した角度刻み毎に異なる背景距離画像を予め記憶している。
【0032】
画像中に侵入物が存在しない場合には、右画像上の或る点と背景視差分だけずらした左画像上の点とは、実空間上の同じ位置を映していることから、左右画像の一致度を計算した結果、一致度が高ければ、背景に元から存在する物体を検出した(侵入物は存在しない)と判断することができ、一致度が低ければ、侵入物が存在すると判断することができる。
【0033】
その後、ステップS6へ進み、ステップS5での処理結果から侵入物の有無を判定する。そして、侵入物候補がノイズ等の影響による誤検出であり、侵入物無しと判定された場合には、次フレームまで待機し、新たなフレームに対してステップS1からの処理を再開する。また、侵入物有りと判定された場合には、音や光等による警報を出力し、ブザーを鳴らす、赤色回転燈を点灯させる等して侵入物の存在を警告する。
【0034】
本実施の形態では、各カメラ1a,1bの光軸を偏差をもたせて配置したステレオカメラ1を用い、このステレオカメラ1の非ステレオ視の視野領域とステレオ視の視野領域とを観測領域とすることから、侵入物監視装置に適用する場合、何れか一方のカメラの視野内に物体が侵入すれば、その侵入物を検知することができ、光軸を平行に配置した標準ステレオカメラを用いた装置に比較し、検知可能範囲を拡大することができる。
【0035】
また、単に、単眼式のカメラを複数台併設した監視装置に比較し、ステレオ法を併用した確実な検知を行うことができるので、地面に映った影や反射光等の虚像による誤検出を防止することができ、信頼性を向上することができる。
【0036】
次に、本発明の実施の第2形態について説明する。図6〜図8は本発明の実施の第2形態に係わり、図6はステレオカメラの配置を示す説明図、図7は監視装置のブロック構成図、図8は前方・側方監視処理のフローチャートである。
【0037】
第2形態は、車両に搭載する前方・側方監視装置への適用例を示すものであり、車両のような移動体で要求される処理速度や監視領域からの逸脱防止等を考慮してステレオカメラ1を旋回させず、カメラ系中心軸を車両の進行方向正面に向けて固定する。
【0038】
すなわち、図6に示すように、ステレオカメラ1を旋回させるための旋回軸3及び駆動モータ4を廃止して車両にステレオカメラ1を固定し、また、ステレオカメラ1を固定することに対応して、図7に示すように、本形態の前方・側方監視装置20Aでは、第1形態で説明した広視野画像処理装置20から旋回制御回路11を省略する。
【0039】
この前方・側方監視装置20Aによる自車両の前方・側方監視処理は、図8にのフローチャートに示される。
【0040】
図8のフローチャートは、撮像画像のフレーム毎の処理を示し、先ず、ステップS11で、左右画像のそれぞれについて、単眼法による歩行者の検知処理を行う。この単眼法による歩行者検知では、車両外界の風景が種々変化することから、第1形態で説明した背景差分法を適用することは困難であり、例えば、フレーム間の動きベクトルであるオプティカルフローを用いて歩行者を検知する。
【0041】
このオプティカルフローによる歩行者の検知処理では、画像内の物体を一塊の動いている領域として捕らえ、この領域の動きベクトルの大きさと方向とに基づいて、特定の方向の物体を検出する。すなわち、画像間のオプティカルフローを調べることにより、画像内で自車両の走行路中心から外側に向かう領域は、道路脇の電柱や立木等の物体であると認識することができ、画像内で自車両の走行路中心に向かう領域は、歩行者であると認識することができる。
【0042】
以上のステップS11での歩行者の検知処理が済むと、次にステップS12へ進み、自車両に衝突する可能性のある歩行者の有無を調べる。そして、自車両に衝突する可能性のある歩行者が検出された場合には、例えば、運転席付近に設置したブザーを鳴らす等して警報を出力し、運転者に衝突回避の操作を促す。
【0043】
尚、第1形態と同様、ステレオカメラ1に旋回軸3を設け、設定速度以下の極低速時にのみ、旋回制御回路11を介して駆動モータ4を駆動し、ステレオカメラ1を旋回させるようにしても良く、単眼法による歩行者の検知に、ステレオ測距による自車両と歩行者との間の距離情報を加えることで、より正確に歩行者を検出することが可能となる。その場合、設定速度を越えたときには、ステレオカメラ1のカメラ系中心軸を車両の進行方向正面に戻し、駆動モータ4による旋回を禁止する。
【0044】
一方、自車両に衝突する可能性のある歩行者が検出されない場合には、ステップS12からステップS13へ進み、右カメラ1a及び左カメラ1bの視野が重なるステレオ視領域での前方監視に移行する。この前方監視では、左右の両画像のステレオマッチングを行い、光軸の偏差を考慮して自車両の前方にいる先行車両と自車両との間の車間距離を測距する。
【0045】
ステップS13に続くステップS14では、ステレオ測距した車間距離と予め設定した閾値とを比較し、自車両に異常接近する先行車両の有無を判断する。そして、車間距離が閾値より大きく、先行車両と衝突或いは接触の虞がない場合には、次フレームまで待機し、車間距離が閾値以下で近すぎる先行車両が有り、衝突或いは接触の可能性がある場合には、同様にブザーを鳴らす等して警報を出力し、運転者に回避動作を促す。
【0046】
この場合、自車両と先行車両との車間距離に加えて、自車両と先行車両との間の相対速度を算出し、車間距離と相対速度とに基づいて、衝突或いは接触の可能性を判断するようにしても良い。
【0047】
第2形態では、車両搭載の監視装置への適用に際し、従来のようにステレオ測距の機能のみを使用する装置に比較して、非ステレオ視とステレオ視との双方で車両周辺を監視するため、実効視野を拡大することができ、歩行者や選考車両との接触・衝突を回避する上での予防安全性を高めることができる。
【0048】
【発明の効果】
以上説明したように本発明によれば、ステレオ視の撮像領域から正確な距離情報を取得しつつ、非ステレオ視の撮像領域も活用して広い実効視野を得ることができ、広範囲の物体を正確に検出することが可能となる。
【図面の簡単な説明】
【図1】本発明の実施の第1形態に係わり、ステレオカメラの配置を示す説明図
【図2】同上、広視野画像処理装置のブロック構成図
【図3】同上、侵入物検出処理のフローチャート
【図4】同上、非ステレオ視による侵入物候補を示す説明図
【図5】同上、ステレオ視による侵入物の確定を示す説明図
【図6】本発明の実施の第2形態に係わり、ステレオカメラの配置を示す説明図
【図7】同上、前方・側方監視装置のブロック構成図
【図8】同上、前方・側方監視処理のフローチャート
【符号の説明】
1 ステレオカメラ
2 ステー
3 旋回軸
4 駆動モータ
8 ステレオマッチング回路
10 マイクロコンピュータ
10a 画像認識処理部
11 旋回制御回路
20 広視野画像処理装置
【発明の属する技術分野】
本発明は、ステレオカメラを用いて正確な距離情報と広い実効視野とを得ることのできるステレオ広視野画像処理装置に関する。
【0002】
【従来の技術】
一般に、画像による三次元計測技術として、ステレオカメラで撮像した一対の画像間の対応位置を求め、この対応位置の視差からステレオカメラの取り付け位置や焦点距離等のカメラパラメータを用いて三角測量の原理により距離を求める、いわゆるステレオ法による画像処理の技術が知られている。このステレオ法による画像処理の技術は、建物や敷地内への侵入物を監視する監視装置、車両の前方に存在する他の車両や歩行者を検出する車両周辺監視装置等に適用することができ、ステレオ画像から物体の有無と物体の三次元情報を得ることができる。
【0003】
ステレオ画像を撮像するステレオカメラは、2台のカメラの互いの視野が重なるステレオ視の領域がある限り、原理的には、各カメラをどのような位置に配置しても良いが、取り扱い上の利便性から、一方のカメラを平行移動した位置に他方のカメラを配置し、互いの光軸が同一平面上で平行となる、いわゆる平行ステレオカメラが多く用いられている。平行ステレオカメラは、標準ステレオカメラと称される場合もある。
【0004】
上述の平行ステレオカメラに対し、各カメラの光軸が互いに交差する方向に配置したステレオカメラや、互いのカメラの光軸が開く方向に配置したステレオカメラを使用した画像処理の技術も知られており、前者は、特許文献1(特開平6−331349号公報)に開示され、後者は、特許文献2(特開2001−312018号公報)に開示されている。
【0005】
【特許文献1】
特開平6−331349号公報
【0006】
【特許文献2】
特開2001−312018号公報
【0007】
【発明が解決しようとする課題】
しかしながら、従来、ステレオカメラで撮像した画像を処理して物体を検出する装置では、正確な距離情報を得ることができるものの、カメラの全視野のうち、ステレオ視の領域のみが処理対象となるため、実効視野が狭いという問題がある。特許文献1や特許文献2に開示のステレオカメラでは、平行ステレオカメラより視野の拡大が図られているが、あくまでステレオ視の領域に限定される。
【0008】
すなわち、特許文献1に開示の技術は、ステレオ測距の機能のみに限定されるものであり、ステレオカメラの全視野のうち、非ステレオ視の領域については全く役に立っていない。また、特許文献2に開示の技術は、人間の視野を自然に近い形で再現するステレオ画像を得るものであり、人間が見る機能のみを考慮し、ステレオ測距の機能は考慮されていない。
【0009】
本発明は上記事情に鑑みてなされたもので、ステレオ視の撮像領域から正確な距離情報を取得しつつ、非ステレオ視の撮像領域も活用して広い実効視野を得ることのできるステレオ広視野画像処理装置を提供することを目的としている。
【0010】
【課題を解決するための手段】
上記目的を達成するため、本発明のステレオ広視野画像処理装置は、互いに重なる撮像視野を有する一組のカメラであって、一方のカメラの光軸と他方のカメラの光軸とを非平行に配置したステレオカメラと、上記ステレオカメラの各カメラの撮像画像で物体の存在を検出する非ステレオ処理手段と、上記ステレオカメラで撮像した一対の画像の互いの撮像視野が重なる領域で物体の存在と物体までの距離とを検出するステレオ処理手段とを備えたことを特徴とする。
【0011】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。図1〜図5は本発明の実施の第1形態に係わり、図1はステレオカメラの配置を示す説明図、図2は広視野画像処理装置のブロック構成図、図3は侵入物検出処理のフローチャート、図4は非ステレオ視による侵入物候補を示す説明図、図5はステレオ視による侵入物の確定を示す説明図である。
【0012】
図1において、符号1は、互いに同期のとれた2台のカメラ1a,1bからなるステレオカメラであり、同図においては、両カメラ1a,1bの設置面と直交する方向から見た配置を示す。ステレオカメラ1を構成する各カメラ1a,1bは、例えば撮像素子としてCCD(電荷結合素子)を用いたカメラであり、互いの撮像視野が重なる領域を有しながら互いの光軸(撮像面垂直軸)が同一平面上で非平行となる偏差をもつようにステー2に設置されている。尚、ここでの偏差とは、両カメラ1a,1bの光軸を平行に配置した場合に対する振れである。
【0013】
各カメラ1a,1bの光軸の偏差は、図1に示すように互いの光軸が開く方向、或いは互いの光軸が交差する方向に設定される。従って、各カメラの光軸を平行に配置するステレオカメラ(標準ステレオカメラ)に対し、両カメラ1a,1bの撮像視野が重なるステレオ視の領域RMと、各カメラ1a,1b毎の単眼の非ステレオ視の領域RSとにより実効視野を拡大することができ、本ステレオカメラ1を広視野画像用のステレオカメラとすることができる。
【0014】
更に、本形態においては、カメラ系の中心線上となるステー2の両カメラ1a,1bの取付け間隔の中心位置に、カメラ系全体を旋回させるための旋回軸3が設けられている。旋回軸3には、駆動モータ4が直接或いはギヤ等を介して連結され、各カメラ1a,1bの相対位置を保持しながらステレオカメラ1全体を回転させるカメラ回転機構を形成している。
【0015】
そして、駆動モータ4により、カメラ系全体を旋回軸3を中心として両光軸のなす平面に沿って旋回させることで、広域の走査を可能としている。但し、本形態においては、カメラ系の旋回は連続的なものではなく、予め設定された有限個の回転角度毎、例えば、カメラ系中心線で10°刻みの一定の角度刻み毎に旋回させる離散的なものである。
【0016】
尚、ステレオカメラ1全体を回転させず、各カメラ1a,1bそれぞれを回転させるようにしても良いが、その場合には、互いのカメラ位置と回転角度との関係を精密に管理する必要がある。
【0017】
ステレオカメラ1は、以下の説明では、カメラ1a,1bが左右水平に配置されているものとし、一方のカメラ1aをステレオマッチング処理における基準画像を撮像する右カメラ、他方のカメラ1bをステレオマッチング処理における参照画像を撮像する左カメラ、基準画像を右画像、参照画像を左画像と表現するが、両カメラ1a,1bを上下方向や斜め方向に配置しても良い。
【0018】
広視野画像用ステレオカメラとしてのステレオカメラ1で撮像した一対の画像は、図2に示す広視野画像処理装置20によって処理される。この広視野画像処理装置20は、各カメラ1a,1bの系統に対応して、各カメラ1a,1bからの画像信号を比例増幅するアンプ5a,5b、アンプ5a,5bで比例増幅したアナログ画像信号を所定の輝度階調(例えば256階調のグレースケール)のデジタル画像信号に変換するA/D変換器6a,6b、アンプ5a,5bの固有ゲインの補正等を行なう補正回路7a,7b、補正回路7a,7bを経た左右の画像間のステレオ視の領域RMで走査線方向に対応位置を探索する等のステレオマッチングを行い、対応位置の視差(画素ずれ量)を求めるステレオマッチング回路8、ステレオマッチング回路8で求めた視差を距離画像データとしてストアする距離画像メモリ9aと補正回路7aを経た右の元画像データをストアする右画像メモリ9bと補正回路7bを経た左の元画像データをストアする左画像メモリ9cとからなる画像メモリ9、画像メモリ9にストアされた距離画像データ及び左右の元画像データを用い、主として各種画像処理・画像認識を行うマイクロコンピュータ10、マイクロコンピュータ10から適宜出力される旋回軸3の角度指示値により駆動モータ4を駆動し、ステレオカメラ1全体を角度指示値に従った角度だけ旋回させる旋回制御回路11を備えて構成される。
【0019】
マイクロコンピュータ10は、ファームウエアとして画像認識処理部10aを備えている。この画像認識処理部10aは、本発明に係わる非ステレオ処理手段及びステレオ処理手段としての機能を含むものであり、非ステレオ視による広視野の情報とステレオ視による詳細な距離情報とを用い、各種の認識処理、例えば、建造物への侵入物監視における人物や物体の存在と位置の認識、車両の前方・側方監視における先行車両や歩行者の存在と位置の認識等の処理を行う。
【0020】
更に、画像認識処理部10aは、本発明に係わるカメラ回転制御手段としての機能も含み、認識処理の際、必要に応じて旋回制御回路11に旋回軸3の旋回角度を指示する角度指示値を出力し、駆動モータ4によりステレオカメラ1を旋回させて撮像方向を可変する。
【0021】
以下、ステレオカメラ1を用いた広視野画像処理装置20を、建物・敷地内への侵入物(侵入者)を監視する侵入物監視装置として適用する場合を例に取り、この侵入物監視装置による侵入物検出処理について、図3のフローチャートを用いて説明する。
【0022】
図3に示す侵入物検出処理は、撮像画像のフレーム毎の処理を示し、先ず、ステップS1において、右画像データ及び左画像データの両方に対し、単眼法による侵入物検知処理を行う。このステップS1における侵入物検知は、非ステレオ法による処理であるため、侵入物の検知精度が低く、地面に映った影や外光の反射等の虚像を検知する可能性がある。従って、ステップS1での侵入物検知処理では、画像中に侵入してきた物体である可能性が高い領域を、とりあえず侵入物の“候補”として抽出し、この侵入物候補の有無及び位置を検出する。
【0023】
このような侵入物候補を抽出する技術としては、既知の技術、例えば背景差分法による領域抽出の技術を採用することができる。背景差分法による領域抽出では、侵入物を含まない画像を背景画像として用いるが、本形態では、カメラ系全体の旋回に対応するため、前述の角度刻み毎に異なる背景画像を予めメモリ上に記憶しておく。
【0024】
そして、現在のカメラ系の旋回角度に対応する背景画像を選択して現フレームの画像と比較することで、侵入物候補を検出する。例えば、背景画像と現フレームの画像との画素毎の輝度を比較し、輝度の差の絶対値が所定の閾値以上である画素の集合を、侵入物の候補となる領域として抽出する。侵入物候補の位置は、領域の重心位置で代表する。
【0025】
次に、ステップS1からステップS2へ進み、左右画像の少なくとも一方の画像に侵入物候補が有るか否かを調べる。その結果、左右何れの画像にも侵入物候補が存在しない場合には、次の画像フレームまで待機し、次フレームで再度ステップS1の処理を行う。
【0026】
また、左右画像の少なくとも一方に侵入物候補がある場合には、ステップS2からステップS3へ進み、左右両画像に侵入物候補があるか否かを調べる。そして、左右画像の一方にのみ侵入物候補がある場合、すなわち、両カメラ1a,1bの視野が重ならない非ステレオ視の領域に侵入物候補が映っている場合には、ステップS3からステップS4へ進んでステレオカメラ1全体を旋回させる処理を行い、左右画像の両者に侵入物候補がある場合、ステップS3からステップS5へ進み、ステレオ法による侵入物の確定を行う。
【0027】
但し、同じフレームで、左画像の非ステレオ視の領域と右画像の非ステレオ視の領域とに、それぞれ別の侵入物候補が映っている場合には、ステレオカメラ1の設置位置や監視位置の優先度等から予め設定した方向の画像側にのみ侵入物候補があるものとして、ステップS3からステップS4へ進む。
【0028】
左右画像の一方にのみ侵入物候補がある場合、ステップS4では、侵入物候補の位置情報により、侵入物候補がステレオ視の領域に入るようステレオカメラ1全体を旋回させる角度指示値を算出し、この角度指示値を旋回制御回路11に出力して駆動モータ4を回転させ、ステレオカメラ1全体を旋回させる。すなわち、右画像に侵入物候補が映っていた場合にはステレオカメラ1全体を右回転させ、左画像に侵入物候補が映っていた場合にはステレオカメラ1全体を左回転させ、次フレームまで待機する。
【0029】
例えば、図4に示すように、ステップS1の処理で右画像の非ステレオ視の領域に、侵入物候補S’が検出されたとき、この侵入物候補S’は、地面に映った影や外光の反射等の虚像である可能性がある。従って、ステレオカメラ1全体を右回転させて侵入物候補S’の重心を通るラインLを左右画像のステレオ視の領域内に移動させ、図5に示すように、次フレームを撮影する。そして、右画像のステレオ視の領域に映った侵入物の像SRと、左画像のステレオ視の領域に映った侵入物の像SLとに対し、ステレオマッチングを行うことにより、侵入物候補S’が真に侵入物を捉えたものか否かを確認する。
【0030】
左右画像の両者に侵入物候補が映り、侵入物候補がステレオ視の領域に入った場合、ステップS5では、ステレオ法を用いて再度侵入物の検知処理を行い、侵入物を正確に確定する。このステレオ法による侵入物の検知処理としては、例えば、本出願人による特願2002−255417号に記載の背景視差を用いたマッチングの技術を用いることができる。
【0031】
この背景視差によるマッチングでは、予め侵入物を含まない左右画像に対してステレオマッチングを行い、基準画像(右画像)上の各位置における視差(背景視差)を求めて背景距離画像として記憶しておく。そして、現在の左右の元画像に対し、背景距離画像の背景視差分だけずらし、左右画像の一致度を計算する。但し、本形態では、カメラ系全体の旋回に対応するため、前述した角度刻み毎に異なる背景距離画像を予め記憶している。
【0032】
画像中に侵入物が存在しない場合には、右画像上の或る点と背景視差分だけずらした左画像上の点とは、実空間上の同じ位置を映していることから、左右画像の一致度を計算した結果、一致度が高ければ、背景に元から存在する物体を検出した(侵入物は存在しない)と判断することができ、一致度が低ければ、侵入物が存在すると判断することができる。
【0033】
その後、ステップS6へ進み、ステップS5での処理結果から侵入物の有無を判定する。そして、侵入物候補がノイズ等の影響による誤検出であり、侵入物無しと判定された場合には、次フレームまで待機し、新たなフレームに対してステップS1からの処理を再開する。また、侵入物有りと判定された場合には、音や光等による警報を出力し、ブザーを鳴らす、赤色回転燈を点灯させる等して侵入物の存在を警告する。
【0034】
本実施の形態では、各カメラ1a,1bの光軸を偏差をもたせて配置したステレオカメラ1を用い、このステレオカメラ1の非ステレオ視の視野領域とステレオ視の視野領域とを観測領域とすることから、侵入物監視装置に適用する場合、何れか一方のカメラの視野内に物体が侵入すれば、その侵入物を検知することができ、光軸を平行に配置した標準ステレオカメラを用いた装置に比較し、検知可能範囲を拡大することができる。
【0035】
また、単に、単眼式のカメラを複数台併設した監視装置に比較し、ステレオ法を併用した確実な検知を行うことができるので、地面に映った影や反射光等の虚像による誤検出を防止することができ、信頼性を向上することができる。
【0036】
次に、本発明の実施の第2形態について説明する。図6〜図8は本発明の実施の第2形態に係わり、図6はステレオカメラの配置を示す説明図、図7は監視装置のブロック構成図、図8は前方・側方監視処理のフローチャートである。
【0037】
第2形態は、車両に搭載する前方・側方監視装置への適用例を示すものであり、車両のような移動体で要求される処理速度や監視領域からの逸脱防止等を考慮してステレオカメラ1を旋回させず、カメラ系中心軸を車両の進行方向正面に向けて固定する。
【0038】
すなわち、図6に示すように、ステレオカメラ1を旋回させるための旋回軸3及び駆動モータ4を廃止して車両にステレオカメラ1を固定し、また、ステレオカメラ1を固定することに対応して、図7に示すように、本形態の前方・側方監視装置20Aでは、第1形態で説明した広視野画像処理装置20から旋回制御回路11を省略する。
【0039】
この前方・側方監視装置20Aによる自車両の前方・側方監視処理は、図8にのフローチャートに示される。
【0040】
図8のフローチャートは、撮像画像のフレーム毎の処理を示し、先ず、ステップS11で、左右画像のそれぞれについて、単眼法による歩行者の検知処理を行う。この単眼法による歩行者検知では、車両外界の風景が種々変化することから、第1形態で説明した背景差分法を適用することは困難であり、例えば、フレーム間の動きベクトルであるオプティカルフローを用いて歩行者を検知する。
【0041】
このオプティカルフローによる歩行者の検知処理では、画像内の物体を一塊の動いている領域として捕らえ、この領域の動きベクトルの大きさと方向とに基づいて、特定の方向の物体を検出する。すなわち、画像間のオプティカルフローを調べることにより、画像内で自車両の走行路中心から外側に向かう領域は、道路脇の電柱や立木等の物体であると認識することができ、画像内で自車両の走行路中心に向かう領域は、歩行者であると認識することができる。
【0042】
以上のステップS11での歩行者の検知処理が済むと、次にステップS12へ進み、自車両に衝突する可能性のある歩行者の有無を調べる。そして、自車両に衝突する可能性のある歩行者が検出された場合には、例えば、運転席付近に設置したブザーを鳴らす等して警報を出力し、運転者に衝突回避の操作を促す。
【0043】
尚、第1形態と同様、ステレオカメラ1に旋回軸3を設け、設定速度以下の極低速時にのみ、旋回制御回路11を介して駆動モータ4を駆動し、ステレオカメラ1を旋回させるようにしても良く、単眼法による歩行者の検知に、ステレオ測距による自車両と歩行者との間の距離情報を加えることで、より正確に歩行者を検出することが可能となる。その場合、設定速度を越えたときには、ステレオカメラ1のカメラ系中心軸を車両の進行方向正面に戻し、駆動モータ4による旋回を禁止する。
【0044】
一方、自車両に衝突する可能性のある歩行者が検出されない場合には、ステップS12からステップS13へ進み、右カメラ1a及び左カメラ1bの視野が重なるステレオ視領域での前方監視に移行する。この前方監視では、左右の両画像のステレオマッチングを行い、光軸の偏差を考慮して自車両の前方にいる先行車両と自車両との間の車間距離を測距する。
【0045】
ステップS13に続くステップS14では、ステレオ測距した車間距離と予め設定した閾値とを比較し、自車両に異常接近する先行車両の有無を判断する。そして、車間距離が閾値より大きく、先行車両と衝突或いは接触の虞がない場合には、次フレームまで待機し、車間距離が閾値以下で近すぎる先行車両が有り、衝突或いは接触の可能性がある場合には、同様にブザーを鳴らす等して警報を出力し、運転者に回避動作を促す。
【0046】
この場合、自車両と先行車両との車間距離に加えて、自車両と先行車両との間の相対速度を算出し、車間距離と相対速度とに基づいて、衝突或いは接触の可能性を判断するようにしても良い。
【0047】
第2形態では、車両搭載の監視装置への適用に際し、従来のようにステレオ測距の機能のみを使用する装置に比較して、非ステレオ視とステレオ視との双方で車両周辺を監視するため、実効視野を拡大することができ、歩行者や選考車両との接触・衝突を回避する上での予防安全性を高めることができる。
【0048】
【発明の効果】
以上説明したように本発明によれば、ステレオ視の撮像領域から正確な距離情報を取得しつつ、非ステレオ視の撮像領域も活用して広い実効視野を得ることができ、広範囲の物体を正確に検出することが可能となる。
【図面の簡単な説明】
【図1】本発明の実施の第1形態に係わり、ステレオカメラの配置を示す説明図
【図2】同上、広視野画像処理装置のブロック構成図
【図3】同上、侵入物検出処理のフローチャート
【図4】同上、非ステレオ視による侵入物候補を示す説明図
【図5】同上、ステレオ視による侵入物の確定を示す説明図
【図6】本発明の実施の第2形態に係わり、ステレオカメラの配置を示す説明図
【図7】同上、前方・側方監視装置のブロック構成図
【図8】同上、前方・側方監視処理のフローチャート
【符号の説明】
1 ステレオカメラ
2 ステー
3 旋回軸
4 駆動モータ
8 ステレオマッチング回路
10 マイクロコンピュータ
10a 画像認識処理部
11 旋回制御回路
20 広視野画像処理装置
Claims (6)
- 互いに重なる撮像視野を有する一組のカメラであって、一方のカメラの光軸と他方のカメラの光軸とを非平行に配置したステレオカメラと、
上記ステレオカメラの各カメラの撮像画像で物体の存在を検出する非ステレオ処理手段と、
上記ステレオカメラで撮像した一対の画像の互いの撮像視野が重なる領域で物体の存在と物体までの距離とを検出するステレオ処理手段と、
を備えたことを特徴とするステレオ広視野画像処理装置。 - 上記ステレオカメラを回転させるカメラ回転機構と、
上記非ステレオ処理手段で検出した物体が上記ステレオ処理手段の処理対象範囲に映るよう、上記カメラ回転機構を制御するカメラ回転制御手段と、
を備えたことを特徴とする請求項1記載のステレオ広視野画像処理装置。 - 上記カメラ回転機構は、
各カメラの相対位置を保持しながら上記ステレオカメラ全体を回転させる機構であることを特徴とする請求項2記載のステレオ広視野画像処理装置。 - 上記非ステレオ処理手段は、
移動物体が存在しない状態の背景画像と現在の画像とを比較して新たに出現した物体を検出することを特徴とする請求項1,2,3の何れかに記載のステレオ広視野画像処理装置。 - 上記カメラ回転制御手段は、
予め設定した有限個の回転角度の何れかを選択して上記カメラ回転機構を制御し、
上記非ステレオ処理手段は、
上記有限個の回転角度のそれぞれに対応して別個に記憶された上記背景画像の中から、現在のカメラ位置に対応する上記背景画像を選択して現在の画像と比較することを特徴とする請求項4記載のステレオ広視野画像処理装置。 - 上記非ステレオ処理手段は、
撮像画像間のオプティカルフローに基づいて、特定の方向に移動する物体を検出することを特徴とする請求項1,2,3の何れかに記載のステレオ広視野画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003192336A JP2005024463A (ja) | 2003-07-04 | 2003-07-04 | ステレオ広視野画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003192336A JP2005024463A (ja) | 2003-07-04 | 2003-07-04 | ステレオ広視野画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005024463A true JP2005024463A (ja) | 2005-01-27 |
Family
ID=34189664
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003192336A Pending JP2005024463A (ja) | 2003-07-04 | 2003-07-04 | ステレオ広視野画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005024463A (ja) |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007064804A (ja) * | 2005-08-31 | 2007-03-15 | Clarion Co Ltd | 車両用障害物検出装置 |
JP2007232593A (ja) * | 2006-03-01 | 2007-09-13 | Toyota Motor Corp | 物体検出装置 |
JP2007263657A (ja) * | 2006-03-28 | 2007-10-11 | Denso It Laboratory Inc | 3次元座標取得装置 |
JP2007263669A (ja) * | 2006-03-28 | 2007-10-11 | Denso It Laboratory Inc | 3次元座標取得装置 |
JP2008024216A (ja) * | 2006-07-24 | 2008-02-07 | Eleven International:Kk | 後方カメラ付リアコンビネーションランプ及び後方カメラ付車両 |
JP2009032140A (ja) * | 2007-07-30 | 2009-02-12 | Shimadzu Corp | モーショントラッカ装置 |
WO2012011227A1 (ja) | 2010-07-22 | 2012-01-26 | パナソニック株式会社 | ステレオ測距装置及びステレオ測距方法 |
JP2012079340A (ja) * | 2011-12-26 | 2012-04-19 | Toshiba Corp | 不審対象検知システム、不審対象検知装置、不審対象検知方法及びプログラム |
JP2016513804A (ja) * | 2013-03-15 | 2016-05-16 | ウーバー テクノロジーズ,インコーポレイテッド | ロボット用多重知覚ステレオ視のための方法、システム、および装置 |
CN106461387A (zh) * | 2014-05-28 | 2017-02-22 | 京瓷株式会社 | 立体相机设备和设置有立体相机的车辆 |
JP2017067636A (ja) * | 2015-09-30 | 2017-04-06 | キヤノン株式会社 | 撮像装置 |
WO2017090410A1 (ja) * | 2015-11-25 | 2017-06-01 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
KR101767930B1 (ko) * | 2013-01-02 | 2017-08-30 | 한화테크윈 주식회사 | 영상 위치 보정 시스템 및 방법 |
US9952317B2 (en) | 2016-05-27 | 2018-04-24 | Uber Technologies, Inc. | Vehicle sensor calibration system |
WO2019030995A1 (ja) | 2017-08-07 | 2019-02-14 | 日立オートモティブシステムズ株式会社 | ステレオ画像処理装置 |
US10281923B2 (en) | 2016-03-03 | 2019-05-07 | Uber Technologies, Inc. | Planar-beam, light detection and ranging system |
US10338225B2 (en) | 2015-12-15 | 2019-07-02 | Uber Technologies, Inc. | Dynamic LIDAR sensor controller |
US10479376B2 (en) | 2017-03-23 | 2019-11-19 | Uatc, Llc | Dynamic sensor selection for self-driving vehicles |
US10746858B2 (en) | 2017-08-17 | 2020-08-18 | Uatc, Llc | Calibration for an autonomous vehicle LIDAR module |
US10775488B2 (en) | 2017-08-17 | 2020-09-15 | Uatc, Llc | Calibration for an autonomous vehicle LIDAR module |
US10914820B2 (en) | 2018-01-31 | 2021-02-09 | Uatc, Llc | Sensor assembly for vehicles |
JP2021064951A (ja) * | 2020-12-21 | 2021-04-22 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | システム、方法、装置、および非一時的コンピュータ読取可能媒体 |
US11288824B2 (en) | 2016-07-12 | 2022-03-29 | SZ DJI Technology Co., Ltd. | Processing images to obtain environmental information |
-
2003
- 2003-07-04 JP JP2003192336A patent/JP2005024463A/ja active Pending
Cited By (40)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007064804A (ja) * | 2005-08-31 | 2007-03-15 | Clarion Co Ltd | 車両用障害物検出装置 |
JP2007232593A (ja) * | 2006-03-01 | 2007-09-13 | Toyota Motor Corp | 物体検出装置 |
JP2007263657A (ja) * | 2006-03-28 | 2007-10-11 | Denso It Laboratory Inc | 3次元座標取得装置 |
JP2007263669A (ja) * | 2006-03-28 | 2007-10-11 | Denso It Laboratory Inc | 3次元座標取得装置 |
JP2008024216A (ja) * | 2006-07-24 | 2008-02-07 | Eleven International:Kk | 後方カメラ付リアコンビネーションランプ及び後方カメラ付車両 |
JP2009032140A (ja) * | 2007-07-30 | 2009-02-12 | Shimadzu Corp | モーショントラッカ装置 |
WO2012011227A1 (ja) | 2010-07-22 | 2012-01-26 | パナソニック株式会社 | ステレオ測距装置及びステレオ測距方法 |
US8995753B2 (en) | 2010-07-22 | 2015-03-31 | Panasonic Corporation | Stereo distance measurement apparatus and stereo distance measurement method |
JP2012079340A (ja) * | 2011-12-26 | 2012-04-19 | Toshiba Corp | 不審対象検知システム、不審対象検知装置、不審対象検知方法及びプログラム |
KR101767930B1 (ko) * | 2013-01-02 | 2017-08-30 | 한화테크윈 주식회사 | 영상 위치 보정 시스템 및 방법 |
JP2016513804A (ja) * | 2013-03-15 | 2016-05-16 | ウーバー テクノロジーズ,インコーポレイテッド | ロボット用多重知覚ステレオ視のための方法、システム、および装置 |
US10412368B2 (en) | 2013-03-15 | 2019-09-10 | Uber Technologies, Inc. | Methods, systems, and apparatus for multi-sensory stereo vision for robotics |
KR101803164B1 (ko) * | 2013-03-15 | 2017-12-28 | 우버 테크놀로지스, 인크. | 로봇 공학용 다중 감지 스테레오 비전 방법, 시스템 및 장치 |
EP3150961A4 (en) * | 2014-05-28 | 2018-04-18 | Kyocera Corporation | Stereo camera device and vehicle provided with stereo camera device |
US10180318B2 (en) | 2014-05-28 | 2019-01-15 | Kyocera Corporation | Stereo camera apparatus, vehicle provided with stereo camera apparatus, and non-transitory recording medium |
CN106461387A (zh) * | 2014-05-28 | 2017-02-22 | 京瓷株式会社 | 立体相机设备和设置有立体相机的车辆 |
JP2017067636A (ja) * | 2015-09-30 | 2017-04-06 | キヤノン株式会社 | 撮像装置 |
JP2017096777A (ja) * | 2015-11-25 | 2017-06-01 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
WO2017090410A1 (ja) * | 2015-11-25 | 2017-06-01 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
CN108351207B (zh) * | 2015-11-25 | 2020-08-14 | 日立汽车***株式会社 | 立体相机装置 |
US10501059B2 (en) | 2015-11-25 | 2019-12-10 | Hitachi Automotive Systems, Ltd. | Stereo camera device |
CN108351207A (zh) * | 2015-11-25 | 2018-07-31 | 日立汽车***株式会社 | 立体相机装置 |
US10338225B2 (en) | 2015-12-15 | 2019-07-02 | Uber Technologies, Inc. | Dynamic LIDAR sensor controller |
US10677925B2 (en) | 2015-12-15 | 2020-06-09 | Uatc, Llc | Adjustable beam pattern for lidar sensor |
US11740355B2 (en) | 2015-12-15 | 2023-08-29 | Uatc, Llc | Adjustable beam pattern for LIDAR sensor |
US10281923B2 (en) | 2016-03-03 | 2019-05-07 | Uber Technologies, Inc. | Planar-beam, light detection and ranging system |
US11604475B2 (en) | 2016-03-03 | 2023-03-14 | Uatc, Llc | Planar-beam, light detection and ranging system |
US10942524B2 (en) | 2016-03-03 | 2021-03-09 | Uatc, Llc | Planar-beam, light detection and ranging system |
US9952317B2 (en) | 2016-05-27 | 2018-04-24 | Uber Technologies, Inc. | Vehicle sensor calibration system |
US10718856B2 (en) | 2016-05-27 | 2020-07-21 | Uatc, Llc | Vehicle sensor calibration system |
US11009594B2 (en) | 2016-05-27 | 2021-05-18 | Uatc, Llc | Vehicle sensor calibration system |
US11288824B2 (en) | 2016-07-12 | 2022-03-29 | SZ DJI Technology Co., Ltd. | Processing images to obtain environmental information |
US10479376B2 (en) | 2017-03-23 | 2019-11-19 | Uatc, Llc | Dynamic sensor selection for self-driving vehicles |
WO2019030995A1 (ja) | 2017-08-07 | 2019-02-14 | 日立オートモティブシステムズ株式会社 | ステレオ画像処理装置 |
US10992920B2 (en) | 2017-08-07 | 2021-04-27 | Hitachi Automotive Systems, Ltd. | Stereo image processing device |
US10775488B2 (en) | 2017-08-17 | 2020-09-15 | Uatc, Llc | Calibration for an autonomous vehicle LIDAR module |
US10746858B2 (en) | 2017-08-17 | 2020-08-18 | Uatc, Llc | Calibration for an autonomous vehicle LIDAR module |
US10914820B2 (en) | 2018-01-31 | 2021-02-09 | Uatc, Llc | Sensor assembly for vehicles |
US11747448B2 (en) | 2018-01-31 | 2023-09-05 | Uatc, Llc | Sensor assembly for vehicles |
JP2021064951A (ja) * | 2020-12-21 | 2021-04-22 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | システム、方法、装置、および非一時的コンピュータ読取可能媒体 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2005024463A (ja) | ステレオ広視野画像処理装置 | |
JP5096836B2 (ja) | 車両の周囲を画像化する方法およびそのためのシステム | |
JP4337929B2 (ja) | 移動状態推定装置 | |
US20080198226A1 (en) | Image Processing Device | |
JPH04331311A (ja) | 車間距離検出装置 | |
JP2008248613A (ja) | 作業機械周辺監視装置 | |
JP2008227646A (ja) | 障害物検知装置 | |
JP2001213254A (ja) | 車両用側方監視装置 | |
KR20200071960A (ko) | 카메라 및 라이다 센서 융합을 이용한 객체 검출 방법 및 그를 위한 장치 | |
KR20170120010A (ko) | 영상 취득 장치 및 그 방법 | |
JP2004203068A (ja) | 移動体周辺監視装置 | |
JP2004120661A (ja) | 移動体周辺監視装置 | |
JP2008026998A (ja) | 障害物位置算出システム、及び障害物位置算出方法 | |
JP2000293693A (ja) | 障害物検出方法および装置 | |
JP2008174028A (ja) | 対象物検出システム、及び対象物検出方法 | |
JP2004349926A (ja) | 障害物検出装置及び方法並びに障害物検出用プログラム | |
JP2006160193A (ja) | 車両運転支援装置 | |
JP2008165595A (ja) | 障害物検出方法、障害物検出装置、障害物検出システム | |
JP2007087203A (ja) | 衝突判定システム、衝突判定方法及びコンピュータプログラム | |
JP4857159B2 (ja) | 車両運転支援装置 | |
JP2008286648A (ja) | 距離計測装置、距離計測システム、距離計測方法 | |
KR101893368B1 (ko) | 교통 모니터링 카메라를 이용하는 3차원 시정 측정 방법 및 시스템 | |
JP2005157765A (ja) | 歩行者検出装置 | |
JP4176558B2 (ja) | 車両周辺表示装置 | |
JP2005175603A (ja) | レーダを用いた障害物の表示方法及び表示システム |