JP2004120661A - 移動体周辺監視装置 - Google Patents

移動体周辺監視装置 Download PDF

Info

Publication number
JP2004120661A
JP2004120661A JP2002284661A JP2002284661A JP2004120661A JP 2004120661 A JP2004120661 A JP 2004120661A JP 2002284661 A JP2002284661 A JP 2002284661A JP 2002284661 A JP2002284661 A JP 2002284661A JP 2004120661 A JP2004120661 A JP 2004120661A
Authority
JP
Japan
Prior art keywords
moving
obstacle
state
vehicle
moving object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002284661A
Other languages
English (en)
Other versions
JP4154980B2 (ja
Inventor
Toshiaki Kakinami
柿並 俊明
Shuji Yamamoto
山本 修司
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2002284661A priority Critical patent/JP4154980B2/ja
Priority to EP20030021998 priority patent/EP1403137B1/en
Priority to DE60325819T priority patent/DE60325819D1/de
Publication of JP2004120661A publication Critical patent/JP2004120661A/ja
Application granted granted Critical
Publication of JP4154980B2 publication Critical patent/JP4154980B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/002Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle
    • B60Q9/004Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle using wave sensors
    • B60Q9/005Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle using wave sensors using a video camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/002Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle
    • B60Q9/007Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle providing information about the distance to an obstacle, e.g. varying sound

Landscapes

  • Engineering & Computer Science (AREA)
  • Transportation (AREA)
  • Human Computer Interaction (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】別途特別な障害物検出センサを必要とすることなく、移動体周辺の環境の中から移動体の移動予想軌跡上で最も接近した障害物を確実に検出する。
【解決手段】移動体周辺の物体の大きさ、位置等の環境情報を検出し蓄積する環境情報検出手段SRと、移動体の移動予想軌跡を推定する軌跡推定手段TRを備え、移動至近距離計測手段MCにて移動予想軌跡を環境情報に重合し、移動体の移動予想軌跡上に存在する障害物を特定すると共に、移動予想軌跡上における障害物と移動体との間の最短距離を計測する。移動至近距離計測手段の計測結果に基づき、報知手段DPにより移動体と障害物の位置関係を報知する。環境情報検出手段SRでは、例えば、移動体が移動中に少なくとも二つの画像を撮像したときの移動体の状態と画像情報に基づき3次元座標を推定する。
【選択図】    図1

Description

【0001】
【発明の属する技術分野】
本発明は、移動体周辺を監視する移動体周辺監視装置に関し、特に、移動体周辺の環境の中から最も接近した状態の障害物を検出し得る移動体周辺監視装置に係り、例えば、車両の移動予想軌跡上に存在する障害物を検出する装置に好適である。
【0002】
【従来の技術】
従来から、車両の移動予想軌跡上に存在する障害物を検出する装置が種々提案されており、例えば、超音波を発射し障害物からの反射波を受信するソナー方式、光学方式等の障害物センサを用いた装置が実用化されている。
【0003】
【特許文献1】
例えば、特開昭62−278477号公報には、距離センサおよびハンドル角センサからの出力信号をもとに自動車の走行軌跡を演算するコンピュータを備え、光学式の距離センサによって機械的あるいは電気的にスキャンし、車両周辺の障害物の位置および予想走行軌跡上にある車両と障害物とが予め設定された距離以内にあるときに警報器でアラーム音を発するようにした自動車の車庫入れ支援システムが提案されている。
【0004】
【特許文献2】
また、特開平1−141137号公報には、車両の前部両側にソナー方式、赤外光学方式、接触方式等の障害物検出センサを設け、該検出センサにより車両の前部両側の障害物への接近を検出し、該検出情報をモニタ画面に後方視界と同時に表示するようにした車両の後方視界表示装置が提案されている。これにより、運転者はモニタ画面から車両の前方へ視線を移さなくとも車両の前部両側の障害物への接触を回避できる旨記載されている。
【0005】
【特許文献3】
更に、特開2001−187553号公報には、車両の移動中に、単一のカメラによって、異なる第1および第2の地点での周辺画像を、時系列的に視差付けされた第1および第2の画像として撮像する撮像装置、それぞれの画像に撮像された立体物を検出し特定する立体物特定部と、第1の地点から第2の地点まで車両の移動データを算出する車両位置算出部と、立体物の第1および第2の画像上での位置と、車両の移動データとを用いて、車両から立体物までの距離を算出する立体物距離算出部と、撮像装置によって撮像された画像および立体物距離算出部で算出されたデータに基づいて、運転者に伝達するための第3の画像を生成するようにした駐車支援装置が提案されている。これにより、2つの画像に撮像された立体物に対して三角測量の原理で正確に上記立体物までの距離を算出することができる旨記載されている。
【0006】
【特許文献4】
そして、特開2002−052999号公報には、自車両の停止位置マーカと横方向距離計測マーカをモニタ画面に重畳描画し、測距センサを設けることなく、カメラ画像と汎用の舵角センサを利用し、自車両と基準物との相対位置を検出し得る相対位置検出装置、及びこれを備えた駐車補助装置が提案されている。ここで、自車両の停止位置マーカは、自車両と基準物とが所定方位を有する位置関係で自車両を停止させるためのマーカと定義され、横方向距離計測マーカは、モニタ画面上の移動量に応じて自車両と基準物との横方向の距離を計測するマーカと定義されている。
【0007】
【非特許文献1】
ところで、画像処理技術の分野においては、2台のカメラから3次元形状を復元する技術が知られている。例えば、「情報処理」誌のVol.37 No.7 (1996年7月号)に「2.ステレオの仕掛けを解き明かす」と題する出口光一郎氏の論文が掲載されており、ステレオによる立体形状計測について解説されている。同誌には、その前提として、2つのカメラそれぞれの結像の特性(レンズの焦点距離、画像中心、画素サイズなど)、2つのカメラの位置、姿勢、そして2つの画像での対応が分かれば、その対応する点の空間での位置が決定できる旨記載されている。
【0008】
【非特許文献2】
同様に、「空間データの数理」と題する書籍 (金谷健一著。1995年3月10日初版第1刷。朝倉書店発行)の161頁及び162頁に「ステレオ視による3次元復元」と題し、ステレオ視(または立体視)とは、2台のカメラから撮った画像間の対応関係から三角測量の原理で物体の3次元形状を計算するものであり、ロボットの制御のために画像から3次元情報を抽出する方法として最も基本的な手段の一つであるとして、原理が解説されている。
【0009】
【非特許文献3】
更に、上記「情報処理」誌の連載であるVol.37 No.8 (1996年8月号)の「3.動画像の扱い」と題する同氏の論文には、上記のステレオと同じ原理に基づき、動画像から対象の3次元形状が復元できると記載されている。特に、動画像として画像の系列が与えられていると、対象の運動の追跡が可能になり、2枚の画像だけが与えられた場合より対応点の抽出が容易である旨説明されている。
【0010】
【発明が解決しようとする課題】
然し乍ら、前述のソナー方式の障害物センサは、周知のように距離分解能と指向性の点で不十分であり、障害物の正確な位置を特定することは困難である。また、車両と障害物との間が至近距離にあると判定された場合でも、車両の移動軌跡上に障害物が存在せず、実際には至近距離の障害物とは言えないという場合がある。即ち、車両の移動軌跡上に障害物が存在する場合における障害物と移動体との間の最短距離を計測対象とすべきであり、以下、この距離を移動至近距離という。あるいは、障害物が凹凸の外面を有する場合には、ビームの径や方向によっては移動至近距離を検出できない場合もあり得る。従って、従来の障害物センサは、このような事項を前提とした上で利用されている。
【0011】
例えば、前掲の特許文献1においては、車両の走行予想軌跡を表示し、かつ、予想走行軌跡内に存在する障害物を検出し警報する方法が開示されているが、カメラのほかに光学式の障害物センサが必要とされ、コスト高となっている。しかも、機械的にスキャンする機械走査型障害物センサではスキャン(走査)の応答が遅く、複数個の素子を並べた電気走査型障害物センサでは分解能が低いという点を考慮する必要がある。
【0012】
また、特許文献2においては、カメラで撮影した後方画面内に、自車と障害物の位置関係を図形化して同時に表示する方法が開示されているが、後方画面のどの物体が障害物となるのかは特定されていない。このように、従来は、特定方向の視界を検出するためにカメラ画像が利用されているのに対し、障害物の検出には別途センサが用いられ、これらを組み合わせることが基本とされている。そして、障害物検出センサとしては、前述のように、光、電波あるいは音波を発射し、その反射波から障害物を検出する方式のセンサが採用されることが多い。しかし、基本的には、カメラで撮影した画像のみに基づき、一層安価に製品化し得る装置が要請されている。
【0013】
これに対し、特許文献3においては、2つの画像に撮像された立体物に対する距離を算出する手段が開示されており、測距センサを設ける必要はないが、画像に撮像された立体物を検出し特定する立体物特定部と、車両の移動データを算出する車両位置算出部と、車両から立体物までの距離を算出する立体物距離算出部によって、車両から立体物までの距離を算出することとしている。具体的には、車両がa地点にある時に撮像された画像Aを、車両の移動データを用いてb地点から撮像されたように画像変換し、画像Cを算出すると説明されているように、結局は、2つの画像のずれと移動データに基づき幾何学的に車両から立体物までの距離を算出することとしている。従って、例えば車両の移動予想軌跡上で最も接近した障害物を検出するという課題に対しては別途対応が必要であり、上記の立体物距離算出部等によって解決し得るか否かは不明である。
【0014】
また、特許文献4においては、測距センサを設けることなく自車両と基準物との相対位置を検出し得る相対位置検出装置が提案されているが、駐車時の停止状態を前提とし、停止位置マーカと横方向距離計測マーカを用いた位置検出が行われている。従って、車両の移動予想軌跡上で最も接近した障害物の検出という課題に対しては別途検出手段が必要となる。
【0015】
一方、前述の非特許文献1乃至3に記載の画像処理技術を利用すれば、例えば1個のカメラによっても障害物の3次元形状を復元し得るように構成することができる。従って、このような画像処理技術を、車両等の移動体の周辺を監視する装置に適切に組み入れることも考え得るが、これらの具体的手段については何れの文献にも言及されていない。
【0016】
そこで、本発明は、別途特別な障害物検出センサを必要とすることなく、移動体周辺の環境の中から移動体の移動予想軌跡上で最も接近した障害物を確実に検出し得る移動体周辺監視装置を提供することを課題とする。
【0017】
【課題を解決するための手段】
上記課題を解決するため、本発明の移動体周辺監視装置は、請求項1に記載のように、移動体の周辺の環境情報を検出し蓄積する環境情報検出手段と、前記移動体の移動予想軌跡を推定する軌跡推定手段と、該軌跡推定手段が推定した移動予想軌跡を前記環境情報検出手段が検出した環境情報に重合し、前記移動体の移動予想軌跡上に存在する障害物を特定すると共に、前記移動予想軌跡上における前記障害物と前記移動体との間の最短距離を計測する移動至近距離計測手段と、該移動至近距離計測手段の計測結果に基づき前記移動体と前記障害物の位置関係を報知する報知手段とを備えることとしたものである。尚、上記の環境情報とは、移動体周辺の物体の大きさ、位置等を含み、移動体には、車両のほか、移動ロボット等を含む。
【0018】
前記環境情報検出手段は、請求項2に記載のように、前記移動体に搭載し移動体の周辺を撮像し画像情報を出力する少なくとも一つの撮像手段と、前記移動体が第1の状態から第2の状態に移動したときに少なくとも前記第1の状態及び第2の状態で前記撮像手段によって撮像した二つの画像に基づき、前記第1の状態で撮像した画像から特徴点の座標を検出すると共に、前記第2の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段と、少なくとも前記第1の状態及び前記第2の状態における前記移動体の位置及び姿勢を検出する移動状態検出手段と、該移動状態検出手段で検出した前記第1の状態及び前記第2の状態における前記移動体の位置及び姿勢、前記第1の状態で撮像した画像の前記特徴点の座標、及び前記第2の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の3次元座標を推定する3次元座標推定手段とを備えたものとするとよい。
【0019】
更に、請求項3に記載のように、前記環境情報検出手段の検出情報を、前記移動体が移動したときの前記周辺環境に対する相対的な位置及び姿勢に応じて補正して出力する情報合成手段と、該情報合成手段の出力情報に基づき、前記移動体の特定位置周辺の環境情報から前記移動体の特定の視界を作成する特定視界作成手段と、該特定視界作成手段が作成した特定の視界を画像に表示する表示手段とを備え、該表示手段が、前記移動体に搭載するモニタ上に、前記特定の視界と共に、前記移動体と前記障害物の位置関係を表示するように構成するとよい。
【0020】
上記請求項2又は3に記載の移動体周辺監視装置において、この場合には、前記軌跡推定手段は、請求項4に記載のように、前記移動状態検出手段の検出結果に基づき前記移動体の移動予想軌跡を推定するように構成することができる。また、上記請求項1乃至4の何れかに記載の移動体周辺監視装置において、前記報知手段は、請求項5に記載のように、前記移動体に搭載するモニタ上に前記移動体と前記障害物の位置関係を表示する表示装置と、音声で前記移動体と前記障害物の位置関係を伝える音声装置の、少なくとも一方を備えたものとするとよい。この場合において、前記障害物検出手段の検出結果に応じて自動的に、あるいは運転者の指示に応じて、前記特定の視界を作成するように構成することができる。
【0021】
上記請求項5に記載の移動体周辺監視装置において、請求項6に記載のように、前記移動体が車両であって、前記移動至近距離計測手段が計測した前記移動予想軌跡上における前記車両と前記障害物との間の最短距離に応じて、前記報知手段が、前記表示装置及び音声装置の少なくとも一方の出力を調整するように構成することができる。
【0022】
あるいは、上記請求項5に記載の移動体周辺監視装置において、請求項7に記載のように、前記表示装置が、前記移動体に対して前記移動予想軌跡上で最短距離となる前記障害物の部分を特定し、該部分を前記モニタ上に表示するように構成することもできる。
【0023】
【発明の実施の形態】
以下、本発明の移動体周辺監視装置の実施形態について図面を参照して説明する。図1は本発明の一実施形態の全体構成を示すもので、車両に搭載される場合には、例えば図2及び図3に示す駐車案内装置に供される。図1において、本実施形態の移動体周辺監視装置は、移動体(図示せず)の周辺の物体の大きさ、位置等の環境情報を検出し蓄積する環境情報検出手段SRと、移動体の移動予想軌跡を推定する軌跡推定手段TRとを備えている。そして、この軌跡推定手段TRが推定した移動予想軌跡を環境情報検出手段SRが検出した環境情報に重合し、移動体の移動予想軌跡上に存在する障害物を特定すると共に、移動予想軌跡上における障害物と移動体との間の最短距離を計測する移動至近距離計測手段MCを備えている。更に、移動至近距離計測手段MCの計測結果に基づき移動体と障害物の位置関係を報知する報知手段DPとを備えている。
【0024】
本実施形態の環境情報検出手段SRは、図1に示すように、移動体に搭載し移動体の周辺を撮像し画像情報を出力する撮像手段CDと、移動体が第1の状態から第2の状態に移動したときに少なくとも第1の状態及び第2の状態で撮像手段CDによって撮像した二つの画像に基づき、第1の状態で撮像した画像から特徴点の座標を検出すると共に、第2の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段PFと、少なくとも第1の状態及び第2の状態における移動体の位置及び姿勢を検出する移動状態検出手段DSと、この移動状態検出手段DSで検出した第1の状態及び第2の状態における移動体の位置及び姿勢、第1の状態で撮像した画像の特徴点の座標、及び第2の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の3次元座標を推定する3次元座標推定手段RCを備えている。尚、撮像手段CDとしては、後述するccdカメラ等がある。
【0025】
移動体が車両である場合には、上記の移動状態検出手段DSは、例えば車両の走行速度、操舵状態、旋回状態等の車両運動を検出するセンサによって構成することができ、これについては後述する。また、これらのセンサのうちの、少なくとも一つのセンサ出力に基づき、車両の位置を表わすファクタとして座標、及び車両の姿勢を表わすファクタとして角度を検出することができるが、これについても後述する。そして、上記の軌跡推定手段TRとしては、例えば図2に示す操舵角センサ4の検出操舵角に基づいて車両の移動予想軌跡を推定する手段があり、軌跡推定手段TRが推定する移動予想軌跡としては、例えば車両の前進時及び後退時の移動予想軌跡があり、これについては図7乃至図14を参照して後述する。
【0026】
更に、図1に破線で示すように、環境情報検出手段SRの検出情報を、移動体が移動したときの周辺環境に対する相対的な位置及び姿勢に応じて補正して出力する情報合成手段CBと、情報合成手段CBの出力情報に基づき、移動体の特定位置周辺の環境情報から移動体の特定の視界を作成する特定視界作成手段SVと、この特定視界作成手段SVが作成した特定の視界を画像に表示する表示手段VDとを備えた態様としてもよい。この場合には、表示手段VDにより、移動体に搭載するモニタ上に、特定の視界と共に、移動体と障害物の位置関係を表示することになる。
【0027】
報知手段DPは、移動体に搭載するモニタ上に移動体と障害物の位置関係を表示する表示装置VSと、音声で移動体と障害物の位置関係を伝える音声装置AVの、少なくとも一方を備えており、移動体が車両の本実施形態においては、移動至近距離計測手段MCが計測した移動予想軌跡上における車両と障害物との間の最短距離(移動至近距離)に応じて、表示装置VS及び音声装置AVの少なくとも一方の出力を調整するように構成される。例えば、移動至近距離の大きさに応じて、バーグラフが増減し、あるいは警告音が増減するように構成することができる。更に、表示装置VSは、車両に対して移動予想軌跡上で最短距離となる障害物の部分を特定し、当該部分をモニタ上に表示する(例えば当該部分にマークを付す)ように構成されている。
【0028】
更に、図1に破線で示すように、特定視界作成手段SVは、移動至近距離計測手段MCの検出情報に基づき、移動体に最も接近した障害物を含むように特定の視界を作成する構成としてもよい。例えば、移動至近距離の障害物を含む視界のバーチャル画像を自動的に表示するように構成することができる。更に、当該障害物の移動至近距離部分にマークを付すように構成することもできる。
【0029】
上記の移動体が車両である場合の一例として、図2及び図3に示す駐車案内装置について説明する。図5は本実施形態の駐車案内装置を搭載した車両1の全体構成を示すもので、車両1の後部には、その周辺を撮像し画像を取得するカメラ2(例えばccdカメラで上記の撮像手段CDを構成する)が装着されており、画像情報が電子制御装置10に供給される。この電子制御装置10は、図2に示すように車両1に搭載された筐体中に収容され、図1の移動状態検出手段DS、3次元座標推定手段RC、情報合成手段CB、特定視界作成手段SV及び軌跡推定手段TR、移動至近距離計測手段MCが構成されている。また、ステアリングホイール3の操舵角を検出し軌跡推定手段TRの一部を構成する操舵角センサ4が車両1に装着されると共に、シフトレバー5がリバース位置とされたときにオンとなるシフトレバースイッチ6が装着されており、これらの検出舵角及びオン信号が電子制御装置10に供給される。
【0030】
更に、本実施形態では、各車輪の回転速度を検出する車輪速度センサ(代表して7で示す)が装着されており、検出車輪速度が電子制御装置10に供給される。これらの車輪速度センサ7の検出結果に基づき移動体の少なくとも2位置間の移動距離を測定することができる。そして、運転者から視認可能な車両1内の所定位置にモニタ8が配置されており、電子制御装置10の出力信号に応じてモニタ8に駐車案内用の視覚情報が表示される。即ち、本実施形態においては、モニタ8が図1の表示手段VD及び表示装置VSとして機能している。更に、車両1内の所定位置にスピーカ9が配置されており、電子制御装置10の出力信号に応じてスピーカ9から駐車案内用の音声情報が出力される。
【0031】
図3は、上記の駐車案内装置のシステム構成図であり、電子制御装置10の構成を示すものである。上記の操舵角センサ4、シフトレバースイッチ6及び車輪速度センサ7は、図示しない入力インターフェースを介して電子制御装置10内のCPU11に接続されており、図示しない出力インターフェースを介して、モニタ8が電子制御装置10内のスーパーインポーズ部14に接続され、スピーカ9が音声出力部15を介してCPU11に接続されている。カメラ2は、図示しない入力インターフェースを介して、画像認識部12、グラフィックス描画部13及びスーパーインポーズ部14に接続されている。尚、CPU11、画像認識部12、グラフィックス描画部13、スーパーインポーズ部14及び音声出力部15は相互にバスバーによって接続されている。尚、メモリ等は示していないが、各部の情報は所定期間蓄積され、適宜読み出し可能に構成されている。
【0032】
本実施形態においては、車両1周辺の環境を表示するカメラ2の画像信号が画像認識部12を介してCPU11に供給されると共に、車輪速度センサ7等の出力信号がCPU11に供給され、CPU11にて演算処理される。このCPU11の演算結果に基づき、グラフィックス描画部13において、カメラ2の画像から抽出される同期信号に応じて3次元のグラフィックスが描画される。また、CPU11においては、駐車案内のための演算処理が行われ、その演算結果に基づくグラフィックスがグラフィックス描画部13にて描画される。そして、グラフィックス描画部13にて描画されるグラフィックスとカメラ2の画像とが適宜スーパーインポーズ部14にて重畳され、モニタ8の画面に描画される。尚、この場合、カメラ画像は表示されず、グラフィック画像のみが表示されるように設定することも可能である。而して、図1の3次元座標推定手段RC、移動至近距離計測手段MC、情報合成手段CB及び特定視界作成手段SVはCPU11、画像認識部12及びグラフィックス描画部13によって構成されている。
【0033】
上記の3次元座標推定手段RCにおいては、特徴点追跡手段PFにて、車両1が第1の状態から第2の状態に移動したときに撮像手段CDたるカメラ2によって第1の状態で撮像された画像から特徴点の座標が検出されると共に、第2の状態で撮像された画像での前記特徴点に対応する座標が検出され、移動状態検出手段DSでは、第1の状態及び第2の状態における車両1の位置及び姿勢が検出される。そして、第1の状態及び第2の状態における車両1の位置及び姿勢、第1の状態で撮像された画像の特徴点の座標、及び第2の状態で撮像された画像の前記特徴点に対応する座標に基づき、3次元再構成が行われ、前記特徴点の3次元座標が求められる。
【0034】
上記の3次元再構成は、例えば前述の非特許文献2に記載のように、画像を用いて三角測量の原理に基づいて行われるものであり、図17乃至図19を参照して以下に説明する。図17において、少なくとも2つのカメラ位置(左右のo及びo’で示す)から空間中の同一の点Mを観測しているとき、各カメラの画像で観測された点m,mとそれぞれのカメラの光学中心とを結んだ空気中の光線を定義でき、各光線の交点は空間中の点の位置Mを表す。ここで、対象視界(Scene)中の3次元の点Mは各画像間で同定される必要がある。また、単眼カメラで3次元の再構成を行う場合には、画像中から対象物体の特徴点(Point of Interest)の抽出とその追跡が必要である。更に、カメラの内部パラメータ(スケールファクタ、光軸位置座標等)と外部パラメータ(カメラの配置)は既知である(予め校正されている)ことが必要であり、これらを前提に3次元再構成が行われる。
【0035】
次に、対象視界の動きからの3次元構造の復元に関し、時系列画像のそれぞれがどの位置及び姿勢で撮影されたものであるかは、デッドレコニングシステムにより対応が取られて校正されていれば、ステレオ対応という手段を使うことができる。但し、3次元視界の中の同一の点が含まれるように撮影された時系列画像において、その画像列の中から同一の点を見つけることが必要である。即ち、これらの同一の点の対応を取ることによって、対象視界の3次元構造を復元することができる。
【0036】
対象視界からの特徴点の検出に関しては、画像の中から、対象視界の特徴となるべきいくつかの特徴点を検出することになる。この場合の特徴点とは、画像のシーケンスに沿って追跡可能な適切な特徴を有する対象である。このような特徴点の検出には下記[数1]式に示す行列Aによる自動相関(auto−correlation)を用いることができる。行列Aは画像中の点p(x,y)を含むウインドウ領域W中に含まれる画像信号の導関数を平均化するように機能するので、これを用いて最適な特徴点を得る。即ち、追跡に適する特徴点は、一般にはコーナーや直線の交点(例えば、図18の左側の図におけるコーナーの黒点)であり、この行列はこれらの特徴点を検出するものである。尚、下記[数1]式において、I(x,y)は画像の関数、Ixはx軸に沿った画像の勾配、Iyはy軸に沿った画像の勾配、(x ) は(x,y)を中心としたウインドウW中の画像点を夫々表わす。
【0037】
【数1】
Figure 2004120661
【0038】
次に、特徴点の追跡(Feature Tracking)に関し、u=[x,y]T が画像点の座標であるような画像列I(u,t)を考慮する。サンプル周期が十分短ければ微小時刻後の画像ではその輝度値は変化しないと仮定し、下記[数2]式が成り立つ。
【0039】
【数2】
Figure 2004120661
【0040】
上記の[数2]式において、δ(u)はモーションフィールド(3次元の動きベクトルの画像への投影)を表す。サンプル周期が十分に短いので、下記[数3]式に示すように、モーションは並進(translation)のみで近似することができる。尚、[数3]式のdは変移ベクトル(displacement vector)を表わす。
【0041】
【数3】
Figure 2004120661
【0042】
選択された各特徴点に対し、また、画像列での追跡された各点のペアに対して、その変移ベクトルdを計算するため、トラッカー(Tracker)が用いられる。実際には、ノイズの影響により画像のモーションモデルは完全には表せないので[数2]式は十分に機能しない。従って、下記[数4]式に示すように、差の自乗和(Sum of Square Difference)によって変移ベクトルdを計算する。そして、この[数4]式の残渣を最小にする変移ベクトルdを求め、その方向に特徴点を追跡する(図18にこの状態を示す)。尚、下記[数4]式のWは、点uを中心とする特徴点検出のためのウインドウを表わす。
【0043】
【数4】
Figure 2004120661
【0044】
図19はトラッキングの一例を説明するもので、トラック(Tracks)とは画像列中で同一の対象を示す点の集合であり、各トラックの画像点は夫々の3次元点の投影像である。トラックは画像列の中で見失うことは許されないが、追跡する点が画像から外れたり、隠れたり、ノイズ等によって検出できない場合には、トラッキングを停止せざるを得ない。ここでは、最初の画面において検出された特徴点の集合から開始し、前の画像(図19のImg A)での特徴点は次の画像(図19のImg B)で追跡される。画像(Img A)のうちの一部のトラックが停止すると、画像(Img B)において新しい特徴点を探すことになり、この新しい各特徴点はその後のトラッキングの起点となる。
【0045】
そして、3次元構造の再構成に関しては、3次元空間中の位置Mの点の距離がZであるとき、その画像上の投影位置をmとすると下記[数5]式の関係が成り立つ。下記の[数5]式において、距離fは焦点距離と呼ばれるが、ここではf=1なる単位長さを用いて簡単化している。このようにモデル化すると、2台のカメラで空間中の(物体の頂点等の)特徴点を撮影する幾何学的な関係は図17に示すようになる。
【0046】
【数5】
Figure 2004120661
【0047】
図17において、第2のカメラ座標系は第1のカメラ座標系をその原点の周りにRだけ回転してからTだけ平行移動して得られる位置にある。尚、このベクトルTは基線ベクトルと呼ばれる。パラメータ{T,R}は2つのカメラ視点の相対的な位置姿勢関係を表しているので、1台のカメラを移動しながら撮影することとした場合は、デッドレコニングシステムにより計測することができる。
【0048】
図17に示すように、ある3次元空間中の位置Mのそれぞれの画像面上の投影像がm,mにあるとする。この状態で、第2のカメラ座標系の原点0’から見た特徴点の方向は第2のカメラ座標系に関してベクトルmで表されるが、第2のカメラ座標系は第1のカメラ座標系に対してRだけ回転しているから、第1のカメラ座標系に関してはRmである。従って、図17より下記[数6]式の関係が成立する。
【0049】
【数6】
Figure 2004120661
【0050】
上記[数6]式から、距離Z,Z’が下記[数7]式のように計算される。
【0051】
【数7】
Figure 2004120661
【0052】
このようにして、2つの視点から画像面上の投影像の座標m,mから3次元空間上の距離Z,Z’を復元することができる。そして、前述のトラックは対象視界中の特徴点群であるから、全てのトラックに関して上記[数7]式を計算すれば、3次元的な構造を復元することができる。
【0053】
図1に戻り、移動状態検出手段DSとしては、前述のように車両の走行速度、操舵状態、旋回状態等の車両運動を検出するセンサによってデッドレコニングシステムを構成することができるが、本実施形態においては、車輪速度センサ7によって構成されている。このようにして特定される第1の状態及び第2の状態における車両1の位置及び姿勢と、夫々の状態でカメラ2によって撮像された画像における特徴点の抽出と追跡によって特定される画像間の対応点に基づき、上記のように処理され、撮像領域内に存在する物体が特定され、撮像領域の3次元座標が推定される。
【0054】
本実施形態においては、車輪速度センサ7によって検出された車輪速度信号に基づき、以下のように、車両1の状態、即ち車両1の位置及び方向(鉛直軸周りの角度)を検出するようにデッドレコニングシステムが構成されている。以下、本実施形態における車両1の状態を検出する方法について説明する。図4は、本実施形態における車両1のモデルを表したものであり、車両1の位置及び方向は、(x,y,θ)の3つの変数により定義される。また、車両1の速度(車速)をV、車両1の角速度をωとすると、車両の状態、車速及び角速度の間に次の等式が成立する。
即ち、dx/dt=V・cosθ、dy/dt=V・sinθ、及びdθ/dt=ωとなる。
【0055】
上記の車速V及び角速度ωは直接計測することはできないが、車輪速度センサ7によって検出された左右後輪の車輪速度を用いて、次のように求めることができる。即ち、V=(Vrr+Vrl)/2、及びω=(Vrr−Vrl)/Ltとなる。ここで、Vrrは右後輪の車輪速度、Vrlは左後輪の車輪速度で、Ltは車両1のトレッド長を表す。
【0056】
上記の式を用いると、時刻tにおける車両の状態(x,y,θ)は、t=0における初期値(x0,y0,θ0)が決まっておれば次のように表すことができる。x=x0+∫(dx/dt)dt ここで、∫はt=0→t=t。
y=y0+∫(dy/dt)dt ここで、∫はt=0→t=t。
θ=θ0+∫(dθ/dt)dt ここで、∫はt=0→t=t。
即ち、下記[数8]式のようになる。
【0057】
【数8】
Figure 2004120661
【0058】
図5は、所定の3次元座標における車両1の移動開始位置の座標及び姿勢(方向)を基準に、移動後の位置の座標と方向を検出し追跡する方法の一例を示す。即ち、図5は(Xo,Yo,Zo)の3次元座標において、Xo−Yo平面(Zo=0)上で車両が旋回運動する状態を示し、位置(座標(x1,y1))及び方向(角度θ1)で決まる第1の状態から、位置(座標(x2,y2))及び方向(角度θ2)で決まる第2の状態に移動したときの位置関係を特定することができる。本実施形態では、左右後輪の車輪速度センサ7の検出車輪速度に基づき、車両1の位置(座標)及び方向(角度)が検出されるが、操舵角センサ4、ヨーレイトセンサ(図示せず)、距離センサ(図示せず)等を用いることとしてもよく、これらのセンサを組み合わせて用いることとしてもよい。図5は単純円旋回の例であるが、複数円弧や直線が組み合わされた軌跡に対し、上記のように検出された車両1の座標と方向に基づき、同様に追跡することができる。
【0059】
一方、図1に記載の3次元座標推定手段RCにおいて推定された3次元座標が、図6に破線の格子で示すように、(X,Y,Z)の3次元座標を基準とする3次元座標マップとしてメモリに格納されている。尚、図6に破線の格子で示した3次元座標マップの中には、カメラ2で撮像された他の車両、障害物、建物等も存在するが、これらは図示を省略している。この3次元座標マップに対し、図5の3次元座標の対応が行われる。即ち、図6に破線の格子で示す3次元座標マップの中に、図5に示す車両1が配置され、3次元座標マップでの車両1の位置(座標)、及び姿勢、即ち方向(角度)が特定される。
【0060】
上記のように特定された3次元座標マップにおける車両1の位置(座標)及び方向(角度)に基づき、3次元座標に存在する障害物との位置関係が明確になる。例えば、図2のステアリングホイール3が中立位置にあって、図7に示すように車両1が前方に直進している場合において、その前方に障害物OBが存在するときには、車両1がそのまま前進すると図7のバンパ部分1aが障害物OBの左方角部に接触することになり、両者間の距離d1が移動至近距離となることが分かる。
【0061】
これに対し、図2のステアリングホイール3が操作され、例えば図8に示すように車両1が旋回中心Cを中心に半径Rで旋回している場合には、その前方に障害物OBが存在しても、車両1がそのまま旋回すれば車両1のどの部分も障害物OBに接触しないことが分かる。このことは、旋回中心Cを中心とする障害物OBのどの部分の円弧(図8には最小半径の円弧をA1で示す)も車両1とは重合しないことから、図8に示す位置関係に基づき推定することができる。尚、旋回中心Cは車両1の後車軸の延長上にあり、その位置はステアリングホイール3の操舵角によって決まる。
【0062】
一方、図9に示すように車両1が旋回中心Cを中心に半径Rで旋回し、その前方の障害物OBが旋回中心Cを中心とする円弧A2(半径Ra)上を相対移動する場合、即ち円弧A2が車両1と重合する場合には、車両1がそのまま旋回すれば車両1のバンパ部分1bが障害物OBに接触することになる。この場合には、両者間の距離d2が移動至近距離となる。
【0063】
図9から明らかなように、旋回中心Cを中心とし障害物OBを通過する円弧と、旋回中心Cを中心とし車両1を通過する円弧とが一致する場合が、車両1と障害物OBが接触する場合であり、両者間の距離が最小となる障害物OBの円弧をA2として特定することができる。従って、図10に示す関係となり、車両1のバンパ部分1bと障害物OBとの間の距離が移動至近距離d2となり、車両1のバンパ部分1aと障害物OB間の直線距離d1より長くなる。尚、この移動至近距離d2はCPU11による演算処理によって求められる。
【0064】
上記の図7乃至図10においては説明の便宜上X−Y平面上で説明したが、本実施形態では3次元座標に存在する障害物との位置関係が明確になることから、Z軸方向での状況も考慮に入れた移動至近距離を測定することができる。例えば、図11に示すように、車両1のバンパ部分1aと障害物たる他の車両OVのバンパ部分Obとの間の水平距離はd3であるが、他の車両OVの後端部Oaとの間の水平距離はd4(<d3)という状況が生じ得る。従って、仮に車両1のバンパ部分1aと他の車両OVとの間が距離d3とされると、距離d4に達した時点で車両1の前方上部が他の車両OVの後端部Oaに接触することになるが、本実施形態ではこのような事態を回避することができる。
【0065】
上記のように計測された車両1と障害物OB(他の車両OV)間の移動至近距離に基づき、図1の報知手段DPによって以下のように報知される。図1の表示装置VSを構成する図2のモニタ8には、カメラ2で撮像された画像が表示されるが、本実施形態においては、図12に示すように、障害物(図12では他の車両OV)までの移動至近距離が画面内のバーグラフ8bによって表示されている。このバーグラフ8bは、図12と図13との比較から明らかなように、移動至近距離の大きさ(接近程度)に応じて変化し、移動至近距離が小さくなる程バーグラフ8bの濃い部分が減少するように構成されている。尚、これに加え、バーグラフ8bに距離目盛りを付してもよいし、バーグラフ8bに代えて距離数値を直接表示することとしてもよい。
【0066】
上記の表示に加え、図12及び図13に示すように、「移動至近距離」の測定対象部分(そのときの状態を維持して車両1を移動させたときに接触する部分)を特定するマーカ8cを、モニタ8の画面上に表示することとしてもよい。また、メッセージ8dをモニタ8の画面上に表示することとしてもよい。更に、図1の音声装置AVにより、例えば、移動至近距離の値に応じて、音声による報知あるいはビープ音による報知を行うこととしてもよい。これらの報知手段は一つだけでも、あるいは複数を組み合わせて用いてもよい。
【0067】
更に、図14に示すように、バーチャル画像を用いて上記の報知を行うこともできる。図14には自車たる車両1の一部(図14では後部)と障害物OBを表す図形が表示されると共に、バーグラフ8b及びマーカ8cも表示されているので、車両1と障害物OBとの関係を確認することができる。もちろん、図12及び図13と同様、メッセージ8d並びに音声及びビープ音による報知と組み合わせてもよい。上記のバーチャル画像は、図1に破線で示すように、特定視界作成手段SV等を構成することによって実現でき、以下これについて説明する。
【0068】
即ち、特定視界作成手段SVによって、周辺状況を含む3次元座標内における車両1の任意の位置で、任意の方向に向けてカメラが装着されたと仮定した場合の特定の視界が作成され、この仮想カメラから見た視界の画像が、図1の表示手段VD(図2のモニタ8)に表示される。この場合において、例えば図15に示すように、車両1の後方に仮想カメラ2aが配置されているとしたときに、移動後の車両1から見た3次元座標マップ(図15の破線の格子で示す)において、どの領域が仮想カメラ2aの視界に入っているかが分かる。換言すれば、図15にSaで示す領域が、仮想カメラ2aの視界に入り、モニタ8にバーチャル画像として表示し得る領域(以下、表示視界という)である。尚、仮想カメラを前方あるいは側方に配置する場合も同様である。
【0069】
上記図15の例では、実際のカメラ2の画角と類似する視界が設定されているが、図16の仮想カメラ2eのように、180度の表示視界Seを設定することもできる。これにより、実際のカメラ2では視界に入らない部分をも視界に入れたバーチャル画像を表示するように構成することもできる。更に、図示は省略するが、車両1の上空部分に仮想カメラを配置して360度の表示視界を設定し、この視界のバーチャル画像を表示するように構成することもできる。尚、図15及び図16においても、破線の格子で示した3次元座標マップの中には、カメラ2で撮像された他の車両、障害物、建物等も存在するが、これらは図示を省略している。
【0070】
上記のように形成されるバーチャル画像は、車両1の移動、即ち仮想カメラ2a等の移動に伴う視界の移動に応じて変化することになるが、本実施形態においては、移動中に撮像した障害物を含むバーチャル画像を、状況に応じて適宜(移動後も)表示し得るように構成されている。例えば、図14のバーチャル画像は、車両1が一旦前方まで前進した後に後退する際に、カメラ2によって撮像された環境情報が3次元座標マップとしてメモリ(図示せず)に格納されているので、この3次元座標マップでの車両1の位置(座標)及び姿勢(方向)が特定される。そして、3次元座標マップにおいて、例えば車両1と障害物OBとの距離が所定距離未満となったと判定されると、自動的に、図14に示すバーチャル画像がモニタ8に表示される。あるいは、運転者の指示に応じてバーチャル画像に切り替えるように構成することもできる。
【0071】
尚、図2及び図12乃至図16は、カメラ2が車両1の後方に配置された場合の実施形態に係り、図7乃至図11は、カメラ2が車両1の前方に配置された場合の実施形態に係るものであることから明らかなように、前後いずれの障害物に対しても同様に処理することができる。また、上記の実施形態においては1台のカメラ2のみで3次元座標マップを作成することとしたが、複数台のカメラを用いてもよい。
【0072】
【発明の効果】
本発明は上述のように構成されているので以下に記載の効果を奏する。即ち、請求項1に記載の移動体周辺監視装置においては、別途特別な障害物検出センサを必要とすることなく、例えば画像を用いて障害物を検出し、移動体のどの部分と障害物のどの部分が接触するかを判定することができ、移動体の移動予想軌跡上の移動至近距離を適切に計測することができる。また、低コストで提供でき、製造時の搭載性も向上する。
【0073】
前記環境情報検出手段は、請求項2に記載のように構成すれば、一つの撮像手段によっても容易且つ確実に環境情報を検出することができ、安価な装置を提供することができる。
【0074】
また、請求項3に記載のように構成すれば、移動体における所望の位置での視界を確保し、移動体と障害物の位置関係を適切に画像表示することができる。
【0075】
前記軌跡推定手段は、請求項4に記載のように構成すれば、別途特別のセンサを用いることなく、移動体の移動予想軌跡を容易且つ確実に推定することができ、安価な装置を提供することができる。
【0076】
前記報知手段は、請求項5に記載のように構成すれば、運転者は移動体と障害物の位置関係を容易に確認することができる。そして、請求項6に記載のように構成すれば、車両の移動至近距離に応じた報知が行われるので、運転者は移動体のどの部分と障害物のどの部分が接触するかを容易に判定することができる。そして、前記表示装置を請求項7に記載のように構成すれば、例えば、視野内で注意すべき障害物の部分を画面上にマーカで表示することができるので、運転者は移動体のどの部分と障害物のどの部分が接触するかを容易に判定することができる。従って、例えば駐車案内装置に適用すれば、報知手段を介して障害物を確実に回避するように案内することができる。
【図面の簡単な説明】
【図1】本発明の移動体周辺監視装置の一実施形態の構成を示すブロック図である。
【図2】本発明の移動体周辺監視装置を駐車案内装置に適用したときの一実施形態として、駐車案内装置を搭載した車両を透視して示す斜視図である。
【図3】本発明の一実施形態に係る駐車案内装置の構成を示すブロック図である。
【図4】本発明の一実施形態における車両モデルの平面図である。
【図5】本発明の一実施形態において、所定の3次元座標における車両の移動開始位置の座標及び方向を基準に、移動後の位置の座標と方向を検出し追跡する方法の一例を示す平面図である。
【図6】本発明の一実施形態において、3次元座標マップでの車両の位置(座標)及び姿勢(方向)を特定する状態の一例を示す平面図である。
【図7】本発明の一実施形態において、車両が直進している場合の前方の障害物に対する移動至近距離の一例を示す平面図である。
【図8】本発明の一実施形態において、車両が旋回している場合に前方の障害物に接触しない状態の一例を示す平面図である。
【図9】本発明の一実施形態において、車両が旋回している場合に前方の障害物に接触するときの移動至近距離の一例を示す平面図である。
【図10】図9の車両と障害物との間の移動至近距離部分を拡大して示す平面図である。
【図11】本発明の一実施形態において、垂直方向の位置関係でみたときの車両と障害物との間の移動至近距離の一例を示す正面図である。
【図12】本発明の一実施形態において、車両の後方のカメラ画像に障害物までの移動至近距離を表示した一例を示す正面図である。
【図13】本発明の一実施形態において、車両の後方のカメラ画像に障害物までの移動至近距離を表示した他の例を示す正面図である。
【図14】本発明の一実施形態において、車両の後方のカメラ画像に障害物までの移動至近距離及び両者の位置関係を表示したバーチャル画像の一例を示す正面図である。
【図15】本発明の一実施形態において、車両の後方に仮想カメラが配置されたときの表示視界を示す平面図である。
【図16】本発明の一実施形態において、車両の後方上部に仮想カメラが配置されたときの180度の表示視界を示す平面図である。
【図17】本発明の一実施形態における三次元再構成に関し、2台のカメラで空間中の物体の特徴点を撮影するときの幾何学的な関係を示す説明図である。
【図18】本発明の一実施形態における三次元再構成に関し、特徴点の追跡の一例を示す説明図である。
【図19】本発明の一実施形態における三次元再構成に関し、トラッキング状況の一例を示す説明図である。
【符号の説明】
SR 環境情報検出手段, CD 撮像手段, DS 移動状態検出手段,
RC 3次元座標推定手段, CB 情報合成手段,
SV 特定視界作成手段, VD 表示手段, 1 車両, 2 カメラ,
3 ステアリングホイール, 4 操舵角センサ,
5 シフトレバー, 6 シフトレバースイッチ, 7 車輪速度センサ,
8 モニタ, 9 スピーカ, 10 電子制御装置

Claims (7)

  1. 移動体の周辺の環境情報を検出し蓄積する環境情報検出手段と、前記移動体の移動予想軌跡を推定する軌跡推定手段と、該軌跡推定手段が推定した移動予想軌跡を前記環境情報検出手段が検出した環境情報に重合し、前記移動体の移動予想軌跡上に存在する障害物を特定すると共に、前記移動予想軌跡上における前記障害物と前記移動体との間の最短距離を計測する移動至近距離計測手段と、該移動至近距離計測手段の計測結果に基づき前記移動体と前記障害物の位置関係を報知する報知手段とを備えたことを特徴とする移動体周辺監視装置。
  2. 前記環境情報検出手段は、前記移動体に搭載し前記移動体の周辺を撮像し画像情報を出力する少なくとも一つの撮像手段と、前記移動体が第1の状態から第2の状態に移動したときに少なくとも前記第1の状態及び第2の状態で前記撮像手段によって撮像した二つの画像に基づき、前記第1の状態で撮像した画像から特徴点の座標を検出すると共に、前記第2の状態で撮像した画像での前記特徴点に対応する座標を検出する特徴点追跡手段と、少なくとも前記第1の状態及び前記第2の状態における前記移動体の位置及び姿勢を検出する移動状態検出手段と、該移動状態検出手段で検出した前記第1の状態及び前記第2の状態における前記移動体の位置及び姿勢、前記第1の状態で撮像した画像の前記特徴点の座標、及び前記第2の状態で撮像した画像の前記特徴点に対応する座標に基づき前記特徴点の3次元座標を推定する3次元座標推定手段とを備えたことを特徴とする請求項1記載の移動体周辺監視装置。
  3. 前記環境情報検出手段の検出情報を、前記移動体が移動したときの前記周辺環境に対する相対的な位置及び姿勢に応じて補正して出力する情報合成手段と、該情報合成手段の出力情報に基づき、前記移動体の特定位置周辺の環境情報から前記移動体の特定の視界を作成する特定視界作成手段と、該特定視界作成手段が作成した特定の視界を画像に表示する表示手段とを備え、該表示手段が、前記移動体に搭載するモニタ上に、前記特定の視界と共に、前記移動体と前記障害物の位置関係を表示するように構成したことを特徴とする請求項2記載の移動体周辺監視装置。
  4. 前記軌跡推定手段が、前記移動状態検出手段の検出結果に基づき前記移動体の移動予想軌跡を推定するように構成したことを特徴とする請求項2又は3記載の移動体周辺監視装置。
  5. 前記報知手段が、前記移動体に搭載するモニタ上に前記移動体と前記障害物の位置関係を表示する表示装置と、音声で前記移動体と前記障害物の位置関係を伝える音声装置の、少なくとも一方を備えたことを特徴とする請求項1、2,3又は4記載の移動体周辺監視装置。
  6. 前記移動体が車両であって、前記移動至近距離計測手段が計測した前記移動予想軌跡上における前記車両と前記障害物との間の最短距離に応じて、前記報知手段が、前記表示装置及び音声装置の少なくとも一方の出力を調整するように構成したことを特徴とする請求項5記載の移動体周辺監視装置。
  7. 前記表示装置が、前記移動体に対して前記移動予想軌跡上で最短距離となる前記障害物の部分を特定し、該部分を前記モニタ上に表示するように構成したことを特徴とする請求項5記載の移動体周辺監視装置。
JP2002284661A 2002-09-30 2002-09-30 移動体周辺監視装置 Expired - Fee Related JP4154980B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2002284661A JP4154980B2 (ja) 2002-09-30 2002-09-30 移動体周辺監視装置
EP20030021998 EP1403137B1 (en) 2002-09-30 2003-09-30 Movable body circumstance monitoring apparatus
DE60325819T DE60325819D1 (de) 2002-09-30 2003-09-30 Umgebungserfassung für einen beweglichen Körper

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002284661A JP4154980B2 (ja) 2002-09-30 2002-09-30 移動体周辺監視装置

Publications (2)

Publication Number Publication Date
JP2004120661A true JP2004120661A (ja) 2004-04-15
JP4154980B2 JP4154980B2 (ja) 2008-09-24

Family

ID=31973373

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002284661A Expired - Fee Related JP4154980B2 (ja) 2002-09-30 2002-09-30 移動体周辺監視装置

Country Status (3)

Country Link
EP (1) EP1403137B1 (ja)
JP (1) JP4154980B2 (ja)
DE (1) DE60325819D1 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005339152A (ja) * 2004-05-26 2005-12-08 Clarion Co Ltd 動物体検出装置
JP2006113645A (ja) * 2004-10-12 2006-04-27 Kajima Corp 移動軌跡解析方法
WO2006046382A1 (ja) * 2004-10-28 2006-05-04 Aisin Seiki Kabushiki Kaisha 移動体周辺監視装置
JP2006337075A (ja) * 2005-05-31 2006-12-14 Mitsubishi Electric Corp 3次元情報復元装置
JP2007256029A (ja) * 2006-03-23 2007-10-04 Denso It Laboratory Inc ステレオ画像処理装置
JP2008176566A (ja) * 2007-01-18 2008-07-31 Matsushita Electric Ind Co Ltd 運転支援装置、運転支援方法、及び運転支援プログラム
JP2010201996A (ja) * 2009-03-02 2010-09-16 Whetron Electronics Co Ltd 車両の影像観測システム及びその使用方法
JP2010247557A (ja) * 2009-04-10 2010-11-04 Whetron Electronics Co Ltd 障害物の位置を標記した鳥瞰画像で駐車を補助する装置とその使用方法
JP2013239015A (ja) * 2012-05-15 2013-11-28 Sharp Corp 駐車支援装置、駐車支援方法およびプログラム
JP2017112611A (ja) * 2015-12-17 2017-06-22 合盈光電科技股▲ふん▼有限公司H.P.B. Optoelectronics Co., Ltd. 交通搬送手段のイメージ検出システム
JP2018160061A (ja) * 2017-03-22 2018-10-11 日本電気株式会社 事故回避情報画像生成装置、事故回避情報表示システム、事故回避情報画像生成方法及びプログラム
US11467592B2 (en) * 2019-03-11 2022-10-11 Honda Motor Co., Ltd. Route determination method

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004198211A (ja) 2002-12-18 2004-07-15 Aisin Seiki Co Ltd 移動体周辺監視装置
EP1792775B1 (de) * 2005-12-02 2018-03-07 Volkswagen Aktiengesellschaft Kraftfahrzeug mit einem sensor zum erkennen eines hindernisses in einer umgebung des kraftfahrzeuges
FR2991279B1 (fr) * 2012-06-01 2015-07-17 Renault Sa Dispositif de controle de trajectoire d'un vehicule.
DE102013010233B4 (de) 2013-06-18 2018-08-30 Volkswagen Aktiengesellschaft Verfahren zum Anzeigen von Umgebungsinformationen in einem Fahrzeug und Anzeigesystem für ein Fahrzeug
KR101670847B1 (ko) * 2014-04-04 2016-11-09 주식회사 와이즈오토모티브 차량 주변 이미지 생성 장치 및 방법
DE102015217497A1 (de) * 2015-09-14 2017-03-16 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zum Synchronisieren einer ersten lokalen Umfeldkarte mit einer zweiten lokalen Umfeldkarte in einem Umfeld eines Kraftfahrzeugs

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000161915A (ja) 1998-11-26 2000-06-16 Matsushita Electric Ind Co Ltd 車両用単カメラ立体視システム
US7366595B1 (en) * 1999-06-25 2008-04-29 Seiko Epson Corporation Vehicle drive assist system
DE19947766A1 (de) * 1999-10-02 2001-05-10 Bosch Gmbh Robert Einrichtung zur Überwachung der Umgebung eines einparkenden Fahrzeugs
EP1094337B1 (en) * 1999-10-21 2004-03-17 Matsushita Electric Industrial Co., Ltd. Parking assistance system
US6476730B2 (en) * 2000-02-29 2002-11-05 Aisin Seiki Kabushiki Kaisha Assistant apparatus and method for a vehicle in reverse motion

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4519519B2 (ja) * 2004-05-26 2010-08-04 クラリオン株式会社 動物体検出装置
JP2005339152A (ja) * 2004-05-26 2005-12-08 Clarion Co Ltd 動物体検出装置
JP2006113645A (ja) * 2004-10-12 2006-04-27 Kajima Corp 移動軌跡解析方法
WO2006046382A1 (ja) * 2004-10-28 2006-05-04 Aisin Seiki Kabushiki Kaisha 移動体周辺監視装置
JP2006123670A (ja) * 2004-10-28 2006-05-18 Aisin Seiki Co Ltd 移動体周辺監視装置
JP2006337075A (ja) * 2005-05-31 2006-12-14 Mitsubishi Electric Corp 3次元情報復元装置
JP2007256029A (ja) * 2006-03-23 2007-10-04 Denso It Laboratory Inc ステレオ画像処理装置
JP2008176566A (ja) * 2007-01-18 2008-07-31 Matsushita Electric Ind Co Ltd 運転支援装置、運転支援方法、及び運転支援プログラム
JP2010201996A (ja) * 2009-03-02 2010-09-16 Whetron Electronics Co Ltd 車両の影像観測システム及びその使用方法
JP2010247557A (ja) * 2009-04-10 2010-11-04 Whetron Electronics Co Ltd 障害物の位置を標記した鳥瞰画像で駐車を補助する装置とその使用方法
JP2013239015A (ja) * 2012-05-15 2013-11-28 Sharp Corp 駐車支援装置、駐車支援方法およびプログラム
JP2017112611A (ja) * 2015-12-17 2017-06-22 合盈光電科技股▲ふん▼有限公司H.P.B. Optoelectronics Co., Ltd. 交通搬送手段のイメージ検出システム
JP2018160061A (ja) * 2017-03-22 2018-10-11 日本電気株式会社 事故回避情報画像生成装置、事故回避情報表示システム、事故回避情報画像生成方法及びプログラム
JP7073628B2 (ja) 2017-03-22 2022-05-24 日本電気株式会社 事故回避情報画像生成装置、事故回避情報表示システム、事故回避情報画像生成方法及びプログラム
US11467592B2 (en) * 2019-03-11 2022-10-11 Honda Motor Co., Ltd. Route determination method

Also Published As

Publication number Publication date
DE60325819D1 (de) 2009-03-05
EP1403137B1 (en) 2009-01-14
JP4154980B2 (ja) 2008-09-24
EP1403137A1 (en) 2004-03-31

Similar Documents

Publication Publication Date Title
JP2004198211A (ja) 移動体周辺監視装置
JP2004114977A (ja) 移動体周辺監視装置
JP4154980B2 (ja) 移動体周辺監視装置
JP2004198212A (ja) 移動体周辺監視装置
EP1462762B1 (en) Circumstance monitoring device of a vehicle
US8289189B2 (en) Camera system for use in vehicle parking
JP4374850B2 (ja) 移動体周辺監視装置
JP4192680B2 (ja) 移動体周辺監視装置
CN107465890B (zh) 车辆的图像处理装置
JP2009017462A (ja) 運転支援システム及び車両
CN104608692A (zh) 停车辅助***及其方法
JPWO2005107261A1 (ja) 車両周囲表示装置
JP2001187553A (ja) 駐車支援装置
JP4797877B2 (ja) 車両用映像表示装置及び車両周囲映像の表示方法
JP2006268076A (ja) 運転支援システム
JP2021154969A (ja) 障害物検知装置、障害物検知方法、および、プログラム
JP3395393B2 (ja) 車両周囲表示装置
JP2004356846A (ja) 移動体周辺監視装置
JP4207519B2 (ja) 移動体周辺監視装置
US11607999B2 (en) Method and apparatus for invisible vehicle underbody view
JP2004104478A (ja) 駐車アシスト装置及び駐車アシスト方法
US10249056B2 (en) Vehicle position estimation system
JP4310987B2 (ja) 移動体周辺監視装置
JP5691339B2 (ja) 運転支援装置
JP2006303985A (ja) 予測進路表示装置および予測進路表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050805

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080617

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080630

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110718

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4154980

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110718

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120718

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120718

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130718

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees