JP3773433B2 - 移動体の周囲監視装置 - Google Patents

移動体の周囲監視装置 Download PDF

Info

Publication number
JP3773433B2
JP3773433B2 JP2001310887A JP2001310887A JP3773433B2 JP 3773433 B2 JP3773433 B2 JP 3773433B2 JP 2001310887 A JP2001310887 A JP 2001310887A JP 2001310887 A JP2001310887 A JP 2001310887A JP 3773433 B2 JP3773433 B2 JP 3773433B2
Authority
JP
Japan
Prior art keywords
image
moving body
image data
visual sensor
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001310887A
Other languages
English (en)
Other versions
JP2002218451A (ja
Inventor
清 熊田
宣捷 賀好
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=26601909&utm_source=***_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP3773433(B2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2001310887A priority Critical patent/JP3773433B2/ja
Priority to DE60101440T priority patent/DE60101440T3/de
Priority to US09/975,678 priority patent/US7295229B2/en
Priority to EP01308662A priority patent/EP1197937B2/en
Priority to KR1020010062637A priority patent/KR100650121B1/ko
Publication of JP2002218451A publication Critical patent/JP2002218451A/ja
Application granted granted Critical
Publication of JP3773433B2 publication Critical patent/JP3773433B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/102Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using 360 degree surveillance camera system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Lenses (AREA)
  • Image Input (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、移動体の周囲を監視するための移動体の周囲監視装置に関する。より詳細には、人または貨物を輸送する自動車または電車を含む移動体の周囲を監視するために用いられる移動体の周囲監視装置に関する。
【0002】
【従来の技術】
近年における交通事故の増大は、大きな社会問題となっている。特に、道路が交差する交差点(T字交差または四つ角等)において、人の飛び出しに起因する事故、車両同士の出合い頭の衝突事故、車両同士の追突事故がしばしば発生している。これら交差点での交通事故の原因は、車両の運転者および歩行者共に、安全を確認する上で必要とされる視界に比べて、実際に得られる視界が狭く、その結果、十分な注意を払っていないと危険の認識が遅れることに起因すると考えられる。よって、車両自体の改良および運転者の注意、道路環境の整備等がさらに強く望まれている。
【0003】
従来から、道路環境を整備するために、交差点のような視界が遮られているところにミラーが設置されている。しかし、ミラーを設置するだけでは依然として視界が狭く、また、設置されるミラーの数もまだ十分ではないため、安全にたいして万全であるとは言えない。
【0004】
また、車両の安全、特に後方確認を目的として、監視カメラを車両後部に設置し、ケーブルを通じて運転席の横または前方パネル部に設置したモニターに監視用のカメラからの画像を表示するシステムが、バスを含む大型車両または一部の乗用車において普及している。しかし、この場合でも、車両の側方の安全確認は運転者の視覚によるところが大きく、交差点のような視界が遮られているところでは危険の認識が遅れることが多い。さらに、この種のカメラは一般に視界が狭く、一つのカメラでは、一方向に対する障害物の有無または何らかの物体と衝突する危険性について確認することができるが、広範囲の障害物の有無または何らかの物体と衝突する危険性について確認するためには、カメラの角度を変化させる操作が必要である。
【0005】
すなわち、従来の車両周囲監視装置では、一方向の監視することのみに重点がおかれており、車両の周囲360゜に対する確認を行うためには、複数台(例えば、前後左右計4台以上)のカメラが必要となる。
【0006】
また、高所、高緯度地域または冬場など、周囲温度が所定の温度以下の場合、車両のエンジンを始動後所定の時間経過するまでに、車両の窓ガラスに付着した水滴またはその水滴が凍結すること等により、車両の窓ガラスが曇って、車両内部から外部を目視しづらい場合がしばしばある。車両を道路に駐車するとき、車両の周辺に人または他の車両が接近することが多いが、そのような状況下で、車両の運転を開始する場合、車両の窓ガラスの曇りをワイパーまたは温風などで十分に除去しないと、車両の運転者は周囲の状況を認識することができず、危険である。
【0007】
【発明が解決しようとする課題】
車両を利用する際には安全を確認して対応しなければならない状況がしばしばある。車両の出発時の周囲の確認、車両の左折時または右折時、駐車場または車庫からの入出庫時に、車両の前方だけでなく、車両の左右および後方の確認が必要となる。車両の運転者がこれらの確認を行うことは非常に重要であるが、車両の構造上、運転席からの死角部分の安全の確認が難しく、運転者にとっては多大な負担になる。
【0008】
さらに、従来の車両周囲監視装置を用いて車両の周囲360゜に対する確認を行うためには、複数台のカメラを必要とする。そして、これを使用する場合には、運転者は、そのときの状況に応じて、モニターに表示される画像を出力するカメラを切り替えるか、または、カメラの向きを変えて、車両の周囲の安全を確認する必要がある。これは、運転者に非常に大きな負担をかけることになる。
【0009】
また、車両の窓ガラスが曇って、車両内部から外部を目視しづらいような時に車両を運転する場合、車両の運転者は、直接的に車両の周囲を目視するために、車両内部の温度が上昇した結果、車両の窓ガラスの曇りが晴れるまで待つか、または、車両の窓ガラスを拭いて曇りをとる作業が必要である。その間、直接的に車両の周囲を目視する以外の方法で車両の周囲の安全を確認することができれば、より安全に運転を行なうことができる。
【0010】
本発明は、このような従来技術の課題を解決するためになされたものであり、移動体の周囲の状況を容易に確認して運転者の負担を減らすことができ、安全性を高めることができる移動体の周囲監視装置を提供することを目的とする。
【0011】
さらに、移動体が移動可能状態になるときに、移動体のオペレータが移動体の周囲の状況を瞬時に把握することができる移動体の周囲監視装置を提供することをさらなる目的とする。
【0012】
【課題を解決するための手段】
本発明の移動体の周囲を監視するための移動体の周囲監視装置は、その周囲の領域の映像を光学像に中心射影変換する光学系と、撮像レンズを含み、前記中心射影変換された光学像を画像データに変換する撮像部とを含む少なくとも1つの全方位視覚センサーと、前記画像データをパノラマ画像データおよび透視画像データの少なくとも一方に変換する画像処理部と、前記パノラマ画像データに対応するパノラマ画像および前記透視画像データに対応する透視画像の少なくとも一方を表示する表示部と、前記表示部を制御する表示制御部とを備える、全方位視覚システムを搭載する移動体の周囲監視装置であって、前記光学系は、2葉双曲面のうちの一方の双曲面形状を有する双曲面ミラーを含み、前記双曲面ミラーの光軸が前記撮像レンズの光軸に一致し、前記撮像レンズの主点が前記双曲面ミラーの一方の焦点位置に位置し、前記表示部が、前記移動体の周囲を俯瞰する前記透視画像を表示する。
【0013】
前記少なくとも1つの全方位視覚センサーは、前記移動体全体の周囲を俯瞰する映像を前記画像データに変換するように配置されてもよい。
【0014】
前記表示部は、前記パノラマ画像と前記透視画像を同時に、または、切り替えて表示してもよい。
【0015】
前記表示部は、前記移動体の移動想定方向と反対方向の領域の画像を表示してもよい。
【0016】
前記画像処理部は、前記周囲の領域のうちの第1の領域に対応する画像データを第1の透視画像データに変換してもよい。
【0017】
前記画像処理部は、前記表示制御部からの制御に応じて、前記周囲の領域のうちの、第1の領域とは一致しない第2の領域に対応する画像データを前記第1透視画像データとは一致しない第2の透視画像データに変換してもよい。
【0018】
前記第2の領域は、前記第1の領域を、平行移動および拡大縮小のうちの少なくとも一方を行なった領域に位置してもよい。
【0019】
前記光学系の光軸が前記移動体の移動想定方向に対して垂直軸方向を向くように前記光学系が配置されてもよい。
【0020】
前記表示部が、前記表示制御部からの制御に応じて、表示部の表示画像の所定の位置に前記移動体を表す画像を表示してもよい。
【0021】
また、前記表示部は、移動体の周囲を俯瞰する透視画像を表示する際に、表示画面の所定の位置に移動体を示す画像を表示させるのが好ましい。
【0022】
本発明によれば、表示部は、移動体の周囲を俯瞰する透視画像を表示する。この場合、表示部が移動体全体の周囲を俯瞰する透視画像を表示すると、移動体のオペレータは1度に移動体の全ての方向の周囲を確認することができる。
【0023】
1つの全方位視覚センサーが、直接的に移動体全体の周囲を俯瞰する映像を画像データに変換することが可能な場合、表示部は、その全方位視覚センサーからの画像データを変換した移動体全体の周囲を俯瞰する透視画像を表示することができる。
【0024】
しかし、1つの全方位視覚センサーでは、その配置により、直接的に移動体全体の周囲を俯瞰する映像を画像データに変換することができない場合がある。例えば、取り付けた全方位視覚センサーの高さが車両より高い位置にある場合は、全方位視覚センサーは、直接的に車両全体の周囲を上方から俯瞰した映像を得ることができるが、取り付けた全方位視覚センサーの高さが車両の天井よりも低い場合、全方位視覚センサーの視野の一部は、車両に妨害されて、車両全体の周囲を俯瞰した映像を得ることができない。
【0025】
その場合、複数の全方位視覚センサーから得られた複数の透視画像を合成して、車両全体の周囲を俯瞰した1つの透視画像を表示してもよい。これにより、移動体のオペレータは1度に移動体の全ての方向の周囲を確認することができる。
【0026】
また、画像処理部内の記憶部に、予め車両を上方から撮影した画像を示す車両画像データを記憶させ、記憶部に記憶された車両画像データと全方位視覚センサーによる映像を変換した透視画像データとを合成することで、表示部は、表示部の表示画面の所定の位置に車両を表す透視画像を表示してもよい。
【0027】
また、予め車両を上方から俯瞰した画像として、コンピュータグラフィックスによって作成した所定の画像データを画像処理部内の記憶部に記憶し、全方位視覚センサーで撮像した映像を変換した透視画像データとその所定の画像データとを合成して、それにより、表示部の表示画面の所定の位置に車両を表す画像を表示してもよい。
【0028】
このように、移動体の画像と移動体の周囲の透視画像とを合成して表示することで、移動体のオペレータは、移動体と移動体の周囲に存在する物体との相対的距離を容易に把握することができる。予め移動体を撮影した画像を表示することによって、移動体のオペレータは、一層臨場感をもって移動体と移動体の周囲に存在する物体との相対的距離を把握することができる。
【0029】
前記表示部は、前記移動体の移動想定方向と反対方向の領域の画像と、前記移動体の移動想定方向および前記移動想定方向と反対方向とは異なる方向の領域の画像とを同時に表示してもよい。
【0030】
前記移動体は自動車であってもよい。
【0031】
前記自動車は、前記自動車の移動想定方向側に位置する第1のバンパーと、前記自動車の前記移動想定方向と反対方向側に位置する第2のバンパーとを有し、前記少なくとも1つの全方位視覚センサーは、前記第1のバンパーの上に設置される第1の全方位視覚センサーと、前記第2のバンパーの上に設置される第2の全方位視覚センサーとを含んでもよい。
【0032】
前記第1の全方位視覚センサーは、前記第1のバンパーのうちの前記自動車の移動想定方向に対して左端または右端のいずれか一方の上に設置され、前記第2の全方位視覚センサーは、前記第2のパンバーのうちの前記第1の全方位視覚センサーの設置位置と対向する側の上に設置されてもよい。
【0033】
前記表示部は、前記第1の全方位視覚センサーによる第1の透視画像と、前記第2の全方位視覚センサーによる第2の透視画像とを合成した画像を表示してもよい。
【0034】
前記画像処理部は、前記移動体を表す画像に変換される前記移動体画像データを記憶する記憶部を備え、前記画像処理部は、前記移動体画像データと前記画像データとを合成し、前記表示部は、前記移動体を表す画像を含む前記透視画像を表示してもよい。
【0035】
前記移動体画像データは、コンピュータグラフィックスによって作成される画像データであってもよい。
【0036】
前記移動体画像データは、前記移動体を撮影した画像データであってもよい。
【0037】
前記全方位視覚システムが、前記移動体の周囲温度を測定する温度測定部をさらに備え、前記温度測定部が測定した周囲温度が所定の温度以下である場合、前記移動体が移動可能状態になるとき、前記表示部は、前記移動体の周囲を俯瞰する透視画像を表示してもよい。
【0038】
前記表示部は、前記第1の全方位視覚センサーによる前記移動体の周囲を俯瞰する透視画像の表示領域と前記第2の全方位視覚センサーによる前記移動体の周囲を俯瞰する透視画像の表示領域とが重なる領域において、前記表示制御部からの制御に基づいて、前記第1の全方位視覚センサーまたは前記第2の全方位視覚センサーの一方に対応する透視画像を表示してもよい。
【0039】
また、さらに、移動体の周囲温度が所定の温度以下の場合、移動体の移動可能状態になるとき、表示部は、移動体の周囲を俯瞰した画像を表示するようにするのが好ましい。移動体の周囲を俯瞰した画像を得るためには、全方位視覚センサーは、移動体の移動想定方向に対して垂直方向に配置されることが好ましい。移動体が車両の場合、全方位視覚センサーの視野方向が90°下向き(鉛直軸方向下向き)の透視画像が得られるように、全方位視覚センサーは配置される。このように配置された全方位視覚センサーが撮像した映像を変換した透視画像を表示することにより、移動体のオペレータは、移動体周囲の安全確認を容易に行なうことができる。
【0040】
なお、本明細書において、光学系によって中心射影変換される周囲の領域の映像は、同一の点を視点とする光学系の周囲の領域の映像である。
【0041】
以下、本発明の作用について説明する。
【0042】
本発明にあっては、全方位視覚センサーの光学系は、光学系の周囲の領域の映像を中心射影変換する。この光学系は、例えば、2葉双曲面のうちの一方の双曲面形状を有する双曲面ミラーを含み、双曲面ミラーの光軸が、全方位視覚センサーの撮像部に備わった撮像レンズの光軸に一致し、かつ、撮像レンズの主点が双曲面ミラーの片方の焦点に位置する。
【0043】
そして、光学系を通して受光される光学像を撮像部により画像データに変換し、この画像データを画像処理部によりパノラマ画像データおよび透視画像データのうちの少なくとも一方に変換する。
【0044】
表示部は、パノラマ画像データに対応するパノラマ画像および透視画像データに対応する透視画像のうちの少なくとも一方を表示する。
【0045】
撮像部で撮像した光学像は、双曲面ミラーの一方の焦点を視点とした画像と見なすことができ、極座標から直交座標への座標変換を行ってパノラマ画像または透視画像への変換が可能となる。
【0046】
表示画像の選択または表示される画像の大きさの制御は表示制御部により行う。
【0047】
ある実施形態において、1つの全方位視覚センサーは、移動体全体の周囲を俯瞰する透視画像データが得られるように配置される。移動体が車両の場合、一般に、その全方位視覚センサーの透視画像の視野方向が下方向に90゜になるように移動させることにより、車両の周囲を俯瞰した画像を表示することが可能になる。
【0048】
これにより、表示部は、移動体の周囲を俯瞰する透視画像を表示することができる。
【0049】
その結果、一方向の監視のみを重視した従来の移動体監視装置のように、運転者が、表示部に表示される画像を出力する複数のカメラを切り替えたり、カメラの向きを変えたりする必要がなく、容易に移動体の周囲を確認することができる。
【0050】
表示部は、周囲の領域のうち、移動体の移動想定方向と反対方向の領域の透視画像を表示する。
【0051】
あるいは、表示制御部からの制御に応じて、画像処理部によって平行移動(上下および/または左右を含む)(パン・チルト)処理、および、拡大縮小(ズームイン・ズームアウト)処理のうちの少なくとも一方を行なった画像を表示することができる。
【0052】
それにより、例えば、駐車場または車庫での入出庫時もしくは車両の幅寄せ時に、左右の車両またはその他の障害物との間隔を確認するのに最適である。
【0053】
なお、本明細書において、拡大縮小とは、拡大または縮小のいずれかを意味する。
【0054】
光学系の光軸を移動体の移動想定方向に対して垂直軸方向に向けるように光学系を配置する場合、その光学系によって撮像された映像を変換した透視画像は、移動体全体を俯瞰するような画像(すなわち、鳥瞰図)となり得る。例えば、駐車場または車庫での入出庫時もしくは車両の幅寄せ時に、左右の車両またはその他の障害物との間隔を確認することが容易になる。なお、光学系の光軸が車両の移動想定方向に対して鉛直方向に向いていない場合でも、全方位視覚センサーの透視画像の視野方向を鉛直軸下向きに合わせれば、所望の画像を得ることができる。
【0055】
さらに、表示制御部からの制御に応じて、移動体画像を表示部の表示画面の所定の位置(例えば、表示画像の中心)に表示させることにより、移動体の周囲の状況を容易に知ることができる。
【0056】
また、さらに、表示部の表示画面の所定の位置に、予め撮影した移動体画像またはコンピュータグラフィックスにより作成された移動体画像を表示することにより、移動体と移動体の周囲の物体(障害物等)の相対的な位置関係を認識しやすい。
【0057】
さらに、表示部に、移動体の移動想定方向と反対方向の領域の画像と、移動体の移動想定方向および移動体の移動想定方向と反対方向とは異なる領域の画像とを同時に表示させることにより、移動体の移動想定方向以外の方向の確認を容易に行うことが可能となる。概して、移動体のオペレータは、移動体の移動想定方向を向いて移動体を操作するため、移動体の移動想定方向以外の方向を確認することは安全の観点から利点がある。
【0058】
例えば、移動体が自動車である場合、前後のバンパー上に2つの全方位視覚センサーを設置することにより、運転席から死角となる部分を容易に確認することが可能となる。特に、車両の前方のある全方位視覚センサーを左コーナー部および右コーナー部のいずれか一方の上に設置し、車両の後方の別の全方位視覚センサーを前方に設置した全方位視覚センサーの設置位置と対角位置のコーナー部上に設置することにより、運転者の死角となり易い移動体のすぐ側において移動体全体の周囲略360゜の画像が得られる。
【0059】
さらに、車両の前方のコーナー部に設置した全方位視覚センサーにより得られる移動体の周囲を俯瞰した透視画像と、前方とは対角に位置する後方のコーナー部に設置した全方位視覚センサーにより得られる移動体の周囲を俯瞰した透視画像とを合成した透視画像を表示部に表示させることにより、車両全体の周囲の画像を1つの画面に表示することが可能となり、安全確認が容易になる。
【0060】
また、さらに、高所、高緯度地域または冬場等、移動体の周囲温度が所定の温度以下となり、移動体内部から外部を目視しづらいような場合(例えば、移動体が車両の場合、車両の窓ガラスが曇る場合)、移動体が移動可能状態になるとき、表示部が移動体の周囲を俯瞰した透視画像を表示することにより、移動体のオペレータは、移動体の周囲の安全確認を容易に行なうことができる。移動体が車両の場合、全方位視覚センサーの透視画像の視野方向を90°下向き(鉛直軸方向下向き)にすることで、車両の周囲の画像を表示することができる。
【0061】
【発明の実施の形態】
以下に、本発明の実施の形態について、図面を参照しながら説明する。
【0062】
(実施形態1)
図1Aは本発明の一実施形態である移動体の周囲監視装置200を備えた移動体100の構成を示す平面図であり、図1Bはその移動体100の側面図である。
【0063】
本実施形態において、移動体100の具体例として、移動体100が車両である場合を説明する。
【0064】
本実施形態において、車両100は、移動体の周囲監視装置200を搭載する。図1Aおよび図1Bに示される移動体の周囲監視装置200は、全方位視覚センサー210と、演算制御部220とを含む。全方位視覚センサー210は、車両100の天井(ルーフ)の上に配置される。演算制御部220は、例えば、車両100の運転者の側に配置される。
【0065】
図1Aおよび図1Bに示される全方位視覚センサー210は、自身を中心として周囲の領域(略水平方向360゜を含む)の視野を有している。
【0066】
図1Cは本発明の別の一実施形態である移動体の周囲監視装置200Aを備えた移動体100Aの構成を示す平面図であり、図1Dはその移動体100Aの側面図である。車両100Aは、移動体の周囲監視装置200Aを搭載する。図1Cおよび図1Dに示される移動体の周囲監視装置200Aは、第1の全方位視覚センサー210Aと、第2の全方位視覚センサー210Bと、演算制御部220とを含む。第1の全方位視覚センサー210Aは、車両100Aの前側に(車両100Aの前進方向)配置され、第2の全方位視覚センサー210Bは、車両100Aの後ろ側に(車両100Aの後退方向)配置される。演算制御部220は、例えば、車両100Aの運転者の側に配置される。
【0067】
車両100Aは、さらに、車両100の前側に配置されるフロントバンパー110と、車両100Aの後ろ側に配置されるリアバンパー120とを有する。
【0068】
図1Cおよび図1Dに示される車両100Aでは、車両100Aのフロントバンパー110の中央部上に第1の全方位視覚センサー210Aが配置され、リアバンパー120の中央部上に第2の全方位視覚センサー210Bが配置される。第1の全方位視覚センサー210Aおよび第2の全方位視覚センサー210Bのそれぞれは、自身を中心として周囲の領域(略水平方向360゜を含む)の視野を有する。
【0069】
しかし、第1の全方位視覚センサー210Aの視野のうちの後方視野の略180゜は車両100Aによってふさがれるため、第1の全方位視覚センサー210Aの有効な視野は、第1の全方位視覚センサー210Aの略側方から前方の180゜である。また、リアバンパー120上の第2の全方位視覚センサー210Bの視野のうちの前方視野の略180゜は車両100Aによってふさがれるため、第2の全方位視覚センサー210Bの有効な視野は、第2の全方位視覚センサー210Bの略側方から後方の180゜である。
【0070】
図2は、本実施形態における移動体の周囲監視装置200の構成を説明するためのブロック図である。
【0071】
この移動体の周囲監視装置200は、その周囲の領域の映像を画像データに変換する全方位視覚センサー210と、全方位視覚センサー210によって変換された画像データを処理し、処理した画像を表示する演算制御部220とを含む。なお、図1Cおよび図1Dに示される移動体の周囲監視装置200Aは、全方位視覚センサーを2つ備える点を除いて移動体の周囲監視装置200と同様の機能を有する。また、図1Cおよび図1Dに示される第1の全方位視覚センサー210Aおよび第2の全方位視覚センサー210Bのそれぞれは、全方位視覚センサー210と同様の機能を有する。
【0072】
全方位視覚センサー210は、その周囲の視野領域の映像を中心射影変換する光学系212と、光学系212によって中心射影変換された光学像を画像データに変換する撮像部214とを含む。撮像部214は、撮像レンズ216と、中心射影変換された光学像を受光する受光部217と、受光部217部によって受光された光学像を画像データに変換する画像データ生成部218とを含む。
【0073】
また、演算制御部220は、撮像部214によって変換された画像データをパノラマ画像データおよび透視画像データの少なくとも一方に変換する画像処理部230と、画像処理部230からの出力236を表示する表示部240と、画像処理部230からの出力238および/または外部からの入力254に基づいて、表示部240において表示される画像の選択または画像の大きさなどを制御するための出力252を表示部240に出力する表示制御部250とを備える。画像処理部230は、所望の場合に、警報発生部260に出力262を出力し、警報を発生させる。画像処理部230は、画像変換部232と、出力バッファメモリー234と、記憶部235とを含む。表示部240は、パノラマ画像データに対応するパノラマ画像および透視画像データに対応する透視画像の少なくとも一方の画像を表示する。記憶部235は、画像処理部230の画像処理に関連する何らかのデータが記憶される。例えば、記憶部235は、車両100、100Aを上方から俯瞰した画像を記憶している。
【0074】
画像処理部230は、例えば、車両100の前方エンジン室内または後方貨物室内に設置することが可能であり、表示部240および表示制御部250は、運転席前方パネル内またはパネル横に設置することができる。
【0075】
以下に、各部分について、詳細に説明する。
【0076】
図3は、中心射影変換が可能な光学系212の具体例を示す。
【0077】
ここでは、光学系212は、2葉双曲面のうちの一方の双曲面形状を有する双曲面ミラー310を含む。双曲面ミラー310の光軸(Z軸)312は、撮像部214に備わった撮像レンズ216の光軸314に一致するように、撮像レンズ216および双曲面ミラー310は配置される。撮像レンズ216の第1主点215は、双曲面ミラー310の片方の焦点(焦点▲2▼)に位置する。これにより、中心射影変換(撮像部214で撮像した光学像を双曲面ミラー310の一方の焦点▲1▼を視点とする周囲の領域の映像と見なすこと)が可能になる。このような光学系212は、例えば特開平6−295333号公報に詳述されているので、以下に特徴点のみを説明する。
【0078】
図3において、双曲面ミラー310とは、双曲線をZ軸312を中心として回転して得られる2つの曲面(2葉双曲面)のうちの一方(Z>0の領域)の曲面の凸状面に鏡面を形成したものである。この2葉双曲面は、
(X2+Y2)/a2−Z2/b2=−1 ・・・(1)
2=(a2+b2
で表される。なお、aおよびbは双曲面の形状を定義する定数であり、cは焦点の位置を定義する定数である。本明細書において、a、b、cをミラー定数とよぶ。双曲面ミラー310は双曲線を回転することによって得られる曲面形状であるので、双曲線の回転軸は、この双曲面ミラー310の光軸312となる。
【0079】
この双曲面ミラー310は2つの焦点▲1▼と▲2▼とを有し、外部から一方の焦点(この場合は、焦点▲1▼)に向かう光は双曲面ミラー310で反射され、全て他方の焦点(この場合は、焦点▲2▼)に向かうという特徴を有する。従って、双曲面ミラー310の光軸312と撮像レンズ216の光軸314とを一致させると共に、他方の焦点▲2▼に撮像レンズ216の第1主点215を配置することにより、撮像部214で撮像される光学像は、視野方向によって視点位置を変えずに、一方の焦点▲1▼を視点中心とした周囲の領域の映像を画像データに変換可能なことを意味する。ただし、この場合、双曲面ミラー310の内部の領域の映像を撮像することができないことに留意されたい。また、実際には、撮像部214が有限の大きさを有するため、撮像部214は、撮像部214によって双曲面ミラー310の焦点▲1▼に入射することが妨げられる光を受光することはできない。
【0080】
撮像部214は、例えば、ビデオカメラである。図3における双曲面ミラー310を介して受光する光学像を、CCDまたはCMOS等の固体撮像素子を利用して画像データに変換する。変換された画像データは、画像処理部230に送られる。
【0081】
図4Aは、画像処理部230の詳細な構造を示すブロック図である。
【0082】
画像処理部230は、画像変換部232と、出力バッファメモリー234と、記憶部235とを含む。画像変換部232は、A/D変換器410と、入力バッファメモリー420と、CPU430と、ルックアップテーブル(LUT)440と、画像変換ロジック450とを含む。画像処理部232のそれぞれの要素と、出力バッファメモリー234とは、バスライン460を介して接続される。
【0083】
図4Bは、画像変換部232の詳細な構造を示すブロック図である。
【0084】
画像変換部232には、撮像部214にて撮像された光学像を変換した画像データが入力される。画像データがアナログ信号の場合には、A/D変換器410によりデジタル信号に変換された後で入力バッファメモリー420に入力される。画像データがデジタル信号の場合には、直接入力バッファメモリー420に入力される。
【0085】
画像変換部232では、上記入力バッファメモリー420からの出力を必要に応じて画像処理を施す。画像処理は、例えば、画像変換ロジック450が、LUT440を用いて、画像データをパノラマ画像データおよび透視画像データの少なくとも一方に変換したり、表示すべき画像の平行移動(上下または左右への移動)および/または拡大縮小することによって行なわれる。その後、画像処理後の画像データが図4Aに示す出力バッファメモリー234に入力される。これらの制御は、CPU430により制御される。このとき、CPU430は、所謂RISC方式でも、CISC方式でもよい。
【0086】
次に、上記画像変換ロジック450による画像変換の原理について説明する。画像変換としては、周囲の領域の映像を360゜のパノラマ画像に変換するためのパノラマ画像変換および透視画像に変換するための透視変換がある。また、透視画像は横回転移動(左右移動、いわゆるパン動作)および縦回転移動(上下移動、いわゆるチルト動作)が可能である。本明細書において、横回転移動および縦回転移動のうちの少なくとも一方の移動を「平行移動」とよぶ。
【0087】
まず、360゜のパノラマ画像変換について、図5を用いて説明する。図5(a)は、受光部217によって受光される円形入力光学像510を示す。図5(b)は、円形入力光学像510をドーナツ状に切り出し、切り開く様子を示す(515)。図5(c)は、円形入力光学像510を引き伸ばして直交座標に変換した後のパノラマ画像520を示す。
【0088】
図5(a)に示すように、円形入力光学像510をその中心を原点とした極座標で表す場合、円形入力光学像510上のある点(画素)Pの座標は(r,θ)で表わされる。図5(b)に示すように、この円形入力光学像510をドーナツ状に切り出して、PO(ro,θo)を基準に切り開いて引き伸ばし、これを四角いパノラマ画像520に変換する座標変換式は、パノラマ画像520上の点P2の座標を(x,y)とすると、
x=θ−θo
y=r−ro
で表される。図5(a)の円形入力光学像510上の点P1の座標を(X,Y)とし、その中心Oの座標を(Xo,Yo)とすると、
X=Xo+r×cosθ
Y=Yo+r×sinθ
であるので、この式は、
X=(y+ro)×cos(x+θo)+Xo
Y=(y+ro)×sin(x+θo)+Yo
と書きかえることができる。
【0089】
パノラマ画像のパン・チルト動作は、基準点PO(ro、θo)の位置を別の位置に変えることにより行うことができる。θoを変えることによりパン動作が行われ、roを変えることによりチルト動作が行われる。但し、チルト動作については変換領域を外れてしまうため、本実施形態では使用しない。
【0090】
次に、透視変換について、図6を用いて説明する。透視変換における座標変換については、空間上の点が入力光学像上のどの位置に対応するかを計算し、入力光学像上の点の画像情報を透視変換後の周囲の映像上の対応する座標位置に割り当てる方法を採用する。
【0091】
図6に示すように、空間上のある点をP3とし、受光部217に形成される円形入力光学像上の対応する点の座標をR(r,θ)とし、撮像レンズ216の焦点距離をFとし、受光部217は、撮像レンズ216から焦点距離F離れて配置される。さらに、双曲面ミラー310のミラー定数を(a,b,c)(上記図3のa、b、cと同じ)とし、αを物点から双曲面ミラー310の焦点▲1▼へ向かう入射光の焦点から見た入射角(水平面からの上下振れ角)、βを物点から双曲面ミラー310の焦点▲1▼へ向かう光が双曲面ミラー310で反射され、撮像レンズ216に入射する入射角(但し、撮像レンズ216の光軸314からの角度ではなく、光軸314に垂直な撮像レンズ216平面からの角度)とすると、
r=F×tan((π/2)−β) ・・・(2)
であり、ここで、
Figure 0003773433
となる。上記式(2)を整理すると、
Figure 0003773433
となる。さらに、円形入力光学像510上の点の座標を直交座標に変換してR(X,Y)とすると、
X=r×cosθ ・・・(3)
Y=r×sinθ ・・・(4)
であるので、
Figure 0003773433
となる。
【0092】
次に、横回転移動と縦回転移動について説明する。
【0093】
まず、双曲面ミラー310の焦点▲1▼から距離R、俯角φ(図6のαと同じ)、Z軸312周りの回転角θの透視空間上に、図6に示すような幅W、高さhの画像平面が存在すると仮定する。画像平面の中心がP3である。このとき、画像平面上の点、例えば右上コーナーの点Qの座標(tx,ty,tz)は、
tx=(Rcosφ+(h/2)sinφ)cosθ−(W/2)sinθ・・・(7)
ty=(Rcosφ+(h/2)sinφ)sinθ−(W/2)cosθ・・・(8)
tz=Rsinφ−(h/2)cosφ ・・・(9)
で表される。従って、上記式(7)、(8)および(9)を上記式(5)および(6)に代入することにより、入力画像面上のうちのQと対応する点の座標XとYとを求めることができる。すなわち、
Figure 0003773433
となる。ここで、表示部240の画面サイズのピクセル(画素)単位を幅nおよび高さmとすると、上記式(7)、(8)および(9)においてWをW/nステップでW〜−W、hをh/mステップでh〜−hまで変化させたときに、入力光学像510上の対応する点の画像データを表示部240が表示するように構成することにより、透視画像を表示することができる。
【0094】
次に、透視変換における横回転移動と縦回転移動(パン・チルト動作)について説明する。まず、上述のようにして得られた点Qが横回転移動(左右移動)した場合について説明する。横回転移動(Z軸312回りの回転)については、移動角度をΔθとすると、移動後の座標(tx’,ty’,tz’)は、
Figure 0003773433
で表される。従って、横回転移動については、上記式(12)、(13)および(14)を上記式(5)および(6)に代入することにより、(tx’、ty’、tz’)と入力光学像510面上の対応する点の座標XとYとを求めることができる。画像平面上の他の点(Q点以外の点)についても同様である。よって、上述したのと同様に、上記式(12)、(13)および(14)においてW〜−W、h〜−hまで変化させたときに、入力光学像510面上の対応する点の画像データを表示部240が表示するように構成することにより、横回転した透視画像を表示することができる。
【0095】
次に、上述のようにして得られた点Qが縦回転移動(上下移動)した場合について説明する。縦回転移動(Z軸312方向の回転)については、移動角度をΔφとすると、移動後の座標(tx”,ty”,tz”)は、
Figure 0003773433
で表される。従って、縦回転移動については、上記式(15)、(16)および(17)を上記式(5)および(6)に代入することにより、(tx”、ty”、tz”)と入力光学像510面上の対応する点の座標XとYとを求めることができる。他の平面上の点についても同様である。よって、上記式(15)、(16)および(17)をW〜−W、h〜−hまで変化させたときに、入力光学像510面上の対応する点の画像データを表示部240が表示するように構成することにより、縦回転した透視画像が得られる。
【0096】
透視画像のズームイン・ズームアウト機能については、上記式(11)および(12)において、Wおよびhを変えずにRを小さくすると、焦点▲1▼からの視野領域が広がって光学的にズームアウトした場合と等価な縮小画像が得られ、Rを大きくすると、視野領域が狭くなって光学的にズームインした場合と等価な拡大画像が得られる。
【0097】
ここで、撮像部214の光軸314が地面に対して鉛直方向上向きになるように車両100に取り付け、縦回転移動によりα=−90゜となるように透視画像の視野方向を選ぶと、その透視画像は車両100の周囲を真上から俯瞰するような画像(鳥瞰図)となる。この画像において視野領域を広げるためには、上述したようにRを小さくすればよく、拡大画像が欲しい場合にはRを大きくすればよい。さらに、表示制御部250からの制御(例えば、キー操作)により縮小された画像表示を行うことにより、図1Aおよび図1Bに示される全方位視覚センサー210を中心として、自車両100全体を含む一定範囲の広さの周囲を真上から俯瞰するような画像(鳥瞰図)となる。
【0098】
本明細書において、俯瞰とは、移動体100の移動想定方向に対して垂直上方から移動体の映像を撮像することを意味する。
【0099】
また、本明細書において、移動想定方向とは、移動体100の移動確率が最も高い方向を意味する。移動体100は、移動想定方向に移動することを想定して設計されており、また、一般に、移動体100のオペレータは、移動想定方向を直視するように位置している。
【0100】
さらに、上述の透視画像は、焦点▲1▼からある選択された視野方向を中心として、その視野方向に垂直な面を想定しているが、上記式(5)および(6)を用いれば、視野方向に対して任意の位置および任意の角度の透視画像面を設定し得ることは明らかである。ここで、例えば全方位視覚センサー210を車両100の天井ではなく、車両100のコーナー部に設置した場合を考えると、通常の透視画像では、全方位視覚センサー210からの視野方向を中心として、その上下左右が等しい間隔の画像となっているため、表示部240の表示画面で表示される画像は、自車両100の位置が中心からずれた位置に表示されるかもしれない。
【0101】
そこで、例えば自車両100の車幅を2lwとしたときに、上記式(15)、(16)および(17)において画像平面の範囲をW〜−W、h〜−hとせずに、横および縦に(μ,ν)だけ移動させて(ずらして)、W+μ〜−W+μ、h+ν〜−h+νとすることにより、自車両100の位置を中心として画像表示することが可能である。但し、lw=√(μ2+ν2)である。このような処理は、画像処理部230により変換処理する際に、Wおよびhにμおよびνを加えることにより行うことができる。
【0102】
表示部240は、例えば、ブラウン管、LCDやELのモニターである。表示部240は、また、画像処理部230の出力バッファメモリー234からの出力を受け取り、画像を表示する。このとき、マイクロコンピューターを含む表示制御部250によって、表示部240に表示する画像(画像処理部230により変換されたパノラマ画像および/または透視変換画像)を選択したり、または、表示される画像の方向、画像の大きさを制御することができる。
【0103】
図7は、表示部240によって表示される表示画面710を示す。
【0104】
この図7において、表示画面710は、第1の透視画像表示部720と、第2の透視画像表示部730と、第3の透視画像表示部740と、パノラマ画像表示部750とを含む。第1の透視画像表示部720は、デフォルトで、車両100の周囲のうちの前方の透視画像を表示し、第2の透視画像表示部730は、デフォルトで、車両100の周囲のうちの左側の透視画像を表示し、第3の透視画像表示部740は、デフォルトで、車両100の周囲のうちの右側の透視画像を表示する。また、パノラマ画像表示部750は、車両100の周囲全体の映像を表示する。
【0105】
表示画面710は、また、第1の透視画像表示部720を説明するための第1の説明表示部725、第2の透視画像表示部730を説明するための第2の説明表示部735、第3の透視画像表示部740を説明するための第3の説明表示部745を、パノラマ画像表示部750を説明するための第4の説明表示部755を含む。
【0106】
表示画面710は、さらに、表示される透視画像を平行移動させるための方向キー760と、画像が表示する領域を拡大するための拡大キー770、画像が表示する領域を縮小するための縮小キー780を含む。
【0107】
ここで、第1の説明表示部725、第2の説明表示部735、第3の説明表示部745、第4の説明表示部755は、第1の透視画像表示部720、第2の透視画像表示部730、第3の透視画像表示部740、パノラマ画像表示部750のそれぞれのアクティブスイッチになっている。利用者は、第1の説明表示部725、第2の説明表示部735、第3の説明表示部745、第4の説明表示部755を操作して、対応する第1の透視画像表示部720、第2の透視画像表示部730、第3の透視画像表示部740、パノラマ画像表示部750をアクティブ状態にした後に、その表示部の画像の平行移動および/または拡大縮小が可能になる。さらに、第1の説明表示部725、第2の説明表示部735、第3の説明表示部745、第4の説明表示部755の表示色が変わることで、対応する第1の透視画像表示部720、第2の透視画像表示部730、第3の透視画像表示部740、パノラマ画像表示部750がアクティブであることを示してもよい。
【0108】
第1の透視画像表示部720、第2の透視画像表示部730、第3の透視画像表示部740、パノラマ画像表示部750は、方向キー760、拡大キー770、縮小キー780を操作することにより、平行(上下左右)移動および/または拡大縮小させることができる。また、パノラマ画像表示部750については、方向キー760を操作することにより上下左右移動させることができる。但し、パノラマ画像表示部750については、拡大縮小は行われない。
【0109】
例えば、利用者が、第1の説明表示部725を押すと、その信号が表示制御部250に送られる。表示制御部250は、第1の説明表示部725の色を変更させるか、または点滅させることによって、第1の透視画像表示部720がアクティブ状態であることを示す。それと共に第1の透視画像表示部720がアクティブ状態になり、方向キー760、拡大キー770、縮小キー780からの信号に応じて、表示制御部250から画像処理部230の画像変換部232に信号が送られる。そして、方向キー760、拡大キー770、縮小キー780キーのそれぞれに対応して変換された画像が、表示部240に送られ、画面に表示される。
【0110】
表示画面710は、さらに全方位視覚センサー切り換えキー790を含んでもよい。
【0111】
ここで、例えば運転者が、画面上の近くにある全方位視覚センサー切り換えキー790を操作すると、その操作に応じて、表示制御部250から画像処理部230および表示部240に信号が送られ、前方の全方位視覚センサー(図1C、1Dの210A)による画像と後方の全方位視覚センサー(図1C、1Dの210B)による画像が切り換えられる。そして、例えば後方の全方位視覚センサー210Bを選んだ場合には、後方の全方位視覚センサー210Bの画像が表示される。さらに、3つの透視画像表示部720、730、740のうちの真ん中に位置する第1の画像表示部720を選択し、方向キー760により下方向に−90゜まで画面をチルトさせると、上述したように、自車両100Aの後方部の周囲を真上から俯瞰した画像が得られる。この画像を図8に示す。
【0112】
図8は、表示部240が表示する別の表示画面810を示す。
【0113】
図8に示すように、表示画面810は、第1の透視画像表示部830のみを拡大して表示することもできる。第1の説明表示部820は、第1の透視画像表示部830が車両100Aの後部の周囲を俯瞰する後部鳥瞰図であることを示す。このように鳥瞰図的表示を行うことは、特に、駐車場または車庫での入出庫時もしくは幅寄せ時に左右の車両またはその他の障害物との間隔を確認するのに最適である。
【0114】
この図8は、全方位視覚センサー210Bを後述する実施形態2に示すように、車両100Aのコーナー部に設置した場合を示している。この場合、全方位視覚センサー210Bの視野は、視野の略90゜が自車両100Aによりふさがれるため(図の領域860)、約270゜である。これに対し、レアバンパー120の中央部に設けた全方位視覚センサー210B(図1Cおよび1D参照)を設けた場合、後方180゜の視野の画像が得られる。
【0115】
さらに、図7に示される第2の透視画像表示部730および第3の透視画像表示部740は、各々左右に360゜回転の任意の角度回転させた画像を表示することも可能である。第2の透視画像表示部730または第3の透視画像表示部740が、左右のいずれか一方に90゜回転させた画像を表示することにより、前方または後方の透視画像が得られる。なお、この表示画面への切り換えは、表示画面にさらなる操作ボタンを設けて、図7に示されるような表示画面から1回のボタン操作で切り換えられるようにしてもよい。
【0116】
(実施形態2)
図9Aは実施形態2の移動体の周囲監視装置1000を備えた車両900の構成を示す平面図であり、図9Bはその車両900の側面図である。
【0117】
本実施形態では、車両900の前方コーナー部上に全方位視覚センサー1010Aを配置し、その対角位置の後方コーナー部上に全方位視覚センサー1010Bを配置している点で、車両100Aとは異なる。
【0118】
全方位視覚センサー1010A、1010Bのそれぞれは、自身を中心として略水平方向360゜の視野を含む周囲の視野を有する。しかし、前方コーナー部上の全方位視覚センサー1010Aの有効な視野は、斜め後方視野略90゜が車両900によってふさがれるため、略270゜である。また、後方コーナー部上の全方位視覚センサー1010Bの有効な視野は、斜め前方視野略90゜が車両900にふさがれるため、略270゜である。よって、2つの全方位視覚センサー1010A、1010Bを合わせて、運転者の死角となりやすい車両900全体の周囲の略360゜の画像が得られる。
【0119】
ここで、例えば運転者が、図7に示されたような表示画面710の真ん中に位置する第1の透視画像表示部720を選んだ場合には、表示画面710は、通常、全方位視覚センサー1010Aからの視野方向を中心とした画像であり、画像上で自車両900の位置が表示画像の中心からずれた位置に表示されることがある。そこで、上述したように、表示画面に表示される自車両900を表す画像を所定の位置(例えば、表示画像の中心)に表示するようにシフトさせることも可能である。
【0120】
図10は、本実施の形態による表示画面1110を示す。画像処理部230または表示部240が、前方コーナー部の全方位視覚センサー1010Aにより得られる鳥瞰図的画像と、その対角位置の後方コーナー部の全方位視覚センサー1010Bにより得られる鳥瞰図的画像とを合成することにより、図10に示すように、表示画面1110は、自車両900の周囲の画像を1度に1つの画面に表示させることも可能である。
【0121】
なお、全方位視覚センサーを取り付ける高さが自車両より高い場合、自車両の周囲を上方から俯瞰した映像が得られるが、取り付け高さが自車両の高さよりも低い場合には、実際には自車両を横からみた映像しか得られない。そこで、図8および図10に示すような自車両を表す画像を表示するために、予め自車両を上方から撮影した画像を用意するか、または,コンピュータグラフィックスにより自車両の周囲を上方から俯瞰した画像を用意し、表示画面内の表示画像の所定の位置に合成表示(スーパーインポーズ)させるができる。これにより、車両の運転者は、車両の周囲の状況を容易に確認することができ、例えば、駐車場での白線位置または障害物との間隔をより容易に認識できる。
【0122】
また、さらに、図11に示すように、車両900の対角するコーナー部に設置された2つの全方位視覚センサー1010A、1010Bからの画像を合成表示するときに、両方の全方位視覚センサー1010A、1010Bの画像の重なる領域1、領域4については、どちらか一方の全方位視覚センサーの画像を選択して表示するように構成されている。このような構成のとき、選択された一方の全方位視覚センサーの領域1、領域4の画像と、他方の全方位視覚センサーの領域2、領域3の画像との間に視野方向の違いによる不連続が生じ、その部分は車両900の運転者には非常に見ずらい画像となる。
【0123】
そこで、車両900の運転者が、画面の近くにある表示制御部250に接続された切替キー790を操作すると、その信号が表示制御部250に送られ、キー操作に対応して表示制御部250から画像処理部230および表示部240に信号が送られ、重なる領域の画像が、運転者がより注意したい領域と連続した画像になるように、領域1または領域4の画像が切り替えられる。そして、例えば、車両900の運転者が領域1と領域2との間よりも、領域1と領域3との間をより注意したいとき、運転者が切替キー790を操作して、領域1の画像として、領域3を撮像している全方位視覚センサー1010Aの画像を選択すると、領域1と領域3が連続した画像となり、領域1と領域2との間が不連続となる。一方、逆に、運転者が切替キー790を操作して、領域1の画像として、領域2を撮像している全方位視覚センサー1010Bの画像を選択すると、領域1と領域2が連続した画像となり、領域1と領域3との間が不連続となる。領域4についても同様である。
【0124】
(実施形態3)
図12Aは実施形態3の移動体の周囲監視装置1300を備えた車両1200の構成を示す平面図であり、図12Bはその車両1200の側面図である。
【0125】
図12Aおよび図12Bに示される移動体の周囲監視装置1300は、車両1200の外部の最適な位置(例えば、天井部前方)に周囲温度を計測する温度測定部270が設置されている点で、移動体の周囲監視装置1000とは異なる。
【0126】
図13は、実施形態3の移動体の周囲監視装置1300を示すブロック図である。移動体の周囲監視装置1300は、演算制御部1320が温度測定部270を備えている点で、図2に示した移動体の周囲監視装置200とは異なる。
【0127】
本実施形態では、車両1200の外部の最適な位置(例えば、天井部前方)に周囲温度を計測する温度測定部270が設置されている。さらに、ケーブルを通じて本監視装置の表示制御部250に接続されており、車両のエンジン始動時に、温度測定部270の測定結果が所定の温度以下のとき、表示制御部250は、温度測定部270からの出力256に基づいて、例えば、一定期間、自動的に図10に示すような自車両1200の周囲の画像を1度に1つの表示画面に表示させるように構成される。このように構成することにより、車両1200の周囲温度が所定の温度以下の場合、車両1200の窓ガラスが曇って周囲が見えなくても、車両1200の運転者は容易に周囲の安全を確認することができる。
【0128】
なお、上記実施形態1〜3では、全方位視覚センサーを車両のルーフ、または、バンパー上に設置しているが、ボンネット上、サイドミラー上等に設置してもよい。また、上記実施形態1〜3では、車両として、特に乗用車を意図して説明したが、本発明は乗用者に限定されるものではなく、バス等の大型車や貨物用車両についても同様に本発明を適用可能である。特に、貨物用車両では、貨物室によって運転車の後方視界が遮られることが多いため、本発明が特に有効である。また、本発明による移動体として、電車に適用することも可能であり、さらに、飛行機や移動ロボット全般にも適用可能である。
【0129】
【発明の効果】
以上詳述したように、本発明によれば、例えば車両のバンパー上部やコーナー部等に全方位視覚センサーを設置することにより、運転席から死角となる部分を容易に確認することが可能となる。従来の車両監視装置のように運転者が表示装置に表示される映像を出力する複数のカメラを切り替えたり、カメラの向きを替えたりしなくてもよいので、出発時の周囲確認時、左折時や右折時、駐車場や車庫からの入出庫時の安全確認等、左右後方確認を行って安全運転を確実に行うことができる。
【0130】
さらに、任意の表示画像、表示方向や画像サイズを切り替えて表示することができ、特に、駐車場や車庫での入出庫時や幅寄せ時等に、鳥瞰図的表示に表示を切り替えることにより、左右の車両やその他の障害物との間隔を確認できる等、安全確認を容易に行って、接触事故等を防ぐことができる。
【図面の簡単な説明】
【図1A】本発明の実施形態1の移動体の周囲監視装置を備えた車両の構成を示す平面図である。
【図1B】本発明の実施形態1の移動体の周囲監視装置を備えた車両の構成を示す側面図である。
【図1C】本発明の実施形態1の変形例の移動体の周囲監視装置を備えた車両の構成を示す平面図である。
【図1D】本発明の実施形態1の変形例の移動体の周囲監視装置を備えた車両の構成を示す側面図である。
【図2】本発明の一実施形態である移動体の周囲監視装置の構成を説明するためのブロック図である。
【図3】本発明の一実施形態である移動体の周囲監視装置における光学系の構成例を示す斜視図である。
【図4A】本発明の一実施形態である移動体の周囲監視装置における画像処理部の構成例を示すブロック図である。
【図4B】本発明の一実施形態である移動体の周囲監視装置における画像処理部内の画像変換部の構成例を示すブロック図である。
【図5】本発明の一実施形態である移動体の周囲監視装置における、入力光学像からパノラマ画像への変換について模式的に説明するための平面図であり、(a)は撮像部で得られた円形入力光学像を示し、(b)はドーナツ状に切り出して切り開く途中の様子を示し、(c)は引き伸ばして直交座標に変換した後のパノラマ画像を示す。
【図6】本発明の一実施形態である移動体の周囲監視装置における、入力光画像から透視画像への変換について説明するための斜視図である。
【図7】本発明の一実施形態である移動体の周囲監視装置における表示部の表示形態の例を示す図である。
【図8】本発明の一実施形態である移動体の周囲監視装置における表示部の表示形態の他の例を示す図である。
【図9A】本発明の実施形態2の移動体周囲監視装置を備えた車両の構成を示す平面図である。
【図9B】本発明の実施形態2の移動体周囲監視装置を備えた車両の構成を示す側面図である。
【図10】本発明の実施形態2の移動体の周囲監視装置における表示部の表示形態の他の例を示す図である。
【図11】本発明の実施形態2の移動体の周囲監視装置における表示部の表示形態の他の例における画像の領域区分を示す図である。
【図12A】本発明の実施形態3の移動体周囲監視装置を備えた車両の構成を示す平面図である。
【図12B】本発明の実施形態3の移動体周囲監視装置を備えた車両の構成を示す側面図である。
【図13】本発明の実施形態3の移動体の周囲監視装置の概略を示すブロック図である。
【符号の説明】
100、100A 車両
110 フロントバンパー
120 リアバンパー
200、200A 移動体の周囲監視装置
210、210A、210B 全方位視覚センサー
212 光学系
214 撮像部
216 撮像レンズ
217 受光部
218 画像データ生成部
220 演算制御部
230 画像処理部
232 画像変換部
234 出力バッファメモリー
235 記憶部
240 表示部
250 表示制御部
270 温度測定部
310 双曲面ミラー
312 双曲面ミラー310の光軸
314 撮像レンズ216の光軸
410 A/D変換器
420 入力バッファメモリー
430 CPU
440 LUT
450 画像変換ロジック
460 バスライン
510 円形入力画像
515 ドーナツ状に切り出し、切り開く途中の状態
520 パノラマ画像
710 表示画面
720 第1の透視画像表示部
725 第1の説明表示部
730 第2の透視画像表示部
735 第2の説明表示部
740 第3の透視画像表示部
745 第3の説明表示部
750 パノラマ画像表示部
755 第4の説明表示部
760 方向キー
770 拡大キー
780 縮小キー
790 全方位視覚センサー切り換えキー
810 表示画面
820 第1の説明表示部
830 拡大した第1の透視画像表示部
900 車両
1000 移動体の周囲監視装置
1010A、1010B 全方位視覚センサー
1110 表示画面
1200 車両
1300 移動体の周囲監視装置
1310A、1310B 全方位視覚センサー
1110 表示画面
1320 演算制御部

Claims (19)

  1. 移動体の周囲を監視するための移動体の周囲監視装置であって、
    その周囲の領域の映像を光学像に中心射影変換する光学系と、撮像レンズを含み、前記中心射影変換された光学像を画像データに変換する撮像部とを含む少なくとも1つの全方位視覚センサーと、
    前記画像データをパノラマ画像データおよび透視画像データの少なくとも一方に変換する画像処理部と、
    前記パノラマ画像データに対応するパノラマ画像および前記透視画像データに対応する透視画像の少なくとも一方を表示する表示部と、
    前記表示部を制御する表示制御部と
    を備える、全方位視覚システムを搭載する移動体の周囲監視装置であって、
    前記光学系は、2葉双曲面のうちの一方の双曲面形状を有する双曲面ミラーを含み、前記双曲面ミラーの光軸が前記撮像レンズの光軸に一致し、前記撮像レンズの主点が前記双曲面ミラーの一方の焦点位置に位置し、
    前記表示部が、前記移動体の周囲を俯瞰する前記透視画像を表示する、移動体の周囲監視装置。
  2. 前記少なくとも1つの全方位視覚センサーは、前記移動体全体の周囲を俯瞰する映像を前記画像データに変換するように配置される、請求項1に記載の移動体の周囲監視装置。
  3. 前記表示部は、前記パノラマ画像と前記透視画像を同時に、または、切り替えて表示する、請求項1に記載の移動体の周囲監視装置。
  4. 前記表示部は、前記移動体の移動想定方向と反対方向の領域の画像を表示する、請求項1に記載の移動体の周囲監視装置。
  5. 前記画像処理部は、前記周囲の領域のうちの第1の領域に対応する画像データを第1の透視画像データに変換する、請求項1に記載の移動体の周囲監視装置。
  6. 前記画像処理部は、前記表示制御部からの制御に応じて、前記周囲の領域のうちの、第1の領域とは一致しない第2の領域に対応する画像データを前記第1透視画像データとは一致しない第2の透視画像データに変換する、請求項5に記載の移動体の周囲監視装置。
  7. 前記第2の領域は、前記第1の領域を、平行移動および拡大縮小のうちの少なくとも一方を行なった領域に位置する、請求項6に記載の移動体周囲監視装置。
  8. 前記光学系の光軸が前記移動体の移動想定方向に対して垂直軸方向を向くように前記光学系が配置される、請求項1に記載の移動体の周囲監視装置。
  9. 前記表示部が、前記表示制御部からの制御に応じて、前記表示部の表示画像の所定の位置に前記移動体を表す画像を表示する、請求項1に記載の移動体の周囲監視装置。
  10. 前記表示部は、前記移動体の移動想定方向と反対方向の領域の画像と、前記移動体の移動想定方向および前記移動想定方向と反対方向とは異なる方向の領域の画像とを同時に表示する、請求項1に記載の移動体の周囲監視装置。
  11. 前記移動体は自動車である、請求項1に記載の移動体の周囲監視装置。
  12. 前記自動車は、前記自動車の移動想定方向側に位置する第1のバンパーと、前記自動車の前記移動想定方向と反対方向側に位置する第2のバンパーとを有し、
    前記少なくとも1つの全方位視覚センサーは、前記第1のバンパーの上に設置される第1の全方位視覚センサーと、前記第2のバンパーの上に設置される第2の全方位視覚センサーとを含む、請求項11に記載の移動体の周囲監視装置。
  13. 前記第1の全方位視覚センサーは、前記第1のバンパーのうちの前記自動車の移動想定方向に対して左端または右端のいずれか一方の上に設置され、
    前記第2の全方位視覚センサーは、前記第2のパンバーのうちの前記第1の全方位視覚センサーの設置位置と対向する側の上に設置される、請求項12に記載の移動体の周囲監視装置。
  14. 前記表示部は、前記第1の全方位視覚センサーによる第1の透視画像と、前記第2の全方位視覚センサーによる第2の透視画像とを合成した画像を表示する、請求項13に記載の移動体の周囲監視装置。
  15. 前記画像処理部は、前記移動体を表す画像に変換される前記移動体画像データを記憶する記憶部を備え、
    前記画像処理部は、前記移動体画像データと前記透視画像データとを合成し、前記表示部は、前記移動体を表す画像を含む透視画像を表示する、請求項1に記載の移動体の周囲監視装置。
  16. 前記移動体画像データは、コンピュータグラフィックスによって作成される画像データである、請求項15に記載の移動体の周囲監視装置。
  17. 前記移動体画像データは、前記移動体を撮影した画像データである、請求項15に記載の移動体の周囲監視装置。
  18. 前記全方位視覚システムが、前記移動体の周囲温度を測定する温度測定部をさらに備え、
    前記温度測定部が測定した周囲温度が所定の温度以下である場合、前記移動体が移動可能状態になるとき、前記表示部は、前記移動体の周囲を俯瞰する透視画像を表示する、請求項1に記載の移動体の周囲監視装置。
  19. 前記表示部は、前記第1の全方位視覚センサーによる前記移動体の周囲を俯瞰する透視画像の表示領域と前記第2の全方位視覚センサーによる前記移動体の周囲を俯瞰する透視画像の表示領域とが重なる領域において、前記表示制御部からの制御に基づいて、前記第1の全方位視覚センサーまたは前記第2の全方位視覚センサーの一方に対応する透視画像を表示する、請求項13に記載の移動体の周囲監視装置。
JP2001310887A 2000-10-11 2001-10-09 移動体の周囲監視装置 Expired - Fee Related JP3773433B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2001310887A JP3773433B2 (ja) 2000-10-11 2001-10-09 移動体の周囲監視装置
DE60101440T DE60101440T3 (de) 2000-10-11 2001-10-11 Umgebungsüberwachungssystem für beweglichen Körper
US09/975,678 US7295229B2 (en) 2000-10-11 2001-10-11 Surround surveillance apparatus for mobile body
EP01308662A EP1197937B2 (en) 2000-10-11 2001-10-11 Surround surveillance apparatus for mobile body
KR1020010062637A KR100650121B1 (ko) 2000-10-11 2001-10-11 이동체용 주위 감시 장치

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2000311206 2000-10-11
JP2000-311206 2000-10-11
JP2001310887A JP3773433B2 (ja) 2000-10-11 2001-10-09 移動体の周囲監視装置

Publications (2)

Publication Number Publication Date
JP2002218451A JP2002218451A (ja) 2002-08-02
JP3773433B2 true JP3773433B2 (ja) 2006-05-10

Family

ID=26601909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001310887A Expired - Fee Related JP3773433B2 (ja) 2000-10-11 2001-10-09 移動体の周囲監視装置

Country Status (5)

Country Link
US (1) US7295229B2 (ja)
EP (1) EP1197937B2 (ja)
JP (1) JP3773433B2 (ja)
KR (1) KR100650121B1 (ja)
DE (1) DE60101440T3 (ja)

Families Citing this family (92)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4658408B2 (ja) * 2001-08-30 2011-03-23 株式会社東海理化電機製作所 車両用監視装置
US7145519B2 (en) 2002-04-18 2006-12-05 Nissan Motor Co., Ltd. Image display apparatus, method, and program for automotive vehicle
US20030202110A1 (en) * 2002-04-30 2003-10-30 Owens James W. Arrangement of images
US20030227424A1 (en) * 2002-06-05 2003-12-11 Lynch Marvin L. Method and apparatus for in-vehicle traffic flow viewing
JP3849645B2 (ja) * 2003-01-20 2006-11-22 ソニー株式会社 監視装置
DE10303013A1 (de) * 2003-01-27 2004-08-12 Daimlerchrysler Ag Fahrzeug mit einer katadioptrischen Kamera
DE10307607A1 (de) * 2003-02-22 2004-09-09 Daimlerchrysler Ag Verteiltes Bildverarbeitungssystem für Kraftfahrzeuge
JP2004312638A (ja) 2003-04-10 2004-11-04 Mitsubishi Electric Corp 障害物検知装置
US20050031169A1 (en) * 2003-08-09 2005-02-10 Alan Shulman Birds eye view virtual imaging for real time composited wide field of view
US20050062845A1 (en) 2003-09-12 2005-03-24 Mills Lawrence R. Video user interface system and method
JP2005167638A (ja) * 2003-12-02 2005-06-23 Sharp Corp 移動体周囲監視装置、移動体および画像変換方法
JP2005191962A (ja) 2003-12-25 2005-07-14 Sharp Corp 移動体周囲監視装置および移動体
WO2005080134A1 (en) * 2004-02-20 2005-09-01 Sharp Kabushiki Kaisha Surroundings exhibiting system and surroundings exhibiting method
JP4661112B2 (ja) * 2004-07-09 2011-03-30 日産自動車株式会社 画像情報処理装置及び画像情報処理方法
JP4590962B2 (ja) * 2004-07-21 2010-12-01 日産自動車株式会社 車両用周辺監視装置
JP2006054662A (ja) * 2004-08-11 2006-02-23 Mitsubishi Electric Corp 運転支援装置
DE102004042281A1 (de) * 2004-09-01 2006-03-02 Daimlerchrysler Ag Hilfsvorrichtung für das Handhaben eines Fahrzeugs
JP2006105640A (ja) * 2004-10-01 2006-04-20 Hitachi Ltd ナビゲーション装置
JP4639753B2 (ja) 2004-10-25 2011-02-23 日産自動車株式会社 運転支援装置
DE102005006754A1 (de) * 2005-02-15 2006-08-17 Robert Bosch Gmbh Weitwinkeliges Kamera-Spiegel-System für Beobachtungszwecke
JP4596978B2 (ja) * 2005-03-09 2010-12-15 三洋電機株式会社 運転支援システム
JP4907883B2 (ja) * 2005-03-09 2012-04-04 株式会社東芝 車両周辺画像表示装置および車両周辺画像表示方法
EP1916846B1 (en) * 2005-08-02 2016-09-14 Nissan Motor Company Limited Device and method for monitoring vehicle surroundings
DE102006006850B4 (de) 2006-02-15 2022-12-29 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Ausrichtung eines verschwenkbaren Fahrzeugsensors
US20070271028A1 (en) * 2006-05-18 2007-11-22 Zicheng Liu Method and Apparatus for Vehicle Safety Surveillance
US8013838B2 (en) * 2006-06-30 2011-09-06 Microsoft Corporation Generating position information using a video camera
US20100007734A1 (en) * 2007-01-16 2010-01-14 Pioneer Corporation Vehicular image processing device, and vehicular image processing program
JP4969269B2 (ja) * 2007-02-21 2012-07-04 アルパイン株式会社 画像処理装置
JP2008219063A (ja) * 2007-02-28 2008-09-18 Sanyo Electric Co Ltd 車両周辺監視装置及び方法
DE102007016956A1 (de) 2007-04-05 2008-10-09 Continental Teves Ag & Co. Ohg Fahrerassistenzsystem
US20080266397A1 (en) * 2007-04-25 2008-10-30 Navaratne Dombawela Accident witness
JP5120880B2 (ja) 2007-10-15 2013-01-16 アルパイン株式会社 画像処理装置及び画像処理方法
DE102008034606A1 (de) * 2008-07-25 2010-01-28 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Darstellung der Umgebung eines Fahrzeugs auf einer mobilen Einheit
DE102009050368A1 (de) 2008-10-24 2010-05-27 Magna Electronics Europe Gmbh & Co.Kg Verfahren zum automatischen Kalibrieren einer virtuellen Kamera
DE102008061760A1 (de) 2008-12-12 2010-06-17 Daimler Ag Vorrichtung zur Überwachung einer Umgebung eines Fahrzeugs
JP4840452B2 (ja) * 2009-01-22 2011-12-21 株式会社デンソー 車両周辺表示装置
JP5068779B2 (ja) * 2009-02-27 2012-11-07 現代自動車株式会社 車両周囲俯瞰画像表示装置及び方法
JP5344227B2 (ja) * 2009-03-25 2013-11-20 アイシン精機株式会社 車両用周辺監視装置
JP5436086B2 (ja) * 2009-08-03 2014-03-05 アルパイン株式会社 車両周辺画像表示装置および車両周辺画像表示方法
FR2956364B1 (fr) * 2010-02-18 2016-01-29 Peugeot Citroen Automobiles Sa Dispositif d'aide aux manoeuvres d'un vehicule par affichage de points de vue fonction de la position de la tete du conducteur
DE102010015079A1 (de) * 2010-04-15 2011-10-20 Valeo Schalter Und Sensoren Gmbh Verfahren zum Anzeigen eines Bildes auf einer Anzeigeeinrichtung in einem Fahrzeug. Fahrerassistenzsystem und Fahrzeug
WO2012061567A1 (en) 2010-11-04 2012-05-10 Magna Electronics Inc. Vehicular camera system with reduced number of pins and conduits
US9264672B2 (en) 2010-12-22 2016-02-16 Magna Mirrors Of America, Inc. Vision display system for vehicle
US9233641B2 (en) 2011-02-25 2016-01-12 Magna Electronics Inc. Vehicular camera with aligned housing members and electrical connection between aligned housing members
US20140218535A1 (en) 2011-09-21 2014-08-07 Magna Electronics Inc. Vehicle vision system using image data transmission and power supply via a coaxial cable
JP5682788B2 (ja) * 2011-09-27 2015-03-11 アイシン精機株式会社 車両周辺監視装置
US9264673B2 (en) 2011-11-20 2016-02-16 Magna Electronics, Inc. Vehicle vision system with enhanced functionality
WO2013081985A1 (en) 2011-11-28 2013-06-06 Magna Electronics, Inc. Vision system for vehicle
TWI457861B (zh) * 2011-12-19 2014-10-21 Transpac Corp 監控裝置及其方法
US9565342B2 (en) 2012-03-06 2017-02-07 Magna Electronics Inc. Vehicle camera with tolerance compensating connector
US10089537B2 (en) 2012-05-18 2018-10-02 Magna Electronics Inc. Vehicle vision system with front and rear camera integration
US9288446B2 (en) * 2012-09-10 2016-03-15 Nissan North America, Inc. Vehicle video system
TWI517992B (zh) * 2012-11-13 2016-01-21 義晶科技股份有限公司 車用影像系統及其影像之顯示控制方法
KR101406211B1 (ko) 2012-12-20 2014-06-16 현대오트론 주식회사 차량용 avm 영상 제공 장치 및 방법
US10057544B2 (en) 2013-03-04 2018-08-21 Magna Electronics Inc. Vehicle vision system camera with integrated physical layer components
US9834143B2 (en) * 2013-05-23 2017-12-05 GM Global Technology Operations LLC Enhanced perspective view generation in a front curb viewing system
CN105658479B (zh) * 2013-08-07 2018-08-31 奥迪股份公司 可视化***、车辆以及用于操作可视化***的方法
JP6261266B2 (ja) * 2013-10-02 2018-01-17 東芝アルパイン・オートモティブテクノロジー株式会社 移動体検知装置
US9881220B2 (en) 2013-10-25 2018-01-30 Magna Electronics Inc. Vehicle vision system utilizing communication system
DE102015202846B4 (de) 2014-02-19 2020-06-25 Magna Electronics, Inc. Fahrzeugsichtsystem mit Anzeige
US9688199B2 (en) 2014-03-04 2017-06-27 Magna Electronics Inc. Vehicle alert system utilizing communication system
US9971947B2 (en) 2014-07-31 2018-05-15 Magna Electronics Inc. Vehicle vision system with camera power control
US9729636B2 (en) 2014-08-01 2017-08-08 Magna Electronics Inc. Smart road system for vehicles
US10356337B2 (en) 2014-10-07 2019-07-16 Magna Electronics Inc. Vehicle vision system with gray level transition sensitive pixels
US9740945B2 (en) 2015-01-14 2017-08-22 Magna Electronics Inc. Driver assistance system for vehicle
US10032369B2 (en) 2015-01-15 2018-07-24 Magna Electronics Inc. Vehicle vision system with traffic monitoring and alert
JP6222137B2 (ja) * 2015-03-02 2017-11-01 トヨタ自動車株式会社 車両制御装置
US10298818B2 (en) 2015-03-23 2019-05-21 Magna Electronics Inc. Vehicle camera with enhanced imager and PCB assembly
US10486599B2 (en) 2015-07-17 2019-11-26 Magna Mirrors Of America, Inc. Rearview vision system for vehicle
US10875403B2 (en) 2015-10-27 2020-12-29 Magna Electronics Inc. Vehicle vision system with enhanced night vision
US11027654B2 (en) 2015-12-04 2021-06-08 Magna Electronics Inc. Vehicle vision system with compressed video transfer via DSRC link
US10132971B2 (en) 2016-03-04 2018-11-20 Magna Electronics Inc. Vehicle camera with multiple spectral filters
KR101866875B1 (ko) 2016-06-10 2018-07-23 (주)헥스하이브 전방위 촬상용 영상 시스템 및 블랙박스
KR101671340B1 (ko) 2016-03-15 2016-11-01 (주)헥스하이브 전방위 촬상용 렌즈 조립체
US10380439B2 (en) 2016-09-06 2019-08-13 Magna Electronics Inc. Vehicle sensing system for detecting turn signal indicators
US10607094B2 (en) 2017-02-06 2020-03-31 Magna Electronics Inc. Vehicle vision system with traffic sign recognition
JP7130923B2 (ja) * 2017-07-19 2022-09-06 株式会社アイシン 表示制御装置
CN107371001B (zh) * 2017-08-25 2018-07-20 北京中都格罗唯视物流有限公司 一种重型卡车实时监控***
CN107396061B (zh) * 2017-08-25 2018-05-01 胡海明 重型卡车实时监控***
US10933798B2 (en) 2017-09-22 2021-03-02 Magna Electronics Inc. Vehicle lighting control system with fog detection
US10682966B2 (en) 2017-11-16 2020-06-16 Magna Electronics Inc. Vehicle light/display control system using camera
US11417107B2 (en) 2018-02-19 2022-08-16 Magna Electronics Inc. Stationary vision system at vehicle roadway
DE102018206062A1 (de) * 2018-04-20 2019-10-24 Robert Bosch Gmbh Verfahren zur Steuerung eines Anzeigesystems
US11683911B2 (en) 2018-10-26 2023-06-20 Magna Electronics Inc. Vehicular sensing device with cooling feature
JP7038643B2 (ja) * 2018-11-26 2022-03-18 本田技研工業株式会社 映像表示装置
US11609304B2 (en) 2019-02-07 2023-03-21 Magna Electronics Inc. Vehicular front camera testing system
US11535158B2 (en) 2019-03-28 2022-12-27 Magna Electronics Inc. Vehicular camera with automatic lens defogging feature
US11135883B2 (en) 2019-05-13 2021-10-05 Magna Electronics Inc. Vehicular sensing system with ultrasonic sensor at trailer hitch
US11750905B2 (en) 2020-08-14 2023-09-05 Magna Electronics Inc. Vehicular camera with inductive lens heater
US11801795B2 (en) 2020-09-18 2023-10-31 Magna Electronics Inc. Vehicular camera with lens heater with connectors
US11749105B2 (en) 2020-10-01 2023-09-05 Magna Electronics Inc. Vehicular communication system with turn signal identification
CN112822359B (zh) * 2020-12-30 2022-03-25 山东大学 一种基于车载式钻爆洞隧道的全景成像***及方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4420238A (en) * 1982-04-19 1983-12-13 Felix Larry L Apparatus for enabling concealing surveillance by use of a camera in a vehicle
GB2185360B (en) * 1986-01-11 1989-10-25 Pilkington Perkin Elmer Ltd Display system
JP2939087B2 (ja) * 1993-04-07 1999-08-25 シャープ株式会社 全方位視覚系
JPH08167100A (ja) * 1994-12-12 1996-06-25 Hisaji Nakamura 操縦装置
US6891563B2 (en) * 1996-05-22 2005-05-10 Donnelly Corporation Vehicular vision system
JP3453960B2 (ja) * 1995-10-24 2003-10-06 日産自動車株式会社 車両周囲モニタ装置
DE19636028C1 (de) * 1996-09-05 1997-11-20 Daimler Benz Ag Verfahren zur Stereobild-Objektdetektion
EP0949818A3 (en) * 1998-04-07 2000-10-25 Matsushita Electric Industrial Co., Ltd. On-vehicle image display apparatus, image transmission system, image transmission apparatus, and image capture apparatus
US6477464B2 (en) * 2000-03-09 2002-11-05 Donnelly Corporation Complete mirror-based global-positioning system (GPS) navigation solution
JP3327255B2 (ja) 1998-08-21 2002-09-24 住友電気工業株式会社 安全運転支援システム
US6704048B1 (en) * 1998-08-27 2004-03-09 Polycom, Inc. Adaptive electronic zoom control
JP2000295604A (ja) * 1999-04-06 2000-10-20 Yazaki Corp 車両用後側方監視装置
JP3627914B2 (ja) * 2000-05-23 2005-03-09 シャープ株式会社 車両の周囲監視システム
US6422062B1 (en) * 2000-08-29 2002-07-23 Delphi Technologies, Inc. Integrated glass fog sensor unit
US6424273B1 (en) * 2001-03-30 2002-07-23 Koninklijke Philips Electronics N.V. System to aid a driver to determine whether to change lanes
US7697027B2 (en) * 2001-07-31 2010-04-13 Donnelly Corporation Vehicular video system
US6521868B1 (en) * 2001-11-02 2003-02-18 Ford Global Technologies, Inc. Method and apparatus for heating a portion of a vehicle

Also Published As

Publication number Publication date
EP1197937A1 (en) 2002-04-17
DE60101440T2 (de) 2004-09-23
JP2002218451A (ja) 2002-08-02
US20020080017A1 (en) 2002-06-27
DE60101440D1 (de) 2004-01-22
US7295229B2 (en) 2007-11-13
EP1197937B2 (en) 2007-08-01
KR20020028853A (ko) 2002-04-17
DE60101440T3 (de) 2008-04-17
KR100650121B1 (ko) 2006-11-24
EP1197937B1 (en) 2003-12-10

Similar Documents

Publication Publication Date Title
JP3773433B2 (ja) 移動体の周囲監視装置
JP3627914B2 (ja) 車両の周囲監視システム
US7190259B2 (en) Surrounding surveillance apparatus and mobile body
JP2005167638A (ja) 移動体周囲監視装置、移動体および画像変換方法
JP3652678B2 (ja) 車両周囲監視装置およびその調整方法
JP4907883B2 (ja) 車両周辺画像表示装置および車両周辺画像表示方法
US20090022423A1 (en) Method for combining several images to a full image in the bird's eye view
JP4248570B2 (ja) 画像処理装置並びに視界支援装置及び方法
JPS58110334A (ja) 路面視界表示装置
JP2005110207A (ja) カメラ装置及び車両周辺監視装置
US20130155236A1 (en) Camera-mirror system for motor vehicle
JP5036891B2 (ja) 車両に搭載されるカメラ装置及び車両周辺監視装置
JP2006044596A (ja) 車両用表示装置
JP3834967B2 (ja) 死角範囲表示装置
JP4457690B2 (ja) 運転支援装置
KR100593594B1 (ko) 파노라마 카메라를 포함하는 차량 주행 보조 장치
JP2003205783A (ja) 車輌周辺表示装置
JP3732346B2 (ja) 車両用モニタ装置
JP2005193838A (ja) 車両周囲表示装置
JP4211104B2 (ja) 多方向撮像装置、多方向撮像装置付き車載ランプ、衝突監視装置、前方向監視装置
JP2003125396A (ja) 車両周囲表示装置、車両周囲表示方法及び車両周囲表示プログラム
JP3231104U (ja) レーダー装置に対応する移動車両用画像撮影装置
EP4380178A1 (en) Image processing system, image processing method, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060214

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100224

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100224

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110224

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120224

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees