JP2019151304A - 周辺監視装置 - Google Patents

周辺監視装置 Download PDF

Info

Publication number
JP2019151304A
JP2019151304A JP2018039889A JP2018039889A JP2019151304A JP 2019151304 A JP2019151304 A JP 2019151304A JP 2018039889 A JP2018039889 A JP 2018039889A JP 2018039889 A JP2018039889 A JP 2018039889A JP 2019151304 A JP2019151304 A JP 2019151304A
Authority
JP
Japan
Prior art keywords
area
unit
determination
range
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018039889A
Other languages
English (en)
Inventor
航 佐藤
Wataru Sato
航 佐藤
宏行 渡邉
Hiroyuki Watanabe
宏行 渡邉
足立 淳
Atsushi Adachi
淳 足立
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2018039889A priority Critical patent/JP2019151304A/ja
Priority to US16/287,397 priority patent/US20190275970A1/en
Priority to CN201910160140.8A priority patent/CN110228468A/zh
Publication of JP2019151304A publication Critical patent/JP2019151304A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/102Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using 360 degree surveillance camera system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/202Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used displaying a blind spot scene on the vehicle part responsible for the blind spot
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】移動体の周辺に死角が存在する場合でも、死角を低減した周辺画像を生成できる周辺監視装置を提供する。【解決手段】周辺監視装置は、移動体の周辺に設定された判定領域内の対象物を判定する判定部と、前記移動体に設けられた複数の撮像部の撮像領域が互いに重なる重複領域において、前記撮像部で撮像された撮像画像を採用する採用領域の範囲を設定し、前記移動体の周辺画像であって、前記採用領域で採用された前記撮像画像を含む前記周辺画像を生成する生成部と、を備え、前記生成部は、前記対象物に応じて、前記採用領域の範囲を変更して前記周辺画像を生成する。【選択図】図3

Description

本発明は、周辺監視装置に関する。
車両等の移動体の外周部に設けられた複数の撮像装置が撮像した複数の撮像画像を繋げて、移動体の周辺の画像を生成する装置が知られている。このような装置は、隣接する撮像装置が撮像した領域が互いに重複している領域では、一方の撮像画像を採用して周辺画像を生成している。
特許第5104171号公報
しかしながら、上述の装置では、重複している領域の近傍に障害物等の立体形状の対象物が存在する場合、対象物による死角によって対象物の反対側が死角となって他の対象物が見えない周辺画像が生成されるといった課題がある。
本発明は、上記に鑑みてなされたものであって、移動体の周辺に死角が存在する場合でも、死角を低減した周辺画像を生成できる周辺監視装置を提供する。
上述した課題を解決し、目的を達成するために、本発明の周辺監視装置は、移動体の周辺に設定された判定領域内の対象物を判定する判定部と、前記移動体に設けられた複数の撮像部の撮像領域が互いに重なる重複領域において、前記撮像部で撮像された撮像画像を採用する採用領域の範囲を設定し、前記移動体の周辺画像であって、前記採用領域で採用された前記撮像画像を含む前記周辺画像を生成する生成部と、を備え、前記生成部は、前記対象物に応じて、前記採用領域の範囲を変更して前記周辺画像を生成する。
このように、本発明の周辺監視装置は、死角の原因となる対象物が判定領域内に存在するか否かを判定し、当該対象物に応じて重複領域で重複する撮像画像のいずれかを採用するための採用領域の範囲を設定している。これにより、周辺監視装置は、重複領域において死角の少ない撮像画像を採用して、死角を低減した周辺画像を提供できる。
本発明の周辺監視装置において、前記生成部は、前記判定領域内に前記対象物が存在しない場合、前記重複領域内に予め定められた第1採用領域の範囲を設定し、前記判定領域内に前記対象物が存在する場合、前記重複領域内に予め定められた第2採用領域の範囲を設定して、前記周辺画像を生成してもよい。
このように、本発明の周辺監視装置は、対象物の存在の有無によって、予め定められた第1採用領域の範囲または第2採用領域の範囲のいずれかを設定することにより、採用領域の範囲の設定に必要な処理負担を低減しつつ、死角を低減した周辺画像を提供できる。
本発明の周辺監視装置において、前記判定部は、前記判定領域内の前記対象物の位置を算出し、前記生成部は、前記対象物の位置に応じた前記採用領域の範囲を設定して、前記周辺画像を生成してもよい。
このように、本発明の周辺監視装置は、判定領域内の対象物の位置に応じた採用領域の範囲を設定している。これにより、周辺監視装置は、撮像画像のうち、画像の歪みの大きい撮像領域の外縁部近傍の撮像画像を採用することを低減できる。この結果、周辺監視装置は、死角を低減しつつ画質の高い周辺画像を提供できる。
本発明の周辺監視装置において、前記生成部は、前記対象物の位置に基づいて前記重複領域内の死角を算出し、前記死角に応じた前記採用領域の範囲を設定して、前記周辺画像を生成してもよい。
このように、本発明の周辺監視装置は、重複領域内の死角を算出して、死角に応じた採用領域の範囲を重複領域内に設定している。これにより、周辺監視装置は、周辺画像からより適切に死角を低減することができる。
本発明の周辺監視装置において、前記生成部は、前記複数の撮像部のうち一の撮像部の前記死角が前記重複領域内にある場合、前記重複領域内の前記死角に対応する範囲に、前記一の撮像部と隣接する他の撮像部の前記撮像画像を採用する前記採用領域の範囲を設定してもよい。
このように、本発明の周辺監視装置は、重複領域内において一の撮像部の死角の位置では隣接する他の撮像部の撮像画像を採用するように採用領域の範囲を設定するので、複数の死角が1つの重複領域内に生じても、死角を低減した周辺画像を生成することができる。
図1は、実施形態の周辺監視システムが搭載される車両の平面図である。 図2は、実施形態の周辺監視システムの全体構成を示すブロック図である。 図3は、周辺監視装置の機能を説明する機能ブロック図である。 図4は、対象物が存在しない場合の周辺画像の生成を説明する車両の周辺の平面図である。 図5は、対象物が存在する場合の周辺画像の生成を説明する車両の周辺の平面図である。 図6は、処理部が実行する第1実施形態の周辺監視処理のフローチャートである。 図7は、対象物が存在する場合の第2実施形態の採用領域の範囲の設定を説明する平面図である。 図8は、処理部が実行する第2実施形態の周辺監視処理のフローチャートである。 図9は、対象物が存在する場合の第3実施形態における採用領域の範囲の設定を説明する平面図である。 図10は、処理部が実行する第3実施形態の周辺監視処理のフローチャートである。 図11は、対象物が存在する場合の第4実施形態における採用領域の範囲の設定を説明する平面図である。 図12は、第5実施形態の周辺画像の生成方法を説明する仮想空間の側面図である。
以下の例示的な実施形態等の同様の構成要素には共通の符号を付与して、重複する説明を適宜省略する。
<第1実施形態>
図1は、実施形態の周辺監視システムが搭載される車両10の平面図である。車両10は、移動体の一例であって、駆動源を有する。車両10は、例えば、内燃機関(エンジン、図示されず)を駆動源とする自動車(内燃機関自動車)であってもよく、電動機(モータ、図示されず)を駆動源とする自動車(電気自動車、燃料電池自動車等)であってもよく、それらの双方を駆動源とする自動車(ハイブリッド自動車)であってもよい。また、車両10は、種々の変速装置を搭載してよく、内燃機関や電動機を駆動するのに必要な種々の装置(システム、部品等)を搭載してよい。また、車両10における車輪13の駆動に関わる装置の方式、個数、及び、レイアウト等は、種々に設定してよい。
図1に示すように、車両10は、車体11と、複数(本実施形態では4個)の車輪13と、1または複数(本実施形態では4個)の撮像部14a、14b、14c、14dと、1または複数(本実施形態では4個)の測距部16a、16b、16c、16dとを備える。撮像部14a、14b、14c、14dを区別する必要がない場合、撮像部14と記載する。測距部16a、16b、16c、16dを区別する必要がない場合、測距部16と記載する。
車体11は、乗員が乗車する車室を構成する。車体11は、車輪13、撮像部14、お及び、測距部16等を収容または保持する。
4個の車輪13は、車両10の前側の左右及び後側の左右に設けられている。前側の2個の車輪13は、車両10の左右の進行方向を変化させる転舵輪として機能する。後側の2個の車輪13は、例えば、エンジンまたはモータ等の駆動源からの駆動力によって回転する駆動輪として機能する。
撮像部14は、例えば、CCD(Charge Coupled Device)、または、CIS(CMOS Image Sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部14は、所定のフレームレートで生成される複数のフレーム画像を含む動画、または、静止画のデータを撮像画像のデータとして出力する。撮像部14は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向の140°〜190°の範囲を撮影することができる。撮像部14の光軸は、斜め下方に向けて設定されている。従って、撮像部14は、周辺の対象物及び路面を含む車両10の周辺を撮像した撮像画像のデータを生成する。
複数の撮像部14のそれぞれは、車体11の周囲に設けられ、MVC(Multi View Camera)として機能する。例えば、撮像部14aは、車体11の前端部の左右方向の中央部(例えば、フロントバンパー)に前方に向けて設けられている。撮像部14aは、車両10の前方の周辺の領域(以下、撮像領域)を撮像した撮像画像を生成する。撮像部14bは、車体11の後端部の左右方向の中央部(例えば、リアバンパー)に後方に向けて設けられている。撮像部14bは、車両10の後方の周辺の撮像領域を撮像した撮像画像を生成する。撮像部14cは、車体11の左端部の前後方向の中央部(例えば、左側のサイドミラー11a)に左方に向けて設けられている。撮像部14cは、車両10の左方の周辺の撮像領域を撮像した撮像画像を生成する。撮像部14dは、車体11の右端部の前後方向の中央部(例えば、右側のサイドミラー11b)に右方に向けて設けられている。撮像部14dは、車両10の右方の周辺の撮像領域を撮像した撮像画像を生成する。ここで、隣接する撮像部14が撮像する撮像領域の一部は互いに重複している。以下、重複している領域を重複領域と記載する。
測距部16は、例えば、超音波等の検出波を出力し、車両10の周辺に存在する対象物が反射した検出波を捉えるソナーである。測距部16は、レーザ光等の検出波を出力して捉えるレーザレーダであってもよい。測距部16は、車両10の周辺の対象物の方向及び対象物までの距離に関する情報である検出情報を生成して出力する。例えば、測距部16は、車両10の周辺の対象物の方向、及び、検出波を送信してから対象物によって反射された検出波を受信するまでの時間であって対象物までの距離を算出するための送受信時間を検出情報として検出する。測距部16は、車両10の外周部であって、後述する判定領域内の対象物の検出できる位置に設置されている。例えば、測距部16aは、車体11の左前部に設けられ、車両10の左前方の判定領域内の対象物の検出情報を生成して出力する。測距部16bは、車体11の右前部に設けられ、車両10の右前方の判定領域内の対象物の検出情報を生成して出力する。測距部16cは、車体11の左後部に設けられ、車両10の左後方の判定領域内の対象物の検出情報を生成して出力する。測距部16dは、車体11の右後部に設けられ、車両10の右後方の判定領域内の対象物の検出情報を生成して出力する。
図2は、実施形態の周辺監視システム20の全体構成を示すブロック図である。周辺監視システム20は、車両10に搭載されて、車両10の周辺の画像である周辺画像を生成して表示する
図2に示すように、周辺監視システム20は、撮像部14と、モニタ装置32と、周辺監視装置34と、車内ネットワーク36とを備える。
撮像部14は、車両10の周辺を撮像した撮像画像を周辺監視装置34へと出力する。
測距部16は、車内ネットワーク36を介して、車両10の周辺の対象物までの方向及び送受信時間を含む検出情報を周辺監視装置34へ出力する。
モニタ装置32は、車両10の車室内のダッシュボード等に設けられている。モニタ装置32は、表示部40と、音声出力部42と、操作入力部44とを有する。
表示部40は、周辺監視装置34が送信した画像データに基づいて、画像を表示する。表示部40は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)、または、有機ELディプレイ(OELD:Organic Electroluminescent Display)等の表示装置である。表示部40は、例えば、駐車時等に周辺画像を表示する。
音声出力部42は、周辺監視装置34が送信した音声データに基づいて音声を出力する。音声出力部42は、例えば、スピーカである。音声出力部42は、例えば、駐車支援等に関する音声を出力する。
操作入力部44は、乗員の入力を受け付ける。操作入力部44は、例えば、タッチパネルである。操作入力部44は、表示部40の表示画面に設けられている。操作入力部44は、表示部40が表示する画像を透過可能に構成されている。これにより、操作入力部44は、表示部40の表示画面に表示される画像を乗員に視認させることができる。操作入力部44は、表示部40の表示画面に表示された画像に対応した位置を乗員が触れることによって入力した周辺監視等に関する指示を受け付けて、周辺監視装置34へ送信する。尚、操作入力部44は、タッチパネルに限らず、押しボタン式等のハードスイッチであってもよい。
周辺監視装置34は、ECU(Electronic Control Unit)等のマイクロコンピュータを含むコンピュータである。周辺監視装置34は、複数の撮像部14が撮像した複数の撮像画像のデータを取得する。周辺監視装置34は、複数の撮像画像から車両10の周辺の画像である周辺画像を生成してモニタ装置32の表示部40に表示させる。周辺監視装置34は、運転者への指示、及び、運転者への通知等の画像または音声に関するデータをモニタ装置32へ送信する。
周辺監視装置34は、CPU(Central Processing Unit)34aと、ROM(Read Only Memory)34bと、RAM(Random Access Memory)34cと、表示制御部34dと、音声制御部34eと、SSD(Solid State Drive)34fとを備える。CPU34a、ROM34b及びRAM34cは、同一パッケージ内に集積されていてもよい。
CPU34aは、ハードウェアプロセッサの一例であって、ROM34b等の不揮発性の記憶装置に記憶されたプログラムを読み出して、当該プログラムにしたがって各種の演算処理及び制御を実行する。CPU34aは、例えば、周辺画像を生成する周辺監視処理を実行する。
ROM34bは、各プログラム及びプログラムの実行に必要なパラメータ等を記憶する。RAM34cは、CPU34aでの演算で用いられる各種のデータを一時的に記憶する。表示制御部34dは、周辺監視装置34での演算処理のうち、主として、撮像部14で得られた画像の画像処理、表示部40に表示させる表示用の画像のデータ変換等を実行する。音声制御部34eは、周辺監視装置34での演算処理のうち、主として、音声出力部42に出力させる音声の処理を実行する。SSD34fは、書き換え可能な不揮発性の記憶装置であって、周辺監視装置34の電源がオフされた場合にあってもデータを維持する。
車内ネットワーク36は、測距部16と、モニタ装置32の操作入力部44と、周辺監視装置34とを互いに情報を送受信可能に接続する。
図3は、周辺監視装置34の機能を説明する機能ブロック図である。図3に示すように、周辺監視装置34は、処理部46と、記憶部48とを有する。
処理部46は、CPU34a及び表示制御部34dの機能として実現される。処理部46は、判定部50と、生成部52として機能する。処理部46は、例えば、記憶部48に格納された周辺監視プログラム54を読み込むことによって、判定部50及び生成部52として機能する。判定部50及び生成部52の一部または全部は、ASIC(Application Specific Integrated Circuit)及びFPGA(Field-Programmable Gate Array)等の回路によって構成してもよい。
判定部50は、車両10の周辺に判定領域内の対象物を判定する。具体的には、判定部50は、対象物によって重複領域内に死角が生じるか否かを判定可能な領域を判定領域として設定する。判定部50は、例えば、各撮像部14の撮像領域が互いに重なる重複領域、及び、重複領域と撮像部14との間の領域を含む判定領域を設定する。車両10に対する重複領域及び判定領域の位置は、予め記憶部48に重複領域情報及び判定領域情報として格納されていてよい。判定部50は、測距部16から取得した検出情報に基づいて、車両10の周辺の立体形状の対象物までの距離を算出する。判定部50は、検出情報が示す対象物の方向及び算出した距離に基づいて、対象物の位置を特定する。判定部50は、当該対象物が判定領域内に存在するか否かを判定する。判定部50は、対象物が判定領域内に存在すると判定すると、判定領域内に対象物が存在する旨及び対象物が存在する判定領域を特定するための識別情報を含む判定情報を生成部52へ出力する。
生成部52は、複数の撮像部14のそれぞれから取得した複数の撮像画像によって、車両10の周辺の画像である周辺画像を生成して、表示部40に表示させる。尚、ここでいう複数の撮像画像は、撮像部14が撮像した画像と、撮像した画像を歪みを除去する処理及びマッピングデータによって視点変換等の画像処理を実行した処理画像を含む。周辺画像は、例えば、車両10の上方に設定された仮想視点から車両10の周辺を見た俯瞰画像であってよい。生成部52は、車両10の周辺の全周(即ち、360°)を含む周辺画像を生成してもよく、車両10の周辺の一部の周辺画像を生成してもよい。ここで、複数の撮像部14のうち隣接する撮像部14の撮像領域は、互いに重なる重複領域を含む。生成部52は、周辺画像を生成する際に、重複領域内の一方の撮像画像を採用するための採用領域の範囲を互いに重複しないように設定する。生成部52は、設定した採用領域の範囲内の撮像画像を含む複数の撮像画像によって周辺画像を生成する。
ここで、生成部52は、対象物の存在を判定した判定部50から取得した判定情報が示す対象物に応じて、採用領域の範囲を変更して、周辺画像を生成する。例えば、生成部52は、対象物が判定領域内に存在しない場合、重複領域内に第1採用領域の範囲を設定し、対象物が判定領域内に存在する場合、重複領域内に第2採用領域の範囲を設定する。第1採用領域の範囲及び第2採用領域の範囲は、予め定められた採用領域情報として記憶部48に格納されていてよい。
記憶部48は、ROM34b、RAM34c、及び、SSD34fの機能として実現される。記憶部48は、ネットワーク等を介して接続された外部の記憶装置であってもよい。記憶部48は、処理部46が実行するプログラム、プログラムの実行に必要なデータ、及び、プログラムの実行によって生成されたデータ等を記憶する。例えば、記憶部48は、処理部46が実行する周辺監視プログラム54を記憶する。周辺監視プログラム54は、CD−ROM(Compact Disc Read Only Memory)またはDVD−ROM(Digital Versatile Disc Read Only Memory)等のコンピュータにより読み取り可能な記憶媒体に記憶されて提供されてもよく、インターネット等のネットワークを介して提供されてもよい。記憶部48は、周辺監視プログラム54の実行に必要な重複領域情報及び採用領域情報等を含む数値データ56として記憶する。記憶部48は、周辺監視プログラム54の実行によって生成された周辺画像、判定部50の判定情報等の情報を一時的に記憶する。
図4は、対象物が存在しない場合の周辺画像の生成を説明する車両10の周辺の平面図である。図4における外枠は、周辺画像として生成される範囲である。以下の説明において、撮像領域、重複領域、判定領域、採用領域、境界線のそれぞれを区別する必要がない場合、撮像領域PA、重複領域OA、判定領域JA、採用領域EA、判定境界線JL、境界線BL、採用境界線EL等のように符号の一部を省略して記載する。
各撮像部14の撮像領域について説明する。
撮像部14aは、一点鎖線で示す境界線BLaよりも前方の撮像領域PAa内を撮像する。撮像部14bは、一点鎖線で示す境界線BLbよりも後方の撮像領域PAb内を撮像する。撮像部14cは、一点鎖線で示す境界線BLcよりも左方の撮像領域PAc内を撮像する。撮像部14dは、一点鎖線で示す境界線BLdよりも右方の撮像領域PAd内を撮像する。
撮像領域PAaと撮像領域PAcは、ドットハッチングで示すように車両10の左前方に互いに重なる重複領域OA1を含む。撮像領域PAaと撮像領域PAdは、ドットハッチングで示すように車両10の右前方に互いに重なる重複領域OA2を含む。撮像領域PAbと撮像領域PAcは、ドットハッチングで示すように車両10の左後方に互いに重なる重複領域OA3を含む。撮像領域PAbと撮像領域PAdは、ドットハッチングで示すように車両10の右後方に互いに重なる重複領域OA4を含む。
次に、判定領域について説明する。
判定部50は、立体形状の対象物によって撮像部14aに死角が生じるか否かを判定するための判定領域JAa1、JAa2を、破線で示す判定境界線JLa1と撮像部14aよりも左側の境界線BLaとの間の領域、及び、破線で示す判定境界線JLa2と撮像部14aよりも右側の境界線BLaとの間の領域に設定する。判定境界線JLa1、JLa2は、予め定められた条件に基づいて設定された境界線であってよい。判定部50は、例えば、判定境界線JLa1、JLa2の一端は撮像部14aであって、他端は前側の境界線BLc、BLdと周辺画像の範囲の外枠とが交差する位置に設定してよい。従って、判定部50は、拡大または縮小によって周辺画像の範囲が変更されると、判定領域JAa1、JAa2を変更してよい。
判定部50は、撮像部14bに死角が生じるか否かを判定するための判定領域JAb1、JAb2を、破線で示す判定境界線JLb1と撮像部14bよりも左側の境界線BLbとの間の領域、及び、破線で示す判定境界線JLb2と撮像部14bよりも右側の境界線BLbとの間の領域に設定する。判定境界線JLb1、JLb2は、予め定められた条件に基づいて設定された境界線であってよい。判定部50は、例えば、判定境界線JLb1、JLb2の一端は撮像部14bであって、他端は後側の境界線BLc、BLdと周辺画像の範囲の外枠とが交差する位置に設定してよい。従って、判定部50は、拡大または縮小によって周辺画像の範囲が変更されると、判定領域JAb1、JAb2を変更してよい。
判定部50は、撮像部14cに死角が生じるか否かを判定するための判定領域JAc1、JAc2を、破線で示す判定境界線JLc1と撮像部14cよりも前側の境界線BLcとの間の領域、及び、破線で示す判定境界線JLc2と撮像部14cよりも後側の境界線BLcとの間の領域に設定する。判定境界線JLc1、JLc2は、予め定められた条件に基づいて設定された境界線であってよい。判定部50は、例えば、判定境界線JLc1、JLc2の一端は撮像部14cであって、他端は左側の境界線BLa、BLbと周辺画像の範囲の外枠とが交差する位置に設定してよい。従って、判定部50は、拡大または縮小によって周辺画像の範囲が変更されると、判定領域JAc1、JAc2を変更してよい。
判定部50は、撮像部14dに死角が生じるか否かを判定するための判定領域JAd1、JAd2を、破線で示す判定境界線JLd1と撮像部14dよりも前側の境界線BLdとの間の領域、及び、破線で示す判定境界線JLd2と撮像部14dよりも後側の境界線BLdとの間の領域に設定する。判定境界線JLd1、JLd2は、予め定められた条件に基づいて設定された境界線であってよい。判定部50は、例えば、判定境界線JLd1、JLd2の一端は撮像部14dであって、他端は右側の境界線BLa、BLbと周辺画像の範囲の外枠とが交差する位置に設定してよい。従って、判定部50は、拡大または縮小によって周辺画像の範囲が変更されると、判定領域JAd1、JAd2を変更してよい。
換言すれば、判定部50は、一端を一方の撮像部14とし他端を重複領域OAを共有する他方の撮像部14の境界線BLが周辺画像の外枠と交差する位置とする判定境界線JLと、一方の撮像部14の撮像領域PAの境界線BLとの間の領域に、各撮像部14の2つの判定領域JAを設定する。
次に、判定領域JAa1、・・・、JAd2内に対象物が存在しない場合の予め定められた第1採用領域の範囲について説明する。
重複領域OA1のうち、破線で示す採用境界線ELacよりも撮像領域PAaの中心線側(即ち、撮像部14aの光軸側)が、撮像部14aの撮像画像を採用する第1採用領域EAa1の範囲である。重複領域OA1のうち、破線で示す採用境界線ELacよりも撮像領域PAcの中心線側(即ち、撮像部14cの光軸側)が、撮像部14cの撮像画像を採用する第1採用領域EAc1の範囲である。採用境界線ELacは、例えば、重複領域OA1を囲む境界線BLa、BLcの重複領域OA1側の交差角を二等分した方向であって、境界線BLa、BLcの交点を通過する線であってよい。
重複領域OA2のうち、破線で示す採用境界線ELadよりも撮像領域PAaの中心線側が、撮像部14aの撮像画像を採用する第1採用領域EAa2の範囲である。重複領域OA2のうち、破線で示す採用境界線ELadよりも撮像領域PAdの中心線側(即ち、撮像部14dの光軸側)が、撮像部14dの撮像画像を採用する第1採用領域EAd1の範囲である。採用境界線ELadは、例えば、重複領域OA2を囲む境界線BLa、BLdの重複領域OA2側の交差角を二等分した方向であって、境界線BLa、BLdの交点を通過する線であってよい。
重複領域OA3のうち、破線で示す採用境界線ELbcよりも撮像領域PAbの中心線側(即ち、撮像部14bの光軸側)が、撮像部14bの撮像画像を採用する第1採用領域EAb1の範囲である。重複領域OA3のうち、破線で示す採用境界線ELbcよりも撮像領域PAcの中心線側が、撮像部14cの撮像画像を採用する第1採用領域EAc2の範囲である。採用境界線ELbcは、例えば、重複領域OA3を囲む境界線BLb、BLcの重複領域OA3側の交差角を二等分した方向であって、境界線BLb、BLcの交点を通過する線であってよい。
重複領域OA4のうち、破線で示す採用境界線ELbdよりも撮像領域PAbの中心線側が、撮像部14bの撮像画像を採用する第1採用領域EAb2の範囲である。重複領域OA4のうち、破線で示す採用境界線ELbdよりも撮像領域PAdの中心線側が、撮像部14dの撮像画像を採用する第1採用領域EAd2の範囲である。採用境界線ELbdは、例えば、重複領域OA4を囲む境界線BLb、BLdの重複領域OA4側の交差角を二等分した方向であって、境界線BLb、BLdの交点を通過する線であってよい。
換言すれば、重複領域OAのうち、重複領域OA側の交差角を二等分した方向であって、重複領域OAの境界線BLの交点を通過する採用境界線ELの一方の撮像部14側の領域が一方の撮像部14の第1採用領域EAの範囲となり、採用境界線ELの他方の撮像部14側の領域が他方の撮像部14の第1採用領域EAの範囲となる。
生成部52は、判定領域JAa1、・・・、JAd2内に対象物が存在しない場合、上述の第1採用領域EAa1、・・・、EAd2の範囲内を撮像した撮像画像を採用して周辺画像を生成する。従って、生成部52は、撮像部14aが第1採用領域EAa1、EAa2の範囲内を撮像した撮像画像を重複領域OA1以外の撮像画像とともに採用する。生成部52は、撮像部14bが第1採用領域EAb1、EAb2の範囲内を撮像した撮像画像を重複領域OA2以外の撮像画像とともに採用する。生成部52は、撮像部14cが第1採用領域EAc1、EAc2の範囲内を撮像した撮像画像を重複領域OA3以外の撮像画像とともに採用する。生成部52は、撮像部14dが第1採用領域EAd1、EAd2の範囲内を撮像した撮像画像を重複領域OA4以外の撮像画像とともに採用する。生成部52は、上述の採用した撮像画像を各採用境界線ELac、ELad、ELbc、ELbdで繋ぐように合成して周辺画像を生成する。換言すれば、生成部52は、撮像部14aが第1採用領域EAc1、EAd1の範囲内を撮像した撮像画像を周辺画像に採用しない。生成部52は、撮像部14bが第1採用領域EAc2、EAd2の範囲内を撮像した撮像画像を周辺画像に採用しない。生成部52は、撮像部14cが第1採用領域EAa1、EAb1の範囲内を撮像した撮像画像を周辺画像に採用しない。生成部52は、撮像部14dが第1採用領域EAa2、EAb2の範囲内を撮像した撮像画像を周辺画像に採用しない。
図5は、対象物が存在する場合の周辺画像の生成を説明する車両10の周辺の平面図である。尚、図5において、説明に不要な符号を一部省略する。
図5に示す状況において、判定部50は、判定領域JAc1内に立体形状の対象物OBが存在すると判定する。対象物OBは、例えば、路面から鉛直方向に延びる電柱等である。判定部50は、判定情報として、対象物OBが存在する旨及び対象物OBが存在する判定領域JAc1を識別する情報を含む判定情報を生成部52へ出力する。尚、判定領域JAc1に内に対象物OBが存在すると、当該判定領域JAc1に含まれる撮像部14cの重複領域OA1内に死角が生じる。従って、対応する撮像部14cは死角内の人物Ps等の物体を撮像することができない。一方、重複領域OA1を共有する撮像部14aは、死角がないので、人物Psを撮像することができる。
生成部52は、判定部50から判定情報を取得すると、採用領域の範囲を第1採用領域EAa1、EAc1の範囲から第2採用領域EAa12の範囲へと変更する。例えば、生成部52は、死角が生じる重複領域OA1において、撮像部14aの撮像画像を採用する採用領域の範囲を増加させて、撮像部14cの撮像画像を採用する採用領域の範囲を減少させる。具体的には、生成部52は、撮像部14aの撮像画像を採用する第2採用領域EAa12の範囲を重複領域OA1の全体に広げ、撮像部14cの撮像画像を採用する領域をなくす。
生成部52は、当該採用領域EAの範囲に従って、周辺画像を生成する。尚、対象物OBが判定領域JAに存在せず、死角が生じない重複領域OAにおいては、生成部52は、第1採用領域EAの範囲内の撮像画像を採用して、周辺画像を生成する。
図6は、処理部46が実行する第1実施形態の周辺監視処理のフローチャートである。処理部46は、周辺監視プログラム54を読み込むことによって、周辺監視処理を実行する。
図6に示すように、周辺監視処理では、判定部50が、各測距部16から検出情報を取得する(S102)。生成部52は、各撮像部14から撮像画像を取得する(S104)。
判定部50は、取得した検出情報に基づいて、いずれかの判定領域JA内に対象物OBが存在するか否かを判定する(S106)。判定部50は、判定領域JA内に対象物OBが存在すると判定すると(S106:Yes)、判定領域JAに対象物OBが存在する旨及び判定領域JAの識別情報を含む判定情報を生成部52へ出力する(S108)。判定部50は、判定領域JAに対象物OBが存在しないと判定した場合(S106:No)、判定情報を出力しない。
生成部52は、各重複領域OA内に採用領域EAの範囲を設定する(S110)。例えば、生成部52は、判定情報を取得していない場合、重複領域OAを二等分した第1採用領域EAの範囲を各重複領域OA内に設定する。一方、生成部52は、対象物OBが判定領域JA内に存在する旨の判定情報を取得している場合、対象物OBが存在する判定領域に含まれる重複領域OA内に第2採用領域EAの範囲を設定する。具体的には、生成部52は、判定領域JA内に対象物OBを含まない撮像部14の撮像画像を採用する第2採用領域EAの範囲を当該重複領域OA内の全体に設定する。
生成部52は、設定した採用領域EAの範囲に基づいて、周辺画像を生成する(S112)。具体的には、生成部52は、重複領域OA内では採用領域EAの範囲の撮像画像を採用し、重複領域OA以外では存在する一の撮像画像を採用し、採用した撮像画像を合成して繋げて、周辺画像を生成する。生成部52は、生成した周辺画像を表示部40に出力して表示させる(S114)。
上述したように、第1実施形態の周辺監視装置34では、死角の原因となる対象物OBが判定領域JA内に存在するか否かを判定し、当該対象物OBに応じて重複領域OAで重複する撮像画像のいずれかを採用するための採用領域EAの範囲を設定している。これにより、周辺監視装置34は、重複領域OAにおいて死角の少ない撮像画像を採用して、死角を低減した周辺画像を提供できる。
周辺監視装置34は、対象物OBが判定領域JA内に存在しない場合に予め定められた第1採用領域EAの範囲を重複領域OA内に設定し、対象物OBが判定領域JA内に存在する場合に予め定められた第2採用領域EAの範囲を設定している。このように、周辺監視装置34は、予め定められた第1採用領域EAの範囲または第2採用領域EAの範囲のいずれかを設定することにより、採用領域EAの範囲の設定に必要な処理負担を低減しつつ、死角を低減した周辺画像を提供できる。
<第2実施形態>
第2実施形態の周辺監視装置34は、判定領域JA内の対象物OBの位置に応じて採用領域EAの範囲を設定する。以下、具体的に第2実施形態の周辺監視装置34の構成について説明する。第2実施形態の各構成は、第1実施形態の各構成と機能以外は同様のため、同じ符号を使用して説明する。図7は、対象物が存在する場合の第2実施形態の採用領域EAの範囲の設定を説明する平面図である。
判定部50は、検出情報を測距部16から取得する。判定部50は、検出情報が示す送受信時間に基づいて、対象物OBまでの距離を算出する。判定部50は、検出情報が示す対象物OBの方向及び算出した距離に基づいて、対象物OBの位置を算出する。例えば、判定部50は、対象物OBの外形の位置を算出して、対象物OBの位置とともに形状を特定してよい。判定部50は、対象物OBの外形の位置を生成部52へ出力する。
生成部52は、対象物OBが判定領域JA内に存在せず、判定情報を取得しない場合、第1実施形態の第1採用領域の範囲と同様の採用領域の範囲を設定する。
生成部52は、対象物OBが判定領域JA内に存在し、対象物OBの位置を示す判定情報を取得すると、対象物OBの位置に応じた採用領域EAの範囲を設定して、周辺画像を生成する。具体的には、生成部52は、撮像部14を通り対象物OBの外形に接し死角の境界となる線(以下、接線Tg)のうち、撮像領域PAcの中心線側(即ち、撮像部14cの光軸側)の接線Tgを採用領域EAの採用境界線ELac2として算出する。ここでいう接線Tgは、図7に二点鎖線で示すように、平面視において、対象物OBが存在する判定領域JAの撮像部14を通り、対象物OBの外形と一点で接し対象物OBの外形と交差しない線のことである。生成部52は、算出した採用境界線ELac2によって、死角が存在する重複領域OA1内の採用領域EAの範囲を設定する。具体的には、生成部52は、採用境界線ELac2から死角を有さない撮像部14a側を、撮像部14aの撮像画像を採用する採用領域EAa12の範囲とし、採用境界線ELac2から死角を有する撮像部14c側を、撮像部14cの撮像画像を採用する採用領域EAc12の範囲とする。これにより、生成部52は、対象物OBによって撮像部14cに死角が形成される領域は撮像部14aの撮像画像を採用する。
図8は、処理部46が実行する第2実施形態の周辺監視処理のフローチャートである。第1実施形態と同様のステップに関しては、説明を簡略化する。
図8に示すように、第2実施形態の周辺監視処理では、判定部50は、検出情報を取得する(S102)。生成部52は、撮像画像を取得する(S104)。判定部50は、判定領域JA内に対象物OBが存在するか否かを判定する(S106)。判定部50は、判定領域JA内に対象物OBが存在すると判定すると(S106:Yes)、対象物OBが存在する旨及び対象物OBの位置を示す判定情報を出力する(S108)。
生成部52は、判定部50から取得した判定情報が示す対象物OBの位置に基づいて、採用領域EAの範囲を設定するための採用境界線ELを設定する(S220)。具体的には、生成部52は、判定領域JA内に対象物OBが存在する撮像部14を通り対象物OBの外形と接する接線Tgのうち、当該撮像部14の撮像領域PAの中心線側の接線Tgを採用境界線ELとして設定する。
生成部52は、採用領域EAの範囲を設定する(S222)。具体的には、生成部52は、判定領域JA内に対象物OBが存在しない重複領域OAにおいては、第1実施形態の第1採用領域EAの範囲と同様に、各重複領域OAを二等分するように採用領域EAの範囲を設定する。一方、生成部52は、判定領域JA内に存在する対象物OBによって死角が形成される重複領域OAにおいては、採用境界線ELから死角が形成される撮像部14の撮像領域PAの中心線側を当該撮像部14の採用領域EAの範囲として設定し、採用境界線ELから死角が形成されていない撮像部14の撮像領域PAの中心線側を当該撮像部14の採用領域EAの範囲として設定する。
生成部52は、設定した採用領域EAの範囲に基づいて周辺画像を生成する(S112)。生成部52は、生成した周辺画像を表示部40に表示させる(S114)。
上述したように第2実施形態の周辺監視装置34は、判定領域JA内の対象物OBの位置に応じた採用領域EAの範囲を設定している。これにより、周辺監視装置34は、撮像画像のうち、画像の歪みの大きい撮像領域PAの外縁部近傍の撮像画像を採用することを低減できる。この結果、周辺監視装置34は、死角を低減しつつ画質の高い周辺画像を提供できる。
<第3実施形態>
第3実施形態の周辺監視装置34は、撮像部14の死角を算出して、採用領域EAの範囲を設定する。以下、具体的に第3実施形態の周辺監視装置34の構成について説明する。第3実施形態の各構成は、第1実施形態の各構成と機能以外は同様のため、同じ符号を使用して説明する。図9は、対象物が存在する場合の第3実施形態における採用領域の範囲の設定を説明する平面図である。
判定部50は、判定領域JA内に対象物OBが存在すると判定すると、第2実施形態と同様に対象物OBの位置を算出して、対象物OBが存在する旨及び対象物OBの位置を示す判定情報を生成して、生成部52へ出力する。ここでいう対象物OBの位置は、外形の各個所の位置であってよい。
生成部52は、対象物OBの位置に基づいて重複領域OA内の死角を算出し、死角に応じた採用領域EAの範囲を設定して、周辺画像を生成する。具体的には、生成部52は、撮像部14を通り対象物OBの外形に接し死角の境界となる2本の接線Tgを算出する。生成部52は、2本の接線Tgで囲まれる領域のうち、撮像部14から見て対象物OBよりも遠方の領域を死角として算出する。生成部52は、算出した死角に基づいて、死角が形成される重複領域OA内に死角を含まないように各採用領域EAの範囲を設定する。図9に示す例では、生成部52は、死角が形成される撮像部14cの重複領域OA1のうち死角よりも撮像領域PAcの中心軸側を当該撮像部14cの採用領域EAc12の範囲として設定し、重複領域OA1のうち死角よりも撮像領域PAaの中心軸側及び死角を死角が形成されていない撮像部14aの採用領域EAa12の範囲として設定する。
図10は、処理部46が実行する第3実施形態の周辺監視処理のフローチャートである。上述の実施形態と同様のステップに関しては、説明を簡略化する。
図10に示すように、第3実施形態の周辺監視処理では、判定部50及び生成部52がステップS102からステップS108まで実行する。
生成部52は、判定情報に基づいて死角を算出する(S330)。具体的には、生成部52は、対象物OBの外形に接する2本の接線Tgを算出し、2本の接線Tgに囲まれた領域のうち、対象物OBよりも遠方を死角として算出する。
生成部52は、採用領域EAの範囲を設定する(S332)。具体的には、生成部52は、判定領域JA内に対象物OBが存在しない重複領域OAにおいては、第1実施形態の第1採用領域EAの範囲と同様に、各重複領域OAを二等分するように採用領域EAの範囲を設定する。一方、生成部52は、判定領域JA内に存在する対象物OBによって死角が形成される重複領域OAにおいては、重複領域OAのうち死角を含まないように判定領域JAを設定する。例えば、生成部52は、死角が形成される一方の撮像部14の重複領域OAのうち、死角よりも一方の撮像部14の撮像領域PAの中心軸側を一方の撮像部14の採用領域EAの範囲とし、残りの重複領域OAを死角が形成されていない他方の撮像部14の採用領域EAの範囲とする。
生成部52は、設定した採用領域EAの範囲に基づいて周辺画像を生成する(S112)。生成部52は、生成した周辺画像を表示部40に表示させる(S114)。
上述したように、第3実施形態の周辺監視装置34は、重複領域OA内の死角を算出して、死角に応じた採用領域EAの範囲を重複領域OA内に設定している。これにより、周辺監視装置34は、周辺画像からより適切に死角を低減することができる。
<第4実施形態>
第4実施形態の周辺監視装置34は、一の重複領域OAに複数の死角が形成された場合、当該死角に応じた採用領域EAの範囲を設定する。以下、具体的に第4実施形態の周辺監視装置34の構成について説明する。第4実施形態の各構成は、第1実施形態の各構成と機能以外は同様のため、同じ符号を使用して説明する。図11は、対象物が存在する場合の第4実施形態における採用領域の範囲の設定を説明する平面図である。
判定部50は、判定領域JA内に複数の対象物OB1、OB2が存在すると判定すると、第2実施形態と同様に各対象物OB1、OB2の位置を算出して、対象物OB1、OB2が存在する旨及び各対象物OB1、OB2の位置を示す判定情報を生成して、生成部52へ出力する。
生成部52は、対象物OB1、OB2の位置を取得すると、撮像部14を通り各対象物OB1、OB2の外形に接し死角の境界となる2本の接線Tgを各対象物OB1、OB2に対して算出する。生成部52は、2本の接線Tgで囲まれる領域のうち、撮像部14から見て対象物OB1、OB2よりも遠方の領域を死角として算出する。生成部52は、算出した死角に基づいて、死角が形成される重複領域OA内に死角を含まないように各採用領域EAの範囲を設定する。具体的には、生成部52は、複数の撮像部14のうち、一の撮像部14及び一の撮像部14と隣接する他の撮像部14との重複領域OA内に一の撮像部14の死角がある場合、当該重複領域OA内の死角に対応する範囲において、一の撮像部14と隣接する他の撮像部14の撮像画像を採用する採用領域EAの範囲を設定する。図11に示すように、撮像部14aと撮像部14cとの重複領域OA1内に死角がある場合、生成部52は、撮像部14aの死角に対応する範囲においては、隣接する撮像部14cの撮像画像を採用する採用領域EAc12の範囲を設定し、撮像部14cの死角に対応する範囲においては、隣接する撮像部14aの撮像画像を採用する採用領域EAa12の範囲を設定する。例えば、生成部52は、第1実施形態における1つの重複領域OA内の第1採用領域EAの範囲を入れ替えて、採用領域EAの範囲を設定してもよい。
第4実施形態の周辺監視処理の流れは第3実施形態と同様のため説明を省略する。
上述したように第4実施形態の周辺監視装置34では、生成部52が重複領域OA内の一の撮像部14の死角の位置では隣接する他の撮像部14の撮像画像を採用するように採用領域EAの範囲を設定するので、複数の死角が1つの重複領域OA内に生じても、死角を低減した周辺画像を生成することができる。
<第5実施形態>
次に、周辺画像の生成の他の方法である第5実施形態について説明する。図12は、第5実施形態の周辺画像の生成方法を説明する仮想空間の側面図である。
生成部52は、図12に示すような仮想空間上の椀形状の仮想投影面90に撮像画像を投影して、車両10の情報の仮想視点から見た俯瞰画像を周辺画像として生成してよい。尚、仮想投影面90は、中央部の平面90aと、平面90aの周辺を囲み上方ほど広がる曲面90bとを有する。椀形状の仮想投影面90に投影された対象物OBは引き伸ばされて周辺画像に表示されるので、死角が大きくなるが、生成部52は、上述の実施形態の処理によって死角を低減することができる。
上述した各実施形態の構成の機能、接続関係、個数、配置等は、発明の範囲及び発明の範囲と均等の範囲内で適宜変更、削除等してよい。各実施形態を適宜組み合わせてもよい。各実施形態の各ステップの順序を適宜変更してよい。
例えば、上述の撮像部14の個数及び配置は適宜変更してよい。また、撮像部14の水平方向の画角は、適宜変更してよい。
上述の実施形態では、判定部50は、測距部16から取得した検出情報に基づいて対象物OBの存在の判定し、対象物OBの位置を算出したが、対象物OBの存在の判定方法及び位置の算出方法はこれに限定されない。例えば、判定部50は、撮像画像に基づいて、対象物OBの存在を判定し、対象物OBの位置を算出してもよい。この場合、生成部52は、撮像画像内に写った対象物OBが周辺画像に写らないように採用領域の範囲を設定して、周辺画像を生成してよい。換言すれば、生成部52は、対象物OBが写っていない撮像画像を採用して周辺画像を生成する。
上述の実施形態を組み合わせる場合、処理部46は、運転手を含む乗員からのモードに応じて設定を切り替えてもよい。例えば、処理部46は、乗員から第1モードの設定を受け付けると、第1実施形態の設定によって周辺画像を生成してよく、乗員から第2モードの設定を受け付けると、第2実施形態または第3実施形態の設定によって周辺画像を生成してもよい。
上述の実施形態では、移動体の例として四輪の車両10を挙げて説明したが、移動体は車両10に限定されない。移動体は、駆動源を有する装置であればよく、例えば、二輪以上の車両、船舶及び飛行機等であってもよい。
10:車両、 14:撮像部、 16:測距部、 20:周辺監視システム、 34:周辺監視装置、 50:判定部、 52:生成部、 54:周辺監視プログラム、 56:数値データ、 EA:採用領域、 JA:判定領域、 OA:重複領域、 OB,OB1,OB2:対象物、 PA:撮像領域。

Claims (5)

  1. 移動体の周辺に設定された判定領域内の対象物を判定する判定部と、
    前記移動体に設けられた複数の撮像部の撮像領域が互いに重なる重複領域において、前記撮像部で撮像された撮像画像を採用する採用領域の範囲を設定し、前記移動体の周辺画像であって、前記採用領域で採用された前記撮像画像を含む前記周辺画像を生成する生成部と、を備え、
    前記生成部は、前記対象物に応じて、前記採用領域の範囲を変更して前記周辺画像を生成する
    周辺監視装置。
  2. 前記生成部は、前記判定領域内に前記対象物が存在しない場合、前記重複領域内に予め定められた第1採用領域の範囲を設定し、前記判定領域内に前記対象物が存在する場合、前記重複領域内に予め定められた第2採用領域の範囲を設定して、前記周辺画像を生成する
    請求項1に記載の周辺監視装置。
  3. 前記判定部は、前記判定領域内の前記対象物の位置を算出し、
    前記生成部は、前記対象物の位置に応じた前記採用領域の範囲を設定して、前記周辺画像を生成する
    請求項1または請求項2に記載の周辺監視装置。
  4. 前記生成部は、前記対象物の位置に基づいて前記重複領域内の死角を算出し、前記死角に応じた前記採用領域の範囲を設定して、前記周辺画像を生成する
    請求項3に記載の周辺監視装置。
  5. 前記生成部は、前記複数の撮像部のうち一の撮像部の前記死角が前記重複領域内にある場合、前記重複領域内の前記死角に対応する範囲に、前記一の撮像部と隣接する他の撮像部の前記撮像画像を採用する前記採用領域の範囲を設定する
    請求項4に記載の周辺監視装置。
JP2018039889A 2018-03-06 2018-03-06 周辺監視装置 Pending JP2019151304A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018039889A JP2019151304A (ja) 2018-03-06 2018-03-06 周辺監視装置
US16/287,397 US20190275970A1 (en) 2018-03-06 2019-02-27 Surroundings monitoring apparatus
CN201910160140.8A CN110228468A (zh) 2018-03-06 2019-03-04 周围环境监测设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018039889A JP2019151304A (ja) 2018-03-06 2018-03-06 周辺監視装置

Publications (1)

Publication Number Publication Date
JP2019151304A true JP2019151304A (ja) 2019-09-12

Family

ID=67842988

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018039889A Pending JP2019151304A (ja) 2018-03-06 2018-03-06 周辺監視装置

Country Status (3)

Country Link
US (1) US20190275970A1 (ja)
JP (1) JP2019151304A (ja)
CN (1) CN110228468A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021094937A (ja) * 2019-12-13 2021-06-24 本田技研工業株式会社 車両用表示装置及び駐車支援システム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2581191B (en) * 2019-02-08 2022-02-16 Jaguar Land Rover Ltd Image system for a vehicle
KR102281609B1 (ko) * 2020-01-16 2021-07-29 현대모비스 주식회사 어라운드뷰 합성 시스템 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007089081A (ja) * 2005-09-26 2007-04-05 Alpine Electronics Inc 車両用画像表示装置
JP2008123293A (ja) * 2006-11-13 2008-05-29 Toyota Motor Corp 画像処理装置
WO2011036892A1 (ja) * 2009-09-24 2011-03-31 パナソニック株式会社 運転支援表示装置
JP2011254190A (ja) * 2010-06-01 2011-12-15 Clarion Co Ltd 車両用周囲監視装置
JP2013501280A (ja) * 2009-08-05 2013-01-10 ダイムラー・アクチェンゲゼルシャフト 車両周辺のモニタ方法

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7728879B2 (en) * 2006-08-21 2010-06-01 Sanyo Electric Co., Ltd. Image processor and visual field support device
JP4404103B2 (ja) * 2007-03-22 2010-01-27 株式会社デンソー 車両外部撮影表示システムおよび画像表示制御装置
US20110063444A1 (en) * 2008-05-19 2011-03-17 Panasonic Corporation Vehicle surroundings monitoring device and vehicle surroundings monitoring method
JP5217860B2 (ja) * 2008-09-30 2013-06-19 日産自動車株式会社 死角画像表示装置および死角画像表示方法
JP2010093605A (ja) * 2008-10-09 2010-04-22 Sanyo Electric Co Ltd 操縦支援装置
WO2010099416A1 (en) * 2009-02-27 2010-09-02 Magna Electronics Alert system for vehicle
JP5165631B2 (ja) * 2009-04-14 2013-03-21 現代自動車株式会社 車両周囲画像表示システム
US20110001819A1 (en) * 2009-07-02 2011-01-06 Sanyo Electric Co., Ltd. Image Processing Apparatus
KR101123738B1 (ko) * 2009-08-21 2012-03-16 고려대학교 산학협력단 중장비 동작 안전 모니터링 시스템 및 방법
JP4970516B2 (ja) * 2009-09-30 2012-07-11 日立オートモティブシステムズ株式会社 周囲確認支援装置
JP2011091527A (ja) * 2009-10-21 2011-05-06 Panasonic Corp 映像変換装置及び撮像装置
JP5479956B2 (ja) * 2010-03-10 2014-04-23 クラリオン株式会社 車両用周囲監視装置
JP5035643B2 (ja) * 2010-03-18 2012-09-26 アイシン精機株式会社 画像表示装置
US9332229B2 (en) * 2010-06-18 2016-05-03 Hitachi Construction Machinery Co., Ltd. Surrounding area monitoring device for monitoring area around work machine
JP5113220B2 (ja) * 2010-06-28 2013-01-09 本田技研工業株式会社 車両用画像表示装置
JP5872764B2 (ja) * 2010-12-06 2016-03-01 富士通テン株式会社 画像表示システム
US10235575B2 (en) * 2011-08-26 2019-03-19 Panasonic Intellectual Property Management Co., Ltd. Driving assistance apparatus
WO2013046593A1 (ja) * 2011-09-30 2013-04-04 パナソニック株式会社 俯瞰画像生成装置、俯瞰画像生成方法、および俯瞰画像生成プログラム
KR101265711B1 (ko) * 2011-11-30 2013-05-20 주식회사 이미지넥스트 3d 차량 주변 영상 생성 방법 및 장치
CN103987582B (zh) * 2011-12-15 2017-02-22 松下知识产权经营株式会社 驾驶辅助装置
EP2620917B1 (en) * 2012-01-30 2019-08-28 Harman Becker Automotive Systems GmbH Viewing system and method for displaying an environment of a vehicle
JP5988683B2 (ja) * 2012-05-15 2016-09-07 日立建機株式会社 自走式産業機械の表示装置
JP5781978B2 (ja) * 2012-05-22 2015-09-24 株式会社小松製作所 ダンプトラック
JP5629740B2 (ja) * 2012-09-21 2014-11-26 株式会社小松製作所 作業車両用周辺監視システム及び作業車両
JP5643272B2 (ja) * 2012-09-21 2014-12-17 株式会社小松製作所 作業車両用周辺監視システム及び作業車両
US9975485B2 (en) * 2014-04-25 2018-05-22 Komatsu Ltd. Surroundings monitoring system, work vehicle, and surroundings monitoring method
JP6411100B2 (ja) * 2014-07-08 2018-10-24 アルパイン株式会社 車両周囲画像生成装置および車両周囲画像生成方法
US10055643B2 (en) * 2014-09-19 2018-08-21 Bendix Commercial Vehicle Systems Llc Advanced blending of stitched images for 3D object reproduction
US9457718B2 (en) * 2014-12-19 2016-10-04 Caterpillar Inc. Obstacle detection system
US9902322B2 (en) * 2015-10-30 2018-02-27 Bendix Commercial Vehicle Systems Llc Filling in surround view areas blocked by mirrors or other vehicle parts

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007089081A (ja) * 2005-09-26 2007-04-05 Alpine Electronics Inc 車両用画像表示装置
JP2008123293A (ja) * 2006-11-13 2008-05-29 Toyota Motor Corp 画像処理装置
JP2013501280A (ja) * 2009-08-05 2013-01-10 ダイムラー・アクチェンゲゼルシャフト 車両周辺のモニタ方法
WO2011036892A1 (ja) * 2009-09-24 2011-03-31 パナソニック株式会社 運転支援表示装置
JP2011254190A (ja) * 2010-06-01 2011-12-15 Clarion Co Ltd 車両用周囲監視装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021094937A (ja) * 2019-12-13 2021-06-24 本田技研工業株式会社 車両用表示装置及び駐車支援システム
JP6998360B2 (ja) 2019-12-13 2022-01-18 本田技研工業株式会社 車両用表示装置及び駐車支援システム
US11584297B2 (en) 2019-12-13 2023-02-21 Honda Motor Co., Ltd. Display device for vehicle and parking assist system

Also Published As

Publication number Publication date
CN110228468A (zh) 2019-09-13
US20190275970A1 (en) 2019-09-12

Similar Documents

Publication Publication Date Title
JP4883977B2 (ja) 車両用画像表示装置
JP5765995B2 (ja) 画像表示システム
JP7222254B2 (ja) 周辺表示制御装置
JP6878196B2 (ja) 位置推定装置
US10625782B2 (en) Surroundings monitoring apparatus
JP2007274377A (ja) 周辺監視装置、プログラム
JP6998360B2 (ja) 車両用表示装置及び駐車支援システム
WO2018150642A1 (ja) 周辺監視装置
JP2012025327A (ja) 画像表示システム、画像処理装置及び画像表示方法
JP2019151304A (ja) 周辺監視装置
JP2008195268A (ja) 車両周辺監視装置
CN112492262A (zh) 图像处理装置
JP2016189576A (ja) 画像表示制御装置
US11292387B2 (en) Towing assistance apparatus
US11214197B2 (en) Vehicle surrounding area monitoring device, vehicle surrounding area monitoring method, vehicle, and storage medium storing program for the vehicle surrounding area monitoring device
JP2018074286A (ja) 運転支援装置
JP2023165721A (ja) 表示制御装置
US20230290154A1 (en) Control device, control method, and computer-readable recording medium
JPWO2017056822A1 (ja) 画像処理装置と画像処理方法および車両制御システム
JP2019069719A (ja) 駐車支援装置
JP5691339B2 (ja) 運転支援装置
JP2022062480A (ja) 車両表示システム及び車両表示方法
JP7228614B2 (ja) 画像表示システム
US20230158957A1 (en) Control device, control method, and storage medium
JP6772716B2 (ja) 周辺監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211223

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220614