JP7088807B2 - 画像処理装置、カメラ、移動体および画像処理方法 - Google Patents

画像処理装置、カメラ、移動体および画像処理方法 Download PDF

Info

Publication number
JP7088807B2
JP7088807B2 JP2018203062A JP2018203062A JP7088807B2 JP 7088807 B2 JP7088807 B2 JP 7088807B2 JP 2018203062 A JP2018203062 A JP 2018203062A JP 2018203062 A JP2018203062 A JP 2018203062A JP 7088807 B2 JP7088807 B2 JP 7088807B2
Authority
JP
Japan
Prior art keywords
moving body
image
processor
display
course
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018203062A
Other languages
English (en)
Other versions
JP2020071521A (ja
Inventor
明史 平田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2018203062A priority Critical patent/JP7088807B2/ja
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to PCT/JP2019/039011 priority patent/WO2020090339A1/ja
Priority to US17/287,745 priority patent/US11433810B2/en
Priority to EP19879385.3A priority patent/EP3876214A4/en
Priority to CN202310092021.XA priority patent/CN116080530A/zh
Priority to CN201980069381.XA priority patent/CN112912944B/zh
Publication of JP2020071521A publication Critical patent/JP2020071521A/ja
Priority to JP2022093947A priority patent/JP7345601B2/ja
Application granted granted Critical
Publication of JP7088807B2 publication Critical patent/JP7088807B2/ja
Priority to US17/817,888 priority patent/US11924578B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/008—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/38—Electronic maps specially adapted for navigation; Updating thereof
    • G01C21/3804—Creation or updating of map data
    • G01C21/3807—Creation or updating of map data characterised by the type of data
    • G01C21/3826—Terrain data
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/88—Sonar systems specially adapted for specific applications
    • G01S15/93—Sonar systems specially adapted for specific applications for anti-collision purposes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G—PHYSICS
    • G08—SIGNALLING
    • G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B5/00—Visible signalling systems, e.g. personal calling systems, remote indication of seats occupied
    • G08B5/22—Visible signalling systems, e.g. personal calling systems, remote indication of seats occupied using electric transmission; using electromagnetic transmission
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/165—Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8086—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for vehicle path indication
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/86—Combinations of sonar systems with lidar systems; Combinations of sonar systems with systems not using wave reflection
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/88—Sonar systems specially adapted for specific applications
    • G01S15/93—Sonar systems specially adapted for specific applications for anti-collision purposes
    • G01S15/931—Sonar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30241—Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Mechanical Engineering (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)

Description

本開示は、画像処理装置、カメラ、移動体および画像処理方法に関する。
特許文献１には、車両の後退時に、車両の後方画像に車両の左右輪が通過する軌跡である予想軌跡を重畳して表示する技術が開示されている。この技術では、後方画像に予想軌跡を一定間隔のはしご状に重畳することで、運転者が距離を認識できるようにしている。
特開平１１－３３４４７０号公報
移動体の進行方向に存在する障害物との高さ方向の衝突の可能性の有無をユーザに認識させることは有益である。
本開示の目的は、上述した課題を解決し、移動体と障害物との高さ方向の衝突の可能性をユーザに認識させることにある。
本開示の実施形態に係る画像処理装置は、移動体の周辺画像を取得するインターフェイスと、前記周辺画像に対して、前記移動体の特定部位の前記移動体の進行方向についての進路軌跡を示す表示を、路面からの前記特定部位の高さに対応する位置に重畳するプロセッサと、を備え、前記プロセッサは、前記周辺画像に含まれる前記移動体の進行方向に存在する障害物と、前記特定部位の進路軌跡とが接触する場合、前記進路軌跡を示す表示を変形させる。
本開示の実施形態に係るカメラは、撮像光学系と、前記撮像光学系を介して結像した像を撮像する撮像素子と、前記撮像素子により撮像された、移動体の周辺画像を取得するインターフェイスと、前記周辺画像に対して、前記移動体の特定部位の前記移動体の進行方向についての進路軌跡を示す表示を、路面からの前記特定部位の高さに対応する位置に重畳するプロセッサと、を備え、前記プロセッサは、前記周辺画像に含まれる前記移動体の進行方向に存在する障害物と、前記特定部位の進路軌跡とが接触する場合、前記進路軌跡を示す表示を変形させる。
本開示の実施形態に係る移動体は、表示部と、前記移動体の周辺を撮像するカメラと、を備え、前記カメラは、撮像光学系と、前記撮像光学系を介して結像した像を撮像する撮像素子と、前記撮像素子により撮像された、前記移動体の周辺画像を取得するインターフェイスと、前記周辺画像に対して、前記移動体の特定部位の前記移動体の進行方向についての進路軌跡を示す表示を、路面からの前記特定部位の高さに対応する位置に重畳して、前記表示部に表示するプロセッサと、を備え、前記プロセッサは、前記周辺画像に含まれる前記移動体の進行方向に存在する障害物と、前記特定部位の進路軌跡とが接触する場合、前記進路軌跡を示す表示を変形させる。
本開示の実施形態に係る画像処理方法は、画像処理装置における画像処理方法であって、
移動体の周辺画像を取得するステップと、前記周辺画像に対して、前記移動体の特定部位の前記移動体の進行方向についての進路軌跡を示す表示を、路面からの前記特定部位の高さに対応する位置に重畳するステップと、前記周辺画像に含まれる前記移動体の進行方向に存在する障害物と、前記特定部位の進路軌跡とが接触する場合、前記進路軌跡を示す表示を変形させるステップと、を含む。
本開示によれば、移動体と障害物との高さ方向の衝突の可能性をユーザに認識させることができる画像処理装置、カメラ、移動体および画像処理方法を提供することができる。
本開示の一実施形態に係る画像処理装置の構成例を示す図である。 図１に示すプロセッサによる、周辺画像に対する進路軌跡を示す表示の重畳の一例を示す図である。 図１に示すプロセッサによる、周辺画像に対する進路軌跡を示す表示の重畳について説明するための図である。 図１に示すプロセッサによる、路面上に障害物が存在する場合の、周辺画像に対する進路軌跡を示す表示の重畳の一例を示す図である。 図１に示すプロセッサによる、路面上方に障害物が存在する場合の、周辺画像に対する進路軌跡を示す表示の重畳の一例を示す図である。 図１に示すプロセッサによる、路面上方に障害物が存在する場合の、周辺画像に対する進路軌跡を示す表示の重畳の他の一例を示す図である。 図１に示すプロセッサによる、路面に高低差がある場合の、周辺画像に対する進路軌跡を示す表示の重畳の一例について説明するための図である。 図１に示すプロセッサによる、路面に高低差がある場合の、進路軌跡を示す表示の補正の一例について説明するための図である。 図１に示すプロセッサによる、路面に高低差がある場合の、周辺画像に対する進路軌跡を示す表示の重畳の他の一例を示す図である。 図１に示すプロセッサによる、路面に高低差がある場合の、進路軌跡を示す表示の補正の他の一例について説明するための図である。 図１に示すプロセッサによる、障害物までの距離および障害物の方向の算出について説明するための図である。 図１に示すプロセッサによる、路面に高低差がある場合の、進路軌跡を示す表示の補正の他の一例について説明するための図である。 図１に示すプロセッサによる、路面に高低差がある場合の、進路軌跡を示す表示の補正の他の一例について説明するための図である。 図１に示す画像処理装置における画像処理方法について説明するためのフローチャートである。
以下、本開示の実施の形態について図面を参照して例示説明する。各図中、同一符号は
、同一または同等の構成要素を示している。
図１は、本開示の一実施形態に係る画像処理装置１０の構成例を示す図である。本実施形態に係る画像処理装置１０は、図１に示すように、移動体１に搭載される。画像処理装置１０は、移動体１の周辺を撮像した周辺画像に対して、移動体１の特定部位の移動体１の進行方向についての進路軌跡を示す表示を重畳する。
本開示における移動体１は、例えば、車両である。車両には、自動車および産業車両を含むが、これに限られず、鉄道車両、生活車両、および、滑走路を走行する固定翼機を含めてよい。自動車は、乗用車、トラック、バス、二輪車、およびトロリーバスなどを含むがこれに限られず、道路上を走行する他の車両を含んでよい。産業車両は、農業および建設向けの産業車両を含む。産業車両には、フォークリフト、およびゴルフカートを含むがこれに限られない。農業向けの産業車両には、トラクター、耕耘機、移植機、バインダー、コンバイン、および芝刈り機を含むが、これに限られない。建設向けの産業車両には、ブルドーザー、スクレーバー、ショベルカー、クレーン車、ダンプカー、およびロードローラを含むが、これに限られない。車両は、人力で走行するものを含む。なお、車両の分類は、上述に限られない。例えば、自動車には、道路を走行可能な産業車両を含んでよく、複数の分類に同じ車両が含まれてよい。
図１に示す画像処理装置１０は、インターフェイス１２と、プロセッサ１３と、メモリ１４とを備える。移動体１には、移動体１の周辺画像を取得する撮像部１１が搭載されている。画像処理装置１０および撮像部１１は、移動体１に搭載されたカメラ１Ａを構成する。まず、撮像部１１について説明する。
撮像部１１は、移動体１に搭載された車載カメラである。撮像部１１は、移動体１の周辺を撮像した周辺画像を取得する。撮像部１１は、移動体１に複数台搭載されてもよい。例えば、移動体１に４台の車載カメラが搭載される場合、例えば、移動体１の前方の周辺領域と、移動体１の前側面の少なくとも一部とを撮影可能な位置と、移動体１の後方の周辺領域と、移動体１の後側面の少なくとも一部とを撮影可能な位置と、移動体１の左側方の周辺領域と、移動体１の左側面の少なくとも一部とを撮影可能な位置と、移動体１の右側方の周辺領域と、移動体１の右側面の少なくとも一部とを撮影可能な位置とにそれぞれ、撮像部１１を配置する。このような配置とすることにより、移動体１の四方の周辺領域を撮影することができる。
撮像部１１は、少なくとも撮像光学系１１ａと、撮像素子１１ｂとを備える。
撮像光学系１１ａは、例えば、１個以上のレンズおよび絞りなどの光学部材を含む。撮像光学系１１ａが備えるレンズは、例えば、魚眼レンズなどの画角の広いレンズである。撮像光学系１１ａは、被写体像を撮像素子１１ｂの受光面に結像させる。撮像素子１１ｂは、例えば、ＣＣＤ（Charge Coupled Device）イメージセンサまたはＣＭＯＳ（Complementary Metal-Oxide Semiconductor）イメージセンサなどを含む。撮像素子１１ｂの受光面上には、複数の画素が配列されている。撮像素子１１ｂは、受光面上に結像された被写体像を撮像して撮像画像を生成する。撮像部１１は、移動体１に搭載されたＥＣＵ（Electronic Control Unit）、ディスプレイおよびナビゲーション装置などの外部装置に周辺画像を出力してもよい。また、撮像部１１は、周辺画像に対して、ホワイトバランス調整処理、露出調整処理およびガンマ補正処理などの所定の画像処理を施す機能を有していてもよい。
次に、画像処理装置１０が備える構成について説明する。
インターフェイス１２は、有線または無線を介して、移動体１が備える各種構成と通信を行う。例えば、インターフェイス１２は、撮像部１１が撮像した周辺画像を取得し、プロセッサ１３に出力する。
プロセッサ１３は、例えば、ＤＳＰ（Digital Signal Processor）などの専用のプロセッサ、または、ＣＰＵ（Central Processing Unit）などの汎用プロセッサを含む。プロセッサ１３は、画像処理装置１０全体の動作を制御する。例えば、プロセッサ１３は、インターフェイス１２が取得した周辺画像に対して、移動体１の特定部位の移動体１の進行方向についての進路軌跡を示す表示を、路面からの特定部位の高さに対応する位置に重畳する。そして、プロセッサ１３は、周辺画像に含まれる移動体１の進行方向に存在する障害物を検出すると、その障害物と移動体１の特定部位の進路軌跡とが接触する場合、進路軌跡を示す表示を変形させる。
プロセッサ１３は、移動体１の特定部位の進路軌跡を示す表示を重畳した周辺画像を、例えば、移動体１が備える表示部１５に表示する。また、プロセッサ１３は、障害物と移動体１の特定部位の進路軌跡とが接触する場合、接触の危険性を示す信号を外部に出力してもよい。例えば、プロセッサ１３は、障害物と移動体１の特定部位の進路軌跡とが接触する場合、移動体１に搭載されたブザーに警告音を出力させてもよい。また、プロセッサ１３は、移動体１が音波により周辺の障害物を検出するソナーを備えている場合、障害物と移動体１の特定部位の進路軌跡とが接触しなければ、ソナーにより障害物との接触の可能性が検出されても、警告音などの出力を行わないようにしてもよい。
移動体１の特定部位とは、移動体１の移動に対して、高さ方向の制約となる部位である。例えば、特定部位は、移動体１の車体の底面あるいは車体の上面である。移動体１が車両である場合、特定部位は、例えば、車両のバンパー底面、車両の屋根、または、車両の屋根に設置された設置物などである。
メモリ１４は、例えば、一次記憶装置または二次記憶装置などを含む。メモリ１４は、画像処理装置１０の動作に必要な種々の情報およびプログラムを記憶する。
次に、画像処理装置１０の動作について説明する。
図２は、プロセッサ１３による、周辺画像に対する、移動体１の特定部位の移動体１の進行方向についての進路軌跡を示す表示の重畳の一例を示す図である。なお、以下では、移動体１が後退する場合に、移動体１の後方の周辺画像に、移動体１の特定部位の進路軌跡を示す表示を重畳する場合を例として説明する。また、図２においては、移動体１の特定部位は、バンパー２の底面であるとする。
図２に示すように、プロセッサ１３は、周辺画像に対して、バンパー２の底面の進路軌跡を示す表示１００を重畳する。プロセッサ１３は、周辺画像において、路面３からのバンパー２の底面の高さに対応する位置に、バンパー２の底面の進路軌跡を示す表示１００（移動体１の車体の底面の進路軌跡を示す表示）を重畳する。
図３は、プロセッサ１３による周辺画像に対する進路軌跡を示す表示の重畳について説明するための図であり、移動体１を側面から見た図である。以下では、周辺画像に重畳される進路軌跡を示す表示を、移動体１を側面から見た側面図に、仮想的に図示して説明する。
図３に示すように、プロセッサ１３は、バンパー２の底面２ａから移動体１の進行方向に向かって延在する平面状の、バンパー２の底面２ａの進路軌跡を示す表示１００を周辺画像に重畳する。プロセッサ１３は、進路軌跡を示す表示を、例えば、所定の色の平面として周辺画像に重畳する。プロセッサ１３は、当該平面を半透明あるいはメッシュ状にして、周辺画像に重畳してもよい。
プロセッサ１３は、移動体１の進行方向に障害物が存在するか否かを検出する。障害物が存在するか否かの検出方法としては、例えば、移動体１の進行方向に向かって撮像された周辺画像の画像解析により検出する方法があるが、これに限られるものではなく、任意の方法を用いることができる。以下では、図３に示すように、路面３上に、例えば、車止めなどの障害物２００が存在するとする。
プロセッサ１３は、移動体１の進行方向に存在する障害物２００を検出すると、周辺画像において、障害物２００の像と進路軌跡を示す表示１００とが接触するか否かを判定する。進路軌跡を示す表示１００は、路面３からのバンパー２の底面２ａの高さに対応する位置に重畳される。したがって、プロセッサ１３は、障害物２００の像が、移動体１の特定部位の進路軌跡を示す表示１００よりも高いか否かにより、障害物２００の像と進路軌跡を示す表示１００とが接触するか否か、すなわち、障害物２００と移動体１の特定部位（バンパー２の底面２ａ）とが接触するか否かを判定することができる。
プロセッサ１３は、障害物２００と移動体１の特定部位とが接触すると判定すると、図４に示すように、進路軌跡を示す表示１００の一部を変形させる。具体的には、プロセッサ１３は、進路軌跡を示す表示１００のうち、周辺画像に含まれる障害物２００の像と接触する部分を変形させる。図４においては、プロセッサ１３は、破線丸印で示すように、周辺画像に含まれる障害物２００の像と接触する部分の進路軌跡を示す表示１００を、あたかも、障害物２００に入り込んでいるように変形させる。
障害物２００の高さが、移動体１のバンパー２の底面２ａよりも低い場合、障害物２００と移動体１のバンパー２の底面２ａとは接触しない。従来のように、周辺画像に対して、予想軌跡を重畳するだけでは、路面３上に存在する障害物２００と移動体１との高さ方向の接触の可能性をユーザに認識させることはできない。一方、本開示においては、プロセッサ１３は、周辺画像に対して、移動体１の特定部位の進路軌跡を示す表示１００を、特定部位の高さに対応する位置に重畳する。そして、プロセッサ１３は、障害物２００と、特定部位の進路軌跡とが接触する場合、進路軌跡を示す表示１００を変形させる。こうすることで、路面３上に存在する障害物２００と移動体１との高さ方向の接触の可能性の有無をユーザに容易に認識させることができる。
図５は、プロセッサ１３による、周辺画像に対する、移動体１の特定部位の進路軌跡を示す表示の重畳の他の一例を示す図である。図５においては、移動体１の特定部位は、車両の屋根後方に設置されたリアスポイラ４であるとする。また、図５においては、路面３の上方に障害物２０１が存在するとする。
図５に示すように、プロセッサ１３は、周辺画像に対して、バンパー２の底面の進路軌跡を示す表示１００を重畳する。また、プロセッサ1３は、周辺画像に対して、リアスポイラ４の上面の路面３からの高さに対応する位置に、リアスポイラ４の進路軌跡を示す表示１０１（移動体１の車体の上面の進路軌跡を示す表示）を重畳する。
プロセッサ１３は、障害物２０１を検出すると、周辺画像において、障害物２０１の像と進路軌跡を示す表示１０１とが接触するか否かを判定する。進路軌跡を示す表示１０１は、リアスポイラ４の路面３からの高さに対応する位置に重畳される。したがって、プロセッサ１３は、障害物２０１の像が、移動体１の特定部位の進路軌跡を示す表示１０１よりも高いか否かにより、障害物２０１と進路軌跡を示す表示１０１とが接触するか否か、すなわち、障害物２０１と移動体１の特定部位（リアスポイラ４）とが接触するか否かを判定することができる。
プロセッサ１３は、障害物２０１と移動体１の特定部位とが接触すると判定すると、図５に示すように、進路軌跡を示す表示１０１の一部を変形させる。具体的には、プロセッサ１３は、進路軌跡を示す表示１０１のうち、周辺画像に含まれる障害物２０１の像と接触する部分を変形させる。図５においては、プロセッサ１３は、破線丸印で示すように、進路軌跡を示す表示１０１のうち、障害物２０１の像と接触する部分が潰れたように、進路軌跡を示す表示１０１を変形させる。
障害物２０１の高さが、移動体１のリアスポイラ４よりも高い場合、障害物２０１とリアスポイラ４とは接触しない。従来のように、周辺画像に対して、予想軌跡を重畳するだけでは、路面３の上方に存在する障害物２０１と移動体１との高さ方向の接触の可能性をユーザに認識させることはできない。一方、本開示においては、プロセッサ１３は、周辺画像に対して、移動体１の特定部位の進路軌跡を示す表示１０１を、特定部位の高さに対応する位置に重畳する。そして、プロセッサ１３は、障害物２０１と、特定部位の進路軌跡とが接触する場合、進路軌跡を示す表示１０１を変形させる。こうすることで、障害物２０１と移動体１との高さ方向の接触の可能性の有無をユーザに認識させることができる。
プロセッサ１３は、移動体１と障害物とが接触する場合、接触の危険性を示す表示を周辺画像に重畳したり、接触の危険性を示す信号を外部に出力したりしてもよい。例えば、プロセッサ１３は、接触の危険性を示す信号を、インターフェイス１２を介して移動体１に搭載されたブザーに出力し、ブザーを鳴動させてもよい。
また、プロセッサ１３は、移動体１と障害物とが接触しない場合、移動体１の特定部位と障害物との高さの差を算出し、図６に示すように、算出した差を示す表示１０２を周辺画像に重畳してもよい。図６においては、リアスポイラ４と障害物２０１との高さの差を示す表示１０２を周辺画像に重畳した例を示している。
これまでは路面３が平坦である場合を例として説明したが、路面３に高低差がある場合がある。以下では、路面３に高低差がある場合の、周辺画像に対する進路軌跡を示す表示の重畳について説明する。
図７は、移動体１を側面から見た図である。図７においては、路面３は、水平な路面３ａと、路面３ａよりも低い位置にある水平な路面３ｂと、路面３ａと路面３ｂとを連結する下り斜面である路面３ｃとからなる例を示している。移動体１は、路面３ａから路面３ｃを経て、路面３ｂに向かって移動するものとする。また、路面３ｂに障害物２００が存在するものとする。障害物２００の高さは、バンパー２の底面２ａの路面３からの高さよりも高いとする。すなわち、路面３ｂでは、障害物２００とバンパー２の底面２ａとが接触するものとする。また、移動体１が路面３ａに存在する状態では、障害物２００の上端が、バンパー２の底面２ａよりも低い位置にあるとする。
移動体１が路面３ａに存在する場合、図７に示すように、バンパー２の底面２ａの路面３ａからの高さに対応する位置に、移動体１の進行方向に向かって延在する平面状の、損路軌跡を示す表示１００を周辺画像に重畳する方法が考えられる。上述したように、移動体１が路面３ａに存在する状態では、障害物２００の上端は、バンパー２の底面２ａよりも低い位置にある。そのため、図７に示すように、移動体１が路面３ａに存在する状態では、進路軌跡を示す表示１００と障害物２００とは接触しない。すなわち、ユーザから見ると、移動体１と障害物２００とが接触しないように見える。しかしながら、上述したように、路面３ｂでは、障害物２００とバンパー２の底面２ａとが接触する。したがって、このような方法では、移動体１と障害物２００との接触の可能性をユーザに正しく認識させることができない。
そこで、プロセッサ１３は、路面３の高低差に応じて、進路軌跡を示す表示を補正する。具体的には、プロセッサ１３は、路面３の高低差に応じて、進路軌跡を示す表示の上下方向の位置を補正する。以下では、進路軌跡を示す表示の補正について、図８，９を参照して説明する。
図８に示すように、移動体１に設けられた撮像部１１の路面３からの高さをＨとする。撮像部１１の路面３からの高さをＨは、固有の値であり、既知である。また、撮像部１１の路面３ｂからの高さをｈ２とする。また、進路軌跡を示す表示の高さ方向の補正値をｘとする。補正値ｘは、路面３ｃの高さに対応する。また、撮像部１１から障害物２００までの距離をｄとする。距離ｄは、撮像部１１と、撮像部１１から見た障害物２００と路面３ｂとの接点との間の距離である。また、水平方向と、撮像部１１から障害物２００に向かう方向とがなす角度をβとする。
プロセッサ１３は、障害物２００を検出すると、距離ｄおよび角度βを求める。距離ｄおよび角度βを求める方法の詳細については後述する。プロセッサ１３は、求めた距離ｄおよび角度βに基づき、以下の式（１）に従い、撮像部１１の路面３ｂからの高さをｈ２を算出する。
ｈ２＝ｄ×ｓｉｎβ ・・・式（１）
撮像部１１の路面３ｂからの高さをｈ２を算出すると、プロセッサ１３は、以下の式（２）に従い、補正値ｘを算出する。
ｘ＝ｈ２－Ｈ ・・・式（２）
プロセッサ１３は、算出した補正値ｘに基づき、バンパー２の底面２ａの進路軌跡を示す表示１００を補正する。具体的には、プロセッサ１３は、図８，９に示すように、バンパー２の底面２ａの路面３ａからの高さに対応する位置に、移動体１の進行方向に向かって延在する平面状の、進路軌跡を示す表示１００ａを周辺画像に重畳する。また、プロセッサ１３は、進路軌跡を示す表示１００ａよりも補正値ｘだけ低い位置に、障害物２００よりも手前から障害物２００に向かって延在する平面状の、進路軌跡を示す表示１００ｂを周辺画像に重畳する。また、プロセッサ１３は、進路軌跡を示す表示１００ａと、進路軌跡を示す表示１００ｂとを連結する、進路軌跡を示す表示１００ｃを周辺画像に重畳する。
図８に示すように、進路軌跡を示す表示１００ｂと障害物２００とが接触する場合、プロセッサ１３は、図９に示すように、進路軌跡を示す表示１００ｂと障害物２００とが接触する部分において、進路軌跡を示す表示１００ｂを変形させる。こうすることで、路面３に高低差がある場合にも、障害物２００と移動体１との高さ方向の接触の可能性の有無をユーザに正しく認識させることができる。
図７－図９においては、路面３が移動体１の進行方向に向かって下っている例を用いて説明したが、プロセッサ１３は、図１０に示すように、路面３が移動体１の進行方向に向かって上っている場合にも、同様の方法により補正値ｘを算出することができる。
図１０においては、路面３は、水平な路面３ａと、路面３ａよりも高い位置にある水平な路面３ｂと、路面３ａと路面３ｂとを連結する上り斜面である路面３ｃとからなる例を示している。
図１０に示すように、路面３が上っている場合にも、プロセッサ１３は、上述した式（１），（２）に従い、補正値ｘを算出する。そして、プロセッサ１３は、算出した補正値ｘに基づき、進路軌跡を示す表示１００を補正する。具体的には、プロセッサ１３は、バンパー２の底面２ａの路面３ａから高さに対応する位置に、移動体１の進行方向に向かって平面状の、進路軌跡を示す表示１００ａを周辺画像に重畳する。また、プロセッサ１３は、進路軌跡を示す表示１００ａよりも補正値ｘだけ高い位置に、障害物２００よりも手前から障害物２００に向かって延在する平面状の、進路軌跡を示す表示１００ｂを周辺画像に重畳する。また、プロセッサ１３は、進路軌跡を示す表示１００ａと、進路軌跡を示す表示１００ｂとを連結する、進路軌跡を示す表示１００ｃを周辺画像に重畳する。こうすることで、プロセッサ１３は、路面３が上っている場合にも、障害物２００と移動体１との高さ方向の接触の可能性の有無をユーザに正しく認識させることができる。
次に、上述した距離ｄおよび角度βを求める方法について説明する。
プロセッサ１３は、例えば、ステレオカメラ、Ｌｉｄａｒ（Light Detection and Ranging）装置または赤外線センサなどを用いて、距離ｄおよび角度βを検出することができる。Ｌｉｄａｒ装置とは、パルス状のレーザ光を射出し、そのレーザ光の散乱光を測定することで、対象までの距離などを検出する装置である。また、プロセッサ１３は、図１１を参照して説明する算出方法を用いて、距離ｄおよび角度βを算出してもよい。
図１１に示すように、撮像部１１が備えるレンズの光学中心を原点Ｏとする三次元座標系（ＸＹＺ座標系）を考える。図１１において、撮像部１１の光軸がＺ軸と一致するものとする。また、Ｚ軸方向における、撮像部１１が備えるレンズの焦点距離をｆとする。また、移動体１の移動に伴い、撮像部１１から見て、原点ＯからのＺ軸上の距離がＺ０である平面上において、障害物の特徴点が位置Ｐ１（Ｘ１，Ｙ１，Ｚ１）から位置Ｐ２（Ｘ２，Ｙ２，Ｚ２）に、直進方向に対して角度θだけ回転した方向に移動量ΔＤだけ移動したとする。角度θおよび移動量ΔＤは、移動体１の移動量から既知である。この場合、Ｚ軸方向において、原点Ｏからの距離が焦点距離ｆであるＵ－Ｖ平面では、障害物の特徴点は、ｐ１（ｕ１，ｖ１）からｐ２（ｕ２，ｖ２）に移動する。
図１１に示す座標系において、プロセッサ１３は、以下の式（３）に従い、Ｚ０を算出する。
ｆ：Ｚ０＝｜ｕ２－ｕ１｜：ΔＤ ・・・式（３）
次に、プロセッサ１３は、以下の式（４）－式（６）に従い、位置Ｐ２（Ｘ２，Ｙ２，Ｚ２）の座標を算出する。
Figure 0007088807000001
そして、プロセッサ１３は、算出した位置Ｐ２（Ｘ２，Ｙ２，Ｚ２）の座標に基づき、距離ｄおよび角度βを算出する。
図８－図１０においては、路面３に高低差がある場合の、移動体１の車体の底面（バンパー２の底面２ａ）の進路軌跡を示す表示１００の補正について説明した。プロセッサ１３は、路面３に高低差がある場合、移動体１の車体の上面の進路軌跡を示す表示１０１についても補正値ｘに基づき補正してもよい。以下では、移動体１の車体の上面の進路軌跡を示す表示１０１の補正について、図１２を参照して説明する。
図１２においては、路面３は、水平な路面３ａと、路面３ａよりも低い位置にある水平な路面３ｂと、路面３ａと路面３ｂとを連結する下り斜面である路面３ｃとからなるものとする。また、路面３ｂの上方に障害物２０１が存在するものとする。また、移動体１が路面３ａ上に存在する状態では、移動体１の屋根６は障害物２０１の底面よりも高いものとする。すなわち、移動体１が路面３ａ上に存在する状態で移動体１から障害物２０１を見ると、移動体１の屋根６が障害物２０１に接触するように見えるものとする。
プロセッサ１３は、図８を参照して説明した方法と同様の方法により、補正値ｘを算出する。ただし、図１２においては、プロセッサ１３は、障害物２０１の移動体１に最も近い端部２０１ａの直下の路面３ｂ上の点３ｂ’と、撮像部１１との間の距離を、距離ｄとして算出する。また、プロセッサ１３は、水平方向と、撮像部１１から点３ｂ’に向かう方向とがなす角度を角度βとして算出する。障害物２０１の端部２０１ａの直下の路面３ｂ上の点３ｂ’は、例えば、撮像部１１が撮像した周辺画像から求めることができる。
次に、プロセッサ１３は、移動体１の車体の上面（屋根６）の進路軌跡を示す表示１０１を補正する。具体的には、プロセッサ１３は、屋根６の後方の端部６ａの路面３ａからの高さに対応する位置に、移動体１の進行方向に向かって延在する平面状の、進路軌跡を示す表示１０１ａを周辺画像に重畳する。また、プロセッサ１３は、損路軌跡を示す表示１０１ａよりも補正値ｘだけ低い位置に、障害物２０１よりも手前から障害物２０１に向かって延在する平面状の、進路軌跡を示す表示１０１ｂを周辺画像に重畳する。また、プロセッサ１３は、進路軌跡を示す表示１０１ａと、進路軌跡を示す表示１０１ｂとを連結する、進路軌跡を示す表示１０１ｃを周辺画像に重畳する。こうすることで、移動体１の車体の上面の進路軌跡を示す表示１０１についても、路面３の高低差に応じて補正することができる。
図１２においては、障害物２０１と進路軌跡を示す表示１０１ｂとが接触しない例を示しているが、障害物２０１と進路軌跡を示す表示１０１ｂとが接触する場合には、プロセッサ１３は、進路軌跡を示す表示１０１ｂの一部を変形させてもよい。
障害物２０１と進路軌跡を示す表示１０１ｂとが接触するか否かは、以下のようにして判定することができる。図１２に示すように、撮像部１１から障害物２０１までの高さをＨ’とし、撮像部１１から障害物２０１の端部２０１ａまでの距離をＤとし、水平方向と撮像部１１から障害物２０１の端部２０１ａに向かう方向とがなす角をαとする。また、移動体１の屋根６の路面３からの高さをｈ３とする。
まず、プロセッサ１３は、距離Ｄおよび角度αを算出する。距離Ｄおよび角度αは、図１０を参照して説明した方法により算出することができる。次に、プロセッサ１３は、以下の式（７）に従い、撮像部１１から障害物２０１までの高さＨ’を算出する。
Ｈ’＝Ｄ×ｓｉｎα ・・・式（７）
図１２に示すように、障害物２０１の底面の高さは、Ｈ＋Ｈ’で表される。プロセッサ１３は、障害物２０１の高さ（Ｈ＋Ｈ’）と、屋根６の高さｈ３とを比較することで、障害物２０１と進路軌跡を示す表示１０１ｂとが接触するか否かを判定することができる。
図１２においては、移動体１の屋根６の端部６ａが、タイヤ７の路面３との接地点の直上あるいはその近傍にある例を示しているが、移動体１の中には、移動体１の屋根６の端部６ａが、タイヤ７の路面３との接地点よりも後方に設けられているものがある。以下では、図１３を参照して、屋根６の端部６ａがタイヤ７の路面３との接地点よりも後方に設けられている移動体１における、周辺画像に対する進路軌跡を示す表示１０１の重畳について説明する。図１３においては、図１２と同様に、移動体１が路面３ａ上に存在する状態で、移動体１の屋根６は障害物２０１の底面よりも高いものとする。すなわち、移動体１が路面３ａ上に存在する状態で、移動体１から障害物２０１を見ると、移動体１の屋根６が障害物２０１に接触するように見えるものとする。
図１３においては、移動体１の屋根６の端部６ａが、タイヤ７の路面３との接地点よりも距離Ｌだけ後方に設けられているものとする。距離Ｌは、固有の値であり、既知である。
まず、プロセッサ１３は、補正値ｘを算出する。次に、プロセッサ１３は、障害物２０１の端部２０１ａの直下の路面３ｂ上の点３ｂ’から移動体１に向かって距離Ｌだけ離れた地点の高さと、タイヤ７の接地点の高さとが同じであるか否かを判定する。
上述したように、図１３においては、移動体１が路面３ａ上に存在する状態では、移動体１の屋根６は障害物２０１の底面よりも高い。そのため、路面３ｂ上の点３ｂ’から移動体１に向かって距離Ｌだけ離れた地点が路面３ａ上である場合、その地点まで移動体１が移動すると、移動体１の屋根６の端部６ａと障害物２０１とが接触してしまう。この場合、プロセッサ１３は、補正値ｘを用いた進路軌跡を示す表示１０１の補正は行わず、屋根６の路面３からの高さに対応する位置に、屋根６の端部６ａから障害物２０１まで延在する進路軌跡を示す表示１０１を周辺画像に対して重畳する。こうすることで、障害物２０１に接触する可能性があることをユーザに認識させることができる。
次に、本実施形態に係る画像処理装置１０における画像処理方法について、図１４に示すフローチャートを参照して説明する。画像処理装置１０は、図１４に示すフローを、例えば、所定の時間間隔で繰り返す。
インターフェイス１２は、撮像部１１が撮像した周辺画像を取得する（ステップＳ１１）。
プロセッサ１３は、取得した周辺画像に対して、移動体１の特定部位の移動体１の進行方向についての進路軌跡を示す表示を、特定部位の路面３からの高さに対応する位置に重畳する（ステップＳ１２）。
次に、プロセッサ１３は、移動体１の進行方向に障害物が存在するか否かを判定する（ステップＳ１３）。
移動体１の進行方向に障害物が存在しないと判定した場合には（ステップＳ１３：Ｎｏ）、プロセッサ１３は、周辺画像に重畳した進路軌跡を示す表示をそのままにして処理を終了する。
移動体１の進行方向に障害物が存在すると判定した場合には（ステップＳ１３：Ｙｅｓ）、プロセッサ１３は、障害物と移動体１の特定部位の進路軌跡とが接触するか否かを判定する（ステップＳ１４）。
障害物と進路軌跡とが接触しないと判定した場合には（ステップＳ１４：Ｎｏ）、プロセッサ１３は、周辺画像に重畳した進路軌跡を示す表示をそのままにして処理を終了する。
障害物と進路軌跡とが接触すると判定した場合には（ステップＳ１４：Ｙｅｓ）、プロセッサ１３は、進路軌跡を示す表示を変形させる。ここで、プロセッサ１３は、進路軌跡を示す表示のうち、周辺画像に含まれる障害物の像と特定部位の進路軌跡の表示とが接触する部分を変形させる。
このように、本実施形態においては、画像処理装置１０は、移動体１の周辺画像を取得するインターフェイス１２と、周辺画像に対して、移動体１の特定部位の移動体１の進行方向についての進路軌跡を示す表示を、路面からの特定部位の高さに対応する位置に重畳するプロセッサ１３と、を備える。そして、プロセッサ１３は、周辺画像に含まれる移動体１の進行方向に存在する障害物と、特定部位の進路軌跡とが接触する場合、進路軌跡を示す表示を変形させる。
周辺画像に対して、移動体１の特定部位の進路軌跡を示す表示を、路面からの特定部位の高さに対応する位置に重畳し、障害物と進路軌跡とが接触する場合、進路軌跡を示す表示を変形させることで、移動体１と障害物との高さ方向の衝突の可能性を、より容易にユーザに認識させることができる。
本開示の一実施形態を諸図面および実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形および修正を行うことが容易であることに注意されたい。従って、これらの変形および修正は本開示の範囲に含まれることに留意されたい。
１ 移動体
１Ａ カメラ
２ バンパ
２ａ バンパの底面
３，３ａ，３ｂ，３ｃ 路面
４ リアスポイラ
６ 屋根
７ タイヤ
１０ 画像処理装置
１１ 撮像部
１１ａ 撮像光学系
１１ｂ 撮像素子
１２ インターフェイス
１３ プロセッサ
１４ メモリ
１５ 表示部
１００，１０１ 進路軌跡を示す表示
２００，２０１ 障害物

Claims (9)

  1. 移動体の周辺画像を取得するインターフェイスと、
    前記周辺画像に対して、前記移動体の特定部位の前記移動体の進行方向についての進路軌跡を示す表示を、路面からの前記特定部位の高さに対応する位置に重畳するプロセッサと、を備え、
    前記プロセッサは、前記周辺画像に含まれる前記移動体の進行方向に存在する障害物と、前記特定部位の進路軌跡とが接触する場合、前記進路軌跡を示す表示を変形させる、画像処理装置。
  2. 前記プロセッサは、前記進路軌跡を示す表示のうち、前記周辺画像に含まれる前記障害物の像と前記特定部位の進路軌跡の表示とが接触する部分を変形させる、請求項１に記載の画像処理装置。
  3. 前記特定部位は、前記移動体の移動に対して、高さ方向の制約となる部位である、請求項１または２に記載の画像処理装置。
  4. 前記移動体は車両であり、
    前記特定部位は、前記車両のバンパー底面、前記車両の屋根、または、前記車両の屋根に設置された設置物である、請求項３に記載の画像処理装置。
  5. 前記プロセッサは、前記障害物と前記進路軌跡とが接触する場合、接触の危険性を示す表示を前記周辺画像に重畳し、または、接触の危険性を示す信号を外部に出力する、請求項１から４のいずれか一項に記載の画像処理装置。
  6. 前記プロセッサは、前記路面の高低差に応じて前記進路軌跡を示す表示を補正する、請求項１から５のいずれか一項に記載の画像処理装置。
  7. 撮像光学系と、
    前記撮像光学系を介して結像した像を撮像する撮像素子と、
    前記撮像素子により撮像された、移動体の周辺画像を取得するインターフェイスと、
    前記周辺画像に対して、前記移動体の特定部位の前記移動体の進行方向についての進路軌跡を示す表示を、路面からの前記特定部位の高さに対応する位置に重畳するプロセッサと、を備え、
    前記プロセッサは、前記周辺画像に含まれる前記移動体の進行方向に存在する障害物と、前記特定部位の進路軌跡とが接触する場合、前記進路軌跡を示す表示を変形させる、カメラ。
  8. 移動体であって、
    表示部と、
    前記移動体の周辺を撮像するカメラと、を備え、
    前記カメラは、
    撮像光学系と、
    前記撮像光学系を介して結像した像を撮像する撮像素子と、
    前記撮像素子により撮像された、前記移動体の周辺画像を取得するインターフェイスと、
    前記周辺画像に対して、前記移動体の特定部位の前記移動体の進行方向についての進路軌跡を示す表示を、路面からの前記特定部位の高さに対応する位置に重畳して、前記表示部に表示するプロセッサと、を備え、
    前記プロセッサは、前記周辺画像に含まれる前記移動体の進行方向に存在する障害物と、前記特定部位の進路軌跡とが接触する場合、前記進路軌跡を示す表示を変形させる、移動体。
  9. 画像処理装置における画像処理方法であって、
    移動体の周辺画像を取得するステップと、
    前記周辺画像に対して、前記移動体の特定部位の前記移動体の進行方向についての進路軌跡を示す表示を、路面からの前記特定部位の高さに対応する位置に重畳するステップと、
    前記周辺画像に含まれる前記移動体の進行方向に存在する障害物と、前記特定部位の進路軌跡とが接触する場合、前記進路軌跡を示す表示を変形させるステップと、を含む画像処理方法。
JP2018203062A 2018-10-29 2018-10-29 画像処理装置、カメラ、移動体および画像処理方法 Active JP7088807B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2018203062A JP7088807B2 (ja) 2018-10-29 2018-10-29 画像処理装置、カメラ、移動体および画像処理方法
US17/287,745 US11433810B2 (en) 2018-10-29 2019-10-02 Image processing apparatus, camera, moveable body, and image processing method
EP19879385.3A EP3876214A4 (en) 2018-10-29 2019-10-02 IMAGE PROCESSING DEVICE, CAMERA, MOVING BODY AND IMAGE PROCESSING METHOD
CN202310092021.XA CN116080530A (zh) 2018-10-29 2019-10-02 图像处理装置、摄像头、移动体以及图像处理方法
PCT/JP2019/039011 WO2020090339A1 (ja) 2018-10-29 2019-10-02 画像処理装置、カメラ、移動体および画像処理方法
CN201980069381.XA CN112912944B (zh) 2018-10-29 2019-10-02 图像处理装置、摄像头、移动体以及图像处理方法
JP2022093947A JP7345601B2 (ja) 2018-10-29 2022-06-09 画像処理装置、カメラ、移動体および画像処理方法
US17/817,888 US11924578B2 (en) 2018-10-29 2022-08-05 Image processing apparatus, camera, moveable body, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018203062A JP7088807B2 (ja) 2018-10-29 2018-10-29 画像処理装置、カメラ、移動体および画像処理方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022093947A Division JP7345601B2 (ja) 2018-10-29 2022-06-09 画像処理装置、カメラ、移動体および画像処理方法

Publications (2)

Publication Number Publication Date
JP2020071521A JP2020071521A (ja) 2020-05-07
JP7088807B2 true JP7088807B2 (ja) 2022-06-21

Family

ID=70464035

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018203062A Active JP7088807B2 (ja) 2018-10-29 2018-10-29 画像処理装置、カメラ、移動体および画像処理方法
JP2022093947A Active JP7345601B2 (ja) 2018-10-29 2022-06-09 画像処理装置、カメラ、移動体および画像処理方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022093947A Active JP7345601B2 (ja) 2018-10-29 2022-06-09 画像処理装置、カメラ、移動体および画像処理方法

Country Status (5)

Country Link
US (2) US11433810B2 (ja)
EP (1) EP3876214A4 (ja)
JP (2) JP7088807B2 (ja)
CN (2) CN112912944B (ja)
WO (1) WO2020090339A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002314991A (ja) 2001-02-09 2002-10-25 Matsushita Electric Ind Co Ltd 画像合成装置
JP2004114977A (ja) 2002-09-30 2004-04-15 Aisin Seiki Co Ltd 移動体周辺監視装置
JP2004147083A (ja) 2002-10-24 2004-05-20 Matsushita Electric Ind Co Ltd 運転支援装置
JP2011151479A (ja) 2010-01-19 2011-08-04 Aisin Seiki Co Ltd 車両周辺監視装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3575279B2 (ja) 1998-05-22 2004-10-13 アイシン精機株式会社 駐車補助装置
JP4350838B2 (ja) 1999-06-29 2009-10-21 富士通テン株式会社 車両の運転支援装置
JP4499319B2 (ja) 2001-08-24 2010-07-07 パナソニック株式会社 運転支援装置、運転支援方法および運転ガイドデータ作成方法
JP4052011B2 (ja) 2002-05-21 2008-02-27 トヨタ自動車株式会社 駐車支援装置
JP2004062380A (ja) 2002-07-26 2004-02-26 Nissan Motor Co Ltd 車両用障害物接触判定装置
US7298247B2 (en) 2004-04-02 2007-11-20 Denso Corporation Vehicle periphery monitoring system
JP4720386B2 (ja) * 2005-09-07 2011-07-13 株式会社日立製作所 運転支援装置
JP4877813B2 (ja) 2007-05-10 2012-02-15 アルパイン株式会社 車両運転支援装置
US8350724B2 (en) * 2009-04-02 2013-01-08 GM Global Technology Operations LLC Rear parking assist on full rear-window head-up display
DE112010005572T5 (de) * 2010-05-19 2013-02-28 Mitsubishi Electric Corporation Fahrzeug-Rückansicht-Überwachungsvorrichtung
US10099614B2 (en) * 2011-11-28 2018-10-16 Magna Electronics Inc. Vision system for vehicle
GB2518187A (en) * 2013-09-12 2015-03-18 Ford Global Tech Llc Collision warning for a driver controlled vehicle
US20160375831A1 (en) * 2015-06-23 2016-12-29 GM Global Technology Operations LLC Hitching assist with pan/zoom and virtual top-view
CN106218720A (zh) * 2016-08-24 2016-12-14 北京汽车研究总院有限公司 一种行车轨迹预显示的方法、装置和汽车
US10857944B2 (en) * 2016-09-30 2020-12-08 Aisin Seiki Kabushiki Kaisha Periphery monitoring apparatus
JP2018203062A (ja) 2017-06-05 2018-12-27 株式会社ブリヂストン タイヤ
JP6696939B2 (ja) * 2017-07-04 2020-05-20 トヨタ自動車株式会社 周辺画像表示制御装置
TWI657409B (zh) * 2017-12-27 2019-04-21 財團法人工業技術研究院 虛擬導引圖示與真實影像之疊合裝置及其相關疊合方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002314991A (ja) 2001-02-09 2002-10-25 Matsushita Electric Ind Co Ltd 画像合成装置
JP2004114977A (ja) 2002-09-30 2004-04-15 Aisin Seiki Co Ltd 移動体周辺監視装置
JP2004147083A (ja) 2002-10-24 2004-05-20 Matsushita Electric Ind Co Ltd 運転支援装置
JP2011151479A (ja) 2010-01-19 2011-08-04 Aisin Seiki Co Ltd 車両周辺監視装置

Also Published As

Publication number Publication date
US20210394675A1 (en) 2021-12-23
JP2020071521A (ja) 2020-05-07
EP3876214A1 (en) 2021-09-08
CN116080530A (zh) 2023-05-09
WO2020090339A1 (ja) 2020-05-07
US11924578B2 (en) 2024-03-05
EP3876214A4 (en) 2022-08-03
CN112912944A (zh) 2021-06-04
CN112912944B (zh) 2023-02-21
JP2022137030A (ja) 2022-09-21
US20220379809A1 (en) 2022-12-01
US11433810B2 (en) 2022-09-06
JP7345601B2 (ja) 2023-09-15

Similar Documents

Publication Publication Date Title
JP4676373B2 (ja) 周辺認識装置、周辺認識方法、プログラム
JP6185970B2 (ja) 車両の後方側面に隣接する物体を検出する方法
US10373338B2 (en) Calculation device, camera device, vehicle, and calibration method
JP4425495B2 (ja) 車外監視装置
EP2352136B1 (en) System for monitoring the area around a vehicle
EP3358295B1 (en) Image processing device, stereo camera device, vehicle, and image processing method
JP4521642B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
CN109389060B (zh) 一种基于视觉的车周碰撞预警方法
WO2009130828A1 (ja) 車両周辺監視装置
JP6456499B2 (ja) 立体物検出装置、ステレオカメラ装置、車両及び立体物検出方法
JP7088807B2 (ja) 画像処理装置、カメラ、移動体および画像処理方法
JP6711128B2 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
JP2018088092A (ja) 画像処理装置、車載システム、車載カメラ、移動体、および画像処理方法
KR20180081966A (ko) 차량 인식을 통한 영상 교정 방법
EP3540643A1 (en) Image processing apparatus and image processing method
WO2016079117A1 (en) Gradient detection based on perspective-transformed image
JP7023212B2 (ja) 画像処理装置、撮像装置、移動体および画像処理方法
US20230375800A1 (en) Semiconductor device and optical structure body
JP4590654B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
US20230394847A1 (en) Image processing system, image processing method, and storage medium
WO2020090330A1 (ja) 画像処理装置、カメラ、移動体および画像処理方法
JP2023029065A (ja) 画像処理装置、撮像装置、及び移動体
KR20190012967A (ko) 긴급 제동 시스템의 제어 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211102

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220609

R150 Certificate of patent or registration of utility model

Ref document number: 7088807

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150