JP6003226B2 - 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム - Google Patents

車両周囲画像表示制御装置および車両周囲画像表示制御プログラム Download PDF

Info

Publication number
JP6003226B2
JP6003226B2 JP2012117762A JP2012117762A JP6003226B2 JP 6003226 B2 JP6003226 B2 JP 6003226B2 JP 2012117762 A JP2012117762 A JP 2012117762A JP 2012117762 A JP2012117762 A JP 2012117762A JP 6003226 B2 JP6003226 B2 JP 6003226B2
Authority
JP
Japan
Prior art keywords
bird
image
vehicle
history
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012117762A
Other languages
English (en)
Other versions
JP2013246493A (ja
JP2013246493A5 (ja
Inventor
博彦 柳川
博彦 柳川
真和 竹市
真和 竹市
丙辰 王
丙辰 王
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2012117762A priority Critical patent/JP6003226B2/ja
Priority to EP13793824.7A priority patent/EP2854098B1/en
Priority to US14/395,514 priority patent/US20150070394A1/en
Priority to CN201380026870.XA priority patent/CN104335241B/zh
Priority to PCT/JP2013/001489 priority patent/WO2013175684A1/ja
Publication of JP2013246493A publication Critical patent/JP2013246493A/ja
Publication of JP2013246493A5 publication Critical patent/JP2013246493A5/ja
Application granted granted Critical
Publication of JP6003226B2 publication Critical patent/JP6003226B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30264Parking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2215/00Indexing scheme for image rendering
    • G06T2215/12Shadow map, environment map

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、車両周囲画像表示制御装置および車両周囲画像表示制御プログラムに関するものである。
従来、車両に取り付けられたカメラで車両の周囲を繰り返し撮影し、撮影画像を車両の上方から見下ろす視点の画像に鳥瞰変換し、その鳥瞰変換後の鳥瞰画像を画像表示装置に表示させる技術が知られている。
このような技術において、最新の撮影画像の鳥瞰画像と過去の撮影画像の鳥瞰画像を合成した合成鳥瞰画像を画像表示装置に表示することで、車両の周囲の画像表示範囲を広げる技術(履歴合成技術という)が知られている(特許文献1参照)
例えば、カメラが車両の後方を撮影するリアカメラである場合、図5に示すように、車両の後方を除く周囲の鳥瞰画像を保存するための履歴領域91と、車両の後方の鳥瞰画像を保存するためのリアルタイム領域92とをメモリ上に設ける。そして、最新の撮影画像の鳥瞰画像をメモリ上のリアルタイム領域92に上書きし、履歴領域91およびリアルタイム領域92の合成鳥瞰画像を画像表示装置に表示させ、車両情報(ステアリング角、車速等)を利用して車両の動きを計算し、計算した車両の動きと逆の動きをするよう、履歴領域91およびリアルタイム領域92において画像を移動させる。
このような処理を繰り返すことで、例えば車両が後退するときに画像表示装置に表示される画像は、図6A〜図6Fの順に車両の後退が進むと共に、リアルタイム領域92にあった画像が履歴領域91に順次移動していく。したがって、履歴領域91に含まれる鳥瞰画像の範囲が順次拡大していき、車両の周囲の表示範囲が拡大していく。
特開2002−373327号公報 特開2010−237976号公報
西本至孝、泉隆、「影抽出に基づく車両検出について」、電気学会ITS研究会、ITS−06−14、7〜12頁、2006年6月
しかし、上記のような技術では、図7A〜図7Fに例示するように、カメラの撮影画像中に自車両の影がある場合は、自車両の移動と共にその影が履歴領域91に移動し続ける。したがって、画像表示装置に表示される合成鳥瞰画像中において、影の画像が拡大してしまい、車両の周囲が見づらい合成鳥瞰画像となってしまう。
本発明は上記点に鑑み、最新の撮影画像の鳥瞰画像と過去の撮影画像の鳥瞰画像を合成した合成鳥瞰画像を画像表示装置に表示する履歴合成技術において、車両の移動と共に合成鳥瞰画像中において自車両の影が拡大してしまう可能性を低減することを目的とする。
上記目的を達成するための請求項1に記載の発明は、車両に搭載された車載カメラ(1)から前記車両の周囲の撮影画像を繰り返し取得する取得手段(110)と、前記取得手段(110)が繰り返し取得した撮影画像に鳥瞰変換を逐次施して鳥瞰画像を作成する鳥瞰変換手段(115)と、作成された最新の前記鳥瞰画像をメモリに保存する際、前記鳥瞰画像を前記車両の前後方向に分割したうちの、前記車両からより離れた方の所定の範囲の画像を、リアルA領域(51a)に保存し、前記車両により近い方の所定の範囲の画像を、リアルB領域(51b)に保存する分割保存手段(120)と、前記リアルB領域(51b)の一部または全部を含む所定の領域に保存された鳥瞰画像内に影があるか否かを判定する影判定手段(125)と、前記車両から入力された車両挙動情報に基づいて、前記車両の動き量を算出する動き算出手段(135、155)と、前記影判定手段(125)によって影がないと判定された場合、前記車載カメラ(1)の撮影範囲外の鳥瞰画像を保存するための履歴C領域(52)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルB領域(51b)内に保存された鳥瞰画像を用いて前記履歴C領域(52)内に鳥瞰画像を構成すると共に、前記リアルB領域(51b)と同じ範囲の鳥瞰画像を保存するための履歴B領域(53)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルA領域(51a)内に保存された鳥瞰画像を用いて前記履歴B領域(53)内に鳥瞰画像を構成する第1履歴画像構成手段(140)と、前記影判定手段(125)によって影があると判定された場合、前記車載カメラ(1)の撮影範囲外の鳥瞰画像を保存するための履歴C領域(52)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記履歴B領域(53)内に保存された鳥瞰画像を用いて前記履歴C領域(52)内に鳥瞰画像を構成すると共に、前記履歴B領域(53)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルA領域(51a)内に保存された鳥瞰画像を用いて前記履歴B領域(53)内に鳥瞰画像を構成する第2履歴画像構成手段(160)と、前記リアルA領域(51a)内の鳥瞰画像、前記履歴C領域(52)内の鳥瞰画像、および、前記リアルB領域(51b)内または前記履歴B領域(53)内の鳥瞰画像を、画像表示装置(3)に表示させる表示制御手段(130、150)と、を備えた車両周囲画像表示制御装置である。
このように、リアルB領域(51b)と同じ範囲の鳥瞰画像を保存するための履歴B領域(53)を設け、この履歴B領域(53)内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、リアルA領域(51a)内に保存された鳥瞰画像を用いて履歴B領域(53)内に鳥瞰画像を構成する。
そして、リアルB領域(51b)の一部または全部を含む所定の領域に保存された鳥瞰画像内に影があるかないか判定し、車載カメラ(1)の撮影範囲外の鳥瞰画像を保存するための履歴C領域(52)内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、影がない場合は、リアルB領域(51b)内に保存された鳥瞰画像を用いて履歴C領域(52)内に鳥瞰画像を構成し、影がある場合は、履歴B領域(53)内に保存された鳥瞰画像を用いて履歴C領域(52)内に鳥瞰画像を構成する。
このように、履歴合成(履歴C領域内の鳥瞰画像を構成することをいう)の元画像としてリアルB領域(51b)の鳥瞰画像を用いるか履歴B領域(53)の鳥瞰画像を用いるかを、影の有無に応じて選択できるようにする。
これにより、影のある場合は、リアルA領域51aの鳥瞰画像(影のない可能性が高い画像)に基づいて構成された履歴B領域(53)の鳥瞰画像を用いて履歴合成を行うので、履歴C領域(52)内にて自車両の影が拡大してしまう可能性を低減することができる。
また、影のない場合は、リアルB領域(51b)の鳥瞰画像を用いて履歴合成を行うので、履歴C領域(52)内の鳥瞰画像の撮影時期が比較的新しくなる
また、請求項6に記載の発明は、車両に搭載された車載カメラ(1)から前記車両の周囲の撮影画像を繰り返し取得する取得装置(110)と、撮影画像に鳥瞰変換を逐次施して、鳥瞰画像を作成する鳥瞰変換装置(115)と、前記車両から入力された車両挙動情報に基づいて、前記車両の動き量を算出する動き算出装置(135、155)と、前記車両の周囲の所定のB範囲のB鳥瞰画像を記憶するリアルB領域と、前記B範囲よりも前記車両からより離れた所定のA範囲のA鳥瞰画像を記憶するリアルA領域と、前記リアルA領域が記憶していた前記A鳥瞰画像を前記動き算出装置が算出した前記車両の動き量に基づいて前記車両との相対位置を移動させて履歴B鳥瞰画像として記憶する履歴B領域と、前記履歴B領域が記憶していた前記履歴B鳥瞰画像または前記リアルB領域が記憶していた前記B鳥瞰画像を、前記動き算出装置が算出した前記車両の動き量に基づいて前記車両との相対位置を移動させてC鳥瞰画像として記憶する履歴C領域と、を有するメモリと、前記鳥瞰画像を前記車両の前後方向に分割することで、前記A鳥瞰画像と前記B鳥瞰画像を作成し、前記A鳥瞰画像を前記リアルA領域(51a)に保存し、前記B鳥瞰画像を前記リアルB領域(51b)に保存する分割保存装置(120)と、前記リアルB領域(51b)の一部または全部に保存されたB鳥瞰画像に影があるか否かを判定する影判定装置(125)と、前記影判定装置(125)が、B鳥瞰画像に影がないと判定した場合、前記リアルB領域(51b)に保存されていたB鳥瞰画像を用いて前記履歴C領域(52)内に前記C鳥瞰画像を構成する第1履歴画像構成装置(140)と、前記影判定装置(125)が、B鳥瞰画像に影があると判定した場合、前記履歴B領域(53)内に保存されていた履歴B鳥瞰画像を用いて前記履歴C領域(52)内に前記C鳥瞰画像を構成する第2履歴画像構成装置(160)と、前記リアルA領域(51a)内の前記A鳥瞰画像、前記履歴C領域(52)内の前記C鳥瞰画像、および、前記リアルB領域(51b)内の前記B鳥瞰画像または前記履歴B領域(53)内の前記履歴B鳥瞰画像を、画像表示装置(3)に表示させる表示制御装置(130、150)と、を備えた車両周囲画像表示制御装置である。
なお、上記および特許請求の範囲における括弧内の符号は、特許請求の範囲に記載された用語と後述の実施形態に記載される当該用語を例示する具体物等との対応関係を示すものである。
本発明の実施形態に係る メモリ中のリアルA領域51a、リアルB領域51b、履歴C領域52、履歴B領域53を示す図である。 制御装置が実行する処理のフローチャートである。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 従来のメモリ中の履歴領域91とリアルタイム領域92を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。 影がある場合に車両の後退と共に変化する合成鳥瞰画像を示す図である。
以下、本発明の一実施形態について説明する。図1に、本実施形態に係る車両周囲画像表示システムの構成を示す。この車両周囲画像表示システムは、車両に搭載され、車載カメラ1、制御装置2(車両周囲画像表示制御装置の一例に相当する)、画像表示装置3を備えている。
車載カメラ1は、車両の後端付近に固定して搭載され、車両の周囲を、具体的には、車両の後方の所定範囲を繰り返し(例えば、1/30秒周期で)撮影し、撮影の結果得た撮影画像のデータを制御装置2に逐次出力する。
制御装置2は、車載カメラ1から上記撮影画像が繰り返し入力されると共に、自車両からシフトレンジの情報、車速の情報、およびステアリング角(またはヨーレート)の情報が繰り返し入力されるようになっている。
そして制御装置2は、あらかじめ定められた処理を実行することで、鳥瞰変換部21、画像合成部22、車両運動計算部23、影判断部24として機能する。
鳥瞰変換部21は、車載カメラ1から入力された撮影画像に対して周知の鳥瞰変換を施すことで、当該撮影画像を、自車両の上方から(真下にまたは斜め下に)見下ろす視点の鳥瞰画像に、変換する。
画像合成部22は、後述するように、最新の撮影画像の鳥瞰画像と、過去の撮影画像の鳥瞰画像を合成し、合成の結果得た合成鳥瞰画像を画像表示装置3に出力する。
車両運動計算部23は、自車両から入力されたシフトレンジの情報、車速の情報、およびステアリング角(またはヨーレート)の情報に基づいて、周知のAckermanモデルに従った自車両の動き(移動量および姿勢変化量)を算出する。影判断部24は、最新の撮影画像の鳥瞰画像中に影が存在するか否か判定する。
なお、このような構成の制御装置2としては、周知のマイクロコンピュータを用いてもよい。
画像表示装置3は、制御装置2から入力された合成鳥瞰画像を表示する装置であり、表示された合成鳥瞰画像を車内のドライバーが見ることができるような位置に配置される。
以下、このような構成の車両周囲画像表示システムの作動について説明する。制御装置2に搭載された書き込み可能なメモリ(例えばRAM)には、図2に示すように、リアルA領域51a、リアルB領域51b、履歴C領域52、および履歴B領域53があらかじめ確保されている。
リアルA領域51aおよびリアルB領域51bは、自車両の周囲のうち自車両の後方の鳥瞰画像を保存するための領域であり、後述するように、最新の撮影画像が鳥瞰変換された鳥瞰画像が保存されるようになっている。
また、リアルA領域51aは、車両の後方を車両の前後方向に2分割したうちの、車両からより離れた方の所定の範囲の鳥瞰画像を保存するための領域である。また、リアルB領域51bは、同様に2分割したうちの、車両により近い方の所定の範囲の鳥瞰画像を保存するための領域である。
履歴C領域52は、自車両の周囲のうち自車両の後方以外(すなわち、車載カメラ1の撮影範囲外)の鳥瞰画像を保存するための領域であり、後述するように、過去の撮影画像が鳥瞰変換された鳥瞰画像が保存されるようになっている。
履歴B領域53は、車両の周囲のうち上記リアルB領域51bと同じ範囲の鳥瞰画像を保存するための領域である。ただし、後述するように、リアルB領域51bと異なり、最新の撮影画像ではなく、過去の撮影画像が鳥瞰変換された鳥瞰画像が保存されるようになっている。
制御装置2は、このようなリアルA領域51a、リアルB領域51b、履歴C領域52、履歴B領域53を用いて、図3にフローチャートで示す処理を実行するようになっている。制御装置2は、この図3の処理を実行することで、上記鳥瞰変換部21、画像合成部22、車両運動計算部23、影判断部24として機能する。
この図3の処理について、1つの事例に沿って説明する。なお、この事例においては、車載カメラ1の撮影画像中に自車両の影以外の影は写らないものとする。
まず、制御装置2が図3の処理を開始する際は、リアルA領域51a、リアルB領域51b、履歴C領域52、履歴B領域53のそれぞれの領域内は、鳥瞰画像のデータが全く含まれていない空の状態、換言すれば、空を示すデータのみが含まれている状態となっている。
制御装置2は、まずステップ105で、入力された最新のシフトレンジ情報に基づいて、自車両のシフト位置がリバース(後退位置)であるか否か判定し、リバースでなければ再度ステップ105の判定を実行する。
ドライバーが、駐車場の駐車マス(図4A〜図4FのP2)に自車両を駐車させようとするとき、シフトレンジをR(リバース)に入れたとする。すると制御装置2は、ステップ105で、シフト位置がリバースであると判定し、ステップ110に進む。
ステップ110では、車載カメラ1から最新の撮影画像の入力を1枚受け付けて取得する。続いてステップ115では、直前のステップ110で取得した最新の撮影画像に対して周知の鳥瞰変換を施す。この鳥瞰変換によって、撮影画像は、自車両の情報から(真下にまたは斜め下に)見下ろす視点の鳥瞰画像に、変換される。
なお、この鳥瞰変換の際には、周知の通り、撮影画像中の物体は高さゼロの位置(すなわち、路面)に存在すると仮定されている。鳥瞰変換に用いられる変換式は、あらかじめ制御装置2のメモリ(例えばROM)に記録されている。制御装置2は、このステップ115の処理を実行することで、鳥瞰変換部21として機能する。
続いてステップ120では、直前のステップ115において作成した鳥瞰画像を、メモリ中のリアルA領域51aおよびリアルB領域51bに保存する。
具体的には、当該鳥瞰画像を車両の前後方向に2分割したうちの、車両からより離れた方の所定の範囲の画像を、リアルA領域51aに保存し、当該鳥瞰画像を同様に2分割したうちの、車両により近い方の所定の範囲の画像を、リアルB領域51bに保存する。
続いてステップ125では、直前のステップ115において作成した鳥瞰画像のうち、リアルB領域51b内に保存された鳥瞰画像中に、影が存在するか否か判定する。
当該鳥瞰画像中に影が存在するか否かは、周知の方法(例えば、特許文献2、非特許文献1に記載の方法)で判定すればよい。例えば特許文献2に記載の影検出技術を用いて判定可能である。
具体的には、リアルB領域51b内の鳥瞰画像の一部領域に対して、色相と輝度に基づいて領域分割を行い、分割された複数の領域のうち、色相の差が所定の閾値以下でありかつ輝度の差が所定値異常となっている2つの領域を抽出する。
そして、抽出した2つのうち輝度の高い方を非陰影領域とし、輝度の低い方を陰影領域とする。そして、色情報の空間(特許文献2の図14(b)を参照)における当該陰影領域から非陰影領域へのベクトルを、光源の色情報として特定する。
そして、リアルB領域51b内の鳥瞰画像の全領域について、色相と輝度に基づいて領域分割を行い、隣接する領域間の色相の差が光源の色相と所定の範囲内で一致する場合に、それら隣接する領域のうち、輝度の低い方を、影であると特定する。制御装置2は、このステップ125の処理を実行することで、影判断部24として機能する。
本事例では、図3の処理を開始した時点で、図4Aに示すように、自車両の後方(進行方向)の、リアルB領域51bに対応する範囲内に自車両の影が存在するとする。この場合、ステップ125では影があると判定してステップ145に進む。
ステップ145では、履歴B領域53中に鳥瞰画像のデータが所定量以上あるか否か判定する。例えば、履歴B領域53のすべてを、鳥瞰画像のデータが満たしたときに、履歴B領域53中に鳥瞰画像のデータが所定量以上あると判定し、それ以外の場合は、履歴B領域53中に鳥瞰画像のデータが所定量未満であると判定してもよい。
本事例では、図3の処理が始まったばかりなので、履歴B領域53中に鳥瞰画像のデータが全くないので、所定量未満であると判定してステップ130に進む。
ステップ130では、図2の左側に示すような配置で、リアルA領域51a、リアルB領域51b、および履歴C領域52の画像を繋ぎ合わせて合成し、合成後の合成鳥瞰画像を、制御装置2中の所定の出力用メモリに保存する。
なお、合成鳥瞰画像には、図2に示すように、自車両の形状を示す画像54を重畳してもよい。その際、合成鳥瞰画像と車両形状画像54とが重なる部分で合成鳥瞰画像と車両形状画像54の両方が視認可能なように、車両形状画像54を透過的に重畳するようになっていてもよい。
制御装置2は、このステップ130の処理を実行することで、画像合成部22として機能する。この出力用メモリに保存された合成鳥瞰画像は、制御装置2から画像表示装置3に入力され、その結果、画像表示装置3は当該合成鳥瞰画像をドライバーに表示する。
続いてステップ135では、自車両から入力された各種車両挙動情報、すなわち、シフトレンジの情報、車速の情報、およびステアリング角(またはヨーレート)の最新の情報(過去の情報を追加で用いて)に基づいて、周知のAckermanモデルに従った自車両の動き量(移動ベクトルおよび姿勢変化角度)を算出する。なお、ここでいう動き量とは、前回の撮影画像の取得タイミングから今回の撮影画像の取得タイミングまでの期間における車両の動き(すなわち、撮影画像の取得間隔における動き量)を示す動き量である。制御装置2は、このステップ135の処理を実行することで、車両運動計算部23として機能する。
続いてステップ140では、直前のステップ135で算出した自車両の動き量に基づいて、自車両の周囲(路面に固定されていると仮定する)が相対的に自車両に対してどのように移動するかを表す相対移動量を算出する。
具体的には、直前のステップ135で算出した自車両の動き量と逆の動きを算出する。例えば、自車両の移動ベクトルが(α、β)で、姿勢変化角度がθであるとき、自車両に対する周囲の相対移動量としては、移動ベクトルが(−α、−β)で、姿勢変化角度が−θであるとする。
そして、リアルA領域51a、リアルB領域51b、および履歴C領域52cを図2の左側のような配置で繋ぎ合わせた結合領域内で、上記のようにして算出された周囲の相対移動量に従って、当該結合領域内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、当該結合領域内に保存されたすべての鳥瞰画像を移動させる。
これにより、当該相対移動量に応じて、リアルB領域51bと履歴C領域52の境界で、リアルB領域51bから履歴C領域52に、または、履歴C領域52からリアルB領域51bに、鳥瞰画像の一部が移動する。本事例では、自車両が後退しているので、前者となる。また、リアルB領域51b中にある自車両の影の画像が、履歴C領域52に移動する。
それと共にステップ140では、リアルA領域51aおよび履歴B領域53を図2の右側のような配置で繋ぎ合わせた領域内(履歴C領域52は繋ぎ合わせられていないことに注意)で、上記のようにして算出された周囲の相対移動量に従って、鳥瞰画像を移動させる。したがって、車両の後退と共に、図3の処理の開始当初は空だった履歴C領域52内で鳥瞰画像が増加する。
これにより、当該相対移動量に応じて、リアルA領域51aと履歴B領域53の境界で、リアルA領域51aから履歴B領域53に、または、履歴B領域53からリアルA領域51aに、鳥瞰画像の一部が移動する。本事例では、自車両が後退しているので、前者となる。したがって、車両の後退と共に、図3の処理の開始当初は空だった履歴B領域53内で鳥瞰画像が増加する。
ステップ140の後、処理はステップ105に戻る。その後、車両が後退を続け、自車両の影が最新の撮影画像内(リアルB領域51bに対応する位置内)にあり続けたとする。この場合、履歴B領域53中の鳥瞰画像のデータが所定量に満たない間は、制御装置2は、ステップ105でシフト位置がリバースであると判定し、ステップ125で影があると判定し、ステップ145で履歴B領域53内で鳥瞰画像のデータは所定量未満であると判定する。
したがって、制御装置2は、ステップ105、110、115、120、125、145、130、135、140をこの順で繰り返し実行する。各ステップの処理内容は既に説明したものと同様である。
その結果、図4A、図4B、図4Cに示すように、車両の後退(直進後退でも曲がって後退でもよい)に合わせて、リアルB領域51b内の鳥瞰画像が次第に履歴C領域52内に蓄積されていく。この間、すでに説明した通り、ステップ130において、リアルA領域51a、リアルB領域51b、および履歴C領域52内の鳥瞰画像を繋ぎ合わせた合成鳥瞰画像(および車両の画像54)が、画像表示装置3に表示され続ける。
またこの間、リアルB領域51b中の鳥瞰画像には自車両の影が存在し続けるので、履歴C領域52には影のある鳥瞰画像が直積され続ける。したがって、図4A、図4B、図4Cのように、実際には存在しない影が履歴C領域52内で画像として拡大していく。
また、上記のように制御装置2がステップ105、110、115、120、125、145、130、135、140をこの順に繰り返し実行することで、車両の後退(直進後退でも曲がって後退でもよい)に合わせて、リアルA領域51a内の鳥瞰画像が次第に履歴B領域53内に蓄積されていく。ただしこの間、履歴B領域53は画像表示装置3における表示には用いられない。
リアルA領域51aは、リアルB領域51bと比べて、車両の後端からより離れた後方位置(例えば、自車両後端よりも3メートル以上離れた後方)の鳥瞰画像を保存する。したがって、リアルA領域51a中の鳥瞰画像に自車両の影が写っている可能性は比較的低い。本事例では、リアルA領域51a中の鳥瞰画像に自車両の影が写っていないとする。したがって、リアルA領域51aから移動して履歴B領域53に蓄積されていく鳥瞰画像にも、自車両の影が写っていない。
その後、自車両の影が最新の撮影画像内(リアルB領域51bに対応する位置内)にあり続ける状態のまま、自車両が後退を続けた結果、履歴B領域53中の鳥瞰画像のデータが所定量以上となったとする。
この場合、制御装置2は、ステップ105でシフト位置がリバースであると判定し、ステップ125で影があると判定し、ステップ145に進むが、ステップ145では、履歴B領域53内で鳥瞰画像のデータが所定量以上であると判定するので、ステップ150に進む。
ステップ150では、図2の右側に示すような配置で、リアルA領域51a、履歴B領域53、および履歴C領域52の画像を繋ぎ合わせて合成し、合成後の合成鳥瞰画像を、制御装置2中の所定の出力用メモリに保存する。
ステップ150の処理がステップ130と違うのは、リアルB領域51b(影がある)に代えて履歴B領域53(影がない)を用いている点である。なお、合成鳥瞰画像には、ステップ130と同様に、自車両の形状を示す画像54を重畳してもよい。
このように、リアルB領域51b(影がある)に代えて履歴B領域53(影がない)を用いて表示することで、図4Dに示すように、自車両の後方において、鳥瞰画像中に今まであった影が消滅する。ただし、既に履歴C領域52に移動した影については、引き続き表示される。
制御装置2は、このステップ150の処理を実行することで、画像合成部22として機能する。この出力用メモリに保存された合成鳥瞰画像は、制御装置2から画像表示装置3に入力され、その結果、画像表示装置3は当該合成鳥瞰画像をドライバーに表示する。
続いてステップ155では、ステップ130と同じ方法で、周知のAckermanモデルに従った自車両の動き量(移動ベクトルおよび姿勢変化角度)を算出する。制御装置2は、このステップ155の処理を実行することで、車両運動計算部23として機能する。
続いてステップ160では、直前のステップ155で算出した自車両の動き量に基づいて、自車両の周囲(路面に固定されていると仮定する)が相対的に自車両に対してどのように移動するかを表す相対移動量を、ステップ140と同様の方法で算出する。
そして、リアルA領域51a、履歴B領域53、および履歴C領域52cを図2の右側のような配置で繋ぎ合わせた結合領域内で、上記のようにして算出された周囲の相対移動量に従って、当該結合領域内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、当該結合領域に保存されているすべての鳥瞰画像を移動させる。
これにより、当該相対移動量に応じて、リアルA領域51aと履歴B領域53の境界で、リアルA領域51aから履歴B領域53に、または、履歴B領域53からリアルA領域51aに、鳥瞰画像の一部が移動する。本事例では、自車両が後退しているので、前者となる。したがって、車両の後退と共に、図3の処理の開始当初は空だった履歴B領域53内で鳥瞰画像が増加する。
これにより、当該相対移動量に応じて、履歴B領域53と履歴C領域52の境界で、履歴B領域53から履歴C領域52に、または、履歴C領域52から履歴B領域53に、鳥瞰画像の一部が移動する。本事例では、自車両が後退しているので、前者となる。このとき、リアルB領域51b中に自車両の影が無いので、履歴C領域52にも自車両の影の画像が移動することはない。
ステップ160の後、処理はステップ105に戻る。その後、車両が後退を続け、自車両の影が最新の撮影画像内(リアルB領域51bに対応する位置内)にあり続けたとする。この場合、制御装置2は、ステップ105でシフト位置がリバースであると判定し、ステップ125で影があると判定し、ステップ145で履歴B領域53内で鳥瞰画像のデータは所定量以上であると判定する。
したがって、制御装置2は、ステップ105、110、115、120、125、145、150、155、160をこの順で繰り返し実行する。各ステップの処理内容は既に説明したものと同様である。
その結果、図4D、図4E、図4Fに示すように、車両の後退(直進後退でも曲がって後退でもよい)に合わせて、リアルA領域51a内の鳥瞰画像が次第に履歴B領域53内に蓄積されていくと共に、履歴B領域53内の鳥瞰画像が次第に履歴C領域52内に蓄積されていく。
この間、すでに説明した通り、ステップ150において、リアルA領域51a、履歴B領域53、および履歴C領域52内の鳥瞰画像を繋ぎ合わせた合成鳥瞰画像(および車両の画像54)が、画像表示装置3に表示され続ける。
またこの間、履歴B領域53中の鳥瞰画像には自車両の影が存在しないので、履歴C領域52には影のない鳥瞰画像が直積され続ける。したがって、図4D、図4E、図4Fのように、既に移動してしまった影は履歴C領域52中に残って移動するものの、実際には存在しない影が履歴C領域52内で画像として更に拡大していくのを防ぐことができる。
その後、車両の向きが変化する等の理由で、自車両の影がリアルB領域51b中の鳥瞰画像から消えたとする。この場合、制御装置2は、ステップ125で、直前のステップ115において作成した鳥瞰画像中に影が存在しないと判定し、ステップ130に進む。ただし、ステップ130、135、140の処理内容は、既に説明した通りである。ただし今回は、リアルB領域51b内の鳥瞰画像中に自車両の影が存在しないので、ステップ140では、リアルB領域51bから履歴C領域52に影の画像が移動しない。
その後、自車両の影がリアルB領域51b中の鳥瞰画像に入っていないまま車両が後退している間、制御装置2は、ステップ125で影が無いと判定するので、ステップ105、110、120、125、130、135、140の処理を繰り返す。この場合も、リアルB領域51b内の鳥瞰画像に影がないので、リアルB領域51bから履歴C領域52に影の画像が移動することがない。
このように、リアルB領域51b内の鳥瞰画像に影がない場合は、履歴B領域53ではなくリアルB領域51b内の鳥瞰画像を表示に用いることで、最新の撮影画像を用いて表示する範囲が広がる。
なお、上記事例では、図3の処理が始まった時点で既に、自車両の影が撮影画像に入っていた。しかしながら、図3の処理が始まった時点では自車両の影が撮影画像に入っておらず、後に車両の向きが変化する等の理由で、自車両の影が撮影画像内に現れる事例も考えられる。
このような場合、自車両の影がリアルB領域51b中の鳥瞰画像に入っていないまま車両が後退している間、制御装置2は、ステップ125で影が無いと判定するので、ステップ105、110、120、125、130、135、140の処理を繰り返す。この場合、リアルB領域51b内の鳥瞰画像に影がないので、リアルB領域51bから履歴C領域52に影の画像が移動することがない。また、この場合、ステップ140で、車両の後退移動に伴ってリアルA領域51aから履歴B領域53に鳥瞰画像が次第に蓄積されていく。
その後、履歴B領域53に鳥瞰画像のデータが所定量以上蓄積され、さらにその後、車両の向きが変化する等の理由で、自車両の影がリアルB領域51b中の鳥瞰画像内に現れたとする。この場合、制御装置2は、ステップ125で影があると判定し、ステップ145で履歴B領域53内に鳥瞰画像のデータが所定量以上であると判定してステップ150に進み、ステップ150、155、160の処理を、既に説明したのと同様に実行する。
ただし、本事例では、履歴C領域52に全く影の画像が移動していないので、リアルA領域51a、履歴B領域53、履歴C領域52内の鳥瞰画像を繋げた合成画像には影がまったくない。
そしてその後も、撮影画像中(具体的にはリアルB領域51bに該当する範囲の撮影画像中)に影があったとしても、制御装置2は、その後、ステップ105、110、115、120、125、145、150、155、160をこの順で繰り返し実行することで、リアルB領域51b内の最新の撮影画像を用いず、履歴B領域53内の撮影画像を用いるので、リアルA領域51a、履歴B領域53、履歴C領域52内の鳥瞰画像を繋げた合成画像には影がまったくない。
なお、本実施形態では、ステップ125では、直前のステップ115で作成したリアルB領域51b内の鳥瞰画像に影が存在するか否かを判定している。しかし、その影が自車両の影であるか他の物体の影であるかについては判定していない。
したがって、一時例として、自車両の影は鳥瞰画像中に無いにもかかわらず、他の物体の影が最新のリアルB領域51b内の鳥瞰画像内にある場合でも、制御装置2は、自車両の影が最新のリアルB領域51b内の鳥瞰画像にある場合と同じ作動を行う。
すなわち、ステップ125で影があると判定し、履歴B領域53に所定量以上の鳥瞰画像のデータが蓄積されていれば、リアルB領域51bに代えて履歴B領域53を用いることで、図2の右側の配置で組み合わせた合成鳥瞰画像の表示を行い、車両の移動に合わせて、この合成鳥瞰画像をリアルA領域51a、履歴B領域53、履歴C領域52内で移動させる。
このようになっていても、表示する鳥瞰画像の一部がリアルB領域51b内の最新の鳥瞰画像から履歴B領域53内の少し古い鳥瞰画像に置き換わるだけなので、大きな問題は発生しない。また、仮に影でないものを影であると誤って判定してしまった場合でも、同様に、大きな問題は発生しない。
以上説明した通り、本実施形態では、ステップ150〜160を実行することで、自車両の影が車載カメラ1で撮影されてしまったときにも、画像表示装置3で表示する合成鳥瞰画像の品質の低下を抑えることができる。
具体的には、履歴B領域53を設け、この履歴B領域53内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、リアルA領域51a内に保存された鳥瞰画像を用いて履歴B領域53内に鳥瞰画像を構成する。
そして、リアルB領域51bの一部または全部を含む所定の領域に保存された鳥瞰画像内に影があるかないか判定し、履歴C領域52内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、影がない場合は、リアルB領域51b内に保存された鳥瞰画像を用いて履歴C領域52内に鳥瞰画像を構成し、影がある場合は、履歴B領域53内に保存された鳥瞰画像を用いて履歴C領域52内に鳥瞰画像を構成する。
このように、履歴合成(ここでは、履歴C領域52内の鳥瞰画像を構成することをいう)の元画像としてリアルB領域51bの鳥瞰画像を用いるか履歴B領域53の鳥瞰画像を用いるかを、影の有無に応じて選択できるようにする。
これにより、影のある場合は、リアルA領域51aの鳥瞰画像(影のない可能性が高い画像)に基づいて構成された履歴B領域53の鳥瞰画像を用いて履歴合成を行うので、履歴C領域52内にて自車両の影が拡大してしまう可能性を低減することができる。
また、影のない場合は、リアルB領域51bの鳥瞰画像を用いて履歴合成を行うので、履歴C領域52内の鳥瞰画像の撮影時期が比較的新しくなる。
なお、本実施形態において、ステップ125で影があると判定した場合でも、ステップ145で履歴B領域53中に所定量以上データがないと判定した場合は、ステップ150〜160で履歴B領域53を表示および履歴C領域52への鳥瞰画像移動に使用するのではなく、ステップ130〜140でリアルB領域51bを表示および履歴C領域52への鳥瞰画像移動に使用する。
このようにするのは、リアルB領域51bの鳥瞰画像中に影があるからといっても、履歴B領域53に充分な量の鳥瞰画像が蓄積されていない段階で履歴B領域53を表示に使用してしまえば、画像表示装置3で表示する合成鳥瞰画像中に空白ができてしまい、更に、その空白が履歴C領域52に移動してしまうからである。
なお、上記実施形態において、制御装置2が、ステップ110を実行することで取得手段の一例として機能し、ステップ115を実行することで鳥瞰変換手段の一例として機能し、ステップ120を実行することで分割保存手段の一例として機能し、ステップ125を実行することで影判定手段の一例として機能し、ステップ135、155を実行することで動き算出手段の一例として機能し、ステップ130、150を実行することで表示制御手段の一例として機能し、ステップ130を実行することで第1表示制御手段の一例として機能し、ステップ140を実行することで第1履歴画像構成手段の一例として機能し、ステップ150を実行することで第2表示制御手段の一例として機能し、ステップ160を実行することで第2履歴画像構成手段の一例として機能し、ステップ145を実行することでデータ量判定手段の一例として機能する。
(他の実施形態)
以上、本発明の実施形態について説明したが、本発明の範囲は、上記実施形態のみに限定されるものではなく、本発明の各発明特定事項の機能を実現し得る種々の形態を包含するものである。例えば、以下のような形態も許容される。
(1)ステップ145では、車両が所定距離以上後退移動したか否か(または所定時間以上後退移動したか否か)という判定に置き換えてもよい。これは、車両が十分な距離後退すれば、履歴B領域53に充分な量だけ鳥瞰変換のデータが含まれるはずだという考えに基づいた作動である。
(2)上記実施形態のステップ125では、自車両の影から否かは判断せず、リアルB領域51b中に影があれば、それが自車両以外の物体のする影であっても、リアルB領域51b内にあれば影があると判定する。
しかし、必ずしもこのようになっておらずともよく、リアルB領域51b内に影があり、その影が自車両の影である場合に限り、影があると判定し、それ以外の場合には影がないと判定するようになっていてもよい。
(3)また、上記実施形態では、影があるか否かを判定する範囲として、リアルB領域51b全部の内部の鳥瞰画像のみを対象としていたが、リアルA領域51aの全部およびリアルB領域51bの総和の領域内の鳥瞰画像のみを対象としてもよい。あるいは、リアルA領域51aの一部およびリアルB領域51bの一部の総和の領域内の鳥瞰画像のみを対象としてもよい。あるいは、車載カメラ1の撮影画像全体を対象としてもよい。
つまり、リアルB領域51bの一部を含む所定の領域に保存された鳥瞰画像において、影があるか否かを判定すればよい。なぜなら、そのようにしていれば、少なくともリアルB領域51bの当該一部に影がある場合は、ステップ150〜160を実行することで影が表示される量を低減できるからである。また仮に、判定対象のうち、リアルB領域51bに影がなく、他の部分に影があった場合もステップ150〜160を実行する場合があるが、その場合でも、表示される画像が最新でなくなるだけなので、大きな問題はない。
(4)上記各実施形態では、車載カメラ1は、車両の後方の所定範囲を繰り返し撮影するようになっていたが、車載カメラ1は、車両の前方の所定範囲を繰り返し撮影するようになっていてもよい。その場合、上記明細書では、車両の前後を入れ替えるように読み替える。
(5)また、上記実施形態では、ステップ140において、車両の動き量に基づいて、リアルA領域51a、リアルB領域51b、および履歴C領域52cを繋ぎ合わせた結合領域内で鳥瞰画像を移動させ、それと共に、履歴B領域53およびリアルA領域51aを繋ぎ合わせた結合領域内で鳥瞰画像を移動させるようになっている。
このようにすると、履歴C領域52内の各位置の鳥瞰画像は、その位置が車載カメラ1の撮影範囲から外れる直前(リアルB領域51bから外れる直前)の鳥瞰画像となっている。しかしながら、必ずしもこのようになっておらずともよい。
例えば、履歴C領域52内の各位置の鳥瞰画像は、その位置が車載カメラ1の撮影範囲から外れる直前よりも更に前の鳥瞰画像となっていてもよい。
つまり、ステップ140では、履歴C領域52は、履歴C領域52内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、車両の動き量に基づいて、リアルB領域51b内に保存された鳥瞰画像を用いて構成されていれば充分である。
(6)また、上記実施形態では、ステップ160において、車両の動き量に基づいて、リアルA領域51a、履歴B領域53、および履歴C領域52cを繋ぎ合わせた結合領域内で鳥瞰画像を移動させるようになっている。
このようにすると、履歴C領域52内の各位置の鳥瞰画像は、その位置が履歴B領域53から外れる直前の鳥瞰画像となっている。しかしながら、必ずしもこのようになっておらずともよい。
例えば、履歴C領域52内の各位置の鳥瞰画像は、その位置が履歴B領域53から外れる直前よりも更に前の鳥瞰画像となっていてもよい。
つまり、ステップ160では、履歴C領域52は、履歴C領域52内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、車両の前記動き量に基づいて、履歴B領域53内に保存された鳥瞰画像を用いて構成されていれば充分である。
(7)また、上記実施形態では、ステップ140において、車両の動き量に基づいて、リアルA領域51aおよび履歴B領域53を繋ぎ合わせた結合領域内で鳥瞰画像を移動させるようになっている。
またステップ160において、車両の動き量に基づいて、リアルA領域51a、履歴B領域53、および履歴C領域52cを繋ぎ合わせた結合領域内で鳥瞰画像を移動させるようになっている。
これらのようにすると、履歴B領域53内の各位置の鳥瞰画像は、その位置がリアルA領域51aから外れる直前の鳥瞰画像となっている。しかしながら、必ずしもこのようになっておらずともよい。例えば、履歴B領域53内の各位置の鳥瞰画像は、その位置がリアルA領域51aから外れる直前よりも更に前の鳥瞰画像となっていてもよい。
つまり、履歴B領域53内の鳥瞰画像は、履歴B領域53内の鳥瞰画像が車両の現在の周囲の配置を反映するよう、車両の動き量に基づいて、リアルA領域51a内に保存された鳥瞰画像を用いて構成されていれば充分である。
(8)また、上記実施形態では、履歴B領域53を設けることで、下記(a)、(b)2つの効果を得ることができる。(a)履歴B領域53を用いて表示するので、自車両の移動時に自車両の後方に影がつきまとう可能性が低減される。(b)履歴C領域52には履歴B領域53から画像を移動させるので、自車両の影が履歴C領域52において拡大してしまう可能性が低減される。
しかしながら、(a)の効果は必須ではない。すなわち、図3の処理において、ステップ150では、ステップ130と同様、リアルA領域51a、リアルB領域51b、および履歴C領域52内の鳥瞰画像の合成画像を出力用メモリに保存するようになっていてもよい。
1 車載カメラ
2 制御装置(車両周囲画像表示制御装置)
3 画像表示装置
51a リアルA領域
51b リアルB領域
52 履歴C領域
53 履歴B領域

Claims (6)

  1. 車両に搭載された車載カメラ(1)から前記車両の周囲の撮影画像を繰り返し取得する取得手段(110)と、
    前記取得手段(110)が繰り返し取得した撮影画像に鳥瞰変換を逐次施して鳥瞰画像を作成する鳥瞰変換手段(115)と、
    作成された最新の前記鳥瞰画像をメモリに保存する際、前記鳥瞰画像を前記車両の前後方向に分割したうちの、前記車両からより離れた方の所定の範囲の画像を、リアルA領域(51a)に保存し、前記車両により近い方の所定の範囲の画像を、リアルB領域(51b)に保存する分割保存手段(120)と、
    前記リアルB領域(51b)の一部または全部を含む所定の領域に保存された鳥瞰画像内に影があるか否かを判定する影判定手段(125)と、
    前記車両から入力された車両挙動情報に基づいて、前記車両の動き量を算出する動き算出手段(135、155)と、
    前記影判定手段(125)によって影がないと判定された場合、前記車載カメラ(1)の撮影範囲外の鳥瞰画像を保存するための履歴C領域(52)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルB領域(51b)内に保存された鳥瞰画像を用いて前記履歴C領域(52)内に鳥瞰画像を構成すると共に、前記リアルB領域(51b)と同じ範囲の鳥瞰画像を保存するための履歴B領域(53)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルA領域(51a)内に保存された鳥瞰画像を用いて前記履歴B領域(53)内に鳥瞰画像を構成する第1履歴画像構成手段(140)と、
    前記影判定手段(125)によって影があると判定された場合、前記車載カメラ(1)の撮影範囲外の鳥瞰画像を保存するための履歴C領域(52)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記履歴B領域(53)内に保存された鳥瞰画像を用いて前記履歴C領域(52)内に鳥瞰画像を構成すると共に、前記履歴B領域(53)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルA領域(51a)内に保存された鳥瞰画像を用いて前記履歴B領域(53)内に鳥瞰画像を構成する第2履歴画像構成手段(160)と、
    前記リアルA領域(51a)内の鳥瞰画像、前記履歴C領域(52)内の鳥瞰画像、および、前記リアルB領域(51b)内または前記履歴B領域(53)内の鳥瞰画像を、画像表示装置(3)に表示させる表示制御手段(130、150)と、を備えた車両周囲画像表示制御装置。
  2. 前記表示制御手段は、
    前記影判定手段(125)によって影がないと判定されたことに基づいて、前記リアルA領域(51a)内の鳥瞰画像、前記リアルB領域(51b)内の鳥瞰画像、および前記履歴C領域(52)内の鳥瞰画像を、前記画像表示装置(3)に表示させる第1表示制御手段(130)と、
    前記影判定手段(125)によって影があると判定されたことに基づいて、前記リアルA領域(51a)内の鳥瞰画像、前記履歴B領域(53)内の鳥瞰画像、および前記履歴C領域(52)内の鳥瞰画像を、前記画像表示装置(3)に表示させる第2表示制御手段(150)と、を有することを特徴とする請求項1に記載の車両周囲画像表示制御装置。
  3. 前記履歴B領域(53)中に鳥瞰画像のデータが所定量以上あるか否か判定するデータ量判定手段(145)を備え、
    前記第1履歴画像構成手段(140)は、前記影判定手段(125)によって影がないと判定された場合、および、前記影判定手段(125)によって影があると判定され且つ前記データ量判定手段(145)によって所定量以上ないと判定された場合のそれぞれにおいて、前記履歴C領域(52)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルB領域(51b)内に保存された鳥瞰画像を用いて前記履歴C領域(52)内に鳥瞰画像を構成すると共に、前記履歴B領域(53)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルA領域(51a)内に保存された鳥瞰画像を用いて前記履歴B領域(53)内に鳥瞰画像を構成し、
    前記第2履歴画像構成手段(160)は、前記影判定手段(125)によって影があると判定され且つ前記データ量判定手段(145)によって所定量以上あると判定された場合、前記履歴C領域(52)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記履歴B領域(53)内に保存された鳥瞰画像を用いて前記履歴C領域(52)内に鳥瞰画像を構成すると共に、前記履歴B領域(53)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルA領域(51a)内に保存された鳥瞰画像を用いて前記履歴B領域(53)内に鳥瞰画像を構成することを特徴とする請求項1または2に記載の車両周囲画像表示制御装置。
  4. 第1履歴画像構成手段(140)は、前記影判定手段(125)によって影がないと判定されたことに基づいて、前記車両の前記動き量に基づいて、前記リアルA領域(51a)、前記リアルB領域(51b)、および前記履歴C領域(52c)を繋ぎ合わせた結合領域内で鳥瞰画像を移動させ、それと共に、前記リアルB領域(51b)と同じ範囲の鳥瞰画像を保存するための履歴B領域(53)および前記リアルA領域(51a)を繋ぎ合わせた結合領域内で鳥瞰画像を移動させ、
    第1履歴画像構成手段(160)は、前記影判定手段(125)によって影があると判定されたことに基づいて、前記車両の前記動き量に基づいて、前記リアルA領域(51a)、前記履歴B領域(53)、および前記履歴C領域(52c)を繋ぎ合わせた結合領域内で鳥瞰画像を移動させる第2移動手段(160)と、を備えた請求項1ないし3のいずれか1つに車両周囲画像表示制御装置。
  5. 車両に搭載された車載カメラ(1)から前記車両の周囲の撮影画像を繰り返し取得する取得手段(110)と、
    前記取得手段(110)が繰り返し取得した撮影画像に鳥瞰変換を逐次施して鳥瞰画像を作成する鳥瞰変換手段(115)と、
    作成された最新の前記鳥瞰画像をメモリに保存する際、前記鳥瞰画像を前記車両の前後方向に分割したうちの、前記車両からより離れた方の所定の範囲の画像を、リアルA領域(51a)に保存し、前記車両により近い方の所定の範囲の画像を、リアルB領域(51b)に保存する分割保存手段(120)と、
    前記リアルB領域(51b)の一部または全部を含む所定の領域に保存された鳥瞰画像内に影があるか否かを判定する影判定手段(125)と、
    前記車両から入力された車両挙動情報に基づいて、前記車両の動き量を算出する動き算出手段(135、155)と、
    前記影判定手段(125)によって影がないと判定された場合、前記車載カメラ(1)の撮影範囲外の鳥瞰画像を保存するための履歴C領域(52)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルB領域(51b)内に保存された鳥瞰画像を用いて前記履歴C領域(52)内に鳥瞰画像を構成すると共に、前記リアルB領域(51b)と同じ範囲の鳥瞰画像を保存するための履歴B領域(53)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルA領域(51a)内に保存された鳥瞰画像を用いて前記履歴B領域(53)内に鳥瞰画像を構成する第1履歴画像構成手段(140)と、
    前記影判定手段(125)によって影があると判定された場合、前記車載カメラ(1)の撮影範囲外の鳥瞰画像を保存するための履歴C領域(52)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記履歴B領域(53)内に保存された鳥瞰画像を用いて前記履歴C領域(52)内に鳥瞰画像を構成すると共に、前記履歴B領域(53)内の鳥瞰画像が前記車両の現在の周囲の配置を反映するよう、前記車両の前記動き量に基づいて、前記リアルA領域(51a)内に保存された鳥瞰画像を用いて前記履歴B領域(53)内に鳥瞰画像を構成する第2履歴画像構成手段(160)と、
    前記リアルA領域(51a)内の鳥瞰画像、前記履歴C領域(52)内の鳥瞰画像、および、前記リアルB領域(51b)内または前記履歴B領域(53)内の鳥瞰画像を、画像表示装置(3)に表示させる表示制御手段(130、150)と、として、前記車両に搭載される制御装置(2)を機能させるプログラム。
  6. 車両に搭載された車載カメラ(1)から前記車両の周囲の撮影画像を繰り返し取得する取得装置(110)と、
    撮影画像に鳥瞰変換を逐次施して、鳥瞰画像を作成する鳥瞰変換装置(115)と、
    前記車両から入力された車両挙動情報に基づいて、前記車両の動き量を算出する動き算出装置(135、155)と、
    前記車両の周囲の所定のB範囲のB鳥瞰画像を記憶するリアルB領域と、前記B範囲よりも前記車両からより離れた所定のA範囲のA鳥瞰画像を記憶するリアルA領域と、前記リアルA領域が記憶していた前記A鳥瞰画像を前記動き算出装置が算出した前記車両の動き量に基づいて前記車両との相対位置を移動させて履歴B鳥瞰画像として記憶する履歴B領域と、前記履歴B領域が記憶していた前記履歴B鳥瞰画像または前記リアルB領域が記憶していた前記B鳥瞰画像を、前記動き算出装置が算出した前記車両の動き量に基づいて前記車両との相対位置を移動させてC鳥瞰画像として記憶する履歴C領域と、を有するメモリと、
    前記鳥瞰画像を前記車両の前後方向に分割することで、前記A鳥瞰画像と前記B鳥瞰画像を作成し、前記A鳥瞰画像を前記リアルA領域(51a)に保存し、前記B鳥瞰画像を前記リアルB領域(51b)に保存する分割保存装置(120)と、
    前記リアルB領域(51b)の一部または全部に保存されたB鳥瞰画像に影があるか否かを判定する影判定装置(125)と、
    前記影判定装置(125)が、B鳥瞰画像に影がないと判定した場合、前記リアルB領域(51b)に保存されていたB鳥瞰画像を用いて前記履歴C領域(52)内に前記C鳥瞰画像を構成する第1履歴画像構成装置(140)と、
    前記影判定装置(125)が、B鳥瞰画像に影があると判定した場合、前記履歴B領域(53)内に保存されていた履歴B鳥瞰画像を用いて前記履歴C領域(52)内に前記C鳥瞰画像を構成する第2履歴画像構成装置(160)と、
    前記リアルA領域(51a)内の前記A鳥瞰画像、前記履歴C領域(52)内の前記C鳥瞰画像、および、前記リアルB領域(51b)内の前記B鳥瞰画像または前記履歴B領域(53)内の前記履歴B鳥瞰画像を、画像表示装置(3)に表示させる表示制御装置(130、150)と、を備えた車両周囲画像表示制御装置。
JP2012117762A 2012-05-23 2012-05-23 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム Active JP6003226B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012117762A JP6003226B2 (ja) 2012-05-23 2012-05-23 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
EP13793824.7A EP2854098B1 (en) 2012-05-23 2013-03-08 Vehicle surroundings image display control device, vehicle surroundings image display control method, non-transitory tangible computer-read medium comprising command containing said method, and image processing method effecting top-view conversion and display of image of vehicle surroundings
US14/395,514 US20150070394A1 (en) 2012-05-23 2013-03-08 Vehicle surrounding image display control device, vehicle surrounding image display control method, non-transitory tangible computer-readable medium comprising command including the method, and image processing method executing top view conversion and display of image of vehicle surroundings
CN201380026870.XA CN104335241B (zh) 2012-05-23 2013-03-08 车辆周围图像显示控制装置、显示方法及图像处理方法
PCT/JP2013/001489 WO2013175684A1 (ja) 2012-05-23 2013-03-08 車両周囲画像表示制御装置、車両周囲画像表示制御方法、当該方法を含む命令からなる持続的有形コンピュータ読み取り媒体、車両の周囲の画像をトップビュー変換して表示させる画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012117762A JP6003226B2 (ja) 2012-05-23 2012-05-23 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム

Publications (3)

Publication Number Publication Date
JP2013246493A JP2013246493A (ja) 2013-12-09
JP2013246493A5 JP2013246493A5 (ja) 2014-09-18
JP6003226B2 true JP6003226B2 (ja) 2016-10-05

Family

ID=49623400

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012117762A Active JP6003226B2 (ja) 2012-05-23 2012-05-23 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム

Country Status (5)

Country Link
US (1) US20150070394A1 (ja)
EP (1) EP2854098B1 (ja)
JP (1) JP6003226B2 (ja)
CN (1) CN104335241B (ja)
WO (1) WO2013175684A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190114283A (ko) * 2018-03-29 2019-10-10 주식회사평화발레오 펄크럼 링 센터링 기능을 구비한 클러치 어셈블리

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5994437B2 (ja) * 2012-07-04 2016-09-21 株式会社デンソー 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
JP6327115B2 (ja) * 2014-11-04 2018-05-23 株式会社デンソー 車両周辺画像表示装置、車両周辺画像表示方法
KR102426631B1 (ko) * 2015-03-16 2022-07-28 현대두산인프라코어 주식회사 건설 기계의 사각 영역 표시 방법 및 이를 수행하기 위한 장치
JP6464846B2 (ja) 2015-03-17 2019-02-06 株式会社デンソー 車両周囲画像表示制御装置、および車両周囲画像表示制御プログラム
JP6464952B2 (ja) 2015-08-04 2019-02-06 株式会社デンソー 表示制御装置、表示制御プログラム及び表示制御方法
JP6910629B2 (ja) * 2015-08-12 2021-07-28 有限会社ヴェルク・ジャパン 歴史画像と現在画像の合成及び音声ガイドの表現方法。
JP6519409B2 (ja) * 2015-08-27 2019-05-29 株式会社デンソー 車両周辺画像表示制御装置及び車両周辺画像表示制御プログラム
JP6493143B2 (ja) * 2015-10-15 2019-04-03 株式会社デンソー 表示制御装置及び表示制御プログラム
JP6477444B2 (ja) 2015-11-25 2019-03-06 株式会社デンソー 表示制御装置及び表示制御プログラム
JP2017117315A (ja) * 2015-12-25 2017-06-29 株式会社デンソー 表示制御装置
JP6565693B2 (ja) * 2016-01-12 2019-08-28 株式会社デンソー 車載カメラのレンズ異常検出装置
CN105774657B (zh) * 2016-04-14 2020-03-17 广州市晶华精密光学股份有限公司 一种单摄像头全景倒车影像***
CN105763854B (zh) * 2016-04-18 2019-01-08 扬州航盛科技有限公司 一种基于单目摄像头的全景成像***及其成像方法
JP6572862B2 (ja) * 2016-10-14 2019-09-11 株式会社デンソー 表示制御装置
US10325163B2 (en) * 2016-11-22 2019-06-18 Ford Global Technologies, Llc Vehicle vision
JP6720931B2 (ja) * 2017-07-14 2020-07-08 株式会社デンソー 車両周囲認識装置
US10579067B2 (en) * 2017-07-20 2020-03-03 Huawei Technologies Co., Ltd. Method and system for vehicle localization
GB2573792B (en) * 2018-05-17 2022-11-09 Denso Corp Surround monitoring system for vehicles
DE102021212154A1 (de) 2021-10-27 2023-04-27 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zum Generieren einer Darstellung eines verdeckten Bereiches einer Umgebung einer mobilen Plattform
WO2023202844A1 (de) 2022-04-19 2023-10-26 Continental Autonomous Mobility Germany GmbH Verfahren für ein kamerasystem sowie kamerasystem
DE102022206328B3 (de) 2022-04-19 2023-02-09 Continental Autonomous Mobility Germany GmbH Verfahren für ein Kamerasystem sowie Kamerasystem

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6515597B1 (en) * 2000-01-31 2003-02-04 Matsushita Electric Industrial Co. Ltd. Vicinity display for car
JP3300337B2 (ja) * 2000-04-28 2002-07-08 松下電器産業株式会社 画像処理装置および監視システム
EP1150252B1 (en) * 2000-04-28 2018-08-15 Panasonic Intellectual Property Management Co., Ltd. Synthesis of image from a plurality of camera views
JP4156214B2 (ja) 2001-06-13 2008-09-24 株式会社デンソー 車両周辺画像処理装置及び記録媒体
JP4321543B2 (ja) * 2006-04-12 2009-08-26 トヨタ自動車株式会社 車両周辺監視装置
JP2007300559A (ja) * 2006-05-02 2007-11-15 Alpine Electronics Inc 車両周辺画像提供装置及び車両周辺画像における影補正方法
JP4309920B2 (ja) * 2007-01-29 2009-08-05 株式会社東芝 車載用ナビゲーション装置、路面標示識別プログラム及び路面標示識別方法
JP4770755B2 (ja) * 2007-02-26 2011-09-14 株式会社デンソー 道路標示認識装置
JP2008219063A (ja) * 2007-02-28 2008-09-18 Sanyo Electric Co Ltd 車両周辺監視装置及び方法
JP5206687B2 (ja) * 2007-10-30 2013-06-12 日本電気株式会社 路面標示画像処理装置,路面標示画像処理方法及びプログラム
JP5222597B2 (ja) * 2008-03-19 2013-06-26 三洋電機株式会社 画像処理装置及び方法、運転支援システム、車両
JP2010237976A (ja) 2009-03-31 2010-10-21 Kyushu Institute Of Technology 光源情報取得装置、陰影検出装置、陰影除去装置、それらの方法、及びプログラム
JP5872764B2 (ja) * 2010-12-06 2016-03-01 富士通テン株式会社 画像表示システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190114283A (ko) * 2018-03-29 2019-10-10 주식회사평화발레오 펄크럼 링 센터링 기능을 구비한 클러치 어셈블리

Also Published As

Publication number Publication date
EP2854098A4 (en) 2016-03-09
CN104335241A (zh) 2015-02-04
JP2013246493A (ja) 2013-12-09
WO2013175684A1 (ja) 2013-11-28
EP2854098B1 (en) 2018-09-19
EP2854098A1 (en) 2015-04-01
US20150070394A1 (en) 2015-03-12
CN104335241B (zh) 2017-04-12

Similar Documents

Publication Publication Date Title
JP6003226B2 (ja) 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
JP5994437B2 (ja) 車両周囲画像表示制御装置および車両周囲画像表示制御プログラム
US9633266B2 (en) Image processing apparatus and method that synthesizes an all-round image of a vehicle's surroundings
JP5299296B2 (ja) 車両周辺画像表示装置及び車両周辺画像表示方法
JP2007274377A (ja) 周辺監視装置、プログラム
JP2013246493A5 (ja)
JP7000383B2 (ja) 画像処理装置および画像処理方法
CN109572686A (zh) 泊车辅助装置
JP2013055410A (ja) 車両周辺画像表示制御装置
JP6477444B2 (ja) 表示制御装置及び表示制御プログラム
JP2015171106A (ja) 車両周辺画像表示装置、車両周辺画像表示方法
US10873725B2 (en) Display control device
CN108431866B (zh) 显示控制装置以及显示控制方法
JP4814752B2 (ja) 表示制御装置
JP6519409B2 (ja) 車両周辺画像表示制御装置及び車両周辺画像表示制御プログラム
KR102659382B1 (ko) 차량 주변환경을 표시하기 위한 방법 및 장치
JP7203205B2 (ja) 車両周辺画像生成装置、車両周辺表示システム、及び車両周辺表示方法
JP6464846B2 (ja) 車両周囲画像表示制御装置、および車両周囲画像表示制御プログラム
JP4846627B2 (ja) 表示制御装置
JP6700222B2 (ja) 画像作成装置
JP6464952B2 (ja) 表示制御装置、表示制御プログラム及び表示制御方法
JP6809495B2 (ja) 画像作成装置
CN108353147B (zh) 显示控制装置以及储存有显示控制程序的非暂时性计算机可读存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140801

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160822

R151 Written notification of patent or utility model registration

Ref document number: 6003226

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250