JP7384830B2 - 車両周辺部を表示するための方法及び装置 - Google Patents

車両周辺部を表示するための方法及び装置 Download PDF

Info

Publication number
JP7384830B2
JP7384830B2 JP2020562169A JP2020562169A JP7384830B2 JP 7384830 B2 JP7384830 B2 JP 7384830B2 JP 2020562169 A JP2020562169 A JP 2020562169A JP 2020562169 A JP2020562169 A JP 2020562169A JP 7384830 B2 JP7384830 B2 JP 7384830B2
Authority
JP
Japan
Prior art keywords
blind spot
vehicle
spot area
time point
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020562169A
Other languages
English (en)
Other versions
JP2021524959A (ja
JPWO2019223840A5 (ja
Inventor
フリーベ・マルクス
スリカント・スクマー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Continental Automotive GmbH
Original Assignee
Continental Automotive GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Continental Automotive GmbH filed Critical Continental Automotive GmbH
Publication of JP2021524959A publication Critical patent/JP2021524959A/ja
Publication of JPWO2019223840A5 publication Critical patent/JPWO2019223840A5/ja
Application granted granted Critical
Publication of JP7384830B2 publication Critical patent/JP7384830B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/22Display screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/21Optical features of instruments using cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、車両周辺部を目下の時点において、車両内に表示するための方法ならびに装置に関する。
車両は、車両内にいる車両に乗っている人のために車両周辺部をディスプレーなどの表示装置に表示する又はするドライバーアシストシステムを備えてもよい。この様なドライバーアシストシステムは、サラウンドビューシステムとも呼ばれ、通常、車両に取付けられ、様々な視野領域をもつ又は異なる角を可能にする台以上の車載カメラを有している。
複数の視野領域が、異なる車載カメラによって把握されているがすべての視野領域の外側にあり、したがってカメラ像内に含まれない死角としても知られる少なくとも一つの死角領域が残存する。この様な死角領域の例としては、観察している瞬間に車両が通過し、その結果、見えなくな地表面る。なぜなら通常は、様々な車載カメラ、例えば、車両前方、車両後方、及び車両側方に配置され、そこから遠くをみるため、地表面は、常に車両自体又はその車体によって覆われている。そのため、この領域は通常、表示されず、例えば、プレースホルダによって占有されている。このプレースホルダは、視覚的に見栄えが悪いだけでなく、車両乗者にとっても苛立たしい
よって本発明の課題は、車両内における車両周辺部の改善された表示を可能にする方法を提供する事である。
この課題は、独立請求項に記載されている対象によって解決される。有利な実施形態、並びに、発展形態は、従属請求項、明細書、並びに、図面によって示される。
本発明の第一の様態は、目下の、第二の時点において、車両内に車両周辺部を表示する方法に関する。「目下の」とは、車両周辺部の表示が、車両が動いている間、基本的にはリアルタイムでなされると理解することができる。車両は、例えば、オドメトリデータから決定できる車両速度もって、任意の方向に移動してもよくその際、リアルタイム表示は、適切なフレームレートで行われる。
本発明にる方法では、以下のステップを企図する。
-先ず、第一死角領域画像、例えば合成画像又はレンダリング画像は、複数の死角領域ピクセルで提供され、この画像は、第二時点よりも前の第一時点における車載カメラの視野領域に配置された車両周辺部の死角領域の画像合成、例えばレンダリングが含まれる。即ち、第一時点は、観察されている目下の第二時点よりも時間的に前にある。
次いで死角領域の各々の第一死角領域ピクセルが、第二時点について推定された、例えば、予測された新ポジションに配置、例えば、が行われる。即ち、死角領域画像は、推定、予測、変換、補間等に基づいて、死角領域画像に含まれている旧ポジションから新ポジションに配置された複数の死角領域ピクセルを有している。エイリアシング効果を軽減するために、それぞれ単一の死角領域ピクセルの代わりに、死角領域ピクセルの組み合わせを使用することもできる。
-続いて、各々の第一死角領域ピクセルの新ポジションが、第二時点において、死角領域内にあるか否かを決定する。このように考慮され新たに配置された死角領域ピクセルは、車両の移動に起因して死角領域に位置してもよい
-これに続いて、新ポジションが、死角領域内にあると決定された場合には、各々の第一死角領域ピクセルが、車両のモーションデータに基づいて動き補正しつつ合成されることにより、第二時点の各々の第死角領域ピクセル(例えばレンダリングされたピクセル)生成(例えば合成レンダリングなど行われる。車両は、走行中に死角領域画像から死角領域画像に移動する可能性があるため死角領域ピクセルも、その位置を変化させることができ車両のモーションデータが、第二死角領域ピクセルを生成するために考慮される。車両が動いていない場合、第二死角領域ピクセルは、第一のものに相当する。モーションデータは、例えば、車両システムのオドメトリ又は複数のカメラ画像からの移動推定から取得することができる。
この構成によれば、提案された方法は、複数の利点を提供する。このようにして車両周辺部の死角領域の一時的な再構成が、表示されるべき車両周辺を参照することなく死角領域を持続的に覆うプレースホルダなしで行われる。更に、基本的には再帰的な方法であるため、一枚の第一死角領域画像のみを保持して提供する必要があるため、例えば、メモリユニット及び/はデータ処理ユニットの有効なメモリリソースを節約することが可能である。これにより、この方法によって作動するドライバーアシストシステムを提供するコストを削減することができる。
ある有利な発展形態では、各々の第一死角領域ピクセルの特定の新ポジションが、死角領域画像外にあると決定された場合、第二時点の各々の第二死角領域ピクセルが、第一時点で撮影された少なくとも一つの提供されたカメラ画像を用いて各々の第一死角領域ピクセルを、合ることによって、生成することができることを企図する。この場合、既に合成された画像(例えば、レンダリングされた画像)は、もはや更なる画像合成例えば、レンダリングのためのベースとして使用するのではなく、車両周辺部から撮影されたカメラ画像を使用する。これによっても、一枚のカメラ画像のみを保存し、提供すれば良いだけであるため、有意にメモリリソースを節約できる。車両が、例えば、車両前方への視線方向、車両後方への視線方向、及び、各々の車両側方横方向への視線方向に向けられた複数のカメラを有している場合、一台の車載カメラ毎に、それぞれのカメラ画像を提供することができる。
更なる実施形態では、モーションデータから得られる、各々の第一死角領域ピクセルの移動ベクトルを用い、それぞれ異なる視野領域を有する複数の異なる配置及び/又は整列された車載カメラのうち、どの一台の車載カメラから、ピクセル合成に用いられるカメラ画像が提供されるのかを、決定することができる。これにより、例えば、車両の動きにって車両前方に向けられている視野領域内に移動する第一死角領域ピクセルは、この車載カメラの一つのカメラ画像によって、生成又は合成、例えばレンダリングることができる。
車両の移動方向、即ち、直進、後進、及び/は、カーブ走行などに応じて、移動ベクトルは、対応する車載カメラのそれぞれの視野領域内に配置してもよいこの場合、その視野領域内に移動ベクトルが配置されている正にそのカメラの対応するカメラ画像、提供るために、選択ることができる。
モリリソースを大幅に節約するために、既存の車載カメラ毎に正に一枚のカメラ画像、又は、一つのフレーム提供できるように保たれていることが有利である。
これに関しては、第一時点に対して正に一枚の死角領域画像のみが提供できるように保たれていることも有利である。
例えば、車両のディスプレー上に表示されるべき車両周辺部の表示画像を再生できる様にするためには、第二時点のそれぞれの第二死角領域ピクセルから生成された又は合成された、例えば、レンダリングされた第死角領域画像を、第二時点の少なくとも一枚の、目下のカメラ画像と組み合わせることできる。この場合、視野領域は、リアルタイムカメラ画像によってされ、死角領域は、目下の第二時点の第二死角領域画像によってされる。
特に、この方法によっ動作する装置、及び/は、ドライバーアシストシステムの初期起動時には、死角領域の第一死角領域画像が未だ無い様な状況が起こり得る。次に死角領域を隠すために、車両内部において表示されるべき表示画像を、それぞれの車載カメラ、例えばフロントカメラの視野領域にずらすことができる。
この方法は、死角領域が、車両が走行する地表面又は、車によって覆われた地表面である場合に、特に有利に使用することができる。プレースホルダの代わりに、合成された、例えば、レンダリングされた表示画像を表示することができる。
上述した方法は、例えば、車両の制御装置等の制御手段に実装することができる。制御手段は、記憶装置とデータ処理装置を有していることができる。
本発明の更なる様態は、目下の、第二の時点において、車両内に車両周辺部を表示するための装置に関する。装置は、以下を装備している
-車両周辺部の対応する視野領域を把握するための少なくとも一つの車載カメラ。
-第二時点よりも前の第一時点における視野領域に配置されている車両周辺部の死角領域の画像合成を含む、に一枚の死角領域画像が維持されている記憶装置
-以下を実施するため、即ち、
i)死角領域の各々の第一死角領域ピクセルを、第二時点に対してされた新ポジションに配置すること、ii)第二時点における各々の死角領域ピクセルの新ポジションが、引き続き死角領域内にあるか否かを決定することかつ、iii)新ポジションが死角領域内にあると決定された場合は、各々の第一死角領域ピクセルが、車両のモーションデータに基づいて動き補正されることにより、第二時点の各々の第二死角領域ピクセルを生成すること、
を実施するために適合されたデータ処理装置
置は、上述の方法に応じて発展させることが可能であり、特に、原理的に、再帰的な方法によって有意にメモリリソースを節約できると言う利点を有している。
本発明は、特に、車両内部に配置された表示装置、例えば、ディスプレーを備えた車両用のドライバーアシストシステムに適している。
以下、本発明の有利な実施形態を、添付されている図を用いて詳細に説明する。
本発明の更なる一様態による車両周辺部を表示するための装置を備えた、一様態によるドライバーアシストシステムを備えた車両を示している。 以前に合成された死角領域画像ベースとして使用し、死角領域画像生成する図解を示している。 前に撮影されたカメラ画像ベースとして使用し、死角領域画像生成する図解を示している。 前に撮影されたカメラ画像ベースとして使用し、死角領域画像生成する図解を示している。 本発明の更なる一様態による方法に対するフローチャートを示している。
図面は、単なる概略図であり、本発明を説明するためだけに使用する。同じ、又は、同じ効果するエレメントには、一貫して、同じ参照番号が与えられている。
図1は、地表面上にある車両1を示していてこの車両は、基本的に、x方向及びy方向に移動でき、ドライバーアシストシステム又はサラウンドビューシステムでの形態の装置100を備える。これにより、車両の乗員は車両内で目下の車両周辺部のサラウンドビューを、表示又は視覚的表現としてることが可能になる。
のため、装置100は、車両1の内部に配置され、表示画像Iを視覚的に表示するディスプレーの形態での表示装置110を備える。更に装置100は、表装置110と共に作用する少なくとも一つの(詳しくは説明しない)プロセッサを備えデータ処理装置120、及び同様に共に作用する記憶装置130を備える。加えて、装置100は、複数の車載カメラ140F,140R,140LL,140LRを備え、この車載カメラ140F,140R,140LL,140LRは、車両1の異なる位置に装備され、かつ異なる視角又は視野領域141F,141R,141LL,141LRを有するしたがって、車載カメラ140Fは車両前方に、車載カメラ140Rは車両後方に、車載カメラ140LLは横方向左に、車載カメラ140LRは横方向右に配置されている。視野領域141F,141R,141LL,141LR、各々のカメラ画像I_F,I_R,I_LL,I_LRを把握できかつ直接的に表示装置110に再生され、場合によって記憶装置130に(一時的に)保存される。表示するために、カメラ画像I_F,I_R,I_LL,I_LRは、データ処理装置120によって、表示画像Iに合成される又は組み合わされる(図2A~2C参照)。
図1から、地表面では、その地表面上に位置する車両1又はその車両1の車体により、いずれの視野領域141F,141R,141LL,141LR内にもない死角領域Bが存在ししたがって、車体がそれぞれの視野を遮るためいずれの車載カメラ140F,140R,140LL,140LRによっても把握できないことがわかる。その結果、表装置110における表示画像Iの死角領域画像I_Bとして、死角領域Bについて直接的なカメラ画像をすることはできない。
それにもかかわらず、表装置110において死角領域画像I_Bの形態で、基本的に写実的な表示で死角領域Bを表示するために、装置100は、図2A~2Cとを参照して以下に記述されている方法によって作動ることができる。
原則的には、表示装置110車両周辺部表示することは、目下の時点tにおいて、基本的にリアルタイム実施するべきであるため、表示画像Iは、目下の時点tの車両周辺を含むべきである。これ、以下の説明及び図2A~2Cにおいて同じ参照番号での時間変数[t]によって示される。それに応じて目下第二時点tよりも前の第一点t-1は、図2A~2Cでは、[t-1]示されている。
置100の初期起動時には、任意のステップS0において、表示装置110の表示画像I内の死角領域Bは、車両周辺部の表示画像Iを車載カメラ140F,140R,140LL,140LRの視野領域141F,141R,141LL,141LR内の一つに死角領域Bがこのように空白になる程度にずらされることにより、空白にされる。視野領域141F,141R,141LL,141Lの選択は、例えば、車両の走行方向x,yに応じて、車両速度v_x,v_y、舵角、トランスミッションのギヤ選択などの車両のデータに応じて行うことができる。具象的に表現すると、表示画像Iは、時点tにおける実際の車両周辺部よりも、例えば、一台の車体の長さ分先行し、死角領域Bが空白となる。これにより、死角領域Bの代わりに、それぞれのカメラ画像IF[t-1],IR[t-1],ILL[t-1],ILR[t-1]の一部分含む初期死角領域画像I_B[t-1]を記憶、利用可能な状態に保つことができる
ステップS1では、時点t-1の死角領域画像I_B[t-1]が目下の時点tで記憶装置130から提供されこれは、装置100の初期起動直後の一回目にのみ上述の死角の内容を含み動作中は、以下の説明の如く連続的に更新される。車両1が、例えば、x方向に15m/sで移動する場合、死角領域画像I_Bの画像内容は、対応する画像繰り返しレートに応じて更新され、各々の目下の時点tに対して提供された時は、それに先行する時点t-1の画像内容を含む
ステップS2では、データ処理装置120によって、死角領域画像I_B[t-1]の各々の第一死角領域ピクセルIB_SP[t-1]目下の時点tに対して推定された又は予測された新ポジションに、例えば、特に、車両1のモーションデータv_x,v_yを考慮した、又は変換に似通った方法によって配置される。これらは、例えば、車両システム、例えば、車両バスによって提供される、は、カメラ画像I_F,I_R,I_LL,I_LRから決定される。新ポジションの推定又は予測は、例えば、適した画像処理方法によって行ってもよい。車両1が、例えば、v_x=15m/sで、x方向にさらに移動した場合、対応する移動ベクトルSP_Vが、各々の死角領域ピクセルIB_SP[t-1]に対して決定され、これが、第二死角領域ピクセルIB_SP[t]として、図2Aに示唆されている如く、それぞれの新ポジションに配置される。
続いてステップS3において、データ処理装置120、各々の死角領域ピクセルIB_SPの新ポジションが、目下の時点tにおいて死角領域B内にあり続けるか否かを決定する。図2Aに示されている実施例では、移動ベクトルSP_Vによってシフトされる又は変換されたそれぞれの死角領域ピクセルIB_SPは、引き続き死角領域B内にある。
この場合
々の第一死角領域ピクセルIB_SP[t-1]が、ステップS5Aにおいて、車両1のモーションデータに基づいて、動き補正され、即ち、特に移動ベクトルSP_Vによってシフトされることによって
ステップS4において、各々の第二死角領域ピクセルIB_SP[t]が、目下の時点tに対してデータ処理装置120において生成され、例えばレンダリングされる。二つの例示的な死角領域ピクセルIB_SPについて図2Aに示すように、これは、好ましくは、各々の第一死角領域ピクセルIB_SP[t-1]が、の新ポジションに配置され、そこから、第二死角領域画像I_B[t]生成され、例えばレンダリングされ死角領域Bの代わりに表示画像I[t]に表示されるまで繰り返される。続いて、第二死角領域画像I_B[t]は、記憶装置130に記憶され、ステップS1から始まる方法の次の実行において、内容的に更新された更なる第二時点t+nに対する第一死角領域画像I_B[t-1]として提供される。
これは、以下の如く一般化できる
I_B[x,y,t]=I_B[x+v_x,y+v_y,t-1],
尚式中、I_Bは死角領域画像、v_xとv_yは、x方向とy方向へのモーションデータ、t-1は第一時点、tは、目下の、第二時点である。
図2Bでは、ステップS3において決定する別の可能な場合が示されていてこのステップS3では、各々の第一死角領域ピクセルIB_SP[t-1]の新ポジションが、目下の時点tにおいて、死角領域B内になく死角領域B外にある。よって、図2Bに示されている実施例では、移動ベクトルSP_Vによってシフトされた又は変換されたそれぞれの死角領域ピクセルIB_SPは、x方向への車両の移動によって、車載カメラ140Fの視野領域141Fに入っている。
この場合、各々の第一死角領域ピクセルIB_SP[t]が、ステップS5Bにおいて、第一時点t-1撮影され、提供されたカメラ画像I_F[t-1]に基づいて、合成され、例えばレンダリングされることによって、目下の時点tに対する各々の第二死角領域ピクセルIB_SP[t]をステップS4において生成され、例えばレンダリングされる。
図2Cは、右カーブ走のステップS3において決定する場合を示していてこの右カーブ走行は、モーションデータv_x,v_yによるx方向及びy方向での移動を含む。図2Cに示されている如く、移動ベクトルSP_Vによってシフトされた又は変換された各々の死角領域ピクセルIB_SPは、方向への車両の移動によって、車載カメラ140LRの視野領域141LRに入っている。
この場合、ステップS4では、各々の第一死角領域ピクセルIB[t-1]が、ステップS5Bにおいて、第一時点t-1撮影され、提供されたカメラ画像I_LR[t-1]に基づいて、それぞれの第一死角領域ピクセルIB[t-1]を合成、例えばレンダリングすることによって、目下の時点tに対して各々の第二死角領域ピクセルIB_SP[t]生成される、例えばレンダリングされ。二つの例示的な死角領域ピクセルIB_SPについて図2Bに示すように、これは、好ましくは、各々の第一死角領域ピクセルIB_SP[t-1]が、の新ポジションに配置され、そこから、第二死角領域画像I_B[t]生成され、例えばレンダリングされ死角領域Bの代わりに表示画像I[t]に表示されるまで繰り返される。続いて、第二死角領域画像I_B[t]は、記憶装置130に記憶され、ステップS1から始まる方法の次の実行において、内容的に更新された更なる第二時点t+nに対する第一死角領域画像I_B[t-1]として提供される。
図2Bと2Cによれば、ステップS5Bでは、表示される死角領域ピクセルIB_SP[t]の生成が、ここでは、画像合成、例えば、時点t-1に撮影されたカメラ画像I_F[t-1]又はI_LR[t-1]のレンダリングによって実施される。この原理は、言うまでもなく、他のカメラ画像I_RやI_LL同様に実施できる。
これは、以下の如く一般化できる:
I_B[x,y,t]=I_F,I_R,I_LL,I_LR[x+v_x,y+v_y,t-1],
尚式中、I_Bは、死角領域画像、I_F-I_LRは、車載カメラ140F-140LRのカメラ画像、v_xとv_yは、x方向とy方向へのモーションデータ、t-1は第一時点、tは、目下の第二時点である。
さらに、オプションであるステップS6では、第二死角領域画像I_B[t]と第二時点tにおける目下のカメラ画像I_F[t],I_R[t],I_LL[t],I_LR[t]から、表示装置110用の表示画像Iが、組み合わされる。
図3は、オプションであるステップS0、ステップS1~S5、並びにオプションであるステップS6を含む上述の方法が、再度、フローチャートとしてまとめられている。
なお、本願は、特許請求の範囲に記載の発明に関するものであるが、他の観点として以下を含む。
1.
目下の、第二時点(t)において、車両(1)内に車両周辺部を表示する方法であって、
この方法は、以下のステップ、即ち、
-第二時点(t)よりも前の第一時点(t-1)において、車載カメラ(140F,140R,140LL,140LR)の視野領域(141F,141R,141LL,141LR)の外側に配置されている車両周辺部の死角領域(B)の画像合成を含む第一死角領域画像(I_B[t])を提供するステップ(S1)、
-死角領域(B)の各々の第一死角領域ピクセル(IB_SP[t-1])を、第二時点(t)について推測された新ポジションに配置するステップ(S2)、
-各々の第一死角領域ピクセル(IB_SP[t-1])の新ポジションが、第二時点(t)において、死角領域(B)内にあるか否かを決定するステップ(S3)、及び、
新ポジションが、死角領域(B)内にあると決定された場合には、各々の第一死角領域ピクセル(IB_SP[t-1])が、車両(1)のモーションデータ(v_x,v_y)に基づいて合成(S5A)されることにより、第二時点(t)の各々の第二死角領域ピクセル(IB_SP[t])を生成するステップ(S4)、
を備えることを特徴とする方法。
2.
新ポジションが、死角領域(B)外にあると決定された場合は、各々の第一死角領域ピクセル(IB_SP[t-1])が、少なくとも一つの第一時点(t-1)に撮影され、提供されたカメラ画像(I_F[t-1],I_R[t-1],I_LL[t-1],I_LR[t-1])を用いて合成(S5B)されることによって、第二時点(t)の各々の第二死角領域ピクセル(IB_SP[t])が、生成される(S4)ことを特徴とする上記1に記載の方法。
3.
モーションデータ(v_x,v_y)から得られた、各々の第一死角領域ピクセル(IB_SP[t-1])のモーションベクトル(SP_V)に基づいて、各々の異なる視野領域(141F,141R,141LL,141LR)を有する複数の車載カメラ(140F,140R,140LL,140LR)のうちのいずれの車載カメラからカメラ画像(I_F[t-1],I_R[t-1],I_LL[t-1],I_LR[t-1])が提供されるのかが決定されることを特徴とする上記2に記載の方法。
4.
提供されるに当たって、その視野領域(141F,141R,141LL,141LR)に、移動ベクトル(SP_V)が配置されている各々のカメラ(140F,140R,140LL,140LR)のカメラ画像(I_F[t-1],I_R[t-1],I_LR[t-1],I_RR[t-1])が選択されることを特徴とする請求項3に記載の方法。
5.
車載カメラ(140F,140R,140LL,140LR)毎に、正に一枚のカメラ画像(I_F[t-1],I_R[t-1],I_LR[t-1],I_RR[t-1])のみを提供するために維持することを特徴とする上記3又は4に記載の方法。
6.
第一時点(t-1)の正に一枚の死角領域画像(IB_SP[t-1])のみを提供するために維持することを特徴とする上記1~5のうち何れか一つに記載の方法。
7.
各々の第二死角領域ピクセル(IB_SP[t])から第二時点(t)用に生成された第二死角領域画像(IB_SP[t])と第二時点(t)の少なくとも一枚の目下のカメラ画像(I_F[t],I_R[t],I_LL[t],I_LR[t])が、車両(1)内における表示のために組み合わされることを特徴とする上記1~6のうち何れか一つに記載の方法。
8.
初期起動時に、車両周辺部の表示画像(I)は、死角領域(B)が、隠される程度に視野領域(141F,141R,141LL,141LR)内にずらされることを特徴とする上記1~7のうち何れか一つに記載の方法。
9.
死角領域(B)が、車両(1)で走行した地表面に配置されていることを特徴とする上記1~8のうち何れか一つに記載の方法。
10.
目下の、第二時点(t)において、車両(1)内に車両周辺部を表示するための装置(100)であって、
この装置(100)は、
-車両周辺部の対応する視野領域(141F,141R,141LL,141LR)を把握するための、少なくとも一台の車載カメラ(140F,140R,140LL,140LR)、
-第二時点(t)よりも前の第一時点(t-1)における、視野領域(141F,141R,141LL,141LR)の外側に配置されている車両周辺部の死角領域(B)の画像合成を含む、正確に一枚の死角領域画像(I_B[t-1])が維持されている記憶装置(130)、並びに、
-以下を実施するため、即ち、
i)死角領域(B)の各々の第一死角領域ピクセル(IB_SP[t-1])を、第二時点(t)に対して推定された新ポジションに配置すること、
ii)第二時点(t)における各々の第一死角領域ピクセル(IB_SP[t-1])の新ポジションが、引き続きブラインド領域(B)内にあるか否かを決定すること、
iii)新ポジションが死角領域(B)内にあると決定された場合には、各々の第一死角領域ピクセル(IB_SP[t-1])が、車両(1)のモーションデータ(v_x,v_y)に基づいて合成(S5)されることにより、第二時点(t)での各々の第二死角領域ピクセル(IB_SP[t])を生成すること、
を実施するために適合されたデータ処理装置(120)、
を備えることを特徴とする装置(100)。

Claims (10)

  1. 目下の、第二時点(t)において、車両(1)内に車両周辺部を表示する方法であって、
    この方法は、以下のステップ、即ち、
    -第二時点(t)よりも前の第一時点(t-1)において、車載カメラ(140F,140R,140LL,140LR)の視野領域(141F,141R,141LL,141LR)の外側に配置されている車両周辺部の死角領域(B)の画像合成を含む第一死角領域画像(I_B[t])を提供するステップ(S1)、
    -死角領域(B)の各々の第一死角領域ピクセル(IB_SP[t-1])を、第二時点(t)について推測された新ポジションに配置するステップ(S2)、
    -各々の第一死角領域ピクセル(IB_SP[t-1])の新ポジションが、第二時点(t)において、死角領域(B)内にあるか否かを決定するステップ(S3)、及び、
    新ポジションが、死角領域(B)内にあると決定された場合には、各々の第一死角領域ピクセル(IB_SP[t-1])が、車両(1)のモーションデータ(v_x,v_y)に基づいて合成(S5A)されることにより、第二時点(t)の各々の第二死角領域ピクセル(IB_SP[t])を生成するステップ(S4)、
    を備えることを特徴とする方法。
  2. 新ポジションが、死角領域(B)外にあると決定された場合は、各々の第一死角領域ピクセル(IB_SP[t-1])が、少なくとも一つの第一時点(t-1)に撮影され、提供されたカメラ画像(I_F[t-1],I_R[t-1],I_LL[t-1],I_LR[t-1])を用いて合成(S5B)されることによって、第二時点(t)の各々の第二死角領域ピクセル(IB_SP[t])が、生成される(S4)ことを特徴とする請求項1に記載の方法。
  3. モーションデータ(v_x,v_y)から得られた、各々の第一死角領域ピクセル(IB_SP[t-1])のモーションベクトル(SP_V)に基づいて、各々の異なる視野領域(141F,141R,141LL,141LR)を有する複数の車載カメラ(140F,140R,140LL,140LR)のうちのいずれの車載カメラからカメラ画像(I_F[t-1],I_R[t-1],I_LL[t-1],I_LR[t-1])が提供されるのかが決定されることを特徴とする請求項2に記載の方法。
  4. 提供されるに当たって、その視野領域(141F,141R,141LL,141LR)に、移動ベクトル(SP_V)が配置されている各々のカメラ(140F,140R,140LL,140LR)のカメラ画像(I_F[t-1],I_R[t-1],I_LR[t-1],I_RR[t-1])が選択されることを特徴とする請求項3に記載の方法。
  5. 車載カメラ(140F,140R,140LL,140LR)毎に、正に一枚のカメラ画像(I_F[t-1],I_R[t-1],I_LR[t-1],I_RR[t-1])のみを提供するために維持することを特徴とする請求項3又は4に記載の方法。
  6. 第一時点(t-1)の正に一枚の死角領域画像(IB_SP[t-1])のみを提供するために維持することを特徴とする請求項1~5のうち何れか一項に記載の方法。
  7. 各々の第二死角領域ピクセル(IB_SP[t])から第二時点(t)用に生成された第二死角領域画像(IB_SP[t])と第二時点(t)の少なくとも一枚の目下のカメラ画像(I_F[t],I_R[t],I_LL[t],I_LR[t])が、車両(1)内における表示のために組み合わされることを特徴とする請求項1~6のうち何れか一項に記載の方法。
  8. 初期起動時に、車両周辺部の表示画像(I)は、死角領域(B)が、隠される程度に視野領域(141F,141R,141LL,141LR)内にずらされることを特徴とする請求項1~7のうち何れか一項に記載の方法。
  9. 死角領域(B)が、車両(1)で走行した地表面に配置されていることを特徴とする請求項1~8のうち何れか一項に記載の方法。
  10. 目下の、第二時点(t)において、車両(1)内に車両周辺部を表示するための装置(100)であって、
    この装置(100)は、
    -車両周辺部の対応する視野領域(141F,141R,141LL,141LR)を把握するための、少なくとも一台の車載カメラ(140F,140R,140LL,140LR)、
    -第二時点(t)よりも前の第一時点(t-1)における、視野領域(141F,141R,141LL,141LR)の外側に配置されている車両周辺部の死角領域(B)の画像合成を含む、正確に一枚の死角領域画像(I_B[t-1])が維持されている記憶装置(130)、並びに、
    -以下を実施するため、即ち、
    i)死角領域(B)の各々の第一死角領域ピクセル(IB_SP[t-1])を、第二時点(t)に対して推定された新ポジションに配置すること、
    ii)第二時点(t)における各々の第一死角領域ピクセル(IB_SP[t-1])の新ポジションが、引き続きブラインド領域(B)内にあるか否かを決定すること、
    iii)新ポジションが死角領域(B)内にあると決定された場合には、各々の第一死角領域ピクセル(IB_SP[t-1])が、車両(1)のモーションデータ(v_x,v_y)に基づいて合成(S5)されることにより、第二時点(t)での各々の第二死角領域ピクセル(IB_SP[t])を生成すること、
    を実施するために適合されたデータ処理装置(120)、
    を備えることを特徴とする装置(100)。
JP2020562169A 2018-05-22 2019-05-16 車両周辺部を表示するための方法及び装置 Active JP7384830B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102018207976.5A DE102018207976A1 (de) 2018-05-22 2018-05-22 Verfahren und Vorrichtung zum Anzeigen einer Fahrzeugumgebung
DE102018207976.5 2018-05-22
PCT/DE2019/200044 WO2019223840A1 (de) 2018-05-22 2019-05-16 Verfahren und vorrichtung zum anzeigen einer fahrzeugumgebung

Publications (3)

Publication Number Publication Date
JP2021524959A JP2021524959A (ja) 2021-09-16
JPWO2019223840A5 JPWO2019223840A5 (ja) 2023-09-29
JP7384830B2 true JP7384830B2 (ja) 2023-11-21

Family

ID=66668649

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020562169A Active JP7384830B2 (ja) 2018-05-22 2019-05-16 車両周辺部を表示するための方法及び装置

Country Status (6)

Country Link
US (1) US20210162923A1 (ja)
EP (1) EP3797053B1 (ja)
JP (1) JP7384830B2 (ja)
KR (1) KR102659382B1 (ja)
DE (1) DE102018207976A1 (ja)
WO (1) WO2019223840A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102366944B1 (ko) 2020-06-17 2022-02-28 (주)베이다스 조감 시점 영상을 생성하는 방법 및 장치

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006311151A (ja) 2005-04-27 2006-11-09 Aisin Aw Co Ltd 駐車支援方法及び駐車支援装置
DE102010010906A1 (de) 2010-03-10 2011-01-05 Daimler Ag Verfahren zur Erzeugung einer Darstellung eines Fahrzeuges und einer aktuellen Fahrzeugumgebung des Fahrzeuges
JP2015171106A (ja) 2014-03-10 2015-09-28 株式会社デンソー 車両周辺画像表示装置、車両周辺画像表示方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010166196A (ja) * 2009-01-14 2010-07-29 Clarion Co Ltd 車両周辺監視装置
JP4914458B2 (ja) * 2009-02-12 2012-04-11 株式会社日本自動車部品総合研究所 車両周辺表示装置
EP2660104B1 (en) * 2010-12-30 2015-09-23 Wise Automotive Corporation Apparatus and method for displaying a blind spot
DE102013217699A1 (de) * 2013-09-05 2015-03-05 Robert Bosch Gmbh Verfahren zum Manövrieren eines Fahrzeuges
JP6318864B2 (ja) * 2014-05-29 2018-05-09 トヨタ自動車株式会社 運転支援装置
JP6759899B2 (ja) * 2016-09-08 2020-09-23 アイシン精機株式会社 車両用画像処理装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006311151A (ja) 2005-04-27 2006-11-09 Aisin Aw Co Ltd 駐車支援方法及び駐車支援装置
DE102010010906A1 (de) 2010-03-10 2011-01-05 Daimler Ag Verfahren zur Erzeugung einer Darstellung eines Fahrzeuges und einer aktuellen Fahrzeugumgebung des Fahrzeuges
JP2015171106A (ja) 2014-03-10 2015-09-28 株式会社デンソー 車両周辺画像表示装置、車両周辺画像表示方法

Also Published As

Publication number Publication date
WO2019223840A1 (de) 2019-11-28
KR20210015761A (ko) 2021-02-10
EP3797053B1 (de) 2022-03-02
DE102018207976A1 (de) 2019-11-28
US20210162923A1 (en) 2021-06-03
EP3797053A1 (de) 2021-03-31
JP2021524959A (ja) 2021-09-16
KR102659382B1 (ko) 2024-04-22

Similar Documents

Publication Publication Date Title
TWI600559B (zh) 用於影像處理之系統及方法
US7554461B2 (en) Recording medium, parking support apparatus and parking support screen
JP6310652B2 (ja) 映像表示システム、映像合成装置及び映像合成方法
WO2013175684A1 (ja) 車両周囲画像表示制御装置、車両周囲画像表示制御方法、当該方法を含む命令からなる持続的有形コンピュータ読み取り媒体、車両の周囲の画像をトップビュー変換して表示させる画像処理方法
CN110877572A (zh) 周边监视装置
JP2008042235A (ja) 車両用表示装置
JP2010130673A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2007141098A (ja) 画像処理装置及び画像処理方法
JP2021037936A5 (ja)
JP2019054420A (ja) 画像処理装置
JP7384830B2 (ja) 車両周辺部を表示するための方法及び装置
JP7013751B2 (ja) 画像処理装置
JP2011155651A (ja) 車両周辺画像表示装置および車両周辺画像表示方法
JP6720729B2 (ja) 表示制御装置
JP4059309B2 (ja) 車載カメラの画像表示制御方法及びその装置
CN110884426A (zh) 显示控制装置
KR101861523B1 (ko) 차량 운전 보조 장치 및 방법
CN111402132B (zh) 倒车辅助方法及***、图像处理器及相应的辅助驾驶***
KR102490465B1 (ko) 증강 현실 카메라를 사용한 후방 시야 방법 및 장치
JPWO2019223840A5 (ja)
WO2021172037A1 (ja) 画像処理装置、画像処理方法、プログラム、および画像提示システム
US20220222947A1 (en) Method for generating an image of vehicle surroundings, and apparatus for generating an image of vehicle surroundings
CN114332789A (zh) 图像处理方法、装置、设备、车辆及介质
CN114619965A (zh) 车辆显示控制装置以及车辆显示控制方法
JP6747349B2 (ja) 運転支援装置、運転支援方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220422

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230628

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20230919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231018

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231109

R150 Certificate of patent or registration of utility model

Ref document number: 7384830

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150