JP7222285B2 - 表示制御装置、表示装置、表示システム、移動体、プログラム、画像生成方法 - Google Patents

表示制御装置、表示装置、表示システム、移動体、プログラム、画像生成方法 Download PDF

Info

Publication number
JP7222285B2
JP7222285B2 JP2019053391A JP2019053391A JP7222285B2 JP 7222285 B2 JP7222285 B2 JP 7222285B2 JP 2019053391 A JP2019053391 A JP 2019053391A JP 2019053391 A JP2019053391 A JP 2019053391A JP 7222285 B2 JP7222285 B2 JP 7222285B2
Authority
JP
Japan
Prior art keywords
display
obstacle
image
vehicle
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019053391A
Other languages
English (en)
Other versions
JP2020152264A (ja
Inventor
友規 鈴木
紘史 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2019053391A priority Critical patent/JP7222285B2/ja
Priority to EP19828336.8A priority patent/EP3899916B1/en
Priority to US17/428,992 priority patent/US11850941B2/en
Priority to PCT/JP2019/048345 priority patent/WO2020188910A1/en
Publication of JP2020152264A publication Critical patent/JP2020152264A/ja
Application granted granted Critical
Publication of JP7222285B2 publication Critical patent/JP7222285B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/60Instruments characterised by their location or relative disposition in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/002Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to project the image of a two-dimensional display, such as an array of light emitting or modulating elements or a CRT
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/178Warnings
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/179Distances to obstacles or vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/18Information management
    • B60K2360/186Displaying information according to relevancy
    • B60K2360/1868Displaying information according to relevancy according to driving situations
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/29Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2300/00Purposes or special features of road vehicle drive control systems
    • B60Y2300/08Predicting or avoiding probable or impending collision
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/14Solving problems related to the presentation of information to be displayed
    • G09G2340/145Solving problems related to the presentation of information to be displayed related to small screens
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Combustion & Propulsion (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Chemical & Material Sciences (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Instrument Panels (AREA)
  • Traffic Control Systems (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、表示制御装置、表示装置、表示システム、移動体、プログラム、及び、画像生成方法に関する。
運転者等の乗員が少ない視線移動で情報を確認できるように、乗員の前方に各種の情報を虚像として提示するヘッドアップディスプレイ(HUD)が搭載された表示システムが知られている。また、車両が各種センサを用いて周囲の状況を把握し、障害物に関する情報を乗員に表示して警告したり、車両を制御したりする先進運転システム(ADAS)の普及が進んでいる。
表示システムが自車両の例えば後方に他車両が検出されたことをアイコンで表示すれば、乗員は少ない視線移動で後方から他車両が接近していることなどを把握できる。しかし、単にアイコンを表示するだけでは、障害物の接近方向を乗員が把握しにくい。
また、他車両の将来位置を伝える表示システムが考案されている(例えば特許文献1参照。)。特許文献1には、自車両の乗員から見て隣の車線に、自車両の後側方の車両との相対速度又は相対距離に応じて伸長する線分を表示する車両情報投影システムについて開示されている。こうすることで、障害物の接近方向を乗員が把握しやすくなる。
しかしながら、特許文献1に記載された技術では、表示領域が限られた虚像では実現が困難で、表示領域に伸長する線分を表示したとしても、障害物の接近方向を把握しにくいという問題を解決できない。
本発明は、上記課題に鑑み、限られた表示範囲で周囲の障害物の接近方向を提示できる表示制御装置を提供することを目的とする。
上記課題に鑑み、本発明は、透過部材を介して移動体の前方に虚像を提示する表示部に情報を提示させる表示制御装置であって、前記移動体の周囲の障害物に関する情報を取得する情報取得部と、虚像として提示された際、前記障害物の方向を指し示すと共に、前記障害物の方向に接近するように移動する指示画像のデータを前記情報取得部が取得した前記障害物に関する情報に基づいて生成する表示画像生成部と、前記表示画像生成部が生成した前記指示画像、及び、前記移動体に対し所定の位置に表示される前記移動体を表す表示部品、を前記表示部に出力する出力部と、を有し、前記出力部は、前記表示部品と前記障害物との距離に応じて、前記表示部品と前記指示画像との間隔を変化させることを特徴とする。
限られた表示範囲で周囲の障害物の接近方向を提示できる表示制御装置を提供することができる。
表示システムが周囲の障害物の検出結果に応じて表示する情報の一例を示す図である。 車両に搭載された表示システムの概略を示す図の一例である。 表示部の構成を示す図の一例である。 表示システムが移動体に搭載された車載システムの構成図の一例である。 車載システムのうち検出部の構成例を示す図である。 認識部が有する機能の一例を説明する図である。 自車両又は自車両を示す表示部品に対する障害物の相対位置の一例を説明する図である。 表示制御部のハードウェア構成図の一例である。 表示制御部の機能をブロック状に示す機能ブロック図の一例である。 指示画像の変換について説明する図の一例である。 路面にペイントされた変換前画像の投影面への透視投影変換を説明する図の一例である。 第1ARモードと第2ARモードの判断方法の一例を示す図である。 指示画像が非表示になるタイミングを説明する図の一例である。 自車両を示す表示部品と指示画像との間隔について説明する図の一例である。 距離と間隔の対応関係の一例を示す図である。 第2ARモードから始まった場合の、自車両を示す表示部品と指示画像との間隔について説明する図である。 指示画像の大きさを説明する図の一例である。 車載システムによる動作の全体的な手順を示すフローチャート図の一例である。 表示システムが指示画像の表示を行う一例の処理を示すフローチャート図である。 乗員の視界に入った場合に指示画像が非表示になる表示例を説明する図である。 駐車している他車両を指示画像が指し示す表示例について説明する図である。 第1ARモードが開始され第2ARモードに遷移する際の指示画像の表示例を示す図である。 指示画像、自車両を示す表示部品の表示例を示す図である。
以下、本発明を実施するための形態の一例として、表示システムと表示システムが行う画像生成方法について図面を参照しながら説明する。
<本実施形態の情報の表示の概略>
まず、図1を用いて、本実施形態における情報の画像生成方法の概略を説明する。図1は、表示システムが周囲の障害物の検出結果に応じて表示する情報の一例を示す。本実施形態では、表示システムとしてHUD(Head Up Display)装置により情報を提示する形態を説明する。ただし、液晶ディスプレイなどその他の表示システムへの適用を制限しない。
(1)図1(a)では、自車両8の左後側方に他車両6が障害物として検出された。表示システムは自車両8を示す表示部品62を中心として他車両6の方向を指示画像61で指し示す表示を開始する。図1(b)に示すように、表示システムはフロントウィンドウシールドの前方(例えば数メートル)に情報を虚像Iとして提示する。図1(b)では自車両8を示す表示部品62として車速「31km/h」が表示されている。また、表示部品62を中心として障害物の方向を示す指示画像61が表示部品62に近接した状態で表示されている。他車両6は左後側方なので指示画像61も表示部品62の左後側方に配置され表示部品62から見て左後側方を指している(以下では、指示画像61は、表示部品62から見て指示画像61が指し示す方向と同じ方位(左後側方を指すなら左後側方)に配置されるものとする)。
自車両8を示す表示部品62を中心として障害物の方向を指示画像61で指し示すことで、虚像Iの表示領域(図の点線内)を広げることなく、他車両6が自車両8に対してどの方向に存在するのかを的確に通知することができる。このように、表示部品62を中心として障害物の方向を示す指示画像61が表示部品62に近接した状態の表示モードを第1ARモードという。
(2)図1(c)に示すように他車両6が自車両8の側方に移動したこと(追い抜こうとしたこと)が検出される。他車両6は左側方なので、表示システムは自車両8を示す表示部品62を中心として左方向を示す指示画像61を表示部品62に近接させた状態で表示する。図1(c)に示すように指示画像61が表示部品62に近接している範囲は虚像内における「所定の範囲」の一例である。
本実施形態の表示システムは、「表示システムの表示領域内で直接、障害物を指し示せる状態」になった場合、虚像Iの表示領域を移動して障害物を直接指し示す指示画像61を表示する。「表示システムの表示領域内で直接、障害物を指し示せる状態」については後述するが、簡単には、指示画像61が指し示す方向に自車両8を挟まずに障害物が存在する状態である。表示領域を移動するとは、自車両8を示す表示部品62から離れて、障害物に接近することをいう。なお、自車両8を示す表示部品62は路面にAR(Augmented Reality)表示されている。
このように、「表示システムの表示領域内で直接、障害物を指し示せる状態」になった場合に表示される、虚像Iの表示領域を指示画像61が移動する状態の表示モードを第2ARモード表示という。図1(d)は第2ARモード表示に切り変わった直後の指示画像61を示すため、図から分かりにくいが、この指示画像61は虚像Iの表示領域内を移動できる。
(3)図1(e)に示すように他車両6が自車両8の左前方に移動したことが検出される(追い抜きがほぼ完了した)。表示システムは第2ARモードなので、指示画像61が他車両6の方向を指し示して表示されるだけでなく、自車両8を示す表示部品62と他車両6を結ぶ直線上に、自車両8を示す表示部品62と他車両6との距離に応じた位置に表示される。指示画像61は自車両8を示す表示部品62と他車両6の距離が近いほど、他車両6に近い位置(虚像Iの表示領域の外側)に表示される。乗員は指示画像61が指し示す方向の障害物を把握しやすくなる。また、指示画像61が自車両8を示す表示部品62からどのくらい離れたか(表示領域の外縁にどの位接近したか)によって、他車両6との距離を把握できる。したがって、方向と距離により、自車両8に対する他車両6の相対位置(位置関係)を推定できる。
図1(f)では自車両8を示す表示部品62と他車両6を結ぶほぼ直線上に指示画像61があり、指示画像61は図1(d)の状態よりも自車両8を示す表示部品62から離れている。つまり、図1(d)の状態の指示画像61が、自車両8を示す表示部品62と他車両6の相対位置の変化にしたがって指し示す向きを変えながら徐々に表示領域の外側に向かって移動する。
このように、本実施形態の表示システムは、第1ARモードから第2ARモードにシームレスに遷移する。第2ARモードでは障害物の方向に矢頭を向けながら、障害物に接近する方向に移動するので、距離や方向を把握しやすい。第1ARモードで他車両6の方向を指し示していた指示画像61が、自車両8を示す表示部品62と他車両6の相対位置の変化にしたがって、指し示す向きを変えながら表示領域の外側に向かって移動し、やがて他車両6を直接指し示すので、限られた表示領域で障害物に対し連続性のある警告が可能になる。このように、乗員から見て車両前方に情報を表示する表示システムであっても、限られた表示領域で周囲の障害物の接近方向を適切に乗員に提示できる。
<用語について>
障害物とは進行の妨げになる物体、障害、動体、不動体などをいう。物に限られず人や動物も含む。
移動体とは乗員が乗車して陸上、空中、海上、又は、海中を移動するものであればよい。本実施形態では一例として車両を例にして説明する。この他、航空機、船舶、産業用ロボット等にも搭載され得る。
車両の乗員とは、表示システムの情報を視認する者をいう。例えば、運転者であるが、単なる乗員であってもよい。また、自動運転により移動する移動体では乗員が全く運転しない場合が含まれる。
移動体の周囲とは、前方、側方、後方の全てを言うが、必ずしも360度をカバーしていなくてもよい。また、前方については含まれなくてもよい。
指示画像は、障害物の方向を指し示す画像である。矢印の形状であることを意味するのではなく、指し示す機能を有していればよい。本実施形態で図示する他、「→」でもよいし、何らかの凸部があるものでもよい。
障害物に関する情報とは、指示画像が障害物を指し示すために必要となる情報であり、障害物の位置に関する情報である。
<構成例>
図2は、車両に搭載された表示システム1の概略を示す図の一例である。表示システム1は表示制御部20(表示制御装置の一例)と表示部10(表示装置の一例)を有している。
表示システム1はダッシュボードの内部に埋め込まれており、表示システム1の上面に設けられ射出窓3からフロントウィンドウシールド91(透過部材)に向けて映像を投影する。投影された映像はフロントウィンドウシールド91よりも前方に虚像Iとして表示される。車両の乗員Vは視線を前方の車両や路面に保ったまま(少ない視線移動で)運転に有用な情報を目視できる。なお、表示システム1はフロントウィンドウシールド91に映像を投影できればよく、ダッシュボードの他、天井やサンバイザなどに設置されていてもよい。
表示システム1は、汎用的な情報処理端末である場合とHUD専用端末の場合がある。HUD専用端末は単にヘッドアップディスプレイ装置と呼ばれる他、ナビゲーション装置と一体である場合にはナビゲーション装置と呼ばれる場合がある。また、PND(Portable Navigation Device)とも呼ばれる。あるいはディスプレイオーディオ(又はコネクティッドオーディオ)と呼ばれてもよい。ディスプレイオーディオとは、ナビゲーションの機能を搭載せずに主にAV機能と通信機能を提供する装置である。
汎用的な情報処理端末は、例えば、スマートフォン、タブレット端末、携帯電話、PDA(Personal Digital Assistant)、ノートPC、及び、ウェアラブルPC(例えば、腕時計型、サングラス型など)などである。汎用的な情報処理端末はこれらに限定されるものではなく、一般的な情報処理装置の機能を有していればよい。汎用的な情報処理端末は、普段は各種のアプリケーションを実行する情報処理装置として利用されるが、例えば表示システムのためのアプリケーションソフトウェアを実行する場合に、HUD専用端末と同様、運転に有用な情報を表示する。
本実施形態の表示システム1は、汎用的な情報処理端末とHUD専用端末のどちらの場合でも、車載された状態と携帯可能な状態の切り替えが可能であってよい。
図2に示すように、表示システム1は、主要な構成要素として、表示部10と、表示制御部20とを有している。表示部10の投射方式としては、レーザ走査方式及びパネル方式が知られている。レーザ走査方式は、レーザ光源から射出されたレーザビームを2次元走査デバイスで走査し中間像(後述するスクリーンに投影される実像)を形成する方式である。パネル方式は、液晶パネル、DMDパネル(デジタルミラーデバイスパネル)、蛍光表示管(VFD)等のイメージングデバイスで中間像を形成する方式である。
レーザ走査方式は、全画面を発光して部分的に遮光することで画像を形成するパネル方式とは違い、各画素に対して発光/非発光を割り当てることができるため、一般に高コントラストの画像を形成することができる点で好適である。高コントラストであることは視認性に優れるため、パネル方式のHUD装置よりも少ない注意資源で車両の乗員が情報を視認できることが明らかになっている。
特に、パネル方式では情報がない領域でも遮光しきれない光が投影され、HUDが画像を表示できる範囲に表示枠が投影されてしまう(この現象をポストカードという)。レーザ操作方式ではこのような現象がなく、コンテンツのみを投影できる。特に、AR(Augmented Reality)において、実在する風景に生成した映像を重ねて表示する際のリアリティが向上する。なお、ARとは「拡張現実」と訳され、実在する風景に実在しないオブジェクトの映像を重ねて表示することで、目の前にある世界を仮想的に拡張する技術である。ただし、パネル方式のHUDであってもより少ない注意資源で視認できる(疲れにくい)態様で情報を表示できるHUD装置であればよい。
図3は、表示部10の構成を示す図の一例である。表示部10は、主に、光源部101と、光偏向器102と、ミラー103と、スクリーン104と、凹面ミラー105とを有している。なお、図3は主要な構成要素を示したに過ぎず、図示する以外の構成要素を有していてもよいし、図示する構成要素の一部を有していなくてもよい。
光源部101は、例えば、RGBに対応した3つのレーザ光源(以下、LD:レーザダイオードとする)、カップリングレンズ、アパーチャ、合成素子、レンズ等を備えており、3つのLDから出射されたレーザビームを合成して光偏向器102の反射面に向かって導く。光偏向器102の反射面に導かれたレーザビームは、光偏向器102により2次元的に偏向される。
光偏向器102としては、例えば、直交する2軸に対して揺動する1つの微小なミラーや、1軸に揺動又は回動する2つの微小なミラー等を用いることができる。光偏向器102は、例えば、半導体プロセス等で作製されたMEMS(Micro Electro Mechanical Systems)ミラーとすることができる。光偏向器102は、例えば、圧電素子の変形力を駆動力とするアクチュエータにより駆動することができる。光偏向器102として、ガルバノミラーやポリゴンミラー等を用いてもよい。
光偏向器102により2次元的に偏向されたレーザビームはミラー103に入射し、ミラー103により折り返され、スクリーン104の表面(被走査面)上に2次元の画像(中間像)を描画する。ミラー103としては、例えば凹面鏡を用いることができるが、凸面鏡や平面鏡を用いてもよい。光偏向器102とミラー103でレーザビームの方向を偏向することで、表示部10の小型化又は構成要素の配置を柔軟に変更できる。
スクリーン104としては、レーザビームを所望の発散角で発散させる機能を有するマイクロレンズアレイやマイクロミラーアレイを用いると好適であるが、レーザビームを拡散させる拡散板、表面が平滑な透過板や反射板等を用いてもよい。一般に光源部101からスクリーン104まではHUD装置と呼ばれる。ただし、この他の部品を含んでもよい。
スクリーン104から射出されたレーザビームは、凹面ミラー105で反射され、フロントウィンドウシールド91に投影される。凹面ミラー105はレンズと似た働きを有し、所定の焦点距離に像を結像させる機能を有する。このため、凹面ミラー105がレンズであるとすると物体に相当するスクリーン104上の像は凹面ミラー105の焦点距離によって定まる距離Rの位置に像を結ぶ。したがって、車両の乗員から見た場合、フロントウィンドウシールド91から距離R+Rの位置に虚像Iが表示される。車両の乗員からフロントウィンドウシールド91までの距離をRとすると、図3では車両の乗員Vの視点Eから距離R(=R+R+R)の位置に虚像Iが表示される(結像する)。
フロントウィンドウシールド91への光束の少なくとも一部は車両の乗員Vの視点Eに向けて反射される。この結果、車両の乗員Vはフロントウィンドウシールド91を介してスクリーン104の中間像が拡大された虚像Iを視認可能となる。すなわち、車両の乗員Vから見てフロントウィンドウシールド91越しに中間像が拡大表示された虚像Iが表示される。
なお、通常、フロントウィンドウシールド91は平面ではなく僅かに湾曲している。このため、凹面ミラー105の焦点距離だけでなくフロントウィンドウシールド91の曲面によっても虚像Iの結像位置が決定されるが、距離Rは上記のようにほぼ距離R+Rによって定まる。視線移動が少なくて済むように虚像Iを遠方に結像させるには、距離R又はRを長くする。距離Rを長くする方法としてはミラーで光路を折り返す方法があり、距離R2を長くする方法としては凹面ミラー105の焦点距離を調整する方法がある。
なお、フロントウィンドウシールド91の影響で中間像の水平線が上又は下に凸形状となる光学歪みが生じるため、ミラー103及び凹面ミラー105の少なくとも一方は、歪みを補正するように設計、配置されることが好ましい。あるいは、投影される映像が歪みを考慮して補正されることが好ましい。
また、フロントウィンドウシールド91よりも視点E側に透過反射部材としてコンバイナを配置してもよい。コンバイナに凹面ミラー105からの光を照射するようにしても、フロントウィンドウシールド91に凹面ミラー105からの光を照射した場合と同様に、虚像Iとして情報を提示することができる。
<表示システムが搭載される車載システムの構成例>
続いて、図4を用いて、表示システム1が移動体に搭載された場合の構成例を説明する。図4は表示システム1が移動体に搭載された車載システム2の構成図の一例である。車載システム2はCAN(Controller Area Network)バスなどの車載ネットワークNWを介して通信するカーナビゲーションシステム11、エンジンECU(Electronic Control Unit)12、表示システム1、ブレーキECU13、ステアリングECU14、認識部15、及び、検出部16を有している。
カーナビゲーションシステム11は、GPSに代表されるGNSS(Global Navigation Satellite System)を有し、車両の現在地を検出して電子地図上に車両の位置を表示する。また、出発地と目的地の入力を受け付け、出発地から目的地までの経路を検索して電子地図上に経路を表示したり、進路変更の手前で車両の乗員に進行方向を音声、文字(ディスプレイに表示される)、又はアニメーション等で案内したりする。なお、カーナビゲーションシステム11は携帯電話網などを介してサーバと通信してもよい。この場合、サーバが電子地図を車両9に送信したり経路検索を行ったりすることができる。
エンジンECU12は、各センサからの情報と車両の状況に合わせ、理想となる燃料噴射量の決定、点火時期の進角・遅角、動弁機構などの制御を行う。また、現在車速とアクセル開度の関係に対し変速段の切り替え線が定められたマップを参照するなどして変速の必要性を判断する。エンジンECU12はこれらを組み合わせ先行車への追従走行時の加速や減速制御を行う。なお、エンジンと共に又はエンジンを動力とすることなく電気モータを動力としてもよい。
ブレーキECU13は、ABS(Antilock Braking System)制御、先行車への追従走行時の制動制御、障害物とのTTC(Time To Collision)に基づく自動制動、坂道発進時の停止状態維持制御など、車両の乗員によるブレーキペダルの操作がなくても車両の各車輪ごとに制動力を制御する。
ステアリングECU14は、車両の乗員によるハンドルの操舵の方向と操舵量を検出し、操舵方向に操舵トルクを付加するパワーステアリング制御を行う。また、走行レーンからの逸脱を回避する方向、走行レーンの中央の走行を維持する方向、又は、障害物との接近を回避する方向に、車両の乗員によるハンドル操作がなくても操舵する。
検出部16は各種のセンサを有しており、自車両8の周囲の障害物を検出する。認識部15は検出部16が検出した障害物が何か、自車両8に対する障害物の相対位置(方向と距離)及び自車両8を示す表示部品62に対する障害物の相対位置(方向と距離)を認識する。車速等の情報、及び、障害物の識別結果と相対位置は表示システム1に入力される。
<検出部の構成例>
続いて、図5を用いて、検出部16の構成について説明する。図5は、車載システム2のうち検出部16の構成例を示す図である。検出部16は、表示システム1が表示する車速を検出する車速センサ161、表示システム1が表示する車両情報を取得する車両情報センサ162、障害物を検出するレーダセンサ163と周囲カメラ164、乗員に関する情報である乗員状態情報を取得する乗員状態情報センサ165、外部から渋滞情報などを受信するVICS受信装置166(登録商標。VICS:Vehicle Information and Communication System Center)、及び、インターネットなどに接続する外部通信装置167を有している。
なお、検出部16が有する各センサは検出部16にまとまって存在する必要はなく、車載されていればよい。
車速センサ161は、ドライブトレイン系のシャフトの回転と共に回転する磁石を、車体に固定されたセンサ部が検出し、回転速度に比例したパルス波を発生させる。単位時間のパルス数により車速を検出できる。
車両情報センサ162は、車速センサ131以外の車両情報を検出する1つ以上のセンサを有している。例えば、燃料計センサ、シフトレバー位置センサ、オドメータ、トリップメータ、ウィンカセンサ、及び、水温センサなどである。これらは一般的な構成で各車両情報を取得できればよい。燃料計センサは現在の残燃料を検出する。シフトレバー位置センサは車両の乗員が操作したシフトレバー位置を検出する。オドメータは車両の走行距離を累積して総走行距離を提供する。トリップメータは車両の乗員が初期化してから現在までの区間走行距離を提供する。ウィンカセンサは車両の乗員が操作したウィンカの方向を検出する。水温センサはエンジン冷却水の温度を検出する。これらは車両から取得できる情報の一例に過ぎず、この他、車両から取得できる情報は車両情報となりうる。例えば、電気自動車やハイブリッド車ではバッテリ残量、回生電力量、又は、消費電力量なども取得できる。
周囲カメラ164は車両の周囲を撮像する撮像装置である。取り付け場所は好ましくは車用の側方から後方を撮像できるように、複数の場所に設置される。例えば、車両のルーフやバンパにおいて車両の左後方コーナー、右後方コーナー、及び、後部などに設置される。後部に設置された撮像装置をバックモニタというが、後部の周囲カメラ164はバックモニタに限られない。この他、サイドミラー、ピラー、ルーフのサイド部分、又はドアなどに配置されてもよい。なお、周囲カメラ164には前方を撮像する撮像装置が含まれてよい。例えばルームミラーの裏側やその近くに取り付けられる。
周囲カメラ164は単眼カメラの場合とステレオカメラの場合がある。距離情報を取得できる単眼カメラ又はステレオカメラの場合、レーダセンサ163がなくてもよい。しかし、距離情報を取得できる周囲カメラ164に加え、レーダセンサ163があることで、周囲カメラ164の距離情報とレーダセンサ163の距離情報をフュージョンし(統合し),互いのデメリットを補完しあって高精度な距離情報を取得できる。なお、レーダセンサ163と周囲カメラ164の他にソニックセンサ(超音波センサ)などを有していてもよい。
レーダセンサ163は自車両8の前方、側方、後方など車両の周囲にレーダを送信し、物体で反射して戻ってくるレーダを受信する。配置場所は周囲カメラと同様に車両の周囲の障害物を検出できる場所であればよい。レーダセンサ163は送信から受信までの時間により物体までの距離を検出すると共に、レーダの照射方向により物体の方向を検出するTOF方式(Time Of Fright)がある。TOF方式のレーダセンサとしてLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)が知られている。また、連続的に送信波の周波数を大きくしながら受信波と送信波の混合波を生成し、周波数がわずかに異なることで生じる混合波のうなり周波数を距離に換算するFMCW方式(Frequency Modulation Continuous Wave)がある。FMCW方式では複数の受信アンテナで受信波の位相ずれを検出することで物体の方向を推定する。
乗員状態情報センサ165は車両の乗員から直接又は間接的に検出される乗員状態情報を検出するセンサである。代表的なものに顔カメラがある。顔カメラは車両の乗員の顔を撮像して顔認証を行い、車両の乗員を特定又は識別する。また、顔画像から顔向きや視線方向を検出することが可能になる。
この他、乗員状態情報センサ165は、例えば、心電センサ、心拍数センサ、血圧センサ、体温センサ、脈拍センサ、呼吸センサ、発汗センサ、瞬きセンサ、瞳孔センサ、脳波センサ、又は、筋電位センサなどでもよい。乗員状態情報センサ165としては例えば、腕時計型のウェアラブル端末(スマートウォッチ)を車両の乗員が装着する形態がある。
VICS受信装置166はVICSが配信する電波を受信する。なお、VICSは渋滞や交通規制などの道路交通情報を、FM多重放送やビーコンを使ってリアルタイムに車載装置に送信するシステムである。外部通信装置167は3G、4G、5G、LTE、及び、無線LANなどのネットワークを介してインターネットなどに接続し各種の情報を受信する。例えば、雨、雪、霧などの天候情報を受信できる。また、ニュース、音楽、動画などを受信してもよい。また、外部通信装置167は、例えば信号機の状態情報と信号が変わるまでの時間などを取得できる。このように、VICS受信装置166と外部通信装置167は路車間通信を行う場合がある。この他、外部通信装置167は車車間通信で他車両6が検出した情報を取得してもよい。
なお、先進運転システム(ADAS)では情報を表示して警告するだけでなく、車両の制御を行う場合もある。この場合、ECUはレーダセンサ163又は周囲カメラ164の少なくとも一方が検出する障害物の距離情報に基づいてエンジンECU12、ブレーキECU13及びステアリングECU14と連携して各種の運転支援を行う。例えば、先行車への追従走行時の加減速制御、自動制動、走行レーンからの逸脱回避、レーンキープ走行、及び、障害物の回避操舵等を行う。このような制御のために、前方を撮像する撮像装置が撮像した画像データから、ECUが道路標識、及び、白線などの道路ペイントなどを認識する。
追従走行時の加減速制御では、ECUは車速に応じた目標の距離を維持するように動力と制動力を制御する。自動制動では、TTCに応じて、警告、ブレーキペダルの押下を促す表示、及び、衝突の可能性が高い場合におけるシートベルトの巻き上げと衝突回避制動等を行う。走行レーンからの逸脱回避では、運転支援ECU36は撮像された画像データから白線(走行区分線)を認識し、走行レーンを逸脱する方向と反対方向に操舵トルクを付加する。また、レーンキープ走行では走行レーンの中央を目標走行ラインに設定し、目標走行ラインからの乖離に比例した操舵トルクを乖離とは反対方向に付加する。障害物の回避操舵では、制動では衝突を回避できないと判断した場合に、障害物を回避するための走行ラインを決定し、この走行ラインを走行する操舵トルクを付加する。
また、例えば車線変更時にレーダセンサ163又は周囲カメラ164により、隣の車線のドアミラーに映らない領域(死角領域)を併走する車両を検知した場合に、乗員に警告する。このような支援をブラインドスポットモニタという。
<認識部について>
次に、図6を用いて、検出部16が検出する情報に基づいて認識部15が認識する障害物に関する情報について説明する。図6は認識部15が有する機能の一例を説明する図である。認識部15は対象判断部151と相対位置決定部152を有する。
対象判断部151は主に周囲カメラ164が撮像して得た周囲画像データを解析して写っている障害物の種類を判断する。本実施形態では、例えば、他車両6、歩行者、二輪車、又は、その他などを判断する。なお、本実施形態では必ずしも障害物が何であるか判断しなくてもよいが、例えば、その他に分類される壁などに対し、表示システム1が指示画像61を表示することを防止できる。また、障害物の種類によって指示画像61の形状などを変更できる。
なお、周囲カメラ164がステレオカメラの場合、周囲画像データの各画素又は画素ブロックには距離情報が含まれている。このような周囲画像データを距離画像という。また、対象判断部151は周囲画像データだけでなく、レーダ測距情報からも障害物を判断できる。例えば、LIDARの点群の密度が十分に高い場合、障害物の形状が得られるので、形状を解析して障害物の種類を判断できる。
対象判断部151が対象を判断する方法の1つとして、機械学習を用いた画像認識方法がある。機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり,コンピュータが,データ識別等の判断に必要なアルゴリズムを,事前に取り込まれる学習データから自律的に生成し,新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習、深層学習のいずれかの方法でもよく、更に、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。なお、機械学習の手法には、パーセプトロン、ディープラーニング、サポートベクターマシン、ロジスティック回帰、ナイーブベイズ、決定木、ランダムフォレストなどがある。
相対位置決定部152は、図7に示すように、自車両8又は自車両8を示す表示部品62に対する障害物の相対位置(方向と距離)を決定する。図7は、自車両8又は自車両8を示す表示部品62に対する障害物の相対位置の一例を説明する図である。図7に示すように、自車両8を示す表示部品62(虚像Iの中心)が、車両の中心から車幅方向にQ、車長方向にPの位置に表示されるものとする。
周囲画像データ又はレーダ測距情報により他車両6が車両の中心を原点に(A,B)の座標であることが検出されたものとする。また、車両の中心から他車両6までの距離をL、その方向をθで表す。なお、周囲画像データが距離画像の場合、(A,B)を直接求められるが、レーダ測距情報の場合は距離と方向を(A,B)に分解すればよい。相対位置決定部152は座標(A,B)を、自車両8を示す表示部品62を基準とする座標(C,D)に変換する。
自車両8を示す表示部品62は虚像Iとして提示されるので自車両8の前方の決まった位置に存在する。上記のように車両の中心から自車両8を示す表示部品62までの車幅方向の距離をQ、車長方向の距離をPとすると、座標(C,D)は以下のように決定される。
(C、D)=(A+Q,B+P)
相対位置決定部152は車両に配置された各レーダセンサ又は周囲カメラごとに同様の処理を行い、自車両8を示す表示部品62に対する障害物の相対位置を決定する。相対位置を決定することで距離と方向も求められる。自車両8を示す表示部品62から他車両6までの距離をL、その方向をθで表す。図7の例では、距離L=√(C+D)、方向θ=arctan(D/C)である。なお、方向θ、θの基準(どの方向を0度とするか)は適宜設定されてよい。図7では9時の方向を0度としている。
<表示制御部のハードウェア構成例>
続いて、図8を用いて、表示制御部20のハード的な構成例について説明する。図8は、表示制御部20のハードウェア構成図の一例である。表示制御部20は、FPGA201と、CPU202と、ROM203と、RAM204と、I/F205と、バスライン206と、LDドライバ207と、MEMSコントローラ208とを有している。FPGA201、CPU202、ROM203、RAM204、及びI/F205は、バスライン206を介して相互に接続されている。
CPU202は、表示制御部20の各機能を制御する。ROM203は、CPU202が、表示制御部20の各機能を制御するために実行するプログラム203pを記憶している。RAM204にはプログラム203pが展開され、CPU202がプログラム203pを実行するためのワークエリアとして使用される。また、RAM204は画像メモリ209を有している。画像メモリ209は虚像Iとして投影される画像の生成に使用される。I/F205は、認識部15や検出部16と通信するためのインターフェイスであり、例えば車両9のCAN(Controller Area Network)バス又はイーサネット(登録商標)等に接続される。
FPGA201は、CPU202が作成した画像に基づいてLDドライバ207を制御する。LDドライバ207は表示部10の光源部101のLDを駆動することで、画像に応じたLDの発光を制御する。FPGA201は、画像の画素位置に応じた方向にレーザビームが偏向されるようにMEMSコントローラ208を介して表示部10の光偏向器102を動作させる。
<表示制御部の機能について>
続いて、図9を用いて、表示制御部20が有する機能について説明する。図9は、表示制御部20の機能をブロック状に示す機能ブロック図の一例である。表示制御部20は情報取得部21、画像変換部22、モード判断部23、間隔・大きさ決定部24、表示画像生成部25、及び、出力部26を有している。表示制御部20が有するこれらの機能は、表示制御部20のROM203からRAM204に展開されたプログラム203pをCPU202が実行することにより実現される機能又は手段である。
情報取得部21は表示部10が表示する情報と指示画像61を第1ARモード又は第2ARモードで表示するための情報を検出部16と認識部15から取得する。例えば、検出部16から車速等を取得し、認識部15から障害物の種類、相対位置(距離L,L、方向θ、θ)を取得する。また、情報取得部21は、障害物が指示画像61で指し示す必要がないものである場合(障害物がその他の場合)、障害物の種類、相対位置等を破棄する。ただし、車速等については継続して表示される。
画像変換部22は、障害物の方向θ(自車両8に対する方向θ)に基づいて指示画像61を選択し、この指示画像61を路面にAR表示した場合の指示画像61に変換する。つまり、表示部10により路面に表示された場合に自然な矢印の形状に見えるように、保持している指示画像61を変換する。変換の詳細は後述される。画像変換部22は自車両8から見た障害物の方向θ及び変換した指示画像61を表示画像生成部25に送出する。
モード判断部23は、自車両8を示す表示部品62に対する障害物の距離Lと方向θに基づいて第1ARモードか第2ARモードかを判断する。また、第2ARモードを終了するか否かを判断する。
第2ARモードである場合、間隔・大きさ決定部24は、自車両8を示す表示部品62と障害物との距離Lに基づいて、指示画像61と自車両8を示す表示部品62との間隔D(すなわち距離)と指示画像61の大きさを決定する。
表示画像生成部25は、自車両8を示す表示部品62として車速等を表示領域の中央に配置する。また、指示画像61の表示モードに応じて以下のように、指示画像61を配置する。なお、表示画像生成部25は指示画像61に関するデータを生成する。
・第1ARモード:自車両8を示す表示部品62を中心に、自車両8に対する障害物の方向θと同じ方向に、表示部品62に近接させて指示画像61を配置する。
・第2ARモード:自車両8に対する障害物の方向θと同じ方向に、自車両8を示す表示部品62から間隔・大きさ決定部24が決定した間隔Dを空けて指示画像61を配置する。
出力部26は表示画像生成部25が生成した自車両8を示す表示部品62及び指示画像61を出力する。すなわち、LDドライバ207及びMEMSコントローラ208を制御して、表示画像生成部25が生成した表示部品62と指示画像61を表示部10に表示させる。
<指示画像の変換について>
図10は指示画像61の変換について説明する図の一例である。図10(a)はAR画像に変換される変換前画像53が仮に自車両8の前方の路面301にペイントされている場合の想定図である。このような進行方向に縦長の変換前画像53が路面301に実際にペイントされていると仮定すると、乗員Vの視点と路面301の射影関係により乗員Vには歪みの少ない指示画像の形状に見える。本実施形態では、自車両8に対する障害物の方向θに応じて複数の変換前画像53が予め用意されている。
図10(b)は同様に路面301にペイントされた変換前画像と自車両8の側面図である。一例として、自車両8の車幅方向をx軸、鉛直方向をy軸、進行方向をz軸とする。変換前画像の頂点の1つの座標を(x,y,z)とする。自車両8と共に移動する所定の原点(例えば車両の中心)をとると、路面301までの高さyは既知になる。また、変換前画像までの距離zは一定値でもよいし障害物の距離により決定してもよい。また、x方向については自車両8の正面とする(表示領域内の位置は別途決定されるため)。以上から(x,y,z)は既知である。
図11は、路面301にペイントされた変換前画像53の投影面54への透視投影変換を説明する図の一例である。画像変換部22は変換前画像の透視投影変換を行うが、透視投影変換には投影面54の設定が必要になる。投影面54とは変換前画像53が投影される2次元平面である。投影面54は乗員Vの視界を表すが、HUD装置がAR画像を表示する場合、運転者は虚像Iを視認するため、虚像Iの投影位置のほぼ垂直な平面が投影面54として設定される。投影面54の大きさも表示領域の大きさ等から適宜、決定されている(表示領域とほぼ同じ)。
画像変換部22はこの投影面54に対し透視投影変換を行う。これにより、変換前画像53が運転者から見て歪みの少ない指示画像61に変換される。
<第1ARモードと第2ARモードの切り替え>
まず、第1ARモードは、上記のように、自車両8を表す表示部品62の周囲に近接させて(間隔を空けずに)障害物を指し示す指示画像61を表示する表示モードである。第1ARモードは、「表示システムの表示領域内で直接、障害物を指し示せる状態」でないが、自車両8から所定距離内に障害物が検出された場合に有効となる。例えば、ブラインドスポットモニタが障害物を検出したタイミングで第1ARモードを開始することが考えられる。
第2ARモードは、障害物の方向を指し示す虚像I内の指示画像61が障害物に接近する方向に移動できる(自車両8を表す表示部品62と指示画像61の間に間隔を空けられる)表示モードである。また、指示画像61の大きさを変化させることができる。第1ARモードにおいても指示画像61の大きさを変化させてよい。第2ARモードは、「表示システムの表示領域内で直接、障害物を指し示せる状態」で開始する。なお、第2ARモードは第1ARモードから遷移する場合と、第2ARモードから始まる場合がある。
図12は第1ARモードと第2ARモードの一例の判断方法を示す図である。図12(a)では自車両8の左後側方に他車両6が検出されている。自車両8を示す表示部品62と他車両6(例えば最近接部)を結ぶ直線は自車両8と重なっている。第2ARモードは指示画像61が指し示す方向に自車両8を挟まずに障害物が存在する状態と言えるので、図12(a)は「表示システムの表示領域内で直接、障害物を指し示せる状態」でないため第1ARモードと判断される。
図12(b)では自車両8の左側面に他車両6が検出されている。自車両8を示す表示部品62と他車両6(例えば最近接部)を結ぶ直線は自車両8と重ならない。したがって、「表示システムの表示領域内で直接、障害物を指し示せる状態」なので、第2ARモードと判断される。
図12に示すように、「表示システムの表示領域内で直接、障害物を指し示せる状態」か否かは、自車両8を示す表示部品62に対する他車両6の方向θと相関すると考えてよい。モード判断部23は、ブラインドスポットモニタの警告対象となるなど所定距離内に検出された他車両6の方向θと閾値を比較して、第2ARモードであるか否かを判断する。
なお、図13に示すように、第2ARモードは、乗員(例えば運転者)の視界に他車両6が入った場合、終了する。図13は指示画像が非表示になるタイミングを説明する図の一例である。視界に入ったか否かの判断は、乗員状態情報センサによる視線方向を使用してもよいし、自車両8又は自車両8を示す表示部品62に対する他車両6の方向θ,θと閾値を比較して判断してもよい。例えば、図13ではθ=0により、第2ARモードによる指示画像61の表示を終了すると判断する。
<自車両を示す表示部品と指示画像との間隔>
第2ARモードでは、自車両8を示す表示部品62と障害物との距離Lに応じて、自車両8を示す表示部品62と指示画像61との間隔Dが変化する。すなわち、自車両8を示す表示部品62と障害物との距離Lが大きいほど、自車両8を示す表示部品62と指示画像61との間隔Dが小さくなる。換言すると、自車両8を示す表示部品62と障害物との距離Lが小さいほど、自車両8を示す表示部品62と指示画像61との間隔Dが大きくなる。
図14は、自車両8を示す表示部品62と指示画像61との間隔について説明する図の一例である。図14(a)は、第2ARモードであると判断された直後の状態であるとする。自車両8を示す表示部品62と他車両6との距離をL2-1、自車両8から見た他車両6の方向をθ1-1とする。図14(b)は、他車両6が自車両8よりもやや前方に移動した状態である。自車両8を示す表示部品62と他車両6との距離をL2-2、自車両8から見た他車両6の方向をθ1-2とする。図14(c)は、他車両6が自車両8よりも完全に前方に移動した状態である。自車両8を示す表示部品62と他車両6との距離をL2-3、自車両8から見た他車両6の方向をθ1-3とする。
したがって、L2-1>L2-2>L2-3 である。また、θ1-1<θ1-2<θ1-3(絶対値に関して)である。なお、距離L2-3を一例として自車両8を示す表示部品62と障害物との距離の最小値とする。
自車両8を示す表示部品62と指示画像61との間隔Dは、自車両8を示す表示部品62と障害物との距離Lが小さいほど大きくなるので、図14(a)の状態に対応する図14(d)の間隔Dは最小値Dmin(表示部品62にほぼ近接した状態)である。図14(b)の状態に対応する図14(e)の間隔DはDよりもやや大きくなり、図14(c)の状態に対応する図14(f)の間隔DはDよりも大きくなっている。これにより、自車両8を示す表示部品62に対しどの位の距離に障害物があるかを乗員が把握しやすくなる。
間隔・大きさ決定部24は、距離L2-1をDmin、距離L2-3を間隔Dの最大値Dmax(指示画像61が表示領域の最外縁にある状態)に対応させ、任意の距離Lの場合の間隔Dを決定する。
図15は距離L2と間隔Dの対応関係の一例を示す。図15(a)は距離Lと間隔Dの対応関係が線形の場合を、図15(b)は距離Lと間隔Dが非線形であり、間隔Dが大きい状態を維持しやすい対応関係を、図15(c)は距離Lと間隔Dが非線形であり、間隔Dが小さい状態を維持しやすい対応関係を、それぞれ示す。障害物の警告に適した対応関係が使用される。
図14に戻り、図14(d)~(f)では、指示画像61と自車両8を示す表示部品62の中心を結ぶ直線の角度が、それぞれθ1-1、θ1-2、θ1-3と同程度となっている。表示画像生成部25は、自車両8から見た他車両6の方向θと間隔・大きさ決定部24が決定した間隔Dにより定まる虚像Iの表示領域内の位置に指示画像61を配置する。これにより、自車両8を示す表示部品62に対しどの方向に障害物があるかを乗員が把握しやすくなる。
<第2ARモードから始まる場合>
図16に示すように、自車両8の前方の障害物を検出したような場合、第2ARモードから始まる。図16は第2ARモードから始まった場合の、自車両8を示す表示部品62と指示画像61との間隔Dについて説明する図である。図16では自車両8が他車両6を追い越す状況を想定する。
図16(a)は、自車両8の認識部15が前方の他車両6が所定距離以内であると検出した状態を示す。モード判断部23は、距離が所定距離内で方向が「表示システムの表示領域内で直接、障害物を指し示せる状態」であると判断し第2ARモードであると判断する。第2ARモードから始まった場合、短時間であれば、乗員(例えば運転者)の視界に他車両6が入っても、第2ARモードを終了しない。自車両8を示す表示部品62と他車両6との距離をL2-4、自車両8から見た他車両6の方向をθ1-4とする。
図16(b)は、自車両8が車線変更して他車両6と併走状態に入った状態である。自車両8を示す表示部品62と他車両6との距離をL2-5、自車両8から見た他車両6の方向をθ1-5とする。図16(c)は、自車両8が他車両6よりも前方に移動した状態である。図16(b)から図16(c)に移行する過程で、「表示システムの表示領域内で直接、障害物を指し示せる状態」でなくなるので、モード判断部23が第1ARモードであると判断する。自車両8を示す表示部品62と他車両6との距離をL2-6、自車両8から見た他車両6の方向をθ1-6とする。したがって、L2-4<L2-5<L2-6 である。
自車両8を示す表示部品62と指示画像61との間隔Dは、自車両8を示す表示部品62と障害物との距離Lが小さいほど大きくなるので、図16(a)の状態に対応する図16(d)の間隔D4は表示領域の外縁に近いDmaxである。図16(b)の状態に対応する図16(e)の間隔D5はD4よりも小さくなり、図16(c)の状態に対応する図16(f)の間隔D6は、第1ARモードに切り替わったためDminである。これにより、自車両8を示す表示部品62に対しどの位の距離に障害物があるかを乗員が把握しやすくなる。
間隔・大きさ決定部24は、上記の図15のような距離Lと間隔Dの対応関係を用いて距離Lから間隔Dを決定する。第1ARモードから第2ARモードに切り替わった場合の対応関係と、第2ARモードから始まった場合の対応関係は同じでなくてよい。例えば、第2ARモードから始まったがその後、距離Lが大きくなった場合、完全に追い越したことが分かるように、距離Lが大きくても間隔Dを大きい状態に維持することなどが有効になる。このような対応関係が図15(b)に相当する。
なお、図16(d)~(f)では、指示画像61と表示部品62の中心を結ぶ直線の角度が、それぞれθ1-4、θ1-5、θ1-6と同程度となっている。これにより、自車両8を示す表示部品62に対しどの方向に障害物があるかを乗員が把握しやすくなる。
<指示画像の大きさについて>
図17は指示画像61の大きさを説明する図の一例である。間隔・大きさ決定部24は自車両8を示す表示部品62と障害物との距離Lが小さいほど、指示画像61を大きくする。例えば、距離Lを10段階程度に区切って、1から10の大きさを表す大きさ情報を表示画像生成部25に送出する。表示画像生成部25は、画像変換部22が変換した指示画像61を大きさ情報に基づいて拡大して(又は縮小して)表示領域に配置する。
距離Lが小さいほど間隔Dが大きいので、図17に示すように指示画像61は表示領域の外側ほど大きくなる。なお、図17では説明のために、同一の障害物との距離が異なる場合の3つの指示画像61を示している。このように自車両8を示す表示部品62と障害物との距離Lが小さいほど指示画像61が大きくなるので、近くの障害物に乗員が気づきやすくなる。
<動作手順>
図18は、車載システムによる動作の全体的な手順を示すフローチャート図の一例である。図18の処理は、車載システム2が起動すると(例えば、スタートボタンのオン、イグニッションON)繰り返し実行される。
まず、検出部16は周囲の障害物の検出を繰り返し実行する(S1)。これにより、車両の中心から各障害物までの距離と方向又は座標が検出される。
次に、認識部15が障害物の種類を認識し、障害物ごとに相対位置を認識する(S2)。障害物の種類は、他車両6、歩行者、二輪車、又はその他などである。他車両6を大型車、中型車、普通車、商用車など更に詳細に判別してもよい。歩行者を大人、子供、男性、女性、車椅子など更に詳細に判別してもよい。なお、その他としては、ガードレール、建物、樹木などの地物が挙げられる。
表示システム1は、車速等、障害物の種類及び相対位置(方向、距離)を認識部15から受け取り、表示システム1が指示画像61を表示する障害物の種類かを判断する(S3)。指示画像61を表示する障害物の種類は、他車両6、歩行者、二輪車など移動するものとする。地物については移動しないため(自車両8を追い越したりしないし、道路上にはほとんど存在しない)、指示画像61を表示する対象外とする。他車両6、歩行者、二輪車は路面に対し停止していても指示画像61の表示の対象とするが、停止している場合は地物と同様に扱ってもよい。
ステップS3の判断がYesの場合、表示システム1が指示画像61の表示処理を開始する(S4)。
図19は、表示システム1が指示画像61の表示を行う一例の処理を示すフローチャート図である。
情報取得部21は障害物が所定距離内に存在するか否かを判断する(S11)。この所定距離は、相対的に接近するおそれがある障害物が存在することを乗員に知らせる必要がある距離である。例えば、ブラインドスポットモニタの検出範囲は自車両8の端部から2~3mくらいである。また、方向によって障害物が接近する速度が異なるのでステップS11の所定距離は障害物の方向によって異なっていてもよい。また、TTCで判断してもよい。
ステップS11の判断がNoの場合、処理はステップS20に進み、指示画像61は非表示となる。表示画像生成部25はまだ指示画像61が表示されていなければ表示することなく、すでに表示されていれば非表示にする。
ステップS11の判断がYesの場合、モード判断部23は虚像Iの表示領域内で直接、障害物を指し示せる状態か否かを判断する(S12)。上記のようにこの判断は、自車両8を示す表示部品62に対する障害物の方向θ(虚像Iにおける自車両8を示す表示部品62と障害物を結ぶ直線の角度)と閾値とを比較して行われる。自車両8に対する障害物の方向θで判断してもよい。
ステップS12の判断がNoの場合、モード判断部23は第1フラグをONにする(S13)。第1フラグは着目している障害物について一度でも第1ARモードとなったことを意味する。
次に、表示画像生成部25は自車両8を示す表示部品62を中心に、間隔DをDminとして、画像変換部22が変換した指示画像61であって障害物を指し示す指示画像61を配置する(S14)。配置される位置は表示部品62に対しθの方向である。
ステップS12の判断がNoの場合、モード判断部23は第2フラグをONにする(S15)。第2フラグは着目している障害物について一度でも第2ARモードとなったことを意味する。
次に、第2ARモードなので間隔・大きさ決定部24が自車両8を示す表示部品62と障害物との距離Lに基づいて間隔Dと指示画像61の大きさを決定する(S16)。
表示画像生成部25は指示画像61を大きさ情報に応じて拡大又は縮小し、間隔Dと自車両8に対する障害物の方向θで定まる表示領域内の位置に指示画像61を配置する(S17)。
次に、モード判断部23は第1フラグがON、かつ、第2フラグがONで、乗員(例えば運転者)の視界に障害物が入っているか否かを判断する(S18)。第1フラグがON、かつ、第2フラグがONである場合、障害物が自車両8の後方から前方に移動したと推定できる。第1フラグがOFF、かつ、第2フラグがONであることは、障害物が自車両8の前方から出現したと推定できる。第1フラグがON、かつ、第2フラグがOFFのまま、視界に障害物が入ることは生じることは全くないか又はあったとしても希である。
したがって、ステップS18の判断がYesの場合、モード判断部23は指示画像61の表示を終了すると判断し、表示画像生成部25は指示画像61を非表示にする(S20)。
ステップS18の判断がNoの場合、モード判断部23は、第2フラグがONだが、乗員(例えば運転者)の視界に他車両6が入っている時間が閾値以上か否かを判断する(S20)。これは、第2ARモードから始まったが、渋滞の場合や他車両6が右折又は左折する場合に、いつまでも指示画像61を表示することを抑制するためである。
ステップS19の判断がYesの場合、モード判断部23は指示画像61の表示を終了すると判断し、表示画像生成部25は指示画像61を非表示にする(S20)。
ステップS19の判断がNoの場合、処理はステップS11に戻る。この場合、第1ARモードを経て、障害物が所定距離内でなくなると非表示になる。
このように、本実施形態の表示システム1は第1ARモードから始まってもシームレスに第2ARモードに遷移でき、第2ARモードから始まってもシームレスに第1ARモードに遷移できる。また、他車両6が視界に入ると指示画像61を非表示にできるので煩わしさを抑制できる。
<視界に入った場合に指示画像が非表示になる表示例>
図20は、乗員の視界に入った場合に指示画像61が非表示になる表示例を説明する図である。図20(a)に示すように、自車両8は交差点にさしかかっており、右から他車両6が接近している。モード判断部23は表示領域内で直接、障害物を指し示せる状態であると判断し、表示システム1は第2ARモードで他車両6の方向を指し示す指示画像61を表示する(図20(b))。自車両8を示す表示部品62と他車両6の距離Lが長いため間隔Dは小さく、指示画像61の大きさも小さい。
次に、図20(c)に示すように、他車両6が交差点を右折し始める。引き続き、モード判断部23は表示領域内で直接、障害物を指し示せる状態であると判断し、表示システムは第2ARモードで他車両6の方向を指し示す指示画像61を表示する(図20(d))。自車両8を示す表示部品62と他車両6の距離Lが短いため間隔Dは大きく、指示画像61も大きくなる。
図20(c)の状態で、閾値以上の時間、乗員の視界に他車両6が入った(図20(e))。モード判断部23は指示画像61を非表示にすると判断するので、図20(f)に示すように、表示システム1は指示画像61を非表示にする。
<駐車している他車両を指示画像が指し示す表示例>
図21は、駐車している他車両6を指示画像61が指し示す表示例について説明する図である。図21(a)に示すように自車両8の左前方に他車両6が駐車しており、自車両8が接近している。モード判断部23は表示領域内で直接、障害物を指し示せる状態であると判断し、表示システム1は第2ARモードで他車両6の方向を指し示す指示画像61を表示する(図21(b))。自車両8を示す表示部品62と他車両6の距離Lが短いため間隔Dは大きく、指示画像61も大きい。
図21に示すように、第2ARモードでは、自車両8を示す表示部品62を中心に、指示画像61が他車両6の方向を直接、指し示すため、乗員に他車両6の存在を警告しやすくなる。
<第2ARモードが開始された時の指示画像61の表示例>>
図22に示すように、第2ARモードが開始された時、より注意喚起性を向上させるために、指示画像61を強調するとよい。図22は第1ARモードが開始され第2ARモードに遷移する際の指示画像61の表示例を示す図である。
まず、図22(a)(b)は第1ARモードが開始される前の自車両8を示す表示部品62の表示例である。図22(a)に示すように、自車両8の隣のレーンの後方を他車両6が走行している。検出部16が他車両6を検出していないか、又は、検出していても所定距離以上離れているので、図22(b)に示すように表示システム1は指示画像61を表示していない。したがって、自車両8を示す表示部品62だけが表示されている。
次に、図22(c)に示すように、他車両6が自車両8の左後側方まで接近した。検出部16が他車両6を検出し、所定距離内に接近したので、図22(d)に示すように表示システム1は指示画像61の表示を開始する。指示画像61は他車両6を指し示す。
次に、図22(e)に示すように、指示画像61が表示領域内で直接、障害物を指し示せる状態になった。表示システム1は第2ARモードに遷移する。この時、表示画像生成部25は図22(f)に示すように、障害物の方向に近づいたり遠ざかったりする位置に指示画像61を表示することを短時間に繰り返す。指示画像61は自車両8を示す表示部品62と障害物を結ぶ直線上の狭い範囲(例えば間隔Dmaxの10~20%程度)を振動する。あるいは、バウンドすると表現できる。
このように、第2ARモードが開始された時、指示画像61が強調されることで、より注意喚起性を向上させることができる。なお、強調する方法としては、指示画像61を一時的に大きくしてもよいし、点滅させてもよいし、又は、一時的に輝度を大きくしてもよい。また、第1ARモードが開始された時に同様の強調処理を行ってもよい。
<指示画像、自車両を示す表示部品の表示例>
図23を用いて、指示画像61、自車両8を示す表示部品62の表示例をいくつか説明する。
まず、自車両8を示す表示部品62は車速に限られない。車速以外に、車両内部から取得できる情報又はインターネットなどを介して外部から取得できる情報を表示部品62にすることができる。また、表示部品62は、例えば図23(a)に示すように、車両のアイコンでもよい。この他、自車両8のシンボル的な図、記号、マーク、文字等であれば自車両8を示す表示部品62となりうる。車速が表示部品62でない場合、車速は継続的に表示されることが好ましいため、アイコンは自車両8に対する障害物の方向θ1に応じて車速の左、右、下側又は上側に表示される。例えば、障害物が自車両8の左側なら車速の左側、右側なら車速の右側、障害物が両側から接近する場合は車速の両側に車両のアイコンが表示される。
その上で、アイコンを中心に自車両8に対する障害物の方向θ1と同じ方向に指示画像61が配置される。図23では、障害物が自車両8の左側から接近する例を示している。
図23(b)は指示画像61の一例である。図23(b)では三角マーク71が指示画像61である。第1ARモードでは、三角マーク71が円形マーク72に沿って回転して障害物を指し示す。第2ARモードでは、三角マーク71が円形マーク72から離れて、障害物を指し示す。
図23(c)は指示画像61の一例である。図23(c)では凸部73が指示画像61である。第1ARモードでは、凸部73と一体の方位マーク74が回転することで障害物を指し示す(方位磁石のイメージ)。第2ARモードでは、凸部73が方位マーク74から分離して三角マーク75となり、障害物を指し示す。
図23(d)は複数の指示画像61の表示例である。虚像Iの表示領域に同時に表示できる指示画像61は1つに限られず、検出された障害物の数だけ表示可能である。自車両との距離Lが近い順に所定数の指示画像61を表示してもよい。
図23(e)は同じく複数の指示画像61の表示例である。複数の指示画像61が表示された場合、一方が第1ARモードで表示され、他方が第2ARモードで表示される場合もある。
<まとめ>
以上説明したように、本実施形態の表示システムは、第1ARモードから第2ARモードにシームレスに遷移する。第2ARモードでは障害物の方向に矢頭を向けながら、障害物に接近する方向に移動するので、距離や方向を把握しやすい。第1ARモードで他車両6の方向を指し示していた指示画像61が、自車両8を示す表示部品62と他車両6の相対位置の変化にしたがって、指し示す向きを変えながら表示領域の外側に向かって移動し、やがて他車両6を直接指し示すので、限られた表示領域で障害物に対し連続性のある警告が可能になる。このように、乗員から見て車両前方に情報を表示する表示システムであっても、限られた表示領域で周囲の障害物の存在を適切に乗員に提示できる。
<その他の好適例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、他車両6を表す表示部品を表示してもよい。この場合、自車両8を示す表示部品62、指示画像61及び他車両6を表す表示部品が一直線上に並んで表示される。この場合、他車両6を表す表示部品を障害物の種類に応じて変更してよい。
また、障害物の種類に応じて、指示画像61の形状等を変更してもよい。また、指示画像61を大きくする場合には、自車両8を示す表示部品62を小さくしてもよい。これにより、視覚的な錯覚で指示画像61がより大きく見え、間隔Dも大きく見える。あるいは、自車両8を示す表示部品62の輝度を小さくするなど、目立たせなくしてもよい。
また、指示画像61は常に虚像Iの中央にある必要はなく、前後左右に寄っていてもよい。また、動的に移動してもよい。例えば、左から他車両6が接近する場合に、自車両8を示す表示部品62が右に寄せて表示し、自車両8を示す表示部品62の左側のスペースを広く取ることで指示画像61が移動できる距離を長く取ることができる。
また、指示画像61は必ずしもAR表示しなくてもよいし、AR表示する場合でも路面に沿っていなくてよい。例えば、路面より上方に浮かんでいてもよい。
また、表示システム1は液晶ディスプレイなどでもよい。また、表示制御部20と表示部10は別々に流通するなど、筐体が分かれていてもよい。例えば、スマートフォンを表示制御部20としてスマートフォンが内蔵するディスプレイに情報を表示してもよいし、虚像をコンバイナに表示してもよい。
また、表示システム1が表示する情報は車速に限られず、車両内部から取得できる情報又はインターネットなどを介して外部から取得できる情報を表示できる。
また、自車両を示す表示部品62の位置は虚像Iの表示領域の中心である必要はなく、自車両に対する障害物の方向θ1に従って、中心から右側、左側又は両側に表示させてもよい。
また、図9などの構成例は、表示制御部20による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示制御部20の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
1 表示システム
2 車載システム
9 車両
10 表示装置
11 カーナビゲーションシステム
20 表示制御部
特許6303428号公報

Claims (20)

  1. 透過部材を介して移動体の前方に虚像を提示する表示部に情報を提示させる表示制御装置であって、
    前記移動体の周囲の障害物に関する情報を取得する情報取得部と、
    虚像として提示された際、前記障害物の方向を指し示すと共に、前記障害物の方向に接近するように移動する指示画像のデータを前記情報取得部が取得した前記障害物に関する情報に基づいて生成する表示画像生成部と、
    前記表示画像生成部が生成した前記指示画像、及び、前記移動体に対し所定の位置に表示される前記移動体を表す表示部品、を前記表示部に出力する出力部と、を有し、
    前記出力部は、前記表示部品と前記障害物との距離に応じて、前記表示部品と前記指示画像との間隔を変化させることを特徴とする表示制御装置。
  2. 前記表示画像生成部は、虚像内において予め定めた所定の範囲から前記障害物の方向に接近するように前記指示画像が移動するデータを生成することを特徴とする請求項1に記載の表示制御装置。
  3. 前記所定の範囲は、前記移動体を表す前記表示部品を中心にした所定の範囲であることを特徴とする請求項2に記載の表示制御装置。
  4. 前記表示画像生成部は、虚像内において前記移動体を示す前記表示部品を中心にして前記表示部品に近接させて、前記移動体に対する前記障害物の方向を指し示す前記指示画像のデータを生成することを特徴とする請求項1~3のいずれか1項に記載の表示制御装置。
  5. 前記表示画像生成部は、虚像内において前記移動体を示す前記表示部品に近接させて提示されていた前記指示画像が、前記障害物に関する情報に応じて、前記表示部品から離れて前記障害物の方向に徐々に移動する前記指示画像のデータを生成することを特徴とする請求項4に記載の表示制御装置。
  6. 前記表示画像生成部は、前記障害物に関する情報に基づいて決定した前記障害物と虚像内において前記移動体を示す前記表示部品との距離が近いほど、虚像内において前記移動体を示す表示部品との間隔を大きくして、前記指示画像のデータを生成することを特徴とする請求項5に記載の表示制御装置。
  7. 前記表示画像生成部は、前記障害物に関する情報に基づいて決定した前記障害物と虚像内において前記移動体を示す前記表示部品との距離が近いほど、大きい前記指示画像のデータを生成することを特徴とする請求項5又は6に記載の表示制御装置。
  8. 前記表示画像生成部は、前記障害物に関する情報に含まれる前記移動体に対する前記障害物の方向に応じて、
    虚像内において前記移動体を示す前記表示部品を中心にして前記表示部品に近接させて前記障害物の方向を指し示す前記指示画像のデータを生成するか、
    前記障害物に関する情報に応じて虚像内を前記障害物の方向に移動する前記指示画像のデータを生成するかを切り替えることを特徴とする請求項4~7のいずれか1項に記載の表示制御装置。
  9. 透過部材を介して移動体の前方に虚像を提示する表示部に情報を提示させる表示制御装置であって、
    前記移動体の周囲の障害物に関する情報を取得する情報取得部と、
    虚像として提示された際、前記障害物の方向を指し示すと共に、前記障害物の方向に接近するように移動する指示画像のデータを前記情報取得部が取得した前記障害物に関する情報に基づいて生成する表示画像生成部と、
    前記表示画像生成部が生成した前記指示画像を前記表示部に出力する出力部と、を有し、
    前記移動体の後方又は後側方の前記障害物が検出された場合、
    前記表示画像生成部は、虚像内において前記移動体を示す表示部品を中心にして前記表示部品に近接させて、前記移動体に対する前記障害物の方向を指し示す前記指示画像のデータを生成し、
    後方又は後側方の前記障害物が前記移動体を追い抜く際、虚像内において前記移動体を示す前記表示部品から見た前記障害物の方向が、所定の方向になった場合、
    前記表示画像生成部は、前記表示部品に近接していた前記障害物の方向を指し示す前記指示画像が前記障害物の方向への移動を開始するデータを生成することを特徴とする表示制御装置。
  10. 前記移動体の前方に前記障害物が検出された場合、
    前記表示画像生成部は、虚像内において前記移動体を示す前記表示部品に対する前記障害物の方向を指し示す前記指示画像のデータを、前記障害物と虚像として提示される前記表示部品との距離及び前記障害物の方向とに応じて定まる虚像内の位置に生成し、
    前記障害物を前記移動体が追い越す際、虚像内において前記移動体を示す前記表示部品から見た前記障害物の方向が、所定の方向になった場合、
    前記表示画像生成部は、虚像内において前記移動体を示す前記表示部品を中心にして前記表示部品に近接させて、前記移動体に対する前記障害物の方向を指し示す前記指示画像のデータを生成することを特徴とする請求項8に記載の表示制御装置。
  11. 前記障害物に関する情報に含まれる前記障害物の方向が所定の方向になった場合、
    前記表示画像生成部は、虚像内において前記移動体を示す前記表示部品を中心にして前記表示部品に近接させて配置されている前記障害物の方向を指し示す前記指示画像を強調するデータを生成することを特徴とする請求項8~10のいずれか1項に記載の表示制御装置。
  12. 前記表示画像生成部は、前記移動体を示す前記表示部品と前記障害物を結ぶ直線上において、前記障害物の方向に近づいたり遠ざかったりする位置に前記指示画像のデータを生成することを短時間に繰り返すことを特徴とする請求項11に記載の表示制御装置。
  13. 前記表示画像生成部は、前記障害物に関する情報に基づいて前記障害物が前記移動体の乗員の視界に入ったと判断される場合、前記指示画像を非表示にすることを特徴とする請求項1~12のいずれか1項に記載の表示制御装置。
  14. 虚像内において前記移動体を示す前記表示部品は前記移動体の車速を示す表示部品であることを特徴とする請求項1~13のいずれか1項に記載の表示制御装置。
  15. 前記表示画像生成部は、前記障害物に関する情報に基づいて決定した前記障害物と虚像として提示される前記移動体を示す前記表示部品との距離が近いほど、明るい前記指示画像を生成することを特徴とする請求項1~14のいずれか1項に記載の表示制御装置。
  16. 請求項1~15のいずれか1項に記載の表示制御装置から前記指示画像を取得して、
    前記指示画像をフロントウィンドウシールドに投影することで、前記フロントウィンドウシールドの前方に前記指示画像の虚像を乗員に対し視認させることを特徴とする表示装置。
  17. 請求項1~15のいずれか1項に記載の表示制御装置と、
    前記表示制御装置から前記指示画像を取得して、前記指示画像をフロントウィンドウシールドに投影することで、前記フロントウィンドウシールドの前方に前記指示画像の虚像を視認させる表示装置と、
    を有することを特徴とする表示システム。
  18. 請求項17に記載の表示システムが搭載された移動体。
  19. 移動体に搭載された表示装置に情報を表示する表示制御装置を、
    前記移動体の周囲の障害物に関する情報を取得する情報取得部と、
    虚像として提示された際、前記障害物の方向を指し示すと共に、前記障害物の方向に接近するように移動する指示画像のデータを前記情報取得部が取得した前記障害物に関する情報に基づいて生成する表示画像生成部と、
    前記表示画像生成部が生成した前記指示画像、及び、前記移動体に対し所定の位置に表示される前記移動体を表す表示部品、を前記表示装置に出力する出力部、として機能させ、
    前記出力部は、前記表示部品と前記障害物との距離に応じて、前記表示部品と前記指示画像との間隔を変化させるプログラム。
  20. 移動体に搭載された表示装置に情報を表示する表示制御装置が行う画像生成方法であって、
    情報取得部が、前記移動体の周囲の障害物に関する情報を取得するステップと、
    表示画像生成部が、虚像として提示された際、前記障害物の方向を指し示すと共に、前記障害物の方向に接近するように移動する指示画像のデータを前記情報取得部が取得した前記障害物に関する情報に基づいて生成するステップと、
    出力部が、前記表示画像生成部が生成した前記指示画像、及び、前記移動体に対し所定の位置に表示される前記移動体を表す表示部品、を前記表示装置に出力するステップと、
    前記表示部品と前記障害物との距離に応じて、前記表示部品と前記指示画像との間隔を変化させるステップと、
    を有することを特徴とする画像生成方法。
JP2019053391A 2019-03-20 2019-03-20 表示制御装置、表示装置、表示システム、移動体、プログラム、画像生成方法 Active JP7222285B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019053391A JP7222285B2 (ja) 2019-03-20 2019-03-20 表示制御装置、表示装置、表示システム、移動体、プログラム、画像生成方法
EP19828336.8A EP3899916B1 (en) 2019-03-20 2019-12-10 Display control apparatus, display apparatus, display system, moving body, program, and image generation method
US17/428,992 US11850941B2 (en) 2019-03-20 2019-12-10 Display control apparatus, display apparatus, display system, moving body, program, and image generation method
PCT/JP2019/048345 WO2020188910A1 (en) 2019-03-20 2019-12-10 Display control apparatus, display apparatus, display system, moving body, program, and image generation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019053391A JP7222285B2 (ja) 2019-03-20 2019-03-20 表示制御装置、表示装置、表示システム、移動体、プログラム、画像生成方法

Publications (2)

Publication Number Publication Date
JP2020152264A JP2020152264A (ja) 2020-09-24
JP7222285B2 true JP7222285B2 (ja) 2023-02-15

Family

ID=69024564

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019053391A Active JP7222285B2 (ja) 2019-03-20 2019-03-20 表示制御装置、表示装置、表示システム、移動体、プログラム、画像生成方法

Country Status (4)

Country Link
US (1) US11850941B2 (ja)
EP (1) EP3899916B1 (ja)
JP (1) JP7222285B2 (ja)
WO (1) WO2020188910A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111227782B (zh) * 2019-03-13 2023-07-28 株式会社拓普康 视标呈现装置和眼科装置
CN110244760A (zh) * 2019-06-06 2019-09-17 深圳市道通智能航空技术有限公司 一种避障方法、装置和电子设备
JP7379297B2 (ja) * 2020-08-27 2023-11-14 本田技研工業株式会社 移動体
KR102300079B1 (ko) * 2020-12-07 2021-09-10 (주)더게러지 후측방 위험 감지 알림 디스플레이 시스템 및 그 동작방법
JP2022152607A (ja) * 2021-03-29 2022-10-12 本田技研工業株式会社 運転支援装置、運転支援方法、及びプログラム
WO2023122131A1 (en) * 2021-12-23 2023-06-29 Stoneridge Electronics Ab Camera monitor system including integrated range sensor
CN117631911A (zh) * 2022-08-17 2024-03-01 华为技术有限公司 显示方法、电子设备、存储介质及程序产品

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008015758A (ja) 2006-07-05 2008-01-24 Honda Motor Co Ltd 運転支援装置
JP2016062368A (ja) 2014-09-18 2016-04-25 日本精機株式会社 車両用周辺情報表示システム及び表示装置
JP2017138796A (ja) 2016-02-03 2017-08-10 日本精機株式会社 車両用表示装置
JP2017174358A (ja) 2016-03-25 2017-09-28 日産自動車株式会社 車両用表示方法及び車両用表示装置
JP2018180908A (ja) 2017-04-12 2018-11-15 トヨタ自動車株式会社 注意喚起装置

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5381285B2 (ja) 2009-04-27 2014-01-08 株式会社リコー 画像形成装置、情報登録方法およびプログラム
JP5817374B2 (ja) 2011-09-16 2015-11-18 株式会社リコー 画像処理装置、画像処理方法およびプログラム
JP5923934B2 (ja) 2011-11-08 2016-05-25 株式会社リコー 画像処理装置及びプログラム
JP5938893B2 (ja) 2011-12-22 2016-06-22 株式会社リコー 画像処理装置及びプログラム
JP6089828B2 (ja) 2013-03-15 2017-03-08 株式会社リコー 情報処理システムおよび情報処理方法
JP6303428B2 (ja) 2013-11-19 2018-04-04 日本精機株式会社 車両情報投影システム
JP6237787B2 (ja) 2013-11-22 2017-11-29 株式会社リコー 収納ケース
JP2016048541A (ja) 2014-06-19 2016-04-07 株式会社リコー 情報処理システム、情報処理装置及びプログラム
EP3093194B1 (en) 2015-04-24 2021-09-22 Ricoh Company, Ltd. Information provision device
JP6703747B2 (ja) 2015-09-18 2020-06-03 株式会社リコー 情報表示装置、情報提供システム、移動体装置、情報表示方法及びプログラム
EP3357734A4 (en) 2015-10-02 2018-09-05 Ricoh Company, Ltd. Display device
KR101824982B1 (ko) * 2015-10-07 2018-02-02 엘지전자 주식회사 차량 및 그 제어방법
JP6304272B2 (ja) * 2016-02-04 2018-04-04 トヨタ自動車株式会社 車両用注意喚起装置
EP3415972B1 (en) * 2016-02-08 2021-03-31 Ricoh Company, Ltd. Information display apparatus
JP6806097B2 (ja) 2016-02-08 2021-01-06 株式会社リコー 画像表示装置及び画像表示方法
EP3415971A4 (en) 2016-02-10 2019-03-20 Ricoh Company, Ltd. INFORMATION DISPLAY DEVICE
EP3415373B1 (en) 2016-02-10 2020-10-07 Ricoh Company, Ltd. Information providing device
JP6658859B2 (ja) 2016-02-18 2020-03-04 株式会社リコー 情報提供装置
US10162651B1 (en) * 2016-02-18 2018-12-25 Board Of Trustees Of The University Of Alabama, For And On Behalf Of The University Of Alabama In Huntsville Systems and methods for providing gaze-based notifications
EP3246664A3 (en) * 2016-05-19 2018-02-14 Ricoh Company, Ltd. Information processing system and information display apparatus
JP6870447B2 (ja) 2016-05-20 2021-05-12 株式会社リコー Hud装置、車両装置、情報表示方法。
JP6834537B2 (ja) 2017-01-30 2021-02-24 株式会社リコー 表示装置、移動体装置、表示装置の製造方法及び表示方法。
JP6551377B2 (ja) * 2016-12-15 2019-07-31 トヨタ自動車株式会社 車両用注意喚起装置
JP6520905B2 (ja) * 2016-12-19 2019-05-29 トヨタ自動車株式会社 車両用運転支援装置
JP6972549B2 (ja) 2016-12-28 2021-11-24 株式会社リコー Hud装置、車両装置及び表示方法
JP2018105838A (ja) 2016-12-28 2018-07-05 株式会社リコー 情報表示装置及び車両装置
JP6922217B2 (ja) * 2016-12-28 2021-08-18 株式会社リコー 表示装置、物体装置及び表示方法
JP6930120B2 (ja) * 2017-02-02 2021-09-01 株式会社リコー 表示装置、移動体装置及び表示方法。
CN108791062B (zh) * 2017-05-02 2021-12-10 上海蔚兰动力科技有限公司 动态信息***及操作方法
JP2019053391A (ja) 2017-09-13 2019-04-04 日本電産シンポ株式会社 移動体
EP3547299A3 (en) 2018-03-27 2019-11-27 Ricoh Company, Ltd. Display device, display system, mobile object, display-brightness control method, and carrier means storing program code
TWM590547U (zh) * 2019-09-30 2020-02-11 秀育企業股份有限公司 用於車輛的顯示裝置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008015758A (ja) 2006-07-05 2008-01-24 Honda Motor Co Ltd 運転支援装置
JP2016062368A (ja) 2014-09-18 2016-04-25 日本精機株式会社 車両用周辺情報表示システム及び表示装置
JP2017138796A (ja) 2016-02-03 2017-08-10 日本精機株式会社 車両用表示装置
JP2017174358A (ja) 2016-03-25 2017-09-28 日産自動車株式会社 車両用表示方法及び車両用表示装置
JP2018180908A (ja) 2017-04-12 2018-11-15 トヨタ自動車株式会社 注意喚起装置

Also Published As

Publication number Publication date
US11850941B2 (en) 2023-12-26
EP3899916B1 (en) 2023-11-22
JP2020152264A (ja) 2020-09-24
US20220024316A1 (en) 2022-01-27
WO2020188910A1 (en) 2020-09-24
EP3899916A1 (en) 2021-10-27

Similar Documents

Publication Publication Date Title
JP7222285B2 (ja) 表示制御装置、表示装置、表示システム、移動体、プログラム、画像生成方法
JP7074432B2 (ja) 車両制御システム、車両制御方法、および車両制御プログラム
WO2018220832A1 (ja) 車両制御システム、車両制御方法、およびプログラム
CN110786004B (zh) 显示控制装置、显示控制方法及存储介质
WO2019092846A1 (ja) 表示システム、表示方法、およびプログラム
US11752940B2 (en) Display controller, display system, mobile object, image generation method, and carrier means
WO2020208989A1 (ja) 表示制御装置及び表示制御プログラム
US12008683B2 (en) Vehicle augmented reality navigational image output device and control methods
US20230399004A1 (en) Ar display device for vehicle and method for operating same
US10854172B2 (en) Display system, display control method, and storage medium
WO2021132259A1 (en) Display apparatus, display method, and program
JP2021105986A (ja) 表示装置、移動体、表示方法及びプログラム
JP2021117704A (ja) 表示装置、及び表示方法
JP7111121B2 (ja) 表示制御装置及び表示制御プログラム
JP2021117089A (ja) 表示装置、及び表示方法
EP3888966A1 (en) Vehicle display device
JP2023149512A (ja) 運転支援装置、運転支援方法、およびプログラム
JP2023149504A (ja) 運転支援装置、運転支援方法、およびプログラム
JP7318431B2 (ja) 表示制御装置及び表示制御プログラム
WO2021132408A1 (en) Display apparatus, moving body, display method, and program
WO2021149740A1 (en) Display apparatus, movable body, display method, program, and non-transitory recording medium
JP2021109555A (ja) 表示制御装置、システム、表示システム、情報表示方法
WO2021132250A1 (en) In-vehicle display device and program
JP2021117220A (ja) 表示装置、移動体、表示方法、及びプログラム
JP2021104803A (ja) 表示装置、表示方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221012

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230117

R151 Written notification of patent or utility model registration

Ref document number: 7222285

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151