JP2019164317A - 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム - Google Patents

画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム Download PDF

Info

Publication number
JP2019164317A
JP2019164317A JP2018053557A JP2018053557A JP2019164317A JP 2019164317 A JP2019164317 A JP 2019164317A JP 2018053557 A JP2018053557 A JP 2018053557A JP 2018053557 A JP2018053557 A JP 2018053557A JP 2019164317 A JP2019164317 A JP 2019164317A
Authority
JP
Japan
Prior art keywords
image
unit
display
correction
main body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018053557A
Other languages
English (en)
Other versions
JP6890306B2 (ja
Inventor
勝長 辻
Masanaga Tsuji
勝長 辻
森 俊也
Toshiya Mori
俊也 森
研一 笠澄
Kenichi Kasasumi
研一 笠澄
三野 吉輝
Yoshiteru Mino
吉輝 三野
忠司 芝田
Tadashi Shibata
忠司 芝田
中野 信之
Nobuyuki Nakano
信之 中野
田中 彰
Akira Tanaka
彰 田中
祥平 林
Shohei Hayashi
祥平 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2018053557A priority Critical patent/JP6890306B2/ja
Priority to US16/354,820 priority patent/US11004424B2/en
Priority to DE102019106736.7A priority patent/DE102019106736A1/de
Priority to CN201910208006.0A priority patent/CN110308556B/zh
Publication of JP2019164317A publication Critical patent/JP2019164317A/ja
Priority to JP2021041530A priority patent/JP7117592B2/ja
Priority to US17/230,556 priority patent/US11315528B2/en
Application granted granted Critical
Publication of JP6890306B2 publication Critical patent/JP6890306B2/ja
Priority to US17/698,473 priority patent/US11646000B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/64Imaging systems using optical elements for stabilisation of the lateral and angular position of the image
    • G02B27/646Imaging systems using optical elements for stabilisation of the lateral and angular position of the image compensating for small deviations, e.g. due to vibration or shake
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0967Systems involving transmission of highway information, e.g. weather, speed limits
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/18Information management
    • B60K2360/186Displaying information according to relevancy
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/23Optical features of instruments using reflectors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/25Optical features of instruments using filters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/33Illumination features
    • B60K2360/334Projection means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/211Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays producing three-dimensional [3D] effects, e.g. stereoscopic images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/29Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/011Head-up displays characterised by optical features comprising device for correcting geometrical aberrations, distortion
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0112Head-up displays characterised by optical features comprising device for genereting colour display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0183Adaptation to parameters characterising the motion of the vehicle
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B2027/0192Supplementary details
    • G02B2027/0196Supplementary details having transparent supporting structure for display mounting, e.g. to a window or a windshield
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0492Change of orientation of the displayed image, e.g. upside-down, mirrored
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/18Use of a frame buffer in a display terminal, inclusive of the display panel
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Atmospheric Sciences (AREA)
  • Computer Graphics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Geometry (AREA)
  • Instrument Panels (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】表示画像の表示遅延を低減し、かつ表示画像の描画範囲の制限を低減する映像表示システムを提供する。【解決手段】映像表示システムは、表示部20と、投影部と、本体部と、画像形成部21と、を備える。表示部20は、画像を表示する。投影部は、表示部20の出力光により、画像に対応する虚像を対象空間に投影する。本体部1には、表示部20及び投影部が設けられる。画像形成部21は、第1補正部41と、第2補正部42とを備える。第1補正部41は、本体部1の姿勢変化を表す第1姿勢信号に基づいて、対象空間での虚像の表示位置を補正する第1補正処理を実行する。第2補正部42は、本体部1の第1姿勢変化よりも速く変化する第2姿勢変化を表す第2姿勢信号に基づいて、対象空間での虚像の表示位置を補正する第2補正処理を実行する。第1補正処理及び第2補正処理は、画像形成処理の複数の処理段階のうちの異なる処理段階で実行される。【選択図】図4

Description

本開示は、一般に映像表示システム、映像表示方法、プログラム、及び映像表示システムを備える移動体に関し、より詳細には、対象空間に虚像を投影する映像表示システム、映像表示方法、プログラム、及び映像表示システムを備える移動体に関する。
従来、対象空間に虚像を投影する映像表示システムとして、特許文献1に記載のヘッドアップディスプレイ装置が知られている。このヘッドアップディスプレイ装置は、表示器から出力された表示光を車両のフロントガラスに照射することで、ユーザに、表示器の表示画像の虚像を車両の前方の実景と重ねて視認させている。
このヘッドアップディスプレイ装置は、車両振動入力部と、表示制御部と、を備えている。車両振動入力部には、車両の振動情報(すなわち車両の姿勢情報)が入力される。表示制御部は、振動情報に基づいて表示画像を補正することで、虚像の表示位置を補正する。より詳細には、表示制御部は、表示画像を第1のレイヤーに描画した後、第1のレイヤーに描画された表示画像の表示位置を、車両の振動を相殺する方向に移動させる。なお、第1のレイヤーは、表示器の表示面に対応して仮想的に設けられた面である。この結果、車両が振動しても、虚像の表示位置が、実景中の対象物に対して所定の位置関係を保つように補正される。
特開2017−13590号公報
上記のヘッドアップディスプレイ装置では、振動情報に基づく表示画像の表示位置の補正は、表示画像を描画する描画処理にて実行される。このため、表示部の表示遅延(例えば数フレーム分の遅延)が発生し易い。また、表示画像の表示位置をずらす補正を行うと、ずらした分、表示画像が表示面の外に切れる。この画像切れを低減するには、表示画像を描画するときに、描画可能な描画範囲を狭い範囲に制限する必要がある。
本開示は、上記事由に鑑みて、表示画像の表示遅延を低減し、かつ表示画像の描画範囲の制限を低減することができる映像表示システム、映像表示方法、プログラム、及び映像表示システムを備える移動体を提供することを目的とする。
本開示の一態様に係る映像表示システムは、画像形成部と、表示部と、投影部と、本体部と、を備える。前記画像形成部は、前記画像を形成する。前記表示部は、前記画像形成部で形成された前記画像を表示する。前記投影部は、前記表示部の出力光により、前記画像に対応する虚像を対象空間に投影する。前記本体部は、前記表示部及び前記投影部が設けられる。前記画像形成部は、第1補正部と、第2補正部と、を備える。前記第1補正部は、前記本体部の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する第1補正処理を実行する。前記第2補正部は、前記本体部の姿勢変化であって第1姿勢変化よりも変化速度の速い第2姿勢変化を表す第2姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する第2補正処理を、前記第1補正部による前記第1補正処理の実行タイミングとは異なるタイミングで実行する。
本開示の一態様に係る移動体は、前記映像表示システムと、移動体本体と、を備える。前記移動体本体は、前記映像表示システムが設けられる。
本開示の一態様に係る映像表示方法は、表示部と、投影部と、本体部と、を有する映像表示システムを用いた映像表示方法である。前記表示部は、画像を表示する。前記投影部は、前記表示部の出力光により、前記画像に対応する虚像を対象空間に投影する。前記本体部は、前記表示部及び前記投影部が設けられている。上記の映像表示方法は、画像形成処理を含む。前記画像形成処理は、前記表示部に表示される前記画像を形成する。前記画像形成処理は、第1補正処理と、第2補正処理と、を含む。前記第1補正処理は、前記本体部の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する。前記第2補正処理は、前記本体部の姿勢変化であって前記第1姿勢変化よりも変化速度の速い第2姿勢変化を表す第2姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する。前記第1補正処理及び前記第2補正処理を、互いに異なるタイミングで実行する。
本開示の一態様に係るプログラムは、コンピュータに、前記映像表示方法を実行させるためのプログラムである。
本開示は、表示画像の表示遅延を低減し、かつ表示画像の描画範囲の制限を低減することができる、という利点がある。
図1は、本実施形態に係る映像表示システムの構成を示す概念図である。 図2は、同上の映像表示システムを備える自動車の概念図である。 図3は、同上の映像表示システムを用いた場合の運転者の視野を示す概念図である。 図4は、同上の映像表示システムの画像表示部の構成を示すブロック図である。 図5Aは、本体部に姿勢変化が無い場合の3次元仮想空間での画像の描画方法を説明する概念図、図5Bは、本体部に姿勢変化が無い場合の運転者の視野を示す概念図である。 図6Aは、本体部に第1姿勢変化が生じた場合の3次元仮想空間での画像の描画方法を説明する概念図、図6Bは、本体部に第1姿勢変化が生じた場合の運転者の視野を示す概念図である。 図7は、振動補正処理及び歪み補正処理の処理方法を説明する概念図である。 図8は、振動補正処理での変化量(振動量)と補正量との関係の一例を示すグラフである。 図9は、表示部の変形例を示す概念図である。
(実施形態)
(1)概要
本実施形態に係る映像表示システム10は、図1及び図2に示すように、例えば、移動体本体としての自動車100に用いられるヘッドアップディスプレイ(HUD:Head-Up Display)である。本実施形態では、映像表示システム10と、映像表示システム10が設けられた自動車100(移動体本体)と、を含む全体を移動体とする。
映像表示システム10は、自動車100のウインドシールド101に下方から画像を投影するように、自動車100の車室内に配置されている。図2の例では、ウインドシールド101の下方のダッシュボード102内に、映像表示システム10が配置されている。映像表示システム10からウインドシールド101に画像が投影されると、ユーザ(運転者)200は、ウインドシールド101に投影された画像を、自動車100の前方(車外)に設定された対象空間400内に表示された虚像300として視認する。
ここでいう「虚像」は、映像表示システム10から出射される画像光がウインドシールド101等の反射物にて発散するとき、その発散光線によって、実際に物体があるように結ばれる像を意味する。また、ウインドシールド101は、画像700が投影される投影対象物である。
そのため、自動車100を運転しているユーザ200は、図3に示すように、自動車100の前方に広がる実景に重ねて、映像表示システム10にて投影される虚像300を見ることができる。したがって、映像表示システム10によれば、種々の運転支援情報を虚像300として実景と重ねて表示して、ユーザ200に視認させることができる。運転支援情報は、例えば、車速情報、ナビゲーション情報、歩行者情報、前方車両情報、車線逸脱情報、及び車両コンディション情報等である。これにより、ユーザ200は、ウインドシールド101の前方に視線を向けた状態から僅かな視線移動だけで、運転支援情報を視覚的に取得することができる。
対象空間400に表示される虚像300は、例えば、ナビゲーション情報として自動車100の進行方向を示す情報であり、路面600上に右折又は左折を示す矢印である。この種の虚像300は、拡張現実(AR:Augmented Reality)技術を用いて表示される画像であって、ユーザ200から見た実景(路面600、建物、周辺車両、及び歩行者等)における特定の位置に重畳して表示される。
対象空間400に表示成される虚像300は、映像表示システム10の光軸500に交差する仮想面501上に形成される。光軸500は、自動車100の前方の対象空間400において、自動車100の前方の路面600に沿っている。虚像300が形成される仮想面501は、路面600に対して略垂直である。例えば、路面600が水平面である場合には、虚像300は鉛直面に沿って表示される。
映像表示システム10は、図1に示すように、画像表示部2と、投影部3と、本体部1と、を備えている。画像表示部2は、表示面20aを有し、表示面20aに画像700を表示する。投影部3は、画像表示部2の出力光により、画像700に対応する虚像300(図2参照)を対象空間400(図2参照)に投影する投影処理を実行する。本体部1には、これら画像表示部2及び投影部3が設けられている。
このような本体部1が自動車100に搭載された状態では、例えば、路面600の状況、及び自動車100の加減速等に起因して、本体部1の姿勢が自動車100の姿勢と共に変化する。具体的には、例えば、自動車100が減速等により前傾姿勢になれば本体部1も前傾姿勢となり、自動車100が加速等により後傾姿勢になれば本体部1も後傾姿勢になる。映像表示システム10の本体部1の姿勢が変化すると、虚像300と実景との相対的な配置関係が変化する。そのため、例えば、本体部1の姿勢が変化した場合に、虚像300は、ユーザ200から見た実景において本来重畳すべき特定の位置からずれた位置に表示される。
そこで、映像表示システム10は、図4に示すように、本体部1の姿勢変化に応じて、虚像300が実景の本来重畳すべき特定の位置に表示されるように、対象空間400での虚像300の表示位置を補正する第1補正部41及び第2補正部42を備えている。第1補正部41は、本体部1の姿勢変化である第1姿勢変化に応じて、虚像300の表示位置を補正する第1補正処理を実行する。第2補正部42は、本体部1の姿勢変化である第2姿勢変化に応じて、虚像300の表示位置を補正する第2補正処理を実行する。第2補正部42は、第1補正部による第1補正処理の実行タイミングとは異なるタイミングで第2補正処理を実行する。なお、第2姿勢変化は、第1姿勢変化よりも変化速度の速い姿勢変化である。
第1姿勢変化とは、本体部1の姿勢変化の変化速度が比較的遅い姿勢変化である。つまり、第1姿勢変化とは、第1周波数未満の周波数の振動(姿勢変化)である。換言すれば、第1姿勢変化とは、本体部1の姿勢変化の発生頻度が第1頻度よりも低い姿勢変化である。さらに換言すれば、第1姿勢変化とは、本体部1の姿勢変化後の姿勢が一定時間継続するような本体部1の姿勢変化である。このような第1姿勢変化は、例えば、自動車100の加減速による姿勢変化などである。
第2姿勢変化とは、本体部1の姿勢変化の変化速度が比較的速い姿勢変化である。第2姿勢変化と第1姿勢変化とを比べると、第2姿勢変化は、第1姿勢変化の変化速度よりも速い姿勢変化である。つまり、第2姿勢変化とは、本体部1における第2周波数以上の周波数の振動(姿勢変化)である。換言すれば、第2姿勢変化とは、本体部1の姿勢変化の発生頻度が第2頻度よりも高い姿勢変化である。さらに換言すれば、第2姿勢変化とは、時間経過に伴って本体部1の姿勢が変化するような本体部1の姿勢変化である。このような第2姿勢変化は、例えば、自動車100が凸凹道を走行したときの自動車100の上下動に伴って生じる。上記の第1周波数及び第2周波数は、互いに同じ値であってもよく、異なる値であってもよい。上記の第1頻度及び第2頻度は、互いに同じ値であってもよく、異なる値であってもよい。
これにより、本体部1の姿勢変化に応じて、虚像300の表示位置が補正される。そのため、例えば、自動車100に第1姿勢変化又は第2姿勢変化を生じても、映像表示システム10は、虚像300を、ユーザ200から見た実景において本来重畳すべき特定の位置に重畳して表示することが可能である。
そして、映像表示システム10では、第1補正部41及び第2補正部42は、自動車100の姿勢変化の種類(第1姿勢変化又は第2姿勢変化)に応じて、使い分けられている。したがって、自動車100の姿勢変化に連動して本体部1に様々な姿勢変化が生じた場合でも、姿勢変化の種類(第1姿勢変化又は第2姿勢変化)に応じて、画像表示部2での複数の処理段階の中の適した処理段階で、虚像300の表示位置を補正できる。
例えば、第2姿勢変化に対する虚像300の表示位置の補正処理は、リアルタイム性が要求されるため、リアルタイムで処理可能な処理段階で実行される。第1姿勢変化に対する虚像の表示位置の補正処理は、リアルタイム性が要求されないため、補正処理の際に画像700の描画範囲が制限され難い処理段階で実行される。その結果、本体部1の姿勢変化に応じて虚像300の表示位置を補正するとき、虚像300の表示遅延を低減し、かつ虚像300に対応する画像700の描画範囲の制限を低減できる、という利点がある。
(2)構成
映像表示システム10は、図1に示すように、本体部1と、画像表示部2と、投影部3と、振動センサ5と、ローパスフィルタ6と、ハイパスフィルタ7と、を備えている。振動センサ5とローパスフィルタ6とで、本体部1の第1姿勢変化を検出して第1姿勢信号として出力する第1検出部が構成されている。振動センサ5とハイパスフィルタ7とで、本体部1の第2姿勢変化を検出して第2姿勢信号として出力する第2検出部が構成されている。
本体部1は、例えば、筐体にて構成されている。本体部1内には、画像表示部2、投影部3、振動センサ5、ローパスフィルタ6及びハイパスフィルタ7が収容(実装)されている。本体部1は、図2に示すように、自動車100のダッシュボード102内に固定される。本体部1は、筐体でなく、例えば、フレーム又は板材等であってもよい。なお、画像表示部2は、後述のように、表示部20と、画像形成部21と、を備えるが、表示部20及び画像形成部21のうち、画像形成部21は、本体部1に設けられても設けられなくてもよい。
振動センサ5は、本体部1に加わる振動を検出するセンサであり、本体部1に加わる振動を検出することで、本体部1の第1姿勢変化及び第2姿勢変化を検出している。すなわち、本体部1に加わる振動には、第1周波数未満の周波数の振動(第1姿勢変化の情報)と、第2周波数以上の周波数の振動(第2姿勢変化の情報)とが含まれている。本体部1は自動車100に固定されているため、本体部1に加わる振動は、自動車100に加わる振動と同じである。このため、振動センサ5は、自動車100に加わる振動を検出することで、本体部1に加わる振動を検出する。振動センサ5は、自動車100に加わる振動の情報として、例えば自動車100の振動で変化する自動車100のピッチ角を検出する。振動センサ5は、検出した振動に応じた信号をローパスフィルタ6及びハイパスフィルタ7に出力する。
ローパスフィルタ6は、振動センサ5から出力された信号のうち、第1周波数以上の周波数の信号は通過させず、第1周波数未満の周波数の信号(すなわち第1姿勢変化を表す信号)を通過させる。そして、ローパスフィルタ6は、通過させた信号を第1姿勢信号として画像表示部2に出力する。ハイパスフィルタ7は、振動センサ5から出力された信号のうち、第2周波数未満の周波数の信号は通過させず、第2周波数以上の周波数の信号(すなわち第2姿勢変化を表す信号)を通過させる。そして、ハイパスフィルタ7は、通過させた信号を第2姿勢信号として画像表示部2に出力する。第1姿勢信号は、本体部1の第1姿勢変化を表す姿勢信号である。第2姿勢信号は、本体部1の第2姿勢変化を表す姿勢信号である。振動センサ5は、例えばジャイロセンサ(角速度センサ)である。なお、振動センサ5は、ジャイロセンサに限定されず、例えば加速度センサでもよい。
画像表示部2は、表示面20aを有し、表示面20aに画像700を表示し、表示した画像700を投影部3に向けて照射する。画像表示部2は、図1に示すように、表示部20と、画像形成部21と、を有している。表示部20は、画像700を表示する表示処理を実行し、表示した画像700を表示部20の前方に照射する。画像形成部21は、表示部20に表示される画像700を形成する画像形成処理を実行する。本実施形態では、画像700は、自動車100の目的地までの走行経路を案内するために、自動車100が走行する路面上に表示される矢印を表す画像である。以下、矢印画像700とも記載する。したがって、虚像300も矢印を表す像である(図3参照)。
より詳細には、画像形成部21は、自動車100に搭載されたナビゲーション装置からナビゲーション情報を取得する。ナビゲーション情報は、例えば、自動車100が向かう目的地までの走行経路、及び、直近の交差点までの距離などのナビゲーション情報である。そして、画像形成部21は、取得したナビゲーション情報に基づいて、自動車100が走行経路上の直近の交差点に一定距離まで接近したと判定すると、上記の交差点での進行方向を案内するための矢印画像700を形成する。その際、矢印画像700は、その虚像300が対象空間400内の既定位置(例えば上記の交差点に沿って重なる位置)401に表示されるように形成される。そして、画像形成部21は、形成した矢印画像700を表示部20に出力する。これにより、本体部1に姿勢変化が生じていなければ、矢印画像700の虚像300は、対象空間400の既定位置(例えば上記の交差点に沿って重なる位置)401に表示される。
また、画像形成部21は、ローパスフィルタ6からの第1姿勢信号及びハイパスフィルタ7からの第2姿勢信号を取得することで、本体部1の第1姿勢変化及び第2姿勢変化に関する姿勢情報を取得する。本体部1に姿勢変化が生じた場合は、虚像300と実景との相対的な配置関係が変化するため、対象空間400において、虚像300が、実景における本体重畳すべき特定の位置(例えば交差点)からずれた位置に表示される。例えば、自動車100が後傾姿勢になると、ユーザ200の視線が上がり、ユーザ200から見た実景が相対的に下方に移動する。この結果、対象空間400内において、虚像300が、交差点よりも上がった位置に表示される。このため、画像形成部21は、取得した姿勢情報に基づいて表示面20aでの画像700の表示位置を補正することで、対象空間400において、虚像300の表示位置を、既定位置401から、交差点に沿って重なる位置へと補正する。
投影部3は、画像表示部2の表示面20aからの出力光により、画像700に対応する虚像300を対象空間400に投影する。本実施形態では、映像表示システム10は上述したようにヘッドアップディスプレイであるため、投影部3は、ウインドシールド101(図2参照)に画像700を投影する。
投影部3は、図1に示すように、第1ミラー31と、第2ミラー32と、を有している。第1ミラー31及び第2ミラー32は、画像表示部2から、出力光の光路上に、第1ミラー31、第2ミラー32の順で配置されている。より詳細には、第1ミラー31は、画像表示部2の出力光が入射するように、画像表示部2の表示面20aの前方に配置されている。第1ミラー31は、画像表示部2の出力光を、第2ミラー32に向けて反射する。第2ミラー32は、第1ミラー31で反射された画像表示部2の出力光が入射するような位置(例えば第1ミラー31の前方下側の位置)に配置されている。第2ミラー32は、第1ミラー31で反射された画像表示部2の出力光を、上方(すなわちウインドシールド101)に向けて反射する。第1ミラー31は、例えば凸面鏡であり、第2ミラー32は、例えば凹面鏡である。
この構成により、投影部3は、画像表示部2の表示面20aに表示された画像700を、適当な大きさに拡大又は縮小して、投影画像としてウインドシールド101に投影する。この結果、対象空間400に虚像300が表示される。つまり、自動車100を運転しているユーザ200の視野内では、映像表示システム10から投影された画像700の虚像300が、自動車100の前方に広がる実景に重ねて表示される。
図4を参照して、画像形成部21及び表示部20について詳しく説明する。
画像形成部21は、図4に示すように、描画部24と、補正部25と、を備えている。描画部24は、表示部20に表示される画像700(図1参照)を描画する描画処理を実行する。描画部24は、描画部本体241と、描画バッファ242と、を備えている。描画部本体241は、画像700を形成し、描画バッファ242は、描画部本体241で描画された画像700を一時的に保存して補正部25に出力する。補正部25は、描画部24で描画された画像700に各種の補正を行う補正処理を実行して、補正処理した画像700を表示部20に出力する。
本実施形態では、描画部本体241は、画像形成部21が取得した上記のナビゲーション情報に基づいて、上述のように、交差点での進行方向を案内するための画像(矢印画像)700を描画する。
また、描画部本体241は、ローパスフィルタ6からの第1姿勢信号に基づいて、本体部1の第1姿勢変化による虚像300と実景とのずれを相殺するように、画像700を補正する。この画像700の補正処理(第1補正処理)は、画像700の描画時に実行される。より詳細には、描画部本体241は、ローパスフィルタ6からの第1姿勢信号に基づいて、本体部1に第1姿勢変化が生じたと判定する。このように判定したとき、描画部本体241は、本体部1の第1姿勢変化による虚像300と実景とのずれが相殺されるように画像700を描画することで、画像700を補正する。これにより、本体部1に第1姿勢変化が生じても、対象空間400において、虚像300が、ユーザ200から見た実景における本来重畳すべき特定の位置(例えば交差点に沿って重なる位置)に位置に表示される。
このように、描画部本体241は、第1姿勢信号に基づいて、本体部1の第1姿勢変化に応じて、虚像300の表示位置を補正する補正処理(第1補正処理)を画像700に実行する。本実施形態では、描画部本体241(したがって描画部24)が、本体部1の第1姿勢変化に応じて虚像300の表示位置を補正する第1補正部41として機能している。
より詳細には、描画部本体241は、画像700を描画するときは、まず、対象空間400に対応した3次元仮想空間内で、画像700に対応した3次元画像を描画する。そして、描画部本体241は、描画した3次元画像を、3次元仮想空間内の所定の射影面に射影することで2次元画像に変換し、この2次元画像を画像700とする。また、描画部本体241は、画像700の描画時に画像を補正するときは、上記の3次元仮想空間内で上記の3次元画像を描画したときに、上記の3次元画像の位置及び/又は角度を補正することで、画像700を補正する。
このように、本体部1の第1姿勢変化に対する虚像300の表示位置の補正処理(すなわちリアルタイム性が要求されない補正処理)は、画像700の描画時に実行される。これにより、画像700を表示面20aに表示したときに、画像700の一部が表示面20aの外に切れること(すなわち画像切れ)を抑制できる。すなわち、リアルタイム性よりも画像切れを低減することができる。この結果、画像700の描画範囲が制限されることを低減できる。
補正部25は、図4に示すように、映像補正部251と、出力バッファ252(バッファ)と、振動歪み補正部253(補正部本体)と、を備えている。
映像補正部251は、描画バッファ242から出力された画像(すなわち描画部24で描画された画像)700に色調補正処理を行う。色調補正処理とは、画像700の各部の色を調整する補正処理である。より詳細には、映像補正部251は、描画部24で描画された画像700の各部の色を、定められた色となるように補正する。例えば、描画部24で描画された画像700において、白色と定められた部分に赤味がかっている場合は、その赤味がかかった部分を白色に補正する。映像補正部251は、色調補正した画像700を出力バッファ252に出力する。
出力バッファ252は、映像補正部251から出力された画像700を一時的に保存して振動歪み補正部253に出力する。
振動歪み補正部253は、出力バッファ252から出力された画像(すなわち描画部24で描画された画像)700に、振動補正処理(第2補正処理)及び歪み補正処理を実行する。振動歪み補正部253は、補正した画像700を表示部20に出力する。
振動補正処理(第2補正処理)では、振動歪み補正部253は、ハイパスフィルタ7からの第2姿勢信号に基づいて、本体部1の第2姿勢変化による虚像300と実景とのずれを相殺するように、出力バッファ252から出力された画像700を補正する。より詳細には、振動歪み補正部253は、ハイパスフィルタ7からの第2姿勢信号に基づいて、本体部1に振動(すなわち第2姿勢変化)が生じたと判定する。このように判定したとき、振動歪み補正部253は、本体部1の振動による虚像300と実景とのずれを相殺するように、出力バッファ252から出力された画像700を補正する。この補正処理では、画像700が表示面20aに表示されたとき、画像700が所定方向(本体部1の振動による虚像300と実景とのずれを相殺する方向)にずれて表示されるように、画像700を補正する。このように、振動歪み補正部253は、第2姿勢信号に基づいて、虚像300の表示位置を補正する補正処理(第2補正処理)を画像700に実行する。本実施形態では、振動歪み補正部253(したがって補正部25)が、本体部1の第2姿勢変化に応じて虚像300の表示位置を補正する第2補正部42として機能している。
この振動補正処理により、本体部1に第2姿勢変化が生じても、対象空間400において、虚像300が、ユーザ200から見た実景における本来重畳すべき特定の位置(例えば交差点に沿って重なる位置)に位置に表示される。このように、補正部25は、本体部1の第2姿勢変化に応じて虚像300の表示位置を補正する第2補正部42としても機能している。
歪み補正処理では、振動歪み補正部253は、ウインドシールド101及び投影部3での反射で虚像300に生じる歪みが無くなるように、出力バッファ252から出力された画像700を補正する。本実施形態では、歪み補正処理は、振動補正処理の後に実行される。すなわち、振動補正処理及び歪み補正処理は、この順で連続して行われる。
このように、本体部1の第2姿勢変化に対する虚像300の表示位置の補正処理(すなわちリアルタイム性が要求される補正処理)は、出力バッファ252の後段かつ表示部20の前段(すなわち画像形成過程の最終段)で実行される。これにより、表示部20での表示遅延を低減して、本体部1の第2姿勢変化に対する虚像300の表示位置の補正処理を実行することができる。
画像形成部21の画像形成処理は、画像700の形成に際して順次実行される複数のステップを含む。複数のステップの各々は、描画部本体241、描画バッファ242、映像補正部251、出力バッファ252、及び振動歪み補正部253の各々の処理に対応している。第1補正部41及び第2補正部42は、上記の複数のステップのうちの異なるステップ(描画部本体241の処理に対応するステップ、振動歪み補正部253の処理に対応するステップ)で第1補正処理及び第2補正処理を実行している。つまり、第1補正部41は、描画部本体241の処理に対応するステップで第1補正処理を実行する。第2補正部42は、振動歪み補正部253の処理に対応するステップで第2補正処理を実行する。このように、第1補正処理及び第2補正処理が、異なるステップで実行されることで、第1補正処理及び第2補正処理をそれらの特性(例えばリアルタイム性の有無)に合わせた処理段階で実行することができる。
描画部24及び補正部25はそれぞれ、例えば、CPU(Central Processing Unit)及びメモリを主構成とするマイクロコンピュータにて構成されている。言い換えれば、描画部24及び補正部25はそれぞれ、CPU及びメモリを有するコンピュータにて実現されており、CPUがメモリに格納されているプログラムを実行することにより、コンピュータが描画部24又は補正部25として機能する。描画部24のプログラムは描画部24のメモリに予め記録され、補正部25のプログラムは補正部25のメモリに予め記録されているが、インターネット等の電気通信回線を通じて、又はメモリカード等の記録媒体に記録されて提供されてもよい。
表示部20は、図4に示すように、液晶パネル201、光源装置202、及び表示制御部203を有している。液晶パネル201は、画像形成部21で形成された画像700を表示する。光源装置202は、液晶パネル201に表示された画像700を液晶パネル201の前方に照らし出す。表示制御部203は、液晶パネル201及び光源装置202を制御する。
液晶パネル201は、例えばLCD(Liquid Crystal Display)である。液晶パネル201は、光源装置202の前方に配置されている。液晶パネル201の前面(すなわち光源装置202とは反対側の表面)が、表示面20aを構成する。表示面20aに画像700が表示される。
光源装置202は、液晶パネル201のバックライトとして用いられる。光源装置202の出力光は、液晶パネル201を透過して表示面20aから出力される。光源装置202は、発光ダイオード又はレーザダイオード等の固体発光素子を用いて、液晶パネル201の背面の略全域に光を照射する面光源である。
表示制御部203は、画像形成部21から表示部20に出力された画像700に基づいて、液晶パネル201を駆動することで、表示面20aに画像700を表示させる。また、表示制御部203は、光源装置202を点灯させて、液晶パネル201に表示された画像700を液晶パネル201の前方に照らし出す。このとき液晶パネル201の前方に照らし出された光は、液晶パネル201に表示された画像700を反映した光である。したがって、液晶パネル201に表示された画像は、光源装置202の出力光によって、液晶パネル201の前方に投影される。
表示制御部203は、例えば、CPU(Central Processing Unit)及びメモリを主構成とするマイクロコンピュータにて構成されている。言い換えれば、表示制御部203は、CPU及びメモリを有するコンピュータにて実現されており、CPUがメモリに格納されているプログラムを実行することにより、コンピュータが表示制御部203として機能する。プログラムは、表示制御部203のメモリに予め記録されているが、インターネット等の電気通信回線を通じて、又はメモリカード等の記録媒体に記録されて提供されてもよい。
このように構成された映像表示システム10によれば、本体部1の姿勢変化に応じて対象空間400での虚像300の表示位置を補正するときに、虚像300に対応する画像700の表示遅延を低減し、かつ画像700の描画範囲の制限を低減することができる。より詳細には、本体部1の姿勢変化に応じて対象空間400での虚像300の表示位置を補正するとき、その補正処理は、本体部1の第1姿勢変化に対する第1補正処理と、本体部1の第2姿勢変化に対する第2補正処理とに分けて実行される。このため、リアルタイム性が要求される第2補正処理は、第2補正処理による表示遅延を低減可能な処理段階で実行でき、リアルタイム性が要求されない第1補正処理は、第1補正処理による描画範囲の制限を低減可能な別の処理段階で実行することができる。
(3)描画部の補正処理(すなわち第1補正部の補正処理)の詳細
図5A〜図6Bを参照して、描画部24の補正処理(すなわち第1補正部41の補正処理)について詳しく説明する。
まず、描画部24による画像700の描画方法について説明する。描画部24では、描画部本体241が画像700を描画する。描画部本体241は、図5Aに示すように、画像700を描画するための3次元仮想空間70を有している。3次元仮想空間70は、描画部本体241に備えられた所定の記憶装置内に設定されている。
3次元仮想空間70は、対象空間400に対応している。3次元仮想空間70には、仮想的な光軸71、射影面72、仮想的な路面74、既定位置75が設定されている。仮想的な光軸71、射影面72、仮想的な路面74、及び既定位置75はそれぞれ、対象空間400での光軸500、仮想面501、路面600、及び既定位置401に対応している。したがって、射影面72は、仮想的な光軸71に直交している。
描画部本体241は、図5Aに示すように、まず、3次元仮想空間70内で、画像700を3次元画像73として描画する。その際、3次元画像73は、3次元仮想空間70内の既定位置75に位置され、かつ仮想的な路面74と所定の配置関係(例えば平行になる関係)を保つように配置される。そして、描画部本体241は、描画した3次元画像73を、3次元仮想空間70内の射影面72に射影することで、2次元画像に変換する。この2次元画像が画像700になる。
このように描画された画像700の虚像300は、図5Bに示すように、自動車100の姿勢変化が無ければ、対象空間400の既定位置401(すなわち交差点に沿って重なる位置)に表示される。
そして、本体部1に第1姿勢変化が生じると、ユーザ200の視線が例えば上に上がり、ユーザ200から見た実景が相対的に下に移動する。この結果、対象空間400内において、虚像300が、交差点よりも上がった位置に表示される(図6Bの300X参照)。
このように、本体部1に第1姿勢変化が生じた場合、描画部本体241は、本体部1の第1姿勢変化による虚像300と実景とずれを相殺するように画像700を描画することで、虚像300の表示位置を補正する。より詳細には、描画部本体241は、3次元仮想空間70内で3次元画像73を描画するとき、本体部1の第1姿勢変化による虚像300と実景とのずれを相殺するように、3次元画像を既定位置75から例えば下方にずれた位置76に描画する(図6A参照)。なお、図6Aでは、補正前の3次元画像73には、参照符号に「X」を付し、補正後の3次元画像73には、参照符号に「Y」を付している。
そして、描画部本体241は、描画した3次元画像73Yを、3次元仮想空間70内の射影面72に射影して、2次元画像に変換する。この2次元画像が、補正された画像700になる。このように補正された画像700の虚像300Yは、図6Bに示すように、対象空間400内の既定位置401から例えば下方にずれた位置(交差点に沿って重なる位置)に表示される。なお、図6Bでは、補正前の虚像300には、参照符号に「X」を付し、補正後の虚像300には、参照符号に「Y」を付している。
(4)振動歪み補正部の補正処理(すなわち第2補正部の補正処理)の詳細
図7、図8A及び図8Bを参照して、振動歪み補正部253の補正処理(すなわち第2補正部42の補正処理)について詳しく説明する。
なお、図7では、振動補正処理及び歪み補正処理が実行される前の画像700及び画像700中の矢印部分710には、参照符号にXが付されている。また、振動補正処理及び歪み補正処理が実行された後の画像700及び画像700中の矢印部分710には、参照符号にYが付されている。
振動歪み補正部253は、出力バッファ252から出力された画像700に対し、振動補正処理を実行した後、歪み補正処理を実行する。振動補正処理及び歪み補正処理は、この順で連続して実行される。振動補正処理では、本体部1の第2姿勢変化による虚像300と実景とのずれが補正される。歪み補正処理では、ウインドシールド101及び投影部3での反射による虚像300の歪みが補正される。
振動歪み補正部253は、図7に示すように、描画バッファ80と、ラインバッファ81と、を有している。
描画バッファ80は、出力バッファ252から出力された画像700を一時的に保存する。描画バッファ80は、描画バッファ80から画像700を読み出すときの読出開始位置P1を変更可能である。例えば、読出開始位置P1を画像700の左上角部(基準位置)に設定すると、描画バッファ80からは、画像700の左上角部を基準にして1画面分の画像が読み出される。この場合、読み出された画像700は、構図がずれないで読み出される。
一方、読出開始位置P1が画像700の左上角部よりも上にずれた位置P1aに変更されると、描画バッファ80からは、読出開始位置P1aを基準にして一画面分の画像が読み出される。この場合、読み出された画像700は、読出開始位置P1aが上方にずれた分、構図が下方にずれた画像になる。この結果、画像700Yが表示面20aに表示されると、画像700Y中の矢印部分710が下方にずれて表示される。逆に、読出開始位置P1が画像700の左上角部よりも下にずれた位置に設定されると、画像700が表示面20aに表示されたとき、画像700Y中の矢印部分710Yが上方にずれて表示される。
描画バッファ80から画像700が読み出されるときは、画像700は、数行分の画像領域である小領域画像701毎に読み出される。
ラインバッファ81は、数行分の画像領域である小領域画像701を保存可能な記憶装置である。ラインバッファ81は、描画バッファ80から読み出された小領域画像701を一時的に保存し、歪み補正処理の後、小領域画像701のうちの1行分の画像ずつ表示制御部203出力する。
振動歪み補正部253は、出力バッファ252から出力された画像700Xを、描画バッファ80に一時的に保存する。そして、振動歪み補正部253は、描画バッファ80に保存された画像700Xを、指定された読出開始位置P1から小領域画像701ずつ読み出し、読み出した小領域画像701をラインバッファ81に一時的に保存する。そして、振動歪み補正部253は、ラインバッファ81に保存された小領域画像701に歪み補正処理を実行して、ラインバッファ81から小領域画像701を1行分の画像ずつ読み出して、表示部20に出力する。そして、表示部20に、振動補正処理及び歪み補正処理された画像700Yが表示される。
その際、振動歪み補正部253は、振動センサ5からの第2姿勢信号に基づいて、本体部1の第2姿勢変化のピッチ角を検出し、このピッチ角による虚像300と実景とのずれを相殺するように、読出開始位置P1を変化させる。例えば、ピッチ角が本体部1を後傾姿勢にする場合は、虚像300が対象空間400内の既定位置401よりも下方に表示されるように読出開始位置P1を画像700の左上角部よりも上方の位置P1aに変更する。この読出開始位置P1aから画像700が読み出されることで、振動補正処理が実行されている。すなわち、補正後の画像700Yが表示部20に表示されたとき、画像700Y中の矢印部分710Yの表示位置は、補正前の画像700X中の矢印部分710Xの表示位置よりも下方に補正される。これにより、本体部1の振動による虚像300と実景とのずれが補正される。
なお、読出開始位置P1が画像700の左上角部からずれた位置に変更されると、画像700の構図がずれるため、画像700において画像が無い部分700sが生じるが、その画像無し部分700sは、例えば黒色画像として表示してもよい。また、歪み補正処理により画像が無い部分が生じる場合があるが、この場合の画像無し部分700tも、例えば黒色画像として表示してもよい。
このように、振動歪み補正処理は、出力バッファ252の後段で表示部20の前段で実行される。このため、表示部20での表示遅延を抑制できる。また、画像700に歪み補正処理を行うときに、画像700は、描画バッファ80からラインバッファ81に小領域画像701ずつ読み出されて、小領域画像701ずつ歪み補正処理が行われて、表示部20に出力される。このため、ラインバッファ81から表示部20への画像出力に遅延を更に抑制でき、この結果、表示部20での表示遅延を更に抑制できる。
なお、上記の振動補正処理では、画像700の表示位置を補正するときの補正量(ずれ量)H1は、本体部1の第2姿勢変化の変化量(ピッチ角)α1の大きさに対して、非線形であってもよい。この場合は、補正量H1は、図8に示すように、変化量α1の大きさに応じて変化する。例えば、変化量α1が所定値未満のとき(すなわち変化量α1が比較的小さいとき)は、補正量H1を比較的小さく又はゼロにし、変化量α1が所定値以上のときは、補正量H1を変化量α1に比例させてもよい。これにより、自動車100のアイドリング時のように本体部1の第2姿勢変化の変化量α1が比較的小さいときは、振動補正処理を行わず、本体部1の第2姿勢変化の変化量α1がある程度大きいときだけ、振動補正処理を行うことができる。これにより、自動車100のアイドリング時の小さな振動に対しては、虚像300の表示位置を補正しないようにできる。なお、補正量H1を変化量α1に対して、常に線形に変化させてもよい。
上記の説明では、本体部1の第2姿勢変化は、自動車100のピッチ方向の変化であったが、自動車100のヨー方向の変化でもよい。この場合は、読出開始位置P1は、自動車100のヨー角に応じて左右に変動される。そして、画像700を表示部20に表示したとき、画像700中の矢印部分710の表示位置が、補正前の画像700中の矢印部分710よりも左右方向にずれた位置に補正される。また、本体部1の第2姿勢変化は、ロール方向の変化であってもよい。この場合は、読出開始位置P1に対して、ロール角に応じて回転させるように画像700が読み出される。そして、画像700が表示部20に表示されたとき、画像700中の矢印部分710は、補正前の画像700中の矢印部分710に対して回転した位置に補正される。なお、ヨー方向とは、自動車100の上下方向の軸線周りの方向であり、ヨー角とは、ヨー方向の回転角である。ロール方向とは、自動車100の前後方向の軸線周りの角度であり、ロール角とは、ロール方向の回転角である。
また、上記の説明では、歪み補正処理を小領域画像701毎に実行したが、画像700毎に実行してもよい。この場合は、ラインバッファ81を、1画面分の画像を一時的に保存可能な描画バッファに変更し、その描画バッファ上で歪み補正処理が実行される。
(4)変形例
上記の実施形態は、本開示の様々な実施形態の一つに過ぎない。上記の実施形態は、本開示の目的を達成できれば、設計等に応じて種々の変更が可能である。さらに、上記の実施形態に係る態様は、単体の映像表示システムで具現化されることに限らない。例えば、映像表示システム10を備える移動体、映像表示システム10を用いた映像表示方法で、上記の実施形態に係る態様が具現化されてもよい。また、上記の映像表示方法をコンピュータに実行させるためのプログラム、このプログラムを記憶した記憶媒体等で、上記の実施形態に係る態様が具現化されてもよい。以下に説明する変形例は、適宜組み合わせて適用可能である。
上記の実施形態では、1つの振動センサ5で、本体部1の第1姿勢変化及び第2姿勢変化の両方を検出し、2つのフィルタ6,7で、検出した第1姿勢変化及び第2姿勢変化を別々の姿勢信号に分離して出力したが、このように限定されない。例えば、振動センサ5を、第1振動センサ(第1検出部)と第2振動センサ(第2検出部)との2つのセンサに分けて設けてもよい。第1振動センサは、本体部1の第1姿勢変化を検出し、検出した第1姿勢変化を第1姿勢信号として出力する。第2振動センサは、本体部1の第2姿勢変化を検出し、検出した第2姿勢変化を第2姿勢信号として出力する。この場合は、ローパスフィルタ6及びハイパスフィルタ7は省略される。
また、投影部3は、少なくとも光学素子を有していればよく、第1ミラー31及び第2ミラー32の2つのミラーを有することは必須でなく、ミラーを1つのみ、又は3つ以上有していてもよい。さらに、投影部3は、例えばレンズ等、ミラー以外の光学部品を有していてもよい。
また、映像表示システム10は、自動車100の進行方向の前方に設定された対象空間400に虚像300を投影する構成に限らず、例えば、自動車100の進行方向の側方、後方、又は上方等に虚像300を投影してもよい。
また、映像表示システム10は、自動車100に用いられるヘッドアップディスプレイに限らず、例えば、二輪車、電車、航空機、建設機械、及び船舶等、自動車100以外の移動体本体にも適用可能である。さらに、映像表示システム10は、移動体に限らず、例えば、アミューズメント施設で用いられてもよい。また、映像表示システム10は、ヘッドマウントディスプレイ(HMD:Head Mounted Display)等のウェアラブル端末、医療設備、又は据置型の装置として用いられてもよい。また、映像表示システム10は、例えば、電子ビューファインダ等として、デジタルカメラ等の機器に組み込まれて使用されてもよい。
また、本実施形態では、描画部24、補正部25及び表示制御部203は、互いに異なるCPU及びメモリで構成されるが、1つのCPU及び1つのメモリを、描画部24、補正部25及び表示制御部203で共用してもよい。また、1つのCPU及び1つのメモリを、描画部24、補正部25及び表示制御部203のうちの何れか2つで共有してもよい。
また、描画部24は、CPUで構成される代わりに、GPU(Graphics Processing Unit)で構成されてもよい。また、補正部25は、CPUで構成される代わりに、FPGA(field-programmablegate array)で構成されてもよい。
また、本実施形態では、振動歪み補正部253(したがって補正部25)は、本体部1の第2姿勢変化に対する補正処理を実行する補正部として用いられたが、このように限定されない。例えば、振動歪み補正部253は、本体部1の姿勢変化(すなわち第1姿勢変化及び第2姿勢変化に分けられていない姿勢変化)に対する補正処理を実行する補正部として用いられてもよい。
また、上記の実施形態では、表示部20は、液晶パネル201を備えた構成であったが、このような構成に限定されない。表示部20は、図9に示すように、表示部20の表示面20aの背面からレーザ光を走査して画像700を形成するように構成されてもよい。
より詳細には、表示部20は、拡散透過型のスクリーン90と、スクリーン90に対してスクリーン90の背後から光を照射する照射部91と、を有している。照射部91は、走査型の光照射部であって、スクリーン90に対して光K1を照射する。これにより、スクリーン90の前面又は背面(ここでは前面)からなる表示面20aには、照射部91からの光K1によって画像700が描画され、スクリーン90を透過する光K1により、対象空間400に虚像300(図2参照)が形成される。
照射部91は、光(例えばレーザ光)K1を出力する光源911と、光源911からの光K1を走査する走査部912と、レンズ913と、を有している。光源911は、光K1を出力するレーザモジュールからなる。走査部912は、光源911からの光K1を反射してレンズ913を介してスクリーン90に照射する。その際、走査部912は、光K1の反射方向を変化させることで、スクリーン90の表示面20aに照射される光を表示面20a上で走査する。ここで、走査部912は、表示面20aの縦方向及び横方向に対し、二次元的に光K1を走査する、ラスタスキャン(Raster Scan)を行う。つまり、走査部912は、表示面20aに形成される輝点を走査することで、表示面20aに二次元の画像(例えば画像700)を形成する。輝点は、光K1がスクリーン90の表示面20aで交わる点である。走査部912は、例えば、MEMS(Micro Electro Mechanical Systems)技術を用いた微小な走査ミラーを有している。つまり、走査部912は、光K1を反射する光学素子(ミラー部)を含み、光学素子を回転させることで、光源911からの光K1を、光学素子の回転角度(振れ角)に応じた向きに反射する。これにより、走査部912は、光源911からの光K1を走査する。この走査部912は、光学素子を、互いに直交する2軸を中心に回転させることで、二次元的に光K1を走査するラスタスキャンを実現する。
(まとめ)
第1の態様に係る映像表示システム(10)は、画像形成部(21)と、表示部(20)と、投影部(3)と、本体部(1)と、を備える。画像形成部(21)は、画像(700)を形成する。表示部(20)は、画像形成部(21)で形成された画像(700)を表示する。投影部(3)は、表示部(20)の出力光により、画像(700)に対応する虚像(300)を対象空間(400)に投影する。本体部(1)は、表示部(20)及び投影部(3)が設けられる。画像形成部(21)は、第1補正部(41)と、第2補正部(42)と、備える。第1補正部(41)は、本体部(1)の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、対象空間(400)での虚像(300)の表示位置を補正する第1補正処理を実行する。第2補正部(42)は、本体部(1)の姿勢変化であって第1姿勢変化よりも変化速度の速い第2姿勢変化を表す第2姿勢信号に基づいて、対象空間(400)での虚像(300)の表示位置を補正する第2補正処理を、第1補正部(41)による第1補正処理の実行タイミングとは異なるタイミングで実行する。
この構成によれば、本体部(1)の姿勢変化に応じて対象空間(400)での虚像(300)の表示位置を補正するときに、虚像(300)に対応する画像(700)の表示遅延を低減し、かつ画像(700)の描画範囲の制限を低減することができる。より詳細には、本体部(1)の姿勢変化に応じて対象空間(400)での虚像(300)の表示位置を補正するとき、その補正処理は、第1補正処理と、第2補正処理とに分けて実行される。第1補正処理は、本体部(1)の姿勢変化である第1姿勢変化に対する補正処理であり、第2補正処理は、本体部(1)の姿勢変化であって第1姿勢変化よりも変化速度の速い第2姿勢変化に対する補正処理である。第2補正処理は、第1補正部(41)による第1補正処理の実行タイミングとは異なるタイミングで実行される。このため、リアルタイム性が要求される第2補正処理は、第2補正処理による表示遅延を低減可能な処理で実行できる。また、リアルタイム性が要求されない第1補正処理は、第1補正処理による描画範囲の制限を低減可能な別の処理で実行することができる。
第2態様に係る映像表示システム(10)では、第1の態様において、第2補正部(42)は、画像(700)に第2補正処理とは別の歪み補正処理を実行する。
この構成によれば、第2補正部(42)は、歪み補正処理を行う補正部と兼用することができる。これにより、第2補正処理と歪み補正処理とを一緒に行うことができ、処理効率を向上することができる。
第3の態様に係る映像表示システム(10)では、第1又は第2の態様において、第2補正部(42)は、バッファ(252)と、補正部本体(253)と、を備える。バッファ(252)は、画像(700)を保存する。補正部本体(253)は、バッファ(252)で保存された画像(700)に第2補正処理を実行し、第2補正処理を実行した画像(700)を表示部(20)に出力する。
この構成によれば、バッファ(252)の後段かつ表示部(20)の前段で第2補正処理が行われる。このため、第2補正処理による表示部(20)の表示遅延をより一層低減することができる。
第4の態様に係る映像表示システム(10)は、第1〜第3の態様のいずれか1つにおいて、第1検出部(5,6)と、第2検出部(5,7)と、を備える。第1検出部(5,6)は、第1姿勢信号を出力する。第2検出部(5,7)は、第2姿勢信号を出力する。
この構成によれば、第1姿勢信号を出力する第1検出部(5,6)と、第2姿勢信号を出力する第2検出部(5,7)とを備えた映像表示システムを提供することができる。
第5の態様に係る移動体は、第1〜第4のいずれか1つの態様の映像表示システム(10)と、映像表示システム(10)が設けられた移動体本体(100)と、を備える。
この構成によれば、上記の効果を奏する映像表示システムを移動体で実施することができる。
第6の態様に係る映像表示方法は、表示部(20)と、投影部(3)と、本体部(1)と、を有する映像表示システムを用いた映像表示方法である。表示部(20)は、画像(700)を表示する。投影部(3)は、表示部(20)の出力光により、画像(700)に対応する虚像(300)を対象空間(400)に投影する。本体部(1)には、表示部(20)及び投影部(3)が設けられている。上記の映像表示方法は、表示部(20)に表示される画像(700)を形成する画像形成処理を含む。画像形成処理は、第1補正処理と、第2補正処理と、を含む。第1補正処理は、本体部(1)の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、対象空間(400)での虚像(300)の表示位置を補正する。第2補正処理は、本体部(1)の姿勢変化であって第1姿勢信号よりも変化速度が速い第2姿勢変化を表す第2姿勢信号に基づいて、対象空間(400)での虚像(300)の表示位置を補正する。第1補正処理及び第2補正処理を、互いに異なるタイミングで実行する。
この方法によれば、本体部(1)の姿勢変化に応じて対象空間(400)での虚像(300)の表示位置を補正するときに、虚像(300)に対応する画像(700)の表示遅延を低減し、かつ画像(700)の描画範囲の制限を低減することができる。より詳細には、本体部(1)の姿勢変化に応じて対象空間(400)での虚像(300)の表示位置を補正するとき、その補正処理は、第1補正処理と、第2補正処理とに分けて実行される。第1補正処理は、本体部(1)の姿勢変化である第1姿勢変化に対する補正処理である。第2補正処理は、本体部(1)の姿勢変化であって第1姿勢変化よりも変化速度の速い第2姿勢変化に対する補正処理である。第2補正処理は、第1補正部(41)による第1補正処理の実行タイミングとは異なるタイミングで実行される。このため、リアルタイム性が要求される第2補正処理は、第2補正処理による表示遅延を低減可能な処理で実行し、リアルタイム性が要求されない第1補正処理は、第1補正処理による描画範囲の制限を低減可能な別の処理で実行することができる。
第7の態様に係るプログラムは、コンピュータに、第6の態様の映像表示方法を実行させる。
このプログラムによれば、汎用のコンピュータを用いた場合でも、本体部(1)の姿勢変化に応じて虚像(300)の表示位置を補正するときに、画像(700)の表示遅延を低減し、かつ画像(700)の描画範囲の制限を低減することができる。
1 本体部
3 投影部
5 振動センサ(第1センサ、第2センサ)
6 ローパスフィルタ
7 ハイパスフィルタ
10 映像表示システム
20 表示部
21 画像形成部
24 描画部
25 補正部
41 第1補正部
42 第2補正部
100 自動車(移動体本体)
252 出力バッファ(バッファ)
253 振動歪み補正部(補正部本体)
300 虚像
400 対象空間
700 画像
本開示は、一般に画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラムに関し、より詳細には、画像を形成する画像形成部を備えた画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラムに関する。
象空間に虚像を投影する映像表示システムとして、特許文献1に記載のヘッドアップディスプレイ装置が知られている。このヘッドアップディスプレイ装置は、表示器から出力された表示光を車両のフロントガラスに照射することで、ユーザに、表示器の表示画像の虚像を車両の前方の実景と重ねて視認させている。
本開示は、上記事由に鑑みて、表示画像の表示遅延を低減し、かつ表示画像の描画範囲の制限を低減することができる画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラムを提供することを目的とする。
本開示の一態様に係る画像形成システムは、画像を形成する画像形成部を備えた画像形成システムである。画像形成システムは、第1補正部と、第2補正部と、を有する。前記第1補正部は、前記画像形成部で形成された前記画像を表示する表示部が設けられると共に前記表示部の出力光を投光することで前記画像に対応する虚像を対象空間に形成する投影部が設けられた本体部の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する第1補正処理を実行する。前記第2補正部は、前記本体部の姿勢変化であって第1姿勢変化よりも変化速度の速い第2姿勢変化を表す第2姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する第2補正処理を、前記第1補正部による前記第1補正処理の実行タイミングとは異なるタイミングで実行する。
本開示の一態様に係る画像補正システムは、上記の一態様に係る画像形成システムと、前記第1姿勢信号を出力する第1検出部と、前記第2姿勢信号を出力する第2検出部と、を備える。
本開示の一態様に係る画像表示システムは、上記の一態様に係る画像形成システムと、前記画像形成部で形成された前記画像を表示する表示部と、を備えている。
本開示の一態様に係る移動体は、上記の一態様に係る画像表示システムと、前記表示部の出力光を投影することで前記画像に対応する虚像を対象空間に形成する投影部とを有する映像表示システムを移動体本体に備える。
本開示の一態様に係る画像形成方法は、画像を形成する画像形成処理を含む画像形成方法である。画像形成方法は、第1補正処理と、第2補正処理と、を含む。前記第1補正処理は、前記画像形成処理において形成された前記画像を表示する表示部が設けられると共に前記表示部の出力光を投影することで前記画像に対応する虚像を対象空間に形成する投影部が設けられた本体部の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する。前記第2補正処理は、前記本体部の姿勢変化であって前記第1姿勢変化よりも変化速度の速い第2姿勢変化を表す第2姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する。前記第2補正処理の実行タイミングは、前記第1補正処理の実行タイミングとは異なるタイミングである。
本開示の一態様に係るプログラムは、コンピュータに、上記の一態様に係る画像形成方法を実行させるためのプログラムである。
対象空間400に表示される虚像300は、映像表示システム10の光軸500に交差する仮想面501上に形成される。光軸500は、自動車100の前方の対象空間400において、自動車100の前方の路面600に沿っている。虚像300が形成される仮想面501は、路面600に対して略垂直である。例えば、路面600が水平面である場合には、虚像300は鉛直面に沿って表示される。
第1姿勢変化とは、本体部1の姿勢変化の変化速度が比較的遅い姿勢変化である。つまり、第1姿勢変化とは、第1周波数未満の周波数の振動(姿勢変化)である。換言すれば、第1姿勢変化とは、本体部1の姿勢変化の発生頻度が第1閾値よりも低い姿勢変化である。さらに換言すれば、第1姿勢変化とは、本体部1の姿勢変化後の姿勢が一定時間継続するような本体部1の姿勢変化である。このような第1姿勢変化は、例えば、自動車100の加減速による姿勢変化などである。
第2姿勢変化とは、本体部1の姿勢変化の変化速度が比較的速い姿勢変化である。第2姿勢変化と第1姿勢変化とを比べると、第2姿勢変化は、第1姿勢変化の変化速度よりも速い姿勢変化である。つまり、第2姿勢変化とは、本体部1における第2周波数以上の周波数の振動(姿勢変化)である。換言すれば、第2姿勢変化とは、本体部1の姿勢変化の発生頻度が第2閾値よりも高い姿勢変化である。さらに換言すれば、第2姿勢変化とは、時間経過に伴って本体部1の姿勢が変化するような本体部1の姿勢変化である。このような第2姿勢変化は、例えば、自動車100が凸凹道を走行したときの自動車100の上下動に伴って生じる。上記の第1周波数及び第2周波数は、互いに同じ値であってもよく、異なる値であってもよい。上記の第1閾値及び第2閾値は、互いに同じ値であってもよく、異なる値であってもよい。
例えば、第2姿勢変化に対する虚像300の表示位置の補正処理は、リアルタイム性が要求されるため、リアルタイムで処理可能な処理段階で実行される。第1姿勢変化に対する虚像300の表示位置の補正処理は、リアルタイム性が要求されないため、補正処理の際に画像700の描画範囲が制限され難い処理段階で実行される。その結果、本体部1の姿勢変化に応じて虚像300の表示位置を補正するとき、虚像300の表示遅延を低減し、かつ虚像300に対応する画像700の描画範囲の制限を低減できる、という利点がある。
振動センサ5は、本体部1に加わる振動を検出するセンサであり、本体部1に加わる振動を検出することで、本体部1の第1姿勢変化及び第2姿勢変化を検出している。すなわち、本体部1に加わる振動には、第1周波数未満の周波数の振動(第1姿勢変化の情報)と、第2周波数以上の周波数の振動(第2姿勢変化の情報)とが含まれている。本体部1は自動車100に固定されているため、本体部1に加わる振動は、自動車100に加わる振動と実質的に同じである。このため、振動センサ5は、自動車100に加わる振動を検出することで、本体部1に加わる振動を検出する。振動センサ5は、自動車100に加わる振動の情報として、例えば自動車100の振動で変化する自動車100のピッチ角を検出する。振動センサ5は、検出した振動に応じた信号をローパスフィルタ6及びハイパスフィルタ7に出力する。
ローパスフィルタ6は、振動センサ5から出力された信号のうち、第1周波数以上の周波数の信号成分は通過させず、第1周波数未満の周波数の信号成分(すなわち第1姿勢変化を表す信号)を通過させる。そして、ローパスフィルタ6は、通過させた信号(信号成分)を第1姿勢信号として画像表示部2に出力する。ハイパスフィルタ7は、振動センサ5から出力された信号のうち、第2周波数未満の周波数の信号成分は通過させず、第2周波数以上の周波数の信号成分(すなわち第2姿勢変化を表す信号)を通過させる。そして、ハイパスフィルタ7は、通過させた信号(信号成分)を第2姿勢信号として画像表示部2に出力する。第1姿勢信号は、本体部1の第1姿勢変化を表す姿勢信号である。第2姿勢信号は、本体部1の第2姿勢変化を表す姿勢信号である。振動センサ5は、例えばジャイロセンサ(角速度センサ)である。なお、振動センサ5は、ジャイロセンサに限定されず、例えば加速度センサでもよい。
画像表示部2は、表示面20aを有し、表示面20aに画像700を表示し、表示した画像700を表す光を投影部3に向けて照射する。画像表示部2は、図1に示すように、表示部20と、画像形成部21と、を有している。表示部20は、画像700を表示する表示処理を実行し、表示した画像700を表す光を表示部20の前方に照射する。画像形成部21は、表示部20に表示される画像700を形成する画像形成処理を実行する。本実施形態では、画像700は、自動車100の目的地までの走行経路を案内するために、自動車100が走行する路面上に表示される矢印を表す画像である。以下、画像700を、矢印画像700とも記載する。したがって、虚像300も矢印を表す像である(図3参照)。
より詳細には、画像形成部21は、自動車100に搭載されたナビゲーション装置からナビゲーション情報を取得する。ナビゲーション情報は、例えば、自動車100が向かう目的地までの走行経路、及び、直近の交差点までの距離などのナビゲーション情報である。そして、画像形成部21は、取得したナビゲーション情報に基づいて、自動車100が走行経路上の直近の交差点に一定距離まで接近したと判定すると、上記の交差点での進行方向を案内するための矢印画像700を形成する。その際、矢印画像700は、その虚像300が対象空間400内の既定位置(例えば上記の交差点内で矢印が道路に沿って重なる位置)401に表示されるように形成される。そして、画像形成部21は、形成した矢印画像700を表示部20に出力する。これにより、本体部1に姿勢変化が生じていなければ、矢印画像700の虚像300は、対象空間400の既定位置(例えば上記の交差点内で矢印が道路に沿って重なる位置)401に表示される。
また、画像形成部21は、ローパスフィルタ6からの第1姿勢信号及びハイパスフィルタ7からの第2姿勢信号を取得することで、本体部1の第1姿勢変化及び第2姿勢変化に関する姿勢情報を取得する。本体部1に姿勢変化が生じた場合は、虚像300と実景との相対的な配置関係が変化するため、対象空間400において、虚像300が、実景における本体重畳すべき特定の位置(例えば交差点)からずれた位置に表示される。例えば、自動車100が後傾姿勢になると、ユーザ200の視線が上がり、ユーザ200から見た実景が相対的に下方に移動する。この結果、対象空間400内において、虚像300が、交差点よりも上がった位置に表示される。このため、画像形成部21は、取得した姿勢情報に基づいて表示面20aでの画像700の表示位置を補正することで、対象空間400において、虚像300の表示位置を、既定位置401から、交差点内で矢印が道路に沿って重なる位置へと補正する。
投影部3は、図1に示すように、第1ミラー31と、第2ミラー32と、を有している。第1ミラー31及び第2ミラー32は、画像表示部2から、出力光の光路上に、第1ミラー31、第2ミラー32の順で配置されている。より詳細には、第1ミラー31は、画像表示部2の出力光が入射するように、画像表示部2の表示面20aの方に配置されている。第1ミラー31は、画像表示部2の出力光を、第2ミラー32に向けて反射する。第2ミラー32は、第1ミラー31で反射された画像表示部2の出力光が入射するような位置(例えば第1ミラー31の前方下側の位置)に配置されている。第2ミラー32は、第1ミラー31で反射された画像表示部2の出力光を、上方(すなわちウインドシールド101)に向けて反射する。第1ミラー31は、例えば凸面鏡であり、第2ミラー32は、例えば凹面鏡である。
また、描画部本体241は、ローパスフィルタ6からの第1姿勢信号に基づいて、本体部1の第1姿勢変化による虚像300と実景とのずれを相殺するように、画像700を補正する。この画像700の補正処理(第1補正処理)は、画像700の描画時に実行される。より詳細には、描画部本体241は、ローパスフィルタ6からの第1姿勢信号に基づいて、本体部1に第1姿勢変化が生じたと判定する。このように判定したとき、描画部本体241は、本体部1の第1姿勢変化による虚像300と実景とのずれが相殺されるように画像700を描画することで、画像700を補正する。これにより、本体部1に第1姿勢変化が生じても、対象空間400において、虚像300が、ユーザ200から見た実景における本来重畳すべき特定の位置(例えば交差点内で矢印が道路に沿って重なる位置)に位置に表示される。
映像補正部251は、描画バッファ242から出力された画像(すなわち描画部24で描画された画像)700に色調補正処理を行う。色調補正処理とは、画像700の各部(画素)の色を調整する補正処理である。より詳細には、映像補正部251は、描画部24で描画された画像700の各部の色を、定められた色となるように補正する。例えば、描画部24で描画された画像700において、白色と定められた部分に赤味がかっている場合は、その赤味がかかった部分を白色に補正する。映像補正部251は、色調補正した画像700を出力バッファ252に出力する。
この振動補正処理により、本体部1に第2姿勢変化が生じても、対象空間400において、虚像300が、ユーザ200から見た実景における本来重畳すべき特定の位置(例えば交差点内で矢印が道路に沿って重なる位置)に表示される。このように、補正部25は、本体部1の第2姿勢変化に応じて虚像300の表示位置を補正する第2補正部42としても機能している。
描画部24及び補正部25はそれぞれ、例えば、CPU(Central Processing Unit)
及びメモリを主構成とするマイクロコンピュータにて構成されている。言い換えれば、描画部24及び補正部25はそれぞれ、CPU及びメモリを有するコンピュータにて実現されており、CPUがメモリに格納されているプログラムを実行することにより、コンピュータ(プロセッサ)が描画部24又は補正部25として機能する。描画部24のプログラムは描画部24のメモリに予め記録され、補正部25のプログラムは補正部25のメモリに予め記録されているが、インターネット等の電気通信回線を通じて、又はメモリカード等の非一時的記録媒体に記録されて提供されてもよい。
表示部20は、図4に示すように、液晶パネル201、光源装置202、及び表示制御部203を有している。液晶パネル201は、画像形成部21で形成された画像700を表示する。光源装置202は、液晶パネル201に表示された画像700を表す光を液晶パネル201の前方に照らし出す。表示制御部203は、液晶パネル201及び光源装置202を制御する。
表示制御部203は、例えば、CPU(Central Processing Unit)及びメモリを主構
成とするマイクロコンピュータ(プロセッサ)にて構成されている。言い換えれば、表示制御部203は、CPU及びメモリを有するコンピュータにて実現されており、CPUがメモリに格納されているプログラムを実行することにより、コンピュータが表示制御部203として機能する。プログラムは、表示制御部203のメモリに予め記録されているが、インターネット等の電気通信回線を通じて、又はメモリカード等の非一時的記録媒体に記録されて提供されてもよい。
3次元仮想空間70は、対象空間400に対応している。3次元仮想空間70には、仮想的な光軸71、射影面72、仮想的な路面74、既定位置75が設定されている。仮想的な光軸71、射影面72、仮想的な路面74、及び既定位置75はそれぞれ、対象空間400での光軸500、仮想面501、路面600、及び既定位置401に対応している。したがって、射影面72は、仮想的な光軸71に実質的に直交している。
描画部本体241は、図5Aに示すように、まず、3次元仮想空間70内で、画像700に対する3次元画像73描画する。その際、3次元画像73は、3次元仮想空間70内の既定位置75に位置され、かつ仮想的な路面74と所定の配置関係(例えば平行になる関係)を保つように配置される。そして、描画部本体241は、描画した3次元画像73を、3次元仮想空間70内の射影面72に射影することで、2次元画像に変換する。この2次元画像が画像700になる。
このように描画された画像700の虚像300は、図5Bに示すように、自動車100の姿勢変化が無ければ、対象空間400の既定位置401(すなわち交差点内で矢印が道路に沿って重なる位置)に表示される。
そして、描画部本体241は、描画した(補正後の)3次元画像73Yを、3次元仮想空間70内の射影面72に射影して、2次元画像に変換する。この2次元画像が、補正された画像700になる。このように補正された画像700の虚像300Yは、図6Bに示すように、対象空間400内の既定位置401から例えば下方にずれた位置(交差点内で矢印が道路に沿って重なる位置)に表示される。なお、図6Bでは、補正前の虚像300には、参照符号に「X」を付し、補正後の虚像300には、参照符号に「Y」を付している。
(4)振動歪み補正部の補正処理(すなわち第2補正部の補正処理)の詳細
図7及び図8を参照して、振動歪み補正部253の補正処理(すなわち第2補正部42の補正処理)について詳しく説明する。
描画バッファ80から画像700が読み出されるときは、画像700は、数行分の画像領域である小領域画像701毎に読み出される。ここで、小領域画像701の集まりが、一画面分の画像700を構成する。
ラインバッファ81は、数行分の画像領域である小領域画像701を保存可能な記憶装置である。ラインバッファ81は、描画バッファ80から読み出された小領域画像701を一時的に保存し、歪み補正処理の後、小領域画像701のうちの1行分の画像ずつ表示制御部203出力する。
振動歪み補正部253は、出力バッファ252から出力された画像700Xを、描画バッファ80に一時的に保存する。そして、振動歪み補正部253は、描画バッファ80に保存された画像700Xを、指定された読出開始位置P1から小領域画像701ずつ読み出し、読み出した小領域画像701をラインバッファ81に一時的に保存する。そして、振動歪み補正部253は、ラインバッファ81に保存された小領域画像701に歪み補正処理を実行して、ラインバッファ81から小領域画像701を構成する複数行の画像を1行分の画像ずつ読み出して、表示部20に出力する。そして、表示部20に、振動補正処理及び歪み補正処理された画像700Yが表示される。
このように、振動歪み補正処理は、出力バッファ252の後段で表示部20の前段で実行される。このため、表示部20での表示遅延を抑制できる。また、画像700に歪み補正処理を行うときに、画像700は、描画バッファ80からラインバッファ81に小領域画像701ずつ読み出されて、小領域画像701ずつ歪み補正処理が行われて、表示部20に出力される。このため、ラインバッファ81から表示部20への画像出力遅延を更に抑制でき、この結果、表示部20での表示遅延を更に抑制できる。
なお、上記の振動補正処理では、画像700の表示位置を補正するときの補正量(ずれ量)H1は、本体部1の第2姿勢変化の変化量(ピッチ角)α1の大きさに対して、非線形であってもよい。この場合は、補正量H1は、図8に示すように、変化量α1の大きさに応じて変化する。例えば、変化量α1が所定値未満のとき(すなわち変化量α1が比較的小さいとき)は、補正量H1を比較的小さく又はゼロ(実質的にゼロ)にし、変化量α1が所定値以上のときは、補正量H1を変化量α1に比例させてもよい。これにより、自動車100のアイドリング時のように本体部1の第2姿勢変化の変化量α1が比較的小さいときは、振動補正処理を行わず、本体部1の第2姿勢変化の変化量α1がある程度大きいときだけ、振動補正処理を行うことができる。これにより、自動車100のアイドリング時の小さな振動に対しては、虚像300の表示位置を補正しないようにできる。なお、補正量H1を変化量α1に対して、常に線形に変化させてもよい。
上記の説明では、本体部1の第2姿勢変化は、自動車100のピッチ方向の変化であったが、自動車100のヨー方向の変化でもよい。この場合は、読出開始位置P1は、自動車100のヨー角に応じて左右に変動される。そして、画像700を表示部20に表示したとき、画像700中の矢印部分710の表示位置が、補正前の画像700中の矢印部分710よりも左右方向にずれた位置に補正される。また、本体部1の第2姿勢変化は、ロール方向の変化であってもよい。この場合は、読出開始位置P1に対して、ロール角に応じて回転させるように画像700が読み出される。そして、画像700が表示部20に表示されたとき、画像700中の矢印部分710は、補正前の画像700中の矢印部分710に対して回転した位置に補正される。なお、ヨー方向とは、自動車100の上下方向の軸線周りの方向であり、ヨー角とは、ヨー方向の回転角である。ロール方向とは、自動車100の前後方向の軸線周りの方向であり、ロール角とは、ロール方向の回転角である。
)変形例
上記の実施形態は、本開示の様々な実施形態の一つに過ぎない。上記の実施形態は、本開示の目的を達成できれば、設計等に応じて種々の変更が可能である。さらに、上記の実施形態に係る態様は、単体の映像表示システムで具現化されることに限らない。例えば、映像表示システム10を備える移動体、映像表示システム10を用いた映像表示方法で、上記の実施形態に係る態様が具現化されてもよい。また、上記の映像表示方法をコンピュータに実行させるためのプログラム、このプログラムを記憶した非一時的記憶媒体等で、上記の実施形態に係る態様が具現化されてもよい。以下に説明する変形例は、適宜組み合わせて適用可能である。
また、上記の実施形態では、表示部20は、液晶パネル201を備えた構成であったが、このような構成に限定されない。表示部20は、図9に示すように、表示部20の表示面20aの背面(すなわち背後)からレーザ光を走査して画像700を形成するように構成されてもよい。
(まとめ)
第1の態様に係る画像形成システムは、画像を形成する画像形成部(21)を備えた画像形成システムである。画像形成システムは、第1補正部(41)と、第2補正部(42)と、を有する。第1補正部(41)は、画像形成部(21)で形成された画像(700)を表示する表示部(20)が設けられると共に表示部(20)の出力光を投光することで画像(700)に対応する虚像(300)を対象空間(400)に形成する投影部(3)が設けられた本体部(1)の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、対象空間(400)での虚像(300)の表示位置を補正する第1補正処理を実行する。第2補正部(42)は、本体部(1)の姿勢変化であって第1姿勢変化よりも変化速度の速い第2姿勢変化を表す第2姿勢信号に基づいて、対象空間(400)での虚像(300)の表示位置を補正する第2補正処理を、第1補正部(41)による第1補正処理の実行タイミングとは異なるタイミングで実行する。
第2態様に係る画像形成システムでは、第1の態様において、第2補正部(42)は、画像(700)に第2補正処理とは別の歪み補正処理を更に実行する。
第3の態様に係る画像形成システムでは、第1又は第2の態様において、第2補正部(42)は、バッファ(252)と、補正部本体(253)と、を備える。バッファ(252)は、画像(700)を保存する。補正部本体(253)は、バッファ(252)で保存された画像(700)に第2補正処理を実行し、第2補正処理を実行した画像(700)を表示部(20)に出力する。
第4の態様に係る画像形成システムは、第2の態様において、前記歪み補正処理は、前記第2補正処理の後に実行される。
第5の態様に係る画像形成システムでは、第3の態様において、補正部本体(253)は、描画バッファ(80)と、ラインバッファ(81)と、を備えている。描画バッファ(80)は、1画面分のサイズを有しバッファ(252)から出力された画像(700)を保存する。ラインバッファ(81)は、描画バッファ(80)から読み出された画像を保存する。描画バッファ(80)は、保存した画像(700)を読み出すとき、読出開始位置(P1)を基準にした1画面分の画像を小領域画像(701)ずつ読み出し、小領域画像(701)の集まりが、上記1画面分の画像を規定する。ラインバッファ(81)は、描画バッファ(80)から読み出された小領域画像(701)を記憶し、歪み補正処理した後に1行分ずつ表示部(20)に出力する。描画バッファ(80)は、第2姿勢信号に基づいて本体部(1)の第2姿勢変化を検出し、検出した第2姿勢変化による虚像(300)と実景とのずれを相殺するように読出開始位置(P1)を変化させることで、第2補正処理を実行する。
第6の態様に係る画像形成システムでは、第1〜5のいずれか1つの態様において、画像形成部(21)は、描画部本体(241)を備えている。描画部本体(241)は、画像(700)を形成し、第1姿勢信号に基づいて本体部(1)の第1姿勢変化による虚像(300)と実景とのずれを相殺するように、画像(700)を補正する。描画部本体(241)は、第1補正部(41)として機能する。
第7の態様に係る画像形成システムでは、第6の態様において、描画部本体(241)は、対象空間(400)に対応する3次元仮想空間(70)が設定された記憶装置を有する。描画部本体(241)は、3次元仮想空間(70)内で画像(700)に対応する3次元画像(73)を描画し、描画した画像(73)を3次元仮想空間(70)内の所定の射影面(72)に射影することで画像(700)を形成する。描画部本体(241)は、本体部(1)に第1姿勢変化が生じた場合、本体部(1)の第1姿勢変化による虚像(300)と実景とずれを相殺するように、3次元画像(73)を描画することで、虚像(300)の表示位置を補正する。
第8の態様に係る画像形成システムでは、第1〜7のいずれか1つの態様において、第2補正部(42)は、第2補正処理において画像(700)の表示位置を補正するときの補正量(H1)を決定するものである。補正量(H1)は、本体部(1)の第2姿勢変化の変化量(α1)の大きさに対して、非線形である。
第9の態様に係る画像形成システムでは、第8の態様において、第2補正部(42)は、変化量(α1)が所定値未満のときは、補正量(H1)は実質的にゼロであり、変化量(α1)が所定値以上のときは、補正量(H1)は変化量(α1)に比例するように、補正量(H1)を決定する。
第10の態様に係る画像形成システムでは、第8又は第9の態様において、変化量(α1)は、本体部(1)の第2姿勢変化のピッチ方向、ヨー方向、又はロール方向の変化である。
第11の態様に係る画像形成システムは、第1〜10のいずれか1つの態様の画像形成システムと、第1姿勢信号を出力する第1検出部と、第2姿勢信号を出力する第2検出部と、を備える。
この構成によれば、第1姿勢信号を出力する第1検出部(5,6)と、第2姿勢信号を出力する第2検出部(5,7)とを備えた画像形成示システムを提供することができる。
第12の態様に係る画像形成示システムは、第11の態様において、振動センサ(5)と、ローパスフィルタ(6)と、ハイパスフィルタ(7)と、を備えている。振動センサ(5)は、本体部(1)に加わる振動を検出する。ローパスフィルタ(6)は、振動センサ(5)から出力された信号のうち、第1周波数以上の周波数の信号成分は通過させず、第1周波数未満の周波数の信号成分を通過させる。ハイパスフィルタ(7)は、振動センサ(5)から出力された信号のうち、第2周波数未満の周波数の信号成分は通過させず、第2周波数以上の周波数の信号成分を通過させる。第1検出部(5,6)は、振動センサ(5)及びローパスフィルタ(6)によって構成されている。第2検出部(5,7)は、振動センサ(5)及びハイパスフィルタ(7)によって構成されている。
第13の態様に係る画像表示システム(10)は、第1〜10のいずれか1つの態様の画像形成システムと、画像形成部(21)で形成された画像(700)を表示する表示部(20)と、を備えている。
14の態様に係る移動体は、第13の態様の画像表示システム(10)と、表示部(20)の出力光を投影することで画像(700)に対応する虚像(300)を対象空間(400)に形成する投影部(3)とを有する画像表示システム(10)を移動体本体(100)に備える。
この構成によれば、上記の効果を奏する画像表示システムを移動体で実施することができる。
15の態様に係る画像形成方法は、画像を形成する画像形成処理を含む画像形成方法である。画像形成方法は、第1補正処理と、第2補正処理と、を含む。第1補正処理は、前記画像形成処理において形成された画像(700)を表示する表示部(20)が設けられると共に表示部(20)の出力光を投影することで画像(700)に対応する虚像(300)を対象空間(400)に形成する投影部(3)が設けられた本体部(1)の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、対象空間(400)での虚像(300)の表示位置を補正する。第2補正処理は、本体部(1)の姿勢変化であって第1姿勢信号よりも変化速度が速い第2姿勢変化を表す第2姿勢信号に基づいて、対象空間(400)での虚像(300)の表示位置を補正する。第1補正処理及び第2補正処理を、互いに異なるタイミングで実行する。
16の態様に係るプログラムは、コンピュータに、第15の態様の画像形成方法を実行させる。

Claims (7)

  1. 画像を形成する画像形成部と、
    前記画像形成部で形成された前記画像を表示する表示部と、
    前記表示部の出力光により、前記画像に対応する虚像を対象空間に投影する投影部と、
    前記表示部及び前記投影部が設けられた本体部と、を備え、
    前記画像形成部は、
    前記本体部の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する第1補正処理を実行する第1補正部と、
    前記本体部の姿勢変化であって前記第1姿勢変化よりも変化速度の速い第2姿勢変化を表す第2姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する第2補正処理を、前記第1補正部による前記第1補正処理の実行タイミングとは異なるタイミングで実行する第2補正部と、を有する
    映像表示システム。
  2. 前記第2補正部は、前記画像に前記第2補正処理とは別の歪み補正処理を更に実行する
    請求項1に記載の映像表示システム。
  3. 前記第2補正部は、
    前記画像を保存するバッファと、
    前記バッファで保存された前記画像に前記第2補正処理を実行し、前記第2補正処理を実行した前記画像を前記表示部に出力する補正部本体と、を備える
    請求項1又は2に記載の映像表示システム。
  4. 前記第1姿勢信号を出力する第1検出部と、
    前記第2姿勢信号を出力する第2検出部と、を更に備える
    請求項1〜3のいずれか1項に記載の映像表示システム。
  5. 請求項1〜4のいずれか1項に記載の映像表示システムと、
    前記映像表示システムが設けられた移動体本体と、を備える
    移動体。
  6. 画像を表示する表示部と、
    前記表示部の出力光により、前記画像に対応する虚像を対象空間に投影する投影部と、
    前記表示部及び前記投影部が設けられた本体部と、を有する映像表示システムを用いた映像表示方法であって、
    前記表示部に表示される前記画像を形成する画像形成処理を含み、
    前記画像形成処理は、
    前記本体部の姿勢変化である第1姿勢変化を表す第1姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する第1補正処理と、
    前記本体部の姿勢変化であって前記第1姿勢変化よりも変化速度の速い第2姿勢変化を表す第2姿勢信号に基づいて、前記対象空間での前記虚像の表示位置を補正する第2補正処理と、を含み、
    前記第1補正処理及び前記第2補正処理を、互いに異なるタイミングで実行する
    映像表示方法。
  7. コンピュータに、
    請求項6に記載の映像表示方法を実行させるためのプログラム。
JP2018053557A 2018-03-20 2018-03-20 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム Active JP6890306B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2018053557A JP6890306B2 (ja) 2018-03-20 2018-03-20 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム
US16/354,820 US11004424B2 (en) 2018-03-20 2019-03-15 Image display system, image display method, movable object including the image display system, and non-transitory computer-readable medium
DE102019106736.7A DE102019106736A1 (de) 2018-03-20 2019-03-18 Bildanzeigesystem, Bildanzeigeverfahren, Computerprogramm und bewegliches Objekt, das das Bildanzeigesystem beinhaltet
CN201910208006.0A CN110308556B (zh) 2018-03-20 2019-03-19 图像形成、校正、显示***或方法、移动体、非暂时性计算机可读介质
JP2021041530A JP7117592B2 (ja) 2018-03-20 2021-03-15 画像形成システム、画像補正システム、画像表示システム、画像形成方法、及びプログラム
US17/230,556 US11315528B2 (en) 2018-03-20 2021-04-14 Image display system, image display method, movable object including the image display system, and non-transitory computer-readable medium
US17/698,473 US11646000B2 (en) 2018-03-20 2022-03-18 Image display system, image display method, movable object including the image display system, and non-transitory computer-readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018053557A JP6890306B2 (ja) 2018-03-20 2018-03-20 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021041530A Division JP7117592B2 (ja) 2018-03-20 2021-03-15 画像形成システム、画像補正システム、画像表示システム、画像形成方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019164317A true JP2019164317A (ja) 2019-09-26
JP6890306B2 JP6890306B2 (ja) 2021-06-18

Family

ID=67848405

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018053557A Active JP6890306B2 (ja) 2018-03-20 2018-03-20 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム
JP2021041530A Active JP7117592B2 (ja) 2018-03-20 2021-03-15 画像形成システム、画像補正システム、画像表示システム、画像形成方法、及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021041530A Active JP7117592B2 (ja) 2018-03-20 2021-03-15 画像形成システム、画像補正システム、画像表示システム、画像形成方法、及びプログラム

Country Status (4)

Country Link
US (3) US11004424B2 (ja)
JP (2) JP6890306B2 (ja)
CN (1) CN110308556B (ja)
DE (1) DE102019106736A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021251116A1 (ja) * 2020-06-08 2021-12-16 パナソニックIpマネジメント株式会社 表示システム
JP7480602B2 (ja) 2019-12-31 2024-05-10 セイコーエプソン株式会社 表示システム、電子機器、移動体及び表示方法

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6919621B2 (ja) * 2018-04-24 2021-08-18 株式会社Soken 表示制御ユニット、及び表示制御プログラム
US11373527B2 (en) * 2019-03-25 2022-06-28 Micron Technology, Inc. Driver assistance for non-autonomous vehicle in an autonomous environment
US11878698B2 (en) * 2019-04-12 2024-01-23 Mitsubishi Electric Corporation Display control device, display control method, and storage medium storing display control program
EP3846009B1 (en) * 2019-12-31 2023-05-10 Seiko Epson Corporation Display system, electronic apparatus, mobile body, and display method
KR20210131129A (ko) * 2020-04-23 2021-11-02 현대자동차주식회사 이동 수단용 ui 생성 장치 및 ui 생성 방법
JP7238868B2 (ja) * 2020-08-20 2023-03-14 トヨタ自動車株式会社 ドライバ支援システム
JP2022123300A (ja) * 2021-02-12 2022-08-24 セイコーエプソン株式会社 表示方法および表示システム
JP2022184350A (ja) * 2021-06-01 2022-12-13 マツダ株式会社 ヘッドアップディスプレイ装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5724189A (en) * 1995-12-15 1998-03-03 Mcdonnell Douglas Corporation Methods and apparatus for creating an aspheric optical element and the aspheric optical elements formed thereby
JP2006195333A (ja) * 2005-01-17 2006-07-27 Nissan Motor Co Ltd 車載情報提供装置、および車載情報提供装置の制御方法
JP2010076533A (ja) * 2008-09-25 2010-04-08 Toshiba Corp 車載用表示システム及び表示方法
JP2017016455A (ja) * 2015-07-02 2017-01-19 アルパイン株式会社 画像補正装置および画像補正方法
WO2017134861A1 (ja) * 2016-02-05 2017-08-10 日立マクセル株式会社 ヘッドアップディスプレイ装置
JP2019098755A (ja) * 2017-11-28 2019-06-24 株式会社デンソー 虚像表示装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013237320A (ja) 2012-05-14 2013-11-28 Toshiba Alpine Automotive Technology Corp 違和感軽減表示装置およびその表示制御方法
DE102013212667A1 (de) 2013-06-28 2014-12-31 Robert Bosch Gmbh Verfahren und Vorrichtung zum Darstellen eines dreidimensionalen Bildes unter Verwendung eines Bildgebers einer Blickfeldanzeigeeinrichtung für ein Fahrzeug
JP2015174648A (ja) 2014-03-18 2015-10-05 株式会社日本自動車部品総合研究所 操作入力装置、および操作入力方法
JP2015194712A (ja) 2014-03-28 2015-11-05 パナソニックIpマネジメント株式会社 撮像装置
GB2528699B (en) * 2014-07-29 2017-05-03 Sony Computer Entertainment Europe Ltd Image processing
JP6582642B2 (ja) * 2014-08-11 2019-10-02 セイコーエプソン株式会社 車両用撮像装置、車両用撮像表示システム、及び車両
JP6370181B2 (ja) * 2014-09-18 2018-08-08 カルソニックカンセイ株式会社 車両用ヘッドアップディスプレイ装置
US20170371156A1 (en) * 2015-03-04 2017-12-28 Mitsubishi Electric Corporation Vehicular display control device and vehicular display device
JP2017013590A (ja) 2015-06-30 2017-01-19 日本精機株式会社 ヘッドアップディスプレイ装置
JP6618778B2 (ja) * 2015-11-12 2019-12-11 株式会社デンソーテン 画像処理装置、情報表示システム、画像処理方法およびプログラム
US20170169612A1 (en) * 2015-12-15 2017-06-15 N.S. International, LTD Augmented reality alignment system and method
CN109643021B (zh) * 2016-08-29 2024-05-07 麦克赛尔株式会社 平视显示装置
JP6731644B2 (ja) 2017-03-31 2020-07-29 パナソニックIpマネジメント株式会社 表示位置補正装置、表示位置補正装置を備える表示装置、及び表示装置を備える移動体

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5724189A (en) * 1995-12-15 1998-03-03 Mcdonnell Douglas Corporation Methods and apparatus for creating an aspheric optical element and the aspheric optical elements formed thereby
JP2006195333A (ja) * 2005-01-17 2006-07-27 Nissan Motor Co Ltd 車載情報提供装置、および車載情報提供装置の制御方法
JP2010076533A (ja) * 2008-09-25 2010-04-08 Toshiba Corp 車載用表示システム及び表示方法
JP2017016455A (ja) * 2015-07-02 2017-01-19 アルパイン株式会社 画像補正装置および画像補正方法
WO2017134861A1 (ja) * 2016-02-05 2017-08-10 日立マクセル株式会社 ヘッドアップディスプレイ装置
JP2019098755A (ja) * 2017-11-28 2019-06-24 株式会社デンソー 虚像表示装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7480602B2 (ja) 2019-12-31 2024-05-10 セイコーエプソン株式会社 表示システム、電子機器、移動体及び表示方法
WO2021251116A1 (ja) * 2020-06-08 2021-12-16 パナソニックIpマネジメント株式会社 表示システム

Also Published As

Publication number Publication date
JP7117592B2 (ja) 2022-08-15
DE102019106736A1 (de) 2019-09-26
JP6890306B2 (ja) 2021-06-18
JP2021105726A (ja) 2021-07-26
US20190295508A1 (en) 2019-09-26
US11004424B2 (en) 2021-05-11
CN110308556A (zh) 2019-10-08
US11646000B2 (en) 2023-05-09
US20220208148A1 (en) 2022-06-30
US11315528B2 (en) 2022-04-26
US20210233499A1 (en) 2021-07-29
CN110308556B (zh) 2021-12-21

Similar Documents

Publication Publication Date Title
JP6890306B2 (ja) 画像形成システム、画像補正システム、画像表示システム、移動体、画像形成方法、及びプログラム
JP6731644B2 (ja) 表示位置補正装置、表示位置補正装置を備える表示装置、及び表示装置を備える移動体
JP7194906B2 (ja) 映像表示システム、映像表示方法、プログラム、及び映像表示システムを備える移動体
US20170315352A1 (en) Dual head-up display apparatus
JP6342704B2 (ja) 表示装置
JP2019174693A (ja) 表示システム、制御装置、制御方法、プログラム、及び移動体
JP7005115B2 (ja) 車両用表示装置
JP2019164318A (ja) 映像表示システム、映像表示方法、プログラム、及び映像表示システムを備える移動体
KR20170059459A (ko) 헤드업 디스플레이, 헤드업 디스플레이 방법 및 차량 장착 디스플레이 장치
US20220013046A1 (en) Virtual image display system, image display method, head-up display, and moving vehicle
JP2007047735A (ja) 視覚情報呈示装置及び視覚情報呈示方法
JP2021067909A (ja) 立体表示装置及びヘッドアップディスプレイ装置
JP7145509B2 (ja) 映像表示システム、映像表示方法、プログラム、及び、移動体
CN110632755A (zh) 影像显示***及方法、非暂时性记录介质以及移动体
JP7354846B2 (ja) ヘッドアップディスプレイ装置
JP6726883B2 (ja) 表示システム、移動体、及び表示システムの制御方法
JPWO2020090187A1 (ja) 虚像表示装置、およびヘッドアップディスプレイ装置
JP6811397B2 (ja) 表示装置、表示装置の制御方法、プログラム、及び表示装置を備える移動体
JP2021051231A (ja) ヘッドアップディスプレイ装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190722

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190722

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201109

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20201215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210315

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210315

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210322

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210413

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210511

R151 Written notification of patent or utility model registration

Ref document number: 6890306

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03