JP2023174351A - 画像表示装置 - Google Patents

画像表示装置 Download PDF

Info

Publication number
JP2023174351A
JP2023174351A JP2022087156A JP2022087156A JP2023174351A JP 2023174351 A JP2023174351 A JP 2023174351A JP 2022087156 A JP2022087156 A JP 2022087156A JP 2022087156 A JP2022087156 A JP 2022087156A JP 2023174351 A JP2023174351 A JP 2023174351A
Authority
JP
Japan
Prior art keywords
image
observer
parallax
image display
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022087156A
Other languages
English (en)
Inventor
凌一 竹内
Ryoichi Takeuchi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2022087156A priority Critical patent/JP2023174351A/ja
Priority to PCT/JP2023/017619 priority patent/WO2023228752A1/ja
Publication of JP2023174351A publication Critical patent/JP2023174351A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/29Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area inside the vehicle, e.g. for viewing passengers or cargo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/286Image signal generators having separate monoscopic and stereoscopic modes
    • H04N13/289Switching between monoscopic and stereoscopic modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/363Image reproducers using image projection screens
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】観察者に遮蔽部が透明化されたように知覚させ、正しく知覚できない状態を回避することが可能な画像表示装置が提供される。【解決手段】画像表示装置(1)は、第1撮像部が観察者の周囲を撮像し、撮像して得られた第1画像データに基づいて、観察者の左眼及び右眼の一方によって見られる、観察者の視界を遮る遮蔽部に対応する範囲の第1画像と、観察者の左眼及び右眼の他方によって見られる、遮蔽部に対応する範囲の第2画像を生成する、画像データ処理部と、遮蔽部に第1画像及び第2画像を表示する画像表示部と、観察者のピントの位置を検出する視線検出部と、を備え、第2画像は第1画像に対して視差を有し、画像表示部は、観察者の視線のピントの位置に基づいて、第1画像及び第2画像に代えて、視差を有しない画像である視差なし画像を遮蔽部に表示する。【選択図】図1

Description

本開示は画像表示装置に関する。本開示は、特に車両周囲の撮像画像を遮蔽部に表示することによって、車外の景色が繋がったように運転者に知覚させることができる画像表示装置に関する。
従来、車両などにおいて現実環境と重ね合わせられたグラフィックスが表示される技術が知られている(例えば、特許文献1参照)。さらに再帰性投影技術を活用して、あたかも物体が透けて見えるように画像を観察者に知覚させることができる透明化技術が知られている。この透明化技術では、例えば車両の外部に設けたカメラの撮像画像に基づいて、観察者の左眼及び右眼のそれぞれが知覚する左眼画像及び右眼画像がコンピュータによって作成される。左眼画像及び右眼画像が例えば車両のピラー、ダッシュボード等の視線を遮る遮蔽部に投射され、観察者である運転者は車外の景色を撮像した画像を立体画像として知覚し、死角となる部分が透けて外界の景色とつながったように知覚する。
特開2015-194473号公報
ここで、ピラー、ダッシュボード等に投射される景色の画像を外界の景色とつながったように正しく知覚するためには、観察者のピント(焦点)が景色にあっていること、すなわち遠方を見るようになっていることが必要である。しかし、車内の構造物であるピラー、ダッシュボード等を見る場合に、観察者が車内の構造物自体にピントを合わせてしまって、投射された画像を正しく知覚できないことがある。
かかる点に鑑みてなされた本開示の目的は、観察者に遮蔽部が透明化されたように知覚させ、正しく知覚できない状態を回避することが可能な画像表示装置を提供することにある。
本開示の一実施形態に係る画像表示装置は、
第1撮像部が前記観察者の周囲を撮像し、撮像して得られた第1画像データに基づいて、前記観察者の左眼及び右眼の一方によって見られる、前記観察者の視界を遮る遮蔽部に対応する範囲の第1画像と、前記観察者の左眼及び右眼の他方によって見られる、前記遮蔽部に対応する範囲の第2画像を生成する、画像データ処理部と、
前記遮蔽部に前記第1画像及び前記第2画像を表示する画像表示部と、
前記観察者のピントの位置を検出する視線検出部と、を備え、
前記第2画像は前記第1画像に対して視差を有し、
前記画像表示部は、前記観察者の視線のピントの位置に基づいて、前記第1画像及び前記第2画像に代えて、視差を有しない画像である視差なし画像を前記遮蔽部に表示する。
本開示の一実施形態に係る画像表示装置は、
観察者及び前記観察者の周囲を撮像し、撮像して得られた画像データを出力する撮像部と、
前記画像データに基づいて、前記観察者の左眼及び右眼の視差を反映させた視差画像を前記観察者の視界を遮る遮蔽部において、前記観察者に知覚させる画像表示部と、
前記観察者の視線のピントの位置を検出する視線検出部と、を備え、
前記画像表示部は、前記観察者の視線のピントの位置が前記遮蔽部にある場合に、前記観察者の左眼及び右眼の視差を反映させない視差なし画像を前記観察者に知覚させる。
本開示の実施形態によれば、観察者に遮蔽部が透明化されたように知覚させ、正しく知覚できない状態を回避することが可能な画像表示装置を提供することができる。
図1は、本開示の一実施形態に係る画像表示装置の一例を模式的に示す平面図である。 図2は、スクリーン及び拡散板の構成を示す一部の拡大断面図である。 図3は、画像表示装置を装備した車両を模式的に示す平面図である。 図4は、画像表示装置を装備した車両を模式的に示す側面図である。 図5は、画像表示装置の構成を示すブロック図である。 図6は、制御部の動作を説明するためのフローチャートである。 図7は、遮蔽部に視差画像が表示されていない状態を示す図である。 図8は、遮蔽部に視差画像が表示されて、正しく知覚できた状態を示す図である。 図9は、遮蔽部に視差画像が表示されて、正しく知覚できない状態を示す図である。 図10は、観察者の視線及び輻輳角と遮蔽部との関係について説明するための図である。 図11は、第1画像及び第2画像又は視差なし画像を生成する処理のフローチャートである。 図12は、視差なし画像を例示する図である。
以下、図面を参照して本開示の実施形態に係る画像表示装置が説明される。各図中、同一又は相当する部分には、同一符号が付されている。以下の実施形態の説明において、同一又は相当する部分については、説明を適宜省略又は簡略化する。
図1は、本実施形態に係る画像表示装置1を模式的に示す平面図である。図2は、画像表示装置1に備えられる再帰反射性スクリーン11及び拡散板16の構成を示す一部の拡大断面図である。図3は、画像表示装置1を搭載する車両2を模式的に示す平面図である。図4は、画像表示装置1を搭載する車両2を模式的に示す側面図である。
画像表示装置1は、撮像部と、第1画像処理部8及び第2画像処理部9を含む画像データ処理装置33(図5参照)と、画像表示部と、視線検出部と、を備える。画像データ処理装置33は画像データ処理部と称されることがある。
撮像部は、観察者及び観察者の周囲を撮像し、撮像して得られた画像データを出力する。本実施形態において、撮像部は、前部車外カメラ3a及び後部車外カメラ3bと、車内カメラ6と、を含んで構成される。前部車外カメラ3a及び後部車外カメラ3bは車両2の周囲の景色を撮像する。以下において、前部車外カメラ3a及び後部車外カメラ3bを含む車外カメラを第1撮像部と称することがある。また、第1撮像部が観察者の周囲を撮像して得られた画像データを第1画像データと称することがある。車内カメラ6は運転者5を撮像する。車内カメラ6の画像データは、車両2の運転席4に着座した観察者である運転者5の左眼EL及び右眼ERの位置を検出し、左眼EL及び右眼ERの位置及び瞳の位置から運転者5の視線を検出することに用いられる。以下において、車内カメラ6を第2撮像部と称することがある。また、第2撮像部が観察者を撮影して得られた画像データを第2画像データと称することがある。ここで、撮像部は、前部車外カメラ3a及び後部車外カメラ3bのうち、一方のみを含んでよい。
画像データ処理部の第1画像処理部8は、前部車外カメラ3a及び後部車外カメラ3bから出力される画像データに基づいて、左眼EL及び右眼ERの一方によって見られる、遮蔽部7に対応する範囲の第1画像を生成する。ここで、遮蔽部7は、観察者の視線を遮る物体であって、左眼EL及び右眼ERから車外を見たときに観察者の視界を遮る物体である。例えば、右眼ERによって見られる、遮蔽部7に対応する範囲の画像が第1画像とされてよい。
画像データ処理部の第2画像処理部9は、前部車外カメラ3a及び後部車外カメラ3bから出力される画像データに基づいて、左眼EL及び右眼ERの他方によって見られる、遮蔽部7に対応する範囲の第2画像を生成する。例えば、左眼LRによって見られる、遮蔽部7に対応する範囲の画像が第2画像とされてよい。第2画像は、第1画像に対して視差を有する。同様に、第1画像は、第2画像に対して視差を有する。従って、第1画像と第2画像に含まれる同一の物体であっても、当該物体を見る視点が異なっているため、画像中における当該物体の位置及び形状は視差に応じて異なっている。ここで、左眼ELによって見られる、遮蔽部7に対応する範囲とは、遮蔽部7が無かったならば左眼ELによって視認しうる範囲を指す。同様に、右眼RLによって見られる、遮蔽部7に対応する範囲とは、遮蔽部7が無かったならば右眼RLによって視認しうる範囲を指す。
画像表示部は、遮蔽部7に第1画像及び第2画像を表示する。画像表示部は、遮蔽部7に第1画像及び第2画像が混合された画像である視差画像を表示してよい。画像表示部は、視差画像を表示することで、観察者に視差を反映させた画像を知覚させる。本実施形態において、画像表示部は、表示装置10を含んで構成される。ここで、車両2における遮蔽部7としては、ダッシュボード、ドア、ピラー、バックシート23等を列挙することができる。遮蔽部7に車外カメラ3で撮像され、画像処理された画像が映し出されることによって、観察者である運転者5は、画像が車外の景色とつながっているとの知覚を得ることができる。
視線検出部は、観察者のピントの位置を検出する。視線検出部は、観察者が撮影された画像データに基づいて、観察者の視線を検出してよい。本実施形態において、観察者が撮影された画像データは車内カメラ6から出力される。詳細について後述するが、本実施形態において、視線検出部は観察者の輻輳角も検出する。画像データ処理部は、検出された観察者の視線と輻輳角とが一定の条件を満たす場合に、観察者が第1画像及び第2画像が混合された視差画像を正しく知覚できない状態にあると判定する。そして、画像データ処理部が視差なし画像を生成し、画像表示部は遮蔽部7に視差なし画像を表示する。視差なし画像は、観察者の視差が反映されていない画像である。ここで、輻輳角は眼球から左右の視線が交差する角度である。
図1及び図2に示すように、表示装置10は、再帰反射性スクリーン11と、再帰反射性スクリーン11に近接して設けられる拡散板16と、を含んで構成される。拡散板16は再帰反射性スクリーン11の観察者に臨む側の表面に貼り付けられて積層されてよい。表示装置10は、ダッシュボードに設けられたダッシュボード表示装置10aと、右サイドピラーに設けられた右サイドピラー表示装置10bと、左サイドピラーに設けられた左サイドピラー表示装置10cと、後部座席22のバックシート23の設けられたバックシート表示装置10dとを含んでよい。
また、表示装置10は、投射部として、第1画像を再帰反射性スクリーン11に投射する第1投射部と、第2画像を再帰反射性スクリーン11に投射する第2投射部を含んで構成される。例えば右サイドピラーに貼付けられた右サイドピラー表示装置10bの投射部(右サイドピラー投射部12)は、第1画像を投射する第1投射部12R及び第2画像を投射する第2投射部12Lを含んで構成される。ここで、表示装置10a、10b、10c、10dは可撓性を有し、各遮蔽部7の起伏に応じて柔軟に湾曲させた状態で、接着剤等によって各遮蔽部7に接合されている。各投射部は同じ構成であるので、右サイドピラー投射部12を例に詳細に説明する。
第1投射部12Rは、第1画像を表示する液晶表示装置13Rと、液晶表示装置13Rから出射された第1画像の画像光を再帰反射性スクリーン11に投影する第1投射レンズ14Rとを有してよい。第2投射部12Lは、第2画像を表示する液晶表示装置13Lと、液晶表示装置13Lから出射された第2画像の画像光を再帰反射性スクリーン11に投影する第2投射レンズ14Lとを有してよい。各液晶表示装置13R、13Lは、透過型液晶表示素子と、液晶表示素子の背面に光を出射するバックライト装置とを備えてよい。ここで、液晶表示装置に代えてLED発光表示装置が用いられてよい。各投射レンズ14R、14Lは、第1画像及び第2画像が互いに視差をもたせて再帰反射性スクリーン11上に結像されるように、それぞれ複数のレンズの組合わせによって構成されてよい。ここで、観察者として運転者5を例示したが、助手席に座っている同乗者が観察者であってよい。第1投射部12Rは、その射出瞳が観察者の右眼ERと同じ高さかつ右眼ERの近傍となるように、例えばヘッドレストの右側に配置されてよい。第2投射部12Lも同様に、その射出瞳が観察者の左眼ELと同じ高さかつ左眼ELの近傍となるように、例えばヘッドレストの左側に配置されてよい。
バックシート投射部24及びダッシュボード投射部25もまた、右サイドピラー投射部12と同様に構成され、バックシート投射部24はバックシート表示装置10dにバックシート23によって遮蔽される範囲に対応する画像を投射する。またダッシュボード投射部25はダッシュボード表示装置10aにダッシュボードによって遮蔽される範囲に対応する画像を投射する。
ダッシュボード投射部25は、例えば車両2の天井の中央部に取り付けられてよい。バックシート投射部24は、例えば運転席4の背もたれシートの上部に取付けられてよい。
再帰反射性スクリーン11は、再帰反射性を有し、入射した光を入射方向に反射する。第1投射レンズ14R及び第2投射レンズ14Lから出射された第1画像の画像光及び第2画像の画像光は、再帰反射性スクリーン11によって、第1投射レンズ14R及び第2投射レンズ14Lに向けて反射される。そのため、再帰反射性スクリーン11上で重なっている(混合された)第1画像の画像光と第2画像の画像光は、観察者の位置において分離して知覚される。また、本実施形態において、再帰反射性スクリーン11の観察者側の表面には拡散板16が配置される。拡散板16は、再帰反射性スクリーン11で反射した光を、観察者の両眼に向けさせる拡散能力を有する。例えば、観察者の上方にダッシュボード投射部25がある場合に、拡散能が上下方向に大きく、左右方向に小さい拡散板16がダッシュボード表示装置10aで用いられてよい。ここで、右眼ER用の画像が左眼ELに入るといった画像の混同をなるべく抑制して、観察者に明瞭な立体画像を知覚させるために、左右方向の拡散能は上下方向の拡散能よりも小さいことが好ましい。拡散板16は、例えば再帰反射性スクリーン11の反射面上に接合されたホログラフィック光学素子であってよい。
図2に示すように、再帰反射性スクリーン11は、直径が例えば20μm以上100μm以下の微小な複数のガラスビーズ11aを反射膜11bに配置した構成であってよい。再帰反射性スクリーン11に投射された画像光は、ガラスビーズ11aに入射し、ガラスビーズ11aの表面で屈折して反射膜11b側の背面に達し、反射膜11bによって反射される。反射膜11bによって反射された光は、ガラスビーズ11aの背面で再び屈折し、ガラスビーズ11aの表面に達し、ガラスビーズ11aの直径以下の微小距離だけ入射光の入射経路から離間して、入射光と平行な光路を進むため、再帰反射が実現される。
上記のように、再帰反射性スクリーン11上で重なっている右眼ER用の第1画像の画像光と左眼EL用の第2画像の画像光は、観察者の位置で分離されており、右眼ER及び左眼ELに個別に入射する。観察者である運転者5は、第1画像の画像光と第2画像の画像光との混合画像から立体的な像を知覚することができる。観察者の視差を反映させた第1画像の画像光と第2画像の画像光との混合画像を視差画像という。
ここで、フロントガラス及び後部ウインドガラスから見える車外の景色と、遮蔽部7に表示される画像とがつながったように知覚させるために、車体を基準とする座標系を用いて再帰性投影に関する計算が実行されてよい。例えば車長方向をX軸、車幅方向をY軸、車高方向をZ軸とする座標系が用いられて、運転者5の左眼ELと右眼ERの位置などがこの座標系における座標として定められてよい。車体を基準とする座標系において、運転者5の両眼の位置が定められて、再帰性投影に関する計算が実行されることによって、車外の景色と遮蔽部7に表示される画像とに連続性を持たせることができる。また、運転者5の両眼位置を検出することによって、運転者5の体形及び姿勢の相違に対しても柔軟に追従して画像を表示することができる。
また、車両2の前部に設置される前部車外カメラ3aと後部に設置される後部車外カメラ3bは、魚眼レンズを取り付けたカメラであってよい。魚眼レンズを用いることによって、車外の景色を立体角で広範囲にわたって撮像することができる。ここで、車外カメラ3の数は限定されず、例えば1台であってよいし、3台以上であってよい。また、車外の撮像が可能であれば、車外カメラ3の設置場所は限定されない。つまり、車外カメラ3は、車外に設置されていてよいし、車内に設置されていてよい。また、車内カメラ6は、例えばルームミラーに隣接する位置など、運転者5を撮像できる位置に設置される。車外カメラ3及び車内カメラ6は、例えばCCDカメラであってよいが、特定の種類のカメラに限定されない。ここで、車内カメラ6、視線認識装置31及び車内カメラ制御装置37を含んで、視線検出部が構成される。
図5は、画像表示装置1の構成を示すブロック図である。前部車外カメラ3a及び後部車外カメラ3bによって撮像された画像の画像データは、車外カメラ制御装置35に送られる。車外カメラ制御装置35は、画像表示装置1の一部を構成する。車外カメラ制御装置35は、画像データに対して必要な信号処理(一例としてアナログ-デジタル変換)を実行して、画像データ処理装置33に出力する。
また、本実施形態において、画像表示装置1は運転者5の着席の有無を検出する着座センサ36を備える。着座センサ36は運転席4に設けられる。着座センサ36は、公知の荷重センサ又はリミットスイッチによって構成されてよい。
運転席4に運転者5が着座すると、運転席4に設置してある着座センサ36によって運転者5の着席が検出される。着座センサ36の検出結果が視線認識装置31に送られて、視線検出部は運転者5の両眼位置などの計測を開始する。視線認識装置31は、車内カメラ6の撮影画像から運転者5の左眼EL及び右眼ERの位置及び瞳位置を画像認識処理によって抽出し、運転者5の輻輳角及び視線を計算する。輻輳角及び視線の計算は公知の手法が用いられてよい。視線認識装置31は、眼球を球体と扱って、基準位置からの瞳の位置のずれ(眼球角度)を用いて輻輳角及び視線を計算してよい。視線認識装置31の計算結果は画像データ処理装置33に出力される。画像データ処理装置33は遮蔽部7が透明化されたように知覚させるための画像処理を実行し、画像処理の結果に基づいて表示制御装置39が表示装置10を制御する。
また、画像表示装置1において、車外カメラ制御装置35、画像データ処理装置33、車内カメラ制御装置37、視線認識装置31及び表示制御装置39を含んで、制御部50が構成される。制御部50は、画像表示装置1を制御する。制御部50は、ハードウェア資源として例えば電子制御装置(Electronic Control Unit;ECU)等のプロセッサと、ソフトウェア資源としてコンピュータよって読み取り可能なプログラムとによって実現される。制御部50は、1以上のプロセッサを含んでよい。プロセッサは、特定のプログラムを読み込ませて特定の機能を実行する汎用のプロセッサ及び特定の処理に特化した専用のプロセッサを含んでよい。専用のプロセッサは、特定用途向けIC(ASIC:Application Specific Integrated Circuit)を含んでよい。プロセッサは、プログラマブルロジックデバイス(PLD:Programmable Logic Device)を含んでよい。PLDは、FPGA(Field-Programmable Gate Array)を含んでよい。制御部50は、1個又は複数のプロセッサが協働するSoC(System-on-a-Chip)及びSiP(System In a Package)のいずれかであってよい。制御部50は、記憶部を備え、記憶部に各種情報又は画像表示装置1の各構成要素を動作させるためのプログラム等を格納してよい。記憶部は、例えば半導体メモリ等で構成されてよい。
図6は、制御部50の動作を説明するためのフローチャートである。運転者5が運転席4に着座し、スタートボタン等によって車両2の運転を開始すると、運転者5が運転席4に着座したことが着座センサ36によって検出される。また、車外カメラ制御装置35が各車外カメラ3a、3bを作動させて、車両2の周囲を撮像する(ステップS1)。車内カメラ制御装置37が視線認識装置31及び車内カメラ6を作動させて、車内カメラ6による撮像が開始される。視線認識装置31は、車内カメラ6によって撮像された画像に基づいて、運転者5の視線を検出する(ステップS2)。画像データ処理装置33は、遮蔽部7に投射する画像を、車外カメラ3によって撮像された画像から切り出し、第1画像及び第2画像を生成する(ステップS3)。ステップS3において、観察者の視線と輻輳角とが一定の条件を満たす場合には、第1画像及び第2画像に代えて、視差を有しない画像である視差なし画像が生成される。視差なし画像の詳細については後述する。また、第1画像及び第2画像が生成されると、表示制御装置39は、遮蔽部7に第1画像及び第2画像を表示させる(ステップS4)。表示制御装置39は、例えば右サイドピラーに取付けられた右サイドピラー表示装置10bに、本来右サイドピラーによって遮られて運転者5から見えていない画像を表示させる。ここで、ステップS3で視差なし画像が生成された場合には、ステップS4において、視差なし画像が表示される。
ここで、本実施形態に係る画像表示装置1は、観察者の視線と輻輳角とが一定の条件を満たす場合に、第1画像及び第2画像が混合された画像を正しく知覚できない状態にあると判定し、遮蔽部7に視差なし画像を表示する。ピラー、ダッシュボード等に投射される景色の画像を外界の景色とつながったように正しく知覚するためには、観察者のピントが景色にあっていること、すなわち遠方を見るようになっていることが必要である。しかし、車内の構造物であるピラー、ダッシュボード等を見る場合に、観察者が車内の構造物自体にピントを合わせてしまって、投射された画像を正しく知覚できないことがある。本実施形態に係る画像表示装置1は、観察者の視線が遮蔽部7の範囲内にあり、かつ、視線検出部によって検出された観察者の輻輳角が閾値以上である場合に、観察者が正しく知覚できない状態にあると判定する。そして、正しく知覚できない状態において、第1画像及び第2画像が混合された画像の表示を停止し、視差なし画像を表示することによって、観察者である運転者5が二重像などを見ること(物体を誤認すること)を回避し、運転の快適性の向上を支援することができる。つまり、本実施形態に係る画像表示装置1は、観察者に遮蔽部7が透明化されたように知覚させ、正しく知覚できない状態を回避することが可能である。
ここで、このような視差なし画像の表示処理は、表示対象が左右サイドピラーのいずれに対しても、画像データ処理装置33によって実行される。また、ダッシュボード、ドア、バックシート23を表示対象として、視差なし画像の表示処理が実行されてよい。従来死角にあった物体を誤認することなく、あたかも透明化されたように知覚することができるため、特にピラーを表示対象として適用されることがよい。
以下、図面を参照しながら、視差なし画像の表示処理が詳細に説明される。図7は、遮蔽部7に視差画像が表示されていない状態を示す図である。右サイドピラー表示装置10bに視差画像(第1画像及び第2画像が混合された画像)が表示されていない場合に、フロントガラス42及び右ウインドガラス46越しに見える建物だけが視認される。図8は、遮蔽部7に視差画像が表示されて、観察者が正しく知覚できた状態を示す図である。視差画像が表示されて、観察者が遠方(すなわち、車外)を見るようにピントを合わせている場合に、観察者は、右サイドピラー40の右サイドピラー表示装置10bの部分に、物体44の像を知覚する。これに対して、図9は、遮蔽部7に視差画像が表示されて、観察者が正しく知覚できない状態を示す図である。視差画像が表示されて、観察者が右サイドピラー40自体又はその手前を見るようにピントが合っている場合に、物体44は二重像として知覚される。つまり、外界の実景が繋がらず、右サイドピラー表示装置10bに表示された画像を連続した透過映像として知覚することができない。したがって、運転の快適性の観点から、画像表示装置1は、視線のピントの位置に基づいて観察者が正しく知覚できない状態にあることを検知した場合に、第1画像及び第2画像に代えて、視差なし画像を表示する。
画像データ処理装置33は、図6のステップS3において、検出された視線及び輻輳角に基づいて、観察者が正しく知覚できない状態にあるか否かを判定する。図10は、観察者の視線及び輻輳角と遮蔽部7との関係について説明するための図である。視線及び輻輳角は、上記のように、車内カメラ6の撮影画像に基づき視線認識装置31によって計算される。輻輳角は、図10においてθで示されている。また、表示面は、図10のように遮蔽部7の第1画像及び第2画像が表示される面である。画像データ処理装置33は、観察者の視線が遮蔽部7の範囲内にあるかを判定する。遮蔽部7の範囲は、表示面における幅である。視線が遮蔽部7の左端7Aと右端7Bとで挟まれる範囲にあれば、観察者が遮蔽部7を見ている状態にあると判定される。ここで、右眼ERの視線と左眼ELの視線のそれぞれについて遮蔽部7の範囲内にあるかの判定が行われて、少なくとも1つの視線が遮蔽部7の範囲にないときに、観察者が遮蔽部7を見ていないと判定されてよい。また、別の例として、右眼ERの視線と左眼ELの視線のうちの1つが代表となって、遮蔽部7の範囲内にあるかの判定で用いられてよい。画像データ処理装置33は、観察者が遮蔽部7を見ている状態にある場合に、続いて、遠方を見ているかを判定する。画像データ処理装置33は、観察者の輻輳角が閾値以上である場合に、観察者が表示面又は表示面より手前を見ており、視差画像に基づく像を正しく知覚できない状態にあると判定する。観察者が正しく知覚できない状態にある場合に、画像データ処理装置33は視差なし画像を生成する。また、画像表示部は遮蔽部7に視差なし画像を表示する。ここで、上記の閾値は、観察者の両眼の位置と遮蔽部7の表示面との位置関係に基づいて決定される。閾値は、例えば車両2の運転が開始されるときに、車内カメラ6の撮影画像に基づいて決定されてよい。
図11は、第1画像及び第2画像又は視差なし画像を生成する処理(図6のステップS3に対応)の詳細を説明するためのフローチャートである。画像データ処理装置33は、検出された観察者の視線が遮蔽部7の範囲内にあって(ステップS11のYES)、輻輳角が閾値以上である場合に(ステップS12のYES)、視差なし画像を生成する(ステップS13)。画像データ処理装置33は、検出された観察者の視線が遮蔽部7の範囲内にない(ステップS11のNO)、又は、輻輳角が閾値より小さい場合に(ステップS12のNO)、第1画像及び第2画像を生成する(ステップS14)。画像表示部は、遮蔽部7に、生成された画像(「視差なし画像」又は「第1画像及び第2画像」)を表示する。
ここで、視差なし画像は無色透明であってよいし、単色の均一画像であってよい。単色は白又はグレーの無彩色であってよい。視差なし画像は、車外の画像であってよい。視差なし画像は、右眼ER又は左目LRのいずれか一方によって見られる、遮蔽部7に対応する範囲の画像であってよい。視差なし画像は、右眼ER及び左目LRの間の仮想の視点から見られる、遮蔽部7に対応する範囲の画像であってよい。注意喚起の観点から、視差なし画像は文字情報又はコンテンツを含むものであってよい。文字情報は、例えば遠方を見ることを促す警告、車外にピントを合わせることを促す通知、遮蔽部7にピントを合わせないことを促す通知であってよい。視差なし画像を表示する場合は、第1画像及び第2画像を同一の画像として遮蔽部7に表示させてよい。例えば図12に示すように、「車外前方確認」という警告を含む視差なし画像が遮蔽部7に表示されることによって、観察者である運転者5は遠方にピントを合わせようとする。その後に、遮蔽部7に視差画像が表示された場合に、運転者5は視差画像に基づく像を正しく知覚することが期待される。
以上のように、本実施形態に係る画像表示装置1は、上記の構成によって、観察者に遮蔽部が透明化されたように知覚させ、正しく知覚できない状態を回避することが可能である。
本開示に係る実施形態について、諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形又は修正を行うことが容易であることに注意されたい。従って、これらの変形又は修正は本開示の範囲に含まれることに留意されたい。例えば、各構成部又は各工程などに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の構成部又は工程などを1つに組み合わせたり、或いは分割したりすることが可能である。本開示に係る実施形態について装置を中心に説明してきたが、本開示に係る実施形態は装置の各構成部が実行するステップを含む方法としても実現し得るものである。本開示に係る実施形態は装置が備えるプロセッサにより実行される方法、プログラム又はプログラムを記録した記憶媒体としても実現し得るものである。本開示の範囲にはこれらも包含されるものと理解されたい。
1 画像表示装置
2 車両
3 車外カメラ
4 運転席
5 運転者
6 車内カメラ
7 遮蔽部
8 第1画像処理部
9 第2画像処理部
10 表示装置
11 再帰反射性スクリーン
11a ガラスビーズ
11b 反射膜
12 投射部
12L 第2投射部
12R 第1投射部
13L、13R 液晶表示装置
14L 第2投射レンズ
14R 第1投射レンズ
16 拡散板
22 後部座席
23 バックシート
24 バックシート投射部
25 ダッシュボード投射部
31 視線認識装置
33 画像データ処理装置
35 車外カメラ制御装置
36 着座センサ
37 車内カメラ制御装置
39 表示制御装置
40 右サイドピラー
42 フロントガラス
44 物体
46 右ウインドガラス
50 制御部
EL 左眼
ER 右眼

Claims (10)

  1. 第1撮像部が観察者の周囲を撮像し、撮像して得られた第1画像データに基づいて、前記観察者の左眼及び右眼の一方によって見られる、前記観察者の視界を遮る遮蔽部に対応する範囲の第1画像と、前記観察者の左眼及び右眼の他方によって見られる、前記遮蔽部に対応する範囲の第2画像を生成する、画像データ処理部と、
    前記遮蔽部に前記第1画像及び前記第2画像を表示する画像表示部と、
    前記観察者のピントの位置を検出する視線検出部と、を備え、
    前記第2画像は前記第1画像に対して視差を有し、
    前記画像表示部は、前記観察者の視線のピントの位置に基づいて、前記第1画像及び前記第2画像に代えて、視差を有しない画像である視差なし画像を前記遮蔽部に表示する、画像表示装置。
  2. 前記画像表示部は、前記観察者の視線のピントの位置が、前記遮蔽部に合っている場合に、前記第1画像及び前記第2画像に代えて、視差を有しない画像である視差なし画像を前記遮蔽部に表示する、請求項1に記載の画像表示装置。
  3. 前記視線検出部は、第2撮像部が前記観察者を撮影して得られた第2画像データに基づいて前記観察者の視線を検出し、
    前記画像表示部は、前記観察者の視線が前記遮蔽部の範囲内にあり、かつ、前記視線検出部によって検出された前記観察者の輻輳角が閾値以上である場合に、前記視差なし画像を前記遮蔽部に表示する、請求項1に記載の画像表示装置。
  4. 前記視差なし画像は文字情報を含む、請求項1から3のいずれか一項に記載の画像表示装置。
  5. 前記文字情報は遠方を見ることを促す警告である、請求項4に記載の画像表示装置。
  6. 車両に搭載され、前記遮蔽部がピラーである、請求項1から3のいずれか一項に記載の画像表示装置。
  7. 前記画像表示部は、
    前記遮蔽部に設けられた、再帰反射性スクリーンと、
    前記第1画像を、前記再帰反射性スクリーンに投射する第1投射部と、
    前記第2画像を、前記再帰反射性スクリーンに投射する第2投射部と、を含む、請求項1から3のいずれか一項に記載の画像表示装置。
  8. 前記視差なし画像を前記画像表示部に表示する場合には、前記第1投射部と前記第2投射部は、同一の画像を前記再帰反射性スクリーンに投射する、請求項7に記載の画像表示装置。
  9. 前記画像表示部は、
    前記再帰反射性スクリーンに近接して設けられた拡散板を、さらに含む、請求項7に記載の画像表示装置。
  10. 観察者及び前記観察者の周囲を撮像し、撮像して得られた画像データを出力する撮像部と、
    前記画像データに基づいて、前記観察者の左眼及び右眼の視差を反映させた視差画像を前記観察者の視界を遮る遮蔽部において、前記観察者に知覚させる画像表示部と、
    前記観察者の視線のピントの位置を検出する視線検出部と、を備え、
    前記画像表示部は、前記観察者の視線のピントの位置が前記遮蔽部にある場合に、前記観察者の左眼及び右眼の視差を反映させない視差なし画像を前記観察者に知覚させる、画像表示装置。
JP2022087156A 2022-05-27 2022-05-27 画像表示装置 Pending JP2023174351A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022087156A JP2023174351A (ja) 2022-05-27 2022-05-27 画像表示装置
PCT/JP2023/017619 WO2023228752A1 (ja) 2022-05-27 2023-05-10 画像表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022087156A JP2023174351A (ja) 2022-05-27 2022-05-27 画像表示装置

Publications (1)

Publication Number Publication Date
JP2023174351A true JP2023174351A (ja) 2023-12-07

Family

ID=88919152

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022087156A Pending JP2023174351A (ja) 2022-05-27 2022-05-27 画像表示装置

Country Status (2)

Country Link
JP (1) JP2023174351A (ja)
WO (1) WO2023228752A1 (ja)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6778150B1 (en) * 1993-09-14 2004-08-17 Francis J. Maguire, Jr. Method and apparatus for eye tracking
EP1470727A2 (en) * 2002-01-04 2004-10-27 Neurok, LLC Three-dimensional image projection employing retro-reflective screens
JP2015012559A (ja) * 2013-07-02 2015-01-19 株式会社デンソー 投射型表示装置
JP6255537B2 (ja) * 2015-07-29 2017-12-27 富士フイルム株式会社 投写型表示装置及び投写制御方法
JP6828266B2 (ja) * 2016-04-18 2021-02-10 ソニー株式会社 画像表示装置及び画像表示装置、並びに移動体
KR102347689B1 (ko) * 2017-04-10 2022-01-05 현대자동차주식회사 차량의 사각존용 필러 디스플레이 장치
AU2018390994B2 (en) * 2017-12-22 2023-11-16 Mirage 3.4D Pty Ltd Camera projection technique system and method
JP7035989B2 (ja) * 2018-12-06 2022-03-15 株式会社Jvcケンウッド ディスプレイ装置、判別方法および照射方法

Also Published As

Publication number Publication date
WO2023228752A1 (ja) 2023-11-30

Similar Documents

Publication Publication Date Title
US7719621B2 (en) Image display device and method having image control unit preventing light source unit from outputting an image when observer is outside of predefined normal viewing area
WO2015174051A1 (ja) 表示装置、および表示方法
US11235706B2 (en) Display system
JP7003925B2 (ja) 反射板、情報表示装置および移動体
JP6706802B2 (ja) 表示システム、電子ミラーシステム及びそれを備える移動体
CN111856775A (zh) 显示设备
US9684166B2 (en) Motor vehicle and display of a three-dimensional graphical object
JP6697751B2 (ja) 車両用表示システム、電子ミラーシステム及び移動体
JP2019128389A (ja) ヘッドアップディスプレイ装置
CN115244451A (zh) 空中影像显示装置
WO2022181767A1 (ja) 画像表示装置
WO2023228752A1 (ja) 画像表示装置
WO2023228771A1 (ja) 画像表示装置、車両及び画像表示方法
WO2023228770A1 (ja) 画像表示装置
WO2023233919A1 (ja) 画像投影システム
JP6515796B2 (ja) ヘッドアップディスプレイ装置
WO2022230824A1 (ja) 映像表示装置および映像表示方法
JP2021102428A (ja) 表示システム
JP6697747B2 (ja) 表示システム、電子ミラーシステム及び移動体
CN113022448B (zh) 显示***
JP6677387B2 (ja) 立体画像表示装置及び立体画像表示方法
WO2020031549A1 (ja) 虚像表示装置
JP2021022851A (ja) ヘッドアップディスプレイ装置
CN112526748A (zh) 一种抬头显示设备、成像***和车辆
CN113614613A (zh) 立体虚像显示模块、立体虚像显示***以及移动体