JP2016040140A - 車両用表示装置と表示制御方法および後方モニタリングシステム - Google Patents

車両用表示装置と表示制御方法および後方モニタリングシステム Download PDF

Info

Publication number
JP2016040140A
JP2016040140A JP2014164179A JP2014164179A JP2016040140A JP 2016040140 A JP2016040140 A JP 2016040140A JP 2014164179 A JP2014164179 A JP 2014164179A JP 2014164179 A JP2014164179 A JP 2014164179A JP 2016040140 A JP2016040140 A JP 2016040140A
Authority
JP
Japan
Prior art keywords
unit
display
driver
image
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014164179A
Other languages
English (en)
Other versions
JP6384188B2 (ja
Inventor
英史 大場
Hidefumi Oba
英史 大場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2014164179A priority Critical patent/JP6384188B2/ja
Application filed by Sony Corp filed Critical Sony Corp
Priority to CN202010540091.3A priority patent/CN111660935B/zh
Priority to EP20205035.7A priority patent/EP3812211B1/en
Priority to PCT/JP2015/004023 priority patent/WO2016024405A2/en
Priority to EP15794318.4A priority patent/EP3148845B1/en
Priority to EP18191549.7A priority patent/EP3441264B1/en
Priority to US15/318,120 priority patent/US10682958B2/en
Priority to CN201580040535.4A priority patent/CN107074150B/zh
Publication of JP2016040140A publication Critical patent/JP2016040140A/ja
Priority to JP2018147490A priority patent/JP6939737B2/ja
Application granted granted Critical
Publication of JP6384188B2 publication Critical patent/JP6384188B2/ja
Priority to US16/817,611 priority patent/US11479177B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02Rear-view mirror arrangements
    • B60R1/08Rear-view mirror arrangements involving special optical features, e.g. avoiding blind spots, e.g. convex mirrors; Side-by-side associations of rear-view and other mirrors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1215Mirror assemblies combined with other articles, e.g. clocks with information displays
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/306Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using a re-scaling of images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8046Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for replacing a rear-view mirror system

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】車両の周辺領域を容易に視認できるようにする。【解決手段】表示部50は、表示面を運転者DRの方向とは異なる方向に向けて車両の室内に配置して、周辺領域撮像部11で撮像された車両の周辺領域の画像を表示する。ミラー部55は、車両の室内に配置されて表示部50に表示された画像を映す。表示部50とミラー部55は、周辺領域においてミラー部55に映る表示部50の画像によって運転者DRが視認できる視認範囲をミラー部55に対する運転者の視認位置の移動に応じて変更する。ミラー部55を介して、車両の周辺領域の所望の範囲を容易に視認できるようになる。【選択図】 図2

Description

この技術は、車両用表示装置と表示制御方法および後方モニタリングシステムに関し、車両の周辺領域を容易に視認できるようにする。
近年、撮像装置と表示装置により構成されたモニタリングシステムによって、車両のバックミラーに相当する機能を実現することが行われている。バックミラーを用いた視認方法では、運転者が頭部や眼の位置等(以下、単に「頭部位置」という)を移動させることで視認可能な範囲(以下「視認範囲」という)を移動させることが可能である。しかし、撮像装置で取り込んだ画像を単に表示装置に表示するモニタリングシステムでは、視認範囲が固定されてしまい、運転者が頭部位置を移動させも視認可能な範囲を移動させることができない。このため、特許文献1では、運転者の頭部位置の変化を検出して、周辺領域撮像画像から頭部位置の変化に応じて画像の切り出しを行い、切り出した画像を表示装置に表示することで、視認範囲を頭部位置の変化に応じて移動させることが開示されている。
特開2010−179850号公報
ところで、周辺領域撮像画像から頭部位置の変化に応じて画像の切り出しを行う場合、バックミラーと同等に頭部位置の変化に応じて視認範囲を変化させるためには、画像の切り出しを頭部位置の変化に応じて適切に行うことが必要となる。例えば、頭部位置の変化に対して画像の切り出し位置の移動が少ないと、所望の範囲を視認するためにバックミラーの場合と同様に頭部を移動しても、所望の範囲が表示されなくなってしまう。
そこで、この技術では、車両の周辺領域を容易に視認できる車両用表示装置と表示制御方法および後方モニタリングシステムを提供することを目的とする。
この技術の第1の側面は、
表示面を運転者の方向とは異なる方向に向けて車両の室内に配置されて、前記車両の周辺領域を撮像した画像を表示する表示部と、
前記車両の室内に配置されて前記表示部に表示された画像領域の一部または全体を映すミラー部とを備え、
前記ミラー部に映る前記表示部の画像によって前記運転者が視認できる前記周辺領域の視認範囲が、前記ミラー部に対する前記運転者の視認位置の移動に応じて変化する車両用表示装置にある。
この技術においては、車両の室内に表示部とミラー部が設けられる。表示部の表示面を運転者の方向とは異なる方向に向けられており、ミラー部を介して表示面の画像領域の一部または全体が運転者によって視認される。表示部には車両の周辺領域を撮像した画像が表示される。また、周辺領域において、ミラー部に映る表示部の画像によって視認できる視認範囲を、運転者の視認位置の移動に応じて変更する。例えば、視認範囲に対応する表示領域を除いた他の表示領域の輝度を低下させる。また、運転者の動きを判別して、動き判別結果に基づき輝度を低下させる表示領域を制御して、運転者の動きに応じて視認範囲を移動または拡張する。また、車両の周辺領域を撮像した画像における視認範囲の移動方向の端部側領域に対して、視認範囲の移動方向に画像の圧縮を行い、動き判別結果に基づき圧縮率または圧縮範囲を制御して視認範囲の移動または拡張を行う。また、周辺領域を撮像した画像の表示は、例えば動き判別結果に基づき運転者がミラー部の方向に振り向いたことに応じて行い、振り向きの検出後に運転者で予め指定した動きが行われたことを判別した場合に視認範囲の領域の移動や拡張を行う。さらに、運転者の動きに応じて視認範囲の拡張を行い、車両の運行状況に基づき拡張する視認範囲の領域サイズを制御する。運転者で予め指定した動きとは、運転者のしぐさ特徴を加味して指示検出をするジェスチャー制御を指し、その実施形態例の詳細は後述する。
この技術の第2の側面は、
車両の室内に設けられて、表示面が運転者の方向とは異なる方向に向けられた表示部で、前記車両の周辺領域を撮像した画像を表示する工程と、
表示制御部で、前記運転者の動きを判別して動き判別結果に基づき前記表示部に表示する画像の表示制御を行うことで、前記車両の室内に設けられたミラー部に映る前記表示部の画像によって前記運転者が視認できる視認範囲が、前記運転者の動きに応じて変化する工程とを含む表示制御方法にある。
この技術の第3の側面は、
車両の外装部に共に車両進行方向に対して後方側を向けて取り付けられた少なくとも2つ以上の撮像装置と、
前記車両の室内のダッシュボード中央部に隣接配置される少なくとも2つ以上の画面表示領域を設けた表示部を有し、
前記画面表示領域に表示する撮像画像の表示内容では、車両進行方向前方側に設置された第1の撮像装置の画像を前記第1の撮像装置よりも車両進行方向後方側に設置された撮像装置の画像より上部に配置する後方モニタリングシステムにある。
この技術の第4の側面は、
車両の外装部に共に車両進行方向に対して後方側を向けて取り付けられた少なくとも2つ以上の撮像装置と、
前記車両の室内に隣接配置する少なくとも2つ以上の画面表示領域を設けた表示部を有し、
前記画面表示領域に表示する撮像画像の表示内容では、車両進行方向前方側に設置された第1の撮像装置の画像に含まれる無限消失点を前記第1の撮像装置よりも車両進行方向後方側に設置された撮像装置の画像に含まれる無限消失点より上部に配置する後方モニタリングシステムにある。
この技術によれば、表示面を運転者の方向とは異なる方向に向けて車両の室内に配置された表示部で、車両の周辺領域を撮像した画像が表示される。ミラー部は、車両の室内に配置されて表示部に表示された画像領域の一部または全体を映す。ミラー部に映る表示部の画像によって運転者が視認できる周辺領域の視認範囲は、ミラー部に対する運転者の視認位置の移動に応じて変化する。このため、車両の周辺領域を撮像して表示部に表示して周辺領域を確認できるようにした場合に、周辺領域の所望の範囲例えば後方とその周辺を、従来の光学式バックミラー(後写鏡)と同等の感覚で容易に確認ができるようになる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
第1の実施の形態の構成を例示した図である。 運転者と表示部とミラー部の位置関係を例示した図である。 周辺領域撮像部の撮像範囲を説明するための図である。 ミラー部と表示部および従来のバックミラーの関係を示した図である。 焦点の切り替えと応答時間の関係を模式化して示した図である。 第1の実施の形態の動作を説明するための図である。 ミラー部が湾曲部分を有している場合を例示した図である。 第2の実施の形態の構成を例示した図である。 運転者と表示部とミラー部の位置関係を例示した図である。 表示制御部の構成を示す図である。 第2の実施の形態の動作を説明するための図である。 表示制御部の動作を示すフローチャートである。 表示制御部の第1の表示制御動作を説明するための図である。 表示制御部の第2の表示制御動作を説明するための図である。 表示部の表示と圧縮率および周辺領域との関係を示している。 第3の実施の形態の構成を例示した図である。 周辺領域撮像部の配置を例示した図である。 表示制御部の構成を示す図である。 表示制御部の動作を示すフローチャートである。 視認範囲のモードを例示した図である。 運転状況判別結果と視認範囲のモードとの関係を例示した図である。 表示部で表示される表示画像を例示した図である。 表示部で表示される他の表示画像を例示した図である。 表示部で表示される他の表示画像を例示した図である。 運転者が周辺領域の状況を把握する場合の動作を例示したフローチャートである。 第4の実施の形態の構成を例示した図である。 表示制御部の構成を示す図である。 表示制御部の動作を示すフローチャートである。 振り向きと視認範囲変更指示の動作を例示した図である。 振り向き判定と視認範囲変更指示の判定動作を例示した図である。 操作指示動作量として頭部の回転動作の加速度を用いる場合を例示した図である。 警告表示を行う場合の表示制御部の構成を例示している。 周辺領域撮像部の配置と表示部で表示される周辺画像を例示した図である。 頭部を前後方向に移動した場合の周辺領域画像の切り替えを説明するための図である。 頭部を左方向に移動した場合の周辺領域画像の切り替えを説明するための図である。 1台の周辺領域撮像部を用いてルームミラーに相当する機能を実現する場合の構成を例示した図である。 複数台の周辺領域撮像部を用いてルームミラーに相当する機能を実現する場合の構成を例示した図である。 ルームミラーよりも死角を少なくした場合の構成を例示した図である。 画像の結合位置の切り替えを説明するための図である。
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態
1−1.第1の実施の形態の構成
1−2.第1の実施の形態の動作
1−3.第1の実施の形態の他の構成と動作
2.第2の実施の形態
2−1.第2の実施の形態の構成
2−2.第2の実施の形態の動作
3.第3の実施の形態
3−1.第3の実施の形態の構成
3−2.第3の実施の形態の動作
4.第4の実施の形態
4−1.第4の実施の形態の構成
4−2.第4の実施の形態の動作
5.他の実施の形態
<1.第1の実施の形態>
[1−1.第1の実施の形態の構成]
図1は第1の実施の形態の構成を例示している。表示装置10は、周辺領域撮像部11、表示部50、ミラー部55を備えている。また、図2は、運転者と表示部とミラー部の位置関係を例示した図である。
周辺領域撮像部11は、車両周辺の周辺領域を撮像して画像信号を表示部50に出力する。図3は、周辺領域撮像部の撮像範囲を説明するための図である。例えば、バックミラー91を用いた場合に運転者DRが頭部位置(眼の位置)PS1で周辺領域における領域ARb1の範囲を視認できるとする。なお、以下の説明では胴部位置や眼の位置を単に頭部位置として記載する。
運転者DRが頭部位置を移動して位置PS2で周辺領域における領域ARb2の範囲を視認できるとする。周辺領域撮像部11は、例えば領域ARb1と領域ARb2を含む領域ARcの範囲を撮像して画像信号を生成する。このように、撮像範囲を設定すれば、周辺領域撮像部11はバックミラー91を用いた場合に視認可能な周辺領域を撮像した画像信号を生成できる。なお、周辺領域撮像部11の撮像範囲は、領域ARb1と領域ARb2を含む領域ARcの範囲に限らず例えば領域ARcよりも広画角の範囲としてもよい。以下、周辺領域撮像部11で撮像される領域を撮像対象周辺領域とする。
表示部50は、運転者DRがミラー部55を介して間接的に表示面を視認できるように配置されており、周辺領域撮像部11で撮像された画像(以下「周辺領域撮像画像」という)を表示面に表示する。なお、表示部50の表示画像において、運転者がミラー部55を介して視認する周辺領域の範囲(以下「視認範囲」という)と対応する画像領域をモニタ画像領域とする。
ミラー部55は、表示部50の表示面を運転者DRが間接的に視認できるように設けられている。ミラー部55は、車両内であって例えば運転者DRが従来のバックミラーを見る動作と同等の動作を行ったとき、ミラー部55に写った画像を視認できるように例えばピラーの近傍位置に配置されている。
また、ミラー部55に対して表示部50は、ミラー部55に映る表示部50での周辺領域撮像画像が、従来のバックミラーに映る周辺領域と同等となるように表示サイズやミラー部55との間隔が設定されている。さらに、表示部50とミラー部55は、周辺領域においてミラー部55に映る表示部50の画像によって運転者が視認できる視認範囲が、ミラー部55に対する運転者の視認位置の移動に応じて変更されるように配置されている。
図4は、ミラー部と表示部および従来のバックミラーの関係を示している。ミラー部55の鏡面サイズと位置は、運転者DRがバックミラー91を見たときのバックミラー91の鏡面範囲(矢印WAの範囲)と略一致するように設定する。また、ミラー部55を介して視認される表示部50の画像領域では、バックミラー91の鏡面に映る周辺領域の撮像画像を表示する。このようにすれば、表示部50とミラー部55によって従来のバックミラー91と同様な作用効果を得ることができる。本実施例では、従来のAピラー近傍設置のサイド(バック)ミラー(後写鏡)を例にそれと同等の視認方向とした場合に配置すべきミラー部55位置関係で説明をしているが、フェンダーミラーの視認方向と同様に、視認方向がダッシュボード中央に来るような配置でも良く、運転者のより少ない首振り動作を実現した配置として有効な負荷低減の効果も期待される。
表示装置10では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認できるようにして、運転者DRが表示部50で表示面を直接的に視認する場合に比べて、運転者DRから表示部50の表示面までの距離を長くする。
図5は、運転者の眼の焦点切り替えと応答時間の関係を模式化して示している。図5の(A)に示すように、無限遠の視認対象物OBaと近距離の視認対象物OBbの2点間で眼の焦点の切り替えを行う場合、一方から他方の対象物に焦点を合わせるまでの応答時間は、近距離の視認対象物OBbまでの距離LAに応じて変化する。図5の(B)は、近距離の視認対象物OBbまでの距離LAと応答時間TRの関係を示しており、近距離の視認対象物OBbまでの距離がある程度の距離よりも短くなると、視認対象物OBbまでの距離が短くなるに伴い応答時間TRが長くなる傾向がある。なお、実線は高年齢者、破線は中年齢者、一点鎖線は若年齢者の場合である。このため、本技術では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認できるようにして、運転者DRから表示部50の表示面までの距離を長くすることで、高速な認知作業を行うことができるようにする。具体的には、運転者DRからミラー部55を介した表示部50の表示面までの光学的視認距離が少なくとも1.1m以上となるように表示部50とミラー部55を配置または光学設計する。このように表示部50とミラー部55を配置すれば、表示装置10では、運転者が表示部50で表示された周辺領域撮像画像に焦点を合わせるために必要とされる時間を、バックミラーを介して見た対象物に焦点を合わせるために必要とされる時間に近づけられる。
また、表示装置10では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認することから、表示部50は運転者DRから表示面や表示面の照明光が直接見えないように配置する。また、運転者DRから表示部50の表示面や照明光が見えないように遮蔽物を設けた構成としてもよい。
[1−2.第1の実施の形態の動作]
図6は、第1の実施の形態の動作を説明するための図である。表示部50は、周辺領域撮像部11で撮像された撮像画像を表示する。ミラー部55は、例えば平面ミラーで構成して、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認する際に、表示部50における表示領域GRcの一部の領域GRmを視認できるサイズとする。なお、領域GRmをモニタ画像領域とする。また、表示部50は、周辺領域撮像部11で撮像された領域ARcの画像を表示領域GRcに表示する。
表示部50とミラー部55は、車両の運転者DRが視認範囲を変更するために頭部位置を例えば矢印Vaの方向に移動したとき、ミラー部55を介して視認できるモニタ画像領域GRmが従来のバックミラーの場合と同様に矢印Vbの方向に移動するように配置する。具体的には、頭部位置を移動した場合におけるモニタ画像領域GRmの移動方向が表示部50における表示領域の長手方向となるように、表示部50とミラー部55を配置する。
ここで、ミラー部55の方向を向いている運転者DRの頭部位置が図に示す位置である場合、運転者DRは、ミラー部55を介してモニタ画像領域GRmの画像を視認することで、周辺領域における視認範囲ARmの状況を確認できる。
次に視認範囲ARmよりも外側の領域を確認するため、運転者DRが頭部位置を車両前方向である矢印Vafの方向に移動すると、運転者DRがミラー部55を介して視認できるモニタ画像領域GRmは矢印Vbfの方向に移動する。すなわち運転者DRは、頭部位置を車両前方に移動して、ミラー部55を介してモニタ画像領域の画像を視認することで、頭部位置の移動前よりも周辺領域における外側の領域の状況を確認できる。
また、運転者DRが頭部位置を車両後方(矢印Vafに対して逆方向)に移動すると、運転者DRがミラー部55を介して視認できるモニタ画像領域GRmは矢印Vbfに対して逆方向に移動する。すなわち運転者DRは、頭部位置を車両後方に移動して、ミラー部55を介してモニタ画像領域の画像を視認することで、頭部位置の移動前よりも周辺領域における内側の領域の状況を確認できる。
したがって、ミラー部55を介して表示部50の画像を運転者に視認させることで、バックミラーを用いた場合と同様に周辺領域の所望の領域を確認できる。また、表示部50とミラー部55は、車両の室内に設けられているので、バックミラーを用いた場合のようにサイドウィンドウによる悪影響を受けることなく良好に周辺領域を確認できる。例えばサイドウィンドウの曇りや雨滴等の付着によって、周辺領域の確認が困難となってしまうことを防止できる。
[1−3.第1の実施の形態の他の構成と動作]
ところで、上述の第1の実施の形態のミラー部55は、平面ミラーで構成されている場合について説明したが、ミラー部55は平面ミラーに限らず湾曲部分を有した構成としてもよい。ミラー部55を部分的に湾曲させることにより湾曲部でバックミラー(後写鏡)の凸面鏡に相当する効果が得られる。
図7は、ミラー部が湾曲部分を有している場合を例示している。ミラー部55は、視認範囲の移動方向、すなわち運転者DRの頭部位置の移動に応じたモニタ画像領域GRmの移動方向の形状を、例えば運転者DRの方向に突出した湾曲形状とする。また、ミラー部55は、視認範囲の移動方向の端部側よりも中央部分MRcの湾曲を少なくて、略平面状の形状とする。
このように、端部側を湾曲させると、湾曲部分では視認範囲の移動方向について圧縮された画像となる。したがって、ミラー部55の中央部分MRcがモニタ画像領域GRmに対応する領域とすると、周辺領域においてモニタ画像領域GRmに対応する視認範囲ARmの外側や内側をミラー部55の端部側部分の圧縮画像で確認できるようになる。したがって、平面ミラーを用いた場合よりも、運転者が確認できる周辺領域の領域を広く確保できるようになる。
<2.第2の実施の形態>
[2−1.第2の実施の形態の構成]
図8は第2の実施の形態の構成を例示している。表示装置10は、周辺領域撮像部11、運転者撮像部12、表示制御部20、表示部50、ミラー部55を備えている。なお、図9は、運転者と表示部とミラー部および運転者撮像部の位置関係を例示した図である。
周辺領域撮像部11は、車両の周辺領域を撮像して画像信号を表示制御部20に出力する。なお、周辺領域撮像部11で撮像される領域を撮像対象周辺領域とする。
運転者撮像部12は、運転者DRの頭部位置や頭部の向き(顔の向きに相当)、視線の向き等を判別できるように、例えば運転者DRの前方またはミラー部55が設置されている方向に設けられている。運転者撮像部12は、運転者DRを撮像して画像信号を表示制御部20に出力する。
表示制御部20は、周辺領域撮像部11で撮像された周辺領域撮像画像を表示部50に表示させる。また、表示制御部20は、運転者の頭部位置や頭部の向き、視線の向き、および位置や向きの移動等に基づき、予め定めた表示変更意思伝達操作に応じて表示部50に表示する画像の表示制御を行う。
表示部50は、運転者がミラー部55を介して間接的に表示部50の表示面を視認できるように配置されている。また、表示部50の表示面は、例えば運転者DRが運転時にバックミラーで広範囲の領域を確認するように頭部位置を移動しても、ミラー部55を介して表示部50の表示画像を視認できるように表示面のサイズが設定されている。なお、表示部50の表示画像において、運転者がミラー部55を介して確認する周辺領域の視認範囲と対応する領域をモニタ画像領域とする。
ミラー部55は、表示部50の表示面を運転者DRが間接的に視認できるように設けられている。ミラー部55は、車両内であって例えば運転者DRが従来のバックミラーを見る動作を行ったとき、ミラー部55に写った画像を視認できるように例えばピラー近傍の位置に配置されている。また、ミラー部55は、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認する際に、表示部50の表示領域全体がミラー部55に映り込むように、表示部50との位置関係およびミラー部55のサイズを設定する。さらに、表示部50とミラー部55は、周辺領域においてミラー部55に映る表示部50の画像によって運転者が視認できる視認範囲が、表示制御部20の表示制御によって、ミラー部55に対する運転者の視認位置の移動に応じて変更される。ミラー部55の鏡面サイズと位置は、図4に示すように、運転者DRがバックミラー91を見たときのバックミラー91の鏡面範囲(矢印WAの範囲)と略一致するように設定する。このように設定して、表示部50とミラー部55によって従来のバックミラー91と同様な作用効果を得ることができるようにする。
表示装置10では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認できるようにして、運転者DRが表示部50で表示面を直接的に視認する場合に比べて、運転者DRから表示部50の表示面までの距離を長くする。
また、表示装置10では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認することから、表示部50は運転者DRから表示面や表示面の照明光が見えないように配置する。また、運転者DRから表示部50の表示面や照明光が直接見えないように遮蔽物を設けた構成としてもよい。本実施例では、従来のAピラー近傍設置のバックミラーと同等の視認方向とした場合に配置すべきミラー部55位置関係で説明をしているが、フェンダーミラー相当の視認方向として視線がダッシュボード中央に来るような配置でも良い。
図10は、表示制御部の構成を示す図である。表示制御部20は、運転者動き判別部21、制御処理部35、表示調整部41、輝度調整部42を備えている。
運転者動き判別部21は、運転者撮像部12から供給された画像信号に基づき、運転者の頭部位置を検出して、運転者の頭部位置の移動方向と移動量を判別する。運転者動き判別部21は、例えば運転者撮像部12から供給された画像信号に基づき、運転者の顔認識を行い、認識した顔の位置や顔の向き(頭部の向きに相当)、視線の向きを判別する。さらに、運転者動き判別部21は、認識した顔を追跡して、頭部位置の移動方向と移動量を判別する。運転者動き判別部21は、判別結果を制御処理部35に出力する。
制御処理部35は、運転者動き判別部21の判別結果に基づき、表示部50におけるモニタ画像領域とその他の領域(以下「非モニタ画像領域」という)で異なる表示制御を行う制御信号を生成して、表示調整部41と輝度調整部42に出力する。
表示調整部41は、制御処理部35からの制御信号に基づき、周辺領域撮像部11から供給された画像信号に対して周辺領域撮像画像の倍率調整を行い、例えば、非モニタ画像領域に対して画像の圧縮等を行う。
輝度調整部42は、制御処理部35からの制御信号に基づき、表示部50における非モニタ画像領域の輝度をモニタ画像領域よりも低下させる。輝度調整部42は、表示部50が照明を必要とする表示素子例えば液晶表示素子を用いて構成されている場合、照明例えば液晶パネルのバックライトの部分的領域を制御して、非モニタ画像領域の輝度をモニタ画像領域よりも低下させる。また、表示部50が照明を必要とする表示素子または自発光素子例えば有機EL表示素子を用いて構成されている場合、非モニタ画像領域に対応する輝度信号の信号レベルを低下させる処理を行ってもよい。
[2−2.第2の実施の形態の動作]
図11は、第2の実施の形態の動作を説明するための図である。表示制御部20は、周辺領域撮像部11で撮像された領域ARcの画像を表示部50の表示領域GRcに表示する。ミラー部55は、例えば平面ミラーで構成して、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認する際に、表示部50の表示領域GRcを視認できるサイズとする。
また、表示制御部20は、表示領域GRの表示画像に対する輝度制御や圧縮処理等を行い、運転者がミラー部55を介して視認する周辺領域の範囲である視認範囲の画像を識別可能として表示領域GRcの表示を行う。なお、視認範囲に対応する表示領域をモニタ画像領域GRmとする。
さらに、表示制御部20は、運転者撮像部12で撮像された運転者DRの動き例えば車両の前後方向の動き(矢印Va方向)に基づき、モニタ画像領域GRmを矢印Vbの方向に移動する。または、表示制御部20は、モニタ画像領域GRmの移動に代えてモニタ画像領域GRmに対応する視認範囲ARmの移動、あるいはモニタ画像領域GRmの矢印Vbの方向の拡張等を行う。
画像の移動速度は、運転者がモニタ画像以外を瞬時見るなどする間に、急激な画像の表示内容の変更が発生すると状況把握の喪失を招くおそれが発生する。そこで、急激な画面の移動は避け、表示画像の平行移動が最速でも0.2sec/全移動量(総画角シフト量)以内とする。ここで、後述する頭部や視線の位置検出に伴う画面変更反応遅延時間を200msec以内とすることで、従来のバックミラーを使用した場合に比べて操作感の低下を防止または軽減できると同時に、周辺状況把握遅延に伴う危険見落とし防止を満たすことができる。
運転者は、画面表示領域変更指示を出した後の僅かな間隔に、後方周辺情報と異なる窓越しの直接視界情報を得る操作をすることも想定される。その場合、運転者はミラー部55越しの窓方向を見て、画面注視注意が一旦瞬間的に途切れた後に再度ミラー部55を通して表示画面確認のステップに復帰するので、画面内容が全面的変更されていると、また状況把握の喪失を招くおそれがある。そこで、これら画面変更に伴う表示範囲が、変更の前後で少なくとも元の表示内容の1/4以上の範囲で、切り替え変更前の画面が変更後の画面に含まれる範囲の移動に控える。例えば運転者が画面変更移動中に他の視覚情報(例えばミラー部55と窓越しに見る直接視界)に注意遷移して表示部50に視線を復帰した場合に、記憶画面の連続性から一瞬起き得る表示部への状況把握の喪失を低減することができる。
図12は、表示制御部の動作を示すフローチャートである。ステップST1で表示制御部20は周辺領域確認動作が行われたか判別する。ここで、周辺領域確認動作とは、撮像装置と表示装置により構成されたモニタリングシステムを介して運転者が表示装置の画面を目視する動作の全般を指す。表示制御部20は、運転者撮像部12から供給された画像信号に基づき、例えば運転者の頭部の向きや視線方向が、ミラー部55の方向であるか判別する。表示制御部20は、運転者の頭部の向きや視線方向がミラー部55の方向を向いた場合例えばミラー部55の方向に振り向いた場合、周辺領域確認動作が行われたと判別してステップST2に進む。また、表示制御部20は、運転者の頭部の向きや視線方向がミラー部55の方向でない場合、周辺領域確認動作が行われていないと判別してステップST1に戻る。
ステップST2で表示制御部20は、視認範囲の判別を行う。表示制御部20は、運転者撮像部12から供給された画像信号に基づき、例えば運転者の頭部位置を検出して、検出した頭部位置からミラー部55を介して視認される視認範囲を判別してステップST3に進む。
ステップST3で表示制御部20は、画像表示制御処理を行う。表示制御部20は、視認範囲の画像をモニタ画像領域の画像として表示部50に表示する。また、表示制御部20は、非モニタ画像領域に高輝度被写体が映っていた場合にその画像の放射高輝度の表示内容で運転者の視界妨害とならないように例えば部分的バックライトや輝度レベルを制御する。また、表示制御部20は、表示部50における所定の領域をモニタ画像領域とする場合、モニタ画像領域の画像で所望の視認範囲を確認できるように、非モニタ画像領域に対応する周辺領域の画像の圧縮等の処理を行う。表示制御部20は画像表示制御処理を行いステップST4に進む。
ステップST4で表示制御部20は視認範囲変更指示が行われたか判別する。表示制御部20は、運転者撮像部12から供給された画像信号に基づき、例えば運転者の頭部位置を判別して、周辺領域における視認範囲を変更する指示動作が行われたか判別する。表示制御部20は、運転者の頭部位置が所定の動きを生じた場合、視認範囲変更指示が行われたと判別してステップST5に進む。また、表示制御部20は、運転者の頭部位置が所定の動きを生じていない場合、視認範囲変更指示が行われていないと判別してステップST6に進む。
ステップST5で表示制御部20は視認範囲変更処理を行う。表示制御部20は運転者が視認する視認範囲を、運転者の頭部位置の動きに伴い移動させる。表示制御部20は、例えばバックライトや輝度レベルを制御して、表示を暗くする領域を運転者の頭部位置の動きに応じて移動させることで、明るく表示されるモニタ画像領域を変更する。また、表示制御部20は、例えばモニタ画像領域の移動方向とは逆側に設けられている非モニタ画像領域の画像をさらに圧縮することで、モニタ画像領域に画像が表示される視認範囲を運転者の頭部位置の動きに応じて移動させる。また、モニタ画像領域の移動方向に設けられている非モニタ画像領域で表示する周辺領域範囲は範囲が少なくなることから、この非モニタ画像領域の圧縮を少なくする。表示制御部20は視認範囲変更処理を行ってステップST6に進む。
ステップST6で表示制御部20は周辺領域確認動作の終了であるか判別する。表示制御部20は、運転者撮像部12から供給された画像信号に基づき、例えば運転者の頭部の向きや視線方向が、ミラー部55の方向でなくなったことを判別する。表示制御部20は、運転者の頭部の向きや視線方向が引き続きミラー部55の方向である場合、周辺領域確認動作の終了でない判別してステップST4に戻る。また、表示制御部20は、運転者の頭部の向きや視線方向がミラー部55の方向でなくなった場合、周辺領域確認動作の終了であると判別してステップST7に進む。
ステップST7で表示制御部20は、表示を終了する。表示制御部20は、運転者が運転に集中できるように表示部50における周辺領域の画像表示を終了してステップST1に戻る。
図13は、表示制御部の第1の表示制御動作を説明するための図である。第1の表示制御動作において、表示制御部は、周辺領域の撮像画像を表示する際に、視認範囲を除いた他の範囲の画像の一部または全体の輝度を低下させて運転者から見え難くする。このようにすることで、運転者は、ミラー部55を介した画像の視認によって、バックミラーを用いた場合と同様に周辺領域の所望の視認範囲を確認できるようになる。また、特に夜間等で眩しさを引き起こす非モニタ画像領域の不要な明るさを控える等のメリットがある。
図13の(A)は、表示部50の表示、図13の(B)は、表示部50の表示位置と輝度の関係を示している。表示制御部20は、視認範囲を除いた他の範囲に対応する画像領域である非モニタ画像領域GRb1,GRb2の輝度を、視認範囲に対応するモニタ画像領域GRmよりも暗くして非モニタ画像領域GRb1,GRb2の画像を見え難くする。例えば表示部50が液晶表示素子を用いて構成されている場合にはバックライトの発光制御を行い、非モニタ画像領域GRb1,GRb2を暗くする。また、表示部50が有機EL表示素子を用いて構成されている場合には輝度信号の信号レベル制御を行い、非モニタ画像領域GRb1,GRb2を暗くする。このように、表示部50の表示画像は非モニタ画像領域GRb1,GRb2が暗い状態とされているので、運転者DRはモニタ画像領域GRmの画像のみを視認できるようになる。したがって、運転者DRは、ミラー部55を介して表示部50の表示画像を視認することで、周辺領域における視認範囲ARmの状況を確認できる。
また、表示制御部20は、運転者DRの頭部位置が例えば車両の前方向に移動したことを判別したとき、頭部位置の移動に応じてモニタ画像領域GRmを移動して、ミラー部55を介して視認できる周辺領域の視認範囲を外側に移動する。具体的には、表示制御部20は、頭部位置の車両前方向に移動に応じて非モニタ画像領域GRb1の領域幅が狭く、非モニタ画像領域GRb2の領域幅が広くなるように画像の輝度を制御する。このような表示制御を行うと、モニタ画像領域GRmの画像は、移動前に比べて周辺領域の外側の範囲の画像となる。表示制御部20は、運転者DRの頭部位置が例えば車両の後方向に移動したことを判別したとき、図示せずも頭部位置の移動に応じて、非モニタ画像領域GRb1の領域幅が広く、非モニタ画像領域GRb2の領域幅が狭くなるように画像の輝度を制御する。このような表示制御を行うと、モニタ画像領域GRmの画像は、移動前に比べて周辺領域の内側の範囲の画像となる。このため、運転者は頭部位置を移動することで、バックミラーを用いた場合と同様に周辺領域における所望の視認範囲を確認できる。また、表示部50とミラー部55は、車両の室内に設けられているので、バックミラーを用いた場合のようにサイドウィンドウによる悪影響を受けることなく良好に周辺領域を確認できる。
図14は、表示制御部の第2の表示制御動作を説明するための図である。第2の表示制御動作において、表示制御部は、周辺領域の撮像画像を表示する際に、モニタ画像領域GRmの移動に代えて、視認範囲を除いた他の範囲の画像をモニタ画像領域GRmの移動方向に圧縮する。表示制御部は、画像をこのように圧縮することで、モニタ画像領域GRmに対応する視認範囲ARmを移動させて、周辺領域における所望の視認範囲を確認できるようにする。
図14の(A)は、表示部50の表示、図14の(B)は、表示部50の表示位置と圧縮率の関係、図14の(C)は、表示部50の表示位置と輝度の関係を示している。表示制御部20は、視認範囲を除いた他の範囲に対応する画像領域である非モニタ画像領域GRb1,GRb2に対して、端部側になるに伴い画像がより縮小されるように表示制御を行う。このように非モニタ画像領域GRb1,GRb2を圧縮して、非モニタ画像領域GRb1,GRb2の圧縮率を調整することにより、モニタ画像領域GRmに対応する視認範囲ARmを移動可能とする。
表示制御部20は、運転者DRの頭部位置の動きに伴い、周辺領域における視認範囲を外側に移動する指示が行われたことを判別したとき、例えば運転者の前方向の首振りが行われたことを判別したとき、モニタ画像領域GRmに対応する視認範囲を外側に移動する。具体的には、表示制御部20は、非モニタ画像領域GRb2に対する周辺領域の範囲が広くなるように画像の圧縮率を制御する。また、外側方向に対応する非モニタ画像領域GRb1の圧縮および輝度低下を少なくすることで、非モニタ画像領域GRb1の画像により視認範囲の外側の範囲を確認できるようになる。すなわち、視認範囲を拡張することができる。なお、非モニタ画像領域GRb1の輝度低下のみを少なくしても、視認範囲の外側の範囲を確認できるようになることから、視認範囲を拡張できる。
図15は、表示部の表示と圧縮率および周辺領域との関係を示している。なお、図15の(A)は表示部50の表示、図15の(B)は表示部50の表示位置と圧縮率の関係、図15の(C)は周辺領域撮像部11の撮像範囲を示している。モニタ画像領域GRmでは、視認範囲ARmの撮像画像が表示されている。非モニタ画像領域GRb1では、視認範囲ARmの外側の撮像画像が圧縮して表示されており、非モニタ画像領域GRb2では、視認範囲ARmの内側の撮像画像が圧縮して表示されている。ここで、表示制御部20は、視認範囲を外側に移動する指示が行われたことを判別したとき、非モニタ画像領域GRb2に対する周辺領域の範囲が広くなるように画像の圧縮率を制御する。したがって、モニタ画像領域GRmに対応する視認範囲ARmは周辺領域の外側に移動する。
また、表示制御部20は、視認範囲を内側に移動する指示が行われたことを判別したとき、例えば運転者の後方向の首振りが行われたことを判別したとき、非モニタ画像領域GRb2に対する周辺領域の範囲が広くなるように画像の圧縮率を制御する。したがって、モニタ画像領域GRmに対応する視認範囲ARmは周辺領域の内側に移動する。
さらに、表示制御部20は、上述のように、視認範囲の変更指示が行われる前は、非モニタ画像領域GRb1,GRb2の輝度を視認範囲に対応するモニタ画像領域GRmよりも暗くして、非モニタ画像領域GRb1,GRb2の画像を見え難くする。例えば表示部50が液晶表示素子を用いて構成されている場合にはバックライトの発光制御を行い、非モニタ画像領域GRb1,GRb2を暗くする。また、表示部50が有機EL表示素子を用いて構成されている場合には輝度信号の信号レベル制御を行い、非モニタ画像領域GRb1,GRb2を暗くする。このように、表示部50の表示画像は非モニタ画像領域GRb1,GRb2が暗い状態とされているので、運転者DRはモニタ画像領域GRmの画像のみを視認できるようになる。したがって、運転者DRは、ミラー部55を介して表示部50の表示画像を視認することで、周辺領域における視認範囲ARmの状況を確認できる。その後、視認範囲の変更指示が行われた場合、表示制御部20は、非モニタ画像領域に対して輝度レベルをモニタ画像領域GRmの輝度レベルに近づけるようにする。
このような表示制御を行うと、運転者が視認範囲の変更指示を行ったとき、モニタ画像領域GRmに対応する視認範囲ARmが運転者の指示に応じて移動されることから、周辺領域の所望の範囲を容易に確認できるようになる。さらに、非モニタ画像領域の輝度レベルはモニタ画像領域GRmの輝度レベルと同様となることから、モニタ画像領域との区分がなくなる。したがって、視認範囲を自動的に拡張することができる。さらに、運転者は変更指示を行うだけで視認範囲を変更できることから、従来のバックミラーを用いた場合のように、所望の周辺範囲がバックミラーに映るまで頭部位置を前方向等に移動させなくとも、所望の周辺範囲を容易に確認できるようになる。また、表示部50とミラー部55は、車両の室内に設けられているので、バックミラーを用いた場合のようにサイドウィンドウによる悪影響を受けることなく良好に周辺領域を確認できる。
なお、運転者が視認範囲の変更指示を行ったとき、非モニタ画像領域の輝度レベルは低下した状態としてもよい。この場合、モニタ画像領域GRmの拡張は行われず、変更指示に基づき移動された視認範囲の画像が所定の輝度で表示される。また、非モニタ画像領域の圧縮特性や輝度特性は、図14の特性に限られない。例えば圧縮率を急峻に変化させてもよく、輝度レベルを緩やかに変化させてもよい。また、圧縮特性や輝度特性を運転者が選択可能とすれば、運転者の好みに応じて周辺領域の画像を表示させることもできる。さらに、視認範囲の変更指示に応じて、視認範囲の拡大縮小や表示画像の拡大率等を変化させてもよい。例えば運転者DRがミラー部55に近づいたことや近づく動作を視認範囲の変更指示として、視認範囲の広い画像や拡大率の低い画像(これらの画像を例えば第1画像とする)を表示する。また運転者DRがミラー部55から離れたことや離れる動作を視認範囲の変更指示として、第1画像よりも視認範囲の狭い画像や拡大率の高い画像を表示する。
<3.第3の実施の形態>
第3の実施の形態では、運転者が確認したい周辺領域が車両の運転状況に応じて変化する場合について説明する。例えば、トレーラや連節バスまたはキャンピング牽引カーのように、キャビンと牽引トレーラ部が分離可能とされており、運転状況に応じてキャビンの向きと牽引トレーラ部の向きが変化する場合について説明する。
[3−1.第3の実施の形態の構成]
図16は第3の実施の形態の構成を例示している。表示装置10は、周辺領域撮像部11a,11b、運転者撮像部12、表示制御部20、表示部50、ミラー部55を備えている。なお、運転者撮像部12、運転状況検出センサ13、表示部50、ミラー部55および運転者DRは、図9に示す位置関係とする。
周辺領域撮像部11a,11bは、車両の周辺領域を撮像して画像信号を表示制御部20に出力する。周辺領域撮像部11aはキャビン側に設けられており、周辺領域撮像部11bは牽引トレーラ部側に設けられている。なお、周辺領域撮像部11aで撮像される領域を第1撮像対象周辺領域、周辺領域撮像部11bで撮像される領域を第2撮像対象周辺領域とする。
運転者撮像部12は、運転者DRの頭部位置や頭部の向きや視線の向き等を判別できるように、例えば運転者DRの前方またはミラー部55が設置されている方向に設けられている。運転者撮像部12は、運転者DRを撮像して画像信号を表示制御部20に出力する。
運転状況検出センサ13は、運転状況に関する情報、例えばステアリング状態を示す情報、牽引トレーラ部の接続状態を示す情報、キャビンに対する牽引トレーラ部の曲がり角等の情報、ギヤ位置情報や車速情報、方向指示器設定情報、現在位置情報(例えば衛星測位システムの測位信号)等を運行情報として取得する。運転状況検出センサ13は、取得した運行情報をセンサ情報として表示制御部20へ出力する。
表示制御部20は、周辺領域撮像部11a,11bで生成された画像信号に基づき、周辺領域撮像画像を表示部50に表示する。また、表示制御部20は、運転者の頭部位置や頭部の向き、視線の向き、および位置や向きの移動、運転状況検出センサ13からのセンサ情報等に基づき、表示部50に表示する周辺領域撮像画像の表示制御を行う。
表示部50は、運転者がミラー部55を介して間接的に表示部50の表示面を視認できるように配置されている。また、表示部50の表示面は、例えば運転者DRが運転時にバックミラーで広範囲の領域を確認するように頭部位置を移動しても、ミラー部55を介して表示部50の表示画像を視認できるように、図4に示す通り、ミラー部55の鏡面を結ぶ光線よりも大きいサイズとされている。なお、表示部50の表示画像において、運転者がミラー部55を介して確認する周辺領域の視認範囲と対応する画像領域をモニタ画像領域とする。
ミラー部55は、表示部50の表示面を運転者DRが間接的に視認できるように設けられている。ミラー部55は、車両内であって例えば運転者DRが従来のバックミラーを見る動作を行ったとき、ミラー部55に写った画像を視認できるように例えばピラーの位置に配置されている。また、ミラー部55は、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認する際に、表示部50の表示領域全体がミラー部55に映り込むように、表示部50との位置関係およびミラー部55のサイズを設定する。さらに、表示部50とミラー部55は、周辺領域においてミラー部55に映る表示部50の画像によって運転者が視認できる視認範囲が、表示制御部20の表示制御によって、ミラー部55に対する運転者の視認位置の移動に応じて変更される。なお、ミラー部55のサイズは、従来のバックミラーと同様な作用効果が得られるように、第1の実施の形態や第2の実施の形態のように設定することが好ましい。
表示装置10では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認できるようにして、運転者DRが表示部50で表示面を直接的に視認する場合に比べて、運転者DRから表示部50の表示面までの距離を長くする。
また、表示装置10では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認することから、表示部50は運転者DRから表示面や表示面の照明光が見えないように配置する。また、運転者DRから表示部50の表示面や表示光が見えないように遮蔽物を設けた構成としてもよい。
図17は、周辺領域撮像部の配置を例示している。なお、図では、例えばトレーラの左側面に周辺領域撮像部を配置した場合を例示しており、右側面の周辺領域撮像部は省略している。
上述したように、周辺領域撮像部11aはキャビン側に設けられており、周辺領域撮像部11bは牽引トレーラ部側に設けられている。なお、周辺領域撮像部11aで撮像される領域を第1撮像対象周辺領域、周辺領域撮像部11bで撮像される領域を第2撮像対象周辺領域とする。
図17の(A)は、キャビンと牽引トレーラ部が直線状に位置している場合を示している。図17の(B)は、キャビンに対して牽引トレーラ部が、周辺領域撮像部11aの設置側に寄っている状態を示しており、図17の(C)は、キャビンに対して牽引トレーラ部が、周辺領域撮像部11aの設置側とは逆方向に寄っている状態を示している。周辺領域撮像部11aで取得される撮像画像は、牽引トレーラ部が図17の(A)から図17の(B)に示す状態となると、牽引トレーラ部を示す画像部分が増加して周辺領域を確認できなくなってしまう。また、牽引トレーラ部が図17の(A)から図17の(C)に示す状態となると、周辺領域撮像部11aの撮像範囲から牽引トレーラ部が離れて、牽引トレーラ部の近傍は運転者が確認できない死角となってしまう。一方、周辺領域撮像部11bは牽引トレーラ部に設けられていることから、周辺領域撮像部11bで取得される撮像画像は、キャビンと牽引トレーラ部との位置関係に係らず周辺領域を示した画像となる。
そこで、表示制御部20は、周辺領域撮像部11aで取得された撮像画像と周辺領域撮像部11bで取得された撮像画像を、運転状況や運転者の意思に応じて用いることで、ミラー部55を介して周辺領域の確認を行うことができるように表示制御を行う。
図18は、表示制御部の構成を示す図である。表示制御部20は、運転者動き判別部21、運転状況判別部22、制御処理部35、表示調整部41、輝度調整部42を備えている。
運転者動き判別部21は、運転者撮像部12から供給された画像信号に基づき、運転者の頭部位置を検出して、運転者の頭部位置の移動方向と移動量を判別する。運転者動き判別部21は、例えば運転者撮像部12から供給された画像信号に基づき、運転者の顔認識を行い、認識した顔の位置や頭部の向きを判別する。さらに、運転者動き判別部21は、認識した顔を追跡して、頭部位置の移動方向と移動量を判別する。運転者動き判別部21は、判別結果を制御処理部35に出力する。
運転状況判別部22は、運転状況検出センサ13から供給されたセンサ情報に基づき、運転状況を判別する。運転状況判別部22は、例えばギヤ位置等に基づき車両が前進または後退のいずれであるか、車速、方向指示器設定情報とステアリング状態等に基づき、直進または右折または左折のいずれであるかを判別する。また、運転状況判別部22は、例えば牽引トレーラ部の接続状態やキャビンに対する牽引トレーラ部の曲がり角等の情報に基づき、緩やかな右左折または鋭角な右左折であるか、現在位置情報等に基づき走行位置がランドアバウトの位置であるか等を判別する。運転状況判別部22は、判別結果を制御処理部35に出力する。
制御処理部35は、運転者動き判別部21と運転状況判別部22の判別結果に基づき、表示部50におけるモニタ画像領域と非モニタ画像領域で異なる表示制御を行う制御信号を生成して、表示調整部41と輝度調整部42に出力する。
表示調整部41は、制御処理部35からの制御信号に基づき、周辺領域撮像部11から供給された画像信号に対して周辺領域撮像画像の倍率調整を行い、例えば、非モニタ画像領域に対して画像の圧縮等を行う。また、表示調整部41は、制御処理部35からの制御信号に基づき、複数の周辺領域撮像部で取得された周辺領域の画像の切り替えや合成,表示する周辺領域の表示幅の調整等を行うようにしてもよい。
輝度調整部42は、制御処理部35からの制御信号に基づき、表示部50における非モニタ画像領域の輝度をモニタ画像領域よりも低下させる。輝度調整部42は、表示部50が照明を必要とする表示素子例えば液晶表示素子を用いて構成されている場合、照明例えばバックライトを制御して、非モニタ画像領域の輝度をモニタ画像領域よりも低下させる。また、表示部50が照明を必要とする表示素子または自発光素子例えば有機EL表示素子を用いて構成されている場合、非モニタ画像領域に対応する輝度信号の信号レベルを低下させる処理を行ってもよい。
[3−2.第3の実施の形態の動作]
図19は、第3の実施の形態における表示制御部の動作を示すフローチャートである。ステップST11で表示制御部20は周辺領域確認動作が行われたか判別する。表示制御部20は、運転者撮像部12から供給された画像信号に基づき、例えば運転者の頭部の向きや視線方向が、ミラー部55の方向であるか判別する。表示制御部20は、運転者の頭部の向きや視線方向がミラー部55の方向である場合例えばミラー部55の方向に振り向いた場合、周辺領域確認動作が行われたと判別してステップST12に進む。また、表示制御部20は、運転者の頭部の向きや視線方向がミラー部55の方向でない場合、周辺領域確認動作が行われていないと判別してステップST11に戻る。
ステップST12で表示制御部20は、運転状況の判別を行う。表示制御部20は、運転状況検出センサ13から供給されたセンサ情報に基づき運転状況を判別する。表示制御部20は、例えば車両が前進または後退のいずれであるか、直進または右折または左折のいずれであるか、緩やかな右左折または鋭角な右左折であるか、走行位置がランドアバウトの位置であるか等の判別を行いステップST13に進む。
ステップST13で表示制御部20は、視認範囲の判別を行う。表示制御部20は、運転状況の判別結果に基づきミラー部55を介して視認される視認範囲を判別してステップST14に進む。なお、視認範囲の判別では運転者の頭部位置も含めて視認範囲を判別してもよい。
図20は、視認範囲のモードを例示している。モード1は例えば通常走行時のミラー視認必須範囲である。モード2は例えば通常走行時のミラー視認必須範囲よりも内側および外側の範囲を広く視認できる範囲である。モード3は例えば後退時等において運転者が車両の外側を死角なく視認できる範囲とされている。ここで、例えば周辺領域撮像部11aの撮像範囲は、通常走行時のミラー視認必須範囲として、周辺領域撮像部11bの撮像範囲は、周辺領域撮像部11aの撮像範囲よりも広い範囲とする。また、図20の(A)に示すように、モード1は周辺領域撮像部11aの撮像範囲を視認範囲、モード2は周辺領域撮像部11bの撮像範囲を視認範囲とする。さらに、図20の(B)に示すように、モード3は周辺領域撮像部11aおよび周辺領域撮像部11bの撮像範囲に含まれる範囲を視認範囲とする。なお、周辺領域撮像部11aの撮像範囲を切替可能として、運転状況や運転者の指示に応じて周辺領域撮像部11bの撮像範囲を視認範囲としてもよい。例えば図20の(C)に示すように、周辺領域撮像部11aの撮像範囲をモード1〜モード3の範囲に切替可能としてもよい。
図21は、運転状況判別結果と視認範囲のモードとの関係を例示している。表示制御部20は、検出情報に基づき例えば直進の運転中であると判別した場合、丸印で示すようにモード1の範囲を視認範囲とする。表示制御部20は、検出情報に基づき例えばラウンドアバウトの地点である場合、丸印で示すようにモード1の範囲を視認範囲とする。表示制御部20は、検出情報に基づき例えば緩やかに右折または左折している場合、丸印で示すようにモード1の範囲を視認範囲とする。表示制御部20は、検出情報に基づき例えば鋭角に右折または左折している場合、丸印で示すようにモード2の範囲を視認範囲として、確認できる範囲を外側に広くする。表示制御部20は、検出情報に基づき例えば直進後退している場合、丸印で示すようにモード1の範囲を視認範囲とする。表示制御部20は、検出情報に基づき例えば鋭角に後退している場合、図17の(C)に示す死角を生じないように丸印で示すモード2の範囲すなわち周辺領域撮像部11bの撮像範囲を視認範囲とする。
ステップST14で表示制御部20は、画像表示制御処理を行う。表示制御部20は、視認範囲のモードに応じてモニタ画像領域の領域幅を設定して、視認範囲の画像をモニタ画像領域の画像として表示部50に表示する。また、表示制御部20は、非モニタ画像領域の画像が見えないように例えばバックライトや輝度レベルを制御する。また、表示制御部20は、表示部50の所定の領域をモニタ画像領域とする場合、モニタ画像領域で視認範囲の画像を表示できると共に、モニタ画像領域に対応する視認範囲を移動できるように、非モニタ画像領域に対応する周辺領域の画像の圧縮等の処理を行う。表示制御部20は画像表示制御処理を行いステップST15に進む。
ステップST15で表示制御部20は視認範囲変更指示が行われたか判別する。表示制御部20は、運転者撮像部12から供給された画像信号に基づき、例えば運転者の頭部位置を判別して、周辺領域における視認範囲を変更する指示動作が行われたか判別する。表示制御部20は、運転者の頭部位置が視認範囲の移動を伴う動きを生じた場合、視認範囲変更指示が行われたと判別してステップST16に進む。また、表示制御部20は、運転者の頭部位置が視認範囲の移動を伴う動きを生じていない場合、視認範囲変更指示が行われていないと判別してステップST17に進む。
ステップST16で表示制御部20はモード変更処理を行う。表示制御部20は、視認範囲変更指示が視認範囲を広げる指示である場合に視認範囲の広いモードに切り替えを行う。表示制御部20は、例えば図21の丸印で示すモードとされている場合は四角印で示すモードに切り替えて、四角印で示すモードとされている場合は星印で示すモードに切り替える。また、表示制御部20は、視認範囲変更指示が視認範囲を狭める指示である場合に視認範囲の狭いモードに切り替えを行う。表示制御部20は、例えば図21の四角印で示すモードとされている場合は丸印で示すモードに切り替えて、星印で示すモードとされている場合は四角印で示すモードに切り替える。表示制御部20は、視認範囲変更指示に基づきモードを切り替えてステップST17に進む。
ステップST17で表示制御部20は周辺領域確認動作の終了であるか判別する。表示制御部20は、運転者撮像部12から供給された画像信号に基づき、例えば運転者の頭部の向きや視線方向が、ミラー部55の方向でなくなったことを判別する。表示制御部20は、運転者の頭部の向きや視線方向が引き続きミラー部55の方向である場合、周辺領域確認動作の終了でない判別してステップST15に戻る。また、表示制御部20は、運転者の頭部の向きや視線方向がミラー部55の方向でなくなった場合、周辺領域確認動作の終了であると判別してステップST18に進む。
ステップST18で表示制御部20は、表示を終了する。表示制御部20は、運転者が運転に集中できるように表示部50における周辺領域の画像表示を終了してステップST11に戻る。
このような表示制御を行うことで、運転状況に応じて視認範囲の設定や切り替えを自動的に行うことができるので、従来のバックミラーを用いた場合よりも容易に、周辺範囲における所望の視認範囲を確認できるようになる。例えば、運転状況検出センサ13から供給されたセンサ情報に基づき、車両の進行方向が直進である場合は、モード1からモード2に切り替えられて、車両の外側方向に視認範囲が拡張される。また、運転状況検出センサ13から供給されたセンサ情報に基づき、キャビンの向きと牽引トレーラ部の向きが相違する鋭角右左折や鋭角後退の場合に、モード2からモード3に切り替えられて、牽引トレーラ部の外側が視認範囲に含まれるように視認範囲が拡張される。したがって、所望の視認範囲を確認できるようになる。また、表示部50とミラー部55は、車両の室内に設けられているので、バックミラーを用いた場合のようにサイドウィンドウによる悪影響を受けることなく良好に周辺領域を確認できる。
図22は、周辺領域撮像部11aと周辺領域撮像部11bで取得された周辺画像を用いて表示部50で表示される表示画像を例示している。図22の(A)は、周辺領域撮像部11aの死角の位置に車がある場合を例示している。図22の(B)は、周辺領域撮像部11aで取得された周辺画像MGaを表示した場合を例示しており、周辺領域撮像部11aで取り込まれた画像の表示画像のみでは、後方の車全体を確認できない。このため、表示制御部20は、図22の(C)に示すように、周辺領域撮像部11aで取得された周辺画像MGaだけでなく、周辺領域撮像部11bで取得された周辺画像MGbを表示することで後方にいる車全体を確認できる。なお、表示制御部20は、運転状況や運転者の意思に応じて、図22の(B)と図22の(C)に示す表示の切り替えや、図22の(C)において矢印で示すように周辺画像MGaと周辺画像MGbの領域幅(または挿入幅)を可変できる構成とすれば、周辺領域を最も視認しやすい状態で表示することができる。
図23は、周辺領域撮像部11aと周辺領域撮像部11bで取得された周辺画像を用いて表示部50で表示される他の表示画像を例示している。図23の(A)は、周辺領域撮像部11aで取得された周辺画像MGaを表示した場合を例示している。図23の(B)は、周辺領域撮像部11aで取得された周辺画像MGaと周辺領域撮像部11bで取得された周辺画像MGbを縦方向に並べて表示した場合を例示している。表示制御部20は、運転状況や運転者の意思に応じて、図23の(A)に示す表示と図23の(B)に示す表示との切り替えを行う。また、図23の(B)において矢印で示すように周辺画像MGaと周辺画像MGbの領域幅(または挿入幅)を可変できる構成としてもよい。ここで、複数撮像により取り込まれた画像表示を隣接する表示部で表示を行う際に、車体の進行方向に対して前方に配置された撮像画像程、表示画面の上方に配置し、進行方向に対して後方に設置された撮像画像程、表示画面の下方に配置する事で、ドライバは直感的に視認画面の車体前後関係は瞬時に判別できるメリットがある。すなわち、車両の外装部に共に車両進行方向に対して後方側を向けて取り付けられた少なくとも2つ以上の撮像装置と、車両の室内の例えばダッシュボード中央部に、隣接配置される少なくとも2つ以上の画面表示領域を設けた表示部を有する場合、画面表示領域に表示する撮像画像の表示内容では、車両進行方向前方側に設置された第1の撮像装置(例えば周辺領域撮像部11a)の画像を第1の撮像装置よりも車両進行方向後方側に設置された撮像装置(例えば周辺領域撮像部11a)の画像より上部に配置する(例えば図23の(B))。このようにすれば、ドライバは直感的に視認画面の車体前後関係を瞬時に判別できるメリットがある。
また、画面を大きく上下配置が出来ないレイアウトであっても、進行方向前方設置撮像部画面の後方消失点が表示画面では上方に配置する。すなわち、車両の外装部に共に車両進行方向に対して後方側を向けて取り付けられた少なくとも2つ以上の撮像装置と、車両の室内に、隣接配置される少なくとも2つ以上の画面表示領域を設けた表示部を有する場合、画面表示領域に表示する撮像画像の表示内容では、車両進行方向前方側に設置された第1の撮像装置の画像に含まれる無限消失点を第1の撮像装置よりも車両進行方向後方側に設置された撮像装置の画像に含まれる無限消失点より上部に配置する。このようにすれば、同様の効果が得られる。この場合、差異を素早く判別するためには表示画面の少なくとも2割以上、上下方向にシフトが望ましい。
図24は、周辺領域撮像部11aと周辺領域撮像部11bで取得された周辺画像を用いて表示部50で表示される他の表示画像を例示している。図24の(A)は、周辺領域撮像部11aで取得された周辺画像MGaを表示した場合を例示している。図24の(B)は、周辺領域撮像部11aで取得された周辺画像MGaと周辺領域撮像部11bで取得された周辺画像MGbを縦方向に並べて、周辺画像がいずれの周辺領域撮像部で取得された画像であるか識別可能とする表示、例えば、キャビンと牽引トレーラ部を模式化したアイコン表示HTを設けた場合を例示している。さらに、アイコン表示HTでは、隣接して表示されている周辺画像を取得した周辺領域撮像部を示す例えばカメラ形状のマークHCを設ける。このように車両前方配置の周辺領域撮像部11aにより取り込まれた表示画像を上方に、車両後方方配置の周辺領域撮像部11bにより取り込まれた表示画像を下方に配置すれば、表示された周辺画像と周辺領域撮像部との対応関係を容易に把握することができるようになり、表示画像を参照して、適切な運転操作を行うことができるようになる。表示制御部20は、運転状況や運転者の意思に応じて、図24の(A)に示す表示と図24の(B)に示す表示との切り替えを行う。また、図24の(B)において矢印で示すように周辺画像MGaと周辺画像MGbの領域幅(または挿入幅)を可変できる構成としてもよい。
また、通常走行等の場合には、例えば周辺領域撮像部11aで取得された周辺画像のみが表示されるので、複数の周辺画像が複数並べて表示されて、前方外周領域の視界妨害となってしまうことを防止できる。
また、周辺領域撮像部の切り替えや表示する周辺画像の制御は、車両の運行状態に応じて表示内容を可変しつつ、且つ運転者の意思に基づいて適宜切り替えることが可能とされている。したがって、運転者は注意深い画面観察をせずとも直感的に領域別の視認領域把握が自然とできる。トレーラ等の牽引車両の場合は、一画面での合成画面表示とせずに、境界を有する即時区分別画面認識が可能な表示となっていることが人間工学的に見て望ましく、表示制御部20は、人間工学的に適した表示が行われる。
また、トレーラ等の牽引車両で死角が重要となる状況は、小さい曲率での走行時、例えば2車線以上のランドアバウトでの外側車線への車線変更する際や後退時の後方障害物確認の時である。そこで、車両の運転状態と合わせて運転者の画面操作の意思表示を反映した画面遷移表示を行うことで、死角部の状況把握を改善できる。このような状況では、単一カメラの視界領域変更で行うのではなく、牽引トレーラ部側の周辺領域撮像部11bカメラ切り替えを行った上での表示領域切替え可変操作が効果的である。
また、表示拡張は、ミラー部55を介した方法に限らずとも表示範囲拡張機能は有効である。
なお、第3の実施の形態では、モード切替を行う場合について説明したが、第2の実施の形態の処理動作を組み合わせて行ってもよい。
また、上述の実施の形態では、頭部姿勢や視点認識を行う場合について説明をしているが、システムの構成としてはさらに補助的なタッチボタン制御、音声指示認識や頭部以外のジェスチャー認識等で行ってもよい。特に、通常状態の復帰や後述する学習時の指示内容認識の誤検出指摘、さらには低速駐車操作時の複雑な運転者の姿勢変更が行わる場合にはボタン操作などの直接指示を行うインターフェースとの組み合わせで制御を行うことが効果的である。
<4.第4の実施の形態>
表示装置を用いた周辺領域の視認では、法規で定められた最低表示倍率に伴い、通常走行時にはある一定の画面倍率を確保する必要がある。つまり、運転時の定常的な頭部姿勢での表示画面があり、その定常位置から相違する位置に変化した際には、運転者が非定常とする意思表示のヒューマンマシンインターフェースを介して表示変更指示を受けて画面表示変更を行う必要がある。例えば、より低倍率に表示内容を変更する指示や、駐車時などの非定常走行の特殊視野に変更する指示等を受けて画面表示変更を行う必要がある。そこで、第4の実施の形態では、表示内容変更に関するヒューマンマシンインターフェースの仕組みについて説明する。
図25は、運転者が周辺領域の状況を把握する場合の動作を例示したフローチャートである。ステップST21で運転者は振り向き動作を開始してステップST22に進み、ステップST22で運転者は、眼でミラー部を補足してステップST23に進む。ステップST23で運転者は、頭部を一旦停止乃至準停止してステップST24に進む。なお、準停止とは、頭部の動きが少なく停止状態と見なせる状態である。
ステップST24で運転者はミラー部を介して画像への合焦を行いステップST25に進み、ステップST25で運転者は視認範囲の画像を確認することで周辺領域の状況を把握してステップST26に進む。
ステップST26で運転者は、視認範囲の変更が必要か判断する。運転者は、ステップST25でモニタ画像領域の画像を視認することで、周辺領域における所望の範囲の状況を把握できた場合に視認範囲の変更は不要としてステップST27に進む。また、運転者は、周辺領域における所望の範囲の状況を把握できない場合に視認範囲の変更が必要としてステップST28に進む。
ステップST27で運転者は前方視認状態に復帰する。運転者は所望の周辺領域の状況を把握できたことから、振り向きを終了して顔を前方に向けて前方を視認できる状態として処理を終了する。
ステップST26からステップST28に進むと、運転者は視認範囲変更指示を行う。運転者は予め規定された動き、例えば胴部を繰り返し移動させる動きを行いステップST29に進む。なお、表示装置では、運転者の視認範囲変更指示を検出して、モニタ画像領域に画像が表示される視認範囲を変更する処理を行う。視認範囲の変更では、運転者が視認できる周辺領域の範囲の移動または拡張を行う。
ステップST29で運転者は、視認範囲変更後の画像を確認することで周辺領域の状況を把握してステップST30に進む。
ステップST30で運転者は、変更指示前の状態に戻す必要がないか判別する。運転者は、変更指示前の視認範囲を確認したい場合、変更指示前の状態に戻す必要があるとしてステップST31に進む。また、運転者は、変更指示前の状態に戻す必要がないと判別した場合にステップST32に進む。
ステップST31で運転者は視認範囲復元指示を行う。運転者は予め規定された動き、例えば頭部を戻す動きを行いステップST32に進む。なお、表示装置では、運転者の視認範囲復元指示を検出して、モニタ画像領域に画像が表示される視認範囲を変更前の範囲に戻す処理を行う。
ステップST32で運転者はミラー部を一定期間注視しないようにしてステップST33に進む。
ステップST33で運転者は前方視認状態に復帰する。運転者は周辺領域の状況の把握を終了する。すなわち、振り向きを終了して顔を前方に向けて前方を視認できる状態とする。
表示装置は、このような運転者の動作に対応させたヒューマンマシンインターフェースを用いて、運転者からの表示変更指示に基づき周辺領域における視認範囲を変更する。なお、このようなヒューマンマシンインターフェースを用いる表示装置は、第1乃至第3の実施の形態の構成の表示装置に限られない。例えば、運転者が表示部50の表示を直接視認して周辺領域の状況を把握する場合等にも適用できる。
図25に示すフローチャートでは、説明の簡素化のために前方視認復帰までの一連の動作をして単純にそのまま復帰までを説明している。しかし、実際には前方視認復帰までにはより複雑な動作を伴い、直接視認と表示部視認を繰り返し確認してから前方視認に復帰する事象が多く発生するが、あらゆる事象を説明するのが目的ではないため上記以外の例の説明は省略する。
次に第4の実施の形態の構成と動作について、第1乃至第3の実施の形態と同様に、ミラー部を介して間接的に表示部の画像を運転者が視認する場合について説明する。
[4−1.第4の実施の形態の構成]
図26は、第4の実施の形態の構成を例示した図である。表示装置10は、周辺領域撮像部11、運転者撮像部12、運転者識別情報取得部15、表示制御部20、表示部50、ミラー部55を備えている。また、運転者と表示部とミラー部および運転者撮像部は、上述の図9に示すように設けられている。
周辺領域撮像部11は、車両の周辺領域を撮像して画像信号を表示制御部20に出力する。なお、周辺領域撮像部11で撮像される領域を撮像対象周辺領域とする。
運転者撮像部12は、運転者DRの頭部位置や頭部の向きや視線の向き等を判別できるように、例えば運転者DRの前方またはミラー部55が設置されている方向に設けられている。運転者撮像部12は、運転者DRを撮像して画像信号を表示制御部20に出力する。
運転者識別情報取得部15は、運転者固有の識別情報である運転者識別情報を取得して表示制御部20に出力する。運転者識別情報取得部15は運転者撮像部12より得られた運転者顔認識を用いてもよいし、運転者所有車用起動キーに付与した識別情報を用いてもよいし、運転者がボタン操作等で直接指示をするなど様々な方法を取り得る。
表示制御部20は、周辺領域撮像部11で撮像された周辺領域撮像画像を表示部50に表示させる。また、表示制御部20は、運転者の頭部位置や頭部の向き、視線の向き、および位置や向きの移動、運転者識別情報取得部15から供給された情報等に基づき、ミラー部55の方向への振り向きや確認領域の移動動作や各種指示動作を判別する。さらに、表示制御部20は、判別結果に基づき、表示部50に表示する周辺領域撮像画像の表示制御を行う。表示制御部20は、運転者が例えばミラー部の方向に振り向いた場合に、周辺領域撮像画像を表示部50に表示する。また、表示制御部20は、例えば振り向きの検出後に運転者で予め指定した動きが行われたことを判別した場合に視認範囲の領域を拡張する。
表示部50は、運転者がミラー部55を介して間接的に表示部50の表示面を視認できるように配置されている。また、表示部50の表示面は、運転者DRが運転時にバックミラーで広範囲の領域を確認するように頭部位置を移動しても、ミラー部55を介して表示部50の表示画像を視認できるように、ミラー部55の鏡面よりも大きいサイズとされている。なお、表示部50の表示画像において、運転者がミラー部55を介して確認する周辺領域の視認範囲と対応する画像領域をモニタ画像領域とする。
ミラー部55は、表示部50の表示面を運転者DRが間接的に視認できるように設けられている。ミラー部55は、車両内であって例えば運転者DRが従来のバックミラーを見る動作を行ったとき、ミラー部55に写った画像を視認できるように配置されている。また、ミラー部55は、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認する際に、表示部50の表示領域全体がミラー部55に映り込むように、表示部50との位置関係およびミラー部55のサイズを設定する。さらに、表示部50とミラー部55は、周辺領域においてミラー部55に映る表示部50の画像によって運転者が視認できる視認範囲が、表示制御部20の表示制御によって、ミラー部55に対する運転者の視認位置の移動に応じて変更される。なお、ミラー部55のサイズは、従来のバックミラーと同様な作用効果が得られるように、視認範囲が映り込む領域のサイズを従来のバックミラーと同等なサイズとすることが好ましい。
表示装置10では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認できるようにして、運転者DRが表示部50で表示面を直接的に視認する場合に比べて、運転者DRから表示部50の表示面までの距離を長くする。
また、表示装置10では、運転者DRがミラー部55を介して周辺領域撮像画像を間接的に視認することから、表示部50は運転者DRから表示面や表示面の照明光が見えないように配置する。また、運転者DRから表示部50の表示面や照明光が見えないように遮蔽物を設けた構成としてもよい。
図27は、表示制御部の構成を示す図である。表示制御部20は、認識部23、振り向き判定部24、指示動作判定部25、運転者認証部26、制御処理部35、表示調整部41、輝度調整部42を備えている。
認識部23は、運転者撮像部12から供給された画像信号に基づき顔認識を行う。また、認識部23は、認識した頭部の向きや認識した顔における視線方向を認識して、認識結果を振り向き判定部24に出力する。
振り向き判定部24は、振り向き判定処理部241、振り向き判定学習部242、判定基準値記憶部243を有している。
振り向き判定処理部241は、認識部23からの認識結果と振り向き判定学習部242から供給された振り向き判定基準値を比較して、運転者がミラー部55の方向を向いたか判定して、判定結果を指示動作判定部25と制御処理部35に出力する。
振り向き判定学習部242は、判定基準値記憶部243から振り向き判定基準値を読み出して振り向き判定処理部241に出力する。また、振り向き判定学習部242は、制御処理部35からの運転者情報、高速先方走行に最適化した運転の判定パラメータ設定、低速、後退、パーキングに適した運転の判定パラメータ設定等に対応する振り向き判定基準値を、判定基準値記憶部243から読み出して振り向き判定処理部241に出力する。さらに、振り向き判定学習部242は、頭部の向きや視線方向の認識結果に基づいて振り向き判定基準値の更新を行うことで、振り向き判定処理部241で、運転者毎に精度よく振り向き判定を行えるようにする。また、車両の速度域で、類似の頭部動作でも目的とする動作が異なることが発生するため、振り向き判定処理部241で、速度域に依存した判定を運転者毎に行えるようにする。例えば、高速走行や高速合流作業は前方に主要な注意を払い、一瞬モニタを早い動作で見る中で視認範囲を拡張できるように、視線振り向き確定までの判定閾値時間を1秒未満とする。駐車などの場合において、大型トレーラなどの各動作は、一旦各状態に視線注意をして全体把握のできる時間で後方把握してから拡張等の操作が行われるので、駐車相当と判別される時速15Km/h未満では少なくとも判定閾値時間を0.5秒以上とする。振り向き判定学習部242は、更新後の振り向き判定基準値を判定基準値記憶部243に出力して、判定基準値記憶部243に記憶されている振り向き判定基準値を更新する。なお、振り向き判定学習部242は、通知された運転者に対応する振り向き判定基準値が判定基準値記憶部243に記憶されていない場合、予め設定されている振り向き判定基準値を振り向き判定処理部241に出力する。また、振り向き判定学習部242は、その後に更新された振り向き判定基準値を、運転者情報と対応付けて判定基準値記憶部243に記憶させる。ここで、頭部の姿勢認識の判定推移を通知部例えば表示部50の表示画面上のオバーレイディスプレー、LED表示または車両のスピーカ等により視覚的や聴覚的に運転者DRにフィードバックする事で、指示動作確定をより正確に且つ最小限の動作で実現する事ができる。運転者DRへのフィードバックはデジタル的0/1の真偽判定ではなく、運転者の動きの判別度合いを示すステータスを例えばアナログ的に通知部でフィードバックする事が望ましい。
判定基準値記憶部243は、振り向き判定に用いる振り向き判定基準値を記憶する。また、運転者の認証が行われる場合、判定基準値記憶部243は運転者毎に振り向き判定基準値を記憶する。判定基準値記憶部243に記憶されている振り向き判定基準値は、振り向き判定学習部242の学習結果に応じて更新される。
指示動作判定部25は、指示動作判定処理部251、指示動作判定学習部252、判定基準値記憶部253を有している。
指示動作判定処理部251は、認識部23からの認識結果と振り向き判定部24からの振り向き判定結果と指示動作判定学習部252から供給された判定基準値を用いて、運転者が所定の動作を行ったか判定して、制御処理部35に出力する。指示動作判定処理部251は、例えば運転者における頭部の2回以上の加減速動作の組み合わせの検出結果に基づき、運転者の動きから運転者の指示の判定を行う。
指示動作判定学習部252は、判定基準値記憶部253から指示動作判定基準値を読み出して指示動作判定処理部251に出力する。また、指示動作判定学習部252は、制御処理部35から運転者が通知された場合、通知された運転者に対応する指示動作判定基準値を、判定基準値記憶部253から読み出して指示動作判定処理部251に出力する。さらに、指示動作判定学習部252は、頭部の向きや視線方向の認識結果に基づいて指示動作判定基準値の更新を行うことで、指示動作判定処理部251で精度よく指示動作の判定を行えるようにする。指示動作判定学習部252は、更新後の指示動作判定基準値を判定基準値記憶部253に出力して、判定基準値記憶部253に記憶されている指示動作判定基準値を更新する。なお、指示動作判定学習部252は、通知された運転者に対応する指示動作判定基準値が判定基準値記憶部253に記憶されていない場合、予め設定されている指示動作判定基準値を指示動作判定処理部251に出力する。また、指示動作判定学習部252は、その後に更新された指示動作判定基準値を、運転者情報と対応付けて判定基準値記憶部253に記憶させる。
判定基準値記憶部253は、指示動作の判定に用いる指示動作判定基準値を記憶する。また、運転者の認証が行われる場合、判定基準値記憶部253は運転者毎に指示動作判定基準値を記憶する。判定基準値記憶部253に記憶されている指示動作判定基準値は、指示動作判定学習部252の学習結果に応じて更新される。
ここで、指示動作判定学習部252には、ジェスチャーによる操作が目的としない判定結果を生じて誤動作となる場合に、除外分類等の指定をジェスチャーの検出以外のフィードバック形態例えばボタン操作や音声操作等で行える機能を設けてもよい。
運転者認証部26は、運転者識別情報取得部15で取得された運転者固有の識別情報に基づき、車両の現在の運転者を判別して、判別結果を制御処理部35に出力する。
制御処理部35は、運転者認証部26からの判別結果に基づき車両の運転者を判別して、判別した運転者を振り向き判定学習部242や指示動作判定学習部252に通知する。また、制御処理部35は、振り向き判定部24と指示動作判定部25からの判別結果に基づき、表示部50におけるモニタ画像領域と非モニタ画像領域で異なる表示制御を行う制御信号を生成する。制御処理部35は、生成した制御信号を表示調整部41と輝度調整部42に出力する。
表示調整部41は、制御処理部35からの制御信号に基づき、周辺領域撮像部11から供給された画像信号に対して周辺領域撮像画像の倍率調整、周辺領域の画像の切り替えや合成等を行う。
輝度調整部42は、制御処理部35からの制御信号に基づき、表示部50における非モニタ画像領域の輝度をモニタ画像領域よりも低下させる。輝度調整部42は、表示部50が照明を必要とする表示素子例えば液晶表示素子を用いて構成されている場合、照明例えばバックライトを制御して、非モニタ画像領域の輝度をモニタ画像領域よりも低下させる。また、表示部50が照明を必要とする表示素子または自発光素子例えば有機EL表示素子を用いて構成されている場合、非モニタ画像領域に対応する輝度信号の信号レベルを低下させる処理を行ってもよい。
上記の構成とすることで、予め予期した運転者の動作検出手順として、表示部視認開始状態の検出を、より高速で素早く行う。
通常の運転者の人間工学的な動作ステップは以下の通りと予想される。動物全般的に視覚を通して外界把握をする場合、一番俊敏に方向を捉えて向きを変えるのは眼球運動であり、眼球運動の回転範囲のみでは捉えきれない範囲に視認したい対象物がある場合は、さらには首や体の姿勢を追って変化させることで不足の範囲を補う。
その結果、前方視認と大幅に方向が異なるミラー部配置方向へ視線注意をする一連の手順で、運転者はミラー部の画像を視認できるおおよその方向をとらえ、眼球の回転移動と首の回転運動を開始する。運転者は、ミラー部を視線で捉えると首の振り向き回転中から眼球回転は首の回転を打ち消す視線方向を合わせ、ミラー部に視線を合わせた時点では、首の振り向き運動もほぼ停止固定する。この一連の動作特徴となる頭部回転状態を逐次時系列解析して動きの加速と減速状態からミラー部の視認開始の状態の変化を学習する。このように学習を行い、個別運転者の動作シーケンスの特徴解析を行うことで、該当運転者の頭部回転が完全に静止する前から運転者のミラー部注視開始の判定を可能とし、且つ引き続き指示操作解析を速やかに移行することで、遅延の少ない画面操作のHMI(ヒューマンマシンインターフェースが)を実現する。ここで、頭部の姿勢認識の判定推移を通知部例えば表示部50の表示画面上のオバーレイディスプレー、LED表示や車両のスピーカ等により視覚的や聴覚的に運転者DRにフィードバックする事で、指示動作確定をより正確に且つ最小限の動作で実現する事ができる。運転者DRへのフィードバックはデジタル的0/1の真偽判定ではなく、運転者の動きの判別度合いを示すステータスを例えばアナログ的に通知部でフィードバックする事が望ましい。ただし、これらフィードバックの必要以上の表示は、視界の妨害ともなり得る事から、一旦運転者固有の特性を学習後に不要となれば、表示機能を止める事がよく、必ずしも常に表示を行う必要はない。
また、運転が通常の高速前方運転では体の動きは少なく狭い範囲が視認対象範囲であり、低速駐車には頭部や体の動きを多く動かして周辺全体を把握する作業となる。このため、各指示検出の判定基準は高速と低速で異なるのが望ましいので、モード切替判定は車両に運転状態と相関判定をとり行うことで操作性を改善する。
[4−2.第4の実施の形態の動作]
図28は、表示制御部の動作を示すフローチャートである。ステップST41で表示制御部20は、判定基準値の取り込みを行う。表示制御部20は、振り向き動作や視認範囲変更指示および視認範囲復元指示の判定に用いる判定基準値を取得する。また、判定基準値は運転者毎に設けるようにして、現在の運転者に対応した判定基準値を取得するようにしてもよい。また、運転者の動作に応じて判定基準値を更新して、最新の判定基準値を取得するようにしてもよい。表示制御部20は判定基準値を取り込んでステップST42に進む。
ステップST42で表示制御部20は頭部の向きの観測を開始する。表示制御部20は運転者撮像部12から供給された画像信号を用いて顔認識を行い運転者の顔を判別する処理と、判別した頭部の向きを検出する処理を開始してステップST43に進む。
ステップST43で表示制御部20は、定常時における顔の位置と向きを判別する。表示制御部20は、顔の向き(頭部の向き)の観測結果に基づき、定常時における顔の位置と向きを判別する。表示制御部20は、定常時における顔の位置や向きが前回の判定から変化している場合、変化量に応じた補正値を算出する。また、運転者に対応した情報がない場合は初期値からの違いを補正値とする。表示制御部20は、補正値を算出してステップST44に進む。
ステップST44で表示制御部20は振り向き判定基準値を設定する。表示制御部20は、判定基準値と算出した補正値を用いて振り向き判定基準値を設定してステップST45に進む。
ステップST45で表示制御部20は振り向き判定を開始する。表示制御部20は、頭部の向きの観測結果と振り向き判定基準値を用いて、運転者の振り向き動作を判定する処理を開始してステップST46に進む。
ステップST46で表示制御部20は顔の位置と向きを追跡する。表示制御部20は、顔の位置と向きの観測結果に基づき、顔の位置と向きの追跡を行ってステップST47に進む。
ステップST47で表示制御部20は顔の位置や向きに変化を生じたか判別する。表示制御部20は、顔の位置や向きに変化がないと判別した場合にステップST46に戻り、変化が生じたと判別した場合にステップST48に進む。
ステップST48で表示制御部20はミラー部凝視状態であるか判別する。表示制御部20は、顔の位置や向きと判定基準値を用いて、運転者がミラー部を凝視している状態であるか判別する。表示制御部20は、凝視状態であると判別した場合にステップST49に進み、凝視状態でないと判別した場合にステップST46に戻る。なお、ここでの凝視状態は、生理的な操作として眼の焦点を合わせて状況把握に移行する瞬間が発生するポイントを指しており、必ずしも運転者がミラー部の画像をじっと眺めている状態とは限らない。
ステップST49で表示制御部20は高速検出モードに移行する。表示制御部20は、運転者の視認範囲変更指示および視認範囲復元指示を精度よく検出するため、顔の位置や向きの観測を高速で行うことにより、運転者の細かな動きを検出できるようにする。表示制御部20は、高速検出モードの場合、運転者の顔の位置や向きの観測を例えば100ms以下の頻度で定期的に行うようにする。なお、振り向きの検出は通常検出モードで行い、運転者の顔の位置や向きの観測は高速検出モードよりも時間間隔を広くして定期的に行うようにする。表示制御部20は高速検出モードに移行してステップST50に進む。
ステップST50で表示制御部20は、指示の検出を開始する。表示制御部20は、顔の位置や向きの観測結果と判定基準値を用いて、視認範囲変更指示および視認範囲復元指示の検出を開始してステップST51に進む。
ステップST51で表示制御部20は指示が検出されたか判別する。表示制御部20は指示検出によって、視認範囲変更指示または視認範囲復元指示を示す運転者の動きが検出された場合にステップST52に進む。また、表示制御部20は、指示が検出されていない場合にステップST53に進む。
ステップST52で表示制御部20は指示に応じて表示制御を行う。表示制御部20は、例えば視認範囲変更指示を検出した場合、モニタ画像領域に画像が表示される視認範囲を顔の位置や向きの変化に応じて変更する。また、表示制御部20は、例えば視認範囲復元指示を検出した場合、モニタ画像領域に画像が表示される視認範囲を変更前の領域に戻す。表示制御部20はこのような表示制御を行いステップST50に戻る。
ステップST53で表示制御部20は、頭部の向きがミラー部方向と異なる方向であるか判別する。表示制御部20は、頭部の向きの観測結果と判定基準値を用いて、頭部の向きが画像視認方向と異なる方向であるか判別する。表示制御部20は、頭部の向きが画像視認方向と異なる方向であると判別した場合に高速検出モードを通常検出モードに切り替えてステップST47に戻る。また、表示制御部20は、頭部の向きがミラー部の方向と判別した場合にステップST54に進む。
ステップST54で表示制御部20は、所定の判別期間内であるか判別する。表示制御部20は、所定の判別期間内である場合にステップST50に戻り、所定の判別期間が経過した場合、高速検出モードを通常検出モードに切り替えてステップST47に戻る。
図29は、振り向きと視認範囲変更指示の動作を例示した図である。また、図30は、振り向き判定と視認範囲変更指示の判定動作を例示した図である。なお、図30の(A)は振り向き方向(角度)と時間の関係、図30の(B)は振り向き速度と時間の関係を例示している。
図29において、方向PF1は通常時において運転者の頭部が向いている正面方向を示しており、方向PF2は、ミラー部55の画像を運転者が視認する際の頭部の向きを例示している。方向PF3は、ミラー部55の方向を示している。
範囲FS1は通常時における運転者の頭部の向きの移動範囲を例示しており、範囲FSaは運転者の眼球移動による探索範囲を例示している。範囲FS2は、頭部の向きを方向PF1から方向PF2に移動する際の頭部回転加速帯であり、頭部の向きを方向PF2から方向PF1に移動する際の頭部回転減速帯である。範囲FS3は、頭部の向きを方向PF1から方向PF2に移動する際の頭部回転減速帯であり、頭部の向きを方向PF2から方向PF1に移動する際の頭部回転加速帯である。角FVaは、ミラー部55の画像を運転者が視認する際の頭部の振り向き角を例示している。角FVbは、ミラー部55の画像を運転者が視認する際の眼球移動で確保する振り向き角を例示している。範囲FScは、ミラー部55の画像を運転者が視認する際の眼球移動による探索範囲を例示している。
図30の(A)において、範囲JAは運転者が前方を向いていると見なせる振り向き角度の範囲である。範囲JBは運転者が頭部を方向PF2に向けて回転させたときミラー部55を凝視していると見なせる振り向き角度の範囲である。範囲JCは眼球移動によりミラー部55を凝視していると見なせる振り向き角度の範囲である。曲線QCaは頭部の向きを示しており、曲線QCbは頭部の向きと眼球移動に基づいた視線方向を示している。また、図30の(B)において、範囲JEは、前方振り向き時の判定範囲である。
表示制御部20は、振り向き速度(頭部の向きの変化に相当)が判定基準値で示された範囲JEを超えたのち範囲JE内に戻り、振り向き方向(角度)が判定基準値で示された振り向き方向の範囲JB(ミラー部方向を基準として設定された範囲)内であることを検出する。この場合、表示制御部20は、運転者がミラー部55の方向を振り向いて凝視していると推定して振り向き動作が行われたと判別する。なお、眼球移動の検出を行い、頭部の向きと眼球移動に基づいて視線方向を推定すれば、推定した視線方向と範囲JCを比較することで、さらに精度よく振り向き動作の判別を行うことができる。表示制御部20は、振り向き動作が行われたと判別した場合、視認範囲変更指示を高い時間解像度で検出できるように高速検出モードに変更する。
なお、運転席側と助手席側の後方視認モニタリングシステムでは、表示部50やミラー部55の配置や方向が異なり、指示動作判定や振り向き角判定など全て異なることが予想されるために判定基準は個別に行うのが望ましい。
表示制御部20は、振り向き方向(角度)が凝視状態であるか判定するための範囲JBと振り向き方向(角度)を比較して、振り向き方向(角度)が範囲JBを所定の方向に所定回数例えば2回超えたことを検出する。ここで、図30の(A)に示すように時点tjで運転者における頭部の2回以上の加減速動作の組み合わせを検出した場合、すなわち振り向き方向(角度)が範囲JBを2回超えたことを判別した場合、表示制御部20は、運転者がミラー部に対して凝視状態で指示を行っていると推定して視認範囲変更指示が行われたと判別する。その後、表示制御部20は、視認範囲変更指示に応じて視認範囲を変更する表示制御を行う。
なお、表示制御部20は、頭部の向きが判定基準値で示された範囲JA内であることを検出する。この場合、表示制御部20は、運転者がミラー部方向から正面方向に向きを変えたと判別して、振り向き動作判別前の状態に戻る。
また、視認範囲変更指示は、運転その状態に応じて操作指示動作量が異なってもよい。一般的に、駐車時などの低速運転動作では運転者はより頭部や体を大きく動かすことに慣れており、他方で高速走行時には主に頭部の移動量は少なく眼球移動が主な視線移動を占めるため、より少ない頭部移動で判定基準を設けるのが好ましい。さらに、図30では2回以上の反復移動を例示しているが、運転者の頭部動作が実質的に復元を伴わない一連の一方向2段階の加速の動きであってもよい。
図31は、操作指示動作量として頭部の回転動作の加速度を用いる場合を例示している。図31の(A)は、振り向き方向(角度)、図31の(B)は振り向き速度、図31の(C)は振り向き加速度を示している。
運転者が複数回の振り向きを行う場合、振り向きの反復動作と次の振り向きの反復動作では開始位置が必ずしも位置せず、例えば前回の振り向きの反復動作で元の位置に戻る前に次の振り向き動作が行われる。この場合、頭部の向きを示す曲線QCaは、図31の(A)に示すように変化する。したがって、振り向き方向(角度)に基づいて視認範囲変更指示の判別を行うことができない。しかし、振り向きの反復動作を繰り返すと、振り向き加速度は、図31の(C)に示すように、振り向きの動作毎に1サイクルの振動を生じた波形となる。したがって、表示制御部20は、振り向き加速度を利用して、精度よく振り向きの繰り返しを検出できる。
さらに、表示制御部20は、運転者の振り向き速度や振り向き方向の動作特性履歴を学習させその運転者固有の特性に応じて、運転者毎に判定基準値を更新する。このように、判定基準値を更新することで、振り向き動作や視認範囲変更指示の判定精度を向上させると共に、より少ない指示動作での正確な指示検出をすることができるように、自己学習機能を備える。また、学習機能では、操作指示動作量を含めた動作特性を自己学習してドライバの特性に最適化する働きを行わせる。
このような処理を行うことで、運転者が周辺領域の状況を把握する場合の動作に対応した表示制御を精度よく行うことができる。
また、振り向きの動作が安定した時間経過後に頭部の向きの移動検出を行う。このようにすれば、例えば頭部の向きに対して直交する方向の頭部移動が2回以上繰り返された場合や、首を軸として顔を向き回転させる顔振り動作が2回以上繰り返された場合に、視認範囲変更指示または視認範囲復元指示が行われたと判別される。したがって、指示の判定をさらに精度よく行うことができる。
本技術では、人が注意視線方向と異なる方向に振り向いた際の人間工学的手順に基づいて、眼球移動で対象物を素早く捉え、合わせて眼の焦点合わせを行い始めると同時に最後に目視注意が行われ始めるにしたがい、頭部移動を安定化する動きを考慮している。つまり、運転者は表示内容を目視して状況把握ができ始めるタイミングでは頭部位置の移動が安定化して停止に向かう。画面把握を通して運転者はさらに視界範囲の変更が必要かを判断するので、この安定化手順を踏んでから指示動作が行わることを反映している。
また、表示制御において、表示制御部20は、運転者の頭部の向きがミラー部の方向に移動したことを検出したことに応じて表示制御を行う。例えば頭部の向きがミラー部の方向でない場合は、バックライトを消灯してまたは輝度信号の信号レベルを低下させて、画像が見えないように、または見難くする。また、例えば頭部の向きがミラー部の方向である場合は、バックライトの点灯および輝度制御や輝度信号の信号レベルを調整して視認範囲の画像を確認できるようにする。したがって、運転者が前方を向いている場合に、不必要に明るい周辺領域の画像が表示されることを防止できる。また、運転者がミラー部の方向を向いている場合にのみ、周辺領域の画像を表示できる。
また、表示制御部20は、視認範囲の変更後、徐々に自動的に視認範囲を元の位置に戻すようにしてもよい。この場合、運転者は視認範囲を元の範囲に戻す操作を行う必要がない。さらに表示制御部20は、運転者が状況の確認を瞬時に行うことができなくなってしまうことを防止するため、表示倍率の変化や表示形態の変化は急激に行われることがないように表示制御を行う。
本明細書の説明では便宜上、頭部方向や視線を認識して指示検出を行う手順の実施例を記載している。しかし、実際には具体的な頭部方向や視線を正確に求めることが目的ではないため、運転者が表示部50を視認する状態との相関が得られればよく、表示制御部20の役割は必ずしも視線認識や頭部姿勢を正確に把握でき機能を備えることは必要ではない。そのため、表示制御部20は図27の構成に限らず、車両状態と運転者操作指示ジェスチャー応答表示であれば別の構成にしてもよい。
<5.他の実施の形態>
また、他の実施の形態として、表示部50に画像を表示する場合に、画像が圧縮して表示されると、表示画像から把握された距離感が周辺範囲に含まれる被写体までの距離と大きく相違してしまうおそれがある。そこで、画像の圧縮度合いに応じて表示部の画面上や周辺に警告表示を設けるようにしてもよい。
図32は、警告表示を行う場合の表示制御部の構成を例示している。表示制御部20は、運転者動き判別部21、制御処理部35、表示調整部41、輝度調整部42、警告表示重畳部43を備えている。
運転者動き判別部21は、運転者撮像部12から供給された画像信号に基づき、運転者の頭部位置を検出して、運転者の頭部位置の移動方向と移動量を判別する。運転者動き判別部21は、例えば運転者撮像部12から供給された画像信号に基づき、運転者の顔認識を行い、認識した顔の位置や頭部の向きを判別する。さらに、運転者動き判別部21は、認識した顔を追跡して、頭部位置の移動方向と移動量を判別する。運転者動き判別部21は、判別結果を制御処理部35に出力する。
制御処理部35は、運転者動き判別部21の判別結果に基づき、表示部50におけるモニタ画像領域と非モニタ画像領域で異なる表示制御を行う制御信号を生成して、表示調整部41と輝度調整部42および警告表示重畳部43に出力する。
表示調整部41は、制御処理部35からの制御信号に基づき、周辺領域撮像部11から供給された画像信号に対して周辺領域撮像画像の倍率調整、周辺領域の画像の切り替えや合成等を行う。
輝度調整部42は、制御処理部35からの制御信号に基づき、表示部50における非モニタ画像領域の輝度をモニタ画像領域よりも低下させる。輝度調整部42は、表示部50が照明を必要とする表示素子例えば液晶表示素子を用いて構成されている場合、照明例えばバックライトを制御して、非モニタ画像領域の輝度をモニタ画像領域よりも低下させる。また、表示部50が照明を必要とする表示素子または自発光素子例えば有機EL表示素子を用いて構成されている場合、非モニタ画像領域に対応する輝度信号の信号レベルを低下させる処理を行ってもよい。
警告表示重畳部43は、制御処理部35からの制御信号に基づき、表示可変処理後の画像に、例えば画像の圧縮の度合いを示す情報を重畳させる。例えば、顔の左右の動きに合わせて視認範囲の画像を表示して、さらに2回以上の顔や頭の繰り返し動作で視認範囲の拡大を行い、逆方向の動作で拡大前の表示に復帰する。また、画像を変倍して表示する場合には変倍表示であることを警告するための動的警告表示を設ける。動的警告表示は警告内容を直感的に理解できるように、変倍動作に応じて枠サイズの調整を行い、枠をゼブラ点線枠で表示して、変倍に応じてゼブラ表示を流れるように表示する。ゼブラ表示の流れに付いては、人の生理的仕組みを考慮すると視線中心外の視野に入った動体反応として認知されその際に危険として接近物に敏感に検知することから接近方向の動きが含まれるのが望ましい。
このような表示制御を行うことで、画像が圧縮して表示される場合に、運転者の距離感覚等の喪失を防止することができる。例えば画像が圧縮されることで、近接している被写体が離れた位置の被写体として認識されてしまうことを防止できる。
また、表示制御部20は、ナビゲーションシステムと連動して表示制御を行い、高速道路の合流時やランドアバウトでの走行では通常の後方視界より広い視野角の画像を表示するようにしてもよい。
また、運転者の動きの判別では、頭部の向きの移動すなわち首を軸とした頭部の回転に限らず、頭部の傾倒動作(首振り)や運転者の例えば上半身の前後左右方向の運動の少なくとも何れかを利用して表示制御を行うようにしてもよい。さらに、ミラー部方向への頭部の移動動作や姿勢変化を利用して、表示画像のズームイン動作やズームアウト動作を行うようにしてもよい。
図33乃至図35は、運転者の他の動きに基づいた表示制御を例示している。図33は、周辺領域撮像部の配置と表示部で表示される周辺画像を例示している。車両には図33の(A)に示すように車両の側面に周辺領域撮像部11c,11dが設けられており、車両の背面に周辺領域撮像部11eが設けられている。表示制御部20は、図33の(B)に示すように、周辺領域撮像部11c,11d,11eで取得された3つの周辺領域の画像を表示部50に表示する。
図34は、頭部を前後方向に移動した場合の周辺領域画像の切り替えを説明するための図である。表示制御部は、頭部の移動が行われる前には、図34の(A)に示すように、周辺領域撮像部11c,11d,11eで取得された3つの周辺領域の画像を表示部50に表示する。また、表示制御部は、例えば頭部の前方向の移動を判別した場合、図34の(B)に示すように、車両側面に設けられている周辺領域撮像部11c,11dで取得された周辺領域の画像を表示する表示領域を進行方向に拡張した画像に切り替える。その後、表示制御部は、頭部が元の位置に移動した場合、切り替え前の画像に戻す表示制御を行う。
図35は、頭部を左方向に移動した場合の周辺領域画像の切り替えを説明するための図である。表示制御部は、頭部の移動が行われる前には、図35の(A)に示すように、周辺領域撮像部11c,11d,11eで取得された3つの周辺領域の画像を表示部50に表示する。また、表示制御部は、例えば頭部の左方向の移動を判別した場合、図35の(B)に示すように、右側の周辺領域の画像を表示する表示領域を拡張した画像に切り替える。その後、表示制御部は、頭部が元の位置に移動した場合、切り替え前の画像に戻す表示制御を行う。
このように、頭部の向きの移動に限らず、頭部の傾倒動作等を利用して表示制御を行うことで、多様な態様で周辺領域の画像を表示することができる。
さらに、上述の実施の形態では、運転者の動き判別結果に基づき表示制御を行うことで視認範囲を変更する場合について説明したが、運転者の動き判別結果に基づきミラー部の向きを変更することで、表示部の表示画像における所望の視認範囲の画像がミラー部に映るようにしてもよい。
また、ミラー部は半透過ミラーを用いた構成として、ミラー部の背面に表示デバイス例えば液晶表示素子や有機EL表示素子,発光ダイオードを用いた表示素子等を設けてもよい。この場合、ミラー部では、表示部で表示された周辺領域の画像と共に背面の表示デバイスで表示された画像を同時に視認できる。したがって、背面の表示デバイスで種々の情報を表示すれば、運転者は周辺領域を確認しながら情報を同時に読み取ることができる。背面の表示デバイスで表示する情報は、表示部に表示された周辺領域画像に関連した情報(例えば判定された運転者の指示や判別された視認範囲のモード等)であってもよく、運転状況等に関連した情報(ナビゲーション指示情報等)等であってもよい。
さらに、ミラー部は、半透過ミラーが半透過調光機能を有する構成、または半透過ミラーの背面にさらに透過光の光調光デバイスを配置した構成としてもよい。このような構成とすれば、ミラー部の背面に設けられた表示デバイスの表示画像の見え具合を半透過調光機能や光調光デバイスを利用して調整することが可能となる。したがって、周辺領域の確認を行いながら種々の情報を容易に読み取ることができるように情報を表示できる。
また、上述の実施の形態では、バックミラーに相当する機能を実現する場合について例示した。しかし、周辺領域の視認はバックミラーに限らずルームミラーで行われることから、ルームミラーに相当する機能を実現してもよい。次に、他の実施の形態として、ルームミラーに相当する機能を実現する場合について説明する。なお、この場合、表示部やミラー部等の配置は必ずしも従来のミラーに相当する配置にこだわらなくても良く、例えばダッシュボード上のセンターメーターやコンソールパネル等の近傍位置等に配置してもよい。
まず、1台の周辺領域撮像部を用いてルームミラーに相当する機能を実現する場合について説明する。図36は、1台の周辺領域撮像部を用いてルームミラーに相当する機能を実現する場合の構成を例示している。例えば図36の(A)に示すように、車両の後部に1台の周辺領域撮像部を設けて車両の後方を撮像して、周辺領域撮像部11で取得された周辺領域の画像を運転者DRが確認できるようにする。なお、図36の(A)では、周辺領域の画像を表示する表示部は省略している。
また、周辺領域撮像部11で取得された周辺画像を運転者DRが目視する場合でも、ルームミラー61に映る周辺領域と同等の距離感を維持できるようにする。例えば、周辺領域撮像部11で撮像された領域(周辺領域撮像部11で取得される周辺画像の水平方向の画角)ARuは、ルームミラー61に映る周辺領域の水平方向の視野領域ARrmと略等しくする。このようにすれば、1台の周辺領域撮像部を用いてルームミラーに相当する機能を実現できる。
ところで、図36の(A)に示すように後続車OBcや人物OBpが位置している場合、ルームミラー61に映る周辺画像は図36の(A)の視野領域ARrmの画像であることから例えば図36の(B)に示す画像となる。また、周辺領域撮像部11で撮像される周辺領域は図36の(A)の周辺領域ARuであることから例えば図36の(C)に示す画像となる。すなわち、周辺領域撮像部11で撮像される周辺領域の画像では、ルームミラー61に映る周辺画像に対して車両近傍で死角となる領域が大きいため、図36の(C)に示すように人物OBpを確認することができない。
そこで、図37に示すように、複数台の周辺領域撮像部を用いてルームミラーに相当する機能を実現する。例えば車両の左側に周辺領域撮像部11g、車両の右側に周辺領域撮像部11hを設けてそれぞれの周辺領域撮像部で後方を撮像してルームミラーに相当する機能を実現する場合に、図36の場合に比べて死角を少なくする。なお、領域ARrmはルームミラー61に映る周辺画像の水平方向の視野領域、領域ARugは左側の周辺領域撮像部11gで取得された周辺画像の水平方向の視野領域、領域ARuhは右側の周辺領域撮像部11hで取得された周辺画像の水平方向の視野領域である。このようにすれば、周辺領域撮像部を用いてルームミラーに相当する機能を実現する場合に、周辺領域撮像部11gと周辺領域撮像部11hで取得された周辺領域の画像を合成することで、車両近傍で死角となる領域が大きくなってしまうことを防ぐことができる。
また、周辺領域撮像部11gと周辺領域撮像部11hで取得された周辺領域の画像は視差を生じていることから、視差の違いを打ち消して周辺画像を合成表示することは困難である。そこで、周辺領域の画像の合成では、視差の違いが目立たないように画像の合成処理を人間工学的に容易に行えるようにする。
図38は、ルームミラーよりも死角を少なくした場合の構成を例示している。車両の左側には周辺領域撮像部11j、車両の右側には周辺領域撮像部11kが設けられている。周辺領域撮像部11jは、取得される周辺画像の水平方向の視野領域(画角)が、ルームミラー61に映る周辺画像の水平方向の視野領域ARrmに含まれる領域ARuj1と、視野領域ARrmより左外側の領域ARuj2を含むように設定されている。周辺領域撮像部11kは、取得される周辺画像の水平方向の視野領域(画角)が、ルームミラー61に映る周辺画像の水平方向の視野領域ARrmに含まれる領域ARuk1と、視野領域ARrmより右外側の領域ARuk2を含むように設定されている。また、車両の後方位置では、領域ARuj1と領域ARuk1の少なくとも一方に視野領域ARrmが含まれるように設定されている。
上述の表示制御部20の表示調整部41は、制御処理部35からの制御信号に基づき、周辺領域撮像部11j,11kで取得された周辺画像から画像を切り出して結合する。制御処理部35は、係合後の画像において周辺領域が連続しているように画像の切り出しを制御する。さらに制御処理部35は、運転者動き判別部21の判別結果に基づき画像の切り出し位置や結合位置を運転者の指示に応じて移動する。
制御処理部35は、例えば周辺領域撮像部11jで取得された周辺画像における領域ARmjの画像と、周辺領域撮像部11kで取得された周辺画像における領域ARmkの画像を結合することで、図38の(B)に示すように、領域ARrmを含む周辺領域を確認できるようになる。また、視差の違いを打ち消して合成表示する処理を行わなくとも、領域ARmjの画像と領域ARmkの画像を結合するだけで周辺領域の確認に用いる画像を生成できるので、周辺領域の確認用の画像を容易に生成できる。
また、画像の結合では、画像の結合位置を基準とした所定範囲において、所謂ブレンド処理を行い、周辺領域撮像部11jで取得された周辺画像と周辺領域撮像部11kで取得された周辺画像の混合比を連続的に変化させる。このような処理を行えば、結合部分を目立たなくできる。
また、制御処理部35は、運転者動き判別部21の判別結果に基づき画像の切り出し位置を可変させて、運転者DRの位置が例えば左右に移動した場合、ルームミラー61に映る周辺領域の移動と同様に画像の切り出しを行う領域を移動させる。このようにすれば、運転者が動きを生じてもバックミラーに相当する機能を実現できる。
ところで、周辺領域撮像部11jで取得された周辺画像と周辺領域撮像部11kで取得された周辺画像の結合では、右視点の画像と左視点の画像が結合されることから、後方の車両や人物が結合位置にある場合、車両や人物等の画像が違和感のある画像となってしまうおそれがある。特に、車両や人物等が近接していると、視差が大きいため結合部分で画像の違和感が顕著となってしまう。そこで、制御処理部35は、運転者動き判別部21の判別結果に基づき、運転者からの指示に応じて結合位置を変更できるようにする。
図39は、画像の結合位置の切り替えを説明するための図である。図39の(A)に示すように、周辺領域撮像部11jで取得された周辺画像と周辺領域撮像部11kで取得された周辺画像の結合位置が位置Pb1である場合、後続車OBcや人物OBpの画像領域に位置Pb1が含まれていないことから、表示された周辺画像によって、後続車OBcや人物OBpを容易に確認できる。しかし、結合位置が位置Pb1で固定されており、図39の(B)に示すように、人物OBpの画像領域が位置Pb1となると、人物OBpの左視点の画像と右視点の画像が結合された画像となり、人物OBpを正しく判別することが困難になってしまうおそれがある。そこで、制御処理部35は、運転者の指示に応じて結合位置を変更する。例えば結合位置を左方向に移動する運転者の指示を判別した場合、図39の(C)に示すように、結合位置を左方向に移動する。このように結合位置の移動が行われると、人物OBpは周辺領域撮像部11kで取得された周辺画像のみで表示されることから、人物OBpを容易に正しく判別できるようになる。
また、制御処理部35は、結合位置を示す表示(例えばマーカー等の表示)を行うようにすれば、運転者は、結合位置と後続車や人物等の位置関係を容易に把握できることから、結合位置の移動が必要であるか否か、また結合位置をいずれの方向に移動することが好ましいか容易に判別できるようになる。なお、結合位置の初期位置は、予め設定されている位置またはユーザが設定した位置に自動的に設定してもよく、前回の運転終了時に設定されていた位置としてもよい。
また、運転者の指示は、例えば上述の運転者の動作に対応させたヒューマンマシンインターフェースを用いて、運転者の操作指示ジェスチャーから指示を検出する。このようにすれば、運転者は頭部や視線を移動させるだけで容易に結合位置を所望の方向に移動させることが可能となる。
なお、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、上述のような処理を行うシーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、信号処理半導体内蔵または個別のROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線、自己診断機能またはOBD(オン・ボード・ダイアグノースティックス)端子経由で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストール、アップデートすることができる。
また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
なお、本技術の車両用表示装置は以下のような構成もとることができる。
(1) 表示面を運転者の方向とは異なる方向に向けて車両の室内に配置されて、前記車両の周辺領域を撮像した画像を表示する表示部と、
前記車両の室内に配置されて前記表示部に表示された画像領域の一部または全体を映すミラー部とを備え、
前記ミラー部に映る前記表示部の画像によって前記運転者が視認できる前記周辺領域の視認範囲が、前記ミラー部に対する前記運転者の視認位置の移動に応じて変化する車両用表示装置。
(2) 前記運転者の動きを判別して、動き判別結果に基づき前記表示部に表示する画像の表示制御を行い、前記視認範囲を前記運転者の動きに応じて変更する表示制御部をさらに備える(1)に記載の車両用表示装置。
(3) 前記運転者の動きの判別推移を、運転者へ視覚的または聴覚的にフィードバックする通知部をさらに備える(2)に記載の車両用表示装置。
(4) 前記表示制御部は、前記視認範囲に対応する表示領域を除いた他の表示領域の一部また全体の輝度を低下させて、動き判別結果に基づき輝度を低下させる表示領域の範囲を制御して、前記視認範囲を前記運転者の動きに応じて変更する(2)に記載の車両用表示装置。
(5) 前記表示制御部は、動き判別結果に基づき輝度を低下させる表示領域の範囲を制御して、前記視認範囲を拡張する(4)に記載の車両用表示装置。
(6) 前記表示制御部は、前記車両の周辺領域を撮像した画像における前記視認範囲の移動方向の端部側領域に対して、前記視認範囲の移動方向に画像の圧縮を行い、動き判別結果に基づき圧縮率または圧縮範囲を制御して、前記視認範囲を前記運転者の動きに応じて変更する(2)乃至(5)の何れかに記載の車両用表示装置。
(7) 前記表示制御部は、動き判別結果に基づき圧縮率または圧縮範囲を制御して、前記視認範囲を拡張する(6)に記載の車両用表示装置。
(8) 前記表示制御部は、動き判別結果に基づき前記運転者が前記ミラー部の方向に振り向いたことを判別した場合、前記表示部で前記画像表示を行う(2)乃至(7)の何れかに記載の車両用表示装置。
(9) 前記表示制御部は、前記振り向きの検出後に前記運転者で予め指定した動きが行われたことを判別した場合に前記視認範囲の領域を拡張する(8)に記載の車両用表示装置。
(10) 前記表示制御部は、前記振り向きの検出後に前記運転者の動き判別の時間解像度を高くする(8)または(9)に記載の車両用表示装置。
(11) 前記表示制御部は、
前記運転者毎に前記動きの特徴を学習する学習部と、
前記学習部の学習結果を用いて前記運転者の動きを判定する判定処理部と、
前記判定処理部の判定結果に基づき前記視認範囲を変更する制御処理部とを備える(2)乃至(10)の何れかに記載の車両用表示装置。
(12) 前記判定処理部は、前記運転者の動きから前記運転者の指示の判定を行い、前記指示の判定では、前記運転者における頭部の2回以上の加減速動作の組み合わせの検出結果に基づき前記指示の内容を判定する(11)に記載の車両用表示装置。
(13) 前記運転者の動きは、首振り、首を軸とした頭部の回転、または上半身の前後左右運動の少なくとも何れかである(11)または(12)に記載の車両用表示装置。
(14) 前記表示制御部は、前記運転者の動きに応じて前記視認範囲の拡張を行い、前記車両の運行状況に基づき拡張する前記視認範囲の領域サイズを制御する(2)乃至(13)の何れかに記載の車両用表示装置。
(15) 前記表示制御部は、前記車両の進行方向に関した運行情報に基づき、前記車両の外側方向に前記視認範囲を拡張する(14)に記載の車両用表示装置。
(16) 前記車両はキャビンに牽引トレーラ部が連結された構成とされて、前記キャビンから前記車両の周辺領域の撮像が行われており、
前記表示制御部は、前記キャビンの向きと前記牽引トレーラ部の向きが異なる状況を生じる運転状況に関した運行情報に基づき、前記キャビンの向きと前記牽引トレーラ部の向きが相違しても前記牽引トレーラ部の外側が前記視認範囲に含まれるように前記視認範囲を拡張する(14)または(15)に記載の車両用表示装置。
(17) 前記表示部と前記ミラー部は、前記ミラー部で前記表示部に表示された画像の一部を映し、前記ミラー部に対する前記運転者の視認位置の移動に応じて前記ミラー部で映し出される画像の領域が移動するように配置する(1)乃至(16)の何れかに記載の車両用表示装置。
(18) 前記表示部と前記ミラー部は、前記運転者の眼の位置から前記ミラー部を介した前記表示部の表示面までの光学的視認距離が少なくとも1.1メートル以上となるように配置または光学設計された(1)乃至(17)の何れかに記載の車両用表示装置。
(19) 前記表示部における表示面または前記表示面の照明光が、前記運転者から見えないように前記表示部を設けた(1)乃至(18)の何れかに記載の車両用表示装置。
(20) 前記ミラー部は、前記視認範囲の移動方向の形状を、前記運転者の方向に突出した湾曲形状とする(1)乃至(19)の何れかに記載の車両用表示装置。
(21) 前記ミラー部は、前記視認範囲の移動方向の端部側よりも中央部分の湾曲を少なくした形状とする(20)に記載の車両用表示装置。
(22) 運転者の動きを判別して、動き判別結果に基づき前記ミラー部の向きを変更することで、前記視認範囲を前記運転者の動きに応じて変更する表示制御部をさらに備える(1)乃至(21)の何れかに記載の車両用表示装置。
(23) 前記ミラー部は半透過ミラーである(1)乃至(22)の何れかに記載の車両用表示装置。
(24) 前記半透過ミラーが半透過調光機能を有する構成、または前記半透過ミラーの背面にさらに透過光の光調光デバイスを配置した構成とする(23)に記載の車両用表示装置。
この技術の車両用表示装置と表示制御方法および後方モニタリングシステムでは、表示面を運転者の方向とは異なる方向に向けて車両の室内に配置された表示部で、車両の周辺領域を撮像した画像が表示される。ミラー部は、車両の室内に配置されて表示部に表示された画像を映す。ミラー部に映る表示部の画像によって運転者が視認できる周辺領域の視認範囲は、ミラー部に対する運転者の視認位置の移動に応じて変化する。このため、車両の周辺領域を撮像して表示部に表示することで周辺領域を確認できるようにした場合でも、車両の周辺領域を容易に視認できるようになり、自動車やトラック、バス等の車両に適している。
10・・・表示装置
11,11a,11b,11・・・周辺領域撮像部
12・・・運転者撮像部
13・・・運転状況検出センサ
15・・・運転者識別情報取得部
20・・・表示制御部
21・・・運転者動き判別部
22・・・運転状況判別部
23・・・認識部
24・・・振り向き判定部
25・・・指示動作判定部
26・・・運転者認証部
35・・・制御処理部
41・・・表示調整部
42・・・輝度調整部
43・・・警告表示重畳部
50・・・表示部
55・・・ミラー部
61・・・ルームミラー
91・・・バックミラー
241・・・振り向き判定処理部
242・・・振り向き判定学習部
243・・・判定基準値記憶部
251・・・指示動作判定処理部
252・・・指示動作判定学習部
253・・・判定基準値記憶部

Claims (27)

  1. 表示面を運転者の方向とは異なる方向に向けて車両の室内に配置されて、前記車両の周辺領域を撮像した画像を表示する表示部と、
    前記車両の室内に配置されて前記表示部に表示された画像領域の一部または全体を映すミラー部とを備え、
    前記ミラー部に映る前記表示部の画像によって前記運転者が視認できる前記周辺領域の視認範囲が、前記ミラー部に対する前記運転者の視認位置の移動に応じて変化する車両用表示装置。
  2. 前記運転者の動きを判別して、動き判別結果に基づき前記表示部に表示する画像の表示制御を行い、前記視認範囲を前記運転者の動きに応じて変更する表示制御部をさらに備える
    請求項1記載の車両用表示装置。
  3. 前記運転者の動きの判別度合いを示すステータスを、運転者へ視覚的または聴覚的にフィードバックする通知部をさらに備える
    請求項2記載の車両用表示装置。
  4. 前記表示制御部は、前記視認範囲に対応する表示領域を除いた他の表示領域の一部また全体の表示輝度を低下させて、動き判別結果に基づき輝度を低下させる表示領域の範囲を制御して、前記視認範囲を前記運転者の動きに応じて変更する
    請求項2記載の車両用表示装置。
  5. 前記表示制御部は、動き判別結果に基づき輝度を低下させる表示領域の範囲を制御して、前記視認範囲を拡張する
    請求項4記載の車両用表示装置。
  6. 前記表示制御部は、前記車両の周辺領域を撮像した画像における前記視認範囲の移動方向の端部側領域に対して、前記視認範囲の移動方向に画像の圧縮を行い、動き判別結果に基づき圧縮率または圧縮範囲を制御して、前記視認範囲を前記運転者の動きに応じて変更する
    請求項2記載の車両用表示装置。
  7. 前記表示制御部は、動き判別結果に基づき圧縮率または圧縮範囲を制御して、前記視認範囲を拡張する
    請求項6記載の車両用表示装置。
  8. 前記表示制御部は、動き判別結果に基づき前記運転者が前記ミラー部の方向に振り向いたことを判別した場合、前記表示部で前記画像表示を行う
    請求項2記載の車両用表示装置。
  9. 前記表示制御部は、前記振り向きの検出後に前記運転者で予め指定した動きが行われたことを判別した場合に前記視認範囲の領域を拡張する
    請求項8記載の車両用表示装置。
  10. 前記表示制御部は、前記振り向きの検出後に前記運転者の動き判別の時間解像度を高くする
    請求項8記載の車両用表示装置。
  11. 前記表示制御部は、
    前記運転者毎に前記動きの特徴を学習する学習部と、
    前記学習部の学習結果を用いて前記運転者の動きを判定する判定処理部と、
    前記判定処理部の判定結果に基づき前記視認範囲を変更する制御処理部とを備える
    請求項2記載の車両用表示装置。
  12. 前記判定処理部は、前記運転者の動きから前記運転者の指示の判定を行い、前記指示の判定では、前記運転者における頭部の2回以上の加減速動作の組み合わせの検出結果に基づき前記指示の内容を判定する
    請求項11記載の車両用表示装置。
  13. 前記運転者の動きは、首振り、首を軸とした頭部の回転、または上半身の前後左右運動の少なくとも何れかである
    請求項11記載の車両用表示装置。
  14. 前記表示制御部は、前記運転者の動きに応じて前記視認範囲の拡張を行い、前記車両の運行状況に基づき拡張する前記視認範囲の領域サイズを制御する
    請求項2記載の車両用表示装置。
  15. 前記表示制御部は、前記車両の進行方向に関した運行情報に基づき、前記車両の外側方向に前記視認範囲を拡張する
    請求項14記載の車両用表示装置。
  16. 前記車両はキャビンに牽引トレーラ部が連結された構成とされて、前記キャビンから前記車両の周辺領域の撮像が行われており、
    前記表示制御部は、前記キャビンの向きと前記牽引トレーラ部の向きが異なる状況を生じる運転状況に関した運行情報に基づき、前記キャビンの向きと前記牽引トレーラ部の向きが相違しても前記牽引トレーラ部の外側が前記視認範囲に含まれるように前記視認範囲を拡張する
    請求項14記載の車両用表示装置。
  17. 前記表示部と前記ミラー部は、前記ミラー部で前記表示部に表示された画像の一部を映し、前記ミラー部に対する前記運転者の視認位置の移動に応じて前記ミラー部で映し出される画像の領域が移動するように配置する
    請求項1記載の車両用表示装置。
  18. 前記表示部と前記ミラー部は、前記運転者の眼の位置から前記ミラー部を介した前記表示部の表示面までの光学的視認距離が少なくとも1.1メートル以上となるように配置または光学設計された
    請求項1記載の車両用表示装置。
  19. 前記表示部における表示面または前記表示面の照明光が、前記運転者から見えないように前記表示部を設けた
    請求項1記載の車両用表示装置。
  20. 前記ミラー部は、前記視認範囲の移動方向の形状を、前記運転者の方向に突出した湾曲形状とする
    請求項1記載の車両用表示装置。
  21. 前記ミラー部は、前記視認範囲の移動方向の端部側よりも中央部分の湾曲を少なくした形状とする
    請求項20記載の車両用表示装置。
  22. 運転者の動きを判別して、動き判別結果に基づき前記ミラー部の向きを変更することで、前記視認範囲を前記運転者の動きに応じて変更する表示制御部をさらに備える
    請求項1記載の車両用表示装置。
  23. 前記ミラー部は半透過ミラーである
    請求項1記載の車両用表示装置。
  24. 前記半透過ミラーが半透過調光機能を有する構成、または前記半透過ミラーの背面にさらに透過光の光調光デバイスを配置した構成とする
    請求項23記載の車両用表示装置。
  25. 車両の室内に設けられて、表示面が運転者の方向とは異なる方向に向けられた表示部で、前記車両の周辺領域を撮像した画像を表示する工程と、
    表示制御部で、前記運転者の動きを判別して動き判別結果に基づき前記表示部に表示する画像の表示制御を行うことで、前記車両の室内に設けられたミラー部に映る前記表示部の画像によって前記運転者が視認できる視認範囲が、前記運転者の動きに応じて変化する工程と
    を含む表示制御方法。
  26. 車両の外装部に共に車両進行方向に対して後方側を向けて取り付けられた少なくとも2つ以上の撮像装置と、
    前記車両の室内のダッシュボード中央部に隣接配置される少なくとも2つ以上の画面表示領域を設けた表示部を有し、
    前記画面表示領域に表示する撮像画像の表示内容では、車両進行方向前方側に設置された第1の撮像装置の画像を前記第1の撮像装置よりも車両進行方向後方側に設置された撮像装置の画像より上部に配置する後方モニタリングシステム。
  27. 車両の外装部に共に車両進行方向に対して後方側を向けて取り付けられた少なくとも2つ以上の撮像装置と、
    前記車両の室内に隣接配置する少なくとも2つ以上の画面表示領域を設けた表示部を有し、
    前記画面表示領域に表示する撮像画像の表示内容では、車両進行方向前方側に設置された第1の撮像装置の画像に含まれる無限消失点を前記第1の撮像装置よりも車両進行方向後方側に設置された撮像装置の画像に含まれる無限消失点より上部に配置する後方モニタリングシステム。
JP2014164179A 2014-08-12 2014-08-12 車両用表示装置と表示制御方法および後方モニタリングシステム Active JP6384188B2 (ja)

Priority Applications (10)

Application Number Priority Date Filing Date Title
JP2014164179A JP6384188B2 (ja) 2014-08-12 2014-08-12 車両用表示装置と表示制御方法および後方モニタリングシステム
CN201580040535.4A CN107074150B (zh) 2014-08-12 2015-08-11 车辆显示装置、显示控制方法和后视监视***
PCT/JP2015/004023 WO2016024405A2 (en) 2014-08-12 2015-08-11 Vehicle display device, display control method, and rearview monitoring system
EP15794318.4A EP3148845B1 (en) 2014-08-12 2015-08-11 Vehicle display device, display control method, and rearview monitoring system
EP18191549.7A EP3441264B1 (en) 2014-08-12 2015-08-11 Vehicle display device, display control method, and rearview monitoring system
US15/318,120 US10682958B2 (en) 2014-08-12 2015-08-11 Vehicle display device, display control method, and rearview monitoring system
CN202010540091.3A CN111660935B (zh) 2014-08-12 2015-08-11 车辆显示装置、显示控制方法和后视监视***
EP20205035.7A EP3812211B1 (en) 2014-08-12 2015-08-11 An image processing apparatus and method
JP2018147490A JP6939737B2 (ja) 2014-08-12 2018-08-06 情報処理装置と情報処理方法およびプログラム
US16/817,611 US11479177B2 (en) 2014-08-12 2020-03-13 Vehicle display device, display control method, and rearview monitoring system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014164179A JP6384188B2 (ja) 2014-08-12 2014-08-12 車両用表示装置と表示制御方法および後方モニタリングシステム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018147490A Division JP6939737B2 (ja) 2014-08-12 2018-08-06 情報処理装置と情報処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2016040140A true JP2016040140A (ja) 2016-03-24
JP6384188B2 JP6384188B2 (ja) 2018-09-05

Family

ID=54541137

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014164179A Active JP6384188B2 (ja) 2014-08-12 2014-08-12 車両用表示装置と表示制御方法および後方モニタリングシステム

Country Status (5)

Country Link
US (2) US10682958B2 (ja)
EP (3) EP3148845B1 (ja)
JP (1) JP6384188B2 (ja)
CN (2) CN107074150B (ja)
WO (1) WO2016024405A2 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017103627A (ja) * 2015-12-02 2017-06-08 東芝アルパイン・オートモティブテクノロジー株式会社 車両後方表示装置
JP2017198853A (ja) * 2016-04-27 2017-11-02 株式会社Jvcケンウッド 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
JP2017227719A (ja) * 2016-06-21 2017-12-28 株式会社Jvcケンウッド 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
KR20170142939A (ko) * 2016-06-20 2017-12-28 메크라 랑 게엠베하 운트 코 카게 차량을 위한 미러 대체 시스템
WO2018101170A1 (ja) * 2016-12-01 2018-06-07 シャープ株式会社 表示装置、及び、電子ミラー
JP2018203245A (ja) * 2017-05-31 2018-12-27 パナソニックIpマネジメント株式会社 表示システム、電子ミラーシステム及び移動体
WO2019039347A1 (ja) * 2017-08-21 2019-02-28 株式会社東海理化電機製作所 車両用視認装置
JP2019123470A (ja) * 2018-01-19 2019-07-25 凸版印刷株式会社 画像表示システム
WO2019163564A1 (ja) * 2018-02-20 2019-08-29 株式会社東海理化電機製作所 車両用視認装置、及び車両用視認装置の撮影部の画角設定方法
WO2020079831A1 (ja) * 2018-10-19 2020-04-23 三菱電機株式会社 後方画像処理装置および後方画像表示方法
US10730440B2 (en) 2017-05-31 2020-08-04 Panasonic Intellectual Property Management Co., Ltd. Display system, electronic mirror system, and moving body
WO2022097450A1 (ja) * 2020-11-06 2022-05-12 株式会社デンソー 雨滴検出装置
JP7359243B1 (ja) 2022-03-22 2023-10-11 いすゞ自動車株式会社 車両の間接視界提供システム及び車両の間接視界提供方法

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10486599B2 (en) * 2015-07-17 2019-11-26 Magna Mirrors Of America, Inc. Rearview vision system for vehicle
US20170124881A1 (en) * 2015-10-28 2017-05-04 Velvac Incorporated Blind zone warning for semi-trailer
JP6568603B2 (ja) * 2016-01-28 2019-08-28 鴻海精密工業股▲ふん▼有限公司 車両用画像表示システム及びその画像表示システムを搭載した車両
WO2017187801A1 (ja) * 2016-04-27 2017-11-02 株式会社Jvcケンウッド 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
US9757020B1 (en) * 2016-05-26 2017-09-12 Dental Smartmirror, Inc. Using an intraoral mirror with an integrated camera to record dental impressions, and applicants thereof
DE102016210088B3 (de) * 2016-06-08 2017-07-06 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zur Darstellung einer Umgebung eines Kraftfahrzeugs
DE102016216962B3 (de) * 2016-09-07 2017-12-28 Continental Automotive Gmbh Verfahren und Steuerungseinheit zur Nachführung eines Bildausschnitts
DE102016216956A1 (de) 2016-09-07 2018-03-08 Continental Automotive Gmbh Verfahren zur Nachführung eines Bildausschnitts
JP6669019B2 (ja) * 2016-09-08 2020-03-18 株式会社Jvcケンウッド 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
FR3064439A1 (fr) * 2017-03-22 2018-09-28 Dav Dispositif de retrovision video pour vehicule automobile
DE102017117287A1 (de) * 2017-07-31 2019-01-31 Mekra Lang Gmbh & Co. Kg Sichtsystem mit fahrsituationsbedingter sichtfeld-/sichtbereicheinblendung
JP6958147B2 (ja) * 2017-09-07 2021-11-02 トヨタ自動車株式会社 画像表示装置
WO2019064233A1 (en) * 2017-09-27 2019-04-04 Gentex Corporation COMPLETE DISPLAY MIRROR WITH ACCOMMODATION CORRECTION
DE102018100194B3 (de) * 2018-01-05 2019-01-03 Trw Automotive Electronics & Components Gmbh Spiegelersatzsystem sowie Verfahren zur Darstellung von Bild- und/oder Videodaten der Umgebung eines Kraftfahrzeugs
US11613207B2 (en) * 2018-01-05 2023-03-28 Volvo Truck Corporation Camera monitoring system with a display displaying an undistorted portion of a wide angle image adjoining at least one distorted portion of the wide angle image
WO2019176391A1 (ja) * 2018-03-15 2019-09-19 株式会社Jvcケンウッド ドライブレコーダ、表示制御方法およびプログラム
US10752172B2 (en) * 2018-03-19 2020-08-25 Honda Motor Co., Ltd. System and method to control a vehicle interface for human perception optimization
CN110374449A (zh) * 2018-04-12 2019-10-25 上海擎感智能科技有限公司 基于姿势识别的车窗控制方法及***、车载终端
JP7147255B2 (ja) * 2018-05-11 2022-10-05 トヨタ自動車株式会社 画像表示装置
WO2020025118A1 (fr) * 2018-07-31 2020-02-06 Dav Dispositif de rétrovision vidéo pour véhicule automobile
IT201800009792A1 (it) * 2018-10-25 2020-04-25 Ambarella Inc Obstacle detection in vehicle using wide angle camera and radar sensor fusion
JP7159801B2 (ja) * 2018-11-15 2022-10-25 トヨタ自動車株式会社 車両用電子ミラーシステム
JP7051667B2 (ja) * 2018-11-26 2022-04-11 本田技研工業株式会社 車載装置
WO2020122085A1 (ja) * 2018-12-11 2020-06-18 ソニー株式会社 画像処理装置、画像処理方法および画像処理システム
CN113056391B (zh) * 2018-12-19 2024-05-24 沃尔沃卡车集团 用于将显示在车辆驾驶室中的监控器上的图像适配于车辆构造的方法
US10810966B1 (en) * 2019-01-15 2020-10-20 Ambarella International Lp Fusion of electronic mirror systems and driver monitoring for increased convenience and added safety
US10981507B1 (en) 2019-11-07 2021-04-20 Focused Technology Solutions, Inc. Interactive safety system for vehicles
US20210229601A1 (en) * 2020-01-27 2021-07-29 Nvidia Corporation Automatically-adjusting mirror for use in vehicles
JP7442933B2 (ja) * 2020-03-20 2024-03-05 アルパイン株式会社 車両用画像処理装置
JP7322862B2 (ja) * 2020-11-04 2023-08-08 トヨタ自動車株式会社 車外情報表示制御装置、車外情報表示制御方法及びプログラム
WO2022192663A1 (en) * 2021-03-12 2022-09-15 Stoneridge, Inc. Vehicle camera mirror system with adjustable video feed
DE102021107390A1 (de) * 2021-03-24 2022-09-29 Claas E-Systems Gmbh Landwirtschaftliche Arbeitsmaschine
JP2023071487A (ja) * 2021-11-11 2023-05-23 フォルシアクラリオン・エレクトロニクス株式会社 表示制御装置及び表示制御方法
CN113978367B (zh) * 2021-11-16 2023-06-02 武汉华星光电技术有限公司 车载显示装置、车载显示***及车辆
US20230211731A1 (en) * 2022-01-05 2023-07-06 GM Global Technology Operations LLC Vehicle mirror selection based on head pose and gaze direction
US11970117B2 (en) 2022-09-06 2024-04-30 Panasonic Automotive Systems Co., Ltd. Display system
CN117984897A (zh) * 2024-04-02 2024-05-07 长城汽车股份有限公司 车辆后视镜控制方法、装置、车辆及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005335410A (ja) * 2004-05-24 2005-12-08 Olympus Corp 画像表示装置
JP2006088954A (ja) * 2004-09-27 2006-04-06 Nobuaki Ikuta 鏡面の周辺部で視野を拡大させたバックミラー。
JP2008018760A (ja) * 2006-07-11 2008-01-31 Honda Motor Co Ltd 運転支援装置
JP2008213649A (ja) * 2007-03-02 2008-09-18 Toyota Motor Corp 車両用周辺監視装置
JP2009120080A (ja) * 2007-11-16 2009-06-04 Nissan Motor Co Ltd 車両用表示装置
JP2009208581A (ja) * 2008-03-04 2009-09-17 Funai Electric Co Ltd ミラー自動調整システム及び画像撮像装置
JP2010143250A (ja) * 2008-12-16 2010-07-01 Nissan Motor Co Ltd 後方視認装置
JP2010179850A (ja) * 2009-02-06 2010-08-19 Toyota Motor Corp 車両用表示装置
JP2012049918A (ja) * 2010-08-27 2012-03-08 Sony Corp 撮像装置、撮像システム及び撮像方法

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5037182A (en) * 1990-09-12 1991-08-06 Delco Electronics Corporation Rearview mirror head-up display
US5027182A (en) * 1990-10-11 1991-06-25 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration High-gain AlGaAs/GaAs double heterojunction Darlington phototransistors for optical neural networks
US6642840B2 (en) * 2000-07-28 2003-11-04 Lang-Mekra North Amicica, Llc Rearview mirror assembly with monitor
US6443573B2 (en) * 2000-08-10 2002-09-03 Yazaki Corporation On-vehicle display unit
US7466338B2 (en) 2004-02-26 2008-12-16 Yiling Xie Wide-angled image display system for automobiles
JP4639753B2 (ja) * 2004-10-25 2011-02-23 日産自動車株式会社 運転支援装置
JP4468859B2 (ja) * 2005-06-06 2010-05-26 アルパイン株式会社 画像合成装置および合成方法
JP4742733B2 (ja) 2005-08-05 2011-08-10 日産自動車株式会社 画像つなぎ目処理装置および画像つなぎ目処理方法
JP4762698B2 (ja) * 2005-11-30 2011-08-31 アルパイン株式会社 車両周辺画像表示装置
JP4270260B2 (ja) 2006-10-05 2009-05-27 トヨタ自動車株式会社 排気管の接続装置
JP5143009B2 (ja) * 2006-10-11 2013-02-13 パナソニック株式会社 映像表示装置及び映像表示方法
EP2003019B1 (en) * 2007-06-13 2014-04-23 Aisin AW Co., Ltd. Driving assist apparatus for vehicle
JP5022869B2 (ja) * 2007-11-20 2012-09-12 株式会社村上開明堂 発光表示装置付きバックミラー
JP5153485B2 (ja) * 2008-07-01 2013-02-27 三菱電機株式会社 背面投射型表示装置
US8482486B2 (en) * 2009-04-02 2013-07-09 GM Global Technology Operations LLC Rear view mirror on full-windshield head-up display
JP5073703B2 (ja) 2009-04-03 2012-11-14 株式会社デンソー 車両用表示装置
JP5500877B2 (ja) 2009-06-15 2014-05-21 アルパイン株式会社 車載用画像表示装置および画像のトリミング方法
WO2011028686A1 (en) * 2009-09-01 2011-03-10 Magna Mirrors Of America, Inc. Imaging and display system for vehicle
US8471908B2 (en) * 2010-10-18 2013-06-25 GM Global Technology Operations LLC Three-dimensional mirror display system for a vehicle and method
US9102269B2 (en) * 2011-08-09 2015-08-11 Continental Automotive Systems, Inc. Field of view matching video display system
US20140285666A1 (en) * 2011-11-01 2014-09-25 Magna Mirrors Of America, Inc. Vision system with door mounted exterior mirror and display
JP2013132970A (ja) * 2011-12-26 2013-07-08 Denso Corp ミラー制御装置およびプログラム
JP5594850B2 (ja) * 2012-08-17 2014-09-24 独立行政法人理化学研究所 代替現実システム制御装置、代替現実システム、代替現実システム制御方法、プログラム、および記録媒体
DE102012018325A1 (de) * 2012-09-15 2014-03-20 DSP-Weuffen GmbH Verfahren und Vorrichtung für ein bildgebendes Fahrerassistenzsystem mit adaptiver Umsichtdarstellung
GB2508860A (en) * 2012-12-13 2014-06-18 Nissan Motor Mfg Uk Ltd Vehicle Rear-View Camera System
JP6364702B2 (ja) * 2013-03-29 2018-08-01 アイシン精機株式会社 画像表示制御装置、画像表示システム、および表示ユニット
US10946798B2 (en) * 2013-06-21 2021-03-16 Magna Electronics Inc. Vehicle vision system
US9513702B2 (en) * 2013-07-15 2016-12-06 Lg Electronics Inc. Mobile terminal for vehicular display system with gaze detection
JP2015027852A (ja) * 2013-07-30 2015-02-12 トヨタ自動車株式会社 運転支援装置
US9013286B2 (en) * 2013-09-23 2015-04-21 Volkswagen Ag Driver assistance system for displaying surroundings of a vehicle
US20140327775A1 (en) * 2013-12-04 2014-11-06 Kyu Hwang Cho Mirrorless Driving of Automotive Vehicle Using Digital Image Sensors and Touchscreen

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005335410A (ja) * 2004-05-24 2005-12-08 Olympus Corp 画像表示装置
JP2006088954A (ja) * 2004-09-27 2006-04-06 Nobuaki Ikuta 鏡面の周辺部で視野を拡大させたバックミラー。
JP2008018760A (ja) * 2006-07-11 2008-01-31 Honda Motor Co Ltd 運転支援装置
JP2008213649A (ja) * 2007-03-02 2008-09-18 Toyota Motor Corp 車両用周辺監視装置
JP2009120080A (ja) * 2007-11-16 2009-06-04 Nissan Motor Co Ltd 車両用表示装置
JP2009208581A (ja) * 2008-03-04 2009-09-17 Funai Electric Co Ltd ミラー自動調整システム及び画像撮像装置
JP2010143250A (ja) * 2008-12-16 2010-07-01 Nissan Motor Co Ltd 後方視認装置
JP2010179850A (ja) * 2009-02-06 2010-08-19 Toyota Motor Corp 車両用表示装置
JP2012049918A (ja) * 2010-08-27 2012-03-08 Sony Corp 撮像装置、撮像システム及び撮像方法

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017103627A (ja) * 2015-12-02 2017-06-08 東芝アルパイン・オートモティブテクノロジー株式会社 車両後方表示装置
JP2017198853A (ja) * 2016-04-27 2017-11-02 株式会社Jvcケンウッド 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
KR102000929B1 (ko) 2016-06-20 2019-07-17 메크라 랑 게엠베하 운트 코 카게 차량을 위한 미러 대체 시스템
KR20170142939A (ko) * 2016-06-20 2017-12-28 메크라 랑 게엠베하 운트 코 카게 차량을 위한 미러 대체 시스템
JP2018024413A (ja) * 2016-06-20 2018-02-15 メクラ・ラング・ゲーエムベーハー・ウント・コー・カーゲーMEKRA Lang GmbH & Co. KG 車両用ミラー代替システム
JP2017227719A (ja) * 2016-06-21 2017-12-28 株式会社Jvcケンウッド 車両用表示制御装置、車両用表示システム、車両用表示制御方法およびプログラム
WO2018101170A1 (ja) * 2016-12-01 2018-06-07 シャープ株式会社 表示装置、及び、電子ミラー
CN110024381A (zh) * 2016-12-01 2019-07-16 夏普株式会社 显示装置、以及电子后视镜
JPWO2018101170A1 (ja) * 2016-12-01 2019-10-24 シャープ株式会社 表示装置、及び、電子ミラー
JP2018203245A (ja) * 2017-05-31 2018-12-27 パナソニックIpマネジメント株式会社 表示システム、電子ミラーシステム及び移動体
US10730440B2 (en) 2017-05-31 2020-08-04 Panasonic Intellectual Property Management Co., Ltd. Display system, electronic mirror system, and moving body
US10882454B2 (en) 2017-05-31 2021-01-05 Panasonic Intellectual Property Management Co., Ltd. Display system, electronic mirror system, and moving body
WO2019039347A1 (ja) * 2017-08-21 2019-02-28 株式会社東海理化電機製作所 車両用視認装置
JP2019034692A (ja) * 2017-08-21 2019-03-07 株式会社東海理化電機製作所 車両用視認装置
JP2019123470A (ja) * 2018-01-19 2019-07-25 凸版印刷株式会社 画像表示システム
WO2019163564A1 (ja) * 2018-02-20 2019-08-29 株式会社東海理化電機製作所 車両用視認装置、及び車両用視認装置の撮影部の画角設定方法
WO2020079831A1 (ja) * 2018-10-19 2020-04-23 三菱電機株式会社 後方画像処理装置および後方画像表示方法
WO2022097450A1 (ja) * 2020-11-06 2022-05-12 株式会社デンソー 雨滴検出装置
JP2022075077A (ja) * 2020-11-06 2022-05-18 株式会社デンソー 雨滴検出装置
JP7415877B2 (ja) 2020-11-06 2024-01-17 株式会社デンソー 雨滴検出装置
JP7359243B1 (ja) 2022-03-22 2023-10-11 いすゞ自動車株式会社 車両の間接視界提供システム及び車両の間接視界提供方法

Also Published As

Publication number Publication date
EP3441264A1 (en) 2019-02-13
JP6384188B2 (ja) 2018-09-05
EP3812211A1 (en) 2021-04-28
US20200207274A1 (en) 2020-07-02
WO2016024405A2 (en) 2016-02-18
CN111660935A (zh) 2020-09-15
EP3812211B1 (en) 2023-11-22
EP3148845A2 (en) 2017-04-05
EP3441264B1 (en) 2020-12-23
CN107074150A (zh) 2017-08-18
EP3148845B1 (en) 2018-11-07
US20170129405A1 (en) 2017-05-11
CN111660935B (zh) 2023-11-24
US10682958B2 (en) 2020-06-16
US11479177B2 (en) 2022-10-25
CN107074150B (zh) 2020-07-24
WO2016024405A3 (en) 2016-04-07

Similar Documents

Publication Publication Date Title
JP6384188B2 (ja) 車両用表示装置と表示制御方法および後方モニタリングシステム
WO2016024444A1 (ja) 信号処理装置と信号処理方法およびモニタリングシステム
JP4353162B2 (ja) 車輌周囲情報表示装置
CN109070800A (zh) 用于车辆的图像显示设备和方法
US8031225B2 (en) Surroundings monitoring system for a vehicle
WO2018147066A1 (ja) 車両用表示制御装置
WO2010137684A1 (ja) 画像生成装置及び画像表示システム
JP5198368B2 (ja) 車両用画像表示装置
JP2007087337A (ja) 車輌周囲情報表示装置
JP2005223524A (ja) 車両周辺監視装置
JP2006248384A (ja) 車両周囲監視装置
CN107284356A (zh) 车辆视镜替代***
JP2005067514A (ja) 車両用表示装置
JP6939737B2 (ja) 情報処理装置と情報処理方法およびプログラム
JP4720979B2 (ja) 車両用監視装置
JP2014072604A (ja) 画像処理システム、画像処理装置、画像処理方法、及び、プログラム
JP7230964B2 (ja) 情報処理装置及び情報処理方法、並びにプログラム
JP7130688B2 (ja) 車両用表示装置
JP2022044136A (ja) 表示制御装置、ヘッドアップディスプレイ装置、及びヘッドアップディスプレイ装置の表示制御方法
JP2012131329A (ja) 車両用表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180710

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180723

R151 Written notification of patent or utility model registration

Ref document number: 6384188

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151