JP6578000B2 - 表示システム、表示装置及び画像処理装置 - Google Patents

表示システム、表示装置及び画像処理装置 Download PDF

Info

Publication number
JP6578000B2
JP6578000B2 JP2017520791A JP2017520791A JP6578000B2 JP 6578000 B2 JP6578000 B2 JP 6578000B2 JP 2017520791 A JP2017520791 A JP 2017520791A JP 2017520791 A JP2017520791 A JP 2017520791A JP 6578000 B2 JP6578000 B2 JP 6578000B2
Authority
JP
Japan
Prior art keywords
image
vibration
display
display device
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017520791A
Other languages
English (en)
Other versions
JPWO2016190372A1 (ja
Inventor
詞貴 後藤
詞貴 後藤
勉 原田
勉 原田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Display Inc
Original Assignee
Japan Display Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Display Inc filed Critical Japan Display Inc
Publication of JPWO2016190372A1 publication Critical patent/JPWO2016190372A1/ja
Application granted granted Critical
Publication of JP6578000B2 publication Critical patent/JP6578000B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/306Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using a re-scaling of images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、表示システム、表示装置及び画像処理装置に関する。
近年、自動車等の移動体に設けられた撮像装置及び表示装置により構成された表示システムが知られている。表示システムは、撮像装置による撮像画像を表示装置で確認することができるようになっている。
動体は移動に伴い振動する。係る振動によって画像にぶれが生じ、表示装置に何が映っているのかの把握を困難にする。係る振動による影響を低減するための構成として、画像の撮像時に生じる振動による影響を低減する車載の撮像装置が知られている(例えば特許文献1、特許文献2)。
特開2013−150153号公報 特開2010−268520号公報
しかしながら、撮像装置及び表示装置の両方が移動体に設けられている場合、撮像装置と表示装置は異なる場所にあり、それぞれの場所で個別に振動する。このため、手ぶれ補正だけでは表示装置に加わった振動による画像のぶれを低減することができなかった。
本発明は、上記の課題に鑑みてなされたもので、撮像装置及び表示装置が設けられた移動体で撮像装置及び表示装置の各々に加えられた振動による画像のぶれが低減された状態で画像を視認することができる表示システム、表示装置及び画像処理装置を提供することを目的とする。又は、撮像装置が設けられた移動体に設けられた表示装置に加わった振動による画像のぶれを低減することができる表示システム、表示装置及び画像処理装置を提供することを目的とする。
本発明の一態様である表示システムは、移動体に設けられて画像を撮像する撮像部を有する撮像装置と、前記移動体において前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置と、前記撮像装置側で振動を検知する第1センサと、前記表示装置側で振動を検知する第2センサと、前記第1センサの検知結果に基づいて前記撮像画像よりも小さい前処理画像を前記撮像画像から切り出す第1画像処理部と、前記第2センサの検知結果に基づいて前記前処理画像よりも小さい後処理画像を前記前処理画像から切り出す第2画像処理部とを備え、前記第1画像処理部は、前記撮像画像内における前記前処理画像の切り出し範囲を前記撮像装置側での振動を打ち消す方向に移動させ、前記第2画像処理部は、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動に追従させる。
また、本発明の一態様は、画像を撮像する撮像部を有する撮像装置が設けられた移動体において前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置であって、前記撮像装置側で振動を検知する第1センサの検知結果に基づいて前記撮像画像よりも小さい前処理画像を前記撮像画像から切り出し、前記表示装置側で振動を検知する第2センサの検知結果に基づいて前記前処理画像よりも小さい前記後処理画像を前記前処理画像から切り出す画像処理部を備え、前記画像処理部は、前記撮像画像内における前記前処理画像の切り出し範囲を前記撮像装置側での振動を打ち消す方向に移動させ、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動に追従させる。
また、本発明の一態様は、画像を撮像する撮像部を有する撮像装置及び前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置が設けられた移動体において前記撮像画像に基づいて前記後処理画像を得る画像処理装置であって、前記撮像装置側で振動を検知する第1センサの検知結果に基づいて前記撮像画像よりも小さい前処理画像を前記撮像画像から切り出し、前記表示装置側で振動を検知する第2センサの検知結果に基づいて前記前処理画像よりも小さい前記後処理画像を前記前処理画像から切り出す画像処理部を備え、前記画像処理部は、前記撮像画像内における前記前処理画像の切り出し範囲を前記撮像装置側での振動を打ち消す方向に移動させ、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動に追従させる。
また、本発明の一態様は、画像を撮像する撮像部を有する撮像装置が設けられた移動体において前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置であって、前記表示装置側で振動を検知するセンサの検知結果に基づいて、前記撮像画像に基づいて生成された画像であって前記撮像装置側での振動による影響が低減された前処理画像から前記前処理画像よりも小さい後処理画像を切り出す画像処理部を備え、前記画像処理部は、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動に追従させる。
また、本発明の一態様は、画像を撮像する撮像部を有する撮像装置及び前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置が設けられた移動体において前記後処理画像を得る画像処理装置であって、前記表示装置側で振動を検知するセンサの検知結果に基づいて、前記撮像画像に基づいて生成された画像であって前記撮像装置側での振動による影響が低減された前処理画像から前記前処理画像よりも小さい後処理画像を切り出す画像処理部を備え、前記画像処理部は、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動に追従させる。
図1は、本発明の実施形態による表示システムの主要構成を示す図である。 図2は、ルームミラーユニット及びサイドミラーユニットが有する撮像装置の配置例を示す図である。 図3は、サイドミラーユニットが有する表示装置の配置例を示す図である。 図4は、表示装置の構成の一例を示すブロック図である。 図5は、サイドミラーユニットの主要構成を示すブロック図である。 図6は、撮像画像と前処理画像との関係の一例を示す図である。 図7は、第1センサによって検知された振動と、撮像装置に振動が加わることによる撮像範囲の変動と、第1座標の補正と、第1座標の補正による前処理画像の切り出し範囲の変動と、切り出しによって得られる前処理画像との関係の一例を示す図である。 図8は、前処理画像と後処理画像との関係の一例を示す図である。 図9は、第2センサによって検知された振動と、表示装置に振動が加わることによる所定位置の水平線に対する画像表示位置の変動と、第2座標の補正と、第2座標の補正による後処理画像の切り出し範囲の変動と、後処理画像を表示する表示装置の表示出力内容と所定位置の水平線との関係の一例を示す図である。 図10は、サイドミラーユニットにおける画像処理の流れの一例を示すフローチャートである。 図11は、第1センサによるセンシングのタイミングと第2センサによるセンシングのタイミングが同時である場合の処理の流れの一例を示すフローチャートである。 図12は、変形例に係るサイドミラーユニットの主要構成を示すブロック図である。 図13は、変形例に係るサイドミラーユニットの主要構成を示すブロック図である。
以下に、本発明の各実施形態について、図面を参照しつつ説明する。なお、開示はあくまで一例にすぎず、当業者において、発明の主旨を保っての適宜変更について容易に想到し得るものについては、当然に本発明の範囲に含有されるものである。また、図面は説明をより明確にするため、実際の態様に比べ、各部の幅、厚さ、形状等について模式的に表される場合があるが、あくまで一例であって、本発明の解釈を限定するものではない。また、本明細書と各図において、既出の図に関して前述したものと同様の要素には、同一の符号を付して、詳細な説明を適宜省略することがある。
(実施形態)
図1は、本発明の実施形態による表示システム1の主要構成を示す図である。図1に示すように、表示システム1は、ルームミラーユニット2、2つのサイドミラーユニット3A,3B及びCID(Center Information Display)ユニット4を備える。表示システム1は、移動体の一例である自動車に設けられたいわゆる車載の表示システムである。以下、自動車と記載された箇所は、移動体の一例としての自動車である。
図2は、サイドミラーユニット3A,3Bが有する撮像装置5A,5B及びルームミラーユニット2が有する撮像装置5Cの配置例を示す図である。図2では、撮像装置5A,5B,5Cの画角を破線で示している。例えば図2に示すように、表示システム1は、3つの撮像装置5A,5B,5Cを有する。3つの撮像装置5A,5B,5Cは、自動車の車体BOの側方及び後方に配置される。3つの撮像装置5A,5B,5Cは、撮像部71を有する(図5参照)。撮像部71は、レンズ、固体撮像素子等を有する。固体撮像素子は、レンズを介して外部の光を検知可能に設けられている。3つの撮像装置5A,5B,5Cがそれぞれ有する撮像部71の画角は、車外に向けられている。すなわち、3つの撮像装置5A,5B,5Cは、車外の状況を確認可能な画像を撮像する。より具体的には、撮像装置5A,5Bは、車体の側方に設けられる。撮像装置5Cは、車体の後方に設けられる。これら撮像装置5A,5B,5Cの画角は、一部重複する。これにより、画角AV1,AV2よりも後方を、3つの撮像装置5A,5B,5Cの撮像範囲内に収めることができる。実施形態では、表示装置20A,20Bが撮像装置5A,5Bにより撮像された画像を表示する。そして、表示装置20Cが撮像装置5Cにより撮像された画像を表示する。撮像装置5A,5B,5Cを特に区別しない場合、撮像装置5と記載することがある。また、表示装置20A,20B,20C及び後述する表示装置20Dを特に区別しない場合、表示装置20と記載することがある。
また、表示システム1は、撮像装置5側で振動を検知する第1センサ72を備える。具体的には、例えば図2に示すように、第1センサ72A,72B,72Cは、撮像装置5A,5B,5Cの筐体内に個別に設けられている。第1センサ72A,72B,72Cを特に区別しない場合、第1センサ72と記載することがある。
図3は、サイドミラーユニット3Aが有する表示装置20Aの配置例を示す図である。示装置20Aは、自動車内(例えば、運転席の側方に配置される。具体的には、表示装置20Aが有する表示部83は、例えば図3に示すように、AピラーAPの下端部付近に設けられる。AピラーAPは、フロントガラスFGとサイドガラスSGとの間に存するピラーである。表示装置20Bは、ハンドルHNを含む運転席に対して表示装置20Aと左右逆の位置に設けられる。示装置20A,20Bは、主に車体BO側方の状況を示す画像を表示する。すなわち、サイドミラーユニット3A,3Bは、従来ドアミラー又はフェンダーミラーにより確認されていた車外側方の状況確認に利用することができる。示装置20Cは、例えば従来の自動車においてバックミラーが設けられていた位置に、バックミラーを代替するよう配置される。すなわち、ルームミラーユニット2は、従来バックミラーにより確認されていた車外後方の状況確認に利用することができる。
また、表示システム1は、表示装置20側で振動を検知する第2センサ82を備える。具体的には、例えば図3に示すように、表示装置20Aには、第2センサ82Aが設けられている。第2センサ82Aは、表示装置20Aの表示面の反対側に設けられている。該表示面の反対側は、表示装置20Aの筐体内であって表示装置20Aによる表示出力に影響のない位置の一例である。他の表示装置20B,20C,20Dにも、同様の第2センサが設けられている。第2センサ82Aを含めて、表示装置20A,20B,20C,20Dのそれぞれに個別に設けられる第2センサを区別しない場合、第2センサ82と記載することがある。
CIDユニット4は、例えば中央処理部14、表示装置20D等を有する。示装置20Dは、例えばダッシュボードに設けられる。表示装置20Dは、カーナビゲーションシステムにおける道案内情報等を表示する。CIDユニット4の表示装置20Dは、スピードメータ、タコメータ、燃料計、水温計、距離計等の計器類と同様の情報を表示してもよい。
実施形態のCIDユニット4は、ルームミラーユニット2及びサイドミラーユニット3A,3Bとデータ伝送可能に接続される。具体的には、CIDユニット4とルームミラーユニット2及びサイドミラーユニット3A,3Bとは例えばHDMI(登録商標)(High-Definition Multimedia Interface)等のインタフェースを介して接続される。この接続形態は、CIDユニット4とルームミラーユニット2及びサイドミラーユニット3A,3Bとの接続形態の一例であってこれに限られるものでなく、適宜変更可能である。表示装置20Dは、示装置20A,20B,20Cのうちいずれかが故障した場合、故障した表示装置の表示出力を代替する。中央処理部14は、表示装置20Dによる表示出力に係る各種の処理を行う。
撮像装置5A,5B,5C、表示装置20A,20B,20C,20D、第1センサ72A,72B,72Cの記載のように、符号における数字の後に付加された大文字のアルファベットは、自動車における配置を区別するためのものであり、具体的構成に特段の差異はない。
図4は、表示装置20の構成の一例を示すブロック図である。図4に示すように、表示装置20は、第2画像処理装置81と、第2センサ82と、表示部83とを備える。表示部83は、例えば、画像表示パネル30(display panel)と、画像表示パネル駆動回路(display driver)40と、光源装置50と、光源装置制御回路60と、を備える。画像表示パネル30は、後処理画像93(図8等参照)に基づいて第2画像処理装置81により生成された信号(出力信号)に基づいて画像を表示させる。画像表示パネル駆動回路40は、画像表示パネル30の駆動を制御する。光源装置50は、画像表示パネル30を、例えばその背面から照明する。光源装置制御回路60は、光源装置50の駆動を制御する。第2画像処理装置81(図4等参照)、後処理画像93(図8等参照)及び第2センサ82(図4参照)については後述する。
画像表示パネル30は、例えば、P×Q個(行方向にP個、列方向にQ個)、2次元のマトリクス状(column-row configuration)に配列された画素48を有する。この例において、行方向がX方向、列方向はY方向である。また、XYの2方向に直交する方向はZ方向である。
表示装置20は、より具体的には、例えば透過型のカラー液晶表示装置である。画素48は、カラー表示出力を行うための複数色の副画素を有する。例えば、画素48は、赤(R)、緑(G)、青(B)の副画素を有し、各副画素の階調値に応じたカラー表示出力を行う。画素48は、他の色の副画素を有していてもよい。例えば、シアン(C)、マゼンタ(M)、イエロー(Y)のような、原色(RGB)に対する補色の副画素のいずれか又は複数を有していてもよい。また、画素48は、白(W)のような原色(RGB)よりも高輝度の副画素を有していてもよい。
画像表示パネル駆動回路40は、信号出力回路41及び走査回路42を備えている。信号出力回路41は、所謂ソースドライバであり、第2画像処理装置81から出力された出力信号に応じて画素48を駆動するための映像信号を生成する。画像表示パネル駆動回路40は、信号出力回路41によって映像信号を保持し、順次、画像表示パネル30に出力する。信号出力回路41は、配線DTLによって画像表示パネル30と電気的に接続されている。画素48は、例えば、複数の副画素を有し、副画素が映像信号に応じた光透過率となるように動作する。走査回路42は、所謂ゲートドライバであり、第2画像処理装置81から出力された出力信号が示す画素行に応じた走査信号を出力する。画像表示パネル駆動回路40は、走査回路42が走査信号を出力することによって、画像表示パネル30における副画素の動作(例えば表示輝度で、この場合は光透過率)を制御するためのスイッチング素子(例えば、薄膜トランジスタ(TFT:Thin Film Transistor))のON/OFFを制御する。走査回路42は、走査線SCLによって画像表示パネル30と電気的に接続されている。走査回路42が走査線SCLを介してスイッチング素子をON/OFFする。これにより、走査線SCLに沿って設けられた画素行(ライン(row))単位でスイッチング素子をON/OFFされる。このように、表示装置20は、ライン単位で表示出力のON/OFFを制御することができる。
光源装置50は、画像表示パネル30の背面に配置されている。光源装置50は、画像表示パネル30に向けて光を照射することで、バックライトとして機能して画像表示パネル30を照明する。光源装置50は、画像表示パネル30の前面に配置したフロントライト構成であってもよい。また画像表示パネル30として自発光のディスプレイ、例えばOLED(Organic Light Emitting Diode)ディスプレイ等を用いる場合には、この光源装置50は不要にできる。
光源装置50は、画像表示パネル30の全面にわたり光を照射し、画像表示パネル30を照明する。光源装置制御回路60は、光源装置50から出力する光の照射光量等を制御する。具体的には、光源装置制御回路60は、第2画像処理装置81から出力される光源装置制御信号に基づいて光源装置50に供給する電流、電圧又は信号のduty比を調整することで、画像表示パネル30を照射する光の照射光量(光の強度)を制御する。
以下、1つの撮像装置5と1つの表示装置20との組み合わせの例として、サイドミラーユニット3Aについてより具体的に説明する。
図5は、サイドミラーユニット3Aの主要構成を示すブロック図である。図5に示すように、撮像装置5Aは、撮像部71と、第1センサ72Aと、第1画像処理装置73とを備える。また、表示装置20Aは、図4を参照して説明した通り、第2画像処理装置81と、第2センサ82Aと、表示部83とを備える。
撮像部71は、自動車に設けられて画像を撮像する(図2参照)。具体的には、撮像部71は、いわゆるデジタルカメラであり、固体撮像素子、レンズ、固体撮像素子から出力された電荷に基づいてXY方向に沿って並ぶ複数の画素により構成された画像を生成する回路等を有する。固体撮像素子は、例えばCMOS(Complementary metal oxide semiconductor)イメージセンサ又はCCD(Charge Coupled Device)イメージセンサである。これらに加え、固体撮像素子は、2次元画像を生成可能な電荷を出力する機能を有する他の種類のイメージセンサであってもよい。撮像部71は、所定のフレームレートで画像を撮像し、撮像画像91(図6等参照)として出力する。所定のフレームレートは任意であるが、例えば60fps(frame per second)、120fps等が挙げられる。以下、固体撮像素子が光を検知する2次元の面をxy平面とし、xy平面に沿い直交する2方向をxy方向とし、xy方向に直交する1方向(撮像の奥行き方向に沿う方向)をz方向と記載することがある。
1センサ72は、撮像装置5側で振動を検知する。例えば、第1センサ72Aは、撮像装置5Aに設けられた撮像部71が有する固体撮像素子に基づいたxyz3方向のうち、少なくともxy2方向について加速度を検知することができる加速度計を有している。第1センサ72Aは、該加速度計により検知された加速度に基づいて振動量を検知する。もちろん、第1センサ72Aは、xyz方向についての加速度を検知し、該加速度に基づいて各方向における振動量を検知する構成であってもよい。第1センサ72は、自動車における撮像装置5側、すなわち、表示装置20よりも撮像装置5に近傍な位置に設けられることにより、自動車の走行に伴って撮像装置5に加えられる振動を検出する。第1センサ72は、図2に示すように撮像装置5の筐体内に存していてもよいし、撮像装置5の近傍に設けられていてもよい。
第1画像処理装置73は、撮像装置5による撮像画像91に基づいて前処理画像92(図6等参照)を生成出力する回路である。具体的には、撮像装置5Aの第1画像処理装置73は、第1センサ72Aの検知結果に基づいて撮像画像91よりも小さい前処理画像92を撮像画像91から切り出す第1画像処理部101として機能する(図5参照)。実施形態では、第1画像処理装置73は、撮像装置5の筐体内に存する回路である。また、第1画像処理装置73は、撮像装置5から出力される画像信号を処理して下流側(表示装置20側)に出力する外部の回路であってもよい。なお、下流側とは、データの送受信における受信側をさす。この場合、送信側が上流側である。第1画像処理部101としての機能については後述する。
2センサ82は、表示装置20側で振動を検知する。例えば、第2センサ82Aは、表示装置20Aに設けられた表示部83のXYZ3方向のうち、少なくともXY2方向について加速度を検知することができる加速度計を有している。第2センサ82Aは、該加速度計により検知された加速度に基づいて振動量を検知する。もちろん、第2センサ82Aは、XYZ方向についての加速度を検知し、該加速度に基づいて各方向における振動量を検知する構成であってもよい。第2センサ82は、自動車における表示装置20側、すなわち、撮像装置5よりも表示装置20に近傍な位置に設けられることにより、自動車の走行に伴って表示装置20に加えられる振動を検出する。第2センサ82は、表示装置20の筐体内に存していてもよいし、表示装置20の近傍に設けられていてもよい。
なお、第1センサ72、第2センサ82を構成する加速度センサは、例えばMEMS(Micro Electro Mechanical Systems)技術を用いて作成される小型のものを利用することができる。これにより、図2、図3に示すようにそれぞれ撮像装置5、表示装置20に加速度センサを内蔵された構成を採用できる。
第2画像処理装置81は、撮像装置5側から出力された画像である前処理画像92に基づいて後処理画像93を生成出力する回路である。具体的には、表示装置20Aの第2画像処理装置81は、第2センサ82Aの検知結果に基づいて前処理画像92よりも小さい後処理画像93を前処理画像92から切り出す第2画像処理部102(図5参照)として機能する。実施形態では、第2画像処理装置81は、表示装置20の筐体内に存する回路である。また、第2画像処理装置81は、表示装置20に入力される前処理画像92の信号を表示装置20よりも上流側(撮像装置5側)で処理する外部の回路であってもよい。第2画像処理部102としての機能については後述する。また、図4を参照して説明したように、実施形態の第2画像処理装置81は、さらに、画像表示パネル駆動回路40及び光源装置制御回路60の動作制御に係る信号(出力信号及び光源装置制御信号)を出力する機能を有するが、第2画像処理部102として機能する回路と画像表示パネル駆動回路40及び光源装置制御回路60の動作制御に係る信号を出力する回路とは個別に設けられてもよい。
表示装置20は、自動車において撮像装置5と別の位置に設けられる(図3参照)。表示装置20の表示部83は、後処理画像93を表示する。ここで、後処理画像93は、前処理画像92に基づいて生成出力される。また、前処理画像92は、撮像画像91に基づいて生成出力される。よって、後処理画像93は、撮像装置5による撮像画像91に基づいた画像である。すなわち、表示装置20は、撮像装置5による撮像画像91に基づいた後処理画像93を表示する。
次に、第1画像処理部101について説明する。第1画像処理部101は、撮像画像91から前処理画像92を切り出すにつき、その切り出し範囲を撮像装置5側での振動を打ち消す方向に移動させる。具体的には、第1画像処理部101は、補後の第1座標に応じて移動した後の第1範囲を撮像画像91から前処理画像92として切り出す。なお、補正前の第1座標は、自動車が静止している場合の撮像画像91内で定められた座標(所定の第1座標)である。補正後の第1座標は、第1センサ72Aにより検知された振動の方向及び振動量に基づいて補正された第1座標である。移動する前の第1範囲は、補正前の第1座標を用いて定められた第1範囲である。移動した後の第1範囲は、補正後の第1座標を用いて定められた第1範囲である。
図6は、撮像画像91と前処理画像92との関係の一例を示す図である。撮像画像91は、第1原点(x1,y1)を開始位置としてx方向にp個の画素が並び、y方向にq個の画素が並ぶ2次元画像である。第1原点(x1,y1)は、撮像画像91の所定位置(例えば、左上)に存する画素の座標である。撮像画像91の画素領域は、第1原点の座標(x1,y1)から第1原点の対角座標(xp,yq)に亘る2次元領域として表すことができる。p,qは整数である。
第1画像処理部101は、前処理画像92として撮像画像91から切り出される範囲を、撮像画像91の画素領域よりも小さい2次元領域とする。具体的には、第1画像処理部101は、例えば、撮像画像91内で、x方向の画素数が撮像画像91よりもa個少なく、y方向の画素数が撮像画像91よりもb個少ない2次元画像を前処理画像92として撮像画像91から切り出す。a,bは整数である。
実施形態の第1画像処理部101は、自動車が静止している場合、撮像画像91内の中央部分から前処理画像92を得る。よって、自動車が静止している場合、第1画像処理部101は、図6に示すように、撮像画像91内における(x(a/2),y(b/2))の座標から(x(p−(a/2)),y(q−(b/2)))の座標に亘る画素領域を所定の第1座標を用いて定められた第1範囲として扱う。第1画像処理部101は、該第1範囲を前処理画像92として切り出す。この場合、第1原点の座標(x1,y1)に対する(x(a/2),y(b/2))の座標が所定の第1座標となる。このように、補正前の第1座標(所定の第1座標)、自車が静止している場合の撮像画像91内で定められた座標である。
図6を参照した説明では、第1原点の座標(x1,y1)に対する(x(a/2),y(b/2))の座標を所定の第1座標とし、第1原点からx方向に(p−a)個、y方向に(q−b)個の画素を含む範囲を前処理画像92として切り出す場合を説明している。これに限らず、前処理画像92切り出範囲を具体的にどのように設定するかは、適宜変更可能である。例えば、a,bが奇数である場合、(a/2)、(b/2)で表される座標が整数でなくなる。このため、例えば所定の第1座標を(x((a/2)±1/2),y((b/2)±1/2))のように設定することで、前処理画像92として切り出される範囲を正しく設定することができる。なお、「±」は、プラス(+)又はマイナス(−)のいずれか一方である。
図7は、第1センサ72Aによって検知された振動量と、撮像装置5Aに振動が加わることによる撮像範囲の変動と、第1座標の補正と、第1座標の補正による前処理画像92の切り出し範囲の変動と、切り出しによって得られる前処理画像92との関係の一例を示す図である。図7では、自動車の静止状態における撮像範囲を破線で示し、撮像装置5Aに生じた振動に応じて変動した後の撮像範囲を実線で示している。第1センサ72Aは、自動車の走行に伴い撮像装置5A側で生じるxy方向の振動量を検知する。
図7の「フレーム1」では、自動車は静止している。このような場合等、振動量がxy方向ともに0である場合、第1画像処理部101は、第1座標に対する補正を行わずに前処理画像92を切り出す。すなわち、第1画像処理部101は、第1座標の補正量(xy方向を±0として撮像画像91から前処理画像92を切り出す。この場合、図6を参照して説明した通り、前処理画像92は、撮像画像91内における(x(a/2),y(b/2))の座標から(x(p−(a/2)),y(q−(b/2)))の座標に亘る範囲を切り出した画像になる。
一方、自動車が走行中である等の理由により、第1センサ72Aによってxy方向の少なくともいずれか一方に0を超える振動量が検知される場合がある、例えば、図7の「フレーム2」以降のフレームでは、自動車は走行しており、走行に伴う振動を生じている。このような場合、第1画像処理部101は、第1センサ72Aにより検知された振動の方向及び振動量に基づいて第1座標を補正する。第1画像処理部101は、補正後の第1座標に応じて移動した後の第1範囲を撮像画像91から前処理画像92として切り出す。
例えば、振動量が(x:−1,y:−1)である場合、すなわち、x方向に−1、y方向に−1の振動量が検知された場合、振動によって撮像装置5Aの画角が第1原点側に向かってxy方向に画素1つ分ずれている。この場合、図7の「フレーム2」で示すように、静止状態において第1原点の座標(x1,y1)で撮像されていた撮像対象は、座標(x2,y2)で撮像されることになり、「フレーム1」の場合に比して矢印m1のように撮像範囲が移動する。
第1画像処理部101は、振動によって生じた画角のずれ方向と反対の方向に向かって前処理画像92の切り出し範囲を移動させるように第1座標を補正する。具体的には、図7の「フレーム2」では、振動量が(x:−1,y:−1)であるので、第1座標を表すx座標及びy座標に1を加える。よって、「フレーム2」における第1座標は、補正されて(x((a/2)+1),y((b/2)+1))になる。補正により、第1座標は矢印M1のように移動し、切り出し範囲も第1座標の補正に伴い移動する。第1画像処理部101は、(x((a/2)+1),y((b/2)+1))の座標から(x(p−(a/2)+1),y(q−(b/2)+1))の座標に亘る範囲を前処理画像92として切り出す。
また、振動量が(x:+2,y:+1)である場合、すなわち、x方向に+2、y方向に+1の振動量が検知された場合、振動によって撮像装置5Aの画角が第1原点の対角側に向かってx方向に画素2つ分、y方向に画素1つ分ずれている。この場合、図7の「フレーム3」で示すように、静止状態において第1原点の座標(x1,y1)で撮像されていた撮像対象は、撮像範囲外となり、静止状態において座標(x3,y2)で撮像されていた撮像対象が第1原点で撮像されることになる。よって、「フレーム1」の場合に比して矢印m2のように撮像範囲が移動する。第1画像処理部101は、振動によって生じた画角のずれ方向と反対の方向に向かって前処理画像92の切り出し範囲を移動させるように第1座標を補正する。具体的には、図7の「フレーム3」では、振動量が(x:+2,y:+1)であるので、第1座標を表すx座標から2を減じ、y座標から1を減じる。よって、「フレーム3」における第1座標は、補正されて(x((a/2)−2),y((b/2)−1))になる。補正により、第1座標は矢印M2のように移動し、切り出し範囲も第1座標の補正に伴い移動する。第1画像処理部101は、(x((a/2)−2),y((b/2)−1))の座標から(xp−(a/2)−2),yq−(b/2)−1)の座標に亘る範囲を前処理画像92として切り出す。
振動によって生じた画角のずれ方向と反対の方向に向かって第1座標を補正し、該補正した第1座標を基準にして前処理画像92を切り出す。これによって、前処理画像92として切り出される撮像範囲は、図7の「フレーム2」、「フレーム3」における「前処理画像92」で示すように、自動車が静止している場合に前処理画像92として切り出される「フレーム1」の撮像範囲と同一になる。すなわち、図7を参照した説明のように、第1画像処理部101が撮像画像91内における前処理画像92の切り出し範囲を撮像装置5A側での振動を打ち消す方向に移動させることで、撮像装置5A側で振動が生じたとしても前処理画像92にぶれが生じることを抑制することができる。
図7の「フレーム1」〜「フレーム3」で示す例に限らず、第1画像処理部101は、同様の仕組みで第1センサ72Aにより検知された振動の方向及び振動量に基づいて補正された第1座標に応じて第1範囲を移動させる。そして、該移動後の第1範囲が前処理画像92として撮像画像91から切り出される
図7を参照した説明では、撮像画像91の中心からみて第1原点側の方向に画角がずれるように撮像装置5Aが振動する場合の振動量をマイナス(−)とし、撮像画像91の中心からみて第1原点の対角側の方向に画角がずれるように撮像装置5Aが振動する場合の振動量をプラス(+)としているこれは振動量の管理方法の一例であってこれに限られるものでなく、適宜変更可能である。
次に、第2画像処理部102について説明する。第2画像処理部102は、前処理画像92内における後処理画像93の切り出し範囲を表示装置20A側での振動に追従させる。具体的には、第2画像処理部102は、補後の第2座標に応じて移動した後の第2範囲を前処理画像92から後処理画像93として切り出す。なお、補正前の第2座標は、自動車が静止している場合の前処理画像92内で定められた座標(所定の第2座標)である。補正後の第2座標は、第2センサ82Aにより検知された振動の方向及び振動量に基づいて補正された第2座標である。移動する前の第2範囲は、補正前の第2座標を用いて定められた第2範囲である。移動した後の第2範囲は、補正後の第2座標を用いて定められた第2範囲である。
図8は、前処理画像92と後処理画像93との関係の一例を示す図である。前処理画像92は、第2原点(X1,Y1)を開始位置としてX方向にA個の画素が並び、Y方向にB個の画素が並ぶ2次元画像である。第2原点(X1,Y1)は、前処理画像92の所定位置(例えば、左上)に存する画素の座標である。前処理画像92の画素領域は、第2原点の座標(X1,Y1)から第2原点の対角座標(XA,YB)に亘る2次元領域として表すことができる。なお、A=(p−a)であり、B=(q−b)である。
第2画像処理部102は、後処理画像93として前処理画像92から切り出される範囲を、前処理画像92の画素領域よりも小さい2次元領域とする。具体的には、第2画像処理部102は、例えば、前処理画像92内で、X方向の画素数が前処理画像92よりもc個少な、Y方向の画素数が前処理画像92よりもd個少ない2次元画像を後処理画像93とし切り出。c,dは整数である。
実施形態の第2画像処理部102は、自動車が静止している場合、前処理画像92内の中央部分から後処理画像93を得る。よって、自動車が静止している場合、第2画像処理部102は、図8に示すように、前処理画像92内における(X(c/2),Y(d/2))の座標から(X(A−(c/2)),Y(B−(d/2)))の座標に亘る画素領域を、所定の第2座標を用いて定められた第2範囲として扱う。第2画像処理部102は、該第2範囲を後処理画像93として切り出す。この場合、第2原点の座標(X1,1)に対する(X(c/2),Y(d/2))の座標が所定の第2座標となる。このように、補正前の第2座標(所定の第2座標)自動車が静止している場合の前処理画像92内で定められた座標である。
なお、後処理画像93のXY方向の画素数と、画像表示パネル30の解像度(P×Q)とを対応させることで、表示出力に係るリサンプリングを不要とすることができる。
図8を参照した説明では、第2原点の座標(X1,Y1)に対する(X(c/2),Y(d/2))の座標を所定の第2座標とし、第2原点からX方向に(A−c)個の画素を有し、Y方向に(B−d)個の画素を含む範囲を後処理画像93とする場合を説明している。これ限らず、後処理画像93として前処理画像92から切り出される範囲を具体的にどのように設定するかは、前処理画像92の場合と同様に、適宜変更可能である。
図9は、第2センサ82Aによって検知された振動量と、表示装置20Aに振動が加わることによる所定位置の水平線Hに対する画像表示位置の変動と、第2座標の補正と、第2座標の補正による後処理画像93の切り出し範囲の変動と、後処理画像93を表示する表示装置20Aの表示出力内容と所定位置の水平線Hとの関係の一例を示す図である。図9では、表示部83の位置として、自動車の静止状態における位置を破線で示し、表示装置20Aに生じた振動に応じて変動した後の位置を実線で示している。第2センサ82Aは、自動車の走行に伴い表示装置20A側で生じるXY方向の振動量を検知する。
図9の「フレーム1」では、自動車は静止している。このような場合等、振動量がXY方向ともに0である場合、第2画像処理部102は、第2座標に対する補正を行わずに後処理画像93を切り出す。すなわち、第2画像処理部102は、第2座標の補正量(XY方向を±0として前処理画像92から後処理画像93を切り出す。この場合、図8を参照して説明した通り、後処理画像93は、前処理画像92内における(X(c/2),Y(d/2))の座標から(X(A−(c/2)),Y(B−(d/2)))の座標に亘る範囲を切り出した画像になる。
一方、自動車が走行中である等の理由により、第2センサ82AによってXY方向の少なくともいずれか一方に0を超える振動量が検知される場合がある。例えば、図9の「フレーム2」以降のフレームでは、自動車は走行しており、走行に伴う振動を生じている。このような場合、第2画像処理部102は、第2センサ82Aにより検知された振動の方向及び振動量に基づいて第2座標を補正する。第2画像処理部102は、補正後の第2座標に応じて移動した後の第2範囲を後処理画像93として前処理画像92から切り出す。
例えば、振動量が(X:−1,Y:−1)である場合、すなわち、X方向に−1、Y方向に−1の振動量が検知された場合、振動によって表示部83の位置が表示領域の第2原点側(左上側)に向かってXY方向に画素1つ分ずれており、「フレーム1」の場合に比して矢印m3のように表示装置が移動する。
第2画像処理部102は、振動によって生じた画角のずれ方向と同一の方向に向かって後処理画像93の切り出し範囲を移動させるように第2座標を補正する。具体的には、図9の「フレーム2」では、振動量が(X:−1,Y:−1)であるので、第2座標を表すX座標及びY座標から1を減じる。よって、「フレーム2」における第2座標は、補正されて(X((c/2)−1),Y((d/2)−1))になる。補正により、第2座標は矢印M3のように移動し、切り出し範囲も第2座標の補正に伴い移動する。第2画像処理部102は、(X((c/2)−1),Y((d/2)−1))の座標から(X(A−(c/2)−1),Y(B−(d/2)−1))の座標に亘る範囲を後処理画像93として切り出す。
また、振動量が(X:+2,Y:+1)である場合、すなわち、X方向に+2、Y方向に+1の振動量が検知された場合、振動によって表示部83の位置が第2原点の対角側(右下側)に向かってX方向に画素2つ分、Y方向に画素1つ分ずれており、「フレーム1」の場合に比して矢印m4のように表示装置が移動する。第2画像処理部102は、振動によって生じた画角のずれ方向と同一の方向に向かって後処理画像93の切り出し範囲を移動させるように第2座標を補正する。具体的には、図8の「フレーム3」では、振動量が(X:+2,Y:+1)であるので、第2座標を表すX座標に2を加え、Y座標に1を加える。よって、「フレーム3」における第2座標は、補正されて(X((c/2)+2),Y((b/2)+1))になる。補正により、第2座標は矢印M4のように移動し、切り出し範囲も第2座標の補正に伴い移動する。第2画像処理部102は、(X((c/2)+2),Y((b/2)+1))の座標から(XA−(c/2)+2),YB−(d/2)+1)の座標に亘る範囲を後処理画像93として切り出す。
振動によって生じた画角のずれ方向と同一の方向に向かって第2座標を補正し、該第2座標に基づいて後処理画像93の切り出し範囲を移動させる。その後、後処理画像93を切り出すことで、後処理画像93として切り出される撮像範囲は、表示装置20A側での振動に追従する。ここで、図9の「フレーム2」、「フレーム3」における「後処理画像93」で示すように、後処理画像93を表示する表示装置20Aの表示出力内容は、所定位置の水平線Hに対して移動しない。すなわち、表示装置20Aが振動することで所定位置の水平線Hに対してぶれを生じても、表示出力内容はぶれを生じない。図9を参照した説明のように、第2画像処理部102が前処理画像92内における後処理画像93の切り出し範囲を表示装置20A側での振動に追従させることで、表示装置20A側で振動が生じた場合の見かけ上のぶれを抑制することができる。
図9の「フレーム1」〜「フレーム3」で示す例に限らず、第2画像処理部102は、同様の仕組みで第2センサ82Aにより検知された振動の方向及び振動量に基づいて第2座標を補正し、該第2座標の補正により移動した第2範囲を前処理画像92から後処理画像93として切り出す。
図9を参照した説明では、表示領域の中央からみて第2原点側の方向に移動するように表示装置20Aが振動する場合の振動量をマイナス(−)とし、表示領域の中央からみて第2原点の対角側の方向に移動するように表示装置20Aが振動する場合の振動量をプラス(+)としているこれは振動量の管理方法の一例であってこれに限られるものでなく、適宜変更可能である。
図10は、サイドミラーユニット3Aにおける画像処理の流れの一例を示すフローチャートである。撮像装置5Aは、撮像部71を動作させて撮像画像91を生成する(ステップS1)。また、第1センサ72Aは、撮像装置5A側での振動量を検知する(ステップS2)。ステップS1とステップS2の処理は並行して行われる。
第1画像処理部101として機能する第1画像処理装置73は、前処理画像92の切り出し範囲を撮像装置5A側での振動を打ち消す方向に移動させるように第1座標を補正する(ステップS3)。第1画像処理装置73は、補正後の第1座標によって特定される前処理画像92の切り出し範囲を採用して撮像画像91から前処理画像92を切り出す(ステップS4)。第1画像処理装置73は、前処理画像92を表示装置20Aに出力する(ステップS5)。
第2センサ82Aは、表示装置20A側での振動量を検知する(ステップS6)。第2画像処理部102として機能する第2画像処理装置81は、後処理画像93の切り出し範囲を表示装置20A側での振動に追従させるように第2座標を補正する(ステップS7)。第2画像処理装置81は、補正後の第2座標によって特定される後処理画像93の切り出し範囲を採用して前処理画像92から後処理画像93を切り出す(ステップS8)。表示装置20Aは、後処理画像93を表示出力する(ステップS9)。
以上、撮像装置5A及び表示装置20Aを例として実施形態を説明したが、撮像装置5B及び表示装置20Bならびに撮像装置5C及び表示装置20Cも、撮像装置5A及び表示装置20Aと同様である。すわなち、サイドミラーユニット3A,3B及びルームミラーユニット2は、それぞれ、自動車に設けられて画像を撮像する撮像部71を有する撮像装置5と、自動車において撮像装置5と別の位置に設けられて撮像装置5による撮像画像91に基づいた後処理画像93を表示する表示部83を有する表示装置20と、撮像装置5側で振動を検知する第1センサ72と、表示装置20側で振動を検知する第2センサ82と、第1センサ72の検知結果に基づいて撮像画像91よりも小さい前処理画像92を撮像画像91から切り出す第1画像処理部101と、第2センサ82の検知結果に基づいて前処理画像92よりも小さい後処理画像93を前処理画像92から切り出す第2画像処理部102とを備える。サイドミラーユニット3A,3B及びルームミラーユニット2は、それぞれ、第1画像処理部101が、撮像画像91内における前処理画像92の切り出し範囲を撮像装置5側での振動を打ち消す方向に移動させ、第2画像処理部102が、前処理画像92内における後処理画像93の切り出し範囲を表示装置20側での振動に追従させる表示システムとしての特徴を有している。
なお、図5〜図9を参照した説明では、画素と座標とを1:1で対応させて画像に座標を設定しているが、座標の設定方法はこれに限られるものでなく、適宜変更可能である。例えば、第1センサ72による振動量の分解能の最小単位に基づいて、座標の最小単位と画素数との対応比率を設定してもよい。また、第1センサ72による振動量の分解能の最小単位と画素数とを対応させること等を目的として撮像画像91及び前処理画像92の解像度変換を行うようにしてもよい。
また、第1センサによるセンシングのタイミングと第2センサによるセンシングのタイミングの関係は、適宜変更可能である。例えば、図10を参照して例示した、撮像の動作タイミングに応じて撮像装置側の第1センサ72を動作させ、表示出力のタイミングに応じて表示装置側の第2センサ82を動作させる個別タイミングでのセンシングであってもよいし、同時のセンシングであってもよい。
図11は、第1センサによるセンシングのタイミングと第2センサによるセンシングのタイミングが同時である場合の処理の流れの一例を示すフローチャートである。第1センサによるセンシングと第2センサによるセンシングを同時に行う場合、例えば図11に示すように、ステップS1の撮像タイミングと並行して撮像装置側の第1センサ72と表示装置側の第2センサ82を動作させてセンシングを行う(ステップS11)。図11に示す処理は、図10におけるステップS2の処理がステップS11の処理に置換され、ステップS6の処理が省略される点を除いて図10に示す処理と同様である。
以上、実施形態によれば、第1画像処理部101が撮像画像91内における前処理画像92の切り出し範囲を撮像装置5側での振動を打ち消す方向に移動させる。このため、撮像装置5側で振動が生じたとしても前処理画像92にぶれが生じることを抑制することができる。また、第2画像処理部102が前処理画像92内における後処理画像93の切り出し範囲を表示装置20側での振動に追従させる。このため、表示装置20側で振動が生じた場合の見かけ上のぶれを抑制することができる。すなわち、このような前処理画像92の切り出し処理及び後処理画像93の切り出し処理によって、撮像装置5及び表示装置20が設けられた自動車で撮像装置5及び表示装置20の各々に加えられた振動による画像のぶれが低減された状態で画像を視認することができる。また、撮像装置5が設けられた自動車に設けられた表示装置20に加わった振動による画像のぶれを低減することができる。
また、第1画像処理部101は、自車が静止している場合の撮像画像91内における所定の第1座標を用いて定められた第1範囲に基づいて、第1センサ72により検知された振動の方向及び振動量に基づいて第1座標及び第1範囲を移動させ、該第1範囲を前処理画像92として撮像画像91から切り出す。第2画像処理部102は、自動車が静止している場合の前処理画像92内における所定の第2座標を用いて定められた第2範囲に基づいて、第2センサ82により検知された振動の方向及び振動量に基づいて第2座標及び第2範囲を移動させ、該第2範囲を後処理画像93として前処理画像92から切り出す。このため、自動車が静止している場合を基準として、振動による画像のぶれを抑制するための切り出し範囲の補正を行うことができる。
また、第1画像処理部101として機能する第1画像処理装置73は、撮像装置5側に設けられ、第2画像処理部102として機能する第2画像処理装置81は、表示装置20側に設けられる。このため、撮像装置5側で生じた振動による影響を抑制するための処理と表示装置20側で生じた振動による影響を抑制するための処理とを分散させることができ、個々の画像処理装置の処理負荷を軽減することができる。
(変形例)
次に、実施形態の変形例について説明する。変形例の説明に係り、上記で説明した実施形態と同様の構成については同じ符号を付して説明を省略することがある。
図12及び図13は、変形例に係るサイドミラーユニット3Aの主要構成を示すブロック図である。例えば図12に示すように、表示装置20A側に設けられた画像処理装置100が第1画像処理部101及び第2画像処理部102として機能してもよい。この場合、実施形態において撮像装置5A側に設けられていた第1画像処理装置73は不要である。第1センサ72A及び第2センサ82Aの各々は、画像処理装置100に検知結果を出力する。また、撮像部71は、画像処理装置100に撮像画像91を出力する。画像処理装置100は、第1画像処理部101として機能することで撮像画像91から前処理画像92を切り出し、第2画像処理部102として機能することで前処理画像92から後処理画像93を切り出す。また、図12では表示装置20Aが第1画像処理部101及び第2画像処理部102として機能する画像処理装置100を備えているが、表示装置20Aに代えて撮像装置5Aが画像処理装置100を備えていてもよい。
また、図13に示すように、撮像装置5A及び表示装置20A側から独立して設けられた画像処理装置110が第1画像処理部101及び第2画像処理部102として機能してもよい。この場合、実施形態における第1画像処理装置73及び第2画像処理装置81は不要である。また、第1センサ72A及び第2センサ82Aの各々は、独立して設けられた画像処理装置110に検知結果を出力する。また、撮像部71は、独立して設けられた画像処理装置110に撮像画像91を出力する。独立して設けられた画像処理装置110は、第1画像処理部101として機能することで撮像画像91から前処理画像92を切り出し、第2画像処理部102として機能することで前処理画像92から後処理画像93を切り出す。
また、実施形態では、撮像装置5側の第1画像処理装置73が第1センサ72の検知結果に基づいて撮像画像91よりも小さい前処理画像92を撮像画像91から切り出す処理に際し撮像画像91内における前処理画像92の切り出し範囲を撮像装置5側での振動を打ち消す方向に移動させることで撮像装置5側の振動による画像のぶれを抑制しているが、他の方法によって撮像装置5側の振動による画像のぶれを抑制するようにしてもよい。例えば、いわゆるレンズシフト方式等、光学式のぶれ補正機能を採用して撮像装置5側の振動による画像のぶれを抑制してもよい。
これらの変形例は、サイドミラーユニット3Aに限らず、サイドミラーユニット3B及びルームミラーユニット2についても同様に適用可能である。
なお、変形例を含む実施形態等においては、表示装置20の開示例として液晶表示装置の場合を例示したが、その他の適用例として、有機エレクトロルミネセンス(Electroluminescence:EL)表示装置、その他の自発光型表示装置等、あらゆるフラットパネル型の表示装置が挙げられる。また、中小型から大型まで、特に限定することなく適用が可能であることは言うまでもない。
また、変形例を含む実施形態等においては、移動体の開示例として自動車の場合を例示したが、3輪以上の車輪と乗員が車室内に備えられた座席に座ることができるボディとを備えたいわゆる自動車に限らず、2輪であっても所謂ボディを備えるものであれば適用が可能であるし、モーターボート等、他の移動体にも適用が可能である。
また、変形例を含む実施形態等において述べた態様によりもたらされる他の作用効果について本明細書記載から明らかなもの、又は当業者において適宜想到し得るものについては、当然に本発明によりもたらされるものと解される。
1 表示システム
2 ルームミラーユニット
3A,3B サイドミラーユニット
4 CIDユニット
5,5A,5B,5C 撮像装置
14 中央処理部
20,20A,20B,20C,20D 表示装置
71 撮像部
72 第1センサ
73 第1画像処理装置
81 第2画像処理装置
82,82A 第2センサ
83 表示部
91 撮像画像
92 前処理画像
93 後処理画像
100,110 画像処理装置
101 第1画像処理部
102 第2画像処理部

Claims (13)

  1. 移動体に設けられて画像を撮像する撮像部を有する撮像装置と、
    前記移動体において前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置と、
    前記撮像装置側で振動を検知する第1センサと、
    前記表示装置側で振動を検知する第2センサと、
    前記第1センサの検知結果に基づいて前記撮像画像よりも小さい前処理画像を前記撮像画像から切り出す第1画像処理部と、
    前記第2センサの検知結果に基づいて前記前処理画像よりも小さい後処理画像を前記前処理画像から切り出す第2画像処理部と
    を備え、
    前記第1画像処理部は、前記撮像画像内における前記前処理画像の切り出し範囲を前記撮像装置側での振動による前記撮像部のずれ方向の反対に移動させることで前記撮像装置側での振動を打ち消す方向に移動させ、
    前記第2画像処理部は、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動による前記表示部のずれ方向に移動させることで前記表示装置側での振動に追従させる
    表示システム。
  2. 前記第2画像処理部は、前記前処理画像内における所定の第2座標を用いて定められた第2範囲に基づいて、前記第2センサにより検知された振動の方向及び振動量に基づいて補正された前記第2座標に応じて移動した前記第2範囲を前記後処理画像として前記前処理画像から切り出す
    請求項1に記載の表示システム。
  3. 補正前の前記第2座標は、前記移動体が静止している場合の前記前処理画像内で定められた座標である
    請求項2に記載の表示システム。
  4. 前記第1画像処理部は、前記撮像画像内における所定の第1座標を用いて定められた第1範囲に基づいて、前記第1センサにより検知された振動の方向及び振動量に基づいて補正された前記第1座標に応じて移動した前記第1範囲を前記前処理画像として前記撮像画像から切り出す
    請求項1から3のいずれか一項に記載の表示システム。
  5. 補正前の前記第1座標は、前記移動体が静止している場合の前記撮像画像内で定められた座標である
    請求項4に記載の表示システム。
  6. 前記第1画像処理部及び前記第2画像処理部は、前記撮像装置側又は前記表示装置側に設けられる
    請求項1から5のいずれか一項に記載の表示システム。
  7. 前記表示装置は、前記第1画像処理部及び前記第2画像処理部を有する
    請求項6に記載の表示システム。
  8. 前記第1画像処理部は、前記撮像装置側に設けられ、前記第2画像処理部は、前記表示装置側に設けられる
    請求項1から5のいずれか一項に記載の表示システム。
  9. 前記移動体は、自動車である
    請求項1から8のいずれか一項に記載の表示システム。
  10. 画像を撮像する撮像部を有する撮像装置が設けられた移動体において前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置であって、
    前記撮像装置側で振動を検知する第1センサの検知結果に基づいて前記撮像画像よりも小さい前処理画像を前記撮像画像から切り出し、前記表示装置側で振動を検知する第2センサの検知結果に基づいて前記前処理画像よりも小さい前記後処理画像を前記前処理画像から切り出す画像処理部を備え、
    前記画像処理部は、前記撮像画像内における前記前処理画像の切り出し範囲を前記撮像装置側での振動による前記撮像部のずれ方向の反対に移動させることで前記撮像装置側での振動を打ち消す方向に移動させ、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動による前記表示部のずれ方向に移動させることで前記表示装置側での振動に追従させる
    表示装置。
  11. 画像を撮像する撮像部を有する撮像装置及び前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置が設けられた移動体において前記撮像画像に基づいて前記後処理画像を得る画像処理装置であって、
    前記撮像装置側で振動を検知する第1センサの検知結果に基づいて前記撮像画像よりも小さい前処理画像を前記撮像画像から切り出し、前記表示装置側で振動を検知する第2センサの検知結果に基づいて前記前処理画像よりも小さい前記後処理画像を前記前処理画像から切り出す画像処理部を備え、
    前記画像処理部は、前記撮像画像内における前記前処理画像の切り出し範囲を前記撮像装置側での振動による前記撮像部のずれ方向の反対に移動させることで前記撮像装置側での振動を打ち消す方向に移動させ、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動による前記表示部のずれ方向に移動させることで前記表示装置側での振動に追従させる
    画像処理装置。
  12. 画像を撮像する撮像部を有する撮像装置が設けられた移動体において前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置であって、
    前記表示装置側で振動を検知するセンサの検知結果に基づいて、前記撮像画像に基づいて生成された画像であって前記撮像装置側での振動による影響が低減された前処理画像から前記前処理画像よりも小さい後処理画像を切り出す画像処理部を備え、
    前記画像処理部は、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動による前記表示部のずれ方向に移動させることで前記表示装置側での振動に追従させる
    表示装置。
  13. 画像を撮像する撮像部を有する撮像装置及び前記撮像装置と別の位置に設けられて前記撮像装置による撮像画像に基づいた後処理画像を表示する表示部を有する表示装置が設けられた移動体において前記後処理画像を得る画像処理装置であって、
    前記表示装置側で振動を検知するセンサの検知結果に基づいて、前記撮像画像に基づいて生成された画像であって前記撮像装置側での振動による影響が低減された前処理画像から前記前処理画像よりも小さい後処理画像を切り出す画像処理部を備え、
    前記画像処理部は、前記前処理画像内における前記後処理画像の切り出し範囲を前記表示装置側での振動による前記表示部のずれ方向に移動させることで前記表示装置側での振動に追従させる
    画像処理装置。
JP2017520791A 2015-05-28 2016-05-25 表示システム、表示装置及び画像処理装置 Active JP6578000B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015109023 2015-05-28
JP2015109023 2015-05-28
PCT/JP2016/065512 WO2016190372A1 (ja) 2015-05-28 2016-05-25 表示システム、表示装置及び画像処理装置

Publications (2)

Publication Number Publication Date
JPWO2016190372A1 JPWO2016190372A1 (ja) 2018-04-26
JP6578000B2 true JP6578000B2 (ja) 2019-09-18

Family

ID=57393986

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017520791A Active JP6578000B2 (ja) 2015-05-28 2016-05-25 表示システム、表示装置及び画像処理装置

Country Status (3)

Country Link
US (1) US10536641B2 (ja)
JP (1) JP6578000B2 (ja)
WO (1) WO2016190372A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016225849A (ja) 2015-05-29 2016-12-28 株式会社ジャパンディスプレイ 表示システム及び表示方法
US11994909B2 (en) * 2020-12-30 2024-05-28 Panasonic Intellectual Property Management Co., Ltd. Electronic device, electronic system, and sensor setting method for an electronic device
JP7468391B2 (ja) * 2021-02-09 2024-04-16 株式会社Jvcケンウッド 撮像装置および撮像処理方法
CN115103119A (zh) * 2022-06-21 2022-09-23 维沃移动通信有限公司 拍摄方法、装置和电子设备

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004301789A (ja) * 2003-04-01 2004-10-28 Sony Corp カーナビゲーション装置及び車載用機器の画像表示方法
JP2007235532A (ja) * 2006-03-01 2007-09-13 Tokai Rika Co Ltd 車両用監視装置
JP2009093076A (ja) * 2007-10-11 2009-04-30 Mitsubishi Electric Corp 列車内画像表示システム
JP2011257502A (ja) * 2010-06-07 2011-12-22 Sony Corp 画像安定化装置、画像安定化方法、及びプログラム
JP5195841B2 (ja) 2010-08-16 2013-05-15 ソニー株式会社 車載カメラ装置および車両
JP5759907B2 (ja) 2012-01-19 2015-08-05 クラリオン株式会社 車載撮像装置
JP6047975B2 (ja) * 2012-07-25 2016-12-21 市光工業株式会社 車両用画像処理装置

Also Published As

Publication number Publication date
JPWO2016190372A1 (ja) 2018-04-26
US20180097997A1 (en) 2018-04-05
WO2016190372A1 (ja) 2016-12-01
US10536641B2 (en) 2020-01-14

Similar Documents

Publication Publication Date Title
JP6578000B2 (ja) 表示システム、表示装置及び画像処理装置
US20140375816A1 (en) Vehicle Display Device with Movement Compensation
JP5904093B2 (ja) 車載画像生成装置
US9994157B2 (en) Periphery monitoring apparatus and periphery monitoring system
US10051245B2 (en) Display system and display apparatus
JP2009080237A (ja) 2画面表示装置
JP2018052216A5 (ja)
JP2017173415A (ja) 表示装置及び表示装置の制御方法
EP3382604A2 (en) Assistance apparatus
WO2016194854A1 (ja) 表示システム及び表示方法
JP2008209212A (ja) 表示歪み測定装置及び表示歪み補正方法
JP2007290570A (ja) 車両用表示装置
JP6504086B2 (ja) 車両
JP6439233B2 (ja) 車両用画像表示装置及び画像処理方法
JP6284980B2 (ja) 主ミラーおよび広角ミラーの法的に定められた視野を表示するための商用車用の視覚システム
JP2010064646A (ja) 車両周辺監視装置および車両周辺監視方法
JP6421629B2 (ja) 電子ミラーシステム
JP5143596B2 (ja) 車両用画像表示装置
JP2012178639A (ja) 画像処理装置、駐車制御システム、及び、画像処理方法
WO2016104504A1 (ja) 画像処理システム及び画像処理装置
JP2010188926A (ja) 車両後方表示装置および車両後方表示方法
JP2009098231A (ja) 表示装置
JP7005279B2 (ja) 車両周辺視認装置
WO2018100870A1 (ja) 画像表示システム及び画像表示方法
CN108705974B (zh) 车辆用显示控制装置、控制***及控制方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171127

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171127

AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20180206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180306

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190823

R150 Certificate of patent or registration of utility model

Ref document number: 6578000

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250