JP5257695B2 - 監視装置 - Google Patents

監視装置 Download PDF

Info

Publication number
JP5257695B2
JP5257695B2 JP2009122131A JP2009122131A JP5257695B2 JP 5257695 B2 JP5257695 B2 JP 5257695B2 JP 2009122131 A JP2009122131 A JP 2009122131A JP 2009122131 A JP2009122131 A JP 2009122131A JP 5257695 B2 JP5257695 B2 JP 5257695B2
Authority
JP
Japan
Prior art keywords
image
inversion
negative
positive
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009122131A
Other languages
English (en)
Other versions
JP2010273026A5 (ja
JP2010273026A (ja
Inventor
一矢 渡邊
昇 長嶺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2009122131A priority Critical patent/JP5257695B2/ja
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to EP10777602.3A priority patent/EP2434759B1/en
Priority to CN201080021997.9A priority patent/CN102428700B/zh
Priority to US13/265,669 priority patent/US9001209B2/en
Priority to KR1020117026091A priority patent/KR101367637B1/ko
Priority to PCT/JP2010/052526 priority patent/WO2010134366A1/ja
Publication of JP2010273026A publication Critical patent/JP2010273026A/ja
Publication of JP2010273026A5 publication Critical patent/JP2010273026A5/ja
Application granted granted Critical
Publication of JP5257695B2 publication Critical patent/JP5257695B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8053Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for bad weather conditions or night vision

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、監視技術に関し、特に暗部を撮影した画像を表示する監視技術に関する。
従来、暗部を撮影した画像を表示する監視技術のために様々な検討が行われている。例えば、撮像レンズと、近赤外光から可視光までの感度を有する撮像素子と、近赤外領域の波長成分を除去する赤外カットフィルタと、該撮像素子からの映像信号に応じて白黒信号およびカラー信号を生成する映像信号処理手段とを有し、被写体が所定の明るさより暗いときには前記赤外カットフィルタをダミーガラス(素ガラス)に入れ替え、白黒映像信号を出力し、明るいときには前記ダミーガラスを前記赤外カットフィルタに入れ替え、カラー映像信号を出力するフィルタ交換手段を持つテレビジョンカメラにおいて、該フィルタの切り替えの判断をしている間は、切り替え前の静止画像をモニター等に出力するテレビジョンカメラがある(特許文献1参照)。
この特許文献1の技術では、被写体が暗い場合には赤外線カットフィルタを用いずに撮影し、白黒映像を出力する。一方、被写体が明るい場合には赤外線カットフィルタを用いて撮影し、カラー映像を出力する。これにより、被写体が暗い場合でも、可能な限り高い輝度の映像を得ることができる。
また、他の技術として、自車両のハンドルの操舵方向に自車両の前照灯の光の照射方向を追従させることによって、自車両の進行方向に前記前照灯の光が照射される状態を維持する配光可変型前照灯システムを備えた自車両に搭載され、前記自車両の周辺における所定の領域を撮像する車載カメラと、この車載カメラの自動露出に用いる測光領域として、前記車載カメラの撮像画像における使用される範囲の画像が適正露出の下で撮像された画像となるような測光領域を設定する測光領域設定手段と、前記ハンドルの操舵角に関する情報および前記ハンドルの操舵角に対応する前記前照灯の光の照射方向に関する情報の少なくとも一方を取得する操舵角/照射方向情報取得手段と、この操舵角/照射方向情報取得手段の取得情報に基づいて、前記車載カメラの撮像範囲における前記前照灯の光が照射される領域の撮像に用いる範囲である照射領域撮像範囲についての、前記車載カメラの撮像範囲内における占有範囲を、前記車載カメラの撮像範囲内における前記照射領域撮像範囲の存否も含めて推定する照射領域撮像範囲推定手段とを備え、前記測光領域設定手段が、前記ハンドルの操舵角の変化にともなう前記照射領域撮像範囲推定手段の推定結果の変動に応じて、前記測光領域を変更可能に形成されている車載カメラ用自動露出装置がある(特許文献2参照)。
この特許文献2の技術では、露光調整するための測光領域を前照灯の照射領域に応じて変更することにより、適切な露光調整を実現している。
他の技術として、少なくとも車両前部の側方を撮像する撮像手段と、前記車両に取り付けられて、少なくとも前記車両前部の側方を照射可能な灯火と、前記撮像手段の撮像状態に応じて前記灯火の点灯状態を制御する制御手段とを備える車両用側方監視カメラシステムがある(特許文献3参照)。この特許文献3の技術では、灯火により撮像範囲を照射することにより、明るい画像を撮影することができる。
特開2003−324748号公報 特開2008−230464号公報(段落番号0023,0024) 特開2008−201202号公報(段落番号0005,0006)
上述した技術は、暗部を撮影する際の撮影環境を変更することにより、撮影された画像の輝度等を高めることができる。しかしながら、特許文献1および3の技術では、赤外線カットフィルタを移動させるための機構や追加的な灯火が必要であるため、装置が複雑となるとともに、コストの増加につながり、好ましくない。
また、特許文献2の技術では、測光範囲を適切に設定することができるが、撮影された画像全体が暗い場合には、露光調整のみでは十分な効果を得ることができない。
本発明の目的は、このような課題に鑑み、暗部等を撮影した低輝度の画像を見やすく表示する監視技術を提供することである。
前記課題を解決するために、本発明の監視装置は、監視対象を撮影する撮像部と、前記撮像部により撮影された撮影画像の視認性に基づく反転条件の充足を判定する反転条件判定部と、前記反転条件判定部により前記反転条件を充足していると判定された際に、前記撮影画像からネガポジ反転画像を生成する表示画像生成部と、ゲイン値および前記撮像部のイメージセンサの光蓄積時間であるシャッター速度のうちの一方を制御することにより前記撮像部の露光制御を行う露光制御部を備え、前記反転条件判定部は、前記露光制御部により前記ゲイン値が制御される場合には当該ゲイン値が所定の閾値より大きいときに前記反転条件が充足されると判定し、前記露光制御部により前記シャッター速度が制御される場合には当該シャッター速度が所定の閾値より大きいときに前記反転条件が充足されると判定する
この構成では、反転条件判定部により撮影画像の視認性に基づく反転条件が判定され、反転条件を充足している際には表示画像生成部により撮影画像からネガポジ反転画像が生成される。この反転条件は、暗部等を撮影した撮影画像のように撮影画像全体が暗い等の視認性の悪さを判定するためのものである。したがって、全体が低輝度であり視認性が悪い撮影画像であっても、撮影画像からネガポジ反転画像が生成されるため、全体が高輝度な画像が得られる。人間の眼の感度調整は、暗順応よりも明順応の方が急速であり、水晶体のピント調整も指標が明るい方がより良い応答が得られるため、低輝度の画像をネガポジ反転させることは人間工学の観点からも好ましい。また、本発明の監視装置の好適な実施形態の一つでは、前記撮像画像はカラー画像であり、前記ネガポジ反転画像は、前記カラー画像に対してモノクロ変換及びネガポジ反転を施した濃淡画像である。カラー画像をネガポジ反転すると、現実と大きく乖離した色となるため、撮影画像がカラー画像の場合には、違和感を低減させるためにもネガポジ反転画像は濃淡画像とすることが望ましい。
多くのカメラではAGC(Auto Gain Control)機能を備えている。このAGC機能は、撮影対象が暗い場合にゲインを上げることにより、適切な輝度の画像を取得するものである。したがって、AGC機能により算出されるゲイン値は撮影される画像の輝度値を適切に表している。そのため、上述の構成では、ゲイン値を制御することにより前記撮像部の露光制御を行う露光制御部を備え、前記反転条件判定部は、前記ゲイン値に基づき前記反転条件を判定する。この構成では、ゲイン値を撮影画像の視認性の尺度として用いることにより、撮影画像をネガポジ反転するか否かを適切に判定することができる。
また、多くのカメラではシャッター速度を変更することにより露光状態を制御する機能を有している。撮影対象が暗い場合にはシャッター速度を遅くし、光を多く取り込むことにより、撮影画像の輝度を上げることができる。したがって、シャッター速度は撮影された画像の輝度値を表していると言える。そのため、上述の構成では、前記撮像部のシャッター速度を制御することにより前記撮像部の露光制御を行う露光制御部を備え、前記反転条件判定部は、前記シャッター速度に基づき前記反転条件を判定する。この構成では、シャッター速度を撮影画像の視認性の尺度として用いることにより、撮影画像をネガポジ反転するか否かを適切に判定することができる。
暗い撮影対象を撮影する際には、ゲインを上げるに伴い、撮影された画像に対するノイズの影響は大きくなる。そのようなノイズの影響を大きく受けた撮影画像をネガポジ反転すると、ノイズが目立ち、見難くなる。そのため、本発明の監視装置の好適な実施形態の一つでは、前記反転条件判定部は、前記ゲイン値が前記撮像画像のノイズが視認されるゲイン値よりも小さい所定ゲイン値を超えた場合に、前記反転条件を充足すると判定する。この構成では、ネガポジ反転の判定条件となる閾値を最大ゲイン値よりも小さな値に設定している。この閾値は、ノイズの影響があまり大きくならないゲイン値に設定することが望ましい。この場合には、撮影画像はノイズの影響が小さいため、ネガポジ反転した画像も見易いものとなる。
本発明の監視装置は、ディスプレイに表示された表示画像を目視することにより監視を行うものである。表示画像を表示するディスプレイは各々の表示特性を持っている。そのため、ネガポジ反転させた画像を表示した際に、黒つぶれや白とびを生じる場合がある。そのため、本発明の監視装置の好適な実施形態の一つでは、前記表示画像生成部は、ネガポジ反転する際に、画素値をオフセットさせる。この構成では、ネガポジ反転する際に、ディスプレイの表示特性等に応じて画素値をオフセットさせることにより、見易いネガポジ反転画像を生成することができる。
夜間等に撮影した際に撮影範囲に照明等による照射がある場合等には、撮影された画像には輝度値の高い領域と低い領域とが混在している場合がある。反転条件の判定結果に基づいてこのような撮影画像に対して一様にネガポジ反転させると、元々高輝度の領域の輝度値が低くなり、見難い画像となってしまう。そのため、本発明の監視装置の好適な実施形態の一つでは、前記表示画像生成部は、前記撮影画像の一部分をネガポジ反転させる。この構成では、反転条件を充足した際に、撮影画像中からネガポジ反転させるべき領域とネガポジ反転させない領域とを判別し、ネガポジ反転させるべき領域のみをネガポジ反転させる。これにより、適切な輝度値を持つ表示画像を得ることができる。
本発明の監視装置の好適な実施形態の一つでは、車両に搭載される監視装置であって、前記撮像部は、当該車両の側方周辺を撮影するよう配置されている。通常車両には、その側方周辺を照射するライトは備えられていない。そのため、夜間等に車両の側方周辺を撮影した画像の輝度値は低くなっており、上述したネガポジ反転させた画像を表示することは好ましい。
本発明の監視装置が搭載された車両の図である。 本発明の監視装置の実施例1の形態における機能ブロック図である。 本発明の監視装置の実施例1の形態における処理の流れを表すフローチャートである。 本発明の監視装置の実施例1の形態における反転条件判定の処理の流れを表すフローチャートである。 本発明の監視装置の実施形態における反転条件充足時の表示画像生成の処理の流れを表すフローチャートである。 本発明の監視装置の実施形態における撮影画像と表示画像の例である。 本発明の監視装置の実施例2および3の形態における機能ブロック図である。 本発明の監視装置の実施例2の形態における処理の流れを表すフローチャートである。 本発明の監視装置の実施例2の形態におけるゲイン値と反転条件の充足状態との関係を表す図である。 本発明の監視装置の実施例3の形態における処理の流れを表すフローチャートである。
以下、図面を用いて本発明の監視装置の実施形態を説明する。本実施形態では、図1に示すように、監視装置A(車両周辺監視装置)は車両Vに搭載されており、カメラCおよびECU(electronic control unit)により構成されている。図1に示すように、カメラCは車両Vの前方、後方、および左右側方を撮影可能な位置に設置されているが、カメラCの設置位置はこれに限定されるものではなく、他の位置に設置しても構わない。また、カメラCの台数も1台に限定されるものではなく、適宜変更可能である。なお、本実施形態では、カメラCはカラーデジタルビデオカメラとして説明するが、デジタルスチルカメラを用いることも可能である。また、車両Vには、監視装置Aにより生成された表示画像等を表示するためのディスプレイDが備えられている。車両Vにナビゲーションシステムが搭載される場合、ディスプレイDはナビゲーションシステムの表示装置として用いるものを兼用すると好適である。
図2は、本実施形態における監視装置Aの機能ブロック図である。本実施形態における監視装置Aは、車両Vの周辺を撮影し撮影画像を生成する撮像部10、撮像部10により撮影された撮影画像をネガポジ反転させるか否かの条件(以下、「反転条件」と称する)を判定する反転条件判定部11、反転条件判定部11により反転条件を充足していると判定された際に、撮影画像からネガポジ反転画像を生成する表示画像生成部12、表示画像生成部12により生成された表示画像をディスプレイDに表示する表示部13を備えている。
撮像部10は、カメラCのCCD(Charge Coupled Device)センサやCMOS(Complementary Metal Oxide Semiconductor)センサ等のイメージセンサおよびイメージセンサドライバやA/Dコンバータを中核として構成されている。カメラCのレンズから入射した光はイメージセンサにより光電変換された後、A/Dコンバータ等によりA/D変換され撮影画像が生成される。このようにして生成された撮影画像はDSP(Digital Signal Processor)内のRAMに記憶され、撮影画像が生成された旨が反転条件判定部11および表示画像生成部12に送られる。
反転条件判定部11は、カメラCのDSPにより構成されており、所定の反転条件に基づき、撮影画像をネガポジ反転するか否かを判定する。本実施形態では、反転条件判定部11は撮影画像の輝度値に基づいて判定する(詳細は後述する)。
表示画像生成部12は、カメラCのDSPにより構成されており、反転条件判定部11の判定結果に基づき、撮影画像から表示画像を生成する。表示画像生成部12は、反転条件判定部11により反転条件を充足していると判定された際には、撮影画像からネガポジ反転画像を表示画像として生成する。なお、ネガポジ反転画像とは、少なくとも撮影画像に対してネガポジ反転処理を施した画像であるが、本実施形態では、見易さを考慮してモノクロ変換処理をも施している。このモノクロ変換処理は、ネガポジ反転処理の前後いずれでも構わない。一方、反転条件を充足していないと判定された際には、撮影画像を表示画像とする。なお、表示画像生成部12は、解像度変換等の機能を備えることもできる。表示画像生成部12により生成された表示画像は、表示部13に送られる。
表示部13は、車両Vに搭載されたECUおよびソフトウェアにより構成されており、表示画像生成部12により生成された表示画像をディスプレイDに表示する機能を有している。
図3は、監視装置の本実施形態における処理の流れを表すフローチャートである。まず、所定フレームレート(例えば、30fps)で撮像部10が駆動され、撮影画像が生成される(#01)。生成された撮影画像は、カメラCのRAMに記憶され、その旨が反転条件判定部11に通知される。また、撮影画像は表示画像生成部12に送られる。
撮像部10から撮影画像を生成した旨を取得した反転条件判定部11は、所定の反転条件を充足するか否かを判定する(#02)。具体的には、本実施形態では図4のフローチャートに示す処理を行う。
まず、初期化処理として、輝度ヒストグラムHの全要素の0クリア、および、参照アドレスqにRAMにおける撮影画像の先頭アドレスを設定する(#11)。輝度ヒストグラムHは、輝度値の階調数(以下の例では、0〜255とする)と同数の要素を持つ配列として実現されており、以下の説明では輝度値kの頻度をH[k]として表記する。
次に、参照アドレスqが示す撮影画像のi番目の画素piの画素値に基づき画素piの輝度値Iiを算出する(#12)。上述したように、本実施形態では、カメラCとしてカラーデジタルビデオカメラを用いているため、撮影画像はカラー画像である。一般的に、カラー画像の画素は赤(R)要素、緑(G)要素、青(B)要素の3つの値からなる画素値を持っている。したがって、画素piの画素値は{Ri,Gi,Bi}となる。このとき、画素piの輝度値IiはIi=0.299×Ri+0.587×Gi+0.114×Biにより求めることができる。当然ながら、他の算出式を用いて輝度値Iiを算出しても構わない。
次に、上述の処理により求められた輝度値Iiに基づき輝度ヒストグラムHを更新する(#13)。具体的には、H[Ii]=H[Ii]+1の演算を行う。
その後、未処理画素の有無がチェックされる(#14)。具体的には、参照アドレスqがRAMにおける撮影画像の最終アドレスに達したか否かが判定される。未処理画素が存在する場合には(#14のYes分岐)、処理を次の未処理画素に移行させるために、参照アドレスqをインクリメント(#15)した後、#12の処理に移行し、上述の処理を繰り返す。なお、本例では撮影画像の全画素を用いて輝度ヒストグラムHを作成したが、撮影画像の一部の画素のみを用いる構成としても構わない。すなわち、撮影画像の特定範囲の画素を用いる構成である。
一方、未処理画素が存在しない場合には(#14のNo分岐)、上述の処理により生成された輝度ヒストグラムHを用いて、撮影画像の特徴量を算出する(#16)。輝度ヒストグラムHから算出可能な撮影画像の特徴量としては、平均輝度、輝度分散、輝度ヒストグラムの形状(単峰性、双峰性等)等がある。本実施形態では、平均輝度を用いて説明する。したがって、反転条件判定部11は、撮影画像の特徴量として平均輝度E[I]を以下の式(1)により算出する。なお、本実施形態では撮影画像は各色(RGB)8ビットで表現されているものとする。
反転条件判定部11は、このようにして算出された平均輝度E[I]と所定の閾値THとを比較し(#17)、平均輝度E[I]が閾値THよりも小さければ(#17のYes分岐)、反転条件を充足すると判定する(#18)。一方、平均輝度E[I]が閾値TH以上であれば(#17のNo分岐)、反転条件を充足しないと判定する(#19)。この反転条件判定部11の判定結果は、表示画像生成部12に通知される。
反転条件判定部11の判定結果を取得した表示画像生成部12は、判定結果に基づき撮影画像から表示画像を生成する。このとき、撮像部10から取得した撮影画像は、DSP内のRAMに記憶されている。具体的には、反転条件を充足しない旨の判定結果であれば(#03のNo分岐)、撮像部10から取得した撮影画像をそのまま表示画像として表示部13に送る。一方、反転条件を充足する旨の判定結果であれば(#03のYes分岐)、撮像部10から取得した撮影画像に対してネガポジ反転およびモノクロ変換を行う(#04)。なお、カメラCとしてモノクロカメラを用いた場合には、モノクロ変換は不要である。
図5は、撮影画像をネガポジ反転およびモノクロ変換し、表示画像を生成する処理の流れを表すフローチャートである。まず、初期化処理として、参照アドレスqにRAMにおける撮影画像の先頭アドレスを設定する(#21)。上述したように、撮影画像はRGBの3プレーンから構成されるカラー画像であり、画素piの画素値は{Ri,Gi,Bi}である。また、各色は[0,255]の範囲の値を持っている。したがって、この画素piのネガポジ反転後の画素値は{255−Ri,255−Gi,255−Bi}となる(#22)。
次に、表示画像生成部12は、ネガポジ反転した画素値に対してモノクロ変換を行い、輝度値Iiを求める(#23)。具体的には、Ii=0.299×(255−Ri)+0.587×(255−Gi)+0.114×(255−Bi)の計算を行う。
このようにして求められた輝度値Iiを用いて、参照アドレスqが参照する画素piの画素値を更新する(#24)。すなわち、画素piの画素値は{Ii,Ii,Ii}となる。
その後、未処理画素の有無がチェックされる(#25)。具体的には、参照アドレスqがRAMにおける表示画像の最終アドレスに達したか否かが判定される。未処理画素が存在する場合には(#25のYes分岐)、参照アドレスqをインクリメント(#26)した後、#22の処理に移行し、上述の処理を繰り返す。一方、未処理画素が存在しない場合には(#25のNo分岐)、表示画像の生成処理を終了し、生成した表示画像を表示部13に送る。
表示画像生成部12から表示画像を取得した表示部13は、ディスプレイDに表示画像を表示させる(#05)。
図6(a)は、撮像部10により暗部を撮影した際の撮影画像の例である。この撮影画像に対して上述の処理を行うと、反転条件判定部11により反転条件を充足すると判定され、図6(b)の表示画像が生成される。図から明らかなように、図6(a)では不明りょうな暗部が、図6(b)では明瞭となっている。
次に、本発明の監視装置の第2実施形態を説明する。図7は、本実施形態の機能ブロック図である。なお、第1実施形態と同様の機能部に対しては同一の符号を付しており、詳細な説明は省略する。本実施形態は、露光制御部14を備えている点において第1実施形態と異なっている。
露光制御部14は、カメラCのDSPにより構成され、撮像部10により撮影された撮影画像に基づき適切なゲイン値を算出し、算出したゲイン値を撮像部10に設定することにより、撮像部10の露光制御を行う機能を有している。また、算出したゲイン値は反転条件判定部11にも通知される。
以下、図8のフローチャートを用いて本実施形態における処理の流れを説明する。まず、所定のフレームレートで撮像部10が駆動され、撮影画像が生成される(#31)。このとき、撮影画像がRAMに記憶され、その旨が露光制御部14および反転条件判定部11に通知される。
撮影画像が生成された旨の通知を受けた露光制御部14は、公知の方法により適切なゲイン値を算出する(#32)。算出したゲイン値は、反転条件判定部11に通知される。
反転条件判定部11は、取得したゲイン値と所定の閾値THとを比較し(#33)、撮影画像をネガポジ反転するか否かを判定する。一般的に、暗部を撮影する際には、ゲイン値の上昇に伴いノイズが目立つようになる。そのため、この閾値THは、ノイズが目立ち過ぎるゲイン値よりも若干小さい値に設定しておくことが望ましい。そのような閾値THを設定することにより、ノイズが目立つ手前のゲイン値まではゲイン値の調整による撮影画像が生成され、ノイズが目立つゲイン値すなわち閾値TH以上のゲイン値を設定しなければならない状態では、撮影画像をネガポジ反転およびモノクロ変換した表示画像が生成される。
したがって、反転条件判定部11は、ゲイン値が閾値TH以下の場合(#33のNo分岐)には反転条件を充足しないため、露光制御により撮影画像の画質の向上を行うべく、露光制御部14に対して撮像部10にゲイン値をフィードバックするよう指示を出す。これを受けて、露光制御部14は、算出したゲイン値を撮像部10にフィードバックし、以降の撮像部10における撮影時のゲイン値を変更する(#35)。同時に、反転条件判定部11は表示画像生成部12に対して反転条件を充足しない旨を通知する。これを受けて表示画像生成部12は、撮影画像をそのまま表示画像として表示部13に送る。
一方、ゲイン値が閾値THよりも大きい場合(#33のYes分岐)には反転条件を充足するため、その旨を表示画像生成部12に通知する。これを受けて、表示画像生成部12は、撮影画像をネガポジ反転およびモノクロ変換することにより表示画像を生成する(#34)。生成された表示画像は表示部13に送られる。この場合には、露光制御部14から撮像部10に対するゲインコントロールが実行されないため、撮像部10のゲイン値は一定値(露光制御部14により設定された直前のゲイン値またはそれ以下の値)に固定される。
表示画像を取得した表示部13は、表示画像をディスプレイDに表示する(#36)。
図9は、露光制御部14により算出されたゲイン値と反転条件判定部11の判定結果の関係を表す図である。図の横軸は時刻、縦軸は露光制御部14により算出されたゲイン値を表している。また、図中の太線は反転条件の充足状態、すなわちネガポジ反転されるか否かを表している。図から明らかなように、時刻T0においてゲイン値がTHとなっており、この時点で反転条件を充足する。その後、露光制御部14により算出されるゲイン値は時刻T1まで閾値THを超えた状態を維持している。そのため、表示画像は時刻T0からT1までネガポジ反転されることとなる。
図から明らかなように、時刻T2以降では短い間隔でゲイン値が閾値THの上下に変化している。このような場合には、ネガポジ反転された画像とネガポジ反転されない画像とが短い間隔で交互に表示される(以下、交互表示と称する)ため、運転者にとっては非常に見づらい状態となる。この不都合を解消するためには、反転条件判定部11は、交互表示が生じると判断した際に閾値THを変化させることが望ましい。例えば、閾値をTHLに設定すると時刻T2以降のゲイン値はTHLより大きくなり、継続して反転条件を充足する。したがって、時刻T2以降はネガポジ反転された画像が表示され、交互表示は生じない。
また、閾値をTHよりも大きいTHUに設定することもできる。この場合には、時刻T2以降は反転条件を充足せず、ネガポジ反転されない画像の表示が継続する。
次に、本発明の監視装置の第3実施形態を説明する。本実施形態の機能部は第2実施形態と同様であるため、詳細な説明は省略し、異なる点のみを説明する。
本実施形態における露光制御部14は、カメラCのDSPにより構成され、撮像部10により撮影された撮影画像に基づき適切なシャッター速度(イメージセンサの光蓄積時間)を算出し、算出したシャッター速度を撮像部10に設定することにより、撮像部10の露光制御を行う機能を有している。また、算出したシャッター速度は反転条件判定部11にも通知される。
以下、図10のフローチャートを用いて本実施形態における処理の流れを説明する。まず、所定のフレームレートで撮像部10が駆動され、撮影画像が生成される(#41)。このとき、撮影画像がRAMに記憶され、その旨が露光制御部14および反転条件判定部11に通知される。
撮影画像が生成された旨の通知を受けた露光制御部14は、公知の方法により適切なシャッター速度を算出する(#42)。算出したシャッター速度は、反転条件判定部11に通知される。同時に、露光制御部14は撮像部10の露光制御を行うために、撮像部10に対して算出したシャッター速度をフィードバックする(#43)。これを受けて撮像部10は以降のシャッター速度を変更する。
反転条件判定部11は、取得したシャッター速度と所定の閾値THとを比較し(#44)、撮影画像をネガポジ反転するか否かを判定する。反転条件判定部11は、シャッター速度が閾値TH以上の場合(#43のYes分岐)には反転条件を充足するため、その旨を表示画像生成部12に通知する。これを受けて、表示画像生成部12は、撮影画像をネガポジ反転およびモノクロ変換することにより表示画像を生成する(#45)。生成された表示画像は表示部13に送られる。
一方、シャッター速度が閾値THよりも小さい場合(#43のNo分岐)には、その旨が表示画像生成部12に通知される。これを受けて表示画像生成部12は、撮影画像をそのまま表示画像として表示部13に送る。
表示画像を取得した表示部13は、表示画像をディスプレイDに表示する(#46)。
〔別実施形態〕
(1)上述の実施形態では、表示画像を生成する際に、ネガポジ反転後にモノクロ変換を行ったが、モノクロ変換後にネガポジ反転を行っても構わない。
(2)上述の実施形態では、ネガポジ反転する際に画素値の定義域の全域を使用するように反転を行ったが、画素値の定義域の一部を用いるように反転を行っても構わない。すなわち、反転後の画素値にオフセットを持たせても構わない。例えば、定義域が[0,255]の画素値pは、255−p+offsetによりネガポジ反転される。このとき、offsetが正であればネガポジ反転された画素値は高輝度側にシフトするため、低輝度側の輝度値は使用されない。一方、offsetが負であればネガポジ反転された画素値は低輝度側にシフトするため、高輝度側は使用されない。なお、いずれの場合にも定義域を超えた画素値は、最大輝度値または最小輝度値に丸められる。
このoffsetの値は、使用する環境に応じて適宜設定することができる。例えば、撮影画像が非常に暗い場合には、ネガポジ反転すると非常に明るくなる。そのため、白とびを防止するために負のoffsetを設定する。また、ディスプレイDとしてLCD(Liquid Crystal Display)を用いる場合には、LCDの特性により低輝度が十分に表現できない場合がある。その場合には、正のoffsetを設定し、ネガポジ反転された画素値をLCDが表現できる輝度範囲に収めることが望ましい。
また、ディスプレイDのダイナミックレンジ特性に応じて、ネガポジ反転された画素値のダイナミックレンジの圧縮もしくは拡張を行っても構わない。
(3)上述の実施形態では、撮影画像全体をネガポジ反転させたが、撮影画像の一部のみをネガポジ反転されても構わない。例えば、カメラCが車両Vの前方を撮影可能に備えられ、画角が広い場合には、撮影画像は車両VのライトLの照射の影響を受ける部分(以下、高輝度領域と称する)とあまり受けない部分(以下、低輝度領域と称する)が混在することとなる。その場合に、撮影画像全体をネガポジ反転させると、高輝度領域の画素値が低輝度となり、運転者にとって見づらい表示画像となってしまう。このような場合には、高輝度領域の画素はネガポジ反転せず、低輝度領域の画素のみネガポジ反転させる。なお、高輝度領域と低輝度領域の判定は画像処理により行うこともできるが、これらはライトLとカメラCとの位置関係により規定されるものであるため、予め各々の領域を設定しておいても構わない。また、この場合には、撮影画像そのままのカラーの領域とネガポジ反転されたモノクロの領域が混在するため、運転者の見易さのために、これらの境界を明示することが望ましい。
(4)上述の実施形態では、監視装置Aの各機能部をカメラCのDSPおよび車両Vに搭載されているECUにより構成したが、この構成に限定されるものではない。例えば、ECUのみにより構成しても構わないし、別途CPU(Central Processing Unit)を備えてCPUとプログラムにより構成しても構わない。
本発明は、暗部等を撮影した低輝度の画像を表示することにより監視する監視装置に利用することができる。
A:監視装置
V:車両
10:撮像部
11:反転条件判定部
12:表示画像生成部
13:表示部
14:露光制御部

Claims (6)

  1. 監視対象を撮影する撮像部と、
    前記撮像部により撮影された撮影画像の視認性に基づく反転条件が充足されているか否かを判定する反転条件判定部と、
    前記反転条件判定部により前記反転条件が充足されていると判定された際に、前記撮影画像からネガポジ反転画像を生成する表示画像生成部と、
    ゲイン値および前記撮像部のイメージセンサの光蓄積時間であるシャッター速度のうちの一方を制御することにより前記撮像部の露光制御を行う露光制御部を備え、
    前記反転条件判定部は、前記露光制御部により前記ゲイン値が制御される場合には当該ゲイン値が所定の閾値より大きいときに前記反転条件が充足されると判定し、前記露光制御部により前記シャッター速度が制御される場合には当該シャッター速度が所定の閾値より大きいときに前記反転条件が充足されると判定する監視装置。
  2. 前記撮像画像はカラー画像であり、
    前記ネガポジ反転画像は、前記カラー画像に対してモノクロ変換及びネガポジ反転を施した濃淡画像である請求項1に記載の監視装置。
  3. 前記反転条件判定部は、前記ゲイン値が前記撮像画像のノイズが視認されるゲイン値よりも小さい所定ゲイン値を超えた場合に、前記反転条件を充足すると判定する請求項1または2に記載の監視装置。
  4. 前記表示画像生成部は、ネガポジ反転する際に、画素値をオフセットさせる請求項1から3のいずれか一項に記載の監視装置。
  5. 前記表示画像生成部は、前記撮影画像の一部分をネガポジ反転させる請求項1から4のいずれか一項に記載の監視装置。
  6. 車両に搭載される請求項1から5のいずれか一項に記載の監視装置であって、
    前記撮像部は、当該車両の側方周辺を撮影するよう配置されている監視装置。
JP2009122131A 2009-05-20 2009-05-20 監視装置 Expired - Fee Related JP5257695B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2009122131A JP5257695B2 (ja) 2009-05-20 2009-05-20 監視装置
CN201080021997.9A CN102428700B (zh) 2009-05-20 2010-02-19 监视装置
US13/265,669 US9001209B2 (en) 2009-05-20 2010-02-19 Monitoring apparatus
KR1020117026091A KR101367637B1 (ko) 2009-05-20 2010-02-19 감시장치
EP10777602.3A EP2434759B1 (en) 2009-05-20 2010-02-19 Monitoring apparatus
PCT/JP2010/052526 WO2010134366A1 (ja) 2009-05-20 2010-02-19 監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009122131A JP5257695B2 (ja) 2009-05-20 2009-05-20 監視装置

Publications (3)

Publication Number Publication Date
JP2010273026A JP2010273026A (ja) 2010-12-02
JP2010273026A5 JP2010273026A5 (ja) 2011-11-10
JP5257695B2 true JP5257695B2 (ja) 2013-08-07

Family

ID=43126055

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009122131A Expired - Fee Related JP5257695B2 (ja) 2009-05-20 2009-05-20 監視装置

Country Status (6)

Country Link
US (1) US9001209B2 (ja)
EP (1) EP2434759B1 (ja)
JP (1) JP5257695B2 (ja)
KR (1) KR101367637B1 (ja)
CN (1) CN102428700B (ja)
WO (1) WO2010134366A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9229233B2 (en) 2014-02-11 2016-01-05 Osterhout Group, Inc. Micro Doppler presentations in head worn computing
EP2723069B1 (en) * 2011-06-16 2017-10-18 Aisin Seiki Kabushiki Kaisha Vehicle periphery monitoring device
JP6281289B2 (ja) * 2014-01-10 2018-02-21 アイシン精機株式会社 周辺監視装置、及びプログラム
US20150228119A1 (en) 2014-02-11 2015-08-13 Osterhout Group, Inc. Spatial location presentation in head worn computing
US9753288B2 (en) 2014-01-21 2017-09-05 Osterhout Group, Inc. See-through computer display systems
US9766463B2 (en) 2014-01-21 2017-09-19 Osterhout Group, Inc. See-through computer display systems
US9852545B2 (en) 2014-02-11 2017-12-26 Osterhout Group, Inc. Spatial location presentation in head worn computing
US20160187651A1 (en) 2014-03-28 2016-06-30 Osterhout Group, Inc. Safety for a vehicle operator with an hmd
JP6206334B2 (ja) * 2014-06-10 2017-10-04 株式会社デンソー 検出装置
US20160239985A1 (en) 2015-02-17 2016-08-18 Osterhout Group, Inc. See-through computer display systems
US10878775B2 (en) * 2015-02-17 2020-12-29 Mentor Acquisition One, Llc See-through computer display systems
US10591728B2 (en) 2016-03-02 2020-03-17 Mentor Acquisition One, Llc Optical systems for head-worn computers
US10667981B2 (en) 2016-02-29 2020-06-02 Mentor Acquisition One, Llc Reading assistance system for visually impaired
CN110709281B (zh) * 2017-06-09 2023-04-04 株式会社小糸制作所 车辆用灯具及其控制装置、控制方法
JP6855131B2 (ja) * 2017-07-10 2021-04-07 アルパイン株式会社 地図画面表示装置、明るさ調整用パラメータ算出装置および地図画面表示方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3575113B2 (ja) * 1995-06-23 2004-10-13 富士写真フイルム株式会社 フイルム画像処理方法
JPH11146389A (ja) * 1997-11-04 1999-05-28 Nissan Motor Co Ltd 表示装置
JPH11243538A (ja) * 1998-02-25 1999-09-07 Nissan Motor Co Ltd 車両用視認装置
JP2001359108A (ja) * 2000-06-15 2001-12-26 Fuji Photo Film Co Ltd 携帯型撮像装置およびその動作制御方法
US6795521B2 (en) * 2001-08-17 2004-09-21 Deus Technologies Llc Computer-aided diagnosis system for thoracic computer tomography images
JP3682482B2 (ja) * 2002-04-24 2005-08-10 コニカミノルタフォトイメージング株式会社 撮像装置
JP2003324748A (ja) 2002-05-08 2003-11-14 Hitachi Kokusai Electric Inc テレビジョンカメラ
US6853806B2 (en) 2002-09-13 2005-02-08 Olympus Optical Co., Ltd. Camera with an exposure control function
CN1263280C (zh) * 2002-11-05 2006-07-05 奥林巴斯株式会社 照相机
JP2005145217A (ja) * 2003-11-14 2005-06-09 Auto Network Gijutsu Kenkyusho:Kk 車載表示装置及び車両周辺監視装置
JP2005303442A (ja) * 2004-04-07 2005-10-27 Honda Motor Co Ltd 車両用視覚支援装置
JP2006074710A (ja) * 2004-08-04 2006-03-16 Konica Minolta Photo Imaging Inc デジタルカメラ及びカメラシステム
US8023710B2 (en) * 2007-02-12 2011-09-20 The United States Of America As Represented By The Secretary Of The Department Of Health And Human Services Virtual colonoscopy via wavelets
JP2008201202A (ja) 2007-02-19 2008-09-04 Hitachi Ltd 車両用側方監視カメラシステム
JP2008230464A (ja) 2007-03-22 2008-10-02 Alpine Electronics Inc 車載カメラ用自動露出装置

Also Published As

Publication number Publication date
EP2434759B1 (en) 2016-05-11
CN102428700B (zh) 2014-12-17
KR20120008519A (ko) 2012-01-30
US9001209B2 (en) 2015-04-07
US20120033080A1 (en) 2012-02-09
CN102428700A (zh) 2012-04-25
KR101367637B1 (ko) 2014-02-27
WO2010134366A1 (ja) 2010-11-25
JP2010273026A (ja) 2010-12-02
EP2434759A4 (en) 2012-09-05
EP2434759A1 (en) 2012-03-28

Similar Documents

Publication Publication Date Title
JP5257695B2 (ja) 監視装置
EP2833618B1 (en) Method for activating and deactivating an image correction function, camera system and motor vehicle
US7817190B2 (en) Method and apparatus for processing an image exposed to backlight
JP5071198B2 (ja) 信号機認識装置,信号機認識方法および信号機認識プログラム
JP2009177472A (ja) 画像処理方法、画像処理装置及び撮像装置
JP4798945B2 (ja) 撮像装置
JP2013223152A (ja) 撮像装置
EP1557790A2 (en) Noise reduction in low-illuminance image
EP3930307B1 (en) A method for enhancing the performance of a video camera
EP1530367A1 (en) Image pickup system
JP2008230464A (ja) 車載カメラ用自動露出装置
US20170364765A1 (en) Image processing apparatus, image processing system, vehicle, imaging apparatus and image processing method
JP2012010282A (ja) 撮像装置、露光制御方法及び露光制御プログラム
JP2012095223A (ja) 撮像装置、撮像方法及びプログラム
JP2020091453A (ja) 制御装置、撮像装置及びその制御方法
JP5585808B2 (ja) 監視装置
KR101091913B1 (ko) 촬영장치의 역광보정방법
JP5520863B2 (ja) 画像信号処理装置
JP6712886B2 (ja) 撮像装置、撮像方法、および車両
JP2007013687A (ja) 液晶シャッタによるアイリス調整機能付き撮像装置
JP2020053960A (ja) 撮像装置、該撮像装置の制御方法、及びプログラム
JP2002268116A (ja) 自動露出制御装置およびそのプログラムを組み込んだ外部記憶媒体
WO2023026617A1 (ja) 撮像装置および映像表示システム
WO2022059139A1 (ja) 画像表示装置および画像表示方法
JP4677924B2 (ja) 撮影システム、動画像処理方法および動画像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110921

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130410

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160502

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5257695

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees