JP6364797B2 - 画像解析装置、および画像解析方法 - Google Patents

画像解析装置、および画像解析方法 Download PDF

Info

Publication number
JP6364797B2
JP6364797B2 JP2014021572A JP2014021572A JP6364797B2 JP 6364797 B2 JP6364797 B2 JP 6364797B2 JP 2014021572 A JP2014021572 A JP 2014021572A JP 2014021572 A JP2014021572 A JP 2014021572A JP 6364797 B2 JP6364797 B2 JP 6364797B2
Authority
JP
Japan
Prior art keywords
image
vehicle
amount
vehicle camera
front camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014021572A
Other languages
English (en)
Other versions
JP2015149614A (ja
JP2015149614A5 (ja
Inventor
宗作 重村
宗作 重村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2014021572A priority Critical patent/JP6364797B2/ja
Priority to PCT/JP2015/000182 priority patent/WO2015118806A1/ja
Priority to US15/116,362 priority patent/US10220782B2/en
Publication of JP2015149614A publication Critical patent/JP2015149614A/ja
Publication of JP2015149614A5 publication Critical patent/JP2015149614A5/ja
Application granted granted Critical
Publication of JP6364797B2 publication Critical patent/JP6364797B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/402Image calibration

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Transportation (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本発明は、車両に取り付けられた車載カメラの取り付け位置または角度が異常であることを検出する技術に関する。
近年の車両の中には、車載カメラを用いて車両の周辺を監視できるようにしたものが存在する。例えば、車両の前方に搭載した車載カメラを用いて車両の前方の画像を撮影し、撮影した画像を解析することによって車線位置を検出したり、障害物や歩行者などを検出したりする技術が知られている。また、車両の後方に車載カメラを搭載しておき、車両の後進中には車両後方の画像をモニター画面に表示することで、運転者の運転操作を補助する技術が広く普及している。更には、車両の前後左右に車載カメラを搭載しておき、それらの車載カメラで撮影した画像を合成することで、あたかも車両の周囲を上空から見たような画像を表示する技術も提案されている(特許文献1)。
これら何れの技術においても、車載カメラは予め設定された監視領域の画像を撮影することが前提となっており、従って、車載カメラは適切な位置に適切な角度で取り付けられている必要がある。例えば、車両の前方あるいは後方を監視するものであれば、車載カメラは車両の進行方向に対して、左右および上下の何れの方向にも所定の角度で取り付けられている必要がある。また、車両の前後左右に搭載した車載カメラの画像を用いて車両の全周の画像を表示する場合には、前後左右に搭載されたそれぞれの車載カメラが、それぞれに設定された角度で取り付けられている必要がある。
特開2012−175314号公報
しかし、車載カメラの取り付け位置または角度(以下、単に「取り付け位置」)は、車両の走行中の振動により、あるいは停車中または走行中に何らかの外力を受けるなどの要因で、知らない間に変わってしまうことがあるという問題があった。
この発明は、従来の技術が有する上述した課題に鑑みてなされたものであり、車両に取り付けられた車載カメラの取り付け位置が異常であることを検出する技術の提供を目的とする。
上述した課題を解決するために、本発明の画像解析装置は、車両を基準として所定方向に設定された所定の監視領域の画像を撮影する車載カメラに適用されて、該車載カメラの画像を解析する装置であり、車載カメラが監視領域を撮影した場合に得られる監視領域画像の特徴量を記憶している。そして、車載カメラによる画像を取得して、該画像の特徴量を抽出し、該特徴量と監視領域画像の特徴量とを比較することによって、車載カメラの取り付け位置の異常の有無を判断し、判断結果を出力する。
この時、車両の走行中の監視領域画像において輝度値の変化量が所定量以上の領域と所定量未満の領域との割合を、監視領域画像の特徴量として記憶しておく。そして、車両の走行中に車載カメラで複数の画像を撮影して、それらの画像間で輝度値の変化量が所定量以上の領域と所定量未満の領域との割合を特徴量として抽出し、抽出した特徴量と、記憶しておいた特徴量を比較することによって、車載カメラの取り付け位置の異常の有無を判断する。
あるいは、ワイパーが動作していることを検出して、ワイパーが動作している場合は、車載カメラの取り付け位置の異常の有無を判断しないこととする。
若しくは、前照灯が点灯していることを検出して、前照灯が点灯している場合は、車載カメラの取り付け位置の異常の有無を判断しないこととする。
車載カメラが監視領域を撮影できるように正常に取り付けられていれば、所定の特徴量を有する画像が撮影されることが推定される。本発明は、このような車載カメラが正常に取り付けられている場合の特徴量を予め記憶しておき、この特徴量と、車載カメラによって実際に撮影された画像の特徴量とを比較することによって、車載カメラの取り付け位置の異常の有無を判断する。従って、車載カメラの取り付け位置の異常の有無を、人の目視に頼らずとも高い精度で判断することができる。
画像解析装置10の構成を示す説明図である。 制御装置12によって実行される画像解析処理を示すフローチャートである。 制御装置12によって実行される前方カメラ用処理を示すフローチャートである。 前方カメラ画像を例示する説明図である。 前方カメラ画像の輝度値の変化を概念的に示す説明図である。 前方カメラ11aの取り付け位置が正常である場合の前方カメラ画像と、異常である場合の前方カメラ画像とを例示する説明図である。 異常警告画像を例示する説明図である。 変形例1における処理を説明するための説明図である。 変形例2における閾値割合αおよび閾値回数βを示す説明図である。 変形例3における画像解析装置10の構成を示す説明図である。 変形例4における前方カメラ用処理を示すフローチャートである。
以下では、上述した本願発明の内容を明確にするために画像解析装置の実施例について説明する。
A.装置構成 :
図1には、車両1に設けられた画像解析装置10の構成が示されている。本実施例の画像解析装置10は、車両1の前後左右に取り付けられた車載カメラ11a〜11d(前方カメラ11a、後方カメラ11b,左方カメラ11c,右方カメラ11d)によって撮影された画像を解析することで、各車載カメラ11a〜11dの取り付け位置の異常の有無を判断し、その結果を出力する装置である。詳しい説明は省略するが、各車載カメラ11a〜11dは車両の周辺を監視するためのカメラであり、画像解析装置10とは別のシステムが各車載カメラ11a〜11dに撮影された画像に基づいて、車線の位置や、障害物、歩行者などを検出する。従って、各車載カメラ11a〜11dは、その画像を利用するシステムに応じた車両周辺の領域(本明細書では「監視領域」という)を撮影できるように、車両1の予め定められた位置に予め定められた角度で取り付けられている(撮影方向を調節されている)。
画像解析装置10は、車載カメラ11a〜11dに撮影された画像を解析する処理を実行する制御装置12、その解析結果を出力する表示部13を備えている。これらのうち、制御装置12は、CPUやメモリ、各種コントローラー等が搭載された基板を有しており、運転席前方のインストルメントパネルの奥側に設置されている。また、表示部13としては、表示画面を運転席側に向けてインストルメントパネルに設置された液晶表示器や、フロントガラス(ウインドシールド)に表示内容を投影するヘッドアップディスプレイ等が設置されている。
制御装置12内部をそれぞれの機能を有する機能ブロックに分類すると、制御装置12は、車載カメラ11a〜11dに撮影された画像の特徴量(実際に撮影された画像の特徴量であることから、以下では「実際特徴量」という)を抽出する特徴量抽出部14、車載カメラ11a〜11dが「監視領域」を撮影した場合に得られる画像の特徴量、すなわち、車載カメラ11a〜11dの取り付け位置が正常である場合に得られる画像の特徴量(理想である画像の特徴量であることから、以下では「理想特徴量」という)を予め記憶しておく特徴量記憶部15、「実際特徴量」と「理想特徴量」とを比較することによって、車載カメラ11a〜11dの取り付け位置の異常の有無を判断する異常判断部16、車両1に設けられた車速センサーに基づいて車両1が走行中であるか否かを判断する走行判断部17を備えている。
尚、特徴量抽出部14が本発明における「抽出手段」に対応し、特徴量記憶部15が本発明における「記憶手段」に対応し、異常判断部16および表示部13が本発明における「出力手段」に対応し、走行判断部17が本発明における「走行判断手段」に対応している。また、特徴量抽出部14が抽出する「実際特徴量」が本発明における「車載カメラによる画像の特徴量」に対応し、特徴量記憶部15が記憶する「理想特徴量」が本発明における「監視領域画像の特徴量」に対応している。
以下では、上述したような画像解析装置10において行われる「画像解析処理」について説明する。画像解析処理では、車載カメラ11a〜11dによって撮影された画像を解析することで、各車載カメラ11a〜11dの取り付け位置の異常の有無を判断し、その結果を表示部13に出力する処理が行われる。
B.画像解析処理 :
図2には、本実施例の画像解析装置10において行われる画像解析処理のフローチャートが示されている。尚、この画像解析処理は、実際には、制御装置12内部のCPUがROMに記憶されたプログラムを実行することによって行われるが、以下では、制御装置12または上述した機能ブロック14〜17を実行主体として説明する。また、画像解析処理は、車両1のエンジン始動時や所定時間毎(例えば10秒毎に)行われる。
図2に示すように、制御装置12は画像解析処理として、前方カメラ11aによって撮影された画像(前方カメラ画像)を解析する前方カメラ用処理(S100)、後方カメラ11bによって撮影された画像(後方カメラ画像)を解析する後方カメラ用処理(S102)、左方カメラ11cによって撮影された画像(左方カメラ画像)を解析する左方カメラ用処理(S104)、右方カメラ11dによって撮影された画像(右方カメラ画像)を解析する右方カメラ用処理(S106)をそれぞれ実行する。これらのS100〜S106の処理は、解析する画像を何れの車載カメラの画像とするかが異なるだけであるので、以下では、S100の前方カメラ用処理を例にとって説明する。
図3には、前方カメラ用処理のフローチャートが示されている。本実施例の前方カメラ用処理では、以下に説明するS200〜S218の処理を実行することによって、数秒前(本実施例では3秒前)から現在に至るまでの「監視期間」に撮影された前方カメラ画像に基づいて、前方カメラ11aの取り付け位置の異常の有無を判断する。
前方カメラ用処理を開始すると、制御装置12の走行判断部17は、車両1が走行中であるか否かを判断する(S200)。この判断処理は、車速センサーに基づいて検出される車両1の車速が0km/hであるか否かを判断することによって行われる。この結果、車両1が走行中でない場合は(S200:no)、そのまま図3に示す前方カメラ用処理を終了して(すなわち、前方カメラ11aによって撮影された画像は解析せずに)、図2に示す画像解析処理に復帰する。
これに対して、車両1が走行中であると判断された場合は(S200:yes)、制御装置12は、前方カメラ11aに向けて撮影指示信号を送信することによって前方カメラ11aに画像を撮影させると共に、該画像(前方カメラ画像)を取得する(S202)。そして、制御装置12の特徴量抽出部14は、取得した前方カメラ画像から各画素の輝度値を算出する(S204)。
図4には、前方カメラ11aによって撮影された画像(前方カメラ画像)の一例が示されている。図4に示すように、本実施例の前方カメラ11aは、車両1のバンパーの一部が前方カメラ画像の下部の領域に写り、その他の領域には車両1の前方の状況(道路状況など)が写るように(車両1の前方の所定領域が監視領域となるように)、取り付けられている。尚、図4に例示する前方カメラ画像では、歪曲収差によってバンパーは歪んだ状態となっている。
S204の処理では、このような前方カメラ画像の各画素の輝度値を算出する。そして、輝度値を算出したら、この輝度値と前回撮影した前方カメラ画像の輝度値とをそれぞれの画素毎に比較する。ここで、本実施例の画像解析装置10では、図3に示す前方カメラ用処理の実行中(監視期間中)は、上述したS200〜S204の処理を繰り返し実行している。従って、S206の処理では、それぞれの画素について、前回撮影した前方カメラ画像(前回のフレーム)の輝度値を読み出して、今回撮影した前方カメラ画像(今回のフレーム)の輝度値と比較する。もちろん、前方カメラ用処理を開始してから最初に前方カメラ画像を取得した場合は、前回撮影した前方カメラ画像は取得されていないので、S206の処理を省略する。
このように「前回撮影した前方カメラ画像」と「今回撮影した前方カメラ画像」の輝度値をそれぞれの画素毎に比較することで(S208)、「前回撮影した前方カメラ画像」からの輝度値の変化量が閾値変化量th(例えば±5%)以下である画素を抽出する。そして、この抽出した画素の割合、すなわち、前方カメラ画像全体の画素数に対する「輝度値の変化量が閾値変化量th以下である画素数」の割合(無変化画素割合R)を算出する(S208)。つまり、S208の処理を実行することで、図5に示すように、「今回撮影した前方カメラ画像」の領域のうち「前回撮影した前方カメラ画像」から変化しなかった領域(あるいは変化量が少なかった領域、本明細書では便宜上、変化しなかった領域と表現する)の割合を算出することができる。
こうして「今回撮影した前方カメラ画像」の変化しなかった領域の割合(無変化画素割合R)を算出したら(S208)、制御装置12の異常判断部16は、この無変化画素割合Rが閾値割合α(例えば30%)以上であるか否かを判断する(S210)。換言すると、S210の処理では、「今回撮影した前方カメラ画像」の輝度値の変化量(以下「前方カメラ画像の輝度値の変化量」という)が所定量(第1所定量)より小さいか否かが判断される。
S210の判断処理の結果、「今回撮影した前方カメラ画像」の変化しなかった領域の割合が閾値割合α以上であると判断された場合、すなわち、前方カメラ画像の輝度値の変化量が第1所定量より小さいと判断された場合は(S210:yes)、小変化回数カウンタの値に「1」を加算する(S212)。ここで、小変化回数カウンタとは、監視期間において前方カメラ画像の輝度値の変化量が第1所定量より小さいと判断された回数(監視期間における輝度値の変化量が小さいフレーム数)を計数するためのカウンタである。従って、S212の処理では、前方カメラの輝度値の変化量が第1所定量より小さいと判断されたことを受けて、この回数を加算すべく、小変化回数カウンタの値に「1」を加算する。尚、前方カメラの輝度値の変化量が第1所定量より小さいと判断されなかった場合は(S210:no)、S212の処理は省略する。
続いて、監視期間が終了したか否かを判断する(S214)。ここで、図3に示す前方カメラ用処理は、前述したように、監視期間に撮影された前方カメラ画像に基づいて、前方カメラ11aの取り付け位置の異常の有無を判断する処理であるので、監視期間が終了するまでは(S214:no)、上述したS200〜S212の処理を繰り返す。すなわち、監視期間が終了するまでは、前方カメラ画像を繰り返し撮影し(前方カメラ画像を複数回撮影し)、前方カメラ画像を撮影するたびに、該前方カメラ画像の輝度値の変化量が第1所定量より小さいか否かを判断し、該前方カメラ画像の輝度値の変化量が第1所定量より小さいと判断された回数(監視期間における輝度値の変化量が小さいフレーム数)を計数する。
そして、上述したS200〜S212の処理を繰り返しているうちに監視期間が終了したら(S214:yes)、制御装置12の異常判断部16は、小変化回数カウンタの値、すなわち、監視期間において前方カメラ画像の輝度値の変化量が第1所定量より小さいと判断された回数(監視期間における輝度値の変化量が小さいフレーム数)が閾値回数β(例えば25回)以上であったか否かを判断する(S216)。つまり、S216の判断処理では、「監視期間に亘っての前方カメラ画像の輝度値の変化量」が所定量(第2所定量)より小さかったか否かが判断される。そして、「監視期間に亘っての前方カメラ画像の輝度値の変化量」が第2所定量より小さかった場合は(S216:yes)、前方カメラ11aの取り付け位置(取り付け態様、取り付け角度)が異常であると判断する。このように判断するのは、次のような理由による。
図6には、前方カメラ11aの取り付け位置が正常である場合(監視領域を撮影した場合)の前方カメラ画像と、前方カメラ11aの取り付け位置が異常である場合(監視領域とズレた領域を撮影した場合)の前方カメラ画像が例示されている。前方カメラ11aが異常な取り付け位置となるのは、例えば、走行時の振動などが原因となって、前方カメラ11aが下向きに傾いた場合であると推定される。このような場合は、図6に示すように、前方カメラ11aが正常な取り付け位置にある場合と比較して、前方カメラ画像におけるバンパーが写る領域が増加すると共に車両1の前方の状況(道路状況など)が写る領域が減少する。当然ながら走行中であれば、前方カメラ画像において、車両1の前方の状況が写る領域は輝度値が変化するものの、バンパーの写る領域は車両1の周辺状況に変化があったとしてもバンパーが写ったままの状態であるので、輝度値がほとんど変化することはない。従って、前方カメラ11aの取り付け位置が異常な取り付け位置となることによってバンパーの写る領域(輝度値が大きく変化することのない領域)が増加すると、前方カメラ画像全体の輝度値の変化量が小さくなってしまう。
そこで、図3のS216の判断処理では、走行中であるにも拘わらず、「監視期間に亘っての前方カメラ画像の輝度値の変化量」が第2所定量より小さいと判断された場合は(S216:yes)、前方カメラ11aの取り付け位置が異常であると判断して(前方カメラ画像においてバンパーの写る領域が大きいと判断して)、その旨を警告する画像(異常警告画像)を表示部13に表示する(S218)。図7には、表示部13に表示される異常警告画像が例示されている。異常警告画像としては、各車載カメラ11a〜11dの位置が示された自車両画像と、取り付け位置が異常である車載カメラを報知する異常カメラ報知画像とが表示される。
これに対して、S216の判断処理で、「監視期間に亘っての前方カメラ画像の輝度値の変化量」が第2所定量以上であると判断された場合は(S216:no)、前方カメラ11aの取り付け位置は正常であると判断されるので、S218の処理は省略する。
尚、「今回撮影した前方カメラ画像の輝度値の変化量(無変化画素割合R)」、および、「監視期間に亘っての前方カメラ画像の輝度値の変化量(監視期間において前方カメラ画像の輝度値の変化量が第1所定量より小さいと判断された回数)」が、前方カメラ画像から特徴量抽出部14が抽出する「実際特徴量(車載カメラに撮影された複数の画像間の輝度値の変化量)」であり、第1所定量および第2所定量(閾値割合αおよび閾値回数β)が、特徴量記憶部15に予め記憶されている「理想特徴量(監視領域画像の輝度値の変化量)」である。尚、この「理想特徴量(監視領域画像の輝度値の変化量)」は、工場出荷時や、車両販売店でのカメラ位置調整の際に記憶される。
こうして、S200〜S218の処理を実行したら、図3に示す前方カメラ用処理を終了して、図2に示す画像解析装置に復帰する。そして、後方カメラ11b、左方カメラ11c、右方カメラ11dについても、S200〜S218と同様の処理を実行する(S102〜S106)。尚、当然ながら、上述の処理(監視期間に撮影された各カメラ画像に基づいて、各車載カメラ11a〜11dの取り付け位置の異常の有無を判断する処理)は、図2に示す画像解析処理が起動されるたびに実行される。
以上のように、前方カメラ11aが、監視領域を撮影できるように正常に取り付けられていれば、所定の理想特徴量を有する前方カメラ画像が撮影されることが推定される。つまり、本実施例の画像解析装置10であれば、監視期間において「今回撮影した前方カメラ画像」の変化しなかった領域の割合が閾値割合α以上と判断された回数(今回撮影した前方カメラ画像の輝度値の変化量が第1所定量より小さいと判断された回数)が閾値回数βより小さいこと、換言すると、「監視期間に亘っての前方カメラ画像の輝度値の変化量」が第2所定量以上であることが推定される。この点、本実施例の画像解析装置10では、これらのような前方カメラ11aが正常に取り付けられている場合の理想特徴量(閾値割合α、閾値回数β、第1所定量、第2所定量)を予め記憶しておき、監視期間において「今回撮影した前方カメラ画像」の輝度値が変化しなかった領域の割合が閾値割合α以上と判断された回数(今回撮影した前方カメラ画像の輝度値の変化量が第1所定量より小さいと判断された回数)が閾値回数β以上であれば、換言すると、「監視期間に亘っての前方カメラ画像の輝度値の変化量」が第2所定量より小さければ、前方カメラ11aの取り付け位置が異常であると判断する。従って、前方カメラ11aの取り付け位置の異常の有無を、人の目視に頼らずとも高い精度で判断することができる。尚、後方カメラ11b、左方カメラ11c、右方カメラ11dについても同様に上述の効果を奏することができる。
また、走行中であれば、車両1の周辺状況も変化し易い。従って、前方カメラ画像は、前方カメラ11aの取り付け位置が正常である場合と異常である場合とで、前方カメラ画像の輝度値の変化量の差が大きくなり易い。この点、本実施例の画像解析装置10では、前方カメラ11aの取り付け位置が正常である場合と異常である場合とで輝度値の変化量の差が大きくなり易い前方カメラ画像(走行中の前方カメラ画像)を利用して前方カメラ11aの取り付け位置の異常の有無を判断するので、前方カメラ11aの取り付け位置の異常の有無を更に高い精度で判断することができる。
尚、上述した実施例では、監視期間において「今回撮影した前方カメラ画像」の輝度値が変化しなかった領域の割合が閾値割合α以上と判断された回数が閾値回数β以上であれば、前方カメラ11aの取り付け位置が異常であると判断した。これに対して、S210の処理で、「今回撮影した前方カメラ画像」の輝度値が変化しなかった領域の割合(車載カメラによって撮影された複数の画像間において輝度値の変化量が所定量以上の領域と所定量未満の領域との割合)が閾値割合α(監視領域画像において輝度値の変化量が所定量以上の領域と所定量未満の領域との割合)以上と判断されたら、この判断回数を計数することなく、即座に前方カメラ11aの取り付け位置が異常であると判断してもよい。このような構成とした場合も、上述したような効果を得ることができる。
C.変形例 :
次に、本実施例の画像解析装置10の変形例について説明する。
C−1.変形例1 :
上述した実施例では、前方カメラ画像全体の領域の画素について輝度値を算出し(図3のS204)、それぞれの画素について「今回撮影した前方カメラ画像」と「前回撮影した前方カメラ画像」とを比較した(S206)。これに対して、変形例1では、前方カメラ画像のうち、前方カメラ11aの取り付け位置が正常である場合に輝度値が変化し易い領域(特定領域)の画素について、輝度値を算出し、「今回撮影した前方カメラ画像」と「前回撮影した前方カメラ画像」とを比較する。換言すると、前方カメラ11aの取り付け位置が正常であっても変化し難い領域については、輝度値を算出する処理や、「今回撮影した前方カメラ画像」と「前回撮影した前方カメラ画像」とを比較する処理を行わない。
図8(a)には、前方カメラ11aの取り付け位置が正常である場合(監視領域を撮影した場合)の前方カメラ画像において、車両1の前方の状況が写る領域が斜線ハッチングで示されている。この領域は当然ながら、車両1の前方の状況に対応して輝度値が変化し易い領域である。これに対して、斜線ハッチングが施されていない領域は、車両1の周辺状況が変化してもバンパーが写ったままの状態であるので、輝度値が変化し難い領域である。変形例1では、このように斜線ハッチングの施された輝度値の変化し易い領域について、輝度値を算出し、「今回撮影した前方カメラ画像」と「前回撮影した前方カメラ画像」とを比較する。
このような処理を行う場合は、前方カメラの取り付け位置が異常となると(下向きになると)、図8(b)に示すように、斜線ハッチングを施された領域(「今回撮影した前方カメラ画像」と「前回撮影した前方カメラ画像」とを比較する領域)に、バンパーが写り込むこととなる。そして、斜線ハッチングを施された領域のうちバンパーが写り込んだ領域の輝度値はほとんど変化しなくなるので、斜線ハッチングを施された領域の輝度値の変化量が小さくなることとなる。このように斜線ハッチングを施された領域の輝度値の変化量が小さくなった場合に、前方カメラ11aの取り付け位置が異常であると判断する。
以上のように、変形例1では、前方カメラ画像全体のうち輝度値の変化し易い領域の画素について、輝度値を算出し、「今回撮影した前方カメラ画像」と「前回撮影した前方カメラ画像」とを比較するので、画像解析装置10の処理負担を軽減することができる。また、前方カメラ画像全体のうち輝度値の変化し易い領域を、前方カメラ11aの取り付け位置が異常であるか否かの判断対象とするので、ノイズ(取り付け位置が正常か否かに拘わらず変化量の変わらない領域についての判断)を排除することができ、前方カメラ11aの取り付け位置の異常の有無を更に高い精度で判断することができる。
C−2.変形例2 :
上述した実施例では、前方カメラ11aが正常に取り付けられている場合の理想特徴量(閾値割合α、閾値回数β、第1所定量、第2所定量)は車両1の速度に拘わらず一定のものとして実際特徴量(今回撮影した前方カメラ画像の輝度値の変化量、監視期間に亘っての前方カメラ画像の輝度値の変化量)と比較した。これに対して、変形例2では、車両1の速度に応じて理想特徴量を決定し、この理想特徴量と実際特徴量とを比較してもよい。
すなわち、前方カメラ11aの取り付け位置が同じであっても、車両1の速度が大きくなるほど車両1の周辺状況は大きく変化するので、前方カメラ画像のうち車両1の前方の状況が写る領域の輝度値も車両1の速度が大きくなるほど変化量が大きくなることが推定される。従って、理想特徴量(閾値割合α、閾値回数β、第1所定量、第2所定量)を車両1の速度に拘わらず一定とすると、車両1の速度が大きくなるほど実際特徴量が理想特徴量に合致し易くなり、前方カメラ11aの取り付け位置が正常と判断される可能性が高くなってしまう。
そこで、変形例2では、前方カメラ11aが正常に取り付けられていれば、車両1の速度が大きくなるほど前方カメラ画像の輝度値の変化量は大きくなることを考慮して、前方カメラ11が異常であると判断する際の閾値(理想特徴量、すなわち、閾値割合α、閾値回数β、第1所定量、第2所定量)を車両1の速度が大きくなるほど厳格に設定する(閾値割合α、閾値回数βであれば小さく設定し、第1所定量、第2所定量であれば大きく設定する)。
例えば、図9(a)に示すように、閾値割合αの値は車両1の速度が大きくなるほど小さく設定する。また、図9(b)に示すように、閾値回数βの値は監視期間における車両1の平均速度が大きくなるほど小さく設定する。
こうすると、車両1の速度による影響を抑制しつつ前方カメラ11aの取り付け位置の異常の有無を判断することができるので、更に高い精度で前方カメラ11aの取り付け位置の異常の有無を判断することができる。
C−3.変形例3 :
第3変形例では、雨天時や、霧発生時、トンネル走行時には上述した画像解析処理を実行しない。すなわち、雨天時は、前方カメラ11aの取り付け位置が正常であっても、カメラ画像に水滴等が付着して前方カメラ画像の輝度値の変化量が小さくなり、前方カメラ11aの取り付け位置が異常であると判断される虞がある。同様に、霧発生時は車両1の前方が霧で覆われることによって前方カメラ画像の輝度値の変化量が小さくなり、前方カメラ11aの取り付け位置が異常であると判断される虞がある。加えて、トンネル走行時にはトンネル内が暗いために前方カメラ画像の輝度値の変化量が小さくなり、前方カメラ11aの取り付け位置が異常であると判断される虞がある。
そこで、変形例3では、図10に太枠で示すように、制御装置12内にワイパーが動作していることを検出するワイパー動作検出部21と、前照灯が点灯していることを検出する前照灯点灯検出部22を設ける。そして、図2を用いて前述した画像解析処理を行う前に、ワイパー動作検出部21が、ワイパーが動作しているか否かを検出する。つまり、雨天時であれば通常はワイパーが動作しているので、ワイパーが動作しているか否かを検出することによって雨天時であるか否かを判断する。また、前照灯点灯検出部22が、前照灯が点灯しているか否かを検出する。つまり、霧発生時やトンネル走行時であれば通常は前照灯が点灯しているので、前照灯が点灯しているか否かを検出することによって霧発生時またはトンネル走行時であるか否かを検出する。その結果、ワイパーが動作しておらず前照灯も点灯していなければ、すなわち、雨天時や、霧発生時、トンネル走行時でなければ、図2を用いて前述した画像解析処理を実行する。
この結果、変形例3では、雨天時や、霧発生時、トンネル走行時に、前方カメラ11aの取り付け位置が正常であるにも拘わらず、異常であると判断することを防止することができ、更に高い精度で前方カメラ11aの取り付け位置の異常の有無を判断することができる。
尚、ワイパー動作検出21は、本発明における「ワイパー動作検出手段」に対応し、前照灯点灯検出部22は、本発明における「前照灯点灯検出手段」に対応している。
C−4.変形例4 :
変形例4では、前方カメラ11aの取り付け位置が正常である場合に必ず写る領域(例えば、図6の上段に示すバンパーの領域)を予め「理想特徴量」として特徴量記憶部15に記憶しておく。そして、次のような前方カメラ用処理を行う。
図11には、変形例4の前方カメラ用処理のフローチャートが示されている。前方カメラ用処理を開始すると、制御装置12は、前方カメラ11aに向けて撮影指示信号を送信することによって前方カメラ11aに画像を撮影させると共に、該画像(前方カメラ画像)を取得する(S300)。そして、制御装置12の特徴量抽出部14は、取得した前方カメラ画像からバンパーの領域を「実際特徴量」として算出する(S302)。この算出は、周知のエッジ検出処理等を利用して行われる。
実際特徴量として前方カメラ画像からバンパーの領域を算出したら(S302)、制御部12の異常判断部16は、このバンパーの領域と、特徴量記憶部15に理想特徴量として予め記憶しておいたバンパーの領域とを比較する(S304)。そして、実際特徴量として算出したバンパーの領域が、理想特徴量として予め記憶しておいたバンパーの領域と一致するか否かを判断する(S306)。例えば、実際特徴量として算出したバンパーの領域の面積(画素数)が、理想特徴量として予め記憶しておいたバンパーの領域の面積(画素数)の±5%の範囲に収まるか否かを判断する。あるいは、実際特徴量として算出したバンパーの領域のエッジ部分(前方カメラ画像中の境界部分)が、理想特徴量として予め記憶しておいたバンパーの領域のエッジ部分から所定の距離以内(例えば10ピクセル以内)に存在するか否かを判断する。
その結果、実際特徴量として算出したバンパーの領域が、理想特徴量として予め記憶しておいたバンパーの領域と一致していれば(S306:yes)、前方カメラ11aの取り付け位置は正常であると判断して、そのまま図11に示す前方カメラ用処理を終了する。これに対して、実際特徴量として算出したバンパーの領域が、理想特徴量として予め記憶しておいたバンパーの領域と一致しなければ(S308:yes)、前方カメラ11aの取り付け位置が異常であると判断して、異常警告画像(図7参照)を表示部13に表示する(S310)。尚、後方カメラ11b、左方カメラ11c、右方カメラ11dについても、S300〜S310と同様の処理を実行する。
以上のように、前方カメラ11aの取り付け位置が正常である場合に必ず写る領域(変形例4ではバンパーの写る領域)が存在する場合は、前方カメラ11aの取り付け位置が正常である場合はその領域は変化しないはずである。そこで、変形例4では、前方カメラ11aの取り付け位置が正常である場合に必ず写る領域(変形例4ではバンパーの写る領域)を予め「理想特徴量」として特徴量記憶部15に記憶しておき、このバンパーの写る領域と、前方カメラ画像から算出したバンパーの写る領域とが一致しなければ、前方カメラ11aの取り付け位置が異常であると判断する。従って、車両1が走行中でない場合であっても、前方カメラ11aの取り付け位置の異常の有無を人の目視に頼らずに高い精度で判断することができる。尚、後方カメラ11b、左方カメラ11c、右方カメラ11dについても同様に上述の効果を奏することができる。
以上、実施例および変形例の画像解析装置について説明したが、本発明は上記の実施例および変形例に限られるものではなく、その要旨を逸脱しない範囲において種々の態様で実施することができる。
例えば、上述した実施例および変形例では、「実際特徴量」や「理想特徴量」として画素の輝度値を採用したが、画素のRGB値やYUV値を採用してもよい。
また、上述した実施例では、前方カメラ11aの取り付け位置が正常である場合であっても、前方カメラ画像にバンパーが写ることとしたが、前方カメラ11aの取り付け位置が正常である場合は、前方カメラ画像にバンパーが写らないこととしてもよい。
また、上述した実施例では、前方カメラ11aの取り付け位置が異常である場合は、バンパーの写る領域が大きくなることによって輝度値の変化量が少なくなることを検出することで、前方カメラ11aの取り付け位置が異常であることを判断することとした。これに限らず、前方カメラ11aの取り付け位置が異常である場合は、アスファルト等の路面の写る領域が大きくなることによって輝度値の変化量が少なくなることを検出することで、前方カメラ11aの取り付け位置が異常であることを判断することとしてもよい。
また、上述した第4変形例では、前方カメラ11aの取り付け位置が正常である場合に必ず写る領域としてバンパーが写る領域を採用したが、ドアミラーやボンネット等の車両1の一部が写る領域を採用してもよい。
1…車両、 10…画像解析装置、 11a〜11d…車載カメラ、
12…制御装置、 13…表示部、 14…特徴量抽出部、
15…特徴量記憶部、 16…異常判断部、 17…走行判断部、
21…ワイパー動作検出部、22…前照灯点灯検出部

Claims (6)

  1. 車両を基準として所定方向に設定された所定の監視領域の画像を撮影する車載カメラに適用されて、該車載カメラの画像を解析する画像解析装置であって、
    前記車載カメラ(11a〜11d)が前記監視領域を撮影した場合に得られる監視領域画像の特徴量を記憶しておく記憶手段(15)と、
    前記車載カメラによる画像を取得して、該画像の特徴量を抽出する抽出手段(14)と、
    前記車載カメラによる画像の特徴量と前記監視領域画像の特徴量とを比較することによって、前記車載カメラの取り付け位置の異常の有無を判断し、判断結果を出力する出力手段(16、13)と
    前記車両が走行中であるか否かを判断する走行判断手段(17)と
    を備え、
    前記記憶手段は、前記車両の走行中の前記監視領域画像において輝度値の変化量が所定量以上の領域と所定量未満の領域との割合を、前記監視領域画像の特徴量として記憶する手段であり、
    前記抽出手段は、前記車両の走行中に前記車載カメラによって複数回撮影された複数の画像を取得して、該複数の画像間において輝度値の変化量が所定量以上の領域と所定量未満の領域との割合を前記車載カメラによる画像の特徴量として抽出する手段である画像解析装置。
  2. 車両を基準として所定方向に設定された所定の監視領域の画像を撮影する車載カメラに適用されて、該車載カメラの画像を解析する画像解析装置であって、
    前記車載カメラ(11a〜11d)が前記監視領域を撮影した場合に得られる監視領域画像の特徴量を記憶しておく記憶手段(15)と、
    前記車載カメラによる画像を取得して、該画像の特徴量を抽出する抽出手段(14)と、
    前記車載カメラによる画像の特徴量と前記監視領域画像の特徴量とを比較することによって、前記車載カメラの取り付け位置の異常の有無を判断し、判断結果を出力する出力手段(16、13)と、
    ワイパーが動作していることを検出するワイパー動作検出手段(21)と
    を備え、
    前記出力手段は、前記ワイパーが動作している場合は、前記車載カメラの取り付け位置の異常の有無を判断しない手段である画像解析装置。
  3. 車両を基準として所定方向に設定された所定の監視領域の画像を撮影する車載カメラに適用されて、該車載カメラの画像を解析する画像解析装置であって、
    前記車載カメラ(11a〜11d)が前記監視領域を撮影した場合に得られる監視領域画像の特徴量を記憶しておく記憶手段(15)と、
    前記車載カメラによる画像を取得して、該画像の特徴量を抽出する抽出手段(14)と、
    前記車載カメラによる画像の特徴量と前記監視領域画像の特徴量とを比較することによって、前記車載カメラの取り付け位置の異常の有無を判断し、判断結果を出力する出力手段(16、13)と、
    前照灯が点灯していることを検出する前照灯点灯検出手段(22)と
    を備え、
    前記出力手段は、前記前照灯が点灯している場合は、前記車載カメラの取り付け位置の異常の有無を判断しない手段である画像解析装置
  4. 請求項2または請求項3に記載の画像解析装置であって、
    前記車両が走行中であるか否かを判断する走行判断手段(17)を備え、
    前記記憶手段は、前記車両の走行中の前記監視領域画像の輝度値の変化量を、前記監視領域画像の特徴量として記憶する手段であり、
    前記抽出手段は、前記車両の走行中に前記車載カメラによって複数回撮影された複数の画像を取得して、該複数の画像間の輝度値の変化量を前記車載カメラによる画像の特徴量として抽出する手段である画像解析装置。
  5. 請求項4に記載の画像解析装置であって、
    前記記憶手段は、前記監視領域画像内に設定された所定の特定領域の前記輝度値の変化量を、前記監視領域画像の特徴量として記憶する手段であり、
    前記抽出手段は、前記車載カメラによって撮影された画像の前記特定領域の前記輝度値の変化量を前記車載カメラによる画像の特徴量として抽出する手段である画像解析装置。
  6. 車両を基準として所定方向に設定された監視領域の画像を撮影する車載カメラに適用されて、該車載カメラの画像を解析する画像解析方法であって、
    前記車両の走行中に前記車載カメラによって複数回撮影された複数の画像を取得して、該複数の画像間において輝度値の変化量が所定量以上の領域と所定量未満の領域との割合を前記車載カメラによる画像の特徴量として抽出する工程(S202〜S208、S212)と、
    前記車載カメラによる画像の特徴量と、予め記憶手段に記憶しておいた、前記車載カメラが前記監視領域を撮影した場合に得られる監視領域画像の特徴量であって、前記車両の走行中の前記監視領域画像における輝度値の変化量が所定量以上の領域と所定量未満の領域との割合とを比較することによって、前記車載カメラの取り付け位置の異常の有無を判断し、判断結果を出力する工程(S210、S216、S218)と
    を備える画像解析方法。
JP2014021572A 2014-02-06 2014-02-06 画像解析装置、および画像解析方法 Active JP6364797B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014021572A JP6364797B2 (ja) 2014-02-06 2014-02-06 画像解析装置、および画像解析方法
PCT/JP2015/000182 WO2015118806A1 (ja) 2014-02-06 2015-01-16 画像解析装置、および画像解析方法
US15/116,362 US10220782B2 (en) 2014-02-06 2015-01-16 Image analysis apparatus and image analysis method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014021572A JP6364797B2 (ja) 2014-02-06 2014-02-06 画像解析装置、および画像解析方法

Publications (3)

Publication Number Publication Date
JP2015149614A JP2015149614A (ja) 2015-08-20
JP2015149614A5 JP2015149614A5 (ja) 2015-12-17
JP6364797B2 true JP6364797B2 (ja) 2018-08-01

Family

ID=53777621

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014021572A Active JP6364797B2 (ja) 2014-02-06 2014-02-06 画像解析装置、および画像解析方法

Country Status (3)

Country Link
US (1) US10220782B2 (ja)
JP (1) JP6364797B2 (ja)
WO (1) WO2015118806A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6326144B2 (ja) 2014-09-26 2018-05-16 京セラ株式会社 撮像装置、車両および変動検出方法
US20180134217A1 (en) * 2015-05-06 2018-05-17 Magna Mirrors Of America, Inc. Vehicle vision system with blind zone display and alert system
JP6565769B2 (ja) * 2016-04-03 2019-08-28 株式会社デンソー 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム
KR101816423B1 (ko) * 2016-07-12 2018-01-08 현대자동차주식회사 사이드 미러 대체 디스플레이 장치 및 이의 출력 밝기 제어 방법
JP6767255B2 (ja) * 2016-12-20 2020-10-14 株式会社デンソーテン 画像処理装置及び画像処理方法
JP6807771B2 (ja) 2017-02-20 2021-01-06 株式会社アルファ 車両用監視装置
EP3587209A4 (en) * 2017-02-21 2020-12-30 Hitachi Automotive Systems, Ltd. VEHICLE CONTROL DEVICE
CN108965687B (zh) 2017-05-22 2021-01-29 阿里巴巴集团控股有限公司 拍摄方向识别方法、服务器及监控方法、***及摄像设备
US11403865B2 (en) * 2017-07-25 2022-08-02 Nec Corporation Number-of-occupants detection system, number-of-occupants detection method, and program
US11206375B2 (en) 2018-03-28 2021-12-21 Gal Zuckerman Analyzing past events by utilizing imagery data captured by a plurality of on-road vehicles
US11138418B2 (en) 2018-08-06 2021-10-05 Gal Zuckerman Systems and methods for tracking persons by utilizing imagery data captured by on-road vehicles
JP2020051168A (ja) * 2018-09-28 2020-04-02 コベルコ建機株式会社 取付状態表示装置
JP7081425B2 (ja) * 2018-09-28 2022-06-07 コベルコ建機株式会社 取付位置認識装置
JP7385412B2 (ja) 2019-09-25 2023-11-22 株式会社Subaru 自動運転システム
JP2022182335A (ja) * 2021-05-28 2022-12-08 株式会社Subaru 車両の車外撮像装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4151137B2 (ja) 1998-12-16 2008-09-17 株式会社豊田自動織機 車両における障害物検出装置及び車両
JP4045862B2 (ja) * 2002-06-03 2008-02-13 日産自動車株式会社 車載カメラの光軸ずれ検出装置
JP4026543B2 (ja) * 2003-05-26 2007-12-26 日産自動車株式会社 車両用情報提供方法および車両用情報提供装置
JP2007008325A (ja) * 2005-06-30 2007-01-18 Nissan Motor Co Ltd 設置状態判断装置及び方法
JP2007038773A (ja) * 2005-08-02 2007-02-15 Auto Network Gijutsu Kenkyusho:Kk 車載カメラ点検装置
JP4666049B2 (ja) * 2008-10-17 2011-04-06 株式会社デンソー 光源識別装置、光源識別プログラム、車両検出装置、およびライト制御装置
KR101406457B1 (ko) * 2009-11-27 2014-06-27 도요타지도샤가부시키가이샤 운전 지원 장치 및 운전 지원 방법
JP5724446B2 (ja) 2011-02-21 2015-05-27 日産自動車株式会社 車両の運転支援装置
DE102012214464A1 (de) * 2012-08-14 2014-02-20 Ford Global Technologies, Llc System zur Überwachung und Analyse des Fahrverhaltens eines Fahrers in einem Kraftfahrzeug

Also Published As

Publication number Publication date
US20160347251A1 (en) 2016-12-01
JP2015149614A (ja) 2015-08-20
WO2015118806A1 (ja) 2015-08-13
US10220782B2 (en) 2019-03-05

Similar Documents

Publication Publication Date Title
JP6364797B2 (ja) 画像解析装置、および画像解析方法
US10449899B2 (en) Vehicle vision system with road line sensing algorithm and lane departure warning
JP4603970B2 (ja) 道路区画線検出装置
JP4539415B2 (ja) 画像処理装置
JP6163207B2 (ja) 車載装置
US10268902B2 (en) Outside recognition system, vehicle and camera dirtiness detection method
US11136046B2 (en) Method and system of vehicle alarm that alarm area is changed by visible distance, and vision system for vehicle
WO2014129312A1 (ja) 車線境界線逸脱抑制装置
US10635910B2 (en) Malfunction diagnosis apparatus
WO2007111220A1 (ja) 道路区画線検出装置
JP5680436B2 (ja) 車載カメラレンズ用異物付着判定装置
EP2928178A1 (en) On-board control device
US20170136962A1 (en) In-vehicle camera control device
US20130010114A1 (en) Apparatus for detecting object approaching vehicle
TWI749030B (zh) 駕駛輔助系統及駕駛輔助方法
US20190124292A1 (en) Image processing device
JP2008042759A (ja) 画像処理装置
JP5861584B2 (ja) ふらつき判定装置
EP2542453B1 (en) Method and device of raindrop detection on a windscreen
JP2006107000A (ja) 画像異常判定方法及び画像異常判定装置
JP6206334B2 (ja) 検出装置
JP2020009386A (ja) 周辺認識装置及び車載カメラシステム
JP2014013451A (ja) 車載用車線認識装置
JP6429101B2 (ja) 画像判定装置、画像処理装置、画像判定プログラム、画像判定方法、移動体
JP7219710B2 (ja) ドライバー・アシスタント・システム用のカメラ撮影を改善するための方法と装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151102

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160810

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180618

R151 Written notification of patent or utility model registration

Ref document number: 6364797

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250