JP2004320137A - 車両側方監視装置 - Google Patents
車両側方監視装置 Download PDFInfo
- Publication number
- JP2004320137A JP2004320137A JP2003107990A JP2003107990A JP2004320137A JP 2004320137 A JP2004320137 A JP 2004320137A JP 2003107990 A JP2003107990 A JP 2003107990A JP 2003107990 A JP2003107990 A JP 2003107990A JP 2004320137 A JP2004320137 A JP 2004320137A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- camera
- brightness
- area
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
Abstract
【課題】ターゲット車両が点灯しているヘッドランプ光によるハレーションのために、ターゲット車両の車体を明確に認識できない条件においても、ターゲット車両の移動状態を検出することができる車両側方監視装置を提供することを目的とする。
【解決手段】映像信号S1a、S1bをAD変換することによって得られた画像データが画像入力部4aに入力される。スミア検出部4bは画像入力部4aに入力された画像データから、カメラ画像上に発生する垂直方向の線状高輝度領域であるスミアを検出する。検出されたスミアは移動判断部4cによって水平方向の移動の有無および移動方向が検出される。画像処理部4はスミアの移動が検出された際に、自車両に対して移動するターゲット車両が存在すると判定する。
【選択図】 図1
【解決手段】映像信号S1a、S1bをAD変換することによって得られた画像データが画像入力部4aに入力される。スミア検出部4bは画像入力部4aに入力された画像データから、カメラ画像上に発生する垂直方向の線状高輝度領域であるスミアを検出する。検出されたスミアは移動判断部4cによって水平方向の移動の有無および移動方向が検出される。画像処理部4はスミアの移動が検出された際に、自車両に対して移動するターゲット車両が存在すると判定する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、撮影した画像より自車両周囲に存在する車両の状態を監視する車両側方監視装置に関する。
【0002】
【従来の技術】
【特許文献1】特開2001−213254号公報
【特許文献2】特開平5−189694号公報
従来、撮像された画像から車両を検出する際に、所定時間の間隔をあけて撮像された2フレームの画像から所定領域の相関をもとにオプティカルフローを抽出することによって自車両に接近するターゲット車両の検出を行う装置がある。このような装置の例として、たとえば特開2001−213254号公報記載のようなものがある。
また他の例として、撮影された映像から車両を検出する際に、夜間の低照度時においてはカメラの絞りを制御して感度を低下させることによって、検出しようとするターゲット車両が点灯しているヘッドランプの光だけが撮影されるように設定し、その光を検出することによって、ターゲット車両が存在するかどうかの判定を行う装置がある。このような装置の例として、たとえば特開平5−189694号公報記載のようなものがある。
【0003】
【発明が解決しようとする課題】
前者の装置にあっては、オプティカルフローを抽出する構成であり、フレーム間で画像の相関を取る際には、検出を行うターゲット車両の画像上の特徴点が明確であることが必要であるが、夜間にターゲット車両がヘッドランプを点灯している場合には、撮像した画像上で当該車両がヘッドランプのハレーションによって覆い隠されてしまい、画像上からターゲット車両の特徴点を検出することができない。すなわちハレーションによって、ターゲット車両の移動や接近を判定することができなかった。
【0004】
また後者の装置にあっては、カメラの絞りを制御することによって撮影時の感度を強制的に低下させてしまう構成であり、ヘッドランプ光のハレーションについては低減することができるが、夜間の低照度時であるにもかかわらず感度を下げてしまうためターゲット車両の形状や車体表面の特徴的なパターンを検出することができない。このため、ターゲット車両が存在するか否かについては検出することができるが、得られた画像からオプティカルフローなどの手法によって車両の特徴点を追跡する、すなわちターゲット車両が自車両に対して接近しているか否かを検出することができないといった問題があった。
【0005】
そこで本発明はこのような問題点に鑑み、ターゲット車両が点灯しているヘッドランプ光によるハレーションのために、撮影された画像上においてターゲット車両の車体を明確に認識できない条件においても、ターゲット車両の移動状態を検出することができる車両側方監視装置を提供することを目的とする。
【0006】
【課題を解決するための手段】
本発明は、車両に取り付けられ、自車両の少なくとも左右側方を含む領域を撮影するカメラによって撮影された画像から、垂直方向の画角全域に縦断する高輝度領域の検出を行う高輝度領域検出手段と、カメラによって撮影された画像内において、高輝度領域検出手段によって検出された高輝度領域の水平方向の平行移動を検出する高輝度領域移動検出手段とを備え、該高輝度領域移動検出手段によって高輝度領域の移動が検出されたときに、自車両に対して相対的に移動する移動体が存在すると判定するものとした。
【0007】
【発明の効果】
本発明によれば、移動体のヘッドランプ光によるハレーションのために、撮像された画像から移動体を明確に認識できない状況であったとしても、カメラに強い光が入射した際に原理的に発生するスミアの移動を検出することによって、移動体が存在するか否かを安定して検出することができる。
【0008】
【発明の実施の形態】
次に本発明の実施の形態を実施例により説明する。
まず本発明における第一の実施例について説明する。
図1に、第一の実施例における車両側方監視装置の構成を示す。また図2に車両に設置するCCDカメラの設置位置およびCCDカメラによる撮影範囲を示す。
自車両の左右側方を所定の画角で監視撮影するCCDカメラ(以下、カメラと略す)3a、3bが、画像処理部4に接続される。図2に示すように、カメラ3aは自車両1の前方左端に設置されて左側方を監視撮影し、カメラ3bは自車両1の前方右端に設置されて右側方を監視撮影する。図では、右側方監視用のカメラ3bのカメラ撮影範囲内に車両2が存在しており、カメラ3bによって車両2が撮影されている。
【0009】
カメラ3a、3bによって撮影された左右側方映像は画像処理部4に入力される。このとき、カメラ3aが出力する信号を映像信号S1aとし、カメラ3bが出力する信号を映像信号S1bとする。
画像処理部4は、入力された画像をフレーム単位ごとに複数フレームをメモリして、それらの画像に対してフィルタリングや2値化、直線検出、幾何学変換、画像フレーム間での論理演算など各種の画像処理を実行するものである。
また画像処理部4はシステム制御部5に接続され、画像処理部4は画像処理結果をシステム制御部5に出力する。
【0010】
図3に、画像処理部の構成を示す。
画像処理部4は映像信号S1a、S1bを受信する画像入力部4aを備えている。また画像処理部4はスミア検出部4b、移動判断部4c、報知信号出力部4dおよび画像出力部4eを備えている。
画像入力部4aは入力された映像信号S1a、S1bに対してAD変換を行い、デジタル画像データとして記憶する。
【0011】
記憶されたデジタル画像データから、スミア検出部4bによって、カメラ画像上に発生する垂直方向の線状高輝度領域であるスミアが検出される。検出されたスミアは移動判断部4cによって水平方向の移動の有無および移動方向が検出される。
報知信号出力部4dは移動判断部4cの出力結果にもとづいて、図1におけるシステム制御部5ヘ、ドライバに対して報知の必要性の有無を指示する報知信号Scを出力する。
【0012】
画像出力部4eは、画像入力部4aから入力されたデジタル画像データに対してDA変換を行って再び映像信号に戻し、映像信号S2a、S2bとして出力する。さらに、画像出力部4eでは報知信号出力部4dからの報知信号Scにもとづいて所定のアラーム表示等を原画像(画像入力部4aからのデジタル画像信号)に重畳表示する機能を持たせても良い。
なお、画像処理部4の実際のハードウェアは、AD変換器、DA変換器、画像メモリ、CPU、画像処理専用DSP、デジタルIOなどから構成されるものである(図示省略)。
【0013】
図1に示すシステム制御部5は、側方監視スイッチ8から側方監視機能のON−OFFを切り替えるON−OFF信号と、車速センサ9から車両の走行車速信号とが入力されており、側方監視機能を作動させるか否かの判断を行う機能を備える。
また、このシステム制御部5にはナビゲーションシステム7から出力される地図及び自車現在位置表示、経路誘導など、いわゆるナビゲーション機能表示のためのRGB画像が入力される。システム制御部5は、ナビゲーションシステム7からのRGB画像と前述の画像処理部4から出力される映像信号とを、側方監視スイッチ8のON−OFF状態と走行車速とによって決まる所定条件にもとづいて切替え制御を行い、選択された映像信号S3を外部に出力する機能を備える。
【0014】
さらに、システム制御部5にはブザー10とインジケータ11とが接続されており、画像処理部4から出力される報知信号Scにもとづいて、報知が必要と判断された場合には、カメラからの映像信号に所定のアラーム表示を重畳表示させる映像信号を出力したり、ドライバに注意を促すためのアラーム音発生用のブザー10を駆動する駆動信号や、インジケータ11の点灯を指示する駆動信号が出力される。
【0015】
システム制御部5から出力される映像信号S3は車載のディスプレイ6に入力されて、ディスプレイ6の画面上に映像が表示される。このディスプレイ6は車両のダッシュ内またはダッシュ上に設置され、液晶方式など一般的に使用されているものを用いる。
【0016】
なお、本実施例では左右独立のカメラを備える例を示しているのでディスプレイ6にカメラ映像を表示する際には、システム制御部5の内部で左右のカメラ3a、3bの撮影画像を合成する、あるいは側方監視スイッチ8の状態にもとづいて、カメラ3a、3bのうちの一方の撮影画像を選択して表示する機能も備えるものである。
また、左右映像を合成する機能はシステム制御部5ではなく、画像処理部4の内部に備えることも可能である。
【0017】
次に、車両側方監視装置の各部の動作について説明する。
図4は、車両側方監視装置のシステム全体の動作を示すフローチャートであり、図6は、図4のステップ105における接近車検知処理の詳細を示すフローチャートである。
なお、本実施例においてはカメラ3a、3bを左右独立に備えた例を示しているが、ここでは説明の簡略化のため自車両右側のカメラ3bに関する動作についてのみの説明を行い、左側のカメラ3aによる動作については、右側のカメラ3bと同様であるため説明を省略する。
ステップ100において、図示しない車両のイグニツションスイッチがONとなると、電源が投入されてシステム制御部5は車両側方監視処理を開始する。
【0018】
ステップ101において、システム制御部5はナビゲーションシステム7から出力されるナビゲーション画像(地図、自車の現在位置、経路誘導などの画面であるが説明図の記載は省略)を選択し、ディスプレイ6に表示させる。
次にステップ102において、車速センサ9から常時出力されている車速信号をもとに自車両1の現在車速を算出し、車速が0km/h、すなわち自車両1が停止しているかどうかの判断を行う。車速が0km/hでないときは走行中であるため、ステップ101において実行されたナビゲーション表示を継続する。一方、車速が0km/hであるときは自車両1は停止していると判断し、ステップ103へ進む。
【0019】
ステップ103において、側方監視スイッチ8がONになっているかどうかの判断を行う。側方監視スイッチ8は、たとえば車両の運転席付近に設置されており、見通しの悪い交差点などで左右の様子を確認したいときに車両の乗員が側方監視スイッチ8を操作して、カメラ3a、3bによる撮影画像の表示をON−OFFするものである。
【0020】
側方監視スイッチ8がOFFである場合には、ステップ101へ戻りカメラ3a、3bによる側方監視機能を作動させずにナビゲーション表示を継続する。
一方、監視スイッチ8がONであると判断された場合には、ステップ104においてシステム制御部5は、画像処理部4内の画像入力部4aと画像出力部4eを介して入力されたカメラ3bの映像信号S2bを、それまで選択されていたナビゲーション画像に替えてディスプレイ6に表示する。
【0021】
低照度となる夜間において、カメラ3bの撮影範囲内の自車両1に接近する車両を撮影した画像は、ヘッドランプ光に起因する概略円形のハレーションと、そこを光源として垂直方向に伸びる線状の光の帯であるスミアとが観測され、さらに他の光源による光の点が多数観測される。
【0022】
ステップ104でカメラ画像が表示されると、ステップ105において、画像処理部4内で接近車検知処理が実行される。この接近車検知処理の詳細については後述する。
ステップ105において接近車検知処理が実行された結果、接近車両の存在が検出されたときは、画像処理部4から出力される報知信号Scがシステム制御部5に入力されるので、ステップ106において報知信号Scが入力されたか否かを判断する。報知信号Scが入力されていなければステップ102に戻り、上述の処理を繰り返す。
【0023】
報知信号Scが出力されているときは自車両1への接近車両が存在することになり、システム制御部5は画像処理部4から出力されるカメラ3bの映像信号S2bに接近車両に注意する旨のアラーム表示を重畳させ、このアラーム表示を重畳させた映像信号を映像信号S3としてディスプレイ6に出力する。これにより、図5に示されるように、カメラによって撮影された画像中に接近車両に注意する旨のアラームが表示される。
【0024】
ステップ108において、さらにシステム制御部5はブザー10を駆動するための信号およびインジケータ11の点灯を指示する駆動信号を出力する。これにより、接近車両があることを知らせるブザー音がブザー10から吹鳴され、インジケータ11が点灯する。
その後、ステップ102の車速判定に戻り、以下同様の動作を繰り返す。
【0025】
次に画像処理部4の内部で実行される接近検知処理(図4のステップ105)の動作について、図6に示すフローチャートを用いて説明する。
接近検知処理が開始されるとステップ201において、画像入力カウンタのカウント値nをリセット(n=0)する。このカウント値nは、カメラの撮影映像をデジタル画像データ(以下、画像データ)として取り込む回数を管理するためのものである。
【0026】
画像入力カウンタのリセット後、ステップ202において画像入力部4aは、カメラ3bからの原画像である映像信号Slbを取り込む。ステップ203において、取り込んだ映像信号S1bをデジタルの原画像データとして画像メモリInに格納する。現時点においてカウント値n=0であるため、原画像データを画像メモリI0に格納する。
一般的に原画像データには多くのノイズが含まれているため、ステップ204においてノイズ除去フィルタ処理を実行する。このノイズ除去はメディアンフィルタなどを用いて平滑化するもので、一般的な手法を用いればよい。
【0027】
図8の(a)は時刻Tにおいて撮像され、平滑処理された後の画像を示している。また図には路側に設置された街灯12の発光部を光源とするハレーション13aと、街灯12を光源とするスミア14a、さらに車両2に備えられた2個のヘッドランプ光を光源とするハレーション13bとこのヘッドランプ光を光源とするスミア14bとが映しだされている。また街灯12の発光部や車両2の前部がハレーション13a、13bによって覆い隠されて、その形状を明確に認識することができなくなっている。
【0028】
次にステップ205において、ノイズ除去した画像に対して所定のしきい値を用いて2値化処理を実行し、画像の中から著しく高輝度な領域の抽出を行う。これにより車両2のヘッドランプ光、街灯12、路面の白線、その他の光で周辺よりも著しく明るい領域が抽出される。
【0029】
図8の(b)に、時刻Tにおける画像データ(図8の(a))を2値化処理することによって高輝度領域を抽出した画像を示す。図では車両2のヘッドランプ光によるハレーション13bと、このヘッドランプ光を光源とする2本のスミア14b、街灯12の光によるハレーション13aとそこを光源とするスミア14aが抽出されている。
なお図は、画像データを2値化処理をした結果が、所定のしきい値よりも暗い領域を白、明るい領域を黒色で表現してある。また実際の画像では、多くの高輝度領域が検出されることがあるが、以下の説明では簡単にするため機能の説明上必要な部分に限定して記述する。
【0030】
次にステップ206において、2値化処理が行われた2値化画像の中から垂直な線分領域のみを抽出する。この垂直線分の抽出方法についてはHough変換など一般的に知られた手法を用いることができるため説明を省略する。
図8の(c)は、図8の(b)に示す2値化画像から垂直線分のみを抽出した結果の画像である。スミアによる垂直線分はハレーションによる円形領域で分断されて、街灯12の光によるスミアの一部である垂直線分L11とL12、車両2のヘッドランプ光によるスミアの一部である垂直線分L21、L22、L31、L32とに分割されて抽出される。
【0031】
次にステップ207において、分断されて検出された垂直線分がスミアであるか否かを判断するために線分補完処理を実行する。
ここで線分補完処理の詳細について、図7のフローチャートを用いて説明する。
ステップ301において、検出された垂直線分すなわちスミアの一部である垂直線分L11、L12、L21、L22、L31およびL32を、垂直線分ごとにそれぞれ上下方向に延長する。
【0032】
次にステップ302において、延長された垂直線分同士で他の垂直線分と連結されるものがあるか否かを判定する。垂直線分が連結されないときは図7のフローチャートに示した線分補完処理を終了し、図6のフローチャートに示す接近車検知処理に戻る。
【0033】
連結された垂直線分が検出された場合はステップ303において、その垂直線分が垂直画角全部を縦断するか否かを判定する。そして垂直画角全部を縦断する垂直線分が存在すると判定された場合、ステップ304においてその垂直線分をスミアであると判定し、線分補完処理を終了して図6のフローチャートに示す接近車検知処理に戻る。
【0034】
図8の(d)に、図8の(c)に示す画像に対して線分補完処理を行い、分断された6本の垂直線分が3本の垂直線分に変換された様子を示す。
線分補完処理によって、図8の(c)に示す垂直線分L11とL12とが延長されて、図8の(d)に示す一本の直線である垂直線分L10となる。同様に垂直線分L21とL22とが延長されて垂直線分L20となり、さらに垂直線分L31とL32とが延長されて垂直線分L30となる。
またこれらの垂直線分L10、L20およびL30は、いずれもその両端が画角上下端に接触、すなわち垂直画角いっぱいの線分であるため、これらの垂直線分L10、L20およびL30はスミアであると判定される。
【0035】
図6のフローチャートに戻り、ステップ208では線分補完処理(ステップ207)において、スミア判定がされているか否かの判断を行う。
スミアがない場合はカメラに入射する強い光源がないため、ステップ212において通常のオプティカルフロー処理によって移動物体の検出処理を行い、ステップ201に戻る。
【0036】
一方ステップ208においてスミア判定がされていると判断された場合には、ステップ209において、垂直線分が補完された後のスミア画像(図8の(d))を、移動判定用画像データISnとして登録する。現時点において、カウント値n=0のため、移動判定用画像データIS0として登録する。
移動判定用画像データの登録後、ステップ210において画像入力カウンタのカウント値nが1か否かを判定する。
【0037】
カウント値nが1でない場合(すなわち、カウント値nがゼロの場合)には、ステップ211において画像入力カウンタをインクリメントしてステップ202に戻り、次のカメラ原画像(図9の(a)に示す時刻T+ΔTにおけるカメラ原画像)を取得する。図9の(a)には、街灯12の発光部を光源とするハレーション13a’と街灯12の発光部を光源とするスミア14a’、さらに車両2のヘッドランプ光を光源とするハレーション13b’とスミア14b’とが映しだされている。
【0038】
この時刻T+ΔTにおけるカメラ原画像は、ステップ203において原画像データとして画像メモリI1に格納し、以下、上記ステップ204から208の処理を繰り返す。
これにより、ステップ205で時刻T+ΔTの時点におけるカメラ画像データに対して2値化処理を行うことによって、図9の(b)に示すように、ハレーション13a’、13b’およびスミア14a’、14b’が抽出された画像を得ることができる。
【0039】
さらにステップ206において垂直線分の抽出を行うことにより、図9の(c)に示すように垂直線分L41、L42、L51、L52、L61およびL62が抽出される。またステップ207において線分補完処理を行うことにより、図9の(d)に示すように垂直線分L41、L42が延長されて垂直線分L40となり、また垂直線分L51、L52が延長されて垂直線分L50となり、垂直線分L61、L62が延長されて垂直線分L60となる。
【0040】
また時刻T+ΔTの時点において撮像された画像中にスミアが存在し、ステップ208において、スミア判定がされていると判断された場合には、ステップ209において、時刻T+ΔTの時点における撮像画像のスミア画像を、移動判定用画像データIS1として登録する。
【0041】
ステップ210において、画像入力カウンタのカウント値nが1であると判定された場合、ステップ213へ進む。
ステップ213において、撮像時間がΔT時間離れ、スミアを含む画橡として登録された移動判定用画像データIS0(図8の(d))と、移動判定用画像データIS1(図9の(d))との差分処理を実行し、差分画像ISS(図10の(a))を得る。
【0042】
移動判定用画像データIS0における垂直線分L10と、移動判定用画像データIS1における垂直線分L40とは静止物である街灯12の光を光源とするスミアであり、自車両1が停止している場合には撮像画像中の同じ位置に検出される。したがって移動判定用画像IS0とISlの差分をとると垂直線分Ll0とL40は消去される。
【0043】
一方、自車両1に向かって接近移動している車両2のヘッドランプを光源とするスミアの場合には、垂直線分L20、L30とL50、L60は車両2の移動、すなわち光源の移動に伴って水平方向の位置がずれて検出されるため、差分をとった後も消去されずに残ることになる。
【0044】
ステップ214において、差分画像ISSの中から時間経過に伴って平行移動した垂直線分の検出を行う。ここでは、図10の(b)に示すように垂直線分L20がL50の位置へ、垂直線分L30がL60の位置へ平行移動している。
次にステップ215において、検出された垂直線分の平行移動が自車両1に対する接近方向か否かを判定する。垂直線分が右から左の方向に移動していれば自車両1に対する接近方向であると判定する。
【0045】
ステップ215において垂直線分の接近方向への平行移動が検出された場合には、ステップ216において、自車両1に対して車両が接近していることを知らせる報知信号Scをシステム制御部5へ出力する。報知信号Scの出力後、ステップ201へ戻る。
一方、ステップ215において垂直線分の移動が接近方向でないと判定された場合には、ステップ201へ戻り上述の処理を繰り返す。
【0046】
システム制御部5は報知信号Scを受けると、前述のようにアラーム表示をカメラ映像に重畳してディスプレイ6に表示する(図5)とともにブザー10を駆動してアラーム音を発生させ、さらにインジケータ11を点灯させる。
本実施例において、ステップ206、207およびステップ301からステップ304が本発明における高輝度領域検出手段を構成し、とくにステップ206が高輝度線分検出手段を構成する。またステップ213、214が本発明における高輝度領域移動検出手段を構成する。さらにステップ216が本発明における報知手段を構成し、ステップ215が移動方向検出手段を構成する。
【0047】
本実施例は以上のように構成され、カメラ3a、3bによって撮影された画像から高輝度領域をスミアとして検出し、スミアが移動しているか否かを検出することによって自車両1に近づく移動体が存在するか否かを判断する。
これにより、たとえば夜間の交差点等において交差する道路を自車両の側方から接近する車両が存在し、この接近する車両が点灯しているヘッドランプ光によるハレーションのために、カメラによって撮影された画像から接近する車両の本体を明確に検出することができない状態であっても、カメラに強い光が入射した場合に原理的に発生する線状の光(スミア)の動きを追跡することによって、接近する車両の移動状態を安定して検出することができる。
【0048】
また、強い光源によるスミアの発生を抑えるために撮影時にカメラの絞りを大きく絞り込む必要がないためにカメラの感度が低下することがない。
さらに、カメラの感度が低下することがないため、撮影された映像を車載のディスプレイに表示することによって車両のドライバに対して車両周辺の監視を支援する場合においても、その検出対象とする車両の周辺に存在する建物や道路建造物、歩行者など車両以外の他の被写体を撮影画像から認識することができ、夜間においてもドライバは表示された画像を視認することによって車両周囲の状況確認を容易に行うことができる。
【0049】
また、高輝度線分としての垂直線分を垂直方向へ延長した場合に、他の垂直線分と接続し、かつ撮影された画像の垂直画角全体にまたがる垂直線分を、高輝度領域(スミア)として検出する。これにより、ハレーションが発生したために分断されたスミアを正確に検出することができる。
【0050】
さらに、スミアの移動方向をもとに自車両1に対して移動体(車両2)が接近しているか否かを判断し、移動体が接近している場合に自車両1のドライバに移動体の接近を報知する。これにより、夜間の交差点通過時等において自動的に自車両に対して接近する車両の存在が報知されるため、交差点に接近する他の車両の存在有無を確認しやすくなり、ドライバの安全確認の負担を低減することができる。
【0051】
車速センサが車速ゼロを検出している場合に、自車両に対して移動している車両が存在するか否かの検出処理を行うこととしたので、カメラ3a、3bによって撮影された画像中において、高輝度領域であるスミアが移動すれば、自車両に対して相対的に移動している車両が存在するとして検出することができ、移動する車両の検出処理を容易に行うことができる。
【0052】
次に本発明における車両側方監視装置の第二の実施例について説明する。
本実施例は、上記第一の実施例における車両側方監視装置においてスミア検出処理の精度を向上させたものである。
また第二の実施例における車両側方監視装置の構成は、第一の実施例において説明した画像処理部4の処理内容を変更したものであり、他の構成については説明を省略する。
【0053】
図11に、画像処理部4’の構成を示す。
画像処理部4’の内部に、ヘッドランプ光の光源を検出するヘッドランプ光検出部4fを備える。画像入力部4aで取り込まれた原画像データは、ヘッドランプ光検出部4fにおいてヘッドランプ光の光源が検出され、続いてスミア検出部4bにおいてスミアが検出される。
画像処理部4’の他の構成は、上記第一の実施例において図3を用いて説明した画像処理部4の構成と同じであり、同じ番号を付して説明を省略する。
また本実施例における車両側方監視装置のシステム全体の動作についても、上記第一の実施例において図4を用いて説明した処理の流れと同じである。
【0054】
次に画像処理部4’の内部で実行される接近検知処理(図4のステップ105)の動作について、図12に示すフローチャートを用いて説明する。
なおステップ401からステップ405については、上記図4におけるステップ201からステップ205と同じである。
時刻Tにおいて撮像された画像(図8の(a))に対して2値化処理が行われ、高輝度領域が抽出された2値化画像の中から、ステップ406において、包絡線がほぼ円形となる高輝度の円形領域を抽出する。
【0055】
図13の(a)は、図8の(a)に示す画像から円形領域ClおよびC2が抽出された例を示している。円形領域C1は車両2のヘッドランプ光によるものであり、円形領域C2は街灯12の光によるものである。
次にステップ407において、ステップ405で2値化処理が行われた2値化画像の中から垂直線分の領域を抽出する。
図13の(b)に、抽出された垂直線分の例を示す。垂直線分L101およびL102は、たとえば車両2の周囲の建物や街灯の柱など明るい構造物に光が反射するなどして現れる高輝度領域である。ただし図8の(a)においては、車両2の周囲の建物や街灯などの構造物については図示していない。
【0056】
ステップ408において、検出された垂直線分の中から円形領域に接続する垂直線分のみを抽出する。図13の(c)はその抽出された垂直線分を示したものである。円形領域C1に接続する垂直線分L81、L82、L91、L92および、もうひとつの円形領域C2に接続する垂直線分L71、L72、Ll00が、スミア候補として選択され、円形領域に接触していない垂直線分L101およびL102は消去される。
【0057】
次にステップ409において、抽出された垂直線分について、上述の図7に示すフローチャートにもとづいて線分補完処理を実行する。その結果、図13の(d)に示すように垂直線分L81と垂直線分L82とが接続されて垂直線分L80に、垂直線分L91と垂直線分L92とが接続されて垂直線分L90に、また垂直線分L71と垂直線分L72とが接続されて垂直線分L70となり、それぞれ垂直画角を縦断する直線となる。しかし垂直線分L100はその線分を延長しても他に接続される垂直線分が存在しないため消去される。
ステップ409以降の処理については、上述の図6に示すステップ207以降の処理と同じであり説明を省略する。
【0058】
この方法では、建物のエッジなど実体のある高輝度領域が垂直線分として抽出されたとしても、スミアの候補として選択されないのでスミア検出処理が簡単になると共に、誤ってスミアではないものをスミアとして誤判定する可能性を低減でき検出精度を向上することができる。
なお本実施例において、ステップ406からステップ409、およびステップ301からステップ304が本発明における高輝度領域検出手段を構成し、とくにステップ406が本発明における高輝度円形領域検出手段を構成する。
【0059】
本実施例は以上のように構成され、カメラによって撮影された画像の中から車両2のヘッドランプ光や街灯12によるハレーションを円形領域として検出し、この円形領域に接続する高輝度領域のみをスミアとして検出することとしたので、撮影された画像から抽出される数多くの高輝度の垂直線分の中から、強い光源によって発生している真のスミアを選択することが容易となり、他の高輝度な垂直線分を誤ってスミアとして検出してしまうといった誤検出を低減することができる。
【0060】
なお上記各実施例の説明において、4輪車を例としてヘッドランプが離れた位置に2箇所点灯している場合の動作を示したが、2輪車のようにヘッドランプが1個の場合でも同様の動作によってスミアを検出し車両の移動を判定することができる。
【0061】
また、本実施例では車載のカメラが左右独立に設置されている場合の例を示したが、カメラ画角や設置方法はこれに限定されるものではなく、たとえば超広角レンズの付いた1台のカメラで左右の広い範囲を視野に入れる構成のものでも同様の効果を得ることができる。
【図面の簡単な説明】
【図1】本発明における第一の実施例を示す図である。
【図2】カメラの設置位置を示す図である。
【図3】画像処理部の構成を示す図である。
【図4】車両側方監視装置全体の動作を示すフローチャートである。
【図5】アラーム表示の例を示す図である。
【図6】接近車検知処理の流れを示すフローチャートである。
【図7】線分補完処理の流れを示すフローチャートである。
【図8】スミア検出処理の流れを示す図である。
【図9】スミア検出処理の流れを示す図である。
【図10】垂直線分平行移動検出処理の流れを示す図である。
【図11】第二の実施例における画像処理部の構成を示す図である。
【図12】画像処理の流れを示すフローチャートである。
【図13】スミア検出処理の流れを示す図である。
【符号の説明】
1 自車両
2 車両
3a、3b カメラ
4、4’ 画像処理部
5 システム制御部
6 ディスプレイ
7 ナビゲーションシステム
8 側方監視スイッチ
9 車速センサ
10 ブザー
11 インジケータ
12 街灯
13 ハレーション
14 スミア
4a 画像入力部
4b スミア検出部
4c 移動判断部
4d 報知信号出力部
4e 画像出力部
4f ヘッドランプ光検出部
C1、C2 円形領域
S1a、S1b、S2a、S2b 映像信号
Sc 報知信号
L10、L11、L12、L20、L21、L22、L30、L31、L32、L70、L71、L72、L80、L81、L82、L90、L91、L92、L100、L101、L102 垂直線分
【発明の属する技術分野】
本発明は、撮影した画像より自車両周囲に存在する車両の状態を監視する車両側方監視装置に関する。
【0002】
【従来の技術】
【特許文献1】特開2001−213254号公報
【特許文献2】特開平5−189694号公報
従来、撮像された画像から車両を検出する際に、所定時間の間隔をあけて撮像された2フレームの画像から所定領域の相関をもとにオプティカルフローを抽出することによって自車両に接近するターゲット車両の検出を行う装置がある。このような装置の例として、たとえば特開2001−213254号公報記載のようなものがある。
また他の例として、撮影された映像から車両を検出する際に、夜間の低照度時においてはカメラの絞りを制御して感度を低下させることによって、検出しようとするターゲット車両が点灯しているヘッドランプの光だけが撮影されるように設定し、その光を検出することによって、ターゲット車両が存在するかどうかの判定を行う装置がある。このような装置の例として、たとえば特開平5−189694号公報記載のようなものがある。
【0003】
【発明が解決しようとする課題】
前者の装置にあっては、オプティカルフローを抽出する構成であり、フレーム間で画像の相関を取る際には、検出を行うターゲット車両の画像上の特徴点が明確であることが必要であるが、夜間にターゲット車両がヘッドランプを点灯している場合には、撮像した画像上で当該車両がヘッドランプのハレーションによって覆い隠されてしまい、画像上からターゲット車両の特徴点を検出することができない。すなわちハレーションによって、ターゲット車両の移動や接近を判定することができなかった。
【0004】
また後者の装置にあっては、カメラの絞りを制御することによって撮影時の感度を強制的に低下させてしまう構成であり、ヘッドランプ光のハレーションについては低減することができるが、夜間の低照度時であるにもかかわらず感度を下げてしまうためターゲット車両の形状や車体表面の特徴的なパターンを検出することができない。このため、ターゲット車両が存在するか否かについては検出することができるが、得られた画像からオプティカルフローなどの手法によって車両の特徴点を追跡する、すなわちターゲット車両が自車両に対して接近しているか否かを検出することができないといった問題があった。
【0005】
そこで本発明はこのような問題点に鑑み、ターゲット車両が点灯しているヘッドランプ光によるハレーションのために、撮影された画像上においてターゲット車両の車体を明確に認識できない条件においても、ターゲット車両の移動状態を検出することができる車両側方監視装置を提供することを目的とする。
【0006】
【課題を解決するための手段】
本発明は、車両に取り付けられ、自車両の少なくとも左右側方を含む領域を撮影するカメラによって撮影された画像から、垂直方向の画角全域に縦断する高輝度領域の検出を行う高輝度領域検出手段と、カメラによって撮影された画像内において、高輝度領域検出手段によって検出された高輝度領域の水平方向の平行移動を検出する高輝度領域移動検出手段とを備え、該高輝度領域移動検出手段によって高輝度領域の移動が検出されたときに、自車両に対して相対的に移動する移動体が存在すると判定するものとした。
【0007】
【発明の効果】
本発明によれば、移動体のヘッドランプ光によるハレーションのために、撮像された画像から移動体を明確に認識できない状況であったとしても、カメラに強い光が入射した際に原理的に発生するスミアの移動を検出することによって、移動体が存在するか否かを安定して検出することができる。
【0008】
【発明の実施の形態】
次に本発明の実施の形態を実施例により説明する。
まず本発明における第一の実施例について説明する。
図1に、第一の実施例における車両側方監視装置の構成を示す。また図2に車両に設置するCCDカメラの設置位置およびCCDカメラによる撮影範囲を示す。
自車両の左右側方を所定の画角で監視撮影するCCDカメラ(以下、カメラと略す)3a、3bが、画像処理部4に接続される。図2に示すように、カメラ3aは自車両1の前方左端に設置されて左側方を監視撮影し、カメラ3bは自車両1の前方右端に設置されて右側方を監視撮影する。図では、右側方監視用のカメラ3bのカメラ撮影範囲内に車両2が存在しており、カメラ3bによって車両2が撮影されている。
【0009】
カメラ3a、3bによって撮影された左右側方映像は画像処理部4に入力される。このとき、カメラ3aが出力する信号を映像信号S1aとし、カメラ3bが出力する信号を映像信号S1bとする。
画像処理部4は、入力された画像をフレーム単位ごとに複数フレームをメモリして、それらの画像に対してフィルタリングや2値化、直線検出、幾何学変換、画像フレーム間での論理演算など各種の画像処理を実行するものである。
また画像処理部4はシステム制御部5に接続され、画像処理部4は画像処理結果をシステム制御部5に出力する。
【0010】
図3に、画像処理部の構成を示す。
画像処理部4は映像信号S1a、S1bを受信する画像入力部4aを備えている。また画像処理部4はスミア検出部4b、移動判断部4c、報知信号出力部4dおよび画像出力部4eを備えている。
画像入力部4aは入力された映像信号S1a、S1bに対してAD変換を行い、デジタル画像データとして記憶する。
【0011】
記憶されたデジタル画像データから、スミア検出部4bによって、カメラ画像上に発生する垂直方向の線状高輝度領域であるスミアが検出される。検出されたスミアは移動判断部4cによって水平方向の移動の有無および移動方向が検出される。
報知信号出力部4dは移動判断部4cの出力結果にもとづいて、図1におけるシステム制御部5ヘ、ドライバに対して報知の必要性の有無を指示する報知信号Scを出力する。
【0012】
画像出力部4eは、画像入力部4aから入力されたデジタル画像データに対してDA変換を行って再び映像信号に戻し、映像信号S2a、S2bとして出力する。さらに、画像出力部4eでは報知信号出力部4dからの報知信号Scにもとづいて所定のアラーム表示等を原画像(画像入力部4aからのデジタル画像信号)に重畳表示する機能を持たせても良い。
なお、画像処理部4の実際のハードウェアは、AD変換器、DA変換器、画像メモリ、CPU、画像処理専用DSP、デジタルIOなどから構成されるものである(図示省略)。
【0013】
図1に示すシステム制御部5は、側方監視スイッチ8から側方監視機能のON−OFFを切り替えるON−OFF信号と、車速センサ9から車両の走行車速信号とが入力されており、側方監視機能を作動させるか否かの判断を行う機能を備える。
また、このシステム制御部5にはナビゲーションシステム7から出力される地図及び自車現在位置表示、経路誘導など、いわゆるナビゲーション機能表示のためのRGB画像が入力される。システム制御部5は、ナビゲーションシステム7からのRGB画像と前述の画像処理部4から出力される映像信号とを、側方監視スイッチ8のON−OFF状態と走行車速とによって決まる所定条件にもとづいて切替え制御を行い、選択された映像信号S3を外部に出力する機能を備える。
【0014】
さらに、システム制御部5にはブザー10とインジケータ11とが接続されており、画像処理部4から出力される報知信号Scにもとづいて、報知が必要と判断された場合には、カメラからの映像信号に所定のアラーム表示を重畳表示させる映像信号を出力したり、ドライバに注意を促すためのアラーム音発生用のブザー10を駆動する駆動信号や、インジケータ11の点灯を指示する駆動信号が出力される。
【0015】
システム制御部5から出力される映像信号S3は車載のディスプレイ6に入力されて、ディスプレイ6の画面上に映像が表示される。このディスプレイ6は車両のダッシュ内またはダッシュ上に設置され、液晶方式など一般的に使用されているものを用いる。
【0016】
なお、本実施例では左右独立のカメラを備える例を示しているのでディスプレイ6にカメラ映像を表示する際には、システム制御部5の内部で左右のカメラ3a、3bの撮影画像を合成する、あるいは側方監視スイッチ8の状態にもとづいて、カメラ3a、3bのうちの一方の撮影画像を選択して表示する機能も備えるものである。
また、左右映像を合成する機能はシステム制御部5ではなく、画像処理部4の内部に備えることも可能である。
【0017】
次に、車両側方監視装置の各部の動作について説明する。
図4は、車両側方監視装置のシステム全体の動作を示すフローチャートであり、図6は、図4のステップ105における接近車検知処理の詳細を示すフローチャートである。
なお、本実施例においてはカメラ3a、3bを左右独立に備えた例を示しているが、ここでは説明の簡略化のため自車両右側のカメラ3bに関する動作についてのみの説明を行い、左側のカメラ3aによる動作については、右側のカメラ3bと同様であるため説明を省略する。
ステップ100において、図示しない車両のイグニツションスイッチがONとなると、電源が投入されてシステム制御部5は車両側方監視処理を開始する。
【0018】
ステップ101において、システム制御部5はナビゲーションシステム7から出力されるナビゲーション画像(地図、自車の現在位置、経路誘導などの画面であるが説明図の記載は省略)を選択し、ディスプレイ6に表示させる。
次にステップ102において、車速センサ9から常時出力されている車速信号をもとに自車両1の現在車速を算出し、車速が0km/h、すなわち自車両1が停止しているかどうかの判断を行う。車速が0km/hでないときは走行中であるため、ステップ101において実行されたナビゲーション表示を継続する。一方、車速が0km/hであるときは自車両1は停止していると判断し、ステップ103へ進む。
【0019】
ステップ103において、側方監視スイッチ8がONになっているかどうかの判断を行う。側方監視スイッチ8は、たとえば車両の運転席付近に設置されており、見通しの悪い交差点などで左右の様子を確認したいときに車両の乗員が側方監視スイッチ8を操作して、カメラ3a、3bによる撮影画像の表示をON−OFFするものである。
【0020】
側方監視スイッチ8がOFFである場合には、ステップ101へ戻りカメラ3a、3bによる側方監視機能を作動させずにナビゲーション表示を継続する。
一方、監視スイッチ8がONであると判断された場合には、ステップ104においてシステム制御部5は、画像処理部4内の画像入力部4aと画像出力部4eを介して入力されたカメラ3bの映像信号S2bを、それまで選択されていたナビゲーション画像に替えてディスプレイ6に表示する。
【0021】
低照度となる夜間において、カメラ3bの撮影範囲内の自車両1に接近する車両を撮影した画像は、ヘッドランプ光に起因する概略円形のハレーションと、そこを光源として垂直方向に伸びる線状の光の帯であるスミアとが観測され、さらに他の光源による光の点が多数観測される。
【0022】
ステップ104でカメラ画像が表示されると、ステップ105において、画像処理部4内で接近車検知処理が実行される。この接近車検知処理の詳細については後述する。
ステップ105において接近車検知処理が実行された結果、接近車両の存在が検出されたときは、画像処理部4から出力される報知信号Scがシステム制御部5に入力されるので、ステップ106において報知信号Scが入力されたか否かを判断する。報知信号Scが入力されていなければステップ102に戻り、上述の処理を繰り返す。
【0023】
報知信号Scが出力されているときは自車両1への接近車両が存在することになり、システム制御部5は画像処理部4から出力されるカメラ3bの映像信号S2bに接近車両に注意する旨のアラーム表示を重畳させ、このアラーム表示を重畳させた映像信号を映像信号S3としてディスプレイ6に出力する。これにより、図5に示されるように、カメラによって撮影された画像中に接近車両に注意する旨のアラームが表示される。
【0024】
ステップ108において、さらにシステム制御部5はブザー10を駆動するための信号およびインジケータ11の点灯を指示する駆動信号を出力する。これにより、接近車両があることを知らせるブザー音がブザー10から吹鳴され、インジケータ11が点灯する。
その後、ステップ102の車速判定に戻り、以下同様の動作を繰り返す。
【0025】
次に画像処理部4の内部で実行される接近検知処理(図4のステップ105)の動作について、図6に示すフローチャートを用いて説明する。
接近検知処理が開始されるとステップ201において、画像入力カウンタのカウント値nをリセット(n=0)する。このカウント値nは、カメラの撮影映像をデジタル画像データ(以下、画像データ)として取り込む回数を管理するためのものである。
【0026】
画像入力カウンタのリセット後、ステップ202において画像入力部4aは、カメラ3bからの原画像である映像信号Slbを取り込む。ステップ203において、取り込んだ映像信号S1bをデジタルの原画像データとして画像メモリInに格納する。現時点においてカウント値n=0であるため、原画像データを画像メモリI0に格納する。
一般的に原画像データには多くのノイズが含まれているため、ステップ204においてノイズ除去フィルタ処理を実行する。このノイズ除去はメディアンフィルタなどを用いて平滑化するもので、一般的な手法を用いればよい。
【0027】
図8の(a)は時刻Tにおいて撮像され、平滑処理された後の画像を示している。また図には路側に設置された街灯12の発光部を光源とするハレーション13aと、街灯12を光源とするスミア14a、さらに車両2に備えられた2個のヘッドランプ光を光源とするハレーション13bとこのヘッドランプ光を光源とするスミア14bとが映しだされている。また街灯12の発光部や車両2の前部がハレーション13a、13bによって覆い隠されて、その形状を明確に認識することができなくなっている。
【0028】
次にステップ205において、ノイズ除去した画像に対して所定のしきい値を用いて2値化処理を実行し、画像の中から著しく高輝度な領域の抽出を行う。これにより車両2のヘッドランプ光、街灯12、路面の白線、その他の光で周辺よりも著しく明るい領域が抽出される。
【0029】
図8の(b)に、時刻Tにおける画像データ(図8の(a))を2値化処理することによって高輝度領域を抽出した画像を示す。図では車両2のヘッドランプ光によるハレーション13bと、このヘッドランプ光を光源とする2本のスミア14b、街灯12の光によるハレーション13aとそこを光源とするスミア14aが抽出されている。
なお図は、画像データを2値化処理をした結果が、所定のしきい値よりも暗い領域を白、明るい領域を黒色で表現してある。また実際の画像では、多くの高輝度領域が検出されることがあるが、以下の説明では簡単にするため機能の説明上必要な部分に限定して記述する。
【0030】
次にステップ206において、2値化処理が行われた2値化画像の中から垂直な線分領域のみを抽出する。この垂直線分の抽出方法についてはHough変換など一般的に知られた手法を用いることができるため説明を省略する。
図8の(c)は、図8の(b)に示す2値化画像から垂直線分のみを抽出した結果の画像である。スミアによる垂直線分はハレーションによる円形領域で分断されて、街灯12の光によるスミアの一部である垂直線分L11とL12、車両2のヘッドランプ光によるスミアの一部である垂直線分L21、L22、L31、L32とに分割されて抽出される。
【0031】
次にステップ207において、分断されて検出された垂直線分がスミアであるか否かを判断するために線分補完処理を実行する。
ここで線分補完処理の詳細について、図7のフローチャートを用いて説明する。
ステップ301において、検出された垂直線分すなわちスミアの一部である垂直線分L11、L12、L21、L22、L31およびL32を、垂直線分ごとにそれぞれ上下方向に延長する。
【0032】
次にステップ302において、延長された垂直線分同士で他の垂直線分と連結されるものがあるか否かを判定する。垂直線分が連結されないときは図7のフローチャートに示した線分補完処理を終了し、図6のフローチャートに示す接近車検知処理に戻る。
【0033】
連結された垂直線分が検出された場合はステップ303において、その垂直線分が垂直画角全部を縦断するか否かを判定する。そして垂直画角全部を縦断する垂直線分が存在すると判定された場合、ステップ304においてその垂直線分をスミアであると判定し、線分補完処理を終了して図6のフローチャートに示す接近車検知処理に戻る。
【0034】
図8の(d)に、図8の(c)に示す画像に対して線分補完処理を行い、分断された6本の垂直線分が3本の垂直線分に変換された様子を示す。
線分補完処理によって、図8の(c)に示す垂直線分L11とL12とが延長されて、図8の(d)に示す一本の直線である垂直線分L10となる。同様に垂直線分L21とL22とが延長されて垂直線分L20となり、さらに垂直線分L31とL32とが延長されて垂直線分L30となる。
またこれらの垂直線分L10、L20およびL30は、いずれもその両端が画角上下端に接触、すなわち垂直画角いっぱいの線分であるため、これらの垂直線分L10、L20およびL30はスミアであると判定される。
【0035】
図6のフローチャートに戻り、ステップ208では線分補完処理(ステップ207)において、スミア判定がされているか否かの判断を行う。
スミアがない場合はカメラに入射する強い光源がないため、ステップ212において通常のオプティカルフロー処理によって移動物体の検出処理を行い、ステップ201に戻る。
【0036】
一方ステップ208においてスミア判定がされていると判断された場合には、ステップ209において、垂直線分が補完された後のスミア画像(図8の(d))を、移動判定用画像データISnとして登録する。現時点において、カウント値n=0のため、移動判定用画像データIS0として登録する。
移動判定用画像データの登録後、ステップ210において画像入力カウンタのカウント値nが1か否かを判定する。
【0037】
カウント値nが1でない場合(すなわち、カウント値nがゼロの場合)には、ステップ211において画像入力カウンタをインクリメントしてステップ202に戻り、次のカメラ原画像(図9の(a)に示す時刻T+ΔTにおけるカメラ原画像)を取得する。図9の(a)には、街灯12の発光部を光源とするハレーション13a’と街灯12の発光部を光源とするスミア14a’、さらに車両2のヘッドランプ光を光源とするハレーション13b’とスミア14b’とが映しだされている。
【0038】
この時刻T+ΔTにおけるカメラ原画像は、ステップ203において原画像データとして画像メモリI1に格納し、以下、上記ステップ204から208の処理を繰り返す。
これにより、ステップ205で時刻T+ΔTの時点におけるカメラ画像データに対して2値化処理を行うことによって、図9の(b)に示すように、ハレーション13a’、13b’およびスミア14a’、14b’が抽出された画像を得ることができる。
【0039】
さらにステップ206において垂直線分の抽出を行うことにより、図9の(c)に示すように垂直線分L41、L42、L51、L52、L61およびL62が抽出される。またステップ207において線分補完処理を行うことにより、図9の(d)に示すように垂直線分L41、L42が延長されて垂直線分L40となり、また垂直線分L51、L52が延長されて垂直線分L50となり、垂直線分L61、L62が延長されて垂直線分L60となる。
【0040】
また時刻T+ΔTの時点において撮像された画像中にスミアが存在し、ステップ208において、スミア判定がされていると判断された場合には、ステップ209において、時刻T+ΔTの時点における撮像画像のスミア画像を、移動判定用画像データIS1として登録する。
【0041】
ステップ210において、画像入力カウンタのカウント値nが1であると判定された場合、ステップ213へ進む。
ステップ213において、撮像時間がΔT時間離れ、スミアを含む画橡として登録された移動判定用画像データIS0(図8の(d))と、移動判定用画像データIS1(図9の(d))との差分処理を実行し、差分画像ISS(図10の(a))を得る。
【0042】
移動判定用画像データIS0における垂直線分L10と、移動判定用画像データIS1における垂直線分L40とは静止物である街灯12の光を光源とするスミアであり、自車両1が停止している場合には撮像画像中の同じ位置に検出される。したがって移動判定用画像IS0とISlの差分をとると垂直線分Ll0とL40は消去される。
【0043】
一方、自車両1に向かって接近移動している車両2のヘッドランプを光源とするスミアの場合には、垂直線分L20、L30とL50、L60は車両2の移動、すなわち光源の移動に伴って水平方向の位置がずれて検出されるため、差分をとった後も消去されずに残ることになる。
【0044】
ステップ214において、差分画像ISSの中から時間経過に伴って平行移動した垂直線分の検出を行う。ここでは、図10の(b)に示すように垂直線分L20がL50の位置へ、垂直線分L30がL60の位置へ平行移動している。
次にステップ215において、検出された垂直線分の平行移動が自車両1に対する接近方向か否かを判定する。垂直線分が右から左の方向に移動していれば自車両1に対する接近方向であると判定する。
【0045】
ステップ215において垂直線分の接近方向への平行移動が検出された場合には、ステップ216において、自車両1に対して車両が接近していることを知らせる報知信号Scをシステム制御部5へ出力する。報知信号Scの出力後、ステップ201へ戻る。
一方、ステップ215において垂直線分の移動が接近方向でないと判定された場合には、ステップ201へ戻り上述の処理を繰り返す。
【0046】
システム制御部5は報知信号Scを受けると、前述のようにアラーム表示をカメラ映像に重畳してディスプレイ6に表示する(図5)とともにブザー10を駆動してアラーム音を発生させ、さらにインジケータ11を点灯させる。
本実施例において、ステップ206、207およびステップ301からステップ304が本発明における高輝度領域検出手段を構成し、とくにステップ206が高輝度線分検出手段を構成する。またステップ213、214が本発明における高輝度領域移動検出手段を構成する。さらにステップ216が本発明における報知手段を構成し、ステップ215が移動方向検出手段を構成する。
【0047】
本実施例は以上のように構成され、カメラ3a、3bによって撮影された画像から高輝度領域をスミアとして検出し、スミアが移動しているか否かを検出することによって自車両1に近づく移動体が存在するか否かを判断する。
これにより、たとえば夜間の交差点等において交差する道路を自車両の側方から接近する車両が存在し、この接近する車両が点灯しているヘッドランプ光によるハレーションのために、カメラによって撮影された画像から接近する車両の本体を明確に検出することができない状態であっても、カメラに強い光が入射した場合に原理的に発生する線状の光(スミア)の動きを追跡することによって、接近する車両の移動状態を安定して検出することができる。
【0048】
また、強い光源によるスミアの発生を抑えるために撮影時にカメラの絞りを大きく絞り込む必要がないためにカメラの感度が低下することがない。
さらに、カメラの感度が低下することがないため、撮影された映像を車載のディスプレイに表示することによって車両のドライバに対して車両周辺の監視を支援する場合においても、その検出対象とする車両の周辺に存在する建物や道路建造物、歩行者など車両以外の他の被写体を撮影画像から認識することができ、夜間においてもドライバは表示された画像を視認することによって車両周囲の状況確認を容易に行うことができる。
【0049】
また、高輝度線分としての垂直線分を垂直方向へ延長した場合に、他の垂直線分と接続し、かつ撮影された画像の垂直画角全体にまたがる垂直線分を、高輝度領域(スミア)として検出する。これにより、ハレーションが発生したために分断されたスミアを正確に検出することができる。
【0050】
さらに、スミアの移動方向をもとに自車両1に対して移動体(車両2)が接近しているか否かを判断し、移動体が接近している場合に自車両1のドライバに移動体の接近を報知する。これにより、夜間の交差点通過時等において自動的に自車両に対して接近する車両の存在が報知されるため、交差点に接近する他の車両の存在有無を確認しやすくなり、ドライバの安全確認の負担を低減することができる。
【0051】
車速センサが車速ゼロを検出している場合に、自車両に対して移動している車両が存在するか否かの検出処理を行うこととしたので、カメラ3a、3bによって撮影された画像中において、高輝度領域であるスミアが移動すれば、自車両に対して相対的に移動している車両が存在するとして検出することができ、移動する車両の検出処理を容易に行うことができる。
【0052】
次に本発明における車両側方監視装置の第二の実施例について説明する。
本実施例は、上記第一の実施例における車両側方監視装置においてスミア検出処理の精度を向上させたものである。
また第二の実施例における車両側方監視装置の構成は、第一の実施例において説明した画像処理部4の処理内容を変更したものであり、他の構成については説明を省略する。
【0053】
図11に、画像処理部4’の構成を示す。
画像処理部4’の内部に、ヘッドランプ光の光源を検出するヘッドランプ光検出部4fを備える。画像入力部4aで取り込まれた原画像データは、ヘッドランプ光検出部4fにおいてヘッドランプ光の光源が検出され、続いてスミア検出部4bにおいてスミアが検出される。
画像処理部4’の他の構成は、上記第一の実施例において図3を用いて説明した画像処理部4の構成と同じであり、同じ番号を付して説明を省略する。
また本実施例における車両側方監視装置のシステム全体の動作についても、上記第一の実施例において図4を用いて説明した処理の流れと同じである。
【0054】
次に画像処理部4’の内部で実行される接近検知処理(図4のステップ105)の動作について、図12に示すフローチャートを用いて説明する。
なおステップ401からステップ405については、上記図4におけるステップ201からステップ205と同じである。
時刻Tにおいて撮像された画像(図8の(a))に対して2値化処理が行われ、高輝度領域が抽出された2値化画像の中から、ステップ406において、包絡線がほぼ円形となる高輝度の円形領域を抽出する。
【0055】
図13の(a)は、図8の(a)に示す画像から円形領域ClおよびC2が抽出された例を示している。円形領域C1は車両2のヘッドランプ光によるものであり、円形領域C2は街灯12の光によるものである。
次にステップ407において、ステップ405で2値化処理が行われた2値化画像の中から垂直線分の領域を抽出する。
図13の(b)に、抽出された垂直線分の例を示す。垂直線分L101およびL102は、たとえば車両2の周囲の建物や街灯の柱など明るい構造物に光が反射するなどして現れる高輝度領域である。ただし図8の(a)においては、車両2の周囲の建物や街灯などの構造物については図示していない。
【0056】
ステップ408において、検出された垂直線分の中から円形領域に接続する垂直線分のみを抽出する。図13の(c)はその抽出された垂直線分を示したものである。円形領域C1に接続する垂直線分L81、L82、L91、L92および、もうひとつの円形領域C2に接続する垂直線分L71、L72、Ll00が、スミア候補として選択され、円形領域に接触していない垂直線分L101およびL102は消去される。
【0057】
次にステップ409において、抽出された垂直線分について、上述の図7に示すフローチャートにもとづいて線分補完処理を実行する。その結果、図13の(d)に示すように垂直線分L81と垂直線分L82とが接続されて垂直線分L80に、垂直線分L91と垂直線分L92とが接続されて垂直線分L90に、また垂直線分L71と垂直線分L72とが接続されて垂直線分L70となり、それぞれ垂直画角を縦断する直線となる。しかし垂直線分L100はその線分を延長しても他に接続される垂直線分が存在しないため消去される。
ステップ409以降の処理については、上述の図6に示すステップ207以降の処理と同じであり説明を省略する。
【0058】
この方法では、建物のエッジなど実体のある高輝度領域が垂直線分として抽出されたとしても、スミアの候補として選択されないのでスミア検出処理が簡単になると共に、誤ってスミアではないものをスミアとして誤判定する可能性を低減でき検出精度を向上することができる。
なお本実施例において、ステップ406からステップ409、およびステップ301からステップ304が本発明における高輝度領域検出手段を構成し、とくにステップ406が本発明における高輝度円形領域検出手段を構成する。
【0059】
本実施例は以上のように構成され、カメラによって撮影された画像の中から車両2のヘッドランプ光や街灯12によるハレーションを円形領域として検出し、この円形領域に接続する高輝度領域のみをスミアとして検出することとしたので、撮影された画像から抽出される数多くの高輝度の垂直線分の中から、強い光源によって発生している真のスミアを選択することが容易となり、他の高輝度な垂直線分を誤ってスミアとして検出してしまうといった誤検出を低減することができる。
【0060】
なお上記各実施例の説明において、4輪車を例としてヘッドランプが離れた位置に2箇所点灯している場合の動作を示したが、2輪車のようにヘッドランプが1個の場合でも同様の動作によってスミアを検出し車両の移動を判定することができる。
【0061】
また、本実施例では車載のカメラが左右独立に設置されている場合の例を示したが、カメラ画角や設置方法はこれに限定されるものではなく、たとえば超広角レンズの付いた1台のカメラで左右の広い範囲を視野に入れる構成のものでも同様の効果を得ることができる。
【図面の簡単な説明】
【図1】本発明における第一の実施例を示す図である。
【図2】カメラの設置位置を示す図である。
【図3】画像処理部の構成を示す図である。
【図4】車両側方監視装置全体の動作を示すフローチャートである。
【図5】アラーム表示の例を示す図である。
【図6】接近車検知処理の流れを示すフローチャートである。
【図7】線分補完処理の流れを示すフローチャートである。
【図8】スミア検出処理の流れを示す図である。
【図9】スミア検出処理の流れを示す図である。
【図10】垂直線分平行移動検出処理の流れを示す図である。
【図11】第二の実施例における画像処理部の構成を示す図である。
【図12】画像処理の流れを示すフローチャートである。
【図13】スミア検出処理の流れを示す図である。
【符号の説明】
1 自車両
2 車両
3a、3b カメラ
4、4’ 画像処理部
5 システム制御部
6 ディスプレイ
7 ナビゲーションシステム
8 側方監視スイッチ
9 車速センサ
10 ブザー
11 インジケータ
12 街灯
13 ハレーション
14 スミア
4a 画像入力部
4b スミア検出部
4c 移動判断部
4d 報知信号出力部
4e 画像出力部
4f ヘッドランプ光検出部
C1、C2 円形領域
S1a、S1b、S2a、S2b 映像信号
Sc 報知信号
L10、L11、L12、L20、L21、L22、L30、L31、L32、L70、L71、L72、L80、L81、L82、L90、L91、L92、L100、L101、L102 垂直線分
Claims (6)
- 車両に取り付けられ、自車両の少なくとも左右側方を含む領域を撮影するカメラによって撮影された画像から、自車両に対して相対的に移動する移動体の検出を行う車両側方監視装置において、
前記カメラによって撮影された画像から、垂直方向の画角全域に縦断する高輝度領域の検出を行う高輝度領域検出手段と、
前記カメラによって撮影された画像内において、前記高輝度領域検出手段によって検出された高輝度領域の水平方向の平行移動を検出する高輝度領域移動検出手段とを備え、
該高輝度領域移動検出手段によって前記高輝度領域の移動が検出されたときに、自車両に対して相対的に移動する移動体が存在すると判定することを特徴とする車両側方監視装置。 - 前記高輝度領域検出手段は、前記カメラによって撮影された画像から垂直方向に伸びる高輝度な線分を検出する高輝度線分検出手段を有し、前記高輝度領域検出手段は、前記高輝度線分検出手段によって検出された前記高輝度線分を垂直方向の画角全域に延長した際に、他の高輝度線分と接続される高輝度線分を前記高輝度領域として検出することを特徴とする請求項1記載の車両側方監視装置。
- 前記高輝度領域検出手段は、前記カメラによって撮影された画像から、包絡線が略円形となる高輝度円形領域を検出する高輝度円形領域検出手段を有し、
前記高輝度領域検出手段は、前記高輝度円形領域と接続する前記高輝度線分のみを前記高輝度領域の検出対象とする事を特徴とする請求項2記載の車両側方監視装置。 - 自車両の乗員に移動体の存在を報知する報知手段を備え、
前記高輝度領域移動検出手段は、前記カメラの取り付け位置とカメラの視野範囲との関係にもとづいて、前記高輝度領域の移動方向が自車両に対して接近方向であるか否かを検出する移動方向検出手段を有し、
該移動方向検出手段によって前記高輝度領域の移動が自車両に対して接近方向であることが検出された場合に、前記報知手段は自車両の乗員に自車両に接近する移動体の存在を報知することを特徴とする請求項1、2または3記載の車両側方監視装置。 - 前記カメラは、自車両の右側方に取り付けられて自車両の右側方領域を撮影する右側カメラと、自車両の左側方に取り付けられて自車両の左側方領域を撮影する左側カメラとより構成され、
前記高輝度領域移動検出手段は、前記右側カメラによって撮影された画像内において前記高輝度領域が左方向へ移動した場合、または前記左側カメラによって撮影された画像内において前記高輝度領域が右方向へ移動した場合に、前記高輝度領域の移動が自車両に対して接近方向であるとして検出することを特徴とする請求項4記載の車両側方監視装置。 - 自車両の車速を検出する車速センサを備え、
前記車速センサによって車速がゼロであることが検出されたときに、前記高輝度領域移動検出手段は高輝度領域の移動の検出を行うことを特徴とする請求項1から5のいずれか1に記載の車両側方監視装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003107990A JP2004320137A (ja) | 2003-04-11 | 2003-04-11 | 車両側方監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003107990A JP2004320137A (ja) | 2003-04-11 | 2003-04-11 | 車両側方監視装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004320137A true JP2004320137A (ja) | 2004-11-11 |
Family
ID=33469676
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003107990A Withdrawn JP2004320137A (ja) | 2003-04-11 | 2003-04-11 | 車両側方監視装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004320137A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007122570A (ja) * | 2005-10-31 | 2007-05-17 | Fujitsu Ltd | パターン認識装置及びパターン認識プログラム |
JP2007300559A (ja) * | 2006-05-02 | 2007-11-15 | Alpine Electronics Inc | 車両周辺画像提供装置及び車両周辺画像における影補正方法 |
JP2009230225A (ja) * | 2008-03-19 | 2009-10-08 | Mazda Motor Corp | 車両用周囲監視装置 |
-
2003
- 2003-04-11 JP JP2003107990A patent/JP2004320137A/ja not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007122570A (ja) * | 2005-10-31 | 2007-05-17 | Fujitsu Ltd | パターン認識装置及びパターン認識プログラム |
JP2007300559A (ja) * | 2006-05-02 | 2007-11-15 | Alpine Electronics Inc | 車両周辺画像提供装置及び車両周辺画像における影補正方法 |
JP2009230225A (ja) * | 2008-03-19 | 2009-10-08 | Mazda Motor Corp | 車両用周囲監視装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5615862B2 (ja) | 車両周囲監視装置 | |
JP6089957B2 (ja) | 灯火制御装置 | |
JP2008131648A (ja) | ビデオ画像を提示する方法およびシステム | |
US10546422B2 (en) | System and method for augmented reality support using a lighting system's sensor data | |
JP2000318513A (ja) | 車両用障害物検出装置 | |
JP2010234851A (ja) | 車両用表示装置 | |
JP4927647B2 (ja) | 車両周辺監視装置 | |
JP2007015525A (ja) | カメラが撮影した前方画像に基づいて、先行車両と自車両との間の接近の危険に対処するための信号を出力する出力装置、および、当該出力装置のためのプログラム | |
JP2012032921A (ja) | 障害物検知システム及び方法、障害物検知装置 | |
JP2002362302A (ja) | 歩行者検出装置 | |
JP2007251258A (ja) | 画像認識装置 | |
KR101496322B1 (ko) | 주행차량 사각지대의 위험요소 알림 장치 | |
JP2011227657A (ja) | 車両の周辺を監視する装置 | |
JP2005318408A (ja) | 車両周囲監視装置および方法 | |
JP2011087037A (ja) | 車両用障害物検出装置 | |
JP2003009140A (ja) | 歩行者検出装置 | |
JP2004320137A (ja) | 車両側方監視装置 | |
JP3850021B2 (ja) | 赤外線照明付撮影装置 | |
JPH0541087Y2 (ja) | ||
JP2013025568A (ja) | 接近障害物検出装置及びプログラム | |
JP7084223B2 (ja) | 画像処理装置および車両用灯具 | |
JPH1063985A (ja) | 障害物検出装置 | |
KR101850030B1 (ko) | 조도를 이용한 차선 변경 보조 방법 및 장치 | |
JP2005050139A (ja) | 車両用表示制御装置 | |
JP2011098579A (ja) | 車両のテールランプ検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060704 |