JP3747599B2 - 車両用障害物検出装置 - Google Patents
車両用障害物検出装置 Download PDFInfo
- Publication number
- JP3747599B2 JP3747599B2 JP33484797A JP33484797A JP3747599B2 JP 3747599 B2 JP3747599 B2 JP 3747599B2 JP 33484797 A JP33484797 A JP 33484797A JP 33484797 A JP33484797 A JP 33484797A JP 3747599 B2 JP3747599 B2 JP 3747599B2
- Authority
- JP
- Japan
- Prior art keywords
- preceding vehicle
- window
- image
- distance
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
この発明は、先行車を画像処理によって位置検出及び挙動判定を行なう車両用障害物検出装置に関する。
【0002】
【従来の技術】
従来、車両用の障害物検出装置としては、例えば特開平2−300741号公報に記載されたものがある。これは、障害物の検出に熱画像とカラー画像を用いて、熱画像においてマフラーを検出し、マフラー位置から左右斜め上にオレンジまたは赤色のウインカをカラー画像から検出することによって車両検出を行なうものである。
【0003】
【発明が解決しようとする課題】
しかしながら、上記のような従来のものにあっては、熱画像を得るのにやや特殊の赤外線カメラを使い、カラー画像を撮像するカメラとあわせて2種類のカメラを使用しなければならず、装置が大型になり、コスト高となってしまう。
また、マフラーが温まっていない場合や、気温が高く、車体が日差しで熱を持った場合などは、マフラーの検出が困難でオレンジや赤のウインカの検出位置が定まらず先行車の検出が不可能となる欠点がある。
【0004】
さらに、車両までの距離や二輪車、トラックなどの車種によってマフラーとウインカの位置関係が異なることにより、マフラーを検出してもウインカの検出ができず、結果的に熱をもった部分やオレンジまたは赤色の部分の検出だけで車両検出を行なうことになり、検出結果が不確実である。
【0005】
また、ウインカの検出を色で検出しているため、オレンジ色車体の車両ではウインカの検出が困難である。同じ理由によりデリニエータなどのオレンジ色の反射板がウインカに近い色を有するためウインカと誤検出される可能性が高いなどの問題点がある。
【0006】
なお、上記の従来例では、車両の検出のみであって、車両の走行レーン上の位置についての判断は行なっておらず、車両の挙動判断が行なえない。ウインカの点滅状態を検出して車線変更などの判断を行なうことが可能としても、ウインカを点灯させずに車線変更する車両もあり、判断結果が不確実である。
さらに走行レーンを検出しないため先行車がどの車線に変更するかの判断ができないため、先行車が自車の走行にとって障害物になるかどうかの判断ができないという問題がある。
【0007】
またこれを判断しようとしても、熱画像上には白線などが映らない。カラー画像も、ウインカのオレンジ色や赤色が検出されやすいようにコントラスト調整が行なわれ、白線の検出しにくい画像になっており、走行レーン判断が困難の装置となっている。
本実施例は、上記従来の問題点に鑑み、熱画像やカラー画像を必要とせず、先行車の走行位置を正確に特定でき、挙動判断が行なえる車両用障害物検出装置を提供することを目的としている。
【0008】
【課題を解決するための手段】
このため、請求項1記載の発明は、それぞれの光軸を互いに平行とし所定の眼間距離をもって配置された2台のカメラと、
前記2台のカメラが撮像した路面画像を第1および第2の画像として記憶する画像メモリと、
前記第1の画像内で白線を検出する白線検出手段と、
前記第1の画像内の所定領域を複数の区域に分割するようにウインドウ設定を行なうウインドウ設定手段と、
各ウインドウと最も類似度の高いウインドウの位置を前記第2の画像から検出するマッチング位置検出手段と、
2枚の画像間で互いに類似度の高いウインドウが存在する画像上の位置と2台のカメラの位置関係をもとに、各ウインドウ内に撮像された物体までの距離を演算する距離演算手段と、
同じ距離値が算出されかつウインドウが隣接するウインドウのかたまりを先行車の検出領域として検出しウインドウの距離値を先行車の検出距離とする先行車検出手段と、
前記ウインドウのかたまりと前記白線の位置関係に基づき先行車の走行レーンを判断する走行レーン判断手段と、
前記走行レーン上の先行車の横方向位置を検出する横方向位置検出手段と、
該横方向位置検出手段に接続され、前記先行車の横方向位置の時間的変化を検出して先行車の挙動を判定する先行車挙動判定手段とを有するものとした。
【0009】
請求項2記載の発明は、先行車挙動判定手段のかわりに、前記先行車検出手段に接続され、前記先行車の検出距離から先行車の画像位置を演算し、画像位置の時間的変化により前方路面状況を認識する道路状況認識手段が設けられているものとした。
請求項3記載の発明は、前記白線検出手段が、先行車より下方の画像領域を白線検出領域とするものとした。
【0010】
【作用】
請求項1記載の発明では、2台のカメラがステレオカメラを形成し、視差をもった第1、第2の画像が撮像されるとともに画像メモリに記憶される。白線検出手段により第1の画像から白線が検出される。ウインドウ設定手段が第1の画像内の所定領域に領域を分割するようにウインドウ設定を行なう。マッチング位置検出手段が各ウインドウと最も類似度の高いウインドウの位置をマッチング処理によって第2の画像内から検出する。
【0011】
距離演算手段が第1と第2の画像間の互いに最も類似度の高いウインドウの位置および2台のカメラの位置関係をもとに三角測量法によりウインドウ内に撮像された物体までの距離を算出する。隣接するウインドウにおいて同じ距離値が算出される場合は、それらのウインドウには同じ対象物が撮像されていると判断できるので、先行車検出手段が同じ距離値が算出されかつウインドウが隣接するウインドウのかたまりを先行車の検出領域として検出する。ウインドウの距離値は先行車の検出距離となる。走行レーン判断手段がウインドウのかたまりと白線の位置関係で先行車が走行するレーンを判断する。横方向位置検出手段は先行車と同じ距離上の白線位置を検出し白線に対する先行車の横方向位置を検出する。
【0012】
このように先行車の検出をステレオ画像上で行なうので、モノクロ画像でも用が足り、熱や車色などが影響要素にならず、使用環境を選ばない効果が得られる。また、白線を検出し先行車の走行レーンを判断し、かつ白線に対する先行車の横方向位置を検出するので、自律走行制御や接近警報などの機能が簡単に構築できるとともに、車両位置の時間的変化を判断することで、挙動判断ができより高次元の走行制御が行なえるようになる。
【0013】
そしてさらに、先行車挙動判定手段が設けられるから、先行車の横方向位置の時間的変化が検出され、先行車の挙動判定ができる。例えば左白線や右白線に接近しつつある場合、先行車が車線変更を行なっていると判断できる。またこの判断はウインカの点滅判断によらないため、ウインカの点滅検出も不要で、環境色や輝度に影響されない効果が得られる。ウインカをつけない車線変更を行なう先行車についても判断ができる。
【0014】
請求項2記載の発明では、道路状況認識手段が設けられ、先行車の検出距離から先行車の画像位置を演算し、画像位置の時間的変化により前方路面状況を認識するようにしたので、例えば先行車の画像位置が下がったときに先行車が下だり坂を走行し始めると判断できる。これによって自車を減速制御するなどの道路状況に対応した車両制御が行なえる。
【0015】
請求項3記載の発明では、白線を検出する画像領域を先行車より下方の画像領域とすることで、先行車に遮られた遠方白線は検出対象から除外され処理するデータが減少するとともに誤検出が減少される効果が得られる。
【0016】
【発明の実施の形態】
以下、この発明の実施の形態を実施例により説明する。
ここでは、実施例に係わる装置を具体的に説明する前に、ステレオカメラにより得られるステレオ画像を画像処理により前方障害物である先行車の位置を検出する原理を説明する。
【0017】
図1は、ステレオカメラによるステレオ画像を用いて先行車Cまでの距離Zを求める三角測量原理を説明する図である。ここでは、ステレオカメラを構成する2台のカメラ1、2が車両に搭載されている。カメラ1、2は、同一の焦点距離fを有するレンズL1、L2と、各レンズから撮像面までの距離が焦点距離fとなるように配置されたCCD1a、2aとをそれぞれ有するCCDカメラである。
【0018】
カメラ1、2は、CCD1a、2aの各撮像面が同一垂直面内に位置し、各撮像面の垂直基準軸であるY軸、すなわCCD1aの撮像面の軸とCCD2aの撮像面の軸(YA、YB)が一致し、レンズL1、L2の光軸1b、2bが互いに平行でかつ眼間距離(光軸1b、2b間の距離)Dが所定の値となるように、上下に並べて配置されている。
【0019】
焦点距離f及び眼間距離Dが既知であり、光軸1b、2bが互いに平行な2台のカメラ1、2で車両前方を撮像して得られる2つの画像からなるステレオ画像において、2つの画像間のマッチング位置(最も類似する画像の位置で、図1では先行車Cのリヤ側上縁部の位置)のY座標ya、ybを求めることができれば、カメラ1、2から先行車Cまでの距離Zは下記の式(1)より求めることができる。
Z=f×D/(yb−ya) (1)
ここで、f、ya、ybの単位はCCD1a、2aの画素であり、D、Zの単位はmmである。一般に焦点距離fは単位をmmで表す場合が多いが、式(1)の焦点距離fは画素を単位として計算する。
【0020】
ここで、画素を単位とする焦点距離fの求め方を図2に基づいて説明する。図2の(a)は大きさのわかっている幅W(mm)の物体C’を距離Z(mm)だけ離れたところで2台のカメラ1、2の一方(ここではカメラ1)により撮像したときの様子を示し、同図の(b)はそのとき得られる画像Aを示す。以下の説明では、カメラ1により撮像される第1の画像をA、そしてカメラ2により撮像される第2の画像をBとする。
【0021】
画素を単位とする焦点距離fは、大きさのわかっている幅W(mm)の物体C’を距離Z(mm)だけ離れたところにおいて撮像し、このとき得られる画像A(または画像B)上での物体C’の幅xw(画素)をエッジ検出などの画像処理により検出することで、下記の式(2)により求めることができる。
f=xw×Z/W (2)
ここで、xwの単位は画素であり、Z、Wの単位はmmである。
【0022】
図3は、画像A内の所定域をウインドウ毎に切り、各ウインドウW内に撮像されている対象物の特徴的なエッジなどを用いて、画像Bにおける同画像の撮像位置を求めた結果を示す図である。(a)はウインドウを切った画像Aで、(b)は同じ対象物が求められたウインドウを示している画像Bである。
ウインドウ毎にA、B画像間のマッチング位置(Y軸方向)が分かれば、式(1)を用いることによりウインドウに区画された域内のすべての物体の距離が分かる。
【0023】
ウインドウ毎に算出される距離は、その内部に撮像されているエッジなどの特徴的な部分を持つ物体までの距離であるので、隣接するウインドウにおいて同じ距離が求められた場合は、それらのウインドウには同じ対象物が撮像されていると判断することができる。したがって同じ距離値が検出されるウインドウのかたまりを撮像された物体として検出することができる。
【0024】
先行車はその下部が路面と繋がって撮像されるため、図3の(b)に示すように先行車と同じ距離が検出されるウインドウは路面部分を含むものとなる(太線ウインドウ)。路面部分を取り除くべく、図4のように同じ距離が検出されるウインドウのかたまりのうち路面を含まない上段ウインドウの両サイドウインドウ位置を検出しその範囲を先行車の検出範囲として下段にあるウインドウの抽出域を決定すれば、路面部分を含まないウインドウのかたまりE(太線ウインドウ)を先行車として検出できる。
【0025】
次に、検出された先行車の横方向位置の検出について説明する。
図5は、先行車Cのリヤ側下縁部を距離Zだけ離れたところで撮像(ここではカメラ1により撮像)したときの様子を示す。この図から分かるように距離Zに検出された先行車Cの下縁が撮像される画像上のY軸方向の位置は式(3)により求めることができる。
yc=〔(h−H)・f〕/Z (3)
ここで、Hは路面から先行車の下縁までの高さ、hは路面からカメラのレンズ中心までの高さ、fは焦点距離、Zは車間距離とする。
【0026】
距離Zはウインドウのマッチングによって検出されるため、上記式(3)により画像上のY座標位置ycを求めることができる。図6のように画像上にY=ycのラインを引くことによって、先行車と同じ距離の画像位置(Y軸)が決定される。したがってラインと白線の交わる点(xll、xlr)は先行車と同じ距離上の白線位置となる。そのライン上で、先行車と白線の交点との位置関係を判断すれば先行車が自車走行レーンであるか、隣接走行レーンであるかの判断ができる。
【0027】
車両の横方向位置は走行レーンとの位置関係で判断される。まず、図7に示すようにラインY=ycと交わる2本白線の交点位置(xll、yc)、(xlr、yc)を算出する。したがって、白線から先行車の両サイドまでの画像上の距離は、
左白線に対する距離xLLは、xcl−xllによって算出される。
右白線に対する距離xLRは、xcr−xlrによって算出される。
但し、xcl、xcrは車両の幅を示すウインドウのかたまりのX軸位置である。
【0028】
先行車は図8のように撮像されるため、CCD1a上の画像距離xLL、xLRと走行レーン上の実際の距離LL、LRの関係は式(4)で表現される。
LL=xLL・Z/f
LR=xLR・Z/f (4)
ここで、fは焦点距離、Zは車間距離とする。Cは先行車である。
これによって白線に対する先行車の横方向位置が検出される。
上記のように、ステレオ画像を用いたステレオ画像処理により、先行車までの距離が検出されるとともに、片方の画像を用いて走行レーン内で白線に対する横方向位置も特定される。
【0029】
図9は、本発明の第1の実施例の構成を示すブロック図である。
2台のカメラ1、2がステレオカメラを構成し、それぞれ、同一の焦点距離fを有するレンズL1、L2と、各レンズから撮像面までの距離が焦点距離fとなるように配置されたCCD1a、2aとを有するCCDカメラからなる。カメラ1、2は、前方を撮影するのに適した車両上の所定の部位に取り付けられている。
カメラ1、2は、先の図1に示すように、CCD1a、2aの各撮像面が同一垂直面内に位置し、各撮像面の垂直基準軸(YA軸、YB軸)が一致し、レンズL1、L2の光軸1b、2bが水平かつ互いに平行となり、所定の眼間距離Dをもって上下に並べて配置されている。
【0030】
カメラ1、2のそれぞれの撮像した映像信号がディジタル画像として画像メモリ3、4に出力され記憶される。白線検出部5は画像メモリ3からの画像Aを画像処理して自車を囲む2本の白線を検出する。ウインドウ設定部6は、画像メモリ3から画像Aを取り込み、空などの車両が存在しえない域を除いた画面部分に画面を分割するように複数の同サイズのウインドウを設定する。
【0031】
マッチング位置検出部7は、画像Aの微分画像にウインドウを重ね合わせるとともに、各ウインドウと最も類似度の高いウインドウの位置を画像Bから検出し、両画像間のウインドウのマッチング位置を記憶する。距離演算部8は、各ウインドウのマッチング位置とカメラ1、カメラ2のレンズの焦点距離fおよび眼間距離Dをもとにウインドウ内の撮像物体までの距離を算出する。先行車検出部9は、同じ距離が算出され、かつ隣接するウインドウのかたまりを先行車として検出する。
【0032】
走行レーン判断部10は、ウインドウのかたまりの位置と白線検出部5で検出した白線との画像上の位置関係で先行車の走行レーンを判断する。
横方向位置検出部11は先行車の検出距離と同じ距離上にある白線の位置を検出する。ウインドウのかたまりの両側のウインドウ位置を検出し、先行車の両サイドの位置として、白線との横方向距離を算出する。その画像上の距離からカメラの透視関係によって走行路上の実距離が算出される。
【0033】
図10は、本実施例の処理の流れを示すフローチャートである。
まず、ステップ101で、ステレオ画像、すなわちカメラ1、2からそれぞれ出力される画像A、Bを画像メモリ3、4にそれぞれ入力して記憶させる。
ステップ102では、白線検出部5が画像A、Bのどちらか一方(本実施例では画像メモリ3に記憶された画像A)に画像処理を施して白線を検出する。
ここでは、自車走行レーンだけを検出することを考えるので、自車左右の2本の白線を検出する。
【0034】
図11、図12は白線の検出原理の説明図である。図11の(a)は単眼カメラ(カメラ1)が道路の中央で白線を撮像しているときの様子を示す平面図で、(b)はその側面図である。自車が2本白線の間を走行している場合、2本の白線は画像の左右両側に現われる。前方の白線が直線であり、自車が2本の白線の中央を走行していると仮定して、図11に示すように、距離Z先の白線が撮像される画像上の座標は、幾何学的計算により、式(5)で求めることができる。
xr=(Wr・f)/(Z・2)、yr=(h・f)/Z (5)
ここで、Wrは路面の幅、hは路面からカメラのレンズ中心までの高さ、fは焦点距離、Zは車間距離、xr、yrは画像上の位置である。
【0035】
複数の距離値Zに対して式(5)に基づいて画像上の位置xr、yrを求めて、白線を検出するためのウインドウ設定位置を決め、各位置において例えば図12に示すようにxr、yrを中心とするウインドウWdを設定する。ウインドウWdは車両が白線の中央でない場合を見込んで白線が外れないように大きさが決定される。
【0036】
そして各ウインドウWdにおいて微分演算をし左右に正負のエッジが対になって現われる場所を検出し、正負エッジのX軸における中心位置を演算して白線の検出点として保存する。各ウインドウからの検出点をさらにフィッティングするよう結ぶことで白線が検出される。フィッティングする方法としては特願平3−3145や特願平4−171240に紹介されている手法を用いることができる。
【0037】
また車両より前方にある白線は先行車により隠れてしまう場合が多いため、先行車の位置ycより画像下方の範囲だけを白線の検出範囲に限定することもできる。
これにより処理するデータ量が減少するとともに、白線検出にかかる時間が短縮される。また先行車のエッジを白線のエッジと誤検出することが少なくなり、車両位置の判断がより正確になる。
【0038】
次に、ステップ103では、画像A、Bのどちらか一方(本実施例では画像A)においてウインドウ設定部6が、空などの区域を検出しそれを除いた部分に合わせて所定大きさのウインドウを設定する。
ステップ104では、マッチング位置検出部7が、画像メモリ3と画像メモリ4から図13の(a)に示す画像A(と画像B)の原画像を入力し、微分処理を施して水平エッジを際立たせた微分画像(b)を作る(以下簡単のため、微分画像もそのもとの画像の呼び名で画像A、画像Bと呼ぶ)。
【0039】
ステップ103で設定されたウインドウ位置に画像Aを図14のように横に幅xw、縦に幅ywのウインドウ40毎に分割する。分割された各ウインドウ40をテンプレートとして、画像Bからテンプレートの画像と最も類似度の高い位置を式(6)を用いた正規化相関法により求めて、ウインドウのマッチング位置を演算する。
【数1】
なお、式(6)において、テンプレートの画像の各画素の輝度値をAij、画像Bの各画素の輝度値をBijとする。
ここで、微分画像を用いるのは、検出対象物である先行車は水平エッジをもつものが多く、先行車が背景より強調され検出しやすくするためである。
【0040】
図15は、正規化相関法による画像A、B間のマッチング位置の検出方法の説明図である。
ここでは2台のカメラ1、2をそれぞれのY軸が同一線上にのるように配置してあるので、画像B内において、画像Aのテンプレート(ウインドウ40)と同じX軸の位置で、探索位置をY軸方向に順次ずらした複数の位置検出対象画像を求める。そして、図15の(b)に取り出して示すテンプレートと(c)に示す画像Bから取り出した(d1)から(d3)に示す各位置検出対象画像との比較から、類似度の最も高い位置検出対象画像を求めることになる。
【0041】
図中、(d2)はテンプレートと類似度最大の位置で検出対象画像を示し、(d1)はそれより上方の位置で、(d3)はそれより下方の位置での検出対象画像を示している。このように画像Aに対し各ウインドウに対応したウインドウが画像Bに作られる。その両ウインドウのY軸位置を示すyaとybはウインドウのマッチング位置となる。
【0042】
ステップ105では、距離演算部8が各ウインドウにおいてウインドウ内に撮像された物体までの距離を式(1)を用いて演算する。物体が図16に示すように画像Aと画像Bのウインドウ内に同じ位置を占めるので、物体のマッチング位置差は、すなわちウインドウのマッチング位置差(yb−ya)である。したがってウインドウのマッチング位置を用い、式(1)に代入することによりウインドウ内の物体までの距離が算出される。
【0043】
上記のような処理を全てのウインドウについて行なって、ウインドウ毎にその内部に撮像されている物体までの距離を求めると、ステップ106において連続して同じ距離値が算出されたウインドウのかたまりを検出し、そのウインドウのかたまりが複数ある場合、距離の一番近いものを選んで先行車を含む検出領域として検出する。この検出領域に先行車と同じ距離の路面部分も含まれるため、先行車の距離を示すycより上段に同じ距離が検出されるウインドウのかたまりの両側のウインドウのX座標位置内から下段ウインドウを抽出して先行車の領域として検出する。
【0044】
またここでは先行車が遠く撮像される場合、先行車画像が小さく、ウインドウ位置をもって車両の幅として検出すると、精度が低下する。それを防ぐため、図17に示すようにウインドウのかたまりの両側にあるウインドウ(a)に対して(b)のように細分化した小ウインドウwsを用いて上記と同じようにマッチングしてウインドウの距離を算出する。そしてウインドウのかたまりと同じ距離の小ウインドウを用いて先行車として検出する。なお図17においては右側のウインドウを示している。xcrはその小ウインドウの位置で車両のサイド位置として検出されたものである。
【0045】
またウインドウを細分化する代わりに図18のようなウインドウから縦方向エッジt、vを検出し、車両のテクスチャ、色または輝度が先行車と同様である否かを判断して先行車の両サイド位置を検出することも可能である。これにより先行車が小さく撮像されても精度を落とさずに先行車の位置特定ができる。
【0046】
ステップ107では、ウインドウのかたまりが検出できたかをチェックし、できなかった場合、先行車なしとしてステップ101に戻り、次の画像を入力して上記の処理を繰り返す。ウインドウのかたまりを検出できた場合、先行車ありとしてウインドウで演算された距離値を先行車までの距離検出値として記憶しステップ108へ進む。
【0047】
ステップ108では、先行車の走行レーンについての判断を行なう。自車と同一走行レーンであるか否かを走行レーン判断部10が判断する。これは、図6に示したように、ウインドウのかたまりの距離と同じ位置ycをラインとしてステップ102で検出された2つの白線と交わる2つの点を検出する。そしてウインドウのかたまりがこの2つの交点の中にあるかどうかを判断して先行車が自車と同一走行レーンであるか否かを判断する。自車と異なる走行レーンである場合、ステップ101へ戻り、上記処理を再び行なう。検出した先行車が自車と同一走行レーンである場合、ステップ109へ進む。
【0048】
ステップ109では、先行車の検出距離と同じ位置ycのラインから、ラインと白線の交点xll(左側白線)、xlr(右側白線)を検出する。また車両を検出するウインドウのかたまりの両側のウインドウ位置を検出する。それらを式(4)に代入して、走行レーン上の横方向位置を算出する。
上記のように、ステレオ画像処理により、先行車までの距離と走行レーン内での横方向位置を検出することができる。
【0049】
本実施例は以上のように構成され、ステレオ画像の一方に画像を分割するウインドウを設定し、各ウインドウと最も類似度の高いウインドウの位置を他方の画像から検出し三角測量原理に基づいた距離演算をし、隣接するウインドウから同じ距離演算値が演算されたウインドウのかたまりを先行車として検出する。そして先行車として認識されたウインドウのかたまりと走行レーンの位置を比較して自車と同一走行レーンかの判断を経て先行車の白線に対する横方向位置を検出するので、従来と比べて距離のみでなく横方向位置も算出される。またカメラが1種類で、かつモノクロでも充分に用が足り、処理が簡単になるとともに、検出環境を選ばないという効果が得られる。
【0050】
次に、本発明の第2の実施例について説明する。
この実施例は、上記第1の実施例で検出された先行車の位置変動を観測してその挙動判断を行なうようにしたものである。
図19は、本実施例の構成を示すブロック図であり、図9に示した第1の実施例のブロック図に車両挙動判定部12を設けたものである。車両挙動判定部12はメモリを有し横方向位置検出部11で検出された先行車の横方向位置を記憶し、その位置の時間的変動により先行車の挙動を判定する。
【0051】
またこの実施例では自車走行レーンのほかに隣接走行レーンについても検出するため、その機能を備えた走行レーン判断部100を用いる。その他は第1の実施例と同様である。
走行レーン判断部100の内容は以下の処理の流れにおいて説明する。
【0052】
図20は上記構成における処理の流れを示すフローチャートである。
ステップ101〜ステップ107までは第1の実施例と同様に、カメラ1、2からのステレオ画像を入力して画像メモリ3、4に記憶する。白線検出部5が第1の実施例と同様にステレオ画像の一方から自車の左右2本白線を検出しフィッテング処理によりデータ化する。
【0053】
ウインドウ設定部6によってウインドウ設定された一方の画像をマッチング位置検出部7が正規化相関法により他方の画像から類似度の最も高いウインドウの位置を検出する。先行車検出部9が距離演算部8において距離演算されたウインドウのうち、同じ距離値が算出されかつ隣接するウインドウのかたまりから先行車の領域を検出する。
【0054】
ステップ208において、画像Aから走行レーン判断部100がウインドウのかたまりの距離と同じY軸位置上の白線位置を検出する。ここでは自車走行レーンのほかに隣車線の白線の位置も検出する。
すなわち図21に示すように自車が2車線道路を走行している場合、白線が3本であるので、それら全てがカメラ1、2の撮像範囲内にあれば、左車線を走行している場合では、距離Z前方にある白線は、図22のように先行車が検出されるY=ycライン上にxl、xr、xr2の位置に撮像される。先行車とそれらとの位置判断で先行車の自車走行レーンを判定することができる。
図23は自車走行レーンと右隣接車線上から先行車が同時に撮像されている画像を示す図である。Mは自車走行レーン、Nは右隣接車線上の先行車である。これらはウインドウのかたまり(太線部分)によって検出される。
【0055】
ステップ208では以下のように先行車の走行レーン判断を行なう。
ラインY=ycと白線の近似線の交点から自車走行レーン上の白線位置xll、xlrを求める。白線間の距離Wrは通常3.5m程度であることから、図25のように、距離Z離れたところで右隣接レーンの外側の白線の画像上の位置xlrは、式(7)により求めることができる。
xlr=xll+(f×Wr)/Z (7)
Zは車両までの距離検出値、fはカメラの焦点距離、Wrは白線幅である。
ここでは、xllは自車走行レーン上の右側白線の位置である。
【0056】
ウインドウのかたまりが自車走行レ−ンの白線内にある場合、自車と同じ走行レ−ン上にあるとして、ステップ209へ進む。自車走行レーンでないと判定された場合、走行レーン判断部100は式(7)に基づいて仮想的に右走行レーンの外側の白線位置xlrの位置を算出する。ウインドウのかたまりが自車の右白線と仮想白線の間にあるかどうかを判定する。なお、車間距離が近い場合、xlrは画像の右外に出てしまう場合が考えられが、そのような位置のときは、xlrがxllの外側にあることを考慮したうえ、判定を行なう。
そして、判定の結果は、ウインドウのかたまりが右走行レーンにある場合、先行車が右隣接車線上にあり、ステップ210へ進む。ウインドウのかたまりが右走行レーンでない場合、先行車が左隣車線上にあるとしてステップ211へ進む。
【0057】
ステップ209において、図24に示すようにY=ycライン上の位置xllあるいはxlrに対し、先行車を検出するウインドウのかたまりMのサイド位置xclもしくはxcrからの白線に対する画像距離xLL、xLRのいずれかの一方を算出する。本実施例ではxLRを算出する。
【0058】
ステップ210は、ステップ209と同じように右走行レーンの白線R1とR2に対する画像距離xLLもしくはxLRを図25から算出する。
ステップ211は、図26のように左走行レーンの白線L1、L2に対するxLLもしくはxLRを算出する。
【0059】
ステップ212では、前記式(4)を用いて画像上の横方向位置(xLL、xLR)から先行車の走行路上の横方向位置(LL、LR)を算出しメモリに記憶する。そして、横方向位置の時間的変動により先行車の挙動を判断する。図27、28、29、30はそれぞれ右白線に対する横方向位置LRの時間的変化をプロットしたグラフである。図上には最小二乗誤差直線が示されている。各横方向位置を最小二乗誤差直線にフィッティングして誤差を求める。誤差が所定値内の場合最小二乗誤差直線の傾きで先行車の挙動を判定する。すなわち図27では走行にしたがって先行車の右白線に対する横方向位置LRは殆ど変化しないため、レ−ンをキ−プしながら走行していると判断できる。
【0060】
また図28では徐々に横方向位置LRが長くなるため左車線への変更と判断できる。
図29は右車線への変更を示している。
また図30では最小二乗誤差直線に対して振動が大きいため、蛇行していると判断できる。
【0061】
本実施例は以上のように構成され、先行車の白線に対する横方向距離および距離変化を検出し挙動判断をするようにしたので、ウインカの点滅を判断しなくても車線変更が検出できる。またウインカの点滅判断では困難な蛇行等の検出も行なえ居眠りなど推定も可能になる。
【0062】
次に、第3の実施例について説明する。この実施例は図19に示すブロック図の構成において、先行車検出部9を車両挙動検出部12に接続したものである。車両挙動検出部12は第2実施例で説明したように先行車の横方向位置の時間的変化で挙動を判断するが、この実施例ではさらに道路状況認識手段として先行車検出部9の先行車の距離から路面状況を判断する機能が付加されている。
【0063】
車両挙動検出部12はまず図31に示すようにウインドウのかたまりの下段のウインドウPを一つのウインドウとして取り出す。ウインドウPを図32のように縦方向に複数の小ウインドウwtに細分し、小ウインドウを用いて先行車の下端位置ycdを求める。また小ウインドウを設ける代わりに図33のように横エッジで区分される域内の色や輝度が先行車と一致するかどうかの判断で車両の下端位置ycdを算出することもできる。ycdは先行車の下端位置であり、ウインドウのマッチングによって得られた先行車位置ycと同じもので、直接算出することにより精度が高くなっている。
【0064】
先行車の下端位置ycdとそのときの車両の距離Zが分かれば、図34に示す撮像原理でカメラ1の光軸1bに対する実際の高さydは、式(8)により求められる。
yd=ycd・Z/f (8)
ydの検出を時間毎に行ない、メモリに保存させる。過去数回分のydの変動を見ることで、先行車の縦方向の運動を認識し道路状況を判断する。
【0065】
図35〜40はydの時間的変化をプロットしたグラフである。
各グラフには第2の実施例と同じように最小二乗誤差直線が求められている。図35では、最小二乗誤差直線の傾きが0に近いので、前方は平坦道路と判断する。
図36では、最小二乗誤差直線の傾きが正なので、ydが大きくなって行くことを示し、前方道路が下だり坂と判断する。
【0066】
図37では、最小二乗誤差直線の傾きが負なので、ydが小さくなって行くことを示し前方道路が登ぼり坂と判断する。
図38では、最小二乗誤差直線に対して、ydの誤差が大きいので、前方道路が凸凹道と判断する。
図39および図40は、最小二乗誤差直線の傾きが大きく変化するので、前方道路上に石や穴または段差があると判断する。
本実施例は以上のように構成され、先行車の位置と距離によりカメラに対する上下位置を演算し、その位置の変動で路面状況が判断されるから、先行車を検出する際のデータを利用することができ、演算負担にならずに処理できる。
【0067】
【発明の効果】
以上説明した通り、請求項1によれば入力画像を複数のウインドウに区切り、ウインドウ毎に求めた距離値を元に、同じ距離値が演算される隣接ウインドウのかたまりから先行車の領域を検出するとともに距離を演算する。また片方の画像から白線を検出先行車と白線の位置関係を求め、横方向位置を検出するようにしたので、赤外線カメラなどが不要で、装置の構成が簡単になるとともに先行車の挙動判断を行なうことが可能になる。
そしてさらに、先行車挙動判定手段が設けられるから、先行車の横方向位置の時間的変化が検出され、先行車の挙動判定ができる。例えば左白線や右白線に接近する場合、先行車が車線変更を行なっていると判断できる。またこの判断はウインカの点滅判断によらないため、ウインカの点滅検出も不要で、環境色や輝度に影響されない効果が得られる。ウインカをつけない車線変更を行なう先行車についても判断ができる。
【0068】
請求項2記載の発明では、道路状況認識手段が設けられ、先行車の検出距離から先行車の画像位置を演算し、画像位置の時間的変化により前方路面状況を認識するようにしたので、例えば先行車の画像位置が下がったときに先行車が下だり坂を走行し始めると判断できる。これによって自車を減速制御するなどの道路状況に対応した車両制御が行なえる。
【0069】
請求項3記載の発明では、白線を検出する画像領域を先行車より下方の画像領域とすることで、先行車に遮られた遠方白線は検出対象から除外され処理するデータが減少するとともに誤検出が減少される効果が得られる。
【図面の簡単な説明】
【図1】ステレオ画像処理による距離算出手法を説明するための説明図である。
【図2】画素と焦点距離の関係を示す説明図である。
【図3】マッチングによるウインドウ設定の説明図である。
【図4】先行車検出の説明図である。
【図5】距離と画像上の位置関係の説明図である。
【図6】先行車の走行レーン判断の説明図である。
【図7】先行車の横方向位置検出の説明図である。
【図8】画像位置と横方向位置検出の説明図である。
【図9】第1の実施例の構成を示すブロック図である。
【図10】第1の実施例における処理の流れを示すフローチャートである。
【図11】白線を検出するための説明図である。
【図12】ウインドウ設定の説明図である。
【図13】微分処理の効果を示す図である。
【図14】先行車を検出ためのウインドウ設定の説明する図である。
【図15】正規化相関法によるステレオ画像間でのマッチング位置の検出方法を示す説明図である。
【図16】ウインドウ内の画像とウインドウの位置関係を示す図である。
【図17】ウインドウを細分化する説明図である。
【図18】撮像内容による先行車のサイド部の検出説明図である。
【図19】第2の実施例の構成を示すブロック図である。
【図20】第2の実施例における処理の流れを示すフローチャートである。
【図21】隣車線の検出原理を示す図である。
【図22】隣車線の撮像位置を示す図である。
【図23】自車走行レーンと隣車線上に先行車が検出された状態を示す図である。
【図24】自車走行レーン上の先行車の横方向位置検出の説明図である。
【図25】右隣車線上の先行車の横方向位置検出の説明図である。
【図26】左隣車線上の先行車の横方向位置検出の説明図である。
【図27】先行車両がレーンキープ時の横方向位置の変化を示すグラフである。
【図28】先行車両が左車線へ変更時の横方向位置の変化を示すグラフである。
【図29】先行車両が左車線へ変更時の横方向位置の変化を示すグラフである。
【図30】先行車両が蛇行しているときの横方向位置の変化を示すグラフである。
【図31】先行車の下端位置検出の説明図である。
【図32】ウインドウを細分化する説明図である。
【図33】撮像内容による先行車の下端の検出説明図である。
【図34】先行車の下端位置とカメラの光軸の距離関係を示す図である。
【図35】先行車両が平坦地を走行しているときのグラフである。
【図36】先行車両が下り坂を走行しているときのグラフである。
【図37】先行車両が登り坂を走行しているときのグラフである。
【図38】先行車両が凹凸な道を走行しているときのグラフである。
【図39】先行車両が走行している道路上に石等の障害物があるときのグラフである。
【図40】先行車両が走行している道路上に穴などがあるときのグラフである。
【符号の説明】
1、2 カメラ
1a、2a CCD
1b、2b 光軸
3、4 画像メモリ
5 白線検出部(白線検出手段)
6 ウインドウ設定部(ウインドウ設定手段)
7 マッチング位置検出部(マッチング位置検出手段)
8 距離演算部(距離演算手段)
9 先行車検出部(先行車検出手段)
10、100 走行レーン判断部(走行レーン判断手段)
11 横方向位置検出部(横方向位置検出手段)
12 車両挙動判定部(車両挙動判定手段)
C 先行車
E ウインドウのかたまり
f 焦点距離
D 眼間距離
L1、L2 レンズ
W ウインドウ
wd ウインドウ
Wr 道路幅
ya、yb マッチング位置
yc 先行車の撮像位置
xr X軸上のウインドウ設定位置
xw ウインドウの横幅
yw ウインドウの縦幅
yr Y軸上のウインドウ設定位置
Z 撮像距離
Claims (3)
- それぞれの光軸を互いに平行とし所定の眼間距離をもって配置された2台のカメラと、
前記2台のカメラが撮像した路面画像を第1および第2の画像として記憶する画像メモリと、
前記第1の画像内で白線を検出する白線検出手段と、
前記第1の画像内の所定領域を複数の区域に分割するようにウインドウ設定を行なうウインドウ設定手段と、
各ウインドウと最も類似度の高いウインドウの位置を前記第2の画像から検出するマッチング位置検出手段と、
2枚の画像間で互いに類似度の高いウインドウが存在する画像上の位置と2台のカメラの位置関係をもとに、各ウインドウ内に撮像された物体までの距離を演算する距離演算手段と、
同じ距離値が算出されかつウインドウが隣接するウインドウのかたまりを先行車の検出領域として検出しウインドウの距離値を先行車の検出距離とする先行車検出手段と、
前記ウインドウのかたまりと前記白線の位置関係に基づき先行車の走行レーンを判断する走行レーン判断手段と、
前記走行レーン上の先行車の横方向位置を検出する横方向位置検出手段と、
該横方向位置検出手段に接続され、前記先行車の横方向位置の時間的変化を検出して先行車の挙動を判定する先行車挙動判定手段とを有することを特徴とする車両用障害物検出装置。 - それぞれの光軸を互いに平行とし所定の眼間距離をもって配置された2台のカメラと、
前記2台のカメラが撮像した路面画像を第1および第2の画像として記憶する画像メモリと、
前記第1の画像内で白線を検出する白線検出手段と、
前記第1の画像内の所定領域を複数の区域に分割するようにウインドウ設定を行なうウインドウ設定手段と、
各ウインドウと最も類似度の高いウインドウの位置を前記第2の画像から検出するマッチング位置検出手段と、
2枚の画像間で互いに類似度の高いウインドウが存在する画像上の位置と2台のカメラの位置関係をもとに、各ウインドウ内に撮像された物体までの距離を演算する距離演算手段と、
同じ距離値が算出されかつウインドウが隣接するウインドウのかたまりを先行車の検出領域として検出しウインドウの距離値を先行車の検出距離とする先行車検出手段と、
前記ウインドウのかたまりと前記白線の位置関係に基づき先行車の走行レーンを判断する走行レーン判断手段と、
前記走行レーン上の先行車の横方向位置を検出する横方向位置検出手段と、
前記先行車検出手段に接続され、前記先行車の検出距離から先行車の画像位置を演算し、画像位置の時間的変化により前方路面状況を認識する道路状況認識手段とを有することを特徴とする車両用障害物検出装置。 - 前記白線検出手段は、先行車より下方の画像領域を白線検出領域とすることを特徴とする請求項1または2記載の車両用障害物検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP33484797A JP3747599B2 (ja) | 1997-11-20 | 1997-11-20 | 車両用障害物検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP33484797A JP3747599B2 (ja) | 1997-11-20 | 1997-11-20 | 車両用障害物検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11153406A JPH11153406A (ja) | 1999-06-08 |
JP3747599B2 true JP3747599B2 (ja) | 2006-02-22 |
Family
ID=18281892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP33484797A Expired - Fee Related JP3747599B2 (ja) | 1997-11-20 | 1997-11-20 | 車両用障害物検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3747599B2 (ja) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3592531B2 (ja) * | 1998-06-17 | 2004-11-24 | 本田技研工業株式会社 | 車両用距離測定装置 |
WO2004038660A1 (ja) * | 2002-10-22 | 2004-05-06 | Toyota Jidosha Kabushiki Kaisha | 画像処理方法および画像処理装置 |
JP4114485B2 (ja) * | 2003-01-15 | 2008-07-09 | 日産自動車株式会社 | 車両走行状態検出装置及び車両走行制御装置 |
JP3915776B2 (ja) * | 2003-12-09 | 2007-05-16 | 日産自動車株式会社 | 先行車両検出装置、自車両制御装置及び先行車両検出方法 |
DE102004032732B4 (de) * | 2004-07-07 | 2009-12-03 | Bayerische Motoren Werke Aktiengesellschaft | Airbagauslöseelektronik für Fahrzeuge |
JP5248806B2 (ja) * | 2007-04-25 | 2013-07-31 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
JP4744537B2 (ja) * | 2008-02-05 | 2011-08-10 | 日立オートモティブシステムズ株式会社 | 走行レーン検出装置 |
CN101574970B (zh) * | 2009-03-06 | 2014-06-25 | 北京中星微电子有限公司 | 一种监控车辆变更车道的方法及装置 |
CN102519403A (zh) * | 2012-01-06 | 2012-06-27 | 北京汽车股份有限公司 | 汽车迎风面积的测量方法与装置 |
CN103063143B (zh) * | 2012-12-03 | 2016-05-11 | 苏州佳世达电通有限公司 | 基于图像识别的测量方法及其*** |
DE102013211427B4 (de) * | 2013-06-18 | 2016-10-13 | Continental Automotive Gmbh | Verfahren und Vorrichtung zur Ermittlung eines Fahrzustands eines externen Kraftfahrzeugs |
JP6207952B2 (ja) * | 2013-09-26 | 2017-10-04 | 日立オートモティブシステムズ株式会社 | 先行車認識装置 |
JP5666726B2 (ja) * | 2014-02-07 | 2015-02-12 | 富士重工業株式会社 | 車両検出装置 |
WO2015182771A1 (ja) * | 2014-05-30 | 2015-12-03 | 日本電産エレシス株式会社 | 撮像装置、画像処理装置、画像処理方法およびコンピュータプログラム |
JP6413479B2 (ja) * | 2014-08-22 | 2018-10-31 | 株式会社アドヴィックス | 車両制御装置 |
JP6318999B2 (ja) * | 2014-09-04 | 2018-05-09 | 株式会社Soken | 駐車スペース認識装置、駐車スペース認識システム |
CN106444837A (zh) * | 2016-10-17 | 2017-02-22 | 北京理工大学 | 一种无人机避障方法及*** |
CN109910752A (zh) * | 2019-02-22 | 2019-06-21 | 苏州科技大学 | 基于立体影像测距的变道提醒装置及其方法 |
JPWO2020217651A1 (ja) * | 2019-04-25 | 2020-10-29 | ||
KR102460085B1 (ko) * | 2020-11-05 | 2022-10-28 | 한국교통대학교산학협력단 | 환경센서 융합 기반 종방향 응답성 개선 시스템 |
JP7340579B2 (ja) * | 2021-10-12 | 2023-09-07 | 本田技研工業株式会社 | 車両制御装置、車両制御方法、およびプログラム |
-
1997
- 1997-11-20 JP JP33484797A patent/JP3747599B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11153406A (ja) | 1999-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3747599B2 (ja) | 車両用障害物検出装置 | |
US11836989B2 (en) | Vehicular vision system that determines distance to an object | |
US10380439B2 (en) | Vehicle sensing system for detecting turn signal indicators | |
JP3337197B2 (ja) | 車外監視装置 | |
US6734787B2 (en) | Apparatus and method of recognizing vehicle travelling behind | |
JP3596314B2 (ja) | 物体端の位置計測装置および移動体の通行判断装置 | |
JP4676373B2 (ja) | 周辺認識装置、周辺認識方法、プログラム | |
JP3822515B2 (ja) | 障害物検知装置及びその方法 | |
JP3349060B2 (ja) | 車外監視装置 | |
JP5399027B2 (ja) | 自動車の運転を支援するための、立体画像を捕捉することができるシステムを有するデバイス | |
JPH1139596A (ja) | 車外監視装置 | |
JP4893212B2 (ja) | 周辺監視装置 | |
JP2008033750A (ja) | 物体傾き検出装置 | |
US20090052742A1 (en) | Image processing apparatus and method thereof | |
US11577748B1 (en) | Real-time perception system for small objects at long range for autonomous vehicles | |
JP6837262B2 (ja) | 走行可能領域検出装置及び走行支援システム | |
KR20060021922A (ko) | 두 개의 카메라를 이용한 장애물 감지 기술 및 장치 | |
JPH1139597A (ja) | 車両の衝突防止装置 | |
JPH1114346A (ja) | 車両用障害物検出装置 | |
CN109895697B (zh) | 一种行车辅助提示***及方法 | |
JP5073700B2 (ja) | 物体検出装置 | |
JP3868915B2 (ja) | 前方監視装置及びその方法 | |
JP4798576B2 (ja) | 付着物検出装置 | |
JP3612821B2 (ja) | 車載用距離測定装置 | |
JP3586938B2 (ja) | 車載用距離測定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050705 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050901 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051108 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051121 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |