JP3897337B2 - 路肩検出装置及び方法 - Google Patents
路肩検出装置及び方法 Download PDFInfo
- Publication number
- JP3897337B2 JP3897337B2 JP2002031871A JP2002031871A JP3897337B2 JP 3897337 B2 JP3897337 B2 JP 3897337B2 JP 2002031871 A JP2002031871 A JP 2002031871A JP 2002031871 A JP2002031871 A JP 2002031871A JP 3897337 B2 JP3897337 B2 JP 3897337B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- difference
- road
- vehicle
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
Description
【発明の属する技術分野】
本発明は、自動車に搭載したカメラで撮影した画像から道路の路肩を検出する路肩検出装置及び方法に関する。
【0002】
【従来の技術】
自動車の安全走行を確保するための警報システムや自動車の自動運転システムにおいては、走行中の車両が走行レーンを逸脱するか否かを検出する技術が必要となる。車両が走行レーンを逸脱するか否かを検知するには、走行レーンの左右の両端を検出する必要がある。車載カメラで撮影した画像を用いて走行レーンの両端を検出する場合、路面上の白線等のレーンマーカーを検出する方法が一般的である。しかし、この方法では路面上にレーンマーカーが存在する道路にしか適用できない。高速道路や整備された幅の広い一般道ならば白線等のレーンマーカーの存在が期待できるが、比較的幅の狭い一般道では路面上に中央線や道路端を示す白線等が描かれていないことが多い。このように白線等で走行レーンが明示されていない道路では、歩道、中央分離帯、側壁、ガードレール、生け垣等を検知し、これらを路肩として検出する必要がある。
【0003】
従来、路肩検出手法として、画像の輝度や色、あるいはテクスチャー等の情報を手がかりにして路肩を求める手法が提案されている。例えば、C.E.Thorpe, M.H.Herbert and T.Kanade,"Vision and Navigation for the Carnegie-Mellone Navlab," IEEE Trans. PAMI, vol.01, no.3, pp.362-373, 1988.では、テクスチャーが少ない灰色の領域を道路領域として抽出して、その左右両端を路肩として検出していた。また、L.S.Davis, D.Dementhon, S.Dickinson and P.Veatch,"Algorithms for road navigation,"Vision-based vehicle Guidance, Springer-Verlag, Chapter 3, 1992.では、画像から斜めエッジを抽出して、エッジ強度が強く、かつ長いエッジセグメントを有するものを路肩として検出していた。
【0004】
しかし、道路と類似する輝度、色、あるいはテクスチャーを有する画素及び領域は画像中で多数存在する。さらに、道路面自体の輝度レベル、色、そしてテクスチャーも、同じ場所を撮影した画像であっても、天候、季節や時間の変化により時々刻々と変化するために、路肩を安定に検出することが困難である。
【0005】
また、道路に射した建物や電柱の影の境界のように、長いエッジセグメントを持つ領域も画像中に多数現れ、これらの影も時々刻々と変化するために、路肩を安定かつ正確に検出することが困難である。
【0006】
この他の手法として、2台のカメラによるステレオ画像から高さや距離情報を求めて、ガードレール等の側壁を検出する方法が特開平11−213138号公報で提案されている。この手法では、ステレオ画像間で対応する画素を探索して高さや距離情報を算出して3次元座標データを算出しているが、画素の探索や3次元座標データのグループ化に多大な計算コストが必要となる。
【0007】
【発明が解決しようとする課題】
このように、撮影した画像の輝度、色、テクスチャー等の情報を用いる従来手法には、道路と類似した輝度、色、あるいはテクスチャーを有する側壁等を道路として誤検出し、路肩位置が正しく求まらないという問題点がある。
【0008】
また、エッジセグメントを用いる手法では、道路に射した影の境界のような長いエッジセグメントを路肩として誤検出するという問題点がある。
【0009】
さらに、2台のカメラによるステレオ画像から高さや距離情報を計算して側壁を検出する手法は、計算量が多いという問題がある。
【0010】
本発明は上記問題点を鑑みてなされたものであり、2台のカメラで撮影したステレオ画像を用いて、安定かつ計算量の少ない路肩検出装置及び方法を提供することを目的とする。
【0011】
【課題を解決するための手段】
上記課題を解決するため本発明の路肩検出方法は、走行する車両から道路の路肩を検出する方法であって、前記車両の進行方向と垂直な方向に所定の間隔離して設置された第1、第2のカメラを用いて同時に第1、第2の画像を取得する画像取得ステップと、前記第1の画像及び第2の画像をそれぞれメモリに蓄積する画像蓄積ステップと、前記第1の画像の任意の画素が前記車両が走行する道路面上に存在すると仮定した場合の、前記第1の画像を第2のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像の差異を計算して第1の差異画像を生成し、前記第2の画像の任意の画素が前記車両が走行する道路面上に存在すると仮定した場合の、前記第2の画像を第1のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像の差異を計算して第1の差異画像を生成する差異画像生成ステップと、前記第1の差異画像から第2の画像を取得した位置に近い側の路肩を検出すし、前記第2の差異画像から第1の画像を取得した位置に近い側の路肩を検出する路肩検出ステップを有することを特徴とする。
【0012】
また、本発明の路肩検出装置は、道路を走行する車両に設置され、道路の路肩を検出する装置であって、前記車両の進行方向と垂直な方向に所定の間隔離して前記車両に設置され、車両前方の画像を2台同時に撮影する第1、第2のカメラと、第1のカメラで撮影した第1の画像を画面単位で蓄積する第1の画像蓄積部と、第2のカメラで撮影した第2の画像を画面単位で蓄積する第2の画像蓄積部と、前記第1の画像の任意の画素が前記車両が走行する道路面上に存在すると仮定した場合の、前記第1の画像を第2のカメラからの見え方に変換する対応関係を用いて、前記第1の画像蓄積部からの前記第1の画像と前記第2の画像蓄積部からの前記第2の画像の差異を計算して第1の差異画像を生成する第1の差異画像生成部と、前記第2の画像の任意の画素が前記車両が走行する道路面上に存在すると仮定した場合の、前記第2の画像を第1のカメラからの見え方に変換する対応関係を用いて、前記第1の画像蓄積部からの前記第1の画像と前記第2の画像蓄積部からの前記第2の画像の差異を計算して第2の差異画像を生成する第2の差異画像生成部と、前記第1の差異画像から第2のカメラに近い側の路肩を検出する第1の路肩検出部と、前記第1の差異画像から第2のカメラに近い側の路肩を検出する第1の路肩検出部とを有することを特徴とする。
【0013】
以上、本発明によれば、エッジセグメント等を用いた路肩検出方法及び装置に比べて誤検出が少なく安定して路肩を検出でき、また、従来のステレオ画像を用いた路肩検出方法及び装置のように高さや距離情報を計算していないので、少ない計算量で路肩を検出することが可能である。
【0014】
【発明の実施の形態】
(第1の実施形態)以下、図面を参照して本発明の第1の実施形態を説明する。図1は本発明の第1の実施形態の路肩検出装置の構成を説明するブロック図である。
【0015】
本実施形態の路肩検出装置は、動画像を撮影するためのカメラ1、2と、撮影した動画像を画像1枚毎に順次一時蓄積しておく画像蓄積部3、4とを有する。本装置はさらに、カメラ1、2で撮影した画像から差異画像S1、S2を求める差異計算部5、6と、差異画像を用いて路肩を検出する路肩検出部7、8とを有する。本装置はさらに、本装置の使用者に対するインターフェースであるGUIを提供し、また本装置各部分の動作の調整を行う制御部9と、前述のGUI及びカメラ1、2で撮影した画像及び検出した路肩を表示する表示部10とを有する。
【0016】
本装置は自動車に搭載するためのものである。カメラ1、2は、図3に示すように、車両の進行方向に向かって左側にカメラ1を、右側にカメラ2を設置する。具体的には、車のフロントウインドウの内側左端にカメラ1を、内側右端にカメラ2を設置する。カメラ間隔やカメラ設置場所の路面からの高さは、車両の大きさ・種類等によるが、乗用車の場合でカメラ間隔が1.5m〜2.0m程度、高さが70cm〜1.5m程度になるように設置する。そして、設置時にカメラ1とカメラ2の視野がある程度重なるように向きを調整する。
【0017】
カメラ1、2は受光部にCCD(電荷結合素子)を用いた可視光領域用カメラである。図4はカメラ1、2で撮影した画像を説明する図で、図4(a)は車両の左側にあるカメラ1が、図4(b)は車両の右側にあるカメラ2が撮影した場合の見え方である。カメラ1で撮影した画像I1は画像蓄積部3へ出力し、カメラ2で撮影した画像I2は画像蓄積部4へ出力する。
【0018】
画像蓄積部3はカメラ1からの画像を画面単位で一時記憶しておき、画像蓄積部4はカメラ2からの画像を画面単位で一時記憶しておく。
【0019】
差異計算部5は、画像I1を変換画像M1に変換してから、この変換画像M1と画像I2から差異画像S1を生成する。差異計算部5は、まず、画像I1を画像I1中の全画素が、車両が走行している道路平面上に存在すると仮定(道路平面拘束仮定)した場合の、カメラ2からの見え方に変換して変換画像M1を生成する。そして、各画素毎に変換画像M1と画像I2の輝度の絶対値差分を計算して差異画像S1を生成する。
【0020】
同様にして、差異計算部6は、画像I2を変換画像M2に変換してから、この変換画像M2と画像I1から差異画像S2を生成する。差異計算部6は、まず、画像I2を全画素を道路平面拘束仮定した場合の、カメラ1からの見え方に変換して変換画像M2を生成する。そして、各画素毎に画像I1と変換画像M2の絶対値差分を計算して差異画像S2を生成する。
【0021】
路肩検出部7では差異計算部5で求めた差異画像S1から、道路の右側(カメラ2側)の路肩の検出を行い、路肩検出部8では差異計算部6で求めた差異画像S2から、道路の左側(カメラ1側)の路肩の検出を行う。
【0022】
制御部9は路肩検出部7、8で検出した路肩の情報を表す路肩情報画像を生成して、画像蓄積部3、4から読み出したカメラ1、2で撮影した画像I1及びI2上に合成した走行路画像を生成する。制御部9は、生成した2枚(I1、I2に対応する)の走行路画像を、GUI上に設けた走行路画像を表示するための枠内に合成して、GUIを表示部10に出力する。
【0023】
さらに制御部9は、制御部9に接続されたポインティングデバイスを通じて、本装置の使用者からの操作を受け付ける。そして、制御部9は本装置の設置時あるいは使用者からの要求によって本装置の初期化動作を行う。この初期化動作では、後述するように路肩を検出するために必要となる各種パラメータの算出などを行う。
【0024】
表示部10は、制御部9から出力されたGUIを表示する。
【0025】
以下、差異計算部5、6で行う変換画像M1、M2の生成方法と、差異画像S1、S2の生成方法を説明する。
【0026】
道路平面(XY平面)上の任意の点(X,Y)を、カメラ1の画像面及びカメラ2の画像面への投影点を各々(u1,v1)、(u2,v2)とする。道路平面拘束仮定を行うと、
【0027】
【数1】
【0028】
という関係式が成り立つ。ただし、
【0029】
【数2】
【0030】
で、h、t、g、sはカメラ1、2の3次元位置と姿勢、及びカメラ1、2それぞれに装着したレンズの焦点距離、画像中心に関するパラメーターであり、車両の中心を原点として、車両に対して相対的に停止している3次元直交座標(車両座標)系におけるパラメータである。
【0031】
数1からXとYを消去すると、
【0032】
【数3】
【0033】
となる。ここで、
【0034】
【数4】
【0035】
は数1から数3へ式変形した際のu1、v1の係数と定数項であり、h、gで表される定数である。
【0036】
数4のパラメータHはあらかじめ固定値で与えられるものではないが、数3の関係式により、画像I1中の点(u1,v1)を道路平面拘束仮定した時のカメラ2から見た場合の点(u2,v2)の座標を求めることが可能であるから、あらかじめ与えた画像I1と画像I2の対応点の座標を数3の関係式に代入して得られるパラメータHの各成分についての連立方程式を解いて求めることが可能である。本装置では、制御部9が数4のパラメータHを制御部9の初期化動作の際に求める。
【0037】
差異計算部5は数3の関係式を用いて、差異計算部6は数3を(u1,v1)について解いた関係式を用いて変換画像M1、M2を生成する。尚、変換画像の生成速度を向上させるため、差異計算部5、6ともに制御部9からパラメータHを受け取った際に、数3の関係式(差異計算部6は数3を(u1,v1)について解いたもの)を用いて変換画像を生成するための変換テーブルT1to2、T2to1を生成して差異計算部5及び6の内部で記憶しておき、実際の変換画像生成はこの変換テーブルT1to2、T2to1を用いて行う。変換テーブルT1to2、T2to1は2次元の配列データで、T1to2(u1,v1)=(u2,v2)、T2to1(u2,v2)=(u1,v1)である。
【0038】
画像Inと変換画像Mmから求める差異画像Sn(n=1,m=2あるいはn=2,m=1)の各画素の輝度値は、画像Inと変換画像のMmの各画素の輝度値を数5の式で変換した値を持つ。
【0039】
【数5】
【0040】
ただし、Sn(x,y)、In(x,y)、Mm(x,y)は、各画像上の点(x,y)の輝度値を表す。
【0041】
画像I1を道路平面拘束に従ってカメラ2からの見え方に変換するためのパラメータH1to2を用いてカメラ2からの見え方に変換した変換画像M1では、道路に存在するガードレールや生垣などの立体物が右側に倒れこんだ形に変換される。立体物は道路と接する地点を中心にして倒れこんで変換されるので、道路より高い場所にあるもの(画素)ほど右側に大きく移動する。
【0042】
従って、変換画像とM1と画像I2から差異画像S1を生成すると、道路面は輝度差が小さくなり、道路より高い場所にある物体は輝度差が大きくなる。このため、差異画像S1は図5に示すようにガードレール部分に輝度差の大きい領域X1が現れるので、この領域X1の境界を検出すれば路肩の位置を検出することができる。
【0043】
画像I2を道路平面拘束に従ってカメラ1からの見え方に変換するためのパラメータH2to1を用いてカメラ1からの見え方に変換した変換画像M2では、道路に存在するガードレールや生垣などの立体物が左側に倒れこんだ形に変換される。立体物は道路と接する地点を中心にして倒れこんで変換されるので、道路より高い場所にあるもの(画素)ほど左側に大きく移動する。
【0044】
従って、変換画像とM2と画像I1から差異画像S2を生成すると、道路面は輝度差が小さくなり、道路より高い場所にある物体は輝度差が大きくなる。このため、差異画像S2は図5に示すようにガードレール部分に輝度差の大きい領域X2が現れるので、この領域X2の境界を検出すれば路肩の位置を検出することができる。
【0045】
路肩検出部7は、差異計算部5で求めた差異画像S1から領域X1を探索して、道路右側(カメラ2に近い側)の路肩を検出する。尚、路肩の検出には走行レーンが交わる消失点V1の座標を必要とするので、本装置では、制御部9が初期化動作の中で消失点V1の座標を求める。
【0046】
路肩検出部7は、まず、図6(a)に示すように画像中の消失点V1を通る画面下端に対する水平線を求める。水平線と画像端の交点をそれぞれHa1、Ha2とする。路肩検出部7は消失点V1と画像の端点Tm1を通る直線に沿って差異画像S1を走査する。走査範囲は端点Tm1が画像の端を通って反時計回りにHa1からHa2までである。路肩検出部7は直線V1Tm1を境界にして差異画像S1の画素値を比較して路肩を検出する。
【0047】
路肩検出部7で行う画素値の比較の具体的方法を説明する。端点Tm1の前後所定距離(例えば5画素)離れた場所に点Tn1、Tp1をとり、三角形V1Tm1Tn1(領域Sn1)と三角形V1Tm1Tp1(領域Sp1)の領域に着目する。路肩検出部7は領域Sn1、Sp1内の平均輝度値mn1、mp1を求めて、平均輝度値と所定の閾値D1、D2が数6の関係を満たすかを判定する。
【0048】
【数6】
【0049】
路肩検出部7は、平均輝度値が数6の関係を満たした場合は、差異画像S1中の直線V1Tm1を路肩候補とし、数7で表される信頼度R1を計算して路肩検出部7に内蔵されたメモリ(図示せず)に登録しておく。
【0050】
【数7】
【0051】
路肩検出部7は数7で計算した信頼度R1が最小となる直線V1Tm1を道路右側の路肩として出力する。
【0052】
尚、路肩検出部7では数7の式を路肩位置を判定する信頼度として用いたが、領域Sn1、Sp1の平均輝度mn1、mp1と、領域Sn1と領域Sp1を合わせた領域の平均輝度mT1を用いて、数8の関係式で定義した信頼度R1を用いても良い。
【0053】
【数8】
【0054】
ただし、数8で定義した信頼度R1を用いる場合は、信頼度R1が最大になる直線V1Tm1を道路右側の路肩として出力する。
【0055】
以上のようにして路肩検出部7は道路右側の路肩を検出し、検出した路肩の情報を制御部9へ出力する。
【0056】
路肩検出部8は、差異計算部6で求めた差異画像S2から領域X2を探索して、道路左側(カメラ1に近い側)の路肩を検出する。尚、路肩の検出には走行レーンが交わる消失点V2の座標を必要とするので、本装置では、制御部9が初期化動作の中で消失点V2の座標を求める。
【0057】
路肩検出部8は、まず、図6(b)に示すように画像中の消失点V2を通る画面下端に対する水平線を求める。水平線と画像端の交点をそれぞれHb1、Hb2とする。路肩検出部8は消失点V2と画像の端点Tm2を通る直線に沿って差異画像S2を走査する。走査範囲は端点Tm2が画像の端を通って反時計回りにHb1からHb2までである。路肩検出部8は直線V2Tm2を境界にして差異画像S2の画素値を比較して路肩を検出する。
【0058】
路肩検出部8で行う画素値の比較の具体的方法を説明する。端点Tm2の前後所定距離(例えば5画素)離れた場所に点Tn2、Tp2をとり、三角形V2Tm2Tn2(領域Sn2)と三角形V2Tm2Tp2(領域Sp2)の領域に着目する。路肩検出部8は領域Sn2、Sp2内の平均輝度値mn2、mp2を求めて、平均輝度値と所定の閾値D1、D2が数9の関係を満たすかを判定する。
【0059】
【数9】
【0060】
路肩検出部8は、平均輝度値が数9の関係を満たした場合は、差異画像S2中の直線V2Tm2を路肩候補とし、数10で表される信頼度R2を計算して路肩検出部8に内蔵されたメモリ(図示せず)に登録しておく。
【0061】
【数10】
【0062】
路肩検出部8は数10で計算した信頼度R2が最小となる直線V2Tm2を道路左側の路肩として出力する。
【0063】
尚、路肩検出部8では数10の式を路肩位置を判定する信頼度として用いたが、領域Sn2、Sp2の平均輝度mn2、mp2と、領域Sn2と領域Sp2を合わせた領域の平均輝度mT2を用いて、数11の関係式で定義した信頼度R2を用いても良い。
【0064】
【数11】
【0065】
ただし、数11で定義した信頼度R2を用いる場合は、信頼度R2が最大になる直線V2Tm2を道路左側の路肩として出力する。
【0066】
以上のようにして路肩検出部8は道路左側の路肩を検出し、検出した路肩の情報を制御部9へ出力する。
【0067】
制御部9は前述の通り、路肩検出部7、8で検出した路肩の情報を画像情報に変換して、GUI及び画像蓄積部3、4から読み出したカメラ1、2で撮影した画像上に合成し、これをユーザーインターフェースであるGUIと合成してGUIを表示部10に出力する。この他に、本装置の使用者からの操作を受け付けたり、本装置起動時及び使用者からの要求による初期化動作を行う。
【0068】
以下、制御部9で行う初期化動作について説明する。
【0069】
制御部9は初期化動作において、道路平面拘束を用いて画像を変換するパラメータH1to2とH2to1と、走行レーンの消失点を求める。
【0070】
制御部9はGUI上で本装置の使用者にポインティングデバイスで画像I1の道路面上の特徴点(道路平面上に描かれた直線の交点やペイントの角点等)をN個(4個以上)と指定したN個の点に対応する画像I2上の点(対応点)と、画像I1、I2それぞれの走行レーンの消失点V2、V1を指定するように促し、画像I1での道路面上の特徴点N個の座標と、それぞれの特徴点について画像I2上での対応点N個の座標と、消失点の座標V1とV2を得る。制御部9は消失点の座標V1を路肩検出部7に、消失点の座標V2を路肩検出部8にそれぞれ出力する。
【0071】
制御部9は、本装置の使用者が指定したN組の点の座標値を、画像I1上の点を(u1,v1)として、画像I2上の点を(u2,v2)として数3の関係式に代入して得られるHについての2N本の連立方程式を解いて、画像I1を道路平面拘束に従ってカメラ2からの見え方に変換するためのパラメータH1to2を求める。制御部9は、求めたH1to2を差異計算部5に出力する。
【0072】
同様にして、制御部9は、画像I2上の点を(u1,v1)として、画像I1上の点を(u2,v2)として数3の関係式に代入して得られるHについての2N本の連立方程式を解いて、画像I2を道路平面拘束に従ってカメラ1からの見え方に変換するためのパラメータH2to1を求める。制御部9は、求めたH2to1を差異計算部6に出力する。
【0073】
以上のようにして、制御部9は初期化動作を実施する際に路肩検出処理で必要となる各種のパラメータを計算する。
【0074】
本実施形態では差異計算部5、6で、輝度値の絶対値差分を用いて差異画像S1、S2を求めているが、これに限らず、フーリエ変換値等のテクスチャーを示す尺度や各種の相関係数を用いても構わない。
【0075】
また、本実施形態では車両の進行方向に対して左右の路肩を検出しているが、必ずしも両側の路肩を検出する必要はない。例えば日本のように左側通行の国であれば左側の路肩のみを本装置で検出して、走行車線右側の境界は本発明以外の別の方法で白線を検出するという使い方もある。このように恒常的に左側だけを検出する場合は本実施形態の差異計算部5及び路肩検出部7の構成を省いても良い。また、逆に右側だけを検出する場合は差異計算部6及び路肩検出部8の構成を省いても良い。
【0076】
以上、本実施形態の路肩検出装置によれば、2台のカメラで撮影したステレオ画像から、車両が走行する道路面と高さが異なる領域を抽出し、その領域と道路面との境界線を求めているので、高さや距離を求める装置に比べて少ない計算量で路肩を検出することができる。
【0077】
(第2の実施形態)以下、本発明の第2の実施形態の路肩検出装置について説明する。本発明第2の実施形態の路肩検出装置は、第1の実施形態の路肩検出装置と大部分の構成は同じである。よって、構成の異なる部分についてだけ説明する。
【0078】
図2は本発明第2の実施形態の路肩検出装置の路肩検出部7、8の構成を説明するブロック図である。第1の実施形態と異なり、路肩検出部7は、逆投影部11と境界検出部13を有し、路肩検出部8は、逆投影部12と境界検出部14を有している。
【0079】
路肩検出部7は差異計算部5から得られた差異画像S1を車両が存在する道路面上に逆投影する逆投影部11へ入力して、逆投影部11からの逆投影した差異画像RS1から、道路面と高さが異なる領域を求め、その境界線を道路の右側の路肩として検出する境界検出部13を用いて路肩を検出している。
【0080】
路肩検出部8は差異計算部6から得られた差異画像S2を車両が存在する道路面上に逆投影する逆投影部12へ入力して、逆投影部12からの逆投影した差異画像RS2から、道路面と高さが異なる領域を求め、その境界線を道路の右側の路肩として検出する境界検出部14を用いて路肩を検出している。
【0081】
逆投影部11は、差異計算部5で求めた差異画像S1を数12の式により、車両が存在する道路面上に逆投影して逆投影差異画像RS1を生成する。図7(a)に示すような態様をしている差異画像S1は、車両が存在する道路面上に逆投影されると図7(b)に示すような逆投影差異画像RS1になる。逆投影部11は生成した逆投影差異画像RS1を境界検出部13へ出力する。
【0082】
【数12】
【0083】
数12において、(x,y)は図7(a)に示すように差異画像S1中の点であり、座標系の原点は差異画像S1の消失点位置である。また、(u,v)は図7(b)に示すように逆投影画像中の点であり、座標系の原点は逆投影差異画像RS1の上部中央位置である。yminは差異画像S1上において逆投影変換を行う下限ラインであり、Rx、Ryは逆投影差異画像RS1を適正な画像サイズに収めるための縮小率である。ymin、Rx、Ryは制御部9が初期化動作を行う時に、本装置の使用者にそれぞれの値を設定するように促して設定される値である。
【0084】
逆投影画像では、ガードレール、壁面、生垣、歩道の段差などの路肩部分が道路と路肩の境界位置から外側に倒れこむ形で表現される。また、道路部分は道路を真上から見下ろす形で表現されるので、逆投影前の画像では消失点に向かって幅が狭くなっていく一定幅の直線道路が、逆投影画像では一定幅の道路として表現される。
【0085】
境界検出部13は、逆投影画像RS1を走査して道路と道路右側路肩との境界を検出する。境界検出部13は、逆投影画像RS1を図9(b)に示すように水平方向の領域Wi2(i=1〜n)に分割して、各領域Wi2内を水平方向に走査する。境界検出部13は図9(b)に示すように、走査地点P2を中心に、高さが領域Wi2と同じ高さで、予め設定しておいた固定幅dl2、dr2を有する領域Ql2、Qr2を設定して、領域Ql2、Qr2内の平均輝度値mQl2、mQr2をそれぞれ計算して、所定の閾値DD1、DD2と数13の関係を満たすかを判定する。
【0086】
【数13】
【0087】
境界検出部13は、平均輝度値が数13の関係を満たした場合は、逆投影画像RS1中の走査地点P2を領域Wi2内の路肩境界線候補地点とし、数14で表される信頼度RRP2を計算して境界検出部13に内蔵のメモリ(図示せず)に登録しておく。
【0088】
【数14】
【0089】
境界検出部13は、各領域Wi2毎に、信頼度RRP2の値が最小となる走査地点P2を領域Wi2内に存在する道路右側の路肩位置として、座標のu成分を走査地点P2の水平位置、v成分を領域Wi2の高さ方向の中点のv成分とする路肩位置代表点Ai2を境界検出部13に内蔵のメモリ(図示せず)に順次記憶する。境界検出部13は、図10(b)に示すように順次記憶した路肩位置代表点Ai2を結んだ折れ線を道路右側の路肩情報として制御部9へ出力する。
【0090】
尚、境界検出部13では路肩位置を判定する信頼度として数14の関係式を用いたが、領域Ql2とQr2を合わせた領域の平均輝度値mT2を求めて数15の関係式を信頼度として用いても良い。
【0091】
【数15】
【0092】
数15を信頼度RRP2として用いた場合は、信頼度RRP2が最大となる走査地点P2を領域Wi2の路肩位置とみなせばよい。
【0093】
逆投影部12は、差異計算部5で求めた差異画像S2を数12の式により、車両が存在する道路面上に逆投影して図8(a)に示すような逆投影差異画像RS2を生成する。逆投影部12は生成した逆投影差異画像RS2を境界検出部14へ出力する。
【0094】
境界検出部14は、逆投影画像RS2を走査して道路と道路左側路肩との境界を検出する。境界検出部14は、逆投影画像RS2を図9(a)に示すように水平方向の領域Wi1(i=1〜n)に分割して、各領域Wi1内を水平方向に走査する。境界検出部14は図9(a)に示すように、走査地点P1を中心に、高さが領域Wi1と同じ高さで、予め設定しておいた固定幅dl1、dr1を有する領域Ql1、Qr1を設定して、領域Ql1、Qr1内の平均輝度値mQl1、mQr1をそれぞれ計算して、所定の閾値DD1、DD2と数16の関係を満たすかを判定する。
【0095】
【数16】
【0096】
境界検出部14は、平均輝度値が数16の関係を満たした場合は、逆投影画像RS2中の走査地点P1を領域Wi1内の路肩境界線候補地点とし、数17で表される信頼度RRP1を計算して境界検出部14に内蔵のメモリ(図示せず)に登録しておく。
【0097】
【数17】
【0098】
境界検出部14は、各領域Wi1毎に、信頼度RRP1の値が最小となる走査地点P1を領域Wi1内に存在する道路右側の路肩位置として、座標のu成分を走査地点P1の水平位置、v成分を領域Wi1の高さ方向の中点のv成分とする路肩位置代表点Ai1を境界検出部14に内蔵のメモリ(図示せず)に順次記憶する。境界検出部14は、図10(a)に示すように順次記憶した路肩位置代表点Ai1を結んだ折れ線を道路左側の路肩情報として制御部9へ出力する。
【0099】
尚、境界検出部13では路肩位置を判定する信頼度として数17の関係式を用いたが、領域Ql1とQr1を合わせた領域の平均輝度値mT1を求めて数18の関係式を信頼度として用いても良い。
【0100】
【数18】
【0101】
数18を信頼度RRP1として用いた場合は、信頼度RRP1が最大となる走査地点P1を領域Wi1の路肩位置とみなせばよい。
【0102】
本実施形態においても第1の実施形態と同様で、車両の進行方向に対して片側の路肩を検出すればよい場合は、検出を行わない側の差異計算部及び路肩検出部の構成を省略しても構わない。
【0103】
以上、本実施形態の路肩検出装置によれば、第1の実施形態の路肩検出装置の利点に加えて、路肩検出の際の画像の走査方向が画面に対して水平方向であるので、特にハードウエアで実装する場合に実装が容易であるという利点がある。
【0104】
(第3の実施形態)図11は本発明の路肩検出装置を用いた自動車の車両制御装置の構成を説明するブロック図である。
【0105】
本実施形態の車両制御装置の路肩検出装置部分の構成は、第1及び第2の実施形態で説明した路肩検出装置とほぼ同等である。異なる点は、初期化動作を行う制御部9と検出結果を表示するための表示部10を取り除いた点である。尚、路肩検出装置部分としては、第1の実施形態の路肩検出装置を用いても、第2の実施形態の路肩検出装置のいずれを用いても構わない。
【0106】
出力部15は路肩の検出結果を路肩検出装置部分の外部に出力するためのインターフェースである。
【0107】
車両制御部16は出力部15から出力された路肩検出結果をもとに、本装置を設置した車両の走行車線における位置を判断して、走行車線から外れてそうな場合に運転者に注意を促したり、事故や衝突の危険がある場合にはステアリングやブレーキを操作して回避するための制御部分である。
【0108】
路肩検出装置部分での路肩検出処理に必要なH1to2、H2to1、走行レーン消失点などの各種パラメータは、予めパラメータ算出用装置(図示せず)を用いて算出して、ROM(Read Only Memory)に記憶させて工場出荷時に組み込んで与える。そのため、第1、第2の実施形態のような初期化動作を行う機能は不要となっている。
【0109】
以上、本実施形態の車両制御装置ならば、路肩を自動的に検出して路肩から外れそうになったときは注意を促し、場合によっては回避動作を自動的に行うことが可能なので、居眠り運転などによる事故を減らせる。
【0110】
【発明の効果】
本発明によれば、2台のカメラで撮影したステレオ画像から車両が走行する道路面と高さが異なる領域を抽出し、その領域と道路面との境界線を求めることで安定かつ計算量の少ない路肩検出装置及びその方法を提供することができる。
【図面の簡単な説明】
【図1】 本発明の第1、第2の実施形態の路肩検出装置の構成を示すブロック図。
【図2】 本発明の第2の実施形態の路肩検出装置の路肩検出部の構成を説明するブロック図。
【図3】 本発明の第1、第2の実施形態の路肩検出装置におけるカメラの設置位置を示す図。
【図4】 (a)カメラ1から得られる画像I1を説明する図。(b)カメラ2から得られる画像I2を説明する図。
【図5】 (a)差異画像S2を説明する図。(b)差異画像S1を説明する図。
【図6】 (a)本発明の第1の実施形態の路肩検出装置で差異画像S2から路肩を検出する方法を説明する図。(b)本発明の第1の実施形態の路肩検出装置で差異画像S1から路肩を検出する方法を説明する図。
【図7】 (a)カメラで得られる画像を説明する図。(b)逆投影画像を説明する図。
【図8】 (a)差異画像S2の逆投影画像RS2を説明する図。(b)差異画像S1の逆投影画像RS1を説明する図。
【図9】 (a)本発明の第2の実施形態の路肩検出装置で、逆投影画像RS2から路肩を検出する方法を説明する図。(b)本発明の第2の実施形態の路肩検出装置で、逆投影画像RS1から路肩を検出する方法を説明する図。
【図10】 (a)本発明の第2の実施形態の路肩検出装置で検出されたカメラ1側の路肩を示す折れ線を説明する(b)本発明の第2の実施形態の路肩検出装置で検出されたカメラ2側の路肩を示す折れ線を説明する図。
【図11】 本発明の第3の実施形態である、車両制御装置の構成を説明する図。
【符号の説明】
1、2 カメラ
3、4 画像蓄積部
5、6 差異計算部
7、8 路肩検出部
9 制御部
10 表示部
11、12 逆投影部
13、14 境界検出部
V1、V2 消失点
P1、P2 走査地点
Claims (8)
- 走行する車両から立体物で区切られた走行路の境界を検出する方法であって、
前記車両の進行方向の第1の側に設置した第1のカメラと第2の側に設置した第2のカメラを用いて同時に第1の画像と第2の画像を取得する画像取得ステップと、
前記第1の画像と前記第2の画像をそれぞれメモリに蓄積する画像蓄積ステップと、
前記第2の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第2の画像を前記第1のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との対応する画素間の輝度値の絶対値差分を計算して差異画像を生成する差異画像生成ステップと、
前記差異画像を前記車両が走行する道路面上に逆投影して逆投影画像を生成する逆投影ステップと、
前記逆投影画像を水平方向に走査して輝度の変化が予め定めた条件を満たす点を求めることにより、進行方向の第1の側に存在する立体物で区切られた走行路の境界を検出する境界検出ステップと、
を有する路肩検出方法。 - 前記第1の側は、車両の進行方向に向かって左側であることを特徴とする請求項1記載の路肩検出方法。
- 走行する車両から立体物で区切られた走行路の境界を検出する方法であって、
前記車両の進行方向の左側に設置した第1のカメラと右側に設置した第2のカメラとを用いて同時に第1の画像と第2の画像を取得する画像取得ステップと、
前記第1の画像と前記第2の画像をそれぞれメモリに蓄積する画像蓄積ステップと、
前記第2の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第2の画像を前記第1のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との輝度値の絶対値差分を計算して第1の差異画像を生成するとともに、前記第1の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第1の画像を前記第2のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との輝度値の絶対値差分を計算して第2の差異画像を生成する差異画像生成ステップと、
前記第1の差異画像の端にある第1の端点と前記差異画像での走行路の消失点とを結ぶ線分を挟んで接する2つの領域の画素値の平均値を、前記第1の端点を前記第1の差異画像の端に沿って移動させながら求め、前記平均値が予め定めた条件を満たすときの前記第1の端点と前記消失点とを結ぶ線分を走行路の右側の境界として検出するとともに、前記第2の差異画像の端にある第2の端点と前記差異画像での走行路の消失点とを結ぶ線分を挟んで接する2つの領域の各々の画素値の平均値を、前記第2の端点を前記第2の差異画像の端に沿って移動させながら求め、前記平均値が予め定めた条件を満たすときの前記第2の端点と前記消失点とを結ぶ線分を走行路の左側の境界として検出する境界検出ステップと、
を有する路肩検出方法。 - 走行する車両から立体物で区切られた走行路の境界を検出する方法であって、
前記車両の進行方向の左側に設置した第1のカメラと右側に設置した第2のカメラとを用いて同時に第1の画像と第2の画像を取得する画像取得ステップと、
前記第1の画像と前記第2の画像をそれぞれメモリに蓄積する画像蓄積ステップと、
前記第2の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第2の画像を前記第1のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との輝度値の絶対値差分を計算して第1の差異画像を生成し、前記第1の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第1の画像を前記第2のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との輝度値の絶対値差分を計算して第2の差異画像を生成する差異画像生成ステップと、
前記第1の差異画像及び前記第2の差異画像を前記車両が走行する道路面上に逆投影して第1の逆投影画像と第2の逆投影画像を生成する逆投影ステップと、
前記第1の逆投影画像を水平方向に走査して輝度の変化が予め定めた条件を満たす点を求めることにより進行方向の左側に存在する立体物で区切られた走行路の境界を検出するとともに、前記第2の逆投影画像を水平方向に走査して輝度の変化が予め定めた条件を満たす点を求めることにより進行方向の右側に存在する立体物で区切られた走行路の境界を検出する境界検出ステップと、
を有する路肩検出方法。 - 道路を走行する車両に設置され、立体物で区切られた走行路の境界を検出する装置であって、
前記車両の進行方向の第1の側に設置した第1のカメラ及び第2の側に設置した第2のカメラと、
前記第1、第2のカメラで同時に撮影した第1、第2の画像を画面単位で蓄積する第1、第2の画像蓄積部と、
前記第2の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第2の画像を前記第1のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との対応する画素間の輝度値の絶対値差分を計算して差異画像を生成する差異画像生成部と、
前記差異画像を前記道路面上に逆投影して逆投影画像を生成する逆投影部と、
前記逆投影画像を水平方向に走査して輝度の変化が予め定めた条件を満たす点を求めることにより、前記第1のカメラ側の立体物で区切られた走行路の境界を検出する境界検出部と、
を有する路肩検出装置。 - 前記第1の側は車両の進行方向に向かって左側であることを特徴とする請求項5記載の路肩検出装置。
- 道路を走行する車両に設置され、立体物で区切られた走行路の境界を検出する装置であって、
前記車両の進行方向の左側に設置した第1のカメラ及び右側に設置した第2のカメラと、
前記第1、第2のカメラで同時に撮影した第1、第2の画像を画面単位で蓄積する第1、第2の画像蓄積部と、
前記第2の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第2の画像を前記第1のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との対応する画素間の輝度値の絶対値差分を計算して第1の差異画像を生成するとともに、前記第1の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第1の画像を前記第2のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との対応する画素間の輝度値の絶対値差分を計算して第2の差異画像を生成する差異画像生成部と、
前記第1の差異画像の端にある第1の端点と前記差異画像での走行路の消失点とを結ぶ線分を挟んで接する2つの領域の各々の画素値の平均値を、前記第1の端点を前記第1の差異画像の端に沿って移動させながら求め、前記平均値が予め定めた条件を満たすときの前記第1の端点と前記消失点とを結ぶ線分を走行路の右側の境界として検出するとともに、前記第2の差異画像の端にある第2の端点と前記差異画像での走行路の消失点とを結ぶ線分を挟んで接する2つの領域の各々の画素値の平均値を、前記第2の端点を前記第2の 差異画像の端に沿って移動させながら求め、前記平均値が予め定めた条件を満たすときの前記第2の端点と前記消失点とを結ぶ線分を走行路の左側の境界として検出する境界検出部と、
を有する路肩検出装置。 - 道路を走行する車両に設置され、立体物で区切られた走行路の境界を検出する装置であって、
前記車両の進行方向の左側に設置した第1のカメラ及び右側に設置した第2のカメラと、
前記第1、第2のカメラで同時に撮影した第1、第2の画像を画面単位で蓄積する第1、第2の画像蓄積部と、
前記第2の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第2の画像を前記第1のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との対応する画素間の輝度値の絶対値差分を計算して第1の差異画像を生成するとともに、前記第1の画像の全画素が前記車両が走行する道路面を撮影したものであると仮定して、前記第1の画像を前記第2のカメラからの見え方に変換する対応関係を用いて、前記第1の画像と前記第2の画像との対応する画素間の輝度値の絶対値差分を計算して第2の差異画像を生成する差異画像生成部と、
前記第1の差異画像を前記道路面上に逆投影して第1の逆投影画像を生成し、前記第2の差異画像を前記道路面上に逆投影して第2の逆投影画像を生成する逆投影部と、
前記第1の逆投影画像を水平方向に走査して輝度の変化が予め定めた条件を満たす点を求めることにより、進行方向の左側の立体物で区切られた走行路の境界を検出するとともに、前記第2の逆投影画像を水平方向に走査して輝度の変化が予め定めた条件を満たす点を求めることにより、進行方向の右側の立体物で区切られた走行路の境界を検出する境界検出部と、
を有する路肩検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002031871A JP3897337B2 (ja) | 2002-02-08 | 2002-02-08 | 路肩検出装置及び方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002031871A JP3897337B2 (ja) | 2002-02-08 | 2002-02-08 | 路肩検出装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003233899A JP2003233899A (ja) | 2003-08-22 |
JP3897337B2 true JP3897337B2 (ja) | 2007-03-22 |
Family
ID=27775152
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002031871A Expired - Fee Related JP3897337B2 (ja) | 2002-02-08 | 2002-02-08 | 路肩検出装置及び方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3897337B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10853666B2 (en) * | 2017-09-29 | 2020-12-01 | Toyota Jidosha Kabushiki Kaisha | Target object estimating apparatus |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5089545B2 (ja) | 2008-09-17 | 2012-12-05 | 日立オートモティブシステムズ株式会社 | 道路境界検出判断装置 |
JP5325765B2 (ja) * | 2009-12-28 | 2013-10-23 | 日立オートモティブシステムズ株式会社 | 路肩検出装置及び路肩検出装置を用いた車両 |
US9959595B2 (en) | 2010-09-21 | 2018-05-01 | Mobileye Vision Technologies Ltd. | Dense structure from motion |
US9280711B2 (en) | 2010-09-21 | 2016-03-08 | Mobileye Vision Technologies Ltd. | Barrier and guardrail detection using a single camera |
JP5389002B2 (ja) * | 2010-12-07 | 2014-01-15 | 日立オートモティブシステムズ株式会社 | 走行環境認識装置 |
JP5817331B2 (ja) * | 2011-08-23 | 2015-11-18 | 株式会社リコー | 車両運転支援装置、車両が走行する道路の路肩を検出する方法および該方法に基づく車両運転支援方法 |
KR101927155B1 (ko) * | 2012-10-19 | 2018-12-10 | 현대자동차 주식회사 | 도로 갓길의 공간 인지 방법 및 시스템 |
JP6548312B2 (ja) * | 2017-09-19 | 2019-07-24 | 株式会社Subaru | 画像処理装置 |
JP7296340B2 (ja) * | 2018-08-07 | 2023-06-22 | 住友建機株式会社 | ショベル |
CN114202625B (zh) * | 2021-12-10 | 2023-03-14 | 北京百度网讯科技有限公司 | 路肩线的提取方法、装置及电子设备 |
-
2002
- 2002-02-08 JP JP2002031871A patent/JP3897337B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10853666B2 (en) * | 2017-09-29 | 2020-12-01 | Toyota Jidosha Kabushiki Kaisha | Target object estimating apparatus |
Also Published As
Publication number | Publication date |
---|---|
JP2003233899A (ja) | 2003-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11763571B2 (en) | Monocular cued detection of three-dimensional structures from depth images | |
US9330320B2 (en) | Object detection apparatus, object detection method, object detection program and device control system for moveable apparatus | |
JP6550881B2 (ja) | 立体物検出装置、立体物検出方法、立体物検出プログラム、及び移動体機器制御システム | |
JP4871909B2 (ja) | 物体認識装置、および物体認識方法 | |
JP5714940B2 (ja) | 移動***置測定装置 | |
EP2924653B1 (en) | Image processing apparatus and image processing method | |
EP0747870B1 (en) | An object observing method and device with two or more cameras | |
US7899211B2 (en) | Object detecting system and object detecting method | |
US7046822B1 (en) | Method of detecting objects within a wide range of a road vehicle | |
WO2017090326A1 (ja) | 画像処理装置、撮像装置、機器制御システム、分布データ生成方法、及びプログラム | |
KR20160123668A (ko) | 무인자동주차 기능 지원을 위한 장애물 및 주차구획 인식 장치 및 그 방법 | |
US20170124725A1 (en) | Image processing apparatus, imaging device, device control system, frequency distribution image generation method, and recording medium | |
US20040057599A1 (en) | Image processing apparatus and method | |
JP2002352225A (ja) | 障害物検出装置及びその方法 | |
JP4872769B2 (ja) | 路面判別装置および路面判別方法 | |
JP3897337B2 (ja) | 路肩検出装置及び方法 | |
JP3562751B2 (ja) | 前方車両検出方法及び装置 | |
JP2009245042A (ja) | 交通流計測装置及びプログラム | |
Janda et al. | Road boundary detection for run-off road prevention based on the fusion of video and radar | |
JP2005217883A (ja) | ステレオ画像を用いた道路平面領域並びに障害物検出方法 | |
JP4256992B2 (ja) | 障害物検出装置 | |
CN114120254A (zh) | 道路信息识别方法、装置及存储介质 | |
JP2010055340A (ja) | 走行路推定装置及びプログラム | |
JP4106163B2 (ja) | 障害物検出装置及びその方法 | |
Onoguchi et al. | Planar projection stereopsis method for road extraction |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040225 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050414 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20050606 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060719 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060818 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061012 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061215 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061218 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110105 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |