JP5799784B2 - 道路形状推定装置及びプログラム - Google Patents

道路形状推定装置及びプログラム Download PDF

Info

Publication number
JP5799784B2
JP5799784B2 JP2011267388A JP2011267388A JP5799784B2 JP 5799784 B2 JP5799784 B2 JP 5799784B2 JP 2011267388 A JP2011267388 A JP 2011267388A JP 2011267388 A JP2011267388 A JP 2011267388A JP 5799784 B2 JP5799784 B2 JP 5799784B2
Authority
JP
Japan
Prior art keywords
line
edge line
edge
road
road shape
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011267388A
Other languages
English (en)
Other versions
JP2013120458A (ja
Inventor
中山 收文
收文 中山
宗久 上利
宗久 上利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2011267388A priority Critical patent/JP5799784B2/ja
Publication of JP2013120458A publication Critical patent/JP2013120458A/ja
Application granted granted Critical
Publication of JP5799784B2 publication Critical patent/JP5799784B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Steering Control In Accordance With Driving Conditions (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、道路形状推定装置及びプログラムに関する。
カメラを車両の進行方向又は進行方向と逆向きに取り付け、撮影された映像に含まれる車線区分線を検出して、車線区分線の情報から走行車線と車両との位置関係を求め、道路形状を推定する方法は古くから研究・開発されている。
例えば、カメラで撮影した車両前方の路面画像から、縦方向に複数個所で横方向に画像を走査し、輝度(濃淡)の変化箇所として車線区分線のエッジを検出し、エッジ情報に基づいて走行車線と車両との位置関係を推定する方法が知られている。この方法では、画像から検出されたエッジ点を縦方向に繋ぐことで車線区分線を識別し、道路形状モデルと車線区分線の位置とを照合して路面上の車線区分線の位置が決定される。
カーブ路の路面上には、車線区分線と平行に減速を促すための補助線(減速補助マーカ)がペイントされている場合がある。この補助線としては、例えば、車線区分線に用いられる破線より短い破線ブロックの列が用いられる。
このような多重線路の路面画像における走行車線の左右いずれか一方の側から、エッジ検出により複数の区分線候補のエッジが検出された場合に、エッジ周期を比較して最も連続線に近い候補を車線区分線と判定する方法が知られている。この方法では、車両が走行している車線に車線区分線と補助線がペイントされていても、補助線は短い破線ブロックのエッジからなる不連続線として認識されるので、検出された複数の区分線候補のうち最も連続線に近い候補を選択することで、本来の車線区分線を認識することができる。
特開2004−310522号公報
高橋新,二宮芳樹,「走行レーン認識におけるロバストなレーンマーキング候補選択の一手法」,電子情報通信学会論文誌 D−II Vol.J81−D−II No.8 pp.1904−1911,1998年8月
上述した従来の車線区分線認識技術には、以下のような問題がある。
従来の車線区分線認識技術では、図1に示すように、路面画像における車両の近傍(画像の下側)から遠方(画像の上側)までのすべての領域において、車線区分線101及び102と補助線103及び104とが区別できることが必要である。さらに、縦方向に隣接する補助線同士が画像中で分離されていることも必要である。
しかしながら、路面画像の解像度には限界があるため、遠方に映る物体は分解能が低下し、遠方では車線区分線と補助線の融合や、縦方向に隣接する補助線同士の融合が生じることがある。
図2は、車線区分線と補助線の融合が生じる第1の例を示している。第1の例では、車線区分線201及び202は実線であり、補助線203及び204は破線であるが、遠方では解像度の低下により、車線区分線201と補助線203の融合及び車線区分線202と補助線204の融合が生じている。さらに、補助線203の破線ブロック同士の融合及び補助線204の破線ブロック同士の融合も生じている。この場合、最も連続線に近い候補は、融合したブロックのエッジ線205及び206であるため、これらの誤った形状特徴を持つエッジ線に基づいて道路形状が推定されることになる。
図3は、車線区分線と補助線の融合が生じる第2の例を示している。第2の例では、車線区分線301及び302は破線であり、補助線303及び304も破線であるが、補助線303及び304の方が破線ブロックの長さが短い。遠方では解像度の低下により、車線区分線301と補助線303の融合及び車線区分線302と補助線304の融合が生じ、補助線303の破線ブロック同士の融合及び補助線304の破線ブロック同士の融合も生じている。この場合、最も連続線に近い候補は、融合したブロックのエッジ線305及び306であるため、図2の場合と同様に、誤った形状特徴を持つエッジ線に基づいて道路形状が推定されることになる。
本発明の課題は、車線区分線と平行に補助線がペイントされているような多重線路であっても、解像度の低下による補助線からの影響を受けずに、道路の路面を撮影した画像から精度良く道路形状を推定することである。
道路形状推定装置は、エッジ検出部、道路形状推定部、補正量推定部、格納部、及び補正部を含む。
エッジ検出部は、道路の路面を撮影した画像から複数のエッジ線を検出し、それらのエッジ線のうち1つ以上のエッジ線を連結して複合エッジ線を生成する。道路形状推定部は、道路の中央に最も近い内側複合エッジ線の情報に基づいて、路面を撮影したカメラの横方向オフセットと道路幅とを含む、道路の道路形状パラメータを求める。
補正量推定部は、内側複合エッジ線と内側複合エッジ線の外側に位置する外側複合エッジ線との距離に基づいて補正量を求め、格納部は、その補正量を格納する。補正部は、横方向オフセット及び道路幅を補正量を用いて補正し、補正された横方向オフセット及び道路幅を含む道路形状パラメータを出力する。
上述した道路形状推定装置によれば、車線区分線と平行に補助線がペイントされているような多重線路であっても、解像度の低下による補助線からの影響を受けずに、道路の路面を撮影した画像から精度良く道路形状を推定することができる。
車線区分線と補助線を示す図である。 車線区分線と補助線の融合が生じる第1の例を示す図である。 車線区分線と補助線の融合が生じる第2の例を示す図である。 道路形状モデルを示す図である。 カメラの観測系モデルを示す図である。 補助線の内側境界線を示す図である。 シフト量を示す図である。 道路幅及びオフセットの補正方法を示す図である。 第1の道路形状推定装置の機能的構成図である。 第1の道路形状推定処理のフローチャートである。 第2の道路形状推定装置の機能的構成図である。 第2の道路形状推定処理のフローチャートである。 エッジ検出処理のフローチャートである。 デジタル画像を示す図である。 エッジ点を示す図である。 エッジ線を示す図である。 車線区分線を含む左右の領域を示す図である。 内側のエッジ線を示す図である。 複合エッジ線生成処理のフローチャート(その1)である。 複合エッジ線生成処理のフローチャート(その2)である。 複合エッジ線を示す図である。 候補線決定処理のフローチャートである。 補助線判定処理のフローチャートである。 補正量推定処理のフローチャート(その1)である。 補正量推定処理のフローチャート(その2)である。 車線逸脱警報システムの構成図である。 車両操舵システムの構成図である。 情報処理装置の構成図である。
以下、図面を参照しながら、実施形態を詳細に説明する。
図4は、道路形状モデルの例を示している。ここでは、車線の中央線Lcにおける曲率半径をRとし、車線の各位置で水平方向(X軸方向)に測って道路幅(車線幅)が常にWとなるモデルを考える。このモデルでは、中央線Lcに直交する方向での車線幅がWとならないため、実際の車線とは異なるが、カメラによる観測点から比較的近い範囲では誤差が小さく、解析的な取り扱いが簡単になる。
図5に示すように、カメラの中心を原点Oとして、原点Oから横方向に路面座標系のX軸をとり、縦方向に路面座標系のZ軸をとる。この場合、XZ平面に垂直な方向が路面座標のY軸となる。そして、原点Oを路面上に垂直に投影した点をROとする。図4の道路形状モデルにおける各記号の意味は以下の通りである。
Lc:車線の中央線
Lr:車線の右側の車線区分線
Ll:車線の左側の車線区分線
W:道路幅
R:曲率半径
e:点ROから中央線Lcまでの距離
P:車線区分線Lr又はLl上の着目点
A:車線区分線LrとXY平面の交点
B:着目点PをXY平面に垂直に投影した点
C:曲率中心
D:XY平面から着目点Pまでの距離
距離eは、カメラから道路中央までの距離(カメラの横方向オフセット)を表し、距離Dは、カメラから着目点Pまでの奥行き方向の距離を表す。このとき、着目点P(X,Z)のX座標Px及びZ座標Pzは、次式で与えられる。
式(1)が車線の路面上での位置を与える基礎式である。ただし、kは車線区分線Lr及びLlを区別するための定数で、着目点Pが右側の車線区分線Lr上にあるときはk=1、左側の車線区分線Ll上にあるときはk=−1である。曲率半径Rは、右カーブ、すなわち曲率中心CがX軸の正区間にある場合は正値とし、左カーブ、すなわち曲率中心CがX軸の負区間にある場合は負値とする。
基礎式(1)は、平方根を含んでいるため、解析的な取り扱いが難しい。そこで、曲率半径Rが極端に小さくない通常の走行時を想定して、基礎式(1)の近似化を行う。例えば、平方根の1次近似として、テーラー展開の第1項までを用いると、次式のようになる。
式(2)を用いると、基礎式(1)は以下のように書き改められる。
式(3)が1次近似での基礎式となる。
次に、路面上の車線区分線をカメラで観測したときの車線区分線の位置のモデルを導出する。
図5は、カメラの観測系モデルの例を示している。カメラの中心は路面から高さHの位置にあり、カメラは車両の進行方向に対して、ピッチ角φ、ヨー角θ、ロール角0で設置されているとする。ピッチ角φ及びヨー角θは、カメラ座標系から路面座標系への座標系の変換を正の回転方向に取る。したがって、路面座標系からカメラ座標系へは、座標点の変換が回転の正方向となる。また、カメラの焦点距離はfとする。このとき、路面座標(X,Y,Z)からカメラ座標(xc、yc、zc)への座標変換を考える。
路面座標系での点Pの座標(X,Y,Z)をピッチ角φとヨー角θを持つカメラ座標系での座標(xc,yc,zc)で表すと、次式のようになる。
この点をカメラで観測した画像の中央からx軸を右向きに、y軸を下向きに取り、画像座標を(x,y)とすると、着目点Pの画像座標(px,py)は次式で与えられる。
式(5)のX及びZに近似基礎式(3)の(Px,Pz)を代入し、YにHを代入すると、画像上での車線区分線の位置関係として次式が得られる。
式(6)から媒介変数であるDを除けば、pxとpyの関係式が求められる。実際には、式(6)の形のままではDについて容易に解けないため、関係式の導出が困難である。そこで、式(6)中の各項のオーダーを考慮して、式(6)の近似化を行う。
具体的には、各回転角φ及びθは大きくても20度程度であり、それほど大きくないため、sin系の値は0.1程度である。D、R、W、H、及びeの単位をメートルとすると、式(6)中のpx及びpyの分母において、第1項のcos(φ)sin(θ)に乗算される数値は2程度であるから、第1項は0.2程度の値を持つ。また、第2項のHの値も2程度であるから、第2項も0.2程度の値を持つ。これに対して、第3項のDの値は30程度であり、第3項はcos系の積なので30程度の値を持つ。したがって、分母では第3項が支配的で第1項及び第2項はほとんど影響を与えない。pyの分子についても同様である。したがって、最初の近似式として、次式が得られる。
式(7)のpyの式からDを求めて、pxの式に代入し、(px,py)を(x,y)と書き改めると、次式が得られる。
式(8)が、画像中の車線区分線上の点のx座標とy座標の関係式であり、画像座標系における基礎式となる。ここで、回転角φ及びθを微小とみなして、sinφ=φ、cosφ=1、sinθ=θ、cosθ=1とすると、次式が得られる。
式(9)が、道路形状モデルを表す最終的な近似式である。式(9)の道路曲率ρは、曲率半径Rの逆数に相当する。なお、カメラの横方向オフセットeとして、カメラと道路上の基準位置との横方向の相対距離を表す別のパラメータを用いることも可能である。
映像中の各時刻における画像(フレーム)から車線区分線の位置(x,y)が検出できれば、式(9)を用いて道路形状パラメータ(ρ,W,e,φ,θ)を推定することができる。これにより、路面上の車線区分線の形状と車両の位置及び方向との関係を求めて、道路形状を推定することができる。
以下の説明では、画像座標系の原点を画像の中央から画像の左上の点に平行移動して、車線区分線の位置(x,y)を記述する。
走行車線の左右の車線区分線の内側に補助線がペイントされている場合、補助線の影響を受けずに車線区分線が形成する道路形状を正しく推定するために、以下の点に着目する。
(1)補助線は、車線区分線と平行して存在する。
(2)補助線は、道路中央に近い側(車線区分線の内側)に存在する。
(3)補助線は破線であり、連続的に並んでいる破線ブロックの長さ及び間隔は、車線区分線で用いられる破線ブロックの長さ及び間隔より短い。
上記(2)及び(3)を考慮すると、車線区分線と補助線が融合したり、補助線同士が道路の奥行方向に融合したりしても、図6に示すように、補助線の内側境界線601〜606は損なわれることなく、常に安定して観測できることが分かる。
また、上記(1)を考慮すると、補助線の内側境界線601〜606を用いて道路形状パラメータを推定した場合、道路曲率ρ、ピッチ角φ、及びヨー角θについては正しい値が求められることが分かる。そこで、実施形態では、車線区分線や補助線の融合の有無に関わらず、補助線がある場合は補助線の内側境界線を用いて道路形状を推定する。
ただし、道路幅W及びオフセットeについては、内側境界線601〜606を道路端とみなした場合の誤った値が求められる。道路幅W及びオフセットeの誤差は、補助線の内側境界線の位置から車線区分線の位置までの距離に起因した値となる。
続いて、車線区分線や補助線の融合について考察する。図7に示すように、車線区分線711及び712や補助線721及び722が遠方にある領域701では、解像度が不足して融合した線分を分離することはできない。一方、線分が車両の近傍にある領域702では、各線分が大きく詳細に映るので、車線区分線711及び712や補助線721及び722の融合は発生しない。したがって、画像の下端に近い領域702に着目して検出した線分の位置関係を調べれば、補助線721及び722と車線区分線711及び712の位置的な誤差を求めることができる。
図7のシフト量DXは、左側の補助線721の内側境界線741から、補助線の幅だけ外側に離れた車線区分線711の内側境界線731までの距離を表す。また、シフト量DXは、右側の補助線722の内側境界線742から、補助線の幅だけ外側に離れた車線区分線712の内側境界線732までの距離を表す。シフト量DX及びDXが求められれば、それらを用いて道路幅W及びオフセットeの誤差を補正し、車線区分線に基づく正しい道路形状を推定することができる。
図8は、道路幅W及びオフセットeの補正方法を示している。補正前の道路幅W1は、内側境界線741の位置801と内側境界線742の位置803との距離を表し、補正前のオフセットe1は、カメラの位置804から補正前の道路中央の位置802までの距離を表す。補正後の道路幅W2は、内側境界線731の位置811と内側境界線732の位置813との距離を表し、補正後のオフセットe2は、カメラの位置804から補正後の道路中央の位置812までの距離を表す。このとき、補正後の道路幅W2及びオフセットe2は、次式により求められる。
W2=W1+(DX+DX
e2=e1+(−DX+DX)/2 (21)
ただし、車線区分線が破線である場合、破線ブロック間には相応のペイントが無い間隙があるため、画像の下端に近い領域702に着目した場合に、常に補助線と車線区分線からなる複数の線分が存在するとは限らない。例えば、一般的な高速道路では、破線ブロック(白線部分)の長さは8mで、破線ブロック間の間隙(非白線部分)の長さは12mである。
そこで、画像の下端に近い領域702を常に監視して複数の線分が存在するか否かを判定し、複数の線分が存在する時を見計らって補助線と車線区分線の位置的なシフト量を算出する。また、複数の線分が存在する場合には毎回シフト量を検出することで、補助線と車線区分線の間隔の変動に対応することができる。
図9は、道路形状推定装置の機能的構成例を示している。図9の道路形状推定装置901は、エッジ検出部911、道路形状推定部912、補正部913、補正量推定部914、及び格納部915を含む。
図10は、図9の道路形状推定装置901による道路形状推定処理の例を示すフローチャートである。まず、エッジ検出部911は、道路の路面を撮影した画像から複数のエッジ線を検出し(ステップ1001)、それらのエッジ線のうち1つ以上のエッジ線を連結して複合エッジ線を生成する(ステップ1002)。
次に、道路形状推定部912は、道路の中央に最も近い内側複合エッジ線の情報に基づいて、道路幅及びオフセットを含む、道路の道路形状パラメータを求める(ステップ1003)。また、補正量推定部914は、内側複合エッジ線と内側複合エッジ線の外側に位置する外側複合エッジ線との距離に基づいて補正量を求め、その補正量を格納部915に格納する(ステップ1004)。ステップ1003及び1004の処理は順番に行ってもよく、並行して行ってもよい。
次に、補正部913は、道路幅及びオフセットを補正量を用いて補正し(ステップ1005)、補正された道路幅及びオフセットを含む道路形状パラメータを出力する(ステップ1006)。
このような道路形状推定装置によれば、車線区分線と平行に補助線がペイントされているような多重線路であっても、解像度の低下による補助線からの影響を受けずに、道路の路面を撮影した画像から精度良く道路形状を推定することができる。
図11は、道路形状推定装置の別の機能的構成例を示している。図11の道路形状推定装置は、映像入力部1101、エッジ検出部1102、候補線決定部1103、道路形状推定部1104、補正部1105、補助線判定部1106、補正量推定部1107、及び格納部1108を含む。映像入力部1101に接続されたカメラ1100は、車両の前方又は後方に路面を撮影できるように取り付けられている。
図12は、図11の道路形状推定装置による道路形状推定処理の例を示すフローチャートである。まず、映像入力部1101は映像入力処理を行い(ステップ1201)、エッジ検出部1102はエッジ検出処理を行い(ステップ1202)、候補線決定部1103は候補線決定処理を行う(ステップ1203)。次に、補助線判定部1106は補助線判定処理を行い(ステップ1204)、補正量推定部1107は補正量推定処理を行う(ステップ1205)。また、道路形状推定部1104は道路形状推定処理を行う(ステップ1206)。そして、補正部1105は道路形状補正処理を行う(ステップ1207)。
ステップ1201の映像入力処理において、映像入力部1101は、外部のカメラ1100により撮影された映像を受け取り、エッジ検出部1102に出力する。このとき、入力された映像がアナログ映像であればデジタル画像に変換し、カラー映像であればモノクロ濃淡画像に変換してから、エッジ検出部1102に出力する。出力されるデジタル画像は、例えば、縦横にあらかじめ決められた大きさの2次元配列情報である。
ステップ1202のエッジ検出処理において、エッジ検出部1102は、入力されるデジタル画像中の左右の車線区分線を含むそれぞれの部分から、領域の境界線を構成するエッジ点群を検出する。次に、エッジ点を画像の縦方向に連結して、エッジ線を検出する。検出されたエッジ線は、実線の車線区分線の全体、破線の車線区分線の1つの破線ブロック、補助線の1つの破線ブロック等のエッジ線に対応する。
そして、エッジ線同士を画像の縦方向に連結して複合エッジ線を生成し、候補線決定部1103及び補正量推定部1107に出力する。生成された複合エッジ線は、実線の車線区分線の全体、破線の車線区分線の全体、補助線の全体等のエッジ線に対応する。
ステップ1203の候補線決定処理において、候補線決定部1103は、入力される複合エッジ線の中から、左右それぞれの部分について、道路の中央に最も近い(最も内側にある)複合エッジ線を、道路形状の推定に用いる候補線に決定する。そして、その複合エッジ線を道路形状推定部1104、補助線判定部1106、及び補正量推定部1107に出力する。
ステップ1204の補助線判定処理において、補助線判定部1106は、入力される候補線の複合エッジ線について、その複合エッジ線に含まれるエッジ線の路面上での長さを元に、複合エッジ線が補助線に該当するか否かを判定する。そして、判定結果を補正量推定部1107に出力する。
ステップ1205の補正量推定処理において、補正量推定部1107は、左右それぞれの部分について、入力される判定結果が補助線を示す場合は、候補線から補助線の幅だけ外側に位置する複合エッジ線の有無をチェックする。このとき、エッジ検出部1102から入力される複合エッジ線がチェック対象として用いられる。
該当する外側複合エッジ線が存在すれば、候補線からその外側複合エッジ線までの距離を求め、補正量として格納部1108に格納する。補正量としては、例えば、路面上での進行方向と直交する方向における、候補線と外側複合エッジ線の距離が用いられる。一方、該当する外側複合エッジ線が存在しなければ、格納部1108に格納された補正量は更新しない。
入力される判定結果が補助線ではないことを示す場合は、補正量として0を格納部1108に格納する。
例えば、図3に示したように、破線の車線区分線301と補助線303が融合している場合は、補助線303から補助線の幅だけ外側には複合エッジ線が存在しないので、補正量は更新されない。その後、数フレーム分の時間が経過して遠方の車線区分線301が車両に近づいたときに、画像の解像度が確保され、車線区分線301と補助線303とが分離されるため、補正量が求められる。
ステップ1206の道路形状推定処理において、道路形状推定部1104は、入力される候補線の複合エッジ線に含まれるエッジ点の画像座標(x、y)を用いて、道路形状パラメータを求め、補正部1105に出力する。
ステップ1207の道路形状補正処理において、補正部1105は、入力される道路形状パラメータのうち道路幅及びオフセットを、格納部に格納された補正量を用いて補正し、補正された道路幅及びオフセットとその他の道路形状パラメータを外部に出力する。候補線が補助線の場合は、補助線から車線区分線までのシフト量に対応する補正量を推定された道路幅及びオフセットに適宜加算することにより、実際の車線区分線の位置に対応する道路幅及びオフセットが得られる。一方、候補線が補助線でない場合は、補正量が0であるため、推定された道路幅及びオフセットは変更されない。
このように、左右それぞれの車線区分線の周辺について、最も内側に位置する複合エッジ線を候補線として用いることで、補助線が存在しない場合は、車線区分線のエッジ線が候補線として抽出される。また、内側に補助線が存在する場合は、その補助線のエッジ線が候補線として抽出される。いずれの場合も、候補線より内側にエッジ線は存在せず、候補線の内側の境界が他の線分と融合して形状が崩れることがないため、道路形状を安定して推定することができる。
ただし、候補線が補助線の場合は、推定される道路幅及びオフセットに誤差が含まれるため、別途算出した補助線から車線区分線までの補正量を加算することで誤差を補正し、常に正しい道路形状を推定することができる。車線区分線と補助線が分離される時点、つまり、車線区分線が車両の近傍に存在し解像度が高くなる時点で補正量を算出することで、安定して補正量を求めることができる。
したがって、車線区分線と平行に補助線がペイントされているような多重線路であっても、解像度の低下による補助線からの影響を受けずに、道路の路面を撮影した画像から精度良く道路形状を推定することができる。
図13は、図12のエッジ検出処理の例を示すフローチャートである。まず、エッジ検出部1102は、入力されるデジタル画像に対してソベルオペレータ等の微分オペレータを適用して横方向の微分処理を行い、輝度の変化が閾値以上であるようなエッジ点を検出する(ステップ1301)。
例えば、図14のようなデジタル画像からは、図15のような縦方向に並んだエッジ点の列が得られる。図15では、検出されたエッジ点の位置が模式的に表されているが、実際には図14の画像の各行の画素について微分処理が行われ、各行からエッジ点が検出される。
次に、検出されたエッジ点について、周囲画素の連結性を用いたラベル付け処理を行い、複数のエッジ点を統合してエッジ線を検出する(ステップ1302)。これにより、実線の車線区分線の全体、破線の車線区分線の1つの破線ブロック、補助線の1つの破線ブロック等の外形に対応するエッジ線が得られる。例えば、図15のエッジ点からは、図16のようなエッジ線が検出される。
次に、エッジ線の絞り込みを行う(ステップ1303)。この絞り込み処理では、まず、図17に示すように、デジタル画像中に車線区分線を含む左右それぞれの領域RL及びRRを設けて、各領域の外に存在するエッジ線を除外する。
次に、領域RL及びRR内の各エッジ線を挟む左右の画素の輝度値を調べる。左側の領域RL内のエッジ線は、左側の車線区分線に関係するので、その左側画素の輝度値が大きく右側画素の輝度値が小さい場合にそのエッジ線を残し、それ以外の場合にエッジ線を除外する。また、右側の領域RR内のエッジ線は、右側の車線区分線に関係するので、その左側画素の輝度値が小さく右側画素の輝度値が大きい場合にそのエッジ線を残し、それ以外の場合にエッジ線を除外する。
これにより、実線の車線区分線の全体、破線の車線区分線の1つの破線ブロック、補助線の1つの破線ブロック等のエッジ線のうち、内側のエッジ線のみが残され、外側のエッジ線は除外される。例えば、図17のエッジ線のうち外側のエッジ線を除外すると、図18に示すように、内側のエッジ線のみが残される。
次に、各エッジ線の路面上での長さを調べ、長いものから順に実線、破線、補助線、及びノイズの各線種に分類し、ノイズに分類された非常に短いエッジ線を除外する。エッジ線の上側端点の画像座標を(x1、y1)、下側端点の画像座標を(x2、y2)、画像中心の座標を(cx、cy)とすると、エッジ線の長さLLは、次式により与えられる。
LL=Z2−Z1
Z2=f・H/(f・φ+y2−cy)
Z1=f・H/(f・φ+y1−cy) (31)
ただし、図5とは異なり、(x1、y1)、(x2、y2)、及び(cx、cy)は、画像の左上の点を画像座標系の原点として記述されている。式(31)のLLと閾値ThL1〜ThL3を用いて、以下のように線種を分類することができる。
(1)LLがThL1以上:実線の車線区分線
(2)LLがThL1未満でThL2以上:破線の車線区分線
(3)LLがThL2未満でThL3以上:破線の補助線
(4)LLがThL3未満:ノイズ
ここでは、補助線の破線ブロックの長さが車線区分線の破線ブロックの長さより短いことを前提としている。ノイズに分類されたエッジ線を除外し、残されたエッジ線のうち左側の領域RL内のエッジ線の数をNL、右側の領域RR内のエッジ線の数をNLとする。そして、領域RL内のエッジ線をL (i=1,2,...,NL)と記述し、領域RR内のエッジ線をL (i=1,2,...,NL)と記述する。
次に、エッジ線同士を画像の縦方向に連結して複合エッジ線を生成する(ステップ1304)。この複合エッジ線生成処理では、領域RL及びRRのそれぞれについて、エッジ線同士のすべての組み合わせを調べる。そして、2つのエッジ線の近い側の端点間のX方向の距離及びZ方向の距離の双方が閾値以内であれば、それらのエッジ線を統合する。
図19及び図20は、左側の領域RLにおける複合エッジ線生成処理の例を示すフローチャートである。まず、エッジ検出部1102は、処理済みのエッジ線を示すリストFを{0,0,...,0}に初期化する(ステップ1901)。リストFの要素数はNLであり、i番目の要素F[i]が1のとき、i番目のエッジ線の処理が終了したことを表す。
次に、領域RL内のi番目のエッジ線を示す変数iに0を設定し(ステップ1902)、生成された複合エッジ線の数を示す変数mに0を設定する(ステップ1903)。そして、iを1だけインクリメントし(ステップ1904)、iをNLと比較する(ステップ1905)。
iがNL以下であれば(ステップ1905,NO)、次に、F[i]の値をチェックする(ステップ1906)。F[i]が1であれば(ステップ1906,YES)、ステップ1904以降の処理を繰り返す。F[i]が1でなければ(ステップ1906,NO)、F[i]に1を設定し(ステップ1907)、mを1だけインクリメントする(ステップ1908)。
次に、m番目の複合エッジ線に含まれるエッジ線の集合を表す統合リストCL に、エッジ線L を加える(ステップ1909)。そして、m番目の複合エッジ線の線種T として、エッジ線L の線種を設定する(ステップ1910)。
次に、領域RL内のn番目のエッジ線を示す変数nにiを設定し(ステップ2001)、nを1だけインクリメントして(ステップ2002)、nとNLを比較する(ステップ2003)。nがNL以下であれば(ステップ2003,NO)、エッジ線同士の組み合わせに含まれる一方のエッジ線c1として、エッジ線L を選択する(ステップ2004)。また、もう一方のエッジ線c2として、統合リストCL 内のエッジ線のうち、エッジ線c1の近い側の端点までの距離が最も近いエッジ線を選択する(ステップ2005)。
次に、エッジ線c1とエッジ線c2の互いに近い側の端点の間で、Z軸方向(奥行き方向)の距離DZと、X軸方向(奥行き方向と直交する方向)の距離DXとを、次式により算出する(ステップ2006)。
DZ=|Z2−Z1|
Z1=f・H/(f・φ+y1−cy)
Z2=f・H/(f・φ+y2−cy) (41)
DX=|X2−X1|
(x1、y1)は、画像の上側に存在するエッジ線の端点の画像座標を表し、(x2、y2)は、下側に存在するエッジ線の端点の画像座標を表す。式(41)及び(42)は、路面座標系と画像座標系の幾何学的関係から求められる。
次に、DXを閾値ThDXと比較し(ステップ2007)、DZを閾値ThDZと比較する(ステップ2008)。DXがThDX以下であり(ステップ2007,YES)、DZがThDZ以下であれば(ステップ2008,YES)、エッジ線c1及びc2の線種を決定する(ステップ2009)。ここでは、エッジ線c1及びc2のうち画像の下側に存在する方の線種をt1とし、画像の上側に存在する方の線種をt2とする。
次に、線種t1が補助線であるか否かをチェックする(ステップ2010)。線種t1が補助線でない場合(ステップ2010,NO)、t1とt2を比較する(ステップ2011)。そして、t1とt2が一致していれば(ステップ2011,YES)、統合リストCL にエッジ線c1を追加し(ステップ2012)、F[n]に1を設定して(ステップ2013)、ステップ2002以降の処理を繰り返す。
一方、線種t1が補助線である場合は(ステップ2010,YES)、ステップ2012以降の処理を行う。また、DXがThDXより大きい場合(ステップ2007,NO)、DZがThDZより大きい場合(ステップ2008,NO)、又はt1とt2が一致しない場合(ステップ2011,NO)は、ステップ2002以降の処理を繰り返す。
次に、nがNLを超えると(ステップ2003,YES)、ステップ1904以降の処理を繰り返す。そして、iがNLを超えると(ステップ1905,YES)、生成された複合エッジ線の数NCにmを設定して(ステップ1911)、処理を終了する。
こうして得られた統合リストCL (m=1,2,...,NC)には、左側のm番目の複合エッジ線に含まれる1つ以上のエッジ線が記録され、線種T には、左側のm番目の複合エッジ線の線種が記録される。生成された複合エッジ線は、実線の車線区分線の全体、破線の車線区分線の全体、補助線の全体等のエッジ線に対応する。
図19及び図20において添え字LをRに置き換えれば、右側の領域RRにおける複合エッジ線を生成する処理のフローチャートが得られる。統合リストCL (m=1,2,...,NC)には、右側のm番目の複合エッジ線に含まれる1つ以上のエッジ線が記録され、線種T には、右側のm番目の複合エッジ線の線種が記録される。
例えば、図18の複数のエッジ線からは、図21に示すように、左側の2つの複合エッジ線2101及び2102と右側の2つの複合エッジ線2103及び2104が生成される。
図22は、図12の候補線決定処理1203において左側の複合エッジ線から候補線を決定する処理の例を示すフローチャートである。まず、候補線決定部1103は、統合リストCL に対応する複合エッジ線を示す変数mに0を設定する(ステップ2201)。そして、候補線に決定される複合エッジ線を示す変数Sに−1を設定し(ステップ2202)、路面座標系のX座標の最小値を表す変数Xminに十分大きな値XGを設定する(ステップ2203)。路面上での距離の単位をメートルとすると、例えば、XGとして100000程度の値を用いることができる。
次に、mを1だけインクリメントし(ステップ2204)、mをNCと比較する(ステップ2205)。mがNC以下であれば(ステップ2205,NO)、統合リストCL に含まれるエッジ線の端点のうち最も車両に近い端点p(画像中で最も下側にある端点)の画像座標を(x,y)に設定する(ステップ2206)。そして、端点pの路面座標系におけるX座標を次式により算出する(ステップ2207)。
次に、Xの絶対値|X|をXminと比較し(ステップ2208)、|X|がXminより小さければ(ステップ2208,YES)、Xminに|X|を設定する(ステップ2209)。そして、Sにmを設定して(ステップ2210)、ステップ2204以降の処理を繰り返す。
一方、|X|がXmin以上であれば(ステップ2208,NO)は、ステップ2204以降の処理を繰り返す。そして、mがNCを超えると(ステップ2205,YES)、処理を終了する。こうして、左側の候補線となる複合エッジ線の番号がSに記録される。
図22において添え字LをRに置き換えれば、右側の複合エッジ線から候補線を決定する処理のフローチャートが得られる。そして、右側の候補線となる複合エッジ線の番号がSに記録される。
図23は、図12の補助線判定処理1204において左側の候補線の線種を判定する処理の例を示すフローチャートである。まず、補助線判定部1106は、左側のS番目の複合エッジ線の線種T (m=S)が補助線であるか否かを判定する(ステップ2301)。線種T (m=S)が補助線であれば(ステップ2301,YES)、左側の候補線の線種を示すフラグQに1を設定し(ステップ2302)、線種T (m=S)が補助線以外であれば(ステップ2301,NO)、フラグQに0を設定する(ステップ2303)。
図23において添え字LをRに置き換えれば、右側の候補線の線種を判定する処理のフローチャートが得られる。そして、右側の候補線の線種を示すフラグQに1又は0が設定される。
図24及び図25は、図12の補正量推定処理1205において左側の候補線に対する補正量を求める処理の例を示すフローチャートである。まず、補正量推定部1107は、フラグQをチェックする(ステップ2401)。Q=0であれば(ステップ2401,YES)、候補線は補助線ではなく、車線区分線に該当すると判断できるため、補正量DXを0に設定して(ステップ2413)、処理を終了する。
一方、Q=1であれば(ステップ2401,NO)、候補線は補助線であるため、候補線から補助線の幅だけ外側に位置する複合エッジ線の有無を調べる。そこで、そのような条件を満たす外側複合エッジ線の有無を示すフラグUに−1を設定する(ステップ2402)。フラグUの値が−1のとき、条件を満たす外側複合エッジ線が存在しないことを表し、フラグUの値が1以上のとき、条件を満たす外側複合エッジ線が存在することを表す。
次に、候補線であるS番目の複合エッジ線に含まれるエッジ線の端点のうち、最も車両に近い端点の画像座標を(xs,ys)に設定する(ステップ2403)。そして、その端点の路面座標系におけるX座標Xsを次式により算出する(ステップ2404)。
次に、条件を満たす外側複合エッジ線のX座標の範囲を示す最小値Xminを次式により算出する(ステップ2405)。
Xmin=|Xs|+Mmin (62)
また、その範囲の最大値Xmaxを次式により算出する(ステップ2406)。
Xmax=|Xs|+Mmax (63)
Mmin及びMmaxは、補助線の幅に基づいて決められる閾値であり、MmaxはMminより大きい。XminからXmaxの範囲に複合エッジ線が存在すれば、その複合エッジ線が条件を満たす外側複合エッジ線に該当する。
次に、左側のm番目の複合エッジ線を示す変数mに0を設定し(ステップ2407)、mを1だけインクリメントして(ステップ2408)、mをNCと比較する(ステップ2409)。mがNC以下であれば(ステップ2409,NO)、次に、mをSと比較する(ステップ2410)。m=Sであれば(ステップ2410,YES)、m番目の複合エッジ線は候補線と一致するため、ステップ2408の処理に戻って次の複合エッジ線を処理対象に選択する。
一方、mがSでなければ(ステップ2410,NO)、m番目の複合エッジ線に含まれるエッジ線の端点のうち、最も車両に近い端点の画像座標を(xc,yc)に設定する(ステップ2411)。そして、その端点の路面座標系におけるX座標Xc及びZ座標Zcを次式により算出する(ステップ2412)。
次に、Xcの絶対値|Xc|をXminと比較し(ステップ2501)、|Xc|がXmin以上であれば(ステップ2501,YES)、|Xc|をXmaxと比較する(ステップ2502)。|Xc|がXmax以下であれば(ステップ2502,YES)、次に、Uをチェックする(ステップ2503)。U=−1であれば(ステップ2503,YES)、条件を満たす外側複合エッジ線が初めて検出されたことになるので、Uにmを設定する(ステップ2504)。
次に、Xuの絶対値|Xu|に|Xc|を設定し(ステップ2505)、ZuにZcを設定して(ステップ2506)、ステップ2408以降の処理を繰り返す。Xu及びZuは、条件を満たす外側複合エッジ線に含まれるエッジ線の端点のうち、最も車両に近い端点のX座標及びZ座標を表す。
一方、Uが−1でなければ(ステップ2503,NO)、条件を満たす別の外側複合エッジ線が新たに検出されたことになるので、Zcを既に算出されているZuと比較する(ステップ2507)。ZcがZuより小さければ(ステップ2507,YES)、新たに検出された外側複合エッジ線が、以前に検出された外側複合エッジ線よりも車両に近い位置に存在することが分かる。そこで、ステップ2504以降の処理を行って、条件を満たす外側複合エッジ線の情報U、|Xu|、及びZuを更新する。
一方、ZcがZu以上であれば(ステップ2507,NO)、新たに検出された外側複合エッジ線が、以前に検出された外側複合エッジ線よりも車両から遠い位置、又は以前に検出された外側複合エッジ線と同じ距離の位置に存在することが分かる。この場合、条件を満たす外側複合エッジ線の情報を更新することなく、ステップ2408以降の処理を繰り返す。
また、|Xc|がXminより小さい場合(ステップ2501,NO)、又は|Xc|がXmaxより大きい場合(ステップ2502,NO)は、m番目の複合エッジ線が条件を満たさないことが分かる。そこで、ステップ2408の処理に戻って次の複合エッジ線を処理対象に選択する。
そして、mがNCを超えると(ステップ2409,YES)、Uをチェックする(ステップ2414)。U=−1であれば(ステップ2414,YES)、条件を満たす外側複合エッジ線が検出されなかったため、処理を終了する。Uが−1でなければ(ステップ2414,NO)、条件を満たす外側複合エッジ線が検出されたため、補正量DXを次式により算出する(ステップ2415)。
DX=|Xu|−|Xs| (66)
図24及び図25において添え字LをRに置き換えれば、右側の候補線に対する補正量を求める処理のフローチャートが得られ、補正量DXが求められる。求められた補正量DX及びDXは、格納部1108に格納される。これらの補正量は、道路中央から外側への向きを正の向きとするシフト量を表している。
図12の道路形状推定処理1206において、道路形状推定部1104は、左側の候補線であるS番目の複合エッジ線と、右側の候補線であるS番目の複合エッジ線に基づいて、道路形状パラメータを推定する。道路形状パラメータは、例えば、上述した式(9)を用いて推定することができる。画像の左上の点を画像座標系の原点として式(9)を書き改めると、次式が得られる。
式(71)は非線形式であるため、これを道路形状パラメータ(W,ρ,e,θ,φ)に関して線形式になるように近似し、線形近似式を用いて最小二乗法で各パラメータを求める計算方法が考えられる。この計算方法では、誤差が閾値以下になるまで演算を繰り返す、いわゆる繰り返し演算によって、道路形状パラメータの推定値(Wr,ρr,er,θr,φr)が求められる。
左側又は右側の候補線に含まれるj番目のエッジ点(j=1,2,...,NE)の画像座標を(x,y)とし、式(71)の右辺をF(W,ρ,e,θ,φ)と記し、各パラメータを以下のように記す。
W=W0+ΔW
ρ=ρ0+Δρ
e=e0+Δe
θ=θ0+Δθ
φ=φ0+Δφ (72)
NEは、候補線に含まれるエッジ点の数を表し、(W0,ρ0,e0,θ0,φ0)は各パラメータの初期値を表し、(ΔW,Δρ,Δe,Δθ,Δφ)は各パラメータの微小変化量を表す。F(W,ρ,e,θ,φ)は非線形関数であるが、これを式(72)を用いて線形化した関数Jは、次式で与えられる。
ここで、残差sを次式のように定義する。
残差sの二乗値を、フレーム内のすべての車線区分線上のエッジ点(j=1,2,...,NE)で積分した結果の1/2を総残差Sとする。
最適パラメータはSを最小にする値なので、Sを各パラメータで偏微分した結果を0と置く。例えば、SをWで偏微分した結果を0と置くと、次式が得られる。
他のパラメータについても同様の偏微分操作を行うことで、次式が得られる。
式(77)及び(78)の連立方程式は、次式のように記述することができる。
この連立一次方程式を解くことで、(ΔW,Δρ,Δe,Δθ,Δφ)が求められる。そして、各パラメータの値が十分小さくなるまで、次式の代入操作を行って演算を繰り返す。
このような繰り返し演算により、最終的な道路形状パラメータ(Wr,ρr,er,θr,φr)が求められる。
ここで、左側のS番目の複合エッジ線に含まれるエッジ点e (j=1,2,...,NEL)の画像座標を(x ,y )とし、右側のS番目の複合エッジ線に含まれるエッジ点e (j=1,2,...,NER)の画像座標を(x ,y )とする。NELは、S番目の複合エッジ線に含まれるエッジ点の数を表し、NERは、S番目の複合エッジ線に含まれるエッジ点の数を表す。
番目の複合エッジ線に含まれるエッジ点の集合Eは{e ,e ,...,e NEL}と記述され、S番目の複合エッジ線に含まれるエッジ点の集合Eは{e ,e ,...,e NER}と記述される。このとき、道路形状推定処理の手順は、以下のようになる。
1.(W0,ρ0,e0,θ0,φ0)を現在の値に初期化する。
2.R11=R12=R13=R14=R15=R16=0
R21=R22=R23=R24=R25=R26=0
R31=R32=R33=R34=R35=R36=0
R41=R42=R43=R44=R45=R46=0
R51=R52=R53=R54=R55=R56=0
3.tgt=−1
4.tgt=tgt+1
5.if tgt==0 then
エッジ集合E=E,NE=NEL,k=−1
else if tgt==1 then
エッジ集合E=E,NE=NER,k=1
else goto 13 endif
6.j=0
7.j=j+1
8.if j>=NE then goto 4 endif
9.エッジ集合Eからj番目の要素であるエッジ点の位置(x,y)を取得する。
10.式(73)及び(75)から(a,b,c,d,e,f)を算出する。
11.R11+=a,R12+=a,R13+=a,R14+=a
R15+=a,R16+=a
R21+=b,R22+=b,R23+=b,R24+=b
R25+=b,R26+=b
R31+=c,R32+=c,R33+=c,R34+=c
R35+=c,R36+=c
R41+=d,R42+=d,R43+=d,R44+=d
R45+=d,R46+=d
R51+=e,R52+=e,R53+=e,R54+=e
R55+=e,R56+=e
12.goto 7
13.連立方程式(79)の解を数値計算により求める。
14.解の収束性を検査する。
if |ΔW|>ThR or |Δρ|>ThR or
|Δe|>ThR or |Δθ|>ThR or |Δφ|>ThR
then
goto 2
else
Wr=W0,ρr=ρ0,er=e0,θr=θ0,φr=φ0
endif
15.終了
ThRは解の収束性を評価するための微小な閾値である。このような道路形状推定処理により、道路形状パラメータ(Wr,ρr,er,θr,φr)が求められる。
図12の道路形状補正処理1207において、補正部1105は、格納部1108に格納された補正量DX及びDXを用いて、次式により道路形状パラメータ(Wr,ρr,er,θr,φr)を補正する。
Wr=Wr+(DX+DX
er=er+(−DX+DX)/2 (91)
以上説明した道路形状パラメータの計算式(1)〜(91)は一例に過ぎず、別の座標系、別の前提条件等に基づいて異なる定式化を行っても構わない。また、図10、図12、図13、図19、図20、及び図22−図25に示した各フローチャートは一例に過ぎず、道路形状推定装置の構成や条件に応じて一部の処理を省略又は変更してもよい。
図26は、道路形状推定装置を用いた車線逸脱警報システムの構成例を示している。図26の車線逸脱警報システムは、カメラ1201、道路形状推定装置2601、距離計算装置2602、逸脱判定装置2603、及び逸脱警報装置2604を含む。道路形状推定装置2601の動作は上述した通りである。
距離計算装置2602は、道路形状推定装置2601から出力される道路形状パラメータに基づいて、車両と左右の車線区分線との距離を計算する。逸脱判定装置2603は、計算された距離を閾値と比較して、車両が車線を逸脱したか否かを判定する。逸脱警報装置2604は、車両が車線を逸脱した場合に警報を出力する。これにより、運転者は、直ちに車両を操舵して車線に戻すことが可能になる。
図27は、道路形状推定装置を用いた車両操舵システムの構成例を示している。図27の車両操舵システムは、カメラ1201、道路形状推定装置2601、距離計算装置2602、ふらつき判定装置2701、及び車両操舵装置2702を含む。
ふらつき判定装置2701は、距離計算装置2602により計算された距離を閾値と比較して、車両がふらついているか否かを判定する。車両操舵装置2702は、車両がふらついている場合に、車線上での走行を維持するように車両を自動操舵して、車両のふらつきを解消する。これにより、車線からの逸脱を未然に防止することが可能になる。
図9、図11、図26、及び図27の道路形状推定装置は、例えば、図28に示すような情報処理装置(コンピュータ)を用いて実現可能である。
図28の情報処理装置は、映像入力部1101、Central Processing Unit (CPU)2801、メモリ2802、出力部2803、外部記憶装置2804、媒体駆動装置2805、及びネットワーク接続装置2806を備える。これらはバス2807により互いに接続されている。
メモリ2802は、例えば、Read Only Memory(ROM)、Random Access Memory(RAM)、フラッシュメモリ等の半導体メモリであり、処理に用いられるプログラム及びデータを格納する。例えば、CPU2801は、メモリ2802を利用してプログラムを実行することにより、道路形状推定装置の処理を行う。メモリ2802は、図9の格納部915又は図11の格納部1108としても使用できる。
映像入力部1101は、カメラからの映像信号を取り込み、時系列な画像としてメモリ2802に格納する。出力部2803は、例えば、外部装置とのインタフェースであり、道路形状パラメータを含む処理結果の出力に用いられる。
外部記憶装置2804は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置、テープ装置等である。この外部記憶装置2804には、ハードディスクドライブも含まれる。情報処理装置は、外部記憶装置2804にプログラム及びデータを格納しておき、それらをメモリ2802にロードして使用することができる。
媒体駆動装置2805は、可搬型記録媒体2808を駆動し、その記録内容にアクセスする。可搬型記録媒体2808は、メモリデバイス、フレキシブルディスク、光ディスク、光磁気ディスク等である。この可搬型記録媒体2808には、Compact Disk Read Only Memory (CD−ROM)、Digital Versatile Disk(DVD)、Universal Serial Bus(USB)メモリ等も含まれる。ユーザ又はオペレータは、この可搬型記録媒体2808にプログラム及びデータを格納しておき、それらをメモリ2802にロードして使用することができる。
このように、各種処理に用いられるプログラム及びデータを格納するコンピュータ読み取り可能な記録媒体には、メモリ2802、外部記憶装置2804、及び可搬型記録媒体2808のような、物理的な(非一時的な)記録媒体が含まれる。
ネットワーク接続装置2805は、通信ネットワークに接続され、通信に伴うデータ変換を行う通信インタフェースである。情報処理装置は、プログラム及びデータを外部の装置からネットワーク接続装置2805を介して受け取り、それらをメモリ2802にロードして使用することもできる。
なお、情報処理装置が図28のすべての構成要素を含む必要はなく、用途や条件に応じて一部の構成要素を省略することも可能である。例えば、情報処理装置が可搬型記録媒体2808にアクセスしない場合は、媒体駆動装置2805を省略してもよく、情報処理装置が通信ネットワークに接続されない場合は、ネットワーク接続装置2805を省略してもよい。
開示の実施形態とその利点について詳しく説明したが、当業者は、特許請求の範囲に明確に記載した本発明の範囲から逸脱することなく、様々な変更、追加、省略をすることができるであろう。
101、102、201、202、301、302、711、712 車線区分線
103、104、203、204、303、304、721、722 補助線
205、206、305、306 エッジ線
601〜606、731、732、741、742 内側境界線
701、702 領域
801〜804、811〜813 位置
901、2601 道路形状推定装置
911、1102 エッジ検出部
912、1104 道路形状推定部
913、1105 補正部
914、1107 補正量推定部
915、1108 格納部
1100 カメラ
1101 映像入力部
1103 候補線決定部
1106 補助線判定部
2101、2102、2103、2104 複合エッジ線
2602 距離計算装置
2603 逸脱判定装置
2604 逸脱警報装置
2701 ふらつき判定装置
2702 車両操舵装置
2801 CPU
2802 メモリ
2803 出力部
2804 外部記憶装置
2805 媒体駆動装置
2806 ネットワーク接続装置
2807 バス
2808 可搬型記録媒体

Claims (7)

  1. 道路の路面を撮影した画像から複数のエッジ線を検出し、該複数のエッジ線のうち1つ以上のエッジ線を連結して複合エッジ線を生成するエッジ検出部と、
    前記道路の中央に最も近い内側複合エッジ線の情報に基づいて、前記路面を撮影したカメラの横方向オフセットと道路幅とを含む、前記道路の道路形状パラメータを求める道路形状推定部と、
    前記内側複合エッジ線に含まれるエッジ線の長さが閾値より小さく、かつ該内側複合エッジ線の外側に位置する外側複合エッジ線が存在する場合に、該内側複合エッジ線と該外側複合エッジ線との距離に基づいて補正量を求める補正量推定部と、
    前記補正量を格納する格納部と、
    前記横方向オフセット及び前記道路幅を前記補正量を用いて補正し、補正された横方向オフセット及び道路幅を含む道路形状パラメータを出力する補正部と
    を備えることを特徴とする道路形状推定装置。
  2. 前記エッジ検出部は、前記複数のエッジ線のうち第1のエッジ線と第2のエッジ線との間の奥行き方向における距離と、該奥行き方向と直交する方向における該第1のエッジ線と該第2のエッジ線との間の距離と、該第1のエッジ線の線種と、該第2のエッジ線の線種とに基づいて、前記1つ以上のエッジ線を連結して前記複合エッジ線を生成するか否かを判定する、請求項1記載の道路形状推定装置。
  3. 前記補正量推定部は、前記内側複合エッジ線に含まれるエッジ線のうち前記画像内で前記カメラの近傍に存在する第のエッジ線と、前記外側複合エッジ線に含まれるエッジ線のうち前記画像内で前記カメラの近傍に存在する第のエッジ線との距離に基づいて、前記補正量を求めることを特徴とする請求項1又は2記載の道路形状推定装置。
  4. 請求項1乃至3のいずれか1項に記載の道路形状推定装置と、
    前記道路形状推定装置から出力される道路形状パラメータに基づいて、車両が車線を逸脱したか否かを判定する逸脱判定装置と、
    前記車両が前記車線を逸脱した場合に警報を出力する逸脱警報装置と
    を備えることを特徴とする車線逸脱警報システム。
  5. 請求項1乃至3のいずれか1項に記載の道路形状推定装置と、
    前記道路形状推定装置から出力される道路形状パラメータに基づいて、車両がふらついているか否かを判定するふらつき判定装置と、
    前記車両がふらついている場合に、車線上での走行を維持するように該車両を操舵する車両操舵装置と
    を備えることを特徴とする車両操舵システム。
  6. 道路の路面を撮影した画像から複数のエッジ線を検出し、
    前記複数のエッジ線のうち1つ以上のエッジ線を連結して複合エッジ線を生成し、
    前記道路の中央に最も近い内側複合エッジ線の情報に基づいて、前記路面を撮影したカメラの横方向オフセットと道路幅とを含む、前記道路の道路形状パラメータを求め、
    前記内側複合エッジ線に含まれるエッジ線の長さが閾値より小さく、かつ該内側複合エッジ線の外側に位置する外側複合エッジ線が存在する場合に、該内側複合エッジ線と該外側複合エッジ線との距離に基づいて補正量を求め、
    前記の横方向オフセット及び前記道路幅を前記補正量を用いて補正し、
    補正された横方向オフセット及び道路幅を含む道路形状パラメータを出力する
    処理をコンピュータに実行させるプログラム。
  7. 前記コンピュータは、前記複数のエッジ線のうち第1のエッジ線と第2のエッジ線との間の奥行き方向における距離と、該奥行き方向と直交する方向における該第1のエッジ線と該第2のエッジ線との間の距離と、該第1のエッジ線の線種と、該第2のエッジ線の線種とに基づいて、前記1つ以上のエッジ線を連結して前記複合エッジ線を生成するか否かを判定する、請求項6記載のプログラム。
JP2011267388A 2011-12-06 2011-12-06 道路形状推定装置及びプログラム Active JP5799784B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011267388A JP5799784B2 (ja) 2011-12-06 2011-12-06 道路形状推定装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011267388A JP5799784B2 (ja) 2011-12-06 2011-12-06 道路形状推定装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2013120458A JP2013120458A (ja) 2013-06-17
JP5799784B2 true JP5799784B2 (ja) 2015-10-28

Family

ID=48773077

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011267388A Active JP5799784B2 (ja) 2011-12-06 2011-12-06 道路形状推定装置及びプログラム

Country Status (1)

Country Link
JP (1) JP5799784B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190055633A (ko) * 2017-11-15 2019-05-23 전자부품연구원 도로 프로파일 추정장치 및 이를 이용한 도로 프로파일 추정 방법

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6259238B2 (ja) * 2013-09-27 2018-01-10 株式会社Subaru 車両用白線認識装置
JP6259239B2 (ja) * 2013-09-27 2018-01-10 株式会社Subaru 車両用白線認識装置
KR101510336B1 (ko) * 2013-11-14 2015-04-07 현대자동차 주식회사 차량용 운전자 지원 시스템의 검사 장치
JP5895955B2 (ja) 2014-02-07 2016-03-30 トヨタ自動車株式会社 車線境界線検出装置
JP6141787B2 (ja) * 2014-04-01 2017-06-07 本田技研工業株式会社 レーンマーク認識装置
JP6515704B2 (ja) * 2015-06-25 2019-05-22 富士通株式会社 車線検出装置及び車線検出方法
JP7453008B2 (ja) 2020-02-06 2024-03-19 フォルシアクラリオン・エレクトロニクス株式会社 画像処理装置及び画像処理方法
WO2021205193A1 (ja) * 2020-04-08 2021-10-14 日産自動車株式会社 地図情報補正方法、運転支援方法及び地図情報補正装置
CN112710301B (zh) * 2020-12-09 2023-01-06 上汽大众汽车有限公司 一种自动驾驶车辆高精度定位方法和***
JP7149385B1 (ja) 2021-07-12 2022-10-06 株式会社デンソーテン 車線検出装置、車線検出方法および車線検出プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3807253B2 (ja) * 2001-05-25 2006-08-09 日産自動車株式会社 走行路検出装置
JP4032727B2 (ja) * 2001-12-12 2008-01-16 アイシン精機株式会社 車線境界検出装置
JP2004310522A (ja) * 2003-04-08 2004-11-04 Toyota Motor Corp 車両用画像処理装置
JP2007220013A (ja) * 2006-02-20 2007-08-30 Mazda Motor Corp 車両用白線検出装置
JP4733545B2 (ja) * 2006-03-27 2011-07-27 富士重工業株式会社 車線認識装置
JP2009166691A (ja) * 2008-01-16 2009-07-30 Mazda Motor Corp 車両の走行制御装置
JP2011059855A (ja) * 2009-09-08 2011-03-24 Nissan Motor Co Ltd 車両用運転状態検出装置、車両用運転状態検出方法および自動車
JP5402828B2 (ja) * 2010-05-21 2014-01-29 株式会社デンソー 車線境界検出装置、車線境界検出プログラム
JP5276637B2 (ja) * 2010-09-08 2013-08-28 富士重工業株式会社 車線推定装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190055633A (ko) * 2017-11-15 2019-05-23 전자부품연구원 도로 프로파일 추정장치 및 이를 이용한 도로 프로파일 추정 방법
KR102042315B1 (ko) 2017-11-15 2019-11-07 전자부품연구원 도로 프로파일 추정장치 및 이를 이용한 도로 프로파일 추정 방법

Also Published As

Publication number Publication date
JP2013120458A (ja) 2013-06-17

Similar Documents

Publication Publication Date Title
JP5799784B2 (ja) 道路形状推定装置及びプログラム
US10424081B2 (en) Method and apparatus for calibrating a camera system of a motor vehicle
JP4328692B2 (ja) 物体検出装置
JP4297501B2 (ja) 移動体周辺監視装置
JP4367475B2 (ja) 移動物体認識装置、移動物体認識方法及びコンピュータプログラム
JP3937414B2 (ja) 平面検出装置及び検出方法
JP6670071B2 (ja) 車両用画像認識システム、及び対応法
EP2757524B1 (en) Depth sensing method and system for autonomous vehicles
EP2960886A1 (en) Moving object recognition systems, moving object recognition programs, and moving object recognition methods
JP4793324B2 (ja) 車両監視装置および車両監視方法
CN112037159B (zh) 一种跨相机道路空间融合及车辆目标检测跟踪方法及***
CN106020182B (zh) 车辆和车辆停车***
KR101549165B1 (ko) 차량 자세 추정 장치 및 차량 자세 추정 방법
JP2010170488A (ja) 車線認識装置、及び車線認識方法
JP7145770B2 (ja) 車間距離測定装置、誤差モデル生成装置および学習モデル生成装置とこれらの方法およびプログラム
KR101723536B1 (ko) 도로에서의 차선 검출 방법 및 장치
CN113643355B (zh) 一种目标车辆位置和朝向的检测方法、***及存储介质
JP2006053754A (ja) 平面検出装置及び検出方法
JP4270386B2 (ja) 移動体移動量算出装置
JP5780140B2 (ja) 道路形状推定装置及びプログラム
US7899212B2 (en) Image processing apparatus and image processing method
KR20160063039A (ko) 3차원 데이터를 이용한 도로 인식 방법
JP4714872B2 (ja) 画像上重畳移動物体分割方法及び装置
JP2004038760A (ja) 車両用走行路認識装置
JP2019096031A (ja) 推定プログラム、推定装置、及び推定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140805

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150421

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150728

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150810

R150 Certificate of patent or registration of utility model

Ref document number: 5799784

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150