JP2013002883A - 測距装置 - Google Patents

測距装置 Download PDF

Info

Publication number
JP2013002883A
JP2013002883A JP2011132593A JP2011132593A JP2013002883A JP 2013002883 A JP2013002883 A JP 2013002883A JP 2011132593 A JP2011132593 A JP 2011132593A JP 2011132593 A JP2011132593 A JP 2011132593A JP 2013002883 A JP2013002883 A JP 2013002883A
Authority
JP
Japan
Prior art keywords
vehicle
reference angle
camera
value
road surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011132593A
Other languages
English (en)
Other versions
JP5587250B2 (ja
Inventor
Pak Yi
博 李
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2011132593A priority Critical patent/JP5587250B2/ja
Publication of JP2013002883A publication Critical patent/JP2013002883A/ja
Application granted granted Critical
Publication of JP5587250B2 publication Critical patent/JP5587250B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】対象物が存在する路面の勾配の影響を適切に補償しつつ、車載カメラによる撮像画像を用いて対象物と自車両との間の距離を精度よく測定することができる測距装置を提供する。
【解決手段】互いに異なる撮像時刻での車載カメラ2の2つの撮像画像から、自車両1からの距離が第1撮像画像の撮像時刻での対象物53の接地点P53と同じになる静止点Pの投影点となる特徴点を抽出する。計測したカメラ運動パラメータと、各撮像画像の特徴点の位置と、車載カメラ2の高さHcの値とから、車載カメラ2の下方に位置する路面51上の点から対象物存在路面52上の静止点に至る直線L2が車載カメラ2の光軸Lcに対してなす角度θを所定の演算式に基づいて推定する。角度θの推定値を用いて対象物53と自車両1との間の距離Dを推定する。
【選択図】図2

Description

本発明は車載カメラの撮像画像を用いて車両周辺に存在する対象物と自車両との間の距離を測定する測距装置に関する。
車両の走行支援等を目的として、車両前部等に搭載される車載カメラによって車両周辺の撮像画像を取得し、その撮像画像を基に、車両周辺に存在する歩行者等の対象物と自車両との間の距離を測定する技術が従来より知られている。
例えば、車載カメラの光軸が、車両が走行している路面(車両存在路面)とほぼ平行である場合において、車両存在路面上の前方箇所に存在する対象物を車載カメラにより撮像した場合、その撮像画像での対象物の接地点の位置と画像中心との上下方向の偏差量と、車載カメラの焦点距離と、車載カメラの高さとから、対象物と自車両との間の距離を推定することができる。
ただし、この場合、対象物が存在する路面(対象物が接地している路面)が車両存在路面に対して勾配を有するような場合には、その勾配に依存して、撮像画像中での対象物の接地点の位置が上下にずれることとなる。
このため、撮像画像での対象物の接地点の位置と画像中心との上下方向の偏差量を利用して、対象物と自車両との間の距離を精度よく測定するためには、対象物が存在する路面の勾配に伴う影響を適切に補償する必要がある。
一方、路面の勾配に関する情報を取得する技術としては、例えば特許文献1、2に見られる技術が知られている。
特許文献1に見られる技術は、車両に搭載した加速度センサの出力に基づいて路面の傾斜角度を推定するものである。また、特許文献2に見られる技術は、レーザ光を車両前方の路面に投光し、その反射光の受光強度の時間変化パターンに基づいて、車両前方の路面の勾配の有無や、その勾配が登り勾配であるか降り勾配であるかを判定するものである。
特開2006−194677号公報 特開2003−65740号公報
しかるに、特許文献1に見られる技術では、自車両が存在する路面の傾斜角度が判るだけなので、車両周辺の対象物が存在する路面の勾配に関する情報を取得することはできない。
また、特許文献2に見られる技術では、車両前方の路面の勾配の有無や、その勾配が登り勾配であるか降り勾配であるかが判るだけであり、その勾配の度合いや、その勾配が撮像画像における対象物の接地点の位置にどのような影響を及ぼすかを把握することは困難である。
従って、これらの特許文献1、2に見られる技術により得られる路面の勾配情報を、撮像画像に基づいて対象物と自車両との間の距離を測定する技術に適用することは困難である。
本発明はかかる背景に鑑みてなされたものであり、対象物が存在する路面の勾配の影響を適切に補償しつつ、車載カメラによる撮像画像を用いて対象物と自車両との間の距離を精度よく測定することができる測距装置を提供することを目的とする。
まず、本発明に関する基礎的な技術事項を説明しておく。
図1(a)に示すように、車載カメラ2を搭載した車両1が、平坦な路面51上を走行している状況を想定する。この状況では、車両1の前方の路面52上に、車両1(自車両1)からの距離Dを測定しようとする対象物53(図示例では歩行者)が存在している。
この場合、対象物53が存在する路面52(対象物53が接地している路面52)は、車両1が存在する路面51(車両1が接地している路面51)と同じ平面上の路面(路面51と面一の路面)となっている。以降、路面51,52をそれぞれ自車両存在路面51、対象物存在路面52ということがある。
また、図1(b)は、図1(a)に示す状況において、車載カメラ2により撮像された撮像画像を概略的に示している。参照符号51a,52a,53aを付した部分が、それぞれ、自車両存在路面51、対象物存在路面52、対象物53の画像を示している。
図1(a)に示す状況において、図示の如く、車載カメラ2の光軸Lcが自車両存在路面51に対してなす角度をα、車載カメラ2から対象物53の接地点P53(対象物53と対象物存在路面52との接触点)に至る直線L1が車載カメラ2の光軸Lcに対してなす角度をγ、車載カメラ2の自車両存在路面51からの高さをHcとする。
ここで、車載カメラ2の高さHc(以降、カメラ高Hcということがある)は、より詳しくは、車載カメラ2の光学中心Cの自車両存在路面51からの高さである。また、角度γに係わる上記直線L1は、より詳しくは、車載カメラ2の光学中心Cから対象物53の接地点P53に至る直線である。また、角度α,γは、より詳しくは、車載カメラ2の光軸Lcを含み、且つ、自車両存在路面51に対して垂直に立する平面の法線方向の軸周りでの角度である。その角度α,γは、図1(a)に示す状況では、車両1のピッチ方向での角度(すなわち車両1の車幅方向の軸周りの角度)に相当する。
そして、角度αは、車載カメラ2の光軸Lcが、車載カメラ2の光学中心Cを通って自車両存在路面51に平行な平面に対して斜め下向きに延在する状況(図1(a)に示す状況)で正の角度とし、車載カメラ2の光軸Lcが当該平面に対して斜め上向きに延在する状況で負の角度とする。また、角度γは、上記直線L1が、車載カメラ2の光軸Lcに対して斜め下向きに延在する状況で正の角度とし、該直線L1が車載カメラ2の光軸Lcに対して斜め下向きに延在する状況で負の角度とする。
なお、図1(a)では、α≠0[deg]となっているが、α=0[deg]であってもよい。
上記のように角度α,γを定義したとき、対象物53の自車両1からの距離D(自車両存在路面51に平行な方向での距離)と、角度α,γと、カメラ高Hcとの間には、次式(1)の関係が成立する。

D=Hc/tan(α+γ) ……(1)

次に、図2(a)に示すように、車両1の前方の対象物存在路面52が、自車両存在路面51に対して勾配を有する路面(傾斜した路面)となっている状況を想定する。この状況は、対象物存在路面52の勾配状態だけが、図1(a)に示した状況と相違するものである。
なお、図2(b)は、図2(a)に示す状況において、車載カメラ2により撮像された撮像画像を概略的に示している。そして、図1(b)の場合と同様に、参照符号51a,52a,53aを付した部分が、それぞれ、自車両存在路面51、対象物存在路面52、対象物53の画像を示している。
図2(a)に示す状況において、図中の角度α,γは、図1(a)の状況と同様に定義される角度である。加えて、この状況において、自車両存在路面51のうちの車載カメラ2の下方に位置する点(詳しくは、車載カメラ2の光学中心Cから自車両存在路面51に降ろした垂線が自車両存在路面51と交わる点)から対象物53の接地点P53に至る直線L2が自車両存在路面51に対してなす角度をβ(>0)とする。
なお、角度βは、角度α、γと同様に、車載カメラ2の光軸Lcを含み、且つ、自車両存在路面51に対して垂直に起立する平面の法線方向の軸周りでの角度(図1(b)に示す状況では、車両1のピッチ方向の角度)である。
上記のように角度α,γに加えて、角度βを定義したとき、対象物53の自車両1からの距離Dと、角度α,γ,βと、カメラ高Hcとの間には、次式(2)の関係が成立する。

D=Hc/(tan(α+γ)+tanβ) ……(2)

この場合、式(2)において、β=0とすれば、式(2)は前記式(1)に一致する。そして、図1(a)に示した状況は、図2(a)におけるβを“0”とした状況に相当する。
従って、図1(a)及び図2(a)のいずれの状況であっても、車載カメラ2のカメラ高Hcの値と、角度α,γ,βの値([rad]の単位での値)とが判れば、それらの値から上記式(2)の右辺の演算によって、対象物53と自車両1との間の距離Dを特定できることとなる。
ここで、カメラ高Hcは、車両1の車体に対する車載カメラ2の取付位置によって規定されるので、一般には、その値は、既知の値として事前に設定しておくことができる。
また、角度γは、車載カメラ2の撮像画像を基に推定することができる。具体的には、図1(b)又は図2(b)に示すように、対象物53の接地点P53を撮像画像に投影してなる点である画像上対象物接地点P53aと、撮像画像の画像中心Pca(車載カメラ2の撮像面と光軸Lcとの交点)との間の上下方向の位置偏差をΔyとすると、次式(3)が成立する。なお、Fは車載カメラ2の焦点距離である。

tanγ=Δy/F ……(3)

従って、撮像画像において、画像上対象物接地点P53aと画像中心Pcaとの間の上下方向の位置偏差Δyを特定すれば、そのΔyの値と焦点距離Fの値(これは一般に既知の値としてあらかじめ設定できる)とから上記式(3)に基づいて角度γを推定できることとなる。
補足すると、対象物存在路面52上で、車両1からの距離が対象物53の接地点P53と同じになる任意の静止点(対象物存在路面52に対して固定された点)を車載カメラ2の撮像画像に投影してなる点は、例えば図1(b)又は図2(b)に示す如く、画像上対象物接地点P53aを通って撮像画像の横方向(水平方向)に延在するラインL53a上の点(例えば図中の点P1)となる。
この場合、この点(例えばP1)と、画像中心Pcaとの上下方向の間隔は、画像上対象物接地点P53aと画像中心Pcaとの上下方向の間隔Δyに一致する。従って、角度γは、上記静止点を撮像画像に投影してなる点(例えばP1)と画像中心Pcaとの間隔Δyから上記式(3)に基づいて推定することもできる。
また、角度αは、車両1の車体の姿勢(角度αの増減方向での姿勢)に応じて規定される。従って、車両1の車体の姿勢をジャイロセンサ等の適宜のセンサ等を用いて計測(適当なモデルを使用した推定でもよい)すれば、角度αの値を推定できることとなる。
例えば、図1(a)又は図2(a)に示す状況では、車両1の車体のピッチ方向の傾斜角度(ピッチ角)を計測すれば、そのピッチ角の計測値と、車両1の車体に対する車載カメラ2の取付姿勢により定まる光軸Lcの向き(車体に対するピッチ方向での向き)とから、角度αを推定できることとなる。
なお、車両1が、滑らかな路面51(自車両存在路面51)を定常走行しているような状況では、車両1の車体の姿勢は、一般に、車体の前後方向が自車両存在路面51とほぼ平行になるような姿勢に維持される。従って、このような状況では、車両1の車体の姿勢を計測せずとも、角度αの値を、既知の値として事前に設定できることとなる。例えば、車載カメラ2の光軸Lcの方向が車両1の車体の前後方向とほぼ同方向である場合には、角度αの値を近似的に“0”であると見なすことができる。
また、角度βは、車載カメラ2によって、互いに異なる時刻で撮像した2つの撮像画像を利用することで、以下に説明する如く推定することが可能である。
まず、図3(a)に示すように、互いに異なる時刻t1,t2において、車載カメラ2の前方に存在する平坦な路面S(平面)を撮像した場合を想定する。そして、路面S上の任意の1つの静止点Pを、時刻t1での撮像画像(以下、第1撮像画像という)に投影してなる点をP1、時刻t2での撮像画像(以下、第2撮像画像という)に投影してなる点をP2とする。
この場合、第1撮像画像における投影点P1と、第2撮像画像における投影点P2とは、それぞれ各撮像画像における特徴点として抽出され、その点の各撮像画像での位置が特定されるものとする。
そして、第1撮像画像における投影点P1の位置を同次座標で表現してなる位置ベクトルを↑P1(≡[x1,y1,1]T)、第2撮像画像における投影点P2の位置を同次座標で表現してなる位置ベクトルを↑P2(≡[x2,y2,1]T)と表記する。
なお、x1,y1はそれぞれ第1撮像画像における投影点P1の横方向の座標位置、縦方向(上下方向)の座標位置である。同様に、x2,y2はそれぞれ第2撮像画像における投影点P2の横方向の座標位置、縦方向(上下方向)の座標位置である。また、添え字“T”は、転置を意味する。
また、時刻t1と時刻t2との間の期間での車載カメラ2の位置の空間的な並進変位を表す並進移動ベクトルを↑t、時刻t1と時刻t2との間の期間での車載カメラ2の姿勢の空間的な回転変位を表す回転行列をRとする。これらの並進移動ベクトル↑t及び回転行列Rは、換言すれば、時刻t1と時刻t2との間の期間でのカメラ座標系の空間的な並進変位と回転変位とをそれぞれ表すものである。
なお、回転行列Rは直交行列である。また、上記カメラ座標系は、該車載カメラ2に対して固定された座標系である。より具体的には、カメラ座標系は、例えば、車載カメラ2の光学中心Cを原点として、車載カメラ2の撮像画像の横方向をX軸方向、縦方向(上下方向)をY軸方向、光軸Lcの方向をZ軸方向とする3軸座標系である。
さらに、図3(b)に示すように、路面Sの法線方向の単位ベクトル(以下、単に法線ベクトルという)を↑n、時刻t1,t2のいずれか一方の時刻、例えば時刻t1での車載カメラ2の光学中心Cと路面Sとの距離をdとする。これらの↑n,dは、それぞれ路面S(平面)の空間的な姿勢及び位置を規定する平面パラメータである。
なお、路面Sは、通常、車幅方向とほぼ平行であるので、車載カメラ2の撮像画像の横方向(カメラ座標系のX軸方向)にほぼ平行である。このため、時刻t1における車載カメラ2の光軸Lcに対する路面Sの傾き角度を図3(b)に示す如くθとした場合、路面Sの法線ベクトル↑nは、時刻t1でのカメラ座標系における座標成分を用いて、↑n=[0,cosθ,sinθ]Tと表記される。
ここで、第1撮像画像の投影点P1の位置ベクトル↑P1と、第2撮像画像の投影点P2の位置ベクトル↑P2との間の関係は、平面射影変換によって対応付けられる。具体的には、第1撮像画像の投影点P1の位置ベクトル↑P1を第2撮像画像の投影点P2の位置ベクトル↑P2に変換するためのホモグラフィ行列(平面射影変換行列)をHとおくと、次式(4)に示す如く、↑P2は、H・↑P1に、ある比例定数kを乗じたベクトルとなる。

↑P2=k・H・↑P1 ……(4)

また、ホモグラフィ行列Hは、上記並進移動ベクトル↑t、回転行列R、路面Sの平面パラメータ↑n,dを用いて、次式(5)により与えられる。

H=RT−RT・↑t・(↑n/d)T ……(5)

従って、式(5)を式(4)に適用することで、次式(6)が得られる。

↑P2=k・(RT−RT・↑t・(↑n/d)T)・↑P1 ……(6)

この式(6)において、↑P1、↑P2、R、↑tが既知であれば、↑n/dの成分である(cosθ)/d又は(sinθ)/dの値を次のように求めることができる。
すなわち、時刻t1でのカメラ座標系で見た並進移動ベクトル↑tが座標成分を用いて↑t=[t1,t2,t3]Tと表記されるものとする。また、回転行列Rの転置行列RTの成分表示は、次式(7)により与えられるものとする。
さらに、変数a,bをそれぞれa≡(cosθ)/d、b≡(sinθ)/dと定義し、↑n/d=[0,a,b]Tとおく。このとき、式(6)は、↑P1,↑P2,RT,↑t,↑n/dのそれぞれの成分を用いて、次式(8)により表される。
そして、この式(8)の第3行の式を用いて、第1行及び第2行からkを消去すると、次式(10a),(10b)が得られる。
なお、式(10a),(10b)に関する変数a,bの係数行列((ef)を第1行成分、(hi)を第2行成分とする2次の正方行列)の行列式は、“0”となるので、これらの式(10a)、(10b)を連立方程式として、変数a,bの値を決定することはできない。
一方、a≡(cosθ)/d、b≡(sinθ)/dであるから、次式(10c)が成立する。

2+b2=1/d2 ……(10c)

従って、式(10a)〜(10c)を連立方程式として用いることで、a,bの値を算出することができる。例えば、式(10a),(10b)の両辺をそれぞれ加え合わせた式と、式(10c)とを用いてbを消去すると、次式(11)が得られる。
従って、変数aの値は、式(11)により示される二次方程式の解として求めることができる。この場合、式(11)の解となるaの値は、一般には2つ存在することとなるものの、それらの2つの値のうち、式(10a)、(10b)を満足し得るaの値を、最終的に、前記式(10a)〜(10c)の全てを満たすaの値として選定すればよい。
なお、式(10a)〜(10c)からaを消去して、上記と同様に、bの値を決定するようにすることもできることはもちろんである。また、a,bの一方の値から、式(10a)又は(10b)により他方の値を決定することもできる。
このように↑P1、↑P2、R、↑tが既知であれば、前記式(10a)〜(10c)に基づいて、変数a又はbの値を算出することができることとなる。そして、a≡(cosθ)/d、b≡(sinθ)/dであるから、上記のように変数a又はbの値を算出すれば、dの値を用いて次式(12a)又は(12b)により、車載カメラ2の光軸Lcに対する路面Sの傾斜角度θを求めることができることとなる。

θ=cos-1(a・d) ……(12a)
θ=sin-1(b・d) ……(12b)

次に、時刻t1で車載カメラ2により撮像された第1撮像画像が、前記した図2(a)の状況において撮像された画像であるとし、第2撮像画像の撮像時刻t2が、時刻t1の直後、又は直前の時刻であるとする。なお、時刻t1,t2の時間差は、その時間間隔内での対象物53と自車両1との間の距離の変化が十分に微小なものとなるような短い時間差であるとする。
そして、時刻t1、t2において、それぞれ第1撮像画像、第2撮像画像に投影される前記静止点Pは、時刻t1における自車両1からの距離が対象物53の接地点P53と同一又はほぼ同一となるような前記対象物存在路面52上の静止点であるとする。なお、該静止点Pは、時刻t1での対象物53の接地点P53と一致する静止点であってもよい。
さらに、図2(a)に示した状況で、車載カメラ2の光軸Lcを含んで自車両存在路面51に対して垂直に起立する平面の法線方向(図2(a)の状況では車両1の車幅方向(紙面に垂直な方向))に平行で、且つ、直線L2を含むような仮想的な平面を、対象物53が存在する仮想的な路面として想定し、以降、これを対象物存在仮想路面Saという。そして、この対象物存在仮想路面Saの法線ベクトルと、時刻t1での車載カメラ2の光学中心Cから対象物存在仮想路面Saまでの距離とをそれぞれ改めて↑n、dとおく。
このとき、上記対象物存在仮想路面Saの平面パラメータ↑n、dを前記式(6)の右辺に適用した場合、第1撮像画像の投影点P1の位置ベクトル↑P1と、第2撮像画像の投影点P2の位置ベクトル↑P2との間には、式(6)により表される関係が近似的に成立すると考えられる。
従って、時刻t1と時刻t2との間の期間での車載カメラ2の位置及び姿勢の変化をそれぞれ表す移動並進ベクトル↑t及び回転行列Rと、時刻t1において自車両1からの距離が対象物53の接地点P53と同一となるような対象物存在路面52上の静止点Pを第1及び第2撮像画像にそれぞれ投影してなる投影点P1,P2の位置ベクトル↑P1,↑P2とを用いて、前記した如く変数a(≡(cosθ)/d)又はb(≡(sinθ)/d)値を算出した場合、その変数a又はbの値は、近似的に、対象物存在仮想路面Saに対応する↑n/dの成分の値に相当するものとなる。
また、上記対象物存在仮想路面Saと、時刻t1での車載カメラ2の光学中心Cとの距離dは、近似的にカメラ高Hcに一致するものと考えられる。
従って、dの値として、カメラ高Hcを使用することで、そのdの値(=Hc)と、変数a又はbの値とから前記式(12a)又は式(12b)により、時刻t1での車載カメラ2の光軸Lcに対する対象物存在仮想路面Saの傾斜角度θ(換言すれば、図2(a)の直線L2の光軸Lcに対する傾斜角度)を推定することができることとなる。
一方、図2(a)を参照して判るように、車載カメラ2の光軸Lcに対する対象物存在仮想路面Saの傾斜角度θは、θ=α+βとなる。従って、対象物53の自車両1からの距離Dを前記式(2)に基づき測定するために必要となる前記角度βは、上記の如く推定した対象物存在仮想路面Saの傾斜角度θと、前記角度αとから、次式(13)により算出できることとなる。

β=θ−α ……(13)

以上のようにして、互いに異なる時刻t1,t2で車載カメラ2により撮像した2つの撮像画像を用いて、前記角度βの値を推定することが可能である。
そして、上記した如く角度γ、α、βの値を推定すれば、前記式(2)に基づいて、対象物53と自車両1との間の距離Dを測定できることとなる。
以上説明した技術事項を前提として、以下に本発明を説明する。
本発明の測距装置は、車載カメラによって撮像された路面上の対象物と前記車載カメラが搭載された自車両との間の距離を測定する測距装置であって、
互いに異なる撮像時刻で前記車載カメラにより撮像された2つの撮像画像から、前記対象物が存在する路面である対象物存在路面上の静止点であって、自車両からの距離が前記2つの撮像画像のうちの一方である第1撮像画像の撮像時刻での前記対象物の接地点と同じになる静止点を前記2つの撮像画像にそれぞれ投影してなる特徴点を抽出して、前記2つの撮像画像のそれぞれにおける該特徴点の位置を特定する測距用特徴点抽出手段と、
前記2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置及び姿勢の変化を表すカメラ運動パラメータを計測するカメラ運動パラメータ計測手段と、
前記第1撮像画像において特定された前記特徴点の位置に基づき、前記車載カメラから前記静止点に至る直線が該車載カメラの光軸に対してなす角度である第1参照角度の値を推定する第1参照角度推定手段と、
前記カメラ運動パラメータと、前記2つの撮像画像のそれぞれにおける前記特徴点の位置と、前記車載カメラの高さと、前記第1撮像画像の撮像時刻において前記自車両が存在する路面である自車両存在路面のうちの前記車載カメラの下方に位置する点から前記静止点に至る直線が前記車載カメラの光軸に対してなす角度である第2参照角度との間の関係を表す演算式に基づいて、前記カメラ運動パラメータの計測値と、前記2つの撮像画像のそれぞれにおいて特定された前記特徴点の位置と、前記車載カメラの高さの設定値とから、該演算式における未知数としての前記第2参照角度の値を推定する第2参照角度推定手段と、
少なくとも前記第1参照角度の推定値と、前記第2参照角度の推定値と、前記車載カメラの高さの設定値とから前記対象物と自車両との間の距離を推定する距離推定手段とを備えることを特徴とする(第1発明)。
なお、第1発明における上記第1参照角度、第2参照角度は、より詳しくは、車載カメラの光軸を含む平面であって、且つ、自車両存在路面に対して垂直に起立する平面の法線方向又はこれとほぼ同方向の軸周りでの角度である。このことは、後述する第3参照角度についても同様である。
上記第1発明によれば、前記測距用特徴点抽出手段によって、自車両からの距離が前記2つの撮像画像のうちの第1撮像画像の撮像時刻での前記対象物の接地点と同じになるような前記対象物存在路面上の静止点を前記2つの撮像画像にそれぞれ投影してなる特徴点が抽出される。そして、前記2つの撮像画像のそれぞれにおける該特徴点の位置が特定される。これにより、前記した位置ベクトル↑P1,↑P2が特定されることとなる。
なお、第1撮像画像における前記特徴点は、例えば、第1撮像画像の撮像時刻での前記対象物の接地点を第1撮像画像に投影してなる点(図1(b)又は図2(b)示した例では、点P53a)を通る横方向のライン上で、輝度等の局所特徴を有する点として抽出することできる。そして、他方の撮像画像(第2撮像画像)における前記特徴点は、該第2撮像画像において、第1撮像画像の特徴点と同じような特徴を有する点として抽出することができる。このような特徴点としては、例えばハリスコーナ点や、最小固有値点等を利用することができる。
また、前記カメラ運動パラメータ計測手段によって、2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置及び姿勢の変化を表すカメラ運動パラメータが計測される。該カメラ運動パラメータは、前記並進移動ベクトル↑tと回転行列Rとを規定し得るようなパラメータであり、並進移動ベクトル↑t及び回転行列Rそのものであってもよい。
なお、上記並進移動ベクトル↑tや回転行列R等のカメラ運動パラメータは、例えば車両に搭載したジャイロセンサ等のセンサの出力を基に計測することが可能である。あるいは、車載カメラの撮像画像を利用して計測することも可能である。その場合には、例えばStructure from Motion(以下SfMということがある)に基づく公知の画像処理手法によってカメラ運動パラメータ(例えば上記並進移動ベクトル↑t及び回転行列R)を算出することができる。
さらに、前記第1参照角度推定手段によって、前記第1撮像画像における前記特徴点の位置に基づき、前記第1参照角度の値が推定される。この第1参照角度は、図1(a)又は図2(a)における角度γを意味するものである。従って、前記第1撮像画像における前記特徴点の位置に基づいて、第1参照角度(γ)の値を推定することができる。より具体的には、前記式(3)に基づいて第1参照角度(γ)の値を推定することができる。
また、前記第2参照角度推定手段によって、前記第2参照角度の値が推定される。この第2参照角度は、第1撮像画像の撮像時刻において前記自車両が存在する路面である自車両存在路面のうちの前記車載カメラの下方に位置する点から前記静止点に至る直線が前記車載カメラの光軸に対してなす角度である。従って、該第2参照角度は、車載カメラの光軸に対する前記対象物存在仮想路面(Sa)の傾斜角度θに相当するものである。
従って、前記カメラ運動パラメータと、前記2つの撮像画像のそれぞれにおける前記特徴点の位置と、前記車載カメラの高さと、第2参照角度との間には、前記式(10a)〜(10c)により示される如き関係が近似的に成立する。そして、その関係を表す演算式に基づいて、前記カメラ運動パラメータの計測値と、前記2つの撮像画像のそれぞれにおいて特定された前記特徴点の位置と、前記車載カメラの高さの設定値とから、前記第2参照角度(θ)の値を推定することができる。
そして、第1発明では、少なくとも前記第1参照角度の推定値と、前記第2参照角度の推定値と、前記車載カメラの高さの設定値とから前記対象物と自車両との間の距離を前記距離推定手段により推定する。
この場合、例えば、車両が平坦な路面上を定常走行しているような状況では、前記式(2)における角度α(車載カメラの光軸が自車両存在路面に対してなす角度)が、ほぼ一定の値(既知の値)となる。このため、角度αの値をあらかじめ定めた定数値として、上記第1参照角度(γ)の推定値と、第2参照角度(θ)の推定値と、車載カメラの高さの設定値とから、前記式(2)及び式(13)に基づいて前記対象物と自車両との間の距離を推定できることとなる。
あるいは、角度αを適宜の手法により推定してもよい。その場合には、その角度αの推定値と、上記第1参照角度(γ)の推定値と、第2参照角度(θ)の推定値と、車載カメラの高さの設定値とから、前記式(2)及び式(13)に基づいて前記対象物と自車両との間の距離を推定できることとなる。
かかる第1発明によれば、対象物存在路面が、自車両存在路面に対して勾配を有するような状況であっても、その勾配の度合いを反映させて、対象物と自車両との間の距離を推定することができる。従って、対象物存在路面の勾配の影響を適切に補償しつつ、車載カメラによる撮像画像を用いて対象物と自車両との間の距離を精度よく測定することが可能となる。
かかる第1発明では、前記カメラ運動パラメータ計測手段は、例えば、前記2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置の変位ベクトルである並進移動ベクトルと、該車載カメラの姿勢の角度変化量を表す回転行列とを前記カメラ運動パラメータとして計測する手段である。これらの並進移動ベクトル及び回転行列は、それぞれ、前記した並進移動ベクトル↑t、回転行列Rを意味するものである。
そして、この場合、前記第2参照角度推定手段は、具体的には、前記演算式としての前記式(10a)〜(10c)に基づいて前記第2参照角度(θ)の値を推定することができる(第2発明)。
ここで、前記式(10a)〜(10c)と、その各変数の意味もしくは定義を改めて記載すると次の通りである。
上記第2発明によれば、上記式(10a)〜(10c)に基づいて、前記カメラ運動パラメータの計測値(前記並進移動ベクトル↑tの各成分の値、並びに回転行列Rの各成分の値)と、前記2つの撮像画像のそれぞれにおいて特定された前記特徴点の位置(位置ベクトル↑P1,↑P2のそれぞれの各成分の値)とから、前記した如く変数a又はbの値を求めることができる。そして、この変数a又はbの値と、dの値としての車載カメラの高さの設定値(Hc)とから、前記式(12a)又は(12b)により第2参照角度(θ)の推定値を求めることができる。
前記第1発明では、前記第1撮像画像の撮像時刻での前記車載カメラの光軸が前記自車両存在路面に対してなす角度である第3参照角度の値を推定する第3参照角度推定手段をさらに備え、
前記距離推定手段は、前記第1参照角度の推定値と、前記第2参照角度の推定値と、前記第3参照角度の推定値と、前記車載カメラの高さの設定値とから前記対象物と自車両との間の距離を推定することが好ましい(第3発明)。
この第3発明によれば、前記第3参照角度推定手段により、前記第3参照角度を推定する。この第3参照角度は、図1(a)又は図1(b)における角度αを意味するものである。そして、この第3参照角度(α)の推定値を、前記対象物と自車両との間の距離を推定するために用いる。これにより、車両の走行時に前記第3参照角度(α)の実際の値の変動が生じる場合でも、対象物と自車両との間の距離を精度よく推定することが可能となる。
この第3発明では、前記第3参照角度は、種々様々な手法で推定することが可能であるが、その手法としては、次のような手法を用いることができる。
すなわち、前記カメラ運動パラメータ計測手段が、前記2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置の変位ベクトルである並進移動ベクトルを前記カメラ運動パラメータの構成要素として計測する手段である場合には、前記第3参照角度推定手段は、少なくとも前記計測された並進移動ベクトルの、前記車載カメラの光軸に対する向きに基づいて前記第3参照角度の値を推定する(第4発明)。
この場合、上記並進移動ベクトルの向きは、概ね前記自車両存在路面と平行な方向となるので、前記第3参照角度(α)は、基本的には、上記並進移動ベクトルの、前記車載カメラの光軸に対する向きに応じて規定される。従って、車載カメラの光軸に対する上記並進移動ベクトルの向きに基づいて、前記第3参照角度(α)の値を推定することができる。
また、前記第3参照角度は、例えば、次のような手法により推定するようにしてもよい。すなわち、前記カメラ運動パラメータ計測手段が、前記2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置の変位ベクトルである並進移動ベクトルと、該車載カメラの姿勢の角度変化量を表す回転行列とを前記カメラ運動パラメータとして逐次計測する手段である場合に、前記計測された並進移動ベクトルの、前記車載カメラの光軸に対する向きに基づいて、前記第3参照角度の第A暫定推定値を逐次求める第3参照角度第A推定手段と、前記計測された回転行列により示される角度変化量を積算することによって前記第3参照角度の第B暫定推定値を逐次求める第3参照角度第B推定手段とをさらに備え、前記第3参照角度推定手段は、前記第3参照角度の第A暫定推定値の所定期間分の平均値と第B暫定推定値の該所定期間分の平均値との偏差を算出し、該偏差に応じて前記第B暫定推定値を補正することにより前記第3参照角度の推定値を決定する(第5発明)。
これによれば、前記第3参照角度第A推定手段は、前記4発明の第3参照角度推定手段と同様に、前記並進移動ベクトルに向き(前記車載カメラの光軸に対する向き)に基づいて第3参照角度(α)の値を推定する。ただし、第5発明では、その推定値は、第A暫定推定値(第3参照角度(α)の暫定的な推定値)とされる。
また、前記第3参照角度第B推定手段は、前記回転行列により示される前記車載カメラの姿勢の角度変化量として得られる第3参照角度(α)の角度変化量を積算することによって、第3参照角度(α)の暫定推定値(第B暫定推定値)を逐次求める。
ここで、前記第A暫定推定値は、積算演算を必要とすることなく算出できることから、該第A暫定推定値に誤差が累積していくようなことはない。ただし、前記第A暫定推定値は、車両の姿勢の瞬時的な変動の影響を直接的に受けるために、第3参照角度(α)の実際の値に対して瞬時的な誤差を生じることがある。
これに対して、前記第B暫定推定値は、前記車載カメラの姿勢の異なる時刻間の相対的な変化量としての前記角度変化量を積算したものであるため、車両の姿勢の瞬時的な変動の影響を受け難い。ただし、第B暫定推定値は、該第B暫定推定値の初期値の誤差や累積的な誤差が含まれやすい。ひいては、該第B暫定推定値は、実際の第3参照角度(α)の値に対してオフセットを生じやすい。
そこで、第5発明では、前記第3参照角度推定手段は、前記第3参照角度(α)の第A暫定推定値の所定期間分の平均値と第B暫定推定値の該所定期間分の平均値との偏差を算出し、該偏差に応じて前記第B暫定推定値を補正することにより前記第3参照角度(α)の推定値を決定する。
この場合、上記偏差は、第3参照角度(α)の実際の値に対する第B暫定推定値のオフセット分に相当するものとなる。このため、該偏差に応じて前記第A暫定推定値を補正することによって、第B暫定推定値から上記オフセット分を除去することが可能となる。その結果、当該補正により得られる第3参照角度(α)の推定値を、第3参照角度(α)の実際の値に、より一層精度よく合致させることができることとなる。ひいては、対象物と自車両との間の距離の測定精度をより一層高めることができる。
なお、前記第3参照角度(α)の第A暫定推定値と、累積していない第B暫定推定値(すなわち、車載カメラ2の姿勢の単位時間当たりの角度変化量)とからカルマンフィルタを用いて第3参照角度を推定するようにしてもよい。
また、上記第3〜第5発明は、前記第2発明と組み合わせてもよい。
図1(a)は車両と対象物との一例の状態を示す図、図1(b)は図1(a)の状況で車載カメラにより撮像された撮像画像の概略を示す図。 図2(a)は車両と対象物との他の例の状態を示す図、図2(b)は図2(a)の状況で車載カメラにより撮像された撮像画像の概略を示す図。 図3(a)車載カメラによる互いに異なる時刻t1,t2での撮像状態を示す図、図3(b)は図3(a)の時刻t1での撮像状態を示す図。 本発明の一実施形態における測距装置の構成を示すブロック図。 図5(a),(b)は図4の第3A参照角度第A推定部の処理を説明するための図。
本発明の一実施形態を図1〜図5を参照して以下に説明する。
図4を参照して、本実施形態の測距装置10は、先に図1(a)及び図2(a)に示した車両1に搭載されたものであり、前記車載カメラ2に接続された演算処理ユニット11を備える。なお、図1(a)及び図2(a)では、車両1を模式的に図示したが、実際の車両1は例えば自動車である。
そして、本実施形態では、車載カメラ2は、車両1の前方を監視するために車両1の前部に搭載されており、車両1の前方の画像を撮像する。この場合、車載カメラ2は、その光軸Lcを車両1の前後方向に向けるようにして車両1の車体に取り付けられている。ただし、車載カメラ2の光軸Lcは、車両1の前後方向に対して多少の傾きを有していてもよい。
この車載カメラ2は、CCDカメラ又はCMOSカメラ等により構成され、撮像画像の画像信号を生成して出力する。その撮像画像は、カラー画像、モノトーン画像のいずれであってもよい。
なお、車載カメラ2は、車両1の後方又は側方の画像を撮像するように車両1に搭載されたカメラであってもよい。
演算処理ユニット11は、図示を省略するCPU、RAM、ROM、インターフェース回路等を含む電子回路ユニットであり、車載カメラ2で生成された画像信号が入力される。
この演算処理ユニット11は、実装されたプログラムを実行することによって実現される機能として、車載カメラ2の撮像画像を取得する画像取得部12と、その撮像画像から対象物53と自車両1との距離を測定するために使用する特徴点を抽出する測距用特徴点抽出部13、車載カメラ2の運動パラメータを推定(計測)するカメラ運動推定部14と、第1〜第3参照角度をそれぞれ推定する第1参照角度推定部15、第2参照角度推定部16及び第3参照角度推定部17と、対象物53と自車両1との間の距離の推定値(測定値)を求める距離推定部18とを備える。該演算処理ユニット11は、所定の演算処理周期でこれらの各機能部の処理を逐次実行することによって、車両1の前方に存在する対象物53と自車両1との間の距離Dの推定値を逐次算出する。
以下に、演算処理ユニット11の各機能部の処理を含めて、該演算処理ユニット11の全体処理の詳細を説明する。
車載カメラ2は、演算処理ユニット11から所定の演算処理周期で指示されるタイミングで車両1の前方の画像を撮像する。そして、その撮像により生成された画像信号が、車載カメラ2から演算処理ユニット11の画像取得部12に逐次取り込まれる。この画像取得部12は、車載カメラ2から入力されるアナログ信号である画像信号(各画素毎の画像信号)をデジタルデータに変換し、図示しない画像メモリに記憶保持する。
この場合、画像取得部12は、車載カメラ2によって互いに異なる時刻(所定の演算処理周期の時間間隔毎の時刻)で撮像された複数の撮像画像、例えば2つの撮像画像の組を定期的に更新しつつ、画像メモリに記憶保持する。以降の説明では、画像メモリに記憶保持される2つの撮像画像の撮像時刻を時刻t1、t2とし、時刻t1での撮像画像を第1撮像画像、時刻t2での撮像画像を第2撮像画像ということがある。なお、時刻t2は時刻t1の後の時刻及び前の時刻のいずれであってもよい。
画像取得部12の処理によって画像メモリに記憶保持された2つの撮像画像(第1撮像画像及び第2撮像画像)は、測距用特徴点抽出部13とカメラ運動推定部14とに与えられ、それぞれの処理が次に実行される。
測距用特徴点抽出部13の処理は、自車両1からの距離を測定しようとする対象物53の接地点P53(対象物53と対象物存在路面52との接触点)を第1撮像画像に投影してなる画像上対象物接地点P53aを特定する画像上対象物接地点特定部13aの処理と、自車両1からの距離が上記接地点P53と同一(又はほぼ同一)となるような対象物存在路面52上の静止点Pを第1撮像画像及び第2撮像画像に投影してなる特徴点P1,P2を各撮像画像から探索する特徴点探索部13bとに大別される。
画像上対象物接地点特定部13aは、次のように画像上対象物接地点P53aを特定する処理を実行する。
画像上対象物接地点特定部13aは、まず、与えられた第1撮像画像において、自車両1との距離を測定しようとする所定種類の対象物53の画像部分を探索する。本実施形態では、所定種類の対象物53は、例えば歩行者(人)である。そして、画像上対象物接地点特定部13aは、第1撮像画像から、歩行者に特徴的な形状パターン等を有する画像部分を探索することで、該第1撮像画像に含まれる対象物53(歩行者)の画像部分を抽出する。例えば、図1(a)又は図2(a)に示した状況では、図1(b)又は図2(b)の参照符号53aの部分が、対象物53(歩行者)の画像部分として抽出される。
なお、撮像画像から、歩行者の画像部分を探索する手法は種々様々な手法が公知となっており、その公知の手法を用いて第1撮像画像から対象物53としての歩行者を抽出するようにすればよい。
そして、画像上対象物接地点特定部13aは、上記の如く抽出した第1撮像画像中の対象物53の画像上対象物接地点P53aを特定する。この場合、図1(b)又は図2(b)に示す如く、例えば第1撮像画像中の対象物53の画像53aの最下点が画像上対象物接地点P53aとして特定される。
なお、歩行者の脚の先端部の画像が明瞭に得られないような場合には、例えば、該歩行者の体型が標準的な体型であると仮定して、第1撮像画像における該歩行者の頭部や肩部の位置から画像上対象物接地点P53aの位置を推定するようにしてもよい。
次いで、特徴点探索部13bの処理が次のように実行される。
本実施形態では、車載カメラ2は、その撮像画像の横方向(カメラ座標系のx軸方向)が自車両存在路面51とほぼ平行になるように車両1に搭載されている。
このため、自車両1からの距離が対象物接地点P53と同一の距離となるような対象物存在路面52上の静止点を第1撮像画像に投影してなる点は、基本的には、図1(b)又は図2(b)に示す如く、画像上対象物接地点P53を通って横方向(カメラ座標系のx軸方向)に延在する直線L53a上に存在する。
そこで、特徴点探索部13bは、対象物53の画像53aの近辺の画像領域内において、上記直線L53a上で、対象物存在路面52の画像52a中に存在する特徴点(例えば図1(b)又は図2(b)の点P1)を探索し、その点を対象物存在路面52上の静止点(自車両1からの距離が対象物接地点P53と同じになる静止点)を第1撮像画像に投影してなる特徴点として抽出する。
このような特徴点は、一般的には、その点を含む局所領域における輝度、彩度、色相等の状態量が、特徴的な(他の局所領域と区別可能な)大きさもしくは変化を示すような点である。例えばハリスコーナ点や、最小固有値点等が上記特徴点して探索される。
このように第1撮像画像における特徴点を抽出した後、特徴点探索部13bは、次に第2撮像画像において、第1撮像画像の特徴点と同じ特徴を有する点を探索し、その探索した点を、上記静止点(自車両1からの距離が対象物接地点P53と同じになる対象物存在路面52上の静止点)を第2撮像画像に投影してなる特徴点として抽出する。この第2撮像画像における探索処理は、例えばブロックマッチング等の公知の画像処理手法を用いて行なえばよい。
画像上対象物接地点特定部13a及び特徴点探索部13bの上記の処理によって、自車両1からの距離が対象物接地点P53と同じになる対象物存在路面52上の静止点を第1撮像画像に投影してなる特徴点と、該静止点を第2撮像画像に投影してなる特徴点とが抽出されることとなる。このようにして、第1撮像画像及び第2撮像画像から抽出される特徴点が、図3(a)に示した特徴点P1,P2である。
そして、測距用特徴点抽出部13は、このように抽出した特徴点P1,P2の各撮像画像での位置(前記位置ベクトル↑P1,↑P2の座標成分)を求めて出力する。
補足すると、本実施形態では、対象物53(歩行者)が移動体であるため、第1撮像画像の撮像時刻t1と、第2撮像画像の撮像時刻t2とでは、対象物接地点P53が一般には一致しない。このため、本実施形態では、対象物接地点P53とは別の静止点を各撮像画像に投影してなる点を、上記特徴点として各撮像画像から抽出するようにした。
ただし、距離を測定しようとする対象物53は、歩行者等の移動体でなくてもよく、固定設置物(静止物)であってもよい。その場合には、対象物としての固定設置物の接地点を各撮像画像に投影してなる点を、上記特徴点として各撮像画像から抽出するようにしてもよい。
前記カメラ運動推定部14は、本実施形態では、与えられた2つの撮像画像(第1撮像画像及び第2撮像画像)と、車載カメラ2の単位時間当たりの撮像数を示すフレームレートと、図示しない車速センサにより検出された車両1の車速とから、SfM(Structure from Motion)に基づく公知の画像処理手法を用いて、車載カメラ2の空間的な位置の変位ベクトルの推定値(計測値)としての前記並進移動ベクトル↑tと、2つの撮像画像の撮像時刻t1,t2の間の期間における車載カメラ2の空間的な姿勢の角度変化量の推定値(計測値)を示す前記回転行列Rとを算出する。
これらの並進移動ベクトル↑tと回転行列Rとは、例えば、第1撮像画像及び第2撮像画像にそれぞれ投影されている静止物体(固定設置物)の画像の各撮像画像での特徴点から得られるオプティカルフローに関するSfMに基づく公知の手法(例えば、「Structure from Motion without Correspondence」/Frank Dellaert, Steven M.Seitz, Charles E.Thorpe, Sebastian Thrun/Computer Sience Department & Robotics Institute Canegie Mellon University, Pittsborgh PA 15213を参照)によって算出される。
補足すると、SfMに基づいて算出される並進移動ベクトルは、スケールが不定なものとなるが、上記フレームレートと車速の検出値とを基に、並進移動ベクトル↑tのスケールが決定される。
なお、車載カメラ2は車両1の車体と一体的に動くので、車体の姿勢を検出するためのジャイロセンサ等の姿勢センサや、車体の加速度を検出するための加速度センサが車両1に搭載されている場合には、例えばそれらセンサの出力に基づいて、上記並進移動ベクトル↑tや、回転行列Rを計測するようにしてもよい。
演算処理ユニット11は、上記の如く測距用特徴点算出部13及びカメラ運動推定部14の処理を実行した後、次に、第1参照角度推定部15、第2参照角度推定部16、第3参照角度推定部17の処理をそれぞれ実行する。なお、第1参照角度推定部15の処理は、カメラ運動推定部14の処理と並行して、又はその前に実行してもよい。また、第3参照角度推定部17の処理は、測距用特徴点算出部13の処理と並行して、又はその前に実行してもよい。
第1参照角度推定部15には、測距用特徴点抽出部13から第1撮像画像における前記特徴点P1の位置(又は前記位置ベクトル↑P1)が入力される。そして、第1参照角度推定部15は、第1撮像画像の画像中心Pcaと、入力された特徴点P1との間の、上下方向(カメラ座標系のy軸方向)の位置偏差Δy(図1(b)又は図2(b)を参照)を算出する。そして、第1参照角度推定部15は、この位置偏差Δyと、図示しない記憶装置にあらかじめ記憶保持された車載カメラ2の焦点距離Fの値とから、前記式(3)に基づいて、第1参照角度としての角度γの推定値(=tan-1(Δy/F))を算出する。
第2参照角度推定部16には、測距用特徴点抽出部13から第1撮像画像及び第2撮像画像のそれぞれにおける前記特徴点P1,P2の位置(又は前記位置ベクトル↑P1,↑P2)が入力されると共に、カメラ運動推定部14から並進移動ベクトル↑t及び回転行列Rの各成分値が入力される。
そして、第2参照角度推定部16は、測距用特徴点抽出部13からの入力値により示される前記特徴点P1,P2の位置ベクトル↑P1,↑P2の各成分値と、カメラ運動推定部14から入力された並進移動ベクトル↑t及び回転行列Rの各成分値と、前記式(10c)のd(前記対象物存在仮想路面Saと時刻t1での車載カメラ2の光学中心Cとの間の距離)の近似的な設定値として図示しない記憶装置にあらかじめ記憶保持されたカメラ高Hcの値とから、前記式(10a)〜(10c)に基づいて、第2参照角度としての角度θの推定値を算出する。
具体的には、例えば前記式(11)の二次方程式の係数r,s,tの値が、前記式(10a)〜(10c)に関するただし書きの定義と、式(11)に関するただし書きの定義とに従って、↑P1,↑P2,↑t,Rの各成分値の値から算出される。そして、係数r,s,tの値を用いて、式(11)の二次方程式の解の値が前記変数a(≡(cosθ)/d)の値として算出される。
この場合、前記した如く、式(11)の解となるaの値は、一般には2つ存在することとなるものの、それらの2つの値のうち、式(10a)、(10b)を満足し得るaの値が選定される。
そして、この変数aの値と、dの設定値(Hc)とから、前記式(12a)により第2参照角度θの推定値が算出される。
なお、前記変数aの代わりに、前記変数b(≡(sinθ)/d)の値を算出し、この変数bの値と、dの設定値(Hc)とから、前記式(12b)により第2参照角度θの推定値を算出するようにしてもよい。
第3参照角度推定部17には、カメラ運動推定部14から並進移動ベクトル↑t及び回転行列Rの各成分値が入力される。
この第3参照角度推定部17は、第3参照角度としての角度αの第A暫定推定値αaと第B暫定推定値αbとをそれぞれ算出する処理を実行する第3参照角度第A暫定推定部17a、第3参照角度第B暫定推定部17bを備えている。
第3参照角度第A暫定推定部17aは、入力された並進移動ベクトル↑tの向き(撮像時刻t1での車載カメラ2の光軸Lcに対する向き)に基づいて、第3参照角度αの第A暫定推定値αaを算出する。
この場合、並進移動ベクトル↑tは、車両1が時刻t1で走行している自車両存在路面51にほぼ平行(車両1の進行方向とほぼ平行)なベクトルと見なすことができる。
従って、車載カメラ2の光軸Lcに対する並進移動ベクトル↑tの向き(あるいは、並進移動ベクトル↑tに対する光軸Lcの向き)は、自車両存在路面51に対して車載カメラ2の光軸Lcがなす角度、すなわち、第3参照角度αに応じたものとなる。
すなわち、図5(a),(b)に示す如く、時刻t1での車載カメラ2のカメラ座標系で見た並進移動ベクトル↑tが、車載カメラ2の光軸Lc(Z軸)に対してなす角度αaが、第3参照角度αに相当するものとなる。
そこで、第3参照角度第A暫定推定部17aは、本実施形態では、入力された並進移動ベクトル↑tが、時刻t1における車載カメラ2のカメラ座標系のXZ平面に対してなす角度αaを、第3参照角度αの暫定推定値として算出する。
具体的には、第3参照角度第A暫定推定部17aは、時刻t1における車載カメラ2のカメラ座標系での並進移動ベクトル↑t(=[t1,t2,t3]T)の成分値から、次式(14)により、第A暫定推定値αaを算出する。

また、第3参照角度第B暫定推定部17bは、入力された回転行列Rに基づいて、第3参照角度αの第B暫定推定値αbを算出する。
具体的には、第3参照角度第B暫定推定部17bは、入力された回転行列Rにより示される車載カメラ2の空間的な姿勢の角度変化量(2つの撮像画像の撮像時刻t1,t2の間の期間における角度変化量)のうちの車両1のピッチ方向(第3参照角度αの変化が生じる軸周り方向)の角度変化量を演算処理ユニット11の演算処理周期で逐次積算(累積加算)することによって、第3参照角度αの第B暫定推定値αbを算出する。
なお、第B暫定推定値αbは、車両1の運転開始時等に初期化される。この場合、第B暫定推定値αbの初期値としては、例えば、車両1が水平な路面上に停車した状態での第3参照角度αの値としてあらじめ定められた値(例えば“0”)、あるいは、前回の車両1の運転時に最終的に算出された第3参照角度αの値が設定される。
以上説明した第3参照角度第A推定部17a及び第3参照角度第B推定部17bの処理によって、並進移動ベクトル↑tに基づく第3参照角度αの第A暫定推定値αaと、回転行列Rに基づく第3参照角度αの第B暫定推定値αbとが所定の演算処理周期で逐次算出される。
ここで、並進移動ベクトル↑tに基づく第A暫定推定値αaは、車両1の車体の姿勢の瞬時的な変動の影響を直接的に受けるため、実際の第3参照角度に対して瞬時的なずれを生じやすいものの、実際の第3参照角度αに対する定常的なオフセットは一般には生じない。
一方、回転行列Rに基づく第B暫定推定値αbの波形は、実際の第3参照角度αの波形に比較的精度よく合致するものの、実際の第3参照角度αに対して定常的なオフセットを生じやすい。このオフセットは、αbの初期値の誤差、あるいは、瞬時的な誤差の累積に起因するものである。
そこで、本実施形態では、第A暫定推定値αa及び第B暫定推定値αbの上記の性状を踏まえて、第3参照角度推定部17は、以下に説明する如く第3参照角度αの推定値を逐次決定する。
すなわち、第3参照角度推定部17は、現在時刻から所定時間前までの期間で算出された第A暫定推定値αaと第B暫定推定値αbとを時系列的に記憶保持する。この場合、記憶保持される第A暫定推定値αaと第B暫定推定値αbとは、新たな(最新の)αa,αbが算出される毎に更新される。
そして、第3参照角度推定部17は、まず、記憶保持したαa,αbの時系列データのうち、所定の時間間隔の期間分の最新のデータ(現在時刻から所定の時間間隔前の過去時刻までの期間内のデータ)を抽出し、その抽出したαa,αbのそれぞれのデータの平均値を算出する。すなわち、第3参照角度推定部17は、現在時刻から所定の時間間隔前の過去時刻までの期間内のαaの平均値αa_aveとαbの平均値αb_aveとを算出する。なお、上記所定の時間間隔は、一定時間でもよいが、本実施形態では、例えば車両1の車速に応じて設定する(車速が大きいほど、上記所定の時間間隔を短い時間間隔に設定する)。
次いで、第3参照角度推定部17は、第A暫定推定値αaの平均値αa_aveと第B暫定推定値αbの平均値αb_aveとの偏差(=αa_ave−αb_ave)を算出する。そして、第3参照角度推定部17は、この偏差によって、現在時刻での第B暫定推定値αb(αbの最新値)を補正することによって、現在時刻での第3参照角度αの推定値を決定する。具体的には、第3参照角度推定部17は、上記偏差を現在時刻での第B暫定推定値αbに加算することによって、現在時刻での第3参照角度αの推定値を決定する。
以上の第3参照角度推定部17の処理により、第3参照角度αの推定値が逐次決定される。なお、現在時刻から所定の時間間隔前の過去時刻までの期間内における各時刻でのαaとαbとの偏差を求め、その偏差の該期間内での平均値を求めることによって、第A暫定推定値αaの平均値αa_aveと第B暫定推定値αbの平均値αb_aveとの偏差(=αa_ave−αb_ave)を算出するようにしてもよい。
第1〜第3参照角度推定部15〜17でそれぞれ上記の如く求められた第1参照角度γの推定値、第2参照角度θの推定値、第3参照角度αの推定値は、前記距離推定部18に入力される。そして、該距離推定部18は、これらの入力値から対象物53と自車両1との間の距離Dの推定値を算出する。
具体的には、距離推定部18は、第2参照角度θの推定値から第3参照角度αの推定値を減算することにより(前記式(13)により)、図2(a)に示した角度β、すなわち図中の直線L2(又は前記対象物存在仮想路面Sa)が自車両存在路面51に対してなす角度βの推定値を算出する。そして、距離測定値算出部18は、この角度βの推定値と、第1参照角度γの推定値と、第3参照角度αの推定値と、カメラ高Hcの値とから、前記式(2)により、対象物53と自車両1との間の距離Dの推定値を算出する。
以上が本実施形態における演算処理ユニット11が実行する処理の詳細である。この処理によって、車両1の前方の路面に自車両1との間の距離を測定しようとする対象物53が存在する場合に、その対象物53と自車両1との間の距離Dが逐次、測定されることとなる。
ここで、本実施形態と本発明との対応関係について補足しておく。本実施形態では、前記測距用特徴点抽出部13、カメラ運動推定部14、第1参照角度推定部15、第2参照角度推定部16、第3参照角度推定部17、距離推定部18によって、それぞれ、本発明における測距用特徴点抽出手段、カメラ運動パラメータ計測手段、第1参照角度推定手段、第2参照角度推定手段、第3参照角度推定手段、距離推定手段が実現される。
さらに、第3参照角度第A推定部17a、第3参照角度第B推定部17bによって、それぞれ、本発明における第3参照角度第A推定手段、第3参照角度第B推定手段が実現される。
以上説明した実施形態によれば、第1参照角度γ及び第3参照角度αに加えて、前記第2参照角度θを推定することにより、車両1の前方の対象物存在路面52の勾配の度合いを対象物53と自車両1との間の距離Dの推定処理に反映させて、該距離Dの推定値を前記式(2)により求めることができる。このため、自車両存在路面51に対する対象物存在路面53の勾配の影響を適切に補償して、対象物53と自車両1との間の距離Dを精度よく測定することができる。
また、対象物53と自車両1との間の距離Dを推定するために用いる第2参照角度θを、単一の車載カメラ2による撮像画像を利用して推定することができるので、その推定のための専用的なセンサ等を必要とすることなく、第3参照角度θを推定することができる。
また、対象物53と自車両1との間の距離Dを推定するために用いる第3参照角度αの推定処理においては、所定の演算処理周期で算出される前記第B暫定推定値αbを、現在時刻から所定の時間間隔前の過去時刻までの期間内における前記第A暫定推定値αaの平均値αa_aveと第B暫定推定値αbの平均値αb_aveとの偏差(=αa_ave−αb_ave)の分だけ補正することによって、最終的な第3参照角度αの推定値が逐次決定される。
これにより、第3参照角度αの推定値は、第B暫定推定値αbの初期値の誤差や、瞬時的な誤差の累積に起因して該第B暫定推定値αbが第3参照角度αの実際の値に対して生じるオフセット分を、第B暫定推定値αbから除去したものとなるように決定されることとなる。このため、第3参照角度αの実際の値に精度よく合致する推定値を得ることができる。
また、上記偏差(=αa_ave−αb_ave)を求めるために使用するαa、αbのサンプリング期間を規定する前記所定の時間間隔が、車速が大きいほど、短い時間に設定される。このため、該所定の時間間隔の期間は、その期間内での自車両1の車体の姿勢(特にピッチ方向の姿勢)に大きな変動が生じ難い期間に設定される。
この結果、第A暫定推定値αa及び第B暫定推定値αbの信頼性の高い(S/N比の高い)平均値αa_ave,αb_aveを使用して、上記偏差(=αa_ave−αb_ave)を算出することができる。このため、第3参照角度αの推定値の精度を効果的に高めることができる。
ひいては、本実施形態によれば、単一の車載カメラ2を使用した安価な構成で、対象物53と自車両1との間の距離Dを精度よく推定できる。
なお、以上説明した実施形態では、第3参照角度αを逐次推定するようにしたが、車両1が平坦な路面上を定常走行しているような状況では、第3参照角度αの値は、ほぼ一定に維持される。そして、その第3参照角度αの値は、車体に対する車載カメラ2の取付姿勢により規定される既知の値となる。従って、このような状況では、第3参照角度αを逐次推定せずとも、該αの値をあらかじめ定められた既定値として、対象物53と自車両1との距離Dを推定するようにしてもよい。
また、前記実施形態では、対象物53を歩行者とした場合を例にとって説明したが、対象物53は歩行者以外の移動体、例えば、歩行者以外の動物や他車両等であってもよい。あるいは、対象物53は、固定接地物(静止物)であってもよい。対象物53が固定接地物である場合には、測距用特徴点抽出部13の処理では、前記した如く、対象物53の接地点を各撮像画像に投影してなる点を前記特徴点P1,P2として使用してもよい。
1…車両、2…車載カメラ、10…測距装置、13…測距用特徴点抽出部(測距用特徴点抽出手段)、14…カメラ運動推定部(カメラ運動パラメータ計測手段)、15…第1参照角度推定部(第1参照角度推定手段)、16…第2参照角度推定部(第2参照角度推定手段)、17…第3参照角度推定部(第3参照角度推定手段)、17a…第3参照角度第A推定部(第3参照角度第A推定手段)、17b…第3参照角度第B推定部(第3参照角度第B推定手段)、18…距離推定部(距離推定手段)。

Claims (5)

  1. 車載カメラによって撮像された路面上の対象物と前記車載カメラが搭載された自車両との間の距離を測定する測距装置であって、
    互いに異なる撮像時刻で前記車載カメラにより撮像された2つの撮像画像から、前記対象物が存在する路面である対象物存在路面上の静止点であって、自車両からの距離が前記2つの撮像画像のうちの一方である第1撮像画像の撮像時刻での前記対象物の接地点と同じになる静止点を前記2つの撮像画像にそれぞれ投影してなる特徴点を抽出して、前記2つの撮像画像のそれぞれにおける該特徴点の位置を特定する測距用特徴点抽出手段と、
    前記2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置及び姿勢の変化を表すカメラ運動パラメータを計測するカメラ運動パラメータ計測手段と、
    前記第1撮像画像において特定された前記特徴点の位置に基づき、前記車載カメラから前記静止点に至る直線が該車載カメラの光軸に対してなす角度である第1参照角度の値を推定する第1参照角度推定手段と、
    前記カメラ運動パラメータと、前記2つの撮像画像のそれぞれにおける前記特徴点の位置と、前記車載カメラの高さと、前記第1撮像画像の撮像時刻において前記自車両が存在する路面である自車両存在路面のうちの前記車載カメラの下方に位置する点から前記静止点に至る直線が前記車載カメラの光軸に対してなす角度である第2参照角度との間の関係を表す演算式に基づいて、前記カメラ運動パラメータの計測値と、前記2つの撮像画像のそれぞれにおいて特定された前記特徴点の位置と、前記車載カメラの高さの設定値とから、該演算式における未知数としての前記第2参照角度の値を推定する第2参照角度推定手段と、
    少なくとも前記第1参照角度の推定値と、前記第2参照角度の推定値と、前記車載カメラの高さの設定値とから前記対象物と自車両との間の距離を推定する距離推定手段とを備えることを特徴とする測距装置。
  2. 請求項1記載の測距装置において、
    前記カメラ運動パラメータ計測手段は、前記2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置の変位ベクトルである並進移動ベクトルと、該車載カメラの姿勢の角度変化量を表す回転行列とを前記カメラ運動パラメータとして計測する手段であり、
    前記第2参照角度推定手段は、前記演算式としての次式(10a)〜(10c)に基づいて前記第2参照角度の値を推定することを特徴とする測距装置。
  3. 請求項1記載の測距装置において、
    前記第1撮像画像の撮像時刻での前記車載カメラの光軸が前記自車両存在路面に対してなす角度である第3参照角度の値を推定する第3参照角度推定手段をさらに備え、
    前記距離推定手段は、前記第1参照角度の推定値と、前記第2参照角度の推定値と、前記第3参照角度の推定値と、前記車載カメラの高さの設定値とから前記対象物と自車両との間の距離を推定することを特徴とする測距装置。
  4. 請求項3記載の測距装置において、
    前記カメラ運動パラメータ計測手段は、前記2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置の変位ベクトルである並進移動ベクトルを前記カメラ運動パラメータの構成要素として計測する手段であり、
    前記第3参照角度推定手段は、少なくとも前記計測された並進移動ベクトルの、前記車載カメラの光軸に対する向きに基づいて前記第3参照角度の値を推定することを特徴とする測距装置。
  5. 請求項3記載の測距装置において、
    前記カメラ運動パラメータ計測手段は、前記2つの撮像画像のそれぞれの撮像時刻の間の期間における前記車載カメラの位置の変位ベクトルである並進移動ベクトルと、該車載カメラの姿勢の角度変化量を表す回転行列とを前記カメラ運動パラメータとして逐次計測する手段であり、
    前記計測された並進移動ベクトルの、前記車載カメラの光軸に対する向きに基づいて、前記第3参照角度の第A暫定推定値を逐次求める第3参照角度第A推定手段と、前記計測された回転行列により示される角度変化量を積算することによって前記第3参照角度の第B暫定推定値を逐次求める第3参照角度第B推定手段とをさらに備え、
    前記第3参照角度推定手段は、前記第3参照角度の第A暫定推定値の所定期間分の平均値と第B暫定推定値の該所定期間分の平均値との偏差を算出し、該偏差に応じて前記第B暫定推定値を補正することにより前記第3参照角度の推定値を決定することを特徴とする測距装置。
JP2011132593A 2011-06-14 2011-06-14 測距装置 Expired - Fee Related JP5587250B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011132593A JP5587250B2 (ja) 2011-06-14 2011-06-14 測距装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011132593A JP5587250B2 (ja) 2011-06-14 2011-06-14 測距装置

Publications (2)

Publication Number Publication Date
JP2013002883A true JP2013002883A (ja) 2013-01-07
JP5587250B2 JP5587250B2 (ja) 2014-09-10

Family

ID=47671617

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011132593A Expired - Fee Related JP5587250B2 (ja) 2011-06-14 2011-06-14 測距装置

Country Status (1)

Country Link
JP (1) JP5587250B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015079388A (ja) * 2013-10-17 2015-04-23 株式会社デンソーアイティーラボラトリ 車間距離測定装置、車間距離測定方法、およびプログラム
JP2015215299A (ja) * 2014-05-13 2015-12-03 株式会社デンソー 対象物位置推定装置
WO2017141325A1 (ja) * 2016-02-15 2017-08-24 三菱電機株式会社 情報処理装置および情報処理方法
JP2017219513A (ja) * 2016-06-10 2017-12-14 トヨタ自動車株式会社 車両の運転支援装置
CN109367483A (zh) * 2017-08-09 2019-02-22 安波福电子(苏州)有限公司 一种角度自适应的车载鸟瞰***及其实现方法
JP2022050311A (ja) * 2020-12-21 2022-03-30 ペキン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 車両の車線変更を検出するための方法、装置、電子機器、記憶媒体、路側機、クラウド制御プラットフォーム、及びコンピュータプログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08136237A (ja) * 1994-11-10 1996-05-31 Nissan Motor Co Ltd 走行路勾配算出装置および車速制御装置
JP2003065740A (ja) * 2001-08-27 2003-03-05 Nissan Motor Co Ltd 前方路面勾配判定装置
JP2003247824A (ja) * 2002-02-22 2003-09-05 Nissan Motor Co Ltd 車載用測距装置
JP2005030968A (ja) * 2003-07-08 2005-02-03 Nissan Motor Co Ltd 車載用距離算出装置
WO2005043081A1 (ja) * 2003-10-31 2005-05-12 Fujitsu Limited 距離算出装置および算出プログラム
JP2006194677A (ja) * 2005-01-12 2006-07-27 Macnica Inc 路面角度の算出装置及び算出方法
JP2006350897A (ja) * 2005-06-20 2006-12-28 Toyota Central Res & Dev Lab Inc 運動計測装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08136237A (ja) * 1994-11-10 1996-05-31 Nissan Motor Co Ltd 走行路勾配算出装置および車速制御装置
JP2003065740A (ja) * 2001-08-27 2003-03-05 Nissan Motor Co Ltd 前方路面勾配判定装置
JP2003247824A (ja) * 2002-02-22 2003-09-05 Nissan Motor Co Ltd 車載用測距装置
JP2005030968A (ja) * 2003-07-08 2005-02-03 Nissan Motor Co Ltd 車載用距離算出装置
WO2005043081A1 (ja) * 2003-10-31 2005-05-12 Fujitsu Limited 距離算出装置および算出プログラム
JP2006194677A (ja) * 2005-01-12 2006-07-27 Macnica Inc 路面角度の算出装置及び算出方法
JP2006350897A (ja) * 2005-06-20 2006-12-28 Toyota Central Res & Dev Lab Inc 運動計測装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015079388A (ja) * 2013-10-17 2015-04-23 株式会社デンソーアイティーラボラトリ 車間距離測定装置、車間距離測定方法、およびプログラム
JP2015215299A (ja) * 2014-05-13 2015-12-03 株式会社デンソー 対象物位置推定装置
WO2017141325A1 (ja) * 2016-02-15 2017-08-24 三菱電機株式会社 情報処理装置および情報処理方法
JP6312953B2 (ja) * 2016-02-15 2018-04-18 三菱電機株式会社 情報処理装置および情報処理方法
JPWO2017141325A1 (ja) * 2016-02-15 2018-07-12 三菱電機株式会社 情報処理装置および情報処理方法
JP2017219513A (ja) * 2016-06-10 2017-12-14 トヨタ自動車株式会社 車両の運転支援装置
CN109367483A (zh) * 2017-08-09 2019-02-22 安波福电子(苏州)有限公司 一种角度自适应的车载鸟瞰***及其实现方法
JP2022050311A (ja) * 2020-12-21 2022-03-30 ペキン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 車両の車線変更を検出するための方法、装置、電子機器、記憶媒体、路側機、クラウド制御プラットフォーム、及びコンピュータプログラム

Also Published As

Publication number Publication date
JP5587250B2 (ja) 2014-09-10

Similar Documents

Publication Publication Date Title
JP5663411B2 (ja) 測距装置
JP5587250B2 (ja) 測距装置
EP2485203B1 (en) Vehicle-surroundings monitoring device
JP5804185B2 (ja) 移動物***置姿勢推定装置及び移動物***置姿勢推定方法
EP2933790A1 (en) Moving object location/attitude angle estimation device and moving object location/attitude angle estimation method
US20080181591A1 (en) Camera posture estimation device, vehicle, and camera posture estimation method
JP5133783B2 (ja) 車載装置
US20150088378A1 (en) Road surface condition estimating apparatus
JP5570902B2 (ja) 車両ピッチ角の推定装置
JP2017215193A (ja) 情報処理装置および方法
JP2009074859A (ja) 運動計測装置及び位置計測装置
US10991105B2 (en) Image processing device
US20160207473A1 (en) Method of calibrating an image detecting device for an automated vehicle
JP2014115247A (ja) 車両位置推定装置およびセンサ情報統合装置
JP2014240266A (ja) センサドリフト量推定装置及びプログラム
JP2021193340A (ja) 自己位置推定装置
JP5425500B2 (ja) キャリブレーション装置およびキャリブレーション方法
JP5330341B2 (ja) 車載カメラを用いた測距装置
JP2010145219A (ja) 運動推定装置及びプログラム
US11740103B2 (en) Map creation device, map creation system, map creation method, and storage medium
WO2020230314A1 (ja) 自己位置補正方法及び自己位置補正装置
JP2013183311A (ja) 車載カメラの姿勢角推定装置及び検出システム
JP5455037B2 (ja) 画像から平面を検出する平面検出装置及び検出方法
JP2010002334A (ja) 路面勾配推定装置
JP5056436B2 (ja) 三次元地図生成装置、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140612

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140723

R150 Certificate of patent or registration of utility model

Ref document number: 5587250

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees