JP6501602B2 - レーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法 - Google Patents

レーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法 Download PDF

Info

Publication number
JP6501602B2
JP6501602B2 JP2015088419A JP2015088419A JP6501602B2 JP 6501602 B2 JP6501602 B2 JP 6501602B2 JP 2015088419 A JP2015088419 A JP 2015088419A JP 2015088419 A JP2015088419 A JP 2015088419A JP 6501602 B2 JP6501602 B2 JP 6501602B2
Authority
JP
Japan
Prior art keywords
lane
current
curve
point
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015088419A
Other languages
English (en)
Other versions
JP2016203814A (ja
Inventor
祐紀 喜住
祐紀 喜住
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2015088419A priority Critical patent/JP6501602B2/ja
Priority to US15/136,364 priority patent/US10147003B2/en
Publication of JP2016203814A publication Critical patent/JP2016203814A/ja
Application granted granted Critical
Publication of JP6501602B2 publication Critical patent/JP6501602B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/025Active steering aids, e.g. helping the driver by actively influencing the steering system after environment evaluation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Image Analysis (AREA)
  • Steering Control In Accordance With Driving Conditions (AREA)

Description

この発明は、車載の撮像装置により撮像された前方画像から車両が走行する路面に形成されているレーンマーク(車線境界を示すマーク)を検出し、検出したレーンマークからレーン(車線)を検出するレーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法に関する。
例えば、特許文献1には、路面の撮像画像を、路面を真上方向から見た俯瞰画像に変換し、前記俯瞰画像において路面に描かれた白線を示す白線候補画素を検索し、検索した前記白線候補画素から最小二乗法により求めた近似直線に基づいて白線を求めることが開示されている。
特許文献1には、前記近似直線を求めるときに、撮像画像を俯瞰画像に変換する際に生じる誤差の影響を除外するため、前記白線候補画素の重み付けを調整し、重み付け調整後の前記白線候補画素から求めた近似直線に基づいて白線を検出することが開示されている。
特許文献2には、車車間通信により取得される先行車の走行軌跡及び操舵角からカーブの入口位置を決定し、自車両がカーブの入口位置に到達したとき、先行車の走行軌跡に沿うステアリング切り制御を開始し、カーブの出口位置にて、ステリング切り制御を終了することが開示されている。
特開2009−009331号公報 特開2013−126854号公報
ところで、車両前方に直線路のレーンが延びており、前記直線路の前方にカーブのレーンが延びている走行路を走行しようとする車両に対し、撮像装置からの画像に基づいて自動レーン維持走行を実行させる場合、又は撮像装置からの画像に基づいてレーン維持走行をアシストする場合、前記画像から前記直線路を正確に推定することが必要である。また、前記カーブでのレーン維持走行を実行又はアシストする場合、前記カーブの開始点及び前記カーブの曲率半径を正確に推定することが必要である。
しかしながら、白線等のレーンマークの一部が擦れていたり、レーンマークの一部が前走車の存在等により隠されている場合の他、逆光や夜間の対向車のヘッドライト等によって一時的にレーンマークが検出できない場合、特許文献1に開示された技術では、撮像装置による画像に基づく前記白線候補画素が欠落し、前記最小二乗法により求める近似直線の精度が落ちてしまうという課題がある。
特許文献2に開示された技術では、そもそもレーンマークから前記直線路や前記カーブを検出していないため、先行車の走行軌跡や操舵角が取得できない場合には、操舵アシスト制御等を実行することができない。
この発明はこのような課題を考慮してなされたものであり、レーンマークの一部が擦れていたり、レーンマークの一部が欠けている等、レーンマークが一時的に検出できない場合であっても、レーンを正確に推定することを可能とするレーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法を提供することを目的とする。
この発明に係るレーン検出装置は、路面を含む車両の前方を撮像する撮像装置と、前記撮像装置により撮像された画像から前記路面に形成されているレーンマークを検出し、検出した前記レーンマークからレーンを検出するレーン検出部と、前記レーン検出部により検出された現時点のレーンと、前記現時点より規定時間前に前記レーン検出部により検出された過去時点のレーンと、を記憶するレーン記憶部と、前記レーンを検出したときの前記車両の走行情報を検出する走行情報検出部と、前記過去時点のレーンを前記現時点の前記走行情報に基づいて座標変換した座標変換後の過去時点のレーンと、前記現時点のレーンと、に基づき、現時点のより確かなレーンを曲線近似により推定するレーン推定部と、を備える。
この発明によれば、現時点のレーンの他に、現時点の走行情報に基づいて座標変換した座標変換後の前記過去時点のレーンを用いて前記現時点のより確かなレーンを推定するので、レーンマークの一部が擦れていたり、レーンマークの一部が欠けている等、レーンマークが一時的に検出できない場合であっても、現時点と過去時点の時系列からなるレーンからより確かな現時点のレーンを正確に推定することができる。
この場合、前記現時点の前記走行情報を、前記現時点の車速及びヨーレート又は現時点の車速及び舵角としてもよい。また、前記レーン推定部は、前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定するようにしてもよい。
この発明によれば、現時点のレーンと、現時点の車速とヨーレート又は現時点の車速と舵角で座標変換した後の過去時点のレーンと、を重ね合わせた曲線近似によるレーン推定を行っているので、カーブが含まれているレーンでも、現時点のより確かなレーンを推定することができる。
この場合において、前記レーン推定部は、前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定する際、座標変換後の前記過去時点のレーンの重み係数を、前記現時点のレーンの重み係数よりも小さくして重ね合わせるようなロバスト推定をすることで、安定的に正確なレーンを推定することができる。
なお、前記レーン推定部は、前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定する際、前記現時点のレーン中に欠けがある場合、座標変換後の前記過去時点のレーン中、欠けがある前記現時点のレーンに対応する位置にあるレーンの重み係数を小さくしないで、前記現時点のレーンの重み係数を用いて重ね合わせるようにすれば、現時点のレーンで欠けがある部分を、重ね合わせでより確かにロバスト推定できる。
この発明に係るカーブ開始点の検出装置は、前記のレーン検出装置を有し、前記レーン推定部で推定された前記現時点のより確かなレーンは、自車位置から前方に延びる近似曲線のレーンであり、さらに、前記自車位置から後方に延びる過去時点のレーンを現時点の前記走行情報に基づいて座標変換した座標変換後の前記自車位置から後方に延びる過去時点のレーンと、前記自車位置から後方に延びる現時点のレーンとに基づき、前記自車位置から後方に延びる現時点のより確かなレーンを直線近似により推定する自車後方直線レーン推定部と、前記自車位置から前方に延びる前記近似曲線のレーンに、前記自車位置から後方に延びる現時点のより確かな近似直線レーンを重ね合わせ、前記近似直線レーンを前記自車位置から前方に延長した直線と、前記近似曲線のレーンとの間の車幅方向の距離が閾値距離以上となった点を現時点のカーブ開始点候補点に検出すると共に、前記座標変換後の前記過去時点のレーン中のカーブ開始点候補点を検出し、前記現時点で検出した前記カーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義したガウス分布関数の最大値を合わせると共に、前記座標変換後の前記過去時点のレーン中のカーブ開始点候補点に対し、前記直線の方向に沿って定義した前記ガウス分布関数の最大値を合わせ、各前記ガウス分布関数を足し合わせた合成分布関数の最大値の位置を、より確かなカーブ開始点として推定するカーブ開始点推定部と、を備える。
この発明によれば、現時点のレーン中のカーブ開始点の他に、座標変換後の過去時点のレーン中のカーブ開始点を用いて前記現時点のより確かなカーブ開始点を推定するので、安定的により確かなカーブ開始点を推定することができる。
ここで、前記カーブ開始点推定部は、前記自車位置から前方に延びる前記近似曲線のレーンに、前記自車位置から後方に延びる現時点のより確かな近似直線レーンを重ね合わせ、前記近似直線レーンを前記自車位置から前方に延長した直線と、前記近似曲線のレーンとの間の車幅方向の距離が閾値距離以上となった点を現時点のカーブ開始点候補点に検出すると共に、前記座標変換後の前記過去時点のレーン中のカーブ開始点候補点を検出し、前記現時点で検出した前記カーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義したガウス分布関数の最大値を合わせると共に、前記座標変換後の前記過去時点のレーン中のカーブ開始点候補点に対し、前記直線の方向に沿って定義した他のガウス分布関数の最大値を合わせ、前記他のガウス分布関数の前記最大値は、前記ガウス分布関数の前記最大値よりも小さくされ、前記最大値を有する前記ガウス分布関数及び前記最大値より小さい最大値を有する前記他のガウス分布関数を足し合わせた合成分布関数の最大値の位置を、より確かなカーブ開始点として推定するようにしてもよい。
このように、自車両のより近くに位置する現時点で検出したカーブ開始点の重みを、現時点で検出したカーブ開始点よりより遠くに位置する過去時点で検出したカーブ開始点の重みよりも大きくしてカーブ開始点を推定することで、より安定的により確かなカーブ開始点を推定することができる。
この発明に係る操舵アシスト装置は、前記のカーブ開始点検出装置を有する操舵アシスト装置であって、さらに前記車両の操舵アシスト力を生成するアクチュエータを有し、前記カーブ開始点推定部で推定されたより確かな前記カーブ開始点を用いて、前記アクチュエータによる前記車両の操舵アシスト力の付与開始タイミングを決定するようにしたので、より確かなカーブ開始点の位置で正確なタイミングで操舵アシストを行うことができる。
この発明に係るレーン検出方法は、路面を含む車両の前方を撮像する撮像装置により撮像された画像から前記路面に形成されているレーンマークを検出し、検出したレーンマークから前記車両が走行するレーンを検出するレーン検出ステップと、前記レーン検出ステップにより検出された現時点のレーンと、前記現時点より規定時間前に前記レーン検出ステップで検出された過去時点のレーンと、を記憶するレーン記憶ステップと、前記レーンを検出したときの前記車両の走行情報を検出する走行情報検出ステップと、前記過去時点のレーンを前記現時点の前記走行情報に基づいて座標変換した座標変換後の過去時点のレーンと、前記現時点のレーンと、に基づき、現時点のより確かなレーンを曲線近似により推定するレーン推定ステップと、を備える。
この発明によれば、現時点のレーンの他に、現時点の走行情報に基づいて座標変換した座標変換後の前記過去時点のレーンと、を用いて前記現時点のより確かなレーンを推定するので、レーンマーク(レーン)の一部が擦れていたり、レーンマーク(レーン)の一部が欠けている等、レーンマークが一時的に検出できない場合であっても、現時点と過去時点の時系列からなるレーンからより確かな現時点のレーンを正確に推定することができる。
この場合、前記現時点の前記走行情報を、前記現時点の車速及びヨーレート又は現時点の車速及び舵角としてもよい。また、前記レーン推定ステップでは、前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定するようにしてもよい。
この場合において、前記レーン推定ステップでは、前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定する際、座標変換後の前記過去時点のレーンの重み係数を、前記現時点のレーンの重み係数よりも小さくして重ね合わせるようなロバスト推定をすることで、安定的に正確なレーンを推定することができる。
なお、前記レーン推定ステップでは、前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定する際、前記現時点のレーン中に欠けがある場合、座標変換後の前記過去時点のレーン中、欠けがある前記現時点のレーンに対応する位置にあるレーンの重み係数を小さくしないで、前記現時点のレーンの重み係数を用いて重ね合わせるようにすれば、現時点のレーンで欠けがある部分を、重ね合わせでより確かにロバスト推定できる。
この発明に係る(前記のレーン検出方法が適用された)カーブ開始点検出方法は、前記レーン推定ステップにより推定された前記現時点のより確かなレーンは、自車位置から前方に延びる近似曲線のレーンであり、さらに、前記自車位置から後方に延びる過去時点のレーンを現時点の前記走行情報に基づいて座標変換した座標変換後の前記自車位置から後方に延びる過去時点のレーンと、前記自車位置から後方に延びる現時点のレーンとに基づき、前記自車位置から後方に延びる現時点のより確かなレーンを直線近似により推定する自車後方直線レーン推定ステップと、前記自車位置から前方に延びる前記近似曲線のレーンに、前記自車位置から後方に延びる現時点のより確かな近似直線レーンを重ね合わせ、前記近似直線レーンを前記自車位置から前方に延長した直線と、前記近似曲線のレーンとの間の車幅方向の距離が閾値距離以上となった点を現時点のカーブ開始点候補点に検出すると共に、前記座標変換後の前記過去時点のレーン中のカーブ開始点候補点を検出し、前記現時点で検出した前記カーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義したガウス分布関数の最大値を合わせると共に、前記座標変換後の前記過去時点のレーン中のカーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義した前記ガウス分布関数の最大値を合わせ、各前記ガウス分布関数を足し合わせた合成分布関数の最大値の位置を、より確かなカーブ開始点として推定するカーブ開始点推定ステップと、を備える。
この発明によれば、現時点のカーブ開始点の他に、座標変換後の過去時点のカーブ開始点と、を用いて前記現時点のより確かなカーブ開始点を推定するので、安定的により確かなカーブ開始点を推定することができる。
ここで、前記カーブ開始点推定ステップでは、前記自車位置から前方に延びる前記近似曲線のレーンに、前記自車位置から後方に延びる現時点のより確かな近似直線レーンを重ね合わせ、前記近似直線レーンを前記自車位置から前方に延長した直線と、前記近似曲線のレーンとの間の車幅方向の距離が閾値距離以上となった点を現時点のカーブ開始点候補点に検出すると共に、前記座標変換後の前記過去時点のレーン中のカーブ開始点候補点を検出し、前記現時点で検出した前記カーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義したガウス分布関数の最大値を合わせると共に、前記座標変換後の前記過去時点のレーン中のカーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義した他のガウス分布関数の最大値を合わせ、前記他のガウス分布関数の前記最大値は、前記ガウス分布関数の前記最大値よりも小さくされ、前記最大値を有する前記ガウス分布関数及び前記最大値より小さい最大値を有する前記他のガウス分布関数を足し合わせた合成分布関数の最大値の位置を、より確かなカーブ開始点として推定するようにしてもよい。
このように、自車両のより近くに位置する現時点で検出したカーブ開始点の重みを、現時点で検出したカーブ開始点よりより遠くに位置する過去時点で検出したカーブ開始点の重みよりも大きくしてカーブ開始点を推定するようにしたので、より安定的により確かなカーブ開始点を推定することができる。
この発明に係る操舵アシスト方法は、前記のカーブ開始点検出方法が適用された操舵アシスト方法であって、さらに、操舵アシスト開始タイミング決定ステップで、より確かな前記カーブ開始点を用いて、前記車両の操舵アシスト力を生成するアクチュエータによる前記車両の操舵アシスト力の付与開始タイミングを決定するようにしたので、より確かなカーブ開始点の位置で正確なタイミングで操舵アシストを行うことができる。
この発明によれば、現時点のレーンの他に、現時点の走行情報に基づいて座標変換した座標変換後の前記過去時点のレーンと、を用いて前記現時点のより確かなレーンを推定するので、レーンマークの一部が擦れていたり、レーンマークの一部が欠けている等、レーンマークが一時的に検出できない場合であっても、レーンを正確に推定することができる。
この発明に係る装置及び方法の一実施形態に係るカーブ検出装置を備えるレーン検出装置が搭載された車両の概略的構成を示すブロック図である。 レーン検出装置及びカーブ検出装置の動作説明に供されるフローチャートである。 現在時点と過去時点の俯瞰画像のレーンを示す説明図である。 レーン推定処理の詳細フローチャートである。 過去時点のレーンを現時点の走行情報に基づいて現時点のレーン上に座標変換する処理の説明図である。 図6Aは、座標変換前のレーンの説明図である。図6Bは、座標変換後のレーンの説明図である。 重ね合わせロバスト推定処理の説明図である。 重ね合わせロバスト推定処理での重み関数の説明図である。 カーブ開始点候補点の検出手法の概念的説明図である。 図10Aは、重ね合わせロバスト推定処理により推定された現時点と過去時点のレーンの説明図である。図10Bは、重ね合わせロバスト推定処理により推定された現時点と過去時点の各レーンで検出されたカーブ開始点候補点の説明図である。 過去時点のカーブ開始点候補を現時点の走行情報に基づいて現時点のカーブ開始点候補上に座標変換する処理の説明図である。 現時点と過去時点の各カーブ開始点候補点に重み関数の最大値を設定し、合成した重み関数から現時点の車両位置からのより確かなカーブ開始点を認識する際の説明図である。
以下、この発明の好適な実施形態を挙げ、添付の図面を参照して詳細に説明する。
図1は、この実施形態に係るレーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法を実施する車両(自車両)10の概略構成を示すブロック図である。
車両10は、レーン検出装置11と、カーブ開始点検出装置12と、操舵アシスト装置13と、を備える。
レーン検出装置11、カーブ開始点検出装置12、及び操舵アシスト装置13は、走行路上に形成された車線境界線(以下、レーンマークという。)に沿って走行する車両10の運転者によるステアリングの操舵操作やブレーキペダル等による制動操作等をアシストするために車両10に搭載された運転アシスト装置14の機能の一部として構成されている。
なお、この実施形態では、レーン検出装置11及びカーブ開始点検出装置12を運転アシスト装置14中の操舵アシスト装置13に適用した例を示しているが、運転アシスト装置14以外の自動運転装置(自動操舵装置、自動制動装置、及び自動加速装置から構成される。)に適用することもできる。
レーンマークは、車線境界(車線区画)を示すマークであり、レーンマークには、間隔を持って設けられた破線の白線(線分)からなる連続線(みなし連続線ともいう。)、実線の白線等の連続線の他、ボッツドットやキャッツアイ等からなる連続マーク(みなし連続線と考えることもできる。)も含まれる。
車両10は、基本的には、路面(走行路)を含む車両10の前方を撮像するカメラ16(撮像装置)と、カメラ16により撮像された画像からレーンマークを検出し、検出したレーンマークからレーンを検出する電子制御ユニット20(Electronic Control Unit:以下、ECU20という。)と、運転アシスト装置14と、から構成される。
カメラ16は、車両10内のフロントウインドシールド上部に搭載され、車両10の前方を、前記フロントウインドシールドを通して撮像し、車両前方の走行路を含む画像を撮像する。カメラ16は、例えば、デジタルビデオカメラであり、1秒間に、複数枚(複数フレーム)の画像を撮像し画像信号(映像信号)Siを出力する。この場合、カメラ16には、その取付部を原点(原点位置)とし、車両10の車幅方向(水平方向)をX軸、車長方向(進行方向、前方方向、走行方向)をY軸、車高方向(垂直方向、鉛直方向)をZ軸とする実空間座標系が定義されている。
レーン検出装置11、カーブ開始点検出装置12、操舵アシスト装置13は、上記したカメラ16及びECU20の他に、車両10の車速v[m/s]を検出する速度センサ22及び車両10のヨーレートyr[deg/s]を検出するヨーレートセンサ24を備える。
ECU20は、マイクロコンピュータを含む計算機であり、CPU(中央処理装置)、メモリであるROM(EEPROMも含む。)、RAM(ランダムアクセスメモリ)、その他、A/D変換器、D/A変換器等の入出力装置、計時部としてのタイマ等を有しており、CPUがROMに記録されているプログラムを読み出し実行することで各種機能実現部(機能実現手段)として機能する。
この実施形態において、ECU20は、レーン検出部30、走行情報検出部32、レーン推定部34、自車後方直線レーン推定部37を含むカーブ開始点検出部36、カーブ開始点推定部38、及び運転アシスト部40等として機能する。
また、ECU20は、記憶装置として、画像メモリ42と、レーンメモリ44と、走行情報メモリ46等と、を備える。
ECU20は、ヨーレートセンサ24の出力信号であるヨーレートyr[deg/s]から車両10の進行方向{車両10の幅方向をX軸とし、車両10の前方のY軸方向を0[deg](基準)とするXY平面上のX軸方向への傾き、すなわち舵角}を計算する。ヨーレートセンサ24は、舵角センサ(不図示)に代替可能である。
運転アシスト装置14は、レーン推定部34により推定されたレーン及びカーブ開始点推定部38により検出されたカーブ(カーブ開始点、曲率半径を含む。)に基づき、運転者がステアリング(不図示)を把持している等の所定条件下に、操舵装置50と制動装置52と加速装置54を制御することにより、車両10が、車両10の幅方向の両側のレーンマークに挟まれる走行路、すなわち車線(車両10の両側の車線)から逸脱しないように、換言すれば車両10が車線の概ね中心を走れるよう、且つカーブ(カーブ開始点)の手前で制動装置52や図示しないアクセルペダル反力付与機構を働かせる等、運転者の走行支援を実行する。
次に、基本的には、以上のように構成される車両10の動作について、図2のフローチャートを参照して[レーン推定]、[カーブ開始点推定]、及び[運転アシスト]の各処理の順に説明する。フローチャートに係るプログラムの実行主体はECU20(のCPU)である。
[レーン推定]
ステップS1にて、ECU20は、所定時間である基準フレーム時間(規定時間ともいう。)ΔT[s]毎に、つまり、カメラ16による車両前方の画像の撮像毎(フレーム毎)に、撮像された画像(多値画像であるグレースケール画像)を画像メモリ42に取り込む(記憶する)。
次いで、ステップS2にて、レーン検出部30によるレーンマーク検出処理及び検出したレーンマークに基づくレーン検出処理を行う画像処理が実行される。
この場合、レーン検出部30は、カメラ16により撮像された画像から所定輝度以上(路面上の明度が所定明度以上)の画像を取り込み、画像全体(実際上は、レーンマークが存在する画像部分)を、Y軸方向(前方方向)一定距離間隔の検知ライン毎に水平方向に走査しながら微分処理を行って車両10側(基準座標側)から画像全体のエッジ(エッジ画像)を抽出する。
さらに、このステップS2で、レーン検出部30は、抽出された画像全体のエッジから、公知の要領にて、レーンマークとしての特徴を持つ画像を抽出する。このようにして、レーン検出部30は、レーンマークの特徴を持つ画像、換言すれば、レーンマークの特徴を備える特徴点の点列(点列の車両10の前方方向の間隔は、直線路であれば、上記一定距離間隔に対応している。)からなるレーンを検出する(レーン検出ステップ)。
ステップS3にて、レーン検出部30は、検出した(抽出した)レーン{レーンマークとしての特徴を持つ画像(特徴点の点列)}を、鉛直上方より見た俯瞰画像(平面視画像)に座標変換(射影変換)してレーンメモリ44に取り込む(記憶する。)(レーン記憶ステップ)。
この場合、レーンメモリ44には、図3に模式的に示すように、現在フレームで抽出されたレーン(時点tでの現時点のレーンともいう。)Ltの他、所定数の過去フレームで抽出されたレーン{ここでは、例として、理解の便宜等を考慮し、時点tより規定時間ΔT前の時点(過去時点)t−1でのレーンLt−1、及び時点t−1より規定時間ΔT前の時点(過去時点)t−2でのレーンLt−2}が車両10のカメラ16の位置を原点位置(車両座標の原点位置ともいう。)Oとする特徴点の点列として記憶される。
図3から、時点(現時点)tのレーンLtの左側車線及び過去時点t−1のレーンLt−1の右側車線にそれぞれ画像の欠けmp、mqがあることが分かり、また、過去時点t−2、t−1から現時点tに近づくにつれてカーブ開始点が、前方(Y軸方向)に走行している車両10の方に接近してくることが分かる。なお、欠けmp、mqは、前方車両でレーンマークが隠れる場合、あるはレーンマークの擦れ等により発生する。
次に、ステップS4にて、ECU20は、ステップS1でのカメラ16による車両前方の画像を画像メモリ42に取り込んだ現時点tでの車両10の走行情報(走行状況)Rc、ここでは速度センサ22による車速v及びヨーレートセンサ24によるヨーレートyr等を走行情報メモリ46に取り込む(記憶する)。
次いで、ステップS5にて、レーン推定部34は、次に説明するように、過去時点t−1、t−2のレーンLt−1、Lt−2を現時点tの走行情報Rc(v,yr)(v=車速、yr=ヨーレート)に基づいて座標変換し、座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´と、現時点tのレーンLtとに基づき、現時点tのより確かなレーンLt´を推定する(レーン推定ステップ)。
図4は、ステップS5のレーン推定処理の詳細なフローチャートである。
ステップS5aにて、過去時点t−1、t−2のレーンLt−1、Lt−2を現時点tの走行情報Rc(v,yr)に基づいて座標変換した座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´を算出する。
図5は、この座標変換を、レーンLt−1、Lt−1´を例として説明するための模式図である。
過去時点t−1で検出されたレーンLt−1(図5中、向かって左側のレーン)上のある点の座標を点Pt−1・t−1とする。点Pt−1・t−1の車両座標の原点位置OからみたXY座標は、レーンLt−1を算出した過去時点t−1(ステップS2)で既に算出されており、点Pt−1・t−1(Xpt−1・t−1,Ypt−1・t−1)であるものとする。
その一方、現時点tの走行情報Rc(v,yr)に基づいて座標変換した座標変換後の過去時点t−1のレーンLt−1´(図5中、向かって右側のレーン)上での点Pt−1・t−1(Xpt−1・t−1,Ypt−1・t−1)を座標変換した点を点Pt・t−1(Xpt・t−1,Ypt・t−1)とする。
現時点tにおける、過去時点t−1で検出されたレーンLt−1´上での点Pt・t−1のXY座標は、過去時点t−1から現時点tまでの規定時間ΔT{ΔT=t−(t−1)}での車両10の座標軸の回転分(回転角度θは、θ=yr×Δt)と、車両10の移動分(車速vでの時間ΔT間でのX軸方向とY軸方向の移動量)を合成した値として算出できる。
座標軸の回転分及び車両10の移動分を考慮して、現時点tの走行情報Rc(v,yr)に基づいて座標変換した座標変換後の過去時点t−1のレーンLt−1´を図5中、向かって右側のレーンとして示している。
なお、現時点tにおける、過去時点t−2で検出されたレーンLt−2´上での点Pt・t−2のX座標及びY座標(XY座標)は、規定時間ΔTをΔT=2ΔTとすることで座標変換することができる。実際上、過去時点t−2の情報は、過去時点t−1で既に座標変換されていることから、過去時点t−1において、座標変換された過去時点t−2の情報を使用すれば、規定時間ΔTで計算することができる。
図6Aは、図3に示した、特徴点の点列からなる座標変換前のレーンLt、Lt−1、Lt−2を再掲している。図6Bは、それぞれ特徴点の点列からなる、現時点tにて過去時点t−2で検出したレーンLt−2の座標変換後の時点t・t−2でのレーンLt−2´と、現時点tにて過去時点t−2で検出したレーンLt−2の座標変換後の時点t・t−1でのレーンLt−1´と、現時点tにて検出したレーンLtを模式的に示している。なお、各レーンLt、Lt−1´、Lt−2´は、それぞれ、右側車線の特徴点の点列60a、61a、62aと、左側車線の特徴点の点列60b、61b、62bとから構成されている。
次いで、ステップS5bにて、レーン推定部34は、これらのレーンLt、Lt−1´、Lt−2´(図6B)を用いて、次に説明する(I−i)〜(I−vii)の手順により、現時点tでのより確かなレーンLt*を重ね合わせロバスト推定処理により算出する。
(I−i)この場合、まず、図7の模式図の左下の図に示すように、図7の上側の図に示した時点tのレーンLt(実線で表示)と、座標変換後の時点t・t−1でのレーンLt−1´(一点鎖線で表示)と、座標変換後の時点t・t−2でのレーンLt−2´(波線で表示)とを、各原点位置Oを一致させて重ね合わせる。
(I−ii)次に、各特徴点の点列60a、60b、61a、61b、62a、62bに対して、最小二乗法に基づく二次曲線やクロソイド曲線等の各近似曲線(この場合、6本)を算出する。なお、近似曲線には、近似直線も含まれる。
図8は、最小二乗法により算出された近似二次曲線中、例として説明する1本の近似曲線Fと、特徴点の点列Q(Q1、Q2、Q3)を模式的に描いている。この図8には、特徴点の点列Q(Q1、Q2、Q3)の各特徴点Q1、Q2、Q3の重み付けを行う重み関数Wとしてガウス分布関数を描いている。ガウス分布関数は、許容誤差Dが設定され、最大値は値1である。
(I−iii)次に、近似曲線Fに対する各点Q1、Q2、Q3の座標の差distを求める。
(I−iv)次いで、各点Q1、Q2、Q3の差distの重み係数wdを、(1)式、(2)式により算出する。
dist<−D、又は dist>Dの場合、wd=0 …(1)
−D≦dist≦Dの場合、wd={1−(dist/D)22 …(2)
(I−v)ここで、許容誤差Dは、現時点tのレーンLtほど小さく、過去時点t・t−1、t・t−2のレーンLt−1´、Lt−2´である程、ノイズ、座標変換による誤差がのることから大きいはずである。また、カメラ16の特性等から自車両10の近傍の誤差は小さく、遠くに行けば誤差が増える。
よって、過去時点t・t−1、t・t−2のレーンLt−1´、Lt−2´の情報に対して許容誤差Dの幅を広げる係数sp(不図示)と、奥行き方向(車両10の前方方向)であれば許容誤差Dの幅を広げる係数de(不図示)を許容誤差Dに対して掛け合わせて用いる。
(I−vi)重み係数wdの最大値は値1としているが、現時点tに近い方が信頼度が高いと考えられるため、過去時点t・t−1、t・t−2のレーンLt−1´、Lt−2´の重み係数wdに対して補正係数r(0<r≦1)(不図示)を掛け合わせる。補正係数rは、原則として、過去情報であるほど小さい値を取る。例えば、現時点tのレーンLtに掛け合わせる重み係数wd=r・wdy→1・wdに対し、過去時点t・t−1のレーンLt−1´の重み係数wd=r・wd→wd/2(半分)、過去時点t・t−2のレーンLt−2´の重み係数wd=r・wd→wd/3(三分の一)に設定する。但し、現時点tの点列60bの欠けmp部分には、点列がないので、過去時点t・t−1のレーンLt−1´中の欠けmpに対応する点列の重み係数wdをwd=r・wd→1・wdとし、過去時点t・t−2のレーンLt−2´中の欠けmpに対応する点列の重み係数wdをwd=r・wd→wd/2とする。同様に、過去時点t・t−1の点列61aの欠けmq部分には、点列がないので、過去時点t・t−2のレーンLt−2´中の欠けmqに対応する点列の重み係数wdをwd=r・wd→wd/2とする。
(I−vii)これらの重み付けを各点Q1、Q2、Q3の差distに対して行った後、再び最小二乗法に基づく2次曲線の曲線近似を行うことで、図7の右下の図中、太い実線で示すように、現時点tでのより確かな右側レーン60a*(点列ではなく近似線)と、より確かな左側レーン60b*(点列ではなく近似線)とからなる、より確かなレーンLt*を推定することができる。
このようにして欠けmp,mq等のノイズが多い道路(走行路)でもカーブ開始点等の検出に必要なレーンLt*の推定(認識、算出)が可能になる。
このようにしてステップS5にて現時点tでのより確かなレーンLt*を推定(認識、算出)できる。
なお、図8を参照して説明した重ね合わせロバスト推定処理は、連続した3フレームの画像毎に実行しているが、ECU20の処理速度、車速v、及び基準フレーム時間ΔTを考慮した2以上の適宜のフレーム数毎に行うことができる。
[カーブ開始点推定]
カーブ開始点を推定する際、まず、カーブ開始点候補点を検出する。
そこで、次に、ステップS6にて、カーブ開始点検出部36により実行される、過去時点t−2、t−1及び現時点tでのカーブ開始点候補点(カーブ開始位置候補位置、カーブ開始点候補位置、カーブ入口候補点、又はカーブ入口候補位置ともいう。)Ct−2、Ct−1、Ctの検出処理を、次に説明する(II−i)〜(II−iii)の手順により検出する。
(II−i)図9は、カーブ開始点候補点Ctの検出手法の概念的説明図である。
まず、レーン推定部34で推定された現時点tの{近似曲線(近似二次曲線)の}レーンLt*に対し、車両10の位置を基準に、車両(自車両)10が通り過ぎた部分の抽出されているレーン{射影変換されたレーンマークとしての特徴を持つ画像(特徴点の点列)}を直線近似し、近似直線レーンh*を得る。この近似直線レーンh*は、ステップS5で説明したレーン推定処理(重み付け重ね合わせロバスト推定処理)により推定された近似直線レーンh*であるものとする。
(II−ii)近似直線レーンh*を、車両10の原点位置OからY軸方向の前方に延長した近似直線レーンj*と、推定された現時点の{近似曲線(近似二次曲線)の}レーンLt*上の自車両10より先の部分の各点のX軸方向(車幅方向)の距離Δxを算出する。
(II−iii)算出した距離Δxが、予め実験乃至シミュレーション等により定めた閾値Δxth以上の地点を現時点tでのカーブ開始点候補点Ctに決定する(ステップS6)。
実際上、ステップS1からステップS6までの処理は、連続的に実行されているので、図10Aに示すように、時点t−2、t−1、tにて、それぞれ、重ね合わせロバスト推定処理により、より確かなレーンLt−2*、Lt−1*、Lt*が推定される共に、図10Bに示すように、時点t−2、t−1、tにて、それぞれ、カーブ開始点候補点検出処理によりカーブ開始点候補点Ct−2、Ct−1、Ctが検出される。
各カーブ開始点候補点Ct−2、Ct−1、Ctの位置は、時間が経つに連れて、手前側、すなわち、過去時点t−2よりも過去時点t−1で、さらに過去時点t−1よりも現時点tで車両10側(車両10の原点位置O)に近づいていることに留意する。
次に、ステップS7にて、カーブ開始点候補点Ct−2、Ct−1、Ctに基づき、現時点でのより確かなカーブ開始点Ct*(後述する図12参照)を、次に説明する(III−i)〜(III−iv)の手順により推定する。
(III−i)車両10の前方に延長した近似直線レーンj*の方向(前方方向、図9参照)上、現時点tで検出されたカーブ開始点候補点Ctの位置(検出位置)で最大値「1」をとり、最大値「1」の位置から前後方向で値が小さくなる重み関数Wtとしてガウス分布関数を定義する。
(III−ii)図11の右側の図は、車両10の前方に延長した近似直線レーンj*の方向(前方方向、図9参照)上、過去時点t−2、t−1で検出されたカーブ開始点候補点Ct−2、Ct−1を現在の車速vにて座標変換したカーブ開始点候補点Ct−2´、Ct−1´と、現時点tでのカーブ開始点候補点Ctの位置を重ね合わせて示している。なお、この場合の座標変換は、上記した(2)式を参照すれば、θ=0(rad)であるので、以下の(3)式及び(4)式により座標変換できる。
Ypt・t−1=−V×ΔT …(3)
Ypt.t−2=−V×2ΔT …(4)
なお、この場合においても、過去時点t−2の情報は、過去時点t−1で既に座標変換されているので、それを使用すれば、(4)式は、次の(5)式に置換できる。
Ypt.t−2=(Ypt・t−1)−V×ΔT …(5)
(III−iii)上記した(III−i)では、車両10の前方に延長した近似直線レーンj*の方向(前方方向、図9参照)上、現時点tで検出されたカーブ開始点候補点Ctの位置(検出位置)で最大値「1」をとる重み関数Wtを定義した。そこで、次に、過去時点t−1、t−2のカーブ開始点候補点Ct−1´、Ct−2´にも、ガウス分布関数を定義するが、定義する際に、現時点tのカーブ開始点候補点Ctの位置からY方向の前後方向に離れる程、最大値を小さくした重み関数Wt−1、Wt−2を定義する。図12例では、過去時点t−1のカーブ開始点候補点Ct−1´の方が、過去時点t−2のカーブ開始点候補点Ct−2´よりY軸方向で、現時点tのカーブ開始点候補点Ctより離れた位置にあるので、重み関数Wt−2の最大値の方を、重み関数Wt−1の最大値より大きな値としている。したがって、図12例では、1=重み関数Wtの最大値>重み関数Wt−2の最大値>重み関数Wt−1の最大値の関係になっている。
図12は、このようにして、カーブ開始点候補点Ct、Ct−1´、Ct−2´に、それぞれ最大値を位置させた重み関数Wt、Wt−1、Wt−2の振幅特性を、原点位置Oの車両10と関連させて車両10の前方に延長した近似直線レーンj*上に配した状態を示している。
(III−iv)次に、全ての重み関数Wt、Wt−1、Wt−2を足し合わせて合成重み関数(合成分布関数)Wt*を算出し、この合成重み関数Wt*の最大となる点(最大値)を、近似直線レーンj*上の原点位置(現時点tの車両10の位置)Oからの距離Yc上に存在する現時点tでのより確かなカーブ開始点Ct*として推定(認識、算出)する(ステップS7)。
[運転アシスト]
ステップS7にて、カーブ開始点Ct*を推定し決定したとき、カーブ開始点推定部38は、運転アシスト部40に対して、現時点tの原点位置O(車両10の位置)からカーブ開始点Ct*までの距離Yc[m]を供給すると共に、近似二次曲線のデータを供給する。
ここで、近似二次曲線のデータは、カーブ開始点Ct*から始まるカーブの曲率(又は曲率半径)を計算するためのものであるので、図示しない地図データによりカーブの曲率(又は曲率半径)が分かっている場合には、その地図データを利用してもよい。
操舵アシスト装置13を構成する運転アシスト部40は、操舵装置50に対し、カーブ開始点Ct*にて、そのカーブの曲率(又は曲率半径)で回転を開始するように開始タイミングを決定し、自動操舵であれば操舵装置50を駆動制御する。なお、車両10が一定の車速vで巡航(クルーズ)している場合、カーブが緩カーブであるときには、距離Ycを車速vで除することにより簡易に正確な開始タイミングを決定することができる。
ステップS8にて、運転アシスト部40は、車両10が路面に形成されているレーンマーク間のレーン、つまり推定したレーンLt*から逸脱しないように、換言すれば、車両10が推定したカーブ(のレーン)を含むレーンLt*の中心を走れるように操舵装置50、制動装置52及び加速装置54等を制御して運転者の走行支援を実行する。車両10がカーブ開始点Ct*の手前で十分に減速してないと判断したときには、制動装置52を作動させアシストする。あるいは制動装置52を作動させることを促すために、アクセルペダル(不図示)に反力を付与する。
[実施形態のまとめ]
以上説明したように、上述した実施形態に係るレーン検出装置11は、撮像装置としてのカメラ16と、レーン検出部30と、レーンメモリ44(記憶部)と、走行情報検出部としての速度センサ22及びヨーレートセンサ24と、レーン推定部34と、を備える。
カメラ16は、路面を含む車両10の前方を撮像する。レーン検出部30は、カメラ16により撮像され画像メモリ42(記憶部)に記憶された画像から前記路面に形成されているレーンマークを検出し、検出した前記レーンマークからレーンを検出する。レーンメモリ44は、レーン検出部30により検出された現時点tのレーンLtと、現時点tより規定時間ΔT、2ΔT前にレーン検出部30により検出された過去時点t−1、t−2のレーンLt−1、Lt−2(図3、図6A:特徴点の点列)と、を記憶する。速度センサ22及びヨーレートセンサ24は、レーンLt、レーンLt−1、Lt−2を検出したときの車両10の車速vとヨーレートyr(走行情報)をそれぞれ検出する。レーン推定部34は、過去時点t−1、t−2のレーンLt−1、Lt−2を現時点tの走行情報(車速v及びヨーレートyr)に基づいて座標変換した座標変換後の過去時点のレーンLt−1´、Lt−2´と、現時点tのレーンLt(図6B、Lt、Lt−1´、Lt−2´参照)と、に基づき、現時点tのより確かなレーンLt*(図7右下の図参照)を二次曲線近似手法により推定する。
この実施形態によれば、現時点tのレーンLtの他に、現時点tの走行情報(車速vとヨーレートyr)に基づいて座標変換した座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´(図6B)と、を用いて現時点tのより確かなレーンLt*を推定するので、レーンマーク(レーン)の一部が擦れていたり、レーンマーク(レーン)の一部が欠けている場合{レーンマーク(レーン)の一部が前走車の存在等により隠されている場合の他、逆光や夜間の対向車のヘッドライト等によって一時的にレーンマーク(レーン)が検出できない場合}であっても、現時点tと過去時点t−1、t−2の時系列からなるレーンLt、Lt−1、Lt−2からより確かな現時点のレーンLt*を正確に推定することができる。
なお、レーン推定部34は、現時点tのレーンLtと、座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´と、を重ね合わせた二次曲線近似によるレーン推定を行っているので、カーブが含まれているレーンでも現時点tのより確かなレーンLt*を推定することができる。
ここで、レーン推定部34は、現時点tのレーンLtと、座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´と、を重ね合わせて現時点tのより確かなレーンを推定する際、座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´の重み係数wd(図8参照)を、現時点tのレーンLtの重み係数wdよりも小さくして、例えば、過去時点t−1のレーンLt−1´の重み係数wdをwd/2、過去時点t−2のレーンLt−2´の重み係数wdをwd/3と、それぞれ現時点tのレーンLtの重み係数wdよりも小さくして重ね合わせ、ロバスト推定をすることで、安定的に正確なレーンを推定することができる。
但し、レーン推定部34は、現時点tのレーンLtと、座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´と、を重ね合わせて現時点tのより確かなレーンLt*を推定する際、現時点Lt*のレーンLt中に欠けがある場合、座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´中、欠けがある現時点tのレーンLt(例えば、図6Bに示したように、レーンLt中、左側車線の特徴点の点列60bの欠けmp部分)に対応する位置にあるレーンLt−1´、Lt−2´(例えば、図6Bに示した左側車線の特徴点の点列61b、62b)の重み係数wdを小さくしないで、現時点tのレーンLtの重み係数wdを用いて{過去時点t−1の特徴点の点列61b中、欠けmpの部分に対応する部分の重み係数をwd、過去時点t−2の特徴点の点列62b中、欠けmpの部分に対応する部分の重み係数をwd(又はwd/2)として}重ね合わせる。
このように、現時点tのレーンLt中に欠けmpがある場合、座標変換後の過去時点t−1、t−2のレーンLt−1´、Lt−2´中、欠けmpがある現時点tのレーンLtに対応する位置にあるレーンLt−1´、Lt−2´の重み係数wdを小さくしないで、現時点tのレーンLtの重み係数wdを用いて重ね合わせる。つまり、現時点tのレーンLt中に欠けmpがある部分でレーンが検出されている座標変換後の過去時点Lt−1´、Lt−2´のレーンの重みを大きくしているので、現時点tのレーンLtで欠けmpがある部分を、重ね合わせでより確かにロバスト推定できる。
この実施形態に係るカーブ開始点検出装置12は、前記したレーン検出装置11を備える。このレーン検出装置11のレーン推定部34により推定された現時点tのより確かなレーンLt*(図9)は、自車位置Oから前方に延びる近似二次曲線のレーンLt*であり、カーブ開始点検出装置12を構成するカーブ開始点検出部36の自車後方直線レーン推定部37は、さらに、自車位置Oから後方に延びる過去時点t−1、t−2のレーンを現時点tの走行情報(この場合、車速vのみ。)に基づいて座標変換した座標変換後の自車位置Oから後方に延びる過去時点t−1、t−2のレーンと、自車位置Oから後方に延びる現時点tのレーンとに基づき、自車位置Oから後方に延びる現時点tのより確かなレーンを直線近似により推定し、近似直線レーンh*(図9)を得る(自車後方直線レーン推定ステップ)。
そして、カーブ開始点推定部38は、自車位置Oから前方に延びる近似二次曲線のレーンLt*に、自車位置Oから後方に延びる現時点tのより確かな近似直線レーンh*を重ね合わせ、近似直線レーンh*を自車位置Oから前方に延長した直線j*と、近似二次曲線のレーンLt*との間の車幅方向の距離Δx(図9)が閾値距離Δxth以上となった点を現時点tのカーブ開始点候補点Ctに検出すると共に、座標変換後の過去時点t−1、t−2のレーン中のカーブ開始点候補点Ct−1´、Ct−2´(図11)を検出し、現時点tで検出したカーブ開始点候補点Ctに対し、自車位置Oから前方に延長した近似直線j*の方向(図12)に沿って定義したガウス分布関数の重み関数Wtの最大値「1」を合わせると共に、座標変換後の過去時点t−1、t−2のレーン中のカーブ開始点候補点Ct−1´、Ct−2´に対し、直線j*の方向に沿って定義した重み関数Wt−1、Wt−2(共に、ガウス分布関数)の最大値(この実施形態では、重み関数Wt−1の最大値<重み関数Wt−2の最大値<重み関数Wtの最大値=1)を合わせ、各重み関数Wt、Wt−1、Wt−2(ガウス分布関数)を足し合わせた合成分布関数Wt*の最大値の位置(原点位置Oから距離Ycの位置)を、現時点tでの原点位置(車両10の位置)Oからのより確かなカーブ開始点Ct*(図12)として推定する(カーブ開始点推定ステップ)。
このように、現時点tのカーブ開始点Ctの他に、座標変換後の過去時点t−1、t−2のカーブ開始点Ct−1´、Ct−2´を用いて現時点tのより確かなカーブ開始点Ctを推定するので、安定的により確かなカーブ開始点Ct*を推定することができる。
その上、自車両10のより近くに位置する現時点tで検出したカーブ開始点Ctの重みを、現時点tで検出したカーブ開始点Ctよりより遠くに位置する過去時点t−1、t−2で検出したカーブ開始点Ct−1´、Ct−2´の重みよりも大きくしてカーブ開始点Ct*を推定するようにしたので、より安定的により確かなカーブ開始点Ct*を推定することができる。
この実施形態に係る操舵アシスト装置13は、カーブ開始点検出装置12の他、車両10の操舵アシスト力を生成するアクチュエータとしてのEPS(電動パワーステアリング)装置を備える操舵装置50(図1)を有し、推定された前記より確かなカーブ開始点Ct*を用いて、操舵装置50による車両10の操舵アシスト力の付与開始タイミングを決定するように構成することで、より確かなカーブ開始点Ct*の位置で正確なタイミングで操舵アシストを行うことができる。
なお、この発明は、上述の実施形態に限らず、この明細書の記載内容に基づき、種々の構成を採り得ることはもちろんである。
10…車両 11…レーン検出装置
12…カーブ開始点検出装置 13…操舵アシスト装置
14…運転アシスト装置 16…カメラ(撮像装置)
20…ECU 22…速度センサ
24…ヨーレートセンサ 30…レーン検出部
32…走行情報検出部 34…レーン推定部
36…カーブ開始点検出部 38…カーブ開始点推定部
40…運転アシスト部 42…画像メモリ
44…レーンメモリ 46…走行情報メモリ
50…操舵装置 52…制動装置
54…加速装置

Claims (8)

  1. 路面を含む車両の前方を撮像する撮像装置と、
    前記撮像装置により撮像された画像から前記路面に形成されているレーンマークを検出し、検出した前記レーンマークからレーンを検出するレーン検出部と、
    前記レーン検出部により検出された現時点のレーンと、前記現時点より規定時間前に前記レーン検出部により検出された過去時点のレーンと、を記憶するレーン記憶部と、
    前記レーンを検出したときの前記車両の走行情報を検出する走行情報検出部と、
    前記過去時点のレーンを前記現時点の前記走行情報に基づいて座標変換した座標変換後の過去時点のレーンと、前記現時点のレーンと、に基づき、現時点のより確かなレーンを曲線近似により推定するレーン推定部と、
    を備えるレーン検出装置であって、
    記現時点の前記走行情報は、前記現時点の車速及びヨーレート若しくは舵角であり、
    前記レーン推定部は、
    前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定する際、原則として、座標変換後の前記過去時点のレーンの重み係数を、前記現時点のレーンの重み係数よりも小さくして重ね合わせ、例外として、前記現時点のレーン中に欠けがある場合、座標変換後の前記過去時点のレーン中、欠けがある前記現時点のレーンに対応する位置にあるレーンの重み係数を小さくしないで、前記現時点のレーンの重み係数を用いて重ね合わる
    ことを特徴とするレーン検出装置。
  2. 請求項1に記載のレーン検出装置を有するカーブ開始点検出装置であって、
    前記レーン推定部で推定された前記現時点のより確かなレーンは、自車位置から前方に延びる近似曲線のレーンであり、
    さらに、
    前記自車位置から後方に延びる過去時点のレーンを現時点の前記走行情報に基づいて座標変換した座標変換後の前記自車位置から後方に延びる過去時点のレーンと、前記自車位置から後方に延びる現時点のレーンとに基づき、前記自車位置から後方に延びる現時点のより確かなレーンを直線近似により推定する自車後方直線レーン推定部と、
    前記自車位置から前方に延びる前記近似曲線のレーンに、前記自車位置から後方に延びる現時点のより確かな近似直線レーンを重ね合わせ、前記近似直線レーンを前記自車位置から前方に延長した直線と、前記近似曲線のレーンとの間の車幅方向の距離が閾値距離以上となった点を現時点のカーブ開始点候補点に検出すると共に、前記過去時点のレーン中の前記座標変換後のカーブ開始点候補点を検出し、前記現時点で検出した前記カーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義したガウス分布関数の最大値を合わせると共に、前記過去時点のレーン中の前記座標変換後のカーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義した前記ガウス分布関数の最大値を合わせ、各前記ガウス分布関数を足し合わせた合成分布関数の最大値の位置を、より確かなカーブ開始点として推定するカーブ開始点推定部と、
    を備えることを特徴とするカーブ開始点検出装置。
  3. 請求項1に記載のレーン検出装置を有するカーブ開始点検出装置であって、
    前記レーン推定部で推定された前記現時点のより確かなレーンは、自車位置から前方に延びる近似曲線のレーンであり、
    さらに、
    前記自車位置から後方に延びる過去時点のレーンを現時点の前記走行情報に基づいて座標変換した座標変換後の前記自車位置から後方に延びる過去時点のレーンと、前記自車位置から後方に延びる現時点のレーンとに基づき、前記自車位置から後方に延びる現時点のより確かなレーンを直線近似により推定する自車後方直線レーン推定部と、
    前記自車位置から前方に延びる前記近似曲線のレーンに、前記自車位置から後方に延びる現時点のより確かな近似直線レーンを重ね合わせ、前記近似直線レーンを前記自車位置から前方に延長した直線と、前記近似曲線のレーンとの間の車幅方向の距離が閾値距離以上となった点を現時点のカーブ開始点候補点に検出すると共に、前記過去時点のレーン中の前記座標変換後のカーブ開始点候補点を検出し、前記現時点で検出した前記カーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義したガウス分布関数の最大値を合わせると共に、前記過去時点のレーン中の前記座標変換後のカーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義した他のガウス分布関数の最大値を合わせ、前記他のガウス分布関数の前記最大値は、前記ガウス分布関数の前記最大値よりも小さくされ、前記最大値を有する前記ガウス分布関数及び前記最大値より小さい最大値を有する前記他のガウス分布関数を足し合わせた合成分布関数の最大値の位置を、より確かなカーブ開始点として推定するカーブ開始点推定部と、
    を備えることを特徴とするカーブ開始点検出装置。
  4. 請求項又はに記載のカーブ開始点検出装置を有する操舵アシスト装置であって、
    さらに、前記車両の操舵アシスト力を生成するアクチュエータを有し、前記カーブ開始点推定部で推定されたより確かな前記カーブ開始点を用いて、前記アクチュエータによる前記車両の操舵アシスト力の付与開始タイミングを決定する
    ことを特徴とする操舵アシスト装置。
  5. 路面を含む車両の前方を撮像する撮像装置により撮像された画像から前記路面に形成されているレーンマークを検出し、検出したレーンマークから前記車両が走行するレーンを検出するレーン検出ステップと、
    前記レーン検出ステップにより検出された現時点のレーンと、前記現時点より規定時間前に前記レーン検出ステップで検出された過去時点のレーンと、を記憶するレーン記憶ステップと、
    前記レーンを検出したときの前記車両の走行情報を検出する走行情報検出ステップと、
    前記過去時点のレーンを前記現時点の前記走行情報に基づいて座標変換した座標変換後の過去時点のレーンと、前記現時点のレーンと、に基づき、現時点のより確かなレーンを曲線近似により推定するレーン推定ステップと、
    を備えるレーン検出方法であって、
    記現時点の前記走行情報は、前記現時点の車速及びヨーレート若しくは舵角であり、
    前記レーン推定ステップでは、
    前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定する際、原則として、座標変換後の前記過去時点のレーンの重み係数を、前記現時点のレーンの重み係数よりも小さくして重ね合わせ、例外として、前記現時点のレーンと、座標変換後の前記過去時点のレーンと、を重ね合わせて前記現時点のより確かなレーンを推定する際、前記現時点のレーン中に欠けがある場合、座標変換後の前記過去時点のレーン中、欠けがある前記現時点のレーンに対応する位置にあるレーンの重み係数を小さくしないで、前記現時点のレーンの重み係数を用いて重ね合わせる
    ことを特徴とするレーン検出方法。
  6. 請求項5に記載のレーン検出方法が適用されたカーブ開始点検出方法であって、
    前記レーン推定ステップで推定された前記現時点のより確かなレーンは、自車位置から前方に延びる近似曲線のレーンであり、
    さらに、
    前記自車位置から後方に延びる過去時点のレーンを現時点の前記走行情報に基づいて座標変換した座標変換後の前記自車位置から後方に延びる過去時点のレーンと、前記自車位置から後方に延びる現時点のレーンとに基づき、前記自車位置から後方に延びる現時点のより確かなレーンを直線近似により推定する自車後方直線レーン推定ステップと、
    前記自車位置から前方に延びる前記近似曲線のレーンに、前記自車位置から後方に延びる現時点のより確かな近似直線レーンを重ね合わせ、前記近似直線レーンを前記自車位置から前方に延長した直線と、前記近似曲線のレーンとの間の車幅方向の距離が閾値距離以上となった点を現時点のカーブ開始点候補点に検出すると共に、前記過去時点のレーン中の前記座標変換後のカーブ開始点候補点を検出し、前記現時点で検出した前記カーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義したガウス分布関数の最大値を合わせると共に、前記過去時点のレーン中の前記座標変換後のカーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義した前記ガウス分布関数の最大値を合わせ、各前記ガウス分布関数を足し合わせた合成分布関数の最大値の位置を、より確かなカーブ開始点として推定するカーブ開始点推定ステップと、
    を備えることを特徴とするカーブ開始点検出方法。
  7. 請求項5に記載のレーン検出方法が適用されたカーブ開始点検出方法であって、
    前記レーン推定ステップで推定された前記現時点のより確かなレーンは、自車位置から前方に延びる近似曲線のレーンであり、
    さらに、
    前記自車位置から後方に延びる過去時点のレーンを現時点の前記走行情報に基づいて座標変換した座標変換後の前記自車位置から後方に延びる過去時点のレーンと、前記自車位置から後方に延びる現時点のレーンとに基づき、前記自車位置から後方に延びる現時点のより確かなレーンを直線近似により推定する自車後方直線レーン推定ステップと、
    前記自車位置から前方に延びる前記近似曲線のレーンに、前記自車位置から後方に延びる現時点のより確かな近似直線レーンを重ね合わせ、前記近似直線レーンを前記自車位置から前方に延長した直線と、前記近似曲線のレーンとの間の車幅方向の距離が閾値距離以上となった点を現時点のカーブ開始点候補点に検出すると共に、前記過去時点のレーン中の前記座標変換後のカーブ開始点候補点を検出し、前記現時点で検出した前記カーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義したガウス分布関数の最大値を合わせると共に、前記過去時点のレーン中の前記座標変換後のカーブ開始点候補点に対し、前記自車位置から前方に延長した前記直線の方向に沿って定義した他のガウス分布関数の最大値を合わせ、前記他のガウス分布関数の前記最大値は、前記ガウス分布関数の前記最大値よりも小さくされ、前記最大値を有する前記ガウス分布関数及び前記最大値より小さい最大値を有する前記他のガウス分布関数を足し合わせた合成分布関数の最大値の位置を、より確かなカーブ開始点として推定するカーブ開始点推定ステップと、
    を備えることを特徴とするカーブ開始点検出方法。
  8. 請求項又はに記載のカーブ開始点検出方法が適用された操舵アシスト方法であって、
    さらに、より確かな前記カーブ開始点を用いて、前記車両の操舵アシスト力を生成するアクチュエータによる前記車両の操舵アシスト力の付与開始タイミングを決定する操舵アシスト開始タイミング決定ステップを
    有することを特徴とする操舵アシスト方法。
JP2015088419A 2015-04-23 2015-04-23 レーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法 Expired - Fee Related JP6501602B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015088419A JP6501602B2 (ja) 2015-04-23 2015-04-23 レーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法
US15/136,364 US10147003B2 (en) 2015-04-23 2016-04-22 Lane detection device and method thereof, curve starting point detection device and method thereof, and steering assistance device and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015088419A JP6501602B2 (ja) 2015-04-23 2015-04-23 レーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法

Publications (2)

Publication Number Publication Date
JP2016203814A JP2016203814A (ja) 2016-12-08
JP6501602B2 true JP6501602B2 (ja) 2019-04-17

Family

ID=57146856

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015088419A Expired - Fee Related JP6501602B2 (ja) 2015-04-23 2015-04-23 レーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法

Country Status (2)

Country Link
US (1) US10147003B2 (ja)
JP (1) JP6501602B2 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6413953B2 (ja) * 2015-06-29 2018-10-31 株式会社デンソー 車線逸脱回避システム
KR102528002B1 (ko) * 2016-08-17 2023-05-02 현대모비스 주식회사 탑뷰 영상 생성 장치 및 그 방법
US11631256B2 (en) * 2017-01-10 2023-04-18 Mitsubishi Electric Corporation Travel path recognition apparatus and travel path recognition method
US11400927B2 (en) * 2018-01-29 2022-08-02 Ford Global Technologies, Llc Collision avoidance and mitigation
CN109308468B (zh) * 2018-09-21 2021-09-24 电子科技大学 一种车道线检测方法
US10748303B2 (en) * 2018-10-03 2020-08-18 Gentex Corporation Rear facing lane detection overlay
US10933880B2 (en) * 2019-01-17 2021-03-02 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for providing lane curvature estimates
WO2020181426A1 (zh) * 2019-03-08 2020-09-17 深圳市大疆创新科技有限公司 一种车道线检测方法、设备、移动平台及存储介质
DE102019112413A1 (de) * 2019-05-13 2020-11-19 Bayerische Motoren Werke Aktiengesellschaft Verfahren und vorrichtung zur multi-sensor-datenfusion für automatisierte und autonome fahrzeuge
JP7100608B2 (ja) * 2019-06-06 2022-07-13 本田技研工業株式会社 車両制御装置、車両、車両制御装置の動作方法およびプログラム
US11900696B2 (en) * 2019-08-28 2024-02-13 Toyota Motor Europe Method and system for processing a plurality of images so as to detect lanes on a road
CN111391856A (zh) * 2020-03-31 2020-07-10 东风汽车集团有限公司 汽车自适应巡航的前方弯道检测***及方法
KR102283237B1 (ko) * 2020-05-29 2021-07-29 서울대학교산학협력단 데이터 주도 기계학습 기반 차량 조향 특성 모델 실시간 규명 장치 및 방법
US11618476B2 (en) 2020-06-05 2023-04-04 Toyota Research Institute, Inc. Curvilinear coordinate systems for predicting vehicle behavior
JP2022037779A (ja) * 2020-08-25 2022-03-09 トヨタ自動車株式会社 路上障害物検出装置、路上障害物検出方法およびプログラム
US11679766B2 (en) * 2020-11-23 2023-06-20 Fca Us Llc Techniques for vehicle lane level localization using a high-definition map and perception sensors
CN113119978A (zh) * 2021-05-10 2021-07-16 蔚来汽车科技(安徽)有限公司 车道边沿提取方法和装置、自动驾驶***、车辆以及存储介质
CN115123218B (zh) * 2022-09-02 2022-11-22 小米汽车科技有限公司 车辆的检测方法、装置及其电子设备

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4733545B2 (ja) * 2006-03-27 2011-07-27 富士重工業株式会社 車線認識装置
JP4687563B2 (ja) * 2006-05-23 2011-05-25 株式会社デンソー 車両用レーンマーク認識装置
JP2009009331A (ja) 2007-06-27 2009-01-15 Nissan Motor Co Ltd 白線検出装置および白線検出方法
JP5469509B2 (ja) * 2010-03-31 2014-04-16 パナソニック株式会社 車線位置検出装置および車線位置検出方法
US9090263B2 (en) * 2010-07-20 2015-07-28 GM Global Technology Operations LLC Lane fusion system using forward-view and rear-view cameras
US8527172B2 (en) * 2010-10-20 2013-09-03 GM Global Technology Operations LLC Vehicle collision avoidance and warning system
JP5673597B2 (ja) 2011-11-18 2015-02-18 株式会社デンソー 車両用挙動制御装置

Also Published As

Publication number Publication date
JP2016203814A (ja) 2016-12-08
US10147003B2 (en) 2018-12-04
US20160314360A1 (en) 2016-10-27

Similar Documents

Publication Publication Date Title
JP6501602B2 (ja) レーン検出装置及びその方法、カーブ開始点検出装置及びその方法、並びに操舵アシスト装置及びその方法
US8340866B2 (en) Vehicle and steering control device for vehicle
JP5124875B2 (ja) 車両走行支援装置、車両、車両走行支援プログラム
JP6416293B2 (ja) 自動車に接近する対象車両を自動車のカメラシステムにより追跡する方法、カメラシステムおよび自動車
US9912933B2 (en) Road surface detection device and road surface detection system
JP4433887B2 (ja) 車両用外界認識装置
US9613280B2 (en) System and method for front detecting of vehicle
US20180137376A1 (en) State estimating method and apparatus
WO2014129312A1 (ja) 車線境界線逸脱抑制装置
JP6787157B2 (ja) 車両制御装置
JP6693893B2 (ja) 走路認識装置
US20100189306A1 (en) Lane marker recognition apparatus and lane marker recognition method used by said apparatus
JP4744537B2 (ja) 走行レーン検出装置
US20190266745A1 (en) Object detection device
JP2018091652A (ja) 情報処理装置、撮像装置、機器制御システム、情報処理方法、及びプログラム
JP6408935B2 (ja) 走行区画線認識装置
JP5039013B2 (ja) 車両走行支援装置、車両、車両走行支援プログラム
JP6434743B2 (ja) 走路端部推定装置
KR101738425B1 (ko) 다차선 검출을 위한 관심 영역 설정 장치 및 방법
JP5832850B2 (ja) 車線監視システム及び車線監視方法
US20170124880A1 (en) Apparatus for recognizing vehicle location
JP4768499B2 (ja) 車載周辺他車検出装置
JP2019132762A (ja) 自車位置推定装置
JP2013183311A (ja) 車載カメラの姿勢角推定装置及び検出システム
JP5823251B2 (ja) 車線監視システム及び車線監視方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180809

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180814

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181012

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190312

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190319

R150 Certificate of patent or registration of utility model

Ref document number: 6501602

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees