JP2019128153A - 距離算出装置及び車両制御装置 - Google Patents

距離算出装置及び車両制御装置 Download PDF

Info

Publication number
JP2019128153A
JP2019128153A JP2018007605A JP2018007605A JP2019128153A JP 2019128153 A JP2019128153 A JP 2019128153A JP 2018007605 A JP2018007605 A JP 2018007605A JP 2018007605 A JP2018007605 A JP 2018007605A JP 2019128153 A JP2019128153 A JP 2019128153A
Authority
JP
Japan
Prior art keywords
distance
estimated
calculated
camera
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018007605A
Other languages
English (en)
Other versions
JP6620175B2 (ja
Inventor
安井 裕司
Yuji Yasui
裕司 安井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2018007605A priority Critical patent/JP6620175B2/ja
Priority to CN201811445254.9A priority patent/CN110053625B/zh
Publication of JP2019128153A publication Critical patent/JP2019128153A/ja
Application granted granted Critical
Publication of JP6620175B2 publication Critical patent/JP6620175B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001Details of the control system
    • B60W2050/0043Signal treatments, identification of variables or parameters, parameter estimation or state estimation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/80Spatial relation or speed relative to objects
    • B60W2554/801Lateral distance

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mathematical Physics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of Optical Distance (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】車両と対象物との距離を算出する場合において、良好な算出精度を確保できる領域を拡大することができ、実用性を向上させることができる距離算出装置及び車両制御処理を提供する。【解決手段】距離算出装置1は、左右のカメラ4a,4bからの画像データを用いて、重複領域7c内の実測距離Xs_o_nを取得し、左カメラ4aからの画像データを用いて、重複領域7c及び左非重複領域7a内の第1及び第2推定距離Xn_o_n,Xn_o_mを算出する。さらに、対象物が重複領域7c内にあるときに、実測距離Xs_o_nと第1推定距離Xn_o_との差分E_id_nの絶対値が減少するように、補正値Kmodを算出し、対象物が2つの領域7a,7c内にあるときの推定距離Index_x_hを補正値Kmodで補正することにより、算出距離X_hを算出する。【選択図】図2

Description

本発明は、車両に搭載され、当該車両と対象物との距離を算出する距離算出装置及び車両制御装置に関する。
従来、距離算出装置として特許文献1に記載されたものが知られている。この距離算出装置は車両に搭載されたステレオカメラ方式のものであり、左右一対のカメラを備えている。左右一対のカメラでは、両者の光軸が、互いの間隔が前方に向かうほどより広くなるように斜めに配置されており、各々の撮像領域は、互いに重複するステレオ視領域と、重複しない非ステレオ視領域とで構成されている。
この第2実施形態の距離算出装置の場合、自車両の前方に歩行者がいないときに、ステレオマッチング手法により、ステレオ視領域における左右の撮像画像に基づいて、自車両と先行車両との距離が算出される。
特開2005−24463号公報
上記従来の距離算出装置によれば、先行車両などの対象物がステレオ視領域に位置している条件下でのみ、自車両と対象物との距離を算出可能な構成であるので、対象物がステレオ領域と非ステレオ視領域に跨がって存在する場合、非ステレオ領域における対象物の距離を精度よく算出することができず、実用性が低いという問題がある。
本発明は、上記課題を解決するためになされたもので、車両と対象物との距離を算出する場合において、良好な算出精度を確保できる領域を拡大することができ、実用性を向上させることができる距離算出装置及び車両制御処理を提供することを目的とする。
上記目的を達成するために、本発明は、車両3に搭載され、車両3と対象物との距離を算出する距離算出装置1において、距離情報を取得する距離情報取得手段(左右のカメラ4a,4b、レーダ8)と、距離情報を用いて、第1所定領域(重複領域7c,7e)内のいずれかのポイントとの距離の実測値である実測距離Xs_o_nを取得する実測距離取得手段(ECU2、実測距離算出部11)と、画像情報を取得する画像情報取得手段(左カメラ4a、カメラ4c)と、画像情報及び所定の推定アルゴリズム(深層学習法)を用いて、第1所定領域(重複領域7c,7e)をすべて含む、第1所定領域よりも広い第2所定領域(領域7a+7c、7d+7d+7e)内のいずれかのポイントとの距離の推定値である推定距離(第1及び第2推定距離Xn_o_n,Xn_o_m)を算出する推定距離算出手段(ECU2、推定位置算出部12)と、対象物の少なくとも一部が第1所定領域内に位置するときに実測距離取得手段によって取得された対象物の実測距離Xs_o_nと、対象物の少なくとも一部が第1所定領域内に位置するときに推定距離算出手段によって算出された対象物の推定距離(第1推定距離Xn_o_n)との差分(誤差信号値E_id_n)の絶対値が減少するように、対象物の推定距離を補正するための補正値Kmodを算出する補正値算出手段(ECU2、補正値算出部13、補正位置算出部14)と、対象物が第1所定領域内を含む第2所定領域内に位置するときに推定距離算出手段によって算出された対象物の推定距離Index_x_hを、補正値Kmodで補正することにより、対象物の補正後距離(算出距離X_h)を算出する補正後距離算出手段(ECU2、補正位置算出部14)と、を備えることが好ましい。
この距離算出装置によれば、距離情報取得手段によって距離情報が取得され、この距離情報を用いて、第1所定領域内のいずれかのポイントとの距離の実測値である実測距離が取得され、画像情報取得手段によって画像情報が取得されるとともに、この画像情報及び所定の推定アルゴリズムを用いて、第1所定領域をすべて含む、第1所定領域よりも広い第2所定領域内のいずれかのポイントとの距離の推定値である推定距離が算出される。この場合、推定距離は、第1所定領域をすべて含む、第1所定領域よりも広い第2所定領域内のいずれかのポイントとの距離であるので、実測距離よりも広い領域での距離として算出されることになる。
さらに、対象物の少なくとも一部が第1所定領域内に位置するときに実測距離取得手段によって取得された対象物の実測距離と、対象物の少なくとも一部が第1所定領域内に位置するときに推定距離算出手段によって算出された対象物の推定距離との差分の絶対値が減少するように、対象物の推定距離を補正するための補正値が算出されるので、この補正値は、対象物の少なくとも一部が1所定領域内に位置するときの、対象物の実測距離と対象物の推定距離との誤差を減少させる機能を備えることになる。
したがって、対象物が第1所定領域内を含む第2所定領域内に位置するときに推定距離算出手段によって算出された対象物の推定距離を、補正値で補正することにより、対象物の補正後距離が算出されるので、第2所定領域内に位置する対象物の推定距離の算出精度を向上させた値として、補正後距離を算出することができる。その結果、距離情報及び画像情報を用いて、車両と対象物との距離を算出する場合において、良好な算出精度を確保可能な領域を拡大することができ、実用性を向上させることができる(なお、本明細書における「実測距離を取得」などの「取得」は、センサなどによりこの値を直接検出することに限らず、この値をパラメータに基づいて算出/推定することを含む)。
本発明において、距離情報取得手段は、第1カメラ(左カメラ4a)と、第1カメラよりも高感度の第2カメラ(右カメラ4b)とを用いて、ステレオマッチング手法により距離情報を取得し、画像情報取得手段は、第1カメラ(左カメラ4a)を用いて、画像情報を取得することを特徴とすることが好ましい。
この距離算出装置によれば、第1カメラと、第1カメラよりも高感度の第2カメラとを用いて、ステレオマッチング手法により距離情報が取得され、この距離情報を用いて、実測距離が取得されるので、実測距離を精度よく取得することができる。また、第1カメラを用いて、画像情報が取得され、この画像情報及び推定アルゴリズムを用いて、推定距離が算出されるので、広い視野領域を確保しながら、推定距離を算出することができる。そして、上述したように、補正後距離が、第2所定領域内に位置する対象物の推定距離の算出精度を向上させた値として算出されるので、第1所定領域よりも広い第2所定領域内において、高い算出精度を確保しながら、補正後距離を算出することができる。
本発明において、距離情報取得手段は、レーダ8及びLIDARの一方を用いて、距離情報を取得し、画像情報取得手段は、カメラ4cを用いて、画像情報を取得することが好ましい。
この距離算出装置によれば、レーダ及びLIDARの一方を用いて、距離情報が取得されるので、雨天や霧などのカメラ画像による距離情報の取得精度が低下するような条件下においても、距離情報を精度よく取得することができ、実測距離の取得精度を向上させることができる。また、カメラを用いて、画像情報が取得されるので、広い視野領域を確保しながら、推定距離を算出することができる。その結果、上述したように、補正後距離が、第2所定領域内に位置する対象物の推定距離の算出精度を向上させた値として算出されるので、第1所定領域よりも広い第2所定領域内において、高い算出精度を確保しながら、補正後距離を算出することができる。
本発明において、補正値Kmodは、車両3の基準点に対する横方向を1座標とし基準点に対する縦方向を1座標とする2次元座標系において、横方向の座標に対して第1所定区間(推定距離Index_x_1〜Index_x_N+M)で連続すると同時に縦方向の座標に対して第2所定区間(推定横位置Index_y_1〜Index_y_N+M)で連続する関数値として算出されることが好ましい。
この距離算出装置によれば、補正値は、車両の基準点に対する横方向を1座標とし基準点に対する縦方向を1座標とする2次元座標系において、横方向の座標に対して第1所定区間で連続すると同時に縦方向の座標に対して第2所定区間で連続する関数値として算出されるので、車両の前側の領域に対象物が位置する場合において、車両の前後方向及び左右方向の傾きの影響を補償しながら、補正後距離を算出することができる。それにより、補正後距離の算出精度をさらに向上させることができる。
本発明に係る車両制御装置は、以上のいずれかの距離算出装置1を備え、第1所定領域及び第2所定領域は、車両3の前側及び後ろ側の一方の領域であり、対象物の補正後距離(算出距離X_h)を用いて、車両3の駆動力、制動力及び操舵量の少なくとも1つを制御する(図7/STEP1〜3)ことが好ましい。
この車両制御装置によれば、上述したような算出精度の高い補正後距離を用いて、車両の駆動力、制動力及び操舵量の少なくとも一つを制御することができるので、その制御精度を向上させることができる。
本発明の一実施形態に係る距離算出装置及び車両制御装置と、これらを適用した車両の構成を模式的に示す図である。 左右のカメラの視野領域を示す図である。 距離算出装置の機能的な構成を示すブロック図である。 距離重み関数値Wx_iの算出に用いるマップの一例を示す図である。 横位置重み関数値Wy_jの算出に用いるマップの一例を示す図である。 補正値Kmodと推定距離Index_x及び推定横位置Index_yとの関係の一例を示す図である。 自動停止制御処理を示すフローチャートである。 距離算出装置の変形例を示す図である。
以下、図面を参照しながら、本発明の一実施形態に係る距離算出装置及び車両制御装置について説明する。なお、本実施形態の車両制御装置は距離算出装置も兼用しているので、以下の説明では、車両制御装置について説明するとともに、その中で、距離算出装置の機能及び構成についても説明する。
図1に示すように、この車両制御装置1は、自動運転可能な4輪車両(以下「自車両」という)3に適用されたものであり、この自車両3は、車道の左側通行に対応するように構成されている。車両制御装置1は、ECU2を備えており、このECU2には、左右のカメラ4a,4b(図2参照)、状況検出装置4c、原動機5及びアクチュエータ6が電気的に接続されている。
図2に示すように、左右のカメラ4a,4bは、両者の光軸が自車両3の前方に向うほど、互いの間隔が広くなるとともに、両者の視野領域が、互いに重複する重複領域7c(図中に網掛けで示す領域)と、互いに重複しない左右の非重複領域7a,7bとを構成するように配置されている。この場合、左右のカメラ4a,4bの光軸間の角度は、停止線位置などを認識可能な所定角度(例えば数十度)に設定されている。
なお、本実施形態では、左カメラが、距離情報取得手段、画像情報取得手段及び第1カメラに相当し、右カメラが距離情報取得手段及び第2カメラに相当する。また、重複領域7cが第1所定領域に相当し、左非重複領域7aと重複領域7cを合わせた領域が第2所定領域に相当する。
この左カメラ4aは、三原色の画像を撮影可能なRGBカメラで構成され、右カメラ4bは、左カメラ4aよりも高感度の、白黒画像のみを撮影可能なCCCカメラで構成されている。このCCCカメラは、画素値としてクリア(白色)のみを出力するものである。
ECU2は、後述するように、左右のカメラ4a,4bからの画像データに基づいて、自車両3の前方に位置する対象物との距離を算出する。
また、状況検出装置4cは、ミリ波レーダ、GPS及び各種のセンサなどで構成されており、自車両3の位置及び自車両3の進行方向の周辺状況を表す周辺状況データをECU2に出力する。
原動機5は、例えば、電気モータなどで構成されており、後述する自動停止制御を含む自動運転制御の実行中、ECU2によって原動機5の出力が制御される。
また、アクチュエータ6は、制動用アクチュエータ及び操舵用アクチュエータなどで構成されており、後述する自動停止制御を含む自動運転制御の実行中、ECU2によってアクチュエータ6の動作が制御される。
一方、ECU2は、CPU、RAM、ROM、E2PROM、I/Oインターフェース及び各種の電気回路(いずれも図示せず)などからなるマイクロコンピュータで構成されており、上述した左右のカメラ4a,4bからの画像データ及び状況検出装置4cからの周辺状況データなどに基づいて、後述する自動停止制御を含む自動運転制御などの各種の制御処理を実行する。
なお、本実施形態では、ECU2が、実測距離取得手段、推定距離算出手段、補正値算出手段及び補正後距離算出手段に相当する。
次に、図3を参照しながら、本実施形態の車両制御装置1における距離算出装置としての機能的な構成について説明する。この車両制御装置1は、以下に述べる算出アルゴリズムによって、自車両3の前方に位置する対象物との距離を算出するものであり、以下に述べる算出値はすべてE2PROM内に記憶されるものとする。
この場合、歩行者及び車両などの交通参加者、センターライン、走路境界、停止線、交差点の進入位置、交差点通過後の進入路の入口、交差点の右左折先の走路の入口、交差点の中心位置、信号、標識、及び横断歩道などの道路構造物が対象物に相当する。
なお、以下の説明では、自車両3の前端の中央位置を原点(基準点)とし、自車両3の前後方向をx座標軸、左右方向をy座標軸とそれぞれ規定したときの2次元座標系におけるx座標値を「距離」といい、y座標値を「横位置」という。
図3に示すように、車両制御装置1は、実測距離算出部11、推定位置算出部12、補正値算出部13及び補正位置算出部14を備えており、これらの要素11〜14は、具体的にはECU2によって構成されている。
この実測距離算出部11(実測距離取得手段)では、左右のカメラ4a,4bからの画像データに基づいて、ステレオマッチング手法により、前述した重複領域7c内に位置する対象物の距離の実測値として、N(Nは複数)個の実測距離Xs_o_n(n=1〜N)が算出される。このステレオマッチング手法は公知であるので、ここではその説明を省略する。
また、推定位置算出部12(推定距離算出手段)では、左カメラ4aからの画像データに基づいて、深層ニューラルネットワークを用いた深層学習法により、N個の第1推定位置(Xn_o_n,Yn_o_n)及びM(Mは複数)個の第2推定位置(Xn_o_m,Yn_o_m)が算出される。
これらのN個の第1推定位置(Xn_o_n,Yn_o_n)は、重複領域7c内に存在する対象物の位置の推定値であり、N個の第1推定距離Xn_o_n(n=1〜N)をx座標値とし、N個の第1推定横位置Yn_o_n(n=1〜N)をy座標値とするものである。
また、M個の第2推定位置(Xn_o_m,Yn_o_m)は、左非重複領域7a内に存在する対象物の位置の推定値であり、M個の第2推定距離Xn_o_m(m=1〜M)をx座標値とし、M個の第2推定横位置Yn_o_m(m=1〜M)をy座標値とするものである。
この推定位置算出部12では、公知の深層学習法により、画像上の対象物の位置、対象物と他の対象物との間の相対位置、対象物の動作速度(又はオプティカルフロー)、対象物と他の対象物との間の速度差、対象物の明るさ/色調などに基づいて、N個の第1推定位置(Xn_o_n,Yn_o_n)及びM個の第2推定位置(Xn_o_m,Yn_o_m)が算出される。
さらに、前述した補正値算出部13(補正値算出手段)では、以下の式(1)〜(3)に示す算出アルゴリズムにより、4つの局所補正値Kmod_ij(i=1〜2,j=1〜2)が算出される。なお、以下の説明において、記号(k)付きの各離散データは、所定の制御周期ΔT(本実施形態では数百msec)に同期してサンプリング又は算出されたデータであることを示しており、記号k(kは正の整数)は制御時刻を表している。なお、以下の説明では、各離散データにおける記号(k)を適宜省略する。
上式(1)のE_id_n(n=1〜N)は、N個の誤差信号値であり、第1推定距離Xn_o_nと実測距離Xs_o_nとの偏差として算出される。この場合、実測距離Xs_o_nは、左右のカメラ4a,4bからの画像データに基づいて、ステレオマッチング手法により算出されているので、左カメラ4aからの画像データのみに基づいて算出されている第1推定距離Xn_o_nよりも高い算出精度を備えていると見なすことができる。したがって、誤差信号値E_id_nは、実測距離Xs_o_nに対する第1推定距離Xn_o_nの誤差を表すものと見なせる。
また、上式(2)のE_id_ij_nは、局所誤差信号値である。さらに、式(2)のWx_i(Xn_o_n)は、N個の距離重み関数値であり、N個の第1推定距離Xn_o_nに応じて、図4に示すマップを検索することにより算出される。一方、式(2)のWy_j(Yn_o_n)は、N個の横位置重み関数値であり、N個の第1推定横位置Yn_o_nに応じて、図5に示すマップを検索することにより算出される。さらに、上式(3)のkidは、kid<0が成立するように設定される所定の更新ゲインである。
以上の式(1)〜(3)を参照すると明らかなように、局所誤差信号値E_id_ij_nは、実測距離Xs_o_nに対する第1推定距離Xn_o_nの誤差である誤差信号値E_id_nを、x座標におけるXn_o_1〜Xn_o_Nの範囲と、y座標におけるYn_o_1〜Yn_o_Nの範囲で規定される領域に対して、4つの重み関数値Wx_i,Wy_jによって重み付けしながら分配した値として算出される。
さらに、4つの局所補正値Kmod_ijは、誤差信号値E_id_ij_nの総和の絶対値が値0に収束するように、積算項のみのフィードバック制御アルゴリズムによって算出されるので、4つの局所補正値Kmod_ijの算出回数が大きくなるほど(すなわち4つの局所補正値Kmod_ijの更新が進むほど)、上述した領域において、実測距離Xs_o_nに対する第1推定距離Xn_o_nの誤差の絶対値を値0に収束させる機能を備えるように算出されることになる。
次いで、補正位置算出部14(補正値算出手段、補正後距離算出手段)では、まず、下式(4)により、補正値Kmodが算出される。
上式(4)のIndex_x_h(h=1〜N+M)は、N個の第1推定距離Xn_o_nとM個の第2推定距離Xn_o_mの集合に相当するN+M個の推定距離である。また、式(4)の重み関数Wx_i(Index_x_h)は、N個の第1推定距離Xn_o_nを推定距離Index_x_hとして用いる場合には、前述した図4のマップを用いて算出される一方、M個の第2推定距離Xn_o_mを推定距離Index_x_hとして用いる場合には、前述した図4の横軸を第1推定距離Xn_o_nから第2推定距離Xn_o_mに置き換えたマップを用いて算出される。
さらに、上式(4)のIndex_y_hは、N個の第1推定横位置Yn_o_nとM個の第2推定横位置Yn_o_mの集合に相当するN+M個の推定横位置である。また、式(4)の重み関数Wy_i(Index_y_h)は、N個の第1推定横位置Yn_o_nを推定横位置Index_y_hとして用いる場合には、前述した図5のマップを用いて算出される一方、M個の第2推定横位置Yn_o_mを推定横位置Index_y_hとして用いる場合には、前述した図5の横軸を第1推定横位置Yn_o_nから第2推定横位置Yn_o_mに置き換えたマップを用いて算出される。
以上の式(4)により補正値Kmodが算出されるので、補正値Kmodは、前述した4つの局所補正値Kmod_ijの機能により、実測距離Xs_o_nに対する第1推定距離Xn_o_nの誤差の絶対値を値0に収束させる機能を備えるように算出される。
また、同じ理由により、補正値Kmodは、推定距離Index_xを1座標とし、推定横位置Index_yを1座標とする2次元座標系において、N+M個の推定距離Index_x_hで規定される第1所定区間で連続すると同時に、N+M個の推定横位置Index_y_hで規定される第2所定区間で連続する関数値として算出される。その結果、補正値Kmodをこの2次元座標系に対して直交する座標軸に設定した場合、補正値Kmodは、補正面(点描で示す面)を形成する値として算出される(図6参照)。
そして、最終的に、下式(5)〜(6)により、N+M個の算出距離X_h(h=1〜N+M)及びN+M個の算出横位置Y_hが算出される。すなわち、対象物のN+M個の算出位置(X_h,Y_h)が算出される。なお、本実施形態では、算出距離X_hが補正後距離に相当する。
なお、以上の式(1)〜(3)による4つの局所補正値Kmod_ijの算出と、式(4)による補正値Kmodの算出は、左右のカメラ4a,4bにおけるステレオ視が実行できている場合において、適切な対象物が重複領域4c及び左非重複領域7a内に跨がって存在している条件下で実行される。
一方、上記条件が成立していないとき、例えば、ステレオ視が実行できないとき(トンネル走行中、日陰及び夜間などの右カメラ4bで対象物を認識できないとき)、又は適切な対象物が重複領域4c及び左非重複領域7a内に跨がって存在していないときには、4つの局所補正値Kmod_ijの算出と、補正位置算出部14における補正値Kmodの算出とが中止され、これらの値はE2PROM内の記憶値に保持される。
次に、図7を参照しながら、本実施形態の車両制御装置1による自動停止制御処理について説明する。この自動停止制御処理は、自車両3が停止すべき条件下にあるときに実行されるものであり、以下の説明では、交差点の進入時に進行方向の信号が赤であるときの例について説明する。
同図に示すように、まず、E2PROM内に記憶されている停止線の算出位置(X_h,Y_h)を読み込む(図7/STEP1)。これらの算出位置(X_h,Y_h)は、図示しない算出処理において、前述した式(1)〜(6)の算出アルゴリズムにより算出される。
次いで、自車両3が停止線の算出位置(X_h,Y_h)、特に算出距離X_hで適切に停止するように、原動機5を制御する。それにより、原動機5の出力が制御される(図7/STEP2)
さらに、自車両3が停止線の算出位置(X_h,Y_h)、特に算出距離X_hで適切に停止するように、アクチュエータ6を制御する。それにより、制動力及び操舵量が制御される(図7/STEP3)。その後、本処理を終了する。
以上のように、本実施形態の車両制御装置1によれば、左右のカメラ4a,4bからの画像データに基づいて、ステレオマッチング手法により、重複領域7c内に位置する対象物の実測距離Xs_o_nが算出され、左カメラ4aからの画像データに基づいて、深層ニューラルネットワークを用いた深層学習法により、重複領域7c内に位置する対象物の第1推定位置(Xn_o_n,Yn_o_n)と、左非重複領域7a内に位置する対象物の第2推定位置(Xn_o_m,Yn_o_m)とが算出される。
さらに、前述した式(1)〜(3)により、4つの局所補正値Kmod_ijが、誤差信号値E_id_nを、x座標におけるXn_o_1〜Xn_o_Nの範囲と、y座標におけるYn_o_1〜Yn_o_Nの範囲で規定される領域に対して、4つの重み関数値Wx_i,Wy_jによって重み付けしながら分配した値として算出され、これら4つの局所補正値Kmod_ijを用いて、前述した式(4)により、補正値Kmodが算出される。
この場合、4つの局所補正値Kmod_ijは、上述した領域において、実測距離Xs_o_nに対する第1推定距離Xn_o_nの誤差の絶対値を値0に収束させる機能を備えた値として算出されるので、補正値Kmodも同じ機能を備えた値として算出されることになる。したがって、そのような補正値Kmodで、N+M個の推定距離Index_x_hを補正することにより、N+M個の算出距離X_hが算出されるので、これらの算出距離X_hを、重複領域7c内に位置する対象物の第1推定距離Xn_o_nと、左非重複領域7a内に位置する対象物の第2推定距離Xn_o_mの算出精度を向上させた値として算出することができる。このように、重複領域7cに加えて、左非重複領域7a内に位置する対象物の算出距離の算出精度を向上させることができるので、特許文献1の手法と比べて、良好な算出精度を確保可能な領域を拡大することができ、実用性を向上させることができる。
また、補正値Kmodは、推定距離Index_xを1座標とし、推定横位置Index_yを1座標とする2次元座標系において、N+M個の推定距離Index_x_hで規定される第1所定区間で連続すると同時に、N+M個の推定横位置Index_y_hで規定される第2所定区間で連続する関数値として算出されるので、補正値Kmodをこの2次元座標系に対して直交する座標軸に設定した場合、図6に示すように、補正値Kmodは、補正面(点描で示す面)を形成する値として算出されることになる。その結果、自車両3の前側の領域に対象物が位置する場合において、自車両3の前後方向及び左右方向の傾きの影響を補償しながら、算出距離X_hを算出することができる。それにより、算出距離X_hの算出精度をさらに向上させることができる。
また、以上のように算出精度の高い算出距離X_hを用いて、自動停止制御処理が実行されるので、自車両3を停止線の位置に精度よく停止させることができ、制御精度を向上させることができる。
なお、実施形態は、左右のカメラ4a,4bを用いて、対象物のN+M個の算出位置(X_h,Y_h)を算出した例であるが、これに代えて、図8に示すように、カメラ4dと、これよりも高精度に距離を検出可能なレーダ8とを組み合わせて用いてもよい。この場合、カメラ4dが画像情報取得手段に相当し、レーダ8が距離情報取得手段に相当する。
このカメラ4dは、RGBカメラ又はRCBカメラタイプのものであり、その視野領域が、レーダ8の視野領域と重複する重複領域7e(図中に網掛けで示す領域)と、レーダ8の視野領域と重複しない左右の非重複領域7d,7dとを構成するように配置されている。この場合、重複領域7eが第1所定領域に相当し、重複領域7eと左右の非重複領域7d,7dとを合わせた領域が第2所定領域に相当する。
以上のように構成した場合、前述した実測距離算出部11において、レーダ8による対象物の距離の測定データが実測距離Xs_o_nとして算出され、それにより、実施形態の車両制御装置1と同様の作用効果を得ることができる。なお、前述した実測距離算出部11において、レーダ8及びカメラ4dを用いたセンサコンフュージョン手法により、実測距離Xs_o_nを算出するように構成してもよい。また、図8の構成において、レーダ8に代えて、LIDARを用いてもよい。
また、実施形態は、推定位置算出部12において、左カメラ4aからの画像データに基づいて、深層ニューラルネットワークを用いた深層学習法により、N個の第1推定位置(Xn_o_n,Yn_o_n)及びM個の第2推定位置(Xn_o_m,Yn_o_m)を算出したが、これに代えて、左右のカメラ4a,4bからの画像データを用いて、深層ニューラルネットワークを用いた深層学習法により、N個の第1推定位置(Xn_o_n,Yn_o_n)及びM個の第2推定位置(Xn_o_m,Yn_o_m)を算出するように構成してもよい。
さらに、推定位置算出部12において、左カメラ4aからの画像データに基づいて、N個の第1推定位置(Xn_o_n,Yn_o_n)及びM個の第2推定位置(Xn_o_m,Yn_o_m)を算出する推定アルゴリズムは、実施形態の深層ニューラルネットワークを用いた深層学習法に限らず、特徴量抽出法や、パターンマッチング法、オプティカルフロー法、画像の高さと対象物の高さの相関性を用いる手法(例えば特開2007−188417号公報)などを用いてもよい。
一方、実施形態は、第1カメラとして、RGBカメラタイプのものを用いた例であるが、本発明の第1カメラはこれに限らず、画像データを出力可能なものであればよい。例えば、第1カメラとして、RCBカメラを用いてもよく、その場合には、クリアの画素情報から赤及び青の画素情報を減算する処理により、黄色の画素情報を抽出すればよい。
また、実施形態は、第2カメラとして、CCCカメラを用いた例であるが、本発明の第2カメラはこれに限らず、第1カメラよりも高感度のものであればよい。例えば、第2カメラとして、3CMOSカメラを用いてもよい。
さらに、実施形態は、本発明の車両制御装置及び距離算出装置を、車道の左側通行に対応する車両に適用した例であるが、本発明の車両制御装置及び距離算出装置を、車道の右側通行に対応する車両に適用してもよい。その場合、信号機が右側に配置されている環境を走行する車両においては、実施形態の左右のカメラを入れ換えて、左カメラを白黒画像のみを撮影可能なCCCカメラで、右カメラを三原色の画像を撮影可能なRGBカメラでそれぞれ構成すればよい。
一方、実施形態は、車両の前側の領域を第1所定領域及び第2所定領域とした例であるが、車両の後ろ側の領域を第1所定領域及び第2所定領域としてもよく、その場合には、左右のカメラを後ろ向きに配置すればよい。
また、実施形態は、第1所定区間をN+M個の推定距離Index_x_hで規定される区間とした例であるが、第1所定区間はこれに限らず、重複領域7c及び左重複領域7a内における対象物の距離であればよい。
さらに、実施形態は、第2所定区間をN+M個の推定横位置Index_y_hで規定される区間とした例であるが、第2所定区間はこれに限らず、重複領域7c及び左重複領域7a内における対象物の横位置であればよい。
一方、実施形態は、本発明の車両制御装置1及び距離算出装置1を4輪車両に適用した例であるが、本発明の車両制御装置及び距離算出装置は、これに限らず、2輪車両、3輪車両及び5輪以上の車両にも適用可能である。
1 距離算出装置、車両制御装置
2 ECU(実測距離取得手段、推定距離算出手段、補正値算出手段、補正後距離算 出手段)
3 車両
4a 左カメラ(距離情報取得手段、画像情報取得手段、第1カメラ)
4b 右カメラ(距離情報取得手段、第2カメラ)
4d カメラ(画像情報取得手段)
7a 左非重複領域(第2所定領域の一部)
7c 重複領域(第1所定領域、第2所定領域の一部)
7d 左右の非重複領域(第2所定領域の一部)
7e 重複領域(第1所定領域、第2所定領域の一部)
8 レーダ(距離情報取得手段)
11 実測距離算出部(実測距離取得手段)
12 推定位置算出部(推定距離算出手段)
13 補正値算出部(補正値算出手段)
14 補正位置算出部(補正値算出手段、補正後距離算出手段)
Xs_o_n 実測距離
Xn_o_n 第1推定距離(推定距離)
Xn_o_m 第2推定距離(推定距離)
E_id_n 誤差信号値(偏差)
Index_x_h 推定距離(第1所定区間)
Index_y_h 推定横位置(第2所定区間)
Kmod 補正値
X_h 算出距離(補正後距離)

Claims (5)

  1. 車両に搭載され、当該車両と対象物との距離を算出する距離算出装置において、
    距離情報を取得する距離情報取得手段と、
    当該距離情報を用いて、第1所定領域内のいずれかのポイントとの距離の実測値である実測距離を取得する実測距離取得手段と、
    画像情報を取得する画像情報取得手段と、
    当該画像情報及び所定の推定アルゴリズムを用いて、前記第1所定領域をすべて含む、当該第1所定領域よりも広い第2所定領域内のいずれかのポイントとの距離の推定値である推定距離を算出する推定距離算出手段と、
    前記対象物の少なくとも一部が前記第1所定領域内に位置するときに前記実測距離取得手段によって取得された前記対象物の前記実測距離と、当該対象物の少なくとも一部が前記第1所定領域内に位置するときに前記推定距離算出手段によって算出された前記対象物の前記推定距離との差分の絶対値が減少するように、前記対象物の前記推定距離を補正するための補正値を算出する補正値算出手段と、
    前記対象物が前記第1所定領域内を含む前記第2所定領域内に位置するときに前記推定距離算出手段によって算出された前記対象物の前記推定距離を、前記補正値で補正することにより、前記対象物の補正後距離を算出する補正後距離算出手段と、
    を備えることを特徴とする距離算出装置。
  2. 前記距離情報取得手段は、第1カメラと、当該第1カメラよりも高感度の第2カメラとを用いて、ステレオマッチング手法により前記距離情報を取得し、
    前記画像情報取得手段は、前記第1カメラを用いて、前記画像情報を取得することを特徴とする請求項1に記載の距離算出装置。
  3. 前記距離情報取得手段は、レーダ及びLIDARの一方を用いて、前記距離情報を取得し、
    前記画像情報取得手段は、カメラを用いて、前記画像情報を取得することを特徴とする請求項1に記載の距離算出装置。
  4. 前記補正値は、前記車両の基準点に対する横方向を1座標とし当該基準点に対する縦方向を1座標とする2次元座標系において、当該横方向の座標に対して第1所定区間で連続すると同時に当該縦方向の座標に対して第2所定区間で連続する関数値として算出されることを特徴とする請求項1ないし3のいずれかに記載の距離算出装置。
  5. 請求項1ないし4のいずれかに記載の距離算出装置を備え、
    前記第1所定領域及び前記第2所定領域は、前記車両の前側及び後ろ側の一方の領域であり、
    前記対象物の前記補正後距離を用いて、前記車両の駆動力、制動力及び操舵量の少なくとも1つを制御することを特徴とする車両制御装置。
JP2018007605A 2018-01-19 2018-01-19 距離算出装置及び車両制御装置 Active JP6620175B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018007605A JP6620175B2 (ja) 2018-01-19 2018-01-19 距離算出装置及び車両制御装置
CN201811445254.9A CN110053625B (zh) 2018-01-19 2018-11-29 距离计算装置和车辆控制装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018007605A JP6620175B2 (ja) 2018-01-19 2018-01-19 距離算出装置及び車両制御装置

Publications (2)

Publication Number Publication Date
JP2019128153A true JP2019128153A (ja) 2019-08-01
JP6620175B2 JP6620175B2 (ja) 2019-12-11

Family

ID=67315037

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018007605A Active JP6620175B2 (ja) 2018-01-19 2018-01-19 距離算出装置及び車両制御装置

Country Status (2)

Country Link
JP (1) JP6620175B2 (ja)
CN (1) CN110053625B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020022021A1 (ja) * 2018-07-27 2020-01-30 日立オートモティブシステムズ株式会社 距離算出装置
WO2023067867A1 (ja) * 2021-10-21 2023-04-27 日立Astemo株式会社 車載制御装置、および、3次元情報取得方法
CN116279792A (zh) * 2023-05-22 2023-06-23 深圳市聚力得电子股份有限公司 一种车载智能转向控制***

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020167726A1 (en) * 2001-03-08 2002-11-14 Rod Barman Method and apparatus for multi-nodal, three-dimensional imaging
JP2007263669A (ja) * 2006-03-28 2007-10-11 Denso It Laboratory Inc 3次元座標取得装置
JP2007263657A (ja) * 2006-03-28 2007-10-11 Denso It Laboratory Inc 3次元座標取得装置
WO2012032809A1 (ja) * 2010-09-06 2012-03-15 アイシン精機株式会社 運転支援装置
JP2013185905A (ja) * 2012-03-07 2013-09-19 Sony Corp 情報処理装置及び方法、並びにプログラム
JP2015172934A (ja) * 2014-02-24 2015-10-01 株式会社リコー 物体認識装置、物体認識方法
JP2015219212A (ja) * 2014-05-21 2015-12-07 京セラ株式会社 ステレオカメラ装置及び距離算出方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5011049B2 (ja) * 2007-09-28 2012-08-29 日立オートモティブシステムズ株式会社 画像処理システム
WO2011058876A1 (ja) * 2009-11-13 2011-05-19 富士フイルム株式会社 測距装置、測距方法、測距プログラムおよび測距システムならびに撮像装置
JP5639874B2 (ja) * 2010-12-24 2014-12-10 株式会社日立製作所 運転支援装置
JP2012189324A (ja) * 2011-03-08 2012-10-04 Ricoh Co Ltd ステレオカメラ
JP2013186042A (ja) * 2012-03-09 2013-09-19 Hitachi Automotive Systems Ltd 距離算出装置及び距離算出方法
JP2014202661A (ja) * 2013-04-08 2014-10-27 株式会社リコー 測距装置
JP5893601B2 (ja) * 2013-10-31 2016-03-23 富士重工業株式会社 車両制御システム
CN106662441B (zh) * 2014-09-11 2019-06-18 日立汽车***株式会社 图像处理装置
CN106347351A (zh) * 2016-09-28 2017-01-25 奇瑞汽车股份有限公司 一种带有自动紧急制动的自适应巡航方法及***

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020167726A1 (en) * 2001-03-08 2002-11-14 Rod Barman Method and apparatus for multi-nodal, three-dimensional imaging
JP2007263669A (ja) * 2006-03-28 2007-10-11 Denso It Laboratory Inc 3次元座標取得装置
JP2007263657A (ja) * 2006-03-28 2007-10-11 Denso It Laboratory Inc 3次元座標取得装置
WO2012032809A1 (ja) * 2010-09-06 2012-03-15 アイシン精機株式会社 運転支援装置
JP2013185905A (ja) * 2012-03-07 2013-09-19 Sony Corp 情報処理装置及び方法、並びにプログラム
JP2015172934A (ja) * 2014-02-24 2015-10-01 株式会社リコー 物体認識装置、物体認識方法
JP2015219212A (ja) * 2014-05-21 2015-12-07 京セラ株式会社 ステレオカメラ装置及び距離算出方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020022021A1 (ja) * 2018-07-27 2020-01-30 日立オートモティブシステムズ株式会社 距離算出装置
JP2020016628A (ja) * 2018-07-27 2020-01-30 日立オートモティブシステムズ株式会社 距離算出装置
JP7042185B2 (ja) 2018-07-27 2022-03-25 日立Astemo株式会社 距離算出装置
WO2023067867A1 (ja) * 2021-10-21 2023-04-27 日立Astemo株式会社 車載制御装置、および、3次元情報取得方法
CN116279792A (zh) * 2023-05-22 2023-06-23 深圳市聚力得电子股份有限公司 一种车载智能转向控制***
CN116279792B (zh) * 2023-05-22 2023-07-18 深圳市聚力得电子股份有限公司 一种车载智能转向控制***

Also Published As

Publication number Publication date
CN110053625A (zh) 2019-07-26
JP6620175B2 (ja) 2019-12-11
CN110053625B (zh) 2022-03-11

Similar Documents

Publication Publication Date Title
CN111442776B (zh) 顺序地面场景图像投影合成与复杂场景重构的方法及设备
JP6833630B2 (ja) 物体検出装置、物体検出方法およびプログラム
US11216673B2 (en) Direct vehicle detection as 3D bounding boxes using neural network image processing
CN107798699B (zh) 用立体图像进行深度图估计
CN108496178B (zh) 用于估计未来路径的***和方法
JP5926228B2 (ja) 自律車両用の奥行き検知方法及びシステム
US11373532B2 (en) Pothole detection system
JP4676373B2 (ja) 周辺認識装置、周辺認識方法、プログラム
US6734787B2 (en) Apparatus and method of recognizing vehicle travelling behind
KR20210078439A (ko) 카메라 대 lidar 교정 및 검증
JP6552448B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
EP3942794B1 (en) Depth-guided video inpainting for autonomous driving
US11200432B2 (en) Method and apparatus for determining driving information
KR101573576B1 (ko) Avm 시스템의 이미지 처리 방법
WO2019208101A1 (ja) 位置推定装置
JP6471522B2 (ja) カメラパラメータ調整装置
JP6278791B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム
CN110053625B (zh) 距离计算装置和车辆控制装置
CN110378836B (zh) 获取对象的3d信息的方法、***和设备
US20200193184A1 (en) Image processing device and image processing method
JP6841553B2 (ja) 撮像装置
US20240177417A1 (en) Vehicle environment modeling with a camera
JP2024515761A (ja) データ駆動型の動的に再構成された視差マップ
US20230421739A1 (en) Robust Stereo Camera Image Processing Method and System
CN113170057A (zh) 摄像部控制装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180927

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190704

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191118

R150 Certificate of patent or registration of utility model

Ref document number: 6620175

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150