JP2016206775A - 走行路面検出装置及び走行路面検出方法 - Google Patents

走行路面検出装置及び走行路面検出方法 Download PDF

Info

Publication number
JP2016206775A
JP2016206775A JP2015084915A JP2015084915A JP2016206775A JP 2016206775 A JP2016206775 A JP 2016206775A JP 2015084915 A JP2015084915 A JP 2015084915A JP 2015084915 A JP2015084915 A JP 2015084915A JP 2016206775 A JP2016206775 A JP 2016206775A
Authority
JP
Japan
Prior art keywords
road surface
parallax
height
traveling road
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015084915A
Other languages
English (en)
Other versions
JP6358160B2 (ja
Inventor
西嶋 征和
Masakazu Nishijima
征和 西嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2015084915A priority Critical patent/JP6358160B2/ja
Priority to US15/075,576 priority patent/US9898669B2/en
Priority to CN201610182377.2A priority patent/CN106056569B/zh
Priority to EP16165615.2A priority patent/EP3082068B1/en
Publication of JP2016206775A publication Critical patent/JP2016206775A/ja
Application granted granted Critical
Publication of JP6358160B2 publication Critical patent/JP6358160B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mechanical Engineering (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】走行路面を精度良く検出する。
【解決手段】領域特定部22Aは、視差画像に基づいて、路面領域と、立体物存在領域と、路面領域及び立体物存在領域以外の不確定領域とを特定する。視差高さ特定部22Dは、不確定領域のうち、路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む領域を視差高さ存在領域として特定する。走行路面検出部22Bは、撮像画像上において、車両Vから離れる方向に向かって順次延長されるように走行路面を検出する。なお、走行路面検出部22Bは、立体物存在領域及び不確定領域と、車両Vから見て立体物存在領域及び不確定領域よりも車両Vから離れる方向側の領域とを走行路面として検出しない。
【選択図】図1

Description

本発明の種々の側面は、車両の走行路面を検出する走行路面検出装置、及び走行路面検出方法に関する。
従来、車両の周囲の撮像画像の視差情報から、車両が走行する走行路面と、立体物が存在する立体物存在領域とを検出し、車両から見て立体物存在領域の手前までの領域を走行領域として検出する走行路面検出装置がある。このような走行路面検出装置として、例えば、下記の特許文献1に記載された装置が知られている。
米国特許出願公開第2014/0071240号明細書
ここで、走行路面検出装置は、視差情報に基づいて立体物の検出を行う場合、例えば立体物が細い等のときには、立体物を精度良く検出できないことがある。この場合、走行路面検出装置は、実際には立体物が存在するにもかかわらず、当該立体物が存在する領域及び当該立体物が存在する領域からさらに先の領域を、走行路面として検出することがある。
そこで、本発明の種々の側面は、走行路面を精度良く検出可能な走行路面検出装置及び走行路面検出方法を提供することを目的とする。
本発明の一側面は、車両の走行路面を検出する走行路面検出装置であって、車載カメラの撮像した車両の周囲の撮像画像に基づいて、視差情報が対応付けられた画素である視差点を含む視差画像を生成する視差画像生成部と、視差画像に基づいて、車両の周囲の路面領域と、立体物が存在する立体物存在領域と、車両の周囲において路面領域及び立体物存在領域以外の不確定領域とを特定する領域特定部と、撮像画像上において、車両から離れる方向に向かって順次延長されるように走行路面を検出する走行路面検出部と、視差情報に基づいて路面領域内の路面の高さ位置を推定する路面高さ推定部と、推定された路面の高さ位置と、視差情報とに基づいて、不確定領域のうち路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む領域を視差高さ存在領域として特定する視差高さ特定部と、を備え、走行路面検出部は、立体物存在領域及び視差高さ存在領域と、車両から見て立体物存在領域及び視差高さ存在領域よりも車両から離れる方向側の領域とを走行路面として検出しない。
この走行路面検出装置において視差高さ特定部は、推定された路面の高さ位置と、視差情報とに基づいて、不確定領域のうち、路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む視差高さ存在領域を特定する。走行路面検出部は、立体物存在領域及び視差高さ存在領域と、車両から見て立体物存在領域及び視差高さ存在領域よりも車両から離れる方向側の領域とを走行路面として検出しない。このように、走行路面検出装置は、立体物存在領域及び視差高さ存在領域と、車両から見て立体物存在領域及び視差高さ存在領域よりも車両から離れる方向側の領域とを走行路面として検出しないので、立体物を精度良く検出できない場合であっても、走行路面では無い領域を除外して走行路面を精度良く検出することができる。
本発明の他の一側面は、車両の走行路面を検出する走行路面検出装置の走行路面検出方法であって、走行路面検出装置の視差画像生成部により、車載カメラの撮像した車両の周囲の撮像画像に基づいて、視差情報が対応付けられた画素である視差点を含む視差画像を生成する視差画像生成工程と、走行路面検出装置の領域特定部により、視差画像に基づいて、車両の周囲の路面領域と、立体物が存在する立体物存在領域と、車両の周囲において路面領域及び立体物存在領域以外の不確定領域とを特定する領域特定工程と、走行路面検出装置の走行路面検出部により、撮像画像上において、車両から離れる方向に向かって順次延長されるように走行路面を検出する走行路面検出工程と、走行路面検出装置の路面高さ推定部により、視差情報に基づいて路面領域内の路面の高さ位置を推定する路面高さ推定工程と、走行路面検出装置の視差高さ特定部により、推定された路面の高さ位置と、視差情報とに基づいて、不確定領域のうち路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む領域を視差高さ存在領域として特定する視差高さ特定工程と、を含み、走行路面検出工程では、立体物存在領域及び視差高さ存在領域と、車両から見て立体物存在領域及び視差高さ存在領域よりも車両から離れる方向側の領域とを走行路面として検出しない。
この走行路面検出装置は、視差高さ特定工程において、推定された路面の高さ位置と、視差情報とに基づいて、不確定領域のうち、路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む視差高さ存在領域を特定する。走行路面検出装置は、走行路面検出工程において、立体物存在領域及び視差高さ存在領域と、車両から見て立体物存在領域及び視差高さ存在領域よりも車両から離れる方向側の領域とを走行路面として検出しない。このように、走行路面検出方法によれば、立体物存在領域及び視差高さ存在領域と、車両から見て立体物存在領域及び視差高さ存在領域よりも車両から離れる方向側の領域とを走行路面として検出しないので、立体物を精度良く検出できない場合であっても、走行路面では無い領域を除外して走行路面を精度良く検出することができる。
本発明の種々の側面によれば、走行路面を精度良く検出できる。
走行路面検出装置の概略構成を示す図である。 視差画像中の横方向位置を横軸とし、視差を縦軸とした視差投票マップを示す図である。 (a)は立体物の属性が設定されたブロックに分類された視差点を示す図であり、(b)は路面の属性が設定されたブロックに分類された視差点を示す図であり、(c)は不確定の属性が設定されたブロックに分類された視差点を示す図であり、(d)は視差高さ存在の属性が設定されたブロックに分類された視差点を示す図である。 撮像画像上に設定された放射線に沿って走行路面を検出する様子を示す図である。 立体物存在領域及び視差高さ存在領域等を特定する処理の流れを示すフローチャートである。 視差高さ存在領域等の特定結果に基づいて走行路面を検出する処理の流れを示すフローチャートである。
以下、本発明の実施形態について図面を参照しながら説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
図1に示すように、本実施形態に係る走行路面検出装置1は、例えば、乗用車等の車両Vに搭載され、車両Vの周囲を撮像した撮像画像から得られた視差情報(車載カメラからの距離情報)に基づいて、走行路面を検出する。走行路面とは、例えば、車両Vの走行可能な道路の路面である。なお、走行路面には、車両Vの走行する道路の路面の他、駐車場の通路及び駐車スペースの路面が含まれてもよい。
走行路面検出装置1は、車両Vの周囲を撮像する車載カメラにより撮像画像を取得し、撮像画像から生成した視差画像の視差情報(視差)に基づいて走行路面を検出する。視差画像とは、視差情報を含む画像である。
図1に示すように、走行路面検出装置1は、走行路面を検出するためのECU[Electronic Control Unit]2、及びステレオカメラ(車載カメラ)3を備えている。ECU2は、CPU[Central Processing Unit]、ROM[Read Only Memory]、RAM[Random Access Memory]等を有する電子制御ユニットである。ECU2では、ROMに記憶されているプログラムをRAMにロードし、CPUで実行することで、各種の処理を実行する。ECU2は、複数の電子制御ユニットから構成されていてもよい。
ステレオカメラ3は、車両Vの周囲を撮像して撮像画像を取得する画像取得機器である。ステレオカメラ3は、両眼視差を再現するように配置された第一カメラ3A及び第二カメラ3Bを有している。第一カメラ3A及び第二カメラ3Bは、例えば、車両Vのフロントガラスの裏側に設けられ、車両Vの前方を撮像する。
なお、走行路面検出装置1は、ステレオカメラ3に代えて、単眼カメラを備えていてもよい。単眼カメラにおいても、周知の手法(例えば撮像の時間差を利用した手法)を用いることにより、撮像画像から視差画像を得ることができる。
次に、ECU2の機能的構成について説明する。図1に示すように、ECU2は、画像取得部(視差画像生成部)21、検出部22、及び路面情報出力部23を有している。
画像取得部21は、ステレオカメラ3の撮像した撮像画像を取得する。画像取得部21は、例えば、ステレオカメラ3における第一カメラ3Aの撮像画像及び第二カメラ3Bの撮像画像に基づいて、周知の手法により視差情報を含む視差画像を生成する。例えば、視差画像を構成する各画素に視差情報が対応付けられている。以下、視差情報が対応付けられた視差画像中の画素を視差点という。
検出部22は、視差情報に基づいて、ステレオカメラ3の撮像画像中の走行路面を検出する。なお、例えば、検出部22は、ステレオカメラ3の撮像画像として、第一カメラ3A又は第二カメラ3Bによって撮像されたいずれかの撮像画像を用いることができる。より詳細には、検出部22は、領域特定部22A、走行路面検出部22B、路面高さ推定部22C、及び視差高さ特定部22Dを有している。
領域特定部22Aは、画像取得部21で生成された視差画像の視差情報に基づいて、路面領域と、立体物存在領域と、不確定領域とを特定する。路面領域とは、車両Vの周囲の路面の領域である。立体物存在領域とは、車両Vの周囲において、立体物が存在する領域である。不確定領域とは、車両Vの周囲において、路面領域及び立体物存在領域以外の領域である。
一例として、領域特定部22Aは、次のようにして路面領域と、立体物存在領域と、不確定領域とを特定してもよい。まず、領域特定部22Aは、図2に示すような視差投票マップを設定する。図2の視差投票マップは、横方向の辺が視差画像の横方向(水平方向)の位置に対応し且つ縦方向の辺が視差の大きさに対応するように定められた複数の矩形状のブロックを配列させて構成されている。領域特定部22Aは、視差画像中の視差点の位置、及び視差点の視差の大きさに基づいて、視差投票マップを構成する複数のブロックのうち対応するブロックに視差点を分類(投票)する。このようにして、領域特定部22Aは、視差投票マップのブロックと、各視差点とを対応させる。
次に、領域特定部22Aは、視差投票マップのブロックのそれぞれについて、視差の平均値、視差の偏差、視差点における視差画像の縦方向の座標の平均値、視差点における視差画像の縦方向の座標の偏差を算出する。
領域特定部22Aは、視差投票マップのブロックのそれぞれに対し、視差点の縦方向の分布が大きく、且つ、視差方向の分布が小さいブロックに立体物の属性を設定する。具体的には、領域特定部22Aは、例えば、視差点の縦方向の分布(視差点における視差画像の縦方向の座標の偏差)が、予め設定された第一閾値以上か否かを判定する。また、領域特定部22Aは、例えば、視差方向の分布(視差点における視差画像の縦方向の座標の偏差/視差の偏差)が、第二閾値以上か否かを判定する。領域特定部22Aは、視差点の縦方向の分布が予め設定された第一閾値以上、且つ視差方向の分布が第二閾値以上の場合に、当該ブロックに立体物の属性を設定する。すなわち、立体物の属性が設定されたブロック内には、第一閾値以上の高さの立体物が存在する。領域特定部22Aは、立体物の属性が設定されたブロックに分類された視差点を、立体物候補点として特定する。
例えば、図3(a)に示すように、視差投票マップのブロック内に、同程度の視差(距離)を有する視差点が視差画像における縦方向の位置の広い範囲に分布している場合、領域特定部22Aは、当該視差点の集合は立体物を示していると判定することができる。
また、領域特定部22Aは、視差投票マップのブロックのそれぞれに対し、視差点の縦方向の分布が小さく、且つ、視差方向の分布が大きいブロックに路面の属性を設定する。具体的には、領域特定部22Aは、例えば、視差点の縦方向の分布(視差点における視差画像の縦方向の座標の偏差)が、予め設定された第三閾値未満か否かを判定する。また、領域特定部22Aは、例えば、視差方向の分布(視差点における視差画像の縦方向の座標の偏差/視差の偏差)が、第四閾値未満か否かを判定する。領域特定部22Aは、視差点の縦方向の分布が予め設定された第三閾値未満、且つ視差方向の分布が第四閾値未満の場合に、当該ブロックに路面の属性を設定する。領域特定部22Aは、路面の属性が設定されたブロックに分類された視差点を、路面候補点として特定する。
例えば、図3(b)に示すように、視差投票マップのブロック内に、同程度の視差(距離)を有する視差点が視差画像における縦方向の位置の狭い範囲に分布し、視差が減少するにつれて(距離が増大するにつれて)、滑らかに視差画像における縦方向の位置が上昇している場合、領域特定部22Aは、当該視差点の集合は路面を示していると判定することができる。
また、領域特定部22Aは、視差投票マップのブロックのうち、路面の属性及び立体物の属性のいずれも設定されていないブロックに、不確定の属性を設定する。領域特定部22Aは、立体物又は路面とは特定されずに不確定の属性が設定されたブロックに分類された視差点を、不確定候補点として特定する。不確定の属性が設定されたブロックとは、立体物の属性が設定されるほどの高さを有さない物体、或いは横幅の細い物体等を含むブロックであってもよい。また、不確定の属性が設定されたブロックとは、分類(投票)された視差点の数が予め設定された基準数未満であるために、不確定の属性が設定されたブロックであってもよい。また、不確定の属性が設定されたブロックとは、立体物が存在するかが不明なブロックであってもよい。
具体的には、不確定の属性が設定されたブロックとは、例えば、図3(c)に示すように、ブロック内の視差点の数が少ないために、視差点の集合が表す対象物を判定することができないブロックが含まれていてもよい。また、不確定の属性が設定されたブロックとは、例えば、図3(d)に示すように、同程度の視差(距離)を有する視差点が視差画像における縦方向の位置の狭い範囲に分布しているブロックが含まれていてもよい。同程度の視差(距離)を有する視差点が視差画像における縦方向の位置の狭い範囲に分布しているブロックとは、高さの低い立体物を含むブロックであってもよい。
領域特定部22Aは、ステレオカメラ3の撮像画像に対して、予め定められた間隔でグリッドを設定する(図4参照)。そして、領域特定部22Aは、視差点を撮像画像に対応させ、各グリッドのうち立体物候補点が存在するグリッドを立体物存在領域として特定する。また、領域特定部22Aは、各グリッドのうち路面候補点のみが存在する領域を、路面領域として特定する。領域特定部22Aは、各グリッドのうち不確定候補点が存在するグリッドを、不確定領域として特定する。
路面高さ推定部22Cは、視差情報に基づいて、車両Vの周囲の路面の高さ位置を推定する。具体的には、まず、路面高さ推定部22Cは、領域特定部22Aによって路面領域として特定されたグリッド内の路面候補点に基づいて、路面の高さ位置を推定する。路面高さ推定部22Cは、路面候補点に基づいた路面の高さ位置の推定を、例えば、公知のV-disparity画像を用いて行うことができる。
視差高さ特定部22Dは、推定された路面の高さ位置と、視差情報とに基づいて、不確定領域として特定されたグリッドのうち視差高さ存在領域を特定する。視差高さ存在領域とは、不確定領域として特定されたグリッドのうち、路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む領域である。
具体的には、まず、視差高さ特定部22Dは、路面高さ推定部22Cによって推定された路面の高さ位置を基準高さ位置として用いる。そして、視差高さ特定部22Dは、各グリッド内における不確定候補点の集合に対し、基準高さ位置からの高さを算出する。例えば、視差高さ特定部22Dは、基準高さ位置と不確定候補点の分布とに基づいて、当該不確定候補点の集合における基準高さ位置からの高さを算出する。すなわち、視差高さ特定部22Dは、不確定候補点が表す物体における基準高さ位置からの高さを算出する。視差高さ特定部22Dは、算出した不確定候補点の集合における基準高さ位置からの高さが、予め定められた閾値以上であるか否かを判定する。視差高さ特定部22Dは、算出した不確定候補点の集合における基準高さ位置からの高さが、予め定められた閾値以上である場合、当該不確定候補点の集合を含むグリッドを視差高さ存在領域として特定する。すなわち、視差高さ特定部22Dは、領域特定部22Aによって不確定領域として特定されたグリッドに対し、不確定から視差高さ存在に属性を書き換える。例えば、図3(d)に示す視差点の集合を含むグリッドが、視差高さ存在領域として特定されてもよい。
このように、視差高さ存在領域として特定されたグリッドは、視差点の集合体の高さ幅が不足しているために領域特定部22Aによって立体物存在領域として特定されなかったが、立体物として特定されるほどの高さは無いものの路面からの高さをある程度有する視差点の集合体を含むブロックである。すなわち、視差高さ存在領域として特定されたグリッドは、路面からの高さをある程度有する視差点の集合体を含むために、少なくとも走行路面では無いとして特定されたグリッドである。
走行路面検出部22Bは、撮像画像上において、車両Vから離れる方向に向かって順次延長されるように走行路面を検出する。本実施形態において走行路面検出部22Bは、撮像画像に設定されたグリッドに対して、車両Vから放射方向に広がるように順次、走行路面を検出する。この場合、例えば、走行路面検出部22Bは、撮像画像上において、車両Vを中心として車両Vから予め定められた角度で広がるように複数の放射線L(図4参照)を設定する。そして、走行路面検出部22Bは、放射線Lが通過するグリッドに対し、車両Vに近い側から遠い側に向かって順番に、走行路面の領域が延長されるように走行路面を検出する。また、走行路面検出部22Bは、放射線Lが通過するグリッドが視差高さ存在領域或いは立体物存在領域である場合、放射線L上において、視差高さ存在領域及び立体物存在領域と、車両Vから見て視差高さ存在領域及び立体物存在領域よりも車両Vから離れる方向側の領域とを走行路面として検出しない。
具体的には、まず、走行路面検出部22Bは、放射線Lが通過するグリッドにおいて車両Vに最も近いグリッドが、視差高さ存在領域或いは立体物存在領域であるか否かを判定する。視差高さ存在領域或いは立体物存在領域では無い場合、走行路面検出部22Bは、当該グリッド内の視差点及び画素情報(輝度、テキスチャ等)の少なくともいずれかに基づいて、当該グリッド内の領域が走行路面であるか否かを判定する。走行路面検出部22Bは、視差点及び画素情報の少なくともいずれかに基づいて走行路面であるか否かを判定する方法として、既知の画像処理方法等、種々の方法を用いることができる。
グリッド内の領域が走行路面であると判定された場合、走行路面検出部22Bは、放射線Lが通過するグリッドにおいて、次に車両Vから近い位置に存在するグリッドについて、上述したように、視差高さ存在領域或いは立体物存在領域であるか否かを判定する。そして、上述したように、走行路面検出部22Bは、グリッド内の視差点及び画素情報の少なくともいずれかに基づいて、走行路面を検出する。
このように、走行路面検出部22Bは、放射線Lが通過するグリッドにおいて、車両Vに近い側から順次、走行路面の領域をつなげるように走行路面の検出を行う。すなわち、走行路面検出部22Bは、放射線Lが通過するグリッドにおいて、視差高さ存在領域或いは立体物存在領域であるグリッドよりも一つ手前のグリッド(一つ車両V側のグリッド)までを、又は視差点及び画素情報の少なくともいずれかに基づいて走行路面では無いと判定されたグリッドよりも一つ手前のグリッドまでを、走行路面として検出する。走行路面検出部22Bは、放射線Lに沿った走行路面の検出を、各放射線Lに対して順次行う。
図4に、検出された走行路面の一例を示す。なお、図4は、検出された走行路面の範囲を見やすくするために、ステレオカメラ3の撮像画像を車両Vの上方から見た状態に変換して示している。図4に示す例では、車両Vの前方に先行車両V1が走行している。この先行車両V1が存在するグリッドは、領域特定部22Aによって立体物存在領域として特定されたとする。また、車両Vの前方に2本のポールPが設置されている。このポールPが存在するグリッドは、領域特定部22Aによって不確定領域として特定され、視差高さ特定部22Dによって視差高さ存在領域として特定されたとする。例えば、ポールPが細いために、ポールPに対応する視差点は立体物候補点として特定されず、不確定候補点として特定されたとする。また、路面からのポールPの高さが予め定められた閾値以上であるため、視差高さ特定部22Dは、ポールPに対応する視差点(不確定候補点)の集合を含むグリッドを視差高さ存在領域として特定したとする。なお、図4において、図中の下側に車両Vが存在するとする。
上述のように、走行路面検出部22Bは、車両Vに近い側から放射線Lに沿って走行路面を検出する。走行路面検出部22Bは、放射線Lが通過するグリッドにおいて、視差高さ存在領域として特定されたポールPを含むグリッドを走行路面Rとして特定しない。なお、図4中において走行路面Rは、細かい点々が付された領域である。また、走行路面検出部22Bは、放射線Lが通過するグリッドにおいて、ポールPを含むグリッドよりも車両Vから離れる方向側の領域を走行路面Rとして検出しない。また、走行路面検出部22Bは、立体物存在領域として特定された先行車両V1を含むグリッドを走行路面Rとして特定しない。また、走行路面検出部22Bは、放射線Lが通過するグリッドにおいて、先行車両V1を含むグリッドよりも車両Vから離れる方向側の領域を走行路面Rとして検出しない。
路面情報出力部23は、検出部22によって検出された走行路面Rの情報を外部に出力する。路面情報出力部23は、例えば、車両Vの自動運転を行うECU又は車両Vの運転支援を行うECUに対して、走行路面Rの情報を出力してもよい。
次に、走行路面検出装置1で行われる走行路面検出方法の処理の流れについて説明する。なお、図5及び図6に示す走行路面Rを検出する処理は、例えば、車両Vがエンジン駆動中である間、予め設定された時間毎に実行される。まず、ステレオカメラ3の撮像画像から、立体物存在領域及び視差高さ存在領域等を特定する処理の流れについて、図5のフローチャートを用いて説明する。画像取得部21は、ステレオカメラ3の撮像した撮像画像を取得する(S101)。画像取得部21は、取得した撮像画像に基づいて視差画像を生成する(S102:視差画像生成工程)。領域特定部22Aは、例えば視差投票マップを用いて、視差画像中の視差点を、立体物候補点と、路面候補点と、不確定候補点とに分類する(S103)。
領域特定部22Aは、ステレオカメラ3の撮像画像に対してグリッドを設定する。そして、領域特定部22Aは、各グリッドのうち立体物候補点が存在するグリッドを立体物存在領域として特定し、路面候補点のみが存在する領域を路面領域として特定し、不確定候補点が存在するグリッドを不確定領域として特定する(S104:領域特定工程)。
路面高さ推定部22Cは、領域特定部22Aによって路面領域として特定されたグリッド内の路面候補点に基づいて、路面の高さ位置を推定する(S105:路面高さ推定工程)。視差高さ特定部22Dは、各グリッド内における不確定候補点の集合に対し、基準高さ位置からの高さを算出する。視差高さ特定部22Dは、算出した不確定候補点の集合における基準高さ位置からの高さが、予め定められた閾値以上である場合、当該不確定候補点の集合を含むグリッドを視差高さ存在領域として特定する(S106:視差高さ特定工程)。
次に、視差高さ存在領域等の特定結果に基づいて走行路面Rを検出する処理の流れについて、図6のフローチャートを用いて説明する。走行路面検出部22Bは、ステレオカメラ3の撮像画像上に、複数の放射線Lを設定する(S201)。走行路面検出部22Bは、複数の放射線Lのうち、走行路面Rの検出対象となる放射線Lを設定する(S202)。なお、S202の処理の実行が2回目以降である場合、走行路面検出部22Bは、複数の放射線Lのうち検出対象として設定されていない放射線Lを、検出対象の放射線Lとして設定する。
走行路面検出部22Bは、走行路面Rの検出対象となるグリッドを設定する(S203)。このグリッドとは、S104において撮像画像上に設定したグリッドである。具体的には、走行路面検出部22Bは、S202で設定した検出対象となる放射線Lが通過するグリッドにおいて、車両Vに最も近いグリッドを検出対象のグリッドとして設定する。なお、S203の処理の実行が2回目以降である場合、走行路面検出部22Bは、前回S203の処理を行う際に検出対象として設定したグリッドよりも車両Vから一つ離れた側に位置するグリッドを検出対象として設定する。このように、走行路面検出部22Bは、放射線Lが通過するグリッドにおいて、車両Vに近い側から離れる側に向かって順に、検出対象となるグリッドを順次設定する。
走行路面検出部22Bは、検出対象として設定されたグリッドが視差高さ存在領域であるか否かを判定する(S204:走行路面検出工程)。検出対象として設定されたグリッドが視差高さ存在領域である場合(S204:YES)、走行路面検出部22Bは、検出対象として設定されたグリッドを走行路面Rとして検出しない。そして、走行路面検出部22Bは、S201で設定した全ての放射線Lについて、走行路面Rの検出処理が終了したか否かを判定する(S205)。全ての放射線Lについて走行路面Rの検出処理が終了している場合(S205:YES)、路面情報出力部23は、走行路面検出部22Bによって検出された走行路面Rの情報を外部に出力する(S206)。全ての放射線Lについて走行路面Rの検出処理が終了していない場合(S205:NO)、走行路面検出部22Bは、上述のS202の処理を行う。
検出対象として設定されたグリッドが視差高さ存在領域でない場合(S204:NO)、走行路面検出部22Bは、検出対象として設定されたグリッドが立体物存在領域であるか否かを判定する(S207:走行路面検出工程)。検出対象として設定されたグリッドが立体物存在領域である場合(S207:YES)、走行路面検出部22Bは、検出対象として設定されたグリッドを走行路面Rとして検出しない。そして、走行路面検出部22Bは、上述のS205の処理を行う。
検出対象として設定されたグリッドが立体物存在領域でない場合(S207:NO)、走行路面検出部22Bは、検出対象として設定されたグリッド内の視差点及び画素情報の少なくともいずれかに基づいて、検出対象として設定されたグリッド内の領域が走行路面Rであるか否かを判定する(S208)。検出対象として設定されたグリッド内の領域が走行路面Rでない場合(S208:NO)、走行路面検出部22Bは、検出対象として設定されたグリッドを走行路面Rとして検出しない。そして、走行路面検出部22Bは、上述のS205の処理を行う。
検出対象として設定されたグリッド内の領域が走行路面Rである場合(S208:YES)、走行路面検出部22Bは、検出対象として設定されたグリッドを走行路面Rとして検出する(S209:走行路面検出工程)。次に、走行路面検出部22Bは、S202で設定された放射線Lが通過する全てのグリッドについて、走行路面Rの検出処理が終了したか否かを判定する(S210)。全てのグリッドについて走行路面Rの検出処理が終了した場合(S210:YES)、走行路面検出部22Bは、上述のS205の処理を行う。全てのグリッドについて走行路面Rの検出処理が終了していない場合(S210:NO)、走行路面検出部22Bは、上述のS203の処理を行う。
ここで、全てのグリッドについて走行路面Rの検出処理が終了した場合とは、放射線L上において、さらに先のグリッドが無くなった場合であってもよい。また、全てのグリッドについて走行路面Rの検出処理が終了した場合とは、車両Vから予め設定された範囲に対して走行路面Rの検出処理が全て終了した場合であってもよい。
本実施形態は以上のように構成され、視差高さ特定部22Dは、路面高さ推定部22Cによって推定された路面の高さ位置と、視差情報とに基づいて、不確定領域のうち、路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む領域を視差高さ存在領域として特定する。走行路面検出部22Bは、立体物存在領域及び視差高さ存在領域と、車両Vから見て立体物存在領域及び視差高さ存在領域よりも車両Vから離れる方向側の領域とを走行路面Rとして検出しない。ここで、視差高さ存在領域は、立体物は検出されなかったものの、路面からの高さをある程度有する視差点の集合体を含むために、少なくとも走行路面Rでは無い領域である。このように、走行路面検出装置1は、立体物存在領域及び視差高さ存在領域と、車両Vから見て立体物存在領域及び視差高さ存在領域よりも車両Vから離れる方向側の領域とを走行路面Rとして検出しないので、立体物を精度良く検出できない場合であっても、走行路面では無い領域を除外して走行路面Rを精度良く検出することができる。
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されるものではない。例えば、走行路面検出部22Bは、車両Vから予め定められた角度で広がる放射線Lに沿って走行路面Rを検出したが、放射線L以外の基準線に沿って走行路面Rを検出してもよい例えば、走行路面検出部22Bは、ステレオカメラ3の撮像画像上において、車両Vの進行方向に平行な基準線を、車幅方向に所定の間隔で複数設定する。そして、走行路面検出部22Bは、設定された基準線に沿って、車両Vの手前側から順次走行路面Rの検出を行ってもよい。
1…走行路面検出装置、3…ステレオカメラ(車載カメラ)、21…画像取得部(視差画像生成部)、22A…領域特定部、22B…走行路面検出部、22C…路面高さ推定部、22D…視差高さ特定部、R…走行路面、V…車両。

Claims (2)

  1. 車両の走行路面を検出する走行路面検出装置であって、
    車載カメラの撮像した車両の周囲の撮像画像に基づいて、視差情報が対応付けられた画素である視差点を含む視差画像を生成する視差画像生成部と、
    前記視差画像に基づいて、前記車両の周囲の路面領域と、立体物が存在する立体物存在領域と、前記車両の周囲において前記路面領域及び前記立体物存在領域以外の不確定領域とを特定する領域特定部と、
    前記撮像画像上において、前記車両から離れる方向に向かって順次延長されるように前記走行路面を検出する走行路面検出部と、
    前記視差情報に基づいて前記路面領域内の路面の高さ位置を推定する路面高さ推定部と、
    推定された前記路面の高さ位置と、前記視差情報とに基づいて、前記不確定領域のうち前記路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む領域を視差高さ存在領域として特定する視差高さ特定部と、
    を備え、
    前記走行路面検出部は、前記立体物存在領域及び前記視差高さ存在領域と、前記車両から見て前記立体物存在領域及び前記視差高さ存在領域よりも前記車両から離れる方向側の領域とを前記走行路面として検出しない、走行路面検出装置。
  2. 車両の走行路面を検出する走行路面検出装置の走行路面検出方法であって、
    前記走行路面検出装置の視差画像生成部により、車載カメラの撮像した車両の周囲の撮像画像に基づいて、視差情報が対応付けられた画素である視差点を含む視差画像を生成する視差画像生成工程と、
    前記走行路面検出装置の領域特定部により、前記視差画像に基づいて、前記車両の周囲の路面領域と、立体物が存在する立体物存在領域と、前記車両の周囲において前記路面領域及び前記立体物存在領域以外の不確定領域とを特定する領域特定工程と、
    前記走行路面検出装置の走行路面検出部により、前記撮像画像上において、前記車両から離れる方向に向かって順次延長されるように前記走行路面を検出する走行路面検出工程と、
    前記走行路面検出装置の路面高さ推定部により、前記視差情報に基づいて前記路面領域内の路面の高さ位置を推定する路面高さ推定工程と、
    前記走行路面検出装置の視差高さ特定部により、推定された前記路面の高さ位置と、前記視差情報とに基づいて、前記不確定領域のうち前記路面の高さ位置から予め定められた閾値以上の高さを有する視差点を含む領域を視差高さ存在領域として特定する視差高さ特定工程と、
    を含み、
    前記走行路面検出工程では、前記立体物存在領域及び前記視差高さ存在領域と、前記車両から見て前記立体物存在領域及び前記視差高さ存在領域よりも前記車両から離れる方向側の領域とを前記走行路面として検出しない、走行路面検出方法。
JP2015084915A 2015-04-17 2015-04-17 走行路面検出装置及び走行路面検出方法 Active JP6358160B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015084915A JP6358160B2 (ja) 2015-04-17 2015-04-17 走行路面検出装置及び走行路面検出方法
US15/075,576 US9898669B2 (en) 2015-04-17 2016-03-21 Traveling road surface detection device and traveling road surface detection method
CN201610182377.2A CN106056569B (zh) 2015-04-17 2016-03-28 行驶路面检测装置和行驶路面检测方法
EP16165615.2A EP3082068B1 (en) 2015-04-17 2016-04-15 Traveling road surface detection device and traveling road surface detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015084915A JP6358160B2 (ja) 2015-04-17 2015-04-17 走行路面検出装置及び走行路面検出方法

Publications (2)

Publication Number Publication Date
JP2016206775A true JP2016206775A (ja) 2016-12-08
JP6358160B2 JP6358160B2 (ja) 2018-07-18

Family

ID=55808387

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015084915A Active JP6358160B2 (ja) 2015-04-17 2015-04-17 走行路面検出装置及び走行路面検出方法

Country Status (4)

Country Link
US (1) US9898669B2 (ja)
EP (1) EP3082068B1 (ja)
JP (1) JP6358160B2 (ja)
CN (1) CN106056569B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016206774A (ja) * 2015-04-17 2016-12-08 トヨタ自動車株式会社 立体物検出装置及び立体物検出方法
EP3333828B1 (en) * 2015-08-04 2020-12-09 Nissan Motor Co., Ltd. Step detection device and step detection method
CN105740802A (zh) * 2016-01-28 2016-07-06 北京中科慧眼科技有限公司 基于视差图的障碍物检测方法和装置及汽车驾驶辅助***
JP6669059B2 (ja) 2016-12-27 2020-03-18 トヨタ自動車株式会社 位置算出装置
JP6960827B2 (ja) * 2017-11-08 2021-11-05 フォルシアクラリオン・エレクトロニクス株式会社 路面領域検出装置
CN108399360B (zh) * 2018-01-22 2021-12-24 海信集团有限公司 一种连续型障碍物检测方法、装置及终端
CN108573215B (zh) * 2018-03-16 2021-08-03 海信集团有限公司 道路反光区域检测方法、装置和终端
JP7176478B2 (ja) 2019-06-14 2022-11-22 トヨタ自動車株式会社 画像認識装置
JP7229129B2 (ja) * 2019-09-05 2023-02-27 京セラ株式会社 物体検出装置、物体検出システム、移動体及び物体検出方法
CN112697072B (zh) * 2020-12-03 2023-04-25 湖北文理学院 精度自检的路面三维纹理测量方法及***、存储介质
CN117808868A (zh) * 2023-12-28 2024-04-02 上海保隆汽车科技股份有限公司 一种车辆控制方法、基于双目立体视觉的道路凹凸特征检测方法、检测***、检测设备及计算机可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006236104A (ja) * 2005-02-25 2006-09-07 Toyota Central Res & Dev Lab Inc 対象物判定装置
WO2010032523A1 (ja) * 2008-09-17 2010-03-25 株式会社 日立製作所 道路境界検出判断装置
US20140071240A1 (en) * 2012-09-11 2014-03-13 Automotive Research & Testing Center Free space detection system and method for a vehicle using stereo vision
WO2015053100A1 (ja) * 2013-10-07 2015-04-16 日立オートモティブシステムズ株式会社 物体検出装置及びそれを用いた車両

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4876080B2 (ja) * 2008-01-25 2012-02-15 富士重工業株式会社 環境認識装置
JP2012226689A (ja) * 2011-04-22 2012-11-15 Fuji Heavy Ind Ltd 環境認識装置および環境認識方法
CN103679127B (zh) * 2012-09-24 2017-08-04 株式会社理光 检测道路路面的可行驶区域的方法和装置
JP6344638B2 (ja) * 2013-03-06 2018-06-20 株式会社リコー 物体検出装置、移動体機器制御システム及び物体検出用プログラム
CN103955920B (zh) * 2014-04-14 2017-04-12 桂林电子科技大学 基于三维点云分割的双目视觉障碍物检测方法
US20160019429A1 (en) * 2014-07-17 2016-01-21 Tomoko Ishigaki Image processing apparatus, solid object detection method, solid object detection program, and moving object control system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006236104A (ja) * 2005-02-25 2006-09-07 Toyota Central Res & Dev Lab Inc 対象物判定装置
WO2010032523A1 (ja) * 2008-09-17 2010-03-25 株式会社 日立製作所 道路境界検出判断装置
US20140071240A1 (en) * 2012-09-11 2014-03-13 Automotive Research & Testing Center Free space detection system and method for a vehicle using stereo vision
WO2015053100A1 (ja) * 2013-10-07 2015-04-16 日立オートモティブシステムズ株式会社 物体検出装置及びそれを用いた車両

Also Published As

Publication number Publication date
CN106056569A (zh) 2016-10-26
US9898669B2 (en) 2018-02-20
US20160307051A1 (en) 2016-10-20
EP3082068A1 (en) 2016-10-19
EP3082068B1 (en) 2023-01-04
CN106056569B (zh) 2019-03-29
JP6358160B2 (ja) 2018-07-18

Similar Documents

Publication Publication Date Title
JP6358160B2 (ja) 走行路面検出装置及び走行路面検出方法
US9771080B2 (en) Road surface gradient detection device
CN108520536B (zh) 一种视差图的生成方法、装置及终端
US10041791B2 (en) Object detection apparatus method
JP6156400B2 (ja) 走行路面検出装置及び走行路面検出方法
US9042639B2 (en) Method for representing surroundings
JP6201148B2 (ja) キャリブレーション装置、キャリブレーション方法、キャリブレーション機能を備えた移動体搭載用カメラ及びプログラム
JP2009176087A (ja) 車両用環境認識装置
JP2016120892A (ja) 立体物検出装置、立体物検出方法および立体物検出プログラム
EP3545464A1 (en) Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium
JP2017010553A (ja) 道路境界物の検出方法及び検出装置
CN108197590B (zh) 一种路面检测方法、装置、终端及存储介质
JP2008262333A (ja) 路面判別装置および路面判別方法
EP3082069A1 (en) Stereoscopic object detection device and stereoscopic object detection method
JP6455164B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP6543935B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
JP6458577B2 (ja) 画像測距装置
JP6519138B2 (ja) 視差値導出装置、移動体、ロボット、視差値生産方法、及びプログラム
JP6295556B2 (ja) 物体分割装置及び方法
JP2016224797A (ja) 落下物検出装置
KR101289386B1 (ko) 스테레오 비전 기반의 장애물체 검출 및 분리 방법과 이를 실행하는 장치
JP2014119858A (ja) 画像処理装置
WO2018097269A1 (en) Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium
EP2919191B1 (en) Disparity value deriving device, equipment control system, movable apparatus, robot, and disparity value producing method
CN110598505B (zh) 障碍物悬空状态判断方法、装置及终端

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180522

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180604

R151 Written notification of patent or utility model registration

Ref document number: 6358160

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151