JP2016206774A - 立体物検出装置及び立体物検出方法 - Google Patents
立体物検出装置及び立体物検出方法 Download PDFInfo
- Publication number
- JP2016206774A JP2016206774A JP2015084914A JP2015084914A JP2016206774A JP 2016206774 A JP2016206774 A JP 2016206774A JP 2015084914 A JP2015084914 A JP 2015084914A JP 2015084914 A JP2015084914 A JP 2015084914A JP 2016206774 A JP2016206774 A JP 2016206774A
- Authority
- JP
- Japan
- Prior art keywords
- parallax
- dimensional object
- category
- road surface
- classified
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/225—Image signal generators using stereoscopic image cameras using a single 2D image sensor using parallax barriers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【課題】立体物を検出する精度を維持しつつ、演算負荷を軽減することができる立体物検出装置及び立体物検出方法を提供する。
【解決手段】第2分類部により、視差点が分類された集合それぞれについて、集合に属する視差点の視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ及び不明カテゴリのいずれかに集合が分類される。路面推定部により、路面カテゴリに分類された集合の視差点に基づいて路面が推定され、第3分類部により、推定された路面に基づいて、不明カテゴリに分類された集合の中から立体物に対応する集合が分類される。これにより、視差点と推定された路面とに基づいて立体物を検出する処理が、不明カテゴリに分類された視差点の集合に限定されるため、立体物を検出する精度を維持しつつ、演算負荷を軽減することができる。
【選択図】図2
【解決手段】第2分類部により、視差点が分類された集合それぞれについて、集合に属する視差点の視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ及び不明カテゴリのいずれかに集合が分類される。路面推定部により、路面カテゴリに分類された集合の視差点に基づいて路面が推定され、第3分類部により、推定された路面に基づいて、不明カテゴリに分類された集合の中から立体物に対応する集合が分類される。これにより、視差点と推定された路面とに基づいて立体物を検出する処理が、不明カテゴリに分類された視差点の集合に限定されるため、立体物を検出する精度を維持しつつ、演算負荷を軽減することができる。
【選択図】図2
Description
本発明の一側面及び他の側面は、立体物検出装置及び立体物検出方法に関する。
異なる視点それぞれから車載カメラにより車両の周囲を撮影することにより取得された互いに視差を有する複数の画像を表す画像データに基づいて、車両の周囲の立体物を検出する技術が提案されている。例えば、特許文献1の装置では、車載のステレオカメラにより取得された互いに視差を有する複数の画像を表す画像データが取得される。当該画像データに基づいて、複数の画像の各々において対応した点である視差点それぞれにおける視差を表す視差画像が生成される。生成された視差画像の視差点に関する情報に基づいて、車両の周囲の路面が推定される。視差点と推定された路面とに基づいて、路面から突出したバスや自動二輪車等の立体物が検出される。
ところで、上記特許文献1の装置においては、立体物を高精度で検出することができるが、演算負荷が大きい欠点があり、改善が望まれている。
そこで本発明は、立体物を検出する精度を維持しつつ、演算負荷を軽減することができる立体物検出装置及び立体物検出方法を提供することを目的とする。
本発明の一側面は、異なる視点それぞれから車載カメラにより車両の周囲を撮影することにより、互いに視差を有する複数の画像を表す画像データを取得する撮影部と、画像データに基づいて、複数の画像の各々において対応した点である視差点それぞれにおける視差を表す視差画像を生成する視差画像生成部と、視差画像における視差点の視差を複数の範囲ごとに区分する視差範囲と、視差画像における視差点の横方向の位置を複数の範囲ごとに区分する横方向位置範囲とを条件とする複数の集合それぞれに視差点を分類する第1分類部と、視差点が分類された集合それぞれについて、集合に属する視差点の視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ及び不明カテゴリを含む複数のカテゴリのいずれかに集合を分類する第2分類部と、路面カテゴリに分類された集合の視差点に基づいて、車両の周囲の路面を推定する路面推定部と、推定された路面に基づいて、不明カテゴリに分類された集合の中から立体物に対応する集合を分類する第3分類部とを備えた立体物検出装置である。
この構成によれば、第1分類部により、視差画像における視差点の視差範囲と横方向位置範囲とを条件とする複数の集合それぞれに視差点が分類され、第2分類部により、視差点が分類された集合それぞれについて、集合に属する視差点の視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ及び不明カテゴリを含む複数のカテゴリのいずれかに集合が分類される。これにより、少ない演算負荷により、立体物の視差点の集合と、路面の視差点の集合と、立体物の視差点であるか路面の視差点であるか不明である視差点の集合とを概括的に分類することができる。路面推定部により、路面カテゴリに分類された集合の視差点に基づいて路面が推定され、第3分類部により、推定された路面に基づいて、不明カテゴリに分類された集合の中から立体物に対応する集合が分類される。これにより、視差点と推定された路面とに基づいて立体物を検出する処理が、不明カテゴリに分類された視差点の集合に限定されるため、立体物を検出する精度を維持しつつ、演算負荷を軽減することができる。
この場合、第2分類部は、視差点が分類された集合それぞれについて、集合に属する視差点の数が無効閾値未満である集合を、立体物カテゴリ、路面カテゴリ及び不明カテゴリのいずれにも属さない無効カテゴリに分類してもよい。
この構成によれば、第2分類部により、集合に属する視差点の数が少ないために単なるノイズ等であるとみなすことができる集合が、立体物カテゴリ、路面カテゴリ及び不明カテゴリのいずれにも属さない無効カテゴリに分類され、立体物を検出するための演算から除かれるため、演算負荷をさらに軽減することができる。
また、第2分類部は、視差点が分類された集合それぞれについて、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値以上である場合は、集合を立体物カテゴリに分類し、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値未満の路面閾値以下である場合は、集合を路面カテゴリに分類し、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値未満であり、且つ路面閾値を超えている場合は、集合を不明カテゴリに分類してもよい。
この構成によれば、第2分類部により、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が立体物閾値以上に大きい場合は、当該視差点の集合は立体物である可能性が高いために、当該集合は立体物カテゴリに分類される。また、第2分類部により、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値未満の路面閾値以下に小さい場合は、当該視差点の集合は路面である可能性が高いために、当該集合は路面カテゴリに分類される。また、第2分類部により、立体物カテゴリにも路面カテゴリにも分類されなかった集合は、不明カテゴリに分類される。これにより、少ない演算負荷により、立体物の視差点の集合と、路面の視差点の集合と、立体物の視差点であるか路面の視差点であるか不明である視差点の集合とを概括的に分類することができる。
また、本発明の他の側面は、立体物検出装置の撮影部により、異なる視点それぞれから車載カメラにより車両の周囲を撮影することにより、互いに視差を有する複数の画像を表す画像データを取得する撮影工程と、立体物検出装置の視差画像生成部により、画像データに基づいて、複数の画像の各々において対応した点である視差点それぞれにおける視差を表す視差画像を生成する視差画像生成工程と、立体物検出装置の第1分類部により、視差画像における視差点の視差を複数の範囲ごとに区分する視差範囲と、視差画像における視差点の横方向の位置を複数の範囲ごとに区分する横方向位置範囲とを条件とする複数の集合それぞれに視差点を分類する第1分類工程と、立体物検出装置の第2分類部により、視差点が分類された集合それぞれについて、集合に属する視差点の視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ及び不明カテゴリを含む複数のカテゴリのいずれかに集合を分類する第2分類工程と、立体物検出装置の路面推定部により、路面カテゴリに分類された集合の視差点に基づいて、車両の周囲の路面を推定する路面推定工程と、立体物検出装置の第3分類部により、推定された路面に基づいて、不明カテゴリに分類された集合の中から立体物に対応する集合を分類する第3分類工程とを備えた立体物検出方法である。
この場合、第2分類工程では、視差点が分類された集合それぞれについて、集合に属する視差点の数が無効閾値未満である集合を、立体物カテゴリ、路面カテゴリ及び不明カテゴリのいずれにも属さない無効カテゴリに分類してもよい。
また、第2分類工程では、視差点が分類された集合それぞれについて、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値以上である場合は、集合を立体物カテゴリに分類し、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値未満の路面閾値以下である場合は、集合を路面カテゴリに分類し、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値未満であり、且つ路面閾値を超えている場合は、集合を不明カテゴリに分類してもよい。
本発明の一側面及び他の側面によれば、立体物を検出する精度を維持しつつ、演算負荷を軽減することができる。
以下、図面を参照して、本発明の実施形態に係る立体物検出装置及び立体物検出方法について説明する。
図1に示すように、第1実施形態に係る立体物検出装置1は、例えば、乗用車等の車両に搭載され、車両の周囲の立体物を検出する。立体物とは、例えば、車両の周囲の路面から突出した物体を意味し、路面と分離した物体及び路面と一体化した物体の両方を含む。路面とは、例えば、車両の走行可能な道路の表面である。なお、路面には、車両の走行する道路の表面の他、駐車場の通路及び駐車スペースの表面が含まれてもよい。
立体物検出装置1は、立体物を検出するためのECU[Electronic Control Unit]2、及びステレオカメラ(車載カメラ)3を備えている。ECU2は、CPU[Central Processing Unit]、ROM[Read Only Memory]、RAM[Random Access Memory]等を有する電子制御ユニットである。ECU2では、ROMに記憶されているプログラムをRAMにロードし、CPUで実行することで、各種の処理を実行する。ECU2は、複数の電子制御ユニットから構成されていてもよい。
ステレオカメラ3は、異なる視点それぞれから車載カメラにより車両の周囲を撮影することにより取得された互いに視差を有する複数の画像を取得する画像取得機器である。ステレオカメラ3は、両眼視差を再現するように配置された第1カメラ4及び第2カメラ5を有している。第1カメラ4及び第2カメラ5は、例えば、車両のフロントガラスの裏側に設けられ、車両の前方を撮像する。
第1カメラ4及び第2カメラ5は、例えば、水平方向に所定間隔を隔てて取り付けられているため、物体を撮影すると、視差を有する複数の画像である左画像及び右画像が得られる。得られた2つの画像は視差を有している。このため、2つの画像から、2つの画像間での対応する点である視差点それぞれにおける視差に関する情報を含んだ視差画像を取得することができる。視差画像に基づいて、三角測量の原理により、視差点ごとの路面及び立体物までの距離を求めることができる。
なお、第1カメラ4及び第2カメラ5は、車両の側部又は車両の後部(例えばリアガラスの裏側)に設けられ、車両の側方又は後方を撮像してもよい。また、ステレオカメラ3は、3つ以上のカメラにより、3つ以上の異なる視点から車両の周囲を撮影することにより、互いに視差を有する3つ以上の画像を取得してもよい。ステレオカメラ3は、撮影した互いに視差を有する複数の画像を表す画像データをECU2へ送信する。
なお、立体物検出装置1は、ステレオカメラ3に代えて、単眼カメラを備えていてもよい。単眼カメラにおいても、周知の手法(例えば撮像の時間差を利用した手法)を用いることにより、視差画像を得ることができる。
次に、ECU2の機能的構成について説明する。図1に示すように、ECU2は、撮影部11、視差画像生成部12、第1分類部13、第2分類部14、路面推定部15及び第3分類部16を有している。撮影部11は、第1カメラ4及び第2カメラ5の異なる視点それぞれからステレオカメラ3により車両の周囲を撮影することにより、互いに視差を有する2つの画像を表す画像データを取得する。
視差画像生成部12は、撮影部11により取得された画像データに基づいて、2つの画像の各々において対応した点である視差点それぞれにおける視差を表す視差画像を生成する。第1分類部13は、視差画像生成部12により生成された視差画像における視差点の視差を複数の範囲ごとに区分する視差範囲と、視差画像における視差点の横方向の位置を複数の範囲ごとに区分する横方向位置範囲とを条件とする複数の集合それぞれに視差点を分類する。
第2分類部14は、第1分類部13によって視差点が分類された集合それぞれについて、集合に属する視差点の視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ、不明カテゴリ及び無効カテゴリのいずれかに集合を分類する。路面推定部15は、第2分類部14により路面カテゴリに分類された集合の視差点に基づいて、車両の周囲の路面を推定する。第3分類部16は、路面推定部15により推定された路面に基づいて、不明カテゴリに分類された集合の中から立体物に対応する集合を分類する。
以下、本実施形態の立体物検出装置1の動作について説明する。図2に示すように、撮影工程として、立体物検出装置1のECU2の撮影部11により、第1カメラ4及び第2カメラ5の異なる視点それぞれからステレオカメラ3により車両の周囲を撮影することにより、互いに視差を有する2つの画像を表す画像データが取得される(S1)。
視差画像生成工程として、立体物検出装置1のECU2の視差画像生成部12により、撮影工程で取得された画像データに基づいて、2つの画像の各々において対応した点である視差点それぞれにおける視差(距離)を表す視差画像が生成される(S2)。2つの画像の視差点の視差の算出は、例えば、2つの画像それぞれの対応する複数の画素を所定の大きさの領域内に視差点を設定し、差分絶対和(SAD)を用いて視差を算出することができる。視差点の視差は、差分の自乗和や正規化関数を用いて算出されてもよい。
第1分類工程として、立体物検出装置1のECU2の第1分類部13により、視差画像生成工程で生成された視差画像について、視差画像における視差点の視差を複数の範囲ごとに区分する視差範囲と、視差画像における視差点の横方向の位置を複数の範囲ごとに区分する横方向位置範囲とを条件とする複数の集合それぞれに視差点が分類される(S3)。
第1分類部13は、図3に示すような視差投票マップを設定する。図3の視差投票マップでは、縦方向の辺が視差の大きさに対応するように定められ、且つ横方向の辺が視差画像の水平方向(横方向)の座標に対応するように定められた複数の矩形状のブロックを配列させて構成されている。視差投票マップの複数の矩形状のブロックそれぞれは、視差画像における視差点の視差を複数の範囲ごとに区分する視差範囲dと、視差画像における視差点の横方向の位置を複数の範囲ごとに区分する横方向位置範囲vとを条件とする視差点の集合を示す。
第1分類部13は、図3に示すような視差投票マップのブロックそれぞれに対応した視差点を分類(投票)する。第1分類部13は、視差投票マップのブロックそれぞれに、視差点それぞれの視差画像における水平方向の座標、視差点それぞれの視差、視差点それぞれの視差画像における垂直方向(縦方向)の座標及び視差点の数を関連付けて記憶する。
図2に示すように、第2分類工程として、立体物検出装置1の第2分類部14により、第1分類工程で視差点が分類された集合それぞれについて、集合に属する視差点の視差画像における垂直方向(縦方向)の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ、不明カテゴリ及び無効カテゴリのいずれかに集合が分類される(S4)。
図4(a)に示すように、集合に属する視差点の数が予め設定された無効閾値以上であって、且つ集合に属する視差点が視差画像における縦方向の位置に分布する範囲が予め設定された立体物閾値Oth以上である場合は、第2分類部14は当該集合を立体物カテゴリに分類する。無効閾値は、視差点の集合を立体物及び路面の検出に用いるか否かを決定するための視差点の数の閾値である。また、立体物閾値Othは、視差点の集合が立体物を示しているか否かを決定するための視差点の視差画像における縦方向の位置に分布する範囲の閾値である。
図4(a)に示すように、同程度の視差(距離)を有する視差点が視差画像における縦方向の位置の広い範囲に分布している場合は、当該視差点の集合は立体物を示していると推定することができる。第2分類部14は、集合に属する視差点それぞれについて、視差と視差画像における縦方向の位置とを座標軸とする座標平面上で直線近似をし、当該直線の視差に対する視差画像における縦方向の位置の勾配が予め設定された値よりも急峻である場合に、当該集合を立体物カテゴリに分類してもよい。
図4(b)に示すように、集合に属する視差点の数が予め設定された無効閾値以上であって、且つ集合に属する視差点が視差画像における縦方向の位置に分布する範囲が立体物閾値Oth未満である予め設定された路面閾値Sth以下である場合は、第2分類部14は当該集合を路面カテゴリに分類する。路面閾値Sthは、視差点の集合が路面を示しているか否かを決定するための視差点の視差画像における縦方向の位置に分布する範囲の閾値である。
図4(b)に示すように、同程度の視差(距離)を有する視差点が視差画像における縦方向の位置の狭い範囲に分布し、視差が減少するにつれて(距離が増大するにつれて)、滑らかに視差画像における縦方向の位置が上昇している場合は、当該視差点の集合は路面を示していると推定することができる。第2分類部14は、集合に属する視差点それぞれについて、視差と視差画像における縦方向の位置とを座標軸とする座標平面上で直線近似をし、当該直線の視差に対する視差画像における縦方向の位置の勾配が予め設定された値よりもなだらかである場合に、当該集合を路面カテゴリに分類してもよい。
図4(c)に示すように、集合に属する視差点の数が予め設定された無効閾値以上であって、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値Oth未満であり、且つ路面閾値Sthを超えている場合は、第2分類部14は当該集合を不明カテゴリに分類する。第2分類工程の段階では路面との対比が未だ行われていないため、立体物を示している視差点であると高い精度で推定できない視差点の集合については、立体物であるか否かの推定が保留される。第2分類部14は、集合に属する視差点それぞれについて、視差と視差画像における縦方向の位置とを座標軸とする座標平面上で直線近似をし、当該直線の視差に対する視差画像における縦方向の位置の勾配が予め設定された範囲内である場合に、当該集合を不明カテゴリに分類してもよい。
図4(d)に示すように、集合に属する視差点の数が無効閾値未満である場合は、第2分類部14は当該集合を、立体物カテゴリ、路面カテゴリ及び不明カテゴリのいずれにも属さない無効カテゴリに分類する。なお、第2分類部14は、上記の立体物カテゴリ、路面カテゴリ、不明カテゴリ及び無効カテゴリ以外にも、任意のカテゴリに視差点の集合を分類してもよい。
図2に示すように、路面推定工程として、立体物検出装置1のECU2の路面推定部15により、路面カテゴリに分類された集合の視差点に基づいて、車両の周囲の路面が推定される(S5)。路面カテゴリに分類された集合の視差点に基づいた路面の推定は、例えば、公知のv-disparityにより行うことができる。図5に示すように、v-disparityは、横軸に視差(視差が示す距離)をとり、縦軸に視差画像での垂直方向の座標をとり、視差画像に対して水平方向のヒストグラムを求めたグラフである。視差画像において、路面の領域は、例えば、視差画像の垂直方向の座標が上方に変化するのに伴って、視差が滑らかに減少する(視差が示す距離が増大する)。そのため、図5に示すように、v-disparity平面においては、路面は斜め方向に伸びる線分として射影される。路面推定部15は、路面を示す視差点であると推定された視差点を抽出する。路面推定部15は、v-disparity以外にも公知の手法により、路面カテゴリに分類された集合の視差点に基づいて、車両の周囲の路面を推定してもよい。
図2に示すように、第3分類工程として、立体物検出装置1のECU2の第3分類部16により、推定された路面に基づいて、不明カテゴリに分類された集合の中から立体物に対応する集合が分類される(S6)。例えば、図6に示すように、路面101と道路壁102とが写っている画像F1において、範囲z1において上記のように視差点の集合が分類された場合を想定する。図4(c)に示したように、当該集合は、第2分類工程では、道路壁102の路面101からの高さが低く、視差点が視差画像における縦方向の位置に分布する範囲が狭いために、不明カテゴリに分類されている。
図7に示すように、第3分類工程では、当該集合に対して路面推定工程で路面を示す視差点であると推定された視差点P101が示されている。路面を示す視差点P101それぞれの中で視差画像における縦方向の位置が最も低い視差点P101から、道路壁102を示す視差点P102それぞれの中で視差画像における縦方向の位置が最も高い視差点P102までの高さH102が予め設定された再分類閾値Rth以上である場合に、第3分類部16は不明カテゴリに分類された集合を立体物に対応する集合として分類する。再分類閾値Rthは、不明カテゴリに分類された集合を立体物に対応する集合として分類するための視差画像における縦方向の位置の範囲の閾値である。
第3分類工程では、路面を示す視差点P101それぞれの中で視差画像における縦方向の位置の平均値から、道路壁102を示す視差点P102それぞれの中で視差画像における縦方向の位置の平均値までの高さが予め設定された再分類閾値Rth以上である場合に、第3分類部16は不明カテゴリに分類された集合を立体物に対応する集合として分類してもよい。また、第3分類工程では、路面を示す視差点P101それぞれの中で視差画像における縦方向の位置が最も高い視差点P101から、道路壁102を示す視差点P102それぞれの中で視差画像における縦方向の位置が最も低い視差点P102までの高さが予め設定された再分類閾値Rth以上である場合に、第3分類部16は不明カテゴリに分類された集合を立体物に対応する集合として分類してもよい。
また、例えば、図8に示すように、路面101とガードレール103とが写っている画像F2において、範囲z2において上記のように集合が分類された場合を想定する。図9に示すように、路面を示す視差点P101それぞれの中で視差画像における縦方向の位置が最も低い視差点P101から、ガードレール103を示す視差点P103それぞれの中で視差画像における縦方向の位置が最も高い視差点P103までの高さH103が予め設定された再分類閾値Rth以上である場合に、第3分類部16は不明カテゴリに分類された集合を立体物に対応する集合として分類する。
本実施形態では、第1分類部13により、視差画像における視差点の視差範囲dと横方向位置範囲hとを条件とする複数の集合それぞれに視差点が分類され、第2分類部14により、視差点が分類された集合それぞれについて、集合に属する視差点の視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ及び不明カテゴリを含む複数のカテゴリのいずれかに集合が分類される。これにより、少ない演算負荷により、立体物の視差点の集合と、路面の視差点の集合と、立体物の視差点であるか路面の視差点であるか不明である視差点の集合とを概括的に分類することができる。路面推定部15により、路面カテゴリに分類された集合の視差点に基づいて路面が推定され、第3分類部16により、推定された路面に基づいて、不明カテゴリに分類された集合の中から立体物に対応する集合が分類される。これにより、視差点と推定された路面とに基づいて立体物を検出する処理が、不明カテゴリに分類された視差点の集合に限定されるため、立体物を検出する精度を維持しつつ、演算負荷を軽減することができる。
また、本実施形態では、第2分類部14により、集合に属する視差点の数が少ないために単なるノイズ等であるとみなすことができる集合が、立体物カテゴリ、路面カテゴリ及び不明カテゴリのいずれにも属さない無効カテゴリに分類され、立体物を検出するための演算から除かれるため、演算負荷をさらに軽減することができる。
また、本実施形態では、第2分類部14により、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が立体物閾値Oth以上に大きい場合は、当該視差点の集合は立体物である可能性が高いために、当該集合は立体物カテゴリに分類される。また、第2分類部14により、集合に属する視差点が視差画像における縦方向の位置に分布する範囲が、立体物閾値Oth未満である路面閾値Sth以下に小さい場合は、当該視差点の集合は路面である可能性が高いために、当該集合は路面カテゴリに分類される。また、第2分類部14により、立体物カテゴリにも路面カテゴリにも分類されなかった集合は、不明カテゴリに分類される。これにより、少ない演算負荷により、立体物の視差点の集合と、路面の視差点の集合と、立体物の視差点であるか路面の視差点であるか不明である視差点の集合とを概括的に分類することができる。
尚、本発明の実施形態の立体物検出装置及び立体物検出方法は、上記した実施の形態に限定されるものではなく、本発明の実施形態の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。
例えば、上記実施形態において、必ずしも、第2分類部14により、視差点の集合が無効カテゴリに分類されず、視差点の集合が立体物カテゴリ、路面カテゴリ及び不明カテゴリの3つのカテゴリのいずれかに分類されてもよい。これにより、集合に属する視差点の数が少ない集合についても立体物であるか路面であるかの推定が行われるため、立体物の検出の精度を向上させることができる。また、立体物検出装置1は、検出された立体物を車両の運転者に表示する表示部を備えていてもよい。また、立体物検出装置1は、検出された立体物に基づいて、車両の制動、加速又は操舵等の走行制御を実行する走行制御部を備えていてもよい。
1…立体物検出装置、2…ECU、3…ステレオカメラ、4…第1カメラ、5…第2カメラ、11…撮影部、12…視差画像生成部、13…第1分類部、14…第2分類部、15…路面推定部、16…第3分類部、101…路面、102…道路壁、103…ガードレール、d…視差範囲、h…横方向位置範囲、Oth…立体物閾値、Sth…路面閾値、Rth…再分類閾値、F1,F2…画像、z1,z2…範囲、P101,P102,P103…視差点、H102,H103…高さ。
Claims (6)
- 異なる視点それぞれから車載カメラにより車両の周囲を撮影することにより、互いに視差を有する複数の画像を表す画像データを取得する撮影部と、
前記画像データに基づいて、前記複数の画像の各々において対応した点である視差点それぞれにおける前記視差を表す視差画像を生成する視差画像生成部と、
前記視差画像における前記視差点の視差を複数の範囲ごとに区分する視差範囲と、前記視差画像における前記視差点の横方向の位置を複数の範囲ごとに区分する横方向位置範囲とを条件とする複数の集合それぞれに前記視差点を分類する第1分類部と、
前記視差点が分類された前記集合それぞれについて、前記集合に属する前記視差点の前記視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ及び不明カテゴリを含む複数のカテゴリのいずれかに前記集合を分類する第2分類部と、
前記路面カテゴリに分類された前記集合の前記視差点に基づいて、前記車両の周囲の路面を推定する路面推定部と、
推定された前記路面に基づいて、前記不明カテゴリに分類された前記集合の中から立体物に対応する前記集合を分類する第3分類部と、
を備えた立体物検出装置。 - 前記第2分類部は、前記視差点が分類された前記集合それぞれについて、前記集合に属する前記視差点の数が無効閾値未満である前記集合を、前記立体物カテゴリ、前記路面カテゴリ及び前記不明カテゴリのいずれにも属さない無効カテゴリに分類する、請求項1に記載の立体物検出装置。
- 前記第2分類部は、前記視差点が分類された前記集合それぞれについて、
前記集合に属する前記視差点が前記視差画像における縦方向の位置に分布する範囲が、立体物閾値以上である場合は、前記集合を立体物カテゴリに分類し、
前記集合に属する前記視差点が前記視差画像における縦方向の位置に分布する範囲が、前記立体物閾値未満の路面閾値以下である場合は、前記集合を路面カテゴリに分類し、
前記集合に属する前記視差点が前記視差画像における縦方向の位置に分布する範囲が、立体物閾値未満であり、且つ前記路面閾値を超えている場合は、前記集合を不明カテゴリに分類する、請求項1又は2に記載の立体物検出装置。 - 立体物検出装置の撮影部により、異なる視点それぞれから車載カメラにより車両の周囲を撮影することにより、互いに視差を有する複数の画像を表す画像データを取得する撮影工程と、
前記立体物検出装置の視差画像生成部により、前記画像データに基づいて、前記複数の画像の各々において対応した点である視差点それぞれにおける前記視差を表す視差画像を生成する視差画像生成工程と、
前記立体物検出装置の第1分類部により、前記視差画像における前記視差点の視差を複数の範囲ごとに区分する視差範囲と、前記視差画像における前記視差点の横方向の位置を複数の範囲ごとに区分する横方向位置範囲とを条件とする複数の集合それぞれに前記視差点を分類する第1分類工程と、
前記立体物検出装置の第2分類部により、前記視差点が分類された前記集合それぞれについて、前記集合に属する前記視差点の前記視差画像における縦方向の位置の分布に基づいて、立体物カテゴリ、路面カテゴリ及び不明カテゴリを含む複数のカテゴリのいずれかに前記集合を分類する第2分類工程と、
前記立体物検出装置の路面推定部により、前記路面カテゴリに分類された前記集合の前記視差点に基づいて、前記車両の周囲の路面を推定する路面推定工程と、
前記立体物検出装置の第3分類部により、推定された前記路面に基づいて、前記不明カテゴリに分類された前記集合の中から立体物に対応する前記集合を分類する第3分類工程と、
を備えた立体物検出方法。 - 前記第2分類工程では、前記視差点が分類された前記集合それぞれについて、前記集合に属する前記視差点の数が無効閾値未満である前記集合を、前記立体物カテゴリ、前記路面カテゴリ及び前記不明カテゴリのいずれにも属さない無効カテゴリに分類する、請求項4に記載の立体物検出方法。
- 前記第2分類工程では、前記視差点が分類された前記集合それぞれについて、
前記集合に属する前記視差点が前記視差画像における縦方向の位置に分布する範囲が、立体物閾値以上である場合は、前記集合を立体物カテゴリに分類し、
前記集合に属する前記視差点が前記視差画像における縦方向の位置に分布する範囲が、前記立体物閾値未満の路面閾値以下である場合は、前記集合を路面カテゴリに分類し、
前記集合に属する前記視差点が前記視差画像における縦方向の位置に分布する範囲が、立体物閾値未満であり、且つ前記路面閾値を超えている場合は、前記集合を不明カテゴリに分類する、請求項4又は5に記載の立体物検出方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015084914A JP2016206774A (ja) | 2015-04-17 | 2015-04-17 | 立体物検出装置及び立体物検出方法 |
US15/075,292 US20160307055A1 (en) | 2015-04-17 | 2016-03-21 | Stereoscopic object detection device and stereoscopic object detection method |
CN201610223976.4A CN106060516A (zh) | 2015-04-17 | 2016-04-12 | 立体物检测装置以及立体物检测方法 |
EP16165617.8A EP3082069A1 (en) | 2015-04-17 | 2016-04-15 | Stereoscopic object detection device and stereoscopic object detection method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015084914A JP2016206774A (ja) | 2015-04-17 | 2015-04-17 | 立体物検出装置及び立体物検出方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016206774A true JP2016206774A (ja) | 2016-12-08 |
Family
ID=55808388
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015084914A Withdrawn JP2016206774A (ja) | 2015-04-17 | 2015-04-17 | 立体物検出装置及び立体物検出方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20160307055A1 (ja) |
EP (1) | EP3082069A1 (ja) |
JP (1) | JP2016206774A (ja) |
CN (1) | CN106060516A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101988551B1 (ko) * | 2018-01-15 | 2019-06-12 | 충북대학교 산학협력단 | 스테레오 비전의 깊이 추정을 이용한 효율적 객체 검출 및 매칭 시스템 및 방법 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6516012B2 (ja) * | 2015-09-15 | 2019-05-22 | 株式会社リコー | 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム |
EP3432291A4 (en) * | 2016-03-15 | 2019-03-27 | Ricoh Company, Ltd. | Image Processing Device, Object Recognition Device, Device Control System, Image Processing Method and Program |
JP6936098B2 (ja) * | 2017-09-29 | 2021-09-15 | トヨタ自動車株式会社 | 対象物推定装置 |
JP7229129B2 (ja) * | 2019-09-05 | 2023-02-27 | 京セラ株式会社 | 物体検出装置、物体検出システム、移動体及び物体検出方法 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10149115A1 (de) * | 2001-10-05 | 2003-04-17 | Bosch Gmbh Robert | Objekterfassungsvorrichtung |
JP4631750B2 (ja) * | 2006-03-06 | 2011-02-16 | トヨタ自動車株式会社 | 画像処理システム |
JP4631096B2 (ja) * | 2008-10-20 | 2011-02-16 | 本田技研工業株式会社 | 車両周辺監視装置 |
CN103052968B (zh) * | 2010-08-03 | 2016-03-02 | 松下知识产权经营株式会社 | 物体检测装置和物体检测方法 |
EP2439716B1 (en) * | 2010-09-16 | 2013-11-13 | Ricoh Company, Ltd. | Object identification device, moving object controlling apparatus having object identification device and information presenting apparatus having object identification device |
CN103029621B (zh) * | 2011-09-30 | 2016-04-06 | 株式会社理光 | 检测前方车辆的方法及设备 |
EP2669845A3 (en) * | 2012-06-01 | 2014-11-19 | Ricoh Company, Ltd. | Target recognition system, target recognition method executed by the target recognition system, target recognition program executed on the target recognition system, and recording medium storing the target recognition program |
US20140071240A1 (en) | 2012-09-11 | 2014-03-13 | Automotive Research & Testing Center | Free space detection system and method for a vehicle using stereo vision |
CN103679127B (zh) * | 2012-09-24 | 2017-08-04 | 株式会社理光 | 检测道路路面的可行驶区域的方法和装置 |
US9141107B2 (en) * | 2013-04-10 | 2015-09-22 | Google Inc. | Mapping active and inactive construction zones for autonomous driving |
US9146120B2 (en) * | 2013-05-07 | 2015-09-29 | Telenav Inc. | Navigation system with route classification mechanism and method of operation thereof |
JP5886809B2 (ja) * | 2013-09-27 | 2016-03-16 | 富士重工業株式会社 | 車外環境認識装置 |
JP6151150B2 (ja) * | 2013-10-07 | 2017-06-21 | 日立オートモティブシステムズ株式会社 | 物体検出装置及びそれを用いた車両 |
WO2015071528A1 (en) * | 2013-11-14 | 2015-05-21 | Micropulva Ltd Oy | Method for limiting an amount of its particle size smallest fraction which is generated in the counterjet grinding process of minerals |
JP6358160B2 (ja) * | 2015-04-17 | 2018-07-18 | トヨタ自動車株式会社 | 走行路面検出装置及び走行路面検出方法 |
-
2015
- 2015-04-17 JP JP2015084914A patent/JP2016206774A/ja not_active Withdrawn
-
2016
- 2016-03-21 US US15/075,292 patent/US20160307055A1/en not_active Abandoned
- 2016-04-12 CN CN201610223976.4A patent/CN106060516A/zh active Pending
- 2016-04-15 EP EP16165617.8A patent/EP3082069A1/en not_active Withdrawn
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101988551B1 (ko) * | 2018-01-15 | 2019-06-12 | 충북대학교 산학협력단 | 스테레오 비전의 깊이 추정을 이용한 효율적 객체 검출 및 매칭 시스템 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
CN106060516A (zh) | 2016-10-26 |
US20160307055A1 (en) | 2016-10-20 |
EP3082069A1 (en) | 2016-10-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7206583B2 (ja) | 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム | |
US9898669B2 (en) | Traveling road surface detection device and traveling road surface detection method | |
JP4943034B2 (ja) | ステレオ画像処理装置 | |
JP6565188B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
JP2016206774A (ja) | 立体物検出装置及び立体物検出方法 | |
JP6171593B2 (ja) | 視差図からの対象追跡方法及びシステム | |
JPWO2017158958A1 (ja) | 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム | |
JP6743882B2 (ja) | 画像処理装置、機器制御システム、撮像装置、画像処理方法及びプログラム | |
JP6743171B2 (ja) | 自動車両の道路付近の物体を検出するための方法、コンピュータデバイス、運転者支援システム、及び、自動車両 | |
US20160307026A1 (en) | Stereoscopic object detection device and stereoscopic object detection method | |
US10902632B2 (en) | Position detection apparatus and position detection method | |
JP5516561B2 (ja) | 車両用運転支援装置 | |
JP2019530924A (ja) | カメラ画像からのオブジェクトの検出 | |
JP2018060422A (ja) | 物体検出装置 | |
JP6455164B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
JP6543935B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
JPWO2016208198A1 (ja) | 立体物検出装置、ステレオカメラ装置、車両及び立体物検出方法 | |
JP5073700B2 (ja) | 物体検出装置 | |
WO2018097269A1 (en) | Information processing device, imaging device, equipment control system, mobile object, information processing method, and computer-readable recording medium | |
EP3540643A1 (en) | Image processing apparatus and image processing method | |
JP4765363B2 (ja) | 乗員検出装置及び乗員検出方法 | |
CN115063772B (zh) | 一种车辆编队后车检测方法、终端设备及存储介质 | |
JP2018088237A (ja) | 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム | |
JP6943092B2 (ja) | 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム | |
KR101894731B1 (ko) | 차량의 충돌방지시스템 및 그 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161209 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20170317 |