JP6208260B2 - 物体認識装置 - Google Patents

物体認識装置 Download PDF

Info

Publication number
JP6208260B2
JP6208260B2 JP2015554411A JP2015554411A JP6208260B2 JP 6208260 B2 JP6208260 B2 JP 6208260B2 JP 2015554411 A JP2015554411 A JP 2015554411A JP 2015554411 A JP2015554411 A JP 2015554411A JP 6208260 B2 JP6208260 B2 JP 6208260B2
Authority
JP
Japan
Prior art keywords
plane
area
distance data
estimated
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015554411A
Other languages
English (en)
Other versions
JPWO2015097824A1 (ja
Inventor
倉田 謙一郎
謙一郎 倉田
松尾 茂
松尾  茂
範安 長谷島
範安 長谷島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Publication of JPWO2015097824A1 publication Critical patent/JPWO2015097824A1/ja
Application granted granted Critical
Publication of JP6208260B2 publication Critical patent/JP6208260B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867Combination of radar systems with cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9323Alternative operation using light waves

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Description

本発明は、レーダの測定距離データとカメラの画像とに基づいて物体を認識する物体認識装置に関する。
自動車における事故を削減し安全性を高めるため、障害物を検知し、これを回避、或いは運転者に通知する安全システムの技術が重要である。また運転者の負担を軽減し、より一層の安全性を得るため、路面の凹凸や段差などの形状を認識し、走行可能な領域を検知して自律的に走行する技術も求められている。
一方で、自動車には常にコスト低減が強く求められており、安全システムについても、その低コスト化が重要な課題となっている。自動車に搭載される物体認識装置にはLIDAR[Light Detection And Ranging](レーザレーダ)やミリ波レーダ等の距離計が用いられるが、装置の低コスト化を図るため、安価なレーダを用いてシステムを構成する必要がある。
安価なレーダは、スキャンラインの本数が少なく、角度分解能も低めであることから、スキャン位置(測定点)の間隔が大きく、距離データが離散的な位置しか得られず、レーダ単独での物体の識別や、位置検知は困難である。したがって、カメラと組み合わせてカメラの画像から物体の識別や位置検知を行うシステムが一般的である。
例えば特許文献1には、レーダで計測した距離データのうち、カメラ画像から検出した障害物を含む矩形領域内に存在する距離データを用いて障害物までの距離を算出する手法が示されている。
特開2011−145166号公報
しかしながら、このような手法は、検知対象の物体の大きさが先行車のように大きい場合には適用可能であるが、路上の空き缶や石などのようなサイズの小さな物体の場合には、距離データの得られるレーダのスキャン位置の間に埋もれてしまい、距離情報を得ることが困難であるという問題がある。また、レーダは車両側に搭載され、一定角度毎にスキャンを行う構造である為、遠方に行くほどスキャン位置の間隔が開いてしまい、遠方にある物体については、サイズが大きいものでも距離データを得られない可能性が高くなる。
さらに、一般的に自動車の障害物検知に用いられるレーダは、上下、左右の検出範囲が狭く、カメラ画像内の周辺部に写る物体については、距離測定の範囲外となるケースも多い。このような場合、物体のサイズが大きい場合でも距離データを得ることができず、例えば高速走行時の衝突防止の制御等が困難になるおそれがある。また、遠方の路面状態を検出することもできず、自律走行の性能向上には向かない構成となっていた。
本発明はこうした実状に鑑みてなされたものであり、その目的とするところは、レーダのスキャン位置の間に埋もれてしまい距離データが得られない位置や、レーダの検出範囲外となるために距離データを得られないカメラ画像内の周辺部における距離データを推定して、領域全体に密な距離データを得て、小さな物体や遠方にある物体までの距離を検出可能とする物体認識装置を得ることである。
上記課題を解決する本発明の物体認識装置は、レーダの測定距離データとカメラの画像に基づいて物体を認識する物体認識装置であって、前記画像から平面と推定される推定平面領域を検出する推定平面領域検出手段と、該推定平面領域の平面式を算出する領域平面推定手段と、該平面式と前記測定距離データに基づいて前記推定平面領域内の距離データを補間して推定する距離データ補間手段とを有することを特徴としている。
本発明によれば、推定平面領域の全体に亘って密に距離データを得ることができる。したがって、レーダのスキャン位置の間に埋もれてしまう小さな物体や、遠方の物体の検出が可能となり、更にレーダの検知範囲外の位置にある物体の距離情報も得ることが可能となる。なお、上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
システム構成図。 全体処理フロー。 領域分割の処理フロー。 領域分割を説明するイメージ図。 領域結合候補抽出の処理フロー。 平面式評価及び領域再分割の詳細処理フロー。 測定データによる領域再分割の処理フロー。 測定データによる領域の再分割の説明図。 距離データ補間の説明図
次に、本発明の実施形態について、図面を用いて以下に説明する。
本実施形態の物体認識装置は、車両に搭載されて、カメラの撮像画像とレーダの測定距離データに基づき例えば先行車などの車両前方の物体を認識するものであり、障害物回避や自律走行に用いることができる。
物体認識装置は、画像から平面と推定される推定平面領域を少なくとも一つ以上抽出し、その抽出した推定平面領域が平面であるか否かをレーダの測定距離データに基づいて検証し、平面であると検証された推定平面領域において、推定平面領域内の測定距離データを補間して測定距離データの存在しない位置の距離を推定し、領域内における距離データの範囲と密度を向上させる構成を有している。
図1は、本実施の形態における物体認識装置の一例を示すシステム構成図である。
物体認識装置は、図1に示すように、カメラ113、レーダ114、推定平面領域検出手段101、領域平面推定手段102、距離データ補間手段103、距離データ記憶手段118、物体領域検出手段115、距離データ選択手段116、物体距離算出手段117を有している。
例えば、カメラ113にはCCDやCMOS等の単眼カメラが用いられ、レーダ114にはレーザ距離計が用いられている。カメラ113とレーダ114は、車両前方に向けて配置される。物体認識装置のカメラ113とレーダ114以外の手段は、例えばECUなどのハードウエアと、ハードウエアにインストールされたソフトウエアによって機能的に具現化される。本実施形態では、物体認識装置がカメラ113とレーダ114を有する場合を例に説明しているが、カメラ113とレーダ114を含まず、カメラ113とレーダ114から信号をそれぞれ入力する構成としてもよい。
<推定平面領域検出手段101>
推定平面領域検出手段101は、内部構成として、閾値設定手段104、エッジ検出手段106、領域分割手段105、領域結合手段107を備えている。推定平面領域検出手段101は、カメラ113の画像から平面と推定される推定平面領域を検出する。具体的には、カメラ113の画像に含まれる情報から、全体の領域から単一の平面で構成されると考えられる領域毎に分割する。例えば、走行中の道路の路面と、道路脇の側壁が画像内に写っている場合には、全体の領域から路面の領域と側壁の領域を分割してそれぞれを推定平面領域として検出する。
領域分割は、主に画像の輝度エッジに基づいて行われる。そしてさらに加えて、各位置におけるテクスチャの特徴を生かして、画像上の各位置におけるパターン特徴量に基づいて行われる。エッジ検出手段106は、カメラ113の画像から輝度エッジを検出する。カメラ113がカラーを撮像可能な構成を有する場合には、RGBそれぞれの値毎にエッジを生成することで、色情報までを含んだ分割が可能となる。
閾値設定手段104は、検出されたエッジの強度、或いはテクスチャの特徴量の差の閾値を設定する。領域分割手段105は、閾値以上のエッジ強度、或いはパターン特徴量に差がある位置で領域を分割する。
本実施形態では、閾値設定手段104で設定する閾値を、画面全体の平均輝度や、画像から抽出した情報に応じて異なった値に設定するようにしている。例えば、積雪時の道路などでは画面全体の輝度が高く、コントラストが出やすい為、領域分割に用いるエッジ強度の値は大きく設定することが望ましい。また、オフロードシーンでは、路面、周囲の障害物ともコントラストの出にくい画像になることが考えられ、輝度、テクスチャの微細な変化で分割が行えるよう、閾値は低い値に設定することが望ましい。
領域結合手段107は、カメラ113の画像から推定平面領域を複数検出した場合に、複数の推定平面領域を互いに比較して類似性を評価する。そして、類似性が閾値よりも高いと判断された領域同士を結合して一つの連続した同一平面であると判断する。領域結合手段107は、領域分割手段105で分割した各領域の類似性を評価し、類似性が高い領域の対を結合する。したがって、結合された領域のどちらかに距離データがあれば、もう一方についても同じ平面の式により補間が行えるので、幅広い領域の距離データの推定が可能となる効果を生む。なお、推定平面領域検出手段101の処理内容については、後述する図4〜図6の処理フローで詳細に説明する。
<領域平面推定手段102>
領域平面推定手段102は、内部構成として、領域平面式推定手段108、推定平面評価手段109、領域再分割手段110を有している。領域平面推定手段102は、推定平面領域検出手段101で抽出された各推定平面領域が平面であるか否かをレーダの測定距離データに基づいて検証し、推定平面領域の平面式と、測定距離データ、すなわち3次元データとの間の誤差が大きい場合には、当該推定平面領域を平面と見なすことはできないとして、推定平面領域の再分割を行う。なお、平面式とは、平面を3軸座標で表した、平面の方程式である。
領域平面式推定手段108は、領域内の測定距離データが全て単一の平面上にあると仮定して平面式を求める。推定平面評価手段109は、例えば平面式と測定距離データとの間の距離等の差分値を用いて平面式と測定距離データの誤差を評価し、平面式の推定精度を評価する。この差分値が規定値よりも大きく、誤差が大きいと考えられる場合には、領域再分割手段110において、当該推定平面領域をさらに分割する再分割を行う。
このように推定した平面式の精度を評価し、誤差の大きい場合には、推定平面領域の再分割を行うことにより、画像情報による領域分割の過不足を修正し、より誤差の少ない距離の推定が可能になるという効果が得られる。なお、領域平面推定手段102の処理内容については、後述する図6及び図7の処理フローで詳細に説明する。
<距離データ補間手段103>
距離補間手段103は、内部構成として、補間元データ選択手段111と距離データ補間手段112を有している。距離補間手段103は、領域平面推定手段102で求めた各推定平面領域の平面式と、推定平面領域内の位置にある測定点の測定距離データの値を用いて、測定距離データの無い位置の距離を補間して推定する。
補間元データ選択手段111は、距離の推定を行う際に用いる測定距離データを選択するものであり、推定を行う位置を中心とした所定の選択範囲を設定し、その選択範囲に含まれる測定距離データを選択する。選択範囲は、推定平面領域の面の向きに応じて設定される。
距離データ補間手段112は、選択範囲に含まれている測定距離データを使用して、推定平面領域内の測定距離データの無い位置の距離を補間して推定する。したがって、より精度の高い距離推定が可能になるという効果が得られる。距離データ補間手段112で補間して求めた距離データの推定値(補間距離データ)は、距離データ記憶手段118に格納されて、物体距離算出手段により物体距離を算出する際に利用される。
物体認識装置は、物体領域検出手段115と、距離データ選択手段116と、物体距離算出手段117を有している。物体領域検出手段115は、カメラ113の画像に基づいて物体の存在領域を抽出する。距離データ選択手段116は、物体領域検出手段115により抽出された物体の存在領域に含まれる測定距離データ及び距離の推定値を、距離データ記憶手段118から読み出す。物体距離算出手段117は、距離データ記憶手段118から読み出した測定距離データ及び距離の推定値を用いて物体までの距離を算出する。
図2は、物体認識装置による物体検出処理全体の流れを示した処理フローである。
開始(S201)により、領域分割(S202)が行われ、閾値設定(S203)、エッジ画像作成(S204)、分割(S205)の各処理が実施される。閾値設定(S203)、エッジ画像作成(S204)、分割(S205)の各処理は、図1に示した閾値設定手段104、エッジ検出手段106、領域分割手段105における処理である。領域分割(S202)については、後述する図3の処理フローで詳細に説明する。
領域分割(S205)の後、領域結合候補抽出(S206)を行う。本処理は、図1で述べた領域結合手段107における処理が該当する。領域結合候補抽出(S206)では、分割済みの領域から同一平面で構成されると思われる領域の組を結合する。これは、図1における領域結合手段107における処理を示す。
そして、領域の平面式算出(S207)では、分割された領域内の測定距離データから推定平面領域の平面式が求められる。図1の領域平面式推定手段108での処理がこれに当たる。ステップS207で平面式を求めた後、推定平面領域内の測定距離データを用いて、平面式評価及び領域再分割(S208)を行う。
ステップS208では、ステップS207で求めた平面式と、測定距離データから得た3次元点の位置を比較し、領域内の全てのデータが求めた平面の式に一致しているか否かを評価する。そして、一致しない3次元点があった場合には、領域内の面が単一の平面でなく複数の平面で構成されるか、或いは面に凹凸があり、正しく推定が行えないことになるので、推定平面領域の再分割を実施する。
ステップS209では、ステップS208で推定平面領域の再分割が実施されたか否かが判断され、再分割が行なわれた場合には、ステップS207に戻り、再分割された推定平面領域の平面式を算出する。一方、再分割が行なわれていない場合には、推定平面領域のこれ以上の分割は不可能であるので、推定平面領域を確定してステップS210に移行する。ステップS210では、確定した推定平面領域の測定距離データを使用して、推定平面領域内の測定距離データの無い位置の距離を補間して推定する。そして、ステップS211で距離データ記憶手段118に補間距離データを保存し、終了する(S212)。
図3は、図2に示した領域分割S202の処理内容を詳細に示したフローチャートである。領域分割の処理として、初めにカメラ113の画像を読み込み(S302)、輝度エッジ画像の作成(S303)、及びパターン特徴量の算出(S306)を行う。輝度エッジについては、輝度エッジ強度の閾値設定(S304)、輝度エッジが閾値以上の位置で領域分割(S305)を行う。
パターン特徴量については、パターン特徴量の差の閾値を設定し(S307)、パターン特徴量の差が閾値以上となる位置、すなわちテクスチャが変化するような位置で領域分割(S308)を行う。ステップS309では、輝度、及びパターン特徴量の値から行なった領域分割の情報を統合し、全ての分割位置を合成する。したがって、画像は、輝度及びパターン特徴量により設定された推定平面領域に分割される。
ステップS310では、領域内の各パラメータを求める。このパラメータは、領域結合候補抽出(S206)で領域の類似度の判定に用いられるものであり、領域内の輝度、色相、パターン特徴量の平均値や分布等が含まれる。最後に、ステップS311でこれらの分割領域情報を保存し、処理を終了する(S312)。
図4は領域分割のイメージ図である。
図4に示した画像401は、カメラ113で撮像したものである。画像401は、一般の道路上で先行車に追従して走行しているシーンである。輝度エッジ、及びパターン特徴量の差によって領域の分割を行い、図中のA領域402〜N領域415までの領域に分割される例として示した。
このうち、A領域402、B領域403、C領域404、D領域405は、道路の路面である。これらの領域は、全て同一の平面であるが、N領域415である白線によってA領域402とD領域405に分割されており、側壁の影により路面の一部の輝度が下がった影響で、B領域403が分割されている。また、E領域406とF領域407は、連続する1枚の側壁面であるが、先行車により分断されて別々の領域になっている。
図1の領域結合手段107は、このようなケースで、同一の平面でありながら分割されてしまった領域を結合し、同一の平面で構成される領域として、1つにまとめる働きをする。
結合を行う条件として、本実施形態では、以下の3つの条件を示す。
(1)互いの領域内における平均輝度、色(RGBそれぞれ)、パターン特徴量のそれぞれの差が所定の閾値(第一の閾値)以下である場合は、それらの領域を結合する。
(2)互いの領域内における平均輝度の差はある程度大きい(第二の閾値よりも大)が、色(RGBの割合)、パターン特徴量の差が極めて小さい(第二の閾値以下)場合は、それらの領域を結合する。
(3)白線や路面ペイントで分割された領域は、その両方の領域、及びこれらの線の領域を全て結合する。
上記(1)は全体に輝度、色、テクスチャともに類似しており、同じ面に見えるような場合、上記(2)は図4に示したA領域402とB領域403のように、同じ面であって影等の影響で分割されてしまった場合、上記(3)は領域に、制限速度や横断歩道などの路面ペイントなどがあり、見掛け上、異なる領域に見えてしまった場合である。これらは、本来同一の平面であり、結合することが望ましい。領域結合手段107は、このようなケースの最適化を図るため、領域の類似性を判断し、結合する機能を有する。
以下、図5を用いて領域結合手段107の処理の流れを詳細に説明する。
処理開始(S501)後、はじめに比較領域選択(S502)を行う。領域の類似性の比較は、全領域について行なっても良いが、本実施形態では、同一の面である可能性を高くするために、両方の領域の画面上の最短距離が所定の値の範囲内である領域間で比較を行うようにした。
比較の処理として、領域情報の読み出し(S503)の後に、輝度、色、パターン特徴量についての第一の閾値を設定し(S504)、それぞれが閾値以下であれば(S505でYES)、同一の面であると判断して比較領域を結合(S508)する。これは上記(1)の場合の結合に相当する。
ここで、一致しなかった場合、ステップS506で第二の閾値を設定し、輝度の差が大きく、色、テクスチャの類似性が高い、という上記(2)の場合の結合について判断を行う(S507)。ここで条件に一致すれば(ステップS507でYES)、ステップS508に進み、比較領域の結合を行う。
ステップS507において、差が閾値以上の場合には領域の結合は行わないが、着目点の領域、或いは隣接領域が、画像から別途検出した白線、或いは路面ペイントの領域である場合には、上記(3)の場合に相当するため、白線・路面ペイントの領域、及び両側に隣接する領域を結合する。
具体的には、ステップS509で画像を読み込み、白線・路面ペイントの検出を行い(S510)、輝度、色、パターン特徴量の差の第三の閾値を設定し(S511)、輝度、色、パターン特徴量の差が第三の閾値以下であるか否かを判断する(S512)。そして、第三の閾値以下の場合(S512でYES)は、白線・路面ペイント領域、及び両側の領域を結合する(S513)。一方、差が第三の閾値よりも大きい場合(S512でNO)は、終了する(S514)。
図6は、領域平面推定手段102における処理の内容を説明するフローチャートである。
開始(S601)により、推定平面領域内の測定距離データを用いて推定平面領域の平面式推定(S602)を行う。ステップS603では、推定平面領域内の全ての測定点の測定距離データと、平面式で表される推定平面との差分を算出し、ステップS604で全データの差分が閾値以内に収まっているか否かを判断する。ここで、全データの差分が閾値以内に収まっている場合には、全ての測定点が推定平面から閾値以下の距離内に位置しているので、その推定平面領域の平面式は正しいとして、領域を確定する処理を行う(S605)。
一方、ステップS604で、全データの差分が閾値以内に収まっていないと判断された場合、すなわち、推定平面までの離間距離が閾値を超える測定距離データがあった場合には、推定平面領域を再分割するか否かを判断する(ステップS607とステップS608)。ステップS607では、その推定平面領域が再分割済みか否かをチェックし、ステップS608では、推定平面領域内における測定距離データの数が閾値以上であるか否かをチェックする。
推定平面領域が再分割済みの場合には(ステップS607でYES)、これ以上の分割を行わず、ステップS609に進む。また、推定平面領域内における測定距離データの数が閾値よりも少ない場合には(ステップS608でNO)、これ以上さらに領域の分割を行っても平面式が得られないので、ステップS609に進む。
ステップS609では、当該領域の推定距離データの信頼度を低に設定する。信頼度が低に設定された推定距離データは、誤った、或いは誤差の大きい値である可能性が高いため、障害物回避の制御等には使用しないこととし、システムが誤検知による回避動作を実施してしまうのを防ぐ効果を得られる。なお、平面式を求めるためには少なくとも3個の測定距離データが必要であり、ステップS608では閾値は4個に設定されている。
ステップS607で再分割済ではないと判断され、ステップS608で推定平面領域内の測定距離データの数が閾値以上であると判断された場合は(ステップS608でYES)、エッジ強度、パターン特徴量の閾値を変更し(ステップS610)、エッジ強度、パターン特徴量による領域再分割を行う(ステップS611)。そして、測定データによる領域再分割を実施し(S612)、これらの処理で行われた再分割の結果を統合し(S613)、再分割後の領域について、ステップS602から平面式の推定等を繰り返す。測定データによる領域分割S612の処理内容については、後述する図7の処理フローで詳細に説明する。
このように、図6に示した領域平面推定手段102における処理では、精度の良い平面式を得るために推定平面領域の再分割を行うので、補間した際に、精度良く、領域内の距離の推定を行えるという効果が得られる。
図7は、測定距離データを用いて領域を再分割する処理の内容を示したフローチャートである。
処理開始(S701)後、画像から消失点を求める(S702)。その後、領域内の隣り合う測定データをそれぞれ結んだ三角パッチを仮想的に設置し(S703)、各三角パッチの横方向、及び奥行き方向の高さ方向への傾きを算出する(S704)。
図8は、三角パッチの設置の様子を示す説明図である。画像801内で、分割対象の推定平面領域802に含まれる測定点808を結んだ三角パッチを設置し、各パッチの傾きを算出する。
求める傾きは、図8に示した座標の横方向805、及び奥行き方向807、すなわち消失点に向かう方向に対する高さ方向806の変化率、すなわち横方向805、および奥行き方向807に対する上り角度に相当する。
図8において、スタート地点は、推定平面領域802内の複数のパッチの内、最も手前で中央よりのパッチを基準パッチ803として設定し、この基準パッチ803と周辺のパッチの横、及び奥行き方向の傾きを比較していく。そして、これらの傾きの値が閾値を超えているパッチを抽出し、その抽出したパッチの中央位置で、領域の再分割を行う。
処理フローでは、図7のステップS705で中央手前側のパッチの傾きを基準値として記憶し、横、及び奥行き方向に傾きの値を比較していき、基準値との傾きの差が閾値以上となったパッチの中央位置を結んで再分割の位置を決定する。
具体的には、横方向の傾きが変化する位置を検出し(S706)、検出された横位置を境に領域を再分割し(S707)、また、奥行き方向の傾きが変化する位置を検出し(S708)、検出された奥行き位置を境に領域を再分割する(S709)。そして、領域分割情報を保存する(S710)。
図9は、図1に示した補間元データ選択手段111の動作を説明する説明図である。
図9には、水平面である路面、カメラ113の向きに対向する鉛直面である先行車の後面、カメラ113の向きに平行な鉛直面である側壁の3つの面が示されている。
推定平面領域内の測定距離データを補間する場合、先行車の後面のようにカメラ113の向きに対向する鉛直面の領域の場合には、領域内の距離データは全て同じ値となるはずである。そこで、本実施例では、カメラ113の向きに対向する鉛直面の領域の場合には、補間元データ選択手段111により、着目点を中心に真円形の円形エリア904を設定して、円形エリア904内の測定距離データを補間元データとして選択する。そして、距離データ補間手段112により、かかる補間元データを補間して着目点の距離を推定する。
一方、路面のように水平面の領域の場合には、領域内の距離データは、横方向には同じ値となり、また奥行き方向には無限遠に向かって値が変化していく。そこで、本実施例では、水平面の領域の場合には、補間元データ選択手段111により、誤差の出にくいエリアとして、着目点を中心に横方向に広い楕円形の横楕円形エリア903を設定して、横楕円形エリア903内の測定距離データを補間元データとして選択する。そして、距離データ補間手段112により、かかる補間元データを補間して着目点の距離を推定する。
また、側壁のようにカメラ113の向きに平行な鉛直面の領域の場合には、高さ方向の移動に対しては距離が変わらないが、奥行き方向には値が変化する。そこで、本実施例では、カメラ113の向きに平行な鉛直面の領域の場合には、補間元データ選択手段111により、着目点を中心に縦方向に長い楕円形の縦楕円形エリア905を設定して、縦楕円形エリア905内の測定データを補間元データとして選択する。そして、距離データ補間手段112により、かかる補間元データを補間して着目点の距離を推定する。このように、推定を行う領域の面の向きに適した形状のエリア内の測定データを用いて着目点の距離を推定することで、より精度の高い距離推定が行なえるという効果が得られる。
なお、上述の実施形態では、物体認識装置の構成について説明したが、走行中の物体を検出する検出精度を評価する評価装置として用いることもできる。
以上、本発明の実施形態について詳述したが、本発明は、前記の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の精神を逸脱しない範囲で、種々の設計変更を行うことができるものである。例えば、前記した実施の形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施形態の構成を加えることも可能である。さらに、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
101 推定平面領域検出手段
102 領域平面推定手段
103 距離データ補間手段
104 閾値設定手段
105 領域分割手段
106 エッジ検出手段
107 領域結合手段
108 領域平面式推定手段
109 推定平面評価手段
110 領域再分割手段
111 補間元データ選択手段
112 距離データ補間手段
113 カメラ
114 レーダ
115 物体領域検出手段
116 距離データ選択手段
117 距離算出手段
118 距離データ記憶手段

Claims (6)

  1. カメラの画像とレーダの測定距離データに基づいて物体を認識する物体認識装置であって、
    前記画像から平面と推定される推定平面領域を検出する推定平面領域検出手段と、
    該推定平面領域の平面式を算出する領域平面推定手段と、
    該平面式と前記測定距離データに基づいて前記推定平面領域内の距離データを補間して推定する距離データ補間手段と、を有し、
    前記領域平面推定手段は、前記測定距離データに基づいて前記推定平面領域が予め設定された基準内の平滑性を持つ同一平面であるか否かを判別し、同一平面ではない場合には、前記推定平面領域を複数の平面領域に分割する領域再分割を行うことを特徴とする物体認識装置。
  2. 前記測定距離データに基づいて前記推定平面領域の再分割位置を決定することを特徴とする請求項1に記載の物体認識装置。
  3. 前記距離データ補間手段で補間して推定した距離データを用いて前記物体までの距離を求めることを特徴とする請求項1に記載の物体認識装置。
  4. 前記推定平面領域検出手段は、前記画像から前記推定平面領域を複数検出した場合に、該複数の推定平面領域を互いに比較して類似性を評価し、類似性が閾値よりも高いと判断された領域同士を結合して一つの連続した同一平面であると判断することを特徴とする請求項1に記載の物体認識装置。
  5. 前記推定平面領域検出手段は、前記類似性を評価する基準として、前記推定平面領域の輝度、色、パターン特徴量の少なくともいずれか一つを用いることを特徴とする請求項4に記載の物体認識装置。
  6. 前記距離データ補間手段は、前記測定距離データのない位置の距離を推定する際に用いる前記測定距離データの選択範囲を、前記平面領域の面の向きに応じて変更することを特徴とする請求項1に記載の物体認識装置。
JP2015554411A 2013-12-26 2013-12-26 物体認識装置 Expired - Fee Related JP6208260B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2013/084953 WO2015097824A1 (ja) 2013-12-26 2013-12-26 物体認識装置

Publications (2)

Publication Number Publication Date
JPWO2015097824A1 JPWO2015097824A1 (ja) 2017-03-23
JP6208260B2 true JP6208260B2 (ja) 2017-10-04

Family

ID=53477760

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015554411A Expired - Fee Related JP6208260B2 (ja) 2013-12-26 2013-12-26 物体認識装置

Country Status (4)

Country Link
US (1) US10436898B2 (ja)
JP (1) JP6208260B2 (ja)
CN (1) CN105849585B (ja)
WO (1) WO2015097824A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10282591B2 (en) 2015-08-24 2019-05-07 Qualcomm Incorporated Systems and methods for depth map sampling
KR101913835B1 (ko) * 2016-10-27 2018-10-31 주식회사 에스오에스랩 장애물 감지장치 및 감지방법
JP6984215B2 (ja) * 2017-08-02 2021-12-17 ソニーグループ株式会社 信号処理装置、および信号処理方法、プログラム、並びに移動体
JP6719494B2 (ja) * 2018-02-07 2020-07-08 直之 村上 追尾レーザー距離計測器の駆動計測で、3次元の数値駆動の制御機器の3次元の駆動数値を演算する方法。
JP7119724B2 (ja) * 2018-08-01 2022-08-17 トヨタ自動車株式会社 軸ずれ検出装置及び車両
CN110874927A (zh) * 2018-08-31 2020-03-10 百度在线网络技术(北京)有限公司 智能路侧单元
CN110874926A (zh) * 2018-08-31 2020-03-10 百度在线网络技术(北京)有限公司 智能路侧单元
CN109765887B (zh) * 2018-12-21 2020-08-14 杭州翱朝科技有限公司 一种自动驾驶控制方法
JP7260358B2 (ja) * 2019-03-28 2023-04-18 株式会社デンソーテン 推定装置および推定方法
JP7120181B2 (ja) * 2019-08-22 2022-08-17 トヨタ自動車株式会社 物体認識装置
JP7455545B2 (ja) * 2019-09-30 2024-03-26 キヤノン株式会社 情報処理装置、情報処理方法、およびプログラム
JP7336367B2 (ja) * 2019-11-22 2023-08-31 株式会社Subaru 車外環境認識装置
JP2023062219A (ja) * 2020-03-27 2023-05-08 ソニーグループ株式会社 情報処理方法、情報処理装置及びコンピュータプログラム
CN113077657B (zh) * 2021-03-30 2022-07-05 上海华兴数字科技有限公司 车辆间安全距离报警方法及装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19926559A1 (de) 1999-06-11 2000-12-21 Daimler Chrysler Ag Verfahren und Vorrichtung zur Detektion von Objekten im Umfeld eines Straßenfahrzeugs bis in große Entfernung
US6862537B2 (en) * 2002-03-21 2005-03-01 Ford Global Technologies Llc Sensor fusion system architecture
JP3918791B2 (ja) * 2003-09-11 2007-05-23 トヨタ自動車株式会社 物体検出装置
JP3941765B2 (ja) * 2003-09-11 2007-07-04 トヨタ自動車株式会社 物体検出装置
JP4396400B2 (ja) * 2004-06-02 2010-01-13 トヨタ自動車株式会社 障害物認識装置
WO2006123615A1 (ja) * 2005-05-19 2006-11-23 Olympus Corporation 距離計測装置、距離計測方法および距離計測プログラム
JP2006322856A (ja) 2005-05-19 2006-11-30 Olympus Corp 距離計測装置、距離計測方法および距離計測プログラム
JP4595833B2 (ja) 2006-02-24 2010-12-08 トヨタ自動車株式会社 物体検出装置
JP2008116357A (ja) * 2006-11-06 2008-05-22 Toyota Motor Corp 物体検出装置
JP2008147978A (ja) * 2006-12-08 2008-06-26 Canon Inc 画像処理装置およびその方法
JP5541653B2 (ja) 2009-04-23 2014-07-09 キヤノン株式会社 撮像装置及びその制御方法
JP2011039918A (ja) * 2009-08-17 2011-02-24 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
JP5372680B2 (ja) 2009-09-24 2013-12-18 日立オートモティブシステムズ株式会社 障害物検知装置
JP2011145166A (ja) 2010-01-14 2011-07-28 Toyota Motor Corp 車両検出装置
JP2012122816A (ja) 2010-12-07 2012-06-28 Nippon Telegr & Teleph Corp <Ntt> 3次元情報取得方法、3次元情報取得装置、および3次元情報取得プログラム
CN103609100B (zh) 2011-06-09 2017-09-29 爱信精机株式会社 图像生成装置
JP5516998B2 (ja) 2011-06-09 2014-06-11 アイシン精機株式会社 画像生成装置
US20130080111A1 (en) * 2011-09-23 2013-03-28 Honeywell International Inc. Systems and methods for evaluating plane similarity

Also Published As

Publication number Publication date
US10436898B2 (en) 2019-10-08
CN105849585A (zh) 2016-08-10
WO2015097824A1 (ja) 2015-07-02
JPWO2015097824A1 (ja) 2017-03-23
CN105849585B (zh) 2017-10-13
US20160313444A1 (en) 2016-10-27

Similar Documents

Publication Publication Date Title
JP6208260B2 (ja) 物体認識装置
JP6606610B2 (ja) 走路境界推定装置及びそれを用いた走行支援システム
JP6440411B2 (ja) 物体検出装置
US9330320B2 (en) Object detection apparatus, object detection method, object detection program and device control system for moveable apparatus
US9536155B2 (en) Marking line detection system and marking line detection method of a distant road surface area
JP3352655B2 (ja) 車線認識装置
US9971946B2 (en) Traveling road surface detection device and traveling road surface detection method
JP5371725B2 (ja) 物体検出装置
US11062153B2 (en) Apparatus and method for converting image
JP6810009B2 (ja) 視差算出装置
JP2007309799A (ja) 車載測距装置
JP4721278B2 (ja) 車線逸脱判定装置、車線逸脱防止装置および車線追従支援装置
JP4956099B2 (ja) 壁検出装置
US20200193184A1 (en) Image processing device and image processing method
JP7071154B2 (ja) 道路境界検出装置
JP6477340B2 (ja) 道路境界検出装置、自己位置推定装置及び道路境界検出方法
KR101569165B1 (ko) 소실점 검출 방법 및 장치
JP7134780B2 (ja) ステレオカメラ装置
CN110488320A (zh) 一种利用立体视觉检测车辆距离的方法
JP2007240316A (ja) 車載測距装置
JP6451544B2 (ja) 道路境界検出装置、自己位置推定装置及び道路境界検出方法
JP7066580B2 (ja) 画像処理装置
WO2022250086A1 (ja) 軸ずれ推定装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170724

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170906

R151 Written notification of patent or utility model registration

Ref document number: 6208260

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees