JP2013205410A - 車両用外界認識装置およびそれを用いた車両システム - Google Patents

車両用外界認識装置およびそれを用いた車両システム Download PDF

Info

Publication number
JP2013205410A
JP2013205410A JP2012078454A JP2012078454A JP2013205410A JP 2013205410 A JP2013205410 A JP 2013205410A JP 2012078454 A JP2012078454 A JP 2012078454A JP 2012078454 A JP2012078454 A JP 2012078454A JP 2013205410 A JP2013205410 A JP 2013205410A
Authority
JP
Japan
Prior art keywords
vehicle
unit
feature amount
feature
calculation unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012078454A
Other languages
English (en)
Inventor
Taketo Ogata
健人 緒方
Kazuma Ishigaki
和真 石垣
Takayuki Moriya
貴行 森谷
Yasushi Otsuka
裕史 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Hitachi Astemo Ltd
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Mazda Motor Corp
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd, Mazda Motor Corp, Hitachi Automotive Systems Ltd filed Critical Clarion Co Ltd
Priority to JP2012078454A priority Critical patent/JP2013205410A/ja
Publication of JP2013205410A publication Critical patent/JP2013205410A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】撮像される画像の状態によらずに、安定して車両の識別を行う。
【解決手段】カメラ100(撮像部)で撮像した画像から、HOG(第1)特徴量算出部310が濃度勾配に基づく第1特徴量を算出し、HOF(第2)特徴量算出部320がオプティカルフローに基づく第2特徴量を算出して、信頼度算出部410が、濃度勾配が大きいほど高い第1信頼度Rと、オプティカルフローが大きいほど高い第2信頼度Rを算出して、第1車両識別部420が第1特徴量に基づいて車両識別を行い、第2車両識別部430が第2特徴量に基づいて車両識別を行い、車両判定部400が、第1車両識別部420の識別結果と第2車両識別部430の識別結果と第1信頼度Rと第2信頼度Rに基づいて車両の有無を判定する。
【選択図】図1

Description

本発明は、自車両の周辺に存在する車両を識別する車両用外界認識装置およびそれを用いた車両システムに関する。
近年、交通事故による死傷者数の低減を目指し、自車前方を監視して、衝突の危険性があるときに報知する衝突警報システムや、設定した速度の範囲内で車間距離を維持した走行を行うACC(Adaptive Cruise Control:車間距離制御システム)が開発されている。
こうしたシステムには、自車両の周囲に存在する車両を識別して、その位置を特定する機能が必要である。その一例として、例えば、自車両に搭載した単眼カメラで撮影した自車両前方の画像の中から、車両の左右端を表す可能性が高い、画像の縦方向に沿って延びる縦エッジを検出して、その後、縦エッジ同士の間隔wと縦エッジ間の中心の位置xとをxw空間に投票することによって、車両の候補領域を抽出する技術が提案されている(特許文献1)。
特開2005−156199号公報
しかしながら、この特許文献1に記載された車両検知装置によると、様々な条件下で安定して車両を識別することは困難であった。これは、カメラで撮像した画像には、天候、時間帯、日射状態、車両の色等、様々な条件の組み合わせがあるため、条件によっては縦エッジが検出できない場合があるためである。なお、識別対象は、車両に限定されることはなく、自車両の走行に影響を及ぼす恐れのある歩行者や路上の障害物も識別対象となり得るが、その場合にも上記したのと同様の課題がある。
本発明は上記事情に鑑みなされたもので、撮像される画像の状態によらずに、安定して車両の識別を行うことができる車両用外界認識装置およびそれを用いた車両システムを提供することを目的とする。
本発明に係る車両用外界認識装置およびそれを用いた車両システムは、撮像した車両周辺の画像の中から、複数の特徴量と識別器の組み合わせによって車両を識別するものである。
すなわち、本発明の請求項1に係る車両用外界認識装置は、自車両に搭載され、前記自車両の周辺を撮像する撮像部と、前記撮像部で撮像された画像の中から、濃度勾配に基づく第1特徴量を算出する第1特徴量算出部と、前記撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出する第2特徴量算出部と、前記濃度勾配が大きいほど高い第1信頼度を算出し、前記オプティカルフローが大きいほど高い第2信頼度を算出する信頼度算出部と、前記第1特徴量に基づいて車両の識別を行う第1車両識別部と、前記第2特徴量に基づいて車両の識別を行う第2車両識別部と、前記第1車両識別部における識別結果と、前記第2車両識別部における識別結果と、前記第1信頼度と、前記第2信頼度と、に基づいて車両の有無を判定する車両判定部と、
を有することを特徴とする。
このように構成された本発明の請求項1に係る車両用外界認識装置によれば、撮像部で撮像された自車両の周辺の画像の中から、第1特徴量算出部が濃度勾配に基づく第1特徴量を算出して、第2特徴量算出部が撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出して、信頼度算出部が、濃度勾配が大きいほど高い第1信頼度を算出し、さらに、オプティカルフローが大きいほど高い第2信頼度を算出して、第1車両識別部が第1特徴量に基づいて車両の識別を行って、第2車両識別部が第2特徴量に基づいて車両の識別を行って、車両判定部が第1車両識別部における識別結果と、第2車両識別部における識別結果と、第1信頼度と、第2信頼度と、に基づいて車両の有無を判定するので、撮像された画像の中の濃度勾配が大きい、すなわちエッジがはっきりした画像に対しては、第1車両識別部が濃度勾配に基づく第1特徴量に基づいて車両の識別を行い、また、撮像された画像の中のオプティカルフローが大きい、すなわち動きがはっきりした画像に対しては、第2車両識別部がオプティカルフローに基づく第2特徴量に基づいて車両の識別を行うため、単一の識別器で車両の識別を行うよりも、幅広いシーンで車両の識別を行うことができる車両用外界認識装置を提供することができる。
さらに、本発明の請求項3に係る車両用外界認識装置は、自車両に搭載され、前記自車両の周辺を撮像する撮像部と、前記撮像部で撮像された画像の中から、濃度勾配に基づく第1特徴量を算出する第1特徴量算出部と、前記撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出する第2特徴量算出部と、前記第1特徴量に基づいて車両の識別を行う第1車両識別部と、前記第2特徴量に基づいて車両の識別を行う第2車両識別部と、を有し、前記第1特徴量が所定値よりも大きいときは、前記第1車両識別部における識別結果に基づいて車両の有無を判定し、前記第1特徴量が所定値よりも小さいときは、前記第2車両識別部における識別結果に基づいて車両の有無を判定することを特徴とする。
このように構成された本発明の請求項3に係る車両用外界認識装置によれば、撮像部で撮像された自車両の周辺の画像の中から、第1特徴量算出部が濃度勾配に基づく第1特徴量を算出して、算出された第1特徴量が所定値よりも大きいときには、第1車両識別部において、第1特徴量に基づいて車両の識別を行い、その識別結果に基づいて車両の有無が判定され、一方、算出された第1特徴量が所定値よりも小さいときには、第2特徴量算出部がオプティカルフローに基づく第2特徴量を算出して、算出された第2特徴量が所定値よりも大きいときには、第2車両識別部において、第2特徴量に基づいて車両の識別を行い、その識別結果に基づいて車両の有無が判定されるため、第1特徴量、もしくは第2特徴量の少なくとも一方の特徴量のみを算出することによって、車両の有無を判定することができるため、処理の負荷が小さい車両用外界認識装置を提供することができる。
また、本発明の請求項4に係る車両用外界認識装置は、自車両に搭載され、前記自車両の周辺を撮像する撮像部と、前記撮像部で撮像された画像の中から、濃度勾配に基づく第1特徴量を算出する第1特徴量算出部と、前記撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出する第2特徴量算出部と、前記第1特徴量に基づいて車両の識別を行う第1車両識別部と、前記第2特徴量に基づいて車両の識別を行う第2車両識別部と、を有し、前記第2特徴量が所定値よりも大きいときは、前記第2車両識別部における識別結果に基づいて車両の有無を判定し、前記第2特徴量が所定値よりも小さいときは、前記第1車両識別部における識別結果に基づいて車両の有無を判定することを特徴とする。
このように構成された本発明の請求項4に係る車両用外界認識装置によれば、撮像部で撮像された自車両の周辺の画像の中から、第2特徴量算出部がオプティカルフローに基づく第2特徴量を算出して、算出された第2特徴量が所定値よりも大きいときには、第2車両識別部において、第2特徴量に基づいて車両の識別を行い、その識別結果に基づいて車両の有無が判定され、一方、算出された第2特徴量が所定値よりも小さいときには、第1特徴量算出部が濃度勾配に基づく第1特徴量を算出して、算出された第1特徴量が所定値よりも大きいときには、第1車両識別部において、第1特徴量に基づいて車両の識別を行い、その識別結果に基づいて車両の有無が判定されるため、第1特徴量、もしくは第2特徴量の少なくとも一方の特徴量のみを算出することによって、車両の有無の判定を行うことができるため、処理の負荷が小さい車両用外界認識装置を提供することができる。
さらに、本発明の請求項5に係る車両用外界認識装置は、自車両に搭載され、前記自車両の周辺を撮像する撮像部と、前記撮像部で撮像された画像の中から、濃度勾配に基づく第1特徴量を算出する第1特徴量算出部と、前記撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出する第2特徴量算出部と、前記濃度勾配が大きいほど高い第1信頼度を算出し、前記オプティカルフローが大きいほど高い第2信頼度を算出する信頼度算出部と、前記第1特徴量に基づいて車両の識別を行う第1車両識別部と、前記第2特徴量に基づいて車両の識別を行う第2車両識別部と、前記第1車両識別部における識別結果と、前記第2車両識別部における識別結果と、前記第1信頼度と、前記第2信頼度と、に基づいて車両の有無を判定する車両判定部と、自車両の挙動を検出する車両挙動検出部と、を有する車両用外界認識装置において、前記車両挙動検出部で検出された前記自車両の挙動に応じて、前記第1特徴量算出部において前記第1特徴量を算出して、前記第1特徴量が所定値よりも大きいときは、前記第1車両識別部において車両の識別を行って車両の有無を判定し、前記第1特徴量が所定値よりも小さいときは、前記第2特徴量算出部において前記第2特徴量を算出して、前記第2車両識別部において車両の識別を行って車両の有無を判定する処理と、前記第2特徴量算出部において前記第2特徴量を算出して、前記第2特徴量が所定値よりも大きいときは、前記第2車両識別部において車両の識別を行って車両の有無を判定し、前記第2特徴量が所定値よりも小さいときは、前記第1特徴量算出部において前記第1特徴量を算出して、前記第1車両識別部において車両の識別を行って車両の有無を判定する処理と、を切り換えて行うことを特徴とする。
このように構成された本発明の請求項5に係る車両用外界認識装置によれば、撮像部で撮像された自車両の周辺の画像の中から、車両挙動算出部の算出結果に応じて、第1特徴量算出部が濃度勾配に基づく第1特徴量を算出して、算出された第1特徴量が所定値よりも大きいときには、第1車両識別部において、第1特徴量に基づいて車両の識別を行い、その識別結果に基づいて車両の有無を判定し、一方、算出された第1特徴量が所定値よりも小さいときには、第2特徴量算出部がオプティカルフローに基づく第2特徴量を算出して、算出された第2特徴量が所定値よりも大きいときには、第2車両識別部において、第2特徴量に基づいて車両の識別を行い、その識別結果に基づいて車両の有無を判定する処理と、第2特徴量算出部がオプティカルフローに基づく第2特徴量を算出して、算出された第2特徴量が所定値よりも大きいときには、第2車両識別部において、第2特徴量に基づいて車両の識別を行い、その識別結果に基づいて車両の有無を判定し、一方、算出された第2特徴量が所定値よりも小さいときには、第1特徴量算出部が濃度勾配に基づく第1特徴量を算出して、算出された第1特徴量が所定値よりも大きいときには、第1車両識別部において、第1特徴量に基づいて車両の識別を行い、その識別結果に基づいて車両の有無を判定する処理と、を切り換えるため、第1特徴量、もしくは第2特徴量の少なくとも一方の特徴量のみを算出して車両の有無の判定を行うことができるため、処理の負荷が小さい車両用外界認識装置を提供することができる。特に、車両挙動算出部の算出結果に応じて、算出する特徴量を切り換えることによって、処理の負荷をより一層低減することができる。
さらに、本発明の請求項7に係る車両用外界認識装置を用いた車両システムは、請求項1から6のいずれか1項に記載の車両用外界認識装置を用いた車両システムであって、前記車両用外界認識装置によって識別された車両と前記自車両との位置関係を算出する車両相対位置算出部と、前記車両相対位置算出部の算出結果に基づいて、警報を出力する必要性を判断する警報出力判断部と、前記警報出力判断部において警報の出力が必要であると判断されたときに警報を出力する警報出力部と、を有することを特徴とする。
このように構成された本発明の請求項7に係る車両用外界認識装置を用いた車両システムによれば、車両用外界認識装置によって精度高く識別された車両の位置に基づいて、車両相対位置算出部が、自車両と、識別された車両との相対位置関係を算出して、こうして算出された相対位置関係に基づいて、警報出力判断部が警報出力の必要性を判断し、警報出力判断部が、警報出力が必要であると判断したときに警報出力部が警報を出力するため、精度の高い警報出力が可能な車両用外界認識装置を用いた車両システムを提供することができる。
また、本発明の請求項8に係る車両用外界認識装置を用いた車両システムは、請求項1から6のいずれか1項に記載の車両用外界認識装置を用いた車両システムであって、前記車両用外界認識装置によって識別された車両と前記自車両との位置関係を算出する車両相対位置算出部と、前記車両相対位置算出部の算出結果に基づいて、前記自車両の挙動を制御する車両挙動制御部と、を有することを特徴とする。
このように構成された本発明の請求項8に係る車両用外界認識装置を用いた車両システムによれば、車両用外界認識装置によって精度高く識別された車両の位置に基づいて、車両相対位置算出部が、自車両と、識別された車両との相対位置関係を算出して、こうして算出された相対位置関係に基づいて、車両挙動制御部が自車両の挙動を制御するため、精度の高い車両の挙動制御が可能な車両用外界認識装置を用いた車両システムを提供することができる。
本発明に係る車両用外界認識装置によれば、2種類の異なる特徴に基づいて識別を行う2種類の識別器を用いて、車両の識別を行うため、単一の識別器で識別を行うよりも幅広いシーンで車両の識別を行うことができ、これによって撮像される画像の状態によらずに安定して車両の識別を行うことができる車両用外界認識装置を提供することができる。
さらに、本発明に係る車両用外界認識装置を用いた車両システムによれば、精度の高い警報出力や自車両の挙動制御が可能な、車両用外界認識装置を用いた車両システムを提供することができる。
本発明の実施例1に係る車両用外界認識装置を用いた衝突警報装置の概略構成を示すブロック図である。 図1の特徴抽出部の内部構成を示すブロック図である。 本発明の実施例1における処理の流れを示す概略フローチャートである。 本発明の実施例1における車両候補領域抽出処理の流れを示す概略フローチャートである。 本発明の実施例1における特徴算出処理の流れを示す概略フローチャートである。 本発明の実施例1における車両識別処理の流れを示す概略フローチャートである。 縦エッジを検出するオペレータを説明する図である。 (a)は本発明の実施例1において取得される画像の第1例を示す。(b)は本発明の実施例1において取得される画像の第2例を示す。(c)は図8(a)の画像から検出されたエッジ情報の例を示す。(d)は図8(b)の画像から検出されたエッジ情報の例を示す。 本発明の実施例2に係る車両用外界認識装置を用いた衝突警報装置の概略構成を示すブロック図である。 図9の特徴抽出部の内部構成を示すブロック図である。 本発明の実施例2における処理の流れを示す概略フローチャートである。 本発明の実施例3に係る車両用外界認識装置を用いた衝突警報装置の概略構成を示すブロック図である。 図12の特徴抽出部の内部構成を示すブロック図である。 本発明の実施例3における処理の流れを示す概略フローチャートである。
以下、本発明に係る車両用外界認識装置を用いた車両システムの実施形態について、図面を参照して説明する。
本実施例1は、車載されたカメラで車両前方を監視して、自車両に接触する可能性のある車両が識別されたときに警報を出力する車両用外界認識装置を用いた衝突警報装置に関するものである。
まず、図1、図2を用いて装置の構成を説明する。本実施例1に係る衝突警報装置50は、図示しない自車両10に設置され、自車両10前方の画像を撮像するカメラ100(撮像部)と、自車両10以外の車両を識別する車両用外界認識装置60と、車両が識別されたときに、自車両10から、識別された車両までの方向と距離を算出する車両相対位置算出部70と、衝突の可能性を判断する警報出力判断部80と、衝突の可能性が所定値以上であるときに警報を出力する警報出力部90と、を備えている。
ここで、車両用外界認識装置60は、CPUやメモリ、I/O等を有するコンピュータによって構成されており、具体的には、一定周期で、カメラ100(撮像部)で撮像された画像を取り込む画像取得部150と、撮像した画像の中から車両の候補領域を検出する車両候補領域抽出部200と、車両候補領域の中から車両らしさを表す特徴量を算出する特徴量算出部300と、車両候補領域が車両を表すか否かを判定する車両判定部400を備えている。なお、車両用外界認識装置60には、所定の処理がプログラミングされて、予め定められた周期で繰り返し処理を実行するようになっている。
そして、車両候補領域抽出部200は、さらに、縦エッジを構成する画素の位置を検出する縦エッジ検出部210と、縦エッジ検出部210で検出された縦エッジを構成する画素の左右方向の間隔を算出する縦エッジ間隔算出部220と、縦エッジ間隔算出部220で算出された縦エッジの左右方向の間隔(w)と、左右の縦エッジの中央の位置(x)をxw空間に投票して、この投票の結果、ピークを有する点(x,w)を検出して車両候補領域とするxw空間生成部230と、車両候補領域を設定する車両候補領域設定部240からなる。
また、特徴量算出部300は、さらに、ヒストグラムに基づいた濃度勾配に関するHOG(Histogram of Oriented Gradients)特徴量(第1特徴量)を算出するHOG特徴量算出部310(第1特徴量算出部)と、ヒストグラムに基づいたオプティカルフローに関するHOF(Histogram of Optical Flow)特徴量(第2特徴量)を算出するHOF特徴量算出部320(第2特徴量算出部)からなる。
なお、HOG特徴量算出部310は、さらに、図2に示すように、車両候補領域設定部240によって設定された車両候補領域の中に、お互いに重ならないように敷き詰められた複数の部分領域を設定して、こうして設定された部分領域の中の濃度勾配の大きさと方向を算出する勾配情報算出部312と、勾配情報算出部312で算出された濃度勾配の大きさと方向を用いて濃度勾配の方向のヒストグラムを作成する勾配ヒストグラム作成部314と、勾配ヒストグラム作成部314で作成された勾配ヒストグラムから、画像の中の濃度勾配(エッジ特徴)に基づくHOG特徴量(第1特徴量)を算出する濃度勾配特徴量算出部316からなる。
また、HOF特徴量算出部320は、さらに、図2に示すように、異なる時間に撮像した画像間で、対応する領域を探索してオプティカルフローを算出するオプティカルフロー算出部322と、算出したオプティカルフローのヒストグラムを作成するオプティカルフローヒストグラム作成部324と、算出されたオプティカルフローの大きさと方向によって、画像の中の動きの特徴を表すオプティカルフローに基づくHOF特徴量(第2特徴量)を算出するオプティカルフロー特徴量算出部326からなる。
そして、車両判定部400は、さらに、HOG特徴量とHOF特徴量に基づいて信頼度を算出する信頼度算出部410と、HOG特徴量に基づいて車両の識別を行う第1車両識別部420と、HOF特徴量に基づいて車両の識別を行う第2車両識別部430と、算出された信頼度と、第1車両識別部420における識別結果と、第2車両識別部430における識別結果に基づいて車両有無を判定する判定部440からなる。ここで、第1車両識別部420は、予め収集された様々な条件下で撮像された識別対象(車両)とそれ以外(背景など)の画像の中から、画像の中の濃度勾配に基づくHOG特徴量(第1特徴量)を算出して、算出されたHOG特徴量を学習アルゴリズムによって学習し、この学習に基づいて設計された識別器によって構成される。また、第2車両識別部430は、予め収集された様々な条件下で撮像された識別対象(車両)とそれ以外(背景など)の画像の中から、画像の中のオプティカルフローに基づくHOF特徴量(第2特徴量)を算出して、算出されたHOF特徴量を学習アルゴリズムによって学習し、この学習に基づいて設計された識別器によって構成される。
以下、本実施形態に係る衝突警報装置50の作用について、図3〜図6のフローチャート、および図7、図8を用いて説明する。
まず、図3のフローチャートに基づいて、衝突警報装置50の作用を説明する。ステップS100において、カメラ100(撮像部)によって、自車両10前方の画像を撮像する。撮像された画像をI(x,y)とし、0≦x≦m−1、0≦y≦n−1とする。撮像された画像I(x,y)は、画像取得部150によって、車両用外界認識装置60に取り込まれる。
ステップS100によって、例えば、図8(a)や図8(b)に示す画像が取得されて、車両用外界認識装置60に取り込まれる。ここで、図8(a)は、適切な光線状態の下で撮像された画像の例であり、車両の最外部および車両の内部は、高いコントラストで画像化されており、良好なエッジ情報が得られている。一方、図8(b)は、逆光の環境や、薄暗い環境で撮像された画像の例であり、車両のコントラストが低く、車両の最外部の輪郭は確認できるが、車両内部の細かいエッジ情報は欠落している。このように、ステップS100では、外部の環境に応じて、様々な品質の画像が取得される。
次に、ステップS120において、車両候補領域抽出部200の作用によって、画像I(x,y)の中から、車両候補領域が抽出される。なお、ステップS120の中で行われる処理の詳細を図4に示すが、その内容については後述する。
さらに、ステップS140において、特徴量算出部300の作用によって、ステップS120で抽出された車両候補領域の内部において、車両らしさを表す特徴量が算出される。なお、ステップS140の中で行われる処理の詳細を図5に示すが、その内容については後述する。
その後、ステップS150において、車両判定部400の作用によって、ステップS140で算出された特徴量を利用して、車両候補領域が車両を表すか否かが判定される。なお、ステップS150の中で行われる処理の詳細を図6に示すが、その内容については後述する。
次に、ステップS160において、車両相対位置算出部70の作用によって、自車両10と、ステップS150で識別された車両の相対位置関係が算出される。具体的には、まず、画像I(x,y)の中の識別された車両の下端の位置yと、カメラ100(撮像部)の取り付け位置、取り付け方向に基づいて、自車両10から、識別された車両までのおおよその距離を求める。次に、画像I(x,y)の中の識別された車両の左右方向の位置xと、カメラ100(撮像部)の取り付け位置、取り付け方向に基づいて、識別された車両のおおよその方向を求める。そして、警報出力判断部80の作用によって、識別された車両までの距離と方向、および、自車両10の速度と進行方向に基づいて、警報出力が必要か否かが判断される。
そして、警報出力が必要であると判定されると、ステップS170において、警報出力部90から警報が出力される。
次に、図3のステップS120で行われる車両候補領域を抽出する処理の詳細について、図4を用いて説明する。
まず、ステップS121において、画像I(x,y)の中から、縦方向に延びたエッジ(縦エッジ)の検出を行う。この処理は、縦エッジ検出部210において行われる。縦エッジの検出は、一般には、画像に対して所定のオペレータを重ね合わせて、対応する画素同士の積和演算を行い、その結果をオペレータの中心に対応する画素の位置におけるエッジ強度とすることによって実行される。本実施例の場合、図7に示す3×3のオペレータを作用させるものとする。このようにして得られた縦エッジの強度が格納された画像を、エッジ画像J(x,y)とする。なお、縦エッジを検出するオペレータは、図7に示したものに限定されるわけではなく、その他の係数を有するオペレータを用いてもよいし、図7と異なるサイズのオペレータを用いてもよい。
次に、ステップS122において、エッジ画像J(x,y)の中から縦エッジを構成する点を探すために、画像の中の位置を指し示すアドレスの値をx=0、y=0にセットする。
そして、ステップS123において、エッジ画像J(x,y)の中から、水平方向に並んだ縦エッジのペアを探す処理を行う。この処理は、縦エッジ間隔算出部220において行われる。これは、車両の候補領域を抽出するために行う処理であり、水平方向に並んだ縦エッジのペアは、車両の左右端を構成する可能性が高いことを利用して行うものである。
なお、具体的には、エッジ画像J(x,y)の中を、左から右、上から下の順に走査して、まず、縦エッジ強度が所定値以上である画素を探索する。そして、条件に該当する画素Eが見つかったら、その画素E(xE1,yE1)を基準として、画素E(xE1,yE1)の右方向で、予め設定された所定の幅wthの内部で、次に出現する縦エッジ強度が所定値以上である画素Eを探索する。なお、このとき、ペアになる縦エッジ同士は、エッジの方向が約180°ずれたものになるような条件で探索される。これは、車両の左右端では約180°ずれた方向を有する縦エッジが検出されるため、車両の左右端に該当しない縦エッジペアを極力探索しないようにして、これによって、縦エッジペア探索の効率を向上させるためである。
ステップS123において、画素E(xE2,yE1)が見つかったら、画素Eと画素Eの左右方向の間隔wを算出する。本実施例の場合、左右方向の間隔wは、w=xE2−xE1となる。
次に、ステップS124において、抽出された縦エッジペアの左右方向の間隔wが、予め設定された所定の幅wthの内部にあるか否かが判定される。そして、画素E(xE1,yE1)に対して、1つ目の縦エッジペアとなる画素E(xE2,yE1)が見つかった後も、所定の幅wthの内部で、更にx軸方向に縦エッジペアの探索が続行される。
そして、ステップS125において、算出された縦エッジの左右方向の間隔wと、左右の縦エッジ構成点の中央の位置x=(xE1+xE2)/2が、xw空間生成部230において作成されるxw空間の中の対応する点に対して投票(該当する画素の濃淡値を1インクリメントする)される。
ステップS123からステップS125の処理を、エッジ画像J(x,y)の左右方向の位置xをインクリメントしながら(ステップS126)、かつエッジ画像J(x,y)の上下方向の位置yをインクリメントしながら(ステップS127)繰り返す。
次に、ステップS128において、生成されたxw空間の中から縦エッジペアを構成する縦エッジ構成点が多く存在することによって生じた、ピークを有する画素の抽出を行う。こうして抽出されたxw空間の中の画素(x,w)が、車両候補領域を表す。
そして、ステップS129において、車両候補領域設定部240の作用によって、車両候補領域の左右端が設定される。具体的には、xw空間の中から抽出されたピークを有する画素(x,w)の位置に基づいて、その画素(x,w)に対応する領域の左右端の位置を逆算して、こうして逆算された領域の左右端の位置が、車両候補領域の左右端として、画像I(x,y)上に設定される。
次に、ステップS130において、車両候補領域設定部240の作用によって、車両候補領域の上下端が設定される。具体的には、車両の下部には、水平方向に延びるエッジ成分が多く含まれているため、ステップS129において車両候補領域の左右端として設定された領域の中について、水平方向に延びる水平エッジを検出する処理を行い、検出された水平エッジ点を水平方向に投影して、投影された頻度が所定値を超える位置を車両候補の下端位置として設定する。そして、設定された、車両候補領域の下端位置と左右端の間隔から、車両候補領域の上端位置を推定して、矩形で囲まれた車両候補領域Rが設定される。
次に、図3のステップS140で行われる特徴量を算出する処理の詳細について、図5、図8を用いて説明する。
まず、ステップS141において、勾配情報算出部312の作用によって、画像I(x,y)の中の車両候補領域に対して、お互いに重ならないように敷き詰められた複数の部分領域が設定されて、設定された部分領域内部の画像の濃度勾配の大きさと濃度勾配の方向が算出される。
ここで、画像I(x,y)の画素(x,y)における濃度勾配の大きさG(x,y)と濃度勾配の方向d(x,y)は、それぞれ、以下のように算出する。
G(x,y)=(f(x,y)+f(x,y)1/2 (式1)
d(x,y)= tan-1(f(x,y)/f(x,y)) (式2)
ただし、f(x,y)=I(x+1,y)−I(x−1,y) (式3)
(x,y)=I(x,y+1)−I(x,y−1) (式4)
次に、ステップS142において、勾配ヒストグラム作成部314の作用によって、勾配情報算出部312で設定された各々の部分領域に対して、(式2)で算出した濃度勾配の方向d(x,y)のヒストグラムを作成する。これによって、部分領域の数だけのヒストグラムが作成される。具体的には、濃度勾配の方向d(x,y)は−180〜180度の範囲で算出されるが、これを0〜180度の範囲に調整し、さらに、これを20度ずつに分割して、9方向のヒストグラムを作成する。なお、ヒストグラムの投票時には、各画素の濃度勾配の方向d(x,y)に対応したヒストグラムの横軸の位置に、その画素の濃度勾配の大きさG(x,y)の値を投票することによって、ヒストグラムの縦軸に、濃度勾配の大きさG(x,y)に対応する値が格納された勾配ヒストグラムH(d)が作成される。
次に、ステップS143において、濃度勾配特徴量算出部316の作用によって、ステップS142で作成された勾配ヒストグラムH(d)から、濃度勾配の大きさを表すノルムNを算出して、さらに、作成された勾配ヒストグラムH(d)に対して、勾配ヒストグラムH(d)の中に格納された濃度勾配の方向の乱雑さを表すエントロピーEを算出する。
ノルム(ユークリッドノルム)Nは、(式5)によって算出される。
=ΣH(d) (式5)
ノルムNは、濃度勾配が大きいほど、すなわち、エッジの量が多いほど大きい値をとる。
また、エントロピーEは、(式6)で算出される。
= Σ(−p(d)log2(p(d))) (式6)
ここで、p(d)は、勾配ヒストグラムH(d)から算出される、濃度勾配の方向がdになる確率(ヒストグラムの面積に占める、濃度勾配の方向がdである濃度勾配の大きさの割合)である。そして、勾配ヒストグラムH(d)の中に格納された濃度勾配の方向が、様々な方向を向いているほど、すなわち、部分領域の中に様々な方向のエッジが含まれて、乱雑さが高いときほど、エントロピーEは大きい値をとる。
このように、(式5)で算出されたノルムNと、(式6)で算出されたエントロピーEによって、部分領域の中のエッジの見え方が数値化される。
例えば、図8(a)に示す画像が取得されたときには、図8(c)に示すエッジ情報が得られる。一方、図8(b)に示す画像が取得されたときには、図8(d)に示すエッジ情報が得られる。図8(c)のように、多くのエッジ構成点が検出されるときには、上述したノルムNとエントロピーEは大きい値をとる。一方、図8(d)のように、エッジ構成点が少ないときには、ノルムNとエントロピーEの値は小さくなる。
次に、ステップS144において、オプティカルフロー算出部322の作用によって、連続した異なる時刻に撮影された複数の画像I(x,y)の中から、時間的に隣り合った2枚の画像I(x,y)、It+Δt(x,y)を選択して、画像It+Δt(x,y)の中から、画像I(x,y)の中の各画素が移動したと考えられる画素(対応する画素)の位置が探索される。
対応する画素の探索方法について、以下に説明する。まず、画像I(x,y)の中から、輝度勾配の大きな点を特徴点として検出する。具体的には、画像I(x,y)に対して、着目する画素の近傍に小領域を設定して、濃度勾配を表す量として、設定した小領域の内部における濃度勾配を求めるオペレータを作用させて、求めた濃度勾配の大きさが所定値よりも大きい画素を特徴点とする。このとき、併せて、同じ画素における濃度勾配の方向も算出しておく。
次に、画像I(x,y)の中から検出した特徴点と同じ濃度勾配の大きさと濃度勾配の方向を有する画素を、画像It+Δt(x,y)の中から探索する。この処理は、画像It+Δt(x,y)の中に所定の大きさの探索範囲を設定して、設定した探索範囲の中で、画像I(x,y)の中から検出した特徴点と同じ濃度勾配(大きさと方向)を有する画素を探索することによって行われる。
濃度勾配の大きさと方向の近似度に、それぞれしきい値を設けて、濃度勾配の大きさの差異と、濃度勾配の方向の差異が、ともに、それぞれ設定されたしきい値以内であるときに、対応点が見つかったと判定する。一方、対応点が探索されないときは、画像I(x,y)上で、別の特徴点の検出を行う。
このようにして、画像I(x,y)の中から検出した特徴点を始点とし、画像It+Δt(x,y)の中から見つけた対応点を終点とするオプティカルフローが決定する。なお、オプティカルフローは、ベクトル量であり、大きさと方向を有する。以後、画像I(x,y)の画素(x,y)において検出されたオプティカルフローをF(x,y)=(g,g)で表すものとする。このとき、オプティカルフローの大きさF(x,y)は(式7)で表され、オプティカルフローの方向F(x,y)は(式8)で表される。
(x,y)=g +g (式7)
(x,y)=tan-1(g/g) (式8)
次に、ステップS145において、オプティカルフローヒストグラム作成部324の作用によって、勾配情報算出部312が画像I(x,y)の中に設定した複数の部分領域の各々に対して、オプティカルフローの方向F(x,y)のヒストグラムが作成される。これによって、部分領域の数だけのヒストグラムが作成される。具体的には、オプティカルフローの方向F(x,y)は、−180〜180度の範囲で算出されるが、これを0〜180度の範囲に調整し、さらに、これを20度ずつに分割して、9方向のヒストグラムを作成する。なお、ヒストグラムの投票時には、各画素のオプティカルフローの方向F(x,y)に対応したヒストグラムの横軸の位置に、その画素のオプティカルフローの大きさF(x,y)の値を投票することによって、ヒストグラムの縦軸に、オプティカルフローの大きさに対応する値が格納されたオプティカルフローのヒストグラムH(F)が作成される。
次に、ステップS146において、オプティカルフロー特徴量算出部326の作用によって、作成されたオプティカルフローのヒストグラムH(F)から、オプティカルフローの大きさを表すノルムNを算出し、さらに、作成されたオプティカルフローのヒストグラムH(F)に対して、オプティカルフローのヒストグラムH(F)の中に格納されたオプティカルフローの方向F(x,y)の乱雑さを表すエントロピーEを算出する。
ノルム(ユークリッドノルム)Nは、(式9)によって算出される。
=ΣH(F) (式9)
ノルムNは、オプティカルフローが大きいほど、すなわち、画像の動きが多いほど大きい値をとる。
また、エントロピーEは、(式10)で算出される。
= Σ(−p(F)log2(p(F))) (式10)
ここで、p(F)は、オプティカルフローのヒストグラムH(F)から算出される、オプティカルフローの方向がFになる確率(ヒストグラムの面積に占める、オプティカルフローの方向がFであるオプティカルフローの大きさの割合)である。そして、オプティカルフローのヒストグラムH(F)の中に格納されたオプティカルフローの方向が、様々な方向を向いているほど、すなわち、部分領域の中に様々な方向のオプティカルフローが含まれて、乱雑さが高いときほど、エントロピーEは大きい値をとる。
このように、(式9)で算出されたノルムNと、(式10)で算出されたエントロピーEによって、部分領域の中のオプティカルフローの出現状態が数値化される。
例えば、図8(b)に示す画像が取得されたときには、図8(d)に示すエッジ情報が得られ、この場合エッジ構成点が少ないため、上述したようにノルムNとエントロピーEは小さい値をとる。しかし、車両の最外部の輪郭は確認できるため、車両の動きによって生じるオプティカルフローを数多く検出することができ、これによって、ノルムNとエントロピーEは大きい値をとる。
なお、ステップS141からS146までの処理は、画像I(x,y)の中から抽出された、車両候補領域の全てに対して順に行われる。
次に、図3のステップS150において行われる車両を判定する処理の詳細について、図6、図8を用いて説明する。
まず、ステップS151において、信頼度算出部410の作用によって、濃度勾配特徴量算出部316で算出されたノルムNとエントロピーEに基づいて、ノルムNが大きいほど高い値をとり、エントロピーEが大きいほど高い値をとる第1信頼度Rと、オプティカルフロー特徴量算出部326で算出されたノルムNとエントロピーEに基づいて、ノルムNが大きいほど高い値をとり、エントロピーEが大きいほど高い値をとる第2信頼度Rが算出される。すなわち、濃度勾配が大きいほど、また、濃度勾配が様々な方向を向いているほど、第1信頼度Rは高い値を持つ。そして、画像の動きが多いほど、また、様々な方向のオプティカルフローが含まれているほど、第2信頼度Rは高い値を持つ。
例えば、図8(a)に示す画像が取得されたときには、ノルムNとエントロピーEが大きい値となるため、第1信頼度Rは高い値となる。また、ノルムNとエントロピーEが大きい値となるため、第2信頼度Rは高い値となる。
一方、図8(b)に示す画像が取得されたときには、ノルムNとエントロピーEが小さい値となるため、第1信頼度Rは低い値となる。また、ノルムNとエントロピーEが大きい値となるため、第2信頼度Rは高い値となる。
濃度勾配特徴量算出部316では、1つの車両候補領域に対して、複数の部分領域の各々から、それぞれノルムNとエントロピーEが算出されるが、第1信頼度Rは、こうして算出された複数のノルムNの最大値と、複数のエントロピーEの最大値に基づいて算出してもよいし、もしくは、これら複数のノルムNの平均値と、複数のエントロピーEの平均値に基づいて算出してもよい。すなわち、第1信頼度Rは、車両候補領域の濃度勾配の特徴を表す数値として算出される。
また、オプティカルフロー特徴量算出部326では、1つの車両候補領域に対して、複数の部分領域の各々から、それぞれノルムNとエントロピーEが算出されるが、第2信頼度Rは、これら複数のノルムNの最大値と、複数のエントロピーEの最大値に基づいて算出してもよいし、もしくは、これら複数のノルムNの平均値と、複数のエントロピーEの平均値に基づいて算出してもよい。すなわち、第2信頼度Rは、車両候補領域のオプティカルフローの状態を表す数値として算出される。
次に、ステップS152において、第1車両識別部420で車両の識別が行われる。この識別処理は、HOG特徴量算出部310(第1特徴量算出部)において、部分領域の位置を1画素ずつずらしながら、その都度、勾配ヒストグラムH(d)を作成して、こうして作成された複数の勾配ヒストグラムH(d)を正規化して、こうして正規化された複数の勾配ヒストグラムH(d)に基づいて、車両候補領域のサイズと部分領域のサイズに応じた次元数を有するHOG特徴量を算出し、こうして算出されたHOG特徴量を第1車両識別部420に入力することによって行われる。
さらに、ステップS153において、第2車両識別部430で車両の識別が行われる。この識別処理は、HOF特徴量算出部320(第2特徴量算出部)において、部分領域の位置を1画素ずつずらしながら、その都度オプティカルフローのヒストグラムH(F)を作成して、こうして作成された複数のオプティカルフローのヒストグラムH(F)を正規化して、こうして正規化された複数のオプティカルフローのヒストグラムH(F)に基づいて、車両候補領域のサイズと部分領域のサイズに応じた次元数を有するHOF特徴量を算出し、こうして算出されたHOF特徴量を第2車両識別部430に入力することによって行われる。
そして、ステップS154において、判定部440の作用によって、第1信頼度Rがあらかじめ設定された第1所定値Rth1よりも高いか否かが判定される。
第1信頼度Rがあらかじめ設定された第1所定値Rth1よりも高いと判定されると、ステップS155において、第1車両識別部420における識別結果が、最終的な識別結果として採用され、第1車両識別部420における識別結果に基づいて、車両の有無が判定される。
例えば、図8(a)に示す画像が取得されたときには、ノルムNとエントロピーEが大きい値となるため、第1信頼度Rは高い値となり、第1信頼度Rがあらかじめ設定された第1所定値Rth1よりも高いと判定されることによって、第1車両識別部420における識別結果が、最終的な識別結果として採用される。
そして、ステップS156において、判定部440の作用によって、第2信頼度Rがあらかじめ設定された第2所定値Rth2よりも高いか否かが判定される。
第1信頼度Rがあらかじめ設定された第1所定値Rth1よりも低く、かつ第2信頼度Rがあらかじめ設定された第2所定値Rth2よりも高いと判定されると、ステップS157において、第2車両識別部430における識別結果が、最終的な識別結果として採用され、第2車両識別部430における識別結果に基づいて、車両の有無が判定される。
例えば、図8(b)に示す画像が取得されたときには、ノルムNとエントロピーEが大きい値となるため、第2信頼度Rは高い値となり、第2信頼度Rがあらかじめ設定された第1所定値Rth2よりも高いと判定されることによって、第2車両識別部430における識別結果が、最終的な識別結果として採用される。
さらに、ステップS154、ステップS156のいずれの条件も満たさないとき、すなわち、第1信頼度Rがあらかじめ設定された第1所定値Rth1よりも低く、かつ第2信頼度Rがあらかじめ設定された第2所定値Rth2よりも低いときには、ステップS158において、着目している車両候補領域は車両ではないと判定される。
そして、ステップS159において、抽出した全ての車両候補領域に対して識別が終了したか否かが判断されて、全ての車両候補領域に対して識別が終了したと判断されると、図3のステップS160に進む。そして、全ての車両候補領域に対して識別が終了していないときは、識別処理を継続する。
なお、図6では、第1車両識別部420と第2車両識別部430でともに識別処理を行った後で、第1信頼度Rと第2信頼度Rの大きさに基づいて、車両の識別結果を選択する構成としたが、その限りではなく、先に第1信頼度Rと第2信頼度Rの大きさを評価して、その評価結果に基づいて、第1車両識別部420、もしくは第2車両識別部430において識別処理を行う構成としてもよい。このような処理構成にすることによって、第1車両識別部420と第2車両識別部430の両方で識別処理を行う必要がなく、信頼度算出部410で算出された第1信頼度Rと第2信頼度Rの大きさに基づいて、第1車両識別部420と第2車両識別部430のいずれか一方の識別器が選択されて識別処理を行うため、識別処理を効率的に実行することができる。
また、本実施例では、ソフトウェア処理の効率を上げるために、車両候補領域抽出部200によって抽出された車両候補領域のみに対して、特徴量算出部300でHOG特徴量とHOF特徴量を算出し、車両判定部400で車両の識別、および判定を行ったが、特に車両候補領域を抽出する必要はなく、撮像された画像全体に亘って、特徴量算出部300でHOG特徴量とHOF特徴量を算出し、車両判定部400で車両の識別、および判定を行う構成としてもよい。特に、車両用外界認識装置60が複数のCPUを搭載して、複数の画像処理を並列に実行できる環境であれば、画像全体に亘って同じ処理を一気に実行した方が効率がよい場合もある。
以上説明したように、このように構成された本発明の車両用外界認識装置60を用いた衝突警報装置50によれば、撮像部100で撮像された自車両10前方の画像の中から、HOG特徴量算出部310(第1特徴量算出部)が濃度勾配に基づくHOG特徴量(第1特徴量)を算出して、HOF特徴量算出部320(第2特徴量算出部)が撮像部100で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づくHOF特徴量(第2特徴量)を算出して、信頼度算出部410が、濃度勾配が大きいほど高い第1信頼度Rを算出し、さらに、オプティカルフローが大きいほど高い第2信頼度Rを算出して、第1車両識別部420がHOG特徴量(第1特徴量)に基づいて車両の識別を行って、第2車両識別部430がHOF特徴量(第2特徴量)に基づいて車両の識別を行って、車両判定部400が第1車両識別部420における識別結果と、第2車両識別部430における識別結果と、第1信頼度Rと、第2信頼度Rに基づいて車両の有無を判定するので、撮像された画像の中の濃度勾配が大きい、すなわちエッジがはっきりした画像に対しては、第1車両識別部420が濃度勾配に基づくHOG特徴量(第1特徴量)に基づいて車両の識別を行い、また、撮像された画像の中のオプティカルフローが大きい、すなわち動きがはっきりした画像に対しては、第2車両識別部430がオプティカルフローに基づくHOF特徴量(第2特徴量)に基づいて車両の識別を行うため、単一の識別器で車両の識別を行うよりも、幅広いシーンで車両の識別を行うことができる車両用外界認識装置60を提供することができる。
また、このように構成された本発明の車両用外界認識装置60を用いた衝突警報装置50によれば、車両判定部400は、第1信頼度Rが第1所定値よりも高いときには、第1車両識別部420の識別結果に基づいて車両の有無の判定を行い、第1信頼度Rが第1所定値Rth1よりも低く、かつ第2信頼度Rが第2所定値Rth2よりも高いときには、第2車両識別部430の識別結果に基づいて車両の有無の判定を行い、第1信頼度Rが第1所定値Rth1よりも低く、かつ第2信頼度Rが第2所定値Rth2よりも低いときには、車両なしと判定するため、準備された複数の識別器の全てを用いることなく、そのときに撮像された画像の特徴に合った識別器を1つだけ用いて車両の識別を行うことができるため、識別処理を効率的に行うことができる。
さらに、このように構成された本発明に係る車両用外界認識装置60を用いた衝突警報装置50によれば、車両用外界認識装置60によって精度高く識別された車両の位置に基づいて、車両相対位置算出部70が、自車両10と、識別された車両との相対位置関係を算出して、こうして算出された相対位置関係に基づいて、警報出力判断部80が警報出力の必要性を判断し、警報出力判断部80が、警報出力が必要であると判断したときに警報出力部90が警報を出力するため、精度の高い警報出力が可能な、車両用外界認識装置を用いた車両システムを提供することができる。
なお、本実施例では、識別された車両の位置に基づいて、識別された車両に衝突する可能性があるときに警報を出力する衝突警報装置を例にあげて説明したが、これは、衝突警報装置に限らず、より積極的に自車両10の挙動を制御するシステムにも適用することができる。
すなわち、図1の構成に、さらに、自車両10と先行車両の車間距離を測定する車間距離計測部(車両挙動制御部)を付加して、この車間距離計測部によって計測された自車両10と先行車両の車間距離を維持するように自車両10の車速を制御するACCシステムを実現することもできる。また、識別された車両の位置に基づいて、衝突の可能性がある場合に、自車両10に制動をかける制動アクチュエータを作動させて、自車両10を減速させる自動ブレーキシステムを実現することもできる。
また、本実施例では、カメラ100(撮像部)は自車両10前方の画像を撮像して車両の識別を行ったが、これは、自車両10前方の画像に限定されるものではない。すなわち、カメラ100(撮像部)で自車両10の後方の画像を撮像して、自車両10が後退する際に、自車両10の後方にある車両を識別して、識別された車両と衝突する可能性があるときに警報を出力する構成とすることも可能である。さらに、カメラ100(撮像部)で自車両10の後側方の画像を撮像して、撮像された画像の中から車両を識別して、自車両10が車線変更を行う際に、識別された車両と衝突する可能性があるときに、警報を出力する構成とすることも可能である。
さらに、本実施例では、学習アルゴリズムに基づいて予め設計された識別器によって構成される第1車両識別部420と第2車両識別部430によって、車両の識別を行うと説明したが、その具体的な構成例は、特に限定されるものではなく、例えばニューラルネットワークを用いて実現してもよいし、サポートベクターマシン(SVM)識別器、NN(ニアレストネイバー)識別器、ベイズ識別器などを用いて実現してもよい。
また、本実施例では、第1特徴量としてHOG特徴量を利用したが、これは、HOG特徴量に限定されるものではない。すなわち、撮像された画像I(x,y)の中の濃度勾配に基づく特徴量であれば、HOG特徴量に代えて使用することができる。例えば、隣接する矩形領域間の輝度差を求めて、それを特徴量として用いるHaar like特徴量や、近傍領域の輝度分布を濃度勾配として捉え、大きさや回転に不変な特徴を得ることができるSIFT特徴量などを用いてもよい。
次に、本発明に係る車両用外界認識装置を用いた車両システムの第2の実施例について、車載されたカメラで車両前方を監視して、自車両に接触する可能性のある車両が識別されたときに警報を出力する車両用外界認識装置を用いた衝突警報装置を例にあげて説明する。
まず、図9を用いて装置の構成を説明する。本実施例2に係る衝突警報装置52は、図示しない自車両10に設置され、自車両10前方の画像を撮像するカメラ100(撮像部)と、自車両10以外の車両を識別する車両用外界認識装置62と、車両が識別されたときに、自車両10から、識別された車両までの方向と距離を算出する車両相対位置算出部70と、衝突の可能性を判断する警報出力判断部80と、衝突の可能性が所定値以上であるときに警報を出力する警報出力部90を備えている。
ここで、車両用外界認識装置62は、CPUやメモリ、I/O等を有するコンピュータによって構成されており、具体的には、一定周期で、カメラ100(撮像部)で撮像された画像を取り込む画像取得部150と、撮像した画像の中から車両の候補領域を検出する車両候補領域抽出部200と、車両候補領域の中から車両らしさを表す特徴量を算出する特徴量算出部350と、車両候補領域が車両を表すか否かを判定する車両判定部450を備えている。なお、車両用外界認識装置62には、所定の処理がプログラミングされて、予め定められた周期で繰り返し処理を実行するようになっている。
車両候補領域抽出部200は、さらに、縦エッジを構成する画素の位置を検出する縦エッジ検出部210と、縦エッジ検出部210で検出された縦エッジを構成する画素の左右方向の間隔を算出する縦エッジ間隔算出部220と、縦エッジ間隔算出部220で算出された縦エッジの左右方向の間隔(w)と、左右の縦エッジの中央の位置(x)をxw空間に投票して、この投票の結果、ピークを有する点(x,w)を検出して車両候補領域とするxw空間生成部230と、車両候補領域を設定する車両候補領域設定部240からなる。
特徴量算出部350は、さらに、ヒストグラムに基づいた勾配情報に関するHOG(Histogram of Oriented Gradients)特徴量(第1特徴量)を算出するHOG特徴量算出部310(第1特徴量算出部)と、ヒストグラムに基づいたオプティカルフローに関するHOF(Histogram of Optical Flow)特徴量(第2特徴量)を算出するHOF特徴量算出部320(第2特徴量算出部)と、HOG特徴量算出部310で算出されたHOG特徴量を取得して、その大きさを判定し、HOG特徴量の大きさが所定の値に満たないときには、HOF特徴量算出部320に対してHOF特徴量の算出を指示し、算出されたHOF特徴量を取得して、その大きさを判定する特徴量判定部330からなる。
なお、特徴量算出部350の詳細な構成を、図10に示す。このうち、HOG特徴量算出部310とHOF特徴量算出部320の詳細構成は、図2に示した通りであるため、説明は省略する。そして、特徴量判定部330は、さらに、HOG特徴量算出部310で算出されたHOG特徴量の大きさを判定するHOG特徴量判定部332と、HOF特徴量算出部320に対して、HOF特徴量の算出を指示するHOF特徴量算出指示部334と、HOF特徴量算出部320で算出されたHOF特徴量の大きさを判定するHOF特徴量判定部336からなる。
そして、車両判定部450は、さらに、HOG特徴量に基づいて車両の識別を行う第1車両識別部420と、HOF特徴量に基づいて車両の識別を行う第2車両識別部430からなる。ここで、第1車両識別部420と第2車両識別部430は、実施例1で説明した通り、学習アルゴリズムに基づいて設計された識別器によって構成されている。
以下、本実施形態に係る衝突警報装置52の作用について、図11のフローチャートに基づいて説明する。なお、実施例1で説明した処理と同様の処理を行う箇所については、再説明を省略する。したがって、本実施例2の作用説明が省略されている箇所は、実施例1で説明した内容に従うものとする。
図11のフローチャートに基づいて、衝突警報装置52の作用を説明する。ステップS200において、カメラ100(撮像部)によって、自車両10前方の画像を撮像する。撮像された画像をI(x,y)とし、0≦x≦m−1、0≦y≦n−1とする。撮像された画像I(x,y)は、画像取得部150によって、車両用外界認識装置62に取り込まれる。
次に、ステップS210において、車両候補領域抽出部200の作用によって、画像I(x,y)の中から、車両候補領域が抽出される。なお、ステップS210の中で行われる処理の詳細は、実施例1で説明した内容と同様であるため、説明は省略する。
さらに、ステップS220において、特徴量算出部350の作用によって、ステップS210で抽出された車両候補領域の内部において、画像の濃度勾配に基づくHOG特徴量(第1特徴量)が算出される。なお、ステップS220の中で行われる処理の詳細は、実施例1の中で、図5に基づいて説明したステップS141からステップS143と同様であるため、説明は省略する。そして、このステップS220の処理によって、HOG特徴量として、勾配ヒストグラムH(d)が作成されて、ノルムNとエントロピーEが算出される。
その後、ステップS230において、特徴量判定部330の作用によって、ステップS220で算出されたHOG特徴量である、ノルムNとエントロピーEの大きさが判定される。具体的には、HOG特徴量判定部332において、ノルムNの大きさが、予め設定された所定値NGthよりも大きく、かつエントロピーEの大きさが、予め設定された所定値EGthよりも大きいときには、ステップS240に進む。
一方、ノルムNの大きさとエントロピーEの大きさが、前記条件を満たさないときは、HOF特徴量算出指示部334からHOF特徴量算出部320に対してHOF特徴量の算出が指示され、HOF特徴量算出部320において、ステップS210で抽出された車両候補領域の内部において、画像の動きに基づくHOF特徴量(第2特徴量)が算出される。なお、HOF特徴量の算出処理は、実施例1の中で図5に基づいて説明したステップS144からステップS146と同様であるため、説明は省略する。そして、この処理によって、HOF特徴量として、オプティカルフローのヒストグラムH(F)が作成されて、ノルムNとエントロピーEが算出される。
次に、ステップS234において、特徴量判定部330の作用によって、HOF特徴量である、ノルムNとエントロピーEの大きさが判定される。具体的には、HOF特徴量判定部336において、ノルムNの大きさが、予め設定された所定値Ndthよりも大きく、かつ エントロピーEの大きさが、予め設定された所定値Edthよりも大きいときには、ステップS250に進む。
一方、ノルムNの大きさとエントロピーEの大きさが、前記条件を満たさないときは、車両候補領域に車両はないと判定されて、図10の処理を終了する。
ステップS230において、HOG特徴量である、ノルムNとエントロピーEの大きさが、ともに所定値よりも大きいと判定されたときは、ステップS240において、第1車両識別部420の作用によって車両の識別が行われる。この識別処理は、HOG特徴量算出部310(第1特徴量算出部)において作成された複数の勾配ヒストグラムH(d)を正規化して算出した、車両候補領域のサイズと部分領域のサイズに応じた次元数を有するHOG特徴量を第1車両識別部420に入力することによって行われる。そして、車両候補領域が車両を表すか否かが判定されて、ステップS260に進む。
さらに、ステップS234において、HOF特徴量である、ノルムNとエントロピーEの大きさが、ともに所定値よりも大きいと判定されたときは、ステップS250において、第2車両識別部430の作用によって車両の識別が行われる。この識別処理は、HOF特徴量算出部320(第2特徴量算出部)において作成された複数のオプティカルフローのヒストグラムH(F)を正規化して算出した、車両候補領域のサイズと部分領域のサイズに応じた次元数を有するHOF特徴量を第2車両識別部430に入力することによって行われる。そして、車両候補領域が車両を表すか否かが判定されて、ステップS260に進む。
次に、ステップS260において、車両相対位置算出部70の作用によって、自車両10と、ステップS240またはステップS250で識別された車両の相対位置関係が算出される。具体的には、まず、画像I(x,y)の中の識別された車両の下端の位置yと、カメラ100(撮像部)の取り付け位置、取り付け方向に基づいて、自車両10から、識別された車両までのおおよその距離を求める。次に、画像I(x,y)の中の識別された車両の左右方向の位置xと、カメラ100(撮像部)の取り付け位置、取り付け方向に基づいて、識別された車両のおおよその方向を求める。そして、警報出力判断部80の作用によって、識別された車両までの距離と方向、および、自車両10の速度と進行方向に基づいて、警報出力が必要か否かが判断される。
そして、警報出力が必要であると判断されると、ステップS262において、警報出力部90から警報が出力される。
以上説明したように、このように構成された本発明の車両用外界認識装置62を用いた衝突警報装置52によれば、カメラ100(撮像部)で撮像された自車両10前方の画像の中から、第1特徴量算出部310が濃度勾配に基づく第1特徴量である勾配ヒストグラムH(d)とノルムN、エントロピーEを算出して、算出された第1特徴量であるN、Eが所定値よりも大きいときには、第1車両識別部420において、第1特徴量であるH(d)に基づいて算出したHOG特徴量を用いて車両の識別を行い、その識別結果に基づいて車両の有無が判定されて、一方、算出された第1特徴量であるN、Eが所定値よりも小さいときには、第2特徴量算出部320がオプティカルフローに基づく第2特徴量であるオプティカルフローのヒストグラムH(F)とノルムN、エントロピーEを算出して、算出された第2特徴量であるN、Eが所定値よりも大きいときには、第2車両識別部430において、第2特徴量であるH(F)に基づいて算出したHOF特徴量を用いて車両の識別を行い、その識別結果に基づいて車両の有無が判定されるため、第1特徴量であるH(d)、N、E、および第2特徴量であるH(F)、N、Eを、必ずしも全て算出しなくても車両の有無を判定することができるため、処理の負荷が小さい車両用外界認識装置を提供することができる。
なお、図6では、第1車両識別部420と第2車両識別部430でともに識別処理を行った後で、第1信頼度Rと第2信頼度Rの大きさに基づいて、車両の識別結果を選択する構成としたが、その限りではなく、先に第1信頼度Rと第2信頼度Rの大きさを評価して、その評価結果に基づいて、第1車両識別部420、もしくは第2車両識別部430において識別処理を行う構成としてもよい。このような処理構成にすることによって、第1車両識別部420と第2車両識別部430の両方で識別処理を行う必要がなく、信頼度算出部410で算出された第1信頼度Rと第2信頼度Rの大きさに基づいて、第1車両識別部420と第2車両識別部430のいずれか一方の識別器が選択されて識別処理を行うため、識別処理を効率的に実行することができる。
次に、本発明に係る車両用外界認識装置を用いた車両システムの第3の実施例について、車載されたカメラで車両前方を監視して、自車両に接触する可能性のある車両が識別されたときに警報を出力する車両用外界認識装置を用いた衝突警報装置を例にあげて説明する。
まず、図12を用いて装置の構成を説明する。本実施例2に係る衝突警報装置54は、図示しない自車両10に設置され、自車両10前方の画像を撮像するカメラ100(撮像部)と、自車両10以外の車両を識別する車両用外界認識装置64と、車両が識別されたときに、自車両10から識別された車両までの方向と距離を算出する車両相対位置算出部70と、衝突の可能性を判断する警報出力判断部80と、衝突の可能性が所定値以上であるときに警報を出力する警報出力部90を備えている。
ここで、車両用外界認識装置64は、CPUやメモリ、I/O等を有するコンピュータによって構成されており、具体的には、一定周期で、カメラ100(撮像部)で撮像された画像を取り込む画像取得部150と、撮像した画像の中から車両の候補領域を検出する車両候補領域抽出部200と、車両候補領域の中から車両らしさを表す特徴量を算出する特徴量算出部370と、車両候補領域が車両を表すか否かを判定する車両判定部450を備えている。なお、車両用外界認識装置64には、所定の処理がプログラミングされて、予め定められた周期で繰り返し処理を実行するようになっている。
車両候補領域抽出部200は、さらに、縦エッジを構成する画素の位置を検出する縦エッジ検出部210と、縦エッジ検出部210で検出された縦エッジを構成する画素の左右方向の間隔を算出する縦エッジ間隔算出部220と、縦エッジ間隔算出部220で算出された縦エッジの左右方向の間隔(w)と、左右の縦エッジの中央の位置(x)をxw空間に投票して、この投票の結果、ピークを有する点(x,w)を検出して車両候補領域とするxw空間生成部230と、車両候補領域を設定する車両候補領域設定部240からなる。
特徴量算出部370は、さらに、自車両10の車速を計測して、所定値以上の車速が出ているか否かを判定する車速判定部305(車両挙動検出部)と、ヒストグラムに基づいた勾配情報に関するHOG(Histogram of Oriented Gradients)特徴量(第1特徴量)を算出するHOG特徴量算出部310(第1特徴量算出部)と、ヒストグラムに基づいたオプティカルフローに関するHOF(Histogram of Optical Flow)特徴量(第2特徴量)を算出するHOF特徴量算出部320(第2特徴量算出部)と、HOG特徴量算出部310で算出されたHOG特徴量、もしくはHOF特徴量算出部320で算出されたHOF特徴量の大きさを判定する特徴量判定部340からなる。
なお、特徴量算出部370の詳細な構成を、図13に示す。このうち、HOG特徴量算出部310とHOF特徴量算出部320の詳細構成は、図2に示した通りであるため、説明は省略する。そして、特徴量判定部340は、さらに、HOG特徴量算出部310で算出されたHOG特徴量の大きさを判定するHOG特徴量判定部342と、HOF特徴量算出部320で算出されたHOF特徴量の大きさを判定するHOF特徴量判定部344からなる。
そして、車両判定部450は、さらに、HOG特徴量に基づいて車両の識別を行う第1車両識別部420と、HOF特徴量に基づいて車両の識別を行う第2車両識別部430からなる。ここで、第1車両識別部420と第2車両識別部430は、実施例1で説明した通り、学習アルゴリズムに基づいて予め設計された識別器によって構成されている。
以下、本実施形態に係る衝突警報装置54の作用について、図14のフローチャートに基づいて説明する。なお、実施例1で説明した処理と同様の処理を行う箇所については、再説明を省略する。したがって、本実施例3の作用説明が省略されている箇所は、実施例1で説明した内容に従うものとする。
図14のフローチャートに基づいて、衝突警報装置54の作用を説明する。ステップS300において、カメラ100(撮像部)によって、自車両10前方の画像を撮像する。撮像された画像をI(x,y)とし、0≦x≦m−1、0≦y≦n−1とする。撮像された画像I(x,y)は、画像取得部150によって、車両用外界認識装置64に取り込まれる。
次に、ステップS310において、車両候補領域抽出部200の作用によって、画像I(x,y)の中から、車両候補領域が抽出される。なお、ステップS310の中で行われる処理の詳細は、実施例1で説明した内容と同様であるため、説明は省略する。
そして、ステップS320において、一連の処理の流れを制御するために設定した定数kに0をセットした後、ステップS330において、車速判定部305(車両挙動検出部)の作用によって、自車両10の車速vが計測されて、計測された車速vが所定値vth以上であるか否かが判定される。車速vが所定値vth以上であるときは、ステップS340に進み、一方、車速vが所定値vthよりも小さいときは、ステップS390に進む。
ステップS340において、特徴量算出部370の作用によって、ステップS310で抽出された車両候補領域の内部に対して、HOF特徴量算出部320において、画像のオプティカルフローに基づくHOF特徴量(第2特徴量)が算出される。ここでHOF特徴量の算出を行うのは、自車両10の車速vが所定値vthよりも大きいときは、撮像された画像の中の動きの特徴が大きくなることが予想されるためである。なお、HOF特徴量の算出処理は、実施例1の中で、図5に基づいて説明したステップS144からステップS146と同様であるため、説明は省略する。そして、このステップS340の処理によって、オプティカルフローのヒストグラムH(F)が作成され、ノルムNとエントロピーEが算出されて、ステップS350に進む。
一方、ステップS330において、計測された車速vが所定値vthよりも小さいときは、ステップS390に進み、特徴量算出部370の作用によって、ステップS310で抽出された車両候補領域の内部に対して、HOG特徴量算出部310において、画像の濃度勾配に基づくHOG特徴量(第1特徴量)が算出される。ここでHOG特徴量の算出を行うのは、自車両10の車速vが所定値vthよりも小さいときは、撮像された画像の中の動きの特徴が小さくなることが予想されるためである。なお、HOG特徴量の算出処理は、実施例1の中で、図5に基づいて説明したステップS141からステップS143と同様であるため、説明は省略する。そして、この処理によって、勾配ヒストグラムH(d)が作成され、ノルムNとエントロピーEが算出されて、ステップS400に進む。
ステップS340の処理の後、ステップS350において、特徴量判定部340の作用によって、ステップS340で算出されたHOF特徴量であるノルムNとエントロピーEの大きさが判定される。具体的には、HOF特徴量判定部344において、ノルムNの大きさが、予め設定された所定値Ndthよりも大きく、かつエントロピーEの大きさが、予め設定された所定値Edthよりも大きいときには、ステップS360に進む。
一方、ステップS350において、ノルムNの大きさとエントロピーEの大きさが、前記条件を満たさないときは、ステップS370において、定数kの値が1であるか否かが確認される。もしk=1であるときは、HOG特徴量であるノルムNとエントロピーEの大きさ、およびHOF特徴量であるノルムNとエントロピーEの大きさがともに小さい値であるため、車両候補領域には車両がないと判定されて、図14のAに進んで、処理を終了する。
もし、ステップS370において、定数kの値が1でないときは、ステップS380において定数kが1に設定され、図14のB(ステップS390)に進む。これは、自車両10が所定値vth以上の車速で走行しているときであっても、撮像された画像の中に写っている車両が自車両10とほぼ等しい車速で走行しているときは、必ずしも車両の動きが大きくならないためである。このようなときは、ノルムNの大きさとエントロピーEの大きさが大きくならないため、ステップS390に進んで、取得した画像の濃度勾配に基づくHOG特徴量(第1特徴量)を算出する。
ステップS350からステップS360に進んだときは、第2車両識別部430の作用によって車両の識別が行われる。この識別処理は、HOF特徴量算出部320(第2特徴量算出部)において作成された複数のオプティカルフローのヒストグラムH(F)を正規化して算出した、車両候補領域のサイズと部分領域のサイズに応じた次元数を有するHOF特徴量を第2車両識別部430に入力することによって行われる。そして、車両候補領域が車両を表すか否かが判定されて、ステップS440に進む。
ステップS390の処理の後、ステップS400において、特徴量判定部340の作用によって、ステップS390で算出されたHOG特徴量である、ノルムNとエントロピーEの大きさが判定される。具体的には、HOG特徴量判定部342において、ノルムNの大きさが、予め設定された所定値NGthよりも大きく、かつエントロピーEの大きさが、予め設定された所定値EGthよりも大きいときには、ステップS410に進む。
一方、ステップS400において、ノルムNの大きさとエントロピーEの大きさが、前記条件を満たさないときは、ステップS420において、定数kの値が1であるか否かが確認される。もしk=1であるときは、HOG特徴量であるノルムNとエントロピーEの大きさ、およびHOF特徴量であるノルムNとエントロピーEの大きさがともに小さい値であるため、車両候補領域には車両がないと判定されて、図14のAに進んで、処理を終了する。
もし、ステップS420において、定数kの値が1でないときは、ステップS430において定数kが1に設定され、図14のC(ステップS340)に進む。これは、自車両10が所定値vthよりも低い車速で走行しているときであっても、逆光や薄暮の状態であるときには、撮像した画像のコントラストが低く、HOG特徴量であるノルムNとエントロピーEが小さくなるためである。このようなときは、ステップS340に進んで、撮像した画像のオプティカルフローに基づくHOF特徴量(第2特徴量)を算出する。
ステップS400からステップS410に進んだときは、第1車両識別部420の作用によって車両の識別が行われる。この識別処理は、HOG特徴量算出部310(第1特徴量算出部)において作成された複数の勾配ヒストグラムH(d)を正規化して算出した、車両候補領域のサイズと部分領域のサイズに応じた次元数を有するHOG特徴量を第1車両識別部420に入力することによって行われる。そして、車両候補領域が車両を表すか否かが判定されて、ステップS440に進む。
次に、ステップS440において、車両相対位置算出部70の作用によって、自車両10と、ステップS360またはステップS410で識別された車両との相対位置関係が算出される。具体的には、まず、画像I(x,y)の中の識別された車両の下端の位置yと、自車両10に取り付けられたカメラ100(撮像部)の取り付け位置、取り付け方向に基づいて、自車両10から、識別された車両までのおおよその距離を求める。次に、画像I(x,y)の中の識別された車両の左右方向の位置xと、カメラ100(撮像部)の取り付け位置、取り付け方向に基づいて、識別された車両のおおよその方向を求める。そして、警報出力判断部80の作用によって、識別された車両までの距離と方向、および、自車両10の速度と進行方向に基づいて、警報出力が必要か否かが判断される。
そして、警報出力が必要であると判定されると、ステップS450において、警報出力部90から警報が出力される。
以上説明したように、このように構成された本発明の車両用外界認識装置64を用いた衝突警報装置54によれば、カメラ100(撮像部)で撮像された自車両10の前方の画像の中から、車速判定部305(車両挙動算出部)の算出結果に応じて、HOG特徴量算出部310(第1特徴量算出部)が濃度勾配に基づく第1特徴量である勾配ヒストグラムH(d)とノルムN、エントロピーEを算出して、算出された第1特徴量であるN、Eが所定値よりも大きいときには、第1車両識別部420において、第1特徴量であるH(d)に基づいて算出したHOG特徴量を用いて車両の識別を行い、その識別結果に基づいて車両の有無を判定し、一方、算出された第1特徴量であるN、Eが所定値よりも小さいときには、HOF特徴量算出部320(第2特徴量算出部)がオプティカルフローに基づく第2特徴量であるオプティカルフローのヒストグラムH(F)とノルムN、エントロピーEを算出して、算出された第2特徴量であるN、Eが所定値よりも大きいときには、第2車両識別部430において、第2特徴量であるH(F)に基づいて算出したHOF特徴量を用いて車両の識別を行い、その識別結果に基づいて車両の有無を判定する処理と、HOF特徴量算出部320(第2特徴量算出部)がオプティカルフローに基づく第2特徴量であるH(F)とN、Eを算出して、算出された第2特徴量であるN、Eが所定値よりも大きいときには、第2車両識別部430において、第2特徴量であるH(F)に基づいて算出したHOF特徴量を用いて車両の識別を行い、その識別結果に基づいて車両の有無を判定し、一方、算出された第2特徴量であるN、Eが所定値よりも小さいときには、HOG特徴量算出部310(第1特徴量算出部)が濃度勾配に基づく第1特徴量であるH(d)とN、Eを算出して、算出された第1特徴量であるN、Eが所定値よりも大きいときには、第1車両識別部420において、第1特徴量であるH(d)に基づいて算出したHOG特徴量を用いて車両の識別を行い、その識別結果に基づいて車両の有無を判定する処理と、を切り換えるため、第1特徴量であるH(d)、N、E、および第2特徴量であるH(F)、N、Eを、必ずしも全て算出しなくても車両の有無を判定することができるため、処理の負荷が小さい車両用外界認識装置を提供することができる。特に、車両挙動算出部の算出結果に応じて、算出する特徴量を切り換えることによって、処理の負荷をより一層低減することができる。
以上、本発明の実施例1、実施例2、実施例3を図面により詳述したが、実施例は本発明の例示にしか過ぎないものであるため、本発明は実施例の構成にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲の設計の変更等があっても、本発明に含まれることは勿論である。
50 衝突警報装置
60 車両用外界認識装置
70 車両相対位置算出部
80 警報出力判断部
90 警報出力部
100 カメラ(撮像部)
150 画像取得部
200 車両候補領域抽出部
210 縦エッジ検出部
220 縦エッジ間隔算出部
230 xw空間生成部
240 車両候補領域設定部
300 特徴量算出部
310 HOG特徴量算出部(第1特徴量算出部)
320 HOF特徴量算出部(第2特徴量算出部)
400 車両判定部
410 信頼度算出部
420 第1車両識別部
430 第2車両識別部
440 判定部

Claims (8)

  1. 自車両に搭載され、前記自車両の周辺を撮像する撮像部と、
    前記撮像部で撮像された画像の中から、濃度勾配に基づく第1特徴量を算出する第1特徴量算出部と、
    前記撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出する第2特徴量算出部と、
    前記濃度勾配が大きいほど高い第1信頼度を算出し、前記オプティカルフローが大きいほど高い第2信頼度を算出する信頼度算出部と、
    前記第1特徴量に基づいて車両の識別を行う第1車両識別部と、
    前記第2特徴量に基づいて車両の識別を行う第2車両識別部と、
    前記第1車両識別部における識別結果と、前記第2車両識別部における識別結果と、前記第1信頼度と、前記第2信頼度と、に基づいて車両の有無を判定する車両判定部と、
    を有することを特徴とする車両用外界認識装置。
  2. 前記車両判定部は、
    前記第1信頼度が第1所定値よりも高いときは、前記第1車両識別部の識別結果に基づいて車両の有無の判定を行い、
    前記第1信頼度が第1所定値よりも低く、かつ前記第2信頼度が第2所定値よりも高いときは、前記第2車両識別部の識別結果に基づいて車両の有無の判定を行い、
    前記第1信頼度が第1所定値よりも低く、かつ前記第2信頼度が第2所定値よりも低いときは、車両なしと判定することを特徴とする請求項1に記載の車両用外界認識装置。
  3. 自車両に搭載され、前記自車両の周辺を撮像する撮像部と、
    前記撮像部で撮像された画像の中から、濃度勾配に基づく第1特徴量を算出する第1特徴量算出部と、
    前記撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出する第2特徴量算出部と、
    前記第1特徴量に基づいて車両の識別を行う第1車両識別部と、
    前記第2特徴量に基づいて車両の識別を行う第2車両識別部と、を有し、前記第1特徴量が所定値よりも大きいときは、前記第1車両識別部における識別結果に基づいて車両の有無を判定し、前記第1特徴量が所定値よりも小さいときは、前記第2車両識別部における識別結果に基づいて車両の有無を判定することを特徴とする車両用外界認識装置。
  4. 自車両に搭載され、前記自車両の周辺を撮像する撮像部と、
    前記撮像部で撮像された画像の中から、濃度勾配に基づく第1特徴量を算出する第1特徴量算出部と、
    前記撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出する第2特徴量算出部と、
    前記第1特徴量に基づいて車両の識別を行う第1車両識別部と、
    前記第2特徴量に基づいて車両の識別を行う第2車両識別部と、を有し、前記第2特徴量が所定値よりも大きいときは、前記第2車両識別部における識別結果に基づいて車両の有無を判定し、前記第2特徴量が所定値よりも小さいときは、前記第1車両識別部における識別結果に基づいて車両の有無を判定することを特徴とする車両用外界認識装置。
  5. 自車両に搭載され、前記自車両の周辺を撮像する撮像部と、
    前記撮像部で撮像された画像の中から、濃度勾配に基づく第1特徴量を算出する第1特徴量算出部と、
    前記撮像部で異なる時刻に撮像された複数の画像の中から、オプティカルフローに基づく第2特徴量を算出する第2特徴量算出部と、
    前記濃度勾配が大きいほど高い第1信頼度を算出し、前記オプティカルフローが大きいほど高い第2信頼度を算出する信頼度算出部と、
    前記第1特徴量に基づいて車両の識別を行う第1車両識別部と、
    前記第2特徴量に基づいて車両の識別を行う第2車両識別部と、
    前記第1車両識別部における識別結果と、前記第2車両識別部における識別結果と、前記第1信頼度と、前記第2信頼度と、に基づいて車両の有無を判定する車両判定部と、
    自車両の挙動を検出する車両挙動検出部と、を有する車両用外界認識装置において、
    前記車両挙動検出部で検出された前記自車両の挙動に応じて、
    前記第1特徴量算出部において前記第1特徴量を算出して、前記第1特徴量が所定値よりも大きいときは、前記第1車両識別部において車両の識別を行って車両の有無を判定し、前記第1特徴量が所定値よりも小さいときは、前記第2特徴量算出部において前記第2特徴量を算出して、前記第2車両識別部において車両の識別を行って車両の有無を判定する処理と、
    前記第2特徴量算出部において前記第2特徴量を算出して、前記第2特徴量が所定値よりも大きいときは、前記第2車両識別部において車両の識別を行って車両の有無を判定し、前記第2特徴量が所定値よりも小さいときは、前記第1特徴量算出部において前記第1特徴量を算出して、前記第1車両識別部において車両の識別を行って車両の有無を判定する処理と、を切り換えて行うことを特徴とする車両用外界認識装置。
  6. 前記車両挙動検出部が、前記自車両の車速を検出するものであり、
    前記車速が所定値よりも大きいときは、前記第2特徴量算出部において前記第2特徴量を算出して、前記第2特徴量が所定値よりも大きいときは、前記第2車両識別部において車両の識別を行って車両の有無を判定し、前記第2特徴量が所定値よりも小さいときは、前記第1特徴量算出部において前記第1特徴量を算出して、前記第1車両識別部において車両の識別を行って車両の有無を判定し、
    前記車速が所定値よりも小さいときは、前記第1特徴量算出部において前記第1特徴量を算出して、前記第1特徴量が所定値よりも大きいときは、前記第1車両識別部において車両の識別を行って車両の有無を判定し、前記第1特徴量が所定値よりも小さいときは、前記第2特徴量算出部において前記第2特徴量を算出し、前記第2車両識別部において車両の識別を行って車両の有無を判定することを特徴とする請求項5に記載の車両用外界認識装置。
  7. 前記車両用外界認識装置によって識別された車両と前記自車両との位置関係を算出する車両相対位置算出部と、
    前記車両相対位置算出部の算出結果に基づいて、警報を出力する必要性を判断する警報出力判断部と、
    前記警報出力判断部において警報の出力が必要であると判断されたときに警報を出力する警報出力部と、を有することを特徴とする請求項1から6のいずれか1項に記載の車両用外界認識装置を用いた車両システム。
  8. 前記車両用外界認識装置によって識別された車両と前記自車両との位置関係を算出する車両相対位置算出部と、
    前記車両相対位置算出部の算出結果に基づいて、前記自車両の挙動を制御する車両挙動制御部と、を有することを特徴とする請求項1から6のいずれか1項に記載の車両用外界認識装置を用いた車両システム。
JP2012078454A 2012-03-30 2012-03-30 車両用外界認識装置およびそれを用いた車両システム Pending JP2013205410A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012078454A JP2013205410A (ja) 2012-03-30 2012-03-30 車両用外界認識装置およびそれを用いた車両システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012078454A JP2013205410A (ja) 2012-03-30 2012-03-30 車両用外界認識装置およびそれを用いた車両システム

Publications (1)

Publication Number Publication Date
JP2013205410A true JP2013205410A (ja) 2013-10-07

Family

ID=49524606

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012078454A Pending JP2013205410A (ja) 2012-03-30 2012-03-30 車両用外界認識装置およびそれを用いた車両システム

Country Status (1)

Country Link
JP (1) JP2013205410A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105469091A (zh) * 2015-12-03 2016-04-06 深圳市捷顺科技实业股份有限公司 一种车辆识别方法及装置
WO2016199244A1 (ja) * 2015-06-10 2016-12-15 株式会社日立製作所 物体認識装置及び物体認識システム
JP6230751B1 (ja) * 2016-09-15 2017-11-15 三菱電機株式会社 物体検出装置および物体検出方法
CN108475471A (zh) * 2016-01-26 2018-08-31 三菱电机株式会社 车辆判定装置、车辆判定方法和车辆判定程序
JP2019033397A (ja) * 2017-08-08 2019-02-28 富士通株式会社 データ処理装置、プログラム及びデータ処理方法
JP2020046706A (ja) * 2018-09-14 2020-03-26 トヨタ自動車株式会社 物体検出装置、車両制御システム、物体検出方法及び物体検出用コンピュータプログラム

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016199244A1 (ja) * 2015-06-10 2016-12-15 株式会社日立製作所 物体認識装置及び物体認識システム
JPWO2016199244A1 (ja) * 2015-06-10 2018-02-15 株式会社日立製作所 物体認識装置及び物体認識システム
US10540777B2 (en) 2015-06-10 2020-01-21 Hitachi, Ltd. Object recognition device and object recognition system
CN105469091A (zh) * 2015-12-03 2016-04-06 深圳市捷顺科技实业股份有限公司 一种车辆识别方法及装置
CN105469091B (zh) * 2015-12-03 2019-04-09 深圳市捷顺科技实业股份有限公司 一种车辆识别方法及装置
CN108475471B (zh) * 2016-01-26 2020-12-18 三菱电机株式会社 车辆判定装置、车辆判定方法和计算机可读的记录介质
CN108475471A (zh) * 2016-01-26 2018-08-31 三菱电机株式会社 车辆判定装置、车辆判定方法和车辆判定程序
JP6230751B1 (ja) * 2016-09-15 2017-11-15 三菱電機株式会社 物体検出装置および物体検出方法
WO2018051459A1 (ja) * 2016-09-15 2018-03-22 三菱電機株式会社 物体検出装置および物体検出方法
US10943141B2 (en) 2016-09-15 2021-03-09 Mitsubishi Electric Corporation Object detection device and object detection method
JP2019033397A (ja) * 2017-08-08 2019-02-28 富士通株式会社 データ処理装置、プログラム及びデータ処理方法
JP2020046706A (ja) * 2018-09-14 2020-03-26 トヨタ自動車株式会社 物体検出装置、車両制御システム、物体検出方法及び物体検出用コンピュータプログラム
JP7040374B2 (ja) 2018-09-14 2022-03-23 トヨタ自動車株式会社 物体検出装置、車両制御システム、物体検出方法及び物体検出用コンピュータプログラム

Similar Documents

Publication Publication Date Title
US10152649B2 (en) Detecting visual information corresponding to an animal
JP5407898B2 (ja) 対象物検出装置及びプログラム
JP4708124B2 (ja) 画像処理装置
JP5822255B2 (ja) 対象物識別装置及びプログラム
JP5886809B2 (ja) 車外環境認識装置
KR101891460B1 (ko) 차도 위의 반사체를 인식하고 평가하기 위한 방법 및 장치
US20130028473A1 (en) System and method for periodic lane marker identification and tracking
US20170151943A1 (en) Method, apparatus, and computer program product for obtaining object
JP6384082B2 (ja) 移動物体検出装置、移動物体検出方法、及びプログラム
JP2013205410A (ja) 車両用外界認識装置およびそれを用いた車両システム
JP2008172441A (ja) 検出装置および方法、並びに、プログラム
US10748014B2 (en) Processing device, object recognition apparatus, device control system, processing method, and computer-readable recording medium
KR20130118116A (ko) 자동 주차 보조 시스템에서 장애물 충돌 회피 장치 및 방법
US8160300B2 (en) Pedestrian detecting apparatus
CN110730966A (zh) 用于行人检测的***和方法
JP6722084B2 (ja) 物体検出装置
US20180144499A1 (en) Information processing apparatus, imaging apparatus, device control system, moving object, information processing method, and recording medium
US9824449B2 (en) Object recognition and pedestrian alert apparatus for a vehicle
JP6069938B2 (ja) 飛び出し検出装置
Yang et al. On-road collision warning based on multiple FOE segmentation using a dashboard camera
JP6564218B2 (ja) 車外環境認識装置
JP2005090974A (ja) 先行車認識装置
EP4009228A1 (en) Method for determining a semantic free space
JP6431299B2 (ja) 車両周辺監視装置
JP5345999B2 (ja) レーンマーク認識装置