JP6299720B2 - 物体認識装置及び煙判定方法 - Google Patents

物体認識装置及び煙判定方法 Download PDF

Info

Publication number
JP6299720B2
JP6299720B2 JP2015196817A JP2015196817A JP6299720B2 JP 6299720 B2 JP6299720 B2 JP 6299720B2 JP 2015196817 A JP2015196817 A JP 2015196817A JP 2015196817 A JP2015196817 A JP 2015196817A JP 6299720 B2 JP6299720 B2 JP 6299720B2
Authority
JP
Japan
Prior art keywords
target
variation amount
smoke
segment
end position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015196817A
Other languages
English (en)
Other versions
JP2017068789A (ja
Inventor
西嶋 征和
征和 西嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2015196817A priority Critical patent/JP6299720B2/ja
Priority to CN201610590187.4A priority patent/CN106560837B/zh
Priority to US15/241,685 priority patent/US10102628B2/en
Priority to DE102016216500.3A priority patent/DE102016216500A1/de
Publication of JP2017068789A publication Critical patent/JP2017068789A/ja
Application granted granted Critical
Publication of JP6299720B2 publication Critical patent/JP6299720B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Regulating Braking Force (AREA)
  • Image Processing (AREA)

Description

本発明は、例えば自動車等の車両に搭載されたステレオカメラの撮像画像を用いる物体認識装置及び煙判定方法の技術分野に関する。
この種の装置として、撮像画像に各種処理を施すことにより、撮像画像内の煙を認識する装置が知られている。例えば特許文献1では、撮像画像を処理して検出した物体のうち、視差のばらつきが大きいものを煙として判定する装置が提案されている。特許文献2及び3では、物体の画像エッジ強度が弱い場合に煙と判定する装置が提案されている。特許文献4では、物体又は物体を分割した領域の時系列でのサイズ変化が大きいものを煙として判定する装置が提案されている。
特開2013−203337号公報 特開2012−118698号公報 特開2015−069381号公報 特開2013−206328号公報
ステレオ視差算出手法の1つであるSGM(Semi Global Matching)では、周囲の視差を参照することにより、画像エッジの少ない(言い換えれば、画素エッジ強度の弱い)画素や領域でも視差が算出可能である。このためSGMでは、既存のエッジベースの技術では算出不可能であったのっぺりとした壁やガードレール等の視差を算出することができる。
しかしながら、SGMのようなステレオ視差算出手法で検出された画像エッジ強度の弱い物体は、特許文献2及び3の技術により煙として誤判定されてしまうおそれがある。また、SGMでは、画像エッジ強度が弱い領域において周囲の視差を参照することで視差を求めているため、視差のばらつきが大きくなり易い。このため、特許文献1の技術によっても煙として誤判定されてしまうおそれがある。このように、ステレオ視差算出手法の1つであるSGMを利用して物体を認識しようとする場合には、画像エッジ強度が弱い物体について煙であるか否かの判定が正確に行えないという技術的問題点が生ずる。
他方、特許文献4に記載されているような技術では、時系列でのサイズの変化を利用するため、判定にある程度の時間を要し、更には判定に要する処理も高度複雑化してしまうという技術的問題点が生ずる。
本発明は、上記問題点に鑑みてなされたものであり、撮像画像中の煙の存在を好適に判定することが可能な物体認識装置及び煙判定方法を提供することを課題とする。
本発明の物体認識装置は、上記課題を解決するために、ステレオカメラで撮像された複数の画像を取得する取得手段と、前記複数の画像から視差を算出し、画像横方向の一定幅毎に視差が所定範囲内となる集合をセグメントとして抽出するセグメント抽出手段と、前記画像横方向及び画像奥行方向に連結している前記セグメントを物標として抽出する物標抽出手段と、前記物標を構成する各セグメントの上端位置のばらつき量及び高さ幅のばらつき量を算出する算出手段と、前記上端位置のばらつき量及び前記高さ幅のばらつき量の少なくとも一方が所定の閾値を超えている場合に、前記物標は煙であると判定する判定手段とを備える。
本発明の物体認識装置によれば、物標を構成する各セグメントの上端位置のばらつき量及び高さ幅のばらつき量の少なくとも一方が所定の閾値を超えている場合に、該物標が煙であると判定されるため、画像エッジ強度が弱い物標についても好適に煙であるか否かを判定できる。
本発明の煙判定方法は、上記課題を解決するために、ステレオカメラで撮像された複数の画像を取得する取得工程と、前記複数の画像から視差を算出し、画像横方向の一定幅毎に視差が所定範囲内となる集合をセグメントとして抽出するセグメント抽出工程と、前記画像横方向及び画像奥行方向に連結している前記セグメントを物標として抽出する物標抽出工程と、前記物標を構成する各セグメントの上端位置のばらつき量及び高さ幅のばらつき量を算出する算出工程と、前記上端位置のばらつき量及び前記高さ幅のばらつき量の少なくとも一方が所定値以上の場合に、前記物標は煙であると判定する判定工程とを備える。
本発明に係る煙判定方法によれば、上述した本発明に係る物体認識装置と同様に、画像エッジ強度が弱い物標についても好適に煙であるか否かを判定できる。
本発明の作用及び他の利得は次に説明する実施するための形態から明らかにされる。
第1実施形態に係る物体認識装置の要部を示すブロック図である。 第1実施形態に係る煙判定処理の流れを示すフローチャートである。 連続構造物を含む撮像画像の一例を示す図である。 連続構造物に対応する物標を示す概念図である。 煙を含む撮像画像の一例を示す図である。 煙に対応する物標を示す概念図である。 セグメント情報統計値の算出方法を示す概念図である。 連続構造物に対応する物標の上端位置ばらつき量の一例を示すグラフである。 煙に対応する物標の上端位置ばらつき量の一例を示すグラフである。 連続構造物に対応する物標の高さ幅ばらつき量の一例を示すグラフである。 煙に対応する物標の高さ幅ばらつき量の一例を示すグラフである。 第2実施形態に係る煙判定処理の流れを示すフローチャートである。
本発明の物体認識装置及び煙判定方法に係る実施形態を、図面に基づいて説明する。
<第1実施形態>
第1実施形態に係る物体認識装置及び煙判定方法について説明する。
(物体認識装置の構成)
先ず、第1実施形態に係る物体認識装置の構成について、図1を参照して説明する。図1は、第1実施形態に係る物体認識装置の要部を示すブロック図である。
図1において、物体認識装置1は、自動車等の車両に搭載されており、該車両周辺に存在する物体を認識する(言い換えれば、検出する)装置として構成されている。物体認識装置1は、後述するように撮像画像の視差を利用して物体認識を行うものであるが、パターンマッチングによる物体認識を併用可能に構成されてもよい。物体認識装置1は、ステレオカメラ10、及びステレオ画像認識装置20を備えて構成されている。
ステレオカメラ10は、レンズ11a及び撮像素子11bを有する左カメラ11と、レンズ12a及び撮像素子12bを有する右カメラ12と、カメラCPU(Central Processing Unit)13と、画像出力部14とを備えて構成されている。
撮像素子11b及び12bは、CCD(Charge Coupled Device)等により構成されている。カメラCPU13は、左カメラ11及び右カメラ12各々の露出等の制御を行う。また、カメラCPU13は、出力インターフェースである画像出力部14を介して、撮像素子11b及び12bによる撮像画像を画像信号としてステレオ画像認識装置20に送信する。
ここで、ステレオカメラ10を構成する左カメラ11及び右カメラ12は、物体認識装置1により物体を認識しようとする領域を撮像可能な位置に配置されている。例えば、ステレオカメラ10は、フロントガラス越しに車両の前方領域(即ち、運転者の視界に相当する領域)を撮像可能な位置に配置される。なお、車両の側方や後方の物体を認識しようとする場合には、それらの領域を撮像可能な位置にステレオカメラ10を配置すればよい。また、ステレオカメラ10を複数配置すれば、複数の領域について物体認識を行うこともできる。
ステレオ画像認識装置20は、画像取得部21、セグメント抽出部22、物標抽出部23、ばらつき算出部24及び煙判定部25を備えて構成されている。画像取得部21、セグメント抽出部22、物標抽出部23、ばらつき算出部24及び煙判定部25は、ステレオ画像認識装置20に備えられたCPU(図示せず)がROM(図示せず)に記憶されたコンピュータプログラムを実行することにより実現される機能である。なお、画像取得部21、セグメント抽出部22、物標抽出部23、ばらつき算出部24及び煙判定部25は、それぞれ「取得手段」、「セグメント抽出手段」、「物標抽出手段」、「算出手段」、「判定手段」の一具体例である。
ステレオ画像認識装置20は、煙判定処理の結果(即ち、認識された物体が煙であるか否か)を出力するように構成されている。煙判定処理の結果は、車両のプリクラッシュセーフティシステム等に用いられる。
(煙判定処理)
次に、上述した物体認識装置1による煙判定処理について、図2を参照して説明する。図2は、第1実施形態に係る煙判定処理の流れを示すフローチャートである。なお、図2に示す煙判定処理のルーチンは、車両のイグニッションスイッチがオンの間、所定周期毎に繰り返し実行される。
図2において、第1実施形態に係る物体認識装置1による煙判定処理では、先ず撮像画像の取得が行われる(ステップS101)。具体的には、ステレオカメラ10の右カメラ11及び左カメラ12で撮像された画像が、カメラCPU13及び画像出力部14を介して、画像データとしてステレオ画像認識装置20の画像取得部21に入力される。画像取得部21では、一対の画像データ(即ち、右カメラ11の画像データ及び左カメラ12の画像データ)が所定周期毎に取得される。画像取得部21は、取得した一対の画像データをセグメント抽出部22に出力する。
セグメント抽出部22では、一対の画像データから視差が算出される(ステップS102)。視差は、一対の画像データの相関から、対応する画素又は画素ブロック毎の視差値として算出される。視差値は、一対の画像データ間のずれ量として算出されるものであり、撮像画像中の物体までの距離によって変動する値である。具体的には、物体までの距離が近い場合には、視差値は比較的大きい値として算出される。一方、物体までの距離が遠い場合には、視差値は比較的小さい値として算出される。なお、視差値の算出には、ステレオ視差算出手法の1つであるSGMを用いればよい。以降の処理では、一対の画像データにから得られた、1つの視差画像データ(即ち、視差情報を有する画像データ)が用いられる。
視差が算出されると、セグメント抽出部22では更に、セグメントSの抽出が行われる(ステップS103)。セグメントSは、視差値が所定範囲内となる画素又は画素ブロックの集合であり、画像横方向の一定幅毎に抽出される。なお、ここでの「所定範囲」とは、視差がほぼ同一とみなせる程度に近い状態であるか否かを判定するために予め設定される範囲である。また、「一定幅」は、抽出されるセグメントの幅として予め設定される値であり、具体的には撮像画像の画素数や検出しようとする物体の大きさ等の各種条件に基づいて設定される。
セグメントSの抽出には、撮像画像を横方向に一定幅毎に細長く区切った箱(セグメントの抽出単位に相当する仮想的な領域)を用いる。この箱には、当該箱に対応する領域内に存在しており、視差値が所定範囲内且つ画像横位置が近い視差集合(即ち、視差情報を有する画素の集合)が投票されていく。なお、各箱に投票される視差集合は画像の高さ方向に関する位置情報を有しており、投票後も高さ方向に関する位置情報を保持し続ける。投票が終了すると、各箱が縦方向(即ち、高さ方向)に走査され、各箱内で高さ方向に連結している視差集合がセグメントSとして抽出される。
上述した投票処理によれば、各箱に対応する画素のうち、視差値が所定範囲内にあり且つ横方向に連結している視差集合が複数(例えば、M個)抽出され、それら抽出した複数の視差集合のうち縦方向にも連結している複数(例えば、N個)の視差集合がセグメントとして抽出される。なお、1つの箱からは複数のセグメントSが抽出され得る。セグメント抽出部22によるセグメント抽出結果は、物標抽出部23に出力される。
物標抽出部23では、画像横方向及び奥行方向(即ち、距離方向)に連結しているセグメントSが、撮像画像中の物体に相当する物標Tgとして抽出される(ステップS104)。なお、ここでの「奥行方向」とは、算出された視差によって定義される方向である。画像データ自体は、縦方向及び横方向の情報しか持たないもの(即ち、2次元のデータ)であるが、視差を算出することにより、新たに奥行方向の情報も有するものとなる。以下では、図3から図6を参照して、抽出される物標Tgについて具体的に説明する。
図3は、連続構造物を含む撮像画像の一例を示す図である。撮像画像P1には、連続構造物100(例えば、ガードレールや壁等)が含まれている。ここでの連続構造物100は特に、のっぺりとした表面を有しており、画像エッジの強度が弱いという特徴を有している。このような連続構造物100の視差は、エッジベースの視差算出方法では算出することが難しい。しかしながら、SGMを利用すれば、画像エッジの強度が弱い領域においても、周囲の視差値を参照することで視差を好適に算出できる。よって、撮像画像P1中の連続構造物100のように画像エッジの強度が弱い物体についても、物標Tgを抽出することは可能である。
図4は、連続構造物100に対応する物標Tg1を示す概念図である。連続構造物100に対応する物標Tg1は、複数のセグメントSが画像横方向及び奥行方向に連結するものとして抽出される。なお、連続構造物100は矩形に近い形状であるため、連続構造物100に対応する物標Tg1は、セグメントSが規則的に連結したものとして抽出されている。
図5は、煙を含む撮像画像の一例を示す図である。撮像画像P2には、煙200が含まれている。煙200は、その特性上、図3の連続構造物100と同様に画像エッジの強度が弱い。しかしながら、上述したSGMを利用すれば、煙200についても、物標Tgを抽出することが可能である。
図6は、煙200に対応する物標を示す概念図である。煙200に対応する物標Tg2は、複数のセグメントSが画像横方向及び奥行方向に連結するものとして抽出される。なお、煙200は、連続構造物100のように明確な形状を有していないため、図4に示した連続構造物に対応する物標Tg1と比べると、煙200に対応する物標Tg2はいびつな形状となる。
図2に戻り、物標Tgが抽出されると、物標抽出部23では更に、セグメント情報統計値が算出される(ステップS105)。なお、「セグメント情報統計値」とは、物標Tgを構成する複数のセグメントSに関して算出される統計的な値であり、少なくとも物標Tgを構成するセグメントSの数、各セグメントSの上端位置及び高さ幅を含んでいる。なお、「高さ幅」とは、セグメントSの上端位置から下端位置までの長さを意味している。以下では、図7を参照して、セグメント情報統計値について具体的に説明する。図7は、セグメント情報統計値の算出方法を示す概念図である。
図7に示すように、5つのセグメントS1〜S5から構成される物標Tg3が抽出されたとする。この場合、セグメント情報統計値としては、セグメント数n(ここでは“5”)、セグメントS1〜S5の上端位置u1〜u5、及びセグメントS1〜S5の高さ幅h1〜h5が夫々算出される。算出されたセグメント数n、セグメントSの上端位置u1〜u5、及びセグメントSの高さ幅h1〜h5の各値は、ばらつき算出部24に出力される。
再び図2に戻り、ばらつき算出部24では、先ずセグメント数nが所定の閾値A以上であるか否かが判定される(ステップS106)。セグメント数nが所定の閾値A以上でない場合(ステップS106:NO)、以降の処理は省略され、煙判定に係る一連の処理は終了することになる。
閾値Aは、後述するセグメントSの上端位置のばらつき量及び高さ幅のばらつき量が統計的に意味をなす程度に、セグメントSの数が多いか否かを判定するための閾値である。例えば、セグメント数nが“1”や“2”程度の小さい値である場合には、セグメントSの上端位置のばらつき量及び高さ幅のばらつき量は統計的な意味をなさない。よって、これらのばらつき量を利用する煙判定の結果にも悪い影響を及ぼす可能性がある。閾値Aは、このようにセグメント数nが極めて小さいケースを除外するために予め設定されている。なお、閾値Aは、「所定数」の一具体例である。
セグメント数nが閾値A以上である場合(ステップS106:YES)、ばらつき算出部24では、物標Tgを構成する各セグメントSの上端位置uのばらつき量である上端位置ばらつき量σuが算出され、所定の閾値Bより大きいか否かが判定される(ステップS107)。なお、上端位置ばらつき量σuの算出については、既存の手法を利用することができるため、ここでの詳細な説明は省略する。セグメントSの上端位置ばらつき量σuが閾値Bより大きいと判定された場合には(ステップS107:YES)、物標Tgは煙200と判定される(ステップS109)。
閾値Bは、物標Tgを構成する各セグメントSの上端位置uが、煙200と判定できる程度にばらついているか否かを判定するための閾値である。図4と図6とを見比べても分かるように、図4に示す連続構造物100に対応する物標Tg1は、セグメントSの上端位置uが直線的に揃った状態になっており、図6に示す煙200に対応する物標Tg2は、セグメントSの上端位置uが大きくばらついている。このように、セグメントSの上端位置uは、物標Tgが連続構造物100に対応するものであるか、或いは煙200に対応するものであるかによって明確に異なる傾向を示す。従って、セグメントSの上端位置ばらつき量σuと閾値Bとの比較により、物標Tgが煙200であるか否かを判定できる。なお、閾値Bは、「所定の閾値」の一具体例である。
以下では、上端位置ばらつき量σuを用いた判定方法について、図8及び図9を参照して具体的に説明する。ここに図8は、連続構造物100に対応する物標Tg1の上端位置ばらつき量σuの一例を示すグラフである。また図9は、煙200に対応する物標Tg2の上端位置ばらつき量σuの一例を示すグラフである。なお、図8及び図9で示される上端位置ばらつき量σuの値は、あくまで連続構造物100と煙200との傾向の違いを表す一例に過ぎず、図4及び図6で示した物標Tg1及びTg2に厳密に対応する値ではない。
図8に示すように、連続構造物100に対応する物標Tg1の上端位置ばらつき量σuは、画像横位置によって多少の変動はあるものの比較的低い値で安定している。そして特に、物標Tg1の上端位置ばらつき量σuは、閾値Bを超えることがない。このような場合には、物標Tg1は煙200と判定されない。
図9に示すように、煙200に対応する物標Tg2の上端位置ばらつき量σuは、画像横位置によって比較的大きく変動している。そして特に、物標Tg2の上端位置ばらつき量σuは、ほとんどの位置で閾値Bを超えている。このような場合には、物標Tg2は煙200と判定される。
なお、煙200と判定する際に、上端位置ばらつき量σuが閾値Bを超えた回数を考慮してもよい。具体的には、上端位置ばらつき量σuが閾値Bを1回超えただけでも煙200と判定してもよいし、上端位置ばらつき量σuが閾値Bを2以上の所定回数超えた場合に煙200と判定してもよい。或いは、上端位置ばらつき量σuが閾値Bを超えた回数が、全体に対して所定の割合以上となった場合に煙200と判定してもよい。
再び図2に戻り、セグメントSの上端位置ばらつき量σuが閾値B以下であると判定された場合(ステップS107:NO)、ばらつき算出部24では、物標Tgを構成する各セグメントSの高さ幅hのばらつき量である高さ幅ばらつき量σhが算出され、所定の閾値Cより大きいか否かが判定される(ステップS108)。なお、高さ幅ばらつき量σhの算出については、既存の手法を利用することができるため、ここでの詳細な説明は省略する。セグメントSの高さ幅ばらつき量σhが閾値Cより大きいと判定された場合には(ステップS108:YES)、物標Tgは煙200と判定される(ステップS109)。即ち、セグメントSの上端位置ばらつき量σuと閾値Bとの関係では煙200と判定されない場合であっても、セグメントSの高さ幅ばらつき量σhと閾値Cとの関係次第で煙200と判定されることがある。
閾値Cは、物標Tgを構成する各セグメントSの高さ幅hが、煙200と判定できる程度にばらついているか否かを判定するための閾値である。図4と図6とを見比べても分かるように、図4に示す連続構造物100に対応する物標Tg1は、セグメントSの高さ幅がほぼ一定になっており、図6に示す煙200に対応する物標Tg2は、セグメントSの高さ幅hが大きくばらついている。このように、セグメントSの高さ幅hは、物標Tgが連続構造物100に対応するものであるか、或いは煙200に対応するものであるかによって明確に異なる傾向を示す。従って、セグメントSの高さ幅ばらつき量σhと閾値Cとの比較により、物標Tgが煙200であるか否かを判定できる。なお、閾値Cは、上述した閾値Bと同様に「所定の閾値」の一具体例である。ただし、閾値Bと閾値Cとは互いに同じ値である必要はなく、互いに異なる値として(即ち、上端位置ばらつき量σu及び高さ幅ばらつき量σhの各々に対応する値として別々に)設定されてもよい。
以下では、高さ幅のばらつき量σhを用いた判定方法について、図10及び図11を参照して具体的に説明する。ここに図10は、連続構造物100に対応する物標Tg1の高さ幅ばらつき量σhの一例を示すグラフである。また図11は、煙200に対応する物標Tg2の高さ幅ばらつき量σhの一例を示すグラフである。なお、図10及び図11で示される高さ幅ばらつき量σhの値は、あくまで連続構造物100と煙200との傾向の違いを表す一例に過ぎず、図4及び図6で示した物標Tg1及びTg2に厳密に対応する値ではない。
図10に示すように、連続構造物100に対応する物標Tg1の高さ幅ばらつき量σhは、画像横位置によって多少の変動はあるものの比較的低い値で安定している。そして特に、物標Tg1の高さ幅ばらつき量σhは、閾値Cを超えることがない。このような場合には、物標Tg1は煙200と判定されない。
図11に示すように、煙200に対応する物標Tg2の高さ幅ばらつき量σhは、画像横位置によって比較的大きく変動している。そして特に、物標Tg2の高さ幅ばらつき量σhは、ほとんどの位置で閾値Cを超えている。このような場合には、物標Tg2は煙200と判定される。
なお、煙200と判定する際には、上述した上端位置ばらつき量σuの場合と同様に、高さ幅ばらつき量σhが閾値Cを超えた回数を考慮してもよい。具体的には、高さ幅ばらつき量σhが閾値Cを1回超えただけでも煙200と判定してもよいし、高さ幅ばらつき量σhが閾値Cを2以上の所定回数超えた場合に煙200と判定してもよい。或いは、高さ幅ばらつき量σhが閾値Cを超えた回数が、全体に対して所定の割合以上となった場合に煙200と判定してもよい。
再び図2に戻り、セグメントSの高さ幅ばらつき量σhが閾値C以下であると判定された場合には(ステップS108:NO)、物標Tgは連続構造物100と判定される(ステップS110)。このように本実施形態に係る煙判定処理では、セグメントSの上端位置ばらつき量σu及び高さ幅ばらつき量σhの少なくとも一方が所定の閾値(即ち、閾値B又は閾値C)よりも大きいと判定された場合に、物標Tgが煙200と判定され、その他の場合には物標Tgが連続構造物100と判定される。
なお、上述した実施形態では、セグメントSの上端位置ばらつき量σuに関する判定を行った後に、セグメントSの高さ幅ばらつき量σhに関する判定を行っているが、これらの判定処理(即ち、図2のステップS107及びS108)は互いに相前後して行われてもよい。仮に、セグメントSの高さ幅ばらつき量σhに関する判定を行った後に、セグメントSの上端位置ばらつき量σuに関する判定を行った場合であっても、判定結果は変化しない。
(発明の効果)
本実施形態に係る物体認識装置1によれば、上述した煙判定処理により、抽出した物標Tgが煙200であるのか、それとも連続構造物100であるのかを好適に判定することができる。
ここで特に、煙200と連続構造物100とは、画像処理を行った場合の画像エッジ強度が弱いという共通した特性を有している。このため、画像エッジの強度だけでは煙200と連続構造物100とを正確に区別することは難しい。
しかしながら、本実施形態では、上述したようにセグメントSの上端位置ばらつき量σu及び高さ幅ばらつき量σhに基づいて、物標Tgが煙200であるか否かが判定される。従って、物標Tgが煙200であるか否かを正確に判定できる。言い換えれば、煙200に対応する物標Tgが連続構造物100として判定されてしまったり、連続構造物100に対応する物標Tgが煙200として判定されてしまったりすることを防止できる。
物体認識装置1の判定結果を利用すれば、例えば車両のプリクラッシュセーフティシステムを好適に作動させることが可能となる。具体的には、認識した物標Tgが連続構造物100と判定された場合には、連続構造物100に衝突する危険性が生じた際に自動的にブレーキが作動される。この場合、車両と連続構造物100との衝突は確実に回避される。一方で、認識した物標Tgが煙200である場合には、上述したタイミングでブレーキが作動されない。このようにすれば、衝突を回避する必要がない煙に対して自動ブレーキが作動されることで、車両が不必要に減速されてしまうことを防止できる。
<第2実施形態>
次に、第2実施形態に係る物体認識装置及び煙判定方法について説明する。なお、第2実施形態は、上述した第1実施形態と比べて一部の動作が異なるのみであり、その他の動作及び装置構成については概ね同様である。このため、以下では、第1実施形態と異なる部分について詳細に説明し、重複する部分については適宜説明を省略するものとする。
(煙判定処理)
第2実施形態に係る煙判定処理について、図12を参照して説明する。図12は、第2実施形態に係る煙判定処理の流れを示すフローチャートである。なお、図12に示す煙判定処理のルーチンは、車両のイグニッションスイッチがオンの間、所定周期毎に繰り返し実行される。
図12において、第2実施形態に係る物体認識装置1による煙判定処理では、先ずステレオカメラ10で撮像された一対の画像データが、画像取得部21で取得される(ステップS201)。画像取得部21は、取得した一対の画像データをセグメント抽出部22に出力する。
セグメント抽出部22では、一対の画像データから視差が算出される(ステップS202)。視差が算出されると、セグメント抽出部22では更に、セグメントSの抽出が行われる(ステップS203)。セグメント抽出部22によるセグメント抽出結果は、物標抽出部23に出力される。
物標抽出部23では、画像横方向及び奥行方向に連結しているセグメントSが、撮像画像中の物体に相当する物標Tgとして抽出される(ステップS204)。物標Tgが抽出されると、物標抽出部23では更に、セグメント情報統計値が算出される(ステップS205)。ここでのセグメント情報統計値も、第1実施形態と同様に、少なくとも物標Tgを構成するセグメント数n、各セグメントSの上端位置u及び高さ幅hを含んでいる。算出されたセグメント数n、各セグメントSの上端位置u及び高さ幅hは、ばらつき算出部24に出力される。
ばらつき算出部24では、先ずセグメント数nが所定の閾値A以上であるか否かが判定される(ステップS206)。セグメント数nが所定の閾値A以上でない場合(ステップS206:NO)、以降の処理は省略され、煙判定に係る一連の処理は終了することになる。
セグメント数nが閾値A以上である場合(ステップS206:YES)、ばらつき算出部24では、物標Tgを構成する各セグメントSの上端位置ばらつき量σuが算出され、所定の閾値Bより大きいか否かが判定される(ステップS207)。なお、第2実施形態に係る閾値Bは、「第1閾値」の一具体例である。
第2実施形態では特に、セグメントSの上端位置ばらつき量σuが閾値B以下であると判定された場合(ステップS207:NO)、物標Tgが連続構造物100であると判定される(ステップS210)。即ち、第2実施形態では、セグメントSの上端位置ばらつき量σuと閾値Bとの関係だけで、物標Tgが煙200ではないと判定され得る。
セグメントSの上端位置ばらつき量σuが閾値Bより大きいと判定された場合(ステップS107:YES)、ばらつき算出部24では、物標Tgを構成する各セグメントSの高さ幅ばらつき量σhが算出され、所定の閾値Cより大きいか否かが判定される(ステップS208)。なお、第2実施形態に係る閾値Cは、「第2閾値」の一具体例である。
セグメントSの高さ幅ばらつき量σhが閾値C以下であると判定された場合には(ステップS208:NO)、物標Tgは連続構造物100と判定される(ステップS210)。ここまでの処理を見ても分かるように、第2実施形態に係る煙判定処理では、セグメントSの上端位置ばらつき量σu及び高さ幅ばらつき量σhの少なくとも一方が所定の閾値よりも大きくないと判定された場合には、物標Tgが連続構造物100と判定される。
他方で、セグメントSの高さ幅ばらつき量σhが閾値Cより大きいと判定された場合には(ステップS208:YES)、物標Tgは煙200と判定される(ステップS209)。このように第2実施形態では、セグメントSの上端位置ばらつき量σu及びセグメントSの高さ幅ばらつき量σhの両方が所定の閾値より大きい場合に、物標Tgが煙200と判定される。
なお、上述した実施形態では、セグメントSの上端位置ばらつき量σuに関する判定を行った後に、セグメントSの高さ幅ばらつき量σhに関する判定を行っているが、これらの判定処理(即ち、図12のステップS207及びS208)は互いに相前後して行われてもよい。仮に、セグメントSの高さ幅ばらつき量σhに関する判定を行った後に、セグメントSの上端位置ばらつき量σuに関する判定を行った場合であっても、判定結果は変化しない。
ちなみに、図12のステップS201からステップS210の夫々の処理は、特段の説明がない場合には、図2のステップS101からステップS110の夫々の処理と同一である。
(発明の効果)
第2実施形態に係る物体認識装置1では、上述したようにセグメントSの上端位置ばらつき量σu及び高さ幅ばらつき量σhの両方が所定の閾値より大きい場合に、物標Tgが煙200と判定される。このため、セグメントSの上端位置ばらつき量σu及び高さ幅ばらつき量σhのいずれか一方だけが所定の閾値より大きい場合には、物標Tgは煙200とは判定されないことになり、第1実施形態と比べると、物標Tgが煙200と判定され難くなっている。
物体認識装置1の判定結果を車両のプリクラッシュセーフティシステムに利用する場合、煙200として判定されるべき物標Tgが連続構造物100として誤って判定されてしまっても、不適切なタイミングで車両のブレーキが作動してしまうだけで済む。しかしながら、連続構造物100として判定されるべき物標Tgが煙200として誤って判定されてしまうと、自動的にブレーキが作動されないため、車両と連続構造物100との衝突が発生してしまう可能性がある。このように、プリクラッシュセーフティシステムにおいては、連続構造物100が煙200として誤判定されてしまう事態が優先的に回避されることが好ましい。
これに対し、第2実施形態では、物標Tgを煙であると判定する場合には、セグメントSの上端位置ばらつき量σu及びセグメントSの高さ幅ばらつき量σhの両方が所定の閾値より大きいことが要求される。これにより、連続構造物100として判定されるべき物標Tgが煙200として誤って判定されてしまうことを、より確実に防止できる。
本発明は、上述した実施形態に限られるものではなく、特許請求の範囲及び明細書全体から読み取れる発明の要旨或いは思想に反しない範囲で適宜変更可能であり、そのような変更を伴う物体認識装置及び煙判定方法もまた本発明の技術的範囲に含まれるものである。
1 物体認識装置
10 ステレオカメラ
11 左カメラ
12 右カメラ
11a,12a レンズ
11b,12b 撮像素子
13 カメラCPU
14 画像出力部
20 ステレオ画像認識装置
21 画像取得部
22 セグメント抽出部
23 物標抽出部
24 ばらつき算出部
25 煙判定部
100 連続構造物
200 煙
P 撮像画像
S セグメント
Tg 物標
u 上端位置
h 高さ幅
σu 上端位置ばらつき量
σh 高さ幅ばらつき量

Claims (4)

  1. ステレオカメラで撮像された複数の画像を取得する取得手段と、
    前記複数の画像から視差を算出し、画像横方向の一定幅毎に視差が所定範囲内となる集合をセグメントとして抽出するセグメント抽出手段と、
    前記画像横方向及び画像奥行方向に連結している前記セグメントを物標として抽出する物標抽出手段と、
    前記物標を構成する各セグメントの上端位置のばらつき量及び高さ幅のばらつき量を算出する算出手段と、
    前記上端位置のばらつき量及び前記高さ幅のばらつき量の少なくとも一方が所定の閾値を超えている場合に、前記物標は煙であると判定する判定手段と
    を備えることを特徴とする物体認識装置。
  2. 前記判定手段は、前記上端位置のばらつき量が前記所定の閾値としての第1閾値を超えており、且つ前記高さ幅のばらつき量が前記所定の閾値としての第2閾値を超えている場合に、前記物標は煙であると判定することを特徴とする請求項1に記載の物体認識装置。
  3. 前記算出手段は、前記物標を構成する前記セグメントの数が所定数以上の場合に、前記上端位置のばらつき量及び前記高さ幅のばらつき量を算出することを特徴とする請求項1又は2に記載の物体認識装置。
  4. ステレオカメラで撮像された複数の画像を取得する取得工程と、
    前記複数の画像から視差を算出し、画像横方向の一定幅毎に視差が所定範囲内となる集合をセグメントとして抽出するセグメント抽出工程と、
    前記画像横方向及び画像奥行方向に連結している前記セグメントを物標として抽出する物標抽出工程と、
    前記物標を構成する各セグメントの上端位置のばらつき量及び高さ幅のばらつき量を算出する算出工程と、
    前記上端位置のばらつき量及び前記高さ幅のばらつき量の少なくとも一方が所定の閾値を超えている場合に、前記物標は煙であると判定する判定工程と
    を備えることを特徴とする煙判定方法。
JP2015196817A 2015-10-02 2015-10-02 物体認識装置及び煙判定方法 Active JP6299720B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015196817A JP6299720B2 (ja) 2015-10-02 2015-10-02 物体認識装置及び煙判定方法
CN201610590187.4A CN106560837B (zh) 2015-10-02 2016-07-25 物体识别装置以及烟雾判定方法
US15/241,685 US10102628B2 (en) 2015-10-02 2016-08-19 Object recognizing apparatus and haze determination method
DE102016216500.3A DE102016216500A1 (de) 2015-10-02 2016-09-01 Objekterkennungsverfahren und trübungsbestimmungsverfahren

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015196817A JP6299720B2 (ja) 2015-10-02 2015-10-02 物体認識装置及び煙判定方法

Publications (2)

Publication Number Publication Date
JP2017068789A JP2017068789A (ja) 2017-04-06
JP6299720B2 true JP6299720B2 (ja) 2018-03-28

Family

ID=58355576

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015196817A Active JP6299720B2 (ja) 2015-10-02 2015-10-02 物体認識装置及び煙判定方法

Country Status (4)

Country Link
US (1) US10102628B2 (ja)
JP (1) JP6299720B2 (ja)
CN (1) CN106560837B (ja)
DE (1) DE102016216500A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6508337B2 (ja) * 2015-07-27 2019-05-15 日産自動車株式会社 物体検出方法及び物体検出装置
US10204418B2 (en) * 2016-09-07 2019-02-12 Nokia Technologies Oy Method and apparatus for facilitating stereo vision through the use of multi-layer shifting
EP3614299A1 (de) * 2018-08-21 2020-02-26 Siemens Aktiengesellschaft Verfahren und anordnung zum erkennen von objekten an anlagen
JP2021125541A (ja) * 2020-02-04 2021-08-30 キオクシア株式会社 処理装置および処理方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2675687A1 (en) * 2007-01-16 2008-07-24 Utc Fire & Security Corporation System and method for video detection of smoke and flame
FR2965354B1 (fr) * 2010-09-28 2012-10-12 France Etat Ponts Chaussees Procede et dispositif de detection de brouillard, la nuit
JP2012118698A (ja) 2010-11-30 2012-06-21 Fuji Heavy Ind Ltd 画像処理装置
JP5600332B2 (ja) 2012-03-29 2014-10-01 富士重工業株式会社 運転支援装置
JP2013206328A (ja) * 2012-03-29 2013-10-07 Fuji Heavy Ind Ltd 物体検出装置
DE102012213125A1 (de) * 2012-07-26 2014-01-30 Robert Bosch Gmbh Brandüberwachungssystem
JP5896027B2 (ja) * 2012-07-27 2016-03-30 日産自動車株式会社 立体物検出装置及び立体物検出方法
JP6254083B2 (ja) * 2012-07-27 2017-12-27 クラリオン株式会社 車載用周囲環境認識装置
JP5906224B2 (ja) 2013-09-27 2016-04-20 富士重工業株式会社 車外環境認識装置
JP5886809B2 (ja) * 2013-09-27 2016-03-16 富士重工業株式会社 車外環境認識装置

Also Published As

Publication number Publication date
US10102628B2 (en) 2018-10-16
CN106560837A (zh) 2017-04-12
JP2017068789A (ja) 2017-04-06
US20170098298A1 (en) 2017-04-06
DE102016216500A1 (de) 2017-04-06
CN106560837B (zh) 2019-07-26

Similar Documents

Publication Publication Date Title
US9646214B2 (en) Lane boundary line recognition device and computer-readable storage medium storing program of recognizing lane boundary lines on roadway
JP6362442B2 (ja) 車線境界線抽出装置、車線境界線抽出方法、及びプログラム
JP6299720B2 (ja) 物体認識装置及び煙判定方法
JP6054777B2 (ja) ステレオカメラ装置
JP6158779B2 (ja) 画像処理装置
EP2960829A2 (en) Lane boundary estimation device and lane boundary estimation method
US20150262365A1 (en) Image processing device and image processing method
JP2014197378A5 (ja)
JP2006268097A (ja) 車載物体検出装置、および物体検出方法
JP4848312B2 (ja) 身長推定装置および身長推定方法
JP6087858B2 (ja) 走行区画線認識装置及び走行区画線認識プログラム
US9589213B2 (en) Apparatus for recognizing turnoff from vehicle roadway
JP2015166903A (ja) 分岐路認識装置
JP2017199289A5 (ja)
US9542607B2 (en) Lane boundary line recognition device and computer-readable storage medium storing program of recognizing lane boundary lines on roadway
JP2015153163A (ja) 境界線認識装置
JP6069938B2 (ja) 飛び出し検出装置
KR102372296B1 (ko) 영상 기반 주행 차로 판단 장치 및 방법
US20210089818A1 (en) Deposit detection device and deposit detection method
JP5786793B2 (ja) 車両検出装置
JP6416654B2 (ja) 白線検出装置
JP4611919B2 (ja) 歩行者認識装置
JP6677142B2 (ja) 駐車枠認識装置
JP2015215235A (ja) 物体検出装置及び物体検出方法
CN112513573A (zh) 立体摄像机装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170123

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180212

R151 Written notification of patent or utility model registration

Ref document number: 6299720

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151