JPWO2015177864A1 - 信号機認識装置及び信号機認識方法 - Google Patents

信号機認識装置及び信号機認識方法 Download PDF

Info

Publication number
JPWO2015177864A1
JPWO2015177864A1 JP2016520843A JP2016520843A JPWO2015177864A1 JP WO2015177864 A1 JPWO2015177864 A1 JP WO2015177864A1 JP 2016520843 A JP2016520843 A JP 2016520843A JP 2016520843 A JP2016520843 A JP 2016520843A JP WO2015177864 A1 JPWO2015177864 A1 JP WO2015177864A1
Authority
JP
Japan
Prior art keywords
traffic
traffic signal
vehicle
priority
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016520843A
Other languages
English (en)
Other versions
JP6337961B2 (ja
Inventor
大貴 山ノ井
大貴 山ノ井
安藤 敏之
敏之 安藤
西内 秀和
秀和 西内
松尾 治夫
治夫 松尾
佐藤 宏
宏 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Publication of JPWO2015177864A1 publication Critical patent/JPWO2015177864A1/ja
Application granted granted Critical
Publication of JP6337961B2 publication Critical patent/JP6337961B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/095Traffic lights

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Image Analysis (AREA)

Abstract

信号機認識装置(100)は、車両の周囲を撮像して画像データ(D08)を取得し(11)、車両の自己位置を検出し(12)、車両の周囲の信号機を画像から検出する。信号機の位置情報を含む地図情報(D02)と自己位置情報(D05)とから、画像に写ることが予測される2以上の信号機を特定する(23)。信号機が遮蔽される可能性に基づいて、2以上の信号機の間の優先順位を設定する(24)。そして、2以上の信号機が特定された場合には、2以上の信号機のうち優先順位が最も高い信号機を画像から検出する(15)。

Description

本発明は、信号機認識装置及び信号機認識方法に関する。
従来から、車両の進行方向を撮像した画像から信号機または一時停止標識を認識する車外認識装置が知られている(特許文献1)。画像中に複数の信号機または一時停止標識が存在する場合、特許文献1では、車両の進行方向に沿った配置順序を判定し、車両に最も近接する位置に存在する信号機または一時停止標識に応じて車両の走行状態を制御する。
特開2007−257299号公報
しかし、特許文献1では、走行制御の基準となる信号機を複数の信号機の中から選択する際に、車両から信号機までの距離を考慮しているが、信号機が遮蔽される可能性は考慮していない。信号機は、先行車、街路樹、工事など、地図情報から得られない要因によって隠されてしまい、車両から視認できない場合がある。
本発明は、上記課題に鑑みてなされたものであり、2以上の信号機が画像に写ることが予測される場合における信号機の検出確率を高めることができる信号機認識装置及び信号機認識方法を提供することを目的としている。
本発明の一態様に係わる信号機認識装置は、車両の周囲を撮像して画像を取得し、車両の自己位置を検出し、車両の周囲の信号機を画像から検出する。信号機の位置情報を含む地図情報と自己位置とから、画像に写ることが予測される2以上の信号機を特定する。信号機が遮蔽される可能性に基づいて、2以上の信号機の間の優先順位を設定する。そして、2以上の信号機が特定された場合には、2以上の信号機のうち優先順位が最も高い信号機を画像から検出する。
図1は、実施形態に係わる信号機認識装置100へ入出力される情報を示すブロック図である。 図2は、第1実施形態に係わる信号機認識装置100の構成及びデータフローを示すブロック図である。 図3は、図2の検出領域設定部14の構成及びデータフローを示すブロック図である。 図4は、図3の優先順位設定部24により設定される優先順位の一例を示す鳥瞰図である。 図5は、信号機認識装置100を用いた信号機認識方法の一例を示すフローチャートである。 図6は、第1実施形態に係わる、図5のステップS13の詳細な手順を示すフローチャートである。 図7は、第2実施形態に係わる、図5のステップS13の詳細な手順を示すフローチャートである。 図8は、第3実施形態に係わる優先順位設定部24bの構成を示すブロック図である。 図9は、図8の優先順位設定部24bにより設定される優先順位の一例を示す鳥瞰図である。 図10は、第4実施形態に係わる優先順位設定部24cの構成を示すブロック図である。 図11は、第4実施形態に係わる図5のステップS07の詳細な手順を示すフローチャートである。 図12は、図10の優先順位設定部24cにより設定される優先順位の一例を示す鳥瞰図である。
以下、本発明の実施形態を図面に基づいて説明する。同一部材には同一符号を付して再度の説明を省略する。

(第1実施形態)
図1を参照して、実施形態に係わる信号機認識装置100のへ入出力される情報を説明する。信号機認識装置100は、車両に搭載された撮像部(カメラ)により撮像された画像から、車両が走行する道路周辺に設置された信号機を認識する。
信号機認識装置100には、地図情報D02と、ランドマーク情報D01と、カメラ情報D03とが入力される。地図情報D02には、予め実環境と地図の間で対応付けされた信号機の位置情報を含まれる。ランドマーク情報D01は、実環境上の車両の自己位置を算出するために用いられる。ランドマークには、地上に設けられた特徴物(地上ランドマーク)、及び車両が受信可能なGPS信号を発信するGPS衛星が含まれる。実施形態では、地上ランドマークを例に取り説明する。ランドマーク情報D01には、例えば、地上ランドマークの位置情報が含まれる。カメラ情報D03は、撮像部から車両の周囲(例えば前方)の映像を抽出するために用いられる。信号機認識装置100は、これらの情報D01〜D03に基づいて、信号機の認識結果を信号機情報D04として出力する。
図2を参照して、第1実施形態に係わる信号機認識装置100の構成及びデータフローを説明する。信号機認識装置100は、撮像部11と、自己位置検出部12と、信号機位置推定部13と、検出領域設定部14と、信号機検出部15とを備える。
撮像部11は、車両に搭載され、車両の周囲を撮像して画像を取得する。撮像部11は、固体撮像素子、例えばCCD及びCMOSを備えるカメラであって、画像処理が可能な画像を取得する。撮像部11は、カメラ情報D03に基づいて、レンズの画角、カメラの垂直方向及び水平方向の角度を設定し、取得した画像を画像データD08として出力する。
自己位置検出部12は、ランドマーク情報D01に基づいて車両の自己位置を検出する。ランドマーク情報D01は、例えば、車載のカメラ或いはレーザレーダ等のセンシング手段により検出された地上ランドマーク(店舗、名所、観光スポット)の車両に対する相対位置の情報である。地図情報D02の中には、地上ランドマークの位置情報が予め登録されている。ランドマーク情報D01と地上ランドマークの相対位置の情報とを照合することにより、車両の自己位置を検出することができる。ここで、「位置」には、座標及び姿勢が含まれる。具体的には、地上ランドマークの位置には、地上ランドマークの座標及び姿勢が含まれ、車両の位置には、車両の座標及び姿勢が含まれる。自己位置検出部12は、基準となる座標系における座標(x, y, z)及び、各座標軸の回転方向である姿勢(ピッチ、ヨー、ロール)を自己位置情報D05として出力する。
例えば、自己位置検出部12は、ランドマーク情報D01を用いて車両の初期位置を検出する。初期位置とは、ランドマーク情報D01から直接求めることができる車両の位置、すなわち座標及び姿勢である。そして、初期位置に、車両の移動量を累積加算することで車両51の自己位置を算出する。自己位置検出部12は、オドメトリ、レーダ装置、ジャイロセンサ、ヨーレイトセンサ、舵角センサを用いて、単位時間当たりの車両の移動量、つまり、座標及び姿勢の変化量を推定することができる。
信号機位置推定部13は、地図情報D02と自己位置情報D05とから、車両に対する信号機の相対位置を推定する。地図情報D02の中には、信号機の位置情報(座標情報)が予め登録されている。信号機の座標と車両の座標及び姿勢とから、車両に対する信号機の相対座標を求めることができる。信号機位置推定部13は、推定した信号機の相対座標を相対位置情報D06として出力する。なお、信号機位置推定部13により推定される信号機は、車両に対して信号を提示する信号機である。
検出領域設定部14は、信号機の相対位置から、画像における信号機の検出領域を設定する。撮像部11は車両に固定されているため、撮像部11が撮像する画角及び方向が定まれば、画像の中で、信号機が撮像されるであろう画像上の位置を特定することができる。検出領域設定部14は、この画像上の位置に基づいて、画像における信号機の検出領域を設定する。
信号機検出部15は、2以上の信号機がある場合に、2以上の信号機のうち優先順位が最も高い信号機を画像から検出する。具体的には、優先順位が最も高い信号機に対応する検出領域に含まれる画像データD08に対して、信号機を検出するための画像処理を実施する。画像処理の方法は特に問わない。例えば、信号機が有する信号灯を、商用電源の交流周期に基づく同期検波処理、又は色相及び形状の類似判定処理を用いて、検出することができる。その他、信号機を検出するための既知の画像処理を適用することができる。画像データD08全体ではなく、その一部分(検出領域)に対して画像処理を実施することにより、信号機検出のための情報処理負担を軽減して、早期に信号機を検出することができる。信号機検出部15は、信号機の検出結果を信号機情報D04として出力する。
なお、自己位置検出部12、信号機位置推定部13、検出領域設定部14、及び信号機検出部15は、CPU、メモリ、及び入出力部を備えるマイクロコントローラを用いて実現することができる。具体的に、CPUは、予めインストールされたコンピュータプログラムを実行することにより、マイクロコントローラが備える複数の情報処理部(12〜15)を構成する。マイクロコントローラが備えるメモリの一部は、地図情報D02を記憶する地図データベースを構成する。なお、マイクロコントローラは、車両にかかわる他の制御(例えば、自動運転制御)に用いるECUと兼用してもよい。
図3を参照して、図2の検出領域設定部14の構成及びデータフローを説明する。検出領域設定部14は、信号機特定部23と、優先順位設定部24と、領域決定部25とを備える。
信号機特定部23は、信号機の相対座標(相対位置情報D06)から、画像に写ることが予測される2以上の信号機を特定する。カメラ情報D03から画像の画角、及び上下及び左右方向が特定されるので、信号機特定部23は、画像のフレーム枠に収まる信号機を特定することができる。ただし、信号機特定部23により特定される信号機には、画像のフレーム枠に収まるが、後述するように、地図情報からは得られない要因により遮蔽され、画像に写らない信号機も含まれている。
優先順位設定部24は、地図情報D02に含まれる信号機が遮蔽される可能性に基づいて、信号機特定部23により特定された2以上の信号機の間の優先順位を設定する。道路に対する信号機の位置及び車両に対する信号機の位置によって、信号機の画像への映り易さ、つまり、車両周囲の障害物によって信号機が遮蔽されてしまう可能性に違いがある。詳細は、図4を参照して後述する。そこで、画像に2以上の信号機が写ることが予測される場合、優先順位設定部24は、2以上の信号機の間の優先順位を設定する。
領域決定部25は、画像における信号機の検出領域を設定する。撮像部11が撮像する画角及び方向が定まれば、信号機の相対座標(相対位置情報D06)に基づいて、信号機が撮像されるであろう画像上の位置を特定することができる。領域決定部25は、信号機の相対座標を、信号機を撮像した画像上の座標へ変換する。具体的に、領域決定部25は、相対位置情報D06が入力され、撮像部11が有するレンズ光学系に基づき、信号機の三次元座標(x, y, z)を画像上の二次元座標(xl,yl)へ変換する座標変換処理を行う。座標変換方法は特に問わず、既知の方法を用いることができる。領域決定部25は、変換された画像上の座標(xl,yl)を含む所定の領域を、画像における信号機の検出領域として設定する。
このように、検出領域設定部14は、画像のフレーム枠に収まる2以上の信号機を特定し、特定された2以上の信号機に対して優先順位及び各々の検出領域を設定する。
図4を参照して、優先順位設定部24により設定される優先順位の一例を説明する。ここでは、信号機特定部23が、交差点Crsにおいて、道路RDを走行する車両51が従うべき3つの信号機(Ts1、Ts2、Ts3)を特定した場合を例示する。交差点Crsとして、車両51が進入する最も手前の交差点を例示する。もちろん、交差点Crsより離れた他の交差点、例えば、交差点Crsの後に車両51が2番目、3番目、・・・に進入する交差点における信号機を特定しても構わない。
地図情報D02に含まれる信号機の位置情報から、信号機Ts1が対向車線(PL)側に位置し、信号機Ts2、Ts3が自車線(WL)側に位置することが特定される。更に、信号機Ts2は、交差点Crsよりも手前側に位置し、信号機Ts3は、交差点Crsよりも奥側に位置することが特定される。
優先順位設定部24は、以下に示す(R1)及び(R2)の基本ルールに従って、3つの信号機(Ts1、Ts2、Ts3)に対して優先順位を設定する。
(R1)車両51が走行する自車線(WL)側に位置する信号機よりも、対向車線(PL)側に位置する信号機の優先順位を高く設定する。
(R2)車両51から遠い信号機よりも、車両51から近い信号機の優先順位を高く設定する。
基本ルール(R1)は次の理由から設けられる。自車線(WL)側に位置する信号機は、対向車線(PL)側に位置する信号機に比べて、先行車、路肩に植えられた街路樹、或いは工事等の地図情報以外の要因によって遮蔽される可能性が高い。また、対向車線(PL)側に位置する信号機は対向車により遮蔽される可能性はある。しかし、対向車線(PL)側に位置する信号機は対向車とすれ違う瞬間だけ遮蔽される。一方、自車線(WL)側に位置する信号機が地図情報以外の要因により遮蔽される時間は、対向車線(PL)側に位置する信号機が遮蔽される時間に対して長い。例えば、車両が大型車両の後方を追従して走行する場合、自車線(WL)側に位置する信号機は、大型車両により遮蔽され続ける。そこで、車両が走行する自車線(WL)側に位置する信号機よりも、対向車線(PL)側に位置する信号機の優先順位を高く設定する。これにより、遮蔽される可能性が低く、且つ遮蔽される時間が短い信号機を優先的に検出することができる。
基本ルール(R2)を設定した理由は、同じ車線(自車線WL或いは対向車線PL)側に位置する複数の信号機を見る場合、車両から近い信号機は遠い信号機よりも遮蔽される可能性が低く、また画像に大きく映りこむため、安定して認識可能であるからである。
基本ルール(R1)及び(R2)によれば、図4の3つの信号機(Ts1、Ts2、Ts3)は、優先順位の高いものから、信号機Ts1、信号機Ts2、信号機Ts3の順番となる。
信号機特定部23は、画像に写ることが予測される2以上の信号機として、予告信号機を特定する場合がある。一般的に、予告信号機は道路状況を通常の信号機が遮蔽されている位置でも、早く信号機の状態を伝えるために設けられており、遮蔽される可能性が低い。そこで、この場合、優先順位設定部24は、他の信号機よりも予告信号機の優先順位を高く設定する。これにより、更に早期に信号機を検出することができる。
実施形態では、交差点Crsにおいて3つの信号機が特定された場合を示したが、2つ或いは4つ以上の場合にも、上記した(R1)及び(R2)の基本ルールに従って優先順位を付することが可能であることは言うまでもない。また、信号機は交差点に配置された信号機に限らず、車両が走行する道路上で従うべき全ての信号機が含まれる。例えば、道路RD上の横断歩道における信号機も含まれる。
図5を参照して、信号機認識装置100を用いた信号機認識方法の一例を説明する。図5に示すフローは、予め定めた周期の基で繰り返し実施される。
先ず、ステップS01において、撮像部11は、カメラ情報D03に基づいて車両51の周囲を撮像して画像を取得する。ステップS03に進み、自己位置検出部12は、ランドマーク情報D01を用いて車両51の自己位置を検出し、検出された自己位置を自己位置情報D05として出力する。
ステップS05に進み、信号機位置推定部13は、地図情報D02と自己位置情報D05とから、車両51に対する信号機の相対座標を推定する。
ステップS07に進み、信号機特定部23は、信号機の相対座標(相対位置情報D06)から、画像に写ることが予測される2以上の信号機を特定する。そして、優先順位設定部24は、地図情報D02に含まれる信号機の位置情報から信号機が遮蔽される可能性に基づいて、信号機特定部23により特定された2以上の信号機の間の優先順位を設定する。具体的に、優先順位設定部24は、基本ルール(R1)及び(R2)に従って、2以上の信号機の間の優先順位を設定する。
ステップS09に進み、領域決定部25は、信号機の相対座標(x, y, z)を、画像上の座標(xl,yl)へ変換し、画像上の座標に基づいて検出領域の中心座標を決定する。検出領域は予め定めた大きさ及び形状を有する。これにより、2以上の信号機の各々について、検出領域が決定される(ステップS11)。
ステップS13に進み、信号機検出部15は、2以上の信号機がある場合には、設定された優先順位に従って、検出領域に含まれる画像データD08に対して、信号機を検出するための画像処理を実施する。
図6を参照して、図5のステップS13の詳細な手順を説明する。ここでは、図5のステップS07でN個の信号機が特定された場合を説明する。先ず、ステップS21にて、N個の信号機の各々に対応する検出領域の画像データを抽出する。ステップS23に進み、図5のステップS07で信号機の間の設定された優先順位(i)を、抽出された検出領域に対応付ける。なお「i」は1〜Nの自然数であり、初期設定はi=1である。
ステップS25に進み、N個の信号機の中で最も優先順位が高い(i=1)の信号機に対応する検出領域から、信号機の検出を試みる。信号機を検出できた場合(S25でYES)、ステップS27へ進み、信号機情報D04を出力する。その後、優先順位を変更せずに(ステップS29)、ステップS25に戻る。これにより、信号機の検出に成功している場合(S25でYES)、同じ検出領域から信号機を継続して検出することができる。
一方、信号機を検出できなかった場合(S25でNO)、ステップS31へ進み、現在の優先順位(i)がNであるか、つまり優先順位が最も低い値であるか否かを判断する。現在の優先順位(i)がNでなければ(S31でNO)、未だ検出を試みていない検出領域が残されている。そこで、現在の優先順位(i)を1だけインクリメント(増加)させ(ステップS35)、つまり現在の優先順位を1つ下げて、ステップS25へ戻る。一方、現在の優先順位(i)がNであれば(S31でYES)、全ての検出領域について検出を試みたことになる。そこで、再び、現在の優先順位(i)を最も高い優先順位に設定し(ステップS33)、ステップS25へ戻る。
以上説明したように、第1実施形態によれば、以下の作用効果が得られる。
信号機は、先行車、街路樹、工事など、地図情報から特定できない要因によって隠されてしまい、車両から視認できない場合がある。また、車両に搭載された撮像部11が画像を取得する場合、道路に対する信号機の位置によって、信号機の画像への映り易さ、つまり、車両周囲の障害物によって信号機が遮蔽されてしまう可能性に違いがある。そこで、画像に2以上の信号機が写ることが地図情報D02及び自己位置情報D05から予測される場合、2以上の信号機の間の優先順位(i)を設定する。そして、優先順位(i)が最も高い信号機を画像から検出する。これにより、2以上の信号機が画像に写ることが予測される場合における信号機の検出確率を高めることができる。また、早期に信号機を検出し、且つ演算処理負担を軽減することができる。
基本ルール(R1)で述べたように、優先順位設定部24は、車両が走行する自車線(WL)側に位置する信号機よりも、対向車線(PL)側に位置する信号機の優先順位を高く設定する。これにより、遮蔽される可能性が低く、且つ遮蔽される時間が短い信号機を優先的に検出することができる。
一般的に、予告信号機は交通状況を通常の信号機が遮蔽されている位置でも、早く信号機の状態を伝えるために設けられており、遮蔽される可能性が低い。そこで、信号機特定部23が、画像に写ることが予測される2以上の信号機として、予告信号機を特定した場合、優先順位設定部24は、他の信号機よりも予告信号機の優先順位を高く設定する。これにより、更に早期に信号機を検出することができる。
図6に示したように、信号機検出部15は、優先順位が最も高い信号機を検出できた場合(S25でYES)、当該信号機を継続して検出する。これにより、信号機を安定して検出し続けることができる。
優先順位が最も高い信号機が検出されることを待つよりも、次に優先順位が高い信号機を先に検出できる場合がある。そこで、図6に示したように、信号機検出部15は、優先順位が最も高い信号機を検出できなかった場合(S25NO)、次に優先順位が高い信号機を検出する。これにより、早期に信号機を検出することができる。更に、図6のフローでは、次に優先順位が高い信号機を継続して検出する。これにより、信号機を安定して検出し続けることができる。
(第2実施形態)
図6のフローにおいて、優先順位が高い信号機を検出できている限りにおいて、その信号機の検出を継続し、優先順位が低い信号機を検出の対象としていない。第2実施形態では、信号機を検出できたか否かに関わらず、信号機特定部23により特定された2以上の信号機を優先順位が高い方から順番に検出する信号機認識装置及び信号機認識方法について説明する。
具体的には、図5のステップS13の詳細な手順が図6と異なるが、図2に示した信号機認識装置100の構成及び図5のステップS01〜S11の手順は、第1実施形態と同じであり、説明を省略する。
図7を参照して、図5のステップS13の詳細な手順を説明する。先ず、図6と同様にして、ステップS21及びS23にて、N個の信号機の各々に対応する検出領域の画像データを抽出し、信号機の間で設定された優先順位(i)を、抽出された検出領域に対応付ける。
ステップS25に進み、図6と同様にして、最も優先順位が高い(i=1)の信号機に対応する検出領域から、信号機の検出を試みる。信号機を検出できなかった場合(S25でNO)、ステップS31へ進む。一方、信号機を検出できた場合(S25でYES)、ステップS27へ進み、信号機情報D04を出力する。その後、図6と異なり、ステップS31に進む。
ステップS31において、図6と同様にして、現在の優先順位(i)がNであるか否かを判断する。現在の優先順位(i)がNでなければ(S31でNO)、現在の優先順位(i)を1だけインクリメント(増加)させ(ステップS35)、ステップS25へ戻る。一方、現在の優先順位(i)がNであれば(S31でYES)、再び、現在の優先順位(i)を最も高い優先順位に設定し(ステップS33)、ステップS25へ戻る。
このように、信号機の検出に成功している場合(S25でYES)、同じ検出領域から信号機を継続して検出するのではなく、次の信号機の検出を試みる。すなわち、信号機検出部15は、信号機を検出できたか否かに関わらず、2以上の信号機を優先順位が高い方から順番に検出する。特定された全ての信号機の検出結果を用いて信号を認識することにより、信号の誤認識を抑制することができる。そこで、信号機を検出できたか否かに関わらず、2以上の信号機を優先順位が高い方から順番に検出する。これにより、信号の認識精度が高まる。
(第3実施形態)
信号機の遮蔽される可能性は、車両が走行する道路の形状(直線道路、カーブ、勾配形状)や街路樹及び工事などの障害物の存在を含む地理情報によって変化する。第3実施形態では、地理情報を考慮して優先順位を設定する信号機認識装置及び信号機認識方法について説明する。
具体的には、優先順位設定部24bの構成、図5のステップS07が第1実施形態と異なるが、信号機認識装置100の他の構成及び図5の他の手順は、第1実施形態と同じであり、説明を省略する。
図8を参照して、第3実施形態に係わる優先順位設定部24bの構成を説明する。優先順位設定部24bは、基本順位設定部31と、第1の順位変更部32とを備える。基本順位設定部31は、図3の優先順位設定部24と同じ演算処理を実施する。すなわち、基本順位設定部31は、(R1)及び(R2)に示す基本ルールに従って、信号機特定部23により特定された2以上の信号機の間の優先順位を設定する。基本順位設定部31が設定する優先順位を「基本優先順位」と呼ぶ。
第1の順位変更部32は、地理情報に基づいて、基本優先順位を変更する。変更後の優先順位は、優先順位設定部24bにより設定された優先順位として出力される。具体的に、図9に示すように、第1の順位変更部32は、車両51の現在位置(自己位置)から検出対象となる信号機が設置された交差点Crsまでの道路RDの形状を判断する。例えば、第1の順位変更部32は、地図情報D02を参照して、車両51が走行する道路RDの形状が、車両51から進行方向DDに向かって、対向車線(PL)側へ曲がるカーブであるか否かを判断する。
対向車線(PL)側へ曲がるカーブであると判断した場合、第1の順位変更部32は、以下に示す変更ルール(V1)に従って、基本優先順位を変更する。
(V1)対向車線(PL)側に位置する信号機よりも、車両51が走行する自車線(WL)側に位置する信号機の優先順位を高く設定する。
自車線(WL)側及び対向車線(PL)側のうち、車両51の旋回方向の逆側に位置する信号機は、車両51の旋回方向側に位置する信号機よりも、交差点から離れた位置で検出することができる。対向車線(PL)側へ曲がるカーブの場合、対向車線(PL)側よりも自車線(WL)側の信号機を早期に検出することができる。そこで、基本ルール(R1)の優劣関係を反転させるために、変更ルール(V1)を適用する。
上記した変更ルール(V1)によれば、図9の3つの信号機(Ts1、Ts2、Ts3)は、優先順位の高いものから、信号機Ts2、信号機Ts3、信号機Ts1の順番となる。つまり、自車線(WL)側に位置する信号機Ts2、信号機Ts3の優先順位が、対向車線(PL)側に位置する信号機Ts1よりも高く設定される。なお、変更ルール(V1)が適用されても、基本ルール(R2)は維持される。よって、交差点Crsの手前側に位置する信号機Ts2の優先順位は、交差点Crsより奥側に位置する信号機Ts3よりも高く設定される。
なお、第1の順位変更部32が考慮する地理情報は、カーブ以外の道路の形状(勾配)、あるいは街路樹や工事などの障害物であってもよい。この場合、信号機認識装置100は、走行データ等から、道路の勾配情報及び障害物情報を学習し、地図情報D02の一部として追加する。第1の順位変更部32は、勾配情報及び障害物情報から、どの信号機が遮蔽される可能性が低いかあらかじめ予測し、基本優先順位を変更すればよい。また、図9の例では、左側通行における右カーブの例を示したが、右側通行における左カーブにも適用できることは言うまでもない。
このように、車両51が走行する道路RDの形状が、車両51から見て対向車線PL側へ曲がるカーブである場合、優先順位設定部24bは、対向車線PL側に位置する信号機Ts1よりも、自車線WL側に位置する信号機(Ts2、Ts3)の優先順位を高く設定する。これにより、道路の形状に応じて適正な優先順位を設定することができる。
(第4実施形態)
第4実施形態では、優先順位を設定する前にあらかじめ信号機の検出を試み、検出された信号機の間の優先順位を設定する信号機認識装置及び信号機認識方法について説明する。
具体的には、優先順位設定部24cの構成、図5のステップS07が第1実施形態と異なるが、信号機認識装置100の他の構成及び図5の他の手順は、第1実施形態と同じであり、説明を省略する。
図8を参照して、第4実施形態に係わる優先順位設定部24cの構成を説明する。優先順位設定部24cは、基本順位設定部31と、第2の順位変更部33とを備える。基本順位設定部31は、図3の優先順位設定部24と同じ演算処理を実施する。すなわち、基本順位設定部31は、基本ルール(R1)及び(R2)に従って、信号機特定部23により特定された2以上の信号機の間の基本優先順位を設定する。
第2の順位変更部33は、信号機検出部15による信号機の検出結果に基づいて、基本優先順位を変更する。変更後の優先順位は、優先順位設定部24cにより設定された優先順位として出力される。交通環境及び道路状況等の地図情報以外の要因によって遮蔽される信号機を、信号機の位置情報だけから予測することは難しい。信号機特定部23により特定された全ての信号機の検出を試み、その検出結果を優先順位にフィードバックすることが望ましい。そこで、信号機検出部15はあらかじめ全ての信号機の検出を試み、第2の順位変更部33は、検出に成功した信号機の間の優先順位を設定する。
図11を参照して、図5のステップS07の詳細な手順を説明する。先ず、ステップS21及びS23にて、N個の信号機の各々に対応する検出領域の画像データを抽出し、信号機の間で設定された優先順位(i)を、抽出された検出領域に対応付ける。
ステップS25に進み、最も優先順位が高い(i=1)の信号機に対応する検出領域から、信号機の検出を試みる。信号機を検出できた場合(S25でYES)、ステップS39へ進み、検出できたことを示すフラグを当該信号機に付す。これにより、検出可能であることを学習できる。一方、信号機を検出できなかった場合(S25でNO)、ステップS37へ進み、検出できたことを示すフラグは付さない。これにより、検出不可能であることを学習できる。
その後、ステップS31に進み、現在の優先順位(i)がNであるか否かを判断する。現在の優先順位(i)がNでなければ(S31でNO)、現在の優先順位(i)を1だけインクリメント(増加)させ(ステップS35)、ステップS25へ戻る。一方、現在の優先順位(i)がNであれば(S31でYES)、すべての信号機の検出を試みたことになるので、ステップS41へ進む。ステップS41において、フラグが付された信号機の間で、優先順位を設定する。これにより、基本順位設定部31により基本優先順位が設定された信号機の中から検出可能な信号機を抽出して、優先順位を設定することができる。
たとえば、図12は、道路RDが右方向へのカーブであるため、街路樹OBTによって信号機Ts1の一部が遮蔽され、車両51から信号機Ts1の一部が視認できない道路状況の一例を示す。この状況で、基本順位設定部31は、基本ルール(R1)及び(R2)に従って、信号機Ts1、信号機Ts2、信号機Ts3の順番で高い基本優先順位を設定する。これに対して、第2の順位変更部33は、信号機Ts2、信号機Ts3にフラグが付され、信号機Ts1にフラグが付されないという検出結果を入手する。そして、この検出結果に基づいて、信号機Ts2及び信号機Ts3に対して優先順位を設定し、信号機Ts1には設定しない。第2の順位変更部33は、優先順位を設定する際のルールとして、基本ルール(R1)及び(R2)を適用してもよいし、さらに変更ルール(V1)を加味してもかまわない。
交通環境及び道路状況等の地図情報以外の要因によって遮蔽される信号機を、信号機の位置情報だけから予測することは難しい。全ての信号機の検出を試み、その検出結果を優先順位にフィードバックすることが望ましい。そこで、信号機検出部は全ての信号機の検出を試み、優先順位設定部は、検出に成功した信号機の間の優先順位を設定する。これにより、優先順位の設定対象から、検出に失敗した信号機を排除できるので、検出可能な信号機を早期に検出することができる。
以上、実施例に沿って本発明の内容を説明したが、本発明はこれらの記載に限定されるものではなく、種々の変形及び改良が可能であることは、当業者には自明である。
例えば、第1実施形態で、他の信号機よりも予告信号機の優先順位を高く設定する、という基本ルールについて述べた。この基本ルールは、その他の実施形態においても適用されるルールである。つまり、第1の順位変更部32は、予告信号機が対向車線側であるか自車線側であるかに係わらず、他の信号機よりも予告信号機の優先順位を高く設定する。また、第2の順位変更部33は、予告信号機にフラグが付されている限りにおいて、他の信号機よりも予告信号機の優先順位を高く設定する。
11 撮像部
12 自己位置検出部
13 信号機位置推定部
23 信号機特定部
24 優先順位設定部
15 信号機検出部
100 信号機認識装置
D02 地図情報
PL 対向車線
RD 道路
Ts1、Ts2、Ts3 信号機
WL 自車線

Claims (9)

  1. 車両に搭載され、前記車両の周囲を撮像して画像を取得する撮像部と、
    前記車両の自己位置を検出する自己位置検出部と、
    前記車両の周囲の信号機を前記画像から検出する信号機検出部と、
    前記車両の周囲の信号機の位置情報を含む地図情報と前記自己位置とから、前記画像に写ることが予測される2以上の前記信号機を特定する信号機特定部と、
    前記信号機が遮蔽される可能性に基づいて、前記信号機特定部により特定された前記2以上の信号機の間の優先順位を設定する優先順位設定部と、を備え、
    前記信号機検出部は、前記信号機特定部で前記2以上の信号機が特定された場合には、前記2以上の信号機のうち前記優先順位が最も高い前記信号機を前記画像から検出する、
    ことを特徴とする信号機認識装置。
  2. 前記優先順位設定部は、前記車両が走行する自車線側に位置する信号機よりも、対向車線側に位置する信号機の前記優先順位を高く設定することを特徴とする請求項1に記載の信号機認識装置。
  3. 前記車両が走行する道路の形状が、前記車両から見て対向車線側へ曲がるカーブである場合、前記優先順位設定部は、前記対向車線側に位置する信号機よりも、前記車両が走行する自車線側に位置する信号機の前記優先順位を高く設定することを特徴とする請求項1に記載の信号機認識装置。
  4. 前記信号機特定部が、前記画像に写ることが予測される2以上の前記信号機として、予告信号機を特定した場合、前記優先順位設定部は、他の信号機よりも前記予告信号機の前記優先順位を高く設定することを特徴とする請求項1〜3のいずれか一項に記載の信号機認識装置。
  5. 前記信号機検出部は、前記優先順位が最も高い前記信号機を検出できた場合、当該信号機を継続して検出することを特徴とする請求項1〜4のいずれか一項に記載の信号機認識装置。
  6. 前記信号機検出部は、前記優先順位が最も高い前記信号機を検出できなかった場合、次に前記優先順位が高い信号機を検出することを特徴とする請求項1〜5のいずれか一項に記載の信号機認識装置。
  7. 前記信号機検出部は、前記信号機を検出できたか否かに関わらず、前記2以上の信号機を前記優先順位が高い方から順番に検出することを特徴とする請求項1〜4のいずれか一項に記載の信号機認識装置。
  8. 前記信号機検出部は、全ての前記信号機の検出を試み、前記優先順位設定部は、前記検出に成功した前記信号機の間で、前記優先順位を設定することを特徴とする請求項1〜4のいずれか一項に記載の信号機認識装置。
  9. 車両に搭載された撮像部を用いて、前記車両の周囲を撮像して画像を取得し、
    前記車両の自己位置を検出し、
    前記車両の周囲の信号機を前記画像から検出し、
    前記車両の周囲の信号機の位置情報を含む地図情報と前記自己位置とから、前記画像に写ることが予測される2以上の前記信号機を特定し、
    前記信号機が遮蔽される可能性に基づいて、特定された前記2以上の信号機の間の優先順位を設定し、
    前記2以上の信号機が特定された場合には、前記2以上の信号機のうち前記優先順位が最も高い前記信号機を前記画像から検出する
    ことを特徴とする信号機認識方法。
JP2016520843A 2014-05-20 2014-05-20 信号機認識装置及び信号機認識方法 Active JP6337961B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2014/063347 WO2015177864A1 (ja) 2014-05-20 2014-05-20 信号機認識装置及び信号機認識方法

Publications (2)

Publication Number Publication Date
JPWO2015177864A1 true JPWO2015177864A1 (ja) 2017-04-20
JP6337961B2 JP6337961B2 (ja) 2018-06-06

Family

ID=54553562

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016520843A Active JP6337961B2 (ja) 2014-05-20 2014-05-20 信号機認識装置及び信号機認識方法

Country Status (8)

Country Link
US (1) US9779315B2 (ja)
EP (1) EP3147884B1 (ja)
JP (1) JP6337961B2 (ja)
CN (1) CN106463051B (ja)
BR (1) BR112016027098B1 (ja)
MX (1) MX352401B (ja)
RU (1) RU2639851C1 (ja)
WO (1) WO2015177864A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9990548B2 (en) * 2016-03-09 2018-06-05 Uber Technologies, Inc. Traffic signal analysis system
JP6828429B2 (ja) * 2016-12-27 2021-02-10 株式会社デンソー 車両用衝突回避支援装置および車両の衝突回避支援方法
US10380438B2 (en) * 2017-03-06 2019-08-13 Honda Motor Co., Ltd. System and method for vehicle control based on red color and green color detection
US10614326B2 (en) * 2017-03-06 2020-04-07 Honda Motor Co., Ltd. System and method for vehicle control based on object and color detection
CN107507440B (zh) * 2017-09-25 2019-06-07 爱易成技术(天津)有限公司 一种交通信号灯的道路投影方法及***
JP7067067B2 (ja) * 2018-01-11 2022-05-16 トヨタ自動車株式会社 信号機認識装置、及び自動運転システム
US11334753B2 (en) 2018-04-30 2022-05-17 Uatc, Llc Traffic signal state classification for autonomous vehicles
CN109035831B (zh) 2018-09-07 2021-07-27 百度在线网络技术(北京)有限公司 交通指示灯的识别方法、装置、设备、存储介质及车辆
JP7268497B2 (ja) * 2019-06-24 2023-05-08 トヨタ自動車株式会社 信号認識システム
JP7088135B2 (ja) * 2019-07-23 2022-06-21 トヨタ自動車株式会社 信号表示推定システム
CN110473414B (zh) * 2019-08-20 2021-03-23 北京经纬恒润科技股份有限公司 一种车辆行驶路径确定方法、装置及***
KR20210073281A (ko) * 2019-12-10 2021-06-18 삼성전자주식회사 운동 정보 추정 방법 및 장치
US11295147B1 (en) * 2020-11-27 2022-04-05 HCL Technologies Italy S.p.A. Method and system for detecting and managing obfuscation of a road sign
FR3142983A1 (fr) 2022-12-08 2024-06-14 Alstom Holdings Procédé pour déterminer la position d’un véhicule ferroviaire

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007257299A (ja) * 2006-03-23 2007-10-04 Honda Motor Co Ltd 車外認識装置
WO2008038370A1 (en) * 2006-09-28 2008-04-03 Pioneer Corporation Traffic information detector, traffic information detecting method, traffic information detecting program, and recording medium
JP2010107384A (ja) * 2008-10-30 2010-05-13 Aisin Aw Co Ltd 安全運転評価システム及び安全運転評価プログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4577655B2 (ja) 2005-12-27 2010-11-10 アイシン・エィ・ダブリュ株式会社 地物認識装置
JP4724043B2 (ja) * 2006-05-17 2011-07-13 トヨタ自動車株式会社 対象物認識装置
JP2007320458A (ja) 2006-06-01 2007-12-13 Toyota Motor Corp 車間距離制御装置
KR100873474B1 (ko) * 2006-12-04 2008-12-15 한국전자통신연구원 영상상의 교통 시설물의 픽셀 사이즈 및 위치를 이용한차량 위치 추정 장치 및 그 방법
JP2008149786A (ja) * 2006-12-14 2008-07-03 Mazda Motor Corp 車両用運転支援装置及び車両用運転支援システム
JP4915281B2 (ja) * 2007-05-24 2012-04-11 アイシン・エィ・ダブリュ株式会社 信号機検出装置、信号機検出方法及びプログラム
JP5361541B2 (ja) * 2009-06-02 2013-12-04 三菱電機株式会社 標識認識装置
RU2469410C1 (ru) * 2011-04-04 2012-12-10 Общество с ограниченной ответственностью "СПбГАСУ-ТУДД" Система управления движением на многополосных перекрестках
RU116258U1 (ru) * 2011-11-15 2012-05-20 Игорь Юрьевич Мацур Система регулирования движения транспортных средств
JP5922947B2 (ja) 2012-02-22 2016-05-24 富士重工業株式会社 車外環境認識装置および車外環境認識方法
JP6237214B2 (ja) * 2013-12-24 2017-11-29 株式会社デンソー 逆走検出装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007257299A (ja) * 2006-03-23 2007-10-04 Honda Motor Co Ltd 車外認識装置
WO2008038370A1 (en) * 2006-09-28 2008-04-03 Pioneer Corporation Traffic information detector, traffic information detecting method, traffic information detecting program, and recording medium
JP2010107384A (ja) * 2008-10-30 2010-05-13 Aisin Aw Co Ltd 安全運転評価システム及び安全運転評価プログラム

Also Published As

Publication number Publication date
MX352401B (es) 2017-11-23
US9779315B2 (en) 2017-10-03
BR112016027098A2 (ja) 2017-08-15
BR112016027098B1 (pt) 2022-09-13
MX2016014885A (es) 2017-02-28
CN106463051B (zh) 2020-03-03
EP3147884A1 (en) 2017-03-29
RU2639851C1 (ru) 2017-12-22
WO2015177864A1 (ja) 2015-11-26
JP6337961B2 (ja) 2018-06-06
CN106463051A (zh) 2017-02-22
US20170103275A1 (en) 2017-04-13
EP3147884A4 (en) 2017-12-06
EP3147884B1 (en) 2019-12-11

Similar Documents

Publication Publication Date Title
JP6337961B2 (ja) 信号機認識装置及び信号機認識方法
US11669102B2 (en) Navigating a vehicle based on a detected barrier
US10926763B2 (en) Recognition and prediction of lane constraints and construction areas in navigation
US9389093B2 (en) Traffic signal recognition apparatus
JP6325806B2 (ja) 車両位置推定システム
US9569673B2 (en) Method and device for detecting a position of a vehicle on a lane
JP2021517680A (ja) ナビゲーションパラメータを決定するためのシステム及び方法
US10127460B2 (en) Lane boundary line information acquiring device
US20150073705A1 (en) Vehicle environment recognition apparatus
JP2019099138A (ja) 車線維持補助方法及び装置
JP6450294B2 (ja) 物体検出装置、物体検出方法、及びプログラム
JP6299517B2 (ja) 信号機認識装置及び信号機認識方法
US10679077B2 (en) Road marking recognition device
WO2014084121A1 (ja) 車載用制御装置
JP2009266003A (ja) 物体認識装置、および物体認識方法
JP6365103B2 (ja) 信号機検出装置及び信号機検出方法
US11676403B2 (en) Combining visible light camera and thermal camera information
JP2018048949A (ja) 物体識別装置
WO2021116752A1 (en) Systems and methods for selectively decelerating a vehicle
JP2016024572A (ja) 信号機検出装置及び信号機検出方法
JP2020077293A (ja) 区画線検出装置及び区画線検出方法
JP2010072947A (ja) 障害物検出装置
JP6756507B2 (ja) 環境認識装置
US20240017748A1 (en) Device, method, and computer program for lane determination
JP2022146384A (ja) 物体検出装置

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20161111

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180410

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180423

R151 Written notification of patent or utility model registration

Ref document number: 6337961

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151