JP2018018234A - 人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム - Google Patents

人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム Download PDF

Info

Publication number
JP2018018234A
JP2018018234A JP2016146940A JP2016146940A JP2018018234A JP 2018018234 A JP2018018234 A JP 2018018234A JP 2016146940 A JP2016146940 A JP 2016146940A JP 2016146940 A JP2016146940 A JP 2016146940A JP 2018018234 A JP2018018234 A JP 2018018234A
Authority
JP
Japan
Prior art keywords
person
contact position
head
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016146940A
Other languages
English (en)
Other versions
JP6627680B2 (ja
Inventor
成俊 鴇田
Narutoshi Tokita
成俊 鴇田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2016146940A priority Critical patent/JP6627680B2/ja
Priority to PCT/JP2017/006539 priority patent/WO2018020715A1/ja
Priority to EP17833726.7A priority patent/EP3410420B1/en
Publication of JP2018018234A publication Critical patent/JP2018018234A/ja
Priority to US15/968,572 priority patent/US10521679B2/en
Application granted granted Critical
Publication of JP6627680B2 publication Critical patent/JP6627680B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/245Classification techniques relating to the decision surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

【課題】検出対象である歩行者などの足元に遮蔽物があり、歩行者などの接地位置を正しく特定できない場合であっても、誤って特定した接地位置を修正する。
【解決手段】人物検出装置20は、撮像装置10が撮影した画像を取得する画像取得部21と、画像から人物を検出する人物検出部22と、人物の下端部に基づいて人物の接地位置を特定する接地位置特定部23と、人物の頭部を抽出する頭部抽出部24と、人物の縦方向の大きさ及び抽出した頭部の縦方向の大きさに基づいて頭身を算出する頭身算出部25と、接地位置又は頭身に基づいて、接地位置の修正の有無を判断する修正判断部26とを備え、接地位置特定部23は、頭部の縦方向の大きさ及び頭身に基づいて、特定した接地位置を修正する。
【選択図】図1

Description

本発明は人物検出装置、人物検出システム、人物検出方法及び人物検出プログラムに関する。
車載カメラで撮像した画像を認識して、車両の周囲の人物(歩行者、サイクリストなど)を検出する技術が開発されている。例えば、特許文献1には、運転支援装置において、車両の周囲を撮像した画像から道路領域及び歩行者候補を検出し、歩行者候補の下部が道路領域に接しているときに、検出した歩行者候補を歩行者であると判定することが記載されている。
特開2008−065756号公報
特許文献1記載の運転支援装置では、歩行者候補の手前に歩行者候補の一部分を遮蔽する遮蔽物があって、当該遮蔽物が道路領域に接していると、当該遮蔽物を含めて歩行者と判定してしまうことがある。その場合に、歩行者の接地位置を正しく特定することができず、車両から当該歩行者までの距離を誤って算出してしまう。
本発明は、このような問題を解決するためになされたものであり、検出対象である歩行者などの手前に遮蔽物があり、歩行者などの接地位置を正しく特定できない場合であっても、誤って特定した接地位置を修正することができる人物検出装置、人物検出システム、人物検出方法及び人物検出プログラムを提供することを目的とする。
そこで、本発明は、撮像装置が撮影した画像を取得する画像取得部と、取得した画像から人物を検出する人物検出部と、検出した人物の下端部に基づいて人物の接地位置を特定する接地位置特定部と、検出した人物の特徴部分を抽出する特徴部分抽出部と、検出した人物の縦方向の大きさ及び抽出した特徴部分の縦方向の大きさに基づいて特徴部分の比率を算出する比率算出部と、特定した接地位置又は算出した比率に基づいて、特定した接地位置の修正の有無を判断する修正判断部とを備え、接地位置特定部は、特徴部分の縦方向の大きさ及び比率に基づいて、特定した接地位置を修正する人物検出装置を提供する。
また、本発明は、撮像装置が撮影した画像を取得するステップと、取得した画像から人物を検出するステップと、検出した人物の下端部に基づいて人物の接地位置を特定するステップと、検出した人物の特徴部分を抽出するステップと、検出した人物の縦方向の大きさ及び抽出した特徴部分の縦方向の大きさに基づいて特徴部分の比率を算出するステップと、特定した接地位置又は算出した比率に基づいて、特定した接地位置の修正の有無を判断するステップと、特徴部分の縦方向の大きさ及び比率に基づいて、特定した接地位置を修正するステップとを有する人物検出方法を提供する。
本発明により、誤って特定した歩行者などの接地位置を修正することができる人物検出装置、人物検出システム、人物検出方法及び人物検出プログラムを提供することを提供することができる。
実施の形態に係る人物検出システム1の概略構成を示すブロック図である。 実施の形態に係る人物検出方法の処理手順を示すフローチャートである。 実施の形態に係る検出対象画像及び人物検出結果を示す図である。 実施の形態に係る頭身算出処理を説明するための図である。 実施の形態に係る接地位置の誤特定を説明するための図である。 実施の形態に係る接地位置の修正判断を説明するための図である。 実施の形態に係る接地位置の修正判断を説明するための図である。 実施の形態に係る接地位置の修正判断を説明するため別の図である。
以下、図面を参照して、本実施の形態に係る人物検出システム及び人物検出方法について説明する。
まず、本実施の形態に係る人物検出システムの構成について説明する。
図1は、本実施の形態に係る人物検出システム1の概略構成を示すブロック図である。
人物検出システム1は、主に車両に搭載されるシステムであり、前方カメラ10、人物検出装置20、記憶装置30、表示装置40などを備える。
前方カメラ10は、車両前方を撮像できるように車両に設置した単眼カメラであり、車両前方の可視画像を連続して撮像し、当該画像を人物検出装置20に出力する。
人物検出装置20は、前方カメラ10が撮像した画像と、記憶装置30に記憶した各種の人物検出用辞書とを用いて、歩行者、サイクリストなどの人物を検出し、必要に応じて、警告信号を表示装置40に出力する。このために、人物検出装置20は、画像取得部21、人物検出部22、接地位置特定部23、頭部抽出部24、頭身算出部25、修正判断部26、距離算出部27、人物追跡部28、表示警告部29などを有する。
画像取得部21は、前方カメラ10が撮像した画像を入力し、各種の画像処理を行い、人物検出部22に出力する。
人物検出部22は、記憶装置30に記憶した歩行者辞書、サイクリスト辞書などの人物検出用辞書を用いて、画像から人物を検出し、検出結果を接地位置特定部23及び頭部抽出部24に出力する。人物検出部22は、例えば、前方カメラ10が撮像した画像のフレーム毎又は数フレーム毎に人物を検出する。
接地位置特定部23は、人物検出部22が検出した人物の下端部を当該人物の接地位置として特定し、特定結果を修正判断部26に出力する。
また、接地位置特定部23は、修正判断部26が接地位置の特定結果を修正すると判断したときに、頭部抽出部24が抽出した当該人物の頭部の位置及び縦方向の大きさ、頭身算出部25が算出した頭身の値などに基づいて、人物検出部22が検出した当該人物の下端部を変更し、接地位置を修正する。
頭部抽出部(特徴部分抽出部)24は、記憶装置30に記憶した頭部辞書を用いて、人物検出部22が検出した人物の画像領域から当該人物の頭部を抽出し、抽出結果を頭身算出部25に出力する。
頭身算出部(比率算出部)25は、人物検出部22が検出した人物の縦方向の大きさ、及び、頭部抽出部24が抽出した当該人物の頭部の縦方向の大きさから、頭身を算出し、算出結果を修正判断部26に出力する。
修正判断部26は、接地位置特定部23が特定した接地位置、又は、頭身算出部25が算出した頭身に基づいて、接地位置特定部23が特定した接地位置を修正するか、しないかを判断し、判断結果を接地位置特定部23又は距離算出部27に出力する。
距離算出部27は、接地位置特定部23が特定又は修正した接地位置と、自車両(又は、前方カメラ10)との距離を算出し、算出結果を人物追跡部28及び表示警告部29に出力する。
人物追跡部28は、人物検出部22が検出した各人物に個別のIDを付与してトラッキングし、各人物の接地位置や頭部位置などの位置情報、頭身情報などを修正判断部26に出力する。
表示警告部29は、画像取得部21が取得した画像、人物検出部22が検出した人物の検出矩形などの各種情報を表示装置40に出力する。また、表示警告部29は、自車両と検出した人物との距離が所定値よりも小さくなったときに、警告信号を表示装置40に出力する。
記憶装置30は、人物検出部22が歩行者、サイクリスト、これらの人達の頭部などを検出するために用いる歩行者辞書、サイクリスト辞書、頭部辞書などの人物検出用辞書を記憶する。これらの人物検出用辞書は、歩行者、サイクリスト、人物の頭部などをいろいろな角度から撮像した画像又はそれらの切り抜き画像である正解画像と、歩行者などが撮像されていない不正解画像とを、それらの特徴量を機械学習させて生成する。例えば、歩行者辞書を生成するときには、歩行者の頭頂からつま先(又は、踵)までが写った画像を正解画像とし、サイクリスト辞書を生成するときは、サイクリストの頭頂から車輪の接地部分を含む自転車の全体(又は、一部分)が写った画像を正解画像とする。また、頭部辞書を生成するときは、人の頭部が写った画像を正解画像とする。
表示装置40は、表示警告部29が出力する各種の信号に従って画像、音声などを出力する。表示装置40には、カーナビゲーションのモニタ、HUD(ヘッドアップディスプレイ)などを用いることができる。
なお、人物検出装置20が実現する各構成要素は、例えば、コンピュータである人物検出装置20が備える演算装置(図示せず)の制御によって、プログラムを実行させることによって実現することができる。より具体的には、人物検出装置20は、記憶部(図示せず)に格納されたプログラムを主記憶装置(図示せず)にロードし、演算装置の制御によってプログラムを実行して実現する。
また、各構成要素は、プログラムによるソフトウェアで実現することに限ることなく、ハードウェア、ファームウェア及びソフトウェアのうちのいずれかの組み合わせ等により実現しても良い。
上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、人物検出装置20に供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。
非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えば、フレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば、光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。
また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によって人物検出装置20に供給されても良い。一時的なコンピュータ可読媒体の例は、電気信号、光信号及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバなどの有線通信路、又は、無線通信路を介して、プログラムを人物検出装置20に供給できる。
次に、本実施の形態に係る人物検出システム1の動作、すなわち、人物検出方法について具体的に説明する。
図2は、本実施の形態に係る人物検出方法の処理手順を示すフローチャートである。
人物検出システム1が動作を開始すると、前方カメラ10が車両の進行方向の画像を撮像し、画像取得部21が当該画像を検出対象画像として取得する(ステップS10)。
次に、人物検出部22が、記憶装置30に記憶した歩行者辞書、サイクリスト辞書などを用いて、検出対象画像から人物の検出を行う(ステップS20)。
図3は、本実施の形態に係る検出対象画像及び人物検出結果を示す図である。
検出対象画像の画像中央には歩行者101が写り、画像左下には車止めポール102が写り、画像下半分の歩行者の背後には低い柵103が写っている。歩行者101を前方カメラ10から遮蔽するもの(遮蔽物)はない。このため、人物検出部22が歩行者101を検出した結果を示す検出矩形111は、歩行者101の頭頂から脚の下端部までを含むように歩行者101を囲んでおり、歩行者101を正しく検出できていることがわかる。
人物の検出は、例えば、Haar‐like特徴量、HOG(Histogram of Gradients)特徴量、LBP(Local Binary Patterns)特徴量などを用いて、人物検出用辞書と検出対象画像との間の類似度を算出することにより行う。
次に、接地位置特定部23が、検出した人物の接地位置を特定する(ステップS30)。接地位置特定部23は、例えば、図3に示した検出矩形111の下端部(下辺)を接地位置として特定する。
また、頭部抽出部24が、検出対象画像から、検出した人物の頭部を抽出する(ステップS40)。頭部抽出部24は、例えば、図3に示した検出矩形111の領域内の上側において、頭部辞書を用いて、人物の頭部を抽出する。
そして、頭身算出部25が、検出した人物の頭身を算出する(ステップS50)。
図4は、本実施の形態に係る頭身算出処理を説明するための図である。図3に示す検出対象画像に対して、歩行者101の検出矩形111及び頭部の検出矩形112をそれぞれ示している。
頭身算出部25は、歩行者101の画像上の縦方向の大きさ(例えば、検出矩形111の縦方向の長さ)H、及び、歩行者101の頭部の画像上の縦方向の大きさ(例えば、検出矩形112の縦方向の長さ)Aから、頭身(H/A)を算出する。
なお、ステップS30と、ステップS40〜ステップS50とは並行して処理して良いし、ステップS30又はステップS40〜ステップS50の一方を先に処理しても良い。
次に、修正判断部26が、ステップS30で特定した接地位置を修正するか、しないか、すなわち、修正の有無を判断する(ステップS60)。
修正判断部26は、例えば、ステップS50で算出した頭身が異常値(例えば、3頭身以下、又は、10頭身以上)であった場合に、当該画像の接地位置を修正すると判断する(ステップS60のYes)。
この場合には、接地位置特定部23が、ステップS40で抽出した頭部の位置、大きさと、平均的な頭身の値(7〜8頭身)とを用いて、ステップS20で検出した人物の頭身の値が平均的な頭身の値となるように、ステップS20で設定した検出矩形を変更し、ステップS30で特定した接地位置を修正する(ステップS70)。接地位置特定部23は検出矩形を変更しないで、接地位置(又は、接地位置に係る情報)だけを修正しても良い。
また、修正判断部26は、人物追跡部28がIDを付与して追跡していた人物の接地位置が、以前のフレームの接地位置に基づいて推測した位置から大きく外れた場合や、人物追跡部28が追跡していた人物の頭身が、以前のフレームで算出した値とは大きく異なった場合のように、複数の画像中のある画像において、特定した接地位置又は算出した頭身に不規則な変動(変化)があった場合にも、不規則な変動があった画像について、その接地位置を修正すると判断する。例えば、人物追跡部28が追跡していた人物の頭身の値が以前のフレームでは7頭身程度で推移していたのが、あるフレームで10頭身と算出されたときに、修正判断部26は、当該フレームで特定した接地位置を修正すると判断する。
この場合にも、接地位置特定部23が、ステップS40で抽出した頭部の位置、大きさと、以前のフレームで算出した頭身の値に基づいて、検出した人物の頭身の値が以前のフレームで算出した値と同等となるように、検出矩形を変更し、接地位置を修正する。また、接地位置特定部23は、特定した接地位置を以前のフレームの接地位置から推測した位置に修正しても良い。
図5は、本実施の形態に係る接地位置の誤特定を説明するための図である。
検出対象画像の画像中央には歩行者201が写り、画像下半分の中央には歩行者201の脚部を遮蔽するように車止めポール(遮蔽物)202が写っている。そして、歩行者の脚の特徴と車止めポール202の特徴とが似ているため、人物検出部22が歩行者201を検出した結果を示す検出矩形211は、歩行者201の頭頂から車止めポール202の下端部までを含むように歩行者201及び車止めポール202を囲んで大きくなっており、歩行者201を正しく検出できておらず、車止めポール202の下端部を歩行者201の接地位置として誤特定している。頭身算出部25が算出した頭身の値も以前のフレームで算出した値から大きく変動している。
この場合には、上記したように、接地位置特定部23が、抽出した頭部の縦方向の大きさと、以前のフレームで算出した頭身の値とから検出矩形を変更し、接地位置を修正すれば良く、上記した接地位置修正処理(ステップS40〜ステップS70)が有効に機能する。
なお、修正判断部26は、接地位置を修正するか、しないかを判断するときに、記憶装置30に記憶する人物の上半身辞書などを用いて人物を改めて検出し、接地位置又は頭身の不規則な変動が人物の下半身の隠れによるものかどうかを判断しても良い。
また、修正判断部26は、ステップS20で人物は検出できたけれども、ステップS40で人物の頭部を抽出できなかったときに、当該フレームの接地位置を修正すると判断しても良い。
この場合には、接地位置特定部23が、以前のフレームでの頭部の大きさ、位置から現在のフレームでの頭部の大きさ、位置を推測し、頭身の情報を用いて現在のフレームの人物の検出矩形を変更し、特定した接地位置を修正する。
また、修正判断部26は、人物追跡部28が追跡していた人物の頭部の位置(例えば、頭部の中心)が、以前のフレームの頭部の位置に基づいて推測した位置から大きく外れた場合、すなわち、複数の画像において、抽出した頭部の位置に不規則な変動がある場合に、特定した接地位置を修正しないと判断しても良い。または、修正判断部26は、抽出した頭部の位置に不規則な変動がない場合に、特定した接地位置を修正すると判断しても良い。
例えば、追跡していた人物の頭部の位置に大きな変化があったときは、当該人物がかがんだり、しゃがんだりしている可能性がある。このような場合に算出した頭身の値は、通常とは異なる値となっていても、その値自体に誤りはなく、また、特定した接地位置にも誤りはない。このため、特定した接地位置を修正する必要はない。
図6、図7は、本実施の形態に係る接地位置の修正判断を説明するための図である。図6、図7はともに歩行者301又は歩行者401が右奥の位置から左手前の位置へ移動しているシーンの、各時刻tでの人物及び頭部の検出結果(抽出結果)を示している。
図6に示すシーンでは、歩行者301について、時刻t1では人物及び頭部の検出矩形311、312が示され、時刻t2でも同じく検出矩形321、322が示されて、それらの検出矩形の位置、大きさ及び算出した頭身に問題がないことから、修正判断部26は、時刻t1、t2では人物及び頭部を正しく検出又は抽出しており、接地位置を修正しないと判断する。
しかしながら、時刻t3では、歩行者301の手前にガードレール302があって、人物検出部22はガードレール302の支柱を含めて歩行者301であると誤検出している。このために、時刻t1、t2のときと比べて、検出矩形331は縦に長くなり、算出した頭身も大きくなっている。このような場合に、修正判断部26は、頭身の値に不規則な変動があり、かつ、時刻t3での頭部の位置が時刻t1、t2の頭部の位置から推測した位置にあるので、接地位置を修正すると判断して、時刻t3における検出矩形331を変更する。
また、図7に示すシーンでも、時刻t11、t12では、歩行者401及びその頭部を正しく検出又は抽出できており、修正判断部26は接地位置を修正しないと判断する。
しかしながら、時刻t13では、歩行者401がしゃがんでおり、時刻t11、t12のときと比べて、検出矩形431が縦に短くなり、算出した頭身も小さくなっている。このような場合に、修正判断部26は、頭身の値に不規則な変動があるが、時刻t13での頭部の位置が時刻t11、t12の頭部の位置から推測される位置にないので、時刻t13では検出矩形431を変更しない、接地位置も修正しないと判断する。
また、修正判断部26は、歩行者の接地位置が短時間に上下の移動を繰り返したり、歩行者の頭身が短時間に大小の変動を繰り返したりしたときに、当該人物は歩行者ではなく、サイクリストであると判断して、人物検出部22にサイクリスト辞書を用いて人物の検出をやり直させても良い。
例えば、サイクリストをその後方から撮像したときに、自転車を検出できずに誤って歩行者として検出してしまうことがある。このような場合であっても、接地位置や頭身の短時間の繰り返し変化を確認したときに、当該人物をサイクリストとして改めて検出して、自転車のタイヤの接地部分を正しい接地位置として特定することができる。
図8は、本実施の形態に係る接地位置の修正判断を説明するため別の図である。自転車に乗っている人(サイクリスト)501を後から撮像したときの人物及び頭部の検出(抽出)結果を示している。
時刻t21ではサイクリスト501のペダルをこぐ右足が伸びて、検出矩形511は縦に長くなっている。また、時刻t22ではサイクリスト501の左右の足が同じ高さになって、検出矩形521は縦に短くなっている。そして、検出矩形は短時間に伸び縮みを繰り返し、検出矩形の下端である接地位置も短時間に上下を繰り返している。このような場合に、修正判断部26は、検出した人物501は歩行者ではなく、サイクリストであるとして、人物検出部22にサイクリスト辞書を用いて人物を改めて検出させて、接地位置をタイヤの接地部分に修正する。
なお、修正判断部26は、特定した接地位置を修正しないと判断したとき(ステップS60のNo)は、ステップS80に進む。
次に、距離算出部27が、特定又は修正した接地位置に基づいて、検出した人物と自車両との距離を算出する(ステップS80)。距離算出部27は、前方カメラ10を車両に設置したときの高さ、角度などに基づいて作成した、撮像画像中の位置(y座標)と自車両からの距離との対応関係を示すテーブルを用いて、検出した人物と自車両との距離を算出することができる。
次に、表示警告部29が、ステップS10で取得した検出対象画像、ステップS20で検出した人物の検出矩形、ステップS40で抽出した頭部の検出矩形、ステップS80で算出した自車両から当該人物までの距離などを表示装置40に表示させる。検出矩形に代えて、又は、検出矩形に加えて接地位置を表示装置40に表示させても良い。
また、表示警告部29は、当該人物までの距離が所定値よりも小さく、当該人物と衝突する可能性があるときに、当該人物が接近したことを運転者に警告する画像及び音声を表示装置40に出力させる(ステップS90)。
次に、人物追跡部28が、各フレームで検出した人物の位置、特徴量などを用いて、検出した人物毎にIDを付してトラッキングする(ステップS100)。トラッキングには、パーティクルフィルタ法、MeanShift法などを用いる。
また、人物追跡部28は、特定した接地位置(座標)や算出した頭身の値などの履歴情報を含むトラッキングの情報を修正判断部26、接地位置特定部23などに出力する。これらの情報は、修正判断部26が接地位置の修正を判断するときや、接地位置特定部23が接地位置を修正するときに用いる。
また、ステップS90と、ステップS100とは並行して処理しても良いし、ステップS90又はステップS100の一方を先に処理しても良い。
なお、本実施の形態に係る人物検出システム1又は人物検出方法では、接地位置を修正するときに、検出した人物からその頭部を抽出し、頭身を算出して用いたが、検出した人物の画像から安定して抽出できる、一定の形状、鮮明な彩色などを有する特徴的な領域(特徴部分)を抽出し、検出した人物の縦方向の大きさと特徴部分の縦方向の大きさとの比率を算出して接地位置を修正しても良い。特徴部分として、例えば、腕、脚、上着、傘、カバンなどを抽出すれば良い。
また、接地位置を修正するときに、検出した人物の縦方向の大きさとの間で比率を算出できるような、特徴的な大きさを示す特徴量を画像から直接算出して用いても良い。この場合の特徴量としては、検出した人物の横幅又は肩幅などを用いることができる。
また、本実施の形態に係る人物検出システム1又は人物検出方法では、前方カメラ10として遠赤外線カメラを用いることもできる。遠赤外線カメラは被写体が発する熱を検知し、それらの温度差を輝度差に変換することで、映像化している。遠赤外線画像を検出対象画像として用いるときは、温度が高い人の領域の輝度値が大きくなり、人と比べて温度が低い周辺領域の輝度が小さくなることを利用する。
例えば、図5に示すシーンを撮像した遠赤外線画像では、車止めポールを含む周辺慮域の輝度が小さくなり、人物の検出矩形の下端は車止めポールに隠されていないところまでで縦に短くなり、頭身を算出すると3〜4頭身となる。このような場合であっても、本実施の形態に係る接地位置修正処理であれば、抽出した頭部の位置と大きさとに基づいて、検出矩形を変更して、接地位置を修正することができる。可視画像と遠赤外線画像とを撮影状況や人物の検出状況に応じて切り換えても良い。
また、本実施の形態に係る人物検出システム1又は人物検出方法では、人物を検出するときに、歩行者、サイクリストなどが写った画像を機械学習して作成した歩行者辞書、サイクリスト辞書などを用いたが、歩行者、サイクリストなどのテンプレート画像を用いたパターンマッチングなどを行って人物を検出しても良い。
また、本実施の形態に係る人物検出システム1は車両に搭載するものとして説明してきたが、人物検出システム1は車両に固定しても良いし、可搬可能に車両に設置しても良い。また、ヘッドマウントディスプレイ(HMD、Head Mounted Display)などのように、人物が装着するように構成しても良い。
また、本実施の形態に係る人物検出システム1の各構成について、複数の装置、例えば、人物検出装置20及び記憶装置30を一体化して、記憶部を備えた人物検出装置としても良い。また、人物検出システム1の全ての構成を一体化して、前方撮像部、記憶部、表示部を備えた人物検出装置としても良い。もちろん、人物検出システム1を、距離算出システム、人物追跡システム、衝突防止システム、更に、距離算出方法、距離算出プログラムなどとして構成しても良い。
以上、説明したように、本実施の形態に係る人物検出装置20は、撮像装置10が撮影した画像を取得する画像取得部21と、取得した画像から人物を検出する人物検出部22と、検出した人物の下端部に基づいて人物の接地位置を特定する接地位置特定部23と、検出した人物の特徴部分を抽出する特徴部分抽出部24と、検出した人物の縦方向の大きさ及び抽出した特徴部分の縦方向の大きさに基づいて特徴部分の比率を算出する比率算出部25と、特定した接地位置又は算出した比率に基づいて、特定した接地位置の修正の有無を判断する修正判断部26とを備え、接地位置特定部23は、特徴部分の縦方向の大きさ及び比率に基づいて、特定した接地位置を修正するものである。
このような構成により、誤って特定した歩行者などの接地位置を修正することができる。
また、本実施の形態に係る人物検出装置20は、修正判断部26は、画像取得部21が取得した複数の画像において、特定した接地位置又は算出した比率に不規則な変動があるときに、特定した接地位置を修正すると判断することも可能である。
このような構成により、履歴情報に基づいて、修正の有無を判断することができる。
また、本実施の形態に係る人物検出装置20は、修正判断部26は、複数の画像において、抽出した特徴部分の位置に不規則な変動がないときに、特定した接地位置を修正すると判断することも可能である。
このような構成により、修正の有無をより正しく判断することができる。
また、本実施の形態に係る人物検出装置20は、画像取得部21が取得した複数の画像において、特定した接地位置が繰り返し上下に変動し、又は、算出した比率が繰り返し大小に変動したときに、人物を改めて検出すると判断することも可能である。
このような構成により、歩行者とサイクリストなどとを判別することができる。
また、本実施の形態に係る人物検出装置20は、特徴部分抽出部24は、特徴部分として検出した人物の頭部を抽出することも可能である。
このような構成により、抽出しやすく、歩行中に動きの小さい頭部を特徴部分とすることができる。
また、本実施の形態に係る人物検出システム1は、人物検出装置20と、撮像装置10、又は、画像を表示する表示装置40の少なくとも一方とを備えることも可能である。
また、本実施の形態に係る人物検出方法は、撮像装置が撮影した画像を取得するステップS10と、取得した画像から人物を検出するステップS20と、検出した人物の下端部に基づいて人物の接地位置を特定するステップS30と、検出した人物の特徴部分を抽出するステップS40と、検出した人物の縦方向の大きさ及び抽出した特徴部分の縦方向の大きさに基づいて特徴部分の比率を算出するステップS50と、特定した接地位置又は算出した比率に基づいて、特定した接地位置の修正の有無を判断するステップS60と、特徴部分の縦方向の大きさ及び比率に基づいて、特定した接地位置を修正するステップS70とを有するものである。
また、本実施の形態に係る人物検出プログラムは、コンピュータに、撮像装置が撮影した画像を取得する手順S10と、取得した画像から人物を検出する手順S20と、検出した人物の下端部に基づいて人物の接地位置を特定する手順S30と、検出した人物の特徴部分を抽出する手順S40と、検出した人物の縦方向の大きさ及び抽出した特徴部分の縦方向の大きさに基づいて特徴部分の比率を算出する手順S50と、特定した接地位置又は算出した比率に基づいて、特定した接地位置の修正の有無を判断する手順S60と、特徴部分の縦方向の大きさ及び比率に基づいて、特定した接地位置を修正する手順S70とを実行させるためのものである。
1 人物検出システム
10 前方カメラ
20 人物検出装置
21 画像取得部
22 人物検出部
23 接地位置特定部
24 頭部抽出部(特徴部分抽出部)
25 頭身算出部(比率算出部)
26 修正判断部
27 距離算出部
28 人物追跡部
29 表示警告部
30 記憶装置
40 表示装置

Claims (8)

  1. 撮像装置が撮影した画像を取得する画像取得部と、
    前記取得した画像から人物を検出する人物検出部と、
    前記検出した人物の下端部に基づいて前記人物の接地位置を特定する接地位置特定部と、
    前記検出した人物の特徴部分を抽出する特徴部分抽出部と、
    前記検出した人物の縦方向の大きさ及び前記抽出した特徴部分の縦方向の大きさに基づいて前記特徴部分の比率を算出する比率算出部と、
    前記特定した接地位置又は前記算出した比率に基づいて、前記特定した接地位置の修正の有無を判断する修正判断部と
    を備え、
    前記接地位置特定部は、前記特徴部分の縦方向の大きさ及び前記比率に基づいて、前記特定した接地位置を修正する
    人物検出装置。
  2. 前記修正判断部は、前記画像取得部が取得した複数の画像において、前記特定した接地位置又は前記算出した比率に不規則な変動があるときに、前記特定した接地位置を修正すると判断する
    請求項1記載の人物検出装置。
  3. 前記修正判断部は、前記画像取得部が取得した複数の画像において、前記抽出した特徴部分の位置に不規則な変動がないときに、前記特定した接地位置を修正すると判断する
    請求項1又は請求項2記載の人物検出装置。
  4. 前記修正判断部は、前記画像取得部が取得した複数の画像において、前記特定した接地位置が繰り返し上下変動し、又は、前記算出した比率が繰り返し大小変動したときに、人物を改めて検出すると判断する
    請求項1乃至請求項3のいずれか1項記載の人物検出装置。
  5. 前記特徴部分抽出部は、前記特徴部分として前記検出した人物の頭部を抽出する
    請求項1乃至請求項4のいずれか1項記載の人物検出装置。
  6. 請求項1乃至請求項5のいずれか1項記載の人物検出装置と、
    前記撮像装置、又は、前記画像を表示する表示装置の少なくとも一方と
    を備える人物検出システム。
  7. 撮像装置が撮影した画像を取得するステップと、
    前記取得した画像から人物を検出するステップと、
    前記検出した人物の下端部に基づいて前記人物の接地位置を特定するステップと、
    前記検出した人物の特徴部分を抽出するステップと、
    前記検出した人物の縦方向の大きさ及び前記抽出した特徴部分の縦方向の大きさに基づいて前記特徴部分の比率を算出するステップと、
    前記特定した接地位置又は前記算出した比率に基づいて、前記特定した接地位置の修正の有無を判断するステップと、
    前記特徴部分の縦方向の大きさ及び前記比率に基づいて、前記特定した接地位置を修正するステップと
    を有する人物検出方法。
  8. コンピュータに、
    撮像装置が撮影した画像を取得する手順と、
    前記取得した画像から人物を検出する手順と、
    前記検出した人物の下端部に基づいて前記人物の接地位置を特定する手順と、
    前記検出した人物の特徴部分を抽出する手順と、
    前記検出した人物の縦方向の大きさ及び前記抽出した特徴部分の縦方向の大きさに基づいて前記特徴部分の比率を算出する手順と、
    前記特定した接地位置又は前記算出した比率に基づいて、前記特定した接地位置の修正の有無を判断する手順と、
    前記特徴部分の縦方向の大きさ及び前記比率に基づいて、前記特定した接地位置を修正する手順と
    を実行させるための人物検出プログラム。
JP2016146940A 2016-07-27 2016-07-27 人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム Active JP6627680B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016146940A JP6627680B2 (ja) 2016-07-27 2016-07-27 人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム
PCT/JP2017/006539 WO2018020715A1 (ja) 2016-07-27 2017-02-22 人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム
EP17833726.7A EP3410420B1 (en) 2016-07-27 2017-02-22 Person detection device, person detection method, and person detection program
US15/968,572 US10521679B2 (en) 2016-07-27 2018-05-01 Human detection device, human detection system, human detection method, and human detection program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016146940A JP6627680B2 (ja) 2016-07-27 2016-07-27 人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム

Publications (2)

Publication Number Publication Date
JP2018018234A true JP2018018234A (ja) 2018-02-01
JP6627680B2 JP6627680B2 (ja) 2020-01-08

Family

ID=61017026

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016146940A Active JP6627680B2 (ja) 2016-07-27 2016-07-27 人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム

Country Status (4)

Country Link
US (1) US10521679B2 (ja)
EP (1) EP3410420B1 (ja)
JP (1) JP6627680B2 (ja)
WO (1) WO2018020715A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020026981A (ja) * 2018-08-09 2020-02-20 株式会社Ihi 物体検出装置及び物体検出方法
JP7512729B2 (ja) 2020-07-16 2024-07-09 株式会社Jvcケンウッド 画像認識装置および画像認識方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017119394A1 (de) * 2017-08-28 2019-02-28 HELLA GmbH & Co. KGaA Verfahren zur Ansteuerung mindestens eines Lichtmoduls einer Leuchteinheit eines Fahrzeugs, Leuchteinheit, Computerprogrammprodukt und computerlesbares Medium
CN114364591A (zh) * 2019-06-06 2022-04-15 移动眼视觉科技有限公司 用于交通工具导航***和方法
DE112020006351T5 (de) * 2019-12-26 2022-10-20 Panasonic Intellectual Property Management Co., Ltd. Anzeigesteuervorrichtung, Anzeigesystem und Anzeigesteuerverfahren

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3987013B2 (ja) * 2003-09-01 2007-10-03 本田技研工業株式会社 車両周辺監視装置
DE102005056647B4 (de) * 2004-11-30 2011-02-03 Honda Motor Co., Ltd. Fahrzeugumgebungsüberwachungsvorrichtung
JP4777195B2 (ja) 2006-09-11 2011-09-21 川崎重工業株式会社 運転支援装置、車両及び運転支援方法
EP1897751B1 (en) 2006-09-11 2012-08-15 Kawasaki Jukogyo Kabushiki Kaisha Driving assist system for a vehicle
US8050459B2 (en) * 2008-07-25 2011-11-01 GM Global Technology Operations LLC System and method for detecting pedestrians
WO2010073929A1 (ja) * 2008-12-22 2010-07-01 日本電気株式会社 人判定装置、方法およびプログラム
JP5258977B2 (ja) * 2009-11-25 2013-08-07 本田技研工業株式会社 対象物距離測定装置及び当該装置が搭載された車両
WO2013042206A1 (ja) * 2011-09-20 2013-03-28 トヨタ自動車株式会社 対象物変化検出装置および対象物変化検出方法
US9158979B2 (en) * 2011-10-18 2015-10-13 Honda Motor Co., Ltd. Vehicle vicinity monitoring device
JP6032921B2 (ja) * 2012-03-30 2016-11-30 キヤノン株式会社 物体検出装置及びその方法、プログラム
US20140205139A1 (en) * 2013-01-18 2014-07-24 Caterpillar Inc. Object recognition system implementing image data transformation
JP5961123B2 (ja) * 2013-01-30 2016-08-02 パナソニック株式会社 人物検出追跡装置、人物検出追跡方法、および人物検出追跡プログラム
JP6184877B2 (ja) * 2014-01-09 2017-08-23 クラリオン株式会社 車両用外界認識装置
WO2015133159A1 (ja) * 2014-03-05 2015-09-11 コニカミノルタ株式会社 画像処理装置、画像処理方法、および、画像処理プログラム
CN106295460B (zh) * 2015-05-12 2019-05-03 株式会社理光 人的检测方法及设备
DE112017002805T5 (de) * 2016-06-03 2019-02-28 Mitsubishi Electric Corporation Ausrüstungssteuerungseinrichtung und Ausrüstungssteuerungsverfahren

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020026981A (ja) * 2018-08-09 2020-02-20 株式会社Ihi 物体検出装置及び物体検出方法
JP7067354B2 (ja) 2018-08-09 2022-05-16 株式会社Ihi 物体検出装置及び物体検出方法
JP7512729B2 (ja) 2020-07-16 2024-07-09 株式会社Jvcケンウッド 画像認識装置および画像認識方法

Also Published As

Publication number Publication date
US10521679B2 (en) 2019-12-31
JP6627680B2 (ja) 2020-01-08
US20180247140A1 (en) 2018-08-30
EP3410420A4 (en) 2019-01-23
WO2018020715A1 (ja) 2018-02-01
EP3410420B1 (en) 2024-03-06
EP3410420A1 (en) 2018-12-05

Similar Documents

Publication Publication Date Title
CN107924465B (zh) 物体识别装置、物体识别方法以及存储介质
WO2018020715A1 (ja) 人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム
US9245171B2 (en) Gaze point detection device and gaze point detection method
US10169667B2 (en) External environment recognizing device for vehicle and vehicle behavior control device
JP2010097541A (ja) 車両の周辺監視装置
KR102460665B1 (ko) 응시 거리를 결정하는 방법 및 디바이스
US9367747B2 (en) Image processing apparatus, image processing method, and program
JP6333975B2 (ja) 車両周辺監視装置
JP2017041132A (ja) 車両検出装置、車両検出システム、車両検出方法、及び車両検出プログラム
JP2010191793A (ja) 警告表示装置及び警告表示方法
KR20160054925A (ko) 특정물체 감지 장치 및 특정물체 감지 방법
JP2011089784A (ja) 物体方向推定装置
JP2010079716A (ja) 車両の歩行者検出装置
JP2017167608A (ja) 物体認識装置、物体認識方法及び物体認識プログラム
JPWO2015198592A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
KR20160126254A (ko) 도로 영역 검출 시스템
JP5502149B2 (ja) 車両周辺監視装置
JP2006209442A (ja) 眼位置検出装置
JP5004882B2 (ja) 車両周辺監視装置
US9030560B2 (en) Apparatus for monitoring surroundings of a vehicle
JP5559121B2 (ja) 対象物種別判定装置
JP2013190949A (ja) 歩行者検出装置及びプログラム
JP2005115618A (ja) 物体検出装置及び物体検出方法
KR20200119421A (ko) 어라운드 뷰 모니터링 시스템을 이용한 자율 주행 차량을 위한 이동 경로 생성 장치 및 방법
JP6495742B2 (ja) 対象物検出装置、対象物検出方法、及び、対象物検出プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191118

R150 Certificate of patent or registration of utility model

Ref document number: 6627680

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150