JP7255173B2 - 人検出装置および人検出方法 - Google Patents

人検出装置および人検出方法 Download PDF

Info

Publication number
JP7255173B2
JP7255173B2 JP2018243475A JP2018243475A JP7255173B2 JP 7255173 B2 JP7255173 B2 JP 7255173B2 JP 2018243475 A JP2018243475 A JP 2018243475A JP 2018243475 A JP2018243475 A JP 2018243475A JP 7255173 B2 JP7255173 B2 JP 7255173B2
Authority
JP
Japan
Prior art keywords
human body
candidate
head
detection
reliability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018243475A
Other languages
English (en)
Other versions
JP2020106970A (ja
Inventor
清明 田中
郁奈 辻
純平 松永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2018243475A priority Critical patent/JP7255173B2/ja
Priority to CN201980079319.9A priority patent/CN113168694B/zh
Priority to PCT/JP2019/043977 priority patent/WO2020137193A1/ja
Priority to DE112019006414.2T priority patent/DE112019006414T5/de
Priority to US17/294,810 priority patent/US11983951B2/en
Publication of JP2020106970A publication Critical patent/JP2020106970A/ja
Application granted granted Critical
Publication of JP7255173B2 publication Critical patent/JP7255173B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、魚眼カメラの画像を用いて人を検出する技術に関する。
ビルディングオートメーション(BA)やファクトリーオートメーション(FA)の分野において、画像センサにより人の「数」・「位置」・「動線」などを自動で計測し、照明や空調などの機器を最適制御するアプリケーションが必要とされている。このような用途では、できるだけ広い範囲の画像情報を取得するために、魚眼レンズ(フィッシュアイレンズ)を搭載した超広角のカメラ(魚眼カメラ、全方位カメラ、全天球カメラなどと呼ばれるが、いずれも意味は同じである。本明細書では「魚眼カメラ」の語を用いる。)を利用することが多い。
魚眼カメラで撮影された画像は大きく歪んでいる。それゆえ、魚眼カメラの画像(以後「魚眼画像」と呼ぶ。)から人体や顔などを検出する場合には、あらかじめ魚眼画像を平面展開することで歪みの少ない画像に補正した後に検出処理にかけるという方法が一般的である(特許文献1参照)。
特開2016-39539号公報
しかしながら、従来技術では次のような問題がある。一つは、魚眼画像を平面展開するという前処理が発生することで、全体の処理コストが大きくなるという問題である。これは、リアルタイムの検出処理を困難にし、機器制御の遅延を招く可能性があり、好ましくない。二つ目の問題は、魚眼カメラの真下など、ちょうど平面展開時の境界(画像の切れ目)の位置に存在する人や物体の像が、平面展開の処理によって大きく変形してしまったり、像が分断されてしまったりして、正しく検出できない恐れがあることである。
これらの問題を回避するため、本発明者らは、魚眼画像をそのまま(「平面展開せずに」という意味である。)検出処理にかけるというアプローチを研究している。しかし、通常のカメラ画像に比べ、魚眼画像の場合は、検出対象となる人の見え方(人体の傾き、歪み、大きさ)のバリエーションが増加するため、検出が困難となる。特に、BAやFAなどのアプリケーションを想定した場合、画像中に、イス、パーソナルコンピュータ、ごみ箱、扇風機、サーキュレーターなど、人体や頭部と誤り易い物体が多く存在するため、検出精度の低下を招きやすい。
本発明は上記実情に鑑みなされたものであって、魚眼画像から高速に且つ高精度に人を検出する技術を提供することを目的とする。
上記目的を達成するために本発明は、以下の構成を採用する。
本発明の第一側面は、検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出装置であって、人の頭部を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の頭部候補を検出
する頭部検出部と、人体を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の人体候補を検出する人体検出部と、前記頭部検出部の検出結果と前記人体検出部の検出結果とを組み合わせて作成される、前記頭部候補と前記人体候補のペアのうち、所定の条件を満たすペアを、人と判定する判定部と、を有することを特徴とする人検出装置を提供する。
「魚眼カメラ」は、魚眼レンズを搭載したカメラであり、通常のカメラに比べて超広角での撮影が可能なカメラである。全方位カメラや全天球カメラも魚眼カメラの一種である。魚眼カメラは、検出対象エリアの上方から検出対象エリアを見下ろすように設置されていればよい。典型的には魚眼カメラの光軸が鉛直下向きとなるように設置されるが、魚眼カメラの光軸が鉛直方向に対して傾いていても構わない。「人の頭部を検出するアルゴリズム」と「人体を検出するアルゴリズム」は、前者が頭部のみを検出対象とし、後者が人体を検出対象とする点で、異なるアルゴリズムである。ここで「人体」は、人の全身でもよいし、半身(例えば、上半身、頭部と胴体など)でもよい。
本発明によれば、魚眼画像を平面展開しないため、高速な検出処理が可能である。また、画像から頭部と体がともに検出され、且つ、それらが所定の条件を満たす場合に、はじめて「人」と判定するので、高精度な検出が実現できる。
前記所定の条件は、前記頭部候補と前記人体候補の相対位置に関する条件を含んでもよい。魚眼カメラで得られる魚眼画像では、頭部の領域と人体の領域の位置関係に一定の法則があるため、頭部の領域と人体の領域の相対位置に基づいて、当該ペアの妥当性(人である確からしさ)を判定することができる。具体的には、前記所定の条件は、前記頭部候補の領域と前記人体候補の領域とが重なりを有するという条件を含んでもよい。前記所定の条件は、前記人体候補が前記頭部候補よりも前記魚眼画像の中心に近い座標に存在するという条件を含んでもよい。
前記所定の条件は、前記頭部候補と前記人体候補の相対サイズに関する条件を含んでもよい。固定カメラで得られる魚眼画像における頭部および人体のサイズはあらかじめ想定できるため、頭部候補と人体候補の相対サイズに基づいて、当該ペアの妥当性(人である確からしさ)を判定することができる。具体的には、前記所定の条件は、前記頭部候補と前記人体候補のサイズ比率が所定の範囲であるという条件を含んでもよい。ここで、前記判定部は、前記頭部候補または前記人体候補の前記魚眼画像上の座標に応じて、前記所定の範囲を変えてもよい。
前記頭部検出部は、検出した頭部候補ごとに、検出の信頼度を出力し、前記人体検出部は、検出した人体候補ごとに、検出の信頼度を出力し、前記所定の条件は、前記頭部候補および前記人体候補の信頼度に関する条件を含んでもよい。これにより、最終的な検出結果の信頼性、すなわち検出精度の向上を図ることができる。
例えば、前記判定部は、前記頭部候補の信頼度と前記人体候補の信頼度を基に総合信頼度を求め、前記所定の条件は、前記総合信頼度が閾値より大きいという条件を含んでもよい。総合信頼度は、頭部候補の信頼度と人体候補の信頼度の関数であればどのような指標でもよい。例えば、頭部候補の信頼度と人体候補の信頼度の合計、単純平均、加重平均などを用いることができる。
前記判定部は、前記頭部候補または前記人体候補の前記魚眼画像上の座標に応じて、前記総合信頼度を求めるときの前記頭部候補の信頼度と前記人体候補の信頼度の重みを変えてもよい。例えば、カメラの真下にいる人は、頭部は写るが、人体は両肩くらいしか写らないため、頭部検出に比べて人体検出は困難となる。このように、画像上の座標に依存し
て、頭部候補の信頼度と人体候補の信頼度のどちらの値が高くなりやすいかが変わるため、総合信頼度を求めるときにその特性を考慮することで、最終的な判定精度の向上を図ることができる。
前記頭部候補の信頼度と前記人体候補の信頼度のいずれか一方が十分に高い場合に、前記判定部は、他方の信頼度に対する条件を緩和してもよい。いずれか一方の信頼度が十分に高ければ、(他方の検出の信頼度が多少低かったとしても)人である確からしさが高いと考えられるからである。
本発明の第二側面は、検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出方法であって、人の頭部を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の頭部候補を検出する頭部検出ステップと、人体を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の人体候補を検出する人体検出ステップと、前記頭部検出ステップの検出結果と前記人体検出ステップの検出結果とを組み合わせて作成される、前記頭部候補と前記人体候補のペアのうち、所定の条件を満たすペアを、人と判定する判定ステップと、を有することを特徴とする人検出方法を提供する。
本発明は、上記手段の少なくとも一部を有する人検出装置として捉えてもよいし、検出した人を認識(識別)する人認識装置、検出した人をトラッキングする人追跡装置、あるいは画像処理装置や監視システムとして捉えてもよい。また、本発明は、上記処理の少なくとも一部を含む人検出方法、人認識方法、人追跡方法、画像処理方法、監視方法として捉えてもよい。また、本発明は、かかる方法を実現するためのプログラムやそのプログラムを非一時的に記録した記録媒体として捉えることもできる。なお、上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。
本発明によれば、魚眼画像から高速に且つ高精度に人を検出することができる。
図1は、本発明に係る人検出装置の適用例を示す図である。 図2は、人検出装置を備える監視システムの構成を示す図である。 図3は、魚眼画像の例を示す図である。 図4は、人検出処理のフローチャートである。 図5は、頭部検出の結果の例を示す図である。 図6は、頭部検出の結果に人体検出の結果を重ねた例を示す図である。 図7は、最終判定結果(人検出結果)の例を示す図である。 図8は、相対位置に基づくペアリング処理のフローチャートである。 図9は、相対サイズに基づくペアリング処理のフローチャートである。 図10は、画像上の位置に応じて処理を変える例を示す図である。
<適用例>
図1を参照して、本発明に係る人検出装置の適用例を説明する。人検出装置1は、検出対象エリア11の上方(例えば天井12など)に設置された魚眼カメラ10により得られた魚眼画像を解析して、検出対象エリア11内に存在する人13を検出する装置である。この人検出装置1は、例えば、オフィスや工場などにおいて、検出対象エリア11を通行する人13の検出、認識、追跡などを行う。人検出装置1の検出結果は、外部装置に出力され、例えば、人数のカウント、照明や空調など各種機器の制御、不審者の監視などに利用される。
人検出装置1は、魚眼画像をそのまま(つまり、平面展開や歪み補正などの前処理を行わずに)人検出処理に用いる点に特徴の一つを有する。これにより、検出処理の高速化(リアルタイム性)を実現する。さらに人検出装置1は、魚眼画像に対し頭部検出と人体検出を行い、頭部検出の結果と人体検出の結果とを組み合わせて最終的な判定(人か否かの判定)を行う点に特徴の一つを有する。このとき、魚眼画像の特性を考慮して、頭部と人体のペアリングおよび信頼度の評価を行うことによって、高精度な検出が実現できる。
<監視システム>
図2を参照して、本発明の実施形態を説明する。図2は、本発明の実施形態に係る人検出装置を適用した監視システムの構成を示すブロック図である。監視システム2は、概略、魚眼カメラ10と人検出装置1とを備えている。
魚眼カメラ10は、魚眼レンズを含む光学系と撮像素子(CCDやCMOSなどのイメージセンサ)を有する撮像装置である。魚眼カメラ10は、例えば図1に示すように、検出対象エリア11の天井12などに、光軸を鉛直下向きにした状態で設置され、検出対象エリア11の全方位(360度)の画像を撮影するとよい。魚眼カメラ10は人検出装置1に対し有線(USBケーブル、LANケーブルなど)または無線(WiFiなど)で接続され、魚眼カメラ10で撮影された画像データは人検出装置1に取り込まれる。画像データはモノクロ画像、カラー画像のいずれでもよく、また画像データの解像度やフレームレートやフォーマットは任意である。本実施形態では、10fps(1秒あたり10枚)で取り込まれるモノクロ画像を用いることを想定している。
図3は、魚眼カメラ10から取り込まれた魚眼画像の例を示す。光軸が鉛直下向きになるように魚眼カメラ10を設置した場合、魚眼画像の中心には、魚眼カメラ10の真下に存在する人を頭頂部から観察した像が表れる。そして、魚眼画像の端にいくにしたがって俯角が小さくなるため、人を斜め上方から観察した像が表れることとなる。また、魚眼画像の中心は比較的歪みが小さいが、魚眼画像の端にいくにしたがって画像の歪みが大きくなる。背景技術の欄で述べたように、従来は、魚眼画像の歪みを補正した平面展開画像を作成した後、検出や認識などの画像処理を行っていたが、本実施形態の監視システム2では、図3に示すような魚眼画像をそのまま(歪んだまま)検出や認識の処理に用いる。これにより、歪み補正などの前処理を省略し、リアルタイム監視を実現する。
図2に戻り、人検出装置1の説明を行う。本実施形態の人検出装置1は、画像入力部20、頭部検出部22、人体検出部24、判定部26、記憶部27、出力部28を有している。頭部検出部22と人体検出部24をまとめて「検出部21」とも称す。画像入力部20は、魚眼カメラ10から画像データを取り込む機能を有する。取り込まれた画像データは記憶部27に格納される。頭部検出部22は、人の頭部を検出するアルゴリズムを用いて、魚眼画像から頭部候補を検出する機能を有する。頭部検出辞書23は、魚眼画像に表れる頭部の画像特徴があらかじめ登録されている辞書である。人体検出部24は、人体を検出するアルゴリズムを用いて、魚眼画像から人体候補を検出する機能を有する。人体検出辞書25は、魚眼画像に表れる人体の画像特徴があらかじめ登録されている辞書である。判定部26は、頭部検出部22と人体検出部24の検出結果に基づいて、魚眼画像内に存在する「人」を判定する機能を有する。記憶部27は、魚眼画像、検出結果、判定結果などを記憶する機能を有する。出力部28は、魚眼画像、検出結果、判定結果などの情報を外部装置に出力する機能を有する。例えば、出力部28は、外部装置としてのディスプレイに情報を表示してもよいし、外部装置としてのコンピュータに情報を転送してもよいし、外部装置としての照明装置や空調やFA装置に対し情報や制御信号を送信してもよい。
人検出装置1は、例えば、CPU(プロセッサ)、メモリ、ストレージなどを備えるコンピュータにより構成することができる。その場合、図2に示す構成は、ストレージに格納されたプログラムをメモリにロードし、CPUが当該プログラムを実行することによって実現されるものである。かかるコンピュータは、パーソナルコンピュータ、サーバコンピュータ、タブレット端末、スマートフォンのような汎用的なコンピュータでもよいし、オンボードコンピュータのように組み込み型のコンピュータでもよい。あるいは、図2に示す構成の全部または一部を、ASICやFPGAなどで構成してもよい。あるいは、図2に示す構成の全部または一部を、クラウドコンピューティングや分散コンピューティングにより実現してもよい。
<人検出処理>
図4は、監視システム2による人検出処理のフローチャートである。図4に沿って人検出処理の全体的な流れを説明する。なお、図4のフローチャートは、1フレームの魚眼画像に対する処理を示している。10fpsで魚眼画像が入力される場合には、図4の処理が1秒間に10回実行されることとなる。
まず、画像入力部20が魚眼カメラ10から1フレームの魚眼画像を入力する(ステップS40)。図3は入力された魚眼画像の例である。この画像には5人の人が写っている。
次に、頭部検出部22が魚眼画像から人の頭部を検出する(ステップS41)。魚眼画像内に複数の人が存在する場合には、複数の頭部が検出される。また、多くの場合、頭部ではない物体(例えば、ボール、PC、サーキュレーター、丸イスなど、形状や色が人頭と紛らわしい物)が誤って検出される場合もある。このように頭部検出部22の検出結果には頭部ではない物体も含まれ得るため、この段階では「頭部候補」と呼ぶ。検出結果には、例えば、検出された頭部候補の外接矩形(「バウンディングボックス」とも称す。)と、検出の信頼度(頭部であることの確からしさ)とが含まれるとよい。図5は、頭部検出の結果の例である。符号50がバウンディングボックスを示している。この例では、人の頭部51、52、53、54、55の他、頭部ではない物体56、57も頭部候補として検出されてしまっている。なお、頭部検出にはどのようなアルゴリズムを用いてもよい。例えば、HoGやHaar-likeなどの画像特徴とブースティングを組み合わせた識別器を用いてもよいし、ディープラーニング(例えば、R-CNN、Fast R-CNN、YOLO、SSDなど)による頭部認識を用いてもよい。
次に、人体検出部24が魚眼画像から人体を検出する(ステップS42)。魚眼画像内に複数の人が存在する場合には、複数の人体が検出される。また、多くの場合、人体ではない物体(例えば、扇風機、デスクチェア、コート掛けなど、形状や色が人体と紛らわしい物)が誤って検出される場合もある。このように人体検出部24の検出結果には人体ではない物体も含まれ得るため、この段階では「人体候補」と呼ぶ。検出結果には、例えば、検出された人体候補の外接矩形(「バウンディングボックス」とも称す。)と、検出の信頼度(人体であることの確からしさ)とが含まれるとよい。図6は、頭部検出の結果に人体検出の結果を重ねた例である。符号60が人体候補のバウンディングボックスを示している。この例では、人体61、62、63、64、65の他、人体ではない物体66、67も人体候補として検出されてしまっている。なお、人体検出にはどのようなアルゴリズムを用いてもよい。例えば、HoGやHaar-likeなどの画像特徴とブースティングを組み合わせた識別器を用いてもよいし、ディープラーニング(例えば、R-CNN、Fast R-CNN、YOLO、SSDなど)による人体認識を用いてもよい。本実施形態では、人体として人の全身を検出しているが、これに限らず、上半身など体の一部を検出対象としてもよい。
なお、頭部検出と人体検出は独立した処理であるため、人体検出→頭部検出の順に実行してもよいし、頭部検出と人体検出を並列処理してもよい。
次に、判定部26が、頭部候補と人体候補のペアリングを行う(ステップS43)。判定部26は、例えば、図6に示す7つの頭部候補51~57と7つの人体候補61~67の49通りのペアの中から、所定のペアリング条件を満足するペアのみを選択する。ペアリング条件およびペアリング処理の詳細は後述する。
次に、判定部26は、ステップS43で得られた各ペアの信頼度を求める(ステップS44)。ペアの信頼度とは、当該ペア(頭部候補と人体候補)が実際の人間の頭部と身体を示している可能性の高さ(人であることの確からしさ)を表す尺度である。信頼度の詳細は後述する。
次に、判定部26は、ステップS43で得られた複数のペアの中から、所定の信頼度条件を満足するペアのみを抽出する(ステップS45)。そして、判定部26は、ここで抽出されたペア(頭部候補と人体候補の組み合わせ)を「人」と最終判定し、その判定結果を記憶部27に格納する。判定結果は、例えば、頭部候補および人体候補を包含する外接矩形(バウンディングボックス)の位置およびサイズ、当該ペアの信頼度、などの情報を含むとよい。図7は、最終判定結果(人検出結果)の例である。
最後に、出力部28が、ステップS45で得られた判定結果を外部装置に出力する(ステップS46)。以上で1フレームの魚眼画像に対する処理が終了する。
本実施形態の人検出処理によれば、魚眼画像をそのまま解析し、魚眼画像からダイレクトに人検出を行う。したがって、魚眼画像の平面展開や歪み補正といった前処理を省略でき、高速な人検出処理が可能である。魚眼画像をそのまま検出処理に用いる方法は、平面展開(歪み補正)した後に検出処理を行う方法に比べ、検出精度が低下するという課題があるが、本実施形態では、魚眼画像から頭部と身体がともに検出され、且つ、それらが所定の条件を満たす場合に「人」と判定するというロジックを採用したので、非常に高精度な検出が実現できる。
なお、本実施形態では、所定の条件として、ペアリング条件と信頼度条件の2つを用いたが、いずれか一方だけでも十分な精度が得られるならば、一方の条件のみを用いても構わない。あるいは、ペアリング条件と信頼度条件以外の他の条件を用いてもよい。
<ペアリング>
判定部26によるペアリング処理およびペアリング条件の具体例を説明する。
(1)相対位置に基づくペアリング
魚眼画像は人を見下ろすような角度で撮影されるため、図6に示すように、頭部領域(バウンディングボックス)と人体領域(バウンディングボックス)とは重なりをもつ。また、カメラの真下に(つまり、光軸上に)存在する人の場合は、頭部領域と人体領域の中心がほぼ一致するが、それ以外の位置に存在する人の場合は、人体領域が頭部領域よりも画像の中心側に写る(言い換えると、画像の中心からみて、人体領域の中心、頭部領域の中心、という順に並ぶ。)。このような魚眼画像の特性を利用し、頭部領域と人体領域の相対位置を考慮することで、頭部候補と人体候補の組み合わせの妥当性を評価することができる。
図8は、相対位置に基づくペアリング処理のフローチャートである。まず判定部26は、頭部候補と人体候補のすべての組み合わせの中から、頭部領域と人体領域とが重なりを
有するペアを生成する(ステップS80)。図6の例の場合、6通りのペアが生成される。実際の人の数(5人)より多い理由は、人体候補62と誤検出による頭部候補56のペアも生成されるためである。
次に判定部26は、ステップS80で得られたペアのそれぞれについて、頭部領域と人体領域のどちらが画像中心に近いかを判定し、人体領域の方が画像中心に近いペアのみ抽出する(ステップS81)。この判定は、例えば、頭部領域の中心と画像中心の間の距離と人体領域の中心と画像中心の間の距離の比較により行えばよい。かかる処理により、人体候補62と頭部候補56のペアを除外することができる。その結果、頭部候補51と人体候補61、頭部候補52と人体候補62、頭部候補53と人体候補63、頭部候補54と人体候補64、頭部候補55と人体候補65、の5つのペアに絞り込まれる。
(2)相対サイズに基づくペアリング
検出対象エリアに対する魚眼カメラ10の位置が固定されている場合、頭部や人体の魚眼画像上でのサイズは概ね予測可能である。また、身体の大きさの個人差は、頭部と人体の相対サイズを計算することでキャンセルできる。このような魚眼画像の特性を利用し、頭部領域と人体領域の相対サイズを考慮することで、頭部候補と人体候補の組み合わせの妥当性を評価することができる。
図9は、相対サイズに基づくペアリング処理のフローチャートである。まず判定部26は、頭部候補と人体候補のすべての組み合わせの中から、頭部領域と人体領域とが重なりを有するペアを生成する(ステップS90)。この処理は図8のステップS80と同じである。次に判定部26は、ステップS90で得られたペアのそれぞれについて、頭部領域と人体領域のサイズ比率を計算する(ステップS91)。例えば、バウンディングボックスの面積比をサイズ比率として求めてもよいし、辺もしくは対角線の長さの比をサイズ比率として求めてもよい。そして、判定部26は、サイズ比率が所定の範囲に収まっているペアのみ抽出する(ステップS92)。かかる処理により、実際の頭部や人体とはサイズが明らかに異なる誤検出物体をペアリング対象から除外することができる。
ところで、魚眼画像の特性として、画像の端にいくにしたがって俯角が小さくなり、頭部領域に比して人体領域のサイズが相対的に大きくなっていくという特性がある。すなわち、頭部領域と人体領域のサイズ比率は画像全体で一定ではなく、魚眼画像内の位置に応じて変わり得る。それゆえ、判定部26は、ステップS102で用いる「所定の範囲」を頭部候補または人体候補の画像上の座標に応じて可変にしてもよい。例えば、図10に示すように、魚眼画像をL1~L25の25個のエリアに分割し、各分割エリアにサイズ比率の正解範囲を設定する。図10の例では、画像中心からの距離が遠いほどサイズ比率(頭部領域/人体領域)が小さくなるような正解範囲が設定されている。判定部26がステップS92の判定処理において図10に示すようなテーブルを参照することで、魚眼画像内の位置に応じた適切な判定が実現できる。これにより、ペアリングの信頼性をより一層向上することができる。
<信頼度>
判定部26による信頼度判定の具体例をいくつか説明する。
(1)個別判定
判定部26は、ペアを構成する頭部候補と人体候補のそれぞれの信頼度がともに所定の閾値を超えている場合に、当該ペアが人であると判定してもよい。すなわち、頭部候補の信頼度をCh、人体候補の信頼度をCb、頭部候補の閾値をTh、人体候補の閾値をTbとしたときに、
Ch>Th 且つ Cb>Tb ⇒ 人
Ch≦Th 又は Cb≦Tb ⇒ 人ではない
と判定する方法が個別判定である。
(2)単純平均
判定部26は、頭部候補の信頼度Chと人体候補の信頼度Cbを基に総合信頼度Cwを求め、この総合信頼度Cwが閾値Twより大きいか否かで、当該ペアが人か否かを判定してもよい。単純平均の場合、総合信頼度Cwは以下の式で計算するとよい。
Cw=(Ch+Cb)/2
(3)加重平均
加重平均の場合、総合信頼度Cwは例えば以下の式で計算するとよい。
Cw=(w×Ch+(1-w)×Cb)/2
ここで、wは重みである。重みwは、固定値でもよいし、頭部候補または人体候補の魚眼画像上の座標に応じて変えてもよい。図6に示すように、画像の中央部分では、頭部が大きく写るが、人体はほとんど写らない。そして、画像の端にいくにしたがい、人体の写る割合が大きくなっていく。このような魚眼画像の特性を考慮し、画像の中央部分では頭部候補の信頼度Chの重みwを相対的に大きくし、画像の端にいくにしたがい、人体候補の信頼度Cbの重み(1-w)を徐々に大きくしていくとよい。
(4)頭部優先
頭部候補の信頼度Chが極めて高い場合には、判定部26は、人体候補の信頼度Cbを考慮せずに(あるいは人体候補の信頼度Cbの重みを極めて小さくして)、人か否かの最終判定を行ってもよい。さらには、頭部候補の信頼度Chが極めて高い場合には、ペアとなる人体候補が見つかっていない場合でも、「人」と判定してもよい(身体が物陰に隠れている蓋然性が高いとみなす)。なお、信頼度Chが極めて高いかどうかの判断に用いる閾値は、上述したTh、Twよりも大きい値に設定するとよい。
(5)人体優先
人体候補の信頼度Cbが極めて高い場合には、判定部26は、頭部候補の信頼度Chを考慮せずに(あるいは頭部候補の信頼度Chの重みを極めて小さくして)、人か否かの最終判定を行ってもよい。さらには、人体候補の信頼度Cbが極めて高い場合には、ペアとなる頭部候補が見つかっていない場合でも、「人」と判定してもよい(頭部が物陰に隠れている蓋然性が高いとみなす)。なお、信頼度Cbが極めて高いかどうかの判断に用いる閾値は、上述したTb、Twよりも大きい値に設定するとよい。
<その他>
上記実施形態は、本発明の構成例を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。
<付記1>
(1)検出対象エリア(11)の上方に設置された魚眼カメラ(10)により得られた魚眼画像を解析して、前記検出対象エリア(11)内に存在する人(13)を検出する人検出装置(1)であって、
人の頭部を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の頭部候補を検出する頭部検出部(22)と、
人体を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の人体候補を検出する人体検出部(24)と、
前記頭部検出部(22)の検出結果と前記人体検出部(24)の検出結果とを組み合わ
せて作成される、前記頭部候補と前記人体候補のペアのうち、所定の条件を満たすペアを、人と判定する判定部(26)と、
を有することを特徴とする人検出装置(1)。
(2)検出対象エリア(11)の上方に設置された魚眼カメラ(10)により得られた魚眼画像を解析して、前記検出対象エリア(11)内に存在する人(13)を検出する人検出方法であって、
人の頭部を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の頭部候補を検出する頭部検出ステップ(S41)と、
人体を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の人体候補を検出する人体検出ステップ(S42)と、
前記頭部検出ステップの検出結果と前記人体検出ステップの検出結果とを組み合わせて作成される、前記頭部候補と前記人体候補のペアのうち、所定の条件を満たすペアを、人と判定する判定ステップ(S45)と、
を有することを特徴とする人検出方法。
1:人検出装置
2:監視システム
10:魚眼カメラ
11:検出対象エリア
12:天井
13:人

Claims (12)

  1. 検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出装置であって、
    人の頭部を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の頭部候補を検出するとともに、検出した頭部候補ごとに検出の信頼度を出力する頭部検出部と、
    人体を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の人体候補を検出するとともに、検出した人体候補ごとに検出の信頼度を出力する人体検出部と、
    前記頭部検出部の検出結果と前記人体検出部の検出結果とを組み合わせて作成される、前記頭部候補と前記人体候補のペアのうち、所定の条件を満たすペアを、人と判定する判定部と、
    を有し、
    前記所定の条件は、前記頭部候補の信頼度と前記人体候補の信頼度を基に求めた総合信頼度が閾値より大きいという条件を含み、
    前記判定部は、前記頭部候補または前記人体候補の前記魚眼画像上の座標に応じて、前記総合信頼度を求めるときの前記頭部候補の信頼度と前記人体候補の信頼度の重みを変えることを特徴とする人検出装置。
  2. 前記判定部は、前記人体候補が前記魚眼画像の端にあるほど前記人体候補の重みが大きくなるように、前記頭部候補の信頼度と前記人体候補の信頼度の重みを変える
    ことを特徴とする請求項1に記載の人検出装置。
  3. 前記所定の条件は、前記頭部候補と前記人体候補の相対位置に関する条件を含む
    ことを特徴とする請求項1または2に記載の人検出装置。
  4. 前記所定の条件は、前記頭部候補の領域と前記人体候補の領域とが重なりを有するという条件を含む
    ことを特徴とする請求項1~3のいずれか1項に記載の人検出装置。
  5. 前記所定の条件は、前記人体候補が前記頭部候補よりも前記魚眼画像の中心に近い座標
    に存在するという条件を含む
    ことを特徴とする請求項1~のいずれか1項に記載の人検出装置。
  6. 前記所定の条件は、前記頭部候補と前記人体候補の相対サイズに関する条件を含む
    ことを特徴とする請求項1~のいずれか1項に記載の人検出装置。
  7. 前記所定の条件は、前記頭部候補と前記人体候補のサイズ比率が所定の範囲であるという条件を含む
    ことを特徴とする請求項1~のいずれか1項に記載の人検出装置。
  8. 前記判定部は、前記頭部候補または前記人体候補の前記魚眼画像上の座標に応じて、前記所定の範囲を変える
    ことを特徴とする請求項に記載の人検出装置。
  9. 前記頭部候補の信頼度と前記人体候補の信頼度のいずれか一方が十分に高い場合に、前記判定部は、他方の信頼度に対する条件を緩和する
    ことを特徴とする請求項1~8のいずれか1項に記載の人検出装置。
  10. 検出対象エリアの上方に設置された魚眼カメラにより得られた魚眼画像を解析して、前記検出対象エリア内に存在する人を検出する人検出方法であって、
    人の頭部を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の頭部候補を検出するとともに、検出した頭部候補ごとに検出の信頼度を出力する頭部検出ステップと、
    人体を検出するアルゴリズムを用いて、前記魚眼画像から1つ以上の人体候補を検出するとともに、検出した人体候補ごとに検出の信頼度を出力する人体検出ステップと、
    前記頭部検出ステップの検出結果と前記人体検出ステップの検出結果とを組み合わせて作成される、前記頭部候補と前記人体候補のペアのうち、所定の条件を満たすペアを、人と判定する判定ステップと、
    を有し、
    前記所定の条件は、前記頭部候補の信頼度と前記人体候補の信頼度を基に求めた総合信頼度が閾値より大きいという条件を含み、
    前記判定ステップでは、前記頭部候補または前記人体候補の前記魚眼画像上の座標に応じて、前記総合信頼度を求めるときの前記頭部候補の信頼度と前記人体候補の信頼度の重みを変えることを特徴とする人検出方法。
  11. 前記判定ステップでは、前記人体候補が前記魚眼画像の端にあるほど前記人体候補の重みが大きくなるように、前記頭部候補の信頼度と前記人体候補の信頼度の重みを変える
    ことを特徴とする請求項10に記載の人検出方法。
  12. 請求項10または11に記載の人検出方法の各ステップをコンピュータに実行させるためのプログラム。
JP2018243475A 2018-12-26 2018-12-26 人検出装置および人検出方法 Active JP7255173B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2018243475A JP7255173B2 (ja) 2018-12-26 2018-12-26 人検出装置および人検出方法
CN201980079319.9A CN113168694B (zh) 2018-12-26 2019-11-08 人检测装置以及人检测方法
PCT/JP2019/043977 WO2020137193A1 (ja) 2018-12-26 2019-11-08 人検出装置および人検出方法
DE112019006414.2T DE112019006414T5 (de) 2018-12-26 2019-11-08 Vorrichtung und Verfahren zur Detektion von Menschen
US17/294,810 US11983951B2 (en) 2018-12-26 2019-11-08 Human detection device and human detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018243475A JP7255173B2 (ja) 2018-12-26 2018-12-26 人検出装置および人検出方法

Publications (2)

Publication Number Publication Date
JP2020106970A JP2020106970A (ja) 2020-07-09
JP7255173B2 true JP7255173B2 (ja) 2023-04-11

Family

ID=71129009

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018243475A Active JP7255173B2 (ja) 2018-12-26 2018-12-26 人検出装置および人検出方法

Country Status (5)

Country Link
US (1) US11983951B2 (ja)
JP (1) JP7255173B2 (ja)
CN (1) CN113168694B (ja)
DE (1) DE112019006414T5 (ja)
WO (1) WO2020137193A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11494935B2 (en) * 2019-10-17 2022-11-08 Objectvideo Labs, Llc Scaled human video tracking
US11640701B2 (en) * 2020-07-31 2023-05-02 Analog Devices International Unlimited Company People detection and tracking with multiple features augmented with orientation and size based classifiers
CN113326773A (zh) * 2021-05-28 2021-08-31 北京百度网讯科技有限公司 识别模型训练方法、识别方法、装置、设备及存储介质
JP2024008196A (ja) * 2022-07-07 2024-01-19 オムロン株式会社 情報処理装置および情報処理方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005351814A (ja) 2004-06-11 2005-12-22 Konica Minolta Holdings Inc 検出装置および検出方法
WO2013001941A1 (ja) 2011-06-27 2013-01-03 日本電気株式会社 物体検知装置、物体検知方法および物体検知プログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4048511B2 (ja) * 1998-03-13 2008-02-20 富士通株式会社 魚眼レンズカメラ装置及びその画像歪み補正方法
CN100478979C (zh) * 2002-11-26 2009-04-15 中国科学院计算技术研究所 利用身材信息辅助人脸信息的身份识别方法
CN101561928B (zh) 2009-05-27 2011-09-14 湖南大学 基于属性关系图外观模型的多人体跟踪方法
CN101996401B (zh) 2009-08-24 2016-05-11 三星电子株式会社 基于强度图像和深度图像的目标分析方法及设备
CN101833791B (zh) 2010-05-11 2012-04-18 成都索贝数码科技股份有限公司 一种单摄像机下的场景建模方法及***
CN101866425A (zh) * 2010-06-02 2010-10-20 北京交通大学 基于鱼眼摄像头的人体检测方法
JP2015104016A (ja) * 2013-11-26 2015-06-04 キヤノン株式会社 被写体検出装置、撮像装置、被写体検出装置の制御方法、被写体検出装置の制御プログラムおよび記憶媒体
EP2988248B1 (en) * 2014-07-22 2019-09-18 Canon Kabushiki Kaisha Image processing apparatus, image processing method, information processing apparatus, information processing method, and program
JP6381353B2 (ja) 2014-08-08 2018-08-29 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
EP3446281A1 (en) * 2016-04-21 2019-02-27 OSRAM GmbH Training method and detection method for object recognition
JP7122815B2 (ja) * 2017-11-15 2022-08-22 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7059054B2 (ja) * 2018-03-13 2022-04-25 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP7230345B2 (ja) * 2018-06-07 2023-03-01 富士フイルムビジネスイノベーション株式会社 情報処理装置及び情報処理プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005351814A (ja) 2004-06-11 2005-12-22 Konica Minolta Holdings Inc 検出装置および検出方法
WO2013001941A1 (ja) 2011-06-27 2013-01-03 日本電気株式会社 物体検知装置、物体検知方法および物体検知プログラム

Also Published As

Publication number Publication date
JP2020106970A (ja) 2020-07-09
CN113168694B (zh) 2024-04-30
WO2020137193A1 (ja) 2020-07-02
US11983951B2 (en) 2024-05-14
DE112019006414T5 (de) 2021-09-16
CN113168694A (zh) 2021-07-23
US20220004749A1 (en) 2022-01-06

Similar Documents

Publication Publication Date Title
JP7255173B2 (ja) 人検出装置および人検出方法
JP6673508B2 (ja) 物体追跡装置、物体追跡システム、物体追跡方法、表示制御装置、物体検出装置、プログラムおよび記録媒体
JP7192582B2 (ja) 物体追跡装置および物体追跡方法
US7986828B2 (en) People detection in video and image data
JP6494253B2 (ja) 物体検出装置、物体検出方法、画像認識装置及びコンピュータプログラム
JP7272024B2 (ja) 物体追跡装置、監視システムおよび物体追跡方法
JP6590609B2 (ja) 画像解析装置及び画像解析方法
JP7188240B2 (ja) 人検出装置および人検出方法
KR20150032630A (ko) 촬상 시스템에 있어서의 제어방법, 제어장치 및 컴퓨터 판독 가능한 기억매체
JP2014093023A (ja) 物体検出装置、物体検出方法及びプログラム
US10496874B2 (en) Facial detection device, facial detection system provided with same, and facial detection method
JP7188067B2 (ja) 人検出装置および人検出方法
JP2020149641A (ja) 物体追跡装置および物体追跡方法
US10068335B2 (en) Moving-object counter apparatus, moving-object counting method, and non-transitory computer readable medium
WO2017112036A2 (en) Detection of shadow regions in image depth data caused by multiple image sensors
JP7243372B2 (ja) 物体追跡装置および物体追跡方法
JP7338174B2 (ja) 物体検出装置および物体検出方法
WO2021140844A1 (ja) 人体検出装置および人体検出方法
JP2012226583A (ja) 画像処理装置、画像処理システム及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230313

R150 Certificate of patent or registration of utility model

Ref document number: 7255173

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150