JP4650669B2 - 動体認識装置 - Google Patents

動体認識装置 Download PDF

Info

Publication number
JP4650669B2
JP4650669B2 JP2004320240A JP2004320240A JP4650669B2 JP 4650669 B2 JP4650669 B2 JP 4650669B2 JP 2004320240 A JP2004320240 A JP 2004320240A JP 2004320240 A JP2004320240 A JP 2004320240A JP 4650669 B2 JP4650669 B2 JP 4650669B2
Authority
JP
Japan
Prior art keywords
moving object
image portion
moving
image
target frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004320240A
Other languages
English (en)
Other versions
JP2006133946A (ja
Inventor
典司 加藤
正浩 前田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2004320240A priority Critical patent/JP4650669B2/ja
Priority to US11/154,583 priority patent/US7693310B2/en
Publication of JP2006133946A publication Critical patent/JP2006133946A/ja
Application granted granted Critical
Publication of JP4650669B2 publication Critical patent/JP4650669B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Description

本発明は、動画像中に映されている人物や自動車等の動体を認識する技術に関し、特に、複数の動体の混同を回避して動体を正確に追尾認識することができる技術に関する。
カメラで撮影される動画像は、セキュリティー管理といった用途の他にも、店舗での顧客の動きを追跡して効率的な商品配置を管理するため等といった種々な用途に利用されている。
このような動画像の利用形態には、画像を単に監視したり記録するといった形態の他に、画像中に映されている人物等の動体を認識して追跡し、当該動体の動きを監視したり記録するといった形態がある。例えば、天井に設けたビデオカメラで、何らかの動きのある領域を検出して撮影し、撮影された動画像に映されている人物を追跡する。
例えば、前後左右の人の重なりに影響されずに正確に人数を計測できるように、複数のカメラで撮影した画像から人物を抽出して追跡し、所定の判定ラインを通過した人数を計数する技術が知られている(特許文献1参照。)。
このような動画像中の人物追跡に利用することができる技術として、例えば、次のような技術が知られている。
画像中の肌色領域を検出することにより、人物の顔等の所要部分を認識する技術が知られており、当該技術を利用することによって、画像中の人物や人物の顔を検出することができる(特許文献2参照。)。
また、人物の顔等の対象画像を認識する処理は対象画像と予め用意された参照画像との類似度を判定することにより行うことができるが、動画像フレームから顔が一旦検出されると、当該顔の位置から平行移動や回転移動を施した顔画像を生成して、当該生成した顔画像と参照画像との類似度を判定する技術が知られており、当該技術を利用することによって、画像中の人物の顔(更には人物)を検出することができる(特許文献3参照。)。
また、対象となる画像を予め定められた条件で幾何学的に変換する正規化処理を行っておくことで、比較する参照画像の数を少なくすることができるが、この正規化処理に関して、処理対象の画像を濃淡パターンに基づいて正規化後の画像とのずれを検出し、検出結果を用いて正規化処理を行う技術が知られている(非特許文献1参照。)。
また、顔画像から個人認証を行うために、顔画像から特徴点を抽出して、この特徴点に基づいて予め用意されているテンプレートとの照合を行う技術が知られており、当該技術を利用することによって、2つの顔画像の同一性を判定することができる(非特許文献2参照。)。
また、顔画像から個人認証を行うために、顔を表すパターン情報を個人差を増大させるように規定の空間に写像して、この空間で予め用意されているテンプレートとの照合を行う技術が知られており、当該技術を利用することによって、2つの顔画像の同一性を判定することができる(非特許文献3参照。)。
また、顔の目、鼻、口等といった特徴的な部分の形状や配置に基づく個人認証を行うのではなく、顔の三次元的形状の個人差を用いて個人を識別する技術が知られており、当該技術を利用することによって、2つの顔画像の同一性を判定することができる(特許文献4参照。)。
特開平10―49718号公報 特開2000―105819号公報 特開2002―269546号公報 特開平2‐311962号公報 Rotation Invariant Neural Network - Based Face Detection, H.A.Rowly, S.Baluja, and T.Kanade, Proceedings of IEEE Conference on Comp-44 Laurenz Wiskott, Jean-Marc Fellous, Norbert Krouger and Christoph von der Malsburg, 擢ace Recognition by Elastic Bunch Matching・ Proc. 7th Intern. Conf. on Computer Analysys of Image and Patterns 1997 Matthew A. Turk and Alex P. Pentland, 摘igenfaces for Recognition・ Journal of Cognitive Neuroscience Vol.3, No.1, pp.71-86(1991)
カメラで撮影される動画像を用いて人物等の動体を追跡する場合、例えば、当該動画像フレーム中に複数の動体が映されて、これら動体が互いに接近したり、或いは、すれ違った場合には、検出領域が重なってしまうため、画像中の動き領域がいずれの動体のものか判別できなくなり、すなわち、動体間での混同が生じて、同一の動体の追跡ができなくなってしまうという課題があった。
本発明は、上記従来の事情に鑑みなされたもので、動画像中に映された人物等の動体をその同一性を保持して追跡することができる動体認識技術を提供することを目的としている。
本発明は、典型的には、カメラにより撮影された動画像に基づいて動体を認識追跡する動体認識装置として実施されるが、動体認識装置をコンピュータにより構成するためのコンピュータプログラムや、動体認識装置により実行される動体認識方法としても実施される。
本発明に係る動体認識装置では、特徴画像抽出手段が動画像から動体を特定し得る特徴画像部分(例えば、動体である人物の顔部の画像)を抽出し、位置検出手段が特徴画像部分が抽出される動体の位置情報を動画像中から時系列に検出し、判定手段が動画像から抽出された特徴画像部分の同一性を判定して、追跡情報保持手段が、この判定に基づいて、同一性のある特徴画像部分を有する動体(例えば、動体を識別する名称やID)と時系列位置情報とを対応付けて保持する。
したがって、特徴画像部分に基づいて同一性が保持された動体について、当該動体が移動した位置情報が時系列に記録され、動画像中に複数の動体が映されている場合でも各動体を識別した追跡情報を得ることができる。
本発明では、例えば、特徴画像抽出手段が、動画像からフレーム間で動きのある画像部分を動体画像部分として追跡し、当該動体画像部分から特徴画像部分を抽出する。
また、本発明では、例えば、認識対象の動体を人物として、特徴画像部分は人物の顔部の画像部分とする。
また、本発明では、例えば、認識対象の動体を人物として、特徴画像部分は動画像中の肌色画像部分とする。
また、本発明は、典型的には、人物を認識対象の動体とするが、その他、自動車、ロボット、搬送される物品等といった種々な移動物体を認識対象の動体とすることもできる。
また、本発明では、人物を追跡対象の動体とする場合には、例えば、人物の顔画像部分、人物の目、鼻、口等といった部分的な画像部分等の人物に固有の身体的特徴を表す部分の画像部分を特徴画像部分とすればよい。更には、本発明では、例えば、或る程度閉鎖的な環境では人物の髪型や被服の色や形を表す画像部分をもって特徴画像部分とすることもでき、また、人物に取り付けたバーコード等の識別標識を表す画像部分をもって特徴画像部分とすることもできる。
また、本発明では、例えば、自動車を認識対象の動体とする場合にはナンバプレートを特徴画像部分とすることができ、物品を追跡対象の動体とする場合には物品に取り付けた識別標識を表す画像部分を特徴画像部分とすることができる。
また、本発明に係る動体認識装置では、追跡情報保持手段が、動体を特定し得る識別子(例えば、動体ID)に対応付けて時系列位置情報を保持し、探索手段が検出された時系列位置情報を対応付ける動体識別子を既に保持した情報から探索して、特徴画像部分の同一性がある位置情報を同一の動体識別子に対応付けるようにする。
したがって、同一な動体に係る位置情報は時系列に同じ動体識別子で記録され、例えば、撮影領域から外へ移動した動体が再び撮影領域に戻ってきて動画像中に再度現われた場合でも、当該動体の追跡情報は一貫して記録される。
なお、本発明に係る動体認識装置では、特徴画像部分が上記同一性がなく新規の場合には、識別子付与手段が検出された時系列位置情報を対応付ける動体識別子を新規に付与する。
また、本発明に係る動体認識装置では、追跡情報保持手段が動画像から抽出された特徴画像部分を抽出元の動体(例えば、動体ID)に対応付けて管理する。この管理方法は、特徴画像部分の実データを動体識別子や時系列位置情報と共に記録するようにしてもよく、或いは、特徴画像部分の実データは動体識別子や時系列位置情報とは別のメモリに記録しておき、特徴画像部分の実データと動体識別子や時系列位置情報とをリンク付して、特徴画像部分の実データを何時でも取得できるようにしてもよい。
また、本発明に係る動体認識装置では、1台のカメラで撮影された動画像を処理する他に、撮影領域を重ねて配置した複数台のカメラで撮影された複数の動画像を処理するようにしてもよく、この場合には、特徴画像抽出手段が複数の動画像から動体を特定し得る特徴画像部分をそれぞれ抽出し、統合手段が位置検出手段が検出する特徴画像部分の位置情報を同一座標系で統合する。
これにより、多方向から撮影した特徴画像部分により動体の同一性を判定することができるため動体の追跡精度を高めることができ、更には、動体の時系列位置情報を三次元位置情報として記録することもできる。
本発明によると、動画像中から検出した動体の位置情報を記録するに際して、動体の特徴画像部分の同一性判定に基づいて、同じ動体に係る位置情報は同じ動体に対応付けて記録するように修正するようにしたため、時系列な位置情報が動体の同一性をもって記録され、動体をその同一性を保持して追跡することができる。
本発明を、動画像に映された人物を追跡する実施例に基づいて具体的に説明する。
図1には本発明に係る動体認識装置の構成の一例を示してあり、本例は図2に示すように1台のビデオカメラCで撮影された動画像を認識装置1に入力して処理するものである。
なお、図2には撮影領域に動体としての二人の人物P1、P2が存在する状態を示している。
動体認識装置1は、ビデオカメラCで撮影された動画像から人物P1、P2を特定し得る特徴画像部分(本例では、人物の顔画像部分T1、T2)を抽出する特徴画像抽出手段2、特徴画像抽出手段2によって特徴画像部分T1、T2が抽出される人物P1、P2の位置情報をビデオカメラCで撮影された動画像中から時系列に検出する位置検出手段3、特徴画像抽出手段2によって抽出された各特徴画像部分T1、T2について動画像フレームF間での同一性を判定する判定手段4、判定手段4による判定結果に基づいて動画像フレームF間で同一性のある特徴画像部分を有する人物(本例では各人物に付した人物ID)と位置検出手段3によって順次検出された時系列の位置情報とを対応付けてデータベース6に保持する追跡情報保持手段5を備えている。
なお、本例では、ビデオカメラCで撮影された動画像をリアルタイムに処理するようにしているが、動画像入力手段Cを動画像メモリとして、メモリに蓄積された動画像を後処理するようにしてもよい。
特徴画像抽出手段2は、図3に示すように時系列に複数の画像フレームFが連続する動画像から、動体としての人物P1、P2にそれぞれ対応する人物画像領域M1、M2を特定する処理と、特定した人物画像領域M1、M2からそれぞれの人物の顔部の画像部分T1、T2を抽出する処理とを行う。
上記の人物画像領域M1、M2を特定する処理は、公知の種々な方法で実施することができるが、例えば、動画像フレームF中の動きの大きな領域を人物画像領域M1、M2として特定する公知のオプティカルフロー計算の方法を用いて行われ、動画像中の第1のフレームFにおいて人物画像領域M1、M2を特定し、更に、連続する第2のフレームFにおいても同様に人物画像領域M1、M2を特定し、これらフレームF間で特定された対応する人物画像領域M1、M2の位置が所定の距離以内で接近している時には、人物画像領域M1とM2とはそれぞれ同一人物P1、P2の画像とする処理を行う。すなわち、動画像中に映されている各人物P1、P2をそれぞれ追跡する処理が行われ、後述するように、各人物P1、P2にはそれぞれを識別するためのIDが付与されて識別管理される。
なお、動画像フレームから人物画像領域を特定する方法として、特許文献3や非特許文献1に記載される顔検出により人物領域を特定する方法や、特許文献2に記載される顔の特徴を表す肌色情報の検出により人物領域を特定する方法を用いることもできる。
上記の顔画像部分T1、T2を抽出する処理は、公知の種々な方法で実施することができるが、例えば、特許文献3や非特許文献1に記載される顔検出の方法を用いて行われ、画像領域のピクセルの輝度パターンと予め用意された顔パターンの参照集合とを比較して、輝度パターンが参照集合に属する時には当該画像領域を顔画像部分T1、T2として抽出する処理を行う。すなわち、動画像中から特定された人物P1、P2の顔画像部分がそれぞれ抽出される処理が行われ、後述するように、各顔画像部分T1、T2は抽出元の人物P1、P2にそれぞれ対応付けて管理される。
位置検出手段3は、図3に示すようにフレームF中で特定された人物P1、P2(人物画像領域或いは顔画像部分)のそれぞれの位置情報を各フレームF毎に検出し、これら検出した位置情報を時系列に順次出力する。
このような位置情報の検出処理は、公知の種々な方法で実施することができるが、例えば、人物画像領域M1、M2や顔画像部分T1、T2のフレームF中における位置や大きさにより位置情報を検出することができる。なお、1台のカメラからの動画像を処理する本例では、図3に示すように、フレームF中での位置を(x、y)座標値で検出している。
上記のように特徴画像抽出手段2によって各顔画像部分T1、T2が順次抽出されるが、判定手段4は、処理する顔画像部分が既に処理されてデータベース6に記録されている顔画像部分と同一性を有するかを判定する。すなわち、フレームF間で顔画像部分の同一性を判定することで、当該同一性がある場合には上記の処理により同一人物を追跡してその時系列位置情報を検出できていることを保障している。
このような顔画像の同一性を判定する処理は、公知の種々な方法で実施することができるが、例えば、特許文献4、非特許文献2、非特許文献3に記載される方法を用いて、顔を構成する面要素の特徴比較により対比する2つの顔画像が同一性を有するか否かを判定することができる。
追跡情報保持手段5は、人物IDに基づいてデータベース6から該当する情報を探索する探索手段7と、該当する情報がデータベース6から見付けれらない(すなわち、新規の顔画像部分が抽出された)場合に当該新規の顔画像部分及びこれに対応して検出された位置情報を対応付けて記録するための新規な人物IDを付与するID付与手段8を有している。
なお、データベース6に記録される顔画像部分及びこれに対応して検出された位置情報は、初期的には、ID付与手段8によって新規の人物IDが付与されて、当該人物IDに対応付けてデータベース6に記録される。
すなわち、判定手段4が処理対象の顔画像部分が既処理の顔画像部分と同一性があると判定した場合には、探索手段7が既処理の顔画像部分が対応付けられている記録情報をデータベース6から探索して、処理対象の顔画像に対応して検出された位置情報を探索された情報中に記録する。一方、判定手段4が処理対象の顔画像部分が既処理の顔画像部分と同一性がないと判定した場合には、ID付与手段8が新規な人物IDを付与して、処理対象の顔画像に対応して検出された位置情報を当該人物IDに対応付けてデータベース6に記録する。
データベース6は、図4に示すように、それぞれの人物ごとに付与されたIDに対応付けて、現在の人物の座標値、顔画像部分へのリンク、人物座標の履歴といった情報を含む追跡情報を記録しており、これら追跡情報は上記のような処理に伴って逐次更新される。
例えば、人物ID:「1」で識別される人物は、動画像中の現在位置が(x1、y2)、その顔画像部分へのリンク情報が「Img01.bmp」、その移動履歴である位置情報履歴が当該データベース6へ記録した時間情報(t)を各位置情報に付加して(t0、x1(t0)、y1(t0)))、(t1、x1(t1)、y1(t1)))…といったように記録され、各人物毎の時系列な位置情報が記録されている。
なお、動体認識装置1にデータベース6の追跡情報を出力する手段を設けてもよく、例えば、追跡情報に基づいて、人物の移動軌跡を画面表示するようにしてもよい。
ここで、上記の特徴画像抽出手段2、位置検出手段3、判定手段4、追跡情報保持手段5は、それぞれ専用のハードウエア構成とすることができるが、本例では、動体認識装置1を構成するコンピュータで本発明に係るプログラムを実行することにより構成されている。
なお、後述する統合手段9も専用のハードウエア構成とする以外に、コンピュータで本発明に係るプログラムを実行することにより構成することができる。
図5には上記の動体認識装置1による処理手順を示してあり、処理内容を詳しく説明する。
本例ではカメラCから入力される動画像を1フレームずつ順次処理しており、カメラCから動画像フレームFが入力されると(ステップS1)、特徴画像抽出手段2が当該フレームFから全ての人物画像領域M1、M2を特定する(ステップS2)。また、これら特定された各人物画像領域M1、M2について、位置検出手段3が各々の位置情報を検出する。
そして、これら特定された各人物画像領域M1、M2について、人物画像領域毎にステップS3〜S12の処理を順次繰り返して行う。
特徴画像抽出手段2が、まず人物画像領域M1について追跡し(ステップS3)、その顔画像部分T1を抽出し(ステップS4)、この顔画像部分T1の検出が成功した場合には(ステップS5)、当該人物画像領域M1が新規であるかを判定する(ステップS6)。
この判定処理では、対象としている人物画像領域M1と当該動画像中の前のフレームFで特定された人物画像領域とに基づいて、両人物画像領域がフレーム中で所定の距離以内か(すなわち、近いか)を判定し、遠い場合にはフレーム間での連続性がないので、新たに(或いは再び)動画像フレーム中に映し出された人物の画像として新規と判定する。すなわち、或る人物の画像がフレーム間で連続性を有するか否かで同一人物であるか新規(或いは再現)人物であるかを判定して、同一人物を追跡している。
上記の判定により新規でない場合には、探索手段7が、前のフレームFにおいて特定された人物画像領域に対して付与されている人物IDとリンク情報に基づいて顔画像部分をデータベース6から取得し、判定手段4が、当該前フレームの顔画像部分と人物画像領域M1から抽出された顔画像部分T1とを比較して同一性を判定する(ステップS7)。
この判定の結果で同一性がある場合には、その人物IDで識別されるデータベース6のエントリーに上記検出した位置情報を記録する(ステップS11)。
上記の判定の結果で同一性がない場合、または、上記処理(ステップS6)で新規の人物画像領域と判定された場合には、探索手段7がデータベース6から顔画像部分T1と同一性を有する顔画像部分を記録したエントリー(人物ID)を探索し(ステップS8)、見付かった場合には当該エントリーの人物IDを人物画像領域M1のIDとして(ステップS9)、当該エントリーに人物画像領域M1(すなわち、人物画像領域M1)について上記検出した位置情報を記録する(ステップS11)。
一方、該当するエントリーの人物IDが見付からない場合には、ID付与手段8が新規の人物IDを付与し(ステップS10)、データベース6の当該人物IDで識別する新規エントリーに顔画像部分T1のリンク情報と共に上記検出した位置情報を記録する(ステップS11)。
そして、上記一連の処理(ステップS3〜S11)をフレームFから特定された次の人物画像領域M2について行う(ステップS12)。、また、上記一連の処理(ステップS1〜S12)を動画像中の各フレームに対して順次行って、データベース6に各人物(人物ID)毎の位置情報を時間情報を伴った時系列情報として蓄積記録し、ユーザから終了指示が入力されたところで処理動作を終了する(ステップS13)。
フレームに映された複数の人物が移動してこれら人物の画像領域がフレーム中で重なる交差状態がある場合には、これら人物を取り違えてしまう混同が生ずる可能性があるが、上記のような判断処理を行うことにより、混同を生ずることなく、人物の同一性を保って当該人物の位置情報履歴をデータベース6に記録することができる。
また、上記のような判断処理を行うことにより、フレームから一旦外に出た人物がフレーム中に再び映された場合にも、人物の同一性を保って当該人物の位置情報履歴をデータベース6に記録することができる。
また、上記のような判断処理を行うことにより、フレーム中に新規な人物が映された場合には、当該人物の追跡情報を追加して記録することができる。
本発明は、対象を人物以外の動体としたり、同一性を顔以外に服装や標識等とするといったように、様々な態様で実施することができる。
また、本発明は、例えば図6及び図7に示すように、撮影角を変えて配置した複数台のカメラC1、C2・・で撮影領域を重ねて撮影し、得られた複数の動画像を処理するようにしてもよい。
このように複数の動画像を処理する場合には、特徴画像抽出手段2が複数の動画像から動体を特定し得る人物画像領域や顔画像部分(特徴画像部分)をそれぞれ抽出し、位置検出手段3が各動画像の座標系で人物の位置情報を検出し、統合手段9が検出された各座標系の位置情報を同一座標系に変換して統合すればよい。
このように複数の動画像を用いることにより、多方向から撮影した画像により動体の同一性を判定することができて動体の追跡精度を高めることができ、更には、動体の時系列位置情報を三次元位置情報として記録することもできる。
本発明の一例に係る動体認識装置の構成図である。 本発明の一例に係る撮影状況を説明する図である。 本発明の一例に係る動画像フレームを説明する図である。 本発明の一例に係る追跡情報を説明する図である。 本発明の一例に係る動体認識装置の処理手順を説明する図である。 本発明の他の一例に係る動体認識装置の構成図である。 本発明の他の一例に係る撮影状況を説明する図である。
符号の説明
1:認識装置、 2:特徴画像抽出手段、
3:位置検出手段、 4:判定手段、
5:情報保持手段、 6:データベース、
7:探索手段、 8:ID付与手段、
9:統合手段、 C,C1、C2:カメラ、
F:フレーム、 M1、M2:人物画像領域、
P1、P2:人物、 T1、T2:顔画像部分、

Claims (3)

  1. カメラにより撮影された動画像に基づいて動体を認識追跡する動体認識装置において、
    前記動画像における対象フレームとその前フレームとの間で動きのある画像部分を前記動体に対応する動体画像部分として特定する特定手段と、
    前記特定手段により特定された動体画像部分から前記動体を特定し得る特徴画像部分を抽出する抽出手段と、
    前記対象フレーム中の動体画像部分又は特徴画像部分に基づいて、前記対象フレームにおける前記動体の位置情報を検出する位置検出手段と、
    前記動体の特徴画像部分と当該動体についてフレーム毎に検出された位置情報とを対応付けて記録した追跡情報を記憶する記憶手段と、を有し、
    前記記憶手段は、
    前記特定手段により特定された前記対象フレーム中の動体画像部分と前記前フレーム中の動体画像部分との距離が所定値以下である場合であって、かつ、前記対象フレーム中の動体画像部分から抽出された特徴画像部分と前記前フレーム中の動体画像部分に係る動体の位置情報が記録された追跡情報に係る特徴画像部分とが同一性を有すると判定された場合には、前記前フレーム中の動体画像部分に係る動体の位置情報が記録された追跡情報に、前記対象フレーム中の動体画像部分に係る動体の位置情報を記録し、
    前記特定手段により特定された前記対象フレーム中の動体画像部分と前記前フレーム中の動体画像部分との距離が所定値以下でない場合、又は、前記判定において同一性を有しないと判定された場合には、前記対象フレーム中の動体画像部分から抽出された特徴画像部分と同一性を有する特徴画像部分に係る追跡情報を探索し、当該探索により見付かった追跡情報に、前記対象フレーム中の動体画像部分に係る動体の位置情報を記録する、
    ことを特徴とする動体認識装置。
  2. 請求項1に記載の動体認識装置において、
    前記追跡情報は、動体を特定し得る識別子と当該動体の特徴画像部分と当該動体についてフレーム毎に検出された位置情報とを対応付けて記録しており、
    前記記憶手段は、
    前記特定手段により特定された前記対象フレーム中の動体画像部分と前記前フレーム中の動体画像部分との距離が所定値以下でない場合、又は、前記判定において同一性を有しないと判定された場合であって、前記対象フレーム中の動体画像部分から抽出された特徴画像部分と同一性を有する特徴画像部分に係る追跡情報を探索したものの該当する追跡情報が見付からなかった場合に、その動体を特定し得る識別子を新規に付与し、当該動体について新規に付与された識別子と前記対象フレーム中の動体画像部分から抽出された特徴画像部分と前記対象フレーム中の動体画像部分に係る動体の位置情報とを対応付けて記録した追跡情報を新規に記憶する、
    ことを特徴とする動体認識装置。
  3. コンピュータに、
    カメラにより撮影された動画像に基づいて、対象フレームとその前フレームとの間で動きのある画像部分を前記動体に対応する動体画像部分として特定する特定機能と、
    前記特定機能により特定された動体画像部分から前記動体を特定し得る特徴画像部分を抽出する抽出機能と、
    前記対象フレーム中の動体画像部分又は特徴画像部分に基づいて、前記対象フレームにおける前記動体の位置情報を検出する位置検出機能と、
    前記動体の特徴画像部分と当該動体についてフレーム毎に検出された位置情報とを対応付けて記録した追跡情報を記憶する記憶機能と、
    を実現させるためのプログラムであり、
    前記記憶機能は、
    前記特定機能により特定された前記対象フレーム中の動体画像部分と前記前フレーム中の動体画像部分との距離が所定値以下である場合であって、かつ、前記対象フレーム中の動体画像部分から抽出された特徴画像部分と前記前フレーム中の動体画像部分に係る動体の位置情報が記録された追跡情報に係る特徴画像部分とが同一性を有すると判定された場合には、前記前フレーム中の動体画像部分に係る動体の位置情報が記録された追跡情報に、前記対象フレーム中の動体画像部分に係る動体の位置情報を記録し、
    前記特定機能により特定された前記対象フレーム中の動体画像部分と前記前フレーム中の動体画像部分との距離が所定値以下でない場合、又は、前記判定において同一性を有しないと判定された場合には、前記対象フレーム中の動体画像部分から抽出された特徴画像部分と同一性を有する特徴画像部分に係る追跡情報を探索し、当該探索により見付かった追跡情報に、前記対象フレーム中の動体画像部分に係る動体の位置情報を記録する、
    ことを特徴とするプログラム。
JP2004320240A 2004-11-04 2004-11-04 動体認識装置 Expired - Fee Related JP4650669B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004320240A JP4650669B2 (ja) 2004-11-04 2004-11-04 動体認識装置
US11/154,583 US7693310B2 (en) 2004-11-04 2005-06-17 Moving object recognition apparatus for tracking a moving object based on photographed image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004320240A JP4650669B2 (ja) 2004-11-04 2004-11-04 動体認識装置

Publications (2)

Publication Number Publication Date
JP2006133946A JP2006133946A (ja) 2006-05-25
JP4650669B2 true JP4650669B2 (ja) 2011-03-16

Family

ID=36261935

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004320240A Expired - Fee Related JP4650669B2 (ja) 2004-11-04 2004-11-04 動体認識装置

Country Status (2)

Country Link
US (1) US7693310B2 (ja)
JP (1) JP4650669B2 (ja)

Families Citing this family (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7792333B2 (en) * 2004-10-19 2010-09-07 Sri International Method and apparatus for person identification
JP4459788B2 (ja) * 2004-11-16 2010-04-28 パナソニック株式会社 顔特徴照合装置、顔特徴照合方法、及びプログラム
JP2006178516A (ja) * 2004-12-20 2006-07-06 Mitsubishi Electric Corp 監視記録装置
JP4218670B2 (ja) * 2005-09-27 2009-02-04 オムロン株式会社 前方撮影装置
US8228382B2 (en) * 2005-11-05 2012-07-24 Ram Pattikonda System and method for counting people
JP2007219713A (ja) * 2006-02-15 2007-08-30 Sony Corp 照会システム、撮像装置、照会装置、情報処理方法、プログラム
JP2007281680A (ja) * 2006-04-04 2007-10-25 Sony Corp 画像処理装置および画像表示方法
JP2007334623A (ja) * 2006-06-15 2007-12-27 Toshiba Corp 顔認証装置、顔認証方法、および入退場管理装置
JP2008017042A (ja) 2006-07-04 2008-01-24 Sony Corp 情報処理装置および方法、並びにプログラム
JP4819001B2 (ja) * 2006-07-25 2011-11-16 富士フイルム株式会社 撮影装置および方法並びにプログラム、画像処理装置および方法並びにプログラム
US7403643B2 (en) * 2006-08-11 2008-07-22 Fotonation Vision Limited Real-time face tracking in a digital image acquisition device
JP4831623B2 (ja) * 2007-03-29 2011-12-07 Kddi株式会社 動画像の顔インデックス作成装置およびその顔画像追跡方法
US8928459B2 (en) * 2007-06-15 2015-01-06 Worcester Polytechnic Institute Precision location methods and systems
US8682031B2 (en) * 2008-04-23 2014-03-25 Nec Corporation Image processing device, camera, image processing method, and program
JP4585580B2 (ja) * 2008-04-24 2010-11-24 東芝テック株式会社 人物動線追跡システム
CN102090144B (zh) * 2008-07-08 2014-07-09 皇家飞利浦电子股份有限公司 用于确定led发光单元的相对位置的方法和装置
TW201004339A (en) * 2008-07-09 2010-01-16 Univ Nat Taiwan Method and system for processing synthetic graphic images on digital video file
US9480919B2 (en) * 2008-10-24 2016-11-01 Excalibur Ip, Llc Reconfiguring reality using a reality overlay device
JP4968249B2 (ja) * 2008-12-15 2012-07-04 ソニー株式会社 情報処理装置及び方法、並びにプログラム
JP5127692B2 (ja) * 2008-12-25 2013-01-23 キヤノン株式会社 撮像装置及びその追尾方法
US9767351B2 (en) 2009-01-15 2017-09-19 AvidaSports, LLC Positional locating system and method
US8330611B1 (en) * 2009-01-15 2012-12-11 AvidaSports, LLC Positional locating system and method
US8812226B2 (en) * 2009-01-26 2014-08-19 GM Global Technology Operations LLC Multiobject fusion module for collision preparation system
US8364442B2 (en) * 2009-02-17 2013-01-29 Schlumberger Technology Corporation Automated structural interpretation
IL197996A (en) * 2009-04-05 2014-07-31 Rafael Advanced Defense Sys A method for locating people
JP5247569B2 (ja) * 2009-04-09 2013-07-24 富士フイルム株式会社 人物追跡装置、人物追跡方法及びプログラム
US8254633B1 (en) * 2009-04-21 2012-08-28 Videomining Corporation Method and system for finding correspondence between face camera views and behavior camera views
US8325981B2 (en) * 2009-04-21 2012-12-04 Nec Soft, Ltd. Human tracking apparatus, human tracking method, and human tracking processing program
TW201206192A (en) * 2010-07-23 2012-02-01 Hon Hai Prec Ind Co Ltd Detection device and method
WO2012121166A1 (ja) * 2011-03-04 2012-09-13 日本電気株式会社 流通管理システム、流通管理方法及びそれらに用いられる装置、ラベル、プログラム
US8306267B1 (en) 2011-05-09 2012-11-06 Google Inc. Object tracking
US8620088B2 (en) * 2011-08-31 2013-12-31 The Nielsen Company (Us), Llc Methods and apparatus to count people in images
KR101381439B1 (ko) * 2011-09-15 2014-04-04 가부시끼가이샤 도시바 얼굴 인식 장치 및 얼굴 인식 방법
TW201401184A (zh) * 2012-06-18 2014-01-01 Altek Corp 智慧提示裝置及其方法
US9418428B2 (en) * 2012-07-02 2016-08-16 Nec Corporation Position management device, position management system, position management method, and position management program
DE102012212017A1 (de) * 2012-07-10 2014-04-03 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zum Betreiben eines Fahrzeugs
JP5356615B1 (ja) * 2013-02-01 2013-12-04 パナソニック株式会社 顧客行動分析装置、顧客行動分析システムおよび顧客行動分析方法
JP5438859B1 (ja) * 2013-05-30 2014-03-12 パナソニック株式会社 客層分析装置、客層分析システムおよび客層分析方法
WO2015037713A1 (ja) * 2013-09-13 2015-03-19 日本電気株式会社 情報処理装置、情報処理方法およびプログラム
US9986289B2 (en) 2015-03-02 2018-05-29 The Nielsen Company (Us), Llc Methods and apparatus to count people
JP2017021557A (ja) * 2015-07-10 2017-01-26 ソニー株式会社 画像処理装置、画像処理方法、並びにプログラム
JP2017097510A (ja) * 2015-11-20 2017-06-01 ソニー株式会社 画像処理装置と画像処理方法およびプログラム
CN105844302A (zh) * 2016-04-07 2016-08-10 南京新与力文化传播有限公司 基于深度学习的自动计算商品潮流指数的方法
CN107666590B (zh) * 2016-07-29 2020-01-17 华为终端有限公司 一种目标监控方法、摄像头、控制器和目标监控***
JP6659524B2 (ja) * 2016-11-18 2020-03-04 株式会社東芝 移動体追跡装置、表示装置および移動体追跡方法
CN110662417A (zh) * 2017-05-17 2020-01-07 inaho株式会社 农作业装置、农作业管理***以及程序
US11003916B2 (en) * 2017-11-03 2021-05-11 Toyota Research Institute, Inc. Systems and methods for object historical association
CN108921874B (zh) * 2018-07-04 2020-12-29 百度在线网络技术(北京)有限公司 人体跟踪处理方法、装置及***
US20220345619A1 (en) * 2019-09-27 2022-10-27 Ricoh Company, Ltd. Apparatus, image processing system, communication system, method for setting, image processing method, and recording medium
TWI762958B (zh) * 2020-06-22 2022-05-01 威聯通科技股份有限公司 收集臉部辨識資料的方法及系統
CN113377977A (zh) * 2021-06-17 2021-09-10 深圳市睿联技术股份有限公司 一种视频信息生成方法、装置、***和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002157599A (ja) * 2000-11-17 2002-05-31 Nippon Telegr & Teleph Corp <Ntt> 物体検出認識方法,物体検出認識プログラムを記録した記録媒体および物体監視追跡装置
JP2003250150A (ja) * 2002-02-26 2003-09-05 Oki Electric Ind Co Ltd 動画像による人物追跡装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02311962A (ja) 1989-05-29 1990-12-27 Kougakuin Univ 顔画像による個人識別方法と装置
JP3521637B2 (ja) 1996-08-02 2004-04-19 オムロン株式会社 通過人数計測装置及びそれを用いた入退場者数管理システム
US6111517A (en) * 1996-12-30 2000-08-29 Visionics Corporation Continuous video monitoring using face recognition for access control
JP3584334B2 (ja) * 1997-12-05 2004-11-04 オムロン株式会社 人間検出追跡システムおよび人間検出追跡方法
US6148092A (en) * 1998-01-08 2000-11-14 Sharp Laboratories Of America, Inc System for detecting skin-tone regions within an image
US6542621B1 (en) * 1998-08-31 2003-04-01 Texas Instruments Incorporated Method of dealing with occlusion when tracking multiple objects and people in video sequences
JP3490910B2 (ja) 1998-09-28 2004-01-26 三洋電機株式会社 顔領域検出装置
JP2002269546A (ja) 2001-03-14 2002-09-20 Atr Onsei Gengo Tsushin Kenkyusho:Kk 自動顔トラッキングシステムおよび自動顔トラッキング方法
US20090231436A1 (en) * 2001-04-19 2009-09-17 Faltesek Anthony E Method and apparatus for tracking with identification
US7330566B2 (en) * 2003-05-15 2008-02-12 Microsoft Corporation Video-based gait recognition

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002157599A (ja) * 2000-11-17 2002-05-31 Nippon Telegr & Teleph Corp <Ntt> 物体検出認識方法,物体検出認識プログラムを記録した記録媒体および物体監視追跡装置
JP2003250150A (ja) * 2002-02-26 2003-09-05 Oki Electric Ind Co Ltd 動画像による人物追跡装置

Also Published As

Publication number Publication date
US7693310B2 (en) 2010-04-06
US20060093185A1 (en) 2006-05-04
JP2006133946A (ja) 2006-05-25

Similar Documents

Publication Publication Date Title
JP4650669B2 (ja) 動体認識装置
Dev et al. Student attendance system using face recognition
Kamgar-Parsi et al. Toward development of a face recognition system for watchlist surveillance
Bustard et al. Toward unconstrained ear recognition from two-dimensional images
JP4241763B2 (ja) 人物認識装置及びその方法
US8135220B2 (en) Face recognition system and method based on adaptive learning
US20060018516A1 (en) Monitoring activity using video information
Ogale A survey of techniques for human detection from video
Killioğlu et al. Anti-spoofing in face recognition with liveness detection using pupil tracking
Ouanan et al. Facial landmark localization: Past, present and future
Kacete et al. Real-time eye pupil localization using Hough regression forest
Krzeszowski et al. View independent human gait recognition using markerless 3D human motion capture
Sharmila et al. Automatic Attendance System based on FaceRecognition using Machine Learning
Baytamouny et al. AI-based home security system with face recognition
Zervos Multi-camera face detection and recognition applied to people tracking
Tu et al. An intelligent video framework for homeland protection
Kadam et al. Review paper on contactless attendance system based on face recognition
Siriteerakul Advance in head pose estimation from low resolution images: A review
Bhanushree et al. Feature Based Face Recognition using Machine Learning Technniques
Micheloni et al. An integrated surveillance system for outdoor security
Arsié et al. Multiple camera person tracking in multiple layers combining 2d and 3d information
Srivastava et al. Face Verification System with Liveness Detection
Meivel et al. Hybrid Student Authentication System Using RFID Reader and Face Biometrics Using Deep Learning Techniques
Rind et al. Identification of Human & various objects through Image Processing based system
Koodalsamy et al. Face Recognition using Deep Learning

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070928

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071016

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071017

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100614

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101026

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20101026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101201

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4650669

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131224

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees