JP2007523429A - ロバストな情報融合を利用するオブジェクトのマルチモーダルコンポーネントベースドトラッキングのための方法及びシステム - Google Patents
ロバストな情報融合を利用するオブジェクトのマルチモーダルコンポーネントベースドトラッキングのための方法及びシステム Download PDFInfo
- Publication number
- JP2007523429A JP2007523429A JP2006554240A JP2006554240A JP2007523429A JP 2007523429 A JP2007523429 A JP 2007523429A JP 2006554240 A JP2006554240 A JP 2006554240A JP 2006554240 A JP2006554240 A JP 2006554240A JP 2007523429 A JP2007523429 A JP 2007523429A
- Authority
- JP
- Japan
- Prior art keywords
- tracking
- component
- model
- sample
- residual error
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/215—Motion-based segmentation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
- G06V10/245—Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/754—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Pathology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Image Analysis (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
Abstract
Description
本出願は2004年2月20日に提出された米国仮出願シリアル番号60/546232の利益を主張し、この米国仮出願は完全に参考文献として組み込まれている。
本発明はオブジェクトの動きをトラッキングするためのシステム及び方法に関し、より特定すれば、ロバストな情報融合(robust information fusion)を利用するオブジェクトのマルチモーダルコンポーネントベースドトラッキング(multi-modal component-based tracking)のためのシステム及び方法に関する。
視覚的にオブジェクトをトラッキングする場合に遭遇する1つの問題はターゲット移動及び/又はカメラ移動による固有の変化を処理するために十分にロバストでなければならないターゲットの外観の表示を維持する能力である。テンプレートマッチングに基づく方法は成功裡にターゲットをトラッキングするためにモデルテンプレートを適合する必要がある。適合なしでは、トラッキングは外観が著しく変化しない場合に短期間にわたってしか信頼できない。
本発明はオブジェクトをトラッキングするためのシステム及び方法を開示する。複数の画像フレームを含むビデオシーケンスが受信される。オブジェクト外観分布のサンプルベースの表示が維持される。オブジェクトが1つ以上のコンポーネントに分割される。各コンポーネントに対して、サンプルベースの表示に関してその位置及び不確定性が推定される。最も主要な動きを決定するために各コンポーネントに対して可変バンド幅密度ベースの融合(Variable Bandwidth Density Based Fusion VBDF)が適用される。動き推定値がオブジェクトのトラックを決定するために使用される。
本発明の有利な実施例が次に詳しく記述され、同一の参照符号は同一の要素を指示しており、次のような添付図面を参照する。
本発明はオブジェクトの動きをトラッキングするためのシステム及び方法に関する。図1は本発明によるロバストな情報融合を使用してオブジェクトのマルチモデルコンポーネントベースドトラッキング(multi-model component based tracking)のためのシステムの例示的なハイレベルブロック線図を示す。このようなシステムは例えば人物又は顔面フィーチャの運動をトラッキングするためのような監視適用事例に使用される。本発明は組み立てラインにおけるオブジェクトをトラッキングするためにも使用されうる。他の適用事例は医療適用事例のための人の器官のトラッキングのために発生されうる。本発明が他の環境でも十分に使用されうることは当業者には理解されるだろう。
はデータ依存ウェイトwi(x)により重み付けされるバンド幅行列の調和平均を表し
において計算される。計算は以前のフレームにおいて推定されたコンポーネントiの位置である
からスタートする(ステップ304)。画像フレームのシーケンス(j=1...n)に対して、コンポーネントiの位置
がVBDF推定器を使用して推定される(ステップ306)。コンポーネント位置は式(8)を最小化することによって計算される変換を使用して制約される(ステップ308)。新しい外観が、もしそのメディアン残留誤差が予め定められた閾値Thより小さいならば、モデルセットに加えられる(ステップ310)。
104 カメラ
106 プロセッサ
108 出力
110 データベース
202 画像フレーム
204 矩形
206 現在のフレーム
208 現在の見本、モデルセット
210 現在の見本、モデルセット
212 現在の見本、モデルセット
220 コンポーネント
702 ピーク
704 ピーク
810 矩形
812 ループ
814 ループ
Claims (27)
- オブジェクトをトラッキングするための方法において、該方法は次のステップを含む、すなわち、
複数の画像フレームから成るビデオシーケンスを受信するステップ、
オブジェクト外観分布のサンプルベースの表示を維持するステップ、
オブジェクトを1つ以上のコンポーネントに分割するステップ、
各コンポーネントに対して、サンプルベースの表示に関してその位置及び不確定性を推定するステップ、
最も主要な動きを決定するために各コンポーネントに対して可変バンド幅密度ベースの融合(Variable Bandwidth Density Based Fusion VBDF)を適用するステップ、
動き推定値を使用してオブジェクトのトラックを決定するステップを含む、オブジェクトをトラッキングするための方法。 - オブジェクトのトラッキングはオブジェクトを含む各後続画像フレームにおいて実施される、請求項1記載の方法。
- コンポーネントの相対的位置はグローバルパラメトリックモーション(global parametric motion)を使用して制約される、請求項1記載の方法。
- コンポーネント位置に関する残留誤差はモデルテンプレートに関連して測定される、請求項1記載の方法。
- もし残留誤差が予め定められた閾値より下であるならば、現在のフレームがモデルテンプレートに加えられる、請求項4記載の方法。
- 高い残留誤差は、オブジェクトが少なくとも部分的に遮蔽されている(occluded)ことを指示する、請求項5記載の方法。
- 高い残留誤差は、オブジェクトが照明条件における変化により影響を受けていることを指示する、請求項5記載の方法。
- トラッキングされているオブジェクトは顔である、請求項1記載の方法。
- トラッキングされているオブジェクトは人体である、請求項1記載の方法。
- オブジェクト外観分布のサンプルベースの表示は画像フレームからオフラインで得られるモデルテンプレートを含む、請求項1記載の方法。
- オブジェクト外観分布のサンプルベースの表示は画像フレームからオンラインで得られるモデルテンプレートを含む、請求項1記載の方法。
- コンポーネントの相対的位置は形状モデルを使用して制約される、請求項1記載の方法。
- 複数の画像フレームを含む医療ビデオシーケンスにおける候補オブジェクトをトラッキングするための方法において、オブジェクトは複数のラベリングされたコントロールポイントによって表示され、前記方法は次のステップを含む、すなわち、
各コントロールポイント毎に位置及び不確定性を推定するステップ、
多重外観モデルを維持するステップ、
各コントロールポイントを1つ以上のモデルと比較するステップ、
VBDF推定器を使用して各コントロールポイントのもっともありそうな現在の位置を決定するステップ、
全てのコントロールポイントの座標を連結するステップ、
コントロールポイントのセットを最もこのコントロールポイントのセットに類似しているモデルと融合するステップを含む、複数の画像フレームを含む医療ビデオシーケンスにおける候補オブジェクトをトラッキングするための方法。 - コントロールポイントは心内膜壁の輪郭に関連付けられている、請求項13記載の方法。
- 方法は心内膜壁の変形可能な動きをトラッキングする、請求項14記載の方法。
- オブジェクトをトラッキングするためのシステムにおいて、該システムは次のものを含む、すなわち、
画像フレームのビデオシーケンスを捕捉するための少なくとも1つのカメラ、
該少なくとも1つのカメラに関連付けられたプロセッサを含み、該プロセッサは次のステップを実施する、すなわち、
i)オブジェクト外観分布のサンプルベースの表示を維持するステップ、
ii)オブジェクトを1つ以上のコンポーネントに分割するステップ、
iii)各コンポーネントに対して、サンプルベースの表示に関してその位置及び不確定性を推定するステップ、
iv)最も主要な動きを決定するために各コンポーネントに対して可変バンド幅密度ベースの融合(Variable Bandwidth Density Based Fusion VBDF)を適用するステップ、
v)動き推定値を使用してオブジェクトのトラックを決定するステップ
を実施する、オブジェクトをトラッキングするためのシステム。 - オブジェクトのトラッキングはオブジェクトを含む各後続画像フレームにおいて実施される、請求項16記載のシステム。
- コンポーネントの相対的位置はグローバルパラメトリックモーションを使用して制約される、請求項16記載のシステム。
- コンポーネント位置に関する残留誤差はモデルテンプレートに関連して測定される、請求項16記載のシステム。
- もし残留誤差が予め定められた閾値より下であるならば、現在のフレームがモデルテンプレートに加えられる、請求項19記載のシステム。
- 高い残留誤差は、オブジェクトが少なくとも部分的に遮蔽されている(occluded)ことを指示する、請求項20記載のシステム。
- 高い残留誤差は、オブジェクトが照明条件における変化により影響を受けていることを指示する、請求項20記載のシステム。
- トラッキングされているオブジェクトは顔である、請求項16記載のシステム。
- トラッキングされているオブジェクトは人体である、請求項16記載のシステム。
- オブジェクト外観分布のサンプルベースの表示は画像フレームからオフラインで得られるモデルテンプレートを含む、請求項16記載のシステム。
- オブジェクト外観分布のサンプルベースの表示は画像フレームからオンラインで得られるモデルテンプレートを含む、請求項16記載のシステム。
- コンポーネントの相対的位置は形状モデルを使用して制約される、請求項16記載のシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US54623204P | 2004-02-20 | 2004-02-20 | |
US11/058,784 US7072494B2 (en) | 2004-02-20 | 2005-02-16 | Method and system for multi-modal component-based tracking of an object using robust information fusion |
PCT/US2005/005248 WO2005083634A1 (en) | 2004-02-20 | 2005-02-18 | Method and system for multi-modal component-based tracking of an object using robust information fusion |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007523429A true JP2007523429A (ja) | 2007-08-16 |
Family
ID=34863952
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006554240A Pending JP2007523429A (ja) | 2004-02-20 | 2005-02-18 | ロバストな情報融合を利用するオブジェクトのマルチモーダルコンポーネントベースドトラッキングのための方法及びシステム |
Country Status (5)
Country | Link |
---|---|
US (1) | US7072494B2 (ja) |
EP (1) | EP1716541A1 (ja) |
JP (1) | JP2007523429A (ja) |
KR (1) | KR100860640B1 (ja) |
WO (1) | WO2005083634A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011104381A (ja) * | 2009-11-19 | 2011-06-02 | Medison Co Ltd | 超音波空間合成映像を提供する超音波システムおよび方法 |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7466841B2 (en) * | 2004-08-16 | 2008-12-16 | Siemens Corporate Research, Inc. | Method for traffic sign detection |
US7929728B2 (en) * | 2004-12-03 | 2011-04-19 | Sri International | Method and apparatus for tracking a movable object |
US7720257B2 (en) * | 2005-06-16 | 2010-05-18 | Honeywell International Inc. | Object tracking system |
US7620205B2 (en) * | 2005-08-31 | 2009-11-17 | Siemens Medical Solutions Usa, Inc. | Method for characterizing shape, appearance and motion of an object that is being tracked |
JP4532419B2 (ja) * | 2006-02-22 | 2010-08-25 | 富士フイルム株式会社 | 特徴点検出方法および装置並びにプログラム |
US20070237359A1 (en) * | 2006-04-05 | 2007-10-11 | Zehang Sun | Method and apparatus for adaptive mean shift tracking |
US7884754B1 (en) | 2006-04-28 | 2011-02-08 | The United States Of America As Represented By The Secretary Of The Navy | Method of distributed estimation using multiple asynchronous sensors |
US7885469B2 (en) * | 2006-05-22 | 2011-02-08 | Microsoft Corporation | Encoded high dynamic range textures |
EP1879149B1 (en) * | 2006-07-10 | 2016-03-16 | Fondazione Bruno Kessler | method and apparatus for tracking a number of objects or object parts in image sequences |
US7636098B2 (en) | 2006-09-28 | 2009-12-22 | Microsoft Corporation | Salience preserving image fusion |
EP2171683A1 (en) | 2007-06-29 | 2010-04-07 | Thomson Licensing | Apparatus and method for reducing artifacts in images |
US9019381B2 (en) * | 2008-05-09 | 2015-04-28 | Intuvision Inc. | Video tracking systems and methods employing cognitive vision |
TWI382762B (zh) * | 2008-11-17 | 2013-01-11 | Ind Tech Res Inst | 移動物體的追蹤方法 |
US8478012B2 (en) * | 2009-09-14 | 2013-07-02 | General Electric Company | Methods, apparatus and articles of manufacture to process cardiac images to detect heart motion abnormalities |
EP2345998B1 (en) * | 2009-12-01 | 2019-11-20 | Honda Research Institute Europe GmbH | Multi-object tracking with a knowledge-based, autonomous adaptation of the tracking modeling level |
JP2012133759A (ja) * | 2010-11-29 | 2012-07-12 | Canon Inc | 侵入物体の検知を行うことができる物体追尾装置、物体追尾方法及び記憶媒体 |
US10849574B2 (en) * | 2011-06-22 | 2020-12-01 | Medtronic Navigation, Inc. | Interventional imaging |
EP2620162A1 (de) | 2012-01-27 | 2013-07-31 | Life Science Inkubator | Enzym-Polymer-Konjugat zur Endotoxin-Detoxifikation |
JP6044293B2 (ja) * | 2012-11-19 | 2016-12-14 | 株式会社Ihi | 3次元物体認識装置および3次元物体認識方法 |
US9727778B2 (en) * | 2014-03-28 | 2017-08-08 | Wipro Limited | System and method for guided continuous body tracking for complex interaction |
DE102015104937A1 (de) * | 2015-03-31 | 2016-10-06 | Valeo Schalter Und Sensoren Gmbh | Verfahren zum Beurteilen einer Zugehörigkeit eines Erfassungspunkts zu einem Objekt in einem Umgebungsbereich eines Kraftfahrzeugs sowie Fahrerassistenzsystem |
CN107134186A (zh) * | 2016-02-29 | 2017-09-05 | 九江职业技术学院 | 带有多模成像功能的控管一体化智能教学终端 |
US10242447B2 (en) * | 2016-09-08 | 2019-03-26 | Sony Corporation | Video processing system and method for deformation and occlusion resistant object tracking in video content |
US10558886B2 (en) * | 2017-11-15 | 2020-02-11 | International Business Machines Corporation | Template fusion system and method |
CN108093213B (zh) * | 2017-12-13 | 2020-05-08 | 中国人民解放军陆军工程大学 | 一种基于视频监控的目标轨迹模糊数据融合方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002358526A (ja) * | 2001-06-01 | 2002-12-13 | Nhk Engineering Services Inc | 映像オブジェクト検出・追跡装置 |
JP2003196661A (ja) * | 2001-12-07 | 2003-07-11 | Xerox Corp | 視覚型動き解析及び視覚型追跡のためのアピアランスモデル |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6301370B1 (en) * | 1998-04-13 | 2001-10-09 | Eyematic Interfaces, Inc. | Face recognition from video images |
US6502082B1 (en) | 1999-06-01 | 2002-12-31 | Microsoft Corp | Modality fusion for object tracking with training system and method |
US6674877B1 (en) * | 2000-02-03 | 2004-01-06 | Microsoft Corporation | System and method for visually tracking occluded objects in real time |
-
2005
- 2005-02-16 US US11/058,784 patent/US7072494B2/en not_active Expired - Fee Related
- 2005-02-18 JP JP2006554240A patent/JP2007523429A/ja active Pending
- 2005-02-18 KR KR1020067017538A patent/KR100860640B1/ko not_active IP Right Cessation
- 2005-02-18 EP EP05723300A patent/EP1716541A1/en not_active Withdrawn
- 2005-02-18 WO PCT/US2005/005248 patent/WO2005083634A1/en active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002358526A (ja) * | 2001-06-01 | 2002-12-13 | Nhk Engineering Services Inc | 映像オブジェクト検出・追跡装置 |
JP2003196661A (ja) * | 2001-12-07 | 2003-07-11 | Xerox Corp | 視覚型動き解析及び視覚型追跡のためのアピアランスモデル |
Non-Patent Citations (1)
Title |
---|
JPN7009003168, Xiang Sean Zhou, Dorin Comaniciu, Alok Gupta, "An Information Fusion Framework for Robust Shape Tracking", WORKSHOP ON STATISTICAL AND COMPUTATIONAL THEORIES OF VISION SCTV, 20031012, p.1−24, US * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011104381A (ja) * | 2009-11-19 | 2011-06-02 | Medison Co Ltd | 超音波空間合成映像を提供する超音波システムおよび方法 |
US8968199B2 (en) | 2009-11-19 | 2015-03-03 | Samsung Medison Co., Ltd. | Spatial compound imaging in an ultrasound system |
Also Published As
Publication number | Publication date |
---|---|
WO2005083634A1 (en) | 2005-09-09 |
US7072494B2 (en) | 2006-07-04 |
KR100860640B1 (ko) | 2008-09-26 |
US20050185826A1 (en) | 2005-08-25 |
EP1716541A1 (en) | 2006-11-02 |
KR20060116236A (ko) | 2006-11-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7072494B2 (en) | Method and system for multi-modal component-based tracking of an object using robust information fusion | |
US7558402B2 (en) | System and method for tracking a global shape of an object in motion | |
Tissainayagam et al. | Object tracking in image sequences using point features | |
AU2004294137B2 (en) | System and method for detecting and matching anatomical structures using appearance and shape | |
Zhou et al. | An information fusion framework for robust shape tracking | |
US6999599B2 (en) | System and method for mode-based multi-hypothesis tracking using parametric contours | |
US7376246B2 (en) | Subspace projection based non-rigid object tracking with particle filters | |
US9014465B2 (en) | System and method for detecting and tracking features in images | |
Georgescu et al. | Real-time multi-model tracking of myocardium in echocardiography using robust information fusion | |
US20030108220A1 (en) | Robust, on-line, view-based appearance models for visual motion analysis and visual tracking | |
US20070091085A1 (en) | Automatic 3D Face-Modeling From Video | |
EP2854104A1 (en) | Semi-dense simultaneous localization and mapping | |
Vogler et al. | The best of both worlds: Combining 3d deformable models with active shape models | |
Georgescu et al. | Multi-model component-based tracking using robust information fusion | |
CN1965332A (zh) | 利用鲁棒信息融合来基于多模组成部分地跟踪对象的方法和*** | |
Santiago et al. | A robust active shape model using an expectation-maximization framework | |
Berger et al. | Contour tracking in echocardiographic sequences without learning stage: Application to the 3d reconstruction of the beating left ventricule | |
Martínez et al. | Tracking human body parts using particle filters constrained by human biomechanics | |
Fleck et al. | PFAAM An Active Appearance Model based Particle Filter for both Robust and Precise Tracking | |
Lee | Statistical and geometric methods for visual tracking with occlusion handling and target reacquisition | |
Wong et al. | Real time human body tracking using wavenet | |
Ding et al. | Robust visual tracking using information theoretical learning | |
Chateau et al. | Realtime kernel based tracking | |
Sumathy | Face Recognition in Multi Camera Network with Sh Feature | |
Hoffmann et al. | Occlusions and active appearance models. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090708 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20091006 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20091014 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20091105 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20091112 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20091204 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20091211 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100408 |