JP2001005976A - オブジェクト表面を探索する画像空間を順序付ける方法 - Google Patents

オブジェクト表面を探索する画像空間を順序付ける方法

Info

Publication number
JP2001005976A
JP2001005976A JP2000142028A JP2000142028A JP2001005976A JP 2001005976 A JP2001005976 A JP 2001005976A JP 2000142028 A JP2000142028 A JP 2000142028A JP 2000142028 A JP2000142028 A JP 2000142028A JP 2001005976 A JP2001005976 A JP 2001005976A
Authority
JP
Japan
Prior art keywords
image
sequence
boundary
ordered
ordering
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2000142028A
Other languages
English (en)
Inventor
I-Jong Lin
イージョン・リン
Vetro Anthony
アンソニー・ヴェトロ
Huifang Sun
ハイファン・スン
Sun-Yuan Kung
スンユアン・クン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Information Technology Corp
Mitsubishi Electric Research Laboratories Inc
Original Assignee
Mitsubishi Electric Information Technology Corp
Mitsubishi Electric Research Laboratories Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Information Technology Corp, Mitsubishi Electric Research Laboratories Inc filed Critical Mitsubishi Electric Information Technology Corp
Publication of JP2001005976A publication Critical patent/JP2001005976A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/162Segmentation; Edge detection involving graph-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【課題】 形状の構造的情報を獲得することができ最も
好ましい結果をもたらすオブジェクト表面を探索する画
像空間を順序付ける方法を得る。 【解決手段】 シーケンスの各画像におけるオブジェク
トの境界を、隣接する画像の動き情報を用いて推定する
ステップ302と、各画像のうちの複数の部分を順序付
けして、画像の順序付きシーケンスを生成するステップ
325と、各画像におけるエッジを動き情報を用いてフ
ィルタリングするステップ340と、シーケンスの各順
序付き画像を探索することによりフィルタリングされた
エッジの位置を突止め、それによって各順序付き画像の
推定された境界の外側の新たな境界を形成するステップ
と、新たなオブジェクトの境界がオブジェクトの表面に
収束するまで、画像のシーケンスに亙ってその新たなオ
ブジェクトの境界を射影しつつ、フィルタリングおよび
探索を繰返すステップとを有する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は概して、画像空間の
順序付けに関し、特にビデオオブジェクトのセグメント
化に関するオブジェクト表面を探索する画像空間を順序
付ける方法に関する。
【0002】
【従来の技術】ISO MPEG−1およびMPEG−
2等の古い映像規格は、主に映像信号の時間的および空
間的圧縮を扱う比較的低レベルの仕様である。これらの
規格を用いて、広範囲の適用法に亙って高圧縮率の圧縮
を行うことができる。
【0003】MPEG−4等、新しい映像符号化規
格("Information Technology Genericcoding of audi
o/visual objects," ISO/IEC FDIS 14496-2(MPEG4 Visu
al), Nov.1998参照)は、任意形状のオブジェクトを、
別々のビデオオブジェクトプレーン((VOP)video
object planes)として符号化および復号化することを
可能にするものである。これら新しい規格は、自然のデ
ータと合成のデータとが統合され、かつ、あらゆる方法
でアクセスされる、インタラクティブ映像等のマルチメ
ディアにおける適用を可能とすることが意図されてい
る。例えば、ある映像から別の映像へ移動する像または
オブジェクトを「カット・アンド・ペースト」したい場
合がある。そのオブジェクトを識別するためには、ま
ず、映像が「セグメント化」されなければならない。映
像(アーカイブされている場合も新たに取得された場合
も含む)の量が与えられると、セグメント化プロセスは
完全に自動的に行われるかまたは半自動的に行われる。
【0004】半自動的である場合、第1の画像に対して
セグメント化を行う。この場合、オブジェクト追跡の問
題が起こる。自動的である場合、まずオブジェクトを識
別すること、次にオブジェクトを追跡することが問題と
なる。いずれの場合も、セグメント化プロセスは、ユー
ザが必要とする入力を最小化するよう企図されていなけ
ればならず、明らかに、まったく入力を必要としないの
が最適である。
【0005】ビデオシーケンスの各画像は、VOPを用
いて任意形状の画像領域にセグメント化される。各VO
Pは、例えば、形状、動きおよびテクスチャという点で
ビデオオブジェクトを記述する。上記規格では、ソース
画像からVOPの画像を生成する厳密な方法は定義され
ていない。通常の輝度成分および彩度成分に加えて、形
状情報により、「自然な」オブジェクトが表現されるも
のとする。形状データを、セグメント化マスクとして、
またはグレイスケールアルファプレーンとして提供する
ことにより、複数のオーバーレイしたオブジェクトを表
現することができる。ビデオオブジェクトは、オプティ
カルフロー、色および輝度等の低レベルの特徴に関連し
て広範囲に変化するため、VOPセグメント化は非常に
困難な問題である。
【0006】多くのセグメント化方法が知られている。
領域ベースのセグメント化方法には、メッシュベース、
動きモデルベースおよび分割併合(split-and-merge)
の方法がある。これら方法は、輝度等の空間的特徴に基
づいているため、誤った輪郭を生成する可能性があり、
場合によっては、前景のオブジェクトが背景に併合され
てしまう可能性もある。最近では、形態素時空間セグメ
ント化(morphological spatio-temporal segmentatio
n)が使用されている。この場合、空間的(輝度)およ
び時間的(動き)領域両方からの情報が、ベクトルを用
いて追跡される。この複雑な方法は、空間的領域を時間
的領域に誤って割当てる可能性があり、かつ、複数のオ
ブジェクトを含むビデオシーケンスに適用することが困
難である。
【0007】最も新しくMPEG委員会が規格化したも
のは、正式には「マルチメディアコンテンツ記述インタ
フェース(Multimedia Content Description Interfac
e)」と呼ばれるMPEG−7("MPEG-7 Context, Obje
ctives and Technical Roadmap," ISO/IEC N2729, Marc
h 1999参照)である。本質的に、この規格は、あらゆる
タイプのマルチメディア情報を記述するために使用する
ことができる1組のディスクリプタを開発しようとする
ものである。この記述は、コンテンツ自体に関連付けら
れており、ユーザが必要とする素材を高速かつ効率的に
探索することができるようにする。この規格は、それよ
り前の符号化規格に取って代ろうとするものではなく、
他の規格表現、特にMPEG−4に基づくものであるこ
とに留意することが重要である。これは、マルチメディ
アコンテンツは、異なるオブジェクトに分解することが
できるものであり、各オブジェクトは、一意のディスク
リプタのセットに割当てることが可能であるためであ
る。また、この規格は、コンテンツが格納されるフォー
マットとは無関係である。MPEG−7ディスクリプタ
は、圧縮データまたは非圧縮データに付加することが可
能である。
【0008】マルチメディアコンテンツのディスクリプ
タは、多くの方法で使用することができる(例えば、"M
PEG-7 Applications," ISO/IEC N2728, March 1999参
照)。以下の説明の目的で、最も興味深いのは、データ
ベース探索および検索に対する適用である。最も一般的
なケースでは、ユーザは、所望のオブジェクトについて
いくつかの属性を指定する。これら属性は、特定のオブ
ジェクトのテクスチャ、動きおよび形状を記述するディ
スクリプタを含むことができる。
【0009】
【発明が解決しようとする課題】形状表現の問題は、新
しい問題ではないが、非常に難しい問題である。多くの
方法が既に存在するが、それらの中には閉輪郭の幾何学
的特質に基づくものもあり、ある種の2Dバイナリ信号
の分解に基づくものもある。"Description of Core Exp
eriment for Motion/Shape," ISO/IEC N2690, March 19
99 に列挙されているように、MPEG委員会には、既
に多くの提案がなされている。輪郭に基づく提案には、
曲率スケール空間および正規化輪郭があり、分解に基づ
く提案には、ウェーブレットベースの輪郭記述、ゼルニ
ケモーメントおよび多層固有ベクトルがある。
【0010】形状記述はすべて、スケールおよび回転不
変量である必要がある。最も重要なのは、形状ディスク
リプタの有効性は、類似性ベースの検索におけるその性
能によって判断される、ということである。従って、形
状の構造的情報を獲得することができ、かつ境界内のノ
イズに対して頑健である、コンパクトなディスクリプタ
に対し、最も好ましい結果をもたらすことが期待されて
いる。
【0011】
【課題を解決するための手段】本発明に係るオブジェク
ト表面を探索する画像空間を順序付ける方法において
は、画像のシーケンスにおけるオブジェクトの表面を決
定する方法であって、シーケンスの各画像におけるオブ
ジェクトの境界を、シーケンスの隣接する画像の動き情
報を用いて推定するステップと、シーケンスの各画像の
うちの複数の部分を順序付けして、画像の順序付きシー
ケンスを生成し、順序付き部分が推定されたオブジェク
トの境界の外側であるステップと、各画像におけるエッ
ジを動き情報を用いてフィルタリングするステップと、
シーケンスの各順序付き画像を探索することによりフィ
ルタリングされたエッジの位置を突止め、それによって
各順序付き画像の推定された境界の外側の新たな境界を
形成するステップと、新たなオブジェクトの境界がオブ
ジェクトの表面に収束するまで、画像のシーケンスに亙
ってその新たなオブジェクトの境界を射影しつつ、フィ
ルタリングおよび探索を繰返すステップとを有する。
【0012】また、推定は、画像のシーケンスから動き
フィールドを抽出するステップと、動きフィールドに主
成分分析を適用することにより各画像のオブジェクトの
境界を推定するステップとを更に有する。
【0013】また、順序付けは、ボロノイ順序付け関数
を用いて、外側部分の画素を推定されたオブジェクトの
境界の最も近接する点に射影する。
【0014】また、探索は、推定されたオブジェクトの
境界の周囲の順序付き経路を維持しつつ、目的関数のコ
ストを最大化するステップを更に含む。
【0015】また、順序付き経路は、順序付けに関連し
て単調に増加している。
【0016】また、フィルタリングは、不連続な動きを
有する画像のエッジを増加させるステップと、一貫した
動きを有するエッジを減少させることにより、画像のシ
ーケンスに亙ってオブジェクトの表面を滑らかにするス
テップとを更に有する。
【0017】また、画像のシーケンスは、複数のオブジ
ェクトを含むものであって、複数のオブジェクトの各々
の表面を決定するステップを更に有する。
【0018】また、オブジェクトが遮蔽していない場
合、オブジェクト表面を探索により個々に決定する。
【0019】さらに、オブジェクトが遮蔽している場
合、オブジェクト表面を探索により同時に決定する。
【0020】
【発明の実施の形態】[概論]閉曲線の外部に関して2
次元(2D)空間を順序付ける簡単かつ有効な方法につ
いて説明する。以下に示す例では、2D空間は画像であ
り、閉曲線は、画像のグラフィックまたはビデオオブジ
ェクトの推定された境界を表す。順序付けを用いて、画
像のシーケンスにおけるオブジェクト表面を決定するこ
とができる。また、オブジェクトの形状の表現を導出す
るために閉曲線の内部に関する順序付けについても説明
する。
【0021】以下、2D画像の順序付けが、2つの特定
の適用例、すなわち、ビデオオブジェクトのセグメント
化および形状表現における問題に対して役立つことを示
す。後述するように、これら2つの適用例は、2D空間
のみの順序付けに基づいているが、この順序付けの方法
は、閉曲線を種々の、すなわちN次元の表面に置換える
ことができ、より高次元空間に容易に汎化される。
【0022】[ビデオオブジェクトセグメント化]映像
等、画像のシーケンスにおいて、ビデオオブジェクトセ
グメント化の問題は、以下のように述べることができ
る。すなわち、全体に輝度関数が定義された3D空間が
あるとすると、その輝度関数により、オブジェクトの表
面がその空間に射影すると推論する。換言すれば、ビデ
オオブジェクトセグメント化において、所定のオブジェ
クトに対応する映像の静止画像の各々の領域を見つけな
ければならない。
【0023】米国特許出願第9/236,838号公
報" Object Boundary Detection Using a Constrained
Viterbi Search "には、この問題の解決法のつとつが提
供されている。ここでは、問題となる領域が統合される
ことによってボリュームが定義される。このボリューム
は、正確なセグメント化に対応するものであり、内部が
その問題のボリュームである対応する表面の位置を突止
めるものである。
【0024】本実施の形態に示す解決法は、この方法に
非常に近いが、対応する表面の位置を突止める手段は、
異なる方法、すなわち、2D画像の順序付けによって実
現される。
【0025】[形状表現]形状表現の第2の問題は、セ
グメント化問題と幾分か関係しているが、ここでは、オ
ブジェクトの表面を定義することではなく、オブジェク
トの形状に対する一意の表現を定義することに関係す
る。
【0026】正式には、この問題は以下のように述べら
れる。すなわち、特定の瞬間においてオブジェクトを含
むボリュームの表面の「スナップショット」となる、オ
ブジェクト境界の輪郭が与えられた場合に、結果として
の形状を定義する特徴を表現する手段を決定する。
【0027】上述したように、かかる表現を有する動機
づけの1つは、探索および検索の適用法を容易にすると
いうことである。かかる表現を見つける多くの周知の技
術に関する問題は、特定の形状が構造的に類似した形状
に歪むことにより、常に類似した表現が生成されるとは
限らない、ということである。
【0028】例えば、多くの一般的な表現技術は、形状
の曲率に基づいている。しかしながら、透視変換または
アフィン変換によって可能なある方法によって形状が歪
められる場合、曲率を有する表現が非常に異なる結果を
もたらす可能性が非常に高い。同様に、ウェーブレット
または固有ベクトル分解に基づく他の方法、もしくは、
モーメントを抽出する手段にも、同様の問題が発生す
る。
【0029】この問題を解決する手がかりは、オブジェ
クトの構造的表現を定義することである。このように、
形状は、元の形状の構造的特徴全体を変えずに境界の局
所的な特徴を変更するよう、変化することができる。
【0030】説明されている、形状のかかる構造的表現
を得るための方法は、セグメント化の問題に対して用い
られるものと同じ順序付けの定義に基づいている。
【0031】[ボロノイ順序付けの定義]ビデオオブジ
ェクトセグメント化および形状表現の上述した問題の解
決法において、閉輪郭に関する空間の順序付けは、きわ
めて重要な要素である。
【0032】図1に示すように、画像空間I内の閉輪郭
CおよびCの開始点矢印バーx0が与えられている場
合、順序付け関数φ(矢印バーy,矢印バーx0)は、
以下のように定義される。
【0033】
【数1】
【0034】
【数2】
【0035】すなわち、画像空間Iにおける特定の点の
順序付けは、その点を曲線上のパラメータ化した点に射
影することによって得られる。点yにおける関数の値
は、C上のyに最も近接した点と開始点との間の、輪郭
Cに沿った右回りの距離である。射影は、上記式におけ
る内部最小化を満足するよう直交している。複数の点が
この条件を満足する場合、sの最小値が選択される。
【0036】レベルセットまたは距離ポテンシャルとは
対照的に、上記順序付け関数は、オブジェクトの形状を
空間に直接は射影せず、オブジェクトの周囲の「流れ
(flow)」を射影する。この順序付けは、オブジェクト
形状の柔軟な含意を画像空間に射影する。
【0037】順序付けを更に説明するために、図2の
(a)および図2の(b)は各々、上述した関数に従っ
て画像の外側部分と内側部分とに対して行われる順序付
けを示す。順序付けの「流れ」は、開始から終了に明か
ら暗で示されている。
【0038】[オブジェクト境界の決定]図3は、画像
301の入力シーケンスからのオブジェクト境界309
を決定する方法300を示す。本方法は、初期境界推定
302および反復ビタビ表面最適化304を含んでい
る。
【0039】[動きフィールド抽出]図3に示すよう
に、複数解像度オプティカルフローを用いて、画像の入
力シーケンス(映像301)から非常に密な動きフィー
ルド(MF)を抽出する(310)。ここで手がかりと
なる概念は、映像301がビデオオブジェクトを含む場
合、入力映像に、背景と異なってまとまって移動する画
素のクラスタが存在するということである。動きがシー
ケンス内の画像毎に点対応であると仮定すると、画像全
体をまとまって移動する画素のクラスタを捜すことがで
きる。
【0040】密な動きフィールドは、正確な角度から見
なければ必ずしも有益な情報を与えるものではない。入
力映像には多くの情報が存在し得るため、ここではシー
ン内のオブジェクトの単純な表現を捜す。
【0041】密な動きフィールドによって示される情報
はすべて、切取って同様の動きの領域に分けられた単一
の画像に還元することができる。このようにして、各画
素のすべての経路を見つけた後、主成分分析(PCA)
320を使用して3次元空間の情報に要約することがで
きる。
【0042】[主成分分析]一般に、動き推定は、2つ
の画像間の対応付けの手段を提供する。抽出された動き
フィールドが経時にわたってある程度の点対応を示すと
すると、初期画像平面における各画素に対する動き経路
を考える。これら対応する点の速度は、主成分分析によ
って分析される特徴ベクトルとして使用される。
【0043】本質的に、PCAは、実質的に同様の動き
ベクトルを有する密な動きフィールドにおける画素のク
ラスタを識別する。かかるグループのエッジの画素は、
オブジェクトの境界を近似する。
【0044】動き経路の速度から第1の主成分を抽出す
ることにより、動き経路の速度のPCAから初期空間位
置と結合された特徴ベクトルを生成する。初期位置は相
互に排他的であるため、これら特徴ベクトルは、関数型
の3D表面のサンプルを形成する。
【0045】表面の特徴は、以下のようにして決定され
る。ピークおよび鞍点は、動きフィールド分析により、
ジッタと、2つの異なるオブジェクトの2つの動きの間
の動き経路、すなわち動き不連続性を結び付ける滑らか
さと、が低下する、同様または同種の動きの領域であ
る。いかなる表面においても同様に、ピークおよび鞍点
を見つけるために、その表面のうちのいずれかの部分が
消えている場所を決定する。
【0046】ピークに関連する領域を見つけるために、
ピークの周囲の半高さ領域をとり、その領域を主成分空
間から実空間に戻すように変換する。そのピークに関連
する動き経路を見つけることにより、ピークを画像平面
上の点に変換することができ、それによって初期推定さ
れたオブジェクト境界の輪郭(IOB)306が推定さ
れる。
【0047】図3に示すように、このプロセスは、境界
を推定するプロセスを完了する。当然のことながら、オ
ブジェクト境界を推定する他の方法、例えばダイナミッ
クスネーク(dynamic snakes)等を用いて同様のタスク
を達成することも可能である。
【0048】なお、オブジェクト境界を推定する本方法
の主な強みは、密な動き情報を抽出し、この十分な情報
を、PCAを用いて管理可能かつ意味のあるデータセッ
トに翻訳することができる、ということである。更に、
主成分領域のデータの分析は、基礎となる映像のシーン
に存在する複数のオブジェクトを検出することに十分役
立つ。
【0049】[初期オブジェクト境界を用いる画像のボ
ロノイ順序付け]ステップ325(順序付けエンジン)
において、推定されたオブジェクト境界を用いて上述し
たように画像301の各々が順序付けられる。初期オブ
ジェクト境界の外側の画像の部分におけるすべての点
(画素)は、ボロノイ順序付け関数を用いて初期オブジ
ェクト境界上の最も近接した点に射影される。このボロ
ノイ順序付けは、局所的な領域をその周囲(perimete
r)を用いて順序付けすることにより、初期オブジェク
ト境界に関するより多くの情報を符号化する。探索空間
を順序付けすることにより、ボロノイ順序付き画像(V
OI)307を生成するために、探索空間を限定するだ
けでなく、動的計画法によって画像のシーケンスにおけ
るオブジェクト表面309を見つけることができるよう
にする。
【0050】[順序付き探索]オブジェクト境界306
とこの境界の外側のボロノイ順序付き画像307とを推
定すると、次に、順序付き探索(330)を実行するこ
とによって、オブジェクト表面309をより適切に推定
する近接した輪郭のセットを捜し出すことができる。こ
れら新たな輪郭のセットは、推定されたオブジェクト境
界306の外側に存在し、画像シーケンス301から導
出される補足情報308を取入れることによって見付け
出される。
【0051】なお、推定されたオブジェクト境界306
は、動き情報のみによって決定されたものである。初期
オブジェクト境界の周囲の順序付き探索330は、初期
境界の近似した形状を維持しつつ推定値を更に正確にし
ようとするものである。
【0052】順序付き探索330は、以下のようにして
定義することができる。Iが、初期輪郭
【0053】
【数3】
【0054】の周囲の順序付き空間を示すものとする。
かつ、
【0055】
【数4】
【0056】が、Cを包囲する新たな輪郭であるものと
する。
【0057】点矢印バーx’(s)における画像輝度の
関数である、ある目的関数J(矢印バーx’(s))が
与えられると、動的計画法を用いてC’を見つけること
ができる。動的計画法手順の目的は、順序付き経路を維
持しつつコストを最大化することである。以下の条件が
満たされる場合にのみ、経路がCの周囲で順序付けられ
る。
【0058】
【数5】
【0059】本質的に、上記条件は、新たな輪郭のセッ
トが、順序が常に増加している、すなわち、C’の順序
付けがそのパラメータ化と共に単調に増加している経路
に従うことを確実にする。これにより、経路が、振動お
よびバックトラックしてその空間内の初期輪郭Cのグロ
ーバルな特徴を保持しない点になることが防止される。
当然のことながら、ある程度の偏差は許容されるが、そ
れは、順序付き空間によって定義される限界内にあるよ
う制限される。
【0060】[動き分析エッジフィルタ]順序付き探索
330では、目的関数を用いて、最後に選択される経路
が決定される。1つの態様において、目的関数は、画像
内の各点のエッジ強度を決定する。この態様の主な欠点
は、画像が、真のオブジェクト境界に直接関係しない多
くの無用な情報を含むことである。ある意味で、未加工
のエッジ情報は、ノイズとみなすことができ、それはフ
ィルタリングする必要がある(340)。
【0061】エッジ情報をフィルタリングするために、
再び動きを利用する。オブジェクト境界における動き
は、通常不連続であるため、推定することが困難であ
る。従って、視覚情報を導入し、この情報を動きを用い
て強化する。オブジェクト境界では、不連続な動きを含
むエッジが最もあり得る点であるため、これらエッジは
強化される。これに対して、連続的または一貫した動き
を呈するエッジは、非境界点である可能性が最も高いた
め、弱められる。
【0062】以下に、複数の画像の輪郭間の滑らかさを
推定するために、どのようにエッジマップも使用できる
かを説明する。これは、隣接した画像におけるオブジェ
クト境界の時間射影をバイアスすることで行われる。こ
の反復フィードバック345プロセスを次に説明する。
経時亘るオブジェクトの境界(画像シーケンス)の滑ら
かな射影は、該オブジェクトの表面上に収束する。
【0063】[反復ビタビ表面最適化]オブジェクトは
滑らかな表面を有する傾向にあるため、これら滑らかさ
の制約を考慮しながらオブジェクト表面を繰返し探索す
ることができる。本質的に、本実施の形態における初期
境界および動き拡張エッジ情報の順序付けを説明する反
復プロセスによって、境界を再推定する。採られる方法
は、上述した米国特許出願第9/236,838号公報
に記載されている方法と類似している。まず、輪郭最適
化を用いて、単一画像問題に対する解が求められる。次
に、その解が反復フレームワークに挿入され、表面最適
化を用いて複数の画像に対して汎化される。
【0064】まず、単一画像問題に対する解を考える。
この目的は、順序付き探索330を用いて輪郭を見つけ
ることである。スコア関数は、以下の形態である。
【0065】
【数6】
【0066】ここで、(x1,…,xn,x(n+1))は経
路であり、(x1,…,xn)は1画素引いた別の経路で
あり、x,yは、順序付けに起因する歪み画像の座標を
表す。
【0067】画像の各画素をグラフのノードとみなし、
順序が厳密に増加して画素が隣接しているノードのみを
結合することにより、問題が有向非循環グラフにおける
最短経路アルゴリズムに還元されることが明らかとな
る。この問題は、任意の点における最大スコアを追跡し
ながら、上記スコア関数の幅優先アプリケーションを用
いて解くことができる。この計算は、順序付けられた隣
接する画素から生成されるトレリス(trellis)に適用
されるビタビ方法のアプリケーションと同等のものであ
る。
【0068】ここまで、単一画像に対する輪郭最適化に
ついて説明した。ここでは、異なる画像の輪郭間の動的
相互作用から生じる複雑さを解決するために、オブジェ
クト境界を再推定する反復表面最適化技術に頼る。
【0069】表面最適化を達成するために、表面Sのエ
ネルギ関数が以下のように公式化される。
【0070】
【数7】
【0071】ここで、各項は、動き不連続性、視覚的不
連続性および滑らかさを表す。ある点におけるエネルギ
関数は、2つの部分に分割することが可能である。
【0072】第1の部分は、画像の輝度または表面の形
状に依存するものであり、動きおよび視覚的不連続性の
説明となるものである。これらのエネルギは外部的なも
のであり、表面を外側に向けるものであって、初期境界
推定および動きエッジ分析において説明されるものであ
る。
【0073】第2の部分は、経時に亘る表面の形状に依
存する。すなわち、これは、内部的なエネルギであり、
構造的制約を与える。なお、滑らかさは、それだけでは
比較的弱い構造的制約であるが、空間の定義された順序
付けと共に用いられることにより、構造的制約が非常に
強力になる。
【0074】表面最適化に滑らかさを組込むために、各
境界は、強いエッジとして、前の画像と次の画像の動き
強化エッジ画像に射影される。この時、エッジ/動きス
コア化に対する射影によって、後の境界再推定の反復に
おいて、あるレベルまでの収束が可能となると共に時を
経て表面の滑らかさに達することができるようになる。
【0075】オブジェクトの表面(経時に亘る境界)が
突き止められた後は、画像のシーケンスからオブジェク
トをセグメント化することは容易となる。
【0076】[複数のオブジェクト]本実施の形態によ
るオブジェクトセグメント化の方法について、単一のオ
ブジェクトのコンテキストでのみ述べたが、本方法は、
複数のオブジェクトに対しても拡張することができる。
【0077】更に洞察するために、複数のオブジェクト
のセグメント化について2つの異なる仮定の下で簡単に
説明する。1つ目は、遮蔽が殆ど無いかまたはまったく
無い場合であり、2つ目は、高い割合で遮蔽がある場合
である。これら2つの場合のいずれにおいても、複数の
オブジェクトの各々に対し初期オブジェクト境界が推定
される。抽出された動きフィールドから、同じ方法でP
CAを実行することができるが、関数上の表面を画像空
間に戻すようマッピングする手順をはるかに入念に行わ
なければならない。この手順は、K平均クラスタリング
手順が分割の初期数を知っているのと同様に、シーンに
おけるオブジェクトの数を知る必要がある。
【0078】[遮蔽無し]画像に遮蔽がまったく無く、
かつ、初期オブジェクト境界推定が正確に導き出された
場合、複数のオブジェクト境界は、独立したオーバラッ
プしない領域として現れる。そして、これら領域は、順
序付けエンジンステップ325によって別々に順序付け
され、反復ビタビ表面最適化ステップ304に個々に与
えられる。
【0079】[遮蔽有り]複数のビデオオブジェクトの
間に遮蔽がある場合、反復ビタビ表面最適化は、ボロノ
イ順序付き画像の各々に対し同時に行われる。近傍する
画像からの境界の時間の射影によってもたさられる滑ら
かさと同様に、隣接するオブジェクト間の一貫した定義
を維持するよう、近傍するオブジェクトの境界を空間的
に射影することができる。そうすることにより、近傍す
るオブジェクトの境界を、真の境界に十分に収束させる
ことができる。
【0080】[オブジェクト形状の表現]上記説明にお
いて、画像のうち、オブジェクトの境界Cの外側である
部分に、ボロノイ順序付けを用いることについて説明し
た。Cの補足的な内部空間において、順序付けは補足的
な機能性を有する。オブジェクト境界の探索において順
序付けの外側の射影(outside projection)を使用する
一方で、オブジェクト形状表現に対し、順序付けの内側
の射影(inside projection)を使用する。
【0081】順序付けの単純な操作からいかにこの表現
が導出されるかについて述べ、この表現を周囲重み付け
中央軸(Perimeter Weighted Medial Axis(PWM
A))と呼ぶことにする。更に、この表現は、新たなデ
ータ構造に頑健に変換することができる、ということを
述べる。なお、これを部分的順序付きツリー(Partiall
yOrdered Tree(POT))と呼ぶことにする。最後
に、構造を一致させるか、または複数の部分的順序付き
ツリーを比較することができる動的計画方法について述
べる。
【0082】[中央軸から重み付けされた周囲]PWM
Aは、Cの内側に亙って関数χCによって以下のように
定義される。
【0083】
【数8】
【0084】すなわち、上記関数は、初期オブジェクト
境界C内で行われる順序付けのあらゆる不連続ステップ
の値を含む。
【0085】まず、画像の内側部分の大半に亙ってχC
がゼロであることを観測する。このサンプルケースで
は、境界が円形である場合、1/2の値を有する中心点
を除いて、すべての部分がゼロであることが分る。次
に、ある点がゼロ以外である場合、その点は、その境界
における2つの隣接しない点の間で等距離にある。その
非ゼロ点の値は、それら2つの隣接しない点の間で周囲
(perimeter)に沿って最小距離、すなわち、非ゼロ点
が及ぶ境界の長さである。
【0086】言換えれば、χCは、物体の形状の「スケ
ルトン」を表し、更に、それは、末端が中心点より低い
値を有するように「重み付けされた」スケルトンであ
る。
【0087】Cが単純な閉輪郭である場合、PWMAの
別の特徴は、非ゼロ点が常に、ルートノードが最大値で
ありノードが下降すると値が減少するツリーを形成する
ことである。更に、オブジェクトの形状がPWMAにお
いてある含意を有することが明らかである。このように
して、PWMAにおける「結合点(joints)」での構造
的歪みを説明することができる。
【0088】[PWMAの順序付きツリーへの変換]P
WMAが、ルートツリーとしてコンパクトな表現になる
とすると、これらツリー構造を比較する頑健な方法を定
義することが必要となる。比較方法は、構造的マッチン
グにおいて、および構造的変化性に対して頑健でなけれ
ばならない。
【0089】構造的マッチングについて述べる場合、あ
るツリーから別のツリーにおけるすべてのノードおよび
エッジの最適対応を決定する。1つのツリーから別のツ
リーへの構造的マッチングは、P完全性問題とNP完全
性問題との間の難点に存在する可能性のある、現在未解
決の問題であるグラフ同型の問題に関連している。ここ
での問題に対する手がかりとなる観測は、PWMAが順
序付きツリーになるということである。
【0090】PWMAは、以下のステップにより順序付
きツリーに変換される。 1.ツリーのルートノードは、PWMAの最大値にあ
る。 2.ツリーの各エッジは、任意の2ノード間のPWMA
線分を表す。 3.各ノードは、等間隔の3つ以上の非ゼロラインが交
差するか、または1つが終端するPWMAの点に対応す
る。 4.PWMAの値が減少する方向に親子関係が順次発生
する。すなわち、下位のノードほどPWMAの弱いセグ
メントを表す。
【0091】最後の観測は、PWMA構造が2D平面に
あり、それを、それらの反時計回りの角度に関して順序
付けすることができる、ということである。単純なPW
MA構造は、上記特徴を有する順序付きツリーである。
ノードはセグメント化点を表し、エッジはセグメント化
点間の情報を表す。
【0092】[順序付きツリーの比較]順序付きツリー
に対し、マッチング用の分析は比較的簡単である(Corm
en等による"Introduction to Algorithms," MIT Press,
1990 参照)。3つのツリーとそれらの複数の子につい
て考える。マッチングに対する相互に再帰的な関係が、
シーケンスマッチング問題を介して発生する。
【0093】基本として、ルートノードだけを有する2
つのツリーが完全に一致するものとする。図4のツリー
A401およびツリーB402に対し、本実施の形態に
よる帰納的(inductive)ステップに対し最長共通部分
列(LCS)比較手順を用いる。
【0094】
【数9】
【0095】ここで、eanおよびebnは、サブツリーT
an404およびTbn405に向かうエッジ403であ
る。シーケンス内でサブツリーをマッチングさせるため
にTreeCompare(ツリー比較)手順を呼出す
ことにより、再帰が発生する。すなわち、
【0096】
【数10】
【0097】なお、すべての動的計画法問題の場合と同
様に、可能なツリー比較の数は有限である。このよう
に、順序付きツリーの計算コストは、以下の式によって
制限される。
【0098】
【数11】
【0099】更に、この種の構造的マッチングは、分岐
の喪失に対して頑健である。
【0100】問題は、セグメント化によってもたらされ
るノイズによる。このプロセスでは、同じ深さのサブツ
リーのみが比較されることは明らかである。そのため、
セグメント化方法におけるノイズにより、ツリーに余分
のノードおよびエッジが擬似的に付加される場合、その
子の深さが増大し、この小さい誤配列が重大な不一致を
もたらすこととなる。
【0101】[部分的順序付きツリー]図5に示すよう
に、ここで説明するPWMAマッチング中に新たなレベ
ルの頑健性を強要するために、部分的順序付きツリー
((POT)Partially OrderedTree)500と呼ばれ
る新たなデータ構造を導入する。部分的順序付きツリー
は、再帰的グラフ状データ構造である。図5において、
主要素(例えば、ノード501、エッジ502)は太線
で示し、従要素は細線503で示す。
【0102】部分的順序付きツリーにおけるPOT主ノ
ードは、単一ソース/単一シンクの有向非循環グラフ
(DAG)を含む。このグラフのエッジをPOT従エッ
ジと呼び、そのノードをPOT従ノードと呼ぶことにす
る。POT従エッジは、データベクトルと、POT主エ
ッジと呼ばれる別のPOT主ノードへの参照と、を含
む。
【0103】なお、POT主グラフと言う場合は、PO
T主要素がもたらすグラフのことを言う。POT主ノー
ドのPOT従グラフと言う場合は、POT主ノードが含
むDAGのことを言う。POT主グラフは、2つの特別
な制約を有する。すなわち、1)POT主グラフの部分
グラフは、ルートツリーであり、2)このルートツリー
に無いエッジはいずれも、ノードから下位へ降りるのみ
である。なお、順序付きツリーはPOTツリーの特別な
ケースであり、各POT従グラフは、単に線形グラフで
ある。
【0104】[PWMAの部分的順序付きツリーへの変
換]上述したように、順序付きツリーは、部分的順序付
きツリーの特別なケースであり、PWMAを部分的順序
付きツリーに変換するための開始点となるものである。
本実施の形態による初期構造を得るために、PWMAの
順序付きツリーへの変換と同じ変換が実行される。PO
Tとするために、POT従グラフに並行経路を付加する
ことによって、代替セグメント化および表現をコード化
する。
【0105】図6および図7に示すように、入力は初期
オブジェクト境界306であり、出力は部分的順序付き
ツリー602であり、変換のステップは、以下の通りで
ある。
【0106】1.図7の(a)に示すように、境界70
0によって定義されるオブジェクトの内側部分に対し、
(ボロノイ)順序付けを施す(ステップ325)。
【0107】2.順序付けからPWMA701を導出す
る(ステップ620)。図7の(b)において、オブジ
ェクトの形状の「スケルトン」が比較的細いことは、末
端が中心点より低い値を有するようなPWMAの重み付
けがなされていることを示している。
【0108】3.ノードおよびエッジ702(図7の
(c))により、PWMA701をセグメント化する
(ステップ630)。
【0109】4.セグメント化したPWMAから順序付
きツリー703(図7の(d))を生成する(ステップ
640)。
【0110】5.順序付きツリーを部分的順序付きツリ
ー704(図7の(e))に変換する(ステップ65
0)。
【0111】順序付きツリーとは対象的に、POTの構
造上の自由度により、構造的変化に対する双対性および
頑健性等の複雑な情報を符号化することができる。PO
Tのコアがまだ元の順序付きツリーであり、順序付きツ
リーのノードと部分的順序付きツリーのノードとの間に
単純な同型が存在するが、部分的順序付きツリーは、そ
の下位の部分的順序付けによる柔軟性と、その下位に向
かう経路とをより多く有する。
【0112】POT従グラフにおける並行経路は、各分
岐の種々のあり得るセグメント化を符号化する。従っ
て、セグメントをスキップすることができる場合を考慮
すると、次のPOT主子からのPOT従枝が、並行経路
としてコピーされる。擬似ノードの可能性を考慮する
と、POT従グラフにおける並行経路を付加して余分な
POT主エッジを有する問題のノードをバイパスするこ
とにより、ノードを無視する可能性を付加することがで
きる。
【0113】[POT比較]POTの構造的比較では、
順序付きツリーに対して同様の分析を行うが、LCS比
較を用いる代りに、DAG比較アルゴリズムを用いる
(Lin等による"Codingand Comparison of DAGs as a no
vel neural structure with application toon-line ha
ndwritten recognition, " IEEE Trans Signal Proces
sing, 1996参照)。
【0114】
【数12】
【0115】シーケンスの要素マッチングの代りに、D
AGにおけるエッジのマッチングを行う。DAGのエッ
ジに関連するサブツリーのマッチングに対しPOT比較
関数を呼出すことにより、再帰が発生する。すなわち、
【0116】
【数13】
【0117】なお、すべての動的計画法の場合と同様
に、可能なPOT比較の数は有限である。従って、PO
T比較が比較の大部分であるとすると、順序付きツリー
の計算コストは、以下の式によって制限される。
【0118】
【数14】
【0119】図8は、単純なシステム800を示す。こ
こでは、まず2つの輪郭801−801が別個に変換さ
れ(600)、その後、上述した手順を用いて比較され
(810)、類似性スコア820が得られる。
【0120】[適用例:形状クエリ]POT比較プロセ
スによって補足される部分的順序付きツリーの構造によ
り、エッジの喪失に対するだけでなく擬似的セグメント
化点に対しても頑健な比較方法が得られる。オブジェク
トの中央軸をこの中間POT表現に変換し、POT比較
を類似性基準として使用することにより、所与の形状に
ついて、直観的にその形状と類似した他の形状を見つけ
ることができる。
【0121】図9は、このタスクを実行するデータベー
ス検索システム900を示す。このデータベース検索の
適用例において、ユーザ901は、入力クエリ902を
用いて1つまたは一連のデータベース910に問合せを
行う。このクエリは、画像、オブジェクト境界等の形態
とすることができる。クエリは、手書きされたものであ
っても、ローカルに取得されたものでもどちらでもよ
い。データベースインタフェースコントローラ920
は、その入力に類似する出力903を検索する。
【0122】第1のステップとして、クエリが、部分的
順序付きツリー600に変換される。ステップ810で
は、変換された輪郭(POT)が、データベース910
に格納された輪郭と比較される。高速かつ効率的な探索
手順を可能とするために、輪郭データベースは、各々が
対応するヘッダ情報を有すると共に事前計算されたPO
T表現を含む多くの輪郭から構成されているものとす
る。
【0123】マルチメディアコンテンツにかかるヘッダ
情報を付加することは、実際には、新たなMPEG−7
規格の意向である。データベースインタフェースコント
ローラは、あるデータの要求を制御するために、データ
ベース自体の外側に存在する。クエリとの比較を行うた
めに、コントローラは、データベースに格納された輪郭
のPOTをPOT比較810に受渡す。上述したよう
に、POT比較の出力は、類似性スコアである。この値
に基づいて、最も類似する輪郭903がユーザに対し検
索結果として与えられる。
【0124】要約すると、PWMAのPOT表現および
POT比較は、形状の効率的かつ頑健なクエリを可能と
する多くの有用な利点を有している。 1.圧縮 PWMAのPOT表現は、未加工の点よりもコンパクト
な形状表現方法である。 2.拡張性 PWMAのPOT表現は、異なる詳細度に対して異なる
レベルで閾値化することができる。更に、POT比較
は、これら詳細における変化に対して頑健である。 3.形状柔軟性 PWMAのPOT表現はまた、類似性スコアを維持しな
がら結合部における曲げの影響を受け易い構造の概念を
符号化する。 4.頑健性 POT表現は、PWMAの構造の複数の表現を符号化す
る。POT比較は、効率的に、多項式時間における動的
計画法アルゴリズムを用いて各々に対するこれらあり得
る表現すべてをチェックし、頑健な類似性基準を与え
る。 5.適応性 POT表現を用いることにより、POT比較はまた、問
合せ中にいずれの経路が使用されているか追跡すること
ができる。システムは、その類似性基準を調整するため
にPOT表現を適応的に簡潔にすることを選択すること
ができる。 6.汎化 POT表現を用いて、同様の部分構造を構造的に一緒に
併合することにより、複数クラスの形状に対して、表現
の構築を探求することができる。
【0125】閉曲線の外側および内側に関して空間を順
序付けする方法について説明した。第1の順序付けを用
いて、画像のシーケンスに亙るオブジェクトの境界を決
定することができ、第2の順序付けを用いて、オブジェ
クトの形状を表現することができる。両方の決定は、映
像特徴抽出の適用例において適用が可能である。
【0126】本発明を、好ましい実施の形態の例として
説明したが、本発明の精神および範囲内において他の様
々な適用および変更が可能であることは理解されるべき
である。従って、本発明の真の精神および範囲内にある
かかるすべての変形態様および変更態様を網羅すること
が、特許請求の範囲の目的である。
【0127】
【発明の効果】上述のように、本発明のオブジェクト表
面を探索する画像空間を順序付ける方法は、画像のビデ
オシーケンスにおけるオブジェクトの表面を決定する方
法を提供する。本方法は、シーケンスの隣接画像の動き
情報を用いて、そのシーケンスの各画像のオブジェクト
の境界を推定することから開始する。そして、そのシー
ケンス各画像の部分が順序付けられることにより、順序
付き画像のシーケンスが生成される。この順序付けとし
て、ボロノイ順序付けを用いることができる。順序付け
られた部分は、推定されたオブジェクトの境界の外側で
ある。
【0128】また、各順序付き画像のエッジは、動き情
報を用いてフィルタリングされ、そのシーケンスの各順
序付き画像は、フィルタイリングされたエッジの位置を
突止めるために探索され、それによって、推定された境
界の外側の新たな境界が形成される。このフィルタリン
グおよび探索は、画像のシーケンスに亙って新たなオブ
ジェクトの境界を射影している間、その新たなオブジェ
クトの境界がオブジェクトの表面に収束するまで繰返さ
れる。
【0129】また、オブジェクトの表面、すなわち、シ
ーケンスにおける境界の滑らかな射影を用いて、映像か
らのオブジェクトをセグメント化することができる。ま
た、同様の方法論を用いて、複数のオブジェクトもセグ
メント化することができる。
【図面の簡単な説明】
【図1】 順序付け関数を定義するブロック図である。
【図2】 (a),(b)はそれぞれ、図1に示す曲線
の外側部分および内側部分のボロノイ順序付けを示す。
【図3】 オブジェクト表面探索を実行するための空間
順序付けの方法の流れ図である。
【図4】 本発明に従ってマッチングされる2つの順序
付きツリーの図である。
【図5】 部分的順序付きツリーの図である。
【図6】 輪郭を部分的順序付きツリーに変換する方法
の流れ図である。
【図7】 (a)乃至(e)はそれぞれ、オブジェク
ト、その中央軸のグラフ、セグメント化された中央軸、
順序付きツリーおよび部分的順序付きツリーである。
【図8】 部分的順序付きツリーを比較する方法の流れ
図である。
【図9】 オブジェクト形状を比較するシステムのブロ
ック図である。
【符号の説明】
302 初期境界推定ステップ、304 反復ビタビ表
面最適化ステップ、340 フィルタリングステップ、
325 順序付けエンジンステップ、620周囲重み付
き中央軸ステップ、630 ノード/エッジセグメント
化ステップ、640 順序付きツリー生成ステップ、6
50 部分的順序付きツリー変換ステップ、701 中
央軸(PWMA)。
───────────────────────────────────────────────────── フロントページの続き (71)出願人 597067574 201 BROADWAY, CAMBRI DGE, MASSACHUSETTS 02139, U.S.A. (72)発明者 イージョン・リン アメリカ合衆国、ニュージャージー州、プ リンストン、キング・ストリート 225エ イ (72)発明者 アンソニー・ヴェトロ アメリカ合衆国、ニューヨーク州、ステー トン・アイランド、レジス・ドライブ 113 (72)発明者 ハイファン・スン アメリカ合衆国、ニュージャージー州、ク ランベリー、キングレット・ドライブ・サ ウス 61 (72)発明者 スンユアン・クン アメリカ合衆国、ニュージャージー州、プ リンストン、ドッズ・レーン 257

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 画像のシーケンスにおけるオブジェクト
    の表面を決定する方法であって、 前記シーケンスの各画像における前記オブジェクトの境
    界を、該シーケンスの隣接する画像の動き情報を用いて
    推定するステップと、 前記シーケンスの各画像のうちの複数の部分を順序付け
    して、画像の順序付きシーケンスを生成し、該順序付き
    部分が前記推定されたオブジェクトの境界の外側である
    ステップと、 各画像におけるエッジを前記動き情報を用いてフィルタ
    リングするステップと、 前記シーケンスの各順序付き画像を探索することにより
    前記フィルタリングされたエッジの位置を突止め、それ
    によって各順序付き画像の前記推定された境界の外側の
    新たな境界を形成するステップと、 前記新たなオブジェクトの境界が該オブジェクトの表面
    に収束するまで、前記画像のシーケンスに亙ってその新
    たなオブジェクトの境界を射影しつつ、前記フィルタリ
    ングおよび探索を繰返すステップとを有することを特徴
    とするオブジェクト表面を探索する画像空間を順序付け
    る方法。
  2. 【請求項2】 前記推定は、 前記画像のシーケンスから動きフィールドを抽出するス
    テップと、 前記動きフィールドに主成分分析を適用することにより
    各画像のオブジェクトの境界を推定するステップとを更
    に有することを特徴とする請求項1記載のオブジェクト
    表面を探索する画像空間を順序付ける方法。
  3. 【請求項3】 前記順序付けは、 ボロノイ順序付け関数を用いて、外側部分の画素を前記
    推定されたオブジェクトの境界の最も近接する点に射影
    することを特徴とする請求項1記載のオブジェクト表面
    を探索する画像空間を順序付ける方法。
  4. 【請求項4】 前記探索は、 前記推定されたオブジェクトの境界の周囲の順序付き経
    路を維持しつつ、目的関数のコストを最大化するステッ
    プを更に含むことを特徴とする請求項1記載のオブジェ
    クト表面を探索する画像空間を順序付ける方法。
  5. 【請求項5】 前記順序付き経路は、 前記順序付けに関連して単調に増加していることを特徴
    とする請求項4記載のオブジェクト表面を探索する画像
    空間を順序付ける方法。
  6. 【請求項6】 前記フィルタリングは、 不連続な動きを有する画像のエッジを増加させるステッ
    プと、 一貫した動きを有するエッジを減少させることにより、
    前記画像のシーケンスに亙ってオブジェクトの表面を滑
    らかにするステップとを更に有することを特徴とする請
    求項1記載のオブジェクト表面を探索する画像空間を順
    序付ける方法。
  7. 【請求項7】 前記画像のシーケンスは、複数のオブジ
    ェクトを含むものであって、 該複数のオブジェクトの各々の表面を決定するステップ
    を更に有することを特徴とする請求項1記載のオブジェ
    クト表面を探索する画像空間を順序付ける方法。
  8. 【請求項8】 前記オブジェクトが遮蔽していない場
    合、該オブジェクト表面を前記探索により個々に決定す
    ることを特徴とする請求項7記載のオブジェクト表面を
    探索する画像空間を順序付ける方法。
  9. 【請求項9】 前記オブジェクトが遮蔽している場合、
    該オブジェクト表面を前記探索により同時に決定するこ
    とを特徴とする請求項7記載のオブジェクト表面を探索
    する画像空間を順序付ける方法。
JP2000142028A 1999-06-04 2000-05-15 オブジェクト表面を探索する画像空間を順序付ける方法 Pending JP2001005976A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/326750 1999-06-04
US09/326,750 US6400846B1 (en) 1999-06-04 1999-06-04 Method for ordering image spaces to search for object surfaces

Publications (1)

Publication Number Publication Date
JP2001005976A true JP2001005976A (ja) 2001-01-12

Family

ID=23273549

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000142028A Pending JP2001005976A (ja) 1999-06-04 2000-05-15 オブジェクト表面を探索する画像空間を順序付ける方法

Country Status (3)

Country Link
US (1) US6400846B1 (ja)
EP (1) EP1058208A3 (ja)
JP (1) JP2001005976A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001005981A (ja) * 1999-06-04 2001-01-12 Mitsubishi Electric Inf Technol Center America Inc オブジェクト形状を表現する画像空間を順序付ける方法
JP2008542911A (ja) * 2005-05-31 2008-11-27 マイクロソフト コーポレーション メトリック埋め込みによる画像比較

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5956728A (en) * 1996-07-17 1999-09-21 Next Software, Inc. Object graph editing context and methods of use
US6801353B2 (en) * 1999-02-01 2004-10-05 Production Resource Group Inc. Pixel based gobo record control format
GB2352076B (en) * 1999-07-15 2003-12-17 Mitsubishi Electric Inf Tech Method and apparatus for representing and searching for an object in an image
GB9920256D0 (en) * 1999-08-26 1999-10-27 Wave Limited M Motion estimation and compensation in video compression
JP2001175875A (ja) * 1999-12-16 2001-06-29 Ge Medical Systems Global Technology Co Llc 境界線検出装置、画像処理装置および非境界線検出装置
US6785329B1 (en) * 1999-12-21 2004-08-31 Microsoft Corporation Automatic video object extraction
US6490320B1 (en) * 2000-02-02 2002-12-03 Mitsubishi Electric Research Laboratories Inc. Adaptable bitstream video delivery system
US6493386B1 (en) * 2000-02-02 2002-12-10 Mitsubishi Electric Research Laboratories, Inc. Object based bitstream transcoder
GB2359913B (en) * 2000-02-29 2003-12-03 Mitsubishi Electric Inf Tech A method for efficient coding of shape descriptor parameters
KR20020026159A (ko) * 2000-03-07 2002-04-06 요트.게.아. 롤페즈 비디오 신호들을 인코딩하는 방법
US6624810B2 (en) * 2000-12-18 2003-09-23 International Business Machines Corporation Tightened bounding volumes for BSP-trees
US6621492B2 (en) * 2000-12-18 2003-09-16 International Business Machines Corporation Method and apparatus using primitive bounding volumes to improve the accuracy of BSP-trees
JP2002190020A (ja) * 2000-12-20 2002-07-05 Monolith Co Ltd 映像効果方法および装置
US6792434B2 (en) * 2001-04-20 2004-09-14 Mitsubishi Electric Research Laboratories, Inc. Content-based visualization and user-modeling for interactive browsing and retrieval in multimedia databases
US20030033582A1 (en) * 2001-05-09 2003-02-13 Wavemarket, Inc. Representations for estimating distance
US7577554B2 (en) * 2001-07-03 2009-08-18 I2 Technologies Us, Inc. Workflow modeling using an acyclic directed graph data structure
US6965645B2 (en) * 2001-09-25 2005-11-15 Microsoft Corporation Content-based characterization of video frame sequences
EP1565873B1 (en) * 2002-11-18 2013-06-05 International Remote Imaging Systems, Inc. Particle extraction for automatic flow microscope
US7095786B1 (en) 2003-01-11 2006-08-22 Neo Magic Corp. Object tracking using adaptive block-size matching along object boundary and frame-skipping when object motion is low
US7224735B2 (en) * 2003-05-21 2007-05-29 Mitsubishi Electronic Research Laboratories, Inc. Adaptive background image updating
EP1562148A1 (en) * 2004-02-06 2005-08-10 Koninklijke Philips Electronics N.V. Method and apparatus for encoding and decoding an image
JP4620607B2 (ja) * 2006-02-24 2011-01-26 株式会社モルフォ 画像処理装置
KR20080066486A (ko) * 2007-01-12 2008-07-16 삼성전자주식회사 움직임 벡터 추정 장치 및 방법
US8892594B1 (en) * 2010-06-28 2014-11-18 Open Invention Network, Llc System and method for search with the aid of images associated with product categories
US8274508B2 (en) * 2011-02-14 2012-09-25 Mitsubishi Electric Research Laboratories, Inc. Method for representing objects with concentric ring signature descriptors for detecting 3D objects in range images
WO2017124074A1 (en) * 2016-01-15 2017-07-20 Mecha Industries, Inc. Methods for automatically generating a common measurement across multiple assembly units
US9961261B2 (en) * 2016-06-20 2018-05-01 Gopro, Inc. Image alignment using a virtual gyroscope model
US10553091B2 (en) 2017-03-31 2020-02-04 Qualcomm Incorporated Methods and systems for shape adaptation for merged objects in video analytics
GB2612029A (en) * 2021-10-15 2023-04-26 Toshiba Kk Lifted semantic graph embedding for omnidirectional place recognition

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4771469A (en) * 1986-06-30 1988-09-13 Honeywell Inc. Means and method of representing an object shape by hierarchical boundary decomposition
IT1232109B (it) * 1989-06-21 1992-01-23 Cselt Centro Studi Lab Telecom Procedimento e dispositivo di riconoscimento del contorno di immagini in movimento
US5023920A (en) * 1989-08-28 1991-06-11 Hewlett-Packard Company Method for finding the medial axis transform of an image
US5710833A (en) * 1995-04-20 1998-01-20 Massachusetts Institute Of Technology Detection, recognition and coding of complex objects using probabilistic eigenspace analysis
US5717463A (en) * 1995-07-24 1998-02-10 Motorola, Inc. Method and system for estimating motion within a video sequence
US6133921A (en) * 1996-05-24 2000-10-17 University Of Washington Constructing shape skeletons of 3D objects using generalized Voronoi diagrams
US6002803A (en) * 1997-03-11 1999-12-14 Sharp Laboratories Of America, Inc. Methods of coding the order information for multiple-layer vertices
US5873081A (en) * 1997-06-27 1999-02-16 Microsoft Corporation Document filtering via directed acyclic graphs

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001005981A (ja) * 1999-06-04 2001-01-12 Mitsubishi Electric Inf Technol Center America Inc オブジェクト形状を表現する画像空間を順序付ける方法
JP4545277B2 (ja) * 1999-06-04 2010-09-15 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド オブジェクト形状を表現する画像空間を順序付ける方法
JP2008542911A (ja) * 2005-05-31 2008-11-27 マイクロソフト コーポレーション メトリック埋め込みによる画像比較

Also Published As

Publication number Publication date
US6400846B1 (en) 2002-06-04
EP1058208A2 (en) 2000-12-06
EP1058208A3 (en) 2003-02-05

Similar Documents

Publication Publication Date Title
JP4545277B2 (ja) オブジェクト形状を表現する画像空間を順序付ける方法
JP2001005976A (ja) オブジェクト表面を探索する画像空間を順序付ける方法
Laga et al. A survey on deep learning techniques for stereo-based depth estimation
Zhong et al. An integrated approach for content-based video object segmentation and retrieval
Zitnick et al. Consistent segmentation for optical flow estimation
US6859554B2 (en) Method for segmenting multi-resolution video objects
US6266443B1 (en) Object boundary detection using a constrained viterbi search
Hariharakrishnan et al. Fast object tracking using adaptive block matching
Zhong et al. AMOS: an active system for MPEG-4 video object segmentation
Laga A survey on deep learning architectures for image-based depth reconstruction
Chevalier et al. Retrieval of objects in video by similarity based on graph matching
Morand et al. Scalable object-based video retrieval in hd video databases
Wu et al. Deep learning for LiDAR-only and LiDAR-fusion 3D perception: A survey
WO2000018128A1 (en) System and method for semantic video object segmentation
Wang et al. Region correspondence by inexact attributed planar graph matching
Ventura et al. Multiresolution co-clustering for uncalibrated multiview segmentation
Zhang et al. Real-time object tracking in video pictures based on self-organizing map and image segmentation
Gu et al. Tracking of multiple semantic video objects for internet applications
Felsberg et al. Real-time view-based pose recognition and interpolation for tracking initialization
Blache et al. Robust motion flow for mesh tracking of freely moving actors
Guo et al. Semantic video object segmentation for content-based multimedia applications
Song et al. Selecting salient frames for spatiotemporal video modeling and segmentation
Tzouveli et al. Intelligent visual descriptor extraction from video sequences
Facil et al. Deep single and direct multi-view depth fusion
Mori et al. Video based motion synthesis by splicing and morphing