JP2006146926A - 2次元画像の表現方法、画像表現、画像の比較方法、画像シーケンスを処理する方法、動き表現を導出する方法、動き表現、画像の位置を求める方法、表現の使用、制御デバイス、装置、コンピュータプログラム、システム、及びコンピュータ読み取り可能な記憶媒体 - Google Patents

2次元画像の表現方法、画像表現、画像の比較方法、画像シーケンスを処理する方法、動き表現を導出する方法、動き表現、画像の位置を求める方法、表現の使用、制御デバイス、装置、コンピュータプログラム、システム、及びコンピュータ読み取り可能な記憶媒体 Download PDF

Info

Publication number
JP2006146926A
JP2006146926A JP2005334523A JP2005334523A JP2006146926A JP 2006146926 A JP2006146926 A JP 2006146926A JP 2005334523 A JP2005334523 A JP 2005334523A JP 2005334523 A JP2005334523 A JP 2005334523A JP 2006146926 A JP2006146926 A JP 2006146926A
Authority
JP
Japan
Prior art keywords
image
dimensional
representation
motion
representing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005334523A
Other languages
English (en)
Other versions
JP4744276B2 (ja
Inventor
Miroslaw Bober
ミロスロー・ボバー
Alexander Sibiryakov
アレクサンダー・シビリヤコブ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Elecric Information Technology Centre Europe BV
Mitsubishi Electric Information Technology Corp
Mitsubishi Electric R&D Centre Europe BV Netherlands
Original Assignee
Mitsubishi Elecric Information Technology Centre Europe BV
Mitsubishi Electric Information Technology Corp
Mitsubishi Electric Information Technology Center Europe BV Nederlands
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Elecric Information Technology Centre Europe BV, Mitsubishi Electric Information Technology Corp, Mitsubishi Electric Information Technology Center Europe BV Nederlands filed Critical Mitsubishi Elecric Information Technology Centre Europe BV
Publication of JP2006146926A publication Critical patent/JP2006146926A/ja
Application granted granted Critical
Publication of JP4744276B2 publication Critical patent/JP4744276B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/262Analysis of motion using transform domain methods, e.g. Fourier domain methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

【課題】画像シーケンス又はビデオシーケンス中のフレーム間の主要な動きを推定する。
【解決手段】2次元画像を表現する方法は、画像を少なくとも1つの軸上に投影することによって画像の少なくとも1つの1次元表現を導出すること、及びこの1次元表現にフーリエ変換を適用することを含む。この表現は、画像間の主要な動きの推定に用いることができる。
【選択図】 図1

Description

[発明の背景]
本発明は、画像シーケンス又はビデオシーケンス中のフレーム間の主要な動き(dominant motion)を推定する方法に関する。実際的な用途としては、カメラ画像の安定化、ビデオ符号化及び規格変換がある。
[従来技術]
主要な動きの効率的な推定は、ビデオ符号化、カメラ画像の安定化、動きに基づくビデオ区分化、規格変換又はノイズ低減を含む多くのタスクに重要なプロセスである。
非常に多くの従来技術が存在する。いくつかの大きな分類、すなわち、i)或る種の回帰と組み合わせた特徴検出(縁又は角)、ii)フーリエ変換に基づく技法、及びiii)テンプレートマッチング技法がある。
位相相関は、適度な速度を持ち、大きな変位を測定することができるよく知られた技法である(C. Kuglin及びD. Hines著「The Phase Correlation Image alignment Method」(IEEE Int. Conf. on Cybernetics and Society, 1975)並びにG.A Thomas著「Television motion measurement for DATV and other applications」(BBC RD 1987/11))。
簡単に言えば、2つの画像を位置合わせする(register)ために、位相相関方法は、先ず各画像に対して2次元フーリエ変換を行うこと、次に対応する周波数成分をともに乗算すること、及び結果として得られる積に逆フーリエ変換を適用することであって、それによって、いわゆる位相相関表面を得る、逆フーリエ変換を適用することを含む。平行移動の動き(translational motion)は、2D位相相関表面におけるピークの位置を探索することによって復元することができる。
例えば、米国特許第6,474,462号は、位相相関ピーク検出アルゴリズムと多重解像度の頑強な(robust)回帰方法とを組み合わせて、推定プロセスの頑強性を高める方法を開示する。
しかし、古典的な位相相関方法は、特に高解像度のビデオシーケンスを処理する場合、リアルタイムでの実施には複雑すぎる場合がある。これは、高解像度画像の2Dフーリエ変換の計算が計算資源及び記憶資源に大きな要求を課すためである。
複雑度を低減するために異なる手法が調査された。例えば、Erturk(「Digital image stabilization with sub-image phase correlation based global motion estimation」(IEEE Transactions on Consumer Electronics, pp 1320-1325, Volume: 49, Issue: 4 Nov. 2003))は、画像の角の領域にある64×64画素の大きさの4つの領域のみを検討することによって位相相関手法の複雑度を低減するデジタル画像の安定化方法を提示する。位相相関に基づく動き推定を用いてそれぞれ検出される4つのサブ画像の局所的な動きから大域的な動きを推定する。サブ画像の使用により、位相相関に基づく動き推定を高速に実施することが可能になる。画像フレームの大域的な動きベクトルを累積して大域的な変位ベクトルを得る。この大域的な変位ベクトルを安定化のためにカルマンフィルタリングする。しかし、空間的な支持(spatial support)の限定されたサブ領域を使用する結果、より大きな動きに対する方法の頑強性が大幅に低減される。
説明したように、上記の技法はすべて、極めて複雑であり、速い動き、照明の変化、局所的な物体等のような因子に対して十分に頑強でない。
[本発明が扱う問題]
本発明は、ビデオシーケンス又は他の画像若しくは2Dデータシーケンス中の動きを推定する新規の超高速な方法を提案する。本推定プロセスは非常に高速であり、通常、位相相関手法を用いる従来技術の推定方法よりも10倍〜500倍速く、ノイズの多い画像においてさえ、また大きく速い動きを伴うビデオシーケンスについて信頼できる結果を生じる。本発明はまた、動き解析及び他のビデオシーケンス解析タスクに適用可能なフレーム又はフレームビデオデータの非常に簡潔な記述を提供する。
[発明の説明]
一態様によれば、本発明は、装置を用いて画像に対応する信号を処理することによって画像を表現する方法であって、画像の少なくとも2つの1次元表現を導出することを含み、各1次元画像は、画像をそれぞれの軸上に投影することによって導出される、画像を表現する方法を提供する。
別の態様によれば、本発明は、各構成画像の表現を結合することによって画像シーケンス、例えばビデオシーケンスを表現する方法を提供する。
別の態様によれば、本発明は、装置を用いて画像に対応する信号を処理することによって画像を比較する方法であって、各2次元画像の少なくとも2つの1次元表現を導出すること、及び、画像の対応する1次元表現を比較することを含み、各1次元表現は、各画像をそれぞれの軸上に投影することによって導出される、画像を比較する方法を提供する。
好ましくは、本方法は、画像間の動きを推定するため、特に画像間の主要な動きを推定するためのものである。
さらに別の態様によれば、本発明は、必ずしも時間的に隣接していない異なる複数のフレーム対間の動きの複数の推定値の頑強な積分によって、画像シーケンスについて信頼できる正確な動き推定値を導出する方法を提供する。このような平均化は、本発明の別の態様によって提供される、処理能力及びメモリ使用に対する要件の大幅な低減により実行可能である。
次に、以下の図面を参照して本発明を説明する。
提案するアルゴリズムの主な着想は、処理及び記述抽出の早い段階で2D画像情報を複数の1D信号に変換することである。これは、画像を少なくとも2つの軸上に投影することによって達成される。計算の複雑度の低減に焦点を当てる好ましい実施形態では、x方向及びy方向における横方向投影を選択した。I(x,y)が画像(いずれのカラーチャネル又は画像の色相、彩度若しくは明度(intensity)であってもよい)である場合、X投影及びY投影は次のように計算される。
Figure 2006146926
両投影は、画像の1回の2D走査で計算することができる。図2(a、b、及びc)は、ビデオシーケンス「Donostia」からの3つのフレームと、それらのRGBカラーチャネルの横方向投影を示す。各フレームの下にX投影を示し、各フレームの右側にY投影を示す。全カラーチャネルの投影を示すが、アルゴリズムの好ましい実施形態は緑色チャネルの投影のみを用いる。
従来技術では、両平行移動パラメータ、すなわちvxとvyの同時復元を提供する2D位相相関により2D画像を位置合わせすることが知られている。しかし、このような処理は、メモリ資源及び処理資源に非常に厳しい要求を課す。本発明によれば、画像の1D投影のみを位置合わせし、投影された1Dの変位を融合して2Dの動きを得る。X軸及びY軸上への2つの1D投影を用いる場合、本方法は、X平行移動パラメータ(vx)及びY平行移動パラメータ(vy)をそれぞれ各投影から直接得る。図3は、図2からの投影の位置合わせを示す。投影間の推定される平行移動を融合して、2つのフレーム間の平行移動の動きを得る。
平行移動グラフの一例を図4に示す。フレームを共通の座標系に平行移動することによって、(アルゴリズムの特定用途に応じて)ビデオモザイク又は安定化されたビデオシーケンスのいずれかを得ることができる。本発明を用いて推定されるパラメータにより再構成されるビデオモザイクの一例を図5に示す。
[1D位相相関を用いた成分速度の推定]
現フレームの投影を抽出したら、これらの投影を窓掛け処理して(window)フーリエ領域に変換し、マルチプロジェクション(multi-projection)画像記述子を形成する。現フレームと前フレームのマルチプロジェクション画像記述子を使用して、フレーム間の動き(変位)を推定する。
位相相関アルゴリズム(図6)を用いて、2つの1D信号(2つの投影)間のシフトを検出する。
位相相関(図7)は、2つの信号の頑強な平行移動位置合わせ方法である。本方法は、フーリエ変換及びシフト定理(Shift Theorem)に基づく。2つの信号P及びPが次式のように平行移動aだけ異なる場合、
Figure 2006146926
標準的な位相相関を次のように適用する。
Figure 2006146926
F(f)は信号fのフーリエ変換であり、F(f)はF(f)の複素共役である。これにより、次のような、この平行移動値におけるパルスを得る。
Figure 2006146926
平行移動値は、結果として得られる信号(図7)において最も高いピークを見つけることによって求めることができる。
信号の境界に起因するアーチファクトを低減するには、信号(すなわち元の投影)に窓掛け演算子を適用しなければならないことが知られている。以下の窓掛け関数を用いる。
Figure 2006146926
ここで、Mは信号の長さである。窓掛け処理された投影は次のように得られる。
Figure 2006146926
位相相関方法の1つの有用な特徴は、フレーム投影間の変換を平行移動で近似することができる限り、相関関数において容易に識別可能なピークを見つけることができることである。位相相関ピークが低くなると、これは、2つの状況、すなわち、(1)平行移動では動きの信頼できる近似が得られない状況、(2)フレーム間の重なりが小さい状況を示す可能性がある。これらの状況では、全体的な動き推定誤差を防止するために動きの推定を拒絶しなければならない。したがって、ピークの大きさ(amplitude)は、1Dの変位推定値の品質の適切なインジケータであり、ピークが高くなるほど、推定値の信頼度も高くなる。全ての投影の照合から得られるピークの大きさを結合して、例えば最小値をとることによって、又は任意の他の従来技術の方法によって1つの推定信頼係数Cにすることができる。この信頼係数Cは、信頼できない照合結果を拒絶するために閾値と比較することができる。
[複数のフレームから得られる動き情報の頑強な積分]
ビデオシーケンス中の複数のフレーム1、2、...、Kを「位置合わせする」ことが望ましい場合が多く、1番目のフレームと位置合わせされた座標系に対するK番目のフレームの変位ベクトルTは、次式のような全てのフレーム間変位の総和として求めることができることが知られている。
=T1,2+T2,3+…+TK−1,K
3つのフレームK−2、K−1及びKを用いたこの手法の一例を図8に示す。各平行移動の動きTl−1,lは、高速な従来技術の方法を用いて、又は本発明を適用することによって推定することができる。しかし、このような手法では、推定成分平行移動の誤差が累積され、許容できない総合誤差につながる場合がある。さらに、(例えば短期の遮蔽又はぼけに起因する)成分平行移動推定値のいずれか、例えばTl−1,lの総誤差は、以後の全ての大域的な変位の推定値T、Tl+1、...、Tの誤差につながる。
この問題を改善するために、マルチフレーム推定を用いた新規の動き情報の頑強な積分方法を提案する。提案するマルチフレームの頑強な積分方法の概念を図9に示す。この着想は、ビデオシーケンスから得られる多数の過去の画像/フレームから抽出される簡潔な記述を維持し、連続フレーム間のみでなく、必ずしも隣接していない多くのフレーム対間でも動き推定値を導出するためのものである。次に、これらの変位推定値を過去のフレーム位置履歴と結合して、グローバル(global)座標系における現在のフレーム位置の複数の推定値の導出に用いる。次に、このような成分推定値を頑強な積分方法により結合する。
この拡張は、本発明が、画像の非常に簡潔な表現(記述)及びこのような記述から動きを推定する計算効率の高い方法を提供するという事実により可能になる。したがって、多くのフレーム/画像のこのような記述子をシステムのメモリに記憶することが実現可能になる。例えば、N×M画素の画像をX及びYへの2つの横方向投影により記述するために、提案する方法が必要とするのは(X+Y)4バイトのみである。
古典的な形態の位相相関方法は、画像全体のFFT係数の記憶を必要とし、これはX4バイトとなる。例えば、VGA解像度のビデオシーケンス(640×480画素)の場合、古典的な移送相関方法の場合に1フレームに関する情報を記憶するために必要なメモリで十分に、274個のフレームの記述子の情報を記憶することができる。
さらに、ほとんどの従来技術のアルゴリズムでは、動き推定の計算コストが高いために複数のフレームをリアルタイムで照合することは不可能である。これを例示するために、本明細書において開示する本発明のアルゴリズムと、効率的な従来技術のアルゴリズム(Erturk)との実施を比較する。これらは両方とも、3GHzのPentium(登録商標)−IVプロセッサで実行し、VGA解像度のビデオシーケンスに適用する。この場合、Eturkに記載されている動き推定は、一対のフレームの解析に約16msを要する。これは、30フレーム/秒のフレームレートのリアルタイムビデオに対してリアルタイムで実行できることを意味する。しかし、3つのフレーム(すなわち、フレームKおよびフレームK−1の照合と、フレームKおよびフレームK−2の照合とを組み合わせること)のみを用いる本明細書に開示する動きの頑強な積分方法を用いるErturkの拡張は、ビデオフレームにつき30msよりも長い時間を要するため、リアルタイムで実行することができない。本発明において開示する動き推定が要するのは、画像対につき0.2msの時間及びフレーム毎に約5Kバイトのメモリのみである。したがって、M個のフレームを用いた動きの頑強な積分は、0.2(M−1)msの時間及び5M Kバイトのメモリ記憶域を要する。このような拡張は、通常のハードウェアで実現でき、多数のフレーム(例えばM=10、50、100)についてさえ比較的少ないメモリ容量しか要しないことが容易に分かる。
図11を参照して動き情報の頑強な積分を説明する。本方法は、M個のフレーム(現フレームを含む)を用い、過去のM−1個のフレームについて全ての中間データ(D,T)が記憶されているものと仮定する。以下のステップを新たなフレームKについて行う。
1.フレームKのフレーム記述Dを抽出し、Dをメモリに記憶する(最後のN個のフレーム記述のみを保持する)。
2.M−1個のフレーム対(K−M+1,K)、(K−M+2,K)、..(K−1,K)を作成する。メモリに記憶されている2つのフレーム記述子DK−i、Dを用いて、フレーム対(K−i,K)(i=1,,2,..,M−1)毎に、フレームK−iとフレームKとの間の動きの推定値TK−i,Kを計算する。対毎に、対応する位相相関係数に基づいて推定信頼係数CK−i,Kも計算する。各推定値にその信頼測度(TK−i,K,CK−i,K)を結び付ける。
3.グローバル座標系におけるフレームKの位置のM−1個の推定値の組{T (1),...,T (M−1)}を計算する:T (1)=TK−1+TK−1,K;T (2)=TK−2+TK−2,k;..,T (M−1)=TK−(M−1)+TK−(M−1),K
4.任意の従来技術の頑強な方法を用いて位置のM個の推定値T (1),T (2),..,T (M−1)をすべて積分(結合)して1つの推定値Tにする。例えば、トリムド平均値(trimmed average)及び中央値フィルタの試験結果は良好であった。積分プロセスから、関連する信頼係数CK−i,Kが信頼閾値を下回る推定値T (i)を除外する。
図12は、「Donostia」シーケンスからのいくつかのフレームについて動きの頑強な積分を用いた処理結果を示す。緑色の+印はTの複数の測定値を示し、赤色の曲線は、それらの中央値を接続するとともに、全体的な推定値を表す。
図13は、本発明に基づくビデオシーケンス動き解析回路のブロック図を示す。新たなビデオフレームK(800)をシステムに入力し、ブロック812においてフレームの投影を抽出する。次に、各投影を窓掛け処理及びFFTブロック814において処理し、マルチプロジェクション画像記述子815を形成する。この記述子をメモリ850に記憶する。動き推定器820は、フレームセレクタ860の設定に応じて、現フレームKと以前のフレームK−iのうちの1つの間の動きを推定する。この推定はフレーム記述子に基づく。動き推定器は、成分投影動きの推定器(822)と、成分投影の動きから選択されたフレームK,K−i間の全体的な動きを計算する投影動き積分器(824)とから成る。モジュール824もまた、グローバル座標系におけるフレームKのグローバル位置を計算する。頑強なマルチフレーム積分ブロック830において複数の測定値を結合して、大域的な動きベクトルの最終的な推定値840を得る。推定プロセスは、制御ブロック870によって制御される。
[性能]
表1は、640×480の解像度の2つのビデオフレーム間の大域的な動き推定に必要な時間の比較を示す。この処理は、3GHzのPentium(登録商標)IVプロセッサで行った。
Figure 2006146926
上述のように、窓掛け処理を1次元の投影に適用して1次元表現を生成し、この1次元表現にフーリエ変換を適用する。好ましくは、ハン窓(Hann window)を用いる。好ましくは、この窓は一定である。例えば、画像の比較又は位置合わせに表現を用いる場合、画像シーケンスを処理する際に、同一の一定の窓を用いて異なる画像対を比較することが好ましい。
本明細書において、「画像」及び「フレーム」という用語は、フィルタリング後のものを含む画像単位を記述するために用いられるとともに、画像、フィールド、ピクチャ、又は画像、フレーム等のサブユニット又は領域といった他の同様の用語にも当てはまる。画素及び画素ブロック又は画素グループという用語は、適切な場合に置き換え可能に用いられる場合がある。本明細書において、画像という用語は、文脈から明らかである場合を除き、画像全体又は画像の一領域を意味する。同様に、画像の一領域は、画像全体を意味し得る。画像は、フレーム又はフィールドを含み、静止画、又は映画若しくはビデオのような画像シーケンス中、又は関連する画像グループ中の画像に関連する。
画像は、グレースケール画像であってもカラー画像であってもよく、又は、別のタイプのマルチスペクトル画像、例えばIR画像、UV画像若しくは他の電磁画像、又は音響画像等であってもよい。
本発明は、例えば画像に対応する信号を処理する装置を用いて実施することができる。本装置は、例えば、適切なソフトウェア及び/又はハードウェアの変更を施したコンピュータシステムであってもよい。例えば、本発明は、プロセッサ又は制御デバイスのような制御手段又は処理手段、メモリ、磁気記憶装置、CD、DVD等のような画像記憶手段を含むデータ記憶手段、ディスプレイ若しくはモニタ又はプリンタのようなデータ出力手段、キーボードのようなデータ入力手段、及びスキャナのような画像入力手段、又はそのような構成要素とさらなる構成要素の任意の組み合わせを有するコンピュータ又は同様のものを用いて実施することができる。本発明の態様は、ソフトウェア及び/又はハードウェアの形態で、又は特定用途向け装置内で提供することができ、又は、チップのような特定用途向けモジュールを提供してもよい。本発明の一実施形態による装置内のシステムの構成要素は、他の構成要素から遠隔して、例えばインターネットを介して設けてもよい。
アルゴリズムのブロック図である。 ビデオシーケンス「Donostia」からの3つのフレームとそれらの横方向投影を示す図である。 図2に示すフレームの投影位置合わせの結果を示す図である。(a)はX投影を示し、(b)はY投影を示す。 フレームインデックスの関数としてのフレーム間のX変位及びY変位を示す図である。 本発明を用いて推定される平行移動パラメータを用いてビデオフレームから作成されるモザイクを示す図である。 1Dの画像投影から平行移動の動きの成分を推定するモジュールのブロック図である。 2つの1D信号間のシフトを検出する移送相関方法の処理結果の例を示す図である。 2つのフレームに基づく主要な動きの推定アルゴリズムを示す図である。 頑強な動き積分手法を示す図である。 頑強な動き積分手法のブロック図である。 3つのフレームからの動き推定値の頑強な積分を示す図である。 「Donostia」シーケンスからのいくつかのフレームについて動きの頑強な積分を用いた処理の結果を示す図である(x成分のみを示す)。 本発明に基づくビデオシーケンス動き解析回路のブロック図である。

Claims (31)

  1. 2次元画像の表現方法であって、
    前記画像を少なくとも1つの軸上に投影することによって、前記画像の少なくとも1つの1次元表現を導出することと、
    前記1次元表現にフーリエ変換を適用することと
    を含む、2次元画像の表現方法。
  2. 前記画像を少なくとも2つの軸上に投影することによって、少なくとも2つの1次元表現をそれぞれ導出することを含む請求項1に記載の2次元画像の表現方法。
  3. 少なくとも1つの軸は、前記画像の縁に平行である請求項1又は2に記載の2次元画像の表現方法。
  4. 少なくとも2つの軸は、垂直である請求項1〜3のいずれか一項に記載の2次元画像の表現方法。
  5. 前記画像の縁に位置合わせされた垂直なX軸及びY軸上に、前記画像を投影することを含む、請求項1〜4のいずれか一項に記載の2次元画像の表現方法。
  6. 軸Aへの投影が、軸A上の位置a毎に、位置aにおける軸Aに垂直な線に沿って画素の画像値を総和することを含む、請求項1〜5のいずれか一項に記載の2次元画像の表現方法。
  7. 請求項5に従属し、投影が、
    Figure 2006146926
    として計算される請求項6に記載の2次元画像の表現方法。
  8. 前記1次元表現に適用される窓を適用することを含む、請求項1〜7のいずれか一項に記載の2次元画像の表現方法。
  9. ハン窓を使用することを含む、請求項8に記載の2次元画像の表現方法。
  10. 少なくとも1つの色成分に適用される、請求項1〜9のいずれか一項に記載の2次元画像の表現方法。
  11. 少なくとも緑色の色成分に適用される、請求項8に記載の2次元画像の表現方法。
  12. 明度値に適用される、請求項1〜11のいずれか一項に記載の2次元画像の表現方法。
  13. 請求項1〜12のいずれか一項に記載の方法を用いて導出される、少なくとも1つの1次元表現を含む画像表現。
  14. 請求項13に記載の表現の各画像について対応する1次元表現を比較することを含む、画像の比較方法。
  15. 1次元表現を比較することは、前記1次元表現間のシフトを求めるために位置合わせすることを含む、請求項14に記載の画像の比較方法。
  16. 前記1次元表現間でシフトを求めることは位相相関を含む、請求項15に記載の画像の比較方法。
  17. 位相相関は、逆フーリエ変換及びシフト値に対応するピークの検出を含む請求項16に記載の画像の比較方法。
  18. 画像間の動きを推定するための、請求項14〜17のいずれか一項に記載の画像の比較方法。
  19. 少なくとも1つの画像を複数の他の画像の各々と比較することであって、それによって、不連続な画像間のものを含む複数の動き推定値を導出する、画像を比較することを含む、請求項18に記載の画像の比較方法。
  20. 動き推定値の各々について信頼測度を求めることを含む請求項19に記載の画像の比較方法。
  21. 請求項14〜20のいずれか一項に記載の方法を用いて画像シーケンスを処理する方法であって、
    前記1次元投影に対して窓掛け処理が適用され、
    異なる画像対に対して同一の窓が用いられる
    画像シーケンスを処理する方法。
  22. 請求項18〜20のいずれか一項に記載の方法を用いて画像間の動きを推定することを含む、画像シーケンスにおいて動き表現を導出する方法。
  23. 請求項22に記載の方法を用いて導出される画像シーケンスにおける動き表現。
  24. 少なくとも1つの基準画像を参照して、画像の位置を求める方法であって、
    請求項14〜20のいずれか一項に記載の方法を用いて導出された画像間のシフトを総和することを含む
    画像の位置を求める方法。
  25. 請求項19又は請求項20に従属し、
    複数の動き推定値を用いて、複数の画像位置を求めることと、
    前記動き推定値を、例えば平均化を用いて、結合することと
    を含む、請求項24に記載の画像の位置を求める方法。
  26. 信頼測度が閾値を下回る動き推定値を除外することを含む、請求項25に記載の画像の位置を求める方法。
  27. 請求項13又は請求項23に記載の表現の、記憶、送信、受信のような、使用。
  28. カメラの安定化のための、請求項27に記載の使用。
  29. 請求項1〜12、14〜22、又は24〜26のいずれか一項に記載の方法を実行するようにプログラムされた制御デバイス。
  30. 請求項1〜12、14〜22、又は24〜26のいずれか一項に記載の方法を実行する装置。
  31. 請求項1〜12、14〜22、又は24〜26のいずれか一項に記載の方法を実行するための、コンピュータプログラム、システム又はコンピュータ読み取り可能な記憶媒体。
JP2005334523A 2004-11-18 2005-11-18 2次元画像の表現方法、2次元画像の比較方法、画像シーケンスを処理する方法、動き表現を導出する方法、画像の位置を求める方法、制御デバイス、装置、及びコンピュータ読み取り可能な記憶媒体 Expired - Fee Related JP4744276B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
GB0425430.6 2004-11-18
GBGB0425430.6A GB0425430D0 (en) 2004-11-18 2004-11-18 Dominant motion analysis

Publications (2)

Publication Number Publication Date
JP2006146926A true JP2006146926A (ja) 2006-06-08
JP4744276B2 JP4744276B2 (ja) 2011-08-10

Family

ID=33548496

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005334523A Expired - Fee Related JP4744276B2 (ja) 2004-11-18 2005-11-18 2次元画像の表現方法、2次元画像の比較方法、画像シーケンスを処理する方法、動き表現を導出する方法、画像の位置を求める方法、制御デバイス、装置、及びコンピュータ読み取り可能な記憶媒体

Country Status (5)

Country Link
US (1) US7751591B2 (ja)
EP (1) EP1659535A3 (ja)
JP (1) JP4744276B2 (ja)
CN (1) CN1784010A (ja)
GB (1) GB0425430D0 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009545794A (ja) * 2006-08-03 2009-12-24 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ 動き解析への用途を有するスパース積分画像記述子
WO2012115826A1 (en) * 2011-02-24 2012-08-30 Eastman Kodak Company Extracting motion information from digital video sequences

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8923400B1 (en) 2007-02-16 2014-12-30 Geo Semiconductor Inc Method and/or apparatus for multiple pass digital image stabilization
US8149911B1 (en) * 2007-02-16 2012-04-03 Maxim Integrated Products, Inc. Method and/or apparatus for multiple pass digital image stabilization
US8488007B2 (en) * 2010-01-19 2013-07-16 Sony Corporation Method to estimate segmented motion
US8792559B2 (en) 2010-10-26 2014-07-29 Sony Corporation Method to improve accuracy and reliability of motion estimated with phase correlation
US8896759B2 (en) 2010-10-26 2014-11-25 Sony Corporation Method to increase the accuracy of phase correlation motion estimation in low-bit-precision circumstances
US8842735B2 (en) * 2010-10-26 2014-09-23 Sony Corporation Method to improve detection of motion with phase correlation
US9224202B2 (en) 2011-04-14 2015-12-29 Koninklijke Philips N.V. Device and method for extracting information from characteristic signals
AU2011205087B2 (en) * 2011-07-29 2014-09-25 Canon Kabushiki Kaisha Multi-hypothesis projection-based shift estimation
KR101783990B1 (ko) 2012-12-21 2017-10-10 한화테크윈 주식회사 디지털 영상 처리 장치 및 영상의 대표 움직임 예측 방법
US9948859B2 (en) 2015-08-19 2018-04-17 Optimum Semiconductor Technologies, Inc. Video image alignment for video stabilization
US10445862B1 (en) * 2016-01-25 2019-10-15 National Technology & Engineering Solutions Of Sandia, Llc Efficient track-before detect algorithm with minimal prior knowledge
US11494881B2 (en) * 2020-12-29 2022-11-08 Hb Innovations, Inc. Global movement image stabilization systems and methods

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06224293A (ja) * 1993-01-27 1994-08-12 Sumitomo Electric Ind Ltd 半導体ウェーハの切断ライン位置検出方法及び装置
US7359563B1 (en) * 2004-04-05 2008-04-15 Louisiana Tech University Research Foundation Method to stabilize a moving image

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1194047A (zh) * 1995-03-22 1998-09-23 德国Idt国际数字技术有限公司 在多帧幅上协调确定移动的方法和设备
US5973733A (en) * 1995-05-31 1999-10-26 Texas Instruments Incorporated Video stabilization system and method
EP1050850A1 (en) * 1999-05-03 2000-11-08 THOMSON multimedia Process for estimating a dominant motion between two frames
US7020351B1 (en) * 1999-10-08 2006-03-28 Sarnoff Corporation Method and apparatus for enhancing and indexing video and audio signals
US7187810B2 (en) * 1999-12-15 2007-03-06 Medispectra, Inc. Methods and systems for correcting image misalignment
EP1216939B1 (de) 2000-12-22 2003-11-05 SIG Pack Systems AG Vorrichtung zum Fördern und Zwischenspeichern von Produkten
US6925195B2 (en) * 2002-05-28 2005-08-02 Eastman Kodak Company Stabilization of three-dimensional images in a scannerless range imaging system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06224293A (ja) * 1993-01-27 1994-08-12 Sumitomo Electric Ind Ltd 半導体ウェーハの切断ライン位置検出方法及び装置
US7359563B1 (en) * 2004-04-05 2008-04-15 Louisiana Tech University Research Foundation Method to stabilize a moving image

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009545794A (ja) * 2006-08-03 2009-12-24 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ 動き解析への用途を有するスパース積分画像記述子
WO2012115826A1 (en) * 2011-02-24 2012-08-30 Eastman Kodak Company Extracting motion information from digital video sequences

Also Published As

Publication number Publication date
CN1784010A (zh) 2006-06-07
US20060159311A1 (en) 2006-07-20
GB0425430D0 (en) 2004-12-22
JP4744276B2 (ja) 2011-08-10
US7751591B2 (en) 2010-07-06
EP1659535A2 (en) 2006-05-24
EP1659535A3 (en) 2016-08-24

Similar Documents

Publication Publication Date Title
JP4744276B2 (ja) 2次元画像の表現方法、2次元画像の比較方法、画像シーケンスを処理する方法、動き表現を導出する方法、画像の位置を求める方法、制御デバイス、装置、及びコンピュータ読み取り可能な記憶媒体
US7349583B2 (en) Global motion estimation image coding and processing
US7729563B2 (en) Method and device for video image processing, calculating the similarity between video frames, and acquiring a synthesized frame by synthesizing a plurality of contiguous sampled frames
Luisier et al. SURE-LET for orthonormal wavelet-domain video denoising
US7831065B2 (en) Method for motion estimation
US9210445B2 (en) Method and apparatus for periodic structure handling for motion compensation
US20060066728A1 (en) Motion stabilization
US20100123792A1 (en) Image processing device, image processing method and program
Jin et al. Quaternion-based impulse noise removal from color video sequences
WO2010024479A1 (en) Apparatus and method for converting 2d image signals into 3d image signals
US8711938B2 (en) Methods and systems for motion estimation with nonlinear motion-field smoothing
US20130022288A1 (en) Image processing apparatus and method for reducing edge-induced artefacts
JP2005509230A (ja) オクルージョン領域を検出するオクルージョン検出器および方法
EP2297702B1 (en) Complex wavelet tracker
Zhang et al. An edge and color oriented optical flow estimation using block matching
Zheng et al. Superpixel based patch match for differently exposed images with moving objects and camera movements
Pham et al. Resolution enhancement of low-quality videos using a high-resolution frame
Su et al. A practical and adaptive framework for super-resolution
Gurrala et al. Enhancing Safety and Security: Face Tracking and Detection in Dehazed Video Frames Using KLT and Viola-Jones Algorithms.
Zlokolica et al. Wavelet domain noise-robust motion estimation and noise estimation for video denoising
Kopernik et al. Improved disparity estimation for the coding of stereoscopic television
Sibiryakov et al. Real-time multi-frame analysis of dominant translation
Fazli et al. A novel object based Super-Resolution using Phase Template Matching
KR101576369B1 (ko) 영상 왜곡 측정 시스템 및 그 측정 방법
Zlokolica et al. Wavelet based motion compensated filtering of color video sequences

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101019

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110113

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110412

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110510

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140520

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4744276

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees