JPH0750773A - ビデオ圧縮処理用装置及び方法 - Google Patents

ビデオ圧縮処理用装置及び方法

Info

Publication number
JPH0750773A
JPH0750773A JP6037317A JP3731794A JPH0750773A JP H0750773 A JPH0750773 A JP H0750773A JP 6037317 A JP6037317 A JP 6037317A JP 3731794 A JP3731794 A JP 3731794A JP H0750773 A JPH0750773 A JP H0750773A
Authority
JP
Japan
Prior art keywords
block
frame
zoom
pixel
search
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP6037317A
Other languages
English (en)
Inventor
Takaaki Ota
オオタ タカアキ
Shaffer Mark
シャーファ マーク
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Electronics Inc
Original Assignee
Sony Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Electronics Inc filed Critical Sony Electronics Inc
Publication of JPH0750773A publication Critical patent/JPH0750773A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/537Motion estimation other than block-based
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【目的】 直線運動のほか回転及びズーム運動をも考慮
した4次元ビデオ動き補償を与える。 【構成】 ビデオデータの現フレームを複数のブロック
に分割し、現フレームにおけるブロックを前フレームに
おける対応するブロックと比較し、現ブロックの前ブロ
ックに対する直線運動のみならず、回転及びズーム運動
を検出して、1つのビデオフレームから次のビデオフレ
ームにかけての動きベクトルを検出する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、ビデオ圧縮に関するも
のである。もっと詳しくいえば、或るビデオフレームか
ら次ビデオフレームへのビデオ画像情報の運動(動
き)、即ち回転及びズーム運動を表す動きベクトルの検
出及び発生に関する。
【0002】
【従来の技術】テレビジョン信号のようなデジタル形式
のビデオ情報の送信や記録は、高品質ビデオ画像の精確
な再生を確実とするために、大量のデジタル情報を必要
とするのが一般的である。例えば、画像情報の各ビデオ
フレームをデジタル化する場合、約250Mbpsを要
する。高品位テレビジョン(HDTV)の出現と共に、
HDTV画像の再生に必要な情報量はかなり増加してい
る。また、高忠実度音声再生のために提案されたデジタ
ル規格は、なおデジタルデータを追加しないと満たされ
ないと考えられており、デジタルビデオシステムにおけ
る送信(データ伝送)レートは約1000Mbpsのオ
ーダー(桁数)になると予想される。
【0003】上述のデータ要件のため、ビデオ画像の各
フレームに含まれる全ビデオ情報をフレーム毎にデジタ
ル化することは、非実際的であった。しかも、個々のシ
ーンの1ビデオフレームに含まれるビデオ情報は、直前
のフレームに含まれるビデオ情報と全く類似(多くの場
合、殆ど同一)であることが認められるので、ビデオフ
レーム全部をデジタル化すると、大部分に冗長なデータ
が含まれることになる。この冗長度は、データ圧縮技法
を用いることにより、帯域幅及びデータ伝送レートの大
幅な節約が実現できることを示唆している。これまで、
2つのタイプのビデオ圧縮処理が提案された。即ち、或
るビデオ情報フレーム内の空間(的)冗長度を利用し
て、該フレームを表すに要するデジタルデータ量を減ら
すフレーム内圧縮と、或るフレームから次のフレームに
かけての情報の冗長度を利用して、変化を表すデジタル
データのみを送信するフレーム間圧縮とである。
【0004】与えられたフレームの空間冗長度をなくす
ため、種々の数学的モデルが提案された。全くうまくゆ
くことが分かりデジタル処理によって実施された1つの
技法は、ビデオフレームに含まれるビデオ情報の直交変
換(例えば、離散的コサイン変換(DCT))に頼るも
のである。当業者には周知のように、DCT処理は、デ
ジタル化されたピクセルの如きビデオ情報のビデオフレ
ームをn×nピクセルアレイより成る複数ブロックに分
割したあと、各ブロックの離散的コサイン変換を行うも
のである。異なる周波数成分のDCT係数を発生し、閾
レベルを越える係数のみを更に処理する。これにより、
ビデオフレームを表すに要するデータがかなり減少し、
画質が少し低下するが、視聴者には容易に分からない。
これらのDCT係数を量子化した後ハフマン符号化のよ
うな可変長符号化を行えば、更にデータの減少又は圧縮
が達成される。その結果、HDTVフレームの如きビデ
オ情報のフレームを表すに要するデータ量は、かなり減
少する。
【0005】フレーム間符号化とは、新しいフレーム
(以下「現フレーム」という。)の先行フレーム、例え
ば直前のフレームに対する変化のみを送信又は記録する
処理をいう。フレーム間に殆ど変化がない場合、現フレ
ームを表すのに極めて少ないデータで済む。しかし、新
フレームの前フレームに対する相似性が少ない場合、例
えば、新しいシーンの最初のフレームが現れた場合、現
フレームを表すのに要するデータ量は大きくなるので、
現フレームを表すのに単にフレーム内符号化に頼る方が
もっと効率的であろう。したがって、実際の送信や記録
システムでは、ビデオフレームを表すに要するデジタル
データの最適の減少又は圧縮を達成するように、適宜フ
レーム内及びフレーム間符号化を使用している。フレー
ム間符号化において送信又は記録されるフレーム間変化
は一般に、現フレームを発生する先行(前)フレームの
ビデオ情報における局部化された運動(動き)を表すの
で、かかる変化を動きベクトルと呼ぶ。前ビデオフレー
ムを表すデジタルデータに動きベクトルを加えると、現
フレームが生じる。前ビデオフレームへの動きベクトル
の付加はまた、動き補償又は動き予想として知られてい
る。即ち、現フレームは、単に前フレームを表すデータ
に動きベクトルを加えることにより「予想」できること
になる。
【0006】従来の動き補償は、現フレームの前フレー
ムに対する直線的な動きを検出して行っている。即ち、
例えば、ビデオフレームを構成する複数ブロックの垂直
及び水平方向の変化を検出し、これを現フレームの対応
ブロックの予想に用いる。しかし、このような直線動き
補償は、前フレームにおける物体がx及びy方向にしか
動かないことを前提にしている。しかし、前フレームに
おける物体は、該フレームから現フレームへ回転運動を
することがある。直線的な動きベクトルの発生、即ち、
直線動き補償は、かかる回転運動を精確に又は受入れら
れる程度に表さないことが多い。よって、回転運動を表
すのに直線動きベクトルを用いると、不満足な結果とな
る。
【0007】動き補償を直線動きベクトルに限ることの
もう1つの欠点は、ズームイン(拡大)やズームアウト
(縮小)の如く、よく使われる普通のカメラ技法を考慮
できないことである。正、即ち1より大きいズーム率
(比)を用いる場合、つまりカメラマンが対象に関して
ズームインする場合、現フレーム内の或るブロックの実
効サイズが、前フレームの同一ブロックに対して増加す
るように見える。反対に、ズーム率が負、即ち1より小
さい場合、つまりカメラマンが対象に関してズームアウ
トする場合、現フレーム内の或るブロックの見かけのサ
イズが、前フレームの同一ブロックに比して減少する。
同様に、カメラに向かったり、離れたりする対象の動き
も、ズーム効果を起こす。直線動き補償は、このズーム
率を考えていない。よって、従来の2次元動き補償で
は、ズームインやズームアウトの如き比較的簡単なビデ
オカメラ技法で作成さされビデオ画像を、思い通りに再
生できないことが多い。
【0008】
【発明が解決しようとする課題】したがって、本発明の
課題は、通常及びHDTVのビデオ画像の両方を表すの
に使用できる改良されたビデオ圧縮技法を提供すること
である。本発明の他の課題は、改良されたフレーム間符
号化技法を提供することである。本発明の更に他の課題
は、直線的な動きのほか回転及びズームイン・ズームア
ウトの動きも考慮した動き補償を与えることである。本
発明の別の課題は、4次元ビデオ動き補償を与えること
である。本発明のなお別の課題は、或るビデオフレーム
から次のビデオフレームにかけての回転動きベクトルを
検出する技法を提供することである。本発明の更に別の
課題は、或るビデオフレームから次のビデオフレームに
かけてのズームベクトルを検出する技法を提供すること
である。
【0009】
【課題を解決するための手段及び作用】本発明は、一面
において、隣接ビデオフレーム間、例えば前ビデオフレ
ームから現ビデオフレームへのビデオ情報の回転を検出
する技法を提供する。回転ベクトルデータを検出した回
転の大きさを表すために発生し、この回転ベクトルデー
タを、2フレーム間の直線(的)動きを検出する直線動
きベクトルの如き他の動きベクトルデータと組合せる。
【0010】本発明は、他の面において、前フレームか
ら現フレームへのビデオ情報のズームイン及びズームア
ウトを検出し、検出したズームの大小を表すズームベク
トルデータを発生し、これを前述の動きベクトルデータ
と組合せる技法を提供する。
【0011】好適な具体構成では、回転及びズーム両方
のベクトルデータを発生する。これは、ビデオデータの
現フレームを複数ブロックに分割し、記憶されたビデオ
データ(これは前フレームを表す。)の限られた部分に
ついて直線、回転及びブームイン・ズームアウト方向に
変位されるサーチブロックを作ることによって達成され
る。このサーチブロックは、記憶されたビデオデータの
うち、現フレームから分割された選択したブロックに最
もよく似たブロックを探し求める(サーチする)ための
ものである。選択したブロックに最もよく似たサーチブ
ロックの直線、回転及びズームイン・ズームアウト位置
に対応する動きベクトルx,y,r及びzを発生する。
即ち、回転ベクトルrは、前フレームにおける対応ブロ
ックに対する選択ブロックの回転を表し、ズームベクト
ルzは、前フレームにおける対応ブロックに対する選択
ブロックのズームイン又はズームアウトを表す。
【0012】本発明をビデオ圧縮システムに用いる場
合、4次元動きベクトルx,y,r及びzを、前フレー
ムを表す差分パルス符号変調(DPCM)データ(又は
残差データ)に加える。ここで、前フレームとは、もっ
と正確にいえば、その残差フレームを表すDPCMデー
タである。該ビデオ圧縮システムはまた、例えばDCT
プロセッサの如き直交変換プロセッサなどの、フレーム
内空間冗長度プロセッサを含むフレーム内符号化器を有
する。これは、圧縮データが元のビデオフレームを表す
ようにするためである。
【0013】本発明は、別の面において、動きベクトル
x,y,r及びzを作るために、座標xm,yn,rθ
及びzp(m及びnは可変整数、θは可変角度、pは可
変ズーム率である。)を定めることにより、サーチブロ
ックの変位を定める技法を提供する。予め設定(プリセ
ット)したm,n,θ及びpの値を用いたとき、サーチ
ブロックにおけるピクセルを表す位置が、記憶されたビ
デオフレームにおけるピクセルと一致しないことがあ
る。そのような場合は、サーチブロックにおけるピクセ
ル値を、記憶されたフレームにおける近接ピクセルから
補間する。それから、サーチブロックの補間されたピク
セルと選択されたブロックの対応するピクセルとの差を
定めて、動きベクトルを作るための「整合」を見付け
る。
【0014】
【実施例】図1は、本発明を用いたビデオ圧縮システム
のブロック図である。同図のビデオ圧縮システムは、フ
レーム内データ圧縮及びフレーム間データ圧縮を含み、
後者は、或るフレームから次のフレームにかけての画像
情報の直線(即ち、x,y)、回転(即ちr)及びズー
ム(即ちz)運動を表す動きベクトルの発生手段を含
む。本発明は、回転及びズーム運動を検出し、それらを
表す動きベクトルを発生することを目指すものである。
以下の説明から分かるように、本発明は、画像情報の
x,y,r及びz方向におけるフレーム毎(フレームか
らフレームへ)の動きを特徴付ける4次元の動きベクト
ル情報を与えることができる。
【0015】図1のシステムは、当業者に周知のように
アナログカラー成分R,G,Bから導出されたデジタル
輝度及びデジタルカラー成分Y,U及びVとして供給さ
れるデジタル化されたカラービデオ信号を受信し、処理
するように構成されている。これらのデジタルビデオ成
分Y,U,Vは、公知のように、プリプロセッサ(前処
理器)101で予め最初のデータ縮小処理が行われ、そ
して合成される。図1に示すように、該プリプロセッサ
101は、デジタルビデオ情報をデータ圧縮装置に供給
するが、該ビデオ情報は一般にフレーム期間の有用で可
視的な画像情報を含むラインに含まれる画素、即ちピク
セルより成る。
【0016】本発明を用いるデータ圧縮装置は、分割モ
ジュール又は回路102及び105、直交変換回路(D
CT)104、フレームメモリ110、動き補償器11
2並びに動きベクトル検出器114を具える。分割モジ
ュール102は、プリプロセッサ101に結合され、フ
レーム期間に含まれるデジタルビデオピクセルを受け、
これらのピクセルを一定数のブロックに分割する。各ブ
ロックは、n×nピクセルアレイより成る。或る具体例
ではn=8であるが、所望によりnの値を変えてもよ
い。同様に、分割モジュール102により作られる各ブ
ロックをn×m(ただし、n≠m)アレイとしてもよ
い。プリプロセッサ101はまた、差回路103及び分
割モジュール105を経てDCT104に結合される。
分割モジュール105は、公知のように、ピクセルを各
々が8×8ピクセルアレイより成るブロックに分割す
る。分割モジュール102は、動きベクトル検出器11
4に結合される。
【0017】直交変換回路104は、分割モジュール1
05から供給された各ピクセルブロックに直交変換を行
い、当該ブロックに含まれるビデオ情報を表すに要する
デジタル量を減らす作用をする。直交変換回路は当業者
に周知であり、好適な具体構成では、該回路104は離
散的コサイン変換(DCT)回路である。DCT回路1
04の作用は本発明にとって重要でなく、該回路の利点
や動作は、十分に文書化されており当業者に周知であ
る。DCT回路によって作られるDCT係数は、符号化
器106に供給され、動き補償器112(後述)から導
出される動き補償されたフレームに逆DCT回路108
を介して加えられ、フレームメモリ110に記憶され
る。符号化器106は、上述DCT係数を可変長符号、
ランレングス符号のような通常のデータ圧縮符号に符号
化する。符号化器106により実現されるランレングス
符号の例として、周知のハフマン符号がある。符号化器
106が発生するデータ圧縮符号化されたデータは、記
憶や送信又は更に処理するための出力信号として供給さ
れる。
【0018】図示しないが、更にデータを圧縮するた
め、量子化回路をCDT回路104の出力に結合しても
よい。そうすると、雑音が生じ、原ビデオデータを復元
した場合、復元されたビデオデータがDCT変換を受け
たビデオデータと異なるようになる。逆DCT回路10
8は、DCT回路104と相補的な動作を行い、DCT
回路によりデータ圧縮された原ピクセルデータを復元す
る作用をするが、この誤差を伴う。復元されたピクセル
データは、残差(residual)フレームデータと呼ばれ、
加算器109で、動き補償器112が発生した動き補償
されたフレームデータと加算される。加算された出力
は、プリプロセッサ101から供給されたピクセルデー
タのフレームを表し、フレームメモリ110に記憶され
る。フレームメモリ110の容量は、少なくともビデオ
情報の1フレーム全部を記憶するのに十分である。した
がって、フレームメモリ110に記憶されたピクセル
は、プリプロセッサ101から図示のビデオ圧縮装置に
供給された先行(前)フレーム期間に含まれたピクセル
である。よって、ビデオ情報の現フレームが分割モジュ
ール102に供給されるとき、ビデオ情報の前フレーム
はフレームメモリ110に記憶されている。フレームメ
モリ110の出力は、動き補償器112及び動きベクト
ル検出器114に結合される。
【0019】動きベクトル検出器は、本発明を含み、前
フレームの画像情報に対する現フレームの画像情報にお
ける動き(運動)を検出するものである。これから詳細
に述べるように、動きベクトル検出器114は、x及び
y方向における直線運動、回転運動及びズームイン・ズ
ームアウト運動を検出する動作をする。詳しくいえば、
分割回路102から動きベクトル検出器に供給される現
フレームの或るブロックは、フレームメモリ110から
供給される前フレームの同じブロックと比較され、現フ
レームのブロックが前フレームのその位置から直線的
に、回転して、及び(又は)ズーム率によって動いたか
どうかが検出される。即ち、動きベクトル検出器は、
x,y,r及びz方向における4次元運動を検出する機
能をもつ。かかる4次元運動の大きさ及び方向を表す動
きベクトルは、符号化器106に結合され、そこで符号
化され、上述の符号化されたDCT係数と並直列変換さ
れ、送信又は記録される。かかる動きベクトルデータと
DCT係数データ(又は残差フレームデータ)を合成す
ると、フレーム期間における原ビデオ情報を再生し、高
品質ビデオ画像として表示するのに十分な情報を与えう
ることは、当業者には理解されるであろう。
【0020】動きベクトル検出器114は、動き補償器
112とも結合される。動き補償器112は、前フレー
ムにおけるブロックを、該ブロックが現フレームを生じ
るのに受けた運動によって調整し、現フレームにおける
当該ブロックの位置を予想して決める機能をもつ。した
がって、動き補償器112は、ビデオ情報の予想される
フレームを作るものと考えてもよい。この予想されたフ
レームを差回路103と結合し、プリプロセッサ(並直
列変換器)101から供給される実際の現フレームと比
較する。したがって、差回路103の出力は、予想され
たフレームと実際のフレームとの差を表し、この差は、
DCT変換されてから符号化され、送信又は記録され
る。これらの差(残差フレームを構成する。)に動き補
償されたフレームを加えたものは、フレームメモリ11
0に記憶されたビデオ情報を更新するのに用い、これに
より、ビデオ圧縮装置に供給されたばかりのフレームを
かなり正確に表すものをフレームメモリに記憶させるこ
とができる。或るフレームから次のフレームにかけて殆
ど或いは全く動きがない場合、フレームメモリ110を
更新するのに要するデータ量は極めて少なく、また、動
きベクトル検出器114は殆ど或いは全く動きを検出し
ない。
【0021】通常、新しいビデオシーンの最初のフレー
ムは、フレームメモリ110に記憶されたビデオ情報と
は殆ど似ないので、この最初のフレームは前のフレーム
と無関係に符号化し、この最初のフレームを後続フレー
ムと比較するベース(基準)としてフレームメモリに記
憶するのが一般的である。即ち、この最初のフレーム
は、フレーム内符号化と呼ばれるもので符号化し、後続
フレームをこれと比較し、それらの差のみをフレーム間
符号化と呼ばれてきたもので符号化する。
【0022】図1のビデオ圧縮装置の動作は、これまで
述べたことから明らかであると考えられるが、次に簡単
に説明する。いま、新しいビデオシーンの第1フレーム
がプリプロセッサ101から分割モジュール102に供
給されたと仮定する。この第1シーンは、例えば、動き
ベクトル検出器114により作られる動きベクトルの大
きさを検出することにより、直ちに検知される。このビ
デオ情報の現フレームはまた、分割モジュール105に
よって分割され、DCT回路104により離散的コサイ
ン変換を受け、符号化器106によりデータ圧縮フォー
マット符号化され、フレームメモリ110に前に記憶さ
れた動き補償(された)フレームに加算され(この第1
シーンの場合、記憶された前フレームはないと考え
る。)、それからフレームメモリに記憶される。
【0023】ビデオ情報の次のフレームを受けると、フ
レームメモリ110に記憶された前のフレームに対す
る、このフレームにおける直線、回転及びズーム運動
が、動きベクトル検出器114によって検出される。動
きベクトル検出器により作られる動きベクトルデータ
は、DCT回路104により作られた残差フレームを表
すDCT係数と一緒に符号化器106に供給される。残
差フレームは、動きベクトルと一緒に符号化され、場合
に応じて送信されたり、記録されたりする。
【0024】動きベクトル検出器が作成した動きベクト
ルは、動き補償器112に供給され、動き補償器は、こ
れら動きベクトルを使ってフレームメモリ110に記憶
されている前ビデオ情報フレームを修正する。動き補償
器が作成した動き補償された前フレームは、分割モジュ
ール102に供給されていた現フレームを予想したもの
に相当する。差回路103は、実際の現フレームと予想
されたフレームの差を検出する。そして、DCT回路1
04によりDCT変換を受けるのは、これらの差即ち残
差フレームである。DCT回路が作成するDCT係数は
符号化器106によって符号化され、符号化された動き
ベクトルデータと共に、ビデオ圧縮装置に供給されたビ
デオ情報のデータ圧縮が行われる。DCT係数はまた、
逆DCT回路108による逆作用を受けて、ビデオ圧縮
されたばかりのフレームに含まれた残差フレームピクセ
ルが復元される。これらの復元されたピクセルは、動き
補償された、即ち予想されたフレームと加算回路109
で加算され、前フレームとしてフレームメモリ110に
記憶される。上述の動作は、ビデオ情報の次に受信した
フレーム期間について繰返される。
【0025】好適な具体構成では、動きベクトル検出器
114は、あとで詳しく述べる図19〜図20に示す流
れ図で表される機能を行うことのできるデジタル信号プ
ロセッサ、マイクロプロセッサ又は固定配線回路を有す
るものでよい。しかし、動きベクトル検出器をもっとよ
く理解し評価するために、前フレームのブロックに含ま
れるビデオ情報が該フレームから次のフレームにかけて
動きを示す様子について、次に述べる。まず図2におい
て、Aは前フレーム122のブロック1,2,3,‥‥
16を示し、Bはそれらのブロックが相対的運動又は位
置変化として現フレーム124になる様子を示す。ただ
し、前フレーム122のブロックが直線運動のみを行っ
て現フレーム124に再構成される場合を示す。例え
ば、ブロック1及び2は−x方向に動き、ブロック3は
−x方向及び+y方向に動いている。ブロック4は−y
方向に動き、ブロック5は静止したままである。残りの
ブロックのx及びy変位、即ち直線運動は、図2のAと
Bを比較すれば明らかである。
【0026】前フレーム122から現フレーム124へ
かけてのブロックの動き、例えばブロック1の動きは、
記憶された前フレーム122のピクセルと、現フレーム
124におけるブロック1を構成するピクセルとの整合
又は一致(match)を求めることにより、動きベクトル検
出器144にて検出される。同様に、フレーム122か
らフレーム124へのブロック2の動きも、現フレーム
のブロック2を構成するピクセルと、前フレームの対応
ブロック2のピクセルとの整合を求めることにより、検
出される。かような探索は、型板(template)として働
くサーチブロックを定め、該ブロックをx及びy方向に
変位し、現フレームのブロックとほぼ同じ前フレームの
ブロックにサーチブロックが重なるまでこれを続けるこ
とにより、実施される。
【0027】この整合は、サーチブロックを種々の異な
る直線位置に置いて、該サーチブロックに含まれるピク
セルが、いま考えている現フレームのブロックに含まれ
るピクセルとほぼ同じになるときを検出することによ
り、決定する。例えば、サーチブロックの上記の各位置
についてピクセル毎の比較を行い、サーチブロックに含
まれる各ピクセルと、現フレームのブロックの対応ピク
セルとの差を合算してブロック差値を作る。サーチブロ
ックが新しい位置に動くと、別のブロック差値が出来
る。サーチブロックを限られたサーチ区域にわたって変
位させ、これらのブロック差値を記憶させる。そして、
記憶したブロック差値の最小のものを選んで、当該ブロ
ックの直線動きベクトルを表す。
【0028】図3は、限られたサーチ区域130をx,
y方向に変位され、現フレームにおける特定のブロック
と前フレームにおける対応ブロック128との整合を求
めるためのサーチブロック126を示す。1つの具体構
成では、サーチブロック126は現フレームにおける特
定のブロックでよく、これをx,y方向に直線的に変位
させ、前フレームにおけるブロック128と一致するま
でこれを続ける。サーチブロックがブロック128と一
致する該ブロック126のx変位及びy変位は、x及び
y動きベクトルとして使用する。即ち、動きベクトル検
出器114が作成するx及びyベクトルデータは、前フ
レームから現フレームにかけてのブロック128の直線
運動の大きさを表す。
【0029】図2のA及びBは、1フレームから次のフ
レームへのピクセルブロックの直線運動が検出される様
子を示した。しかし、ブロック128のような前ブロッ
クが前フレームから現フレームにかけて回転運動を受け
ると、直線運動を検出しても正確に回転運動を表すもの
は得られない。図4は、前フレーム142における1以
上のブロック1〜16が、夫々回転運動(並びに直線運
動)を受けて現フレーム144を構成するブロックとな
る様子を示す。即ち、前フレーム142のブロック1,
2,‥‥,16の各々が回転すると、これらブロックの
個々の回転は図4のBに示すようになり、現フレーム1
44を構成する。かような回転運動を検出し、図4のB
に示す大きさ及び方向をもつ、ブロック1〜16の回転
を表す回転ベクトルデータを発生することが、本発明の
大きな特徴である。
【0030】図5は、サーチブロック146が、限られ
たサーチ区域150をx及びy方向に直線的に、且つベ
クトルrで表される方向に回転して変位され、現フレー
ム(これよりサーチブロックが取出される。)における
特定ブロックと、前フレームにおける対応ブロック14
8との整合を検出する様子を示す。例えば、現フレーム
における所定のブロックに対応する型板と考えてよいサ
ーチブロックを、限られたサーチ区域150内でインク
リメント(増分)量x及びyだけ新座標位置に変位し、
それから該サーチブロックを正負方向(即ち、時計方向
及び反時計方向)に回転させて、該サーチブロックと前
フレームのブロック148との整合を求める。サーチブ
ロックは、ブロック148をサーチする間、直線と回転
の両方に順序正しく変位されることが分かるであろう。
【0031】サーチブロック146の任意の与えられた
位置が座標xm,yn及びrθによって定まる、と仮定
しよう。ただし、m及びnは可変整数(正及び負の両
方)で、θは可変角度とする。サーチブロックの特定位
置は、m,n及びθの個々の値によって定まる。m,n
及びθの各値に対し、記憶された前フレームの、サーチ
ブロックによって囲まれるピクセルを、現フレームの与
えられたブロックの対応ピクセルとピクセル毎に比較す
る。比較したピクセル間の差を合計して、ブロック差値
を作る。m,n及びθの各値に対して得られたブロック
差値を記憶する。サーチブロック146を限られたサー
チ区域150にわたって直線及び回転変位したあと、記
憶された最小のブロック差値を選び、そのブロック差値
を発生したm,n及びθの値を、直線及び回転ベクトル
データの発生に使用する。最小のブロック差値が現フレ
ームの与えられたブロックと前フレームのブロック14
8の整合を表すことは、よく分かるであろう。したがっ
て、m,n及びθの値は、現フレームの当接ブロックに
対するブロック148の直線及び回転運動の量を表す。
【0032】直線及び回転運動を検出する上記技法は、
直線運動のみの検出より著しい改良をもたらすが、画像
を構成するビデオ情報は、対象をズームイン(拡大)又
はズームアウト(縮小)して作成することがある。運動
の4次元を表すズームベクトルが存在するとき、これを
検出することが望ましい。図6及び7は、1ブロックか
ら次のブロックへのズーム操作の効果を示す。
【0033】いま、現ブロック154が4×4ピクセル
アレイより成るものとし、各ピクセルを154(m,
n)で表すことにする。ただし、mはx座標、nはy座
標を表す。説明を簡単にするため、ズームイン操作が1
フレームから次のフレームにかけて行われ、現フレーム
のブロック154が前フレームのブロック156より拡
大されたと仮定する。図6のBは、前ブロック156を
現ブロック154の上に重ね、ブロック156の4×4
ピクセルアレイをピクセル156(m,n)によって表
したものである。したがって、ビデオ情報の前フレーム
と現フレームの与えられたブロックの整合を求めると
き、型板として用いるサーチブロックをズーム率zによ
って補正し、縮小したサイズの前ブロック156と現ブ
ロック154の比較を適正に行わねばならない。即ち、
ビデオ情報の前フレームをサーチするとき、前フレーム
のブロックを「縮小」しなければならない。
【0034】図7は、現ブロック162のような現フレ
ームのブロックのサイズが、ズームアウト操作によって
受ける影響を示す。簡単のため前と同様に、現ブロック
を図7のAに示すようにピクセル162(m,n)の4
×4アレイより成るものとし、図7のBに、ズームアウ
ト操作によりその上に重畳された前フレーム164を示
す。図6のBでは、現ブロック156のサイズが増加し
たズーム率を、1より大きい分数と考えてよく、図7の
Bでは、現ブロック162のサイズが減少したズーム率
を、1より小さい分数と考えてよい。
【0035】本発明のこの特徴に従い、ズーム率が1よ
り大きい場合に前フレームのビデオ情報の整合を求める
とき、該ズーム率を前ブロック156の「縮小」に用
い、1より小さいズーム率を用いる場合にビデオ情報の
前フレームの整合を求めるとき、該ズーム率を前ブロッ
ク164の「拡大」に用いる。ズーム率が存在するかど
うか及び、存在する場合、ズーム率が1より大きいか小
さいかが分からないことが多いので、可変ズーム率zp
(ただし、pは変数)をもつサーチブロックを定め、限
られたサーチ区域にわたりサーチブロックを直線及び回
転変位させるとき、サーチブロックの各位置xm,yn
及びrθでpを1より小さい値から1より大きい値まで
変化させるのがよい。
【0036】現フレームにおけるほぼ同じブロックを作
るために、前フレームのブロックの直線、回転及びズー
ム運動を組合せたものを図8に示す。図8のAはブロッ
ク1,2,‥‥,16より成る前フレーム170を示
し、これらのブロックが、夫々x及びy方向における直
線運動並びに回転及びズーム運動を受けている。かかる
動きベクトルの結果、前フレーム170を構成するブロ
ックは、図8のBに示す現フレーム172に作り直され
る。ただし、図8のBは、説明のためだけのものである
点に注意されたい。例えば、図8のBでは、ブロック1
に対するズームアウト及びブロック4に対するズームイ
ンを示している。1フレームから次のフレームのズーム
率に2つの異なるタイプのものを用いることは、単一の
フレームに1つのシーンがある場合には余りないことで
ある。勿論、特殊効果、編集、スーパーポーズ及び対象
がカメラに対し近づいたり遠ざかったりする動きを用い
る場合は、図8のBに示すような2つの異なるタイプの
ズーム率が混じったものになるであろう。ただし、本発
明を理解するためには、これを無視してもよい。
【0037】図9に、前フレームのビデオ情報が現フレ
ームにおける与えられたブロックに整合するブロック1
76の如きブロックを求める模様を示す。同図におい
て、型板として用いるサーチブロック174を限られた
サーチ区域178にわたってx,y及びr方向に変位さ
せ、サーチブロック174の各インクリメント位置に対
して該サーチブロックのサイズをズーム率zによって変
える。即ち、整数m及びn、角度θ及びズーム率pを変
えることによりサーチブロックを種々の異なる座標x
m,yn,rθ及びzpに変位させる。m,n,θ及び
pの各々の各変化と共に、サーチブロックにより定まる
ビデオ情報と現フレームの与えられたブロックとをピク
セル毎に比較し、ブロック差値を作る。上述のように、
サーチブロック174の変位から生じるブロック差値を
全部記憶し、最小ブロック差値を選ぶ。該ブロック差値
を生じるm,n,θ及びpの値を直線、回転及びズーム
・ベクトルデータの発生に使用する。このような4次元
データは、前フレームから現フレームにかけての各ブロ
ックの動きを正確に表し、且つ規定するものである。こ
の4次元データを、符号化器106によって符号化し、
DCT回路104からの符号化されたDCT係数と組合
せ、圧縮されたビデオデータとして送信又は記録するの
である。
【0038】サーチブロックを定め、これを直線、回転
及びズーム変位させ、現フレームの或るブロックと前フ
レームの対応ブロックとの整合を求め、4次元動きベク
トルを発生する模様を図10〜19に示す。これらを簡
単に説明する。本発明の特徴として、現フレームのピク
セルブロックを前フレームの記憶ピクセルと比較し、4
方向x,y,r及びzにインクリメント変位されるサー
チブロックを定め、該サーチブロックを、現フレームの
ブロックと比較する前フレームのピクセルを定める型板
として用いることにより、「整合」を特定(識別)して
いる。サーチブロックを変位させるのに種々の技法を使
用できるが、好適な具体構成では、ズーム率zをそのプ
リセット範囲、例えばズーム率−5からズーム率+5に
わたって変化させ、それから回転座標rをインクリメン
トし、そのあと再びズーム率zをその範囲−5から+5
にわたってインクリメントする。これを、r座標のプリ
セット範囲、例えば−π/6ラジアンから+π/6ラジ
アンにわたる変化に対して繰返す。それからx座標をイ
ンクリメントし、上述の動作をもう一度繰返す。その間
に、サーチブロックで囲まれるピクセルが現フレームに
おけるブロックのピクセルと比較される。
【0039】このx,r及びz座標のインクリメント
は、x座標のプリセット範囲−8から+8にわたって繰
返される。そのあと、y座標をインクリメントする。こ
こでまた、y座標の各インクリメント変化に対して、z
座標をそのプリセット範囲にわたって変化し、それから
r座標をインクリメントし、そしてr座標をそのプリセ
ット範囲にわたり変化し終わった後、x座標をインクリ
メントする。x座標をそのプリセット範囲にわたって変
化し終わった後、y座標をインクリメントする。y座標
が同様にプリセット範囲−16から+16にわたってイ
ンクリメントされ、現フレームの或るブロックとの整合
を求めるためのサーチブロックの変位が完了する。その
後、現フレームにおける新しいブロックを選択し、上述
のサーチ動作を繰返し、この新しく選択したブロックと
記憶された前フレームのピクセルとの整合を求める。整
合を生じる特定のx,y,r及びzの値、即ち、現フレ
ームの選択されたブロックのピクセルと前フレームの記
憶されたピクセルとの間の最小差をもたらす値は、4次
元動きベクトルx,y,r及びzを導出するために使用
する。
【0040】図10のAにおいて、ブロック184は前
フレームで、これは、現フレームのブロック186に対
し座標x2 ,y-2及びz1 をもつサーチブロックによっ
て定められる。図10のAにおける前フレームのブロッ
ク184は、回転変位を受けない、即ちr=0と仮定す
る。前フレームに含まれるピクセルをa,b,c,‥
‥,pで示し、現フレームの選択されたブロック186
における対応ピクセルをa′,b′,‥‥,p′で示
す。特定の座標(x2 ,y-2,r0 ,z1 )をもつ前ブ
ロック184と選択されたブロック186との整合を決
めるため、ピクセルaとa′,bとb′,‥‥pとp′
の差を求める。好適な具体構成では、各差の絶対値を取
り、これらを合算してブロック差値を作る。このブロッ
ク差値は、サーチブロックの個々の座標位置の各々に対
して(即ち、前ブロック184の種々異なる座標位置の
各々に対して)記憶され、前述のように、限られた区域
全部にサーチブロックを変位し終わったあと、最小ブロ
ック差値を前ブロック184と現ブロック186の「整
合」を示すものとして選択する。この整合を生じるx,
y,r及びzの値は、前ブロック184の現ブロック1
86に対する動きを決める動きベクトルを表す。測定し
たブロック差値の全部を記憶する必要はなく、実際上そ
の方がよい。即ち、ブロック差値は、その時に記憶され
ているブロック差値より小さいものを記憶する。そうす
ると、限られた区域にわたってサーチブロックを変位さ
せ終わった時、記憶されているブロック差値が最小ブロ
ック差値であることになる。
【0041】図10のBは、図10のAと似ているが、
前ブロック184が回転を受けている点が異なる。即
ち、r座標をr=θ1 と想定している。都合上、前ブロ
ック184の1コーナーを疑似原点に固定してθ1 だけ
回転させるのがよい。したがって、図10のBでは、前
ブロック184を定めるサーチブロックは座標(x2
-2,rθ1 ,z1 )を示すものと想定される。そし
て、前ブロック184と現ブロック186のピクセルa
とa′,bとb′,‥‥pとp′が夫々比較される。比
較されたピクセル間の絶対差の和が記憶される。
【0042】図10のCは、図10のBと似ているが、
前ブロック184を定めるサーチブロックがr=θ2
け回転されている点が異なる。ただし、残りの座標x,
y及びzは前と同じである。よって、図10のCでは、
前ブロック184を定めるサーチブロックが座標
(x2 ,y-2,rθ2 ,z1 )の位置にある。図10の
D,E及びFも図10のBと似ているが、図10のDは
r=θ3 (図示の例ではθ3は0に等しい。)、図10
のEはr=θ4 、図10のFはr=θ5 と回転座標rを
想定している点が異なる。
【0043】図10のA〜Fに示した例では、前ブロッ
ク184を定めるサーチブロックのサイズが、現ブロッ
ク186のサイズより小さいことが認められるであろ
う。即ち、ズーム率を1より大きい分数値としている。
都合上、1より小さいズーム率を負の下付き文字で、1
より大きいズーム率を正の下付き文字で表す。図示しな
いが、ズーム率の下付き文字の値を、サーチブロックが
現ブロックより大きいか又は小さいピクセル数を示すも
のとする。例えば、座標z-3は、前ブロックが現ブロッ
ク(勿論、現ブロックは前ブロックより小さく見え
る。)から現ブロックに対し3ピクセルだけ大きいブロ
ックにx及びy方向に拡大されたことを意味する。ズー
ム率z2 は、前ブロックが現ブロック(現ブロックは前
ブロックより大きく見える。)から2ピクセルだけ小さ
いブロックにx及びy方向に縮小されたことを意味す
る。
【0044】図11のA〜Fでは、x及びy座標の値
は、図10のA〜Fの例に示す座標値と同じ、即ちx2
及びy-2であるが、ズーム率をz0 としている。したが
って、サーチブロックにより定められる前ブロック18
4のサイズは、現ブロック186のサイズと同じであ
る。これらの座標(x2 ,y-2,z0 )の下で、回転座
標rが次のように変化している。即ち、図11のBでは
r=θ1 、図11のCではr=θ2 、図11のDではr
=θ3 、図11のEではr=θ4 、図11のFではr=
θ5 である。図11のB〜Fに示す各座標(x2
-2,rθ,z0 )に対し、前ブロック184と現ブロ
ック186のピクセルaとa′,bとb′,‥‥pと
p′の差を測定し、これらの差を合算して前述のブロッ
ク差値を求める。
【0045】図12のA〜Fは、座標(x2 ,y-2,z
-1)に対する、回転範囲がθ1 〜θ 5 にわたる前ブロッ
ク184を定めるサーチブロックの変位を示す。前ブロ
ック184のサイズが現ブロック186のサイズより大
きい、即ちズーム率が1より小さい。このズーム率に対
しては、現ブロック186と記憶された前フレームのピ
クセルとの整合は、前フレームが対象について拡大され
た(勿論、現フレームは縮小されている。)との想定に
基づいて求める。
【0046】図13のA〜Cは、x座標がx2 からx1
に変わり、y座標がy-2のままであり、ズーム座標がz
1 で、回転座標がθ1 (同図B)から0(同図A)を経
てθ 5 (同図C)に変化する例を示す。簡単にするた
め、θの他の値は図13の例には示していない。しか
し、各座標x1 ,y-2,rθ,z1 に対し、ピクセルa
とa′,bとb′,‥‥pとp′の差を取り、ブロック
差値として記憶することは分かるであろう。
【0047】図14のA〜Cは、図13のA〜Cと似て
いるが、ズーム率zをz0 とした点が異なる。サーチブ
ロックによって定められる前ブロック184は回転変位
を受けており、r座標がr=0(同図A)、r=θ
1 (同図B)及びr=θ5 (同図C)のように変化して
いる。サーチブロックの各インクリメント変位に対し、
それによって囲まれるピクセルa,b,‥‥,pを現ブ
ロック186の対応ピクセルと比較し、サーチブロック
のかかる各位置に対するブロック差を取る。
【0048】同様に、図15のA〜Cは、座標(x1
-2,z-1)に対する、サーチブロックによって定めら
れる前ブロック184の種々の回転変位を示す。ここで
は、ズーム率zを1より小さく取り、したがって、サー
チブロックのサイズが現ブロックのサイズより大きくな
り、ズームアウト動作を示している。
【0049】図16のAは、x方向のインクリメント変
位の他の例を示し、サーチブロックにより定められる前
ブロック184の座標は、(x0 ,y-2,r0 ,z1
である。図16のBは、図16のAに示すサーチブロッ
クのインクリメント回転変位を示し、サーチブロック1
84aは角回転r=θ1 を、サーチブロック184bは
角回転r=θ2 を、サーチブロック184cは角回転r
=θ5 を夫々示す。即ち、図16のAに示すサーチブロ
ックは、同図のBに示すタイプのインクリメント回転を
受ける。
【0050】図17では、サーチブロックが水平方向に
更に他の変位を受けており、x座標はx-1である。ここ
でもまた、簡単にするため、ズーム率zをz1 とし、y
座標をy-2のままとしている。この座標(x-1,y-2
1 )をもつサーチブロックについて、図17は、サー
チブロックの選択された角回転を示す。サーチブロック
184aは回転座標r=θ1 を、サーチブロック184
bは回転座標r=θ3を、サーチブロック184cは回
転座標r=θ5 を夫々示す。前と同様、図示のサーチブ
ロックと現ブロック186の各々のブロック差値を取
り、これらを記憶する。
【0051】図18は、図17と似ているが、前ブロッ
ク184を定めるサーチブロックの座標を(x-2
-1,z-1)として示す。したがって、サーチブロック
のx及びy座標は図17と変わっており、ズーム率zを
1より小さいものとしてz-1で示す。
【0052】図19は、前ブロック184を定めるサー
チブロック座標が(x-1,y2 ,z 1 )である更に他の
例を示す。サーチブロックのx及びy座標が変わってお
り、ズーム率は1より大きく、このようなサーチブロッ
クの回転座標を変えている。図19から分かるように、
サーチブロック184の回転座標が或る範囲にわたり変
わっており、サーチブロック184aはr=θ1 に位置
し、サーチブロック184bはr=θ3 に位置し、サー
チブロック184cはr=θ5 に位置している。前と同
様、サーチブロック184a,184b及び184cの
各々と現ブロック186とのブロック差値、即ちこれら
サーチブロックのピクセルと現ブロック186のピクセ
ルとの差を取り、記憶する。
【0053】図10〜19について上述したように、
x,y,r及びzをそれらのプリセット範囲にわたって
変化させた後、得られた最小ブロック差値を選択し、こ
の最小ブロック差値をもたらした座標xm,yn,rθ
及びzpを用いて動きベクトルx,y,r及びzを導出
する。即ち、現ブロック186と前ブロック184の整
合を生じた、これらの座標で表されるようなサーチブロ
ックの特定の位置やサイズは、現ブロックを生じた前ブ
ロックの直線回転及びズーム運動を決めるのに使用す
る。
【0054】前フレームの同じブロックに対する、現フ
レームのピクセルブロックの回転を更に図20に示す。
前ブロック194のピクセル194aは、任意の原点に
対し座標X,Yの位置にあると仮定する。前ブロック1
92の対応ピクセル192aは、座標X′,Y′の位置
にあるのが見える。現ブロック194を生じる前ブロッ
ク192の回転を角Aで表す。そうすると、前ブロック
のピクセル192aの座標位置X′,Y′は、座標X,
Y及び回転角Aに関し次の式で表せる。 X′=XcosA−YsinA (1) Y′=XsinA+YcosA (2) したがって、現ブロック194に含まれるピクセルが既
知であれば、前ブロックの対応ピクセルの位置は上式
(1)及び(2)から決まる。いいかえると、サーチブ
ロックを現ブロックに対し角度Aだけ回転させると、回
転したサーチブロックの位置X′,Y′にあるピクセル
は、上式から確かめられる。後述のように、記憶された
前フレームのピクセルは、座標位置X′,Y′に正確に
位置しないことがある。そんな場合、この位置X′,
Y′のピクセルは、記憶された前フレーム内で該位置に
近接(又は隣接)するピクセルからその値を補間するこ
とにより、決定することができる。
【0055】図21は、座標位置X,Yにある現フレー
ムのブロック198のピクセル198aと、前フレーム
のブロック196の対応ピクセル196aとの、これら
フレーム間のズーム比(率)をzとしたときの関係を示
す。例えば、前ブロックが現ブロックに対し縮小された
ことを意味する拡大動作によって現ブロック198が作
られ、前ブロックの現ブロックに対するサイズが減少し
ている、と仮定する。また、ピクセル198aと196
aは、夫々現及び前ブロック198,196における同
じピクセルであり、ピクセル198aは座標位置X,Y
にあり、ピクセル196aは座標位置X′,Y′にある
ものとする。そして、ズーム比をzとすると、座標
X′,Y′は座標X,Yから次式により導出できる。 X′=ZX (3) Y′=ZY (4) よって、ズーム比がZで、与えられたピクセル198a
の座標が既知であれば、サーチブロックの対応ピクセル
を容易に決定できる。
【0056】簡単にするため、前ブロック196から現
ブロック198へかけて回転運動がないと仮定した。回
転運動がある場合、サーチブロックの同じピクセルの座
標X′,Y′は、図20について前述した回転座標決定
方法と、図21について上述したズーム座標決定方法と
を組合せて決定できる。
【0057】図10〜19に関してこれまで、前ブロッ
ク196がサーチブロックによって定められると、一貫
して述べてきた。このサーチブロックにおける座標
X′,Y′にあるピクセル196aは、記憶された前フ
レームのピクセルと正確に一致しないことがある。そん
な場合、座標X′,Y′にあるピクセル196aの値
は、前フレーム内のそれに近接するピクセルから補間し
て決める。図22に、サーチブロックのピクセル値を記
憶された前フレーム内の近接ピクセルから補間する模様
を示し、これを次に説明する。
【0058】図20に示した回転、図21に示したズー
ム率又は図2のBに示した如き直線変位又はそれらの組
合せのために、サーチブロックにおける特定のピクセル
が、ピクセル196aで表すように、座標X,Yの点に
あり、このピクセルの値をP 1 (X,Y)で表すことに
する。このピクセルは、前フレームの隣接ピクセル19
6b,196c,196d及び196eの近くにあるも
のの、これらの実際のピクセルのどれとも一致しない。
都合上、ピクセル196bの座標は(X′,Y′)であ
り、ピクセル196cの座標は(X′+1,Y′)であ
り、ピクセル196dの座標は(X′,Y′+1)であ
り、ピクセル196eの座標は(X′+1,Y′+1)
であるとする。そして、ピクセル196bと196cの
距離をPD区分より成るものと仮定する。PDは、例え
ば、10の如き任意の都合のよい整数でよい。また、ピ
クセル196bと196dも、同じPD区分だけ離れて
いるものとする。
【0059】ピクセル196aの隣接ピクセル196b
〜196eに対する位置は、図22に示すとおりであ
る。即ち、ピクセル196aのX座標は、ピクセル19
6bからX−X′だけ離れ、ピクセル196cから1−
(X−X′)だけ離れている。ピクセル196aのy座
標は、ピクセル196bからY−Y′だけ離れ、ピクセ
ル196dから1−(Y−Y′)だけ離れている。これ
より、座標X,Yにあるピクセル196aの値は、次式
より計算できる。 P1 (X,Y)=〔(X′,Y′)・(PD−RX)・(PD−RY) +(X′+1,Y′)・RX・(PD−RY) +(X′,Y′+1)・(PD−RX)・RY +(X′+1,Y′+1)・RX・RY〕/(PD・PD) (5) ただし、 RX=(X−X′)・PD RY=(Y−Y′)・PD 上式(5)は、一旦座標X,Y及びピクセル196b〜
196eの位置が分かれば、適当にプログラムされたマ
イクロプロセッサ又はデジタル信号プロセッサによって
容易に実現できる。実際的な具体構成では、座標X,Y
は図20及び21に示すように容易に決定でき、ピクセ
ル196b〜196eは、勿論、記憶された前フレーム
に含まれるピクセルである。
【0060】これより、図23,24に示す流れ図を用
いて、動きベクトル検出器114により4次元動きベク
トルx,y,r及びzを定める様子を説明する。1つの
具体構成では、この流れ図を適当にプログラムされたマ
イクロプロセッサにより実施でき、好適な具体構成で
は、この流れ図を実行するのにデジタル信号プロセッサ
又は固定配線プロセッサを使用できる。
【0061】図23に示すように、動きベクトル検出ル
ーチンは、プリプロセッサ101から供給されるビデオ
情報の次のフレームを取込み、このフレームを現フレー
ムに指定する命令202で始まる。次に、取込んだフレ
ームが、シーンの最初のフレームの如き第1のフレーム
であるかどうかを決めるため、質問204が行われる。
第1フレームの場合は、命令206が実行され、該ビデ
オ情報がフレーム内符号化によって圧縮され、該フレー
ム内の空間冗長度が、直接コサイン変換又は当業者に周
知のその他の空間冗長度減少技法によって減ぜられる。
次いで、圧縮された符号化されたビデオ情報は、207
で復号され、命令208で前フレームとして記憶され
る。それから、ルーチンは、命令202に戻り、プリプ
ロセッサ101から供給されるビデオ情報の次のフレー
ムを取込む。
【0062】取込んだフレームがシーンの第1フレーム
でない場合、質問204に否定回答が出され、ルーチン
は命令210に進み、現フレーム(即ち、命令202に
より取込まれたフレーム)を複数のブロックに分割す
る。図1では、この分割動作は分割回路102で行われ
る。
【0063】その後、ルーチンは命令212に進み、現
フレーム内の1ブロックを選択する。このブロックは、
図10〜19に示したブロック186である。次に、命
令214が実行され、図10〜19に示したサーチブロ
ックの1つの如き、座標x,y,r,zをもつサーチブ
ロックを定める。これらの座標は、もっと正確に書けば
xm,yn,rθ,zpとなる。ただし、m,n,θ及
びpは、前述のような夫々の範囲にわたって個々に変化
するものである。
【0064】サーチブロックが定まると、その中の各ピ
クセルを、命令216で表すように、選択した現ブロッ
クの対応ピクセルと比較する。例えば、各ピクセルは、
該ピクセルの輝度に対応する8ビット・キャラクタで表
わせるであろう。そして、現ブロック内の8ビット・ピ
クセルとサーチブロック内の8ビット・ピクセルとの絶
対差が得られる。サーチブロック内の8ビット・ピクセ
ルは、サーチブロック内のその座標位置が前フレーム内
のピクセルと一致しない場合に、図22に示した方法で
補間される。夫々比較されたピクセルの各々について得
た差を合算してブロック差値を作り、現ブロックとサー
チブロックのブロック差値が最小値のとき、これを21
8で記憶する。
【0065】代替策として、ブロック差値は、現及びサ
ーチブロックのピクセルの差の自乗の和を取るような普
通のエラー検出技法或いはその他の従来技法によって作
ってもよい。
【0066】現ブロックとサーチブロックのブロック差
値を測定した後、上述したように、他のブロック差値と
比較して最小値が記憶されると、ルーチンは質問220
に進み、座標x,y,r及びzの選択した1つの値の全
部をサーチし終わったかどうかを確かめる。この例で
は、質問220は、ズーム座標値をすべてサーチし終わ
ったかどうかを決めている。そうでない場合、ルーチン
は命令222に進み、ズーム座標zを1つだけインクリ
メントし、サーチブロックを、例えばそのサイズを縮小
して変位させる。その後、命令216,218及び質問
220を繰返す。
【0067】前と同様に、命令218は、インクリメン
トされた座標について得られたブロック差値の最小のも
のを記憶させる。ルーチンは、それから、命令216,
218,222及び質問220より成るループを、ズー
ム座標のプリセット値すべてのサーチが終わるまで循環
する。即ち、サーチブロックが変位されるに従い、その
各変位が現ブロックと比較される。ズーム座標をすべて
サーチし終わると、質問220に肯定回答が出され、ル
ーチンは図24に示す質問224に進む。
【0068】ここで、回転座標値のサーチがプリセット
された範囲にわたって全部終了したかどうかが質問され
る。この質問に否定回答が出ると、命令226が実行さ
れ、回転座標値rがインクリメントされる。この回転座
標のインクリメントにより、サーチブロックの角回転が
生じる。ルーチンは、それから、命令216に戻り、変
位されたサーチブロックのピクセルが再び現ブロックの
ピクセルと比較される。そして前と同様、ルーチンは、
命令216,218,222及び質問220により成る
ループを、ズーム座標zがその全範囲にわたってインク
リメントされ終わるまで循環する。次に、もう1度質問
224が行われ、ここで否定回答が出されたとする。そ
うすると、上述の動作が再び繰返される。
【0069】ルーチンは、回転座標のインクリメントが
その全範囲にわたって終了するまで、ズーム座標z及び
回転座標rのインクリメントを何度でも繰返す。ルーチ
ンが質問224に到達した時に肯定回答が出されると、
ルーチンは質問228に進み、x座標値すべてのサーチ
が終わったかどうかを調べる。そうでない場合、x座標
が命令230で示すようにインクリメントされ、ルーチ
ンは再び命令216に戻る。
【0070】x座標の各インクリメント変化に対し、ル
ーチンは、命令222を含むルーチンを循環する。z座
標をその全範囲にわたってインクリメントし終わると、
命令226で表されるように回転座標rがインクリメン
トされ、z座標の各値に対し、サーチブロックと現ブロ
ックがピクセル毎に比較される。最後に、回転座標rを
その全範囲にわたってインクリメントし終わると、x座
標がもう1度インクリメントされる。この反復動作は、
x座標のインクリメントがその全範囲にわたって終了す
るまで続く。その後、ルーチンが質問228に戻った時
に肯定回答が出ると、質問232が行われ、y座標値す
べてのサーチが終わったかどうかを調べる。そうでない
場合、命令234が実行され、y座標を1つだけインク
リメントする。ルーチンはそれから、命令216に戻
り、上述の反復動作をもう1度繰返す。
【0071】上述の説明から、x,y,r及びz座標の
インクリメントの順序が階層的に定められていることが
分かるであろう。これらの座標のどれか1つを最小階層
値をもつものとして選択し、どれか他の座標値を最高階
層値をもつものとして選択してもよいが、本例では、ズ
ーム座標が最小階層値を示し、y座標が最高階層値を示
すものとした。より高い階層値をもつ座標は、次に低い
階層値をもつ座標がその全範囲にわたってインクリメン
トされた後にのみ、1つだけインクリメントされる。こ
のようにして、命令214で定められたサーチブロック
が、限られたサーチ区域にわたって直線、回転及び拡大
・縮小変位を受け、該サーチブロックによって定められ
る前ブロックのピクセルが、現ブロックの対応するピク
セルと比較される。
【0072】図20〜22について前述したとおり、サ
ーチブロックのピクセルが前フレームの記憶されたピク
セルと一致しないことがある。そんな場合、サーチブロ
ックのピクセル値を、記憶された前ブロックのこれに隣
接するピクセルから補間する。現ブロックのピクセルと
サーチブロックの対応ピクセルの差を、現ブロックのピ
クセルをサーチブロックの補間されたピクセルと比較す
ることにより、測定する。
【0073】サーチブロックの全変位に対する最小ブロ
ック差値が、命令218の反復実行によって表されるよ
うに、記憶される。質問232に対する肯定回答によっ
て表されるように、y座標がその全範囲にわたってイン
クリメントされ終わると、ルーチンは命令236に進
み、その最小ブロック差値を使用する。命令236で示
すように、最小ブロック差値を生じたx,y,r及びz
座標を得る。即ち、この最小ブロック差値に関し座標x
m,yn,rθ及びzpが記憶されている場合、m,
n,θ及びpの値をx,y,r及びz方向における動き
ベクトルの発生に用いる。換言すると、最小ブロック差
値を生じたサーチブロックの位置を定めるm,n,θ及
びpの値を特定し、これらの値を動きベクトルの発生に
使用するのである。
【0074】動きベクトルの発生後、ルーチンは、命令
236から質問238に進み、そこで、現フレームにお
ける分割された最後のブロックと、前フレームの記憶さ
れたビデオ情報の比較が終わったかどうかを調べる。即
ち、最後の分割ブロックと前ブロックとの整合を求め終
わったかどうかを調べる。そうでない場合、ルーチン
は、命令212に戻り、座標x,y,r及びzの新しい
サーチブロックを定める。それから、上述の反復動作を
繰返す。
【0075】最後に、現フレームの分割ブロックのすべ
てと前フレームのブロックとの比較が終わり、質問23
8に達すると、肯定回答が出る。そうすると、命令24
0が実行され、命令236で作られた動きベクトルが符
号化器106(図1)により符号化され、あとで対応ビ
デオ画像の再生に用いるため、送信又は記録される。
【0076】また、動きベクトルは復号され、図1に示
すように、フレームメモリ110に記憶された前フレー
ムを補償するのに用いられる。動き補償されたフレーム
は、DCT変換回路104(図1)から導出された残差
フレームと加算され、命令242で示すように、前フレ
ームとして記憶される。ルーチンはそれから、図23に
示す始めに戻り、次のフレームのビデオ情報のための4
次元動きベクトルを決定する。
【0077】これまで特定の好適な具体構成について本
発明を説明したが、本発明の精神及び範囲を逸脱するこ
となく当業者が種々の変更、変形をしうることは、容易
に理解されるであろう。例えば、個々の座標をインクリ
メントする階層的順序を、上述の例にのみ限定する必要
はない。また、現ブロックと前ブロックを比較して両者
間の「整合」を検出するために、どんな技法を用いても
よい。現ブロックの各ピクセルと前ブロックの対応ピク
セルとの差の絶対値を合算することは、ブロック差値を
取るのに考えられる唯一の手段ではない。前述のとお
り、差の自乗の和を用いてもよく、当業者に周知の他の
技法を本発明に取入れてもよい。更に、4次元動きベク
トルの符号化について述べたが、本発明は、符号化ステ
ップの使用に頼ったり、限定されたりするものではな
い。
【0078】本明細書では、サーチブロックを、現ブロ
ックと比較する前ブロックを定めるための型板として用
いたが、サーチブロックを、或る前ブロックと比較する
現ブロックを定めるための型板として使ってもよい。よ
って、特許請求の範囲は、本明細書で述べた実施例、上
述したそれらの変形や変更及びそれらに対するすべての
均等物を含むと解釈されることを意図するものである。
【0079】
【発明の効果】以上述べたとおり、本発明によれば、従
来の2次元ビデオ動き補償でなく4次元ビデオ動き補償
を与えることができるので、直線的な動きのほか回転や
ズームの動きを含むビデオデータを圧縮した場合、従来
より画質が向上した再生画像が得られる。
【図面の簡単な説明】
【図1】本発明を用いるビデオ圧縮システムの例を示す
ブロック図である。
【図2】前フレームのブロックが直線運動をして現フレ
ームのブロックが再構成される例を示す説明図である。
【図3】図2に対応するサーチブロックの動作を示す説
明図である。
【図4】前フレームのブロックが直線運動及び回転運動
をして現フレームのブロックが再構成される例を示す説
明図である。
【図5】図4に対応するサーチブロックの動作を示す説
明図である。
【図6】前フレームのブロックがズームインにより現フ
レームのブロックに変わる例を示す説明図である。
【図7】前フレームのブロックがズームアウトにより現
フレームのブロックに変わる例を示す説明図である。
【図8】前フレームのブロックが直線、回転及びズーム
運動をして現フレームのブロックが再構成される例を示
す説明図である。
【図9】図8に対応するサーチブロックの動作を示す説
明図である。
【図10】前フレームのピクセルから決めたサーチブロ
ックを直線、回転及びズーム変位させて、現フレームの
与えられたブロックとの整合を求める例1を示す説明図
である。
【図11】前フレームのピクセルから決めたサーチブロ
ックを直線及び回転変位させて、現フレームの与えられ
たブロックとの整合を求める例2を示す説明図である。
【図12】前フレームのピクセルから決めたサーチブロ
ックを直線、回転及びズーム変位させて、現フレームの
与えられたブロックとの整合を求める例3を示す説明図
である。
【図13】前フレームのピクセルから決めたサーチブロ
ックを直線、回転及びズーム変位させて、現フレームの
与えられたブロックとの整合を求める例4を示す説明図
である。
【図14】前フレームのピクセルから決めたサーチブロ
ックを直線及び回転変位させて、現フレームの与えられ
たブロックとの整合を求める例5を示す説明図である。
【図15】前フレームのピクセルから決めたサーチブロ
ックを直線、回転及びズーム変位させて、現フレームの
与えられたブロックとの整合を求める例6を示す説明図
である。
【図16】前フレームのピクセルから決めたサーチブロ
ックを直線、回転及びズーム変位させて、現フレームの
与えられたブロックとの整合を求める例7を示す説明図
である。
【図17】前フレームのピクセルから決めたサーチブロ
ックを直線、回転及びズーム変位させて、現フレームの
与えられたブロックの整合とを求める例8を示す説明図
である。
【図18】前フレームのピクセルから決めたサーチブロ
ックを直線、回転及びズーム変位させて、現フレームの
与えられたブロックとの整合を求める例9を示す説明図
である。
【図19】前フレームのピクセルから決めたサーチブロ
ックを直線、回転及びズーム変位させて、現フレームの
与えられたブロックとの整合を求める例10を示す説明
図である。
【図20】現フレームのブロックのピクセルの、前フレ
ームの対応ブロックの同じピクセルに対する回転を示す
説明図である。
【図21】ズームイン動作の場合の、現フレームのブロ
ックのピクセルの前フレームの対応ブロックの同じピク
セルに対する変化を示す説明図である。
【図22】サーチブロックのピクセルを前フレームのピ
クセルから補間する方法を示す説明図である。
【図23】本発明により4次元動きベクトルを発生する
動作(その1)を示す流れ図である。
【図24】本発明により4次元動きベクトルを発生する
動作(その2)を示す流れ図である。
【符号の説明】
102,105 分割手段 110 フレームメモリ 114 動きベクトル検出手段 106 符号化器
フロントページの続き (72)発明者 マーク シャーファ アメリカ合衆国 07601 ニュージャージ ー州ハッケンサック,ナンバースリーハン ドレッドアンドシクスティーシックス,プ ロスペクト アベニュー 250

Claims (58)

    【特許請求の範囲】
  1. 【請求項1】 1つのビデオフレームから次のビデオフ
    レームにかけてのビデオ情報の直線運動を検出し、それ
    らを表す動きベクトルデータを発生する動きベクトル発
    生器と、ビデオフレーム内のビデオ情報を表すビデオデ
    ータを減らすためのフレーム内空間冗長度プロセッサと
    を有するタイプのビデオ圧縮システムに使用する装置で
    あって、 前のフレームから現在のフレームにかけてのビデオ情報
    の回転を検出する回転検出手段と、 該回転検出手段により検出された回転の大きさを表す回
    転ベクトルデータを発生する回転ベクトル発生手段と、 上記回転ベクトルデータを上記動きベクトルデータと組
    合せる手段とを具える装置。
  2. 【請求項2】 上記回転検出手段は、現ビデオフレーム
    を各々がピクセル2次元アレイより成る複数のブロック
    に分割するブロック分割手段と、上記現ビデオフレーム
    の各ブロックの上記前のフレームのそれらのブロックに
    対する回転を検出するブロック回転検出手段とを有する
    請求項1の装置。
  3. 【請求項3】 上記回転ベクトル発生手段は、上記現ビ
    デオフレームにおける上記各ブロックの相対的回転を表
    すブロック回転データを発生する請求項2の装置。
  4. 【請求項4】 上記ブロック回転検出手段は、上記前ビ
    デオフレームのブロックを記憶するフレームメモリ手段
    と、限られたサーチ区域内に記憶された上記ブロックを
    サーチして、上記現ビデオフレームにおける特定のブロ
    ックとほぼ同じブロックを求めるブロック・サーチ手段
    とを有する請求項3の装置。
  5. 【請求項5】 上記ブロック・サーチ手段は、 記憶されたブロックにおける2次元ピクセルアレイの各
    ピクセルを、これら各ピクセルを角度的に補間するため
    に、第1の角度量だけ回転する手段と、 上記第1の角度量だけ回転させて、上記記憶されたブロ
    ックにおける角度的に補間されたピクセルと、上記特定
    ブロックにおけるほぼ同じピクセルとの差を測定する手
    段と、 上記角度補間手段及び上記差測定手段の動作を、種々の
    異なる角度量に対して連続的に繰返す反復手段と、 上記反復動作の間に上記差測定手段により測定された最
    小の差を検出する最小差検出手段と、 上記最小差を生じる角度補間をもたらした角度量を識別
    する識別手段とを具える請求項4の装置。
  6. 【請求項6】 上記差測定手段は、上記特定ブロックに
    おける上記同じピクセルの各々と、上記記憶されたブロ
    ックにおける上記角度補間されたピクセルの各々との絶
    対差を、上記記憶されたブロックの各回転毎に測定する
    手段を含む請求項5の装置。
  7. 【請求項7】 上記最小差検出手段は、上記特定ブロッ
    クにおける殆どすべてのピクセルに対して測定した絶対
    差を合算してブロック差値を与える手段と、上記記憶ブ
    ロックの殆どすべての回転から導出される最小値をもつ
    ブロック差値を記憶する手段とを有する請求項6の装
    置。
  8. 【請求項8】 各ピクセルを回転する上記手段は、上記
    記憶ブロックにおけるピクセルと一致しないピクセルを
    角度位置Pに回転する手段と、該角度位置Pに回転され
    たピクセルの値を、位置Pに近い記憶されたピクセルか
    ら導出する手段とを有する請求項5の装置。
  9. 【請求項9】 1つのビデオフレームから次のビデオフ
    レームにかけてのビデオ情報の直線運動を表す動きベク
    トルデータを発生する直線動きベクトル発生器と、ビデ
    オフレーム内のビデオ情報を表すビデオデータを減らす
    ためのフレーム内空間冗長度プロセッサ手段とを有する
    タイプのビデオ圧縮システムに使用する装置であって、 前フレームから現フレームにかけてのビデオ情報のズー
    ムイン及びズームアウトを検出するズーム検出手段と、 該ズーム検出手段により検出されたビームの大小を表す
    ズームベクトルデータを発生するズームベクトル発生手
    段と、 該ズームベクトルを上記動きベクトルデータと組合せる
    手段とを具える装置。
  10. 【請求項10】 上記ズーム検出手段は、現在のピクセ
    ルのビデオフレームを複数のブロックに分割するブロッ
    ク分割手段と、前フレームのピクセルのブロックを記憶
    する記憶手段と、ズーム率によって修正された前フレー
    ムのブロックを現フレームのブロックと比較して、該現
    フレームの各ブロックのズームイン及びズームアウトを
    検出する比較手段とを有する請求項9の装置。
  11. 【請求項11】 上記比較手段は、限られたサーチ区域
    内で、上記ビーム率で修正された前フレームのブロック
    をサーチするサーチ手段と、上記現フレームの特定ブロ
    ックが上記前フレームのサーチされたブロックといつ整
    合するかを測定して、上記特定ブロックのズームイン又
    はズームアウトを検出する測定手段とを有する請求項1
    0の装置。
  12. 【請求項12】 上記サーチ手段は、上記現フレームの
    上記特定のブロックと比較するために、各々が上記ズー
    ム率で修正された、上記前フレームのピクセルの連続す
    るサーチブロックを選択する選択手段を含む請求項11
    の装置。
  13. 【請求項13】 上記測定手段は、サーチブロックにお
    ける各ピクセルを上記特定ブロックにおける対応ピクセ
    ルと比較する比較手段と、比較したピクセル間の差を表
    す差データを発生する手段とを有する請求項12の装
    置。
  14. 【請求項14】 上記選択手段は、ズーム率を選択する
    ズーム率手段と、該選択されたズーム率で定められる大
    きさをもつ与えられた位置のサーチブロックを選択する
    サーチブロック選択手段と、上記ズーム率手段及び上記
    サーチブロック選択手段の動作を、夫々ズーム率の所定
    範囲及び上記限られたサーチ区域にわたって繰返す反復
    手段とを有する請求項13の装置。
  15. 【請求項15】 上記比較手段及び上記差データ発生手
    段は、上記ズーム率手段及び上記サーチブロック選択手
    段の各繰返し毎に動作をする請求項14の装置。
  16. 【請求項16】 上記ズームベクトル発生手段は、上記
    ズーム率手段及び上記サーチブロック選択手段の上記繰
    返し毎に最小値を発生させる差データを検出し、上記最
    小値の差データをもたらす選択されたズーム率で上記ズ
    ームベクトルを表す差データ検出手段を含む請求項15
    の装置。
  17. 【請求項17】 上記サーチブロック選択手段は、選択
    されたサーチブロックのピクセルを、上記前フレームの
    上記記憶されたブロックのピクセルから補間する補間手
    段を含む請求項16の装置。
  18. 【請求項18】 上記補間手段は、上記記憶されたブロ
    ックのピクセルのサイズを上記選択されたズーム率によ
    り修正する手段と、該修正されたピクセルの値を記憶さ
    れたこれと近くのピクセルから導出する手段とを有する
    請求項17の装置。
  19. 【請求項19】 上記差データ発生手段は、上記特定ブ
    ロック内のピクセルと上記選択されたサーチブロックの
    補間された対応ピクセルとの間の絶対差を測定する手段
    と、上記特定ブロックの全ピクセルに対して測定した絶
    対差を合算して上記差データを作る手段とを有する請求
    項18の装置。
  20. 【請求項20】 1つのビデオフレームから次のビデオ
    フレームにかけての動きベクトルを検出するビデオ動き
    ベクトル検出装置であって、 ビデオデータの現フレームを複数のブロックに分割する
    ブロック分割手段と、 ビデオデータの前フレームを記憶する記憶手段と、 サーチブロックを定め、該サーチブロックを、上記記憶
    された前フレームの限られた部分にわたって直線、回転
    及びズームイン・ズームアウト方向に変位させ、上記現
    フレームから分割された選択されたブロックと最もよく
    似たビデオデータのブロックをサーチして求めるサーチ
    手段と、 上記選択されたブロックと最もよく似た上記サーチブロ
    ックの直線、回転及びズームイン・ズームアウト位置に
    対応する動きベクトルx,y,r及びzを発生する手段
    とを具えたビデオ動きベクトル検出装置。
  21. 【請求項21】 上記サーチ手段は、上記選択されたブ
    ロックのビデオデータを上記サーチブロックのビデオデ
    ータと比較する比較手段と、双方間の最小差を検出する
    手段とを有する請求項20の装置。
  22. 【請求項22】 上記ビデオデータはピクセルより成
    り、上記比較手段は、上記選択されたブロックのピクセ
    ルを上記サーチブロックのピクセルと比較して差値を発
    生し、上記検出手段は、上記サーチブロックを上記限ら
    れた部分の隅々まで変位させ終えた後、上記選択された
    ブロックと上記サーチブロックとの間に生じる最小差値
    を測定する請求項21の装置。
  23. 【請求項23】 上記サーチ手段は更に、上記サーチブ
    ロックの位置を決める座標xm,yn,rθ,zp(た
    だし、m及びnは可変整数、θは可変角、pは可変ズー
    ム率である。)を定める座標決定手段と、m,n,θ及
    びpを選択的に変化させる手段とを有する請求項22の
    装置。
  24. 【請求項24】 上記比較手段は、与えられたm,n,
    θ及びpの値に対し、上記選択されたブロックの各ピク
    セルと上記サーチブロックの各対応ピクセルとの間の絶
    対差値を検出する手段と、該絶対差を合算して、上記選
    択されたブロックと上記サーチブロックとの差を表す上
    記差値を発生する手段とを有する請求項23の装置。
  25. 【請求項25】 上記検出手段は、上記サーチブロック
    を変位させるに従い、m,n,θ及びpの各値に対して
    生じる最小差値を記憶する差値記憶手段を含む請求項2
    4の装置。
  26. 【請求項26】 上記動きベクトルx,y,r及びzを
    発生する手段は、上記記憶された差値の最小のものを生
    じたサーチブロックの位置を決めるm,n,θ及びpの
    値を識別する手段と、該識別されたm,n,θ及びpの
    値の関数として動きベクトルを発生する手段とを有する
    請求項25の装置。
  27. 【請求項27】 上記比較手段は更に、上記サーチブロ
    ックの位置を決める座標xm,yn,rθ,zpが記憶
    されたビデオデータのブロックと実質的に一致しないと
    き、上記サーチブロック内のピクセル値を補間する補間
    手段を含む請求項23の装置。
  28. 【請求項28】 上記補間手段は、上記サーチブロック
    のピクセルの値を、上記記憶されたビデオデータのフレ
    ームの上記サーチブロック内の上記ピクセルに近いピク
    セルの値から計算する手段を含む請求項27の装置。
  29. 【請求項29】 上記m,n,θ及びpを選択的に変化
    させる手段は、m,n,θ及びpの階層的順序を最上位
    ファクタから最下位ファクタへと定める手段と、該最下
    位ファクタを第1の範囲にわたって、それより上位のフ
    ァクタを一定に維持しながら変化させる手段と、上記の
    より上位のファクタを逆階層的順序でインクリメントし
    た後、上記最下位ファクタの変化を繰返し、上記サーチ
    ブロックを上記限られた部分の隅々まで変位させる手段
    とを有する請求項23の装置。
  30. 【請求項30】 1つのビデオフレームから次のビデオ
    フレームにかけてのビデオ情報の直線運動を検出して、
    それを表す動きベクトルデータを発生し、ビデオフレー
    ム内のビデオ情報を表すビデオデータを減らすタイプの
    ビデオ圧縮処理に用いる方法であって、 前フレームから現フレームにかけてのビデオ情報の回転
    を検出するステップと、 検出した回転の大小を表す回転ベクトルデータを発生す
    るステップと、 上記回転ベクトルデータを上記動きベクトルデータと組
    合せるステップとを含む方法。
  31. 【請求項31】 各々がピクセルの2次元アレイより成
    る複数のブロックに現ビデオフレームを分割し、上記現
    ビデオフレームにおける夫々のブロックの、上記前フレ
    ームのそれらのブロックに対する回転を検出することに
    より、回転を検出する請求項30の方法。
  32. 【請求項32】 上記現ビデオフレームにおける上記夫
    々のブロックの相対的回転を表すブロック回転データを
    発生することにより、上記回転ベクトルデータを発生す
    る請求項31の方法。
  33. 【請求項33】 上記前ビデオフレームのブロックを記
    憶し、限られたサーチ区域で上記記憶されたブロックを
    サーチして上記ビデオフレームにおける特定ブロックと
    ほぼ同じブロックを求め、上記特定ブロックのこれとほ
    ぼ同じ上記記憶されたブロックに対する相対的回転を測
    定することにより、上記夫々のブロックの回転を検出す
    る請求項32の方法。
  34. 【請求項34】 上記記憶されたブロックをサーチする
    ステップは、記憶されたブロックにおける2次元ピクセ
    ルアレイの各ピクセルを第1の角度量だけ回転して上記
    各ピクセルを角度的に補間すること、上記第1角度量だ
    け回転され、上記記憶されたブロックにおける角度的に
    補間された各ピクセルと、上記特定ブロックにおけるほ
    ぼ同じピクセルとの差を測定すること、上記の補間及び
    差測定ステップを種々異なる角度量について連続的に繰
    返すこと、該繰返しの間に最小測定差を検出すること、
    及び、該最小差を生じた角度補間をもたらした上記角度
    量を識別することを含む請求項33の方法。
  35. 【請求項35】 上記第1角度量だけ回転され、上記記
    憶ブロックにおける角度的に補間された各ピクセルと、
    上記特定ブロックにおけるほぼ同じピクセルとの差は、
    上記特定ブロックにおける上記同じピクセルの各々と、
    上記記憶ブロックにおける角度補間されたピクセルの各
    々との絶対差を、上記記憶ブロックの各回転毎に測定し
    て決定する請求項34の方法。
  36. 【請求項36】 上記最小測定差は、上記特定ブロック
    における殆どすべてのピクセルに対して測定された絶対
    差を合算してブロック差値を作り、上記記憶ブロックの
    殆どすべての回転から導出された最小値をもつ上記ブロ
    ック差値を記憶することにより、検出する請求項35の
    方法。
  37. 【請求項37】 2次元アレイ内の各ピクセルは、上記
    記憶ブロックにおけるピクセルと一致しないピクセルを
    角度位置Pまで回転し、該角度位置Pまで回転されたピ
    クセルの値を記憶されたピクセルのうち上記位置Pに近
    いものから導出することにより、回転される請求項34
    の方法。
  38. 【請求項38】 1つのビデオフレームから次のビデオ
    フレームにかけてのビデオ情報の直線運動を表す動きベ
    クトルデータを発生し、ビデオフレーム内のビデオ情報
    を表すビデオデータを減らすタイプのビデオ圧縮処理に
    使用する方法であって、 前フレームから現フレームにかけてのビデオ情報のズー
    ムイン・ズームアウトを検出し、検出したズームの大小
    を表すズームベクトルデータを発生し、該ズームベクト
    ルデータを上記動きベクトルデータに組合せる方法。
  39. 【請求項39】 上記のズームイン及びズームアウトを
    検出するステップは、現ビデオフレームのピクセルを複
    数のブロックに分割し、前フレームのピクセルのブロッ
    クを記憶し、ズーム率によって修正した前フレームのブ
    ロックを上記現フレームのブロックと比較して、上記現
    フレームの夫々のブロックのズームイン・ズームアウト
    を検出することを含む請求項38の方法。
  40. 【請求項40】 上記の比較するステップは、限られた
    サーチ区域内で、上記ズーム率で修正された上記前フレ
    ームのブロックをサーチし、上記現フレームの特定ブロ
    ックが上記前フレームのサーチされたブロックといつ整
    合するかを決定して、上記特定ブロックのズームイン又
    はズームアウトを検出することを含む請求項39の方
    法。
  41. 【請求項41】 上記の限られたサーチ区域内でサーチ
    するステップは、各々が上記ズーム率で修正された、上
    記前フレームのピクセルのサーチブロックを連続的に選
    択して、上記現フレームの上記特定ブロックと比較する
    ことを含む請求項40の方法。
  42. 【請求項42】 上記の整合を決定するステップは、サ
    ーチブロックにおける各ピクセルを上記特定ブロックに
    おける対応ピクセルと比較し、これらの比較したピクセ
    ルの差を表す差データを発生する請求項41の方法。
  43. 【請求項43】 上記前フレームのピクセルのサーチブ
    ロックを連続的に選択するステップは、ズーム率を選択
    し、与えられた位置にあり、且つ上記選択されたズーム
    率で決まるサイズのサーチブロックを選択し、このズー
    ム率を選択し与えられた位置及びサイズのサーチブロッ
    クを選択するステップを、夫々ズーム率の所定範囲及び
    上記限られたサーチ区域にわたって繰返すことを含む請
    求項42の方法。
  44. 【請求項44】 サーチブロックにおける各ピクセルを
    上記特定ブロックにおける対応ピクセルと比較するステ
    ップと、差データを発生するステップとは、ズーム率を
    選択しサーチブロックを選択することを繰返す度に行う
    請求項43の方法。
  45. 【請求項45】 上記ズームベクトルデータは、ズーム
    率の選択とサーチブロックの選択を反復して得られた最
    小値をもつ差データを検出することにより発生し、上記
    最小値の差データを生じた選択されたズーム率が上記ズ
    ームベクトルを表す請求項44の方法。
  46. 【請求項46】 上記サーチブロックを選択するステッ
    プは、上記選択されたサーチブロックのピクセルを上記
    前フレームの上記記憶されたブロックのピクセルから補
    間するステップを含む請求項45の方法。
  47. 【請求項47】 上記の補間ステップは、上記選択され
    たズーム率により上記記憶ブロックのピクセルのサイズ
    を修正し、該修正されたピクセルの値を記憶されたピク
    セルのうちそれに近いものから導出することを含む請求
    項46の方法。
  48. 【請求項48】 上記差データを発生するステップは、
    上記特定ブロックのピクセルと、上記選択されたサーチ
    ブロックにおける補間された対応ピクセルとの間の絶対
    差を測定し、上記特定ブロックのピクセルのすべてにつ
    いて測定した上記絶対差を合算して、上記差データを発
    生することを含む請求項47の方法。
  49. 【請求項49】 1つのビデオフレームから次のビデオ
    フレームにかけてのビデオ動きベクトルを検出する方法
    であって、 ビデオデータの現フレームを複数のブロックに分割する
    ステップと、 ビデオデータの前フレームを記憶するステップと、 サーチブロックを定め、上記記憶された前フレームの限
    られた部分にわたって上記サーチブロックを直線、回転
    及びズームイン・ズームアウト方向に変位させ、上記現
    フレームから分割され選択されたブロックに最もよく似
    たビデオデータのブロックをサーチして求めるステップ
    と、 上記選択されたブロックに最もよく似た上記サーチブロ
    ックの直線、回転及びズームイン・ズームアウト位置に
    対応する動きベクトルx,y,r及びzを発生するステ
    ップとを含む方法。
  50. 【請求項50】 上記選択されたブロックにおけるビデ
    オデータを上記サーチブロックにおけるビデオデータと
    比較し、双方の間の最小差を検出するステップを更に含
    む請求項49の方法。
  51. 【請求項51】 上記ビデオデータはピクセルより成
    り、上記選択されたブロックにおけるピクセルを上記サ
    ーチブロックにおけるピクセルと比較して差値を発生
    し、上記選択されたブロックと上記サーチブロックの間
    の最小差値を、上記サーチブロックを上記限られた部分
    の隅々まで変位させ終えた後に決定する請求項50の方
    法。
  52. 【請求項52】 上記サーチブロックを変位させるステ
    ップは、上記サーチブロックの位置を決める座標xm,
    yn,rθ,zp(ただし、m及びnは可変整数、θは
    可変角度、pは可変ズーム係数)を定めること、及び
    m,n,θ及びpを選択的に変える手段を含む請求項5
    1の方法。
  53. 【請求項53】 上記選択されたブロックにおける各ピ
    クセルと、上記サーチブロックにおける比較された各対
    応ピクセルとの値の絶対差を、与えられたm,n,θ及
    びpの値に対して検出し、これら絶対差を合算して上記
    選択されたブロックと上記サーチブロックとの差を表す
    上記差値を発生するステップを更に含む請求項52の方
    法。
  54. 【請求項54】 上記選択されたサーチブロックにおけ
    る上記比較されたビデオデータ間の最小差を、上記サー
    チブロックを変位させるときのm,n,θ及びpの各値
    に対して得られる最小差値を記憶することにより、発生
    する請求項53の方法。
  55. 【請求項55】 動きベクトルx,y,r及びzを、上
    記記憶された差値の最小のものをもたらした上記サーチ
    ブロックの位置を決めるm,n,θ及びpの値を識別
    し、上記動きベクトルを該識別したm,n,θ及びpの
    値の関数として発生することにより、作成する請求項5
    4の方法。
  56. 【請求項56】 上記選択されたブロックにおけるビデ
    オデータを上記サーチブロックにおけるビデオデータと
    比較するステップは、上記サーチブロックの位置を決め
    る座標xm,yn,rθ及びzpが記憶されたビデオデ
    ータのブロックと実質的に一致しないとき、上記サーチ
    ブロックにおけるピクセル値を補間することを含む請求
    項52の方法。
  57. 【請求項57】 上記補間は、上記サーチブロックにお
    けるピクセル値を、該サーチブロックにおける上記ピク
    セルに近い、ビデオデータの上記記憶フレームのピクセ
    ルの値から計算することにより、実行される請求項56
    の方法。
  58. 【請求項58】 上記選択的にm,n,θ及びpを変化
    させるステップは、最上位ファクタから最下位ファクタ
    へm,n,θ及びpの階層的順序を定め、該最下位ファ
    クタを第1の範囲にわたって変化させると共にそれより
    上位のファクタは一定に維持し、上記のより上位のファ
    クタを逆階層的順序にイメンリメントしたあと、上記最
    下位ファクタの変化を繰返し、これにより上記サーチブ
    ロックを上記限られた部分の隅々まで変位させる手段を
    含む請求項52の方法。
JP6037317A 1993-03-08 1994-03-08 ビデオ圧縮処理用装置及び方法 Pending JPH0750773A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US027783 1993-03-08
US08/027,783 US6236682B1 (en) 1993-03-08 1993-03-08 Video motion vector detection including rotation and/or zoom vector generation

Publications (1)

Publication Number Publication Date
JPH0750773A true JPH0750773A (ja) 1995-02-21

Family

ID=21839764

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6037317A Pending JPH0750773A (ja) 1993-03-08 1994-03-08 ビデオ圧縮処理用装置及び方法

Country Status (2)

Country Link
US (1) US6236682B1 (ja)
JP (1) JPH0750773A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1997027707A1 (en) * 1996-01-22 1997-07-31 Matsushita Electric Industrial Co., Ltd. Digital image encoding and decoding method and digital image encoding and decoding device using the same
WO1998042134A1 (en) * 1997-03-17 1998-09-24 Mitsubishi Denki Kabushiki Kaisha Image encoder, image decoder, image encoding method, image decoding method and image encoding/decoding system
JP2006196965A (ja) * 2005-01-11 2006-07-27 Canon Inc 光学機器
JP2010231231A (ja) * 2010-06-07 2010-10-14 Canon Inc 光学機器

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8179971B1 (en) * 2003-12-08 2012-05-15 G&H Nevada-Tek Method and apparatus for video data compression
US6643387B1 (en) * 1999-01-28 2003-11-04 Sarnoff Corporation Apparatus and method for context-based indexing and retrieval of image sequences
US7720833B1 (en) * 2000-02-02 2010-05-18 Ebay Inc. Method and system for automatically updating search results on an online auction site
US8113839B2 (en) * 2000-07-21 2012-02-14 Sony Corporation Information processing apparatus, information processing method, information processing system, and storage medium
US7206457B2 (en) * 2001-11-27 2007-04-17 Samsung Electronics Co., Ltd. Method and apparatus for encoding and decoding key value data of coordinate interpolator
SE0400007D0 (sv) * 2004-01-02 2004-01-02 Gyros Ab Large scale surface modifiv´cation of microfluidic devices
KR100703283B1 (ko) * 2004-03-15 2007-04-03 삼성전자주식회사 회전 매칭을 통해 움직임을 예측하는 영상 부호화 장치 및방법
US7564874B2 (en) 2004-09-17 2009-07-21 Uni-Pixel Displays, Inc. Enhanced bandwidth data encoding method
US7737995B2 (en) * 2005-02-28 2010-06-15 Microsoft Corporation Graphical user interface system and process for navigating a set of images
GB2443581B (en) * 2005-11-07 2010-06-09 Sony Corp Recording apparatus, method, and program
JP4529874B2 (ja) * 2005-11-07 2010-08-25 ソニー株式会社 記録再生装置および記録再生方法、記録装置および記録方法、再生装置および再生方法、並びにプログラム
US9516326B1 (en) * 2005-12-09 2016-12-06 Nvidia Corporation Method for rotating macro-blocks of a frame of a video stream
US8154604B2 (en) * 2006-08-11 2012-04-10 Mavs Lab. Inc. Camera motion parameter retrieving system and solving process
KR100827093B1 (ko) * 2006-10-13 2008-05-02 삼성전자주식회사 영상 부호화 방법 및 장치
US8718133B2 (en) * 2008-03-26 2014-05-06 Samsung Electronics Co., Ltd. Method and system for image scaling detection
US8385404B2 (en) 2008-09-11 2013-02-26 Google Inc. System and method for video encoding using constructed reference frame
FI20095273A0 (fi) * 2009-03-17 2009-03-17 On2 Technologies Finland Oy Digitaalinen videokoodaus
EP2405661B1 (en) 2010-07-06 2017-03-22 Google, Inc. Loss-robust video transmission using two decoders
US8638854B1 (en) 2011-04-07 2014-01-28 Google Inc. Apparatus and method for creating an alternate reference frame for video compression using maximal differences
US9154799B2 (en) * 2011-04-07 2015-10-06 Google Inc. Encoding and decoding motion via image segmentation
US9332271B2 (en) * 2011-11-03 2016-05-03 Cisco Technology, Inc. Utilizing a search scheme for screen content video coding
US9014265B1 (en) 2011-12-29 2015-04-21 Google Inc. Video coding using edge detection and block partitioning for intra prediction
US9609341B1 (en) 2012-04-23 2017-03-28 Google Inc. Video data encoding and decoding using reference picture lists
WO2013162980A2 (en) 2012-04-23 2013-10-31 Google Inc. Managing multi-reference picture buffers for video data coding
US9210424B1 (en) 2013-02-28 2015-12-08 Google Inc. Adaptive prediction block size in video coding
US9756331B1 (en) 2013-06-17 2017-09-05 Google Inc. Advance coded reference prediction
US9313493B1 (en) 2013-06-27 2016-04-12 Google Inc. Advanced motion estimation
US9807416B2 (en) 2015-09-21 2017-10-31 Google Inc. Low-latency two-pass video coding

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3177299D1 (de) * 1980-04-11 1993-04-15 Ampex Bildverarbeitungssystem fuer raeumliche bildtransformation.
JPS60143330A (ja) * 1983-12-29 1985-07-29 Matsushita Electric Ind Co Ltd 撮影装置
DE3629472A1 (de) * 1986-08-29 1988-03-03 Licentia Gmbh Verfahren zur bewegungskompensierten bild-zu-bild-praediktionscodierung
GB8914843D0 (en) * 1989-06-28 1989-08-16 British Aerospace A method of processing video image data for use in the storage or transmission of moving digital images
US4980762A (en) * 1989-10-13 1990-12-25 Massachusetts Institute Of Technology Method and apparatus for image processing to obtain three dimensional motion and depth
JP2600504B2 (ja) * 1991-01-25 1997-04-16 日本ビクター株式会社 動きベクトル検出回路
JP2677312B2 (ja) * 1991-03-11 1997-11-17 工業技術院長 カメラワーク検出方法
US5200820A (en) * 1991-04-26 1993-04-06 Bell Communications Research, Inc. Block-matching motion estimator for video coder
US5259040A (en) * 1991-10-04 1993-11-02 David Sarnoff Research Center, Inc. Method for determining sensor motion and scene structure and image processing system therefor
US5235419A (en) * 1991-10-24 1993-08-10 General Instrument Corporation Adaptive motion compensation using a plurality of motion compensators
JP2549479B2 (ja) * 1991-12-06 1996-10-30 日本電信電話株式会社 動き補償フレーム間帯域分割符号化処理方法

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1229740A3 (en) * 1996-01-22 2005-02-09 Matsushita Electric Industrial Co., Ltd. Method and device for digital image encoding and decoding
US6415056B1 (en) 1996-01-22 2002-07-02 Matsushita Electric Industrial, Co., Ltd. Digital image encoding and decoding method and digital image encoding and decoding device using the same
EP1229740A2 (en) * 1996-01-22 2002-08-07 Matsushita Electric Industrial Co., Ltd. Method and device for digital image encoding and decoding
EP0877530A1 (en) * 1996-01-22 1998-11-11 Matsushita Electric Industrial Co., Ltd. Digital image encoding and decoding method and digital image encoding and decoding device using the same
AU710565B2 (en) * 1996-01-22 1999-09-23 Matsushita Electric Industrial Co., Ltd. Digital image encoding and decoding method and digital image encoding and decoding device using the same
EP0877530A4 (en) * 1996-01-22 2001-04-04 Matsushita Electric Ind Co Ltd METHOD FOR CODING AND DECODING DIGITAL IMAGES, AND DEVICE THEREFOR
US6771826B2 (en) 1996-01-22 2004-08-03 Matsushita Electric Industrial Co., Ltd. Digital image encoding and decoding method and digital image encoding and decoding device using the same
WO1997027707A1 (en) * 1996-01-22 1997-07-31 Matsushita Electric Industrial Co., Ltd. Digital image encoding and decoding method and digital image encoding and decoding device using the same
US7016544B2 (en) 1996-01-22 2006-03-21 Matsushita Electric Industrial Co., Ltd. Digital image encoding and decoding method and digital image encoding and decoding device using the same
US7110456B2 (en) 1997-03-17 2006-09-19 Mitsubishi Denki Kabushiki Kaisha Video encoder, video decoder, video encoding method, video decoding method, and video encoding and decoding system
US8194742B2 (en) 1997-03-17 2012-06-05 Mitsubishi Denki Kabushiki Kaisha Video decoder
WO1998042134A1 (en) * 1997-03-17 1998-09-24 Mitsubishi Denki Kabushiki Kaisha Image encoder, image decoder, image encoding method, image decoding method and image encoding/decoding system
US8098734B2 (en) 1997-03-17 2012-01-17 Mitsubishi Denki Kabushiki Kaisha Video encoder, video decoder, video encoding method, video decoding method, and video encoding and decoding system
US6404815B1 (en) 1997-03-17 2002-06-11 Mitsubishi Denki Kabushiki Kaisha Image encoder, image decoder, image encoding method, image decoding method and image encoding/decoding system
US8170105B2 (en) 1997-03-17 2012-05-01 Mitsubishi Denki Kabushiki Kaisha Video decoder and video decoding method
WO1998042135A1 (en) * 1997-03-17 1998-09-24 Mitsubishi Denki Kabushiki Kaisha Image encoder, image decoder, image encoding method, image decoding method and image encoding/decoding system
US8125542B2 (en) 2005-01-11 2012-02-28 Canon Kabushiki Kaisha Imaging device using a first motion vector in an image that is obtained via an imaging system that can perform zooming and a second motion vector caused by performing zooming of the image
JP2006196965A (ja) * 2005-01-11 2006-07-27 Canon Inc 光学機器
JP4636887B2 (ja) * 2005-01-11 2011-02-23 キヤノン株式会社 光学機器
JP2010231231A (ja) * 2010-06-07 2010-10-14 Canon Inc 光学機器

Also Published As

Publication number Publication date
US6236682B1 (en) 2001-05-22

Similar Documents

Publication Publication Date Title
JPH0750773A (ja) ビデオ圧縮処理用装置及び方法
US6128047A (en) Motion estimation process and system using sparse search block-matching and integral projection
US5818969A (en) Intelligent start for motion estimation search
JP4528441B2 (ja) ブロック整合法及び統合投射法を用いた階層的動き評価処理及び装置
US5581308A (en) Method and apparatus for determining true motion vectors for selected pixels
US5692063A (en) Method and system for unrestricted motion estimation for video
US5760846A (en) Apparatus for estimating motion vectors for feature points of a video signal
US6037988A (en) Method for generating sprites for object-based coding sytems using masks and rounding average
US5668608A (en) Motion vector estimation method and apparatus for use in an image signal encoding system
US6859494B2 (en) Methods and apparatus for sub-pixel motion estimation
JP2928708B2 (ja) 運動ベクター検出方法および装置
KR100246167B1 (ko) 듀얼프라임 움직임 추정시스템 및 방법
US5802211A (en) Method and apparatus for transmitting and utilizing analog encoded information
US5862261A (en) Current frame prediction method and apparatus for use in an image signal encoding system
JPH05227525A (ja) 画像符号化装置
US20090051679A1 (en) Local motion estimation using four-corner transforms
US6020925A (en) Method and apparatus for encoding a video signal using pixel-by-pixel motion prediction
KR0178230B1 (ko) 특징점에 의한 움직임 추정을 이용한 영상 처리 장치
JP3063380B2 (ja) 高能率符号化装置
JP2007507925A (ja) オーバコンプリート・ウェーブレット・ビデオ符号化フレームワーク内で有意係数をクラスタ化する、適応型構造化要素を備える3次元形態的演算
JPH06153185A (ja) 動き補償装置及びこれを用いた符号化装置
KR0174455B1 (ko) 화소단위 움직임예측을 이용하는 영상신호 부호화 방법 및 장치
JP3433489B2 (ja) 動きベクトル検出方法及び画像データの符号化方法
KR0178228B1 (ko) 이미지 신호 복호화용 개선된 움직임 벡터 추정 방법 및 장치
JPH07203460A (ja) 軌跡表示装置