JPH08265773A - 階層型動きベクトル検出方法及びその装置 - Google Patents

階層型動きベクトル検出方法及びその装置

Info

Publication number
JPH08265773A
JPH08265773A JP6538495A JP6538495A JPH08265773A JP H08265773 A JPH08265773 A JP H08265773A JP 6538495 A JP6538495 A JP 6538495A JP 6538495 A JP6538495 A JP 6538495A JP H08265773 A JPH08265773 A JP H08265773A
Authority
JP
Japan
Prior art keywords
motion vector
block
image
layer
peripheral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP6538495A
Other languages
English (en)
Other versions
JP2963362B2 (ja
Inventor
Takeshi Hanamura
剛 花村
Koichi Oyama
公一 大山
Maki Sato
真樹 佐藤
Kazuhiko Morita
一彦 森田
Yasuhiro Yamada
恭裕 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
GRAPHICS COMMUN LAB KK
Original Assignee
GRAPHICS COMMUN LAB KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by GRAPHICS COMMUN LAB KK filed Critical GRAPHICS COMMUN LAB KK
Priority to JP6538495A priority Critical patent/JP2963362B2/ja
Publication of JPH08265773A publication Critical patent/JPH08265773A/ja
Application granted granted Critical
Publication of JP2963362B2 publication Critical patent/JP2963362B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【目的】 MPEGの予測タイプに配慮して周辺ブロッ
ク参照を行なうことにより、メモリアクセス量の増大を
抑える。 【構成】 原画像と同一または近い解像度を有する最下
位の第1階層画像と、この第1階層画像の解像度に対し
て段階的に解像度が低下する上位側の第2〜第m階層画
像とを用い、上位側の任意階層で検出された親ブロック
の動きベクトルに基づいて、該任意階層の一つ下位の階
層の注目ブロックの動きベクトルを検出する際に、前記
注目ブロックと同一階層内の各ブロックのうち、該注目
ブロックの直近に位置する周辺ブロックの動きベクトル
を参照する場合は、該周辺ブロックの位置又は数若しく
はその両方を、片方向予測と双方向予測の場合で異なら
せる。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、動画圧縮の中核技術の
一つである「動きベクトル」の検出方法に関し、とく
に、階層型画像情報と周辺ブロック参照法を併用する検
出方法及びその装置の改良に関する。
【0002】
【背景説明】
「動画像圧縮」一般に、動画像の情報量は、静止画像に
比べてはるかに膨大であり、情報伝達メディアや蓄積メ
ディアへの利用に際して静止画以上に効率の高い圧縮技
術が求められる。たとえば、画像圧縮の国際標準化委員
会の一つであるMPEG(Moving Picture Experts Gro
up)によって制定された動画像符号化/復号方式(MP
EG1及びMPEG2;以下これらを総称して「MPE
G」と言う)は、こうした用途に好ましい圧縮技術であ
る。 「時間的冗長性と予測誤差」静止画像では、主に「空間
的冗長性」を使って圧縮を実現している。一方、動画像
圧縮でも空間的冗長性を利用するが「時間的冗長性」の
利用がより重要になる。時間的冗長性とは、動画像を構
成する多数のフレームのうち、時間的に近いフレーム同
士は非常に似通った画像になるという性質のことをい
う。たとえば、アニメーションでは、この性質を利用し
て連続する絵を少しずつ変化させることにより、違和感
のないスムーズな動きを出している。この場合、時間的
に隣り合うフレーム同士には、程度の差こそあれほとん
ど違いがないことが多い。したがって、時間的に近いフ
レームの“異なる部分”(予測誤差と呼ばれる)だけを
伝送または蓄積すれば(言い換えれば、同一の部分を伝
送または蓄積しないようにすれば)、結果として相当に
高い圧縮率を得ることができる。 「フレーム間予測符号化」予測誤差を得るために、いわ
ゆる「フレーム間予測符号化」が行なわれる。これは、
圧縮したいフレームが持つ画像情報を他のフレームから
予測するという方式であり、MPEGでは、「順方向予
測」、「逆方向予測」及び「双方向予測」の三つが行な
われる。順方向予測は時間的に近い“過去のフレーム”
と圧縮したい“現在のフレーム”との間の予測誤差を得
るというもの、逆方向予測は時間的に近い“未来のフレ
ーム”と圧縮したい“現在のフレーム”との間の予測誤
差を得るというもの、さらに、双方向予測は“過去のフ
レーム”と“未来のフレーム”との平均値と“現在のフ
レーム”との間の予測誤差を得るというものである。
【0003】なお、MPEGでは、I、P及びBといっ
た3種類のピクチャ・タイプを規定する。Iピクチャは
フレーム間予測を行わず(参照フレームを必要とせず)
に生成される画像、Pピクチャは片方向予測によって
(過去の1枚のフレームを参照フレームとして)生成さ
れる画像、Bピクチャは片方向予測または双方向予測に
よって(過去と未来の2枚のフレームを参照フレームと
して)生成される画像であり、それぞれ、Intra-Pictur
e、Predictive-Picture、Bidirectionally Predictive-
Pictureの頭文字をとったものである。 「動きベクトルと動き補償」動画像における動き部分、
たとえば疾走する車両を考えると、時間的に隣り合うフ
レーム間では、車両だけが平行移動し、背景はほとんど
変化しない。このため、動き部分(車両)の画像を画素
値……画像を構成する点(画素)の情報を数値で表した
もの……で見た場合には、時間的に隣り合うフレーム
(便宜的にnフレームとn−1フレーム)同士で異なる
のは、位置の情報(座標情報)だけで、他の情報(たと
えば色情報や輝度情報)にはほとんど変化が見られな
い。したがって、n−1フレームの動き部分(車両)の
画素に、直線的な移動情報である「動きベクトル」を与
えれば、動きベクトル情報のみを送り、予測誤差情報を
ほとんど送る必要がなくなる。動きベクトルを利用して
画像信号をずらす方法を「動き補償」という。単純にフ
レーム間予測符号化を利用するのに比べて伝送情報量を
大幅に減らすことができ、圧縮効率をさらに高めること
ができる。 「ブロック・マッチング法による動きベクトル検出の基
本原理」図3、図4を用いて、動きベクトル検出の基本
原理を説明する。図3において、100は現在のフレー
ム(上述のnフレームに相当)であり、このフレーム1
00は、所定サイズ(たとえば16×16画素)のブロ
ックに分割されている。ここでは、そのうちの一つのブ
ロック101を、動きベクトルの検出対象ブロック(以
下「注目ブロック」)として代表する。図4において、
102は時間的に一つ前のフレーム(上述のn−1フレ
ームに相当)であり、このフレーム102には、動きベ
クトル探索のための領域(以下「探索領域」)103が
設定されている。探索領域103のサイズは注目ブロッ
ク101よりも大きく、たとえば、注目ブロック101
の縦と横の−方向に16画素を加えるとともに+方向に
15画素を加えた47×47画素の大きさを有してい
る。
【0004】いま、探索領域103内で、注目ブロック
101を水平/垂直方向に所定画素数(一般には1画
素)ずつずらしながら、重なり合う画素間の画素値の差
分を順次に求めていくと、探索領域103の内部を一巡
した段階で、すべての画素の差分値の合計を表す値(た
とえば、差分値の絶対値の和や差分値の自乗の和)が最
小となる部分領域104が見つかる。この部分領域10
4は、nフレームの注目ブロック101との相関性が最
も高い領域であり、その大きさは注目ブロック101と
同一(ここでは16×16画素)である。したがって、
二つのブロック101、104がマッチングしているか
ら、注目ブロック101の中心から部分領域ブロック1
04の中心へと向かうベクトル105を求め、このベク
トル105を注目ブロック101の「動きベクトル」と
すればよい。 「ブロック・マッチング法の検出精度」ブロック・マッ
チング法は、基本的にフレーム間予測誤差エントロピー
の低減を実現するための動き量検出を狙いとしている。
このため、検出精度に関しては検出誤りの発生頻度が高
く、元々の被写体の動きに即した正確な動き量の検出に
至っていないのが現状である。 「周辺ブロック参照法」周辺ブロック参照法は、ブロッ
ク・マッチング法の検出精度を高めるための技術であ
り、要するに、注目ブロックの予測動き量を初期偏位ベ
クトルとして検出する際に、周辺に位置するいくつかの
ブロックの確定済み動きベクトルを参照するとするもの
である。以下、参照のためのブロックを単に「周辺ブロ
ック」と言う。
【0005】図5において、升目の一つ一つはブロック
を表している。いま、eを予測動き量を検出しようとす
る注目ブロックとすると、A〜Dがそれに対する周辺ブ
ロックになる。なお、残りのf〜iのブロックも注目ブ
ロックのまわりに位置する周辺ブロックであるが、参照
のための周辺ブロックにはならない。これは、ブロック
のスキャン順を「……A→B→C→D→e→f→g→h
→i……」と想定しているからで、アルファベットの小
文字を付したブロックは、動きベクトルがまだ確定して
いないブロック(言い換えればこれから注目ブロックに
なるブロック)だからである。
【0006】周辺ブロックで検出された動きベクトルに
基づいて、注目ブロックの初期偏位ベクトルを得るに
は、たとえば、周辺ブロックのそれぞれの動き量の平均
値を注目ブロックの初期偏位とする方法や、周辺ブロッ
クにおける動き補償誤差を判定条件として、これが最小
となる周辺ブロックの動き量を注目ブロックの初期偏位
とする方法、若しくは、周辺ブロックの動き量による注
目ブロックの動き補償誤差を判定条件として、これが最
小となる周辺ブロックの動き量を注目ブロックの初期偏
位とする方法など、いろいろ知られている。
【0007】
【従来の技術】電子情報通信学会論文誌(D−II Vol.
J72−D−II No.3 pp.395−403 1989年3月)に
は、階層画素情報を用いた動画像における動きベクトル
検出方式が記載されている。この論文の技術では、検出
精度を改善するために、周辺ブロック参照法を併用して
いる。
【0008】図6は階層画素情報の模式図である。図6
において、「0」、「h」及び「h+1」は代表的に示
す三つの階層画像であり、0は最下層の画像、hは任意
の中位階層の画像、h+1は画像hの一つ上層の画像で
ある。画像0を原画像とすると、画像hの画素密度は画
像0の画素密度よりも少なく、画像h+1の画素密度は
さらに少なくなるように設定されている。好ましい例に
よれば、画像h+1の画素密度は画像hの画素密度の1
/2である。これは、画像hの周波数帯域とサンプリン
グ周波数を1/2にして得られた画像に相当する。
【0009】このような階層画像においては、その上位
階層の画像の空間解像度が下位階層に比べて劣化するた
め、上位階層と下位階層では相反する性質を持つことに
なる。すなわち、上位階層では被写体の動きを大局的に
捉えることができ(言い換えれば、上位階層では被写体
の動きを詳細に捉えることができない)、一方、下位階
層ではこの逆に被写体の動きを詳細に捉えることができ
る(言い換えれば、下位階層では被写体の動きを局所的
にしか捉えることができない)。
【0010】したがって、上位階層で検出された動きベ
クトルに基づいて、下位階層の動きベクトルを逐次検出
すれば、被写体の動きを効率よく、しかも高い精度で検
出することが可能となる。画像hの階層(以下「第h階
層」)におけるブロック・マッチングの探索は、一つ上
の画像h+1の階層(以下「第h+1階層」)の被従属
ブロック(親ブロック)の検出結果Vh+1を2倍したも
の(2Vh+1)を初期偏位ベクトルとして行なう。たと
えば、次式で定義するマッチング評価関数「S
(uh′,vh′)」が最小となるVh′を探索して検出
する。このとき、第h階層での動きベクトルVhは、図
7(a)に示すように、Vh=Vh′+2Vh+1で与えら
れる。また、マッチングの探索範囲は、階層画像の各層
間の対応を考慮し、親ブロックの検出結果2Vh+1
(2uh+1,2vh+1)を中心に、たとえば5×5の範囲
に設定する。
【0011】
【数1】
【0012】 但し、初期偏位点:2Vh+1=(2uh+1,2vh+1) 探索点:Vh′=(uh′,vh′) 前フレームの画像h:ft-1,h(x,y) 現フレームの画像h:ft,h(x,y) 検出動きベクトル:Vh=(uh,vh) =(2uh+1+uh′,2vh+1+vh′) 前出の図6の階層画像では、画像h+1の解像度が画像
hと比べて1/2になっている。このため、初期偏位と
して用いる親ブロックの検出結果Vh+1も、注目の動き
ベクトルVhの1/2の解像度でしかないから、親ブロ
ックの検出結果を2倍し、画像hの解像度に合わせた
後、これを初期偏位ベクトルとして設定する必要があ
る。たとえば、Vhmax=0とおくと、各階層のマッチン
グによって検出される動きベクトルVhは、次式のよ
うになる(図7(b)参照)。
【0013】
【数2】
【0014】以上のとおり、階層型動きベクトル検出で
は、上位階層で比較的大まかな動きを、下位階層でさら
に詳細な動きを逐次に検出するという作用が得られる
が、各階層間の対応から、マッチングの探索範囲を狭い
範囲(たとえば親ブロックの検出結果を中心に5×5の
範囲)に制限せざるを得ず、このため、とくに一つのブ
ロック内に動きの異なる領域が複数存在する場合には、
各層間の対応付けが追従しきれないという不都合があ
る。
【0015】図8はその不都合例である。いま、静止背
景上の被写体(ハッチング部)が矢線ベクトル200の
方向に移動したとき(図8(a))、第h+1階層の親
ブロックにおける最上位階層からの検出過程で動きベク
トルVh+1が検出されたとすると(図8(b))、第h
階層のブロックでは、2Vh+1を中心として所定範囲
(5×5)の探索を行なうが(図8(c))、2Vh+1
がVh′の探索範囲を超えていると、静止領域に対応す
るブロック201の動きベクトルVh=0が検出できな
い。
【0016】そこで、前出論文の技術では、「周辺ブロ
ック参照法」を階層的に適用し、親ブロックの検出結果
を中心点とする探索点(図9(a)の◎印参照)のほか
に、親ブロックと境界を接する四つの周辺ブロック(図
9(a)の☆印参照)の検出結果を新たな探索点として
加えている。これによれば、親ブロックの検出結果とは
別に、周辺ブロックの検出結果を探索点として参照でき
るから、親ブロックの検出結果を中心とする探索範囲が
狭くても、周辺ブロックの動きに対応する相対的な動き
が、その探索範囲内であれば、実際の動きに十分に追従
した検出(図9(b)の●印参照)を行なうことができ
る。
【0017】
【発明が解決しようとする課題】しかしながら、前出論
文の技術にあっては、MPEGの予測タイプに対する配
慮がなされていないため、とくに、双方向予測を許すB
ピクチャの画像に対して周辺ブロック参照を行なうと、
片方向予測の場合に比べてメモリアクセス量が倍増する
という不都合があり、たとえば、画像サイズが大きく、
演算量の多いHD/UD(High Definition/Ultra Def
inition)画像に適用できなくなるという問題点があ
る。
【0018】
【目的】そこで、本発明は、MPEGの予測タイプに配
慮して周辺ブロック参照を行なうことにより、メモリア
クセス量の増大を抑えて、たとえば、HD/UD画像に
も適用できる階層型動きベクトル検出方法及びその装置
を提供することを目的とする。
【0019】
【課題を解決するための手段】請求項1記載の方法発明
は、原画像と同一または近い解像度を有する最下位の第
1階層画像と、この第1階層画像の解像度に対して段階
的に解像度が低下する上位側の第2〜第m階層画像とを
用い、上位側の任意階層で検出された親ブロックの動き
ベクトルに基づいて、該任意階層の一つ下位の階層の注
目ブロックの動きベクトルを検出する際に、前記注目ブ
ロックと同一階層内の各ブロックのうち、該注目ブロッ
クの直近に位置する周辺ブロックの動きベクトルを参照
する場合は、該周辺ブロックの位置又は数若しくはその
両方を、片方向予測と双方向予測の場合で異ならせるこ
とを特徴とする。
【0020】請求項2記載の方法発明は、請求項1記載
の発明において、前記周辺ブロックを含む画像が最下位
の第1階層画像の場合に、前記周辺ブロックの位置又は
数若しくはその両方を、片方向予測と双方向予測の場合
で異ならせることを特徴とする。請求項3記載の方法発
明は、請求項1記載の発明において、前記注目ブロック
の動きベクトルの検出に際し、一つ上位の層の親ブロッ
クの周辺に位置する周辺ブロック(上位層周辺ブロッ
ク)の動きベクトルも参照する場合は、該上位層周辺ブ
ロックの位置又は数若しくはその両方を、片方向予測と
双方向予測の場合で異ならせることを特徴とする。
【0021】請求項4記載の装置発明は、原画像と同一
または近い解像度を有する最下位の第1階層画像を格納
する第1階層メモリと、この第1階層画像の解像度に対
して段階的に解像度が低下する上位側の第2〜第m階層
画像を格納する第2〜第m階層メモリと、上位側の任意
階層で検出された親ブロックの動きベクトルに基づい
て、該任意階層の一つ下位の階層の注目ブロックの動き
ベクトルを検出する動きベクトル検出手段と、前記注目
ブロックと同一階層内の各ブロックのうち、該注目ブロ
ックの直近に位置する周辺ブロックの動きベクトルを参
照する動きベクトル参照手段とを備え、該動きベクトル
参照手段は、該周辺ブロックの位置又は数若しくはその
両方を、片方向予測と双方向予測の場合で異ならせるこ
とを特徴とする。
【0022】請求項5記載の装置発明は、請求項4記載
の発明において、前記周辺ブロックを含む画像が最下位
の第1階層画像の場合に、前記周辺ブロックの位置又は
数若しくはその両方を、片方向予測と双方向予測の場合
で異ならせることを特徴とする。請求項6記載の装置発
明は、請求項4記載の発明において、一つ上位の層の親
ブロックの周辺に位置する周辺ブロック(上位層周辺ブ
ロック)の動きベクトルを参照する第2の動きベクトル
参照手段を備え、該第2の動きベクトル参照手段は、該
上位層周辺ブロックの位置又は数若しくはその両方を、
片方向予測と双方向予測の場合で異ならせることを特徴
とする。
【0023】
【作用】請求項1または4記載の発明では、注目ブロッ
クを含む画像の予測タイプが片方向の場合だけ、該注目
ブロックの周辺ブロックの動きベクトルが参照される。
言い換えれば、双方向予測の場合には、周辺ブロックの
参照動作が行なわれない。したがって、過去と未来の双
方向予測を必要とする(すなわちそれだけメモリアクセ
スが多い)場合の周辺ブロック参照が制限されるから、
全体のメモリアクセス量削減が図られる。
【0024】請求項2または5記載の発明では、メモリ
バンド幅上、負担の大きい最下層画像についてのみ双方
向予測ブロックの周辺ブロック参照が制限される。した
がって、他の階層画像では双方向予測ブロックの周辺ブ
ロック参照が行なわれるから、画質の低下を抑えつつメ
モリアクセス量の削減が図られる。請求項3または6記
載の発明では、上位層周辺ブロックを参照する場合に、
その上位層注目ブロックを含む画像の予測タイプが双方
向であれば、上位層周辺ブロックの参照が制限される。
【0025】
【実施例】以下、本発明の実施例を図面に基づいて説明
する。図1、図2は本発明に係る階層型動きベクトル検
出装置の一実施例の原理構成図である。なお、以下の説
明では、3階層の階層型画像に適用した例であるが、こ
の階層数に限定されるものではない。
【0026】図1において、10〜30は、階層毎に設
けられた動きベクトル検出部であり、図面下側の動きベ
クトル検出部30は3階層型画像の第1層目の画像(最
下位層画像)に対応し、図面中央の動きベクトル検出部
20は同画像の第2層目の画像(中間層画像)に対応
し、さらに、図面上側の動きベクトル検出部10は同画
像の第3層目の画像(最上位層画像)に対応している。
以下、説明の都合上、図面上側の動きベクトル検出部1
0を「最上位層動きベクトル検出部」、図面中央の動き
ベクトル検出部20を「中位層動きベクトル検出部」、
さらに、図面下側の動きベクトル検出部30を「最下位
層動きベクトル検出部」と呼称する。
【0027】各部の構成は、中位層動きベクトル検出部
20と最下位層動きベクトル検出部30が同一で、最上
位層動きベクトル検出部10が一部異なっている。すな
わち、最上位層動きベクトル検出部10は、二つの画像
メモリ10a、10b、動きベクトル/評価値メモリ1
0c及び動きベクトル評価器10dを含み、一方、中位
層動きベクトル検出部20(最下位層動きベクトル検出
部30)は、二つの画像メモリ20a、20b(30
a、30b)、動きベクトル/評価値メモリ20c(3
0c)及び動きベクトル評価器20d(30d)に加
え、動きベクトル伸長器20e(30e)とピクチャタ
イプ指示器20h、20i(30h、30i)を構成に
含む。
【0028】動きベクトル検出部10(20または3
0)に含まれる二つの画像メモリ10a、10b(20
a、20bまたは30a、30b)の一方は、現フレー
ムの画像信号(以下、単に「現フレーム」と言う)の格
納用、他方は参照フレーム(たとえば、時間的に一つ前
のフレーム)の画像信号(以下、単に「参照フレーム」
と言う)の格納用であり、特に限定しないが、図では、
左側の画像メモリ10a(20aまたは30a)を現フ
レーム格納用、右側の画像メモリ10b(20bまたは
30b)を参照フレーム格納用としている。
【0029】ここで、画像メモリ10a、10b、20
a、20b、30a、30bの解像度(画素密度)は、
下位側から上位側へといくにつれて段階的に低くなって
いる。すなわち、最下位層動きベクトル検出部30の画
像メモリ30a、30bに格納された画像は「高解像度
画像」であり、また、中位層動きベクトル検出部20の
画像メモリ20a、20bに格納された画像は「中解像
度画像」であり、さらに、最上位層動きベクトル検出部
10の画像メモリ10a、10bに格納された画像は
「低解像度画像」である。
【0030】したがって、高解像度画像を格納する画像
メモリ10a、10bは、発明の要旨に記載の「第1階
層メモリ」として機能し、中解像度画像と低解像度画像
を格納する残りの画像メモリ20a、20b、30a、
30bは、発明の要旨に記載の「第2〜第m階層メモ
リ」としての機能を有している。各画像の画素密度は、
「高」、「中」、「低」の順に段階的に低くなるように
設定すればよいが、設計容易性の点で、一定の倍率で変
化するようにした方が望ましい。たとえば、高解像度画
像の画素密度を原画像と同一の(または近い)解像度に
するとともに、この高解像度画像の画素を1/4間引い
たものを中解像度画像とし、さらに、中解像度画像の画
素を1/4間引いたものを低解像度画像としてもよい。
この場合、低解像度画像の画素密度は、高解像度画像の
1/16になる。
【0031】次に、画像メモリ以外の各部の機能を説明
する。まず、最上位層動きベクトル検出部10の動きベ
クトル評価器10dは、一方の画像メモリ10aから読
み出した現フレームの注目ブロックの画像(図4の符号
101参照)と、他方の画像メモリ10bから読み出し
た探索領域(図4の符号103参照)の画像とに基づ
き、公知の手法(前述のブロックマッチング法参照)に
よって注目ブロックの動きベクトルを検出するもので、
検出された動きベクトルと評価値は、動きベクトル/評
価値メモリ10cに書き込まれる。
【0032】中位層動きベクトル検出部20の動きベク
トル評価器20d(または最下位層動きベクトル検出部
30の動きベクトル評価器30d)は、一方の画像メモ
リ20a(30a)から読み出した現フレームの注目ブ
ロックの画像と、他方の画像メモリ20b(30b)か
ら読み出した探索領域の画像とに基づき、公知の手法に
よって注目ブロックの動きベクトルを検出する点で、最
上位層の動きベクトル評価器10dと類似するが、第1
に、一つ上の階層の親ブロックの動きベクトルを初期偏
位ベクトルとする点で相違する。
【0033】すなわち、中位層動きベクトル検出部20
の動きベクトル評価器20d(または最下位層動きベク
トル検出部30の動きベクトル評価器30d)には、動
きベクトル伸長器20e(30e)によって所定の伸長
処理を施された一つ上の階層の親ブロックの動きベクト
ル10f(20f)……10f′または20f′は伸長
処理後の動きベクトル……が入力しており、動きベクト
ル評価器20d(30d)は、親ブロックの動きベクト
ル10f′(20f′)で指示されるベクトルに対応す
る領域よりも若干大きい探索領域(x)を設定し、その
領域内の画像を画像メモリ20b(30b)から読み込
み、領域(x)の中で評価が最も高いベクトルVxを探
し出し、その探索結果のベクトルVxと評価値xとを動
きベクトル/評価値メモリ20c(30c)に書き込む
点で相違する。探索領域xを必要最小限の大きさにで
き、無駄な探索処理を回避できる。したがって、中位層
と最下位層の動きベクトル評価器20d、30dは、上
位側の階層で検出された親ブロックの動きベクトルに基
づいて、一つ下位の階層の注目ブロックの動きベクトル
を検出する「動きベクトル検出手段」としての機能を有
している。
【0034】また、第2に、同一階層内の周辺ブロック
の動きベクトルを参照(但し、Pピクチャのときだけ)
する点で相違する。すなわち、動きベクトル/評価値メ
モリ20c(30c)にすでに書き込まれている周辺ブ
ロックの動きベクトルを、参照動きベクトル20g(3
0g)として少なくとも一つ読み出し、この参照動きベ
クトル20g(30g)に対応した探索領域(Yi
(iは参照動きベクトルの識別番号)の画像を、画像メ
モリ20b(30b)から読み出す。そして、領域(Y
i)の中で最も評価の高いベクトルVyを探し出し、そ
の探索結果の動きベクトルVyiと評価値yiとを動きベ
クトル/評価値メモリ20c(30c)に書き込む。最
後に、親ブロックの動きベクトルを参照したときの評価
値xと、周辺ブロックの動きベクトルを参照したときの
評価値yi(たとえば二つの周辺ブロックを参照した場
合にはy1、y2)との中で最も評価の高いベクトルVz
を当該階層画像の注目ブロックにおける動きベクトル2
0f(30f)として確定し、一つ下の階層へ出力する
とともに、動きベクトル/評価値メモリ20c(30
c)に書き込む。したがって、中位層と最下位層の動き
ベクトル評価器20d、30dは、注目ブロックと同一
階層内の各ブロックのうち、該注目ブロックの直近に位
置する周辺ブロックの動きベクトルを参照する「動きベ
クトル参照手段」としての機能も有している。
【0035】ここで、本実施例では、周辺ブロックの動
きベクトルを参照する場合、周辺ブロック数を4個未満
の少ない数(好ましくは1個または2個)に制限する。
これにより、冒頭の従来例の4個(図9の☆印参照)に
比べて、参照メモリのアクセス量を大幅に削減できる。
さらに、本実施例では、周辺ブロック参照の位置及び数
をピクチャタイプに応じて変えている。ピクチャタイプ
指示器20h、20i、30h及び30iはそのための
構成要素である。これらのピクチャタイプ指示器20
h、20i、30h及び30iは、それぞれ、画像メモ
リ20a、20b、30a及び30b毎に設けられてお
り、ここには明示していないあらかじめ決められた時間
順序より定められるか、あるいは外部より逐次与えられ
るピクチャタイプを動きベクトル評価器20d、30d
に与える。動きベクトル評価器20d、30dは、与え
られたピクチャタイプが双方向予測を許すBピクチャの
場合に、周辺ブロックの参照動作を変更する。すなわ
ち、周辺ブロック参照を制限あるいは禁止することで、
双方向予測を許すBピクチャの場合のメモリアクセス量
の増大を抑える働きをする。
【0036】図2はMPEGにおける予測符号化の概念
図である。図2の例はI、Pピクチャの周期(M)が3
の場合である。IまたはPピクチャの間に二つのBピク
チャが挿入されている。曲線矢印で示すように、Pピク
チャは過去のIピクチャ(またはPピクチャ)からの片
方向予測で復号化されるが、Bピクチャは過去と未来の
Iピクチャ(またはPピクチャ)からの双方向予測で復
号化される。たとえば、ピクチャ番号#2のBピクチャ
は、#1のIピクチャと#4のPピクチャとから復号化
される。
【0037】したがって、片方向予測しか行わないPピ
クチャに比べ、双方向予測を許すBピクチャの場合の周
辺ブロック参照は、その予測方向に応じてメモリアクセ
ス量が多い(単純計算で2倍)から、双方向予測を許す
Bピクチャの周辺ブロック参照を制限又は禁止すること
によって、それだけ全体のメモリアクセス量の増大を抑
えることができ、とくに、HD/UD画像のような処理
量の多いものに用いて好適な階層型動きベクトル検出方
法及びその装置を実現できる。
【0038】また、双方向予測を許すBピクチャの周辺
ブロック参照制限(又は禁止)を、原画像(最下層画
像)だけに限定することは好ましい。原画像のブロック
画素数と画面当たりのブロック数は他の階層画像に比べ
て大きく、メモリバンド幅上、大きな負担になるから
で、双方向予測を許すBピクチャの周辺ブロック参照を
この原画像で制限又は禁止することにより、メモリアク
セス量の効率的な抑制を図ることができるからである。
しかも、他の階層画像では、Bピクチャの周辺ブロック
参照を許すことになるから、画質の劣化を最小限に抑え
ることもできる。
【0039】さらに、Pピクチャは、別の画像の予測画
像となり得るため、画質劣化が伝播することがあり得る
が、Bピクチャでの画質劣化は、その性格上、伝播する
ことはなく、画質全体への影響は少ない。なお、以上の
実施例では、注目ブロックと同一階層内のブロックを周
辺ブロックとしているが、これに限るものではない。一
つ上位の層の親ブロックの周辺に位置する周辺ブロック
(上位層周辺ブロック)の動きベクトルを参照してもか
まわない。この場合には、たとえば、図1の信号10
f、20fを上位層周辺ブロックの数だけ増やせばよ
い。したがって、上位層周辺ブロックを参照する場合に
は、中位層と最下位層の動きベクトル評価器20d、3
0dは、発明の要旨に記載の「第2の動きベクトル参照
手段」の機能も兼ね備えることになる。
【0040】
【発明の効果】請求項1または4記載の発明によれば、
注目ブロックを含む画像の予測タイプが双方向予測の場
合に、周辺ブロックの参照動作が行なわれない。したが
って、過去と未来の双方向予測を必要とする(すなわち
それだけメモリアクセスが多い)場合の周辺ブロック参
照が制限されるから、全体のメモリアクセス量削減を図
ることができる。
【0041】請求項2または5記載の発明によれば、メ
モリバンド幅上、負担の大きい最下層画像についてのみ
双方向予測ブロックの周辺ブロック参照が制限される。
したがって、他の階層画像では双方向予測ブロックの周
辺ブロック参照が行なわれるから、画質の低下を抑えつ
つメモリアクセス量の削減を図ることができる。請求項
3または6記載の発明によれば、上位層周辺ブロックを
参照する場合に、その上位層注目ブロックを含む画像の
予測タイプが双方向であれば、上位層周辺ブロックの参
照が制限される。したがって、全体のメモリアクセス量
を削減できる。
【図面の簡単な説明】
【図1】一実施例の概念的な要部全体構成図である。
【図2】MPEGにおける予測符号化の概念図である。
【図3】動きベクトル検出の基本原理図(その1)であ
る。
【図4】動きベクトル検出の基本原理図(その2)であ
る。
【図5】同一階層における周辺ブロックの概念図であ
る。
【図6】階層型画像の模式図である。
【図7】階層型画像における動きベクトル検出の概念図
である。
【図8】階層型画像における不都合説明図である。
【図9】周辺ブロック参照法を階層的に適用した従来技
術の概念図である。
【符号の説明】
10a、10b:画像メモリ(第1階層メモリ) 20a、20b、30a、30b:画像メモリ(第2〜
第m階層メモリ) 20d、30d:動きベクトル評価器(動きベクトル検
出手段、動きベクトル参照手段、第2の動きベクトル参
照手段)
フロントページの続き (72)発明者 佐藤 真樹 東京都渋谷区代々木4丁目36番19号 株式 会社グラフィックス・コミュニケーショ ン・ラボラトリーズ内 (72)発明者 森田 一彦 東京都渋谷区代々木4丁目36番19号 株式 会社グラフィックス・コミュニケーショ ン・ラボラトリーズ内 (72)発明者 山田 恭裕 東京都渋谷区代々木4丁目36番19号 株式 会社グラフィックス・コミュニケーショ ン・ラボラトリーズ内

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】原画像と同一または近い解像度を有する最
    下位の第1階層画像と、この第1階層画像の解像度に対
    して段階的に解像度が低下する上位側の第2〜第m階層
    画像とを用い、 上位側の任意階層で検出された親ブロックの動きベクト
    ルに基づいて、該任意階層の一つ下位の階層の注目ブロ
    ックの動きベクトルを検出する際に、 前記注目ブロックと同一階層内の各ブロックのうち、該
    注目ブロックの直近に位置する周辺ブロックの動きベク
    トルを参照する場合は、 該周辺ブロックの位置又は数若しくはその両方を、片方
    向予測と双方向予測の場合で異ならせることを特徴とす
    る階層型動きベクトル検出方法。
  2. 【請求項2】前記周辺ブロックを含む画像が最下位の第
    1階層画像の場合に、前記周辺ブロックの位置又は数若
    しくはその両方を、片方向予測と双方向予測の場合で異
    ならせることを特徴とする請求項1記載の階層型動きベ
    クトル検出方法。
  3. 【請求項3】前記注目ブロックの動きベクトルの検出に
    際し、 一つ上位の層の親ブロックの周辺に位置する周辺ブロッ
    ク(上位層周辺ブロック)の動きベクトルも参照する場
    合は、 該上位層周辺ブロックの位置又は数若しくはその両方
    を、片方向予測と双方向予測の場合で異ならせることを
    特徴とする請求項1記載の階層型動きベクトル検出方
    法。
  4. 【請求項4】原画像と同一または近い解像度を有する最
    下位の第1階層画像を格納する第1階層メモリと、 この第1階層画像の解像度に対して段階的に解像度が低
    下する上位側の第2〜第m階層画像を格納する第2〜第
    m階層メモリと、 上位側の任意階層で検出された親ブロックの動きベクト
    ルに基づいて、該任意階層の一つ下位の階層の注目ブロ
    ックの動きベクトルを検出する動きベクトル検出手段
    と、 前記注目ブロックと同一階層内の各ブロックのうち、該
    注目ブロックの直近に位置する周辺ブロックの動きベク
    トルを参照する動きベクトル参照手段とを備え、 該動きベクトル参照手段は、該周辺ブロックの位置又は
    数若しくはその両方を、片方向予測と双方向予測の場合
    で異ならせることを特徴とする階層型動きベクトル検出
    装置。
  5. 【請求項5】前記周辺ブロックを含む画像が最下位の第
    1階層画像の場合に、前記周辺ブロックの位置又は数若
    しくはその両方を、片方向予測と双方向予測の場合で異
    ならせることを特徴とする請求項4記載の階層型動きベ
    クトル検出装置。
  6. 【請求項6】一つ上位の層の親ブロックの周辺に位置す
    る周辺ブロック(上位層周辺ブロック)の動きベクトル
    を参照する第2の動きベクトル参照手段を備え、 該第2の動きベクトル参照手段は、該上位層周辺ブロッ
    クの位置又は数若しくはその両方を、片方向予測と双方
    向予測の場合で異ならせることを特徴とする請求項4記
    載の階層型動きベクトル検出装置。
JP6538495A 1995-03-24 1995-03-24 階層型動きベクトル検出方法及びその装置 Expired - Lifetime JP2963362B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP6538495A JP2963362B2 (ja) 1995-03-24 1995-03-24 階層型動きベクトル検出方法及びその装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP6538495A JP2963362B2 (ja) 1995-03-24 1995-03-24 階層型動きベクトル検出方法及びその装置

Publications (2)

Publication Number Publication Date
JPH08265773A true JPH08265773A (ja) 1996-10-11
JP2963362B2 JP2963362B2 (ja) 1999-10-18

Family

ID=13285444

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6538495A Expired - Lifetime JP2963362B2 (ja) 1995-03-24 1995-03-24 階層型動きベクトル検出方法及びその装置

Country Status (1)

Country Link
JP (1) JP2963362B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6377623B1 (en) 1998-03-02 2002-04-23 Samsung Electronics Co., Ltd. High speed motion estimating method for real time moving image coding and apparatus therefor
WO2003030556A1 (en) * 2001-09-18 2003-04-10 Matsushita Electric Industrial Co., Ltd. Image encoding method and image decoding method
JP2009089332A (ja) * 2007-10-03 2009-04-23 Sony Corp 動き予測方法及び動き予測装置
JP2011130265A (ja) * 2009-12-18 2011-06-30 Nippon Telegr & Teleph Corp <Ntt> 動きベクトル検出装置、動きベクトル検出方法およびプログラム
JP2011191972A (ja) * 2010-03-15 2011-09-29 Fujifilm Corp 動きベクトル計測装置および方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6377623B1 (en) 1998-03-02 2002-04-23 Samsung Electronics Co., Ltd. High speed motion estimating method for real time moving image coding and apparatus therefor
WO2003030556A1 (en) * 2001-09-18 2003-04-10 Matsushita Electric Industrial Co., Ltd. Image encoding method and image decoding method
CN1298171C (zh) * 2001-09-18 2007-01-31 松下电器产业株式会社 图像的编码方法和图像的译码方法
JP2009089332A (ja) * 2007-10-03 2009-04-23 Sony Corp 動き予測方法及び動き予測装置
JP2011130265A (ja) * 2009-12-18 2011-06-30 Nippon Telegr & Teleph Corp <Ntt> 動きベクトル検出装置、動きベクトル検出方法およびプログラム
JP2011191972A (ja) * 2010-03-15 2011-09-29 Fujifilm Corp 動きベクトル計測装置および方法

Also Published As

Publication number Publication date
JP2963362B2 (ja) 1999-10-18

Similar Documents

Publication Publication Date Title
US20140049607A1 (en) Devices and Methods for Sparse Representation of Dense Motion Vector Fields for Compression of Visual Pixel Data
JP4358990B2 (ja) 動き推定システムおよび方法
JP3190529B2 (ja) 映像データ・ブロック変換システム
US6330284B1 (en) Video coding and video encoding apparatus according to a reduction ratio setting information signal
US8009923B2 (en) Method and system for motion estimation with multiple vector candidates
US20050276327A1 (en) Method and apparatus for predicting motion
JPH09163380A (ja) 画像符号化装置及び動きベクトル検出方法
US20090304090A1 (en) Method for Scalable Video Coding
JPH04177992A (ja) 階層性を有する画像符号化装置
US20070247529A1 (en) Image processing method and image processing device
CN113597764B (zh) 视频解码方法、***和存储介质
US20100183074A1 (en) Image processing method, image processing apparatus and computer readable storage medium
JP4709155B2 (ja) 動き検出装置
WO2023142926A1 (zh) 一种图像处理方法和装置
US7394852B2 (en) Method for detecting a moving object in motion video and apparatus
JP2963362B2 (ja) 階層型動きベクトル検出方法及びその装置
JP2012004710A (ja) 動きベクトル検出回路、動画像符号化装置及び動きベクトル検出方法
JP2853973B2 (ja) 階層型動きベクトル検出方法及びその装置
US8325813B2 (en) Moving image coding apparatus
JP2853974B2 (ja) 階層型動きベクトル検出方法及びその装置
Chu et al. Hierarchical global motion estimation/compensation in low bitrate video coding
JP2702488B2 (ja) 動画像の予測符号化方式
JPH1023420A (ja) 動き検出方法および動き検出装置
KR100987584B1 (ko) 고해상도 동영상의 효율적 저장을 위한 동영상 변경 시스템및 방법
JPH08265763A (ja) 動きベクトル検出方法及びその装置