JPH03162178A - 画像符号化方法 - Google Patents

画像符号化方法

Info

Publication number
JPH03162178A
JPH03162178A JP1302898A JP30289889A JPH03162178A JP H03162178 A JPH03162178 A JP H03162178A JP 1302898 A JP1302898 A JP 1302898A JP 30289889 A JP30289889 A JP 30289889A JP H03162178 A JPH03162178 A JP H03162178A
Authority
JP
Japan
Prior art keywords
block
frame
motion vector
mvh
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP1302898A
Other languages
English (en)
Other versions
JPH0832035B2 (ja
Inventor
Toshiya Takahashi
俊也 高橋
Toshihide Akiyama
秋山 利秀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP1302898A priority Critical patent/JPH0832035B2/ja
Priority to EP19900306804 priority patent/EP0405842A3/en
Priority to US07/541,734 priority patent/US5028996A/en
Publication of JPH03162178A publication Critical patent/JPH03162178A/ja
Publication of JPH0832035B2 publication Critical patent/JPH0832035B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 産業上の利用分野 本発明は、画像信号の高能率符号化を行なう画像符号化
方法に関するものである。
従来の技術 ディジタル化された画像信号の伝送速度は1 0 0 
Mbps以上に達し、この信号を既存の通信回線を用い
て、そのまま伝送することは、伝送容量、伝送コストの
点から困難である.高能率符号化は画像信号の冗長度を
除去し、伝送速度を低減する技術で、様々な方式の画像
符号化方法及び装置が、従来から提案されている.ここ
ではそれらのうち、一般的に用いられている、動き補償
フレーム間符号化方法及び直交変換符号化方法を例にと
り説明する. 第5図は従来のフレーム間符号化方法の一例である、動
き補償フレーム間符号化による符号化装置のブロック図
である.第5図において、51は加算器、52は量子化
器、53は予測器、54は遅延回路、55は動き検出回
路、56は逆量子化器、57は加算器である. 以上のように構成された動き補償フレーム間符号化装置
について、以下その動作を説明する。
第5図において、入力された画像データは、加算器51
で現画像データと予測器53より出力された予測値が引
かれて予測誤差信号値となる。予測誤差信号値は、量子
化器52で量子化され符号化出力として出力されると同
時に、逆量子化器56にも送られ、逆量子化される.逆
量子化出力は加算器57で予測器53の予測出力と加算
され局部復号信号となる.局部復号信号は遅延回路54
に送られ、1フレーム遅延が施される.遅延回路54の
出力は、予測器53に入力され、次のフレームの予測値
が生成される.一方、人力された画像データは、加算器
51に送られると同時に動き検出回路55にも送られる
.動き検出回路55では、現画像データと遅延回路54
の出力である1フレーム前の画像データとを、ある定め
られたm×nの大きさのブロックで比較し、最も相関が
高いブロックを選択し、同時にその動きベクトルを出力
する.一般に動きの少ない動画においてはフレーム間の
画素間の相関が高く、予測誤差信号の分散値は、人力信
号の分散値に比べ小さくなる.従って,フレーム間予測
信号を符号化することにより、高い圧縮率を実現できる
.一方、動きが大きい画像に対しては、フレーム間の相
関が小さくなるため、効率が低下するという欠点があっ
た.しかし前記動き検出に基づいて、フレーム間で動き
補償を施すことにより、動きの激しい画像でもフレーム
間の相関が保たれるため、高い圧縮効率が得られること
となる。
また第6図は、従来のブロック符号化の一例である、3
次元直交変換符号化装置のブロック図を示すものである
.第6図において、61は3次元ブロック化回路、62
は直交変換回路、63は量子化器である. 以上のように構戒された3次元直交変換符号化装置につ
いて、以下その動作を説明する。
第6図において、3次元ブロック化回路61に入力され
た画像入力データは、水平,垂直,時間方向を含めて3
次元ブロック化され、直交変換回路62で直交変換され
る。直交変換回路62の出力である、変換係数は、量子
化器63で、低シーケンシの係数は量子化ピント割当が
多く、高シーケンシの係数は量子化ビ・冫ト割当が少な
くなるように量子化され、その後、量子化された変換係
数は、符号化出力として出力される.一般に自然画は、
水平.垂直,時間方向の画素間の相関が高く、直交変換
係数は低シーケンシにエネルギが多く、高シーケンシで
は小さい.従って、量子化する際に、前記のように高シ
ーケンシの係数に少ないビットを割り当てても視覚的に
劣化が目立たず、画質劣化を印えた圧縮が可能となる(
例えば、日刊工業新聞社刊、吹抜敬彦著“画像のディジ
タル信号処理”第9章、またはprentice−ha
ll刊、Ja−yant他著“digital cod
ing of waveform”第12章),発明が
解決しようとする課題 しかしながら第5図のようなフレーム間相関を利用する
ような構或では、符号化信号は時間方向の連続性をもち
、動画像の途中からの復号が困難であった。また、第6
図のような水平,垂直,時間方向の3次元を含む構戒で
は、動きの大きな画像の場合、時間方向の相関が低下し
、効率が下がるという問題点を有していた。
本発明は上記問題点に鑑み、動画像の途中からの復号が
簡単に行なえ、かつ動きの大きな画像でも高い圧縮率を
実現できる画像符号化方法を提供するものである。
課題を解決するための手段 上記問題点を解決するために本発明の画像符号化方法は
、入力されたTフレームの画像データs(h+v+t)
を、第1フレームすなわちs(h,v.1)内でm(水
平方向)×n(垂直方向)画素ずつの2次元ブロックs
b(x’、y.1)に分割し、隣接する?42フレーム
s(h,v,2)上で、前記sb(x+y+l)に最も
相関のあるm×nの大きさの2次元ブロックsb(x’
、y,2)を求め、同時に、水平方向の動き量を示す水
平動きベクトルo+vh (x+ y+ 2)及び垂直
方向の動き量を示す垂直動きベクトルe+vv(x’、
y.2)を求め次に隣接する第3フレームs(h.v,
3)上で、前記sb(x’、y,2)に最も相関のある
m×nの大きさの2次元ブロックsb(x.y,3)及
び動きベクトルmvh(x’、y,3),a+vv(x
’、y,3)を求め、以下同様にTフレームs(h,v
,T)まで動き検出を行ない、各フレームにおける2次
元ブロックsb(x’、y,t)及び動きベクトルmv
h(x’、y、t). mvv(x’、y,t)を求め
、前記求めた2次元ブロック間の動き量より、各Lごと
の動きベクトルmvh(x’、y, t), mvv(
x+y、t)から、代表動きベクトルmvhr(t),
mvvr(t)を各フレームについて1種類求め、さら
に前記代表動きベクトルの第1゜フレームからの動き量
をmvh t(t) = mvhr(2)+mvhr(
3)+・・・・・・+mvhr(t), mvv1(t
)=mvvr(2)+mvvr(3) + − − +
 mvvr(t)とし、第Lフレームの画像データs 
( h +ν,1)の画素インデクスに、前記動き量m
vht(t),a+vvt(t)を加えて.s(h−m
vht(t)+v−a+vvt(t)+ t)とした上
で、m×nx’r画素を含む3次元ブロックに分割し、
前記3次元ブロックをブロック符号化するものである. 作用 本発明は上記した方法によって、ブロック符号化を用い
ることにより、時間方向のブロックごとに復号可能とな
るため、動画像の途中からの再生が可能となる。また動
き補償を行なっているため、時間方向の相関を高く保て
、動きの大きな画像に対しても、高い圧縮率が実現でき
ることとなる.実施例 以下本発明の一実施例の画像符号化方法について、図面
を参照しながら説明する。
第1図は本発明の第1の実施例における画像符号化方法
の説明図である.以下第1図及び第2図を用いてその動
作を説明する. 第1図において、1は第1フレームの画像データ、2は
第2フレームの画像データ、3は第3フレームの画像デ
ータ、4は第1フレームと第2フレームの間の動きベク
トル、5は第2フレームと第3フレームの間の動きベク
トル、11は第1フレームにおける2次元ブロック、l
2は第2フレームにおける2次元ブロック、3lは第3
フレームにおける2次元ブロックである。また第2図に
おいて、2lは第1フレームの画像データの一部、22
は第2フレームの画像データの一部、23は第3フレー
ムの画像データの一部をそれぞれ示している. まず第2図は、第1図における各フレームの画像データ
を水平、時間方向の2次元平面として措いた説明図で、
第2図の21は第1図における第1フレームの画像デー
タlの、第2図の22は第2フレームの画像データ2の
、第3図の23は第3フレームの画像データのそれぞれ
一部に相当する.第2図(cx−)は、動き検出をしな
い場合の3次元ブロックの構戒方法の説明図である。入
力されたTフレームの画像データs(h、v、t)(h
:水平方向の画素のインデクス、1≦h’−M,v:垂
直方向の画素のインデクス、1≦V≦N,t:時間方向
の画素のインデクス、1≦t≦T)は、第1フレーム2
lにおいて、まずm×nの2次元プロソク、2l−1に
分割され、さらに第2フレーム2では22−1というよ
うに同し2次元の位置においてとられ、以下時間方向に
Tフレームまでの前記2次元ブロックをまとめて、m 
X n X Tの3次元ブロソクとなる.第2図では、
時間方向のフレームは3フレームまで例として猫いてあ
る.実際のプロノキングは、時間方向にTフレームにつ
いて行なわれるものとする.動き検出しない場合、ある
いは動きが全くない場合は、第2図(cx−)における
ような3次元ブロソクを単位として、直交変換などのブ
ロック符号化が施される.次に第2図(b)は、第2図
の第1フレームから3フレームのデータに対し、動き検
出をし、動きベクトル2 4,2 5.2 6を求めた
ものである。この動きベクトルは以下のような手法で求
める.まず、入力された画像データのうち、基準となる
フレームを定める.前記基準フレームを第2図(ハ)に
おいて、第1フレームの画像データ21とする。まず、
第1フレームの画像データをm×nの2次元ブロック2
l−1乃至2l−5に分割する.前記2次元ブロックを
sb(1,Ll)乃至sb(5, 1, l) (但し
、Sb(X’、y+t)において、X:フレーム内の水
平方向のブロック座標、1≦x≦M/m’、y:フレー
ム内の垂直方向のブロック座標、1≦y≦N/n,t:
フレームインデクス、1≦L≦T)と表す.ここで、前
記2次元ブロックのうち2l−1を例にとり説明する.
第1フレーム上の2次元ブロック21−1は、次に第2
フレームに対して、一般の画像処理技術でよく知られて
いるプロソクマッチングが施され、歪の最も少ない、第
2フレームにおけるmxnの2次元ブロック22−1゜
すなわちsb(Ll,2)が求められる.この時の水平
,垂直方向への移動量を、第1フレームの動きベクトル
24とし、前記動きベクトルを水平方向の動き量を示す
水平動きベクトルmvh(1,1.2)、及び垂直方向
の動き量を示す垂直動きベクトル!lvν(Ll,2)
 (但し、mvh(x+y+ t)、講νv(x’、y
,t)において、X:フレーム内の水平方向のブロック
座標、1≦X≦M/m..y:フレーム内の垂直方向の
ブロック座標、l≦y≦N / n、L:フレームイン
デクス、1≦t≦T)として表す。第3フレームに対し
ては、第2フレームで検出されたm×nの2次元ブロッ
ク22−2゜を基準として、同様の動きベクトルが求め
られる。以下、同様に、画面すべてについて、tフレー
ムまでの動きベクトルが求められる。以下の実施例にお
いて、簡単のため、前記検出された動きベクトルは、す
べて垂直方向の動きlmvv(x, y. t) = 
Oとして説明する。ところで、直交変換などのブロック
符号化を行なう場合、従来例で説明したように、第2図
(cx−)における2 1−1.2:2−1.23−1
のように3次元ブロソクを構或すると、第2図(b)の
ような動きが検出された場合、実際に動いているのは、
21−1.22一ビ,23−1’であるで、時間方向の
相関が失われ、圧縮効率が低下する.従って、3次元ブ
ロックを第2図(cx−)のように動きベクトル2 4
.2 5に沿って、横戒することが考えられる.しかし
、動きベクトルが、第2図(blにおける24,26の
ように、同一フレーム内のすべての2次元ブロックで同
じではないため、動きベクトルに沿って3次元ブロック
を構戒すると、第2図(cx−)における、2次元ブロ
ック間22−3゜と22−4’あるいは23−3’と2
3−4’のごとく、動きベクトルの異なるところで、穴
あきが生ずることとなる.また逆に2次元ブロック間2
2−4゜と225”、あるいは23−4’ と23−5
゜ではブロックの重なりが生ずる。そこで各ブロックの
水平及び垂直の動きベクトルが、あるしきい値vth以
上の個数が同じ方向で、かつ同一フレーム内のすべての
動きベクトルの大きさがある範囲vwd含まれていると
き、フレーム内で、水平及び垂直方向それぞれについて
代表動きベクトル+wvhr(t). mvvr(t)
(tはフレームインデクス)をi種類求める。ここで、
前記vth , vwhは実験的に定めるものとする.
第2図(d)がこの例で、第2図(b)における動きベ
クトル26を、代表動きベクトルmvhr(1)として
定めた、同図24の動きベクトルでおきかえている.前
記した画面内の代表動きベクトルmvhr(t),mv
νr(t)は、フレーム内の各ブロックの動きベクトル
のヒストグラムをとり、前記スヒトグラムにおいて、頻
度の最も高いものとして求めることができる。あるいは
、頻度分布に偏りがなく、頻度のみでは定められない場
合には、代表動きベクトルを、フレーム内の各ブロック
の動きベクトルのうち、最大値からi個、最小値からj
個除外した平均値とすればよい。ここで最大,最小値か
らそれぞれi個.j個除外するのは、動き検出における
検出誤りを除くためであり、i,jの個数は、それぞれ
の検出方法において、実験的に定めればよい.もし、検
出誤りが全くない場合には、i,jはOでよい。次に、
前記代表動きベクトルの第1フレームからの動き量をm
vh t(t) = mvhr(1) + mvhr(
2)+ − − + mvhr(t) . mvv t
(t) = mvvr(1) + mvvr(2) +
 − −+mvvr(t)とし、第Lフレームの画像デ
ータs(h+v+t)の画素インデクスに、前記動き量
mvht(t),mvvt(t)を加えて、S(h+m
vht(t),v+mvvt(t). t)とし、第2
図(cx−)と同様の方法で、m×nXT画素を含む3
次元ブロックを横戒する。このように3次元ブロックを
構戒すると、第2図(d)で示したように、フレーム内
では動きベクトルはすべて等しいので、第2図(cx−
)におけるような穴あき等の問題は生しないこととなる
。第1図は、第2図(d)を3次元で示したもので、い
ま、動きが水平方向のみとすれば、動きベクトルはh,
L平面内のベクトルとなる。
そこで、各フレーム内で代表ベクトル4,5を選び、前
記したような方法を用いて3次元ブロックを構成する.
3次元ブロックは第1図において11  21.31の
ように構成される。以上の実施例において、フレーム内
の大部分の動きベクトルが等しいということは、画面全
体のバニングを意味する。従って、第1図のようにプロ
・ソキングすれば、最適な動き補償を施すこととなり、
第1図で示したような3次元ブロックをブロック符号化
することにより、時間方向の相関が保たれ、圧縮効率を
高くすることができる。
第3図は、本発明の第2の実施例を示す画像符号化方法
の説明図である.第3図も第2図と同様、各フレームの
データを水平,時間方向の2次元平面として描いたもの
で、同図において21,22,23は第1の実施例と同
しものである。第2図(cx−)は、第1フレームを2
次元ブロック化し、前記ブロックを基準として、動き検
出を行なった結果を示す説明図で、22−1゜,23−
1’ は第1フレーム目の2次元ブロック21−1を基
準として求めたそれぞれ第2.第3フレーム目の2次元
ブロックで、24.31.33は第1と第2、25,3
2.34は第2と第3フレーム間の動きベクトルである
。第2図(b)は以下の実施例に示す方法を用いて動き
ベクトルを再発生し、前記再発生させた動きベクトルに
よって3次元ブロックを構戒する方法を示す説明図であ
る。また、第3図(cx−)は第3図(cx−)と異な
る動きベクトルの検出結果を示す説明図である。第2図
の実施例において、第1の実施例と異なるのは、3次元
ブロックの構戒方法である。第1の実施例と同様の方法
で検出した動きベクトルが、第1の実施例のようにフレ
ーム内の大部分の動きベクトルが同し方向を向いている
のではなく、第2図(cx−)に示すように、第2,第
3フレームと進むにつれて、動きベクトルが、2次元ブ
ロック22−2’   23−3″を中心として集まる
とする。このような場合には、動きベクトルの方向が異
なるため、第1の実施例のように、代表動きベクトルを
フレーム内で一意に定めることはできない。また一意に
定めたとして、前記ベクトルを用いて3次元ブロックを
構戒しても、時間方向の相関を高くすることができない
。また、第3図(cx−)で示した動きベクトルに沿っ
て3次元ブロックを構戒すれば、時間方向の相関は最も
高くなるが、23−1’及び23−2゜のブロックの間
には、図に示すように穴あき、すなわち符号化できない
部分が生してしまう。このような動きベクトルが求まる
のはズームした時などである。そこで本実施例では、ま
ず動きの中心である中心ブロック21−3.22−3.
23−3を以下のように求める.水平方向の動き量を示
す前記動きベクトルmvh(x+Lt)がOである個数
hz(x,t)を垂直方向のブロックについてフレーム
L内で計算し、前記個数hz(x,t)が最も多い水平
方向のプロ・ノク座標を、前記中心ブロックの水平方向
のプロソク座標cxとし、垂直方向の動き量を示す前記
動きベクトルmvν(x, y, t)が0である個数
vz(y+ L)を水平方i量のブロックについてフレ
ームt内で計算し前記個数vz (y, t)が最も多
い垂直方向のブロック座標cyを、前記中心ブロックの
垂直方向のブロック座標とする。あるいは、水平方向の
動き量を示す前記動きベクトルmvh (×’、y,t
)のうち、0が連続する個数hcz(x, t)を垂直
方向のブロックについてフレームL内で計算し、前記個
数hcz(x,t)が最も多い水平方向のブロック座標
cxを、前記中心ブロックの水平方向のブロック座標と
し、垂直方向の動き量を示す前記動きベクトル+mvν
(x’、y,t)のうち、Oが連続する個数νcz(y
, L)を水平方向のブロックについてフレームt内で
計算し、前記個数vcz (y, t)が最も多い垂直
方向のブロック座標cyを、前記中心ブロックの垂直方
向のブロック座標とする。後者の方法は、装置化する際
には、前者に比べて若干複雑になるが、動きベクトルの
誤検出がある場合、誤検出で求まった動き量一〇のベク
トルを排除できるので、有効である.次に代表動きベク
トル35.36.39.40を以下の方法で求める.各
フレーム内の動きベクトルのうち、画面の端点を含むブ
ロソクを除き、前記中心ブロックからそれぞれブロック
座cx’’、x”離れたブロックの動きベクトルmvh
 (cx−κ’’、y.t),mvh(cx+x” +
y+ L)のl<y<N/nの範囲のヒストグラムをと
り、前記ヒストグラムで頻度が最も多いものをそれぞれ
水平方向の代表動きベクトルmvhr 1 (t), 
mvhr 2 (t)とし、各フレーム内の動きベクト
ルのうち、画面の端点を含むブロックを除き、前記中心
ブロックからそれぞれブロック座標yy”Rれたブロッ
クの動きベクトルmvv (x+cy−yt), va
vhCx,cy+y ’、t) ,のl<x<M/mの
範囲のヒストグラムをとり、前記ヒストグラムで頻度が
最も多いものを垂直方向の代表動きベクトルmvvr 
1 (t)、+*vvr 2 ft)とする.本実施例
では、垂直方向の動きはないので、水平方向の代表動き
ベクトルのみを求める.いま、x’ =x’”=2,c
x−3とすると、mvh(3−2’、y,t), mv
h(3+2.y、t)のl<y<N/nの範囲でそれぞ
れヒストグラムを計算する,次に、前記ヒストグラムで
頻度が最も多いものを垂直方向の代表動きベクトルすな
わち、第3図中)の35がmvhr 1 (2)、39
がmvhr 2 (2)、36がmvhr 1 (3)
、40がmvhr 2 (31として求まることとなる
.あるいは、頻度分布に偏りがなく、頻度のみでは定め
られない場合には、動き量の最大値からi個、最小値か
らj個除外した平均値を代表動きベクトルとする.ここ
で最大,最小値からそれぞれi個,j個除外するのは、
動き検出における検出誤りを除くためであり.i+jの
個数は、それぞれの検出方法において、実験的に定めれ
ばよい.もし、検出誤りが全くない場合には、i.Jは
Oでよい。以上のようにして、求めた中心ブロック及び
代表動きベクトルを用いて、各ブロックの水平及び垂直
方向の再発生動きベクトルmνht’(x.y,t).
 +mvvt’(x+y,t)を次の式より算出する。
mvh’ (x’、y, t) =mvhr 1 (t
) * (cx−x)/(cx−x’)(但しκ< c
x)・・・・・・(1)mvh’ (x, y. t)
 =mvhr 2 ft) 4 (X−CX)/ (X
” −cx)(但しX≧cx)・・・・・・(2) svv (x+y+ t)  −mvrv 1 (t)
 * (cy−y)/(cy−y’)(但しy < c
y)・・・・・・(3)+*vv’ (x+y+ t)
  xfi9r9 2 (tl * (y−cy)/(
y” −cy)(但しy≧cy)   ・・・・・・(
4)ここで、cx.cyは中心ブロックのブロソク座標
、mvhr 1 (t),n+vhr 2 (t),n
vvr 1 (t), mvvr 2 (t)は代表動
きベクトル’、x゛は前記代表動きヘクトノlzmvh
r 1 (t)を求めた際のブロック座標、以下mvh
r 2 (t)に対してx  Xmvvr 1 (t)
に対してy’ 、mvvr 2 (t)に対してyI+
が対応する。または、以下のような式を用いても良い。
mvh’ (x’、y, t) =mvhr 1 (t
)* (cx−x)”/(cx−x−x’)2(但しx
 < cx)・・・・・・(5)mvh (x’、y+
t) =mvhr2(t)* (x−cx)”/(x”
−cx戸(但しX≧Cχ)・・・・・・(6)mvv 
(x’、y,t) =mvvrl(t)*(cy−y)
”/(cy−y’)2(但しy < cy)・・・・・
・(7)mvv (x+y,t) =mvvr2(t)
*(y−cy)”/(y”−cy)2(但しy≧cy)
・・・・・・(8) (1)〜(4)式と(5)〜(8)式のどちらを用いる
かは、画像に適用してより最適な補償を得られるものを
選択する. 次に前記再発生した動きベクトルmvh″(x.y,t
)mvv’ (x, y+ t)を用いて、各ブロック
の第1フレームからの動き量をmvht’ (x, V
+ t) =Ibvhr’ (x+ y+ 1) +m
vhr’ (Xl3112) + − +mvhr’ 
(x+y+ t)、mvvt’ (x+y+t) =m
vvr’ (x+y+ 1) +mvvr’ (x.y
,2) + 6= − + .a+vvr(x’、y,
t)とし、第Lフレームの画像データs(h,vL)の
画素インデクスに、前記動きlimvht’ (x+y
+ t)mvvt’ (x, y+ t)を加えて.s
(h+sivht’ (x’、y,t),v++mvv
t’(x’、y、t),t)として、第tフレームにお
ける2次元プロソク5b’ (x、L L)を求め、前
記2次元ブロックsb’ (x, y, L)を、連続
したTフレームをまとめて、m×nXT画素をふくむ3
次元ブロックを構戒する.このようにすることにより第
3図(cx−)に示すようなブロック間の穴あきもなく
、時間方向の相関も保たれる.従って、前記3次元ブロ
ックをブロック符号化することにより、高い圧縮効率が
実現できることとなる.また、第2の実施例においては
、21は第1のフレームの画像データ、22は第2のフ
レームの画像データとしていたが、画像がズームアップ
するときなどは、第3図(cx−)に示したような、第
3図(cx−)とは、時間関係が全く逆の動きベクトル
が検出されてしまう。このようなベクトルが検出された
場合には、改めて時間方向に最も遅いフレームを基準と
して動きブクトルの検出を行なう。すなわち、前記基準
フレームをTフレームとすれば、T,T−1,・・・・
・・,3,2,lフレームの順に動き検出を行なう.こ
のようにすることにより、第3図(cx−)に示したよ
うな動きベクトルは、等価的に第3図(cx−)と同様
の動きベクトルとなる.従って、第2の実施例と同様の
方法で、効果的な圧縮が可能となる.第4図は、本発明
の第3の実施例を示す画像符号化方法の説明図である.
第4図も第2図,第3図と同欅、各フレームの画像デー
タを水平.時間方向の2次元平面として描いたもので、
同図において2 1.2 2.2 3は第2の実施例と
同じものである。
また第3図同様、第4図でも、1フレームの画像データ
の水平方向は5ブロックによって構成されているとし、
21−1.21−5は第1フレームの、22−1.22
−5は第2フレームの.23−5は第3フレームの画像
データの端のブロックを表すものとする.いま、第1の
実施例に示したように、各フレーム内をそれぞれ41.
42の代表動きベクトルを用いて3次元のブロッキング
をするものとする.第4図(cx−)は、ブロフキング
した結果を示す図で、21−2乃至2l−5は正常にブ
ロッキングされているが、21−1.22−1は第3フ
レームに画像データがなくブロッキングできない.また
、22−5.23−5は基準となる2次元ブロックが第
1フレームにないためブロンキングされず、以上の画像
データは、このままでは符号化されないため画像データ
が失われてしまう.そこで本実施例では、4図伽)にお
いて矢印で示したように、22−5及び23−5を同じ
フレームのもう一方の端、すなわち22−5は22−1
に、23−5は23−1に隣接して配置し直し、21−
1を41.42の動きベクトルを用いてプロッキングし
、3次元ブロックを構成する.その上でブロック符号化
を行なう.復号の際には、逆の手順により、22−5及
び23−5を正しい位置に配置し直して復号画像とする
.以上の方法により、画面の端点も符号化されることと
なる.第4図(cx−) , (d)は画面の端点を符
号化する第2の方法を示した説明図である.いま、第4
図(cx−)のように、第2の実施例で示した方法を用
いて3次元ブロックを構成したとする.図中、点線がブ
ロックの境界で各ブロックは図中太線で示す動きベクト
ルに沿って構或されている.第4図(cx−)でも第4
図(b)と同様、画面の端点22−0.23−0.22
−6.23−7に符号化できない領域が生ずる.これは
、前記3次元ブロックが第2フレーム以降、互いに重な
って構成されているためである。第4図(d)は端点を
符号化する第2の方法で、21−0及び21−6として
それぞれ新しい、動きベクトルを用いない従来の方法に
基づいた3次元ブロックを構成して、第2の実施例で示
した3次元ブロックとは別に符号化する方法である.こ
の時、21−0及び2l−6は第1フレームではそれぞ
れ21−1.21−5に等しい。第4図(e). (f
)は他の方法を示す説明図である。第4図(e)では、
第4図(cx−)のように検出された動きベクトルのう
ち、第1フレームの画像の端点を含むブロック21−1
.21−5を基準として求めた動きベクトル、24,2
5,26.27を用いて新しいブロック21−0.21
−6を構成する.このとき基準となるフレームを、第4
図(cx−)とは時間的に逆のフレーム、すなわち23
とする。第4図(e)は、3フレームで1つの3次元ブ
ロソクを構戒した例である。
この場合、21−0.21−6の基準2次元ブロックは
、第3フレーム23−0.23−6となる。このように
するのは、符号化されていない画素が、第3フレーム2
3で最も多いためである。次に動きベクトル24,25
.26.27を用いて、3次元ブロックを横威する.第
4図(f)は、第4図(e)で示した前記3次元ブロソ
クの構戒の詳細を示す説明図である.同図において、2
i,22,23.21−0.23−0は第4図(e)と
同様のもので、第4図(e)の21−0.22−0.2
3−0に8亥当するフ゛ロックを拡大して示している。
いま、第3フレームの端点を含む2次元ブロック23−
0を基準として、第4図(e)における動きベクトル2
4,25を用いて3次元ブロックを措戚するが、第2フ
レーム及び第1フレームには、それぞれ44.43にあ
たる部分の画像データが存在しない.そこで、44には
、45で示した23−0の一部を、43には44及び2
2−0の一部を矢印のように補充して3次元ブロックと
し、前記3次元ブロックを新たなブロックとしてブロッ
ク符号化する。このようにすることにより、時間方向の
相関がブロック内で保たれるため、第4図(b)で示し
たような方法と比べ、高い圧縮率でかつ画質の良い画面
の端点プロノクの符号化が可能となる.なお、第3の実
施例では、第1の方法を第1の実施例と組み合わせて、
第2,第3の方法を第2の実施例と組み合わせて説明し
たが、これに限るものではなく第1の方法と第2の実施
例、第2.第3の実施例と第1の実施例を組み合わせる
ことも可能である. また、以上の実施例では、すべて垂直方向の動きをOと
して説明したが、これに限るものではなく、垂直方向に
ついても水平方向と全く同様の方法を用いることができ
る. 発明の効果 以上のように本発明は、動きベクトルを用いて3次元プ
ロノクを構成し、前記3次元ブロックをブロック符号化
することにより、時間的な相関を高く保てるため、効果
的に高い圧縮効率が実現できる.またブロック符号化を
用いているので、画像の途中からの復号が可能となる。
【図面の簡単な説明】
第1図は本発明の第1の実施例における画像符号化方法
の説明図、第2図は各フレームの画像データの2次元平
面上での説明図、第3図は本発明の第2の実施例を示す
画像符号化方法の説明図、第4図は本発明の第3の実施
例を示す画像符号化方法の説明図、第5図は従来のフレ
ーム間符号化方法を示すブロック図、第6図は3次元直
交変換符号化装置のブロック図である。

Claims (14)

    【特許請求の範囲】
  1. (1)入力されたTフレームの画像データs(h、v、
    t)(h:水平方向の画素のインデクス、1≦h≦M、
    v:垂直方向の画素のインデクス、1≦v≦N、t:時
    間方向の画素のインデクス1≦t≦T)を、第1フレー
    ムすなわちs(h、v、1)内でm(水平方向)×n(
    垂直方向)画素ずつの2次元ブロックsb(x、y、1
    )(x:フレーム内の水平方向のブロック座標、1≦x
    ≦M/m、y:フレーム内の垂直方向のブロック座標、
    1≦y≦N/n)に分割し、隣接する第2フレームs(
    h、v、2)上で、前記sb(x、y、1)に最も相関
    のあるm×nの大きさの2次元ブロックsb(x、y、
    2)を求め同時に、水平方向の動き量を示す水平動きベ
    クトルmvh(x、y、2)及び垂直方向の動き量を示
    す垂直動きベクトルmvv(x、y、2)を求め、次に
    隣接する第3フレームs(h、v、3)上で、前記sb
    (x、y、2)に最も相関のあるmxnの大きさの2次
    元ブロックsb(x、y、3)及び動きベクトルmvh
    (x、y、3)、mvv(x、y、3)を求め、以下同
    様にTフレームs(h、v、T)まで動き検出を行ない
    各フレームにおける2次元ブロックsb(x、y、t)
    及び動きベクトルmvh(x、y、t)、mvv(x、
    y、t)を求め、前記求めた2次元ブロック間の動き量
    より各tごとの動きベクトルmvh(x、y、t)、m
    vv(x、y、t)から代表動きベクトルmvhr(t
    )、mvvr(t)を各フレームについて1種類求め、
    さらに前記代表動きベクトルの第1フレームからの動き
    量を mvht(t)=mvhr(2)+mvhr(3)+・
    ・・・・・+mvhr(t)、mvvt(t)=mvv
    r(2)+mvvr(3)+・・・・・・+mvvr(
    t)とし、第tフレームの画像データs(h、v、t)
    の画素インデクスに、前記動き量mvht(t)、mv
    vt(t)を加えて、s(h−mvht(t)、v−m
    vvt(t)、t)とした上でm×n×T画素を含む3
    次元ブロックに分割し、前記3次元ブロックをブロック
    符号化することを特徴とする画像符号化方法。
  2. (2)代表動きベクトルmvhr(t)、mvvr(t
    )を、フレーム内の各ブロックの動きベクトルmvh(
    x、y、t)、mvv(x、y、t)のヒストグラムを
    それぞれとり、前記ヒストグラムで頻度の高いものをそ
    れぞれ選択することを特徴とする請求項(1)記載の画
    像符号化方法。
  3. (3)代表動きベクトルmvhr(t)、mvvr(t
    )を、フレーム内の各ブロックの動きベクトルmvh(
    x、y、t)、mvv(x、y、t)のうち、最大値か
    らi個、最小値からj個除外した平均値とすることを特
    徴とする請求項(1)記載の画像符号化方法。
  4. (4)入力されたTフレームの画像データs(h、v、
    t)(h:水平方向の画素のインデクス、1≦h≦M、
    v:垂直方向の画素のインデクス、1≦v≦N、t:時
    間方向の画素のインデクス1≦t≦T)を、第1フレー
    ムすなわちs(h、v、1)内でm(水平方向)×n(
    垂直方向)画素ずつの2次元ブロックsb(x、y、1
    )(x:フレーム内の水平方向のブロック座標、1≦x
    ≦M/m、y:フレーム内の垂直方向のブロック座標、
    1≦y≦N/n)に分割し、隣接する第2フレームs(
    h、v、2)上で、前記sb(x、y、1)に最も相関
    のあるm×nの大きさの2次元ブロックsb(x、y、
    2)を求め、同時に水平方向の動き量を示す水平動きベ
    クトルmvh(x、y、2)及び垂直方向の動き量を示
    す垂直動きベクトルmvv(x、y、2)を求め、次に
    隣接する第3フレームs(h、v、3)上で、前記sb
    (x、y、2)に最も相関のあるm×nの大きさの2次
    元ブロックsb(x、y、3)及び動きベクトルmvh
    (x、y、3)、mvv(x、y、3)を求め、以下同
    様にTフレームs(h、v、T)まで動き検出を行ない
    各フレームにおける2次元ブロックsb(x、y、t)
    及び動きベクトルmvh(x、y、t)、mvv(x、
    y、t)を求め、前記各ブロックごとの動きベクトルm
    vh(x、y、t)、mvv(x、y、t)から動きの
    中心である中心ブロックと水平方向の動きベクトルmv
    h(x、y、t)のうち符号の異なる代表動きベクトル
    mvhr1(t)、mvhr2(t)及び垂直方向の動
    きベクトルmvv(x、y、t)のうち符号の異なる代
    表動きベクトル mvvr1(t)、mvvr2(t)を各フレームごと
    に求め、前記中心ブロックと代表動きベクトルmvhr
    1(t)、mvhr2(t)、mvvr1(t)、mv
    vr2(t)から新しい動きベクトルを生成してmvh
    ’(x、y、t)、mvv’(x、y、t)とし、前記
    再発生した動きベクトルmvh’(x、y、t)、mv
    v’(x、y、t)を用いて、各ブロックの第1フレー
    ムからの動き量をmvht’(x、y、t)=mvhr
    ’(x、y、2)+mvhr’(x、y、3)+・・・
    ・・・+mvhr’(x、y、t)、mvvt’(x、
    y、t)=mvvr’(x、y、2)+mvvr’(x
    、y、3)+・・・・・・+mvvr’(x、y、t)
    として求め、第tフレームの画像データs(h、v、t
    )の画素インデクスに前記動き量mvht’(x、y、
    t)、mvvt’(x、y、t)を加えて、S(h+m
    vht’(x、y、t)、V+mvvt’(x、y、t
    )、t)とした上でm×n×T画素を含む3次元ブロッ
    クに分割し、前記3次元ブロックをブロック符号化する
    ことを特徴とする画像符号化方法。
  5. (5)水平方向の動き量を示す動きベクトルmvh(x
    、y、t)が0である個数hz(x、t)を垂直方向の
    ブロックについてフレームt内で計算し、前記個数hz
    (x、t)が最も多い水平方向のブロック座標を、中心
    ブロックの水平方向のブロック座標cxとし、垂直方向
    の動き量を示す前記動きベクトルmvv(x、y、t)
    が0である個数vz(y、t)を水平方向のブロックに
    ついてフレームt内で計算し、前記個数vz(y、t)
    が最も多い垂直方向のブロック座標cyを、前記中心ブ
    ロックの垂直方向のブロック座標とすることを特徴とす
    る請求項(4)記載の画像符号化方法。
  6. (6)水平方向の動き量を示す動きベクトルmvh(x
    、y、t)のうち、0が連続する個数hcz(x、t)
    を垂直方向のブロックについてフレームt内で計算し、
    前記個数hcz(x、t)が最も多い水平方向のブロッ
    ク座標cxを、中心ブロックの水平方向のブロック座標
    とし、垂直方向の動き量を示す前記動きベクトルmvv
    (x、y、t)のうち、0が連続する個数vcz(y、
    t)を水平方向のブロックについてフレームt内で計算
    し、前記個数vcz(y、t)が最も多い垂直方向のブ
    ロック座標cyを、前記中心ブロックの垂直方向のブロ
    ック座標とすることを特徴とする請求項(4)記載の画
    像符号化方法。
  7. (7)水平方向の代表動きベクトルmvhr1(t)、
    mvhr2(t)を、各フレーム内の動きベクトルのう
    ち画面の端点を含むブロックを除き、中心ブロックから
    それぞれブロック座標x’、x”離れたブロックの動き
    ベクトルmvh(cx−x’、y、t)、mvh(cx
    +x”、y、t)の1<y<N/nの範囲のヒストグラ
    ムをとり、前記ヒストグラムで頻度が最も多いものをそ
    れぞれ水平方向の代表動きベクトルmvhr1(t)、
    mvhr2(t)とし、垂直方向の前記代表動きベクト
    ルmvvr1(t)、mvvr2(t)を、各フレーム
    内の動きベクトルのうち画面の端点を含むブロックを除
    き、前記中心ブロックからそれぞれブロック座標y’、
    y”離れたブロックの動きベクトルmvv(x、cy−
    y’、t)、mvh(x、cy+y”、t)の1<x<
    M/mの範囲のヒストグラムをとり、前記ヒストグラム
    で頻度が最も多いものを垂直方向の代表動きベクトルm
    vvr1(t)、mvvr2(t)とすることを特徴と
    する請求項(4)記載の画像符号化方法。
  8. (8)水平方向の代表動きベクトルmvhr1(t)、
    mvhr2(t)を、画面の端点を含むブロックを除き
    、各フレーム内の動きベクトルのうち水平の動き量を示
    す水平代表動きベクトルを、中心ブロックからブロック
    座標x’、x”離れたブロックの動きベクトルmvh(
    cx−x’、y、t)、mvh(cx+x”、y、t)
    のうち、動き量の最大値からi個、最小値からj個除外
    した平均値をそれぞれ水平方向の代表動きベクトルmv
    hr1(t)、mvhr2(t)とし、垂直方向の前記
    代表動きベクトルmvvr1(t)、mvvr2(t)
    を、前記中心ブロックからy’、y”離れたブロックの
    動きベクトルmvv(x、cy−y’、t)、mvh(
    x、cy+y”、t)のうち、動き量の最大値からi個
    、最小値からj個除外した平均値をそれぞれ垂直方向の
    代表動きベクトルmvvr1(t)、mvvr2(t)
    とすることを特徴とする請求項(4)記載の画像符号化
    方法。
  9. (9)再発生動きベクトルmvh’(x、y、t)、m
    vv’(x、y、t)を、中心ブロックのブロック座標
    cx、cy、代表動きベクトルmvhr1(t)、mv
    hr2(t)、mvvr1(t)、mvvr2(t)、
    前記代表動きベクトルmvhr1(t)を求めた際のブ
    ロック座標x’、以下mvhr2(t)に対してx”、
    mvvr1(t)に対してy’、mvvr2(t)に対
    してy”を用いて、 mvh’(x、y、t)=mvhr1(t)*(cx−
    x)/(cx−x’)(但しx<cx)、 mvh’(x、y、t)=mvhr2(t)*(x−c
    x)/(x”−cx)(但しx≧cx)、 mvv’(x、y、t)=(mvvr1(t)*(cy
    −y)/(cy−y’)(但しy<cy)、 mvv’(x、y、t)=mvvr2(t)*(y−c
    y)/(y”−cy)(但しy≧cy) のように計算して生成することを特徴とする請求項(4
    )記載の画像符号化方法。
  10. (10)再発生動きベクトルmvh’(x、y、t)、
    mvv’(x、y、t)を、cx、cy、mvr1(t
    )、mvhr2(t)、mvvr1(t)、mvvr2
    (t)、x’、x”、y’、y”を用いて、 mvh’(x、y、t)=mvhr1(t)*(cx−
    x)^2/(cx−x’)^2(但しx<cx)、 mνh’(x、y、t)=mvhr2(t)*(x−c
    x)^2/(x”−cx)^2(但しx≧cx)、 mvv’(x、y、t)=mvvr1(t)*(cy−
    y)^2/(cy−y’)^2(但しy<cy)、 mvv’(x、y、t)=mvvr2(t)*(y−c
    y)^2/(y”−cy)^2(但しy≧cy) のように計算して生成することを特徴とする請求項(4
    )記載の画像符号化方法。
  11. (11)動きベクトルを、動きベクトルの基準となるフ
    レームをTフレーム目の画像データs(h、v、T)と
    し、隣接する(T−1)フレームの画像データs(h、
    v、T−1)との間で動き検出し、最も相関の高いm×
    nの大きさの2次元ブロックを求め、以下同様に第1フ
    レームs(h、v、1)まで動き検出を行なって求める
    ことを特徴とする請求項(1)または(4)記載の画像
    符号化方法。
  12. (12)3次元ブロックのうち、水平または垂直の端点
    を含むブロックを、連続したTフレーム間で動きベクト
    ルを0として3次元ブロックを構成し、前記3次元ブロ
    ックをブロック符号化することを特徴とする請求項(1
    )または(4)記載の画像符号化方法。
  13. (13)3次元ブロックのうち、画素データがなくブロ
    ック化できない場合には、不足した画素を同一フレーム
    内の画素の保持により、3次元ブロックを構成し、前記
    3次元ブロックをブロック符号化することを特徴とする
    請求項(1)または(4)記載の画像符号化方法。
  14. (14)3次元ブロックのうち、画素データがなくブロ
    ック化できない場合には、不足した画素を他のフレーム
    の画素の保持により、3次元ブロックを構成し、前記3
    次元ブロックをブロック符号化することを特徴とする請
    求項(1)または(4)記載の画像符号化方法。
JP1302898A 1989-06-26 1989-11-21 画像符号化方法 Expired - Lifetime JPH0832035B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP1302898A JPH0832035B2 (ja) 1989-11-21 1989-11-21 画像符号化方法
EP19900306804 EP0405842A3 (en) 1989-06-26 1990-06-21 Picture coding method
US07/541,734 US5028996A (en) 1989-06-26 1990-06-21 Picture coding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP1302898A JPH0832035B2 (ja) 1989-11-21 1989-11-21 画像符号化方法

Publications (2)

Publication Number Publication Date
JPH03162178A true JPH03162178A (ja) 1991-07-12
JPH0832035B2 JPH0832035B2 (ja) 1996-03-27

Family

ID=17914436

Family Applications (1)

Application Number Title Priority Date Filing Date
JP1302898A Expired - Lifetime JPH0832035B2 (ja) 1989-06-26 1989-11-21 画像符号化方法

Country Status (1)

Country Link
JP (1) JPH0832035B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012077344A1 (ja) 2010-12-08 2012-06-14 株式会社美都白 水ガラス塗料組成物の製造方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012077344A1 (ja) 2010-12-08 2012-06-14 株式会社美都白 水ガラス塗料組成物の製造方法

Also Published As

Publication number Publication date
JPH0832035B2 (ja) 1996-03-27

Similar Documents

Publication Publication Date Title
KR102360403B1 (ko) 움직임 벡터 정밀도의 선택
JP4001400B2 (ja) 動きベクトル検出方法及び動きベクトル検出装置
EP0666695A2 (en) Adaptive spatial-temporal postprocessing for low bit-rate coded image sequences
US11388436B2 (en) Bit-width control for bi-directional optical flow
US20210051329A1 (en) Method and apparatus for video signal processing using sub-block based motion compensation
US20100201870A1 (en) System and method for frame interpolation for a compressed video bitstream
EP0740473A2 (en) Apparatus for encoding a video signal using feature point based motion estimation
JP2009531980A (ja) デジタルビデオエンコーダの内部予測及びモード決定処理の計算を低減する方法
TW200535717A (en) Directional video filters for locally adaptive spatial noise reduction
JPS62203496A (ja) 動画像信号の高能率符号化方式
US5028996A (en) Picture coding method
JP2684941B2 (ja) 画像符号化方法及び画像符号化装置
EP1027651B1 (en) Apparatus and method for providing robust error recovery for errors that occur in a lossy transmission environment
JPH03162178A (ja) 画像符号化方法
Li et al. Global homography motion compensation for versatile video coding
Kim et al. Stochastic approach for motion vector estimation in video coding
KR100240620B1 (ko) 양방향의 반화소 움직임 추정을 위한 대칭 탐색 윈도우를 형성하는 방법 및 장치
JPH03167962A (ja) ブロック歪み改善方式
JPH01192273A (ja) 動画像の予測符号化方式
KR100196867B1 (ko) 물체별 부호화 장치
JP2817156B2 (ja) 画像の動き発生検出方法
Tzovaras et al. Disparity estimation using rate-distortion theory for stereo image sequence coding
KR100197373B1 (ko) 물체별 부호화 장치
JP2000175192A (ja) 高能率符号化装置
JP4511607B2 (ja) 動画像可逆符号化方法とその復号化方法、及びそれらのプログラム