JPH11239352A - 画像処理方法及び画像処理装置、並びにデータ記憶媒体 - Google Patents

画像処理方法及び画像処理装置、並びにデータ記憶媒体

Info

Publication number
JPH11239352A
JPH11239352A JP34878298A JP34878298A JPH11239352A JP H11239352 A JPH11239352 A JP H11239352A JP 34878298 A JP34878298 A JP 34878298A JP 34878298 A JP34878298 A JP 34878298A JP H11239352 A JPH11239352 A JP H11239352A
Authority
JP
Japan
Prior art keywords
image
processing
signal
load
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP34878298A
Other languages
English (en)
Inventor
Kazuyoshi Horiike
和由 堀池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP34878298A priority Critical patent/JPH11239352A/ja
Publication of JPH11239352A publication Critical patent/JPH11239352A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【課題】 画像復号化信号の動き補償処理に起因して演
算負荷量がシステムの演算処理能力を超えるのを回避し
て、画像復号化信号の動き補償に起因する演算負荷の増
大が再生画像の画質に大きな悪影響を及ぼすのを防止す
る。 【解決手段】 復号化処理の対象となる対象ブロックの
画像復号化信号を所定の方法により予測して予測信号を
生成する予測信号生成部210を、入力される画像符号
化信号の復号化処理における演算負荷の大きさを検出す
る負荷判定器213を有し、該検出した演算負荷の大き
さに応じて、上記予測信号の生成処理における予測方法
を切り替える構成とした。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像処理方法及び
画像処理装置、並びにデータ記憶媒体に関し、特に、画
像信号の処理が行われるシステムの演算処理能力が低い
場合でも、再生される映像に破綻をきたすことなく、画
像信号の符号化あるいは復号化が可能な方法及び装置、
並びにこのような方法及び装置による画像信号の符号化
処理及び復号化処理をソフトウェアにより実現するため
のプログラムを格納したデータ記憶媒体に関するもので
ある。
【0002】
【従来の技術】従来のディジタル動画像の符号化方法で
は、動画像は時間的な相関,つまり画面間での画像情報
の相関が強いものであることから、画面間で重複した画
像情報を削減して時間的な冗長度を低減するために、符
号化処理の対象となる被処理画面の画像信号と、該被処
理画面より前に符号化処理がすでに施された前画面の画
像信号から得られる予測信号との差分値を符号化する処
理を行っている。このような符号化処理は差分符号化処
理と言われ、1画面を区分する単位領域毎に行われるも
のである。ここで、上記1画面は、MPEG(Moving P
icture Experts Group)1,2では1フレーム、MPE
G4では個々のオブジェクト画像に対応する画像表示空
間であるオブジェクト領域に相当するものである。
【0003】上記差分符号化処理では、具体的には、前
画面の画像情報に基づいた動き予測によって、符号化処
理の対象となる対象単位領域の画像信号(画像入力信
号)との誤差が最も小さい画像信号を有する、前画面に
おける予測領域を検出し、該予測領域の画像信号を上記
対象単位領域に対応する予測信号(予測画像入力信号)
とし、該対象単位領域の画像信号と該予測信号の差分値
である差分信号を、上記動き予測に関連する予測関連情
報とともに符号化する。ここで、予測関連情報とは、例
えば動き予測の方法や、予測領域の位置をあらわす情
報,つまり動きベクトルのことである。
【0004】また、上記差分符号化処理により生成され
た差分符号化信号から画像信号を再生する差分復号化処
理では、動き補償によって、上記予測関連情報に基づい
て、復号化処理の対象となる対象単位領域の画像再生信
号(画像復号化信号)を予測して予測信号(予測画像復
号化信号)を生成するとともに、上記対象単位領域に対
応する差分符号化信号を復号化して差分復号化信号を生
成し、該差分復号化信号に上記予測信号を加算して、対
象単位領域に対応する画像再生信号を生成する。
【0005】上述したように、画像信号の符号化処理あ
るいは復号化処理においては、従来から動き予測や動き
補償といった画像情報を圧縮するための手法が用いられ
ており、これらの手法の実用例として、具体的には、M
PEG1やMPEG2といった国際標準規格に準拠した
情報圧縮処理が挙げられる。
【0006】また、現在規格化が進められているMPE
G4に基づく技術には、MPEG1やMPEG2と同様
の動き予測および動き補償の方法だけでなく、新たな動
き予測および動き補償の方法を導入することについて検
討が行われている。なお、ここで上記動き予測は符号化
処理にて、予測領域の位置をあらわす情報,つまり動き
ベクトルを検出する処理、また上記動き補償は符号化処
理あるいは復号化処理にて、上記動きベクトルに基づい
て予測信号を生成する処理である。
【0007】このようなMPEG4準拠の画像処理技術
への導入が検討されている方法の一例として、オーバー
ラップ動き補償が挙げられ、以下、まず、MPEG1,
2準拠の画像処理技術における通常の動き補償とオーバ
ーラップ動き補償について説明する。なお、ここでは、
説明を簡単にするため、動き補償の対象となる信号とし
ては輝度信号のみを示す。また、オーバーラップ動き補
償は、復号化処理(符号化の際の局所復号化処理も含
む)の際にのみ行うのが通常であるため、以下の説明は
復号化処理について行う。
【0008】まず、従来のMPEG1,2の規格に対応
した復号化処理では、動き補償は、縦方向に16画素、
横方向に16画素を配列した256画素からなる2次元
の画像空間(マクロブロック)を単位領域として行われ
る。
【0009】図7(a) 〜(d) は、復号化処理における動
き補償処理を説明するための図である。図7(a) に示す
ように復号化側では、現時点t(n)にて復号化処理が
行われている被処理フレームF(n)における対象マク
ロブロックMB(n)に対して、動きベクトルMV
(n)を用いて、過去の時点t(n−1)に復号化処理
が施された前フレームF(n−1)内の予測領域PR
(n)が求められる。この予測領域PR(n)は前フレ
ームF(n−1)上にて、被処理フレームF(n)にお
ける対象マクロブロックMB(n)と同じ位置にある同
位置マクロブロックMB(n−1)から、動きベクトル
MV(n)が示す変位量だけ離れた位置にある。
【0010】そして、上記予測領域PR(n)の有する
画像信号が、上記対象マクロブロックMB(n)の画像
復号化信号に対応する予測信号(予測画像復号化信号)
として求められる。なお、図7(b) ,(c) ,(d) はそれ
ぞれ、同位置マクロブロックMB(n−1),予測領域
PR(n),対象マクロブロックMB(n)を、図7
(a) から抜き出して示している。
【0011】これに対し、オーバーラップ動き補償処理
は、縦方向に8画素、横方向に8画素を配列した、64
画素からなる2次元の画像空間(ブロック)を単位領域
として行われる。このブロックは4つで上記マクロブロ
ック1つに相当するものである。言い換えると、1つの
マクロブロックは、図8に示すように上記ブロックを縦
方向に2つ、横方向に2つ配列して構成されている。
【0012】また、オーバーラップ動き補償処理では、
各ブロックに対応して、あるいは各マクロブロックに対
応して動きベクトルが存在しており、この動きベクトル
がマクロブロックに対応するものである場合には、その
マクロブロック内の4つのブロックに対応する動きベク
トルは、すべて同一の動きベクトルであるとする。
【0013】次に図9を用いて具体的なオーバーラップ
動き補償について説明する。ここでは、被処理フレーム
F(n)の対象ブロックBC(n)に対する予測信号
(予測画像復号化信号)を生成する場合について説明す
る。まず、上記対象ブロックBC(n)の動きベクトル
MVC及びその上下右左の周辺ブロックBU(n),B
D(n),BR(n),BL(n)の動きベクトルMV
U,MVD,MVR,MVLを用いて、前フレームF
(n−1)上にて、上記対象ブロックBC(n)と同じ
位置の同位置ブロックBC(n−1)を基準として、上
記対象ブロックBC(n)に対する5つの予測領域を求
める。ここで、上記動きベクトルMVU,MVD,MV
R,MVLは、上記被処理フレームF(n)内の上,
下,右,左周辺ブロックBU(n),BD(n),BR
(n),BL(n)に対する予測領域として、前フレー
ムF(n−1)内の領域PU(n),PD(n),PR
(n),PL(n)を示すものであるため、これらの動
きベクトルを用いて求められる対象ブロックBC(n)
の4つの予測領域は、図10(a) に示す領域PU
(n)′,PD(n)′,PR(n)′,PL(n)′
となる。また、対象ブロックC(n)自体の動きベクト
ルMVCに基づいて、対象ブロックBC(n)に対する
予測領域PC(n)が求められる。
【0014】次に、上記対象ブロックBC(n)に対す
る5つの予測領域PC(n),PU(n)′,PD
(n)′,PR(n)′,PL(n)′における画素か
ら、図10(b) に示す予測画像PGC,PGU,PG
D,PGR,PGLを求める。ただし、ここでは、各予
測領域における不要な画素は用いず、予測領域PU
(n)′については上半分の画素から、予測領域PD
(n)′については下半分の画素から、予測領域PR
(n)′については右半分の画素から、予測領域PL
(n)′については左半分の画素から予測画像を形成す
る。
【0015】そして、各予測画像PGC,PGU,PG
D,PGR,PGLを、それぞれの画素の画素値を、重
み付けマトリクスWVC,WVU,WVD,WVR,W
VL(図10(c) 参照)に示す値で重み付けして合成す
る。ここでは、各重み付けマトリクスで示す重み付け値
は、1つの画素について全て加えると8になるため、上
記各予測画像PGC,PGU,PGD,PGR,PGL
の画素値をPgc,Pgu,Pgd,Pgr,Pglとし、各重み
付けマトリクスで示す重み付け値をWvc,Wvu,Wvd,
Wvr,Wvlとすると、合成画像PGの画素値Pgは、以
下の式により得られる。 Pg =( Pgc・Wvc+Pgu・Wvu+Pgd・Wvd+Pgr・
Wvr+Pgl・Wvl)/8 この合成処理により得られる合成画像PGが、オーバー
ラップ動き補償によって得られる予測画像であり、これ
に対応する画像信号が予測信号(予測画像復号化信号)
となる。
【0016】なお、上記オーバラップ動き補償では、動
き補償の対象となる対象ブロックが、マクロブロックの
下段側に位置するものである場合は、この対象ブロック
の下側の周辺ブロックを含むマクロブロックはまだ復号
化処理が施されていないため、該下側の周辺ブロックの
動きベクトルとしては対象ブロックの動きベクトルを用
いる。また、符号化の際の局所復号化処理におけるオー
バーラップ動き補償も、上記復号化処理におけるオーバ
ーラップ動き補償と同様に行われることは言うまでもな
い。
【0017】上述したように、通常の動き補償では、動
き補償の単位となる領域(マクロブロック)が有する動
きベクトルのみに基づいて予測画像(予測信号)を生成
しているのに対し、オーバーラップ動き補償では、オー
バーラップ動き補償の対象となる処理単位(対象ブロッ
ク)が有する動きベクトルだけでなく、対象ブロックに
隣接する周辺ブロックの動きベクトルにも基づいて予測
画像(予測信号)を生成している。このため、オーバー
ラップ動き補償処理では、通常の動き補償処理に比べ
て、対象ブロックに対応する画像信号(厳密には各画素
に対応する画像値)とその予測信号(厳密には各画素に
対応する予測値)との差分値を1つのブロック内にて平
滑化する、つまり、マクロブロック内での局所的な大き
な符号化歪みを小さく分散することができ、視覚的な画
質の改善を図ることができる一方で、通常の動き補償処
理に比べてより多くの演算処理が必要となる。
【0018】次に、従来のMPEG4の規格に対応した
復号化処理におけるオブジェクト単位の動き補償につい
て説明する。MPEG4に準拠した画像表示では、被処
理フレームと前フレームとではオブジェクト領域のフレ
ーム内での位置が相対的に異なる。以下簡単に図12を
用いて説明すると、図12に示すように復号化側では、
現時点t(n)にて復号化処理が行われている被処理フ
レームF(n)における所定のオブジェクト領域OR
(n)内の対象マクロブロックMB(n)に対して、動
きベクトルMV(n)を用いて、過去の時点t(n−
1)に復号化処理が施された前フレームF(n−1)に
おける、上記オブジェクト領域OR(n)に対応するオ
ブジェクト領域OR(n−1)内の予測領域PR(n)
が求められる。
【0019】この予測領域PR(n)は、前フレームF
(n−1)上にて、被処理フレームF(n)におけるオ
ブジェクト領域OR(n)内の対象マクロブロックMB
(n)と同位置にある同位置マクロブロックMB(n)
(点線で表示)から、動きベクトルMV(n)が示す変
位量だけ離れた位置にある。
【0020】ここで、前フレームF(n−1)では、現
時点t(n)でのオブジェクト領域OR(n)の位置P
(n)は、このオブジェクト領域OR(n)に対応する
過去の時点t(n−1)のオブジェクト領域OR(n−
1)の位置P(n−1)とは異なっているが、被処理フ
レームF(n)におけるオブジェクト領域OR(n)内
のマクロブロックMB(n)の位置Pmb(n) 、及び前フ
レームF(n−1)におけるオブジェクト領域OR(n
−1)内のマクロブロックMB(n−1)の位置Pmb(n
-1) 、さらには上記予測領域PR(n)の位置Ppr(n)
も、各フレームの左隅位置P0を基準とする絶対的位置
として定めることができる。そして、上記予測領域PR
(n)の有する画像信号が、上記被処理フレームF
(n)における対象マクロブロックMB(n)の画像復
号化信号に対応する予測信号(予測画像復号化信号)と
して求められる。
【0021】なお、MPEG4に対応したオーバーラッ
プ動き補償処理も、MPEG1,2におけるものと同
様、縦方向に8画素、横方向に8画素を配列した、64
画素からなる2次元の画像空間(ブロック)を単位領域
として、図12に示すようなオブジェクト領域OR
(n)及びOR(n−1)の間で、図9で説明したよう
に行われる。このように現状では、画像信号の符号化効
率を改善するために、種々の予測信号生成方法が提案さ
れるとともに、符号化方法の規格に取り入れられてお
り、今後も益々多くの予測信号生成方法が考案されると
考えられる。
【0022】
【発明が解決しようとする課題】ところが、上述のオー
バーラップ動き補償の説明で示したように、多くの場
合、新たな動き予測処理や動き補償処理は符号化効率の
改善に寄与する一方で、従来のものに比べて演算処理が
複雑になり、実時間処理を行うためには、画像処理シス
テムに高速な演算性能が要求されることとなる。
【0023】また、従来の画像符号化処理及び画像復号
化処理を行うシステムでは、復号化の際には、符号化時
に決定した予測信号生成方法に基づいた演算処理により
動き補償を行うため、復号化処理において演算処理能力
が不足する状況になったときには、実時間処理により再
生される映像ではコマ落ちなどが生じることとなる。言
い換えると、従来の画像処理システムでは、新たな動き
予測処理や動き補償処理の導入等によって演算処理能力
が不足する事態が生じた場合には、再生画像の画質に大
きな悪影響を及ぼすこととなる。
【0024】本発明は、上記のような問題点を解決する
ためになされたもので、画像信号を符号化あるいは復号
化する際の演算負荷の状況に応じて、画像処理対象とな
る対象画像信号の予測信号を生成する信号生成処理を演
算負荷の重いものと軽いものとの間で切り替えることが
でき、これにより再生される映像への悪影響を最小限に
抑えつつ、高い符号化効率でもって動き予測処理あるい
は動き補償処理を行うことができる画像処理方法及び画
像処理装置、並びにこれらの方法及び装置による画像処
理をコンピュータにより実現することができるプログラ
ムを格納したデータ記憶媒体を提供することを目的とす
る。
【0025】
【課題を解決するための手段】この発明(請求項1)に
係る画像処理方法は、画像入力信号を、画面を区分する
単位領域毎に符号化して画像符号化信号を出力するとと
もに、該画像符号化信号を復号化して得られる画像復号
化信号に基づいて、符号化処理の対象となる対象単位領
域に対応する予測画像入力信号を所定の予測方法に基づ
く演算により生成する信号生成処理を、所要の単位領域
に対して行う画像符号化方法であって、上記画像入力信
号の符号化処理における演算負荷の大きさを検出し、該
検出した演算負荷の大きさに応じて、上記信号生成処理
における予測方法を切り替えるものである。
【0026】この発明(請求項2)は、請求項1記載の
画像処理方法において、実時間での上記信号生成処理に
必要な演算処理能力に基づいた演算負荷の閾値と、上記
検出した演算負荷の大きさとの比較結果に基づいて、上
記信号生成処理における予測方法を、必要となる演算処
理量が多い第1の予測方法と、必要となる演算処理量が
少ない第2の予測方法との間で切り替えるものである。
【0027】この発明(請求項3)は、請求項1記載の
画像処理方法において、実時間での上記信号生成処理に
必要な演算処理能力に基づいた演算負荷の閾値と、上記
検出した演算負荷の大きさとの比較結果に基づいて、上
記信号生成処理における予測方法として、演算処理量が
異なる複数の予測方法のうちから、検出した演算負荷の
大きさに適した予測方法を選択するものである。
【0028】この発明(請求項4)は、請求項1記載の
画像処理方法において、 上記信号生成処理を、上記対
象単位領域に対応する予測領域の位置を所定の画素精度
でもって示す動きベクトルを求める動き予測処理と、該
動きベクトルに基づいて予測領域に対応する画像信号を
上記予測画像入力信号として求める動き補償処理とを含
むものとし、実時間での上記信号生成処理に必要な演算
処理能力に基づいた演算負荷の閾値と、上記検出した演
算負荷の大きさとの比較結果に基づいて、上記信号生成
処理における動き予測処理の方法を、必要となる演算処
理量が多い動き予測方法と、必要となる演算処理量が少
ない動き予測方法との間で切り替え、かつ上記比較結果
に基づいて、上記信号生成処理における動き補償処理の
方法を、必要となる演算処理量が多い動き補償方法と、
必要となる演算処理量が少ない動き補償予測方法との間
で切り替えるものである。
【0029】この発明(請求項5)は、請求項1記載の
画像処理方法において、 上記信号生成処理を、上記対
象単位領域に対応する予測領域の位置を所定の画素精度
でもって示す動きベクトルを求める動き予測処理と、該
動きベクトルに基づいて予測領域に対応する画像信号を
上記予測画像入力信号として求める動き補償処理とを含
むものとし、実時間での上記信号生成処理に必要な演算
処理能力に基づいた演算負荷の閾値と、上記検出した演
算負荷の大きさとの比較結果に基づいて、上記信号生成
処理における動き予測処理の方法を、画素精度の高い動
きベクトルを求める動き予測方法と、画素精度の低い動
きベクトルを求める動き予測方法との間で切り替えるも
のである。
【0030】この発明(請求項6)は、請求項1記載の
画像処理方法において、上記信号生成処理を、上記対象
単位領域に対応する予測領域の位置を所定の画素精度で
もって示す動きベクトルを求める動き予測処理と、該動
きベクトルに基づいて予測領域に対応する画像信号を上
記予測画像入力信号として求める動き補償処理とを含む
ものとし、実時間での上記信号生成処理に必要な演算処
理能力に基づいた演算負荷の閾値と、上記検出した演算
負荷の大きさとの比較結果に基づいて、上記信号生成処
理における動き補償処理の方法を、画素精度の高い動き
ベクトルに基づいて上記予測画像入力信号を求める動き
補償方法と、画素精度の低い動きベクトルに基づいて上
記予測画像入力信号を求める動き補償方法との間で切り
替えるものである。
【0031】この発明(請求項7)は、請求項6記載の
画像処理方法において、上記演算負荷の閾値と演算負荷
の大きさとの比較結果に基づいて、上記画素精度の高い
動きベクトルに基づいて行われる動き補償方法の種類
を、演算負荷の大きい第1の動き補償方法と、演算負荷
の小さい第2の動き補償方法との間で切り替えるととも
に、上記演算負荷の閾値と演算負荷の大きさとの比較結
果に基づいて、上記画素精度の低い動きベクトルに基づ
いて行われる動き補償方法の種類を、演算負荷の大きい
第1の動き補償方法と、演算負荷の小さい第2の動き補
償方法との間で切り替えるものである。
【0032】この発明(請求項8)は、請求項1記載の
画像処理方法において、上記信号生成処理を、上記対象
単位領域に対応する予測領域の位置を所定の画素精度で
もって示す動きベクトルを求める動き予測処理と、該動
きベクトルに基づいて予測領域に対応する画像信号を上
記予測画像入力信号として求める動き補償処理とを含む
ものとし、実時間での上記信号生成処理に必要な演算処
理能力に基づいた演算負荷の閾値と、上記検出した演算
負荷の大きさとの比較結果に基づいて、上記信号生成処
理における動き補償処理の方法として、それぞれ画素精
度の異なる動きベクトルを用いる複数の動き補償方法の
1つを選択するものである。
【0033】この発明(請求項9)に係る画像処理方法
は、入力された画像符号化信号を、画面を区分する単位
領域毎に復号化して画像復号化信号を出力するととも
に、該画像復号化信号に基づいて、復号化処理の対象と
なる対象単位領域に対応する予測画像復号化信号を所定
の動き補償方法に基づく演算により生成する信号生成処
理を、所要の単位領域に対して行う画像復号化方法であ
って、上記画像符号化信号の復号化処理における演算負
荷の大きさを検出し、該検出した演算負荷の大きさに応
じて、上記信号生成処理における動き補償方法を切り替
えるものである。
【0034】この発明(請求項10)は、請求項9記載
の画像処理方法において、実時間での上記信号生成処理
に必要な演算処理能力に基づいた演算負荷の閾値と、上
記検出した演算負荷の大きさとの比較結果に基づいて、
上記信号生成処理における動き補償方法を、必要となる
演算処理量が多い第1の動き補償方法と、必要となる演
算処理量が少ない第2の動き補償方法との間で切り替え
るものである。
【0035】この発明(請求項11)は、請求項9記載
の画像処理方法において、実時間での上記信号生成処理
に必要な演算処理能力に基づいた演算負荷の閾値と、上
記検出した演算負荷の大きさとの比較結果に基づいて、
上記信号生成処理における動き補償方法として、演算処
理量が異なる複数の動き補償方法のうちから、検出した
演算負荷の大きさに適した動き補償方法を選択するもの
である。
【0036】この発明(請求項12)は、請求項9記載
の画像処理方法において、実時間での上記信号生成処理
に必要な演算処理能力に基づいた演算負荷の閾値と、上
記検出した演算負荷の大きさとの比較結果に基づいて、
上記信号生成処理における動き補償方法を、画素精度の
高い動きベクトルに基づいて上記予測画像復号化信号を
求める動き補償方法と、画素精度の低い動きベクトルに
基づいて上記予測画像復号化信号を求める動き補償方法
との間で切り替えるものである。
【0037】この発明(請求項13)は、請求項12記
載の画像処理方法において、上記演算負荷の閾値と演算
負荷の大きさとの比較結果に基づいて、上記画素精度の
高い動きベクトルに基づいて行われる動き補償方法の種
類を、演算負荷の大きい第1の動き補償方法と、演算負
荷の小さい第2の動き補償方法との間で切り替えるとと
もに、上記演算負荷の閾値と演算負荷の大きさとの比較
結果に基づいて、上記画素精度の低い動きベクトルに基
づいて行われる動き補償方法の種類を、演算負荷の大き
い第1の動き補償方法と、演算負荷の小さい第2の動き
補償方法との間で切り替えるものである。
【0038】この発明(請求項14)に係る画像処理装
置は、画像入力信号を、画面を区分する単位領域毎に符
号化して画像符号化信号を出力する符号化処理部と、該
画像符号化信号を復号化して得られる画像復号化信号に
基づいて、符号化処理の対象となる対象単位領域に対応
する予測画像入力信号を所定の予測方法に基づく演算に
より生成する信号生成処理を、所要の単位領域に対して
行う予測処理部とを有する画像符号化装置であって、上
記予測処理部を、上記画像入力信号の符号化処理におけ
る演算負荷の大きさを検出する演算負荷検出手段を有
し、該検出した演算負荷の大きさに応じて、上記信号生
成処理における予測方法を切り替える構成としたもので
ある。
【0039】この発明(請求項15)は、請求項14記
載の画像処理装置において、上記予測処理部を、符号化
処理の対象となる被処理画面における対象単位領域に対
応する画像入力信号と、符号化処理が施された前画面に
対応する画像復号化信号とに基づいて、上記対象単位領
域に対する予測画像入力信号を与える前画面における予
測領域の位置を示す動きベクトルを出力する動き検出器
と、該動き検出器から出力される対象単位領域の動きベ
クトルに基づいて上記予測画像入力信号を算出する動き
補償器とを有する構成とし、上記動き検出器を、上記検
出された演算負荷の大きさに応じて、画素精度の低い第
1の動きベクトルと画素精度の高い第2の動きベクトル
のいずれかを上記動きベクトルとして上記動き補償器に
出力する構成としたものである。
【0040】この発明(請求項16)に係る画像処理装
置は、入力された画像符号化信号を、画面を区分する単
位領域毎に復号化して画像復号化信号を出力する復号化
処理部と、該画像復号化信号に基づいて、復号化処理の
対象となる対象単位領域に対応する予測画像復号化信号
を所定の動き補償方法に基づく演算により生成する信号
生成処理を、所要の単位領域に対して行う予測処理部と
を有する画像復号化装置であって、上記予測処理部を、
上記画像符号化信号の復号化処理における演算負荷の大
きさを検出する演算負荷検出手段を備え、該検出した演
算負荷の大きさに応じて、上記信号生成処理における動
き補償方法を切り替える構成としたものである。
【0041】この発明(請求項17)は、請求項16記
載の画像処理装置において、上記予測処理部を、復号化
処理の対象となる被処理画面より先に復号化処理が施さ
れた前画面における、上記対象単位領域に対応する予測
画像復号化信号を与える予測領域の位置を示す動きベク
トル情報に基づいて、上記予測画像復号化信号を生成す
る構成であって、上記対象単位領域の動きベクトル情報
に基づいて、該対象単位領域に対応する予測画像復号化
信号を算出する、演算処理量の少ない第1の動き補償処
理と、該対象単位領域及びその周辺の単位領域の動きベ
クトル情報に基づいて該対象単位領域に対応する予測画
像復号化信号を算出する、演算処理量の大きい第2の動
き補償処理のうちの一方の処理を、上記検出された演算
負荷の大きさに応じて選択して行う動き補償器を有する
構成としたものである。
【0042】この発明(請求項18)に係るデータ記憶
媒体は、コンピュータに画像符号化処理を行わせるため
のプログラムを格納したデータ記憶媒体であって、画像
入力信号を、画面を区分する単位領域毎に符号化して画
像符号化信号を出力するとともに、該画像符号化信号を
復号化して得られる画像復号化信号に基づいて、符号化
処理の対象となる対象単位領域に対応する予測画像入力
信号を所定の予測方法に基づく演算により生成する信号
生成処理を、所要の単位領域に対して行い、この際、上
記画像入力信号の符号化処理における演算負荷の大きさ
を検出し、該検出した演算負荷の大きさに応じて、上記
信号生成処理における予測方法を切り替える画像符号化
処理を、コンピュータが行うよう、上記プログラムを構
成したものである。
【0043】この発明(請求項19)に係るデータ記憶
媒体は、コンピュータに画像復号化処理を行わせるため
のプログラムを格納したデータ記憶媒体であって、入力
された画像符号化信号を、画面を区分する単位領域毎に
復号化して画像復号化信号を出力するとともに、該画像
復号化信号に基づいて、復号化処理の対象となる対象単
位領域に対応する予測画像復号化信号を所定の動き補償
方法に基づく演算により生成する信号生成処理を、所要
の単位領域に対して行い、この際、上記画像符号化信号
の復号化処理における演算負荷の大きさを検出し、該検
出した演算負荷の大きさに応じて、上記信号生成処理に
おける動き補償方法を切り替える画像復号化処理を、コ
ンピュータが行うよう、上記プログラムを構成したもの
である。
【0044】
【発明の実施の形態】以下、本発明の実施の形態につい
て図1から図11を用いて説明する。 実施の形態1.図1は本発明の実施の形態1による画像
処理装置である画像符号化装置を説明するためのブロッ
ク図である。この実施の形態1の画像符号化装置100
は、画像入力信号として、MPEG1,2に準拠した1
フレームに対応する画像信号だけでなく、MPEG4に
準拠した1オブジェクト領域に対応する画像信号も処理
可能な構成となっているが、いずれの画像信号について
も基本的な処理は同一であるため、具体的な説明は、1
フレームの画像信号の処理についてのみ行う。なお、M
PEG4の場合は、1フレームに対応する画像信号の符
号化処理と同様に、個々のオブジェクト領域に対応する
画像信号の符号化処理が行われ、これらが合成されて1
つのビットストリームとして出力される。
【0045】以下詳しく説明すると、上記画像符号化装
置100は、画像入力信号Sgを受け、該画像入力信号
Sgを、符号化処理の単位となるブロックに対応するよ
う分割して画像信号(以下、ブロック化画像信号ともい
う。)Bgを出力するブロック化器101と、該ブロッ
ク化器101の出力Bgに基づいて、符号化処理の対象
となる対象ブロックについて、どのようなモードの符号
化処理を施すかを判定して、この判定結果に応じた制御
信号Cs1,Cs2を出力するモード判定器105と、
該対象ブロックに対応するブロック化画像信号Bgを予
測して、上記対象ブロックに対応する予測信号(予測画
像入力信号)Pg1を所定の予測方法に基づく演算処理
により生成する予測信号生成部(予測処理部)110と
を有している。
【0046】また、上記画像符号化装置100は、上記
対象ブロックの画像信号Bgとその予測信号Pg1との
差分を差分信号Bgdとして出力する減算器106と、
上記モード判定器105からの制御信号Cs1に基づい
て、上記ブロック化器101の出力Bgと減算器106
の出力Bgdの一方を選択する第1のスイッチ102
と、該スイッチ102の出力を情報圧縮して画像圧縮信
号Cgを出力する情報圧縮器103と、該情報圧縮器1
03の出力Cgに対して可変長符号化処理を施して画像
符号化信号Egを出力する可変長符号化器(VLC)1
04とを有している。
【0047】ここで、上記情報圧縮器103は、対象ブ
ロックの画像信号Bgあるいは差分信号Bgdに対し
て、周波数変換処理の一種であるDCT(離散コサイン
変換)処理を施すDCT変換器と、該周波数変換により
得られる周波数成分(DCT係数)を量子化して量子化
係数を上記画像圧縮信号Cgとして出力する量子化器と
から構成されている。なお、上記スイッチ102は、上
記モード判定器105での判定の結果、対象ブロックの
画像信号に対して画面内相関を利用したフレーム内符号
化処理を施す場合には、ブロック化器101の出力Bg
を選択し、上記判定の結果、対象ブロックの画像信号に
対して画面間相関を利用したフレーム間符号化処理を施
す場合には、減算器106の出力Bgdを選択するよう
制御される。
【0048】また、上記予測信号生成部110は、上記
情報圧縮器103の出力Cgを情報伸長して上記画像信
号Bgあるいは差分信号Bgdを画像伸長信号LDとし
て出力する情報伸長器(DEC)112と、該画像伸長
信号LDが該情報伸長された画像信号Bgである場合こ
れをそのまま出力し、該画像伸長信号LDが上記情報伸
長された差分信号Bgdである場合にはこれを予測信号
Pg1と加算して出力する加算処理部111とを有して
いる。
【0049】ここで、上記情報伸長器112は、上記情
報圧縮器103の出力Cgを逆量子化する逆量子化器
と、逆量子化された情報圧縮器の出力Cgに対し、周波
数領域のデータを空間領域のデータに変換する逆DCT
処理を施して上記画像伸長信号LDを出力するIDCT
器とから構成されている。また、上記加算処理部111
は、上記モード判定器105からの制御信号Cs2によ
り切替制御される第2のスイッチ111aと、該スイッ
チ111aの出力と上記情報伸長器112の出力LDと
を加算する加算器111bとから構成されている。な
お、上記スイッチ111aは、上記モード判定器105
での判定の結果、対象ブロックの画像信号をフレーム内
符号化する場合には、開放された入力端子T1を選択
し、上記判定の結果、対象ブロックの画像信号をフレー
ム間符号化する場合には、予測信号が入力される入力端
子T2を選択するよう制御される。
【0050】また、上記予測信号生成部110は、上記
加算器111bの出力LRを被処理フレームの前のフレ
ーム(前フレーム)に対する画像再生信号として格納す
るフレームメモリ113と、上記加算器111bの出力
LRを受け、1フレームに対する符号化処理における演
算負荷の大きさを判定する負荷判定器114と、上記負
荷判定器114から出力される演算負荷の大きさを示す
負荷信号Cpに基づく演算により、対象ブロックの画像
信号Bgに対する予測信号を求める演算処理部120と
を有している。
【0051】ここで、上記負荷判定器114は、例えば
演算負荷の大きさを示す負荷の指標Rを、単位時間(1
フレーム)当たりの符号化処理における演算量であらわ
し、本画像符号化装置100の演算処理能力に対応した
演算負荷の閾値THを、0.5画素精度の動きベクトル
を用いたオーバーラップ動き補償処理に必要とされる単
位時間当たりの符号化処理における演算量とし、上記負
荷の指標Rと閾値THを比較して処理能力が十分である
か否かを動き補償処理を行う度に判定する構成となって
いる。なお、上記負荷判定器114の構成は、上記のも
のに限らず、例えば、上記負荷判定器114は、フレー
ムメモリ113などから1フレームの画像信号に対する
局所復号化処理が終了したタイミングのみを受け、この
タイミング間隔を演算量である負荷の指標Rに変換し、
この負荷の指標Rを上記演算負荷の閾値THと比較し
て、処理能力の判定を行う構成としてもよい。この場
合、加算器111bの出力LRである局所復号化された
画像信号を、上記負荷判定器114に送る必要がなくな
り、該負荷判定器114へ送るデータ量を大きく削減す
ることができる。
【0052】また、上記演算処理部120は、上記フレ
ームメモリ113の出力Rg1と対象ブロックの画像信
号Bgとに基づいて、対象ブロックの画像信号Bgとの
誤差が最も小さい画像信号を有する、前フレームにおけ
る上記対象ブロックと同一サイズの領域(予測領域)を
示す動き変位情報(動きベクトル)MVを求めて出力す
る動き検出器(ME)121と、該動き検出器121か
らの動きベクトルMVに基づいて上記フレームメモリ1
13のアドレスAdd1を発生し、該アドレスに対応す
るメモリ領域の画像信号に所要の演算処理を施して上記
予測信号Pg1を算出する動き補償器(MC)122と
を有している。
【0053】そして、この実施の形態1では、上記動き
検出器121は、上記ブロック化器101の出力Bg及
びフレームメモリ113の出力Rg1を受け、上記負荷
信号Cpに応じた演算処理により、精度の低い第1の動
きベクトル(1画素精度の動きベクトル)あるいは精度
の高い第2の動きベクトル(0.5画素精度の動きベク
トル)を求め、いずれかの動きベクトルを上記動き補償
器122に出力する構成となっている。つまり、上記動
き検出器121では、演算負荷が大きいときは、1画素
精度の動きベクトルを生成する第1の演算処理が行わ
れ、一方、演算負荷が小さいときは、該第1の演算処理
に加えて、該1画素精度の動きベクトルから、これより
精度の高い0.5画素精度の動きベクトルを求める第2
の演算処理が行われる。
【0054】また、この実施の形態1では、上記動き補
償器122は、上記負荷判定器114からの負荷判定出
力Cpに基づいて、上記動き検出器121から出力され
る動きベクトルに基づいて予測信号を求める動き補償処
理を、通常の動き補償とオーバーラップ動き補償との間
で切り替える構成となっている。つまり、上記動き補償
器122では、演算負荷が大きいときは、演算処理量が
少ない通常の動き補償処理が行われ、一方、演算負荷が
小さいときは、演算処理量が多いが画質の向上を図るこ
とができるオーバーラップ動き補償処理が行われるよう
になっている。
【0055】次に動作について説明する。図2(a) は本
発明の実施の形態1による画像処理装置による画像信号
の符号化処理を説明するためのフローチャートを示す。
本画像符号化装置100に画像入力信号Sgが入力され
ると、ステップS0にて前処理が行われる。すなわち、
本画像符号化装置100に入力された画像入力信号Sg
は、ブロック化器101にて、画像が表示される1画面
(フレーム)を区分する、所定サイズのブロック領域に
対応するようブロック化されて出力される。ここでは、
上記画像入力信号Sgは、(8×8)個または(16×
16)個のサンプルからなる矩形形状のブロック領域に
対応するよう分割されるが、上記画像入力信号Sgは、
任意の形状のブロック領域に対応するよう分割してもよ
い。
【0056】そして、上記モード判定器105では、各
ブロックの画像信号(ブロック化画像信号)Bgに基づ
いて、符号化処理モードの判定,例えば画面内相関を利
用した画面内符号化処理、画面間相関を利用した画面間
符号化処理などのいずれの符号化処理を施すかの判定が
行われ、判定結果に対応した信号を制御信号Cs1,C
s2として出力する。
【0057】次に、ステップS1にて予測信号の生成処
理が行われる。つまり、上記予測信号生成部110の情
報伸長器112では、画像圧縮信号Cgに対する伸長処
理が行われ、画像伸長信号LDが出力される。そして、
フレーム間符号化処理を行う場合、この画像伸長信号L
Dは上記加算器111bにて上記予測信号Pg1と加算
され、該加算器111bからは画像再生信号LRが上記
フレームメモリ113及び負荷判定器114に出力され
る。なお、フレーム内符号化処理を行う場合は、予測処
理は行われない。
【0058】また、上記予測信号生成部110の演算処
理部120には、上記対象ブロックの画像信号Bgが入
力されると同時に、フレームメモリ113からは伸長画
像信号LDが、符号化処理がすでに施された前フレーム
の画像信号として供給される。この演算処理部120で
は、上記負荷判定器114の判定出力Cpに基づいて、
予測信号を算出するための演算処理が行われる。具体的
には、上記対象ブロックの画像信号Bgが動き検出器1
21に入力されると同時に、フレームメモリ113から
画像再生信号Rg1が前フレームの画像信号として動き
検出器121に読み出される。
【0059】この動き検出器121では、ブロックマッ
チングなどの方法により、対象ブロックの画像信号Bg
に対し誤差の最も小さい画像信号を有する、前フレーム
における領域が予測領域として検出され、該予測領域の
位置を、被処理フレーム(現フレーム)における対象ブ
ロックと同じ位置の前フレームにおける同位置ブロック
を基準として示す動き変位情報(動きベクトル)MVが
出力される。この動きベクトルMVは動き補償器122
に送られ、該動き補償器122では、前フレームの予測
領域に対応する画像信号から予測信号が生成される。な
お、このとき上記対象ブロックに対する動きベクトルM
Vは可変長符号化器104に供給され、対応する可変長
符号に変換される。ここでは、上記動き検出器121に
よる動きベクトルの検出、及び動き補償器122による
予測信号の算出は、上記負荷判定器104からの負荷判
定出力Cpに基づいて行われる。
【0060】以下詳述すると、図2(b) は上記予測信号
の生成処理の流れをフローチャートにより示している。
図2(b) に示すように、負荷判定ステップS11では、
負荷判定器114により、その時点での演算負荷の大き
さを表す負荷指標Rの判定が行われる。
【0061】この判定の結果、上記負荷指標Rが本画像
符号化装置の演算処理能力から決まる閾値THより小さ
い場合は、ステップS12にて、演算処理量は大きいが
符号化効率を改善できる予測信号の生成処理が行われ
る。つまり、上記動き検出器121では、まず1画素精
度の動きベクトルが求められ、さらにこの動きベクトル
に基づいて0.5画素精度の動きベクトルが求められ、
この0.5画素精度の動きベクトルが上記動き補償器1
22に出力される。また、該動き補償器122では、上
記0.5画素動きベクトルに基づいて、複数の予測領域
に対応する画像信号を、画素毎に設定されている所定の
重み付け比率でもって合成して予測信号を生成するオー
バーラップ動き補償が行われる。
【0062】一方、上記負荷判定の結果、負荷指標Rが
上記閾値THに比べて大きい場合は、ステップS13に
て、演算負荷を削減した演算処理量の少ない予測信号の
生成処理が行われる。つまり、上記動き検出器121で
は、0.5画素精度の動きベクトルを求める処理が省略
され、1画素精度の動きベクトルが上記動き補償器12
2に出力され、上記動き補償器122では、この1画素
精度の動きベクトルに基づいて、1つの予測領域に対応
する画像信号を予測信号として出力する通常の動き補償
処理が行われる。その後、ステップS2にて、対象ブロ
ックの画像信号Bgあるいは差分信号Bgdに対する圧
縮符号化処理が行われる。
【0063】すなわち、上記モード判定器105の出力
Cs1に基づいて、上記第1のスイッチ102が切替制
御される。ブロック化画像信号Bgが画面内符号化モー
ドで符号化される場合は、該画像信号Bgは該スイッチ
102を介して情報圧縮器103に出力される。この情
報圧縮器103における圧縮処理は、DCT器による周
波数変換および量子化器による量子化によって行われる
が、上記圧縮処理には、サブバンド変換やベクトル量子
化などの方法を用いてもよい。ここでは、量子化された
画像信号Cgが可変長符号化器104に供給されて可変
長符号化される。
【0064】一方、ブロック化画像信号Bgが画面間符
号化モードで符号化される場合は、該画像信号Bgから
予測信号Pg1を引き算する減算器106の出力(差分
信号)Bgdが、該スイッチ102を介して情報圧縮器
103に出力される。この情報圧縮器103における上
記差分信号Bgdの圧縮処理は、上記画像信号Bgと同
様に行われる。
【0065】このように本実施の形態1では、負荷判定
器114により符号化処理における演算負荷の大きさ
(指標)Rを判定し、演算負荷の指標Rが本画像符号化
装置100の演算処理能力に対応した閾値THに比べて
小さい場合は、演算処理量が大きいが符号化効率のよい
予測信号の生成処理を行い、一方、演算負荷の指標Rが
上記演算処理能力に対応した閾値THに比べて大きい場
合は、上記予測信号の生成処理に比べて演算処理量の少
ない通常の予測信号の生成処理を行うようにしたので、
符号化効率のよい予測信号生成処理を、復号化側にて実
時間処理により再生される映像への、演算処理能力の不
足に起因する悪影響を抑えつつ行うことができ、これに
より符号化効率がよく、しかも再生画像の画質劣化を低
減した符号化処理を実現することができる。
【0066】例えば、オーバーラップ動き補償に代えて
通常の動き補償を行った場合、画像符号化装置の中央演
算処理装置に対して入出力される画素値としてのデータ
量が1/3に削減されることとなり、また、オーバーラ
ップ動き補償での重み付け処理における乗算処理や周辺
ブロックの動きベクトルに基づくアドレスの発生処理等
の演算処理が削減される。
【0067】なお、上記実施の形態1では、上記負荷の
指標Rを符号化処理における演算量としているが、上記
負荷の指標Rは、予め定めた演算を処理するのに必要な
時間としてもよい。
【0068】また、上記実施の形態1では、負荷の判定
を個々のブロックに対応した動き予測処理(動きベクト
ルの検出)を行う度に実施する場合について示したが、
負荷の判定は必ずしも動きベクトルの検出を行う毎に実
施する必要はなく、例えば、負荷の判定は、符号化処理
の開始時に一度実施して、以降は同じ判定結果を用いる
ようにしてもよく、また、フレーム毎に周期的に行うよ
うにしてもよい。
【0069】さらに、上記実施の形態1では、演算負荷
の大きさに応じて、動き検出器121及び動き補償器1
22の両方にて、演算処理を切り替える構成としている
が、演算負荷に応じた演算処理の切替は、動き検出器1
21及び動き補償器122のいずれか一方で行うように
してもよい。例えば、動き検出器121における画素精
度の切替,つまり1画素精度の動きベクトルと0.5画
素精度の動きベクトルの両方を生成する処理と、1画素
精度の動きベクトルのみ生成する処理とを切り換える処
理のみ行うようにしてもよく、あるいは動き補償器12
2における通常の動き補償処理とオーバーラップ動き補
償との切替のみ行うようにしてもよい。さらには、動き
補償器122における通常の動き補償処理として、画素
精度が異なる動きベクトルに基づく複数の動き補償処理
のうちの1つを選択して行うようにしてもよい。
【0070】また、上記実施の形態1では、動きベクト
ルの生成処理は階層的な演算処理により実現しており、
つまり0.5画素精度の動きベクトルの生成処理は、1
画素精度の動きベクトルを生成する基本的な第1の演算
処理に加えて付加的な第2の演算処理を行うことにより
実現しており、画素精度の切り替えは、上記付加的な演
算処理を行うか否かにより行われているが、動きベクト
ルの生成処理は上記のような階層的な演算処理により実
現されるものに限らない。例えば、動きベクトルの生成
を行うモジュールとして、1画素精度の動きベクトルを
生成するための演算処理を行う第1のモジュールと、
0.5画素精度の動きベクトルを生成するための演算処
理を行う第2のモジュールとを備え、これらのモジュー
ルを切り替えることにより、画素精度の切り替えを行う
ようにしてもよい。
【0071】さらに、画素精度の切替は、0.5画素精
度と1画素精度の切替に限るものではなく、0.5画素
精度と2画素精度の切替、あるいは1画素精度と2画素
精度の切替であってもよく、さらには、0.5画素精
度,1画素精度,及び2画素精度のうちの1つを演算負
荷に応じて選択するものであってもよい。また、画素精
度としては、上記のものに限らず、0.25画素精度や
0.125画素精度といった非常に精度の高いものも用
いることが可能である。
【0072】またさらに、上記実施の形態1では、負荷
指標が閾値より大きいときには、0.5画素精度の動き
ベクトルの生成処理を省略し、かつオーバーラップ動き
補償を通常の動き補償に変更するものを例に挙げたが、
予測方法(予測信号の生成処理)を演算処理量の少ない
予測方法に変更する仕方は、双方向予測やインターレー
ス予測を順方向予測やフレーム予測に変更するものであ
ってもよい。
【0073】また、処理のプロセスが同一であるオーバ
ーラップ動き補償であっても、実装方法の異なる場合、
処理速度が異なったものとなるので、オーバーラップ動
き補償処理を、実装方法の異なるものの間で切り替える
ようにしてもよい。個々の実装方法は、CPUによるど
のような処理対象(メモリとのアクセスや加減算等の演
算)に対して最適化されているかによって異なってお
り、例えば、メモリとのアクセスに対して最適化された
実装方法と、演算処理に対して最適化された実装方法と
は異なる実装方法である。
【0074】具体的には、オーバーラップ動き補償を行
うためのソフトウエアにおけるメモリ空間に、画像デー
タを格納するための複数のデータメモリを実装した第1
の実装方法と、これよりデータメモリの数の少ない第2
の実装方法との間で、処理を切り替えて行うようにでき
る。この場合、第1の実装方法では、第2の実装方法に
比べて、処理プロセスで使用するメモリ空間が小さいた
め、処理速度が落ちる反面、データメモリとの間でのデ
ータアクセスは高速で行うことができ、オーバーラップ
動き補償処理の状況によって、上記第1,第2の実装方
法を使い分けることは、動き補償処理全体としての処理
速度の向上につながる。
【0075】また、上記実施の形態1における演算負荷
の削減は、符号化処理における演算精度を落とすことに
よる演算の高速化によっても可能であり、また、メモリ
の個数やCPUに対してアクセスされるデータ量に演算
速度が依存した高速な演算アルゴリズムを実装すること
による演算の高速化によっても負荷の削減が可能であ
り、演算精度や演算アルゴリズムの切替により、予測信
号の生成処理における演算負荷を変更することも可能で
ある。
【0076】さらに、上記動き検出器あるいは動き補償
器での処理の切替は、実施の形態1のように演算処理量
の多い処理と演算処理量の少ない処理の一方を選択する
ものに限らず、演算処理量の異なる3つ以上の複数の演
算処理のうちの1つを選択するようにしてもよく、以下
このような構成例を実施の形態1の変形例1として説明
する。
【0077】実施の形態1の変形例1.この実施の形態
1の変形例1は、演算処理部120を、動き検出器12
1では、演算負荷の大きさに応じて演算処理量の異なる
3つ以上の複数の演算処理のうちの1つが選択され、動
き補償器122では、演算負荷の大きさに拘わらず、演
算処理の切替が行われないよう構成したものである。
【0078】簡単に説明すると、この変形例では、上記
負荷判定器114を、演算負荷の指標としての第1閾値
TH1とこれより大きい第2閾値TH2に基づいて、演
算負荷が上記第1閾値TH1以下の値であるか、該両閾
値の間の値であるか、第2閾値TH2以上の値であるか
を判定する構成としている。また、上記動き検出器12
1を、上記負荷判定器114での判定結果に基づいて、
対象ブロックに対する予測領域を示す動き変位情報とし
て、精度の低い2画素精度の動きベクトル、精度の高い
0.5画素精度の動きベクトル,及び中間的な精度の1
画素精度の動きベクトルのうちのいずれかの動きベクト
ルを生成する構成としている。さらに、動き補償器12
2を、演算負荷の大きさに拘わらず1画素精度の動きベ
クトルによる通常の動き補償処理が行われるよう構成と
している。
【0079】次に動作について簡単に説明する。図3
(a) は上記実施の形態1の変形例1における演算処理部
での処理のフローを示している。この実施の形態1の変
形例1では、上記動き検出器121による動きベクトル
の検出が上記負荷判定器104からの負荷判定出力Cp
に基づいて行われ、かつ動き補償器122による予測信
号の算出は、該負荷判定出力Cpに拘わらず所定の方法
(動き補償方法)により行われる。
【0080】以下詳述すると、図3(a) に示すように、
負荷判定ステップS11aでは、負荷判定器114によ
り、その時点での演算負荷の大きさを表す負荷指標Rが
第1閾値TH1より小さいか否かの判定が行われる。こ
の判定の結果、上記負荷指標Rが本画像符号化装置の演
算処理能力に基づいて決まる第1閾値TH1より小さい
場合は、上記動き検出器121では、0.5画素精度の
動きベクトルが生成される(ステップS13a)。一
方、負荷判定ステップS11aでの判定の結果、上記負
荷指標Rが第1閾値TH1以上である場合は、ステップ
S12aにて、上記負荷指標Rが本画像符号化装置の演
算処理能力に基づいて決まる第2閾値TH2より大きい
か否かの判定が行われる。
【0081】このステップS12aでの判定の結果、上
記負荷指標Rが第2閾値TH2より大きくない場合は、
上記動き検出器121では、1画素精度の動きベクトル
が生成され(ステップS14a)、上記負荷指標Rが第
2閾値TH2より大きい場合は、上記動き検出器121
では、2画素精度の動きベクトルが生成される(ステッ
プS15a)。
【0082】そして、上記動き補償器122では、0.
5画素精度,1画素精度,2画素精度のいずれかの動き
ベクトルに基づいて、1つの予測領域に対応する画像信
号を予測信号として出力する所定の動き補償処理が行わ
れる。このような構成の実施の形態1の変形例1では、
実時間での上記信号生成処理に必要な演算処理能力に基
づいた演算負荷の第1,第2閾値と、上記検出した演算
負荷の大きさとの比較結果に基づいて、0.5画素精
度,1画素精度,2画素精度のうちから所定の画素精度
の動きベクトルを生成するようにしたので、符号化側で
の演算処理量の切替をきめ細かく行うことができる。
【0083】実施の形態1の変形例2.この実施の形態
1の変形例2は、演算処理部120を、動き検出器12
1では、実施の形態1と同様、演算処理量の異なる2つ
の演算処理のうちの1つが選択され、動き補償器122
では、演算負荷の大きさに応じて、演算負荷量の異なる
4つの演算処理のうちの1つが選択されるよう構成した
ものである。
【0084】簡単に説明すると、この変形例2では、上
記負荷判定器114を、演算負荷の指標である第1,第
2,第3の閾値THs,THm,THb(THs<TH
m<THb)に基づいて、演算負荷が上記第1の閾値よ
り小さい値であるか、該第1の閾値以上かつ第2の閾値
未満の値であるか、第2閾値以上かつ第3閾値未満の値
であるか、第3の閾値以上の値であるかを判定する構成
としている。
【0085】また、上記動き検出器121は、上記負荷
判定器114での判定結果に基づいて、演算負荷が第3
閾値THb以上の値であるとき、対象ブロックに対する
予測領域を示す動き変位情報として、精度の低い1画素
精度の動きベクトルを生成し、演算負荷が第3閾値TH
bの値より小さいとき、対象ブロックに対する予測領域
を示す動き変位情報として、精度の高い0.5画素精度
の動きベクトルを生成する構成としている。
【0086】そして、動き補償器122は、演算負荷が
上記第1閾値THsより小さいとき、0.5画素精度の
動きベクトルに基づいてオーバーラップ動き補償を行
い、演算負荷が上記第1閾値THs以上かつ第2閾値T
Hm未満であるとき、1画素精度の動きベクトルに基づ
いてオーバーラップ動き補償を行い、演算負荷が上記第
2閾値THm以上かつ第3閾値THb未満であるとき、
0.5画素精度の動きベクトルに基づいて通常の動き補
償を行い、演算負荷が上記第3閾値THb以上であると
き、1画素精度の動きベクトルに基づいて通常の動き補
償を行う構成となっている。
【0087】次に動作について簡単に説明する。図3
(b) は上記実施の形態1の変形例2における演算処理部
での処理のフローを示している。この実施の形態1の変
形例2では、上記動き検出器121における動き予測処
理(動きベクトルの検出)は、上記負荷判定器114か
らの負荷判定出力Cpに基づいて演算負荷の大きい処理
と演算負荷の小さい処理の間で切替られ、動き補償器1
22による動き補償処理(予測信号の算出)は、該負荷
判定出力Cpに応じて、演算負荷の異なる4つの動き補
償処理のうちの1つが選択される。以下詳述すると、図
3(b) に示すように、負荷判定ステップS11bでは、
負荷判定器114により、その時点での演算負荷の大き
さを表す負荷指標Rが第2閾値THmより小さいか否か
の判定が行われる。
【0088】この判定の結果、上記負荷指標Rが上記第
2閾値THmより小さい場合は、ステップS12bに
て、上記負荷指標Rが上記第1閾値THs(THs<T
Hm)より小さいか否かの判定が行われる。一方、負荷
判定ステップS11bでの判定の結果、上記負荷指標R
が第2閾値THm以上である場合は、ステップS13b
にて、上記負荷指標Rが上記第3閾値THb(THb>
THm)より小さいか否かの判定が行われる。
【0089】上記負荷判定ステップS12bでの判定の
結果、上記負荷指標Rが第1閾値THsより小さい場合
は、上記動き検出器121では、1画素精度の動きベク
トルとともに0.5画素精度の動きベクトルが生成さ
れ、動き補償器122では、0.5画素精度の動きベク
トルに基づいてオーバーラップ動き補償処理が行われる
(ステップS14b)。
【0090】上記負荷判定ステップS12bでの判定の
結果、上記負荷指標Rが第1閾値THs以上である場合
は、上記動き検出器121では、1画素精度の動きベク
トルとともに0.5画素精度の動きベクトルが生成さ
れ、動き補償器122では、1画素精度の動きベクトル
に基づいてオーバーラップ動き補償処理が行われる(ス
テップS15b)。
【0091】上記負荷判定ステップS13bでの判定の
結果、上記負荷指標Rが第3閾値THbより小さい場合
は、上記動き検出器121では、1画素精度の動きベク
トルとともに0.5画素精度の動きベクトルが生成さ
れ、動き補償器122では、0.5画素精度の動きベク
トルに基づいて、通常の補償処理が行われる(ステップ
S16b)。
【0092】上記負荷判定ステップS13bでの判定の
結果、上記負荷指標Rが第3閾値THb以上である場合
は、上記動き検出器121では、1画素精度の動きベク
トルのみが生成され、動き補償器122では、1画素精
度の動きベクトルに基づいて通常の動き補償処理が行わ
れる(ステップS17b)。
【0093】このような構成の実施の形態1の変形例2
では、実時間での上記信号生成処理に必要な演算処理能
力に基づいた演算負荷の第1〜第3の閾値と、上記検出
した演算負荷の大きさとの比較結果に基づいて、動き検
出器での画素精度の切替、及び動き補償器での動き補償
の種類の切替を行うようにしたので、符号化側での演算
処理量を徐々に変化させることができ、しかも演算処理
量の可変範囲を広くすることができる。
【0094】実施の形態2.図4は本発明の実施の形態
2による画像復号化装置を説明するためのブロックであ
る。この実施の形態2の画像復号化装置200は、上記
実施の形態1の画像符号化装置100に対応したもので
あり、入力される画像符号化信号として、MPEG1,
2に準拠した1フレームに対応する画像符号化信号だけ
でなく、MPEG4に準拠した1オブジェクト領域に対
応する画像符号化信号も処理可能な構成となっている
が、いずれの画像符号化信号についても基本的な復号化
処理は同一であるため、具体的な説明は、1フレーム対
応の画像符号化信号の処理についてのみ行う。なお、M
PEG4の場合は、1フレームに対応する画像符号化信
号の復号化処理と同様に、個々のオブジェクト領域に対
応する画像符号化信号の復号化処理が行われ、これらが
合成されて1つの画面に対応する画像再生信号が得られ
る。
【0095】以下詳しく説明すると、上記画像復号化装
置200は、復号化処理の対象となる対象領域(対象ブ
ロック)に対応する符号化信号(画像符号化信号あるい
は差分符号化信号)Egを受け、該符号化信号Egを解
析して可変長復号化するデータ解析器201と、該デー
タ解析器201の出力AEgに対して伸長処理を施して
画像伸長信号DEgを出力する情報伸長器(DEC)2
02と、該情報伸長器202の出力DEgと、対象ブロ
ックに対応する予測信号Pg2あるいは基準信号(0レ
ベル)とを加算する加算器203と、該加算器203の
出力PEgである各ブロックに対応する画像再生信号を
統合して走査線構造の画像出力信号REgを出力する逆
ブロック化器204と、所定のブロックに対応する予測
信号Pg2を生成する予測信号生成部210を有してい
る。
【0096】ここで、上記情報伸長器202は、上記デ
ータ解析器201の出力AEgに逆量子化処理を施す逆
量子化器と、該逆量子化器の出力に対して逆周波数変換
処理の一種であるIDCT(逆離散コサイン変換)処理
を施して画像伸長信号DEgを出力するIDCT変換器
とから構成されている。
【0097】上記予測信号生成部210は、上記加算器
203の出力PEgを画像再生信号として格納するフレ
ームメモリ211と、上記加算器203の出力PEgを
受け、復号化処理における演算負荷の大きさを判定する
負荷判定器213とを有している。
【0098】ここで、上記負荷判定器213は、上記実
施の形態1の負荷判定器114と同様な構成となってい
る。つまり該負荷判定器213は、例えば演算負荷の大
きさを示す負荷の指標Rを、単位時間(1フレーム)当
たりの復号化処理における演算量であらわし、本画像復
号化装置200の演算処理能力に対応した演算負荷の閾
値THを、0.5画素精度の動きベクトルを用いたオー
バーラップ動き補償処理に必要とされる単位時間当たり
の復号化処理における演算量とし、上記負荷の指標Rと
閾値THを比較して処理能力が十分であるか否かを動き
補償処理を行う度に判定する構成となっている。なお、
上記負荷判定器213の構成は、上記のものに限らず、
例えば、上記負荷判定器213は、フレームメモリ21
1などから1フレームの画像信号に対する復号化処理が
終了したタイミングのみを受け、このタイミング間隔を
演算量である負荷の指標Rに変換し、この負荷の指標R
を上記演算負荷の閾値THと比較して、処理能力の判定
を行う構成としてもよい。この場合、加算器203の出
力PEgである画像復号化信号を、上記負荷判定器21
3に送る必要がなくなり、該負荷判定器213へ送るデ
ータ量を大きく削減することができる。
【0099】また、上記予測信号生成部210は、上記
データ解析器201にて復号化された対象ブロックに対
応する動きベクトルMVに基づいて、上記フレームメモ
リ211のアドレスAdd2を生成し、該アドレスAd
d2により上記フレームメモリ211から、対象ブロッ
クの画像再生信号との誤差が最も小さい画像再生信号を
持つ、前フレームにおける領域(予測領域)に対応する
画像再生信号を検出し、該画像再生信号に基づいて予測
信号Pg2を算出する動き補償器212を有し、該予測
信号Pg2が、上記データ解析器201からの制御信号
ACsにより制御されるスイッチ214を介して、上記
加算器203に出力されるようになっている。このスイ
ッチ214は、上記制御信号ACsにより、上記予測信
号Pg2が入力される入力端子I1と、開放された入力
端子I2の一方を選択する。なお、このスイッチ214
が開放入力端子I2を選択した場合には、スイッチ21
4の出力として上記基準信号が上記加算器203に与え
られる。ここでは基準信号は0レベルの信号としてい
る。
【0100】そして、この実施の形態2では、上記動き
補償器212は、上記負荷判定器213からの負荷判定
出力Chに基づいて、上記データ解析器201から出力
される動きベクトルMVに基づいて、対象ブロックの画
像復号化信号に対する予測信号を求める動き補償処理
を、通常の動き補償とオーバーラップ動き補償との間で
切り替える構成となっている。つまり、上記動き補償器
212では、演算負荷が大きいときは、1画素精度の動
きベクトルについてはその値を用いて、0.5画素精度
の動きベクトルについてはその値をまるめた、1画素精
度の動きベクトルに相当するベクトル値を用いて、演算
処理量が少ない通常の動き補償処理が行われ、一方、演
算負荷が小さいときは、1画素精度の動きベクトルある
いは0.5画素精度の動きベクトルの値をそのまま用い
て、演算処理量が多いが画質の向上を図ることができる
オーバーラップ動き補償処理が行われるようになってい
る。
【0101】次に動作について説明する。図5(a) は本
発明の実施の形態2による画像処理装置による画像信号
の復号化処理を説明するためのフローチャートである。
まず、ステップS3にて画像復号化処理が行われる。す
なわち、本画像処理装置200に入力された符号化信号
(画像符号化信号あるいは差分符号化信号)Egは、デ
ータ解析器201にてそのデータ解析が行われ、可変長
復号化された符号化信号が上記情報伸長器202に出力
される。またこのとき、上記データ解析器201から
は、復号化処理の対象となる対象ブロックの動きベクト
ルMVが予測信号生成部210の動き補償器212に出
力され、また対象ブロックの符号化モードに対応した制
御信号ACsが予測信号生成部210のスイッチ214
に供給される。
【0102】上記情報伸長器202では、可変長復号化
された画像符号化信号に対して伸長処理が施され、画像
信号あるいは差分信号が伸長信号DEgとして復元され
る。具体的には、上記情報伸長器202では、上記可変
長復号化された画像符号化信号は、逆量子化器にて逆量
子化処理が施され、さらに逆離散コサイン変換器にて、
周波数領域の信号を空間領域の信号に変換する逆周波数
変換処理が施される。
【0103】次にステップS4にて動き補償処理が行わ
れる。上記動き補償器212では、上記動きベクトルM
Vからフレームメモリ211をアクセスするためのアド
レスAdd2が生成され、フレームメモリ211に格納
されている前フレームの画像再生信号から、対象ブロッ
クに対応する予測信号Pg2が読み出される。この動き
補償器212での予測信号の生成は、演算負荷の大きさ
に対応した制御信号Chに基づいて行われる。
【0104】上記モード信号ACsが画面間符号化モー
ドを示す場合、上記スイッチ214が予測信号の入力端
子I1を選択することとなり、上記読み出された予測信
号Pg2と、上記情報伸長器202の出力DEgとが加
算器203に入力され、該加算器203からは、これら
の信号の加算値として、画像復号化信号PEgが出力さ
れる。一方上記モード信号ACsが画面内符号化モード
を示す場合、上記スイッチ214が開放入力端子I2を
選択することとなり、上記情報伸長器202の出力DE
gがそのまま加算器203を介して逆ブロック化器20
4に出力される。
【0105】そして上記加算器203の出力PEgは上
記逆ブロック化器204に供給され、該逆ブロック化器
204にて統合されて走査線構造の画像出力信号REg
に変換される。このとき上記加算器203の出力である
画像再生信号PEgは、上記フレームメモリ211及び
負荷判定器213に出力され、負荷判定器213では、
復号化処理における演算処理量が判定され、判定結果に
対応した制御信号Chが上記動き補償器212に出力さ
れる。
【0106】以下、上記動き補償器212における動き
補償処理について詳しく説明する。図5(b) は上記動き
補償処理を示すフローチャートである。負荷判定ステッ
プS41では、負荷判定器213により負荷指標Rの判
定が行われる。その結果、演算負荷の指標Rが本画像復
号化装置200の処理能力に対応する閾値THに比べて
小さい場合は、ステップS42にて、データ解析器20
1からの動きベクトル(0.5画素精度あるいは1画素
精度の動きベクトル)に基づいて、演算処理量が大きい
が符号化効率のよいオーバーラップ動き補償処理が行わ
れる。一方、演算負荷の指標Rが上記THに比べて大き
い場合は、ステップS43にて、上記オーバーラップ動
き補償処理に比べて演算処理量の少ない通常の動き補償
処理が行われる。このとき、データ解析器201からの
動きベクトルが0.5画素精度の動きベクトルである場
合は、その値がまるめられて、1画素精度の動きベクト
ルに相当するベクトル値が用いられる。
【0107】このように本実施の形態2では、画像符号
化信号の復号化処理の際、演算負荷量が本画像復号化装
置200の演算処理能力に対応した負荷閾値より大きい
場合には、再生画像の画質向上に有効なオーバーラップ
動き補償処理に代えて、これより演算処理量の少ない通
常の動き補償処理を行うようにしたので、画像符号化信
号の実時間での復号化処理を行う際に、演算負荷の状況
によって動き補償処理が切り換わることとなり、演算処
理能力不足による再生画像への悪影響を回避することが
できる。
【0108】具体的には、従来の復号化方法では、符号
化時に選択した動き補償処理に対応した動き補償処理に
より予測信号を生成するようにしているのに対し、本実
施の形態2では、復号化処理の際に演算処理能力が不足
する場合には、符号化時に選択した動き補償処理に対応
した動き補償処理を行わずに、これとは異なる演算負荷
を削減した動き補償処理を行う。例えば、符号化時にオ
ーバーラップ動き補償処理を行っている場合は、復号化
の際には演算負荷に応じて、オーバーラップ動き補償処
理に代えて演算処理量が少ない通常の動き補償処理を行
う。
【0109】このため、本実施の形態2では、従来の画
像復号化処理では演算処理能力が不足して、実時間復号
化処理により得られる映像が大きく劣化するような場合
でも、処理能力に応じた動き補償を行うことができ、演
算処理能力の不足に起因する実時間復号化処理による映
像への悪影響を抑制することができる。
【0110】なお、上記実施の形態2では、負荷指標が
閾値より大きいときにはオーバーラップ動き補償を通常
の動き補償に変更するものを例に挙げたが、これは、上
記実施の形態1と同様、双方向予測やインターレース予
測に対応した動き補償処理を、順方向予測やフレーム予
測に対応した動き補償処理に変更するものであってもよ
い。
【0111】さらに、上記動き補償器での動き補償処理
の切替は、上記実施の形態2のように、動き補償器にて
画素精度の切替と動き補償処理の種類の切替を連動して
行うものに限らず、種々の切替方法が考えられ、以下上
記実施の形態2のとは異なる切替方法について説明す
る。
【0112】実施の形態2の変形例1.この実施の形態
2の変形例1は、上記実施の形態2における予測信号生
成部210を、動き補償器212では、データ解析器2
01にて得られる動きベクトルが0.5画素精度である
か1画素精度であるかに拘わらず、動きベクトルとして
は1画素精度の動きベクトルを用い、オーバーラップ動
き補償と通常の動き補償の切替が行われるようにしたも
のである。
【0113】つまり、この変形例では、上記動き補償器
212を、上記負荷判定器213での判定結果を受け、
演算負荷Rが本画像復号化装置の演算処理能力に基づい
て決まる閾値THより小さい場合には、1画素精度の動
きベクトルによるオーバーラップ動き補償処理を行い、
演算負荷Rが負荷閾値THより大きい場合には、1画素
精度の動きベクトルによる通常の動き補償処理を行う構
成としている。なお、この変形例においても、データ解
析器201にて得られる動きベクトルが0.5画素精度
である場合には、この値をまるめて1画素精度の動きベ
クトルを生成するようにしている。
【0114】なお、この実施の形態2の変形例1による
動き補償処理では、符号化側から1画素精度の動きベク
トルが送られている場合は、この1画素精度の動きベク
トルをそのまま用いるが、符号化側から0.5画素精度
の動きベクトルが送られている場合は、0.5画素精度
の動きベクトルの値をまるめて1画素精度の動きベクト
ルを生成する。
【0115】次に動作について簡単に説明する。図6
(a) は上記実施の形態2の変形例1における演算処理部
での処理のフローを示している。この実施の形態2の変
形例1では、上記動き補償器212による動き補償処理
(予測信号の算出)は、上記負荷判定器213からの負
荷判定出力Chに基づいて、オーバーラップ動き補償
と、負荷を削減した通常の動き補償との間で切替られ
る。
【0116】以下簡単に説明すると、図6(a) に示すよ
うに、負荷判定ステップS41aでは、負荷判定器21
3により、その時点での演算負荷の大きさを表す負荷指
標Rが、本画像復号化装置の演算処理能力に基づいて決
まる閾値THより小さいか否かの判定が行われる。
【0117】この判定の結果、上記負荷指標Rが上記閾
値THより小さい場合は、上記動き補償器212では、
1画素精度の動きベクトルに基づいてオーバーラップ動
き補償が行われて、予測信号が生成される(ステップS
42a)。一方、負荷判定ステップS41aでの判定の
結果、上記負荷指標Rが上記閾値TH以上である場合
は、1画素精度の動きベクトルに基づいて、負荷が削減
された通常の動き補償(負荷削減動き補償)が行われ
て、予測信号が生成される(ステップS43a)。
【0118】このように本実施の形態2の変形例1で
は、負荷判定器213からの負荷判定出力Chに基づい
て、動き補償器212での動き補償を、1画素精度の動
きベクトルに基づくオーバーラップ動き補償と、1画素
精度の動きベクトルに基づく負荷削減動き補償との間で
切替えるので、画素精度の切替は行われず、動き補償処
理の種類のみが切替られることとなり、このため比較的
簡単な回路構成により、演算負荷の増大による再生画像
の画質劣化を抑制することができる。
【0119】実施の形態2の変形例2.この実施の形態
2の変形例2は、上記実施の形態2における予測信号生
成部210を、動き補償器212では、オーバーラップ
動き補償と、これに比べて演算負荷の小さい通常の動き
補償(負荷削減動き補償)の切替は行わず、画素精度の
切替,つまり1画素精度の動きベクトルに基づく通常の
動き補償と、0.5画素精度の動きベクトルに基づく通
常の動き補償とを切り換えるようにしたものである。
【0120】つまり、この変形例では、上記動き補償器
212は、上記負荷判定器213からの負荷判定出力C
hを受け、演算負荷が、本画像復号化装置の演算処理能
力に基づいて決まる閾値THより小さい場合には、0.
5画素精度の動きベクトルに基づいて通常の動き補償処
理を行い、演算負荷が上記閾値THより大きい場合に
は、1画素精度の動きベクトルに基づいて通常の動き補
償処理を行う構成としている。
【0121】なお、この実施の形態2の変形例2による
動き補償処理では、符号化側から0.5画素精度の動き
ベクトルが送られている場合のみ、上記のような画素精
度の切り替えを行い、符号化側から1画素精度の動きベ
クトルが送られている場合は、上記のような画素精度の
切替を行わないようにしている。
【0122】次に作用効果について説明する。図6(b)
は上記実施の形態2の変形例2における予測信号生成部
での処理のフローを示している。この実施の形態2の変
形例2では、上記動き補償器212による動き補償処理
(予測信号の算出)は、上記負荷判定器213からの負
荷判定出力Chに基づいて、0.5画素精度の動きベク
トルに基づく通常の動き補償と、1画素精度の動きベク
トルに基づく通常の動き補償との間で切替られる。
【0123】簡単に説明すると、図6(b) に示すよう
に、負荷判定ステップS41bでは、負荷判定器213
により、その時点での演算負荷の大きさを表す負荷指標
Rが、本画像復号化装置の演算処理能力に基づいて決ま
る閾値THより小さいか否かの判定が行われる。
【0124】この判定の結果、上記負荷指標Rが上記閾
値THより小さい場合は、上記動き補償器212では、
0.5画素精度の動きベクトルに基づいて通常の動き補
償が行われて、予測信号が生成される(ステップS42
b)。一方、負荷判定ステップS41bでの判定の結
果、上記負荷指標Rが上記閾値TH以上である場合は、
1画素精度の動きベクトルに基づいて通常の動き補償が
行われて、予測信号が生成される(ステップS43
b)。
【0125】このように本実施の形態2の変形例2で
は、負荷判定器213からの負荷判定出力Chに基づい
て、動き補償器212での動き補償を、0.5画素精度
の動きベクトルに基づく通常の動き補償と、1画素精度
の動きベクトルに基づく通常の動き補償との間で切替え
るので、動き補償の種類の切替は行われず、画素精度の
切替のみが行われることとなり、このため非常に簡単な
回路構成により、演算負荷の増大による再生画像の画質
劣化を抑制することができる。
【0126】なお、この実施の形態2の変形例2による
動き補償処理では、符号化側から0.5画素精度の動き
ベクトルが送られている場合のみ、上記のような画素精
度の切り替えを行い、符号化側から1画素精度の動きベ
クトルが送られている場合は、上記のような画素精度の
切替を行わないようにしているが、動き補償処理におけ
る画素精度の切り替えはこれに限るものではない。
【0127】例えば、符号化側から0.5画素精度の動
きベクトルが送られている場合も1画素精度の動きベク
トルが送られている場合もともに、上記のような画素精
度の切り替えを行うようにしてもよい。
【0128】具体的には、符号化側から0.5画素精度
の動きベクトルが送られている場合は、1画素精度の動
き補償では、0.5画素精度の動きベクトルの値をまる
めて得られる1画素精度の動きベクトルを用い、0.5
画素精度の動き補償では、0.5画素精度の動きベクト
ルをそのまま用いる。一方、符号化側から1画素精度の
動きベクトルが送られている場合は、1画素精度の動き
補償では、この1画素精度の動きベクトルをそのまま用
い、0.5画素精度の動き補償では、上記1画素精度の
動きベクトルに基づいて生成した0.5画素精度の動き
ベクトルを用いる。
【0129】さらに、各画素精度の動き補償は階層的な
演算処理により実現しても、あるいは各画素精度に対応
した演算モジュールによる演算処理により実現してもよ
い。例えば、0.5画素精度の動き補償処理は、1画素
精度の動き補償を行うための基本的な第1の演算処理に
加えて付加的な第2の演算処理を行うことにより実現
し、画素精度の切り替えは、上記付加的な演算処理を行
うか否かにより行うようにしてもよい。また、動き補償
のための演算処理を行うモジュールとして、0.5画素
精度の動き補償を行う第1のモジュールと、1画素精度
の動き補償を行う第2のモジュールとを備え、これらの
モジュールを切り替えることにより、各画素精度の動き
補償の切り替えを行うようにしてもよい。
【0130】また、画素精度の切替は、0.5画素精度
と1画素精度の切替に限るものではなく、0.5画素精
度と2画素精度の切替、あるいは1画素精度と2画素精
度の切替であってもよく、さらには、0.5画素精度,
1画素精度,及び2画素精度のうちの1つを演算負荷に
応じて選択するものであってもよい。また、画素精度と
しては、上記のものに限らず、0.25画素精度や0.
125画素精度といった非常に精度の高いものも用いる
ことが可能である。
【0131】実施の形態2の変形例3.この実施の形態
2の変形例3は、上記実施の形態2における予測信号生
成部210を、動き補償器212では、演算負荷の大き
さに応じて、演算処理が4段階にわたって切り替わるよ
う構成したものである。簡単に説明すると、この変形例
3では、上記実施の形態2における負荷判定器213
を、演算負荷の指標である第1,第2,第3の閾値TH
s,THm,THb(THs<THm<THb)に基づ
いて、演算負荷が上記第1の閾値より小さい値である
か、該第1の閾値以上かつ第2の閾値未満の値である
か、第2閾値以上かつ第3閾値未満の値であるか、第3
の閾値以上の値であるかを判定する構成としている。
【0132】そして、この変形例3では、上記実施の形
態2における動き補償器212は、演算負荷が上記第1
閾値THsより小さいとき、0.5画素精度の動きベク
トルによるオーバーラップ動き補償を行い、演算負荷が
上記第1閾値THs以上かつ第2閾値THm未満である
とき、1画素精度の動きベクトルによるオーバーラップ
動き補償を行い、演算負荷が上記第2閾値THm以上か
つ第3閾値THb未満であるとき、0.5画素精度の動
きベクトルによる通常の動き補償を行い、演算負荷が上
記第3閾値THb以上であるとき、1画素精度の動きベ
クトルによる通常の動き補償を行う構成となっている。
【0133】次に動作について簡単に説明する。図6
(b) は上記実施の形態2の変形例3における予測信号生
成部での処理のフローを示している。この実施の形態2
の変形例3では、上記動き補償器212による動き補償
処理(予測信号の算出)は、負荷判定器213からの負
荷判定出力Chに応じて、演算負荷の異なる4つの動き
補償処理のうちの1つが選択される。
【0134】以下詳述すると、図6(c) に示すように、
負荷判定ステップS41cでは、負荷判定器213によ
り、その時点での演算負荷の大きさを表す負荷指標Rが
第2閾値THmより小さいか否かの判定が行われる。
【0135】この判定の結果、上記負荷指標Rが上記第
2閾値THmより小さい場合は、ステップS42cに
て、上記負荷指標Rが上記第1閾値THs(THs<T
Hm)より小さいか否かの判定が行われる。一方、負荷
判定ステップS41cでの判定の結果、上記負荷指標R
が第2閾値THm以上である場合は、ステップS43c
にて、上記負荷指標Rが上記第3閾値THb(THb>
THm)より小さいか否かの判定が行われる。
【0136】上記負荷判定ステップS42cでの判定の
結果、上記負荷指標Rが第1閾値THsより小さい場合
は、0.5画素精度の動きベクトルに基づいてオーバー
ラップ動き補償処理が行われる(ステップS44c)。
上記負荷判定ステップS42cでの判定の結果、上記負
荷指標Rが第1閾値THs以上である場合は、1画素精
度の動きベクトルに基づいてオーバーラップ動き補償処
理が行われる(ステップS45c)。上記負荷判定ステ
ップS43cでの判定の結果、上記負荷指標Rが第3閾
値THbより小さい場合は、0.5画素精度の動きベク
トルに基づいて、通常の動き補償処理(負荷削減動き補
償)が行われる(ステップS46c)。上記負荷判定ス
テップS43cでの判定の結果、上記負荷指標Rが第3
閾値THb以上である場合は、1画素精度の動きベクト
ルを用いて通常の動き補償処理(負荷削減動き補償)が
行われる(ステップS47b)。
【0137】このような構成の実施の形態2の変形例3
では、実時間での上記信号生成処理に必要な演算処理能
力に基づいた演算負荷の第1〜第3の閾値と、上記検出
した演算負荷の大きさとの比較結果に基づいて、画素精
度及び動き補償の種類を切り換えて、演算負荷の大きさ
を4段階にわたって切り換えるようにしたので、復号化
側での演算処理量を徐々に変化させることができ、しか
も演算処理量の可変範囲を広くすることができる。
【0138】さらに、上記各実施の形態及びその変形例
で示した画像符号化処理および画像復号化処理を実現す
るための符号化あるいは復号化プログラムを、フロッピ
ーディスク等のデータ記憶媒体に記録するようにするこ
とにより、上記各実施の形態及びその変形例で示した処
理を、独立したコンピュータシステムにおいて簡単に実
施することが可能となる。
【0139】図11は、上記実施の形態1若しくはその
変形例の画像符号化装置による画像符号化処理、あるい
は上記実施の形態2若しくはその変形例の画像復号化装
置による画像復号化処理を、これらの画像処理に対応し
たプログラムを格納したフロッピーディスクを用いて、
コンピュータシステムにより実施する場合を説明するた
めの図である。
【0140】図11(b) は、フロッピーディスクFDの
正面からみた外観、断面構造、及び記録媒体であるフロ
ッピーディスク本体を示し、図11(a) は、フロッピー
ディスク本体Dの物理フォーマットの例を示している。
フロッピーディスク本体DはケースF内に内蔵され、該
ディスク本体Dの表面には、同心円状に外周からは内周
に向かって複数のトラックTrが形成され、各トラック
は角度方向に16のセクタSeに分割されている。従っ
て、上記プログラムを格納したフロッピーディスク本体
Dでは、上記フロッピーディスク本体D上に割り当てら
れた領域に、上記プログラムとしてのデータが記録され
ている。
【0141】また、図11(c) は、フロッピーディスク
FDに上記プログラムの記録再生を行うための構成を示
す。上記プログラムをフロッピーディスクFDに記録す
る場合は、コンピュータシステムCsから上記プログラ
ムとしてのデータをフロッピーディスクドライブFDDを
介して書き込む。また、フロッピーディスクFD内のプ
ログラムにより上記画像符号化処理あるいは画像復号化
処理をコンピュータシステムCs中に構築する場合は、
フロッピーディスクドライブFDDによりプログラムをフ
ロッピーディスクFDから読み出し、コンピュータシス
テムCsに転送する。
【0142】なお、上記説明では、データ記録媒体とし
てフロッピーディスクを用いたコンピュータシステムに
よる画像処理の説明を行ったが、この画像処理は、光デ
ィスクを用いても同様に行うことができる。また、記録
媒体はこれに限らず、ICカード、ROMカセット等、
プログラムを記録できるものであれば同様に実施するこ
とができる。
【0143】
【発明の効果】以上のように本発明(請求項1)に係る
画像処理方法によれば、画像入力信号の符号化処理にお
ける演算負荷の大きさを検出し、該検出した演算負荷の
大きさに応じて、上記画像入力信号の予測信号を生成す
る処理における予測方法を切り替えるので、上記予測信
号生成処理における演算負荷量が、画像入力信号の符号
化処理を行うシステムの演算処理能力を超えるのを回避
することができ、これにより復号化側で、実時間処理に
より再生される映像にてコマ落ちなどが生じるといった
不具合を防止することができ、この結果、予測信号生成
処理に起因するシテスムの演算負荷の増大が再生画像の
画質に大きな悪影響を及ぼすのを防止することができ
る。
【0144】この発明(請求項2)によれば、請求項1
記載の画像処理方法において、実時間での上記予測信号
生成処理に必要な演算処理量を基準として得られる演算
負荷の閾値と、上記検出した演算負荷の大きさとの比較
結果に基づいて、演算処理量の大きい第1の予測方法と
演算処理量の少ない第2の予測方法との間で、上記予測
信号生成処理における予測方法を切り替えるので、再生
画像の画質の劣化を招くことなく、符号化効率を向上す
ることができる。
【0145】この発明(請求項3)によれば、請求項1
記載の画像処理方法において、実時間での上記信号生成
処理に必要な演算処理能力に基づいた演算負荷の閾値
と、上記検出した演算負荷の大きさとの比較結果に基づ
いて、上記信号生成処理における予測方法として、演算
処理量が異なる複数の予測方法のうちから、検出した演
算負荷の大きさに適した予測方法を選択するので、演算
処理量の切替をきめ細かく行うことができる。また、そ
の信号処理量が符号化処理全体の信号処理量に占める割
合の大きい動き予測処理が切り替わることとなり、画像
伝送システムにおける演算負荷を大きく減少させること
が可能となる。
【0146】この発明(請求項4)によれば、請求項1
記載の画像処理方法において、実時間での上記信号生成
処理に必要な演算処理能力に基づいた演算負荷の閾値
と、上記検出した演算負荷の大きさとの比較結果に基づ
いて、上記信号生成処理における動き予測処理の方法
を、必要となる演算処理量が多い動き予測方法と、必要
となる演算処理量が少ない動き予測方法との間で切り替
え、かつ上記比較結果に基づいて、上記信号生成処理に
おける動き補償処理の方法を、必要となる演算処理量が
多い動き補償方法と、必要となる演算処理量が少ない動
き補償方法との間で切り替えるようにしたので、演算処
理量の切替を、大きな範囲にわたって比較的きめ細かく
行うことができる。
【0147】この発明(請求項5)によれば、請求項1
記載の画像処理方法において、実時間での上記信号生成
処理に必要な演算処理能力に基づいた演算負荷の閾値
と、上記検出した演算負荷の大きさとの比較結果に基づ
いて、上記信号生成処理における動き予測処理の方法
を、画素精度の高い動きベクトルを求める動き予測方法
と、画素精度の低い動きベクトルを求める動き予測方法
との間で切り替えるので、画素精度の切替えという比較
的簡単な処理により、再生画像の画質の劣化を招くこと
なく、符号化効率を向上することができる。
【0148】この発明(請求項6)によれば、請求項1
記載の画像処理方法において、実時間での上記信号生成
処理に必要な演算処理能力に基づいた演算負荷の閾値
と、上記検出した演算負荷の大きさとの比較結果に基づ
いて、上記信号生成処理における動き補償処理の方法
を、画素精度の高い動きベクトルに基づいて上記予測画
像入力信号を求める動き補償方法と、画素精度の低い動
きベクトルに基づいて上記予測画像入力信号を求める動
き補償方法との間で切り替えるので、画素精度の切り替
えという比較的簡単な処理により、画像伝送システムに
おける演算負荷を大きく減少させることが可能となる。
【0149】この発明(請求項7)によれば、請求項6
記載の画像処理方法において、上記演算負荷の閾値と演
算負荷の大きさとの比較結果に基づいて、上記画素精度
の高い動きベクトルに基づいて行われる動き補償方法の
種類を、演算負荷の大きい第1の動き補償方法と、演算
負荷の小さい第2の動き補償方法との間で切り替えると
ともに、上記演算負荷の閾値と演算負荷の大きさとの比
較結果に基づいて、上記画素精度の低い動きベクトルに
基づいて行われる動き補償方法の種類を、演算負荷の大
きい第1の動き補償方法と、演算負荷の小さい第2の動
き補償方法との間で切り替えるので、演算処理量の切替
を、比較的大きな範囲にわたって比較的きめ細かく行う
ことができる。
【0150】この発明(請求項8)によれば、請求項1
記載の画像処理方法において、実時間での上記信号生成
処理に必要な演算処理能力に基づいた演算負荷の閾値
と、上記検出した演算負荷の大きさとの比較結果に基づ
いて、上記信号生成処理における動き補償処理の方法と
して、それぞれ画素精度の異なる動きベクトルを用いる
複数の動き補償方法の1つを選択するので、画素精度の
切り替えという比較的簡単な処理により、演算処理量の
切替をきめ細かく行うことができる。
【0151】この発明(請求項9)に係る画像処理方法
によれば、画像符号化信号の復号化処理における演算負
荷の大きさを検出し、該検出した演算負荷の大きさに応
じて、画像復号化信号に対する予測信号を生成する処理
における動き補償方法を切り替えるので、上記予測信号
生成処理における演算負荷量が、画像符号化信号の復号
化処理を行うシステムの演算処理能力を超えるのを回避
することができ、これにより、実時間処理により再生さ
れる映像にてコマ落ちなどが生じるといった不具合を防
止することができる。この結果、上記予測信号生成処理
に起因するシテスムの演算負荷の増大が再生画像の画質
に大きな悪影響を及ぼすのを防止することができる。
【0152】この発明(請求項10)によれば、請求項
9記載の画像処理方法において、実時間での上記予測信
号生成処理に必要な演算処理量を基準として得られる演
算負荷の閾値と、上記検出した演算負荷の大きさとの比
較結果に基づいて、演算処理量の小さい第1の動き補償
方法と演算処理量の多い第2の動き補償方法との間で、
上記予測信号生成処理における動き補償方法を切り替え
るので、再生画像の画質の劣化を招くことなく符号化効
率を向上できる符号化処理に対応した復号化処理を実現
することができる。
【0153】この発明(請求項11)によれば、請求項
9記載の画像処理方法において、実時間での上記信号生
成処理に必要な演算処理能力に基づいた演算負荷の閾値
と、上記検出した演算負荷の大きさとの比較結果に基づ
いて、上記信号生成処理における動き補償方法として、
演算処理量が異なる複数の動き補償方法のうちから、検
出した演算負荷の大きさに適した動き補償方法を選択す
るので、演算処理量の切替をきめ細かく行うことができ
る。
【0154】この発明(請求項12)によれば、請求項
9記載の画像処理方法において、実時間での上記信号生
成処理に必要な演算処理能力に基づいた演算負荷の閾値
と、上記検出した演算負荷の大きさとの比較結果に基づ
いて、上記信号生成処理における動き補償方法を、画素
精度の高い動きベクトルに基づいて上記予測画像復号化
信号を求める動き補償方法と、画素精度の低い動きベク
トルに基づいて上記予測画像復号化信号を求める動き補
償方法との間で切り替えるので、画素精度の切り替えと
いう比較的簡単な処理により、演算処理量の切替を行う
ことができる。
【0155】この発明(請求項13)によれば、請求項
12記載の画像処理方法において、上記演算負荷の閾値
と演算負荷の大きさとの比較結果に基づいて、上記画素
精度の高い動きベクトルに基づいて行われる動き補償方
法の種類を、演算負荷の大きい第1の動き補償方法と、
演算負荷の小さい第2の動き補償方法との間で切り替え
るとともに、上記演算負荷の閾値と演算負荷の大きさと
の比較結果に基づいて、上記画素精度の低い動きベクト
ルに基づいて行われる動き補償方法の種類を、演算負荷
の大きい第1の動き補償方法と、演算負荷の小さい第2
の動き補償方法との間で切り替えるので、演算処理量の
切替を比較的きめ細かくしかも大きな範囲にわたって行
うことができる。
【0156】この発明(請求項14)に係る画像処理装
置によれば、符号化処理の対象となる対象単位領域の画
像入力信号を所定の方法により予測して予測信号を生成
する予測処理部を、画像入力信号の符号化処理における
演算負荷の大きさを検出する演算負荷検出手段を有し、
該検出した演算負荷の大きさに応じて、上記予測信号生
成処理における予測方法を切り替える構成としたので、
上記予測信号生成処理における演算負荷量が、画像入力
信号の符号化処理を行うシステムの演算処理能力を超え
るのを回避することができ、これにより復号化側で、実
時間処理により再生される映像にてコマ落ちなどが生じ
るといった不具合を防止することができる。この結果、
予測信号の生成処理に起因するシテスムの演算負荷の増
大が再生画像の画質に大きな悪影響を及ぼすのを防止す
ることができる。
【0157】この発明(請求項15)によれば、請求項
14記載の画像処理装置において、上記予測処理部を構
成する動き検出器を、被処理画面における対象単位領域
と、これに対応する、前画面における予測領域との位置
関係を示す動きベクトルとして、上記検出された演算負
荷の大きさに応じて、画素精度の低い第1の動きベクト
ルと画素精度の高い第2の動きベクトルのいずれかを出
力する構成としたので、再生画像の画質の劣化を招くこ
となく、符号化効率を向上することができる。
【0158】この発明(請求項16)に係る画像処理装
置によれば、復号化処理の対象となる対象単位領域の画
像復号化信号を所定の動き補償方法により予測して予測
信号を生成する予測処理部を、画像符号化信号の復号化
処理における演算負荷の大きさを検出する演算負荷検出
手段を備え、該検出した演算負荷の大きさに応じて、上
記予測信号生成処理における動き補償方法を切り替える
構成としたので、該予測信号生成処理における演算処理
量が、画像符号化信号の復号化処理を行うシステムの演
算処理能力を超えるのを回避することができ、これによ
り、実時間処理により再生される映像にてコマ落ちなど
が生じるといった不具合を防止することができる。この
結果、予測信号生成処理に起因するシテスムの演算負荷
の増大が再生画像の画質に大きな悪影響を及ぼすのを防
止することができる。
【0159】この発明(請求項17)によれば、請求項
16記載の画像処理装置において、上記予測処理部を構
成する動き補償器を、上記画像符号化信号に含まれる動
きベクトル情報に基づいて、対象単位領域に対する予測
信号を生成する処理を、上記検出された演算負荷の大き
さに応じて、符号化効率のよいものと演算処理量の少な
いものとの間で選択して行うようにしたので、再生画像
の画質の劣化を招くことなく符号化効率を向上できる符
号化処理に対応した復号化処理を実現できる。
【0160】この発明(請求項18)に係るデータ記憶
媒体によれば、画像信号の符号化処理を行うためのプロ
グラムとして、画像入力信号の符号化処理における演算
負荷の大きさを検出する処理、及び該検出した演算負荷
の大きさに応じて、画像入力信号の予測信号を生成する
処理における予測方法を切り替える処理をコンピュータ
に行わせるプログラムを格納したので、該予測信号生成
処理における演算負荷量が、画像入力信号の符号化処理
を行うシステムの演算処理能力を超えるのを回避して、
復号化側で、実時間処理により再生される映像にてコマ
落ちなどが生じるといった不具合を防止することができ
る符号化処理をコンピュータにより実現することができ
る。
【0161】この発明(請求項19)に係るデータ記憶
媒体は、画像符号化信号の復号化処理を行うためのプロ
グラムとして、上記画像符号化信号の復号化処理におけ
る演算負荷の大きさを検出する処理、及び該検出した演
算負荷の大きさに応じて、画像復号化信号の予測信号を
生成する処理における動き補償方法を切り替える処理を
コンピュータに行わせるプログラムを格納したので、該
予測信号生成処理における演算負荷量が、画像符号化信
号の復号化処理を行うシステムの演算処理能力を超える
のを回避して、実時間処理により再生される映像にてコ
マ落ちなどが生じるといった不具合を防止することがで
きる復号化処理をコンピュータにより実現することがで
きる。
【図面の簡単な説明】
【図1】本発明の実施の形態1による画像符号化装置を
説明するためのブロック図である。
【図2】上記実施の形態1の画像符号化装置による符号
化処理(図(a) )及び予測信号の生成処理(図(b) )を
フローチャートにより示す図である。
【図3】上記実施の形態1の変形例1,2の画像符号化
装置による予測信号の生成処理(図(a) ,(b) )をフロ
ーチャートにより示す図である。
【図4】本発明の実施の形態2による画像復号化装置を
説明するためのブロック図である。
【図5】上記実施の形態2の画像復号化装置による復号
化処理(図(a) )、及び動き補償処理(図(b) )をフロ
ーチャートにより示す図である。
【図6】上記実施の形態2の変形例1,2,3の画像復
号化装置による動き補償処理(図(a) ,(b) ,(c) )を
フローチャートにより示す図である。
【図7】従来のMPEG1,2に対応した画像復号化方
法における動き補償処理を説明するための図である。
【図8】16×16画素からなるマクロブロックと8×
8画素からなるブロックとの関係を示す図である。
【図9】従来の画像復号化方法におけるオーバーラップ
動き補償方法を説明するための図である。
【図10】上記オーバーラップ動き補償方法における予
測信号の生成処理を説明するための図である。
【図11】図11(a) ,(b) ,(c) は上記各実施の形態
の画像処理装置による符号化あるいは復号化処理をコン
ピュータシステムにより実現するためのプログラムを格
納したデータ記憶媒体について説明するための図であ
る。
【図12】従来のMPEG4に対応した画像復号化方法
における動き補償処理を説明するための図である。
【符号の説明】
100 画像符号化装置 101 ブロック化器 102 第1のスイッチ 103 情報圧縮器 104 可変長符号化器 105 モード判定器 106 減算器 110,210 予測信号生成部 111 加算処理部 111a 第2のスイッチ 111b,203 加算器 112,202 情報伸長器 113,211 フレームメモリ 114,213 負荷判定器 120 演算処理部 121 動き検出器 122,212 動き補償器 200 画像復号化装置 201 データ解析器 204 逆ブロック化器 214 スイッチ Cs コンピュータ・システム D フロッピディスク本体 FD フロッピディスク FDD フロッピディスクドライブ

Claims (19)

    【特許請求の範囲】
  1. 【請求項1】 画像入力信号を、画面を区分する単位領
    域毎に符号化して画像符号化信号を出力するとともに、
    該画像符号化信号を復号化して得られる画像復号化信号
    に基づいて、符号化処理の対象となる対象単位領域に対
    応する予測画像入力信号を所定の予測方法に基づく演算
    により生成する信号生成処理を、所要の単位領域に対し
    て行う画像符号化方法であって、 上記画像入力信号の符号化処理における演算負荷の大き
    さを検出し、 該検出した演算負荷の大きさに応じて、上記信号生成処
    理における予測方法を切り替えることを特徴とする画像
    処理方法。
  2. 【請求項2】 請求項1記載の画像処理方法において、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    予測方法を、必要となる演算処理量が多い第1の予測方
    法と、必要となる演算処理量が少ない第2の予測方法と
    の間で切り替えることを特徴とする画像処理方法。
  3. 【請求項3】 請求項1記載の画像処理方法において、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    予測方法として、演算処理量が異なる複数の予測方法の
    うちから、検出した演算負荷の大きさに適した予測方法
    を選択することを特徴とする画像処理方法。
  4. 【請求項4】 請求項1記載の画像処理方法において、 上記信号生成処理は、 上記対象単位領域に対応する予測領域の位置を所定の画
    素精度でもって示す動きベクトルを求める動き予測処理
    と、該動きベクトルに基づいて予測領域に対応する画像
    信号を上記予測画像入力信号として求める動き補償処理
    とを含むものであり、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    動き予測処理の方法を、必要となる演算処理量が多い動
    き予測方法と、必要となる演算処理量が少ない動き予測
    方法との間で切り替え、 かつ上記比較結果に基づいて、上記信号生成処理におけ
    る動き補償処理の方法を、必要となる演算処理量が多い
    動き補償方法と、必要となる演算処理量が少ない動き補
    償方法との間で切り替えることを特徴とする画像処理方
    法。
  5. 【請求項5】 請求項1記載の画像処理方法において、 上記信号生成処理は、 上記対象単位領域に対応する予測領域の位置を所定の画
    素精度でもって示す動きベクトルを求める動き予測処理
    と、該動きベクトルに基づいて予測領域に対応する画像
    信号を上記予測画像入力信号として求める動き補償処理
    とを含むものであり、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    動き予測処理の方法を、画素精度の高い動きベクトルを
    求める動き予測方法と、画素精度の低い動きベクトルを
    求める動き予測方法との間で切り替えることを特徴とす
    る画像処理方法。
  6. 【請求項6】 請求項1記載の画像処理方法において、 上記信号生成処理は、 上記対象単位領域に対応する予測領域の位置を所定の画
    素精度でもって示す動きベクトルを求める動き予測処理
    と、該動きベクトルに基づいて予測領域に対応する画像
    信号を上記予測画像入力信号として求める動き補償処理
    とを含むものであり、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    動き補償処理の方法を、画素精度の高い動きベクトルに
    基づいて上記予測画像入力信号を求める動き補償方法
    と、画素精度の低い動きベクトルに基づいて上記予測画
    像入力信号を求める動き補償方法との間で切り替えるこ
    とを特徴とする画像処理方法。
  7. 【請求項7】 請求項6記載の画像処理方法において、 上記演算負荷の閾値と演算負荷の大きさとの比較結果に
    基づいて、上記画素精度の高い動きベクトルに基づいて
    行われる動き補償方法の種類を、演算負荷の大きい第1
    の動き補償方法と、演算負荷の小さい第2の動き補償方
    法との間で切り替えるとともに、 上記演算負荷の閾値と演算負荷の大きさとの比較結果に
    基づいて、上記画素精度の低い動きベクトルに基づいて
    行われる動き補償方法の種類を、演算負荷の大きい第1
    の動き補償方法と、演算負荷の小さい第2の動き補償方
    法との間で切り替えることを特徴とする画像処理方法。
  8. 【請求項8】 請求項1記載の画像処理方法において、 上記信号生成処理は、 上記対象単位領域に対応する予測領域の位置を所定の画
    素精度でもって示す動きベクトルを求める動き予測処理
    と、該動きベクトルに基づいて予測領域に対応する画像
    信号を上記予測画像入力信号として求める動き補償処理
    とを含むものであり、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    動き補償処理の方法として、それぞれ画素精度の異なる
    動きベクトルを用いる複数の動き補償方法の1つを選択
    することを特徴とする画像処理方法。
  9. 【請求項9】 入力された画像符号化信号を、画面を区
    分する単位領域毎に復号化して画像復号化信号を出力す
    るとともに、該画像復号化信号に基づいて、復号化処理
    の対象となる対象単位領域に対応する予測画像復号化信
    号を所定の動き補償方法に基づく演算により生成する信
    号生成処理を、所要の単位領域に対して行う画像復号化
    方法であって、 上記画像符号化信号の復号化処理における演算負荷の大
    きさを検出し、 該検出した演算負荷の大きさに応じて、上記信号生成処
    理における動き補償方法を切り替えることを特徴とする
    画像処理方法。
  10. 【請求項10】 請求項9記載の画像処理方法におい
    て、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    動き補償方法を、必要となる演算処理量が多い第1の動
    き補償方法と、必要となる演算処理量が少ない第2の動
    き補償方法との間で切り替えることを特徴とする画像処
    理方法。
  11. 【請求項11】 請求項9記載の画像処理方法におい
    て、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    動き補償方法として、演算処理量が異なる複数の動き補
    償方法のうちから、検出した演算負荷の大きさに適した
    動き補償方法を選択することを特徴とする画像処理方
    法。
  12. 【請求項12】 請求項9記載の画像処理方法におい
    て、 実時間での上記信号生成処理に必要な演算処理能力に基
    づいた演算負荷の閾値と、上記検出した演算負荷の大き
    さとの比較結果に基づいて、上記信号生成処理における
    動き補償方法を、画素精度の高い動きベクトルに基づい
    て上記予測画像復号化信号を求める動き補償方法と、画
    素精度の低い動きベクトルに基づいて上記予測画像復号
    化信号を求める動き補償方法との間で切り替えることを
    特徴とする画像処理方法。
  13. 【請求項13】 請求項12記載の画像処理方法におい
    て、 上記演算負荷の閾値と演算負荷の大きさとの比較結果に
    基づいて、上記画素精度の高い動きベクトルに基づいて
    行われる動き補償方法の種類を、演算負荷の大きい第1
    の動き補償方法と、演算負荷の小さい第2の動き補償方
    法との間で切り替えるとともに、 上記演算負荷の閾値と演算負荷の大きさとの比較結果に
    基づいて、上記画素精度の低い動きベクトルに基づいて
    行われる動き補償方法の種類を、演算負荷の大きい第1
    の動き補償方法と、演算負荷の小さい第2の動き補償方
    法との間で切り替えることを特徴とする画像処理方法。
  14. 【請求項14】 画像入力信号を、画面を区分する単位
    領域毎に符号化して画像符号化信号を出力する符号化処
    理部と、該画像符号化信号を復号化して得られる画像復
    号化信号に基づいて、符号化処理の対象となる対象単位
    領域に対応する予測画像入力信号を所定の予測方法に基
    づく演算により生成する信号生成処理を、所要の単位領
    域に対して行う予測処理部とを有する画像符号化装置で
    あって、 上記予測処理部を、上記画像入力信号の符号化処理にお
    ける演算負荷の大きさを検出する演算負荷検出手段を有
    し、該検出した演算負荷の大きさに応じて、上記信号生
    成処理における予測方法を切り替える構成としたことを
    特徴とする画像処理装置。
  15. 【請求項15】 請求項14記載の画像処理装置におい
    て、 上記予測処理部は、 符号化処理の対象となる被処理画面における対象単位領
    域に対応する画像入力信号と、符号化処理が施された前
    画面に対応する画像復号化信号とに基づいて、上記対象
    単位領域に対する予測画像入力信号を与える前画面にお
    ける予測領域の位置を示す動きベクトルを出力する動き
    検出器と、 該動き検出器から出力される対象単位領域の動きベクト
    ルに基づいて上記予測画像入力信号を算出する動き補償
    器とを有し、 上記動き検出器は、 上記検出された演算負荷の大きさに応じて、画素精度の
    低い第1の動きベクトルと画素精度の高い第2の動きベ
    クトルのいずれかを上記動きベクトルとして上記動き補
    償器に出力する構成となっていることを特徴とする画像
    処理装置。
  16. 【請求項16】 入力された画像符号化信号を、画面を
    区分する単位領域毎に復号化して画像復号化信号を出力
    する復号化処理部と、該画像復号化信号に基づいて、復
    号化処理の対象となる対象単位領域に対応する予測画像
    復号化信号を所定の動き補償方法に基づく演算により生
    成する信号生成処理を、所要の単位領域に対して行う予
    測処理部とを有する画像復号化装置であって、 上記予測処理部は、 上記画像符号化信号の復号化処理における演算負荷の大
    きさを検出する演算負荷検出手段を備え、 該検出した演算負荷の大きさに応じて、上記信号生成処
    理における動き補償方法を切り替える構成となっている
    ことを特徴とする画像処理装置。
  17. 【請求項17】 請求項16記載の画像処理装置におい
    て、 上記予測処理部は、 復号化処理の対象となる被処理画面より先に復号化処理
    が施された前画面における、上記対象単位領域に対応す
    る予測画像復号化信号を与える予測領域の位置を示す動
    きベクトル情報に基づいて、上記予測画像復号化信号を
    生成するものであって、 上記対象単位領域の動きベクトル情報に基づいて、該対
    象単位領域に対応する予測画像復号化信号を算出する、
    演算処理量の少ない第1の動き補償処理と、該対象単位
    領域及びその周辺の単位領域の動きベクトル情報に基づ
    いて該対象単位領域に対応する予測画像復号化信号を算
    出する、演算処理量の大きい第2の動き補償処理のうち
    の一方の処理を、上記検出された演算負荷の大きさに応
    じて選択して行う動き補償器を有することを特徴とする
    画像処理装置。
  18. 【請求項18】 コンピュータに画像符号化処理を行わ
    せるためのプログラムを格納したデータ記憶媒体であっ
    て、 該プログラムは、 画像入力信号を、画面を区分する単位領域毎に符号化し
    て画像符号化信号を出力するとともに、該画像符号化信
    号を復号化して得られる画像復号化信号に基づいて、符
    号化処理の対象となる対象単位領域に対応する予測画像
    入力信号を所定の予測方法に基づく演算により生成する
    信号生成処理を、所要の単位領域に対して行い、 この際、上記画像入力信号の符号化処理における演算負
    荷の大きさを検出し、 該検出した演算負荷の大きさに応じて、上記信号生成処
    理における予測方法を切り替える画像符号化処理を、 コンピュータが行うよう構成されていることを特徴とす
    るデータ記憶媒体。
  19. 【請求項19】 コンピュータに画像復号化処理を行わ
    せるためのプログラムを格納したデータ記憶媒体であっ
    て、 上記プログラムは、 入力された画像符号化信号を、画面を区分する単位領域
    毎に復号化して画像復号化信号を出力するとともに、該
    画像復号化信号に基づいて、復号化処理の対象となる対
    象単位領域に対応する予測画像復号化信号を所定の動き
    補償方法に基づく演算により生成する信号生成処理を、
    所要の単位領域に対して行い、 この際、上記画像符号化信号の復号化処理における演算
    負荷の大きさを検出し、 該検出した演算負荷の大きさに応じて、上記信号生成処
    理における動き補償方法を切り替える画像復号化処理
    を、 コンピュータが行うよう構成されていることを特徴とす
    るデータ記憶媒体。
JP34878298A 1997-12-10 1998-12-08 画像処理方法及び画像処理装置、並びにデータ記憶媒体 Pending JPH11239352A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP34878298A JPH11239352A (ja) 1997-12-10 1998-12-08 画像処理方法及び画像処理装置、並びにデータ記憶媒体

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP9-339678 1997-12-10
JP33967897 1997-12-10
JP34878298A JPH11239352A (ja) 1997-12-10 1998-12-08 画像処理方法及び画像処理装置、並びにデータ記憶媒体

Publications (1)

Publication Number Publication Date
JPH11239352A true JPH11239352A (ja) 1999-08-31

Family

ID=26576493

Family Applications (1)

Application Number Title Priority Date Filing Date
JP34878298A Pending JPH11239352A (ja) 1997-12-10 1998-12-08 画像処理方法及び画像処理装置、並びにデータ記憶媒体

Country Status (1)

Country Link
JP (1) JPH11239352A (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004047453A1 (ja) * 2002-11-20 2004-06-03 Matsushita Electric Industrial Co., Ltd. 動画像予測方法、動画像符号化方法及び装置、動画像復号化方法及び装置
WO2004093458A1 (ja) * 2003-04-15 2004-10-28 Kanazawa University Technology Licensing Organization Ltd. 動画像符号化又は復号化処理システム及び動画像符号化又は復号化処理方法
WO2005011286A1 (ja) * 2003-07-24 2005-02-03 Matsushita Electric Industrial Co., Ltd. 符号化モード決定装置、画像符号化装置、符号化モード決定方法、および符号化モード決定プログラム
JP2005160048A (ja) * 2003-10-28 2005-06-16 Matsushita Electric Ind Co Ltd 面内予測符号化方法
JP2006203280A (ja) * 2005-01-18 2006-08-03 Canon Inc 画像復号方法及び装置
JP2007235447A (ja) * 2006-02-28 2007-09-13 Toshiba Corp 情報処理装置及び情報処理装置の動画像復号方法
JP2007235456A (ja) * 2006-02-28 2007-09-13 Toshiba Corp 動画像復号装置及び動画像復号方法
JP2010050833A (ja) * 2008-08-22 2010-03-04 Canon Inc 映像符号化装置
JP2011013852A (ja) * 2009-06-30 2011-01-20 Toshiba Corp 情報処理装置及び並列動作制御方法

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9723320B2 (en) 2002-11-20 2017-08-01 Godo Kaisha Ip Bridge 1 Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
WO2004047453A1 (ja) * 2002-11-20 2004-06-03 Matsushita Electric Industrial Co., Ltd. 動画像予測方法、動画像符号化方法及び装置、動画像復号化方法及び装置
US9729894B2 (en) 2002-11-20 2017-08-08 Godo Kaisha Ip Bridge 1 Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
US9232220B2 (en) 2002-11-20 2016-01-05 Godo Kaisha Ip Bridge 1 Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
US8553770B2 (en) 2002-11-20 2013-10-08 Panasonic Corporation Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
US9973773B2 (en) 2002-11-20 2018-05-15 Godo Kaisha Ip Bridge 1 Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
US9967584B2 (en) 2002-11-20 2018-05-08 Godo Kaisha Ip Bridge 1 Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
US7542510B2 (en) 2002-11-20 2009-06-02 Panasonic Corporation Moving picture predicting method, moving image encoding method and device, and moving image decoding method and device
US8204119B2 (en) 2002-11-20 2012-06-19 Panasonic Corporation Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
US9451276B2 (en) 2002-11-20 2016-09-20 Godo Kaisha Ip Bridge 1 Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
US7848411B2 (en) 2002-11-20 2010-12-07 Panasonic Corporation Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
US8885713B2 (en) 2002-11-20 2014-11-11 Panasonic Intellectual Property Corporation Of America Moving picture prediction method, moving picture coding method and apparatus, and moving picture decoding method and apparatus
WO2004093458A1 (ja) * 2003-04-15 2004-10-28 Kanazawa University Technology Licensing Organization Ltd. 動画像符号化又は復号化処理システム及び動画像符号化又は復号化処理方法
US8179963B2 (en) 2003-07-24 2012-05-15 Panasonic Corporation Coding mode determining apparatus, image coding apparatus, coding mode determining method and coding mode determining program
WO2005011286A1 (ja) * 2003-07-24 2005-02-03 Matsushita Electric Industrial Co., Ltd. 符号化モード決定装置、画像符号化装置、符号化モード決定方法、および符号化モード決定プログラム
JP2005160048A (ja) * 2003-10-28 2005-06-16 Matsushita Electric Ind Co Ltd 面内予測符号化方法
JP4515886B2 (ja) * 2003-10-28 2010-08-04 パナソニック株式会社 面内予測符号化方法
JP4533157B2 (ja) * 2005-01-18 2010-09-01 キヤノン株式会社 画像復号方法
JP2006203280A (ja) * 2005-01-18 2006-08-03 Canon Inc 画像復号方法及び装置
US8630347B2 (en) 2006-02-28 2014-01-14 Kabushiki Kaisha Toshiba Video decoding apparatus and video decoding method
US8611433B2 (en) 2006-02-28 2013-12-17 Kabushiki Kaisha Toshiba Information processing apparatus and video decoding method of information processing apparatus
JP4649347B2 (ja) * 2006-02-28 2011-03-09 株式会社東芝 情報処理装置及び情報処理装置の動画像復号方法
JP2007235456A (ja) * 2006-02-28 2007-09-13 Toshiba Corp 動画像復号装置及び動画像復号方法
JP2007235447A (ja) * 2006-02-28 2007-09-13 Toshiba Corp 情報処理装置及び情報処理装置の動画像復号方法
JP2010050833A (ja) * 2008-08-22 2010-03-04 Canon Inc 映像符号化装置
JP2011013852A (ja) * 2009-06-30 2011-01-20 Toshiba Corp 情報処理装置及び並列動作制御方法

Similar Documents

Publication Publication Date Title
JP4570532B2 (ja) 動き検出装置、動き検出方法、集積回路およびプログラム
KR100328417B1 (ko) 화상부호화장치및화상복호화장치, 화상부보화방법 및 화상복호화방법, 및 데이터기억매체
JP4755093B2 (ja) 画像符号化方法および画像符号化装置
US6571017B1 (en) Method and apparatus for digital image coding and decoding, and data recording media
US8477847B2 (en) Motion compensation module with fast intra pulse code modulation mode decisions and methods for use therewith
CN110876056B (zh) 视频解码的方法和装置、计算机设备及存储介质
JP4884290B2 (ja) 動画像復号化集積回路、動画像復号化方法、動画像復号化装置及び動画像復号化プログラム
US8204127B2 (en) Method and apparatus for encoding and decoding image by using multiple reference-based motion prediction
CN113678441A (zh) 跨分量滤波的方法和装置
US20070286284A1 (en) Image coding apparatus and image coding method
JP3855522B2 (ja) 動画変換装置
JPWO2008136178A1 (ja) 動き検出装置、動き検出方法、及び動き検出プログラム
JPWO2006114954A1 (ja) 映像情報記録装置、映像情報記録方法、映像情報記録プログラム、及び映像情報記録プログラムを記録した記録媒体
KR100345968B1 (ko) 화상신호의고능률부호화,복호화장치및기록매체
US20070171977A1 (en) Moving picture coding method and moving picture coding device
US20080031335A1 (en) Motion Detection Device
JPH11239352A (ja) 画像処理方法及び画像処理装置、並びにデータ記憶媒体
US6353683B1 (en) Method and apparatus of image processing, and data storage media
WO2013031071A1 (ja) 動画像復号装置、動画像復号方法、及び集積回路
JP2011250400A (ja) 動画像符号化装置及び動画像符号化方法
JP2007228560A (ja) 動画像符号化方法および動画像符号化装置
KR20050085730A (ko) 탄력 저장
JP2010081498A (ja) 画像圧縮符号化方法、及び装置
JP2008136187A (ja) トランスコード装置及びトランスコード方法
JPH11308617A (ja) ディジタル画像符号化装置とこれに用いる動きベクトル検出装置