JP5701018B2 - 画像復号装置 - Google Patents

画像復号装置 Download PDF

Info

Publication number
JP5701018B2
JP5701018B2 JP2010253728A JP2010253728A JP5701018B2 JP 5701018 B2 JP5701018 B2 JP 5701018B2 JP 2010253728 A JP2010253728 A JP 2010253728A JP 2010253728 A JP2010253728 A JP 2010253728A JP 5701018 B2 JP5701018 B2 JP 5701018B2
Authority
JP
Japan
Prior art keywords
concealment
motion vector
error
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010253728A
Other languages
English (en)
Other versions
JP2012105179A (ja
Inventor
亞矢子 根本
亞矢子 根本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2010253728A priority Critical patent/JP5701018B2/ja
Publication of JP2012105179A publication Critical patent/JP2012105179A/ja
Application granted granted Critical
Publication of JP5701018B2 publication Critical patent/JP5701018B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

この発明は、画像の復号処理中にエラーが発生している場合、エラーが発生している箇所を隠蔽するコンシールメント処理を実施する機能を有する画像復号装置に関するものである。
動画像データを高能率に圧縮する符号化技術として、例えば、国際標準規格であるMPEG−2やH.264/AVCなどが挙げられる。
これらの符号化技術は、動き補償予測処理、離散コサイン変換処理及び可変長符号化処理などが組み合わされているハイブリッドな符号化方式である。
符号化されるピクチャのタイプは、動き補償予測処理の方式に応じて分類される。
具体的には、フレーム内予測が実施されて圧縮が行われたピクチャであるイントラ符号化ピクチャ(以下、「Iピクチャ」と称する)と、時間的に前方向のフレームとの間で動き補償予測が実施されて圧縮が行われたピクチャである前方向予測符号化ピクチャ(以下、「Pピクチャ」と称する)と、時間的に前方向、後方向、もしくは双方向のいずれかのフレーム間で動き補償予測が実施されて圧縮が行われたピクチャである双方向予測符号化ピクチャ(以下、Bピクチャと称する)との3種に分類される。
これらの予測処理を実施して、Iピクチャを先頭とするGOPと称されるピクチャ群を周期的に繰り返して符号化を行うのが一般的である。
動画像の符号化データは、画像符号化装置から例えばネットワークなどの伝送路を介して送信され、受信側の画像復号装置では、その符号化データに対する復号処理を実施することで、元の動画像を得ることができる。
ただし、伝送路上で符号化データの誤りや欠落等が発生すると、その符号化データの復号処理中にエラーが発生して、元の画像を正しく復号することができなくなり、次の符号化単位の先頭を受信するまでの間、復号画像が著しく劣化することがある。あるいは、復号処理を継続することができなくなることがある。
また、エラーが発生しているピクチャがIピクチャ又はPピクチャである場合、そのピクチャを参照ピクチャとして復号処理を実施するピクチャにも当該エラーが伝播してしまうため、次のGOPの先頭を受信するまでの間、復号画像の著しい劣化が継続する。
近年の画像復号装置では、伝送路上で符号化データの誤りや欠落等が発生して、その符号化データの復号処理中にエラーが発生しても、復号画像の劣化を低減する手段として、エラーが発生している箇所を隠蔽するエラーコンシールメント機能を実装しているものがある。
例えば、エラーの影響が大きいIピクチャに対するエラーコンシールメント方式として、復号画像におけるエラー発生箇所の画像を、直前のIピクチャ/Pピクチャの同位置の画像に置換して復号画像を表示する方式、動き情報を用いて動きベクトルが示す直前のIピクチャ/Pピクチャの画像に置換して復号画像を表示する方式、DC(直流)成分だけから復号された画像に置換して復号画像を表示する方式などがある。
しかし、時間的に前方向の画像を表示する方式では、シーンチェンジなどが発生して、前方向の画像との相関が低い場合には劣化が大きい復号画像になる。
また、DC成分だけから復号する方式では、前方向の画像との相関が高い場合、前方向の画像を用いてエラー隠蔽を行う方が視覚的な違和感が少ない復号画像を得ることが可能になるため、エラーコンシールメント方式として適切であると言えなくなる。
そこで、以下の特許文献1に開示されている画像復号装置では、符号化データの復号処理中にエラーが発生すると、その復号処理により得られたDC値、動きベクトルの大きさ、動きベクトルの変化量等が所定の範囲内にあるか否かを判定し、その判定結果に応じて、使用するエラーコンシールメント方式を決定するようにしている。
特開2001−69514号公報(第9頁〜16頁、図1、図7、図9)
従来の画像復号装置は以上のように構成されているので、動きベクトル等を基準にして、符号化を行うマクロブロック単位にエラーコンシールメント方式を切り替えているが、画像符号化装置において、例えば、符号化効率を重視して動きベクトルを算出しているような場合、その動きベクトルが実際の動きと異なり、マクロブロック毎にばらばらになっていることがある。このような場合、動きベクトル等を基準にして、エラーコンシールメント方式を切り替えると、細かい単位で画像の乱れが発生して、主観的な劣化が大きくなる課題があった。
また、画像符号化装置における可変長符号化処理の影響で、実際にエラーが発生しているマクロブロックと、エラーが検出されたマクロブロックが異なっていることがあるが、実際にエラーが発生しているマクロブロックの位置から、エラーが検出されたマクロブロックの位置までが、複数のマクロブロックラインに亘っている場合に、DC値によるエラーコンシールメント方式が選択されると、復号画像の劣化が大きくなる課題があった。
この発明は上記のような課題を解決するためになされたもので、画像符号化装置における可変長符号化処理の影響を受けることなく、動きに対する追従性を維持しながら、主観的な劣化が少ない復号画像を得ることができる画像復号装置を得ることを目的とする。
この発明に係る画像復号装置は、画像復号手段の復号処理中にエラーが検出された場合、エラーが発生しているマクロブロックを含むスライスの全体をコンシールメント対象に決定するとともに、そのマクロブロックを含むピクチャからエラーが伝播するピクチャの全体をコンシールメント対象に決定するコンシールメント対象決定手段と、画像復号手段から出力された符号化パラメータに含まれているピクチャタイプを参照して、データ蓄積手段に蓄積されている復号画像及び符号化パラメータの中から、コンシールメント対象のコンシールメント処理に用いる参照用の復号画像及び符号化パラメータを決定する参照データ決定手段と、参照データ決定手段により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトルを用いて、複数のマクロブロックから構成されるコンシールメント処理単位の動きベクトルを算出する動きベクトル算出手段と、参照データ決定手段により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプと動きベクトル算出手段により算出されたコンシールメント処理単位の動きベクトルを参照して、コンシールメント処理に用いるコンシールメント方式を、フレーム間の画像データおよび動きベクトルを用いたフレーム間コンシールメント処理方式または同一フレーム内の画像データを用いたフレーム内コンシールメント処理方式に決定するコンシールメント方式決定手段とを設け、コンシールメント処理手段が、コンシールメント方式決定手段により決定されたコンシールメント方式にしたがって、参照データ決定手段により決定された参照用の復号画像を必要に応じて参照しながら、コンシールメント対象決定手段により決定されたコンシールメント対象を隠蔽するコンシールメント処理を実施するようにしたものである。
この発明によれば、画像復号手段の復号処理中にエラーが検出された場合、エラーが発生しているマクロブロックを含むスライスの全体をコンシールメント対象に決定するとともに、そのマクロブロックを含むピクチャからエラーが伝播するピクチャの全体をコンシールメント対象に決定するコンシールメント対象決定手段と、画像復号手段から出力された符号化パラメータに含まれているピクチャタイプを参照して、データ蓄積手段に蓄積されている復号画像及び符号化パラメータの中から、コンシールメント対象のコンシールメント処理に用いる参照用の復号画像及び符号化パラメータを決定する参照データ決定手段と、参照データ決定手段により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトルを用いて、複数のマクロブロックから構成されるコンシールメント処理単位の動きベクトルを算出する動きベクトル算出手段と、参照データ決定手段により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプと動きベクトル算出手段により算出されたコンシールメント処理単位の動きベクトルを参照して、コンシールメント処理に用いるコンシールメント方式を、フレーム間の画像データおよび動きベクトルを用いたフレーム間コンシールメント処理方式または同一フレーム内の画像データを用いたフレーム内コンシールメント処理方式に決定するコンシールメント方式決定手段とを設け、コンシールメント処理手段が、コンシールメント方式決定手段により決定されたコンシールメント方式にしたがって、参照データ決定手段により決定された参照用の復号画像を必要に応じて参照しながら、コンシールメント対象決定手段により決定されたコンシールメント対象を隠蔽するコンシールメント処理を実施するように構成したので、画像符号化装置における可変長符号化処理の影響を受けることなく、動きに対する追従性を維持しながら、主観的な劣化が少ない復号画像を得ることができる効果がある。
この発明の実施の形態1による画像復号装置を示す構成図である。 エラーが発生しているマクロブロック及びコンシールメント対象のスライスの一例を示す説明図である。 エラーの伝播例を示す説明図である。 動きベクトルを用いてフレーム間コンシールメント処理を行う場合の参照用の復号画像及び符号化パラメータの一例を示す説明図である。 コンシールメント対象がBピクチャである場合のコンシールメント処理単位の動きベクトルの算出例を示す説明図である。 コンシールメント方式の判定条件を示す説明図である。 この発明の実施の形態3による画像復号装置を示す構成図である。 この発明の実施の形態4による画像復号装置を示す構成図である。
実施の形態1.
図1はこの発明の実施の形態1による画像復号装置を示す構成図である。
図1において、画像復号部1は例えば国際標準規格であるMPEG−2やH.264/AVCなどの規格に適用しているデコーダであり、画像符号化装置から動き補償予測処理及び可変長符号化処理を実施して生成されている画像の符号化データを入力すると、その符号化データに対する復号処理を実施して、その復号結果である復号画像と符号化パラメータ(例えば、ピクチャタイプ、マクロブロック単位の動きベクトル及びマクロブロックタイプ、スライスの先頭のマクロブロックを示す位置情報などを含む)を出力する処理を実施する。
また、画像復号部1は復号処理中にエラーを検出すると、そのエラーが発生しているマクロブロックの位置情報やエラー検出フラグなどを含むエラー情報を出力する処理を実施する。
なお、画像復号部1は画像復号手段を構成している。
フレームメモリ部2は画像復号部1から出力された復号画像及び符号化パラメータをピクチャ単位に蓄積する例えばハードディスクやRAMなどの記録媒体である。なお、フレームメモリ部2はデータ蓄積手段を構成している。
コンシールメント対象決定部3は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、画像復号部1から出力されたエラー情報に含まれているエラー検出フラグが有意である場合(エラーが検出された旨を示している場合)、そのエラー情報に含まれている位置情報と画像復号部1から出力された符号化パラメータに含まれているスライスの先頭のマクロブロックを示す位置情報を参照して、エラーが発生しているマクロブロックを含むスライスを特定し、そのスライスの全体をコンシールメント対象に決定する処理を実施する。
また、コンシールメント対象決定部3は符号化パラメータに含まれているピクチャタイプを参照して、エラーが発生しているマクロブロックを含むピクチャ(以下、「エラー発生ピクチャ」と称する)からエラーが伝播するピクチャ(以下、「エラー伝播ピクチャ」と称する)を特定し、そのエラー伝播ピクチャの全体をコンシールメント対象に決定する処理を実施する。
なお、コンシールメント対象決定部3はコンシールメント対象決定手段を構成している。
参照フレーム決定部4は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、画像復号部1から出力されたエラー情報に含まれているエラー検出フラグが有意である場合、画像復号部1から出力された符号化パラメータに含まれているピクチャタイプを参照して、フレームメモリ部2に蓄積されている復号画像及び符号化パラメータの中から、コンシールメント対象決定部3により決定されたコンシールメント対象のコンシールメント処理に用いる参照用の復号画像及び符号化パラメータを決定し、参照用の復号画像及び符号化パラメータとコンシールメント対象画像(コンシールメント対象を含む復号画像)の出力指示をフレームメモリ部2に出力する処理を実施する。なお、参照フレーム決定部4は参照データ決定手段を構成している。
推定動きベクトル算出部5は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、参照フレーム決定部4の出力指示の下で、フレームメモリ部2から出力された符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプを用いて、複数のマクロブロックから構成されるコンシールメント処理単位の動きベクトルを算出する処理を実施する。なお、推定動きベクトル算出部5は動きベクトル算出手段を構成している。
コンシールメント方式決定部6は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、フレームメモリ部2から出力された符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプと推定動きベクトル算出部5により算出されたコンシールメント処理単位の動きベクトルを参照して、コンシールメント処理に用いるコンシールメント方式を決定する処理を実施する。なお、コンシールメント方式決定部6はコンシールメント方式決定手段を構成している。
コンシールメント処理部7は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、コンシールメント方式決定部6により決定されたコンシールメント方式にしたがって、参照フレーム決定部4の出力指示の下で、フレームメモリ部2から出力された参照用の復号画像を必要に応じて参照しながら、フレームメモリ部2から出力されたコンシールメント対象画像内のコンシールメント対象を隠蔽するコンシールメント処理を実施する。
即ち、コンシールメント処理部7はコンシールメント方式決定部6により決定されたコンシールメント方式がフレーム間コンシールメント処理方式である場合、フレームメモリ部2から出力された参照用の復号画像と推定動きベクトル算出部5により算出されたコンシールメント処理単位の動きベクトルを用いて、フレームメモリ部2から出力されたコンシールメント対象画像内のコンシールメント対象を隠蔽するコンシールメント処理を実施し、そのコンシールメント方式がフレーム内コンシールメント処理方式である場合、コンシールメント対象決定部3により決定されたコンシールメント対象の周囲のマクロブロックを用いて、そのコンシールメント対象画像内のコンシールメント対象を隠蔽するコンシールメント処理を実施する。
なお、コンシールメント処理部7はコンシールメント処理手段を構成している。
図1の例では、画像復号装置の構成要素である画像復号部1、フレームメモリ部2、コンシールメント対象決定部3、参照フレーム決定部4、推定動きベクトル算出部5、コンシールメント方式決定部6及びコンシールメント処理部7のそれぞれが専用のハードウェアで構成されているものを想定しているが、画像復号装置がコンピュータで構成される場合、画像復号部1、フレームメモリ部2、コンシールメント対象決定部3、参照フレーム決定部4、推定動きベクトル算出部5、コンシールメント方式決定部6及びコンシールメント処理部7の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
次に動作について説明する。
画像復号部1は、画像符号化装置から動き補償予測処理及び可変長符号化処理を実施して生成されている画像の符号化データを入力すると、その符号化データに含まれている符号化方式情報を参照して、画像符号化装置における符号化方式を認識し、その符号化方式にしたがって、その符号化データに対する復号処理を実施する。
画像復号部1は、その符号化データの復号処理により得られた復号画像と符号化パラメータ(例えば、ピクチャタイプ、マクロブロック単位の動きベクトル及びマクロブロックタイプ、スライスの先頭のマクロブロックを示す位置情報などを含む)をフレームメモリ部2に出力する。
これにより、フレームメモリ部2には、画像復号部1から出力された復号画像及び符号化パラメータがピクチャ単位に1フレーム時間以上保存される。
また、画像復号部1は、その符号化データの復号処理中にエラーの検出処理を実施し、エラーが発生しているマクロブロックの位置情報やエラー検出フラグなどを含むエラー情報と符号化パラメータをコンシールメント対象決定部3及び参照フレーム決定部4に出力する。
なお、画像復号部1は、符号化データの復号処理中に、例えば、符号化方式の規格で規定されているシンタックスとの不一致や構文解析エラーを検出したとき、あるいは、デコード値が所定の範囲外であるときに、エラーを検出する。
コンシールメント対象決定部3は、画像復号部1からエラー情報が出力され、そのエラー情報に含まれているエラー検出フラグが有意である場合(エラーが検出された旨を示している場合)、そのエラー情報に含まれている位置情報と画像復号部1から出力された符号化パラメータに含まれているスライスの先頭のマクロブロックを示す位置情報を参照して、エラーが発生しているマクロブロックを含むスライスを特定し、そのスライスの全体をコンシールメント対象に決定する。
ここで、図2はエラーが発生しているマクロブロック及びコンシールメント対象のスライスの一例を示す説明図である。
図2の例では、エラーが発生しているマクロブロックが上から2番目のスライスに含まれているので、上から2番目のスライスの先頭及び最後尾のマクロブロックを特定することで、上から2番目のスライスの全体をコンシールメント対象に決定している。
このように、コンシールメント対象決定部3では、エラーが発生しているマクロブロックを含むスライスの全体をコンシールメント対象に決定しているが、その理由は、復号処理中にエラーが発生すると、エラーが発生しているマクロブロックから、次の符号化単位(次のスライス)の先頭までエラーが継続するとともに、実際にエラーが発生しているマクロブロックとエラーを検出しているマクロブロックが異なっている場合があるからである。
また、コンシールメント対象決定部3は、符号化パラメータに含まれているピクチャタイプを参照して、エラーが発生しているマクロブロックを含むエラー発生ピクチャから、エラーが伝播するエラー伝播ピクチャを特定し、そのエラー伝播ピクチャの全体をコンシールメント対象に決定する。
即ち、エラー発生ピクチャがIピクチャ又はPピクチャである場合は、図3に示すように、そのピクチャを動き補償予測により参照している復号画像にもエラーが伝播してしまう。
そのため、エラーを検出しているピクチャがIピクチャ又はPピクチャである場合、後続のピクチャから次のIピクチャまでの間の全てのピクチャをコンシールメント対象に決定する。また、エラーを検出しているIピクチャ又はPピクチャの次のIピクチャと、その後のPピクチャとの間のBピクチャをコンシールメント対象に決定する。
なお、コンシールメント対象決定部3は、コンシールメント対象を決定すると、そのコンシールメント対象を示すコンシールメント対象情報を参照フレーム決定部4、推定動きベクトル算出部5及びコンシールメント処理部7に出力するが、エラーが発生していないピクチャに対するコンシールメント対象情報についてはゼロを出力する。
参照フレーム決定部4は、画像復号部1から出力されたエラー情報に含まれているエラー検出フラグが有意である場合、画像復号部1から出力された符号化パラメータに含まれているピクチャタイプを参照して、フレームメモリ部2に蓄積されている復号画像及び符号化パラメータの中から、コンシールメント対象決定部3により決定されたコンシールメント対象のコンシールメント処理に用いる参照用の復号画像及び符号化パラメータを決定する。
ここで、図4は動きベクトルを用いてフレーム間コンシールメント処理を行う場合の参照用の復号画像及び符号化パラメータの一例を示す説明図である。
エラー発生ピクチャ又はエラー伝播ピクチャがIピクチャ又はPピクチャである場合、図4(a)に示すように、フレーム間コンシールメント処理に用いられる参照用の復号画像として、符号化順で直前のIピクチャ又はPピクチャが使用される。
また、推定動きベクトル算出部5により推定動きベクトルが算出される際に使用される符号化パラメータとして、エラー発生ピクチャであれば直前のPピクチャ、エラー伝播ピクチャであれば自ピクチャの符号化パラメータが使用される。
その理由は、エラー発生ピクチャの符号化パラメータは、正しくない可能性が高いが、エラー伝播ピクチャの符号化パラメータは、正しく復号されているからである。
エラー発生ピクチャ又はエラー伝播ピクチャがBピクチャである場合、図4(b)に示すように、フレーム間コンシールメント処理に用いられる参照用の復号画像として、符号化順で前方向の2枚のIピクチャ又はPピクチャ(表示順で前方向及び後方向の2枚のIピクチャ又はPピクチャ)が使用される。
また、推定動きベクトル算出部5により推定動きベクトルが算出される際に使用される符号化パラメータとして、符号化順で直前のPピクチャ(表示順で後方向のPピクチャ)の符号化パラメータが使用される。
参照フレーム決定部4は、コンシールメント処理に用いる参照用の復号画像及び符号化パラメータを決定すると、その復号画像をコンシールメント処理部7に出力する指示をフレームメモリ部2に与え、その符号化パラメータを推定動きベクトル算出部5及びコンシールメント方式決定部6に出力する指示をフレームメモリ部2に与える。
また、参照フレーム決定部4は、コンシールメント対象画像(コンシールメント対象を含む復号画像)をコンシールメント処理部7に出力する指示をフレームメモリ部2に与える。
これにより、コンシールメント処理部7には、参照用の復号画像とコンシールメント対象画像が与えられ、推定動きベクトル算出部5及びコンシールメント方式決定部6には、符号化パラメータが与えられる。
推定動きベクトル算出部5は、参照フレーム決定部4の出力指示の下で、フレームメモリ部2から符号化パラメータを受けると、その符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプを用いて、複数のマクロブロックから構成されるコンシールメント処理単位の動きベクトルを算出する。
即ち、推定動きベクトル算出部5は、マクロブロック単位の動きベクトルを用いて、フレーム間コンシールメント処理が行われた場合、動きベクトルが当らない場合に細かい単位で画像の乱れが発生して、主観的な劣化が大きくなるので、コンシールメント対象内の複数のマクロブロック(例えば、水平方向4マクロブロック×垂直方向4マクロブロック)をコンシールメント処理単位として、コンシールメント処理毎に推定動きベクトルを算出している。
推定動きベクトル算出部5は、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルの大きさに基づいてコンシールメント処理単位の動きベクトルを算出するが、以下、コンシールメント処理単位の動きベクトルの算出法を具体的に説明する。
例えば、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルの水平成分及び垂直成分毎に、メディアン(中間値)を求めて、そのメディアンをコンシールメント処理単位の動きベクトルとする。
ただし、マクロブロックのマクロブロックタイプがイントラ予測である場合、当該マクロブロックの動きベクトルを、メディアンを求める対象から除外するようにする。
ここでは、推定動きベクトル算出部5が複数のマクロブロックの動きベクトルの水平成分及び垂直成分毎に、メディアンを求める例を示したが、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルの平均値を求めて、その平均値をコンシールメント処理単位の動きベクトルとしてもよい。
ただし、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルの平均値を求めたのち、それらの動きベクトルと当該平均値の差分値を求め、その差分値が所定の閾値よりも大きい動きベクトルを除外して、再度、残りの動きベクトルの平均値を算出し、その平均値をコンシールメント処理単位の動きベクトルとする。
また、推定動きベクトル算出部5が、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルを大きさに応じて複数のクラスに分類し、複数のクラスの中で、属している動きベクトルが一番多いクラスを選択し、そのクラスに属している動きベクトルのメディアン、平均値、または、平均値に最も近い動きベクトルの値をコンシールメント処理単位の動きベクトルとしてもよい。
推定動きベクトル算出部5は、コンシールメント処理単位の動きベクトルを算出すると、その動きベクトルと位置情報(コンシールメント処理を行う位置を示す情報)を含む推定動きベクトル情報をコンシールメント方式決定部6に出力する。
ただし、フレームメモリ部2から出力された符号化パラメータに含まれているピクチャタイプを参照し、コンシールメント対象がIピクチャ又はPピクチャであれば、上記のようにして算出しているコンシールメント処理単位の動きベクトルをそのまま推定動きベクトル情報に含めて出力するが、コンシールメント対象がBピクチャであれば、算出しているコンシールメント処理単位の動きベクトルを、表示順で前後のIピクチャ又はPピクチャとの表示時刻差に応じて、双方向への動きベクトル(前方向動きベクトル、後方向動きベクトル)に置き換え、双方向への動きベクトルをコンシールメント処理単位の動きベクトルとして推定動きベクトル情報に含めて出力する。
ここで、図5はコンシールメント対象がBピクチャである場合のコンシールメント処理単位の動きベクトルの算出例を示す説明図である。
図5の例では、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルから算出されたコンシールメント処理単位の動きベクトルをMVcolとして、前方向動きベクトルMV1と後方向動きベクトルMV2を算出している。
MV1=T1/(T1+T2)×MVcol
MV2=T2/(T1+T2)×(−MVcol)
ただし、T1,T2は表示時刻差である。
コンシールメント方式決定部6は、フレームメモリ部2から符号化パラメータを受け、推定動きベクトル算出部5から推定動きベクトル情報を受けると、その符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプと、その推定動きベクトル情報に含まれているコンシールメント処理単位の動きベクトルとを参照して、コンシールメント処理に用いるコンシールメント方式を決定する。
以下、コンシールメント方式決定部6によるコンシールメント方式の決定処理を具体的に説明する。
図6はコンシールメント方式の判定条件を示す説明図である。
コンシールメント方式決定部6は、コンシールメント処理単位を構成している複数のマクロブロックのマクロブロックタイプを確認し、マクロブロックタイプがイントラ予測であるマクロブロックの割合が所定値以上である場合(イントラ予測であるマクロブロックが所定の閾値よりも多く含まれている場合)、コンシールメント処理単位内に動きが大きいマクロブロックが多く含まれていることが想定されるため、フレーム間コンシールメント処理が適当でないと判断し、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定する(図6(a)を参照)。この状況は、例えば、シーンチェンジが発生した場合にも当てはまることが想定される。
コンシールメント方式決定部6は、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルにおける最大値と最小値の差分絶対値が所定の閾値以上である場合、コンシールメント処理単位内に動きが大きく異なる複数のマクロブロックが含まれていることが想定されるため、フレーム間コンシールメント処理が適当でないと判断し、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定する(図6(b)を参照)。
コンシールメント方式決定部6は、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルを大きさに応じて複数のクラスに分類し、分類されたクラスの数(動きベクトルの分類数)が所定の閾値以上である場合(動きベクトルの大きさの分布が広範囲に亘る場合)、コンシールメント処理単位内に動きが異なる複数のマクロブロックが多く含まれていることが想定されるため、フレーム間コンシールメント処理が適当でないと判断し、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定する(図6(c)を参照)。
コンシールメント方式決定部6は、推定動きベクトル算出部5により算出されたコンシールメント処理単位の動きベクトルがピクチャの画面外を指し示している場合、参照用の復号画像が存在せず、ピクチャ境界の画素値等の固定値に置き換えることになって、復号画像の主観的な劣化が大きくなることが想定されるため、フレーム間コンシールメント処理が適当でないと判断し、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定する(図6(d)を参照)。
コンシールメント方式決定部6は、上記の判定条件のいずれにも該当しない場合、コンシールメント処理に用いるコンシールメント方式として、コンシールメント処理単位の動きベクトルを用いるフレーム間コンシールメント処理方式に決定する。
コンシールメント処理部7は、コンシールメント方式決定部6がコンシールメント方式を決定すると、そのコンシールメント方式がフレーム間コンシールメント処理方式である場合、フレームメモリ部2から出力された参照用の復号画像と推定動きベクトル算出部5により算出されたコンシールメント処理単位の動きベクトルを用いて、フレームメモリ部2から出力されたコンシールメント対象画像内のコンシールメント対象を隠蔽するコンシールメント処理を実施する。
一方、そのコンシールメント方式がフレーム内コンシールメント処理方式である場合、コンシールメント対象決定部3から出力されたコンシールメント対象情報が示すコンシールメント対象の周囲のマクロブロックを用いて、そのコンシールメント対象画像内のコンシールメント対象を隠蔽するコンシールメント処理を実施する。
即ち、コンシールメント処理部7は、コンシールメント方式がフレーム間コンシールメント処理方式である場合、参照用の復号画像からコンシールメント処理単位の動きベクトルが指し示す位置の画像(コンシールメント処理単位と同じサイズの画像)を取得し、コンシールメント対象画像内のコンシールメント対象を、その動きベクトルが指し示す位置の画像に置き換えるコンシールメント処理を実施して、コンシールメント処理画像を生成する。
一方、コンシールメント方式がフレーム内コンシールメント処理方式である場合、コンシールメント対象決定部3により決定されたコンシールメント対象の上側に位置しているマクロブロック(エラーが発生していないマクロブロック)の下端ラインの画素、または、下側に位置しているマクロブロック(エラーが発生していないマクロブロック)の上端ラインの画素を取得し、コンシールメント対象画像内のコンシールメント対象の画素を、その取得した画素に置き換えるコンシールメント処理を実施して、コンシールメント処理画像を生成する。
ここでは、コンシールメント方式がフレーム内コンシールメント処理方式である場合、コンシールメント処理部7が、下端ライン又は上端ラインの画素に置き換えるものを示したが、コンシールメント対象画像を構成している全画素の輝度信号及び色差信号の最大値と最小値を算出し、エラーが発生しているコンシールメント処理単位の画像を構成している各画素の輝度信号及び色差信号が、その最大値と最小値の範囲から大きく外れている場合、エラーにより画像が乱れていると判断して、当該画素を範囲内に収まっている周辺の画素の平均値に置き換え、範囲内に収まっている画素についてはそのまま出力するようにしてもよい。
コンシールメント処理部7は、ピクチャに含まれているコンシールメント対象内の全ての画素に対するコンシールメント処理が完了すると、1ピクチャ分のコンシールメント処理画像を出力する。
また、コンシールメント処理部7は、コンシールメント処理を実施している場合、1ピクチャ分のコンシールメント処理画像をフレームメモリ部2に格納して、以降のコンシールメント処理の参照用の復号画像として使用できるようにする。
ただし、コンシールメント処理画像がIピクチャ又はPピクチャである場合に限り、そのコンシールメント処理画像を参照用の復号画像としてフレームメモリ部2に格納する。
以上で明らかなように、この実施の形態1によれば、画像復号部1の復号処理中にエラーが検出された場合、エラーが発生しているマクロブロックを含むスライスの全体をコンシールメント対象に決定するとともに、そのマクロブロックを含むピクチャからエラーが伝播するピクチャの全体をコンシールメント対象に決定するコンシールメント対象決定部3と、画像復号部1から出力された符号化パラメータに含まれているピクチャタイプを参照して、フレームメモリ部2に蓄積されている復号画像及び符号化パラメータの中から、コンシールメント対象のコンシールメント処理に用いる参照用の復号画像及び符号化パラメータを決定する参照フレーム決定部4と、参照フレーム決定部4により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトルを用いて、複数のマクロブロックから構成されるコンシールメント処理単位の動きベクトルを算出する推定動きベクトル算出部5と、参照フレーム決定部4により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプと推定動きベクトル算出部5により算出されたコンシールメント処理単位の動きベクトルを参照して、コンシールメント処理に用いるコンシールメント方式を決定するコンシールメント方式決定部6とを設け、コンシールメント処理部7が、コンシールメント方式決定部6により決定されたコンシールメント方式にしたがって、参照フレーム決定部4により決定された参照用の復号画像を必要に応じて参照しながら、コンシールメント対象決定部3により決定されたコンシールメント対象を隠蔽するコンシールメント処理を実施するように構成したので、画像符号化装置における可変長符号化処理の影響を受けることなく、動きに対する追従性を維持しながら、主観的な劣化が少ない復号画像を得ることができる効果を奏する。
実施の形態2.
上記実施の形態1では、コンシールメント方式決定部6により決定されたコンシールメント方式がフレーム内コンシールメント処理方式である場合(動きベクトルを用いたフレーム間コンシールメント処理が適当でないと判断された場合)、コンシールメント処理部7が、コンシールメント対象の周囲のマクロブロックを用いて、そのコンシールメント対象画像を隠蔽するコンシールメント処理を実施するものを示したが、コンシールメント対象の周囲のマクロブロックを用いる代わりに、参照フレーム決定部4により決定された参照用の復号画像間(フレーム間)の同位置の画像データ(以下、「真裏画像データ」と称する)を用いて、コンシールメント対象画像を隠蔽するコンシールメント処理を実施するようにしてもよい。
この場合、コンシールメント処理部7が、過去のピクチャや周辺画素の特徴(平均値、最大値、最小値など)を算出する必要がなくなるため、簡易な構成を取ることが可能となる。
この実施の形態2でも、上記実施の形態1と同様の効果を得ることができる。
実施の形態3.
図7はこの発明の実施の形態3による画像復号装置を示す構成図であり、図において、図1と同一符号は同一または相当部分を示すので説明を省略する。
コンシールメント方式決定部8は図1のコンシールメント方式決定部6と同様に、コンシールメント処理に用いるコンシールメント方式を決定する処理を実施するが、コンシールメント処理に用いるコンシールメント方式として、フレーム間コンシールメント処理方式を用いない場合、フレームメモリ部2から出力されたコンシールメント対象画像(コンシールメント対象を含む復号画像)の全体に対するコンシールメント対象の割合を所定の閾値と比較し、コンシールメント対象の割合が閾値未満であれば、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定するが、コンシールメント対象の割合が閾値以上であれば、真裏画像データを用いてコンシールメント処理を実施する方式(上記実施の形態2の方式)に決定する処理を実施する。なお、コンシールメント方式決定部8はコンシールメント方式決定手段を構成している。
次に動作について説明する。
ただし、コンシールメント方式決定部8以外は、上記実施の形態1と同様であるため、コンシールメント方式決定部8の処理内容だけを説明する。
上記実施の形態1では、コンシールメント処理に用いるコンシールメント方式をフレーム間コンシールメント処理方式又はフレーム内コンシールメント処理方式のいずれかに決定しているが、この実施の形態3では、フレーム間コンシールメント処理方式、フレーム内コンシールメント処理方式、あるいは、真裏画像データを用いてコンシールメント処理を実施する方式に決定する点で相違している。
コンシールメント方式決定部8は、コンシールメント処理に用いるコンシールメント方式として、フレーム間コンシールメント処理方式を用いない場合、フレームメモリ部2から出力されたコンシールメント対象画像の全体に対するコンシールメント対象の割合を所定の閾値と比較する。
コンシールメント方式決定部8は、コンシールメント対象の割合が閾値未満である場合、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定するが、コンシールメント対象の割合が閾値以上である場合、フレーム内にコンシール元となる画像データが少ないため、フレーム内コンシールメント処理は適当でないと判断し、真裏画像データを用いてコンシールメント処理を実施する方式に決定する。
また、コンシールメント方式決定部8は、コンシールメント対象画像を構成している全画素の輝度信号及び色差信号の最大値と最小値を算出し、その最大値が所定の閾値よりも大きい場合、あるいは、その最小値が所定の閾値より小さい場合、コンシールメント対象を構成している画素の中で、その最大値と最小値の範囲内から大きく外れている画素を検出することができないため、フレーム内コンシールメント処理は適当でないと判断し、真裏画像データを用いてコンシールメント処理を実施する方式に決定する。
以上で明らかなように、この実施の形態3によれば、コンシールメント処理に用いるコンシールメント方式として、フレーム間コンシールメント処理方式を用いない場合、フレームメモリ部2から出力されたコンシールメント対象画像の全体に対するコンシールメント対象の割合を所定の閾値と比較し、コンシールメント対象の割合が閾値未満であれば、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定し、コンシールメント対象の割合が閾値以上であれば、真裏画像データを用いてコンシールメント処理を実施する方式に決定するように構成したので、フレーム内コンシールメント処理方式では主観的な劣化を軽減できないような場合でも、劣化を改善しているコンシールメント処理画像を得ることができる効果を奏する。
実施の形態4.
図8はこの発明の実施の形態4による画像復号装置を示す構成図であり、図において、図1及び図7と同一符号は同一または相当部分を示すので説明を省略する。
コンシールメント対象決定部9は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、画像復号部1から出力されたエラー情報に含まれているエラー検出フラグが有意である場合、フレームメモリ部2に蓄積されている復号画像の中で、エラーが発生していない最新の復号画像における輝度信号又は色差信号の最大値及び最小値を特定し、マクロブロック内の画素値を上記最大値及び上記最小値と比較して、エラーが発生しているマクロブロックの検出処理を実施する。
また、コンシールメント対象決定部9はエラーが発生しているマクロブロックの検出処理で、エラーが発生しているマクロブロックを検出すると、そのマクロブロックから当該マクロブロックを含むスライスの最後までをコンシールメント対象に決定し、エラーが発生しているマクロブロックの検出処理で、エラーが発生しているマクロブロックを検出しなければ、上記実施の形態1〜3と同様に、画像復号部1の復号処理でエラーが検出されたマクロブロックを含むスライスの全体をコンシールメント対象に決定する処理を実施する。
また、コンシールメント対象決定部9はエラー伝播ピクチャのコンシールメント対象については、エラーが発生しているマクロブロックの検出処理で、エラーが発生しているマクロブロックが検出されれば、そのマクロブロックから当該マクロブロックを含むエラー伝播ピクチャの最後までをコンシールメント対象に決定する処理を実施する。
なお、コンシールメント対象決定部9はエラーマクロブロック検出手段及びコンシールメント対象決定手段を構成している。
次に動作について説明する。
ただし、コンシールメント対象決定部9以外は、上記実施の形態1〜3と同様であるため、コンシールメント対象決定部9の処理内容だけを説明する。
上記実施の形態1〜3では、コンシールメント対象決定部3が、エラーが発生しているマクロブロックを含むスライスの全体をコンシールメント対象に決定するものを示したが、実際にはエラーが発生していないマクロブロックもコンシールメント処理が施されるため、当該マクロブロックの画質が劣化することがある。
そこで、この実施の形態4では、実際にエラーが発生しているマクロブロックの位置を推定し、そのマクロブロックから当該マクロブロックを含むスライスの最後までをコンシールメント対象に決定することで、実際にはエラーが発生していないマクロブロックの画質の劣化を防止するようにしている。
コンシールメント対象決定部9は、画像復号部1から出力されたエラー情報に含まれているエラー検出フラグが有意である場合、フレームメモリ部2に蓄積されている復号画像の中で、エラーが発生していない最新の復号画像における輝度信号又は色差信号の最大値及び最小値を特定し、マクロブロック内の画素値を上記最大値及び上記最小値と比較して、エラーが発生しているマクロブロックの検出処理を実施する。
即ち、コンシールメント対象決定部9は、スライスの先頭のマクロブロックから順番に、画像復号部1の復号処理でエラーが検出されたマクロブロック(実際にはエラーが発生していない可能性があるマクロブロック)まで、当該マクロブロック内の画素値と、上記の最大値及び最小値とを比較する。
そして、コンシールメント対象決定部9は、その最大値と最小値の範囲から大きく外れている画素値を含んでいるマクロブロックを検出(以下、「検出マクロブロック」と称する)する。その検出マクロブロックはエラーにより画像が乱れていると判断する。
コンシールメント対象決定部9は、スライスの先頭のマクロブロックから検出処理を開始し、最初の検出マクロブロックから当該スライスの最後尾のマクロブロックまでをコンシールメント対象に決定する。
コンシールメント対象決定部9は、マクロブロックの検出処理で、エラーが発生しているマクロブロックを検出することができなければ、上記実施の形態1〜3と同様に、画像復号部1の復号処理でエラーが検出されたマクロブロックを含むスライスの全体をコンシールメント対象に決定する。
コンシールメント対象決定部9は、エラー伝播ピクチャについては、ピクチャの全体に対して、同様の検出処理を実施して、最大値と最小値の範囲から大きく外れている画素値を含んでいるマクロブロックを検出すれば、最初の検出マクロブロックから当該ピクチャの最後尾のマクロブロックまでをコンシールメント対象に決定する。
一方、マクロブロックの検出処理で、エラーが発生しているマクロブロックを検出することができなければ、上記実施の形態1〜3と同様に、エラー伝播ピクチャの全体をコンシールメント対象に決定する。
ここでは、エラー伝播ピクチャについても、同様の検出処理を実施するものを示したが、エラー伝播ピクチャの符号化パラメータに含まれている動きベクトルの垂直成分の正負方向の最大値を各々求め、エラー発生ピクチャのコンシールメント対象から垂直方向の正負方向の各々に対して、動きベクトルの最大値が含まれるマクロブロックライン分を拡張した範囲をコンシールメント対象としてもよい。
次のエラー伝播ピクチャについても、同様に動きベクトルの最大値を求め、直前のエラー伝播ピクチャのコンシールメント範囲から動きベクトルの最大値が含まれるマクロブロックライン分を拡張した範囲をコンシールメント対象としてもよい。
以上で明らかなように、この実施の形態4によれば、コンシールメント対象決定部9が、エラーが発生しているマクロブロックの検出処理を実施し、その検出処理で、エラーが発生しているマクロブロックを検出した場合、そのマクロブロックから当該マクロブロックを含むスライスの最後までをコンシールメント対象に決定するように構成したので、実際にはエラーが発生していないマクロブロックにおける画質の劣化を招くことなく、動きに対する追従性を維持しながら、主観的な劣化が少ない復号画像を得ることができる効果を奏する。
なお、本願発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
1 画像復号部(画像復号手段)、2 フレームメモリ部(データ蓄積手段)、3 コンシールメント対象決定部(コンシールメント対象決定手段)、4 参照フレーム決定部(参照データ決定手段)、5 推定動きベクトル算出部(動きベクトル算出手段)、6,8 コンシールメント方式決定部(コンシールメント方式決定手段)、7 コンシールメント処理部(コンシールメント処理手段)、9 コンシールメント対象決定部(エラーマクロブロック検出手段、コンシールメント対象決定手段)。

Claims (12)

  1. 動き補償予測処理及び可変長符号化処理が実施されて生成されている画像の符号化データに対する復号処理を実施して、その復号結果である復号画像と符号化パラメータを出力する画像復号手段と、
    上記画像復号手段から出力された復号画像及び符号化パラメータを蓄積するデータ蓄積手段と、
    上記画像復号手段の復号処理中にエラーが検出された場合、エラーが発生しているマクロブロックを含むスライスの全体をコンシールメント対象に決定するとともに、上記マクロブロックを含むピクチャからエラーが伝播するピクチャの全体をコンシールメント対象に決定するコンシールメント対象決定手段と、
    上記画像復号手段から出力された符号化パラメータに含まれているピクチャタイプを参照して、上記データ蓄積手段に蓄積されている復号画像及び符号化パラメータの中から、上記コンシールメント対象のコンシールメント処理に用いる参照用の復号画像及び符号化パラメータを決定する参照データ決定手段と、
    上記参照データ決定手段により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトルを用いて、複数のマクロブロックから構成されるコンシールメント処理単位の動きベクトルを算出する動きベクトル算出手段と、
    上記参照データ決定手段により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプと上記動きベクトル算出手段により算出されたコンシールメント処理単位の動きベクトルを参照して、コンシールメント処理に用いるコンシールメント方式を、フレーム間の画像データおよび動きベクトルを用いたフレーム間コンシールメント処理方式または同一フレーム内の画像データを用いたフレーム内コンシールメント処理方式に決定するコンシールメント方式決定手段と、
    上記コンシールメント方式決定手段により決定されたコンシールメント方式にしたがって、上記参照データ決定手段により決定された参照用の復号画像を必要に応じて参照しながら、上記コンシールメント対象決定手段により決定されたコンシールメント対象を隠蔽するコンシールメント処理を実施するコンシールメント処理手段と
    を備えた画像復号装置。
  2. 上記動きベクトル算出手段は、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルの大きさに基づいてコンシールメント処理単位の動きベクトルを算出することを特徴とする請求項1記載の画像復号装置。
  3. 上記コンシールメント処理手段は、上記コンシールメント方式決定手段により決定されたコンシールメント方式がフレーム間コンシールメント処理方式である場合、上記参照データ決定手段により決定された参照用の復号画像と上記動きベクトル算出手段により算出されたコンシールメント処理単位の動きベクトルを用いて、上記コンシールメント対象決定手段により決定されたコンシールメント対象を隠蔽するコンシールメント処理を実施し、上記コンシールメント方式がフレーム内コンシールメント処理方式である場合、上記コンシールメント対象の周囲のマクロブロックを用いて、上記コンシールメント対象を隠蔽するコンシールメント処理を実施することを特徴とする請求項1または請求項2記載の画像復号装置。
  4. 上記コンシールメント方式決定手段は、コンシールメント処理単位を構成している複数のマクロブロックのマクロブロックタイプを確認し、当該マクロブロックタイプがイントラ予測であるマクロブロックの割合が所定値以上である場合、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定することを特徴とする請求項3記載の画像復号装置。
  5. 上記コンシールメント方式決定手段は、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルにおける最大値と最小値の差分が所定値以上である場合、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定することを特徴とする請求項3記載の画像復号装置。
  6. 上記コンシールメント方式決定手段は、コンシールメント処理単位を構成している複数のマクロブロックの動きベクトルを大きさに応じて分類し、動きベクトルの分類数が所定値以上である場合、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定することを特徴とする請求項3記載の画像復号装置。
  7. 上記コンシールメント方式決定手段は、上記動きベクトル算出手段により算出されたコンシールメント処理単位の動きベクトルがピクチャの画面外を指し示している場合、コンシールメント処理に用いるコンシールメント方式をフレーム内コンシールメント処理方式に決定することを特徴とする請求項3記載の画像復号装置。
  8. 動き補償予測処理及び可変長符号化処理が実施されて生成されている画像の符号化データに対する復号処理を実施して、その復号結果である復号画像と符号化パラメータを出力する画像復号手段と、
    上記画像復号手段から出力された復号画像及び符号化パラメータを蓄積するデータ蓄積手段と、上記画像復号手段の復号処理中にエラーが検出された場合、エラーが発生しているマクロブロックを含むスライスの全体をコンシールメント対象に決定するとともに、上記マクロブロックを含むピクチャからエラーが伝播するピクチャの全体をコンシールメント対象に決定するコンシールメント対象決定手段と、
    上記画像復号手段から出力された符号化パラメータに含まれているピクチャタイプを参照して、上記データ蓄積手段に蓄積されている復号画像及び符号化パラメータの中から、上記コンシールメント対象のコンシールメント処理に用いる参照用の復号画像及び符号化パラメータを決定する参照データ決定手段と、
    上記参照データ決定手段により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトルを用いて、複数のマクロブロックから構成されるコンシールメント処理単位の動きベクトルを算出する動きベクトル算出手段と、
    上記参照データ決定手段により決定された符号化パラメータに含まれているマクロブロック単位の動きベクトル及びマクロブロックタイプと上記動きベクトル算出手段により算出されたコンシールメント処理単位の動きベクトルを参照して、コンシールメント処理に用いるコンシールメント方式を動きベクトルを用いたフレーム間コンシールメント処理方式または動きベクトルを用いないフレーム間コンシールメント処理方式に決定するコンシールメント方式決定手段と、
    上記コンシールメント方式決定手段により決定されたコンシールメント方式にしたがって、上記参照データ決定手段により決定された参照用の復号画像を必要に応じて参照しながら、上記コンシールメント対象決定手段により決定されたコンシールメント対象を隠蔽するコンシールメント処理を実施するコンシールメント処理手段とを備え、
    上記コンシールメント処理手段は、上記コンシールメント方式決定手段により決定されたコンシールメント方式が動きベクトルを用いたフレーム間コンシールメント処理方式である場合、上記参照データ決定手段により決定された参照用の復号画像と上記動きベクトル算出手段により算出されたコンシールメント処理単位の動きベクトルを用いて、上記コンシールメント対象決定手段により決定されたコンシールメント対象を隠蔽するコンシールメント処理を実施し、上記動きベクトルを用いないフレーム間コンシールメント処理方式である場合、上記参照データ決定手段により決定された参照用の復号画像間の同位置の画像データを用いて、上記コンシールメント対象を隠蔽するコンシールメント処理を実施することを特徴とする画像復号装置。
  9. 上記コンシールメント処理手段は、復号画像の全体に対するコンシールメント対象の割合が所定値以上である場合、コンシールメント対象の周囲のマクロブロックを用いる代わりに、上記参照データ決定手段により決定された参照用の復号画像間の同位置の画像データを用いて、上記コンシールメント対象を隠蔽するコンシールメント処理を実施することを特徴とする請求項8記載の画像復号装置。
  10. 上記画像復号手段の復号処理中にエラーが検出された場合、上記データ蓄積手段に蓄積されている復号画像の中で、エラーが発生していない最新の復号画像における輝度信号又は色差信号の最大値及び最小値を特定し、マクロブロック内の画素値を上記最大値及び上記最小値と比較して、エラーが発生しているマクロブロックの検出処理を実施するエラーマクロブロック検出手段を設け、
    上記コンシールメント対象決定手段は、上記エラーマクロブロック検出手段によりエラーが発生しているマクロブロックが検出された場合、上記マクロブロックから当該マクロブロックを含むスライスの最後までをコンシールメント対象に決定し、上記エラーマクロブロック検出手段によりエラーが発生しているマクロブロックが検出されない場合、上記画像復号手段の復号処理でエラーが検出されたマクロブロックを含むスライスの全体をコンシールメント対象に決定する
    ことを特徴とする請求項1から請求項9のうちのいずれか1項記載の画像復号装置。
  11. 上記コンシールメント対象決定手段は、エラーが伝播するピクチャの場合、上記エラーマクロブロック検出手段によりエラーが発生しているマクロブロックが検出されれば、上記マクロブロックから当該マクロブロックを含むピクチャの最後までをコンシールメント対象に決定することを特徴とする請求項10記載の画像復号装置。
  12. 上記エラーマクロブロック検出手段は、エラーが伝播するピクチャ内のマクロブロック単位の動きベクトルを参照して、エラーが伝播するマクロブロックを検出することを特徴とする請求項11記載の画像復号装置。
JP2010253728A 2010-11-12 2010-11-12 画像復号装置 Expired - Fee Related JP5701018B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010253728A JP5701018B2 (ja) 2010-11-12 2010-11-12 画像復号装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010253728A JP5701018B2 (ja) 2010-11-12 2010-11-12 画像復号装置

Publications (2)

Publication Number Publication Date
JP2012105179A JP2012105179A (ja) 2012-05-31
JP5701018B2 true JP5701018B2 (ja) 2015-04-15

Family

ID=46395047

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010253728A Expired - Fee Related JP5701018B2 (ja) 2010-11-12 2010-11-12 画像復号装置

Country Status (1)

Country Link
JP (1) JP5701018B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5811061B2 (ja) * 2012-07-24 2015-11-11 三菱電機株式会社 復号装置、エラーコンシールメント処理装置および復号方法
KR102379196B1 (ko) * 2017-05-31 2022-03-28 삼성전자주식회사 처리 장치들 및 그 제어 방법들

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09154142A (ja) * 1995-11-29 1997-06-10 Sanyo Electric Co Ltd エラー処理装置
JP3496378B2 (ja) * 1995-12-22 2004-02-09 三菱電機株式会社 ディジタル画像復号装置及びディジタル画像復号方法
JP3297293B2 (ja) * 1996-03-07 2002-07-02 三菱電機株式会社 動画像復号方法および動画像復号装置
MXPA06003925A (es) * 2003-10-09 2006-07-05 Thomson Licensing Proceso de derivacion de modo directo para el ocultamiento de error.
JP2010212882A (ja) * 2009-03-09 2010-09-24 Mitsubishi Electric Corp 動画像エラー処理装置

Also Published As

Publication number Publication date
JP2012105179A (ja) 2012-05-31

Similar Documents

Publication Publication Date Title
KR101713354B1 (ko) 움직임 추정에 대한 검색 범위 선택 방법과 그의 시스템 및 컴퓨터 판독가능 저장 매체
US8514939B2 (en) Method and system for motion compensated picture rate up-conversion of digital video using picture boundary processing
JP4724061B2 (ja) 動画像符号化装置
JP4875007B2 (ja) 動画像符号化装置、動画像符号化方法、及び、動画像復号化装置
WO2010115093A1 (en) Inverse telecine techniques
US8411751B2 (en) Reducing and correcting motion estimation artifacts during video frame rate conversion
JP2012034225A (ja) 動きベクトル検出装置及び動きベクトル検出方法、コンピュータプログラム
JP2011147130A (ja) 動き推定のための技術
JP5137687B2 (ja) 復号装置及び復号方法、プログラム
JP2007122232A (ja) 画像処理装置及びプログラム
US20140233645A1 (en) Moving image encoding apparatus, method of controlling the same, and program
EP2981083A1 (en) Method for encoding a plurality of input images and storage medium and device for storing program
JPH06311502A (ja) 動画像伝送装置
JP5701018B2 (ja) 画像復号装置
JP4469904B2 (ja) 動画像復号装置、動画像復号方法及び動画像復号プログラムを記憶した記憶媒体
US20130251045A1 (en) Method and device for determining a motion vector for a current block of a current video frame
JP2006203597A (ja) ディジタル画像復号装置及び方法
JP5407974B2 (ja) 動画像符号化装置及び動きベクトル検出方法
JP2009290889A (ja) 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
JP2009218965A (ja) 画像処理装置、それを搭載した撮像装置、および画像再生装置
EP2981082A1 (en) Method for encoding a plurality of input images and storage medium and device for storing program
JP2007325206A (ja) 動画像復号装置及び動画像復号方法
JP2014200078A (ja) 動画像符号化装置及びその制御方法
JP2019201388A (ja) 情報処理装置、情報処理方法、及びプログラム
JP5649412B2 (ja) エラーコンシールメント装置及び復号装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130903

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140520

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141118

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150217

R150 Certificate of patent or registration of utility model

Ref document number: 5701018

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees