以下、図面に基づいて、本件開示の動画像符号化装置の実施形態について詳細に説明する。
(一の実施形態)
図1に、動画像符号化装置の一実施形態を示す。
図1に示した動画像符号化装置は、イントラ予測部101とインター予測部102とモード決定部103とDCT量子化部104とエントロピー符号化部106と再構成画像生成部106と再構成画像保持部107と種別予測部110とを備える。
符号化対象の動画像データは、図1に示した入力ポートPinを介して、イントラ予測部101およびインター予測部102に入力される。モード決定部103は、イントラ予測部101による予測結果およびインター予測部102による予測結果のいずれかを選択的にDCT量子化部104に入力する。DCT量子化部104による量子化処理結果は、エントロピー符号化部105によって符号化される。生成された符号化データは、出力ポートPoutを介して出力される。また、再構成画像生成部106は、DCT量子化部104による量子化処理結果から再構成画像を生成する。この再構成画像は、イントラ予測部101の予測処理に供されるとともに、再構成画像保持部107に保持される。そして、再構成画像保持部107に保持された再構成画像は、インター予測部102による予測処理に供される。
イントラ予測部101は、入力される動画像データの各ピクチャに含まれる各マクロブロックについて、種別予測部110からの指示に応じてイントラ予測を行う。イントラ予測部101では、イントラ予測モードに含まれる複数の予測モードを適用して、予測処理が行われる。そして、この予測処理により、各予測モードの予測画像とコストとが求められる。なお、イントラ予測モードに含まれる各予測モードは、例えば、3種類のマクロブロックサイズと9種類あるいは4種類の予測方向との組み合わせで示される。
インター予測部102は、入力される動画像データの各ピクチャに含まれる各マクロブロックについて、種別予測部110からの指示に応じてインター予測を行う。インター予測部102では、インター予測モードに含まれる複数の予測モードを適用して、予測処理が行われる。そして、この予測処理により、各予測モードの予測画像とコストとが求められる。なお、インター予測モードには、例えば、マクロブロックサイズが異なる7種類の予測モードが含まれる。
モード決定部103は、イントラ予測部101およびインター予測部102による予測結果の中から、最もコストが低いベストモードによる予測画像を選択する。選択された予測画像およびコストは、DCT量子化部104およびエントロピー符号化部105によって符号化される。
図1に示した種別予測部110は、各ピクチャに含まれる各マクロブロックのうち、後述するように分布する予測ブロックについて、ベストモードが含まれる予測モードの種別を予測する。ベストモードがイントラ予測モードに含まれることを予測した場合に、種別予測部110は、イントラ予測部101に対して、当該予測ブロックについてイントラ予測処理を実行する旨を指示する。この指示に応じて、イントラ予測部101とモード決定部103とにより、イントラ予測モードの中からベストモードが探索される。また、ベストモードがインター予測モードに含まれることを予測した場合に、種別予測部110は、インター予測部102に対して、当該予測ブロックについてインター予測処理を実行する旨を指示する。この指示に応じて、インター予測部102とモード決定部103とにより、インター予測モードの中からベストモードが探索される。一方、各ピクチャに含まれる各マクロブロックのうち、後述するように分布する全探索ブロックについて、種別予測部110は、イントラ予測部101とインター予測部102との双方に、それぞれの予測処理を実行する旨を指示する。この指示に応じて、イントラ予測部101とインター予測部102とモード決定部103とにより、イントラ予測モードおよびインター予測モードを含む全ての予測モードの中からベストモードが探索される。
図1に示した実施形態では、種別予測部110は、探索結果記憶部111と、探索結果読出部112と、イントラモード予測部113と、スキップモード予測部114と、予測種別出力部115と、モード予測制御部116と、配置情報記憶部117とを備える。
探索結果記憶部111は、モード決定部103によって各マクロブロックのベストモードが決定されるごとに、このベストモードと対応するコストとを含む探索結果を、例えば、マクロブロックのピクチャにおける位置に対応して記憶する。探索結果読出部112は、モード予測制御部116からの指示に応じて、予測対象の予測ブロックに対応する参照範囲に含まれる各マクロブロックのベストモードおよびコストを読み出す。読み出されたベストモードおよびコストは、イントラモード予測部113およびスキップモード予測部114に入力される。
予測種別出力部115は、イントラモード予測部113およびスキップモード予測部114による予測結果と、モード予測制御部116からの通知とに基づいて、イントラ予測部101およびインター予測部102への指示を作成する。モード予測制御部116は、配置情報記憶部117に保持された配置情報を参照し、符号化対象のマクロブロックが全探索ブロックであるか予測ブロックであるかを判断する。この判断結果は、予測種別出力部115に通知される。符号化対象のマクロブロックが全探索ブロックである旨の通知に応じて、予測種別出力部115は、イントラ予測部101とインター予測部102との双方の予測処理を実行させる指示を作成する。一方、予測ブロックである旨の通知に応じて、予測種別出力部115は、イントラモード予測部113およびスキップモード予測部114による予測結果に基づいて、イントラ予測部101あるいはインター予測部102に予測処理を実行させる指示を作成する。つまり、図1に示した構成例では、種別予測部110からの指示に応じて、イントラ予測部101とインター予測部102との両方が予測処理を行うことで、全探索ブロックについてベストモードを探索する全探索部が実現されている。また、種別予測部110からの指示に応じて、イントラ予測部101あるいはインター予測部102が選択的に予測処理を行うことで、予測ブロックについてベストモードを探索する予測探索部が実現されている。
配置情報記憶部117には、例えば、動画像データに含まれる各ピクチャにおける全探索ブロックの分布に関する配置情報が保持されている。そして、モード予測制御部116は、この配置情報に基づいて、符号化対象のマクロブロックが全探索ブロックであるか、全探索ブロック以外の予測ブロックであるかを判断する。
図2に、全探索ブロックと予測ブロックとの関係を説明する図を示す。図2(A)に、全探索ブロックと予測ブロックとの分布を示す。また、図2(B)に、符号化対象の予測ブロックと参照範囲との関係を示した。なお、図2(A)において、全探索ブロックを、網掛けを付して示した。
図2(A)の例では、1ピクチャに含まれるN×M個のマクロブロックの半分が全探索ブロックである。そして、残りの半分が予測ブロックである。また、図2(A)の例では、全探索ブロックおよび予測ブロックは1ピクチャ内に均一に分布している。なお、図2の例では、各マクロブロックのピクチャ内での位置を、行番号と列番号との組で示した。
図2(B)の例では、符号化対象の予測ブロックT:MB(j、k)に対応する参照範囲に含まれるマクロブロックを、破線で囲んで示した。なお、図2(B)の例では、1ピクチャに含まれる各マクロブロックは、第1行から列番号の若い順に動画像符号化装置による符号化対象となっている。この場合に、参照範囲に含まれる各マクロブロックの位置は、図2(B)に示すような行番号と列番号との組で示される。
本出願人は、様々な動画像シーケンスについて、ピクチャ内での予測モードの分布を調べた。その結果、各種別の予測モードが適用されたマクロブロックは、ピクチャ内で集中して分布していることが分かった。つまり、各マクロブロックのベストモードと、その周囲のマクロブロックのベストモードとの間には相関がある。この相関関係を利用すれば、符号化対象のマクロブロックのベストモードを、このマクロブロックの周囲のマクロブロックに対応するベストモードから予測することができる。
例えば、図2(B)に示した参照範囲に含まれる各マクロブロックの符号化処理は、符号化対象のマクロブロックTに先立って完了している。したがって、上述した参照範囲内の各マクロブロックに対応するベストモードおよびコストを含む探索結果は、既に、探索結果記憶部111に記憶されている。そして、この参照範囲内の各マクロブロックに対応する探索結果が、探索結果読出部112を介して、イントラモード予測部113、スキップモード予測部114の処理に供される。
イントラモード予測部113では、例えば、探索結果読出部112から受け取った探索結果が、所定のイントラ判定条件を満たすときに、符号化対象の予測ブロックのベストモードがイントラ予測モードに含まれる旨の予測結果を出力する。イントラモード予測部113は、イントラ判定条件として、イントラ予測モードに含まれる予測モードが適用されたイントラブロックの数Nrと、参照範囲内の4つのマクロブロックに対応するコストC1〜C4とに関する条件を用いることができる。イントラモード予測部113は、例えば、次に挙げる条件1と条件2とが両方とも真であるときに、符号化対象の予測ブロックに適合する予測モードの種別はイントラ予測モードであると判定する。
条件1:イントラブロックの数Nrが所定の閾値Th3以上である。
条件2:イントラブロックのコストの平均値D1と、インター予測モードに含まれる予測モードが適用されたインターブロックのコストの平均値D2との比(D1/D2)が所定の閾値Th4以下である。
上述した条件1は、参照範囲内の各マクロブロックのベストモードと符号化対象の予測ブロックに適用すべき予測モードとの相関関係を用いた条件である。例えば、閾値Th3として数値「2」を用いれば、参照範囲内のマクロブロックのうち半数以上のベストモードがイントラ予測モードである場合に、上述した条件1が満たされる。
一方、条件2は、参照範囲の画像の特徴と符号化対象の予測ブロックの画像の特徴との相関関係を用いた条件である。この条件2では、符号化対象の画像が複雑である場合に、予測モードとしてはイントラ予測モードが適することと、イントラ予測モードによるコストとインター予測モードによるコストとの間に大きな開きがないことを利用する。例えば、閾値Th4として数値「1.5」を用いれば、参照範囲の画像が複雑である場合に、上述した条件2が満たされる。
つまり、上述したイントラ判定条件を用いることにより、予測モードについての相関関係に加えて、画像の特徴についての相関関係を考慮して、符号化対象の予測ブロックにイントラ予測モードが適するか否かを判定することができる。
また、イントラモード予測部113は、更に、次に挙げる条件3が真であった場合に、条件2の真偽にかかわらず、符号化対象の予測ブロックにイントラ予測モードが適すると判定することができる。
条件3:参照範囲内の全てのマクロブロックに対応する予測モードがイントラ予測モードに含まれる。
図3に、イントラモード予測部の一実施形態を示す。なお、図3に示した構成要素のうち、図1に示した構成要素と同等のものについては、同一の符号を付して示し、その説明は省略する。
図3に示したイントラモード予測部113は、上述した条件1〜3を用いて符号化対象の予測ブロックに適合する予測モードの種別がイントラ予測モードであるか否かを判定する。図3に示した例では、イントラモード予測部113は、イントラブロック計数部121、イントラコスト平均部122、インターコスト平均部123、除算器124、イントラ判定部125を備えている。
探索結果読出部112によって読み出された探索結果のうち、各マクロブロックのベストモードはイントラブロック計数部121に渡される。一方、探索結果のうち、各マクロブロックに対応するコストは、イントラコスト平均部122およびインターコスト平均部123に渡される。イントラブロック計数部121は、例えば、探索結果読出部112からベストモードとしてイントラ予測モードに属する予測モードを示す情報を受け取った回数を計数する。この計数結果は、イントラブロックの数Nrとしてイントラ判定部125に渡される。イントラコスト平均部122は、探索結果読出部112から受け取ったコストのうち、イントラ予測モードに属する予測モードに対応するコストについて平均値D1を算出する。インターコスト平均部123は、探索結果読出部112から受け取ったコストのうち、インター予測モードに属する予測モードに対応するコストについて平均値D2を算出する。除算器124は、イントラコスト平均部122で得られた平均値D1をインターコスト平均部123で得られた平均値D2で除算し、比D1/D2を求める。算出された比D1/D2は、イントラ判定部125に渡される。
イントラ判定部125は、上述したようにして求められたイントラブロックの数Nrおよび比D1/D2をそれぞれの閾値Th3,Th4と比較する。そして、この比較結果により、上述した条件1,2の両方が満たされることが示された場合に、符号化対象の予測ブロックに適合する予測モードの種別は、イントラ予測モードであると判定する。また、イントラ判定部125は、イントラブロックの数Nrが参照範囲内のマクロブロックの総数(例えば4)である場合に、符号化対象の予測ブロックに適合する予測モードの種別は、イントラ予測モードであると判定する。この場合は、除算器124による除算結果の出力を待たずに、上述した判定結果を予測種別出力部115に渡すことができる。
一方、スキップモード予測部114では、例えば、探索結果読出部112から受け取った探索結果が、所定のスキップ判定条件を満たすときに、符号化対象の予測ブロックのベストモードがスキップモードである旨の予測結果を出力する。スキップモード予測部114は、スキップ判定条件として、イントラ予測モードに含まれる予測モードが適用されたイントラブロックの数Nrと、参照範囲内の4つのマクロブロックに対応するコストC1〜C4とに関する条件を用いることができる。スキップモード予測部114は、例えば、次に挙げる条件4と条件5とが両方とも真であるときに、符号化対象の予測ブロックに適合する予測モードはスキップモードであると判定する。
条件4:イントラブロックの数Nrが所定の閾値Th1以下である。
条件5:参照範囲内の各マクロブロックに対応するコストは所定の閾値Th2以下である。
上述した条件4は、参照範囲内の各マクロブロックのベストモードと符号化対象の予測ブロックに適用すべき予測モードとの相関関係を用いた条件である。例えば、閾値Th1として数値「0」を用いれば、参照範囲内の全マクロブロックのベストモードがインター予測モードである場合に、上述した条件4が満たされる。
一方、条件5は、参照範囲の画像の特徴と符号化対象の予測ブロックの画像の特徴との相関関係を用いた条件である。この条件5では、符号化対象の画像が複雑でない場合に、予測モードとしてスキップモードを適用することができることを用いている。そして、参照範囲内の各マクロブロックに対応するコストが上述した閾値Th2以下であるか否かにより、符号化対象の画像が複雑であるか否かを判定している。画像の複雑さを判定するための閾値Th2としては、例えば、量子化パラメータQPに数値「4」を乗じた値を用いることができる。
つまり、上述したイントラ判定条件を用いることにより、予測モードについての相関関係に加えて、画像の特徴についての相関関係を考慮して、符号化対象の予測ブロックにスキップモードが適するか否かを判定することができる。
また、スキップモード予測部114は、更に、次に挙げる条件6が真であった場合に、条件5の真偽にかかわらず、符号化対象の予測ブロックにスキップ予測モードが適すると判定することができる。
条件6:参照範囲内の全てのマクロブロックに対応する予測モードがスキップモードである。
図4に、スキップモード予測部の一実施形態を示す。なお、図4に示した構成要素のうち、図1に示した構成要素と同等のものについては、同一の符号を付して示し、その説明は省略する。
図4に示したスキップモード予測部114は、上述した条件4〜6を用いて符号化対象の予測ブロックに適合する予測モードの種別がインター予測モードの一つであるスキップモードであるか否かを判定する。図4に示した例では、スキップモード予測部114は、イントラブロック計数部121、スキップブロック計数部126、最大コスト検出部127、スキップ判定部128を備えている。
探索結果読出部112によって読み出された探索結果のうち、各マクロブロックのベストモードはイントラブロック計数部121およびスキップブロック計数部126に渡される。一方、探索結果のうち、各マクロブロックに対応するコストは、最大コスト検出部127に渡される。イントラブロック計数部121は、例えば、探索結果読出部112からベストモードとしてイントラ予測モードに属する予測モードを示す情報を受け取った回数を計数する。この計数結果は、イントラブロックの数Nrとしてスキップ判定部128に渡される。スキップブロック計数部126は、例えば、探索結果読出部112からベストモードとしてスキップモードを示す情報を受け取った回数を計数する。この計数結果は、スキップブロックの数Nsとしてスキップ判定部128に渡される。最大コスト検出部127は、探索結果読出部112から受け取ったコストの中から、最大のコストCmaxを検出する。検出された最大のコストCmaxは、スキップ判定部128に渡される。
スキップ判定部128は、上述したようにして求められたイントラブロックの数Nrおよび最大のコストCmaxをそれぞれの閾値Th1,Th2と比較する。そして、この比較結果により、上述した条件4,5の両方が満たされることが示された場合に、符号化対象の予測ブロックには、スキップモードが適切であると判定する。この判定結果は、予測種別出力部115に通知される。また、スキップ判定部128は、スキップブロックの数Nsが参照範囲内のマクロブロックの総数(例えば4)である場合に、符号化対象の予測ブロックには、スキップモードが適切であると判定する。この場合は、最大コスト検出部127による最大のコストCmaxの検出を待たずに、上述した判定結果を予測種別出力部115に通知ことができる。
このようにして、符号化対象の予測ブロックにはスキップモードが適合する旨が通知されたときに、予測種別出力部115は、インター予測部102に対して、符号化対象のマクロブロックについて、スキップモードによる予測処理の実行を指示する。一方、イントラモード予測部113から、イントラ予測モードが適合する旨が通知された場合に、予測種別出力部115は、イントラ予測部101に対して、イントラ予測モードによる予測処理の実行を指示する。また、イントラ判定条件とスキップ判定条件とのいずれも満たされない旨が通知された場合に、予測種別出力部115は、インター予測部102に対して、インター予測モードによる予測処理の実行を指示する。なお、この場合に、予測種別出力部115は、インター予測モードのうち、スキップモードを探索範囲から除外する旨をインター予測部102に指示することができる。
図1に示した種別予測部110の一例に含まれる各構成要素は、カウンタや比較器、加算器や除算器および論理ゲート回路などのハードウェア素子を用いて構成することが可能である。なお、図3および図4にそれぞれ示したイントラブロック計数部121は、イントラモード予測部113とスキップモード予測部114とで共通に設けることもできる。
また、この種別予測部110は、ソフトウェアによって実現することも可能である。
図5に、予測モードの種別を予測する動作を表す流れ図を示す。図5に示した例では、スキップ判定条件による判定とイントラ判定条件による判定とを順次に行っている。なお、これらの判定処理の順序は入れ替え可能である。
まず、ステップS11において、符号化対象の予測ブロックに対応する参照範囲に含まれる各マクロブロックの探索結果が読み込まれる。この処理は、上述したモード予測制御部116からの指示に応じて探索結果読出部112によって実行される処理に相当する処理の一例である。
次いで、ステップS12において、スキップ判定条件およびイントラ判定条件で各閾値Th1〜Th4と比較される指標値が、読み込まれた探索結果に基づいて算出される。例えば、上述したスキップモード予測部114およびイントラモード予測部113において説明したようにして、イントラブロックの数Nr、最大コストCmaxおよびコストの平均値の比D1/D2などの指標を、探索結果から求めることができる。なお、算出する指標値に、上述したスキップブロックの数Nsを含めることもできる。
上述した指標値と閾値Th1,Th2との比較に基づいて、スキップ判定条件が満たされたと判定された場合に(ステップS13の肯定判定)、予測種別はスキップモードである旨が出力される(ステップS14)。
一方、ステップ313の否定判定の場合は、上述した指標値と閾値Th3,Th4との比較に基づいて、イントラ判定条件が満たされるか否かが判定される(ステップS15)。ステップS15の肯定判定の場合に、予測種別はイントラモードである旨が出力される(ステップS16)。そして、否定判定の場合には、予測種別はインターモードである旨が出力される(ステップS17)。
上述したような構成を備えた種別予測部を備えた動画像符号化装置によれば、ピクチャ内に分布する予測ブロックについては、ベストモードの探索範囲を、予測種別に応じて限定することができる。
図6に、動画像符号化動作を表す流れ図を示す。なお、図6においては、マクロブロックを「MB」と略称する。
符号化対象のマクロブロックが動画像符号化装置に入力されるごとに、モード予測制御部116により、当該マクロブロックが全探索ブロックであるか予測ブロックであるかが判定される(ステップS1,S2)。
符号化対象のマクロブロックが全探索ブロックである場合には(ステップS2の肯定判定)、種別予測部110からの指示に応じて、イントラ予測部101およびインター予測部102により、全ての予測モードの中からベストモードが探索される(ステップS3)。
一方、ステップS2の否定判定の場合に、種別予測部110により、符号化対象のマクロブロックに適合する予測モードの種別が、対応する参照範囲の各マクロブロックについての探索結果から予測される(ステップS4)。そして、予測された種別に応じて、イントラ予測部101あるいはインター予測部102により、対応する種別に含まれる予測モードの中からベストモードが探索される(ステップS5)。
ステップS6では、上述したステップS3あるいはステップS5で得られたベストモードおよび対応するコストを含む探索結果が、動画像符号化装置の内部に備えられたメモリなどに記憶される。また、ステップS7では、ベストモードによる予測結果に基づいて、符号化対象のマクロブロックが符号化される。なお、ステップS6,S7の処理は順不同で実行することができる。
次いで、ステップS8において、符号化対象のマクロブロックがピクチャに含まれる最後のマクロブロックであるか否かを判定する。ステップS8の否定判定の場合は、ステップS1に戻って、次のマクロブロックの符号化処理を実行する。このようにして、ステップS1〜ステップS8を繰り返していき、ピクチャに含まれる全てのマクロブロックの符号化処理が完了したときに、ステップS8の肯定判定として1ピクチャ分の符号化処理を終了する。
上述したように、本件開示の動画像符号化装置は、予測ブロックについては、種別予測部110によって予測された種別に応じて、イントラ予測部101あるいはインター予測部102が選択的に予測処理を実行する。したがって、予測ブロックについてベストモードを探索する処理に要する演算量を削減することができる。
図2(A)に示した例では、ピクチャ内の半分のマクロブロックが予測ブロックである。これらの予測ブロックの60%についてインター予測モードが、20%についてスキップモードが、そして、20%についてイントラ予測モードが予測された場合を例として、削減される演算量の概略を示す。上述した比率でインター予測モードが予測された場合に、ピクチャに含まれるN×M個のマクロブロックのうち、30%のマクロブロックについては、インター予測部102による予測処理のみが行われる。そして、これらのマクロブロックについては、イントラ予測部101による22種類の予測モードに従う予測処理は省略される。同様に、ピクチャに含まれる全マクロブロックのうち、別の10%のマクロブロックについては、スキップモードによる予測処理のみが行われる。そして、これらのマクロブロックについては、イントラ予測部101による予測処理と、インター予測部102による予測処理のうち、スキップモード以外の7種類の予測モードによる予測処理は省略される。また、ピクチャに含まれる全マクロブロックのうち、更に別の10%のマクロブロックについては、イントラ予測部101による予測処理のみが行われる。そして、これらのマクロブロックについては、インター予測部101による8種類の予測モードに従う予測処理は省略される。
上述したような割合でイントラ予測部101およびインター予測部102による予測処理が省略されることを考慮して、イントラ予測部101およびインター予測部102に割り当てるハードウェア量を削減することが可能である。また、予測処理の省略が行われる際に、イントラ予測部101あるいはインター予測部102への電力供給を抑制する制御を行うことにより、動画像符号化装置による消費電力を削減することが可能である。
一方、本件開示の動画像符号化装置では、上述した演算量の削減を実現するとともに、符号化データに基づいて復元される動画像の画質も維持されている。本出願人は、HDTV向けのテストシーケンスを用いて、本件開示の動画像符号化装置によって符号化された動画像符号データに対応する復元動画像の画質を評価した。
図7に、画質評価結果を説明する図を示す。なお、図7に示したグラフの横軸は、符号化に適用したビットレートを示し、縦軸は画質を示す。また、本件開示の動画像符号化装置において、全マクロブロックのうち半数を予測ブロックとした場合の画質評価結果を、図7に実線で示した。一方、全てのマクロブロックを全探索ブロックとした場合の画質評価結果を、図7に破線で示した。
図7から分かるように、本件開示の動画像符号化装置により、幅広いビットレートの範囲において、全てのマクロブロックを全探索ブロックとした場合と同等の画質を実現することができる。このことから、図1に例示した種別予測部110により、符号化対象のマクロブロックに適合する予測モードが属する予測モードの種別が、高い精度で予測されていることが分かる。
また、本件開示の動画像符号化装置では、予測モードの種別の予測に用いる閾値を調整することにより、ピクチャ内でイントラ予測モードあるいはスキップモードが適用されるマクロブロックの比率を調整することもできる。これにより、動画像符号化データのビットレートを所望の値になるように調整することができる。
例えば、上述したイントラ判定条件に含まれる閾値Th4の値を例示した数値1.5よりも小さい値にすることにより、予測モードについての予測結果がイントラ予測モードとなる予測ブロックの数を抑制することができる。更に、スキップ判定条件に含まれる閾値Th2の値を例示した数値4QPよりも大きい値にすることにより、予測結果がスキップモードとなる予測ブロックの数を多くすることができる。このようにして、イントラ予測モードが適用されるマクロブロックの数を抑制し、逆に、スキップモードが適用されるマクロブロックの数を増大させることにより、低いビットレートの動画像符号化データを得ることができる。
逆に、上述したイントラ判定条件に含まれる閾値Th4の値を例示した数値1.5よりも大きい値にすることにより、予測モードについての予測結果がイントラ予測モードとなる予測ブロックの数を増大させることができる。更に、スキップ判定条件に含まれる閾値Th2の値を例示した数値4QPよりも小さい値にすることにより、予測結果がスキップモードとなる予測ブロックの数を抑制することができる。このようにして、イントラ予測モードが適用されるマクロブロックの数を増大させ、逆に、スキップモードが適用されるマクロブロックの数を抑制ことにより、画質を優先した動画像符号化データを得ることができる。
本件開示の動画像符号化装置によれば、ピクチャ内に配置された予測ブロックの比率が高いほど、演算量の削減効果が高くなる。例えば、ピクチャ内に、全マクロブロックの半数を超える数の予測ブロックを配置して、演算量の削減効果を高めることも可能である。
(別の実施形態)
図8(A),(B)に、全探索ブロックおよび予測ブロックの別の配置例を示す。
図8(A)に示した配置例では、ピクチャに含まれる全マクロブロックのうち2/3が予測ブロックとなっている。この配置例では、全探索ブロックの配置密度は、1/3となる。一方、図8(B)に示した配置例では、ピクチャに含まれる全マクロブロックのうち3/4が予測ブロックとなっている。この配置例では、全探索ブロックの配置密度は、1/4となる。
いずれの配置例を適用した場合でも、符号化対象の予測ブロックに隣接するマクロブロックのうち、符号化処理が完了している4つのマクロブロックを参照範囲として、予測モードの種別を予測することができる。そして、各予測ブロックに対応する参照範囲には、少なくとも一つの全探索ブロックが含まれている。つまり、各予測ブロックについて得られた予測結果には、全探索ブロックについての探索結果が確実に反映される。したがって、符号化対象の予測ブロックの予測結果として、この予測ブロックの近傍における画像の特徴に適合した予測モードの種別を高い精度で得ることができる。
図8(A),(B)に示した配置例を適用した予測処理は、図5を用いて説明したステップS11〜ステップS17と同様に、スキップ判定条件およびイントラ判定条件を利用して行うことができる。なお、スキップ判定条件およびイントラ判定条件に含まれる閾値は、それぞれの配置例について異なる値を設定することができる。それぞれの配置例に適合する閾値の値は、例えば、テストシーケンスの符号化を行う実験などに基づいて決定することができる。
なお、本件開示の動画像符号化装置で用いる全探索ブロックおよび予測ブロックの配置パターンは、上述したような一様な密度で全探索ブロックおよび予測ブロックが配置されたパターンに限られない。例えば、ピクチャ内に、1/2の密度で全探索ブロックが分布している高密度領域RHと、1/3あるいは1/4の密度で全探索ブロックが分布している低密度領域RLとが混在していてもよい。
図9(A)、(B)に、全探索ブロックおよび予測ブロックの更に別の配置例を示す。図9(A)の例では、ピクチャの中央部に配置された高密度領域RHに網掛けを付して示すことにより、周囲の低密度領域RLと区別して示した。また、図9(A)の例では、複数の高密度領域RH1、RH2,RH3にそれぞれ網掛けを付して示すことにより、周囲の低密度領域RLと区別して示した。
ピクチャの中央部は、主要な被写体が捉えられている場合が多いため、人間の視覚で画質の劣化が捉えられやすいと考えられる。そこで、図9(A)に示したように、この領域に高密度領域RHを配置して、この領域における予測モードの予測精度を高め、画面中央部の復元画像の画質を維持する。その一方、画面の周辺部分に当たる領域に低密度領域RLを配置すれば、演算量の削減を図ることができる。つまり、図9(A)に示したような配置例を適用することにより、画面中央部分における復元画像の画質を維持しつつ、更なる演算量の削減を図ることができる。
その一方、複数の被写体が画面内に同時に捉えられている場合などに対応するために、図9(B)に示したように、複数の高密度領域RHを配置することもできる。ピクチャ内に配置される高密度領域の大きさや数は、例えば、ピクチャごとに、画像の特徴を解析するための前処理を行って決定することができる。この前処理では、例えば、エッジ強度が所定の閾値よりも高い領域を検出すればよい。ここで、ピクチャ内でエッジ強度が高い部分は、細部が多い部分であるので、画質の劣化が目立ちやすい部分であるといえる。したがって、そのような部分について、選択的に高密度領域RHを配置することにより、復元画像の画質を維持することができる。また、この場合も、周囲の領域を低密度領域RLとすることにより、演算量の削減を図ることができる。
なお、上述したような全探索ブロックおよび予測ブロックについての様々な配置例は、いずれも、例えば、図1に示した配置情報記憶部117に記憶させる配置情報を制御することによって実現することができる。
また、以上に説明した様々な配置例において、符号化対象の予測ブロックについての予測モードの種別を予測するために、図2(B)に示した参照範囲よりも広い範囲を参照することもできる。例えば、図8(A)に破線で示したような参照範囲に含まれる各マクロブロックの探索結果を利用して、符号Tで示した符号化対象の予測ブロックについての予測モードの種別を予測することができる。図8(A)に示した例では、符号化対象の予測ブロックTの左側に隣接するマクロブロックと、上側に隣接するマクロブロックおよびその両側のマクロブロックに加えて、更に1行前の3つのマクロブロックが参照範囲に含まれている。
一方、各予測ブロックについて予測モードの種別を予測する際に、全探索ブロックについて得られた探索結果をより重視して、種別の予測結果に反映することもできる。
(更に別の実施形態)
図10に、イントラモード予測部の別実施形態を示す。また、図11に、スキップモード予測部の別実施形態を示す。なお、図10に示した構成要素のうち、図3に示した構成要素と同等のものについては、同一の符号を付して示し、その説明は省略する。同様に、図11に示した構成要素のうち、図4に示した構成要素と同等のものについては、同一の符号を付して示し、その説明は省略する。
図10に示したイントラモード予測部113は、図3に示した各部に加えて、重み乗算部131を備えている。重み乗算部131は、例えば、探索結果読出部112から参照範囲内の各マクロブロックに対応する探索結果に含まれるコストC1〜C4を受け取る。そして、受け取ったコストCj(jは1〜4のいずれか)が全探索ブロックに対応する場合に、重み乗算部131は、所定の重みWa1をコストCjに乗算する。一方、受け取ったコストCjが予測ブロックに対応する場合に、重み乗算部131は、別の所定の重みWp1をコストCjに乗算する。このようにして、重み乗算部131により、コストC1〜C4への重み付けが行われる。このようにして得られた重み付きコストは、イントラコスト平均部122およびインターコスト平均部123による平均値算出処理に供される。
重み乗算部131は、上述した重みWa1に重みWp1よりも大きい値を設定することができる。つまり、全探索ブロックに対応するコストに大きい重みをつけ、逆に、予測ブロックに対応するコストに小さい重みを付けることができる。この場合に、イントラコスト平均部122およびインターコスト平均部123によって、イントラ予測モードおよびインター予測モードについてそれぞれ算出される平均コストには、全探索ブロックについて得られたコストがより強く反映される。このような平均コストが、除算器124を介してイントラ判定部125による判定処理に供される。したがって、符号化対象の予測ブロックの予測モードとしてイントラ予測モードが適しているか否かの判定に、全探索ブロックについて得られた探索結果をより強く反映することができる。
また、図11に示したスキップモード予測部114は、図4に示した各部に加えて、重み乗算部132を備えている。重み乗算部132は、例えば、探索結果読出部112から参照範囲内の各マクロブロックに対応する探索結果に含まれるコストC1〜C4を受け取る。そして、受け取ったコストCj(jは1〜4のいずれか)が全探索ブロックに対応する場合に、重み乗算部132は、所定の重みWa2をコストCjに乗算する。一方、受け取ったコストCjが予測ブロックに対応する場合に、重み乗算部132は、別の所定の重みWp2をコストCjに乗算する。このようにして、重み乗算部132により、コストC1〜C4への重み付けが行われる。このようにして得られた重み付きコストは、最大コスト検出部127による最大値検出処理に供される。
重み乗算部132は、上述した重み乗算部131と同様に、重みWa2に重みWp2よりも大きい値を設定することができる。このように設定された重みWa2,Wp2を適用すれば、全探索ブロックに対応する重み付きコストが最大コストとして検出される確率が高くなる。このような最大コストが、スキップ判定部128による判定処理に供される。したがって、符号化対象の予測ブロックの予測モードとしてスキップ予測モードが適しているか否かの判定に、全探索ブロックについて得られた探索結果をより強く反映することができる。