JP5760953B2 - 動画像復号装置、動画像符号化装置、動画像復号方法、及び動画像符号化方法 - Google Patents

動画像復号装置、動画像符号化装置、動画像復号方法、及び動画像符号化方法 Download PDF

Info

Publication number
JP5760953B2
JP5760953B2 JP2011239454A JP2011239454A JP5760953B2 JP 5760953 B2 JP5760953 B2 JP 5760953B2 JP 2011239454 A JP2011239454 A JP 2011239454A JP 2011239454 A JP2011239454 A JP 2011239454A JP 5760953 B2 JP5760953 B2 JP 5760953B2
Authority
JP
Japan
Prior art keywords
block
picture
information
decoding
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011239454A
Other languages
English (en)
Other versions
JP2013098734A (ja
Inventor
数井 君彦
君彦 数井
智史 島田
智史 島田
純平 小山
純平 小山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2011239454A priority Critical patent/JP5760953B2/ja
Priority to US13/651,862 priority patent/US9078000B2/en
Publication of JP2013098734A publication Critical patent/JP2013098734A/ja
Application granted granted Critical
Publication of JP5760953B2 publication Critical patent/JP5760953B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、動画像の符号化技術及び符号化された動画像の復号技術に関するものである。
動画像データは、一般に非常に大きなデータ量を有する。このため、動画像データを扱う装置は、動画像データを他の装置へ送信しようとする場合、あるいは、動画像データを記憶装置に記憶しようとする場合に、動画像データの符号化による圧縮が広く行われている。代表的な動画像の符号化標準として、International Standardization Organization/International Electrotechnical Commission(ISO/IEC)で策定された各種の技術が広く利用されている。これらの技術には、Moving Picture Experts Group phase 2(MPEG-2)、MPEG-4、あるいはH.264 MPEG-4 Advanced Video Coding(MPEG-4 AVC/H.264)などと称されているものがある。
このような符号化標準では、符号化対象のピクチャと、その前後のピクチャの情報を用いて、符号化対象のピクチャを符号化するインター符号化方法と、符号化対象ピクチャが持つ情報のみを用いて符号化するイントラ符号化方法とが採用されている。
インター符号化方法は、符号化対象ピクチャと参照ピクチャ間で相関度が高い部分を検索する。そしてインター符号化方法は、符号化対象ピクチャと参照ピクチャ間の位置の差を表す動きベクトルと、その二つのピクチャの対応画素間の画素値の差(予測誤差と呼ばれる)とを符号化する。一般に動画像ではピクチャ間の相関度が高いため、予測誤差が元の画素値よりも小さくなる。その結果、インター符号化方法は、高い圧縮効率を実現できる。
しかし、インター符号化方法では、あるピクチャを符号化する際に生じた誤差が、そのピクチャよりも後に符号化されるピクチャを符号化する際に伝播する。そのため、インター符号化方法を用いて連続する複数のピクチャが符号化されると、後で符号化されるピクチャほど画質が劣化する。また、動画像復号装置は、符号化された動画像データをその途中から取得した場合のように、基準となるピクチャを取得できないと、その基準となるピクチャに基づいてインター符号化されたインターピクチャを正常に復号できない。
一方、イントラ符号化方法で符号化されたイントラピクチャは、他のピクチャの復号結果を参照せずに画素値を正常に復号できる。そのため、イントラ符号化方法は、動画像データの先頭ピクチャ、及び所定周期で途中のピクチャを符号化するために用いられる。途中のピクチャがイントラピクチャとなることで、動画像復号装置は符号化動画像データの途中から復号処理を開始する場合にも、そのイントラピクチャ以降の各ピクチャを正常に再生することができる。なお、あるピクチャから復号動作が開始された場合に、そのピクチャ又は所定時間後のピクチャにて画素値が正常に復号できる場合、その復号動作が開始されたピクチャはリフレッシュピクチャと呼ばれる。
しかし、一般的には、イントラ符号化方法の圧縮効率はインター符号化方法よりも低い。そのため、復号後におけるイントラピクチャの画質とインターピクチャの画質をほぼ同等に保つためには、一般的に、イントラピクチャの情報量は、インターピクチャの情報量よりも多くする必要がある。
符号化された動画像データが扱われる場合には、その動画像データを符号化し、かつ復号することにより符号化遅延が生じる。符号化遅延は、ピクチャが動画像符号化装置に入力されてから、そのピクチャが動画像復号装置から出力されるまでの時間である。遠隔テレビ会議システムといった双方向通信アプリケーションなど、リアルタイムで動画像データを伝送し、再生することが求められるアプリケーションでは、符号化遅延を小さくすることが非常に重要である。ユーザが不便を感じることなくそのようなアプリケーションを使用するには、符号化遅延は約100ミリ秒以下であることが好ましい。
符号化遅延を約100ミリ秒以下にするためには、ピクチャの符号化順序をピクチャの時間順序と一致させると共に、符号化動画像データの伝送及び受信における遅延の主要素の一つであるバッファリング遅延を最小化することが好ましい。バッファリング遅延は、ピクチャ毎に情報量が変動する符号化動画像を、符号化動画像の単位時間での平均情報量と同程度の伝送スピードを持つネットワークで伝送するために設定される。バッファリング遅延は、符号化動画像ストリーム内で最大の情報量を持つピクチャを伝送するために必要な時間となり、例えば、数フレーム時間〜20フレーム時間程度になる。
従って、バッファリング遅延を最小化するためには、各ピクチャの情報量をほぼ一定にする必要がある。上記のように、復号後における各ピクチャの画質を同等にするためには、イントラピクチャの情報量はインターピクチャの情報量よりも多くなる。そのため、各ピクチャの情報量を一定にするために、単にイントラピクチャの情報量をインターピクチャの情報量と同程度にすると、イントラピクチャの画質が大幅に落ちることになる。そのため、イントラピクチャを参照ピクチャとするインターピクチャの画質も大幅に落ち、結果として動画像データ全体の画質が大きく低下する。
画質を大きく損なわずに、各ピクチャの情報量をほぼ一定にするための手法として、イントラスライス方式が提案されている。イントラスライス方式では、符号化対象の動画像データの先頭ピクチャ以外はイントラピクチャとせず、イントラ符号化されるマクロブロック群が、所定周期でピクチャ内を巡回するように、各ピクチャに挿入される。このイントラ符号化されるマクロブロック群はイントラスライスと呼ばれる。また、この手法はピクチャ内を順番に正常復号させるため、段階的リフレッシュとも呼ばれる。
例えば巡回方向がピクチャ内で上から下へ向かう方向である場合、イントラスライスが最上にあるピクチャがリフレッシュピクチャとなり、ピクチャの上端から順に正常な画素値再生が行われていく。イントラスライスが最下に来るピクチャにて、ピクチャ全体の画素値が正常に再生される。リフレッシュピクチャの間隔、すなわち、リフレッシュ周期は、イントラスライスの巡回周期と同じになる。
なお、イントラスライス内の各マクロブロックは、実際には必ずしもイントラ符号化されなくてもよい。リフレッシュピクチャから復号を開始した場合に、それ以降のピクチャの画素値が正常に再生されることが保証されるように、イントラスライス内の各マクロブロックは符号化されればよい。例えば、イントラスライス内のマクロブロックは、ピクチャ内で画素値が正常に再生されることが保証された領域(このような領域は「クリーン領域」と称されている)内の領域を参照する動きベクトルを用いて、インター符号化されてもよい。
しかしながら、イントラスライス方式を用いて動画像データが符号化される場合、イントラスライスによってリフレッシュされるピクチャよりも前のピクチャにおいて、画素値が正常に再生されることが保証されない領域が存在する。この領域は「非クリーン領域」と称されている。イントラスライス方式を用いて動画像データが符号化される場合、クリーン領域内の画素値が正常に再生されることを保証するためには、クリーン領域内のマクロブロックは非クリーン領域内の画素の情報を参照できないという制約がある。
例えば、クリーン領域内の符号化対象マクロブロックがインター符号化される場合、その符号化対象マクロブロックが参照する、参照ピクチャ上のブロック全体もクリーン領域に含まれなければならない。
また、MPEG-4 AVC/H.264では、動きベクトルの符号化において、符号化対象マクロブロックの上又は左に隣接するマクロブロックの動きベクトルの平均値(またはメディアン)が動きベクトルの予測値PMVMEDとして算出される。そして、その予測値PMVMEDと符号化対象マクロブロックの動きベクトル間の誤差がエントロピー符号化される。
ところで、符号化対象のピクチャを、タイルと呼ばれる矩形の小領域に分割して各ブロックの処理を行う技術が提案されている。ピクチャ分割符号化方式と称されているこの技術では、各タイルを並列処理できるように、タイル境界を跨ぐ参照を禁止するように制御することが可能である。各ブロックのエントロピー符号化はタイル内で順次走査順に処理され、またタイル先頭でリセットされる。
特開2003−179938号公報 特開平6−113286号公報 特開2005−260936号公報 国際公開第09/037726号 特公平6−101841号公報
JCTVC-F803, "WD4: Working Draft 4 of High-Efficiency Video Coding", Joint Collaborative Team on Video Coding of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11,2011年7月 JCTVC-F335, "Tiles", Joint Collaborative Team on Video Coding of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11, 2011年7月
前述したピクチャ分割符号化方式には、以下の二つの問題が存在する。
最初の問題は、各小領域の圧縮処理(エントロピー符号化を除く符号化処理)を並列処理する場合の、符号化効率の低下である。
既存のピクチャ分割符号化方式では、小領域を跨ぐ参照の禁止の有無を、圧縮処理及びエントロピー符号化の双方について同時に適用する。更にエントロピー符号化においては、小領域先頭でのリセットが必須となっている。エントロピー符号化に対するこれらの制限は、各小領域を完全に独立に符号化する場合には必要であるが、エントロピー符号化のみを単体の回路で順次処理する場合には不要であり、符号化効率の低下を招く。
もう一つの問題は、エントロピー符号化における遅延である。この問題について、図1及び図2を用いて説明する。
図1は、ピクチャに2つの小領域境界を挿入した場合の構造を模式的に示したものであり、ピクチャ10に小領域11が2つ挿入されている状態を表している。なお、図1においては、既存のピクチャ分割符号化方式によるブロックの処理順番が矢線12の向きによって表現されている。
図1のようにピクチャ10を左右二つの小領域11に分割し、ブロックを各小領域内で順次走査順で処理する場合において、図1の右側の小領域11のエントロピー符号化を開始するには、左側の小領域11のエントロピー符号化が完了している必要がある。左側の小領域のエントロピー符号化を完了するには、少なくとも処理ピクチャの最終ラインの取り込みが完了している必要がある。このため、1ピクチャ分の遅延が不可避である。
遅延問題の解消のための手法として、ピクチャの各ブロックライン間に小領域境界を挿入することで、各ブロックの処理順番を実質的にピクチャ内順次走査順にするという手法が挙げられる。図2は、ピクチャの各ブロックラインに小領域境界を挿入した場合の構造を模式的に示したものであり、ピクチャ20に複数の小領域21が挿入された様子を表している。なお、小領域21の高さはいずれも「1」である。なお、図2においては、既存のピクチャ分割符号化方式によるブロックの処理順番が矢線22の向きによって表現されている。
しかしながら、この手法では、ピクチャ20内の小領域21の数が増えるため、エントロピー符号化のリセットによる符号化効率が更に低下する。
本明細書は、上述した問題を鑑み、ピクチャ分割符号化方式において符号化効率を向上させることを目的とする。
一つの実施形態によれば、ピクチャを、少なくとも一つのブロックを含む、互いに重複しない二つ以上の小領域に分割して符号化した符号化動画像データを復号する動画像復号装置が提供される。この動画像復号装置は、小領域情報抽出部と、ブロック処理順番情報抽出部と、参照パラメータ決定部と、エントロピー復号部と、ブロック伸長部とを備える。ここで、小領域情報抽出部は、符号化動画像データから、各小領域の位置情報と他の小領域への参照関係情報とから構成される小領域情報を抽出する。ブロック処理順番情報抽出部は、符号化動画像データから、ピクチャ内の各ブロックのエントロピー復号処理及びピクチャ内の各ブロックの伸長処理の順番を表すブロック処理順番情報を抽出する。参照パラメータ決定部は、第一の復号パラメータと第二の復号パラメータとを、小領域情報を用いて決定する。なお、第一の復号パラメータは、ピクチャ内の各ブロックのエントロピー復号処理時に参照する、同一ピクチャ内の復号済の他ブロックの復号パラメータである。また、第二の復号パラメータは、ピクチャ内の各ブロックの伸長処理時に参照する、同一ピクチャ内の復号済の他ブロックの復号パラメータである。エントロピー復号部は、符号化動画像データに対する、ピクチャ内の各ブロックのエントロピー復号処理を、ブロック処理順番情報に従った順番で、第一の復号パラメータのみを参照して行うことによって、ピクチャ内の各ブロックの圧縮情報を生成する。ブロック伸長部は、ピクチャ内の各ブロックの伸長処理を、ブロック処理順番情報に従った順番で、ピクチャ内の各ブロックの圧縮情報のうちの第二の復号パラメータのみを参照して行うことによって、ピクチャ内の各ブロックの復号パラメータを生成する。なお、ブロック処理順番情報は、前記エントロピー復号処理について、ピクチャ内順次走査順と小領域内順次走査順とのどちらかを表している。ここで、ブロック処理順番情報がエントロピー復号処理の順番としてピクチャ内順次走査順を表している場合には、エントロピー復号処理においては、小領域境界でのリセット処理を行わない。且つ、この場合には、エントロピー復号処理においては、第一の復号パラメータのうちの異なる小領域内のブロックについての復号パラメータを参照する。
また、他の実施形態によれば、ピクチャを、少なくとも一つのブロックを含む、互いに重複しない二つ以上の小領域に分割して符号化して、符号化動画像データを生成する動画像符号化装置が提供される。この動画像符号化装置は、小領域情報決定部と、ブロック処理順番情報決定部と、参照パラメータ決定部と、ブロック圧縮部と、エントロピー符号化部とを備える。ここで、小領域情報決定部は、符号化動画像データに挿入される、各小領域の位置情報と他の小領域への参照関係情報とから構成される小領域情報を決定する。ブロック処理順番情報決定部は、符号化動画像データに挿入される情報であって、ピクチャ内の各ブロックのエントロピー符号化処理及びピクチャ内の各ブロックの圧縮処理の順番を表す情報であるブロック処理順番情報を決定する。参照パラメータ決定部は、小領域情報を用いて、第一の復号パラメータと第二の復号パラメータとを決定する。なお、第一の復号パラメータは、ピクチャ内の各ブロックのエントロピー符号化処理時に参照する、同一ピクチャ内のエントロピー符号化済の他ブロックの局所復号パラメータである。また、第二の復号パラメータは、ピクチャ内の各ブロックの圧縮処理時に参照する、同一ピクチャ内の局所復号済の他ブロックの局所復号パラメータである。ブロック圧縮部は、ピクチャ内の各ブロックに対する圧縮処理を、ブロック処理順番情報に従った順番で、第二の復号パラメータのみを参照して行うことによって、ピクチャ内の各ブロックの圧縮情報を生成する。エントロピー符号化部は、ピクチャ内の各ブロックの圧縮情報に対するエントロピー符号化処理を、ブロック処理順番情報に従った順番で、第一の復号パラメータのみを参照して行うことによって、ピクチャ内の各ブロックの符号化データを生成する。なお、ブロック処理順番情報は、エントロピー符号化処理について、ピクチャ内順次走査順と小領域内順次走査順とのどちらかを表している。ここで、ブロック処理順番情報がエントロピー符号化処理の順番としてピクチャ内順次走査順を表している場合には、エントロピー符号化処理においては、小領域境界でのリセット処理を行わない。且つ、この場合には、エントロピー符号化処理においては、第一の復号パラメータのうちの異なる小領域内のブロックについての復号パラメータを参照する。
本発明の目的及び利点は、請求項において特に指摘されたエレメント及び組み合わせにより実現され、かつ達成される。
上記の一般的な記述及び下記の詳細な記述のいずれも、例示的かつ説明的なものであり、請求項のように、本発明を限定するものではないことを理解されたい。
本明細書で開示される動画像符号化装置及び動画像復号装置による動画像の符号化及び復号の手法によれば、動画像の符号化において高い符号化効率が得られる。
既存技術における、ピクチャを二つの小領域で分割した場合のブロックの処理順番を説明する図である。 ピクチャの各ブロックラインに小領域境界を挿入した場合のブロックの処理順番を説明する図である。 一つの実施形態による動画像復号装置の概略構成図である。 各ピクチャに一つないし二つの小領域を挿入して、ピクチャ毎に小領域境界を移動させた場合の様子の一例を図解した図である。 一つの実施形態による動画像復号装置により再生される符号化動画像データ内の、各ピクチャにおける各小領域の位置情報、及び他の小領域への参照関係情報のデータ構造の一例である。 一つの実施形態による各ブロックの復号順番、及び伸長処理順番の説明図である。 一つの実施形態による、小領域境界をピクチャ境界とみなして行う適応ノイズ除去フィルタ処理の説明図である。 一つの実施形態による、小領域境界でのデブロッキングフィルタ処理の説明図である。 一つの実施形態による動画像復号処理の処理内容を表したフローチャート(その1)である。 一つの実施形態による動画像復号処理の処理内容を表したフローチャート(その2)である。 一つの実施形態による動画像符号化装置の概略構成図である。 一つの実施形態による動画像符号化処理の処理内容を表したフローチャート(その1)である。 一つの実施形態による動画像符号化処理の処理内容を表したフローチャート(その2)である。
以下、図を参照しつつ、一つの実施形態の動画像復号装置について説明する。この動画像復号装置は、ピクチャを、少なくとも一つのブロックを含む、互いに重複しない二つ以上の小領域に分割して符号化した、符号化動画像データを復号する。
なお、ピクチャは、フレーム又はフィールドのいずれであってもよい。フレームは、動画像データ中の一つの静止画像であり、一方、フィールドは、フレームから奇数行のデータあるいは偶数行のデータのみを取り出すことにより得られる静止画像である。
また、符号化された動画像は、カラー動画像であってもよく、あるいは、モノクロ動画像であってもよい。
図3は、一つの実施形態による動画像復号装置の概略構成図である。
動画像復号装置100は、符号化動画像データを入力とし、復号動画像を出力する。動画像復号装置100は、エントロピー復号部110と、小領域情報抽出部111と、ブロック処理順番情報抽出部112と、参照パラメータ決定部113と、ブロック圧縮情報格納バッファ114と、ブロック伸長部115と、フレームメモリ116とを備える。
動画像復号装置100が有するこれらの各部は、それぞれ別個の回路として形成される。あるいは、動画像復号装置100が備えるこれらの各部が、その各部に対応する回路が集積された一つの集積回路として、動画像復号装置100に実装されてもよい。更に、動画像復号装置100が有するこれらの各部が、動画像復号装置100が有するプロセッサ上で実行されるコンピュータプログラムにより実現される、機能モジュールであってもよい。
動画像復号装置100は、符号化された動画像データを含むデータストリームを、例えば、通信ネットワーク(図示せず)及び動画像復号装置100を当該通信ネットワークに接続するためのインターフェース回路(図示せず)を介して取得する。動画像復号装置100は、取得したデータストリームから符号化動画像データを取り出して、図示しないバッファメモリに記憶させる。その後、動画像復号装置100は、符号化された動画像データを、所定の単位毎(例えば、複数ブロック毎、あるいはピクチャ毎)にバッファメモリから読み出し、読み出したデータをエントロピー復号部110へ入力する。
エントロピー復号部110は、符号化動画像データから、所定のエントロピー符号化方式に従って符号化されているブロックデータなどのデータを復号すると共に、ブロックの圧縮情報を復元し、復元された圧縮情報をブロック圧縮情報格納バッファ114に出力する。なお、所定のエントロピー符号化方式としては、例えば、ハフマン符号化方式あるいは算術符号化方式(例えばCABAC : Context-based Adaptive Binary Arithmetic Coding)とすることができる。
また、エントロピー復号部110は、参照する第一の復号パラメータの情報を参照パラメータ決定部113から受け取る。ブロックデータのエントロピー復号時には、エントロピー復号部110は、復号対象のブロックに隣接する他ブロックの該当する復号パラメータのみを用いてエントロピー復号を行う。
更に、エントロピー復号部110は、符号化動画像データから、ブロック処理順番情報と、ピクチャ単位に付加される小領域情報とを取り出す。エントロピー復号部110は、取り出した小領域情報を小領域情報抽出部111に出力し、取り出したブロック処理順番情報をブロック処理順番情報抽出部112に出力する。
小領域情報抽出部111は、エントロピー復号部110から受け取った小領域情報に基づいて、復号対象ピクチャ内の各小領域の位置情報と、各小領域に隣接している他の小領域(隣接他小領域)への参照関係情報とを復元する。復元した各小領域の位置情報(第一の小領域情報)と、隣接他小領域への参照関係情報(第二の小領域情報)とは、小領域情報抽出部111から参照パラメータ決定部113に出力される。この2種類の小領域情報の詳細については後述する。
ブロック処理順番情報抽出部112は、エントロピー復号部110から受け取ったブロック処理順番情報に基づいて、各ブロックのエントロピー復号順番、及び伸長処理順番を決定する。伸長処理順番の情報は、ブロック処理順番情報抽出部112からブロック伸長部115に出力される。
参照パラメータ決定部113は、小領域情報抽出部111から受け取った小領域情報に基づいて、第一の復号パラメータ及び第二の復号パラメータを決定する。なお、第一の復号パラメータは、各ブロックのエントロピー復号処理のために参照される隣接他ブロックの復号パラメータであり、第二の復号パラメータは、各ブロックの伸長処理のために参照される隣接他ブロックの復号パラメータである。決定された復号パラメータは、参照パラメータ決定部113からエントロピー復号部110及びブロック伸長部115に出力される。
ブロック圧縮情報格納バッファ114は、エントロピー復号部110での各ブロックのエントロピー復号処理と、ブロック伸長部115での各ブロックの伸長処理とが同期しない場合に用いられるものである。このような場合とは、例えば、後述するProcessingOrderIdxの値が「1」の場合がある。ブロック圧縮情報格納バッファ114は、この場合に、エントロピー復号部110で先にエントロピー復号を行ったブロックの圧縮情報をバッファリングして一時保存する。
ブロック伸長部115は、一つ以上のブロックの伸長処理を行う。動画像復号装置100には、ブロック伸長部115が1つないし複数存在する。
ブロック伸長部115は、予測誤差画素復元回路、予測画素生成回路、復号画素生成回路、及びループ内ポストフィルタ回路を備えているが、これらの回路は特に図示されていない。なお、予測誤差画素復元回路は、ブロック圧縮情報のうちの量子化DCT係数に対して逆量子化・逆直交変換を行って予測誤差画素を復元する回路である。また、予測画素生成回路は、フレームメモリに格納された復号済画素からイントラ予測画素若しくはインター予測画素を生成する回路である。また、復号画素生成回路は、予測誤差画素と予測画素とを加算して復号画素を生成する回路である。そして、ループ内ポストフィルタ回路は、復号画素に対し三種類のループ内ポストフィルタである、デブロッキングフィルタ、適応画素オフセット、及び適応ノイズ除去フィルタを順に適用し最終的な復号画素を生成する回路である。なお、予測誤差画素と予測画素とを加算した直後の復号画素、及び最終的な復号画素は、ブロック伸長部115からフレームメモリ116に出力される。
なお、ブロック伸長部115によって行われる各ブロックの伸長処理の順番は、ブロック処理順番情報抽出部112から受け取る伸長処理順番の情報によって切り替えられる。
フレームメモリ116は、ブロック伸長部115から受け取る予測誤差画素と予測画素とを加算した直後の復号画素、及び三種類の各ポストフィルタを適用した最終的な復号画素を格納する。その後、フレームメモリ116は、別途決められる表示タイミングにて、最終的な復号画素を再生動画像として出力する。また、フレームメモリ116は、ブロック伸長部115に対して、予測誤差画素と予測画素とを加算した直後の復号画素、及び三種類の各ポストフィルタを適用した最終的な復号画素を出力する。
次に、一つの実施形態による動画像復号装置100により再生される符号化動画像データ内で記述される、小領域の情報について、図4及び図5を用いて説明する。
図4は、各ピクチャに一つないし二つの小領域を挿入して、ピクチャ毎に小領域境界を移動させた場合の様子の一例を表しており、クリーン領域が、所定の周期でピクチャ全体を占めるように符号化されている場合を表している。図4においては、ピクチャ201、202、203、204、及び205の各々に、クリーン領域211と非クリーン領域212とを示している。なお、この図4の例では、クリーン領域211と非クリーン領域212との境界が、時間の経過に応じて左から右に移動する。
図5は、一つの実施形態による動画像復号装置により再生される符号化動画像データ内で記述される、各ピクチャにおける各小領域の位置情報(第一の小領域情報)、及び他の小領域への参照関係情報(第二の小領域情報)のデータ構造及び値の一例を表している。
なお、図5に表されているデータ311、312、313、314、及び315の各々のデータ値は、それぞれ、図4のピクチャ201、202、203、204、及び205の小領域についての記述情報である。
これらの小領域情報は、前掲した非特許文献1に記載されている符号化方式では、SPS (Sequence Parameter Set)若しくはPPS (Picture Parameter Set)のいずれか、若しくは双方の中に記述される。
データ311〜315の2列11行配列において、左側列は略称表記されたデータの種別であり、右側列はデータの値である。"N/A"と表記されたデータ値は、その値が参照されないことを意味する。左側列に略称表記されたデータ種別のそれぞれの正式名称及び意味は、以下のようになる。
TBII(TileBoundaryIndependenceIdr.)は各小領域の参照関係を表している指標であって、第一の復号パラメータ及び第二の復号パラメータに関するブロックの従属性を表す従属性情報の一例である。この値が「0」の場合は、該当復号パラメータの「従属性有り」を示しており、エントロピー復号、及び伸長処理において、自身に隣接する全ての小領域への参照が有効であることを意味する。また、この値が「1」の場合は、該当復号パラメータの「双方向の従属性無し」を示しており、エントロピー復号、及び伸長処理において、自身に隣接する全ての小領域への参照が無効であることを意味する。そして、この値が「2」の場合は、該当復号パラメータの「一方向の従属性有り」を示している。この場合は、伸長処理においては、自身より優先度が低い小領域への参照が無効であることを意味する。一方、エントロピー復号処理においては、自身に隣接する全ての小領域への参照が有効であることを意味する。エントロピー復号の順番を画面内順次走査順とする場合には、TileBoundaryIndependenceIdrを「2」とする。
USI(UniformSpacingIdr.)は、各小領域の幅及び高さが同一であるかどうかを表している指標である。この値が「0」の場合には、各小領域の幅若しくは高さが同一ではないことを意味する。一方、この値が「1」の場合には、各小領域の幅及び高さは同一であることを意味する。
CWM1(ColumnWidthMinus1.)は各小領域の幅(単位はブロック)を表しており、UniformSpacingIdrの値が「1」の場合に符号化される。なお、ピクチャの幅をW(単位はブロック)とすると、横方向の小領域数は( W / ( ColumnWidthMinus1 + 1 ) )となる。
RHM1(RowHeightMinus1.)は各小領域の高さ(単位はブロック)を表しており、UniformSpacingIdrの値が「1」の場合に符号化される。なお、ピクチャの高さをH(単位はブロック)とすると、縦方向の小領域数は( H / ( RowHeightMinus1 + 1 ) )となる。
NCM1(NumColumnsMinus1.)は横方向の小領域数を表しており、UniformSpacingIdrの値が「0」の場合に符号化される。なお、横方向の小領域数の実際の数は( NumColumnsMinus1 + 1 )である。
NRM1(NumRowsMinus1.)は縦方向の小領域数を表しており、UniformSpacingIdrの値が「0」の場合に符号化される。なお、縦方向の小領域数の実際の数は( NumRowsMinus1 + 1 )である。
CW[ x ](ColumnWidth.)は、左から数えてx番目の小領域の幅であり、NumColumsMinus1の値が「1」以上の場合に符号化される。
RH[ x ](RowHeight.)は、上から数えてx番目の小領域の高さであり、NumRowsMinus1の値が「1」以上の場合に符号化される。
TID[ x ](TileIdxDiff.)は、ピクチャ内の順次走査順でx番目の小領域の優先度差分であり、TileBoundaryIndependenceIdrの値が「2」の場合にのみ記述される。このTileIdxDiffから各小領域の優先度TileIndexが決まる。より具体的には、xが「0」の場合には、TID[ 0 ]が0番目の小領域の優先度であり、xが「1」以上の場合は、( TID [ n - 1 ] + TID [ n ] )がx番目の小領域の優先度となる。なお、優先度は降順とする。従って、TileIndex = 0が最も優先度が高く、値が大きくなるにつれ優先度は低くなる。なお、TileBoundaryIndependenceIdrの値が「2」以外の場合には、全ての小領域のTileIdxDiffの値は「0」とする。このTileIdxDiffは、各ブロック間の優先度を表す優先度情報の一例である。
POI(ProcessingOrderIdx.)は処理順番を表している指標であり、TileBoundaryIndependenceIdr の値が「2」の場合にのみ記述される。この値が「0」の場合は、エントロピー復号、伸長処理の双方の処理順番が、小領域内の順次走査順となる。なお各小領域の処理順番はピクチャ内の順次走査順となる。一方、この値が「1」の場合には、エントロピー復号は、ピクチャ内の順次走査順となり、伸長処理は小領域内の順次走査順となる。なお、TileBoundaryIndependenceIdr の値が「2」以外の場合は、ProcessingOrderIdxの値は「0」であるとする。TileBoundaryIndependenceIdr の値が「0」もしくは「2」の場合、エントロピー符号化は小領域境界でリセットされない。TileBoundaryIndependenceIdr の値が「1」の場合、エントロピー符号化は小領域境界でリセットされる。
以上の各データ種別のうち、ProcessingOrderIdxはブロック処理順番情報の一例であり、その他のデータ種別は小領域情報の一例である。
図4の例では、ピクチャ201〜204の各々において、クリーン領域211に相当する左側の小領域の優先度TileIndexが、非クリーン領域212に相当するピクチャの右側の小領域の優先度TileIndexよりも高く設定されている。これにより、ピクチャ201〜204の各々おける左側の小領域は、その右側の小領域についての、正常復号が保障されていない復号パラメータを参照することなく復号される。従って、リフレッシュ周期の最後のピクチャにて全画素が正常に復号することが可能になる。
なお、図5におけるデータ315は、他のデータ311〜314とは異なり、TileBoundaryIndependenceIdr、NumColumnsMinus1、及びNumRowsMinus1の各値がいずれも「0」となっている。これは、データ315に相当するピクチャ205は、リフレッシュピクチャの時間的に直前の、ピクチャ205全体がクリーン領域211となるピクチャであり、このようなピクチャでは参照制限が不要なためである。
次に、一つの実施形態による各ブロックの復号順番、及び伸長処理順番を、図6を用いて説明する。
図6において、ピクチャ601は、4つの小領域611、612、613、及び614に分割されており、ピクチャ602も、4つの小領域621、622、623、及び624に分割されている。
ピクチャ601上に描かれている矢線651は、ProcessingOrderIdxの値が「0」である場合における、ブロックのエントロピー復号処理順番、及び伸長処理順番を表現している。小領域611〜614の各々はピクチャ601内の順次走査順で処理される。また小領域611〜614内の各ブロックは、小領域611〜614内の順次走査順で処理される。
一方、ピクチャ602上に描かれている実線の矢線661は、ProcessingOrderIdxの値が「1」である場合における、ブロックの伸長処理順番を表現している。そして、ピクチャ602上に描かれている破線の矢線662は、ProcessingOrderIdxの値が「1」である場合における、ブロックのエントロピー復号の処理順番である。このように、エントロピー復号については、小領域の位置、個数によらず、ピクチャ内順次走査順である。
なお、小領域の個数が「1」の場合は、各ブロックのエントロピー復号処理順番、及び伸長処理順番は、ピクチャ内順次走査順の場合と同一になる。
次に、一つの実施形態による、エントロピー復号処理における、隣接他ブロックの復号パラメータ(第一の復号パラメータ)の参照関係を、以下に説明する。
エントロピー復号処理において参照される、隣接他ブロックの復号パラメータは、前掲した非特許文献1に記載されている符号化方式の場合では、SkipFlagとSplitFlagである。ここで、SkipFlagは、ブロックに有効係数が無く、また動きベクトル情報を明示的に伝送しない符号化モードであることを示すフラグである。また、SplitFlagは、ブロックを四分木構造で階層的に分割するか否かを示すフラグである。これらのフラグは、ピクチャ間での依存関係を持たない。
一方、エントロピー復号方式がCABACの場合には、隣接他ブロックのこれらのフラグが、エントロピー復号処理ブロックの該当フラグのコンテキスト計算に用いられる。例えば、左隣接ブロックのSkipFlag、及び右隣接ブロックのSkipFlagがそれぞれ1の場合には、( 1 << 1 ) + 1 = 3という番号のコンテキストが用いられる。CABAC復号を正常に行うためには、コンテキストを正しく復元することが必要である。
本実施形態では、エントロピー復号処理における、隣接他ブロックの復号パラメータ(第一の復号パラメータ)の参照関係を、以下の[1−1]から[1−4]のように定める。
[1−1]エントロピー復号処理対象のブロックがピクチャの左端にある場合には、左隣接ブロックは参照不可とする。
[1−2]エントロピー復号処理対象のブロックがピクチャの上端にある場合には、上隣接ブロックは参照不可とする。
[1−3]エントロピー復号処理対象のブロックと、その隣接ブロック(上側、及び左側)が同一小領域内に位置する場合には、TileBoundaryIndependenceIdrの値によらず、その復号パラメータは参照可能とする。
[1−4]エントロピー復号処理対象のブロックと、その隣接ブロック(上側、及び左側)が異なる小領域内に位置する場合には、TileBoundaryIndependenceIdrの値によって、次のように参照可否を決定する。すなわち、TileBoundaryIndependenceIdrの値が「0」若しくは「2」の場合は、復号パラメータは参照可能とする。一方、TileBoundaryIndependenceIdrの値が「1」の場合は、復号パラメータは参照不可とする。
また、エントロピー復号処理において、小領域を跨いだ場合のエントロピー復号処理のリセットは、TileBoundaryIndependenceIdrの値によって、以下の[2−1]及び[2−2]のようになる。
なお、このリセットは、各CABACコンテキストの初期化、及びバイトアライン処理からなり、ピクチャ先頭では必ずリセットが行われる。
[2−1]TileBoundaryIndependenceIdrの値が「0」もしくは「2」の場合は、リセットは行わない。
[2−2]TileBoundaryIndependenceIdrの値が「1」の場合は、リセットを行う。
以上のことから、TileBoundaryIndependenceIdrの値を「1」とすることで、各小領域のエントロピー復号処理を独立して処理することが可能になる。従って、復号装置に複数のエントロピー復号部を持つように構成すれば、エントロピー復号処理を並列実行することが可能になる。
次に、一つの実施形態による、伸長処理における、隣接他ブロックの復号パラメータ(第二の復号パラメータ)の参照関係を、以下に説明する。なお、この説明は、デブロッキングフィルタ以外に適用される。
伸長処理において参照される、隣接他ブロックの復号パラメータは、前掲した非特許文献1の符号化方式の場合では、動きベクトル情報、イントラ予測方向情報、量子化スケール情報、復号画素値(各ポストフィルタ適用前)の復号画素値である。これらの復号パラメータの中で、リフレッシュピクチャから復号を開始した場合に、正しい値が復号されていない可能性があるものは、動きベクトル情報、復号画素値である。これらの復号パラメータは、復元のために時間方向の予測処理が行われるからである。以降、伸長処理において参照される、第二の復号パラメータのうちのこれらの復号パラメータを、特に「第一パラメータ群」と呼ぶ。
一方、イントラ予測方向情報及び量子化スケール情報は、リフレッシュピクチャから復号を開始した場合にも、正しい値が復号されている復号パラメータである。以降、伸長処理において参照される、第二の復号パラメータのうちのこれらの復号パラメータを、特に「第二パラメータ群」と呼ぶ。第二パラメータ群の復元では、時間方向の予測処理が行われない。
本実施形態では、伸長処理における、隣接他ブロックの復号パラメータ(第二の復号パラメータ)の参照関係を、以下の[3−1]から[3−4]のように定める。
[3−1]伸長処理対象のブロックがピクチャの左端にある場合には、左隣接ブロックは参照不可とする。
[3−2]伸長処理対象のブロックがピクチャの上端にある場合には、上隣接ブロックは参照不可とする。
[3−3]伸長処理対象のブロックと、その隣接ブロック(上側、及び左側)が同一小領域内に位置する場合には、TileBoundaryIndependenceIdrの値によらず、全ての復号パラメータは参照可能とする。
[3−4]伸長処理対象のブロックと、その隣接ブロック(上側、及び左側)が異なる小領域内に位置する場合には、TileBoundaryIndependenceIdrの値によって、次のように参照可否を決定する。
まず、TileBoundaryIndependenceIdrの値が「0」の場合は、全ての復号パラメータは参照可能とする。
次に、TileBoundaryIndependenceIdrの値が「2」の場合は、更に、次のように参照可否を決定する。すなわち、伸長処理対象ブロックを含む小領域の優先度TileIndexCurrが、隣接ブロックを含む小領域の優先度TileIndexRefよりも高い場合には、第二パラメータ群のみ参照可能とする。一方、伸長処理対象ブロックを含む小領域の優先度TileIndexCurrが、隣接ブロックを含む小領域の優先度TileIndexRefと同じか、若しくは低い場合には、第一パラメータ群及び第二パラメータ群の双方を参照可能とする。
一方、TileBoundaryIndependenceIdrの値が「1」の場合は、第一パラメータ群及び第二パラメータ群の双方を、参照不可とする。
次に、一つの実施形態による、伸長処理における、隣接他ブロックの復号パラメータが参照不可になった場合の動作を説明する。なお、この説明はデブロッキングフィルタ以外に適用される。
動きベクトル情報が参照不可になった場合には、伸長処理対象ブロックは、該当するブロックがピクチャ外にある場合と同様に扱われる。即ち、伸長処理対象ブロックは、動きベクトル情報が存在しないものとして扱われる。
イントラ予測方向情報が参照不可になった場合には、伸長処理対象ブロックは、該当するブロックがピクチャ外にある場合と同様に扱われる。例えば、非特許文献1に記載されている符号化方式の場合には、イントラ予測方向がDCモードとされる。
量子化スケール情報が参照不可になった場合には、伸長処理対象ブロックは、該当するブロックがピクチャ外にある場合と同様に扱われる。すなわち、伸長処理対象ブロックは、量子化スケール情報が存在しないものとして扱われる。
ポストフィルタ適用前の復号画素値は、イントラ予測において参照されるが、この復号画素値が参照不可となった場合には、伸長処理対象ブロックは、別スライスにあるものとして取り扱われる。例えば、非特許文献1に記載されている符号化方式の場合には、参照画素から最も近い、伸長処理対象ブロックと同一小領域内にある画素の値をコピーしたものが、復号画素値としてイントラ予測に用いられる。
ポストフィルタ適用後の復号画素値のうち、デブロッキングフィルタ後の復号画素値は適応画素オフセットが参照し、適応画素オフセット後の復号画素値は適応ノイズ除去フィルタが参照する。ここで、ポストフィルタ適用後の復号画素値が参照不可となった場合には、小領域境界がピクチャ境界とみなされて処理が行われる。例えば、非特許文献1に記載されている符号化方式の場合には、参照画素から最も近い、伸長処理対象ブロックと同一小領域内にある画素の値をコピーしたものが、復号画素値として、適応画素オフセット及び適応ノイズ除去フィルタに用いられる。
ここで、小領域境界をピクチャ境界とみなして行う適応ノイズ除去フィルタ処理について、図7を用いて説明する。
図7において、(A)は、適応ノイズ除去フィルタ適用前の復号画素と小領域位置とを示している。ここで、700は適応ノイズ除去フィルタ適用前の復号画素であり、p00〜p44は、復号画素700の各々についての該当位置の画素値を表している。また、702は適応ノイズ除去フィルタ適用対象の画素であり、701は小領域境界である。ここでは、適応ノイズ除去フィルタ適用対象の画素702を含む、小領域境界701の左側の小領域の優先度が、小領域境界701の右側の小領域よりも高いものとする。なお、破線で囲まれている領域703は、画素702に対する適応ノイズ除去フィルタ処理において参照される画素の範囲を表している。
図7において、(B)は、画素702に対する適応ノイズ除去フィルタ処理において参照される、みなし画素値を示している。750は、画素702に対する適応ノイズ除去フィルタ処理において参照される、みなし画素値である。この(B)では、(A)の画素値p03及びp04がp02にみなされ、p13及びp14がp12にみなされ、p23及びp24がp22にみなされ、p33及びp34がp32にみなされ、p43及びp44がp42にみなされている。
次に、一つの実施形態による、伸長処理のデブロッキングフィルタにおける、隣接他ブロックの復号パラメータの参照関係を、以下に説明する。
この参照関係は、TileBoundaryIndependenceIdrの値に応じて、以下の[4−1]から[4−3]のように変化する。
[4−1]TileBoundaryIndependenceIdrの値が「0」の場合には、参照制限無しに、デブロッキングフィルタ処理を行う。
[4−2]TileBoundaryIndependenceIdrの値が「1」の場合には、以下のような参照関係とする。
まず、伸長処理対象のブロックが属する小領域と、隣接ブロックが属する小領域とが異なる場合には、隣接ブロックがピクチャ外にあるものとして扱う。即ち、この場合には、小領域境界に接するブロック境界ではデブロッキングフィルタ処理を適用しない。
一方、伸長処理対象のブロックが属する小領域と、隣接ブロックが属する小領域とが同一の場合には、参照制限無しに、デブロッキングフィルタ処理を行う。
[4−3]TileBoundaryIndependenceIdrの値が「2」の場合には、以下のような参照関係とする。
まず、伸長処理対象ブロックを含む小領域が、隣接ブロックが属する小領域と同じ場合、又は伸長処理対象ブロックを含む小領域が、隣接ブロックが属する小領域と同じ優先度を持つ場合には、参照制限無しに、デブロッキングフィルタ処理を行う。
一方、伸長処理対象ブロックを含む小領域が、隣接ブロックが属する小領域と異なり、かつ両者の優先度が異なる場合には、優先度の低い方の小領域に属する画素のみがデブロッキングフィルタ処理によって更新されるようにする。
この小領域境界でのデブロッキングフィルタ処理について、図8を用いて説明する。
図8において、(A)は、デブロッキングフィルタ処理適用前の復号画素、及び小領域位置を示している。ここで、800はデブロッキングフィルタ処理適用前の復号画素であり、802は、デブロッキングフィルタ処理適用時に参照される画素である。なお、801は小領域境界である。なお、ここでは、適応ノイズ除去フィルタ適用対象の画素を含む、小領域境界801の左側の小領域の優先度が、小領域境界801の右側小領域の優先度よりも高いものとする。
p3〜p0及びq0〜q3は、デブロッキングフィルタ処理適用時に参照される画素802の各々についての該当位置の画素値を表している。デブロッキングフィルタ処理は、処理対象のブロックの左側境界、及び上側境界に適用されるので、p3〜p0が隣接ブロックに、q0〜q3が処理対象ブロックに位置する。
デブロッキングフィルタ処理適用時に参照される画素802のうち、p2〜p0及びq0〜q2の画素の値が、デブロッキングフィルタ処理により更新される。図8の(B)は、この画素802に対してデブロッキングフィルタ処理を行った後の画素値を示す。
この(B)において、811はデブロッキングフィルタ処理を行った後の画素である。小領域境界801の左側の画素p2〜p0は、優先度が高い小領域内にあるため、デブロッキングフィルタ処理による値の更新は行われない。一方、小領域境界801の右側の画素q0〜q2は、p3〜p0及びq0〜q3の値を用いたデブロッキングフィルタ処理が適用され、その値がq'0〜q'2に更新されている。
このように、小領域境界では、処理対象のブロックを含む小領域の優先度が、隣接ブロックを含む小領域の優先度より高い場合には、隣接ブロックの復号パラメータを用いて、隣接ブロック内の画素のデブロッキングフィルタ処理を行う。一方、当該処理対象のブロックについてはデブロッキングフィルタ処理を行わない。これに対し、伸長処理対象のブロックを含む小領域の優先度が、隣接ブロックを含む小領域の優先度より低い場合には、隣接ブロックの復号パラメータを用いて、伸長処理対象ブロック内の画素のデブロッキングフィルタ処理を行う。一方、隣接ブロックについてはデブロッキングフィルタ処理を行わない。
次に、一つの実施形態による動画像復号処理の具体的な処理手順について、図9及び図10を参照しながら説明する。
図9及び図10は、一つの実施形態による動画像復号処理の処理内容を表したフローチャートである。動画像復号装置100は、この動画像復号処理をピクチャ毎に実行する。
まず、ステップS101において、エントロピー復号部110が、符号化動画像データから小領域情報及びブロック処理順番情報を抽出する処理を行う。抽出された小領域情報及びブロック処理順番情報は、エントロピー復号部110から、それぞれ小領域情報抽出部111及びブロック処理順番情報抽出部112へ出力される。小領域情報抽出部111は、抽出された小領域情報を受け取ると、各小領域の位置情報及び参照関係情報を復元して参照パラメータ決定部113に出力する。また、ブロック処理順番情報抽出部112は、ブロック処理順番情報を受け取ると、このブロック処理順番情報に基づいて伸長処理順番を決定し、決定した伸長処理順番の情報を参照パラメータ決定部113及びブロック伸長部115に出力する。
その後、ステップS102において、エントロピー復号部110が、ピクチャ内の全ブロックのエントロピー復号が完了したかを調べる判定処理を行う。この判定処理の結果がYESの場合にはステップS105に処理が移行し、NOの場合にはステップS103に処理が移行する。なお、エントロピー復号部110は、各ブロックのエントロピー復号を、符号化動画像データ中に格納されていた順番で処理する。
次に、ステップS103において、参照パラメータ決定部113が、小領域情報及びブロック処理順番情報に基づいて、エントロピー復号における処理ブロックの隣接ブロックへの参照関係を特定する処理を行う。
次に、ステップS104において、エントロピー復号部110が、所定のエントロピー符号化方式と、ステップS103で特定した隣接ブロックへの参照関係とに従って、符号化動画像データ中の次のブロックのエントロピー復号処理を行う。TileBoundaryIndependenceIdrが1の場合でかつ、直前にエントロピー復号したブロックと、処理するブロックとの間に小領域境界が存在する場合のみ、エントロピー復号のリセットを行う。TileBoundaryIndependenceIdrは、エントロピー復号の順番が小領域内順次走査順の場合のみ1となるとする。
次に、ステップS105において、ブロック伸長部115が、小領域情報及び伸長処理順番に基づいて、次に伸長処理するブロックを特定する処理を行う。
その後、ステップS106において、ブロック伸長部115が、次に伸長処理を行うブロックがブロック圧縮情報格納バッファ114の中に存在するどうかを調べる判定処理を行う。この判定処理において、当該ブロックが存在すると判定された場合にはステップS107に処理が移行する。一方、当該ブロックが存在しないと判定された場合にはステップS102に処理が移行する。
次に、ステップS107において、参照パラメータ決定部113が、小領域情報に基づいて、伸長処理における隣接ブロックへの参照関係を特定する処理を行う。
次に、ステップS108において、ブロック伸長部115が、各ブロックの伸長処理を行う。この伸長処理の詳細については、後に図10を用いて説明する。
その後、ステップS109において、ブロック伸長部115が、全ブロックの伸長処理が完了したか調べる判定処理を行う。この判定処理の結果がYESの場合にはS110に処理が移行し、NOの場合にはS106に処理が移行する。
次に、ステップS110において、ブロック伸長部115が、ピクチャ内の全ブロックについて、ステップS107の処理により特定された隣接ブロックへの参照関係を用いて適応画素オフセット処理を実施する。
次に、ステップS111において、ブロック伸長部115は、ピクチャ内の全ブロックについて、S107で特定した隣接ブロックへの参照関係を用いて、適応ノイズ除去フィルタ処理を実施する。このステップS111の処理が完了すると、ピクチャ毎の動画像復号処理が終了する。
次に、図9のステップS108の処理である、ブロック単位の伸長処理の詳細を、図10のフローチャートを参照しながら説明する。
まず、ステップS201において、ブロック伸長部115が、隣接ブロックへの参照関係に従い、隣接ブロックの復号パラメータをフレームメモリ116から獲得する処理を行う。
次に、ステップS202において、ブロック伸長部115が、取得した隣接ブロックの復号パラメータから、伸長処理ブロックの画素値以外の復号パラメータを復元する処理を行う。
その後、ステップS203において、ブロック伸長部115が伸長処理ブロックの予測符号化モードを調べる判定処理を行う。この判定処理において、予測符号化モードがイントラ予測符号化モードと判定された場合にはステップS204へ処理が移行し、予測符号化モードがインター予測符号化モードと判定された場合にはステップS206へ処理が移行する。
ステップS204では、ブロック伸長部115は、伸長処理ブロックの上側及び左側の隣接ブロックから、参照可能な復号画素値のみを用いてイントラ予測参照画素を取得する処理を行う。上側及び左側の隣接ブロックの復号画素値が参照可能な場合は、その復号画素値がそのままイントラ予測参照画素となる。
次に、ステップS205において、ブロック伸長部115は、ステップS204の処理によって取得されたイントラ予測参照画素を用いて、イントラ予測符号化における予測画素(イントラ予測画素)を生成する処理を行う。このステップS205の処理の完了後は、ステップS207に処理が移行する。
ステップS206では、ブロック伸長部115は、S202で復号した動きベクトル情報を用いて、インター予測符号化における予測画素(インター予測画素)を生成する処理を行う。
次に、ステップS207において、ブロック伸長部115は、量子化係数を逆量子化及び逆直交変換して各画素の予測誤差を復元する処理を行う。
次に、ステップS208において、ブロック伸長部115は、各画素の予測誤差を予測画像の対応画素の値に加えることにより画素値を復元する処理を行う。
次に、ステップS209において、ブロック伸長部115は、処理ブロックの上側及び左側の隣接ブロックから、参照可能な復号画素値のみを用いてデブロッキングフィルタ処理を実施する。このステップS209の処理が完了すると、図10に図解したブロック単位の伸長処理が終了し、その後は図9のS109に処理が移行する。
なお、符号化動画像データに、時間方向の動きベクトルの予測処理を行うか否かを制御するフラグAmvpTemporalFlagを挿入してもよい。このようにする場合には、動画像復号装置100のブロック伸長部115は、このフラグの値が「1」の場合にのみ時間方向の動きベクトルの予測処理を行うようにする。
AmvpTemporalFlagは各ピクチャに付加される。例えば、非特許文献1に記載されている符号化方式の場合には、このフラグはスライスヘッダ内に記述される。また、符号化動画像データが前述したイントラスライス方式による符号化動画像データの場合には、AmvpTemporalFlagの値は、リフレッシュピクチャにおいては「0」に設定され、その他のピクチャでは「1」に設定される。これにより、全てのピクチャの全ブロックにて、動きベクトル情報が正常に復号される。
なお、AmvpTemporalFlagを使用する場合には、伸長処理で参照する隣接他ブロックの復号パラメータにおいて、TileBoundaryIndependenceIdrの値が「2」の場合には、動きベクトル情報を第二パラメータ群として取り扱うようにする。
また、図5のデータ311〜315におけるデータ種別のうち、TileBoundaryIndependenceIdr及びProcessingOrderIdxを、以下に定義するものとしてもよい。
TBII(TileBoundaryIndependenceIdr.)は各小領域の参照関係を表す指標であって、第一の復号パラメータ及び第二の復号パラメータに関するブロックの従属性を表す従属性情報の一例である。この値が「0」の場合には、該当復号パラメータの「従属性有り」を示しており、エントロピー復号、及び伸長処理において隣接する全ての小領域への参照が有効であることを意味する。また、この値が「1」の場合には、該当復号パラメータの「一方向の従属性有り」を示している。この場合には、ProcessingOrderIdxの値に応じて、エントロピー復号、及び伸長処理の両方又はどちらか一方について、隣接する全ての小領域への参照が無効であることを意味する。
POI(ProcessingOrderIdx.)は、エントロピー復号、及び伸長処理における走査順を表す指標である。この値が「0」の場合は、エントロピー復号、伸長処理の双方が、小領域内の順次走査順となる。なお、この場合における各小領域の処理順番は、ピクチャ内の順次走査順となる。一方、この値が「1」の場合は、エントロピー復号は、ピクチャ内の順次走査順となり、伸長処理は小領域内の順次走査順となる。
上述のように定義がされている場合においては、TileBoundaryIndependenceIdrの値が「1」の場合における、エントロピー復号及び伸長処理の参照関係は以下のようになる。すなわち、ProcessingOrderIdxの値が「0」の場合、エントロピー復号、及び伸長処理において、隣接する全ての小領域への参照が無効である。一方、ProcessingOrderIdxの値が「1」の場合、伸長処理において、隣接する全ての小領域への参照は無効であるが、エントロピー復号においては、隣接する全ての小領域への参照が有効である。
なお、上述のように定義がされている場合においては、TileIdxDiffは使用されない。
次に、図を参照しつつ、一つの実施形態による、動画像符号化装置について説明する。この動画像符号化装置は、ピクチャを、少なくとも一つのブロックを含む、互いに重複しない二つ以上の小領域に分割して符号化して、符号化動画像データを生成する。
図11は、一つの実施形態による動画像符号化装置の概略構成図である。
動画像符号化装置1000は、入力された動画像に対して圧縮符号化処理を行い、符号化動画像データを出力する。なお、図3の動画像復号装置100は、この動画像符号化装置1000が出力する符号化動画像データを復号して復号動画像を出力することができる。
動画像符号化装置1000は、小領域情報決定部1010、ブロック処理順番情報決定部1011、参照パラメータ決定部1012、画像バッファ1013、ブロック圧縮部1014、フレームメモリ1015、ブロック圧縮情報格納バッファ1016、及びエントロピー符号化部1017を備える。
小領域情報決定部1010は、図5を用いて説明した小領域の情報、すなわち、ピクチャ内の各小領域の位置情報(第一の小領域情報)と、各小領域に隣接している他の小領域への参照関係情報(第二の小領域情報)とを、小領域情報として決定する。これらの小領域情報は、動画像符号化装置1000の構成、又は符号化方式に基づいて決定される。例えば動画像符号化装置1000のブロック圧縮部1014が4個の圧縮エンジンから構成され、各圧縮エンジンが並列動作する場合には、ピクチャが、同じ面積の4つの矩形小領域に分割され、それぞれの小領域間の圧縮処理時の参照が無効にされる。また、例えば、前述したイントラスライス方式による符号化が実現される場合には、ピクチャが二つの矩形小領域に分割され、その両者の境界位置のピクチャ毎の移動が行われる。また、クリーン領域に相当する矩形小領域から、もう一つの、非クリーン領域に相当する矩形小領域への圧縮処理時の参照が無効にされる。
決定された、各小領域の位置情報と隣接他小領域への参照関係情報とは、小領域情報決定部1010から参照パラメータ決定部1012及びエントロピー符号化部1017に出力される。
ブロック処理順番情報決定部1011は、各ブロックの圧縮処理の順番、及びエントロピー符号化の順番を決定する。これらの情報は、符号化方式に従って決定される。例えば、エントロピー符号化時の遅延を減らす必要がある場合には、ブロックの圧縮処理順番は小領域内の順次走査順と決定され、エントロピー符号化の圧縮処理順番はピクチャ内の順次走査順と決定される。
決定された圧縮処理順番の情報はブロック処理順番情報決定部1011からブロック圧縮部1014とエントロピー符号化部1017とに出力される。なお、エントロピー符号化部1017に対しては、ブロック処理順番情報決定部1011は、決定されたエントロピー符号化順序の情報も出力する。
参照パラメータ決定部1012は、小領域情報決定部1010から受け取った小領域情報に基づいて、各ブロックの圧縮処理、及びエントロピー符号化処理において参照される、隣接他ブロックの、第一の復号パラメータ及び第二の復号パラメータを決定する。決定された第一の復号パラメータは参照パラメータ決定部1012からエントロピー符号化部1017に出力され、決定された第二の復号パラメータは参照パラメータ決定部1012からブロック圧縮部1014に出力される。
画像バッファ1013は、ピクチャの順次走査順に入力される動画像をバッファリングする。
ブロック圧縮部1014は、一つ以上のブロックの圧縮処理を行う。動画像符号化装置1000には、ブロック圧縮部1014が1つないし複数存在する。
ブロック圧縮部1014は、予測誤差生成回路、量子化DCT係数生成回路、予測誤差画素復元回路、予測画素生成回路、局所復号画素生成回路、ループ内ポストフィルタ回路、及び動き探索回路を備えているが、これらの回路は特に図示されていない。なお、予測誤差生成回路は、符号化対象ブロック内の各画素とイントラ予測画素値若しくはインター予測画素値との差分演算を行って予測誤差を生成する回路である。量子化DCT係数生成回路は、予測誤差に対して直交変換及び量子化を行って量子化DCT係数を生成する回路である。予測誤差画素復元回路は、量子化DCT係数に対して逆量子化・逆直交変換を行って予測誤差画素を復元する回路である。予測画素生成回路は、フレームメモリに格納された局所復号画素からイントラ予測画素若しくはインター予測画素を生成する回路である。局所復号画素生成回路は、予測誤差画素と予測画素とを加算して局所復号画素を生成する回路である。ループ内ポストフィルタ回路は、局所復号画素に対し三種類のループ内ポストフィルタである、デブロッキングフィルタ、適応画素オフセット、及び適応ノイズ除去フィルタを順に適用し最終的な局所復号画素を生成する回路である。そして、動き探索回路は、入力画像及び参照ピクチャ内の局所復号画素を用いてインター予測に用いる動きベクトルを生成する回路である。なお、局所復号画素は、ブロック圧縮部1014からフレームメモリ1015に出力される。
このブロック圧縮部1014は、参照する第二の復号パラメータの情報を参照パラメータ決定部1012から受け取り、ブロックデータの圧縮時に、隣接他ブロックの該当する復号パラメータのみを用いて圧縮処理を行う。この圧縮処理によって得られる、量子化DCT係数や動きベクトル等の圧縮情報は、ブロック圧縮部1014からブロック圧縮情報格納バッファ1016に出力される。
なお、ブロック圧縮部1014によって行われる各ブロックの圧縮処理の順番は、ブロック処理順番情報決定部1011から受け取る圧縮処理順番の情報によって切り替えられる。
フレームメモリ1015は、予測誤差画素と予測画素とを加算した直後の局所復号画素、及び、三種類の各ポストフィルタを適用した局所復号画素をブロック圧縮部1014から受け取って格納する。なお、これらの局所復号画素のうちの適応ノイズ除去フィルタを適応した局所復号画素が最終的な局所復号画素となる。また、フレームメモリ1015は、ブロック圧縮部1014に対し、予測誤差画素と予測画素とを加算した直後の局所復号画素、及び三種類の各ポストフィルタを適用した局所復号画素を出力する。
ブロック圧縮情報格納バッファ1016は、ブロック圧縮部1014での各ブロックの圧縮処理と、エントロピー符号化部1017での各ブロックのエントロピー符号化処理とが同期しない場合に用いられるものである。このような場合とは、例えば、前述したProcessingOrderIdxの値が「1」の場合がある。ブロック圧縮情報格納バッファ1016は、この場合に、ブロック圧縮部1014で先にブロック圧縮を行ったブロックの圧縮情報をバッファリングして一時保存する。
エントロピー符号化部1017は、ブロック圧縮情報格納バッファ1016から出力されるブロックの圧縮情報に対し、所定のエントロピー符号化方式に従ってエントロピー符号化処理を行って、符号化動画像データを生成する。なお、所定のエントロピー符号化方式としては、例えば、ハフマン符号化方式あるいは算術符号化方式(例えば、前述したCABAC)とすることができる。
なお、エントロピー符号化部1017は、参照する第一の復号パラメータの情報を参照パラメータ決定部1012から受け取り、ブロックデータのエントロピー符号化時に、隣接他ブロックの該当する復号パラメータのみを用いてエントロピー符号化処理を行う。また、エントロピー符号化部1017は、生成した符号化動画像データに、小領域情報決定部1010から出力される小領域情報と、ブロック処理順番情報決定部1011から出力されるブロック処理順番情報とを埋め込む。これらの埋め込まれる情報が、図5で例示したデータ311〜315である。
なお、エントロピー符号化部1017によって行われる各ブロックのエントロピー符号化処理の順番は、ブロック処理順番情報決定部1011から受け取るエントロピー符号化順番の情報によって切り替えられる。
次に、一つの実施形態による動画像復号処理の具体的な処理内容について、図12及び図13を参照しながら説明する。
図12及び図13は、一つの実施形態による動画像符号化処理の処理内容を表したフローチャートである。動画像符号化装置1000は、この動画像符号化処理をピクチャ毎に実行する。
まず、ステップS501において、小領域情報決定部1010が、小領域情報を決定する処理を行うと共に、ブロック処理順番情報決定部1011が、各ブロックの圧縮処理順番、及びエントロピー符号化順番を決定する処理を行う。小領域情報決定部1010により決定された小領域情報とブロック処理順番情報決定部1011により決定されたブロック処理順番情報とは、小領域情報決定部1010から参照パラメータ決定部1012及びエントロピー符号化部1017に出力される。これらの情報を受け取ったエントロピー符号化部1017は、受け取った小領域情報とブロック処理順番情報とを符号化動画像データに埋め込む処理を行う。
次に、ステップS502では、ブロック圧縮部1014が、ピクチャ内の全ブロックの圧縮処理が完了したかを調べる判定処理を行う。この判定処理の結果がYESの場合にはステップS505に処理が移行し、NOの場合にはステップS503に処理が移行する。
ステップS503では、小領域情報決定部1010から受け取った小領域情報及びブロック処理順番情報から、圧縮処理における処理ブロックの隣接ブロックへの参照関係を特定する処理を参照パラメータ決定部1012が行う。
次に、ステップS504では、ブロック圧縮部1014が、ブロック処理順番情報決定部1011により決定された圧縮処理順番と、ステップS503の処理により特定された隣接ブロックへの参照関係とに従って、各ブロックの圧縮処理を行う。このブロック圧縮処理の詳細については、後に図13を用いて説明する。
次に、ステップS505では、小領域情報とブロック処理順番情報決定部1011により決定された各ブロックのエントロピー符号化順番に従い、次にエントロピー符号化するブロックを特定する処理をエントロピー符号化部1017が行う。
その後、ステップS506において、エントロピー符号化部1017が、次にエントロピー符号化を行うブロックがブロック圧縮情報格納バッファ1016の中に存在するどうかを調べる判定処理を行う。この判定処理において、当該ブロックが存在すると判定された場合にはS507に処理が移行する。一方、当該ブロックが存在しないと判定された場合にはS502に処理が移行する。
ステップS507では、小領域情報決定部1010から受け取った小領域情報及びブロック処理順番情報から、エントロピー符号化における処理ブロックの隣接ブロックへの参照関係を特定する処理を参照パラメータ決定部1012が行う。
次に、ステップS508では、エントロピー符号化部1017が、所定のエントロピー符号化方式に従って、各ブロックのエントロピー符号化処理を行う。TileBoundaryIndependenceIdrが1の場合でかつ、直前にエントロピー符号化したブロックと、処理するブロックとの間に小領域境界が存在する場合のみ、エントロピー符号化のリセットを行う。TileBoundaryIndependenceIdrは、エントロピー符号化の順番が小領域内順次走査順の場合のみ1となるとする。
その後、ステップS509において、エントロピー符号化部1017が、全ブロックのエントロピー符号化処理を完了したか調べる。この判定処理の結果がYESの場合にはステップS510に処理が移行し、NOの場合にはステップS506に処理が移行する。
ステップS510では、ブロック圧縮部1014が、入力画像と局所復号画素値とから、適応画素オフセット及び適応ノイズ除去フィルタのパラメータを計算する処理を行う。この本パラメータは、次に符号化されるピクチャに適用される。なお、最初のピクチャでは、予め決定された初期値が用いられる。
このステップS510の処理が完了すると、ピクチャ毎の動画像符号化処理が完了する。
次に、図12のステップS504の処理である、ブロック単位の圧縮処理の詳細を、図13のフローチャートを参照しながら説明する。
まず、ステップS601では、ブロック圧縮部1014が、隣接ブロックへの参照関係に従い、隣接ブロックの復号パラメータをフレームメモリ1015から獲得する処理を行う。
次に、ステップS602では、ブロック圧縮部1014が、動きベクトル探索を行って最適動きベクトルを取得すると共に、最適な予測符号化モードを決定する処理を行う。この決定は、イントラ予測時の符号化コストとインター予測時の符号化コストとを比較し、コストが小さい方を、処理ブロックにとって最適な符号化モードとすることによって行われる。
その後、ステップS603において、決定された符号化モードがイントラ予測符号化モードであるか否かを判定する処理をブロック圧縮部1014が行う。ここで、決定された符号化モードがイントラ予測符号化モードであると判定されたときはステップS604へ処理が移行する。一方、決定された符号化モードがイントラ予測符号化モードではない(インター予測符号化モードである)と判定されたときはステップS606へ処理が移行する。
次に、ステップS604では、ブロック圧縮部1014が、圧縮処理ブロックの上側及び左側の隣接ブロックから、参照可能な局所復号画素値のみを用いてイントラ予測参照画素を取得する処理を行う。ここで、上側及び左側の隣接ブロックの局所復号画素値が参照可能な場合は、その局所復号画素値がそのままイントラ予測参照画素となる。
次に、ステップS605では、ブロック圧縮部1014が、S604で取得したイントラ予測参照画素を用いて、イントラ予測符号化における予測画素(イントラ予測画素)を生成する処理を行う。このステップS605の処理の完了後は、ステップS607に処理が移行する。
ステップS606では、ブロック圧縮部1014が、ステップS602の処理により取得した復号した動きベクトル情報を用いて、インター予測符号化における予測画素(インター予測画素)を生成する処理を行う。
次に、ステップS607では、ブロック圧縮部1014が予測誤差を生成する処理を行う。この予測誤差は、処理対象のブロックの画素値から、ステップS605の処理により生成されたイントラ予測画素、若しくは、ステップS606の処理により生成されたインター予測画素の画素値を減算することによって生成される。
次に、ステップS608では、ブロック圧縮部1014が、ステップS607の処理によって生成された予測誤差に対して直交変換及び量子化を施して、量子化DCT係数を生成する処理を行う。
次に、ステップS609では、ブロック圧縮部1014が、ステップS608の処理によって生成された量子化DCT係数に対して逆量子化及び逆直交変換を施して、各画素の予測誤差を復元する処理を行う。
次に、ステップS610では、ブロック圧縮部1014が、ステップS609の処理によって復元された各画素の予測誤差を、予測画像の対応画素の値に加えることによって、画素値を復元する処理を行う。
次に、ステップS611では、ブロック圧縮部1014が、参照可能な局所復号画素値のみを用いて、処理ブロックに対して、その上側及び左側の隣接ブロックからデブロッキングフィルタ処理を施す処理を行う。
次に、ステップS612では、ブロック圧縮部1014が、処理ブロックに隣接する局所復号済のブロックのうちの、参照可能である、デブロッキングフィルタ後の局所復号画素値のみを用いて、適応画素オフセット処理を実施する。なお、適応画素オフセットに使用するパラメータは、図12のステップS510の処理により算出される。
次に、ステップS613では、ブロック圧縮部1014が、処理ブロックに隣接する局所復号済のブロックのうちの、参照可能である、適応画素オフセット後の局所復号画素値のみを用いて適応ノイズ除去フィルタ処理を実施する。なお、適応ノイズ除去フィルタに使用するパラメータも、図12のステップS510の処理により算出される。
次に、ステップS614では、ブロック圧縮部1014が、量子化DCT係数や動きベクトル等の符号化パラメータを、圧縮情報として出力する処理を行う。なお、符号化パラメータのうちの動きベクトルは、動きベクトルの予測値との差分を圧縮情報とする。
このステップS614の処理が完了すると、図13に図解したブロック単位の圧縮処理が終了し、その後は図12のS505に処理が移行する。
なお、コンピュータ上で実行されることにより、上述した実施形態又はその変形例による動画像復号装置若しくは動画像符号化装置の各部の機能を実現するコンピュータプログラムは、半導体メモリ又は光記録媒体などの記録媒体に記録されて配布されてもよい。
上述した実施形態又はその変形例による動画像復号装置若しくは動画像符号化装置は、様々な用途に利用される。例えば、この動画像復号装置若しくは動画像符号化装置は、ビデオカメラ、映像送信装置、映像受信装置、テレビ電話システム、コンピュータあるいは携帯電話機に組み込まれる。
ここに挙げられた全ての例及び特定の用語は、読者が、本発明及び当該技術の促進に対する本発明者により寄与された概念を理解することを助ける、教示的な目的において意図されたものである。これらの全ての例及び特定の用語は、本発明の優位性及び劣等性を示すことに関する、本明細書の如何なる例の構成、そのような特定の挙げられた例及び条件に限定しないように解釈されるべきものである。本発明の実施形態は詳細に説明されているが、本発明の精神及び範囲から外れることなく、様々な変更、置換及び修正をこれに加えることが可能であることを理解されたい。
10、20、601、602 ピクチャ
11、21、611、612、613、614、
621、622、623、624 小領域
12、22、651、661、662 矢線
100 動画像復号装置
110 エントロピー復号部
111 小領域情報抽出部
112 ブロック処理順番情報抽出部
113 参照パラメータ決定部
114 ブロック圧縮情報格納バッファ
115 ブロック伸長部
116 フレームメモリ
201、202、203、204、205 ピクチャ
211 クリーン領域
212 非クリーン領域
311、312、313、314、315 データ
700 適応ノイズ除去フィルタ適用前の復号画素
701、801 小領域境界
702 適応ノイズ除去フィルタ適用対象の画素
703 領域
750 みなし画素値
800 デブロッキングフィルタ処理適用前の復号画素
802 デブロッキングフィルタ処理適用時に参照される画素
811 デブロッキングフィルタ処理を行った後の画素
1000 動画像符号化装置
1010 小領域情報決定部
1011 ブロック処理順番情報決定部
1012 参照パラメータ決定部
1013 画像バッファ
1014 ブロック圧縮部
1015 フレームメモリ
1016 ブロック圧縮情報格納バッファ
1017 エントロピー符号化部

Claims (12)

  1. ピクチャを、少なくとも一つのブロックを含む、互いに重複しない二つ以上の小領域に分割して符号化した符号化動画像データを復号する動画像復号装置であって、
    前記符号化動画像データから、各小領域の位置情報と他の小領域への参照関係情報とから構成される小領域情報を抽出する小領域情報抽出部と、
    前記符号化動画像データから、前記ピクチャ内の各ブロックのエントロピー復号処理及び前記ピクチャ内の各ブロックの伸長処理の順番を表すブロック処理順番情報を抽出するブロック処理順番情報抽出部と、
    前記ピクチャ内の各ブロックのエントロピー復号処理時に参照する第一の復号パラメータである、同一ピクチャ内の復号済の他ブロックの復号パラメータと、前記ピクチャ内の各ブロックの伸長処理時に参照する第二の復号パラメータである、同一ピクチャ内の復号済の他ブロックの復号パラメータとを、前記小領域情報を用いて決定する参照パラメータ決定部と、
    前記符号化動画像データに対する、前記ピクチャ内の各ブロックのエントロピー復号処理を、前記ブロック処理順番情報に従った順番で、前記第一の復号パラメータのみを参照して行うことによって、前記ピクチャ内の各ブロックの圧縮情報を生成するエントロピー復号部と、
    前記ピクチャ内の各ブロックの伸長処理を、前記ブロック処理順番情報に従った順番で、前記ピクチャ内の各ブロックの圧縮情報のうちの前記第二の復号パラメータのみを参照して行うことによって、前記ピクチャ内の各ブロックの復号パラメータを生成するブロック伸長部と、
    を備え、
    前記ブロック処理順番情報は、前記エントロピー復号処理について、ピクチャ内順次走査順と小領域内順次走査順とのどちらかを表しており、
    前記ブロック処理順番情報が前記エントロピー復号処理の順番としてピクチャ内順次走査順を表している場合には、前記エントロピー復号処理においては、小領域境界でのリセット処理を行わず、且つ、前記第一の復号パラメータのうちの異なる小領域内のブロックについての復号パラメータを参照する、
    ことを特徴とする動画像復号装置。
  2. 請求項1に記載の動画像復号装置であって、
    前記他の小領域への参照関係情報は、前記第一の復号パラメータ及び前記第二の復号パラメータに関するブロックの従属性を表す従属性情報と、各ブロック間の優先度を表す優先度情報とを含み、
    前記エントロピー復号処理及び前記伸長処理の各々における処理対象のブロックについての第一の復号パラメータ及び第二の復号パラメータは、
    前記従属性情報が、該当復号パラメータの「従属性有り」を示す場合には、全ての隣接ブロックについての、第一の復号パラメータ及び第二の復号パラメータであり、
    前記従属性情報が、該当復号パラメータの「双方向の従属性無し」を示す場合には、処理対象のブロックを含む小領域と同じ小領域に含まれる全ての隣接ブロックの、第一の復号パラメータ及び第二の復号パラメータであり、
    前記従属性情報が、該当復号パラメータの「一方向の従属性有り」を示す場合には、全ての隣接ブロックについての第一の復号パラメータ、及び処理対象のブロックを含む小領域と優先度が同じ、若しくは高い小領域に含まれることが前記優先度情報により表されている全ての隣接ブロックの、第二の復号パラメータである、
    ことを特徴とする動画像復号装置。
  3. 請求項2に記載の動画像復号装置であって、
    前記第二の復号パラメータは、イントラ予測方向情報及び量子化スケール情報を含んでおり、
    前記従属性情報が、前記第二の復号パラメータの「一方向の従属性有り」を示す場合には、前記伸長処理における処理対象のブロックについての第二の復号パラメータのうちの復元イントラ予測方向及び量子化スケール情報は、全ての隣接ブロックの復元イントラ予測方向及び量子化スケール情報である、
    ことを特徴とする動画像復号装置。
  4. 請求項2に記載の動画像復号装置であって、
    前記第二の復号パラメータは、動きベクトル情報を含んでおり、
    前記符号化動画像データには、動きベクトル情報の伸長処理において、インター予測参照ピクチャの動きベクトルを用いるか否かを示す動きベクトル時間方向参照フラグが付加されており、
    前記従属性情報が、前記第二の復号パラメータの「一方向の従属性有り」を示す場合には、前記伸長処理における処理対象のブロックについての第二の復号パラメータのうちの動きベクトル情報は、全ての隣接ブロックの動きベクトル情報である、
    ことを特徴とする動画像復号装置。
  5. 請求項2に記載の動画像復号装置であって、
    前記従属性情報が、前記第二の復号パラメータの「一方向の従属性有り」を示す場合には、
    前記伸長処理における処理対象のブロックを含む小領域の優先度が、隣接ブロックを含む小領域の優先度より高い場合には、該隣接ブロックの第二の復号パラメータを用いて、隣接ブロック内の画素のデブロッキングフィルタ処理を行うが、該処理対象のブロックについてはデブロッキングフィルタ処理を行わず、
    前記伸長処理における処理対象のブロックを含む小領域の優先度が、隣接ブロックを含む小領域の優先度より低い場合には、隣接ブロックの第二の復号パラメータを用いて、該処理対象ブロック内の画素のデブロッキングフィルタ処理を行うが、隣接ブロックについてはデブロッキングフィルタ処理を行わない、
    ことを特徴とする動画像復号装置。
  6. ピクチャを、少なくとも一つのブロックを含む、互いに重複しない二つ以上の小領域に分割して符号化して、符号化動画像データを生成する動画像符号化装置であって、
    前記符号化動画像データに挿入される、各小領域の位置情報と他の小領域への参照関係情報とから構成される小領域情報を決定する小領域情報決定部と、
    前記符号化動画像データに挿入される情報であって、前記ピクチャ内の各ブロックのエントロピー符号化処理及び前記ピクチャ内の各ブロックの圧縮処理の順番を表す情報であるブロック処理順番情報を決定するブロック処理順番情報決定部と、
    前記小領域情報を用いて、前記ピクチャ内の各ブロックのエントロピー符号化処理時に参照する第一の復号パラメータである、同一ピクチャ内のエントロピー符号化済の他ブロックの局所復号パラメータと、前記ピクチャ内の各ブロックの圧縮処理時に参照する第二の復号パラメータである、同一ピクチャ内の局所復号済の他ブロックの局所復号パラメータとを決定する参照パラメータ決定部と、
    前記ピクチャ内の各ブロックに対する圧縮処理を、前記ブロック処理順番情報に従った順番で、前記第二の復号パラメータのみを参照して行うことによって、前記ピクチャ内の各ブロックの圧縮情報を生成するブロック圧縮部と、
    前記ピクチャ内の各ブロックの圧縮情報に対するエントロピー符号化処理を、前記ブロック処理順番情報に従った順番で、前記第一の復号パラメータのみを参照して行うことによって、前記ピクチャ内の各ブロックの符号化データを生成するエントロピー符号化部と、
    を備え、
    前記ブロック処理順番情報は、前記エントロピー符号化処理について、ピクチャ内順次走査順と小領域内順次走査順とのどちらかを表しており、
    前記ブロック処理順番情報が前記エントロピー符号化処理の順番としてピクチャ内順次走査順を表している場合には、前記エントロピー符号化処理においては、小領域境界でのリセット処理を行わず、且つ、前記第一の復号パラメータのうちの異なる小領域内のブロックについての復号パラメータを参照する、
    ことを特徴とする動画像符号化装置。
  7. 請求項6に記載の動画像符号化装置であって、
    前記他の小領域への参照関係情報は、前記第一の復号パラメータ及び前記第二の復号パラメータに関するブロックの従属性を表す従属性情報と、各ブロック間の優先度を表す優先度情報とを含み、
    前記エントロピー符号化処理及び前記圧縮処理の各々における処理対象のブロックについての第一の復号パラメータ及び第二の復号パラメータは、
    前記従属性情報が、該当復号パラメータの「従属性有り」を示す場合には、全ての隣接ブロックについての、第一の復号パラメータ及び第二の復号パラメータであり、
    前記従属性情報が、該当復号パラメータの「双方向の従属性無し」を示す場合には、処理対象のブロックを含む小領域と同じ小領域に含まれる全ての隣接ブロックの、第一の復号パラメータ及び第二の復号パラメータであり、
    前記従属性情報が、該当復号パラメータの「一方向の従属性有り」を示す場合には、全ての隣接ブロックについての第一の復号パラメータ、及び処理対象のブロックを含む小領域と優先度が同じ、若しくは高い小領域に含まれることが前記優先度情報により表されている全ての隣接ブロックの、第二の復号パラメータである、
    ことを特徴とする動画像符号化装置。
  8. 請求項7に記載の動画像符号化装置であって
    前記第二の復号パラメータは、イントラ予測方向情報及び量子化スケール情報を含んでおり、
    前記従属性情報が、前記第二の復号パラメータの「一方向の従属性有り」を示す場合には、前記圧縮処理における処理対象のブロックについての第二の復号パラメータのうちの復元イントラ予測方向及び量子化スケール情報は、全ての隣接ブロックの復元イントラ予測方向及び量子化スケール情報である、
    ことを特徴とする動画像符号化装置。
  9. 請求項7に記載の動画像符号化装置であって、
    前記第二の復号パラメータは、動きベクトル情報を含んでおり、
    前記符号化動画像データには、動きベクトル情報の圧縮処理に、インター予測参照ピクチャの動きベクトルを用いるか否かを示す動きベクトル時間方向参照フラグが付加されており、
    前記従属性情報が、第二の復号パラメータの「一方向の従属性有り」を示す場合には、前記圧縮処理における処理対象のブロックについての第二の復号パラメータのうちの動きベクトル情報は、全ての隣接ブロックの動きベクトル情報である、
    ことを特徴とする動画像符号化装置。
  10. 請求項7に記載の動画像符号化装置であって、
    前記従属性情報が、第二の復号パラメータの「一方向の従属性有り」を示す場合には、
    前記圧縮処理における処理対象のブロックを含む小領域の優先度が、隣接ブロックを含む小領域の優先度より高い場合には、該隣接ブロックの第二の復号パラメータを用いて、隣接ブロック内の画素のデブロッキングフィルタ処理を行うが、該処理対象のブロックについてはデブロッキングフィルタ処理を行わず、
    前記圧縮処理における処理対象のブロックを含む小領域の優先度が、隣接ブロックを含む小領域の優先度より低い場合には、該隣接ブロックの第二の復号パラメータを用いて、該処理対象ブロック内の画素のデブロッキングフィルタ処理を行うが、隣接ブロックについてはデブロッキングフィルタ処理を行わない、
    ことを特徴とする動画像符号化装置。
  11. ピクチャを、少なくとも一つのブロックを含む、互いに重複しない二つ以上の小領域に分割して符号化した符号化動画像データを復号する動画像復号方法であって、
    前記符号化動画像データから、各小領域の位置情報と他の小領域への参照関係情報とから構成される小領域情報を抽出し、
    前記符号化動画像データから、前記ピクチャ内の各ブロックのエントロピー復号処理及び前記ピクチャ内の各ブロックの伸長処理の順番を表すブロック処理順番情報を抽出し、
    前記ピクチャ内の各ブロックのエントロピー復号処理時に参照する第一の復号パラメータである、同一ピクチャ内の復号済の他ブロックの復号パラメータと、前記ピクチャ内の各ブロックの伸長処理時に参照する第二の復号パラメータである、同一ピクチャ内の復号済の他ブロックの復号パラメータとを、前記小領域情報を用いて決定し、
    前記符号化動画像データに対する、前記ピクチャ内の各ブロックのエントロピー復号処理を、前記ブロック処理順番情報に従った順番で、前記第一の復号パラメータのみを参照して行うことによって、前記ピクチャ内の各ブロックの圧縮情報を生成し、
    前記ピクチャ内の各ブロックの伸長処理を、前記ブロック処理順番情報に従った順番で、前記ピクチャ内の各ブロックの圧縮情報のうちの前記第二の復号パラメータのみを参照して行うことによって、前記ピクチャ内の各ブロックの復号パラメータを生成し、
    前記ブロック処理順番情報が前記ピクチャ内の各ブロックのエントロピー復号処理順番としてピクチャ内順次走査順を表している場合には、前記エントロピー復号処理においては、小領域境界にてエントロピー復号のリセットを行わず、且つ、前記第一の復号パラメータのうちの異なる小領域内のブロックについての復号パラメータを参照する、
    ことを特徴とする動画像復号方法。
  12. ピクチャを、少なくとも一つのブロックを含む、互いに重複しない二つ以上の小領域に分割して符号化して、符号化動画像データを生成する動画像符号化方法であって、
    前記符号化動画像データに挿入される、各小領域の位置情報と他の小領域への参照関係情報とから構成される小領域情報を決定し、
    前記符号化動画像データに挿入される情報であって、前記ピクチャ内の各ブロックのエントロピー符号化処理及び前記ピクチャ内の各ブロックの圧縮処理の順番を表す情報であるブロック処理順番情報を決定し、
    前記小領域情報を用いて、前記ピクチャ内の各ブロックのエントロピー符号化処理時に参照する第一の復号パラメータである、同一ピクチャ内のエントロピー符号化済の他ブロックの局所復号パラメータと、前記ピクチャ内の各ブロックの圧縮処理時に参照する第二の復号パラメータである、同一ピクチャ内の局所復号済の他ブロックの局所復号パラメータとを決定し、
    前記ピクチャ内の各ブロックに対する圧縮処理を、前記ブロック処理順番情報に従った順番で、前記第二の復号パラメータのみを参照して行うことによって、前記ピクチャ内の各ブロックの圧縮情報を生成し、
    前記ピクチャ内の各ブロックの圧縮情報に対するエントロピー符号化処理を、前記ブロック処理順番情報に従った順番で、前記第一の復号パラメータのみを参照して行うことによって、前記ピクチャ内の各ブロックの符号化データを生成し、
    前記ブロック処理順番情報が前記ピクチャ内の各ブロックのエントロピー符号化処理順番としてピクチャ内順次走査順を表している場合には、前記エントロピー符号化処理においては、小領域境界にてエントロピー符号化のリセットを行わず、且つ、第一の復号パラメータのうちの異なる小領域内のブロックの復号パラメータを参照する、ことを特徴とする動画像符号化方法。
JP2011239454A 2011-10-31 2011-10-31 動画像復号装置、動画像符号化装置、動画像復号方法、及び動画像符号化方法 Expired - Fee Related JP5760953B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011239454A JP5760953B2 (ja) 2011-10-31 2011-10-31 動画像復号装置、動画像符号化装置、動画像復号方法、及び動画像符号化方法
US13/651,862 US9078000B2 (en) 2011-10-31 2012-10-15 Moving image decoding apparatus, moving image encoding apparatus, moving image decoding method and moving image encoding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011239454A JP5760953B2 (ja) 2011-10-31 2011-10-31 動画像復号装置、動画像符号化装置、動画像復号方法、及び動画像符号化方法

Publications (2)

Publication Number Publication Date
JP2013098734A JP2013098734A (ja) 2013-05-20
JP5760953B2 true JP5760953B2 (ja) 2015-08-12

Family

ID=48172421

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011239454A Expired - Fee Related JP5760953B2 (ja) 2011-10-31 2011-10-31 動画像復号装置、動画像符号化装置、動画像復号方法、及び動画像符号化方法

Country Status (2)

Country Link
US (1) US9078000B2 (ja)
JP (1) JP5760953B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5973766B2 (ja) * 2012-03-30 2016-08-23 キヤノン株式会社 画像処理装置
CN107749985B (zh) * 2012-06-25 2020-05-15 日本电气株式会社 视频解码设备和视频解码方法
US10904551B2 (en) 2013-04-05 2021-01-26 Texas Instruments Incorporated Video coding using intra block copy
JP6208993B2 (ja) * 2013-06-28 2017-10-04 ルネサスエレクトロニクス株式会社 画像復号装置及び画像復号装置の復号処理方法
JP2015015595A (ja) * 2013-07-04 2015-01-22 富士通株式会社 動画像符号化装置、符号化モード判定方法及び符号化プログラム
US10313682B2 (en) * 2013-08-26 2019-06-04 Qualcomm Incorporated Determining regions when performing intra block copying
WO2016143093A1 (ja) * 2015-03-11 2016-09-15 株式会社日立製作所 動画像符号化装置及びそれに用いるIntra予測符号化方法、及び動画像復号化装置
KR20170102806A (ko) * 2016-03-02 2017-09-12 한국전자통신연구원 비디오 신호 부호화/복호화 방법 및 이를 위한 장치
JP7359653B2 (ja) * 2019-11-06 2023-10-11 ルネサスエレクトロニクス株式会社 動画像符号化装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06101841B2 (ja) 1984-01-11 1994-12-12 日本電気株式会社 動画像信号の符号化方法およびその装置
JPH06113286A (ja) 1992-09-30 1994-04-22 Matsushita Electric Ind Co Ltd 高能率符号化装置
ES2191177T3 (es) * 1996-05-17 2003-09-01 Matsushita Electric Ind Co Ltd Decodificador de imagenes.
FR2809917B1 (fr) * 2000-05-30 2002-08-30 Cit Alcatel Codage d'image par segments avec prediction du mouvement
FI114679B (fi) * 2002-04-29 2004-11-30 Nokia Corp Satunnaisaloituspisteet videokoodauksessa
JP4276420B2 (ja) 2002-11-05 2009-06-10 三菱電機株式会社 動き補償方法
US20050201470A1 (en) * 2004-03-12 2005-09-15 John Sievers Intra block walk around refresh for H.264
JP4453518B2 (ja) * 2004-10-29 2010-04-21 ソニー株式会社 符号化及び復号装置並びに符号化及び復号方法
JP4647558B2 (ja) * 2006-07-27 2011-03-09 日本電信電話株式会社 映像符号化並列処理方法,映像符号化装置,映像符号化プログラムおよびその記録媒体
WO2009037726A1 (ja) 2007-09-18 2009-03-26 Fujitsu Limited 動画像符号化装置および動画像復号装置
US8542748B2 (en) * 2008-03-28 2013-09-24 Sharp Laboratories Of America, Inc. Methods and systems for parallel video encoding and decoding
JP5246264B2 (ja) * 2008-09-09 2013-07-24 日本電気株式会社 画像符号化装置、画像復号化装置、画像符号化方法及び画像復号化方法
JP2011217082A (ja) * 2010-03-31 2011-10-27 Jvc Kenwood Corp 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム

Also Published As

Publication number Publication date
JP2013098734A (ja) 2013-05-20
US9078000B2 (en) 2015-07-07
US20130107941A1 (en) 2013-05-02

Similar Documents

Publication Publication Date Title
JP5760953B2 (ja) 動画像復号装置、動画像符号化装置、動画像復号方法、及び動画像符号化方法
US10887604B2 (en) Signalling of filtering information
EP3417615B1 (en) Merging filters for multiple classes of blocks for video coding
US10484712B2 (en) Implicit coding of reference line index used in intra prediction
EP3459245B1 (en) Confusion of multiple filters in adaptive loop filtering in video coding
JP6412910B2 (ja) ビデオを復号化する方法、ビデオを符号化する方法、デコーダ、エンコーダ、復号プログラムを記録したコンピュータ読み取り可能な記録媒体、および符号化プログラムを記録したコンピュータ読み取り可能な記録媒体
EP3205092B1 (en) Intra block copy prediction restrictions for parallel processing
CN117676163A (zh) 解码器的视频解码方法及装置
US9591305B2 (en) Moving image decoding apparatus, moving image decoding method and moving image encoding apparatus, and moving image encoding method
EP3563572A1 (en) Motion vector generation for affine motion model for video coding
US20130003849A1 (en) Video coding using adaptive motion vector resolution
US20130148735A1 (en) Apparatus for decoding motion information in merge mode
US20060262979A1 (en) Skip macroblock coding
US20070098078A1 (en) Method and apparatus for video encoding/decoding
KR20180074000A (ko) 비디오 디코딩 방법, 이를 수행하는 비디오 디코더, 비디오 인코딩 방법, 및 이를 수행하는 비디오 인코더
TW201444350A (zh) 方形區塊預測
JP2015525988A (ja) 3dビデオコーディングのための深度マップのイントラコーディング
JP6747430B2 (ja) 画像処理装置、画像処理方法及びプログラム
KR101968700B1 (ko) 디지털화된 이미지들의 시퀀스를 코딩하기 위한 방법
KR100824161B1 (ko) 화상 처리 장치
Nguyen et al. A fast watermarking system for H. 264/AVC video
KR20170125154A (ko) 곡선 화면 내 예측을 사용하는 비디오 복호화 방법 및 장치
KR101895294B1 (ko) 프리 스캔을 이용한 블록 기반 동영상 복호화 방법 및 그 장치
KR20230081723A (ko) 샘플 패딩을 이용한 인트라 블록 카피 예측을 위한 방법 및 장치
KR20160105203A (ko) 멀티미디어 코덱, 상기 멀티미디어 코덱을 포함하는 애플리케이션 프로세서, 및 상기 애플리케이션 프로세서의 동작 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140704

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150310

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150512

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150525

R150 Certificate of patent or registration of utility model

Ref document number: 5760953

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees