JP2020025150A - 画像フィルタ装置 - Google Patents

画像フィルタ装置 Download PDF

Info

Publication number
JP2020025150A
JP2020025150A JP2016234014A JP2016234014A JP2020025150A JP 2020025150 A JP2020025150 A JP 2020025150A JP 2016234014 A JP2016234014 A JP 2016234014A JP 2016234014 A JP2016234014 A JP 2016234014A JP 2020025150 A JP2020025150 A JP 2020025150A
Authority
JP
Japan
Prior art keywords
offset
pixel
unit
image
pixel value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016234014A
Other languages
English (en)
Inventor
友子 青野
Tomoko Aono
友子 青野
知宏 猪飼
Tomohiro Igai
知宏 猪飼
貴也 山本
Takaya Yamamoto
貴也 山本
知典 橋本
Tomonori Hashimoto
知典 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2016234014A priority Critical patent/JP2020025150A/ja
Priority to PCT/JP2017/041624 priority patent/WO2018101100A1/ja
Publication of JP2020025150A publication Critical patent/JP2020025150A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】POとSAOの組み合わせにおいて冗長な部分を削除し、あるいはいくつかの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理量の増加を抑えつつ符号化効率を従来よりも向上させる。【解決手段】符号化単位の各画素値に第１のオフセットを加算する画像フィルタ装置において、対象画素に対し２次元方向の画素値の変化パターンを示すカテゴリ、および２次元方向の画素値の変化量を示すクラスを設定し、符号化データから復号されたオフセットの中から、前記カテゴリとクラスを参照して求めたオフセットを対象画素値に加算する時に、カテゴリおよびクラスを設定するために、対象画素の隣接画素を参照画素として利用し、参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替える。【選択図】図２５

Description

本発明の実施形態は、画像フィルタ装置に関する。
動画像を効率的に伝送または記録するために、動画像を符号化することによって符号化データを生成する画像符号化装置、および、当該符号化データを復号することによって復号画像を生成する画像復号装置が用いられている。
具体的な動画像符号化方式としては、例えば、H.264/AVCやHEVC（High-Efficiency Video Coding）にて提案されている方式などが挙げられる。
このような動画像符号化方式においては、動画像を構成する画像（ピクチャ）は、画像を分割することにより得られるスライス、スライスを分割することにより得られる符号化単位（符号化ユニット（Coding Unit：CU）と呼ばれることもある）、および、符号化単
位を分割することより得られるブロックである予測ユニット（PU）、変換ユニット（TU）からなる階層構造により管理され、CUごとに符号化／復号される。
また、このような動画像符号化方式においては、通常、入力画像を符号化／復号することによって得られる局所復号画像に基づいて予測画像が生成され、当該予測画像を入力画像（原画像）から減算して得られる予測残差（「差分画像」または「残差画像」と呼ぶこともある）が符号化される。予測画像の生成方法としては、画面間予測（インター予測）、および、画面内予測（イントラ予測）が挙げられる。さらに、復号画像に対し、視覚的な歪除去を目的としたループフィルタの適用が一般的になっている。
また、近年の動画像符号化および復号の技術として非特許文献１が挙げられる。
さらに、近年では、ループフィルタとしてデブロッキングフィルタ、サンプル適応オフセット（SAO）、適応ループフィルタ（ALF）に加え、非特許文献２のピークSAOも提案さ
れている。
以上のとおり、複数のループフィルタが存在し、各々異なる効果を持っているものの、中には重複する効果もあり、ループフィルタの組み合わせ方にも工夫が必要になってきている。
"Algorithm Description of Joint Exploration Test Model 4", JVET-D1001, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 15-21 October 2016 "Peak Sample Adaptive Offset", JVET-D0133, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 15-21 October 2016
復号画像に適用するループフィルタの種類は、デブロッキングフィルタ、SAO、ALF、ピークSAO（PO）と増えており、特に、SAOのオフセットタイプEOは１次元方向の画素値の変
化を用い、POは画像の２次元方向の画素値の変化を用いる違いはあるが、双方とも対象画素と参照画素との画素値の変化を用いる点で類似している。そのため、冗長な部分が存在し、あるいは導出する情報を共有することでSAOとPOを合わせた符号化効率を向上させる
ことができるが、これらの点はまだ十分に考慮されていない。
そこで、本発明はPOとSAOの組み合わせにおいて冗長な部分を削除し、あるいはいくつ
かの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理量の増加を抑えつつ符号化効率を従来よりも向上させることを目的とする。
本願の実施形態は、残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、符号化データから復号された第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替える。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、符号化データから復号された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットを加算する。これにより、２次元方向の画素値の変化からはオフセットの加算が不要でも、１次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
本願の実施形態は、前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、符号化データから復号された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第１のフィルタ装置の第１の加算部は第２の加算部で第２のオフセットを加算した画素に対しては、第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しない。これにより、１次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに２次元方向の画素値の変化を考慮したオフセットを加算することができる。
本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第
２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、符号化データから復号された第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
本願の実施形態は、残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、第１のオフセット算出部された第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替えることを特徴とする第１の画像フィルタ装置を備える画像フィルタ装置。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、第２のオフセット算出部された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットを加算する。これにより、２次元方向の画素値の変化からはオフセットの加算が不要でも、１次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
本願の実施形態は、前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、第２のオフセット算出部された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第１のフィルタ装置の第１の加算部は第２の加算部で第２のオフセットを加算した画素に対しては、第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しないことを特徴とする画像フィルタ装置。これにより、１次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに２次元方向の画素値の変化を考慮したオフセットを加算することができる。
本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の
変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、第２のオフセット算出部された第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行う。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
本願の実施形態は、２次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理を、２つの１次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理の組み合わせで表現する。２つの１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する画像フィルタは、対象画素に対し、異なる１次元方向を示す２つのクラス、クラスの示す方向の画素値の変化パターンを示す２つのカテゴリ、および対象画素値の範囲を示すバンド位置を設定する設定部と、符号化データから復号されたオフセットの中から、前記カテゴリを参照して求めた２つのオフセットを前記対象画素値に加算する加算部とを備え、加算部は前記２つのオフセットの平均を対象画素に加算する。これにより、２つの１次元方向フィルタの組み合わせで表現することで、冗長な処理を削除し、かつ、１次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。
本願の実施形態は、１次元方向の画素値の変化を利用するフィルタ（第２のフィルタ）、および２次元方向の画素値の変化を利用するフィルタ（第１のフィルタ）の参照画素位置の情報を共有する。第１のフィルタの後で第２のフィルタを適用する場合、第１のフィルタで使用した参照画素位置を参照して第２のフィルタの参照画素位置を決定する。第２のフィルタの後で第１のフィルタを適用する場合、第２のフィルタで使用した参照画素位置を参照して第１のフィルタの参照画素位置を決定する。これにより、参照画素位置の導出処理を共通化できるため、冗長な処理を削減することができる。
本願の実施形態は、ピクチャパラメータセット、またはスライスヘッダにおいて、第１のフィルタのクラスの最大数と、正規化係数を符号化し、CTUレベルでは画素値の変化量
に関係の深いパラメータを用いてPOクラスの最大数と、正規化係数を推定する。画素値の変化量に関係の深いパラメータとして量子化幅QPやCUサイズを使用する。これにより、CTU毎に第１のフィルタのクラスの最大数と、正規化係数を符号化しなくてよいので、符号
量を削減しつつ、細かいオフセットの調整ができる。
本願の実施形態は、値が小さい２回目のフィルタ処理のオフセットを１回目のフィルタ処理のオフセットの最大値以下とする。また、１回目の処理のオフセットのバイナリゼーションは大きな入力値で符号量が大きくなりにくい符号化方法を選択し、２回目の処理のオフセットのバイナリゼーションは小さな入力値で符号量が小さくなりやすい符号化方法を選択する。これにより、２回目の処理で使用するオフセットの符号量を、１回目の処理で使用する符号量よりも削減することができる。
本発明に係る形態によれば、POとSAOの組み合わせにおいて冗長な部分を削除し、ある
いはいくつかの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理
量の増加を抑えつつ符号化効率を従来よりも向上させることができる。
実施形態１に係る画像伝送システムの構成を示す概略図である。 実施形態１に係る符号化ストリームのデータの階層構造を示す図である。 PU分割モードのパターンを示す図である。（ａ）〜（ｈ）は、それぞれ、PU分割モードが、2Nx2N、2NxN、2NxnU、2NxnD、Nx2N、nLx2N、nRx2N、および、NxNの場合のパーティション形状について示している。 参照ピクチャおよび参照ピクチャリストの一例を示す概念図である。 実施形態１に係る画像復号装置の構成を示すブロック図である。 実施形態１に係る画像符号化装置の構成を示すブロック図である。 SAOのEOのクラス毎の対象画素と参照画素の関係を示す図である。 実施形態１に係る画像符号化装置を搭載した送信装置、および、画像復号装置を搭載した受信装置の構成について示した図である。（ａ）は、画像符号化装置を搭載した送信装置を示しており、（ｂ）は、画像復号装置を搭載した受信装置を示している。 実施形態１に係る画像符号化装置を搭載した記録装置、および、画像復号装置を搭載した再生装置の構成について示した図である。（ａ）は、画像符号化装置を搭載した記録装置を示しており、（ｂ）は、画像復号装置を搭載した再生装置を示している。 図５に示すSAO部314のブロック図である。 図１０に示すカテゴリ設定部の動作を示すフローチャートである。 SAOのカテゴリ毎の対象画素と参照画素の画素値の大小関係を示す図である。 実施形態１に係るPOの対象画素と参照画素の関係を示す図である。 実施形態１に係るPOの対象画素と参照画素の関係を示す図である。 実施形態５に係るSAOのEOとPOにおける対象画素と参照画素の関係を示す図である。 SAOのBOのバンドを説明する図である。 図６に示すSAO_E部115のブロック図である。 図１７のオフセット算出部の動作を示すフローチャートである。 図１７のオフセット情報選択部の動作を示すフローチャートである。 PO部のブロック図である。 図２０のPOカテゴリ/POクラス設定部の動作を示すフローチャートである。 PO_E部のブロック図である。 図２２のPOオフセット算出部の動作を示すフローチャートである。 実施形態２の１次元EOの組み合わせ表である。 図２０のPOカテゴリ/POクラス設定部の動作を示すフローチャートの別の一例である。 図２０のPOカテゴリ/POクラス設定部の変形例１における動作を示すフローチャートである。 変形例１におけるSAO部の動作を示すフローチャートである。 変形例２における復号装置側のSAO部とPO部のブロック図である。 変形例２における符号化装置側のSAO_E部とPO_E部のブロック図である。 変形例２のカテゴリ設定部の動作を示すフローチャートである。 変形例２のPOカテゴリ/POクラス設定部の動作を示すフローチャートである。 実施形態３の１次元EOの組み合わせとpcatの関係を示す表である。 実施形態６のCmaxの算出に使用する（α、β）を示す表である。 実施形態２のカテゴリ設定部の動作を示すフローチャートである。 実施形態２のオフセット情報選択部の動作を示すフローチャートである。 実施形態７でオフセットのバイナリゼーションに用いる可変長符号表の一例である。 実施形態３のPO部およびSAO部の動作を示すフローチャートである。 実施形態４のPO部およびSAO部の動作を示すフローチャートである。 実施形態６のPOカテゴリ/POクラス設定部の動作を示すフローチャートである。
〔実施形態１〕
以下、図面を参照しながら本発明の実施形態について説明する。
図１は、本実施形態に係る画像伝送システム１の構成を示す概略図である。
画像伝送システム１は、符号化対象画像を符号化した符号を伝送し、伝送された符号を復号し画像を表示するシステムである。画像伝送システム１は、画像符号化装置１１、ネットワーク２１、画像復号装置３１および画像表示装置４１を含んで構成される。
画像符号化装置１１には、単一レイヤもしくは複数レイヤの画像を示す画像Ｔが入力される。レイヤとは、ある時間を構成するピクチャが１つ以上ある場合に、複数のピクチャを区別するために用いられる概念である。たとえば、同一ピクチャを、画質や解像度の異なる複数のレイヤで符号化するとスケーラブル符号化になり、異なる視点のピクチャを複数のレイヤで符号化するとビュースケーラブル符号化となる。複数のレイヤのピクチャ間で予測（インターレイヤ予測、インタービュー予測）を行う場合には、符号化効率が大きく向上する。また予測を行わない場合（サイマルキャスト）の場合にも、符号化データをまとめることができる。
ネットワーク２１は、画像符号化装置１１が生成した符号化ストリームＴｅを画像復号装置３１に伝送する。ネットワーク２１は、インターネット（internet）、広域ネットワーク（WAN:Wide Area Network）、小規模ネットワーク（LAN:Local Area Network）また
はこれらの組み合わせである。ネットワーク２１は、必ずしも双方向の通信網に限らず、地上デジタル放送、衛星放送等の放送波を伝送する一方向の通信網であっても良い。また、ネットワーク２１は、DVD（Digital Versatile Disc）、BD（Blu-ray Disc:登録商標）等の符号化ストリームTeを記録した記憶媒体で代替されても良い。
画像復号装置３１は、ネットワーク２１が伝送した符号化ストリームTeのそれぞれを復号し、それぞれ復号した１または複数の復号画像Tdを生成する。
画像表示装置４１は、画像復号装置３１が生成した１または複数の復号画像Tdの全部または一部を表示する。画像表示装置４１は、例えば、液晶ディスプレイ、有機ＥＬ（Electro-luminescence）ディスプレイ等の表示デバイスを備える。また、空間スケーラブル符号化、ＳＮＲスケーラブル符号化では、画像復号装置３１、画像表示装置４１が高い処理能力を有する場合には、画質の高い拡張レイヤ画像を表示し、より低い処理能力しか有しない場合には、拡張レイヤほど高い処理能力、表示能力を必要としないベースレイヤ画像を表示する。
＜演算子＞
本明細書で用いる演算子を以下に記載する。
>>は右ビットシフト、<<は左ビットシフト、&はビットワイズAND、|はビットワイズOR
、|=は別の条件との和演算（OR）である。
x ? y : zは、xが真（0以外）の場合にy、xが偽（0）の場合にzをとる３項演算子であ
る。
Clip3(a, b, c) は、cをa以上b以下の値にクリップする関数であり、c<aの場合にはaを返し、c>bの場合にはbを返し、その他の場合にはcを返す関数である（ただし、a<=b）。
＜符号化ストリームTeの構造＞
本実施形態に係る画像符号化装置１１および画像復号装置３１の詳細な説明に先立って、画像符号化装置１１によって生成され、画像復号装置３１によって復号される符号化ストリームTeのデータ構造について説明する。
図２は、符号化ストリームTeにおけるデータの階層構造を示す図である。符号化ストリームTeは、例示的に、シーケンス、およびシーケンスを構成する複数のピクチャを含む。図２の（ａ）〜（ｆ）は、それぞれ、シーケンスSEQを既定する符号化ビデオシーケンス
、ピクチャPICTを規定する符号化ピクチャ、スライスSを規定する符号化スライス、スラ
イスデータを規定する符号化スライスデータ、符号化スライスデータに含まれる符号化ツリーユニット、符号化ツリーユニットに含まれる符号化ユニット（Coding Unit；CU）を
示す図である。
（符号化ビデオシーケンス）
符号化ビデオシーケンスでは、処理対象のシーケンスSEQを復号するために画像復号装
置３１が参照するデータの集合が規定されている。シーケンスSEQは、図２の（ａ）に示
すように、ビデオパラメータセット（Video Parameter Set）、シーケンスパラメータセ
ットSPS（Sequence Parameter Set）、ピクチャパラメータセットPPS（Picture Parameter Set）、ピクチャPICT、および、付加拡張情報SEI（Supplemental Enhancement Information）を含んでいる。ここで＃の後に示される値はレイヤIDを示す。図２では、#0と#1すなわちレイヤ０とレイヤ１の符号化データが存在する例を示すが、レイヤの種類およびレイヤの数はこれによらない。
ビデオパラメータセットVPSは、複数のレイヤから構成されている動画像において、複
数の動画像に共通する符号化パラメータの集合および動画像に含まれる複数のレイヤおよび個々のレイヤに関連する符号化パラメータの集合が規定されている。
シーケンスパラメータセットSPSでは、対象シーケンスを復号するために画像復号装置
３１が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの幅や高さが規定される。なお、SPSは複数存在してもよい。その場合、PPSから複数のSPSの何れか
を選択する。
ピクチャパラメータセットPPSでは、対象シーケンス内の各ピクチャを復号するために
画像復号装置３１が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの復号に用いられる量子化幅の基準値（pic_init_qp_minus26）や重み付き予測の適用
を示すフラグ（weighted_pred_flag）が含まれる。なお、PPSは複数存在してもよい。そ
の場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
（符号化ピクチャ）
符号化ピクチャでは、処理対象のピクチャPICTを復号するために画像復号装置３１が参照するデータの集合が規定されている。ピクチャPICTは、図２の（ｂ）に示すように、スライスS0〜SNS-1を含んでいる（ＮＳはピクチャPICTに含まれるスライスの総数）。
なお、以下、スライスS0〜SNS-1のそれぞれを区別する必要が無い場合、符号の添え字
を省略して記述することがある。また、以下に説明する符号化ストリームTeに含まれるデータであって、添え字を付している他のデータについても同様である。
（符号化スライス）
符号化スライスでは、処理対象のスライスSを復号するために画像復号装置３１が参照
するデータの集合が規定されている。スライスSは、図２の（ｃ）に示すように、スライ
スヘッダSH、および、スライスデータSDATAを含んでいる。
スライスヘッダSHには、対象スライスの復号方法を決定するために画像復号装置３１が参照する符号化パラメータ群が含まれる。スライスタイプを指定するスライスタイプ指定情報（slice_type）は、スライスヘッダSHに含まれる符号化パラメータの一例である。
スライスタイプ指定情報により指定可能なスライスタイプとしては、（１）符号化の際にイントラ予測のみを用いるＩスライス、（２）符号化の際に単方向予測、または、イントラ予測を用いるＰスライス、（３）符号化の際に単方向予測、双方向予測、または、イントラ予測を用いるＢスライスなどが挙げられる。
なお、スライスヘッダSHには、前記符号化ビデオシーケンスに含まれる、ピクチャパラメータセットPPSへの参照（pic_parameter_set_id）を含んでいても良い。
（符号化スライスデータ）
符号化スライスデータでは、処理対象のスライスデータSDATAを復号するために画像復
号装置３１が参照するデータの集合が規定されている。スライスデータSDATAは、図２の
（ｄ）に示すように、符号化ツリーユニット（CTU:Coding Tree Unit）を含んでいる。CTUは、スライスを構成する固定サイズ（例えば64x64）の矩形であり、最大符号化単位（LCU:Largest Coding Unit）と呼ぶこともある。
（符号化ツリーユニット）
図２の（ｅ）に示すように、処理対象の符号化ツリーユニットを復号するために画像復号装置３１が参照するデータの集合が規定されている。符号化ツリーユニットは、再帰的な４分木分割（QT分割）または２分木分割（BT分割）により分割される。再帰的な４分木分割または２分木分割により得られる木構造のノードのことを符号化ノード（CN:Coding Node）と称する。４分木および２分木の中間ノードは、符号化ツリー（CT:Coding Tree）であり、符号化ツリーユニット自身も最上位の符号化ツリーとして規定される。
CTUは、QT分割を行うか否かを示すQT分割フラグ（cu_split_flag）、およびBT分割の分割方法を示すBT分割モード（split_bt_mode）を含む。cu_split_flagが１の場合には、４つの符号化ノードCNに分割される。cu_split_flagが０の場合には、符号化ノードCNは分
割されず、１つの符号化ユニット（CU:Coding Unit）をノードとして持つ。一方、split_bt_modeが２の場合には、２つの符号化ノードCNに水平分割される。split_bt_modeが１の場合には、２つの符号化ノードCNに垂直分割される。split_bt_modeが０の場合には、符
号化ノードCNは分割されず、１つの符号化ユニットCUをノードとして持つ。符号化ユニットCUは符号化ツリーの末端ノードであり、これ以上分割されない。符号化ユニットCUは、符号化処理の基本的な単位となる。
符号化ツリーユニットCTUのサイズが64x64画素の場合にとり得る符号化ユニットのサイズは、例えば、64x64画素、64x32画素、32x64画素、32x32画素、64x16画素、16x64画素、32x16画素、16x32画素、16x16画素、64x8画素、8x64画素、32x8画素、8x32画素、16x8画
素、8x16画素、および、8x8画素の何れかである。ただし、分割の回数や組み合わせ、符
号化ユニットのサイズなどに関する制約によっては、これ以外のサイズもとり得る。
（符号化ユニット）
図２の（ｆ）に示すように、処理対象の符号化ユニットを復号するために画像復号装置３１が参照するデータの集合が規定されている。具体的には、符号化ユニットは、予測ツリー、変換ツリー、CUヘッダCUHから構成される。CUヘッダでは予測モード、分割方法（PU分割モード）等が規定される。
予測ツリーでは、符号化ユニットを１または複数に分割した各予測ユニット（PU）の予測情報（参照ピクチャインデックス、動きベクトル等）が規定される。別の表現でいえば、予測ユニットは、符号化ユニットを構成する１または複数の重複しない領域である。また、予測ツリーは、前述の分割により得られた１または複数の予測ユニットを含む。なお、以下では、予測ユニットをさらに分割した予測単位を「サブブロック」と呼ぶ。サブブロックは、複数の画素によって構成されている。予測ユニットとサブブロックのサイズが等しい場合には、予測ユニット中のサブブロックは１つである。予測ユニットがサブブロックのサイズよりも大きい場合には、予測ユニットは、サブブロックに分割される。たとえば予測ユニットが8x8、サブブロックが4x4の場合には、予測ユニットは水平に２分割、垂直に２分割からなる、４つのサブブロックに分割される。
予測処理は、この予測ユニット（サブブロック）ごとに行ってもよい。
予測ツリーにおける分割の種類は、大まかにいえば、イントラ予測の場合と、インター予測の場合との２つがある。イントラ予測とは、同一ピクチャ内の予測であり、インター予測とは、互いに異なるピクチャ間（例えば、表示時刻間、レイヤ画像間）で行われる予測処理を指す。
イントラ予測の場合、分割方法は、2Nx2N（符号化ユニットと同一サイズ）と、NxNとがある。
また、インター予測の場合、分割方法は、符号化データのPU分割モード（part_mode）
により符号化され、2Nx2N（符号化ユニットと同一サイズ）、2NxN、2NxnU、2NxnD、Nx2N
、nLx2N、nRx2N、および、NxNなどがある。なお、2NxN、Nx2Nは1:1の対称分割を示し、
2NxnU、2NxnDおよびnLx2N、nRx2Nは、1:3、3:1の非対称分割を示す。CUに含まれるPUを順にPU0、PU1、PU2、PU3と表現する。
図３の（ａ）〜（ｈ）に、それぞれのPU分割モードにおけるパーティションの形状（PU分割の境界の位置）を具体的に図示している。図３の（ａ）は、2Nx2Nのパーティション
を示し、（ｂ）、（ｃ）、（ｄ）は、それぞれ、2NxN、2NxnU、および、2NxnDのパーティション（横長パーティション）を示す。（ｅ）、（ｆ）、（ｇ）は、それぞれ、Nx2N、nLx2N、nRx2Nである場合のパーティション（縦長パーティション）を示し、（ｈ）は、NxN
のパーティションを示す。なお、横長パーティションと縦長パーティションを総称して長方形パーティション、2Nx2N、NxNを総称して正方形パーティションと呼ぶ。
また、変換ツリーにおいては、符号化ユニットが１または複数の変換ユニットに分割され、各変換ユニットの位置とサイズとが規定される。別の表現でいえば、変換ユニットは、符号化ユニットを構成する１または複数の重複しない領域のことである。また、変換ツリーは、前述の分割より得られた１または複数の変換ユニットを含む。
変換ツリーにおける分割には、符号化ユニットと同一のサイズの領域を変換ユニットとして割り付けるものと、前述したCUの分割と同様、再帰的な４分木分割によるものがある。
変換処理は、この変換ユニットごとに行われる。
（予測パラメータ）
予測ユニット（PU：Prediction Unit）の予測画像は、PUに付随する予測パラメータに
よって導出される。予測パラメータには、イントラ予測の予測パラメータもしくはインター予測の予測パラメータがある。以下、インター予測の予測パラメータ（インター予測パラメータ）について説明する。インター予測パラメータは、予測リスト利用フラグpredFlagL0、predFlagL1と、参照ピクチャインデックスrefIdxL0、refIdxL1と、動きベクトルmvL0、mvL1から構成される。予測リスト利用フラグpredFlagL0、predFlagL1は、各々L0リスト、L1リストと呼ばれる参照ピクチャリストが用いられるか否かを示すフラグであり、値が１の場合に対応する参照ピクチャリストが用いられる。なお、本明細書中「ＸＸであるか否かを示すフラグ」と記す場合、フラグが０以外（たとえば１）をＸＸである場合、０をＸＸではない場合とし、論理否定、論理積などでは１を真、０を偽と扱う（以下同様）。但し、実際の装置や方法では真値、偽値として他の値を用いることもできる。
符号化データに含まれるインター予測パラメータを導出するためのシンタックス要素には、例えば、PU分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLXがある。
（参照ピクチャリスト）
参照ピクチャリストは、参照ピクチャメモリ３０６に記憶された参照ピクチャからなるリストである。図４は、参照ピクチャおよび参照ピクチャリストの一例を示す概念図である。図４の（ａ）において、矩形はピクチャ、矢印はピクチャの参照関係、横軸は時間、矩形中のI、P、Bは各々イントラピクチャ、単予測ピクチャ、双予測ピクチャ、矩形中の
数字は復号順を示す。図に示すように、ピクチャの復号順は、I0、P1、B2、B3、B4であり、表示順は、I0、B3、B2、B4、P1である。図４の（ｂ）に、参照ピクチャリストの例を示す。参照ピクチャリストは、参照ピクチャの候補を表すリストであり、１つのピクチャ（スライス）が１つ以上の参照ピクチャリストを有してもよい。図の例では、対象ピクチャB3は、L0リストRefPicList0およびL1リストRefPicList1の２つの参照ピクチャリストを持つ。対象ピクチャがB3の場合の参照ピクチャは、I0、P1、B2であり、参照ピクチャはこれらのピクチャを要素として持つ。個々の予測ユニットでは、参照ピクチャリストRefPicListX中のどのピクチャを実際に参照するかを参照ピクチャインデックスrefIdxLXで指定す
る。図では、refIdxL0およびrefIdxL1により参照ピクチャP1とB2が参照される例を示す。
（マージ予測とAMVP予測）
予測パラメータの復号（符号化）方法には、マージ予測（merge）モードとAMVP（Adaptive Motion Vector Prediction、適応動きベクトル予測）モードがある、マージフラグmerge_flagは、これらを識別するためのフラグである。マージ予測モードは、予測リスト利用フラグpredFlagLX（またはインター予測識別子inter_pred_idc）、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めずに、既に処理した近傍PUの予測パラメータから導出する用いるモードであり、AMVPモードは、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めるモードである。なお、動きベクトルmvLXは、予測ベクトルmvpLXを識別する予測ベク
トルインデックスmvp_LX_idxと差分ベクトルmvdLXとして符号化される。
インター予測識別子inter_pred_idcは、参照ピクチャの種類および数を示す値であり、PRED_L0、PRED_L1、PRED_BIの何れかの値をとる。PRED_L0、PRED_L1は、各々L0リスト、L1リストの参照ピクチャリストで管理された参照ピクチャを用いることを示し、１枚の参
照ピクチャを用いること（単予測）を示す。PRED_BIは２枚の参照ピクチャを用いること
（双予測BiPred）を示し、L0リストとL1リストで管理された参照ピクチャを用いる。予測ベクトルインデックスmvp_LX_idxは予測ベクトルを示すインデックスであり、参照ピクチャインデックスrefIdxLXは、参照ピクチャリストで管理された参照ピクチャを示すインデックスである。なお、LXは、L0予測とL1予測を区別しない場合に用いられる記述方法であり、LXをL0、L1に置き換えることでL0リストに対するパラメータとL1リストに対するパラメータを区別する。
マージインデックスmerge_idxは、処理が完了したPUから導出される予測パラメータ候
補（マージ候補）のうち、いずれかの予測パラメータを復号対象PUの予測パラメータとして用いるかを示すインデックスである。
（動きベクトル）
動きベクトルmvLXは、異なる２つのピクチャ上のブロック間のずれ量を示す。動きベクトルmvLXに関する予測ベクトル、差分ベクトルを、それぞれ予測ベクトルmvpLX、差分ベ
クトルmvdLXと呼ぶ。
（インター予測識別子inter_pred_idcと予測リスト利用フラグpredFlagLX）
インター予測識別子inter_pred_idcと、予測リスト利用フラグpredFlagL0、predFlagL1の関係は以下のとおりであり、相互に変換可能である。
inter_pred_idc = （predFlagL1<<１） + predFlagL0
predFlagL0 = inter_pred_idc & １
predFlagL1 = inter_pred_idc >> １
なお、インター予測パラメータは、予測リスト利用フラグを用いても良いし、インター予測識別子を用いてもよい。また、予測リスト利用フラグを用いた判定は、インター予測識別子を用いた判定に置き替えてもよい。逆に、インター予測識別子を用いた判定は、予測リスト利用フラグを用いた判定に置き替えてもよい。
（双予測biPredの判定）
双予測BiPredであるかのフラグbiPredは、２つの予測リスト利用フラグがともに１であるかによって導出できる。たとえば以下の式で導出できる。
biPred = (predFlagL0 == 1 && predFlagL1 == 1)
フラグbiPredは、インター予測識別子が２つの予測リスト（参照ピクチャ）を使うことを示す値であるか否かによっても導出できる。たとえば以下の式で導出できる。
biPred = (inter_pred_idc == PRED_BI) ? 1 : 0
前記式は、以下の式でも表現できる。
biPred = (inter_pred_idc == PRED_BI)
なお、PRED_BIはたとえば3の値を用いることができる。
（画像復号装置の構成）
次に、本実施形態に係る画像復号装置３１の構成について説明する。図５は、本実施形態に係る画像復号装置３１の構成を示すブロック図である。画像復号装置３１は、エントロピー復号部３０１、予測パラメータ復号部（予測画像復号装置）３０２、ループフィルタ３０５、参照ピクチャメモリ３０６、予測パラメータメモリ３０７、予測画像生成部（予測画像生成装置）３０８、逆量子化・逆DCT部３１１、および加算部３１２を含んで構
成される。
また、予測パラメータ復号部３０２は、インター予測パラメータ復号部３０３およびイントラ予測パラメータ復号部３０４を含んで構成される。予測画像生成部３０８は、インター予測画像生成部３０９およびイントラ予測画像生成部３１０を含んで構成される。
エントロピー復号部３０１は、外部から入力された符号化ストリームTeに対してエントロピー復号を行って、個々の符号（シンタックス要素）を分離し復号する。分離された符号には、予測画像を生成するための予測情報および、差分画像を生成するための残差情報などがある。
エントロピー復号部３０１は、分離した符号の一部を予測パラメータ復号部３０２に出力する。分離した符号の一部とは、例えば、予測モードpredMode、PU分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLXである。どの符号を復号するかの制御は、予測パラメータ復号部３０
２の指示に基づいて行われる。エントロピー復号部３０１は、量子化係数を逆量子化・逆DCT部３１１に出力する。この量子化係数は、符号化処理において、残差信号に対してDCT（Discrete Cosine Transform、離散コサイン変換）を行い量子化して得られる係数であ
る。
インター予測パラメータ復号部３０３は、エントロピー復号部３０１から入力された符号に基づいて、予測パラメータメモリ３０７に記憶された予測パラメータを参照してインター予測パラメータを復号する。
インター予測パラメータ復号部３０３は、復号したインター予測パラメータを予測画像生成部３０８に出力し、また予測パラメータメモリ３０７に記憶する。インター予測パラメータ復号部３０３の詳細については後述する。
イントラ予測パラメータ復号部３０４は、エントロピー復号部３０１から入力された符号に基づいて、予測パラメータメモリ３０７に記憶された予測パラメータを参照してイントラ予測パラメータを復号する。イントラ予測パラメータとは、CUを１つのピクチャ内で予測する処理で用いるパラメータ、例えば、イントラ予測モードIntraPredModeである。
イントラ予測パラメータ復号部３０４は、復号したイントラ予測パラメータを予測画像生成部３０８に出力し、また予測パラメータメモリ３０７に記憶する。
イントラ予測パラメータ復号部３０４は、輝度と色差で異なるイントラ予測モードを導出しても良い。この場合、イントラ予測パラメータ復号部３０４は、輝度の予測パラメータとして輝度予測モードIntraPredModeY、色差の予測パラメータとして、色差予測モードIntraPredModeCを復号する。輝度予測モードIntraPredModeYは、３５モードであり、プレーナ予測（０）、DC予測（１）、方向予測（２〜３４）が対応する。色差予測モードIntraPredModeCは、プレーナ予測（０）、DC予測（１）、方向予測（２〜３４）、LMモード（３５）の何れかを用いるものである。イントラ予測パラメータ復号部３０４は、IntraPredModeCは輝度モードと同じモードであるか否かを示すフラグを復号し、フラグが輝度モードと同じモードであることを示せば、IntraPredModeCにIntraPredModeYを割り当て、フラグが輝度モードと異なるモードであることを示せば、IntraPredModeCとして、プレーナ予測（０）、DC予測（１）、方向予測（２〜３４）、LMモード（３５）を復号しても良い。
ループフィルタ３０５は、加算部３１２が生成したCUの復号画像に対し、デブロッキングフィルタ、サンプル適応オフセット（SAO）、適応ループフィルタ（ALF）等のフィルタを施す。
参照ピクチャメモリ３０６は、加算部３１２が生成したCUの復号画像を、復号対象のピクチャおよびCU毎に予め定めた位置に記憶する。
予測パラメータメモリ３０７は、予測パラメータを、復号対象のピクチャおよび予測ユニット（もしくはサブブロック、固定サイズブロック、ピクセル）毎に予め定めた位置に記憶する。具体的には、予測パラメータメモリ３０７は、インター予測パラメータ復号部３０３が復号したインター予測パラメータ、イントラ予測パラメータ復号部３０４が復号したイントラ予測パラメータおよびエントロピー復号部３０１が分離した予測モードpredModeを記憶する。記憶されるインター予測パラメータには、例えば、予測リスト利用フラグpredFlagLX（インター予測識別子inter_pred_idc）、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXがある。
予測画像生成部３０８には、エントロピー復号部３０１から入力された予測モードpredModeが入力され、また予測パラメータ復号部３０２から予測パラメータが入力される。また、予測画像生成部３０８は、参照ピクチャメモリ３０６から参照ピクチャを読み出す。予測画像生成部３０８は、予測モードpredModeが示す予測モードで、入力された予測パラメータと読み出した参照ピクチャを用いてPUの予測画像を生成する。
ここで、予測モードpredModeがインター予測モードを示す場合、インター予測画像生成部３０９は、インター予測パラメータ復号部３０３から入力されたインター予測パラメータと読み出した参照ピクチャを用いてインター予測によりPUの予測画像を生成する。
インター予測画像生成部３０９は、予測リスト利用フラグpredFlagLXが１である参照ピクチャリスト（L0リスト、もしくはL1リスト）に対し、参照ピクチャインデックスrefIdxLXで示される参照ピクチャから、復号対象PUを基準として動きベクトルmvLXが示す位置にある参照ピクチャブロックを参照ピクチャメモリ３０６から読み出す。インター予測画像生成部３０９は、読み出した参照ピクチャブロックをもとに予測を行ってPUの予測画像を生成する。インター予測画像生成部３０９は、生成したPUの予測画像を加算部３１２に出力する。
予測モードpredModeがイントラ予測モードを示す場合、イントラ予測画像生成部３１０は、イントラ予測パラメータ復号部３０４から入力されたイントラ予測パラメータと読み出した参照ピクチャを用いてイントラ予測を行う。具体的には、イントラ予測画像生成部３１０は、復号対象のピクチャであって、既に復号されたPUのうち、復号対象PUから予め定めた範囲にある隣接PUを参照ピクチャメモリ３０６から読み出す。予め定めた範囲とは、復号対象PUがいわゆるラスタースキャンの順序で順次移動する場合、例えば、左、左上、上、右上の隣接PUのうちのいずれかであり、イントラ予測モードによって異なる。ラスタースキャンの順序とは、各ピクチャにおいて、上端から下端まで各行について、順次左端から右端まで移動させる順序である。
イントラ予測画像生成部３１０は、読み出した隣接PUについてイントラ予測モードIntraPredModeが示す予測モードで予測を行ってPUの予測画像を生成する。イントラ予測画像
生成部３１０は、生成したPUの予測画像を加算部３１２に出力する。
イントラ予測パラメータ復号部３０４において、輝度と色差で異なるイントラ予測モードを導出する場合、イントラ予測画像生成部３１０は、輝度予測モードIntraPredModeYに応じて、プレーナ予測（０）、DC予測（１）、方向予測（２〜３４）の何れかによって輝度のPUの予測画像を生成し、色差予測モードIntraPredModeCに応じて、プレーナ予測（０）、DC予測（１）、方向予測（２〜３４）、LMモード（３５）の何れかによって色差のPU
の予測画像を生成する。
逆量子化・逆DCT部３１１は、エントロピー復号部３０１から入力された量子化係数を
逆量子化してDCT係数を求める。逆量子化・逆DCT部３１１は、求めたDCT係数について逆DCT（Inverse Discrete Cosine Transform、逆離散コサイン変換）を行い、残差信号を算
出する。逆量子化・逆DCT部３１１は、算出した残差信号を加算部３１２に出力する。
加算部３１２は、インター予測画像生成部３０９またはイントラ予測画像生成部３１０から入力されたPUの予測画像と逆量子化・逆DCT部３１１から入力された残差信号を画素
毎に加算して、PUの復号画像を生成する。加算部３１２は、生成したPUの復号画像をピクチャ毎にデブロッキングフィルタ３１３、SAO（サンプル適応オフセット）部３１４、ま
たはＡＬＦ３１５の少なくとも何れかに出力する。
デブロッキングフィルタ３１３は、ＣＵ境界を介して互いに隣接する画素のデブロック前画素値の差が予め定められた閾値よりも小さい場合に、当該ＣＵ境界に対してデブロッキング処理を施すことによって、当該ＣＵ境界付近の画像の平滑化を行う。デブロッキングフィルタ３１３によりデブロッキング処理が施された画像は、デブロック済復号画像として、SAO部３１４に出力される。なお、デブロック前画素値とは、加算部３１２より出
力された画像における画素値である。
SAO部３１４は、オフセットフィルタ前復号画像に対して、符号化データＴｅから復号
されたオフセットを用いたオフセットフィルタ処理を所定の単位毎に施すことによって、オフセットフィルタ済復号画像を生成する。なお、オフセットフィルタ前復号画像とは、加算部３１２より出力された画像、またはデブロッキングフィルタ３１３より出力されたデブロック済復号画像であり得る。
ＡＬＦ３１５は、ＡＬＦ前復号画像に対して、符号化データＴｅから復号されたＡＬＦパラメータＡＬＦＰを用いた適応的フィルタ処理を施すことによって、ＡＬＦ済復号画像を生成する。ＡＬＦ済復号画像は、復号画像Ｔｄとして外部に出力されると共に、エントロピー復号部３０１によって符号化データＴｅから復号されたＰＯＣ情報と関連付けて参照ピクチャメモリ３０６に格納される。ＡＬＦ３１５の具体的な構成については、後述するため、ここでは説明を省略する。なお、ＡＬＦ前復号画像とは、加算部３１２より出力された画像、デブロック済復号画像、またはオフセットフィルタ済復号画像であり得る。
（画像符号化装置の構成）
次に、本実施形態に係る画像符号化装置１１の構成について説明する。図６は、本実施形態に係る画像符号化装置１１の構成を示すブロック図である。画像符号化装置１１は、予測画像生成部１０１、減算部１０２、DCT・量子化部１０３、エントロピー符号化部１
０４、逆量子化・逆DCT部１０５、加算部１０６、ループフィルタ１０７、予測パラメー
タメモリ（予測パラメータ記憶部、フレームメモリ）１０８、参照ピクチャメモリ（参照画像記憶部、フレームメモリ）１０９、符号化パラメータ決定部１１０、予測パラメータ符号化部１１１を含んで構成される。予測パラメータ符号化部１１１は、インター予測パラメータ符号化部１１２およびイントラ予測パラメータ符号化部１１３を含んで構成される。
予測画像生成部１０１は画像Ｔの各ピクチャについて、そのピクチャを分割した領域である符号化ユニットCU毎に予測ユニットPUの予測画像Ｐを生成する。ここで、予測画像生成部１０１は、予測パラメータ符号化部１１１から入力された予測パラメータに基づいて参照ピクチャメモリ１０９から復号済のブロックを読み出す。予測パラメータ符号化部１１１から入力された予測パラメータとは、例えばインター予測の場合、動きベクトルであ
る。予測画像生成部１０１は、対象PUを起点として動きベクトルが示す参照画像上の位置にあるブロックを読み出す。またイントラ予測の場合、予測パラメータとは例えばイントラ予測モードである。イントラ予測モードで使用する隣接PUの画素値を参照ピクチャメモリ１０９から読み出し、PUの予測画像Pを生成する。予測画像生成部１０１は、読み出し
た参照ピクチャブロックについて複数の予測方式のうちの１つの予測方式を用いてPUの予測画像Ｐを生成する。予測画像生成部１０１は、生成したPUの予測画像Ｐを減算部１０２に出力する。
なお、予測画像生成部１０１は、既に説明した予測画像生成部３０８と同じ動作である。
予測画像生成部１０１は、予測パラメータ符号化部から入力されたパラメータを用いて、参照ピクチャメモリから読み出した参照ブロックの画素値をもとにPUの予測画像Pを生
成する。予測画像生成部１０１で生成した予測画像は減算部１０２、加算部１０６に出力される。
減算部１０２は、予測画像生成部１０１から入力されたPUの予測画像Ｐの信号値を、画像Ｔの対応するPUの画素値から減算して、残差信号を生成する。減算部１０２は、生成した残差信号をDCT・量子化部１０３に出力する。
DCT・量子化部１０３は、減算部１０２から入力された残差信号についてDCTを行い、DCT係数を算出する。DCT・量子化部１０３は、算出したDCT係数を量子化して量子化係数を
求める。DCT・量子化部１０３は、求めた量子化係数をエントロピー符号化部１０４およ
び逆量子化・逆DCT部１０５に出力する。
エントロピー符号化部１０４には、DCT・量子化部１０３から量子化係数が入力され、
予測パラメータ符号化部１１１から符号化パラメータが入力される。入力される符号化パラメータには、例えば、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLX、予測モードpredMode、およびマージインデックスmerge_idx等の符号がある。
エントロピー符号化部１０４は、入力された量子化係数と符号化パラメータをエントロピー符号化して符号化ストリームTeを生成し、生成した符号化ストリームTeを外部に出力する。
逆量子化・逆DCT部１０５は、DCT・量子化部１０３から入力された量子化係数を逆量子化してDCT係数を求める。逆量子化・逆DCT部１０５は、求めたDCT係数について逆DCTを行い、残差信号を算出する。逆量子化・逆DCT部１０５は、算出した残差信号を加算部１０
６に出力する。
加算部１０６は、予測画像生成部１０１から入力されたPUの予測画像Ｐの信号値と逆量子化・逆DCT部１０５から入力された残差信号の信号値を画素毎に加算して、復号画像を
生成する。加算部１０６は、生成した復号画像を参照ピクチャメモリ１０９に記憶する。
ループフィルタ１０７は加算部１０６が生成した復号画像に対し、デブロッキングフィルタ１１４、SAO_E（サンプル適応オフセットエンコーダ）部１１５、適応ループフィル
タ（ALF）１１６を施す。
予測パラメータメモリ１０８は、符号化パラメータ決定部１１０が生成した予測パラメータを、符号化対象のピクチャおよびCU毎に予め定めた位置に記憶する。
参照ピクチャメモリ１０９は、ループフィルタ１０７が生成した復号画像を、符号化対象のピクチャおよびCU毎に予め定めた位置に記憶する。
符号化パラメータ決定部１１０は、符号化パラメータの複数のセットのうち、１つのセットを選択する。符号化パラメータとは、前述した予測パラメータやこの予測パラメータに関連して生成される符号化の対象となるパラメータである。予測画像生成部１０１は、これらの符号化パラメータのセットの各々を用いてPUの予測画像Ｐを生成する。
符号化パラメータ決定部１１０は、複数のセットの各々について情報量の大きさと符号化誤差を示すコスト値を算出する。コスト値は、例えば、符号量と二乗誤差に係数λを乗じた値との和である。符号量は、量子化誤差と符号化パラメータをエントロピー符号化して得られる符号化ストリームTeの情報量である。二乗誤差は、減算部１０２において算出された残差信号の残差値の二乗値についての画素間の総和である。係数λは、予め設定されたゼロよりも大きい実数である。符号化パラメータ決定部１１０は、算出したコスト値が最小となる符号化パラメータのセットを選択する。これにより、エントロピー符号化部１０４は、選択した符号化パラメータのセットを符号化ストリームTeとして外部に出力し、選択されなかった符号化パラメータのセットを出力しない。符号化パラメータ決定部１１０は決定した符号化パラメータを予測パラメータメモリ１０８に記憶する。
予測パラメータ符号化部１１１は、符号化パラメータ決定部１１０から入力されたパラメータから、符号化するための形式を導出し、エントロピー符号化部１０４に出力する。符号化するための形式の導出とは、例えば動きベクトルと予測ベクトルから差分ベクトルを導出することである。また予測パラメータ符号化部１１１は、符号化パラメータ決定部１１０から入力されたパラメータから予測画像を生成するために必要なパラメータを導出し、予測画像生成部１０１に出力する。予測画像を生成するために必要なパラメータとは、例えばサブブロック単位の動きベクトルである。
インター予測パラメータ符号化部１１２は、符号化パラメータ決定部１１０から入力された予測パラメータに基づいて、差分ベクトルのようなインター予測パラメータを導出する。インター予測パラメータ符号化部１１２は、予測画像生成部１０１に出力する予測画像の生成に必要なパラメータを導出する構成として、インター予測パラメータ復号部３０３（図６等、参照）がインター予測パラメータを導出する構成と一部同一の構成を含む。インター予測パラメータ符号化部１１２の構成については、後述する。
イントラ予測パラメータ符号化部１１３は、符号化パラメータ決定部１１０から入力されたイントラ予測モードIntraPredModeから、符号化するための形式（例えばmpm_idx、rem_intra_luma_pred_mode等）を導出する。 （SAO処理）
次にSAO（サンプル適応オフセット）部314について説明する。SAOはデブロッキングフ
ィルタ後に適用するフィルタであり、リンギング歪や量子化歪を除去する効果がある。SAOはCTU単位の処理であり、画素値をいくつかのカテゴリに分類して、カテゴリ毎に画素単位にオフセットを加減算するフィルタである。SAOはエッジオフセット（EO)とバンドオフセット（BO)の２種類のオフセットタイプを持ち、CTU内画素値のカテゴリ分類方法は、このオフセットタイプによって決まる。EOは対象画素と隣接画素（参照画素）との大小関係に応じて画素値をカテゴリ分類する。BOは対象画素の画素値の大きさにより、画素値をカテゴリ分類する。EO、BOともにカテゴリ毎に定められたオフセットを復号画素値（SAO部314への入力画像の画素値）に加算する。SAO部314には、予測画像と予測誤差を加算した復号画像、あるいは、さらにデブロッキングフィルタを適用した復号画像が入力されるが、以降ではSAO部314への入力画像は全て「復号画像」、入力画像の画素値は「復号画素値」と呼ぶ。
図10はSAO部314のブロック図である。SAO部314はカテゴリ設定部1001、オフセット情報格納部1002、オフセット加算部1003からなる。カテゴリ設定部1001はエントロピー復号部301で復号したオフセットタイプ（type）、クラス（class）、あるいはバンド位置（band_position）と復号画像recが入力される。カテゴリ設定部1001は、これらを用いてカテゴリを設定する。オフセットタイプが0の場合はSAOを行わない（オフセット加算しない）。オフセットタイプが1の場合はBO、2の場合はEOを実施する。
図11のフローチャートを参照して、カテゴリ設定部1001の動作を説明する。カテゴリ設定部1001は、S1101でオフセットタイプtypeをチェックし、EOならばS1102へ、BOならばS1105へ進む。S1102〜S1104はEOの処理、S1105〜S1106はBOの処理である。カテゴリ設定部1001は、オフセットタイプtypeがEOであれば S1102でクラスを参照して、対象画素Xの隣接画素を参照画素a、bとして設定する。
EOのクラス（class）による参照画素の設定方法を図７に示す。classは、参照画素を対象画素からみた方向に対応し、参照画素の選択に用いられる。class=0の場合、参照画素a、bに対象画素Xの左右の画素を設定し、class=1の場合、a、bに対象画素Xの上下の画素を設定し、class=2の場合、a、bに対象画素Xの左上、右下の画素を設定し、class=3の場合
、a、bに対象画素Xの左下、右上の画素を設定する。
次にカテゴリ設定部1001は、S1103で、対象画素Xと２つの参照画素a、bの画素値の差分sign(rec[X]-rec[a])、sign(rec[X]-rec[b])を用いてedgeIdxを導出する。
edgeIdx=sign(rec[X]-rec[a])+sign(rec[X]-rec[b])+2
sign(x) = 1 (x>0)
= 0 (x=0)
=-1 (x<0)
ここで、rec[x]は画素xの復号画素値を表す。
次にカテゴリ設定部1001は、S1104でedgeIdxからカテゴリcatを算出する。
cat =(edgeIdx==2)?0:edgeIdx+1 (edgeIdx<=2)
=edgeIdx (edgeIdx>2)
class=0の場合のカテゴリcatの示す対象画素値Xと参照画素a、bの大小関係を図12に示す
。黒丸が対象画素X、Xの左側の白丸が参照画素a、Xの右側の白丸が参照画素bであり、縦
方向は画素値の大小関係を表す。
カテゴリ設定部1001は、オフセットタイプtypeがBOであれば S1105で、図１６に示すように0〜2N-1の画素値をバンドに分割する。N=8の場合、画素値は0〜255の範囲をとり、各バンドは8個の連続する画素値からなる。N=10の場合、画素値は0〜1023の範囲をとり、各バンドは32個の連続する画素値からなる。
カテゴリ設定部1001は、S1106で、カテゴリcatの0〜3に、エントロピー復号部301で復
号したバンド位置（band_position）が示すバンドから連続する4バンドをセットする。そして対象画素の画素値rec[X]が含まれるカテゴリが存在する場合、対象画素Xのカテゴリ
とする。
オフセット情報格納部1002は、エントロピー復号部301で復号したオフセット（offset
）を格納する。
オフセット加算部1003は、カテゴリ設定部1001で導出したカテゴリcatを用いて、オフ
セット情報格納部1002からオフセットoffset[cat]を読み出す。復号画素値をrec[X]とす
ると、オフセット加算部1003の出力画素値recsao[X]は
recsao[X]=rec[X]+offset[cat]
である。
（符号化装置におけるSAO）
画像符号化装置におけるSAOの動作を説明するため、図６のSAO_E部115のブロック図を
図１７に示す。SAO_E部115はSAO情報設定部1701とSAO部314からなる。SAO部314は図１０
と同じであり、説明は省略する。SAO情報設定部1701はオフセット算出部1702とオフセッ
ト情報選択部1703からなる。
ますオフセット情報算出部1702を説明する。オフセット情報算出部1702は、EOの各クラス（0〜3）およびBOのオフセットを算出する。オフセットタイプがEOの場合、クラス毎に各画素のカテゴリ設定を行い、設定したカテゴリ毎のオフセットを算出する。具体的な動作を、図１８を用いて説明する。
オフセット算出部1702は、S1801で、クラス（class）、count[class][cat]、SAD
[class][cat]を初期化する。ここでcount[class][cat]はCTU内の（class、cat）の組み合わせ毎の画素数をカウントする変数、SAD[class][cat]はCTU内の（class、cat）の組み合わせ毎の復号画素値と原画素との絶対差分和を格納する変数である。
オフセット算出部1702は、S1802とS1803でEOのオフセットを算出する。S1702では、対
象画素Xに対し、クラスが示す参照画素aとbをセットし、カテゴリcatを導出する。現在のクラスに対し、count[class][cat]を１インクリメントする。また現在のクラスにおいて
、復号画素値と原画素との絶対差分をSAD[class][cat]に加算する。
SAD[class][cat]+=|rec(X)-org[X]|
CTU内の全画素に対し上記の処理を行う。
オフセット算出部1702は、S1803でカテゴリ1〜4に対し、下記の式を用いてオフセットoffset[class][cat]を算出し、クラスを１インクリメントする。
offset[class][cat]=SAD[class][cat]/count[class][cat]
なおカテゴリ0のオフセットは0にセットする。
オフセット算出部1702は、S1804でclass=4（EOがすべて終了）であれば、S1805に進み
、そうでなければS1802とS1803を繰り返す。
オフセット算出部1702は、S1805とS1806でBOのオフセットを算出する。S1805で対象画
素の復号画素値rec[X]の属するバンドiを求め、バンドiの差分和SAD[class][i]にrec[X]
とorg[X]の差分を加算する。またバンドiのカウントを１インクリメントする。
i=Rec[X]>>5
SAD[class][i]+=(rec[X]-org[X])
count[class][i]++
オフセット算出部1702は、S1806で32個のバンドi（i=0〜31）に対し、各々オフセット
を算出する。
offset[class][i]=SAD[class][i]/count[class][i]
以上でEO（class=0〜3）の各カテゴリ（cat=1〜4）のオフセット、およびBO（class=4
）の各バンド（i=0〜31）のオフセットを各々算出した。
オフセット情報選択部1703は、オフセット算出部1702で算出したオフセットを用いて、オフセットタイプ（EO/BO）と、EOの場合はクラス、BOの場合はバンド位置を選択する。
図１９はオフセット情報選択部1703の動作を示すフローチャートである。
オフセット情報選択部1703は、S1901で、クラスclass（0〜3）と絶対差分和SAD[class]を初期化する。絶対差分和SAD[class]は、SAOを適用した（オフセットを加算した）画素
値と原画素値の絶対差分和を格納する変数である。
絶対差分和SAD[class]は、S1902で、クラスで示される参照画素a、bをセットし、CTUの各画素毎に上述の方法でカテゴリを導出し、各カテゴリに割り当てられたオフセットを用いて絶対差分和SADを算出する。
SAD[class]+=|rec[X]+offset[class][cat]-org[X]|
なおカテゴリ0のオフセットは0にセットする。rec[X]+offset[class][cat]は（class、cat）の組み合わせ時のSAOの値であり、これと原画素値org[X]との絶対差分をクラス毎にSADに加算する。CTU内の全画素の処理が終了すれば、クラスを１インクリメントする。
オフセット情報選択部1703は、S1903で、クラスが4に等しいか否かをチェックする。クラスが4に等しくなければ、4になるまでS1902の処理を行う。クラスが4に等しい場合、EOの全クラスの処理が終了したことになり、S1904に進む。
オフセット情報選択部1703は、S1904で、SAD[i]（i=0〜3）が最小となるiを求め、これをEOのクラスとする。
SADEO=min(SAD[i])、class=左記を満たすi
オフセット情報選択部1703は、S1905で、CTUの各バンドに対し、SAOを適用した（オフ
セットを加算した）画素値と原画素値との絶対差分和を計算する。具体的には、対象画素Xのバンドiと、オフセット算出部1702で求めた各バンドのオフセットoffset[class][i]を用いて、4つの連続するバンドに属する画素のSAOを適用した画素値rec[X]+oftと原画素値org[X]の絶対差分和を計算する。ここで、
i=rec[X]>>5
oft =offset[class=4][j] (j<=i<=j+3)
=0 (otherwise)
SAD[i]=|rec[X]+oft-org[X]|
とする。そしてCTUの全画素に対し上記処理を施した後、jを１インクリメントする。
オフセット情報選択部1703は、S1906で、i<29であるか否かをチェックする。i<32であ
れば、処理を終了していないバンドがあるので、j=32になるまでS1905を繰り返す。i=32
の場合、全バンドに対し処理が終了したので、S1907に進む。
オフセット情報選択部1703は、S1907で、SAD[j]が最小となるj（j=0〜31）を現CTUのBOのバンド位置（band_position）に設定する。
SADBO=min(SAD[j])、band_position=左記を満たすj
オフセット情報選択部1703は、S1908で、SAOEOとSAOBOの大小関係を比較する。SAOBOが大きい場合、S1909に進み、現CTUのオフセットタイプ（type）をEOにセットする。そうでない場合、S1910に進み、現CTUのオフセットタイプ（type）をBOにセットする。
以上がオフセット情報選択部1703で実施される処理である。
SAO情報設定部1701で算出したオフセット情報（オフセット、オフセットタイプ、クラ
ス、バンド位置）はSAO部314に入力される。SAO部314の動作は上述と同じであり、説明を省略する。
（PO処理）
上記で説明したSAO（特にEO）は、１次元（上下、左右、斜め）方向の画素値を用いた
フィルタであったが、このSAOの前に２次元方向の画素値を用いたフィルタをかけること
ができる。このフィルタをピークSAO（peak SAO：PO）と呼ぶ。図２０にPOおよびSAOのブロック図を示す。PO部2001はエントロピー復号部301で復号したPOオフセット情報（Cmax
、NF、オフセット等）と、復号画像を入力し、PO処理を行い、結果の画像をSAO部314に出力する。
PO部2001は、POカテゴリ/POクラス設定部2002、オフセット情報格納部2003、POオフセ
ット加算部2004からなる。POカテゴリ/POクラス設定部2002は、復号画像の画素値から画
素毎に算出したPOカテゴリを用いてPOクラスを設定する。オフセット情報格納部2003は、エントロピー復号部301で復号したPOオフセット情報を格納する。POオフセット加算部2004は、POクラス、POカテゴリで指定されたオフセットを復号画像に加算し、結果をSAO部314に出力する。
POカテゴリ/POクラス設定部2002の動作を図２１のフローチャートで説明する。POカテ
ゴリ/POクラス設定部2002は、S2101で、対象画素の参照画素を設定する。図13に対象画素Xと参照画素c0〜c3との位置関係を示す。POカテゴリ/POクラス設定部2002は、S2102で、CTU内の各画素Xに対し、下式により対象画素Xの参照画素ci（i=0〜3）と対象画素Xの大小
関係を調べる。
3
ML=Σlgr(rec(ci)-rec(X))
i=0
3
MS=Σsml(rec(ci)-rec(X))
i=0
M =max(ML、MS)
ここで
lgr(x)=(x>0)?1:0
sml(x)=(x<0)?1:0
である。
POカテゴリ/POクラス設定部2002は、S2103でカテゴリpcatを設定する。
pcat=0 (M=3)
1 (M=4)
2 (otherwise)
POカテゴリ/POクラス設定部2002は、S2104でPOクラスcidを算出する。
3
cid=Σ|rec(ci)-rec(X)|/(M*(1<<NF)
i=0
ここでΣは、M= MLの場合はlgr(rec(ci)-rec(X))=1を満たすiについての和を計算し、M=
MSの場合はsml(rec(ci)-rec(X))=1を満たすiについての和を計算する。NFはエントロピー復号部301で復号された正規化係数である。
POカテゴリ/POクラス設定部2002は、S2105で、POクラスc_idを下記のように決定する。
c_id=cid (cid<Cmax)
=Cmax (otherwise)
ここでCmaxはエントロピー復号部301で復号されたPOクラスの最大値であり、POクラス
数が大きくなりすぎることを防ぐ。
POオフセット加算部2004は、POカテゴリ/POクラス設定部2002で算出された、対象画素
のPOカテゴリとPOクラスを用いて適用するオフセットを決定し、対象画素値rec[X]にオフセットを加算し、フィルタ処理された対象画素値recpo[X]を算出する。
recpo[X]=rec[X]+offset[c_id][pcat]
（符号化装置におけるPO）
符号化装置においてPO処理を実行するPO_E部の動作を、図２２のブロック図を用いて説明する。PO_E部2201は、POカテゴリ、POクラス毎にオフセットを算出するPOオフセット算出部2202と、PO部2001からなる。PO部2001は上述と同じため、説明を省略する。PO_E部2201で算出したオフセット情報（Cmax、NF、オフセット）はエントロピー符号化部104に
出力され、フィルタ処理された画像はSAO_E部115に出力される。
POオフセット算出部2202の動作を図２３のフローチャートを用いて説明する。
POオフセット算出部2202は、S2301で、各POクラスc_idとPOカテゴリpcatの組み合わせ
毎に画素数をカウントする変数count[c_id][pcat]と、対象画素の復号画素値と原画素値
の絶対差分和を格納するSAD[c_id][pcat]を初期化する。
POオフセット算出部2202は、S2302で、対象画素の参照画素c0〜c3を設定し、図２１と
同様の方法でPOカテゴリを導出する。CTUの全画素に対し前記処理を行い、POカテゴリ毎
に、対象画素Xの復号画素値rec[X]と原画素値org[X]の絶対差分の分布を求める。
POオフセット算出部2202は、S2303で、S2302で求めた分布の最大値から対象画素Xの正
規化係数NFとPOクラスの最大値Cmaxを導出する。例えば、分布の最大値をPmaxとすると、
Cmax=Pmax/2
NF=Ceil(log2(Pmax/Cmax))
あるいは分布の最頻値Pfreqを用いて
Cmax=min(Pmax/2,Pfreq)
としてもよい。
POオフセット算出部2202は、S2304で、図２１のフローチャートで説明した方法で対象
画素XのPOカテゴリ、POクラスを抽出し、各POカテゴリとPOクラスの絶対差分和SAD[c_id][pcat]に、対象画素Xの復号画素値と原画素値の絶対差分を加算する。
POオフセット算出部2202は、S2305で、POカテゴリとPOクラス毎にオフセットを算出す
る。
offset[c_id][pcat]=SAD[c_id][pcat]/count[c_id][pcat]
以上の処理により、SAOでは考慮できなかった２次元方向の画素値の変化を用いてフィ
ルタ処理ができる。
上記の説明はPOとSAOを共に使用する例であった。POは画像の２次元方向の画素値の変
化を用い、SAOのオフセットタイプEOは１次元方向の画素値の変化を用いる違いはあるが
、双方とも対象画素と参照画素との画素値の変化を用いる点で類似しており、POとSAOの
組み合わせ方法を変更することで、さらに双方の特性を活かした処理が可能になる。 本発明の一つの実施形態では、POの参照画素を図１４に示す（a）水平・垂直方向と（b）斜め方向の２種類からCTU毎にフラグ（flag）を用いて選択する。この処理を実現するため
のPO部2001のPOカテゴリ/POクラス設定部2002の動作を図２５のフローチャートを用いて
説明する。
図２５は、図２１のS2101をS25010〜S25012に置き換えたもので、その他のステップに
は変更はない。POカテゴリ/POクラス設定部2002は、S25010で、エントロピー復号部301で復号したフラグ（flag）をチェックする。フラグが0の場合、S25011に進み、対象画素Xの参照画素ci（i=0〜3）を図１４（a）に示す水平・垂直方向の画素にセットする。そうで
ない場合、S25012に進み、対象画素Xの参照画素ci（i=0〜3）を図１４（b）に示す斜め方向の画素にセットする。
符号化装置では、PO_E部2201のオフセット算出部2202の動作を示す図２３のフローチャートにおいて、選択可能な参照画素が水平・垂直方向と斜め方向の２種類に増えるので、各々の参照画素に対しS2301〜S2305の処理を実行する。そして図１４の２種類の参照画素に対してS2304で求めた絶対差分和SAD[c=id][pcat]を比較し、小さい方の参照画素を採用する。そして絶対差分和SADが小さい方の参照画素位置は図１４の（a）か（b）かを示す
フラグ、この参照画素を使用して算出したオフセット、Cmax、NFをエントロピー符号化部104に出力する。
このように、フラグを用いてPOの参照画素位置を水平・垂直方向あるいは斜め方向のどちらかに設定することで、斜め方向の画素値の変化を考慮しつつ、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
〔変形例１〕
本発明の別の実施形態として、POの処理によってSAOのオフセットタイプEOの処理を変
更する例を説明する。具体的にはPOでオフセットを加算した画素であるか、加算しなかった画素であるかに応じて、SAOのオフセットタイプEOの処理を変更する。上記のPOの構成
では、POカテゴリが2の場合、オフセットを加算しない。つまり、対象画素と参照画素の
２次元方向の画素値の変化をチェックした時にオフセットの加算が必要ないということである。しかし、上述のSAOのEOでは、対象画素と参照画素の１次元方向の画素値の変化を
チェックし、さらにオフセットを加算することがある。しかしながら、POカテゴリが2以
外の画素ではすでにPOでオフセット処理を実施しているので、少なくともSAOのEOの処理
は実施しないことが適当である（画素のオフセットタイプがBOの場合は上述の通り実施する）。
変形例１のPO部2001におけるPOカテゴリ/POクラス設定部2002の動作を、図２６を用い
て説明する。図２６は、図２１のS2103の後にS26030〜S26032を追加しており、その他の
ステップには変更はない。POカテゴリ/POクラス設定部2002は、S26030で、S2103において設定したPOカテゴリpcatを参照し、pcatが2か否かを判定する。pcatが2（PO部ではオフセットを加算しないカテゴリ）の場合、S26031に進み、対象画素Xのmaskを1にセットする。pcatが2でない（PO部ではオフセットを加算するカテゴリ）の場合、S26032に進み、対象
画素Xのmaskを0にセットする。maskはCTU内の全画素に各々割り当てられた変数である。
次にPOの後で行うSAOの処理を図２７のフローチャートを用いて説明する。図２７は、
図１１のS1104の後にS27040〜S27041を追加したもので、その他のステップは同じである
。SAO部314のカテゴリ設定部1001は、S27040で、PO部2001でセットした対象画素Xのmask
をチェックし、1でない（PO部でオフセットを加算する）場合、S27041に進み、１次元SAOであるEOのカテゴリcatを、オフセットを加算しないカテゴリの0にセットする（EOを行わない）。
以上の動作により、２次元オフセット加算フィルタであるPO時にオフセットを加算しなかった画素のみを１次元オフセット加算フィルタであるEOのオフセット加算の候補とすることで、２次元方向の画素値の変化からはオフセットの加算が不要でも、１次元方向の画素値の変化からはオフセットの加算が必要な場合に、適切にオフセットを加算することができ、かつ、POとEOという似た処理を二重に実施することを回避することができる。
なお、変形例１に対しても、実施形態１で説明した参照画素位置の切替を適用することができる。この場合、図２６のS2101を、図２５のS25010〜S25012に置き換えればよく、
それ以外のステップは同じである。
〔変形例２〕
本発明の別の実施例として、POとSAOの実行順序を変更する例を説明する。図２８は復
号装置側のブロック図、図２９は符号化装置側のブロック図であり、双方とも実施形態２と構成要素は同じであるが、POとSAOの実行順序が異なっている。変形例２では、SAOのオフセットタイプがEO、かつ、オフセットを加算した画素（画素のカテゴリcatが0以外の画素、つまり画素のカテゴリcatがオフセットを加算するカテゴリの画素）を、後続のPOの
オフセットを加算する画素の候補とする。つまり、EOで１次元方向の画素値の変化を考慮した画素に対し、さらに２次元方向の画素値の変化を考慮した補正を行う。
変形例２のSAO部314のカテゴリ設定部1001の動作を図３０のフローチャートで説明する。図３０は、図１１のS1104の後にS30000〜S30002を追加し、また図１１のS1106の後にS30060を追加したものであり、それ以外のステップは同じである。
SAO部314のカテゴリ設定部1001は、S30000で、S1104で設定したカテゴリcatが0か否か
をチェックする。カテゴリcatが0（EOでオフセット加算しない）の場合、S30001に進み、対象画素のmaskを0にセットする。カテゴリcatが0でない（EOでオフセット加算する）の
場合、S30002に進み、対象画素のmaskを1にセットする。カテゴリ設定部1001は、S30060
で、対象画素のmaskを0にセットする。maskはCTU内の全画素に各々割り当てられた変数である。
次にPO部1001のPOカテゴリ/POクラス設定部2002の動作を、図３１を用いて説明する。
図３１は、図２１のS2103の後にS31030、S31031を追加したものであり、それ以外のステ
ップは同じである。POカテゴリ/POクラス設定部2002は、S31030で、EOでオフセットを加
算したかどうかを示すmaskをチェックする。maskが0（EOでオフセットを加算しない）の
場合、S31031に進み、POカテゴリpcatをオフセットを加算しないカテゴリの0にセットす
る。これにより、EOでオフセットを加算しなかった画素は、POのオフセットを加算しない。
なお、変形例１に対しても、実施形態２で説明した参照画素位置の切替を適用することができる。この場合、図３１のS2101を、図２５のS25010〜S25012に置き換えればよく、
それ以外のステップは同じである。
〔実施形態２〕
本願の実施形態２は、POの画素分類（POカテゴリ分類）を２つの１次元EOの組み合わせで実現する。２つのEOの組み合わせで実現することで、POとEOの両者を処理する場合に発生する冗長な処理を削除し、かつ、１次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる
。具体的には、図７に示す４つのクラスに対応する方向（水平方向、垂直方向、左上から右下方向、右上から左下方向）のうちの２つの方向のEOカテゴリを、EOカテゴリ1、EOカ
テゴリ2として導出し、この２つのEOカテゴリに基づいてPOカテゴリ分類を導出する。
図２４（a）は、EOの２つのクラスのカテゴリ（EOカテゴリ1、EOカテゴリ2）を組み合
わせた時のMの値を示す。図２４（a）を用いることでEOカテゴリ1、EOカテゴリ2から、POカテゴリを導出するための一時変数Mを導出することができる。
M=max(Σlgr(rec(X)-rec(ci)), Σsml(rec(X)-rec(ci)))
ここで、発生しないパターンのMは0にセットする。
例えば、図２４（a）のEOカテゴリ１は図７のクラス0（参照画素は水平方向）の参照画素から得られるカテゴリ、EOカテゴリ２は図７のクラス2（参照画素は左上から右下方向
）の参照画素から得られるカテゴリとする。例えばEOカテゴリ１が２、EOカテゴリ２が１の場合、Mは3と導出される。
図２４（b）は（実施形態１の式で導出される）POカテゴリのMと２つのEOのカテゴリの組み合わせ（EOカテゴリ1、EOカテゴリ2）との関係を示した表である。例えばM=3は、２
つのカテゴリが0と3、あるいは1と2に相当する。またM=4は、２つのカテゴリが1と1、あ
るいは4と4に相当する。M=0〜2はPOではオフセット加算の対象とならない画素値の変化パターンであるが、１次元のEOとしてはオフセット加算の対象となる画素値の変化パターンなので、本実施形態でもオフセットの加算を行う。このように、CTU毎に方向（EOクラス
）を２つ設定し、画素毎に２つの方向に対するカテゴリを求めることで、従来POとSAOのEO双方でカテゴリ分類が必要であった処理を、SAOのEOのカテゴリ分類だけで処理することができる。
実施形態２のブロック図は、実施形態１の図１０のSAO部314、および図１７のSAO_E部115と同じであるが、カテゴリ設定部1001、オフセット加算部1003、オフセット情報選択部1703の動作が異なる。カテゴリ設定部1001、およびオフセット情報選択部1703の動作を図３４、図３５のフローチャートで説明する。
図３４のカテゴリ設定部1001は、２つの方向（クラス）に対応する参照画素から２つのカテゴリを導出するためS1102〜S1104の処理を２回繰り返す。その他のステップは、１つの方向（クラス）の参照画素から１つのカテゴリを導出する図１１と同じである。カテゴリ設定部1001は、S34040でS1102〜S1104の処理の回数をカウントし、２回であれば処理を終了し、１回であればS1102に戻り処理を継続する。なお、２つのカテゴリ導出はループ
処理で行う必要はなく、カテゴリ導出処理を２回実行する構成でもよい。
オフセット加算部1003では、カテゴリ設定部1001で算出した２つのクラス（class1、class2）とそのカテゴリ（cat1、cat2）に対応する２つのオフセットをオフセット情報格納部から読み出し、対象画素の画素値Rec[X]に加算する。
recsao[X]=rec[X]+(offset[class1][cat1]+offset[class2][cat2])/2
(cat1≠0かつcat2≠0)
=rec[X]+offset[class1][cat1] (cat2=0)
=rec[X]+offset[class2][cat2] (cat1=0)
上式は２つのオフセットの平均値を加算しているが、２つのオフセットの重み付き演算でもよい。ただし、最初に符号化されたクラスclass1の重みw1を、class2の重みw2より大きくする。
recsao[X]=rec[X]+w1*offset[cat1]+w2*offset[cat2] (cat1≠0かつcat2≠0)
ここでw1>=w2、w1+w2=1である。
なお、カテゴリ設定部1001で用いる２つの方向（クラス）は、CTU単位で符号化
・復号してもよい。４つの方向（クラス）の中から２つの方向（クラス）を選択する場合には、２ビットのシンタックスが必要である。なお、選択可能な方向として２つの方向（クラス）が直交する場合のみ選択するという制限をかけてもよい。この場合、取り得る参照画素位置は水平・垂直方向と２つの斜め方向の２パターンに限定されるが、クラスを表現するビット数を１ビット削減することができる。
以上で説明したように、本願の実施形態２は、POのカテゴリ分類相当の処理を２つの１次元EOのカテゴリ分類の組み合わせで実現する。２つのEOの組み合わせで実現することで、POカテゴリ分類とEOカテゴリ分類の両方を処理する場合に発生する冗長な処理を回避し、かつ、１次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。
〔実施形態３〕
本願の実施形態３は、POを拡張して実施形態２の１次元EOの組み合わせを表現する。POを拡張して表現することで、POもEOも処理する場合に発生する冗長な処理を削除し、かつ、従来のPOでは表現できなかった１次元方向の画素値の変化に対応することができ、より効率的なフィルタ処理を実現できる。
実施形態３のブロック図は、実施形態１の図２０のPO部2001、および図２２のPO_E部2201と同じであるが、POカテゴリ/POクラス設定部2002の動作が異なる。
ここでPOカテゴリpcatとEOカテゴリの対応関係を図３２に示す。図３２において、POのM
が0〜2の場合は、SAOのEOのカテゴリに従って処理を実施する。POのMが3の場合はPOを実
施するが、オフセットはEOカテゴリに合わせて異なるオフセットを符号化装置側で算出し、POオフセット加算部2004で加算処理に使用する。POのMが4の場合はPOを実施するが、オフセットはEOカテゴリに合わせて、かつM=3とは異なるオフセットを符号化装置側で算出
し、POオフセット加算部2004で加算処理に使用する。EOカテゴリが1と4、あるいは2と3のように特性が似通っている場合、オフセットは同じ値でもよい。
また拡張したPOはSAOのEOの機能も含むので、POの後に処理するSAOは、図３７に示すようにBOの機能のみを実施してもよい。この構成では、図３７に示すように、まずPO部2001（あるいはPO_E部2201）が、上述のPOカテゴリ分類とオフセット加算処理を行い、SAO部314（あるいはSAO_E部115）がEOを除くBOのカテゴリ分類とオフセット加算処理を行う。SAOのオフセットタイプはBOだけなので、例えば図１１のカテゴリ設定部1001は、S1105とS1106の処理だけになる。図１８のオフセット算出部1702はS1801、S1805とS1806の処理だけになる。図１９のオフセット情報選択部1703はS1901とS1905〜S1907の処理だけになる。
従って、オフセット情報はオフセットとバンド位置（band_position）となる。またオフ
セットタイプはBOだけなので、オフセットタイプ（type）も符号化する必要はない。
以上のように、本願の実施形態３は、実施形態２の１次元EOの組み合わせに相当するカテゴリ分類処理を、POを拡張して実現する。POを拡張して実現することで、POとEOを処理する場合に発生する冗長なカテゴリ分類処理を削除し、かつ、従来のPOで表現できなかった１次元方向の画素値の変化に対応することができ、より効率的なフィルタ処理を実現できる。
〔実施形態４〕
本願の実施形態４は、POとSAOのEOがリンギング除去効果、SAOのBOが擬似輪郭防止効果という異なる画質改善効果をもつことから、POを使用（POでオフセットを加算）した場合のSAOはBOを選択する。
実施形態４のブロック図は、実施形態１の図２０のPO部2001（ただしPOカテゴリ/POク
ラス設定部2002は図２６の動作）、および図２２のPO_E部2201と同じであるが、図３８に示すようにS3802でCTUの全画素に対してオフセットを加算したか否かの判定を行う。具体的にはmask=1の場合、POでオフセットを加算していないため、CTUの全画素のmaskが1であれば、そのCTUはオフセットを加算していないことになる。。S3802でCTUの全画素のmask
が1の場合、後続のSAOは従来通りEOとBOから適切なタイプを選択し処理する。そうでない場合、後続のSAOはBOのみの処理となる。SAOがBOのみの場合、SAOのオフセットタイプの
符号化は不要である。
なお、符号化装置側で、POにおいてCTUに１つでもmaskが0の画素があった場合にオフセットタイプ（BO）を符号化する場合は、復号装置側では、図３８のS3802とS3804は不要となり、従来のPOとSAOを順番に処理する動作と全く同じ動作となる。
〔実施形態５〕
本願の実施形態５は、実施形態１で説明したPOの参照画素位置への斜め方向画素（図１４（b））の追加に関する。POとSAOのEOでは、どちらも適切な参照画素位置の算出が必要であるため、POとEOで参照画素位置の情報を共有することで冗長な算出処理を削減できる。
POの後にSAOを処理する場合（図２０、図２２）、POで算出した参照画素位置を用いてEOの参照画素位置を決定する。POで用いた参照方向を示すフラグをPOflag、EOで用いる1ビットのクラス情報をEOflagとすると、EOのクラスclassは下記で算出できる。
class=(POflag<<1)+EOflag
この場合、EOのクラスを示すための情報を１ビット削減できる。
SAOの後にPOを処理する場合（図２８、図２９）、SAOのEOで算出した参照画素位置を用いて、図１５（a）に示すようにPOの参照画素位置を決定する。つまりEOのクラスが0あるいは1の場合、POflag=0（参照画素位置は水平・垂直方向）であり、EOのクラスが2あるいは3の場合、POflag=1（参照画素位置は斜め方向）である。この場合、POの参照画素位置
を示す情報を削除することができる。
POとSAOのEOの参照画素位置が共通の場合、最初の処理で補正の効果がある参照画素位
置を後続の処理にも用いることで、さらに精度の高い補正ができるという効果もある。
〔変形例３〕
上記はPOとSAOのEO参照画素位置を共通にした場合であったが、変形例３はPOとEOで異
なる参照画素位置を用いる。
POの後にSAOを処理する場合（図２０、図２２）、POで算出した参照画素位置を用いてEOの参照画素位置を決定する。POで用いた参照方向を示すフラグをPOflag、EOで用いる1ビットのクラス情報をEOflagとすると、EOのクラスclassは下記で算出できる。
class=((1-POflag)<<1)+EOflag
この場合、EOのクラスを示すための情報を１ビット削減できる。
SAOの後にPOを処理する場合（図２８、図２９）、SAOのEOで算出した参照画素位置を用いて、図１５（b）に示すようにPOの参照画素位置を決定する。つまりEOのクラスが0あるいは1の場合、POflag=1（参照画素位置は斜め方向）であり、EOのクラスが2あるいは3の
場合、POflag=0（参照画素位置は水平・垂直方向）である。この場合、POの参照画素位置を示す情報を削除することができる。
POとSAOのEOの参照画素位置が異なる場合、最初の処理で補正できなかった方向の画素
値の変化を用いて後続の処理ができるので、符号化効率を向上させる効果がある。
〔実施形態６〕
本発明の実施形態６は、POで通知するPOクラスの最大数Cmaxと、クラスの算出に使用する正規化係数NFの推定について説明する。Cmaxによって符号化すべきオフセット数を制限し、NFによって１つのオフセットで対応する画素値の変化量の粒度を変更できるため、CTU毎にCmaxとNFを通知することで最適なオフセットの調整ができる。しかしながらCTU毎にCmaxとNFを符号化すると、符号量が増大するという課題がある。そこでピクチャパラメータセットやスライスヘッダ等でCmaxとNFを符号化し、CTUレベルでは画素値の変化量に関
係の深いパラメータを用いてCmaxとNFを変更することで符号量を削減しつつ、細かいオフセットの調整ができる。
以下に、画素値の変化量に関係の深いパラメータとして量子化幅QPを用いた例を説明する。
QPが大きい場合、復号画像にはリンギング歪や量子化歪が増加するため、オフセット数を増やし、画素値の細かな調整をする必要がある。そのためにはQPが大きい場合、Cmaxを大きく、NFを小さくして、オフセット数を増やし、１つのオフセットが対応する画素値の変化量の精度を細かくする。
POカテゴリ/POクラス設定部2202の動作を図３９のフローチャートで説明する。図３９
は図２１のS2103の後にS39030が追加されたものであり、それ以外のステップは同じであ
る。POカテゴリ/POクラス設定部2002は、S39030でCmaxとNFをCTU単位で推定する。具体的には、POカテゴリ毎に対象画素Xと参照画素c0〜c3の復号画素値の絶対差分の平均値DIFF_avgを算出し、図３３に示す(α、β)を用い、下式でCmaxを算出する。
Cmax=(Cmax_init*α)>>β
ここで、Cmax_initはピクチャパラメータセットやスライスヘッダで通知したCmaxの値で
ある。図３３のavgは絶対差分の平均値DIFF_avgである。示す値であり、例えばQPがTHQより小さく、avgがTHD1〜THD2の間にある時は、(α、β)=(3、1)で、Cmax=Cmax_init*3/2である。また、POカテゴリ毎に対象画素Xと参照画素c0〜c3の復号画素値の絶対差分の最大
値DIFF_maxを用いて、NFを下式で算出する。
NF=Ceil(log2(DIFF_max/DIFF_avg))
なお、上記では画素値の変化量に関係の深いパラメータとして量子化幅QPを用いたが、CUのサイズとしてもよい。CUサイズが大きい領域はテクスチャが平坦であり、擬似輪郭が発生しやすい。画素値のわずかな変化が目立つので、QPが大きい時と同様の制御が可能である。
また、上記ではCTU毎にCmaxとNFを推定したが、１つ前のCTU毎のCmaxとNF、あるいはピクチャパラメータセットやスライスヘッダで通知したCmax_initとNF_initとの差分値を符号化することで、符号量を削減することもできる。i番目のCTUのCmaxとNFをCmax[i]、NF[i]とすると、
dCmax=Cmax[i]-Cmax[i-1] (i>0)
dNF=NF[i]-NF[i-1]
であり、dCmax、dNFを符号化する。
符号化装置側ではPOオフセット算出部2202において、図２３に示すS2303のCmax、NFの
導出は上記で説明した図３９のS39030に置き換えられる。
以上のように、実施形態６では、CTUレベルでは画素値の変化量に関係の深いパラメー
タを用いてCmaxとNFを変更する、あるいは１つ前のCmaxとNFとの差分値を符号化することで符号量を削減しつつ、細かいオフセットの調整ができる。
なお、PO_E部2201は、CmaxとNFの初期値であるCmax_initとNF_initをエントロピー符号化部104に出力し、エントロピー符号化部104はこれらをピクチャパラメータセットやスライスヘッダを符号化する。PO部2001は、エントロピー復号部301で復号したCmax_initとNF_initをPOカテゴリ/POクラス設定部2002に渡す。
〔実施形態７〕
本願の実施形態７はオフセットのエントロピー符号化方法について説明する。本発明では、POとSAOで各々オフセットを符号化・復号する。しかしながら、１回目の処理（処理
１）のオフセット加算により原画素値とフィルタ処理後の画素値の差分はフィルタ処理前の画素値との差分より小さくなっており、２回目の処理（処理２）のオフセットは１回目のオフセット以下でよい。従って、処理１のオフセットを用いて、処理２のオフセットの符号長を削減することができる。
図５のエントロピー復号部301、あるいは図６のエントロピー符号化部104の中に、オフセット値をバイナリゼーションする（図示しない）バイナリゼーション部がある。ここで行われるバイナリゼーションの方法としてTR（Truncated Rice）符号を用いる例を説明する。処理１のオフセットの取り得る最大値Omax1は
Omax1=(1<<(min(N,10)-5))-1
で表される。ここでNは画素の階調で、8（0〜255）の場合はOmax1=7であり、オフセット
として0〜7の値を使用することができる。Omax1=7の場合のTR符号表を図３６（a）に示す。例えば処理１のオフセットの最大値が5の場合、処理２のオフセットの最大値は5以下であるので、処理２ではOmax2=5であり、この時のTR符号表を図３６（b）に示す。従って処理２でオフセットがOmax2と等しくなる時は、処理１で使用するTR符号表を用いて符号化
する時よりも符号量を１ビット削減することができる。なお、実施形態７では、処理１がPOで処理２がSAOの場合も、その逆の場合も適用することができる。
〔変形例４〕
実施形態７では、処理２のオフセットの制限を処理１のオフセットの最大値以下とした。変形例４では、処理２のオフセットの制限を処理１のオフセットの最大値の1/2以下と
する。図３６（c）に変形例４の場合の処理２におけるオフセットのTR符号表を示す。例
えば処理１のオフセットの最大値が5の場合、処理２のオフセットの最大値は5の1/2以下
であるので、処理２ではOmax2=2である。
〔変形例５〕
実施形態７では処理１と処理２のオフセットのバイナリゼーションにTR符号（RiceParam=0）を使用した。変形例５では処理２に比べオフセット値が大きくなる処理１において
、入力値が大きくなっても符号長が長くなりにくいTR符号（RiceParam=1）を使用して、
オフセットの符号量を削減する。図３６（d）にTR符号表（RiceParam=1）を示す。図３６（a）の符号表と図３６（d）の符号表を比較すると、入力が0の場合は図３６（a）の符号表の符号量割り当てが小さいが、3以上になると図３６（d）の符号表の符号量割り当てが小さい。従ってオフセットのバイナリゼーションにおいて、処理１では図３６（d）の符
号表を用い、処理２では図３６（a）の符号表を用いることで、入力が大きい場合の符号
量を削減することができる。
以上のように、本願の実施形態７はオフセットのエントロピー符号化において、１回目の処理のオフセットより、２回目の処理のオフセットが小さくなることを利用して、オフセットの符号長を削減することができる。
〔その他〕
なお、前述した実施形態における画像符号化装置１１、画像復号装置３１の一部、例えば、エントロピー復号部３０１、予測パラメータ復号部３０２、ループフィルタ３０５、予測画像生成部３０８、逆量子化・逆DCT部３１１、加算部３１２、予測画像生成部１０
１、減算部１０２、DCT・量子化部１０３、エントロピー符号化部１０４、逆量子化・逆DCT部１０５、ループフィルタ１０７、符号化パラメータ決定部１１０、予測パラメータ符号化部１１１、および各部が含むブロックをコンピュータで実現するようにしても良い。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、画像符号化装置１１、画像復号装置３１のいずれかに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のこと
をいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また前記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
また、前述した実施形態における画像符号化装置１１、画像復号装置３１の一部、または全部を、LSI（Large Scale Integration）等の集積回路として実現しても良い。画像符号化装置１１、画像復号装置３１の各機能ブロックは個別にプロセッサ化しても良いし、一部、または全部を集積してプロセッサ化しても良い。また、集積回路化の手法はＬＳＩに限らず専用回路、または汎用プロセッサで実現しても良い。また、半導体技術の進歩によりＬＳＩに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いても良い。
（応用例）
前述した画像符号化装置１１および画像復号装置３１は、動画像の送信、受信、記録、再生を行う各種装置に搭載して利用することができる。なお、動画像は、カメラ等により撮像された自然動画像であってもよいし、コンピュータ等により生成された人工動画像（CGおよびGUIを含む）であってもよい。
まず、前述した画像符号化装置１１および画像復号装置３１を、動画像の送信および受信に利用できることを、図８を参照して説明する。
図８の（ａ）は、画像符号化装置１１を搭載した送信装置PROD_Aの構成を示したブロック図である。図８の（ａ）に示すように、送信装置PROD_Aは、動画像を符号化することによって符号化データを得る符号化部PROD_A1と、符号化部PROD_A1が得た符号化データで搬送波を変調することによって変調信号を得る変調部PROD_A2と、変調部PROD_A2が得た変調信号を送信する送信部PROD_A3と、を備えている。前述した画像符号化装置１１は、この
符号化部PROD_A1として利用される。
送信装置PROD_Aは、符号化部PROD_A1に入力する動画像の供給源として、動画像を撮像
するカメラPROD_A4、動画像を記録した記録媒体PROD_A5、動画像を外部から入力するための入力端子PROD_A6、および、画像を生成または加工する画像処理部Ａ７を更に備えてい
てもよい。図８の（ａ）においては、これら全てを送信装置PROD_Aが備えた構成を例示し
ているが、一部を省略しても構わない。
なお、記録媒体PROD_A5は、符号化されていない動画像を記録したものであってもよい
し、伝送用の符号化方式とは異なる記録用の符号化方式で符号化された動画像を記録したものであってもよい。後者の場合、記録媒体PROD_A5と符号化部PROD_A1との間に、記録媒体PROD_A5から読み出した符号化データを記録用の符号化方式に従って復号する復号部（
不図示）を介在させるとよい。
図８の（ｂ）は、画像復号装置３１を搭載した受信装置PROD_Bの構成を示したブロック図である。図８の（ｂ）に示すように、受信装置PROD_Bは、変調信号を受信する受信部PROD_B1と、受信部PROD_B1が受信した変調信号を復調することによって符号化データを得る復調部PROD_B2と、復調部PROD_B2が得た符号化データを復号することによって動画像を得る復号部PROD_B3と、を備えている。前述した画像復号装置３１は、この復号部PROD_B3として利用される。
受信装置PROD_Bは、復号部PROD_B3が出力する動画像の供給先として、動画像を表示す
るディスプレイPROD_B4、動画像を記録するための記録媒体PROD_B5、および、動画像を外部に出力するための出力端子PROD_B6を更に備えていてもよい。図８の（ｂ）においては
、これら全てを受信装置PROD_Bが備えた構成を例示しているが、一部を省略しても構わない。
なお、記録媒体PROD_B5は、符号化されていない動画像を記録するためのものであって
もよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化されたものであってもよい。後者の場合、復号部PROD_B3と記録媒体PROD_B5との間に、復号部PROD_B3から
取得した動画像を記録用の符号化方式に従って符号化する符号化部（不図示）を介在させるとよい。
なお、変調信号を伝送する伝送媒体は、無線であってもよいし、有線であってもよい。また、変調信号を伝送する伝送態様は、放送（ここでは、送信先が予め特定されていない送信態様を指す）であってもよいし、通信（ここでは、送信先が予め特定されている送信態様を指す）であってもよい。すなわち、変調信号の伝送は、無線放送、有線放送、無線通信、および有線通信の何れによって実現してもよい。
例えば、地上デジタル放送の放送局（放送設備など）／受信局（テレビジョン受像機など）は、変調信号を無線放送で送受信する送信装置PROD_A／受信装置PROD_Bの一例である。また、ケーブルテレビ放送の放送局（放送設備など）／受信局（テレビジョン受像機など）は、変調信号を有線放送で送受信する送信装置PROD_A／受信装置PROD_Bの一例である。
また、インターネットを用いたVOD（Video On Demand）サービスや動画共有サービスなどのサーバ（ワークステーションなど）／クライアント（テレビジョン受像機、パーソナルコンピュータ、スマートフォンなど）は、変調信号を通信で送受信する送信装置PROD_A／受信装置PROD_Bの一例である（通常、ＬＡＮにおいては伝送媒体として無線または有線の何れかが用いられ、ＷＡＮにおいては伝送媒体として有線が用いられる）。ここで、パーソナルコンピュータには、デスクトップ型PC、ラップトップ型PC、およびタブレット型PCが含まれる。また、スマートフォンには、多機能携帯電話端末も含まれる。
なお、動画共有サービスのクライアントは、サーバからダウンロードした符号化データを復号してディスプレイに表示する機能に加え、カメラで撮像した動画像を符号化してサーバにアップロードする機能を有している。すなわち、動画共有サービスのクライアント
は、送信装置PROD_Aおよび受信装置PROD_Bの双方として機能する。
次に、前述した画像符号化装置１１および画像復号装置３１を、動画像の記録および再生に利用できることを、図９を参照して説明する。
図９の（ａ）は、前述した画像符号化装置１１を搭載した記録装置PROD_Cの構成を示したブロック図である。図９の（ａ）に示すように、記録装置PROD_Cは、動画像を符号化することによって符号化データを得る符号化部PROD_C1と、符号化部PROD_C1が得た符号化データを記録媒体PROD_Mに書き込む書込部PROD_C2と、を備えている。前述した画像符号化
装置１１は、この符号化部PROD_C1として利用される。
なお、記録媒体PROD_Mは、（１）HDD（Hard Disk Drive）やSSD(Solid State Drive)などのように、記録装置PROD_Cに内蔵されるタイプのものであってもよいし、（２）SDメモリカードやUSB（Universal Serial Bus）フラッシュメモリなどのように、記録装置PROD_Cに接続されるタイプのものであってもよいし、（３）DVD（Digital Versatile Disc）やBD（Blu-ray Disc:登録商標）などのように、記録装置PROD_Cに内蔵されたドライブ装置
（不図示）に装填されるものであってもよい。
また、記録装置PROD_Cは、符号化部PROD_C1に入力する動画像の供給源として、動画像
を撮像するカメラPROD_C3、動画像を外部から入力するための入力端子PROD_C4、動画像を受信するための受信部PROD_C5、および、画像を生成または加工する画像処理部PROD_C6を更に備えていてもよい。図９の（ａ）においては、これら全てを記録装置PROD_Cが備えた構成を例示しているが、一部を省略しても構わない。
なお、受信部PROD_C5は、符号化されていない動画像を受信するものであってもよいし
、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを受信するものであってもよい。後者の場合、受信部PROD_C5と符号化部PROD_C1との間に、伝送用の符号化方式で符号化された符号化データを復号する伝送用復号部（不図示）を介在させるとよい。
このような記録装置PROD_Cとしては、例えば、DVDレコーダ、BDレコーダ、HDD（Hard Disk Drive）レコーダなどが挙げられる（この場合、入力端子PROD_C4または受信部PROD_C5が動画像の主な供給源となる）。また、カムコーダ（この場合、カメラPROD_C3が動画像の主な供給源となる）、パーソナルコンピュータ（この場合、受信部PROD_C5または画像
処理部Ｃ６が動画像の主な供給源となる）、スマートフォン（この場合、カメラPROD_C3
または受信部PROD_C5が動画像の主な供給源となる）なども、このような記録装置PROD_C
の一例である。
図９の（ｂ）は、前述した画像復号装置３１を搭載した再生装置PROD_Dの構成を示したブロック図である。図９の（ｂ）に示すように、再生装置PROD_Dは、記録媒体PROD_Mに書き込まれた符号化データを読み出す読出部PROD_D1と、読出部PROD_D1が読み出した符号化データを復号することによって動画像を得る復号部PROD_D2と、を備えている。前述した
画像復号装置３１は、この復号部PROD_D2として利用される。
なお、記録媒体PROD_Mは、（１）HDDやSSDなどのように、再生装置PROD_Dに内蔵されるタイプのものであってもよいし、（２）SDメモリカードやUSBフラッシュメモリなどのよ
うに、再生装置PROD_Dに接続されるタイプのものであってもよいし、（３）DVDやBDなど
のように、再生装置PROD_Dに内蔵されたドライブ装置（不図示）に装填されるものであってもよい。
また、再生装置PROD_Dは、復号部PROD_D2が出力する動画像の供給先として、動画像を
表示するディスプレイPROD_D3、動画像を外部に出力するための出力端子PROD_D4、および、動画像を送信する送信部PROD_D5を更に備えていてもよい。図９の（ｂ）においては、
これら全てを再生装置PROD_Dが備えた構成を例示しているが、一部を省略しても構わない。
なお、送信部PROD_D5は、符号化されていない動画像を送信するものであってもよいし
、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを送信するものであってもよい。後者の場合、復号部PROD_D2と送信部PROD_D5との間に、動画像を伝送用の符号化方式で符号化する符号化部（不図示）を介在させるとよい。
このような再生装置PROD_Dとしては、例えば、DVDプレイヤ、BDプレイヤ、HDDプレイヤなどが挙げられる（この場合、テレビジョン受像機等が接続される出力端子PROD_D4が動
画像の主な供給先となる）。また、テレビジョン受像機（この場合、ディスプレイPROD_D3が動画像の主な供給先となる）、デジタルサイネージ（電子看板や電子掲示板等とも称
され、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる）、デスクトップ型PC（この場合、出力端子PROD_D4または送信部PROD_D5が動画像の主な供給先となる）、ラップトップ型またはタブレット型PC（この場合、ディスプレイPROD_D3または送
信部PROD_D5が動画像の主な供給先となる）、スマートフォン（この場合、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる）なども、このような再生装置PROD_Dの一例である。
（ハードウェア的実現およびソフトウェア的実現）
また、前述した画像復号装置３１および画像符号化装置１１の各ブロックは、集積回路（ICチップ）上に形成された論理回路によってハードウェア的に実現してもよいし、CPU
（Central Processing Unit）を用いてソフトウェア的に実現してもよい。
後者の場合、前記各装置は、各機能を実現するプログラムの命令を実行するCPU、前記
プログラムを格納したROM（Read Only Memory）、前記プログラムを展開するRAM（Random
Access Memory）、前記プログラムおよび各種データを格納するメモリ等の記憶装置（記録媒体）などを備えている。そして、本発明の実施形態の目的は、前述した機能を実現するソフトウェアである前記各装置の制御プログラムのプログラムコード（実行形式プログラム、中間コードプログラム、ソースプログラム）をコンピュータで読み取り可能に記録した記録媒体を、前記各装置に供給し、そのコンピュータ（またはCPUやMPU）が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
前記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやCD-ROM（Compact Disc Read-Only Memory）／MOディスク（Magneto-Optical disc）／MD（Mini Disc）／DVD（Digital Versatile Disc）／CD-R（CD Recordable）／ブルーレイディスク（Blu-ray Disc：登録商標）等の光ディスクを含むディスク類、ICカード（メモリカードを含む）／光カード等のカード類、マスクROM／EPROM（Erasable Programmable Read-Only Memory）／EEPROM（Electrically Erasable and Programmable Read-Only Memory：登録商標）／フラッシ
ュROM等の半導体メモリ類、またはPLD（Programmable logic device）やFPGA（Field Programmable Gate Array）等の論理回路類などを用いることができる。
また、前記各装置を通信ネットワークと接続可能に構成し、前記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークは、プログラムコードを伝送可能であればよく、特に限定されない。例えば、インターネット、イントラネット、
エキストラネット、LAN（Local Area Network）、ISDN（Integrated Services Digital Network）、VAN（Value-Added Network）、CATV（Community Antenna television/Cable Television）通信網、仮想専用網（Virtual Private Network）、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な媒体であればよく、特定の構成または種類のものに限定されない。例えば、IEEE（Institute of Electrical and Electronic Engineers）1394、USB、電力線搬送、ケーブルＴＶ回線、電話線、ADSL（Asymmetric Digital Subscriber Line）回線等の有線でも、IrDA（Infrared Data Association）やリモコンのような赤外線、BlueTooth（登録商標）、IEEE802.11無線、HDR（High Data Rate）、NFC（Near Field Communication）、DLNA（Digital Living Network Alliance：登録商標）、携帯電話網、衛星回線、地上デジタル放送網等の無線でも利用可能である。なお、本発明の実施形態は、前記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
〔付記事項〕
本発明の実施形態は前述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
本願の実施形態は、残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、符号化データから復号された第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替える。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、符号化データから復号された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットを加算する。これにより、２次元方向の画素値の変化からはオフセットの加算が不要でも、１次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
本願の実施形態は、前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、符号化データから復号された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対
象画素値に加算する第２の加算部とを備え、第１のフィルタ装置の第１の加算部は第２の加算部で第２のオフセットを加算した画素に対しては、第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しない。これにより、１次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに２次元方向の画素値の変化を考慮したオフセットを加算することができる。
本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、符号化データから復号された第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
本願の実施形態は、残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、第１のオフセット算出部された第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替えることを特徴とする第１の画像フィルタ装置を備える画像フィルタ装置。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、第２のオフセット算出部された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットを加算する。これにより、２次元方向の画素値の変化からはオフセットの加算が不要でも、１次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
本願の実施形態は、前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、第２のオフセット算出部された第
２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第１のフィルタ装置の第１の加算部は第２の加算部で第２のオフセットを加算した画素に対しては、第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しないことを特徴とする画像フィルタ装置。これにより、１次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに２次元方向の画素値の変化を考慮したオフセットを加算することができる。
本願の実施形態は、前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、第２のオフセット算出部された第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行う。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
本願の実施形態は、２次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理を、２つの１次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理の組み合わせで表現する。２つの１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する画像フィルタは、対象画素に対し、異なる１次元方向を示す２つのクラス、クラスの示す方向の画素値の変化パターンを示す２つのカテゴリ、および対象画素値の範囲を示すバンド位置を設定する設定部と、符号化データから復号されたオフセットの中から、前記カテゴリを参照して求めた２つのオフセットを前記対象画素値に加算する加算部とを備え、加算部は前記２つのオフセットの平均を対象画素に加算する。これにより、２つの１次元方向フィルタの組み合わせで表現することで、冗長な処理を削除し、かつ、１次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。
本願の実施形態は、１次元方向の画素値の変化を利用するフィルタ（第２のフィルタ）、および２次元方向の画素値の変化を利用するフィルタ（第１のフィルタ）の参照画素位置の情報を共有する。第１のフィルタの後で第２のフィルタを適用する場合、第１のフィルタで使用した参照画素位置を参照して第２のフィルタの参照画素位置を決定する。第２のフィルタの後で第１のフィルタを適用する場合、第２のフィルタで使用した参照画素位置を参照して第１のフィルタの参照画素位置を決定する。これにより、参照画素位置の導出処理を共通化できるため、冗長な処理を削減することができる。
本願の実施形態は、ピクチャパラメータセット、またはスライスヘッダにおいて、第１のフィルタのクラスの最大数と、正規化係数を符号化し、CTUレベルでは画素値の変化量
に関係の深いパラメータを用いてPOクラスの最大数と、正規化係数を推定する。画素値の変化量に関係の深いパラメータとして量子化幅QPやCUサイズを使用する。これにより、CTU毎に第１のフィルタのクラスの最大数と、正規化係数を符号化しなくてよいので、符号
量を削減しつつ、細かいオフセットの調整ができる。
本願の実施形態は、値が小さい２回目のフィルタ処理のオフセットを１回目のフィルタ
処理のオフセットの最大値以下とする。また、１回目の処理のオフセットのバイナリゼーションは大きな入力値で符号量が大きくなりにくい符号化方法を選択し、２回目の処理のオフセットのバイナリゼーションは小さな入力値で符号量が小さくなりやすい符号化方法を選択する。これにより、２回目の処理で使用するオフセットの符号量を、１回目の処理で使用する符号量よりも削減することができる。
本発明の実施形態は、画像データが符号化された符号化データを復号する画像復号装置、および、画像データが符号化された符号化データを生成する画像符号化装置に好適に適用することができる。また、画像符号化装置によって生成され、画像復号装置によって参照される符号化データのデータ構造に好適に適用することができる。
１１ 画像符号化装置
３１ 画像復号装置
３１４ SAO部
１１５ SAO_E部
２００１ PO部
２２０１ PO_E部

Claims (8)

  1. 残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、
    対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、
    符号化データから復号された第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、
    前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、
    前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替えることを特徴とする第１の画像フィルタ装置を備える画像フィルタ装置。
  2. 請求項１において、
    前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、
    符号化データから復号された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットの加算することを特徴とする画像フィルタ装置。
  3. 請求項１において、
    前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、
    符号化データから復号された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    第１のフィルタ装置の第１の加算部は第２の加算部で第２のオフセットを加算した画素に対しては、第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しないことを特徴とする画像フィルタ装置。
  4. 請求項１において、
    前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、
    符号化データから復号された第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のタイプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかっ
    た画素に対しては第１のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。
  5. 残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第１のオフセットを加算する第１の画像フィルタ装置であって、
    対象画素に対し２次元方向の画素値の変化パターンを示す第１のカテゴリ、および２次元方向の画素値の変化量を示す第１のクラスを設定する第１の設定部と、
    第１のオフセット算出部された第１のオフセットの中から、前記第１のカテゴリと第１のクラスを参照して求めた第１のオフセットを前記対象画素値に加算する第１の加算部とを備え、
    前記設定部は、第１のカテゴリおよび第１のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、
    前記参照画素は対象画素に対し水平・垂直方向の隣接４画素と、対象画素に対し左上右下・左下右上方向の隣接４画素を切り替えることを特徴とする第１の画像フィルタ装置を備える画像フィルタ装置。
  6. 請求項５において、
    前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、
    第２のオフセット算出部された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のオフセットの加算を行わず、第１の加算部で第１のオフセットを加算しなかった画素に対して第２のオフセットの加算することを特徴とする画像フィルタ装置。
  7. 請求項５において、
    前記第１のフィルタ装置の入力画像に対し、１次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第２の設定部と、
    第２のオフセット算出部された第２のオフセットの中から、前記第２のカテゴリを参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    第１のフィルタ装置の第１の加算部は第２の加算部で第２のオフセットを加算した画素に対しては、第１のオフセットを加算し、第２の加算部で第２のオフセットを加算しなかった画素に対しては第１のオフセットを加算しないことを特徴とする画像フィルタ装置。
  8. 請求項５において、
    前記第１のフィルタ装置の出力画像に対し、１次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第２の画像フィルタ装置を備え、
    第２の画像フィルタ装置は、対象画素に対し１次元方向に参照する方向を示す第２のクラス、１次元方向の画素値の変化パターンを示す第２のカテゴリを用いる第１のタイプと、対象画素値の範囲を示すバンド位置を用いる第２のタイプを設定する第２の設定部と、
    第２のオフセット算出部された第２のオフセットの中から、前記第２のカテゴリあるいはバンド位置を参照して求めた第２のオフセットを前記対象画素値に加算する第２の加算部とを備え、
    第２の加算部は第１の加算部で第１のオフセットを加算した画素に対しては、第２のタ
    イプを用いるオフセットの加算を行い、第１の加算部で第１のオフセットを加算しなかった画素に対しては第１のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。
JP2016234014A 2016-12-01 2016-12-01 画像フィルタ装置 Pending JP2020025150A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016234014A JP2020025150A (ja) 2016-12-01 2016-12-01 画像フィルタ装置
PCT/JP2017/041624 WO2018101100A1 (ja) 2016-12-01 2017-11-20 画像フィルタ装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016234014A JP2020025150A (ja) 2016-12-01 2016-12-01 画像フィルタ装置

Publications (1)

Publication Number Publication Date
JP2020025150A true JP2020025150A (ja) 2020-02-13

Family

ID=62242478

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016234014A Pending JP2020025150A (ja) 2016-12-01 2016-12-01 画像フィルタ装置

Country Status (2)

Country Link
JP (1) JP2020025150A (ja)
WO (1) WO2018101100A1 (ja)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8660174B2 (en) * 2010-06-15 2014-02-25 Mediatek Inc. Apparatus and method of adaptive offset for video coding

Also Published As

Publication number Publication date
WO2018101100A1 (ja) 2018-06-07

Similar Documents

Publication Publication Date Title
JP7516603B2 (ja) 画像フィルタ装置、画像復号装置、および画像符号化装置
JP7223886B2 (ja) 画像復号方法
WO2018116925A1 (ja) イントラ予測画像生成装置、画像復号装置、および画像符号化装置
US10863186B2 (en) Image decoding apparatus and image coding apparatus
WO2018116802A1 (ja) 画像復号装置、画像符号化装置、及び画像予測装置
JP7213689B2 (ja) 画像復号装置及び画像符号化装置
WO2018221368A1 (ja) 動画像復号装置、及び動画像符号化装置
JP2021005741A (ja) 画像符号化装置及び画像復号装置
WO2018110203A1 (ja) 動画像復号装置、および動画像符号化装置
JP2021010046A (ja) 画像符号化装置及び画像復号装置
JP2019216294A (ja) エントロピー復号装置、エントロピー符号化装置、画像復号装置および画像符号化装置
WO2019182159A1 (ja) 画像フィルタ装置、画像復号装置、及び画像符号化装置
WO2018199002A1 (ja) 動画像符号化装置及び動画像復号装置
JP7241153B2 (ja) 画像復号装置
WO2018159526A1 (ja) 動画像符号化装置及び動画像復号装置
JP2020120141A (ja) 動画像符号化装置及び動画像復号装置、フィルタ装置
JP7073186B2 (ja) 画像フィルタ装置
WO2019230904A1 (ja) 画像復号装置、および画像符号化装置
WO2019159820A1 (ja) 動画像符号化装置及び動画像復号装置
WO2018143289A1 (ja) 画像符号化装置及び画像復号装置
WO2019131349A1 (ja) 画像復号装置、画像符号化装置
WO2018061550A1 (ja) 画像復号装置及び画像符号化装置
JP2020036101A (ja) 画像復号装置および画像符号化装置
JP2019201332A (ja) 画像符号化装置、画像復号装置、及び画像符号化システム
WO2018101100A1 (ja) 画像フィルタ装置