JP2020025150A - 画像フィルタ装置 - Google Patents
画像フィルタ装置 Download PDFInfo
- Publication number
- JP2020025150A JP2020025150A JP2016234014A JP2016234014A JP2020025150A JP 2020025150 A JP2020025150 A JP 2020025150A JP 2016234014 A JP2016234014 A JP 2016234014A JP 2016234014 A JP2016234014 A JP 2016234014A JP 2020025150 A JP2020025150 A JP 2020025150A
- Authority
- JP
- Japan
- Prior art keywords
- offset
- pixel
- unit
- image
- pixel value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/117—Filters, e.g. for pre-processing or post-processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
- H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】POとSAOの組み合わせにおいて冗長な部分を削除し、あるいはいくつかの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理量の増加を抑えつつ符号化効率を従来よりも向上させる。【解決手段】符号化単位の各画素値に第1のオフセットを加算する画像フィルタ装置において、対象画素に対し2次元方向の画素値の変化パターンを示すカテゴリ、および2次元方向の画素値の変化量を示すクラスを設定し、符号化データから復号されたオフセットの中から、前記カテゴリとクラスを参照して求めたオフセットを対象画素値に加算する時に、カテゴリおよびクラスを設定するために、対象画素の隣接画素を参照画素として利用し、参照画素は対象画素に対し水平・垂直方向の隣接4画素と、対象画素に対し左上右下・左下右上方向の隣接4画素を切り替える。【選択図】図25
Description
本発明の実施形態は、画像フィルタ装置に関する。
動画像を効率的に伝送または記録するために、動画像を符号化することによって符号化データを生成する画像符号化装置、および、当該符号化データを復号することによって復号画像を生成する画像復号装置が用いられている。
具体的な動画像符号化方式としては、例えば、H.264/AVCやHEVC(High-Efficiency Video Coding)にて提案されている方式などが挙げられる。
このような動画像符号化方式においては、動画像を構成する画像(ピクチャ)は、画像を分割することにより得られるスライス、スライスを分割することにより得られる符号化単位(符号化ユニット(Coding Unit:CU)と呼ばれることもある)、および、符号化単
位を分割することより得られるブロックである予測ユニット(PU)、変換ユニット(TU)からなる階層構造により管理され、CUごとに符号化/復号される。
位を分割することより得られるブロックである予測ユニット(PU)、変換ユニット(TU)からなる階層構造により管理され、CUごとに符号化/復号される。
また、このような動画像符号化方式においては、通常、入力画像を符号化/復号することによって得られる局所復号画像に基づいて予測画像が生成され、当該予測画像を入力画像(原画像)から減算して得られる予測残差(「差分画像」または「残差画像」と呼ぶこともある)が符号化される。予測画像の生成方法としては、画面間予測(インター予測)、および、画面内予測(イントラ予測)が挙げられる。さらに、復号画像に対し、視覚的な歪除去を目的としたループフィルタの適用が一般的になっている。
また、近年の動画像符号化および復号の技術として非特許文献1が挙げられる。
さらに、近年では、ループフィルタとしてデブロッキングフィルタ、サンプル適応オフセット(SAO)、適応ループフィルタ(ALF)に加え、非特許文献2のピークSAOも提案さ
れている。
れている。
以上のとおり、複数のループフィルタが存在し、各々異なる効果を持っているものの、中には重複する効果もあり、ループフィルタの組み合わせ方にも工夫が必要になってきている。
"Algorithm Description of Joint Exploration Test Model 4", JVET-D1001, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 15-21 October 2016
"Peak Sample Adaptive Offset", JVET-D0133, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 15-21 October 2016
復号画像に適用するループフィルタの種類は、デブロッキングフィルタ、SAO、ALF、ピークSAO(PO)と増えており、特に、SAOのオフセットタイプEOは1次元方向の画素値の変
化を用い、POは画像の2次元方向の画素値の変化を用いる違いはあるが、双方とも対象画素と参照画素との画素値の変化を用いる点で類似している。そのため、冗長な部分が存在し、あるいは導出する情報を共有することでSAOとPOを合わせた符号化効率を向上させる
ことができるが、これらの点はまだ十分に考慮されていない。
化を用い、POは画像の2次元方向の画素値の変化を用いる違いはあるが、双方とも対象画素と参照画素との画素値の変化を用いる点で類似している。そのため、冗長な部分が存在し、あるいは導出する情報を共有することでSAOとPOを合わせた符号化効率を向上させる
ことができるが、これらの点はまだ十分に考慮されていない。
そこで、本発明はPOとSAOの組み合わせにおいて冗長な部分を削除し、あるいはいくつ
かの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理量の増加を抑えつつ符号化効率を従来よりも向上させることを目的とする。
かの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理量の増加を抑えつつ符号化効率を従来よりも向上させることを目的とする。
本願の実施形態は、残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第1のオフセットを加算する第1の画像フィルタ装置であって、対象画素に対し2次元方向の画素値の変化パターンを示す第1のカテゴリ、および2次元方向の画素値の変化量を示す第1のクラスを設定する第1の設定部と、符号化データから復号された第1のオフセットの中から、前記第1のカテゴリと第1のクラスを参照して求めた第1のオフセットを前記対象画素値に加算する第1の加算部とを備え、前記設定部は、第1のカテゴリおよび第1のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接4画素と、対象画素に対し左上右下・左下右上方向の隣接4画素を切り替える。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
本願の実施形態は、前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、符号化データから復号された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のオフセットの加算を行わず、第1の加算部で第1のオフセットを加算しなかった画素に対して第2のオフセットを加算する。これにより、2次元方向の画素値の変化からはオフセットの加算が不要でも、1次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
本願の実施形態は、前記第1のフィルタ装置の入力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、符号化データから復号された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第1のフィルタ装置の第1の加算部は第2の加算部で第2のオフセットを加算した画素に対しては、第1のオフセットを加算し、第2の加算部で第2のオフセットを加算しなかった画素に対しては第1のオフセットを加算しない。これにより、1次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに2次元方向の画素値の変化を考慮したオフセットを加算することができる。
本願の実施形態は、前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第
2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリを用いる第1のタイプと、対象画素値の範囲を示すバンド位置を用いる第2のタイプを設定する第2の設定部と、符号化データから復号された第2のオフセットの中から、前記第2のカテゴリあるいはバンド位置を参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のタイプを用いるオフセットの加算を行い、第1の加算部で第1のオフセットを加算しなかった画素に対しては第1のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリを用いる第1のタイプと、対象画素値の範囲を示すバンド位置を用いる第2のタイプを設定する第2の設定部と、符号化データから復号された第2のオフセットの中から、前記第2のカテゴリあるいはバンド位置を参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のタイプを用いるオフセットの加算を行い、第1の加算部で第1のオフセットを加算しなかった画素に対しては第1のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
本願の実施形態は、残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第1のオフセットを加算する第1の画像フィルタ装置であって、対象画素に対し2次元方向の画素値の変化パターンを示す第1のカテゴリ、および2次元方向の画素値の変化量を示す第1のクラスを設定する第1の設定部と、第1のオフセット算出部された第1のオフセットの中から、前記第1のカテゴリと第1のクラスを参照して求めた第1のオフセットを前記対象画素値に加算する第1の加算部とを備え、前記設定部は、第1のカテゴリおよび第1のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接4画素と、対象画素に対し左上右下・左下右上方向の隣接4画素を切り替えることを特徴とする第1の画像フィルタ装置を備える画像フィルタ装置。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
本願の実施形態は、前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のオフセットの加算を行わず、第1の加算部で第1のオフセットを加算しなかった画素に対して第2のオフセットを加算する。これにより、2次元方向の画素値の変化からはオフセットの加算が不要でも、1次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
本願の実施形態は、前記第1のフィルタ装置の入力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第1のフィルタ装置の第1の加算部は第2の加算部で第2のオフセットを加算した画素に対しては、第1のオフセットを加算し、第2の加算部で第2のオフセットを加算しなかった画素に対しては第1のオフセットを加算しないことを特徴とする画像フィルタ装置。これにより、1次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに2次元方向の画素値の変化を考慮したオフセットを加算することができる。
本願の実施形態は、前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の
変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリを用いる第1のタイプと、対象画素値の範囲を示すバンド位置を用いる第2のタイプを設定する第2の設定部と、第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリあるいはバンド位置を参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のタイプを用いるオフセットの加算を行い、第1の加算部で第1のオフセットを加算しなかった画素に対しては第1のタイプを用いるオフセットの加算を行う。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリを用いる第1のタイプと、対象画素値の範囲を示すバンド位置を用いる第2のタイプを設定する第2の設定部と、第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリあるいはバンド位置を参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のタイプを用いるオフセットの加算を行い、第1の加算部で第1のオフセットを加算しなかった画素に対しては第1のタイプを用いるオフセットの加算を行う。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
本願の実施形態は、2次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理を、2つの1次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理の組み合わせで表現する。2つの1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する画像フィルタは、対象画素に対し、異なる1次元方向を示す2つのクラス、クラスの示す方向の画素値の変化パターンを示す2つのカテゴリ、および対象画素値の範囲を示すバンド位置を設定する設定部と、符号化データから復号されたオフセットの中から、前記カテゴリを参照して求めた2つのオフセットを前記対象画素値に加算する加算部とを備え、加算部は前記2つのオフセットの平均を対象画素に加算する。これにより、2つの1次元方向フィルタの組み合わせで表現することで、冗長な処理を削除し、かつ、1次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。
本願の実施形態は、1次元方向の画素値の変化を利用するフィルタ(第2のフィルタ)、および2次元方向の画素値の変化を利用するフィルタ(第1のフィルタ)の参照画素位置の情報を共有する。第1のフィルタの後で第2のフィルタを適用する場合、第1のフィルタで使用した参照画素位置を参照して第2のフィルタの参照画素位置を決定する。第2のフィルタの後で第1のフィルタを適用する場合、第2のフィルタで使用した参照画素位置を参照して第1のフィルタの参照画素位置を決定する。これにより、参照画素位置の導出処理を共通化できるため、冗長な処理を削減することができる。
本願の実施形態は、ピクチャパラメータセット、またはスライスヘッダにおいて、第1のフィルタのクラスの最大数と、正規化係数を符号化し、CTUレベルでは画素値の変化量
に関係の深いパラメータを用いてPOクラスの最大数と、正規化係数を推定する。画素値の変化量に関係の深いパラメータとして量子化幅QPやCUサイズを使用する。これにより、CTU毎に第1のフィルタのクラスの最大数と、正規化係数を符号化しなくてよいので、符号
量を削減しつつ、細かいオフセットの調整ができる。
に関係の深いパラメータを用いてPOクラスの最大数と、正規化係数を推定する。画素値の変化量に関係の深いパラメータとして量子化幅QPやCUサイズを使用する。これにより、CTU毎に第1のフィルタのクラスの最大数と、正規化係数を符号化しなくてよいので、符号
量を削減しつつ、細かいオフセットの調整ができる。
本願の実施形態は、値が小さい2回目のフィルタ処理のオフセットを1回目のフィルタ処理のオフセットの最大値以下とする。また、1回目の処理のオフセットのバイナリゼーションは大きな入力値で符号量が大きくなりにくい符号化方法を選択し、2回目の処理のオフセットのバイナリゼーションは小さな入力値で符号量が小さくなりやすい符号化方法を選択する。これにより、2回目の処理で使用するオフセットの符号量を、1回目の処理で使用する符号量よりも削減することができる。
本発明に係る形態によれば、POとSAOの組み合わせにおいて冗長な部分を削除し、ある
いはいくつかの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理
量の増加を抑えつつ符号化効率を従来よりも向上させることができる。
いはいくつかの情報を共有することで、さらに双方の特性を活かした処理を実現し、処理
量の増加を抑えつつ符号化効率を従来よりも向上させることができる。
〔実施形態1〕
以下、図面を参照しながら本発明の実施形態について説明する。
図1は、本実施形態に係る画像伝送システム1の構成を示す概略図である。
以下、図面を参照しながら本発明の実施形態について説明する。
図1は、本実施形態に係る画像伝送システム1の構成を示す概略図である。
画像伝送システム1は、符号化対象画像を符号化した符号を伝送し、伝送された符号を復号し画像を表示するシステムである。画像伝送システム1は、画像符号化装置11、ネットワーク21、画像復号装置31および画像表示装置41を含んで構成される。
画像符号化装置11には、単一レイヤもしくは複数レイヤの画像を示す画像Tが入力される。レイヤとは、ある時間を構成するピクチャが1つ以上ある場合に、複数のピクチャを区別するために用いられる概念である。たとえば、同一ピクチャを、画質や解像度の異なる複数のレイヤで符号化するとスケーラブル符号化になり、異なる視点のピクチャを複数のレイヤで符号化するとビュースケーラブル符号化となる。複数のレイヤのピクチャ間で予測(インターレイヤ予測、インタービュー予測)を行う場合には、符号化効率が大きく向上する。また予測を行わない場合(サイマルキャスト)の場合にも、符号化データをまとめることができる。
ネットワーク21は、画像符号化装置11が生成した符号化ストリームTeを画像復号装置31に伝送する。ネットワーク21は、インターネット(internet)、広域ネットワーク(WAN:Wide Area Network)、小規模ネットワーク(LAN:Local Area Network)また
はこれらの組み合わせである。ネットワーク21は、必ずしも双方向の通信網に限らず、地上デジタル放送、衛星放送等の放送波を伝送する一方向の通信網であっても良い。また、ネットワーク21は、DVD(Digital Versatile Disc)、BD(Blu-ray Disc:登録商標)等の符号化ストリームTeを記録した記憶媒体で代替されても良い。
はこれらの組み合わせである。ネットワーク21は、必ずしも双方向の通信網に限らず、地上デジタル放送、衛星放送等の放送波を伝送する一方向の通信網であっても良い。また、ネットワーク21は、DVD(Digital Versatile Disc)、BD(Blu-ray Disc:登録商標)等の符号化ストリームTeを記録した記憶媒体で代替されても良い。
画像復号装置31は、ネットワーク21が伝送した符号化ストリームTeのそれぞれを復号し、それぞれ復号した1または複数の復号画像Tdを生成する。
画像表示装置41は、画像復号装置31が生成した1または複数の復号画像Tdの全部または一部を表示する。画像表示装置41は、例えば、液晶ディスプレイ、有機EL(Electro-luminescence)ディスプレイ等の表示デバイスを備える。また、空間スケーラブル符号化、SNRスケーラブル符号化では、画像復号装置31、画像表示装置41が高い処理能力を有する場合には、画質の高い拡張レイヤ画像を表示し、より低い処理能力しか有しない場合には、拡張レイヤほど高い処理能力、表示能力を必要としないベースレイヤ画像を表示する。
<演算子>
本明細書で用いる演算子を以下に記載する。
本明細書で用いる演算子を以下に記載する。
>>は右ビットシフト、<<は左ビットシフト、&はビットワイズAND、|はビットワイズOR
、|=は別の条件との和演算(OR)である。
、|=は別の条件との和演算(OR)である。
x ? y : zは、xが真(0以外)の場合にy、xが偽(0)の場合にzをとる3項演算子であ
る。
る。
Clip3(a, b, c) は、cをa以上b以下の値にクリップする関数であり、c<aの場合にはaを返し、c>bの場合にはbを返し、その他の場合にはcを返す関数である(ただし、a<=b)。
<符号化ストリームTeの構造>
本実施形態に係る画像符号化装置11および画像復号装置31の詳細な説明に先立って、画像符号化装置11によって生成され、画像復号装置31によって復号される符号化ストリームTeのデータ構造について説明する。
本実施形態に係る画像符号化装置11および画像復号装置31の詳細な説明に先立って、画像符号化装置11によって生成され、画像復号装置31によって復号される符号化ストリームTeのデータ構造について説明する。
図2は、符号化ストリームTeにおけるデータの階層構造を示す図である。符号化ストリームTeは、例示的に、シーケンス、およびシーケンスを構成する複数のピクチャを含む。図2の(a)〜(f)は、それぞれ、シーケンスSEQを既定する符号化ビデオシーケンス
、ピクチャPICTを規定する符号化ピクチャ、スライスSを規定する符号化スライス、スラ
イスデータを規定する符号化スライスデータ、符号化スライスデータに含まれる符号化ツリーユニット、符号化ツリーユニットに含まれる符号化ユニット(Coding Unit;CU)を
示す図である。
、ピクチャPICTを規定する符号化ピクチャ、スライスSを規定する符号化スライス、スラ
イスデータを規定する符号化スライスデータ、符号化スライスデータに含まれる符号化ツリーユニット、符号化ツリーユニットに含まれる符号化ユニット(Coding Unit;CU)を
示す図である。
(符号化ビデオシーケンス)
符号化ビデオシーケンスでは、処理対象のシーケンスSEQを復号するために画像復号装
置31が参照するデータの集合が規定されている。シーケンスSEQは、図2の(a)に示
すように、ビデオパラメータセット(Video Parameter Set)、シーケンスパラメータセ
ットSPS(Sequence Parameter Set)、ピクチャパラメータセットPPS(Picture Parameter Set)、ピクチャPICT、および、付加拡張情報SEI(Supplemental Enhancement Information)を含んでいる。ここで#の後に示される値はレイヤIDを示す。図2では、#0と#1すなわちレイヤ0とレイヤ1の符号化データが存在する例を示すが、レイヤの種類およびレイヤの数はこれによらない。
符号化ビデオシーケンスでは、処理対象のシーケンスSEQを復号するために画像復号装
置31が参照するデータの集合が規定されている。シーケンスSEQは、図2の(a)に示
すように、ビデオパラメータセット(Video Parameter Set)、シーケンスパラメータセ
ットSPS(Sequence Parameter Set)、ピクチャパラメータセットPPS(Picture Parameter Set)、ピクチャPICT、および、付加拡張情報SEI(Supplemental Enhancement Information)を含んでいる。ここで#の後に示される値はレイヤIDを示す。図2では、#0と#1すなわちレイヤ0とレイヤ1の符号化データが存在する例を示すが、レイヤの種類およびレイヤの数はこれによらない。
ビデオパラメータセットVPSは、複数のレイヤから構成されている動画像において、複
数の動画像に共通する符号化パラメータの集合および動画像に含まれる複数のレイヤおよび個々のレイヤに関連する符号化パラメータの集合が規定されている。
数の動画像に共通する符号化パラメータの集合および動画像に含まれる複数のレイヤおよび個々のレイヤに関連する符号化パラメータの集合が規定されている。
シーケンスパラメータセットSPSでは、対象シーケンスを復号するために画像復号装置
31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの幅や高さが規定される。なお、SPSは複数存在してもよい。その場合、PPSから複数のSPSの何れか
を選択する。
31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの幅や高さが規定される。なお、SPSは複数存在してもよい。その場合、PPSから複数のSPSの何れか
を選択する。
ピクチャパラメータセットPPSでは、対象シーケンス内の各ピクチャを復号するために
画像復号装置31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの復号に用いられる量子化幅の基準値(pic_init_qp_minus26)や重み付き予測の適用
を示すフラグ(weighted_pred_flag)が含まれる。なお、PPSは複数存在してもよい。そ
の場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
画像復号装置31が参照する符号化パラメータの集合が規定されている。例えば、ピクチャの復号に用いられる量子化幅の基準値(pic_init_qp_minus26)や重み付き予測の適用
を示すフラグ(weighted_pred_flag)が含まれる。なお、PPSは複数存在してもよい。そ
の場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
(符号化ピクチャ)
符号化ピクチャでは、処理対象のピクチャPICTを復号するために画像復号装置31が参照するデータの集合が規定されている。ピクチャPICTは、図2の(b)に示すように、スライスS0〜SNS-1を含んでいる(NSはピクチャPICTに含まれるスライスの総数)。
符号化ピクチャでは、処理対象のピクチャPICTを復号するために画像復号装置31が参照するデータの集合が規定されている。ピクチャPICTは、図2の(b)に示すように、スライスS0〜SNS-1を含んでいる(NSはピクチャPICTに含まれるスライスの総数)。
なお、以下、スライスS0〜SNS-1のそれぞれを区別する必要が無い場合、符号の添え字
を省略して記述することがある。また、以下に説明する符号化ストリームTeに含まれるデータであって、添え字を付している他のデータについても同様である。
を省略して記述することがある。また、以下に説明する符号化ストリームTeに含まれるデータであって、添え字を付している他のデータについても同様である。
(符号化スライス)
符号化スライスでは、処理対象のスライスSを復号するために画像復号装置31が参照
するデータの集合が規定されている。スライスSは、図2の(c)に示すように、スライ
スヘッダSH、および、スライスデータSDATAを含んでいる。
符号化スライスでは、処理対象のスライスSを復号するために画像復号装置31が参照
するデータの集合が規定されている。スライスSは、図2の(c)に示すように、スライ
スヘッダSH、および、スライスデータSDATAを含んでいる。
スライスヘッダSHには、対象スライスの復号方法を決定するために画像復号装置31が参照する符号化パラメータ群が含まれる。スライスタイプを指定するスライスタイプ指定情報(slice_type)は、スライスヘッダSHに含まれる符号化パラメータの一例である。
スライスタイプ指定情報により指定可能なスライスタイプとしては、(1)符号化の際にイントラ予測のみを用いるIスライス、(2)符号化の際に単方向予測、または、イントラ予測を用いるPスライス、(3)符号化の際に単方向予測、双方向予測、または、イントラ予測を用いるBスライスなどが挙げられる。
なお、スライスヘッダSHには、前記符号化ビデオシーケンスに含まれる、ピクチャパラメータセットPPSへの参照(pic_parameter_set_id)を含んでいても良い。
(符号化スライスデータ)
符号化スライスデータでは、処理対象のスライスデータSDATAを復号するために画像復
号装置31が参照するデータの集合が規定されている。スライスデータSDATAは、図2の
(d)に示すように、符号化ツリーユニット(CTU:Coding Tree Unit)を含んでいる。CTUは、スライスを構成する固定サイズ(例えば64x64)の矩形であり、最大符号化単位(LCU:Largest Coding Unit)と呼ぶこともある。
符号化スライスデータでは、処理対象のスライスデータSDATAを復号するために画像復
号装置31が参照するデータの集合が規定されている。スライスデータSDATAは、図2の
(d)に示すように、符号化ツリーユニット(CTU:Coding Tree Unit)を含んでいる。CTUは、スライスを構成する固定サイズ(例えば64x64)の矩形であり、最大符号化単位(LCU:Largest Coding Unit)と呼ぶこともある。
(符号化ツリーユニット)
図2の(e)に示すように、処理対象の符号化ツリーユニットを復号するために画像復号装置31が参照するデータの集合が規定されている。符号化ツリーユニットは、再帰的な4分木分割(QT分割)または2分木分割(BT分割)により分割される。再帰的な4分木分割または2分木分割により得られる木構造のノードのことを符号化ノード(CN:Coding Node)と称する。4分木および2分木の中間ノードは、符号化ツリー(CT:Coding Tree)であり、符号化ツリーユニット自身も最上位の符号化ツリーとして規定される。
図2の(e)に示すように、処理対象の符号化ツリーユニットを復号するために画像復号装置31が参照するデータの集合が規定されている。符号化ツリーユニットは、再帰的な4分木分割(QT分割)または2分木分割(BT分割)により分割される。再帰的な4分木分割または2分木分割により得られる木構造のノードのことを符号化ノード(CN:Coding Node)と称する。4分木および2分木の中間ノードは、符号化ツリー(CT:Coding Tree)であり、符号化ツリーユニット自身も最上位の符号化ツリーとして規定される。
CTUは、QT分割を行うか否かを示すQT分割フラグ(cu_split_flag)、およびBT分割の分割方法を示すBT分割モード(split_bt_mode)を含む。cu_split_flagが1の場合には、4つの符号化ノードCNに分割される。cu_split_flagが0の場合には、符号化ノードCNは分
割されず、1つの符号化ユニット(CU:Coding Unit)をノードとして持つ。一方、split_bt_modeが2の場合には、2つの符号化ノードCNに水平分割される。split_bt_modeが1の場合には、2つの符号化ノードCNに垂直分割される。split_bt_modeが0の場合には、符
号化ノードCNは分割されず、1つの符号化ユニットCUをノードとして持つ。符号化ユニットCUは符号化ツリーの末端ノードであり、これ以上分割されない。符号化ユニットCUは、符号化処理の基本的な単位となる。
割されず、1つの符号化ユニット(CU:Coding Unit)をノードとして持つ。一方、split_bt_modeが2の場合には、2つの符号化ノードCNに水平分割される。split_bt_modeが1の場合には、2つの符号化ノードCNに垂直分割される。split_bt_modeが0の場合には、符
号化ノードCNは分割されず、1つの符号化ユニットCUをノードとして持つ。符号化ユニットCUは符号化ツリーの末端ノードであり、これ以上分割されない。符号化ユニットCUは、符号化処理の基本的な単位となる。
符号化ツリーユニットCTUのサイズが64x64画素の場合にとり得る符号化ユニットのサイズは、例えば、64x64画素、64x32画素、32x64画素、32x32画素、64x16画素、16x64画素、32x16画素、16x32画素、16x16画素、64x8画素、8x64画素、32x8画素、8x32画素、16x8画
素、8x16画素、および、8x8画素の何れかである。ただし、分割の回数や組み合わせ、符
号化ユニットのサイズなどに関する制約によっては、これ以外のサイズもとり得る。
素、8x16画素、および、8x8画素の何れかである。ただし、分割の回数や組み合わせ、符
号化ユニットのサイズなどに関する制約によっては、これ以外のサイズもとり得る。
(符号化ユニット)
図2の(f)に示すように、処理対象の符号化ユニットを復号するために画像復号装置31が参照するデータの集合が規定されている。具体的には、符号化ユニットは、予測ツリー、変換ツリー、CUヘッダCUHから構成される。CUヘッダでは予測モード、分割方法(PU分割モード)等が規定される。
図2の(f)に示すように、処理対象の符号化ユニットを復号するために画像復号装置31が参照するデータの集合が規定されている。具体的には、符号化ユニットは、予測ツリー、変換ツリー、CUヘッダCUHから構成される。CUヘッダでは予測モード、分割方法(PU分割モード)等が規定される。
予測ツリーでは、符号化ユニットを1または複数に分割した各予測ユニット(PU)の予測情報(参照ピクチャインデックス、動きベクトル等)が規定される。別の表現でいえば、予測ユニットは、符号化ユニットを構成する1または複数の重複しない領域である。また、予測ツリーは、前述の分割により得られた1または複数の予測ユニットを含む。なお、以下では、予測ユニットをさらに分割した予測単位を「サブブロック」と呼ぶ。サブブロックは、複数の画素によって構成されている。予測ユニットとサブブロックのサイズが等しい場合には、予測ユニット中のサブブロックは1つである。予測ユニットがサブブロックのサイズよりも大きい場合には、予測ユニットは、サブブロックに分割される。たとえば予測ユニットが8x8、サブブロックが4x4の場合には、予測ユニットは水平に2分割、垂直に2分割からなる、4つのサブブロックに分割される。
予測処理は、この予測ユニット(サブブロック)ごとに行ってもよい。
予測ツリーにおける分割の種類は、大まかにいえば、イントラ予測の場合と、インター予測の場合との2つがある。イントラ予測とは、同一ピクチャ内の予測であり、インター予測とは、互いに異なるピクチャ間(例えば、表示時刻間、レイヤ画像間)で行われる予測処理を指す。
イントラ予測の場合、分割方法は、2Nx2N(符号化ユニットと同一サイズ)と、NxNとがある。
また、インター予測の場合、分割方法は、符号化データのPU分割モード(part_mode)
により符号化され、2Nx2N(符号化ユニットと同一サイズ)、2NxN、2NxnU、2NxnD、Nx2N
、nLx2N、nRx2N、および、NxNなどがある。なお、2NxN、Nx2Nは1:1の対称分割を示し、
2NxnU、2NxnDおよびnLx2N、nRx2Nは、1:3、3:1の非対称分割を示す。CUに含まれるPUを順にPU0、PU1、PU2、PU3と表現する。
により符号化され、2Nx2N(符号化ユニットと同一サイズ)、2NxN、2NxnU、2NxnD、Nx2N
、nLx2N、nRx2N、および、NxNなどがある。なお、2NxN、Nx2Nは1:1の対称分割を示し、
2NxnU、2NxnDおよびnLx2N、nRx2Nは、1:3、3:1の非対称分割を示す。CUに含まれるPUを順にPU0、PU1、PU2、PU3と表現する。
図3の(a)〜(h)に、それぞれのPU分割モードにおけるパーティションの形状(PU分割の境界の位置)を具体的に図示している。図3の(a)は、2Nx2Nのパーティション
を示し、(b)、(c)、(d)は、それぞれ、2NxN、2NxnU、および、2NxnDのパーティション(横長パーティション)を示す。(e)、(f)、(g)は、それぞれ、Nx2N、nLx2N、nRx2Nである場合のパーティション(縦長パーティション)を示し、(h)は、NxN
のパーティションを示す。なお、横長パーティションと縦長パーティションを総称して長方形パーティション、2Nx2N、NxNを総称して正方形パーティションと呼ぶ。
を示し、(b)、(c)、(d)は、それぞれ、2NxN、2NxnU、および、2NxnDのパーティション(横長パーティション)を示す。(e)、(f)、(g)は、それぞれ、Nx2N、nLx2N、nRx2Nである場合のパーティション(縦長パーティション)を示し、(h)は、NxN
のパーティションを示す。なお、横長パーティションと縦長パーティションを総称して長方形パーティション、2Nx2N、NxNを総称して正方形パーティションと呼ぶ。
また、変換ツリーにおいては、符号化ユニットが1または複数の変換ユニットに分割され、各変換ユニットの位置とサイズとが規定される。別の表現でいえば、変換ユニットは、符号化ユニットを構成する1または複数の重複しない領域のことである。また、変換ツリーは、前述の分割より得られた1または複数の変換ユニットを含む。
変換ツリーにおける分割には、符号化ユニットと同一のサイズの領域を変換ユニットとして割り付けるものと、前述したCUの分割と同様、再帰的な4分木分割によるものがある。
変換処理は、この変換ユニットごとに行われる。
(予測パラメータ)
予測ユニット(PU:Prediction Unit)の予測画像は、PUに付随する予測パラメータに
よって導出される。予測パラメータには、イントラ予測の予測パラメータもしくはインター予測の予測パラメータがある。以下、インター予測の予測パラメータ(インター予測パラメータ)について説明する。インター予測パラメータは、予測リスト利用フラグpredFlagL0、predFlagL1と、参照ピクチャインデックスrefIdxL0、refIdxL1と、動きベクトルmvL0、mvL1から構成される。予測リスト利用フラグpredFlagL0、predFlagL1は、各々L0リスト、L1リストと呼ばれる参照ピクチャリストが用いられるか否かを示すフラグであり、値が1の場合に対応する参照ピクチャリストが用いられる。なお、本明細書中「XXであるか否かを示すフラグ」と記す場合、フラグが0以外(たとえば1)をXXである場合、0をXXではない場合とし、論理否定、論理積などでは1を真、0を偽と扱う(以下同様)。但し、実際の装置や方法では真値、偽値として他の値を用いることもできる。
予測ユニット(PU:Prediction Unit)の予測画像は、PUに付随する予測パラメータに
よって導出される。予測パラメータには、イントラ予測の予測パラメータもしくはインター予測の予測パラメータがある。以下、インター予測の予測パラメータ(インター予測パラメータ)について説明する。インター予測パラメータは、予測リスト利用フラグpredFlagL0、predFlagL1と、参照ピクチャインデックスrefIdxL0、refIdxL1と、動きベクトルmvL0、mvL1から構成される。予測リスト利用フラグpredFlagL0、predFlagL1は、各々L0リスト、L1リストと呼ばれる参照ピクチャリストが用いられるか否かを示すフラグであり、値が1の場合に対応する参照ピクチャリストが用いられる。なお、本明細書中「XXであるか否かを示すフラグ」と記す場合、フラグが0以外(たとえば1)をXXである場合、0をXXではない場合とし、論理否定、論理積などでは1を真、0を偽と扱う(以下同様)。但し、実際の装置や方法では真値、偽値として他の値を用いることもできる。
符号化データに含まれるインター予測パラメータを導出するためのシンタックス要素には、例えば、PU分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLXがある。
(参照ピクチャリスト)
参照ピクチャリストは、参照ピクチャメモリ306に記憶された参照ピクチャからなるリストである。図4は、参照ピクチャおよび参照ピクチャリストの一例を示す概念図である。図4の(a)において、矩形はピクチャ、矢印はピクチャの参照関係、横軸は時間、矩形中のI、P、Bは各々イントラピクチャ、単予測ピクチャ、双予測ピクチャ、矩形中の
数字は復号順を示す。図に示すように、ピクチャの復号順は、I0、P1、B2、B3、B4であり、表示順は、I0、B3、B2、B4、P1である。図4の(b)に、参照ピクチャリストの例を示す。参照ピクチャリストは、参照ピクチャの候補を表すリストであり、1つのピクチャ(スライス)が1つ以上の参照ピクチャリストを有してもよい。図の例では、対象ピクチャB3は、L0リストRefPicList0およびL1リストRefPicList1の2つの参照ピクチャリストを持つ。対象ピクチャがB3の場合の参照ピクチャは、I0、P1、B2であり、参照ピクチャはこれらのピクチャを要素として持つ。個々の予測ユニットでは、参照ピクチャリストRefPicListX中のどのピクチャを実際に参照するかを参照ピクチャインデックスrefIdxLXで指定す
る。図では、refIdxL0およびrefIdxL1により参照ピクチャP1とB2が参照される例を示す。
参照ピクチャリストは、参照ピクチャメモリ306に記憶された参照ピクチャからなるリストである。図4は、参照ピクチャおよび参照ピクチャリストの一例を示す概念図である。図4の(a)において、矩形はピクチャ、矢印はピクチャの参照関係、横軸は時間、矩形中のI、P、Bは各々イントラピクチャ、単予測ピクチャ、双予測ピクチャ、矩形中の
数字は復号順を示す。図に示すように、ピクチャの復号順は、I0、P1、B2、B3、B4であり、表示順は、I0、B3、B2、B4、P1である。図4の(b)に、参照ピクチャリストの例を示す。参照ピクチャリストは、参照ピクチャの候補を表すリストであり、1つのピクチャ(スライス)が1つ以上の参照ピクチャリストを有してもよい。図の例では、対象ピクチャB3は、L0リストRefPicList0およびL1リストRefPicList1の2つの参照ピクチャリストを持つ。対象ピクチャがB3の場合の参照ピクチャは、I0、P1、B2であり、参照ピクチャはこれらのピクチャを要素として持つ。個々の予測ユニットでは、参照ピクチャリストRefPicListX中のどのピクチャを実際に参照するかを参照ピクチャインデックスrefIdxLXで指定す
る。図では、refIdxL0およびrefIdxL1により参照ピクチャP1とB2が参照される例を示す。
(マージ予測とAMVP予測)
予測パラメータの復号(符号化)方法には、マージ予測(merge)モードとAMVP(Adaptive Motion Vector Prediction、適応動きベクトル予測)モードがある、マージフラグmerge_flagは、これらを識別するためのフラグである。マージ予測モードは、予測リスト利用フラグpredFlagLX(またはインター予測識別子inter_pred_idc)、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めずに、既に処理した近傍PUの予測パラメータから導出する用いるモードであり、AMVPモードは、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めるモードである。なお、動きベクトルmvLXは、予測ベクトルmvpLXを識別する予測ベク
トルインデックスmvp_LX_idxと差分ベクトルmvdLXとして符号化される。
予測パラメータの復号(符号化)方法には、マージ予測(merge)モードとAMVP(Adaptive Motion Vector Prediction、適応動きベクトル予測)モードがある、マージフラグmerge_flagは、これらを識別するためのフラグである。マージ予測モードは、予測リスト利用フラグpredFlagLX(またはインター予測識別子inter_pred_idc)、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めずに、既に処理した近傍PUの予測パラメータから導出する用いるモードであり、AMVPモードは、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXを符号化データに含めるモードである。なお、動きベクトルmvLXは、予測ベクトルmvpLXを識別する予測ベク
トルインデックスmvp_LX_idxと差分ベクトルmvdLXとして符号化される。
インター予測識別子inter_pred_idcは、参照ピクチャの種類および数を示す値であり、PRED_L0、PRED_L1、PRED_BIの何れかの値をとる。PRED_L0、PRED_L1は、各々L0リスト、L1リストの参照ピクチャリストで管理された参照ピクチャを用いることを示し、1枚の参
照ピクチャを用いること(単予測)を示す。PRED_BIは2枚の参照ピクチャを用いること
(双予測BiPred)を示し、L0リストとL1リストで管理された参照ピクチャを用いる。予測ベクトルインデックスmvp_LX_idxは予測ベクトルを示すインデックスであり、参照ピクチャインデックスrefIdxLXは、参照ピクチャリストで管理された参照ピクチャを示すインデックスである。なお、LXは、L0予測とL1予測を区別しない場合に用いられる記述方法であり、LXをL0、L1に置き換えることでL0リストに対するパラメータとL1リストに対するパラメータを区別する。
照ピクチャを用いること(単予測)を示す。PRED_BIは2枚の参照ピクチャを用いること
(双予測BiPred)を示し、L0リストとL1リストで管理された参照ピクチャを用いる。予測ベクトルインデックスmvp_LX_idxは予測ベクトルを示すインデックスであり、参照ピクチャインデックスrefIdxLXは、参照ピクチャリストで管理された参照ピクチャを示すインデックスである。なお、LXは、L0予測とL1予測を区別しない場合に用いられる記述方法であり、LXをL0、L1に置き換えることでL0リストに対するパラメータとL1リストに対するパラメータを区別する。
マージインデックスmerge_idxは、処理が完了したPUから導出される予測パラメータ候
補(マージ候補)のうち、いずれかの予測パラメータを復号対象PUの予測パラメータとして用いるかを示すインデックスである。
補(マージ候補)のうち、いずれかの予測パラメータを復号対象PUの予測パラメータとして用いるかを示すインデックスである。
(動きベクトル)
動きベクトルmvLXは、異なる2つのピクチャ上のブロック間のずれ量を示す。動きベクトルmvLXに関する予測ベクトル、差分ベクトルを、それぞれ予測ベクトルmvpLX、差分ベ
クトルmvdLXと呼ぶ。
動きベクトルmvLXは、異なる2つのピクチャ上のブロック間のずれ量を示す。動きベクトルmvLXに関する予測ベクトル、差分ベクトルを、それぞれ予測ベクトルmvpLX、差分ベ
クトルmvdLXと呼ぶ。
(インター予測識別子inter_pred_idcと予測リスト利用フラグpredFlagLX)
インター予測識別子inter_pred_idcと、予測リスト利用フラグpredFlagL0、predFlagL1の関係は以下のとおりであり、相互に変換可能である。
インター予測識別子inter_pred_idcと、予測リスト利用フラグpredFlagL0、predFlagL1の関係は以下のとおりであり、相互に変換可能である。
inter_pred_idc = (predFlagL1<<1) + predFlagL0
predFlagL0 = inter_pred_idc & 1
predFlagL1 = inter_pred_idc >> 1
なお、インター予測パラメータは、予測リスト利用フラグを用いても良いし、インター予測識別子を用いてもよい。また、予測リスト利用フラグを用いた判定は、インター予測識別子を用いた判定に置き替えてもよい。逆に、インター予測識別子を用いた判定は、予測リスト利用フラグを用いた判定に置き替えてもよい。
predFlagL0 = inter_pred_idc & 1
predFlagL1 = inter_pred_idc >> 1
なお、インター予測パラメータは、予測リスト利用フラグを用いても良いし、インター予測識別子を用いてもよい。また、予測リスト利用フラグを用いた判定は、インター予測識別子を用いた判定に置き替えてもよい。逆に、インター予測識別子を用いた判定は、予測リスト利用フラグを用いた判定に置き替えてもよい。
(双予測biPredの判定)
双予測BiPredであるかのフラグbiPredは、2つの予測リスト利用フラグがともに1であるかによって導出できる。たとえば以下の式で導出できる。
双予測BiPredであるかのフラグbiPredは、2つの予測リスト利用フラグがともに1であるかによって導出できる。たとえば以下の式で導出できる。
biPred = (predFlagL0 == 1 && predFlagL1 == 1)
フラグbiPredは、インター予測識別子が2つの予測リスト(参照ピクチャ)を使うことを示す値であるか否かによっても導出できる。たとえば以下の式で導出できる。
フラグbiPredは、インター予測識別子が2つの予測リスト(参照ピクチャ)を使うことを示す値であるか否かによっても導出できる。たとえば以下の式で導出できる。
biPred = (inter_pred_idc == PRED_BI) ? 1 : 0
前記式は、以下の式でも表現できる。
前記式は、以下の式でも表現できる。
biPred = (inter_pred_idc == PRED_BI)
なお、PRED_BIはたとえば3の値を用いることができる。
なお、PRED_BIはたとえば3の値を用いることができる。
(画像復号装置の構成)
次に、本実施形態に係る画像復号装置31の構成について説明する。図5は、本実施形態に係る画像復号装置31の構成を示すブロック図である。画像復号装置31は、エントロピー復号部301、予測パラメータ復号部(予測画像復号装置)302、ループフィルタ305、参照ピクチャメモリ306、予測パラメータメモリ307、予測画像生成部(予測画像生成装置)308、逆量子化・逆DCT部311、および加算部312を含んで構
成される。
次に、本実施形態に係る画像復号装置31の構成について説明する。図5は、本実施形態に係る画像復号装置31の構成を示すブロック図である。画像復号装置31は、エントロピー復号部301、予測パラメータ復号部(予測画像復号装置)302、ループフィルタ305、参照ピクチャメモリ306、予測パラメータメモリ307、予測画像生成部(予測画像生成装置)308、逆量子化・逆DCT部311、および加算部312を含んで構
成される。
また、予測パラメータ復号部302は、インター予測パラメータ復号部303およびイントラ予測パラメータ復号部304を含んで構成される。予測画像生成部308は、インター予測画像生成部309およびイントラ予測画像生成部310を含んで構成される。
エントロピー復号部301は、外部から入力された符号化ストリームTeに対してエントロピー復号を行って、個々の符号(シンタックス要素)を分離し復号する。分離された符号には、予測画像を生成するための予測情報および、差分画像を生成するための残差情報などがある。
エントロピー復号部301は、分離した符号の一部を予測パラメータ復号部302に出力する。分離した符号の一部とは、例えば、予測モードpredMode、PU分割モードpart_mode、マージフラグmerge_flag、マージインデックスmerge_idx、インター予測識別子inter_pred_idc、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLXである。どの符号を復号するかの制御は、予測パラメータ復号部30
2の指示に基づいて行われる。エントロピー復号部301は、量子化係数を逆量子化・逆DCT部311に出力する。この量子化係数は、符号化処理において、残差信号に対してDCT(Discrete Cosine Transform、離散コサイン変換)を行い量子化して得られる係数であ
る。
2の指示に基づいて行われる。エントロピー復号部301は、量子化係数を逆量子化・逆DCT部311に出力する。この量子化係数は、符号化処理において、残差信号に対してDCT(Discrete Cosine Transform、離散コサイン変換)を行い量子化して得られる係数であ
る。
インター予測パラメータ復号部303は、エントロピー復号部301から入力された符号に基づいて、予測パラメータメモリ307に記憶された予測パラメータを参照してインター予測パラメータを復号する。
インター予測パラメータ復号部303は、復号したインター予測パラメータを予測画像生成部308に出力し、また予測パラメータメモリ307に記憶する。インター予測パラメータ復号部303の詳細については後述する。
イントラ予測パラメータ復号部304は、エントロピー復号部301から入力された符号に基づいて、予測パラメータメモリ307に記憶された予測パラメータを参照してイントラ予測パラメータを復号する。イントラ予測パラメータとは、CUを1つのピクチャ内で予測する処理で用いるパラメータ、例えば、イントラ予測モードIntraPredModeである。
イントラ予測パラメータ復号部304は、復号したイントラ予測パラメータを予測画像生成部308に出力し、また予測パラメータメモリ307に記憶する。
イントラ予測パラメータ復号部304は、復号したイントラ予測パラメータを予測画像生成部308に出力し、また予測パラメータメモリ307に記憶する。
イントラ予測パラメータ復号部304は、輝度と色差で異なるイントラ予測モードを導出しても良い。この場合、イントラ予測パラメータ復号部304は、輝度の予測パラメータとして輝度予測モードIntraPredModeY、色差の予測パラメータとして、色差予測モードIntraPredModeCを復号する。輝度予測モードIntraPredModeYは、35モードであり、プレーナ予測(0)、DC予測(1)、方向予測(2〜34)が対応する。色差予測モードIntraPredModeCは、プレーナ予測(0)、DC予測(1)、方向予測(2〜34)、LMモード(35)の何れかを用いるものである。イントラ予測パラメータ復号部304は、IntraPredModeCは輝度モードと同じモードであるか否かを示すフラグを復号し、フラグが輝度モードと同じモードであることを示せば、IntraPredModeCにIntraPredModeYを割り当て、フラグが輝度モードと異なるモードであることを示せば、IntraPredModeCとして、プレーナ予測(0)、DC予測(1)、方向予測(2〜34)、LMモード(35)を復号しても良い。
ループフィルタ305は、加算部312が生成したCUの復号画像に対し、デブロッキングフィルタ、サンプル適応オフセット(SAO)、適応ループフィルタ(ALF)等のフィルタを施す。
参照ピクチャメモリ306は、加算部312が生成したCUの復号画像を、復号対象のピクチャおよびCU毎に予め定めた位置に記憶する。
予測パラメータメモリ307は、予測パラメータを、復号対象のピクチャおよび予測ユニット(もしくはサブブロック、固定サイズブロック、ピクセル)毎に予め定めた位置に記憶する。具体的には、予測パラメータメモリ307は、インター予測パラメータ復号部303が復号したインター予測パラメータ、イントラ予測パラメータ復号部304が復号したイントラ予測パラメータおよびエントロピー復号部301が分離した予測モードpredModeを記憶する。記憶されるインター予測パラメータには、例えば、予測リスト利用フラグpredFlagLX(インター予測識別子inter_pred_idc)、参照ピクチャインデックスrefIdxLX、動きベクトルmvLXがある。
予測画像生成部308には、エントロピー復号部301から入力された予測モードpredModeが入力され、また予測パラメータ復号部302から予測パラメータが入力される。また、予測画像生成部308は、参照ピクチャメモリ306から参照ピクチャを読み出す。予測画像生成部308は、予測モードpredModeが示す予測モードで、入力された予測パラメータと読み出した参照ピクチャを用いてPUの予測画像を生成する。
ここで、予測モードpredModeがインター予測モードを示す場合、インター予測画像生成部309は、インター予測パラメータ復号部303から入力されたインター予測パラメータと読み出した参照ピクチャを用いてインター予測によりPUの予測画像を生成する。
インター予測画像生成部309は、予測リスト利用フラグpredFlagLXが1である参照ピクチャリスト(L0リスト、もしくはL1リスト)に対し、参照ピクチャインデックスrefIdxLXで示される参照ピクチャから、復号対象PUを基準として動きベクトルmvLXが示す位置にある参照ピクチャブロックを参照ピクチャメモリ306から読み出す。インター予測画像生成部309は、読み出した参照ピクチャブロックをもとに予測を行ってPUの予測画像を生成する。インター予測画像生成部309は、生成したPUの予測画像を加算部312に出力する。
予測モードpredModeがイントラ予測モードを示す場合、イントラ予測画像生成部310は、イントラ予測パラメータ復号部304から入力されたイントラ予測パラメータと読み出した参照ピクチャを用いてイントラ予測を行う。具体的には、イントラ予測画像生成部310は、復号対象のピクチャであって、既に復号されたPUのうち、復号対象PUから予め定めた範囲にある隣接PUを参照ピクチャメモリ306から読み出す。予め定めた範囲とは、復号対象PUがいわゆるラスタースキャンの順序で順次移動する場合、例えば、左、左上、上、右上の隣接PUのうちのいずれかであり、イントラ予測モードによって異なる。ラスタースキャンの順序とは、各ピクチャにおいて、上端から下端まで各行について、順次左端から右端まで移動させる順序である。
イントラ予測画像生成部310は、読み出した隣接PUについてイントラ予測モードIntraPredModeが示す予測モードで予測を行ってPUの予測画像を生成する。イントラ予測画像
生成部310は、生成したPUの予測画像を加算部312に出力する。
生成部310は、生成したPUの予測画像を加算部312に出力する。
イントラ予測パラメータ復号部304において、輝度と色差で異なるイントラ予測モードを導出する場合、イントラ予測画像生成部310は、輝度予測モードIntraPredModeYに応じて、プレーナ予測(0)、DC予測(1)、方向予測(2〜34)の何れかによって輝度のPUの予測画像を生成し、色差予測モードIntraPredModeCに応じて、プレーナ予測(0)、DC予測(1)、方向予測(2〜34)、LMモード(35)の何れかによって色差のPU
の予測画像を生成する。
の予測画像を生成する。
逆量子化・逆DCT部311は、エントロピー復号部301から入力された量子化係数を
逆量子化してDCT係数を求める。逆量子化・逆DCT部311は、求めたDCT係数について逆DCT(Inverse Discrete Cosine Transform、逆離散コサイン変換)を行い、残差信号を算
出する。逆量子化・逆DCT部311は、算出した残差信号を加算部312に出力する。
逆量子化してDCT係数を求める。逆量子化・逆DCT部311は、求めたDCT係数について逆DCT(Inverse Discrete Cosine Transform、逆離散コサイン変換)を行い、残差信号を算
出する。逆量子化・逆DCT部311は、算出した残差信号を加算部312に出力する。
加算部312は、インター予測画像生成部309またはイントラ予測画像生成部310から入力されたPUの予測画像と逆量子化・逆DCT部311から入力された残差信号を画素
毎に加算して、PUの復号画像を生成する。加算部312は、生成したPUの復号画像をピクチャ毎にデブロッキングフィルタ313、SAO(サンプル適応オフセット)部314、ま
たはALF315の少なくとも何れかに出力する。
毎に加算して、PUの復号画像を生成する。加算部312は、生成したPUの復号画像をピクチャ毎にデブロッキングフィルタ313、SAO(サンプル適応オフセット)部314、ま
たはALF315の少なくとも何れかに出力する。
デブロッキングフィルタ313は、CU境界を介して互いに隣接する画素のデブロック前画素値の差が予め定められた閾値よりも小さい場合に、当該CU境界に対してデブロッキング処理を施すことによって、当該CU境界付近の画像の平滑化を行う。デブロッキングフィルタ313によりデブロッキング処理が施された画像は、デブロック済復号画像として、SAO部314に出力される。なお、デブロック前画素値とは、加算部312より出
力された画像における画素値である。
力された画像における画素値である。
SAO部314は、オフセットフィルタ前復号画像に対して、符号化データTeから復号
されたオフセットを用いたオフセットフィルタ処理を所定の単位毎に施すことによって、オフセットフィルタ済復号画像を生成する。なお、オフセットフィルタ前復号画像とは、加算部312より出力された画像、またはデブロッキングフィルタ313より出力されたデブロック済復号画像であり得る。
されたオフセットを用いたオフセットフィルタ処理を所定の単位毎に施すことによって、オフセットフィルタ済復号画像を生成する。なお、オフセットフィルタ前復号画像とは、加算部312より出力された画像、またはデブロッキングフィルタ313より出力されたデブロック済復号画像であり得る。
ALF315は、ALF前復号画像に対して、符号化データTeから復号されたALFパラメータALFPを用いた適応的フィルタ処理を施すことによって、ALF済復号画像を生成する。ALF済復号画像は、復号画像Tdとして外部に出力されると共に、エントロピー復号部301によって符号化データTeから復号されたPOC情報と関連付けて参照ピクチャメモリ306に格納される。ALF315の具体的な構成については、後述するため、ここでは説明を省略する。なお、ALF前復号画像とは、加算部312より出力された画像、デブロック済復号画像、またはオフセットフィルタ済復号画像であり得る。
(画像符号化装置の構成)
次に、本実施形態に係る画像符号化装置11の構成について説明する。図6は、本実施形態に係る画像符号化装置11の構成を示すブロック図である。画像符号化装置11は、予測画像生成部101、減算部102、DCT・量子化部103、エントロピー符号化部1
04、逆量子化・逆DCT部105、加算部106、ループフィルタ107、予測パラメー
タメモリ(予測パラメータ記憶部、フレームメモリ)108、参照ピクチャメモリ(参照画像記憶部、フレームメモリ)109、符号化パラメータ決定部110、予測パラメータ符号化部111を含んで構成される。予測パラメータ符号化部111は、インター予測パラメータ符号化部112およびイントラ予測パラメータ符号化部113を含んで構成される。
次に、本実施形態に係る画像符号化装置11の構成について説明する。図6は、本実施形態に係る画像符号化装置11の構成を示すブロック図である。画像符号化装置11は、予測画像生成部101、減算部102、DCT・量子化部103、エントロピー符号化部1
04、逆量子化・逆DCT部105、加算部106、ループフィルタ107、予測パラメー
タメモリ(予測パラメータ記憶部、フレームメモリ)108、参照ピクチャメモリ(参照画像記憶部、フレームメモリ)109、符号化パラメータ決定部110、予測パラメータ符号化部111を含んで構成される。予測パラメータ符号化部111は、インター予測パラメータ符号化部112およびイントラ予測パラメータ符号化部113を含んで構成される。
予測画像生成部101は画像Tの各ピクチャについて、そのピクチャを分割した領域である符号化ユニットCU毎に予測ユニットPUの予測画像Pを生成する。ここで、予測画像生成部101は、予測パラメータ符号化部111から入力された予測パラメータに基づいて参照ピクチャメモリ109から復号済のブロックを読み出す。予測パラメータ符号化部111から入力された予測パラメータとは、例えばインター予測の場合、動きベクトルであ
る。予測画像生成部101は、対象PUを起点として動きベクトルが示す参照画像上の位置にあるブロックを読み出す。またイントラ予測の場合、予測パラメータとは例えばイントラ予測モードである。イントラ予測モードで使用する隣接PUの画素値を参照ピクチャメモリ109から読み出し、PUの予測画像Pを生成する。予測画像生成部101は、読み出し
た参照ピクチャブロックについて複数の予測方式のうちの1つの予測方式を用いてPUの予測画像Pを生成する。予測画像生成部101は、生成したPUの予測画像Pを減算部102に出力する。
る。予測画像生成部101は、対象PUを起点として動きベクトルが示す参照画像上の位置にあるブロックを読み出す。またイントラ予測の場合、予測パラメータとは例えばイントラ予測モードである。イントラ予測モードで使用する隣接PUの画素値を参照ピクチャメモリ109から読み出し、PUの予測画像Pを生成する。予測画像生成部101は、読み出し
た参照ピクチャブロックについて複数の予測方式のうちの1つの予測方式を用いてPUの予測画像Pを生成する。予測画像生成部101は、生成したPUの予測画像Pを減算部102に出力する。
なお、予測画像生成部101は、既に説明した予測画像生成部308と同じ動作である。
予測画像生成部101は、予測パラメータ符号化部から入力されたパラメータを用いて、参照ピクチャメモリから読み出した参照ブロックの画素値をもとにPUの予測画像Pを生
成する。予測画像生成部101で生成した予測画像は減算部102、加算部106に出力される。
成する。予測画像生成部101で生成した予測画像は減算部102、加算部106に出力される。
減算部102は、予測画像生成部101から入力されたPUの予測画像Pの信号値を、画像Tの対応するPUの画素値から減算して、残差信号を生成する。減算部102は、生成した残差信号をDCT・量子化部103に出力する。
DCT・量子化部103は、減算部102から入力された残差信号についてDCTを行い、DCT係数を算出する。DCT・量子化部103は、算出したDCT係数を量子化して量子化係数を
求める。DCT・量子化部103は、求めた量子化係数をエントロピー符号化部104およ
び逆量子化・逆DCT部105に出力する。
求める。DCT・量子化部103は、求めた量子化係数をエントロピー符号化部104およ
び逆量子化・逆DCT部105に出力する。
エントロピー符号化部104には、DCT・量子化部103から量子化係数が入力され、
予測パラメータ符号化部111から符号化パラメータが入力される。入力される符号化パラメータには、例えば、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLX、予測モードpredMode、およびマージインデックスmerge_idx等の符号がある。
予測パラメータ符号化部111から符号化パラメータが入力される。入力される符号化パラメータには、例えば、参照ピクチャインデックスrefIdxLX、予測ベクトルインデックスmvp_LX_idx、差分ベクトルmvdLX、予測モードpredMode、およびマージインデックスmerge_idx等の符号がある。
エントロピー符号化部104は、入力された量子化係数と符号化パラメータをエントロピー符号化して符号化ストリームTeを生成し、生成した符号化ストリームTeを外部に出力する。
逆量子化・逆DCT部105は、DCT・量子化部103から入力された量子化係数を逆量子化してDCT係数を求める。逆量子化・逆DCT部105は、求めたDCT係数について逆DCTを行い、残差信号を算出する。逆量子化・逆DCT部105は、算出した残差信号を加算部10
6に出力する。
6に出力する。
加算部106は、予測画像生成部101から入力されたPUの予測画像Pの信号値と逆量子化・逆DCT部105から入力された残差信号の信号値を画素毎に加算して、復号画像を
生成する。加算部106は、生成した復号画像を参照ピクチャメモリ109に記憶する。
生成する。加算部106は、生成した復号画像を参照ピクチャメモリ109に記憶する。
ループフィルタ107は加算部106が生成した復号画像に対し、デブロッキングフィルタ114、SAO_E(サンプル適応オフセットエンコーダ)部115、適応ループフィル
タ(ALF)116を施す。
タ(ALF)116を施す。
予測パラメータメモリ108は、符号化パラメータ決定部110が生成した予測パラメータを、符号化対象のピクチャおよびCU毎に予め定めた位置に記憶する。
参照ピクチャメモリ109は、ループフィルタ107が生成した復号画像を、符号化対象のピクチャおよびCU毎に予め定めた位置に記憶する。
符号化パラメータ決定部110は、符号化パラメータの複数のセットのうち、1つのセットを選択する。符号化パラメータとは、前述した予測パラメータやこの予測パラメータに関連して生成される符号化の対象となるパラメータである。予測画像生成部101は、これらの符号化パラメータのセットの各々を用いてPUの予測画像Pを生成する。
符号化パラメータ決定部110は、複数のセットの各々について情報量の大きさと符号化誤差を示すコスト値を算出する。コスト値は、例えば、符号量と二乗誤差に係数λを乗じた値との和である。符号量は、量子化誤差と符号化パラメータをエントロピー符号化して得られる符号化ストリームTeの情報量である。二乗誤差は、減算部102において算出された残差信号の残差値の二乗値についての画素間の総和である。係数λは、予め設定されたゼロよりも大きい実数である。符号化パラメータ決定部110は、算出したコスト値が最小となる符号化パラメータのセットを選択する。これにより、エントロピー符号化部104は、選択した符号化パラメータのセットを符号化ストリームTeとして外部に出力し、選択されなかった符号化パラメータのセットを出力しない。符号化パラメータ決定部110は決定した符号化パラメータを予測パラメータメモリ108に記憶する。
予測パラメータ符号化部111は、符号化パラメータ決定部110から入力されたパラメータから、符号化するための形式を導出し、エントロピー符号化部104に出力する。符号化するための形式の導出とは、例えば動きベクトルと予測ベクトルから差分ベクトルを導出することである。また予測パラメータ符号化部111は、符号化パラメータ決定部110から入力されたパラメータから予測画像を生成するために必要なパラメータを導出し、予測画像生成部101に出力する。予測画像を生成するために必要なパラメータとは、例えばサブブロック単位の動きベクトルである。
インター予測パラメータ符号化部112は、符号化パラメータ決定部110から入力された予測パラメータに基づいて、差分ベクトルのようなインター予測パラメータを導出する。インター予測パラメータ符号化部112は、予測画像生成部101に出力する予測画像の生成に必要なパラメータを導出する構成として、インター予測パラメータ復号部303(図6等、参照)がインター予測パラメータを導出する構成と一部同一の構成を含む。インター予測パラメータ符号化部112の構成については、後述する。
イントラ予測パラメータ符号化部113は、符号化パラメータ決定部110から入力されたイントラ予測モードIntraPredModeから、符号化するための形式(例えばmpm_idx、rem_intra_luma_pred_mode等)を導出する。 (SAO処理)
次にSAO(サンプル適応オフセット)部314について説明する。SAOはデブロッキングフ
ィルタ後に適用するフィルタであり、リンギング歪や量子化歪を除去する効果がある。SAOはCTU単位の処理であり、画素値をいくつかのカテゴリに分類して、カテゴリ毎に画素単位にオフセットを加減算するフィルタである。SAOはエッジオフセット(EO)とバンドオフセット(BO)の2種類のオフセットタイプを持ち、CTU内画素値のカテゴリ分類方法は、このオフセットタイプによって決まる。EOは対象画素と隣接画素(参照画素)との大小関係に応じて画素値をカテゴリ分類する。BOは対象画素の画素値の大きさにより、画素値をカテゴリ分類する。EO、BOともにカテゴリ毎に定められたオフセットを復号画素値(SAO部314への入力画像の画素値)に加算する。SAO部314には、予測画像と予測誤差を加算した復号画像、あるいは、さらにデブロッキングフィルタを適用した復号画像が入力されるが、以降ではSAO部314への入力画像は全て「復号画像」、入力画像の画素値は「復号画素値」と呼ぶ。
次にSAO(サンプル適応オフセット)部314について説明する。SAOはデブロッキングフ
ィルタ後に適用するフィルタであり、リンギング歪や量子化歪を除去する効果がある。SAOはCTU単位の処理であり、画素値をいくつかのカテゴリに分類して、カテゴリ毎に画素単位にオフセットを加減算するフィルタである。SAOはエッジオフセット(EO)とバンドオフセット(BO)の2種類のオフセットタイプを持ち、CTU内画素値のカテゴリ分類方法は、このオフセットタイプによって決まる。EOは対象画素と隣接画素(参照画素)との大小関係に応じて画素値をカテゴリ分類する。BOは対象画素の画素値の大きさにより、画素値をカテゴリ分類する。EO、BOともにカテゴリ毎に定められたオフセットを復号画素値(SAO部314への入力画像の画素値)に加算する。SAO部314には、予測画像と予測誤差を加算した復号画像、あるいは、さらにデブロッキングフィルタを適用した復号画像が入力されるが、以降ではSAO部314への入力画像は全て「復号画像」、入力画像の画素値は「復号画素値」と呼ぶ。
図10はSAO部314のブロック図である。SAO部314はカテゴリ設定部1001、オフセット情報格納部1002、オフセット加算部1003からなる。カテゴリ設定部1001はエントロピー復号部301で復号したオフセットタイプ(type)、クラス(class)、あるいはバンド位置(band_position)と復号画像recが入力される。カテゴリ設定部1001は、これらを用いてカテゴリを設定する。オフセットタイプが0の場合はSAOを行わない(オフセット加算しない)。オフセットタイプが1の場合はBO、2の場合はEOを実施する。
図11のフローチャートを参照して、カテゴリ設定部1001の動作を説明する。カテゴリ設定部1001は、S1101でオフセットタイプtypeをチェックし、EOならばS1102へ、BOならばS1105へ進む。S1102〜S1104はEOの処理、S1105〜S1106はBOの処理である。カテゴリ設定部1001は、オフセットタイプtypeがEOであれば S1102でクラスを参照して、対象画素Xの隣接画素を参照画素a、bとして設定する。
EOのクラス(class)による参照画素の設定方法を図7に示す。classは、参照画素を対象画素からみた方向に対応し、参照画素の選択に用いられる。class=0の場合、参照画素a、bに対象画素Xの左右の画素を設定し、class=1の場合、a、bに対象画素Xの上下の画素を設定し、class=2の場合、a、bに対象画素Xの左上、右下の画素を設定し、class=3の場合
、a、bに対象画素Xの左下、右上の画素を設定する。
、a、bに対象画素Xの左下、右上の画素を設定する。
次にカテゴリ設定部1001は、S1103で、対象画素Xと2つの参照画素a、bの画素値の差分sign(rec[X]-rec[a])、sign(rec[X]-rec[b])を用いてedgeIdxを導出する。
edgeIdx=sign(rec[X]-rec[a])+sign(rec[X]-rec[b])+2
sign(x) = 1 (x>0)
= 0 (x=0)
=-1 (x<0)
ここで、rec[x]は画素xの復号画素値を表す。
次にカテゴリ設定部1001は、S1104でedgeIdxからカテゴリcatを算出する。
sign(x) = 1 (x>0)
= 0 (x=0)
=-1 (x<0)
ここで、rec[x]は画素xの復号画素値を表す。
次にカテゴリ設定部1001は、S1104でedgeIdxからカテゴリcatを算出する。
cat =(edgeIdx==2)?0:edgeIdx+1 (edgeIdx<=2)
=edgeIdx (edgeIdx>2)
class=0の場合のカテゴリcatの示す対象画素値Xと参照画素a、bの大小関係を図12に示す
。黒丸が対象画素X、Xの左側の白丸が参照画素a、Xの右側の白丸が参照画素bであり、縦
方向は画素値の大小関係を表す。
=edgeIdx (edgeIdx>2)
class=0の場合のカテゴリcatの示す対象画素値Xと参照画素a、bの大小関係を図12に示す
。黒丸が対象画素X、Xの左側の白丸が参照画素a、Xの右側の白丸が参照画素bであり、縦
方向は画素値の大小関係を表す。
カテゴリ設定部1001は、オフセットタイプtypeがBOであれば S1105で、図16に示すように0〜2N-1の画素値をバンドに分割する。N=8の場合、画素値は0〜255の範囲をとり、各バンドは8個の連続する画素値からなる。N=10の場合、画素値は0〜1023の範囲をとり、各バンドは32個の連続する画素値からなる。
カテゴリ設定部1001は、S1106で、カテゴリcatの0〜3に、エントロピー復号部301で復
号したバンド位置(band_position)が示すバンドから連続する4バンドをセットする。そして対象画素の画素値rec[X]が含まれるカテゴリが存在する場合、対象画素Xのカテゴリ
とする。
号したバンド位置(band_position)が示すバンドから連続する4バンドをセットする。そして対象画素の画素値rec[X]が含まれるカテゴリが存在する場合、対象画素Xのカテゴリ
とする。
オフセット情報格納部1002は、エントロピー復号部301で復号したオフセット(offset
)を格納する。
)を格納する。
オフセット加算部1003は、カテゴリ設定部1001で導出したカテゴリcatを用いて、オフ
セット情報格納部1002からオフセットoffset[cat]を読み出す。復号画素値をrec[X]とす
ると、オフセット加算部1003の出力画素値recsao[X]は
recsao[X]=rec[X]+offset[cat]
である。
セット情報格納部1002からオフセットoffset[cat]を読み出す。復号画素値をrec[X]とす
ると、オフセット加算部1003の出力画素値recsao[X]は
recsao[X]=rec[X]+offset[cat]
である。
(符号化装置におけるSAO)
画像符号化装置におけるSAOの動作を説明するため、図6のSAO_E部115のブロック図を
図17に示す。SAO_E部115はSAO情報設定部1701とSAO部314からなる。SAO部314は図10
と同じであり、説明は省略する。SAO情報設定部1701はオフセット算出部1702とオフセッ
ト情報選択部1703からなる。
画像符号化装置におけるSAOの動作を説明するため、図6のSAO_E部115のブロック図を
図17に示す。SAO_E部115はSAO情報設定部1701とSAO部314からなる。SAO部314は図10
と同じであり、説明は省略する。SAO情報設定部1701はオフセット算出部1702とオフセッ
ト情報選択部1703からなる。
ますオフセット情報算出部1702を説明する。オフセット情報算出部1702は、EOの各クラス(0〜3)およびBOのオフセットを算出する。オフセットタイプがEOの場合、クラス毎に各画素のカテゴリ設定を行い、設定したカテゴリ毎のオフセットを算出する。具体的な動作を、図18を用いて説明する。
オフセット算出部1702は、S1801で、クラス(class)、count[class][cat]、SAD
[class][cat]を初期化する。ここでcount[class][cat]はCTU内の(class、cat)の組み合わせ毎の画素数をカウントする変数、SAD[class][cat]はCTU内の(class、cat)の組み合わせ毎の復号画素値と原画素との絶対差分和を格納する変数である。
[class][cat]を初期化する。ここでcount[class][cat]はCTU内の(class、cat)の組み合わせ毎の画素数をカウントする変数、SAD[class][cat]はCTU内の(class、cat)の組み合わせ毎の復号画素値と原画素との絶対差分和を格納する変数である。
オフセット算出部1702は、S1802とS1803でEOのオフセットを算出する。S1702では、対
象画素Xに対し、クラスが示す参照画素aとbをセットし、カテゴリcatを導出する。現在のクラスに対し、count[class][cat]を1インクリメントする。また現在のクラスにおいて
、復号画素値と原画素との絶対差分をSAD[class][cat]に加算する。
象画素Xに対し、クラスが示す参照画素aとbをセットし、カテゴリcatを導出する。現在のクラスに対し、count[class][cat]を1インクリメントする。また現在のクラスにおいて
、復号画素値と原画素との絶対差分をSAD[class][cat]に加算する。
SAD[class][cat]+=|rec(X)-org[X]|
CTU内の全画素に対し上記の処理を行う。
CTU内の全画素に対し上記の処理を行う。
オフセット算出部1702は、S1803でカテゴリ1〜4に対し、下記の式を用いてオフセットoffset[class][cat]を算出し、クラスを1インクリメントする。
offset[class][cat]=SAD[class][cat]/count[class][cat]
なおカテゴリ0のオフセットは0にセットする。
なおカテゴリ0のオフセットは0にセットする。
オフセット算出部1702は、S1804でclass=4(EOがすべて終了)であれば、S1805に進み
、そうでなければS1802とS1803を繰り返す。
、そうでなければS1802とS1803を繰り返す。
オフセット算出部1702は、S1805とS1806でBOのオフセットを算出する。S1805で対象画
素の復号画素値rec[X]の属するバンドiを求め、バンドiの差分和SAD[class][i]にrec[X]
とorg[X]の差分を加算する。またバンドiのカウントを1インクリメントする。
素の復号画素値rec[X]の属するバンドiを求め、バンドiの差分和SAD[class][i]にrec[X]
とorg[X]の差分を加算する。またバンドiのカウントを1インクリメントする。
i=Rec[X]>>5
SAD[class][i]+=(rec[X]-org[X])
count[class][i]++
オフセット算出部1702は、S1806で32個のバンドi(i=0〜31)に対し、各々オフセット
を算出する。
SAD[class][i]+=(rec[X]-org[X])
count[class][i]++
オフセット算出部1702は、S1806で32個のバンドi(i=0〜31)に対し、各々オフセット
を算出する。
offset[class][i]=SAD[class][i]/count[class][i]
以上でEO(class=0〜3)の各カテゴリ(cat=1〜4)のオフセット、およびBO(class=4
)の各バンド(i=0〜31)のオフセットを各々算出した。
以上でEO(class=0〜3)の各カテゴリ(cat=1〜4)のオフセット、およびBO(class=4
)の各バンド(i=0〜31)のオフセットを各々算出した。
オフセット情報選択部1703は、オフセット算出部1702で算出したオフセットを用いて、オフセットタイプ(EO/BO)と、EOの場合はクラス、BOの場合はバンド位置を選択する。
図19はオフセット情報選択部1703の動作を示すフローチャートである。
図19はオフセット情報選択部1703の動作を示すフローチャートである。
オフセット情報選択部1703は、S1901で、クラスclass(0〜3)と絶対差分和SAD[class]を初期化する。絶対差分和SAD[class]は、SAOを適用した(オフセットを加算した)画素
値と原画素値の絶対差分和を格納する変数である。
値と原画素値の絶対差分和を格納する変数である。
絶対差分和SAD[class]は、S1902で、クラスで示される参照画素a、bをセットし、CTUの各画素毎に上述の方法でカテゴリを導出し、各カテゴリに割り当てられたオフセットを用いて絶対差分和SADを算出する。
SAD[class]+=|rec[X]+offset[class][cat]-org[X]|
なおカテゴリ0のオフセットは0にセットする。rec[X]+offset[class][cat]は(class、cat)の組み合わせ時のSAOの値であり、これと原画素値org[X]との絶対差分をクラス毎にSADに加算する。CTU内の全画素の処理が終了すれば、クラスを1インクリメントする。
なおカテゴリ0のオフセットは0にセットする。rec[X]+offset[class][cat]は(class、cat)の組み合わせ時のSAOの値であり、これと原画素値org[X]との絶対差分をクラス毎にSADに加算する。CTU内の全画素の処理が終了すれば、クラスを1インクリメントする。
オフセット情報選択部1703は、S1903で、クラスが4に等しいか否かをチェックする。クラスが4に等しくなければ、4になるまでS1902の処理を行う。クラスが4に等しい場合、EOの全クラスの処理が終了したことになり、S1904に進む。
オフセット情報選択部1703は、S1904で、SAD[i](i=0〜3)が最小となるiを求め、これをEOのクラスとする。
SADEO=min(SAD[i])、class=左記を満たすi
オフセット情報選択部1703は、S1905で、CTUの各バンドに対し、SAOを適用した(オフ
セットを加算した)画素値と原画素値との絶対差分和を計算する。具体的には、対象画素Xのバンドiと、オフセット算出部1702で求めた各バンドのオフセットoffset[class][i]を用いて、4つの連続するバンドに属する画素のSAOを適用した画素値rec[X]+oftと原画素値org[X]の絶対差分和を計算する。ここで、
i=rec[X]>>5
oft =offset[class=4][j] (j<=i<=j+3)
=0 (otherwise)
SAD[i]=|rec[X]+oft-org[X]|
とする。そしてCTUの全画素に対し上記処理を施した後、jを1インクリメントする。
オフセット情報選択部1703は、S1905で、CTUの各バンドに対し、SAOを適用した(オフ
セットを加算した)画素値と原画素値との絶対差分和を計算する。具体的には、対象画素Xのバンドiと、オフセット算出部1702で求めた各バンドのオフセットoffset[class][i]を用いて、4つの連続するバンドに属する画素のSAOを適用した画素値rec[X]+oftと原画素値org[X]の絶対差分和を計算する。ここで、
i=rec[X]>>5
oft =offset[class=4][j] (j<=i<=j+3)
=0 (otherwise)
SAD[i]=|rec[X]+oft-org[X]|
とする。そしてCTUの全画素に対し上記処理を施した後、jを1インクリメントする。
オフセット情報選択部1703は、S1906で、i<29であるか否かをチェックする。i<32であ
れば、処理を終了していないバンドがあるので、j=32になるまでS1905を繰り返す。i=32
の場合、全バンドに対し処理が終了したので、S1907に進む。
れば、処理を終了していないバンドがあるので、j=32になるまでS1905を繰り返す。i=32
の場合、全バンドに対し処理が終了したので、S1907に進む。
オフセット情報選択部1703は、S1907で、SAD[j]が最小となるj(j=0〜31)を現CTUのBOのバンド位置(band_position)に設定する。
SADBO=min(SAD[j])、band_position=左記を満たすj
オフセット情報選択部1703は、S1908で、SAOEOとSAOBOの大小関係を比較する。SAOBOが大きい場合、S1909に進み、現CTUのオフセットタイプ(type)をEOにセットする。そうでない場合、S1910に進み、現CTUのオフセットタイプ(type)をBOにセットする。
オフセット情報選択部1703は、S1908で、SAOEOとSAOBOの大小関係を比較する。SAOBOが大きい場合、S1909に進み、現CTUのオフセットタイプ(type)をEOにセットする。そうでない場合、S1910に進み、現CTUのオフセットタイプ(type)をBOにセットする。
以上がオフセット情報選択部1703で実施される処理である。
SAO情報設定部1701で算出したオフセット情報(オフセット、オフセットタイプ、クラ
ス、バンド位置)はSAO部314に入力される。SAO部314の動作は上述と同じであり、説明を省略する。
ス、バンド位置)はSAO部314に入力される。SAO部314の動作は上述と同じであり、説明を省略する。
(PO処理)
上記で説明したSAO(特にEO)は、1次元(上下、左右、斜め)方向の画素値を用いた
フィルタであったが、このSAOの前に2次元方向の画素値を用いたフィルタをかけること
ができる。このフィルタをピークSAO(peak SAO:PO)と呼ぶ。図20にPOおよびSAOのブロック図を示す。PO部2001はエントロピー復号部301で復号したPOオフセット情報(Cmax
、NF、オフセット等)と、復号画像を入力し、PO処理を行い、結果の画像をSAO部314に出力する。
上記で説明したSAO(特にEO)は、1次元(上下、左右、斜め)方向の画素値を用いた
フィルタであったが、このSAOの前に2次元方向の画素値を用いたフィルタをかけること
ができる。このフィルタをピークSAO(peak SAO:PO)と呼ぶ。図20にPOおよびSAOのブロック図を示す。PO部2001はエントロピー復号部301で復号したPOオフセット情報(Cmax
、NF、オフセット等)と、復号画像を入力し、PO処理を行い、結果の画像をSAO部314に出力する。
PO部2001は、POカテゴリ/POクラス設定部2002、オフセット情報格納部2003、POオフセ
ット加算部2004からなる。POカテゴリ/POクラス設定部2002は、復号画像の画素値から画
素毎に算出したPOカテゴリを用いてPOクラスを設定する。オフセット情報格納部2003は、エントロピー復号部301で復号したPOオフセット情報を格納する。POオフセット加算部2004は、POクラス、POカテゴリで指定されたオフセットを復号画像に加算し、結果をSAO部314に出力する。
ット加算部2004からなる。POカテゴリ/POクラス設定部2002は、復号画像の画素値から画
素毎に算出したPOカテゴリを用いてPOクラスを設定する。オフセット情報格納部2003は、エントロピー復号部301で復号したPOオフセット情報を格納する。POオフセット加算部2004は、POクラス、POカテゴリで指定されたオフセットを復号画像に加算し、結果をSAO部314に出力する。
POカテゴリ/POクラス設定部2002の動作を図21のフローチャートで説明する。POカテ
ゴリ/POクラス設定部2002は、S2101で、対象画素の参照画素を設定する。図13に対象画素Xと参照画素c0〜c3との位置関係を示す。POカテゴリ/POクラス設定部2002は、S2102で、CTU内の各画素Xに対し、下式により対象画素Xの参照画素ci(i=0〜3)と対象画素Xの大小
関係を調べる。
ゴリ/POクラス設定部2002は、S2101で、対象画素の参照画素を設定する。図13に対象画素Xと参照画素c0〜c3との位置関係を示す。POカテゴリ/POクラス設定部2002は、S2102で、CTU内の各画素Xに対し、下式により対象画素Xの参照画素ci(i=0〜3)と対象画素Xの大小
関係を調べる。
3
ML=Σlgr(rec(ci)-rec(X))
i=0
3
MS=Σsml(rec(ci)-rec(X))
i=0
M =max(ML、MS)
ここで
lgr(x)=(x>0)?1:0
sml(x)=(x<0)?1:0
である。
ML=Σlgr(rec(ci)-rec(X))
i=0
3
MS=Σsml(rec(ci)-rec(X))
i=0
M =max(ML、MS)
ここで
lgr(x)=(x>0)?1:0
sml(x)=(x<0)?1:0
である。
POカテゴリ/POクラス設定部2002は、S2103でカテゴリpcatを設定する。
pcat=0 (M=3)
1 (M=4)
2 (otherwise)
POカテゴリ/POクラス設定部2002は、S2104でPOクラスcidを算出する。
1 (M=4)
2 (otherwise)
POカテゴリ/POクラス設定部2002は、S2104でPOクラスcidを算出する。
3
cid=Σ|rec(ci)-rec(X)|/(M*(1<<NF)
i=0
ここでΣは、M= MLの場合はlgr(rec(ci)-rec(X))=1を満たすiについての和を計算し、M=
MSの場合はsml(rec(ci)-rec(X))=1を満たすiについての和を計算する。NFはエントロピー復号部301で復号された正規化係数である。
cid=Σ|rec(ci)-rec(X)|/(M*(1<<NF)
i=0
ここでΣは、M= MLの場合はlgr(rec(ci)-rec(X))=1を満たすiについての和を計算し、M=
MSの場合はsml(rec(ci)-rec(X))=1を満たすiについての和を計算する。NFはエントロピー復号部301で復号された正規化係数である。
POカテゴリ/POクラス設定部2002は、S2105で、POクラスc_idを下記のように決定する。
c_id=cid (cid<Cmax)
=Cmax (otherwise)
ここでCmaxはエントロピー復号部301で復号されたPOクラスの最大値であり、POクラス
数が大きくなりすぎることを防ぐ。
=Cmax (otherwise)
ここでCmaxはエントロピー復号部301で復号されたPOクラスの最大値であり、POクラス
数が大きくなりすぎることを防ぐ。
POオフセット加算部2004は、POカテゴリ/POクラス設定部2002で算出された、対象画素
のPOカテゴリとPOクラスを用いて適用するオフセットを決定し、対象画素値rec[X]にオフセットを加算し、フィルタ処理された対象画素値recpo[X]を算出する。
のPOカテゴリとPOクラスを用いて適用するオフセットを決定し、対象画素値rec[X]にオフセットを加算し、フィルタ処理された対象画素値recpo[X]を算出する。
recpo[X]=rec[X]+offset[c_id][pcat]
(符号化装置におけるPO)
符号化装置においてPO処理を実行するPO_E部の動作を、図22のブロック図を用いて説明する。PO_E部2201は、POカテゴリ、POクラス毎にオフセットを算出するPOオフセット算出部2202と、PO部2001からなる。PO部2001は上述と同じため、説明を省略する。PO_E部2201で算出したオフセット情報(Cmax、NF、オフセット)はエントロピー符号化部104に
出力され、フィルタ処理された画像はSAO_E部115に出力される。
(符号化装置におけるPO)
符号化装置においてPO処理を実行するPO_E部の動作を、図22のブロック図を用いて説明する。PO_E部2201は、POカテゴリ、POクラス毎にオフセットを算出するPOオフセット算出部2202と、PO部2001からなる。PO部2001は上述と同じため、説明を省略する。PO_E部2201で算出したオフセット情報(Cmax、NF、オフセット)はエントロピー符号化部104に
出力され、フィルタ処理された画像はSAO_E部115に出力される。
POオフセット算出部2202の動作を図23のフローチャートを用いて説明する。
POオフセット算出部2202は、S2301で、各POクラスc_idとPOカテゴリpcatの組み合わせ
毎に画素数をカウントする変数count[c_id][pcat]と、対象画素の復号画素値と原画素値
の絶対差分和を格納するSAD[c_id][pcat]を初期化する。
毎に画素数をカウントする変数count[c_id][pcat]と、対象画素の復号画素値と原画素値
の絶対差分和を格納するSAD[c_id][pcat]を初期化する。
POオフセット算出部2202は、S2302で、対象画素の参照画素c0〜c3を設定し、図21と
同様の方法でPOカテゴリを導出する。CTUの全画素に対し前記処理を行い、POカテゴリ毎
に、対象画素Xの復号画素値rec[X]と原画素値org[X]の絶対差分の分布を求める。
同様の方法でPOカテゴリを導出する。CTUの全画素に対し前記処理を行い、POカテゴリ毎
に、対象画素Xの復号画素値rec[X]と原画素値org[X]の絶対差分の分布を求める。
POオフセット算出部2202は、S2303で、S2302で求めた分布の最大値から対象画素Xの正
規化係数NFとPOクラスの最大値Cmaxを導出する。例えば、分布の最大値をPmaxとすると、
Cmax=Pmax/2
NF=Ceil(log2(Pmax/Cmax))
あるいは分布の最頻値Pfreqを用いて
Cmax=min(Pmax/2,Pfreq)
としてもよい。
規化係数NFとPOクラスの最大値Cmaxを導出する。例えば、分布の最大値をPmaxとすると、
Cmax=Pmax/2
NF=Ceil(log2(Pmax/Cmax))
あるいは分布の最頻値Pfreqを用いて
Cmax=min(Pmax/2,Pfreq)
としてもよい。
POオフセット算出部2202は、S2304で、図21のフローチャートで説明した方法で対象
画素XのPOカテゴリ、POクラスを抽出し、各POカテゴリとPOクラスの絶対差分和SAD[c_id][pcat]に、対象画素Xの復号画素値と原画素値の絶対差分を加算する。
画素XのPOカテゴリ、POクラスを抽出し、各POカテゴリとPOクラスの絶対差分和SAD[c_id][pcat]に、対象画素Xの復号画素値と原画素値の絶対差分を加算する。
POオフセット算出部2202は、S2305で、POカテゴリとPOクラス毎にオフセットを算出す
る。
る。
offset[c_id][pcat]=SAD[c_id][pcat]/count[c_id][pcat]
以上の処理により、SAOでは考慮できなかった2次元方向の画素値の変化を用いてフィ
ルタ処理ができる。
以上の処理により、SAOでは考慮できなかった2次元方向の画素値の変化を用いてフィ
ルタ処理ができる。
上記の説明はPOとSAOを共に使用する例であった。POは画像の2次元方向の画素値の変
化を用い、SAOのオフセットタイプEOは1次元方向の画素値の変化を用いる違いはあるが
、双方とも対象画素と参照画素との画素値の変化を用いる点で類似しており、POとSAOの
組み合わせ方法を変更することで、さらに双方の特性を活かした処理が可能になる。 本発明の一つの実施形態では、POの参照画素を図14に示す(a)水平・垂直方向と(b)斜め方向の2種類からCTU毎にフラグ(flag)を用いて選択する。この処理を実現するため
のPO部2001のPOカテゴリ/POクラス設定部2002の動作を図25のフローチャートを用いて
説明する。
化を用い、SAOのオフセットタイプEOは1次元方向の画素値の変化を用いる違いはあるが
、双方とも対象画素と参照画素との画素値の変化を用いる点で類似しており、POとSAOの
組み合わせ方法を変更することで、さらに双方の特性を活かした処理が可能になる。 本発明の一つの実施形態では、POの参照画素を図14に示す(a)水平・垂直方向と(b)斜め方向の2種類からCTU毎にフラグ(flag)を用いて選択する。この処理を実現するため
のPO部2001のPOカテゴリ/POクラス設定部2002の動作を図25のフローチャートを用いて
説明する。
図25は、図21のS2101をS25010〜S25012に置き換えたもので、その他のステップに
は変更はない。POカテゴリ/POクラス設定部2002は、S25010で、エントロピー復号部301で復号したフラグ(flag)をチェックする。フラグが0の場合、S25011に進み、対象画素Xの参照画素ci(i=0〜3)を図14(a)に示す水平・垂直方向の画素にセットする。そうで
ない場合、S25012に進み、対象画素Xの参照画素ci(i=0〜3)を図14(b)に示す斜め方向の画素にセットする。
は変更はない。POカテゴリ/POクラス設定部2002は、S25010で、エントロピー復号部301で復号したフラグ(flag)をチェックする。フラグが0の場合、S25011に進み、対象画素Xの参照画素ci(i=0〜3)を図14(a)に示す水平・垂直方向の画素にセットする。そうで
ない場合、S25012に進み、対象画素Xの参照画素ci(i=0〜3)を図14(b)に示す斜め方向の画素にセットする。
符号化装置では、PO_E部2201のオフセット算出部2202の動作を示す図23のフローチャートにおいて、選択可能な参照画素が水平・垂直方向と斜め方向の2種類に増えるので、各々の参照画素に対しS2301〜S2305の処理を実行する。そして図14の2種類の参照画素に対してS2304で求めた絶対差分和SAD[c=id][pcat]を比較し、小さい方の参照画素を採用する。そして絶対差分和SADが小さい方の参照画素位置は図14の(a)か(b)かを示す
フラグ、この参照画素を使用して算出したオフセット、Cmax、NFをエントロピー符号化部104に出力する。
フラグ、この参照画素を使用して算出したオフセット、Cmax、NFをエントロピー符号化部104に出力する。
このように、フラグを用いてPOの参照画素位置を水平・垂直方向あるいは斜め方向のどちらかに設定することで、斜め方向の画素値の変化を考慮しつつ、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
〔変形例1〕
本発明の別の実施形態として、POの処理によってSAOのオフセットタイプEOの処理を変
更する例を説明する。具体的にはPOでオフセットを加算した画素であるか、加算しなかった画素であるかに応じて、SAOのオフセットタイプEOの処理を変更する。上記のPOの構成
では、POカテゴリが2の場合、オフセットを加算しない。つまり、対象画素と参照画素の
2次元方向の画素値の変化をチェックした時にオフセットの加算が必要ないということである。しかし、上述のSAOのEOでは、対象画素と参照画素の1次元方向の画素値の変化を
チェックし、さらにオフセットを加算することがある。しかしながら、POカテゴリが2以
外の画素ではすでにPOでオフセット処理を実施しているので、少なくともSAOのEOの処理
は実施しないことが適当である(画素のオフセットタイプがBOの場合は上述の通り実施する)。
〔変形例1〕
本発明の別の実施形態として、POの処理によってSAOのオフセットタイプEOの処理を変
更する例を説明する。具体的にはPOでオフセットを加算した画素であるか、加算しなかった画素であるかに応じて、SAOのオフセットタイプEOの処理を変更する。上記のPOの構成
では、POカテゴリが2の場合、オフセットを加算しない。つまり、対象画素と参照画素の
2次元方向の画素値の変化をチェックした時にオフセットの加算が必要ないということである。しかし、上述のSAOのEOでは、対象画素と参照画素の1次元方向の画素値の変化を
チェックし、さらにオフセットを加算することがある。しかしながら、POカテゴリが2以
外の画素ではすでにPOでオフセット処理を実施しているので、少なくともSAOのEOの処理
は実施しないことが適当である(画素のオフセットタイプがBOの場合は上述の通り実施する)。
変形例1のPO部2001におけるPOカテゴリ/POクラス設定部2002の動作を、図26を用い
て説明する。図26は、図21のS2103の後にS26030〜S26032を追加しており、その他の
ステップには変更はない。POカテゴリ/POクラス設定部2002は、S26030で、S2103において設定したPOカテゴリpcatを参照し、pcatが2か否かを判定する。pcatが2(PO部ではオフセットを加算しないカテゴリ)の場合、S26031に進み、対象画素Xのmaskを1にセットする。pcatが2でない(PO部ではオフセットを加算するカテゴリ)の場合、S26032に進み、対象
画素Xのmaskを0にセットする。maskはCTU内の全画素に各々割り当てられた変数である。
て説明する。図26は、図21のS2103の後にS26030〜S26032を追加しており、その他の
ステップには変更はない。POカテゴリ/POクラス設定部2002は、S26030で、S2103において設定したPOカテゴリpcatを参照し、pcatが2か否かを判定する。pcatが2(PO部ではオフセットを加算しないカテゴリ)の場合、S26031に進み、対象画素Xのmaskを1にセットする。pcatが2でない(PO部ではオフセットを加算するカテゴリ)の場合、S26032に進み、対象
画素Xのmaskを0にセットする。maskはCTU内の全画素に各々割り当てられた変数である。
次にPOの後で行うSAOの処理を図27のフローチャートを用いて説明する。図27は、
図11のS1104の後にS27040〜S27041を追加したもので、その他のステップは同じである
。SAO部314のカテゴリ設定部1001は、S27040で、PO部2001でセットした対象画素Xのmask
をチェックし、1でない(PO部でオフセットを加算する)場合、S27041に進み、1次元SAOであるEOのカテゴリcatを、オフセットを加算しないカテゴリの0にセットする(EOを行わない)。
図11のS1104の後にS27040〜S27041を追加したもので、その他のステップは同じである
。SAO部314のカテゴリ設定部1001は、S27040で、PO部2001でセットした対象画素Xのmask
をチェックし、1でない(PO部でオフセットを加算する)場合、S27041に進み、1次元SAOであるEOのカテゴリcatを、オフセットを加算しないカテゴリの0にセットする(EOを行わない)。
以上の動作により、2次元オフセット加算フィルタであるPO時にオフセットを加算しなかった画素のみを1次元オフセット加算フィルタであるEOのオフセット加算の候補とすることで、2次元方向の画素値の変化からはオフセットの加算が不要でも、1次元方向の画素値の変化からはオフセットの加算が必要な場合に、適切にオフセットを加算することができ、かつ、POとEOという似た処理を二重に実施することを回避することができる。
なお、変形例1に対しても、実施形態1で説明した参照画素位置の切替を適用することができる。この場合、図26のS2101を、図25のS25010〜S25012に置き換えればよく、
それ以外のステップは同じである。
〔変形例2〕
本発明の別の実施例として、POとSAOの実行順序を変更する例を説明する。図28は復
号装置側のブロック図、図29は符号化装置側のブロック図であり、双方とも実施形態2と構成要素は同じであるが、POとSAOの実行順序が異なっている。変形例2では、SAOのオフセットタイプがEO、かつ、オフセットを加算した画素(画素のカテゴリcatが0以外の画素、つまり画素のカテゴリcatがオフセットを加算するカテゴリの画素)を、後続のPOの
オフセットを加算する画素の候補とする。つまり、EOで1次元方向の画素値の変化を考慮した画素に対し、さらに2次元方向の画素値の変化を考慮した補正を行う。
それ以外のステップは同じである。
〔変形例2〕
本発明の別の実施例として、POとSAOの実行順序を変更する例を説明する。図28は復
号装置側のブロック図、図29は符号化装置側のブロック図であり、双方とも実施形態2と構成要素は同じであるが、POとSAOの実行順序が異なっている。変形例2では、SAOのオフセットタイプがEO、かつ、オフセットを加算した画素(画素のカテゴリcatが0以外の画素、つまり画素のカテゴリcatがオフセットを加算するカテゴリの画素)を、後続のPOの
オフセットを加算する画素の候補とする。つまり、EOで1次元方向の画素値の変化を考慮した画素に対し、さらに2次元方向の画素値の変化を考慮した補正を行う。
変形例2のSAO部314のカテゴリ設定部1001の動作を図30のフローチャートで説明する。図30は、図11のS1104の後にS30000〜S30002を追加し、また図11のS1106の後にS30060を追加したものであり、それ以外のステップは同じである。
SAO部314のカテゴリ設定部1001は、S30000で、S1104で設定したカテゴリcatが0か否か
をチェックする。カテゴリcatが0(EOでオフセット加算しない)の場合、S30001に進み、対象画素のmaskを0にセットする。カテゴリcatが0でない(EOでオフセット加算する)の
場合、S30002に進み、対象画素のmaskを1にセットする。カテゴリ設定部1001は、S30060
で、対象画素のmaskを0にセットする。maskはCTU内の全画素に各々割り当てられた変数である。
をチェックする。カテゴリcatが0(EOでオフセット加算しない)の場合、S30001に進み、対象画素のmaskを0にセットする。カテゴリcatが0でない(EOでオフセット加算する)の
場合、S30002に進み、対象画素のmaskを1にセットする。カテゴリ設定部1001は、S30060
で、対象画素のmaskを0にセットする。maskはCTU内の全画素に各々割り当てられた変数である。
次にPO部1001のPOカテゴリ/POクラス設定部2002の動作を、図31を用いて説明する。
図31は、図21のS2103の後にS31030、S31031を追加したものであり、それ以外のステ
ップは同じである。POカテゴリ/POクラス設定部2002は、S31030で、EOでオフセットを加
算したかどうかを示すmaskをチェックする。maskが0(EOでオフセットを加算しない)の
場合、S31031に進み、POカテゴリpcatをオフセットを加算しないカテゴリの0にセットす
る。これにより、EOでオフセットを加算しなかった画素は、POのオフセットを加算しない。
図31は、図21のS2103の後にS31030、S31031を追加したものであり、それ以外のステ
ップは同じである。POカテゴリ/POクラス設定部2002は、S31030で、EOでオフセットを加
算したかどうかを示すmaskをチェックする。maskが0(EOでオフセットを加算しない)の
場合、S31031に進み、POカテゴリpcatをオフセットを加算しないカテゴリの0にセットす
る。これにより、EOでオフセットを加算しなかった画素は、POのオフセットを加算しない。
なお、変形例1に対しても、実施形態2で説明した参照画素位置の切替を適用することができる。この場合、図31のS2101を、図25のS25010〜S25012に置き換えればよく、
それ以外のステップは同じである。
〔実施形態2〕
本願の実施形態2は、POの画素分類(POカテゴリ分類)を2つの1次元EOの組み合わせで実現する。2つのEOの組み合わせで実現することで、POとEOの両者を処理する場合に発生する冗長な処理を削除し、かつ、1次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる
。具体的には、図7に示す4つのクラスに対応する方向(水平方向、垂直方向、左上から右下方向、右上から左下方向)のうちの2つの方向のEOカテゴリを、EOカテゴリ1、EOカ
テゴリ2として導出し、この2つのEOカテゴリに基づいてPOカテゴリ分類を導出する。
それ以外のステップは同じである。
〔実施形態2〕
本願の実施形態2は、POの画素分類(POカテゴリ分類)を2つの1次元EOの組み合わせで実現する。2つのEOの組み合わせで実現することで、POとEOの両者を処理する場合に発生する冗長な処理を削除し、かつ、1次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる
。具体的には、図7に示す4つのクラスに対応する方向(水平方向、垂直方向、左上から右下方向、右上から左下方向)のうちの2つの方向のEOカテゴリを、EOカテゴリ1、EOカ
テゴリ2として導出し、この2つのEOカテゴリに基づいてPOカテゴリ分類を導出する。
図24(a)は、EOの2つのクラスのカテゴリ(EOカテゴリ1、EOカテゴリ2)を組み合
わせた時のMの値を示す。図24(a)を用いることでEOカテゴリ1、EOカテゴリ2から、POカテゴリを導出するための一時変数Mを導出することができる。
わせた時のMの値を示す。図24(a)を用いることでEOカテゴリ1、EOカテゴリ2から、POカテゴリを導出するための一時変数Mを導出することができる。
M=max(Σlgr(rec(X)-rec(ci)), Σsml(rec(X)-rec(ci)))
ここで、発生しないパターンのMは0にセットする。
ここで、発生しないパターンのMは0にセットする。
例えば、図24(a)のEOカテゴリ1は図7のクラス0(参照画素は水平方向)の参照画素から得られるカテゴリ、EOカテゴリ2は図7のクラス2(参照画素は左上から右下方向
)の参照画素から得られるカテゴリとする。例えばEOカテゴリ1が2、EOカテゴリ2が1の場合、Mは3と導出される。
)の参照画素から得られるカテゴリとする。例えばEOカテゴリ1が2、EOカテゴリ2が1の場合、Mは3と導出される。
図24(b)は(実施形態1の式で導出される)POカテゴリのMと2つのEOのカテゴリの組み合わせ(EOカテゴリ1、EOカテゴリ2)との関係を示した表である。例えばM=3は、2
つのカテゴリが0と3、あるいは1と2に相当する。またM=4は、2つのカテゴリが1と1、あ
るいは4と4に相当する。M=0〜2はPOではオフセット加算の対象とならない画素値の変化パターンであるが、1次元のEOとしてはオフセット加算の対象となる画素値の変化パターンなので、本実施形態でもオフセットの加算を行う。このように、CTU毎に方向(EOクラス
)を2つ設定し、画素毎に2つの方向に対するカテゴリを求めることで、従来POとSAOのEO双方でカテゴリ分類が必要であった処理を、SAOのEOのカテゴリ分類だけで処理することができる。
つのカテゴリが0と3、あるいは1と2に相当する。またM=4は、2つのカテゴリが1と1、あ
るいは4と4に相当する。M=0〜2はPOではオフセット加算の対象とならない画素値の変化パターンであるが、1次元のEOとしてはオフセット加算の対象となる画素値の変化パターンなので、本実施形態でもオフセットの加算を行う。このように、CTU毎に方向(EOクラス
)を2つ設定し、画素毎に2つの方向に対するカテゴリを求めることで、従来POとSAOのEO双方でカテゴリ分類が必要であった処理を、SAOのEOのカテゴリ分類だけで処理することができる。
実施形態2のブロック図は、実施形態1の図10のSAO部314、および図17のSAO_E部115と同じであるが、カテゴリ設定部1001、オフセット加算部1003、オフセット情報選択部1703の動作が異なる。カテゴリ設定部1001、およびオフセット情報選択部1703の動作を図34、図35のフローチャートで説明する。
図34のカテゴリ設定部1001は、2つの方向(クラス)に対応する参照画素から2つのカテゴリを導出するためS1102〜S1104の処理を2回繰り返す。その他のステップは、1つの方向(クラス)の参照画素から1つのカテゴリを導出する図11と同じである。カテゴリ設定部1001は、S34040でS1102〜S1104の処理の回数をカウントし、2回であれば処理を終了し、1回であればS1102に戻り処理を継続する。なお、2つのカテゴリ導出はループ
処理で行う必要はなく、カテゴリ導出処理を2回実行する構成でもよい。
処理で行う必要はなく、カテゴリ導出処理を2回実行する構成でもよい。
オフセット加算部1003では、カテゴリ設定部1001で算出した2つのクラス(class1、class2)とそのカテゴリ(cat1、cat2)に対応する2つのオフセットをオフセット情報格納部から読み出し、対象画素の画素値Rec[X]に加算する。
recsao[X]=rec[X]+(offset[class1][cat1]+offset[class2][cat2])/2
(cat1≠0かつcat2≠0)
=rec[X]+offset[class1][cat1] (cat2=0)
=rec[X]+offset[class2][cat2] (cat1=0)
上式は2つのオフセットの平均値を加算しているが、2つのオフセットの重み付き演算でもよい。ただし、最初に符号化されたクラスclass1の重みw1を、class2の重みw2より大きくする。
(cat1≠0かつcat2≠0)
=rec[X]+offset[class1][cat1] (cat2=0)
=rec[X]+offset[class2][cat2] (cat1=0)
上式は2つのオフセットの平均値を加算しているが、2つのオフセットの重み付き演算でもよい。ただし、最初に符号化されたクラスclass1の重みw1を、class2の重みw2より大きくする。
recsao[X]=rec[X]+w1*offset[cat1]+w2*offset[cat2] (cat1≠0かつcat2≠0)
ここでw1>=w2、w1+w2=1である。
ここでw1>=w2、w1+w2=1である。
なお、カテゴリ設定部1001で用いる2つの方向(クラス)は、CTU単位で符号化
・復号してもよい。4つの方向(クラス)の中から2つの方向(クラス)を選択する場合には、2ビットのシンタックスが必要である。なお、選択可能な方向として2つの方向(クラス)が直交する場合のみ選択するという制限をかけてもよい。この場合、取り得る参照画素位置は水平・垂直方向と2つの斜め方向の2パターンに限定されるが、クラスを表現するビット数を1ビット削減することができる。
・復号してもよい。4つの方向(クラス)の中から2つの方向(クラス)を選択する場合には、2ビットのシンタックスが必要である。なお、選択可能な方向として2つの方向(クラス)が直交する場合のみ選択するという制限をかけてもよい。この場合、取り得る参照画素位置は水平・垂直方向と2つの斜め方向の2パターンに限定されるが、クラスを表現するビット数を1ビット削減することができる。
以上で説明したように、本願の実施形態2は、POのカテゴリ分類相当の処理を2つの1次元EOのカテゴリ分類の組み合わせで実現する。2つのEOの組み合わせで実現することで、POカテゴリ分類とEOカテゴリ分類の両方を処理する場合に発生する冗長な処理を回避し、かつ、1次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。
〔実施形態3〕
本願の実施形態3は、POを拡張して実施形態2の1次元EOの組み合わせを表現する。POを拡張して表現することで、POもEOも処理する場合に発生する冗長な処理を削除し、かつ、従来のPOでは表現できなかった1次元方向の画素値の変化に対応することができ、より効率的なフィルタ処理を実現できる。
〔実施形態3〕
本願の実施形態3は、POを拡張して実施形態2の1次元EOの組み合わせを表現する。POを拡張して表現することで、POもEOも処理する場合に発生する冗長な処理を削除し、かつ、従来のPOでは表現できなかった1次元方向の画素値の変化に対応することができ、より効率的なフィルタ処理を実現できる。
実施形態3のブロック図は、実施形態1の図20のPO部2001、および図22のPO_E部2201と同じであるが、POカテゴリ/POクラス設定部2002の動作が異なる。
ここでPOカテゴリpcatとEOカテゴリの対応関係を図32に示す。図32において、POのM
が0〜2の場合は、SAOのEOのカテゴリに従って処理を実施する。POのMが3の場合はPOを実
施するが、オフセットはEOカテゴリに合わせて異なるオフセットを符号化装置側で算出し、POオフセット加算部2004で加算処理に使用する。POのMが4の場合はPOを実施するが、オフセットはEOカテゴリに合わせて、かつM=3とは異なるオフセットを符号化装置側で算出
し、POオフセット加算部2004で加算処理に使用する。EOカテゴリが1と4、あるいは2と3のように特性が似通っている場合、オフセットは同じ値でもよい。
ここでPOカテゴリpcatとEOカテゴリの対応関係を図32に示す。図32において、POのM
が0〜2の場合は、SAOのEOのカテゴリに従って処理を実施する。POのMが3の場合はPOを実
施するが、オフセットはEOカテゴリに合わせて異なるオフセットを符号化装置側で算出し、POオフセット加算部2004で加算処理に使用する。POのMが4の場合はPOを実施するが、オフセットはEOカテゴリに合わせて、かつM=3とは異なるオフセットを符号化装置側で算出
し、POオフセット加算部2004で加算処理に使用する。EOカテゴリが1と4、あるいは2と3のように特性が似通っている場合、オフセットは同じ値でもよい。
また拡張したPOはSAOのEOの機能も含むので、POの後に処理するSAOは、図37に示すようにBOの機能のみを実施してもよい。この構成では、図37に示すように、まずPO部2001(あるいはPO_E部2201)が、上述のPOカテゴリ分類とオフセット加算処理を行い、SAO部314(あるいはSAO_E部115)がEOを除くBOのカテゴリ分類とオフセット加算処理を行う。SAOのオフセットタイプはBOだけなので、例えば図11のカテゴリ設定部1001は、S1105とS1106の処理だけになる。図18のオフセット算出部1702はS1801、S1805とS1806の処理だけになる。図19のオフセット情報選択部1703はS1901とS1905〜S1907の処理だけになる。
従って、オフセット情報はオフセットとバンド位置(band_position)となる。またオフ
セットタイプはBOだけなので、オフセットタイプ(type)も符号化する必要はない。
従って、オフセット情報はオフセットとバンド位置(band_position)となる。またオフ
セットタイプはBOだけなので、オフセットタイプ(type)も符号化する必要はない。
以上のように、本願の実施形態3は、実施形態2の1次元EOの組み合わせに相当するカテゴリ分類処理を、POを拡張して実現する。POを拡張して実現することで、POとEOを処理する場合に発生する冗長なカテゴリ分類処理を削除し、かつ、従来のPOで表現できなかった1次元方向の画素値の変化に対応することができ、より効率的なフィルタ処理を実現できる。
〔実施形態4〕
本願の実施形態4は、POとSAOのEOがリンギング除去効果、SAOのBOが擬似輪郭防止効果という異なる画質改善効果をもつことから、POを使用(POでオフセットを加算)した場合のSAOはBOを選択する。
〔実施形態4〕
本願の実施形態4は、POとSAOのEOがリンギング除去効果、SAOのBOが擬似輪郭防止効果という異なる画質改善効果をもつことから、POを使用(POでオフセットを加算)した場合のSAOはBOを選択する。
実施形態4のブロック図は、実施形態1の図20のPO部2001(ただしPOカテゴリ/POク
ラス設定部2002は図26の動作)、および図22のPO_E部2201と同じであるが、図38に示すようにS3802でCTUの全画素に対してオフセットを加算したか否かの判定を行う。具体的にはmask=1の場合、POでオフセットを加算していないため、CTUの全画素のmaskが1であれば、そのCTUはオフセットを加算していないことになる。。S3802でCTUの全画素のmask
が1の場合、後続のSAOは従来通りEOとBOから適切なタイプを選択し処理する。そうでない場合、後続のSAOはBOのみの処理となる。SAOがBOのみの場合、SAOのオフセットタイプの
符号化は不要である。
ラス設定部2002は図26の動作)、および図22のPO_E部2201と同じであるが、図38に示すようにS3802でCTUの全画素に対してオフセットを加算したか否かの判定を行う。具体的にはmask=1の場合、POでオフセットを加算していないため、CTUの全画素のmaskが1であれば、そのCTUはオフセットを加算していないことになる。。S3802でCTUの全画素のmask
が1の場合、後続のSAOは従来通りEOとBOから適切なタイプを選択し処理する。そうでない場合、後続のSAOはBOのみの処理となる。SAOがBOのみの場合、SAOのオフセットタイプの
符号化は不要である。
なお、符号化装置側で、POにおいてCTUに1つでもmaskが0の画素があった場合にオフセットタイプ(BO)を符号化する場合は、復号装置側では、図38のS3802とS3804は不要となり、従来のPOとSAOを順番に処理する動作と全く同じ動作となる。
〔実施形態5〕
本願の実施形態5は、実施形態1で説明したPOの参照画素位置への斜め方向画素(図14(b))の追加に関する。POとSAOのEOでは、どちらも適切な参照画素位置の算出が必要であるため、POとEOで参照画素位置の情報を共有することで冗長な算出処理を削減できる。
〔実施形態5〕
本願の実施形態5は、実施形態1で説明したPOの参照画素位置への斜め方向画素(図14(b))の追加に関する。POとSAOのEOでは、どちらも適切な参照画素位置の算出が必要であるため、POとEOで参照画素位置の情報を共有することで冗長な算出処理を削減できる。
POの後にSAOを処理する場合(図20、図22)、POで算出した参照画素位置を用いてEOの参照画素位置を決定する。POで用いた参照方向を示すフラグをPOflag、EOで用いる1ビットのクラス情報をEOflagとすると、EOのクラスclassは下記で算出できる。
class=(POflag<<1)+EOflag
この場合、EOのクラスを示すための情報を1ビット削減できる。
この場合、EOのクラスを示すための情報を1ビット削減できる。
SAOの後にPOを処理する場合(図28、図29)、SAOのEOで算出した参照画素位置を用いて、図15(a)に示すようにPOの参照画素位置を決定する。つまりEOのクラスが0あるいは1の場合、POflag=0(参照画素位置は水平・垂直方向)であり、EOのクラスが2あるいは3の場合、POflag=1(参照画素位置は斜め方向)である。この場合、POの参照画素位置
を示す情報を削除することができる。
を示す情報を削除することができる。
POとSAOのEOの参照画素位置が共通の場合、最初の処理で補正の効果がある参照画素位
置を後続の処理にも用いることで、さらに精度の高い補正ができるという効果もある。
〔変形例3〕
上記はPOとSAOのEO参照画素位置を共通にした場合であったが、変形例3はPOとEOで異
なる参照画素位置を用いる。
置を後続の処理にも用いることで、さらに精度の高い補正ができるという効果もある。
〔変形例3〕
上記はPOとSAOのEO参照画素位置を共通にした場合であったが、変形例3はPOとEOで異
なる参照画素位置を用いる。
POの後にSAOを処理する場合(図20、図22)、POで算出した参照画素位置を用いてEOの参照画素位置を決定する。POで用いた参照方向を示すフラグをPOflag、EOで用いる1ビットのクラス情報をEOflagとすると、EOのクラスclassは下記で算出できる。
class=((1-POflag)<<1)+EOflag
この場合、EOのクラスを示すための情報を1ビット削減できる。
この場合、EOのクラスを示すための情報を1ビット削減できる。
SAOの後にPOを処理する場合(図28、図29)、SAOのEOで算出した参照画素位置を用いて、図15(b)に示すようにPOの参照画素位置を決定する。つまりEOのクラスが0あるいは1の場合、POflag=1(参照画素位置は斜め方向)であり、EOのクラスが2あるいは3の
場合、POflag=0(参照画素位置は水平・垂直方向)である。この場合、POの参照画素位置を示す情報を削除することができる。
場合、POflag=0(参照画素位置は水平・垂直方向)である。この場合、POの参照画素位置を示す情報を削除することができる。
POとSAOのEOの参照画素位置が異なる場合、最初の処理で補正できなかった方向の画素
値の変化を用いて後続の処理ができるので、符号化効率を向上させる効果がある。
〔実施形態6〕
本発明の実施形態6は、POで通知するPOクラスの最大数Cmaxと、クラスの算出に使用する正規化係数NFの推定について説明する。Cmaxによって符号化すべきオフセット数を制限し、NFによって1つのオフセットで対応する画素値の変化量の粒度を変更できるため、CTU毎にCmaxとNFを通知することで最適なオフセットの調整ができる。しかしながらCTU毎にCmaxとNFを符号化すると、符号量が増大するという課題がある。そこでピクチャパラメータセットやスライスヘッダ等でCmaxとNFを符号化し、CTUレベルでは画素値の変化量に関
係の深いパラメータを用いてCmaxとNFを変更することで符号量を削減しつつ、細かいオフセットの調整ができる。
値の変化を用いて後続の処理ができるので、符号化効率を向上させる効果がある。
〔実施形態6〕
本発明の実施形態6は、POで通知するPOクラスの最大数Cmaxと、クラスの算出に使用する正規化係数NFの推定について説明する。Cmaxによって符号化すべきオフセット数を制限し、NFによって1つのオフセットで対応する画素値の変化量の粒度を変更できるため、CTU毎にCmaxとNFを通知することで最適なオフセットの調整ができる。しかしながらCTU毎にCmaxとNFを符号化すると、符号量が増大するという課題がある。そこでピクチャパラメータセットやスライスヘッダ等でCmaxとNFを符号化し、CTUレベルでは画素値の変化量に関
係の深いパラメータを用いてCmaxとNFを変更することで符号量を削減しつつ、細かいオフセットの調整ができる。
以下に、画素値の変化量に関係の深いパラメータとして量子化幅QPを用いた例を説明する。
QPが大きい場合、復号画像にはリンギング歪や量子化歪が増加するため、オフセット数を増やし、画素値の細かな調整をする必要がある。そのためにはQPが大きい場合、Cmaxを大きく、NFを小さくして、オフセット数を増やし、1つのオフセットが対応する画素値の変化量の精度を細かくする。
POカテゴリ/POクラス設定部2202の動作を図39のフローチャートで説明する。図39
は図21のS2103の後にS39030が追加されたものであり、それ以外のステップは同じであ
る。POカテゴリ/POクラス設定部2002は、S39030でCmaxとNFをCTU単位で推定する。具体的には、POカテゴリ毎に対象画素Xと参照画素c0〜c3の復号画素値の絶対差分の平均値DIFF_avgを算出し、図33に示す(α、β)を用い、下式でCmaxを算出する。
は図21のS2103の後にS39030が追加されたものであり、それ以外のステップは同じであ
る。POカテゴリ/POクラス設定部2002は、S39030でCmaxとNFをCTU単位で推定する。具体的には、POカテゴリ毎に対象画素Xと参照画素c0〜c3の復号画素値の絶対差分の平均値DIFF_avgを算出し、図33に示す(α、β)を用い、下式でCmaxを算出する。
Cmax=(Cmax_init*α)>>β
ここで、Cmax_initはピクチャパラメータセットやスライスヘッダで通知したCmaxの値で
ある。図33のavgは絶対差分の平均値DIFF_avgである。示す値であり、例えばQPがTHQより小さく、avgがTHD1〜THD2の間にある時は、(α、β)=(3、1)で、Cmax=Cmax_init*3/2である。また、POカテゴリ毎に対象画素Xと参照画素c0〜c3の復号画素値の絶対差分の最大
値DIFF_maxを用いて、NFを下式で算出する。
ここで、Cmax_initはピクチャパラメータセットやスライスヘッダで通知したCmaxの値で
ある。図33のavgは絶対差分の平均値DIFF_avgである。示す値であり、例えばQPがTHQより小さく、avgがTHD1〜THD2の間にある時は、(α、β)=(3、1)で、Cmax=Cmax_init*3/2である。また、POカテゴリ毎に対象画素Xと参照画素c0〜c3の復号画素値の絶対差分の最大
値DIFF_maxを用いて、NFを下式で算出する。
NF=Ceil(log2(DIFF_max/DIFF_avg))
なお、上記では画素値の変化量に関係の深いパラメータとして量子化幅QPを用いたが、CUのサイズとしてもよい。CUサイズが大きい領域はテクスチャが平坦であり、擬似輪郭が発生しやすい。画素値のわずかな変化が目立つので、QPが大きい時と同様の制御が可能である。
なお、上記では画素値の変化量に関係の深いパラメータとして量子化幅QPを用いたが、CUのサイズとしてもよい。CUサイズが大きい領域はテクスチャが平坦であり、擬似輪郭が発生しやすい。画素値のわずかな変化が目立つので、QPが大きい時と同様の制御が可能である。
また、上記ではCTU毎にCmaxとNFを推定したが、1つ前のCTU毎のCmaxとNF、あるいはピクチャパラメータセットやスライスヘッダで通知したCmax_initとNF_initとの差分値を符号化することで、符号量を削減することもできる。i番目のCTUのCmaxとNFをCmax[i]、NF[i]とすると、
dCmax=Cmax[i]-Cmax[i-1] (i>0)
dNF=NF[i]-NF[i-1]
であり、dCmax、dNFを符号化する。
dCmax=Cmax[i]-Cmax[i-1] (i>0)
dNF=NF[i]-NF[i-1]
であり、dCmax、dNFを符号化する。
符号化装置側ではPOオフセット算出部2202において、図23に示すS2303のCmax、NFの
導出は上記で説明した図39のS39030に置き換えられる。
導出は上記で説明した図39のS39030に置き換えられる。
以上のように、実施形態6では、CTUレベルでは画素値の変化量に関係の深いパラメー
タを用いてCmaxとNFを変更する、あるいは1つ前のCmaxとNFとの差分値を符号化することで符号量を削減しつつ、細かいオフセットの調整ができる。
タを用いてCmaxとNFを変更する、あるいは1つ前のCmaxとNFとの差分値を符号化することで符号量を削減しつつ、細かいオフセットの調整ができる。
なお、PO_E部2201は、CmaxとNFの初期値であるCmax_initとNF_initをエントロピー符号化部104に出力し、エントロピー符号化部104はこれらをピクチャパラメータセットやスライスヘッダを符号化する。PO部2001は、エントロピー復号部301で復号したCmax_initとNF_initをPOカテゴリ/POクラス設定部2002に渡す。
〔実施形態7〕
本願の実施形態7はオフセットのエントロピー符号化方法について説明する。本発明では、POとSAOで各々オフセットを符号化・復号する。しかしながら、1回目の処理(処理
1)のオフセット加算により原画素値とフィルタ処理後の画素値の差分はフィルタ処理前の画素値との差分より小さくなっており、2回目の処理(処理2)のオフセットは1回目のオフセット以下でよい。従って、処理1のオフセットを用いて、処理2のオフセットの符号長を削減することができる。
〔実施形態7〕
本願の実施形態7はオフセットのエントロピー符号化方法について説明する。本発明では、POとSAOで各々オフセットを符号化・復号する。しかしながら、1回目の処理(処理
1)のオフセット加算により原画素値とフィルタ処理後の画素値の差分はフィルタ処理前の画素値との差分より小さくなっており、2回目の処理(処理2)のオフセットは1回目のオフセット以下でよい。従って、処理1のオフセットを用いて、処理2のオフセットの符号長を削減することができる。
図5のエントロピー復号部301、あるいは図6のエントロピー符号化部104の中に、オフセット値をバイナリゼーションする(図示しない)バイナリゼーション部がある。ここで行われるバイナリゼーションの方法としてTR(Truncated Rice)符号を用いる例を説明する。処理1のオフセットの取り得る最大値Omax1は
Omax1=(1<<(min(N,10)-5))-1
で表される。ここでNは画素の階調で、8(0〜255)の場合はOmax1=7であり、オフセット
として0〜7の値を使用することができる。Omax1=7の場合のTR符号表を図36(a)に示す。例えば処理1のオフセットの最大値が5の場合、処理2のオフセットの最大値は5以下であるので、処理2ではOmax2=5であり、この時のTR符号表を図36(b)に示す。従って処理2でオフセットがOmax2と等しくなる時は、処理1で使用するTR符号表を用いて符号化
する時よりも符号量を1ビット削減することができる。なお、実施形態7では、処理1がPOで処理2がSAOの場合も、その逆の場合も適用することができる。
〔変形例4〕
実施形態7では、処理2のオフセットの制限を処理1のオフセットの最大値以下とした。変形例4では、処理2のオフセットの制限を処理1のオフセットの最大値の1/2以下と
する。図36(c)に変形例4の場合の処理2におけるオフセットのTR符号表を示す。例
えば処理1のオフセットの最大値が5の場合、処理2のオフセットの最大値は5の1/2以下
であるので、処理2ではOmax2=2である。
〔変形例5〕
実施形態7では処理1と処理2のオフセットのバイナリゼーションにTR符号(RiceParam=0)を使用した。変形例5では処理2に比べオフセット値が大きくなる処理1において
、入力値が大きくなっても符号長が長くなりにくいTR符号(RiceParam=1)を使用して、
オフセットの符号量を削減する。図36(d)にTR符号表(RiceParam=1)を示す。図36(a)の符号表と図36(d)の符号表を比較すると、入力が0の場合は図36(a)の符号表の符号量割り当てが小さいが、3以上になると図36(d)の符号表の符号量割り当てが小さい。従ってオフセットのバイナリゼーションにおいて、処理1では図36(d)の符
号表を用い、処理2では図36(a)の符号表を用いることで、入力が大きい場合の符号
量を削減することができる。
Omax1=(1<<(min(N,10)-5))-1
で表される。ここでNは画素の階調で、8(0〜255)の場合はOmax1=7であり、オフセット
として0〜7の値を使用することができる。Omax1=7の場合のTR符号表を図36(a)に示す。例えば処理1のオフセットの最大値が5の場合、処理2のオフセットの最大値は5以下であるので、処理2ではOmax2=5であり、この時のTR符号表を図36(b)に示す。従って処理2でオフセットがOmax2と等しくなる時は、処理1で使用するTR符号表を用いて符号化
する時よりも符号量を1ビット削減することができる。なお、実施形態7では、処理1がPOで処理2がSAOの場合も、その逆の場合も適用することができる。
〔変形例4〕
実施形態7では、処理2のオフセットの制限を処理1のオフセットの最大値以下とした。変形例4では、処理2のオフセットの制限を処理1のオフセットの最大値の1/2以下と
する。図36(c)に変形例4の場合の処理2におけるオフセットのTR符号表を示す。例
えば処理1のオフセットの最大値が5の場合、処理2のオフセットの最大値は5の1/2以下
であるので、処理2ではOmax2=2である。
〔変形例5〕
実施形態7では処理1と処理2のオフセットのバイナリゼーションにTR符号(RiceParam=0)を使用した。変形例5では処理2に比べオフセット値が大きくなる処理1において
、入力値が大きくなっても符号長が長くなりにくいTR符号(RiceParam=1)を使用して、
オフセットの符号量を削減する。図36(d)にTR符号表(RiceParam=1)を示す。図36(a)の符号表と図36(d)の符号表を比較すると、入力が0の場合は図36(a)の符号表の符号量割り当てが小さいが、3以上になると図36(d)の符号表の符号量割り当てが小さい。従ってオフセットのバイナリゼーションにおいて、処理1では図36(d)の符
号表を用い、処理2では図36(a)の符号表を用いることで、入力が大きい場合の符号
量を削減することができる。
以上のように、本願の実施形態7はオフセットのエントロピー符号化において、1回目の処理のオフセットより、2回目の処理のオフセットが小さくなることを利用して、オフセットの符号長を削減することができる。
〔その他〕
なお、前述した実施形態における画像符号化装置11、画像復号装置31の一部、例えば、エントロピー復号部301、予測パラメータ復号部302、ループフィルタ305、予測画像生成部308、逆量子化・逆DCT部311、加算部312、予測画像生成部10
1、減算部102、DCT・量子化部103、エントロピー符号化部104、逆量子化・逆DCT部105、ループフィルタ107、符号化パラメータ決定部110、予測パラメータ符号化部111、および各部が含むブロックをコンピュータで実現するようにしても良い。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、画像符号化装置11、画像復号装置31のいずれかに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のこと
をいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また前記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
なお、前述した実施形態における画像符号化装置11、画像復号装置31の一部、例えば、エントロピー復号部301、予測パラメータ復号部302、ループフィルタ305、予測画像生成部308、逆量子化・逆DCT部311、加算部312、予測画像生成部10
1、減算部102、DCT・量子化部103、エントロピー符号化部104、逆量子化・逆DCT部105、ループフィルタ107、符号化パラメータ決定部110、予測パラメータ符号化部111、および各部が含むブロックをコンピュータで実現するようにしても良い。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、画像符号化装置11、画像復号装置31のいずれかに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のこと
をいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また前記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
また、前述した実施形態における画像符号化装置11、画像復号装置31の一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現しても良い。画像符号化装置11、画像復号装置31の各機能ブロックは個別にプロセッサ化しても良いし、一部、または全部を集積してプロセッサ化しても良い。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現しても良い。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いても良い。
(応用例)
前述した画像符号化装置11および画像復号装置31は、動画像の送信、受信、記録、再生を行う各種装置に搭載して利用することができる。なお、動画像は、カメラ等により撮像された自然動画像であってもよいし、コンピュータ等により生成された人工動画像(CGおよびGUIを含む)であってもよい。
前述した画像符号化装置11および画像復号装置31は、動画像の送信、受信、記録、再生を行う各種装置に搭載して利用することができる。なお、動画像は、カメラ等により撮像された自然動画像であってもよいし、コンピュータ等により生成された人工動画像(CGおよびGUIを含む)であってもよい。
まず、前述した画像符号化装置11および画像復号装置31を、動画像の送信および受信に利用できることを、図8を参照して説明する。
図8の(a)は、画像符号化装置11を搭載した送信装置PROD_Aの構成を示したブロック図である。図8の(a)に示すように、送信装置PROD_Aは、動画像を符号化することによって符号化データを得る符号化部PROD_A1と、符号化部PROD_A1が得た符号化データで搬送波を変調することによって変調信号を得る変調部PROD_A2と、変調部PROD_A2が得た変調信号を送信する送信部PROD_A3と、を備えている。前述した画像符号化装置11は、この
符号化部PROD_A1として利用される。
符号化部PROD_A1として利用される。
送信装置PROD_Aは、符号化部PROD_A1に入力する動画像の供給源として、動画像を撮像
するカメラPROD_A4、動画像を記録した記録媒体PROD_A5、動画像を外部から入力するための入力端子PROD_A6、および、画像を生成または加工する画像処理部A7を更に備えてい
てもよい。図8の(a)においては、これら全てを送信装置PROD_Aが備えた構成を例示し
ているが、一部を省略しても構わない。
するカメラPROD_A4、動画像を記録した記録媒体PROD_A5、動画像を外部から入力するための入力端子PROD_A6、および、画像を生成または加工する画像処理部A7を更に備えてい
てもよい。図8の(a)においては、これら全てを送信装置PROD_Aが備えた構成を例示し
ているが、一部を省略しても構わない。
なお、記録媒体PROD_A5は、符号化されていない動画像を記録したものであってもよい
し、伝送用の符号化方式とは異なる記録用の符号化方式で符号化された動画像を記録したものであってもよい。後者の場合、記録媒体PROD_A5と符号化部PROD_A1との間に、記録媒体PROD_A5から読み出した符号化データを記録用の符号化方式に従って復号する復号部(
不図示)を介在させるとよい。
し、伝送用の符号化方式とは異なる記録用の符号化方式で符号化された動画像を記録したものであってもよい。後者の場合、記録媒体PROD_A5と符号化部PROD_A1との間に、記録媒体PROD_A5から読み出した符号化データを記録用の符号化方式に従って復号する復号部(
不図示)を介在させるとよい。
図8の(b)は、画像復号装置31を搭載した受信装置PROD_Bの構成を示したブロック図である。図8の(b)に示すように、受信装置PROD_Bは、変調信号を受信する受信部PROD_B1と、受信部PROD_B1が受信した変調信号を復調することによって符号化データを得る復調部PROD_B2と、復調部PROD_B2が得た符号化データを復号することによって動画像を得る復号部PROD_B3と、を備えている。前述した画像復号装置31は、この復号部PROD_B3として利用される。
受信装置PROD_Bは、復号部PROD_B3が出力する動画像の供給先として、動画像を表示す
るディスプレイPROD_B4、動画像を記録するための記録媒体PROD_B5、および、動画像を外部に出力するための出力端子PROD_B6を更に備えていてもよい。図8の(b)においては
、これら全てを受信装置PROD_Bが備えた構成を例示しているが、一部を省略しても構わない。
るディスプレイPROD_B4、動画像を記録するための記録媒体PROD_B5、および、動画像を外部に出力するための出力端子PROD_B6を更に備えていてもよい。図8の(b)においては
、これら全てを受信装置PROD_Bが備えた構成を例示しているが、一部を省略しても構わない。
なお、記録媒体PROD_B5は、符号化されていない動画像を記録するためのものであって
もよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化されたものであってもよい。後者の場合、復号部PROD_B3と記録媒体PROD_B5との間に、復号部PROD_B3から
取得した動画像を記録用の符号化方式に従って符号化する符号化部(不図示)を介在させるとよい。
もよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化されたものであってもよい。後者の場合、復号部PROD_B3と記録媒体PROD_B5との間に、復号部PROD_B3から
取得した動画像を記録用の符号化方式に従って符号化する符号化部(不図示)を介在させるとよい。
なお、変調信号を伝送する伝送媒体は、無線であってもよいし、有線であってもよい。また、変調信号を伝送する伝送態様は、放送(ここでは、送信先が予め特定されていない送信態様を指す)であってもよいし、通信(ここでは、送信先が予め特定されている送信態様を指す)であってもよい。すなわち、変調信号の伝送は、無線放送、有線放送、無線通信、および有線通信の何れによって実現してもよい。
例えば、地上デジタル放送の放送局(放送設備など)/受信局(テレビジョン受像機など)は、変調信号を無線放送で送受信する送信装置PROD_A/受信装置PROD_Bの一例である。また、ケーブルテレビ放送の放送局(放送設備など)/受信局(テレビジョン受像機など)は、変調信号を有線放送で送受信する送信装置PROD_A/受信装置PROD_Bの一例である。
また、インターネットを用いたVOD(Video On Demand)サービスや動画共有サービスなどのサーバ(ワークステーションなど)/クライアント(テレビジョン受像機、パーソナルコンピュータ、スマートフォンなど)は、変調信号を通信で送受信する送信装置PROD_A/受信装置PROD_Bの一例である(通常、LANにおいては伝送媒体として無線または有線の何れかが用いられ、WANにおいては伝送媒体として有線が用いられる)。ここで、パーソナルコンピュータには、デスクトップ型PC、ラップトップ型PC、およびタブレット型PCが含まれる。また、スマートフォンには、多機能携帯電話端末も含まれる。
なお、動画共有サービスのクライアントは、サーバからダウンロードした符号化データを復号してディスプレイに表示する機能に加え、カメラで撮像した動画像を符号化してサーバにアップロードする機能を有している。すなわち、動画共有サービスのクライアント
は、送信装置PROD_Aおよび受信装置PROD_Bの双方として機能する。
は、送信装置PROD_Aおよび受信装置PROD_Bの双方として機能する。
次に、前述した画像符号化装置11および画像復号装置31を、動画像の記録および再生に利用できることを、図9を参照して説明する。
図9の(a)は、前述した画像符号化装置11を搭載した記録装置PROD_Cの構成を示したブロック図である。図9の(a)に示すように、記録装置PROD_Cは、動画像を符号化することによって符号化データを得る符号化部PROD_C1と、符号化部PROD_C1が得た符号化データを記録媒体PROD_Mに書き込む書込部PROD_C2と、を備えている。前述した画像符号化
装置11は、この符号化部PROD_C1として利用される。
装置11は、この符号化部PROD_C1として利用される。
なお、記録媒体PROD_Mは、(1)HDD(Hard Disk Drive)やSSD(Solid State Drive)などのように、記録装置PROD_Cに内蔵されるタイプのものであってもよいし、(2)SDメモリカードやUSB(Universal Serial Bus)フラッシュメモリなどのように、記録装置PROD_Cに接続されるタイプのものであってもよいし、(3)DVD(Digital Versatile Disc)やBD(Blu-ray Disc:登録商標)などのように、記録装置PROD_Cに内蔵されたドライブ装置
(不図示)に装填されるものであってもよい。
(不図示)に装填されるものであってもよい。
また、記録装置PROD_Cは、符号化部PROD_C1に入力する動画像の供給源として、動画像
を撮像するカメラPROD_C3、動画像を外部から入力するための入力端子PROD_C4、動画像を受信するための受信部PROD_C5、および、画像を生成または加工する画像処理部PROD_C6を更に備えていてもよい。図9の(a)においては、これら全てを記録装置PROD_Cが備えた構成を例示しているが、一部を省略しても構わない。
を撮像するカメラPROD_C3、動画像を外部から入力するための入力端子PROD_C4、動画像を受信するための受信部PROD_C5、および、画像を生成または加工する画像処理部PROD_C6を更に備えていてもよい。図9の(a)においては、これら全てを記録装置PROD_Cが備えた構成を例示しているが、一部を省略しても構わない。
なお、受信部PROD_C5は、符号化されていない動画像を受信するものであってもよいし
、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを受信するものであってもよい。後者の場合、受信部PROD_C5と符号化部PROD_C1との間に、伝送用の符号化方式で符号化された符号化データを復号する伝送用復号部(不図示)を介在させるとよい。
、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを受信するものであってもよい。後者の場合、受信部PROD_C5と符号化部PROD_C1との間に、伝送用の符号化方式で符号化された符号化データを復号する伝送用復号部(不図示)を介在させるとよい。
このような記録装置PROD_Cとしては、例えば、DVDレコーダ、BDレコーダ、HDD(Hard Disk Drive)レコーダなどが挙げられる(この場合、入力端子PROD_C4または受信部PROD_C5が動画像の主な供給源となる)。また、カムコーダ(この場合、カメラPROD_C3が動画像の主な供給源となる)、パーソナルコンピュータ(この場合、受信部PROD_C5または画像
処理部C6が動画像の主な供給源となる)、スマートフォン(この場合、カメラPROD_C3
または受信部PROD_C5が動画像の主な供給源となる)なども、このような記録装置PROD_C
の一例である。
処理部C6が動画像の主な供給源となる)、スマートフォン(この場合、カメラPROD_C3
または受信部PROD_C5が動画像の主な供給源となる)なども、このような記録装置PROD_C
の一例である。
図9の(b)は、前述した画像復号装置31を搭載した再生装置PROD_Dの構成を示したブロック図である。図9の(b)に示すように、再生装置PROD_Dは、記録媒体PROD_Mに書き込まれた符号化データを読み出す読出部PROD_D1と、読出部PROD_D1が読み出した符号化データを復号することによって動画像を得る復号部PROD_D2と、を備えている。前述した
画像復号装置31は、この復号部PROD_D2として利用される。
画像復号装置31は、この復号部PROD_D2として利用される。
なお、記録媒体PROD_Mは、(1)HDDやSSDなどのように、再生装置PROD_Dに内蔵されるタイプのものであってもよいし、(2)SDメモリカードやUSBフラッシュメモリなどのよ
うに、再生装置PROD_Dに接続されるタイプのものであってもよいし、(3)DVDやBDなど
のように、再生装置PROD_Dに内蔵されたドライブ装置(不図示)に装填されるものであってもよい。
うに、再生装置PROD_Dに接続されるタイプのものであってもよいし、(3)DVDやBDなど
のように、再生装置PROD_Dに内蔵されたドライブ装置(不図示)に装填されるものであってもよい。
また、再生装置PROD_Dは、復号部PROD_D2が出力する動画像の供給先として、動画像を
表示するディスプレイPROD_D3、動画像を外部に出力するための出力端子PROD_D4、および、動画像を送信する送信部PROD_D5を更に備えていてもよい。図9の(b)においては、
これら全てを再生装置PROD_Dが備えた構成を例示しているが、一部を省略しても構わない。
表示するディスプレイPROD_D3、動画像を外部に出力するための出力端子PROD_D4、および、動画像を送信する送信部PROD_D5を更に備えていてもよい。図9の(b)においては、
これら全てを再生装置PROD_Dが備えた構成を例示しているが、一部を省略しても構わない。
なお、送信部PROD_D5は、符号化されていない動画像を送信するものであってもよいし
、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを送信するものであってもよい。後者の場合、復号部PROD_D2と送信部PROD_D5との間に、動画像を伝送用の符号化方式で符号化する符号化部(不図示)を介在させるとよい。
、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを送信するものであってもよい。後者の場合、復号部PROD_D2と送信部PROD_D5との間に、動画像を伝送用の符号化方式で符号化する符号化部(不図示)を介在させるとよい。
このような再生装置PROD_Dとしては、例えば、DVDプレイヤ、BDプレイヤ、HDDプレイヤなどが挙げられる(この場合、テレビジョン受像機等が接続される出力端子PROD_D4が動
画像の主な供給先となる)。また、テレビジョン受像機(この場合、ディスプレイPROD_D3が動画像の主な供給先となる)、デジタルサイネージ(電子看板や電子掲示板等とも称
され、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる)、デスクトップ型PC(この場合、出力端子PROD_D4または送信部PROD_D5が動画像の主な供給先となる)、ラップトップ型またはタブレット型PC(この場合、ディスプレイPROD_D3または送
信部PROD_D5が動画像の主な供給先となる)、スマートフォン(この場合、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる)なども、このような再生装置PROD_Dの一例である。
画像の主な供給先となる)。また、テレビジョン受像機(この場合、ディスプレイPROD_D3が動画像の主な供給先となる)、デジタルサイネージ(電子看板や電子掲示板等とも称
され、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる)、デスクトップ型PC(この場合、出力端子PROD_D4または送信部PROD_D5が動画像の主な供給先となる)、ラップトップ型またはタブレット型PC(この場合、ディスプレイPROD_D3または送
信部PROD_D5が動画像の主な供給先となる)、スマートフォン(この場合、ディスプレイPROD_D3または送信部PROD_D5が動画像の主な供給先となる)なども、このような再生装置PROD_Dの一例である。
(ハードウェア的実現およびソフトウェア的実現)
また、前述した画像復号装置31および画像符号化装置11の各ブロックは、集積回路(ICチップ)上に形成された論理回路によってハードウェア的に実現してもよいし、CPU
(Central Processing Unit)を用いてソフトウェア的に実現してもよい。
また、前述した画像復号装置31および画像符号化装置11の各ブロックは、集積回路(ICチップ)上に形成された論理回路によってハードウェア的に実現してもよいし、CPU
(Central Processing Unit)を用いてソフトウェア的に実現してもよい。
後者の場合、前記各装置は、各機能を実現するプログラムの命令を実行するCPU、前記
プログラムを格納したROM(Read Only Memory)、前記プログラムを展開するRAM(Random
Access Memory)、前記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の実施形態の目的は、前述した機能を実現するソフトウェアである前記各装置の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、前記各装置に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
プログラムを格納したROM(Read Only Memory)、前記プログラムを展開するRAM(Random
Access Memory)、前記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の実施形態の目的は、前述した機能を実現するソフトウェアである前記各装置の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、前記各装置に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
前記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD-ROM(Compact Disc Read-Only Memory)/MOディスク(Magneto-Optical disc)/MD(Mini Disc)/DVD(Digital Versatile Disc)/CD-R(CD Recordable)/ブルーレイディスク(Blu-ray Disc:登録商標)等の光ディスクを含むディスク類、ICカード(メモリカードを含む)/光カード等のカード類、マスクROM/EPROM(Erasable Programmable Read-Only Memory)/EEPROM(Electrically Erasable and Programmable Read-Only Memory:登録商標)/フラッシ
ュROM等の半導体メモリ類、またはPLD(Programmable logic device)やFPGA(Field Programmable Gate Array)等の論理回路類などを用いることができる。
ュROM等の半導体メモリ類、またはPLD(Programmable logic device)やFPGA(Field Programmable Gate Array)等の論理回路類などを用いることができる。
また、前記各装置を通信ネットワークと接続可能に構成し、前記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークは、プログラムコードを伝送可能であればよく、特に限定されない。例えば、インターネット、イントラネット、
エキストラネット、LAN(Local Area Network)、ISDN(Integrated Services Digital Network)、VAN(Value-Added Network)、CATV(Community Antenna television/Cable Television)通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な媒体であればよく、特定の構成または種類のものに限定されない。例えば、IEEE(Institute of Electrical and Electronic Engineers)1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL(Asymmetric Digital Subscriber Line)回線等の有線でも、IrDA(Infrared Data Association)やリモコンのような赤外線、BlueTooth(登録商標)、IEEE802.11無線、HDR(High Data Rate)、NFC(Near Field Communication)、DLNA(Digital Living Network Alliance:登録商標)、携帯電話網、衛星回線、地上デジタル放送網等の無線でも利用可能である。なお、本発明の実施形態は、前記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
エキストラネット、LAN(Local Area Network)、ISDN(Integrated Services Digital Network)、VAN(Value-Added Network)、CATV(Community Antenna television/Cable Television)通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な媒体であればよく、特定の構成または種類のものに限定されない。例えば、IEEE(Institute of Electrical and Electronic Engineers)1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL(Asymmetric Digital Subscriber Line)回線等の有線でも、IrDA(Infrared Data Association)やリモコンのような赤外線、BlueTooth(登録商標)、IEEE802.11無線、HDR(High Data Rate)、NFC(Near Field Communication)、DLNA(Digital Living Network Alliance:登録商標)、携帯電話網、衛星回線、地上デジタル放送網等の無線でも利用可能である。なお、本発明の実施形態は、前記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
〔付記事項〕
本発明の実施形態は前述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
本発明の実施形態は前述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
本願の実施形態は、残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第1のオフセットを加算する第1の画像フィルタ装置であって、対象画素に対し2次元方向の画素値の変化パターンを示す第1のカテゴリ、および2次元方向の画素値の変化量を示す第1のクラスを設定する第1の設定部と、符号化データから復号された第1のオフセットの中から、前記第1のカテゴリと第1のクラスを参照して求めた第1のオフセットを前記対象画素値に加算する第1の加算部とを備え、前記設定部は、第1のカテゴリおよび第1のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接4画素と、対象画素に対し左上右下・左下右上方向の隣接4画素を切り替える。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
本願の実施形態は、前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、符号化データから復号された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のオフセットの加算を行わず、第1の加算部で第1のオフセットを加算しなかった画素に対して第2のオフセットを加算する。これにより、2次元方向の画素値の変化からはオフセットの加算が不要でも、1次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
本願の実施形態は、前記第1のフィルタ装置の入力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、符号化データから復号された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対
象画素値に加算する第2の加算部とを備え、第1のフィルタ装置の第1の加算部は第2の加算部で第2のオフセットを加算した画素に対しては、第1のオフセットを加算し、第2の加算部で第2のオフセットを加算しなかった画素に対しては第1のオフセットを加算しない。これにより、1次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに2次元方向の画素値の変化を考慮したオフセットを加算することができる。
象画素値に加算する第2の加算部とを備え、第1のフィルタ装置の第1の加算部は第2の加算部で第2のオフセットを加算した画素に対しては、第1のオフセットを加算し、第2の加算部で第2のオフセットを加算しなかった画素に対しては第1のオフセットを加算しない。これにより、1次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに2次元方向の画素値の変化を考慮したオフセットを加算することができる。
本願の実施形態は、前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリを用いる第1のタイプと、対象画素値の範囲を示すバンド位置を用いる第2のタイプを設定する第2の設定部と、符号化データから復号された第2のオフセットの中から、前記第2のカテゴリあるいはバンド位置を参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のタイプを用いるオフセットの加算を行い、第1の加算部で第1のオフセットを加算しなかった画素に対しては第1のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
本願の実施形態は、残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第1のオフセットを加算する第1の画像フィルタ装置であって、対象画素に対し2次元方向の画素値の変化パターンを示す第1のカテゴリ、および2次元方向の画素値の変化量を示す第1のクラスを設定する第1の設定部と、第1のオフセット算出部された第1のオフセットの中から、前記第1のカテゴリと第1のクラスを参照して求めた第1のオフセットを前記対象画素値に加算する第1の加算部とを備え、前記設定部は、第1のカテゴリおよび第1のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、前記参照画素は対象画素に対し水平・垂直方向の隣接4画素と、対象画素に対し左上右下・左下右上方向の隣接4画素を切り替えることを特徴とする第1の画像フィルタ装置を備える画像フィルタ装置。これにより、参照画素を水平・垂直あるいは斜め方向に切り替えるため、最適な参照方向を選択し、オフセット加算により画素値を補正することができる。
本願の実施形態は、前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のオフセットの加算を行わず、第1の加算部で第1のオフセットを加算しなかった画素に対して第2のオフセットを加算する。これにより、2次元方向の画素値の変化からはオフセットの加算が不要でも、1次元方向の画素値の変化からはオフセットの加算が必要な場合にも、適切にオフセットを加算することができ、かつ、オフセット加算処理を二重に実施することを回避することができる。
本願の実施形態は、前記第1のフィルタ装置の入力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、第2のオフセット算出部された第
2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第1のフィルタ装置の第1の加算部は第2の加算部で第2のオフセットを加算した画素に対しては、第1のオフセットを加算し、第2の加算部で第2のオフセットを加算しなかった画素に対しては第1のオフセットを加算しないことを特徴とする画像フィルタ装置。これにより、1次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに2次元方向の画素値の変化を考慮したオフセットを加算することができる。
2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第1のフィルタ装置の第1の加算部は第2の加算部で第2のオフセットを加算した画素に対しては、第1のオフセットを加算し、第2の加算部で第2のオフセットを加算しなかった画素に対しては第1のオフセットを加算しないことを特徴とする画像フィルタ装置。これにより、1次元方向の画素値の変化からはオフセットの加算が必要な画素に対し、さらに2次元方向の画素値の変化を考慮したオフセットを加算することができる。
本願の実施形態は、前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリを用いる第1のタイプと、対象画素値の範囲を示すバンド位置を用いる第2のタイプを設定する第2の設定部と、第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリあるいはバンド位置を参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のタイプを用いるオフセットの加算を行い、第1の加算部で第1のオフセットを加算しなかった画素に対しては第1のタイプを用いるオフセットの加算を行う。これにより、異なる画質改善効果をもつフィルタ処理を組み合わせることで、冗長な処理を回避することができる。
本願の実施形態は、2次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理を、2つの1次元方向の画素値の変化を用いて算出したオフセットの加算によるフィルタ処理の組み合わせで表現する。2つの1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する画像フィルタは、対象画素に対し、異なる1次元方向を示す2つのクラス、クラスの示す方向の画素値の変化パターンを示す2つのカテゴリ、および対象画素値の範囲を示すバンド位置を設定する設定部と、符号化データから復号されたオフセットの中から、前記カテゴリを参照して求めた2つのオフセットを前記対象画素値に加算する加算部とを備え、加算部は前記2つのオフセットの平均を対象画素に加算する。これにより、2つの1次元方向フィルタの組み合わせで表現することで、冗長な処理を削除し、かつ、1次元方向の画素値の変化だけでは表現できなかった画素値の変化のパターンに対応することができ、より効率的なフィルタ処理を実現できる。
本願の実施形態は、1次元方向の画素値の変化を利用するフィルタ(第2のフィルタ)、および2次元方向の画素値の変化を利用するフィルタ(第1のフィルタ)の参照画素位置の情報を共有する。第1のフィルタの後で第2のフィルタを適用する場合、第1のフィルタで使用した参照画素位置を参照して第2のフィルタの参照画素位置を決定する。第2のフィルタの後で第1のフィルタを適用する場合、第2のフィルタで使用した参照画素位置を参照して第1のフィルタの参照画素位置を決定する。これにより、参照画素位置の導出処理を共通化できるため、冗長な処理を削減することができる。
本願の実施形態は、ピクチャパラメータセット、またはスライスヘッダにおいて、第1のフィルタのクラスの最大数と、正規化係数を符号化し、CTUレベルでは画素値の変化量
に関係の深いパラメータを用いてPOクラスの最大数と、正規化係数を推定する。画素値の変化量に関係の深いパラメータとして量子化幅QPやCUサイズを使用する。これにより、CTU毎に第1のフィルタのクラスの最大数と、正規化係数を符号化しなくてよいので、符号
量を削減しつつ、細かいオフセットの調整ができる。
に関係の深いパラメータを用いてPOクラスの最大数と、正規化係数を推定する。画素値の変化量に関係の深いパラメータとして量子化幅QPやCUサイズを使用する。これにより、CTU毎に第1のフィルタのクラスの最大数と、正規化係数を符号化しなくてよいので、符号
量を削減しつつ、細かいオフセットの調整ができる。
本願の実施形態は、値が小さい2回目のフィルタ処理のオフセットを1回目のフィルタ
処理のオフセットの最大値以下とする。また、1回目の処理のオフセットのバイナリゼーションは大きな入力値で符号量が大きくなりにくい符号化方法を選択し、2回目の処理のオフセットのバイナリゼーションは小さな入力値で符号量が小さくなりやすい符号化方法を選択する。これにより、2回目の処理で使用するオフセットの符号量を、1回目の処理で使用する符号量よりも削減することができる。
処理のオフセットの最大値以下とする。また、1回目の処理のオフセットのバイナリゼーションは大きな入力値で符号量が大きくなりにくい符号化方法を選択し、2回目の処理のオフセットのバイナリゼーションは小さな入力値で符号量が小さくなりやすい符号化方法を選択する。これにより、2回目の処理で使用するオフセットの符号量を、1回目の処理で使用する符号量よりも削減することができる。
本発明の実施形態は、画像データが符号化された符号化データを復号する画像復号装置、および、画像データが符号化された符号化データを生成する画像符号化装置に好適に適用することができる。また、画像符号化装置によって生成され、画像復号装置によって参照される符号化データのデータ構造に好適に適用することができる。
11 画像符号化装置
31 画像復号装置
314 SAO部
115 SAO_E部
2001 PO部
2201 PO_E部
31 画像復号装置
314 SAO部
115 SAO_E部
2001 PO部
2201 PO_E部
Claims (8)
- 残差画像と予測画像とを加算して生成された、復号画像を構成する複数の符号化単位の各画素値に第1のオフセットを加算する第1の画像フィルタ装置であって、
対象画素に対し2次元方向の画素値の変化パターンを示す第1のカテゴリ、および2次元方向の画素値の変化量を示す第1のクラスを設定する第1の設定部と、
符号化データから復号された第1のオフセットの中から、前記第1のカテゴリと第1のクラスを参照して求めた第1のオフセットを前記対象画素値に加算する第1の加算部とを備え、
前記設定部は、第1のカテゴリおよび第1のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、
前記参照画素は対象画素に対し水平・垂直方向の隣接4画素と、対象画素に対し左上右下・左下右上方向の隣接4画素を切り替えることを特徴とする第1の画像フィルタ装置を備える画像フィルタ装置。 - 請求項1において、
前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、
第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、
符号化データから復号された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、
第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のオフセットの加算を行わず、第1の加算部で第1のオフセットを加算しなかった画素に対して第2のオフセットの加算することを特徴とする画像フィルタ装置。 - 請求項1において、
前記第1のフィルタ装置の入力画像に対し、1次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、
第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、
符号化データから復号された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、
第1のフィルタ装置の第1の加算部は第2の加算部で第2のオフセットを加算した画素に対しては、第1のオフセットを加算し、第2の加算部で第2のオフセットを加算しなかった画素に対しては第1のオフセットを加算しないことを特徴とする画像フィルタ装置。 - 請求項1において、
前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、
第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリを用いる第1のタイプと、対象画素値の範囲を示すバンド位置を用いる第2のタイプを設定する第2の設定部と、
符号化データから復号された第2のオフセットの中から、前記第2のカテゴリあるいはバンド位置を参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、
第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のタイプを用いるオフセットの加算を行い、第1の加算部で第1のオフセットを加算しなかっ
た画素に対しては第1のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。 - 残差画像と予測画像とを加算して生成された、局所復号画像を構成する複数の符号化単位の各画素値に第1のオフセットを加算する第1の画像フィルタ装置であって、
対象画素に対し2次元方向の画素値の変化パターンを示す第1のカテゴリ、および2次元方向の画素値の変化量を示す第1のクラスを設定する第1の設定部と、
第1のオフセット算出部された第1のオフセットの中から、前記第1のカテゴリと第1のクラスを参照して求めた第1のオフセットを前記対象画素値に加算する第1の加算部とを備え、
前記設定部は、第1のカテゴリおよび第1のクラスを設定するために、対象画素の隣接画素を参照画素として利用し、
前記参照画素は対象画素に対し水平・垂直方向の隣接4画素と、対象画素に対し左上右下・左下右上方向の隣接4画素を切り替えることを特徴とする第1の画像フィルタ装置を備える画像フィルタ装置。 - 請求項5において、
前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、
第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、
第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、
第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のオフセットの加算を行わず、第1の加算部で第1のオフセットを加算しなかった画素に対して第2のオフセットの加算することを特徴とする画像フィルタ装置。 - 請求項5において、
前記第1のフィルタ装置の入力画像に対し、1次元方向の画素値の変化を利用して符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、
第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリ、および対象画素値の範囲を示すバンド位置を設定する第2の設定部と、
第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリを参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、
第1のフィルタ装置の第1の加算部は第2の加算部で第2のオフセットを加算した画素に対しては、第1のオフセットを加算し、第2の加算部で第2のオフセットを加算しなかった画素に対しては第1のオフセットを加算しないことを特徴とする画像フィルタ装置。 - 請求項5において、
前記第1のフィルタ装置の出力画像に対し、1次元方向の画素値の変化を利用して、符号化単位の各画素値にオフセットを加算する第2の画像フィルタ装置を備え、
第2の画像フィルタ装置は、対象画素に対し1次元方向に参照する方向を示す第2のクラス、1次元方向の画素値の変化パターンを示す第2のカテゴリを用いる第1のタイプと、対象画素値の範囲を示すバンド位置を用いる第2のタイプを設定する第2の設定部と、
第2のオフセット算出部された第2のオフセットの中から、前記第2のカテゴリあるいはバンド位置を参照して求めた第2のオフセットを前記対象画素値に加算する第2の加算部とを備え、
第2の加算部は第1の加算部で第1のオフセットを加算した画素に対しては、第2のタ
イプを用いるオフセットの加算を行い、第1の加算部で第1のオフセットを加算しなかった画素に対しては第1のタイプを用いるオフセットの加算を行うことを特徴とする画像フィルタ装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016234014A JP2020025150A (ja) | 2016-12-01 | 2016-12-01 | 画像フィルタ装置 |
PCT/JP2017/041624 WO2018101100A1 (ja) | 2016-12-01 | 2017-11-20 | 画像フィルタ装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016234014A JP2020025150A (ja) | 2016-12-01 | 2016-12-01 | 画像フィルタ装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020025150A true JP2020025150A (ja) | 2020-02-13 |
Family
ID=62242478
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016234014A Pending JP2020025150A (ja) | 2016-12-01 | 2016-12-01 | 画像フィルタ装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2020025150A (ja) |
WO (1) | WO2018101100A1 (ja) |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8660174B2 (en) * | 2010-06-15 | 2014-02-25 | Mediatek Inc. | Apparatus and method of adaptive offset for video coding |
-
2016
- 2016-12-01 JP JP2016234014A patent/JP2020025150A/ja active Pending
-
2017
- 2017-11-20 WO PCT/JP2017/041624 patent/WO2018101100A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2018101100A1 (ja) | 2018-06-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7516603B2 (ja) | 画像フィルタ装置、画像復号装置、および画像符号化装置 | |
JP7223886B2 (ja) | 画像復号方法 | |
WO2018116925A1 (ja) | イントラ予測画像生成装置、画像復号装置、および画像符号化装置 | |
US10863186B2 (en) | Image decoding apparatus and image coding apparatus | |
WO2018116802A1 (ja) | 画像復号装置、画像符号化装置、及び画像予測装置 | |
JP7213689B2 (ja) | 画像復号装置及び画像符号化装置 | |
WO2018221368A1 (ja) | 動画像復号装置、及び動画像符号化装置 | |
JP2021005741A (ja) | 画像符号化装置及び画像復号装置 | |
WO2018110203A1 (ja) | 動画像復号装置、および動画像符号化装置 | |
JP2021010046A (ja) | 画像符号化装置及び画像復号装置 | |
JP2019216294A (ja) | エントロピー復号装置、エントロピー符号化装置、画像復号装置および画像符号化装置 | |
WO2019182159A1 (ja) | 画像フィルタ装置、画像復号装置、及び画像符号化装置 | |
WO2018199002A1 (ja) | 動画像符号化装置及び動画像復号装置 | |
JP7241153B2 (ja) | 画像復号装置 | |
WO2018159526A1 (ja) | 動画像符号化装置及び動画像復号装置 | |
JP2020120141A (ja) | 動画像符号化装置及び動画像復号装置、フィルタ装置 | |
JP7073186B2 (ja) | 画像フィルタ装置 | |
WO2019230904A1 (ja) | 画像復号装置、および画像符号化装置 | |
WO2019159820A1 (ja) | 動画像符号化装置及び動画像復号装置 | |
WO2018143289A1 (ja) | 画像符号化装置及び画像復号装置 | |
WO2019131349A1 (ja) | 画像復号装置、画像符号化装置 | |
WO2018061550A1 (ja) | 画像復号装置及び画像符号化装置 | |
JP2020036101A (ja) | 画像復号装置および画像符号化装置 | |
JP2019201332A (ja) | 画像符号化装置、画像復号装置、及び画像符号化システム | |
WO2018101100A1 (ja) | 画像フィルタ装置 |