JP2023542840A - ビデオコーディングのためのフィルタ処理プロセス - Google Patents

ビデオコーディングのためのフィルタ処理プロセス Download PDF

Info

Publication number
JP2023542840A
JP2023542840A JP2023515165A JP2023515165A JP2023542840A JP 2023542840 A JP2023542840 A JP 2023542840A JP 2023515165 A JP2023515165 A JP 2023515165A JP 2023515165 A JP2023515165 A JP 2023515165A JP 2023542840 A JP2023542840 A JP 2023542840A
Authority
JP
Japan
Prior art keywords
block
filtered
samples
refined
scaling factor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023515165A
Other languages
English (en)
Inventor
マルタ・カルチェヴィッチ
ホンタオ・ワン
ジエンレ・チェン
ヴェンカタ・メヘル・サトチト・アナンド・コトラ
Original Assignee
クアルコム，インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by クアルコム，インコーポレイテッド filed Critical クアルコム，インコーポレイテッド
Publication of JP2023542840A publication Critical patent/JP2023542840A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)

Abstract

復号されたビデオデータをフィルタ処理するための例示的なデバイスは、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのブロックを復号して、復号されたブロックを形成し、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成し、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成し、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するように構成された1つまたは複数のプロセッサとを含む。1つまたは複数のプロセッサはさらに、ブロックを復号する前にブロックを符号化し得る。1つまたは複数のプロセッサは、たとえば、ブロックを含むピクチャのピクチャヘッダの中の、スケーリング係数を表すシンタックス要素の値を符号化または復号し得る。

Description

本出願は、2021年9月23日に出願された米国出願第17/448,547号、および2020年9月29日に出願された米国仮特許出願第63/085,094号の優先権を主張し、これらの出願の各々の内容全体は、参照により本明細書に組み込まれる。2021年9月23日に出願された米国出願第17/448,547号は、2020年9月29日に出願された米国仮出願第63/085,094号の利益を主張する。
本開示は、ビデオ符号化およびビデオ復号に関する。
デジタルビデオ能力は、デジタルテレビジョン、デジタルダイレクトブロードキャストシステム、ワイヤレスブロードキャストシステム、携帯情報端末(PDA)、ラップトップまたはデスクトップコンピュータ、タブレットコンピュータ、電子ブックリーダー、デジタルカメラ、デジタル記録デバイス、デジタルメディアプレーヤ、ビデオゲーミングデバイス、ビデオゲームコンソール、セルラーまたは衛星ラジオ電話、いわゆる「スマートフォン」、ビデオ遠隔会議デバイス、ビデオストリーミングデバイスなどを含む、広範囲にわたるデバイスに組み込まれ得る。デジタルビデオデバイスは、MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4、Part 10、アドバンストビデオコーディング(AVC)、ITU-T H.265/高効率ビデオコーディング(HEVC)によって定義された規格、およびそのような規格の拡張に記載されている技法などの、ビデオコーディング技法を実装する。ビデオデバイスは、そのようなビデオコーディング技法を実装することによって、デジタルビデオ情報をより効率的に送信、受信、符号化、復号、および/または記憶し得る。
ビデオコーディング技法は、ビデオシーケンスに固有の冗長性を低減または除去するために、空間(イントラピクチャ)予測および/または時間(インターピクチャ)予測を含む。ブロックベースのビデオコーディングの場合、ビデオスライス(たとえば、ビデオピクチャまたはビデオピクチャの一部分)は、ビデオブロックに区分されてもよく、ビデオブロックは、コーディングツリーユニット(CTU)、コーディングユニット(CU)および/またはコーディングノードと呼ばれることもある。ピクチャのイントラコーディングされた(I)スライス中のビデオブロックは、同じピクチャ中の隣接ブロック中の参照サンプルに対する空間予測を使用して符号化される。ピクチャのインターコーディングされた(PまたはB)スライス中のビデオブロックは、同じピクチャ中の隣接ブロック中の参照サンプルに対する空間予測または他の参照ピクチャ中の参照サンプルに対する時間予測を使用し得る。ピクチャはフレームと呼ばれることがあり、参照ピクチャは参照フレームと呼ばれることがある。
一般に、本開示は、ビデオデータをフィルタ処理するための技法について説明する。具体的には、本開示は、ひずんだピクチャに適用されるフィルタ処理プロセスのための技法について説明する。本開示のフィルタ処理プロセスは、ニューラルネットワーク技術に基づくことができ、多用途ビデオコーディング(VVC)規格の拡張、次世代のビデオコーディング規格、および/または任意の他のビデオコーデックなどの、アドバンストビデオコーデックのコンテキストで使用され得る。
一例では、復号されたビデオデータをフィルタ処理する方法は、ビデオデータのブロックを復号して、復号されたブロックを形成するステップと、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するステップと、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップと、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップとを含む。
別の例では、復号されたビデオデータをフィルタ処理するためのデバイスは、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのブロックを復号して、復号されたブロックを形成し、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成し、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成し、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するように構成された1つまたは複数のプロセッサとを含む。
別の例では、コンピュータ可読記憶媒体は命令を記憶しており、命令は、実行されると、プロセッサに、ビデオデータのブロックを復号して、復号されたブロックを形成させ、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成させ、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成させ、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる。
別の例では、復号されたビデオデータをフィルタ処理するためのデバイスは、ビデオデータのブロックを復号して、復号されたブロックを形成するための手段と、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するための手段と、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するための手段と、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するための手段とを含む。
1つまたは複数の例の詳細が、添付の図面および以下の説明に記載される。他の特徴、目的、および利点は、説明、図面、および特許請求の範囲から明らかになるであろう。
本開示の技法を実行し得る例示的なビデオ符号化および復号システムを示すブロック図である。 例示的なハイブリッドビデオコーディングフレームワークを示すブロック図である。 16に等しいピクチャグループ(GOP)サイズを有する階層予測構造を示す概念図である。 4つのレイヤを有する例示的な畳み込みニューラルネットワークベースのフィルタを示すブロック図である。 例示的な4分木2分木(QTBT)構造を示す概念図である。 対応するコーディングツリーユニット(CTU)を示す概念図である。 本開示の技法を実行し得る例示的なビデオエンコーダを示すブロック図である。 本開示の技法を実行し得る例示的なビデオデコーダを示すブロック図である。 本開示の技法による、現在のブロックを符号化するための例示的な方法を示すフローチャートである。 本開示の技法による、現在のブロックを復号するための例示的な方法を示すフローチャートである。 本開示の技法による、ビデオデータを符号化するためのおよび復号されたビデオデータをフィルタ処理するための例示的な方法を示すフローチャートである。 本開示の技法による、復号されたビデオデータをフィルタ処理するための例示的な方法を示すフローチャートである。
一般に、本開示は、復号されたビデオデータをフィルタ処理することに関連する技法について説明する。一般に、ビデオデコーダは、たとえば、インター予測/イントラ予測を使用して予測ブロックを生成し、次いで、予測ブロックを復号された残差ブロックと合成して、ビデオデータのブロックを復号し得る。ビデオエンコーダは、符号化プロセスによってもたらされる任意のひずみが予測符号化を実行するときにビデオエンコーダにおいても複製されるように、ビデオデータのブロックを符号化し、次いで、デコーダと実質的に同様の方法でブロックを復号し得る。
さらに、ビデオエンコーダおよびビデオデコーダは、ビデオデータの復号されたブロックをフィルタ処理するように構成され得る。たとえば、ビデオエンコーダおよびビデオデコーダは、ビデオデータのフィルタ処理され復号されたブロックが後続の予測コーディング(符号化または復号)を実行するときに参照用に使用されるように、同じ方法で「インループ」フィルタ処理を実行し得る。そのようなフィルタは、たとえば、適応ループフィルタ(ALF)、ニューラルネットワーク(NN)ベースのフィルタなどを含み得る。
事前定義されたフィルタは一般に、データベース中のビデオおよび画像データの大きいセットに対して構成またはトレーニングされる。この構成プロセスは一般的なビデオデータに対する最適化されたフィルタをもたらし得るが、フィルタの出力が改善され得るビデオデータの特定のケースがあり得る。本開示は、復号されたビデオデータのフィルタ処理を改善するために使用され得る技法について説明する。
一般に、本開示の技法は、ビデオデータを復号し、フィルタを復号されたビデオデータに適用し、次いで、スケーリング係数をフィルタ処理され復号されたビデオデータに適用することを含む。スケーリング係数は、フィルタ処理の結果を改善し得る。たとえば、ビデオエンコーダは、たとえば、レートひずみ最適化(RDO)プロセスを使用して、スケーリング係数を決定し得る。ビデオエンコーダは、ブロックレベル(たとえば、コーディングツリーユニット(CTU))などにおける、ビデオデータのスライス、ビデオデータのピクチャ、ビデオデータのピクチャのシーケンスに対するスケーリング係数を決定し得る。したがって、ビデオエンコーダは、スケーリング係数を表すデータを符号化し得る。ビデオエンコーダはさらに、本開示の技法によるフィルタ処理精錬を実行するかどうかを示すデータを符号化し得る。次いで、ビデオエンコーダは、スケーリング係数をフィルタ処理され復号されたビデオデータに適用し、得られた精錬されフィルタ処理され復号されたビデオデータを復号ピクチャバッファ(DPB)に記憶し得る。
ビデオデコーダは、同様に、フィルタ処理精錬を実行するかどうかを示すデータを受信し得る。ビデオデコーダがフィルタ処理精錬を実行すべきであることをデータが示すとき、ビデオデコーダは、たとえば、スライスヘッダ、適応パラメータセット(APS)、ピクチャヘッダ、ピクチャパラメータセット(PPS)、ブロックヘッダ(たとえば、CTUヘッダ)などの中の、スケーリング係数を表すデータを復号し得る。次いで、ビデオデコーダは、スケーリング係数をフィルタ処理され復号されたビデオデータに適用し、得られた精錬されフィルタ処理され復号されたビデオデータをDPBに記憶し得る。ビデオデコーダはまた、DPBからの精錬されフィルタ処理され復号されたビデオデータを、表示のための出力復号ビデオデータとして出力し得る。
このように、フィルタ処理されたデータは、スケーリング係数を使用して改善され得る。したがって、精錬されフィルタ処理されたデータは、ビデオエンコーダによって最初に受信された未加工ビデオデータをより正確に反映し得る。したがって、精錬されフィルタ処理されたデータは、後続のビデオデータの予測を改善し、それによって、符号化されたビデオビットストリームに関連付けられたビットレートを低減することができる。さらに、精錬されフィルタ処理されたデータは、ひずみを低減しており、それによって、表示されたビデオデータを見るユーザをより視覚的に喜ばせることができる。
図1は、本開示の技法を実行し得る例示的なビデオ符号化および復号システム100を示すブロック図である。本開示の技法は、一般に、ビデオデータをコーディング(符号化および/または復号)することを対象とする。一般に、ビデオデータは、ビデオを処理するための任意のデータを含む。したがって、ビデオデータは、未加工の符号化されていないビデオ、符号化されたビデオ、復号された(たとえば、再構成された)ビデオ、およびシグナリングデータなどのビデオメタデータを含み得る。
図1に示すように、システム100は、この例では、宛先デバイス116によって復号および表示されるべき、符号化されたビデオデータを提供するソースデバイス102を含む。具体的には、ソースデバイス102は、コンピュータ可読媒体110を介して宛先デバイス116にビデオデータを提供する。ソースデバイス102および宛先デバイス116は、デスクトップコンピュータ、ノートブック(すなわち、ラップトップ)コンピュータ、モバイルデバイス、タブレットコンピュータ、セットトップボックス、スマートフォンなどの電話ハンドセット、テレビジョン、カメラ、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲーミングコンソール、ビデオストリーミングデバイス、ブロードキャスト受信機デバイスなどを含む、広範囲にわたるデバイスのいずれかを備えてもよい。場合によっては、ソースデバイス102および宛先デバイス116は、ワイヤレス通信用に装備されることがあり、したがって、ワイヤレス通信デバイスと呼ばれることがある。
図1の例では、ソースデバイス102は、ビデオソース104、メモリ106、ビデオエンコーダ200、および出力インターフェース108を含む。宛先デバイス116は、入力インターフェース122、ビデオデコーダ300、メモリ120、およびディスプレイデバイス118を含む。本開示によれば、ソースデバイス102のビデオエンコーダ200および宛先デバイス116のビデオデコーダ300は、ビデオデータをフィルタ処理するための技法を適用するように構成され得る。したがって、ソースデバイス102はビデオ符号化デバイスの一例を表し、宛先デバイス116はビデオ復号デバイスの一例を表す。他の例では、ソースデバイスおよび宛先デバイスは、他の構成要素または構成を含み得る。たとえば、ソースデバイス102は、外部カメラなどの外部ビデオソースからビデオデータを受信し得る。同様に、宛先デバイス116は、一体型ディスプレイデバイスを含むのではなく、外部ディスプレイデバイスとインターフェースし得る。
図1に示すようなシステム100は一例にすぎない。一般に、任意のデジタルビデオ符号化および/または復号デバイスは、ビデオデータをフィルタ処理するための技法を実行し得る。ソースデバイス102および宛先デバイス116は、ソースデバイス102が宛先デバイス116に送信するためのコーディングされたビデオデータを生成するようなコーディングデバイスの例にすぎない。本開示は、データのコーディング(符号化および/または復号)を実行するデバイスを「コーディング」デバイスと呼ぶ。したがって、ビデオエンコーダ200およびビデオデコーダ300は、コーディングデバイス、具体的には、それぞれ、ビデオエンコーダおよびビデオデコーダの例を表す。いくつかの例では、ソースデバイス102および宛先デバイス116は、ソースデバイス102および宛先デバイス116の各々がビデオ符号化および復号構成要素を含むように実質的に対称的な方法で動作し得る。したがって、システム100は、たとえば、ビデオストリーミング、ビデオ再生、ビデオブロードキャスティング、またはビデオテレフォニーのための、ソースデバイス102と宛先デバイス116との間の一方向または双方向のビデオ送信をサポートし得る。
一般に、ビデオソース104は、ビデオデータ(すなわち、未加工の符号化されていないビデオデータ)のソースを表し、ビデオデータの連続した一連のピクチャ(「フレーム」とも呼ばれる)をビデオエンコーダ200に提供し、ビデオエンコーダ200は、ピクチャのためのデータを符号化する。ソースデバイス102のビデオソース104は、ビデオカメラ、以前にキャプチャされた未加工ビデオを含むビデオアーカイブ、および/またはビデオコンテンツプロバイダからビデオを受信するためのビデオフィードインターフェースなどの、ビデオキャプチャデバイスを含み得る。さらなる代替として、ビデオソース104は、ソースビデオとしてのコンピュータグラフィックスベースのデータ、またはライブビデオとアーカイブされたビデオとコンピュータ生成されたビデオとの組合せを生成し得る。各場合において、ビデオエンコーダ200は、キャプチャされた、事前にキャプチャされた、またはコンピュータ生成されたビデオデータを符号化する。ビデオエンコーダ200は、受信された順序(「表示順序」と呼ばれることがある)からコーディング用のコーディング順序にピクチャを並べ替え得る。ビデオエンコーダ200は、符号化されたビデオデータを含むビットストリームを生成し得る。次いで、ソースデバイス102は、たとえば、宛先デバイス116の入力インターフェース122による受信および/または取出しのために、符号化されたビデオデータを出力インターフェース108を介してコンピュータ可読媒体110上に出力し得る。
ソースデバイス102のメモリ106および宛先デバイス116のメモリ120は、汎用メモリを表す。いくつかの例では、メモリ106、120は、未加工ビデオデータ、たとえば、ビデオソース104からの未加工ビデオと、ビデオデコーダ300からの未加工の復号されたビデオデータとを記憶し得る。追加または代替として、メモリ106、120は、たとえば、それぞれ、ビデオエンコーダ200およびビデオデコーダ300によって実行可能なソフトウェア命令を記憶し得る。メモリ106およびメモリ120は、この例ではビデオエンコーダ200およびビデオデコーダ300とは別々に示されているが、ビデオエンコーダ200およびビデオデコーダ300は、機能的に同様のまたは等価な目的で内部メモリも含み得ることを理解されたい。さらに、メモリ106、120は、符号化されたビデオデータ、たとえば、ビデオエンコーダ200からの出力およびビデオデコーダ300への入力を記憶し得る。いくつかの例では、メモリ106、120の一部は、たとえば、未加工の、復号された、および/または符号化されたビデオデータを記憶するための、1つまたは複数のビデオバッファとして割り振られ得る。
コンピュータ可読媒体110は、符号化されたビデオデータをソースデバイス102から宛先デバイス116にトランスポートすることが可能な任意のタイプの媒体またはデバイスを表し得る。一例では、コンピュータ可読媒体110は、たとえば、無線周波数ネットワークまたはコンピュータベースのネットワークを介して、ソースデバイス102が符号化されたビデオデータを宛先デバイス116にリアルタイムで直接送信することを可能にする通信媒体を表す。ワイヤレス通信プロトコルなどの通信規格に従って、出力インターフェース108が符号化されたビデオデータを含む送信信号を変調し得、入力インターフェース122が受信された送信信号を復調し得る。通信媒体は、無線周波数(RF)スペクトルまたは1つもしくは複数の物理伝送線路などの、任意のワイヤレスまたはワイヤード通信媒体を備え得る。通信媒体は、ローカルエリアネットワーク、ワイドエリアネットワーク、またはインターネットなどのグローバルネットワークなどの、パケットベースネットワークの一部を形成し得る。通信媒体は、ルータ、スイッチ、基地局、またはソースデバイス102から宛先デバイス116への通信を容易にするために有用であり得る任意の他の機器を含み得る。
いくつかの例では、ソースデバイス102は、符号化されたデータを出力インターフェース108から記憶デバイス112に出力し得る。同様に、宛先デバイス116は、入力インターフェース122を介して、記憶デバイス112からの符号化されたデータにアクセスし得る。記憶デバイス112は、ハードドライブ、ブルーレイディスク、DVD、CD-ROM、フラッシュメモリ、揮発性もしくは不揮発性メモリ、または符号化されたビデオデータを記憶するための任意の他の好適なデジタル記憶媒体などの、様々な分散されたまたはローカルでアクセスされるデータ記憶媒体のいずれかを含み得る。
いくつかの例では、ソースデバイス102は、符号化されたビデオデータを、ソースデバイス102によって生成された符号化されたビデオデータを記憶し得るファイルサーバ114または別の中間記憶デバイスに出力し得る。宛先デバイス116は、ストリーミングまたはダウンロードを介して、ファイルサーバ114からの記憶されたビデオデータにアクセスし得る。
ファイルサーバ114は、符号化されたビデオデータを記憶し、その符号化されたビデオデータを宛先デバイス116に送信することが可能な任意のタイプのサーバデバイスであり得る。ファイルサーバ114は、(たとえば、ウェブサイト用の)ウェブサーバ、(ファイル転送プロトコル(FTP)または単方向トランスポートを介したファイル配信(FLUTE:File Delivery over Unidirectional Transport)プロトコルなどの)ファイル転送プロトコルサービスを提供するように構成されたサーバ、コンテンツ配信ネットワーク(CDN)デバイス、ハイパーテキスト転送プロトコル(HTTP)サーバ、マルチメディアブロードキャストマルチキャストサービス(MBMS)もしくは拡張MBMS(eMBMS)サーバ、および/またはネットワークアタッチトストレージ(NAS)デバイスを表し得る。ファイルサーバ114は、追加または代替として、動的適応ストリーミングオーバーHTTP(DASH:Dynamic Adaptive Streaming over HTTP)、HTTPライブストリーミング(HLS:HTTP Live Streaming)、リアルタイムストリーミングプロトコル(RTSP:Real Time Streaming Protocol)、HTTP動的ストリーミング(HTTP Dynamic Streaming)などの1つまたは複数のHTTPストリーミングプロトコルを実装し得る。
宛先デバイス116は、インターネット接続を含む任意の標準的なデータ接続を通じて、ファイルサーバ114からの符号化されたビデオデータにアクセスし得る。これは、ワイヤレスチャネル(たとえば、Wi-Fi接続)、ワイヤード接続(たとえば、デジタル加入者回線(DSL)、ケーブルモデムなど)、またはファイルサーバ114上に記憶された符号化されたビデオデータにアクセスするのに適した両方の組合せを含み得る。入力インターフェース122は、ファイルサーバ114からメディアデータを取り出すかもしくは受信するための上記で説明した様々なプロトコルまたはメディアデータを取り出すための他のそのようなプロトコルのうちのいずれか1つまたは複数に従って動作するように構成され得る。
出力インターフェース108および入力インターフェース122は、ワイヤレス送信機/受信機、モデム、ワイヤードネットワーキング構成要素(たとえば、イーサネットカード)、様々なIEEE802.11規格のいずれかに従って動作するワイヤレス通信構成要素、または他の物理的構成要素を表し得る。出力インターフェース108および入力インターフェース122がワイヤレス構成要素を備える例では、出力インターフェース108および入力インターフェース122は、4G、4G-LTE(ロングタームエボリューション)、LTEアドバンスト、5Gなどのセルラー通信規格に従って、符号化されたビデオデータなどのデータを転送するように構成され得る。出力インターフェース108がワイヤレス送信機を備えるいくつかの例では、出力インターフェース108および入力インターフェース122は、IEEE802.11仕様、IEEE802.15仕様(たとえば、ZigBee(商標))、Bluetooth(商標)規格などの他のワイヤレス規格に従って、符号化されたビデオデータなどのデータを転送するように構成され得る。いくつかの例では、ソースデバイス102および/または宛先デバイス116は、それぞれのシステムオンチップ(SoC)デバイスを含み得る。たとえば、ソースデバイス102は、ビデオエンコーダ200および/または出力インターフェース108に起因する機能を実行するためのSoCデバイスを含み得、宛先デバイス116は、ビデオデコーダ300および/または入力インターフェース122に起因する機能を実行するためのSoCデバイスを含み得る。
本開示の技法は、オーバージエアテレビジョンブロードキャスト、ケーブルテレビジョン送信、衛星テレビジョン送信、動的適応ストリーミングオーバーHTTP(DASH)などのインターネットストリーミングビデオ送信、データ記憶媒体上に符号化されたデジタルビデオ、データ記憶媒体上に記憶されたデジタルビデオの復号、または他の適用例などの、様々なマルチメディア適用例のいずれかをサポートするビデオコーディングに適用され得る。
宛先デバイス116の入力インターフェース122は、コンピュータ可読媒体110(たとえば、通信媒体、記憶デバイス112、ファイルサーバ114など)から、符号化されたビデオビットストリームを受信する。符号化されたビデオビットストリームは、ビデオブロックまたは他のコーディングされたユニット(たとえば、スライス、ピクチャ、ピクチャグループ、シーケンスなど)の特性および/または処理を記述する値を有するシンタックス要素などの、ビデオエンコーダ200によって定義され、ビデオデコーダ300によっても使用されるシグナリング情報を含み得る。ディスプレイデバイス118は、復号されたビデオデータの復号されたピクチャをユーザに表示する。ディスプレイデバイス118は、液晶ディスプレイ(LCD)、プラズマディスプレイ、有機発光ダイオード(OLED)ディスプレイ、または別のタイプのディスプレイデバイスなどの、様々なディスプレイデバイスのいずれかを表し得る。
図1には示されていないが、いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は各々、オーディオエンコーダおよび/またはオーディオデコーダと統合されることがあり、共通のデータストリーム中のオーディオとビデオの両方を含む多重化されたストリームを処理するために、適切なMUX-DEMUXユニット、または他のハードウェアおよび/もしくはソフトウェアを含み得る。適用可能な場合、MUX-DEMUXユニットは、ITU H.223マルチプレクサプロトコル、またはユーザデータグラムプロトコル(UDP)などの他のプロトコルに準拠し得る。
ビデオエンコーダ200およびビデオデコーダ300は各々、1つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、ディスクリート論理、ソフトウェア、ハードウェア、ファームウェアまたはそれらの任意の組合せなどの、様々な好適なエンコーダおよび/またはデコーダ回路のいずれかとして実装され得る。技法が部分的にソフトウェアにおいて実装されるとき、デバイスは、好適な非一時的コンピュータ可読媒体にソフトウェア用の命令を記憶し、本開示の技法を実行するために1つまたは複数のプロセッサを使用してハードウェアにおいて命令を実行し得る。ビデオエンコーダ200およびビデオデコーダ300の各々は、1つまたは複数のエンコーダまたはデコーダに含まれることがあり、それらのいずれも、それぞれのデバイスにおいて複合エンコーダ/デコーダ(CODEC)の一部として統合されることがある。ビデオエンコーダ200および/またはビデオデコーダ300を含むデバイスは、集積回路、マイクロプロセッサ、および/またはセルラー電話などのワイヤレス通信デバイスを備え得る。
ビデオエンコーダ200およびビデオデコーダ300は、高効率ビデオコーディング(HEVC)とも呼ばれるITU-T H.265などのビデオコーディング規格、またはマルチビューおよび/もしくはスケーラブルビデオコーディング拡張などのその拡張に従って動作し得る。代替として、ビデオエンコーダ200およびビデオデコーダ300は、多用途ビデオコーディング(VVC)とも呼ばれるITU-T H.266などの、他のプロプライエタリ規格または業界規格に従って動作し得る。VVC規格の草案は、Brossらの「Versatile Video Coding (Draft 10)」、ITU-T SG 16 WP 3およびISO/IEC JTC 1/SC 29/WG 11のJoint Video Experts Team(JVET)、第18回会議:遠隔会議による、2020年6月22日～7月1日、JVET-S2001-vA(以下では「VVC」)に記載されている。しかしながら、本開示の技法は、いかなる特定のコーディング規格にも限定されない。
一般に、ビデオエンコーダ200およびビデオデコーダ300は、ピクチャのブロックベースのコーディングを実行し得る。「ブロック」という用語は、一般に、処理される(たとえば、符号化および/または復号プロセスにおいて符号化される、復号される、または他の方法で使用される)べきデータを含む構造を指す。たとえば、ブロックは、ルミナンスおよび/またはクロミナンスデータのサンプルの2次元行列を含み得る。一般に、ビデオエンコーダ200およびビデオデコーダ300は、YUV(たとえば、Y、Cb、Cr)フォーマットで表されるビデオデータをコーディングし得る。すなわち、ピクチャのサンプルのための赤、緑、および青(RGB)データをコーディングするのではなく、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分およびクロミナンス成分をコーディングし得、クロミナンス成分は、赤色相と青色相の両方のクロミナンス成分を含み得る。いくつかの例では、ビデオエンコーダ200が、符号化に先立って、受信されたRGBフォーマットされたデータをYUV表現にコンバートし、ビデオデコーダ300が、YUV表現をRGBフォーマットにコンバートする。代替として、前処理ユニットおよび後処理ユニット(図示せず)が、これらのコンバージョンを実行し得る。
本開示は、一般に、ピクチャのデータを符号化または復号するプロセスを含めるように、ピクチャのコーディング(たとえば、符号化および復号)に言及することがある。同様に、本開示は、ブロックのためのデータを符号化または復号するプロセスを含めるように、ピクチャのブロックのコーディング、たとえば、予測および/または残差コーディングに言及することがある。符号化されたビデオビットストリームは、一般に、コーディング決定(たとえば、コーディングモード)およびブロックへのピクチャの区分を表すシンタックス要素のための一連の値を含む。したがって、ピクチャまたはブロックをコーディングすることへの言及は、一般に、ピクチャまたはブロックを形成するシンタックス要素のためのコーディング値として理解されるべきである。
HEVCは、コーディングユニット(CU)、予測ユニット(PU)、および変換ユニット(TU)を含む、様々なブロックを定義する。HEVCによれば、(ビデオエンコーダ200などの)ビデオコーダは、4分木構造に従ってコーディングツリーユニット(CTU)をCUに区分する。すなわち、ビデオコーダは、CTUおよびCUを4個の等しい重複しない正方形に区分し、4分木の各ノードは、0個または4個のいずれかの子ノードを有する。子ノードがないノードは「リーフノード」と呼ばれることがあり、そのようなリーフノードのCUは、1つもしくは複数のPUおよび/または1つもしくは複数のTUを含み得る。ビデオコーダはPUおよびTUをさらに区分し得る。たとえば、HEVCでは、残差4分木(RQT)はTUの区分を表す。HEVCでは、PUはインター予測データを表し、TUは残差データを表す。イントラ予測されるCUは、イントラモード指示などのイントラ予測情報を含む。
別の例として、ビデオエンコーダ200およびビデオデコーダ300は、VVCに従って動作するように構成され得る。VVCによれば、(ビデオエンコーダ200などの)ビデオコーダは、ピクチャを複数のコーディングツリーユニット(CTU)に区分する。ビデオエンコーダ200は、4分木2分木(QTBT)構造またはマルチタイプツリー(MTT)構造などのツリー構造に従ってCTUを区分し得る。QTBT構造は、HEVCのCU、PU、およびTUの間の区別などの、複数の区分タイプの概念を排除する。QTBT構造は、2つのレベル、すなわち、4分木区分に従って区分された第1のレベルおよび2分木区分に従って区分された第2のレベルを含む。QTBT構造のルートノードは、CTUに対応する。2分木のリーフノードは、コーディングユニット(CU)に対応する。
MTT区分構造では、ブロックは、4分木(QT)区分、2分木(BT)区分、および1つまたは複数のタイプの3分木(TT:triple tree)(3分木(TT:ternary tree)とも呼ばれる)区分を使用して区分され得る。3分木(triple tree)または3分木(ternary tree)区分は、ブロックが3つのサブブロックに分割される区分である。いくつかの例では、3分木(triple tree)または3分木(ternary tree)区分は、中心を通って元のブロックを分割することなく、ブロックを3つのサブブロックに分割する。MTTにおける区分タイプ(たとえば、QT、BT、およびTT)は対称または非対称であり得る。
いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分およびクロミナンス成分の各々を表すために単一のQTBTまたはMTT構造を使用し得るが、他の例では、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分のための1つのQTBT/MTT構造および両方のクロミナンス成分のための別のQTBT/MTT構造(またはそれぞれのクロミナンス成分のための2つのQTBT/MTT構造)などの、2つ以上のQTBTまたはMTT構造を使用し得る。
ビデオエンコーダ200およびビデオデコーダ300は、HEVCごとの4分木区分、QTBT区分、MTT区分、または他の区分構造を使用するように構成され得る。説明のために、本開示の技法の記載はQTBT区分に関して提示される。しかしながら、本開示の技法はまた、4分木区分、または他のタイプの区分も使用するように構成されたビデオコーダに適用され得ることを理解されたい。
いくつかの例では、CTUは、ルーマサンプルのコーディングツリーブロック(CTB)、3つのサンプルアレイを有するピクチャのクロマサンプルの2つの対応するCTB、またはモノクロームピクチャもしくはサンプルをコーディングするために使用される3つの別個の色平面およびシンタックス構造を使用してコーディングされたピクチャのサンプルのCTBを含む。CTBは、CTBへの成分の分割が区分であるような、何らかの値のNに対するサンプルのN×Nブロックであり得る。成分は、1つのアレイまたは4:2:0、4:2:2、もしくは4:4:4カラーフォーマットでピクチャを作成する3つのアレイ(ルーマおよび2つのクロマ)のうちの1つからの単一のサンプル、あるいはアレイまたはモノクロームフォーマットでピクチャを作成するアレイの単一のサンプルである。いくつかの例では、コーディングブロックは、コーディングブロックへのCTBの分割が区分であるような、何らかの値のMおよびNに対するサンプルのM×Nブロックである。
ブロック(たとえば、CTUまたはCU)は、ピクチャにおいて様々な方法でグループ化され得る。一例として、ブリックは、ピクチャにおける特定のタイル内のCTU行の長方形領域を指すことがある。タイルは、ピクチャにおける特定のタイル列および特定のタイル行内のCTUの長方形領域であり得る。タイル列は、ピクチャの高さに等しい高さおよび(たとえば、ピクチャパラメータセットなどにおいて)シンタックス要素によって指定される幅を有する、CTUの長方形領域を指す。タイル行は、(たとえば、ピクチャパラメータセットなどにおいて)シンタックス要素によって指定される高さおよびピクチャの幅に等しい幅を有する、CTUの長方形領域を指す。
いくつかの例では、タイルは複数のブリックに区分されてもよく、ブリックの各々はタイル内の1つまたは複数のCTU行を含んでもよい。複数のブリックに区分されないタイルも、ブリックと呼ばれることがある。しかしながら、タイルの真のサブセットであるブリックは、タイルと呼ばれないことがある。
ピクチャの中のブリックは、スライスにおいても並べられ得る。スライスは、単一のネットワークアブストラクションレイヤ(NAL)ユニットに独占的に含まれ得る、ピクチャの整数個のブリックであり得る。いくつかの例では、スライスは、ある数の完全なタイル、または、1つのタイルの完全なブリックの連続的なシーケンスのみ、のいずれかを含む。
本開示は、垂直次元および水平次元に換算して(CUまたは他のビデオブロックなどの)ブロックのサンプル次元を指すために、互換的に「N×N」および「NかけるN(N by N)」、たとえば、16×16サンプルまたは16かける16(16 by 16)サンプルを使用し得る。一般に、16×16 CUは、垂直方向に16個のサンプル(y=16)および水平方向に16個のサンプル(x=16)を有する。同様に、N×N CUは、一般に、垂直方向にN個のサンプルおよび水平方向にN個のサンプルを有し、ここで、Nは負ではない整数値を表す。CUの中のサンプルは、行および列において並べられ得る。さらに、CUは、必ずしも水平方向に垂直方向と同じ数のサンプルを有する必要があるとは限らない。たとえば、CUはN×Mサンプルを備えてもよく、ここで、Mは必ずしもNに等しいとは限らない。
ビデオエンコーダ200は、予測および/または残差情報、ならびに他の情報を表すCUのためのビデオデータを符号化する。予測情報は、CUのための予測ブロックを形成するためにCUがどのように予測されることになるかを示す。残差情報は、一般に、符号化に先立つCUのサンプルと予測ブロックのサンプルとの間のサンプルごとの差分を表す。
CUを予測するために、ビデオエンコーダ200は、一般に、インター予測またはイントラ予測を通じてCUのための予測ブロックを形成し得る。インター予測は、一般に、以前にコーディングされたピクチャのデータからCUを予測することを指すが、イントラ予測は、一般に、同じピクチャの以前にコーディングされたデータからCUを予測することを指す。インター予測を実行するために、ビデオエンコーダ200は、1つまたは複数の動きベクトルを使用して予測ブロックを生成し得る。ビデオエンコーダ200は、一般に、たとえば、CUと参照ブロックとの間の差分に関してCUと厳密に一致する参照ブロックを識別するために、動き探索を実行し得る。ビデオエンコーダ200は、参照ブロックが現在のCUと厳密に一致するかどうかを決定するために、絶対差分和(SAD)、2乗差分和(SSD)、平均絶対差(MAD)、平均2乗差(MSD)、または他のそのような差分計算を使用して差分メトリックを計算し得る。いくつかの例では、ビデオエンコーダ200は、単方向予測または双方向予測を使用して現在のCUを予測し得る。
VVCのいくつかの例は、インター予測モードと見なされ得るアフィン動き補償モードも提供する。アフィン動き補償モードでは、ビデオエンコーダ200は、ズームインもしくはズームアウト、回転、遠近運動、または他の不規則な運動タイプなどの、非並進運動を表す2つ以上の動きベクトルを決定し得る。
イントラ予測を実行するために、ビデオエンコーダ200は、イントラ予測モードを選択して予測ブロックを生成し得る。VVCのいくつかの例は、様々な方向モードを含む67個のイントラ予測モード、ならびに平面モードおよびDCモードを提供する。一般に、ビデオエンコーダ200は、そこから現在のブロックのサンプルを予測するための現在のブロック(たとえば、CUのブロック)に対する隣接サンプルを記述するイントラ予測モードを選択する。そのようなサンプルは、一般に、ビデオエンコーダ200がラスタ走査順序で(左から右に、上から下に)CTUおよびCUをコーディングすると仮定すると、現在のブロックと同じピクチャ中の現在のブロックの上方、上方および左側、または左側にあり得る。
ビデオエンコーダ200は、現在のブロックのための予測モードを表すデータを符号化する。たとえば、インター予測モードの場合、ビデオエンコーダ200は、様々な利用可能なインター予測モードのうちのどれが使用されるか、ならびに対応するモードについての動き情報を表すデータを符号化し得る。単方向または双方向インター予測の場合、たとえば、ビデオエンコーダ200は、高度動きベクトル予測(AMVP)またはマージモードを使用して動きベクトルを符号化し得る。ビデオエンコーダ200は、アフィン動き補償モードのための動きベクトルを符号化するために類似のモードを使用し得る。
ブロックのイントラ予測またはインター予測などの予測に続いて、ビデオエンコーダ200はブロックのための残差データを計算し得る。残差ブロックなどの残差データは、ブロックと、対応する予測モードを使用して形成されたそのブロックのための予測ブロックとの間のサンプルごとの差分を表す。ビデオエンコーダ200は、サンプル領域ではなく変換領域において変換データを生成するために、1つまたは複数の変換を残差ブロックに適用し得る。たとえば、ビデオエンコーダ200は、離散コサイン変換(DCT)、整数変換、ウェーブレット変換、または概念的に類似の変換を残差ビデオデータに適用し得る。加えて、ビデオエンコーダ200は、第1の変換に続いて、モード依存型分離不可能二次変換(MDNSST:mode-dependent non-separable secondary transform)、信号依存変換、カルーネンレーベ変換(KLT:Karhunen-Loeve transform)などの二次変換を適用し得る。ビデオエンコーダ200は、1つまたは複数の変換の適用に続いて、変換係数を生成する。
上述のように、変換係数を生成するための任意の変換に続いて、ビデオエンコーダ200は、変換係数の量子化を実行し得る。量子化は一般に、変換係数を表すために使用されるデータの量をできるだけ低減するために変換係数が量子化され、さらなる圧縮を実現するプロセスを指す。量子化プロセスを実行することによって、ビデオエンコーダ200は、変換係数の一部または全部に関連付けられたビット深度を低減し得る。たとえば、ビデオエンコーダ200は、量子化の間にnビット値をmビット値に切り捨ててもよく、ここで、nはmよりも大きい。いくつかの例では、量子化を実行するために、ビデオエンコーダ200は、量子化されるべき値のビット単位の右シフトを実行してもよい。
量子化に続いて、ビデオエンコーダ200は、変換係数を走査し、量子化された変換係数を含む2次元行列から1次元ベクトルを生成し得る。走査は、より高いエネルギー(したがって、より低い周波数)の変換係数をベクトルの前方に置き、より低いエネルギー(したがって、より高い周波数)の変換係数をベクトルの後方に置くように設計され得る。いくつかの例では、ビデオエンコーダ200は、シリアル化ベクトルを生成し、次いで、ベクトルの量子化された変換係数をエントロピー符号化するために、量子化された変換係数を走査するための事前定義された走査順序を利用し得る。他の例では、ビデオエンコーダ200は適応走査を実行し得る。量子化された変換係数を走査して1次元ベクトルを形成した後、ビデオエンコーダ200は、たとえば、コンテキスト適応型バイナリ算術コーディング(CABAC)に従って、1次元ベクトルをエントロピー符号化し得る。ビデオエンコーダ200はまた、ビデオデータを復号する際にビデオデコーダ300によって使用するための符号化されたビデオデータに関連付けられたメタデータを記述するシンタックス要素のための値をエントロピー符号化し得る。
CABACを実行するために、ビデオエンコーダ200は、送信されるべきシンボルにコンテキストモデル内のコンテキストを割り当て得る。コンテキストは、たとえば、シンボルの隣接値が0値化されているか否かに関係し得る。確率決定は、シンボルに割り当てられたコンテキストに基づき得る。
ビデオエンコーダ200は、たとえば、ピクチャヘッダ、ブロックヘッダ、スライスヘッダ、または、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、もしくはビデオパラメータセット(VPS)などの他のシンタックスデータにおいて、ビデオデコーダ300へのブロックベースのシンタックスデータ、ピクチャベースのシンタックスデータ、およびシーケンスベースのシンタックスデータなどのシンタックスデータをさらに生成し得る。ビデオデコーダ300は、そのようなシンタックスデータを同様に復号して、対応するビデオデータをどのように復号するかを決定し得る。
このように、ビデオエンコーダ200は、符号化されたビデオデータ、たとえば、ブロック(たとえば、CU)へのピクチャの区分ならびにブロックについての予測および/または残差情報を記述するシンタックス要素を含むビットストリームを生成し得る。最終的に、ビデオデコーダ300は、ビットストリームを受信し、符号化されたビデオデータを復号し得る。
一般に、ビデオデコーダ300は、ビデオエンコーダ200によって実行されるプロセスとは逆のプロセスを実行して、ビットストリームの符号化されたビデオデータを復号する。たとえば、ビデオデコーダ300は、ビデオエンコーダ200のCABAC符号化プロセスとは逆であるが実質的に同様の方法で、CABACを使用してビットストリームのシンタックス要素のための値を復号し得る。シンタックス要素は、ピクチャをCTUに区分するための区分情報、およびQTBT構造などの対応する区分構造に従った各CTUの区分を定義して、CTUのCUを定義し得る。シンタックス要素は、ビデオデータのブロック(たとえば、CU)についての予測および残差情報をさらに定義し得る。
残差情報は、たとえば、量子化された変換係数によって表され得る。ビデオデコーダ300は、ブロックのための残差ブロックを再生するために、ブロックの量子化された変換係数を逆量子化し、逆変換し得る。ビデオデコーダ300は、ブロックのための予測ブロックを形成するために、シグナリングされた予測モード(イントラ予測またはインター予測)および関連する予測情報(たとえば、インター予測についての動き情報)を使用する。次いで、ビデオデコーダ300は、元のブロックを再生するために、予測ブロックおよび残差ブロックを(サンプルごとに)合成し得る。ビデオデコーダ300は、ブロックの境界に沿って視覚的アーティファクトを低減するためのデブロッキングプロセスを実行するなどの、追加の処理を実行し得る。
本開示は、一般に、シンタックス要素などの特定の情報を「シグナリング」することに言及することがある。「シグナリング」という用語は、一般に、シンタックス要素および/または符号化されたビデオデータを復号するために使用される他のデータのための値の通信を指すことがある。すなわち、ビデオエンコーダ200は、ビットストリーム中でシンタックス要素のための値をシグナリングし得る。一般に、シグナリングは、ビットストリーム中で値を生成することを指す。上述のように、ソースデバイス102は、実質的にリアルタイムで、または、宛先デバイス116によって後で取り出すためにシンタックス要素を記憶デバイス112に記憶するときに行われ得るなど、リアルタイムではなく、ビットストリームを宛先デバイス116にトランスポートし得る。
本開示の技法によれば、以下でより詳細に説明するように、ビデオエンコーダ200およびビデオデコーダ300は、ニューラルネットワークベースのフィルタ技法を含む、本開示の1つまたは複数のフィルタ技法を実行するように構成され得る。
H.261以降の大部分のビデオコーディング規格は、図2に示す、いわゆるハイブリッドビデオコーディング原理に基づいている。
図2は、例示的なハイブリッドビデオコーディングフレームワークを示すブロック図である。ハイブリッドという用語は、ビデオ信号における冗長性を低減するための2つの手段の組合せ、すなわち、予測残差の量子化を用いた予測および変換コーディングを指す。予測および変換は、非相関化によってビデオ信号における冗長性を低減するが、量子化は、変換係数表現のデータを、その精度を低減することによって、理想的には無関係な詳細のみを除去することによって減少させる。このハイブリッドビデオコーディングの設計原理は、2つの直近の規格、すなわち、HEVCおよびVVCにおいても使用される。
図2に示すように、現代のハイブリッドビデオコーダ130は一般に、ブロック区分、動き補償またはインターピクチャ予測、イントラピクチャ予測、変換、量子化、エントロピーコーディング、およびポスト/インループフィルタ処理を含む。図2の例では、ビデオコーダ130は、加算ユニット134、変換ユニット136、量子化ユニット138、エントロピーコーディングユニット140、逆量子化ユニット142、逆変換ユニット144、加算ユニット146、ループフィルタユニット148、復号ピクチャバッファ(DPB)150、イントラ予測ユニット152、インター予測ユニット154、および動き推定ユニット156を含む。
一般に、ビデオコーダ130は、ビデオデータを符号化するとき、入力ビデオデータ132を受信し得る。ブロック区分は、予測プロセスおよび変換プロセスの動作のために、ビデオデータの受信されたピクチャ(画像)をより小さいブロックに分割するために使用される。初期のビデオコーディング規格は、固定ブロックサイズ、典型的には16×16サンプルを使用した。HEVCおよびVVCなどの最近の規格は、柔軟な区分を行うためにツリーベースの区分構造を用いる。
動き推定ユニット156およびインター予測ユニット154は、たとえば、DPB150の以前に復号されたデータから、入力ビデオデータ132を予測し得る。動き補償またはインターピクチャ予測は、ビデオシーケンスのピクチャ間に存在する(したがって「インター」)冗長性を利用する。すべての現代のビデオコーデックにおいて使用されるブロックベースの動き補償によれば、予測は、1つまたは複数の以前に復号されたピクチャ、すなわち、参照ピクチャから取得される。インター予測を生成するための対応するエリアは、動きベクトルと参照ピクチャインデックスとを含む動き情報によって示される。
加算ユニット134は、入力ビデオデータ132とイントラ予測ユニット152またはインター予測ユニット134からの予測されたデータとの間の差分として残差データを計算し得る。加算ユニット134は、残差ブロックを変換ユニット136に提供し、変換ユニット136は、1つまたは複数の変換を残差ブロックに適用して、変換ブロックを生成する。量子化ユニット138は、変換ブロックを量子化して、量子化された変換係数を形成する。エントロピーコーディングユニット140は、量子化された変換係数、ならびに動き情報またはイントラ予測情報などの他のシンタックス要素をエントロピー符号化して、出力ビットストリーム158を生成する。
一方、残差ブロックを再生するために、逆量子化ユニット142は量子化された変換係数を逆量子化し、逆変換ユニット144は変換係数を逆変換する。加算ユニット146は、(サンプルごとに)残差ブロックを予測ブロックと合成して、ビデオデータの復号されたブロックを生成する。ループフィルタユニット148は、1つまたは複数のフィルタ(たとえば、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つ)を復号されたブロックに適用して、フィルタ処理され復号されたブロックを生成する。
本開示の技法によれば、ループフィルタユニット148は、フィルタ処理され復号されたブロックを精錬するようにさらに構成され得る。たとえば、ループフィルタユニット148は、スケーリング係数をフィルタ処理され復号されたブロックに適用して、精錬されフィルタ処理され復号されたブロックを形成し得る。次いで、ループフィルタユニット148は、精錬されフィルタ処理され復号されたブロックを対応する復号されたブロックに加え得る。次いで、ループフィルタユニット148は、これらの最終ブロックをDPB150に記憶し得る。DPB150のデータは、たとえば、インター予測ユニット154またはイントラ予測ユニット152によって、参照データとして使用されることがあり、出力ビデオデータ160として出力されることもある。
図3は、16に等しいピクチャグループ(GOP)サイズを有する階層予測構造170を示す概念図である。
イントラピクチャ予測は、すでにコーディングされた/復号された、空間的に隣接する(参照)サンプルからブロックについての予測を導出することによって、ピクチャ内に存在する(したがって「イントラ」)空間冗長性を活用する。方向性角度予測、DC予測、および平面(plane)または平面(planar)予測は、AVC、HEVCおよびVVCを含む、直近のビデオコーデックにおいて使用される。
いくつかの例示的なハイブリッドビデオコーディング規格は、(予測残差がインターピクチャ予測に由来するかイントラピクチャ予測に由来するかにかかわらず)ブロック変換を予測残差に適用する。H.261/262/263を含む初期の規格では、離散コサイン変換(DCT)が用いられる。HEVCおよびVVCでは、特定のビデオ信号における異なる統計値を考慮するために、DCT以外のさらなる変換カーネルが適用される。
量子化は、値を表すために必要なデータの量を減少させるために、入力値または入力値のセットの精度を低減することを目的とする。ハイブリッドビデオコーディングでは、量子化は典型的には、個々の変換された残差サンプルに、たとえば、変換係数に適用されて、整数係数レベルをもたらす。最近のビデオコーディング規格では、ステップサイズは、忠実度とビットレートとを制御するいわゆる量子化パラメータ(QP)から導出される。より大きいステップサイズはビットレートを低下させるが、品質を悪化させることもあり、その結果として、たとえば、ビデオピクチャがブロッキングアーティファクトおよびぼやけた細部を呈することがある。
コンテキスト適応型バイナリ算術コーディング(CABAC)は、その高い効率により、最近のビデオコーデック、たとえば、AVC、HEVCおよびVVCにおいて使用される。
ポスト/インループフィルタ処理は、コーディングアーティファクトを低減するために再構成されたピクチャに適用されるフィルタ処理プロセス(またはそのようなプロセスの組合せ)である。フィルタ処理プロセスの入力は一般に、(量子化誤差を含む)再構成された残差信号と予測の組合せである、再構成されたピクチャである。図2に示すように、インループフィルタ処理後の再構成されたピクチャが記憶され、後続のピクチャのインターピクチャ予測のための参照として使用される。コーディングアーティファクトは、大部分がQPによって決定される。したがって、QP情報は一般に、フィルタ処理プロセスの設計において使用される。HEVCでは、インループフィルタは、デブロッキングフィルタ処理およびサンプル適応オフセット(SAO)フィルタ処理を含む。VVC規格では、適応ループフィルタ(ALF)が第3のフィルタとして導入された。ALFのフィルタ処理プロセスは以下に示すとおりである。
R'(i,j)=R(i,j)+((Σk≠0Σl≠0)f(k,l)×K(R(i+k,j+l)-R(i,j),c(k,l))+64)≫7) (1)
ここで、R(i,j)はフィルタ処理プロセス前のサンプルであり、R'(i,j)はフィルタ処理プロセス後のサンプル値である。f(k,l)はフィルタ係数を示し、K(x,y)はクリッピング関数であり、c(k,l)はクリッピングパラメータを示す。変数kおよびlは
から
の間で異なることがあり、ここで、Lはフィルタ長を示す。クリッピング関数はK(x,y)=min(y,max(-y,x))であり、これは関数Clip3(-y,y,x)に対応する。クリッピング演算は、現在のサンプル値に対してあまりにも異なる隣接サンプル値の影響を低減することによって、ALFをより効率的にする非線形性をもたらす。VVCでは、フィルタ処理パラメータは、ビットストリームにおいてシグナリングされ得、事前定義されたフィルタセットから選択され得る。ALFフィルタ処理プロセスはまた、以下の式で示されるように要約され得る。
R'(i,j)=R(i,j)+ALF_residual_ouput(R) (2)
いくつかの例では、ハイブリッドビデオコーディングフレームワークにニューラルネットワークを埋め込むことは圧縮効率を改善することができることが示されている。ニューラルネットワークは、予測効率を改善するためにイントラ予測およびインター予測のモジュールにおいて使用されている。近年、NNベースのインループフィルタも研究トピックである。いくつかの例では、フィルタ処理プロセスはポストフィルタとして適用される。この場合、フィルタ処理プロセスは出力ピクチャのみに適用され、フィルタ処理されないピクチャは参照ピクチャとして使用される。
デブロッキングフィルタ、SAOおよびALFなどの既存のフィルタの上に、NNベースのフィルタが追加として適用され得る。NNベースのフィルタはまた、NNベースのフィルタがすべての既存のフィルタを置き換えるように設計される場合、排他的に適用され得る。
図4は、4つのレイヤを有する例示的な畳み込みニューラルネットワークベースのフィルタを示すブロック図である。図4に示すように、NNベースのフィルタ処理プロセス182は再構成されたサンプル180を入力として取り、中間出力は残差サンプルであり、残差サンプルは入力サンプルを精錬するために入力に戻って加えられ、それによって、精錬されたデータ184を生成する。NNフィルタは、成分間相関を活用するためにすべての色成分を入力として使用し得る。異なる成分が(ネットワーク構造およびモデルパラメータを含む)同じフィルタを共有し得るか、または各成分がそれ自体の固有のフィルタを有し得る。
フィルタ処理プロセスはまた、次のように一般化され得る。
R'(i,j)=R(i,j)+NN_filter_residual_ouput(R) (3)
NNベースのフィルタのモデル構造およびモデルパラメータは、事前定義され、ビデオエンコーダ200およびビデオデコーダ300において記憶され得る。フィルタはまた、ビットストリームにおいてシグナリングされ得る。
ビデオコーディングのための既存のNNベースのフィルタには問題が存在し得る。たとえば、事前定義されたフィルタ(たとえば、NNベースのフィルタまたはALF)は、ビデオおよび画像データベースの大きいセットに基づいてトレーニングされ得る。そのようなトレーニングセットは一般的な意味では最適であり得るが、特定のひずんだシーケンスにとっては最適ではないことがある。
本開示は、ビデオコーディングのためのNNベースのフィルタを使用するときにコーディング効率を改善し得るかつ/またはひずみを改善し得る以下の技法について説明する。以下の項目別の技法は、個別に適用され得る。代替として、以下で説明する技法の任意の組合せが適用され得る。ビデオエンコーダ200およびビデオデコーダ300は、単独でのまたは任意の組合せでの本開示の様々な技法のいずれかに従って構成され得る。
再び図1を参照すると、本開示の一例では、ビデオエンコーダ200およびビデオデコーダ300は、精錬プロセスをフィルタ処理プロセスの出力残差に適用し、次いで、精錬されたフィルタ出力残差を加えて、入力サンプルを更新するように構成され得る。提案される方法は、次のように表され得る。
R'(i,j)=R(i,j)+f(filter_residual_ouput(R)) (4)
ここで、f()は、特定のフィルタ処理プロセスのフィルタ処理出力残差に適用される精錬プロセスの関数である。ビデオエンコーダ200およびビデオデコーダ300は、以下のプロセスのうちの1つまたは複数を精錬プロセスとして適用するように構成され得る。
a. 一例として、ビデオエンコーダ200およびビデオデコーダ300は、スケーリング係数を復号されたブロックのフィルタ処理されたサンプルで乗算することによって、フィルタ処理された値を変更し、次いで、精錬されフィルタ処理された値を復号されたブロックに加えて、入力サンプルを更新し得る。
i. ビデオエンコーダ200は、スケーリング係数を事前定義されたビット精度を有する整数値で量子化し得る。ビデオデコーダ300は、その値を事前定義されたビット精度を有する整数値によって逆量子化して、スケーリング係数を決定し得る。
ii. ビデオエンコーダ200は、スケーリング係数の値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、ビットストリームにおいてシグナリングされたデータからスケーリング係数の値を決定し得る。
iii. ビデオエンコーダ200は、スライスヘッダ、ピクチャヘッダ、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、または任意の他の高レベルシンタックス要素本体の中のシンタックス要素として、スケーリング係数の値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、対応するデータ構造においてシグナリングされたデータからスケーリング係数を決定し得る。
iv. ビデオエンコーダ200は、ブロックレベルでの、たとえば、CTUレベルでのシンタックス要素として、スケーリング係数の値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、ブロックレベルでシグナリングされたデータからスケーリング係数を決定し得る。
v. ビデオエンコーダ200は、スケーリング係数のセットをビットストリームにおいてシグナリングし得るか、またはスケーリング係数のセットは、ビデオエンコーダ200およびビデオデコーダ300において事前定義され得る。ビデオエンコーダ200は、スケーリング係数の値を指定するために、ブロックレベル、たとえば、CTUレベルでインデックス値をシグナリングし得る。ビデオデコーダ300は、スケーリング係数のセットに対するテーブルマッピングインデックス値を使用して、インデックス値からスケーリング係数を決定し得る。
vi. スケーリング係数は、色成分ごとに別々に導出され得る。すなわち、ビデオエンコーダ200は、色成分(たとえば、ルミナンス成分、青色相成分、および赤色相成分)ごとのスケーリング係数を個別にシグナリングし得る。ビデオデコーダ300は、シグナリングされた値から色成分ごとのスケーリング係数を決定し得る。
b. 別の例として、ビデオエンコーダ200およびビデオデコーダ300は、スケーリング係数を乗算し、オフセットをスケーリングされたフィルタ処理された値に加えることによって、フィルタ処理出力残差を変更し、次いで、精錬されフィルタ処理された値を入力サンプルに加え得る。
i. ビデオエンコーダ200は、スケーリング係数を事前定義されたビット精度を有する整数値で量子化し得る。ビデオデコーダ300は、その値を事前定義されたビット精度を有する整数値によって逆量子化して、スケーリング係数を決定し得る。
ii. ビデオエンコーダ200は、オフセットを事前定義されたビット精度を有する整数値で量子化し得る。ビデオデコーダ300は、その値を事前定義されたビット精度を有する整数値によって逆量子化して、オフセットを決定し得る。
iii. ビデオエンコーダ200は、スケーリング係数およびオフセットの値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、ビットストリームにおいてシグナリングされたデータからスケーリング係数およびオフセットの値を決定し得る。
iv. ビデオエンコーダ200は、スライスヘッダ、ピクチャヘッダ、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、または任意の他の高レベルシンタックス要素本体の中のシンタックス要素として、スケーリング係数およびオフセットの値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、対応するデータ構造においてシグナリングされたデータからスケーリング係数およびオフセットを決定し得る。
v. スケーリング係数およびオフセットの値は、符号化プロセスにおいて導出され、スライスヘッダ、ピクチャヘッダ、適応パラメータセット(APS)、または任意の他の高レベルシンタックス要素本体の中のシンタックス要素として、ビットストリームにおいてシグナリングされ得る。
vi. ビデオエンコーダ200は、ブロックレベルでの、たとえば、CTUレベルでのシンタックス要素として、スケーリング係数およびオフセットの値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、ブロックレベルでシグナリングされたデータからスケーリング係数およびオフセットを決定し得る。
vii. ビデオエンコーダ200は、スケーリング係数のセットおよびオフセットのセットをビットストリームにおいてシグナリングし得るか、またはスケーリング係数のセットおよびオフセットのセットは、ビデオエンコーダ200およびビデオデコーダ300において事前定義され得る。ビデオエンコーダ200は、スケーリング係数およびオフセットの値を指定するために、ブロックレベル、たとえば、CTUレベルでインデックス値をシグナリングし得る。ビデオデコーダ300は、スケーリング係数のセットおよびオフセットのセットに対するそれぞれのテーブルマッピングインデックス値を使用して、インデックス値からスケーリング係数およびオフセットを決定し得る。
viii. スケーリング係数およびオフセットは、色成分ごとに別々に導出され得る。すなわち、ビデオエンコーダ200は、色成分(たとえば、ルミナンス成分、青色相成分、および赤色相成分)ごとのスケーリング係数およびオフセットを個別にシグナリングし得る。ビデオデコーダ300は、シグナリングされた値から色成分ごとのスケーリング係数およびオフセットを決定し得る。
c. 本開示で述べるフィルタ処理プロセスは、入力サンプルを更新するために使用される残差出力を生成する任意のフィルタ処理プロセスであり得る。
i. 一例として、本セクションで述べるフィルタ処理プロセスは、NNベースのフィルタである。
ii. 別の例として、本セクションで述べるフィルタ処理プロセスは、ビデオコーデックのコンテキストで適用されるNNベースのループフィルタである。
iii. 別の例として、本セクションで述べるフィルタ処理プロセスは、ビデオコーデックのコンテキストで適用されるNNベースのポストフィルタである。
iv. 別の例として、本セクションで述べるフィルタ処理プロセスは、ビデオコーデックのコンテキストで適用される適応インループフィルタである。
v. 別の例として、本セクションで述べるフィルタ処理プロセスは、ビデオコーデックのコンテキストで適用される事前定義された適応インループフィルタである。
d. フィルタ出力残差を精錬するために精錬適用が適用されるかまたは適用されないかを示すために、フラグがシグナリングされ得る。フラグは、スライスヘッダ、ピクチャヘッダ、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、または任意の他の高レベルシンタックス要素本体の中のシンタックス要素として、ビットストリームにおいてシグナリングされ得る。
したがって、ビデオエンコーダ200およびビデオデコーダ300は、ビデオデータのブロックを復号し、次いで、フィルタをビデオデータの復号されたブロックに適用するように構成され得る。フィルタは、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの1つであり得る。いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は、そのようなフィルタの組合せをビデオデータの復号されたブロックに適用し得る。
復号されたブロックをフィルタ処理(し、それによってフィルタ処理されたブロックを形成)した後、ビデオエンコーダ200およびビデオデコーダ300は、たとえば、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成することによって、フィルタ処理されたブロックを精錬し得る。次いで、ビデオエンコーダ200およびビデオデコーダ300は、復号されたブロックのサンプルを、精錬されフィルタ処理されたブロックの対応するサンプルと合成し得る。ビデオエンコーダ200およびビデオデコーダ300は、精錬されフィルタ処理されたブロックを形成し、精錬されフィルタ処理されたブロックを復号されたブロックと合成するために、上記の式(4)を実行して、復号ピクチャバッファ(DPB)に記憶され、出力のために使用される、最終的な復号されフィルタ処理されたブロックを形成し得る。
ビデオエンコーダ200は、レートひずみ最適化(RDO)プロセスに従ってスケーリング係数を決定し得る。たとえば、ビデオエンコーダ200は、様々な異なるスケーリング係数をテストし、テストされたスケーリング係数のうちのどれが対応するビットストリームのビットレートを過度に増加させることなしにひずみを低減するかを決定し得る。ビデオエンコーダ200は、最良のRDO性能を有するスケーリング係数をブロック(またはブロックを含むスライスもしくはピクチャ)用のスケーリング係数として選択し得る。次いで、ビデオエンコーダ200は、選択されたスケーリング係数を表すデータを、たとえば、スライスヘッダ、適応パラメータセット(APS)、ピクチャヘッダ、ピクチャパラメータセット(PPS)、ブロックヘッダ(たとえば、CTUヘッダ)などの中のシンタックス要素の値として符号化し得る。ビデオデコーダ300は、スケーリング係数を表す符号化されたデータからスケーリング係数を決定し得る。
いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は、スケーリング係数を直接表すシンタックス要素の値をコーディングし得る。いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は、インデックス値をスケーリング係数にマッピングするルックアップテーブルで構成されてもよく、ビデオエンコーダ200は、選択されたスケーリング係数に対応するインデックス値を表す値を符号化し得る。したがって、ビデオデコーダ300は、インデックス値を復号し、インデックス値およびルックアップテーブルを使用して、すなわち、ルックアップテーブルがインデックス値をマッピングする先のスケーリング係数を決定することによって、スケーリング係数を決定し得る。ルックアップテーブルは、インデックステーブルと呼ばれることもある。
いくつかの例では、ビデオエンコーダ200は、上記で説明したようなフィルタ処理精錬を有効化するかどうかをさらに決定し得る。たとえば、スケーリング係数のいずれも十分なRDO値をもたらさない場合、ビデオエンコーダ200は、たとえば、フィルタ処理精錬が無効化されることを示すシンタックス要素の値をシグナリングすることによって、フィルタ処理精錬を無効化し得る。ビデオデコーダ300は、フィルタ処理精錬を実行するかどうかを決定するためにシンタックス要素の値を使用し得る。
いくつかの例では、ビデオエンコーダ200は、スケーリング係数を表す値を事前定義されたビット精度を有する整数値によって量子化し得る。したがって、ビデオデコーダ300は、復号された値を事前定義されたビット精度を有する整数値によって逆量子化して、スケーリング係数を決定し得る。
本開示の別の例では、入力サンプルを更新するために、複数のフィルタの出力残差が合成される。一例として、提案される方法は、次のように表され得る。
R'(i,j)=R(i,j)+f1(filter1_residual_ouput(R))+f2(filter2_residual_ouput(R)) (5)
ここで、f1()およびf2()は、特定のフィルタ処理プロセスのフィルタ処理出力残差に適用される精錬プロセスの関数である。2つ以上のモデルの組合せが次のように一般化され得る。
R'(i,j)=R(i,j)+f1(filter1_residual_ouput(R))+..+fK(filterK_residual_ouput(R)) (6)
言い換えれば、ビデオエンコーダ200およびビデオデコーダ300は、2つ以上の(たとえば、複数の)スケーリング係数およびフィルタを復号されたブロックに適用して、それぞれの精錬されフィルタ処理されたブロックを形成し、次いで、たとえば、上記の式(5)または式(6)のいずれかに従って、復号されたブロックを精錬されフィルタ処理されたブロックと合成し得る。
ビデオエンコーダ200およびビデオデコーダ300は、以下のプロセスのうちの1つまたは複数を精錬プロセスとして適用するように構成され得る。
a) 一例として、ビデオエンコーダ200およびビデオデコーダ300は、スケーリング係数を乗算し、次いで、精錬されフィルタ処理されたブロックを入力サンプルと合成することを含め、各フィルタ処理プロセスの出力残差を変更し得る。
i) ビデオエンコーダ200は、スケーリング係数を事前定義されたビット精度を有する整数値によって量子化し得る。ビデオデコーダ300は、スケーリング係数を事前定義されたビット精度を有する整数値によって逆量子化し得る。
ii) ビデオエンコーダ200は、符号化プロセスの間にスケーリング係数の値を導出し、これらの値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、シグナリングされた値からスケーリング係数を決定し得る。
iii) ビデオエンコーダ200は、スライスヘッダ、ピクチャヘッダ、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、または任意の他の高レベルシンタックス要素本体の中のシンタックス要素として、スケーリング係数の値をシグナリングし得る。ビデオデコーダ300は、対応するデータ構造からスケーリング係数の値を決定し得る。
iv) ビデオエンコーダ200は、ブロックレベルでの、たとえば、CTUレベルでのシンタックス要素として、スケーリング係数の値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、シグナリングされたブロックレベルのシンタックス要素からスケーリング係数の値を決定し得る。
v) ビデオエンコーダ200は、スケーリング係数のセットをビットストリームにおいてシグナリングし得るか、またはスケーリング係数の値は、ビデオエンコーダ200およびビデオデコーダ300において事前定義され得る。ビデオエンコーダ200は、スケーリング係数の値を指定するために、ブロックレベルで、たとえば、CTUレベルでインデックス値をシグナリングし得る。
vi) ビデオエンコーダ200は、色成分ごとのスケーリング係数を別々にシグナリングし得、ビデオデコーダ300は、シグナリングされた値から色成分ごとのスケーリング係数を別々に決定し得る。
b) 一例として、ビデオエンコーダ200およびビデオデコーダ300は、それぞれのスケーリング係数を乗算し、オフセットを加えることによって、各フィルタ処理プロセスの出力残差を変更し得る。次いで、ビデオエンコーダ200およびビデオデコーダ300は、精錬されフィルタ処理されたデータを入力サンプルに加え得る。
i) ビデオエンコーダ200は、スケーリング係数を事前定義されたビット精度を有する整数値によって量子化し得る。ビデオデコーダ300は、スケーリング係数を事前定義されたビット精度を有する整数値によって逆量子化し得る。
ii) ビデオエンコーダ200は、オフセットを事前定義されたビット精度を有する整数値によって量子化し得る。ビデオデコーダ300は、オフセットを事前定義されたビット精度を有する整数値によって逆量子化し得る。
iii) ビデオエンコーダ200は、符号化プロセスの間にスケーリング係数およびオフセットの値を導出し、これらの値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、シグナリングされた値からスケーリング係数およびオフセットを決定し得る。
iv) ビデオエンコーダ200は、スライスヘッダ、ピクチャヘッダ、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、または任意の他の高レベルシンタックス要素本体の中のシンタックス要素として、スケーリング係数およびオフセットの値をシグナリングし得る。ビデオデコーダ300は、対応するデータ構造からスケーリング係数およびオフセットの値を決定し得る。
v) スケーリング係数のシグナリングオーバーヘッドを節約するために、いくつかの事前定義された、固定のスケーリング係数がビデオエンコーダ200とビデオデコーダ300の両方において使用され得る。以下の表は、異なるスケーリング係数の一例を示す。
ビデオエンコーダ200は、RDコストに基づいてスケーリング係数のうちの1つを選択し、次いで、スケーリング係数の直接表現またはビットストリームのデータの中のスケーリング係数を表すインデックスを使用して最良のスケーリング係数(すなわち、最良のRDコストを有するスケーリング係数)をシグナリングし得る。インデックスは、単項コードもしくは短縮2進コード、またはスケーリング係数の統計的特性に基づいてコーディングされた可変長としてコーディングされ得る。スケーリング係数がすべての入力シーケンスにわたって最確である特定の値を有するとき、シグナリング方法の選択肢として単項コードシグナリングが選ばれる場合があり、ここにおいて、最小インデックス値が最確スケーリング係数値に割り当てられ得る。
vi) スケーリング係数およびオフセットの値は、符号化プロセスにおいて導出され、ブロックレベルにおける、たとえば、CTUレベルにおけるシンタックス要素として、ビットストリームにおいてシグナリングされ得る。
vii) スケーリング係数およびオフセットのセットは、ビットストリームにおいてシグナリングされるか、またはエンコーダおよびデコーダの側で事前定義され、インデックス値は、スケーリング係数およびオフセットの値を指定するために、ブロックレベル、たとえば、CTUレベルでシグナリングされる。
viii) スケーリング係数およびオフセットは、色成分ごとに別々に導出され得る。
c) 本開示で述べるフィルタ処理プロセスは、入力サンプルを更新するために使用される残差出力を生成する任意のフィルタ処理プロセスであり得る。
i) 一例として、本セクションで述べるフィルタ処理プロセスは、NNベースのフィルタである。
ii) 別の例として、本セクションで述べるフィルタ処理プロセスは、ビデオコーデックのコンテキストで適用されるNNベースのループフィルタのセットである。
iii) 別の例として、本セクションで述べるフィルタ処理プロセスは、ビデオコーデックのコンテキストで適用されるNNベースのポストフィルタのセットである。
iv) 別の例として、本セクションで述べるフィルタ処理プロセスは、ビデオコーデックのコンテキストで適用される適応インループフィルタである。
v) 別の例として、本セクションで述べるフィルタ処理プロセスは、ビデオコーデックのコンテキストで適用される事前定義された適応インループフィルタである。
一例として、提案される着想のうちの1つは、以下の式を使用することによって実装され得る。
R'(i,j)=R(i,j)+((Scale_factor*filter_residual_ouput(R)+(1≪(shift-1))+offset)>>shift) (7)
「shift」値は、事前定義された正の整数である。shiftの値は、任意の正の値に等しいものとすることができる。shiftの典型的な値は、4～8の範囲内にあり得る。scale_factorは「shift」ビットで量子化され、その値はビットストリームにおいてシグナリングされる。「offset」の値は、0に等しく設定され得る。代替として、offsetの値はビットストリームにおいてシグナリングされ得る。この例では、filter_residual_ouputは、入力サンプルと同じ精度で量子化される。
別の例として、scale_factorは、Nの値が「shift」よりも小さいNビットで量子化される。この例では、filter_residual_ouputは、入力サンプルの精度よりも高い精度で量子化される。
R'(i,j)の値を元の入力サンプルのダイナミックレンジにクリップするために、クリップ演算がさらに適用され得る。
一例として、提案される着想のうちの1つは、以下の式を使用することによって実装され得る。
R'(i,j)=R(i,j)+((Scale_factor1*filter1_residual_ouput(R)+((Scale_factor2*filter2_residual_ouput(R)+(1≪(shift-1))+offset)>>shift) (8)
式(8)の「shift」値は、事前定義された正の整数である。shiftの値は、任意の正の値に等しいものとすることができる。shiftの例示的な値は、4～8の範囲内にあり得る。scale_factor1およびscale_factor2は「shift」ビットで量子化され、それらの値はビットストリームにおいてシグナリングされる。「offset」の値は、0に等しく設定され得る。別の例では、「offset」の値はビットストリームにおいてシグナリングされ得る。この例では、filter1_residual_ouputおよびfilter2_residual_ouputは、入力サンプルと同じ精度で量子化される。
別の例として、scale_factor1およびscale_factor2は、Nの値が「shift」よりも小さいNビットで量子化され得る。この例では、filter_residual_ouputは、入力サンプルの精度よりも高い精度で量子化される。
R'(i,j)の値を元の入力サンプルのダイナミックレンジにクリップするために、クリップ演算がさらに適用され得る。
図5Aおよび図5Bは、例示的な4分木2分木(QTBT)構造190および対応するコーディングツリーユニット(CTU)192を示す概念図である。実線は4分木分割を表し、点線は2分木分割を示す。2分木の各分割(すなわち、非リーフ)ノードでは、どの分割タイプ(すなわち、水平または垂直)が使用されるかを示すために1つのフラグがシグナリングされ、ここで、この例では、0が水平分割を示し、1が垂直分割を示す。4分木分割の場合、4分木ノードがブロックをサイズが等しい4つのサブブロックに水平にかつ垂直に分割するので、分割タイプを示す必要はない。したがって、ビデオエンコーダ200は、QTBT構造190の領域木レベル(すなわち、実線)のための(分割情報などの)シンタックス要素およびQTBT構造190の予測木レベル(すなわち、破線)のための(分割情報などの)シンタックス要素を符号化し得、ビデオデコーダ300は、それらのシンタックス要素を復号し得る。ビデオエンコーダ200は、QTBT構造190の末端リーフノードによって表されるCUのための、予測データおよび変換データなどのビデオデータを符号化し得、ビデオデコーダ300は、そのビデオデータを復号し得る。
一般に、図5BのCTU192は、第1のレベルおよび第2のレベルでQTBT構造190のノードに対応するブロックのサイズを定義するパラメータに関連付けられ得る。これらのパラメータは、CTUサイズ(サンプル中のCTU192のサイズを表す)、最小4分木サイズ(MinQTSize、最小の許容される4分木リーフノードサイズを表す)、最大2分木サイズ(MaxBTSize、最大の許容される2分木ルートノードサイズを表す)、最大2分木深度(MaxBTDepth、最大の許容される2分木深度を表す)、および最小2分木サイズ(MinBTSize、最小の許容される2分木リーフノードサイズを表す)を含み得る。
CTUに対応するQTBT構造のルートノードは、QTBT構造の第1のレベルで4個の子ノードを有することがあり、子ノードの各々は、4分木区分に従って区分されることがある。すなわち、第1のレベルのノードは、(子ノードを有しない)リーフノードであるか、4個の子ノードを有するかのいずれかである。QTBT構造190の例は、分岐のための実線を有する親ノードと子ノードとを含むようなノードを表す。第1のレベルのノードが最大の許容される2分木ルートノードサイズ(MaxBTSize)よりも大きくない場合、これらのノードはそれぞれの2分木によってさらに区分され得る。1つのノードの2分木分割は、分割の結果として生じるノードが最小の許容される2分木リーフノードサイズ(MinBTSize)または最大の許容される2分木深度(MaxBTDepth)に達するまで繰り返され得る。QTBT構造190の例は、分岐のための破線を有するようなノードを表す。2分木リーフノードはコーディングユニット(CU)と呼ばれ、コーディングユニット(CU)は、これ以上の区分なしで、予測(たとえば、イントラピクチャ予測またはインターピクチャ予測)および変換のために使用される。上記で説明したように、CUは「ビデオブロック」または「ブロック」と呼ばれることもある。
QTBT区分構造の一例では、CTUサイズは128×128(ルーマサンプルおよび2つの対応する64×64クロマサンプル)として設定され、MinQTSizeは16×16として設定され、MaxBTSizeは64×64として設定され、(幅と高さの両方についての)MinBTSizeは4として設定され、MaxBTDepthは4として設定される。4分木リーフノードを生成するために、4分木区分がまずCTUに適用される。4分木リーフノードは、16×16(すなわち、MinQTSize)から128×128(すなわち、CTUサイズ)までのサイズを有し得る。4分木リーフノードが128×128である場合、サイズがMaxBTSize(すなわち、この例では64×64)を超えるので、4分木リーフノードは2分木によってさらに分割されない。それ以外の場合、4分木リーフノードは2分木によってさらに区分される。したがって、4分木リーフノードは2分木のルートノードでもあり、0としての2分木深度を有する。2分木深度がMaxBTDepth(この例では4)に達するとき、さらなる分割は許可されない。MinBTSize(この例では4)に等しい幅を有する2分木ノードは、その2分木ノードに対してさらなる垂直分割(すなわち、幅の分割)が許可されないことを示唆する。同様に、MinBTSizeに等しい高さを有する2分木ノードは、その2分木ノードに対してさらなる水平分割(すなわち、高さの分割)が許可されないことを示唆する。上述のように、2分木のリーフノードはCUと呼ばれ、さらなる区分なしで予測および変換に従ってさらに処理される。
図6は、本開示の技法を実行し得る例示的なビデオエンコーダ200を示すブロック図である。図6は説明のために提供され、本開示において広く例示および説明するような技法の限定と見なされるべきではない。説明のために、本開示は、VVC(開発中のITU-T H.266)、およびHEVC(ITU-T H.265)の技法によるビデオエンコーダ200について説明する。しかしながら、本開示の技法は、他のビデオコーディング規格に従って構成されたビデオ符号化デバイスによって実行され得る。
図6の例では、ビデオエンコーダ200は、ビデオデータメモリ230、モード選択ユニット202、残差生成ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、フィルタユニット216、復号ピクチャバッファ(DPB)218、およびエントロピー符号化ユニット220を含む。ビデオデータメモリ230、モード選択ユニット202、残差生成ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、フィルタユニット216、DPB218、およびエントロピー符号化ユニット220のいずれかまたはすべては、1つもしくは複数のプロセッサにおいてまたは処理回路において実装され得る。たとえば、ビデオエンコーダ200のユニットは、ハードウェア回路の一部としての1つもしくは複数の回路もしくは論理要素として、またはプロセッサ、ASIC、もしくはFPGAの一部として実装され得る。さらに、ビデオエンコーダ200は、これらおよび他の機能を実行するための追加または代替のプロセッサまたは処理回路を含み得る。
ビデオデータメモリ230は、ビデオエンコーダ200の構成要素によって符号化されるべきビデオデータを記憶し得る。ビデオエンコーダ200は、たとえば、ビデオソース104(図1)から、ビデオデータメモリ230に記憶されたビデオデータを受信し得る。DPB218は、ビデオエンコーダ200による後続のビデオデータの予測において使用するための参照ビデオデータを記憶する参照ピクチャメモリとして働き得る。ビデオデータメモリ230およびDPB218は、同期DRAM(SDRAM)を含むダイナミックランダムアクセスメモリ(DRAM)、磁気抵抗RAM(MRAM)、抵抗RAM(RRAM)、または他のタイプのメモリデバイスなどの、様々なメモリデバイスのいずれかによって形成され得る。ビデオデータメモリ230およびDPB218は、同じメモリデバイスまたは別個のメモリデバイスによって提供され得る。様々な例では、ビデオデータメモリ230は、図示のように、ビデオエンコーダ200の他の構成要素とともにオンチップであってもよく、またはそれらの構成要素に対してオフチップであってもよい。
本開示では、ビデオデータメモリ230への言及は、そのようなものとして特に説明されていない限り、ビデオエンコーダ200の内部のメモリ、または、そのようなものとして特に説明されていない限り、ビデオエンコーダ200の外部のメモリに限定されるものとして解釈されるべきではない。むしろ、ビデオデータメモリ230への言及は、符号化するためにビデオエンコーダ200が受信するビデオデータ(たとえば、符号化されるべき現在のブロックのためのビデオデータ)を記憶する参照メモリとして理解されるべきである。図1のメモリ106はまた、ビデオエンコーダ200の様々なユニットからの出力の一時的な記憶を提供し得る。
図6の様々なユニットは、ビデオエンコーダ200によって実行される動作を理解することを助けるために図示されている。ユニットは、固定機能回路、プログラマブル回路、またはそれらの組合せとして実装され得る。固定機能回路は、特定の機能を提供する回路を指し、実行され得る動作に対してプリセットされる。プログラマブル回路は、様々なタスクを実行するようにプログラムされ得る回路を指し、実行され得る動作において柔軟な機能を提供する。たとえば、プログラマブル回路は、ソフトウェアまたはファームウェアの命令によって定義された方法でプログラマブル回路を動作させるソフトウェアまたはファームウェアを実行し得る。固定機能回路は(たとえば、パラメータを受信するまたはパラメータを出力するための)ソフトウェア命令を実行し得るが、固定機能回路が実行する動作のタイプは概して不変である。いくつかの例では、ユニットのうちの1つまたは複数は異なる回路ブロック(固定機能またはプログラマブル)であってもよく、いくつかの例では、ユニットのうちの1つまたは複数は集積回路であってもよい。
ビデオエンコーダ200は、算術論理ユニット(ALU)、初等関数ユニット(EFU)、デジタル回路、アナログ回路、および/またはプログラマブル回路から形成されたプログラマブルコアを含み得る。ビデオエンコーダ200の動作がプログラマブル回路によって実行されるソフトウェアを使用して実行される例では、メモリ106(図1)が、ビデオエンコーダ200が受信および実行するソフトウェアの命令(たとえば、オブジェクトコード)を記憶してもよく、またはビデオエンコーダ200内の別のメモリ(図示せず)が、そのような命令を記憶してもよい。
ビデオデータメモリ230は、受信されたビデオデータを記憶するように構成される。ビデオエンコーダ200は、ビデオデータメモリ230からビデオデータのピクチャを取り出し、ビデオデータを残差生成ユニット204およびモード選択ユニット202に提供し得る。ビデオデータメモリ230中のビデオデータは、符号化されるべき未加工ビデオデータであり得る。
モード選択ユニット202は、動き推定ユニット222、動き補償ユニット224、およびイントラ予測ユニット226を含む。モード選択ユニット202は、他の予測モードに従ってビデオ予測を実行するための追加の機能ユニットを含み得る。例として、モード選択ユニット202は、パレットユニット、(動き推定ユニット222および/または動き補償ユニット224の一部であり得る)イントラブロックコピーユニット、アフィンユニット、線形モデル(LM)ユニットなどを含み得る。
モード選択ユニット202は、一般に、符号化パラメータの組合せおよびそのような組合せに対する結果として生じるレートひずみ値をテストするために複数の符号化パスを協調させる。符号化パラメータは、CUへのCTUの区分、CUのための予測モード、CUの残差データのための変換タイプ、CUの残差データのための量子化パラメータなどを含み得る。モード選択ユニット202は、その他のテストされた組合せよりも良いレートひずみ値を有する符号化パラメータの組合せを最終的に選択し得る。
ビデオエンコーダ200は、ビデオデータメモリ230から取り出されたピクチャを一連のCTUに区分し、スライス内に1つまたは複数のCTUをカプセル化し得る。モード選択ユニット202は、上記で説明したHEVCのQTBT構造または4分木構造などのツリー構造に従ってピクチャのCTUを区分し得る。上記で説明したように、ビデオエンコーダ200は、ツリー構造に従ってCTUを区分することから1つまたは複数のCUを形成し得る。そのようなCUは、一般に、「ビデオブロック」または「ブロック」と呼ばれることもある。
一般に、モード選択ユニット202はまた、現在のブロック(たとえば、現在のCU、またはHEVCでは、PUおよびTUの重複する部分)のための予測ブロックを生成するために、その構成要素(たとえば、動き推定ユニット222、動き補償ユニット224、およびイントラ予測ユニット226)を制御する。現在のブロックのインター予測の場合、動き推定ユニット222は、1つまたは複数の参照ピクチャ(たとえば、DPB218に記憶された1つまたは複数の以前にコーディングされたピクチャ)中の1つまたは複数の厳密に一致する参照ブロックを識別するために動き探索を実行し得る。具体的には、動き推定ユニット222は、たとえば、絶対差分和(SAD)、2乗差分和(SSD)、平均絶対差(MAD)、平均2乗差(MSD)などに従って、潜在的な参照ブロックが現在のブロックにどのくらい類似しているかを表す値を計算し得る。動き推定ユニット222は、一般に、現在のブロックと考慮されている参照ブロックとの間のサンプルごとの差分を使用してこれらの計算を実行し得る。動き推定ユニット222は、現在のブロックに最も厳密に一致する参照ブロックを示す、これらの計算の結果として生じる最も低い値を有する参照ブロックを識別し得る。
動き推定ユニット222は、現在のピクチャ中の現在のブロックの位置に対する参照ピクチャ中の参照ブロックの位置を定義する1つまたは複数の動きベクトル(MV)を形成し得る。次いで、動き推定ユニット222は動きベクトルを動き補償ユニット224に提供し得る。たとえば、単方向インター予測の場合、動き推定ユニット222は単一の動きベクトルを提供し得るが、双方向インター予測の場合、動き推定ユニット222は2つの動きベクトルを提供し得る。次いで、動き補償ユニット224は、動きベクトルを使用して予測ブロックを生成し得る。たとえば、動き補償ユニット224は、動きベクトルを使用して参照ブロックのデータを取り出し得る。別の例として、動きベクトルがフラクショナルサンプル精度を有する場合、動き補償ユニット224は、1つまたは複数の補間フィルタに従って予測ブロックのための値を補間し得る。さらに、双方向インター予測の場合、動き補償ユニット224は、それぞれの動きベクトルによって識別された2つの参照ブロックのためのデータを取り出し、たとえば、サンプルごとの平均化または重み付けされた平均化によって、取り出されたデータを合成し得る。
別の例として、イントラ予測またはイントラ予測コーディングの場合、イントラ予測ユニット226は、現在のブロックに隣接するサンプルから予測ブロックを生成し得る。たとえば、方向モードの場合、イントラ予測ユニット226は、一般に、隣接サンプルの値を数学的に合成し、これらの計算された値を現在のブロックにわたる定義された方向にポピュレートして、予測ブロックを生成し得る。別の例として、DCモードの場合、イントラ予測ユニット226は、現在のブロックに対する隣接サンプルの平均を計算し、予測ブロックのサンプルごとにこの結果として生じる平均を含めるべき予測ブロックを生成し得る。
モード選択ユニット202は、予測ブロックを残差生成ユニット204に提供する。残差生成ユニット204は、ビデオデータメモリ230から現在のブロックの未加工の符号化されていないバージョンを受信し、モード選択ユニット202から予測ブロックを受信する。残差生成ユニット204は、現在のブロックと予測ブロックとの間のサンプルごとの差分を計算する。結果として生じるサンプルごとの差分は、現在のブロックのための残差ブロックを定義する。いくつかの例では、残差生成ユニット204はまた、残差差分パルスコード変調(RDPCM)を使用して残差ブロックを生成するために、残差ブロック中のサンプル値の間の差分を決定し得る。いくつかの例では、残差生成ユニット204は、バイナリ減算を実行する1つまたは複数の減算器回路を使用して形成され得る。
モード選択ユニット202がCUをPUに区分する例では、各PUはルーマ予測ユニットおよび対応するクロマ予測ユニットに関連付けられ得る。ビデオエンコーダ200およびビデオデコーダ300は、様々なサイズを有するPUをサポートし得る。上記で示したように、CUのサイズは、CUのルーマコーディングブロックのサイズを指すことがあり、PUのサイズは、PUのルーマ予測ユニットのサイズを指すことがある。特定のCUのサイズが2N×2Nであると仮定すると、ビデオエンコーダ200は、イントラ予測に対して2N×2NまたはN×NのPUサイズ、およびインター予測に対して2N×2N、2N×N、N×2N、N×N、または類似の、対称のPUサイズをサポートし得る。ビデオエンコーダ200およびビデオデコーダ300はまた、インター予測に対して2N×nU、2N×nD、nL×2N、およびnR×2NのPUサイズのための非対称区分をサポートし得る。
モード選択ユニット202がCUをPUにさらに区分しない例では、各PUはルーマコーディングブロックおよび対応するクロマコーディングブロックに関連付けられ得る。上記のように、CUのサイズは、CUのルーマコーディングブロックのサイズを指すことがある。ビデオエンコーダ200およびビデオデコーダ300は、2N×2N、2N×N、またはN×2NのCUサイズをサポートし得る。
いくつかの例として、イントラブロックコピーモードコーディング、アフィンモードコーディング、および線形モデル(LM)モードコーディングなどの他のビデオコーディング技法の場合、モード選択ユニット202は、コーディング技法に関連付けられたそれぞれのユニットを介して、符号化されている現在のブロックのための予測ブロックを生成する。パレットモードコーディングなどのいくつかの例では、モード選択ユニット202は、予測ブロックを生成しなくてもよく、代わりに、選択されたパレットに基づいてブロックを再構成する方法を示すシンタックス要素を生成してもよい。そのようなモードでは、モード選択ユニット202は、符号化されるべきこれらのシンタックス要素をエントロピー符号化ユニット220に提供し得る。
上記で説明したように、残差生成ユニット204は、現在のブロックおよび対応する予測ブロックのためのビデオデータを受信する。次いで、残差生成ユニット204は現在のブロックのための残差ブロックを生成する。残差ブロックを生成するために、残差生成ユニット204は予測ブロックと現在のブロックとの間のサンプルごとの差分を計算する。
変換処理ユニット206は、変換係数のブロック(本明細書では「変換係数ブロック」と呼ばれる)を生成するために、1つまたは複数の変換を残差ブロックに適用する。変換処理ユニット206は、変換係数ブロックを形成するために、様々な変換を残差ブロックに適用し得る。たとえば、変換処理ユニット206は、離散コサイン変換(DCT)、方向変換、カルーネンレーベ変換(KLT)、または概念的に類似の変換を残差ブロックに適用し得る。いくつかの例では、変換処理ユニット206は、複数の変換、たとえば、回転変換などの、一次変換および二次変換を残差ブロックに対して実行し得る。いくつかの例では、変換処理ユニット206は、変換を残差ブロックに適用しない。
量子化ユニット208は、変換係数ブロック中で変換係数を量子化して、量子化された変換係数ブロックを生成し得る。量子化ユニット208は、現在のブロックに関連付けられた量子化パラメータ(QP)値に従って変換係数ブロックの変換係数を量子化し得る。ビデオエンコーダ200は(たとえば、モード選択ユニット202を介して)、CUに関連付けられたQP値を調整することによって、現在のブロックに関連付けられた変換係数ブロックに適用される量子化の程度を調整し得る。量子化は情報の損失をもたらすことがあり、したがって、量子化された変換係数は変換処理ユニット206によって生成された元の変換係数よりも低い精度を有することがある。
逆量子化ユニット210および逆変換処理ユニット212は、それぞれ、逆量子化および逆変換を量子化された変換係数ブロックに適用して、変換係数ブロックから残差ブロックを再構成し得る。再構成ユニット214は、再構成された残差ブロックおよびモード選択ユニット202によって生成された予測ブロックに基づいて、(ある程度のひずみを伴う可能性があるが)現在のブロックに対応する再構成されたブロックを生成し得る。たとえば、再構成ユニット214は、再構成された残差ブロックのサンプルをモード選択ユニット202によって生成された予測ブロックからの対応するサンプルに加えて、再構成されたブロックを生成し得る。
フィルタユニット216は、再構成されたブロックに対して1つまたは複数のフィルタ動作を実行し得る。たとえば、フィルタユニット216は、CU/TUの端部に沿ってブロッキネスアーティファクトを低減するためにデブロッキング動作を実行し得る。フィルタユニット216の動作は、いくつかの例では、スキップされ得る。加えて、フィルタユニット216は、ニューラルネットワークベースのフィルタ技法を含む、本開示の1つまたは複数のフィルタ技法を実行するように構成され得る。
具体的には、フィルタユニット216は、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つをビデオデータの復号されたブロックに適用して、1つまたは複数のフィルタ処理され復号されたブロックを形成するように構成され得る。次いで、フィルタユニット216は、1つまたは複数のスケーリング係数をフィルタ処理され復号されたブロックに適用することによって、フィルタ処理され復号されたブロックを精錬し得る。たとえば、フィルタユニット216は、フィルタ処理され復号されたブロックに対して、1つまたは複数の動的に決定されたまたは事前定義されたスケーリング係数をテストし得る。たとえば、フィルタユニット216は、フィルタ処理され復号されたブロックを精錬するために、上記で説明した式(3)～式(8)のうちの1つを適用し得る。モード選択ユニット202は、レートひずみ最適化(RDO)プロセスを実行して、様々なスケーリング係数のひずみおよびビットレートを表す、テストされたスケーリング係数の各々のRDO値を計算し得る。モード選択ユニット202は、最良のRDO値をもたらすスケーリング係数を選択し得る。
加えて、モード選択ユニット202は、フィルタ精錬の有効化フラグを表すデータおよびスケーリング係数を表すデータをエントロピー符号化ユニット220に提供し得る。したがって、エントロピー符号化ユニット220は、(スケーリング係数を使用するフィルタ精錬が有効化されるかどうかを表す値を有する)フラグ、ならびにビデオデータの特定のユニット、たとえば、スライス、ピクチャ、CTUなどのスケーリング係数を表す値を符号化し得る。たとえば、エントロピー符号化ユニット220は、スケーリング係数を直接表すデータ、またはルックアップテーブル(たとえば、インデックステーブル)の中のスケーリング係数を表すインデックス値を符号化し得る。
いくつかの例では、フィルタユニット216は、オフセット値をスケーリングされフィルタ処理され復号されたブロックにさらに適用して、精錬されフィルタ処理され復号されたブロックを形成し得る。モード選択ユニット202は、オフセット値を表すデータをエントロピー符号化ユニット220に同様に提供し得、エントロピー符号化ユニット220は、たとえば、直接またはインデックス値を使用して、オフセット値を符号化し得る。
エントロピー符号化ユニット220は、ピクチャヘッダ、ピクチャパラメータセット(PPS)、スライスヘッダ、および/もしくは適応パラメータセット(APS)、または他のそのような高レベルシンタックス構造の中のスケーリング係数およびオフセット値(適用されるとき)を表すデータを符号化し得る。
ビデオエンコーダ200は、(場合によってはフィルタ処理されかつ精錬された)再構成されたブロックをDPB218に記憶する。たとえば、フィルタユニット216の動作が実行されない例では、再構成ユニット214が再構成されたブロックをDPB218に記憶し得る。フィルタユニット216の動作が実行される例では、フィルタユニット216が精錬されフィルタ処理され再構成されたブロックをDPB218に記憶し得る。動き推定ユニット222および動き補償ユニット224は、後で符号化されるピクチャのブロックをインター予測するために、再構成された(かつ場合によってはフィルタリングされた)ブロックから形成された参照ピクチャをDPB218から取り出し得る。加えて、イントラ予測ユニット226は、現在のピクチャ中の他のブロックをイントラ予測するために、現在のピクチャのDPB218中の再構成されたブロックを使用し得る。
一般に、エントロピー符号化ユニット220は、ビデオエンコーダ200の他の機能構成要素から受信されたシンタックス要素をエントロピー符号化し得る。たとえば、エントロピー符号化ユニット220は、量子化ユニット208からの量子化された変換係数ブロックをエントロピー符号化し得る。別の例として、エントロピー符号化ユニット220は、モード選択ユニット202からの予測シンタックス要素(たとえば、インター予測のための動き情報またはイントラ予測のためのイントラモード情報)をエントロピー符号化し得る。エントロピー符号化ユニット220は、ビデオデータの別の例であるシンタックス要素に対して1つまたは複数のエントロピー符号化動作を実行して、エントロピー符号化されたデータを生成し得る。たとえば、エントロピー符号化ユニット220は、コンテキスト適応型可変長コーディング(CAVLC)動作、CABAC動作、可変対可変(V2V)長コーディング動作、シンタックスベースのコンテキスト適応型バイナリ算術コーディング(SBAC)動作、確率間隔区分エントロピー(PIPE)コーディング動作、指数ゴロム符号化動作、または別のタイプのエントロピー符号化動作をデータに対して実行し得る。いくつかの例では、エントロピー符号化ユニット220は、シンタックス要素がエントロピー符号化されないバイパスモードで動作し得る。
ビデオエンコーダ200は、スライスまたはピクチャのブロックを再構成するために必要とされるエントロピー符号化されたシンタックス要素を含むビットストリームを出力し得る。具体的には、エントロピー符号化ユニット220がビットストリームを出力し得る。
上記で説明した動作は、ブロックに関して説明されている。そのような説明は、ルーマコーディングブロックおよび/またはクロマコーディングブロックのための動作であるものとして理解されるべきである。上記で説明したように、いくつかの例では、ルーマコーディングブロックおよびクロマコーディングブロックは、CUのルーマ成分およびクロマ成分である。いくつかの例では、ルーマコーディングブロックおよびクロマコーディングブロックは、PUのルーマ成分およびクロマ成分である。
いくつかの例では、ルーマコーディングブロックに関して実行される動作は、クロマコーディングブロックのために繰り返される必要はない。一例として、ルーマコーディングブロックのための動きベクトル(MV)および参照ピクチャを識別するための動作は、クロマコーディングブロックのためのMVおよび参照ピクチャを識別するために繰り返される必要はない。むしろ、ルーマコーディングブロックのためのMVはクロマコーディングブロックのためのMVを決定するためにスケーリングされてもよく、参照ピクチャは同じであってもよい。別の例として、イントラ予測プロセスは、ルーマコーディングブロックおよびクロマコーディングブロックについて同じであってもよい。
ビデオエンコーダ200は、復号されたビデオデータをフィルタ処理するように構成されたデバイスであって、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのブロックを復号して、復号されたブロックを形成し、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成し、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成し、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するように構成された1つまたは複数のプロセッサとを含むデバイスの一例を表す。
図7は、本開示の技法を実行し得る例示的なビデオデコーダ300を示すブロック図である。図7は説明のために提供され、本開示において広く例示および説明するような技法を限定するものではない。説明のために、本開示は、VVC(ITU-T H.266)、およびHEVC(ITU-T H.265)の技法によるビデオデコーダ300について説明する。しかしながら、本開示の技法は、他のビデオコーディング規格に従って構成されたビデオコーディングデバイスによって実行され得る。
図7の例では、ビデオデコーダ300は、コード化ピクチャバッファ(CPB)メモリ320、エントロピー復号ユニット302、予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、フィルタユニット312、および復号ピクチャバッファ(DPB)314を含む。CPBメモリ320、エントロピー復号ユニット302、予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、フィルタユニット312、およびDPB314のいずれかまたはすべては、1つもしくは複数のプロセッサにおいてまたは処理回路において実装され得る。たとえば、ビデオデコーダ300のユニットは、ハードウェア回路の一部としての1つもしくは複数の回路もしくは論理要素として、またはプロセッサ、ASIC、もしくはFPGAの一部として実装され得る。さらに、ビデオデコーダ300は、これらおよび他の機能を実行するための追加または代替のプロセッサまたは処理回路を含み得る。
予測処理ユニット304は、動き補償ユニット316およびイントラ予測ユニット318を含む。予測処理ユニット304は、他の予測モードに従って予測を実行するための追加のユニットを含み得る。例として、予測処理ユニット304は、パレットユニット、(動き補償ユニット316の一部を形成し得る)イントラブロックコピーユニット、アフィンユニット、線形モデル(LM)ユニットなどを含み得る。他の例では、ビデオデコーダ300は、より多数の、より少数の、または異なる機能構成要素を含み得る。
CPBメモリ320は、ビデオデコーダ300の構成要素によって復号されるべき、符号化されたビデオビットストリームなどのビデオデータを記憶し得る。CPBメモリ320に記憶されたビデオデータは、たとえば、コンピュータ可読媒体110(図1)から取得され得る。CPBメモリ320は、符号化されたビデオビットストリームからの符号化されたビデオデータ(たとえば、シンタックス要素)を記憶するCPBを含み得る。また、CPBメモリ320は、ビデオデコーダ300の様々なユニットからの出力を表す一時的なデータなどの、コーディングされたピクチャのシンタックス要素以外のビデオデータを記憶し得る。DPB314は、一般に、符号化されたビデオビットストリームの後続のデータまたはピクチャを復号するときにビデオデコーダ300が参照ビデオデータとして出力および/または使用し得る、復号されたピクチャを記憶する。CPBメモリ320およびDPB314は、SDRAMを含むDRAM、MRAM、RRAM、または他のタイプのメモリデバイスなどの、様々なメモリデバイスのいずれかによって形成され得る。CPUメモリ320およびDPB314は、同じメモリデバイスまたは別個のメモリデバイスによって提供され得る。様々な例では、CPBメモリ320は、ビデオデコーダ300の他の構成要素とともにオンチップであってもよく、またはそれらの構成要素に対してオフチップであってもよい。
追加または代替として、いくつかの例では、ビデオデコーダ300は、メモリ120(図1)からコーディングされたビデオデータを取り出し得る。すなわち、メモリ120は、CPBメモリ320に関して上記で説明したようなデータを記憶し得る。同様に、メモリ120は、ビデオデコーダ300の機能の一部または全部がビデオデコーダ300の処理回路によって実行されるべきソフトウェアにおいて実装されるとき、ビデオデコーダ300によって実行されるべき命令を記憶し得る。
図7に示す様々なユニットは、ビデオデコーダ300によって実行される動作を理解することを助けるために図示されている。ユニットは、固定機能回路、プログラマブル回路、またはそれらの組合せとして実装され得る。図6と同様に、固定機能回路は、特定の機能を提供する回路を指し、実行され得る動作に対してプリセットされる。プログラマブル回路は、様々なタスクを実行するようにプログラムされ得る回路を指し、実行され得る動作において柔軟な機能を提供する。たとえば、プログラマブル回路は、ソフトウェアまたはファームウェアの命令によって定義された方法でプログラマブル回路を動作させるソフトウェアまたはファームウェアを実行し得る。固定機能回路は(たとえば、パラメータを受信するまたはパラメータを出力するための)ソフトウェア命令を実行し得るが、固定機能回路が実行する動作のタイプは概して不変である。いくつかの例では、ユニットのうちの1つまたは複数は異なる回路ブロック(固定機能またはプログラマブル)であってもよく、いくつかの例では、ユニットのうちの1つまたは複数は集積回路であってもよい。
ビデオデコーダ300は、ALU、EFU、デジタル回路、アナログ回路、および/またはプログラマブル回路から形成されたプログラマブルコアを含み得る。ビデオデコーダ300の動作がプログラマブル回路上で実行されるソフトウェアによって実行される例では、オンチップメモリまたはオフチップメモリが、ビデオデコーダ300が受信および実行するソフトウェアの命令(たとえば、オブジェクトコード)を記憶し得る。
エントロピー復号ユニット302は、CPBから符号化されたビデオデータを受信し、ビデオデータをエントロピー復号して、シンタックス要素を再生し得る。予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、およびフィルタユニット312は、ビットストリームから抽出されたシンタックス要素に基づいて、復号されたビデオデータを生成し得る。
一般に、ビデオデコーダ300は、ブロックごとにピクチャを再構成する。ビデオデコーダ300は、各ブロックに対して個別に再構成動作を実行し得る(ここで、現在再構成されている、すなわち、復号されているブロックは「現在のブロック」と呼ばれることがある)。
エントロピー復号ユニット302は、量子化された変換係数ブロックの量子化された変換係数、ならびに量子化パラメータ(QP)および/または変換モード指示などの変換情報を定義するシンタックス要素をエントロピー復号し得る。逆量子化ユニット306は、量子化の程度と、同様に、逆量子化ユニット306が適用すべき逆量子化の程度とを決定するために、量子化された変換係数ブロックに関連付けられたQPを使用し得る。逆量子化ユニット306は、たとえば、量子化された変換係数を逆量子化するために、ビット単位の左シフト演算を実行し得る。逆量子化ユニット306は、それによって、変換係数を含む変換係数ブロックを形成し得る。
逆量子化ユニット306が変換係数ブロックを形成した後、逆変換処理ユニット308は、現在のブロックに関連付けられた残差ブロックを生成するために、1つまたは複数の逆変換を変換係数ブロックに適用し得る。たとえば、逆変換処理ユニット308は、逆DCT、逆整数変換、逆カルーネンレーベ変換(KLT)、逆回転変換、逆方向変換、または別の逆変換を変換係数ブロックに適用し得る。
さらに、予測処理ユニット304は、エントロピー復号ユニット302によってエントロピー復号された予測情報シンタックス要素に従って予測ブロックを生成する。たとえば、現在のブロックがインター予測されることを予測情報シンタックス要素が示す場合、動き補償ユニット316は予測ブロックを生成し得る。この場合、予測情報シンタックス要素は、そこから参照ブロックを取り出すべきDPB314中の参照ピクチャ、ならびに現在のピクチャ中の現在のブロックの場所に対する参照ピクチャ中の参照ブロックの場所を識別する動きベクトルを示し得る。動き補償ユニット316は、一般に、動き補償ユニット224(図6)に関して説明した方法と実質的に同様の方法でインター予測プロセスを実行し得る。
別の例として、現在のブロックがイントラ予測されることを予測情報シンタックス要素が示す場合、イントラ予測ユニット318は、予測情報シンタックス要素によって示されたイントラ予測モードに従って予測ブロックを生成し得る。やはり、イントラ予測ユニット318は、一般に、イントラ予測ユニット226(図6)に関して説明した方法と実質的に同様の方法でイントラ予測プロセスを実行し得る。イントラ予測ユニット318は、DPB314から現在のブロックに対する隣接サンプルのデータを取り出し得る。
再構成ユニット310は、予測ブロックおよび残差ブロックを使用して現在のブロックを再構成し得る。たとえば、再構成ユニット310は、残差ブロックのサンプルを予測ブロックの対応するサンプルに加えて、現在のブロックを再構成し得る。
フィルタユニット312は、再構成されたブロックに対して1つまたは複数のフィルタ動作を実行し得る。たとえば、フィルタユニット312は、再構成されたブロックの端部に沿ってブロッキネスアーティファクトを低減するためにデブロッキング動作を実行し得る。フィルタユニット312の動作は、必ずしもすべての例において実行されるとは限らない。加えて、フィルタユニット312は、ニューラルネットワークベースのフィルタ技法を含む、本開示の1つまたは複数のフィルタ技法を実行するように構成され得る。
具体的には、最初に、エントロピー復号ユニット302は、精錬フィルタ処理が適用されるべきかどうかを表すフラグの値を復号し得る。精錬フィルタ処理が適用されるべきである場合、エントロピー復号ユニット302は、1つまたは複数のスケーリング係数を表すデータをエントロピー復号し得る。たとえば、エントロピー復号ユニット302は、スケーリング係数を直接、またはルックアップテーブル(たとえば、インデックステーブルまたはマッピングテーブル)の中のスケーリング係数に対応するインデックス値をエントロピー復号し得る。エントロピー復号ユニット302は、スライスヘッダ、ピクチャヘッダ、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、または他の高レベルシンタックス構造からのフラグおよびスケーリング係数を復号し得る。
フィルタユニット312は、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つをビデオデータの復号されたブロックに適用して、1つまたは複数のフィルタ処理され復号されたブロックを形成するように構成され得る。次いで、精錬フィルタ処理が有効化されていると仮定すると、フィルタユニット312は、1つまたは複数のスケーリング係数をフィルタ処理され復号されたブロックに適用することによって、フィルタ処理され復号されたブロックを精錬し得る。たとえば、フィルタユニット312は、フィルタ処理され復号されたブロックを精錬するために、上記で説明した式(3)～式(8)のうちの1つを適用し得る。
いくつかの例では、フィルタユニット312は、オフセット値をスケーリングされフィルタ処理され復号されたブロックにさらに適用して、精錬されフィルタ処理され復号されたブロックを形成し得る。エントロピー復号ユニット302は、たとえば、オフセット値を直接表す、またはルックアップテーブル(すなわち、インデックステーブルまたはマッピングテーブル)の中のインデックス値によって表されるデータを復号し得る。
エントロピー復号ユニット302は、ピクチャヘッダ、ピクチャパラメータセット(PPS)、スライスヘッダ、および/もしくは適応パラメータセット(APS)、または他のそのような高レベルシンタックス構造からのスケーリング係数およびオフセット値(適用されるとき)を表すデータを復号し得る。
ビデオデコーダ300は、再構成されたブロックをDPB314に記憶し得る。たとえば、フィルタユニット312の動作が実行されない例では、再構成ユニット310が再構成されたブロックをDPB314に記憶し得る。フィルタユニット312の動作が実行される例では、フィルタユニット312が精錬されフィルタ処理され再構成されたブロックをDPB314に記憶し得る。上記で説明したように、DPB314は、イントラ予測のための現在のピクチャおよび後続の動き補償のための以前に復号されたピクチャのサンプルなどの参照情報を予測処理ユニット304に提供し得る。さらに、ビデオデコーダ300は、図1のディスプレイデバイス118などのディスプレイデバイス上に後で提示するために、DPB314からの復号されたピクチャ(たとえば、復号されたビデオ)を出力し得る。
このように、ビデオデコーダ300は、復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのブロックを復号して、復号されたブロックを形成し、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成し、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成し、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するように構成された1つまたは複数のプロセッサとを含むデバイスの一例を表す。
図8は、本開示の技法による、現在のブロックを符号化するための例示的な方法を示すフローチャートである。現在のブロックは現在のCUを含み得る。ビデオエンコーダ200(図1および図6)に関して説明するが、他のデバイスが図6の方法と同様の方法を実行するように構成され得ることを理解されたい。
この例では、ビデオエンコーダ200は最初に、現在のブロックを予測する(350)。たとえば、ビデオエンコーダ200は、現在のブロックのための予測ブロックを形成し得る。次いで、ビデオエンコーダ200は、現在のブロックのための残差ブロックを計算し得る(352)。残差ブロックを計算するために、ビデオエンコーダ200は、元の符号化されていないブロックと現在のブロックのための予測ブロックとの間の差分を計算し得る。次いで、ビデオエンコーダ200は、残差ブロックを変換し、残差ブロックの変換係数を量子化し得る(354)。次に、ビデオエンコーダ200は、残差ブロックの量子化された変換係数を走査し得る(356)。走査の間、または走査に続いて、ビデオエンコーダ200は、変換係数をエントロピー符号化し得る(358)。たとえば、ビデオエンコーダ200は、たとえば、CAVLCまたはCABACを使用して、変換係数をエントロピー符号化し得る。次いで、ビデオエンコーダ200は、ブロックのエントロピー符号化されたデータを出力し得る(360)。
ビデオエンコーダ200はまた、現在のブロックを符号化した後に現在のブロックを復号して、現在のブロックの復号されたバージョンを、(たとえば、インター予測モードまたはイントラ予測モードにおける)後でコーディングされるデータに対する参照データとして使用し得る。したがって、ビデオエンコーダ200は、係数を逆量子化および逆変換して、残差ブロックを再生し得る(362)。ビデオエンコーダ200は、残差ブロックを予測ブロックと合成して、復号されたブロックを形成し得る(364)。本開示の技法によれば、ビデオエンコーダ200は、復号されたブロックをフィルタ処理および精錬し得る(366)。次いで、ビデオエンコーダ200は、フィルタ処理され復号されたブロックをDPB218に記憶し得る(368)。
このように、図8の方法は、復号されたビデオデータをフィルタ処理する方法であって、ビデオデータのブロックを復号して、復号されたブロックを形成するステップと、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するステップと、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップと、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップとを含む方法の一例を表す。
図9は、本開示の技法による、ビデオデータの現在のブロックを復号するための例示的な方法を示すフローチャートである。現在のブロックは現在のCUを含み得る。ビデオデコーダ300(図1および図7)に関して説明するが、他のデバイスが図7の方法と同様の方法を実行するように構成され得ることを理解されたい。
ビデオデコーダ300は、エントロピー符号化された予測情報および現在のブロックに対応する残差ブロックの変換係数のエントロピー符号化されたデータなどの、現在のブロックのためのエントロピー符号化されたデータを受信し得る(370)。ビデオデコーダ300は、エントロピー符号化されたデータをエントロピー復号して、現在のブロックのための予測情報を決定し、残差ブロックの変換係数を再生し得る(372)。ビデオデコーダ300は、現在のブロックのための予測ブロックを計算するために、たとえば、現在のブロックのための予測情報によって示されるようなイントラ予測モードまたはインター予測モードを使用して、現在のブロックを予測し得る(374)。次いで、ビデオデコーダ300は、量子化された変換係数のブロックを作成するために、再生された変換係数を逆走査し得る(376)。次いで、ビデオデコーダ300は、変換係数を逆量子化し、逆変換を変換係数に適用して、残差ブロックを生成し得る(378)。ビデオデコーダ300は、予測ブロックおよび残差ブロックを合成することによって、現在のブロックを最終的に復号し得る(380)。
このように、図9の方法は、復号されたビデオデータをフィルタ処理する方法であって、ビデオデータのブロックを復号して、復号されたブロックを形成するステップと、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するステップと、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップと、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップとを含む方法の一例を表す。
図10は、本開示の技法による、ビデオデータを符号化するためのおよび復号されたビデオデータをフィルタ処理するための例示的な方法を示すフローチャートである。図10の方法は、図1および図6のビデオエンコーダ200に関して説明されるが、他のビデオ符号化デバイスは、この方法または同様の方法を実行するように構成され得る。
最初に、ビデオエンコーダ200は、ビデオデータのブロックを符号化し、その後、そのブロックを復号し得る(390)。次いで、ビデオエンコーダ200は、たとえば、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの1つまたは複数を使用して、復号されたブロックをフィルタ処理し得る(392)。
次いで、ビデオエンコーダ200は、レートひずみ最適化(RDO)を使用して、複数の動的に決定されたまたは事前定義されたスケーリング係数をテストし得る(394)。たとえば、ビデオエンコーダ200は、スケーリング係数の各々をフィルタ処理され復号されたブロックに適用し、得られた精錬されフィルタ処理され復号されたブロックを元のコーディングされていないブロックと比較して、RDO値を計算し得る。スケーリング係数のうちの少なくとも1つにより、精錬されフィルタ処理され復号されたブロックが精錬なしのフィルタ処理され復号されたブロックよりも良いRDO性能をもたらすと仮定すると、ビデオエンコーダ200は、本開示の技法による精錬フィルタ処理を有効化すると決定し得る。いくつかの例では、RDOプロセスは、スケーリング係数とともに適用されるオフセットをテストすることをさらに含み得る。いくつかの例では、ビデオエンコーダ200は、上記で説明したように、場合によってはオフセットとともに、複数の異なるフィルタおよび/または複数の異なるスケーリング係数をテストし得る。
次いで、ビデオエンコーダ200は、最良のRDO値を有するスケーリング係数のうちの1つ(または、場合によってはオフセットを伴う、スケーリング係数のセット)を決定し得る(396)。ビデオエンコーダ200は、決定されたスケーリング係数(またはスケーリング係数および/もしくはオフセットのセット)をフィルタ処理され復号されたブロックに適用し得る(398)。次いで、ビデオエンコーダ200は、たとえば、サンプルごとに、精錬されフィルタ処理されたブロックを元の復号されたブロックと合成し(400)、得られたブロックをDPB218に記憶し得る(402)。
さらに、ビデオエンコーダ200は、たとえば、スライスヘッダ、ピクチャヘッダ、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、または他のそのような高レベルシンタックス構造の中の、選択されたスケーリング係数を表すデータを符号化し得る(404)。さらに、ビデオエンコーダ200は、上記で説明したようなフィルタ精錬を有効化するフラグの値を符号化し得る。いくつかの例では、ビデオエンコーダ200は、スケーリング係数および/またはオフセットを直接表すデータを符号化し得るが、他の例では、ビデオエンコーダ200は、対応するルックアップテーブルの中の選択されたスケーリング係数および/またはオフセットに対応するインデックス値を符号化し得る。
このように、図10の方法は、復号されたビデオデータをフィルタ処理する方法であって、ビデオデータのブロックを復号して、復号されたブロックを形成するステップと、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するステップと、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップと、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップとを含む方法の一例を表す。
図11は、本開示の技法による、復号されたビデオデータをフィルタ処理するための例示的な方法を示すフローチャートである。図11の方法は、図1および図7のビデオデコーダ300に関して説明されるが、他のビデオ復号デバイスは、この方法または同様の方法を実行するように構成され得る。
最初に、ビデオデコーダ300は、ビデオデータのブロックを符号化し、その後、そのブロックを復号し得る(410)。次いで、ビデオデコーダ300は、たとえば、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの1つまたは複数を使用して、復号されたブロックをフィルタ処理し得る(412)。
次いで、ビデオデコーダ300は、本開示の技法による精錬フィルタ処理を有効化するデータを復号し得る(414)。すなわち、ビデオデコーダ300は、精錬フィルタ処理が有効化されるかどうかを表すシンタックス要素を復号し、精錬フィルタ処理が有効化されることをシンタックス要素の値が示すと決定し得る。次いで、ビデオデコーダ300は、スケーリング係数を示すデータを復号し得る(416)。たとえば、データは、スケーリング係数を直接表し得るか、またはインデックス値をスケーリング係数にマッピングするルックアップテーブルの中のインデックス値であり得る。いくつかの例では、ビデオデコーダ300は、スケーリング係数および/またはオフセットのセットを表すデータを復号し得る。このデータは、スライスヘッダ、ピクチャヘッダ、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、または他の高レベルシンタックス構造に含まれ得る。ビデオデコーダ300は、精錬されフィルタ処理されたブロックを生成するために、決定されたスケーリング係数(またはスケーリング係数および/もしくはオフセットのセット)をフィルタ処理され復号されたブロックに適用し得る(418)。次いで、ビデオデコーダ300は、たとえば、サンプルごとに、精錬されフィルタ処理されたブロックを元の復号されたブロックと合成し(420)、得られたブロックをDPB314に記憶し得る(422)。ビデオデコーダ300はまた、表示のために、DPB314からの得られたビデオデータを、たとえば、ディスプレイデバイスに出力し得る(424)。
このように、図11の方法は、復号されたビデオデータをフィルタ処理する方法であって、ビデオデータのブロックを復号して、復号されたブロックを形成するステップと、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するステップと、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップと、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップとを含む方法の一例を表す。
本開示のいくつかの例示的な技法が以下の条項において要約される。
条項1: ビデオデータを復号する方法であって、ビデオデータを再構成するステップと、フィルタを再構成されたビデオデータに適用するステップとを含み、フィルタを適用するステップが、フィルタ出力残差を精練するステップと、精錬されたフィルタ出力残差を加えて、入力サンプルを更新するステップとを含む方法。
条項2: フィルタ出力残差を精練するステップが、フィルタ出力残差をスケーリング係数で乗算するステップを含む、条項1の方法。
条項3: フィルタ出力残差を精練するステップが、フィルタ出力残差をスケーリング係数で乗算し、オフセットを加えるステップを含む、条項1の方法。
条項4: フィルタが、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの1つである、条項1～3のいずれかの方法。
条項5: フィルタ出力残差を精練するステップが、複数のフィルタのフィルタ出力残差を精練するステップを含む、条項1～5の任意の組合せの方法。
条項6: コーディングするステップが符号化するステップを含む、条項1～5のいずれかの方法。
条項7: コーディングするステップが復号するステップを含む、条項1～5のいずれかの方法。
条項8: ビデオデータをコーディングするためのデバイスであって、条項1～7のいずれかの方法を実行するための1つまたは複数の手段を備えるデバイス。
条項9: 1つまたは複数の手段が、回路において実装された1つまたは複数のプロセッサを備える、条項8のデバイス。
条項10: ビデオデータを記憶するためのメモリをさらに備える、条項8および9のいずれかのデバイス。
条項11: 復号されたビデオデータを表示するように構成されたディスプレイをさらに備える、条項8～10のいずれかのデバイス。
条項12: デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、条項8～11のいずれかのデバイス。
条項13: デバイスがビデオデコーダを備える、条項8～12のいずれかのデバイス。
条項14: デバイスがビデオエンコーダを備える、条項8～13のいずれかのデバイス。
条項15: 実行されると、1つまたは複数のプロセッサに条項1～7のいずれかの方法を実行させる命令を記憶したコンピュータ可読記憶媒体。
条項16: 復号されたビデオデータをフィルタ処理する方法であって、ビデオデータのブロックを復号して、復号されたブロックを形成するステップと、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するステップと、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップと、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップとを含む方法。
条項17: スケーリング係数を表すシンタックス要素の値を復号するステップをさらに含む、条項16の方法。
条項18: シンタックス要素の値を復号するステップが、ブロックを含むピクチャのピクチャヘッダを復号するステップを含み、ピクチャヘッダが、スケーリング係数を表すシンタックス要素を含む、条項17の方法。
条項19: シンタックス要素の値を復号するステップが、ブロックを含むスライスのスライスヘッダであって、シンタックス要素を含むスライスヘッダ、スライスの適応パラメータセット(APS)であって、シンタックス要素を含むAPS、または、ブロックのブロックヘッダであって、シンタックス要素を含むブロックヘッダのうちの少なくとも1つを復号するステップを含む、条項17の方法。
条項20: シンタックス要素の値を復号するステップが、インデックステーブルの中のスケーリング係数にマッピングされたインデックス値を復号するステップを含み、方法が、インデックステーブルを使用してインデックス値からスケーリング係数を決定するステップをさらに含む、条項17～19のいずれかの方法。
条項21: 値を事前定義されたビット精度を有する整数値によって逆量子化するステップをさらに含む、条項17～20のいずれかの方法。
条項22: スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算するステップが、フィルタ処理されたブロックのサンプルを複数のスケーリング係数の中のスケーリング係数の各々で乗算するステップを含む、条項16～21のいずれかの方法。
条項23: フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップが、オフセットをフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成するステップをさらに含む、条項16～22のいずれかの方法。
条項24: フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップが、オフセット値を決定するステップと、ビット単位のシフトをオフセット値に適用して、シフトされたオフセット値を形成するステップと、シフトされたオフセット値をフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成するステップとをさらに含む、条項16～22のいずれかの方法。
条項25: フィルタを適用するステップが、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用するステップを含む、条項16～24のいずれかの方法。
条項26: フィルタ処理されたブロックのサンプルをスケーリング係数で乗算する前に、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素がフィルタ処理されたブロックを精錬することを示す値を有すると決定するステップをさらに含む、条項16～25のいずれかの方法。
条項27: ブロックを含むスライスのスライスヘッダ、ブロックを含むピクチャのピクチャヘッダ、またはブロックを含むスライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素の値を復号するステップをさらに含む、条項26の方法。
条項28: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、方法が、第2のフィルタを復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成するステップと、第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成するステップとをさらに含み、第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップが、第1の精錬されフィルタ処理されたブロックのサンプルおよび第2の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップを含む、条項16～27のいずれかの方法。
条項29: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、第1のフィルタを復号されたブロックに適用するステップが、第1のフィルタを含む複数のフィルタの各々を復号されたブロックに適用して、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成するステップを含み、第1のフィルタ処理されたブロックのサンプルを第1のスケーリング係数で乗算するステップが、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックのサンプルを第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成するステップを含み、第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップが、複数の精錬されフィルタ処理されたブロックの各々のサンプルを復号されたブロックの対応するサンプルと合成するステップを含む、条項16～27のいずれかの方法。
条項30: 現在のブロックを復号する前に現在のブロックを符号化するステップをさらに含む、条項16～29のいずれかの方法。
条項31: 復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのブロックを復号して、復号されたブロックを形成し、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成し、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成し、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するように構成された1つまたは複数のプロセッサとを備えるデバイス。
条項32: 1つまたは複数のプロセッサが、スケーリング係数を表すシンタックス要素の値を復号するようにさらに構成される、条項31のデバイス。
条項33: シンタックス要素の値を復号するために、1つまたは複数のプロセッサが、ブロックを含むピクチャのピクチャヘッダを復号するように構成され、ピクチャヘッダが、スケーリング係数を表すシンタックス要素を含む、条項32のデバイス。
条項34: シンタックス要素の値を復号するために、1つまたは複数のプロセッサが、ブロックを含むスライスのスライスヘッダであって、シンタックス要素を含むスライスヘッダ、スライスの適応パラメータセット(APS)であって、シンタックス要素を含むAPS、または、ブロックのブロックヘッダであって、シンタックス要素を含むブロックヘッダのうちの少なくとも1つを復号するように構成される、条項32のデバイス。
条項35: シンタックス要素の値を復号するために、1つまたは複数のプロセッサが、インデックステーブルの中のスケーリング係数にマッピングされたインデックス値を復号し、インデックステーブルを使用してインデックス値からスケーリング係数を決定するように構成される、条項32～34のいずれかのデバイス。
条項36: 1つまたは複数のプロセッサが、値を事前定義されたビット精度を有する整数値によって逆量子化するようにさらに構成される、条項32～35のいずれかのデバイス。
条項37: スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、1つまたは複数のプロセッサが、フィルタ処理されたブロックのサンプルを複数のスケーリング係数の中のスケーリング係数の各々で乗算するように構成される、条項31～36のいずれかのデバイス。
条項38: 1つまたは複数のプロセッサが、オフセットをフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成するように構成される、条項31～37のいずれかのデバイス。
条項39: 精錬されフィルタ処理されたブロックを形成するために、1つまたは複数のプロセッサが、オフセット値を決定し、ビット単位のシフトをオフセット値に適用して、シフトされたオフセット値を形成し、シフトされたオフセット値をフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成するように構成される、条項31～37のいずれかのデバイス。
条項40: フィルタを適用するために、1つまたは複数のプロセッサが、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用するように構成される、条項31～39のいずれかのデバイス。
条項41: 1つまたは複数のプロセッサが、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算する前に、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素がフィルタ処理されたブロックを精錬することを示す値を有すると決定するようにさらに構成される、条項31～40のいずれかのデバイス。
条項42: 1つまたは複数のプロセッサが、ブロックを含むスライスのスライスヘッダ、ブロックを含むピクチャのピクチャヘッダ、またはブロックを含むスライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素の値を復号するようにさらに構成される、条項41のデバイス。
条項43: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、1つまたは複数のプロセッサが、第2のフィルタを復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成し、第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成するようにさらに構成され、第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するために、1つまたは複数のプロセッサが、第1の精錬されフィルタ処理されたブロックのサンプルおよび第2の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するように構成される、条項31～42のいずれかのデバイス。
条項44: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、1つまたは複数のプロセッサが、第1のフィルタを含む複数のフィルタの各々を復号されたブロックに適用して、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成し、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックのサンプルを第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成するように構成され、第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するために、1つまたは複数のプロセッサが、複数の精錬されフィルタ処理されたブロックの各々のサンプルを復号されたブロックの対応するサンプルと合成するように構成される、条項31～42のいずれかのデバイス。
条項45: 1つまたは複数のプロセッサが、現在のブロックを復号する前に現在のブロックを符号化するようにさらに構成される、条項31～44のいずれかのデバイス。
条項46: 復号されたビデオデータを表示するように構成されたディスプレイをさらに備える、条項31～45のいずれかのデバイス。
条項47: デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、条項31～46のいずれかのデバイス。
条項48: 命令を記憶したコンピュータ可読記憶媒体であって、命令が、実行されると、プロセッサに、ビデオデータのブロックを復号して、復号されたブロックを形成させ、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成させ、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成させ、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる、コンピュータ可読記憶媒体。
条項49: プロセッサにスケーリング係数を表すシンタックス要素の値を復号させる命令をさらに含む、条項48のコンピュータ可読記憶媒体。
条項50: プロセッサにシンタックス要素の値を復号させる命令が、プロセッサにブロックを含むピクチャのピクチャヘッダを復号させる命令を含み、ピクチャヘッダが、スケーリング係数を表すシンタックス要素を含む、条項49のコンピュータ可読記憶媒体。
条項51: プロセッサにシンタックス要素の値を復号させる命令が、プロセッサに、ブロックを含むスライスのスライスヘッダであって、シンタックス要素を含むスライスヘッダ、スライスの適応パラメータセット(APS)であって、シンタックス要素を含むAPS、または、ブロックのブロックヘッダであって、シンタックス要素を含むブロックヘッダのうちの少なくとも1つを復号させる命令を含む、条項49のコンピュータ可読記憶媒体。
条項52: プロセッサにシンタックス要素の値を復号させる命令が、プロセッサにインデックステーブルの中のスケーリング係数にマッピングされたインデックス値を復号させる命令を含み、方法が、インデックステーブルを使用してインデックス値からスケーリング係数を決定するステップをさらに含む、条項49～51のいずれかのコンピュータ可読記憶媒体。
条項53: プロセッサに値を事前定義されたビット精度を有する整数値によって逆量子化させる命令をさらに含む、条項49～52のいずれかのコンピュータ可読記憶媒体。
条項54: スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、プロセッサにフィルタ処理されたブロックのサンプルをスケーリング係数で乗算させる命令が、プロセッサにフィルタ処理されたブロックのサンプルを複数のスケーリング係数の中のスケーリング係数の各々で乗算させる命令を含む、条項48～53のいずれかのコンピュータ可読記憶媒体。
条項55: プロセッサに、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成させる命令が、プロセッサに、オフセットをフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成させる命令をさらに含む、条項48～54のいずれかのコンピュータ可読記憶媒体。
条項56: プロセッサに、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成させる命令が、プロセッサに、オフセット値を決定させ、ビット単位のシフトをオフセット値に適用して、シフトされたオフセット値を形成させ、シフトされたオフセット値をフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成させる命令をさらに含む、条項48～55のいずれかのコンピュータ可読記憶媒体。
条項57: プロセッサにフィルタを適用させる命令が、プロセッサにニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用させる命令を含む、条項48～56のいずれかのコンピュータ可読記憶媒体。
条項58: プロセッサに、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算する前に、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素がフィルタ処理されたブロックを精錬することを示す値を有すると決定させる命令をさらに含む、条項48～57のいずれかのコンピュータ可読記憶媒体。
条項59: プロセッサに、ブロックを含むスライスのスライスヘッダ、ブロックを含むピクチャのピクチャヘッダ、またはブロックを含むスライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素の値を復号させる命令をさらに含む、条項48～58のいずれかのコンピュータ可読記憶媒体。
条項60: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、プロセッサに、第2のフィルタを復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成させ、第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成させる命令をさらに含み、プロセッサに第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる命令が、プロセッサに第1の精錬されフィルタ処理されたブロックのサンプルおよび第2の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる命令を含む、条項48～59のいずれかのコンピュータ可読記憶媒体。
条項61: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、プロセッサに第1のフィルタを復号されたブロックに適用させる命令が、プロセッサに第1のフィルタを含む複数のフィルタの各々を復号されたブロックに適用して、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成させる命令を含み、プロセッサに第1のフィルタ処理されたブロックのサンプルを第1のスケーリング係数で乗算させる命令が、プロセッサに第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックのサンプルを第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成させる命令を含み、プロセッサに第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる命令が、プロセッサに複数の精錬されフィルタ処理されたブロックの各々のサンプルを復号されたブロックの対応するサンプルと合成させる命令を含む、条項48～59のいずれかのコンピュータ可読記憶媒体。
条項62: プロセッサに現在のブロックを復号する前に現在のブロックを符号化させる命令をさらに含む、条項48～61のいずれかのコンピュータ可読記憶媒体。
条項63: 復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータのブロックを復号して、復号されたブロックを形成するための手段と、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するための手段と、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するための手段と、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するための手段とを備えるデバイス。
条項64: 復号されたビデオデータをフィルタ処理する方法であって、ビデオデータのブロックを復号して、復号されたブロックを形成するステップと、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するステップと、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップと、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップとを含む方法。
条項65: スケーリング係数を表すシンタックス要素の値を復号するステップをさらに含む、条項64の方法。
条項66: シンタックス要素の値を復号するステップが、ブロックを含むピクチャのピクチャヘッダを復号するステップを含み、ピクチャヘッダが、スケーリング係数を表すシンタックス要素を含む、条項65の方法。
条項67: シンタックス要素の値を復号するステップが、ブロックを含むスライスのスライスヘッダであって、シンタックス要素を含むスライスヘッダ、スライスの適応パラメータセット(APS)であって、シンタックス要素を含むAPS、または、ブロックのブロックヘッダであって、シンタックス要素を含むブロックヘッダのうちの少なくとも1つを復号するステップを含む、条項65の方法。
条項68: シンタックス要素の値を復号するステップが、インデックステーブルの中のスケーリング係数にマッピングされたインデックス値を復号するステップを含み、方法が、インデックステーブルを使用してインデックス値からスケーリング係数を決定するステップをさらに含む、条項65の方法。
条項69: 値を事前定義されたビット精度を有する整数値によって逆量子化するステップをさらに含む、条項65の方法。
条項70: スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算するステップが、フィルタ処理されたブロックのサンプルを複数のスケーリング係数の中のスケーリング係数の各々で乗算するステップを含む、条項64の方法。
条項71: フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップが、オフセットをフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成するステップをさらに含む、条項64の方法。
条項72: フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップが、オフセット値を決定するステップと、ビット単位のシフトをオフセット値に適用して、シフトされたオフセット値を形成するステップと、シフトされたオフセット値をフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成するステップとをさらに含む、条項64の方法。
条項73: フィルタを適用するステップが、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用するステップを含む、条項64の方法。
条項74: フィルタ処理されたブロックのサンプルをスケーリング係数で乗算する前に、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素がフィルタ処理されたブロックを精錬することを示す値を有すると決定するステップをさらに含む、条項64の方法。
条項75: ブロックを含むスライスのスライスヘッダ、ブロックを含むピクチャのピクチャヘッダ、またはブロックを含むスライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素の値を復号するステップをさらに含む、条項74の方法。
条項76: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、方法が、第2のフィルタを復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成するステップと、第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成するステップとをさらに含み、第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップが、第1の精錬されフィルタ処理されたブロックのサンプルおよび第2の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップを含む、条項64の方法。
条項77: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、第1のフィルタを復号されたブロックに適用するステップが、第1のフィルタを含む複数のフィルタの各々を復号されたブロックに適用して、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成するステップを含み、第1のフィルタ処理されたブロックのサンプルを第1のスケーリング係数で乗算するステップが、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックのサンプルを第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成するステップを含み、第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するステップが、複数の精錬されフィルタ処理されたブロックの各々のサンプルを復号されたブロックの対応するサンプルと合成するステップを含む、条項64の方法。
条項78: 現在のブロックを復号する前に現在のブロックを符号化するステップをさらに含む、条項64の方法。
条項79: 復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのブロックを復号して、復号されたブロックを形成し、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成し、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成し、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するように構成された1つまたは複数のプロセッサとを備えるデバイス。
条項80: 1つまたは複数のプロセッサが、スケーリング係数を表すシンタックス要素の値を復号するようにさらに構成される、条項79のデバイス。
条項81: シンタックス要素の値を復号するために、1つまたは複数のプロセッサが、ブロックを含むピクチャのピクチャヘッダを復号するように構成され、ピクチャヘッダが、スケーリング係数を表すシンタックス要素を含む、条項80のデバイス。
条項82: シンタックス要素の値を復号するために、1つまたは複数のプロセッサが、ブロックを含むスライスのスライスヘッダであって、シンタックス要素を含むスライスヘッダ、スライスの適応パラメータセット(APS)であって、シンタックス要素を含むAPS、または、ブロックのブロックヘッダであって、シンタックス要素を含むブロックヘッダのうちの少なくとも1つを復号するように構成される、条項80のデバイス。
条項83: シンタックス要素の値を復号するために、1つまたは複数のプロセッサが、インデックステーブルの中のスケーリング係数にマッピングされたインデックス値を復号し、インデックステーブルを使用してインデックス値からスケーリング係数を決定するように構成される、条項80のデバイス。
条項84: 1つまたは複数のプロセッサが、値を事前定義されたビット精度を有する整数値によって逆量子化するようにさらに構成される、条項80のデバイス。
条項85: スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、1つまたは複数のプロセッサが、フィルタ処理されたブロックのサンプルを複数のスケーリング係数の中のスケーリング係数の各々で乗算するように構成される、条項79のデバイス。
条項86: 1つまたは複数のプロセッサが、オフセットをフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成するように構成される、条項79のデバイス。
条項87: 精錬されフィルタ処理されたブロックを形成するために、1つまたは複数のプロセッサが、オフセット値を決定し、ビット単位のシフトをオフセット値に適用して、シフトされたオフセット値を形成し、シフトされたオフセット値をフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成するように構成される、条項79のデバイス。
条項88: フィルタを適用するために、1つまたは複数のプロセッサが、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用するように構成される、条項79のデバイス。
条項89: 1つまたは複数のプロセッサが、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算する前に、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素がフィルタ処理されたブロックを精錬することを示す値を有すると決定するようにさらに構成される、条項79のデバイス。
条項90: 1つまたは複数のプロセッサが、ブロックを含むスライスのスライスヘッダ、ブロックを含むピクチャのピクチャヘッダ、またはブロックを含むスライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素の値を復号するようにさらに構成される、条項89のデバイス。
条項91: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、1つまたは複数のプロセッサが、第2のフィルタを復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成し、第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成するようにさらに構成され、第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するために、1つまたは複数のプロセッサが、第1の精錬されフィルタ処理されたブロックのサンプルおよび第2の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するように構成される、条項79のデバイス。
条項92: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、1つまたは複数のプロセッサが、第1のフィルタを含む複数のフィルタの各々を復号されたブロックに適用して、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成し、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックのサンプルを第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成するように構成され、第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するために、1つまたは複数のプロセッサが、複数の精錬されフィルタ処理されたブロックの各々のサンプルを復号されたブロックの対応するサンプルと合成するように構成される、条項79のデバイス。
条項93: 1つまたは複数のプロセッサが、現在のブロックを復号する前に現在のブロックを符号化するようにさらに構成される、条項79のデバイス。
条項94: 復号されたビデオデータを表示するように構成されたディスプレイをさらに備える、条項79のデバイス。
条項95: デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、条項79のデバイス。
条項96: 命令を記憶したコンピュータ可読記憶媒体であって、命令が、実行されると、プロセッサに、ビデオデータのブロックを復号して、復号されたブロックを形成させ、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成させ、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成させ、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる、コンピュータ可読記憶媒体。
条項97: プロセッサにスケーリング係数を表すシンタックス要素の値を復号させる命令をさらに含む、条項96のコンピュータ可読記憶媒体。
条項98: プロセッサにシンタックス要素の値を復号させる命令が、プロセッサにブロックを含むピクチャのピクチャヘッダを復号させる命令を含み、ピクチャヘッダが、スケーリング係数を表すシンタックス要素を含む、条項97のコンピュータ可読記憶媒体。
条項99: プロセッサにシンタックス要素の値を復号させる命令が、プロセッサに、ブロックを含むスライスのスライスヘッダであって、シンタックス要素を含むスライスヘッダ、スライスの適応パラメータセット(APS)であって、シンタックス要素を含むAPS、または、ブロックのブロックヘッダであって、シンタックス要素を含むブロックヘッダのうちの少なくとも1つを復号させる命令を含む、条項97のコンピュータ可読記憶媒体。
条項100: プロセッサにシンタックス要素の値を復号させる命令が、プロセッサにインデックステーブルの中のスケーリング係数にマッピングされたインデックス値を復号させる命令を含み、方法が、インデックステーブルを使用してインデックス値からスケーリング係数を決定するステップをさらに含む、条項97のコンピュータ可読記憶媒体。
条項101: プロセッサに値を事前定義されたビット精度を有する整数値によって逆量子化させる命令をさらに含む、条項97のコンピュータ可読記憶媒体。
条項102: スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、プロセッサにフィルタ処理されたブロックのサンプルをスケーリング係数で乗算させる命令が、プロセッサにフィルタ処理されたブロックのサンプルを複数のスケーリング係数の中のスケーリング係数の各々で乗算させる命令を含む、条項96のコンピュータ可読記憶媒体。
条項103: プロセッサに、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成させる命令が、プロセッサに、オフセットをフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成させる命令をさらに含む、条項96のコンピュータ可読記憶媒体。
条項104: プロセッサに、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成させる命令が、プロセッサに、オフセット値を決定させ、ビット単位のシフトをオフセット値に適用して、シフトされたオフセット値を形成させ、シフトされたオフセット値をフィルタ処理されたブロックのサンプルとスケーリング係数の積に加えて、精錬されフィルタ処理されたブロックを形成させる命令をさらに含む、条項96のコンピュータ可読記憶媒体。
条項105: プロセッサにフィルタを適用させる命令が、プロセッサにニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用させる命令を含む、条項96のコンピュータ可読記憶媒体。
条項106: プロセッサに、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算する前に、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素がフィルタ処理されたブロックを精錬することを示す値を有すると決定させる命令をさらに含む、条項96のコンピュータ可読記憶媒体。
条項107: プロセッサに、ブロックを含むスライスのスライスヘッダ、ブロックを含むピクチャのピクチャヘッダ、またはブロックを含むスライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素の値を復号させる命令をさらに含む、条項106のコンピュータ可読記憶媒体。
条項108: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、プロセッサに、第2のフィルタを復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成させ、第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成させる命令をさらに含み、プロセッサに第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる命令が、プロセッサに第1の精錬されフィルタ処理されたブロックのサンプルおよび第2の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる命令を含む、条項96のコンピュータ可読記憶媒体。
条項109: フィルタが第1のフィルタを含み、フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、精錬されフィルタ処理されたブロックが第1の精錬されフィルタ処理されたブロックを含み、スケーリング係数が第1のスケーリング係数を含み、プロセッサに第1のフィルタを復号されたブロックに適用させる命令が、プロセッサに第1のフィルタを含む複数のフィルタの各々を復号されたブロックに適用して、第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成させる命令を含み、プロセッサに第1のフィルタ処理されたブロックのサンプルを第1のスケーリング係数で乗算させる命令が、プロセッサに第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックのサンプルを第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成させる命令を含み、プロセッサに第1の精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成させる命令が、プロセッサに複数の精錬されフィルタ処理されたブロックの各々のサンプルを復号されたブロックの対応するサンプルと合成させる命令を含む、条項96のコンピュータ可読記憶媒体。
条項110: プロセッサに現在のブロックを復号する前に現在のブロックを符号化させる命令をさらに含む、条項96のコンピュータ可読記憶媒体。
条項111: 復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータのブロックを復号して、復号されたブロックを形成するための手段と、フィルタを復号されたブロックに適用して、フィルタ処理されたブロックを形成するための手段と、フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するための手段と、精錬されフィルタ処理されたブロックのサンプルを復号されたブロックの対応するサンプルと合成するための手段とを備えるデバイス。
例に応じて、本明細書で説明する技法のいずれかのいくつかの行為またはイベントが、異なるシーケンスで実行される場合があり、追加され、統合され、または完全に除外されてもよい(たとえば、説明したすべての行為またはイベントが技法の実践にとって必要であるとは限らない)ことを認識されたい。さらに、いくつかの例では、行為またはイベントは、連続的にではなく、たとえば、マルチスレッド処理、割込み処理、または複数のプロセッサを通じて、同時に実行されてもよい。
1つまたは複数の例では、説明した機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せにおいて実装され得る。ソフトウェアにおいて実装される場合、機能は、1つまたは複数の命令またはコードとして、コンピュータ可読媒体上に記憶されるか、またはコンピュータ可読媒体を介して送信され、ハードウェアベースの処理ユニットによって実行され得る。コンピュータ可読媒体は、データ記憶媒体などの有形媒体に対応するコンピュータ可読記憶媒体、または、たとえば、通信プロトコルに従って、ある場所から別の場所へのコンピュータプログラムの転送を容易にする任意の媒体を含む通信媒体を含み得る。このように、コンピュータ可読媒体は一般に、(1)非一時的である有形コンピュータ可読記憶媒体、または(2)信号もしくは搬送波などの通信媒体に対応し得る。データ記憶媒体は、本開示で説明する技法の実装のための命令、コードおよび/またはデータ構造を取り出すために1つもしくは複数のコンピュータまたは1つもしくは複数のプロセッサによってアクセスされ得る、任意の利用可能な媒体であり得る。コンピュータプログラム製品は、コンピュータ可読媒体を含み得る。
限定ではなく例として、そのようなコンピュータ可読記憶媒体は、RAM、ROM、EEPROM、CD-ROMもしくは他の光ディスクストレージ、磁気ディスクストレージもしくは他の磁気記憶デバイス、フラッシュメモリ、または、命令もしくはデータ構造の形態の所望のプログラムコードを記憶するために使用され得、コンピュータによってアクセスされ得る任意の他の媒体を備えることができる。また、いかなる接続もコンピュータ可読媒体と適切に呼ばれる。たとえば、命令が、同軸ケーブル、光ファイバーケーブル、ツイストペア、デジタル加入者線(DSL)、または赤外線、無線、およびマイクロ波などのワイヤレス技術を使用してウェブサイト、サーバ、または他のリモートソースから送信される場合、同軸ケーブル、光ファイバーケーブル、ツイストペア、DSL、または赤外線、無線、およびマイクロ波などのワイヤレス技術は媒体の定義に含まれる。しかしながら、コンピュータ可読記憶媒体およびデータ記憶媒体が、接続、搬送波、信号、または他の一時的媒体を含まず、代わりに非一時的有形記憶媒体を対象とすることを理解されたい。本明細書で使用するディスク(disk)およびディスク(disc)は、コンパクトディスク(disc)(CD)、レーザーディスク(登録商標)(disc)、光ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピーディスク(disk)およびブルーレイディスク(disc)を含み、ディスク(disk)は通常、データを磁気的に再生し、ディスク(disc)は、レーザーを用いてデータを光学的に再生する。上記の組合せも、コンピュータ可読媒体の範囲内に含まれるべきである。
命令は、1つまたは複数のDSP、汎用マイクロプロセッサ、ASIC、FPGA、または他の等価な集積論理回路もしくはディスクリート論理回路などの、1つまたは複数のプロセッサによって実行され得る。したがって、本明細書で使用する「プロセッサ」および「処理回路」という用語は、上記の構造、または本明細書で説明する技法の実装に適した任意の他の構造のいずれかを指すことがある。加えて、いくつかの態様では、本明細書で説明する機能は、符号化および復号のために構成された専用のハードウェアモジュールおよび/もしくはソフトウェアモジュール内で提供されてもよく、または複合コーデックに組み込まれてもよい。また、技法は、1つまたは複数の回路または論理要素において完全に実装され得る。
本開示の技法は、ワイヤレスハンドセット、集積回路(IC)またはICのセット(たとえば、チップセット)を含む、多種多様なデバイスまたは装置において実装され得る。開示した技法を実行するように構成されたデバイスの機能的態様を強調するために、様々な構成要素、モジュール、またはユニットについて本開示で説明したが、それらは必ずしも異なるハードウェアユニットによる実現を必要とするとは限らない。むしろ、上記で説明したように、様々なユニットは、コーデックハードウェアユニットにおいて組み合わされてもよく、または好適なソフトウェアおよび/もしくはファームウェアとともに、上記で説明したような1つもしくは複数のプロセッサを含む、相互動作可能なハードウェアユニットの集合によって提供されてもよい。
様々な例について説明してきた。これらおよび他の例は、以下の特許請求の範囲内に入る。
100 ビデオ符号化および復号システム、システム
102 ソースデバイス
104 ビデオソース
106 メモリ
108 出力インターフェース
110 コンピュータ可読媒体
112 記憶デバイス
114 ファイルサーバ
116 宛先デバイス
118 ディスプレイデバイス
120 メモリ
122 入力インターフェース
130 ハイブリッドビデオコーダ、ビデオコーダ
132 入力ビデオデータ
134 加算ユニット
136 変換ユニット
138 量子化ユニット
140 エントロピーコーディングユニット
142 逆量子化ユニット
144 逆変換ユニット
146 加算ユニット
148 ループフィルタユニット
150 復号ピクチャバッファ(DPB)、DPB
152 イントラ予測ユニット
154 インター予測ユニット
156 動き推定ユニット
158 出力ビットストリーム
160 出力ビデオデータ
170 階層予測構造
180 再構成されたサンプル
182 NNベースのフィルタ処理プロセス
184 精錬されたデータ
190 4分木2分木(QTBT)構造、QTBT構造
192 コーディングツリーユニット(CTU)、CTU
200 ビデオエンコーダ
202 モード選択ユニット
204 残差生成ユニット
206 変換処理ユニット
208 量子化ユニット
210 逆量子化ユニット
212 逆変換処理ユニット
214 再構成ユニット
216 フィルタユニット
218 復号ピクチャバッファ(DPB)、DPB
220 エントロピー符号化ユニット
222 動き推定ユニット
224 動き補償ユニット
226 イントラ予測ユニット
230 ビデオデータメモリ
300 ビデオデコーダ
302 エントロピー復号ユニット
304 予測処理ユニット
306 逆量子化ユニット
308 逆変換処理ユニット
310 再構成ユニット
312 フィルタユニット
314 復号ピクチャバッファ(DPB)、DPB
316 動き補償ユニット
318 イントラ予測ユニット
320 コード化ピクチャバッファ(CPB)メモリ、CPBメモリ

Claims (48)

  1. 復号されたビデオデータをフィルタ処理する方法であって、
    ビデオデータのブロックを復号して、復号されたブロックを形成するステップと、
    フィルタを前記復号されたブロックに適用して、フィルタ処理されたブロックを形成するステップと、
    前記フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するステップと、
    前記精錬されフィルタ処理されたブロックのサンプルを前記復号されたブロックの対応するサンプルと合成するステップと
    を含む方法。
  2. 前記スケーリング係数を表すシンタックス要素の値を復号するステップをさらに含む、請求項1に記載の方法。
  3. 前記シンタックス要素の前記値を復号するステップが、ビデオデータの前記ブロックを含むピクチャのピクチャヘッダを復号するステップを含み、
    前記ピクチャヘッダが、前記スケーリング係数を表す前記シンタックス要素を含む、請求項2に記載の方法。
  4. 前記シンタックス要素の前記値を復号するステップが、
    前記ブロックを含むスライスのスライスヘッダであって、前記シンタックス要素を含むスライスヘッダ、
    前記スライスの適応パラメータセット(APS)であって、前記シンタックス要素を含むAPS、または、
    前記ブロックのブロックヘッダであって、前記シンタックス要素を含むブロックヘッダ
    のうちの少なくとも1つを復号するステップを含む、請求項2に記載の方法。
  5. 前記シンタックス要素の前記値を復号するステップが、インデックステーブルの中の前記スケーリング係数にマッピングされたインデックス値を復号するステップを含み、
    前記方法が、前記インデックステーブルを使用して前記インデックス値から前記スケーリング係数を決定するステップをさらに含む、請求項2に記載の方法。
  6. 前記シンタックス要素の前記値を事前定義されたビット精度を有する整数値によって逆量子化するステップをさらに含む、請求項2に記載の方法。
  7. 前記スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、
    前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算するステップが、前記フィルタ処理されたブロックの前記サンプルを前記複数のスケーリング係数の中のスケーリング係数の各々で乗算するステップを含む、請求項1に記載の方法。
  8. 前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算して、前記精錬されフィルタ処理されたブロックを形成するステップが、オフセットを前記フィルタ処理されたブロックの前記サンプルと前記スケーリング係数の積に加えて、前記精錬されフィルタ処理されたブロックを形成するステップをさらに含む、請求項1に記載の方法。
  9. 前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算して、前記精錬されフィルタ処理されたブロックを形成するステップが、
    オフセット値を決定するステップと、
    ビット単位のシフトを前記オフセット値に適用して、シフトされたオフセット値を形成するステップと、
    前記シフトされたオフセット値を前記フィルタ処理されたブロックの前記サンプルと前記スケーリング係数の積に加えて、前記精錬されフィルタ処理されたブロックを形成するステップと
    をさらに含む、請求項1に記載の方法。
  10. 前記フィルタを適用するステップが、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用するステップを含む、請求項1に記載の方法。
  11. 前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算する前に、前記フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素が前記フィルタ処理されたブロックを精錬することを示す値を有すると決定するステップをさらに含む、請求項1に記載の方法。
  12. 前記ブロックを含むスライスのスライスヘッダ、前記ブロックを含むピクチャのピクチャヘッダ、または前記ブロックを含む前記スライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、前記フィルタ処理されたブロックを精錬するかどうかを表す前記シンタックス要素の前記値を復号するステップをさらに含む、請求項11に記載の方法。
  13. 前記フィルタが第1のフィルタを含み、
    前記フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、
    前記精錬されフィルタ処理されたブロックが、第1の精錬されフィルタ処理されたブロックを含み、
    前記スケーリング係数が第1のスケーリング係数を含み、
    前記方法が、
    第2のフィルタを前記復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成するステップと、
    前記第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成するステップと
    をさらに含み、
    前記第1の精錬されフィルタ処理されたブロックの前記サンプルを前記復号されたブロックの前記対応するサンプルと合成するステップが、前記第1の精錬されフィルタ処理されたブロックの前記サンプルおよび前記第2の精錬されフィルタ処理されたブロックのサンプルを前記復号されたブロックの前記対応するサンプルと合成するステップを含む、
    請求項1に記載の方法。
  14. 前記フィルタが第1のフィルタを含み、
    前記フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、
    前記精錬されフィルタ処理されたブロックが、第1の精錬されフィルタ処理されたブロックを含み、
    前記スケーリング係数が第1のスケーリング係数を含み、
    前記第1のフィルタを前記復号されたブロックに適用するステップが、前記第1のフィルタを含む複数のフィルタの各々を前記復号されたブロックに適用して、前記第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成するステップを含み、
    前記第1のフィルタ処理されたブロックの前記サンプルを前記第1のスケーリング係数で乗算するステップが、前記第1のフィルタ処理されたブロックを含む前記それぞれの複数のフィルタ処理されたブロックのサンプルを前記第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、前記第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成するステップを含み、
    前記第1の精錬されフィルタ処理されたブロックの前記サンプルを前記復号されたブロックの前記対応するサンプルと合成するステップが、前記複数の精錬されフィルタ処理されたブロックの各々の前記サンプルを前記復号されたブロックの前記対応するサンプルと合成するステップを含む、
    請求項1に記載の方法。
  15. 現在のブロックを復号する前に前記現在のブロックを符号化するステップをさらに含む、請求項1に記載の方法。
  16. 復号されたビデオデータをフィルタ処理するためのデバイスであって、
    ビデオデータを記憶するように構成されたメモリと、
    回路において実装され、
    ビデオデータのブロックを復号して、復号されたブロックを形成し、
    フィルタを前記復号されたブロックに適用して、フィルタ処理されたブロックを形成し、
    前記フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成し、
    前記精錬されフィルタ処理されたブロックのサンプルを前記復号されたブロックの対応するサンプルと合成する
    ように構成された1つまたは複数のプロセッサと
    を備えるデバイス。
  17. 前記1つまたは複数のプロセッサが、前記スケーリング係数を表すシンタックス要素の値を復号するようにさらに構成される、請求項16に記載のデバイス。
  18. 前記シンタックス要素の前記値を復号するために、前記1つまたは複数のプロセッサが、ビデオデータの前記ブロックを含むピクチャのピクチャヘッダを復号するように構成され、前記ピクチャヘッダが、前記スケーリング係数を表す前記シンタックス要素を含む、請求項17に記載のデバイス。
  19. 前記シンタックス要素の前記値を復号するために、前記1つまたは複数のプロセッサが、
    前記ブロックを含むスライスのスライスヘッダであって、前記シンタックス要素を含むスライスヘッダ、
    前記スライスの適応パラメータセット(APS)であって、前記シンタックス要素を含むAPS、または、
    前記ブロックのブロックヘッダであって、前記シンタックス要素を含むブロックヘッダ
    のうちの少なくとも1つを復号するように構成される、請求項17に記載のデバイス。
  20. 前記シンタックス要素の前記値を復号するために、前記1つまたは複数のプロセッサが、インデックステーブルの中の前記スケーリング係数にマッピングされたインデックス値を復号し、前記インデックステーブルを使用して前記インデックス値から前記スケーリング係数を決定するように構成される、請求項17に記載のデバイス。
  21. 前記1つまたは複数のプロセッサが、前記シンタックス要素の前記値を事前定義されたビット精度を有する整数値によって逆量子化するようにさらに構成される、請求項17に記載のデバイス。
  22. 前記スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、
    前記1つまたは複数のプロセッサが、前記フィルタ処理されたブロックの前記サンプルを前記複数のスケーリング係数の中のスケーリング係数の各々で乗算するように構成される、請求項16に記載のデバイス。
  23. 前記1つまたは複数のプロセッサが、オフセットを前記フィルタ処理されたブロックの前記サンプルと前記スケーリング係数の積に加えて、前記精錬されフィルタ処理されたブロックを形成するように構成される、請求項16に記載のデバイス。
  24. 前記精錬されフィルタ処理されたブロックを形成するために、前記1つまたは複数のプロセッサが、
    オフセット値を決定し、
    ビット単位のシフトを前記オフセット値に適用して、シフトされたオフセット値を形成し、
    前記シフトされたオフセット値を前記フィルタ処理されたブロックの前記サンプルと前記スケーリング係数の積に加えて、前記精錬されフィルタ処理されたブロックを形成する
    ように構成される、請求項16に記載のデバイス。
  25. 前記フィルタを適用するために、前記1つまたは複数のプロセッサが、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用するように構成される、請求項16に記載のデバイス。
  26. 前記1つまたは複数のプロセッサが、前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算する前に、前記フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素が前記フィルタ処理されたブロックを精錬することを示す値を有すると決定するようにさらに構成される、請求項16に記載のデバイス。
  27. 前記1つまたは複数のプロセッサが、前記ブロックを含むスライスのスライスヘッダ、前記ブロックを含むピクチャのピクチャヘッダ、または前記ブロックを含む前記スライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、前記フィルタ処理されたブロックを精錬するかどうかを表す前記シンタックス要素の前記値を復号するようにさらに構成される、請求項26に記載のデバイス。
  28. 前記フィルタが第1のフィルタを含み、
    前記フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、
    前記精錬されフィルタ処理されたブロックが、第1の精錬されフィルタ処理されたブロックを含み、
    前記スケーリング係数が第1のスケーリング係数を含み、
    前記1つまたは複数のプロセッサが、
    第2のフィルタを前記復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成し、
    前記第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成する
    ようにさらに構成され、
    前記第1の精錬されフィルタ処理されたブロックの前記サンプルを前記復号されたブロックの前記対応するサンプルと合成するために、前記1つまたは複数のプロセッサが、前記第1の精錬されフィルタ処理されたブロックの前記サンプルおよび前記第2の精錬されフィルタ処理されたブロックのサンプルを前記復号されたブロックの前記対応するサンプルと合成するように構成される、
    請求項16に記載のデバイス。
  29. 前記フィルタが第1のフィルタを含み、
    前記フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、
    前記精錬されフィルタ処理されたブロックが、第1の精錬されフィルタ処理されたブロックを含み、
    前記スケーリング係数が第1のスケーリング係数を含み、
    前記1つまたは複数のプロセッサが、
    前記第1のフィルタを含む複数のフィルタの各々を前記復号されたブロックに適用して、前記第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成し、
    前記第1のフィルタ処理されたブロックを含む前記それぞれの複数のフィルタ処理されたブロックのサンプルを前記第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、前記第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成する
    ように構成され、
    前記第1の精錬されフィルタ処理されたブロックの前記サンプルを前記復号されたブロックの前記対応するサンプルと合成するために、前記1つまたは複数のプロセッサが、前記複数の精錬されフィルタ処理されたブロックの各々の前記サンプルを前記復号されたブロックの前記対応するサンプルと合成するように構成される、
    請求項16に記載のデバイス。
  30. 前記1つまたは複数のプロセッサが、現在のブロックを復号する前に前記現在のブロックを符号化するようにさらに構成される、請求項16に記載のデバイス。
  31. 復号されたビデオデータを表示するように構成されたディスプレイをさらに備える、請求項16に記載のデバイス。
  32. 前記デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、請求項16に記載のデバイス。
  33. 命令を記憶したコンピュータ可読記憶媒体であって、前記命令が、実行されると、プロセッサに、
    ビデオデータのブロックを復号して、復号されたブロックを形成させ、
    フィルタを前記復号されたブロックに適用して、フィルタ処理されたブロックを形成させ、
    前記フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成させ、
    前記精錬されフィルタ処理されたブロックのサンプルを前記復号されたブロックの対応するサンプルと合成させる、
    コンピュータ可読記憶媒体。
  34. 前記プロセッサに、前記スケーリング係数を表すシンタックス要素の値を復号させる命令をさらに含む、請求項33に記載のコンピュータ可読記憶媒体。
  35. 前記プロセッサに前記シンタックス要素の前記値を復号させる前記命令が、前記プロセッサに、ビデオデータの前記ブロックを含むピクチャのピクチャヘッダを復号させる命令を含み、前記ピクチャヘッダが、前記スケーリング係数を表す前記シンタックス要素を含む、請求項34に記載のコンピュータ可読記憶媒体。
  36. 前記プロセッサに前記シンタックス要素の前記値を復号させる前記命令が、前記プロセッサに、
    前記ブロックを含むスライスのスライスヘッダであって、前記シンタックス要素を含むスライスヘッダ、
    前記スライスの適応パラメータセット(APS)であって、前記シンタックス要素を含むAPS、または、
    前記ブロックのブロックヘッダであって、前記シンタックス要素を含むブロックヘッダ
    のうちの少なくとも1つを復号させる命令を含む、請求項34に記載のコンピュータ可読記憶媒体。
  37. 前記プロセッサに前記シンタックス要素の前記値を復号させる前記命令が、前記プロセッサに、インデックステーブルの中の前記スケーリング係数にマッピングされたインデックス値を復号させ、前記インデックステーブルを使用して前記インデックス値から前記スケーリング係数を決定させる命令を含む、請求項34に記載のコンピュータ可読記憶媒体。
  38. 前記プロセッサに、前記シンタックス要素の前記値を事前定義されたビット精度を有する整数値によって逆量子化させる命令をさらに含む、請求項34に記載のコンピュータ可読記憶媒体。
  39. 前記スケーリング係数が、複数のスケーリング係数のうちの第1のスケーリング係数を含み、
    前記プロセッサに前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算させる前記命令が、前記プロセッサに、前記フィルタ処理されたブロックの前記サンプルを前記複数のスケーリング係数の中のスケーリング係数の各々で乗算させる命令を含む、請求項33に記載のコンピュータ可読記憶媒体。
  40. 前記プロセッサに、前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算して、前記精錬されフィルタ処理されたブロックを形成させる前記命令が、前記プロセッサに、オフセットを前記フィルタ処理されたブロックの前記サンプルと前記スケーリング係数の積に加えて、前記精錬されフィルタ処理されたブロックを形成させる命令をさらに含む、請求項33に記載のコンピュータ可読記憶媒体。
  41. 前記プロセッサに、前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算して、前記精錬されフィルタ処理されたブロックを形成させる前記命令が、前記プロセッサに、
    オフセット値を決定させ、
    ビット単位のシフトを前記オフセット値に適用して、シフトされたオフセット値を形成させ、
    前記シフトされたオフセット値を前記フィルタ処理されたブロックの前記サンプルと前記スケーリング係数の積に加えて、前記精錬されフィルタ処理されたブロックを形成させる
    命令をさらに含む、請求項33に記載のコンピュータ可読記憶媒体。
  42. 前記プロセッサに前記フィルタを適用させる前記命令が、前記プロセッサに、ニューラルネットワークベースのフィルタ、ニューラルネットワークベースのループフィルタ、ニューラルネットワークベースのポストループフィルタ、適応インループフィルタ、または事前定義された適応インループフィルタのうちの少なくとも1つを適用させる命令を含む、請求項33に記載のコンピュータ可読記憶媒体。
  43. 前記プロセッサに、前記フィルタ処理されたブロックの前記サンプルを前記スケーリング係数で乗算する前に、前記フィルタ処理されたブロックを精錬するかどうかを表すシンタックス要素が前記フィルタ処理されたブロックを精錬することを示す値を有すると決定させる命令をさらに含む、請求項33に記載のコンピュータ可読記憶媒体。
  44. 前記プロセッサに、前記ブロックを含むスライスのスライスヘッダ、前記ブロックを含むピクチャのピクチャヘッダ、または前記ブロックを含む前記スライスに対応する適応パラメータセット(APS)のうちの少なくとも1つの中の、前記フィルタ処理されたブロックを精錬するかどうかを表す前記シンタックス要素の前記値を復号させる命令をさらに含む、請求項43に記載のコンピュータ可読記憶媒体。
  45. 前記フィルタが第1のフィルタを含み、
    前記フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、
    前記精錬されフィルタ処理されたブロックが、第1の精錬されフィルタ処理されたブロックを含み、
    前記スケーリング係数が第1のスケーリング係数を含み、
    前記プロセッサに、
    第2のフィルタを前記復号されたブロックに適用して、第2のフィルタ処理されたブロックを形成させ、
    前記第2のフィルタ処理されたブロックのサンプルを第2のスケーリング係数で乗算して、第2の精錬されフィルタ処理されたブロックを形成させる
    命令をさらに含み、
    前記プロセッサに前記第1の精錬されフィルタ処理されたブロックの前記サンプルを前記復号されたブロックの前記対応するサンプルと合成させる前記命令が、前記プロセッサに、前記第1の精錬されフィルタ処理されたブロックの前記サンプルおよび前記第2の精錬されフィルタ処理されたブロックのサンプルを前記復号されたブロックの前記対応するサンプルと合成させる命令を含む、
    請求項33に記載のコンピュータ可読記憶媒体。
  46. 前記フィルタが第1のフィルタを含み、
    前記フィルタ処理されたブロックが第1のフィルタ処理されたブロックを含み、
    前記精錬されフィルタ処理されたブロックが、第1の精錬されフィルタ処理されたブロックを含み、
    前記スケーリング係数が第1のスケーリング係数を含み、
    前記プロセッサに前記第1のフィルタを前記復号されたブロックに適用させる前記命令が、前記プロセッサに、前記第1のフィルタを含む複数のフィルタの各々を前記復号されたブロックに適用して、前記第1のフィルタ処理されたブロックを含むそれぞれの複数のフィルタ処理されたブロックを形成させる命令を含み、
    前記プロセッサに前記第1のフィルタ処理されたブロックの前記サンプルを前記第1のスケーリング係数で乗算させる前記命令が、前記プロセッサに、前記第1のフィルタ処理されたブロックを含む前記それぞれの複数のフィルタ処理されたブロックのサンプルを前記第1のスケーリング係数を含むそれぞれの複数のスケーリング係数で乗算して、前記第1の精錬されフィルタ処理されたブロックを含む複数の精錬されフィルタ処理されたブロックを形成させる命令を含み、
    前記プロセッサに前記第1の精錬されフィルタ処理されたブロックの前記サンプルを前記復号されたブロックの前記対応するサンプルと合成させる前記命令が、前記プロセッサに、前記複数の精錬されフィルタ処理されたブロックの各々の前記サンプルを前記復号されたブロックの前記対応するサンプルと合成させる命令を含む、
    請求項33に記載のコンピュータ可読記憶媒体。
  47. 前記プロセッサに、現在のブロックを復号する前に前記現在のブロックを符号化させる命令をさらに含む、請求項33に記載のコンピュータ可読記憶媒体。
  48. 復号されたビデオデータをフィルタ処理するためのデバイスであって、
    ビデオデータのブロックを復号して、復号されたブロックを形成するための手段と、
    フィルタを前記復号されたブロックに適用して、フィルタ処理されたブロックを形成するための手段と、
    前記フィルタ処理されたブロックのサンプルをスケーリング係数で乗算して、精錬されフィルタ処理されたブロックを形成するための手段と、
    前記精錬されフィルタ処理されたブロックのサンプルを前記復号されたブロックの対応するサンプルと合成するための手段と
    を備えるデバイス。
JP2023515165A 2020-09-29 2021-09-24 ビデオコーディングのためのフィルタ処理プロセス Pending JP2023542840A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202063085094P 2020-09-29 2020-09-29
US63/085,094 2020-09-29
US17/448,547 2021-09-23
US17/448,547 US11743459B2 (en) 2020-09-29 2021-09-23 Filtering process for video coding
PCT/US2021/051979 WO2022072239A1 (en) 2020-09-29 2021-09-24 Filtering process for video coding

Publications (1)

Publication Number Publication Date
JP2023542840A true JP2023542840A (ja) 2023-10-12

Family

ID=80821963

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023515165A Pending JP2023542840A (ja) 2020-09-29 2021-09-24 ビデオコーディングのためのフィルタ処理プロセス

Country Status (8)

Country Link
US (2) US11743459B2 (ja)
EP (1) EP4222953A1 (ja)
JP (1) JP2023542840A (ja)
KR (1) KR20230078653A (ja)
CN (1) CN116235494A (ja)
BR (1) BR112023004483A2 (ja)
TW (1) TW202213996A (ja)
WO (1) WO2022072239A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023201930A1 (en) * 2022-04-20 2023-10-26 Beijing Bytedance Network Technology Co., Ltd. Method, apparatus, and medium for video processing
WO2023225854A1 (zh) * 2022-05-24 2023-11-30 Oppo广东移动通信有限公司 一种环路滤波方法、视频编解码方法、装置和***
WO2023231008A1 (zh) * 2022-06-02 2023-12-07 Oppo广东移动通信有限公司 编解码方法、编码器、解码器以及存储介质
WO2023240618A1 (zh) * 2022-06-17 2023-12-21 Oppo广东移动通信有限公司 一种滤波方法、解码器、编码器及计算机可读存储介质
WO2024025280A1 (en) * 2022-07-27 2024-02-01 Samsung Electronics Co., Ltd. Method and system for content-based scaling for artificial intelligence based in-loop filters
WO2024077576A1 (zh) * 2022-10-13 2024-04-18 Oppo广东移动通信有限公司 基于神经网络的环路滤波、视频编解码方法、装置和***
WO2024078599A1 (en) * 2022-10-13 2024-04-18 Douyin Vision Co., Ltd. Method, apparatus, and medium for video processing

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6289041B1 (en) * 1997-02-11 2001-09-11 Snaptrack, Inc. Fast Acquisition, high sensitivity GPS receiver
US6347154B1 (en) * 1999-04-08 2002-02-12 Ati International Srl Configurable horizontal scaler for video decoding and method therefore
US7446820B2 (en) * 2005-03-30 2008-11-04 Intel Corporation Methods and apparatus for re-scaling image by variable re-scaling factor using B-spline interpolator
US7539612B2 (en) 2005-07-15 2009-05-26 Microsoft Corporation Coding and decoding scale factor information
US8386271B2 (en) * 2008-03-25 2013-02-26 Microsoft Corporation Lossless and near lossless scalable audio codec
US9094658B2 (en) * 2010-05-10 2015-07-28 Mediatek Inc. Method and apparatus of adaptive loop filtering
CN103503456B (zh) * 2011-05-10 2017-03-22 联发科技股份有限公司 用于重建视频的环内处理方法及其装置
US9854275B2 (en) 2011-06-25 2017-12-26 Qualcomm Incorporated Quantization in video coding
JP5745175B2 (ja) 2011-06-28 2015-07-08 サムスン エレクトロニクス カンパニー リミテッド 適応的な量子化パラメータ差分値を用いた映像の符号化及び復号化方法と装置
US9300975B2 (en) * 2011-09-11 2016-03-29 Texas Instruments Incorporated Concurrent access shared buffer in a video encoder
US9432700B2 (en) 2011-09-27 2016-08-30 Broadcom Corporation Adaptive loop filtering in accordance with video coding
US9596463B2 (en) * 2012-02-22 2017-03-14 Qualcomm Incorporated Coding of loop filter parameters using a codebook in video coding
US9596465B2 (en) 2013-01-04 2017-03-14 Intel Corporation Refining filter for inter layer prediction of scalable video coding
US20140192898A1 (en) * 2013-01-04 2014-07-10 Intel Corporation Coding unit bit number limitation
US9473784B2 (en) * 2013-05-20 2016-10-18 Texas Instruments Incorporated Sample adaptive offset (SAO) filtering in video coding
US10708588B2 (en) * 2013-06-19 2020-07-07 Apple Inc. Sample adaptive offset control
US10587881B2 (en) * 2015-05-29 2020-03-10 Hfi Innovation Inc. Method of decoded picture buffer management for intra block copy mode
US10425648B2 (en) * 2015-09-29 2019-09-24 Qualcomm Incorporated Video intra-prediction using position-dependent prediction combination for video coding
EP3367688A4 (en) * 2015-10-21 2018-10-24 Sharp Kabushiki Kaisha Predictive image generation device, image decoding device, and image encoding device
WO2017086740A1 (ko) * 2015-11-18 2017-05-26 한국전자통신연구원 인루프 필터를 이용한 비디오 복호화 방법 및 이를 위한 장치
US9998235B2 (en) * 2016-01-08 2018-06-12 Google Llc In-band optical interference mitigation for direct-detection optical communication systems
CN109891894B (zh) 2016-12-01 2021-10-08 谷歌有限责任公司 用于恢复由重构产生的劣化帧的劣化图块的方法和装置
US10694181B2 (en) * 2017-01-27 2020-06-23 Qualcomm Incorporated Bilateral filters in video coding with reduced complexity
US10645383B2 (en) * 2018-05-31 2020-05-05 Intel Corporation Constrained directional enhancement filter selection for video coding
WO2020009618A1 (en) * 2018-07-02 2020-01-09 Huawei Technologies Co., Ltd. Apparatus and method for filtering in video coding
US10674151B2 (en) * 2018-07-30 2020-06-02 Intel Corporation Adaptive in-loop filtering for video coding
US11284075B2 (en) 2018-09-12 2022-03-22 Qualcomm Incorporated Prediction of adaptive loop filter parameters with reduced memory consumption for video coding
US10939102B2 (en) * 2018-11-01 2021-03-02 Mediatek Inc. Post processing apparatus with super-resolution filter and loop restoration filter in block-level pipeline and associated post processing method
KR102154407B1 (ko) * 2018-11-15 2020-09-09 한국전자기술연구원 타일 기반 스트리밍을 위한 모션 제한 av1 영상 부호화 방법 및 장치
US11044473B2 (en) 2018-12-21 2021-06-22 Qualcomm Incorporated Adaptive loop filtering classification in video coding
US10999606B2 (en) * 2019-01-08 2021-05-04 Intel Corporation Method and system of neural network loop filtering for video coding
WO2021026322A1 (en) * 2019-08-06 2021-02-11 Op Solutions Block-based adaptive resolution management

Also Published As

Publication number Publication date
US11743459B2 (en) 2023-08-29
US20220103816A1 (en) 2022-03-31
KR20230078653A (ko) 2023-06-02
BR112023004483A2 (pt) 2023-04-04
US20230283772A1 (en) 2023-09-07
WO2022072239A1 (en) 2022-04-07
EP4222953A1 (en) 2023-08-09
TW202213996A (zh) 2022-04-01
CN116235494A (zh) 2023-06-06

Similar Documents

Publication Publication Date Title
US20210006794A1 (en) Minimum allowed quantization parameter for transform skip mode and palette mode in video coding
US11743459B2 (en) Filtering process for video coding
US11930215B2 (en) Multiple neural network models for filtering during video coding
TW202115977A (zh) 用於視訊編碼的跨分量自我調整迴路濾波
US11368715B2 (en) Block-based delta pulse code modulation for video coding
US20200288130A1 (en) Simplification of sub-block transforms in video coding
US11778213B2 (en) Activation function design in neural network-based filtering process for video coding
JP2024501331A (ja) ビデオコーディング中にフィルタ処理するための複数のニューラルネットワークモデル
US11729381B2 (en) Deblocking filter parameter signaling
US11706425B2 (en) Multiple transform set signaling for video coding
JP2023521699A (ja) ビデオコーディングのための適応スケーリングリスト制御
US11973983B2 (en) Signaling coding scheme for residual values in transform skip for video coding
JP2023544046A (ja) 高ビット深度ビデオコーディングのためのライスパラメータ値の適応的な導出
JP2023517429A (ja) ビデオコーディングのためのモノクロームパレットモード
CN115462072A (zh) 视频译码中的高级去块滤波(dbf)、自适应环路滤波(alf)和采样自适应偏移(sao)控制以及自适应参数集(aps)数量约束
US11924410B2 (en) Video coding using overlapped block motion compensation, combined inter-intra prediction, and/or luma mapping and chroma scaling
US20220103842A1 (en) Fixed bit depth processing for cross-component linear model (cclm) mode in video coding
KR20230075443A (ko) 상이한 비트 심도에서 비디오 데이터의 코딩을 위한 적응적 루프 필터링의 동작 비트 심도의 제한
CN116724551A (zh) 用于视频译码的帧内预测的最可能模式
CN116250233A (zh) 具有最坏情况复杂度处理的扩展低频不可分离变换(lfnst)设计
CN116746146A (zh) 在视频编解码期间用于滤波的多个神经网络模型