JP2023542841A - ビデオコーディング中にフィルタ処理するための複数のニューラルネットワークモデル - Google Patents

ビデオコーディング中にフィルタ処理するための複数のニューラルネットワークモデル Download PDF

Info

Publication number
JP2023542841A
JP2023542841A JP2023515167A JP2023515167A JP2023542841A JP 2023542841 A JP2023542841 A JP 2023542841A JP 2023515167 A JP2023515167 A JP 2023515167A JP 2023515167 A JP2023515167 A JP 2023515167A JP 2023542841 A JP2023542841 A JP 2023542841A
Authority
JP
Japan
Prior art keywords
neural network
picture
level
syntax element
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023515167A
Other languages
English (en)
Inventor
ホンタオ・ワン
ヴェンカタ・メヘル・サトチト・アナンド・コトラ
ジエンレ・チェン
マルタ・カルチェヴィッチ
ダナ・キアンファル
アウケ・ジョリス・ウィガーズ
Original Assignee
クアルコム，インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by クアルコム，インコーポレイテッド filed Critical クアルコム，インコーポレイテッド
Publication of JP2023542841A publication Critical patent/JP2023542841A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • G06T9/002—Image coding using neural networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/192—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

復号されたビデオデータをフィルタ処理するための例示的なデバイスは、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行うように構成された1つまたは複数のプロセッサとを含む。

Description

本出願は、2021年9月23日に出願された米国出願第17/448,658号、および2020年9月29日に出願された米国仮出願第63/085,092号の優先権を主張し、これらの出願の内容全体は、参照により本明細書に組み込まれる。2021年9月23日に出願された米国出願第17/448,658号は、2020年9月29日に出願された米国仮特許出願第63/085,092号の利益を主張する。
本開示は、ビデオ符号化およびビデオ復号を含むビデオコーディングに関する。
デジタルビデオ能力は、デジタルテレビジョン、デジタルダイレクトブロードキャストシステム、ワイヤレスブロードキャストシステム、携帯情報端末(PDA)、ラップトップまたはデスクトップコンピュータ、タブレットコンピュータ、電子ブックリーダー、デジタルカメラ、デジタル記録デバイス、デジタルメディアプレーヤ、ビデオゲーミングデバイス、ビデオゲームコンソール、セルラーまたは衛星ラジオ電話、いわゆる「スマートフォン」、ビデオ遠隔会議デバイス、ビデオストリーミングデバイスなどを含む、広範囲にわたるデバイスに組み込まれ得る。デジタルビデオデバイスは、MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4、Part 10、アドバンストビデオコーディング(AVC)、ITU-T H.265/高効率ビデオコーディング(HEVC)によって定義された規格、およびそのような規格の拡張に記載されている技法などの、ビデオコーディング技法を実装する。ビデオデバイスは、そのようなビデオコーディング技法を実装することによって、デジタルビデオ情報をより効率的に送信、受信、符号化、復号、および/または記憶し得る。
ビデオコーディング技法は、ビデオシーケンスに固有の冗長性を低減または除去するために、空間(イントラピクチャ)予測および/または時間(インターピクチャ)予測を含む。ブロックベースのビデオコーディングの場合、ビデオスライス(たとえば、ビデオピクチャまたはビデオピクチャの一部分)は、ビデオブロックに区分されてもよく、ビデオブロックは、コーディングツリーユニット(CTU)、コーディングユニット(CU)および/またはコーディングノードと呼ばれることもある。ピクチャのイントラコーディングされた(I)スライス中のビデオブロックは、同じピクチャ中の隣接ブロック中の参照サンプルに対する空間予測を使用して符号化される。ピクチャのインターコーディングされた(PまたはB)スライス中のビデオブロックは、同じピクチャ中の隣接ブロック中の参照サンプルに対する空間予測または他の参照ピクチャ中の参照サンプルに対する時間予測を使用し得る。ピクチャはフレームと呼ばれることがあり、参照ピクチャは参照フレームと呼ばれることがある。
一般に、本開示は、ひずみがあり得る、復号された(たとえば、再構成された)ピクチャをフィルタ処理するための技法について説明する。フィルタ処理プロセスは、ニューラルネットワーク技法に基づき得る。フィルタ処理プロセスは、ITU-T H.266/多用途ビデオコーディング(VVC)の拡張、または後続の世代のビデオコーディング規格、および任意の他のビデオコーデックなどの、アドバンストビデオコーデックのコンテキストで使用され得る。具体的には、ビデオエンコーダは、復号されたピクチャの一部分をフィルタ処理するために使用すべき、復号されたピクチャの一部分のためのニューラルネットワークモデルを選択し得る。たとえば、ビデオエンコーダは、ニューラルネットワークモデルを決定するためにレートひずみ最適化(RDO)技法を実行し得る。代替として、ビデオエンコーダは、復号されたピクチャの一部分のための量子化パラメータ(QP)を決定し、QPがマッピングされるニューラルネットワークモデルを決定し得る。ビデオエンコーダは、QP自体または利用可能なニューラルネットワークモデルのセット(またはセットのサブセット)へのインデックスを表すシンタックス要素の別個の値を使用して、決定されたニューラルネットワークモデルをシグナリングし得る。
一例では、復号されたビデオデータをフィルタ処理する方法は、ビデオデータのピクチャを復号するステップと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするステップであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、ステップと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するステップとを含む。
別の例では、復号されたビデオデータをフィルタ処理するためのデバイスは、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行うように構成された1つまたは複数のプロセッサとを含む。
別の例では、コンピュータ可読記憶媒体は命令を記憶しており、命令は、実行されると、プロセッサに、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行わせる。
別の例では、復号されたビデオデータをフィルタ処理するためのデバイスは、ビデオデータのピクチャを復号するための手段と、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするための手段であって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、手段と、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するための手段とを含む。
1つまたは複数の例の詳細が、添付の図面および以下の説明に記載される。他の特徴、目的、および利点は、説明、図面、および特許請求の範囲から明らかになるであろう。
本開示の技法を実行し得る例示的なビデオ符号化および復号システムを示すブロック図である。 例示的な4分木2分木(QTBT)構造を示す概念図である。 対応するコーディングツリーユニット(CTU)を示す概念図である。 ハイブリッドビデオコーディングフレームワークを示す概念図である。 16のピクチャグループ(GOP)サイズを使用する階層予測構造を示す概念図である。 4つのレイヤを有するニューラルネットワークベースのフィルタを示す概念図である。 本開示の技法を実行し得る例示的なビデオエンコーダを示すブロック図である。 本開示の技法を実行し得る例示的なビデオデコーダを示すブロック図である。 本開示の技法による、現在のブロックを符号化するための例示的な方法を示すフローチャートである。 本開示の技法による、現在のブロックを復号するための例示的な方法を示すフローチャートである。
ビデオコーディング規格は、ITU-T H.261、ISO/IEC MPEG-1 Visual、ITU-T H.262またはISO/IEC MPEG-2 Visual、ITU-T H.263、ISO/IEC MPEG-4 VisualおよびITU-T H.264(ISO/IEC MPEG-4 AVCとしても知られる)、その範囲拡張であるマルチビュー拡張(MV-HEVC)およびスケーラブル拡張(SHVC)を含む高効率ビデオコーディング(HEVC)またはITU-T H.265を含む。別の例示的なビデオコーディング規格は、ITU-Tビデオコーディングエキスパートグループ(VCEG)およびISO/IECモーションピクチャエキスパートグループ(MPEG)のジョイントビデオエキスパートチーム(JVET)によって開発された多用途ビデオコーディング(VVC)またはITU-T H.266である。以下で「VVC FDIS」と呼ばれるVVC仕様のバージョン1は、http://phenix.int-evry.fr/jvet/doc_end_user/documents/19_Teleconference/wg11/JVET-S2001-v17.zipから入手可能である。
本開示の技法は、一般に、ニューラルネットワークベースのフィルタを使用するフィルタ処理技法を対象とする。典型的には、そのようなフィルタはデータの大きいセットに対してトレーニングされ、このことは、一般的なビデオデータに対して良好な結果をもたらすが、ビデオデータの特定のシーケンスにとっては最適ではないことがある。対照的に、本開示は、特定のビデオシーケンスに対して(たとえば、ビットレートおよびひずみの点で)より良い結果をもたらし得る、マルチモデルニューラルネットワークベースのフィルタ処理について説明する。
図1は、本開示の技法を実行し得る例示的なビデオ符号化および復号システム100を示すブロック図である。本開示の技法は、一般に、ビデオデータをコーディング(符号化および/または復号)することを対象とする。一般に、ビデオデータは、ビデオを処理するための任意のデータを含む。したがって、ビデオデータは、未加工のコーディングされていないビデオ、符号化されたビデオ、復号された(たとえば、再構成された)ビデオ、およびシグナリングデータなどのビデオメタデータを含み得る。
図1に示すように、システム100は、この例では、宛先デバイス116によって復号および表示されるべき、符号化されたビデオデータを提供するソースデバイス102を含む。具体的には、ソースデバイス102は、コンピュータ可読媒体110を介して宛先デバイス116にビデオデータを提供する。ソースデバイス102および宛先デバイス116は、デスクトップコンピュータ、ノートブック(すなわち、ラップトップ)コンピュータ、モバイルデバイス、タブレットコンピュータ、セットトップボックス、スマートフォンなどの電話ハンドセット、テレビジョン、カメラ、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲーミングコンソール、ビデオストリーミングデバイスなどを含む、広範囲にわたるデバイスのいずれかを備えてもよい。場合によっては、ソースデバイス102および宛先デバイス116は、ワイヤレス通信用に装備されることがあり、したがって、ワイヤレス通信デバイスと呼ばれることがある。
図1の例では、ソースデバイス102は、ビデオソース104、メモリ106、ビデオエンコーダ200、および出力インターフェース108を含む。宛先デバイス116は、入力インターフェース122、ビデオデコーダ300、メモリ120、およびディスプレイデバイス118を含む。本開示によれば、ソースデバイス102のビデオエンコーダ200および宛先デバイス116のビデオデコーダ300は、複数のニューラルネットワークモデルを使用してフィルタ処理するための技法を適用するように構成され得る。したがって、ソースデバイス102はビデオ符号化デバイスの一例を表し、宛先デバイス116はビデオ復号デバイスの一例を表す。他の例では、ソースデバイスおよび宛先デバイスは、他の構成要素または構成を含み得る。たとえば、ソースデバイス102は、外部カメラなどの外部ビデオソースからビデオデータを受信し得る。同様に、宛先デバイス116は、一体型ディスプレイデバイスを含むのではなく、外部ディスプレイデバイスとインターフェースし得る。
図1に示すようなシステム100は一例にすぎない。一般に、任意のデジタルビデオ符号化および/または復号デバイスは、複数のニューラルネットワークモデルを使用してフィルタ処理するための技法を実行し得る。ソースデバイス102および宛先デバイス116は、ソースデバイス102が宛先デバイス116に送信するためのコーディングされたビデオデータを生成するようなコーディングデバイスの例にすぎない。本開示は、データのコーディング(符号化および/または復号)を実行するデバイスを「コーディング」デバイスと呼ぶ。したがって、ビデオエンコーダ200およびビデオデコーダ300は、コーディングデバイス、具体的には、それぞれ、ビデオエンコーダおよびビデオデコーダの例を表す。いくつかの例では、ソースデバイス102および宛先デバイス116は、ソースデバイス102および宛先デバイス116の各々がビデオ符号化および復号構成要素を含むように実質的に対称的な方法で動作し得る。したがって、システム100は、たとえば、ビデオストリーミング、ビデオ再生、ビデオブロードキャスティング、またはビデオテレフォニーのための、ソースデバイス102と宛先デバイス116との間の一方向または双方向のビデオ送信をサポートし得る。
一般に、ビデオソース104は、ビデオデータ(すなわち、未加工のコーディングされていないビデオデータ)のソースを表し、ビデオデータの連続した一連のピクチャ(「フレーム」とも呼ばれる)をビデオエンコーダ200に提供し、ビデオエンコーダ200は、ピクチャのためのデータを符号化する。ソースデバイス102のビデオソース104は、ビデオカメラ、以前にキャプチャされた未加工ビデオを含むビデオアーカイブ、および/またはビデオコンテンツプロバイダからビデオを受信するためのビデオフィードインターフェースなどの、ビデオキャプチャデバイスを含み得る。さらなる代替として、ビデオソース104は、ソースビデオとしてのコンピュータグラフィックスベースのデータ、またはライブビデオとアーカイブされたビデオとコンピュータ生成されたビデオとの組合せを生成し得る。各場合において、ビデオエンコーダ200は、キャプチャされた、事前にキャプチャされた、またはコンピュータ生成されたビデオデータを符号化する。ビデオエンコーダ200は、受信された順序(「表示順序」と呼ばれることがある)からコーディング用のコーディング順序にピクチャを並べ替え得る。ビデオエンコーダ200は、符号化されたビデオデータを含むビットストリームを生成し得る。次いで、ソースデバイス102は、たとえば、宛先デバイス116の入力インターフェース122による受信および/または取出しのために、符号化されたビデオデータを出力インターフェース108を介してコンピュータ可読媒体110上に出力し得る。
ソースデバイス102のメモリ106および宛先デバイス116のメモリ120は、汎用メモリを表す。いくつかの例では、メモリ106、120は、未加工ビデオデータ、たとえば、ビデオソース104からの未加工ビデオと、ビデオデコーダ300からの未加工の復号されたビデオデータとを記憶し得る。追加または代替として、メモリ106、120は、たとえば、それぞれ、ビデオエンコーダ200およびビデオデコーダ300によって実行可能なソフトウェア命令を記憶し得る。メモリ106およびメモリ120は、この例ではビデオエンコーダ200およびビデオデコーダ300とは別々に示されているが、ビデオエンコーダ200およびビデオデコーダ300は、機能的に同様のまたは等価な目的で内部メモリも含み得ることを理解されたい。さらに、メモリ106、120は、符号化されたビデオデータ、たとえば、ビデオエンコーダ200からの出力およびビデオデコーダ300への入力を記憶し得る。いくつかの例では、メモリ106、120の一部は、たとえば、未加工の、復号された、および/または符号化されたビデオデータを記憶するための、1つまたは複数のビデオバッファとして割り振られ得る。
コンピュータ可読媒体110は、符号化されたビデオデータをソースデバイス102から宛先デバイス116にトランスポートすることが可能な任意のタイプの媒体またはデバイスを表し得る。一例では、コンピュータ可読媒体110は、たとえば、無線周波数ネットワークまたはコンピュータベースのネットワークを介して、ソースデバイス102が符号化されたビデオデータを宛先デバイス116にリアルタイムで直接送信することを可能にする通信媒体を表す。ワイヤレス通信プロトコルなどの通信規格に従って、出力インターフェース108が符号化されたビデオデータを含む送信信号を変調し得、入力インターフェース122が受信された送信信号を復調し得る。通信媒体は、無線周波数(RF)スペクトルまたは1つもしくは複数の物理伝送線路などの、任意のワイヤレスまたはワイヤード通信媒体を備え得る。通信媒体は、ローカルエリアネットワーク、ワイドエリアネットワーク、またはインターネットなどのグローバルネットワークなどの、パケットベースネットワークの一部を形成し得る。通信媒体は、ルータ、スイッチ、基地局、またはソースデバイス102から宛先デバイス116への通信を容易にするために有用であり得る任意の他の機器を含み得る。
いくつかの例では、ソースデバイス102は、符号化されたデータを出力インターフェース108から記憶デバイス112に出力し得る。同様に、宛先デバイス116は、入力インターフェース122を介して、記憶デバイス112からの符号化されたデータにアクセスし得る。記憶デバイス112は、ハードドライブ、ブルーレイディスク、DVD、CD-ROM、フラッシュメモリ、揮発性もしくは不揮発性メモリ、または符号化されたビデオデータを記憶するための任意の他の好適なデジタル記憶媒体などの、様々な分散されたまたはローカルでアクセスされるデータ記憶媒体のいずれかを含み得る。
いくつかの例では、ソースデバイス102は、符号化されたビデオデータを、ソースデバイス102によって生成された符号化されたビデオデータを記憶し得るファイルサーバ114または別の中間記憶デバイスに出力し得る。宛先デバイス116は、ストリーミングまたはダウンロードを介して、ファイルサーバ114からの記憶されたビデオデータにアクセスし得る。
ファイルサーバ114は、符号化されたビデオデータを記憶し、その符号化されたビデオデータを宛先デバイス116に送信することが可能な任意のタイプのサーバデバイスであり得る。ファイルサーバ114は、(たとえば、ウェブサイト用の)ウェブサーバ、(ファイル転送プロトコル(FTP)または単方向トランスポートを介したファイル配信(FLUTE:File Delivery over Unidirectional Transport)プロトコルなどの)ファイル転送プロトコルサービスを提供するように構成されたサーバ、コンテンツ配信ネットワーク(CDN)デバイス、ハイパーテキスト転送プロトコル(HTTP)サーバ、マルチメディアブロードキャストマルチキャストサービス(MBMS)もしくは拡張MBMS(eMBMS)サーバ、および/またはネットワークアタッチトストレージ(NAS)デバイスを表し得る。ファイルサーバ114は、追加または代替として、動的適応ストリーミングオーバーHTTP(DASH:Dynamic Adaptive Streaming over HTTP)、HTTPライブストリーミング(HLS:HTTP Live Streaming)、リアルタイムストリーミングプロトコル(RTSP:Real Time Streaming Protocol)、HTTP動的ストリーミング(HTTP Dynamic Streaming)などの1つまたは複数のHTTPストリーミングプロトコルを実装し得る。
宛先デバイス116は、インターネット接続を含む任意の標準的なデータ接続を通じて、ファイルサーバ114からの符号化されたビデオデータにアクセスし得る。これは、ワイヤレスチャネル(たとえば、Wi-Fi接続)、ワイヤード接続(たとえば、デジタル加入者回線(DSL)、ケーブルモデムなど)、またはファイルサーバ114上に記憶された符号化されたビデオデータにアクセスするのに適した両方の組合せを含み得る。入力インターフェース122は、ファイルサーバ114からメディアデータを取り出すかもしくは受信するための上記で説明した様々なプロトコルまたはメディアデータを取り出すための他のそのようなプロトコルのうちのいずれか1つまたは複数に従って動作するように構成され得る。
出力インターフェース108および入力インターフェース122は、ワイヤレス送信機/受信機、モデム、ワイヤードネットワーキング構成要素(たとえば、イーサネットカード)、様々なIEEE802.11規格のいずれかに従って動作するワイヤレス通信構成要素、または他の物理的構成要素を表し得る。出力インターフェース108および入力インターフェース122がワイヤレス構成要素を備える例では、出力インターフェース108および入力インターフェース122は、4G、4G-LTE(ロングタームエボリューション)、LTEアドバンスト、5Gなどのセルラー通信規格に従って、符号化されたビデオデータなどのデータを転送するように構成され得る。出力インターフェース108がワイヤレス送信機を備えるいくつかの例では、出力インターフェース108および入力インターフェース122は、IEEE802.11仕様、IEEE802.15仕様(たとえば、ZigBee(商標))、Bluetooth(商標)規格などの他のワイヤレス規格に従って、符号化されたビデオデータなどのデータを転送するように構成され得る。いくつかの例では、ソースデバイス102および/または宛先デバイス116は、それぞれのシステムオンチップ(SoC)デバイスを含み得る。たとえば、ソースデバイス102は、ビデオエンコーダ200および/または出力インターフェース108に起因する機能を実行するためのSoCデバイスを含み得、宛先デバイス116は、ビデオデコーダ300および/または入力インターフェース122に起因する機能を実行するためのSoCデバイスを含み得る。
本開示の技法は、オーバージエアテレビジョンブロードキャスト、ケーブルテレビジョン送信、衛星テレビジョン送信、動的適応ストリーミングオーバーHTTP(DASH)などのインターネットストリーミングビデオ送信、データ記憶媒体上に符号化されたデジタルビデオ、データ記憶媒体上に記憶されたデジタルビデオの復号、または他の適用例などの、様々なマルチメディア適用例のいずれかをサポートするビデオコーディングに適用され得る。
宛先デバイス116の入力インターフェース122は、コンピュータ可読媒体110(たとえば、通信媒体、記憶デバイス112、ファイルサーバ114など)から、符号化されたビデオビットストリームを受信する。符号化されたビデオビットストリームは、ビデオブロックまたは他のコーディングされたユニット(たとえば、スライス、ピクチャ、ピクチャグループ、シーケンスなど)の特性および/または処理を記述する値を有するシンタックス要素などの、ビデオエンコーダ200によって定義され、ビデオデコーダ300によっても使用されるシグナリング情報を含み得る。ディスプレイデバイス118は、復号されたビデオデータの復号されたピクチャをユーザに表示する。ディスプレイデバイス118は、液晶ディスプレイ(LCD)、プラズマディスプレイ、有機発光ダイオード(OLED)ディスプレイ、または別のタイプのディスプレイデバイスなどの、様々なディスプレイデバイスのいずれかを表し得る。
図1には示されていないが、いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は各々、オーディオエンコーダおよび/またはオーディオデコーダと統合されることがあり、共通のデータストリーム中のオーディオとビデオの両方を含む多重化されたストリームを処理するために、適切なMUX-DEMUXユニット、または他のハードウェアおよび/もしくはソフトウェアを含み得る。適用可能な場合、MUX-DEMUXユニットは、ITU H.223マルチプレクサプロトコル、またはユーザデータグラムプロトコル(UDP)などの他のプロトコルに準拠し得る。
ビデオエンコーダ200およびビデオデコーダ300は各々、1つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、ディスクリート論理、ソフトウェア、ハードウェア、ファームウェアまたはそれらの任意の組合せなどの、様々な好適なエンコーダおよび/またはデコーダ回路のいずれかとして実装され得る。技法が部分的にソフトウェアにおいて実装されるとき、デバイスは、好適な非一時的コンピュータ可読媒体にソフトウェア用の命令を記憶し、本開示の技法を実行するために1つまたは複数のプロセッサを使用してハードウェアにおいて命令を実行し得る。ビデオエンコーダ200およびビデオデコーダ300の各々は、1つまたは複数のエンコーダまたはデコーダに含まれることがあり、それらのいずれも、それぞれのデバイスにおいて複合エンコーダ/デコーダ(CODEC)の一部として統合されることがある。ビデオエンコーダ200および/またはビデオデコーダ300を含むデバイスは、集積回路、マイクロプロセッサ、および/またはセルラー電話などのワイヤレス通信デバイスを備え得る。
ビデオエンコーダ200およびビデオデコーダ300は、高効率ビデオコーディング(HEVC)とも呼ばれるITU-T H.265などのビデオコーディング規格、またはマルチビューおよび/もしくはスケーラブルビデオコーディング拡張などのその拡張に従って動作し得る。代替として、ビデオエンコーダ200およびビデオデコーダ300は、多用途ビデオコーディング(VVC)などの、他のプロプライエタリ規格または業界規格に従って動作し得る。VVC規格の草案は、Brossらの「Versatile Video Coding (Draft 9)」、ITU-T SG 16 WP 3およびISO/IEC JTC 1/SC 29/WG 11のJoint Video Experts Team(JVET)、第18回会議:、4月15日～24日、JVET-R2001-v8(以下では「VVC Draft 9」)に記載されている。しかしながら、本開示の技法は、いかなる特定のコーディング規格にも限定されない。
一般に、ビデオエンコーダ200およびビデオデコーダ300は、ピクチャのブロックベースのコーディングを実行し得る。「ブロック」という用語は、一般に、処理される(たとえば、符号化および/または復号プロセスにおいて符号化される、復号される、または他の方法で使用される)べきデータを含む構造を指す。たとえば、ブロックは、ルミナンスおよび/またはクロミナンスデータのサンプルの2次元行列を含み得る。一般に、ビデオエンコーダ200およびビデオデコーダ300は、YUV(たとえば、Y、Cb、Cr)フォーマットで表されるビデオデータをコーディングし得る。すなわち、ピクチャのサンプルのための赤、緑、および青(RGB)データをコーディングするのではなく、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分およびクロミナンス成分をコーディングし得、クロミナンス成分は、赤色相と青色相の両方のクロミナンス成分を含み得る。いくつかの例では、ビデオエンコーダ200が、符号化に先立って、受信されたRGBフォーマットされたデータをYUV表現にコンバートし、ビデオデコーダ300が、YUV表現をRGBフォーマットにコンバートする。代替として、前処理ユニットおよび後処理ユニット(図示せず)が、これらのコンバージョンを実行し得る。
本開示は、一般に、ピクチャのデータを符号化または復号するプロセスを含めるように、ピクチャのコーディング(たとえば、符号化および復号)に言及することがある。同様に、本開示は、ブロックのためのデータを符号化または復号するプロセスを含めるように、ピクチャのブロックのコーディング、たとえば、予測および/または残差コーディングに言及することがある。符号化されたビデオビットストリームは、一般に、コーディング決定(たとえば、コーディングモード)およびブロックへのピクチャの区分を表すシンタックス要素のための一連の値を含む。したがって、ピクチャまたはブロックをコーディングすることへの言及は、一般に、ピクチャまたはブロックを形成するシンタックス要素のためのコーディング値として理解されるべきである。
HEVCは、コーディングユニット(CU)、予測ユニット(PU)、および変換ユニット(TU)を含む、様々なブロックを定義する。HEVCによれば、(ビデオエンコーダ200などの)ビデオコーダは、4分木構造に従ってコーディングツリーユニット(CTU)をCUに区分する。すなわち、ビデオコーダは、CTUおよびCUを4個の等しい重複しない正方形に区分し、4分木の各ノードは、0個または4個のいずれかの子ノードを有する。子ノードがないノードは「リーフノード」と呼ばれることがあり、そのようなリーフノードのCUは、1つもしくは複数のPUおよび/または1つもしくは複数のTUを含み得る。ビデオコーダはPUおよびTUをさらに区分し得る。たとえば、HEVCでは、残差4分木(RQT)はTUの区分を表す。HEVCでは、PUはインター予測データを表し、TUは残差データを表す。イントラ予測されるCUは、イントラモード指示などのイントラ予測情報を含む。
別の例として、ビデオエンコーダ200およびビデオデコーダ300は、VVCに従って動作するように構成され得る。VVCによれば、(ビデオエンコーダ200などの)ビデオコーダは、ピクチャを複数のコーディングツリーユニット(CTU)に区分する。ビデオエンコーダ200は、4分木2分木(QTBT)構造またはマルチタイプツリー(MTT)構造などのツリー構造に従ってCTUを区分し得る。QTBT構造は、HEVCのCU、PU、およびTUの間の区別などの、複数の区分タイプの概念を排除する。QTBT構造は、2つのレベル、すなわち、4分木区分に従って区分された第1のレベルおよび2分木区分に従って区分された第2のレベルを含む。QTBT構造のルートノードは、CTUに対応する。2分木のリーフノードは、コーディングユニット(CU)に対応する。
MTT区分構造では、ブロックは、4分木(QT)区分、2分木(BT)区分、および1つまたは複数のタイプの3分木(TT:triple tree)(3分木(TT:ternary tree)とも呼ばれる)区分を使用して区分され得る。3分木(triple tree)または3分木(ternary tree)区分は、ブロックが3つのサブブロックに分割される区分である。いくつかの例では、3分木(triple tree)または3分木(ternary tree)区分は、中心を通って元のブロックを分割することなく、ブロックを3つのサブブロックに分割する。MTTにおける区分タイプ(たとえば、QT、BT、およびTT)は対称または非対称であり得る。
いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分およびクロミナンス成分の各々を表すために単一のQTBTまたはMTT構造を使用し得るが、他の例では、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分のための1つのQTBT/MTT構造および両方のクロミナンス成分のための別のQTBT/MTT構造(またはそれぞれのクロミナンス成分のための2つのQTBT/MTT構造)などの、2つ以上のQTBTまたはMTT構造を使用し得る。
ビデオエンコーダ200およびビデオデコーダ300は、HEVCごとの4分木区分、QTBT区分、MTT区分、または他の区分構造を使用するように構成され得る。説明のために、本開示の技法の記載はQTBT区分に関して提示される。しかしながら、本開示の技法はまた、4分木区分、または他のタイプの区分も使用するように構成されたビデオコーダに適用され得ることを理解されたい。
いくつかの例では、CTUは、ルーマサンプルのコーディングツリーブロック(CTB)、3つのサンプルアレイを有するピクチャのクロマサンプルの2つの対応するCTB、またはモノクロームピクチャもしくはサンプルをコーディングするために使用される3つの別個の色平面およびシンタックス構造を使用してコーディングされたピクチャのサンプルのCTBを含む。CTBは、CTBへの成分の分割が区分であるような、何らかの値のNに対するサンプルのN×Nブロックであり得る。成分は、4:2:0、4:2:2、もしくは4:4:4色フォーマットのピクチャの3つのアレイ(ルーマおよび2つのクロマ)のうちの1つからのアレイもしくはそのアレイの単一のサンプル、またはモノクロームフォーマットのピクチャのアレイもしくはそのアレイの単一のサンプルであり得る。いくつかの例では、コーディングブロックは、コーディングブロックへのCTBの分割が区分であるような、何らかの値のMおよびNに対するサンプルのM×Nブロックである。
ブロック(たとえば、CTUまたはCU)は、ピクチャにおいて様々な方法でグループ化され得る。一例として、ブリックは、ピクチャにおける特定のタイル内のCTU行の長方形領域を指すことがある。タイルは、ピクチャにおける特定のタイル列および特定のタイル行内のCTUの長方形領域であり得る。タイル列は、ピクチャの高さに等しい高さおよび(たとえば、ピクチャパラメータセットなどにおいて)シンタックス要素によって指定される幅を有する、CTUの長方形領域を指す。タイル行は、(たとえば、ピクチャパラメータセットなどにおいて)シンタックス要素によって指定される高さおよびピクチャの幅に等しい幅を有する、CTUの長方形領域を指す。
いくつかの例では、タイルは複数のブリックに区分されてもよく、ブリックの各々はタイル内の1つまたは複数のCTU行を含んでもよい。複数のブリックに区分されないタイルも、ブリックと呼ばれることがある。しかしながら、タイルの真のサブセットであるブリックは、タイルと呼ばれないことがある。
ピクチャの中のブリックは、スライスにおいても並べられ得る。スライスは、単一のネットワークアブストラクションレイヤ(NAL)ユニットに独占的に含まれ得る、ピクチャの整数個のブリックであり得る。いくつかの例では、スライスは、ある数の完全なタイル、または、1つのタイルの完全なブリックの連続的なシーケンスのみ、のいずれかを含む。
本開示は、垂直次元および水平次元に換算して(CUまたは他のビデオブロックなどの)ブロックのサンプル次元を指すために、互換的に「N×N」および「NかけるN(N by N)」、たとえば、16×16サンプルまたは16かける16(16 by 16)サンプルを使用し得る。一般に、16×16 CUは、垂直方向に16個のサンプル(y=16)および水平方向に16個のサンプル(x=16)を有する。同様に、N×N CUは、一般に、垂直方向にN個のサンプルおよび水平方向にN個のサンプルを有し、ここで、Nは負ではない整数値を表す。CUの中のサンプルは、行および列において並べられ得る。さらに、CUは、必ずしも水平方向に垂直方向と同じ数のサンプルを有する必要があるとは限らない。たとえば、CUはN×Mサンプルを備えてもよく、ここで、Mは必ずしもNに等しいとは限らない。
ビデオエンコーダ200は、予測および/または残差情報、ならびに他の情報を表すCUのためのビデオデータを符号化する。予測情報は、CUのための予測ブロックを形成するためにCUがどのように予測されることになるかを示す。残差情報は、一般に、符号化に先立つCUのサンプルと予測ブロックのサンプルとの間のサンプルごとの差分を表す。
CUを予測するために、ビデオエンコーダ200は、一般に、インター予測またはイントラ予測を通じてCUのための予測ブロックを形成し得る。インター予測は、一般に、以前にコーディングされたピクチャのデータからCUを予測することを指すが、イントラ予測は、一般に、同じピクチャの以前にコーディングされたデータからCUを予測することを指す。インター予測を実行するために、ビデオエンコーダ200は、1つまたは複数の動きベクトルを使用して予測ブロックを生成し得る。ビデオエンコーダ200は、一般に、たとえば、CUと参照ブロックとの間の差分に関してCUと厳密に一致する参照ブロックを識別するために、動き探索を実行し得る。ビデオエンコーダ200は、参照ブロックが現在のCUと厳密に一致するかどうかを決定するために、絶対差分和(SAD)、2乗差分和(SSD)、平均絶対差(MAD)、平均2乗差(MSD)、または他のそのような差分計算を使用して差分メトリックを計算し得る。いくつかの例では、ビデオエンコーダ200は、単方向予測または双方向予測を使用して現在のCUを予測し得る。
VVCのいくつかの例は、インター予測モードと見なされ得るアフィン動き補償モードも提供する。アフィン動き補償モードでは、ビデオエンコーダ200は、ズームインもしくはズームアウト、回転、遠近運動、または他の不規則な運動タイプなどの、非並進運動を表す2つ以上の動きベクトルを決定し得る。
イントラ予測を実行するために、ビデオエンコーダ200は、イントラ予測モードを選択して予測ブロックを生成し得る。VVCのいくつかの例は、様々な方向モードを含む67個のイントラ予測モード、ならびに平面モードおよびDCモードを提供する。一般に、ビデオエンコーダ200は、そこから現在のブロックのサンプルを予測するための現在のブロック(たとえば、CUのブロック)に対する隣接サンプルを記述するイントラ予測モードを選択する。そのようなサンプルは、一般に、ビデオエンコーダ200がラスタ走査順序で(左から右に、上から下に)CTUおよびCUをコーディングすると仮定すると、現在のブロックと同じピクチャ中の現在のブロックの上方、上方および左側、または左側にあり得る。
ビデオエンコーダ200は、現在のブロックのための予測モードを表すデータを符号化する。たとえば、インター予測モードの場合、ビデオエンコーダ200は、様々な利用可能なインター予測モードのうちのどれが使用されるか、ならびに対応するモードについての動き情報を表すデータを符号化し得る。単方向または双方向インター予測の場合、たとえば、ビデオエンコーダ200は、高度動きベクトル予測(AMVP)またはマージモードを使用して動きベクトルを符号化し得る。ビデオエンコーダ200は、アフィン動き補償モードのための動きベクトルを符号化するために類似のモードを使用し得る。
ブロックのイントラ予測またはインター予測などの予測に続いて、ビデオエンコーダ200はブロックのための残差データを計算し得る。残差ブロックなどの残差データは、ブロックと、対応する予測モードを使用して形成されたそのブロックのための予測ブロックとの間のサンプルごとの差分を表す。ビデオエンコーダ200は、サンプル領域ではなく変換領域において変換データを生成するために、1つまたは複数の変換を残差ブロックに適用し得る。たとえば、ビデオエンコーダ200は、離散コサイン変換(DCT)、整数変換、ウェーブレット変換、または概念的に類似の変換を残差ビデオデータに適用し得る。加えて、ビデオエンコーダ200は、第1の変換に続いて、モード依存型分離不可能二次変換(MDNSST:mode-dependent non-separable secondary transform)、信号依存変換、カルーネンレーベ変換(KLT:Karhunen-Loeve transform)などの二次変換を適用し得る。ビデオエンコーダ200は、1つまたは複数の変換の適用に続いて、変換係数を生成する。
上述のように、変換係数を生成するための任意の変換に続いて、ビデオエンコーダ200は、変換係数の量子化を実行し得る。量子化は一般に、変換係数を表すために使用されるデータの量をできるだけ低減するために変換係数が量子化され、さらなる圧縮を実現するプロセスを指す。量子化プロセスを実行することによって、ビデオエンコーダ200は、変換係数の一部または全部に関連付けられたビット深度を低減し得る。たとえば、ビデオエンコーダ200は、量子化の間にnビット値をmビット値に切り捨ててもよく、ここで、nはmよりも大きい。いくつかの例では、量子化を実行するために、ビデオエンコーダ200は、量子化されるべき値のビット単位の右シフトを実行してもよい。
量子化に続いて、ビデオエンコーダ200は、変換係数を走査し、量子化された変換係数を含む2次元行列から1次元ベクトルを生成し得る。走査は、より高いエネルギー(したがって、より低い周波数)の変換係数をベクトルの前方に置き、より低いエネルギー(したがって、より高い周波数)の変換係数をベクトルの後方に置くように設計され得る。いくつかの例では、ビデオエンコーダ200は、シリアル化ベクトルを生成し、次いで、ベクトルの量子化された変換係数をエントロピー符号化するために、量子化された変換係数を走査するための事前定義された走査順序を利用し得る。他の例では、ビデオエンコーダ200は適応走査を実行し得る。量子化された変換係数を走査して1次元ベクトルを形成した後、ビデオエンコーダ200は、たとえば、コンテキスト適応型バイナリ算術コーディング(CABAC)に従って、1次元ベクトルをエントロピー符号化し得る。ビデオエンコーダ200はまた、ビデオデータを復号する際にビデオデコーダ300によって使用するための符号化されたビデオデータに関連付けられたメタデータを記述するシンタックス要素のための値をエントロピー符号化し得る。
CABACを実行するために、ビデオエンコーダ200は、送信されるべきシンボルにコンテキストモデル内のコンテキストを割り当て得る。コンテキストは、たとえば、シンボルの隣接値が0値化されているか否かに関係し得る。確率決定は、シンボルに割り当てられたコンテキストに基づき得る。
ビデオエンコーダ200は、たとえば、ピクチャヘッダ、ブロックヘッダ、スライスヘッダ、または、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、もしくはビデオパラメータセット(VPS)などの他のシンタックスデータにおいて、ビデオデコーダ300へのブロックベースのシンタックスデータ、ピクチャベースのシンタックスデータ、およびシーケンスベースのシンタックスデータなどのシンタックスデータをさらに生成し得る。ビデオデコーダ300は、そのようなシンタックスデータを同様に復号して、対応するビデオデータをどのように復号するかを決定し得る。
このように、ビデオエンコーダ200は、符号化されたビデオデータ、たとえば、ブロック(たとえば、CU)へのピクチャの区分ならびにブロックについての予測および/または残差情報を記述するシンタックス要素を含むビットストリームを生成し得る。最終的に、ビデオデコーダ300は、ビットストリームを受信し、符号化されたビデオデータを復号し得る。
一般に、ビデオデコーダ300は、ビデオエンコーダ200によって実行されるプロセスとは逆のプロセスを実行して、ビットストリームの符号化されたビデオデータを復号する。たとえば、ビデオデコーダ300は、ビデオエンコーダ200のCABAC符号化プロセスとは逆であるが実質的に同様の方法で、CABACを使用してビットストリームのシンタックス要素のための値を復号し得る。シンタックス要素は、ピクチャをCTUに区分するための区分情報、およびQTBT構造などの対応する区分構造に従った各CTUの区分を定義して、CTUのCUを定義し得る。シンタックス要素は、ビデオデータのブロック(たとえば、CU)についての予測および残差情報をさらに定義し得る。
残差情報は、たとえば、量子化された変換係数によって表され得る。ビデオデコーダ300は、ブロックのための残差ブロックを再生するために、ブロックの量子化された変換係数を逆量子化し、逆変換し得る。ビデオデコーダ300は、ブロックのための予測ブロックを形成するために、シグナリングされた予測モード(イントラ予測またはインター予測)および関連する予測情報(たとえば、インター予測についての動き情報)を使用する。次いで、ビデオデコーダ300は、元のブロックを再生するために、予測ブロックおよび残差ブロックを(サンプルごとに)合成し得る。ビデオデコーダ300は、ブロックの境界に沿って視覚的アーティファクトを低減するためのデブロッキングプロセスを実行するなどの、追加の処理を実行し得る。
本開示は、一般に、シンタックス要素などの特定の情報を「シグナリング」することに言及することがある。「シグナリング」という用語は、一般に、シンタックス要素および/または符号化されたビデオデータを復号するために使用される他のデータのための値の通信を指すことがある。すなわち、ビデオエンコーダ200は、ビットストリーム中でシンタックス要素のための値をシグナリングし得る。一般に、シグナリングは、ビットストリーム中で値を生成することを指す。上述のように、ソースデバイス102は、実質的にリアルタイムで、または、宛先デバイス116によって後で取り出すためにシンタックス要素を記憶デバイス112に記憶するときに行われ得るなど、リアルタイムではなく、ビットストリームを宛先デバイス116にトランスポートし得る。
図2Aおよび図2Bは、例示的な4分木2分木(QTBT)構造130および対応するコーディングツリーユニット(CTU)132を示す概念図である。実線は4分木分割を表し、点線は2分木分割を示す。2分木の各分割(すなわち、非リーフ)ノードでは、どの分割タイプ(すなわち、水平または垂直)が使用されるかを示すために1つのフラグがシグナリングされ、ここで、この例では、0が水平分割を示し、1が垂直分割を示す。4分木分割の場合、4分木ノードがブロックをサイズが等しい4つのサブブロックに水平にかつ垂直に分割するので、分割タイプを示す必要はない。したがって、ビデオエンコーダ200は、QTBT構造130の領域木レベル(すなわち、実線)のための(分割情報などの)シンタックス要素およびQTBT構造130の予測木レベル(すなわち、破線)のための(分割情報などの)シンタックス要素を符号化し得、ビデオデコーダ300は、それらのシンタックス要素を復号し得る。ビデオエンコーダ200は、QTBT構造130の末端リーフノードによって表されるCUのための、予測データおよび変換データなどのビデオデータを符号化し得、ビデオデコーダ300は、そのビデオデータを復号し得る。
一般に、図2BのCTU132は、第1のレベルおよび第2のレベルでQTBT構造130のノードに対応するブロックのサイズを定義するパラメータに関連付けられ得る。これらのパラメータは、CTUサイズ(サンプル中のCTU132のサイズを表す)、最小4分木サイズ(MinQTSize、最小の許容される4分木リーフノードサイズを表す)、最大2分木サイズ(MaxBTSize、最大の許容される2分木ルートノードサイズを表す)、最大2分木深度(MaxBTDepth、最大の許容される2分木深度を表す)、および最小2分木サイズ(MinBTSize、最小の許容される2分木リーフノードサイズを表す)を含み得る。
CTUに対応するQTBT構造のルートノードは、QTBT構造の第1のレベルで4個の子ノードを有することがあり、子ノードの各々は、4分木区分に従って区分されることがある。すなわち、第1のレベルのノードは、(子ノードを有しない)リーフノードであるか、4個の子ノードを有するかのいずれかである。QTBT構造130の例は、分岐のための実線を有する親ノードと子ノードとを含むようなノードを表す。第1のレベルのノードが最大の許容される2分木ルートノードサイズ(MaxBTSize)よりも大きくない場合、これらのノードはそれぞれの2分木によってさらに区分され得る。1つのノードの2分木分割は、分割の結果として生じるノードが最小の許容される2分木リーフノードサイズ(MinBTSize)または最大の許容される2分木深度(MaxBTDepth)に達するまで繰り返され得る。QTBT構造130の例は、分岐のための破線を有するようなノードを表す。2分木リーフノードはコーディングユニット(CU)と呼ばれ、コーディングユニット(CU)は、これ以上の区分なしで、予測(たとえば、イントラピクチャ予測またはインターピクチャ予測)および変換のために使用される。上記で説明したように、CUは「ビデオブロック」または「ブロック」と呼ばれることもある。
QTBT区分構造の一例では、CTUサイズは128×128(ルーマサンプルおよび2つの対応する64×64クロマサンプル)として設定され、MinQTSizeは16×16として設定され、MaxBTSizeは64×64として設定され、(幅と高さの両方についての)MinBTSizeは4として設定され、MaxBTDepthは4として設定される。4分木リーフノードを生成するために、4分木区分がまずCTUに適用される。4分木リーフノードは、16×16(すなわち、MinQTSize)から128×128(すなわち、CTUサイズ)までのサイズを有し得る。4分木リーフノードが128×128である場合、サイズがMaxBTSize(すなわち、この例では64×64)を超えるので、4分木リーフノードは2分木によってさらに分割されない。それ以外の場合、4分木リーフノードは2分木によってさらに区分され得る。したがって、4分木リーフノードは2分木のルートノードでもあり、0としての2分木深度を有する。2分木深度がMaxBTDepth(この例では4)に達するとき、さらなる分割は許可されない。MinBTSize(この例では4)に等しい幅を有する2分木ノードは、その2分木ノードに対してさらなる垂直分割(すなわち、幅の分割)が許可されないことを示唆する。同様に、MinBTSizeに等しい高さを有する2分木ノードは、その2分木ノードに対してさらなる水平分割(すなわち、高さの分割)が許可されないことを示唆する。上述のように、2分木のリーフノードはCUと呼ばれ、さらなる区分なしで予測および変換に従ってさらに処理される。
図3は、ハイブリッドビデオコーディングフレームワーク140を示す概念図である。H.261以降のビデオコーディング規格は、図3に示す、いわゆるハイブリッドビデオコーディング原理に基づいている。ハイブリッドという用語は、ビデオ信号における冗長性を低減するための2つの手段の組合せ、すなわち、予測残差の予測142および量子化を伴う変換コーディング144を指す。予測および変換は、非相関化によってビデオ信号における冗長性を低減するが、量子化は、変換係数表現のデータを、その精度を低減することによって、理想的には無関係な詳細のみを除去することによって減少させる。このハイブリッドビデオコーディングの設計原理は、2つの最近の規格であるITU-T H.265/HEVCおよびITU-T H.266/VVCにおいても使用される。図3に示すように、現代のハイブリッドビデオコーダは、ブロック区分、動き補償またはインターピクチャ予測およびイントラピクチャ予測を含む予測142、変換および量子化を含む変換/量子化144、エントロピーコーディング146、ならびにポスト/インループフィルタ処理148を含む。
ブロック区分は、予測プロセスおよび変換プロセスの動作のために、画像をより小さいブロックに分割するために使用される。初期のビデオコーディング規格は、固定ブロックサイズ、典型的には16×16サンプルを使用した。HEVCおよびVVCなどの最近の規格は、柔軟な区分を行うためにツリーベースの区分構造を用いる。
動き補償またはインターピクチャ予測は、ビデオシーケンスのピクチャ間に存在する(したがって「インター」)冗長性を利用する。すべての現代のビデオコーデックにおいて使用されるブロックベースの動き補償によれば、予測は、1つまたは複数の以前に復号されたピクチャ、すなわち、参照ピクチャから取得される。インター予測を生成するための対応するエリアは、動きベクトルと参照ピクチャインデックスとを含む動き情報によって示される。
図4は、16のピクチャグループ(GOP)サイズを使用する階層予測構造150を示す概念図である。最近のビデオコーデックでは、コーディング効率を改善するために、ピクチャグループ(GOP)の内部の階層予測構造が適用される。
再び図3を参照すると、イントラピクチャ予測は、すでにコーディングされた/復号された、空間的に隣接する(参照)サンプルからブロックについての予測を導出することによって、ピクチャ内に存在する(したがって「イントラ」)空間冗長性を活用する。方向性角度予測、DC予測、および平面(plane)または平面(planar)予測は、AVC、HEVC、およびVVCを含む、直近のビデオコーデックにおいて使用される。
変換:ハイブリッドビデオコーディング規格は、(予測残差がインターピクチャ予測に由来するかイントラピクチャ予測に由来するかにかかわらず)ブロック変換を予測残差に適用する。H.261、H.262、およびH.263を含む初期の規格では、離散コサイン変換(DCT)が用いられる。HEVCおよびVVCでは、特定のビデオ信号における異なる統計値を考慮するために、DCT以外のさらなる変換カーネルが適用される。
量子化は、値を表すために必要なデータの量を減少させるために、入力値または入力値のセットの精度を低減することを目的とする。ハイブリッドビデオコーディングでは、量子化は典型的には、個々の変換された残差サンプルに、すなわち、変換係数に適用されて、整数係数レベルをもたらす。最近のビデオコーディング規格では、ステップサイズは、忠実度とビットレートとを制御するいわゆる量子化パラメータ(QP)から導出される。より大きいステップサイズはビットレートを低下させるが、品質を悪化させることもあり、その結果として、たとえば、ビデオピクチャがブロッキングアーティファクトおよびぼやけた細部を呈する。
コンテキスト適応型バイナリ算術コーディング(CABAC)は、その高い効率により、最近のビデオコーデック、たとえば、AVC、HEVC、およびVVCにおいて使用されるエントロピーコーディングの一形態である。
ポスト/インループフィルタ処理は、コーディングアーティファクトを低減するために再構成されたピクチャに適用されるフィルタ処理プロセス(またはそのようなプロセスの組合せ)である。フィルタ処理プロセスの入力は一般に、(量子化誤差を含む)再構成された残差信号と予測の組合せである、再構成されたピクチャである。図3に示すように、インループフィルタ処理後の再構成されたピクチャが記憶され、後続のピクチャのインターピクチャ予測のための参照として使用される。コーディングアーティファクトは、大部分がQPによって決定され、したがって、QP情報は一般に、フィルタ処理プロセスの設計において使用される。HEVCでは、インループフィルタは、デブロッキングフィルタ処理およびサンプル適応オフセット(SAO)フィルタ処理を含む。VVC規格では、適応ループフィルタ(ALF)が第3のフィルタとして導入された。ALFのフィルタ処理プロセスは以下に示すとおりである。
ここで、R(i,j)はフィルタ処理プロセス前のサンプルのセットであり、R'(i,j)はフィルタ処理プロセス後のサンプル値である。f(k,l)はフィルタ係数を示し、K(x,y)はクリッピング関数であり、c(k,l)はクリッピングパラメータを示す。変数kおよびlは
の間で異なり、ここで、Lはフィルタ長を示す。クリッピング関数はK(x,y)=min(y,max(-y,x))であり、これは関数Clip3(-y,y,x)に対応する。クリッピング演算は、現在のサンプル値に対してあまりにも異なる隣接サンプル値の影響を低減することによって、ALFをより効率的にする非線形性をもたらす。VVCでは、フィルタ処理パラメータはビットストリームにおいてシグナリングされ得、それは事前定義されたフィルタセットから選択され得る。ALFフィルタ処理プロセスはまた、以下の式として要約され得る。
R'(i,j)=R(i,j)+ALF_residual_ouput(R)
図5は、4つのレイヤを有するニューラルネットワークベースのフィルタ160を示す概念図である。様々な研究は、ハイブリッドビデオコーディングフレームワークにニューラルネットワーク(NN)を埋め込むことは圧縮効率を改善することができることを示している。ニューラルネットワークは、予測効率を改善するためにイントラ予測およびインター予測のモジュールにおいて使用されている。近年、NNベースのインループフィルタ処理も顕著な研究トピックである。場合によっては、NNベースのフィルタ処理プロセスは、ポストループフィルタ処理として適用される。この場合、フィルタ処理プロセスは出力ピクチャのみに適用され、フィルタ処理されないピクチャは参照ピクチャとして使用される。
デブロッキングフィルタ、サンプル適応オフセット(SAO)、および/または適応ループフィルタ処理(ALF)などの既存のフィルタに加えて、NNベースのフィルタが適用され得る。NNベースのフィルタはまた、NNベースのフィルタが既存のフィルタのすべてを置き換えるように設計される場合、排他的に適用され得る。追加または代替として、NNベースのフィルタは、その他のフィルタのいずれかまたはすべてを補完する、強化する、または置き換えるように設計され得る。
図5に示すように、NNベースのフィルタ処理プロセスは再構成されたサンプルを入力として取ってもよく、中間出力は残差サンプルであり、残差サンプルは入力サンプルを精錬するために入力に戻って加えられる。NNフィルタは、成分間相関を活用するためにすべての色成分(たとえば、Y、U、およびV、またはY、Cb、およびCr、すなわち、ルミナンス、青色相クロミナンス、および赤色相クロミナンス)を入力として使用し得る。異なる成分が(ネットワーク構造およびモデルパラメータを含む)同じフィルタを共有し得るか、または各成分がそれ自体の固有のフィルタを有し得る。
フィルタ処理プロセスはまた、次のように一般化され得る。
R'(i,j)=R(i,j)+NN_filter_residual_ouput(R)
NNベースのフィルタのモデル構造およびモデルパラメータは、エンコーダおよびデコーダにおいて事前定義され、記憶され得る。フィルタはまた、ビットストリームにおいてシグナリングされ得る。
本開示は、場合によっては、事前定義されたフィルタ(たとえば、NNベースのフィルタまたはALF)がビデオおよび画像データベースの大きいセットに基づいてトレーニングされることを認識する。フィルタは一般には最適であり得るが、特定のひずんだシーケンスにとっては最適ではないことがある。本開示はまた、事前定義されたトレーニング画像/ビデオデータベースはすべての可能なタイプのビデオ特性を構成しないことがあるので、この所与のデータベースに対してトレーニングされたフィルタを異なるビデオ特性を有するシーケンスに適用することは、いかなる客観的または主観的な利益ももたらさないことがあるが、代わりに客観的または主観的な品質を損なうことがあることを認識する。
図1のビデオエンコーダ200およびビデオデコーダ300は、本開示の技法に従って、以下の技法のいずれかまたはすべてを単独でまたは任意の組合せで実行するように構成され得る。一般に、複数のフィルタ処理モデルが使用され得る。入力ピクチャのターゲットエリアごとに、ビデオエンコーダ200および/またはビデオデコーダ300は、フィルタ処理を実行するために複数のフィルタ処理モデルのうちの1つまたは複数を選択し得る。ビデオエンコーダ200およびビデオデコーダ300は、ビットストリームの中の情報に基づいて(たとえば、量子化パラメータ(QP)に基づいて)NNモデルの選択を暗黙的に導出し得る。代替として、ビデオデコーダ300は、ビットストリームにおいてビデオエンコーダ200によって明示的にシグナリングされたインデックスを使用してNNモデルの選択を導出し得る。いくつかの例では、明示的なシグナリングと暗黙的な導出が組み合わされ得る。
いくつかの例では、ビデオエンコーダ200は、1つまたは複数のモデルを選択し、選択されたモデルのためのインデックスをビットストリームにおいてシグナリングし得る。1つのモデルが選択されるとき、モデルは入力ピクチャの対応するターゲットエリアをフィルタ処理するために使用される。複数のモデルが選択されるとき、モデルは入力ピクチャのターゲットエリアをフィルタ処理するために一緒に使用される。一例として、ビデオエンコーダ200およびビデオデコーダ300は、モデルをターゲットエリアに別々に適用してもよく、関与するモデルの出力は、ターゲットエリアの最終出力として合成されてもよい。
フィルタ処理プロセスをオフに切り替えることは、一候補として使用され得る。ターゲットエリアに対して「オフに切り替える」ことが選択されるとき、ビデオエンコーダ200およびビデオデコーダ300はいかなるフィルタも適用せず、出力信号は入力信号と同じである。
モデルを選択することおよびシグナリングすることの粒度は、異なるレベルで設計され得る。フィルタモデルインデックスがシグナリングされる可能なレベルは、ビデオパラメータセット/シーケンスパラメータセット/ピクチャパラメータセット(VPS/SPS/PPS)レベル、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、CTUレベル、またはフィルタシグナリング用に特別に設計されたグリッドサイズN*Nを含む。フィルタモデルシグナリングに使用されるレベルの選択は固定とすることができ、ビデオエンコーダ200は、ビットストリームの中のシンタックス要素として選択をビデオデコーダ300にシグナリングしてもよく、またはビデオデコーダ300は、ビットストリームの中の情報(たとえば、ピクチャ解像度、QPなど)に基づいて選択を暗黙的に導出してもよい。
1つの例示的な実装形態では、N個の事前定義されたフィルタモデルがある。フィルタモデルシグナリングのレベルにおいて、ビデオエンコーダ200は、どのフィルタモデルが使用されるべきかを決定するために、1つのモデルを選択し、ビデオデコーダ300のための対応するインデックスをシグナリングする。要素をシグナリングする可能なレベルは、VPS/SPS/PPSレベル、イントラ期間レベル、ピクチャグループ(GOP)レベル、ピクチャレベル、スライスレベル、CTUレベル、またはフィルタシグナリング用に特別に設計されたグリッドサイズN*Nを含む。フィルタモデルシグナリングに使用されるレベルの選択は固定とすることができ、ビットストリームの中のシンタックス要素としてシグナリングされ得るか、またはビットストリームの中の情報(たとえば、ピクチャ解像度、QPなど)に基づいて暗黙的に導出され得る。
別の例として、ビデオエンコーダ200は、事前定義されたモデルのサブセットを導出し、シーケンスパラメータセット(SPS)、スライスヘッダ、ピクチャヘッダ、適応パラメータセット(APS)、または任意の他の高レベルシンタックス要素本体の中のシンタックス要素としてこのサブセットをビットストリームにおいてビデオデコーダ300にシグナリングし得る。サブセットのサイズは、ここではMと呼ばれる。Mは、より低いレベル(たとえば、スライスヘッダ、ピクチャヘッダ、CTUレベル、グリッドレベルなど)で事前定義されたまたはビットストリームにおいてシグナリングされた任意の値とすることができる。M>1の場合、M個の候補のうちの1つが選択され、シンタックス要素としてビットストリームにおいてシグナリングされる。
別の例として、フィルタモデルの各々はQP値に関連付けられてもよく、ピクチャごとに、ビデオエンコーダ200およびビデオデコーダ300は、「モデル選択QP」を導出し、現在のピクチャのために「モデル選択QP」に最も近いQP値を有するモデルを選択してもよい。この場合、追加の情報がシグナリングされる必要はない。「モデル選択QP」を導出するために使用される情報は、現在のピクチャQP、参照ピクチャQP、同じGOP内のピクチャのQP、同じイントラ期間内のピクチャのQPなどを含み得る。代替として、スライスの中の1つまたは複数のブロックのためのQP、すなわちブロックレベルQPは、現在のスライスまたは現在のブロックをフィルタ処理するためにNNモデルに提供され得る。
別の例として、上記の例と同様に、各フィルタモデルはQP値に関連付けられてもよく、ビデオエンコーダ200およびビデオデコーダ300は、フレームごとに「モデル選択QP」を導出してもよい。ビデオエンコーダ200およびビデオデコーダ300は、「モデル選択QP」に基づいてすべてのモデルのサブセットを導出してもよい。ビデオエンコーダ200は、「モデル選択QP」に最も近いモデルQPを有するモデルを決定し、これらのモデルのうちの1つを選択し、ビデオデコーダ300のための追加のインデックスをシグナリングして、QP導出されたサブセットからモデルを選択してもよい。
上述のように、NNベースのモデリングをオフに切り替えることは、上記で説明した様々な例のいずれかまたはすべてにおいて、選択の一候補として使用され得る。オフに切り替えることは、フィルタモデルセットの追加の通常の候補と見なされる場合があり、「オフに切り替える」ケースのシグナリングは、他のフィルタモデルのシグナリングと統合されてもよい。別の例として、「オフに切り替える」ことは、特殊な候補と見なされることがあり、シグナリングは、他のフィルタモデルから分離される。
ビデオエンコーダ200およびビデオデコーダ300は、上記で説明したようなマルチモデルベースのフィルタ処理のためのオン/オフ制御を適用するように構成され得る。すなわち、ビデオエンコーダ200およびビデオデコーダ300は、フィルタ処理が適用されるべきであることを所与の制御動作(たとえば、フラグ)がアサートしたときのみ、残差をフィルタ処理し、結果を入力サンプルに加えることになる。この制御信号は、以下として表され得る。
(ApplyFilterが真である)場合 {R'(i,j)=R(i,j)+(filter_residual_ouput(R))}、それ以外の場合 {R'(i,j)=R(i,j)}
ここで、ApplyFilterは、ビデオエンコーダ200によって決定され得る制御動作であり、ビデオエンコーダ200は、決定(たとえば、フラグまたは他のシンタックス要素)を表すデータをビットストリームにおいてビデオデコーダ300にシグナリングし得る。
一例として、ビデオエンコーダ200は、フィルタを適用するレートひずみ(RD)コストを計算し、そのRDコストをフィルタを適用しないRDコストと比較し得る。この比較の結果に基づいて、ビデオエンコーダ200は、制御動作を決定し(たとえば、所与のフラグの値を0状態または1状態のいずれかに設定し、ここで、一方の状態はフィルタが適用されるべきであることを表し、他方の状態はフィルタを適用しないことを表す)得る。次いで、ビデオエンコーダ200は、所与のフラグをビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、所与のフラグをパースし、その値に基づいて、フィルタを適用するかまたはフィルタを適用しないかのいずれかを行い得る。トレーニングされたフィルタは、ビデオシーケンス全体にとって、またはシーケンスの中の所与のフレームもしくはシーケンスの中の所与の領域にとって最適ではないことがあるので、制御動作(フラグ)がシグナリングされる粒度も重要になる。
いくつかの例では、ビデオエンコーダ200は、フィルタOn/Offの値を導出し、シーケンスパラメータセット(SPS)、スライスヘッダ、ピクチャパラメータセット(PPS)、ピクチャヘッダ、適応パラメータセット(APS)、または任意の他の高レベルシンタックス要素本体の中のシンタックス要素としてこの値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、このシンタックス要素の値を使用して、フィルタを使用するか否かを決定し得る。
いくつかの例では、ビデオエンコーダ200は、フィルタOn/Offフラグの値を導出し、ブロックレベルでの、たとえば、CTUレベルでのシンタックス要素としてこの値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、このシンタックス要素の値を使用して、フィルタを使用するか否かを決定し得る。
いくつかの例では、ビデオエンコーダ200は、(シグナリングのための)グリッドサイズおよび対応するグリッドにおけるフィルタOn/Offフラグの値を決定し、それぞれのシンタックス要素としてグリッドの各々の値をビットストリームにおいてシグナリングし得る。ビデオデコーダ300は、これらのシンタックス要素の値を使用して、グリッドの要素の各々およびグリッド自体に対してフィルタを使用するか否かを決定し得る。
シグナリングのための固定グリッドサイズ(たとえば、グリッドサイズがCTUサイズとして常に固定である場合)を使用する代わりに、ビデオエンコーダ200は、RDコストに基づいて、所与のスライスに対して異なるグリッドサイズを選択的に選んでもよい。たとえば、所与のスライスに対して、ビデオエンコーダ200は、異なるグリッドサイズ(たとえば、M×Nのサイズ、ここで、MおよびNは、[4,8,16,...,フレームサイズ]の範囲内の値を取ることができる)を適用し得る。ビデオエンコーダ200は、フィルタOnのケースとフィルタOffのケースの両方について、対応するRDコストを計算し得る。最良のRDコストに基づいて、ビデオエンコーダ200は、グリッドサイズおよび対応するフィルタOn/Offフラグを選択し、グリッドサイズおよびフィルタOn/Offフラグを表すデータをビットストリームにおいてシグナリングし得る。グリッドサイズは、たとえば、以下のTable 1(表1)に示すように、ビデオエンコーダ200とビデオデコーダ300の両方において事前定義され得る。
ビデオエンコーダ200は、単項コード、2進、短縮2進、または可変長コードを使用して、グリッドのインデックス値をビットストリームにおいてシグナリングし得る。
ビデオデコーダ300は、入力シーケンスの解像度に基づいてシグナリングのためのグリッドサイズを決定し得る。たとえば、より低い解像度のシーケンスの場合、より細かい粒度のグリッド(すなわち8×8)が用いられるが、より高い解像度のシーケンスの場合、より粗い粒度のグリッド(すなわち128×128)が使用される。
いくつかの例では、ビデオエンコーダ200は、色成分ごとにフィルタOn/Offフラグを別々に決定し得る。したがって、ルーマ(Y)、クロマ(Cb)、およびクロマ(Cr)は、それら自体の個々の制御フラグを有する。
いくつかの例では、フィルタOn/Offフラグは、単一の成分のみに対してシグナリングされる。その他の成分は、同じフラグを共有し得る。たとえば、ビデオエンコーダ200は、ルーマ成分のみに対する制御フラグをシグナリングし得、次いで、Cb成分およびCr成分は、同じフラグを共有し得る。他の例では、ビデオエンコーダ200は、ルーマ成分に対する制御フラグおよびクロマ成分に対するジョイントフラグをシグナリングし得る。
ビデオエンコーダ200およびビデオデコーダ300は、別個の成分に対するフラグをシグナリングするための別個のCABACコンテキストを適用し得る(たとえば、Y、Cb、およびCrは、別個のコンテキストを有し得る)。また、ビデオエンコーダ200およびビデオデコーダ300は、現在のブロックに対するフラグをシグナリングするために使用されるコンテキストを決定するために、空間的/時間的隣接ブロックフラグOn/Off情報を使用し得る。隣接ブロックは、直接または一定数のブロック内で、現在のブロックの上および/または左にあり得る。
On/Offフラグを決定するためのRDコストを計算するために使用されるひずみ測度は、SAD(絶対差分和)、もしくはSATD(絶対変換差分和)、または任意の他のひずみ測度であり得る。
図6は、本開示の技法を実行し得る例示的なビデオエンコーダ200を示すブロック図である。図6は説明のために提供され、本開示において広く例示および説明するような技法の限定と見なされるべきではない。説明のために、本開示は、ITU-T H.265/HEVCビデオコーディング規格および開発中のVVCビデオコーディング規格などのビデオコーディング規格の文脈でビデオエンコーダ200について説明する。しかしながら、本開示の技法は、これらのビデオコーディング規格に限定されず、概して他のビデオ符号化および復号規格に適用可能である。
図6の例では、ビデオエンコーダ200は、ビデオデータメモリ230、モード選択ユニット202、残差生成ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、フィルタユニット216、復号ピクチャバッファ(DPB)218、およびエントロピー符号化ユニット220を含む。ビデオデータメモリ230、モード選択ユニット202、残差生成ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、フィルタユニット216、DPB218、およびエントロピー符号化ユニット220のいずれかまたはすべては、1つもしくは複数のプロセッサにおいてまたは処理回路において実装され得る。たとえば、ビデオエンコーダ200のユニットは、ハードウェア回路の一部としての1つもしくは複数の回路もしくは論理要素として、またはプロセッサ、ASIC、もしくはFPGAの一部として実装され得る。さらに、ビデオエンコーダ200は、これらおよび他の機能を実行するための追加または代替のプロセッサまたは処理回路を含み得る。
ビデオデータメモリ230は、ビデオエンコーダ200の構成要素によって符号化されるべきビデオデータを記憶し得る。ビデオエンコーダ200は、たとえば、ビデオソース104(図1)から、ビデオデータメモリ230に記憶されたビデオデータを受信し得る。DPB218は、ビデオエンコーダ200による後続のビデオデータの予測において使用するための参照ビデオデータを記憶する参照ピクチャメモリとして働き得る。ビデオデータメモリ230およびDPB218は、同期DRAM(SDRAM)を含むダイナミックランダムアクセスメモリ(DRAM)、磁気抵抗RAM(MRAM)、抵抗RAM(RRAM)、または他のタイプのメモリデバイスなどの、様々なメモリデバイスのいずれかによって形成され得る。ビデオデータメモリ230およびDPB218は、同じメモリデバイスまたは別個のメモリデバイスによって提供され得る。様々な例では、ビデオデータメモリ230は、図示のように、ビデオエンコーダ200の他の構成要素とともにオンチップであってもよく、またはそれらの構成要素に対してオフチップであってもよい。
本開示では、ビデオデータメモリ230への言及は、そのようなものとして特に説明されていない限り、ビデオエンコーダ200の内部のメモリ、または、そのようなものとして特に説明されていない限り、ビデオエンコーダ200の外部のメモリに限定されるものとして解釈されるべきではない。むしろ、ビデオデータメモリ230への言及は、符号化するためにビデオエンコーダ200が受信するビデオデータ(たとえば、符号化されるべき現在のブロックのためのビデオデータ)を記憶する参照メモリとして理解されるべきである。図1のメモリ106はまた、ビデオエンコーダ200の様々なユニットからの出力の一時的な記憶を提供し得る。
図6の様々なユニットは、ビデオエンコーダ200によって実行される動作を理解することを助けるために図示されている。ユニットは、固定機能回路、プログラマブル回路、またはそれらの組合せとして実装され得る。固定機能回路は、特定の機能を提供する回路を指し、実行され得る動作に対してプリセットされる。プログラマブル回路は、様々なタスクを実行するようにプログラムされ得る回路を指し、実行され得る動作において柔軟な機能を提供する。たとえば、プログラマブル回路は、ソフトウェアまたはファームウェアの命令によって定義された方法でプログラマブル回路を動作させるソフトウェアまたはファームウェアを実行し得る。固定機能回路は(たとえば、パラメータを受信するまたはパラメータを出力するための)ソフトウェア命令を実行し得るが、固定機能回路が実行する動作のタイプは概して不変である。いくつかの例では、1つまたは複数のユニットは異なる回路ブロック(固定機能またはプログラマブル)であってもよく、いくつかの例では、1つまたは複数のユニットは集積回路であってもよい。
ビデオエンコーダ200は、算術論理ユニット(ALU)、初等関数ユニット(EFU)、デジタル回路、アナログ回路、および/またはプログラマブル回路から形成されたプログラマブルコアを含み得る。ビデオエンコーダ200の動作がプログラマブル回路によって実行されるソフトウェアを使用して実行される例では、メモリ106(図1)が、ビデオエンコーダ200が受信および実行するソフトウェアの命令(たとえば、オブジェクトコード)を記憶してもよく、またはビデオエンコーダ200内の別のメモリ(図示せず)が、そのような命令を記憶してもよい。
ビデオデータメモリ230は、受信されたビデオデータを記憶するように構成される。ビデオエンコーダ200は、ビデオデータメモリ230からビデオデータのピクチャを取り出し、ビデオデータを残差生成ユニット204およびモード選択ユニット202に提供し得る。ビデオデータメモリ230中のビデオデータは、符号化されるべき未加工ビデオデータであり得る。
モード選択ユニット202は、動き推定ユニット222、動き補償ユニット224、およびイントラ予測ユニット226を含む。モード選択ユニット202は、他の予測モードに従ってビデオ予測を実行するための追加の機能ユニットを含み得る。例として、モード選択ユニット202は、パレットユニット、(動き推定ユニット222および/または動き補償ユニット224の一部であり得る)イントラブロックコピーユニット、アフィンユニット、線形モデル(LM)ユニットなどを含み得る。
モード選択ユニット202は、一般に、符号化パラメータの組合せおよびそのような組合せに対する結果として生じるレートひずみ値をテストするために複数の符号化パスを協調させる。符号化パラメータは、CUへのCTUの区分、CUのための予測モード、CUの残差データのための変換タイプ、CUの残差データのための量子化パラメータなどを含み得る。モード選択ユニット202は、その他のテストされた組合せよりも良いレートひずみ値を有する符号化パラメータの組合せを最終的に選択し得る。
ビデオエンコーダ200は、ビデオデータメモリ230から取り出されたピクチャを一連のCTUに区分し、スライス内に1つまたは複数のCTUをカプセル化し得る。モード選択ユニット202は、上記で説明したHEVCのQTBT構造または4分木構造などのツリー構造に従ってピクチャのCTUを区分し得る。上記で説明したように、ビデオエンコーダ200は、ツリー構造に従ってCTUを区分することから1つまたは複数のCUを形成し得る。そのようなCUは、一般に、「ビデオブロック」または「ブロック」と呼ばれることもある。
一般に、モード選択ユニット202はまた、現在のブロック(たとえば、現在のCU、またはHEVCでは、PUおよびTUの重複する部分)のための予測ブロックを生成するために、その構成要素(たとえば、動き推定ユニット222、動き補償ユニット224、およびイントラ予測ユニット226)を制御する。現在のブロックのインター予測の場合、動き推定ユニット222は、1つまたは複数の参照ピクチャ(たとえば、DPB218に記憶された1つまたは複数の以前にコーディングされたピクチャ)中の1つまたは複数の厳密に一致する参照ブロックを識別するために動き探索を実行し得る。具体的には、動き推定ユニット222は、たとえば、絶対差分和(SAD)、2乗差分和(SSD)、平均絶対差(MAD)、平均2乗差(MSD)などに従って、潜在的な参照ブロックが現在のブロックにどのくらい類似しているかを表す値を計算し得る。動き推定ユニット222は、一般に、現在のブロックと考慮されている参照ブロックとの間のサンプルごとの差分を使用してこれらの計算を実行し得る。動き推定ユニット222は、現在のブロックに最も厳密に一致する参照ブロックを示す、これらの計算の結果として生じる最も低い値を有する参照ブロックを識別し得る。
動き推定ユニット222は、現在のピクチャ中の現在のブロックの位置に対する参照ピクチャ中の参照ブロックの位置を定義する1つまたは複数の動きベクトル(MV)を形成し得る。次いで、動き推定ユニット222は動きベクトルを動き補償ユニット224に提供し得る。たとえば、単方向インター予測の場合、動き推定ユニット222は単一の動きベクトルを提供し得るが、双方向インター予測の場合、動き推定ユニット222は2つの動きベクトルを提供し得る。次いで、動き補償ユニット224は、動きベクトルを使用して予測ブロックを生成し得る。たとえば、動き補償ユニット224は、動きベクトルを使用して参照ブロックのデータを取り出し得る。別の例として、動きベクトルがフラクショナルサンプル精度を有する場合、動き補償ユニット224は、1つまたは複数の補間フィルタに従って予測ブロックのための値を補間し得る。さらに、双方向インター予測の場合、動き補償ユニット224は、それぞれの動きベクトルによって識別された2つの参照ブロックのためのデータを取り出し、たとえば、サンプルごとの平均化または重み付けされた平均化によって、取り出されたデータを合成し得る。
別の例として、イントラ予測またはイントラ予測コーディングの場合、イントラ予測ユニット226は、現在のブロックに隣接するサンプルから予測ブロックを生成し得る。たとえば、方向モードの場合、イントラ予測ユニット226は、一般に、隣接サンプルの値を数学的に合成し、これらの計算された値を現在のブロックにわたる定義された方向にポピュレートして、予測ブロックを生成し得る。別の例として、DCモードの場合、イントラ予測ユニット226は、現在のブロックに対する隣接サンプルの平均を計算し、予測ブロックのサンプルごとにこの結果として生じる平均を含めるべき予測ブロックを生成し得る。
モード選択ユニット202は、予測ブロックを残差生成ユニット204に提供する。残差生成ユニット204は、ビデオデータメモリ230から現在のブロックの未加工のコーディングされていないバージョンを受信し、モード選択ユニット202から予測ブロックを受信する。残差生成ユニット204は、現在のブロックと予測ブロックとの間のサンプルごとの差分を計算する。結果として生じるサンプルごとの差分は、現在のブロックのための残差ブロックを定義する。いくつかの例では、残差生成ユニット204はまた、残差差分パルスコード変調(RDPCM)を使用して残差ブロックを生成するために、残差ブロック中のサンプル値の間の差分を決定し得る。いくつかの例では、残差生成ユニット204は、バイナリ減算を実行する1つまたは複数の減算器回路を使用して形成され得る。
モード選択ユニット202がCUをPUに区分する例では、各PUはルーマ予測ユニットおよび対応するクロマ予測ユニットに関連付けられ得る。ビデオエンコーダ200およびビデオデコーダ300は、様々なサイズを有するPUをサポートし得る。上記で示したように、CUのサイズは、CUのルーマコーディングブロックのサイズを指すことがあり、PUのサイズは、PUのルーマ予測ユニットのサイズを指すことがある。特定のCUのサイズが2N×2Nであると仮定すると、ビデオエンコーダ200は、イントラ予測に対して2N×2NまたはN×NのPUサイズ、およびインター予測に対して2N×2N、2N×N、N×2N、N×N、または類似の、対称のPUサイズをサポートし得る。ビデオエンコーダ200およびビデオデコーダ300はまた、インター予測に対して2N×nU、2N×nD、nL×2N、およびnR×2NのPUサイズのための非対称区分をサポートし得る。
モード選択ユニット202がCUをPUにさらに区分しない例では、各PUはルーマコーディングブロックおよび対応するクロマコーディングブロックに関連付けられ得る。上記のように、CUのサイズは、CUのルーマコーディングブロックのサイズを指すことがある。ビデオエンコーダ200およびビデオデコーダ300は、2N×2N、2N×N、またはN×2NのCUサイズをサポートし得る。
いくつかの例として、イントラブロックコピーモードコーディング、アフィンモードコーディング、および線形モデル(LM)モードコーディングなどの他のビデオコーディング技法の場合、モード選択ユニット202は、コーディング技法に関連付けられたそれぞれのユニットを介して、符号化されている現在のブロックのための予測ブロックを生成する。パレットモードコーディングなどのいくつかの例では、モード選択ユニット202は、予測ブロックを生成しなくてもよく、代わりに、選択されたパレットに基づいてブロックを再構成する方法を示すシンタックス要素を生成してもよい。そのようなモードでは、モード選択ユニット202は、符号化されるべきこれらのシンタックス要素をエントロピー符号化ユニット220に提供し得る。
上記で説明したように、残差生成ユニット204は、現在のブロックおよび対応する予測ブロックのためのビデオデータを受信する。次いで、残差生成ユニット204は現在のブロックのための残差ブロックを生成する。残差ブロックを生成するために、残差生成ユニット204は予測ブロックと現在のブロックとの間のサンプルごとの差分を計算する。
変換処理ユニット206は、変換係数のブロック(本明細書では「変換係数ブロック」と呼ばれる)を生成するために、1つまたは複数の変換を残差ブロックに適用する。変換処理ユニット206は、変換係数ブロックを形成するために、様々な変換を残差ブロックに適用し得る。たとえば、変換処理ユニット206は、離散コサイン変換(DCT)、方向変換、カルーネンレーベ変換(KLT)、または概念的に類似の変換を残差ブロックに適用し得る。いくつかの例では、変換処理ユニット206は、複数の変換、たとえば、回転変換などの、一次変換および二次変換を残差ブロックに対して実行し得る。いくつかの例では、変換処理ユニット206は、変換を残差ブロックに適用しない。
量子化ユニット208は、変換係数ブロック中で変換係数を量子化して、量子化された変換係数ブロックを生成し得る。量子化ユニット208は、現在のブロックに関連付けられた量子化パラメータ(QP)値に従って変換係数ブロックの変換係数を量子化し得る。ビデオエンコーダ200は(たとえば、モード選択ユニット202を介して)、CUに関連付けられたQP値を調整することによって、現在のブロックに関連付けられた変換係数ブロックに適用される量子化の程度を調整し得る。量子化は情報の損失をもたらすことがあり、したがって、量子化された変換係数は変換処理ユニット206によって生成された元の変換係数よりも低い精度を有することがある。
逆量子化ユニット210および逆変換処理ユニット212は、それぞれ、逆量子化および逆変換を量子化された変換係数ブロックに適用して、変換係数ブロックから残差ブロックを再構成し得る。再構成ユニット214は、再構成された残差ブロックおよびモード選択ユニット202によって生成された予測ブロックに基づいて、(ある程度のひずみを伴う可能性があるが)現在のブロックに対応する再構成されたブロックを生成し得る。たとえば、再構成ユニット214は、再構成された残差ブロックのサンプルをモード選択ユニット202によって生成された予測ブロックからの対応するサンプルに加えて、再構成されたブロックを生成し得る。
フィルタユニット216は、再構成されたブロックに対して1つまたは複数のフィルタ動作を実行し得る。たとえば、フィルタユニット216は、CUの端部に沿ってブロッキネスアーティファクトを低減するためにデブロッキング動作を実行し得る。フィルタユニット216の動作は、いくつかの例では、スキップされ得る。フィルタユニット216は、たとえば、復号されたピクチャをフィルタ処理するために使用されるべきニューラルネットワークモデル(NNモデル)232のうちの1つもしくは複数を決定するおよび/またはNNモデルフィルタ処理を適用するかどうかを決定するために、本開示の様々な技法を実行するように構成され得る。モード選択ユニット202は、フィルタ処理されたピクチャとフィルタ処理されていないピクチャの両方を使用してRD計算を実行して、NNモデルフィルタ処理を実行するかどうかを決定するためのRDコストを決定し、次いで、たとえば、NNモデルフィルタ処理を実行するか否か、現在のピクチャまたはその一部分のために使用すべきNNモデル232のうちの1つまたは複数などを表すデータをエントロピー符号化ユニット220に提供し得る。
具体的には、本開示の技法によれば、フィルタユニット216は、復号されたピクチャの一部分に適用され得る利用可能なNNモデルのセットをNNモデル232が含むと決定し得る。いくつかの例では、フィルタユニット216は、NNモデル232のサブセットのみが復号されたピクチャの一部分のために利用可能である(サブセットがNNモデル232の完全セットよりも少ないNNモデルを含む場合)と決定し得る。そのような例では、フィルタユニット216は、復号されたピクチャの一部分のために利用可能なNNモデル232のサブセットを定義するデータをエントロピー符号化ユニット220に提供し得る。エントロピー符号化ユニット220は、サブセットを示すデータを、たとえば、SPS、PPS、APS、スライスヘッダ、ピクチャヘッダ、または他の高レベルシンタックス要素においてシグナリングし得る。
いくつかの例では、フィルタユニット216は、復号されたピクチャの一部分のためのNNモデル232のうちの1つを選択し得る。NNモデル232のうちの1つを選択するために、フィルタユニット216は、復号されたピクチャの一部分のための量子化パラメータを決定し得る。代替として、モード選択ユニット202は、レートひずみ最適化(RDO)プロセスを実行して、NNモデル232のうちのどれが最良のRDO性能をもたらすかを決定し、最良のRDO性能をもたらすNNモデル232のうちの1つを選択し得る。次いで、モード選択ユニット202は、最良のRDO性能をもたらす決定されたNNモデルに対応する利用可能なNNモデル232のセット(またはサブセット)へのインデックスを表す値を提供し得る。
いくつかの例では、モード選択ユニット202はさらに、たとえば、復号されたピクチャの特定の領域、復号されたピクチャ全体、復号されたピクチャのシーケンスなどに対してNNモデル232の使用を有効化するかまたは無効化するかを決定し得る。モード選択ユニット202は、NNモデル232の使用が有効化されるかまたは無効化されるかを示すデータをエントロピー符号化ユニット220に提供し得る。エントロピー符号化ユニット220はさらに、NNモデル232の使用が有効化されるかまたは無効化されるかを表すデータを、たとえば、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの1つまたは複数において符号化し得る。
復号されたビデオデータの一部分は、いくつかの例では、グリッドの要素であり得る。すなわち、ビデオエンコーダ200は、復号されたピクチャをいくつかの要素のグリッド、たとえば、グリッドによって形成される復号されたピクチャの行と列の中の要素に区分し得る。エントロピー符号化ユニット220はさらに、グリッドを表すデータ、たとえば、グリッドの行と列の数および/または要素の数を表すシンタックス要素の値を符号化し得る。
ビデオエンコーダ200は、再構成された(かつ、場合によっては、フィルタ処理された)ブロックをDPB218に記憶する。たとえば、フィルタユニット216の動作が必要とされない例では、再構成ユニット214が再構成されたブロックをDPB218に記憶し得る。フィルタユニット216の動作が必要とされる例では、フィルタユニット216がフィルタ処理され再構成されたブロックをDPB218に記憶し得る。動き推定ユニット222および動き補償ユニット224は、後で符号化されるピクチャのブロックをインター予測するために、再構成された(かつ場合によってはフィルタリングされた)ブロックから形成された参照ピクチャをDPB218から取り出し得る。加えて、イントラ予測ユニット226は、現在のピクチャ中の他のブロックをイントラ予測するために、現在のピクチャのDPB218中の再構成されたブロックを使用し得る。
一般に、エントロピー符号化ユニット220は、ビデオエンコーダ200の他の機能構成要素から受信されたシンタックス要素をエントロピー符号化し得る。たとえば、エントロピー符号化ユニット220は、量子化ユニット208からの量子化された変換係数ブロックをエントロピー符号化し得る。別の例として、エントロピー符号化ユニット220は、モード選択ユニット202からの予測シンタックス要素(たとえば、インター予測のための動き情報またはイントラ予測のためのイントラモード情報)をエントロピー符号化し得る。エントロピー符号化ユニット220は、ビデオデータの別の例であるシンタックス要素に対して1つまたは複数のエントロピー符号化動作を実行して、エントロピー符号化されたデータを生成し得る。たとえば、エントロピー符号化ユニット220は、コンテキスト適応型可変長コーディング(CAVLC)動作、CABAC動作、可変対可変(V2V)長コーディング動作、シンタックスベースのコンテキスト適応型バイナリ算術コーディング(SBAC)動作、確率間隔区分エントロピー(PIPE)コーディング動作、指数ゴロム符号化動作、または別のタイプのエントロピー符号化動作をデータに対して実行し得る。いくつかの例では、エントロピー符号化ユニット220は、シンタックス要素がエントロピー符号化されないバイパスモードで動作し得る。
ビデオエンコーダ200は、スライスまたはピクチャのブロックを再構成するために必要とされるエントロピー符号化されたシンタックス要素を含むビットストリームを出力し得る。具体的には、エントロピー符号化ユニット220がビットストリームを出力し得る。
上記で説明した動作は、ブロックに関して説明されている。そのような説明は、ルーマコーディングブロックおよび/またはクロマコーディングブロックのための動作であるものとして理解されるべきである。上記で説明したように、いくつかの例では、ルーマコーディングブロックおよびクロマコーディングブロックは、CUのルーマ成分およびクロマ成分である。いくつかの例では、ルーマコーディングブロックおよびクロマコーディングブロックは、PUのルーマ成分およびクロマ成分である。
いくつかの例では、ルーマコーディングブロックに関して実行される動作は、クロマコーディングブロックのために繰り返される必要はない。一例として、ルーマコーディングブロックのための動きベクトル(MV)および参照ピクチャを識別するための動作は、クロマコーディングブロックのためのMVおよび参照ピクチャを識別するために繰り返される必要はない。むしろ、ルーマコーディングブロックのためのMVはクロマコーディングブロックのためのMVを決定するためにスケーリングされてもよく、参照ピクチャは同じであってもよい。別の例として、イントラ予測プロセスは、ルーマコーディングブロックおよびクロマコーディングブロックについて同じであってもよい。
このように、図6のビデオエンコーダ200は、復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行うように構成された1つまたは複数のプロセッサとを含むデバイスの一例を表す。
図7は、本開示の技法を実行し得る例示的なビデオデコーダ300を示すブロック図である。図7は説明のために提供され、本開示において広く例示および説明するような技法を限定するものではない。説明のために、本開示は、VVC、およびHEVC(ITU-T H.265)の技法によるビデオデコーダ300について説明する。しかしながら、本開示の技法は、他のビデオコーディング規格に従って構成されたビデオコーディングデバイスによって実行され得る。
図7の例では、ビデオデコーダ300は、コード化ピクチャバッファ(CPB)メモリ320、エントロピー復号ユニット302、予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、フィルタユニット312、および復号ピクチャバッファ(DPB)314を含む。CPBメモリ320、エントロピー復号ユニット302、予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、フィルタユニット312、およびDPB314のいずれかまたはすべては、1つもしくは複数のプロセッサにおいてまたは処理回路において実装され得る。たとえば、ビデオデコーダ300のユニットは、ハードウェア回路の一部としての1つもしくは複数の回路もしくは論理要素として、またはプロセッサ、ASIC、もしくはFPGAの一部として実装され得る。さらに、ビデオデコーダ300は、これらおよび他の機能を実行するための追加または代替のプロセッサまたは処理回路を含み得る。
予測処理ユニット304は、動き補償ユニット316およびイントラ予測ユニット318を含む。予測処理ユニット304は、他の予測モードに従って予測を実行するための追加のユニットを含み得る。例として、予測処理ユニット304は、パレットユニット、(動き補償ユニット316の一部を形成し得る)イントラブロックコピーユニット、アフィンユニット、線形モデル(LM)ユニットなどを含み得る。他の例では、ビデオデコーダ300は、より多数の、より少数の、または異なる機能構成要素を含み得る。
CPBメモリ320は、ビデオデコーダ300の構成要素によって復号されるべき、符号化されたビデオビットストリームなどのビデオデータを記憶し得る。CPBメモリ320に記憶されたビデオデータは、たとえば、コンピュータ可読媒体110(図1)から取得され得る。CPBメモリ320は、符号化されたビデオビットストリームからの符号化されたビデオデータ(たとえば、シンタックス要素)を記憶するCPBを含み得る。また、CPBメモリ320は、ビデオデコーダ300の様々なユニットからの出力を表す一時的なデータなどの、コーディングされたピクチャのシンタックス要素以外のビデオデータを記憶し得る。DPB314は、一般に、符号化されたビデオビットストリームの後続のデータまたはピクチャを復号するときにビデオデコーダ300が参照ビデオデータとして出力および/または使用し得る、復号されたピクチャを記憶する。CPBメモリ320およびDPB314は、同期DRAM(SDRAM)を含むダイナミックランダムアクセスメモリ(DRAM)、磁気抵抗RAM(MRAM)、抵抗RAM(RRAM)、または他のタイプのメモリデバイスなどの、様々なメモリデバイスのいずれかによって形成され得る。CPUメモリ320およびDPB314は、同じメモリデバイスまたは別個のメモリデバイスによって提供され得る。様々な例では、CPBメモリ320は、ビデオデコーダ300の他の構成要素とともにオンチップであってもよく、またはそれらの構成要素に対してオフチップであってもよい。
追加または代替として、いくつかの例では、ビデオデコーダ300は、メモリ120(図1)からコーディングされたビデオデータを取り出し得る。すなわち、メモリ120は、CPBメモリ320に関して上記で説明したようなデータを記憶し得る。同様に、メモリ120は、ビデオデコーダ300の機能の一部または全部がビデオデコーダ300の処理回路によって実行されるべきソフトウェアにおいて実装されるとき、ビデオデコーダ300によって実行されるべき命令を記憶し得る。
図7に示す様々なユニットは、ビデオデコーダ300によって実行される動作を理解することを助けるために図示されている。ユニットは、固定機能回路、プログラマブル回路、またはそれらの組合せとして実装され得る。図6と同様に、固定機能回路は、特定の機能を提供する回路を指し、実行され得る動作に対してプリセットされる。プログラマブル回路は、様々なタスクを実行するようにプログラムされ得る回路を指し、実行され得る動作において柔軟な機能を提供する。たとえば、プログラマブル回路は、ソフトウェアまたはファームウェアの命令によって定義された方法でプログラマブル回路を動作させるソフトウェアまたはファームウェアを実行し得る。固定機能回路は(たとえば、パラメータを受信するまたはパラメータを出力するための)ソフトウェア命令を実行し得るが、固定機能回路が実行する動作のタイプは概して不変である。いくつかの例では、1つまたは複数のユニットは異なる回路ブロック(固定機能またはプログラマブル)であってもよく、いくつかの例では、1つまたは複数のユニットは集積回路であってもよい。
ビデオデコーダ300は、ALU、EFU、デジタル回路、アナログ回路、および/またはプログラマブル回路から形成されたプログラマブルコアを含み得る。ビデオデコーダ300の動作がプログラマブル回路上で実行されるソフトウェアによって実行される例では、オンチップメモリまたはオフチップメモリが、ビデオデコーダ300が受信および実行するソフトウェアの命令(たとえば、オブジェクトコード)を記憶し得る。
エントロピー復号ユニット302は、CPBから符号化されたビデオデータを受信し、ビデオデータをエントロピー復号して、シンタックス要素を再生し得る。予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、およびフィルタユニット312は、ビットストリームから抽出されたシンタックス要素に基づいて、復号されたビデオデータを生成し得る。
一般に、ビデオデコーダ300は、ブロックごとにピクチャを再構成する。ビデオデコーダ300は、各ブロックに対して個別に再構成動作を実行し得る(ここで、現在再構成されている、すなわち、復号されているブロックは「現在のブロック」と呼ばれることがある)。
エントロピー復号ユニット302は、量子化された変換係数ブロックの量子化された変換係数、ならびに量子化パラメータ(QP)および/または変換モード指示などの変換情報を定義するシンタックス要素をエントロピー復号し得る。逆量子化ユニット306は、量子化の程度と、同様に、逆量子化ユニット306が適用すべき逆量子化の程度とを決定するために、量子化された変換係数ブロックに関連付けられたQPを使用し得る。逆量子化ユニット306は、たとえば、量子化された変換係数を逆量子化するために、ビット単位の左シフト演算を実行し得る。逆量子化ユニット306は、それによって、変換係数を含む変換係数ブロックを形成し得る。
逆量子化ユニット306が変換係数ブロックを形成した後、逆変換処理ユニット308は、現在のブロックに関連付けられた残差ブロックを生成するために、1つまたは複数の逆変換を変換係数ブロックに適用し得る。たとえば、逆変換処理ユニット308は、逆DCT、逆整数変換、逆カルーネンレーベ変換(KLT)、逆回転変換、逆方向変換、または別の逆変換を変換係数ブロックに適用し得る。
さらに、予測処理ユニット304は、エントロピー復号ユニット302によってエントロピー復号された予測情報シンタックス要素に従って予測ブロックを生成する。たとえば、現在のブロックがインター予測されることを予測情報シンタックス要素が示す場合、動き補償ユニット316は予測ブロックを生成し得る。この場合、予測情報シンタックス要素は、そこから参照ブロックを取り出すべきDPB314中の参照ピクチャ、ならびに現在のピクチャ中の現在のブロックの場所に対する参照ピクチャ中の参照ブロックの場所を識別する動きベクトルを示し得る。動き補償ユニット316は、一般に、動き補償ユニット224(図6)に関して説明した方法と実質的に同様の方法でインター予測プロセスを実行し得る。
別の例として、現在のブロックがイントラ予測されることを予測情報シンタックス要素が示す場合、イントラ予測ユニット318は、予測情報シンタックス要素によって示されたイントラ予測モードに従って予測ブロックを生成し得る。やはり、イントラ予測ユニット318は、一般に、イントラ予測ユニット226(図6)に関して説明した方法と実質的に同様の方法でイントラ予測プロセスを実行し得る。イントラ予測ユニット318は、DPB314から現在のブロックに対する隣接サンプルのデータを取り出し得る。
再構成ユニット310は、予測ブロックおよび残差ブロックを使用して現在のブロックを再構成し得る。たとえば、再構成ユニット310は、残差ブロックのサンプルを予測ブロックの対応するサンプルに加えて、現在のブロックを再構成し得る。
フィルタユニット312は、再構成されたブロックに対して1つまたは複数のフィルタ動作を実行し得る。たとえば、フィルタユニット312は、再構成されたブロックの端部に沿ってブロッキネスアーティファクトを低減するためにデブロッキング動作を実行し得る。フィルタユニット312の動作は、必ずしもすべての例において実行されるとは限らない。たとえば、ビデオデコーダ300は、NNモデル322を使用して、たとえば、本明細書で説明する様々な技法のいずれかまたはすべてを使用してニューラルネットワークモデルフィルタ処理を実行するかどうかを明示的にまたは暗黙的に決定し得る。さらに、ビデオデコーダ300は、復号されフィルタ処理されるべき現在のピクチャのためのNNモデル322のうちの1つもしくは複数および/またはグリッドサイズを明示的にまたは暗黙的に決定し得る。したがって、フィルタユニット312は、フィルタ処理がオンに切り替えられるとき、現在の復号されたピクチャの一部分をフィルタ処理するためにNNモデル322のうちの1つまたは複数を使用し得る。
フィルタユニット312は、再構成されたブロックに対して1つまたは複数のフィルタ動作を実行し得る。たとえば、フィルタユニット312は、CU/TUの端部に沿ってブロッキネスアーティファクトを低減するためにデブロッキング動作を実行し得る。フィルタユニット312の動作は、いくつかの例では、スキップされ得る。フィルタユニット312は、たとえば、復号されたピクチャをフィルタ処理するために使用されるべきニューラルネットワークモデル(NNモデル)232のうちの1つもしくは複数を決定するおよび/またはNNモデルフィルタ処理を適用するかどうかを決定するために、本開示の様々な技法を実行するように構成され得る。モード選択ユニット202は、フィルタ処理されたピクチャとフィルタ処理されていないピクチャの両方を使用してRD計算を実行して、NNモデルフィルタ処理を実行するかどうかを決定するためのRDコストを決定し、次いで、たとえば、NNモデルフィルタ処理を実行するか否か、現在のピクチャまたはその一部分のために使用すべきNNモデル322のうちの1つまたは複数などを表すデータをエントロピー符号化ユニット220に提供し得る。
具体的には、本開示の技法によれば、フィルタユニット312は、復号されたピクチャの一部分に適用され得る利用可能なNNモデルのセットをNNモデル322が含むと決定し得る。いくつかの例では、フィルタユニット312は、NNモデル322のサブセットのみが復号されたピクチャの一部分のために利用可能である(サブセットがNNモデル322の完全セットよりも少ないNNモデルを含む場合)と決定し得る。そのような例では、フィルタユニット312は、復号されたピクチャの一部分のために利用可能なNNモデル322のサブセットを定義する復号されたデータをエントロピー復号ユニット302から受信し得る。エントロピー復号ユニット302は、サブセットを示すデータを、たとえば、SPS、PPS、APS、スライスヘッダ、ピクチャヘッダ、または他の高レベルシンタックス要素において復号し得る。
いくつかの例では、フィルタユニット312は、復号されたピクチャの一部分のためのNNモデル322のうちの1つを選択し得る。NNモデル322のうちの1つを選択するために、フィルタユニット312は、復号されたピクチャの一部分のための量子化パラメータ(QP)を決定し、QPに対応するNNモデル322のうちの1つを決定し得る。代替として、フィルタユニット312は、使用されるべき決定されたNNモデルに対応する利用可能なNNモデル322のセット(またはサブセット)へのインデックスを表す値を受信し得る。
いくつかの例では、フィルタユニット312はさらに、たとえば、復号されたピクチャの特定の領域、復号されたピクチャ全体、復号されたピクチャのシーケンスなどに対してNNモデル322の使用を有効化するかまたは無効化するかを決定し得る。フィルタユニット312は、NNモデル322の使用が有効化されるかまたは無効化されるかを示すデータをエントロピー復号ユニット302から受信し得る。エントロピー復号ユニット302は、NNモデル322の使用が有効化されるかまたは無効化されるかを表すデータを、たとえば、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの1つまたは複数において復号し得る。
復号されたビデオデータの一部分は、いくつかの例では、グリッドの要素であり得る。すなわち、ビデオデコーダ300は、復号されたピクチャをいくつかの要素のグリッド、たとえば、グリッドによって形成される復号されたピクチャの行と列の中の要素に区分し得る。エントロピー復号ユニット302は、グリッドを表すデータ、たとえば、グリッドの行と列の数および/または要素の数を表すシンタックス要素の値を復号し得る。
ビデオデコーダ300は、再構成されたブロックをDPB314に記憶し得る。たとえば、フィルタユニット312の動作が実行されない例では、再構成ユニット310が再構成されたブロックをDPB314に記憶し得る。フィルタユニット312の動作が実行される例では、フィルタユニット312が精錬されフィルタ処理され再構成されたブロックをDPB314に記憶し得る。上記で説明したように、DPB314は、イントラ予測のための現在のピクチャおよび後続の動き補償のための以前に復号されたピクチャのサンプルなどの参照情報を予測処理ユニット304に提供し得る。さらに、ビデオデコーダ300は、図1のディスプレイデバイス118などのディスプレイデバイス上に後で提示するために、DPB314からの復号されたピクチャを出力し得る。
このように、図7のビデオデコーダ300は、復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行うように構成された1つまたは複数のプロセッサとを含むデバイスの一例を表す。
図8は、本開示の技法による、現在のブロックを符号化するための例示的な方法を示すフローチャートである。現在のブロックは現在のCUを含み得る。ビデオエンコーダ200(図1および図3)に関して説明するが、他のデバイスが図8の方法と同様の方法を実行するように構成され得ることを理解されたい。
この例では、ビデオエンコーダ200は最初に、現在のブロックを予測する(350)。たとえば、ビデオエンコーダ200は、現在のブロックのための予測ブロックを形成し得る。次いで、ビデオエンコーダ200は、現在のブロックのための残差ブロックを計算し得る(352)。残差ブロックを計算するために、ビデオエンコーダ200は、元のコーディングされていないブロックと現在のブロックのための予測ブロックとの間の差分を計算し得る。次いで、ビデオエンコーダ200は、残差ブロックの係数を変換および量子化し得る(354)。次に、ビデオエンコーダ200は、残差ブロックの量子化された変換係数を走査し得る(356)。走査の間、または走査に続いて、ビデオエンコーダ200は、係数をエントロピー符号化し得る(358)。たとえば、ビデオエンコーダ200は、CAVLCまたはCABACを使用して、係数を符号化し得る。次いで、ビデオエンコーダ200は、ブロックのエントロピー符号化されたデータを出力し得る(360)。
ビデオエンコーダ200はまた、現在のブロックを符号化した後に現在のブロックを復号して、現在のブロックの復号されたバージョンを、(たとえば、インター予測モードまたはイントラ予測モードにおける)後でコーディングされるデータに対する参照データとして使用し得る。したがって、ビデオエンコーダ200は、係数を逆量子化および逆変換して、残差ブロックを再生し得る(362)。ビデオエンコーダ200は、残差ブロックを予測ブロックと合成して、復号されたブロックを形成し得る(364)。
本開示の技法によれば、上記で説明した方法でピクチャのすべてのブロックを符号化および復号した後、ビデオエンコーダ200は、復号されたピクチャの一部分に適用されるべき、現在のブロックを含む復号されたピクチャの一部分のためのニューラルネットワーク(NN)モデルを決定し得る(366)。一例では、ビデオエンコーダ200は、復号されたピクチャの一部分のための量子化パラメータ(QP)を決定し、QPに対応するNNモデルを決定し得る。別の例では、ビデオエンコーダ200は、たとえば、利用可能なNNモデルのセットからNNモデルを選択するために、レートひずみ最適化(RDO)手順を実行し得る。すなわち、ビデオエンコーダ200は、様々なNNモデルを復号されたピクチャの一部分に適用し、次いで、様々なNNモデルの各々のRDO値を計算し、最良のテスト済みRDO値をもたらす、復号されたピクチャの一部分のためのNNモデルを選択し得る。
次いで、ビデオエンコーダ200は、NNモデルを表す値を符号化し得る(368)。ビデオエンコーダ200がQPに基づいてNNモデルを選択するとき、ビデオエンコーダ200は単に、NNモデルを表すためにQPを符号化し得る。すなわち、(たとえば、TU情報の一部としての)ブロックのための符号化されたQPは、適切なNNベースのフィルタを選択するためにNNモデルに提供され得る。代替として、ビデオエンコーダ200が利用可能なNNモデルのセット(またはセットのサブセット)からNNモデルを選択するとき、ビデオエンコーダ200は、セット(またはサブセット)へのインデックスを表すシンタックス要素の値を符号化し得、ここで、インデックスは、セットまたはサブセットの中のNNモデルの位置に対応する。シンタックス要素は、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはピクチャのグリッドのためのグリッドレベルの一部を形成し得る。次いで、ビデオエンコーダ200は、決定されたNNモデルを復号されたピクチャの一部分に適用して(369)、復号されたピクチャの一部分をフィルタ処理し、復号されたピクチャをDPB218に記憶し得る。
いくつかの例では、単一のNNモデルを決定するのではなく、ビデオエンコーダ200は、復号されたピクチャの一部分のための複数のNNモデルを決定し得る。ビデオエンコーダ200は、NNモデルの各々を復号されたピクチャの一部分に別々に適用して、異なるフィルタ処理結果を形成し得る。次いで、ビデオエンコーダ200は、フィルタ処理結果の各々を合成して、復号されたピクチャの最終的なフィルタ処理された部分を形成し得る。
復号されたピクチャの一部分は、グリッドの要素に対応し得る。すなわち、ビデオエンコーダ200は、復号されたピクチャをいくつかの要素を有するグリッド(たとえば、それぞれの数の行と列によって形成されるエリア)に区分し得る。ビデオエンコーダ200は、グリッドの行の数と列の数または要素の数などの、グリッドを表すデータを、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つにおいてシグナリングし得る。いくつかの例では、ビデオエンコーダ200は、可能なグリッドサイズのセットへのインデックスを表すシンタックス要素の値をシグナリングし得る。
このように、図8の方法は、復号されたビデオデータをフィルタ処理するための方法であって、ビデオデータのピクチャを復号するステップと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするステップであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、ステップと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するステップとを含む方法の一例を表す。
図9は、本開示の技法による、現在のブロックを復号するための例示的な方法を示すフローチャートである。現在のブロックは現在のCUを含み得る。ビデオデコーダ300(図1および図4)に関して説明するが、他のデバイスが図9の方法と同様の方法を実行するように構成され得ることを理解されたい。
ビデオデコーダ300は、エントロピー符号化された予測情報および現在のブロックに対応する残差ブロックの係数のエントロピー符号化されたデータなどの、現在のブロックのためのエントロピー符号化されたデータを受信し得る(370)。ビデオデコーダ300は、現在のブロックのための予測情報、現在のブロックを含むピクチャの一部分のためのニューラルネットワーク(NN)モデルを決定するために、および残差ブロックの係数を再生するために、エントロピー符号化されたデータをエントロピー復号し得る(372)。ビデオデコーダ300は、現在のブロックのための予測ブロックを計算するために、たとえば、現在のブロックのための予測情報によって示されるようなイントラ予測モードまたはインター予測モードを使用して、現在のブロックを予測し得る(374)。次いで、ビデオデコーダ300は、量子化された変換係数のブロックを作成するために、再生された係数を逆走査し得る(376)。次いで、ビデオデコーダ300は、量子化された変換係数を逆量子化および逆変換して、残差ブロックを生成し得る(378)。ビデオデコーダ300は、予測ブロックおよび残差ブロックを合成することによって、現在のブロックを最終的に復号し得る(380)。
ビデオデコーダ300はまた、復号されたデータから、現在のブロックを含む復号されたピクチャの一部分に適用されるべきNNモデルを決定し得る(382)。たとえば、ビデオデコーダ300は、復号されたピクチャの一部分のための(たとえば、一部分の中の1つまたは複数のブロックのための)量子化パラメータ(QP)を復号し、QPが対応するNNモデルを決定し得る。別の例として、ビデオデコーダ300は、利用可能なNNモデルのセット(またはセットのサブセット)へのインデックスを表すシンタックス要素の値を復号し、インデックスが対応する、利用可能なNNモデルのセットまたはサブセットのうちのNNモデルを決定し得る。次いで、ビデオデコーダ300は、NNモデルを復号されたピクチャの一部分に適用して(384)、復号されたピクチャの一部分をフィルタ処理し得る。フィルタがインループフィルタである一例では、ビデオデコーダ300は、フィルタ処理された部分を含む復号されたピクチャを復号ピクチャバッファ314に記憶する。
このように、図9の方法は、復号されたビデオデータをフィルタ処理するための方法であって、ビデオデータのピクチャを復号するステップと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするステップであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、ステップと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するステップとを含む方法の一例を表す。
以下の条項は、本開示の様々な技法を要約する。
条項1: 復号されたビデオデータをフィルタ処理する方法であって、ビデオデータの復号されたピクチャの一部分をフィルタ処理するために使用されるべき1つまたは複数のニューラルネットワークモデルを決定するステップと、1つまたは複数のニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するステップとを含む方法。
条項2: 1つまたは複数のニューラルネットワークモデルを決定するステップが、せいぜい単一のニューラルネットワークモデルを決定するステップを含む、条項1の方法。
条項3: 1つまたは複数のニューラルネットワークモデルを決定するステップが、複数のニューラルネットワークモデルを決定するステップを含む、条項1の方法。
条項4: フィルタ処理するステップが、複数のニューラルネットワークモデルの各々を一部分に別々に適用して、異なる結果を形成するステップと、結果の各々を合成して、最終的なフィルタ処理された部分を形成するステップとを含む、条項3の方法。
条項5: 決定するステップが、ビデオデータを含むビットストリームにおいてシグナリングされるインデックスを使用して決定するステップを含む、条項1～4のいずれかの方法。
条項6: 一部分が、グリッドの要素を含む、条項1～5のいずれかの方法。
条項7: グリッドの要素の数を決定するステップをさらに含む、条項1～6のいずれかの方法。
条項8: グリッドの要素の数を決定するステップが、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つのシンタックス要素を復号するステップを含む、条項7の方法。
条項9: グリッドの中の要素の数を決定するステップが、可能なグリッドサイズのセットへのインデックスを表すシンタックス要素の値を復号するステップを含む、条項7および8のいずれかの方法。
条項10: 1つまたは複数のニューラルネットワークモデルを決定する前に1つまたは複数のニューラルネットワークモデルを適用すると決定するステップをさらに含む、条項1～9のいずれかの方法。
条項11: 1つまたは複数のニューラルネットワークモデルを適用すると決定するステップが、1つまたは複数のニューラルネットワークモデルが適用されるべきであることを示す値を有するシンタックス要素を復号するステップを含む、条項10の方法。
条項12: シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つのものである、条項11の方法。
条項13: 一部分が、復号されたピクチャの色成分の一部分を含み、色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、条項1～12のいずれかの方法。
条項14: 復号されたピクチャの色成分の各々のための1つまたは複数のニューラルネットワークモデルを使用するフィルタ処理を一緒に表すシンタックス要素を復号するステップをさらに含む、条項13の方法。
条項15: 現在のピクチャを符号化するステップと、現在のピクチャを復号して、現在のピクチャを形成するステップとをさらに含む、条項1～14のいずれかの方法。
条項16: 決定するステップが、レートひずみ計算に従って決定するステップを含む、条項15の方法。
条項17: ビデオデータを復号するためのデバイスであって、条項1～16のいずれかの方法を実行するための1つまたは複数の手段を備えるデバイス。
条項18: 1つまたは複数の手段が、回路において実装された1つまたは複数のプロセッサを備える、条項17のデバイス。
条項19: 復号されたビデオデータを表示するように構成されたディスプレイをさらに備える、条項17のデバイス。
条項20: デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、条項17のデバイス。
条項21: ビデオデータを記憶するように構成されたメモリをさらに備える、条項17のデバイス。
条項22: 実行されると、プロセッサに条項1～16のいずれかの方法を実行させる命令を記憶したコンピュータ可読記憶媒体。
条項23: 復号されたビデオデータをフィルタ処理する方法であって、ビデオデータのピクチャを復号するステップと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするステップであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、ステップと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するステップとを含む方法。
条項24: 事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングするステップをさらに含み、ニューラルネットワークモデルが、事前定義されたニューラルネットワークモデルのセットのサブセットのうちの1つであり、サブセットが、事前定義されたニューラルネットワークモデルのセットよりも小さい、条項23の方法。
条項25: ニューラルネットワークモデルを表すシンタックス要素の値が、複数のニューラルネットワークモデルを表す値である、条項23の方法。
条項26: フィルタ処理するステップが、値によって表される複数のニューラルネットワークモデルの各々を一部分に別々に適用して、異なる結果を形成するステップと、結果の各々を合成して、最終的なフィルタ処理された部分を形成するステップとを含む、条項25の方法。
条項27: シンタックス要素の値をコーディングするステップが、シンタックス要素の値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングするステップを含む、条項23の方法。
条項28: グリッドに従ってピクチャを区分するステップをさらに含み、一部分がピクチャのグリッドの要素を含む、条項23の方法。
条項29: グリッドの要素の数を決定するステップをさらに含む、条項28の方法。
条項30: グリッドの要素の数を決定するステップが、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つのシンタックス要素を復号するステップを含む、条項29の方法。
条項31: グリッドの中の要素の数を決定するステップが、可能なグリッドサイズのセットへのインデックスを表すシンタックス要素の値を復号するステップを含む、条項29の方法。
条項32: ニューラルネットワークモデルを決定する前にニューラルネットワークモデルを適用すると決定するステップをさらに含む、条項23の方法。
条項33: ニューラルネットワークモデルを適用すると決定するステップが、ニューラルネットワークモデルが適用されるべきであることを示すシンタックス要素の値を復号するステップを含む、条項32の方法。
条項34: シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つのものである、条項33の方法。
条項35: 復号されたピクチャの一部分が、復号されたピクチャの色成分の一部分を含み、色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、条項23の方法。
条項36: 復号されたピクチャの色成分の各々のためのニューラルネットワークモデルを使用するフィルタ処理を一緒に表すシンタックス要素をコーディングするステップをさらに含む、条項35の方法。
条項37: シンタックス要素の値が、ピクチャの一部分のための量子化パラメータ(QP)を含む、条項23の方法。
条項38: ピクチャを復号する前にピクチャを符号化するステップをさらに含み、シンタックス要素の値をコーディングするステップが、シンタックス要素の値を符号化するステップを含む、条項23の方法。
条項39: レートひずみ計算に従ってニューラルネットワークモデルを決定するステップをさらに含む、条項38の方法。
条項40: 復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行うように構成された1つまたは複数のプロセッサとを備えるデバイス。
条項41: 1つまたは複数のプロセッサが、事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングするようにさらに構成され、ニューラルネットワークモデルが、事前定義されたニューラルネットワークモデルのセットのサブセットのうちの1つであり、サブセットが、事前定義されたニューラルネットワークモデルのセットよりも小さい、条項40のデバイス。
条項42: ニューラルネットワークモデルを表すシンタックス要素の値が、複数のニューラルネットワークモデルを表す値であり、復号されたピクチャの一部分をフィルタ処理するために、1つまたは複数のプロセッサが、値によって表される複数のニューラルネットワークモデルの各々を一部分に別々に適用して、異なる結果を形成することと、結果の各々を合成して、最終的なフィルタ処理された部分を形成することとを行うように構成される、条項40のデバイス。
条項43: 1つまたは複数のプロセッサが、シンタックス要素の値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングするように構成される、条項40のデバイス。
条項44: 1つまたは複数のプロセッサが、グリッドに従ってピクチャを区分するように構成され、一部分がピクチャのグリッドの要素を含む、条項40のデバイス。
条項45: 1つまたは複数のプロセッサが、グリッドの要素の数を表すシンタックス要素の値を復号するようにさらに構成され、シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つに含まれる、条項44のデバイス。
条項46: 1つまたは複数のプロセッサが、ニューラルネットワークモデルを決定する前にニューラルネットワークモデルを適用すると決定するように構成され、ニューラルネットワークモデルを適用すると決定するために、1つまたは複数のプロセッサが、ニューラルネットワークモデルが適用されるべきであることを示すシンタックス要素の値を復号するように構成される、条項40のデバイス。
条項47: 復号されたピクチャの一部分が、復号されたピクチャの色成分の一部分を含み、色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、条項40のデバイス。
条項48: シンタックス要素の値が、ピクチャの一部分のための量子化パラメータ(QP)を含む、条項40のデバイス。
条項49: 1つまたは複数のプロセッサが、ピクチャを復号する前にピクチャを符号化するようにさらに構成され、シンタックス要素の値をコーディングするために、1つまたは複数のプロセッサが、シンタックス要素の値を符号化するように構成される、条項40のデバイス。
条項50: 1つまたは複数のプロセッサが、レートひずみ計算に従ってニューラルネットワークモデルを決定するようにさらに構成される、条項49のデバイス。
条項51: 復号されたビデオデータを表示するように構成されたディスプレイをさらに備える、条項40のデバイス。
条項52: デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、条項40のデバイス。
条項53: 命令を記憶したコンピュータ可読記憶媒体であって、命令が、実行されると、プロセッサに、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行わせる、コンピュータ可読記憶媒体。
条項54: プロセッサに事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングさせる命令をさらに含み、ニューラルネットワークモデルが、事前定義されたニューラルネットワークモデルのセットのサブセットのうちの1つであり、サブセットが、事前定義されたニューラルネットワークモデルのセットよりも小さい、条項53のコンピュータ可読記憶媒体。
条項55: ニューラルネットワークモデルを表すシンタックス要素の値が、複数のニューラルネットワークモデルを表す値であり、プロセッサに復号されたピクチャの一部分をフィルタ処理させる命令が、プロセッサに、値によって表される複数のニューラルネットワークモデルの各々を一部分に別々に適用して、異なる結果を形成することと、結果の各々を合成して、最終的なフィルタ処理された部分を形成することとを行わせる命令を含む、条項53のコンピュータ可読記憶媒体。
条項56: プロセッサにシンタックス要素の値をコーディングさせる命令が、プロセッサにシンタックス要素の値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングさせる命令を含む、条項53のコンピュータ可読記憶媒体。
条項57: プロセッサにグリッドに従ってピクチャを区分させる命令をさらに含み、一部分がピクチャのグリッドの要素を含む、条項53のコンピュータ可読記憶媒体。
条項58: プロセッサにグリッドの要素の数を表すシンタックス要素の値を復号させる命令をさらに含み、シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つに含まれる、条項57のコンピュータ可読記憶媒体。
条項59: プロセッサにニューラルネットワークモデルを決定する前にニューラルネットワークモデルを適用すると決定させる命令をさらに含み、プロセッサにニューラルネットワークモデルを適用すると決定させる命令が、プロセッサにニューラルネットワークモデルが適用されるべきであることを示すシンタックス要素の値を復号させる命令を含む、条項53のコンピュータ可読記憶媒体。
条項60: 復号されたピクチャの一部分が、復号されたピクチャの色成分の一部分を含み、色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、条項53のコンピュータ可読記憶媒体。
条項61: シンタックス要素の値が、ピクチャの一部分のための量子化パラメータ(QP)を含む、条項53のコンピュータ可読記憶媒体。
条項62: プロセッサにピクチャを復号する前にピクチャを符号化させる命令をさらに含み、プロセッサにシンタックス要素の値をコーディングさせる命令が、プロセッサにシンタックス要素の値を符号化させる命令を含む、条項53のコンピュータ可読記憶媒体。
条項63: プロセッサにレートひずみ計算に従ってニューラルネットワークモデルを決定させる命令をさらに含む、条項62のコンピュータ可読記憶媒体。
条項64: 復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータのピクチャを復号するための手段と、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするための手段であって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、手段と、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するための手段とを備えるデバイス。
条項65: 復号されたビデオデータをフィルタ処理する方法であって、ビデオデータのピクチャを復号するステップと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするステップであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、ステップと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するステップとを含む方法。
条項66: 事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングするステップをさらに含み、ニューラルネットワークモデルが、事前定義されたニューラルネットワークモデルのセットのサブセットのうちの1つであり、サブセットが、事前定義されたニューラルネットワークモデルのセットよりも小さい、条項65の方法。
条項67: ニューラルネットワークモデルを表すシンタックス要素の値が、複数のニューラルネットワークモデルを表す値である、条項65および66のいずれかの方法。
条項68: フィルタ処理するステップが、値によって表される複数のニューラルネットワークモデルの各々を一部分に別々に適用して、異なる結果を形成するステップと、結果の各々を合成して、最終的なフィルタ処理された部分を形成するステップとを含む、条項67の方法。
条項69: シンタックス要素の値をコーディングするステップが、シンタックス要素の値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングするステップを含む、条項65～68のいずれかの方法。
条項70: グリッドに従ってピクチャを区分するステップをさらに含み、一部分がピクチャのグリッドの要素を含む、条項65～69のいずれかの方法。
条項71: グリッドの要素の数を決定するステップをさらに含む、条項70の方法。
条項72: グリッドの要素の数を決定するステップが、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つのシンタックス要素を復号するステップを含む、条項71の方法。
条項73: グリッドの中の要素の数を決定するステップが、可能なグリッドサイズのセットへのインデックスを表すシンタックス要素の値を復号するステップを含む、条項71の方法。
条項74: ニューラルネットワークモデルを決定する前にニューラルネットワークモデルを適用すると決定するステップをさらに含む、条項65～73のいずれかの方法。
条項75: ニューラルネットワークモデルを適用すると決定するステップが、ニューラルネットワークモデルが適用されるべきであることを示すシンタックス要素の値を復号するステップを含む、条項74の方法。
条項76: シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つのものである、条項75の方法。
条項77: 復号されたピクチャの一部分が、復号されたピクチャの色成分の一部分を含み、色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、条項65～76のいずれかの方法。
条項78: 復号されたピクチャの色成分の各々のためのニューラルネットワークモデルを使用するフィルタ処理を一緒に表すシンタックス要素をコーディングするステップをさらに含む、条項77の方法。
条項79: シンタックス要素の値が、ピクチャの一部分のための量子化パラメータ(QP)を含む、条項65～78のいずれかの方法。
条項80: ピクチャを復号する前にピクチャを符号化するステップをさらに含み、シンタックス要素の値をコーディングするステップが、シンタックス要素の値を符号化するステップを含む、条項65の方法。
条項81: レートひずみ計算に従ってニューラルネットワークモデルを決定するステップをさらに含む、条項80の方法。
条項82: 復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータを記憶するように構成されたメモリと、回路において実装され、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行うように構成された1つまたは複数のプロセッサとを備えるデバイス。
条項83: 1つまたは複数のプロセッサが、事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングするようにさらに構成され、ニューラルネットワークモデルが、事前定義されたニューラルネットワークモデルのセットのサブセットのうちの1つであり、サブセットが、事前定義されたニューラルネットワークモデルのセットよりも小さい、条項82のデバイス。
条項84: ニューラルネットワークモデルを表すシンタックス要素の値が、複数のニューラルネットワークモデルを表す値であり、復号されたピクチャの一部分をフィルタ処理するために、1つまたは複数のプロセッサが、値によって表される複数のニューラルネットワークモデルの各々を一部分に別々に適用して、異なる結果を形成することと、結果の各々を合成して、最終的なフィルタ処理された部分を形成することとを行うように構成される、条項82および83のいずれかのデバイス。
条項85: 1つまたは複数のプロセッサが、シンタックス要素の値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングするように構成される、条項82～84のいずれかのデバイス。
条項86: 1つまたは複数のプロセッサが、グリッドに従ってピクチャを区分するように構成され、一部分がピクチャのグリッドの要素を含む、条項82～85のいずれかのデバイス。
条項87: 1つまたは複数のプロセッサが、グリッドの要素の数を表すシンタックス要素の値を復号するようにさらに構成され、シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つに含まれる、条項86のデバイス。
条項88: 1つまたは複数のプロセッサが、ニューラルネットワークモデルを決定する前にニューラルネットワークモデルを適用すると決定するように構成され、ニューラルネットワークモデルを適用すると決定するために、1つまたは複数のプロセッサが、ニューラルネットワークモデルが適用されるべきであることを示すシンタックス要素の値を復号するように構成される、条項82～87のいずれかのデバイス。
条項89: 復号されたピクチャの一部分が、復号されたピクチャの色成分の一部分を含み、色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、条項82～88のいずれかのデバイス。
条項90: シンタックス要素の値が、ピクチャの一部分のための量子化パラメータ(QP)を含む、条項82～89のいずれかのデバイス。
条項91: 1つまたは複数のプロセッサが、ピクチャを復号する前にピクチャを符号化するようにさらに構成され、シンタックス要素の値をコーディングするために、1つまたは複数のプロセッサが、シンタックス要素の値を符号化するように構成される、条項82のデバイス。
条項92: 1つまたは複数のプロセッサが、レートひずみ計算に従ってニューラルネットワークモデルを決定するようにさらに構成される、条項91のデバイス。
条項93: 復号されたビデオデータを表示するように構成されたディスプレイをさらに備える、条項82～92のいずれかのデバイス。
条項94: デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、条項82～93のいずれかのデバイス。
条項95: 命令を記憶したコンピュータ可読記憶媒体であって、命令が、実行されると、プロセッサに、ビデオデータのピクチャを復号することと、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、コーディングすることと、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理することとを行わせる、コンピュータ可読記憶媒体。
条項96: プロセッサに事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングさせる命令をさらに含み、ニューラルネットワークモデルが、事前定義されたニューラルネットワークモデルのセットのサブセットのうちの1つであり、サブセットが、事前定義されたニューラルネットワークモデルのセットよりも小さい、条項95のコンピュータ可読記憶媒体。
条項97: ニューラルネットワークモデルを表すシンタックス要素の値が、複数のニューラルネットワークモデルを表す値であり、プロセッサに復号されたピクチャの一部分をフィルタ処理させる命令が、プロセッサに、値によって表される複数のニューラルネットワークモデルの各々を一部分に別々に適用して、異なる結果を形成することと、結果の各々を合成して、最終的なフィルタ処理された部分を形成することとを行わせる命令を含む、条項95および96のいずれかのコンピュータ可読記憶媒体。
条項98: プロセッサにシンタックス要素の値をコーディングさせる命令が、プロセッサにシンタックス要素の値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングさせる命令を含む、条項95～97のいずれかのコンピュータ可読記憶媒体。
条項99: プロセッサにグリッドに従ってピクチャを区分させる命令をさらに含み、一部分がピクチャのグリッドの要素を含む、条項95～98のいずれかのコンピュータ可読記憶媒体。
条項100: プロセッサにグリッドの要素の数を表すシンタックス要素の値を復号させる命令をさらに含み、シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つに含まれる、条項99のコンピュータ可読記憶媒体。
条項101: プロセッサにニューラルネットワークモデルを決定する前にニューラルネットワークモデルを適用すると決定させる命令をさらに含み、プロセッサにニューラルネットワークモデルを適用すると決定させる命令が、プロセッサにニューラルネットワークモデルが適用されるべきであることを示すシンタックス要素の値を復号させる命令を含む、条項95～100のいずれかのコンピュータ可読記憶媒体。
条項102: 復号されたピクチャの一部分が、復号されたピクチャの色成分の一部分を含み、色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、条項95～101のいずれかのコンピュータ可読記憶媒体。
条項103: シンタックス要素の値が、ピクチャの一部分のための量子化パラメータ(QP)を含む、条項95～102のいずれかのコンピュータ可読記憶媒体。
条項104: プロセッサにピクチャを復号する前にピクチャを符号化させる命令をさらに含み、プロセッサにシンタックス要素の値をコーディングさせる命令が、プロセッサにシンタックス要素の値を符号化させる命令を含む、条項95～103のいずれかのコンピュータ可読記憶媒体。
条項105: プロセッサにレートひずみ計算に従ってニューラルネットワークモデルを決定させる命令をさらに含む、条項104のコンピュータ可読記憶媒体。
条項106: 復号されたビデオデータをフィルタ処理するためのデバイスであって、ビデオデータのピクチャを復号するための手段と、復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするための手段であって、値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、インデックスが事前定義されたニューラルネットワークモデルのセットの中のニューラルネットワークモデルに対応する、手段と、インデックスに対応するニューラルネットワークモデルを使用して、復号されたピクチャの一部分をフィルタ処理するための手段とを備えるデバイス。
例に応じて、本明細書で説明する技法のいずれかのいくつかの行為またはイベントが、異なるシーケンスで実行される場合があり、追加され、統合され、または完全に除外されてもよい(たとえば、説明したすべての行為またはイベントが技法の実践にとって必要であるとは限らない)ことを認識されたい。さらに、いくつかの例では、行為またはイベントは、連続的にではなく、たとえば、マルチスレッド処理、割込み処理、または複数のプロセッサを通じて、同時に実行されてもよい。
1つまたは複数の例では、説明した機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せにおいて実装され得る。ソフトウェアにおいて実装される場合、機能は、1つまたは複数の命令またはコードとして、コンピュータ可読媒体上に記憶されるか、またはコンピュータ可読媒体を介して送信され、ハードウェアベースの処理ユニットによって実行され得る。コンピュータ可読媒体は、データ記憶媒体などの有形媒体に対応するコンピュータ可読記憶媒体、または、たとえば、通信プロトコルに従って、ある場所から別の場所へのコンピュータプログラムの転送を容易にする任意の媒体を含む通信媒体を含み得る。このように、コンピュータ可読媒体は一般に、(1)非一時的である有形コンピュータ可読記憶媒体、または(2)信号もしくは搬送波などの通信媒体に対応し得る。データ記憶媒体は、本開示で説明する技法の実装のための命令、コードおよび/またはデータ構造を取り出すために1つもしくは複数のコンピュータまたは1つもしくは複数のプロセッサによってアクセスされ得る、任意の利用可能な媒体であり得る。コンピュータプログラム製品は、コンピュータ可読媒体を含み得る。
限定ではなく例として、そのようなコンピュータ可読記憶媒体は、RAM、ROM、EEPROM、CD-ROMもしくは他の光ディスクストレージ、磁気ディスクストレージもしくは他の磁気記憶デバイス、フラッシュメモリ、または、命令もしくはデータ構造の形態の所望のプログラムコードを記憶するために使用され得、コンピュータによってアクセスされ得る任意の他の媒体を備えることができる。また、いかなる接続もコンピュータ可読媒体と適切に呼ばれる。たとえば、命令が、同軸ケーブル、光ファイバーケーブル、ツイストペア、デジタル加入者線(DSL)、または赤外線、無線、およびマイクロ波などのワイヤレス技術を使用してウェブサイト、サーバ、または他のリモートソースから送信される場合、同軸ケーブル、光ファイバーケーブル、ツイストペア、DSL、または赤外線、無線、およびマイクロ波などのワイヤレス技術は媒体の定義に含まれる。しかしながら、コンピュータ可読記憶媒体およびデータ記憶媒体が、接続、搬送波、信号、または他の一時的媒体を含まず、代わりに非一時的有形記憶媒体を対象とすることを理解されたい。本明細書で使用するディスク(disk)およびディスク(disc)は、コンパクトディスク(disc)(CD)、レーザーディスク(disc)、光ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピーディスク(disk)およびブルーレイディスク(disc)を含み、ディスク(disk)は通常、データを磁気的に再生し、ディスク(disc)は、レーザーを用いてデータを光学的に再生する。上記の組合せも、コンピュータ可読媒体の範囲内に含まれるべきである。
命令は、1つまたは複数のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、または他の等価な集積論理回路もしくはディスクリート論理回路などの、1つまたは複数のプロセッサによって実行され得る。したがって、本明細書で使用する「プロセッサ」および「処理回路」という用語は、上記の構造、または本明細書で説明する技法の実装に適した任意の他の構造のいずれかを指すことがある。加えて、いくつかの態様では、本明細書で説明する機能は、符号化および復号のために構成された専用のハードウェアモジュールおよび/もしくはソフトウェアモジュール内で提供されてもよく、または複合コーデックに組み込まれてもよい。また、技法は、1つまたは複数の回路または論理要素において完全に実装され得る。
本開示の技法は、ワイヤレスハンドセット、集積回路(IC)またはICのセット(たとえば、チップセット)を含む、多種多様なデバイスまたは装置において実装され得る。開示した技法を実行するように構成されたデバイスの機能的態様を強調するために、様々な構成要素、モジュール、またはユニットについて本開示で説明したが、それらは必ずしも異なるハードウェアユニットによる実現を必要とするとは限らない。むしろ、上記で説明したように、様々なユニットは、コーデックハードウェアユニットにおいて組み合わされてもよく、または好適なソフトウェアおよび/もしくはファームウェアとともに、上記で説明したような1つもしくは複数のプロセッサを含む、相互動作可能なハードウェアユニットの集合によって提供されてもよい。
様々な例について説明してきた。これらおよび他の例は、以下の特許請求の範囲内に入る。
100 ビデオ符号化および復号システム、システム
102 ソースデバイス
104 ビデオソース
106 メモリ
108 出力インターフェース
110 コンピュータ可読媒体
112 記憶デバイス
114 ファイルサーバ
116 宛先デバイス
118 ディスプレイデバイス
120 メモリ
122 入力インターフェース
130 4分木2分木(QTBT)構造、QTBT構造
132 コーディングツリーユニット(CTU)、CTU
140 ハイブリッドビデオコーディングフレームワーク
142 予測
144 量子化を伴う変換コーディング、変換/量子化
146 エントロピーコーディング
148 ポスト/インループフィルタ処理
150 階層予測構造
160 ニューラルネットワークベースのフィルタ
200 ビデオエンコーダ
202 モード選択ユニット
204 残差生成ユニット
206 変換処理ユニット
208 量子化ユニット
210 逆量子化ユニット
212 逆変換処理ユニット
214 再構成ユニット
216 フィルタユニット
218 復号ピクチャバッファ(DPB)、DPB
220 エントロピー符号化ユニット
222 動き推定ユニット
224 動き補償ユニット
226 イントラ予測ユニット
230 ビデオデータメモリ
232 ニューラルネットワークモデル(NNモデル)、NNモデル
300 ビデオデコーダ
302 エントロピー復号ユニット
304 予測処理ユニット
306 逆量子化ユニット
308 逆変換処理ユニット
310 再構成ユニット
312 フィルタユニット
314 復号ピクチャバッファ(DPB)、DPB
316 動き補償ユニット
318 イントラ予測ユニット
320 コード化ピクチャバッファ(CPB)メモリ、CPBメモリ
322 NNモデル

Claims (42)

  1. 復号されたビデオデータをフィルタ処理する方法であって、
    ビデオデータのピクチャを復号するステップと、
    前記復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするステップであって、前記値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、前記インデックスが前記事前定義されたニューラルネットワークモデルのセットの中の前記ニューラルネットワークモデルに対応する、ステップと、
    前記インデックスに対応する前記ニューラルネットワークモデルを使用して、前記復号されたピクチャの前記一部分をフィルタ処理するステップと
    を含む方法。
  2. 前記事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングするステップをさらに含み、前記ニューラルネットワークモデルが、前記事前定義されたニューラルネットワークモデルのセットの前記サブセットのうちの1つであり、前記サブセットが、前記事前定義されたニューラルネットワークモデルのセットよりも小さい、請求項1に記載の方法。
  3. 前記ニューラルネットワークモデルを表す前記シンタックス要素の前記値が、複数のニューラルネットワークモデルを表す値である、請求項1に記載の方法。
  4. フィルタ処理するステップが、
    前記値によって表される前記複数のニューラルネットワークモデルの各々を前記一部分に別々に適用して、異なる結果を形成するステップと、
    前記結果の各々を合成して、最終的なフィルタ処理された部分を形成するステップと
    を含む、請求項3に記載の方法。
  5. 前記シンタックス要素の前記値をコーディングするステップが、前記シンタックス要素の前記値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、または前記ピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングするステップを含む、請求項1に記載の方法。
  6. グリッドに従って前記ピクチャを区分するステップをさらに含み、前記一部分が前記ピクチャの前記グリッドの要素を含む、請求項1に記載の方法。
  7. 前記グリッドの要素の数を決定するステップをさらに含む、請求項6に記載の方法。
  8. 前記シンタックス要素が第1のシンタックス要素を含み、前記グリッドの前記要素の数を決定するステップが、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つの第2のシンタックス要素を復号するステップを含む、請求項7に記載の方法。
  9. 前記シンタックス要素が第1のシンタックス要素を含み、前記グリッドの中の前記要素の数を決定するステップが、可能なグリッドサイズのセットへのインデックスを表す第2のシンタックス要素の値を復号するステップを含む、請求項7に記載の方法。
  10. 前記ニューラルネットワークモデルを決定する前に前記ニューラルネットワークモデルを適用すると決定するステップをさらに含む、請求項1に記載の方法。
  11. 前記シンタックス要素が第1のシンタックス要素を含み、前記ニューラルネットワークモデルを適用すると決定するステップが、前記ニューラルネットワークモデルが適用されるべきであることを示す第2のシンタックス要素の値を復号するステップを含む、請求項10に記載の方法。
  12. 前記第2のシンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つのものである、請求項11に記載の方法。
  13. 前記復号されたピクチャの前記一部分が、前記復号されたピクチャの色成分の一部分を含み、前記色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、請求項1に記載の方法。
  14. 前記シンタックス要素が第1のシンタックス要素を含み、前記方法が、前記復号されたピクチャの前記色成分の各々のための前記ニューラルネットワークモデルを使用するフィルタ処理を一緒に表す第2のシンタックス要素をコーディングするステップをさらに含む、請求項13に記載の方法。
  15. 前記シンタックス要素の前記値が、前記ピクチャの前記一部分のための量子化パラメータ(QP)を含む、請求項1に記載の方法。
  16. 前記ピクチャを復号する前に前記ピクチャを符号化するステップをさらに含み、前記シンタックス要素の前記値をコーディングするステップが、前記シンタックス要素の前記値を符号化するステップを含む、請求項1に記載の方法。
  17. レートひずみ計算に従って前記ニューラルネットワークモデルを決定するステップをさらに含む、請求項16に記載の方法。
  18. 復号されたビデオデータをフィルタ処理するためのデバイスであって、
    ビデオデータを記憶するように構成されたメモリと、
    回路において実装され、
    ビデオデータのピクチャを復号することと、
    前記復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、前記値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、前記インデックスが前記事前定義されたニューラルネットワークモデルのセットの中の前記ニューラルネットワークモデルに対応する、コーディングすることと、
    前記インデックスに対応する前記ニューラルネットワークモデルを使用して、前記復号されたピクチャの前記一部分をフィルタ処理することと
    を行うように構成された1つまたは複数のプロセッサと
    を備えるデバイス。
  19. 前記1つまたは複数のプロセッサが、前記事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングするようにさらに構成され、前記ニューラルネットワークモデルが、前記事前定義されたニューラルネットワークモデルのセットの前記サブセットのうちの1つであり、前記サブセットが、前記事前定義されたニューラルネットワークモデルのセットよりも小さい、請求項18に記載のデバイス。
  20. 前記ニューラルネットワークモデルを表す前記シンタックス要素の前記値が、複数のニューラルネットワークモデルを表す値であり、前記復号されたピクチャの前記一部分をフィルタ処理するために、前記1つまたは複数のプロセッサが、
    前記値によって表される前記複数のニューラルネットワークモデルの各々を前記一部分に別々に適用して、異なる結果を形成することと、
    前記結果の各々を合成して、最終的なフィルタ処理された部分を形成することと
    を行うように構成される、請求項18に記載のデバイス。
  21. 前記1つまたは複数のプロセッサが、前記シンタックス要素の前記値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、または前記ピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングするように構成される、請求項18に記載のデバイス。
  22. 前記1つまたは複数のプロセッサが、グリッドに従って前記ピクチャを区分するように構成され、前記一部分が前記ピクチャの前記グリッドの要素を含む、請求項18に記載のデバイス。
  23. 前記シンタックス要素が第1のシンタックス要素を含み、前記1つまたは複数のプロセッサが、前記グリッドの要素の数を表す第2のシンタックス要素の値を復号するようにさらに構成され、前記シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つに含まれる、請求項22に記載のデバイス。
  24. 前記シンタックス要素が第1のシンタックス要素を含み、前記1つまたは複数のプロセッサが、前記ニューラルネットワークモデルを決定する前に前記ニューラルネットワークモデルを適用すると決定するように構成され、前記ニューラルネットワークモデルを適用すると決定するために、前記1つまたは複数のプロセッサが、前記ニューラルネットワークモデルが適用されるべきであることを示す第2のシンタックス要素の値を復号するように構成される、請求項18に記載のデバイス。
  25. 前記復号されたピクチャの前記一部分が、前記復号されたピクチャの色成分の一部分を含み、前記色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、請求項18に記載のデバイス。
  26. 前記シンタックス要素の前記値が、前記ピクチャの前記一部分のための量子化パラメータ(QP)を含む、請求項18に記載のデバイス。
  27. 前記1つまたは複数のプロセッサが、前記ピクチャを復号する前に前記ピクチャを符号化するようにさらに構成され、前記シンタックス要素の前記値をコーディングするために、前記1つまたは複数のプロセッサが、前記シンタックス要素の前記値を符号化するように構成される、請求項18に記載のデバイス。
  28. 前記1つまたは複数のプロセッサが、レートひずみ計算に従って前記ニューラルネットワークモデルを決定するようにさらに構成される、請求項27に記載のデバイス。
  29. 前記復号されたビデオデータを表示するように構成されたディスプレイをさらに備える、請求項18に記載のデバイス。
  30. 前記デバイスが、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、請求項18に記載のデバイス。
  31. 命令を記憶したコンピュータ可読記憶媒体であって、前記命令が、実行されると、プロセッサに、
    ビデオデータのピクチャを復号することと、
    前記復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングすることであって、前記値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、前記インデックスが前記事前定義されたニューラルネットワークモデルのセットの中の前記ニューラルネットワークモデルに対応する、コーディングすることと、
    前記インデックスに対応する前記ニューラルネットワークモデルを使用して、前記復号されたピクチャの前記一部分をフィルタ処理することと
    を行わせる、コンピュータ可読記憶媒体。
  32. 前記プロセッサに前記事前定義されたニューラルネットワークモデルのセットのサブセットを表す値をコーディングさせる命令をさらに含み、前記ニューラルネットワークモデルが、前記事前定義されたニューラルネットワークモデルのセットの前記サブセットのうちの1つであり、前記サブセットが、前記事前定義されたニューラルネットワークモデルのセットよりも小さい、請求項31に記載のコンピュータ可読記憶媒体。
  33. 前記ニューラルネットワークモデルを表す前記シンタックス要素の前記値が、複数のニューラルネットワークモデルを表す値であり、前記プロセッサに前記復号されたピクチャの前記一部分をフィルタ処理させる前記命令が、前記プロセッサに、
    前記値によって表される前記複数のニューラルネットワークモデルの各々を前記一部分に別々に適用して、異なる結果を形成することと、
    前記結果の各々を合成して、最終的なフィルタ処理された部分を形成することと
    を行わせる命令を含む、請求項31に記載のコンピュータ可読記憶媒体。
  34. 前記プロセッサに前記シンタックス要素の前記値をコーディングさせる前記命令が、前記プロセッサに前記シンタックス要素の前記値をビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、または前記ピクチャのグリッドのためのグリッドレベルのうちの1つにおいてコーディングさせる命令を含む、請求項31に記載のコンピュータ可読記憶媒体。
  35. 前記プロセッサにグリッドに従って前記ピクチャを区分させる命令をさらに含み、前記一部分が前記ピクチャの前記グリッドの要素を含む、請求項31に記載のコンピュータ可読記憶媒体。
  36. 前記シンタックス要素が第1のシンタックス要素を含み、前記プロセッサに前記グリッドの要素の数を表す第2のシンタックス要素の値を復号させる命令をさらに含み、前記シンタックス要素が、ビデオパラメータセット(VPS)、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、ピクチャヘッダ、スライスヘッダ、適応パラメータセット(APS)、イントラ期間レベル、ピクチャグループ(GOP)レベル、GOPにおける時間レイヤレベル、ピクチャレベル、スライスレベル、コーディングツリーユニット(CTU)レベル、またはグリッドサイズレベルのうちの少なくとも1つに含まれる、請求項35に記載のコンピュータ可読記憶媒体。
  37. 前記シンタックス要素が第1のシンタックス要素を含み、前記プロセッサに前記ニューラルネットワークモデルを決定する前に前記ニューラルネットワークモデルを適用すると決定させる命令をさらに含み、前記プロセッサに前記ニューラルネットワークモデルを適用すると決定させる前記命令が、前記プロセッサに前記ニューラルネットワークモデルが適用されるべきであることを示す第2のシンタックス要素の値を復号させる命令を含む、請求項31に記載のコンピュータ可読記憶媒体。
  38. 前記復号されたピクチャの前記一部分が、前記復号されたピクチャの色成分の一部分を含み、前記色成分が、ルミナンス成分、青色相クロミナンス成分、または赤色相クロミナンス成分のうちの1つを含む、請求項31に記載のコンピュータ可読記憶媒体。
  39. 前記シンタックス要素の前記値が、前記ピクチャの前記一部分のための量子化パラメータ(QP)を含む、請求項31に記載のコンピュータ可読記憶媒体。
  40. 前記プロセッサに前記ピクチャを復号する前に前記ピクチャを符号化させる命令をさらに含み、前記プロセッサに前記シンタックス要素の前記値をコーディングさせる前記命令が、前記プロセッサに前記シンタックス要素の前記値を符号化させる命令を含む、請求項31に記載のコンピュータ可読記憶媒体。
  41. 前記プロセッサにレートひずみ計算に従って前記ニューラルネットワークモデルを決定させる命令をさらに含む、請求項40に記載のコンピュータ可読記憶媒体。
  42. 復号されたビデオデータをフィルタ処理するためのデバイスであって、
    ビデオデータのピクチャを復号するための手段と、
    前記復号されたピクチャの一部分をフィルタ処理するために使用されるべきニューラルネットワークモデルを表すシンタックス要素の値をコーディングするための手段であって、前記値が事前定義されたニューラルネットワークモデルのセットへのインデックスを表し、前記インデックスが前記事前定義されたニューラルネットワークモデルのセットの中の前記ニューラルネットワークモデルに対応する、手段と、
    前記インデックスに対応する前記ニューラルネットワークモデルを使用して、前記復号されたピクチャの前記一部分をフィルタ処理するための手段と
    を備えるデバイス。
JP2023515167A 2020-09-29 2021-09-24 ビデオコーディング中にフィルタ処理するための複数のニューラルネットワークモデル Pending JP2023542841A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202063085092P 2020-09-29 2020-09-29
US63/085,092 2020-09-29
US17/448,658 2021-09-23
US17/448,658 US11930215B2 (en) 2020-09-29 2021-09-23 Multiple neural network models for filtering during video coding
PCT/US2021/052008 WO2022072245A1 (en) 2020-09-29 2021-09-24 Multiple neural network models for filtering during video coding

Publications (1)

Publication Number Publication Date
JP2023542841A true JP2023542841A (ja) 2023-10-12

Family

ID=80821639

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023515167A Pending JP2023542841A (ja) 2020-09-29 2021-09-24 ビデオコーディング中にフィルタ処理するための複数のニューラルネットワークモデル

Country Status (8)

Country Link
US (1) US11930215B2 (ja)
EP (1) EP4222960A1 (ja)
JP (1) JP2023542841A (ja)
KR (1) KR20230079360A (ja)
CN (1) CN116349226A (ja)
BR (1) BR112023004814A2 (ja)
TW (1) TW202218422A (ja)
WO (1) WO2022072245A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11716469B2 (en) * 2020-12-10 2023-08-01 Lemon Inc. Model selection in neural network-based in-loop filter for video coding
US20220321919A1 (en) * 2021-03-23 2022-10-06 Sharp Kabushiki Kaisha Systems and methods for signaling neural network-based in-loop filter parameter information in video coding
US20220337853A1 (en) * 2021-04-07 2022-10-20 Lemon Inc. On Neural Network-Based Filtering for Imaging/Video Coding
CN115695787A (zh) * 2021-07-27 2023-02-03 脸萌有限公司 基于神经网络的视频编解码中的分割信息
WO2023245544A1 (zh) * 2022-06-23 2023-12-28 Oppo广东移动通信有限公司 编解码方法、码流、编码器、解码器以及存储介质
TW202404371A (zh) * 2022-07-05 2024-01-16 美商高通公司 視訊譯碼中用於多種顏色分量的基於神經網路的濾波程序
WO2024080904A1 (en) * 2022-10-13 2024-04-18 Telefonaktiebolaget Lm Ericsson (Publ) Selective application of neural network based filtering to picture regions
WO2024078599A1 (en) * 2022-10-13 2024-04-18 Douyin Vision Co., Ltd. Method, apparatus, and medium for video processing

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI723433B (zh) * 2018-06-21 2021-04-01 大陸商北京字節跳動網絡技術有限公司 改進的邊界分割
US10999606B2 (en) * 2019-01-08 2021-05-04 Intel Corporation Method and system of neural network loop filtering for video coding
CN114073094B (zh) * 2019-06-27 2023-05-23 寰发股份有限公司 视频编解码的方法和装置
US11363307B2 (en) * 2019-08-08 2022-06-14 Hfi Innovation Inc. Video coding with subpictures
CN114208203A (zh) * 2019-09-20 2022-03-18 英特尔公司 基于分类器的卷积神经网络环路滤波器

Also Published As

Publication number Publication date
US20220103864A1 (en) 2022-03-31
EP4222960A1 (en) 2023-08-09
US11930215B2 (en) 2024-03-12
CN116349226A (zh) 2023-06-27
KR20230079360A (ko) 2023-06-07
BR112023004814A2 (pt) 2023-04-18
TW202218422A (zh) 2022-05-01
WO2022072245A1 (en) 2022-04-07

Similar Documents

Publication Publication Date Title
US11206400B2 (en) Low-frequency non-separable transform (LFNST) simplifications
US11930215B2 (en) Multiple neural network models for filtering during video coding
KR20220020266A (ko) 비디오 코딩에서 저주파수 분리불가능한 변환을 위한 변환 및 마지막 유의 계수 위치 시그널링
US11743459B2 (en) Filtering process for video coding
CN111602395B (zh) 用于视频译码的量化组
US20200288130A1 (en) Simplification of sub-block transforms in video coding
US11778213B2 (en) Activation function design in neural network-based filtering process for video coding
KR20230081701A (ko) 비디오 코딩 동안 조인트-컴포넌트 뉴럴 네트워크 기반 필터링
KR20230038709A (ko) 다중 적응형 루프 필터 세트들
KR20230129015A (ko) 비디오 코딩 동안의 필터링을 위한 다수의 신경망 모델들
US11659197B2 (en) Signaling number of subblock merge candidates in video coding
US11729381B2 (en) Deblocking filter parameter signaling
US11457229B2 (en) LFNST signaling for chroma based on chroma transform skip
US20210092404A1 (en) Reference picture constraint for decoder side motion refinement and bi-directional optical flow
KR20230002323A (ko) 비디오 코딩을 위한 적응적 스케일링 리스트 제어
CN114830657A (zh) 视频译码中具有减少的归零的低频不可分离变换(lfnst)
JP2023544046A (ja) 高ビット深度ビデオコーディングのためのライスパラメータ値の適応的な導出
KR20220159965A (ko) 비디오 코딩에서 저주파 분리 불가능 변환 인덱스 시그널링
TWI840427B (zh) 用於置零轉換之掃描及最後係數位置寫碼
US20240015312A1 (en) Neural network based filtering process for multiple color components in video coding
US20210176468A1 (en) Residual coding selection and low-level signaling based on quantization parameter
KR20230079049A (ko) 비디오 코딩에서의 크로스-컴포넌트 리니어 모델 (cclm) 모드에 대한 고정된 비트 심도 프로세싱
KR20230075443A (ko) 상이한 비트 심도에서 비디오 데이터의 코딩을 위한 적응적 루프 필터링의 동작 비트 심도의 제한