TW202114418A - 用於視訊寫碼中低頻非可分離變換之變換及最後有效係數位置信令傳輸 - Google Patents

用於視訊寫碼中低頻非可分離變換之變換及最後有效係數位置信令傳輸 Download PDF

Info

Publication number
TW202114418A
TW202114418A TW109119952A TW109119952A TW202114418A TW 202114418 A TW202114418 A TW 202114418A TW 109119952 A TW109119952 A TW 109119952A TW 109119952 A TW109119952 A TW 109119952A TW 202114418 A TW202114418 A TW 202114418A
Authority
TW
Taiwan
Prior art keywords
current block
lfnst
block
transform
syntax element
Prior art date
Application number
TW109119952A
Other languages
English (en)
Inventor
艾理肯 納爾希
席爾米 伊恩斯 埃伊爾梅茲
法迪姆 塞瑞金
穆漢麥德 傑德 柯本
馬塔 卡茲維克茲
Original Assignee
美商高通公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商高通公司 filed Critical 美商高通公司
Publication of TW202114418A publication Critical patent/TW202114418A/zh

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • H04N19/64—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission
    • H04N19/645—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission by grouping of coefficients into blocks after the transform
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一種視訊解碼器基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素判定按規範定義之零係數的一調零圖案。該LFNST語法元素在一變換單元(TU)層級被信令傳輸。另外，該視訊解碼器判定該當前區塊之變換係數。該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數。作為判定該當前區塊之該等變換係數之部分，該視訊解碼器應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值。該視訊解碼器亦判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0。

Description

用於視訊寫碼中低頻非可分離變換之變換及最後有效係數位置信令傳輸
本發明係關於視訊編碼及視訊解碼。
數位視訊能力可併入至廣泛範圍之裝置中，該等裝置包括數位電視、數位直播系統、無線廣播系統、個人數位助理(PDA)、膝上型或桌上型電腦、平板電腦、電子書閱讀器、數位攝影機、數位記錄裝置、數位媒體播放機、視訊遊戲裝置、視訊遊戲主控台、蜂巢式或衛星無線電電話(所謂的「智慧型電話」)、視訊電傳會議裝置、視訊串流裝置及其類似者。數位視訊裝置實施視訊寫碼技術，諸如由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4第10部分進階視訊寫碼(AVC)、ITU-T H.265/高效視訊寫碼(HEVC)定義之標準，及此等標準的擴展中所描述之技術。視訊裝置可藉由實施此類視訊寫碼技術而更有效地傳輸、接收、編碼、解碼及/或儲存數位視訊資訊。
視訊寫碼技術包括空間(圖像內)預測及/或時間(圖像間)預測以減少或移除為視訊序列所固有之冗餘。對於基於區塊之視訊寫碼，視訊圖塊(例如，視訊圖像或視訊圖像的一部分)可分割成視訊區塊，視訊區塊亦可被稱作寫碼樹型單元(CTU)、寫碼單元(CU)及/或寫碼節點。使用相對於同一圖像中之相鄰區塊中之參考樣本的空間預測來編碼圖像之經框內寫碼(I)之圖塊中的視訊區塊。圖像之經框間寫碼(P或B)圖塊中之視訊區塊可使用關於同一圖像中之相鄰區塊中的參考樣本的空間預測或關於其他參考圖像中之參考樣本的時間預測。圖像可稱為圖框，且參考圖像可稱為參考圖框。
大體而言，本發明描述用於信令傳輸最後變換係數位置及變換索引/旗標之技術。本發明描述：(i)用於在變換係數寫碼中信令傳輸該最後變換係數位置的一基於方位之限定，及(ii)用於信令傳輸低頻非可分離變換(LFNST)之該等變換索引的方法。因為本發明中所描述之技術可減少信令傳輸額外負荷，所以本發明之技術可改良寫碼效率且可用於進階視訊編解碼器中，包括HEVC之擴展及諸如多功能視訊寫碼(VVC/H.266)之下一代視訊寫碼標準。
在一個實例中，本發明描述一種解碼視訊資料之方法，該方法包含：基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸；判定該當前區塊之變換係數，其中該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數，且判定該當前區塊之該等變換係數包含：應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值；及判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0；將一反變換應用於該當前區塊之該等變換係數以判定該當前區塊之殘餘資料；及基於該當前區塊之該殘餘資料重建構該當前區塊。
在另一實例中，本發明描述一種編碼視訊資料之方法，該方法包含：產生該視訊資料之一當前區塊的殘餘資料；將一變換應用於該殘餘資料以產生該當前區塊之第一變換係數；判定按規範定義之調零變換係數的一調零圖案；判定該當前區塊之第二變換係數，其中該當前區塊包括一低頻非可分離變換(LFNST)區，且判定該當前區塊之該等第二變換係數包含：應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二變換係數之值；及判定在由該調零圖案界定的該區塊之一區中該當前區塊之該等第二變換係數等於0；判定一LFNST語法元素，其中該LFNST語法元素結合該當前區塊之一模式及該當前區塊之一大小指定該LFNST；及在一變換單元(TU)層級信令傳輸該LFNST語法元素。
在另一實例中，本發明描述一種用於解碼視訊資料之裝置，該裝置包含：一記憶體，其用以儲存該視訊資料；及實施於電路系統中之一或多個處理器，該一或多個處理器經組態以：基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸；判定該當前區塊之變換係數，其中該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數，且該一或多個處理器經組態使得作為判定該當前區塊之該等變換係數之部分，該一或多個處理器：應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值；及判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0；將一反變換應用於該當前區塊之該等變換係數以判定該當前區塊之殘餘資料；及基於該當前區塊之該殘餘資料重建構該當前區塊。
在另一實例中，本發明描述一種用於編碼視訊資料之裝置，該裝置包含：一記憶體，其用以儲存該視訊資料；及實施於電路系統中之一或多個處理器，該一或多個處理器經組態以：產生該視訊資料之一當前區塊的殘餘資料；將一變換應用於該殘餘資料以產生該當前區塊之第一變換係數；判定按規範定義之調零變換係數的一調零圖案；判定該當前區塊之第二變換係數，其中該當前區塊包括一低頻非可分離變換(LFNST)區，且該一或多個處理器經組態使得作為判定該當前區塊之該等第二變換係數之部分，該一或多個處理器：應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二變換係數之值；及判定在由該調零圖案界定的該區塊之一區中該當前區塊之該等第二變換係數等於0；判定一LFNST語法元素，其中該LFNST語法元素結合該當前區塊之一模式及該當前區塊之一大小指定該LFNST；及在一變換單元(TU)層級信令傳輸該LFNST語法元素。
在另一實例中，本發明描述一種解碼視訊資料之裝置，該裝置包含：用於基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案的構件，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸；用於判定該當前區塊之變換係數的構件，其中該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數，且該用於判定該當前區塊之該等變換係數的構件包含：用於應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值的構件；及用於判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0的構件；用於將一反變換應用於該當前區塊之該等變換係數以判定該當前區塊之殘餘資料的構件；及用於基於該當前區塊之該殘餘資料重建構該當前區塊的構件。
在另一實例中，本發明描述一種編碼視訊資料之裝置，該裝置包含：用於產生該視訊資料之一當前區塊的殘餘資料的構件；用於將一變換應用於該殘餘資料以產生該當前區塊之第一變換係數的構件；用於判定按規範定義之調零變換係數的一調零圖案的構件；用於判定該當前區塊之第二變換係數的構件，其中該當前區塊包括一低頻非可分離變換(LFNST)區，且該用於判定該當前區塊之該等第二變換係數的構件包含：用於應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二變換係數之值的構件；及用於判定在由該調零圖案界定的該區塊之一區中該當前區塊之該等第二變換係數等於0的構件；用於判定一LFNST語法元素的構件，其中該LFNST語法元素結合該當前區塊之一模式及該當前區塊之一大小指定該LFNST；及用於在一變換單元(TU)層級信令傳輸該LFNST語法元素的構件。
在另一實例中，本發明描述一種電腦可讀資料儲存媒體，其上儲存有指令，該等指令在經執行時使一或多個處理器：基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸；判定該當前區塊之變換係數，其中該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數，且使該一或多個處理器判定該當前區塊之該等變換係數的該等指令使該一或多個處理器：應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值；及判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0；將一反變換應用於該當前區塊之該等變換係數以判定該當前區塊之殘餘資料；及基於該當前區塊之該殘餘資料重建構該當前區塊。
在另一實例中，本發明描述一種電腦可讀資料儲存媒體，其上儲存有指令，該等指令在經執行時使一或多個處理器：產生該視訊資料之一當前區塊的殘餘資料；將一變換應用於該殘餘資料以產生該當前區塊之第一變換係數；判定按規範定義之調零變換係數的一調零圖案；判定該當前區塊之第二變換係數，其中該當前區塊包括一低頻非可分離變換(LFNST)區，且使該一或多個處理器判定該當前區塊之該等第二變換係數的該等指令使該一或多個處理器：應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二變換係數之值；及判定在由該調零圖案界定的該區塊之一區中該當前區塊之該等第二變換係數等於0；判定一LFNST語法元素，其中該LFNST語法元素結合該當前區塊之一模式及該當前區塊之一大小指定該LFNST；及在一變換單元(TU)層級信令傳輸該LFNST語法元素。
在以下隨附圖式及描述中闡述一或多個實例之細節。其他特徵、目標及優點將自描述、圖式及申請專利範圍而顯而易見。
本申請案主張2019年6月14日申請之美國臨時專利申請案62/861,828及2019年6月28日申請之美國臨時專利申請案62/868,346之權利，該等申請案中之每一者的全部內容以引用之方式併入。
作為執行視訊編碼程序之部分，視訊編碼器可將變換應用於殘餘資料之區塊以產生變換係數區塊。變換將殘餘資料轉換至頻域。舉例而言，視訊編碼器可將一或多個可分離變換應用於殘餘資料之區塊。另外在一些情況下，視訊編碼器可將低頻非可分離變換(LFNST)應用於變換係數區塊之子區塊。視訊編碼器可接著量化由LFNST之應用而產生的變換係數。視訊編碼器可接著編碼表示經量化變換係數之語法元素。類似地，視訊解碼器可反量化變換係數且將反LFNST應用於經反量化變換係數之子區塊。視訊解碼器可接著藉由將反變換應用於由反LFNST產生之變換係數來產生殘餘資料。反變換將變換係數自頻域轉換至剩餘域。視訊解碼器可基於殘餘資料及預測區塊重建構視訊資料之區塊。
在一些實例中，當將LFNST應用於變換係數時，視訊編碼器保持且變換子區塊中之k個最低頻率變換係數，同時將子區塊中之剩餘變換係數調零。當視訊編碼器保持k個最低頻率變換係數時，視訊編碼器不會將k個最低頻率變換係數調零。在此等實例中，視訊寫碼器不會按規範將子區塊之外的變換係數調零。在其他實例中，當將LFNST應用於變換係數時，視訊編碼器不會將子區塊中之變換係數或子區塊之外的變換係數調零。在其他實例中，當將LFNST應用於變換係數時，視訊編碼器在子區塊中保留且變換k個最低頻率變換係數，同時調零包括子區塊內部及外部的變換係數的區塊之所有剩餘變換係數。
2019年3月19日至27日於CH日內瓦的ITU-T SG 16 WP 3及ISO/IEC JTC 1/SC 29/WG 11之聯合視訊專家小組(JVET)第14次會議JVET-N1001-v8上，Bross等人的「Versatile Video Coding(草案5)」(在下文中「VVC草案5」)係即將出現的VVC標準之最新草案。在VVC草案5中，視訊編碼器信令傳輸LFNST索引以指示是否使用LFNST，且若是，則使用所選擇變換集合重的兩個非可分離變換核中之哪一者。
此外，在VVC草案5中，視訊編碼器信令傳輸區塊之最後有效變換係數之位置。在本發明中，若變換係數為非零，則變換係數係有效變換係數。信令傳輸最後有效變換係數之位置可使視訊解碼器能夠判定針對區塊信令傳輸多少個變換係數。另外，在VVC草案5中，區塊可分割成係數群組(CG)。視訊編碼器可針對CG中之每一者信令傳輸旗標(例如，經寫碼子區塊旗標)以指示CG是否包括任何非零變換係數。包括一或多個非零變換係數之CG可被稱作「經寫碼CG」。不包括任何非零變換係數之CG可被稱作「非經寫碼CG」。
本發明描述視訊編碼器及視訊解碼器可推斷(例如，在未顯式地寫碼語法元素的情況下判定)變換係數之圖案，以調零且基於經判定調零圖案推斷最後有效變換係數之位置，或至少推斷最後有效變換係數必須所處的邊界的技術。以此方式，視訊編碼器可能夠跳過信令傳輸最後有效變換係數之位置。跳過信令傳輸最後有效變換係數之位置可減少視訊編碼器包括於含有視訊資料之經編碼表示的位元串流中的位元之數目。以此方式，本發明之技術可提高寫碼效率。
在一個實例中，本發明描述經組態以產生視訊資料之當前區塊的殘餘資料的視訊編碼器。另外，視訊編碼器經組態以將變換應用於殘餘資料以產生當前區塊之第一變換係數。視訊編碼器亦經組態以判定LFNST語法元素，且在變換單元(TU)層級信令傳輸LFNST語法元素。LFNST語法元素指示是否應用LFNST，且若是，則指示可適用的LFNST核心。此外，視訊編碼器可經組態以基於當前區塊之區塊大小及可適用的LFNST核心而判定按規範定義之零係數的調零圖案。視訊編碼器亦可經組態以判定當前區塊之第二變換係數。當前區塊包括LFNST區。LFNST區為當前區塊之子區塊。作為判定當前區塊之第二變換係數之部分，視訊編碼器可應用LFNST以判定當前區塊之LFNST區中的一或多個第二變換係數之值。另外，視訊編碼器可經組態成使得作為判定當前區塊之第二變換係數之部分，視訊編碼器可判定在由調零圖案界定的區塊之區中當前區塊之第二變換係數等於0。
類似地，根據本發明之一或多種技術，視訊解碼器可經組態以基於當前區塊之區塊大小及LFNST語法元素而判定按規範定義之零係數的調零圖案。在此實例中，LFNST語法元素在TU層級被信令傳輸。在其他實例中，LFNST語法元素可在CU層級或另一層級被信令傳輸。此外，視訊解碼器可經組態以判定當前區塊之變換係數。當前區塊之變換係數包括當前區塊之LFNST區中的變換係數及當前區塊之LFNST區之外的變換係數。視訊解碼器可經組態成使得作為判定當前區塊之變換係數之部分，視訊解碼器可應用反LFNST以判定當前區塊之LFNST區中的一或多個變換係數之值。視訊解碼器可經進一步組態以判定在由調零圖案界定的當前區塊之區中當前區塊之變換係數等於0。視訊解碼器亦可經組態以將反變換應用於當前區塊之變換係數以判定當前區塊之殘餘資料。另外，視訊解碼器可經組態以基於當前區塊之殘餘資料重建構當前區塊。因為調零圖案可基於當前區塊之區塊大小及LFNST語法元素而判定，所以可能不必要顯式地信令傳輸調零圖案。此外，如本發明中所描述，當前區塊之最後有效係數可限定於未由調零圖案調零之位置。此可減少對信令傳輸最後有效係數之位置的需求。
圖1為說明可執行本發明之技術之實例視訊編碼及解碼系統100的方塊圖。本發明之技術大體上係針對寫碼(編碼及/或解碼)視訊資料。大體而言，視訊資料包括用於處理視訊之任何資料。因此，視訊資料可包括原始未經編碼的視訊、經編碼視訊、經解碼(例如經重建構)視訊及視訊後設資料，諸如傳信資料。
如圖1中所示，在此實例中，系統100包括源裝置102，其提供待由目的地裝置116解碼及顯示之經編碼視訊資料。特定而言，源裝置102經由電腦可讀媒體110將視訊資料提供至目的地裝置116。源裝置102及目的地裝置116可包含廣泛範圍裝置中之任一者，包括桌上型電腦、筆記型(亦即，膝上型)電腦、平板電腦、機上盒、電話手持機(諸如智慧型電話)、電視、攝影機、顯示裝置、數字媒體播放器、視訊遊戲控制台、視訊串流裝置或其類似者。在一些情況下，源裝置102及目的地裝置116可經裝備用於無線通信，且由此可稱為無線通信裝置。
在圖1之實例中，源裝置102包括視訊源104、記憶體106、視訊編碼器200及輸出介面108。目的地裝置116包括輸入介面122、視訊解碼器300、記憶體120及顯示裝置118。根據本發明，源裝置102之視訊編碼器200及目的地裝置116之視訊解碼器300可經組態以應用用於信令傳輸最後變換係數位置及變換索引/旗標的技術。由此，源裝置102表示視訊編碼裝置之實例，而目的地裝置116表示視訊解碼裝置之實例。在其他實例中，源裝置及目的地裝置可包括其他組件或配置。舉例而言，源裝置102可自外部視訊源(諸如，外部攝影機)接收視訊資料。同樣地，目的地裝置116可與外部顯示裝置介接，而非包括整合顯示裝置。
如圖1中所示的系統100僅為一個實例。大體而言，任何數位視訊編碼及/或解碼裝置可執行用於信令傳輸最後變換係數位置及變換索引/旗標的技術。源裝置102及目的地裝置116僅僅為此類寫碼裝置之實例，其中源裝置102產生經寫碼視訊資料以供傳輸至目的地裝置116。本發明將「寫碼」裝置稱為對資料執行寫碼(編碼及/或解碼)之裝置。因此，視訊編碼器200及視訊解碼器300表示寫碼裝置之實例，詳言之，分別表示視訊編碼器及視訊解碼器之實例。在一些實例中，裝置102、116可以實質上對稱的方式操作，使得裝置102、116中之每一者包括視訊編碼及解碼組件。因此，系統100可支援視訊裝置102、116之間的單向或雙向視訊傳輸，例如用於視訊串流、視訊播放、視訊廣播或視訊電話。
大體而言，視訊源104表示視訊資料源(亦即，原始未經編碼視訊資料)且將視訊資料之依序圖像(亦稱為「圖框」)提供至視訊編碼器200，該視訊編碼器200編碼圖像之資料。源裝置102之視訊源104可包括視訊捕捉裝置，諸如視訊攝影機、含有先前捕捉之原始視訊的視訊檔案庫及/或用以自視訊內容提供者接收視訊的視訊饋送介面。作為另一替代方案，視訊源104可產生基於電腦圖形之資料作為源視訊，或實況視訊、存檔視訊及電腦產生之視訊的組合。在每一情況下，視訊編碼器200對所捕捉、所預先捕捉或電腦產生之視訊資料進行編碼。視訊編碼器200可將圖像之接收次序(有時被稱作「顯示次序」)重新配置成寫碼次序以供寫碼。視訊編碼器200可產生包括經編碼視訊資料之位元串流。源裝置102接著可經由輸出介面108將經編碼視訊資料輸出至電腦可讀媒體110上以供由例如目的地裝置116之輸入介面122接收及/或擷取。
源裝置102之記憶體106及目的地裝置116之記憶體120表示一般用途記憶體。在一些實例中，記憶體106、120可儲存原始視訊資料，例如來自視訊源104之原始視訊及來自視訊解碼器300之原始經解碼視訊資料。另外或替代地，記憶體106、120可儲存可分別由例如視訊編碼器200及視訊解碼器300執行之軟體指令。儘管在此實例中記憶體106及記憶體120展示為與視訊編碼器200及視訊解碼器300分開，但應理解，視訊編碼器200及視訊解碼器300亦可包括功能上類似或等效目的之內部記憶體。此外，記憶體106、120可儲存例如自視訊編碼器200輸出及輸入至視訊解碼器300的經編碼視訊資料。在一些實例中，可分配記憶體106、120之部分作為一或多個視訊緩衝器，以例如儲存原始、經解碼及/或經編碼視訊資料。
電腦可讀媒體110可表示能夠將經編碼視訊資料自源裝置102傳送至目的地裝置116的任何類型之媒體或裝置。在一個實例中，電腦可讀媒體110表示用以使源裝置102能即時例如經由射頻網路或基於電腦之網路直接傳輸經編碼視訊資料至目的地裝置116的通信媒體。輸出介面108可調變包括經編碼視訊資料之傳輸信號，且輸入介面122可根據通信標準(諸如無線通信協定)將所接收傳輸信號解調。通信媒體可包含任何無線或有線通信媒體，諸如射頻(RF)頻譜或一或多個實體傳輸線。通信媒體可形成基於封包之網路(諸如，區域網路、廣域網路或諸如網際網路之全域網路)之部分。通信媒體可包括路由器、交換器、基地台或可用於促進自源裝置102至目的地裝置116的通信之任何其他裝備。
在一些實例中，電腦可讀媒體110可包括儲存裝置112。源裝置102可自輸出介面108輸出經編碼資料至儲存裝置112。類似地，目的地裝置116可經由輸入介面122自儲存裝置112存取經編碼資料。儲存裝置112可包括各種分佈式或本端存取之資料儲存媒體中之任一者，諸如硬碟機、藍光光碟、DVD、CD-ROM、快閃記憶體、揮發性或非揮發性記憶體或用於儲存經編碼視訊資料之任何其他合適的數位儲存媒體。
在一些實例中，電腦可讀媒體110可包括檔案伺服器114或可儲存由源裝置102產生之經編碼視訊資料之另一中間儲存裝置。源裝置102可將經編碼視訊資料輸出至檔案伺服器114或另一中間儲存裝置，其可儲存由源裝置102產生之經編碼視訊。目的地裝置116可經由串流傳輸或下載而自檔案伺服器114存取所儲存之視訊資料。檔案伺服器114可為能夠儲存經編碼視訊資料並將彼經編碼視訊資料傳輸至目的地裝置116的任何類型之伺服器裝置。檔案伺服器114可表示網頁伺服器(例如用於網站)、檔案傳送協定(FTP)伺服器、內容遞送網路裝置，或網路附接儲存(NAS)裝置。目的地裝置116可通過包括網際網路連接之任何標準資料連接自檔案伺服器114存取經編碼視訊資料。此可包括無線通道(例如，Wi-Fi連接)、有線連接(例如，數位用戶線(DSL)、電纜數據機等)，或適合於存取儲存於檔案伺服器114上之經編碼視訊資料的兩者之一組合。檔案伺服器114及輸入介面122可經組態以根據串流傳輸協定、下載傳輸協定或其組合操作。
輸出介面108及輸入介面122可表示無線傳輸器/接收器、數據機、有線網路連接組件(例如乙太網路卡)、根據各種IEEE 802.11標準中之任一者而操作之無線通信組件，或其他實體組件。在輸出介面108及輸入介面122包含無線組件之實例中，輸出介面108及輸入介面122可經組態以根據蜂巢式通信標準(諸如4G、4G-LTE(長期演進)、LTE進階、5G或其類似者)來傳遞資料，諸如經編碼視訊資料。在輸出介面108包含無線傳輸器的一些實例中，輸出介面108及輸入介面122可經組態以根據諸如IEEE 802.11規範、IEEE 802.15規範(例如，ZigBee™)、Bluetooth™標準或其類似者的其他無線標準傳送資料(諸如經編碼視訊資料)。在一些實例中，源裝置102及/或目的地裝置116可包括各別晶片上系統(SoC)裝置。舉例而言，源裝置102可包括SoC裝置以執行歸於視訊編碼器200及/或輸出介面108之功能性，且目的地裝置116可包括SoC裝置以執行歸於視訊解碼器300及/或輸入介面122之功能性。
本發明之技術可應用於支援多種多媒體應用中之任一者的視訊寫碼，諸如，空中電視廣播、有線電視傳輸、衛星電視傳輸、網際網路串流視訊傳輸(諸如，經由HTTP之動態自適應串流(DASH))、經編碼至資料儲存媒體上之數位視訊、儲存於資料儲存媒體上的數位視訊之解碼或其他應用。
目的地裝置116之輸入介面122接收自電腦可讀媒體110 (例如，通信媒體、儲存裝置112、檔案伺服器114或類似者)之經編碼視訊位元串流。經編碼視訊位元串流可包括由視訊編碼器200定義之信令傳輸資訊(其亦由視訊解碼器300使用)，諸如具有描述視訊區塊或其他經寫碼單元(例如，圖塊、圖像、圖像群組、序列或其類似者)之特性及/或處理的值的語法元素。顯示裝置118向使用者顯示經解碼視訊資料之經解碼圖像。顯示裝置118可表示各種顯示裝置中之任一者，諸如陰極射線管(CRT)、液晶顯示器(LCD)、電漿顯示器、有機發光二極體(OLED)顯示器或另一類型之顯示裝置。
儘管圖1中未示出，但在一些實例中，視訊編碼器200及視訊解碼器300可各自與音訊編碼器及/或音訊解碼器整合，且可包括適合的MUX-DEMUX單元或其他硬體及/或軟體，以處置在共同資料串流中包括音訊及視訊兩者之多工串流。若適用，則MUX-DEMUX單元可遵照ITU H.223多工器協定或諸如使用者資料報協定(UDP)之其他協定。
視訊編碼器200及視訊解碼器300各自可被實施為各種合適編碼器及/或解碼器電路系統中之任一者，諸如一或多個微處理器、數位信號處理器(DSP)、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)、離散邏輯、軟體、硬體、韌體或其任何組合。當該等技術部分以軟體實施時，裝置可將用於軟體之指令儲存於合適之非暫時性電腦可讀媒體中，且在硬體中使用一或多個處理器執行指令以執行本發明之技術。視訊編碼器200及視訊解碼器300中之每一者可包括於一或多個編碼器或解碼器中，編碼器或解碼器中之任一者可整合為各別裝置中之組合式編碼器/解碼器(編碼解碼器)的部分。包括視訊編碼器200及/或視訊解碼器300之裝置可包含積體電路、微處理器及/或無線通信裝置(諸如蜂巢式電話)。
視訊編碼器200及視訊解碼器300可根據視訊寫碼標準操作，諸如ITU-T H.265，亦稱作高效視訊寫碼(HEVC)或其擴展，諸如多視圖及/或可調式視訊寫碼擴展。替代地，視訊編碼器200及視訊解碼器300可根據其他專有或行業標準操作，諸如聯合勘探測試模型(JEM)或ITU-T H.266，其亦經稱作多功能視訊寫碼(VVC)。VVC標準之最新草案描述於2019年3月19日至27日於CH日內瓦的ITU-T SG 16 WP 3及ISO/IEC JTC 1/SC 29/WG 11之聯合視訊專家小組(JVET)第14次會議JVET-N1001-v8上，Bross等人的「Versatile Video Coding(草案5)」中(在下文中「VVC草案5」)。然而，本發明之技藝不限於任何特定寫碼標準。
大體而言，視訊編碼器200及視訊解碼器300可執行圖像之基於區塊的寫碼。術語「區塊」一般係指包括待處理(例如編碼、解碼或以其他方式在編碼及/或解碼程序中使用)之資料的結構。舉例而言，區塊可包括明度及/或色度資料之樣本之二維矩陣。大體而言，視訊編碼器200及視訊解碼器300可寫碼以YUV (例如Y、Cb、Cr)格式表示之視訊資料。亦即，視訊編碼器200及視訊解碼器300可寫碼明度及色度分量，而非寫碼圖像之樣本的紅色、綠色及藍色(RGB)資料，其中色度分量可包括紅色調及藍色調色度分量兩者。在一些實例中，視訊編碼器200在編碼之前將所接收的RGB格式化資料轉換為YUV表示，且視訊解碼器300將YUV表示轉換為RGB格式。替代地，預處理單元及後處理單元(圖中未示)可執行此等轉換。
本發明大體上可指對圖像進行寫碼(例如編碼及解碼)以包括編碼或解碼圖像之資料的程序。類似地，本發明可指對圖像之區塊進行寫碼以包括對區塊之資料進行編碼或解碼的處理(例如，預測及/或殘餘寫碼)。經編碼視訊位元串流一般包括表示寫碼決策(例如寫碼模式)及圖像至區塊之分區的語法元素的一系列值。因此，對寫碼圖像或區塊之提及一般應理解為寫碼形成圖像或區塊之語法元素的值。
HEVC定義各種區塊，包括寫碼單元(CU)、預測單元(PU)，以及變換單元(TU)。根據HEVC，視訊寫碼器(諸如視訊編碼器200)根據四分樹結構將寫碼樹單元(CTU)分割成CU。亦即，視訊寫碼器將CTU及CU分割成四個相同的非重疊正方形，且四分樹之每一節點具有零個或四個子節點。不具有子節點之節點可被稱作「葉節點」，且此類葉節點之CU可包括一或多個PU及/或一或多個TU。視訊寫碼器可進一步分割PU及TU。舉例而言，在HEVC中，殘餘四分樹(RQT)表示TU之分割。在HEVC中，PU表示框間預測資料，而TU表示殘餘資料。在VVC中，首字母縮寫PU指「圖像單元」。經框內預測之CU包括框內預測資訊，諸如框內模式指示。
作為另一實例，視訊編碼器200及視訊解碼器300可經組態以根據JEM或VVC操作。根據JEM或VVC，視訊寫碼器(諸如視訊編碼器200)將圖像分割成複數個寫碼樹單元(CTU)。視訊編碼器200可根據樹型結構分割CTU，諸如四分樹二元樹(QTBT)結構或多類型樹(MTT)結構。QTBT結構移除多個分割類型之概念，諸如HEVC之CU、PU及TU之間的間距。QTBT結構包括兩個層級：根據四分樹分割進行分割之第一層級，及根據二元樹分割進行分割之第二層級。QTBT結構之根節點對應於CTU。二元樹之葉節點對應於寫碼單元(CU)。
在MTT分割結構中，區塊可使用四分樹(QT)分割、二元樹(BT)分割及一或多種類型之三重樹(TT)分割來進行分割。三重樹分割為區塊***成三個子區塊的分割。在一些實例中，三重樹分割在不經由中心分隔原始區塊情況下將區塊分成三個子區塊。MTT中之分割類型(例如QT、BT及TT)可為對稱或不對稱的。
在一些實例中，視訊編碼器200及視訊解碼器300可使用單個QTBT或MTT結構來表示明度及色度分量中之每一者，而在其他實例中，視訊編碼器200及視訊解碼器300可使用兩個或更多個QTBT或MTT結構，諸如用於明度分量之一個QTBT/MTT結構及用於兩個色度分量之另一QTBT/MTT結構(或用於各別色度分量之兩個QTBT/MTT結構)。
視訊編碼器200及視訊解碼器300可經組態以使用根據HEVC之四分樹分割、QTBT分割、MTT分割或其他分割結構。出於解釋之目的，關於QTBT分割呈現本發明之技術的描述。然而，應理解，本發明之技術亦可應用於經組態以使用四分樹分割亦或其他類型之分割的視訊寫碼器。
本發明可能可互換地使用「N×N」及「N乘N」來指區塊(諸如CU或其他視訊區塊)在豎直及水平尺寸方面之樣本尺寸，例如16×16樣本或16乘16樣本。大體而言，16×16 CU在豎直方向上將具有16個樣本(y = 16)且在水平方向上將具有16個樣本(x = 16)。同樣，N×N CU通常在豎直方向上具有N個樣本且在水平方向上具有N個樣本，其中N表示非負整數值。可以列及行形式來配置CU中之樣本。此外，CU不一定在水平方向上及豎直方向上具有相同數目個樣本。舉例而言，CU可包含N×M個樣本，其中M未必等於N。
視訊編碼器200編碼CU之表示預測及/或殘餘資訊及其他資訊的視訊資料。預測資訊指示將如何預測CU以便形成CU之預測區塊。殘餘資訊通常表示在編碼之前CU與預測區塊的樣本之間的逐樣本差。
為了預測CU，視訊編碼器200可大體經由框間預測或框內預測形成CU之預測區塊。框間預測大體係指自先前經寫碼圖像之資料預測CU，而框內預測大體係指自同一圖像之先前經寫碼資料預測CU。為了執行框間預測，視訊編碼器200可使用一或多個運動向量來產生預測區塊。視訊編碼器200可一般執行運動搜尋以識別緊密匹配CU的參考區塊(例如，在CU與參考區塊之間的差方面)。視訊編碼器200可使用絕對差總和(SAD)、平方差總和(SSD)、平均絕對差(MAD)、均方差(MSD)或其他此類差計算來計算差度量，以判定參考區塊是否緊密匹配當前CU。在一些實例中，視訊編碼器200可使用單向預測或雙向預測來預測當前CU。
JEM及VVC之一些實例亦提供仿射運動補償模式，其可經認為框間預測模式。在仿射運動補償模式中，視訊編碼器200可判定表示非平移運動(諸如放大或縮小、旋轉、透視運動或其他不規則運動類型)之兩個或大於兩個運動向量。
為執行框內預測，視訊編碼器200可選擇框內預測模式以產生預測區塊。JEM及VVC之一些實例提供六十七種框內預測模式，包括各種方向模式以及平面模式及DC模式。一般而言，視訊編碼器200選擇描述當前區塊(例如，CU之區塊)的相鄰樣本的框內預測模式，其中自該當前區塊預測當前區塊之樣本。假定視訊編碼器200以光柵掃描次序(左至右、上至下)寫碼CTU及CU，此類樣本通常可在與當前區塊相同之圖像中處於當前區塊之上方、左上方或左側。
視訊編碼器200編碼表示當前區塊之預測模式的資料。舉例而言，針對框間預測模式，視訊編碼器200可對表示使用多種可用框間預測模式中之哪一者以及對應模式之運動資訊的資料進行編碼。舉例而言，針對單向或雙向框間預測，視訊編碼器200可使用進階運動向量預測(AMVP)或合併模式來對運動向量進行編碼。視訊編碼器200可使用類似模式來對仿射運動補償模式之運動向量進行編碼。
在區塊之預測(諸如框內預測或框間預測)之後，視訊編碼器200可計算用於該區塊之殘餘資料。殘餘資料(諸如殘餘區塊)表示區塊與該區塊的使用對應預測模式所形成之預測區塊之間的逐樣本差。視訊編碼器200可將一或多個變換應用於殘餘區塊，以在變換域而非樣本域中產生經變換資料。舉例而言，視訊編碼器200可將離散餘弦變換(DCT)、整數變換、小波變換或概念上類似的變換應用於殘餘視訊資料。另外，視訊編碼器200可在一級變換之後應用二級變換，諸如模式依賴不可分離二級變換(MDNSST)、信號依賴變換、Karhunen-Loeve變換(KLT)或其類似者。視訊編碼器200在應用一或多個變換之後產生變換係數。
如上文所指出，在產生變換係數之任何變換之後，視訊編碼器200可執行變換係數之量化。量化大體上係指將變換係數量化以可能地減少用以表示變換係數之資料之量從而提供進一步壓縮的程序。藉由執行量化程序，視訊編碼器200可減少與變換係數中之一些或所有相關之位元深度。舉例而言，視訊編碼器200可在量化期間將n位元值捨入至m位元值，其中n大於m。在一些實例中，為了進行量化，視訊編碼器200可進行待量化值之按位元右移位。
在量化之後，視訊編碼器200可掃描變換係數，從而自包括經量化變換係數之二維矩陣產生一維向量。掃描可經設計以將較高能量(且因此較低頻率)變換係數置於向量前部，且將較低能量(且因此較高頻率)變換係數置於向量後部。在一些實例中，視訊編碼器200可利用預定義掃描次序來掃描經量化變換係數以產生串列化向量，且隨後熵編碼向量之經量化變換係數。在其他實例中，視訊編碼器200可執行適應性掃描。在掃描經量化變換係數以形成一維向量之後，視訊編碼器200可例如根據上下文適應性二進位算術寫碼(CABAC)對一維向量進行熵編碼。視訊編碼器200亦可熵編碼描述與經編碼視訊資料相關聯之後設資料之語法元素的值，以供由視訊解碼器300用於解碼視訊資料。
為執行CABAC，視訊編碼器200可將上下文模型內之上下文指派給待傳輸之符號。該上下文可能涉及例如符號之鄰近值是否為零值。機率判定可基於指派給符號之上下文。
視訊編碼器200可進一步例如在圖像標頭、區塊標頭、圖塊標頭或其他語法資料(諸如序列參數集(SPS)、圖像參數集(PPS)或視訊參數集(VPS))中向視訊解碼器300產生語法資料(諸如基於區塊之語法資料、基於圖像之語法資料以及基於序列之語法資料)。視訊解碼器300可類似地解碼此語法資料以判定如何解碼對應視訊資料。
以此方式，視訊編碼器200可產生包括經編碼視訊資料(例如，描述圖像至區塊(例如，CU)之分割的語法元素及用於區塊之預測及/或殘餘資訊)之位元串流。最後，視訊解碼器300可接收位元串流並解碼經編碼視訊資料。
一般而言，視訊解碼器300執行與視訊編碼器200所執行之程序互逆的程序，以解碼位元串流之經編碼視訊資料。舉例而言，視訊解碼器300可使用CABAC以與視訊編碼器200之CABAC編碼程序實質上類似但互逆的方式解碼位元串流之語法元素的值。語法元素可定義用於將圖像分割成CTU之分割資訊，及每一CTU根據對應分割結構(諸如QTBT結構)之分割，以定義CTU之CU。語法元素可進一步定義視訊資料之區塊(例如，CU)的預測及殘餘資訊。
殘餘資訊可由例如經量化變換係數表示。視訊解碼器300可反量化及反變換區塊之經量化變換係數，以再生區塊之殘餘區塊。視訊解碼器300使用經信令傳輸預測模式(框內或框間預測)及相關預測資訊(例如，用於框間預測之運動資訊)，以形成用於該區塊之預測區塊。視訊解碼器300可接著(在逐樣本基礎上)使經預測區塊與殘餘區塊組合以再生初始區塊。視訊解碼器300可執行額外處理，諸如執行解區塊程序以減少沿區塊邊界之視覺假影。
根據本發明之技術，視訊編碼器200可產生用於視訊資料之當前區塊的殘餘資料。視訊編碼器200亦可將變換應用於殘餘資料以產生當前區塊之第一變換係數。視訊編碼器200亦可判定按規範定義之零係數的調零圖案。另外，視訊編碼器200可判定當前區塊之第二變換係數。當前區塊包括LFNST區，且為了判定當前區塊之第二變換係數，視訊編碼器200可應用LFNST以判定當前區塊之LFNST區中的一或多個第二變換係數之值。此外，作為判定當前區塊之第二變換係數之部分，視訊編碼器200可判定在由調零圖案界定的區塊之區中當前區塊之第二變換係數等於0。視訊編碼器200亦可判定LFNST語法元素，諸如LFNST索引或LFNST旗標。LFNST語法元素指定LFNST。換言之，視訊解碼器300可基於LFNST語法元素判定LFNST。舉例而言，視訊解碼器300可基於LFNST語法元素組合當前區塊之模式(例如，框內預測模式)及當前區塊之大小而判定LFNST。視訊編碼器200可例如在TU層級信令傳輸該LFNST語法元素。
此外，根據本發明之技術，視訊解碼器300可基於當前區塊之區塊大小及LFNST語法元素判定按規範定義之零係數的調零圖案。視訊解碼器300可判定當前區塊之變換係數。當前區塊之變換係數包括當前區塊之LFNST區中的變換係數及當前區塊之LFNST區之外的變換係數。在此實例中，作為判定當前區塊之變換係數之部分，視訊解碼器300可應用反LFNST以判定當前區塊之LFNST區中的一或多個變換係數之值。另外，視訊解碼器300可判定在由調零圖案界定的當前區塊之區中當前區塊之變換係數等於0。視訊解碼器300可將反變換應用於當前區塊之變換係數以判定當前區塊之殘餘資料。視訊解碼器300可基於當前區塊之殘餘資料重建構當前區塊。
本揭示通常可指「信令傳輸」某些資訊，諸如語法元素。術語「信令傳輸」大體上可指用於解碼經編碼視訊資料之語法元素及/或其他資料的值之傳達。亦即，視訊編碼器200可在位元串流中信令傳輸語法元素的值。一般而言，信令傳輸指在位元串流中產生值。如上文所提及，源裝置102可實質上即時將位元串流傳送至目的地裝置116，或非即時傳送，諸如可在將語法元素儲存至儲存裝置112以供目的地裝置116稍後擷取時發生。
圖2A及圖2B為說明實例四分樹二元樹(QTBT)結構130及對應寫碼樹單元(CTU) 132之概念圖。實線表示四分樹***，且點線指示二元樹***。在二元樹之每一***(亦即，非葉)節點中，一個旗標經信令傳輸以指示使用哪一***類型(亦即，水平或豎直)，其中在此實例中，0指示水平***且1指示豎直***。對於四分樹***，不存在對於指示***類型之需要，此係由於四分樹節點將區塊水平地及垂直地***成具有相等大小之4個子區塊。因此，視訊編碼器200可編碼，且視訊解碼器300可解碼用於QTBT結構130之區樹層級(亦即，第一層級)(亦即實線)的語法元素(諸如***資訊)及用於QTBT結構130之預測樹層級(亦即，第二層級)(亦即虛線)的語法元素(諸如***資訊)。視訊編碼器200可編碼，且視訊解碼器300可解碼用於由QTBT結構130之端葉節點表示之CU的視訊資料(諸如預測及變換資料)。
一般而言，圖2B之CTU 132可與定義對應於在第一層級及第二層級處的QTBT結構130之節點的區塊之大小的參數相關聯。此等參數可包括CTU大小(表示樣本中之CTU 132之大小)、最小四分樹大小(MinQTSize，表示最小允許四分樹葉節點大小)、最大二元樹大小(MaxBTSize，表示最大允許二元樹根節點大小)、最大二元樹深度(MaxBTDepth，表示最大允許二元樹深度)，及最小二元樹大小(MinBTSize，表示最小允許二元樹葉節點大小)。
QTBT結構中對應於CTU之根節點可具有在QTBT結構之第一層級處的四個子節點，該等節點中之每一者可根據四分樹分割來進行分割。亦即，第一層級之節點為葉節點(不具有子節點)或具有四個子節點。QTBT結構130之實例表示諸如包括具有用於分枝之實線之父節點及子節點的節點。若第一層級之節點不大於最大允許二元樹根節點大小(MaxBTSize)，則該等節點可由各別二元樹進一步分割。一個節點之二元樹***可迭代，直至由***產生之節點達到最小允許二元樹葉節點大小(MinBTSize)或最大允許二元樹深度(MaxBTDepth)為止。QTBT結構130之實例表示諸如具有用於分枝之虛線的節點。二元樹葉節點被稱作寫碼單元(CU)，其用於在無更進一步分割的情況下的預測(例如，圖像內或圖像間預測)及變換。如上文所論述，CU亦可稱為「視訊區塊」或「區塊」。
在QTBT分割結構之一個實例中，CTU大小經設定為128×128 明度樣本及兩個對應64×64色度樣本)，MinQTSize經設定為16×16，MaxBTSize經設定為64×64，MinBTSize (對於寬度及高度兩者)經設定為4，且MaxBTDepth經設定為4。四分樹分割首先應用於CTU以產生四分樹葉節點。四分樹葉節點可具有16×16 (亦即，MinQTSize)至128×128 (亦即，CTU大小)之大小。若四分樹葉節點為128×128，則該四分樹葉節點將不會由二元樹進一步***，此係由於大小超過MaxBTSize (亦即，在此實例中，64×64)。否則，四分樹葉節點將由二元樹進一步分割。因此，四分樹葉節點亦為二元樹之根節點並具有為0之二元樹深度。當二元樹深度達至MaxBTDepth (在此實例中為4)時，不准許進一步***。當二元樹節點具有等於MinBTSize (在此實例中為4)之寬度時，其意指不准許進一步豎直***。類似地，二元樹節點具有等於MinBTSize之高度意指對於彼二元樹節點不准許進一步水平***。如上文所提及，二元樹之葉節點被稱作CU，且根據預測及變換來進一步處理而不進一步分割。
如上所述，視訊編碼器200可將變換應用於殘餘資料之區塊以產生變換係數區塊。同樣，視訊解碼器300可應用反變換以將變換係數區塊轉換成殘餘資料之區塊。在HEVC之前的視訊寫碼標準中，僅使用固定可分離變換，其中既豎直且亦水平地使用DCT-2。在HEVC中，除DCT-2之外，亦針對4×4區塊使用DST-7作為固定可分離變換。
美國專利第10,306,229號、美國專利公開案第2018/0020218號及美國專利公開案2019/0373261 (2019年5月30日申請之美國專利申請案16/426,749)描述多重變換選擇(MTS)方法。美國專利公開案2019/0373261中的MTS之實例被採用於聯合視訊專家小組(JVET)之聯合實驗模型(JEM-7.0)中，且稍後MTS之簡化版本被採用於VVC中。MTS先前被稱作適應性多重變換(AMT)，其僅僅為名稱變化，且技術係相同的。
圖3A及圖3B中所說明之低頻非可分離變換(LFNST)用於JEM-7.0中以進一步改良MTS之寫碼效率，其中LFNST之實施係基於超立方體吉文斯變換(HyGT)，其描述於美國專利公開案第2017/0238013號中。亦參見 美國專利公開案第2017/0094313號、第2017/0238014號、美國專利申請案16/364,007及美國臨時專利申請案62/668,105及62/849,689 (描述替代性設計及其他細節。
詳言之，圖3A為視訊編碼器200處的LFNST之圖示。在圖3A之實例中，視訊編碼器200可首先將可分離變換134 (例如，DCT或DST)應用於當前區塊之一組殘餘資料以產生當前區塊之第一組變換係數。當前區塊之第一組變換係數可為當前區塊之MTS變換係數。視訊編碼器200可接著將LFNST 135應用於第一組變換係數以產生當前區塊之第二組變換係數。在產生當前區塊之第二組變換係數之後，視訊編碼器200可量化136第二組變換係數中之變換係數。
圖3B為視訊解碼器300處的反LFNST之圖示。在圖3B之實例中，視訊解碼器300可首先將反量化137應用於當前區塊之第二組變換係數。視訊解碼器300可接著將反LFNST 138應用於當前區塊之經反量化第二組變換係數，以產生當前區塊之第一組變換係數。視訊解碼器300可接著將反變換139 (例如，反DCT或反DST)應用於當前區塊之第一組變換係數以產生當前區塊之殘餘資料。
LFNST已被採用於VVC標準中。參見例如 ITU-T SG 16 WP 3及ISO/IEC JTC 1/SC 29/WG 11之聯合視訊專家小組(JVET)在2019年3月19日-27日於CH日內瓦舉行的第14次會議上Koo等人的「CE6: Reduced Secondary Transform (RST) (CE6-3.1)」，文檔JVET-N0193。LFNST先前被稱作非可分離二次變換(NSST)或二次變換，其中所有此等具有相同意義。
在VVC草案5之LFNST設計中，視訊編碼器(例如，視訊編碼器200)可執行調零操作，該調零操作保持藉由大小為N (例如，對於8×8 LFNST，N =64)之LFNST變換的K 個最低頻率變換係數，且視訊解碼器(例如，視訊解碼器300)可藉由僅僅使用彼等K 個變換係數來重建構分離變換係數(例如，MTS變換係數)。在VVC草案5中，此調零程序係根據區塊大小使用4×4非可分離LFNST (N =16 )或8×8非可分離LFNST (N =64 )任一者來完成。舉例而言，4×4 LFNST可應用於具有較小尺寸之區塊(例如，min(寬度，高度)＜8)，而8×8 LFNST應用於較大區塊。在此組態中，視訊解碼器隱式地推斷(例如，假定)剩餘N -K 個較高頻率變換係數被設定為零，且K 個LFNST變換係數用於重建構。
圖4為說明在將大小為N 之LFNST應用於h×w子區塊140之後運用調零獲得的實例變換係數之概念圖，其中N 中之Z 個變換係數調零，且K 個變換係數保留。圖4之實例中展示的h×w子區塊140為區塊142之LFNST區，其可大於h×w。圖4說明除可分離變換係數之子集(例如，虛線h×w子區塊140內的MTS變換係數)之外的在應用LFNST之後運用調零獲得的變換係數。如美國專利公開案第2017/0094313號及美國臨時專利申請案62/799,410中所論述，LFNST係藉由首先經由預定義掃描次序將2-D h×w子區塊140 (包括圖4中之深色陰影區域)轉換成變換係數之1維清單144 (或向量)，且接著將變換應用於變換係數之子集146來執行。變換可為任意或預先訓練之變換。
圖5為藉由應用LFNST而不運用調零獲得的LFNST變換係數之概念說明。亦即，圖5展示在無任何調零的情況下獲得的可分離變換(例如，MTS)及LFNST變換係數之實例。具體而言，在圖5之實例中，區塊150具有H×W之大小。區塊150之LFNST區152具有h×w之大小。在圖5之實例中，LFNST區152中的LFNST變換係數被掃描成包括w×h個變換係數之1維向量154。
圖6及圖7說明在美國臨時專利申請案62/799,410及美國專利申請案15/931,271中所描述的LFNST之變體，其將調零應用於LFNST區之外的變換係數(例如，陰影區塊之外的MTS變換係數)。更特定言之，圖6為藉由應用LFNST且調零LFNST區162中之Z個最高頻率變換係數160及LFNST區162之外的MTS變換係數164兩者而獲得的LFNST變換係數之圖示。因此，在圖6之實例中，視訊編碼器200可將LFNST變換係數掃描成1維向量166 (包括將最高頻率變換係數160調零)。因此，向量166包括總計N 個LFNST變換係數，包括K 個非經調零LFNST變換係數及Z 個經調零變換係數。
圖7為藉由應用LFNST且僅僅調零LFNST區之外的MTS變換係數170的LFNST變換係數之圖示。圖7類似於圖6，除了MTS係數係按規範調零。因此，向量172包括僅僅w×h個變換係數，其中w為LFNST區174之寬度且h為LFNST區174之高度。
美國專利申請案15/931,271之目標為基於自變換係數寫碼獲得之旁側資訊減小LFNST索引/旗標之信令傳輸額外負荷。LFNST索引(或LFNST旗標)指示是否應用LFNST及若應用LFNST則應用哪個LFNST變換。在VVC草案5中，LFNST由3種模式構成，該等模式使用LFNST索引值0、1及2信令傳輸，其中： ●         LFNST索引0對應於跳過LFNST程序(例如，僅僅使用MTS)， ●         LFNST索引1及2用以自取決於區塊(亦即，CU/TU)之模式(例如，框內預測模式)及大小而選擇的兩個變換之一集合中判定非可分離變換。非可分離變換亦可被稱為核心。 舉例而言，如VVC草案5之§8.7.4.1中所描述，當LFNST索引等於1或2時，視訊寫碼器可基於TU之大小判定變換輸出大小(例如，nLfnstOutSize = ( nTbW ＞= 8  &&  nTbH  ＞= 8 )  ?  48  :  16)，且如VVC草案5之§8.7.4.3中所描述，視訊寫碼器可基於區塊(例如，CU)之框內預測模式判定LFNST變換集合索引。此外，如VVC草案5之§8.8.7.4.3中所描述，視訊寫碼器可在應用LFNST時在指定待應用之係數的兩種不同表之間選擇。 在美國專利申請案15/931,271中，使用經調零變換係數圖案推斷LFNST索引。換言之，美國專利申請案15/931,271描述避免LFNST索引之信令傳輸的技術。在除VVC草案5之外的實例中，可能存在比3個模式更多或更少個模式。
本發明描述可基於LFNST索引/旗標資訊減小變換係數寫碼之信令傳輸額外負荷的技術。舉例而言，在變換係數寫碼中，LFNST索引/旗標可被用作旁側資訊。減小變換係數寫碼之信令傳輸額外負荷會產生更高寫碼效率。本發明之以下信令傳輸技術可個別地使用或以任何組合形式使用。
在LFNST在預定義條件集合(例如，區塊大小、區塊形狀及及/或變換相關之語法，諸如MTS索引/旗標))下應用規範性調零(亦即，當調零應用於視訊編碼器200及視訊解碼器300兩者處時)，視訊編碼器200及視訊解碼器300兩者使用區塊大小及LFNST索引/旗標資訊判定按規範定義之零變換係數的圖案。術語「LFNST索引/旗標」可用以指代可用以至少部分指示應用何種類型之LFNST的LFNST語法元素，諸如索引或旗標。基於已知或經推斷之調零圖案，最後變換係數位置(亦即，最後有效變換係數位置)可經限定(或推斷為經定界)使得： i)         最後變換係數位置之信令傳輸基於LFNST索引/旗標減小， ii)       經寫碼/非經寫碼係數群組(CG)之數目可基於LFNST索引/旗標進行推斷，及 iii)      使用變換係數方位的編碼器/解碼器操作(及優化)可基於LFNST索引/旗標而減小或簡化。
最後變換係數位置之信令傳輸可減少，此係因為若應用LFNST，則由於調零區之外的所有變換係數強制為0，因此最後變換係數位置經保證位於預定義LFNST調零區內。藉由在LFNST之後移動最後變換係數位置之信令傳輸，視訊解碼器300可在解碼信令傳輸最後變換係數位置之語法元素之前判定調零區。因此，根據本發明之一或多種技術，若使用LFNST，則可能不需要信令傳輸最後變換係數位置(例如，視訊解碼器300可將最後變換係數位置推斷為預定義調零區中的最後元件方位)。
如上所述，使用變換係數方位的編碼器及/或解碼器操作(及優化)可基於LFNST索引/旗標而減小或簡化。目前，視訊編碼器200依賴於估計最後變換係數位置以做出關於熵寫碼之決策。視訊解碼器300亦必須等待最後變換係數位置被解碼以便執行進一步操作。然而，根據本發明之一或多種技術，藉由基於LFNST調零調節最後變換係數位置，所有彼等決策因為視訊編碼器200及視訊解碼器300無需等待最後變換係數位置之信令傳輸而更簡單。
對於預定義調零圖案，最後變換係數位置/方位(例如，水平/豎直位置X/Y)可按規範限定於區塊中(例如，CU/TU/CG中)變換係數可為非零(亦即，其中變換係數未按規範調零)的位置或方位或由該位置或方位定界。為自VVC草案5提供特定實例： i)         對於4×4 LFNST，變換係數可限定(及推斷)為駐留於區塊之左上方4×4區中(總共16個變換係數)。 ii)       對於8×8 LFNST，變換係數可限定(且推斷)為駐留於區塊之左上方8×8區中，不包括底部4×4區(總共48個變換係數)。或者，在某些實例中，變換係數可限定為駐留於區塊之左上方4×4區中(總共16個變換係數)。 iii)      對於4×N或N×4區塊，其中N≥16，4×4 LFNST應用於兩個鄰近左上方4×4區塊各者，且最後變換係數位置可因此限定(及推斷)。
若應用LFNST (亦即，當LFNST索引/旗標非零時)，調零圖案可基於區塊大小資訊而判定。舉例而言，LFNST具有若干邊緣狀況。舉例而言，若區塊大小為8×8，則至多8個變換係數保留於包括出自總共64個係數中之48變換係數的預定義調零區中。藉由得知區塊大小為8×8，視訊編碼器200及視訊解碼器300可判定調零圖案(例如，藉由使用自區塊大小至調零圖案之預定義映射)。
在將調零應用於LFNST區之外的所有變換係數的LFNST之變體中，如圖6及圖7中所展示且美國臨時專利申請案62/799,410及美國專利申請案15/931,271中所描述，最後變換係數位置可限定於其中超出預定方位的變換係數已知為按規範調零的預定方位。若應用LFNST，則最後變換係數位置經保證位於預定義LFNST調零區內。此係因為調零區之外的所有變換係數強制為0。在此情況下，儘管實際最後變換係數位置可位於調零區外部，但信令傳輸指定最後變換係數位置之資訊可能沒有用，此係因為最後變換係數位置處的變換係數將稍後在處理中調零。將最後變換係數位置限定於其中超出預定方位的變換係數已知進行按規範調零的預定方位意謂：若使用LFNST且最後位置位於調零區外部，則並不信令傳輸指定最後變換係數位置之語法元素，而是可將最後變換係數位置推斷為預定義調零區之最後元件。
因為最後變換係數限定於預定方位，所以可能無需信令傳輸最後變換係數位置。另外，因為最後變換係數限定於預定方位，所以在預定方位之後出現的任何CG可推斷為未經寫碼CG。因此，可能無需信令傳輸在預定方位之後出現的CG是否為經寫碼CG。
根據本發明之一些技術，LFNST索引/旗標之信令傳輸可運用MTS信令傳輸進行統一。在VVC草案5中，LFNST信令傳輸在CU層級執行。舉例而言，在VVC草案5中，LFNST索引/旗標(例如，lfnst_idx)包括於coding_unit語法結構中。本發明提議在變換係數寫碼之前信令傳輸LFNST索引/旗標。因為LFNST索引/旗標在變換係數寫碼之前信令傳輸，所以LFNST索引/旗標之信令傳輸可在TU層級進行。換言之，LFNST索引/旗標可在transform_unit語法結構中信令傳輸。在其他實例中，LFNST索引/旗標可在CU層級被信令傳輸。換言之，LFNST索引/旗標可在coding_unit語法結構中信令傳輸。
因為本發明之一些技術允許視訊編碼器200在變換係數寫碼之前信令傳輸LFNST資訊，所以在替代性設計中，LFNST索引/旗標之信令傳輸可與現有變換信令傳輸結合(例如，在VVC草案5中在變換係數寫碼之前進行的MTS信令傳輸)。因此，MTS信令傳輸及LFNST信令傳輸可統一/調和。此等統一/調和之實例論述於美國專利申請案16/426,749及美國臨時專利申請案62/830,125中。舉例而言，LFNST自初級變換單獨進行信令傳輸(MTS)。此係因為LFNST在CU層級被信令傳輸，且MTS在TU層級被信令傳輸。有可能將MTS及LFNST捆綁在一起，使得LFNST為MTS之另一模式。
本發明亦描述用於針對經分割區塊(諸如經分割CU)信令傳輸LFNST索引/旗標之技術。舉例而言，在一些實例中，若區塊(例如，CU)***成多個子區塊(例如，TU)，則可針對每一子區塊(例如，TU)單獨地信令傳輸一LFNST索引。舉例而言，針對CU之每一TU可能存在一單獨的LFNST索引。
在其他實例中，可針對子區塊(例如，TU)之子集信令傳輸LFNST索引。舉例而言，在一個實例中，可僅僅針對得以啟用經寫碼區塊旗標(CBF)(亦即，當CBF旗標為真時)的子區塊(例如，TU)信令傳輸一LFNST索引。
在一些實例中，可(例如，由視訊編碼器200)基於以臨限值為基礎之準則或以計數為基礎之準則，使用單獨TU上的TU層級參數信令傳輸LFNST旗標/索引。舉例而言，在視訊編碼器200基於以臨限值為基礎之準則使用單獨TU上的TU層級參數信令傳輸LFNST旗標/索引的一些實例中，臨限值可固定至恆定值(例如，2)，且若最後變換係數位置小於此臨限值，則可(例如，由視訊解碼器300)針對明度及/或色度信令傳輸LFNST索引/旗標。
在視訊編碼器200基於以臨限值為基礎之準則使用單獨TU上的TU層級參數信令傳輸LFNST旗標/索引的一些實例中，可針對VVC草案5中之雙樹停用狀況(亦即，單樹狀況)將臨限值應用於基於明度之最後位置值。在單樹狀況中，針對明度及色度分量兩者以相同方式將CU劃分成TU。在雙樹狀況中，可針對明度及色度分量以不同方式將CU可劃分成TU。
此外，在視訊編碼器200基於以臨限值為基礎之準則使用單獨TU上的TU層級參數信令傳輸LFNST旗標/索引的一些實例中，用於信令傳輸LFNST索引/旗標的臨限值可基於有效變換係數之最後位置(亦即，最後有效變換係數位置)。舉例而言，若最後變換係數位置等於DC項或更小(意謂無變換係數)，則不應將LFNST應用於個別TU。
在一些實例中，視訊編碼器200使用以計數器為基礎之準則信令傳輸LFNST索引/旗標，如同VVC草案5中。舉例而言，在VVC草案5中，若CU使用單樹寫碼，則視訊編碼器在CU中之有效係數的數目(numSigCoeff)大於2且CU中之零化有效係數的數目等於0的情況下針對CU信令傳輸lfnst_idx語法元素(例如，LFNST索引或LFNST旗標)。在VVC草案5中，若CU使用雙樹寫碼，則視訊編碼器在CU中之有效係數的數目(numSigCoeff)大於1且CU中之零化有效係數的數目等於0的情況下信令傳輸lfnst_idx語法元素。根據本發明的將以計數器為基礎之準則用於判定是否針對TU信令傳輸LFNST索引/旗標的實例，視訊編碼器200可在TU中之有效係數的數目大於2且TU中之零化有效係數的數目等於0的情況下，針對使用單樹寫碼之CU之每一TU，針對TU信令傳輸lfnst_idx語法元素。在此實例中，若CU使用雙樹寫碼，則視訊編碼器在TU中之有效係數的數目(numSigCoeff)大於1且TU中之零化有效係數的數目等於0的情況下信令傳輸lfnst_idx語法元素。
在一些實例中，視訊編碼器200基於當前TU相對於給定CU中之第一TU的相對方位信令傳輸LFNST索引/旗標(例如，TU索引)。舉例而言，視訊編碼器200可針對第一TU之下方及/或右側，而非第一TU之右下方的TU信令傳輸LFNST索引/旗標。
在一些實例中，視訊編碼器200可基於CU經雙樹寫碼抑或經單樹寫碼而判定是否信令傳輸LFNST索引/旗標。舉例而言，在一些實例中，視訊編碼器200可在CU經雙樹寫碼而非經單樹寫碼時針對CU之TU信令傳輸LFNST索引/旗標。在其他實例中，視訊編碼器200可在CU經單樹寫碼而非經雙樹寫碼時針對CU之TU信令傳輸LFNST索引/旗標。
此外，在一些實例中，視訊編碼器200可基於DC分量之值(例如TU或CU之左上角上的變換係數之值)判定是否信令傳輸LFNST索引/旗標。舉例而言，視訊編碼器200可基於TU或CU的高於(或替代地，低於)特定臨限值之DC分量針對TU或CU信令傳輸LFNST索引。
在一些實例中，視訊編碼器200可基於TU或CU中之變換係數的量值、標準差、及/或統計判定是否信令傳輸LFNST索引/旗標。舉例而言，視訊編碼器200可在TU或CU中之變換係數的總(或最大)量值或標準差高於(或替代地，低於)特定臨限值時信令傳輸LFNST索引/旗標。
在視訊編碼器200針對經分割區塊信令傳輸LFNST索引/旗標的一些實例中，視訊編碼器200可針對單個子區塊(單個TU)信令傳輸LFNST索引/旗標。舉例而言，在一個實例中，視訊編碼器200可僅僅針對第一子區塊(例如，CU中第一個出現的TU)信令傳輸LFNST索引。在此實例中，視訊編碼器200及視訊解碼器300可推斷CU之剩餘子區塊(例如，TU)與第一子區塊(例如，TU)使用相同LFNST索引/旗標。或者，在此實例中，視訊編碼器200及視訊解碼器300可基於預定義值推斷剩餘TU之LFNST索引/旗標。舉例而言，LFNST索引/旗標可停用(亦即，可設定為零)。換言之，視訊編碼器200及視訊解碼器300可推斷剩餘TU之LFNST索引/旗標具有指示LFNST停用之預定義值。
在視訊編碼器200僅僅針對CU之單個子區塊(例如，TU)信令傳輸LFNST索引/旗標的一些實例中，視訊編碼器200可僅僅針對CBF旗標得以啟用之第一子區塊信令傳輸LFNST索引。換言之，在此實例中，視訊編碼器200可僅僅針對具有指示子區塊包括有效變換係數之CBF的第一個出現的子區塊信令傳輸LFNST索引。
在視訊編碼器200僅僅針對CU之單個子區塊(例如，TU)信令傳輸LFNST索引/旗標的一些實例中，若使用係數臨限值導出LFNST索引/旗標，則視訊編碼器200及視訊解碼器300可計數僅僅第一子區塊(第一TU)內的非零變換係數之數目，且視訊編碼器200及視訊解碼器300可將該計數與係數臨限值進行比較以推斷用於子區塊的LFNST索引/旗標之值。因此，在此等實例中，視訊編碼器200及視訊解碼器300可僅僅使用第一子區塊(第一TU)導出LFNST索引/旗標。
此外，在一些實例中，視訊編碼器200基於以TU層級參數為基礎的以臨限值為基礎之準則或以計數為基礎之準則，僅僅針對單個TU或第一TU信令傳輸LFNST旗標/索引。舉例而言，在視訊編碼器200基於以TU層級參數為基礎的以臨限值為基礎之準則，僅僅針對單個TU或第一TU信令傳輸LFNST旗標/索引的一些實例中，臨限值可固定至恆定值(例如，2)，且視訊編碼器200可在最後變換係數位置小於臨限值的情況下針對明度及/或色度信令傳輸LFNST索引/旗標。
在視訊編碼器200基於以TU層級參數為基礎的以臨限值為基礎之準則，僅僅針對單個TU或第一TU信令傳輸LFNST旗標/索引的一些實例中，可針對VVC草案5中之雙樹停用狀況(亦即，單樹狀況)將臨限值應用於基於明度之最後位置值。
此外，在視訊編碼器200基於以TU層級參數為基礎的以臨限值為基礎之準則，僅僅針對單個TU或第一TU信令傳輸LFNST旗標/索引的一些實例中，用於信令傳輸LFNST之臨限值可為： a.         基於有效變換係數之最後位置(亦即，最後有效變換係數位置)， b.        以計數器為基礎，如同VVC草案5中， c.         基於當前TU相對於給定CU中之第一TU的相對方位(例如，TU索引)， d.        基於CU經雙樹寫碼抑或經單樹寫碼， e.         基於DC分量之值(例如，TU或CU之左上角上的變換係數之值)， f.         基於TU或CU中之變換係數的量值、標準差及統計。
作為一實例，在VVC草案5中，當CU大小為128×128時，CU可分割成四個TU。因此，在VVC中，上文信令傳輸方法可用於此等CU/TU。
以此方式，視訊編碼器200可在一些實例中判定視訊資料之當前區塊被***成複數個子區塊。在此實例中，複數個子區塊包括當前區塊之當前子區塊。視訊編碼器200亦可產生視訊資料之當前區塊的殘餘資料。當前區塊之殘餘資料包括當前子區塊之殘餘資料。視訊編碼器200可接著將變換(例如，MTS變換)應用於當前子區塊之殘餘資料以產生當前子區塊之第一變換係數。另外，視訊編碼器200可基於以臨限值為基礎或以計數器為基礎之準則而判定當前子區塊之LFNST語法元素(例如，LFNST索引/旗標)將在位元串流中被信令傳輸。位元串流包括視訊資料之經編碼表示。LFNST語法元素可指示LFNST是否應用於當前區塊。基於LFNST語法元素將在位元串流中被信令傳輸的判定，視訊編碼器200可在子區塊(例如，TU)層級在位元串流中信令傳輸LFNST索引。此外，視訊編碼器200可將LFNST應用於當前子區塊之第一變換係數，以判定當前子區塊之LFNST區中的一或多個第二變換係數之值。
在一些實例中，視訊解碼器300可判定視訊資料之當前區塊被***成複數個子區塊。在此實例中，複數個子區塊包括當前區塊之當前子區塊。此外，視訊解碼器300可基於以臨限值為基礎或以計數為基礎之準則而判定當前區塊之LFNST語法元素在位元串流中被信令傳輸。位元串流包括視訊資料之經編碼表示。基於LFNST語法元素在位元串流中被信令傳輸的判定，視訊解碼器300可自位元串流獲得LFNST語法元素。基於LFNST語法元素指示LFNST應用於當前子區塊，視訊解碼器300可應用LFNST之反向以判定當前區塊之子區塊之LFNST區中的一或多個變換係數之值。在一些實例中，視訊解碼器300可判定在由調零圖案界定的當前子區塊之區中當前區塊之變換係數等於0。此外，視訊解碼器300可將反變換應用於當前子區塊之變換係數以判定當前子區塊之殘餘資料。視訊解碼器300可基於當前子區塊之殘餘資料(例如，連同當前區塊之其他子區塊的殘餘資料)重建構當前區塊。
圖8為說明可執行本發明之技術的實例視訊編碼器200之方塊圖。出於解釋之目的而提供圖8，且不應將其視為對如本發明中廣泛例示及描述之技術的限制。出於解釋之目的，本發明在諸如HEVC視訊寫碼標準及研發中之H.266視訊寫碼標準的視訊寫碼標準之情況下描述視訊編碼器200。然而，本發明之技術不限於此等視訊寫碼標準，且大體可適用於視訊編碼及解碼。
在圖8之實例中，視訊編碼器200包括視訊資料記憶體230、模式選擇單元202、殘餘產生單元204、變換處理單元206、量化單元208、反量化單元210、反變換處理單元212、重建構單元214、濾波器單元216、經解碼圖像緩衝器(DPB) 218及熵編碼單元220。視訊資料記憶體230、模式選擇單元202、殘餘產生單元204、變換處理單元206、量化單元208、反量化單元210、反變換處理單元212、重建構單元214、濾波器單元216、DPB 218及熵編碼單元220中之任一者或全部可實施於一或多個處理器或處理電路系統中。此外，視訊編碼器200可包括額外或替代性處理器或處理電路以執行此等及其他功能。舉例而言，在圖8之實例中，變換處理單元206包括LFNST單元207且反變換處理單元212包括反LFNST單元213。
視訊資料記憶體230可儲存待由視訊編碼器200之組件編碼之視訊資料。視訊編碼器200可自例如視訊源104 (圖1)接收儲存於視訊資料記憶體230中之視訊資料。DPB 218可充當參考圖像記憶體，其儲存參考視訊資料以用於由視訊編碼器200預測後續視訊資料。視訊資料記憶體230及DPB 218可由各種記憶體裝置中之任一者形成，諸如動態隨機存取記憶體(DRAM)，包括同步DRAM (SDRAM)、磁阻式RAM (MRAM)、電阻式RAM (RRAM)或其他類型之記憶體裝置。視訊資料記憶體230及DPB 218可由相同記憶體裝置或單獨記憶體裝置提供。在各種實例中，視訊資料記憶體230可與視訊編碼器200之其他組件一起在晶片上，如所說明，或相對於彼等組件在晶片外。
在本發明中，對視訊資料記憶體230之參考不應解譯為將記憶體限於在視訊編碼器200內部(除非特定地如此描述)，或將記憶體限於在視訊編碼器200外部(除非特定地如此描述)。實情為，對視訊資料記憶體230之參考應理解為對儲存視訊編碼器200所接收以用於編碼的視訊資料(例如，待被編碼的當前區塊之視訊資料)記憶體的參考。圖1之記憶體106亦可提供來自視訊編碼器200之各種單元之輸出的臨時儲存。
圖8之各種單元經說明以輔助理解由視訊編碼器200執行的操作。單元可經實施為固定功能電路、可程式化電路或其組合。固定功能電路係指提供特定功能性且預設定可執行之操作的電路。可程式化電路係指可經程式化以執行各種任務並在可執行之操作中提供可撓式功能性的電路。舉例而言，可程式化電路可實行使可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可執行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路執行的操作類型通常為不可變的。在一些實例中，單元中之一或多者可為不同電路區塊(固定功能或可程式化)，且在一些實例中，一或多個單元可為積體電路。
視訊編碼器200可包括由可程式化電路形成之算術邏輯單元(ALU)、基本功能單元(EFU)、數位電路、類比電路及/或可程式化核心。在視訊編碼器200之操作係使用由可程式化電路執行之軟體執行的實例中，記憶體106 (圖1)可儲存視訊編碼器200接收並執行的軟體之目標程式碼，或視訊編碼器200內之另一記憶體(圖中未示)可儲存此類指令。
視訊資料記憶體230經組態以儲存接收到之視訊資料。視訊編碼器200可自視訊資料記憶體230擷取視訊資料之圖像，並將視訊資料提供至殘餘產生單元204及模式選擇單元202。視訊資料記憶體230中之視訊資料可為待編碼之原始視訊資料。
模式選擇單元202包括運動估計單元222、運動補償單元224及框內預測單元226。模式選擇單元202可包括額外功能單元以根據其他預測模式執行視訊預測。作為實例，模式選擇單元202可包括調色板單元、區塊內拷貝單元(其可為運動估計單元222及/或運動補償單元224之部分)、仿射單元、線性模型(LM)單元或其類似者。
模式選擇單元202通常協調多個編碼遍次以測試編碼參數之組合，及用於此等組合之所得速率失真值。編碼參數可包括CTU至CU之分割、用於CU之預測模式、用於CU之殘餘資料的變換類型、用於CU之殘餘資料的量化參數等。模式選擇單元202可最終選擇相比其他所測試組合具有更佳速率失真值的編碼參數之組合。
視訊編碼器200可將自視訊資料記憶體230擷取之圖像分割成一系列CTU，且將一或多個CTU封裝於圖塊內。模式選擇單元202可根據樹型結構，諸如上文所描述之QTBT結構或HEVC之四分樹結構來分割圖像之CTU。如上文所描述，視訊編碼器200可用根據樹狀結構分割CTU來形成一或多個CU。此CU通常亦可稱為「視訊區塊」或「區塊」。
大體而言，模式選擇單元202亦控制其組件(例如，運動估計單元222、運動補償單元224及框內預測單元226)以產生用於當前區塊之預測區塊(例如，當前CU、或在HEVC中，PU與TU之重疊部分)。對於當前區塊之框間預測，運動估計單元222可執行運動搜尋以識別一或多個參考圖像(例如，儲存於DPB 218中之一或多個先前經寫碼圖像)中的一或多個緊密匹配之參考區塊。詳言之，運動估計單元222可例如根據絕對差總和(SAD)、平方差總和(SSD)、平均值絕對差(MAD)、均方差(MSD)或其類似者來計算表示潛在參考區塊與當前區塊之類似程度的值。運動估計單元222可通常使用當前區塊與所考慮之參考區塊之間的逐樣本差執行此等計算。運動估計單元222可識別具有由此等計算產生之最低值的參考區塊，從而指示最緊密匹配當前區塊之參考區塊。
運動估計單元222可形成一或多個運動向量(MV)，其相對於當前圖像中之當前區塊的位置界定參考圖像中之參考區塊的位置。運動估計單元222可接著將運動向量提供至運動補償單元224。舉例而言，對於單向框間預測，運動估計單元222可提供單個運動向量，而對於雙向框間預測，運動估計單元222可提供兩個運動向量。運動補償單元224接著可使用運動向量來產生預測區塊。舉例而言，運動補償單元224可使用運動向量來擷取參考區塊之資料。作為另一實例，若運動向量具有分數樣本精確度，則運動補償單元224可根據一或多個內插濾波器為預測區塊內插值。此外，對於雙向框間預測，運動補償單元224可擷取用於由各別運動向量識別之兩個參考區塊的資料，並例如經由逐樣本求平均值或經加權求平均值來組合所擷取之資料。
作為另一實例，對於框內預測，或框內預測寫碼，框內預測單元226可自鄰近當前區塊之樣本產生預測區塊。舉例而言，對於定向模式，框內預測單元226一般可在數學上組合相鄰樣本的值，且在橫跨當前塊之所定義方向上填入此等計算值以產生預測塊。作為另一實例，對於DC模式，框內預測單元226可計算與當前區塊相鄰之樣本的平均值，且產生預測區塊以針對預測區塊之每一樣本包括此所得平均值。
模式選擇單元202將預測區塊提供至殘餘產生單元204。殘餘產生單元204接收來自視訊資料記憶體230之當前區塊及來自模式選擇單元202之預測區塊的原始未經編碼版本。殘餘產生單元204計算當前區塊與預測區塊之間的逐樣本差。所得逐樣本差定義當前區塊之殘餘區塊。在一些實例中，殘餘產生單元204亦可判定殘餘區塊中之樣本值之間的差，以使用殘餘差分脈碼調變(RDPCM)來產生殘餘區塊。在一些實例中，可使用進行二進位減法之一或多個減法器電路來形成殘餘產生單元204。
在模式選擇單元202將CU分割成PU之實例中，每一PU可與明度預測單元及對應色度預測單元相關聯。視訊編碼器200視訊解碼器300可支援具有各種大小之PU。如上文所指示，CU之大小可係指CU之明度寫碼區塊的大小，且PU之大小可係指PU之明度預測單元的大小。假定特定CU之大小為2N×2N，則視訊編碼器200可支援用於框內預測的2N×2N或N×N之PU大小，及用於框間預測的2N×2N、2N×N、N×2N、N×N或類似大小之對稱PU大小。視訊編碼器200及視訊解碼器300亦可支援用於框間預測的2N×nU、2N×nD、nL×2N以及nR×2N之PU大小的不對稱分割。
在模式選擇單元未將CU進一步分割成PU的實例中，每一CU可與明度寫碼區塊及對應色度寫碼區塊相關聯。如上，CU之大小可指代CU之明度寫碼區塊的大小。視訊編碼器200及視訊解碼器300可支援2N×2N、2N×N或N×2N之CU大小。
對於諸如區塊內複製模式寫碼、仿射模式寫碼及線性模型(LM)模式寫碼之其他視訊寫碼技術，如少數實例，模式選擇單元202經由與寫碼技術相關聯之各別單元產生用於正編碼之當前區塊的預測區塊。在諸如調色板模式寫碼的一些實例中，模式選擇單元202可能不會產生預測區塊，而產生指示基於所選擇之調色板來重建構區塊之方式的語法元素。在此等模式中，模式選擇單元202可將此等語法元素提供至熵編碼單元220以待編碼。
如上文所描述，殘餘產生單元204接收用於當前區塊及對應預測區塊之視訊資料。殘餘產生單元204隨後產生用於當前區塊之殘餘區塊。為產生殘餘區塊，殘餘產生單元204計算預測區塊與當前區塊之間的逐樣本差。
變換處理單元206將一或多個變換應用於殘餘區塊以產生變換係數之區塊(在本文中稱為「變換係數區塊」)。變換處理單元206可將各種變換應用於殘餘區塊以形成變換係數區塊。舉例而言，變換處理單元206可將離散餘弦變換(DCT)、方向變換(directional transform)、Karhunen-Loeve變換(KLT)或概念上類似之變換應用於殘餘區塊。在一些實例中，變換處理單元206可向殘餘區塊執行多個變換，例如一級變換及二級變換，諸如旋轉變換。在一些實例中，變換處理單元206不將變換應用於殘餘區塊。
根據本發明之一或多種技術，變換處理單元206可將變換(例如，DCT、離散正弦變換(DST)等)應用於殘餘資料以產生諸如CU或子區塊(例如，TU)之當前區塊的第一變換係數。另外，LFNST單元207可判定按規範定義之調零變換係數之調零圖案。LFNST單元207亦可判定當前區塊之第二變換係數。在此實例中，當前區塊包括LFNST區。作為LFNST單元207判定第二變換係數之部分，LFNST單元207可應用LFNST以判定LFNST區中的一或多個第二變換係數之值。另外，LFNST單元207可判定在由調零圖案界定的區塊之區中當前區塊之第二變換係數等於0。LFNST單元207亦可判定LFNST語法元素(例如，LFNST索引/旗標)。LFNST語法元素結合當前區塊之模式及當前區塊之大小指定LFNST。視訊編碼器200可在TU層級信令傳輸LFNST語法元素。
根據本發明之一或多種技術，視訊編碼器200可判定視訊資料之當前區塊被***成複數個子區塊，其中複數個子區塊包括當前區塊之當前子區塊。殘餘產生單元204可產生視訊資料之當前區塊的殘餘資料。當前區塊之殘餘資料包括當前子區塊之殘餘資料。此外，變換處理單元206可將變換應用於殘餘資料以產生當前子區塊之第一變換係數。LFNST單元207可基於以臨限值為基礎之準則或以計數為基礎之準則而判定當前子區塊之LFNST語法元素將在位元串流中被信令傳輸。在此實例中，位元串流包含視訊資料之經編碼表示，且LFNST語法元素指示是否將LFNST應用於當前子區塊。基於LFNST語法元素將在位元串流中被信令傳輸的判定，視訊編碼器200可在子區塊(例如，TU層級)在位元串流中信令傳輸LFNST語法元素。LFNST單元207可將LFNST應用於當前子區塊之第一變換係數，以判定當前子區塊之LFNST區中的一或多個第二變換係數之值。
量化單元208可量化變換係數區塊中之變換係數，以產生經量化變換係數區塊。量化單元208可根據與當前區塊相關聯之量化參數(QP)值量化變換係數區塊之變換係數。視訊編碼器200 (例如，經由模式選擇單元202)可藉由調整與CU相關聯之QP值，來調整被應用於與當前區塊相關聯之變換係數區塊的量化程度。量化可引入資訊之損耗，且因此，經量化變換係數可相比由變換處理單元206產生之原始變換係數具有較低精度。
反量化單元210及反變換處理單元212可將反量化及反變換分別應用於經量化係數區塊，以自變換係數區塊重建構殘餘區塊。
如上所指出，反變換處理單元212可包括反LFNST單元213。反LFNST單元213可應用由LFNST單元207應用之LFNST的反向。根據本發明之一或多種技術，反LFNST單元213可基於當前區塊(例如，CU、子區塊等)之區塊大小、當前區塊之模式及LFNST語法元素判定按規範定義之零係數的調零圖案。LFNST語法元素可在變換單元(TU)層級被信令傳輸。另外，反LFNST單元213可判定當前區塊之變換係數。當前區塊之變換係數包括當前區塊之LFNST區中的變換係數及當前區塊之LFNST區之外的變換係數。作為判定當前區塊之變換係數之部分，反LFNST單元213可應用反LFNST以判定當前區塊之LFNST區中的一或多個變換係數之值。另外，作為判定當前區塊之變換係數之部分，反LFNST單元213可判定在由調零圖案界定的當前區塊之區中當前區塊之變換係數等於0。反變換處理單元212可將反變換(例如，反DCT、反DST等等)應用於當前區塊之變換係數以判定當前區塊之殘餘資料。
重建構單元214可基於經重建構殘餘區塊及由模式選擇單元202產生之預測區塊，產生對應於當前區塊之經重建構區塊(儘管可能具有一些程度的失真)。舉例而言，重建構單元214可將經重建構殘餘區塊之樣本添加至來自模式選擇單元202產生之預測區塊的對應樣本，以產生經重建構區塊。
濾波器單元216可對經重建構區塊執行一或多個濾波操作。舉例而言，濾波器單元216可執行解區塊操作以減少沿CU之邊緣的區塊效應假影。在一些實例中，可跳過濾波器單元216之操作。
視訊編碼器200將經重建構區塊儲存於DPB 218中。舉例而言，在不需要濾波器單元216之操作的實例中，重建構單元214可將經重建構區塊儲存至DPB 218。在需要濾波器單元216之操作的實例中，濾波器單元216可將經濾波經重建構區塊儲存至DPB 218。運動估計單元222及運動補償單元224可自DPB 218擷取參考圖像，由經重建構(及可能經濾波)區塊形成，至隨後進行編碼之圖像的框間預測區塊。另外，框內預測單元226可使用當前圖像之DPB 218中的經重建構區塊以對當前圖像中之其他區塊進行框內預測。
大體而言，熵編碼單元220可熵編碼自視訊編碼器200之其他功能組件接收的語法元素。舉例而言，熵編碼單元220可熵編碼來自量化單元208之經量化變換係數區塊。作為另一實例，熵編碼單元220可熵編碼來自模式選擇單元202的預測語法元素(例如，用於框間預測之運動資訊或用於框內預測之框內模式資訊)。熵編碼單元220可對語法元素(其為視訊資料之另一實例)執行一或多個熵編碼操作以產生經熵編碼資料。舉例而言，熵編碼單元220可對資料執行上下文自適應性可變長度寫碼(CAVLC)操作、CABAC操作、可變至可變(V2V)長度寫碼操作、基於語法之上下文自適應性二進位算術寫碼(SBAC)操作、概率區間分割熵(PIPE)寫碼操作、指數哥倫布編碼操作或另一類型之熵編碼操作。在一些實例中，熵編碼單元220可以略過模式操作，其中語法元素未經熵編碼。
視訊編碼器200可輸出位元串流，該位元串流包括重建構圖塊或圖像之區塊所需的經熵編碼語法元素。特定而言，熵編碼單元220可輸出該位元串流。
上文所描述之操作係相對於區塊進行描述。此描述應理解為用於明度寫碼區塊及/或色度寫碼區塊的操作。如上文所描述，在一些實例中，明度寫碼區塊及色度寫碼區塊為CU之明度及色度分量。在一些實例中，明度寫碼區塊及色度寫碼區塊為PU之明度及色度分量。
在一些實例中，無需針對色度寫碼區塊重複相對於明度寫碼區塊進行之操作。作為一個實例，無需重複識別明度寫碼區塊之運動向量(MV)及參考圖像的操作用於識別色度區塊之MV及參考圖像。實情為，明度寫碼區塊之MV可經縮放以判定色度區塊之MV，且參考圖像可為相同的。作為另一實例，框內預測程序可針對明度寫碼區塊及色度寫碼區塊而為相同的。
視訊編碼器200表示經組態以編碼視訊資料之裝置的實例，其包括經組態以儲存視訊資料之記憶體及實施於電路系統中且經組態以產生視訊資料之當前區塊的殘餘資料的一或多個處理單元。視訊編碼器200之一或多個處理單元亦可將變換應用於殘餘資料以產生當前區塊之第一變換係數。此外，視訊編碼器200之一或多個處理單元可判定按規範定義之調零變換係數的調零圖案。視訊編碼器200之一或多個處理單元亦可經組態以判定當前區塊之第二變換係數。當前區塊包括LFNST區。視訊編碼器200之一或多個處理單元可經組態成使得視訊編碼器200之一或多個處理單元可應用LFNST以判定當前區塊之LFNST區中的一或多個第二變換係數之值，作為判定當前區塊之第二變換係數之部分。另外，作為判定當前區塊之第二變換係數之部分，視訊編碼器200之一或多個處理單元可判定在由調零圖案界定的區塊之區中當前區塊之第二變換係數等於0。視訊編碼器200之一或多個處理單元亦可判定LFNST語法元素，其中該LFNST語法元素結合當前區塊之模式及當前區塊之大小指定LFNST。視訊編碼器200之一或多個處理單元可在子區塊層級(例如，TU層級)信令傳輸LFNST語法元素。
在一些實例中，視訊編碼器200表示經組態以編碼視訊資料之裝置的實例，其包括經組態以儲存視訊資料之記憶體，及實施於電路系統中且經組態以產生視訊資料之當前區塊的殘餘資料的一或多個處理單元。視訊編碼器200之一或多個處理單元亦可將變換應用於殘餘資料以產生當前區塊之第一係數。此外，視訊編碼器200之一或多個處理單元可判定LFNST語法元素。視訊編碼器200之一或多個處理單元亦可基於當前區塊之區塊大小及LFNST語法元素判定按規範定義之零係數的調零圖案。視訊編碼器200之一或多個處理單元可判定當前區塊之第二係數，其中該當前區塊包括LFNST區，且判定當前區塊之第二係數包含：應用LFNST以判定當前區塊之LFNST區中的一或多個第二係數之值；及判定在由調零圖案界定的區塊之區中當前區塊之第二係數等於0。
圖9為說明可執行本發明之技術的實例視訊解碼器300之方塊圖。出於解釋之目的提供圖9，且其並不限制如本發明中廣泛例示及描述之技術。出於解釋之目的，本發明描述視訊解碼器300係根據JEM、VVC及HEVC之技術來描述的。然而，本發明之技術可由經組態為其他視訊寫碼標準的視訊寫碼裝置執行。
在圖9之實例中，視訊解碼器300包括經寫碼圖像緩衝器(CPB)記憶體320、熵解碼單元302、預測處理單元304、反量化單元306、反變換處理單元308、重建構單元310、濾波器單元312及經解碼圖像緩衝器(DPB)314。在圖9之實例中，反變換處理單元308包括反LFNST單元309。CPB記憶體320、熵解碼單元302、預測處理單元304、反量化單元306、反變換處理單元308、重建構單元310、濾波器單元312及DPB 314中任一者之或全部可實施於一或多個處理器或處理電路系統中。此外，視訊解碼器300可包括額外或替代性處理器或處理電路系統以執行此等及其他功能。
預測處理單元304包括運動補償單元316及框內預測單元318。預測處理單元304可包括根據其他預測模式執行預測之額外單元。作為實例，預測處理單元304可包括調色板單元、區塊內複製單元(其可形成運動補償單元316之部分)、仿射單元、線性模型(LM)單元或其類似者。在其他實例中，視訊解碼器300可包括更多、更少或不同的功能組件。
CPB記憶體320可儲存待由視訊解碼器300之組件解碼之視訊資料，諸如經編碼視訊位元串流。可例如自電腦可讀媒體110 (圖1)獲得儲存於CPB記憶體320中之視訊資料。CPB記憶體320可包括儲存來自經編碼視訊位元串流之經編碼視訊資料(例如，語法元素)的CPB。又，CPB記憶體320可儲存除經寫碼圖像之語法元素之外的視訊資料，諸如表示來自視訊解碼器300之各種單元之輸出的臨時資料。DPB 314一般儲存經解碼圖像，視訊解碼器300可在解碼經編碼視訊位元串流之後續資料或圖像時輸出該等經解碼圖像及/或將其用作參考視訊資料。CPB記憶體320及DPB 314可由各種記憶體裝置中之任一者形成，諸如DRAM (包括SDRAM、MRAM、RRAM)或其他類型之記憶體裝置。CPB記憶體320及DPB 314可由同一記憶體裝置或獨立記憶體裝置提供。在各種實例中，CPB記憶體320可與視訊解碼器300之其他組件一起在晶片上，或相對於彼等組件在晶片外。
另外或替代地，在一些實例中，視訊解碼器300可自記憶體120 (圖1)擷取經寫碼視訊資料。亦即，記憶體120可利用CPB記憶體320儲存如上文所論述之資料。同樣，當視訊解碼器300之一些或所有功能性實施於軟體中以由視訊解碼器300之處理電路系統執行時，記憶體120可儲存待由視訊解碼器300執行之指令。
圖9中所示之各種單元經說明為輔助理解由視訊解碼器300執行之操作。單元可經實施為固定功能電路、可程式化電路或其組合。類似於圖8，固定功能電路指代提供特定功能性，且在可執行之操作上預設定的電路。可程式化電路係指可經程式化以執行各種任務並在可執行之操作中提供可撓式功能性的電路。舉例而言，可程式化電路可實行使可程式化電路以由軟體或韌體之指令定義的方式操作的軟體或韌體。固定功能電路可執行軟體指令(例如，以接收參數或輸出參數)，但固定功能電路執行的操作類型通常為不可變的。在一些實例中，單元中之一或多者可為不同電路區塊(固定功能或可程式化)，且在一些實例中，一或多個單元可為積體電路。
視訊解碼器300可包括ALU、EFU、數位電路、類比電路及/或由可程式化電路形成之可程式化核心。在由在可程式化電路上執行之軟體進行視訊解碼器300之操作的實例中，晶片上或晶片外記憶體可儲存視訊解碼器300接收及執行之軟體之指令(例如目標程式碼)。
熵解碼單元302可自CPB接收經編碼視訊資料且對視訊資料進行熵解碼以再生語法元素。預測處理單元304、反量化單元306、反變換處理單元308、重建構單元310、及濾波器單元312可基於自位元串流提取之語法元素產生經解碼視訊資料。
一般而言，視訊解碼器300在逐區塊基礎上重建構圖像。視訊解碼器300可個別地對每一區塊執行重建構操作(其中，當前正重建構(亦即，解碼)之區塊可被稱作「當前區塊」)。
熵解碼單元302可熵解碼定義經量化變換係數區塊之經量化變換係數的語法元素以及變換資訊，諸如量化參數(QP)及/或變換模式指示。反量化單元306可使用與經量化變換係數區塊相關聯之QP判定量化程度，且同樣判定反量化程度供反量化單元306應用。反量化單元306可例如執行按位元左移操作以將經量化變換係數反量化。反量化單元306可從而形成包括變換係數之變換係數區塊。
在反量化單元306形成變換係數區塊後，反變換處理單元308可將一或多個反變換應用於變換係數區塊以產生與當前區塊相關聯的殘餘區塊。舉例而言，反變換處理單元308可將反DCT、反整數變換、反Karhunen-Loeve變換(KLT)、反旋轉變換、反定向變換或另一反變換應用於係數區塊。
在圖9之實例中，反變換處理單元308包括反LFNST單元309。反LFNST單元309經組態以應用反LFNST。舉例而言，反LFNST單元309可基於當前區塊之區塊大小及LFNST語法元素判定按規範定義之零係數的調零圖案。當前區塊可為CU、TU、子區塊或其他類型之區塊。在此實例中，LFNST語法元素可在TU層級被信令傳輸。在其他實例中，LFNST語法元素可在CU層級或另一層級被信令傳輸。此外，反LFNST單元309可判定當前區塊之變換係數。當前區塊之變換係數包括當前區塊之LFNST區中的變換係數及當前區塊之LFNST區之外的變換係數。作為判定當前區塊之變換係數之部分，反LFNST單元309可應用反LFNST以判定當前區塊之LFNST區中的一或多個變換係數之值。另外，作為判定當前區塊之變換係數之部分。反LFNST單元309可判定在由調零圖案界定的當前區塊之區中當前區塊之變換係數等於0。反變換處理單元308可將反變換(例如，反DCT、反DST等等)應用於當前區塊之變換係數以判定當前區塊之殘餘資料。
在本發明之一些實例中，熵解碼單元302 (視訊解碼器300之另一單元)可基於以臨限值為基礎之準則或以計數為基礎之準則而判定當前區塊之子區塊(例如，TU或其他類型之子區塊)之LFNST語法元素將在位元串流中被信令傳輸。基於LFNST語法元素在位元串流中被信令傳輸的判定，熵解碼單元302 (或視訊解碼器300之另一單元)可自位元串流獲得LFNST語法元素。基於LFNST語法元素指示LFNST應用於當前子區塊，反LFNST單元309可應用LFNST之反向以判定當前區塊之子區塊之LFNST區中的一或多個變換係數之值。反變換處理單元308可將反變換(例如，反DCT、反DST或其他類型之變換)應用於當前區塊之子區塊之變換係數，以判定當前區塊之子區塊的殘餘資料。
此外，預測處理單元304根據由熵解碼單元302熵解碼之預測資訊語法元素而產生預測區塊。舉例而言，若預測資訊語法元素指示當前區塊經框間預測，則運動補償單元316可產生預測區塊。在此情況下，預測資訊語法元素可指示DPB 314中之參考圖像(自其擷取參考區塊)，以及運動向量，其識別參考圖像中之參考區塊相對於當前圖像中之當前區塊之位置的位置。運動補償單元316可大體上以實質上類似於關於運動補償單元224 (圖8)所描述之方式的方式執行框間預測程序。
作為另一實例，若預測資訊語法元素指示當前區塊經框內預測，則框內預測單元318可根據由預測資訊語法元素指示之框內預測模式來產生預測區塊。同樣，框內預測單元318通常可以實質上與相對於框內預測單元226 (圖8)所描述之方式類似的方式執行框內預測程序。框內預測單元318可將相鄰樣本之資料自DPB 314擷取至當前區塊。
重建構單元310可使用預測區塊及殘餘區塊重建構當前區塊。舉例而言，重建構單元310可將殘餘區塊之樣本添加至預測區塊之對應樣本以重建構當前區塊。
濾波器單元312可對經重建構區塊執行一或多個濾波操作。舉例而言，濾波器單元312可執行解區塊操作以減少沿經重建構區塊之邊緣的區塊效應假影。濾波器單元312之操作不一定在所有實例中進行。
視訊解碼器300可將經重建構區塊儲存於DPB 314中。舉例而言，在濾波器單元312之操作未執行的實例中，重建構單元310可將經重建構區塊儲存至DPB 314。在執行濾波器單元312之操作的實例中，濾波器單元312可將經濾波經重建構區塊儲存至DPB 314。如上文所論述，DPB 314可將諸如用於框內預測之當前圖像及用於後續運動補償之先前經解碼圖像之樣本的參考資訊提供至預測處理單元304。此外，視訊解碼器300可自DPB 314輸出經解碼圖像用於後續顯示於諸如圖1之顯示裝置118的顯示裝置上。
以此方式，視訊解碼器300表示視訊解碼裝置之實例，其包括經組態以儲存視訊資料之記憶體及實施於電路系統中且經組態以基於當前區塊之區塊大小及LFNST語法元素判定按規範定義之零係數的調零圖案的一或多個處理單元。在一些實例中，LFNST語法元素在TU層級被信令傳輸。視訊解碼器300可判定當前區塊之變換係數。當前區塊之變換係數包括當前區塊之LFNST區中的變換係數及當前區塊之LFNST區之外的變換係數。在此實例中，作為判定當前區塊之變換係數之部分，視訊解碼器300可應用反LFNST以判定當前區塊之LFNST區中的一或多個變換係數之值。另外，視訊解碼器300可判定在由調零圖案界定的當前區塊之區中當前區塊之變換係數等於0。視訊解碼器300可將反變換應用於當前區塊之變換係數以判定當前區塊之殘餘資料。視訊解碼器300可基於當前區塊之殘餘資料重建構當前區塊。
此外，在一些實例中，視訊解碼器300表示視訊解碼裝置之實例，其包括經組態以儲存視訊資料之記憶體及實施於電路系統中且經組態以判定視訊資料之當前區塊被***成複數個子區塊的一或多個處理單元，該複數個子區塊包括當前區塊之當前子區塊。一或多個處理器可基於以臨限值為基礎之準則或以計數為基礎之準則而進一步判定當前區塊之子區塊之LFNST語法元素將在位元串流中被信令傳輸。此外，一或多個處理器可經組態成基於LFNST語法元素在位元串流中被信令傳輸的判定，使得一或多個處理器自位元串流獲得LFNST語法元素。基於LFNST語法元素指示LFNST應用於當前子區塊，一或多個處理器可應用LFNST之反向以判定當前區塊之子區塊之LFNST區中的一或多個變換係數之值。一或多個處理器可將反變換應用於當前區塊之子區塊之變換係數以判定當前區塊之子區塊的殘餘資料。一或多個處理器可基於當前區塊之子區塊的殘餘資料重建構當前區塊。
圖10為說明用於編碼當前區塊之實例方法之流程圖。當前區塊可包含當前CU。儘管關於視訊編碼器200進行描述(圖1及圖8)，但應理解，其他裝置可經組態以執行類似於圖10之方法的方法。
在此實例中，視訊編碼器200首先預測當前區塊(350)。舉例而言，視訊編碼器200可形成當前區塊之預測區塊。視訊編碼器200隨後可計算當前區塊之殘餘區塊(352)。為了計算殘餘區塊，視訊編碼器200可計算當前區塊的原始未經編碼區塊與預測區塊之間的差。視訊編碼器200可接著變換殘餘資料以產生變換係數(354)。作為變換殘餘資料之部分，視訊編碼器200可判定且應用LFNST，如本發明之實例中之任一者所描述。
視訊編碼器200可量化殘餘區塊之變換係數(356)。接下來，視訊編碼器200可掃描殘餘區塊之經量化變換係數(358)。在掃描期間或在掃描之後，視訊編碼器200可熵編碼變換係數(360)。舉例而言，視訊編碼器200可使用CAVLC或CABAC編碼變換係數。視訊編碼器200可接著輸出區塊之經熵編碼資料(362)。
圖11為說明用於解碼視訊資料之當前區塊之實例方法的流程圖。當前區塊可包含當前CU。儘管關於視訊解碼器300 (圖1及圖9)進行描述，但應理解，其他裝置可經組態以執行類似於圖11之方法的方法。
視訊解碼器300可接收當前區塊之經熵編碼資料(諸如經熵編碼預測資訊)及用於對應於當前區塊的殘餘區塊之變換係數的經熵編碼資料(370)。視訊解碼器300可對經熵編碼資料進行熵解碼，以判定當前區塊之預測資訊且再生殘餘區塊之變換係數(372)。視訊解碼器300可例如使用如由當前區塊之預測資訊所指示的框內或框間預測模式來預測當前區塊(374)，以計算當前區塊之預測區塊。視訊解碼器300隨後可反掃描經再生之變換係數，以產生經量化變換係數之區塊(376)。視訊解碼器300可接著反量化變換係數(378)。另外，視訊解碼器300可將反變換應用於變換係數以產生殘餘區塊(380)。在一些實例中，視訊解碼器300可應用反LFNST作為產生殘餘區塊之部分，如本發明之實例中之任一者中所描述。視訊解碼器300可最後藉由組合預測區塊及殘餘區塊來解碼當前區塊(382)。
圖12為說明根據本發明之一或多個技術編碼視訊資料之實例方法的流程圖。在圖12之實例中，視訊編碼器200 (例如，視訊編碼器200之殘餘產生單元204)可產生視訊資料之當前區塊的殘餘資料(400)。舉例而言，視訊編碼器200可自當前區塊之對應樣本減去當前區塊之預測區塊的樣本以產生當前區塊之殘餘資料。
此外，視訊編碼器200 (例如，視訊編碼器200之變換處理單元206)可將變換應用於殘餘資料以產生當前區塊之第一變換係數(402)。舉例而言，視訊編碼器200可將MTS變換、DCT、DST或其他類型之變換應用於殘餘資料。
視訊編碼器200 (例如，視訊編碼器200之LFNST單元207)可判定按規範定義之調零變換係數之調零圖案(404)。舉例而言，為判定調零圖案，視訊編碼器200可測試與不同調零圖案相關聯之LFNST，且諸如速率-失真度量基於測試之結果選擇LFNST。
在一些實例中，視訊編碼器200基於LFNST語法元素判定經寫碼係數群組及非經寫碼係數群組(CG)之數目。舉例而言，為基於LFNST語法元素判定經寫碼及非經寫碼CG之數目，視訊編碼器200可判定經寫碼CG之數目包括按CG掃描次序在完全落至調零圖案內的CG之前出現的任何CG。因此，當判定當前區塊之變換係數時，視訊編碼器200可基於CG之數目而判定是否在位元串流中信令傳輸指示超出經寫碼CG之數目的任何CG之變換係數之值的語法元素。此外，在一些實例中，可能不必要信令傳輸超出經寫碼CG之數目的CG之CBF。避免需要信令傳輸超出經寫碼CG之數目的CG之CBG可提高寫碼效率。
此外，在一些實例中，當前區塊之最後有效係數位置按規範限定於當前區塊中的由調零圖案允許為非零的位置。換言之，視訊編碼器200可判定當前區塊之最後有效係數位置必須不位於當前區塊的在調零圖案中進行調零的區域中。在一些實例中，視訊解碼器300可因此推斷未按規範調零的當前區塊之任何變換係數可為有效係數。因此，對於視訊編碼器200，可能不必要信令傳輸語法元素以指示當前區塊之最後有效變換係數的位置。避免需要信令傳輸語法元素以指示當前區塊之最後有效變換係數之位置可提高寫碼效率。
另外，在圖12之實例中，視訊編碼器200 (例如，LFNST單元207)可判定當前區塊之第二變換係數(406)。當前區塊包括LFNST區。作為判定當前區塊之第二變換係數之部分，視訊編碼器200 (例如，LFNST單元207)可應用LFNST以判定當前區塊之LFNST區中的一或多個第二變換係數之值(408)。此外，視訊編碼器200 (例如，LFNST單元207)可判定在由調零圖案界定的區塊之區中當前區塊之第二變換係數等於0 (410)。換言之，視訊解碼器200可將由調零圖案界定之區中的變換係數調零。
另外，視訊編碼器200可判定LFNST語法元素(412)。LFNST語法元素可結合當前區塊之模式、當前區塊之大小及/或其他因素指定LFNST。視訊編碼器200 (例如，視訊編碼器200之熵編碼單元220)可在TU層級信令傳輸LFNST語法元素(414)。在其他實例中，視訊編碼器200可在CU層級或另一層級信令傳輸LFNST語法元素。
圖13為說明根據本發明之一或多個技術解碼視訊資料之實例方法的流程圖。在圖13之實例中，視訊解碼器300 (例如，視訊解碼器300之反LFNST單元309)基於當前區塊之區塊大小、當前區塊之模式及LFNST語法元素判定按規範定義之零係數的調零圖案(450)。當前區塊可為CU、TU、CG、子區塊或其他類型之區塊。在一些實例中，LFNST語法元素在TU層級被信令傳輸。在其他實例中，LFNST語法元素在諸如CU層級之另一層級被信令傳輸。在一些實例中，當前區塊為CU且LFNST語法元素針對被信令傳輸
此外，在圖13之實例中，視訊解碼器300 (例如，反LFNST單元309)可判定當前區塊之變換係數(452)。當前區塊之變換係數包括當前區塊之LFNST區中的變換係數及當前區塊之LFNST區之外的變換係數。
在一些實例中，視訊解碼器300基於LFNST語法元素判定經寫碼係數群組及非經寫碼係數群組(CG)之數目。舉例而言，為基於LFNST語法元素判定經寫碼及非經寫碼CG之數目，視訊解碼器300可判定經寫碼CG之數目包括按掃描次序在完全落至調零圖案內的CG之前出現的任何CG。因此，當判定當前區塊之變換係數時，視訊解碼器300可基於CG之數目判定位元串流不包括指示超出經寫碼CG之數目的任何CG之變換係數之值的語法元素。此外，在一些實例中，可能不必要信令傳輸超出經寫碼CG之數目的CG之CBF。避免需要信令傳輸超出經寫碼CG之數目的CG之CBG可提高寫碼效率。
此外，在一些實例中，當前區塊之最後有效係數位置按規範限定於當前區塊中的由調零圖案允許為非零的位置。換言之，視訊解碼器300可判定當前區塊之最後有效係數位置必須不位於當前區塊的在調零圖案中進行調零的區域中。在一些實例中，視訊解碼器300可因此推斷未按規範調零的當前區塊之任何變換係數可為有效係數。因此，可能不必要信令傳輸語法元素以指示當前區塊之最後有效變換係數的位置。避免需要信令傳輸語法元素以指示當前區塊之最後有效變換係數之位置可提高寫碼效率。
作為判定當前區塊之變換係數之部分，視訊解碼器300 (例如反LFNST單元309)可應用反LFNST以判定當前區塊之LFNST區中的一或多個變換係數之值(454)。另外，作為判定變換係數之部分，視訊解碼器300 (例如，反LFNST單元309)可判定在由調零圖案界定的當前區塊之區中當前區塊之變換係數等於0 (456)。
此外，在圖13之實例中，視訊解碼器300 (例如，反變換單元308)可將反變換應用於當前區塊之變換係數以判定當前區塊之殘餘資料(458)。舉例而言，視訊解碼器300可應用反DCT、反DST或其他類型之反變換。
視訊解碼器300 (例如，視訊解碼器300之重建構單元310)可基於當前區塊之殘餘資料重建構當前區塊(460)。舉例而言，視訊解碼器300可將殘餘資料之樣本添加至當前區塊之預測區塊之對應樣本以重建構當前區塊。
圖14為說明根據本發明之一或多個技術編碼視訊資料之實例方法的流程圖。在圖14之實例中，視訊編碼器200可判定視訊資料之當前區塊***成複數個子區塊(500)。舉例而言，視訊編碼器200可基於當前區塊之大小大於臨限值、基於當前區塊之形狀或基於當前區塊之一個或多個其他特徵或當前區塊之內容判定當前區塊***成複數個子區塊。複數個子區塊包括當前區塊之當前子區塊。
此外，在圖14之實例中，視訊編碼器200 (例如，視訊編碼器200之殘餘產生單元204)可產生視訊資料之當前區塊的殘餘資料，該當前區塊之該殘餘資料包括當前子區塊之殘餘資料(502)。舉例而言，視訊編碼器200可藉由自當前區塊之對應樣本減去當前區塊之預測區塊之樣本來產生殘餘。
視訊編碼器200 (例如，視訊編碼器200之變換處理單元206)可將變換應用於殘餘資料以產生當前子區塊之第一變換係數(504)。舉例而言，視訊編碼器200可將DCT、DST或其他類型之變換應用於對應於當前子區塊的殘餘資料之一部分以產生當前子區塊之第一變換係數。
另外，在圖14之實例中，視訊編碼器200 (例如，視訊編碼器200之LFNST單元207)可基於以臨限值為基礎之準則(或以計數為基礎之準則)判定當前子區塊之LFNST語法元素將在位元串流中被信令傳輸(506)。位元串流包含視訊資料之經編碼表示，且LFNST語法元素指示是否將LFNST應用於當前子區塊。
如在本發明別處提供之各種實例中所描述，視訊編碼器200可使用各種以臨限值為基礎之準則及/或以計數為基礎之準則判定LFNST語法元素是否將在位元串流中被信令傳輸。舉例而言，在一些實例中，臨限值固定至恆定值，且視訊編碼器200針對明度分量或色度分量中之至少一者信令傳輸LFNST語法元素，此取決於當前區塊之最後變換係數位置是否小於臨限值。在一些此等實例中，臨限值係基於當前區塊之有效變換係數之最後位置(亦即，最後有效變換係數位置)。或者，在一些此等實例中，視訊編碼器200可基於當前區塊之當前TU相對於當前區塊之第一個出現的TU之相對方位判定臨限值。若CU包括多個TU (諸如，在128×128 CU的情況下)，CU***成大小為64×64之4個TU。視訊編碼器200可接著針對按掃描次序的第一TU而不針對同一CU中之其他TU信令傳輸LFNST語法元素。按掃描次序並非為第一個的其他TU可再次使用來自第一TU的LFNST語法元素。此可減小信令傳輸額外負荷。
在一些實例中，視訊編碼器200可基於當前區塊經雙樹寫碼抑或經單樹寫碼而判定臨限值。舉例而言，當當前區塊經雙樹寫碼時，視訊編碼器200可針對明度及色度單獨地信令傳輸LFNST語法元素。當當前區塊經單樹寫碼時，視訊編碼器200可針對明度信令傳輸LFNST語法元素，但無需針對色度信令傳輸LFNST語法元素。
此外，在一些實例中，視訊編碼器200可基於當前區塊之變換單元之DC分量或當前區塊之DC分量的值而判定臨限值。舉例而言，若DC分量為零，則其不可用於信令傳輸LFNST索引。在一些實例中，視訊編碼器200可基於以下項中之一或多者而判定臨限值：當前區塊之TU之變換係數或當前區塊之變換係數的量值、標準差或統計。
此外，在圖14之實例中，基於LFNST語法元素將在位元串流中被信令傳輸的判定，視訊編碼器200可在子區塊層級在位元串流中信令傳輸LFNST語法元素(508)。舉例而言，在一些實例中，視訊編碼器200可包括transform_unit語法結構中之lfnst_idx語法元素。在此等實例中，LFNST語法元素可僅僅應用於當前區塊之單個TU。在其他實例中，視訊編碼器200可信令傳輸指示是否應用LFNST及若是則應用哪個LFNST核心的另一類型之語法元素。在子區塊層級信令傳輸lfnst_idx語法元素可使LFNST被應用於或不被應用於同一CU之不同子區塊，及/或使不同LFNST核被應用於同一CU之不同子區塊。
視訊編碼器200 (例如，視訊編碼器200之LFNST單元207)可將LFNST應用於當前子區塊之第一變換係數以判定當前子區塊之LFNST區中的一或多個第二變換係數之值(510)。舉例而言，視訊編碼器200可將第一變換係數乘以與LFNST核心相關聯之濾波器係數的矩陣或向量(或執行一個或多個其他數學運算)。
在一些實例中，圖14及圖12之操作可以組合形式使用。舉例而言，在於(414)中信令傳輸LFNST語法元素之前，視訊編碼器200可基於以臨限值為基礎之準則或以計數為基礎之準則而判定當前區塊之子區塊之LFNST語法元素將在包含視訊資料之經編碼表示的位元串流中被信令傳輸。在一些此等實例中，作為判定LFNST語法元素將在位元串流中被信令傳輸之部分，視訊編碼器200可基於以下項中之至少一者而判定臨限值：當前區塊之最後有效變換係數位置；當前子區塊相對於當前區塊之第一個出現的子區塊之相對方位；當前區塊經雙樹寫碼抑或經單樹寫碼；或當前區塊之變換單元之DC分量或當前區塊之DC分量的值。在此等實例中，視訊編碼器200可基於臨限值而判定子區塊之LFNST語法元素在位元串流中被信令傳輸。在一些實例中，圖12及圖14之LFNST語法元素可適用於當前區塊之單個TU或當前區塊之多個TU。
圖15為說明根據本發明之一或多個技術解碼視訊資料之實例方法的流程圖。在圖15之實例中，視訊解碼器300可判定視訊資料之當前區塊***成複數個子區塊(550)。舉例而言，視訊解碼器300可基於當前區塊之大小、當前區塊之形狀、指示當前區塊***成子區塊的經信令傳輸之語法元素及/或其他因素判定當前區塊***成多個子區塊，諸如TU。在圖15之實例中，複數個子區塊包括當前區塊之當前子區塊。
此外，視訊解碼器300 (例如，視訊解碼器300之熵解碼單元302)可基於以臨限值為基礎之準則(或以計數為基礎之準則)判定當前區塊之子區塊的LFNST語法元素在位元串流中被信令傳輸(552)。如在本發明別處提供之各種實例中所描述，視訊解碼器300可使用各種以臨限值為基礎之準則及/或以計數為基礎之準則判定LFNST語法元素是否將在位元串流中被信令傳輸。舉例而言，在一些實例中，臨限值固定至恆定值，且視訊解碼器300針對明度分量或色度分量中之至少一者自位元串流剖析LFNST語法元素，此取決於當前區塊之最後變換係數位置是否小於臨限值。在一些實例中，臨限值係基於當前區塊之最後有效變換係數位置。或者，在一些此等實例中，視訊解碼器300可基於當前區塊之當前TU相對於當前區塊之第一個出現的TU之相對方位而判定臨限值。在一些實例中，視訊解碼器300可基於當前區塊經雙樹寫碼抑或經單樹寫碼而判定臨限值。此外，在一些實例中，視訊解碼器300可基於當前區塊之變換單元之DC分量或當前區塊之DC分量的值而判定臨限值。在一些實例中，視訊解碼器300可基於以下項中之一或多者而判定臨限值：當前區塊之TU之變換係數或當前區塊之變換係數的量值、標準差或統計。
在圖15之實例中，基於LFNST語法元素在位元串流中被信令傳輸的判定，視訊解碼器300 (例如，視訊解碼器300之熵解碼單元302)可自位元串流獲得LFNST語法元素(554)。舉例而言，視訊解碼器300可自位元串流剖析LFNST語法元素。LFNST語法元素(例如，LFNST索引或LFNST旗標)可指示LFNST是否應用於當前子區塊且若是則將哪個LFNST(例如，哪個LFNST核心)應用於當前子區塊。
基於指示LFNST應用於當前子區塊的LFNST語法元素，視訊解碼器300 (例如，LFNST單元309)可應用LFNST之反向以判定當前區塊之子區塊之LFNST區中的一或多個變換係數之值(556)。舉例而言，視訊解碼器300可將子區塊之LFNST區中的經信令傳輸之變換係數與LFNST之矩陣中所指定的值相乘(或執行一或多種其他類型之數學運算)，以判定當前區塊之子區塊之LFNST區中的變換係數。
另外，在圖15之實例中，視訊解碼器300可將反變換應用於當前區塊之子區塊的變換係數以判定當前區塊之子區塊的殘餘資料(558)。舉例而言，視訊解碼器300可應用反DCT、反DST或其他類型之反變換以判定子區塊之殘餘資料。
視訊解碼器300可基於當前區塊之子區塊的殘餘資料重建構當前區塊(560)。舉例而言，視訊解碼器300可將當前區塊之殘餘資料的樣本(包括當前區塊之當前子區塊的殘餘資料之樣本)添加至當前區塊之預測區塊的對應樣本以便重建構當前區塊。
在一些實例中，視訊解碼器300可結合圖13之操作執行圖15之操作。因此，在一些實例中，在於(450)中判定調零圖案之前，視訊解碼器300可基於以臨限值為基礎之或以計數為基礎之準則而判定LFNST語法元素在位元串流中被信令傳輸。在一些此等實例中，作為判定LFNST語法元素在位元串流中被信令傳輸之部分，視訊解碼器300可基於以下項中之至少一者而判定臨限值：當前區塊之最後有效變換係數位置；當前子區塊相對於當前區塊之第一個出現的子區塊之相對方位；當前區塊經雙樹寫碼抑或經單樹寫碼；或當前區塊之變換單元之DC分量或當前區塊之DC分量的值。視訊解碼器300可基於臨限值而判定子區塊之LFNST語法元素在位元串流中被信令傳輸。在一些實例中，圖13及圖15之LFNST語法元素可適用於當前區塊之單個TU或當前區塊之多個TU。
以下內容為根據本發明之一或多種技術的實例之非獨占式清單。
實例1.      一種解碼視訊資料之方法，該方法包含：基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案；判定該當前區塊之係數，其中該當前區塊之該等係數包括該當前區塊之一LFNST區中的係數及該當前區塊之該LFNST區之外的係數，且判定該當前區塊之該等係數包含：應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個係數之值；及判定在由該預定義調零圖案界定的該當前區塊之一區中該當前區塊之係數等於0；將一反變換應用於該當前區塊之該等係數以判定該當前區塊之殘餘資料；及基於該當前區塊之該殘餘資料重建構該當前區塊。
實例2.      一種編碼視訊資料之方法，該方法包含：產生該視訊資料之一當前區塊的殘餘資料；將一變換應用於該殘餘資料以產生該當前區塊之第一係數；判定一低頻非可分離變換(LFNST)語法元素；基於該當前區塊之一區塊大小及該LFNST語法元素判定按規範定義之零係數之一預定義調零圖案；及判定該當前區塊之第二係數，其中該當前區塊包括一LFNST區，且判定該當前區塊之該等第二係數包含：應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二係數之值；及判定在由該預定義調零圖案界定的該區塊之一區中該當前區塊之第二係數等於0。
實例3.      如實例1或2中任一者之方法，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸。
實例4.      如實例1至3中任一者之方法，其進一步包含基於該LFNST語法元素判定經寫碼係數群組及非經寫碼係數群組(CG)之一數目。
實例5.      如實例1至4中任一者之方法，其中一最後係數位置按規範限定於該當前區塊中的由該預定義調零圖案允許為非零的一位置。
實例6.      如實例1至5中任一者之方法，其中一最後係數位置按規範限定於該當前區塊中的一預定位置，其中超出該預定位置的該區塊之係數由該預定義調零圖案界定為待調零。
實例7.      如實例1至6中任一者之方法，其中該當前區塊為一寫碼單元(CU)之一子區塊且該LFNST語法元素針對該CU之子區塊的一子集被信令傳輸。
實例8.      一種解碼視訊資料之方法，該方法包含：判定該視訊資料之一當前區塊***成多個子區塊；基於以臨限值或計數為基礎之一準則而判定該當前區塊的一低頻非可分離變換(LFNST)語法元素在包含該視訊資料之一經編碼表示的一位元串流中被信令傳輸；基於LFNST語法元素在該位元串流中被信令傳輸，自該位元串流獲得該LFNST語法元素；基於該LFNST語法元素指示LFNST應用於該當前區塊：應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個係數之值；及判定在由該預定義調零圖案界定的該當前區塊之一區中該當前區塊之係數等於0；將一反變換應用於該當前區塊之該等係數以判定該當前區塊之殘餘資料；及基於該當前區塊之該殘餘資料重建構該當前區塊。
實例9.      一種編碼視訊資料之方法，該方法包含：判定該視訊資料之一當前區塊***成多個子區塊；產生該視訊資料之該當前區塊的殘餘資料；將一變換應用於該殘餘資料以產生該當前區塊之第一係數；基於以臨限值或計數為基礎之一準則而判定該當前區塊之一低頻非可分離變換(LFNST)語法元素將在包含該視訊資料之一經編碼表示的一位元串流中被信令傳輸，該LFNST語法元素指示LFNST是否應用於該當前區塊；基於該LFNST語法元素將在該位元串流中被信令傳輸的該判定，在該位元串流中信令傳輸該LFNST語法元素；基於一該LFNST語法元素指示LFNST應用於該當前區塊：應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二係數之值；及判定在由該預定義調零圖案界定的該區塊之一區中該當前區塊之第二係數等於0。
實例10.    如實例8或9中任一者之方法，其中該臨限值固定至一恆定值且該LFNST針對一明度分量或一色度分量中之至少一者信令傳輸，此取決於該當前區塊之一最後變換係數位置是否小於該臨限值。
實例11.    如實例8或9中任一者之方法，其中該臨限值係基於該當前區塊之變換係數的一最後位置。
實例12.    如實例8至11中任一者之方法，其中該臨限值基於該當前區塊之一當前變換單元(TU)相對於該當前區塊的一第一個出現之TU的一相對方位而判定。
實例13.    如實例8至12中任一者之方法，其中該臨限值係基於該當前區塊經雙樹寫碼抑或經單樹寫碼。
實例14.    如實例8至13中任一者之方法，其中該臨限值係基於該當前區塊之一變換單元之一DC分量或該當前區塊之一DC分量的一值。
實例15.    如實例8至14中任一者之方法，其中該臨限值係基於以下項中之一或多者：該當前區塊之一TU之變換係數或該當前區塊之變換係數的量值、標準差或統計。
實例16.    如實例8至15中任一者之方法，其中該LFNST語法元素適用於該當前區塊之一單個TU。
實例17.    一種用於寫碼視訊資料之裝置，該裝置包含用於執行實例1至16中任一者之方法的一或多個構件。
實例18.    如實例17之裝置，其中該一或多個構件包含實施在電路系統中之一或多個處理器。
實例19.    如實例17及18中任一者之裝置，其進一步包含儲存該視訊資料之一記憶體。
實例20.    如實例17至19中任一者之裝置，其進一步包含經組態以顯示經解碼視訊資料之一顯示器。
實例21.    如實例17至20中任一者之裝置，其中該裝置包含一攝影機、一電腦、一行動裝置、一廣播接收器裝置或一機上盒中之一或多者。
實例22.    如實例17至21中任一者之裝置，其中該裝置包含一視訊解碼器。
實例23.    如實例17至22中任一者之裝置，其中該裝置包含一視訊編碼器。
實例24.    一種電腦可讀儲存媒體，其上儲存有指令，該等指令在經執行時使一或多個處理器執行如實例1至16中任一者之方法。
應認識到，取決於實例，本文中所描述之技術中之任一者的某些動作或事件可以不同序列執行，可添加、合併或完全省略該等動作或事件(例如，並非所有所描述動作或事件對於該等技術之實踐皆係必要的)。此外，在某些實例中，可例如經由多執行緒處理、中斷處理或多個處理器同時而非依序執行動作或事件。
在一或多個實例中，所描述之功能可實施於硬體、軟體、韌體或其任何組合中。若以軟體實施，則該等功能可作為一或多個指令或程式碼而儲存於電腦可讀媒體上或經由電腦可讀媒體傳輸，且由基於硬體之處理單元執行。電腦可讀媒體可包括電腦可讀儲存媒體，其對應於有形媒體(諸如，資料儲存媒體)，或包括有助於將電腦程式自一處傳送至另一處(例如，根據通信協定)的任何媒體之通信媒體。以此方式，電腦可讀媒體大體可對應於(1)為非暫時形的有形電腦可讀儲存媒體，或(2)通信媒體，諸如，信號或載波。資料儲存媒體可為可由一或多個電腦或一或多個處理器存取以擷取指令、程式碼及/或資料結構以用於實施本發明所描述之技術的任何可用媒體。電腦程式產品可包括電腦可讀媒體。
藉由實例而非限制，此等電腦可讀儲存媒體可包含RAM、ROM、EEPROM、CD-ROM或其他光碟儲存器、磁碟儲存器或其他磁性儲存裝置、快閃記憶體或可用於儲存呈指令或資料結構形式之所要程式碼且可由電腦存取的任何其他媒體。而且，任何連接被恰當地稱為電腦可讀媒體。舉例而言，若使用同軸纜線、光纜、雙絞線、數位用戶線(DSL)或無線技術(諸如紅外線、無線電及微波)自網站、伺服器或其他遠端源傳輸指令，則同軸纜線、光纜、雙絞線、DSL或無線技術(諸如紅外線、無線電及微波)包括於媒體之定義中。然而，應理解，電腦可讀儲存媒體及資料儲存媒體不包括連接、載波、信號或其他暫時性媒體，而係針對非暫時性有形儲存媒體。如本文中所使用，磁碟及光碟包括緊密光碟(CD)、雷射光碟、光學光碟、數位影音光碟(DVD)、軟碟及藍光光碟，其中磁碟通常以磁性方式再現資料，而光碟藉由雷射以光學方式再現資料。以上各物之組合亦應包括於電腦可讀媒體之範疇內。
指令可由一或多個處理器執行，該一或多個處理器諸如一或多個數位信號處理器(DSP)、一般用途微處理器、特殊應用積體電路(ASIC)、場可程式化閘陣列(FPGA)或其他等效的整合或離散邏輯電路。因此，如本文中所使用之術語「處理器」及「處理電路系統」可指上述結構或適用於實施本文中所描述之技術之任何其他結構中的任一者。另外，在一些態樣中，本文所描述之功能可經提供於經組態以供編碼及解碼或併入於經組合編碼解碼器中之專用硬體及/或軟體模組內。又，可在一或多個電路或邏輯元件中充分實施該等技術。
本發明之技術可實施於廣泛多種裝置或設備中，該等裝置或設備包括無線手機、積體電路(IC)或IC之集合(例如，晶片組)。在本發明中描述各種組件、模組或單元以強調經組態以執行所揭示技術之裝置的功能態樣，但未必要求由不同硬體單元來實現。確切而言，如上文所描述，各種單元可與合適的軟體及/或韌體一起組合於編解碼器硬體單元中或由互操作性硬體單元之集合提供，該等硬體單元包括如上文所描述之一或多個處理器。
各種實例已予以描述。此等及其他實例處於以下申請專利範圍之範疇內。
100:視訊編碼及解碼系統 102:源裝置 104:視訊源 106:記憶體 108:輸出介面 110:電腦可讀媒體 112:儲存裝置 114:檔案伺服器 116:目的地裝置 118:顯示裝置 120:記憶體 122:輸入介面 130:四分樹二元樹(QTBT)結構 132:寫碼樹型單元(CTU) 134:可分離變換 135:低頻非可分離變換(LFNST) 136:量化 137:反量化 138:反低頻非可分離變換(LFNST) 139:反變換 140:h×w子區塊 142:區塊 144:1維清單 146:變換係數之子集 150:區塊 152:低頻非可分離變換(LFNST)區 154:1維向量 160:最高頻率變換係數 162:低頻非可分離變換(LFNST)區 164:多重變換選擇(MTS)變換係數 166:1維向量 170:多重變換選擇(MTS)變換係數 172:向量 174:低頻非可分離變換(LFNST)區 200:視訊編碼器 202:模式選擇單元 204:殘餘產生單元 206:變換處理單元 207:低頻非可分離變換(LFNST)單元 208:量化單元 210:反量化單元 212:反變換處理單元 213:反低頻非可分離變換(LFNST)單元 214:重建構單元 216:濾波器單元 218:經解碼圖像緩衝器(DPB) 220:熵編碼單元 222:運動估計單元 224:運動補償單元 226:框內預測單元 230:視訊資料記憶體 300:視訊解碼器 302:熵解碼單元 304:預測處理單元 306:反量化單元 308:反變換處理單元 309:反低頻非可分離變換(LFNST)單元 310:重建構單元 312:濾波器單元 314:經解碼圖像緩衝器(DPB) 316:運動補償單元 318:框內預測單元 320:經寫碼圖像緩衝器(CPB)記憶體 350:步驟 352:步驟 354:步驟 356:步驟 358:步驟 360:步驟 362:步驟 370:步驟 372:步驟 374:步驟 376:步驟 378:步驟 380:步驟 382:步驟 400:步驟 402:步驟 404:步驟 406:步驟 408:步驟 410:步驟 412:步驟 414:步驟 450:步驟 452:步驟 454:步驟 456:步驟 458:步驟 460:步驟 500:步驟 502:步驟 504:步驟 506:步驟 508:步驟 510:步驟 512:步驟 514:步驟 550:步驟 552:步驟 554:步驟 556:步驟 558:步驟 560:步驟 562:步驟 564:步驟
圖1為說明可執行本發明之技術之實例視訊編碼及解碼系統的方塊圖。
圖2A及圖2B為說明實例四分樹二元樹(QTBT)結構及對應寫碼樹型單元(CTU)之概念圖。
圖3A為視訊編碼器處的低頻非可分離變換(LFNST)之圖示。
圖3B為視訊解碼器處的反LFNST之圖示。
圖4為說明在將大小為N之LFNST應用於h×w子區塊之後運用調零獲得的實例變換係數之概念圖，其中N中之Z個變換係數調零，且K個變換係數保留。
圖5為藉由應用LFNST而不運用調零獲得的LFNST變換係數之概念說明。
圖6為藉由應用LFNST且將LFNST區中之Z個最高頻率變換係數及LFNST區之外的多重變換選擇(MTS)變換係數兩者調零而獲得的LFNST變換係數之圖示。
圖7為藉由應用LFNST且僅僅將LFNST區之外的MTS變換係數調零的LFNST變換係數之圖示。
圖8為說明可執行本發明之技術的實例視訊編碼器之方塊圖。
圖9為說明可執行本發明之技術的實例視訊解碼器之方塊圖。
圖10為說明用於編碼當前區塊之實例方法之流程圖。
圖11為說明用於解碼視訊資料之當前區塊之實例方法的流程圖。
圖12為說明根據本發明之一或多個技術編碼視訊資料之實例方法的流程圖。
圖13為說明根據本發明之一或多個技術解碼視訊資料之實例方法的流程圖。
圖14為說明根據本發明之一或多個技術編碼視訊資料之實例方法的流程圖。
圖15為說明根據本發明之一或多個技術解碼視訊資料之實例方法的流程圖。
450:步驟
452:步驟
454:步驟
456:步驟
458:步驟
460:步驟

Claims (39)

  1. 一種解碼視訊資料之方法，該方法包含： 基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸； 判定該當前區塊之變換係數，其中該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數，且判定該當前區塊之該等變換係數包含： 應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值；及 判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0； 將一反變換應用於該當前區塊之該等變換係數以判定該當前區塊之殘餘資料；及 基於該當前區塊之該殘餘資料重建構該當前區塊。
  2. 如請求項1之方法，其進一步包含基於該LFNST語法元素判定經寫碼係數群組及非經寫碼係數群組(CG)之一數目。
  3. 如請求項1之方法，其中該當前區塊之一最後有效係數位置按規範限定於該當前區塊中的由該調零圖案允許為非零的一位置。
  4. 如請求項1之方法，其中該當前區塊為一寫碼單元(CU)之一子區塊。
  5. 如請求項1之方法，其進一步包含： 判定該當前區塊***成複數個子區塊，該複數個子區塊包括該當前區塊之一當前子區塊，其中該LFNST語法元素係用於該當前區塊之一子區塊，且該當前區塊之該LFNST區為該子區塊之一LFNST區； 基於以臨限值為基礎之準則而判定該當前區塊之該子區塊的該LFNST語法元素在包含該視訊資料之一經編碼表示的一位元串流中被信令傳輸；及 基於該LFNST語法元素在該位元串流中被信令傳輸的一判定，自該位元串流獲得該LFNST語法。
  6. 如請求項5之方法，其中一臨限值固定至一恆定值，且判定該LFNST語法元素在該位元串流中被信令傳輸包含判定該LFNST語法元素針對一明度分量或一色度分量中之至少一者在該位元串流中被信令傳輸，此取決於該當前區塊之一最後變換係數位置是否小於該臨限值。
  7. 如請求項5之方法，其中判定該LFNST語法元素在該位元串流中被信令傳輸包含： 基於以下項中之至少一者而判定一臨限值： 該當前區塊之有效變換係數的一最後位置， 該當前子區塊相對於該當前區塊之一第一個出現的子區塊之一相對方位， 該當前區塊經雙樹寫碼抑或經單樹寫碼，或 該當前區塊之一變換單元之一DC分量或該當前區塊之一DC分量的一值；及 基於該臨限值而判定該子區塊之該LFNST語法元素在該位元串流中被信令傳輸。
  8. 如請求項1之方法，其中該LFNST語法元素適用於該當前區塊之一單個TU。
  9. 一種編碼視訊資料之方法，該方法包含： 產生該視訊資料之一當前區塊的殘餘資料； 將一變換應用於該殘餘資料以產生該當前區塊之第一變換係數； 判定按規範定義之調零變換係數的一調零圖案； 判定該當前區塊之第二變換係數，其中該當前區塊包括一低頻非可分離變換(LFNST)區，且判定該當前區塊之該等第二變換係數包含： 應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二變換係數之值；及 判定在由該調零圖案界定的該區塊之一區中該當前區塊之該等第二變換係數等於0； 判定一LFNST語法元素，其中該LFNST語法元素結合該當前區塊之一模式及該當前區塊之一大小指定該LFNST；及 在一變換單元(TU)層級信令傳輸該LFNST語法元素。
  10. 如請求項9之方法，其進一步包含基於該LFNST語法元素判定經寫碼係數群組及非經寫碼係數群組(CG)之一數目。
  11. 如請求項9之方法，其中該當前區塊之一最後有效係數位置按規範限定於該當前區塊中的由該調零圖案允許為非零的一位置。
  12. 如請求項9之方法，其中該當前區塊為一寫碼單元(CU)之一子區塊，且該LFNST語法元素針對該CU之子區塊的一子集被信令傳輸。
  13. 如請求項9之方法，其中： 該方法進一步包含： 判定該當前區塊***成複數個子區塊，該複數個子區塊包括該當前區塊之一當前子區塊，其中該LFNST語法元素係用於該當前區塊之一子區塊，且該當前區塊之該LFNST區為該子區塊之一LFNST區； 基於以臨限值為基礎之準則而判定該當前區塊之該子區塊的該LFNST語法元素將在包含該視訊資料之一經編碼表示的一位元串流中被信令傳輸，且 在該TU層級信令傳輸該LFNST語法元素包含：基於該LFNST語法元素將在該位元串流中被信令傳輸的一判定，在該位元串流中信令傳輸該LFNST語法。
  14. 如請求項13之方法，其中一臨限值固定至一恆定值，且判定該LFNST語法元素將在該位元串流中被信令傳輸包含判定該LFNST語法元素將針對一明度分量或一色度分量中之至少一者在該位元串流中被信令傳輸，此取決於該當前區塊之一最後變換係數位置是否小於該臨限值。
  15. 如請求項13之方法，其中判定該LFNST語法元素將在該位元串流中被信令傳輸包含： 基於以下項中之至少一者而判定一臨限值： 該當前區塊之一最後有效變換係數位置， 該當前子區塊相對於該當前區塊之一第一個出現的子區塊之一相對方位， 該當前區塊經雙樹寫碼抑或經單樹寫碼，或 該當前區塊之一變換單元之一DC分量或該當前區塊之一DC分量的一值；及 基於該臨限值而判定該子區塊之該LFNST語法元素在該位元串流中被信令傳輸。
  16. 如請求項9之方法，其中該LFNST語法元素適用於該當前區塊之一單個TU。
  17. 一種用於解碼視訊資料之裝置，該裝置包含： 一記憶體，其用以儲存該視訊資料；及 實施於電路系統中之一或多個處理器，該一或多個處理器經組態以： 基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸； 判定該當前區塊之變換係數，其中該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數，且該一或多個處理器經組態使得作為判定該當前區塊之該等變換係數之部分，該一或多個處理器： 應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值；及 判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0； 將一反變換應用於該當前區塊之該等變換係數以判定該當前區塊之殘餘資料；及 基於該當前區塊之該殘餘資料重建構該當前區塊。
  18. 如請求項17之裝置，其中該一或多個處理器經進一步組態以基於該LFNST語法元素判定經寫碼係數群組及非經寫碼係數群組(CG)之一數目。
  19. 如請求項17之裝置，其中該當前區塊之一最後有效係數位置按規範限定於該當前區塊中的由該調零圖案允許為非零的一位置。
  20. 如請求項17之裝置，其中該當前區塊為一寫碼單元(CU)之一子區塊。
  21. 如請求項17之裝置，其中該一或多個處理器經進一步組態以： 判定該當前區塊***成複數個子區塊，該複數個子區塊包括該當前區塊之一當前子區塊，其中該LFNST語法元素係用於該當前區塊之一子區塊，且該當前區塊之該LFNST區為該子區塊之一LFNST區； 基於以臨限值為基礎之準則而判定該當前區塊之該子區塊的該LFNST語法元素在包含該視訊資料之一經編碼表示的一位元串流中被信令傳輸；及 基於該LFNST語法元素在該位元串流中被信令傳輸的一判定，自該位元串流獲得該LFNST語法。
  22. 如請求項21之裝置，其中一臨限值固定至一恆定值，且該一或多個處理器經組態使得作為判定該LFNST語法元素在該位元串流中被信令傳輸之部分，該一或多個處理器判定該LFNST語法元素針對一明度分量或一色度分量中之至少一者在該位元串流中被信令傳輸，此取決於該當前區塊之一最後變換係數位置是否小於該臨限值。
  23. 如請求項21之裝置，其中該一或多個處理器經組態使得作為判定該LFNST語法元素在該位元串流中被信令傳輸之部分，該一或多個處理器： 基於以下項中之至少一者而判定一臨限值： 該當前區塊之一最後有效變換係數位置， 該當前子區塊相對於該當前區塊之一第一個出現的子區塊之一相對方位， 該當前區塊經雙樹寫碼抑或經單樹寫碼，或 該當前區塊之一變換單元之一DC分量或該當前區塊之一DC分量的一值；及 基於該臨限值而判定該子區塊之該LFNST語法元素在該位元串流中被信令傳輸。
  24. 如請求項21之裝置，其中該LFNST語法元素適用於該當前區塊之一單個TU。
  25. 如請求項17之裝置，其進一步包含經組態以顯示經解碼視訊資料之一顯示器。
  26. 如請求項17之裝置，其中該裝置包含以下中之一或多者：一攝影機、一電腦、一行動裝置、一廣播接收器裝置或一機上盒。
  27. 一種用於編碼視訊資料之裝置，該裝置包含： 一記憶體，其用以儲存該視訊資料；及 實施於電路系統中之一或多個處理器，該一或多個處理器經組態以： 產生該視訊資料之一當前區塊的殘餘資料； 將一變換應用於該殘餘資料以產生該當前區塊之第一變換係數； 判定按規範定義之調零變換係數的一調零圖案； 判定該當前區塊之第二變換係數，其中該當前區塊包括一低頻非可分離變換(LFNST)區，且該一或多個處理器經組態使得作為判定該當前區塊之該等第二變換係數之部分，該一或多個處理器： 應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二變換係數之值；及 判定在由該調零圖案界定的該區塊之一區中該當前區塊之該等第二變換係數等於0； 判定一LFNST語法元素，其中該LFNST語法元素結合該當前區塊之一模式及該當前區塊之一大小指定該LFNST；及 在一變換單元(TU)層級信令傳輸該LFNST語法元素。
  28. 如請求項27之裝置，其中該一或多個處理器經進一步組態以基於該LFNST語法元素判定經寫碼係數群組及非經寫碼係數群組(CG)之一數目。
  29. 如請求項27之裝置，其中該當前區塊之一最後有效係數位置按規範限定於該當前區塊中的由該調零圖案允許為非零的一位置。
  30. 如請求項27之裝置，其中該當前區塊為一寫碼單元(CU)之一子區塊，且該LFNST語法元素針對該CU之子區塊的一子集被信令傳輸。
  31. 如請求項27之裝置，其中： 該一或多個處理器經進一步組態以： 判定該當前區塊***成複數個子區塊，該複數個子區塊包括該當前區塊之一當前子區塊，其中該LFNST語法元素係用於該當前區塊之一子區塊，且該當前區塊之該LFNST區為該子區塊之一LFNST區； 基於以臨限值為基礎之準則而判定該當前區塊之該子區塊的該LFNST語法元素在包含該視訊資料之一經編碼表示的一位元串流中被信令傳輸，且 該一或多個處理器經組態使得作為在該TU層級信令傳輸該LFNST語法元素之部分，該一或多個處理器：基於該LFNST語法元素將在該位元串流中被信令傳輸的一判定，在該位元串流中信令傳輸該LFNST語法。
  32. 如請求項31之裝置，其中一臨限值固定至一恆定值，且該一或多個處理器經組態使得作為判定該LFNST語法元素將在該位元串流中被信令傳輸之部分，該一或多個處理器判定該LFNST語法元素將針對一明度分量或一色度分量中之至少一者在該位元串流中被信令傳輸，此取決於該當前區塊之一最後變換係數位置是否小於該臨限值。
  33. 如請求項31之裝置，其中該一或多個處理器經組態使得作為判定該LFNST語法元素將在該位元串流中被信令傳輸之部分，該一或多個處理器： 基於以下項中之至少一者而判定一臨限值： 該當前區塊之一最後有效變換係數位置， 該當前子區塊相對於該當前區塊之一第一個出現的子區塊之一相對方位， 該當前區塊經雙樹寫碼抑或經單樹寫碼，或 該當前區塊之一變換單元之一DC分量或該當前區塊之一DC分量的一值；及 基於該臨限值而判定該子區塊之該LFNST語法元素在該位元串流中被信令傳輸。
  34. 如請求項27之裝置，其中該LFNST語法元素適用於該當前區塊之一單個TU。
  35. 如請求項27之裝置，其中該裝置包含以下中之一或多者：一攝影機、一電腦、一行動裝置、一廣播接收器裝置或一機上盒。
  36. 一種解碼視訊資料之裝置，該裝置包含： 用於基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案的構件，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸； 用於判定該當前區塊之變換係數的構件，其中該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數，且該用於判定該當前區塊之該等變換係數的構件包含： 用於應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值的構件；及 用於判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0的構件； 用於將一反變換應用於該當前區塊之該等變換係數以判定該當前區塊之殘餘資料的構件；及 用於基於該當前區塊之該殘餘資料重建構該當前區塊的構件。
  37. 一種用於編碼視訊資料之裝置，該裝置包含： 用於產生該視訊資料之一當前區塊的殘餘資料的構件； 用於將一變換應用於該殘餘資料以產生該當前區塊之第一變換係數的構件； 用於判定按規範定義之調零變換係數的一調零圖案的構件； 用於判定該當前區塊之第二變換係數的構件，其中該當前區塊包括一低頻非可分離變換(LFNST)區，且該用於判定該當前區塊之該等第二變換係數的構件包含： 用於應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二變換係數之值的構件；及 用於判定在由該調零圖案界定的該區塊之一區中該當前區塊之該等第二變換係數等於0的構件； 用於判定一LFNST語法元素的構件，其中該LFNST語法元素結合該當前區塊之一模式及該當前區塊之一大小指定該LFNST；及 用於在一變換單元(TU)層級信令傳輸該LFNST語法元素的構件。
  38. 一種電腦可讀資料儲存媒體，其上儲存有指令，該等指令在經執行時使一或多個處理器： 基於一當前區塊之一區塊大小及一低頻非可分離變換(LFNST)語法元素而判定按規範定義之零係數的一調零圖案，其中該LFNST語法元素在一變換單元(TU)層級被信令傳輸； 判定該當前區塊之變換係數，其中該當前區塊之該等變換係數包括該當前區塊之一LFNST區中的變換係數及該當前區塊之該LFNST區之外的變換係數，且使該一或多個處理器判定該當前區塊之該等變換係數的該等指令使該一或多個處理器： 應用一反LFNST以判定該當前區塊之該LFNST區中的一或多個變換係數之值；及 判定在由該調零圖案界定的該當前區塊之一區中該當前區塊之變換係數等於0； 將一反變換應用於該當前區塊之該等變換係數以判定該當前區塊之殘餘資料；及 基於該當前區塊之該殘餘資料重建構該當前區塊。
  39. 一種電腦可讀資料儲存媒體，其上儲存有指令，該等指令在經執行時使一或多個處理器： 產生該視訊資料之一當前區塊的殘餘資料； 將一變換應用於該殘餘資料以產生該當前區塊之第一變換係數； 判定按規範定義之調零變換係數的一調零圖案； 判定該當前區塊之第二變換係數，其中該當前區塊包括一低頻非可分離變換(LFNST)區，且使該一或多個處理器判定該當前區塊之該等第二變換係數的該等指令使該一或多個處理器： 應用一LFNST以判定該當前區塊之該LFNST區中的一或多個第二變換係數之值；及 判定在由該調零圖案界定的該區塊之一區中該當前區塊之該等第二變換係數等於0； 判定一LFNST語法元素，其中該LFNST語法元素結合該當前區塊之一模式及該當前區塊之一大小指定該LFNST；及 在一變換單元(TU)層級信令傳輸該LFNST語法元素。
TW109119952A 2019-06-14 2020-06-12 用於視訊寫碼中低頻非可分離變換之變換及最後有效係數位置信令傳輸 TW202114418A (zh)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201962861828P 2019-06-14 2019-06-14
US62/861,828 2019-06-14
US201962868346P 2019-06-28 2019-06-28
US62/868,346 2019-06-28
US16/899,063 US11695960B2 (en) 2019-06-14 2020-06-11 Transform and last significant coefficient position signaling for low-frequency non-separable transform in video coding
US16/899,063 2020-06-11

Publications (1)

Publication Number Publication Date
TW202114418A true TW202114418A (zh) 2021-04-01

Family

ID=73745300

Family Applications (1)

Application Number Title Priority Date Filing Date
TW109119952A TW202114418A (zh) 2019-06-14 2020-06-12 用於視訊寫碼中低頻非可分離變換之變換及最後有效係數位置信令傳輸

Country Status (9)

Country Link
US (2) US11695960B2 (zh)
EP (1) EP3984234A1 (zh)
KR (1) KR20220020266A (zh)
CN (1) CN113940069A (zh)
AU (1) AU2020291013A1 (zh)
BR (1) BR112021024515A2 (zh)
SG (1) SG11202112627SA (zh)
TW (1) TW202114418A (zh)
WO (1) WO2020252279A1 (zh)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11172211B2 (en) * 2019-04-04 2021-11-09 Tencent America LLC Method and apparatus for video coding
KR20230088845A (ko) * 2019-06-25 2023-06-20 삼성전자주식회사 2차 변환을 이용하는 비디오 신호 처리 방법 및 장치
WO2021010687A1 (ko) * 2019-07-12 2021-01-21 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
WO2021010680A1 (ko) * 2019-07-12 2021-01-21 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
KR20220031062A (ko) * 2019-08-08 2022-03-11 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
CN117459742A (zh) * 2019-09-21 2024-01-26 Lg电子株式会社 编码/解码设备及数据发送设备
BR112022005040A2 (pt) * 2019-09-21 2022-06-21 Lg Electronics Inc Método de codificação de imagem baseado em transformada e dispositivo para o mesmo
KR20220045049A (ko) * 2019-09-21 2022-04-12 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
CN114651445B (zh) 2019-09-21 2024-01-26 Lg电子株式会社 基于变换的视频编码方法及其装置
US20220353504A1 (en) * 2019-09-23 2022-11-03 Lg Electronics Inc. Image coding method based on transform, and device therefor
KR20220050966A (ko) * 2019-09-25 2022-04-25 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
MX2022003996A (es) * 2019-10-04 2022-04-26 Lg Electronics Inc Metodo de codificacion de imagenes a base de transformacion, y dispositivo para el mismo.
WO2021071342A1 (ko) * 2019-10-11 2021-04-15 한국전자통신연구원 변환 정보 부호화/복호화를 위한 방법, 장치 및 비트스트림 저장 매체
WO2021141478A1 (ko) * 2020-01-12 2021-07-15 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
CN113727103B (zh) * 2020-05-25 2022-08-12 腾讯科技（深圳）有限公司 视频编码、解码方法、装置、电子设备及存储介质
US11206428B1 (en) 2020-07-14 2021-12-21 Tencent America LLC Method and apparatus for frequency-dependent joint component secondary transform
US20220150518A1 (en) * 2020-11-11 2022-05-12 Tencent America LLC Method and apparatus for video coding
EP4356608A1 (en) * 2021-06-14 2024-04-24 InterDigital CE Patent Holdings, SAS Coding of last significant coefficient in a block of a picture
US20230112642A1 (en) * 2021-10-13 2023-04-13 Tencent America LLC Adaptive multiple transform set selection
WO2023114468A1 (en) * 2021-12-16 2023-06-22 Beijing Dajia Internet Information Technology Co., Ltd. Sign prediction for block-based video coding

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2492333B (en) * 2011-06-27 2018-12-12 British Broadcasting Corp Video encoding and decoding using transforms
US9124872B2 (en) 2012-04-16 2015-09-01 Qualcomm Incorporated Coefficient groups and coefficient coding for coefficient scans
US9538175B2 (en) 2012-09-26 2017-01-03 Qualcomm Incorporated Context derivation for context-adaptive, multi-level significance coding
US10306229B2 (en) 2015-01-26 2019-05-28 Qualcomm Incorporated Enhanced multiple transforms for prediction residual
US10681379B2 (en) 2015-09-29 2020-06-09 Qualcomm Incorporated Non-separable secondary transform for video coding with reorganizing
US10448053B2 (en) 2016-02-15 2019-10-15 Qualcomm Incorporated Multi-pass non-separable transforms for video coding
US10349085B2 (en) 2016-02-15 2019-07-09 Qualcomm Incorporated Efficient parameter storage for compact multi-pass transforms
US10708164B2 (en) 2016-05-03 2020-07-07 Qualcomm Incorporated Binarizing secondary transform index
CN109076243B (zh) 2016-05-04 2022-01-25 夏普株式会社 用于对变换数据进行编码的***和方法
US10972733B2 (en) 2016-07-15 2021-04-06 Qualcomm Incorporated Look-up table for enhanced multiple transform
US10674165B2 (en) * 2016-12-21 2020-06-02 Arris Enterprises Llc Constrained position dependent intra prediction combination (PDPC)
US10855997B2 (en) 2017-04-14 2020-12-01 Mediatek Inc. Secondary transform kernel size selection
CN117354512A (zh) * 2017-07-28 2024-01-05 韩国电子通信研究院 图像编码方法和图像解码方法以及计算机可读记录介质
US10863199B2 (en) 2018-03-26 2020-12-08 Qualcomm Incorporated Minimization of transform memory and latency via parallel factorizations
TWI731322B (zh) 2018-03-29 2021-06-21 弗勞恩霍夫爾協會 變換組
US10986340B2 (en) 2018-06-01 2021-04-20 Qualcomm Incorporated Coding adaptive multiple transform information for video coding
CN115379216A (zh) 2018-06-03 2022-11-22 Lg电子株式会社 视频信号的解码、编码和发送设备及存储视频信号的介质
US11025909B2 (en) 2019-03-21 2021-06-01 Tencent America LLC Method and apparatus for video coding
US11240534B2 (en) 2019-04-05 2022-02-01 Qualcomm Incorporated Extended multiple transform selection for video coding
CN113711607B (zh) * 2019-04-16 2023-10-10 寰发股份有限公司 用适应性次要变换信令编解码视频数据的方法以及装置
US11032572B2 (en) 2019-05-17 2021-06-08 Qualcomm Incorporated Low-frequency non-separable transform signaling based on zero-out patterns for video coding
US11212545B2 (en) * 2019-06-07 2021-12-28 Tencent America LLC Method and apparatus for improved implicit transform selection

Also Published As

Publication number Publication date
WO2020252279A1 (en) 2020-12-17
SG11202112627SA (en) 2021-12-30
EP3984234A1 (en) 2022-04-20
US20200396487A1 (en) 2020-12-17
BR112021024515A2 (pt) 2022-01-18
AU2020291013A1 (en) 2021-12-16
CN113940069A (zh) 2022-01-14
KR20220020266A (ko) 2022-02-18
US20230412844A1 (en) 2023-12-21
US11695960B2 (en) 2023-07-04

Similar Documents

Publication Publication Date Title
TW202114418A (zh) 用於視訊寫碼中低頻非可分離變換之變換及最後有效係數位置信令傳輸
US11032572B2 (en) Low-frequency non-separable transform signaling based on zero-out patterns for video coding
TW202101989A (zh) 用於視訊寫碼之參考圖像重採樣及框間寫碼工具
TW202019178A (zh) 用於係數寫碼之規則寫碼位元子之減少
TW202044839A (zh) 用於視訊寫碼之區塊內複製合併資料語法
TW202106012A (zh) 用於視訊寫碼之多重自適應迴路濾波器集合
TW202110182A (zh) 視訊寫碼中用於變換略過模式及調色板模式之最小允許量化參數
TW202123699A (zh) 具有協調的運動場儲存及運動補償的幾何分區模式
TW202106005A (zh) 視訊寫碼中之簡化色度內模式寫碼
US11412262B2 (en) Nonlinear extensions of adaptive loop filtering for video coding
TW202041009A (zh) 用於轉換跳過模式之係數寫碼
TW202046721A (zh) 用於視訊寫碼之以梯度為基礎的預測細化
TW202041014A (zh) 視訊寫碼中之運動向量推導
TW202046740A (zh) 適應性迴路濾波器組之索引發信
TWI826487B (zh) 用於視訊寫碼中之適應性運動向量差解析度及增加的運動向量儲存精確度的運動向量捨位
TW202038609A (zh) 用於視訊寫碼之共享候選清單及平行候選清單推導
TW202034695A (zh) 用於視訊寫碼之限制仿射運動繼承
TW202044833A (zh) 使用不同色度格式之三角預測單元模式中之視訊寫碼
TW202107895A (zh) 發訊色度量化參數(qp)映射表
TW202029774A (zh) 藉由轉換域濾波之量化假影抑制及信號恢復
TW202123711A (zh) 解碼器側優化工具開關控制
TW202112135A (zh) 用於視訊寫碼之色度內預測單元
TW202101996A (zh) 用於視訊寫碼之以梯度為基礎之預測精細化
TW202031049A (zh) 用於係數寫碼之規則寫碼位元子之減少
TW202106013A (zh) 用於視訊寫碼中之自適應迴路濾波器之剪切索引寫碼