KR20210151248A - 적응 루프 필터를 사용하는 인코더, 디코더 및 대응하는 방법들 - Google Patents

적응 루프 필터를 사용하는 인코더, 디코더 및 대응하는 방법들 Download PDF

Info

Publication number
KR20210151248A
KR20210151248A KR1020217039375A KR20217039375A KR20210151248A KR 20210151248 A KR20210151248 A KR 20210151248A KR 1020217039375 A KR1020217039375 A KR 1020217039375A KR 20217039375 A KR20217039375 A KR 20217039375A KR 20210151248 A KR20210151248 A KR 20210151248A
Authority
KR
South Korea
Prior art keywords
syntax element
value
clipping
alf
current block
Prior art date
Application number
KR1020217039375A
Other languages
English (en)
Inventor
아난드 메허 코트라
세미흐 에센릭
젠러 천
한 가오
뱌오 왕
Original Assignee
후아웨이 테크놀러지 컴퍼니 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 후아웨이 테크놀러지 컴퍼니 리미티드 filed Critical 후아웨이 테크놀러지 컴퍼니 리미티드
Publication of KR20210151248A publication Critical patent/KR20210151248A/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 개시내용은 디코딩 디바이스에 의해 구현되는, 코딩의 방법을 제공하고, 이러한 방법은, 비트스트림을 획득하는 단계- 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -; 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -; 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하는 단계를 포함한다. 본 명세서에서 고정 길이 코드는 신택스 엘리먼트의 모든 가능한 값들이 동일한 수의 비트를 사용하여 시그널링된다는 점을 의미한다.

Description

적응 루프 필터를 사용하는 인코더, 디코더 및 대응하는 방법들
<관련 출원들에 대한 상호-참조>
본 특허 출원은 2019년 5월 4일자로 출원된 미국 임시 특허 출원 제62/843,431호에 대한 우선권을 주장한다. 전술된 특허 출원의 개시내용은 그 전체가 본 명세서에 참조로 통합된다.
<기술 분야>
본 출원(개시내용)의 실시예들은 일반적으로 화상 처리 분야에 그리고 더 구체적으로는 화상에서의 블록들의 샘플들을 필터링하는 것에 관련된다.
비디오 코딩(비디오 인코딩 및 디코딩)은 광범위한 디지털 비디오 애플리케이션들, 예를 들어, 방송 디지털 TV, 인터넷 및 모바일 네트워크들을 통한 비디오 송신, 비디오 채팅과 같은 실시간 대화 애플리케이션들, 비디오 회의, DVD 및 Blu-ray 디스크들, 비디오 콘텐츠 취득 및 편집 시스템들, 및 보안 애플리케이션들의 캠코더들에서 사용된다.
심지어 비교적 짧은 비디오를 묘사하기 위해 필요한 비디오 데이터의 양은 상당할 수 있으며, 이는 데이터가 대역폭 용량이 제한된 통신 네트워크에 걸쳐 스트리밍되거나 또는 달리 통신되어야 할 때 어려움들을 초래할 수 있다. 따라서, 비디오 데이터는 현대의 통신 네트워크들에 걸쳐 통신되기 전에 일반적으로 압축된다. 메모리 리소스들이 제한될 수 있기 때문에 비디오가 저장 디바이스 상에 저장될 때 비디오의 크기가 또한 쟁점일 수 있다. 비디오 압축 디바이스들은 소스에서 소프트웨어 및/또는 하드웨어를 종종 사용하여 송신 또는 저장 이전에 비디오 데이터를 코딩하고, 그렇게 함으로써 디지털 비디오 이미지를 표현하기 위해 필요한 데이터의 수량을 감소시킨다. 비디오 데이터를 디코딩하는 비디오 압축해제 디바이스에 의해 목적지에서 압축된 데이터가 다음으로 수신된다. 네트워크 리소스들이 제한되고 더 높은 비디오 품질의 요구들이 계속 증가함에 따라, 화상 품질에서의 희생이 거의 없이 또는 전혀 없이 압축 비율을 개선하는 개선된 압축 및 압축해제 기법들이 바람직하다.
본 출원의 실시예들은 독립 청구항들에 따른 인코딩 및 디코딩을 위한 장치들 및 방법들을 제공한다.
전술한 목적 및 다른 목적은 독립 청구항들의 주제(subject matter)에 의해 달성된다. 추가의 구현 형태들은 종속 청구항들, 상세한 설명 및 도면들로부터 명백하다.
본 개시내용의 제1 양태에 따르면, 디코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은,
비트스트림을 획득하는 단계- 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -; 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -; 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하는 단계를 포함한다. 본 명세서에서 고정 길이 코드는 신택스 엘리먼트의 모든 가능한 값들이 동일한 수의 비트를 사용하여 시그널링된다는 점을 의미한다. 이러한 것은 클리핑 파라미터들을 시그널링하는 더 간단한 방법을 제공한다. 추가로, 코딩 효율이 개선된다.
이와 같이 제1 양태에 따른 방법의 가능한 구현 형태에서, 현재 블록에 대한 신택스 엘리먼트의 값은 적어도 하나의 비트만을 사용하여 획득된다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 적어도 하나의 비트는 2 비트이다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트의 값을 표현한다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 크로마 적응 루프 필터 또는 루마 적응 루프 필터에 대한 것이다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 클리핑 값은 타겟 샘플 값과 근처 샘플 값 사이의 차이를 제한(또는 클리핑)하기 위해 사용되는 클리핑 범위를 결정하기 위해 사용되고, 제한된 샘플 값 차이(또는 클리핑된 샘플 값 차이)는 ALF의 프로세스에서 타겟 샘플 값을 수정하기 위해 사용된다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하는 단계는, 신택스 엘리먼트의 값에 기초하여 클리핑 값을 획득하는 단계; 클리핑 값을 사용하여 현재 블록의 타겟 샘플 값과 근처 샘플 값 사이의 차이를 제한(또는 클리핑)하는 단계; 제한된 샘플 값 차이(또는 클리핑된 샘플 값 차이)에 ALF(adaptive loop filter)의 계수로 승산하는 단계; 승산의 결과를 사용하여 타겟 샘플 값을 수정하는 단계를 포함한다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 클리핑 값은 신택스 엘리먼트에 의해 명시되는 클리핑 인덱스 및 클리핑 인덱스들과 클리핑 값들 사이의 매핑을 사용하여 결정된다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 고정 길이 코드는 적어도 하나의 비트를 사용하는 무부호 정수의 2진 표현을 포함한다. 다시 말해서, 적어도 하나의 비트는 신택스 엘리먼트의 값의 2진 표현이고, 신택스 엘리먼트의 값은 무부호 정수이다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 블록들의 세트에 적용되고, 현재 블록은 블록들의 세트에서의 하나의 블록이다.
이와 같이 임의의 선행하는 구현 또는 제1 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 슬라이스 레벨에 있다.
본 개시내용의 제2 양태에 따르면, 디코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은,
비트스트림을 획득하는 단계- 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 및/또는 ALF 계수 파라미터임 -; 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 현재 블록에 대한 신택스 엘리먼트의 값은 신택스 엘리먼트의 적어도 하나의 비트만을 사용하여 획득됨 -; 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하는 단계를 포함한다.
이와 같이 제2 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩된다.
선행하는 구현에 따른 방법의 가능한 구현 형태에서, 고정 길이 코드는 적어도 하나의 비트를 사용하는 무부호 정수의 2진 표현을 포함한다. 다시 말해서, 적어도 하나의 비트는 신택스 엘리먼트의 값의 2진 표현이고, 신택스 엘리먼트의 값은 무부호 정수이다.
이와 같이 제2 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트 자체는 신택스 엘리먼트의 값을 정의한다.
이와 같이 제2 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트의 값을 표현한다.
이와 같이 제2 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, ALF 클리핑 값 인덱스는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시한다.
이와 같이 제2 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, ALF 계수 파라미터는 ALF의 계수를 획득하기 위해 사용된다.
이와 같이 제2 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 현재 블록에 대한 신택스 엘리먼트의 값이 신택스 엘리먼트의 적어도 하나의 비트만을 사용하여 획득된다는 것은 신택스 엘리먼트의 값이 신택스 엘리먼트 자체에 의해 정의된다는 것을 의미한다.
이와 같이 제2 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 블록들의 세트에 적용되고 현재 블록은 블록들의 세트에서의 하나의 블록이다.
이와 같이 제2 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 슬라이스 레벨에 있다.
이와 같이 제2 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, ALF 계수 파라미터는 ALF 계수를 결정하기 위해 사용된다.
이와 같이 제1 양태 또는 제2 양태 또는 이들의 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 ALF 클리핑 값 인덱스이고, 신택스 엘리먼트를 표현하는 적어도 하나의 비트는 2 비트이다.
선행하는 구현에 따른 방법의 가능한 구현 형태에서, ALF 클리핑 값 인덱스는 4개의 클리핑 값들 중 하나의 클리핑 값을 식별한다.
이와 같이 제1 또는 제2 양태에 따른 방법의 가능한 구현 형태 또는 이들의 임의의 선행하는 구현에서, ALF 클리핑 값 인덱스의 값은 클리핑 범위를 결정하기 위해 사용되고, 클리핑 범위는 적응 루프 필터링 프로세스에서 사용된다.
본 개시내용의 제3 양태에 따르면, 인코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은,
현재 블록에 대한 신택스 엘리먼트의 값을 결정하는 단계- 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -; 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하는 단계- 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -를 포함한다.
이와 같이 제3 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트의 값만을 사용하여 획득된다.
이와 같이 제3 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트의 값은 현재 블록의 재구성된 블록(또는 필터링된 블록)과 현재 블록의 원래 신호 사이의 최소 차이(예를 들어, 평균 제곱 에러 또는 레이트 왜곡 비용)에 대응하고, 재구성된 블록(또는 필터링된 블록)은 신택스 엘리먼트의 값을 사용하는 결과이고, 임의의 다른 차이보다 더 낮은 최소 차이는 신택스 엘리먼트의 임의의 다른 가능한 값에 대응한다.
이와 같이 제3 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트의 값을 표현한다.
이와 같이 제3 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 클리핑 값은 타겟 샘플 값과 근처 샘플 값 사이의 차이를 제한(또는 클리핑)하기 위해 사용되는 클리핑 범위를 결정하기 위해 사용되고, 제한된 샘플 값 차이(또는 클리핑된 샘플 값 차이)는 ALF의 프로세스에서 타겟 샘플 값을 수정하기 위해 사용된다.
이와 같이 제3 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 고정 길이 코드는 적어도 하나의 비트를 사용하는 무부호 정수의 2진 표현을 포함한다. 다시 말해서, 적어도 하나의 비트는 신택스 엘리먼트의 값의 2진 표현이고, 신택스 엘리먼트의 값은 무부호 정수이다.
이와 같이 제3 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 블록들의 세트에 적용되고, 현재 블록은 블록들의 세트에서의 하나의 블록이다.
이와 같이 제3 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 슬라이스 레벨에 있다.
본 개시내용의 제4 양태에 따르면, 인코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은,
현재 블록에 대한 신택스 엘리먼트의 값을 결정하는 단계- 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 및/또는 ALF 필터 계수 파라미터임 -; 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하는 단계- 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트의 값만을 사용하여 획득됨 -를 포함한다.
이와 같이 제4 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩된다.
선행하는 구현에 따른 방법의 가능한 구현 형태에서, 고정 길이 코드는 적어도 하나의 비트를 사용하는 무부호 정수의 2진 표현을 포함한다. 다시 말해서, 적어도 하나의 비트는 신택스 엘리먼트의 값의 2진 표현이고, 신택스 엘리먼트의 값은 무부호 정수이다.
이와 같이 제4 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트의 값을 표현한다.
이와 같이 제4 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 블록들의 세트에 적용되고, 현재 블록은 블록들의 세트에서의 하나의 블록이다.
이와 같이 제4 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 슬라이스 레벨에 있다.
이와 같이 제4 양태 또는 그 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, ALF 계수 파라미터는 ALF 계수를 결정하기 위해 사용된다.
이와 같이 제3 양태 또는 제4 양태 또는 이들의 임의의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 ALF 클리핑 값 인덱스이고, 신택스 엘리먼트를 표현하는 적어도 하나의 비트는 2 비트이다.
제4 양태의 선행하는 구현에 따른 방법의 가능한 구현 형태에서, ALF 클리핑 값 인덱스는 4개의 클리핑 값들 중 하나의 클리핑 값을 식별한다.
이와 같이 제3 양태 또는 제4 양태에 따른 방법의 가능한 구현 형태 또는 이들의 임의의 선행하는 구현에서, ALF 클리핑 값 인덱스의 값은 클리핑 범위를 결정하기 위해 사용되고, 클리핑 범위는 적응 루프 필터링 프로세스에서 사용된다.
본 개시내용의 제5 양태에 따르면, 제1 또는 제2 양태 또는 그 임의의 구현에 따른 방법을 수행하기 위한 처리 회로를 포함하는 디코더가 제공된다.
본 개시내용의 제6 양태에 따르면, 제3 또는 제4 양태 또는 이들의 임의의 구현에 따른 방법을 수행하기 위한 처리 회로를 포함하는 인코더가 제공된다.
본 개시내용의 제7 양태에 따르면, 제1 양태 내지 제4 양태 또는 이들의 임의의 구현 중 어느 하나에 따른 방법을 수행하기 위한 프로그램 코드를 포함하는 컴퓨터 프로그램 제품이 제공된다.
본 개시내용의 제8 양태에 따르면, 컴퓨터 디바이스에 의해 실행될 때, 컴퓨터 디바이스로 하여금 제1 양태 내지 제4 양태 또는 이들의 임의의 구현 중 어느 하나의 방법을 수행하게 하는 프로그램 코드를 운반하는 비-일시적 컴퓨터-판독가능 매체가 제공된다.
본 개시내용의 제9 양태에 따르면, 디코더가 제공되고, 이는,
하나 이상의 프로세서; 및 프로세서들에 연결되는 그리고 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 프로그래밍은, 프로세서들에 의해 실행될 때, 제1 또는 제2 양태 또는 이들의 임의의 구현에 따른 방법을 수행하도록 디코더를 구성함 -를 포함한다.
본 개시내용의 제10 양태에 따르면, 인코더가 제공되고, 이는,
하나 이상의 프로세서; 및 프로세서들에 연결되는 그리고 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 프로그래밍은, 프로세서들에 의해 실행될 때, 제3 또는 제4 양태 또는 이들의 임의의 구현에 따른 방법을 수행하도록 인코더를 구성함 -를 포함한다.
본 개시내용의 제11 양태에 따르면, 디코더가 제공되고, 이는,
비트스트림을 획득하도록 구성되는 엔트로피 디코딩 유닛- 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -;
엔트로피 디코딩 유닛은 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하도록 추가로 구성되고, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -; 및, 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하도록 구성되는 필터링 유닛을 포함한다.
본 개시내용의 제12 양태에 따르면, 디코더가 제공되고, 이는,
비트스트림을 획득하도록 구성되는 엔트로피 디코딩 유닛- 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 또는 ALF 계수 파라미터임 -;
엔트로피 디코딩 유닛은 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하도록 추가로 구성되고, 현재 블록에 대한 신택스 엘리먼트의 값은 신택스 엘리먼트의 적어도 하나의 비트만을 사용하여 획득됨 -; 및, 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하도록 구성되는 필터링 유닛을 포함한다.
본 개시내용의 제13 양태에 따르면, 인코더가 제공되고, 이는,
현재 블록에 대한 신택스 엘리먼트의 값을 결정하도록 구성되는 결정 유닛- 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -; 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하도록 구성되는 엔트로피 인코딩 유닛- 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -을 포함한다.
본 개시내용의 제14 양태에 따르면, 인코더가 제공되고, 이는,
현재 블록에 대한 신택스 엘리먼트의 값을 결정하도록 구성되는 결정 유닛- 신택스 엘리먼트는 ALF 클리핑 값 인덱스 또는 ALF(adaptive loop filter) 필터 계수 파라미터임 -; 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하도록 구성되는 엔트로피 인코딩 유닛- 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트의 값만을 사용하여 획득됨 -을 포함한다.
본 개시내용의 제15 양태에 따르면, 디코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은,
비트스트림을 획득하는 단계- 비트스트림에서의 n 비트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 신택스 엘리먼트를 표현하고, n은 0 이상의 정수임 -;
비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 신택스 엘리먼트의 값은 n 비트를 사용하는 무부호 정수의 2진 표현임 -; 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하는 단계를 포함한다.
이와 같이 제15 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 슬라이스-레벨 신택스 엘리먼트일 수 있다.
본 개시내용의 제16 양태에 따르면, 인코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은,
ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 신택스 엘리먼트의 값을 결정하는 단계- n은 0 이상의 정수임 -; 신택스 엘리먼트의 값에 기초하여, n 비트를 포함하는 비트스트림을 생성하는 단계- n 비트를 사용하는 무부호 정수의 2진 표현은 신택스 엘리먼트의 값임 -를 포함한다.
이와 같이 제16 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트는 슬라이스-레벨 신택스 엘리먼트일 수 있다.
본 개시내용의 제17 양태에 따르면, 디코더가 제공되고, 이는,
비트스트림을 획득하도록 구성되는 엔트로피 디코딩 유닛- 비트스트림에서의 n 비트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 슬라이스-레벨 신택스 엘리먼트를 표현하고, n은 0 이상의 정수임 -; 엔트로피 디코딩 유닛은 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하도록 추가로 구성되고, 신택스 엘리먼트의 값은 n 비트를 사용하는 무부호 정수의 2진 표현임 -; 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하도록 구성되는 필터링 유닛을 포함한다.
본 개시내용의 제18 양태에 따르면, 인코더가 제공되고, 이는,
ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 슬라이스-레벨 신택스 엘리먼트의 값을 결정하도록 구성되는 결정 유닛- n은 0 이상의 정수임 -; 신택스 엘리먼트의 값에 기초하여, n 비트를 포함하는 비트스트림을 생성하도록 구성되는 엔트로피 인코딩 유닛- n 비트를 사용하는 무부호 정수의 2진 표현은 신택스 엘리먼트의 값임 -을 포함한다.
본 개시내용의 제19 양태에 따르면, 제15 양태 또는 그 임의의 구현에 따른 방법을 수행하기 위한 처리 회로를 포함하는 디코더가 제공된다.
본 개시내용의 제20 양태에 따르면, 제16 양태 또는 그 임의의 구현에 따른 방법을 수행하기 위한 처리 회로를 포함하는 인코더가 제공된다.
본 개시내용의 제21 양태에 따르면, 제15 양태 또는 제16 양태 또는 이들의 임의의 구현에 따른 방법을 수행하기 위한 프로그램 코드를 포함하는 컴퓨터 프로그램 제품이 제공된다.
본 개시내용의 제22 양태에 따르면, 컴퓨터 디바이스에 의해 실행될 때, 컴퓨터 디바이스로 하여금 제15 양태 또는 제16 양태 또는 이들의 임의의 구현 중 어느 하나의 방법을 수행하게 하는 프로그램 코드를 운반하는 비-일시적 컴퓨터-판독가능 매체가 제공된다.
본 개시내용의 제23 양태에 따르면, 디코더가 제공되고, 이는,
하나 이상의 프로세서; 및 프로세서들에 연결되는 그리고 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 프로그래밍은, 프로세서들에 의해 실행될 때, 제15 양태 또는 그 임의의 구현에 따른 방법을 수행하도록 디코더를 구성함 -를 포함한다.
본 개시내용의 제24 양태에 따르면, 인코더가 제공되고, 이는,
하나 이상의 프로세서; 및 프로세서들에 연결되는 그리고 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 프로그래밍은, 프로세서들에 의해 실행될 때, 제16 양태 또는 그 임의의 구현에 따른 방법을 수행하도록 인코더를 구성함 -를 포함한다.
본 개시내용의 제25 양태에 따르면, n 비트를 포함하는 비트스트림을 포함하는 비-일시적 저장 매체가 제공되고, n 비트를 사용하는 무부호 정수의 2진 표현은 신택스 엘리먼트의 값이고, 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하고, n은 0 이상인 정수이다.
본 개시내용의 제26 양태에 따르면, 비트스트림을 포함하는 비-일시적 저장 매체가 제공되고, 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩되고, ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시한다.
이와 같이 제26 양태에 따른 방법의 가능한 구현 형태에서, 신택스 엘리먼트 자체는 신택스 엘리먼트의 값을 정의한다.
본 개시내용의 제27 양태에 따르면, 비트스트림을 포함하는 비-일시적 저장 매체가 제공되고, 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 또는 ALF 필터 계수 파라미터이고, 신택스 엘리먼트의 적어도 하나의 비트는 신택스 엘리먼트의 값만을 사용하여 획득된다.
본 개시내용의 제28 양태에 따르면, 임의의 양태 또는 그 임의의 구현의 방법에 의해 인코딩되는 비트스트림을 포함하는 비-일시적 저장 매체가 제공된다.
하나 이상의 실시예의 상세사항들이 첨부 도면들 및 아래의 설명에서 제시된다. 다른 특징들, 목적들, 및 이점들이 설명, 도면들, 및 청구항들로부터 명백할 것이다.
다음에는 본 발명의 실시예들이 첨부 도면들 및 도해들을 참조하여 보다 상세히 설명된다.
도 1a는 본 발명의 실시예들을 구현하도록 구성되는 비디오 코딩 시스템의 예를 도시하는 블록도이다.
도 1b는 본 발명의 실시예들을 구현하도록 구성되는 비디오 코딩 시스템의 다른 예를 도시하는 블록도이다.
도 2는 본 발명의 실시예들을 구현하도록 구성되는 비디오 인코더의 예를 도시하는 블록도이다.
도 3은 본 발명의 실시예들을 구현하도록 구성되는 비디오 디코더의 예시적인 구조를 도시하는 블록도이다.
도 4는 인코딩 장치 또는 디코딩 장치의 예를 예시하는 블록도이다.
도 5는 인코딩 장치 또는 디코딩 장치의 다른 예를 예시하는 블록도이다.
도 6은 ALF 필터 형상들, 크로마 5 x 5 다이아몬드, 루마 7 x 7 다이아몬드를 예시한다.
도 7은 서브샘플링된 ALF 블록 분류를 예시한다.
도 8은 VTM-5.0 ALF 루마 및 크로마 클리핑 파라미터 시그널링을 예시한다.
도 9는 수정된 VTM-5.0 ALF 루마 및 크로마 클리핑 파라미터 시그널링을 예시한다- 클리핑 파라미터들은 2 비트의 고정 길이 코드를 사용하여 시그널링됨 -.
도 10은 본 개시내용의 제1 양태에 따른 방법을 예시하는 블록도이다.
도 11은 본 개시내용의 제2 양태에 따른 방법을 예시하는 블록도이다.
도 12는 본 개시내용의 제3 양태에 따른 방법을 예시하는 블록도이다.
도 13은 본 개시내용의 제4 양태에 따른 방법을 예시하는 블록도이다.
도 14는 본 개시내용의 제5 양태에 따른 디코더를 예시하는 블록도이다.
도 15는 본 개시내용의 제6 양태에 따른 인코더를 예시하는 블록도이다.
도 16은 본 개시내용의 제9 양태에 따른 디코더를 예시하는 블록도이다.
도 17은 본 개시내용의 제10 양태에 따른 인코더를 예시하는 블록도이다.
도 18은 본 개시내용의 제11 양태에 따른 디코더를 예시하는 블록도이다.
도 19는 본 개시내용의 제12 양태에 따른 디코더를 예시하는 블록도이다.
도 20은 본 개시내용의 제13 양태에 따른 인코더를 예시하는 블록도이다.
도 21은 본 개시내용의 제14 양태에 따른 인코더를 예시하는 블록도이다.
도 22는 콘텐츠 전달 서비스를 실현하는 콘텐츠 공급 시스템(3100)의 예시적인 구조를 도시하는 블록도이다.
도 23은 단말 디바이스의 예의 구조를 도시하는 블록도이다.
다음에서 동일한 참조 부호들은 명시적으로 달리 명시되지 않으면 동일한 또는 적어도 기능적으로 동등한 특징들을 지칭한다.
다음 설명에서는, 본 개시내용의 일부분을 형성하는, 그리고, 예시의 방식에 의해, 본 발명의 실시예들의 구체적 양태들 또는 본 발명의 실시예들이 사용될 수 있는 구체적 양태들을 도시하는 첨부 도면들에 대한 참조가 이루어진다. 본 발명의 실시예들은 다른 양태들에서 사용될 수 있고 도면들에 묘사되지 않은 구조적 또는 논리적 변경들을 포함한다는 점이 이해된다. 따라서, 다음의 상세한 설명은 제한적인 의미로 취해지지 않아야 하며, 본 발명의 범위는 첨부된 청구항들에 의해 정의된다.
예를 들어, 설명된 방법과 관련된 개시내용은 방법을 수행하도록 구성되는 대응하는 디바이스 또는 시스템에 대해 또한 유효할 수 있고 그 반대도 마찬가지라는 점이 이해된다. 예를 들어, 하나의 또는 복수의 구체적 방법 단계가 설명되면, 대응하는 디바이스는 설명된 하나의 또는 복수의 방법 단계를 수행하는 하나의 또는 복수의 유닛, 예를 들어, 기능 유닛(예를 들어, 하나의 또는 복수의 단계를 수행하는 하나의 유닛, 또는 복수의 단계들 중 하나 이상을 각각 수행하는 복수의 유닛들)을, 심지어 이러한 하나 이상의 유닛이 도면에서 명시적으로 설명되거나 또는 예시되지 않더라도, 포함할 수 있다. 다른 한편으로, 예를 들어, 구체적 장치가 하나의 또는 복수의 유닛, 예를 들어, 기능 유닛들에 기초하여 설명되면, 심지어 이러한 하나의 또는 복수의 단계가 도면들에 명시적으로 설명되거나 또는 예시되지 않더라도, 대응하는 방법은 하나의 또는 복수의 유닛의 기능성을 수행하는 하나의 단계(예를 들어, 하나의 또는 복수의 유닛의 기능성을 수행하는 하나의 단계, 또는 복수의 유닛들 중 하나 이상의 유닛의 기능성을 각각 수행하는 복수의 단계들)를 포함할 수 있다. 추가로, 구체적으로 달리 주목되지 않는 한, 본 명세서에 설명되는 다양한 예시적인 실시예들 및/또는 양태들의 특징들은 서로 조합될 수 있다는 점이 이해된다.
비디오 코딩은, 비디오 또는 비디오 시퀀스를 형성하는, 화상들의 시퀀스의 처리를 통상적으로 지칭한다. "화상(picture)"이라는 용어 대신에 "프레임(frame)" 또는 "이미지(image)"라는 용어가 비디오 코딩 분야에서 동의어로서 사용될 수 있다. 비디오 코딩(또는 일반적으로 코딩)은 2개의 부분들인 비디오 인코딩 및 비디오 디코딩을 포함한다. 비디오 인코딩은 소스 측에서 수행되고, (보다 효율적인 저장 및/또는 송신을 위해) 비디오 화상들을 표현하는데 요구되는 데이터의 양을 감소시키기 위해 원래의 비디오 화상들을 (예를 들어, 압축에 의해) 처리하는 것을 통상적으로 포함한다. 비디오 디코딩은 목적지 측에서 수행되고 비디오 화상들을 재구성하기 위해 인코더에 비해 역 처리를 통상적으로 포함한다. 비디오 화상들(또는 일반적으로 화상들)의 "코딩(coding)"을 참조하는 실시예들은 비디오 화상들 또는 각각의 비디오 시퀀스들의 "인코딩(encoding)" 또는 "디코딩(decoding)"에 관련되는 것으로 이해되어야 한다. 인코딩 부분과 디코딩 부분의 조합은 CODEC(Coding and Decoding)이라고 또한 지칭된다.
무손실 비디오 코딩의 경우, 원래의 비디오 화상들이 재구성될 수 있다, 즉, 재구성된 비디오 화상들은 원래의 비디오 화상들과 동일한 품질을 갖는다(저장 또는 송신 동안 어떠한 송신 손실 또는 다른 데이터 손실도 없다고 가정함). 손실 비디오 코딩의 경우, 디코더에서 완전히 재구성될 수 없는, 즉, 재구성된 비디오 화상들의 품질이 원래의 비디오 화상들의 품질에 비해 더 낮은 또는 더 나쁜, 비디오 화상들을 표현하는 데이터의 양을 감소시키기 위해, 예를 들어, 양자화에 의한, 추가적 압축이 수행된다.
몇몇 비디오 코딩 표준들은 "손실 하이브리드 비디오 코덱들(lossy hybrid video codecs)"의 그룹에 속한다(즉, 샘플 도메인에서의 공간적 및 시간적 예측과 변환 도메인에서의 양자화를 적용하기 위한 2D 변환 코딩을 조합함). 비디오 시퀀스의 각각의 화상은 비-중첩 블록들의 세트로 통상적으로 파티셔닝되고, 코딩은 블록 레벨에서 통상적으로 수행된다. 다시 말해서, 인코더에서는 비디오가, 예를 들어, 공간적 (인트라 화상) 예측 및/또는 시간적 (인터 화상) 예측을 사용하여 예측 블록을 생성하고, 현재 블록(현재 처리되는/처리될 블록)으로부터 예측 블록을 감산하여 잔차 블록을 획득하고, 잔차 블록을 변환하고 변환 도메인에서 잔차 블록을 양자화하여 송신될 데이터의 양을 감소(압축)시키는 것에 의해, 블록(비디오 블록) 레벨에서 통상적으로 처리, 즉, 인코딩되는 반면, 디코더에서는 인코더에 비해 역 처리가 인코딩된 또는 압축된 블록에 적용되어 표현을 위해 현재 블록을 재구성한다. 또한, 인코더는 디코더 처리 루프를 복제하여, 양자 모두가 후속 블록들을 처리, 즉, 코딩하기 위해 동일한 예측들(예를 들어, 인트라 및 인터 예측들) 및/또는 재-구성들을 생성할 것이다.
다음에서는 비디오 코딩 시스템(10), 비디오 인코더(20), 및 비디오 디코더(30)의 실시예들이 도 1 내지 도 3에 기초하여 설명된다.
도 1a는 이러한 본 출원의 기법들을 이용할 수 있는 예시적인 코딩 시스템(10), 예를 들어, 비디오 코딩 시스템(10)(줄여서 코딩 시스템(10))을 도시하는 개략 블록도이다. 비디오 코딩 시스템(10)의 비디오 인코더(20)(줄여서 인코더(20)) 및 비디오 디코더(30)(줄여서 디코더(30))는 본 출원에서 설명되는 다양한 예들에 따른 기법들을 수행하도록 구성될 수 있는 디바이스들의 예들을 표현한다.
도 1a에 도시되는 바와 같이, 코딩 시스템(10)은 인코딩된 화상 데이터(13)를 디코딩하기 위해 인코딩된 화상 데이터(21)를, 예를 들어, 목적지 디바이스(14)에 제공하도록 구성되는 소스 디바이스(12)를 포함한다.
소스 디바이스(12)는 인코더(20)를 포함하고, 추가적으로, 즉, 선택적으로, 화상 소스(16), 전처리기(또는 전처리 유닛)(18), 예를 들어, 화상 전처리기(18), 및 통신 인터페이스 또는 통신 유닛(22)을 포함할 수 있다.
화상 소스(16)는 임의의 종류의 화상 캡처 디바이스, 예를 들어, 현실-세계 화상을 캡처하기 위한 카메라, 및/또는 임의의 종류의 화상 생성 디바이스, 예를 들어, 컴퓨터 애니메이션된 화상을 생성하기 위한 컴퓨터-그래픽 프로세서, 또는 현실-세계 화상, 컴퓨터 생성된 화상(예를 들어, 스크린 콘텐츠, VR(virtual reality) 화상) 및/또는 이들의 임의의 조합(예를 들어, AR(augmented reality) 화상)을 획득 및/또는 제공하기 위한 임의의 종류의 다른 디바이스를 포함할 수 있거나 또는 이들일 수 있다. 화상 소스는 전술된 화상들 중 임의의 것을 저장하고 있는 임의의 종류의 메모리 또는 저장소일 수 있다.
전처리기(18) 및 전처리 유닛(18)에 의해 수행되는 처리와 구별하여, 화상 또는 화상 데이터(17)는 원시 화상 또는 원시 화상 데이터(17)라고 또한 지칭될 수 있다.
전처리기(18)는 (원시) 화상 데이터(17)를 수신하도록 그리고 화상 데이터(17)에 전처리를 수행하여 전처리된 화상(19) 또는 전처리된 화상 데이터(19)를 획득하도록 구성된다. 전처리기(18)에 의해 수행되는 전처리는, 예를 들어, 트리밍, (예를 들어, RGB로부터 YCbCr로의) 컬러 포맷 변환, 컬러 보정, 또는 노이즈-제거를 포함할 수 있다. 전처리 유닛(18)은 선택적 컴포넌트일 수 있다는 점이 이해될 수 있다.
비디오 인코더(20)는 전처리된 화상 데이터(19)를 수신하도록 그리고 인코딩된 화상 데이터(21)를 제공하도록 구성될 수 있다(추가의 상세사항들은, 예를 들어, 도 2에 기초하여, 아래에 설명될 것임).
소스 디바이스(12)의 통신 인터페이스(22)는 인코딩된 화상 데이터(21)를 수신하도록 그리고 인코딩된 화상 데이터(21)(또는 이들의 임의의 추가적 처리된 버전)를 저장 또는 직접 재구성을 위해 통신 채널(13)을 통해 다른 디바이스, 예를 들어, 목적지 디바이스(14) 또는 임의의 다른 디바이스에 송신하도록 구성될 수 있다.
목적지 디바이스(14)는 디코더(30)(예를 들어, 비디오 디코더(30))를 포함하고, 추가적으로, 즉, 선택적으로, 통신 인터페이스 또는 통신 유닛(28), 후처리기(32)(또는 후처리 유닛(32)) 및 디스플레이 디바이스(34)를 포함할 수 있다.
목적지 디바이스(14)의 통신 인터페이스(28)는 인코딩된 화상 데이터(21)(또는 이들의 임의의 추가적 처리된 버전)를, 예를 들어, 소스 디바이스(12)로부터 또는 임의의 다른 소스, 예를 들어, 인코딩된 화상 데이터 저장 디바이스와 같은, 저장 디바이스로부터 직접 수신하도록, 그리고 인코딩된 화상 데이터(21)를 디코더(30)에 제공하도록 구성될 수 있다.
통신 인터페이스(22) 및 통신 인터페이스(28)는 소스 디바이스(12)와 목적지 디바이스(14) 사이의 직접 통신 링크, 예를 들어, 직접 유선 또는 무선 접속을 통해, 또는 임의의 종류의 네트워크, 예를 들어, 유선 또는 무선 네트워크 또는 이들의 임의의 조합, 또는 임의의 종류의 사설 및 공용 네트워크, 또는 이들의 임의의 종류의 조합을 통해, 인코딩된 화상 데이터(21) 또는 인코딩된 데이터(13)를 송신 또는 수신하도록 구성될 수 있다.
통신 인터페이스(22)는 인코딩된 화상 데이터(21)를 적절한 포맷, 예를 들어, 패킷들로 패키징하도록, 및/또는 통신 링크 또는 통신 네트워크를 통한 송신을 위해 임의의 종류의 송신 인코딩 또는 처리를 사용하여 이러한 인코딩된 화상 데이터를 처리하도록, 예를 들어, 구성될 수 있다.
통신 인터페이스(22)의 상대방을 형성하는 통신 인터페이스(28)는 송신된 데이터를 수신하도록 그리고 임의의 종류의 대응하는 송신 디코딩 또는 처리 및/또는 디-패키징을 사용하여 송신 데이터를 처리하여 인코딩된 화상 데이터(21)를 획득하도록, 예를 들어, 구성될 수 있다.
통신 인터페이스(22) 및 통신 인터페이스(28) 양자 모두는 소스 디바이스(12)로부터 목적지 디바이스(14)를 포인팅하는 도 1a에서의 통신 채널(13)에 대한 화살표로 표시되는 바와 같은 단방향 통신 인터페이스들로서, 또는 양방향 통신 인터페이스들로서 구성될 수 있고, 통신 링크 및/또는 데이터 송신, 예를 들어, 인코딩된 화상 데이터 송신에 관련된 임의의 다른 정보를 확인응답하고 교환하기 위해, 예를 들어, 메시지들을 전송 및 수신하도록, 예를 들어, 접속을 셋 업하도록, 구성될 수 있다.
디코더(30)는 인코딩된 화상 데이터(21)를 수신하도록 그리고 디코딩된 화상 데이터(31) 또는 디코딩된 화상(31)을 제공하도록 구성된다(추가의 상세사항들은, 예를 들어, 도 3 또는 도 5에 기초하여 아래에 설명될 것임).
목적지 디바이스(14)의 후처리기(32)는 디코딩된 화상 데이터(31)(재구성된 화상 데이터라고 또한 불림), 예를 들어, 디코딩된 화상(31)을 후처리하여, 후처리된 화상 데이터(33), 예를 들어, 후처리된 화상(33)을 획득하도록 구성된다. 후처리 유닛(32)에 의해 수행되는 후처리는, 예를 들어, (예를 들어, YCbCr로부터 RGB로의) 컬러 포맷 변환, 컬러 보정, 트리밍, 또는 재-샘플링, 또는, 예를 들어, 디스플레이 디바이스(34)에 의한 디스플레이를 위해, 예를 들어, 디코딩된 화상 데이터(31)를 준비하기 위한, 임의의 다른 처리를 포함할 수 있다.
목적지 디바이스(14)의 디스플레이 디바이스(34)는, 예를 들어, 사용자 또는 시청자에게, 화상을 디스플레이하기 위해 후처리된 화상 데이터(33)를 수신하도록 구성된다. 디스플레이 디바이스(34)는 재구성된 화상을 표현하기 위한 임의의 종류의 디스플레이, 예를 들어, 집적된 또는 외부 디스플레이 또는 모니터이거나 또는 이를 포함할 수 있다. 이러한 디스플레이들은, 예를 들어, LCD(liquid crystal displays), OLED(organic light emitting diodes) 디스플레이들, 플라즈마 디스플레이들, 프로젝터들, 마이크로 LED 디스플레이들, LCoS(liquid crystal on silicon), DLP(digital light processor) 또는 임의의 종류의 다른 디스플레이를 포함할 수 있다.
도 1a는 소스 디바이스(12) 및 목적지 디바이스(14)를 개별 디바이스들로서 묘사하더라도, 디바이스들의 실시예들은 양자 모두 또는 양자 모두의 기능성들, 소스 디바이스(12) 또는 대응하는 기능성 및 목적지 디바이스(14) 또는 대응하는 기능성을 또한 포함할 수 있다. 이러한 실시예들에서, 소스 디바이스(12) 또는 대응하는 기능성 및 목적지 디바이스(14) 또는 대응하는 기능성은 동일한 하드웨어 및/또는 소프트웨어를 사용하여 또는 개별 하드웨어 및/또는 소프트웨어 또는 이들의 임의의 조합에 의해 구현될 수 있다.
이러한 설명에 기초하여 기술자에게는 명백할 바와 같이, 도 1a에 도시되는 바와 같은 소스 디바이스(12) 및/또는 목적지 디바이스(14) 내의 상이한 유닛들 또는 기능성들의 존재 및 (정확한) 분열은 실제 디바이스 및 애플리케이션에 의존하여 달라질 수 있다.
인코더(20)(예를 들어, 비디오 인코더(20)) 또는 디코더(30)(예를 들어, 비디오 디코더(30)) 또는 인코더(20) 및 디코더(30) 양자 모두는, 하나 이상의 마이크로프로세서, DSP(digital signal processors), ASIC(application-specific integrated circuits), FPGA(field-programmable gate arrays), 이산 로직, 하드웨어, 비디오 코딩 전용 또는 이들의 임의의 조합과 같은, 도 1b에 도시되는 바와 같은 처리 회로를 통해 구현될 수 있다. 인코더(20)는 도 2의 인코더(20) 및/또는 본 명세서에 설명되는 임의의 다른 인코더 시스템 또는 서브시스템에 관하여 논의되는 바와 같이 다양한 모듈을 구현하기 위해 처리 회로(46)를 통해 구현될 수 있다. 디코더(30)는 도 3의 디코더(30) 및/또는 본 명세서에 설명되는 임의의 다른 디코더 시스템 또는 서브시스템에 관하여 논의되는 바와 같이 다양한 모듈들을 구현하기 위해 처리 회로(46)를 통해 구현될 수 있다. 처리 회로는 나중에 논의되는 바와 같이 다양한 동작들을 수행하도록 구성될 수 있다. 도 5에 도시되는 바와 같이, 이러한 기법들이 부분적으로 소프트웨어로 구현되면, 디바이스는 소프트웨어에 대한 명령어들을 적합한, 비-일시적 컴퓨터-판독가능 저장 매체에 저장할 수 있고, 본 개시내용의 기법들을 수행하기 위해 하나 이상의 프로세서를 사용하여 하드웨어로 이러한 명령어들을 실행할 수 있다. 비디오 인코더(20) 및 비디오 디코더(30) 중 어느 하나는, 예를 들어, 도 1b에 도시되는 바와 같이, 단일 디바이스에서의 조합된 CODEC(encoder/decoder)의 부분으로서 집적될 수 있다.
소스 디바이스(12) 및 목적지 디바이스(14)는, 임의의 종류의 핸드헬드 또는 고정 디바이스들, 예를 들어, 노트북 또는 랩톱 컴퓨터들, 모바일 폰들, 스마트 폰들, 태블릿들 또는 태블릿 컴퓨터들, 카메라들, 데스크톱 컴퓨터들, 셋-톱 박스들, 텔레비전들, 디스플레이 디바이스들, 디지털 매체 플레이어들, 비디오 게이밍 콘솔들, (콘텐츠 서비스 서버들 또는 콘텐츠 전달 서버들과 같은) 비디오 스트리밍 디바이스들, 방송 수신기 디바이스, 방송 송신기 디바이스 등을 포함하는 광범위한 디바이스들 중 임의의 것을 포함할 수 있고, 어떠한 운영 체제도 사용하지 않거나 또는 임의의 종류의 운영 체제를 사용할 수 있다. 일부 경우들에서, 소스 디바이스(12) 및 목적지 디바이스(14)는 무선 통신을 위해 구비될 수 있다. 따라서, 소스 디바이스(12) 및 목적지 디바이스(14)는 무선 통신 디바이스들일 수 있다.
일부 경우들에서, 도 1a에 예시되는 비디오 코딩 시스템(10)은 단지 예일 뿐이고, 본 출원의 기법들은 인코딩 및 디코딩 디바이스들 사이의 임의의 데이터 통신을 반드시 포함하는 것은 아닌 비디오 코딩 설정들(예를 들어, 비디오 인코딩 또는 비디오 디코딩)에 적용될 수 있다. 다른 예들에서, 데이터는 로컬 메모리로부터 검색되거나, 네트워크를 통해 스트리밍되거나, 등이다. 비디오 인코딩 디바이스는 데이터를 인코딩하여 메모리에 저장할 수 있고, 및/또는 비디오 디코딩 디바이스는 메모리로부터 데이터를 검색하고 디코딩할 수 있다. 일부 예들에서, 인코딩 및 디코딩은 서로 통신하지 않지만 데이터를 메모리에 단순히 인코딩하고 및/또는 메모리로부터 데이터를 검색 및 디코딩하는 디바이스들에 의해 수행된다.
설명의 편의를 위해, 본 발명의 실시예들은, 예를 들어, ITU-T VCEG(Video Coding Experts Group) 및 ISO/IEC MPEG(Motion Picture Experts Group)의 JCT-VC(Joint Collaboration Team on Video Coding)에 의해 개발된 차세대 비디오 코딩 표준인, HEVC(High-Efficiency Video Coding) 또는 VVC(Versatile Video coding)의 참조 소프트웨어를 참조하여 본 명세서에 설명된다. 해당 분야에서의 통상의 기술자는 본 발명의 실시예들이 HEVC 또는 VVC에 제한되지 않는다는 점을 이해할 것이다.
인코더 및 인코딩 방법
도 2는 본 출원의 기법들을 구현하도록 구성되는 예시적인 비디오 인코더(20)의 개략 블록도를 도시한다. 도 2의 예에서, 비디오 인코더(20)는 입력(201)(또는 입력 인터페이스(201)), 잔차 계산 유닛(204), 변환 처리 유닛(206), 양자화 유닛(208), 역 양자화 유닛(210), 및 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터 유닛(220), DPB(decoded picture buffer)(230), 모드 선택 유닛(260), 엔트로피 인코딩 유닛(270) 및 출력(272)(또는 출력 인터페이스(272))을 포함한다. 모드 선택 유닛(260)은 인터 예측 유닛(244), 인트라 예측 유닛(254) 및 파티셔닝 유닛(262)을 포함할 수 있다. 인터 예측 유닛(244)은 모션 추정 유닛 및 모션 보상 유닛(도시되지 않음)을 포함할 수 있다. 도 2에 도시되는 바와 같은 비디오 인코더(20)는 하이브리드 비디오 인코더 또는 하이브리드 비디오 코덱에 따른 비디오 인코더라고 또한 지칭될 수 있다.
잔차 계산 유닛(204), 변환 처리 유닛(206), 양자화 유닛(208), 모드 선택 유닛(260)은 인코더(20)의 순방향 신호 경로를 형성하는 것으로 참조될 수 있는 반면, 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 버퍼(216), 루프 필터(220), 디코딩된 화상 버퍼 (DPB)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 비디오 인코더(20)의 역방향 신호 경로를 형성하는 것으로 참조될 수 있고, 비디오 인코더(20)의 역방향 신호 경로는 디코더(도 3의 비디오 디코더(30) 참조)의 신호 경로에 대응한다. 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터(220), DPB(decoded picture buffer)(230), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)은 비디오 인코더(20)의 "내장 디코더(built-in decoder)"를 형성하는 것으로 또한 참조된다.
화상들 및 화상 파티셔닝 (화상들 및 블록들)
인코더(20)는, 예를 들어, 입력(201)을 통해, 화상(17)(또는 화상 데이터(17)), 예를 들어, 비디오 또는 비디오 시퀀스를 형성하는 화상들의 시퀀스의 화상을 수신하도록 구성될 수 있다. 수신된 화상 또는 화상 데이터는 또한 전처리된 화상(19)(또는 전처리된 화상 데이터(19))일 수 있다. 단순화를 위해, 다음 설명은 화상(17)을 참조한다. 화상(17)은 현재 화상 또는 (특히, 현재 화상을 다른 화상들, 예를 들어, 동일한 비디오 시퀀스, 즉, 현재 화상을 또한 포함하는 비디오 시퀀스의 이전에 인코딩된 및/또는 디코딩된 화상들과 구별하기 위해 비디오 코딩에서) 코딩될 화상이라고 또한 지칭될 수 있다.
(디지털) 화상은 강도 값들이 있는 샘플들의 2-차원 어레이 또는 행렬이거나 또는 그것으로 간주될 수 있다. 이러한 어레이에서의 샘플은 픽셀(짧은 형태의 화상 엘리먼트) 또는 화소라고 또한 지칭될 수 있다. 어레이 또는 화상의 수평 및 수직 방향(또는 축)에서의 샘플들의 수는 화상의 크기 및/또는 해상도를 정의한다. 컬러의 표현을 위해, 통상적으로 3개의 컬러 성분들이 이용된다, 즉, 화상은 3개의 샘플 어레이들로서 표현되거나 또는 이를 포함할 수 있다. RBG 포맷 또는 컬러 공간에서 화상은 대응하는 적색, 녹색 및 청색 샘플 어레이를 포함한다. 그러나, 비디오 코딩에서 각각의 픽셀은 휘도 및 색차 포맷 또는 컬러 공간, 예를 들어, Y에 의해 표시되는 휘도 성분 (때때로 또한 L이 대신 사용됨) 및 Cb 및 Cr에 의해 표시되는 2개의 색차 성분들을 포함하는, YCbCr로 통상적으로 표현된다. 휘도(줄여서 루마) 성분 Y는 (예를 들어, 그레이-스케일 화상에서와 같이) 밝기 또는 그레이 레벨 강도를 표현하고, 한편 2개의 색차(줄여서 크로마) 성분들 Cb 및 Cr은 색도 또는 컬러 정보 성분들을 표현한다. 따라서, YCbCr 포맷에서의 화상은 휘도 샘플 값들(Y)의 휘도 샘플 어레이, 및 색차 값들(Cb 및 Cr)의 2개의 색차 샘플 어레이들을 포함한다. RGB 포맷에서의 화상들은 YCbCr 포맷으로 변환될(converted 또는 transformed) 수 있고, 그 반대의 경우도 가능하며, 이러한 프로세스는 컬러 변환(transformation 또는 conversion)이라고 또한 알려져 있다. 화상이 흑백이면, 화상은 휘도 샘플 어레이만을 포함할 수 있다. 따라서, 화상은, 예를 들어, 흑백 포맷에서의 루마 샘플들의 어레이 또는 4:2:0, 4:2:2, 및 4:4:4 컬러 포맷에서의 루마 샘플들의 어레이 및 크로마 샘플들의 2개의 대응하는 어레이들일 수 있다.
비디오 인코더(20)의 실시예들은 화상(17)을 복수의(통상적으로 비-중첩) 화상 블록들(203)로 파티셔닝하도록 구성되는 화상 파티셔닝 유닛(도 2에 묘사되지 않음)을 포함할 수 있다. 이러한 블록들은 루트 블록들, 매크로 블록들(H.264/AVC) 또는 CTB(coding tree blocks) 또는 CTU(coding tree units)(H.265/HEVC 및 VVC)라고 또한 지칭될 수 있다. 화상 파티셔닝 유닛은 비디오 시퀀스의 모든 화상들 및 블록 크기를 정의하는 대응하는 그리드에 대해 동일한 블록 크기를 사용하도록, 또는 화상들 또는 화상들의 서브세트들 또는 그룹들 사이에서 블록 크기를 변경하도록, 그리고 각각의 화상을 대응하는 블록들로 파티셔닝하도록 구성될 수 있다.
추가 실시예들에서, 비디오 인코더는 화상(17)의 블록(203), 예를 들어, 화상(17)을 형성하는 하나의, 몇몇 또는 모든 블록을 직접 수신하도록 구성될 수 있다. 화상 블록(203)은 현재 화상 블록 또는 코딩될 화상 블록이라고 또한 지칭될 수 있다.
화상(17)과 같이, 화상 블록(203)은 다시, 화상(17)보다 더 작은 치수이더라도, 강도 값들(샘플 값들)이 있는 샘플들의 2-차원 어레이 또는 행렬이거나 또는 그것으로 간주될 수 있다. 다시 말해서, 블록(203)은, 적용된 컬러 포맷에 의존하여, 예를 들어, 하나의 샘플 어레이(예를 들어, 흑백 화상(17)의 경우에는 루마 어레이, 또는 컬러 화상의 경우에는 루마 또는 크로마 어레이) 또는 3개의 샘플 어레이들(예를 들어, 컬러 화상(17)의 경우에는 루마 및 2개의 크로마 어레이들) 또는 임의의 다른 수 및/또는 종류의 어레이들을 포함할 수 있다. 블록(203)의 수평 및 수직 방향(또는 축)에서의 샘플들의 수는 블록(203)의 크기를 정의한다. 따라서, 블록은, 예를 들어, 샘플들의 MxN(M-열 x N-행) 어레이, 또는 변환 계수들의 MxN 어레이일 수 있다.
도 2에 도시되는 바와 같은 비디오 인코더(20)의 실시예들은 화상(17)을 블록 단위로 인코딩하도록 구성될 수 있고, 예를 들어, 인코딩 및 예측이 블록(203) 당 수행된다.
잔차 계산
잔차 계산 유닛(204)은, 예를 들어, 화상 블록(203)의 샘플 값들로부터 예측 블록(265)의 샘플 값들을 샘플 단위로(픽셀 단위로) 감산하여 샘플 도메인에서 잔차 블록(205)을 획득하는 것에 의해, 화상 블록(203) 및 예측 블록(265)에 기초하여 잔차 블록(205)(잔차(205)라고 또한 지칭됨)을 계산하도록 구성될 수 있다(예측 블록(265)에 관한 추가의 상세사항들이 나중에 제공됨).
변환
변환 처리 유닛(206)은, 변환 도메인에서 변환 계수들(207)을 획득하기 위해 잔차 블록(205)의 샘플 값들에, 변환, 예를 들어, DCT(discrete cosine transform) 또는 DST(discrete sine transform)를 적용하도록 구성될 수 있다. 변환 계수들(207)은 변환 잔차 계수들이라고 또한 지칭될 수 있고, 변환 도메인에서 잔차 블록(205)을 표현할 수 있다.
변환 처리 유닛(206)은, H.265/HEVC에 대해 명시되는 변환들과 같은, DCT/DST의 정수 근사화들을 적용하도록 구성될 수 있다. 직교 DCT 변환에 비해, 이러한 정수 근사화들은 특정 인자에 의해 통상적으로 스케일링된다. 순방향 및 역 변환들에 의해 처리되는 잔차 블록의 놈(norm)을 보존하기 위해, 추가적인 스케일링 인자들이 변환 프로세스의 부분으로서 적용된다. 이러한 스케일링 인자들은 스케일링 인자들이 시프트 연산들에 대한 2의 거듭제곱, 변환 계수들의 비트 심도, 정확도와 구현 비용들 사이의 트레이드오프 등인 것과 같이 특정 제약들에 기초하여 통상적으로 선택된다. 구체적 스케일링 인자들은, 예를 들어, 역 변환 처리 유닛(212)에 의해 역 변환(및, 예를 들어, 비디오 디코더(30)에서 역 변환 처리 유닛(312)에 의해 대응하는 역 변환)에 대해, 예를 들어, 명시되고, 인코더(20)에서, 예를 들어, 변환 처리 유닛(206)에 의해, 순방향 변환에 대한 대응하는 스케일링 인자들이 따라서 명시될 수 있다.
비디오 인코더(20)의 실시예들(각각, 변환 처리 유닛(206))은, 예를 들어, 엔트로피 인코딩 유닛(270)을 통해 인코딩하여 또는 압축하여 또는 직접, 변환 파라미터들, 예를 들어, 변환 또는 변환들의 타입을 출력하도록 구성될 수 있어, 예를 들어, 비디오 디코더(30)가 디코딩을 위해 변환 파라미터들을 수신하고 사용할 수 있다.
양자화
양자화 유닛(208)은, 예를 들어, 스칼라 양자화 또는 벡터 양자화를 적용하는 것에 의해, 변환 계수들(207)을 양자화하여 양자화된 계수들(209)을 획득하도록 구성될 수 있다. 양자화된 계수들(209)은 양자화된 변환 계수들(209) 또는 양자화된 잔차 계수들(209)이라고 또한 지칭될 수 있다.
양자화 프로세스는 변환 계수들(207)의 일부 또는 전부와 연관된 비트 심도를 감소시킬 수 있다. 예를 들어, n-비트 변환 계수는 양자화 동안 m-비트 변환 계수로 라운딩 다운될 수 있으며, 여기서 n은 m 초과이다. 양자화의 정도는 QP(quantization parameter)를 조정하는 것에 의해 수정될 수 있다. 예를 들어, 스칼라 양자화에 대해, 더 미세한 또는 더 거친 양자화를 달성하기 위해 상이한 스케일링이 적용될 수 있다. 더 작은 양자화 단계 크기들은 더 미세한 양자화에 대응하는 반면, 더 큰 양자화 단계 크기들은 더 거친 양자화에 대응한다. 적용가능한 양자화 단계 크기는 QP(quantization parameter)에 의해 표시될 수 있다. 양자화 파라미터는 예를 들어 미리 정의된 세트의 적용가능한 양자화 단계 크기들에 대한 인덱스일 수 있다. 예를 들어, 작은 양자화 파라미터들은 미세한 양자화(작은 양자화 단계 크기들)에 대응할 수 있고 큰 양자화 파라미터들은 거친 양자화(큰 양자화 단계 크기들)에 대응할 수 있거나 또는 그 반대일 수 있다. 양자화는 양자화 단계 크기에 의한 제산을 포함할 수 있고, 예를 들어, 역 양자화 유닛(210)에 의한, 대응하는 및/또는 역 양자화해제는 양자화 단계 크기에 의한 승산을 포함할 수 있다. 일부 표준들, 예를 들어, HEVC에 따른 실시예들은 양자화 파라미터를 사용하여 양자화 단계 크기를 결정하도록 구성될 수 있다. 일반적으로, 양자화 단계 크기는 제산을 포함하는 방정식의 고정 소수점 근사화를 사용하여 양자화 파라미터에 기초하여 계산될 수 있다. 잔차 블록의 놈(norm)을 복원하기 위해 양자화 및 양자화해제에 대해 추가적인 스케일링 인자들이 도입될 수 있고, 이는 양자화 단계 크기 및 양자화 파라미터에 대한 방정식의 고정 소수점 근사화에서 사용되는 스케일링 때문에 수정될 수 있다. 하나의 예시적인 구현에서, 역 변환 및 양자화해제의 스케일링이 조합될 수 있다. 대안적으로, 맞춤화된 양자화 테이블들이 사용되어 인코더로부터 디코더로, 예를 들어, 비트스트림으로 시그널링될 수 있다. 양자화는 손실 연산이고, 이러한 손실은 양자화 단계 크기들이 증가함에 따라 증가한다.
비디오 인코더(20)의 실시예들(각각, 양자화 유닛(208))은, 예를 들어, 엔트로피 인코딩 유닛(270)을 통해 인코딩하여 또는 직접, QP들(quantization parameters)을 출력하도록 구성될 수 있어, 예를 들어, 비디오 디코더(30)가 디코딩을 위해 양자화 파라미터들을 수신하고 적용할 수 있다.
역 양자화
역 양자화 유닛(210)은, 예를 들어, 양자화 유닛(208)과 동일한 양자화 단계 크기에 기초하여 또는 이를 사용하여 양자화 유닛(208)에 의해 적용되는 양자화 스킴의 역을 적용하는 것에 의해, 양자화 유닛(208)의 역 양자화를 양자화된 계수들에 적용하여 양자화해제된 계수들(211)을 획득하도록 구성된다. 양자화해제된 계수들(211)은 양자화해제된 잔차 계수들(211)이라고 또한 지칭될 수 있고, - 양자화에 의한 손실로 인해 변환 계수들과 통상적으로 동일하지 않더라도 - 변환 계수들(207)에 대응할 수 있다.
역 변환
역 변환 처리 유닛(212)은 변환 처리 유닛(206)에 의해 적용되는 변환의 역 변환, 예를 들어, 역 DCT(discrete cosine transform) 또는 역 DST(discrete sine transform) 또는 다른 역 변환들을 적용하여, 샘플 도메인에서 재구성된 잔차 블록(213)(또는 대응하는 양자화해제된 계수들(213))을 획득하도록 구성된다. 재구성된 잔차 블록(213)은 변환 블록(213)이라고 또한 지칭될 수 있다.
재구성
재구성 유닛(214)(예를 들어, 가산기 또는 합산기(214))은, 예를 들어, -샘플 단위로- 재구성된 잔차 블록(213)의 샘플 값들 및 예측 블록(265)의 샘플 값들을 가산하는 것에 의해, 변환 블록(213)(즉, 재구성된 잔차 블록(213))을 예측 블록(265)에 가산하여 샘플 도메인에서 재구성된 블록(215)을 획득하도록 구성된다.
필터링
루프 필터 유닛(220)(줄여서 "루프 필터(loop filter)"(220))은, 재구성된 블록(215)을 필터링하여 필터링된 블록(221)을 획득하도록, 또는 일반적으로, 재구성된 샘플들을 필터링하여 필터링된 샘플들을 획득하도록 구성된다. 루프 필터 유닛은, 예를 들어, 픽셀 전이들 평활화하도록, 또는 그렇지 않으면 비디오 품질을 개선하도록 구성된다. 루프 필터 유닛(220)은 블록화-해제 필터와 같은 하나 이상의 루프 필터, SAO(sample-adaptive offset) 필터 또는 쌍방 필터, ALF(adaptive loop filter), 샤프닝, 평활화 필터 또는 협업 필터와 같은 하나 이상의 다른 필터, 또는 이들의 임의의 조합을 포함할 수 있다. 루프 필터 유닛(220)이 인 루프 필터인 것으로서 도 2에 도시되더라도, 다른 구성들에서, 루프 필터 유닛(220)은 포스트 루프 필터로서 구현될 수 있다. 필터링된 블록(221)은 필터링된 재구성된 블록(221)이라고 또한 지칭될 수 있다.
비디오 인코더(20)의 실시예들(각각, 루프 필터 유닛(220))은, 예를 들어, 엔트로피 인코딩 유닛(270)을 통해 인코딩하여 또는 직접, (샘플 적응적 오프셋 정보와 같은) 루프 필터 파라미터들을 출력하도록 구성될 수 있어, 예를 들어, 디코더(30)가 디코딩을 위해 동일한 루프 필터 파라미터들 또는 각각의 루프 필터들을 수신하고 적용할 수 있다.
디코딩된 화상 버퍼
DPB(decoded picture buffer)(230)는 비디오 인코더(20)에 의해 비디오 데이터를 인코딩하기 위해 참조 화상들, 또는 일반적으로 참조 화상 데이터를, 저장하고 있는 메모리일 수 있다. DPB(230)는, SDRAM(synchronous DRAM), MRAM(magnetoresistive RAM), RRAM(resistive RAM), 또는 다른 타입들의 메모리 디바이스들을 포함하는, DRAM(dynamic random access memory)과 같은, 다양한 메모리 디바이스들 중 임의의 것에 의해 형성될 수 있다. DPB(decoded picture buffer)(230)는 하나 이상의 필터링된 블록(221)을 저장하도록 구성될 수 있다. 디코딩된 화상 버퍼(230)는 동일한 현재 화상의 또는 상이한 화상들, 예를 들어, 이전에 재구성된 화상들의 다른 이전에 필터링된 블록들, 예를 들어, 이전에 재구성된 그리고 필터링된 블록들(221)을 저장하도록 추가로 구성될 수 있고, 예를 들어, 인터 예측을 위해, 완전히 이전에 재구성된, 즉, 디코딩된, 화상들(및 대응하는 참조 블록들 및 샘플들) 및/또는 부분적으로 재구성된 현재 화상(및 대응하는 참조 블록들 및 샘플들)을 제공할 수 있다. DPB(decoded picture buffer)(230)는, 예를 들어, 재구성된 블록(215)이 루프 필터 유닛(220)에 의해 필터링되지 않으면, 하나 이상의 필터링되지 않은 재구성된 블록들(215), 또는 일반적으로 필터링되지 않은 재구성된 샘플들, 또는 재구성된 블록들 또는 샘플들의 임의의 다른 추가적 처리된 버전을 저장하도록 또한 구성될 수 있다.
모드 선택 (파티셔닝 및 예측)
모드 선택 유닛(260)은 파티셔닝 유닛(262), 인터 예측 유닛(244) 및 인트라 예측 유닛(254)을 포함하고, 원래의 블록(203)(현재 화상(17)의 현재 블록(203))과 같은, 원래의 화상 데이터, 및, 동일한(현재) 화상의 필터링된 및/또는 필터링되지 않은 재구성된 샘플들 또는 블록들과 같은, 재구성된 화상 데이터를 및/또는 하나의 또는 복수의 이전에 디코딩된 화상으로부터, 예를 들어, 디코딩된 화상 버퍼(230) 또는 다른 버퍼들(예를 들어, 라인 버퍼, 도시되지 않음)로부터 수신 또는 획득하도록 구성된다. 재구성된 화상 데이터는, 예측 블록(265) 또는 예측기(265)를 획득하기 위해, 예측, 예를 들어, 인터 예측 또는 인트라 예측을 위한 참조 화상 데이터로서 사용된다.
모드 선택 유닛(260)은 현재 블록 예측 모드(어떠한 파티셔닝도 포함하지 않음) 및 예측 모드(예를 들어, 인트라 또는 인터 예측 모드)에 대한 파티셔닝을 결정 또는 선택하도록 그리고 대응하는 예측 블록(265)을 생성하도록 구성될 수 있으며, 이는 잔차 블록(205)의 계산을 위해 그리고 재구성된 블록(215)의 재구성을 위해 사용된다.
모드 선택 유닛(260)의 실시예들은 (예를 들어, 모드 선택 유닛(260)에 의해 지원되는 또는 이에 대해 이용가능한 것들로부터) 파티셔닝 및 예측 모드를 선택하도록 구성될 수 있고, 이는 최상의 매칭 또는 다시 말해서 최소 잔차(최소 잔차는 송신 또는 저장을 위한 더 양호한 압축을 의미함), 또는 최소 시그널링 오버헤드(최소 시그널링 오버헤드는 송신 또는 저장을 위한 더 양호한 압축을 의미함)를 제공하거나, 또는 이는 양자 모두를 고려하거나 또는 균형화한다. 모드 선택 유닛(260)은 RDO(rate distortion optimization)에 기초하여 파티셔닝 및 예측 모드를 결정하도록, 즉, 최소 레이트 왜곡을 제공하는 예측 모드를 선택하도록 구성될 수 있다. 이러한 맥락에서 "최상(best)", "최소(minimum)", "최적(optimum)" 등과 같은 용어들이 전체적인 "최상(best)", "최소(minimum)", "최적(optimum)" 등을 반드시 지칭하는 것은 아니라, "차선 선택(sub-optimum selection)"으로 잠재적으로 이어지지만 복잡성 및 처리 시간을 감소시키는 다른 제약들 또는 임계값을 초과하는 또는 그 아래로 떨어지는 값과 같은 종료 또는 선택 기준의 충족을 또한 지칭할 수 있다.
다시 말해서, 파티셔닝 유닛(262)은, 예를 들어, QT(quad-tree-partitioning), BT(binary partitioning) 또는 TT(triple-tree-partitioning) 또는 이들의 임의의 조합을 반복적으로 사용하여, 블록(203)을 더 작은 블록 파티션들 또는 서브-블록들(블록들을 다시 형성함)로 파티셔닝하도록, 그리고 블록 파티션들 또는 서브-블록들 각각에 대한 예측을 수행하도록 구성될 수 있고, 모드 선택은 파티셔닝된 블록(203)의 트리-구조의 선택을 포함하고 예측 모드들이 블록 파티션들 또는 서브-블록들 각각에 적용된다.
다음에서는, 예시적인 비디오 인코더(20)에 의해 수행되는 파티셔닝(예를 들어, 파티셔닝 유닛(260)에 의함) 및 예측 처리(인터 예측 유닛(244) 및 인트라 예측 유닛(254)에 의함)가 보다 상세히 설명될 것이다.
파티셔닝
파티셔닝 유닛(262)은 현재 블록(203)을 더 작은 파티션들, 예를 들어, 정사각형 또는 직사각형 크기의 더 작은 블록들로 파티셔닝(또는 분열)할 수 있다. 이러한 더 작은 블록들(서브-블록들이라고 또한 지칭될 수 있음)은 훨씬 더 작은 파티션들로 추가로 파티셔닝될 수 있다. 이러한 것은 트리-파티셔닝(tree-partitioning) 또는 계층적 트리-파티셔닝(hierarchical tree-partitioning)이라고 또한 지칭되고, 예를 들어, 루트 트리-레벨 0(계층-레벨 0, 심도 0)에서의, 루트 블록은, 재귀적으로 파티셔닝될 수 있고, 예를 들어, 다음 하위 트리-레벨의 2개 이상의 블록들, 예를 들어, 트리-레벨 1(계층-레벨 1, 심도 1)에서의 노드들로 파티셔닝될 수 있으며, 이러한 블록들은, 예를 들어, 종료 기준이 충족되기 때문에, 예를 들어, 최대 트리 심도 또는 최소 블록 크기가 도달되기 때문에 파티셔닝이 종료될 때까지 다음 하위 레벨, 예를 들어, 트리-레벨 2(계층-레벨 2, 심도 2) 등의 2개 이상의 블록들로 다시 파티셔닝될 수 있다. 추가로 파티셔닝되지 않은 블록들은 트리의 리프-블록들 또는 리프 노드들이라고 또한 지칭된다. 2개의 파티션들로의 파티셔닝을 사용하는 트리는 BT(binary-tree)라고 지칭되고, 3개의 파티션들로의 파티셔닝을 사용하는 트리는 TT(ternary-tree)라고 지칭되고, 4개의 파티션들로의 파티셔닝을 사용하는 트리는 QT(quad-tree)라고 지칭된다.
전에 언급된 바와 같이, 본 명세서에서 사용되는 바와 같은 "블록(block)"이라는 용어는 화상의 부분, 특히 정사각형 또는 직사각형 부분일 수 있다. 예를 들어, HEVC 및 VVC를 참조하면, 블록은 CTU(coding tree unit), CU(coding unit), PU(prediction unit), 또는 TU(transform unit)일 수 있거나 또는 이에 대응할 수 있고, 및/또는 대응하는 블록들, 예를 들어, CTB(coding tree block), CB(coding block), TB(transform block), 또는 PB(prediction block)일 수 있거나 또는 이에 대응할 수 있다.
예를 들어, CTU(coding tree unit)는 3개의 샘플 어레이들을 갖는 화상의 크로마 샘플들의 2개의 대응하는 CTB들 및 루마 샘플들의 CTB, 또는 샘플들을 코딩하기 위해 사용되는 3개의 개별 컬러 평면들 및 신택스 구조들을 사용하여 코딩되는 화상 또는 흑백 화상의 샘플들의 CTB이거나 또는 이를 포함할 수 있다. 대응하여, CTB(coding tree block)는 N의 일부 값에 대해 샘플들의 NxN 블록일 수 있어서 CTB들로의 컴포넌트의 분할이 파티셔닝이다. CU(coding unit)는 3개의 샘플 어레이들을 갖는 화상의 루마 샘플들의 코딩 블록, 크로마 샘플들의 2개의 대응하는 코딩 블록들, 또는 샘플들을 코딩하기 위해 사용되는 3개의 개별 컬러 평면들 및 신택스 구조들을 사용하여 코딩되는 화상 또는 흑백 화상의 샘플들의 코딩 블록일 수 있거나 또는 이를 포함할 수 있다. 대응하여, CB(coding block)는 M 및 N의 일부 값들에 대해 샘플들의 MxN 블록일 수 있어서 코딩 블록들로의 CTB의 분할이 파티셔닝이다.
일부 실시예들에서, 예를 들어, HEVC에 따르면, CTU(coding tree unit)는 코딩 트리로서 표기되는 쿼드-트리 구조를 사용하여 CU들로 분열될 수 있다. 인터 화상 (시간적) 또는 인트라 화상 (공간적) 예측을 사용하여 화상 영역을 코딩할지의 결정이 CU 레벨에서 이루어진다. 각각의 CU는 PU 분열 타입에 따라 하나의, 2개의 또는 4개의 PU로 추가로 분열될 수 있다. 하나의 PU 내부에서, 동일한 예측 프로세스가 적용되고 관련 정보가 PU 기반으로 디코더에 송신된다. PU 분열 타입에 기초하여 예측 프로세스를 적용하는 것에 의해 잔차 블록을 획득한 후에, CU는 CU에 대한 코딩 트리와 유사한 다른 쿼드트리 구조에 따라 TU들(transform units)로 파티셔닝될 수 있다.
실시예들에서, 예를 들어, VVC(Versatile Video Coding)라고 지칭되는, 현재 개발 중인 최근 비디오 코딩 표준에 따라, 코딩 블록을 파티셔닝하기 위해 QTBT(Quad-tree and binary tree) 파티셔닝이 사용된다. QTBT 블록 구조에서, CU는 정사각형 또는 직사각형 형상을 가질 수 있다. 예를 들어, CTU(coding tree unit)가 쿼드트리 구조에 의해 먼저 파티셔닝된다. 쿼드트리 리프 노드들은 2진 트리 또는 3진(또는 3중) 트리 구조에 의해 추가로 파티셔닝된다. 파티셔닝 트리 리프 노드들은 CU들(coding units)이라고 불리고, 해당 세그먼트화는 어떠한 추가적 파티셔닝도 없이 예측 및 변환 처리를 위해 사용된다. 이러한 것은 CU, PU 및 TU가 QTBT 코딩 블록 구조에서 동일한 블록 크기를 갖는다는 점을 의미한다. 병렬로, 다수의 파티션, 예를 들어, 3중 트리 파티션이 QTBT 블록 구조와 함께 사용되도록 또한 제안되었다.
하나의 예에서, 비디오 인코더(20)의 모드 선택 유닛(260)은 본 명세서에 설명되는 파티셔닝 기법들의 임의의 조합을 수행하도록 구성될 수 있다.
위에 설명된 바와 같이, 비디오 인코더(20)는 (미리 결정된) 예측 모드들의 세트로부터 최상 또는 최적 예측 모드를 결정 또는 선택하도록 구성된다. 예측 모드들의 세트는, 예를 들어, 인트라 예측 모드들 및/또는 인터 예측 모드들을 포함할 수 있다.
인트라 예측
인트라 예측 모드들의 세트는, 예를 들어, HEVC에서 정의되는 바와 같이, DC(또는 평균) 모드 및 평면 모드와 같은 비-지향성 모드들, 또는 지향성 모드들과 같은, 35개의 상이한 인트라 예측 모드들을 포함할 수 있거나, 또는, 예를 들어, VVC에 대해 정의되는 바와 같이, DC(또는 평균) 모드 및 평면 모드와 같은 비-지향성 모드들, 또는 지향성 모드들과 같은, 67개의 상이한 인트라 예측 모드들을 포함할 수 있다.
인트라 예측 유닛(254)은 동일한 현재 화상의 이웃 블록들의 재구성된 샘플들을 사용하여 인트라 예측 모드들의 세트로부터의 인트라 예측 모드에 따라 인트라 예측 블록(265)을 생성하도록 구성된다.
인트라 예측 유닛(254)(또는 일반적으로 모드 선택 유닛(260))은 인코딩된 화상 데이터(21)로의 포함을 위해 신택스 엘리먼트들(266)의 형태로 엔트로피 인코딩 유닛(270)에 인트라 예측 파라미터들(또는 일반적으로 블록에 대한 선택된 인트라 예측 모드를 표시하는 정보)을 출력하도록 추가로 구성될 수 있어서, 예를 들어, 비디오 디코더(30)는 디코딩을 위해 예측 파라미터들을 수신하고 사용할 수 있다.
인터 예측
(또는 가능한) 인터 예측 모드들의 세트는 이용가능한 참조 화상들(즉, 예를 들어, DBP(230)에 저장되는, 이전의 적어도 부분적으로 디코딩된 화상들) 및 다른 인터 예측 파라미터들, 예를 들어, 최상의 매칭 참조 블록을 검색하기 위해, 참조 화상의, 전체 참조 화상 또는 그 일부분만, 예를 들어, 현재 블록의 영역 주위의 검색 윈도우 영역만이 사용되는지, 및/또는, 예를 들어, 1/2/반-화소 및/또는 1/4-화소 보간과 같은, 예를 들어, 픽셀 보간이 적용되는지 여부에 의존한다.
위 예측 모드들에 추가적으로, 스킵 모드 및/또는 직접 모드가 적용될 수 있다.
인터 예측 유닛(244)은 ME(motion estimation) 유닛 및 MC(motion compensation) 유닛(양자 모두 도 2에 도시되지 않음)을 포함할 수 있다. 모션 추정 유닛은, 모션 추정을 위해, 화상 블록(203)(현재 화상(17)의 현재 화상 블록(203)) 및 디코딩된 화상(231), 또는 적어도 하나의 또는 복수의 이전에 재구성된 블록, 예를 들어, 하나의 또는 복수의 다른/상이한 이전에 디코딩된 화상(231)의 재구성된 블록을 수신 또는 획득하도록 구성된다. 예를 들어, 비디오 시퀀스는 현재 화상 및 이전에 디코딩된 화상들(231)을 포함할 수 있거나, 또는 다시 말해서, 현재 화상 및 이전에 디코딩된 화상들(231)은 비디오 시퀀스를 형성하는 화상들의 부분일 수 있거나 또는 그 시퀀스를 형성할 수 있다.
인코더(20)는 복수의 다른 화상들 중 동일한 또는 상이한 화상들의 복수의 참조 블록들로부터 참조 블록을 선택하도록 그리고 참조 화상(또는 참조 화상 인덱스) 및/또는 참조 블록의 위치(x, y 좌표들)와 현재 블록의 위치 사이의 오프셋(공간적 오프셋)을 모션 추정 유닛에 인터 예측 파라미터들로서 제공하도록 구성될 수 있다. 이러한 오프셋은 MV(motion vector)라고 또한 불린다.
모션 보상 유닛은 인터 예측 파라미터를 획득하도록, 예를 들어, 수신하도록 그리고 인터 예측 파라미터에 기초하여 또는 이를 사용하여 인터 예측을 수행하여 인터 예측 블록(265)을 획득하도록 구성된다. 모션 보상 유닛에 의해 수행되는, 모션 보상은 모션 추정에 의해 결정되는 모션/블록 벡터에 기초하여 예측 블록을 페치하는 것 또는 생성하는 것, 가능하게는 서브-픽셀 정밀도에 대한 보간들을 수행하는 것을 수반할 수 있다. 보간 필터링은 알려진 픽셀 샘플들로부터 추가적인 픽셀 샘플들을 생성할 수 있고, 따라서 화상 블록을 코딩하기 위해 사용될 수 있는 후보 예측 블록들의 수를 잠재적으로 증가시킨다. 현재 화상 블록의 PU에 대한 모션 벡터를 수신하면, 모션 보상 유닛은 참조 화상 리스트들 중 하나에서 모션 벡터가 포인팅하는 예측 블록의 위치를 찾아낼 수 있다.
모션 보상 유닛은 비디오 슬라이스의 화상 블록들을 디코딩함에 있어서 비디오 디코더(30)에 의해 사용하기 위한 블록들 및 비디오 슬라이스와 연관된 신택스 엘리먼트들을 또한 생성할 수 있다.
엔트로피 코딩
엔트로피 인코딩 유닛(270)은, 예를 들어, 인코딩된 비트스트림(21)의 형태로, 출력(272)을 통해 출력될 수 있는 인코딩된 화상 데이터(21)를 획득하기 위해, 양자화된 계수들(209), 인터 예측 파라미터들, 인트라 예측 파라미터들, 루프 필터 파라미터들, 및/또는 다른 신택스 엘리먼트들에 대해 엔트로피 인코딩 알고리즘 또는 스킴(예를 들어, VLC(variable length coding) 스킴, CAVLC(context adaptive VLC) 스킴, 산술 코딩 스킴, 2진화, CABAC(context adaptive binary arithmetic coding), SBAC(syntax-based context-adaptive binary arithmetic coding), PIPE(probability interval partitioning entropy) 코딩 또는 다른 엔트로피 인코딩 방법론 또는 기법) 또는 바이패스(어떠한 압축도 없음)를 적용하도록 구성되어, 예를 들어, 비디오 디코더(30)는 디코딩을 위해 파라미터들을 수신 및 사용할 수 있다. 인코딩된 비트스트림(21)은 비디오 디코더(30)에 송신될 수 있거나, 또는 비디오 디코더(30)에 의한 나중의 송신 또는 검색을 위해 메모리에 저장될 수 있다.
비디오 스트림을 인코딩하기 위해 비디오 인코더(20)의 다른 구조적 변형들이 사용될 수 있다. 예를 들어, 비-변환 기반 인코더(20)는 특정 블록들 또는 프레임들에 대해 변환 처리 유닛(206) 없이 직접 잔차 신호를 양자화할 수 있다. 다른 구현에서, 인코더(20)는 단일 유닛으로 조합되는 양자화 유닛(208) 및 역 양자화 유닛(210)을 가질 수 있다.
디코더 및 디코딩 방법
도 3은 이러한 본 출원의 기법들을 구현하도록 구성되는 비디오 디코더(30)의 예를 도시한다. 비디오 디코더(30)는, 예를 들어, 인코더(20)에 의해 인코딩되는 인코딩된 화상 데이터(21)(예를 들어, 인코딩된 비트스트림(21))를 수신하여, 디코딩된 화상(331)을 획득하도록 구성된다. 인코딩된 화상 데이터 또는 비트스트림은 인코딩된 화상 데이터를 디코딩하기 위한 정보, 예를 들어, 인코딩된 비디오 슬라이스의 화상 블록들 및 연관된 신택스 엘리먼트들을 표현하는 데이터를 포함한다.
도 3의 예에서, 디코더(30)는 엔트로피 디코딩 유닛(304), 역 양자화 유닛(310), 역 변환 처리 유닛(312), 재구성 유닛(314)(예를 들어, 합산기(314)), 루프 필터(320), DBP(decoded picture buffer)(330), 인터 예측 유닛(344) 및 인트라 예측 유닛(354)을 포함한다. 인터 예측 유닛(344)은 모션 보상 유닛이거나 또는 이를 포함할 수 있다. 비디오 디코더(30)는, 일부 예들에서, 도 2의 비디오 인코더(100)에 관하여 설명되는 인코딩 패스에 일반적으로 상반되는 디코딩 패스를 수행할 수 있다.
인코더(20)에 관하여 설명된 바와 같이, 역 양자화 유닛(210), 역 변환 처리 유닛(212), 재구성 유닛(214), 루프 필터(220), DPB(decoded picture buffer)(230), 인터 예측 유닛(344) 및 인트라 예측 유닛(354)은 비디오 인코더(20)의 "내장 디코더(built-in decoder)"를 형성하는 것으로 또한 참조된다. 따라서, 역 양자화 유닛(310)은 역 양자화 유닛(110)과 기능에 있어서 동일할 수 있고, 역 변환 처리 유닛(312)은 역 변환 처리 유닛(212)과 기능에 있어서 동일할 수 있고, 재구성 유닛(314)은 재구성 유닛(214)과 기능에 있어서 동일할 수 있고, 루프 필터(320)는 루프 필터(220)와 기능에 있어서 동일할 수 있으며, 디코딩된 화상 버퍼(330)는 디코딩된 화상 버퍼(230)와 기능에 있어서 동일할 수 있다. 따라서, 비디오 인코더(20)의 각각의 유닛들 및 기능들에 대해 제공되는 설명들은 비디오 디코더(30)의 각각의 유닛들 및 기능들에 대응하여 적용된다.
엔트로피 디코딩
엔트로피 디코딩 유닛(304)은 비트스트림(21)(또는 일반적으로 인코딩된 화상 데이터(21))을 파싱하도록 그리고, 예를 들어, 인코딩된 화상 데이터(21)에 대한 엔트로피 디코딩을 수행하여, 예를 들어, 양자화된 계수들(309) 및/또는 디코딩된 코딩 파라미터들(도 3에 도시되지 않음), 예를 들어, 인터 예측 파라미터들(예를 들어, 참조 화상 인덱스 및 모션 벡터), 인트라 예측 파라미터(예를 들어, 인트라 예측 모드 또는 인덱스), 변환 파라미터들, 양자화 파라미터들, 루프 필터 파라미터들, 및/또는 다른 신택스 엘리먼트들 중 임의의 것 또는 전부를 획득하도록 구성된다. 엔트로피 디코딩 유닛(304)은 인코더(20)의 엔트로피 인코딩 유닛(270)에 관하여 설명된 바와 같이 인코딩 스킴들에 대응하는 디코딩 알고리즘들 또는 스킴들을 적용하도록 구성될 수 있다. 엔트로피 디코딩 유닛(304)은 인터 예측 파라미터들, 인트라 예측 파라미터들 및/또는 다른 신택스 엘리먼트들을 모드 선택 유닛(360)에 그리고 다른 파라미터들을 디코더(30)의 다른 유닛들에 제공하도록 추가로 구성될 수 있다. 비디오 디코더(30)는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수 있다.
역 양자화
역 양자화 유닛(310)은 (예를 들어, 파싱 및/또는 디코딩에 의해, 예를 들어, 엔트로피 디코딩 유닛(304)에 의해) 인코딩된 화상 데이터(21)로부터 QP(quantization parameters)(또는 일반적으로, 역 양자화에 관련된 정보) 및 양자화된 계수들을 수신하도록 그리고, 양자화 파라미터들에 기초하여, 디코딩된 양자화된 계수들(309)에 역 양자화를 적용하여, 변환 계수들(311)이라고 또한 지칭될 수 있는, 양자화해제된 계수들(311)을 획득하도록 구성될 수 있다. 역 양자화 프로세스는, 양자화의 정도 및, 마찬가지로, 적용되어야 하는 역 양자화의 정도를 결정하기 위한, 비디오 슬라이스에서의 각각의 비디오 블록에 대해 비디오 인코더(20)에 의해 결정되는 양자화 파라미터의 사용을 포함할 수 있다.
역 변환
역 변환 처리 유닛(312)은, 변환 계수들(311)이라고 또한 지칭되는, 양자화해제된 계수들(311)을 수신하도록, 그리고 샘플 도메인에서 재구성된 잔차 블록들(213)을 획득하기 위해 양자화해제된 계수들(311)에 변환을 적용하도록 구성될 수 있다. 재구성된 잔차 블록들(213)은 변환 블록들(313)이라고 또한 지칭될 수 있다. 변환은 역 변환, 예를 들어, 역 DCT, 역 DST, 역 정수 변환, 또는 개념적으로 유사한 역 변환 프로세스일 수 있다. 역 변환 처리 유닛(312)은 양자화해제된 계수들(311)에 적용될 변환을 결정하기 위해 (예를 들어, 파싱 및/또는 디코딩에 의해, 예를 들어, 엔트로피 디코딩 유닛(304)에 의해) 인코딩된 화상 데이터(21)로부터 변환 파라미터들 또는 대응하는 정보를 수신하도록 추가로 구성될 수 있다.
재구성
재구성 유닛(314)(예를 들어, 가산기 또는 합산기(314))은, 예를 들어, 재구성된 잔차 블록(313)의 샘플 값들 및 예측 블록(365)의 샘플 값들을 가산하는 것에 의해, 재구성된 잔차 블록(313)을 예측 블록(365)에 가산하여 샘플 도메인에서 재구성된 블록(315)을 획득하도록 구성될 수 있다.
필터링
(코딩 루프에서의 또는 코딩 루프 후의) 루프 필터 유닛(320)은 재구성된 블록(315)을 필터링하여 필터링된 블록(321)을 획득하도록, 예를 들어, 픽셀 전이들을 평활화하도록, 또는 비디오 품질을 달리 개선하도록 구성된다. 루프 필터 유닛(320)은 블록화-해제 필터와 같은 하나 이상의 루프 필터, SAO(sample-adaptive offset) 필터 또는 하나 이상의 다른 필터, 예를 들어, 쌍방 필터, ALF(adaptive loop filter), 샤프닝, 평활화 필터 또는 협업 필터, 또는 이들의 임의의 조합을 포함할 수 있다. 루프 필터 유닛(320)이 인 루프 필터인 것으로서 도 3에 도시되더라도, 다른 구성들에서, 루프 필터 유닛(320)은 포스트 루프 필터로서 구현될 수 있다.
디코딩된 화상 버퍼
화상의 디코딩된 비디오 블록(321)은 다음으로, 디코딩된 화상들(331)을 다른 화상에 대한 후속 모션 보상을 위한 및/또는 출력 또는 각각 디스플레이를 위한 참조 화상들로서 저장하고 있는, 디코딩된 화상 버퍼(330)에 저장된다.
디코더(30)는 사용자에 대한 프레젠테이션 또는 뷰잉을 위해, 예를 들어, 출력(312)을 통해, 디코딩된 화상(311)을 출력하도록 구성된다.
예측
인터 예측 유닛(344)은 인터 예측 유닛(244)(특히, 모션 보상 유닛)과 동일할 수 있고, 인트라 예측 유닛(354)은 기능에 있어서 인터 예측 유닛(254)과 동일할 수 있으며, (예를 들어, 파싱 및/또는 디코딩에 의해, 예를 들어, 엔트로피 디코딩 유닛(304)에 의해) 파티셔닝 및/또는 예측 파라미터들 또는 인코딩된 화상 데이터(21)로부터 수신되는 각각의 정보에 기초하여 분열 또는 파티셔닝 결정들 및 예측을 수행한다. 모드 선택 유닛(360)은 재구성된 화상들, 블록들 또는 각각의 샘플들(필터링되거나 또는 필터링되지 않음)에 기초하여 블록 당 예측(인트라 예측 또는 인터 예측)을 수행하여 예측 블록(365)를 획득하도록 구성될 수 있다.
비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩될 때, 모드 선택 유닛(360)의 인트라 예측 유닛(354)은 현재 화상의 이전에 디코딩된 블록들로부터의 시그널링된 인트라 예측 모드 및 데이터에 기초하여 현재 비디오 슬라이스의 화상 블록에 대한 예측 블록(365)를 생성하도록 구성된다. 비디오 화상이 인터 코딩된(즉, B 또는 P) 슬라이스로서 코딩될 때, 모드 선택 유닛(360)의 인터 예측 유닛(344)(예를 들어, 모션 보상 유닛)은 엔트로피 디코딩 유닛(304)으로부터 수신되는 다른 신택스 엘리먼트들 및 모션 벡터들에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록(365)를 생성하도록 구성된다. 인터 예측을 위해, 예측 블록들은 참조 화상 리스트들 중 하나 내의 참조 화상들 중 하나로부터 생성될 수 있다. 비디오 디코더(30)는, DPB(330)에 저장되는 참조 화상에 기초하여 디폴트 구성 기법들을 사용하여, 참조 프레임 리스트들, 즉, List 0 및 List 1을 구성할 수 있다.
모드 선택 유닛(360)은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱하는 것에 의해 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하도록 구성되고, 이러한 예측 정보를 사용하여 디코딩되고 있는 현재 비디오 블록에 대한 예측 블록들을 생성한다. 예를 들어, 모드 선택 유닛(360)은 수신된 신택스 엘리먼트들 중 일부를 사용하여, 비디오 슬라이스의 비디오 블록들을 코딩하기 위해 사용되는 예측 모드(예를 들어, 인트라 또는 인터 예측), 인터 예측 슬라이스 타입 (예를 들어, B 슬라이스, P 슬라이스, 또는 GPB 슬라이스), 슬라이스에 대한 참조 화상 리스트들 중 하나 이상에 대한 구성 정보, 슬라이스의 각각의 인터 인코딩된 비디오 블록에 대한 모션 벡터들, 슬라이스의 각각의 인터 코딩된 비디오 블록에 대한 인터 예측 상태, 및 현재 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.
인코딩된 화상 데이터(21)를 디코딩하기 위해 비디오 디코더(30)의 다른 변형들이 사용될 수 있다. 예를 들어, 디코더(30)는 루프 필터링 유닛(320) 없이 출력 비디오 스트림을 생성할 수 있다. 예를 들어, 비-변환 기반 디코더(30)는 특정 블록들 또는 프레임들에 대해 역-변환 처리 유닛(312) 없이 직접 잔차 신호를 역-양자화할 수 있다. 다른 구현에서, 비디오 디코더(30)는 단일 유닛으로 조합되는 역-양자화 유닛(310) 및 역-변환 처리 유닛(312)을 가질 수 있다.
인코더(20) 및 디코더(30)에서, 현재 단계의 처리 결과가 추가로 처리되고 다음으로 다음 단계에 출력될 수 있다는 점이 이해되어야 한다. 예를 들어, 보간 필터링, 모션 벡터 도출 또는 루프 필터링 후에, 보간 필터링, 모션 벡터 도출 또는 루프 필터링의 처리 결과에 대해, Clip 또는 시프트와 같은, 추가적 연산이 수행될 수 있다.
추가 연산들은 현재 블록의 도출된 모션 벡터들(이에 제한되는 것은 아니지만 아핀 모드의 제어 포인트 모션 벡터들, 아핀에서의 서브-블록 모션 벡터들, 평면, ATMVP 모드들, 시간적 모션 벡터들 등을 포함함)에 적용될 수 있다는 점이 주목되어야 한다. 예를 들어, 모션 벡터의 값은 그 표현 비트에 따라 미리 정의된 범위로 제약된다. 모션 벡터의 표현 비트가 bitDepth이면, 이러한 범위는 -2^(bitDepth-1) ~ 2^(bitDepth-1)-1이고, 여기서 "^"는 지수화를 의미한다. 예를 들어, bitDepth가 16과 동일하게 설정되면, 이러한 범위는 -32768 ~ 32767이고; bitDepth가 18과 동일하게 설정되면, 이러한 범위는 -131072~131071이다. 예를 들어, 도출된 모션 벡터(예를 들어, 하나의 8x8 블록 내의 4개의 4x4 서브-블록들의 MV들)의 값은 4개의 4x4 서브-블록 MV들의 정수 부분들 사이의 최대 차이가, 1 픽셀 이하와 같은, N 픽셀 이하이도록 제약된다. 여기서는 bitDepth에 따라 모션 벡터를 제약하기 위한 2개의 방법을 제공한다.
방법 1: 다음의 연산들에 의해 오버플로우 MSB(most significant bit)를 제거함
ux= ( mvx+2bitDepth ) % 2bitDepth (1)
mvx = ( ux >= 2bitDepth-1 ) ? (ux - 2bitDepth ) : ux (2)
uy= ( mvy+2bitDepth ) % 2bitDepth (3)
mvy = ( uy >= 2bitDepth-1 ) ? (uy - 2bitDepth ) : uy (4)
여기서 mvx는 이미지 블록 또는 서브-블록의 모션 벡터의 수평 성분이고, mvy는 이미지 블록 또는 서브-블록의 모션 벡터의 수직 성분이고, ux 및 uy는 중간 값을 표시한다.
예를 들어, mvx의 값이 -32769이면, 공식 (1) 및 (2)를 적용한 후에, 결과 값은 32767이다. 컴퓨터 시스템에서, 10진수들은 2의 보수로서 저장된다. -32769의 2의 보수는 1, 0111, 1111, 1111, 1111(17 비트)이고, 다음으로, MSB는 폐기되므로, 결과적인 2의 보수는 0111, 1111, 1111, 1111이고(10진수는 32767임), 이는 공식 (1) 및 (2)를 적용하는 것에 의한 출력과 동일하다.
ux= ( mvpx + mvdx +2bitDepth ) % 2bitDepth (5)
mvx = ( ux >= 2bitDepth-1 ) ? (ux - 2bitDepth ) : ux (6)
uy= ( mvpy + mvdy +2bitDepth ) % 2bitDepth (7)
mvy = ( uy >= 2bitDepth-1 ) ? (uy - 2bitDepth ) : uy (8)
이러한 연산들은, 공식 (5) 내지(8)에 도시되는 바와 같이, mvp와 mvd의 합 동안 적용될 수 있다.
방법 2: 값을 클리핑하는 것에 의해 오버플로우 MSB를 제거함
vx = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vx)
vy = Clip3(-2bitDepth-1, 2bitDepth-1 -1, vy)
여기서, vx는 이미지 블록 또는 서브-블록의 모션 벡터의 수평 성분이고, vy는 이미지 블록 또는 서브-블록의 모션 벡터의 수직 성분이고; x, y 및 z는 각각 MV 클리핑 프로세스의 3개의 입력 값에 대응하고, 함수 Clip3의 정의는 다음과 같다:
Clip3( x, y, z ) =
Figure pct00001
도 4는 본 개시내용의 실시예에 따른 비디오 코딩 디바이스(400)의 개략도이다. 이러한 비디오 코딩 디바이스(400)는 본 명세서에 설명되는 바와 같이 개시된 실시예들을 구현하기에 적합하다. 실시예에서, 비디오 코딩 디바이스(400)는 도 1a의 비디오 디코더(30)와 같은 디코더 또는 도 1a의 비디오 인코더(20)와 같은 인코더일 수 있다.
비디오 코딩 디바이스(400)는 데이터를 수신하기 위한 입구 포트들(410)(또는 입력 포트들(410)) 및 수신기 유닛들(Rx)(420); 데이터를 처리하는 프로세서, 로직 유닛, 또는 CPU(central processing unit)(430); 데이터를 송신하기 위한 송신기 유닛들(Tx)(440) 및 출구 포트들(450)(또는 출력 포트들(450)); 및 데이터를 저장하기 위한 메모리(460)를 포함한다. 비디오 코딩 디바이스(400)는 광 또는 전기 신호들의 출구 또는 입구를 위해 입구 포트들(410), 수신기 유닛들(420), 송신기 유닛들(440), 및 출구 포트들(450)에 연결되는 OE(optical-to-electrical) 컴포넌트들 및 EO(electrical-to-optical) 컴포넌트들을 또한 포함할 수 있다.
프로세서(430)는 하드웨어 및 소프트웨어에 의해 구현된다. 프로세서(430)는 하나 이상의 CPU 칩, (예를 들어, 멀티-코어 프로세서로서의) 코어들, FPGA들, ASIC들, 및 DSP들로서 구현될 수 있다. 프로세서(430)는 입구 포트들(410), 수신기 유닛들(420), 송신기 유닛들(440), 출구 포트들(450), 및 메모리(460)와 통신한다. 프로세서(430)는 코딩 모듈(470)을 포함한다. 코딩 모듈(470)은 위에 설명된 개시된 실시예들을 구현한다. 예를 들어, 코딩 모듈(470)은 다양한 코딩 동작들을 구현, 처리, 준비, 또는 제공한다. 따라서, 코딩 모듈(470)의 포함은 비디오 코딩 디바이스(400)의 기능성에 상당한 개선을 제공하고, 비디오 코딩 디바이스(400)의 상이한 상태로의 변환에 효과가 있다. 대안적으로, 코딩 모듈(470)은 메모리(460)에 저장되는 그리고 프로세서(430)에 의해 실행되는 명령어들로서 구현된다.
메모리(460)는 하나 이상의 디스크, 테이프 드라이브, 및 솔리드-스테이트 드라이브를 포함할 수 있고, 이러한 프로그램들이 실행을 위해 선택될 때 프로그램들을 저장하고, 프로그램 실행 동안 판독되는 명령어들 및 데이터를 저장하기 위해, 오버-플로우 데이터 저장 디바이스로서 사용될 수 있다. 메모리(460)는, 예를 들어, 휘발성 및/또는 비-휘발성일 수 있고, ROM(read-only memory), RAM(random access memory), TCAM(ternary content-addressable memory), 및/또는 SRAM(static random-access memory)일 수 있다.
도 5는 예시적인 실시예에 따른 도 1로부터의 소스 디바이스(12) 및 목적지 디바이스(14) 중 어느 하나 또는 양자 모두로서 사용될 수 있는 장치(500)의 단순화된 블록도이다.
이러한 장치(500)에서의 프로세서(502)는 중앙 처리 유닛일 수 있다. 대안적으로, 프로세서(502)는, 지금-존재하는 또는 이후 개발될 정보를 조작 또는 처리할 수 있는, 임의의 다른 타입의 디바이스, 또는 다수의 디바이스일 수 있다. 개시된 구현들은 도시되는 바와 같이 단일 프로세서, 예를 들어, 프로세서(502)로 실시될 수 있더라도, 하나보다 많은 프로세서를 사용하여 속도 및 효율에서의 이점들이 달성될 수 있다.
장치(500)에서의 메모리(504)는 구현에서 ROM(read only memory) 디바이스 또는 RAM(random access memory) 디바이스일 수 있다. 임의의 다른 적합한 타입의 저장 디바이스가 메모리(504)로서 사용될 수 있다. 메모리(504)는 버스(512)를 사용하여 프로세서(502)에 의해 액세스되는 코드 및 데이터(506)를 포함할 수 있다. 메모리(504)는 운영 체제(508) 및 애플리케이션 프로그램들(510)을 추가로 포함할 수 있으며, 이러한 애플리케이션 프로그램들(510)은 프로세서(502)가 본 명세서에 설명되는 방법들을 수행하는 것을 허가하는 적어도 하나의 프로그램을 포함한다. 예를 들어, 애플리케이션 프로그램(510)은, 본 명세서에 설명되는 방법을 수행하는 비디오 코딩 애플리케이션을 추가로 포함하는, 애플리케이션들 1 내지 N을 포함할 수 있다.
이러한 장치(500)는, 디스플레이(518)와 같은, 하나 이상의 출력 디바이스를 또한 포함할 수 있다. 디스플레이(518)는, 하나의 예에서, 터치 입력들을 감지하도록 동작가능한 터치 감응성 엘리먼트와 디스플레이를 조합하는 터치 감응성 디스플레이일 수 있다. 디스플레이(518)는 버스(512)를 통해 프로세서(502)에 연결될 수 있다.
본 명세서에서는 단일 버스로서 묘사되더라도, 이러한 장치(500)의 버스(512)는 다수의 버스로 조성될 수 있다. 추가로, 보조 저장소(514)가 이러한 장치(500)의 다른 컴포넌트들에 직접 연결될 수 있거나 또는 네트워크를 통해 액세스될 수 있고, 메모리 카드와 같은 단일 집적 유닛 또는 다수의 메모리 카드들과 같은 다수의 유닛을 포함할 수 있다. 따라서, 이러한 장치(500)는 매우 다양한 구성들로 구현될 수 있다.
인-루프 필터
VTM3에는 총 3개의 인 루프 필터가 존재한다. 디블로킹 필터 및 SAO(HEVC에서의 2개의 루프 필터들) 이외에, ALF(adaptive loop filter)가 VTM3에서 적용된다. VTM3에서의 필터링 프로세스의 순서는 디블로킹 필터, SAO 및 ALF이다.
ALF
VTM5에서, 블록-기반 필터 적응을 갖는 ALF(adaptive loop filter)가 적용된다. 루마 성분에 대해, 로컬 그래디언트들의 방향 및 활성도에 기초하여, 각각의 4Х4 블록에 대해 25개의 필터들 중에 하나가 선택된다.
필터 형상:
JEM에서, (도 6에 도시되는 바와 같은) 2개의 다이아몬드 필터 형상들이 루마 성분에 대해 사용된다. 7Х7 다이아몬드 형상이 루마 성분에 대해 적용되고, 5Х5 다이아몬드 형상이 크로마 성분에 대해 적용된다.
블록 분류:
루마 성분에 대해, 각각의
Figure pct00002
블록은 25개의 클래스들 중 하나로 분류된다. 분류 인덱스 C는, 다음과 같이, 그 방향성
Figure pct00003
및 활성도
Figure pct00004
의 양자화된 값에 기초하여 도출된다:
Figure pct00005
(9)
Figure pct00006
Figure pct00007
를 계산하기 위해, 수평, 수직 및 2개의 대각선 방향의 그래디언트들이 1-D Laplacian을 사용하여 먼저 계산된다:
Figure pct00008
(10)
Figure pct00009
(11)
Figure pct00010
(12)
Figure pct00011
(13)
여기서, 인덱스들
Figure pct00012
Figure pct00013
Figure pct00014
블록 내의 상부 좌측 샘플의 좌표들을 지칭하고,
Figure pct00015
는 좌표
Figure pct00016
에서의 재구성된 샘플을 표시한다.
블록 분류의 복잡성을 감소시키기 위해, 서브샘플링된 1-D Laplacian 계산이 적용된다. 도 7에 도시되는 바와 같이, 모든 방향들의 그래디언트 계산을 위해 동일한 서브샘플링된 위치들이 사용된다.
다음으로 수평 및 수직 방향들의 그래디언트들의
Figure pct00017
최대 및 최소 값들이 다음과 같이 설정된다:
Figure pct00018
,
Figure pct00019
(14)
2개의 대각선 방향들의 그래디언트의 최대 및 최소 값들이 다음과 같이 설정된다:
Figure pct00020
,
Figure pct00021
(15)
방향성
Figure pct00022
의 값을 도출하기 위해, 이러한 값들은 서로에 대해 비교되고, 2개의 임계값들
Figure pct00023
Figure pct00024
과 비교된다:
단계 1.
Figure pct00025
Figure pct00026
양자 모두가 참이면,
Figure pct00027
는 0으로 설정된다.
단계 2.
Figure pct00028
이면, 단계 3으로부터 계속되고; 그렇지 않으면 단계 4로부터 계속된다.
단계 3.
Figure pct00029
이면,
Figure pct00030
는 2로 설정되고; 그렇지 않으면
Figure pct00031
는 1로 설정된다.
단계 4.
Figure pct00032
이면,
Figure pct00033
는 4로 설정되고; 그렇지 않으면
Figure pct00034
는 3으로 설정된다.
활성도 값
Figure pct00035
는 다음과 같이 계산된다:
Figure pct00036
(16)
Figure pct00037
는, 경계값을 포함하여, 0 내지 4의 범위로 추가로 양자화되고, 양자화된 값은
Figure pct00038
로 표기된다.
화상에서의 크로마 성분들에 대해, 분류 방법이 적용되지 않는다, 즉, ALF 계수들의 단일 세트가 각각의 크로마 성분에 대해 적용된다.
필터 계수들의 기하학적 변환들
각각의 4Х4 루마 블록을 필터링하기 전에, 그 블록에 대해 계산되는 그래디언트 값들에 의존하여 필터 계수들
Figure pct00039
에 회전 또는 대각선 및 수직 플립핑과 같은 기하학적 변환들이 적용된다. 이러한 것은 이러한 변환들을 필터 지원 영역에의 샘플들에 적용하는 것과 동등하다. 이러한 아이디어는 ALF가 적용되는 상이한 블록들을 그들의 방향성을 정렬하는 것에 의해 더 유사하게 만드는 것이다.
대각선, 수직 플립 및 회전을 포함하는 3개의 기하학적 변환들이 도입된다:
대각선:
Figure pct00040
(17)
수직 플립:
Figure pct00041
(18)
회전:
Figure pct00042
(19)
여기서,
Figure pct00043
는 필터의 크기이고,
Figure pct00044
는 계수 좌표들이어서, 위치
Figure pct00045
는 상부 좌측 코너에 있고, 위치
Figure pct00046
는 하부 우측 코너에 있다. 그 블록에 대해 계산된 그래디언트 값에 의존하여 필터 계수들 f (k, l)에 변환들이 적용된다. 변환과 4개의 방향들의 4개의 그래디언트들 사이의 관계가 다음의 표에 요약된다.
Figure pct00047
필터 파라미터들 시그널링
VTM3에서, ALF 필터 파라미터들은 슬라이스 헤더에서 시그널링된다. 루마 필터 계수들의 최대 25개의 세트들이 시그널링될 수 있다. 비트 오버헤드를 감소시키기 위해, 상이한 분류의 필터 계수들이 병합될 수 있다.
필터링 프로세스는 CTB 레벨에서 제어될 수 있다. ALF가 루마 CTB에 적용되는지를 표시하기 위해 플래그가 항상 시그널링된다. 각각의 크로마 CTB에 대해, alf_chroma_ctb_present_flag의 값에 의존하여 ALF가 크로마 CTB에 적용되는지를 표시하기 위해 플래그가 시그널링될 수 있다.
필터 계수들은 128과 동일한 놈(norm)으로 양자화된다. 승산 복잡도를 추가로 제한하기 위해, 중앙 위치의 계수 값이 0 내지 28의 범위에 있어야 하고 나머지 위치들의 계수 값들이 -27 내지 27 -1의 범위(경계값 포함)에 있어야 하는 비트스트림 적합성이 적용된다.
필터링 프로세스
디코더 측에서, ALF가 CTB에 대해 인에이블될 때, CU 내의 각각의 샘플
Figure pct00048
이 필터링되어, 아래에 보여지는 바와 같이 샘플 값
Figure pct00049
을 초래하고, 여기서 L은 필터 길이를 표기하고,
Figure pct00050
는 필터 계수를 표현하고,
Figure pct00051
는 디코딩된 필터 계수들을 표기한다.
Figure pct00052
(20)
또는 필터링은
Figure pct00053
(21)로서 또한 표현될 수 있고
여기서, 샘플들
Figure pct00054
은 입력 샘플들이고,
Figure pct00055
는 필터링된 출력 샘플(즉, 필터 결과)이고,
Figure pct00056
는 필터 계수들을 표기하고, 샘플들
Figure pct00057
는 입력 샘플들이고,
Figure pct00058
는 필터링된 출력 샘플(즉, 필터 결과)이고,
Figure pct00059
는 필터 계수들을 표기한다. 실제로, VTM에서 이는 고정 소수점 정밀도 계산들을 위한 정수 산술을 사용하여 구현된다:
Figure pct00060
(22)
여기서 L은 필터 길이를 표기하고,
Figure pct00061
는 고정 소수점 정밀도에서의 필터 계수들이다.
VTM5 이후 (ITU JVET-N0242)로부터, ALF는 비-선형 방식으로 수행된다. 방정식 21은 다음과 같이 공식화될 수 있다:
Figure pct00062
(23)
여기서
Figure pct00063
는 방정식 (22)에서와 동일한 필터 계수들이다[방정식 (23)에서의 1과 동일한
Figure pct00064
를 제외하고, 방정식 (21)에서의
Figure pct00065
과 동일하다].
필터링되고 있는 현재 샘플 값(
Figure pct00066
)과 너무 상이할 때 이웃 샘플 값들((
Figure pct00067
)의 영향을 감소시키기 위해 클리핑 함수를 사용하여 ALF를 더 효율적이게 하도록 비-선형성을 도입하는 것에 의해 필터가 추가로 수정된다.
VTM5에서, ALF 필터는 다음과 같이 수정된다:
Figure pct00068
(24)
여기서
Figure pct00069
는 클리핑 함수이고,
Figure pct00070
는 클리핑 파라미터들이며, 이는
Figure pct00071
필터 계수에 의존한다. 클리핑 파라미터들
Figure pct00072
는 각각의 ALF 필터에 대해 명시되고, 필터 계수 당 하나의 클리핑 값이 시그널링된다. 이것은 루마 필터 당 비트스트림에서 최대 12개의 클리핑 값들이 시그널링될 수 있고 크로마 필터에 대해 최대 6개의 클리핑 값들이 시그널링될 수 있다는 것을 의미한다.
시그널링 비용 및 인코더 복잡도를 제한하기 위해, 클리핑 값들의 평가는 가능한 값들의 작은 세트로 감소된다. VTM5에서, INTER 및 INTRA 타일 그룹들에 대해 동일한 4개의 가능한 고정 값들만이 사용된다.
로컬 차이들의 분산이 크로마에 대해서보다 루마에 대해 종종 더 높기 때문에, 루마 및 크로마 필터들에 대한 클리핑 값들의 2개의 상이한 세트들이 사용된다. 클리핑 값들은 각각의 세트에서의 최대 샘플 값(여기서는 10 비트 비트-심도에 대해 1024)을 또한 포함하여, 필요하지 않으면 클리핑이 디스에이블될 수 있다.
VTM5에서 사용되는 클리핑 값들의 세트들이 표 2에 제공된다. 대수 도메인에서 루마에 대한 샘플 값들(10 비트로 코딩됨)의 전체 범위, 및 크로마에 대한 4 내지 1024의 범위를 대략 동일하게 분열하는 것에 의해 4개의 값들이 선택되었다.
더 정확하게는, 다음의 공식에 의해 클리핑 값들의 루마 테이블이 획득되었다:
AlfClipL
Figure pct00073
, M=210이고 N=4임.
유사하게, 다음의 공식에 따라 클리핑 값들의 크로마 테이블들이 획득된다:
AlfClipC
Figure pct00074
, M=210이고, N=4이고 A=4임.
Figure pct00075
다른 인-루프 필터
VVC에는 총 3개의 인-루프 필터들이 존재한다. 디블로킹 필터 및 SAO(HEVC에서의 2개의 루프 필터들) 이외에, ALF(adaptive loop filter)가 적용된다. ALF는 루마 ALF, 크로마 ALF 및 CC-ALF(cross-component ALF)를 포함한다. 루마 ALF, 크로마 ALF 및 CC-ALF가 병렬로 실행될 수 있도록 ALF 필터링 프로세스가 설계된다. VVC에서의 필터링 프로세스의 순서는 디블로킹 필터, SAO 및 ALF이다. VVC에서의 SAO는 HEVC에서의 것과 동일하다.
VVC에서, 크로마 스케일링을 갖는 루마 매핑이라고 불리는 새로운 프로세스가 추가되었다(이러한 프로세스는 적응 인-루프 리셰이퍼(adaptive in-loop reshaper)라고 이전에 알려졌다). LMCS는 전체 동적 범위에 걸쳐 코드워드들을 재분배함하는 것에 의해 인코딩 전에 그리고 재구성 후에 샘플 값들을 수정한다. 이러한 새로운 프로세스는 디블로킹 전에 수행된다.
적응 루프 필터
VVC에서, 블록-기반 필터 적응을 갖는 ALF(Adaptive Loop Filter)가 적용된다. 루마 성분에 대해, 로컬 그래디언트들의 방향 및 활성도에 기초하여, 각각의 4Х4 블록에 대해 25개의 필터들 중에 하나가 선택된다. 필터 형상:
(도 6에 도시되는 바와 같은) 2개의 다이아몬드 필터 형상들이 사용된다. 7Х7 다이아몬드 형상이 루마 성분에 대해 적용되고, 5Х5 다이아몬드 형상이 크로마 성분에 대해 적용된다. 블록 분류:
루마 성분에 대해, 각각의
Figure pct00076
블록은 25개의 클래스들 중 하나로 분류된다. 분류 인덱스 C는, 다음과 같이, 그 방향성
Figure pct00077
및 활성도
Figure pct00078
의 양자화된 값에 기초하여 도출된다:
Figure pct00079
(9)
Figure pct00080
Figure pct00081
를 계산하기 위해, 수평, 수직 및 2개의 대각선 방향의 그래디언트들이 1-D Laplacian을 사용하여 먼저 계산된다:
Figure pct00082
(10)
Figure pct00083
(11)
Figure pct00084
(12)
Figure pct00085
(13)
여기서, 인덱스들
Figure pct00086
Figure pct00087
Figure pct00088
블록 내의 상부 좌측 샘플의 좌표들을 지칭하고,
Figure pct00089
는 좌표
Figure pct00090
에서의 재구성된 샘플을 표시한다.
블록 분류의 복잡성을 감소시키기 위해, 서브샘플링된 1-D Laplacian 계산이 적용된다. 도 7에 도시되는 바와 같이, 모든 방향들의 그래디언트 계산을 위해 동일한 서브샘플링된 위치들이 사용된다.
다음으로 수평 및 수직 방향들의 그래디언트들의
Figure pct00091
최대 및 최소 값들이 다음과 같이 설정된다:
Figure pct00092
,
Figure pct00093
(14)
2개의 대각선 방향들의 그래디언트의 최대 및 최소 값들이 다음과 같이 설정된다:
Figure pct00094
,
Figure pct00095
(15)
방향성
Figure pct00096
의 값을 도출하기 위해, 이러한 값들은 서로에 대해 비교되고, 2개의 임계값들
Figure pct00097
Figure pct00098
과 비교된다:
단계 1.
Figure pct00099
Figure pct00100
양자 모두가 참이면,
Figure pct00101
는 0으로 설정된다.
단계 2.
Figure pct00102
이면, 단계 3으로부터 계속되고; 그렇지 않으면 단계 4로부터 계속된다.
단계 3.
Figure pct00103
이면,
Figure pct00104
는 2로 설정되고; 그렇지 않으면
Figure pct00105
는 1로 설정된다.
단계 4.
Figure pct00106
이면,
Figure pct00107
는 4로 설정되고; 그렇지 않으면
Figure pct00108
는 3으로 설정된다.
활성도 값
Figure pct00109
는 다음과 같이 계산된다:
Figure pct00110
(16)
Figure pct00111
는, 경계값을 포함하여, 0 내지 4의 범위로 추가로 양자화되고, 양자화된 값은
Figure pct00112
로 표기된다.
화상에서의 크로마 성분들에 대해, 분류 방법이 적용되지 않는다, 즉, ALF 계수들의 단일 세트가 각각의 크로마 성분에 대해 적용된다.
필터 계수들 및 클리핑 값들의 기하학적 변환들
각각의 4Х4 루마 블록을 필터링하기 전에, 그 블록에 대해 계산되는 그래디언트 값들에 의존하여 필터 계수들
Figure pct00113
에 그리고 대응하는 필터 클리핑 값들
Figure pct00114
에 회전 또는 대각선 및 수직 플립핑과 같은 기하학적 변환들이 적용된다. 이러한 것은 이러한 변환들을 필터 지원 영역에의 샘플들에 적용하는 것과 동등하다. 이러한 아이디어는 ALF가 적용되는 상이한 블록들을 그들의 방향성을 정렬하는 것에 의해 더 유사하게 만드는 것이다.
대각선, 수직 플립 및 회전을 포함하는 3개의 기하학적 변환들이 도입된다:
대각선:
Figure pct00115
Figure pct00116
(25)
수직 플립:
Figure pct00117
,
Figure pct00118
(26)
회전:
Figure pct00119
,
Figure pct00120
(27)
여기서,
Figure pct00121
는 필터의 크기이고,
Figure pct00122
는 계수 좌표들이어서, 위치
Figure pct00123
는 상부 좌측 코너에 있고, 위치
Figure pct00124
는 하부 우측 코너에 있다. 그 블록에 대해 계산된 그래디언트 값에 의존하여 필터 계수들 f (k, l)에 그리고 클리핑 값들
Figure pct00125
에 변환들이 적용된다. 변환과 4개의 방향들의 4개의 그래디언트들 사이의 관계가 다음의 표에 요약된다.
Figure pct00126
필터 파라미터들 시그널링
ALF 필터 파라미터들은 APS(Adaptation Parameter Set)에서 시그널링된다. 하나의 APS에서, 루마 필터 계수들 및 클리핑 값 인덱스들의 최대 25개의 세트들, 및 크로마 필터 계수들 및 클리핑 값 인덱스들의 최대 8개의 세트들이 시그널링될 수 있다. 비트 오버헤드를 감소시키기 위해, 루마 성분에 대한 상이한 분류의 필터 계수들이 병합될 수 있다. 슬라이스 헤더에서, 현재 슬라이스에 대해 사용되는 APS들의 인덱스들이 시그널링된다.
APS로부터 디코딩되는, 클리핑 값 인덱스들은 루마 및 크로마 성분들 양자 모두에 대한 클리핑 값들의 테이블을 사용하여 클리핑 값들을 결정하는 것을 허용한다. 이러한 클리핑 값들은 내부 비트심도에 의존한다. 더 정확하게는, 클리핑 값들은 다음의 공식에 의해 획득된다:
AlfClip
Figure pct00127
(28)
여기서, B는 내부 비트심도와 동일하고, α는 2.35와 동일한 미리 정의된 상수 값이고, N은 VVC에서 허용된 클리핑 값들의 수인 4와 동일하다. AlfClip는 다음으로 2의 거듭제곱의 포맷을 갖는 가장 가까운 값으로 반올림된다.
슬라이스 헤더에서, 현재 슬라이스에 대해 사용되는 루마 필터 세트들을 명시하기 위해 최대 7개의 APS 인덱스들이 시그널링될 수 있다. 필터링 프로세스는 CTB 레벨에서 추가로 제어될 수 있다. ALF가 루마 CTB에 적용되는지를 표시하기 위해 플래그가 항상 시그널링된다. 루마 CTB는 16개의 고정 필터 세트들 중에서 필터 세트를 선택할 수 있고 APS들로부터 필터 세트를 선택할 수 있다. 어느 필터 세트가 적용되는지를 표시하기 위해 루마 CTB에 대해 필터 세트 인덱스가 시그널링된다. 16개의 고정 필터 세트들이 인코더 및 디코더 양자 모두에서 미리 정의되고 하드 코딩된다.
크로마 성분에 대해, 현재 슬라이스에 대해 사용되고 있는 크로마 필터 세트들을 표시하기 위해 슬라이스 헤더에서 APS 인덱스가 시그널링된다. CTB 레벨에서, APS에 하나보다 많은 크로마 필터 세트가 존재하면 각각의 크로마 CTB에 대해 필터 인덱스가 시그널링된다.
필터 계수들은 128과 동일한 놈(norm)으로 양자화된다. 승산 복잡도를 제한하기 위해, 비-중앙 위치의 계수 값이 -27 내지 27-1의 범위(경계값 포함)에 있도록 비트스트림 적합성이 적용된다. 중앙 위치 계수는 비트스트림에서 시그널링되지 않고 128과 동일한 것으로 고려된다.
필터링 프로세스
디코더 측에서, ALF가 CTB에 대해 인에이블될 때, CU 내의 각각의 샘플
Figure pct00128
이 필터링되어, 아래에 보여지는 바와 같이 샘플 값
Figure pct00129
을 초래하고,
Figure pct00130
(29)
여기서,
Figure pct00131
는 디코딩된 필터 계수들을 표기하고,
Figure pct00132
는 클리핑 함수이고,
Figure pct00133
는 디코딩된 클리핑 파라미터들을 표기한다. 변수 k 및 l은
Figure pct00134
Figure pct00135
사이에서 변하며, 여기서 L은 필터 길이를 표기한다. 클리핑 함수
Figure pct00136
는 함수
Figure pct00137
에 대응한다. 클리핑 동작은 현재 샘플 값과 너무 상이한 이웃 샘플 값들의 영향을 감소시키는 것에 의해 ALF를 더 효율적이게 하기 위해 비-선형성을 도입한다.
선택된 클리핑 값들은 위 표 1에서의 클리핑 값의 인덱스에 대응하는 Golomb 인코딩 스킴을 사용하여 "alf_data" 신택스 엘리먼트에서 코딩된다. 이러한 인코딩 스킴은 필터 인덱스에 대한 인코딩 스킴과 동일하다. alf_data는 adaptation_parameter_set_rbsp()에 있을 수 있고, adaptation_parameter_set_rbsp()는 슬라이스 헤더에 의해 참조될 수 있다.
신택스 상세사항들이 아래의 표에 도시된다.
Figure pct00138
Figure pct00139
Figure pct00140
새롭게 도입된 신택스 엘리먼트들의 시맨틱스는 다음과 같다:
0과 동일한 alf_luma_clip는 선형 적응 루프 필터가 루마 성분에 대해 적용되는 것을 명시한다. 1과 동일한 alf_luma_clip는 비-선형 적응 루프 필터가 루마 성분에 대해 적용될 수 있는 것을 명시한다.
0과 동일한 alf_chroma_clip는 선형 적응 루프 필터가 크로마 성분들에 적용되는 것을 명시하고; 1과 동일한 alf_chroma_clip는 비-선형 적응 루프 필터가 크로마 성분에 대해 적용되는 것을 명시한다. 존재하지 않으면, alf_chroma_clip는 0으로서 추론된다.
alf_luma_clip_min_eg_order_minus1 플러스 1은 루마 클리핑 인덱스 시그널링에 대한 exp-Golomb 코드의 최소 순서를 명시한다. alf_luma_clip_min_eg_order_minus1의 값은 0 내지 6의 범위(경계값 포함)에 있을 것이다.
1과 동일한 alf_luma_clip_eg_order_increase_flag[ i ]는 루마 클리핑 인덱스 시그널링에 대한 exp-Golomb 코드의 최소 순서가 1만큼 증분되는 것을 명시한다. 0과 동일한 alf_luma_clip_eg_order_increase_flag[ i ]는 루마 클리핑 인덱스 시그널링에 대한 exp-Golomb 코드의 최소 순서가 1만큼 증분되지 않는 것을 명시한다.
alf_luma_clip_idx [sigFiltIdx][ j ]의 값들을 디코딩하기 위해 사용되는 exp-Golomb 코드의 순서 expGoOrderYClip[ i ]는 다음과 같이 도출된다:
expGoOrderYClip[ i ] = alf_luma_clip_min_eg_order_minus1 + 1+ alf_luma_clip_eg_order_increase_flag[ i ]
alf_luma_clip_idx[ sigFiltIdx ][ j ]는 sigFiltIdx에 의해 표시되는 시그널링된 루마 필터의 j번째 계수로 승산하기 전에 사용할 클리핑 값의 클리핑 인덱스를 명시한다. alf_luma_clip_idx [sigFiltIdx][ j ]가 존재하지 않을 때, 이것은 0과 동일한 것으로 추론된다(클리핑 없음).
exp-Golomb 2진화 uek(v)의 순서 k는 다음과 같이 도출된다:
golombOrderIdxYClip[ ] = { 0, 0, 1, 0, 0, 1, 2, 1, 0, 0, 1, 2 }
k = expGoOrderYClip[ golombOrderIdxYClip[ j ] ]
sigFiltIdx = 0..alf_luma_num_filters_signalled_minus1, j = 0..11인 변수 filterClips [sigFiltIdx][ j ]는 다음과 같이 초기화된다: 변수 NumYClipValue는 4로 설정된다.
For i = 0..NumYClipValue - 1
alf_luma_clipping_value[i] = Round ( 2(BitDepthY * (NumYClipValue - i )/NumYClipValue))
filterClips[ sigFiltIdx ][ j ] = alf_luma_clipping_value[alf_luma_clip_idx[ sigFiltIdx ][ j ] ]
엘리먼트들 AlfClipL[ filtIdx ][ j ]를 갖는 루마 필터 클리핑 값들 AlfClip L(filtIdx = 0..NumAlfFilters - 1이고, j = 0..11임)은 다음과 같이 도출된다.
AlfClipL[ filtIdx ][ j ] = filterClips[ alf_luma_coeff_delta_idx[ filtIdx ] ][ j ]
alf_chroma_clip_min_eg_order_minus1 플러스 1은 크로마 클리핑 인덱스들 시그널링에 대한 exp-Golomb 코드의 최소 순서를 명시한다. alf_chroma_clip_min_eg_order_minus1의 값은 0 내지 6의 범위(경계값 포함)에 있을 것이다.
1과 동일한 alf_chroma_clip_eg_order_increase_flag[ i ]는 크로마 클리핑 인덱스들 시그널링에 대한 exp-Golomb 코드의 최소 순서가 1만큼 증분되는 것을 명시한다. 0과 동일한 alf_chroma_clip_eg_order_increase_flag[ i ]는 크로마 클리핑 인덱스들 시그널링에 대한 exp-Golomb 코드의 최소 순서가 1만큼 증분되지 않는 것을 명시한다.
alf_chroma_clip_idx[ j ]의 값들을 디코딩하기 위해 사용되는 exp-Golomb 코드의 순서 expGoOrderC[ i ]는 다음과 같이 도출된다:
expGoOrderC[ i ] = alf_chroma_clip_min_eg_order_minus1 + 1+ alf_chroma_clip_eg_order_increase_flag[ i ]
alf_chroma_clip_idx[ j ]는 크로마 필터의 j번째 계수로 승산하기 전에 사용할 클리핑 값의 클리핑 인덱스를 명시한다. alf_chroma_clip_idx[ j ]가 존재하지 않을 때, 이것은 0과 동일한 것으로 추론된다(클리핑 없음).
exp-Golomb 2진화 uek(v)의 순서 k는 다음과 같이 도출된다:
golombOrderIdxC[ ] = { 0, 0, 1, 0, 0, 1 }
k = expGoOrderC[ golombOrderIdxC[ j ] ]
엘리먼트들 AlfClipC [ j ](j = 0..5임)을 갖는 크로마 필터 클리핑 값들 AlfClipC은 다음과 같이 도출된다:
변수 NumCClipValue는 4로 설정된다.
For i = 0..NumCClipValue - 1
alf_chroma_clipping_value[i] = Round ( 2(BitDepthC - 8) * 2 (8 * (NumCClipValue - i - 1)/(NumCClipValue -1)))
AlfClipC[ j ] = alf_chroma_clipping_value[ alf_chroma_clip_idx[ j ] ]
VVC 사양에 따른 ALF 신택스 사양
적응 루프 필터 프로세스
1.1 일반
이러한 프로세스의 입력들은 적응 루프 필터 recPictureL, recPictureCb 및 recPictureCr 이전의 재구성된 화상 샘플 어레이들이다.
이러한 프로세스의 출력들은 적응 루프 필터 alfPictureL, alfPictureCb 및 alfPictureCr 이후의 수정된 재구성된 화상 샘플 어레이들이다.
적응 루프 필터 alfPictureL, alfPictureCb 및 alfPictureCr 이후의 수정된 재구성된 화상 샘플 어레이들에서의 샘플 값들은 적응 루프 필터 recPictureL, recPictureCb 및 recPictureCr 이전의 재구성된 화상 샘플 어레이들에서의 샘플 값들과 각각 동일하게 초기에 설정된다.
tile_group_alf_enabled_flag의 값이 1과 동일할 때, 루마 코딩 트리 블록 위치( rx, ry )를 갖는 모든 코딩 트리 유닛에 대해(여기서 rx = 0..PicWidthInCtbs-1이고 ry = 0..PicHeightInCtbs-1임), 다음의 프로세스가 적용된다:
alf_ctb_flag[ 0 ][ rx ][ ry ]의 값이 1과 동일할 때, 조항 1.2에 명시되는 바와 같은 루마 샘플들에 대한 코딩 트리 블록 필터링 프로세스는 recPictureL, alfPictureL, 및 입력들로서 ( rx << CtbLog2SizeY, ry << CtbLog2SizeY )와 동일하게 설정되는 루마 코딩 트리 블록 위치( xCtb, yCtb )로 호출되고, 출력은 수정된 필터링된 화상 alfPictureL이다.
alf_ctb_flag[ 1 ][ rx ][ ry ]의 값이 1과 동일할 때, 조항 1.1에 명시되는 바와 같은 크로마 샘플들에 대한 코딩 트리 블록 필터링 프로세스는 recPictureCb와 동일하게 설정되는 recPicture, alfPictureCb와 동일하게 설정되는 alfPicture, 및 입력들로서 ( rx << ( CtbLog2SizeY - 1 ), ry << ( CtbLog2SizeY - 1 ) )와 동일하게 설정되는 크로마 코딩 트리 블록 위치( xCtbC, yCtbC )로 호출되고, 출력은 수정된 필터링된 화상 alfPictureCb이다.
alf_ctb_flag[ 2 ][ rx ][ ry ]의 값이 1과 동일하게 설정될 때, 조항 1.4에 명시되는 바와 같은 크로마 샘플들에 대한 코딩 트리 블록 필터링 프로세스는 recPictureCr과 동일하게 설정되는 recPicture, alfPictureCr과 동일하게 설정되는 alfPicture, 및 입력들로서 ( rx << ( CtbLog2SizeY - 1 ), ry << ( CtbLog2SizeY - 1 ) )와 동일하게 설정되는 크로마 코딩 트리 블록 위치( xCtbC, yCtbC )로 호출되고, 출력은 수정된 필터링된 화상 alfPictureCr이다.
1.2 루마 샘플들에 대한 코딩 트리 블록 필터링 프로세스
이러한 프로세스의 입력은 다음과 같다:
적응 루프 필터링 프로세스 이전의 재구성된 루마 화상 샘플 어레이 recPictureL,
필터링된 재구성된 루마 화상 샘플 어레이 alfPictureL,
현재 화상의 상단-좌측 샘플에 대한 현재 루마 코딩 트리 블록의 상단-좌측 샘플을 명시하는 루마 위치( xCtb, yCtb ).
이러한 프로세스의 출력은 수정된 필터링된 재구성된 루마 화상 샘플 어레이 alfPictureL이다.
필터 인덱스 조항 1.3에 대한 도출 프로세스는 입력들로서 위치(xCtb, yCtb) 및 재구성된 루마 화상 샘플 어레이 recPictureL로, 그리고 출력들로서 filtIdx[ x ][ y ] 및 transposeIdx[ x ][ y ](x, y = 0..CtbSizeY - 1)로 호출된다.
필터링된 재구성된 루마 샘플들 alfPictureL[ x ][ y ]의 도출을 위해, 현재 루마 코딩 트리 블록 recPictureL[ x ][ y ] 내부의 각각의 재구성된 루마 샘플은 다음과 같이 필터링되고, x, y = 0..CtbSizeY - 1이다:
filtIdx[ x ][ y ]에 의해 명시되는 필터에 대응하는 루마 필터 계수들 f[ j ]의 어레이는 다음과 같이 도출되고, j = 0..12이다:
f[ j ] = AlfCoeffL[ filtIdx[ x ][ y ] ][ j ].
- filtIdx[ x ][ y ]에 의해 명시되는 필터에 대응하는 루마 필터 클리핑 값들 c[ j ]의 어레이는 다음과 같이 도출되고, j = 0..11이다:
c[ j ] = AlfClipL[ filtIdx[ x ][ y ] ][ j ]
루마 필터 계수들 filterCoeff는 다음과 같이 transposeIdx[ x ][ y ]에 의존하여 도출된다:
transposeIndex[ x ][ y ] = = 1이면,
filterCoeff[ ] = { f[9], f[4], f[10], f[8], f[1], f[5], f[11], f[7], f[3], f[0], f[2], f[6], f[12] }
filterClip[ ] = { c[9], c[4], c[10], c[8], c[1], c[5], c[11], c[7], c[3], c[0], c[2], c[6] }
그렇지 않고, transposeIndex[ x ][ y ] == 2이면,
filterCoeff[ ] = { f[0], f[3], f[2], f[1], f[8], f[7], f[6], f[5], f[4], f[9], f[10], f[11], f[12] }
filterClip[ ] = { c[0], c[3], c[2], c[1], c[8], c[7], c[6], c[5], c[4], c[9], c[10], c[11] }
그렇지 않고, transposeIndex[ x ][ y ] == 3이면,
filterCoeff[ ] = { f[9], f[8], f[10], f[4], f[3], f[7], f[11], f[5], f[1], f[0], f[2], f[6], f[12] }
filterClip[ ] = { c[9], c[8], c[10], c[4], c[3], c[7], c[11], c[5], c[1], c[0], c[2], c[6] }
그렇지 않으면,
filterCoeff[ ] = { f[0], f[1], f[2], f[3], f[4], f[5], f[6], f[7], f[8], f[9], f[10], f[11], f[12] }
filterClip[ ] = { c[0], c[1], c[2], c[3], c[4], c[5], c[6], c[7], c[8], c[9], c[10], c[11] }
루마 샘플들의 주어진 어레이 recPicture 내부의 대응하는 루마 샘플들( x, y ) 각각에 대한 위치들( hx, vy )은 다음과 같이 도출된다.
hx = Clip3( 0, pic_width_in_luma_samples - 1, xCtb + x )
vy = Clip3( 0, pic_height_in_luma_samples - 1, yCtb + y )
변수 sum은 다음과 같이 도출된다:
- 변수 sum은 다음과 같이 도출된다:
sum = filterCoeff[ 0 ] * ( Clip3(-filterClip[0], filterClip[0],recPictureL[ hx, vy + 3 ] - curr) + Clip3(-filterClip[0], filterClip[0], recPictureL[ hx, vy - 3 ] - curr) ) +
filterCoeff[ 1 ] * ( Clip3(-filterClip[1], filterClip[1], recPictureL[ hx + 1, vy + 2 ] - curr) + Clip3(-filterClip[1], filterClip[1], recPictureL[ hx - 1, vy - 2 ] - curr) ) +
filterCoeff[ 2 ] * ( Clip3(-filterClip[2], filterClip[2], recPictureL[ hx, vy + 2 ] - curr) + Clip3(-filterClip[2], filterClip[2], recPictureL[ hx, vy - 2 ] - curr) ) +
filterCoeff[ 3 ] * ( Clip3(-filterClip[3], filterClip[3], recPictureL[ hx - 1, vy + 2 ] - curr) + Clip3(-filterClip[3], filterClip[3], recPictureL[ hx + 1, vy - 2 ] - curr) ) +
filterCoeff[ 4 ] * ( Clip3(-filterClip[4], filterClip[4], recPictureL[ hx + 2, vy + 1 ] - curr) + Clip3(-filterClip[4], filterClip[4], recPictureL[ hx - 2, vy - 1 ] - curr) ) +
filterCoeff[ 5 ] * ( Clip3(-filterClip[5], filterClip[5], recPictureL[ hx + 1, vy + 1 ] - curr) + Clip3(-filterClip[5], filterClip[5], recPictureL[ hx - 1, vy - 1 ] - curr) ) +
filterCoeff[ 6 ] * (Clip3(-filterClip[6],filterClip[6], recPictureL[ hx, vy + 1 ] - curr) + Clip3(-filterClip[6], filterClip[6], recPictureL[ hx, vy - 1 ] - curr) ) +
filterCoeff[ 7 ] * ( Clip3(-filterClip[7], filterClip[7], recPictureL[ hx - 1, vy + 1 ] - curr) + Clip3(-filterClip[7], filterClip[7], recPictureL[ hx + 1, vy - 1 ] - curr) ) +
filterCoeff[ 8 ] * ( Clip3(-filterClip[8], filterClip[8], recPictureL[ hx - 2, vy + 1 ] - curr) + Clip3(-filterClip[8], filterClip[8], recPictureL[ hx + 2, vy - 1 ] - curr) ) +
filterCoeff[ 9 ] * ( Clip3(-filterClip[9], filterClip[9], recPictureL[ hx + 3, vy ] - curr) + Clip3(-filterClip[9], filterClip[9], recPictureL[ hx - 3, vy ] - curr) ) +
filterCoeff[ 10 ] * ( Clip3(-filterClip[10], filterClip[10], recPictureL[ hx + 2, vy ] -curr) + Clip3(-filterClip[10], filterClip[10], recPictureL[ hx - 2, vy ] - curr) ) +
filterCoeff[ 11 ] * ( Clip3(-filterClip[11], filterClip[11], recPictureL[ hx + 1, vy ] - curr) + Clip3(-filterClip[11], filterClip[11], recPictureL[ hx - 1, vy ] - curr) )
sum = curr + (( sum + 64 ) >> 7)
수정된 필터링된 재구성된 루마 화상 샘플 alfPictureL[ xCtb + x ][ yCtb + y ]는 다음과 같이 도출된다:
alfPictureL[ xCtb + x ][ yCtb + y ] = Clip3( 0, ( 1 << BitDepthY ) - 1, sum ).
1.3 루마 샘플들에 대한 ALF 전치 및 필터 인덱스에 대한 도출 프로세스
이러한 프로세스의 입력은 다음과 같다:
현재 화상의 상단-좌측 샘플에 대한 현재 루마 코딩 트리 블록의 상단-좌측 샘플을 명시하는 루마 위치( xCtb, yCtb ),
적응 루프 필터링 프로세스 이전의 재구성된 루마 화상 샘플 어레이 recPictureL.
이러한 프로세스의 출력은 다음과 같다
x, y = 0..CtbSizeY-1인 분류 필터 인덱스 어레이 filtIdx[ x ][ y ],
x, y = 0..CtbSizeY-1인 전치 인덱스 어레이 transposeIdx[ x ][ y ].
루마 샘플들의 주어진 어레이 recPicture 내부의 대응하는 루마 샘플들( x, y ) 각각에 대한 위치들( hx, vy )은 다음과 같이 도출된다.
hx = Clip3( 0, pic_width_in_luma_samples - 1, x )
vy = Clip3( 0, pic_height_in_luma_samples - 1, y )
분류 필터 인덱스 어레이 filtIdx 및 전치 인덱스 어레이 transposeIdx는 다음의 순서화된 단계들에 의해 도출된다:
x, y = -2..CtbSizeY + 1인 변수들 filtH[ x ][ y ], filtV[ x ][ y ], filtD0[ x ][ y ] 및 filtD1[ x ][ y ]는 다음과 같이 도출된다:
x 및 y 양자 모두가 짝수들이거나 또는 x 및 y 양자 모두가 홀수들이면, 다음이 적용된다:
filtH[ x ][ y ] = Abs( ( recPicture[ hxCtb+x, vyCtb+y ] << 1 ) - recPicture[ hxCtb+x-1, vyCtb+y ] - recPicture[ hxCtb+x+1, vyCtb+y ] )
filtV[ x ][ y ] = Abs( ( recPicture[ hxCtb+x, vyCtb+y ] << 1 ) - recPicture[ hxCtb+x, vyCtb+y-1 ] - recPicture[ hxCtb+x, vyCtb+y+1 ] )
filtD0[ x ][ y ] = Abs( ( recPicture[ hxCtb+x, vyCtb+y ] << 1 ) - recPicture[ hxCtb+x-1, vyCtb+y-1 ] - recPicture[ hxCtb+x+1, vyCtb+y+1 ] )
filtD1[ x ][ y ] = Abs( ( recPicture[ hxCtb+x, vyCtb+y ] << 1 ) - recPicture[ hxCtb+x+1, vyCtb+y-1 ] - recPicture[ hxCtb+x-1, vyCtb+y+1 ] )
그렇지 않으면, filtH[ x ][ y ], filtV[ x ][ y ], filtD0[ x ][ y ] 및 filtD1[ x ][ y ]는 0과 동일하게 설정된다.
x, y = 0..( CtbSizeY - 1 ) >> 2인 변수들 varTempH1[ x ][ y ], varTempV1[ x ][ y ], varTempD01[ x ][ y ], varTempD11[ x ][ y ] 및 varTemp[ x ][ y ]는 다음과 같이 도출된다:
sumH[ x ][ y ] = ∑i∑j filtH[ (x << 2 ) + i ][ (y << 2) + j ] with i, j = -2..5
sumV[ x ][ y ] = ∑i∑j filtV[ (x << 2 ) + i ][ (y << 2) + j ] with i, j = -2..5
sumD0[ x ][ y ] = ∑i∑j filtD0[ (x << 2 ) + i ][ (y << 2) + j ] with i, j = -2..5
sumD1[ x ][ y ] = ∑i∑j filtD1[ (x << 2 ) + i ][ (y << 2) + j ] with i, j = -2..5
sumOfHV[ x ][ y ] = sumH[ x ][ y ] + sumV[ x ][ y ]
x, y = 0..CtbSizeY-1인 변수들 dir1[ x ][ y ], dir2[ x ][ y ] 및 dirS[ x ][ y ]는 다음과 같이 도출된다:
변수들 hv1, hv0 및 dirHV는 다음과 같이 도출된다:
sumV[ x >> 2 ][ y >> 2 ]가 sumH[ x >> 2 ][ y >> 2 ]보다 더 크면, 다음이 적용된다:
hv1 = sumV[ x >> 2 ][ y >> 2 ]
hv0 = sumH[ x >> 2 ][ y >> 2 ]
dirHV = 1
그렇지 않으면, 다음이 적용된다:
hv1 = sumH[ x >> 2 ][ y >> 2 ]
hv0 = sumV[ x >> 2 ][ y >> 2 ]
dirHV = 3
변수들 d1, d0 및 dirD는 다음과 같이 도출된다:
sumD0[ x >> 2 ][ y >> 2 ]가 sumD1 [x >> 2][y >> 2] 보다 더 크면, 다음이 적용된다:
d1 = sumD0[ x >> 2 ][ y >> 2 ]
d0 = sumD1[ x >> 2 ][ y >> 2 ]
dirD = 0
그렇지 않으면, 다음이 적용된다:
d1 = sumD1[ x >> 2 ][ y >> 2 ]
d0 = sumD0[ x >> 2 ][ y >> 2 ]
dirD = 2
변수들 hvd1, hvd0은 다음과 같이 도출된다:
hvd1 = ( d1 * hv0 > hv1 * d0 ) ? d1 : hv1
hvd0 = ( d1 * hv0 > hv1 * d0 ) ? d0 : hv0
변수들 dirS[ x ][ y ], dir1[ x ][ y ] 및 dir2[ x ][ y ]는 다음과 같이 도출된다:
dir1[ x ][ y ] = ( d1 * hv0 > hv1 * d0 ) ? dirD : dirHV
dir2[ x ][ y ] = ( d1 * hv0 > hv1 * d0 ) ? dirHV : dirD
dirS[ x ][ y ] = ( hvd1 > 2 * hvd0 ) ? 1 : ( ( hvd1 * 2 > 9 * hvd0 ) ? 2 : 0 )
x, y = 0..CtbSizeY-1인 변수 avgVar[ x ][ y ]는 다음과 같이 도출된다:
varTab[ ] = { 0, 1, 2, 2, 2, 2, 2, 3, 3, 3, 3, 3, 3, 3, 3, 4 }
avgVar[ x ][ y ] = varTab[ Clip3( 0, 15, ( sumOfHV[ x >> 2 ][ y >> 2 ] * 64 ) >> ( 3 + BitDepthY ) ) ]
x=y = 0..CtbSizeY-1인 분류 필터 인덱스 어레이 filtIdx[ x ][ y ] 및 전치 인덱스 어레이 transposeIdx[ x ][ y ]는 다음과 같이 도출된다:
transposeTable[ ] = { 0, 1, 0, 2, 2, 3, 1, 3 }
transposeIdx[ x ][ y ] = transposeTable[ dir1[ x ][ y ] * 2 + ( dir2[ x ][ y ] >> 1 ) ]
filtIdx[ x ][ y ] = avgVar[ x ][ y ]
dirS[ x ][ y ]가 0과 동일하지 않을 때, filtIdx[ x ][ y ]는 다음과 같이 수정된다:
filtIdx[ x ][ y ] += ( ( ( dir1[ x ][ y ] & 0x1 ) << 1 ) + dirS[ x ][ y ] ) * 5.
1.4 크로마 샘플들에 대한 코딩 트리 블록 필터링 프로세스
이러한 프로세스의 입력은 다음과 같다:
적응 루프 필터링 프로세스 이전의 재구성된 크로마 화상 샘플 어레이 recPicture,
필터링된 재구성된 크로마 화상 샘플 어레이 alfPicture,
현재 화상의 상단-좌측 샘플에 대한 현재 크로마 코딩 트리 블록의 상단-좌측 샘플을 명시하는 크로마 위치( xCtbC, yCtbC ).
이러한 프로세스의 출력은 수정된 필터링된 재구성된 크로마 화상 샘플 어레이 alfPicture이다.
현재 크로마 코딩 트리 블록 ctbSizeC의 크기는 다음과 같이 도출된다:
ctbSizeC = CtbSizeY / SubWidthC
필터링된 재구성된 크로마 샘플들 alfPicture[ x ][ y ]의 도출을 위해, 현재 크로마 코딩 트리 블록 recPicture[ x ][ y ] 내부의 각각의 재구성된 크로마 샘플은 다음과 같이 필터링되고, x,y = 0..ctbSizeC-1이다:
크로마 샘플들의 주어진 어레이 recPicture 내부의 대응하는 크로마 샘플들( x, y ) 각각에 대한 위치들( hx, vy )은 다음과 같이 도출된다.
hx = Clip3( 0, pic_width_in_luma_samples / SubWidthC - 1, xCtbC + x )
vy = Clip3( 0, pic_height_in_luma_samples / SubHeightC - 1, yCtbC + y )
변수 sum은 다음과 같이 도출된다:
sum = AlfCoeffC[ 0 ] * ( Clip3(-AlfClipC[0], AlfClipC[0], recPicture[ hx, vy + 2 ] - curr) + Clip3 (-AlfClipC[0], AlfClipC[0], recPicture[ hx, vy - 2 ] - curr) ) +
AlfCoeffC[ 1 ] * ( Clip3(-AlfClipC[1], AlfClipC[1], recPicture[ hx + 1, vy + 1 ] - curr) + Clip3 (-AlfClipC[1], AlfClipC[1],recPicture[ hx - 1, vy - 1 ] - curr) ) +
AlfCoeffC[ 2 ] * ( Clip3(-AlfClipC[2], AlfClipC[2], recPicture[ hx, vy + 1 ] - curr) + Clip3 (-AlfClipC[2], AlfClipC[2],recPicture[ hx, vy - 1 ] - curr) ) + AlfCoeffC[ 3 ] * ( Clip3(-AlfClipC[3], AlfClipC[3], recPicture[ hx - 1, vy + 1 ] - curr) + Clip3 (-AlfClipC[3], AlfClipC[3],recPicture[ hx + 1, vy - 1 ] - curr ) +
AlfCoeffC[ 4 ] * (Clip3(-alfClipC[4], alfClipC[4], recPicture[ hx + 2, vy ] - curr) + Clip3 (-AlfClipC[4], AlfClipC[4],recPicture[ hx - 2, vy ] - curr) +
AlfCoeffC[ 5 ] * ( Clip3(-AlfClipC[5], AlfClipC[5], recPicture[ hx + 1, vy ] - curr) + Clip3 (-AlfClipC[5], AlfClipC[5], recPicture[ hx - 1, vy ] - curr) )
sum = curr + (( sum + 64 ) >> 7)
수정된 필터링된 재구성된 크로마 화상 샘플 alfPicture[xCtbC+x][yCtbC+y]는 다음과 같이 도출된다:
alfPicture[ xCtbC + x ][ yCtbC + y ] = Clip3( 0, ( 1 << BitDepthC ) - 1, sum ).
위에 설명된 바와 같이 그리고 도 8에 도시되는 바와 같이, ALF 루마 및 크로마 클리핑 파라미터들은 ALF 필터 계수들과 유사한 K번째 순서 지수 Golomb 코드들을 사용하여 송신된다.
클리핑 파라미터들에 대한 K번째 순서 지수 Golomb 코드들의 사용은 코딩 효율의 관점에서 효율적이지 않을 수 있는데, 그 이유는 시그널링된 클리핑 파라미터가 단지 클리핑 값들의 테이블에 대한 인덱스이기 때문이다(위의 표 2 참조). 인덱스의 값은 0 내지 3의 범위이다.
따라서, ALF 필터 계수들과 동일한 방식으로 K번째 순서 지수 Golomb 코드들을 사용하여 인덱스 값들 0 내지 3을 시그널링하는 것은 값 K(사용될 지수 Golomb 코드의 순서)를 결정하기 위해 추가적인 신택스 엘리먼트들 alf_luma_clip_min_eg_order_minus1, alf_luma_clip_eg_order_increase_flag[i]를 사용하고, 다음으로 신택스 엘리먼트 alf_luma_clip_idx는 K번째 순서 지수 Golomb 코드를 사용하여 시그널링된다. 따라서, 시그널링의 이러한 방법은 복잡하고 또한 코딩 효율의 관점에서 효율적이지 않다. 따라서, 클리핑 파라미터들을 시그널링하는 더 간단한 방법이 요구된다.
제안된 해결책(해결책 1)의 하나의 실시예에서, 도 9에 도시되는 바와 같이, 클리핑 파라미터들은 고정 길이 코드들을 사용하여 시그널링되고, 따라서 신택스 엘리먼트들 alf_luma_clip_min_eg_order_minus1, alf_luma_clip_eg_order_increase_flag[i]는 사용되지 않는다. 신택스 엘리먼트 alf_luma_clip_idx는 2 비트의 고정 길이 코드를 사용하여 시그널링된다. 이러한 방법은 클리핑 파라미터들이 매우 간단한 방식으로 시그널링되고, K번째 순서 지수 Golomb 코드들에 관련된 신택스 엘리먼트들 중 소수가 더 이상 시그널링되지 않기 때문에 코딩 효율이 개선된다는 이점을 갖는다.
수정된 alf_data 신택스는 다음과 같다:
Figure pct00141
Figure pct00142
Figure pct00143
대안적인 해결책(해결책 2)의 실시예로서, 클리핑 파라미터 인덱스를 시그널링하기 위해 절단된 단항 코딩이 또한 사용될 수 있다. 대안적인 해결책(해결책 3)의 실시예로서, 클리핑 파라미터들의 수가 4의 고정된 값으로부터 4보다 더 큰 상이한 수로 변경되는 경우, 고정 길이 코드 (v) "값 v(value v)"가 대응하여 증가된다. 예를 들어, 클리핑 파라미터들의 수가 4에서 5 또는 6으로 증가되면, 고정 길이 코드는 클리핑 파라미터를 시그널링하기 위해 3 비트를 사용한다.
대안적인 해결책(해결책 4)의 실시예로서, ALF 필터 계수들은 K번째 순서 지수 Golomb 코드 대신에 고정 길이 코드를 사용하여 시그널링된다.
도 10은 본 개시내용의 제1 양태에 따른 방법을 예시하는 블록도이다. 이러한 방법은, 비트스트림을 획득하는 단계(1001)- 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF의 계수로 승산하기 전에 사용할 클리핑 값의 클리핑 인덱스를 명시하는 ALF(adaptive loop filter) 클리핑 값 인덱스임 -; 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -(1002); 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하는 단계(1003)를 포함한다.
도 11은 본 개시내용의 제2 양태에 따른 방법을 예시하는 블록도이다. 제2 양태에 따르면, 디코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은,
비트스트림을 획득하는 단계(1101)- 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 또는 ALF 계수 파라미터임 -; 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 현재 블록에 대한 신택스 엘리먼트의 값은 신택스 엘리먼트의 적어도 하나의 비트만을 사용하여 획득됨 -(1102); 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록에 적응 루프 필터링을 적용하는 단계(1103)를 포함한다.
도 12는 본 개시내용의 제3 양태에 따른 방법을 예시하는 블록도이다. 제3 양태에 따르면, 인코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은, 현재 블록에 대한 신택스 엘리먼트의 값을 결정하는 단계- 신택스 엘리먼트는 ALF(adaptive loop filter)의 계수로 승산하기 전에 사용할 클리핑 값의 클리핑 인덱스를 명시함 -(1201); 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하는 단계- 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -(1202)를 포함한다.
도 13은 본 개시내용의 제4 양태에 따른 방법을 예시하는 블록도이다. 제4 양태에 따르면, 인코딩 디바이스에 의해 구현되는, 코딩의 방법이 제공되고, 이러한 방법은, 현재 블록에 대한 신택스 엘리먼트의 값을 결정하는 단계- 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 또는 ALF 필터 계수 파라미터임 -(1301); 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하는 단계- 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트의 값만을 사용하여 획득됨 -(1302)를 포함한다.
도 14는 본 개시내용의 제5 양태에 따른 디코더를 예시하는 블록도이다. 본 개시내용의 제5 양태에 따르면, 제1 또는 제2 양태 또는 그 임의의 구현에 따른 방법을 수행하기 위한 처리 회로(1401)를 포함하는 디코더(1400)가 제공된다.
도 15는 본 개시내용의 제6 양태에 따른 인코더를 예시하는 블록도이다. 본 개시내용의 제6 양태에 따르면, 제3 또는 제4 양태 또는 이들의 임의의 구현에 따른 방법을 수행하기 위한 처리 회로(1501)를 포함하는 인코더(1500)가 제공된다.
도 16은 본 개시내용의 제9 양태에 따른 디코더를 예시하는 블록도이다. 본 개시내용의 제9 양태에 따르면, 디코더(1600)가 제공되고, 이는, 하나 이상의 프로세서(1601); 및 프로세서들(1601)에 연결되는 그리고 프로세서들(1601)에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체(1602)- 이러한 프로그래밍은, 프로세서들(1601)에 의해 실행될 때, 제1 또는 제2 양태 또는 그 임의의 구현에 따른 방법을 수행하도록 디코더(1600)를 구성함 -를 포함한다.
도 17은 본 개시내용의 제10 양태에 따른 인코더를 예시하는 블록도이다. 본 개시내용의 제10 양태에 따르면, 인코더(1700)가 제공되고, 이는, 하나 이상의 프로세서(1701); 및 프로세서들(1701)에 연결되는 그리고 프로세서들(1701)에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체(1702)- 이러한 프로그래밍은, 프로세서들(1701)에 의해 실행될 때, 제3 또는 제4 양태 또는 그 임의의 구현에 따른 방법을 수행하도록 인코더(1700)를 구성함 -를 포함한다.
도 18은 본 개시내용의 제11 양태에 따른 디코더를 예시하는 블록도이다. 본 개시내용의 제11 양태에 따르면, 디코더(1800)가 제공되고, 이는, 비트스트림(1811)을 획득하도록 구성되는 엔트로피 디코딩 유닛(1801)(엔트로피 디코딩 유닛(304)일 수 있음)- 비트스트림(1811)에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF(adaptive loop filter)의 계수로 승산하기 전에 사용할 클리핑 값의 클리핑 인덱스를 명시하는 ALF 클리핑 값 인덱스이고; 엔트로피 디코딩 유닛(1801)은 비트스트림(1811)을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값(1812)을 획득하도록 추가로 구성되고, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -; 및, 현재 블록에 대한 신택스 엘리먼트의 값(1812)에 기초하여, 현재 블록에 적응 루프 필터링을 적용하도록 구성되는 필터링 유닛(1803)(루프 필터(320)일 수 있음)을 포함한다.
도 19는 본 개시내용의 제12 양태에 따른 디코더를 예시하는 블록도이다. 본 개시내용의 제12 양태에 따르면 디코더(1900)가 제공되고, 이는, 비트스트림(1911)을 획득하도록 구성되는 엔트로피 디코딩 유닛(1901)(엔트로피 디코딩 유닛(304)일 수 있음)- 비트스트림(1911)에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 ALF 클리핑 값 인덱스 또는 ALF 계수 파라미터이고; 엔트로피 디코딩 유닛(1801)은 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값(1912)을 획득하도록 추가로 구성되고, 현재 블록에 대한 신택스 엘리먼트의 값은 신택스 엘리먼트의 적어도 하나의 비트만을 사용하여 획득됨 -; 및, 현재 블록에 대한 신택스 엘리먼트의 값(1912)에 기초하여, 현재 블록에 적응 루프 필터링을 적용하도록 구성되는 필터링 유닛(1903)(루프 필터(320)일 수 있음)을 포함한다.
도 20은 본 개시내용의 제13 양태에 따른 인코더를 예시하는 블록도이다. 본 개시내용의 제13 양태에 따르면, 인코더(2000)가 제공되고, 이는, 현재 블록에 대한 신택스 엘리먼트의 값(2012)을 결정하도록 구성되는 결정 유닛(2001)(루프 필터(220)일 수 있음)- 신택스 엘리먼트는 ALF(adaptive loop filter)의 계수로 승산하기 전에 사용할 클리핑 값의 클리핑 인덱스를 명시함 -; 신택스 엘리먼트의 값(2012)에 기초하여 비트스트림(2011)을 생성하도록 구성되는 엔트로피 인코딩 유닛(2002)(엔트로피 인코딩 유닛(270)일 수 있음)- 비트스트림(2011)에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -을 포함한다.
도 21은 본 개시내용의 제14 양태에 따른 인코더를 예시하는 블록도이다. 본 개시내용의 제14 양태에 따르면, 인코더(2100)가 제공되고, 이는, 현재 블록에 대한 신택스 엘리먼트의 값(2112)을 결정하도록 구성되는 결정 유닛(2101)(루프 필터(220)일 수 있음)- 신택스 엘리먼트는 ALF 클리핑 값 인덱스 또는 ALF 필터 계수 파라미터임 -; 신택스 엘리먼트의 값(2112)에 기초하여 비트스트림(2111)을 생성하도록 구성되는 엔트로피 인코딩 유닛(2102)(엔트로피 인코딩 유닛(270)일 수 있음)- 비트스트림(2111)에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 신택스 엘리먼트의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트의 값만을 사용하여 획득됨 -을 포함한다.
본 개시내용은 다음의 추가 실시예들을 제공한다:
실시예 1. 디코딩 디바이스에 의해 구현되는, 코딩의 방법으로서,
비트스트림을 획득하는 단계- 비트스트림에서의 적어도 하나의 비트는 현재 블록(또는 블록들의 세트, 블록들의 세트에서의 하나의 블록은 현재 블록임)에 대한 신택스 엘리먼트에 대응함-;
비트스트림을 파싱하여, 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 현재 블록에 대한 신택스 엘리먼트의 값이 획득되는 것은 적어도 하나의 비트만을 참조함 -;
현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 현재 블록을 필터링하는 단계를 포함한다.
실시예 2. 실시예 1의 방법으로서, 신택스 엘리먼트의 값은 고정 길이 코드에 따라 코딩된다(고정 길이 코드는 신택스 엘리먼트의 모든 가능한 값들이 동일한 수의 비트들을 사용하여 시그널링되는 것을 의미한다).
실시예 3. 실시예 1의 방법으로서, 신택스 엘리먼트의 값은 절단된 단항 코드(truncated unary code)에 따라 코딩된다(절단된 단항 코드는 주어진 신택스 엘리먼트의 가장 빈번하게 발생하는 값이 가장 적은 수의 비트들을 사용하여 시그널링되고, 신택스 엘리먼트의 가장 적게 발생하는 값이 가장 많은 수의 비트들을 사용하여 시그널링되는 것을 의미한다).
실시예 4. 실시예들 1 내지 3 중 어느 하나의 방법으로서, 신택스 엘리먼트는 적응 루프 필터 클리핑 인덱스 파라미터이다.
실시예 5. 실시예들 1 내지 3 중 어느 하나의 방법으로서, 신택스 엘리먼트는 적응 루프 필터 계수 파라미터이다.
실시예 6. 실시예 1 내지 실시예 5 중 어느 하나의 방법으로서, 신택스 엘리먼트의 값은 필터 계수를 결정하기 위해 사용되고, 필터 계수는 필터링 프로세스에서 사용된다.
실시예 7. 실시예 1 내지 실시예 5 중 어느 하나의 방법으로서, 신택스 엘리먼트의 값은 클리핑 범위를 결정하기 위해 사용되고, 클리핑 범위는 필터링 프로세스에서 사용된다(클리핑 범위는 주어진 샘플에 대해 그 이웃 샘플에 의해 허용되는 수정의 양을 제한하기 위해 사용된다).
실시예 8. 디코더(30)로서, 실시예들 1 내지 7 중 어느 하나에 따른 방법을 수행하기 위한 처리 회로를 포함한다
실시예 9. 컴퓨터 프로그램 제품으로서, 실시예들 1 내지 7 중 어느 하나에 따른 방법을 수행하기 위한 프로그램 코드를 포함한다.
실시예 10. 디코더로서,
하나 이상의 프로세서; 및
프로세서들에 연결되는 그리고 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 프로그래밍은, 프로세서들에 의해 실행될 때, 실시예들 1 내지 7 중 어느 하나에 따른 방법을 수행하도록 디코더를 구성함 -를 포함한다.
다음은, 위에 언급된 실시예들에서 나타낸 바와 같은 인코딩 방법뿐만 아니라 디코딩 방법의 적용들, 및 그들을 사용하는 시스템의 설명이다.
도 22는 콘텐츠 배포 서비스를 실현하기 위한 콘텐츠 공급 시스템(3100)을 도시하는 블록도이다. 이러한 콘텐츠 공급 시스템(3100)은, 캡처 디바이스(3102), 단말 디바이스(3106)를 포함하고, 디스플레이(3126)를 선택적으로 포함한다. 캡처 디바이스(3102)는 통신 링크(3104)를 통해 단말 디바이스(3106)와 통신한다. 통신 링크는 위에 설명된 통신 채널(13)을 포함할 수 있다. 통신 링크(3104)는 이에 제한되는 것은 아니지만 WIFI, Ethernet, Cable, 무선 (3G/4G/5G), USB, 또는 임의의 종류의 이들의 조합 등을 포함한다.
캡처 디바이스(3102)는 데이터를 생성하고, 위의 실시예들에서 나타낸 바와 같은 인코딩 방법에 의해 데이터를 인코딩할 수 있다. 대안적으로, 캡처 디바이스(3102)는 데이터를 스트리밍 서버(도면들에 도시되지 않음)에 배포할 수 있고, 서버는 데이터를 인코딩하여 인코딩된 데이터를 단말 디바이스(3106)에 송신한다. 캡처 디바이스(3102)는 이에 제한되는 것은 아니지만 카메라, 스마트 폰 또는 패드, 컴퓨터 또는 랩톱, 비디오 회의 시스템, PDA, 차량 장착 디바이스, 또는 이들 중 임의의 것의 조합 등을 포함한다. 예를 들어, 캡처 디바이스(3102)는 위에 설명된 바와 같은 소스 디바이스(12)를 포함할 수 있다. 데이터가 비디오를 포함할 때, 캡처 디바이스(3102)에 포함되는 비디오 인코더(20)는 실제로 비디오 인코딩 처리를 수행할 수 있다. 데이터가 오디오(즉, 음성)를 포함할 때, 캡처 디바이스(3102)에 포함되는 오디오 인코더는 실제로 오디오 인코딩 처리를 수행할 수 있다. 일부 실제 시나리오들에 대해, 캡처 디바이스(3102)는 인코딩된 비디오 및 오디오 데이터를 함께 멀티플렉싱하는 것에 의해 이들을 배포한다. 다른 실제 시나리오들에 대해, 예를 들어, 비디오 회의 시스템에서, 인코딩된 오디오 데이터 및 인코딩된 비디오 데이터는 멀티플렉싱되지 않는다. 캡처 디바이스(3102)는, 인코딩된 오디오 데이터 및 인코딩된 비디오 데이터를 단말 디바이스(3106)에 별개로 배포한다.
콘텐츠 공급 시스템(3100)에서, 단말 디바이스(310)는 인코딩된 데이터를 수신하여 재생한다. 단말 디바이스(3106)는, 위에 언급된 인코딩된 데이터를 디코딩할 수 있는 스마트 폰 또는 패드(3108), 컴퓨터 또는 랩톱(3110), NVR(network video recorder)/ DVR(digital video recorder)(3112), TV(3114), STB(set top box)(3116), 비디오 회의 시스템(3118), 비디오 감시 시스템(3120), PDA(personal digital assistant)(3122), 차량 장착 디바이스(3124), 또는 이들 중 임의의 것의 조합 등과 같은, 데이터 수신 및 복구 능력이 있는 디바이스일 수 있다. 예를 들어, 단말 디바이스(3106)는 위에 설명된 바와 같은 목적지 디바이스(14)를 포함할 수 있다. 인코딩된 데이터가 비디오를 포함할 때, 단말 디바이스에 포함되는 비디오 디코더(30)는 비디오 디코딩을 수행하도록 우선순위화된다. 인코딩된 데이터가 오디오를 포함할 때, 단말 디바이스에 포함되는 오디오 디코더는 오디오 디코딩 처리를 수행하도록 우선순위화된다.
자신의 디스플레이가 있는 단말 디바이스, 예를 들어, 스마트 폰 또는 패드(3108), 컴퓨터 또는 랩톱(3110), NVR(network video recorder)/ DVR(digital video recorder)(3112), TV(3114), PDA(personal digital assistant)(3122), 또는 차량 장착 디바이스(3124)에 상대적인, 단말 디바이스는 디코딩된 데이터를 자신의 디스플레이에 공급할 수 있다. 디스플레이가 전혀 구비되지 않은 단말 디바이스, 예를 들어, STB(3116), 비디오 회의 시스템(3118) 또는 비디오 감시 시스템(3120)에 상대적인, 디코딩된 데이터를 수신하고 보여주기 위해 외부 디스플레이(3126)가 그 안에 접촉된다.
이러한 시스템에서의 각각의 디바이스가 인코딩 또는 디코딩을 수행할 때, 위에 언급된 실시예들에서 나타낸 바와 같은 화상 인코딩 디바이스 또는 화상 디코딩 디바이스가 사용될 수 있다.
도 23은 단말 디바이스(3106)의 예의 구조를 도시하는 도면이다. 단말 디바이스(3106)가 캡처 디바이스(3102)로부터 스트림을 수신한 후에, 프로토콜 진행 유닛(3202)은 스트림의 송신 프로토콜을 분석한다. 이러한 프로토콜은 이에 제한되는 것은 아니지만 RTSP(Real Time Streaming Protocol), HTTP(Hyper Text Transfer Protocol), HLS(HTTP Live streaming protocol), MPEG-DASH, RTP(Real-time Transport protocol), RTMP(Real Time Messaging Protocol), 또는 이들의 임의의 종류의 조합 등을 포함한다.
프로토콜 진행 유닛(3202)이 스트림을 처리한 후에, 스트림 파일이 생성된다. 파일은 디멀티플렉싱 유닛(3204)에 출력된다. 디멀티플렉싱 유닛(3204)은 멀티플렉싱된 데이터를 인코딩된 오디오 데이터 및 인코딩된 비디오 데이터로 분리할 수 있다. 위에 설명된 바와 같이, 일부 실제 시나리오들에 대해, 예를 들어, 비디오 회의 시스템에서, 인코딩된 오디오 데이터 및 인코딩된 비디오 데이터는 멀티플렉싱되지 않는다. 이러한 상황에서, 인코딩된 데이터는 디멀티플렉싱 유닛(3204)을 통하지 않고 비디오 디코더(3206) 및 오디오 디코더(3208)에 송신된다.
디멀티플렉싱 처리를 통해, 비디오 ES(elementary stream), 오디오 ES, 및 선택적으로 자막이 생성된다. 위에 언급된 실시예들에서 설명되는 바와 같은, 비디오 디코더(30)를 포함하는, 비디오 디코더(3206)는, 위에 언급된 실시예들에서 도시되는 바와 같은 디코딩 방법에 의해 비디오 ES를 디코딩하여 비디오 프레임을 생성하고, 이러한 데이터를 동기 유닛(3212)에 공급한다. 오디오 디코더(3208)는, 오디오 ES를 디코딩하여 오디오 프레임을 생성하고, 이러한 데이터를 동기 유닛(3212)에 공급한다. 대안적으로, 비디오 프레임은 동기 유닛(3212)에 공급되기 전에 버퍼(도 23에 도시되지 않음)에 저장될 수 있다. 유사하게, 오디오 프레임은 동기 유닛(3212)에 공급되기 전에 버퍼(도 23에 도시되지 않음)에 저장될 수 있다.
동기 유닛(3212)은 비디오 프레임과 오디오 프레임을 동기화하고, 비디오/오디오를 비디오/오디오 디스플레이(3214)에 공급한다. 예를 들어, 동기 유닛(3212)은 비디오 및 오디오 정보의 프레젠테이션을 동기화한다. 정보는 코딩된 오디오 및 시각적 데이터의 프레젠테이션에 관한 타임 스탬프들 및 데이터 스트림 자체의 전달에 관한 타임 스탬프들을 사용하여 신택스에서 코딩할 수 있다.
자막이 스트림에 포함되면, 자막 디코더(3210)는 자막을 디코딩하고, 그것을 비디오 프레임 및 오디오 프레임과 동기화하고, 비디오/오디오/자막을 비디오/오디오/자막 디스플레이(3216)에 공급한다.
본 발명은 위에 언급된 시스템에 제한되지 않고, 위에 언급된 실시예들에서의 화상 인코딩 디바이스 또는 화상 디코딩 디바이스는 다른 시스템, 예를 들어, 자동차 시스템에 포함될 수 있다.
본 발명의 실시예들이 비디오 코딩에 기초하여 주로 설명되었더라도, 코딩 시스템(10), 인코더(20) 및 디코더(30)(및 대응하여 시스템(10))의 실시예들 및 본 명세서에 설명되는 다른 실시예들은 정지 화상 처리 또는 코딩, 즉, 비디오 코딩에서와 같이 임의의 선행 또는 연속 화상에 독립적인 개별 화상의 처리 또는 코딩을 위해 또한 구성될 수 있다는 점이 주목되어야 한다. 일반적으로 화상 처리 코딩이 단일 화상(17)에 제한되는 경우에 인터 예측 유닛들(244(인코더) 및 344(디코더))만이 이용가능하지 않을 수 있다. 정지 화상 처리, 예를 들어, 잔차 계산(204/304), 변환(206), 양자화(208), 역 양자화(210/310), (역) 변환(212/312), 파티셔닝(262/362), 인트라 예측(254/354), 및/또는 루프 필터링(220, 320), 및 엔트로피 코딩(270) 및 엔트로피 디코딩(304)에 대해 비디오 인코더(20) 및 비디오 디코더(30)의 (툴들 또는 기술들이라고 또한 지칭되는) 모든 다른 기능성들이 동일하게 사용될 수 있다.
예를 들어, 인코더(20) 및 디코더(30)의 실시예들, 및, 예를 들어, 인코더(20) 및 디코더(30)를 참조하여 본 명세서에 설명되는 기능들은, 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수 있다. 소프트웨어로 구현되면, 이러한 기능들은 컴퓨터-판독가능 매체 상에 저장될 수 있거나 또는 하나 이상의 명령어 또는 코드로서 통신 매체를 통해 송신될 수 있고 하드웨어-기반 처리 유닛에 의해 실행될 수 있다. 컴퓨터-판독가능 매체는, 데이터 저장 매체와 같은 유형의 매체, 또는, 예를 들어, 통신 프로토콜에 따라, 한 장소로부터 다른 장소로의 컴퓨터 프로그램의 전송을 용이하게 하는 임의의 매체를 포함하는 통신 매체에 대응하는, 컴퓨터-판독가능 저장 매체를 포함할 수 있다. 이러한 방식으로, 컴퓨터-판독가능 매체는 일반적으로, (1) 비-일시적인 유형의 컴퓨터-판독가능 저장 매체 또는 (2) 신호 또는 반송파와 같은 통신 매체에 대응할 수 있다. 데이터 저장 매체는, 본 개시내용에서 설명되는 기법들의 구현을 위한 명령어들, 코드 및/또는 데이터 구조들을 검색하기 위해 하나 이상의 컴퓨터 또는 하나 이상의 프로세서에 의해 액세스될 수 있는 임의의 이용가능한 매체일 수 있다. 컴퓨터 프로그램 제품은 컴퓨터-판독가능 매체를 포함할 수 있다.
제한이 아닌 예로서, 이러한 컴퓨터-판독가능 저장 매체는, RAM, ROM, EEPROM, CD-ROM 또는 다른 광 디스크 저장소, 자기 디스크 저장소, 또는 다른 자기 저장 디바이스, 플래시 메모리, 또는 원하는 프로그램 코드를 명령어 또는 데이터 구조들의 형태로 저장하기 위해 사용될 수 있는 그리고 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터-판독가능 매체라고 적절히 칭해진다. 예를 들어, 명령어가, 동축 케이블, 광 파이버 케이블, 트위스티드 페어(twisted pair), DSL(Digital Subscriber Line), 또는 적외선, 전파, 및 마이크로웨이브와 같은 무선 기술들을 사용하여 웹사이트, 서버 또는 다른 원격 소스로부터 송신되는 경우, 이러한 동축 케이블, 광 파이버 케이블, 트위스티드 페어, DSL, 또는 적외선, 전파 및 마이크로웨이브와 같은 무선 기술은 매체의 정의에 포함된다. 그러나, 컴퓨터-판독가능 저장 매체 및 데이터 저장 매체는, 접속, 반송파, 신호, 또는 다른 일시적인 매체를 포함하지 않고, 그 대신에, 비-일시적인, 유형의 저장 매체와 관련된다는 점이 이해되어야 한다. 본 명세서에서 사용될 때, 디스크(disk 및 disc)는 컴팩트 디스크(CD; compact disc), 레이저 디스크(laser disc), 광학 디스크, DVD(digital versatile disc), 플로피 디스크(floppy disk) 및 블루-레이 디스크(Blu-ray disc)를 포함하고, 여기서 disk는 일반적으로 데이터를 자기적으로 재생하는 반면, disc는 데이터를 레이저를 사용하여 광학적으로 재생한다. 위의 것의 조합들이 또한 컴퓨터-판독가능 매체의 범위 내에 포함되어야 한다.
하나 이상의 DSP(digital signal processors), 범용 마이크로프로세서, ASIC(application specific integrated circuits), FPGA(field programmable logic arrays), 또는 다른 동등한 집적 또는 이산 로직 회로와 같은, 하나 이상의 프로세서에 의해 명령어들이 실행될 수 있다. 따라서, 본 명세서에서 사용되는 바와 같은 "프로세서(processor)"라는 용어는 본 명세서에 설명되는 기법들의 구현에 적합한 임의의 다른 구조 또는 전술한 구조 중 임의의 것을 지칭할 수 있다. 또한, 일부 양태들에서, 본 명세서에 설명되는 기능성은 인코딩 및 디코딩을 위해 구성되는 전용 하드웨어 및/또는 소프트웨어 모듈 내에 제공되거나, 또는 조합된 코덱에 통합될 수 있다. 또한, 이러한 기법들은 하나 이상의 회로 또는 로직 엘리먼트에서 완전히 구현될 수 있다.
본 개시내용의 기법들은, 무선 핸드셋, 집적 회로(IC) 또는 IC 세트(예를 들어, 칩 세트)를 포함한 다양한 디바이스 또는 장치에서 구현될 수 있다. 개시된 기법들을 수행하도록 구성되는 디바이스들의 기능적 양태들을 강조하기 위해 본 개시내용에서는 다양한 컴포넌트들, 모듈들, 또는 유닛들이 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 요구하지는 않는다. 오히려, 위에 설명된 바와 같이, 다양한 유닛들은, 적합한 소프트웨어 및/또는 펌웨어와 연계하여, 코덱 하드웨어 유닛에서 조합되거나 또는 위에 설명된 하나 이상의 프로세서를 포함하는 연동 하드웨어 유닛들의 집합에 의해 제공될 수 있다.

Claims (44)

  1. 디코딩 디바이스에 의해 구현되는, 코딩의 방법으로서, 상기 방법은,
    비트스트림을 획득하는 단계- 상기 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -;
    상기 비트스트림을 파싱하여 상기 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 상기 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -;
    상기 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 상기 현재 블록에 적응 루프 필터링을 적용하는 단계를 포함하는 방법.
  2. 제1항에 있어서, 상기 고정 길이 코드는 상기 적어도 하나의 비트를 사용하는 무부호 정수의 2진 표현을 포함하는 방법.
  3. 제1항 또는 제2항에 있어서, 상기 신택스 엘리먼트는 블록들의 세트에 적용되고, 상기 현재 블록은 상기 블록들의 세트에서의 하나의 블록인 방법.
  4. 제1항 또는 제2항에 있어서, 상기 신택스 엘리먼트는 슬라이스 레벨에 있는 방법.
  5. 디코딩 디바이스에 의해 구현되는, 코딩의 방법으로서, 상기 방법은,
    비트스트림을 획득하는 단계- 상기 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 또는 ALF 계수 파라미터임 -;
    상기 비트스트림을 파싱하여 상기 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 상기 현재 블록에 대한 신택스 엘리먼트의 값은 상기 신택스 엘리먼트의 적어도 하나의 비트만을 사용하여 획득됨 -;
    상기 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 상기 현재 블록에 적응 루프 필터링을 적용하는 단계를 포함하는 방법.
  6. 제5항에 있어서, 상기 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩되는 방법.
  7. 제6항에 있어서, 상기 고정 길이 코드는 상기 적어도 하나의 비트를 사용하는 무부호 정수의 2진 표현을 포함하는 방법.
  8. 제5항 내지 제7항 중 어느 한 항에 있어서, 상기 신택스 엘리먼트는 블록들의 세트에 적용되고, 상기 현재 블록은 상기 블록들의 세트에서의 하나의 블록인 방법.
  9. 제5항 내지 제7항 중 어느 한 항에 있어서, 상기 신택스 엘리먼트는 슬라이스 레벨에 있는 방법.
  10. 제5항 내지 제9항 중 어느 한 항에 있어서, 상기 ALF 계수 파라미터는 ALF 계수를 결정하기 위해 사용되는 방법.
  11. 제1항 내지 제10항 중 어느 한 항에 있어서, 상기 신택스 엘리먼트는 상기 ALF 클리핑 값 인덱스이고, 상기 신택스 엘리먼트를 표현하는 적어도 하나의 비트는 2 비트인 방법.
  12. 제11항에 있어서, 상기 ALF 클리핑 값 인덱스는 4개의 클리핑 값들 중 하나의 클리핑 값을 식별하는 방법.
  13. 제1항 내지 제12항 중 어느 한 항에 있어서, 상기 ALF 클리핑 값 인덱스의 값은 클리핑 범위를 결정하기 위해 사용되고, 상기 클리핑 범위는 상기 적응 루프 필터링 프로세스에서 사용되는 방법.
  14. 디코딩 디바이스에 의해 구현되는, 코딩의 방법으로서, 상기 방법은,
    비트스트림을 획득하는 단계- 상기 비트스트림에서의 n 비트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 슬라이스-레벨 신택스 엘리먼트를 표현하고, n은 0 이상의 정수임 -;
    상기 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하는 단계- 상기 신택스 엘리먼트의 값은 상기 n 비트를 사용하는 무부호 정수의 2진 표현임 -;
    상기 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 상기 현재 블록에 적응 루프 필터링을 적용하는 단계를 포함하는 방법.
  15. 인코딩 디바이스에 의해 구현되는, 코딩의 방법으로서, 상기 방법은,
    현재 블록에 대한 신택스 엘리먼트의 값을 결정하는 단계- 상기 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -;
    상기 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하는 단계- 상기 비트스트림에서의 적어도 하나의 비트는 상기 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -를 포함하는 방법.
  16. 제15항에 있어서, 상기 고정 길이 코드는 상기 신택스 엘리먼트의 적어도 하나의 비트를 사용하는 무부호 정수의 2진 표현을 포함하는 방법.
  17. 제15항 또는 제16항에 있어서, 상기 신택스 엘리먼트는 블록들의 세트에 적용되고, 상기 현재 블록은 상기 블록들의 세트에서의 하나의 블록인 방법.
  18. 제15항 또는 제16항에 있어서, 상기 신택스 엘리먼트는 슬라이스 레벨에 있는 방법.
  19. 인코딩 디바이스에 의해 구현되는, 코딩의 방법으로서, 상기 방법은,
    현재 블록에 대한 신택스 엘리먼트의 값을 결정하는 단계- 상기 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 또는 ALF 필터 계수 파라미터임 -;
    상기 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하는 단계- 상기 비트스트림에서의 적어도 하나의 비트는 상기 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트의 적어도 하나의 비트는 상기 현재 블록에 대한 신택스 엘리먼트의 값만을 사용하여 획득됨 -를 포함하는 방법.
  20. 제19항에 있어서, 상기 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩되는 방법.
  21. 제20항에 있어서, 상기 고정 길이 코드는 상기 신택스 엘리먼트의 적어도 하나의 비트를 사용하는 무부호 정수의 2진 표현을 포함하는 방법.
  22. 제19항 내지 제21항 중 어느 한 항에 있어서, 상기 신택스 엘리먼트는 블록들의 세트에 적용되고, 상기 현재 블록은 상기 블록들의 세트에서의 하나의 블록인 방법.
  23. 제19항 내지 제21항 중 어느 한 항에 있어서, 상기 신택스 엘리먼트는 슬라이스 레벨에 있는 방법.
  24. 제19항 내지 제23항 중 어느 한 항에 있어서, 상기 ALF 계수 파라미터는 ALF 계수를 결정하기 위해 사용되는 방법.
  25. 제15항 내지 제24항 중 어느 한 항에 있어서, 상기 신택스 엘리먼트는 상기 ALF 클리핑 값 인덱스이고, 상기 신택스 엘리먼트를 표현하는 적어도 하나의 비트는 2 비트인 방법.
  26. 제25항에 있어서, 상기 ALF 클리핑 값 인덱스는 4개의 클리핑 값들 중 하나의 클리핑 값을 식별하는 방법.
  27. 제15항 내지 제26항 중 어느 한 항에 있어서, 상기 ALF 클리핑 값 인덱스의 값은 클리핑 범위를 결정하기 위해 사용되고, 상기 클리핑 범위는 적응 루프 필터링 프로세스에서 사용되는 방법.
  28. 디코딩 디바이스에 의해 구현되는, 코딩의 방법으로서, 상기 방법은,
    ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 슬라이스-레벨 신택스 엘리먼트의 값을 결정하는 단계- n은 0 이상의 정수임 -;
    상기 신택스 엘리먼트의 값에 기초하여, n 비트를 포함하는 비트스트림을 생성하는 단계- 상기 n 비트를 사용하는 무부호 정수의 2진 표현은 상기 신택스 엘리먼트의 값임 -를 포함하는 방법.
  29. 디코더(30)로서, 제1항 내지 제14항 중 어느 한 항에 따른 방법을 수행하기 위한 처리 회로를 포함하는 디코더(30).
  30. 인코더(20)로서, 제15항 내지 제28항 중 어느 한 항에 따른 방법을 수행하기 위한 처리 회로를 포함하는 인코더(20).
  31. 컴퓨터 프로그램 제품으로서, 제1항 내지 제28항 중 어느 한 항에 따른 방법을 수행하기 위한 프로그램 코드를 포함하는 컴퓨터 프로그램 제품.
  32. 비-일시적 컴퓨터-판독가능 매체로서, 컴퓨터 디바이스에 의해 실행될 때, 상기 컴퓨터 디바이스로 하여금 제1항 내지 제28항 중 어느 한 항의 방법을 수행하게 하는 프로그램 코드를 운반하는 비-일시적 컴퓨터-판독가능 매체.
  33. 디코더로서,
    하나 이상의 프로세서; 및
    상기 프로세서들에 연결되는 그리고 상기 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 상기 프로그래밍은, 상기 프로세서들에 의해 실행될 때, 제1항 내지 제14항 중 어느 한 항에 따른 방법을 수행하도록 상기 디코더를 구성함 -를 포함하는 디코더.
  34. 인코더로서,
    하나 이상의 프로세서; 및
    상기 프로세서들에 연결되는 그리고 상기 프로세서들에 의한 실행을 위한 프로그래밍을 저장하는 비-일시적 컴퓨터-판독가능 저장 매체- 상기 프로그래밍은, 상기 프로세서들에 의해 실행될 때, 제15항 내지 제28항 중 어느 한 항에 따른 방법을 수행하도록 상기 인코더를 구성함 -를 포함하는 인코더.
  35. 디코더로서,
    비트스트림을 획득하도록 구성되는 엔트로피 디코딩 유닛- 상기 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -;
    상기 엔트로피 디코딩 유닛은 상기 비트스트림을 파싱하여 상기 현재 블록에 대한 신택스 엘리먼트의 값을 획득하도록 추가로 구성되고, 상기 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -; 및
    상기 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 상기 현재 블록에 적응 루프 필터링을 적용하도록 구성되는 필터링 유닛을 포함하는 디코더.
  36. 디코더로서,
    비트스트림을 획득하도록 구성되는 엔트로피 디코딩 유닛- 상기 비트스트림에서의 적어도 하나의 비트는 현재 블록에 대한 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 또는 ALF 계수 파라미터임 -;
    상기 엔트로피 디코딩 유닛은 상기 비트스트림을 파싱하여 상기 현재 블록에 대한 신택스 엘리먼트의 값을 획득하도록 추가로 구성되고, 상기 현재 블록에 대한 신택스 엘리먼트의 값은 상기 신택스 엘리먼트의 적어도 하나의 비트만을 사용하여 획득됨 -; 및
    상기 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 상기 현재 블록에 적응 루프 필터링을 적용하도록 구성되는 필터링 유닛을 포함하는 디코더.
  37. 디코더로서,
    비트스트림을 획득하도록 구성되는 엔트로피 디코딩 유닛- 상기 비트스트림에서의 n 비트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 슬라이스-레벨 신택스 엘리먼트를 표현하고, n은 0 이상의 정수임 -;
    상기 엔트로피 디코딩 유닛은 상기 비트스트림을 파싱하여 현재 블록에 대한 신택스 엘리먼트의 값을 획득하도록 추가로 구성되고, 상기 신택스 엘리먼트의 값은 상기 n 비트를 사용하는 무부호 정수의 2진 표현임 -;
    상기 현재 블록에 대한 신택스 엘리먼트의 값에 기초하여, 상기 현재 블록에 적응 루프 필터링을 적용하도록 구성되는 필터링 유닛을 포함하는 디코더.
  38. 인코더로서,
    현재 블록에 대한 신택스 엘리먼트의 값을 결정하도록 구성되는 결정 유닛- 상기 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시함 -;
    상기 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하도록 구성되는 엔트로피 인코딩 유닛- 상기 비트스트림에서의 적어도 하나의 비트는 상기 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩됨 -을 포함하는 인코더.
  39. 인코더로서,
    현재 블록에 대한 신택스 엘리먼트의 값을 결정하도록 구성되는 결정 유닛- 상기 신택스 엘리먼트는 ALF 클리핑 값 인덱스 또는 ALF(adaptive loop filter) 필터 계수 파라미터임 -;
    상기 신택스 엘리먼트의 값에 기초하여 비트스트림을 생성하도록 구성되는 엔트로피 인코딩 유닛- 상기 비트스트림에서의 적어도 하나의 비트는 상기 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트의 적어도 하나의 비트는 상기 현재 블록에 대한 신택스 엘리먼트의 값만을 사용하여 획득됨 -을 포함하는 인코더.
  40. 인코더로서,
    ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 슬라이스-레벨 신택스 엘리먼트의 값을 결정하도록 구성되는 결정 유닛- n은 0 이상의 정수임 -;
    상기 신택스 엘리먼트의 값에 기초하여, n 비트를 포함하는 비트스트림을 생성하도록 구성되는 엔트로피 인코딩 유닛- 상기 n 비트를 사용하는 무부호 정수의 2진 표현은 상기 신택스 엘리먼트의 값임 -을 포함하는 인코더.
  41. 비-일시적 저장 매체로서, n 비트를 포함하는 비트스트림을 포함하고, 상기 n 비트를 사용하는 무부호 정수의 2진 표현은 신택스 엘리먼트의 값이고, 상기 신택스 엘리먼트는 ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하고, n은 0 이상인 정수인 비-일시적 저장 매체.
  42. 비-일시적 저장 매체로서, 비트스트림을 포함하고, 상기 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트는 고정 길이 코드를 사용하여 코딩되고, ALF(adaptive loop filter)에 대한 클리핑 값의 클리핑 인덱스를 명시하는 비-일시적 저장 매체.
  43. 제39항에 있어서, 상기 신택스 엘리먼트 자체는 상기 신택스 엘리먼트의 값을 정의하는 비-일시적 저장 매체.
  44. 비-일시적 저장 매체로서, 비트스트림을 포함하고, 상기 비트스트림에서의 적어도 하나의 비트는 신택스 엘리먼트를 표현하고, 상기 신택스 엘리먼트는 ALF(adaptive loop filter) 클리핑 값 인덱스 또는 ALF 필터 계수 파라미터이고, 상기 신택스 엘리먼트의 적어도 하나의 비트는 상기 신택스 엘리먼트의 값만을 사용하여 획득되는 비-일시적 저장 매체.
KR1020217039375A 2019-05-04 2020-04-30 적응 루프 필터를 사용하는 인코더, 디코더 및 대응하는 방법들 KR20210151248A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962843431P 2019-05-04 2019-05-04
US62/843,431 2019-05-04
PCT/CN2020/088389 WO2020224545A1 (en) 2019-05-04 2020-04-30 An encoder, a decoder and corresponding methods using an adaptive loop filter

Publications (1)

Publication Number Publication Date
KR20210151248A true KR20210151248A (ko) 2021-12-13

Family

ID=73051347

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020217039375A KR20210151248A (ko) 2019-05-04 2020-04-30 적응 루프 필터를 사용하는 인코더, 디코더 및 대응하는 방법들

Country Status (11)

Country Link
US (1) US20220060703A1 (ko)
EP (1) EP3954121A4 (ko)
JP (2) JP7319389B2 (ko)
KR (1) KR20210151248A (ko)
CN (1) CN113785573A (ko)
AU (1) AU2020270246A1 (ko)
BR (1) BR112021022051A2 (ko)
CA (1) CA3136587A1 (ko)
MX (1) MX2021013470A (ko)
SG (1) SG11202112263YA (ko)
WO (1) WO2020224545A1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11418779B2 (en) 2019-06-11 2022-08-16 Qualcomm Incorporated Clipping indices coding for adaptive loop filter in video coding
KR20220006113A (ko) * 2019-06-25 2022-01-14 에스지 디제이아이 테크놀러지 코., 엘티디 루프 필터링 방법 및 장치
KR20230145216A (ko) * 2019-12-28 2023-10-17 베이징 다지아 인터넷 인포메이션 테크놀로지 컴퍼니 리미티드 비디오 코딩을 위한 인-루프 필터
US11546638B2 (en) * 2020-12-08 2023-01-03 Tencent America LLC Method and apparatus for video filtering
US11785213B2 (en) * 2021-03-12 2023-10-10 Tencent America LLC Method and apparatus for video filtering
WO2023244670A1 (en) * 2022-06-15 2023-12-21 Innopeak Technology, Inc. Methods, systems, and apparatuses for point cloud coding

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7003040B2 (en) * 2002-09-24 2006-02-21 Lg Electronics Inc. System and method for multiplexing media information over a network using reduced communications resources and prior knowledge/experience of a called or calling party
US20110249736A1 (en) * 2010-04-09 2011-10-13 Sharp Laboratories Of America, Inc. Codeword restriction for high performance video coding
US9094658B2 (en) * 2010-05-10 2015-07-28 Mediatek Inc. Method and apparatus of adaptive loop filtering
US10419764B2 (en) * 2011-03-30 2019-09-17 Lg Electronics Inc. In-loop filtering method and apparatus for same
CN102857746B (zh) * 2011-06-28 2017-03-29 中兴通讯股份有限公司 环路滤波编解码方法及装置
CN103096047B (zh) * 2011-11-01 2018-06-19 中兴通讯股份有限公司 一种分片层参数集解码及编码方法和装置
CN103096054B (zh) * 2011-11-04 2015-07-08 华为技术有限公司 一种视频图像滤波处理方法和装置
US20140010278A1 (en) 2012-07-09 2014-01-09 Motorola Mobility Llc Method and apparatus for coding adaptive-loop filter coefficients
WO2017045101A1 (en) * 2015-09-14 2017-03-23 Mediatek Singapore Pte. Ltd. Advanced deblocking filter in video coding
WO2017075804A1 (en) * 2015-11-06 2017-05-11 Microsoft Technology Licensing, Llc Flexible reference picture management for video encoding and decoding
US20190297320A1 (en) * 2016-05-13 2019-09-26 Sharp Kabushiki Kaisha Image decoding device and image encoding device
CN115174905A (zh) * 2017-01-20 2022-10-11 世宗大学校产学协力团 影像解码方法、影像编码方法以及比特流的生成方法
US10708591B2 (en) * 2017-03-20 2020-07-07 Qualcomm Incorporated Enhanced deblocking filtering design in video coding
KR20210117327A (ko) * 2019-01-25 2021-09-28 미디어텍 인크. 비디오 코딩에서 비선형 적응적 루프 필터링을 위한 방법 및 장치
CN113678464B (zh) * 2019-04-15 2022-12-02 北京字节跳动网络技术有限公司 非线性自适应环路滤波器中的参数的时域预测

Also Published As

Publication number Publication date
JP2023133391A (ja) 2023-09-22
CA3136587A1 (en) 2020-11-12
WO2020224545A1 (en) 2020-11-12
AU2020270246A1 (en) 2021-12-02
MX2021013470A (es) 2022-02-03
BR112021022051A2 (pt) 2021-12-28
EP3954121A1 (en) 2022-02-16
SG11202112263YA (en) 2021-12-30
JP2022530921A (ja) 2022-07-04
EP3954121A4 (en) 2022-06-22
JP7319389B2 (ja) 2023-08-01
US20220060703A1 (en) 2022-02-24
CN113785573A (zh) 2021-12-10

Similar Documents

Publication Publication Date Title
KR102431537B1 (ko) 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들
US11317091B2 (en) Performing chroma deblocking for blocks which use joint chroma coding
WO2020224545A1 (en) An encoder, a decoder and corresponding methods using an adaptive loop filter
US11876997B2 (en) Encoder, decoder and corresponding methods of most probable mode list construction for blocks with multi-hypothesis prediction
US11856228B2 (en) Deblocking filter for sub-partition boundaries caused by intra sub-partition coding tool
KR20210126771A (ko) 인트라 예측 모드에 관련된 인코더, 디코더 및 대응하는 방법들
US20220014793A1 (en) Encoder, a decoder and corresponding methods of deblocking filter adaptation
KR20210113367A (ko) 인트라 서브-파티션 코딩 모드를 위한 방법 및 장치
CN115665407B (zh) 用于帧内预测的分量间线性建模方法和装置
US20220217346A1 (en) Method and Apparatus for Chrominance QP Offsets Tables Signaling and Derivation
US11876956B2 (en) Encoder, a decoder and corresponding methods for local illumination compensation
WO2021025597A1 (en) Method and apparatus of sample adaptive offset in-loop filter with application region size constraint
CN114556923A (zh) 编码器、解码器和使用插值滤波的对应方法
CN113556566B (zh) 用于视频帧的帧内预测或帧间预测处理的方法及装置