KR102349457B1 - 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치 - Google Patents

움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치 Download PDF

Info

Publication number
KR102349457B1
KR102349457B1 KR1020217012767A KR20217012767A KR102349457B1 KR 102349457 B1 KR102349457 B1 KR 102349457B1 KR 1020217012767 A KR1020217012767 A KR 1020217012767A KR 20217012767 A KR20217012767 A KR 20217012767A KR 102349457 B1 KR102349457 B1 KR 102349457B1
Authority
KR
South Korea
Prior art keywords
motion vector
coding unit
mode
mmvd
merge
Prior art date
Application number
KR1020217012767A
Other languages
English (en)
Other versions
KR20210055781A (ko
Inventor
정승수
박민우
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020227000389A priority Critical patent/KR20220008386A/ko
Publication of KR20210055781A publication Critical patent/KR20210055781A/ko
Application granted granted Critical
Publication of KR102349457B1 publication Critical patent/KR102349457B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/523—Motion estimation or motion compensation with sub-pixel accuracy
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

시퀀스 파라미터 세트로부터, 현재 시퀀스에서 MMVD 모드(merge mode with motion vector difference)가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득하고, 시퀀스 MMVD 정보에 따라 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 제1 인터 예측 모드에서 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보를 비트스트림으로부터 획득하고, 제1 MMVD 정보에 따라 제1 인터 예측 모드에서 MMVD 모드가 적용될 때, 비트스트림으로부터 획득한 움직임 벡터 차분 거리 및 움직임 벡터 차분 방향을 이용하여, 상기 제1 인터 예측 모드에서 이용하기 위한 상기 현재 블록의 움직임 벡터를 복원하고, 현재 블록의 움직임 벡터를 이용하여 현재 블록을 복원하는 비디오 복호화 방법이 제안된다.

Description

움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치
본 개시는 영상의 부호화 및 복호화 분야에 관한 것이다. 보다 구체적으로, 본 개시는 영상의 부호화 및 복호화에 이용되는 움직임 벡터를 부호화하는 방법 및 장치, 복호화하는 방법 및 장치에 관한 것이다.
영상의 부호화 및 복호화 방법에서는 영상을 부호화하기 위해 하나의 픽처를 블록으로 분할하고, 인터 예측(inter prediction) 또는 인트라 예측(intra prediction)을 통해 각각의 블록을 예측 부호화할 수 있다.
인터 예측은 픽처들 사이의 시간적인 중복성을 제거하여 영상을 압축하는 방법으로 움직임 추정 부호화가 대표적인 예이다. 움직임 추정 부호화는 적어도 하나의 참조 픽처를 이용해 현재 픽처의 블록들을 예측한다. 소정의 평가 함수를 이용하여 현재 블록과 가장 유사한 참조 블록을 소정의 검색 범위에서 검색할 수 있다. 현재 블록을 참조 블록에 기초하여 예측하고, 예측 결과 생성된 예측 블록을 현재 블록으로부터 감산하여 잔차 블록을 생성 및 부호화한다. 이 때, 예측을 보다 정확하게 수행하기 위해 참조 픽처의 검색 범위에 대해 보간을 수행하여 정수 화소 단위(integer pel unit)보다 작은 서브 픽셀 단위(sub pel unit)의 픽셀들을 생성하고, 생성된 서브 픽셀 단위의 픽셀에 기초해 인터 예측을 수행할 수 있다.
H.264 AVC(Advanced Video Coding) 및 HEVC(High Efficiency Video Coding)와 같은 표준에서는 현재 블록의 움직임 벡터를 예측하기 위해 현재 블록에 인접한 이전에 부호화된 블록들 또는 이전에 부호화된 픽처에 포함된 블록들의 움직임 벡터를 현재 블록의 예측 움직임 벡터(Prediction Motion Vector)로 이용한다. 현재 블록의 움직임 벡터와 예측 움직임 벡터 사이의 차이인 잔차 움직임 벡터(Differential Motion Vector)는 소정의 방식을 통해 디코더 측으로 시그널링된다.
일 실시예에 따른 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치는 인터 모드에서 적용되는 각종 툴에서 사용되는 움직임 벡터 차분을 효율적으로 부호화 및 복호화하는 것을 기술적 과제로 한다.
본 개시의 일 실시예에 따른 비디오 복호화 방법은, 시퀀스 파라미터 세트로부터, 현재 시퀀스에서 MMVD 모드(merge mode with motion vector difference)가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득하는 단계; 상기 시퀀스 MMVD 정보에 따라 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 제1 인터 예측 모드에서 상기 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보를 비트스트림으로부터 획득하는 단계; 상기 제1 MMVD 정보에 따라 상기 제1 인터 예측 모드에서 상기 MMVD 모드가 적용될 때, 상기 비트스트림으로부터 획득한 움직임 벡터 차분 거리 및 움직임 벡터 차분 방향을 이용하여, 상기 제1 인터 예측 모드에서 이용하기 위한 상기 현재 블록의 움직임 벡터를 복원하는 단계; 및 상기 현재 블록의 움직임 벡터를 이용하여 상기 현재 블록을 복원하는 단계를 포함할 수 있다.
일 실시예에 따른 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 정보 차분의 복호화 방법 및 복호화 장치는 인터 모드에서 적용되는 각종 툴에서 사용되는 움직임 벡터 차분을 효율적으로 부호화하기 위해, 하이레벨 신택스에서 시퀀스, 픽쳐, 블록 단위의 레벨마다 움직임 벡터 차분을 이용할지 여부를 결정하는 방법을 제안한다.
다만, 일 실시예에 따른 움직임 정보의 부호화 및 복호화 방법, 및 움직임 정보의 부호화 및 복호화 장치가 달성할 수 있는 효과는 이상에서 언급한 것들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 명세서에서 인용되는 도면을 보다 충분히 이해하기 위하여 각 도면의 간단한 설명이 제공된다.
도 1은 일 실시예에 따라 영상 복호화 장치의 개략적인 블록도를 도시한다.
도 2는 일 실시예에 따라 영상 복호화 방법의 흐름도를 도시한다.
도 3은 일 실시예에 따라 영상 복호화 장치가 현재 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.
도 4는 일 실시예에 따라 영상 복호화 장치가 비-정사각형의 형태인 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.
도 5는 일 실시예에 따라 영상 복호화 장치가 블록 형태 정보 및 분할 형태 모드 정보 중 적어도 하나에 기초하여 부호화 단위를 분할하는 과정을 도시한다.
도 6은 일 실시예에 따라 영상 복호화 장치가 홀수개의 부호화 단위들 중 소정의 부호화 단위를 결정하기 위한 방법을 도시한다.
도 7은 일 실시예에 따라 영상 복호화 장치가 현재 부호화 단위를 분할하여 복수개의 부호화 단위들을 결정하는 경우, 복수개의 부호화 단위들이 처리되는 순서를 도시한다.
도 8은 일 실시예에 따라 영상 복호화 장치가 소정의 순서로 부호화 단위가 처리될 수 없는 경우, 현재 부호화 단위가 홀수개의 부호화 단위로 분할되는 것임을 결정하는 과정을 도시한다.
도 9는 일 실시예에 따라 영상 복호화 장치가 제1 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.
도 10은 일 실시예에 따라 영상 복호화 장치가 제1 부호화 단위가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위가 소정의 조건을 만족하는 경우 제2 부호화 단위가 분할될 수 있는 형태가 제한되는 것을 도시한다.
도 11은 일 실시예에 따라 분할 형태 모드 정보가 4개의 정사각형 형태의 부호화 단위로 분할하는 것을 나타낼 수 없는 경우, 영상 복호화 장치가 정사각형 형태의 부호화 단위를 분할하는 과정을 도시한다.
도 12는 일 실시예에 따라 복수개의 부호화 단위들 간의 처리 순서가 부호화 단위의 분할 과정에 따라 달라질 수 있음을 도시한 것이다.
도 13은 일 실시예에 따라 부호화 단위가 재귀적으로 분할되어 복수개의 부호화 단위가 결정되는 경우, 부호화 단위의 형태 및 크기가 변함에 따라 부호화 단위의 심도가 결정되는 과정을 도시한다.
도 14은 일 실시예에 따라 부호화 단위들의 형태 및 크기에 따라 결정될 수 있는 심도 및 부호화 단위 구분을 위한 인덱스(part index, 이하 PID)를 도시한다.
도 15는 일 실시예에 따라 픽쳐에 포함되는 복수개의 소정의 데이터 단위에 따라 복수개의 부호화 단위들이 결정된 것을 도시한다.
도 16은 영상 부호화 및 복호화 시스템의 블록도를 나타낸 도면이다.
도 17은 일 실시예에 따른 비디오 복호화 장치의 블록도를 도시한다.
도 18은 일 실시예에 따른 비디오 복호화 방법의 흐름도를 도시한다.
도 19는 일 실시예에 따른 비디오 부호화 장치의 블록도를 도시한다.
도 20은 일 실시예에 따른 비디오 부호화 방법의 흐름도를 도시한다.
도 21은 일 실시예에 따른 움직임 벡터 후보들의 위치를 나타낸다.
도 22 는 좌표 평면 상에 표시된 움직임 벡터 후보들을 나타내는 도면이다.
도 23은 일 실시예에 따른 머지 인덱스, 머지 차분 거리 인덱스 및 머지 차분 방향 인덱스의 값과 의미를 나타낸다.
도 24은 일 실시예에 따른 기준 움직임 벡터와 머지 움직임 벡터 차분을 이용하여 움직임 벡터를 구하는 수식을 도시한다.
도 25은 일 실시예에 따라 머지 차분 거리 인덱스의 정밀도가 64인 경우에 움직임 벡터 프리딕터 또는 기본 움직임 벡터의 정밀도를 조절하기 위한 관계식을 도시한다.
도 26은 일 실시예에 따라 머지 차분 거리 인덱스의 정밀도가 16인 경우에 움직임 벡터 프리딕터 또는 기본 움직임 벡터의 정밀도를 조절하기 위한 관계식을 도시한다.
도 27은 일 실시예에 따라 머지 관련 정보들의 이진화 방식을 결정하기 위한 참조 테이블을 도시한다.
도 28은 다양한 이진화 방식들에 따라 8개의 머지 차분 거리 인덱스의 이진열의 비교표를 도시한다.
도 29는 k-th order exp-golomb 이진화 방식의 일 실시예를 도시한다.
도 30은 다양한 이진화 방식들에 따라 6개의 머지 차분 거리 인덱스의 이진열의 비교표를 도시한다.
도 31은 일 실시예에 따라 머지 차분 거리 인덱스의 그룹별로 이진화 방식을 달리하여 생성된 이진열들을 도시한다.
도 32는 일 실시예에 따라 8개의 머지 차분 거리 인덱스를 가지는 경우의 코드워드를 도시한다.
도 33는 일 실시예에 따라 6개의 머지 차분 거리 인덱스를 가지는 경우의 코드워드를 도시한다.
도 34는 일 실시예에 따른 삼각파티션 예측모드에서 이용 가능한 삼각파티션을 도시한다.
도 35는 일 실시예에 따른 삼각파티션 예측모드에서 삼각파티션들을 이용하여 결정한 예측블록을 도시한다.
도 36는 다른 실시예에 따른 비디오 복호화 방법의 흐름도를 도시한다.
도 37는 다른 실시예에 따른 비디오 부호화 방법의 흐름도를 도시한다.
발명의 실시를 위한 최선의 형태
본 개시의 일 실시예에 따른 비디오 복호화 방법은, 시퀀스 파라미터 세트로부터, 현재 시퀀스에서 MMVD 모드(merge mode with motion vector difference)가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득하는 단계; 상기 시퀀스 MMVD 정보에 따라 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 제1 인터 예측 모드에서 상기 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보를 비트스트림으로부터 획득하는 단계; 상기 제1 MMVD 정보에 따라 상기 제1 인터 예측 모드에서 상기 MMVD 모드가 적용될 때, 상기 비트스트림으로부터 획득한 움직임 벡터 차분 거리 및 움직임 벡터 차분 방향을 이용하여, 상기 제1 인터 예측 모드에서 이용하기 위한 상기 현재 블록의 움직임 벡터를 복원하는 단계; 및 상기 현재 블록의 움직임 벡터를 이용하여 상기 현재 블록을 복원하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 제1 MMVD 정보를 비트스트림으로부터 획득하는 단계는, 상기 시퀀스 MMVD 정보에 따라 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 나타내는 서브픽셀 MMVD 정보를 획득하는 단계; 및 상기 시퀀스 MMVD 정보에 따라 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 상기 MMVD 모드가 적용되는지 여부를 나타내는 MMVD 정보를 획득하는 단계를 포함하고, 상기 현재 블록의 움직임 벡터를 복원하는 단계는, 상기 MMVD 정보에 따라 상기 현재 블록에 대해 상기 MMVD 모드가 적용될 때, 상기 서브픽셀 MMVD 정보에 따라, 비트스트림으로부터 획득한 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 정수 픽셀 단위 또는 서브 픽셀 단위의 움직임 벡터 차분 거리로 복원하는 단계; 및 상기 움직임 벡터 차분 거리를 이용하여 상기 현재 블록의 움직임 벡터를 결정하는 단계를 포함할 수 있다.
일 실시에 따라 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 정수 픽셀 단위 또는 서브 픽셀 단위의 움직임 벡터 차분 거리로 복원하는 단계는, 상기 MMVD 정보에 따라 상기 현재 블록에 대해 상기 MMVD 모드가 적용되고 상기 서브픽셀 MMVD 정보에 따라 상기 정수 픽셀 단위의 움직임 벡터 차분이 이용되는 경우에, 비트스트림으로부터 획득한 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 정수 픽셀 단위의 움직임 벡터 차분 거리를 복원하는 단계; 및 상기 MMVD 정보에 따라 상기 현재 블록에 대해 상기 MMVD 모드가 적용되고 상기 서브픽셀 MMVD 정보에 따라 상기 서브 픽셀 단위의 움직임 벡터 차분이 이용되는 경우에, 비트스트림으로부터 획득한 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 서브 픽셀 단위의 움직임 벡터 차분 거리를 복원하는 단계를 할 수 있다.
일 실시에 따라 상기 현재 블록의 움직임 벡터를 복원하는 단계는, 상기 비트스트림으로부터, 상기 현재 블록의 기본 움직임 벡터를 가리키는 정보 및 상기 현재 블록의 움직임 벡터 차분의 방향 인덱스를 획득하는 단계; 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스 및 상기 움직임 벡터 차분의 방향 인덱스를 이용하여 상기 현재 블록의 움직임 벡터 차분을 결정하는 단계; 및 상기 현재 블록의 기본 움직임 벡터를 가리키는 정보를 이용하여 상기 현재 블록의 기본 움직임 벡터를 결정하는 단계; 상기 현재 블록의 기본 움직임 벡터 및 상기 움직임 벡터 차분을 이용하여 상기 현재 블록의 움직임 벡터를 결정하는 단계를 할 수 있다.
일 실시에 따라 상기 시퀀스 MMVD 정보에 따라 상기 현재 시퀀스에서 상기 MMVD 모드가 적용가능하지 않을 때, 상기 현재 시퀀스 및 상기 현재 블록에서 상기 정수 픽셀 단위의 움직임 벡터 차분 및 상기 서브 픽셀 단위의 움직임 벡터 차분이 모두 적용 불가능할 수 있다.
일 실시에 따라 상기 현재 블록의 움직임 벡터를 결정하는 단계는, 상기 복원된 움직임 벡터 차분 거리가 정수 픽셀 단위일 때, 상기 현재 블록의 기본 움직임 벡터의 x 성분값 및 y 성분값을 정수 픽셀 단위로 라운딩하고, 상기 정수 픽셀 단위의 상기 움직임 벡터 차분 거리 및 상기 정수 픽셀 단위로 라운딩된 기본 움직임 벡터의 x 성분값 및 y 성분값을 이용하여, 상기 정수 픽셀 단위의 움직임 벡터를 복원하는 단계; 및 상기 복원된 움직임 벡터 차분 거리가 서브 픽셀 단위일 때, 상기 서브 픽셀 단위의 상기 움직임 벡터 차분 거리 및 상기 서브 픽셀 단위로 라운딩된 기본 움직임 벡터의 x 성분값 및 y 성분값을 이용하여, 상기 서브 픽셀 단위의 움직임 벡터를 복원하는 단계를 포함할 수 있다.
본 개시의 일 실시예에 따른 비디오 복호화 장치에 있어서, 시퀀스 파라미터 세트로부터, 현재 시퀀스에서 MMVD 모드(merge mode with motion vector difference)가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득하고, 상기 시퀀스 MMVD 정보에 따라 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 제1 인터 예측 모드에서 상기 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보를 비트스트림으로부터 획득하는 신택스 엘리먼트 획득부; 및 상기 제1 MMVD 정보에 따라 상기 제1 인터 예측 모드에서 상기 MMVD 모드가 적용될 때, 상기 비트스트림으로부터 획득한 움직임 벡터 차분 거리 및 움직임 벡터 차분 방향을 이용하여, 상기 제1 인터 예측 모드에서 이용하기 위한 상기 현재 블록의 움직임 벡터를 복원하고, 상기 현재 블록의 움직임 벡터를 이용하여 상기 현재 블록을 복원하는 복호화부를 포함할 수 있다.
일 실시예에 따라, 상기 신택스 엘리먼트 획득부는, 상기 시퀀스 MMVD 정보에 따라 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 나타내는 서브픽셀 MMVD 정보를 획득하고, 상기 시퀀스 MMVD 정보에 따라 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 상기 MMVD 모드가 적용되는지 여부를 나타내는 MMVD 정보를 획득하고, 상기 복호화부는, 상기 MMVD 정보에 따라 상기 현재 블록에 대해 상기 MMVD 모드가 적용될 때, 상기 서브픽셀 MMVD 정보에 따라, 비트스트림으로부터 획득한 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 정수 픽셀 단위 또는 서브 픽셀 단위의 움직임 벡터 차분 거리로 복원하고, 상기 움직임 벡터 차분 거리를 이용하여 상기 현재 블록의 움직임 벡터를 결정할 수 있다.
본 개시의 일 실시예에 따른 비디오 부호화 방법은, 현재 시퀀스에서 MMVD 모드(merge mode with motion vector difference)가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 부호화하는 단계; 상기 현재 시퀀스에서 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 제1 인터 예측 모드에서 상기 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보를 부호화하는 단계; 상기 제1 인터 예측 모드에서 상기 MMVD 모드가 적용될 때, 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스 및 상기 움직임 벡터 차분의 방향 인덱스를 부호화하는 단계를 포함할 수 있다.
일 실시예에 따른 상기 현재 시퀀스에서 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 나타내는 서브픽셀 MMVD 적용 정보를 부호화하는 단계; 및 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 상기 MMVD 모드가 적용되는지 여부를 나타내는 MMVD 정보를 부호화하는 단계를 포함하고, 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스 및 상기 움직임 벡터 차분의 방향 인덱스를 부호화하는 단계는, 상기 현재 블록에 대해 상기 MMVD 모드가 적용될 때, 정수 픽셀 단위 또는 서브 픽셀 단위의 움직임 벡터 차분 거리에 따라 결정된 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스를 부호화하는 단계를 포함할 수 있다.
일 실시예에 따라 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스를 부호화하는 단계는, 상기 현재 블록에 대해 상기 MMVD 모드가 적용되고 상기 정수 픽셀 단위의 움직임 벡터 차분이 이용되는 경우에, 정수 픽셀 단위의 움직임 벡터 차분 거리에 기초하여 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스를 결정하는 단계; 및 상기 현재 블록에 대해 상기 MMVD 모드가 적용되고 상기 서브 픽셀 단위의 움직임 벡터 차분이 이용되는 경우에, 서브 픽셀 단위의 움직임 벡터 차분 거리에 기초하여 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스를 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 상기 현재 블록의 움직임 벡터 차분의 거리 인덱스를 부호화하는 단계는, 상기 움직임 벡터 차분 거리가 정수 픽셀 단위로 부호화될 때, 상기 현재 블록의 기본 움직임 벡터의 x 성분값 및 y 성분값을 정수 픽셀 단위로 라운딩하고, 상기 정수 픽셀 단위로 라운딩된 기본 움직임 벡터의 x 성분값 및 y 성분값을 이용하여 상기 정수 픽셀 단위의 상기 움직임 벡터 차분 거리를 결정하고, 상기 정수 픽셀 단위의 상기 움직임 벡터 차분 거리에 대응되는 거리 인덱스를 부호화하는 단계; 및 상기 움직임 벡터 차분 거리가 서브 픽셀 단위로 부호화될 때, 상기 현재 블록의 기본 움직임 벡터의 x 성분값 및 y 성분값을 서브 픽셀 단위로 라운딩하고, 상기 서브 픽셀 단위로 라운딩된 기본 움직임 벡터의 x 성분값 및 y 성분값을 이용하여 상기 서브 픽셀 단위의 상기 움직임 벡터 차분 거리를 결정하고, 상기 서브 픽셀 단위의 상기 움직임 벡터 차분 거리에 대응되는 거리 인덱스를 부호화하는 단계를 포함할 수 있다.
본 개시의 일 실시예에 따른 비디오 복호화 방법은, 비트스트림으로부터 현재 블록에 삼각파티션 예측 모드가 적용가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득하는 단계; 상기 비트스트림으로부터 상기 현재 블록에 인트라/인터 혼합예측 모드가 적용가능한지 여부를 나타내는 제2 정보를 획득하는 단계; 상기 시퀀스 MMVD 정보에 기초하여 상기 현재 블록에 삼각파티션 예측 모드가 적용가능한 경우에, 상기 현재 블록의 크기 및 너비에 기초하여 상기 삼각파티션 예측 모드를 상기 현재 블록에 적용할지 여부를 결정하는 단계; 및 상기 시퀀스 MMVD 정보에 기초하여 상기 현재 블록에 삼각파티션 예측 모드가 적용가능하고 상기 제2 정보에 기초하여 상기 현재 블록에 인트라/인터 혼합예측 모드가 적용가능한 경우에, 상기 현재 블록의 크기 및 너비에 기초하여 상기 인트라/인터 혼합예측 모드를 상기 현재 블록에 적용할지 여부를 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 상기 현재 블록의 크기 및 너비에 기초하여 상기 삼각파티션 예측 모드를 상기 현재 블록에 적용할지 여부를 결정하는 단계는, 상기 현재 블록의 크기 및 너비의 곱이 64보다 작거나, 상기 현재 블록의 크기가 부호화 단위의 최대 크기보다 크거나, 상기 현재 블록의 너비가 상기 부호화 단위의 최대 크기보다 클 때, 상기 현재 블록에 상기 삼각파티션 예측 모드의 적용이 불가능한 것으로 결정하는 단계를 포함할 수 있다.
일 실시예에 따라 상기 현재 블록의 크기 및 너비에 기초하여 상기 인트라/인터 혼합예측 모드를 상기 현재 블록에 적용할지 여부를 결정하는 단계는, 상기 현재 블록의 크기 및 너비의 곱이 64보다 작거나, 상기 현재 블록의 크기가 부호화 단위의 최대 크기보다 크거나, 상기 현재 블록의 너비가 상기 부호화 단위의 최대 크기보다 클 때, 상기 현재 블록에 상기 인트라/인터 혼합예측 모드의 적용이 불가능한 것으로 결정하는 단계를 포함할 수 있다.
본 개시의 일 실시예에 따른 비디오 복호화 방법을 컴퓨터로 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록매체가 개시된다.
본 개시의 일 실시예에 따른 비디오 부호화 방법을 컴퓨터로 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록매체가 개시된다.
발명의 실시를 위한 형태
본 개시는 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고, 이를 상세한 설명을 통해 상세히 설명하고자 한다. 그러나, 이는 본 개시의 실시 형태에 대해 한정하려는 것이 아니며, 본 개시는 여러 실시예들의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
실시예를 설명함에 있어서, 관련된 공지 기술에 대한 구체적인 설명이 본 개시의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 명세서의 설명 과정에서 이용되는 숫자(예를 들어, 제 1, 제 2 등)는 하나의 구성요소를 다른 구성요소와 구분하기 위한 식별기호에 불과하다.
또한, 본 명세서에서, 일 구성요소가 다른 구성요소와 "연결된다" 거나 "접속된다" 등으로 언급된 때에는, 상기 일 구성요소가 상기 다른 구성요소와 직접 연결되거나 또는 직접 접속될 수도 있지만, 특별히 반대되는 기재가 존재하지 않는 이상, 중간에 또 다른 구성요소를 매개하여 연결되거나 또는 접속될 수도 있다고 이해되어야 할 것이다.
또한, 본 명세서에서 '~부(유닛)', '모듈' 등으로 표현되는 구성요소는 2개 이상의 구성요소가 하나의 구성요소로 합쳐지거나 또는 하나의 구성요소가 보다 세분화된 기능별로 2개 이상으로 분화될 수도 있다. 또한, 이하에서 설명할 구성요소 각각은 자신이 담당하는 주기능 이외에도 다른 구성요소가 담당하는 기능 중 일부 또는 전부의 기능을 추가적으로 수행할 수도 있으며, 구성요소 각각이 담당하는 주기능 중 일부 기능이 다른 구성요소에 의해 전담되어 수행될 수도 있음은 물론이다.
또한, 본 명세서에서, '영상(image)' 또는 '픽처'는 비디오의 정지영상이거나 동영상, 즉 비디오 그 자체를 나타낼 수 있다.
또한, 본 명세서에서 '샘플'은, 영상의 샘플링 위치에 할당된 데이터로서 프로세싱 대상이 되는 데이터를 의미한다. 예를 들어, 공간영역의 영상에서 화소값, 변환 영역 상의 변환 계수들이 샘플들일 수 있다. 이러한 적어도 하나의 샘플들을 포함하는 단위를 블록이라고 정의할 수 있다.
또한, 본 명세서에서,'현재 블록(Current Block)'은, 부호화 또는 복호화하고자 하는 현재 영상의 최대 부호화 단위, 부호화 단위, 예측 단위 또는 변환 단위의 블록을 의미할 수 있다.
또한, 본 명세서에서, 어느 움직임 벡터가 리스트 0 방향이라는 것은, 리스트 0에 포함된 참조 픽처 내 블록을 가리키기 위해 이용되는 움직임 벡터라는 것을 의미할 수 있고, 어느 움직임 벡터가 리스트 1 방향이라는 것은, 리스트 1에 포함된 참조 픽처 내 블록을 가리키기 위해 이용되는 움직임 벡터라는 것을 의미할 수 있다. 또한, 어느 움직임 벡터가 단방향이라는 것은 리스트 0 또는 리스트 1에 포함된 참조 픽처 내 블록을 가리키기 위해 이용되는 움직임 벡터라는 것을 의미할 수 있고, 어느 움직임 벡터가 양방향이라는 것은 움직임 벡터가 리스트 0 방향의 움직임 벡터와 리스트 1 방향의 움직임 벡터를 포함한다는 것을 의미할 수 있다.
이하 도 1 내지 도 16를 참조하여 일 실시예에 따라 영상 부호화 장치 및 영상 복호화 장치, 영상 부호화 방법 및 영상 복호화 방법이 상술된다. 도 3 내지 도 16을 참조하여 일 실시예에 따라 영상의 데이터 단위를 결정하는 방법이 설명되고, 도 17 내지 도 37을 참조하여 일 실시예에 따른 MMVD을 이용한 비디오 부호화/복호화 방법이 후술된다.
이하 도 1 및 도 2를 참조하여 본 개시의 일 실시예에 따라 다양한 형태의 부호화 단위에 기초하여 적응적으로 선택하기 위한 방법 및 장치가 상술된다.
도 1은 일 실시예에 따라 영상 복호화 장치의 개략적인 블록도를 도시한다.
영상 복호화 장치(100)는 수신부(110) 및 복호화부(120)를 포함할 수 있다. 수신부(110) 및 복호화부(120)는 적어도 하나의 프로세서를 포함할 수 있다. 또한 수신부(110) 및 복호화부(120)는 적어도 하나의 프로세서가 수행할 명령어들을 저장하는 메모리를 포함할 수 있다.
수신부(110)는 비트스트림을 수신할 수 있다. 비트스트림은 후술되는 영상 부호화 장치(2200)가 영상을 부호화한 정보를 포함한다. 또한 비트스트림은 영상 부호화 장치(2200)로부터 송신될 수 있다. 영상 부호화 장치(2200) 및 영상 복호화 장치(100)는 유선 또는 무선으로 연결될 수 있으며, 수신부(110)는 유선 또는 무선을 통하여 비트스트림을 수신할 수 있다. 수신부(110)는 광학미디어, 하드디스크 등과 같은 저장매체로부터 비트스트림을 수신할 수 있다. 복호화부(120)는 수신된 비트스트림으로부터 획득된 정보에 기초하여 영상을 복원할 수 있다. 복호화부(120)는 영상을 복원하기 위한 신택스 엘리먼트를 비트스트림으로부터 획득할 수 있다. 복호화부(120)는 신택스 엘리먼트에 기초하여 영상을 복원할 수 있다.
영상 복호화 장치(100)의 동작에 대해서는 도 2와 함께 보다 자세히 설명한다.
도 2는 일 실시예에 따라 영상 복호화 방법의 흐름도를 도시한다.
본 개시의 일 실시예에 따르면 수신부(110)는 비트스트림을 수신한다.
영상 복호화 장치(100)는 비트스트림으로부터 부호화 단위의 분할 형태 모드에 대응하는 빈스트링을 획득하는 단계(210)를 수행한다. 영상 복호화 장치(100)는 부호화 단위의 분할 규칙을 결정하는 단계(220)를 수행한다. 또한 영상 복호화 장치(100)는 분할 형태 모드에 대응하는 빈스트링 및 상기 분할 규칙 중 적어도 하나에 기초하여, 부호화 단위를 복수의 부호화 단위들로 분할하는 단계(230)를 수행한다. 영상 복호화 장치(100)는 분할 규칙을 결정하기 위하여, 부호화 단위의 너비 및 높이의 비율에 따른, 상기 부호화 단위의 크기의 허용가능한 제 1 범위를 결정할 수 있다. 영상 복호화 장치(100)는 분할 규칙을 결정하기 위하여, 부호화 단위의 분할 형태 모드에 따른, 부호화 단위의 크기의 허용가능한 제 2 범위를 결정할 수 있다.
이하에서는 본 개시의 일 실시예에 따라 부호화 단위의 분할에 대하여 자세히 설명한다.
먼저 하나의 픽처 (Picture)는 하나 이상의 슬라이스 혹은 하나 이상의 타일로 분할될 수 있다. 하나의 슬라이스 혹은 하나의 타일은 하나 이상의 최대 부호화 단위(Coding Tree Unit; CTU)의 시퀀스일 수 있다. 최대 부호화 단위 (CTU)와 대비되는 개념으로 최대 부호화 블록 (Coding Tree Block; CTB)이 있다.
최대 부호화 블록(CTB)은 NxN개의 샘플들을 포함하는 NxN 블록을 의미한다(N은 정수). 각 컬러 성분은 하나 이상의 최대 부호화 블록으로 분할될 수 있다.
픽처가 3개의 샘플 어레이(Y, Cr, Cb 성분별 샘플 어레이)를 가지는 경우에 최대 부호화 단위(CTU)란, 루마 샘플의 최대 부호화 블록 및 그에 대응되는 크로마 샘플들의 2개의 최대 부호화 블록과, 루마 샘플, 크로마 샘플들을 부호화하는데 이용되는 신택스 구조들을 포함하는 단위이다. 픽처가 모노크롬 픽처인 경우에 최대 부호화 단위란, 모노크롬 샘플의 최대 부호화 블록과 모노크롬 샘플들을 부호화하는데 이용되는 신택스 구조들을 포함하는 단위이다. 픽처가 컬러 성분별로 분리되는 컬러 플레인으로 부호화되는 픽처인 경우에 최대 부호화 단위란, 해당 픽처와 픽처의 샘플들을 부호화하는데 이용되는 신택스 구조들을 포함하는 단위이다.
하나의 최대 부호화 블록(CTB)은 MxN개의 샘플들을 포함하는 MxN 부호화 블록(coding block)으로 분할될 수 있다 (M, N은 정수).
픽처가 Y, Cr, Cb 성분별 샘플 어레이를 가지는 경우에 부호화 단위(Coding Unit; CU)란, 루마 샘플의 부호화 블록 및 그에 대응되는 크로마 샘플들의 2개의 부호화 블록과, 루마 샘플, 크로마 샘플들을 부호화하는데 이용되는 신택스 구조들을 포함하는 단위이다. 픽처가 모노크롬 픽처인 경우에 부호화 단위란, 모노크롬 샘플의 부호화 블록과 모노크롬 샘플들을 부호화하는데 이용되는 신택스 구조들을 포함하는 단위이다. 픽처가 컬러 성분별로 분리되는 컬러 플레인으로 부호화되는 픽처인 경우에 부호화 단위란, 해당 픽처와 픽처의 샘플들을 부호화하는데 이용되는 신택스 구조들을 포함하는 단위이다.
위에서 설명한 바와 같이, 최대 부호화 블록과 최대 부호화 단위는 서로 구별되는 개념이며, 부호화 블록과 부호화 단위는 서로 구별되는 개념이다. 즉, (최대) 부호화 단위는 해당 샘플을 포함하는 (최대) 부호화 블록과 그에 대응하는 신택스 구조를 포함하는 데이터 구조를 의미한다. 하지만 당업자가 (최대) 부호화 단위 또는 (최대) 부호화 블록가 소정 개수의 샘플들을 포함하는 소정 크기의 블록을 지칭한다는 것을 이해할 수 있으므로, 이하 명세서에서는 최대 부호화 블록과 최대 부호화 단위, 또는 부호화 블록과 부호화 단위를 특별한 사정이 없는 한 구별하지 않고 언급한다.
영상은 최대 부호화 단위(Coding Tree Unit; CTU)로 분할될 수 있다. 최대 부호화 단위의 크기는 비트스트림으로부터 획득된 정보에 기초하여 결정될 수 있다. 최대 부호화 단위의 모양은 동일 크기의 정사각형을 가질 수 있다. 하지만 이에 한정되는 것은 아니다.
예를 들어, 비트스트림으로부터 루마 부호화 블록의 최대 크기에 대한 정보가 획득될 수 있다. 예를 들어, 루마 부호화 블록의 최대 크기에 대한 정보가 나타내는 루마 부호화 블록의 최대 크기는 4x4, 8x8, 16x16, 32x32, 64x64, 128x128, 256x256 중 하나일 수 있다.
예를 들어, 비트스트림으로부터 2분할이 가능한 루마 부호화 블록의 최대 크기와 루마 블록 크기 차이에 대한 정보가 획득될 수 있다. 루마 블록 크기 차이에 대한 정보는 루마 최대 부호화 단위와 2분할이 가능한 최대 루마 부호화 블록 간의 크기 차이를 나타낼 수 있다. 따라서, 비트스트림으로부터 획득된 2분할이 가능한 루마 부호화 블록의 최대 크기에 대한 정보와 루마 블록 크기 차이에 대한 정보를 결합하면, 루마 최대 부호화 단위의 크기가 결정될 수 있다. 루마 최대 부호화 단위의 크기를 이용하면 크로마 최대 부호화 단위의 크기도 결정될 수 있다. 예를 들어, 컬러 포맷에 따라 Y: Cb : Cr 비율이 4:2:0 이라면, 크로마 블록의 크기는 루마 블록의 크기의 절반일 수 있고, 마찬가지로 크로마 최대 부호화 단위의 크기는 루마 최대 부호화 단위의 크기의 절반일 수 있다.
일 실시예에 따르면, 바이너리 분할(binary split)이 가능한 루마 부호화 블록의 최대 크기에 대한 정보는 비트스트림으로부터 획득하므로, 바이너리 분할이 가능한 루마 부호화 블록의 최대 크기는 가변적으로 결정될 수 있다. 이와 달리, 터너리 분할(ternary split)이 가능한 루마 부호화 블록의 최대 크기는 고정될 수 있다. 예를 들어, I 픽처에서 터너리 분할이 가능한 루마 부호화 블록의 최대 크기는 32x32이고, P 픽처 또는 B 픽처에서 터너리 분할이 가능한 루마 부호화 블록의 최대 크기는 64x64일 수 있다.
또한 최대 부호화 단위는 비트스트림으로부터 획득된 분할 형태 모드 정보에 기초하여 부호화 단위로 계층적으로 분할될 수 있다. 분할 형태 모드 정보로서, 쿼드분할(quad split) 여부를 나타내는 정보, 다분할 여부를 나타내는 정보, 분할 방향 정보 및 분할 타입 정보 중 적어도 하나가 비트스트림으로부터 획득될 수 있다.
예를 들어, 쿼드분할(quad split) 여부를 나타내는 정보는 현재 부호화 단위가 쿼드분할(QUAD_SPLIT)될지 또는 쿼드분할되지 않을지를 나타낼 수 있다.
현재 부호화 단위가 쿼드분할지되 않으면, 다분할 여부를 나타내는 정보는 현재 부호화 단위가 더 이상 분할되지 않을지(NO_SPLIT) 아니면 바이너리/터너리 분할될지 여부를 나타낼 수 있다.
현재 부호화 단위가 바이너리 분할되거나 터너리 분할되면, 분할 방향 정보는 현재 부호화 단위가 수평 방향 또는 수직 방향 중 하나로 분할됨을 나타낸다.
현재 부호화 단위가 수평 또는 수직 방향으로 분할되면 분할 타입 정보는 현재 부호화 단위를 바이너리 분할) 또는 터너리 분할로 분할함을 나타낸다.
분할 방향 정보 및 분할 타입 정보에 따라, 현재 부호화 단위의 분할 모드가 결정될 수 있다. 현재 부호화 단위가 수평 방향으로 바이너리 분할되는 경우의 분할 모드는 바이너리 수평 분할(SPLIT_BT_HOR), 수평 방향으로 터너리 분할되는 경우의 터너리 수평 분할(SPLIT_TT_HOR), 수직 방향으로 바이너리 분할되는 경우의 분할 모드는 바이너리 수직 분할 (SPLIT_BT_VER) 및 수직 방향으로 터너리 분할되는 경우의 분할 모드는 터너리 수직 분할 (SPLIT_BT_VER)로 결정될 수 있다.
영상 복호화 장치(100)는 비트스트림으로부터 분할 형태 모드 정보를 하나의 빈스트링으로부터 획득할 수 있다. 영상 복호화 장치(100)가 수신한 비트스트림의 형태는 Fixed length binary code, Unary code, Truncated unary code, 미리 결정된 바이너리 코드 등을 포함할 수 있다. 빈스트링은 정보를 2진수의 나열로 나타낸 것이다. 빈스트링은 적어도 하나의 비트로 구성될 수 있다. 영상 복호화 장치(100)는 분할 규칙에 기초하여 빈스트링에 대응하는 분할 형태 모드 정보를 획득할 수 있다. 영상 복호화 장치(100)는 하나의 빈스트링에 기초하여, 부호화 단위를 쿼드분할할지 여부, 분할하지 않을지 또는 분할 방향 및 분할 타입을 결정할 수 있다.
부호화 단위는 최대 부호화 단위보다 작거나 같을 수 있다. 예를 들어 최대 부호화 단위도 최대 크기를 가지는 부호화 단위이므로 부호화 단위의 하나이다. 최대 부호화 단위에 대한 분할 형태 모드 정보가 분할되지 않음을 나타내는 경우, 최대 부호화 단위에서 결정되는 부호화 단위는 최대 부호화 단위와 같은 크기를 가진다. 최대 부호화 단위에 대한 분할 형태 모드 정보가 분할됨을 나타내는 경우 최대 부호화 단위는 부호화 단위들로 분할 될 수 있다. 또한 부호화 단위에 대한 분할 형태 모드 정보가 분할을 나타내는 경우 부호화 단위들은 더 작은 크기의 부호화 단위들로 분할 될 수 있다. 다만, 영상의 분할은 이에 한정되는 것은 아니며 최대 부호화 단위 및 부호화 단위는 구별되지 않을 수 있다. 부호화 단위의 분할에 대해서는 도 3 내지 도 16에서 보다 자세히 설명한다.
또한 부호화 단위로부터 예측을 위한 하나 이상의 예측 블록이 결정될 수 있다. 예측 블록은 부호화 단위와 같거나 작을 수 있다. 또한 부호화 단위로부터 변환을 위한 하나 이상의 변환 블록이 결정될 수 있다. 변환 블록은 부호화 단위와 같거나 작을 수 있다.
변환 블록과 예측 블록의 모양 및 크기는 서로 관련 없을 수 있다.
다른 실시예로, 부호화 단위가 예측 블록으로서 부호화 단위를 이용하여 예측이 수행될 수 있다. 또한 부호화 단위가 변환 블록으로서 부호화 단위를 이용하여 변환이 수행될 수 있다.
부호화 단위의 분할에 대해서는 도 3 내지 도 16에서 보다 자세히 설명한다. 본 개시의 현재 블록 및 주변 블록은 최대 부호화 단위, 부호화 단위, 예측 블록 및 변환 블록 중 하나를 나타낼 수 있다. 또한, 현재 블록 또는 현재 부호화 단위는 현재 복호화 또는 부호화가 진행되는 블록 또는 현재 분할이 진행되고 있는 블록이다. 주변 블록은 현재 블록 이전에 복원된 블록일 수 있다. 주변 블록은 현재 블록으로부터 공간적 또는 시간적으로 인접할 수 있다. 주변 블록은 현재 블록의 좌하측, 좌측, 좌상측, 상측, 우상측, 우측, 우하측 중 하나에 위치할 수 있다.
도 3은 일 실시예에 따라 영상 복호화 장치가 현재 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.
블록 형태는 4Nx4N, 4Nx2N, 2Nx4N, 4NxN, Nx4N, 32NxN, Nx32N, 16NxN, Nx16N, 8NxN 또는 Nx8N을 포함할 수 있다. 여기서 N은 양의 정수일 수 있다. 블록 형태 정보는 부호화 단위의 모양, 방향, 너비 및 높이의 비율 또는 크기 중 적어도 하나를 나타내는 정보이다.
부호화 단위의 모양은 정사각형(square) 및 비-정사각형(non-square)을 포함할 수 있다. 부호화 단위의 너비 및 높이의 길이가 같은 경우(즉, 부호화 단위의 블록 형태가 4Nx4N 인 경우), 영상 복호화 장치(100)는 부호화 단위의 블록 형태 정보를 정사각형으로 결정할 수 있다. 영상 복호화 장치(100)는 부호화 단위의 모양을 비-정사각형으로 결정할 수 있다.
부호화 단위의 너비 및 높이의 길이가 다른 경우(즉, 부호화 단위의 블록 형태가 4Nx2N, 2Nx4N, 4NxN, Nx4N, 32NxN, Nx32N, 16NxN, Nx16N, 8NxN 또는 Nx8N인 경우), 영상 복호화 장치(100)는 부호화 단위의 블록 형태 정보를 비-정사각형으로 결정할 수 있다. 부호화 단위의 모양이 비-정사각형인 경우, 영상 복호화 장치(100)는 부호화 단위의 블록 형태 정보 중 너비 및 높이의 비율을 1:2, 2:1, 1:4, 4:1, 1:8, 8:1, 1:16, 16:1, 1:32, 32:1 중 적어도 하나로 결정할 수 있다. 또한, 부호화 단위의 너비의 길이 및 높이의 길이에 기초하여, 영상 복호화 장치(100)는 부호화 단위가 수평 방향인지 수직 방향인지 결정할 수 있다. 또한, 부호화 단위의 너비의 길이, 높이의 길이 또는 넓이 중 적어도 하나에 기초하여, 영상 복호화 장치(100)는 부호화 단위의 크기를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보를 이용하여 부호화 단위의 형태를 결정할 수 있고, 분할 형태 모드 정보를 이용하여 부호화 단위가 어떤 형태로 분할되는지를 결정할 수 있다. 즉, 영상 복호화 장치(100)가 이용하는 블록 형태 정보가 어떤 블록 형태를 나타내는지에 따라 분할 형태 모드 정보가 나타내는 부호화 단위의 분할 방법이 결정될 수 있다.
영상 복호화 장치(100)는 비트스트림으로부터 분할 형태 모드 정보를 획득할 수 있다. 하지만 이에 한정되는 것은 아니며, 영상 복호화 장치(100) 및 영상 부호화 장치(2200)는 블록 형태 정보에 기초하여 미리 약속된 분할 형태 모드 정보를 결정할 수 있다. 영상 복호화 장치(100)는 최대 부호화 단위 또는 최소 부호화 단위에 대하여 미리 약속된 분할 형태 모드 정보를 결정할 수 있다. 예를 들어 영상 복호화 장치(100)는 최대 부호화 단위에 대하여 분할 형태 모드 정보를 쿼드 분할(quad split)로 결정할 수 있다. 또한, 영상 복호화 장치(100)는 최소 부호화 단위에 대하여 분할 형태 모드 정보를 "분할하지 않음"으로 결정할 수 있다. 구체적으로 영상 복호화 장치(100)는 최대 부호화 단위의 크기를 256x256으로 결정할 수 있다. 영상 복호화 장치(100)는 미리 약속된 분할 형태 모드 정보를 쿼드 분할로 결정할 수 있다. 쿼드 분할은 부호화 단위의 너비 및 높이를 모두 이등분하는 분할 형태 모드이다. 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 256x256 크기의 최대 부호화 단위로부터 128x128 크기의 부호화 단위를 획득할 수 있다. 또한 영상 복호화 장치(100)는 최소 부호화 단위의 크기를 4x4로 결정할 수 있다. 영상 복호화 장치(100)는 최소 부호화 단위에 대하여 "분할하지 않음"을 나타내는 분할 형태 모드 정보를 획득할 수 있다.
일 실시예에 따라, 영상 복호화 장치(100)는 현재 부호화 단위가 정사각형 형태임을 나타내는 블록 형태 정보를 이용할 수 있다. 예를 들어 영상 복호화 장치(100)는 분할 형태 모드 정보에 따라 정사각형의 부호화 단위를 분할하지 않을지, 수직으로 분할할지, 수평으로 분할할지, 4개의 부호화 단위로 분할할지 등을 결정할 수 있다. 도 3을 참조하면, 현재 부호화 단위(300)의 블록 형태 정보가 정사각형의 형태를 나타내는 경우, 복호화부(120)는 분할되지 않음을 나타내는 분할 형태 모드 정보에 따라 현재 부호화 단위(300)와 동일한 크기를 가지는 부호화 단위(310a)를 분할하지 않거나, 소정의 분할방법을 나타내는 분할 형태 모드 정보에 기초하여 분할된 부호화 단위(310b, 310c, 310d, 310e, 310f 등)를 결정할 수 있다.
도 3을 참조하면 영상 복호화 장치(100)는 일 실시예에 따라 수직방향으로 분할됨을 나타내는 분할 형태 모드 정보에 기초하여 현재 부호화 단위(300)를 수직방향으로 분할한 두 개의 부호화 단위(310b)를 결정할 수 있다. 영상 복호화 장치(100)는 수평방향으로 분할됨을 나타내는 분할 형태 모드 정보에 기초하여 현재 부호화 단위(300)를 수평방향으로 분할한 두 개의 부호화 단위(310c)를 결정할 수 있다. 영상 복호화 장치(100)는 수직방향 및 수평방향으로 분할됨을 나타내는 분할 형태 모드 정보에 기초하여 현재 부호화 단위(300)를 수직방향 및 수평방향으로 분할한 네 개의 부호화 단위(310d)를 결정할 수 있다. 영상 복호화 장치(100)는 일 실시예에 따라 수직방향으로 터너리(ternary) 분할됨을 나타내는 분할 형태 모드 정보에 기초하여 현재 부호화 단위(300)를 수직방향으로 분할한 세 개의 부호화 단위(310e)를 결정할 수 있다. 영상 복호화 장치(100)는 수평방향으로 터너리 분할됨을 나타내는 분할 형태 모드 정보에 기초하여 현재 부호화 단위(300)를 수평방향으로 분할한 세 개의 부호화 단위(310f)를 결정할 수 있다. 다만 정사각형의 부호화 단위가 분할될 수 있는 분할 형태는 상술한 형태로 한정하여 해석되어서는 안되고, 분할 형태 모드 정보가 나타낼 수 있는 다양한 형태가 포함될 수 있다. 정사각형의 부호화 단위가 분할되는 소정의 분할 형태들은 이하에서 다양한 실시예를 통해 구체적으로 설명하도록 한다.
도 4는 일 실시예에 따라 영상 복호화 장치가 비-정사각형의 형태인 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위가 비-정사각형 형태임을 나타내는 블록 형태 정보를 이용할 수 있다. 영상 복호화 장치(100)는 분할 형태 모드 정보에 따라 비-정사각형의 현재 부호화 단위를 분할하지 않을지 소정의 방법으로 분할할지 여부를 결정할 수 있다. 도 4를 참조하면, 현재 부호화 단위(400 또는 450)의 블록 형태 정보가 비-정사각형의 형태를 나타내는 경우, 영상 복호화 장치(100)는 분할되지 않음을 나타내는 분할 형태 모드 정보에 따라 현재 부호화 단위(400 또는 450)와 동일한 크기를 가지는 부호화 단위(410 또는 460)를 결정하거나, 소정의 분할방법을 나타내는 분할 형태 모드 정보에 따라 기초하여 분할된 부호화 단위(420a, 420b, 430a, 430b, 430c, 470a, 470b, 480a, 480b, 480c)를 결정할 수 있다. 비-정사각형의 부호화 단위가 분할되는 소정의 분할 방법은 이하에서 다양한 실시예를 통해 구체적으로 설명하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 분할 형태 모드 정보를 이용하여 부호화 단위가 분할되는 형태를 결정할 수 있고, 이 경우 분할 형태 모드 정보는 부호화 단위가 분할되어 생성되는 적어도 하나의 부호화 단위의 개수를 나타낼 수 있다. 도 4를 참조하면 분할 형태 모드 정보가 두 개의 부호화 단위로 현재 부호화 단위(400 또는 450)가 분할되는 것을 나타내는 경우, 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 현재 부호화 단위(400 또는 450)를 분할하여 현재 부호화 단위에 포함되는 두 개의 부호화 단위(420a, 420b, 또는 470a, 470b)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)가 분할 형태 모드 정보에 기초하여 비-정사각형의 형태의 현재 부호화 단위(400 또는 450)를 분할하는 경우, 영상 복호화 장치(100)는 비-정사각형의 현재 부호화 단위(400 또는 450)의 긴 변의 위치를 고려하여 현재 부호화 단위를 분할할 수 있다. 예를 들면, 영상 복호화 장치(100)는 현재 부호화 단위(400 또는 450)의 형태를 고려하여 현재 부호화 단위(400 또는 450)의 긴 변을 분할하는 방향으로 현재 부호화 단위(400 또는 450)를 분할하여 복수개의 부호화 단위를 결정할 수 있다.
일 실시예에 따라, 분할 형태 모드 정보가 홀수개의 블록으로 부호화 단위를 분할(터너리 분할)하는 것을 나타내는 경우, 영상 복호화 장치(100)는 현재 부호화 단위(400 또는 450)에 포함되는 홀수개의 부호화 단위를 결정할 수 있다. 예를 들면, 분할 형태 모드 정보가 3개의 부호화 단위로 현재 부호화 단위(400 또는 450)를 분할하는 것을 나타내는 경우, 영상 복호화 장치(100)는 현재 부호화 단위(400 또는 450)를 3개의 부호화 단위(430a, 430b, 430c, 480a, 480b, 480c)로 분할할 수 있다.
일 실시예에 따라, 현재 부호화 단위(400 또는 450)의 너비 및 높이의 비율이 4:1 또는 1:4 일 수 있다. 너비 및 높이의 비율이 4:1 인 경우, 너비의 길이가 높이의 길이보다 길므로 블록 형태 정보는 수평 방향일 수 있다. 너비 및 높이의 비율이 1:4 인 경우, 너비의 길이가 높이의 길이보다 짧으므로 블록 형태 정보는 수직 방향일 수 있다. 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 현재 부호화 단위를 홀수개의 블록으로 분할할 것을 결정할 수 있다. 또한 영상 복호화 장치(100)는 현재 부호화 단위(400 또는 450)의 블록 형태 정보에 기초하여 현재 부호화 단위(400 또는 450)의 분할 방향을 결정할 수 있다. 예를 들어 현재 부호화 단위(400)가 수직 방향인 경우, 영상 복호화 장치(100)는 현재 부호화 단위(400)를 수평 방향으로 분할 하여 부호화 단위(430a, 430b, 430c)를 결정할 수 있다. 또한 현재 부호화 단위(450)가 수평 방향인 경우, 영상 복호화 장치(100)는 현재 부호화 단위(450)를 수직 방향으로 분할 하여 부호화 단위(480a, 480b, 480c)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위(400 또는 450)에 포함되는 홀수개의 부호화 단위를 결정할 수 있으며, 결정된 부호화 단위들의 크기 모두가 동일하지는 않을 수 있다. 예를 들면, 결정된 홀수개의 부호화 단위(430a, 430b, 430c, 480a, 480b, 480c) 중 소정의 부호화 단위(430b 또는 480b)의 크기는 다른 부호화 단위(430a, 430c, 480a, 480c)들과는 다른 크기를 가질 수도 있다. 즉, 현재 부호화 단위(400 또는 450)가 분할되어 결정될 수 있는 부호화 단위는 복수의 종류의 크기를 가질 수 있고, 경우에 따라서는 홀수개의 부호화 단위(430a, 430b, 430c, 480a, 480b, 480c)가 각각 서로 다른 크기를 가질 수도 있다.
일 실시예에 따라 분할 형태 모드 정보가 홀수개의 블록으로 부호화 단위가 분할되는 것을 나타내는 경우, 영상 복호화 장치(100)는 현재 부호화 단위(400 또는 450)에 포함되는 홀수개의 부호화 단위를 결정할 수 있고, 나아가 영상 복호화 장치(100)는 분할하여 생성되는 홀수개의 부호화 단위들 중 적어도 하나의 부호화 단위에 대하여 소정의 제한을 둘 수 있다. 도 4을 참조하면 영상 복호화 장치(100)는 현재 부호화 단위(400 또는 450)가 분할되어 생성된 3개의 부호화 단위(430a, 430b, 430c, 480a, 480b, 480c)들 중 중앙에 위치하는 부호화 단위(430b, 480b)에 대한 복호화 과정을 다른 부호화 단위(430a, 430c, 480a, 480c)와 다르게 할 수 있다. 예를 들면, 영상 복호화 장치(100)는 중앙에 위치하는 부호화 단위(430b, 480b)에 대하여는 다른 부호화 단위(430a, 430c, 480a, 480c)와 달리 더 이상 분할되지 않도록 제한하거나, 소정의 횟수만큼만 분할되도록 제한할 수 있다.
도 5는 일 실시예에 따라 영상 복호화 장치가 블록 형태 정보 및 분할 형태 모드 정보 중 적어도 하나에 기초하여 부호화 단위를 분할하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 모드 정보 중 적어도 하나에 기초하여 정사각형 형태의 제1 부호화 단위(500)를 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다. 일 실시예에 따라 분할 형태 모드 정보가 수평 방향으로 제1 부호화 단위(500)를 분할하는 것을 나타내는 경우, 영상 복호화 장치(100)는 제1 부호화 단위(500)를 수평 방향으로 분할하여 제2 부호화 단위(510)를 결정할 수 있다. 일 실시예에 따라 이용되는 제1 부호화 단위, 제2 부호화 단위, 제3 부호화 단위는 부호화 단위 간의 분할 전후 관계를 이해하기 위해 이용된 용어이다. 예를 들면, 제1 부호화 단위를 분할하면 제2 부호화 단위가 결정될 수 있고, 제2 부호화 단위가 분할되면 제3 부호화 단위가 결정될 수 있다. 이하에서는 이용되는 제1 부호화 단위, 제2 부호화 단위 및 제3 부호화 단위의 관계는 상술한 특징에 따르는 것으로 이해될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 결정된 제2 부호화 단위(510)를 분할 형태 모드 정보에 기초하여 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다. 도 5를 참조하면 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 제1 부호화 단위(500)를 분할하여 결정된 비-정사각형의 형태의 제2 부호화 단위(510)를 적어도 하나의 제3 부호화 단위(520a, 520b, 520c, 520d 등)로 분할하거나 제2 부호화 단위(510)를 분할하지 않을 수 있다. 영상 복호화 장치(100)는 분할 형태 모드 정보를 획득할 수 있고 영상 복호화 장치(100)는 획득한 분할 형태 모드 정보에 기초하여 제1 부호화 단위(500)를 분할하여 다양한 형태의 복수개의 제2 부호화 단위(예를 들면, 510)를 분할할 수 있으며, 제2 부호화 단위(510)는 분할 형태 모드 정보에 기초하여 제1 부호화 단위(500)가 분할된 방식에 따라 분할될 수 있다. 일 실시예에 따라, 제1 부호화 단위(500)가 제1 부호화 단위(500)에 대한 분할 형태 모드 정보에 기초하여 제2 부호화 단위(510)로 분할된 경우, 제2 부호화 단위(510) 역시 제2 부호화 단위(510)에 대한 분할 형태 모드 정보에 기초하여 제3 부호화 단위(예를 들면, 520a, 520b, 520c, 520d 등)으로 분할될 수 있다. 즉, 부호화 단위는 부호화 단위 각각에 관련된 분할 형태 모드 정보에 기초하여 재귀적으로 분할될 수 있다. 따라서 비-정사각형 형태의 부호화 단위에서 정사각형의 부호화 단위가 결정될 수 있고, 이러한 정사각형 형태의 부호화 단위가 재귀적으로 분할되어 비-정사각형 형태의 부호화 단위가 결정될 수도 있다.
도 5를 참조하면, 비-정사각형 형태의 제2 부호화 단위(510)가 분할되어 결정되는 홀수개의 제3 부호화 단위(520b, 520c, 520d) 중 소정의 부호화 단위(예를 들면, 가운데에 위치하는 부호화 단위 또는 정사각형 형태의 부호화 단위)는 재귀적으로 분할될 수 있다. 일 실시예에 따라 홀수개의 제3 부호화 단위(520b, 520c, 520d) 중 하나인 정사각형 형태의 제3 부호화 단위(520b)는 수평 방향으로 분할되어 복수개의 제4 부호화 단위로 분할될 수 있다. 복수개의 제4 부호화 단위(530a, 530b, 530c, 530d) 중 하나인 비-정사각형 형태의 제4 부호화 단위(530b 또는 530d)는 다시 복수개의 부호화 단위들로 분할될 수 있다. 예를 들면, 비-정사각형 형태의 제4 부호화 단위(530b 또는 530d)는 홀수개의 부호화 단위로 다시 분할될 수도 있다. 부호화 단위의 재귀적 분할에 이용될 수 있는 방법에 대하여는 다양한 실시예를 통해 후술하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 제3 부호화 단위(520a, 520b, 520c, 520d 등) 각각을 부호화 단위들로 분할할 수 있다. 또한 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 제2 부호화 단위(510)를 분할하지 않는 것으로 결정할 수 있다. 영상 복호화 장치(100)는 일 실시예에 따라 비-정사각형 형태의 제2 부호화 단위(510)를 홀수개의 제3 부호화 단위(520b, 520c, 520d)로 분할할 수 있다. 영상 복호화 장치(100)는 홀수개의 제3 부호화 단위(520b, 520c, 520d) 중 소정의 제3 부호화 단위에 대하여 소정의 제한을 둘 수 있다. 예를 들면 영상 복호화 장치(100)는 홀수개의 제3 부호화 단위(520b, 520c, 520d) 중 가운데에 위치하는 부호화 단위(520c)에 대하여는 더 이상 분할되지 않는 것으로 제한하거나 또는 설정 가능한 횟수로 분할되어야 하는 것으로 제한할 수 있다.
도 5를 참조하면, 영상 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(510)에 포함되는 홀수개의 제3 부호화 단위(520b, 520c, 520d)들 중 가운데에 위치하는 부호화 단위(520c)는 더 이상 분할되지 않거나, 소정의 분할 형태로 분할(예를 들면 4개의 부호화 단위로만 분할하거나 제2 부호화 단위(510)가 분할된 형태에 대응하는 형태로 분할)되는 것으로 제한하거나, 소정의 횟수로만 분할(예를 들면 n회만 분할, n>0)하는 것으로 제한할 수 있다. 다만 가운데에 위치한 부호화 단위(520c)에 대한 상기 제한은 단순한 실시예들에 불과하므로 상술한 실시예들로 제한되어 해석되어서는 안되고, 가운데에 위치한 부호화 단위(520c)가 다른 부호화 단위(520b, 520d)와 다르게 복호화 될 수 있는 다양한 제한들을 포함하는 것으로 해석되어야 한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위를 분할하기 위해 이용되는 분할 형태 모드 정보를 현재 부호화 단위 내의 소정의 위치에서 획득할 수 있다.
도 6은 일 실시예에 따라 영상 복호화 장치가 홀수개의 부호화 단위들 중 소정의 부호화 단위를 결정하기 위한 방법을 도시한다.
도 6을 참조하면, 현재 부호화 단위(600, 650)의 분할 형태 모드 정보는 현재 부호화 단위(600, 650)에 포함되는 복수개의 샘플 중 소정 위치의 샘플(예를 들면, 가운데에 위치하는 샘플(640, 690))에서 획득될 수 있다. 다만 이러한 분할 형태 모드 정보 중 적어도 하나가 획득될 수 있는 현재 부호화 단위(600) 내의 소정 위치가 도 6에서 도시하는 가운데 위치로 한정하여 해석되어서는 안되고, 소정 위치에는 현재 부호화 단위(600)내에 포함될 수 있는 다양한 위치(예를 들면, 최상단, 최하단, 좌측, 우측, 좌측상단, 좌측하단, 우측상단 또는 우측하단 등)가 포함될 수 있는 것으로 해석되어야 한다. 영상 복호화 장치(100)는 소정 위치로부터 획득되는 분할 형태 모드 정보를 획득하여 현재 부호화 단위를 다양한 형태 및 크기의 부호화 단위들로 분할하거나 분할하지 않는 것으로 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위가 소정의 개수의 부호화 단위들로 분할된 경우 그 중 하나의 부호화 단위를 선택할 수 있다. 복수개의 부호화 단위들 중 하나를 선택하기 위한 방법은 다양할 수 있으며, 이러한 방법들에 대한 설명은 이하의 다양한 실시예를 통해 후술하도록 한다.
일 실시예에 따라 영상 복호화 장치(100) 는 현재 부호화 단위를 복수개의 부호화 단위들로 분할하고, 소정 위치의 부호화 단위를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 홀수개의 부호화 단위들 중 가운데에 위치하는 부호화 단위를 결정하기 위하여 홀수개의 부호화 단위들 각각의 위치를 나타내는 정보를 이용할 수 있다. 도 6을 참조하면, 영상 복호화 장치(100)는 현재 부호화 단위(600) 또는 현재 부호화 단위(650)를 분할하여 홀수개의 부호화 단위들(620a, 620b, 620c) 또는 홀수개의 부호화 단위들(660a, 660b, 660c)을 결정할 수 있다. 영상 복호화 장치(100)는 홀수개의 부호화 단위들(620a, 620b, 620c) 또는 홀수개의 부호화 단위들(660a, 660b, 660c)의 위치에 대한 정보를 이용하여 가운데 부호화 단위(620b)또는 가운데 부호화 단위(660b)를 결정할 수 있다. 예를 들면 영상 복호화 장치(100)는 부호화 단위들(620a, 620b, 620c)에 포함되는 소정의 샘플의 위치를 나타내는 정보에 기초하여 부호화 단위들(620a, 620b, 620c)의 위치를 결정함으로써 가운데에 위치하는 부호화 단위(620b)를 결정할 수 있다. 구체적으로, 영상 복호화 장치(100)는 부호화 단위들(620a, 620b, 620c)의 좌측 상단의 샘플(630a, 630b, 630c)의 위치를 나타내는 정보에 기초하여 부호화 단위들(620a, 620b, 620c)의 위치를 결정함으로써 가운데에 위치하는 부호화 단위(620b)를 결정할 수 있다.
일 실시예에 따라 부호화 단위들(620a, 620b, 620c)에 각각 포함되는 좌측 상단의 샘플(630a, 630b, 630c)의 위치를 나타내는 정보는 부호화 단위들(620a, 620b, 620c)의 픽쳐 내에서의 위치 또는 좌표에 대한 정보를 포함할 수 있다. 일 실시예에 따라 부호화 단위들(620a, 620b, 620c)에 각각 포함되는 좌측 상단의 샘플(630a, 630b, 630c)의 위치를 나타내는 정보는 현재 부호화 단위(600)에 포함되는 부호화 단위들(620a, 620b, 620c)의 너비 또는 높이를 나타내는 정보를 포함할 수 있고, 이러한 너비 또는 높이는 부호화 단위들(620a, 620b, 620c)의 픽쳐 내에서의 좌표 간의 차이를 나타내는 정보에 해당할 수 있다. 즉, 영상 복호화 장치(100)는 부호화 단위들(620a, 620b, 620c)의 픽쳐 내에서의 위치 또는 좌표에 대한 정보를 직접 이용하거나 좌표간의 차이값에 대응하는 부호화 단위의 너비 또는 높이에 대한 정보를 이용함으로써 가운데에 위치하는 부호화 단위(620b)를 결정할 수 있다.
일 실시예에 따라, 상단 부호화 단위(620a)의 좌측 상단의 샘플(630a)의 위치를 나타내는 정보는 (xa, ya) 좌표를 나타낼 수 있고, 가운데 부호화 단위(620b)의 좌측 상단의 샘플(530b)의 위치를 나타내는 정보는 (xb, yb) 좌표를 나타낼 수 있고, 하단 부호화 단위(620c)의 좌측 상단의 샘플(630c)의 위치를 나타내는 정보는 (xc, yc) 좌표를 나타낼 수 있다. 영상 복호화 장치(100)는 부호화 단위들(620a, 620b, 620c)에 각각 포함되는 좌측 상단의 샘플(630a, 630b, 630c)의 좌표를 이용하여 가운데 부호화 단위(620b)를 결정할 수 있다. 예를 들면, 좌측 상단의 샘플(630a, 630b, 630c)의 좌표를 오름차순 또는 내림차순으로 정렬하였을 때, 가운데에 위치하는 샘플(630b)의 좌표인 (xb, yb)를 포함하는 부호화 단위(620b)를 현재 부호화 단위(600)가 분할되어 결정된 부호화 단위들(620a, 620b, 620c) 중 가운데에 위치하는 부호화 단위로 결정할 수 있다. 다만 좌측 상단의 샘플(630a, 630b, 630c)의 위치를 나타내는 좌표는 픽쳐 내에서의 절대적인 위치를 나타내는 좌표를 나타낼 수 있고, 나아가 상단 부호화 단위(620a)의 좌측 상단의 샘플(630a)의 위치를 기준으로, 가운데 부호화 단위(620b)의 좌측 상단의 샘플(630b)의 상대적 위치를 나타내는 정보인 (dxb, dyb)좌표, 하단 부호화 단위(620c)의 좌측 상단의 샘플(630c)의 상대적 위치를 나타내는 정보인 (dxc, dyc)좌표를 이용할 수도 있다. 또한 부호화 단위에 포함되는 샘플의 위치를 나타내는 정보로서 해당 샘플의 좌표를 이용함으로써 소정 위치의 부호화 단위를 결정하는 방법이 상술한 방법으로 한정하여 해석되어서는 안되고, 샘플의 좌표를 이용할 수 있는 다양한 산술적 방법으로 해석되어야 한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위(600)를 복수개의 부호화 단위들(620a, 620b, 620c)로 분할할 수 있고, 부호화 단위들(620a, 620b, 620c) 중 소정의 기준에 따라 부호화 단위를 선택할 수 있다. 예를 들면, 영상 복호화 장치(100)는 부호화 단위들(620a, 620b, 620c) 중 크기가 다른 부호화 단위(620b)를 선택할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 상단 부호화 단위(620a)의 좌측 상단의 샘플(630a)의 위치를 나타내는 정보인 (xa, ya) 좌표, 가운데 부호화 단위(620b)의 좌측 상단의 샘플(630b)의 위치를 나타내는 정보인 (xb, yb) 좌표, 하단 부호화 단위(620c)의 좌측 상단의 샘플(630c)의 위치를 나타내는 정보인 (xc, yc) 좌표를 이용하여 부호화 단위들(620a, 620b, 620c) 각각의 너비 또는 높이를 결정할 수 있다. 영상 복호화 장치(100)는 부호화 단위들(620a, 620b, 620c)의 위치를 나타내는 좌표인 (xa, ya), (xb, yb), (xc, yc)를 이용하여 부호화 단위들(620a, 620b, 620c) 각각의 크기를 결정할 수 있다. 일 실시예에 따라, 영상 복호화 장치(100)는 상단 부호화 단위(620a)의 너비를 현재 부호화 단위(600)의 너비로 결정할 수 있다. 영상 복호화 장치(100)는 상단 부호화 단위(620a)의 높이를 yb-ya로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 가운데 부호화 단위(620b)의 너비를 현재 부호화 단위(600)의 너비로 결정할 수 있다. 영상 복호화 장치(100)는 가운데 부호화 단위(620b)의 높이를 yc-yb로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 하단 부호화 단위의 너비 또는 높이는 현재 부호화 단위의 너비 또는 높이와 상단 부호화 단위(620a) 및 가운데 부호화 단위(620b)의 너비 및 높이를 이용하여 결정할 수 있다. 영상 복호화 장치(100)는 결정된 부호화 단위들(620a, 620b, 620c)의 너비 및 높이에 기초하여 다른 부호화 단위와 다른 크기를 갖는 부호화 단위를 결정할 수 있다. 도 6을 참조하면, 영상 복호화 장치(100)는 상단 부호화 단위(620a) 및 하단 부호화 단위(620c)의 크기와 다른 크기를 가지는 가운데 부호화 단위(620b)를 소정 위치의 부호화 단위로 결정할 수 있다. 다만 상술한 영상 복호화 장치(100)가 다른 부호화 단위와 다른 크기를 갖는 부호화 단위를 결정하는 과정은 샘플 좌표에 기초하여 결정되는 부호화 단위의 크기를 이용하여 소정 위치의 부호화 단위를 결정하는 일 실시예에 불과하므로, 소정의 샘플 좌표에 따라 결정되는 부호화 단위의 크기를 비교하여 소정 위치의 부호화 단위를 결정하는 다양한 과정이 이용될 수 있다.
영상 복호화 장치(100)는 좌측 부호화 단위(660a)의 좌측 상단의 샘플(670a)의 위치를 나타내는 정보인 (xd, yd) 좌표, 가운데 부호화 단위(660b)의 좌측 상단의 샘플(670b)의 위치를 나타내는 정보인 (xe, ye) 좌표, 우측 부호화 단위(660c)의 좌측 상단의 샘플(670c)의 위치를 나타내는 정보인 (xf, yf) 좌표를 이용하여 부호화 단위들(660a, 660b, 660c) 각각의 너비 또는 높이를 결정할 수 있다. 영상 복호화 장치(100)는 부호화 단위들(660a, 660b, 660c)의 위치를 나타내는 좌표인 (xd, yd), (xe, ye), (xf, yf)를 이용하여 부호화 단위들(660a, 660b, 660c) 각각의 크기를 결정할 수 있다.
일 실시예에 따라, 영상 복호화 장치(100)는 좌측 부호화 단위(660a)의 너비를 xe-xd로 결정할 수 있다. 영상 복호화 장치(100)는 좌측 부호화 단위(660a)의 높이를 현재 부호화 단위(650)의 높이로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 가운데 부호화 단위(660b)의 너비를 xf-xe로 결정할 수 있다. 영상 복호화 장치(100)는 가운데 부호화 단위(660b)의 높이를 현재 부호화 단위(600)의 높이로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 우측 부호화 단위(660c)의 너비 또는 높이는 현재 부호화 단위(650)의 너비 또는 높이와 좌측 부호화 단위(660a) 및 가운데 부호화 단위(660b)의 너비 및 높이를 이용하여 결정할 수 있다. 영상 복호화 장치(100)는 결정된 부호화 단위들(660a, 660b, 660c)의 너비 및 높이에 기초하여 다른 부호화 단위와 다른 크기를 갖는 부호화 단위를 결정할 수 있다. 도 6을 참조하면, 영상 복호화 장치(100)는 좌측 부호화 단위(660a) 및 우측 부호화 단위(660c)의 크기와 다른 크기를 가지는 가운데 부호화 단위(660b)를 소정 위치의 부호화 단위로 결정할 수 있다. 다만 상술한 영상 복호화 장치(100)가 다른 부호화 단위와 다른 크기를 갖는 부호화 단위를 결정하는 과정은 샘플 좌표에 기초하여 결정되는 부호화 단위의 크기를 이용하여 소정 위치의 부호화 단위를 결정하는 일 실시예에 불과하므로, 소정의 샘플 좌표에 따라 결정되는 부호화 단위의 크기를 비교하여 소정 위치의 부호화 단위를 결정하는 다양한 과정이 이용될 수 있다.
다만 부호화 단위의 위치를 결정하기 위하여 고려하는 샘플의 위치는 상술한 좌측 상단으로 한정하여 해석되어서는 안되고 부호화 단위에 포함되는 임의의 샘플의 위치에 대한 정보가 이용될 수 있는 것으로 해석될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위의 형태를 고려하여, 현재 부호화 단위가 분할되어 결정되는 홀수개의 부호화 단위들 중 소정 위치의 부호화 단위를 선택할 수 있다. 예를 들면, 현재 부호화 단위가 너비가 높이보다 긴 비-정사각형 형태라면 영상 복호화 장치(100)는 수평 방향에 따라 소정 위치의 부호화 단위를 결정할 수 있다. 즉, 영상 복호화 장치(100)는 수평 방향으로 위치를 달리 하는 부호화 단위들 중 하나를 결정하여 해당 부호화 단위에 대한 제한을 둘 수 있다. 현재 부호화 단위가 높이가 너비보다 긴 비-정사각형 형태라면 영상 복호화 장치(100)는 수직 방향에 따라 소정 위치의 부호화 단위를 결정할 수 있다. 즉, 영상 복호화 장치(100)는 수직 방향으로 위치를 달리 하는 부호화 단위들 중 하나를 결정하여 해당 부호화 단위에 대한 제한을 둘 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 짝수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여 짝수개의 부호화 단위들 각각의 위치를 나타내는 정보를 이용할 수 있다. 영상 복호화 장치(100)는 현재 부호화 단위를 분할(바이너리 분할)하여 짝수개의 부호화 단위들을 결정할 수 있고 짝수개의 부호화 단위들의 위치에 대한 정보를 이용하여 소정 위치의 부호화 단위를 결정할 수 있다. 이에 대한 구체적인 과정은 도 6에서 상술한 홀수개의 부호화 단위들 중 소정 위치(예를 들면, 가운데 위치)의 부호화 단위를 결정하는 과정에 대응하는 과정일 수 있으므로 생략하도록 한다.
일 실시예에 따라, 비-정사각형 형태의 현재 부호화 단위를 복수개의 부호화 단위로 분할한 경우, 복수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여 분할 과정에서 소정 위치의 부호화 단위에 대한 소정의 정보를 이용할 수 있다. 예를 들면 영상 복호화 장치(100)는 현재 부호화 단위가 복수개로 분할된 부호화 단위들 중 가운데에 위치하는 부호화 단위를 결정하기 위하여 분할 과정에서 가운데 부호화 단위에 포함된 샘플에 저장된 블록 형태 정보 및 분할 형태 모드 정보 중 적어도 하나를 이용할 수 있다.
도 6을 참조하면 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 현재 부호화 단위(600)를 복수개의 부호화 단위들(620a, 620b, 620c)로 분할할 수 있으며, 복수개의 부호화 단위들(620a, 620b, 620c) 중 가운데에 위치하는 부호화 단위(620b)를 결정할 수 있다. 나아가 영상 복호화 장치(100)는 분할 형태 모드 정보가 획득되는 위치를 고려하여, 가운데에 위치하는 부호화 단위(620b)를 결정할 수 있다. 즉, 현재 부호화 단위(600)의 분할 형태 모드 정보는 현재 부호화 단위(600)의 가운데에 위치하는 샘플(640)에서 획득될 수 있으며, 상기 분할 형태 모드 정보에 기초하여 현재 부호화 단위(600)가 복수개의 부호화 단위들(620a, 620b, 620c)로 분할된 경우 상기 샘플(640)을 포함하는 부호화 단위(620b)를 가운데에 위치하는 부호화 단위로 결정할 수 있다. 다만 가운데에 위치하는 부호화 단위로 결정하기 위해 이용되는 정보가 분할 형태 모드 정보로 한정하여 해석되어서는 안되고, 다양한 종류의 정보가 가운데에 위치하는 부호화 단위를 결정하는 과정에서 이용될 수 있다.
일 실시예에 따라 소정 위치의 부호화 단위를 식별하기 위한 소정의 정보는, 결정하려는 부호화 단위에 포함되는 소정의 샘플에서 획득될 수 있다. 도 6을 참조하면, 영상 복호화 장치(100)는 현재 부호화 단위(600)가 분할되어 결정된 복수개의 부호화 단위들(620a, 620b, 620c) 중 소정 위치의 부호화 단위(예를 들면, 복수개로 분할된 부호화 단위 중 가운데에 위치하는 부호화 단위)를 결정하기 위하여 현재 부호화 단위(600) 내의 소정 위치의 샘플(예를 들면, 현재 부호화 단위(600)의 가운데에 위치하는 샘플)에서 획득되는 분할 형태 모드 정보를 이용할 수 있다. 즉, 영상 복호화 장치(100)는 현재 부호화 단위(600)의 블록 형태를 고려하여 상기 소정 위치의 샘플을 결정할 수 있고, 영상 복호화 장치(100)는 현재 부호화 단위(600)가 분할되어 결정되는 복수개의 부호화 단위들(620a, 620b, 620c) 중, 소정의 정보(예를 들면, 분할 형태 모드 정보)가 획득될 수 있는 샘플이 포함된 부호화 단위(620b)를 결정하여 소정의 제한을 둘 수 있다. 도 6을 참조하면 일 실시예에 따라 영상 복호화 장치(100)는 소정의 정보가 획득될 수 있는 샘플로서 현재 부호화 단위(600)의 가운데에 위치하는 샘플(640)을 결정할 수 있고, 영상 복호화 장치(100)는 이러한 샘플(640)이 포함되는 부호화 단위(620b)를 복호화 과정에서의 소정의 제한을 둘 수 있다. 다만 소정의 정보가 획득될 수 있는 샘플의 위치는 상술한 위치로 한정하여 해석되어서는 안되고, 제한을 두기 위해 결정하려는 부호화 단위(620b)에 포함되는 임의의 위치의 샘플들로 해석될 수 있다.
일 실시예에 따라 소정의 정보가 획득될 수 있는 샘플의 위치는 현재 부호화 단위(600)의 형태에 따라 결정될 수 있다. 일 실시예에 따라 블록 형태 정보는 현재 부호화 단위의 형태가 정사각형인지 또는 비-정사각형인지 여부를 결정할 수 있고, 형태에 따라 소정의 정보가 획득될 수 있는 샘플의 위치를 결정할 수 있다. 예를 들면, 영상 복호화 장치(100)는 현재 부호화 단위의 너비에 대한 정보 및 높이에 대한 정보 중 적어도 하나를 이용하여 현재 부호화 단위의 너비 및 높이 중 적어도 하나를 반으로 분할하는 경계 상에 위치하는 샘플을 소정의 정보가 획득될 수 있는 샘플로 결정할 수 있다. 또다른 예를 들면, 영상 복호화 장치(100)는 현재 부호화 단위에 관련된 블록 형태 정보가 비-정사각형 형태임을 나타내는 경우, 현재 부호화 단위의 긴 변을 반으로 분할하는 경계를 포함하는 샘플 중 하나를 소정의 정보가 획득될 수 있는 샘플로 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위를 복수개의 부호화 단위로 분할한 경우, 복수개의 부호화 단위들 중 소정 위치의 부호화 단위를 결정하기 위하여, 분할 형태 모드 정보를 이용할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 분할 형태 모드 정보를 부호화 단위에 포함된 소정 위치의 샘플에서 획득할 수 있고, 영상 복호화 장치(100)는 현재 부호화 단위가 분할되어 생성된 복수개의 부호화 단위들을 복수개의 부호화 단위 각각에 포함된 소정 위치의 샘플로부터 획득되는 분할 형태 모드 정보를 이용하여 분할할 수 있다. 즉, 부호화 단위는 부호화 단위 각각에 포함된 소정 위치의 샘플에서 획득되는 분할 형태 모드 정보를 이용하여 재귀적으로 분할될 수 있다. 부호화 단위의 재귀적 분할 과정에 대하여는 도 5를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정할 수 있고, 이러한 적어도 하나의 부호화 단위가 복호화되는 순서를 소정의 블록(예를 들면, 현재 부호화 단위)에 따라 결정할 수 있다.
도 7는 일 실시예에 따라 영상 복호화 장치가 현재 부호화 단위를 분할하여 복수개의 부호화 단위들을 결정하는 경우, 복수개의 부호화 단위들이 처리되는 순서를 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 분할 형태 모드 정보에 따라 제1 부호화 단위(700)를 수직 방향으로 분할하여 제2 부호화 단위(710a, 710b)를 결정하거나 제1 부호화 단위(700)를 수평 방향으로 분할하여 제2 부호화 단위(730a, 730b)를 결정하거나 제1 부호화 단위(700)를 수직 방향 및 수평 방향으로 분할하여 제2 부호화 단위(750a, 750b, 750c, 750d)를 결정할 수 있다.
도 7를 참조하면, 영상 복호화 장치(100)는 제1 부호화 단위(700)를 수직 방향으로 분할하여 결정된 제2 부호화 단위(710a, 710b)를 수평 방향(710c)으로 처리되도록 순서를 결정할 수 있다. 영상 복호화 장치(100)는 제1 부호화 단위(700)를 수평 방향으로 분할하여 결정된 제2 부호화 단위(730a, 730b)의 처리 순서를 수직 방향(730c)으로 결정할 수 있다. 영상 복호화 장치(100)는 제1 부호화 단위(700)를 수직 방향 및 수평 방향으로 분할하여 결정된 제2 부호화 단위(750a, 750b, 750c, 750d)를 하나의 행에 위치하는 부호화 단위들이 처리된 후 다음 행에 위치하는 부호화 단위들이 처리되는 소정의 순서(예를 들면, 래스터 스캔 순서((raster scan order) 또는 z 스캔 순서(z scan order)(750e) 등)에 따라 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 부호화 단위들을 재귀적으로 분할할 수 있다. 도 7를 참조하면, 영상 복호화 장치(100)는 제1 부호화 단위(700)를 분할하여 복수개의 부호화 단위들(710a, 710b, 730a, 730b, 750a, 750b, 750c, 750d)을 결정할 수 있고, 결정된 복수개의 부호화 단위들(710a, 710b, 730a, 730b, 750a, 750b, 750c, 750d) 각각을 재귀적으로 분할할 수 있다. 복수개의 부호화 단위들(710a, 710b, 730a, 730b, 750a, 750b, 750c, 750d)을 분할하는 방법은 제1 부호화 단위(700)를 분할하는 방법에 대응하는 방법이 될 수 있다. 이에 따라 복수개의 부호화 단위들(710a, 710b, 730a, 730b, 750a, 750b, 750c, 750d)은 각각 독립적으로 복수개의 부호화 단위들로 분할될 수 있다. 도 7를 참조하면 영상 복호화 장치(100)는 제1 부호화 단위(700)를 수직 방향으로 분할하여 제2 부호화 단위(710a, 710b)를 결정할 수 있고, 나아가 제2 부호화 단위(710a, 710b) 각각을 독립적으로 분할하거나 분할하지 않는 것으로 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 좌측의 제2 부호화 단위(710a)를 수평 방향으로 분할하여 제3 부호화 단위(720a, 720b)로 분할할 수 있고, 우측의 제2 부호화 단위(710b)는 분할하지 않을 수 있다.
일 실시예에 따라 부호화 단위들의 처리 순서는 부호화 단위의 분할 과정에 기초하여 결정될 수 있다. 다시 말해, 분할된 부호화 단위들의 처리 순서는 분할되기 직전의 부호화 단위들의 처리 순서에 기초하여 결정될 수 있다. 영상 복호화 장치(100)는 좌측의 제2 부호화 단위(710a)가 분할되어 결정된 제3 부호화 단위(720a, 720b)가 처리되는 순서를 우측의 제2 부호화 단위(710b)와 독립적으로 결정할 수 있다. 좌측의 제2 부호화 단위(710a)가 수평 방향으로 분할되어 제3 부호화 단위(720a, 720b)가 결정되었으므로 제3 부호화 단위(720a, 720b)는 수직 방향(720c)으로 처리될 수 있다. 또한 좌측의 제2 부호화 단위(710a) 및 우측의 제2 부호화 단위(710b)가 처리되는 순서는 수평 방향(710c)에 해당하므로, 좌측의 제2 부호화 단위(710a)에 포함되는 제3 부호화 단위(720a, 720b)가 수직 방향(720c)으로 처리된 후에 우측 부호화 단위(710b)가 처리될 수 있다. 상술한 내용은 부호화 단위들이 각각 분할 전의 부호화 단위에 따라 처리 순서가 결정되는 과정을 설명하기 위한 것이므로, 상술한 실시예에 한정하여 해석되어서는 안되고, 다양한 형태로 분할되어 결정되는 부호화 단위들이 소정의 순서에 따라 독립적으로 처리될 수 있는 다양한 방법으로 이용되는 것으로 해석되어야 한다.
도 8는 일 실시예에 따라 영상 복호화 장치가 소정의 순서로 부호화 단위가 처리될 수 없는 경우, 현재 부호화 단위가 홀수개의 부호화 단위로 분할되는 것임을 결정하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 획득된 분할 형태 모드 정보에 기초하여 현재 부호화 단위가 홀수개의 부호화 단위들로 분할되는 것을 결정할 수 있다. 도 8를 참조하면 정사각형 형태의 제1 부호화 단위(800)가 비-정사각형 형태의 제2 부호화 단위(810a, 810b)로 분할될 수 있고, 제2 부호화 단위(810a, 810b)는 각각 독립적으로 제3 부호화 단위(820a, 820b, 820c, 820d, 820e)로 분할될 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 제2 부호화 단위 중 좌측 부호화 단위(810a)는 수평 방향으로 분할하여 복수개의 제3 부호화 단위(820a, 820b)를 결정할 수 있고, 우측 부호화 단위(810b)는 홀수개의 제3 부호화 단위(820c, 820d, 820e)로 분할할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 제3 부호화 단위들(820a, 820b, 820c, 820d, 820e)이 소정의 순서로 처리될 수 있는지 여부를 판단하여 홀수개로 분할된 부호화 단위가 존재하는지를 결정할 수 있다. 도 8를 참조하면, 영상 복호화 장치(100)는 제1 부호화 단위(800)를 재귀적으로 분할하여 제3 부호화 단위(820a, 820b, 820c, 820d, 820e)를 결정할 수 있다. 영상 복호화 장치(100)는 블록 형태 정보 및 분할 형태 모드 정보 중 적어도 하나에 기초하여, 제1 부호화 단위(800), 제2 부호화 단위(810a, 810b) 또는 제3 부호화 단위(820a, 820b, 820c, 820d, 820e)가 분할되는 형태 중 홀수개의 부호화 단위로 분할되는지 여부를 결정할 수 있다. 예를 들면, 제2 부호화 단위(810a, 810b) 중 우측에 위치하는 부호화 단위가 홀수개의 제3 부호화 단위(820c, 820d, 820e)로 분할될 수 있다. 제1 부호화 단위(800)에 포함되는 복수개의 부호화 단위들이 처리되는 순서는 소정의 순서(예를 들면, z-스캔 순서(z-scan order)(830))가 될 수 있고, 영상 복호화 장치(100)는 우측 제2 부호화 단위(810b)가 홀수개로 분할되어 결정된 제3 부호화 단위(820c, 820d, 820e)가 상기 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 판단할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 제1 부호화 단위(800)에 포함되는 제3 부호화 단위(820a, 820b, 820c, 820d, 820e)가 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 결정할 수 있으며, 상기 조건은 제3 부호화 단위(820a, 820b, 820c, 820d, 820e)의 경계에 따라 제2 부호화 단위(810a, 810b)의 너비 및 높이 중 적어도 하나를 반으로 분할되는지 여부와 관련된다. 예를 들면 비-정사각형 형태의 좌측 제2 부호화 단위(810a)의 높이를 반으로 분할하여 결정되는 제3 부호화 단위(820a, 820b)는 조건을 만족할 수 있다. 우측 제2 부호화 단위(810b)를 3개의 부호화 단위로 분할하여 결정되는 제3 부호화 단위(820c, 820d, 820e)들의 경계가 우측 제2 부호화 단위(810b)의 너비 또는 높이를 반으로 분할하지 못하므로 제3 부호화 단위(820c, 820d, 820e)는 조건을 만족하지 못하는 것으로 결정될 수 있다. 영상 복호화 장치(100)는 이러한 조건 불만족의 경우 스캔 순서의 단절(disconnection)로 판단하고, 판단 결과에 기초하여 우측 제2 부호화 단위(810b)는 홀수개의 부호화 단위로 분할되는 것으로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 홀수개의 부호화 단위로 분할되는 경우 분할된 부호화 단위들 중 소정 위치의 부호화 단위에 대하여 소정의 제한을 둘 수 있으며, 이러한 제한 내용 또는 소정 위치 등에 대하여는 다양한 실시예를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.
도 9은 일 실시예에 따라 영상 복호화 장치가 제1 부호화 단위를 분할하여 적어도 하나의 부호화 단위를 결정하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 수신부(110)를 통해 획득한 분할 형태 모드 정보에 기초하여 제1 부호화 단위(900)를 분할할 수 있다. 정사각형 형태의 제1 부호화 단위(900)는 4개의 정사각형 형태를 가지는 부호화 단위로 분할되거나 또는 비-정사각형 형태의 복수개의 부호화 단위로 분할할 수 있다. 예를 들면 도 9을 참조하면, 제1 부호화 단위(900)는 정사각형이고 분할 형태 모드 정보가 비-정사각형의 부호화 단위로 분할됨을 나타내는 경우 영상 복호화 장치(100)는 제1 부호화 단위(900)를 복수개의 비-정사각형의 부호화 단위들로 분할할 수 있다. 구체적으로, 분할 형태 모드 정보가 제1 부호화 단위(900)를 수평 방향 또는 수직 방향으로 분할하여 홀수개의 부호화 단위를 결정하는 것을 나타내는 경우, 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(900)를 홀수개의 부호화 단위들로서 수직 방향으로 분할되어 결정된 제2 부호화 단위(910a, 910b, 910c) 또는 수평 방향으로 분할되어 결정된 제2 부호화 단위(920a, 920b, 920c)로 분할할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 제1 부호화 단위(900)에 포함되는 제2 부호화 단위(910a, 910b, 910c, 920a, 920b, 920c)가 소정의 순서에 따라 처리될 수 있는 조건을 만족하는지를 결정할 수 있으며, 상기 조건은 제2 부호화 단위(910a, 910b, 910c, 920a, 920b, 920c)의 경계에 따라 제1 부호화 단위(900)의 너비 및 높이 중 적어도 하나를 반으로 분할되는지 여부와 관련된다. 도 9를 참조하면 정사각형 형태의 제1 부호화 단위(900)를 수직 방향으로 분할하여 결정되는 제2 부호화 단위(910a, 910b, 910c)들의 경계가 제1 부호화 단위(900)의 너비를 반으로 분할하지 못하므로 제1 부호화 단위(900)는 소정의 순서에 따라 처리될 수 있는 조건을 만족하지 못하는 것으로 결정될 수 있다. 또한 정사각형 형태의 제1 부호화 단위(900)를 수평 방향으로 분할하여 결정되는 제2 부호화 단위(920a, 920b, 920c)들의 경계가 제1 부호화 단위(900)의 너비를 반으로 분할하지 못하므로 제1 부호화 단위(900)는 소정의 순서에 따라 처리될 수 있는 조건을 만족하지 못하는 것으로 결정될 수 있다. 영상 복호화 장치(100)는 이러한 조건 불만족의 경우 스캔 순서의 단절(disconnection)로 판단하고, 판단 결과에 기초하여 제1 부호화 단위(900)는 홀수개의 부호화 단위로 분할되는 것으로 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 홀수개의 부호화 단위로 분할되는 경우 분할된 부호화 단위들 중 소정 위치의 부호화 단위에 대하여 소정의 제한을 둘 수 있으며, 이러한 제한 내용 또는 소정 위치 등에 대하여는 다양한 실시예를 통해 상술하였으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라, 영상 복호화 장치(100)는 제1 부호화 단위를 분할하여 다양한 형태의 부호화 단위들을 결정할 수 있다.
도 9을 참조하면, 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(900), 비-정사각형 형태의 제1 부호화 단위(930 또는 950)를 다양한 형태의 부호화 단위들로 분할할 수 있다.
도 10은 일 실시예에 따라 영상 복호화 장치가 제1 부호화 단위가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위가 소정의 조건을 만족하는 경우 제2 부호화 단위가 분할될 수 있는 형태가 제한되는 것을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 수신부(110)를 통해 획득한 분할 형태 모드 정보에 기초하여 정사각형 형태의 제1 부호화 단위(1000)를 비-정사각형 형태의 제2 부호화 단위(1010a, 1010b, 1020a, 1020b)로 분할하는 것으로 결정할 수 있다. 제2 부호화 단위(1010a, 1010b, 1020a, 1020b)는 독립적으로 분할될 수 있다. 이에 따라 영상 복호화 장치(100)는 제2 부호화 단위(1010a, 1010b, 1020a, 1020b) 각각에 관련된 분할 형태 모드 정보에 기초하여 복수개의 부호화 단위로 분할하거나 분할하지 않는 것을 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 수직 방향으로 제1 부호화 단위(1000)가 분할되어 결정된 비-정사각형 형태의 좌측 제2 부호화 단위(1010a)를 수평 방향으로 분할하여 제3 부호화 단위(1012a, 1012b)를 결정할 수 있다. 다만 영상 복호화 장치(100)는 좌측 제2 부호화 단위(1010a)를 수평 방향으로 분할한 경우, 우측 제2 부호화 단위(1010b)는 좌측 제2 부호화 단위(1010a)가 분할된 방향과 동일하게 수평 방향으로 분할될 수 없도록 제한할 수 있다. 만일 우측 제2 부호화 단위(1010b)가 동일한 방향으로 분할되어 제3 부호화 단위(1014a, 1014b)가 결정된 경우, 좌측 제2 부호화 단위(1010a) 및 우측 제2 부호화 단위(1010b)가 수평 방향으로 각각 독립적으로 분할됨으로써 제3 부호화 단위(1012a, 1012b, 1014a, 1014b)가 결정될 수 있다. 하지만 이는 영상 복호화 장치(100)가 분할 형태 모드 정보에 기초하여 제1 부호화 단위(1000)를 4개의 정사각형 형태의 제2 부호화 단위(1030a, 1030b, 1030c, 1030d)로 분할한 것과 동일한 결과이며 이는 영상 복호화 측면에서 비효율적일 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 수평 방향으로 제1 부호화 단위(1000)가 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위(1020a 또는 1020b)를 수직 방향으로 분할하여 제3 부호화 단위(1022a, 1022b, 1024a, 1024b)를 결정할 수 있다. 다만 영상 복호화 장치(100)는 제2 부호화 단위 중 하나(예를 들면 상단 제2 부호화 단위(1020a))를 수직 방향으로 분할한 경우, 상술한 이유에 따라 다른 제2 부호화 단위(예를 들면 하단 부호화 단위(1020b))는 상단 제2 부호화 단위(1020a)가 분할된 방향과 동일하게 수직 방향으로 분할될 수 없도록 제한할 수 있다.
도 11은 일 실시예에 따라 분할 형태 모드 정보가 4개의 정사각형 형태의 부호화 단위로 분할하는 것을 나타낼 수 없는 경우, 영상 복호화 장치가 정사각형 형태의 부호화 단위를 분할하는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 제1 부호화 단위(1100)를 분할하여 제2 부호화 단위(1110a, 1110b, 1120a, 1120b 등)를 결정할 수 있다. 분할 형태 모드 정보에는 부호화 단위가 분할될 수 있는 다양한 형태에 대한 정보가 포함될 수 있으나, 다양한 형태에 대한 정보에는 정사각형 형태의 4개의 부호화 단위로 분할하기 위한 정보가 포함될 수 없는 경우가 있다. 이러한 분할 형태 모드 정보에 따르면, 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1100)를 4개의 정사각형 형태의 제2 부호화 단위(1130a, 1130b, 1130c, 1130d)로 분할하지 못한다. 분할 형태 모드 정보에 기초하여 영상 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(1110a, 1110b, 1120a, 1120b 등)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 비-정사각형 형태의 제2 부호화 단위(1110a, 1110b, 1120a, 1120b 등)를 각각 독립적으로 분할할 수 있다. 재귀적인 방법을 통해 제2 부호화 단위(1110a, 1110b, 1120a, 1120b 등) 각각이 소정의 순서대로 분할될 수 있으며, 이는 분할 형태 모드 정보에 기초하여 제1 부호화 단위(1100)가 분할되는 방법에 대응하는 분할 방법일 수 있다.
예를 들면 영상 복호화 장치(100)는 좌측 제2 부호화 단위(1110a)가 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1112a, 1112b)를 결정할 수 있고, 우측 제2 부호화 단위(1110b)가 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1114a, 1114b)를 결정할 수 있다. 나아가 영상 복호화 장치(100)는 좌측 제2 부호화 단위(1110a) 및 우측 제2 부호화 단위(1110b) 모두 수평 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1116a, 1116b, 1116c, 1116d)를 결정할 수도 있다. 이러한 경우 제1 부호화 단위(1100)가 4개의 정사각형 형태의 제2 부호화 단위(1130a, 1130b, 1130c, 1130d)로 분할된 것과 동일한 형태로 부호화 단위가 결정될 수 있다.
또 다른 예를 들면 영상 복호화 장치(100)는 상단 제2 부호화 단위(1120a)가 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1122a, 1122b)를 결정할 수 있고, 하단 제2 부호화 단위(1120b)가 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1124a, 1124b)를 결정할 수 있다. 나아가 영상 복호화 장치(100)는 상단 제2 부호화 단위(1120a) 및 하단 제2 부호화 단위(1120b) 모두 수직 방향으로 분할되어 정사각형 형태의 제3 부호화 단위(1126a, 1126b, 1126a, 1126b)를 결정할 수도 있다. 이러한 경우 제1 부호화 단위(1100)가 4개의 정사각형 형태의 제2 부호화 단위(1130a, 1130b, 1130c, 1130d)로 분할된 것과 동일한 형태로 부호화 단위가 결정될 수 있다.
도 12는 일 실시예에 따라 복수개의 부호화 단위들 간의 처리 순서가 부호화 단위의 분할 과정에 따라 달라질 수 있음을 도시한 것이다.
일 실시예에 따라 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 제1 부호화 단위(1200)를 분할할 수 있다. 블록 형태가 정사각형이고, 분할 형태 모드 정보가 제1 부호화 단위(1200)가 수평 방향 및 수직 방향 중 적어도 하나의 방향으로 분할됨을 나타내는 경우, 영상 복호화 장치(100)는 제1 부호화 단위(1200)를 분할하여 제2 부호화 단위(예를 들면, 1210a, 1210b, 1220a, 1220b 등)를 결정할 수 있다. 도 12를 참조하면 제1 부호화 단위1200)가 수평 방향 또는 수직 방향만으로 분할되어 결정된 비-정사각형 형태의 제2 부호화 단위(1210a, 1210b, 1220a, 1220b)는 각각에 대한 분할 형태 모드 정보에 기초하여 독립적으로 분할될 수 있다. 예를 들면 영상 복호화 장치(100)는 제1 부호화 단위(1200)가 수직 방향으로 분할되어 생성된 제2 부호화 단위(1210a, 1210b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1216a, 1216b, 1216c, 1216d)를 결정할 수 있고, 제1 부호화 단위(1200)가 수평 방향으로 분할되어 생성된 제2 부호화 단위(1220a, 1220b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1226a, 1226b, 1226c, 1226d)를 결정할 수 있다. 이러한 제2 부호화 단위(1210a, 1210b, 1220a, 1220b)의 분할 과정은 도 11과 관련하여 상술하였으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 소정의 순서에 따라 부호화 단위를 처리할 수 있다. 소정의 순서에 따른 부호화 단위의 처리에 대한 특징은 도 7와 관련하여 상술하였으므로 자세한 설명은 생략하도록 한다. 도 12를 참조하면 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1200)를 분할하여 4개의 정사각형 형태의 제3 부호화 단위(1216a, 1216b, 1216c, 1216d, 1226a, 1226b, 1226c, 1226d)를 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 제1 부호화 단위(1200)가 분할되는 형태에 따라 제3 부호화 단위(1216a, 1216b, 1216c, 1216d, 1226a, 1226b, 1226c, 1226d)의 처리 순서를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 수직 방향으로 분할되어 생성된 제2 부호화 단위(1210a, 1210b)를 수평 방향으로 각각 분할하여 제3 부호화 단위(1216a, 1216b, 1216c, 1216d)를 결정할 수 있고, 영상 복호화 장치(100)는 좌측 제2 부호화 단위(1210a)에 포함되는 제3 부호화 단위(1216a, 1216c)를 수직 방향으로 먼저 처리한 후, 우측 제2 부호화 단위(1210b)에 포함되는 제3 부호화 단위(1216b, 1216d)를 수직 방향으로 처리하는 순서(1217)에 따라 제3 부호화 단위(1216a, 1216b, 1216c, 1216d)를 처리할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 수평 방향으로 분할되어 생성된 제2 부호화 단위(1220a, 1220b)를 수직 방향으로 각각 분할하여 제3 부호화 단위(1226a, 1226b, 1226c, 1226d)를 결정할 수 있고, 영상 복호화 장치(100)는 상단 제2 부호화 단위(1220a)에 포함되는 제3 부호화 단위(1226a, 1226b)를 수평 방향으로 먼저 처리한 후, 하단 제2 부호화 단위(1220b)에 포함되는 제3 부호화 단위(1226c, 1226d)를 수평 방향으로 처리하는 순서(1227)에 따라 제3 부호화 단위(1226a, 1226b, 1226c, 1226d)를 처리할 수 있다.
도 12를 참조하면, 제2 부호화 단위(1210a, 1210b, 1220a, 1220b)가 각각 분할되어 정사각형 형태의 제3 부호화 단위(1216a, 1216b, 1216c, 1216d, 1226a, 1226b, 1226c, 1226d)가 결정될 수 있다. 수직 방향으로 분할되어 결정된 제2 부호화 단위(1210a, 1210b) 및 수평 방향으로 분할되어 결정된 제2 부호화 단위(1220a, 1220b)는 서로 다른 형태로 분할된 것이지만, 이후에 결정되는 제3 부호화 단위(1216a, 1216b, 1216c, 1216d, 1226a, 1226b, 1226c, 1226d)에 따르면 결국 동일한 형태의 부호화 단위들로 제1 부호화 단위(1200)가 분할된 결과가 된다. 이에 따라 영상 복호화 장치(100)는 분할 형태 모드 정보에 기초하여 상이한 과정을 통해 재귀적으로 부호화 단위를 분할함으로써 결과적으로 동일한 형태의 부호화 단위들을 결정하더라도, 동일한 형태로 결정된 복수개의 부호화 단위들을 서로 다른 순서로 처리할 수 있다.
도 13은 일 실시예에 따라 부호화 단위가 재귀적으로 분할되어 복수개의 부호화 단위가 결정되는 경우, 부호화 단위의 형태 및 크기가 변함에 따라 부호화 단위의 심도가 결정되는 과정을 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 부호화 단위의 심도를 소정의 기준에 따라 결정할 수 있다. 예를 들면 소정의 기준은 부호화 단위의 긴 변의 길이가 될 수 있다. 영상 복호화 장치(100)는 현재 부호화 단위의 긴 변의 길이가 분할되기 전의 부호화 단위의 긴 변의 길이보다 2n (n>0) 배로 분할된 경우, 현재 부호화 단위의 심도는 분할되기 전의 부호화 단위의 심도보다 n만큼 심도가 증가된 것으로 결정할 수 있다. 이하에서는 심도가 증가된 부호화 단위를 하위 심도의 부호화 단위로 표현하도록 한다.
도 13을 참조하면, 일 실시예에 따라 정사각형 형태임을 나타내는 블록 형태 정보(예를 들면 블록 형태 정보는 ′0: SQUARE′를 나타낼 수 있음)에 기초하여 영상 복호화 장치(100)는 정사각형 형태인 제1 부호화 단위(1300)를 분할하여 하위 심도의 제2 부호화 단위(1302), 제3 부호화 단위(1304) 등을 결정할 수 있다. 정사각형 형태의 제1 부호화 단위(1300)의 크기를 2Nx2N이라고 한다면, 제1 부호화 단위(1300)의 너비 및 높이를 1/2배로 분할하여 결정된 제2 부호화 단위(1302)는 NxN의 크기를 가질 수 있다. 나아가 제2 부호화 단위(1302)의 너비 및 높이를 1/2크기로 분할하여 결정된 제3 부호화 단위(1304)는 N/2xN/2의 크기를 가질 수 있다. 이 경우 제3 부호화 단위(1304)의 너비 및 높이는 제1 부호화 단위(1300)의 1/4배에 해당한다. 제1 부호화 단위(1300)의 심도가 D인 경우 제1 부호화 단위(1300)의 너비 및 높이의 1/2배인 제2 부호화 단위(1302)의 심도는 D+1일 수 있고, 제1 부호화 단위(1300)의 너비 및 높이의 1/4배인 제3 부호화 단위(1304)의 심도는 D+2일 수 있다.
일 실시예에 따라 비-정사각형 형태를 나타내는 블록 형태 정보(예를 들면 블록 형태 정보는, 높이가 너비보다 긴 비-정사각형임을 나타내는 ′1: NS_VER′ 또는 너비가 높이보다 긴 비-정사각형임을 나타내는 ′2: NS_HOR′를 나타낼 수 있음)에 기초하여, 영상 복호화 장치(100)는 비-정사각형 형태인 제1 부호화 단위(1310 또는 1320)를 분할하여 하위 심도의 제2 부호화 단위(1312 또는 1322), 제3 부호화 단위(1314 또는 1324) 등을 결정할 수 있다.
영상 복호화 장치(100)는 Nx2N 크기의 제1 부호화 단위(1310)의 너비 및 높이 중 적어도 하나를 분할하여 제2 부호화 단위(예를 들면, 1302, 1312, 1322 등)를 결정할 수 있다. 즉, 영상 복호화 장치(100)는 제1 부호화 단위(1310)를 수평 방향으로 분할하여 NxN 크기의 제2 부호화 단위(1302) 또는 NxN/2 크기의 제2 부호화 단위(1322)를 결정할 수 있고, 수평 방향 및 수직 방향으로 분할하여 N/2xN 크기의 제2 부호화 단위(1312)를 결정할 수도 있다.
일 실시예에 따라 영상 복호화 장치(100)는 2NxN 크기의 제1 부호화 단위(1320) 의 너비 및 높이 중 적어도 하나를 분할하여 제2 부호화 단위(예를 들면, 1302, 1312, 1322 등)를 결정할 수도 있다. 즉, 영상 복호화 장치(100)는 제1 부호화 단위(1320)를 수직 방향으로 분할하여 NxN 크기의 제2 부호화 단위(1302) 또는 N/2xN 크기의 제2 부호화 단위(1312)를 결정할 수 있고, 수평 방향 및 수직 방향으로 분할하여 NxN/2 크기의 제2 부호화 단위(1322)를 결정할 수도 있다.
일 실시예에 따라 영상 복호화 장치(100)는 NxN 크기의 제2 부호화 단위(1302) 의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 1304, 1314, 1324 등)를 결정할 수도 있다. 즉, 영상 복호화 장치(100)는 제2 부호화 단위(1302)를 수직 방향 및 수평 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(1304)를 결정하거나 N/4xN/2 크기의 제3 부호화 단위(1314)를 결정하거나 N/2xN/4 크기의 제3 부호화 단위(1324)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 N/2xN 크기의 제2 부호화 단위(1312)의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 1304, 1314, 1324 등)를 결정할 수도 있다. 즉, 영상 복호화 장치(100)는 제2 부호화 단위(1312)를 수평 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(1304) 또는 N/2xN/4 크기의 제3 부호화 단위(1324)를 결정하거나 수직 방향 및 수평 방향으로 분할하여 N/4xN/2 크기의 제3 부호화 단위(1314)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 NxN/2 크기의 제2 부호화 단위(1322)의 너비 및 높이 중 적어도 하나를 분할하여 제3 부호화 단위(예를 들면, 1304, 1314, 1324 등)를 결정할 수도 있다. 즉, 영상 복호화 장치(100)는 제2 부호화 단위(1322)를 수직 방향으로 분할하여 N/2xN/2 크기의 제3 부호화 단위(1304) 또는 N/4xN/2 크기의 제3 부호화 단위(1314)를 결정하거나 수직 방향 및 수평 방향으로 분할하여 N/2xN/4크기의 제3 부호화 단위(1324)를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 정사각형 형태의 부호화 단위(예를 들면, 1300, 1302, 1304)를 수평 방향 또는 수직 방향으로 분할할 수 있다. 예를 들면, 2Nx2N 크기의 제1 부호화 단위(1300)를 수직 방향으로 분할하여 Nx2N 크기의 제1 부호화 단위(1310)를 결정하거나 수평 방향으로 분할하여 2NxN 크기의 제1 부호화 단위(1320)를 결정할 수 있다. 일 실시예에 따라 심도가 부호화 단위의 가장 긴 변의 길이에 기초하여 결정되는 경우, 2Nx2N 크기의 제1 부호화 단위(1300)가 수평 방향 또는 수직 방향으로 분할되어 결정되는 부호화 단위의 심도는 제1 부호화 단위(1300)의 심도와 동일할 수 있다.
일 실시예에 따라 제3 부호화 단위(1314 또는 1324)의 너비 및 높이는 제1 부호화 단위(1310 또는 1320)의 1/4배에 해당할 수 있다. 제1 부호화 단위(1310 또는 1320)의 심도가 D인 경우 제1 부호화 단위(1310 또는 1320)의 너비 및 높이의 1/2배인 제2 부호화 단위(1312 또는 1322)의 심도는 D+1일 수 있고, 제1 부호화 단위(1310 또는 1320)의 너비 및 높이의 1/4배인 제3 부호화 단위(1314 또는 1324)의 심도는 D+2일 수 있다.
도 14은 일 실시예에 따라 부호화 단위들의 형태 및 크기에 따라 결정될 수 있는 심도 및 부호화 단위 구분을 위한 인덱스(part index, 이하 PID)를 도시한다.
일 실시예에 따라 영상 복호화 장치(100)는 정사각형 형태의 제1 부호화 단위(1400)를 분할하여 다양한 형태의 제2 부호화 단위를 결정할 수 있다. 도 14를 참조하면, 영상 복호화 장치(100)는 분할 형태 모드 정보에 따라 제1 부호화 단위(1400)를 수직 방향 및 수평 방향 중 적어도 하나의 방향으로 분할하여 제2 부호화 단위(1402a, 1402b, 1404a, 1404b, 1406a, 1406b, 1406c, 1406d)를 결정할 수 있다. 즉, 영상 복호화 장치(100)는 제1 부호화 단위(1400)에 대한 분할 형태 모드 정보에 기초하여 제2 부호화 단위(1402a, 1402b, 1404a, 1404b, 1406a, 1406b, 1406c, 1406d)를 결정할 수 있다.
일 실시예에 따라 정사각형 형태의 제1 부호화 단위(1400)에 대한 분할 형태 모드 정보에 따라 결정되는 제2 부호화 단위(1402a, 1402b, 1404a, 1404b, 1406a, 1406b, 1406c, 1406d)는 긴 변의 길이에 기초하여 심도가 결정될 수 있다. 예를 들면, 정사각형 형태의 제1 부호화 단위(1400)의 한 변의 길이와 비-정사각형 형태의 제2 부호화 단위(1402a, 1402b, 1404a, 1404b)의 긴 변의 길이가 동일하므로, 제1 부호화 단위(1400)와 비-정사각형 형태의 제2 부호화 단위(1402a, 1402b, 1404a, 1404b)의 심도는 D로 동일하다고 볼 수 있다. 이에 반해 영상 복호화 장치(100)가 분할 형태 모드 정보에 기초하여 제1 부호화 단위(1400)를 4개의 정사각형 형태의 제2 부호화 단위(1406a, 1406b, 1406c, 1406d)로 분할한 경우, 정사각형 형태의 제2 부호화 단위(1406a, 1406b, 1406c, 1406d)의 한 변의 길이는 제1 부호화 단위(1400)의 한 변의 길이의 1/2배 이므로, 제2 부호화 단위(1406a, 1406b, 1406c, 1406d)의 심도는 제1 부호화 단위(1400)의 심도인 D보다 한 심도 하위인 D+1의 심도일 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 높이가 너비보다 긴 형태의 제1 부호화 단위(1410)를 분할 형태 모드 정보에 따라 수평 방향으로 분할하여 복수개의 제2 부호화 단위(1412a, 1412b, 1414a, 1414b, 1414c)로 분할할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 너비가 높이보다 긴 형태의 제1 부호화 단위(1420)를 분할 형태 모드 정보에 따라 수직 방향으로 분할하여 복수개의 제2 부호화 단위(1422a, 1422b, 1424a, 1424b, 1424c)로 분할할 수 있다.
일 실시예에 따라 비-정사각형 형태의 제1 부호화 단위(1410 또는 1420)에 대한 분할 형태 모드 정보에 따라 결정되는 제2 부호화 단위(1412a, 1412b, 1414a, 1414b, 1414c. 1422a, 1422b, 1424a, 1424b, 1424c)는 긴 변의 길이에 기초하여 심도가 결정될 수 있다. 예를 들면, 정사각형 형태의 제2 부호화 단위(1412a, 1412b)의 한 변의 길이는 높이가 너비보다 긴 비-정사각형 형태의 제1 부호화 단위(1410)의 한 변의 길이의 1/2배이므로, 정사각형 형태의 제2 부호화 단위(1412a, 1412b)의 심도는 비-정사각형 형태의 제1 부호화 단위(1410)의 심도 D보다 한 심도 하위의 심도인 D+1이다.
나아가 영상 복호화 장치(100)가 분할 형태 모드 정보에 기초하여 비-정사각형 형태의 제1 부호화 단위(1410)를 홀수개의 제2 부호화 단위(1414a, 1414b, 1414c)로 분할할 수 있다. 홀수개의 제2 부호화 단위(1414a, 1414b, 1414c)는 비-정사각형 형태의 제2 부호화 단위(1414a, 1414c) 및 정사각형 형태의 제2 부호화 단위(1414b)를 포함할 수 있다. 이 경우 비-정사각형 형태의 제2 부호화 단위(1414a, 1414c)의 긴 변의 길이 및 정사각형 형태의 제2 부호화 단위(1414b)의 한 변의 길이는 제1 부호화 단위(1410)의 한 변의 길이의 1/2배 이므로, 제2 부호화 단위(1414a, 1414b, 1414c)의 심도는 제1 부호화 단위(1410)의 심도인 D보다 한 심도 하위인 D+1의 심도일 수 있다. 영상 복호화 장치(100)는 제1 부호화 단위(1410)와 관련된 부호화 단위들의 심도를 결정하는 상기 방식에 대응하는 방식으로, 너비가 높이보다 긴 비-정사각형 형태의 제1 부호화 단위(1420)와 관련된 부호화 단위들의 심도를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 분할된 부호화 단위들의 구분을 위한 인덱스(PID)를 결정함에 있어서, 홀수개로 분할된 부호화 단위들이 서로 동일한 크기가 아닌 경우, 부호화 단위들 간의 크기 비율에 기초하여 인덱스를 결정할 수 있다. 도 14를 참조하면, 홀수개로 분할된 부호화 단위들(1414a, 1414b, 1414c) 중 가운데에 위치하는 부호화 단위(1414b)는 다른 부호화 단위들(1414a, 1414c)와 너비는 동일하지만 높이가 다른 부호화 단위들(1414a, 1414c)의 높이의 두 배일 수 있다. 즉, 이 경우 가운데에 위치하는 부호화 단위(1414b)는 다른 부호화 단위들(1414a, 1414c)의 두 개를 포함할 수 있다. 따라서, 스캔 순서에 따라 가운데에 위치하는 부호화 단위(1414b)의 인덱스(PID)가 1이라면 그 다음 순서에 위치하는 부호화 단위(1414c)는 인덱스가 2가 증가한 3일수 있다. 즉 인덱스의 값의 불연속성이 존재할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 이러한 분할된 부호화 단위들 간의 구분을 위한 인덱스의 불연속성의 존재 여부에 기초하여 홀수개로 분할된 부호화 단위들이 서로 동일한 크기가 아닌지 여부를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위로부터 분할되어 결정된 복수개의 부호화 단위들을 구분하기 위한 인덱스의 값에 기초하여 특정 분할 형태로 분할된 것인지를 결정할 수 있다. 도 14를 참조하면 영상 복호화 장치(100)는 높이가 너비보다 긴 직사각형 형태의 제1 부호화 단위(1410)를 분할하여 짝수개의 부호화 단위(1412a, 1412b)를 결정하거나 홀수개의 부호화 단위(1414a, 1414b, 1414c)를 결정할 수 있다. 영상 복호화 장치(100)는 복수개의 부호화 단위 각각을 구분하기 위하여 각 부호화 단위를 나타내는 인덱스(PID)를 이용할 수 있다. 일 실시예에 따라 PID는 각각의 부호화 단위의 소정 위치의 샘플(예를 들면, 좌측 상단 샘플)에서 획득될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 부호화 단위의 구분을 위한 인덱스를 이용하여 분할되어 결정된 부호화 단위들 중 소정 위치의 부호화 단위를 결정할 수 있다. 일 실시예에 따라 높이가 너비보다 긴 직사각형 형태의 제1 부호화 단위(1410)에 대한 분할 형태 모드 정보가 3개의 부호화 단위로 분할됨을 나타내는 경우 영상 복호화 장치(100)는 제1 부호화 단위(1410)를 3개의 부호화 단위(1414a, 1414b, 1414c)로 분할할 수 있다. 영상 복호화 장치(100)는 3개의 부호화 단위(1414a, 1414b, 1414c) 각각에 대한 인덱스를 할당할 수 있다. 영상 복호화 장치(100)는 홀수개로 분할된 부호화 단위 중 가운데 부호화 단위를 결정하기 위하여 각 부호화 단위에 대한 인덱스를 비교할 수 있다. 영상 복호화 장치(100)는 부호화 단위들의 인덱스에 기초하여 인덱스들 중 가운데 값에 해당하는 인덱스를 갖는 부호화 단위(1414b)를, 제1 부호화 단위(1410)가 분할되어 결정된 부호화 단위 중 가운데 위치의 부호화 단위로서 결정할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 분할된 부호화 단위들의 구분을 위한 인덱스를 결정함에 있어서, 부호화 단위들이 서로 동일한 크기가 아닌 경우, 부호화 단위들 간의 크기 비율에 기초하여 인덱스를 결정할 수 있다. 도 14를 참조하면, 제1 부호화 단위(1410)가 분할되어 생성된 부호화 단위(1414b)는 다른 부호화 단위들(1414a, 1414c)와 너비는 동일하지만 높이가 다른 부호화 단위들(1414a, 1414c)의 높이의 두 배일 수 있다. 이 경우 가운데에 위치하는 부호화 단위(1414b)의 인덱스(PID)가 1이라면 그 다음 순서에 위치하는 부호화 단위(1414c)는 인덱스가 2가 증가한 3일수 있다. 이러한 경우처럼 균일하게 인덱스가 증가하다가 증가폭이 달라지는 경우, 영상 복호화 장치(100)는 다른 부호화 단위들과 다른 크기를 가지는 부호화 단위를 포함하는 복수개의 부호화 단위로 분할된 것으로 결정할 수 있다, 일 실시예에 따라 분할 형태 모드 정보가 홀수개의 부호화 단위로 분할됨을 나타내는 경우, 영상 복호화 장치(100)는 홀수개의 부호화 단위 중 소정 위치의 부호화 단위(예를 들면 가운데 부호화 단위)가 다른 부호화 단위와 크기가 다른 형태로 현재 부호화 단위를 분할할 수 있다. 이 경우 영상 복호화 장치(100)는 부호화 단위에 대한 인덱스(PID)를 이용하여 다른 크기를 가지는 가운데 부호화 단위를 결정할 수 있다. 다만 상술한 인덱스, 결정하고자 하는 소정 위치의 부호화 단위의 크기 또는 위치는 일 실시예를 설명하기 위해 특정한 것이므로 이에 한정하여 해석되어서는 안되며, 다양한 인덱스, 부호화 단위의 위치 및 크기가 이용될 수 있는 것으로 해석되어야 한다.
일 실시예에 따라 영상 복호화 장치(100)는 부호화 단위의 재귀적인 분할이 시작되는 소정의 데이터 단위를 이용할 수 있다.
도 15는 일 실시예에 따라 픽쳐에 포함되는 복수개의 소정의 데이터 단위에 따라 복수개의 부호화 단위들이 결정된 것을 도시한다.
일 실시예에 따라 소정의 데이터 단위는 부호화 단위가 분할 형태 모드 정보를 이용하여 재귀적으로 분할되기 시작하는 데이터 단위로 정의될 수 있다. 즉, 현재 픽쳐를 분할하는 복수개의 부호화 단위들이 결정되는 과정에서 이용되는 최상위 심도의 부호화 단위에 해당할 수 있다. 이하에서는 설명 상 편의를 위해 이러한 소정의 데이터 단위를 기준 데이터 단위라고 지칭하도록 한다.
일 실시예에 따라 기준 데이터 단위는 소정의 크기 및 형태를 나타낼 수 있다. 일 실시예에 따라, 기준 부호화 단위는 MxN의 샘플들을 포함할 수 있다. 여기서 M 및 N은 서로 동일할 수도 있으며, 2의 승수로 표현되는 정수일 수 있다. 즉, 기준 데이터 단위는 정사각형 또는 비-정사각형의 형태를 나타낼 수 있으며, 이후에 정수개의 부호화 단위로 분할될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 픽쳐를 복수개의 기준 데이터 단위로 분할할 수 있다. 일 실시예에 따라 영상 복호화 장치(100)는 현재 픽쳐를 분할하는 복수개의 기준 데이터 단위를 각각의 기준 데이터 단위에 대한 분할 형태 모드 정보를 이용하여 분할할 수 있다. 이러한 기준 데이터 단위의 분할 과정은 쿼드 트리(quad-tree)구조를 이용한 분할 과정에 대응될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 픽쳐에 포함되는 기준 데이터 단위가 가질 수 있는 최소 크기를 미리 결정할 수 있다. 이에 따라, 영상 복호화 장치(100)는 최소 크기 이상의 크기를 갖는 다양한 크기의 기준 데이터 단위를 결정할 수 있고, 결정된 기준 데이터 단위를 기준으로 분할 형태 모드 정보를 이용하여 적어도 하나의 부호화 단위를 결정할 수 있다.
도 15를 참조하면, 영상 복호화 장치(100)는 정사각형 형태의 기준 부호화 단위(1500)를 이용할 수 있고, 또는 비-정사각형 형태의 기준 부호화 단위(1502)를 이용할 수도 있다. 일 실시예에 따라 기준 부호화 단위의 형태 및 크기는 적어도 하나의 기준 부호화 단위를 포함할 수 있는 다양한 데이터 단위(예를 들면, 시퀀스(sequence), 픽쳐(picture), 슬라이스(slice), 슬라이스 세그먼트(slice segment), 타일(tile), 타일 그룹(tile group), 최대부호화단위 등)에 따라 결정될 수 있다.
일 실시예에 따라 영상 복호화 장치(100)의 수신부(110)는 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보 중 적어도 하나를 상기 다양한 데이터 단위마다 비트스트림으로부터 획득할 수 있다. 정사각형 형태의 기준 부호화 단위(1500)에 포함되는 적어도 하나의 부호화 단위가 결정되는 과정은 도 3의 현재 부호화 단위(300)가 분할되는 과정을 통해 상술하였고, 비-정사각형 형태의 기준 부호화 단위(1502)에 포함되는 적어도 하나의 부호화 단위가 결정되는 과정은 도 4의 현재 부호화 단위(400 또는 450)가 분할되는 과정을 통해 상술하였으므로 자세한 설명은 생략하도록 한다.
일 실시예에 따라 영상 복호화 장치(100)는 소정의 조건에 기초하여 미리 결정되는 일부 데이터 단위에 따라 기준 부호화 단위의 크기 및 형태를 결정하기 위하여, 기준 부호화 단위의 크기 및 형태를 식별하기 위한 인덱스를 이용할 수 있다. 즉, 수신부(110)는 비트스트림으로부터 상기 다양한 데이터 단위(예를 들면, 시퀀스, 픽쳐, 슬라이스, 슬라이스 세그먼트, 타일, 타일 그룹, 최대부호화단위 등) 중 소정의 조건(예를 들면 슬라이스 이하의 크기를 갖는 데이터 단위)을 만족하는 데이터 단위로서 슬라이스, 슬라이스 세그먼트, 타일, 타일 그룹, 최대부호화 단위 등 마다, 기준 부호화 단위의 크기 및 형태의 식별을 위한 인덱스만을 획득할 수 있다. 영상 복호화 장치(100)는 인덱스를 이용함으로써 상기 소정의 조건을 만족하는 데이터 단위마다 기준 데이터 단위의 크기 및 형태를 결정할 수 있다. 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보를 상대적으로 작은 크기의 데이터 단위마다 비트스트림으로부터 획득하여 이용하는 경우, 비트스트림의 이용 효율이 좋지 않을 수 있으므로, 기준 부호화 단위의 형태에 대한 정보 및 기준 부호화 단위의 크기에 대한 정보를 직접 획득하는 대신 상기 인덱스만을 획득하여 이용할 수 있다. 이 경우 기준 부호화 단위의 크기 및 형태를 나타내는 인덱스에 대응하는 기준 부호화 단위의 크기 및 형태 중 적어도 하나는 미리 결정되어 있을 수 있다. 즉, 영상 복호화 장치(100)는 미리 결정된 기준 부호화 단위의 크기 및 형태 중 적어도 하나를 인덱스에 따라 선택함으로써, 인덱스 획득의 기준이 되는 데이터 단위에 포함되는 기준 부호화 단위의 크기 및 형태 중 적어도 하나를 결정할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 하나의 최대 부호화 단위에 포함하는 적어도 하나의 기준 부호화 단위를 이용할 수 있다. 즉, 영상을 분할하는 최대 부호화 단위에는 적어도 하나의 기준 부호화 단위가 포함될 수 있고, 각각의 기준 부호화 단위의 재귀적인 분할 과정을 통해 부호화 단위가 결정될 수 있다. 일 실시예에 따라 최대 부호화 단위의 너비 및 높이 중 적어도 하나는 기준 부호화 단위의 너비 및 높이 중 적어도 하나의 정수배에 해당할 수 있다. 일 실시예에 따라 기준 부호화 단위의 크기는 최대부호화단위를 쿼드 트리 구조에 따라 n번 분할한 크기일 수 있다. 즉, 영상 복호화 장치(100)는 최대부호화단위를 쿼드 트리 구조에 따라 n 번 분할하여 기준 부호화 단위를 결정할 수 있고, 다양한 실시예들에 따라 기준 부호화 단위를 블록 형태 정보 및 분할 형태 모드 정보 중 적어도 하나에 기초하여 분할할 수 있다.
일 실시예에 따라 영상 복호화 장치(100)는 현재 부호화 단위의 형태를 나타내는 블록 형태 정보 또는 현재 부호화 단위를 분할하는 방법을 나타내는 분할 형태 모드 정보를 비트스트림으로부터 획득하여 이용할 수 있다. 분할 형태 모드 정보는 다양한 데이터 단위와 관련된 비트스트림에 포함될 수 있다. 예를 들면, 영상 복호화 장치(100)는 시퀀스 파라미터 세트(sequence parameter set), 픽쳐 파라미터 세트(picture parameter set), 비디오 파라미터 세트(video parameter set), 슬라이스 헤더(slice header), 슬라이스 세그먼트 헤더(slice segment header), 타일 헤더(tile header), 타일 그룹 헤더(tile group header)에 포함된 분할 형태 모드 정보를 이용할 수 있다. 나아가, 영상 복호화 장치(100)는 최대 부호화 단위, 기준 부호화 단위, 프로세싱 블록마다 비트스트림으로부터 블록 형태 정보 또는 분할 형태 모드 정보에 대응하는 신택스 엘리먼트를 비트스트림으로부터 획득하여 이용할 수 있다.
이하 본 개시의 일 실시예에 따른 분할 규칙을 결정하는 방법에 대하여 자세히 설명한다.
영상 복호화 장치(100)는 영상의 분할 규칙을 결정할 수 있다. 분할 규칙은 영상 복호화 장치(100) 및 영상 부호화 장치(2200) 사이에 미리 결정되어 있을 수 있다. 영상 복호화 장치(100)는 비트스트림으로부터 획득된 정보에 기초하여 영상의 분할 규칙을 결정할 수 있다. 영상 복호화 장치(100)는 시퀀스 파라미터 세트(sequence parameter set), 픽쳐 파라미터 세트(picture parameter set), 비디오 파라미터 세트(video parameter set), 슬라이스 헤더(slice header), 슬라이스 세그먼트 헤더(slice segment header), 타일 헤더(tile header), 타일 그룹 헤더(tile group header) 중 적어도 하나로부터 획득된 정보에 기초하여 분할 규칙을 결정할 수 있다. 영상 복호화 장치(100)는 분할 규칙을 프레임, 슬라이스, 타일, 템포럴 레이어(Temporal layer), 최대 부호화 단위 또는 부호화 단위에 따라 다르게 결정할 수 있다.
영상 복호화 장치(100)는 부호화 단위의 블록 형태에 기초하여 분할 규칙을 결정할 수 있다. 블록 형태는 부호화 단위의 크기, 모양, 너비 및 높이의 비율, 방향을 포함할 수 있다. 영상 복호화 장치(100)는 부호화 단위의 블록 형태에 기초하여 분할 규칙을 결정할 것을 미리 결정할 수 있다. 하지만 이에 한정되는 것은 아니다. 영상 복호화 장치(100)는 수신된 비트스트림으로부터 획득된 정보에 기초하여, 분할 규칙을 결정할 수 있다.
부호화 단위의 모양은 정사각형(square) 및 비-정사각형(non-square)을 포함할 수 있다. 부호화 단위의 너비 및 높이의 길이가 같은 경우, 영상 복호화 장치(100)는 부호화 단위의 모양을 정사각형으로 결정할 수 있다. 또한, . 부호화 단위의 너비 및 높이의 길이가 같지 않은 경우, 영상 복호화 장치(100)는 부호화 단위의 모양을 비-정사각형으로 결정할 수 있다.
부호화 단위의 크기는 4x4, 8x4, 4x8, 8x8, 16x4, 16x8, ... , 256x256의 다양한 크기를 포함할 수 있다. 부호화 단위의 크기는 부호화 단위의 긴변의 길이, 짧은 변의 길이또는 넓이에 따라 분류될 수 있다. 영상 복호화 장치(100)는 동일한 그룹으로 분류된 부호화 단위에 동일한 분할 규칙을 적용할 수 있다. 예를 들어 영상 복호화 장치(100)는 동일한 긴변의 길이를 가지는 부호화 단위를 동일한 크기로 분류할 수 있다. 또한 영상 복호화 장치(100)는 동일한 긴변의 길이를 가지는 부호화 단위에 대하여 동일한 분할 규칙을 적용할 수 있다.
부호화 단위의 너비 및 높이의 비율은 1:2, 2:1, 1:4, 4:1, 1:8, 8:1, 1:16, 16:1, 32:1 또는 1:32 등을 포함할 수 있다. 또한, 부호화 단위의 방향은 수평 방향 및 수직 방향을 포함할 수 있다. 수평 방향은 부호화 단위의 너비의 길이가 높이의 길이보다 긴 경우를 나타낼 수 있다. 수직 방향은 부호화 단위의 너비의 길이가 높이의 길이보다 짧은 경우를 나타낼 수 있다.
영상 복호화 장치(100)는 부호화 단위의 크기에 기초하여 분할 규칙을 적응적으로 결정할 수 있다. 영상 복호화 장치(100)는 부호화 단위의 크기에 기초하여 허용가능한 분할 형태 모드를 다르게 결정할 수 있다. 예를 들어, 영상 복호화 장치(100)는 부호화 단위의 크기에 기초하여 분할이 허용되는지 여부를 결정할 수 있다. 영상 복호화 장치(100)는 부호화 단위의 크기에 따라 분할 방향을 결정할 수 있다. 영상 복호화 장치(100)는 부호화 단위의 크기에 따라 허용가능한 분할 타입을 결정할 수 있다.
부호화 단위의 크기에 기초하여 분할 규칙을 결정하는 것은 영상 복호화 장치(100) 사이에 미리 결정된 분할 규칙일 수 있다. 또한, 영상 복호화 장치(100)는 비트스트림으로부터 획득된 정보에 기초하여, 분할 규칙을 결정할 수 있다.
영상 복호화 장치(100)는 부호화 단위의 위치에 기초하여 분할 규칙을 적응적으로 결정할 수 있다. 영상 복호화 장치(100)는 부호화 단위가 영상에서 차지하는 위치에 기초하여 분할 규칙을 적응적으로 결정할 수 있다.
또한, 영상 복호화 장치(100)는 서로 다른 분할 경로로 생성된 부호화 단위가 동일한 블록 형태를 가지지 않도록 분할 규칙을 결정할 수 있다. 다만 이에 한정되는 것은 아니며 서로 다른 분할 경로로 생성된 부호화 단위는 동일한 블록 형태를 가질 수 있다. 서로 다른 분할 경로로 생성된 부호화 단위들은 서로 다른 복호화 처리 순서를 가질 수 있다. 복호화 처리 순서에 대해서는 도 12와 함께 설명하였으므로 자세한 설명은 생략한다.
도 16는 영상 부호화 및 복호화 시스템의 블록도를 나타낸 도면이다.
영상 부호화 및 복호화 시스템(1600)의 부호화단(1610)은 영상의 부호화된 비트스트림을 전송하고, 복호화단(1650)은 비트스트림을 수신하여 복호화함으로써 복원 영상을 출력한다. 여기서 복호화단(1650)은 영상 복호화 장치(100)에 유사한 구성일 수 있다.
부호화단(1610)에서, 예측 부호화부(1615)는 인터 예측 및 인트라 예측을 통해 참조 영상을 출력하고, 변환 및 양자화부(1616)는 참조 영상과 현재 입력 영상 간의 레지듀얼 데이터를 양자화된 변환 계수로 양자화하여 출력한다. 엔트로피 부호화부(1625)는 양자화된 변환 계수를 부호화하여 변환하고 비트스트림으로 출력한다. 양자화된 변환 계수는 역양자화 및 역변환부(1630)을 거쳐 공간 영역의 데이터로 복원되고, 복원된 공간 영역의 데이터는 디블로킹 필터링부(1635) 및 루프 필터링부(1640)를 거쳐 복원 영상으로 출력된다. 복원 영상은 예측 부호화부(1615)를 거쳐 다음 입력 영상의 참조 영상으로 사용될 수 있다.
복호화단(1650)으로 수신된 비트스트림 중 부호화된 영상 데이터는, 엔트로피 복호화부(1655) 및 역양자화 및 역변환부(1660)를 거쳐 공간 영역의 레지듀얼 데이터로 복원된다. 예측 복호화부(1675)로부터 출력된 참조 영상 및 레지듀얼 데이터가 조합되어 공간 영역의 영상 데이터가 구성되고, 디블로킹 필터링부(1665) 및 루프 필터링부(1670)는 공간 영역의 영상 데이터에 대해 필터링을 수행하여 현재 원본 영상에 대한 복원 영상을 출력할 수 있다. 복원 영상은 예측 복호화부(1675)에 의해 다음 원본 영상에 대한 참조 영상으로서 이용될 수 있다.
부호화단(1610)의 루프 필터링부(1640)는 사용자 입력 또는 시스템 설정에 따라 입력된 필터 정보를 이용하여 루프 필터링을 수행한다. 루프 필터링부(1640)에 의해 사용된 필터 정보는 엔트로피 부호화부(1610)로 출력되어, 부호화된 영상 데이터와 함께 복호화단(1650)으로 전송된다. 복호화단(1650)의 루프 필터링부(1670)는 복호화단(1650)으로부터 입력된 필터 정보에 기초하여 루프 필터링을 수행할 수 있다.
이하 도 17 내지 도 20을 참조하여 본 명세서에서 개시된 일 실시예에 따라 움직임 벡처 차분을 이용한 머지 모드를 확장함으로써 비디오를 부호화 또는 복호화하기 위한 방법 및 장치가 상술된다.
도 17은 일 실시예에 따른 비디오 복호화 장치의 블록도를 도시한다.
도 17을 참조하면, 일 실시예에 따른 비디오 복호화 장치(1700)는 신택스 엘리먼트 획득부(1710) 및 복호화부(1720)를 포함할 수 있다.
비디오 복호화 장치(1700)는 영상의 부호화 결과 생성된 비트스트림을 획득하고, 비트스트림에 포함된 정보에 기초하여 인터 예측을 위한 움직임 정보를 복호화할 수 있다.
일 실시예에 따른 비디오 복호화 장치(1700)는, 신택스 엘리먼트 획득부(1710) 및 복호화부(1720)를 제어하는 중앙 프로세서(미도시)를 포함할 수 있다. 또는, 신택스 엘리먼트 획득부(1710) 및 복호화부(1720)가 각각의 자체 프로세서(미도시)에 의해 작동되며, 프로세서(미도시)들이 상호 유기적으로 작동함에 따라 비디오 복호화 장치(1700)가 전체적으로 작동될 수도 있다. 또는, 비디오 복호화 장치(1700)의 외부 프로세서(미도시)의 제어에 따라, 신택스 엘리먼트 획득부(1710) 및 복호화부(1720)가 제어될 수도 있다.
비디오 복호화 장치(1700)는, 신택스 엘리먼트 획득부(1710) 및 복호화부(1720)의 입출력 데이터가 저장되는 하나 이상의 데이터 저장부(미도시)를 포함할 수 있다. 비디오 복호화 장치(1700)는, 데이터 저장부(미도시)의 데이터 입출력을 제어하는 메모리 제어부(미도시)를 포함할 수도 있다.
비디오 복호화 장치(1700)는, 영상 복호화를 통해 영상을 복원하기 위해, 내부에 탑재된 비디오 디코딩 프로세서 또는 외부의 비디오 디코딩 프로세서와 연계하여 작동함으로써, 예측을 포함한 영상 복호화 동작을 수행할 수 있다. 일 실시예에 따른 비디오 복호화 장치(1700)의 내부 비디오 디코딩 프로세서는, 별개의 프로세서뿐만 아니라, 중앙 연산 장치 또는 그래픽 연산 장치가 영상 디코딩 프로세싱 모듈을 포함함으로써 기본적인 영상 복호화 동작을 구현할 수도 있다.
비디오 복호화 장치(1700)는 전술한 영상 복호화 장치(100)에 포함될 수 있다. 예를 들어, 신택스 엘리먼트 획득부(1710)는 도 1에 도시된 영상 복호화 장치(100)의 비트스트림 획득부(110)에 포함될 수 있고, 복호화부(1720) 및 복호화부(1720)는 영상 복호화 장치(100)의 복호화부(120)에 포함될 수 있다.
신택스 엘리먼트 획득부(1710)는 영상의 부호화 결과 생성된 비트스트림을 수신한다. 비트스트림은 현재 블록의 인터 예측에 이용되는 움직임 벡터를 결정하기 위한 정보를 포함할 수 있다. 현재 블록은 영상으로부터 트리 구조에 따라 분할되어 생성되는 블록으로서, 예를 들어, 최대 부호화 단위, 부호화 단위 또는 변환 단위에 대응할 수 있다.
신택스 엘리먼트 획득부(1710)는 시퀀스 파라미터 세트(sequence parameter set), 픽쳐 파라미터 세트(picture parameter set), 비디오 파라미터 세트(video parameter set), 슬라이스 헤더(slice header) 및 슬라이스 세그먼트 헤더(slice segment header) 중 적어도 하나에 포함된 블록 형태 정보 및/또는 분할 형태 모드에 대한 정보에 기반하여 현재 블록을 결정할 수 있다. 나아가, 신택스 엘리먼트 획득부(1710)은 최대 부호화 단위, 기준 부호화 단위, 프로세싱 블록마다 비트스트림으로부터 블록 형태 정보 또는 분할 형태 모드에 대한 정보에 대응하는 신택스 엘리먼트를 비트스트림으로부터 획득하여 현재 블록을 결정하는데 이용할 수 있다.
비트스트림은 현재 블록의 예측 모드를 나타내는 정보를 포함할 수 있는데, 현재 블록의 예측 모드는 인트라(intra) 모드 및 인터(inter) 모드를 포함할 수 있다. 현재 블록의 예측 모드가 인터 모드인 경우, 움직임 벡터의 부호화/복호화 방식은 머지(merge) 모드, 스킵 모드(skip) 및 MMVD 모드 중 적어도 하나를 포함할 수 있다. 머지 모드 또는 스킵 모드에서, 움직임 벡터 후보들을 포함하는 머지 후보 리스트가 이용되며, 움직임 벡터 후보들 중에서 머지 인덱스가 가리키는 하나의 움직임 벡터 후보를 머지 움직임 벡터 후보라 결정할 수 있다. MMVD 모드는 움직임 벡터 차분을 이용한 머지 모드(merge mode with motion vector difference)로서, 머지 움직임 벡터 후보들에 기초하여 결정된 하나의 기준 움직임 벡터에, 차분 거리 및 차분 방향에 따라 구분되는 움직임 벡터 차분을 적용하여 현재 블록의 예측 움직임 벡터를 결정하는 모드일 수 있다.
일 실시예에서, MMVD 모드와 관련한 정보를 비트스트림으로부터 획득될 수 있다. 일 실시예에 따른 MMVD 모드와 관련된 정보는, 현재 블록에 대해 MMVD 모드가 적용되는지 여부를 나타내는 정보(이하 'MMVD 정보'), 현재 블록의 기본 움직임 벡터를 나타내는 정보(이하 '머지 인덱스'), 기본 움직임 벡터로부터 움직임 벡터 후보들까지의 차분 거리를 나타내는 정보(이하 '차분 거리 인덱스'), 기본 움직임 벡터로부터 움직임 벡터 후보들까지의 차분 방향을 나타내는 정보(이하 '차분 방향 인덱스') 중 적어도 하나를 포함할 수 있다.
신택스 엘리먼트 획득부(1710)는 부호화 단위, 변환 단위, 최대 부호화 단위, 슬라이스 단위 및 픽처 단위 중 적어도 하나의 단위에 해당하는 신택스에서 MMVD 모드와 관련된 정보를 신택스 엘리먼트의 형태로 획득할 수 있다.
비디오 복호화 장치(1700)는 비트스트림의 형태로 신택스를 수신하며, 신택스로부터 엔트로피 복호화를 통해 신택스 엘리먼트를 획득하고, 각 신택스 엘리먼트가 나타내는 각종 정보를 해석할 수 있다. 따라서, 신택스 엘리먼트 획득부(170)는 비트스트림(신택스)으로부터 여러가지 정보(신택스 엘리먼트)를 획득하는 것으로 이해할 수 있다.
복호화부(1720)는 비트스트림으로부터 획득한 MMVD 정보에 기초하여 현재 블록에 대해 MMVD 모드가 적용되는지 여부를 확인할 수 있다. MMVD 모드의 적용 여부를 나타내는 정보는 플래그(flag) 또는 인덱스(index)를 포함할 수 있다.
일 실시예에 따라, 인터 예측 모드에서 이용될 수 있는 다양한 툴에 MMVD 모드가 적용될 수 있다. 따라서 비디오 복호화 장치(1700)는, 인터 예측 모드의 각 툴에 MMVD 모드가 적용되는지 여부를 판단할 필요가 있다.
일예로, 각 툴에서 MMVD 모드가 적용되는지 여부만 판단하는 첫번째 방식이 있을 수 있다.
다른 예로, 모든 툴에서 MMVD 모드가 적용되는지 여부가 먼저 판단된 후에, 적용 가능하다면 각 툴마다 MMVD 모드가 적용되는지 여부를 판단하는 두번째 방식이 있을 수 있다. 모든 툴에서 MMVD 모드가 적용되지 않는다면, 각 툴마다 MMVD 모드가 적용되는지 여부를 판단할 필요가 없다.
일 실시예에 따른 비디오 복호화 장치(1700)는, MMVD 모드가 적용되는지 여부를 판단하기 위해, 플래그와 같은 정보를 비트스트림으로부터 신택스 엘리먼트를 획득할 수 있다. 따라서, 상기 첫번째 방식에서는 만약 다양한 툴에서 MMVD 모드가 적용되지 않는 경우에도, 비디오 복호화 장치(1700)는 MMVD 모드의 미적용을 결정하기 위한 플래그를 다양한 툴마다 비트스트림으로부터 획득하여야 한다.
반면 두번째 방식에 따르면, 비디오 복호화 장치(1700)는 먼저, 다양한 툴에서 MMVD 모드가 적용가능한지 여부를 나타내는 플래그를 비트스트림으로부터 획득할 수 있다. 상기 플래그에 따라 MMVD 모드가 적용가능하다면 비디오 복호화 장치(1700)는 각 툴마다 플래그를 획득하여 MMVD 모드가 적용되는지 여부를 결정할 수 있다. 만약 다양한 툴에서 MMVD 모드가 적용가능한지 여부를 나타내는 플래그에 따라 MMVD 모드가 적용가능하지 않다면, 비디오 복호화 장치(1700)는 각 툴마다 MMVD 모드의 적용여부를 나타내는 플래그를 추가로 획득할 필요가 없어, 복호화 효율이 높아질 수 있다.
이하, 따른 비디오 복호화 장치(1700)가 시퀀스마다 상기 두번째 방식에 따라 먼저 MMVD 모드가 적용가능한지 여부를 나타내는지 판단한다고, 적용가능하다면 특정 툴에서 MMVD 모드가 적용되는지 여부를 판단하도록 하기 위한 실시예가 상술된다.
일 실시예에 따른 신택스 엘리먼트 획득부(1710)는, 시퀀스 파라미터 세트로부터, 현재 시퀀스에서 MMVD 모드가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득할 수 있다. 시퀀스에서의 MMVD 모드는, 시퀀스 이하의 데이터 레벨에서 수행되는 다양한 인터 예측 모드에서, 움직임 벡터와 별도로 시그널링된 움직임 벡터의 거리 인덱스 및 방향 인덱스를 이용하여 움직임 벡터를 조정하는 예측 모드를 통칭한다. 시퀀스 MMVD 정보에 따라 MMVD 모드가 적용가능할 때, 일 실시에예 따른 신택스 엘리먼트 획득부(1710)는, 현재 시퀀스에 포함된 현재 블록에 대해 제1 인터 예측 모드에서 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보및 제2 인터 예측 모드에서 MMVD 모드가 적용되는지 여부를 나타내는 제2 MMVD 정보를 추가로 획득할 수 있다. 복호화부(1720)는 제1 MMVD 정보에 따라 제1 인터 예측 모드에서 MMVD 모드가 적용된다면 제1 인터 예측 모드에서 MMVD 모드에 따라 움직임 벡터를 복원하고, 제2 MMVD 정보에 따라 제2 인터 예측 모드에서 MMVD 모드가 적용된다면 제2 인터 예측 모드에서 MMVD 모드에 따라 움직임 벡터를 복원할 수 있다. 하지만, 시퀀스 MMVD 정보에 따라 MMVD 모드가 적용가능하지 않다면, 일 실시에예 따른 신택스 엘리먼트 획득부(1710)는 제1 MMVD 정보및 상기 제2 MMVD 정보를 비트스트림으로부터 획득할 필요가 없다.
구체적인 예로, 신택스 엘리먼트 획득부(1710)는, 시퀀스 파라미터 세트로부터, 현재 시퀀스에서 MMVD 모드가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득할 수 있다. 일 실시에예 따른 신택스 엘리먼트 획득부(1710)는, 시퀀스 MMVD 정보에 따라 MMVD 모드가 적용가능할 때, 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 나타내는 시퀀스 서브 픽셀 MMVD 정보를 획득할 수 있다. 일 실시에예 따른 신택스 엘리먼트 획득부(1710)는, 시퀀스 MMVD 정보에 따라 MMVD 모드가 적용가능할 때, 현재 시퀀스에 포함된 현재 블록에 대해 MMVD 모드가 적용되는지 여부를 나타내는 MMVD 정보를 획득할 수 있다.
MMVD 정보에 따라 현재 블록에 대해 MMVD 모드가 적용될 때, 복호화부(1720)는, MMVD 정보에 따라, 비트스트림으로부터 획득한 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 정수 픽셀 단위 또는 서브 픽셀 단위의 움직임 벡터 차분 거리로 복원할 수 있다. 일 실시예에 따른 복호화부(1720)는, 움직임 벡터 차분 거리를 이용하여 현재 블록의 움직임 벡터를 결정하고, 현재 블록의 움직임 벡터를 이용하여 현재 블록을 복원할 수 있다.
또한 신택스 엘리먼트 획득부(1710)는, 현재 블록에 대해 스킵 모드가 적용되거나 머지 모드가 적용되는 경우, MMVD 모드의 적용 여부를 나타내는 MMVD 정보를 비트스트림으로부터 추출할 수 있다.
현재 블록에 MMVD 모드가 적용된 경우, 기본 움직임 벡터로부터 가변적인 차분 거리 및 차분 방향을 따라 움직임 벡터 후보들이 설정될 수 있다.
차분 거리는 기본 화소 단위(예를 들어, 1/4 화소 단위)를 기준으로 결정되는 값으로서, 차분 거리는 몇 개의 기본 화소 단위만큼 차이가 나는지를 나타낼 수 있다. 예를 들어, 기본 움직임 벡터와 움직임 벡터 사이의 차분 거리가 1이라는 것은, 움직임 벡터와 기본 움직임 벡터가 1 개의 1/4 화소 단위에 대응하는 화소 거리만큼 차이가 난다는 것을 의미할 수 있다. 차분 거리는 정수, 유리수 또는 무리수에 해당하는 값을 가질 수 있다.
현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위가 상기 기본 화소 단위와 동일하다면, 복호화부(1720)는 미리 결정된 차분 거리에 따라 움직임 벡터들을 결정할 수 있다.
그러나, 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위가 상기 기본 화소 단위와 상이하다면, 복호화부(1720)는 미리 결정된 차분 거리를 스케일링한 후, 스케일링된 차분 거리에 기초하여 기본 움직임 벡터에 대한 움직임 벡터 후보를 결정할 수 있다.
현재 블록의 움직임 벡터가 정수 화소 단위, 1/2 화소 단위, 1/4 화소 단위 및 1/8 화소 단위에 해당하는 픽셀들을 가리킬 수 있다면, 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위는 1/8 화소 단위가 된다. 그리고, 기본 화소 단위가 1/4 화소 단위라면, 복호화부(1720)는 움직임 벡터를 결정하기 위한 차분 거리를 업 스케일링할 수 있다.
일 예에서, 복호화부(1720)는 기본 화소 단위와 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위의 비율에 따라 차분 거리를 스케일링할 수 있다.
일 예에서, 복호화부(1720)는 기본 화소 단위가 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위보다 크다면, 차분 거리를 업 스케일링할 수 있다.
일 실시예에서, 현재 블록의 기본 움직임 벡터는 스킵 모드와 머지 모드에서 이용되는 머지 후보 리스트 중에서 결정될 수 있다. 머지 후보 리스트는 현재 블록과 공간적 및 시간적으로 관련된 주변 블록들을 포함할 수 있다. 현재 블록과 공간적 및 시간적으로 관련된 주변 블록은 현재 블록보다 먼저 복호화된 블록을 포함할 수 있다. 따라서, 일 실시예에 따른 기본 움직임 벡터는 머지 후보 리스트 중에서 결정된 주변 블록의 움직임 벡터로부터 결정될 수 있다.
현재 블록과 공간적으로 관련된 주변 블록은, 예를 들어, 현재 블록의 좌측에 위치하는 블록 및 현재 블록의 상부에 위치하는 블록 등을 포함할 수 있으나 이에 한정되는 것은 아니다. 또한, 현재 블록과 시간적으로 관련된 주변 블록은, 예를 들어, 현재 블록을 포함하는 현재 픽처와 상이한 참조 픽처에 포함된 블록들 중 현재 블록과 동일한 지점에 위치하는 블록, 및 동일 지점의 블록에 공간적으로 인접한 블록을 포함할 수 있다.
일 실시예에서, 복호화부(1720)는 현재 블록과 관련된 주변 블록의 움직임 벡터들을 기본 움직임 벡터로 결정할 수 있다. 복호화부(1720)는 비트스트림으로부터 획득된 머지 인덱스를 이용하여 머지 후보 리스트 중에서 기본 움직임 벡터를 결정할 수 있다. 머지 인덱스는 머지 인덱스라 지칭될 수 있다.
일 실시예에 따른 머지 인덱스는 머지 후보 리스트 중 최대 2번째 후보까지만 가리킬 수 있다.
또는, 복호화부(1720)는 현재 블록과 관련된 주변 블록의 움직임 벡터들을 변형하여 기본 움직임 벡터로 결정할 수도 있다. 일 실시예에서, 복호화부(1720)는 HEVC 표준의 AMVP 모드에서 움직임 벡터 프리딕터(motion vector predictor)의 후보 리스트를 결정하는 방법과 동일하게 기본 움직임 벡터를 결정할 수도 있다.
일 실시예에 따른 현재 블록의 머지 인덱스는 고정 길이 부호화(FLC: fixed length coding) 방법, 단항 부호화(unary coding) 방법 또는 절삭형 단항 부호화(truncated unary coding) 방법으로 부호화되어 비트스트림에 포함될 수 있다. 예를 들어, 머지 인덱스가 고정 길이 부호화(FLC: fixed length coding) 방법으로 복호화될 때 cMax 값은 1일 수 있다.
현재 블록에 대한 기본 움직임 벡터가 결정되면, 복호화부(1720)는 기본 움직임 벡터에 머지 움직임 벡터 차분을 적용하여 움직임 벡터를 결정할 수 있다.
신택스 엘리먼트 획득부(1710)는 비트스트림으로부터 차분 거리 인덱스 및 차분 방향 인덱스 중 적어도 하나를 나타내는 정보를 획득하고, 복호화부(1720)는 차분 거리 인덱스 및 차분 방향 인덱스 중 적어도 하나에 기초하여, 머지 움직임 벡터 차분을 결정할 수 있다. 기본 움직임 벡터로부터 현재 블록의 움직임 벡터를 결정할 수 있다.
일 실시예에 따른 신택스 엘리먼트 획득부(1710)는 차분 거리 인덱스를 절삭형 단항 부호화(truncated unary coding) 방법으로 복호화하고 이 때 cMax 값은 7, cRiceParam 값은 0일 수 있다. 일 실시예에 따른 신택스 엘리먼트 획득부(1710)는, 차분 방향 인덱스를 고정 길이 부호화(FLC: fixed length coding) 방법으로 복호화하고, 이 때 cMax 값은 3, cRiceParam 값은 0일 수 있다.
일 실시예에 따른, 복호화부(1720)는 비트스트림으로부터 확인된 차분 거리를, 기본 화소 단위와 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위 사이의 비율에 따라 스케일링할 수 있다. 복호화부(1720)는 기본 화소 단위(예를 들어, 1/4 화소 단위)가 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위(예를 들어, 1/8 화소 단위) 보다 크다면, 비트스트림으로부터 확인된 차분 거리를 업 스케일링할 수 있다.
스케일링된 차분 거리는 몇 개의 최소 화소 단위만큼 차이가 나는지를 나타낼 수 있다. 예를 들어, 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위가 1/8 화소 단위이고, 스케일링된 차분 거리가 2라면, 복호화부(1720)는 기본 움직임 벡터로부터 두 개의 1/8 화소 단위에 대응하는 화소 거리만큼 차이를 갖는 움직임 벡터를 결정할 수 있다.
전술한 바와 같이, 머지 후보 리스트로부터 결정된 기본 움직임 벡터에 기초하여 현재 블록의 움직임 벡터를 결정하는데 있어, 기본 화소 단위를 기준으로 미리 결정된 차분 거리가 이용되는데, 이 기본 화소 단위를 기준으로 한 차분 거리를 나타내는 정보가 비트스트림을 통해 시그널링되므로, 기본 화소 단위와 상이한 최소 화소 단위를 가리킬 수 있는 정밀도(precision)의 복호화부(1720)는 비트스트림을 통해 시그널링된 차분 거리를 최소 화소 단위에 따라 스케일링할 수 있는 것이다.
기본 화소 단위를 기준으로 결정된 차분 거리와, 최소의 화소 단위에 기초하여 스케일링된 차분 거리는 화소 거리에 있어 서로 동일할 수 있다.
일 실시예에서, 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위를 나타내는 정보가 비트스트림에 포함될 수도 있다. 신택스 엘리먼트 획득부(1710)는 최소의 화소 단위를 나타내는 정보를 블록, 슬라이스 및 픽처 중 적어도 하나의 레벨에 대응하는 비트스트림에서 획득할 수 있다.
현재 블록의 움직임 벡터를 결정하기 위한 차분 거리 인덱스 및 차분 방향 인덱스 중 적어도 하나는 변환 단위 레벨, 부호화 단위 레벨, 최대 부호화 단위 레벨, 슬라이스 레벨 또는 픽처 레벨의 비트스트림에서 획득될 수 있다.
일 실시예에 따른 신택스 엘리먼트 획득부(1710)는 차분 거리 인덱스 중 일부 빈(bin)을 컨텍스트 정보(context variable)을 이용하여 엔트로피 복호화를 수행하고, 나머지 빈들은 바이패스 모드로 엔트로피 복호화를 수행함으로써 획득할 수 있다.
CABAC(Context Adaptive Binary Arithmetic Coding) 방식의 엔트로피 복호화를 비트스트림에 수행함으로써, 신택스 엘리먼트의 각 빈마다 추출되며, 각 빈마다 컨텍스트 정보를 이용될 수 있다. 컨텍스트 정보가 이용되지 않고 동등한 확률(0.5)로 확률 기반의 엔트로피 복호화를 수행하는 바이패스 모드의 복호화가 수행될 수도 있다. 현재 빈의 엔트로피 복호화를 위해 컨텍스트 정보가 이용되는지, 이용된다면 어떤 컨텍스트 정보가 이용될지 여부가 결정되어야 한다.
일 실시예에 따른 신택스 엘리먼트 획득부(1710)는 비트스트림에 컨텍스트 정보를 이용한 엔트로피 복호화를 수행하여, 머지 움직임 벡터 차분의 거리 인덱스의 첫번째 빈(bin)을 획득할 수 있다. 또한 신택스 엘리먼트 획득부(1710)는 비트스트림에 바이패스 모드를 통한 엔트로피 복호화를 수행하여 머지 움직임 벡터 차분의 거리 인덱스의 나머지 빈을 획득할 수 있다.
일 실시예에 따른 신택스 엘리먼트 획득부(1710)는 비트스트림에 바이패스 모드로 엔트로피 복호화를 수행함으로써 차분 방향 인덱스를 나타내는 2비트의 빈들을 획득할 수도 있다.
신택스 엘리먼트 획득부(1710)는 잔차 움직임 벡터를 나타내는 정보를 변환 단위 레벨, 부호화 단위 레벨, 최대 부호화 단위 레벨, 슬라이스 레벨 또는 픽처 레벨의 비트스트림에서 획득할 수 있다.
일 실시예에 따른 MMVD 모드에서, 기준 움직임 벡터로부터 결정가능한 움직임 벡터 후보들을 도 21을 참조하여 후술한다.
도 21은 일 실시예에 따른 움직임 벡터 후보들의 위치를 나타낸다.
일 실시예에 따른 복호화부(1720)는 기본 움직임 벡터에 머지 움직임 벡터 차분을 적용하여 현재 블록의 움직임 벡터를 결정할 수도 있다. 일 실시예에서, 현재 블록의 예측 방향이 양방향(bi-direction)인 경우, 머지 움직임 벡터 차분은 어느 하나의 단방향(uni-direction)만을 위해 비트스트림에 포함될 수도 있다. 예를 들어, 머지 움직임 벡터 차분을 나타내는 정보는 리스트 0 방향 및 리스트 1 방향 중 어느 하나의 단방향만을 위해 비트스트림에 포함될 수 있다.
도 21은 양방향 예측인 경우 MMVD 모드에서 결정가능한움직임 벡터를 도시한다.
현재 픽처(2100)의 현재 블록(2110)의 L0 방향의 기준 움직임 벡터(2125) 및 L1 방향의 기준 움직임 벡터(2135)는 머지 후보 리스트 중에서 결정된다. L0 방향의 기준 움직임 벡터(2125)는 L0 참조 픽처(2120) 중 점선 모양의 위치를 가리키고, L1 방향의 기준 움직임 벡터(2135)는 L1 참조 픽처(2130) 중 점선 모양의 위치를 가리킨다.
다만 MMVD 모드에서는 차분 방향 인덱스 및 차분 거리 인덱스에 기초하여, 기준 움직임 벡터(2125) 및 L1 방향의 기준 움직임 벡터(2135)에 각각 움직임 벡터 차분이 적용될 수 있다.
예를 들어, 차분 거리 인덱스에 따라 기준 움직임 벡터와 움직임 벡터 후보 간의 거리가 s, 2s, 3s??인지 결정될 수 있다. 차분 거리 인덱스가 s를 가리킨다면, 기준 움직임 벡터에 움직임 벡터 차분이 적용된 결과 생성된 움직임 벡터 후보는, L0 참조 픽처(2120) 및 L1 참조 픽처(2130) 중 검정색 원의 위치를 가리킬 수 있다. 차분 거리 인덱스가 2s를 가리킨다면, 기준 움직임 벡터에 움직임 벡터 차분이 적용된 결과 생성된 움직임 벡터 후보는, L0 참조 픽처(2120) 및 L1 참조 픽처(2130) 중 흰색 원의 위치를 가리킬 수 있다.
예를 들어, 차분 방향 인덱스에 따라 기준 움직임 벡터와 움직임 벡터 후보 간의 방향이 x, y 축 방향으로 +, - 인지 결정될 수 있다. 구체적으로, 차분 방향 인덱스는, (x,y) 축 방향으로 (+, 0), (-, 0), (0, +), (0, -) 중 하나를 가리킬 수 있다.
따라서, 차분 거리 인덱스와 차분 방향 인덱스를 조합하여 따라, L0 참조 픽처(2120) 및 L1 참조 픽처(2130) 중 하나의 위치를 가리키는 움직임 벡터가 결정될 수 있다.
이하에서는, 도 22를 참조하여, 기본 움직임 벡터로부터 결정 가능한 움직임 벡터 후보들을 결정하는 방법을 설명한다. 도 22 는 좌표 평면 상에 표시된 움직임 벡터 후보들을 나타내는 도면으로서, 1/4 화소 단위에 대응하는 기본 화소 단위를 기준으로 미리 결정된 차분 거리에 따라 결정된 움직임 벡터 후보들을 나타낸다.
도 22를 참조하면, 복호화부(1720)는 움직임 벡터 후보들을 구성함에 있어, 소정 형태를 따라 위치하는 후보들을 결정할 수 있다. 소정 형태는 마름모, 사각형 등의 다각형 또는 원형과 유사한 형태가 될 수 있다.
복호화부(1720)는 기본 움직임 벡터에 대응하는 지점에서 일정한 차분 거리에 있는 후보들을 움직임 벡터 후보들로 결정할 수 있다. 복호화부(1720)는 기 설정된 지점에서 제 1 차분 거리에 있는 움직임 벡터 후보들을 결정하고, 기 설정된 지점에서 제 2 차분 거리에 있는 움직임 벡터 후보들을 결정하고, 기 설정된 지점에서 제 n 차분 거리에 있는 움직임 벡터 후보들을 결정할 수 있다. 사용자의 정의에 따라 차분 거리가 결정될 수도 있다. 또는, 복호화부(1720)가 현재 블록, Temporal layer, GOP 등과 관련된 정보에 기초하여 차분 거리를 직접 결정할 수도 있고, 비트스트림을 통해 움직임 벡터 후보들을 결정하기 위한 차분 거리를 나타내는 정보를 획득할 수도 있다.
복호화부(1720)는 현재 블록에 대응하는 레벨보다 높은 하이 레벨에서 결정된 차분 거리에 따라 현재 블록의 움직임 벡터 후보를 결정하기 위한 차분 거리를 결정할 수도 있다.
움직임 벡터 후보들의 수는 각 차분 거리별로 독립적으로 결정될 수 있다. 복호화부(1720)는 현재 블록에 대응하는 레벨보다 높은 하이 레벨에서 결정된 개수 정보에 따라 현재 블록의 각 차분 거리별 움직임 벡터 후보의 개수를 결정할 수도 있다.
도 22은 각 차분 거리 내 움직임 벡터 후보들의 수가 4개인 경우를 도시한다. 또한, 도 22은 차분 거리가 3개인 경우를 도시하고 있지만, 차분 거리의 개수는 3개에 한정되지 않는다.
도 22를 참고하면, 복호화부(1720)는 기본 움직임 벡터 (x, y)(2201)를 기준으로 마름모 형태의 분포를 갖는 움직임 벡터 후보들을 결정할 수 있다.
복호화부(1720)는 기본 움직임 벡터 (x, y)(2201)로부터 1의 차분 거리에 있는 움직임 벡터 후보들 (x+1, y)(2202), (x-1, y)(2203), (x, y+1)(2204), (x, y-1)(2205)을 결정할 수 있다.
복호화부(1720)는 기본 움직임 벡터 (x, y)(2201)로부터 2의 차분 거리에 있는 움직임 벡터 후보들 (x+2, y)(2206), (x-2, y)(2207), (x, y+2)(2208), (x, y-2)(2209)을 결정할 수 있다.
복호화부(1720)는 기본 움직임 벡터 (x, y)(2201)로부터 4의 차분 거리에 있는 움직임 벡터 후보들 (x+4, y)(2210), (x-4, y)(2211), (x, y+4)(2212), (x, y-4)(2213)을 결정할 수 있다.
일 실시예에서, 복호화부(1720)는 기본 움직임 벡터별로 서로 상이한 차분 거리에 위치하는 움직임 벡터 후보를 결정할 수도 있다. 예를 들어, 복수의 기본 움직임 벡터 중 제 1 기본 움직임 벡터에 대해서는 1의 차분 거리를 갖는 움직임 벡터 후보를 결정하고, 제 2 기본 움직임 벡터에 대해서는 2의 차분 거리를 갖는 움직임 벡터 후보를 결정할 수 있다. 또는, 예를 들어, 제 1 기본 움직임 벡터에 대해서는 1의 차분 거리를 갖는 움직임 벡터 후보와 2의 차분 거리를 갖는 움직임 벡터 후보를 결정하고, 제 2 기본 움직임 벡터에 대해서는 4의 차분 거리를 갖는 움직임 벡터 후보와 8의 차분 거리를 갖는 움직임 벡터 후보를 결정할 수 있다.
기본 움직임 벡터별로 서로 상이한 차분 거리가 1:1로 매핑되어 있는 경우, 신택스 엘리먼트 획득부(1710)는 비트스트림으로부터 현재 블록의 기본 움직임 벡터를 나타내는 정보 또는 차분 거리를 나타내는 정보만을 획득하여, 현재 블록의 기본 움직임 벡터와 현재 블록의 움직임 벡터를 특정하기 위한 차분 거리를 결정할 수 있다.
전술한 바와 같이, 움직임 벡터 후보들을 결정하기 위한 차분 거리는 기본 화소 단위에 기초하여 결정될 수 있는데, 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위가 기본 화소 단위와 상이한 경우, 복호화부(1720)은 기본 움직임 벡터별로 후보 그룹을 구성하기 위한 기 설정된 차분 거리를 스케일링할 수 있다.
현재 블록의 움직임 벡터가 정수 화소 단위, 1/2 화소 단위, 1/4 화소 단위 및 1/8 화소 단위에 해당하는 픽셀들을 가리킬 수 있다면, 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위는 1/8 화소 단위가 된다. 그리고, 기본 화소 단위가 1/4 화소 단위라면, 복호화부(1720)는 차분 거리를 업 스케일링할 수 있다. 일 예에서, 복호화부(1720)는 기본 화소 단위와 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위의 비율에 따라 차분 거리를 업 스케일링할 수 있다. 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위가 m 화소 단위이고, 기본 화소 단위가 n 화소 단위이고, 차분 거리가 k이라면, 복호화부(1720)는 k의 차분 거리를 k * n / m 으로 업 스케일링할 수 있다.
일 실시예에 따른 신택스 엘리먼트 획득부(1710)는, 스킵 모드 및 머지 모드 중 하나로 현재 블록의 예측 모드를 결정할 수 있다. 스킵 모드 또는 머지 모드의 경우, 일 실시예에 따른 복호화부(1720)는, 스킵 모드 또는 머지 모드로 현재 블록의 움직임 벡터를 예측하기 위해 참조되는 이웃 블록들을 포함하는 머지 후보 리스트를 생성할 수 있다.
스킵 모드 또는 머지 모드의 경우, 신택스 엘리먼트 획득부(1710)는, 현재 블록의 머지 후보 리스트에서 결정된 움직임 벡터와 머지 움직임 벡터 차분을 이용하는지 여부를 나타내는 MMVD 정보를 획득할 수 있다. MMVD 정보에 따라 머지 움직임 벡터 차분이 이용되는 경우, 현재 블록의 머지 후보 리스트에서 결정된 움직임 벡터와 머지 움직임 벡터 차분을 이용하는 MMVD 모드에 따라 예측이 수행될 수 있다. MMVD 정보에 따라 머지 움직임 벡터 차분이 이용되는 경우, 신택스 엘리먼트 획득부(1710)는, 비트스트림으로부터 머지 인덱스를 획득할 수 있다. 일 실시예에 따른 복호화부(1720)는, 머지 후보 리스트 중에서 상기 머지 인덱스에 기초하여 결정된 하나의 후보로부터 기본 움직임 벡터를 결정할 수 있다. 복호화부(1720)는, 현재 블록의 머지 움직임 벡터 차분의 거리 인덱스 및 머지 움직임 벡터 차분의 방향 인덱스를 이용하여 머지 움직임 벡터 차분을 결정하고, 기본 움직임 벡터와 머지 움직임 벡터 차분을 이용하여 현재 블록의 움직임 벡터를 결정할 수 있다.
일 실시예에 따른 복호화부(1720)는 현재 블록의 움직임 벡터를 이용하여 현재 블록을 복원할 수 있다. 복호화부(1720)는, 현재 블록의 움직임 벡터를 이용하여 참조 픽처 내의 참조 블록을 결정하고, 참조 블록에 포함된 참조 샘플들로부터 현재 블록에 대응하는 예측 샘플들을 결정할 수 있다.
일 실시예에 따른 현재 블록의 예측 모드가 머지 모드이면서 MMVD 모드가 채택된 경우에, 복호화부(1720)는 머지 후보 리스트로부터 현재 블록의 기본 움직임 벡터를 결정하고, 기본 움직임 벡터와 머지 움직임 벡터 차분을 이용하여 현재 블록의 움직임 벡터를 결정할 수 있다. 현재 블록의 예측 모드가 머지 모드인 경우, 비디오 복호화 장치(1700)는 비트스트림으로부터 현재 블록의 변환 계수들을 파싱하고, 변환 계수들에 대해 역양자화 및 역변환을 수행하여 레지듀얼 샘플들을 획득할 수 있다. 복호화부(1720)는 현재 블록의 예측 샘플들에 현재 블록의 레지듀얼 샘플들을 조합하여 현재 블록의 복원 샘플들을 결정할 수 있다.
일 실시예에 따른 현재 블록의 예측 모드가 스킵 모드이면서 MMVD 모드가 채택된 경우에도, 복호화부(1720)는 머지 후보 리스트로부터 결정된 기본 움직임 벡터와 머지 움직임 벡터 차분을 이용하여 현재 블록의 움직임 벡터가 결정될 수 있다. 다만, 현재 블록의 예측 모드가 스킵 모드이므로 비디오 복호화 장치(1700)는 비트스트림으로부터 현재 블록의 변환 계수들을 파싱하지 않으므로 레지듀얼 샘플을 획득하지 않는다. 스킵 모드에서 복호화부(1720)는 레지듀얼 샘플 없이 현재 블록의 예측 샘플들을 현재 블록의 복원 샘플들로 결정할 수 있다.
이하, MMVD 모드로 인터 예측을 수행하는 과정을 비디오 복호화 방법을 도 18 및 도 36을 참조하여 후술한다.
도 18은 일 실시예에 따른 비디오 복호화 방법의 흐름도를 도시한다.
단계 1810에서, 신택스 엘리먼트 획득부(1710)는, 시퀀스 파라미터 세트로부터, 현재 시퀀스에서 MMVD 모드가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득할 수 있다.
단계 1820에서 신택스 엘리먼트 획득부(1710)는, 시퀀스 MMVD 정보에 따라 상기 MMVD 모드가 적용가능할 때, 현재 시퀀스에 포함된 현재 블록에 대해 제1 인터 예측 모드에서 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보를 비트스트림으로부터 획득할 수 있다.
단계 1830에서 복호화부(1830)에서 제1 MMVD 정보에 따라 제1 인터 예측 모드에서 MMVD 모드가 적용될 때, 비트스트림으로부터 획득한 움직임 벡터 차분 거리 및 움직임 벡터 차분 방향을 이용하여, 제1 인터 예측 모드에서 이용하기 위한 상기 현재 블록의 움직임 벡터를 복원할 수 있다.
MMVD 정보에 따라 현재 블록을 위해 머지 움직임 벡터 차분이 이용되는 경우, 신택스 엘리먼트 획득부(1710)는 비트스트림으로부터 머지 인덱스를 획득할 수 있다. 머지 인덱스는 머지 후보 리스트 중 하나의 후보를 가리킨다. 신택스 엘리먼트 획득부(1710)는 머지 후보 리스트 중에서 머지 인덱스에 기초하여 결정된 하나의 후보로부터 기본 움직임 벡터를 결정할 수 있다.
복호화부(1720)는 스킵 모드 또는 머지 모드일 때 획득된 MMVD 정보에 기초하여 현재 블록에 MMVD 모드가 채택되는지 여부를 결정할 수 있다. 신택스 엘리먼트 획득부(1710)는 현재 블록에 MMVD 모드가 채택되는 경우, 즉 현재 블록의 머지 후보 리스트에서 결정된 움직임 벡터와 머지 움직임 벡터 차분이 이용되는 경우, 머지 인덱스를 비트스트림으로부터 획득할 수 있다.
머지 인덱스는 1비트의 정보이다. 또한, 머지 인덱스의 첫번째 빈을 위한 하나의 컨텍스트 정보를 이용하여 머지 인덱스가 획득될 수 있다. 신택스 엘리먼트 획득부(1710)는 스킵 모드 또는 머지 모드인 경우에 머지 인덱스를 획득하기 위해 컨텍스트 정보를 이용한 엔트로피 복호화를 수행할 수 있다.
스킵 모드 또는 머지 모드에서 MMVD 모드가 채택되는 경우에 머지 인덱스에 의해 선택이 허용되는 후보의 최대 개수는 머지 후보 리스트에 포함된 후보의 최대 개수보다 적을 수 있다. 예를 들어 머지 인덱스는 1비트의 플래그이므로, 머지 인덱스는 머지 후보 리스트 중 최대 2개 중 하나의 후보를 가리킬 수 있다.
신택스 엘리먼트 획득부(1710)는, 비트스트림에 바이패스 모드를 통한 엔트로피 복호화를 수행하여, 머지 움직임 벡터 차분의 방향 인덱스를 나타내는 2개의 빈들을 획득할 수 있다. 신택스 엘리먼트 획득부(1710)는, 비트스트림에 컨텍스트 정보를 이용한 엔트로피 복호화를 수행하여 머지 움직임 벡터 차분의 거리 인덱스를 나타내는 첫번째 빈을 획득하고, 바이패스 모드를 통한 엔트로피 복호화를 수행하여 머지 움직임 벡터 차분의 거리 인덱스를 나타내는 나머지 빈들을 획득할 수 있다.
단계 1840에서, 복호화부(1720)는 현재 블록의 움직임 벡터를 이용하여 현재 블록을 복원할 수 있다.
복호화부(1720)는 현재 블록의 머지 움직임 벡터 차분의 거리 인덱스 및 머지 움직임 벡터 차분의 방향 인덱스를 이용하여, 현재 블록의 머지 움직임 벡터 차분을 결정하고, 기본 움직임 벡터와 머지 움직임 벡터 차분을 이용하여 현재 블록의 움직임 벡터를 결정할 수 있다.
복호화부(1720)는, 현재 블록의 움직임 벡터를 이용하여 참조 픽처 내의 참조 블록을 결정하고, 참조 블록에 포함된 참조 샘플들로부터 현재 블록에 대응하는 예측 샘플들을 결정할 수 있다. 복호화부(1720)는, 스킵 모드를 제외한 예측 모드에서 현재 블록의 예측 샘플들과 현재 블록의 레지듀얼 샘플들을 더하여 현재 블록의 복원 샘플들을 결정할 수 있다. 스킵 모드와 같이 레지듀얼 샘플들이 없는 경우, 현재 블록의 예측 샘플들만으로 현재 블록의 복원 샘플들이 결정될 수 있다.
스킵 모드도 아니고 머지 모드도 아닌 종래 움직임 벡터 예측 방식(AMVP 또는 ATMVP)의 경우, 비디오 복호화 장치(1700)는 움직임 벡터 프리딕터 인덱스 및 움직임 벡터 차분을 획득한다. 비디오 복호화 장치(1700)는 움직임 벡터 프리딕터 리스트 중에서 움직임 벡터 프리딕터 인덱스가 가리키는 움직임 벡터 프리딕터(motion vector predictor)를 결정하고, 움직임 벡터 프리딕터에 움직임 벡터 차분 정보를 조합하여 움직임 벡터를 결정할 수 있다.
스킵 모드 및 머지 모드는, 종래 움직임 벡터 예측 방식에 비해 움직임 벡터 차분을 이용하지 않는 차이점이 있다. 하지만, 스킵 모드 또는 머지 모드에서 MMVD 모드가 채택된다면, 머지 움직임 벡터 차분이 이용된다. 종래 움직임 벡터 예측 방식에 비해 움직임 벡터 차분에 비해, MMVD 모드에서의 머지 움직임 차분은 표현 방식의 간결성에 있다.
구체적인 예로, L0 예측 방향 또는 L1 예측 방향의 종래 움직임 벡터 차분을 표현하는데 필요한 정보는, 움직임 벡터 차분의 절대값이 0보다 큰지 여부를 나타내는 정보 abs_mvd_greater0_flag, 움직임 벡터 차분의 절대값이 1보다 큰지 여부를 나타내는 정보 abs_mvd_greater1_flag, 움직임 벡터 차분의 절대값에서 2를 뺀 값를 나타내는 정보 abs_mvd_minus2, 움직임 벡터 차분의 부호를 나타내는 정보 mvd_sign_flag를 포함한다.
이에 비해, L0 예측 방향 또는 L1 예측 방향의 머지 움직임 벡터 차분을 표현하는데 필요한 정보는, 차분 방향 정보 및 차분 거리 인덱스 뿐이다. 따라서, 차분 방향 정보 및 차분 거리 인덱스만을 이용하여 머지 움직임 벡터 차분을 표현할 수 있으므로, 종래 움직임 벡터 차분을 시그널링하는데 필요한 비트량에 비해, 머지 움직임 벡터 차분을 시그널링하는데 필요한 비트량은 현저히 감소할 수 있다.
도 36는 다른 실시예에 따른 비디오 복호화 방법의 흐름도를 도시한다.
단계 1810의 동작은 앞서 도 18 에서 설명한 바와 동일하다.
단계 1822 및 단계 1824는, 도 18의 단계 1820의 구체적인 동작에 해당한다. 단계 1822에서, 신택스 엘리먼트 획득부(1720)는 시퀀스 MMVD 정보에 따라 MMVD 모드가 적용가능할 때, 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 나타내는 서브픽셀 MMVD 정보를 획득하는 획득할 수 있다. 시퀀스 MMVD 정보에 따라 MMVD 모드가 적용가능하지 않을 때, 현재 시퀀스 및 현재 블록에서 정수 픽셀 단위의 움직임 벡터 차분 및 서브 픽셀 단위의 움직임 벡터 차분이 모두 적용 불가능할 수 있다.
단계 1824에서, 신택스 엘리먼트 획득부(1720)는 시퀀스 MMVD 정보에 따라 MMVD 모드가 적용가능할 때, 현재 시퀀스에 포함된 현재 블록에 대해 MMVD 모드가 적용되는지 여부를 나타내는 MMVD 정보를 획득할 수 있다. 즉, MMVD 정보는 현재 블록이 스킵 모드 또는 머지 모드일 때 MMVD 모드가 적용되는지 여부를 나타낸다.
신택스 엘리먼트 획득부(1710)는 스킵 모드 또는 머지 모드인 경우에 MMVD 정보를 획득하기 위해 컨텍스트 정보를 이용한 엔트로피 복호화를 수행할 수 있다. MMVD 정보가 획득되면 단계 1832으로 진행한다.
단계 1832는 도 18의 단계 1830의 구체적인 동작이다.
단계 1832에서, MMVD 정보에 따라 현재 블록에 대해 MMVD 모드가 적용될 때, 복호화부(1720)는, 서브픽셀 MMVD 정보에 따라 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 결정하고, 비트스트림으로부터 획득한 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 정수 픽셀 단위 또는 서브 픽셀 단위의 움직임 벡터 차분 거리로 복원할 수 있다.
MMVD 정보에 따라 현재 블록에 대해 MMVD 모드가 적용되고 서브픽셀 MMVD 정보에 따라 정수 픽셀 단위의 움직임 벡터 차분이 이용되는 경우에, 복호화부(1720)는, 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 정수 픽셀 단위의 움직임 벡터 차분 거리를 복원할 수 있다.
유사하게, MMVD 정보에 상기 현재 블록에 대해 MMVD 모드가 적용되고 서브픽셀 MMVD 정보에 따라 서브 픽셀 단위의 움직임 벡터 차분이 이용되는 경우에, 복호화부(1720)는, 현재 블록의 움직임 벡터 차분의 거리 인덱스로부터 서브 픽셀 단위의 움직임 벡터 차분 거리를 복원할 수 있다.
복원된 움직임 벡터 차분 거리가 정수 픽셀 단위일 때, 복호화부(1720)는 현재 블록의 기본 움직임 벡터의 x 성분값 및 y 성분값을 정수 픽셀 단위로 라운딩하고, 정수 픽셀 단위의 움직임 벡터 차분 거리 및 정수 픽셀 단위로 라운딩된 기본 움직임 벡터의 x 성분값 및 y 성분값을 이용하여, 정수 픽셀 단위의 움직임 벡터를 복원할 수 있다.
복원된 움직임 벡터 차분 거리가 서브 픽셀 단위일 때, 복호화부(1720)는 서브 픽셀 단위의 움직임 벡터 차분 거리 및 서브 픽셀 단위로 라운딩된 기본 움직임 벡터의 x 성분값 및 y 성분값을 이용하여, 서브 픽셀 단위의 움직임 벡터를 복원할 수 있다.
따라서, 시퀀스 파라미터 세트(SPS)로부터 획득한 시퀀스 MMVD 정보에 기초하여 현재 시퀀스에서 MMVD가 적용된다면, 비디오 복호화 장치(1700)는 서브픽셀 MMVD 정보 및 MMVD 정보를 비트스트림으로부터 추가로 획득할 수 있다. 하지만 시퀀스 MMVD 정보에 기초하여 현재 시퀀스에서 MMVD가 적용되지 않으면, 비디오 복호화 장치(1700)는 서브픽셀 MMVD 정보 및 MMVD 정보를 모두 비트스트림으로부터 추가로 파싱할 필요가 없다. SPS, 부호화 단위 신택스 등의 신택스 레벨에 따라 MMVD 적용 여부를 나타내는 정보를 단계적으로 획득함으로써, 비디오 복호화 장치(1700)가 MMVD 적용 여부와 관련된 신택스 엘리먼트의 복호화하기 위한 부담이 경감될 수 있다.
현재 VVC 표준에서는 1/4 픽셀, 1 픽셀, 4 픽셀 단위의 움직임 벡터의 해상도를 허용한다. 이 때, MVD (motion vector difference)의 정밀도에 움직임 벡터 프리딕터의 정밀도와 움직임 벡터의 해상도도 동일하도록 한다. 이 때, 정수 픽셀 단위 정밀도가 사용될 때, 움직임 벡터의 정밀도를 정수 픽셀 단위로 라운딩하여 부호화효율을 높일 수 있다. 하지만, 4 픽셀단위 해상도일 경우에 1 픽셀 단위 해상도로 라운딩을 수행하도록 한다. 이는 서브 픽셀 단위의 인터폴레이션 과정을 줄일 수도 있으며 또한 움직임 벡터 프리딕터의 정확성도 잃지 않을 수 있기 때문이다. 만약 4 pixel로 라운딩을 수행한다면 움직임 벡터 프리딕터의 정확도가 떨어질 수 있다. 결국 1 픽셀 이상으로 해상도가 결정된 움직임 벡터 프리딕터에 대해서는 1 픽셀 단위로의 라운딩이 수행될 수 있다.
움직임 벡터를 특정 픽셀 단위로만 저장했다가 필요할 때 시프트 연산을 복원하는 알고리즘이 이용될 수 있다. 이 경우에 움직임 벡터의 해상도에 따라 라운딩을 해야 하는 픽셀 단위가 아무리 작더라도 최소 라운딩 정보는 저장 단위의 해상도는 되야 한다.
이하, 스킵 모드 또는 머지 모드에서 MMVD 모드를 채택하여 인터 예측을 수행하는 비디오 부호화 장치를 도 19을 참조하여 후술한다.
도 19는 일 실시예에 따른 비디오 부호화 장치의 블록도를 도시한다.
도 19을 참조하면, 일 실시예에 따른 비디오 부호화 장치(1900)는 인터 예측 수행부(1910) 및 신택스 엘리먼트 부호화부(1920)를 포함할 수 있다.
비디오 부호화 장치(1900)는 인터 예측을 수행하여 결정된 움직임 정보를 부호화하여 비트스트림의 형태로 출력할 수 있다. 인터 예측 수행부(1910)는 각종 인터 예측 정보를 결정하고, 신택스 엘리먼트 부호화부(1920)가 인터 예측 정보를 신택스 엘리먼트의 형태로 부호화하여, 부호화 단위 또는 블록별로 신택스 엘리먼트의 묶음인 신택스의 형태로 비트스트림을 출력할 수 있다.
일 실시예에 따른 비디오 부호화 장치(1900)는, 인터 예측 수행부(1910) 및 신택스 엘리먼트 부호화부(1920)를 제어하는 중앙 프로세서(미도시)를 포함할 수 있다. 또는, 인터 예측 수행부(1910) 및 신택스 엘리먼트 부호화부(1920)가 각각의 자체 프로세서(미도시)에 의해 작동되며, 프로세서(미도시)들이 상호 유기적으로 작동함에 따라 비디오 부호화 장치(1900)가 전체적으로 작동될 수도 있다. 또는, 비디오 부호화 장치(1900)의 외부 프로세서(미도시)의 제어에 따라, 인터 예측 수행부(1910) 및 신택스 엘리먼트 부호화부(1920)가 제어될 수도 있다.
비디오 부호화 장치(1900)는, 인터 예측 수행부(1910) 및 신택스 엘리먼트 부호화부(1920)의 입출력 데이터가 저장되는 하나 이상의 데이터 저장부(미도시)를 포함할 수 있다. 비디오 부호화 장치(1900)는, 데이터 저장부(미도시)의 데이터 입출력을 제어하는 메모리 제어부(미도시)를 포함할 수도 있다.
비디오 부호화 장치(1900)는, 영상 부호화를 위해, 내부에 탑재된 비디오 인코딩 프로세서 또는 외부의 비디오 인코딩 프로세서와 연계하여 작동함으로써, 예측을 포함한 영상 부호화 동작을 수행할 수 있다. 일 실시예에 따른 비디오 부호화 장치(1900)의 내부 비디오 인코딩 프로세서는, 별개의 프로세서뿐만 아니라, 중앙 연산 장치 또는 그래픽 연산 장치가 영상 인코딩 프로세싱 모듈을 포함함으로써 기본적인 영상 부호화 동작을 구현할 수도 있다.
일 실시예에 따른 인터 예측 수행부(1910)는, 현재 블록에 대해 인터 예측을 수행하여 상기 현재 블록의 움직임 벡터를 결정할 수 있다.
일 실시예에 따른 인터 예측 수행부(1910)는, 스킵 모드 및 머지 모드 중 하나로 현재 블록에 대해 인터 예측이 수행되는 경우 현재 블록의 움직임 벡터를 예측 부호화하기 위해 참조되는 이웃 블록들을 포함하는 머지 후보 리스트를 생성할 수 있다.
일 실시예에 따른 신택스 엘리먼트 부호화부(1920)는, 스킵 모드 또는 머지 모드에서 현재 블록의 머지 후보 리스트에서 결정된 기본 움직임 벡터와 머지 움직임 벡터 차분을 이용하는지 여부를 결정할 수 있다. 머지 움직임 벡터 차분이 이용되는 경우, 신택스 엘리먼트 부호화부(1920)는, 머지 인덱스를 생성하고, 머지 인덱스의 비트열에 엔트로피 부호화를 수행할 수 있다. 머지 인덱스는 머지 후보 리스트 중 기본 움직임 벡터를 가리킨다.
신택스 엘리먼트 부호화부(1920)는, 기본 움직임 벡터와 상기 현재 블록의 움직임 벡터 간의 차이에 대응되는 머지 움직임 벡터 차분의 거리 인덱스 및 머지 움직임 벡터 차분의 방향 인덱스를 생성할 수 있다. 신택스 엘리먼트 부호화부(1920)는, 머지 움직임 벡터 차분의 거리 인덱스의 비트열에 엔트로피 부호화를 수행하고, 머지 움직임 벡터 차분의 방향 인덱스에 엔트로피 부호화를 수행할 수 있다.
일 실시예에 따라, 인터 예측 모드에서 이용될 수 있는 다양한 툴에 MMVD 모드가 적용될 수 있다. 따라서 비디오 부호화 장치(1900)는, 인터 예측 모드의 각 툴에 MMVD 모드가 적용되는지 여부를 나타내는 정보를 부호화할 수 있다.
일예로, 각 툴에서 MMVD 모드가 적용되는지 여부를 나타내는 정보만 부호화하는 첫번째 방식이 있을 수 있다.
다른 예로, 모든 툴에서 MMVD 모드가 적용되는지 여부를가 나타내는 정보를 먼저 부호하고, 적용 가능하다면 각 툴마다 MMVD 모드가 적용되는지 여부를 나타내는 정보를 부호화하는 두번째 방식이 있을 수 있다. 모든 툴에서 MMVD 모드가 적용되지 않는다면, 각 툴마다 MMVD 모드가 적용되는지 여부를 나타내는 정보는 부호화될 필요가 없다.
첫번째 방식에서는 만약 모든 툴에서 MMVD 모드가 적용되지 않는 경우에도, 비디오 부호화 장치(1900)는 MMVD 모드의 미적용을 나타내는 플래그를 다양할 툴마다 부호화하여야 한다.
반면 두번째 방식에 따르면, 모든 툴에서 MMVD 모드가 적용가능하지 않다면, 비디오 부호화 장치(1900)는 모든 툴에서 미적용을 나타내는 플래그만 부호화하고, 각 툴마다 MMVD 모드의 적용여부를 나타내는 플래그를 추가로 부호화할 필요가 없어, 부호화 효율이 높아질 수 있다.
두번째 방식에 따르면, 신택스 엘리먼트 부호화부(1910)는, 현재 시퀀스에서 MMVD 모드가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 먼저 부호화할 수 있다. 현재 시퀀스에서 MMVD 모드가 적용가능할 때, 복호화부(1720)는 제1 인터 예측 모드에서 MMVD 모드에 따라 움직임 벡터의 차분을 부호화할지 여부를 결정하고, 제2 인터 예측 모드에서 MMVD 모드에 따라 움직임 벡터의 차분을 부호화할지 여부를 결정할 수 있다. 이에 따라, 신택스 엘리먼트 부호화부(1910)는, 현재 시퀀스에 포함된 현재 블록에 대해 제1 인터 예측 모드에서 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보 및 제2 인터 예측 모드에서 MMVD 모드가 적용되는지 여부를 나타내는 제2 MMVD 정보를 추가로 부호화할 수 있다. 하지만, MMVD 모드가 적용가능하지 않다면, 일 실시에예 따른 신택스 엘리먼트 획득부(1710)는 시퀀스 MMVD 정보만 부호화하고, 제1 MMVD 정보 및 제2 MMVD 정보를 부호화할 필요가 없다.
두번째 방식에 따른 구체적 예로, 신택스 엘리먼트 부호화부(1910)는, 현재 시퀀스에서 MMVD 모드가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 부호화할 수 있다. 일 실시에예 따른 신택스 엘리먼트 부호화부(1910)는, MMVD 모드가 적용가능할 때, 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 나타내는 시퀀스 서브픽셀 MMVD 정보를 부호화할 수 있다. 일 실시에예 따른 신택스 엘리먼트 부호화부(1910)는, MMVD 모드가 적용가능할 때, 현재 시퀀스에 포함된 현재 블록에 대해 MMVD 모드가 적용되는지 여부를 나타내는 MMVD 정보를 부호화할 수 있다.
이하, 따른 비디오 부호화 장치(1900)가 상기 두번째 방식에 따라 시퀀스 MMVD 정보와 시퀀스 서브픽셀 MMVD 정보 및 MMVD 정보를 단계적으로 부호화하기 위한 실시예가 도 20 및 37을 참조하여 상술된다.
도 20은 일 실시예에 따른 비디오 부호화 방법의 흐름도를 도시한다.
단계 2010에서, 신택스 엘리먼트 부호화부(1920)는 현재 시퀀스에서 MMVD 모드가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 부호화할 수 있다.
단계 2020에서, 신택스 엘리먼트 부호화부(1920)는 현재 시퀀스에서 MMVD 모드가 적용가능할 때, 현재 블록에 대해 제1 인터 예측 모드에서 MMVD 모드가 적용되는지 여부를 나타내는 제1 MMVD 정보를 부호화할 수 있다.
단계 2030에서, 신택스 엘리먼트 부호화부(1920)는 제1 인터 예측 모드에서 MMVD 모드가 적용될 때, 현재 블록의 움직임 벡터 차분의 거리 인덱스 및 움직임 벡터 차분의 방향 인덱스를 부호화할 수 있다.
인터 예측 수행부(1910)는 스킵 모드 및 머지 모드 중 하나로 현재 블록에 대해 인터 예측이 수행되는 경우 현재 블록의 움직임 벡터를 예측하기 위해 참조되는 이웃 블록들을 포함하는 머지 후보 리스트를 생성할 수 있다. 신택스 엘리먼트 부호화부(1920)는 현재 블록의 머지 후보 리스트에서 결정된 기본 움직임 벡터와 머지 움직임 벡터 차분을 이용하는지 여부를 나타내는 MMVD 정보를 생성할 수 있다.
신택스 엘리먼트 부호화부(1920)는 머지 움직임 벡터 차분이 이용되는 경우, 머지 후보 리스트 중 하나의 기본 움직임 벡터를 가리키는 머지 인덱스를 생성할 수 있다. 신택스 엘리먼트 부호화부(1920)는 하나의 컨텍스트 정보를 이용하여 머지 인덱스의 비트열에 엔트로피 부호화를 수행할 수 있다.
신택스 엘리먼트 부호화부(1920)는 기본 움직임 벡터와 현재 블록의 움직임 벡터 간의 차이에 대응되는 머지 움직임 벡터 차분의 거리 인덱스 및 머지 움직임 벡터 차분의 방향 인덱스를 생성할 수 있다.
일 실시예에 따른 인터 예측 수행부(1910)는 현재 블록의 참조 픽처 내의 참조 블록을 가리키는 움직임 벡터를 결정할 수 있다.
일 실시예에 따른 인터 예측 수행부(1910)는, 스킵 모드 및 머지 모드 중 하나로 현재 블록의 움직임 벡터의 예측 모드를 결정할 수 있다. 신택스 엘리먼트 부호화부(1920)는 현재 블록의 예측 모드가 스킵 모드인지 여부를 나타내는 스킵 모드 정보, 예측 모드가 머지 모드인지 여부를 나타내는 머지 모드 정보를 생성할 수 있다.
현재 블록의 예측 모드가 스킵 모드 또는 머지 모드인 경우, 신택스 엘리먼트 부호화부(1920)는 현재 블록의 머지 후보 리스트에서 결정된 기본 움직임 벡터와 머지 움직임 벡터 차분을 이용하는 MMVD 모드로 현재 블록의 움직임 벡터를 예측하는지 여부를 결정할 수 있다. 신택스 엘리먼트 부호화부(1920)는 MMVD 모드로 움직임 벡터가 예측되는지 여부를 나타내는 MMVD 정보를 생성할 수 있다.
일 실시예에 따른 신택스 엘리먼트 부호화부(1920)는, MMVD 모드에 따라 움직임 정보가 예측되는 경우, 머지 후보 리스트 중에서 기본 움직임 벡터를 나타내는 머지 인덱스를 결정할 수 있다. 신택스 엘리먼트 부호화부(1920)는, 머지 후보 리스트 중 하나의 후보를 가리키는 머지 인덱스를 부호화하기 위해, 머지 인덱스에 대해 하나의 컨텍스트 정보를 적용한 엔트로피 부호화를 수행할 수 있다.
일 실시예에 따라 머지 후보 리스트 중에서 머지 인덱스가 가리킬 수 있는 후보의 개수는 최대 2개이므로, 머지 인덱스는 1비트의 정보일 수 있다.
신택스 엘리먼트 부호화부(1920)는, 현재 블록의 움직임 벡터와 기본 움직임 벡터 간의 머지 움직임 벡터 차분을 결정하고, 현재 블록의 머지 움직임 벡터 차분의 거리 인덱스 및 머지 움직임 벡터 차분의 방향 인덱스를 생성할 수 있다.
일 실시예에 따른 현재 블록의 예측 모드가 머지 모드이면서 MMVD 모드가 채택된 경우에, 신택스 엘리먼트 부호화부(1920)는 머지 후보 리스트 중에서 현재 블록의 기본 움직임 벡터를 가리키는 머지 인덱스를 생성하고, 현재 블록의 움직임 벡터와 기본 움직임 벡터 사이의 머지 움직임 벡터 차분을 나타내기 위한 차분 거리 정보와 차분 방향 정보를 생성할 수 있다.
현재 블록의 예측 모드가 머지 모드인 경우, 비디오 부호화 장치(1900)는 현재 블록의 움직임 벡터가 가리키는 참조 블록의 샘플들을 현재 블록의 예측 샘플들로 결정할 수 있다. 비디오 부호화 장치(1900)는 현재 블록의 원본 샘플과 예측 샘플들 간의 차이인 레지듀얼 샘플들을 결정할 수 있다. 비디오 부호화 장치(1900)는 현재 블록의 레지듀얼 샘플에 대해 변환 및 양자화를 수행하여 생성된 변환 계수들을 부호화할 수 있다.
일 실시예에 따라, 현재 블록의 예측 모드가 스킵 모드인 경우엔 현재 블록의 예측 샘플들만으로 현재 블록을 부호화하므로 비디오 부호화 장치(1900)는 현재 블록의 레지듀얼 샘플들을 부호화되지 않는다. 일 실시예에 따른 현재 블록의 예측 모드가 스킵 모드이면서 MMVD 모드가 채택된 경우에도, 신택스 엘리먼트 부호화부(1920)는 레지듀얼 샘플들의 부호화 없이, MMVD 정보, 머지 인덱스, 차분 거리 정보 및 차분 방향 정보를 부호화할 수 있다.
신택스 엘리먼트 부호화부(1920)는 MMVD 모드로 움직임 벡터가 후호화되는 경우, 머지 인덱스에 하나의 컨텍스트 정보를 적용하여 엔트로피 부호화를 수행할 수 있다. 머지 인덱스는 머지 후보 리스트 중 하나의 후보를 가리킨다. 일 실시예에 따른 머지 인덱스는 1비트의 정보이므로 첫번째 빈을 위한 하나의 컨텍스트 정보를 이용하여 획득될 수 있다.
신택스 엘리먼트 부호화부(1920)는 현재 블록의 머지 움직임 벡터 차분의 거리 인덱스 및 머지 움직임 벡터 차분의 방향 인덱스에 대해 엔트로피 부호화를 생성할 수 있다.
일 실시예에 따른 신택스 엘리먼트 획득부(1710)는, 머지 움직임 벡터 차분의 방향 인덱스를 나타내는 2개의 빈들에 각각 바이패스 모드를 통한 엔트로피 부호화를 수행할 수 있다. 신택스 엘리먼트 획득부(1710)는, 머지 움직임 벡터 차분의 거리 인덱스를 나타내는 첫번째 빈에 컨텍스트 정보를 이용한 엔트로피 복호화를 수행하고, 머지 움직임 벡터 차분의 거리 인덱스를 나타내는 나머지 빈들각각에 바이패스 모드를 통한 엔트로피 복호화를 수행할 수 있다.
도 23은 일 실시예에 따른 머지 인덱스, 머지 차분 거리 인덱스 및 머지 차분 방향 인덱스의 값과 의미를 나타낸다.
머지 차분 거리 인덱스는 머지 움직임 벡터 차분의 거리 인덱스를 나타낸다. 머지 차분 방향 인덱스는 머지 움직임 벡터 차분의 방향인덱스를 나타낸다.
비디오 복호화 장치(1700)는 머지 인덱스, 머지 차분 거리 인덱스 및 머지 차분 방향 인덱스에 기초하여 현재 블록의 움직임 벡터를 결정할 수 있다.
도 23의 표 2600은 일 실시예에 따른 머지 인덱스 및 그에 대응되는 움직임 벡터 후보를 도시한다. 일 실시예에 따른 머지 후보 리스트는 4개의 움직임 벡터 후보(1st, 2nd, 3rd, 4rd MV후보)를 포함하며, 머지 인덱스는 그 중에 하나를 나타내는 인덱스(0, 1, 2, 3)로 표시될 수 있다.
MMVD 모드에서, 머지 후보 리스트 중 머지 인덱스가 가리키는 하나의 움직임 벡터 후보가 기준 움직임 벡터로 결정될 수 있다.
도 23의 표 2610은 일 실시예에 따른 머지 차분 거리 인덱스는 0~7 중 하나의 정수이며, 각 인덱스는 절삭형 단항 부호화 방식에 따라 이진화될 수 있다. 머지 차분 거리의 인덱스는 2의 N승(N은 0~7) 중 하나를 가리킬 수 있다. 머지 차분 거리는 기본 화소 단위를 기준으로 결정된 것으로서, 기본 화소 단위가 1/4인 경우 머지 차분 거리 인덱스 0에 대응하는 머지 움직임 벡터 차분 거리는 1/4 화소 거리를 나타내고, 머지 차분 거리 인덱스 1에 대응하는 머지 움직임 벡터 차분 거리는 1/2 화소 거리를 나타낼 수 있다. 머지 차분 거리 인덱스 7에 대응되는 머지 움직임 벡터 차분 거리는 32 화소 거리를 나타낼 수 있다.
전술한 바와 같이, 현재 블록의 움직임 벡터가 가리킬 수 있는 최소의 화소 단위가 기본 화소 단위보다 작다면, 머지 움직임 벡터 차분 거리는 최소의 화소 단위와 기본 화소 단위 사이의 비율에 따라 스케일링될 수 있다. 예를 들어, 기본 화소 단위가 1/4 화소 단위이고, 최소 화소 단위가 1/8 화소 단위인 경우, 비트스트림으로부터 획득된 머지 움직임 벡터 차분 거리를 나타내는 인덱스가 0이면, 인덱스 0에 대응하는 머지 움직임 벡터 차분 거리 1은 2로 업 스케일링될 수 있다.
또한, 표 2620에서, 이진열 00의 머지 움직임 벡터 차분 방향 인덱스는 기본 움직임 벡터를 중심으로 x 축으로 + 방향을 따라 변경된 움직임 벡터 후보를 가리키고, 이진열 11의 머지 움직임 벡터 차분 방향 인덱스는 기본 움직임 벡터를 중심으로 y축으로 - 방향을 따라 변경된 움직임 벡터 후보를 가리킨다.
도 23에 도시된 머지 인덱스, 머지 차분 거리 인덱스 및 머지 차분 방향 인덱스는 일종의 예일 뿐, 본 개시에서 제안하는 MMVD 모드에서 이용 가능한 인덱스가 이에 한정되는 것은 아니다.
예를 들어, MMVD 모드에서 머지 후보 리스트 중에서 선택될 수 있는 후보의 개수는 2개로 제한되며 머지 인덱스는 1비트의 인덱스일 수 있다.
도 24은 일 실시예에 따른 기준 움직임 벡터와 머지 움직임 벡터 차분을 이용하여 움직임 벡터를 구하는 수식을 도시한다.
mvLX[x][y][n]은 현재 블록의 움직임 벡터를 나타낸다. x, y는 현재 블록의 x, y 좌표를 의미하고, n은 움직임 벡터 mvLX 의 수평 방향 성분 및 수직 방향 성분 중 하나를 나타낸다. mvLX[x][y][0]은 움직임 벡터 mvLX 의 수평 방향 성분을 나타내고, mvLX[x][y][1]은 움직임 벡터 mvLX 의 수직 방향 성분을 나타낸다.
mxLXN[m]는 머지 후보 리스트 중 머지 인덱스가 가리키는 기본 움직임 벡터를 나타낸다. m은 기본 움직임 벡터 mvLXN 의 수평 방향 성분 및 수직 방향 성분 중 하나를 나타낸다. mvLXN[0]은 기본 움직임 벡터 mvLXN 의 수평 방향 성분을 나타내고, mvLXN[1]은 기본 움직임 벡터 mvLXN 의 수직 방향 성분을 나타낸다.
refineMxLX[l]는 머지 움직임 벡터 차분을 나타낸다. l은 머지 움직임 벡터 차분 refineMxLX 의 수평 방향 성분 및 수직 방향 성분 중 하나를 나타낸다. refineMxLX[0]은 머지 움직임 벡터 차분 refineMxLX 의 수평 방향 성분을 나타내고, refineMxLX[1]은 머지 움직임 벡터 차분 refineMxLX 의 수직 방향 성분을 나타낸다.
mvLX, mxLXN, refineMxLX에서 LX는 L0 예측 방향 및 L1 예측 방향 중 하나를 가리킨다. 따라서, mvL0, mxL0N, refineMxL0는 L0 예측 방향의 움직임 벡터, 기본 움직임 벡터, 머지 움직임 벡터 차분을 나타내고, mvL1, mxL1N, refineMxL1는 L1 예측 방향의 움직임 벡터, 기본 움직임 벡터, 머지 움직임 벡터 차분을 나타낸다.
일 실시예에 따른 비디오 복호화 장치(1700)는 비트스트림으로부터 머지 인덱스를 획득하고, 머지 후보 리스트 중 머지 인덱스가 가리키는 기본 움직임 벡터의 수평 방향 성분 mxLXN[0], 기본 움직임 벡터의 수직 방향 성분 mxLXN[1]를 결정한다.
일 실시예에 따른 비디오 복호화 장치(1700)는 비트스트림으로부터 머지 차분 방향 인덱스 및 머지 차분 거리 인덱스를 획득하고, 머지 차분 방향 인덱스 및 머지 차분 거리 인덱스를 이용하여 머지 움직임 벡터 차분의 수평 방향 성분 refineMxLX[0], 머지 움직임 벡터 차분의 수직 방향 성분 refineMxLX[1]를 결정한다.
일 실시예에 따른 비디오 복호화 장치(1700)는 기본 움직임 벡터의 수평 방향 성분 mxLXN[0]과 머지 움직임 벡터 차분의 수평 방향 성분 refineMxLX[0]을 더하여 현재 블록의 움직임 벡터의 수평 방향 성분 mvLX[0][0][0]을 획득하고, 기본 움직임 벡터의 수직 방향 성분 mxLXN[1]과 머지 움직임 벡터 차분의 수직 방향 성분 refineMxLX[1]을 더하여 현재 블록의 움직임 벡터의 수직 방향 성분 mvLX[0][0][1]을 획득할 수 있다.
도 37는 다른 실시예에 따른 비디오 부호화 방법의 흐름도를 도시한다.
단계 2010의 동작은 도 20의 단계 2010에서 설명한 바와 동일하다.
단계 2022 및 2024는 도 20의 단계 2020의 구체적인 동작이다.
단계 2022에서, 인터 예측 수행부(1910)는 현재 시퀀스에서 MMVD 모드를 적용할지 여부를 결정할 수 있다. 이예 따라, 신택스 엘리먼트 부호화부(1920)는 현재 시퀀스에서 MMVD 모드가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 부호화할 수 있다.
단계 2022에서, MMVD 모드가 적용가능할 때, 인터 예측 수행부(1910)는 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 결정할 수 있다. 이예 따라, MMVD 모드가 적용가능할 때, 신택스 엘리먼트 부호화부(1920)는 현재 시퀀스에서 정수 픽셀 단위의 움직임 벡터 차분이 이용되는지 아니면 서브 픽셀 단위의 움직임 벡터 차분이 이용되는지 여부를 나타내는 서브픽셀 MMVD 정보를 부호화할 수 있다.
단계 2024에서, MMVD 모드가 적용가능할 때, 인터 예측 수행부(1910)는 현재 시퀀스에 포함된 현재 블록에 대해 MMVD 모드가 적용되는지 여부를 결정할 수 있다. 이예 따라, MMVD 모드가 적용가능할 때, 신택스 엘리먼트 부호화부(1920)는 현재 시퀀스에 포함된 현재 블록에 대해 MMVD 모드가 적용되는지 여부를 나타내는 MMVD 정보를 부호화할 수 있다.
단계 2032는 도 20의 단계 2030의 구체적인 동작이다. 단계 2032에서, 현재 블록에 대해 상기 MMVD 모드가 적용될 때, 신택스 엘리먼트 부호화부(1920)는 정수 픽셀 단위 또는 서브 픽셀 단위의 움직임 벡터 차분 거리에 따라 결정된 현재 블록의 움직임 벡터 차분의 거리 인덱스를 부호화할 수 있다.
현재 블록에 대해 MMVD 모드가 적용되고 정수 픽셀 단위의 움직임 벡터 차분이 이용되는 경우에, 신택스 엘리먼트 부호화부(1920)는 정수 픽셀 단위의 움직임 벡터 차분 거리에 기초하여 현재 블록의 움직임 벡터 차분의 거리 인덱스를 결정하고 부호화할 수 있다.
현재 블록에 대해 MMVD 모드가 적용되고 서브 픽셀 단위의 움직임 벡터 차분이 이용되는 경우에, 신택스 엘리먼트 부호화부(1920)는 서브 픽셀 단위의 움직임 벡터 차분 거리에 기초하여 현재 블록의 움직임 벡터 차분의 거리 인덱스를 결정하고 부호화할 수 있다.
MMVD 모드가 적용가능하지 않을 때, 신택스 엘리먼트 부호화부(1920)는 서브픽셀 MMVD 정보 및 MMVD 정보를 부호화하지 않을 수 있다.
움직임 벡터 차분 거리가 정수 픽셀 단위로 부호화될 때, 신택스 엘리먼트 부호화부(1920)는 현재 블록의 기본 움직임 벡터의 x 성분값 및 y 성분값을 정수 픽셀 단위로 라운딩하고, 정수 픽셀 단위로 라운딩된 기본 움직임 벡터의 x 성분값 및 y 성분값을 이용하여 정수 픽셀 단위의 움직임 벡터 차분 거리를 결정할 수 있다. 이에 따라, 신택스 엘리먼트 부호화부(1920)는 정수 픽셀 단위의 움직임 벡터 차분 거리에 대응되는 거리 인덱스를 부호화할 수 있다.
움직임 벡터 차분 거리가 서브 픽셀 단위로 부호화될 때, 신택스 엘리먼트 부호화부(1920)는 현재 블록의 기본 움직임 벡터의 x 성분값 및 y 성분값을 서브 픽셀 단위로 라운딩하고, 서브 픽셀 단위로 라운딩된 기본 움직임 벡터의 x 성분값 및 y 성분값을 이용하여 서브 픽셀 단위의 움직임 벡터 차분 거리를 결정할 수 있다. 이에 따라, 신택스 엘리먼트 부호화부(1920)는 서브 픽셀 단위의 움직임 벡터 차분 거리에 대응되는 거리 인덱스를 부호화할 수 있다.
따라서, 현재 시퀀스에서 MMVD가 적용되는 경우, 비디오 부호화 장치(1900)는 시퀀스 MMVD 정보 뿐만 아니라 서브픽셀 MMVD 정보 및 MMVD 정보를 추가로 부호화할 수 있다. 하지만 현재 시퀀스에서 MMVD가 적용되지 않으면, 비디오 복호화 장치(1700)는 시퀀스 MMVD 정보만 부호화하고, 서브픽셀 MMVD 정보 및 MMVD 정보를 모두 추가로 부호화할 필요가 없다. SPS, 부호화 단위 신택스 등의 신택스 레벨에 따라 MMVD 적용 여부를 나타내는 정보를 단계적으로 부호화함으로써, 비디오 부호화 장치(1900)가 MMVD 적용 여부와 관련된 신택스 엘리먼트를 부호화하기 위한 부담이 경감될 수 있다.
일 실시예에 따른 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)는, MMVD 모드에서 움직임 벡터의 크기 대신에 움직임 벡터 차분의 거리 인덱스를 시그널링할 수 있다. 또한, 움직임 벡터의 방향을 나타내주는 부호 정보 대신에, MMVD 모드에서는 머지 움직임 벡터 차분의 방향 인덱스가 시그널링될 수 있다.
움직임 벡터 차분의 거리 인덱스는, 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)에 탑재된 비디오 코덱에서 사용되는 움직임 벡터의 정밀도에 기초하여 표현될 수 있다. 예를 들어 VVC (Versatile Video Coding) 코덱에서는 MV가 내부적으로는 1/16 픽셀 단위로 사용되고 있다. 하지만 움직임 벡터를 나타내 주는 정밀도는 1/4로 표현되고 있다. 따라서 MMVD 모드의 거리 인덱스가 1이라고 한다면 1/4의 정밀도로 움직임 벡터의 변이가 표현된다는 것을 의미한다. 만약 MMVD 모드의 거리 인덱스가 2라고 한다면 1/2의 정밀도로 움직임 벡터의 변이가 표현된다는 것을 의미한다. 거리 인덱스에 의해서 복수 개의 움직임 벡터 정밀도가 표현될 수 있고, 움직임 벡터의 방향은 머지 움직임 벡터 차분의 방향 인덱스가 표현할 수 있다.
머지 후보 리스트에서 선택된 기본 움직임 벡터에 해당하는 움직임 벡터 프리딕터에 머지 움직임 벡터 차분이 더해질 수 있다. 거리 인덱스가 움직임 벡터의 정밀도를 표현하기 때문에 움직임 벡터 프리딕터도 동일한 정밀도로 라운딩되어야, 최종 움직임 벡터의 정밀도가 거리 인덱스의 정밀도에 부합할 수 있다.
프리딕터 (거리 인덱스의 정보로 라운딩된 값) + 머지 움직임 벡터 차분 ( 거리 인덱스 * 기설정된 정밀도 ) * 방향 인덱스
현재 움직임 벡터가 사용하는 인터 예측 모드에도 머지 움직임 벡터 차분의 정밀도가 적용될 수 있다. 현재 비디오 코덱에서 사용 가능한 스킵 모드, 머지 모드, 어파인 스킵 모드, 어파인 머지 모드, 인터/인트라 컴비네이션 모드, 제너럴라이즈드 B 모드, 트라이앵글 파티션 모드, AMVP 모드, AMVR(Adaptive Motion Vector Resolution) 모드, 어파인 AMVP 모드 등 인터 예측 모드의 움직임 벡터 프리딕터에 머지 움직임 벡터 차분의 거리 인덱스에 따른 움직임 벡터 정밀도 개념이 적용될 수 있다. 또한 각 인터 예측 모드에서 움직임 벡터 차분 성분( 1차 잔차 성분, 2차 잔차 성분, ??, N차 잔차 성분 포함 )에도 거리 인덱스에 따른 머지 움직임 벡터 차분의 거리 인덱스에 따른 움직임 벡터 정밀도 개념이 적용될 수 있다. 따라서, 각 인터 예측 모드에서 사용되는 각종 인덱스를 해당 움직임 벡터 정밀도로 해석하여 사용할 수 있다.
이하, 도 25 및 26을 참조하여 머지 차분 거리와 움직임 벡터 또는 움직임 벡터 프리딕터의 정밀도를 일치시키는 방법을 상술한다.
도 25은 일 실시예에 따라 머지 차분 거리 인덱스의 정밀도가 64인 경우에 움직임 벡터 프리딕터 또는 기본 움직임 벡터의 정밀도를 조절하기 위한 관계식을 도시한다. 도 26은 일 실시예에 따라 머지 차분 거리 인덱스의 정밀도가 16인 경우에 움직임 벡터 프리딕터 또는 기본 움직임 벡터의 정밀도를 조절하기 위한 관계식을 도시한다.
MMVD 모드는 기본적으로 움직임 벡터 차분의 표현을 로그 지수로 표현하도록 하는 방식이다. 일례로 움직임 벡터 또는 픽셀 위치의 정밀도를 1/4, 1/2, 1, 2, 4, 8, 16, 32로 선택할 수 있다. MMVD 모드에서 만약 움직임 벡터 차분이 정수 화소 단위로 표현이 될 경우 움직임 벡터 프리딕터도 정수 화소 단위로 설정함으로써, MMVD 모드에서 움직임 벡터 차분의 정밀도와 움직임 벡터 프리딕터의 정밀도를 동일하도록 설정할 수 있다. 움직임 벡터 차분의 정밀도와 움직임 벡터 프리딕터의 정밀도를 동일하게 함으로써, 움직임 보상을 위한 보간 필터링 과정이 생략될 수 있으며, 이를 통해 외부 메모리에 접속하기 위한 데이터 버스 대역폭이 절감되어 부복호화 효율이 높아질 수 있다.
구체적인 예로, 도 25와 26에서 움직임 벡터의 정밀도는 1/16이다. 움직임 벡터의 정밀도는 1/16이고 움직임 벡터 차분의 거리(distance)가 64인 경우, 움직임 벡터 차분의 거리는 정수 픽셀단위로 4 픽셀일 수 있다.
도 25에서, 실제 MVP(움직임 벡터 프리딕터 또는 기준 움직임 벡터)의 x, y 성분을 움직임 벡터 차분의 거리에 따라 4 픽셀 단위로 라운딩하기 위해, MVP의 x 성분 및 y 성분을 64로 반올림처리할 수 있다. MVP[0]은 MVP의 x 성분, MVP[1]은 MVP의 y 성분을 의미한다.
도 26에서, MVP을 항상 정수 픽셀 단위로 라운딩하는 경우 움직임 벡터의 정밀도는 1/16이기 때문에, MVP의 x 성분 및 y 성분을 16으로 반올림처리할 수 있다.
스킵 모드 또는 머지 모드에 사용되는 MMVD 모드의 적용 여부를 나타내는 정보, 및 다른 예측 방식에서 사용하는 MMVD 모드의 적용 여부를 나타내는 정보를 대표하는 플래그가 하이레벨 신택스에서 이용될 수 있다.
MMVD 모드는 움직임 벡터를 전송하기 위한 방법이기 때문에 디코더로 움직임 벡터 차분을 전송하는 모든 인터 예측 기술 및 움직임 벡터를 이용하는 인트라 예측 기술(예를 들어, CPR(current picture referencing) 기술)에서도 사용될 수 있다. 각 예측 기술들에 대한 MMVD 모드가 적용될 수 있는지 여부에 대한 인에이블 플래그(enable flag)가 하이레벨 신택스에 각각 포함할 수 있다.
또 다른 예로, 어파인 컨트롤 포인트(affine control point)에 적용하는 MMVD 모드, 서브블록 모드(sub-block mode)에 적용되는 MMVD 모드, 삼각파티션 예측 기법에 적용되는 MMVD 모드, 인트라/인터 혼합 예측 모드에 적용되는 MMVD 모드 등, 다른 예측 기술들을 위한 MMVD 모드에 대한 플래그를 대표하여, 스킵 모드에서의 MMVD 플래그와 머지 모드의 MMVD 플래그가 사용될 수 있다. 즉 하이레벨 신택스에서 MMVD 모드를 사용하는 모든 예측 기법들은 하나의 대표 MMVD 인에이블 플래그에 의해서 동시에 제어될 수 있다. MMVD 인에이블 플래그가 1이면 모든 예측 기법에서 MMVD 모드가 사용될 수 있고, MMVD 인에이블 플래그가 0이면 모든 예측 기법에서 MMVD 모드가 사용될 수 없다.
또 다른 예로, 하나의 대표 플래그가 시그널링될고, 세부 플래그들은 조건적으로 시그널링될 수 있다. 비디오 부호화 장치(1900)는 MMVD 모드가 적용되는 하나의 툴이 있으면, 일단 하이레벨 신택스에서 대표 플래그인 mmvd_enalble_flag를 전송할 수 있다. 비디오 복호화 장치(1700)는 mmvd_enalble_flag가 1이면 순차적으로 다른 인터 예측 기법에서의 MMVD 모드 적용 여부를 나타내는 플래그를 파싱하여 각 인터 예측 기법에서 MMVD 모드가 적용되는지 여부를 결정할 수 있다.
예를 들어 어파인 기법에서 MMVD 모드가 적용된 경우에, 대표 플래그인MMVD enable flag가 1이면 어파인 CP(control point)에 적용되는 MMVD 모드도 사용된 것으로 해석될 수 있다.
또 다른 예로, 대표 플래그인 MMVD enable flag가 1로 확인이 되면, MMVD 모드가 어떠한 인터 예측 기법에서든 사용되었음을 알 수 있다. 추가적으로 세부 인터 예측 기법별로 MMVD 모드에 대한 플래그를 파싱하여 각 인터 예측 기법에 MMVD 모드가 사용되었는지 결정할 수 있다. 이러한 기법별 신택스들은, 대표 mmvd enable flag에 대해 종속적인 파싱 관계에 있으며, 각각의 기법별 신택스들의 파싱관계는 병렬적일 수 있다.
MMVD 모드는 스킵 모드의 MMVD 모드와 머지 모드의 MMVD 모드, 두가지 모드가 있다. 일 실시예에 따른 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)는 현재 블록의 스킵 모드 플래그를 시그널링하여 스킵 여부를 결정한 후 MMVD 플래그를 시그널링하여, 스킵 모드이면서 MMVD 모드인지 여부가 결정된다. 또한, 스킵 모드가 아닌 경우 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)는 머지 플래그를 시그널링하여 머지 모드인지 여부를 결정한 후 MMVD 플래그를 시그널링하여 머지 모드 중이면서 MMVD 모드인지 여부가 결정된다. 비디오 복호화 장치(1700)는 MMVD 플래그가 스킵 모드 플래그와 머지 모드 플래그 중 어느 플래그 뒤에 시그널링되는지에 따라서, 레지듀얼의 유무를 간접적으로 알 수 있다. 즉, 스킵 모드 플래그 뒤에 MMVD 플래그가 시그널링되면 레지듀얼이 없지만, 머지 모드 플래그 뒤에 MMVD 플래그가 시그널링되면 레지듀얼이 존재할 수 있다.
이와 다른 예로, 이하, MMVD 모드가 스킵 모드 및 머지 모드와 독립적으로 사용될 수 있다. 일 실시예에 따른 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)가 독립적인 MMVD 플래그를 사용할 때는 레지듀얼 사용여부를 나타내 주는 별도의 정보를 시그널링하는 실시예를 후술한다.
일 실시예에 따라 비디오 부호화 장치(1900)는 MMVD 플래그 뒤에 별도로 레지듀얼의 사용여부에 대한 신택스 엘리먼트를 생성하여 전송할 수 있다. 예를 들어 만약 MMVD 플래그가 1이면 이어서 현재 블록의 레지듀얼을 전송할지 말지를 결정하는 플래그(예를 들어, no_residue_flag)가 별도로 전송될 수 있다. no_residue_flag 가 1이라면, 비디오 복호화 장치(1700)는 스킵 모드에서 MMVD 플래그가 1인 것으로 결정하고 레지듀얼 없이 복호화를 수행할 수 있다. no_residue_flag 가 0이라면, 머지 모드에서 MMVD 플래그가 1인 것으로 결정하고 레지듀얼을 추가로 파싱하여, 복호화를 수행할 수 있다.
또 다른 예로, HEVC 표준의 AMVP (advanced motion vector prediction)모드처럼 각각의 칼라성분, Y, Cb, Cr 성분의 레지듀얼이 존재하는지를 cbf를 통해 확인하고, 그 확인 결과에 따라 레지듀얼이 파싱될 수도 있다. 예를 들어, 부호화 단위의 cbf (cu_cbf), Y 성분의 변환단위의 cbf (tu_cbf_luma), Cb 성분의 변환단위의 cbf(tu_cbf_cb), Cr 성분의 변환단위의 cbf (tu_cbf_cr) 등을 시그널링하여, Y, Cb, Cr 성분, 각 성분에 대한 레지듀얼이 존재하는지 여부가 결정될 수 있다. 또 다른 예로, Y, Cb, Cr 성분 전체에서 레지듀얼이 존재하는지 여부를 나타내는 플래그가 시그널링될 수도 있다.
다른 예로, MMVD 모드가 스킵 모드에 허용되지 않고, 머지 모드에만 허용될 수도 있다. 일반 머지 모드에서 스킵 모드와 동일한 방식으로 움직임 정보가 예측되기 때문에, 머지 모드에서 항상 레지듀얼이 있다고 가정될 수 있다. 즉, HEVC 표준에서 root_cbf를 항상 1로 가정하여 Y, Cb, Cr 성분 중 최소 하나의 성분에는 레지듀얼이 있다고 가정된다. root_cbf 후에 각 성분(Y, Cb, Cr)에 대해 레지듀얼이 있는지 각각의 플래그가 시그널링될 수 있다. 하지만, MMVD 모드가 머지 모드에서만 허용되면, MMVD 모드에서 레지듀얼이 모두 없을 경우에도 Y, Cb, Cr에 대해 각각 레지듀얼이 있는지에 대한 플래그가 시그널링될 수 있다. 이 경우에는 머지 모드의 MMVD 모드이긴 하지만, 레지듀얼이 현재 블록에 존재하지 않는 경우, root_cbf 하나를 이용하여 레지듀얼의 유무를 결정할 수 있도록 root_cbf가 시그널링될 수 있다.
그리고 현재 VVC (versatile video coding) 표준에서 인트라 예측과 인터 예측을 결합하여 예측 데이터를 생성하는 모드, 혹은 블록의 대각선 꼭지점을 잇는 파티션을 허용하여 예측을 수행하는 삼각파티션 예측 모드도 머지 모드 에만 허용할 수 있다. 앞서 제안한 방법과 유사하게, 머지 모드의 MMVD 모드이긴 하지만, 레지듀얼이 현재 블록에 존재하지 않는 경우, root_cbf 하나를 이용하여 레지듀얼의 유무를 결정할 수 있도록 root_cbf가 시그널링될 수 있다.
도 27은 일 실시예에 따라 머지 관련 정보들의 이진화 방식을 결정하기 위한 참조 테이블을 도시한다.
예를 들어, MMVD 모드로 예측되는지 여부를 나타내는 신택스 엘리먼트 mmvd_merge_flag의 이진화 방식(Binarizatoin)은 고정길이 이진화 (fixed-length binarization; FL) 방식이고, 이 때 cMax 파라미터 값은 1이다. 머지 인덱스에 대응하는 mmvd_cand_flag의 이진화 방식도 고정길이 이진화 방식이고, 이 때 cMax 파라미터 값은 1일 수 있다.
머지 움직임 벡터 차분의 거리 인덱스에 대응하는 신택스 엘리먼트 mmvd_distance_idx의 이진화 방식은 절삭다항이진화(truncated Rice binarization; TR) 방식이고, 이 때 cMax 파라미터 값은 7, cRiceParam 값은 0일 수 있다. 머지 움직임 벡터 차분의 방향 인덱스에 대응하는 신택스 엘리먼트 mmvd_direction_idx의 이진화 방식은 고정길이 이진화 방식이고, 이 때 cMax 파라미터 값은 3일 수 있다.
이하, 도 28 내지 33을 참고하여, MMVD 관련 정보들을 위한 다양한 이진화 방식에 대해 상술한다.
도 28은 다양한 이진화 방식들에 따라 8개의 머지 차분 거리 인덱스의 이진열의 비교표를 도시한다.
머지 차분 거리 인덱스는 MMVD 모드에서 움직임 벡터 차분의 특정 거리를 나타내는 값으로 매핑될 수 있다. 일례로 인덱스 0, 1, 2, 3, 4, 5, 6, 7는 각각 움직임 벡터 차분의 거리 4, 8, 16, 32, 64, 128, 256, 512로 매핑될 수 있다. 또 다른 일례로 인덱스 0, 1, 2, 3, 4, 5, 6, 7는 각각 움직임 벡터 차분의 거리 1, 2, 4, 8, 16, 32, 64, 128로 매핑될 수도 있다.
도 28의 비교표는 머지 움직임 벡터 차분의 거리 인덱스가 0부터 7까지, 즉 8개인 경우에, 이진화 방식1 및 2에 따라 거리 인덱스에 대응되는 이진열을 보여준다.
이진화 방식 1은 절삭형 단항 이진화(truncated unary coding) 방식으로 인덱스가 작을수록 인덱스에 대응하는 이진열의 길이가 짧다. 이는 인덱스가 작을수록 그에 대응하는 움직임 벡터 차분의 거리가 가장 빈번하게 발생할 것이라는 가정하에 유용한 이진화 방식이다. 하지만, 영상의 특성과 해상도에 따라 첫번째 인덱스 0에 대응하는 움직임 벡터 차분의 거리가 가장 많이 발생하는 것은 아니다.
첫번째 인덱스가 가장 빈번하게 발생하는 움직임 벡터 차분의 거리에 대응되지 않더라고, 작은 인덱스가 가장 빈번하게 발생하는 움직임 벡터 차분의 거리에 대응된다는 사실은 변함이 없다. 이러한 사실을 기초로, 이진화 방식 2에 따르면, 비디오 부호화 장치(1900)는 거리 인덱스 0, 1, 2에 2비트의 이진열을 할당하고, 거리 인덱스 3, 4, 5, 6, 7에 이진화 방식 1에 비해 적은 비트수의 이진열을 할당한다. 따라서 이진화 방식 1에 비해 이진화 방식 2에 따라, 움직임 벡터 차분의 거리 인덱스가 발생하는 확률 및 그에 대응하는 이진열의 비트 수를 전반적으로 고르게 보정한 효과를 기대할 수 있다.
추가적인 실시예로, 비디오 부호화 장치(1900)는 실제 자연 영상에서 움직임 벡터 차분 거리 인덱스의 실제 발생확률에 따라 거리 인덱스에 대응하는 이진열을 결정할 수도 있다. 특정 움직임 벡터 차분 거리 인덱스의 발생 확률이 50% 이상이 되는 경우에, 해당 차분 거리에 대응하는 거리 인덱스에 1비트의 이진열을 할당하는 VLC 코딩(variable length coding)을 사용할 수 있다. 다만 전반적으로 움직임 벡터 차분 거리들의 발생 확률이 50% 미만인 경우에, 이진화 방식 2에 따라 움직임 벡터 차분의 거리 인덱스에 대응하는 이진열을 결정할 수 있다.
비디오 복호화 장치(1700)는 비디오 부호화 장치(1900)에서 선택된 이진화 방식에 따라 움직임 벡터 차분의 거리 인덱스에 대한 역이진화를 수행할 수 있다. 즉, 비디오 복호화 장치(1700)는 비트스트림으로부터 움직임 벡터 차분의 거리 인덱스의 이진열을 파싱하고, 비디오 부호화 장치(1900)에서 선택된 이진화 방식에 따라 이진열에 대응하는 움직임 벡터 차분의 거리 인덱스를 결정할 수 있다.
일 실시예에 따른 비디오 부호화 장치(1900)는 k-th order exp-golomb 이진화 방식에 따라 움직임 벡터 차분의 거리 인덱스를 결정할 수도 있다.
도 29는 k-th order exp-golomb 이진화 방식의 일 실시예를 도시한다.
k-th order exp-golomb binarization 방법은, k의 차수에 따라 확률 기반의 bit 표현 방법을 다양화하는 방식이다. k-th order exp-golomb binarization 방법은, 앞서 이진화 방식2에 비해 움직임 벡터 차분 거리의 발생 확률에 따른 이진열의 길이를 더 고르게 할 수 있다.
도 29에 도시된 바와 같이, 거리 인덱스 0, 1에 대응되는 비트열의 길이는 2, 거리 인덱스 2, 3, 4에 대응되는 비트열의 길이는 3, 거리 인덱스 5에 대응되는 비트열의 길이는 4, 거리 인덱스 6, 7에 대응되는 비트열의 길이는 5로 정의될 수 있다. k-차수가 변하면 각 거리 인덱스에 할당되는 이진열이 변할 수 있다.
다른 실시예로, TR 이진화 방식(truncated rice binarization process)에 따라 MMVD의 움직임 벡터 차분의 거리 인덱스의 이진열이 결정될 수 있다. 예를 들어 TR 이진화 방식에서 필요한 변수 cMax가 7, cRiceParam가 0로 설정되거나, cMax가 7, cRiceParam가 1로 설정될 수 있다.
또 다른 실시예로, 현재 시퀀스에서, 또는 현재 픽처에서, 또는 현재 슬라이스에서 또는 현재 타일에서 또는 현재 최대부호화단위에서, 즉 각 데이터레벨에서, 움직임 벡터 차분의 거리 인덱스의 발생하는 확률에 따라 TR 이진화 방식의 cRiceParam가 가변적으로 설정될 수 있다. cRiceParam이 커질수록 균등한 확률로 비트 할당이 가능하므로, 해당 레벨에서 cRiceParam를 별도로 설정하여 시그널링할 수 있다. 각 데이터레벨에서 사용되는 cRiceParam 정보는 해당 데이터레벨의 헤더 정보를 통해 시그널링될 수 있다.
더 구체적인 예로 각 데이터레벨 내에서 MMVD 움직임 벡터 차분의 거리 인덱스의 발생확률을 기반으로 이진화 방식을 가변적으로 변경할 수도 있다. 또한, 이진화 방식을 TR 이진화 방식으로 제한하지 않고, 다양한 발생 확률에 따라 미리 설정한 VLC 방식이나 FLC(fixed length coding) 방식의 이진화 테이블을 등을 기반으로 이진화 방식이 변경될 수도 있다.
또 다른 예로, 시퀀스 또는 픽쳐 또는 슬라이스 또는 타일 또는 CTU 마다 사용하는 MMVD 움직임 벡터의 거리 인덱스의 최대값을 가변적으로 변경암으로써 코딩 효율이 향상될 수 있다. 일례로 TR 이진화 방식을 사용하는 경우에 cMax 값을 변경할 수 있다. 6개의 거리 인덱스를 사용하기 위해서 cMax값을 5로 변경할 수 있다. cMax의 개수 정보는 현재 데이터레벨의 헤더 정보에 포함시킬 수 있다. 또한, 해당 데이터레벨 내에서 거리 인덱스의 발생 확률에 따라 cMax가 가변적으로 변경될 수도 있다.
다른 실시예로, MMVD 모드의 움직임 벡터 차분의 거리 인덱스를 이진화할 때 어떤 이진화 방식이 사용된다 할지라도, 거리 인덱스에 대응하는 이진열의 첫번째 비트에는 컨텍스트 모델이 적용되는 엔트로피 부호화가 수행될 수 있다. 심볼과 이진열을 매칭시키는 이진화 방식에서, 확률에 따라 심볼들을 그룹으로 나눌 때 이진열의 첫 비트가 심볼 그룹을 나누는 대분류를 의미하기 때문이다. 따라서 이진열의 첫번째 비트에 컨텍스트 모델을 적용한다면 더 높은 엔트로피 부호화 효율이 기대될 수 있다.
이진화 방식에 따라 두번째 비트에 컨텍스트 모델이 이용할 수 있다. 추가적으로 특정 복수의 거리 인덱스들의 발생 확률이 높을 경우에 컨텍스를 활용한 이진화 방식을 적용하여 엔트로피 부호화 효율이 높아질 수 있다. 일례로 앞서 이진화 방식 2 에서 거리 인덱스 0과 1의 발생확률이 큰 경우 첫번째 비트 및 두번째 비트에 컨텍스트를 활용한 이진화 방식을 적용하면 엔트로피 코딩 효율이 향상될 수 있다.
일례로, 컨텍스트를 활용한 이진화 방식이 이용되면 이진열의 첫번째 비트가 0이면 그에 대응하는 거리 인덱스는 0또는 1일 수 있고, 이진열의 첫번째 비트가 1이면 0과 1을 제외한 나머지 거리 인덱스임을 알 수 있다.
다른 예로, 첫번째 비트가 1인 경우에만 바로 뒤의 두번째 비트에 컨텍스트 모델이 적용할 수 있다. 이는 두번째 그룹(첫번째 비트가 1인 그룹)에서는 두번째 비트가 특정 확률로 분류될 수 있기 때문이다. 따라서 첫번째 비트가 1인 경우에 두번째 비트에 컨텍스트 모델이 적용되면 엔트로피 코딩 효율이 더 높아질 수 있다.
도 30은 다양한 이진화 방식들에 따라 6개의 머지 차분 거리 인덱스의 이진열의 비교표를 도시한다.
도 28과 유사하게, 거리 인덱스 0, 1, 2에 대응되는 비트열의 길이는 2, 거리 인덱스 3에 대응되는 비트열의 길이는 3, 거리 인덱스 4, 5에 대응되는 비트열의 길이는 4로 정의될 수 있다.
도 31은 일 실시예에 따라 머지 차분 거리 인덱스의 그룹별로 이진화 방식을 달리하여 생성된 이진열들을 도시한다.
도 31은 MMVD 모드의 움직임 벡터 차분의 거리 인덱스의 개수가 N개일때, 이진화 방식 1 및 이진화 방식 2에 따른 이진열을 도시한다. 거리 인덱스는 움직임 벡터의 특정 거리값에 매핑될 수 있다. 일례로, 움직임 벡터 차분 거리의 크기가 4, 8, 16, 32, 64, 128, 256, 512인 경우로 거리 인덱스가 매핑될 수 있다. 또 다른 일례로 움직임 벡터 차분 거리의 크기가 1, 2, 4, 8, 16, 32, 64, 128로 거리 인덱스가 매핑될 수 있다.
이진화 방식 1에 따르면, 거리 인덱스를 표한하기 위해 절삭형 단항 이진화 방식(T-unary coding : Truncated Unary Coding) 방식이 이용될 수 있다.
이에 반해, 엔트로피 부호화 효율을 향상시키기 위해 이진화 방식 2, 3에서는 별도로 거리 인덱스마다 하나의 신택스 엘리먼트를 추가하고자 한다. 이 신택스 엘리먼트는 해당 거리 인덱스들을 그루핑하는데 사용되는 플래그로서, 가장 유력한 거리 인덱스를 따로 모아 최소의 비트로 코딩하기 위함이다.
거리 인덱스의 그룹은 선택확률이 높은 거리 인덱스들의 집합으로, 주어진 거리 인덱스 리스트에서 가장 많이 선택된 인덱스들을 포함한 것이다. 따라서, 상기 플래그는 현재 프레임이나 슬라이스에서 이미 부호화된 블록들의 거리 인덱스 그룹에 의해 누적된 플래그들을 기초로 결정될 수 있다. 또 다른 예로, MMVD 모드로 부호화된 주변 블록의 해당 플래그를 이용하여 현재 블록의 플래그를 결정할 수도 있다.
거리 인덱스의 그룹에서 어느 거리 인덱스가 사용되는지에 대한 정보는 하이레벨 신택스를 통해 시그널링될 수 있으며, 상기 정보에 의해 선택된 거리 인덱스는 하이레벨 신택스 하위의 픽쳐, 타일, 슬라이스 등에서 사용될 수 있다.
이진화 방식 2에 따르면, 첫번째 거리 인덱스 0, 1을 유력한 후보로 가정하고, 거리 인덱스 0, 1을 포함하는 거리 인덱스 그룹 0이 결정될 수 있다. 나머지 거리 인덱스들을 포함하는 그룹 1이 결정될 수 있다. 그룹 0에 대해 그룹 플래그를 0로 할당하고, 그룹 1에 그룹 플래그를 1로 할당할 수 있다. 그룹 1에 포함된 인덱스의 개수는 일반적으로 거리 인덱스의 최대 개수에서 그룹 0에 포함된 인덱스의 개수를 뺌으로써 결정될 수 있다. 예를 들어, 거리 인덱스의 최대 개수 N+1에서 그룹 0의 인덱스 개수 2를 뺀 수가 그룹 1의 인덱스 개수일 수 있다.
그룹 플래그에 컨텍스트 모델이 적용될 수 있다. 선택 가능성이 있는 거리 인덱스들이 그룹 0에 포함되어 있기 때문에, 컨텍스트 모델을 통해 엔트로피 부호화 효율이 향상될 수 있다.
그룹 0에 포함된 인덱스들은 고정길이 이진화 방식(FLC : Fixed Length Coding)으로 부호화되고, 그룹 1에 포함된 인덱스들은 작은 순서대로 정렬되어 절삭형 단항 이진화 방식(T-unary coding)으로 부호화될 수 있다.
이진화 방식 3에 따르면, 첫 거리 인덱스 0, 1, 2, 3을 유력한 후보로 가정하 거리 인덱스 0, 1, 2, 3을 포함하는 그룹 0이 결정된다. 나머지 거리 인덱스를 포함하는 그룹 1이 결정된다. 그룹 1에 포함된 인덱스의 개수는 일반적으로 거리 인덱스의 최대 개수에서 그룹 0에 포함된 인덱스의 개수를 뺌으로써 결정될 수 있다.
그룹 플래그에 컨텍스트 모델이 적용될 수 있다. 그룹 0에 포함된 인덱스들은 고정길이 이진화 방식(FLC)으로 부호화되고, 그룹 1에 포함된 인덱스들은 작은 순서대로 정렬되어 절삭형 단항 이진화 방식(T-unary coding)으로 부호화될 수 있다.
도 31를 참조하여 설명한 이진화 방식 2, 3에서 그룹 0에 포함된 거리 인덱스는 반드시 고정길이 이진화 방식으로 부호화되고, 그룹 1에 포함된 거리 인덱스는 반드시 절삭형 단항 이진화 방식으로 부호화되는 것은 아니다. 그룹 0에 포함된 일부 인덱스는 고정길이 이진화 방식으로, 나머지 인덱스는 절삭형 단항 이진화 방식으로 부호화될 수 있다. 유사하게, 그룹 1에 포함된 일부 인덱스는 고정길이 이진화 방식으로, 나머지 인덱스는 절삭형 단항 이진화 방식으로 부호화될 수 있다.
이하, 도 32 및 33은 참조하여, 움직임 벡터 차분의 거리의 정밀도를 기준으로 코드워드를 다르게 할당하는 이진화 방식이 상술된다.
도 32는 일 실시예에 따라 8개의 머지 차분 거리 인덱스를 가지는 경우의 코드워드를 도시한다. 도 33는 일 실시예에 따라 6개의 머지 차분 거리 인덱스를 가지는 경우의 코드워드를 도시한다.
움직임 벡터 차분의 거리 오프셋은 2의 승수(2^n, n은 정수)로 표현되는 수로만 구성될 수 있다. 거리 오프셋이 서브 픽셀 단위의 정밀도인지 정수 픽셀 단위의 정밀도인지에 따라 거리 인덱스에 대한 코드워드를 할당할 수 있다. 구체적인 예로, 도 32에 따르면 움직임 벡터 차분의 거리의 총 개수가 8개이고 각각의 값이 1/4, 1/2, 1, 2, 4, 8, 16, 32일 수 있다. 서브 픽셀 단위의 거리 오프셋 1/4와 1/2이 하나의 그룹으로 결정되고, 나머지 거리 오프셋을 다른 그룹으로 구분하여, 그룹마다 다른 이진화 방식으로 거리 인덱스에 대한 코드워드가 할당될 수 있다. 각 정밀도 그룹별로 거리 인덱스의 코드워드를 고정길이 이진화 방식으로 결정하거나, 절삭형 단항 이진화 방식 등의 가변길이 이진화 방식으로 결정할 수 있다. 도 32는 8개의 거리 오프셋이 존재하는 실시예에서 거리 인덱스별 코드워드를 도시하고, 도 33은 6개의 거리 오프셋이 존재하는 실시예에서 거리 인덱스별 코드워드를 도시한다.
도 32와 33와 같은 이진화 방식은, 실제 서브 픽셀 정밀도의 거리 오프셋이 발생하는 확률이 정수 픽셀 단위의 정밀도의 거리 오프셋이 발생하는 확률보다 높을 경우에 효과적일 수 있다. 구체적으로 엔트로피 부호화 효율을 높이기 위해 정밀도 플래그 중 0의 확률을 높임으로써, 비트량을 절감하는 효과를 볼 수도 있다.
도 32와 33에 따른 코드워드의 표현 방식에 있어서, 정밀도 플래그와 각 정밀도 내 인덱스가 각각의 신택스 엘리먼트로 표현될 수 있다. 동일한 신택스 엘리먼트 상에서 비트에 따라 이진화 방식이 다르게 적용될 수도 있다.
이하, 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)가 삼각 파티션 모드 및 인트라/인터 혼합 예측 모드가 적용되는 실시예가 상술된다.
삼각파티션 모드(Triangular prediction unit mode)에 따르면, 사각 블록의 마주보는 꼭지점을 연결하는 대각선을 통해, 현재 블록을 두 개의 삼각형 파티션 형태로 나누어 삼각 파티션별로 예측이 수행될 수 있다. 두 개의 삼각 파티션의 예측블록이 맞닿는 영역은, 삼각 파티션 예측블록들에 대해 필터링을 수행하여 획득된 예측값으로 메꿈으로서, 새로운 사각형 예측블록이 생성되는 예측 기법이다.
도 34는 일 실시예에 따른 삼각파티션 예측모드에서 이용 가능한 삼각파티션을 도시한다.
현재 블록(3400)의 마주보는 좌상측 꼭지점과 우하측 꼭지점을 연결하여, 삼각파티션 PU1와 PU2가 결정될 수 있다. 현재 블록(3410)의 마주보는 우상측 꼭지점과 좌하측 꼭지점을 연결하여, 삼각파티션 PU1와 PU2가 결정될 수 있다.
현재 블록(3400, 3410)는 부호화 단위일 수 있다.
두 개의 삼각파티션을 이용한 예측을 통해 삼각파티션별로 다른 움직임 벡터가 결정되며, 움직임벡터에 대한 정보는 비디오 부호화 장치(1900) 및 비디오 복호화장치(1700) 간에 시그널링될 수 있다.
도 35는 일 실시예에 따른 삼각파티션 예측모드에서 삼각파티션들을 이용하여 결정한 예측블록을 도시한다.
예측블록(3500)의 크기가 8x8이고, 삼각파티션 모드를 통해 삼각파티션 예측 블록이 생성될 수 있다. 삼각파티션 예측 블록의 예측값 P1, P2에 대한 필터링을 통해 삼각파티션 예측 블록이 서로 맞닿는 중간영역의 최종 예측값이 결정될 수 있다. 예측블록 영역으로부터 삼각파티션 예측 블록까지의 거리에 반비례하여 필터링 가중치가 결정될 수 있다.
예를 들어, 예측블록(3500)의 중간영역의 픽셀마다 표시된 숫자 N는 필터링 가중치를 의미한다. N이 7인 경우, 삼각파티션 예측 블록 중 가까운 예측블록의 예측값 P1에 필터링 가중치 7/8를 부가하고(7/8* P1), 먼 예측블록의 예측값P2에 필터링 가중치 8-7=1를 부가하여(1/8* P2), 더한 가중합이 최종 예측값(7/8* P1+1/8* P2)으로 결정될 수 있다. N이 6인 경우, 삼각파티션 예측 블록 중 가까운 예측블록의 예측값 P1에 필터링 가중치 6/8를 부가하고(6/8* P1), 먼 예측블록의 예측값 P2에 필터링 가중치 8-6=2를 부가하여(2/8* P2), 더한 가중합이 최종 예측값(6/8* P1+2/8* P2)으로 결정될 수 있다.
예측블록(3510)의 크기가 4*4인 경우에도, N이 7인 경우, 삼각파티션 예측 블록 중 가까운 예측블록의 예측값 P1에 필터링 가중치 7/8를 부가하고(7/8* P1), 먼 예측블록의 예측값P2에 필터링 가중치 8-7=1를 부가하여(1/8* P2), 더한 가중합이 최종 예측값(7/8* P1+1/8* P2)으로 결정될 수 있다.
일 실시예에 따른 삼각파티션 모드는 작은 크기의 부호화 단위, 즉 부호화 단위의 너비와 높이의 곱이 64보다 작은 경우에 적용되지 않을 수 있다. 작은 블록에서는 삼각 파티션을 나누는 것이 부호화 단위의 분할 효과가 경감되기 때문이다.
또한, 너무 큰 부호화 단위 안의 객체를 삼각 파티션이 커버하지 못한다면 오히려 쿼드트리나 터너리 트리의 부호화 단위의 분할 방식이 더 효율적일 수 있다. 삼각파티션 모드에서 발생하는 플래그의 오버헤드도 손해이며 삼각파티션 예측의 연산이 과도해 부호화기의 복잡도를 증가시키므로, 삼각파티션 모드는 특정 큰 크기의 부호화 단위에서 비효율적일 수 있다.
따라서 일 실시예에 따른 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)는 다음 조건에 따라 삼각파티션 모드를 수행할지 여부를 결정할 수 있다. 여기서 MAX_CU_SIZE는 부호화 단위의 최대 크기를 나타낸다.
조건 1: ( width * height < 64 || width >= MAX_CU_SIZE || height >= MAX_CU_SIZE )
즉, 일 실시예에 따른 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)는 현재 블록의 크기 및 너비의 곱이 64보다 작거나, 현재 블록의 크기가 부호화 단위의 최대 크기보다 크거나, 현재 블록의 너비가 부호화 단위의 최대 크기보다 클 때, 현재 블록에 상기 삼각파티션 예측 모드의 적용이 불가능한 것으로 결정할 수 있다.
조건 1에 따라, 기대효율이 낮은 부분에서는 삼각파티션 모드의 적용을 방지함으로써 인코더 복잡도의 감소를 도모하고, 불필요한 모드 플래그의 시그널링도 방지할 수 함으로써 부호화 효율도 향상될 수 있다.
아래 조건 2와 같이 부호화 단위의 높이와 너비의 임계값이 MAX_CU_SIZE/2로 변형될 수도 있다.
조건 2: ( width * height < 64 || width >= MAX_CU_SIZE/2 || height >= MAX_CU_SIZE/2 )
일 실시예에 따른 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)는 인트라/인터 혼합모드를 통해 예측블록을 결정할 수 있다.
인트라/인터 혼합모드(Multi-hypothesis mode)는 현재 블록을 인트라 예측 모드와 인터 예측 모드로 각각 예측하여 각각의 예측블록을 생성하고, 두 개의 예측 블록을 가중평균하여 새로운 예측블록을 생성하는 기술이다.
인트라 예측 모드와 인터 예측 모드에 필요한 각각의 신택스 엘리먼트도 비디오 복호화 장치(1700)에 전송되어, 인트라 예측 및 인터 예측을 수행할 수 있도록 한다.
비디오 부호화 장치(1900)는 인터 예측 모드와 관련된 신택스 엘리먼트를 머지 인덱스 형태로 보내며, 비디오 복호화 장치(1700)는 움직임 벡터 및 참조픽쳐를 복원할 수 있다.
인트라 예측 모드와 관련된 신택스 엘리먼트는 4가지 모드(DC, 플라나, 수평, 및 수직 모드) 중 하나를 나타내는 인트라 예측 방향 정보를 포함할 수 있다.
일 실시예에 따른 인트라/인터 혼합모드는 작은 크기의 부호화 단위, 즉 부호화 단위의 너비와 높이의 곱이 64보다 작은 경우에 적용되지 않을 수 있다. 작은 블록에서는 인트라 예측 및 인터 예측의 혼합 연산에서 발생하는 연산량의 부담이 부호화 단위의 분할 효과에 비해 크기 때문이다.
따라서 일 실시예에 따른 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)는 다음 조건에 따라 삼각파티션 모드를 수행할지 여부를 결정할 수 있다. 여기서 MAX_CU_SIZE는 부호화 단위의 최대 크기를 나타낸다.
조건 1: ( width * height < 64 || width >= MAX_CU_SIZE || height >= MAX_CU_SIZE )
즉, 일 실시예에 따른 비디오 복호화 장치(1700) 및 비디오 부호화 장치(1900)는 현재 블록의 크기 및 너비의 곱이 64보다 작거나, 현재 블록의 크기가 부호화 단위의 최대 크기보다 크거나, 현재 블록의 너비가 부호화 단위의 최대 크기보다 클 때, 현재 블록에 인트라/인터 혼합모드의 적용이 불가능한 것으로 결정할 수 있다.
조건 1에 따라, 기대효율이 낮은 부분에서는 삼각파티션 모드의 적용을 방지함으로써 인코더 복잡도의 감소를 도모하고, 불필요한 모드 플래그의 시그널링도 방지할 수 함으로써 부호화 효율도 향상될 수 있다.
아래 조건 2와 같이 부호화 단위의 높이와 너비의 임계값이 MAX_CU_SIZE/2로 변형될 수도 있다.
조건 2: ( width * height < 64 || width >= MAX_CU_SIZE/2 || height >= MAX_CU_SIZE/2 )
또한, 일 실시예에 따른 비디오 복호화 장치(1700)는 삼각파티션 예측 모드가 적용가능한 경우에 인트라/인터 혼합예측 모드가 적용될 수 있는지 판단할 수 있다.
일 실시예에 따른 신택스 엘리먼트 획득부(1710)는 비트스트림으로부터 현재 블록에 삼각파티션 예측 모드가 적용가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득할 수 있다. 또한, 신택스 엘리먼트 획득부(1700)는 비트스트림으로부터 현재 블록에 인트라/인터 혼합예측 모드가 적용가능한지 여부를 나타내는 제2 정보를 획득할 수 있다.
일 실시예에 따른 복호화부(1710)는, 시퀀스 MMVD 정보에 기초하여 현재 블록에 삼각파티션 예측 모드가 적용가능한 경우에, 현재 블록의 크기 및 너비에 기초하여 삼각파티션 예측 모드를 현재 블록에 적용할지 여부를 결정할 수 있다. 현재 블록의 크기 및 너비의 곱이 64보다 작거나, 현재 블록의 크기가 부호화 단위의 최대 크기보다 크거나, 현재 블록의 너비가 부호화 단위의 최대 크기보다 클 때, 현재 블록에 삼각파티션 예측 모드의 적용이 불가능한 것으로 결정될 수 있다.
일 실시예에 따른 복호화부(1710)는, 시퀀스 MMVD 정보에 기초하여 현재 블록에 삼각파티션 예측 모드가 적용가능하고 제2 정보에 기초하여 현재 블록에 인트라/인터 혼합예측 모드가 적용가능한 경우에, 현재 블록의 크기 및 너비에 기초하여 인트라/인터 혼합예측 모드를 현재 블록에 적용할지 여부를 결정할 수 있다. 현재 블록의 크기 및 너비의 곱이 64보다 작거나, 현재 블록의 크기가 부호화 단위의 최대 크기보다 크거나, 현재 블록의 너비가 부호화 단위의 최대 크기보다 클 때, 현재 블록에 인트라/인터 혼합예측 모드의 적용이 불가능한 것으로 결정될 수 있다.
구체적으로, 삼각파티션 예측 모드가 적용가능하고 인트라/인터 혼합예측 모드가 적용가능하고, 또한 현재 블록의 크기 및 너비의 곱이 64보다 크거나 같고, 현재 블록의 크기가 부호화 단위의 최대 크기보다 작거나 같고, 현재 블록의 너비가 부호화 단위의 최대 크기보다 작거나 같을 때, 복호화부(1710)는, 인트라/인터 혼합예측 모드를 현재 블록에 적용할 수 있다.
유사하게, 일 실시예에 따른 비디오 부호화 장치(1900)는 삼각파티션 예측 모드가 적용가능한 경우에 인트라/인터 혼합예측 모드가 적용될 수 있는지 판단할 수 있다.
일 실시예에 따른 인터 예측 수행부(1910)는, 현재 블록에 삼각파티션 예측 모드가 적용가능한 경우에, 현재 블록의 크기 및 너비에 기초하여 삼각파티션 예측 모드를 현재 블록에 적용할지 여부를 결정할 수 있다. 현재 블록의 크기 및 너비의 곱이 64보다 작거나, 현재 블록의 크기가 부호화 단위의 최대 크기보다 크거나, 현재 블록의 너비가 부호화 단위의 최대 크기보다 클 때, 현재 블록에 삼각파티션 예측 모드의 적용이 불가능한 것으로 결정될 수 있다.
일 실시예에 따른 인터 예측 수행부(1910)는, 현재 블록에 삼각파티션 예측 모드가 적용가능하고 제2 정보에 기초하여 현재 블록에 인트라/인터 혼합예측 모드가 적용가능한 경우에, 현재 블록의 크기 및 너비에 기초하여 인트라/인터 혼합예측 모드를 현재 블록에 적용할지 여부를 결정할 수 있다. 현재 블록의 크기 및 너비의 곱이 64보다 작거나, 현재 블록의 크기가 부호화 단위의 최대 크기보다 크거나, 현재 블록의 너비가 부호화 단위의 최대 크기보다 클 때, 현재 블록에 인트라/인터 혼합예측 모드의 적용이 불가능한 것으로 결정될 수 있다.
일 실시예에 따른 신택스 엘리먼트 부호화부(1920)는 현재 블록에 삼각파티션 예측 모드가 적용가능한지 여부를 나타내는 시퀀스 MMVD 정보를 부호화할 수 있다. 또한, 신택스 엘리먼트 부호화부(1920)는 현재 블록에 인트라/인터 혼합예측 모드가 적용가능한지 여부를 나타내는 제2 정보를 부호화할 수 있다.
구체적으로, 삼각파티션 예측 모드가 적용가능하고 인트라/인터 혼합예측 모드가 적용가능하고, 또한 현재 블록의 크기 및 너비의 곱이 64보다 크거나 같고, 현재 블록의 크기가 부호화 단위의 최대 크기보다 작거나 같고, 현재 블록의 너비가 부호화 단위의 최대 크기보다 작거나 같을 때, 인터 예측 수행부(1910)는, 인트라/인터 혼합예측 모드를 현재 블록에 적용할 수 있다.
한편, 상술한 본 개시의 실시예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 작성된 프로그램은 매체에 저장될 수 있다.
매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수개 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 애플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.
이상, 본 개시의 기술적 사상을 바람직한 실시예를 들어 상세하게 설명하였으나, 본 개시의 기술적 사상은 상기 실시예들에 한정되지 않고, 본 개시의 기술적 사상의 범위 내에서 당 분야에서 통상의 지식을 가진 자에 의하여 여러 가지 변형 및 변경이 가능하다.

Claims (15)

  1. 시퀀스 파라미터 세트(sequence parameter set; SPS)로부터, 현재 시퀀스에서 MMVD 모드(merge mode with motion vector difference)가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득하는 단계;
    상기 시퀀스 MMVD 정보에 따라 상기 현재 시퀀스에서 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 인터 예측 모드에서 움직임 벡터 차분을 이용한 머지 모드가 이용되는지 여부를 나타내는 MMVD 정보를 비트스트림으로부터 획득하는 단계;
    상기 MMVD 정보에 따라 상기 현재 블록에 상기 움직임 벡터 차분을 이용한 머지 모드가 이용될 때, 상기 비트스트림에 컨텍스트 정보를 이용한 엔트로피 복호화를 수행하여 머지 움직임 벡터 차분의 거리 인덱스의 첫번째 빈을 획득하고, 상기 비트스트림에 바이패스 모드를 통한 엔트로피 복호화를 수행하여 상기 거리 인덱스의 나머지 빈을 획득하는 단계;
    상기 비트스트림에 바이패스 모드를 통해 엔트로피 복호화를 수행하여 상기 머지 움직임 벡터 차분의 방향 인덱스의 빈을 획득하는 단계;
    상기 머지 움직임 벡터 차분의 거리 인덱스 및 상기 머지 움직임 벡터 차분의 방향 인덱스를 이용하여 결정된 상기 머지 움직임 벡터 차분을 이용하여 상기 현재 블록의 움직임 벡터를 복원하는 단계; 및
    상기 현재 블록의 움직임 벡터를 이용하여 상기 현재 블록을 복원하는 단계를 포함하는 것을 특징으로 하는 비디오 복호화 방법.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
  6. 삭제
  7. 비디오 복호화 장치에 있어서,
    시퀀스 파라미터 세트(sequence parameter set; SPS)로부터, 현재 시퀀스에서 MMVD 모드(merge mode with motion vector difference)가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 획득하고, 상기 시퀀스 MMVD 정보에 따라 상기 현재 시퀀스에서 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 인터 예측 모드에서 움직임 벡터 차분을 이용한 머지 모드가 이용되는지 여부를 나타내는 MMVD 정보를 비트스트림으로부터 획득하는 신택스 엘리먼트 획득부; 및
    상기 MMVD 정보에 따라 상기 움직임 벡터 차분을 이용한 머지 모드가 이용될 때, 상기 비트스트림에 컨텍스트 정보를 이용한 엔트로피 복호화를 수행하여 머지 움직임 벡터 차분의 거리 인덱스의 첫번째 빈을 획득하고, 상기 비트스트림에 바이패스 모드를 통한 엔트로피 복호화를 수행하여 상기 거리 인덱스의 나머지 빈을 획득하고, 상기 비트스트림에 바이패스 모드를 통해 엔트로피 복호화를 수행하여 상기 머지 움직임 벡터 차분의 방향 인덱스의 빈을 획득하고, 상기 머지 움직임 벡터 차분의 거리 인덱스 및 상기 머지 움직임 벡터 차분의 방향 인덱스를 이용하여 결정된 상기 머지 움직임 벡터 차분을 이용하여 상기 현재 블록의 움직임 벡터를 복원하고, 상기 현재 블록의 움직임 벡터를 이용하여 상기 현재 블록을 복원하는 복호화부를 포함하는 것을 특징으로 하는 비디오 복호화 장치.
  8. 삭제
  9. 현재 시퀀스에서 MMVD 모드(merge mode with motion vector difference)가 적용 가능한지 여부를 나타내는 시퀀스 MMVD 정보를 부호화하고, 상기 시퀀스 MMVD 정보를 포함하는 시퀀스 파라미터 세트(sequence parameter set; SPS)를 생성하는 단계;
    상기 현재 시퀀스에서 상기 MMVD 모드가 적용가능할 때, 상기 현재 시퀀스에 포함된 현재 블록에 대해 인터 예측 모드에서 움직임 벡터 차분을 이용한 머지 모드가 이용되는지 여부를 나타내는 MMVD 정보를 부호화하는 단계;
    상기 현재 블록에 상기 움직임 벡터 차분을 이용한 머지 모드가 이용될 때, 머지 움직임 벡터 차분의 거리 인덱스의 첫번째 빈에 대해 컨텍스트 정보를 이용한 엔트로피 부호화를 수행하고 상기 거리 인덱스의 나머지 빈에 대해 바이패스 모드를 통한 엔트로피 부호화를 수행함으로써 상기 머지 움직임 벡터 차분의 거리 인덱스를 부호화하는 단계;
    상기 머지 움직임 벡터 차분의 방향 인덱스의 빈에 대해 바이패스 모드를 통해 엔트로피 부호화를 수행하여 상기 머지 움직임 벡터 차분의 방향 인덱스를 부호화하는 단계; 및
    상기 부호화된 머지 움직임 벡터 차분의 거리 인덱스 및 상기 부호화된 머지 움직임 벡터 차분의 방향 인덱스를 포함하는 비트스트림을 생성하는 단계를 포함하는 것을 특징으로 하는 비디오 부호화 방법.
  10. 삭제
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
  15. 삭제
KR1020217012767A 2018-12-28 2019-12-30 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치 KR102349457B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020227000389A KR20220008386A (ko) 2018-12-28 2019-12-30 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201862785742P 2018-12-28 2018-12-28
US62/785,742 2018-12-28
US201962792266P 2019-01-14 2019-01-14
US62/792,266 2019-01-14
PCT/KR2019/018738 WO2020139059A1 (ko) 2018-12-28 2019-12-30 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020227000389A Division KR20220008386A (ko) 2018-12-28 2019-12-30 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치

Publications (2)

Publication Number Publication Date
KR20210055781A KR20210055781A (ko) 2021-05-17
KR102349457B1 true KR102349457B1 (ko) 2022-01-10

Family

ID=71126657

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020227000389A KR20220008386A (ko) 2018-12-28 2019-12-30 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치
KR1020217012767A KR102349457B1 (ko) 2018-12-28 2019-12-30 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020227000389A KR20220008386A (ko) 2018-12-28 2019-12-30 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치

Country Status (6)

Country Link
US (3) US11627335B2 (ko)
EP (1) EP3905675A4 (ko)
KR (2) KR20220008386A (ko)
CN (1) CN113454991A (ko)
BR (1) BR112021012744A2 (ko)
WO (1) WO2020139059A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX2023010864A (es) * 2018-12-31 2024-04-23 Beijing Dajia Internet Information Tech Co Ltd Sistema y método de señalización de modos de fusión de movimiento en codificación de video.
US11758125B2 (en) * 2019-01-02 2023-09-12 Lg Electronics Inc. Device and method for processing video signal by using inter prediction
WO2020184461A1 (ja) * 2019-03-08 2020-09-17 株式会社Ｊｖｃケンウッド 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム、動画像復号装置、動画像復号方法及び動画像復号プログラム
US12003757B2 (en) * 2019-03-10 2024-06-04 Lg Electronics Inc. Video signal processing method and device for processing motion vector difference information for inter prediction in video signal
US20220286709A1 (en) * 2021-02-26 2022-09-08 Lemon Inc. Methods of coding images/videos with alpha channels

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080162432A1 (en) 2006-12-29 2008-07-03 Wen-Shan Wang Search table for unary k-th order exp-golomb decoder
CN110446037B (zh) * 2011-11-08 2022-01-04 韩国电子通信研究院 用于共享候选者列表的方法和装置
CN107566835B (zh) 2011-12-23 2020-02-28 韩国电子通信研究院 图像解码方法、图像编码方法和记录介质
US9894355B2 (en) * 2012-01-19 2018-02-13 Sony Corporation Image processing apparatus and method thereof
KR101586125B1 (ko) * 2013-12-17 2016-02-02 세종대학교산학협력단 영상의 복호화/부호화 방법 및 장치
CN112188207B (zh) 2014-10-31 2023-10-20 三星电子株式会社 使用高精度跳过编码的视频编码设备和视频解码设备及其方法
CN109005407B (zh) 2015-05-15 2023-09-01 华为技术有限公司 视频图像编码和解码的方法、编码设备和解码设备
WO2017122997A1 (ko) * 2016-01-11 2017-07-20 삼성전자 주식회사 영상 부호화 방법 및 장치와 영상 복호화 방법 및 장치
US10979732B2 (en) * 2016-10-04 2021-04-13 Qualcomm Incorporated Adaptive motion vector precision for video coding
GB2560720B (en) 2017-03-20 2021-08-25 Canon Kk Method and apparatus for encoding and transmitting at least a spatial part of a video sequence
US11172204B2 (en) 2017-09-12 2021-11-09 Samsung Electronics Co., Ltd. Method for encoding and decoding motion information and device for encoding and decoding motion information
US11051036B2 (en) * 2018-07-14 2021-06-29 Mediatek Inc. Method and apparatus of constrained overlapped block motion compensation in video coding
WO2020116456A1 (ja) * 2018-12-07 2020-06-11 シャープ株式会社 動画像復号装置
US11122272B2 (en) * 2018-12-26 2021-09-14 Mediatek Inc. Triangle prediction with applied-block settings and motion storage settings

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
BENJAMIN BROSS 등, 'Versatile Video Coding (Draft 3)', JVET-L1001-v7, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 12th Meeting: Macao, CN, 2018.12.20,*
SEUNGSOO JEONG 등, 'CE4 Ultimate motion vector expression (Test 4.5.4)', JVET-L0054, Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11, 12th Meeting: Macao, CN, 2018.10.11,*

Also Published As

Publication number Publication date
US20230232038A1 (en) 2023-07-20
EP3905675A1 (en) 2021-11-03
BR112021012744A2 (pt) 2021-09-08
EP3905675A4 (en) 2022-10-26
US11627335B2 (en) 2023-04-11
US20240107058A1 (en) 2024-03-28
KR20220008386A (ko) 2022-01-20
WO2020139059A1 (ko) 2020-07-02
CN113454991A (zh) 2021-09-28
KR20210055781A (ko) 2021-05-17
US20220021900A1 (en) 2022-01-20
US11871030B2 (en) 2024-01-09

Similar Documents

Publication Publication Date Title
KR102292620B1 (ko) 움직임 정보의 부호화 및 복호화 방법, 및 움직임 정보의 부호화 및 복호화 장치
KR102332528B1 (ko) 움직임 벡터 차분값을 이용한 비디오 부호화 및 복호화 방법, 및 움직임 정보의 부호화 및 복호화 장치
KR102408258B1 (ko) 움직임 정보의 부호화 및 복호화 방법, 및 움직임 정보의 부호화 및 복호화 장치
KR102349457B1 (ko) 움직임 벡터 차분의 부호화 방법 및 부호화 장치, 및 움직임 벡터 차분의 복호화 방법 및 복호화 장치
KR102366260B1 (ko) 움직임 정보의 부호화 및 복호화 방법, 및 움직임 정보의 부호화 및 복호화 장치
KR20200098520A (ko) 움직임 정보의 부호화 및 복호화 방법, 및 움직임 정보의 부호화 및 복호화 장치
KR20210088721A (ko) 삼각 예측 모드를 이용하는 영상 부호화 장치 및 영상 복호화 장치, 및 이에 의한 영상 부호화 방법 및 영상 복호화 방법
KR102332529B1 (ko) 주변 움직임 정보를 이용하여 움직임 정보를 부호화 및 복호화하는 장치, 및 방법
KR102302201B1 (ko) 서브 블록 기반으로 영상을 복호화하는 방법 및 장치, 부호화 방법 및 장치
KR102427330B1 (ko) 주변 움직임 정보를 이용하여 움직임 정보를 부호화 및 복호화하는 장치, 및 방법
KR102297479B1 (ko) 움직임 벡터의 부호화 장치 및 방법, 및 움직임 벡터의 복호화 장치 및 방법
CN111108750B (zh) 用于对运动信息进行编码和解码的方法以及用于对运动信息进行编码和解码的设备
KR102677426B1 (ko) 움직임 벡터의 부호화 장치 및 방법, 및 움직임 벡터의 복호화 장치 및 방법

Legal Events

Date Code Title Description
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant