KR20200081327A - 영상 부/복호화 방법 및 장치 - Google Patents

영상 부/복호화 방법 및 장치 Download PDF

Info

Publication number
KR20200081327A
KR20200081327A KR1020190176905A KR20190176905A KR20200081327A KR 20200081327 A KR20200081327 A KR 20200081327A KR 1020190176905 A KR1020190176905 A KR 1020190176905A KR 20190176905 A KR20190176905 A KR 20190176905A KR 20200081327 A KR20200081327 A KR 20200081327A
Authority
KR
South Korea
Prior art keywords
block
prediction
luminance
pixel
intra
Prior art date
Application number
KR1020190176905A
Other languages
English (en)
Inventor
전동산
이배근
Original Assignee
인텔렉추얼디스커버리 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인텔렉추얼디스커버리 주식회사 filed Critical 인텔렉추얼디스커버리 주식회사
Publication of KR20200081327A publication Critical patent/KR20200081327A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명에 따른 비디오 부호화/복호화 방법 및 장치는, 색차 블록의 인트라 예측 모드를 결정하고, 색차 블록의 성분 간 참조를 위한 휘도 영역을 특정하며, 특정된 휘도 영역을 다운샘플링하고, 색차 블록의 성분 간 참조를 위한 파라미터를 유도하며, 다운샘플링된 휘도 영역에 파라미터를 적용하여 색차 블록을 예측할 수 있다.

Description

영상 부/복호화 방법 및 장치{VIDEO ENCODING/DECODING METHOD AND APPARATUS}
본 발명은 비디오 신호 처리 방법 및 장치에 관한 것이다.
고해상도 비디오에 대한 시장의 수요가 증가하고 있으며, 이에 따라 고해상도 영상을 효율적으로 압축할 수 있는 기술이 필요하다. 이러한 시장의 요구에 따라 ISO/IEC의 MPEG (Moving Picture Expert Group)과 ITU-T의 VCEG (Video Coding Expert Group)이 공동으로 JCT-VC (Joint Collaborative Team on Video Coding)를 결성하여, HEVC (High Efficiency Video Coding) 비디오 압축 표준을 2013년 1월에 개발을 완료했으며, 차세대 압축 표준에 대한 연구 및 개발을 활발히 진행해오고 있다.
동영상 압축은 크게 화면 내 예측 (또는 인트라 예측), 화면 간 예측(또는 인터 예측), 변환, 양자화, 엔트로피(Entropy coding) 부호화, 인루프 필터(In-loop filter)로 구성된다. 한편, 고해상도 영상에 대한 수요가 증가함과 함께, 새로운 영상 서비스로서 입체 영상 컨텐츠에 대한 수요도 함께 증가하고 있다. 고해상도 및 초고해상도의 입체 영상 콘텐츠를 효과적으로 제공하기 위한 비디오 압축 기술에 대하여 논의가 진행되고 있다.
본 발명은 픽쳐를 적응적으로 분할하는 방법 및 장치를 제공하는데 목적이 있다.
본 발명은 인트라 예측 방법 및 장치를 제공하는데 목적이 있다.
본 발명은 인터 예측 방법 및 장치를 제공하는데 목적이 있다.
본 발명은 성분 간 참조 기반의 예측 방법 ?? 징치를 제공하는데 목적이 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치는, 색차 블록의 인트라 예측 모드를 결정하고, 상기 색차 블록의 성분 간 참조를 위한 휘도 영역을 특정하며, 상기 특정된 휘도 영역을 다운샘플링하고, 상기 색차 블록의 성분 간 참조를 위한 파라미터를 유도하며, 상기 색차 블록에 대응하는 휘도 블록과 상기 파라미터를 이용하여 상기 색차 블록을 예측할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 휘도 영역은, 상기 색차 블록에 대응하는 휘도 블록 또는 상기 휘도 블록에 인접한 이웃 영역 중 적어도 하나를 포함할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 색차 블록의 인트라 예측 모드는, 성분 간 참조 기반의 예측 모드로 구성된 소정의 그룹과 인덱스에 기초하여 유도될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 성분 간 참조 기반의 예측 모드는, 상기 색차 블록에 인접한 좌측 및 상단 영역을 모두 참조하는 제1 모드, 상기 색차 블록에 인접한 좌측 영역을 참조하는 제2 모드 또는 상기 색차 블록에 인접한 상단 영역을 참조하는 제3 모드 중 적어도 하나를 포함할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 휘도 블록에 인접한 이웃 영역은, 상단 이웃 영역과 좌측 이웃 영역 중 적어도 하나를 포함하고, 상기 상단 이웃 영역은 n개의 화소 라인을 포함하고, 상기 좌측 이웃 영역은 m개의 화소 라인을 포함할 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 휘도 블록에 인접한 이웃 영역에 대한 다운샘플링은, 특정 위치의 휘도 화소 및 상기 휘도 화소의 주변 화소만을 이용하여 수행될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 특정 위치는, 상기 색차 블록의 이웃 영역에 속한 복수의 화소 중 선택된 화소의 위치에 기초하여 결정될 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 선택된 화소는, 상기 색차 블록의 이웃 영역에서 소정의 간격마다 위치한 하나 또는 그 이상의 화소일 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 주변 화소는, 상기 휘도 화소의 좌측, 우측, 상단, 하단, 좌상단, 좌하단, 우상단 또는 우하단 중 적어도 하나의 방향에 위치한 화소일 수 있다.
본 발명에 따른 비디오 부호화/복호화 방법 및 장치에 있어서, 상기 성분 간 참조를 위한 파라미터를 유도하는 단계는, 상기 휘도 블록의 이웃 영역에 대한 다운샘플링을 통해 획득된 복수의 화소로부터 최대값 및 최소값을 산출하는 단계를 포함하고, 상기 성분 간 참조를 위한 파라미터는 상기 산출된 최대값 및 최소값을 이용하여 유도?? 수 있다.
본 발명에 따른 디지털 저장 매체는, 색차 블록의 인트라 예측 모드를 결정하고, 상기 색차 블록의 성분 간 참조를 위한 휘도 영역을 특정하며, 상기 특정된 휘도 영역을 다운샘플링하고, 상기 색차 블록의 성분 간 참조를 위한 파라미터를 유도하며, 상기 다운샘플링된 휘도 영역에 상기 파라미터를 적용하여 상기 색차 블록을 예측하는 처리를 실행하는 비디오 복호화 프로그램을 기록/저장할 수 있다.
본 발명은 소정의 단위로 픽쳐를 분할하여 부호화/복호화를 수행함으로써, 비디오 신호의 부호화/복호화 효율을 향상시킬 수 있다.
본 발명은 세분화된 방향성 모드 및/또는 선택적인 화소 라인을 이용함으로써 인트라 예측의 부호화 효율을 향상시킬 수 있다.
본 발명은 어파인 모드 또는 인터 영역 움직임 정보를 이용함으로써, 인터 예측의 부호화 효율을 향상시킬 수 있다.
본 발명은 휘도 영역에 대한 다운샘플링/서브샘플링을 통해 성분 간 참조 기반의 예측 효율을 향상시킬 수 있다.
도 1은 본 발명에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 2는 본 발명에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 3 내지 도 5는 본 발명이 적용되는 일실시예로서, 픽쳐를 복수의 블록으로 분할하는 방법을 도시한 것이다.
도 6은 본 발명이 적용되는 일실시예로서, 현재 블록을 복원하는 과정을 개략적으로 도시한 것이다.
도 7은 본 발명이 적용되는 일실시예로서, 인터 예측 방법을 도시한 것이다.
도 8 내지 도 10은 본 발명이 적용되는 일실시예로서, 어파인 인터 예측 방법을 도시한 것이다.
도 11은, 본 발명이 적용되는 일실시예로서, 머지 모드를 위한 공간적 주변 블록의 범위를 도시한 것이다.
도 12 내지 도 18은 본 발명이 적용되는 일시시예로서, 인터 영역의 움직임 정보를 이용한 머지 모드를 도시한 것이다.
도 19 및 도 20은 본 발명이 적용되는 일실시예로서, MPMM 기반의 머지 모드를 도시한 것이다.
도 21 내지 도 30은 본 발명이 적용되는 일실시예로서, 인트라 예측 방법을 도시한 것이다.
도 31은 본 발명이 적용되는 일실시예로서, 성분 간 참조 기반의 예측 방법을 도시한 것이다.
도 32 내지 도 38은 본 발명이 적용되는 일실시예로서, 휘도 블록의 주변 영역에 대한 다운샘플링 및 성분 간 참조를 위한 파라미터 유도 방법을 도시한 것이다.
도 39 및 도 40은 본 발명이 적용되는 일실시예로서, 복원 블록에 인루프 필터를 적용하는 방법을 도시한 것이다.
본 명세서에 첨부된 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
본 명세서 전체에서, 어떤 부분이 다른 부분과 '연결'되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 전기적으로 연결되어 있는 경우도 포함한다.
또한, 본 명세서 전체에서 어떤 부분이 어떤 구성요소를 '포함'한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다.
또한, 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
또한, 본 명세서에서 설명되는 장치 및 방법에 관한 실시예에 있어서, 장치의 구성 일부 또는 방법의 단계 일부는 생략될 수 있다. 또한 장치의 구성 일부 또는 방법의 단계 일부의 순서가 변경될 수 있다. 또한 장치의 구성 일부 또는 방법의 단계 일부에 다른 구성 또는 다른 단계가 삽입될 수 있다.
또한, 본 발명의 제1 실시예의 일부 구성 또는 일부 단계는 본 발명의 제2 실시예에 부가되거나, 제2 실시예의 일부 구성 또는 일부 단계를 대체할 수 있다.
덧붙여, 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 기술되고, 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있다. 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리 범위에 포함된다.
본 명세서에서, 블록은 단위, 영역, 유닛, 파티션 등으로 다양하게 표현될 수 있고, 샘플은 화소, 펠(pel), 픽셀 등으로 다양하게 표현될 수 있다.
이하, 첨부한 도면들을 참조하여, 본 발명의 실시예를 보다 상세하게 설명하고자 한다. 본 발명을 설명함에 있어 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 발명에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 1을 참조하면, 종래 영상 부호화 장치(100)는 픽쳐 분할부(110), 예측부(120, 125), 변환부(130), 양자화부(135), 재정렬부(160), 엔트로피 부호화부(165), 역양자화부(140), 역변환부(145), 필터부(150) 및 메모리(155)를 포함할 수 있다.
픽쳐 분할부(110)는 입력된 픽쳐를 적어도 하나의 처리 단위로 분할할 수 있다. 이때, 처리 단위는 예측 단위(Prediction Unit: PU)일 수도 있고, 변환 단위(Transform Unit: TU)일 수도 있으며, 부호화 단위(Coding Unit: CU)일 수도 있다. 이하, 본 발명의 실시예에서는 부호화 단위는 부호화를 수행하는 단위의 의미로 사용할 수도 있고, 복호화를 수행하는 단위의 의미로 사용할 수도 있다.
예측 단위는 하나의 부호화 단위 내에서 동일한 크기의 적어도 하나의 정사각형 또는 직사각형 등의 형태를 가지고 분할된 것일 수도 있고, 하나의 부호화 단위 내에서 분할된 예측 단위 중 어느 하나의 예측 단위가 다른 하나의 예측 단위와 상이한 형태 및/또는 크기를 가지도록 분할된 것일 수도 있다. 부호화 단위를 기초로 인트라 예측을 수행하는 예측 단위를 생성시 최소 부호화 단위가 아닌 경우, 복수의 예측 단위 NxN 으로 분할하지 않고 인트라 예측을 수행할 수 있다.
예측부(120, 125)는 인터 예측 또는 화면 간 예측을 수행하는 인터 예측부(120)와 인트라 예측 또는 화면 내 예측을 수행하는 인트라 예측부(125)를 포함할 수 있다. 예측 단위에 대해 인터 예측을 사용할 것인지 또는 인트라 예측을 수행할 것인지를 결정하고, 각 예측 방법에 따른 구체적인 정보(예컨대, 인트라 예측 모드, 움직임 벡터, 참조 픽쳐 등)를 결정할 수 있다. 생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록)은 변환부(130)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 움직임 벡터 정보 등은 잔차값과 함께 엔트로피 부호화부(165)에서 부호화되어 복호화기에 전달될 수 있다.
인터 예측부(120)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐의 정보를 기초로 예측 단위를 예측할 수도 있고, 경우에 따라서는 현재 픽쳐 내의 부호화가 완료된 일부 영역의 정보를 기초로 예측 단위를 예측할 수도 있다. 인터 예측부(120)는 참조 픽쳐 보간부, 움직임 예측부, 움직임 보상부를 포함할 수 있다.
참조 픽쳐 보간부에서는 메모리(155)로부터 참조 픽쳐 정보를 제공받고 참조 픽쳐에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 휘도 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.
움직임 예측부는 참조 픽쳐 보간부에 의해 보간된 참조 픽쳐를 기초로 움직임 예측을 수행할 수 있다. 움직임 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 움직임 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 움직임 벡터값을 가질 수 있다. 움직임 예측부에서는 움직임 예측 방법을 다르게 하여 현재 예측 단위를 예측할 수 있다. 움직임 예측 방법으로 스킵 모드(Skip Mode), 병합 모드(Merge 모드), AMVP 모드(AMVP Mode), 인트라 블록 카피(Intra Block Copy) 모드, 어파인 모드(Affine mode) 등 다양한 방법이 사용될 수 있다.
인트라 예측부(125)는 현재 픽쳐 내의 화소 정보인 현재 블록 주변의 참조 픽셀 정보를 기초로 예측 단위를 생성할 수 있다. 현재 예측 단위의 주변 블록이 인터 예측을 수행한 블록이어서, 참조 픽셀이 인터 예측을 수행한 픽셀일 경우, 인터 예측을 수행한 블록에 포함되는 참조 픽셀을 주변의 인트라 예측을 수행한 블록의 참조 픽셀 정보로 대체하여 사용할 수 있다. 즉, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀 정보를 가용한 참조 픽셀 중 적어도 하나의 참조 픽셀로 대체하여 사용할 수 있다.
또한, 예측부(120, 125)에서 생성된 예측 단위를 기초로 예측을 수행한 예측 단위와 예측 단위의 원본 블록과 차이값인 잔차값(Residual) 정보를 포함하는 잔차 블록이 생성될 수 있다. 생성된 잔차 블록은 변환부(130)로 입력될 수 있다.
변환부(130)에서는 원본 블록과 예측부(120, 125)를 통해 생성된 예측 단위의 잔차값(residual)정보를 포함한 잔차 블록을 DCT(Discrete Cosine Transform), DST(Discrete Sine Transform), KLT와 같은 변환 방법을 사용하여 변환시킬 수 있다. 잔차 블록을 변환하기 위해 DCT를 적용할지, DST를 적용할지 또는 KLT를 적용할지는 잔차 블록을 생성하기 위해 사용된 예측 단위의 인트라 예측 모드 정보를 기초로 결정할 수 있다.
양자화부(135)는 변환부(130)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(135)에서 산출된 값은 역양자화부(140)와 재정렬부(160)에 제공될 수 있다.
재정렬부(160)는 양자화된 잔차값에 대해 계수값의 재정렬을 수행할 수 있다.
재정렬부(160)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원의 블록 형태 계수를 1차원의 벡터 형태로 변경할 수 있다. 예를 들어, 재정렬부(160)에서는 지그-재그 스캔(Zig-Zag Scan)방법을 이용하여 DC 계수부터 고주파수 영역의 계수까지 스캔하여 1차원 벡터 형태로 변경시킬 수 있다. 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔 대신 2차원의 블록 형태 계수를 열 방향으로 스캔하는 수직 스캔, 2차원의 블록 형태 계수를 행 방향으로 스캔하는 수평 스캔이 사용될 수도 있다. 즉, 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔, 수직 방향 스캔 및 수평 방향 스캔 중 어떠한 스캔 방법이 사용될지 여부를 결정할 수 있다.
엔트로피 부호화부(165)는 재정렬부(160)에 의해 산출된 값들을 기초로 엔트로피 부호화를 수행할 수 있다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 부호화 방법을 사용할 수 있다. 관련하여, 엔트로피 부호화부(165)는 재정렬부(160) 및 예측부(120, 125)로부터 부호화 단위의 잔차값 계수 정보를 부호화 할 수 있다. 또한, 본 발명에 따라 움직임 정보를 디코더 측면에서 유도하여 사용함을 지시하는 정보 및 움직임 정보 유도에 사용된 기법에 대한 정보를 시그널링(signaling)하여 전송하는 것이 가능하다.
역양자화부(140) 및 역변환부(145)에서는 양자화부(135)에서 양자화된 값들을 역양자화하고 변환부(130)에서 변환된 값들을 역변환한다. 역양자화부(140) 및 역변환부(145)에서 생성된 잔차값(Residual)은 예측부(120, 125)에 포함된 움직임 추정부, 움직임 보상부 및 인트라 예측부를 통해서 예측된 예측 단위와 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다.
필터부(150)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter)중 적어도 하나를 포함할 수 있다. 디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다. ALF(Adaptive Loop Filtering)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 수행될 수 있다. 영상에 포함된 픽셀을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다.
메모리(155)는 필터부(150)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 인터 예측을 수행 시 예측부(120, 125)에 제공될 수 있다.
도 2는 본 발명에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 2를 참조하면, 영상 복호화기(200)는 엔트로피 복호화부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230, 235), 필터부(240), 메모리(245)가 포함될 수 있다.
영상 부호화기에서 영상 비트스트림이 입력된 경우, 입력된 비트스트림은 영상 부호화기와 반대의 절차로 복호화될 수 있다.
엔트로피 복호화부(210)는 영상 부호화기의 엔트로피 부호화부에서 엔트로피 부호화를 수행한 것과 반대의 절차로 엔트로피 복호화를 수행할 수 있다. 예를 들어, 영상 부호화기에서 수행된 방법에 대응하여 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 방법이 적용될 수 있다.
엔트로피 복호화부(210)에서는 부호화기에서 수행된 인트라 예측 및 인터 예측에 관련된 정보를 복호화할 수 있다.
재정렬부(215)는 엔트로피 복호화부(210)에서 엔트로피 복호화된 비트스트림을 부호화부에서 재정렬한 방법을 기초로 재정렬을 수행할 수 있다. 1차원 벡터 형태로 표현된 계수들을 다시 2차원의 블록 형태의 계수로 복원하여 재정렬할 수 있다.
역양자화부(220)는 부호화기에서 제공된 양자화 파라미터와 재정렬된 블록의 계수값을 기초로 역양자화를 수행할 수 있다.
역변환부(225)는 영상 부호화기에서 수행한 양자화 결과에 대해 변환부에서 수행한 변환 즉, DCT, DST, 및 KLT에 대해 역변환 즉, 역 DCT, 역 DST 및 역 KLT를 수행할 수 있다. 역변환은 영상 부호화기에서 결정된 전송 단위를 기초로 수행될 수 있다. 영상 복호화기의 역변환부(225)에서는 예측 방법, 현재 블록의 크기 및 예측 방향 등 복수의 정보에 따라 변환 기법(예를 들어, DCT, DST, KLT)이 선택적으로 수행될 수 있다.
예측부(230, 235)는 엔트로피 복호화부(210)에서 제공된 예측 블록 생성 관련 정보와 메모리(245)에서 제공된 이전에 복호화된 블록 또는 픽쳐 정보를 기초로 예측 블록을 생성할 수 있다.
전술한 바와 같이 영상 부호화기에서의 동작과 동일하게 인트라 예측 또는 화면 내 예측을 수행시 예측 단위의 크기와 변환 단위의 크기가 동일할 경우, 예측 단위의 좌측에 존재하는 픽셀, 좌측 상단에 존재하는 픽셀, 상단에 존재하는 픽셀을 기초로 예측 단위에 대한 인트라 예측을 수행하지만, 인트라 예측을 수행시 예측 단위의 크기와 변환 단위의 크기가 상이할 경우, 변환 단위를 기초로 한 참조 픽셀을 이용하여 인트라 예측을 수행할 수 있다. 또한, 최소 부호화 단위에 대해서만 NxN 분할을 사용하는 인트라 예측을 사용할 수도 있다.
예측부(230, 235)는 예측 단위 판별부, 인터 예측부 및 인트라 예측부를 포함할 수 있다. 예측 단위 판별부는 엔트로피 복호화부(210)에서 입력되는 예측 단위 정보, 인트라 예측 방법의 예측 모드 정보, 인터 예측 방법의 움직임 예측 관련 정보 등 다양한 정보를 입력 받고 현재 부호화 단위에서 예측 단위를 구분하고, 예측 단위가 인터 예측을 수행하는지 아니면 인트라 예측을 수행하는지 여부를 판별할 수 있다. 반면, 만약 부호화기(100)에서 상기 인터 예측을 위한 움직임 예측 관련 정보를 전송하지 않고, 대신 움직임 정보를 디코더 측면에서 유도하여 사용함을 지시하는 정보 및 움직임 정보 유도에 사용된 기법에 대한 정보를 전송하는 경우에는, 상기 예측 단위 판별부는 부호화기(100)로부터 전송된 정보를 기초로 하여, 인터 예측부(230)의 예측 수행을 판별하게 된다.
인터 예측부(230)는 영상 부호화기에서 제공된 현재 예측 단위의 인터 예측에 필요한 정보를 이용해 현재 예측 단위가 포함된 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 정보를 기초로 현재 예측 단위에 대한 인터 예측을 수행할 수 있다. 인터 예측을 수행하기 위해 부호화 단위를 기준으로 해당 부호화 단위에 포함된 예측 단위의 움직임 예측 방법이 스킵 모드(Skip Mode), 병합 모드(Merge 모드), AMVP 모드(AMVP Mode), 인트라 블록 카피 모드(Intra block copy mode), 어파인 모드(Affine mode) 중 어떠한 방법인지 여부를 판단할 수 있다.
인트라 예측부(235)는 현재 픽쳐 내의 화소 정보를 기초로 예측 블록을 생성할 수 있다. 예측 단위가 인트라 예측을 수행한 예측 단위인 경우, 영상 부호화기에서 제공된 예측 단위의 인트라 예측 모드 정보를 기초로 인트라 예측을 수행할 수 있다.
인트라 예측부(235)에는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소에 필터링을 수행하는 부분으로써 현재 예측 단위의 예측 모드에 따라 필터의 적용 여부를 결정하여 적용할 수 있다. 영상 부호화기에서 제공된 예측 단위의 예측 모드 및 AIS 필터 정보를 이용하여 현재 블록의 참조 화소에 AIS 필터링을 수행할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.
참조 화소 보간부는 예측 단위의 예측 모드가 참조 화소를 보간한 화소값을 기초로 인트라 예측을 수행하는 예측 단위일 경우, 참조 화소를 보간하여 정수값 이하의 화소 단위의 참조 화소를 생성할 수 있다. 현재 예측 단위의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.
복원된 블록 또는 픽쳐는 필터부(240)로 제공될 수 있다. 필터부(240)는 디블록킹 필터, 오프셋 보정부, ALF를 포함할 수 있다.
영상 부호화기로부터 해당 블록 또는 픽쳐에 디블록킹 필터를 적용하였는지 여부에 대한 정보 및 디블록킹 필터를 적용하였을 경우, 강한 필터를 적용하였는지 또는 약한 필터를 적용하였는지에 대한 정보를 제공받을 수 있다. 영상 복호화기의 디블록킹 필터에서는 영상 부호화기에서 제공된 디블록킹 필터 관련 정보를 제공받고 영상 복호화기에서 해당 블록에 대한 디블록킹 필터링을 수행할 수 있다.
오프셋 보정부는 부호화시 영상에 적용된 오프셋 보정의 종류 및 오프셋 값 정보 등을 기초로 복원된 영상에 오프셋 보정을 수행할 수 있다. ALF는 부호화기로부터 제공된 ALF 적용 여부 정보, ALF 계수 정보 등을 기초로 부호화 단위에 적용될 수 있다. 이러한 ALF 정보는 특정한 파라메터 셋에 포함되어 제공될 수 있다.
메모리(245)는 복원된 픽쳐 또는 블록을 저장하여 참조 픽쳐 또는 참조 블록으로 사용할 수 있도록 할 수 있고 또한 복원된 픽쳐를 출력부로 제공할 수 있다.
도 3 내지 도 5는 본 발명이 적용되는 일실시예로서, 픽쳐를 복수의 블록으로 분할하는 방법을 도시한 것이다.
도 3을 참조하면, 픽쳐(300)는 복수개의 기본 코딩 유닛(Coding Tree Unit, 이하, CTU)으로 나누어진다.
픽쳐 또는 비디오 시퀀스 단위로 CTU의 크기를 규정할 수 있으며, 각 CTU는 다른 CTU와 겹치지 않도록 구성되어 있다. 예를 들어, 전체 시퀀스에서 CTU 사이즈를 128x128로 설정할 수 있고, 픽쳐 단위로 128x128 내지 256x256 중 어느 하나를 선택해서 사용할 수도 있다.
CTU를 계층적으로 분할하여 코딩 블록/코딩 유닛(Coding Unit, 이하 CU)을 생성할 수 있다. 코딩 유닛 단위로 예측 및 변환을 수행할 수 있으며, 예측 부호화 모드를 결정하는 기본 단위가 된다. 예측 부호화 모드는 예측 영상을 생성하는 방법을 나타내며, 화면 내 예측 (intra prediction, 이하, 인트라 예측), 화면 간 예측(inter prediction, 이하, 인터 예측) 또는 복합 예측(combined prediction)등을 예로 들수 있다. 구체적으로 예를 들어, 코딩 유닛 단위로 인트라 예측, 인터 예측 또는 복합 예측 중 적어도 어느 하나의 예측 부호화 모드를 이용하여 예측 블록(prediction block)을 생성할 수 있다. 화면 간 예측 모드에서 참조 픽쳐가 현재 픽쳐를 가리키는 경우에는 이미 복호화된 현재 픽쳐 내 영역을 기반으로 예측 블록을 생성할 수 있다. 이는, 참조 픽쳐 인덱스와 움직임움직임 벡터를 이용하여 예측 블록을 생성하기 때문에 화면 간 예측에 포함될 수 있다. 인트라 예측은 현재 픽쳐의 정보를 이용하여 예측 블록을 생성하는 방법이고, 인터 예측은 이미 복호화된 다른 픽쳐의 정보를 이용하여 예측 블록을 생성하는 방법이며, 복합 예측은 인터 예측과 인트라 예측을 혼합하여 사용하는 방법이다. 복합 예측은, 하나의 코딩 블록을 구성하는 복수의 서브 영역 중 일부 영역은 인터 예측으로 부호화/복호화하고, 나머지 영역은 인트라 예측으로 부호화/복호화할 수 있다. 또는, 복합 예측은, 복수의 서브 영역에 대해서 1차적으로 인터 예측을 수행하고, 2차적으로 인트라 예측을 수행할 수 있다. 이 경우, 코딩 블록의 예측값은, 인터 예측에 따른 예측값과 인트라 예측에 따른 예측값을 가중 평균하여 유도될 수 있다. 하나의 코딩 블록을 구성하는 서브 영역의 개수는, 2개, 3개, 4개 또는 그 이상일 수 있고, 서브 영역의 형태는, 사각형, 삼각형, 기타 다각형일 수 있다.
도 4를 참조하면, CTU는 쿼드 트리, 바이너리 트리 또는 트리플 트리 형태로 분할 (파티셔닝)될 수 있다. 분할된 블록은 다시 쿼드 트리, 바이너리 트리 또는 트리플 트리 형태로 추가 분할될 수 있다. 현재 블록을 4개의 정방 형태 파티션으로 나누는 방법을 쿼드 트리 파티셔닝이라고 부르고, 현재 블록을 2개의 정방 또는 비정방 형태 파티션으로 나누는 방법을 바이너리 트리 파티셔닝이라고 부르며, 현재 블록을 3개의 파티션으로 나누는 방법을 바이너리 트리 파티셔닝이라고 부른다.
수직 방향으로 바이너리 파티셔닝(도 4의 SPLIT_BT_VER)을 수직 바이너리 트리 파티셔닝이라고 부르며, 수평 방향으로 바이너리 트리 파티셔닝 (도 4의 SPLIT_BT_HOR)을 수평 바이너리 트리 파티셔닝이라고 부른다.
수직 방향으로 트리플 파티셔닝 (도 4의 SPLIT_TT_VER)을 수직 트리플 트리 파티셔닝이라고 부르며, 수평 방향으로 트리플 트리 파티셔닝 (도 4의 SPLIT_TT_HOR)을 수평 트리플 트리 파티셔닝이라고 부른다.
분할 횟수를 파티셔닝 뎁스(partitioning depth)라고 부르며, 시퀀스, 픽쳐, 서브 픽쳐, 슬라이스 또는 타일 별로 파티셔닝 뎁스가 최대치를 서로 다르게 설정할 수도 있으며, 파티셔닝 트리 형태(쿼드 트리/바이너리 트리/트리플 트리)에 따라 서로 다른 파티셔닝 뎁스를 가지도록 설정할 수 있으며, 이를 나타내는 신택스를 시그날링할 수도 있다.
쿼드 트리 파티션닝, 바이너리 트리 파니셔닝 또는 기타 멀티 트리 파티셔닝(예를 들어, 터너리 트리 파티셔닝)과 같은 방법으로, 분할된 코딩 유닛을 추가로 분할하여 리프 노드(leaf node)의 코딩 유닛을 구성하거나 추가 분할 없이 리프 노드(leaf node)의 코딩 유닛을 구성할 수도 있다.
도 5를 참조하면, 하나의 CTU를 계층적으로 분할하여 코딩 유닛을 설정할 수 있으며, 바이너리 트리 파티셔닝, 쿼드 트리 파티셔닝/트리플 트리 파티셔닝 중 적어도 어느 하나를 이용하여 코딩 유닛을 분할할 수 있다. 이와 같은 방법을 멀티 트리 파티셔닝(Multi tree partitioning)이라고 부른다.
파티셔닝 뎁스가 k인 임의의 코딩 유닛을 분할하여 생성된 코딩 유닛을 하위 코딩 유닛이라하며, 파티셔닝 뎁스는 (k+1)이 된다. 파티셔닝 뎁스 (k+1)인 하위 코딩 유닛을 포함하고 있는 파티셔닝 뎁스 k인 코딩 유닛을 상위 코딩 유닛이라 한다.
상위 코딩 유닛의 파티셔닝 타입 및/또는 현재 코딩 유닛의 주변에 있는 코딩 유닛의 파티셔닝 타입에 따라 현재 코딩 유닛의 파티셔닝 타입이 제한될 수도 있다.
여기서, 파티셔닝 타입은 바이너리 트리 파티셔닝, 쿼드 트리 파티셔닝/트리플 트리 파티셔닝 중 어느 파티셔닝을 사용했는지를 알려주는 지시자를 나타낸다.
도 6은 본 발명이 적용되는 일실시예로서, 현재 블록을 복원하는 과정을 개략적으로 도시한 것이다.
도 6을 참조하면, 부호화/복호화 장치에 기-정의된 예측 모드를 기반으로 현재 블록의 예측 블록을 생성할 수 있다(S600).
비디오 부호화/복호화에서 예측 영상은 복수 개의 방법으로 생성할 수 있으며, 예측 영상을 생성하는 방법을 예측 부호화 모드라고 한다.
예측 부호화 모드는 인트라 예측 부호화 모드, 인터 예측 부호화 모드, 현재 픽쳐 레퍼런스 부호화 모드 또는 결합 부호화 모드 (combined prediction)등으로 구성될 수 있다.
인터 예측 부호화 모드는 이전 픽쳐의 정보를 이용하여 현재 블록의 예측 블록(예측 영상)을 생성하는 예측 부호화 모드라고 하고, 인트라 예측 부호화 모드는 현재 블록과 이웃한 샘플을 이용하여 예측 블록을 생성하는 예측 부호화 모드라 한다. 현재 픽쳐의 이미 복원된 영상을 이용하여 예측 블록을 생성할 수도 있으며, 이를 현재 픽쳐 레퍼런스 모드 또는 인트라 블록 카피 모드라고 부른다.
인터 예측 부호화 모드, 인트라 예측 부호화 모드 또는 현재 픽쳐 레퍼런스 부호화 모드 중 적어도 2개 이상의 예측 부호화 모드를 사용하여 예측 블록을 생성할 수도 있으며, 이를 결합 부호화 모드(Combined prediction)이라고 부른다.
인터 예측 부호화 모드에 대해서는 도 7 내지 도 20을 참조하여 자세히 살펴보고, 인트라 예측 부호화 모드에 대해서는 도 21 내지 도 38을 참조하여 자세히 살펴보도록 한다.
도 6을 참조하면, 소정의 변환을 통해 현재 블록의 변환 블록을 생성할 수 있다(S610).
원본 영상에서 예측 영상을 차분한 영상을 잔차 영상(residual) 또는 변환 블록이라 한다.
잔차 영상에 DCT(Discrete cosine transform)와 같은 2차원 변환(Transform)을 통하여 2원 주파수 성분으로 분해할 수 있다. 영상에서 고주파 성분을 제거해도 시각적으로 왜곡이 크게 발생하지 않는 특성이 있다. 고주파에 해당하는 값을 작게 하거나 0으로 설정하면 시각적 왜곡이 크지 않으면서도 압축 효율을 크게 할 수 있다.
예측 블록의 크기나 예측 모드에 따라 DST (Discrete sine transform)을 사용할 수도 있다. 구체적으로 예를 들어, 인트라 예측 모드이고, 예측 블록/코딩 블록의 크기가 NxN 보다 작은 크기인 경우에는 DST 변환을 사용하도록 설정하고, 그 외의 예측 블록/코딩 블록에서는 DCT를 사용하도록 설정할 수도 있다.
DCT는 영상을 cos 변환을 이용하여 2차원 주파수 성분으로 분해(변환)하는 처리이고, 그 때의 주파수 성분들은 기저 영상으로 표현된다. 예를 들어, NxN 블록에서 DCT 변환을 수행하면 N2 개의 기본 패턴 성분을 얻을 수 있다. DCT 변환을 수행한다는 것은 원화소 블록에 포함된 기본 패턴 성분들 각각의 크기를 구하는 것이다. 각 기본 패턴 성분들의 크기는 DCT 계수라고 부른다.
대체적으로 저주파에 0이 아닌 성분들이 많이 분포하는 영상에서는 이산 여현 변환(Discrete Cosine Transform, DCT)을 주로 사용하고, 고주파 성분이 많이 분포하는 영상에서는 DST (Discrete Sine Transform)을 사용할 수도 있다.
DST는 영상을 sin 변환을 이용하여 2차원 주파수 성분으로 분해(변환)하는 처리를 나타낸다. DCT 또는 DST 변환 이외의 변환 방법을 사용하여 2차원 영상을 2차원 주파수 성분으로 분해(변환)할 수 있으며, 이를 2차원 영상 변환이라고 부른다.
잔차 영상 중 특정 블록에서는 2차원 영상 변환을 수행하지 않을 수 있으며, 이를 변환 스킵(transform skip)이라고 부른다. 변환 스킵 이후에 양자화를 적용할 수 있다.
2차원 영상 내에 있는 임의의 블록을 DCT 또는 DST 또는 2차원 영상 변환을 적용할 수 있으며, 이 때 사용된 변환을 제1 변환이라고 부른다. 제1 변환을 수행 후 변환 블록의 일부 영역에서 변환을 다시 수행할 수 있으며, 이를 제2 변환이라고 부른다.
제1 변환은 복수개의 변환 코어 중 하나를 사용할 수 있다. 구체적으로 예를 들어, 변환 블록에서 DCT2 , DCT8 또는 DST7 중 어느 하나를 선택하여 사용할 수 있다. 또는 변환 블록의 수평 방향 변환과 수직 방향 변환에서 서로 다른 변환 코어를 사용할 수도 있다.
제1 변환과 제2 변환을 수행하는 블록 단위가 서로 다르게 설정할 수도 있다. 구체적으로 예를 들어, 잔차 영상의 8x8 블록에서 제 1 변환을 수행한 후, 4x4 서브 블록 별로 제2 변환을 각각 수행할 수도 있다. 또 다른 예를 들어, 각 4x4 블록에서 제1 변환을 수행한 후, 8x8 크기의 블록에서 제2 변환을 각각 수행할 수도 있다.
제1 변환이 적용된 잔차 영상을 제1 변환 잔차 영상이라고 부른다. 제1 변환 잔차 영상에 DCT 또는 DST 또는 2차원 영상 변환을 적용할 수 있으며, 이 때 사용된 변환을 제2 변환이라고 부른다. 제2 변환이 적용된 2차원 영상을 제2 변환 잔차 영상이라고 부른다.
제1 변환 및/또는 제2 변환을 수행한 후의 블록 내 샘플 값을 변환 계수라고 부른다. 양자화는 블록의 에너지를 줄이기 위해 변환 계수를 기 정의된 값으로 나누는 과정을 말한다. 변환 계수에 양자화를 적용하기 위해 정의된 값을 양자화 파라미터라고 부른다.
시퀀스 단위 또는 블록 단위로 기 정의된 양자화 파라미터를 적용할 수 있다. 통상적으로 1에서 51 사이의 값으로 양자화 파라미터를 정의할 수 있다.
변환 및 양자화를 수행한 후에, 역양자화 및 역변환을 수행하여 잔차 복원 영상을 생성 할 수 있다. 잔차 복원 영상에 예측 영상을 더해서 제1 복원 영상을 생성할 수 있다.
부호화/복호화 장치에 기-정의된 n개의 변환 타입 중 적어도 하나에 기초하여, 변환 블록이 생성될 수 있다. n은 1, 2, 3, 4, 또는 그 이상의 정수일 수 있다. 상기 변환 타입으로, DCT2, DCT8, DST7, 변환 스킵 모드 등이 이용될 수 있다. 하나의 블록의 수직/수평 방향에 대해서 하나의 동일한 변환 타입만이 적용될 수도 있고, 수직/수평 방향 각각에 대해서 상이한 변환 타입이 적용될 수도 있다. 이를 위해, 하나의 동일한 변환 타입이 적용되는지 여부를 나타내는 플래그가 이용될 수 있다. 상기 플래그는 부호화 장치에서 시그날링될 수 있다.
또한, 상기 변환 타입은, 부호화 장치에서 시그날링되는 정보에 기초하여 결정되거나, 소정의 부호화 파라미터에 기초하여 결정될 수 있다. 여기서, 부호화 파라미터는, 블록의 크기, 형태, 인트라 예측 모드 또는 성분 타입(e.g., 휘도, 색차) 중 적어도 하나를 의미할 수 있다. 블록의 크기는, 너비, 높이, 너비와 높이의 비, 너비와 높이의 곱, 너비와 높이의 합/차 등으로 표현될 수 있다. 예를 들어, 현재 블록의 크기가 소정의 문턱값보다 큰 경우, 수평 방향의 변환 타입은 제1 변환 타입(e.g., DCT2)으로 결정되고, 수직 방향의 변환 타입은 제2 변환 타입(e.g., DST7)으로 결정될 수 있다. 상기 문턱값은, 0, 4, 8, 16, 32 또는 그 이상의 정수일 수 있다.
한편, 본 발명에 따른 잔차 계수는, 제1 변환 이후 제2 변환을 수행하여 획득된 것일 수 있다. 제2 변환은 현재 블록 내 일부 영역의 잔차 계수에 대해서 수행될 수 있다. 이 경우, 복호화 장치는, 상기 일부 영역에 대해 제2 역변환을 수행하고, 상기 역변환된 일부 영역을 포함한 현재 블록에 대해서 제1 역변환을 수행함으로써, 현재 블록의 변환 블록을 획득할 수 있다.
도 6을 참조하면, 예측 블록과 변환 블록을 기반으로, 현재 블록을 복원할 수 있다(S620).
복원된 현재 블록에 대해서 소정의 인-루프 필터가 적용될 수 있다. 인-루프 필터는, 디블록킹 필터, SAO(sample adaptive offset) 필터 또는 ALF(adaptive loop filter) 중 적어도 하나를 포함할 수 있으며, 도 39 및 도 40을 참조하여 살펴보기로 한다.
도 7은 본 발명이 적용되는 일실시예로서, 인터 예측 방법을 도시한 것이다.
이전 픽쳐의 정보를 이용하여 현재 픽쳐에 있는 블록의 예측 블록(예측 영상)을 생성하는 방법을 인터 예측 부호화 모드 또는 인터 모드라고 부른다.
예를 들어, 이전 픽쳐의 해당 블록(colocated block/co-located 블록)을 기반으로 예측 영상을 생성하거나, 이전 픽쳐의 특정 블록을 기반으로 예측 블록(예측 영상)을 생성할 수 있다.
여기서 특정 블록은 motion vector로 부터 유도될 수 있다. 동일 위치 블록은 도 7과 같이 현재 블록과 좌상단 샘플의 위치 및 크기가 같은 해당 픽쳐의 블록을 나타낸다. 해당 픽쳐는 참조 픽쳐 레퍼런스와 같은 신택스로 부터 특정 될 수 있다.
인터 예측 부호화 모드에서는 오브젝트의 움직임을 고려하여 예측 블록을 생성할 수 있다. 예를 들어, 이전 픽쳐에 있는 오브젝트가 현재 픽쳐에서 어느 방향으로 어느 정도 움직였는지 알면 현재 블록에서 움직임을 고려한 블록을 차분하여 예측 블록(예측 영상)을 생성할 수 있으며, 이를 움직임 예측 블록이라고 부른다.
현재 블록에서 움직임 예측 블록 또는 해당 예측 블록을 차분하여 잔차 블록을 생성할 수 있다. 오브젝트에 움직임이 발생하면, 해당 예측 블록보다 움직임 예측 블록을 사용하면 잔차 블록의 에너지가 작아져서 압축 성능이 좋아질 수 있다. 이와 같이 움직임 예측 블록을 이용하는 방법을 움직임 보상 예측이라고 부르며, 대부분의 인터 예측 부호화에서는 움직임 보상 예측을 사용한다.
이전 픽쳐에 있는 오브젝트가 현재 픽쳐에서 어느 방향으로, 어느 정도 움직였는지를 나타내는 값을 움직임 벡터라고 한다. 움직임 벡터는 시퀀스, 픽쳐, 서브 픽쳐, 슬라이스, 타일, CTU 또는 CU의 단위로 서로 다른 화소 정밀도를 갖는 움직임 벡터를 사용할 수 있다. 예를 들어, 특정 블록에서 움직임 벡터의 화소 정밀도는 1/16, 1/8, 1/4, 1/2, 1, 2, 4 또는 8 중 적어도 어느 하나일 수 있다. 후술하는 인터 예측 부호화 모드 별로, 이용 가능한 화소 정밀도 후보의 종류 및/또는 개수가 상이할 수 있다. 예를 들어, 어파인 인터 예측 방법의 경우, k개의 화소 정밀도가 이용 가능하고, translation 움직임을 이용한 인터 예측 방법의 경우, i개의 화소 정밀도가 이용 가능하다. 현재 픽쳐 레퍼런스 모드의 경우, j개의 화소 정밀도가 이용 가능하다. 여기서, k, i와 j는 1, 2, 3, 4, 5, 또는 그 이상의 자연수일 수 있다. 다만, k는 i보다 작고, i는 j보다 작을 수 있다. 어파인 인터 예측 방법은 1/16, 1/4 또는 1 중 적어도 하나의 화소 정밀도를 이용하고, translation 움직임을 이용한 인터 예측 방법(e.g., 머지 모드, AMVP 모드)은 1/4, 1/2, 1 또는 4 중 적어도 하나의 화소 정밀도를 이용할 수 있다. 현재 픽쳐 레퍼런스 모드는, 1, 4 또는 8 중 적어도 하나의 화소 정밀도를 이용할 수 있다.
인터 예측 모드는 translation 움직임을 이용한 인터 예측 방법과 affine 움직임을 이용한 affine 인터 예측 방법이 선택적으로 사용될 수도 있다. translation 움직임을 이용한 인터 예측 방법으로, 머지 모드(merge mode) 또는 AMVP 모드가 이용될 수 있다.
도 8 내지 도 10은 본 발명이 적용되는 일실시예로서, 어파인 인터 예측 방법을 도시한 것이다.
비디오에서 특정 물체(object)의 움직임이 선형적으로 나타나지 않는 경우가 많이 발생한다. 예를 들어, 도 8과 같이 카메라 줌인 (Zoom-in), 줌 아웃(Zoom-out), 회전(roation), 임의 형태로 변환을 가능하게 하는 affine 변환 등의 affine motion이 사용된 영상에서는 오브젝트의 움직임을 translation 움직임 벡터만 사용하는 경우 물체의 움직임을 효과적으로 표현할 수 없으며, 부호화 성능이 낮아질 수 있다.
어파인 움직임은 다음 수학식 1과 같이 표현할 수 있다.
[수학식 1]
vx=ax-by+e
vy=cx+dy+f
어파인 움직임을 총 6개의 파라미터를 사용하여 표현하는 것은 복잡한 움직임이 있는 영상에 효과적이지만, 어파인 움직임 파라미터를 부호화하는데 사용하는 비트가 많아서 부호화 효율이 떨어질 수도 있다.
이에, 4개의 파라미터로 어파인 움직임을 간략화하여 표현할 수 있으며,, 이를 4 파라미터 어파인 움직임 모델이라고 부른다. 수학식 2는 4개의 파라미터로 어파인 움직임을 표현한 것이다.
[수학식 2]
vx=ax-by+e
vy=bx+ay+f
4-파라미터 어파인 움직임움직임 모델은 현재 블록의 2개 컨트롤 포인트에서의 움직임 벡터를 포함할 수 있다. 컨트롤 포인트는 현재 블록의 좌상단 코너, 우상단 코너 또는 좌하단 코너 중 적어도 하나를 포함할 수 있다. 일 예로, 4파라미터 어파인 움직임 모델은 도 9의 좌측 그림과 같이 코딩 유닛의 좌상단 샘플 (x0,y0)에서의 움직임 벡터 sv0 와 코딩 유닛의 우상단 샘플 (x1,y1)에서의 움직임 벡터 sv1에 의해서 결정 될 수 있으며, sv0와 sv1을 어파인 시드 벡터라고 부른다. 이하, 좌상단에 위치한 어파인 시드 벡터 sv0를 제 1 어파인 시드 벡터라 가정하고, 우상단에 위치한 어파인 시드 벡터 sv1를 제 2 어파인 시드 벡터라 가정하기로 한다. 4-파라미터 어파인 움직임 모델에서 제1 및 제2 어파인 시드 벡터 중 하나를 좌하단에 위치한 어파인 시드 벡터로 교체하여 사용하는 것도 가능하다.
6-파라미터 어파인 움직임 모델은 도 9의 우측 그림과 같이 4-파라미터 어파인 움직임 모델에 잔여 컨트롤 포인트(예컨대, 좌하단에 샘플 (x2,y2))의 움직임 벡터 sv2가 추가된 어파인 움직임 모델이다. 이하, 좌상단에 위치한 어파인 시드 벡터 sv0를 제1 어파인 시드 벡터라 가정하고, 우상단에 위치한 어파인 시드 벡터 sv1를 제2 어파인 시드 벡터라 가정하고, 좌하단에 위치한 어파인 시드 벡터 sv2를 제3 어파인 시드 벡터라 가정한다.
어파인 움직임을 표현하기 위한 파라미터의 개수에 관한 정보가 비트스트림에 부호화될 수 있다. 예컨대, 6-파라미터의 사용 여부를 나타내는 플래그, 4- 파라미터의 사용 여부를 나타내는 플래그가 픽쳐, 서브 픽쳐, 슬라이스, 타일 그룹, 타일, 코딩 유닛 또는 CTU 중 적어도 하나의 단위로 부호화될 수 있다. 이에 따라, 소정의 단위로 4-파라미터 어파인 움직임 모델 또는 6-파라미터 어파인 움직임 모델 중 어느 하나를 선택적으로 사용할 수도 있다.
어파인 시드 벡터를 이용하여 도 10과 같이 코딩 유닛의 서브 블록 별로 움직임 벡터를 유도할 수 있으며, 이를 어파인 서브 블록 벡터라고 부른다.
어파인 서브 블록 벡터는 다음 수학식 3과 같이 유도될 수도 있다. 여기서 서브 블록의 기준 샘플 위치(x,y)는 블록의 코너에 위치한 샘플(예컨대, 좌상단 샘플)일 수도 있고, x축 또는 y축 중 적어도 하나가 중앙인 샘플(예컨대, 중앙 샘플)일 수도 있다.
[수학식 3]
Figure pat00001
어파인 서브 블록 벡터를 이용하여 코딩 유닛 단위 또는 코딩 유닛 내 서브 블록 단위로 움직임 보상을 수행할 수 있으며, 이를 어파인 인터 예측 모드라고 부른다. 수학식 3에서 (x1-x0)는 코딩 유닛의 너비와 같은 값을 가질 수 있다.
도 11은, 본 발명이 적용되는 일실시예로서, 머지 모드를 위한 공간적 주변 블록의 범위를 도시한 것이다.
현재 코딩 유닛의 움직임 정보(움직임 벡터, 참조 픽쳐 인덱스 등)를 부호화 하지 않고, 주변 블록의 움직임 정보로 부터 유도할 수 있다. 주변 블록 중 어느 하나의 움직임 정보를 현재 코딩 유닛의 움직임 정보로 설정할 수 있으며, 이를 머지 모드(merge mode)라고 부른다.
도 11을 참조하면, 머지 모드에 사용되는 주변 블록은 인덱스 0 내지 4와 같이 현재 코딩 유닛과 인접한 블록(현재 코딩 유닛의 경계와 맞닿은 블록)일 수도 있고, 도 11의 인덱스 5 내지 26과 같이 현재 코딩 유닛에 인접하지 않은 블록일 수도 있다.
머지 모드의 경우, 상기 주변 블록 중 적어도 하나를 포함한 머지 후보 리스트를 구성할 수 있다. 머지 인덱스에 기초하여, 머지 후보 리스트에 속한 복수의 머지 후보 중 어느 하나 특정되고, 특정된 머지 후보의 움직임 정보가 현재 코딩 유닛의 움직임 정보로 설정될 수 있다.
도 12 내지 도 18은 본 발명이 적용되는 일시시예로서, 인터 영역의 움직임 정보를 이용한 머지 모드를 도시한 것이다.
현재 픽쳐에서 이미 인터 예측으로 부호화된 코딩 유닛의 움직임 정보(움직임 벡터 및 참조 픽쳐 인덱스)를 기-정의된 크기의 리스트(버퍼)에 저장할 수 있으며, 이를 인터 영역 움직임 정보 리스트라고 부른다.
인터 영역 움직임 정보 리스트에 있는 움직임 정보(움직임 벡터 또는 참조 픽쳐 인덱스 중 적어도 하나)를 인터 영역 움직임 후보라고 한다.
인터 영역 움직임 후보를 현재 코딩 유닛의 머지 후보로 사용할 수 있으며, 이를 위해 인터 영역 움직임 후보 중 적어도 하나는 현재 코딩 유닛의 머지 후보 리스트에 추가될 수 있다. 이런 방법을 인터 영역 머지 방법이라고 부른다.
상기 인터 영역 움직임 정보 리스트는, 픽쳐, 슬라이스, 타일, CTU 행 또는 CTU 중 어느 하나의 단위로 초기화될 수 있다. 초기화는 상기 리스트가 비어있는 상태를 의미할 수 있다. 부호화 및/또는 복호화가 완료된 픽쳐의 일부 영역으로부터의 움직임 정보를 인터 영역 움직임 정보 리스트에 추가할 수 있다. 시퀀스, 픽쳐, 서브 픽쳐, 슬라이스 또는 타일 중 적어도 하나의 레벨에서 인터 영역 움직임 정보 리스트의 초기 인터 영역 움직임 후보를 시그널링할 수도 있다.
코딩 유닛이 인터 예측으로 부호화/복호화 되면 도 12와 같이 상기 코딩 유닛의 움직임 정보를 인터 영역 움직임 정보 리스트에 업데이트할 수 있다. 인터 영역 움직임 정보 리스트에 있는 인터 영역 움직임 후보의 개수가 최대값인 경우에는, 인터 영역 움직임 정보 리스트 인덱스에가 가장 작은 값 (가장 먼저 인터 영역 움직임 정보 리스트에 추가된 움직임 정보)를 제거하고, 가장 최근에 부호화/복호화된 인터 영역의 움직임 정보를 인터 영역 움직임 정보 리스트 추가할 수 있다.
가장 최근의 움직임 정보가 리스트에 기-추가된 움직임 정보와 동일한 경우, 가장 최근의 움직임 정보는 리스트에 추가되지 않을 수 있다. 또는, 가장 최근의 움직임 정보와 동일한 움직임 정보를 리스트에서 제거하고, 가장 최근의 움직임 정보를 추가할 수도 있다. 이때, 가장 최근의 움직임 정보는, 리스트의 가장 마지막 위치에 추가될 수 있다.
디코딩된 코딩 유닛의 움직임 벡터 mvCand를 인터 영역 움직임 정보 리스트 HmvpCandList에 업데이트할 수 있다. 이때 디코딩된 코딩 유닛의 움직임 정보가 인터 영역 움직임 정보 리스트에 있는 움직임 정보 중 어느 하나와 같은 경우(움직임 벡터와 레퍼런스 인덱스가 모두 같은 경우)에는 인터 영역 움직임 정보 리스트를 업데이트 하지 않거나, 도 14와 같이 디코딩 된 코딩 유닛의 움직임 벡터 mvCand을 인터 영역 움직임 정보 리스트의 제일 마지막에 저장할 수 있다. 이때 mvCand과 같은 움직임 정보를 가지고 있는 HmvpCandList의 인덱스가 hIdx이면, 도 14와 같이 hIdx 보다 큰 모든 i에 대해 HMVPCandList [i]를 HVMPCandList[i-1]로 설정할 수도 있다. 현재 디코딩된 코딩 유닛에서 서브 블록 머지 후보 (sub-block merge candidates)가 사용된 경우에는 코딩 유닛 내 대표 서브 블록의 움직임 정보를 인터 영역 움직임 정보 리스트에 저장할 수도 있다.
일 예로, 코딩 유닛 내 대표 서블 블록은 도 13과 같이 코딩 유닛 내 좌상단 서브 블록으로 설정하거나, 코딩 유닛 내 중간 서브 블록으로 설정할 수도 있다.
서브 블록 단위 머지 후보는 다음 프로세스와 같이 유도할 수 있다.
1. 현재 블록의 주변 머지 후보 블록의 움직임 벡터로 부터 초기 쉬프트 벡터 (shVector)를 유도할 수 있다. 여기서, 주변 머지 후보 블록은 현재 블록의 좌측, 상단, 좌하단, 우상단 또는 좌상단 블록 중 어느 하나일 수 있다. 또는, 현재 블록의 좌측 블록 또는 상단 블록만이 고정적으로 이용되도록 설정될 수도 있다.2. 수학식 4와 같이 코딩 유닛 내 서브 블록의 좌상단 샘플 (xSb,ySb)에 초기 쉬프트 벡터를 가산하여 좌상단 샘플의 위치가 (xColSb, yColSb)인 쉬프트 서브 블록을 유도할 수 있다.
[수학식 4]
(xColSb, yColSb) = (xSb + shVector[0]>> 4,ySb+shVector[1]>> 4)
3. (xColSb, yColSb)를 포함하고 있는 서브 블록의 센터 포지션과 대응되는 collocated block의 움직임 벡터를 좌상단 샘플 (xSb,ySb)를 포함하고 있는 서브 블록의 움직임 벡터로 유도할 수 있다.
인터 영역 움직임 정보 리스트에 총 NumHmvp 개의 움직임 정보를 저장할 수 있으며, NumHmvp을 인터 영역 움직임 정보 리스트의 크기라고 부른다.
인터 영역 움직임 정보 리스트의 크기는 기-정의된 값을 사용할 수 있다. 시퀀스, 픽쳐, 서브 픽쳐, 슬라이스 헤더 및/또는 타일 헤더에 인터 영역 움직임 정보 리스트 크기를 시그날링할 수도 있다. 일 예로, 인터 영역 움직임 정보 리스트의 크기는 16으로 정의할 수도 있고, 4, 5, 6 등으로 정의할 수도 있다.
부/복호화가 완료된 코딩 유닛이 인터 예측이면서 어파인 움직임 벡터를 갖는 경우, 이는 인터 영역 움직임 정보 리스트에 포함되지 않을 수 있다.
또는 부/복호화가 완료된 코딩 유닛이 인터 예측이면서 어파인 움직임 벡터를 갖는 경우에는 어파인 서브 블록 벡터를 인터 영역 움직임 정보 리스트에 추가할 수도 있다. 이 때 서브 블록의 위치는 좌상단 또는 우상단, 또는 중앙 서브 블록 등으로 설정할 수도 있다. 또는, 각 컨트롤 포인트의 움직임 벡터 평균값을 인터 영역 움직임 후보 리스트에 추가할 수도 있다.
특정 코딩 유닛을 부호화/복호화하여 유도한 움직임 벡터 MV0가 인터 영역 움직임 후보 중 어느 하나와 동일한 경우에는 MV0를 인터 영역 움직임 정보 리스트에 추가하지 않을 수 있다. 또는, MV0와 동일한 움직임 벡터를 갖는 기존의 인터 영역 움직임 후보를 삭제하고, MV0를 새롭게 인터 영역 움직임 정보 리스트에 포함시켜, MV0에 할당되는 인덱스를 갱신할 수 있다.
인터 영역 움직임 정보 리스트 이외에 인터 영역 움직임 정보 롱텀 리스트 HmvpLTList를 구성할 수도 있다. 인터 영역 움직임 정보 롱텀 리스트 크기는 인터 영역 움직임 정보 리스트 크기와 같게 설정하거나, 상이한 값으로 설정할 수 있다.
인터 영역 움직임 정보 롱텀 리스트는 타일 그룹 시작 위치에 처음 추가한 인터 영역 머지 후보로 구성될 수 있다. 인터 영역 움직임 정보 롱텀 리스트가 모두 가용한 값으로 구성된 이후에 인터 영역 움직임 정보 리스트를 구성하거나, 인터 영역 움직임 정보 리스트 내 움직임 정보를 인터 영역 움직임 정보 롱텀 리스트의 움직임 정보로 설정할 수도 있다.
이 때 한 번 구성된 인터 영역 움직임 정보 롱텀 리스트는 업데이트를 수행하지 않거나, 타일 그룹 중 복호화된 영역이 전체 타일 그룹의 반 이상일 때 다시 업데이트 하거나, m개 CTU 라인마다 업데이트 하도록 설정할 수도 있다. 인터 영역 움직임 정보 리스트는 인터 영역으로 복호화될 때마다 업데이트 하거나, CTU 라인 단위로 업데이트 하도록 설정할 수 있다.
인터 영역 움직임 정보 리스트에 움직임 정보와 코딩 유닛의 파티션 정보 또는 형태를 저장할 수도 있다. 현재 코딩 유닛과 파티션 정보 및 형태가 유사한 인터 영역 움직임 후보만 사용하여 인터 영역 머지 방법을 수행할 수도 있다.
또는, 블록 형태에 따라 개별적으로 인터 영역 움직임 정보 리스트를 구성할 수도 있다. 이 경우, 현재 블록의 형태에 따라, 복수의 인터 영역 움직임 정보 리스트 중 하나를 선택하여 사용할 수 있다.
도 15와 같이 인터 영역 어파인 움직임 정보 리스트와 인터 영역 움직임 정보 리스트로 구성할 수도 있다. 복호화된 코딩 유닛이 어파인 인터 또는 어파인 머지 모드인 경우에는 인터 영역 어파인 움직임 정보 리스트 HmvpAfCandList에 제1 어파인 시드 벡터와 제2 어파인 시드 벡터를 저장할 수도 있다. 인터 영역 어파인 움직임 정보 리스트에 있는 움직임 정보를 인터 영역 어파인 머지 후보라고 한다.
현재 코딩 유닛에서 사용 가능한 머지 후보는 다음과 같이 구성할 수 있으며, 구성 순서와 같은 탐색 순서를 가질 수 있다.
1. 공간적 머지 후보 (A1, B1, B0 , A0)
2. 시간적 머지 후보 (이전 참조 픽쳐에서 유도한 머지 후보)
3. 공간적 머지 후보 (B2)
4. 인터 영역 머지 후보
5. 인터 영역 어파인 머지 후보
6. Zero motion 머지 후보
먼저 머지 후보 리스트는 mergeCandList는 공간적 머지 후보 및 시간적 머지 후보로 구성할 수 있다. 가용한 공간적 머지 후보 및 시간적 머지 후보의 개수를 가용 머지 후보 개수(NumMergeCand)라고 부른다. 가용 머지 후보 개수가 최대 머지 허용 개수보다 작은 경우에는 인터 영역 움직임 정보 리스트의 움직임 후보를 인터 영역 머지 후보로 머지 후보 리스트 mergeCandList에 추가할 수 있다.
인터 영역 움직임 정보 리스트 HmvpCandList를 머지 후보 리스트 mergeCandList에 추가할 때는 인터 영역 움직임 정보 리스트 내 인터 영역 움직임 후보의 움직임 정보가 기존 머지 후보 리스트 mergeCandList의 움직임 정보와 동일한지 여부를 체크할 수 있다. 움직임 정보가 동일한 경우에는 머지 리스트 mergeCandList에 추가하지 않고, 움직임 정보가 동일하지 않은 경우에는 머지 리스트 mergeCandList에 인터 영역 머지 후보를 추가할 수 있다.
일 예로, HmvpCandList의 가장 최근에 업데이트된 움직임 정보(HmvpCandList [n])를 머지 후보 리스트(mergeCandList)에 추가할 때, 중복성 체크를 mergeCandList 내의 임의의 L개에 대해서만 수행 할 수 있다. 이때 L은 0보다 큰 양의 정수이며, 예를 들어 L이 2인 경우 mergeCandList의 가장 첫 번째 및 두 번째 움직임 정보에 대해서만 중복성 여부를 체크 할 수 있다.
일 예로, HmvpCandList와 mergeCandList 간의 중복성 체크는, mergeCandList의 머지 후보 일부와 HmvpCandList의 움직임 후보 일부에 대해서 수행될 수 있다. 여기서, mergeCandList의 일부는, 공간적 머지 후보 중 좌측 블록 및 상단 블록을 포함할 수 있다. 다만, 이에 한정되지 아니하며, 공간적 머지 후보 중 어느 하나의 블록으로 제한될 수도 있고, 좌하단 블록, 우상단 블록, 좌상단 블록 또는 시간적 머지 후보 중 적어도 하나를 더 포함할 수도 있다. 한편, HmvpCandList의 일부는, HmvpCandList에 가장 최근에 추가된 K개의 인터 영역 움직임 후보를 의미할 수 있다. 여기서, K는 1, 2, 3 또는 그 이상이고, 부호화/복호화 장치에 기-약속된 고정된 값일 수 있다. HmvpCandList에 5개의 인터 영역 움직임 후보가 저장되어 있고, 각 인터 영역 움직임 후보에 1 내지 5의 인덱스가 할당되어 있다고 가정한다. 인덱스가 클수록 최근에 저장된 인터 영역 움직임 후보를 의미한다. 이때, 인덱스 5, 4 및 3을 가진 인터 영역 움직임 후보와 상기 mergeCandList의 머지 후보 간의 중복성을 체크할 수 있다. 또는, 인덱스 5 및 4를 가진 인터 영역 움직임 후보와 상기 mergeCandList의 머지 후보 간의 중복성을 체크할 수도 있다. 또는, 가장 최근에 추가된 인덱스 5의 인터 영역 움직임 후보는 제외하고, 인덱스 4 및 3을 가진 인터 영역 움직임 후보와 상기 mergeCandList의 머지 후보 간의 중복성을 체크할 수도 있다. 중복성 체크 결과, 동일한 인터 영역 움직임 후보가 하나라도 존재하는 경우, HmvpCandList의 움직임 후보는 mergeCandList에 추가되지 않을 수 있다. 반면 동일한 인터 영역 움직임 후보가 존재하지 않는 경우, HmvpCandList의 움직임 후보는 인터 영역 움직임 정보 리스트의 마지막 위치에 추가될 수 있다. 이때, HmvpCandList에서 최근에 저장된 움직임 후보의 순서(즉, 인덱스가 큰 순서부터 작은 순서로)로 mergeCandList에 추가될 수 있다. 다만, HmvpCandList에서 가장 최근에 저장된 움직임 후보(가장 큰 인덱스를 가진 움직임 후보)는 mergeCandList에 추가되지 않도록 제한될 수도 있다.
인터 영역 움직임 후보 중 인덱스가 큰 것부터 머지 후보 리스트 mergeCandList에 추가할 수 있으며, 다음과 같은 프로세스를 사용할 수 있다.
For each candidate in HMVPCandList with index HMVPIdx = 1.. numCheckedHMVPCand, the following ordered steps are repeated until combStop is equal to true
- sameMotion is set to false
- If HMVPCandList[NumHmvp - HMVPIdx] have the same motion vectors and the same reference indices with any mergeCandList[i] with i being 0… numOrigMergeCand - 1 and HasBeenPruned[i] equal to false, sameMotion is set to true
- If sameMotion is equal to false, mergeCandList[numCurrMergeCand++] is set to HMVPCandList[NumHmvp - HMVPIdx]
- If numCurrMergeCand is equal to (MaxNumMergeCand-1), hmvpStop is set to TRUE
인덱스가 i인 인터 영역 움직임 후보 HmvpCandList[i]가 인덱스가 j인 머지 후보 리스트 mergeCandList[j]의 움직임 정보와 같은 경우에는, 도 16과 같이 HmvpCandList[i-1]의 움직임 정보가 같은지 비교할 때 mergeCandList[j]는 비교하지 않도록 설정할 수 있다.
또는 HmvpCandList에 있는 인터 영역 움직임 후보의 움직임 정보와 머지 후보 리스트 내의 머지 후보의 움직임 정보가 같은지만 비교할 수 있다. 일 예로, 도 17와 같이 머지 후보 리스트 중 가장 인덱스가 큰 N개의 머지 후보와 인터 영역 움직임 후보의 움직임 정보가 같은지를 비교할 수 있다.
머지 후보 리스트에 인터 영역 움직임 정보 리스트를 추가해도 타일 그룹에서 허용되는 최대 머지 개수(이하, 최대 머지 허용 개수)보다 작은 경우에는 도 18과 같이 인터 영역 움직임 정보 롱텀 리스트를 사용할수도 있으며, 다음과 같은 프로세스를 사용할 수 있다.
For each candidate in HMVPCandList with index HMVPLTIdx = 1.. numHMVPLTCand, the following ordered steps are repeated until combStop is equal to true
- sameMotion is set to FALSE
- if hmvpStop is equal to FALSE and numCurrMergecand is less than (MaxNumMergeCand-1), hvmpLT is set to TRUE
- If HMVPLTCandList[NumLTHmvp - HMVPLTIdx] have the same motion vectors and the same reference indices with any mergeCandList[i] with i being 0… numOrigMergeCand - 1 and HasBeenPruned[i] equal to false, sameMotion is set to true
- If sameMotion is equal to false, mergeCandList[numCurrMergeCand++] is set to HMVPLTCandList[NumLTHmvp - HMVPLTIdx]
- If numCurrMergeCand is equal to (MaxNumMergeCand-1), hmvpLTStop is set to TRUE
인터 영역 움직임 후보를 현재 코딩 유닛의 움직임 정보 예측자(Motion vector predictor, MVP) 후보로 사용할 수 있으며, 이런 방법을 인터 영역 움직임 정보 예측 방법이라고 부른다.
인터 영역 어파인 움직임 후보를 현재 코딩 유닛의 움직임 정보 예측자(Motion vector predictor, MVP) 후보로 사용할 수 있으며, 이런 방법을 인터 영역 움직임 정보 어파인 예측 방법이라고 부른다.
현재 코딩 유닛에서 사용 가능한 움직임 정보 예측자 후보는 다음과 같이 구성할 수 있으며, 구성 순서와 같은 탐색 순서를 가질 수 있다.
1. 공간적 움직임 예측자 후보 (코딩 블록 인접 머지 후보 및 코딩 블록 비인접 머지 후보와 동일)
2. 시간적 움직임 예측자 후보 (이전 참조 픽쳐에서 유도한 움직임 예측자 후보)
3. 인터 영역 움직임 예측자 후보
4. 인터 영역 어파인 움직임 예측자 후보
5. Zero motion 움직임 예측자 후보
도 19 및 도 20은 본 발명이 적용되는 일실시예로서, MPMM 기반의 머지 모드를 도시한 것이다.
현재 코딩 유닛의 움직임 정보와 주변 코딩 유닛의 움직임 정보가 유사할 가능성이 높다. 또한, 현재 코딩 유닛의 머지 모드 정보와 주변 코딩 유닛의 머지 모드 정보가 유사할 가능성이 높거나 현재 코딩 유닛과 가까운 주변 코딩 유닛의 움직임 정보를 현재 코딩 유닛의 머지 후보로 사용할 가능성이 커진다.
주변 코딩 유닛의 움직임 정보 또는 머지 후보로 구성된 Most Probable Merge Mode(MPMM) 리스트를 유도할 수 있으며, MPMM 리스트의 크기는 M은 타일 세트 별로 다르게 설정할 수도 있고, 시퀀스 별로 다르게 설정할 수도 있으며, 기정의된 값으로 설정할 수도 있다.
머지 후보 리스트 MergeCandList 내에 있는 머지 후보 중 MPMM 리스트에 속하지 않은 머지 후보들을 Remaining Merge Mode(RMM) 리스트라 한다.
현재 코딩 유닛의 머지 후보가 MPM 리스트 내 머지 후보에 속하는지를 나타내는 플래그 mpmm_flag를 시그날링할 수 있다.
현재 코딩 유닛의 머지 후보가 MPMM 리스트 중 적어도 어느 하나인 경우(즉, mpmm_flag 값이 1인 경우) MPMM 인덱스 (MPMM 리스트 내 기-정의된 인덱스, mpmm_index)를 시그날링할 수 있다. 현재 코딩 유닛의 머지 후보가 MPMM에 속하지 않는 경우, RMM 리스트 내 인덱스 (rmm_index)를 시그날링할 수 있으며, 표 1과 같은 신택스 테이블을 사용할 수도 있다.
coding_unit( x0, y0, cbWidth, cbHeight, treeType ) { Descriptor
....
} else { /* MODE_INTER */
if( cu_skip_flag[ x0 ][ y0 ] ) {
if( MaxNumSubblockMergeCand > 0 && cbWidth >= 8 && cbHeight >= 8 )
merge_subblock_flag[ x0 ][ y0 ] ae(v)
if( merge_subblock_flag[ x0 ][ y0 ] = = 0 && MaxNumMergeCand > 1 )
mpmm_flag [ x0 ][ y0 ] ae(v)
if (mpmm_flag[x0][y0] ==1){
mpmm_index[x0][y0] ae(v)
} else {
rmm_index[x0][y0] ae(v)
}
if( merge_subblock_flag[ x0 ][ y0 ] = = 1 && MaxNumSubblockMergeCand > 1 )
merge_subblock_idx[ x0 ][ y0 ] ae(v)
} else {
merge_flag[ x0 ][ y0 ] ae(v)
if( merge_flag[ x0 ][ y0 ] ) {
if( MaxNumSubblockMergeCand > 0 && cbWidth >= 8 && cbHeight >= 8 )
merge_subblock_flag[ x0 ][ y0 ] ae(v)
if( merge_subblock_flag[ x0 ][ y0 ] = = 0 && MaxNumMergeCand > 1 )
mpmm_flag [ x0 ][ y0 ] ae(v)
if (mpmm_flag[x0][y0] ==1){
mpmm_index[x0][y0] ae(v)
} else {
rmm_index[x0][y0] ae(v)
}
if( merge_subblock_flag[ x0 ][ y0 ] = = 1 && MaxNumSubblockMergeCand > 1 )
merge_subblock_idx[ x0 ][ y0 ] ae(v)
...
}
예를 들어, 도 19와 같이 MPMM 리스트를 이전 코딩 유닛에서 복호화한 인터 코딩 유닛 중 현재 코딩 유닛과 부호화/복호화 순서가 가까운 HmvpCandList[LastIdx] 내지 HmvPCandList[LastIdx-M+1]으로 구성할 수도 있다. RMM은 기존 mergeCandList에서 유도하되, MPMM 리스트 중 동일한 움직임 정보가 있으면 RMM 리스트에서 제거할 수 있다. HmvpCandList[LastIdx] 내지 HmvPCandList[LastIdx-M+1]에서 유도된 mergeCandList에 있는 머지 후보는 RMM 리스트에 추가되지 않을 수 있다. 또 다른 예를 들어, 현재 코딩 유닛의 형태와 같은 이전 코딩 유닛에서 유도한 mergeCandList를 MPMM으로 설정할 수도 있다. 예컨데, 도 20과 같이 현재 코딩 유닛이 정방 형태이면, 정방 형태 코딩 유닛에서 유도한 머지 후보를 MPMM 리스트에 추가할 수 있다.
또 다른 예를 들어, 머지 모드/skip 모드를 사용한 주변 코딩 유닛에서 유도한 머지 후보를 MPMMM 리스트에 추가하고, AMVP 모드를 사용하여 코딩 유닛에서 유도한 머지 후보는 RMM 리스트에 추가할 수 있다.
도 21 내지 도 30은 본 발명이 적용되는 일실시예로서, 인트라 예측 방법을 도시한 것이다.
인트라 예측은 도 21과 같이 현재 블록 주변에 있는 이미 부호화된 경계 샘플을 인트라 예측을 생성하는데 사용하며, 이를 인트라 레퍼런스 샘플이라고 부른다.
인트라 레퍼런스 샘플의 평균값을 예측 블록 전체 샘플의 값을 설정하거나 (DC 모드), 수평 방향 레퍼런스 가중 예측을 수행하여 생성한 수평 방향 예측 샘플과 수직 방향 레퍼런스 샘플을 가중 예측하여 생성한 수직 방향 예측 샘플을 생성한 후, 수평 방향 예측 샘플과 수직 방향 예측 샘플을 가중 예측하여 예측 샘플을 생성하거나(Planar 모드), 방향성 인트라 예측 모드등을 이용하여 인트라 예측을 수행할 수있다.
도 22 왼쪽 그림과 같이 33개의 방향을 사용(총 35개 인트라 예측 모드)하여 인트라 예측을 수행할 수 있고, 오른쪽 그림과 같이 65개의 방향을 사용(총 67개 인트라 예측 모드)할 수도 있다. 방향성 인트라 예측을 사용하는 경우에는 인트라 예측 모드의 방향성을 고려하여 인트라 레퍼런스 샘플(레퍼런스 참조 샘플)을 생성하고, 이로부터 인트라 예측을 수행할 수 있다.
코딩 유닛의 좌측에 있는 인트라 레퍼런스 샘플을 좌측 인트라 레퍼런스 샘플이라하고, 코딩 유닛의 상측에 있는 인트라 레퍼런스 샘플을 상측 인트라 레퍼런스 샘플이라 한다.
방향성 인트라 예측을 수행하는 경우에는 표 2과 같이 인트라 예측 모드에 따라 예측 방향(또는 예측 각도)을 나타내는 파라미터인 인트라 방향 파라미터 (intraPredAng)를 설정할 수 있다. 아래 표 2 는 35개 인트라 예측 모드를 사용할 때 2 내지 34의 값을 가지는 방향성 인트라 예측 모드를 기반으로 하는 일예에 불과하다. 방향성 인트라 예측 모드의 예측 방향(또는 예측 각도)은 더 세분화되어 33개보다 많은 개수의 방향성 인트라 예측 모드가 이용될 수 있음은 물론이다.
PredModeIntra 1 2 3 4 5 6 7
IntraPredAng - 32 26 21 17 13 9
PredModeIntra 8 9 10 11 12 13 14
IntraPredAng 5 2 0 -2 -5 -9 -13
PredModeIntra 15 16 17 18 19 20 21
IntraPredAng -17 -21 -26 -32 -26 -21 -17
PredModeIntra 22 23 24 25 26 27 28
IntraPredAng -13 -9 -5 -2 0 2 5
PredModeIntra 29 30 31 32 33 34
IntraPredAng 9 13 17 21 26 32
intraPredAng이 음수인 경우 (예를 들어, 인트라 예측 모드 인덱스가 11과 25 사이인 경우)에는 도 23과 같이 현재 블록에 좌측 인트라 레퍼런스 샘플과 상측 인트라 레퍼런스 샘플을 인트라 예측 모드의 각도에 따라 1D로 구성된 일차원 레퍼런스 샘플 (Ref_1D)로 재구성할 수 있다. 인트라 예측 모드 인덱스가 11과 18 사이인 경우에는 도 24와 같이 현재 블록의 상변 우측에 위치한 인트라 레퍼런스 샘플부터 좌변 하단에 위치한 인트라 레퍼런스 샘플까지 반 시계 방향으로 일차원 레퍼런스 샘플을 생성할 수 있다.
그 외의 모드에서는 상변 인트라 레퍼런스 샘플 또는 좌변 인트라 레퍼런스 샘플만 이용하여 일차원 레퍼런스 샘플을 생성할 수 있다.
인트라 예측 모드 인덱스가 19 와 25 사이인 경우에는 도 25와 같이 현재 블록의 좌변 하단에 위치한 인트라 레퍼런스 샘플부터 상변 우측에 위치한 인트라 레퍼런스 샘플까지 시계 방향으로 일차원 레퍼런스 샘플을 생성할 수 있다.
참조 샘플 결정 인덱스 iIdx와 iIdx에 기초하여 결정되는 적어도 하나의 참조 샘플에 적용되는 가중치 관련 파라미터 ifact를 다음 수학식 5와 같이 유도할 수 있다. iIdx와 ifact는 방향성 인트라 예측 모드의 기울기에 따라 가변적으로 결정되며, iIdx에 의해 특정되는 참조 샘플은 정수 펠(integer pel)에 해당할 수 있다.
[수학식 5]
iIdx = (y+1) * Pang /32
ifact = [(y+1) * Pang] & 31
예측 샘플 별로 적어도 하나 이상의 일차원 레퍼런스 샘플을 특정하여 예측 영상을 유도 할 수도 있다. 예를 들어, 방향성 인트라 예측 모드의 기울기 값을 고려하여 예측 샘플 생성에 사용할 수 있는 일차원 레퍼런스 샘플의 위치를 특정할 수 있다. 예측 샘플 별로 상이한 방향성 인트라 예측 모드를 가질 수도 있다. 하나의 예측 블록에 대해 복수의 인트라 예측 모드가 이용될 수도 있다. 복수의 인트라 예측 모드는 복수의 비방향성 인트라 예측 모드의 조합으로 표현될 수도 있고, 하나의 비방향성 인트라 예측 모드와 적어도 하나의 방향성 인트라 예측 모드의 조합으로 표현될 수도 있고, 또는 복수의 방향성 인트라 예측 모드의 조합으로 표현될 수도 있다. 하나의 예측 블록 내의 소정의 샘플 그룹 별로 상이한 인트라 예측 모드가 적용될 수 있다. 소정의 샘플 그룹은 적어도 하나의 샘플로 구성될 수 있다. 샘플 그룹의 개수는 현재 예측 블록의 크기/샘플 개수에 따라 가변적으로 결정될 수도 있고, 예측 블록의 크기/샘플 개수와는 독립적으로 부호화기/복호화기에 기-설정된 고정된 개수일 수도 있다.
구체적으로 예를 들어, 참조 샘플 결정 인덱스 iIdx를 이용하여 일차원 레퍼런스 샘플의 위치를 특정할 수 있다.
인트라 예측 모드의 기울기에 따라 하나의 일차원 레퍼런스 샘플만으로는 인트라 예측 모드의 기울기를 표현할 수 없을 때는 수학식 6과 같이 인접한 일차원 레퍼런스 샘플을 보간하여 제 1 예측 영상을 생성할 수 있다. 인트라 예측 모드의 기울기/각도에 따른 angular line이 정수 펠에 위치한 레퍼런스 샘플을 지나가지 않는 경우, 해당 angular line에 좌/우 또는 상/하에 인접한 레퍼런스 샘플을 보간하여 제1 예측 영상을 생성할 수 있다. 이때 이용되는 보간 필터의 필터 계수는 ifact에 기초하여 결정될 수 있다. 예를 들어, 보간 필터의 필터 계수는 angular line 상에 위치한 소수 펠과 상기 정수 펠에 위치한 레퍼런스 샘플 간의 거리에 기초하여 유도될 수 있다.
[수학식 6]
P(x,y)=((32-ifact)/32)*Ref_1D(x+iIdx+1)+(ifact/32)*Ref_1D(x+iIdx+2)
하나의 일차원 레퍼런스 샘플만으로 인트라 예측 모드의 기울기를 표현할 수 있을 때 (ifact 값이 0일 때)는 다음 수학식 7과 같이 제1 예측 영상을 생성할 수 있다.
[수학식 7]
P(x,y) = Ref_1D(x+iIdx+1)
방향성 인트라 예측 모드의 예측 각도는 도 26과 같이 45내지 -135도 사이로 설정될 수 있다.
비정방 형태 코딩 유닛에서 인트라 예측 모드를 수행하는 경우 기 정의된 예측 각도 때문에 현재 샘플과 가까운 인트라 레퍼런스 샘플 대신 현재 샘플과 거리가 먼 인트라 레퍼런스 샘플에서 현재 샘플을 예측하는 단점이 발생할 수 있다.
예를 들어, 도 27의 왼쪽 그림과 같이 코딩 유닛의 너비가 코딩 유닛의 높이보다 큰 코딩 유닛(이하, 수평 방향 코딩 유닛)에서는 거리가 가까운 샘플 T 대신에 거리가 먼 L에서 인트라 예측을 수행할 수 있다. 또 다른 예를 들어, 오른쪽 그림과 같이 코딩 유닛의 높이가 코딩 유닛의 너비보다 큰 코딩 유닛(이하, 수직 방향 코딩 유닛)에서는 거리가 가까운 샘플 L 대신에 거리가 먼 샘플 T로 부터 인트라 예측을 수행할 수 있다.
비정방 형태 코딩 유닛에서는 기-정의된 예측 각도보다 더 넓은 예측 각도에서 인트라 예측을 수행할 수도 있으며, 이를 와이드 앵글 인트라 예측 모드라고 부른다.
와이드 앵글 인트라 예측 모드는 45-α 내지 -135-β의 예측 각도를 가질 수 있으며, 기존 인트라 예측 모드에서 사용된 각도를 벗어나는 예측 각도를 와이드 앵글 각도라고 부른다.
도 27의 좌측 그림에서 수평 방향 코딩 유닛에 있는 샘플 A는 와이드 앵글 인트라 예측 모드를 사용하여 인트라 레퍼런스 샘플 T로 부터 예측할 수 있다. 도 27의 우측 그림에서 수직 방향 코딩 유닛에 있는 샘플 A는 와이드 앵글 인트라 예측 모드를 사용하여 인트라 레퍼런스 샘플 L로 부터 예측할 수 있다.
기존 인트라 예측 모드 N개에 M개의 와이드 앵글 각도를 더해 N+M 개의 인트라 예측 모드가 정의될 수 있다. 구체적으로 예를 들어, 67개 인트라 모드와 표 3와 같이 28개 와이드 앵글 각도를 더해 총 95개 인트라 예측 모드가 정의될 수 있다.
현재 블록이 이용할 수 있는 인트라 예측 모드는 현재 블록의 형태에 따라 결정될 수 있다. 일 예로, 현재 블록의 크기, 종횡비(예컨대, 너비와 높이의 비율), 레퍼런스 라인 인덱스 중 적어도 하나에 기초하여, 95개의 방향성 인트라 예측 모드 중 65개의 방향성 인트라 예측 모드를 선택할 수 있다.
predModeIntra -14 -13 -12 -11 -10 -9 -8 -7 -6 -5 -4 -3 -2 -1 2 3 4
intraPredAngle 512 341 256 171 128 102 86 73 64 57 51 45 39 35 32 29 26
predModeIntra 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21
intraPredAngle 23 20 18 16 14 12 10 8 6 4 3 2 1 0 -1 -2 -3
predModeIntra 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38
intraPredAngle -4 -6 -8 -10 -12 -14 -16 -18 -20 -23 -26 -29 -32 -29 -26 -23 -20
predModeIntra 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55
intraPredAngle -18 -16 -14 -12 -10 -8 -6 -4 -3 -2 -1 0 1 2 3 4 6
predModeIntra 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72
intraPredAngle 8 10 12 14 16 18 20 23 26 29 32 35 39 45 51 57 64
predModeIntra 73 74 75 76 77 78 79 80
intraPredAngle 73 86 102 128 171 256 341 512
표 3에 나타난 인트라 예측 모드 각도는, 현재 블록의 형태, 레퍼런스 라인 인덱스 중 적어도 하나에 기초하여 적응적으로 결정될 수 있다. 일 예로, Mode 15의 intraPredAngle은 현재 블록이 비정방형인 경우보다 현재 블록이 정방형인 경우에 더 큰 값을 갖도록 설정될 수 있다. 또는, Mode 75의 intraPredAngle은 인접 레퍼런스 라인이 선택된 경우보다 비인접 레퍼런스 라인이 선택된 경우 더 큰 값을 갖도록 설정될 수 있다.와이드 앵글 인트라 예측 모드를 사용하는 경우 도 28과 같이 상측 인트라 레퍼런스 샘플의 길이를 2W+1로 설정하고, 좌측 인트라 레퍼런스 샘플의 길이를 2H+1로 설정할 수 있다.
와이드 앵글 인트라 예측을 사용하는 경우에 와이드 앵글 인트라 예측 모드의 인트라 예측 모드를 부호화 하는 경우에는 인트라 예측 모드의 개수가 많아져서 부호화 효율이 낮아 질수 있다. 와이드 앵글 인트라 예측 모드는 와이드 앵글 인트라에서 사용되지 않는 기존 인트라 예측 모드로 대체하여 부호화 할 수 있으며, 대체되는 예측 모드를 와이드 앵글 대체 모드라고 한다. 와이드 앵글 대체 모드는 와이드 앵글 인트라 예측 모드와 반대 방향인 인트라 예측 모드일 수 있다.
구체적으로 예를 들어, 도 29와 같이 35개 인트라 예측을 사용하는 경우 와이드 앵글 인트라 예측 모드 35는 와이드 앵글 대체 모드인 인트라 예측 모드 2로 부호화할 수 있고, 와이드 앵글 인트라 예측 모드 36은 와이드 앵글 대체 모드인 인트라 예측 모드 3으로 부호화할 수 있다.
코딩 블록의 형태 또는 코딩 블록 높이대 너비의 비에 따라 대체하는 모드와 개수를 다르게 설정할 수 있다. 구체적으로 예를 들어, 표 4와 같이 코딩 블록의 형태에 따라 대체하는 모드와 개수를 다르게 설정할 수 있다. 표 4는 코딩 블록의 너비와 높이의 비에 따라 사용되는 인트라 예측 대체 모드를 나타낸다.
Aspect ratio Replaced intra prediction modes
W / H == 16 Modes 12, 13,14,15
W / H == 8 Modes 12, 13
W / H == 4 Modes 2,3,4,5,6,7,8,9,10,11
W / H == 2 Modes 2,3,4,5,6,7,
W / H == 1 None
W / H == 1/2 Modes 61,62,63,64,65,66
W / H == 1/4 Mode 57,58,59,60,61,62,63,64,65,66
W / H == 1/8 Modes 55, 56
W / H == 1/16 Modes 53, 54, 55, 56
도 30을 참조하면, 복수 개의 인트라 레퍼런스 라인 중 적어도 하나를 이용하여 인트라 예측을 수행할 수도 있다. 일 예로, 인접한 인트라 페러런스 라인과 비인접 인트라 레퍼런스 라인으로 구성된 복수개의 인트라 레퍼런스 라인 중 어느 하나를 선택해서 인트라 예측을 수행할 수 있으며, 이를 멀티 라인 인트라 예측 방법이라고 부른다. 비인접 인트라 레퍼런스 라인은 제1 비인접 인트라 레퍼런스 라인(비인접 레퍼런스 라인 인덱스 1), 제2 비인접 인트라 레퍼런스 라인(비인접 레퍼런스 라인 인덱스 2) 또는 제3 비인접 인트라 레퍼런스 라인(비인접 레퍼런스 라인 인덱스 3) 중 적어도 하나를 포함할 수 있다. 비인접 인트라 레퍼런스 라인 중 일부만 사용할 수도 있다. 일 예로, 제1 비인접 인트라 레퍼런스 라인 과 제2 비인접 인트라 레퍼런스 라인만 사용할 수도 있고, 제1 비인접 인트라 레퍼런스 라인과 제3 비인접 인트라 레퍼런스 라인만 사용할 수도 있다.
인트라 예측에 사용된 레퍼런스 라인을 특정하는 신택스인 인트라 레퍼런스 라인 인덱스(intra_luma_ref_idx)를 코딩 유닛 단위로 시그날링 할 수 있다.
구체적으로 인접 인트라 레퍼런스 라인, 제1 비인접 인트라 레퍼런스 라인, 제3 비인접 인트라 레퍼런스 라인을 사용하는 경우에 다음 표 5와 같이 intra_luma_ref_idx를 정의할 수도 있다.
intra_luma_ref_idx[　x0　][　y0　] 인트라 예측에 사용된 레퍼런스 라인
0 인접 인트라 레퍼런스 라인
1 제 1 비인접 레퍼런스 라인
2 제 3 비인접 레퍼런스 라인
또는, 현재 블록의 크기, 형태 또는 인트라 예측 모드에 따라, 비인접 레퍼런스 라인의 위치가 특정될 수도 있다. 예컨대, 라인 인덱스가 0인 것은 인접 인트라 레퍼런스 라인을 나타내고, 라인 인덱스가 1인 것은 제1 비인접 인트라 레퍼런스 라인을 나타낼 수 있다. 한편, 현재 블록의 크기, 형태 또는 인트라 예측 모드에 따라, 라인 인덱스가 2는 제2 비인접 인트라 레퍼런스 라인 또는 제3 비인접 인트라 레퍼런스 라인을 나타낼 수 있다.인트라 모드에 따라서 사용 가능한 비인접 레퍼런스 라인을 결정할 수도 있다. 예를 들어, 대각 모드 인트라 예측을 사용하는 경우에는 인접 레퍼런스 라인과 제1 비인접 레퍼런스 라인 및 제3 비인접 레퍼런스 라인만 사용할 수도 있고, 수직 또는 수평 인트라 예측 모드에서는 인접 레퍼런스 라인, 제1 비인접 레퍼런스 라인 및 제2 비인접 ?낮굵? 라인을 사용하도록 설정할 수도 있다.
비인접 인트라 레퍼런스 라인을 사용하는 경우에는 비방향성 인트라 예측 모들를 사용하지 않도록 설정할 수도 있다. 즉, 비인접 인트라 레퍼런스 라인을 사용하는 경우에는 DC 모드 내지 플래너 모드 (Planar mode)를 사용하지 않도록 제한할 수도 있다.
또 다른 예를 들어, 비인접 인트라 레퍼런스 라인을 사용하는 경우, 비방향성 인트라 예측 모드 또는 특정 방향성 인트라 예측 모드 중 적어도 하나를 사용하지 못하도록 제한할 수 있다. 비방향성 인트라 예측 모드는 DC 모드 및 플래너 모드 (Planar mode) 중 적어도 하나를 포함하고, 특정 방향성 인트라 예측 모드는, 수평 방향 모드 (INTRA_MODE18), 수직 방향 모드(INTRA_MODE50), 대각방향 모드(INTRA_MODE2, 66), 와이드 앵글 모드 중 적어도 하나를 포함할 수 있다.
비인접 인트라 레퍼런스 라인에 속한 샘플의 개수는 인접 인트라 페러런스 라인의 샘플 개수보다 크게 설정할 수 있다. 또한 제i 비인접 인트라 레퍼런스 라인의 샘플 개수보다 제(i+1) 비인접 인트라 레퍼런스 라인의 샘플 개수가 더 많게 설정할 수도 있다. 제i 비인접 인트라 레퍼런스 라인의 상측 샘플 개수와 제(i-1) 비인접 인트라 레퍼런스 라인의 상측 샘플 개수 차이는 레퍼런스 샘플 개수 오프셋 offsetX[i]로 나타낼 수 있다. offsetX[1]은 제1 비인접 인트라 레퍼런스 라인의 상측 샘플 개수와 인접 인트라 레퍼런스 라인의 상측 샘플 개수의 차분 값을 나타낸다. 제i 비인접 인트라 레퍼런스 라인의 좌측샘플 개수와 제(i-1) 비인접 인트라 레퍼런스 라인의 좌측 샘플 개수 차이는 레퍼런스 샘플 개수 오프셋 offsetY[i]로 나타낼 수 있다. offsetY[1]은 제1 비인접 인트라 레퍼런스 라인의 좌측 샘플 개수와 인접 인트라 레퍼런스 라인의 좌측 샘플 개수의 차분 값을 나타낸다.
인트라 레퍼런스 라인 인덱스가 i인 비인접 인트라 레퍼런스 라인은 상측 비인접 레퍼런스 라인 refW + offsetX[i] 와 좌측 비인접 레퍼런스 라인 refH+ offsetY[i] 그리고 좌상단 샘플로 구성될 수 있으며, 비인접 인트라 레퍼런스 라인에 속한 샘플의 개수는 refW + refH + offsetX[i] + offsetY[i] +1 로 구성될 수 있다.
[수학식 8]
refW = (　nTbW　*　2　)
refH = (　nTbH　*　2　)
수학식 8에서 nTbW는 코딩 유닛의 너비를 나타내고, nTbH는 코딩 유닛의 높이를 나타내며, whRatio는 다음 수학식 9와 같이 정의 할 수 있다.
[수학식 9]
whRatio = log2(nTbW/nTbH)
멀티 라인 인트라 예측 부호화 방법에서는 비인접 인트라 레퍼런스 라인을 사용하는 경우에는 와이드 앵글 인트라 모드는 사용하지 않도록 설정할 수도 있다. 또는 현재 코딩 유닛의 MPM 모드가 와이드 앵글 인트라 모드이면 멀티 라인 인트라 예측 부호화 방법을 사용하지 않도록 설정할 수도 있다. 이 경우 인트라 레퍼런스 라인 인덱스가 i인 비인접 인트라 레퍼런스 라인은 상측 비인접 레퍼런스 라인 W + H + offsetX[i] 와 좌측 비인접 레퍼런스 라인 H + W + offsetY[i] 그리고 좌상단 샘플로 구성될 수 있으며, 비인접 인트라 레퍼런스 라인에 속한 샘플의 개수는 2W + 2H + offsetX[i] + offsetY[i] +1 로 구성될 수 있으며, whRatio 값에 따라서 offsetX[i]와 offsetY[i] 값이 달라질 수 있따. 예를 들어, whRatio 값이 1 보다 큰 경우에는 offsetX[i] 값을 1, offsetY[i] 값을 0 으로 설정할 수 있고, whRatio 값이 1 보다 작은 경우에는 offsetX[i] 값을 0, offsetY[i] 값을 1로 설정할 수도 있다.
도 31은 본 발명이 적용되는 일실시예로서, 성분 간 참조 기반의 예측 방법을 도시한 것이다.
현재 블록은, 성분 타입에 따라 휘도 블록과 색차 블록으로 분류될 수 있다. 색차 블록은 기-복원된 휘도 블록의 화소를 이용하여 예측될 수 있으며, 이를 성분 간 참조라 부르기로 한다. 본 실시예에서는, 색차 블록은 (nTbW x nTbH)의 크기를 가지고, 색차 블록에 대응하는 휘도 블록은 (2*nTbW x 2*nTbH)의 크기를 가지는 것을 가정한다.
도 31을 참조하면, 색차 블록의 인트라 예측 모드를 결정할 수 있다(S3100).
색차 블록을 위한 기-정의된 인트라 예측 모드는, 제1 그룹과 제2 그룹으로 구분될 수 있다. 여기서, 제1 그룹은, 성분 간 참조 기반의 예측 모드로 구성되고, 제2 그룹은 도 22에 도시된 인트라 예측 모드의 전부 또는 일부로 구성될 수 있다.
부호화/복호화 장치는, 성분 간 참조 기반의 예측 모드로서, INTRA_LT_CCLM, INTRA_L_CCLM, 또는 INTRA_T_CCLM 중 적어도 하나를 정의할 수 있다. INTRA_LT_CCLM는 휘도/색차 블록에 인접한 좌측 및 상단 영역을 모두 참조하는 모드이고, INTRA_L_CCLM는 휘도/색차 블록에 인접한 좌측 영역을 참조하는 모드이며, INTRA_T_CCLM는 휘도/색차 블록에 인접한 상단 영역을 참조하는 모드일 수 있다.
색차 블록의 인트라 예측 모드는, 상기 제1 그룹 또는 제2 그룹 중 어느 하나를 선택적으로 이용하여 유도될 수 있다. 상기 선택은, 소정의 제1 플래그에 기초하여 수행될 수 있다. 상기 제1 플래그는, 색차 블록의 인트라 예측 모드가 제1 그룹에 기초하여 유도되는지 또는 제2 그룹에 기초하여 유도되는지 여부를 나타낼 수 있다.
예를 들어, 상기 제1 플래그가 제1 값인 경우, 색차 블록의 인트라 예측 모드는 제1 그룹에 속한 성분 간 참조 기반의 예측 모드 중 어느 하나로 결정될 수 있다. 상기 성분 간 참조 기반의 예측 모드 중 어느 하나를 선택하기 위해 소정의 인덱스가 이용될 수 있다. 상기 인덱스는, INTRA_LT_CCLM, INTRA_L_CCLM, 또는 INTRA_T_CCLM 중 어느 하나를 특정하는 정보일 수 있다. 성분 간 참조 기반의 예측 모드와 각 예측 모드에 할당된 인덱스는 다음 표 6과 같다.
Idx 성분 간 참조 기반의 예측 모드
0 INTRA_LT_CCLM
1 INTRA_L_CCLM
2 INTRA_T_CCLM
표 6은, 각 예측 모드에 할당되는 인덱스의 일예에 불과하며, 이에 한정되지 아니한다. 즉, 표 6과 같이, INTRA_LT_CCLM, INTRA_L_CCLM, INTRA_T_CCLM의 우선순서로 인덱스가 할당될 수도 있고, INTRA_LT_CCLM, INTRA_T_CCLM, INTRA_L_CCLM의 우선순서로 인덱스가 할당될 수도 있다. 또는, INTRA_LT_CCLM가 INTRA_T_CCLM 또는 INTRA_L_CCLM보다 낮은 우선순서를 가질 수도 있다.반면, 상기 제1 플래그가 제2 값인 경우, 색차 블록의 인트라 예측 모드는, 제2 그룹에 속한 복수의 인트라 예측 모드 중 어느 하나로 결정될 수 있다. 일예로, 제2 그룹은 표 7과 같이 정의될 수 있으며, 색차 블록의 인트라 예측 모드는, 부호화 장치에서 시그날링되는 정보(intra_chroma_pred_mode)와 휘도 블록의 인트라 예측 모드(IntraPredModeY)에 기초하여 유도될 수 있다.
intra_chroma_pred_mode[　xCb　][　yCb　] IntraPredModeY[　xCb　+　cbWidth　/　2　][　yCb　+　cbHeight　/　2　]
0 50 18 1 X (　0　　<=　　X　　<=　　66　)
0 66 0 0 0 0
1 50 66 50 50 50
2 18 18 66 18 18
3 1 1 1 66 1
4 0 50 18 1 X
상기 제1 플래그는, 성분 간 참조가 허용되는지 여부를 나타내는 정보에 기초하여 선택적으로 시그날링될 수 있다. 예를 들어, 상기 정보의 값이 1인 경우, 상기 제1 플래그가 시그날링되고, 그렇지 않은 경우, 상기 제1 플래그는 시그날링되지 않을 수 있다. 여기서, 정보는 후술하는 소정의 조건에 기초하여 0 또는 1로 결정될 수 있다.(조건 1) 성분 간 참조 기반의 예측이 허용되는지 여부를 나타내는 제2 플래그가 0인 경우, 상기 정보는 0으로 설정될 수 있다. 상기 제2 플래그는 비디오 파라미터 세트(VPS), 시퀀스 파라미터 세트(SPS), 픽쳐 파라미터 세트(PPS) 또는 슬라이스 헤더 중 적어도 하나에서 시그날링될 수 있다.
(조건 2) 다음 서브-조건 중 적어도 하나를 만족하는 경우, 상기 정보는 1로 설정될 수 있다.
- qtbtt_dual_tree_intra_flag의 값이 0인 경우
- 슬라이스 타입이 I 슬라이스가 아닌 경우
- 코딩 트리 블록의 크기가 64x64보다 작은 경우
상기 조건 2에서, qtbtt_dual_tree_intra_flag는 코딩 트리 블록이 64x64 크기의 코딩 블록으로 묵시적 분할되고, 64x64 크기의 코딩 블록이 듀얼 트리로 분할되는지 여부를 나타낼 수 있다. 상기 듀얼 트리는, 휘도 성분과 색차 성분가 서로 독립적인 분할 구조를 가지고 분할되는 방식을 의미할 수 있다. 상기 코딩 트리 블록의 크기(CtbLog2Size)는, 부호화/복호화 장치에 기-정의된 크기(e.g., 64x64, 128x128, 256x256)일 수도 있고, 부호화 장치에서 부호화되어 시그날링될 수도 있다.
(조건 3) 다음 서브-조건 중 적어도 하나를 만족하는 경우, 상기 정보는 1로 설정될 수 있다.
- 제1 상위 블록의 너비와 높이가 64인 경우
- 제1 상위 블록의 뎁스가 (CtbLog2Size-6)과 동일하고, 제1 상위 블록이 Horizontal BT로 분할되고, 제2 상위 블록이 64x32인 경우
- 제1 상위 블록의 뎁스가 (CtbLog2Size-6)보다 큰 경우
- 제1 상위 블록의 뎁스가 (CtbLog2Size-6)과 동일하고, 제1 상위 블록이 Horizontal BT로 분할되고, 제2 상위 블록이 Vertical BT로 분할된 경우
상기 조건 3에서, 제1 상위 블록은 현재 색차 블록을 하위 블록으로 포함하는 블록일 수 있다. 예를 들어, 현재 색차 블록의 뎁스가 k인 경우, 제1 상위 블록의 뎁스는 (k-n)이고, n은 1, 2, 3, 4 또는 그 이상일 수 있다. 상기 제1 상위 블록의 뎁스는, 쿼드트리 기반의 분할에 따른 뎁스만을 의미하거나, 쿼드트리, 바이너리트리 또는 터너리트리 중 적어도 하나의 분할에 따른 뎁스를 의미할 수도 있다. 상기 제2 상위 블록은 제1 상위 블록에 속한 하위 블록으로서, 현재 색차 블록보다 작은 뎁스를, 제1 상위 블록보다 큰 뎁스를 가질 수 있다. 예를 들어, 현재 색차 블록의 뎁스가 k인 경우, 제2 상위 블록의 뎁스는 (k-m)이고, m은 n보다 작은 자연수일 수 있다.
전술한 조건 1 내지 3 중 어느 하나도 만족하지 않는 경우, 상기 정보는 0으로 설정될 수 있다.
다만, 조건 1 내지 3 중 적어도 하나를 만족하는 경우라도, 다음 서브-조건 중 적어도 하나를 만족하는 경우, 상기 정보는 0으로 재설정될 수 있다.
- 제1 상위 블록이 64x64이고, 전술한 서브 블록 단위의 예측을 수행하는 경우
- 제1 상위 블록의 너비 또는 높이 적어도 하나가 64보다 작고, 제1 상위 블록의 뎁스가 (CtbLog2Size-6)와 동일한 경우
도 31을 참조하면, 색차 블록의 성분 간 참조를 위한 휘도 영역을 특정할 수 있다(S3110).
상기 휘도 영역은, 휘도 블록 또는 휘도 블록에 인접한 이웃 영역 중 적어도 하나를 포함할 수 있다. 여기서, 휘도 블록은 화소 pY[x][y] (x=0..nTbW*2-1, y=0..nTbH*2-1)을 포함하는 영역으로 정의될 수 있다. 상기 화소는, 인-루프 필터가 적용되기 전의 복원값을 의미할 수 있다.
상기 이웃 영역은, 좌측 이웃 영역, 상단 이웃 영역 또는 좌상단 이웃 영역 중 적어도 하나를 포함할 수 있다. 상기 좌측 이웃 영역은, 화소 pY[x][y] (x=-1..-3, y=0..2*numSampL-1)을 포함하는 영역으로 설정될 수 있다. 상기 설정은, numSampL의 값이 0보다 큰 경우에 한하여 수행될 수 있다. 상기 상단 이웃 영역은, 화소 pY[x][y] (x=0..2*numSampT-1, y=-1..-3)을 포함하는 영역으로 설정될 수 있다. 상기 설정은, numSampT의 값이 0보다 큰 경우에 한하여 수행될 수 있다. 상기 좌상단 이웃 영역은, 화소 pY[x][y] (x=-1, y=-1,-2)을 포함하는 영역으로 설정될 수 있다. 상기 설정은, 휘도 블록의 좌상단 영역이 가용인 경우에 한하여 수행될 수 있다.
전술한, numSampL 및 numSampT은, 현재 블록의 인트라 예측 모드에 기초하여 결정될 수 있다. 여기서, 현재 블록은 색차 블록을 의미할 수 있다.
예를 들어, 현재 블록의 인트라 예측 모드가 INTRA_LT_CCLM인 경우, 다음 수학식 10과 같이 유도될 수 있다. 여기서, INTRA_LT_CCLM은 성분 간 참조가 현재 블록의 좌측 및 상단에 인접한 영역에 기반하여 수행되는 모드를 의미할 수 있다.
[수학식 10]
numSampT = availT ? nTbW : 0
numSampL = availL ? nTbH : 0
수학식 10에 따르면, numSampT는 현재 블록의 상단 이웃 영역이 가용인 경우에는 nTbW으로 유도되고, 그렇지 않은 경우에는 0으로 유도될 수 있다. 마찬가지로, numSampL은 현재 블록의 좌측 이웃 영역이 가용인 경우에는 nTbH으로 유도되고, 그렇지 않은 경우에는 0으로 유도될 수 있다.
반면, 현재 블록의 인트라 예측 모드가 INTRA_LT_CCLM가 아닌 경우, 다음 수학식 11과 같이 유도될 수 있다.
[수학식 11]
numSampT = ( availT && predModeIntra = = INTRA_T_CCLM ) ? ( nTbW + numTopRight ) : 0
numSampL = ( availL && predModeIntra = = INTRA_L_CCLM ) ? ( nTbH + numLeftBelow ) : 0
수학식 11에서, INTRA_T_CCLM은 성분 간 참조가 현재 블록의 상단에 인접한 영역에 기반하여 수행되는 모드를 의미하고, INTRA_L_CCLM은 성분 간 참조가 현재 블록의 좌측에 인접한 영역에 기반하여 수행되는 모드를 의미할 수 있다. numTopRight은, 색차 블록의 우상단에 인접한 영역에 속한 전부 또는 일부 화소의 개수를 의미할 수 있다. 일부 화소는, 해당 영역의 최하단 화소 라인(row)에 속한 화소 중 가용 화소를 의미할 수 있다. 가용에 대한 판단은, 좌측에서 우측 방향으로 화소의 가용 여부를 순차적으로 판단하며, 이는 비가용 화소가 발견될 때까지 수행될 수 있다. numLeftBelow은, 색차 블록의 좌하단에 인접한 영역에 속한 전부 또는 일부 화소의 개수를 의미할 수 있다. 일부 화소는, 해당 영역의 최우측 화소 라인(column)에 속한 화소 중 가용 화소를 의미할 수 있다. 가용에 대한 판단은, 위에서 아래 방향으로 화소의 가용 여부를 순차적으로 판단하며, 이는 비가용 화소가 발견될 때까지 수행될 수 있다.
도 31을 참조하면, S3110에서 특정된 휘도 영역에 대해서 다운샘플링이 수행될 수 있다(S3120).
상기 다운샘플링은, 1. 휘도 블록에 대한 다운샘플링, 2. 휘도 블록의 좌측 이웃 영역에 대한 다운샘플링, 또는 3. 휘도 블록의 상단 이웃 영역에 대한 다운샘플링 중 적어도 하나를 포함할 수 있으며, 이하 상세히 살펴 보도록 한다.
1. 휘도 블록에 대한 다운샘플링
(실시예 1)
다운샘플링된 휘도 블록의 화소 pDsY[x][y] (x=0..nTbW-1, y=0..nTbH-1)은, 휘도 블록의 대응 화소 pY[2*x][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소은, 대응 화소의 좌측, 우측, 상단, 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pDsY[x][y]은 다음 수학식 12와 같이 유도될 수 있다.
[수학식 12]
pDsY[ x ][ y ] = ( pY[ 2 * x ][ 2 * y - 1 ] + pY[ 2 * x - 1 ][ 2 * y ] + 4 * pY[ 2 * x ][ 2 * y ] + pY[ 2 * x + 1 ][ 2 * y ] + pY[ 2 * x ][ 2 * y + 1 ] + 4 ) >> 3
다만, 현재 블록의 좌측/상단 이웃 영역이 비가용인 경우가 존재할 수 있다. 만일 현재 블록의 좌측 이웃 영역이 비가용인 경우, 다운샘플링된 휘도 블록의 화소 pDsY[0][y] (y=1..nTbH-1)은, 휘도 블록의 대응 화소 pY[0][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 상단 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pDsY[0][y] (y=1..nTbH-1)은 다음 수학식 13과 같이 유도될 수 있다.
[수학식 13]
pDsY[ 0 ][ y ] = ( pY[ 0 ][ 2 * y - 1 ] + 2 * pY[ 0 ][ 2 * y ] + pY[ 0 ][ 2 * y + 1 ] + 2 ) >> 2
만일 현재 블록의 상단 이웃 영역이 비가용인 경우, 다운샘플링된 휘도 블록의 화소 pDsY[x][0] (x=1..nTbW-1)은, 휘도 블록의 대응 화소 pY[2*x][0] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측 또는 우측 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pDsY[x][0] (x=1..nTbW-1)은 다음 수학식 14와 같이 유도될 수 있다.
[수학식 14]
pDsY[ x ][ 0 ] = ( pY[ 2 * x - 1 ][ 0 ] + 2 * pY[ 2 * x ][ 0 ] + pY[ 2 * x + 1 ][ 0 ] + 2 ) >> 2
한편, 다운샘플링된 휘도 블록의 화소 pDsY[0][0]은, 휘도 블록의 대응 화소 pY[0][0] 및/또는 주변 화소에 기초하여 유도될 수 있다. 주변 화소의 위치는, 현재 블록의 좌측/상단 이웃 영역의 가용 여부에 따라 상이하게 결정될 수 있다.
예를 들어, 좌측 이웃 영역은 가용하고, 상단 이웃 영역이 가용하지 않은 경우, pDsY[0][0]은 다음 수학식 15와 같이 유도될 수 있다.
[수학식 15]
pDsY[ 0 ][ 0 ] = ( pY[ -1 ][ 0 ] + 2 * pY[ 0 ][ 0 ] + pY[ 1 ][ 0 ] + 2 ) >> 2
반면, 좌측 이웃 영역은 가용하지 않고, 상단 이웃 영역이 가용한 경우, pDsY[0][0]은 다음 수학식 16과 같이 유도될 수 있다.
[수학식 16]
pDsY[ 0 ][ 0 ] = ( pY[ 0 ][ -1 ] + 2 * pY[ 0 ][ 0 ] + pY[ 0 ][ 1 ] + 2 ) >> 2
한편, 좌측 및 상단 이웃 영역 모두 가용하지 않은 경우, pDsY[ 0 ][ 0 ]은 휘도 블록의 대응 화소 pY[0][0]로 설정될 수 있다.
(실시예 2)
다운샘플링된 휘도 블록의 화소 pDsY[x][y] (x=0..nTbW-1, y=0..nTbH-1)은, 휘도 블록의 대응 화소 pY[2*x][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 하단, 좌측, 우측, 좌하단 또는 우하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pDsY[x][y]은 다음 수학식 17과 같이 유도될 수 있다.
[수학식 17]
pDsY[ x ][ y ] = ( pY[ 2 * x - 1 ][ 2 * y ] + pY[ 2 * x - 1 ][ 2 * y + 1 ] + 2* pY[ 2 * x ][ 2 * y ] + 2*pY[ 2 * x ][ 2 * y + 1 ] + pY[ 2 * x + 1 ][ 2 * y ] + pY[ 2 * x + 1 ][ 2 * y + 1 ] + 4 ) >> 3
다만, 만일 현재 블록의 좌측 이웃 영역이 비가용인 경우, 다운샘플링된 휘도 블록의 화소 pDsY[0][y] (y=0..nTbH-1)은, 휘도 블록의 대응 화소 pY[0][2*y] 및 하단 주변 화소에 기초하여 유도될 수 있다. 예를 들어, 화소 pDsY[0][y] (y=0..nTbH-1)은 다음 수학식 18과 같이 유도될 수 있다.
[수학식 18]
pDsY[ 0 ][ y ] = ( pY[ 0 ][ 2 * y ] + pY[ 0 ][ 2 * y + 1 ] + 1 ) >> 1
휘도 블록의 다운샘플링은, 전술한 실시예 1과 2 중 어느 하나에 기초하여 수행될 수 있다. 이때 소정의 플래그에 기초하여 실시예 1 또는 2 중 어느 하나가 선택될 수 있다. 여기서, 플래그는, 다운샘플링된 휘도 화소가 원 휘도 화소와 동일한 위치를 가지는지 여부를 나타낼 수 있다. 예를 들어, 상기 플래그가 제1 값인 경우, 다운샘플링된 휘도 화소가 원 휘도 화소와 동일한 위치를 가진다. 반면, 상기 플래그가 제2 값인 경우, 다운샘플링된 휘도 화소는 원 휘도 화소와 수평 방향으로는 동일한 위치를 가지나, 수직 방향으로는 하프 펠(half pel)만큼 쉬프트된 위치를 가진다.
2. 휘도 블록의 좌측 이웃 영역에 대한 다운샘플링
(실시예 1)
다운샘플링된 좌측 이웃 영역의 화소 pLeftDsY[y] (y=0..numSampL-1)은, 좌측 이웃 영역의 대응 화소 pY[-2][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측, 우측, 상단, 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pLeftDsY[y]은 다음 수학식 19와 같이 유도될 수 있다.
[수학식 19]
pLeftDsY[ y ] = ( pY[ -2 ][ 2 * y - 1 ] + pY[ -3 ][ 2 * y ] + 4 * pY[ -2 ][ 2 * y ] + pY[ -1 ][ 2 * y ] + pY[ -2][ 2 * y + 1 ] + 4 ) >> 3
다만, 현재 블록의 좌상단 이웃 영역이 비가용인 경우, 다운샘플링된 좌측이웃 영역의 화소 pLeftDsY[ 0 ]은, 좌측 이웃 영역의 대응 화소 pY[-2][0] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측 또는 우측 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pLeftDsY[ 0 ]은 다음 수학식 20과 같이 유도될 수 있다.
[수학식 20]
pLeftDsY[ 0 ] = ( pY[ -3 ][ 0 ] + 2 * pY[ -2 ][ 0 ] + pY[ -1 ][ 0 ] + 2 ) >> 2
(실시예 2)
다운샘플링된 좌측 이웃 영역의 화소 pLeftDsY[y] (y=0..numSampL-1)은, 좌측 이웃 영역의 대응 화소 pY[-2][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 하단, 좌측, 우측, 좌하단 또는 우하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pLeftDsY[y]은 다음 수학식 21과 같이 유도될 수 있다.
[수학식 21]
pLeftDsY[ y ] = ( pY[ -1 ][ 2 * y ] + pY[ -1 ][ 2 * y + 1 ] + 2* pY[ -2 ][ 2 * y ] + 2*pY[ -2 ][ 2 * y + 1 ] + pY[ -3 ][ 2 * y ] + pY[ -3 ][ 2 * y + 1 ] + 4 ) >> 3
마찬가지로, 좌측 이웃 영역의 다운샘플링은, 전술한 실시예 1과 2 중 어느 하나에 기초하여 수행될 수 있다. 이때 소정의 플래그에 기초하여 실시예 1 또는 2 중 어느 하나가 선택될 수 있다. 상기 플래그는, 다운샘플링된 휘도 화소가 원 휘도 화소와 동일한 위치를 가지는지 여부를 나타내며, 이는 전술한 바와 같다.
한편, 좌측 이웃 영역에 대한 다운샘플링은, numSampL 값이 0보다 큰 경우에 한하여 수행될 수 있다. numSampL 값이 0보다 큰 경우라 함은, 현재 블록의 좌측 이웃 영역이 가용이고, 현재 블록의 인트라 예측 모드는 INTRA_LT_CCLM 또는 INTRA_L_CCLM인 경우를 의미할 수 있다.
3. 휘도 블록의 상단 이웃 영역에 대한 다운샘플링
(실시예 1)
다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x] (x=0..numSampT-1)은, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는지 여부를 고려하여 유도될 수 있다.
상단 이웃 영역이 휘도 블록과 동일한 CTU에 속하는 경우, 다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x]는 상단 이웃 영역의 대응 화소 pY[2*x][-2] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측, 우측, 상단, 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[x]은 다음 수학식 22와 같이 유도될 수 있다.
[수학식 22]
pTopDsY[ x ] = ( pY[ 2 * x ][ -3 ] + pY[ 2 * x - 1 ][ -2 ] + 4 * pY[ 2 * x ][ -2 ] + pY[ 2 * x + 1 ][ -2 ] + pY[ 2 * x ][ -1 ] + 4 ) >> 3
반면, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는 경우, 다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x]는 상단 이웃 영역의 대응 화소 pY[2*x][-1] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측 또는 우측 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[ x ]은 다음 수학식 23과 같이 유도될 수 있다.
[수학식 23]
pTopDsY[ x ] = ( pY[ 2 * x - 1 ][ -1 ] + 2* pY[ 2 * x ][ -1 ] + pY[ 2 * x + 1 ][ -1 ] + 2 ) >> 2
또는, 현재 블록의 좌상단 이웃 영역이 비가용인 경우, 상기 주변 화소는 대응 화소의 상단 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[ 0 ]은 다음 수학식 24와 같이 유도될 수 있다.
[수학식 24]
pTopDsY[ 0 ] = ( pY[ 0 ][ -3 ] + 2 * pY[ 0 ][ -2 ] + pY[ 0 ][ -1 ] + 2 ) >> 2
또는, 현재 블록의 좌상단 이웃 영역이 비가용이고, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는 경우, 화소 pTopDsY[ 0 ]은 상단 이웃 영역의 화소 pY[ 0 ][ -1 ]로 설정될 수 있다.
(실시예 2)
다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x] (x=0..numSampT-1)은, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는지 여부를 고려하여 유도될 수 있다.
상단 이웃 영역이 휘도 블록과 동일한 CTU에 속하는 경우, 다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x]는 상단 이웃 영역의 대응 화소 pY[2*x][-2] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 하단, 좌측, 우측, 좌하단 또는 우하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[x]은 다음 수학식 25와 같이 유도될 수 있다.
[수학식 25]
pTopDsY[ x ] = ( pY[ 2 * x - 1 ][ -2 ] + pY[ 2 * x - 1 ][ -1 ] + 2* pY[ 2 * x ][ -2 ] + 2*pY[ 2 * x ][ -1 ] + pY[ 2 * x + 1 ][ -2 ] + pY[ 2 * x + 1 ][ -1 ] + 4 ) >> 3
반면, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는 경우, 다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x]는 상단 이웃 영역의 대응 화소 pY[2*x][-1] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측 또는 우측 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[ x ]은 다음 수학식 26과 같이 유도될 수 있다.
[수학식 26]
pTopDsY[ x ] = ( pY[ 2 * x - 1 ][ -1 ] + 2* pY[ 2 * x ][ -1 ] + pY[ 2 * x + 1 ][ -1 ] + 2 ) >> 2
또는, 현재 블록의 좌상단 이웃 영역이 비가용인 경우, 상기 주변 화소는 대응 화소의 상단 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[ 0 ]은 다음 수학식 27과 같이 유도될 수 있다.
[수학식 27]
pTopDsY[ 0 ] = ( pY[ 0 ][ -2 ] + pY[ 0 ][ -1 ] + 1 ) >> 1
또는, 현재 블록의 좌상단 이웃 영역이 비가용이고, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는 경우, 화소 pTopDsY[ 0 ]은 상단 이웃 영역의 화소 pY[ 0 ][ -1 ]로 설정될 수 있다.
마찬가지로, 상단 이웃 영역의 다운샘플링은, 전술한 실시예 1과 2 중 어느 하나에 기초하여 수행될 수 있다. 이때 소정의 플래그에 기초하여 실시예 1 또는 2 중 어느 하나가 선택될 수 있다. 상기 플래그는, 다운샘플링된 휘도 화소가 원 휘도 화소와 동일한 위치를 가지는지 여부를 나타내며, 이는 전술한 바와 같다.
한편, 상단 이웃 영역에 대한 다운샘플링은, numSampT 값이 0보다 큰 경우에 한하여 수행될 수 있다. numSampT 값이 0보다 큰 경우라 함은, 현재 블록의 상단 이웃 영역이 가용이고, 현재 블록의 인트라 예측 모드는 INTRA_LT_CCLM 또는 INTRA_T_CCLM인 경우를 의미할 수 있다.
전술한 휘도 블록의 좌측 또는 상단 이웃 영역 중 적어도 하나(이하, 휘도 참조 영역)에 대한 다운샘플링은, 특정 위치의 대응 화소 pY[-2][2*y] 및 주변 화소만을 이용하여 수행될 수 있다. 여기서, 특정 위치는, 색차 블록의 좌측 또는 상단 이웃 영역 중 적어도 하나(이하, 색차 참조 영역)에 속한 복수의 화소 중 선택된 화소의 위치에 기초하여 결정될 수 있다.
상기 선택된 화소는, 색차 참조 영역에서 홀수번째에 위치한 화소이거나 짝수번째에 위치한 화소일 수 있다. 또는, 상기 선택된 화소는, 시작 화소 및 시작 화소로부터 소정의 간격마다 위치한 하나 또는 그 이상의 화소일 수 있다. 여기서, 시작 화소는 색차 참조 영역에서 첫번째, 두번째 또는 세번째에 위치한 화소일 수 있다. 상기 간격은 1개, 2개, 3개, 4개 또는 그 이상의 샘플 간격일 수 있다. 예를 들어, 상기 간격이 1개 샘플 간격인 경우, 선택된 화소는 n번째 화소, (n+2)번째 화소 등을 포함할 수 있다. 선택된 화소의 개수는, 2개, 4개, 6개, 8개 또는 그 이상일 수 있다.
상기 선택된 화소의 개수, 시작 화소 및 간격은, 색차 참조 영역의 길이(즉, numSampL 및/또는 numSampT) 또는 색차 블록의 인트라 예측 모드 중 적어도 하나에 기초하여 가변적으로 결정될 수 있다. 또는, 선택된 화소의 개수는, 색차 참조 영역의 길이 및 색차 블록의 인트라 예측 모드에 관계없이, 부호화/복호화 장치에 기-약속된 고정된 개수(e.g., 4개)일 수 있다.
도 31을 참조하면, 색차 블록의 성분 간 참조를 위한 파라미터를 유도할 수 있다(S3130).
상기 파라미터는 가중치 또는 오프셋 중 적어도 하나를 포함할 수 있다. 상기 파라미터는, 현재 블록의 인트라 예측 모드를 고려하여 결정될 수 있다. 상기 파라미터는, 색차 참조 영역의 선택된 화소 및 휘도 참조 영역의 다운샘플링을 통해 획득된 화소를 이용하여 유도될 수 있다.
구체적으로, 휘도 참조 영역의 다운샘플링을 통해 획득된 n개의 화소 간의 크기 비교를 수행하여, n개의 화소를 2개의 그룹으로 분류할 수 있다. 예를 들어, 제1 그룹은 n개의 화소 중 상대적으로 큰 값을 가진 화소의 그룹이고, 제2 그룹은 n개의 샘플 중 제1 그룹의 화소를을 제외한 나머지 화소의 그룹일 수 있다. 즉, 제2 그룹은 상대적으로 작은 값을 가진 화소의 그룹일 수 있다. 여기서, n은 4, 8, 16 또는 그 이상일 수 있다. 제1 그룹에 속한 화소들의 평균값을 최대값(MaxL)으로 설정하고, 제2 그룹에 속한 화소들의 평균값을 최소값(MinL)으로 설정할 수 있다.
상기 휘도 참조 영역의 다운샘플링을 통해 획득된 n개의 화소에 대한 그룹핑에 따라, 색차 참조 영역의 선택된 화소를 그룹핑할 수 있다. 휘도 참조 영역에 대한 제1 그룹의 화소에 대응하는 색차 참조 영역의 화소를 이용하여, 색차 참조 영역에 대한 제1 그룹을 구성하고, 휘도 참조 영역에 대한 제2 그룹의 화소에 대응하는 색차 참조 영역의 화소를 이용하여, 색차 참조 영역에 대한 제2 그룹을 구성할 수 있다. 마찬가지로, 제1 그룹에 속한 화소들의 평균값을 최대값(MaxC)으로 설정하고, 제2 그룹에 속한 화소들의 평균값을 최소값(MinC)으로 설정할 수 있다.
상기 산출된 최대값(MaxL, MaxC) 및 최소값(MinL, MaxC)을 기반으로, 상기 파라미터의 가중치 및/또는 오프셋을 유도할 수 있다.
색차 블록은, 다운샘플링된 휘도 블록과 파라미터를 기반으로 예측?? 수 있다(S3140).
색차 블록은 다운샘플링된 휘도 블록의 화소에 기-유도된 가중치 또는 오프셋 중 적어도 하나를 적용하여 예측될 수 있다.
다만, 도 31은 휘도 블록의 주변 영역에 대한 다운샘플링 방법의 일예에 불과하며, 다른 다운샘플링/서브샘플링 방법이 적용될 수도 있으며, 이에 대해서는 이하 도 32 내지 도 38을 참조하여 자세히 살펴보도록 한다.
도 32 내지 도 38은 본 발명이 적용되는 일실시예로서, 휘도 블록의 주변 영역에 대한 다운샘플링 및 성분 간 참조를 위한 파라미터 유도 방법을 도시한 것이다.
현재 코딩 유닛의 주변 샘플을 Downsampling 또는 subsampling 중 적어도 하나를 수행한 영상을 기반으로 선형 예측하여 수학식 28과 같이 예측 영상을 생성할 수 있다.
[수학식 28]
Predc(i,j) = (α * recl'(i,j) >> S) + β
수학식 28에서, recl'은 다운샘플링된 휘도 블록의 복원 샘플을 의미하며, Predc은 선형 크로마 예측에 의해 생성된 색차 블록의 예측 샘플을 의미할 수 있다.
현재 코딩 유닛의 주변 샘플은 도 32의 오른쪽 그림과 같이 현재 코딩 유닛의 좌측 경계와 상측 경계에 존재하는 샘플로 구성할 수 있으며, 이를 다운샘플링 (도 32의 오른쪽 그림의 회색 샘플로 다운샘플링)할 수 있으며, 이를 휘도 주변 템플릿 영상이라 부르기로 한다.
이때 수학식 28의 예측 에러를 가장 적게하는 선형 크로마 예측 파라미터 α 및 β 값은 다음 수학식 29와 같이 유도할 수 있다.
[수학식 29]
α = (yB - yA) / (xB - xA)
β = yA - α* xA
여기서 도 33과 같이 xA는 서브 샘플링된 휘도의 주변 샘플(즉, 휘도 주변 템플릿 영상) 중 가장 작은 값을 나타내고, xB는 서브 샘플링된 휘도의 주변 샘플 중 가장 큰 값을 나타낸다. yA는 xA와 대응되는 크로마의 주변 샘플을 나타내고, yB는 xB와 대응되는 크로마의 주변 샘플을 나타낸다.
또는, 도 34와 같이, 휘도 주변 템플릿 영상을 서브 샘플링하여 Max 및 min 값을 유도할 수도 있다. 서브 샘플링을 통해 획득된 n개의 샘플을 2개의 그룹으로 분류할 수 있다. 예를 들어, 제1 그룹은 n개의 샘플 중 상대적으로 큰 값을 가진 샘플의 그룹이고, 제2 그룹은 n개의 샘플 중 제1 그룹의 샘플을 제외한 나머지 샘플의 그룹일 수 있다. 즉, 제2 그룹은 상대적으로 작은 값을 가진 샘플의 그룹일 수 있다. 여기서, n은 4, 8, 16 또는 그 이상일 수 있다. 제1 그룹에 속한 샘플들의 평균값을 최대값(Max)으로 설정하고, 제2 그룹에 속한 샘플들의 평균값을 최소값(Min)으로 설정할 수 있다.
Min 또는 Max 값이 다른 샘플로부터 많이 떨어져 있는 아이솔레이티드 샘플(isolated sample)인 경우, 수학식 29를 이용하여 크로마 예측을 하면 예측 성능이 낮아질 가능성이 크다.
휘도 주변 템플릿 영상을 서브 샘플링 함으로써 아이솔레이티드 샘플이 최대값 또는 최소값이 되는 경우가 적어지고, 예측 성능을 올릴 수 있는 장점이 있다. 또한 최대값 및 최소값을 구하기 위해 비교 연산을 수행해야 하는데, 연산의 수가 4N(최대값 2N 및 최소값 2N)에서 2N(최대값 N 및 최소값 N)번으로 줄어들 수 있다.
휘도 주변 템플릿 영상을 휘도 블록 상측 경계에 인접한 i개 라인과 좌측 경계에 인접한 j개 라인에서 유도할 수 있다. i와 j는 2, 3, 4, 또는 그 이상일 수 있다. i는 j와 동일할 수 있고, i는 j보다 큰 값으로 설정될 수도 있다.
도 35와 같이 상측 경계에 인접한 4개 라인에서 2개 라인이 되도록 서브 샘플링/다운 샘플링을 수행할 수 있고, 좌측 경계에 인접한 4개 라인에서 2개 라인이 되도록 서브 샘플링/다운 샘플링을 수행할 수 있으며, 이를 1차 휘도 템플릿이라고 한다. 1차 휘도 템플릿의 Max 및 min 값을 유도하여, 선형 예측 크로마 파라미터 α 및 β를 유도할 수 있다. 유도된 선형 예측 크로마 파라미터와 휘도 블록의 복원 샘플을 이용하여, 색차 블록에 대한 선형 예측 크로마 예측을 수행할 수 있다. 여기서, 휘도 블록의 복원 샘플은 색차 블록의 해상도에 대응되도록 다운샘플링된 샘플일 수 있다.
도 36과 같이 다운 샘플링을 통해 생성된 1차 휘도 템플릿에서 서브 샘플링을 수행하여, 휘도 주변 템플릿 영상을 생성할 수 있다.
일 예로, 1차 휘도 템플릿 중 상측 라인에서는 x축 좌표가 같은 샘플끼리 동시에 서브 샘플링이 되지 않도록 구성할 수 있다. 마찬가지로, 1차 휘도 템플릿 중 상측 라인에서는 y축 좌표가 같은 샘플을 동시에 서브 샘플링 되지 않도록 구성할 수 있다.
또는, 휘도 블록에서 멀티 라인 인트라 예측 방법을 사용한 경우에는 인트라 레퍼런스 라인 인덱스(intra_luma_ref_idx)에 따라 휘도 주변 템플릿 영상을 서로 다르게 구성할 수도 있다. 구체적으로 예를 들어, intra_luma_ref_idx 값이 0인 경우에는 도 37의 좌측 그림과 같이 휘도 경계에 인접한 휘도 주변 템플릿 영상을 구성할 수 있고, intra_luam_ref_idx 값이 0이 아닌 경우에는 우측 그림과 같이 휘도 경계와 인접하지 않은 휘도 주변 템플릿 영상을 구성할 수 있다.
또는, 휘도에서 멀티 라인 인트라 예측 방법을 사용한 경우에는 인트라 레퍼런스 라인 인덱스(intra_luma_ref_idx)에 따라 휘도 주변 템플릿 영상 내 샘플을 가중 예측하여 휘도 주변 템플릿 영상의 최대값 및 최소값을 유도할 수 있다. 구체적으로 예를 들어, 상측 2개 라인에서 x축 좌표가 같은 샘플 끼리 가중 예측을 수행하고, 좌측 2개 라인에서 y축 좌표가 같은 샘플끼리 가중 예측을 수행하여 제2 주변 템플릿 샘플을 생성할 수 있다. 제2 주변 템플릿 샘플의 max 및 min 값을 산출하고, 이를 이용하여 선형 예측 크로마 파라미터 α 및 β를 유도할 수 있으며, 선형 예측 크로마 예측을 수행할 수 있다.
제2 주변 템플릿 샘플 생성시 사용되는 가중 예측 파라미터 값은 도 38과 같이 intra_luma_ref_idx 값에 따라 서로 다르게 설정할 수 있다. 구체적으로 예를 들어, intra_luma_ref_idx 값이 0인 경우에는 블록 경계와 인접한 라인에 속한 샘플에 가중치를 크게 설정할 수 있고, intra_luma_ref_idx 값이 0이 아닌 경우에는 블록 경계와 인접하지 않은 라인에 속한 샘플에 가중치를 크게 설정할 수 있다.
도 39 및 도 40은 본 발명이 적용되는 일실시예로서, 복원 블록에 인루프 필터를 적용하는 방법을 도시한 것이다.
인루프 필터링(In-loop filtering)은 양자화 및 부호화 과정에서 발생하는 정보의 손실을 줄이기 위해 복호화 된 영상에 적응적으로 필터링을 수행하는 기술이다. 디블록킹 필터(Deblocking filter), 샘플 적응적 오프셋 필터(sample adaptive offset filter, SAO), 적응적 루프 필터(adaptive loop filter, ALF)는 인루프 필터링의 한 예이다.
제1 복원 영상에 디블록킹 필터, 샘플 적응적 오프셋(Sample Adaptive Offset, SAO) 또는 적응적 루프 필터(adaptive loop filter, ALF) 중 적어도 어느 하나를 수행하여 제2 복원 영상을 생성할 수 있다.
복원 영상에 디블록킹 필터를 적용한 후, SAO 및 ALF를 적용할 수 있다.
비디오 부호화 과정에서 블록 단위로 변환과 양자화를 수행한다. 양자화 과정에서 발생한 손실이 발생하고, 이를 복원한 영상의 경계에서는 불연속이 발생한다. 블록 경계에 나타난 불연속 영상을 블록 화질 열화(blocking artifact)라고 부른다.
Deblocking filter는 제1 영상의 블록 경계에서 발생하는 블록 화질 열화(blocking artifact)를 완화시키고, 부호화 성능을 높여주는 방법이다.
블록 경계에서 필터링을 수행하여 블록 화질 열화를 완화 시킬수 있으며, 도 39와 같이 블록이 인트라 예측 모드로 부호화 되었는지 여부, 또는 이웃한 블록의 움직임 벡터 절대값의 차이가 기 정의된 소정의 문턱값 보다 큰지 여부, 이웃한 블록의 참조 픽쳐가 서로 동일한 지 여부 중 적어도 어느 하나에 기초하여 블록 필터 강도(blocking strength, 이하 BS) 값을 결정할 수 있다. BS 값이 0이면 필터링을 수행하지 않으며, BS 값이 1 또는 2인 경우에 블록 경계에서 필터링을 수행할 수 있다.
주파수 영역에서 양자화를 수행하기 때문에, 물체 가장 자리에 링잉 현상 (ringing artifact)을 발생시키거나, 화소 값이 원본에 비해 일정한 값만큼 커지거나 작아기게 된다. SAO는 제1 복원 영상의 패턴을 고려하여 블록 단위로 특정 오프셋을 더하거나 빼는 방법으로 링잉 현상을 효과적으로 줄일 수 있다. SAO는 복원 영상의 특징에 따라 에지 오프셋(Edge offset, 이하 EO)과 밴드 오프셋(Band offset, BO)으로 구성된다. 에지 오프셋은 주변 화소 샘플 패턴에 따라 현재 샘플에 오프셋을 다르게 더해주는 방법이다. 밴드 오프셋은 영역 안의 비슷한 화소 밝기 값을 가진 화소 집합에 대해 일정 값을 더해 부호화 오류를 줄이는 것이다. 화소 밝기를 32개의 균일한 밴드로 나눠 비슷한 밝기 값을 가지는 화소를 하나의 집합이 되도록 할 수 있다. 예를 들어, 인접한 4개의 밴드를 하나의 범주로 묶을 수 있다. 하나의 범주에서는 동일한 오프셋 값을 사용하도록 설정할 수 있다.
ALF (Adaptive Loop Filter)는 수학식 30과 같이 제1 복원 영상 또는 제1 복원 영상에 deblocking filtering을 수행한 복원 영상에 기 정의된 필터 중 어느 하나를 사용하여 제 2 복원 영상을 생성하는 방법이다.
[수학식 30]
Figure pat00002
이 때 필터는 픽쳐 단위 또는 CTU 단위로 선택할 수 있다.
휘도 성분에서는 다음 도 40과 같이 5x5, 7x7 또는 9x9 다이아몬드 형태 중 어느 하나를 선택할 수 있다. 색차 성분에서는 5x5 다이아몬드 형태만 사용할 수 있도록 제한할 수도 있다.
본 개시의 다양한 실시 예는 모든 가능한 조합을 나열한 것이 아니고 본 개시의 대표적인 양상을 설명하기 위한 것이며, 다양한 실시 예에서 설명하는 사항들은 독립적으로 적용되거나 또는 둘 이상의 조합으로 적용될 수도 있다.
또한, 본 개시의 다양한 실시 예는 하드웨어, 펌웨어(firmware), 소프트웨어, 또는 그들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 범용 프로세서(general processor), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.
본 개시의 범위는 다양한 실시 예의 방법에 따른 동작이 장치 또는 컴퓨터 상에서 실행되도록 하는 소프트웨어 또는 머신-실행가능한 명령들(예를 들어, 운영체제, 애플리케이션, 펌웨어(firmware), 프로그램 등), 및 이러한 소프트웨어 또는 명령 등이 저장되어 장치 또는 컴퓨터 상에서 실행 가능한 비-일시적 컴퓨터-판독가능 매체(non-transitory computer-readable medium)를 포함한다.

Claims (10)

  1. 색차 블록의 인트라 예측 모드를 결정하는 단계;
    상기 색차 블록의 성분 간 참조를 위한 휘도 영역을 특정하는 단계;
    상기 특정된 휘도 영역을 다운샘플링하는 단계; 여기서, 상기 휘도 영역은, 상기 색차 블록에 대응하는 휘도 블록 또는 상기 휘도 블록에 인접한 이웃 영역 중 적어도 하나를 포함함,
    상기 색차 블록의 성분 간 참조를 위한 파라미터를 유도하는 단계; 및
    상기 다운샘플링된 휘도 블록에 상기 파라미터를 적용하여, 상기 색차 블록을 예측하는 단계를 포함하는, 비디오 복호화 방법.
  2. 제1항에 있어서,
    상기 색차 블록의 인트라 예측 모드는, 성분 간 참조 기반의 예측 모드로 구성된 소정의 그룹과 인덱스에 기초하여 유도되고,
    상기 성분 간 참조 기반의 예측 모드는, 상기 색차 블록에 인접한 좌측 및 상단 영역을 모두 참조하는 제1 모드, 상기 색차 블록에 인접한 좌측 영역을 참조하는 제2 모드 또는 상기 색차 블록에 인접한 상단 영역을 참조하는 제3 모드 중 적어도 하나를 포함하는, 비디오 복호화 방법.
  3. 제1항에 있어서,
    상기 휘도 블록에 인접한 이웃 영역은, 상단 이웃 영역과 좌측 이웃 영역 중 적어도 하나를 포함하고,
    상기 상단 이웃 영역은 n개의 화소 라인을 포함하고, 상기 좌측 이웃 영역은 m개의 화소 라인을 포함하는, 비디오 복호화 방법.
  4. 제1항에 있어서,
    상기 휘도 블록에 인접한 이웃 영역에 대한 다운샘플링은, 특정 위치의 휘도 화소 및 상기 휘도 화소의 주변 화소만을 이용하여 수행되는, 비디오 복호화 방법.
  5. 제4항에 있어서,
    상기 특정 위치는, 상기 색차 블록의 이웃 영역에 속한 복수의 화소 중 선택된 화소의 위치에 기초하여 결정되는, 비디오 복호화 방법.
  6. 제5항에 있어서,
    상기 선택된 화소는, 상기 색차 블록의 이웃 영역에서 소정의 간격마다 위치한 하나 또는 그 이상의 화소인, 비디오 복호화 방법.
  7. 제4항에 있어서,
    상기 주변 화소는, 상기 휘도 화소의 좌측, 우측, 상단, 하단, 좌상단, 좌하단, 우상단 또는 우하단 중 적어도 하나의 방향에 위치한 화소인, 비디오 복호화 방법.
  8. 제1항에 있어서, 상기 성분 간 참조를 위한 파라미터를 유도하는 단계는,
    상기 휘도 블록의 이웃 영역에 대한 다운샘플링을 통해 획득된 복수의 화소로부터 최대값 및 최소값을 산출하는 단계를 포함하고,
    상기 성분 간 참조를 위한 파라미터는, 상기 산출된 최대값 및 최소값을 이용하여 유도되는, 비디오 복호화 방법.
  9. 색차 블록의 인트라 예측 모드를 결정하는 단계;
    상기 색차 블록의 성분 간 참조를 위한 휘도 영역을 특정하는 단계;
    상기 특정된 휘도 영역을 다운샘플링하는 단계; 여기서, 상기 휘도 영역은, 상기 색차 블록에 대응하는 휘도 블록 또는 상기 휘도 블록에 인접한 이웃 영역 중 적어도 하나를 포함함,
    상기 색차 블록의 성분 간 참조를 위한 파라미터를 유도하는 단계; 및
    상기 다운샘플링된 휘도 블록에 상기 파라미터를 적용하여, 상기 색차 블록을 예측하는 단계를 포함하는, 비디오 부호화 방법.
  10. 비디오 비트스트림을 저장하기 위한 디지털 저장 매체에 있어서,
    색차 블록의 인트라 예측 모드를 결정하고, 상기 색차 블록의 성분 간 참조를 위한 휘도 영역을 특정하며, 상기 특정된 휘도 영역을 다운샘플링하고, 상기 색차 블록의 성분 간 참조를 위한 파라미터를 유도하며, 상기 다운샘플링된 휘도 영역에 상기 파라미터를 적용하여 상기 색차 블록을 예측하는 처리를 실행하는 비디오 복호화 프로그램을 기록한, 디지털 저장 매체.
KR1020190176905A 2018-12-27 2019-12-27 영상 부/복호화 방법 및 장치 KR20200081327A (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20180171320 2018-12-27
KR1020180171320 2018-12-27

Publications (1)

Publication Number Publication Date
KR20200081327A true KR20200081327A (ko) 2020-07-07

Family

ID=71126639

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190176905A KR20200081327A (ko) 2018-12-27 2019-12-27 영상 부/복호화 방법 및 장치

Country Status (4)

Country Link
US (1) US12010299B2 (ko)
KR (1) KR20200081327A (ko)
CN (5) CN118200553A (ko)
WO (1) WO2020139039A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210126765A (ko) * 2019-03-23 2021-10-20 엘지전자 주식회사 영상 코딩 시스템에서의 인트라 예측 기반 영상 코딩
WO2023197193A1 (zh) * 2022-04-12 2023-10-19 Oppo广东移动通信有限公司 编解码方法、装置、编码设备、解码设备以及存储介质

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9530189B2 (en) * 2009-12-31 2016-12-27 Nvidia Corporation Alternate reduction ratios and threshold mechanisms for framebuffer compression
US8705134B2 (en) * 2011-01-26 2014-04-22 Michael Robert Campanelli Method of processing an image to clarify text in the image
KR20130049526A (ko) * 2011-11-04 2013-05-14 오수미 복원 블록 생성 방법
WO2013102293A1 (en) * 2012-01-04 2013-07-11 Mediatek Singapore Pte. Ltd. Improvements of luma-based chroma intra prediction
TWI652935B (zh) * 2012-09-28 2019-03-01 Ｖｉｄ衡器股份有限公司 視訊編碼方法及裝置
JP6005572B2 (ja) * 2013-03-28 2016-10-12 Kddi株式会社 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、およびプログラム
WO2015005418A1 (ja) 2013-07-10 2015-01-15 Kddi株式会社 動画像符号化装置、動画像復号装置、動画像システム、動画像符号化方法、動画像復号方法、およびプログラム
US10455249B2 (en) 2015-03-20 2019-10-22 Qualcomm Incorporated Downsampling process for linear model prediction mode
US10652575B2 (en) * 2016-09-15 2020-05-12 Qualcomm Incorporated Linear model chroma intra prediction for video coding
JP7356347B2 (ja) 2016-10-04 2023-10-04 エルエックス セミコン カンパニー， リミティド 画像復号方法、画像符号化方法、及び記録媒体
US10477240B2 (en) * 2016-12-19 2019-11-12 Qualcomm Incorporated Linear model prediction mode with sample accessing for video coding
JP2021005741A (ja) * 2017-09-14 2021-01-14 シャープ株式会社 画像符号化装置及び画像復号装置
GB2567249A (en) * 2017-10-09 2019-04-10 Canon Kk New sample sets and new down-sampling schemes for linear component sample prediction

Also Published As

Publication number Publication date
WO2020139039A1 (ko) 2020-07-02
CN118200553A (zh) 2024-06-14
CN113475063A (zh) 2021-10-01
US12010299B2 (en) 2024-06-11
CN113475063B (zh) 2024-04-09
CN118200555A (zh) 2024-06-14
CN118200554A (zh) 2024-06-14
US20220070452A1 (en) 2022-03-03
CN118200556A (zh) 2024-06-14

Similar Documents

Publication Publication Date Title
EP4221204A1 (en) Image signal encoding/decoding method and apparatus therefor
US20210243429A1 (en) Method for encoding/decoding video signal and apparatus therefor
KR20200041801A (ko) 영상 부호화/복호화 방법 및 장치
EP3843389A1 (en) Method for encoding/decoding image signal and apparatus therefor
KR102619997B1 (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20200115322A (ko) 영상 부호화/복호화 방법 및 장치
KR20200054111A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20200034644A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20200108799A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20200093469A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20200104252A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20200078391A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20200081326A (ko) 비디오 부/복호화 방법 및 장치
KR20200081327A (ko) 영상 부/복호화 방법 및 장치
KR20210077625A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20200081328A (ko) 영상 부/복호화 방법 및 장치
KR20210123950A (ko) 비디오 신호 처리 방법 및 장치
KR20210111602A (ko) 비디오 신호 처리 방법 및 장치
KR20210085404A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20210082877A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20230063322A (ko) 영상 신호 부호화/복호화 방법 및 이를 기초로 생성된 비트스트림을 저장하는 기록 매체
KR20210082876A (ko) 영상 신호 부호화/복호화 방법 및 이를 위한 장치
KR20210121528A (ko) 비디오 신호 처리 방법 및 장치
KR20210118541A (ko) 비디오 신호 처리 방법 및 장치
KR20210103763A (ko) 비디오 신호 처리 방법 및 장치