KR20220098114A - 영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체 - Google Patents

영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체 Download PDF

Info

Publication number
KR20220098114A
KR20220098114A KR1020220080213A KR20220080213A KR20220098114A KR 20220098114 A KR20220098114 A KR 20220098114A KR 1020220080213 A KR1020220080213 A KR 1020220080213A KR 20220080213 A KR20220080213 A KR 20220080213A KR 20220098114 A KR20220098114 A KR 20220098114A
Authority
KR
South Korea
Prior art keywords
transform
block
transform block
sub
current
Prior art date
Application number
KR1020220080213A
Other languages
English (en)
Inventor
문주희
원동재
임성원
Original Assignee
세종대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020170127941A external-priority patent/KR102416804B1/ko
Application filed by 세종대학교산학협력단 filed Critical 세종대학교산학협력단
Publication of KR20220098114A publication Critical patent/KR20220098114A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96—Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 영상 부호화 방법 및 영상 복호화 방법을 제공한다. 본 발명의 영상 복호화 방법은, 변환 블록에 적용되는 변환 분할 정보를 결정하는 단계, 상기 변환 분할 정보를 이용하여 현재 변환 블록을 결정하는 단계, 및 상기 현재 변환 블록에 역변환을 수행하는 단계를 포함하고, 상기 현재 변환 블록은 상위 변환 블록에서 분할된 서브 변환 블록이되, 상기 서브 변환 블록은 쿼드 트리 분할 또는 이진 트리 분할 중 적어도 하나에 의해 상기 상위 변환 블록으로부터 분할된 블록이고, 상기 서브 변환 블록으로의 분할 여부는, 상기 상위 변환 블록의 너비 또는 높이 중 적어도 하나에 기초하여 결정된다.

Description

영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체{IMAGE ENCODING METHOD/APPARATUS, IMAGE DECODING METHOD/APPARATUS AND AND RECORDING MEDIUM FOR STORING BITSTREAM}
본 발명은 영상 부호화/복호화 방법 및 장치에 관한 것으로, 상세하게는 2차 변환을 수행할 영역 및 그 영역의 서브 변환 블록의 분할 형태를 적응적으로 결정할 수 있는 영상 부호화 방법 및 영상 복호화 방법에 관한 것이다.
최근, 인터넷에서는 동영상과 같은 멀티미디어 데이터의 수요가 급격히 증가하고 있다. 하지만 채널(Channel)의 대역폭(Bandwidth)이 발전하는 속도는 급격히 증가하고 있는 멀티미디어 데이터의 양을 따라가기 힘든 상황이다. 이러한 추세의 일환으로 국제 표준화 기구인 ITU-T의 VCEG(Video Coding Expert Group)과 ISO/IEC의 MPEG(Moving Picture Expert Group)에서는 꾸준한 공동 연구를 통하여 동영상 압축 표준을 연구하는 중이다.
동영상 압축은 크게 화면 내 예측, 화면 간 예측, 변환, 양자화, 엔트로피(Entropy coding) 부호화, 인루프 필터(In-loop filter)로 구성된다. 이 중, 변환은 입력 신호를 다른 영역의 신호로 변환하여 부호화하는 기술을 의미한다.
종래의 영상의 부호화/복호화 방법 및 장치는 변환에 있어서 변환 수행 영역을 별도로 결정하지 않고 사용하여 부호화 효율 향상에 한계가 있었다.
본 발명은 압축 효율이 개선된 영상 부호화/복호화 방법 및 장치를 제공하는 것을 목적으로 한다.
또한, 본 발명은 영상의 부호화/복호화 효율을 개선하기 위해 변환 블록에서 변환을 수행할 영역과 변환 수행 영역 내에서 서브 변환 블록의 분할 형태를 적응적으로 결정하는 영상 부호화/복호화 방법를 제공할 수 있다.
또한, 본 발명은 영상의 부호화/복호화 효율을 개선하기 위해 변환 수행 영역 내의 서브 변환 블록의 스캔 방식을 적응적으로 결정하는 영상 부호화/복호화 방법을 제공하는 것을 목적으로 한다.
본 발명에 따른, 영상 복호화 방법은, 변환 수행 영역을 결정하는 단계; 상기 결정된 변환 수행 영역을 쿼드트리 분할 및 이진트리 분할 중 적어도 하나를 이용하여 적어도 하나의 서브 변환 블록으로 분할하는 단계 및 상기 적어도 하나의 서브 변환 블록에 역변환을 수행하는 단계를 포함할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 변환 수행 영역을 결정하는 단계는, 현재 변환 블록에 대응하는 현재 예측 블록의 화면 내 예측 모드에 기초하여 상기 변환 수행 영역을 결정할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 변환 수행 영역을 결정하는 단계는, 상기 현재 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드인 경우, 상기 현재 변환 블록의 좌측 영역을 상기 변환 수행 영역으로 결정하고, 상기 현재 예측 블록의 화면 내 예측 모드가 세로 방향 예측 모드인 경우, 상기 현재 변환 블록의 상단 영역을 상기 변환 수행 영역으로 결정하고, 상기 현재 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드 및 세로 방향 예측 모드가 아닌 경우, 상기 현재 변환 블록의 좌상단 영역을 상기 변환 수행 영역으로 결정할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 변환 수행 영역을 결정하는 단계는, 현재 변환 블록의 특정 주파수 영역에 기초하여 상기 변환 수행 영역을 결정할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 특정 주파수 영역은, 기 정의된 값을 기초하여 결정될 수 있다.
상기 영상 복호화 방법에 있어서, 상기 역변환은, 1차 역변환 및 2차 역변환 중 어느 하나일 수 있다.
상기 영상 복호화 방법에 있어서, 상기 적어도 하나의 서브 변환 블록은 2D 서브 변환 블록일 수 있다.
상기 영상 복호화 방법에 있어서, 상기 서브 변환 블록의 계수 스캔 방법을 결정하는 단계; 및 상기 결정된 계수 스캔 방법에 기초하여 상기 2D 서브 변환 블록을 재정렬하는 단계를 더 포함할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 서브 변환 블록의 계수 스캔 방법을 결정하는 단계는, 현재 변환 블록에 대응하는 현재 예측 블록의 화면 내 예측 모드에 기초하여 상기 서브 변환 블록의 계수 스캔 방법을 결정할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 서브 변환 블록의 계수 스캔 방법을 결정하는 단계는, 수직 방향 스캔, 수평 방향 스캔 및 45도 대각 방향 스캔 중 어느 하나의 스캔 방법으로 결정할 수 있다.
상기 영상 복호화 방법에 있어서, 상기 결정된 계수 스캔 방법에 기초하여 상기 2D 서브 변환 블록을 재정렬하는 단계는, 상기 2D 서브 변환 블록을 상기 결정된 계수 스캔 방법에 기초하여 1D 서 변환 블록으로 재정렬할 수 있다.
본 발명에 따른, 영상 부호화 방법은, 변환 수행 영역을 결정하는 단계; 상기 결정된 변환 수행 영역을 쿼드트리 분할 및 이진트리 분할 중 적어도 하나를 이용하여 적어도 하나의 서브 변환 블록으로 분할하는 단계 및 상기 적어도 하나의 서브 변환 블록에 변환을 수행하는 단계를 포함할 수 있다.
상기 영상 부호화 방법에 있어서, 상기 변환 수행 영역을 결정하는 단계는, 현재 변환 블록에 대응하는 현재 예측 블록의 화면 내 예측 모드에 기초하여 상기 변환 수행 영역을 결정할 수 있다.
상기 영상 부호화 방법에 있어서, 상기 변환 수행 영역을 결정하는 단계는, 상기 현재 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드인 경우, 상기 현재 변환 블록의 좌측 영역을 상기 변환 수행 영역으로 결정하고, 상기 현재 예측 블록의 화면 내 예측 모드가 세로 방향 예측 모드인 경우, 상기 현재 변환 블록의 상단 영역을 상기 변환 수행 영역으로 결정하고, 상기 현재 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드 및 세로 방향 예측 모드가 아닌 경우, 상기 현재 변환 블록의 좌상단 영역을 상기 변환 수행 영역으로 결정할 수 있다.
상기 영상 부호화 방법에 있어서, 상기 변환 수행 영역을 결정하는 단계는, 현재 변환 블록의 특정 주파수 영역에 기초하여 상기 변환 수행 영역을 결정할 수 있다.
상기 영상 부호화 방법에 있어서, 상기 특정 주파수 영역은, 기 정의된 값을 기초하여 결정될 수 있다.
상기 영상 부호화 방법에 있어서, 상기 변환은, 1차 변환 및 2차 변환 중 어느 하나일 수 있다.
상기 영상 부호화 방법에 있어서, 상기 적어도 하나의 서브 변환 블록은 2D 서브 변환 블록일 수 있다.
상기 영상 부호화 방법에 있어서, 상기 서브 변환 블록의 계수 스캔 방법을 결정하는 단계; 및 상기 결정된 계수 스캔 방법에 기초하여 상기 2D 서브 변환 블록을 재정렬하는 단계를 더 포함할 수 있다.
상기 영상 부호화 방법에 있어서, 상기 서브 변환 블록의 계수 스캔 방법을 결정하는 단계는, 현재 변환 블록에 대응하는 현재 예측 블록의 화면 내 예측 모드에 기초하여 상기 서브 변환 블록의 계수 스캔 방법을 결정할 수 있다.
상기 영상 부호화 방법에 있어서, 상기 서브 변환 블록의 계수 스캔 방법을 결정하는 단계는, 수직 방향 스캔, 수평 방향 스캔 및 45도 대각 방향 스캔 중 어느 하나의 스캔 방법으로 결정할 수 있다.
상기 영상 부호화 방법에 있어서, 상기 결정된 계수 스캔 방법에 기초하여 상기 2D 서브 변환 블록을 재정렬하는 단계는, 상기 2D 서브 변환 블록을 상기 결정된 계수 스캔 방법에 기초하여 1D 서 변환 블록으로 재정렬할 수 있다.
본 발명에 따른, 기록 매체는, 변환 수행 영역을 결정하는 단계; 상기 결정된 변환 수행 영역을 쿼드트리 분할 및 이진트리 분할 중 적어도 하나를 이용하여 적어도 하나의 서브 변환 블록으로 분할하는 단계 및 상기 적어도 하나의 서브 변환 블록에 변환을 수행하는 단계를 포함하는 영상 부호화 방법에 의해 생성된 비트스트림을 저장할 수 있다.
본 발명에 따르면, 압축 효율이 향상된 영상 부호화/복호화 방법 및 장치를 제공될 수 있다.
또한, 본 발명에 따르면, 영상의 부호화/복호화 효율을 개선하기 위해 변환 블록에서 변환을 수행할 영역과 변환 수행 영역 내에서 서브 변환 블록의 분할 형태를 적응적으로 결정하는 영상 부호화/복호화 방법이 제공될 수 있다.
또한, 본 발명에 따르면, 영상의 부호화/복호화 효율을 개선하기 위해 변환 수행 영역 내의 서브 변환 블록의 스캔 방식을 적응적으로 결정하는 영상 부호화/복호화 방법이 제공될 수 있다.
도 1은 본 발명의 일 실시예에 따른 영상 부호화 장치를 간략하게 나타낸 블록 구성도이다.
도 2는 본 발명의 일 실시예에 따른 영상 복호화 장치를 간략하게 나타낸 블록 구성도이다.
도 3은 본 발명의 일 실시 예에 따른 영상 부호화 장치의 변환 방법을 설명하기 위한 흐름도이다.
도 4는 본 발명의 일 실시 예에 따른 영상 복호화 장치의 변환 방법을 설명하기 위한 흐름도이다.
도 5는 본 발명의 일 실시 예에 따른 화면 내 예측 모드에 기초한 변환 수행 영역의 결정 방법을 나타내는 흐름도이다.
도 6은 본 발명의 일 실시 예에 따른 가로 방향 예측 모드를 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시 예에 따른 세로 방향 예측 모드를 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시 예에 따른 현재 변환 블록내의 좌측 영역, 상단 영역 및 좌상단 영역을 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시 예에 따른 변환 블록의 주파수 영역에 기초한 변환 수행 영역의 결정 방법을 나타내는 흐름도이다.
도 10은 변환 블록의 주파수 영역에 기초한 변환 수행 영역을 결정한 예시를 나타내는 도면이다.
도 11 및 도 12는 본 발명의 일 실시 예에 따른 변환 블록의 쿼드트리 분할을 설명하기 위한 흐름도이다.
도 13 및 도 14는 본 발명의 일 실시 예에 따른 변환 블록의 이진트리 분할을 설명하기 위한 흐름도이다.
도 15는 쿼드트리 분할과 이진트리 분할을 이용하여 변환 수행 영역이 부분 변환 블록으로 분할된 예시를 나타낸 도면이다.
도 16은 2D 변환 방법이 아닌 1D 변환 방법을 수행하기 위하여 2D 서브 변환 블록을 1D 서브 변환 블록으로 변경할 때, 2D 서브 변환 블록을 스캔하는 방법과 재정렬하는 방법의 예시를 나타낸다.
도 17은 2D 서브 변환 블록을 스캔하는 방법과 재정렬하는 방법의 예시를 나타낸다.
도 18은 본 발명의 일 실시 예에 따른 현재 블록의 예측 모드에 기초하여 서브 변환 블록의 스캔 방법을 결정하는 방법을 설명한 흐름도이다.
도 19는 본 발명의 일 실시 예에 따른 변환 기저에 기초하여 서브 변환 블록 스캔 방법을 결정하는 방법을 설명한 도면이다.
도 20은 본 발명의 일 실시 예에 따른 영상 복호화 방법을 도시한 흐름도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 첨부한 도면들을 참조하여, 본 발명의 실시예들을 상세하게 설명한다. 이하, 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 발명의 일실시예에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 1을 참조하면, 영상 부호화 장치(100)는 영상 분할부(101), 화면 내 예측부(102), 화면 간 예측부(103), 감산부(104), 변환부(105), 양자화부(106), 엔트로피 부호화부(107), 역양자화부(108), 역변환부(109), 가산부(110), 필터부(111) 및 메모리(112)를 포함할 수 있다.
도 1에 나타난 각 구성부들은 영상 부호화 장치에서 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시한 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.
영상 분할부(100)는 입력된 영상을 적어도 하나의 블록으로 분할할 수 있다. 이 때, 입력된 영상은 픽처, 슬라이스, 타일, 세그먼트 등 다양한 형태와 크기를 가질 수 있다. 블록은 부호화 단위(CU), 예측 단위(PU) 또는 변환 단위(TU)를 의미할 수 있다.
영상 분할부(100)는 최대 크기의 부호화 블록(이하, 최대 부호화 블록이라 함)으로부터 최소 크기의 부호화 블록(이하, 최소 부호화 블록이라 함)으로 분할을 수행할 수 있다. 상기 분할은 쿼드 트리(Quadtree) 또는 바이너리 트리(Biniary tree) 중 적어도 하나에 기반하여 수행될 수 있다. 쿼드 트리는 상위 블록을 너비와 높이가 상위 블록의 절반인 하위 블록으로 사분할하는 방식이다. 바이너리 트리는 상위 블록을 너비 또는 높이 중 어느 하나가 상위 블록의 절반인 하위 블록으로 이분할하는 방식이다. 전술한 바이너리 트리 기반의 분할을 통해, 블록은 정방형뿐만 아니라 비정방형의 형태를 가질 수 있다.
이하, 본 발명의 실시예에서는 부호화 단위는 부호화를 수행하는 단위의 의미로 사용할 수도 있고, 복호화를 수행하는 단위의 의미로 사용할 수도 있다. 그리고, 부호화 단위는 부호화 블록을 의미할 수 있다.
예측부(102, 103)는 인터 예측을 수행하는 화면 간 예측부(103)와 인트라 예측을 수행하는 화면 내 예측부(102)를 포함할 수 있다. 예측부(102, 103)는 현재 원본 블록에서 현재 예측 하고자 하는 블록(이하, 예측 블록이라 함)의 주변 화소나 이전에 이미 복호화가 끝난 참조 픽쳐를 이용하여 예측 블록을 생성할 수 있다. 여기서, 예측 블록은 부호화 블록 내에서 적어도 하나의 예측 블록들이 생성될 수 있다. 부호화 블록 내 예측 블록이 1개일 경우, 예측 블록은 부호화 블록과 동일한 형태일 수 있다.
동영상 신호의 예측 기술에는 크게 화면 내 예측과 화면 간 예측으로 구성 되어 있는데, 화면 내 예측은 현재 블록의 주변 화소들을 이용하여 예측 블록을 생성하는 방식이고, 화면 간 예측은 이전에 이미 부호화 및 복호화가 끝난 참조 픽쳐에서 현재 블록과 가장 유사한 블록을 찾아서 예측 블록을 생성하는 방식이다.
예측부(102, 103)는 현재 원본 블록에서 예측 블록을 뺀 잔차 블록을 율-왜곡 최적화(RDO: Rate-Distortion Optimization) 등 다양한 기법을 이용하여 예측 블록의 최적 예측 모드를 결정할 수 있다. RDO 식은 아래 수학식 1과 같다.
Figure pat00001
여기서, D는 양자화에 의한 열화, R은 압축 스트림의 레이트, J는 RD 비용이고, Φ는 부호화 모드, λ는 라그랑지안 승수(Lagranginan multiplier)로 에러의 양과 비트량 간의 단위를 일치시키기 위한 스케일 보정용 계수일 수 있다.
생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록)은 변환부(105)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 모션 벡터 정보 등은 잔차값과 함께 엔트로피 부호화부(107)에서 부호화되어 복호화기에 전달될 수 있다. 특정한 부호화 모드를 사용할 경우, 예측부(102, 103)를 통해 예측 블록을 생성하지 않고, 원본 블록을 그대로 부호화하여 복호화부에 전송하는 것도 가능하다.
화면 내 예측부(102)는 현재 픽쳐 내의 화소 정보인 현재 블록 주변의 참조 픽셀 정보를 기초로 예측 블록을 생성할 수 있다. 인트라 예측이 수행될 현재 블록의 주변 블록의 예측 모드가 인터 예측인 경우, 인터 예측이 적용된 주변 블록에 포함되는 참조 픽셀을, 인트라 예측이 적용된 주변의 다른 블록 내의 참조 픽셀로 대체될 수 있다. 즉, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀 정보를, 가용한 참조 픽셀 중 적어도 하나의 참조 픽셀로 대체하여 사용할 수 있다.
인트라 예측에서 예측 모드는 참조 픽셀 정보를 예측 방향에 따라 사용하는 방향성 예측 모드와 예측을 수행시 방향성 정보를 사용하지 않는 비방향성 모드를 가질 수 있다. 휘도 정보를 예측하기 위한 모드와 색차 정보를 예측하기 위한 모드가 상이할 수 있고, 색차 정보를 예측하기 위해 휘도 정보를 예측하기 위해 사용된 인트라 예측 모드 정보 또는 예측된 휘도 신호 정보를 활용할 수 있다.
화면 간 예측부(103)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐의 정보를 기초로 예측 블록을 생성할 수 있고, 경우에 따라서는 현재 픽쳐 내의 부호화가 완료된 일부 영역의 정보를 기초로 예측 블록을 생성할 수 있다. 화면 간 예측부(103)는 참조 픽쳐 보간부, 모션 예측부, 움직임 보상부를 포함할 수 있다.
감산부(104)는, 현재 부호화하려는 블록과 화면 내 예측부(102) 혹은 화면 간 예측부(103)에서 생성된 예측 블록을 감산하여 현재 블록의 잔차 블록을 생성할 수 있다.
변환부(105)에서는 잔차 데이터를 포함한 잔차 블록에 DCT, DST, KLT(Karhunen Loeve Transform) 등과 같은 변환 방법을 적용하여 변환 블록을 생성할 수 있다. 변환 블록은 변환 및 양자화 과정을 위해 사용되는 단위일 수 있다. 잔차 블록 전체에 대해 변환을 수행하거나, 잔차 블록을 서브 블록 단위로 분할하여 변환을 수행할 수 있다. 이때, 변환 블록을 위한 분할 방식으로 쿼드 트리 또는 바이너리 트리 기반의 분할 방식이 사용될 수 있다.
한편, 변환 방법은 잔차 블록을 생성하기 위해 사용된 예측 블록의 인트라 예측 모드에 기반하여 결정될 수 있다. 예를 들어, 인트라 예측 모드에 따라, 가로 방향으로는 DCT를 사용하고, 세로 방향으로는 DST를 사용할 수도 있다.
양자화부(106)는 변환부(105)에서 주파수 영역으로 변환된 변환 블록들을 양자화하여 양자화된 변환 블록을 생성할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다.
양자화부(106)는 변환부(105)로부터 생성되는 변환 블록의 변환 계수들을 양자화 하여 양자화된 변환 계수를 가지는 양자화된 변환 블록(Quantized Transform Coefficient)를 생성하여 출력할 수 있다. 여기서, 양자화 방법으로는 데드존 균일 경계 양자화(DZUTQ: Dead Zone Uniform Threshold Quantization) 또는 양자화 가중치 행렬 (Quantization Weighted Matrix) 등이 이용될 수 있다.
양자화부(106)에서 산출된 값은 역양자화부(108)와 엔트로피 부호화부(107)에 제공될 수 있다.
상기 변환부(105) 및/또는 양자화부(106)는, 영상 부호화 장치(100)에 선택적으로 포함될 수 있다. 즉, 영상 부호화 장치(100)는, 잔차 블록의 잔차 데이터에 대해 변환 또는 양자화 중 적어도 하나를 수행하거나, 변환 및 양자화를 모두 스킵하여 잔차 블록을 부호화할 수 있다. 영상 부호화 장치(100)에서 변환 또는 양자화 중 어느 하나가 수행되지 않거나, 변환 및 양자화 모두 수행되지 않더라도, 엔트로피 부호화부(107)의 입력으로 들어가는 블록을 통상적으로 변환 블록이라 일컫는다.
엔트로피 부호화부(107)는 입력 데이터를 엔트로피 부호화한다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 부호화 방법을 사용할 수 있다.
엔트로피 부호화부(107)는 예측부(102, 103)로부터 부호화 블록의 잔차값 계수 정보 및 블록 타입 정보, 예측 모드 정보, 분할 블록 정보, 예측 블록 정보 및 전송 단위 정보, 모션 벡터 정보, 참조 프레임 정보, 블록의 보간 정보, 필터링 정보 등 다양한 정보를 부호화할 수 있다. 엔트로피 부호화부(107)에서, 변환 블록의 계수는, 변환 블록 내 부분 블록 블록으로, 0이 아닌 계수, 절대값이 1 또는 2보다 큰 계수, 그리고 계수의 부호 등을 나타내는 여러 종류의 플래그를 부호화될 수 있다. 상기 플래그만으로 부호화되지 않는 계수는, 플래그를 통해 부호화된 계수와 실제 변환 블록의 계수 간의 차이의 절대값을 통해 부호화될 수 있다. 역양자화부(108) 및 역변환부(109)에서는 양자화부(106)에서 양자화된 값들을 역양자화하고 변환부(105)에서 변환된 값들을 역변환한다. 역양자화부(108) 및 역변환부(109)에서 생성된 잔차값(Residual)은 예측부(102, 103)에 포함된 움직임 추정부, 움직임 보상부 및 화면 내 예측부(102)를 통해서 예측된 예측 블록과 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다. 증산기(110)는, 예측부(102, 103)에서 생성된 예측 블록과, 역 변환부(109)를 통해 생성된 잔차 블록을 증산하여 복원 블록을 생성한다.
필터부(111)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter)중 적어도 하나를 포함할 수 있다.
디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 디블록킹을 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀을 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링 수행시 수평 방향 필터링 및 수직 방향 필터링이 병행 처리되도록 할 수 있다.
오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.
ALF(Adaptive Loop Filtering)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 수행될 수 있다. 영상에 포함된 픽셀을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. ALF를 적용할지 여부에 관련된 정보는 휘도 신호는 부호화 단위(Coding Unit, CU) 별로 전송될 수 있고, 각각의 블록에 따라 적용될 ALF 필터의 모양 및 필터 계수는 달라질 수 있다. 또한, 적용 대상 블록의 특성에 상관없이 동일한 형태(고정된 형태)의 ALF 필터가 적용될 수도 있다.
메모리(112)는 필터부(111)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 인터 예측을 수행 시 예측부(102, 103)에 제공될 수 있다.
도 2는 본 발명의 일 실시예에 따른 영상 복호화 장치(200)를 나타낸 블록도이다.
도 2를 참조하면, 영상 복호화 장치(200)는 엔트로피 복호화부(201), 역양자화부(202), 역변환부(203), 가산부(204), 필터부(205), 메모리(206) 및 예측부(207, 208)를 포함할 수 있다.
영상 부호화 장치(100)에 의해 생성된 영상 비트스트림이 영상 복호화 장치(200)로 입력되는 경우, 입력된 비트스트림은 영상 부호화 장치(100)에서 수행된 과정과 반대의 과정에 따라 복호될 수 있다.
엔트로피 복호화부(201)는 영상 부호화 장치(100)의 엔트로피 부호화부(107)에서 엔트로피 부호화를 수행한 것과 반대의 절차로 엔트로피 복호화를 수행할 수 있다. 예를 들어, 영상 부호화기에서 수행된 방법에 대응하여 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 방법이 적용될 수 있다. 엔트로피 복호화부(201)에서, 변환 블록의 계수는, 변환 블록 내 부분 블록 단위로, 0이 아닌 계수, 절대값이 1 또는 2보다 큰 계수, 그리고 계수의 부호 등을 나타내는 여러 종류의 플래그를 기반으로 복호화될 수 있다. 상기 플래그만으로 표현되지 않는 계수는, 플래그를 통해 표현되는 계수와 시그날링된 계수의 합을 통해 복호화될 수 있다.
엔트로피 복호화부(201)에서는 부호화기에서 수행된 인트라 예측 및 인터 예측에 관련된 정보를 복호화할 수 있다. 역 양자화부(202)는 양자화된 변환 블록에 역 양자화를 수행하여 변환 블록을 생성한다. 도 1의 역 양자화부(108)와 실질적으로 동일하게 동작한다.
역 변환부(203)은 변환 블록에 역 변환을 수행하여 잔차 블록을 생성한다. 이때, 변환 방법은 예측 방법(인터 또는 인트라 예측), 블록의 크기 및/또는 형태, 인트라 예측 모드 등에 관한 정보를 기반으로 결정될 수 있다. 도 1의 역 변환부(109)와 실질적으로 동일하게 동작한다.
가산부(204)는, 화면 내 예측부(207) 혹은 화면 간 예측부(208)에서 생성된 예측 블록과 역 변환부(203)를 통해 생성된 잔차 블록를 증산하여 복원 블록을 생성한다. 도 1의 가산부(110)과 실질적으로 동일하게 동작한다.
필터부(205)는, 복원된 블록들에 발생하는 여러 종류의 노이즈를 감소시킨다. 필터부(205)는 디블록킹 필터, 오프셋 보정부, ALF를 포함할 수 있다.
영상 부호화 장치(100)로부터 해당 블록 또는 픽쳐에 디블록킹 필터를 적용하였는지 여부에 대한 정보 및 디블록킹 필터를 적용하였을 경우, 강한 필터를 적용하였는지 또는 약한 필터를 적용하였는지에 대한 정보를 제공받을 수 있다. 영상 복호화 장치(200)의 디블록킹 필터에서는 영상 부호화 장치(100)에서 제공된 디블록킹 필터 관련 정보를 제공받고 영상 복호화 장치(200)에서 해당 블록에 대한 디블록킹 필터링을 수행할 수 있다.
오프셋 보정부는 부호화시 영상에 적용된 오프셋 보정의 종류 및 오프셋 값 정보 등을 기초로 복원된 영상에 오프셋 보정을 수행할 수 있다.
ALF는 영상 부호화 장치(100)로부터 제공된 ALF 적용 여부 정보, ALF 계수 정보 등을 기초로 부호화 단위에 적용될 수 있다. 이러한 ALF 정보는 특정한 파라미터 셋에 포함되어 제공될 수 있다. 필터부(205)는 도 1의 필터부(111)와 실질적으로 동일하게 동작한다.
메모리(206)는 가산부(204)에 의해 생성된 복원 블록을 저장한다. 도 1의 메모리(112)와 실질적으로 동일하게 동작한다.
예측부(207, 208)는 엔트로피 복호화부(201)에서 제공된 예측 블록 생성 관련 정보와 메모리(206)에서 제공된 이전에 복호화된 블록 또는 픽쳐 정보를 기초로 예측 블록을 생성할 수 있다.
예측부(207, 208)는 화면 내 예측부(207) 및 화면 간 예측부(208)를 포함할 수 있다. 별도로 도시되지는 아니하였으나, 예측부(207, 208)는 예측 단위 판별부를 더 포함할 수 있다. 예측 단위 판별부는 엔트로피 복호화부(201)에서 입력되는 예측 단위 정보, 인트라 예측 방법의 예측 모드 정보, 인터 예측 방법의 모션 예측 관련 정보 등 다양한 정보를 입력 받고 현재 부호화 단위에서 예측 단위를 구분하고, 예측 단위가 인터 예측을 수행하는지 아니면 인트라 예측을 수행하는지 여부를 판별할 수 있다. 화면 간 예측부(208)는 영상 부호화 장치(100)에서 제공된 현재 예측 단위의 인터 예측에 필요한 정보를 이용해 현재 예측 단위가 포함된 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 정보를 기초로 현재 예측 단위에 대한 인터 예측을 수행할 수 있다. 또는, 현재 예측 단위가 포함된 현재 픽쳐 내에서 기-복원된 일부 영역의 정보를 기초로 인터 예측을 수행할 수도 있다.
화면 간 예측을 수행하기 위해 부호화 블록을 기준으로 해당 부호화 블록에 포함된 예측 블록의 모션 예측 방법이 스킵 모드(Skip Mode), 머지 모드(Merge 모드), AMVP 모드(AMVP Mode) 중 어떠한 방법인지 여부를 판단할 수 있다.
화면 내 예측부(207)는, 현재 부호화하려는 블록 주변에 위치한, 그리고 기 복원된 화소들을 이용하여 예측 블록을 생성한다.
화면 내 예측부(207)는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소에 필터링을 수행하는 필터로써 현재 예측 블록의 예측 모드에 따라 필터의 적용 여부를 적응적으로 결정할 수 있다. 영상 부호화 장치(100)에서 제공된 예측 블록의 예측 모드 및 AIS 필터 정보를 이용하여 현재 블록의 참조 화소에 AIS 필터링을 수행할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.
화면 내 예측부(207)의 참조 화소 보간부는 예측 블록의 예측 모드가 참조 화소를 보간한 화소값을 기초로 인트라 예측을 수행하는 예측 블록일 경우, 참조 화소를 보간하여 분수 단위 위치의 참조 화소를 생성할 수 있다. 생성된 분수 단위 위치의 참조 화소가 현재 블록 내의 화소의 예측 화소로 이용될 수 있다. 현재 예측 블록의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.
화면 내 예측부(207)는 도 1의 화면 내 예측부(102)와 실질적으로 동일하게 동작한다.
화면 간 예측부(208)는, 메모리(206)에 저장된 참조 픽처, 움직임 정보를 이용하여 인터 예측 블록을 생성한다. 화면 간 예측부(208)는 도 1의 화면 간 예측부(103)와 실질적으로 동일하게 동작한다.
상술한 내용을 바탕으로, 본 발명에 따른, 영상 복호화 방법 및 영상 부호화 방법을 설명하도록 한다.
본 발명에 따른 영상 부호화 장치는 변환 계수에 대한 에너지 집중도를 높이기 위하여 2번의 변환(1차 변환 및 2차 변환)을 수행할 수 있다. 이에 따라, 본 발명에 따른 영상 복호화 장치 또한 2번의 역변환(2차 역변환 및 1차 역변환)을 수행할 수 있다. 1차 변환과 2차 변환은 동일한 방식의 변환 방법을 이용할 수 있고, 서로 다른 방식의 변환 방법을 이용할 수도 있다.
도 3 및 도 4를 참고하여 본 발명의 일 실시 예에 따른 변환 및 역변환에 대해 설명하도록 한다.
도 3은 본 발명에 따른 영상 부호화 장치의 변환 방법을 설명하기 위한 흐름도이다.
도 3을 참고하면, 영상 부호화 장치는 잔차 블록에 변환 블록 단위로 1차 변환을 수행할 수 있다(S301). 그리고, 영상 부호화 장치는 1차 변환이 수행된 변환 블록의 변환 계수들에 대해 2차 변환을 수행할 수 있다(S302). 2차 변환은 1차 변환이 수행된 변환 블록 전체 또는 일부 영역에 대해서만 수행될 수 있다.
도 4는 본 발명에 따른 영상 복호화 장치의 변환 방법을 설명하기 위한 흐름도이다.
도 4를 참고하면, 영상 복호화 장치는 역양자화된 블록에 2차 역변환을 수행할 수 있다. 그리고, 영상 복호화 장치는 2차 역변환된 블록에 1차 역변환을 수행할 수 있다.
이하에서는, 도 5 내지 도 10을 참고하여 변환이 수행되는 변환 수행 영역의 결정 방법에 대해 설명하도록 한다.
여기서, 도 5 내지 도 8은 예측 모드에 기초한 변환 수행 영역의 결정 방법을 설명하기 위한 도면이고, 도 9 및 도 10은 변환 블록의 주파수 영역에 기초한 변환 수행 영역의 결정방법을 설명하기 위한 도면이다.
먼저, 본 발명의 일 실시 예에 따른 예측 모드에 기초한 변환 수행 영역의 결정 방법에 대해 설명하도록 한다.
도 5는 화면 내 예측 모드에 기초한 변환 수행 영역의 결정 방법을 나타내는 흐름도이다.
도 5를 참고하면, S501단계에서는 현재 변환 블록에 대응하는 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드인지 판단한다. 여기서, 가로 방향 예측 모드란 예측 블록의 좌측 영역의 참조 화소를 이용하여 화면 내 예측을 수행하는 적어도 하나의 화면 내 예측 모드를 의미할 수 있다. 도 6은 본 발명의 일 실시 예에 따른 가로 방향 예측 모드를 설명하기 위한 도면이다.
도 6을 참고하면, HAbove 모드는 가로 방향 예측 모드 범위에 속하는 화면 내 예측 모드들 중, 최대 색인 정보를 갖는 예측 모드를 의미하고, HBottom 모드는 가로 방향 예측 범위에 속하는 화면 내 예측 모드들 중, 최소 색인 정보를 갖는 예측 모드를 의미할 수 있다. 따라서, HAbove 모드와 HBottom 모드 사이의 각도 예측 모드들을 가로 방향 예측 모드를 의미할 수 있다.
S501단계에서 현재 변환 블록에 대응하는 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드인 경우(S501-예), S502단계가 수행될 수 있다.
S502단계에서는 2차 변환 수행 영역을 현재 변환 블록 내의 좌측 영역으로 결정할 수 있다.
S501단계에서 현재 변환 블록에 대응하는 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드가 아닌 경우(S501-아니오), S503단계가 수행될 수 있다.
S503단계에서는 현재 변환 블록에 대응하는 예측 블록의 화면 내 예측 모드가 세로 방향 예측 모드인지 판단한다. 여기서, 세로 방향 예측 모드란 예측 블록의 상단 영역의 참조 화소를 이용하여 화면 내 예측을 수행하는 적어도 하나의 화면 내 예측 모드를 의미할 수 있다. 도 7은 본 발명의 일 실시 예에 따른 세로 방향 예측 모드를 설명하기 위한 도면이다.
도 7을 참고하면, Vleft 모드는 세로 방향 예측 모드 범위에 속하는 화면 내 예측 모드들 중, 최소 색인 정보를 갖는 예측 모드를 의미하고, Vright 모드는 세로 방향 예측 범위에 속하는 화면 내 예측 모드들 중, 최대 색인 정보를 갖는 예측 모드를 의미할 수 있다. 따라서, Vleft 모드와, Vright 모드 사이의 각도 예측 모드들을 세로 방향 예측 모드를 의미할 수 있다.
S503단계에서 현재 변환 블록에 대응하는 예측 블록의 화면 내 예측 모드가 세로 방향 예측 모드인 경우(S503-예), S504단계가 수행될 수 있다.
S504단계에서는 2차 변환 수행 영역을 현재 변환 블록 내의 상단 영역으로 결정할 수 있다.
S503단계에서 현재 변환 블록에 대응하는 예측 블록의 화면 내 예측 모드가 세로 방향 예측 모드가 아닌 경우(S503-아니오), S505단계가 수행될 수 있다.
S505단계에서는 2차 변환 수행 영역을 현재 변환 블록 내의 좌상단 영역으로 결정할 수 있다.
도 8은 본 발명의 일 실시 예에 따른 현재 변환 블록내의 좌측 영역, 상단 영역 및 좌상단 영역을 설명하기 위한 도면이다.
도 8을 참고하면, 도 5에서 전술한 방식으로 2차 변환 영역이 현재 변환 블록내의 좌측 영역으로 결정되는 경우, 좌측 영역은 변환 블록의 1/4 좌측 영역(801) 또는 1/2 좌측 영역(802)일 수 있다.
그리고, 2차 변환 영역이 현재 변환 블록내의 상단 영역으로 결정되는 경우, 상단 영역은 변환 블록의 1/4 상단 영역(803) 또는 1/2 상단 영역(804)일 수 있다.
그리고, 2차 변환 영역이 현재 변환 블록내의 좌상단 영역으로 결정되는 경우, 좌상단 영역은 변환 블록의 1/4 좌상단 영역(805) 또는 1/2 좌상단 영역(806)일 수 있다.
도 5 내지 도 8은 영상 부호화 장치에서 2차 변환을 수행하는 경우를 가정하여 설명하였다. 그러나, 이에 한정되지 아니하고, 영상 복호화 장치에서 상술한 방법과 동일하게 2차 역변환 수행 영역을 결정할 수 있다.
다음으로, 본 발명의 일 실시 예에 따른 변환 블록의 주파수 영역에 기초한 변환 수행 영역의 결정 방법에 대해 설명하도록 한다.
도 9는 변환 블록의 주파수 영역에 기초한 변환 수행 영역의 결정 방법을 나타내는 흐름도이다.
도 9를 참고하면, S901단계에서는 변환 기저에 따라서 변환 블록 내의 저주파 영역을 결정한다. 여기서, 변환 블록 내 저주파 영역은 변환 기저에 따라서 달라질 수 있다. 그리고, S902단계에서는 2차 변환 수행 영역을 변환 블록 내 저주파 영역으로 결정할 수 있다.
한편, 저주파 영역을 특정하는 주파수의 범위는 영상 부호화 장치 및 영상 복호화 장치에 동일하게 고정될 수 있다. 또는, 영상 부호화 장치에서 별도의 정보를 영상 복호화 장치에 전송하여 저주파 영역을 특정하는 주파수의 범위를 결정할 수 있다.
도 10은 변환 블록의 주파수 영역에 기초한 변환 수행 영역을 결정한 예시를 나타내는 도면이다.
본 발명의 일 실시 예에 따른 영상 부호화 장치에서 1차 변환 후 변환 블록의 저주파 영역은 변환 블록 내의 좌상단 영역일 수 있다. 또한, 영상 복호화 장치에서 역양자화 후 변환 블록의 저주파 영역은 변환 블록 내의 좌상단 영역일 수 있다. 도 10은 위와 같은 가정 하에서 2차 변환 수행 영역을 나타낸다.
도 10을 참조하면, 영상 부호화 장치/영상 복호화 장치는 변환 블록의 좌상단 1/16 영역을 저주파 영역으로 결정하여, 해당 영역을 2차 변환 수행 영역으로 결정할 수 있다(1001).
또는, 영상 부호화 장치/영상 복호화 장치는 변환 블록의 좌상단 1/4 영역을 저주파 영역으로 결정하여, 해당 영역을 2차 변환 수행 영역으로 결정할 수 있다(1002).
도 5 내지 도 10에서는 2차 변환 또는 2차 역변환이 수행되는 변환 수행 영역의 결정 방법에 대해 설명하였으나, 이에 한정되지 않고 동일한 방법으로 1차 변환 또는 1차 역변환이 수행되는 변환 수행 영역이 결정될 수도 있다.
또한, 일 실시 예에 따라 변환 수행 영역은 변환 블록 전체로 결정하는 것도 가능할 수 있다.
그리고, 영상 부호화 장치와 영상 복호화 장치에서 전술한 방법으로 동일하게 2차 변환 수행 영역 및 2차 역변환 수행 영역을 결정할 수 있지만, 전술한 방법에 의해 결정된 2차 변환 수행 영역 정보를 영상 부호화 장치에서 부호화하여 영상 복호화 장치로 전송할 수도 있다. 이 경우, 해당 정보는 상위레벨(비디오 계층, 시퀀스 계층, 픽쳐 계층, 슬라이스 계층, 부호화 블록 계층 등)에서 또는 변환 블록 단위로 전송할 수도 있다.
이하에서는 도 11 내지 도 15를 참고하여, 1차 변환 수행 영역 또는 2차 변환 수행 영역의 분할하는 방법을 설명하도록 한다. 이하에서는, 상위 변환 블록으로부터 분할된 변환 블록을 서브 변환 블록으로 정의한다.
도 11 및 도 12는 변환 블록의 쿼드 트리 분할을 설명하기 위한 도면이다.
도 11은 변환 블록을 서브 변환 블록으로 쿼드 트리 분할하는 과정에서 최적의 쿼드트리 분할 정보를 부호화하는 방법을 나타내는 흐름도이다. 여기서, 전체 변환 블록은 최상위 분할 깊이의 변환 블록을 의미할 수 있고, 현재 서브 변환 블록은 현재 부호화 중인 서브 변환 블록을 의미하며, 현재 부분 블록은 현재 서브 변환 블록에서 분할된 부분 블록들 중 현재 부호화 중인 부분 블록을 의미할 수 있다.
도 11을 참고하면, S1101단계에서는 전체 변환 블록을 현재 서브 변환 블록으로 설정할 수 있다.
그리고, S1102단계에서는 현재 서브 변환 블록에서의 쿼드트리 분할 정보를 부호화할 수 있다.
그리고, S1103단계에서는 현재 서브 변환 블록에서 기 부호화된 쿼드트리 분할 정보가 참 인지 거짓인 판단할 수 있다.
현재 서브 변환 블록에서 부호화된 쿼드트리 분할 정보가 거짓인 경우(S1103-아니오), 쿼드트리 분할 부호화 과정을 종료할 수 있다.
반대로, 현재 서브 변환 블록에서 부호화된 쿼드트리 분할 정보가 참인 경우(S1103-예), S1104 단계가 수행될 수 있다.
S1104단계에서는 현재 서브 변환 블록를 쿼드트리 분할하여 4개의 부분 블록을 생성할 수 있다.
그리고, S1105단계에서는 현재 서브 변환 블록에서 분할된 부분 블록들의 부호화 순으로, 현재 부호화 중인 부분 블록(이하, 현재 부분 블록라고 함)의 쿼드 트리 분할 정보를 부호화할 수 있다.
그리고, S1106단계에서는 현재 부분 블록이 현재 서브 변환 블록 내에서 마지막 부호화 순서에 해당하는 부분 블록인지 판단할 수 있다.
현재 부분 블록이 현재 서브 변환 블록 내에서 마지막 부호화 순서에 해당하는 부분 블록인 경우(S1106-예), S1109단계가 수행될 수 있다.
S1109단계에서는 현재 부분 블록이 전체 변환 블록 내에서 마지막 부호화 순서에 해당하는 부분 블록인지 판단할 수 있다.
현재 부분 블록이 전체 변환 블록 내에서 마지막 부호화 순서에 해당하는 부분 블록인 경우(S1109-예), 쿼드트리 분할 부호화 과정을 종료할 수 있다.
반대로, 현재 부분 블록이 전체 변환 블록 내에서 마지막 부호화 순서에 해당하는 부분 블록이 아닌 경우(S1109-아니오), S1110단계에서 현재 서브 변환 블록을 상위 깊이의 현재 부분 블록으로 설정한 후, S1105단계로 돌아가서 상위 깊이의 현재 부분 블록의 다음 부호화 순서의 부분 블록의 쿼드트리 분할 정보 부호화 과정을 수행할 수 있다.
S1107 단계에서는 전술한 S1106 단계에서 현재 부분 블록이 현재 서브 변환 블록 내에서 마지막 부호화 순서에 해당하는 부분 블록이 아니었을 때(S1106-아니오), 해당 부분 블록의 쿼드트리 분할 정보가 참인지 거짓인지 판단할 수 있다. 여기서, 해당 정보가 거짓이었다면(S1107-아니오), S1105 단계로 돌아가서 현재 부분 블록의 다음 부호화 순서의 부분 블록 쿼드트리 분할 정보 부호화 과정을 수행할 수 있다.
반대로, 해당 정보가 참이었다면(S1107-예), S1108 단계에서 현재 부분 블록을 하위 깊이의 현재 서브 변환 블록으로 설정하고, S1104 단계로 돌아가서 상기 과정을 반복할 수 있다.
한편, 쿼드트리 분할이 가능한 변환 블록의 최대/최소 크기, 쿼드트리 분할이 가능한 최대 깊이, 현재 변환 블록에서 분할 가능한 깊이 등은 영상 부호화 장치 및 영상 복호화 장치에 동일하게 고정되거나, 영상 부호화 장치에서 상위 헤더(슬라이스 계층, 픽쳐 계층, 시퀀스 계층, 비디오 계층 등)를 통해 영상 복호화 장치로 전송될 수 있다.
도 12는 쿼드트리 분할 정보를 복호화하여 변환 블록을 서브 변환 블록으로 쿼드 트리 분할하는 방법을 나타내는 흐름도이다.
도 12를 참고하면, S1201단계에서는 전체 변환 블록을 현재 서브 변환 블록으로 설정할 수 있다.
그리고, S1202단계에서는 현재 서브 변환 블록에서의 쿼드트리 분할 정보를 복호화할 수 있다.
그리고, S1203단계에서는 현재 서브 변환 블록에서 복호화된 쿼드트리 분할 정보가 참 인지 거짓인 판단할 수 있다.
현재 서브 변환 블록에서 복호화된 쿼드트리 분할 정보가 거짓인 경우(S1203-아니오), 쿼드트리 분할 부호화 과정을 종료할 수 있다.
반대로, 현재 서브 변환 블록에서 복호화된 쿼드트리 분할 정보가 참인 경우(S1203-예), S1204 단계가 수행될 수 있다.
S1204단계에서는 현재 서브 변환 블록를 쿼드트리 분할하여 4개의 부분 블록을 생성할 수 있다.
그리고, S1205단계에서는 현재 서브 변환 블록에서 분할된 부분 블록들의 복호화 순으로, 현재 복호화 중인 부분 블록(이하, 현재 부분 블록라고 함)의 쿼드 트리 분할 정보를 부호화할 수 있다.
그리고, S1206단계에서는 현재 부분 블록이 현재 서브 변환 블록 내에서 마지막 복호화 순서에 해당하는 부분 블록인지 판단할 수 있다.
현재 부분 블록이 현재 서브 변환 블록 내에서 마지막 복호화 순서에 해당하는 부분 블록인 경우(S1206-예), S1209단계가 수행될 수 있다.
S1209단계에서는 현재 부분 블록이 전체 변환 블록 내에서 마지막 복호화 순서에 해당하는 부분 블록인지 판단할 수 있다.
현재 부분 블록이 전체 변환 블록 내에서 마지막 부호화 순서에 해당하는 부분 블록인 경우(S1209-예), 쿼드트리 분할 복호화 과정을 종료할 수 있다.
반대로, 현재 부분 블록이 전체 변환 블록 내에서 마지막 복호화 순서에 해당하는 부분 블록이 아닌 경우(S1209-아니오), S1210단계에서 현재 서브 변환 블록을 상위 깊이의 현재 부분 블록으로 설정한 후, S1205단계로 돌아가서 상위 깊이의 현재 부분 블록의 다음 복호화 순서의 부분 블록의 쿼드트리 분할 정보 부호화 과정을 수행할 수 있다.
S1207 단계에서는 전술한 S1206 단계에서 현재 부분 블록이 현재 서브 변환 블록 내에서 마지막 복호화 순서에 해당하는 부분 블록이 아니었을 때(S1206-아니오), 해당 부분 블록의 쿼드트리 분할 정보가 참인지 거짓인지 판단할 수 있다. 여기서, 해당 정보가 거짓이었다면(S1207-아니오), S1205 단계로 돌아가서 현재 부분 블록의 다음 복호화 순서의 부분 블록 쿼드트리 분할 정보 복호화 과정을 수행할 수 있다.
반대로, 해당 정보가 참이었다면(S1207-예), S1208 단계에서 현재 부분 블록을 하위 깊이의 현재 서브 변환 블록으로 설정하고, S1204 단계로 돌아가서 상기 과정을 반복할 수 있다.
도 13 및 도 14는 변환 블록의 이진트리 분할을 설명하기 위한 도면이다.
도 13 및 도 14는 전술한 도 11 및 12에서 쿼드트리 분할을 이진트리 분할로 변경된 것과 쿼드트리 분할 정보를 이진트리 분할 정보로 변경된 것을 제외하고 나머지 일련의 과정들이 동일하다. 따라서, 도 13 및 도 14의 설명은 생략하도록 한다.
도 15는 쿼드트리 분할과 이진트리 분할을 이용하여 변환 수행 영역이 부분 변환 블록으로 분할된 예시를 나타낸 도면이다. 여기서, 변환 수행 영역은 전체 변환 블록을 의미할 수 있다. 도 15에서 변환 수행 영역은 현재 블록의 좌상단으로 결정된 것으로 가정한다.
도 15를 참고하면, 1501은 전체 변환 블록을 쿼드트리 분할 방법으로만 분할하여 분할된 부분 변환 블록의 형태를 나타낸 것이고, 1502는 전체 변환 블록을 이진트리 분할 방법으로만 분할하여 분할된 부분 변환 블록의 형태를 나타낸 것이다. 그리고, 1503은 전체 변환 블록을 쿼드트리 분할 방법 및 이진트리 분할 방법으로 분할하여 분할된 부분 변환 블록의 형태를 나타낸 것이다.
한편, 영상 부호화 장치와 영상 복호화 장치는 변환 수행 영역 내에서 전체 변환 블록의 크기에 기초하여 변환 블록의 분할 형태를 동일하게 결정할 수 있다.
일 예로, 전체 변환 블록의 가로 길이 및 세로 길이가 모두 8 이상인 경우에는, 좌상단 8x8 서브 변환 블록에 대해서만 변환이 수행될 수 있고, 그렇지 않은 경우에는 좌상단 4x4 서브 변환 블록에 대해서만 변환이 수행될 수도 있다.
이상의 실시 예에 따라 변환 수행 영역 내 서브 변환 블록의 분할 형태가 결정된 후, 서브 변환 블록 단위로 변환 또는 역변환이 수행될 수 있다. 이하에서는 2차 변환 수행 영역 내에서 서브 변환 블록 단위로 2차 변환을 수행하기 전 또는 수행한 후에 수행될 수 있는 계수 스캔 방법 및 재정렬 방법에 대해 설명하도록 한다. 여기서, 2차 변환 수행 영역 및 2차 변환은 2차 역변환 수행 영역 및 2차 역변환을 포함하는 개념일 수 있다.
도 16은 2D 변환 방법이 아닌 1D 변환 방법을 수행하기 위하여 2D 서브 변환 블록을 1D 서브 변환 블록으로 변경할 때, 2D 서브 변환 블록을 스캔하는 방법과 재정렬하는 방법의 예시를 나타낸다.
도 16을 참고하면, 1601은 2차 변환이 수행되기 전에 1차 변환이 수행된 2D 서브 변환 블록을 수직 방향으로 스캔하여 1D 서브 변환 블록으로 재정렬하는 방법을 나타낸다. 여기서, 수직 방향 스캔 순서는 C00, C10, C20, C01, …, C23, C33 이고, 동일한 순서로 1D 서브 변환 블록에 맵핑할 수 있다.
1602은 2차 변환이 수행되기 전에 1차 변환이 수행된 2D 서브 변환 블록을 수평 방향으로 스캔하여 1D 서브 변환 블록으로 재정렬하는 방법을 나타낸다. 여기서, 수평 방향 스캔 순서는 C00, C01, C02, C03, C10, …, C32, C33 이고, 동일한 순서로 1D 서브 변환 블록에 맵핑할 수 있다.
1603은 2차 변환이 수행되기 전에 1차 변환이 수행된 2D 서브 변환 블록을 45도 대각 방향으로 스캔하여 1D 서브 변환 블록으로 재정렬하는 방법을 나타낸다. 여기서, 45도 대각 방향 스캔 순서는 C00, C10, C01, C20, C11, …, C23, C33 이고, 동일한 순서로 1D 서브 변환 블록에 맵핑할 수 있다.
도 17은 2D 서브 변환 블록을 스캔하는 방법과 재정렬하는 방법의 예시를 나타낸다.
도 17를 참고하면, 1701은 2차 변환이 수행된 후에 2차 변환이 수행된 2D 서브 변환 블록을 수직 방향으로 스캔하여 2D 서브 변환 블록으로 재정렬하는 방법을 나타낸다. 여기서, 수직 방향 스캔 순서는 C00, C10, C20, C01, …, C23, C33 이고, 동일한 순서로 2D 서브 변환 블록에 맵핑할 수 있다.
1702은 2차 변환이 수행된 후에 2차 변환이 수행된 2D 서브 변환 블록을 수평 방향으로 스캔하여 2D 서브 변환 블록으로 재정렬하는 방법을 나타낸다. 여기서, 수평 방향 스캔 순서는 C00, C01, C02, C03, C10, …, C32, C33 이고, 동일한 순서로 2D 서브 변환 블록에 맵핑할 수 있다.
1703은 2차 변환이 수행된 후에 2차 변환이 수행된 2D 서브 변환 블록을 45도 대각 방향으로 스캔하여 2D 서브 변환 블록으로 재정렬하는 방법을 나타낸다. 여기서, 45도 대각 방향 스캔 순서는 C00, C10, C01, C20, C11, …, C23, C33 이고, 동일한 순서로 2D 서브 변환 블록에 맵핑할 수 있다.
한편, 도 17에서 설명하는 방법은 2차 변환 전에 수행될 수도 있다.
또한, 도 16 및 도 17의 스캔 방법은 수직 방향, 수평 방향, 45도 대각 방향 이외에 다양한 방향의 스캔 방법이 이용될 수 있다. 그리고, 도 16 및 도 17에서는 2차 변환 또는 2차 역변환을 예시로 설명하였으나, 1차 변환 및 1차 역변환의 경우에도 전술한 방법이 적용될 수도 있다.
이하에서는, 전술한 서브 변환 블록의 계수 스캔 방법을 결정하는 방법에 대해 설명하도록 한다.
본 발명의 일 실시 예에 따르면, 서브 변환 블록의 계수 스캔 방법은 예측 모드에 따라서 스캔 방법이 서브 변환 블록 단위로 다르게 수행될 수 있다.
도 18은 현재 변환 블록 생성을 위해 수행된 예측 모드에 따라서 서브 변환 블록 스캔 방법을 결정하는 방법을 설명한 흐름도이다.
도 18을 참고하면, S1801단계에서는 현재 변환 블록 생성을 위해 수행된 예측 모드가 화면 내 예측 모드 중 가로 방향 예측 모드들 중 하나인지 아닌지 판단할 수 있다.
그리고, S1802단계에서는 S1801단계에서 판단한 조건이 참일 때, 서브 변환 블록 스캔 방법을 수직방향 스캔 방법으로 결정할 수 있다.
그리고, S1803단계에서는 S1801단계에서 판단한 조건이 거짓일 때, 현재 변환 블록 생성을 위해 수행된 예측 모드가 화면 내 예측 모드 중 세로 방향 예측 모드들 중 하나인지 아닌지 판단할 수 있다.
그리고, S1804 단계에서는 S1803단계에서 판단한 조건이 참일 때, 서브 변환 블록 스캔 방법은 수평 방향 스캔 방법으로 결정할 수 있다.
그리고, S1805단계에서는 S1803단계에서 판단한 조건이 거짓일 때, 서브 변환 블록 스캔 방법을 45도 대각 방향 스캔 방법으로 결정할 수 있다. 즉, S1805 단계에서는 현재 변환 블록 생성을 위해 수행된 예측 모드가 화면 내 예측 모드 중 세로 방향 예측 모드들, 가로 방향 예측 모드들에 속하지 않을 때, 서브 변환 블록 스캔 방법은 45도 대각 방향 스캔 방법으로 결정할 수 있다.
본 발명의 다른 실시 예에 따르면, 서브 변환 블록의 계수 스캔 방법은 변환 기저에 따라서 스캔 방법이 서브 변환 블록 단위로 다르게 수행될 수 있다.
도 19는 변환 기저에 따라서 서브 변환 블록 스캔 방법을 결정하는 방법을 설명한 도면이다.
도 19를 참고하면, 좌상단 서브 변환 블록은 45도 대각 방향 스캔 방법으로, 그 외의 서브 변환 블록들은 수직 방향 스캔 방법으로 서브 변환 블록 스캔 방법이 결정될 수 있다.
영상 부호화 장치는 각 서브 변환 블록 별로 RDO를 통하여 최적의 스캔 방법을 결정한 뒤, 최적의 스캔 방법을 부호화하여 영상 복호화 장치에 전송할 수 있다.
도 20은 본 발명의 일 실시 예에 따른 영상 복호화 방법을 설명하기 위한 흐름도이다.
도 20를 참고하면, 영상 복호화 장치는 변환 수행 영역을 결정할 수 있다(S2001).
여기서, 영상 복호화 장치는 현재 변환 블록에 대응하는 현재 예측 블록의 화면 내 예측 모드에 기초하여 상기 변환 수행 영역을 결정할 수 있다. 구체적으로, 영상 복호화 장치는, 현재 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드인 경우, 현재 변환 블록의 좌측 영역을 변환 수행 영역으로 결정하고, 현재 예측 블록의 화면 내 예측 모드가 세로 방향 예측 모드인 경우, 현재 변환 블록의 상단 영역을 변환 수행 영역으로 결정하고, 현재 예측 블록의 화면 내 예측 모드가 가로 방향 예측 모드 및 세로 방향 예측 모드가 아닌 경우, 현재 변환 블록의 좌상단 영역을 변환 수행 영역으로 결정할 수 있다.
한편, 영상 복호화 장치는 현재 변환 블록의 특정 주파수 영역에 기초하여 변환 수행 영역을 결정할 수 있다. 여기서, 특정 주파수 영역은 기 정의된 값을 기초하여 결정될 수 있다.
영상 복호화 장치는 결정된 변환 수행 영역을 쿼드트리 분할 및 이진트리 분할 중 적어도 하나를 이용하여 적어도 하나의 서브 변환 블록으로 분할할 수 있다(S2002).
그리고, 영상 복호화 장치는 적어도 하나의 서브 변환 블록에 역변환을 수행할 수 있다(S2003). 여기서, 역변환은, 1차 역변환 및 2차 역변환 중 어느 하나일 수 있다.
한편, 적어도 하나의 서브 변환 블록은 2D 서브 변환 블록일 수 있다. 이 경우, 영상 복호화 장치는 서브 변환 블록의 계수 스캔 방법을 결정하는 단계 및 결정된 계수 스캔 방법에 기초하여 2D 서브 변환 블록을 재정렬하는 단계를 더 수행 할 수 있다.
여기서, 영상 복호화 장치는 현재 변환 블록에 대응하는 현재 예측 블록의 화면 내 예측 모드에 기초하여 서브 변환 블록의 계수 스캔 방법을 결정할 수 있다.
도 20에서 상술한 영상 복호화 방법은 영상 부호화 장치의 영상 부호화 방법으로 동일하게 수행될 수도 있다. 이 경우, 역변환은 변환으로 변경될 수 있다.
본 개시의 예시적인 방법들은 설명의 명확성을 위해서 동작의 시리즈로 표현되어 있지만, 이는 단계가 수행되는 순서를 제한하기 위한 것은 아니며, 필요한 경우에는 각각의 단계가 동시에 또는 상이한 순서로 수행될 수도 있다. 본 개시에 따른 방법을 구현하기 위해서, 예시하는 단계에 추가적으로 다른 단계를 포함하거나, 일부의 단계를 제외하고 나머지 단계를 포함하거나, 또는 일부의 단계를 제외하고 추가적인 다른 단계를 포함할 수도 있다.
본 개시의 다양한 실시 예는 모든 가능한 조합을 나열한 것이 아니고 본 개시의 대표적인 양상을 설명하기 위한 것이며, 다양한 실시 예에서 설명하는 사항들은 독립적으로 적용되거나 또는 둘 이상의 조합으로 적용될 수도 있다.
또한, 본 개시의 다양한 실시 예는 하드웨어, 펌웨어(firmware), 소프트웨어, 또는 그들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 범용 프로세서(general processor), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.
본 개시의 범위는 다양한 실시 예의 방법에 따른 동작이 장치 또는 컴퓨터 상에서 실행되도록 하는 소프트웨어 또는 머신-실행가능한 명령들(예를 들어, 운영체제, 애플리케이션, 펌웨어(firmware), 프로그램 등), 및 이러한 소프트웨어 또는 명령 등이 저장되어 장치 또는 컴퓨터 상에서 실행 가능한 비-일시적 컴퓨터-판독가능 매체(non-transitory computer-readable medium)를 포함한다.

Claims (11)

  1. 변환 블록에 적용되는 변환 분할 정보를 결정하는 단계;
    상기 변환 분할 정보를 이용하여 현재 변환 블록을 결정하는 단계; 및
    상기 현재 변환 블록에 역변환을 수행하는 단계를 포함하고,
    상기 현재 변환 블록은 상위 변환 블록에서 분할된 서브 변환 블록이되, 상기 서브 변환 블록은 쿼드 트리 분할 또는 이진 트리 분할 중 적어도 하나에 의해 상기 상위 변환 블록으로부터 분할된 블록이고,
    상기 서브 변환 블록으로의 분할 여부는, 상기 상위 변환 블록의 너비 또는 높이 중 적어도 하나에 기초하여 결정되는, 영상 복호화 방법.
  2. 제1항에 있어서,
    상기 변환 분할 정보는 상기 서브 변환 블록이 쿼드 트리 분할 또는 이진 트리 분할 되었음을 지시하는, 영상 복호화 방법.
  3. 제1항에 있어서,
    상기 역변환은 상기 상위 변환 블록 내의 소정의 변환 수행 영역 내에서 수행되는, 영상 복호화 방법.
  4. 제3항에 있어서,
    상기 변환 수행 영역은, 상기 상위 변환 블록의 크기와 소정의 임계치 사이의 비교 결과에 기반하여 가변적으로 결정되는, 영상 복호화 방법.
  5. 제3항에 있어서,
    상기 변환 수행 영역은, 상기 상위 변환 블록과 연관된 화면 내 예측 모드에 기반하여 가변적으로 결정되는, 영상 복호화 방법.
  6. 변환 블록에 적용되는 변환 분할 정보를 부호화 하는 단계;
    상기 변환 분할 정보에 의한 분할 방식에 기반하여 현재 변환 블록을 결정하는 단계: 및
    상기 현재 변환 블록에 변환을 수행하는 단계를 포함하고,
    상기 현재 변환 블록은 상위 변환 블록에서 분할된 서브 변환 블록이되, 상기 서브 변환 블록은 쿼드 트리 분할 또는 이진 트리 분할 중 적어도 하나에 의해 상기 상위 변환 블록으로부터 분할된 블록이고,
    상기 서브 변환 블록으로의 분할 여부는, 상기 상위 변환 블록의 너비 또는 높이 중 적어도 하나에 기초하여 결정되는, 영상 부호화 방법.
  7. 제6항에 있어서,
    상기 변환 분할 정보는 상기 서브 변환 블록이 쿼드 트리 분할 또는 이진 트리 분할 되었음을 지시하는, 영상 부호화 방법.
  8. 제6항에 있어서,
    상기 변환은 상기 상위 변환 블록 내의 소정의 변환 수행 영역 내에서 수행되는, 영상 부호화 방법.
  9. 제8항에 있어서,
    상기 변환 수행 영역은, 상기 상위 변환 블록의 크기와 소정의 임계치 사이의 비교 결과에 기반하여 가변적으로 결정되는, 영상 부호화 방법.
  10. 제8항에 있어서,
    상기 변환 수행 영역은, 상기 상위 변환 블록과 연관된 화면 내 예측 모드에 기반하여 가변적으로 결정되는, 영상 부호화 방법.
  11. 영상 부호화 방법에 의해 생성된 비트스트림을 저장하는 컴퓨터 판독가능한 기록 매체에 있어서, 상기 영상 부호화 방법은,
    변환 블록에 적용되는 변환 분할 정보를 비트스트림 내에 부호화 하는 단계;
    상기 변환 분할 정보에 의한 분할 방식에 기반하여 현재 변환 블록을 결정하는 단계: 및
    상기 현재 변환 블록에 변환을 수행하는 단계를 포함하고,
    상기 현재 변환 블록은 상위 변환 블록에서 분할된 서브 변환 블록이되, 상기 서브 변환 블록은 쿼드 트리 분할 또는 이진 트리 분할 중 적어도 하나에 의해 상기 상위 변환 블록으로부터 분할된 블록이고,
    상기 서브 변환 블록으로의 분할 여부는, 상기 상위 변환 블록의 너비 또는 높이 중 적어도 하나에 기초하여 결정되는, 컴퓨터 판독가능한 기록 매체.
KR1020220080213A 2016-10-14 2022-06-30 영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체 KR20220098114A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR20160133756 2016-10-14
KR1020160133756 2016-10-14
KR1020170127941A KR102416804B1 (ko) 2016-10-14 2017-09-29 영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020170127941A Division KR102416804B1 (ko) 2016-10-14 2017-09-29 영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체

Publications (1)

Publication Number Publication Date
KR20220098114A true KR20220098114A (ko) 2022-07-11

Family

ID=61905785

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220080213A KR20220098114A (ko) 2016-10-14 2022-06-30 영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체

Country Status (4)

Country Link
US (2) US20220345703A1 (ko)
KR (1) KR20220098114A (ko)
CN (9) CN116886906A (ko)
WO (1) WO2018070788A1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111758261B (zh) 2018-09-02 2022-06-10 Lg电子株式会社 用于处理图像信号的方法和设备
WO2020050665A1 (ko) 2018-09-05 2020-03-12 엘지전자 주식회사 비디오 신호의 부호화/복호화 방법 및 이를 위한 장치
CN114424544A (zh) * 2019-09-19 2022-04-29 瑞典爱立信有限公司 允许基于矩阵的帧内预测块具有多个变换块
US20220150518A1 (en) * 2020-11-11 2022-05-12 Tencent America LLC Method and apparatus for video coding

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7822281B2 (en) * 2003-10-31 2010-10-26 Canon Kabushiki Kaisha Digital video compression
GB2429593A (en) * 2005-08-26 2007-02-28 Electrosonic Ltd Data compressing using a wavelet compression scheme
SG2014014831A (en) * 2010-08-17 2014-06-27 Samsung Electronics Co Ltd Video encoding method and apparatus using transformation unit of variable tree structure, and video decoding method and apparatus
US9172963B2 (en) * 2010-11-01 2015-10-27 Qualcomm Incorporated Joint coding of syntax elements for video coding
US9445093B2 (en) * 2011-06-29 2016-09-13 Qualcomm Incorporated Multiple zone scanning order for video coding
US8929455B2 (en) * 2011-07-01 2015-01-06 Mitsubishi Electric Research Laboratories, Inc. Method for selecting transform types from mapping table for prediction modes
AU2012200319B2 (en) * 2012-01-19 2015-11-26 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding the significance map for residual coefficients of a transform unit
BR112014021436B1 (pt) * 2012-04-13 2023-03-07 Canon Kabushiki Kaisha Método e aparelho para codificar e decodificar um subconjunto de unidades de transformação de dados de vídeo codificados
EP3310054A4 (en) * 2015-06-11 2019-02-27 Intellectual Discovery Co., Ltd. IMAGE ENCODING AND DECODING METHOD USING AN ADAPTIVE DEBLOCKING FILTER, AND APPARATUS THEREOF

Also Published As

Publication number Publication date
CN116886910A (zh) 2023-10-13
CN116886904A (zh) 2023-10-13
US20220368901A1 (en) 2022-11-17
CN116939202A (zh) 2023-10-24
CN116886909A (zh) 2023-10-13
US20220345703A1 (en) 2022-10-27
CN116886907A (zh) 2023-10-13
CN116886908A (zh) 2023-10-13
CN116886905A (zh) 2023-10-13
CN116886906A (zh) 2023-10-13
WO2018070788A1 (ko) 2018-04-19
CN116886911A (zh) 2023-10-13

Similar Documents

Publication Publication Date Title
KR102618513B1 (ko) 영상 정보 부호화 방법 및 복호화 방법
KR102431855B1 (ko) 영상 코딩 시스템에서 인트라 예측에 따른 영상 디코딩 방법 및 장치
KR102424419B1 (ko) 비디오 신호 처리 방법 및 장치
KR102416804B1 (ko) 영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체
US11533470B2 (en) Method and apparatus for encoding/decoding an image signal
KR102357282B1 (ko) 영상의 부호화/복호화 방법 및 장치
KR20230113257A (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한기록 매체
KR102061201B1 (ko) 블록 정보에 따른 변환 방법 및 이러한 방법을 사용하는 장치
KR102333153B1 (ko) 영상 정보 부호화 방법 및 복호화 방법
US11659178B2 (en) Image encoding method/device, image decoding method/device, and recording medium in which bitstream is stored
KR20220098114A (ko) 영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체
KR20210008105A (ko) 영상 부호화/복호화 방법 및 장치
KR102435493B1 (ko) 영상 신호 부호화/복호화 방법 및 장치
KR101468078B1 (ko) 화면 내 예측 방법 및 장치
US11909970B2 (en) Image encoding method/device, image decoding method/device, and recording medium in which bitstream is stored
KR20210076869A (ko) 임의의 모양으로 분할되는 블록을 예측하는 방법 및 복호화 장치
KR102410326B1 (ko) 영상 부호화/복호화 방법 및 장치

Legal Events

Date Code Title Description
A107 Divisional application of patent