KR101246119B1 - 인트라 예측 모드 결정 방법 및 장치 - Google Patents

인트라 예측 모드 결정 방법 및 장치 Download PDF

Info

Publication number
KR101246119B1
KR101246119B1 KR1020110011094A KR20110011094A KR101246119B1 KR 101246119 B1 KR101246119 B1 KR 101246119B1 KR 1020110011094 A KR1020110011094 A KR 1020110011094A KR 20110011094 A KR20110011094 A KR 20110011094A KR 101246119 B1 KR101246119 B1 KR 101246119B1
Authority
KR
South Korea
Prior art keywords
intra prediction
mode
prediction mode
variance
subblock
Prior art date
Application number
KR1020110011094A
Other languages
English (en)
Other versions
KR20120090584A (ko
Inventor
이상윤
임경민
김성완
이재호
박대현
Original Assignee
연세대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 연세대학교 산학협력단 filed Critical 연세대학교 산학협력단
Priority to KR1020110011094A priority Critical patent/KR101246119B1/ko
Publication of KR20120090584A publication Critical patent/KR20120090584A/ko
Application granted granted Critical
Publication of KR101246119B1 publication Critical patent/KR101246119B1/ko

Links

Images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)

Abstract

본 발명은 동영상 데이터 압축 기술에 관한 것으로, 보다 상세하게는 인트라 예측 과정에서 소요되는 연산량과 계산 시간을 줄이기 위한 인트라 예측 모드 결정 방법 및 장치에 관한 것이다. 본 발명에 따른 인트라 예측 모드 결정 방법은, 매크로 블록 내의 소정 크기의 블록의 화소값의 분산을 계산하는 단계; 상기 계산된 분산을 소정 임계값과 비교하여, 그 결과에 따라 16X16 예측 모드와 4X4 인트라 예측 모드로 인트라 예측을 수행하거나 4X4 인트라 예측 모드만으로 인트라 예측을 수행하는 단계; 및 상기 인트라 예측 수행 결과를 토대로 인트라 예측 모드를 결정하는 단계를 포함하는 것을 특징으로 한다.

Description

인트라 예측 모드 결정 방법 및 장치{Intra prediction mode decision method and apparatus}
본 발명은 동영상 데이터 압축 기술에 관한 것으로, 보다 상세하게는 인트라 예측 과정에서 소요되는 연산량과 계산 시간을 줄이기 위한 인트라 예측 모드 결정 방법 및 장치에 관한 것이다.
동영상의 압축에 관한 H.264/AVC(Advanced Video Coding)에 따르면, 동영상을 부호화하기 위해서 하나의 픽처를 매크로 블록으로 나누고, 인터 예측(inter prediction) 및 인트라 예측(intra prediction)에서 이용가능한 모든 부호화 모드에서 각각의 매크로 블록을 부호화한 다음, 매크로 블록의 부호화에 소요되는 비트율과 원 매크로 블록과 복호화된 매크로 블록과의 왜곡 정도에 따라 부호화 모드를 하나 정해 매크로 블록을 부호화한다.
인트라 예측은 현재 픽처의 매크로 블록을 부호화하기 위해서 참조 픽처를 참조하는 것이 아니라, 부호화하고자 하는 매크로 블록과 공간적으로 인접한 화소값을 이용하여 부호화하고자 하는 매크로 블록에 대한 예측값을 계산한 후, 이 예측값과 화소값의 차를 부호화한다. 여기서, 인트라 예측에서 사용되는 모드는 크게 4X4 인트라 예측 모드, 16X16 인트라 예측 모드로 나뉜다.
도 1은 H.264 표준안에 따른 16X16 인트라 예측 모드를 나타낸 도면이고, 도 2는 H.264 표준안에 따른 4X4 인트라 예측 모드를 나타낸 도면이다.
도 1을 참조하면, 16X16 인트라 예측 모드에는 수직(Vertical) 모드, 수평(Horizontal) 모드, DC(Direct Current) 모드, 플레인(plane) 모드의 총 4개의 모드가 존재한다. 또한, 도 2를 참조하면, 4X4 인트라 예측 모드에는 수직(Vertical) 모드, 수평(Horizontal) 모드, DC(Direct Current) 모드, 대각선 왼쪽(Diagonal Down-left) 모드, 대각선 오른쪽(Diagonal Down-right) 모드, 수직 오른쪽(Vertical right) 모드, 수직 왼쪽(Vertical left) 모드, 수평 위쪽(Horizontal-up) 모드 및 수평 아래쪽(Horizontal-down) 모드의 총 9개의 모드가 존재한다.
예를 들어, 도 2의 모드 0, 즉 수직 모드에 따라, 4X4 크기의 현재 블록을 예측 부호화하는 동작을 설명한다. 먼저 4X4 크기의 현재 블록의 위쪽에 인접한 픽셀 A 내지 D의 픽셀값을 4X4 현재 블록의 픽셀값으로 예측한다. 즉, 픽셀 A의 값을 4X4 현재 블록의 첫 번째 열에 포함된 4개의 픽셀값으로, 픽셀 B의 값을 4X4 현재 블록의 두 번째 열에 포함된 4개의 픽셀값으로, 픽셀 C의 값을 4X4 현재 블록의 세 번째 열에 포함된 4개의 픽셀값으로, 픽셀 D의 값을 4X4 현재 블록의 네 번째 열에 포함된 4개의 픽셀값으로 예측한다. 다음, 상기 픽셀 A 내지 D를 이용하여 예측된 4X4 현재 블록과 원래의 4X4 현재 블록에 포함된 픽셀의 실제값을 감산하여 차이값을 구한 후 그 차이값을 부호화한다.
H.264 표준안에 따른 영상의 부호화시에, 상기 4X4 인트라 예측 모드 및 16X16 인트라 예측 모드의 총 13가지 모드로 현재 매크로 블록을 부호화해 본 다음, 그 중 가장 코스트(rate distortion cost)가 작은 모드로 인트라 부호화를 수행한다. 구체적으로, 현재 매크로 블록에 대해서 4가지의 16X16 인트라 예측 모드를 수행하여 코스트가 가장 작은 16X16 인트라 예측 모드를 선택하고, 4X4 서브 블록에 대해서 차례대로 9가지의 4X4 인트라 예측 모드를 수행하여 각각의 서브 블록 별로 코스트가 가장 작은 모드를 선택한다. 그리고, 상기 선택된 16X16 인트라 예측 모드의 코스트와, 각각의 서브 블록들의 코스트를 합한 4X4 인트라 예측 모드의 코스트를 비교하여 최종적으로 코스트가 가장 작은 모드를 선택한다.
이러한 H.264/AVC에서는 인트라 예측을 위한 모드 결정시에 인트라 부호화되는 매크로 블록에 대해 9가지의 4X4 인트라 예측 모드와 4가지의 16X16 인트라 예측 모드의 총 13가지 모드로 인트라 예측을 수행하게 되므로 연산량과 계산 시간 측면에서 비효율적이다.
본 발명이 이루고자 하는 기술적 과제는 인트라 예측 과정에서 소요되는 연산량과 계산 시간을 줄이기 위한 인트라 예측 모드 결정 방법 및 장치를 제공하는 데 있다.
상기 기술적 과제를 해결하기 위하여 본 발명에 따른 인트라 예측 모드 결정 방법은, (a) 매크로 블록 내의 소정 크기의 블록의 화소값의 분산을 계산하는 단계; (b) 상기 계산된 분산을 소정 임계값과 비교하여, 그 결과에 따라 16X16 예측 모드와 4X4 인트라 예측 모드로 인트라 예측을 수행하거나 4X4 인트라 예측 모드만으로 인트라 예측을 수행하는 단계; 및 (c) 상기 인트라 예측 수행 결과를 토대로 인트라 예측 모드를 결정하는 단계를 포함하는 것을 특징으로 한다.
일 실시예에서, 상기 소정 크기의 블록은 상기 매크로 블록 내의 8X8 블록일 수 있다.
일 실시예에서, 상기 (b) 단계는, 상기 계산된 분산이 상기 소정 임계값보다 큰 경우 4X4 인트라 예측 모드만으로 인트라 예측을 수행할 수 있다.
일 실시예에서, 상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 4X4 서브 블록의 주변의 화소값의 분산과 상기 4X4 서브 블록의 내부의 화소값의 분산에 따라 4X4 인트라 예측 모드 중 일부의 예측 모드만으로 인트라 예측을 수행할 수 있다.
일 실시예에서, 상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 주변의 화소값의 분산이 소정 임계값보다 작은 경우 상기 4X4 서브 블록의 예측 모드를 MPM(most probable mode)으로 결정할 수 있다.
일 실시예에서, 상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 내부의 화소값의 분산이 소정 임계값보다 작은 경우 상기 4X4 서브 블록의 예측 모드를 DC(Direct Current) 모드로 결정할 수 있다.
일 실시예에서, 상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 상측의 화소값의 분산이 소정 임계값보다 작은 경우 상기 4X4 서브 블록에 대하여 VERTICAL(모드 0), HORIZONTAL(모드 1), HORIZONTAL-DOWN(모드 6), HORIZONTAL-UP(모드 8) 모드에 대하여만 인트라 예측을 수행할 수 있다.
일 실시예에서, 상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 좌측의 화소값의 분산이 소정 임계값보다 작은 경우 상기 4X4 서브 블록에 대하여 VERTICAL(모드 0), HORIZONTAL(모드 1), VERTICAL-RIGHT(모드 5), VERTICAL-LEFT(모드 7) 모드에 대하여만 인트라 예측을 수행할 수 있다.
상기 기술적 과제를 해결하기 위하여 본 발명에 따른 인트라 예측 모드 결정 장치는, 매크로 블록 내의 소정 크기의 블록의 화소값의 분산을 계산하는 분산 계산부; 상기 계산된 분산을 소정 임계값과 비교하여, 그 결과에 따라 16X16 예측 모드와 4X4 인트라 예측 모드로 인트라 예측을 수행하거나 4X4 인트라 예측 모드만으로 인트라 예측을 수행하는 인트라 예측 수행부; 및 상기 인트라 예측 수행 결과를 토대로 인트라 예측 모드를 결정하는 예측 모드 결정부를 포함하는 것을 특징으로 한다.
일 실시예에서, 상기 인트라 예측 수행부는, 상기 계산된 분산이 상기 소정 임계값보다 큰 경우 4X4 인트라 예측 모드만으로 인트라 예측을 수행할 수 있다.
일 실시예에서, 상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 4X4 서브 블록의 주변의 화소값의 분산과 상기 4X4 서브 블록의 내부의 화소값의 분산에 따라 4X4 인트라 예측 모드 중 일부의 예측 모드만으로 인트라 예측을 수행할 수 있다.
일 실시예에서, 상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 주변의 화소값의 분산이 소정 임계값보다 작은 경우 상기 4X4 서브 블록의 예측 모드를 MPM(most probable mode)으로 결정할 수 있다.
일 실시예에서, 상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 내부의 화소값의 분산이 소정 임계값보다 작은 경우 상기 4X4 서브 블록의 예측 모드를 DC(Direct Current) 모드로 결정할 수 있다.
일 실시예에서, 상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 상측의 화소값의 분산이 소정 임계값보다 작은 경우 상기 4X4 서브 블록에 대하여 VERTICAL(모드 0), HORIZONTAL(모드 1), HORIZONTAL-DOWN(모드 6), HORIZONTAL-UP(모드 8) 모드에 대하여만 인트라 예측을 수행할 수 있다.
일 실시예에서, 상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 좌측의 화소값의 분산이 소정 임계값보다 작은 경우 상기 4X4 서브 블록에 대하여 VERTICAL(모드 0), HORIZONTAL(모드 1), VERTICAL-RIGHT(모드 5), VERTICAL-LEFT(모드 7) 모드에 대하여만 인트라 예측을 수행할 수 있다.
상기 기술적 과제를 해결하기 위하여 상기된 본 발명에 따른 인트라 예측 모드 결정 방법을 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공한다.
상기된 본 발명에 의하면, 성능 저하 없이 인트라 예측 과정에서 소요되는 연산량과 계산 시간을 줄일 수 있다.
도 1은 H.264 표준안에 따른 16X16 인트라 예측 모드를 나타낸 도면이다.
도 2는 H.264 표준안에 따른 4X4 인트라 예측 모드를 나타낸 도면이다.
도 3은 본 발명의 일 실시예에 따른 인트라 예측 모드 결정 장치의 구성을 나타내는 블록도이다.
도 4는 본 발명의 일 실시예에 따른 인트라 예측 모드 결정 방법의 흐름도를 나타낸다.
도 5는 16X16 매크로 블록 내의 가운데 8X8 블록을 나타낸다.
도 6은 본 발명의 일 실시예에 따른 4X4 인트라 예측 수행 과정을 구체적으로 나타낸 흐름도이다.
도 7a는 4X4 서브 블록 주변 화소를 나타낸다.
도 7b는 4X4 서브 블록 내부의 화소를 나타낸다.
도 7c는 4X4 서브 블록 상측의 화소를 나타낸다.
도 7d는 4X4 서브 블록 좌측의 화소를 나타낸다.
이하에서는 도면을 참조하여 본 발명의 바람직한 실시예들을 상세히 설명한다. 이하 설명 및 첨부된 도면들에서 실질적으로 동일한 구성요소들은 각각 동일한 부호들로 나타냄으로써 중복 설명을 생략하기로 한다. 또한 본 발명을 설명함에 있어 관련된 공지기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그에 대한 상세한 설명은 생략하기로 한다.
도 3은 본 발명의 일 실시예에 따른 인트라 예측 모드 결정 장치의 구성을 나타내는 블록도이다. 인트라 예측 모드 결정 장치는, 현재 매크로 블록 내의 소정 크기의 블록의 화소값의 분산을 계산하는 분산 계산부(310), 계산된 분산을 소정 임계값과 비교하여, 그 결과에 따라 16X16 예측 모드와 4X4 인트라 예측 모드로 인트라 예측을 수행하거나 4X4 인트라 예측 모드만으로 인트라 예측을 수행하는 인트라 예측 수행부(320), 인트라 예측 수행부(320)의 인트라 예측 수행 결과를 토대로 현재 매크로 블록에 대한 인트라 예측 모드를 결정하는 예측 모드 결정부(330)를 포함하여 이루어진다.
이하, 본 실시예에 따른 인트라 예측 모드 결정 장치의 구체적인 동작을 본 발명의 일 실시예에 따른 인트라 예측 모드 결정 방법의 흐름도를 나타내는 도 4를 함께 참조하여 설명한다.
우선, 분산 계산부(310)는 매크로 블록 내의 소정 크기의 블록의 화소값의 분산(V)을 계산한다(410단계). 예컨대, 도 5에 도시된 바와 같이, 16X16 매크로 블록 내의 가운데 8X8 블록(510)의 화소값의 분산을 계산한다. 여기서 물론 8X8 블록보다 크거나 작은 블록의 화소값의 분산을 계산하여도 무방하고, 매크로 블록 전체의 화소값의 분산을 계산하여도 무방하다. 블록 내의 화소값의 분산이 작다는 것은 화소값들이 전체적으로 유사하다는 것을 의미하고, 블록 내의 화소값의 분산이 크다는 것은 화소값의 분포가 넓다는 것을 의미한다. 따라서 화소값의 분산이 크다면 매크로 블록의 인트라 예측 모드는 16X16 인트라 예측 모드보다는 4X4 인트라 예측 모드가 최적의 인트라 예측 모드로 결정될 가능성이 높다고 할 수 있다.
인트라 예측 수행부(320)는 상기 8X8 블록의 화소값의 분산(V)이 미리 정하여진 소정 임계값(TH)보다 큰지 판단한다(420단계). 임계값(TH)은 당업자가 실험을 통하여 적절한 값으로 설정할 수 있다.
분산(V)이 임계값(TH)보다 큰 경우 인트라 예측 수행부(320)는 16X16 인트라 예측 모드에 대하여는 인트라 예측을 수행하지 않고, 4X4 인트라 예측 모드만으로 인트라 예측을 수행한다(440단계). 분산(V)이 임계값(TH)보다 크지 않은 경우에 인트라 예측 수행부(320)는 16X16 인트라 예측 모드와 4X4 인트라 예측 모드 모두로 인트라 예측을 수행한다(430단계). 그리고 예측 모드 결정부(330)는 인트라 예측 수행부(320)의 인트라 예측 수행 결과를 토대로 현재 매크로 블록에 대한 인트라 예측 모드를 결정한다(450단계).
구체적으로, 분산(V)이 임계값(TH)보다 크지 않다면, 인트라 예측 수행부(320)는 현재 매크로 블록을 4가지 16X16 인트라 예측 모드로 부호화하여 코스트를 계산하고, 현재 매크로 블록을 구성하는 16개의 4X4 서브 블록에 대하여 4X4 인트라 예측 모드로 부호화하여 각각의 서브 블록 별로 코스트가 가장 작은 예측 모드를 선택하고, 예측 모드 결정부(330)는 16X16 인트라 예측 모드의 코스트와 각각의 서브 블록들의 코스트를 합한 4X4 인트라 예측 모드의 코스트를 비교하여 최종적으로 코스트가 가장 작은 인트라 예측 모드를 선택한다.
만일 분산(V)이 임계값(TH)보다 크다면, 인트라 예측 수행부(320)는 현재 매크로 블록을 구성하는 16개의 4X4 서브 블록에 대하여 4X4 인트라 예측 모드로 부호화하여 각각의 서브 블록 별로 코스트가 가장 작은 예측 모드를 선택하고, 예측 모드 결정부(330)는 이렇게 선택된 각 서브 블록의 예측 모드를 최종 인트라 예측 모드로 결정한다.
이러한 본 실시예에 의하면, 분산(V)이 임계값(TH)보다 큰 경우 16X16 인트라 예측 모드에 대한 인트라 예측 연산이 제거되므로 연산량과 계산 시간이 대폭 줄어들게 된다.
또한 본 발명의 일 실시예에서, 인트라 예측 수행부(320)가 상기 430단계 및 상기 440단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 각 4X4 서브 블록에 대하여, 해당 4X4 서브 블록의 주변의 화소값의 분산과 해당 4X4 서브 블록의 내부의 화소값의 분산에 따라 4X4 인트라 예측 모드 중 일부의 예측 모드만으로 인트라 예측을 수행한다. 다시 말하면, 4X4 서브 블록에 대하여 9가지의 4X4 인트라 예측 모드 전부로 인트라 부호화를 수행하고 코스트를 계산하는 것이 아니라, 해당 4X4 서브 블록의 주변의 화소값의 분산과 내부의 화소값의 분산을 계산하여 그 값이 미리 정해진 특정 조건을 만족하느냐에 따라서 9가지의 4X4 인트라 예측 모드 중 일부의 예측 모드로만 인트라 부호화를 수행하고 코스트를 계산한다.
도 6은 이러한 4X4 인트라 예측 수행 과정을 구체적으로 나타내는 흐름도이다.
도 6을 참조하면, 우선 4X4 서브 블록 주변 화소값의 분산(V1)을 계산한다(610단계). 예컨대, 도 7a에 도시된 바와 같이 4X4 서브 블록 주변 화소값의 분산을 계산한다. 서브 블록 주변 화소값의 분산이 작다는 것은 주변 화소값들이 전체적으로 유사하다는 것을 의미하므로, 예측 모드에 따른 예측 블록의 차이가 거의 없고 어떠한 예측 모드가 결정되어도 코스트에 거의 차이가 없게 되기 때문에, 예측 모드를 어떤 것으로 하여도 무방하게 된다. 따라서 4X4 서브 블록 주변 화소값의 분산(V1)이 미리 정하여진 소정 제1 임계값(TH1)보다 작은지 판단하고(615단계), 그렇다면 해당 4X4 서브 블록의 예측 모드는 MPM(Most Probable Mode)로 결정한다(618단계). 여기서, MPM(Most Probable Mode)은 H.264 표준안에 설명된 바와 같이, 현재 4X4 서브 블록의 상측 및 좌측 블록 중에서 더 작은 코스트 값을 가지는 모드를 나타낸다. MPM으로 결정함으로써 다른 예측 모드로 결정할 때와 비교하여 3비트를 절약하는 효과를 가지게 된다.
4X4 서브 블록 주변 화소값의 분산(V1)이 제1 임계값(TH1)보다 작지 않다면, 4X4 서브 블록의 내부의 화소값의 분산(V2)을 계산한다(620단계). 예컨대, 도 7b에 도시된 바와 같이 4X4 서브 블록의 내부의 화소값의 분산을 계산한다. 블록 내부의 화소값의 분산이 작다는 것은 내부의 화소값들이 전체적으로 유사하다는 것을 의미하므로, DC 모드가 채택될 가능성이 높게 된다. 따라서 4X4 서브 블록의 내부의 화소값의 분산(V2)이 미리 정하여진 소정 제2 임계값(TH2)보다 작은지 판단하고(625단계), 그렇다면 해당 4X4 서브 블록의 예측 모드를 DC 모드로 결정한다(628단계).
4X4 서브 블록의 내부의 화소값의 분산(V2)이 제2 임계값(TH2)보다 작지 않다면, 4X4 서브 블록 상측의 화소값의 분산(V3)을 계산한다(630단계). 예컨대, 도 7c에 도시된 바와 같이 4X4 서브 블록 상측의 화소값의 분산을 계산한다. 블록 상측의 화소값의 분산이 작다는 것은 블록 상측의 화소값들이 전체적으로 유사하다는 것을 의미하므로, 도 2에서 블록 상측의 화소값을 주로 사용하는 예측 모드인 VERTICAL(모드 0), DIAGONAL DOWN-LEFT(모드 3), DIAGONAL DOWN-RIGHT(모드 4), VERTICAL-RIGHT(모드 5), VERTICAL-LEFT(모드 7)은 예측 블록의 차이가 적다. 따라서 이들 중 VERTICAL(모드 0) 모드를 대푯값으로 할 수 있다. 따라서 4X4 서브 블록의 상측의 화소값의 분산(V3)이 미리 정하여진 소정 제3 임계값(TH3)보다 작은지 판단하고(635단계), 그렇다면 VERTICAL(모드 0), HORIZONTAL(모드 1), HORIZONTAL-DOWN(모드 6), HORIZONTAL-UP(모드 8)을 예측 모드 후보 그룹으로 정한다(638단계). 그리고 예측 모드 후보 그룹에 포함된 예측 모드에 대하여 인트라 예측을 수행한다(660단계). 즉, 모드 0, 모드 1, 모드 6, 모드 8로 인트라 부호화를 수행하고 코스트를 계산한다. 그리고 이들 중 가장 코스트가 작은 모드를 해당 4X4 서브 블록의 예측 모드로 결정한다(670단계).
4X4 서브 블록 상측의 화소값의 분산(V3)이 제3 임계값(TH3)보다 작지 않다면, 4X4 서브 블록 좌측의 화소값의 분산(V4)을 계산한다(640단계). 예컨대, 도 7d에 도시된 바와 같이 4X4 서브 블록 좌측의 화소값의 분산을 계산한다. 블록 좌측의 화소값의 분산이 작다는 것은 블록 좌측의 화소값들이 전체적으로 유사하다는 것을 의미하므로, 도 2에서 블록 좌측의 화소값을 주로 사용하는 예측 모드인 HORIZONTAL(모드 1), DIAGONAL DOWN-LEFT(모드 4), HORIZONTAL-DOWN(모드 6), HORIZONTAL-UP(모드 8)은 예측 블록의 차이가 적다. 따라서 이들 중 HORIZONTAL(모드 1) 모드를 대푯값으로 할 수 있다. 따라서 4X4 서브 블록의 좌측의 화소값의 분산(V4)이 미리 정하여진 소정 제4 임계값(TH4)보다 작은지 판단하고(645단계), 그렇다면 VERTICAL(모드 0), HORIZONTAL(모드 1), VERTICAL-RIGHT(모드 5), VERTICAL-LEFT(모드 7)을 예측 모드 후보 그룹으로 정한다(648단계). 그리고 예측 모드 후보 그룹에 포함된 예측 모드에 대하여 인트라 예측을 수행한다(660단계). 즉, 모드 0, 모드 1, 모드 5, 모드 7로 인트라 부호화를 수행하고 코스트를 계산한다. 그리고 이들 중 가장 코스트가 작은 모드를 해당 4X4 서브 블록의 예측 모드로 결정한다(670단계).
4X4 서브 블록 좌측의 화소값의 분산(V4)이 제4 임계값(TH4)보다 작지 않다면, 모든 4x4 인트라 예측 모드에 대하여 인트라 예측을 수행한다(650단계). 즉, 모드 0 내지 8로 인트라 부호화를 수행하고 코스트를 계산한다. 그리고 이들 중 가장 코스트가 작은 모드를 해당 4X4 서브 블록의 예측 모드로 결정한다(670단계).
상술한 실시예에서 제1 임계값(TH1), 제2 임계값(TH2), 제3 임계값(TH3), 제4 임계값(TH4)은 각각 당업자가 실험을 통하여 적절한 값으로 설정할 수 있다.
상술한 본 발명의 실시예에 의하면, 4X4 서브 블록 주변 화소값의 분산(V1)이 제1 임계값(TH1)보다 작은 경우 모든 4X4 인트라 예측 모드에 대한 인트라 예측 연산이 제거된다. 또한, 4X4 서브 블록 내부의 화소값의 분산(V2)이 제2 임계값(TH2)보다 작은 경우 DC 모드 이외의 예측 모드에 대한 인트라 예측 연산이 제거된다. 또한, 4X4 서브 블록 상측의 화소값의 분산(V3)이 제3 임계값(V3)보다 작은 경우 모드 0, 모드 1, 모드 6, 모드 8 이외의 예측 모드에 대한 인트라 예측 연산이 제거된다. 또한, 4X4 서브 블록 좌측의 화소값의 분산(V4)이 제4 임계값(V4)보다 작은 경우 모드 0, 1, 5, 7 이외의 예측 모드에 대한 인트라 예측 연산이 제거된다. 그리고 매우 제한적인 경우에 한하여 650단계에서와 같이 모든 4X4 인트라 예측 모드에 대해서 인트라 예측 연산이 수행된다. 따라서 4X4 인트라 예측 모드로 인트라 예측을 수행하는 과정에서 연산량과 계산 시간을 현저히 줄일 수 있다.
한편, 상술한 본 발명의 실시예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드 디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등)와 같은 저장매체를 포함한다.
이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

Claims (17)

  1. (a) 매크로 블록 내의 소정 크기의 블록의 화소값의 분산을 계산하는 단계;
    (b) 상기 계산된 분산을 소정 임계값과 비교하여, 그 결과에 따라 16X16 예측 모드와 4X4 인트라 예측 모드로 인트라 예측을 수행하거나 4X4 인트라 예측 모드만으로 인트라 예측을 수행하는 단계; 및
    (c) 상기 인트라 예측 수행 결과를 토대로 인트라 예측 모드를 결정하는 단계를 포함하고,
    상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서,
    4X4 서브 블록의 주변의 화소값의 분산을 소정 제1 임계값과 비교한 결과, 상기 4X4 서브 블록의 내부의 화소값의 분산을 소정 제2 임계값과 비교한 결과, 상기 4X4 서브 블록의 상측의 화소값의 분산을 소정 제3 임계값과 비교한 결과, 및 상기 4X4 서브 블록의 좌측의 화소값의 분산을 소정 제4 임계값과 비교한 결과에 따라 4X4 인트라 예측 모드 중 일부의 예측 모드만으로 인트라 예측을 수행하는 것을 특징으로 하는 인트라 예측 모드 결정 방법.
  2. 제1항에 있어서,
    상기 소정 크기의 블록은 상기 매크로 블록 내의 8X8 블록인 것을 특징으로 하는 인트라 예측 모드 결정 방법.
  3. 제1항에 있어서,
    상기 (b) 단계는, 상기 계산된 분산이 상기 소정 임계값보다 큰 경우 4X4 인트라 예측 모드만으로 인트라 예측을 수행하는 것을 특징으로 하는 인트라 예측 모드 결정 방법.
  4. 삭제
  5. 제1항에 있어서,
    상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서,
    상기 4X4 서브 블록의 주변의 화소값의 분산이 상기 소정 제1 임계값보다 작은 경우 상기 4X4 서브 블록의 예측 모드를 MPM(most probable mode)으로 결정하는 것을 특징으로 하는 인트라 예측 모드 결정 방법.
  6. 제1항에 있어서,
    상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서,
    상기 4X4 서브 블록의 내부의 화소값의 분산이 상기 소정 제2 임계값보다 작은 경우 상기 4X4 서브 블록의 예측 모드를 DC(Direct Current) 모드로 결정하는 것을 특징으로 하는 인트라 예측 모드 결정 방법.
  7. 제1항에 있어서,
    상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서,
    상기 4X4 서브 블록의 상측의 화소값의 분산이 상기 소정 제3 임계값보다 작은 경우 상기 4X4 서브 블록에 대하여 VERTICAL(모드 0), HORIZONTAL(모드 1), HORIZONTAL-DOWN(모드 6), HORIZONTAL-UP(모드 8) 모드에 대하여만 인트라 예측을 수행하는 것을 특징으로 하는 인트라 예측 모드 결정 방법.
  8. 제1항에 있어서,
    상기 (b) 단계에서 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서,
    상기 4X4 서브 블록의 좌측의 화소값의 분산이 상기 소정 제4 임계값보다 작은 경우 상기 4X4 서브 블록에 대하여 VERTICAL(모드 0), HORIZONTAL(모드 1), VERTICAL-RIGHT(모드 5), VERTICAL-LEFT(모드 7) 모드에 대하여만 인트라 예측을 수행하는 것을 특징으로 하는 인트라 예측 모드 결정 방법.
  9. 매크로 블록 내의 소정 크기의 블록의 화소값의 분산을 계산하는 분산 계산부;
    상기 계산된 분산을 소정 임계값과 비교하여, 그 결과에 따라 16X16 예측 모드와 4X4 인트라 예측 모드로 인트라 예측을 수행하거나 4X4 인트라 예측 모드만으로 인트라 예측을 수행하는 인트라 예측 수행부; 및
    상기 인트라 예측 수행 결과를 토대로 인트라 예측 모드를 결정하는 예측 모드 결정부를 포함하고,
    상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 4X4 서브 블록의 주변의 화소값의 분산을 소정 제1 임계값과 비교한 결과, 상기 4X4 서브 블록의 내부의 화소값의 분산을 소정 제2 임계값과 비교한 결과, 상기 4X4 서브 블록의 상측의 화소값의 분산을 소정 제3 임계값과 비교한 결과, 및 상기 4X4 서브 블록의 좌측의 화소값의 분산을 소정 제4 임계값과 비교한 결과에 따라 4X4 인트라 예측 모드 중 일부의 예측 모드만으로 인트라 예측을 수행하는 것을 특징으로 하는 인트라 예측 모드 결정 장치.
  10. 제9항에 있어서,
    상기 소정 크기의 블록은 상기 매크로 블록 내의 8X8 블록인 것을 특징으로 하는 인트라 예측 모드 결정 장치.
  11. 제9항에 있어서,
    상기 인트라 예측 수행부는, 상기 계산된 분산이 상기 소정 임계값보다 큰 경우 4X4 인트라 예측 모드만으로 인트라 예측을 수행하는 것을 특징으로 하는 인트라 예측 모드 결정 장치.
  12. 삭제
  13. 제9항에 있어서,
    상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 주변의 화소값의 분산이 상기 소정 제1 임계값보다 작은 경우 상기 4X4 서브 블록의 예측 모드를 MPM(most probable mode)으로 결정하는 것을 특징으로 하는 인트라 예측 모드 결정 장치.
  14. 제9항에 있어서,
    상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 내부의 화소값의 분산이 상기 소정 제2 임계값보다 작은 경우 상기 4X4 서브 블록의 예측 모드를 DC(Direct Current) 모드로 결정하는 것을 특징으로 하는 인트라 예측 모드 결정 장치.
  15. 제9항에 있어서,
    상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 상측의 화소값의 분산이 상기 소정 제4 임계값보다 작은 경우 상기 4X4 서브 블록에 대하여 VERTICAL(모드 0), HORIZONTAL(모드 1), HORIZONTAL-DOWN(모드 6), HORIZONTAL-UP(모드 8) 모드에 대하여만 인트라 예측을 수행하는 것을 특징으로 하는 인트라 예측 모드 결정 장치.
  16. 제9항에 있어서,
    상기 인트라 예측 수행부는, 4X4 인트라 예측 모드로 인트라 예측을 수행함에 있어서, 상기 4X4 서브 블록의 좌측의 화소값의 분산이 상기 소정 제4 임계값보다 작은 경우 상기 4X4 서브 블록에 대하여 VERTICAL(모드 0), HORIZONTAL(모드 1), VERTICAL-RIGHT(모드 5), VERTICAL-LEFT(모드 7) 모드에 대하여만 인트라 예측을 수행하는 것을 특징으로 하는 인트라 예측 모드 결정 장치.
  17. 제1항 내지 3항, 제5항 내지 제8항 중 어느 한 항에 기재된 인트라 예측 모드 결정 방법을 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체.

KR1020110011094A 2011-02-08 2011-02-08 인트라 예측 모드 결정 방법 및 장치 KR101246119B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020110011094A KR101246119B1 (ko) 2011-02-08 2011-02-08 인트라 예측 모드 결정 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110011094A KR101246119B1 (ko) 2011-02-08 2011-02-08 인트라 예측 모드 결정 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20120090584A KR20120090584A (ko) 2012-08-17
KR101246119B1 true KR101246119B1 (ko) 2013-03-21

Family

ID=46883623

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110011094A KR101246119B1 (ko) 2011-02-08 2011-02-08 인트라 예측 모드 결정 방법 및 장치

Country Status (1)

Country Link
KR (1) KR101246119B1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101654963B1 (ko) * 2013-02-27 2016-09-06 단국대학교 산학협력단 화면내 예측 부호화 방법 및 이를 수행하는 영상 부호화 장치
KR102213147B1 (ko) * 2014-12-12 2021-02-05 현대자동차주식회사 영상 처리 방법 및 이를 지원하는 차량
CN113612992B (zh) * 2021-07-01 2023-11-03 杭州未名信科科技有限公司 一种针对avs3硬件编码器的快速帧内编码单元的编码方法
JP7392764B2 (ja) * 2022-05-16 2023-12-06 日本電気株式会社 映像符号化装置、映像符号化方法および映像システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060092813A (ko) * 2004-06-27 2006-08-23 애플 컴퓨터, 인크. 비디오 데이터의 인코딩을 위한 인코딩 유형 및 예측 모드선택
KR20090108499A (ko) * 2008-04-11 2009-10-15 에스케이 텔레콤주식회사 인트라 예측 모드 결정 방법 및 그 장치와 이를 이용한영상 부호화/복호화 방법 및 그 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060092813A (ko) * 2004-06-27 2006-08-23 애플 컴퓨터, 인크. 비디오 데이터의 인코딩을 위한 인코딩 유형 및 예측 모드선택
KR20090108499A (ko) * 2008-04-11 2009-10-15 에스케이 텔레콤주식회사 인트라 예측 모드 결정 방법 및 그 장치와 이를 이용한영상 부호화/복호화 방법 및 그 장치

Also Published As

Publication number Publication date
KR20120090584A (ko) 2012-08-17

Similar Documents

Publication Publication Date Title
KR102409443B1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
KR102412271B1 (ko) 인루프 필터링을 적용한 예측 방법을 이용한 영상 부호화/복호화 방법 및 장치
KR100739714B1 (ko) 인트라 예측 모드 결정 방법 및 장치
KR101211665B1 (ko) 영상의 인트라 예측 부호화, 복호화 방법 및 장치
US8711935B2 (en) Apparatus and method for image encoding/decoding using predictability of intra-prediction mode
KR20210136949A (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
KR100667808B1 (ko) 영상의 인트라 예측 부호화, 복호화 방법 및 장치
US9503725B2 (en) Method and apparatus for encoding/decoding image for performing intraprediction using pixel value filtered according to prediction mode
KR20110018188A (ko) 영상의 부호화 방법 및 장치, 영상 복호화 방법 및 장치
KR20110018189A (ko) 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치
KR100727990B1 (ko) 영상의 인트라 예측 부호화 방법 및 그 방법을 사용하는부호화 장치
KR20110111854A (ko) 영상 부호화 단위에 대한 인트라 예측 모드 결정 방법 및 장치, 및 영상 복호화 단위에 대한 인트라 예측 모드 결정 방법 및 장치
KR20130002297A (ko) 영상의 인트라 예측 부호화, 복호화 방법 및 장치
KR20130085392A (ko) 인트라 예측 처리 속도 향상을 위한 비디오의 부호화 방법 및 장치, 비디오의 복호화 방법 및 장치
KR101246119B1 (ko) 인트라 예측 모드 결정 방법 및 장치
WO2008056931A1 (en) Method and apparatus for encoding and decoding based on intra prediction
KR101373670B1 (ko) 인트라 예측 방법 및 장치
KR101475286B1 (ko) 인트라 예측 방법 및 장치, 그리고 영상 처리 장치
KR101375699B1 (ko) 인트라 예측 방법 및 장치
KR101226498B1 (ko) 인트라 예측 부호화 장치 및 방법, 인트라 예측 복호화 장치 및 방법
KR101247781B1 (ko) 부호화기 및 분산값 기반의 인트라 모드 결정 방법
KR20120047081A (ko) 방향성에 따라 처리 순서를 조정하는 영상 처리 방법 및 장치
KR100919312B1 (ko) 인트라 예측 방법 및 장치
KR101624660B1 (ko) 영상의 복호화 방법 및 장치
KR101618764B1 (ko) 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160202

Year of fee payment: 4

LAPS Lapse due to unpaid annual fee