KR20240068078A - 모드-인식 딥 러닝을 갖는 필터링을 위한 방법 및 장치 - Google Patents

Abstract

아티팩트들을 감소시키기 위한 루프 내 필터링을 위해 비디오 압축에서 딥 러닝이 사용될 수 있다. 필터링에 사용되는 콘벌루셔널 신경 네트워크(CNN)의 성능을 개선하기 위해, 초기 재구성된 이미지에 추가로 인코더 또는 디코더로부터 이용가능한 정보가 또한 콘벌루셔널 신경 네트워크에 대한 입력으로서 사용될 수 있다. 일 실시예에서, QP, 블록 경계 정보 및 예측 이미지가 입력의 추가적인 채널들로서 사용될 수 있다. 경계 정보는 블로킹 아티팩트들이 어디에 있는지를 CNN이 이해하도록 도울 수 있고, 따라서 네트워크가 파라미터들을 소비하여 블로킹 아티팩트들을 찾을 필요가 없기 때문에 CNN을 개선할 수 있다. QP 또는 예측 블록은 또한 CNN에 더 많은 정보를 제공한다. 이러한 콘벌루셔널 신경 네트워크는 모든 루프 내 필터들을 대체할 수 있거나 또는 압축 아티팩트들을 더 효과적으로 제거하기 위해 다른 루프 내 필터들과 함께 작동할 수 있다.

Description

모드-인식 딥 러닝을 갖는 필터링을 위한 방법 및 장치{METHOD AND APPARATUS FOR FILTERING WITH MODE-AWARE DEEP LEARNING}

본 실시예들은 일반적으로 비디오 인코딩 및 디코딩을 위한 방법 및 장치에 관한 것이고, 더 상세하게는 비디오 인코딩 및 디코딩에서 모드-인식 신경 네트워크를 갖는 필터링을 위한 방법 및 장치에 관한 것이다.

높은 압축 효율을 달성하기 위해, 이미지 및 비디오 코딩 방식들은 통상적으로 비디오 콘텐츠에서 공간적 및 시간적 리던던시를 레버리지하기 위해 예측 및 변환을 이용한다. 일반적으로, 인트라 또는 인터 프레임 상관을 활용하기 위해 인트라 또는 인터 예측이 사용되며, 이어서, 예측 에러들 또는 예측 잔차들로 종종 표시되는 원래의 이미지 블록과 예측된 이미지 블록 사이의 차이들은 변환, 양자화 및 엔트로피 코딩된다. 비디오를 재구성하기 위해, 압축된 데이터는 예측, 변환, 양자화 및 엔트로피 코딩에 대응하는 역 프로세스들에 의해 디코딩된다. 아티팩트들을 감소시키기 위해, 루프 내 필터링이 사용될 수 있다.

일반적인 양태에 따르면, 비디오의 픽처의 이미지 블록의 제1 재구성된 버전에 액세스하는 단계; 및 상기 이미지 블록의 제2 재구성된 버전을 형성하기 위해 신경 네트워크에 의해 상기 이미지 블록의 상기 제1 재구성된 버전을 필터링하는 단계를 포함하고, 상기 신경 네트워크는 (1) 상기 이미지 블록에 대한 적어도 양자화 파라미터에 기초한 정보, (2) 상기 이미지 블록 내의 샘플들에 대한 블록 경계 정보, 및 (3) 상기 이미지 블록에 대한 예측 샘플들 중 적어도 하나에 응답하는, 비디오 인코딩을 위한 방법이 제시된다.

다른 일반적인 양태에 따르면, 인코딩된 비디오의 픽처의 이미지 블록의 제1 재구성된 버전에 액세스하는 단계; 및 상기 이미지 블록의 제2 재구성된 버전을 형성하기 위해 신경 네트워크에 의해 상기 이미지 블록의 상기 제1 재구성된 버전을 필터링하는 단계를 포함하고, 상기 신경 네트워크는 (1) 상기 이미지 블록에 대한 적어도 양자화 파라미터에 기초한 정보, (2) 상기 이미지 블록 내의 샘플들에 대한 블록 경계 정보, 및 (3) 상기 이미지 블록에 대한 예측 샘플들 중 적어도 하나에 응답하는, 비디오 디코딩을 위한 방법이 제시된다.

다른 일반적인 양태에 따르면, 적어도 메모리 및 하나 이상의 프로세서들을 포함하는 비디오 인코딩을 위한 장치로서, 상기 하나 이상의 프로세서들은, 비디오의 픽처의 이미지 블록의 제1 재구성된 버전에 액세스하고; 상기 이미지 블록의 제2 재구성된 버전을 형성하기 위해 신경 네트워크에 의해 상기 이미지 블록의 상기 제1 재구성된 버전을 필터링하도록 구성되고, 상기 신경 네트워크는 (1) 상기 이미지 블록에 대한 적어도 양자화 파라미터에 기초한 정보, (2) 상기 이미지 블록 내의 샘플들에 대한 블록 경계 정보, 및 (3) 상기 이미지 블록에 대한 예측 샘플들 중 적어도 하나에 응답한다.

다른 일반적인 양태에 따르면, 적어도 메모리 및 하나 이상의 프로세서들을 포함하는 비디오 디코딩을 위한 장치가 제시되고, 상기 하나 이상의 프로세서들은, 인코딩된 비디오의 픽처의 이미지 블록의 제1 재구성된 버전에 액세스하고; 상기 이미지 블록의 제2 재구성된 버전을 형성하기 위해 신경 네트워크에 의해 상기 이미지 블록의 상기 제1 재구성된 버전을 필터링하도록 구성되고, 상기 신경 네트워크는 (1) 상기 이미지 블록에 대한 적어도 양자화 파라미터에 기초한 정보, (2) 상기 이미지 블록 내의 샘플들에 대한 블록 경계 정보, 및 (3) 상기 이미지 블록에 대한 예측 샘플들 중 적어도 하나에 응답한다.

일 실시예에서, 상기 신경 네트워크는 콘벌루셔널 신경 네트워크이다. 상기 신경 네트워크는 잔차 학습에 기초할 수 있다.

상기 블록 경계 정보를 상기 신경 네트워크에 대한 입력으로서 사용하기 위해, 상기 이미지 블록과 동일한 크기를 갖는 데이터 어레이가 형성될 수 있고, 상기 데이터 어레이 내의 각각의 샘플은 상기 이미지 블록 내의 대응하는 샘플이 블록 경계에 있는지 여부를 표시한다.

적어도 양자화 파라미터에 기초하여 상기 정보를 사용하기 위해, 상기 이미지 블록과 동일한 크기를 갖는 데이터 어레이가 형성될 수 있고, 상기 데이터 어레이 내의 각각의 샘플은 상기 이미지 블록에 대한 상기 적어도 양자화 파라미터와 연관된다. 적어도 양자화 파라미터에 기초한 상기 정보는 양자화 단계 크기일 수 있다.

일 실시예에서, 상기 신경 네트워크는 (1) 상기 이미지 블록의 예측 잔차들 및 (2) 적어도 상기 이미지 블록의 인트라 예측 모드 중 하나 이상에 추가로 응답한다.

상기 신경 네트워크는 전술된 바와 같이 입력으로서 정보의 상이한 채널들에 응답할 수 있는 한편, 상기 신경 네트워크에 대한 입력의 하나 이상의 채널들은 상기 신경 네트워크의 중간 계층에 대한 입력으로서 사용될 수 있다.

일 실시예에서, 상기 이미지 블록의 상기 제1 재구성된 버전은 상기 이미지 블록에 대한 상기 예측 샘플들 및 예측 잔차에 기초할 수 있다. 상기 이미지 블록의 상기 제2 재구성된 버전은 인트라 또는 인터 예측을 위해 다른 이미지 블록을 예측하기 위해 사용될 수 있다.

인코딩 또는 디코딩할 때, 상기 이미지 블록은 코딩 유닛(CU), 코딩 블록(CB) 또는 코딩 트리 유닛(CTU)에 대응할 수 있다.

다른 일반적인 양태에 따르면, 비디오 신호는, 이미지 블록과 상기 이미지 블록의 예측 샘플들 사이의 예측 잔차들을 포함하도록 포맷되고; 이미지 블록의 제1 재구성된 버전은 상기 예측 샘플들 및 상기 예측 잔차들에 기초하고, 상기 이미지 블록의 상기 제1 재구성된 버전은 상기 이미지 블록의 제2 재구성된 버전을 형성하기 위해 신경 네트워크에 의해 필터링되고, 상기 신경 네트워크는 (1) 상기 이미지 블록에 대한 적어도 양자화 파라미터, (2) 상기 이미지 블록 내의 샘플들에 대한 블록 경계 정보, 및 (3) 상기 이미지 블록에 대한 상기 예측 샘플들 중 적어도 하나에 응답한다.

본 실시예들은 전술된 방법들에 따라 비디오 데이터를 인코딩 또는 디코딩하기 위한 명령어들이 저장된 컴퓨터 판독가능 저장 매체를 또한 제공한다. 본 실시예들은 전술된 방법들에 따라 생성된 비트스트림이 저장된 컴퓨터 판독가능 저장 매체를 또한 제공한다. 본 실시예들은 앞서 설명된 방법들에 따라 생성된 비트스트림을 송신하기 위한 방법 및 장치를 또한 제공한다.

도 1은 예시적인 HEVC(High Efficiency Video Coding) 비디오 인코더의 블록도를 예시한다.
도 2는 예시적인 HEVC 비디오 디코더의 블록도를 예시한다.
도 3은 JEM 6.0에서 사용되는 4개의 루프 내 필터들을 예시한다.
도 4는 예시적인 CNN(Convolutional Neural Network)을 예시한다.
도 5는 HEVC에 대한 포스트-프로세싱 필터로서 설계된 가변 필터 크기 잔차 학습 CNN(VRCNN)을 예시한다.
도 6a, 도 6b 및 도 6c는 루프 내 필터로서 CNN을 사용한 트레이닝 프로세스, 인코딩 프로세스 및 디코딩 프로세스를 각각 예시한다.
도 7은 일 실시예에 따라 경계 이미지를 생성하기 위한 예시적인 방법을 예시한다.
도 8a는 예시적인 이미지에서 예시적인 파티션 프론티어(frontier)들을 예시하고, 도 8b는 대응하는 경계 이미지를 예시하고, 도 8c는 CTU의 예시적인 CU 파티션들을 예시하고, 도 8d는 대응하는 QP(Quantization Parameter) 이미지 영역을 예시한다.
도 9a, 도 9b 및 도 9c는 일 실시예에 따라, 루프 내 필터로서 모드-인식 CNN을 사용한 트레이닝 프로세스, 인코딩 프로세스 및 디코딩 프로세스를 각각 예시한다.
도 10은 예시적인 실시예들의 다양한 양태들이 구현될 수 있는 예시적인 시스템의 블록도를 예시한다.

도 1은 예시적인 HEVC 인코더(100)를 예시한다. 하나 이상의 픽처들을 갖는 비디오 시퀀스를 인코딩하기 위해, 픽처는 하나 이상의 슬라이스들로 파티셔닝되고, 각각의 슬라이스는 하나 이상의 슬라이스 세그먼트들을 포함할 수 있다. 슬라이스 세그먼트는 코딩 유닛들, 예측 유닛들 및 변환 유닛들로 체계화된다.

본 출원에서, 용어들 "재구성된" 및 "디코딩된"은 상호교환가능하게 사용될 수 있고, 용어들 "이미지", "픽처" 및 "프레임"은 상호교환가능하게 사용될 수 있다. 필수적은 아니지만 통상적으로, 용어 "재구성된"은 인코더 측에서 사용되는 한편, "디코딩된"은 디코더 측에서 사용된다.

HEVC 규격은 "블록들"과 "유닛들" 사이를 구별하며, 여기서 "블록"은 샘플 어레이의 특정 영역(예를 들어, 루마, Y)을 처리하고, "유닛"은 모든 인코딩된 컬러 성분들(Y, Cb, Cr, 또는 단색)의 병치된 블록들, 및 블록들과 연관된 신택스 요소들 및 예측 데이터(예를 들어, 모션 벡터들)를 포함한다.

코딩의 경우, 픽처는 구성가능한 크기를 갖는 사각형 형상의 코딩 트리 블록들(CTB)로 파티셔닝되고, 코딩 트리 블록들의 연속적 세트는 슬라이스로 그룹화된다. 코딩 트리 유닛(CTU)은 인코딩된 컬러 성분들의 CTB들을 포함한다. CTB는 코딩 블록들(CB)로의 파티셔닝하는 쿼드트리(quadtree)의 루트이고, 코딩 블록은 하나 이상의 예측 블록들(PB)로 파티셔닝될 수 있고, 변환 블록들(TB들)로 파티셔닝하는 쿼드트리의 루트를 형성한다. 코딩 블록, 예측 블록 및 변환 블록에 대응하여, 코딩 유닛(CU)은 예측 유닛들(PU들) 및 변환 유닛들(TU들)의 트리-구조화된 세트를 포함하고, PU는 모든 컬러 성분들에 대한 예측 정보를 포함하고, TU는 각각의 컬러 성분에 대한 잔여 코딩 신택스 구조를 포함한다. 루마 성분의 CB, PB 및 TB의 크기는 대응하는 CU, PU 및 TU에 적용된다. 본 출원에서, 용어 "블록"은 CTU, CU, PU, TU, CB, PB 및 TB 중 임의의 것을 지칭하도록 사용될 수 있다. 또한, "블록"은 H.264/AVC 또는 다른 비디오 코딩 표준들에서 특정된 바와 같이 매크로블록 및 파티션을 지칭하기 위해, 그리고 더 일반적으로는 다양한 크기들의 데이터의 어레이를 지칭하기 위해 또한 사용될 수 있다.

예시적인 인코더(100)에서, 픽처는 아래에서 설명되는 바와 같이 인코더 요소들에 의해 인코딩된다. 인코딩될 픽처는 CU들의 단위들로 프로세싱된다. 각각의 CU는 인트라 또는 인터 모드를 사용하여 인코딩된다. CU가 인트라 모드에서 인코딩되는 경우, 인트라 예측(160)을 수행한다. 인터 모드에서, 모션 추정(175) 및 보상(170)이 수행된다. 인코더는, CU를 인코딩하기 위해 인트라 모드 또는 인터 모드 중 어느 것을 사용할지를 결정하고(105), 예측 모드 플래그에 의해 인트라/인터 결정을 표시한다. 예측 잔차들은 원래의 이미지 블록으로부터 예측된 블록을 감산(110)함으로써 계산된다.

공간 리던던시를 활용하기 위해, 인트라 모드의 CU들은 동일한 슬라이스 내의 재구성된 이웃 샘플들로부터 예측된다. 현재 CU의 인코딩/디코딩이 고려될 때 캐주얼 이웃 CU들은 이미 인코딩/디코딩되었다. 미스매치를 회피하기 위해, 인코더 및 디코더는 동일한 예측을 갖는다. 따라서, 인코더 및 디코더 둘 모두는 현재 CU에 대한 예측을 형성하기 위해 재구성된/디코딩된 이웃 캐주얼 CU들로부터의 정보를 사용한다.

35개의 인트라 예측 모드들의 세트는 평면형(0으로 인덱싱됨), DC(1로 인덱싱됨) 및 33개의 각도 예측 모드들(2 내지 34로 인덱싱됨)을 포함하는 HEVC에서 이용가능하다. 인트라 예측 기준은 현재 블록에 인접한 행 및 열로부터 재구성된다. 기준은 이전에 재구성된 블록들로부터 이용가능한 샘플들을 사용하여 수평 및 수직 방향에서 블록 크기 2배에 걸쳐 연장될 수 있다. 인트라 예측에 대해 각도 예측 모드가 사용되는 경우, 기준 샘플들은 각도 예측 모드에 의해 표시된 방향을 따라 카피될 수 있다.

인터 CU의 경우, 대응하는 코딩 블록은 하나 이상의 예측 블록들로 추가로 파티셔닝된다. 인터 예측은 PB 레벨에서 수행되고, 대응하는 PU는 인터 예측이 어떻게 수행되는지에 대한 정보를 포함한다. 모션 정보(즉, 모션 벡터 및 기준 픽처 인덱스)는 2개의 방법들, 즉, "병합 모드" 및 "진보된 모션 벡터 예측(AMVP)"에서 시그널링될 수 있다.

병합 모드에서, 비디오 인코더 또는 디코더는 이미 코딩된 블록들에 기초하여 후보 리스트를 어셈블하고, 비디오 인코더는 후보 리스트에서 후보들 중 하나에 대한 인덱스를 시그널링한다. 디코더 측에서, 모션 벡터(MV) 및 기준 픽처 인덱스는 시그널링된 후보에 기초하여 재구성된다.

AMVP에서, 비디오 인코더 또는 디코더는 이미 코딩된 블록들로부터 결정된 모션 벡터들에 기초하여 후보 리스트들을 어셈블한다. 이어서, 비디오 인코더는 모션 벡터 예측자(MVP)를 식별하고 모션 벡터 차이(MVD)를 시그널링하기 위해 후보 리스트로 인덱스를 시그널링한다. 디코더 측에서, 모션 벡터(MV)는 MVP+MVD로서 재구성된다. 적용가능한 기준 픽처 인덱스는 또한 AMVP에 대한 PU 신택스에서 명시적으로 코딩된다.

이어서, 예측 잔차들은 변환되고(125) 양자화된다(130). 양자화된 변환 계수들 뿐만 아니라 모션 벡터들 및 다른 신택스 요소들은 비트스트림을 출력하도록 엔트로피 코딩된다(145). 인코더는 또한 변환을 스킵하고, 4x4 TU 기반으로 비-변환된 잔여 신호에 직접 양자화를 적용할 수 있다. 인코더는 또한 변환 및 양자화 둘 모두를 우회할 수 있는데, 즉, 잔차는 변환 또는 양자화 프로세스의 적용 없이 직접 코딩된다. 직접 PCM 코딩에서, 어떠한 예측도 적용되지 않고, 코딩 유닛 샘플들은 비트스트림으로 직접 코딩된다.

인코더는 추가적 예측들을 위한 기준을 제공하기 위해 인코딩된 블록을 디코딩한다. 예측 잔차들을 디코딩하기 위해, 양자화된 변환 계수들은 역양자화되고(140) 역변환된다(150). 디코딩된 예측 잔차들 및 예측된 블록을 결합하면(155), 이미지 블록이 재구성된다. 루프 내 필터들(165)은, 예를 들어, 인코딩 아티팩트들을 감소시키기 위한 디블로킹/SAO(Sample Adaptive Offset) 필터링을 수행하기 위해, 재구성된 픽처에 적용된다. 필터링된 이미지는 기준 픽처 버퍼(180)에 저장된다.

도 2는 예시적인 HEVC 비디오 디코더(200)의 블록도를 예시한다. 예시적인 디코더(200)에서, 비트스트림은 아래에서 설명되는 바와 같이 디코더 요소들에 의해 디코딩된다. 비디오 디코더(200)는 일반적으로 도 1에 설명된 바와 같은 인코딩 패스(pass)에 대해 역인 디코딩 패스를 수행하며, 이는 인코딩 비디오 데이터의 일부로서 비디오 디코딩을 수행한다.

특히, 디코더의 입력은 비디오 인코더(100)에 의해 생성될 수 있는 비디오 비트스트림을 포함한다. 비트스트림은, 변환 계수들, 모션 벡터들 및 다른 코딩된 정보를 획득하기 위해 먼저 엔트로피 디코딩된다(230). 예측 잔차들을 디코딩하기 위해, 변환 계수들은 역양자화되고(240) 역변환된다(250). 디코딩된 예측 잔차들 및 예측된 블록을 결합하면(255), 이미지 블록이 재구성된다. 예측된 블록은 인트라 예측(260) 또는 모션-보상된 예측(즉, 인터 예측)(275)으로부터 획득될 수 있다(270). 앞서 설명된 바와 같이, AMVP 및 병합 모드 기술들은 모션 보상을 위한 모션 벡터들을 유도하기 위해 사용될 수 있고, 이는 기준 블록의 서브-정수 샘플들에 대한 보간된 값들을 계산하기 위해 보간 필터들을 사용할 수 있다. 루프 내 필터들(265)은 재구성된 이미지에 대해 적용된다. 필터링된 이미지는 기준 픽처 버퍼(280)에 저장된다.

HEVC에 대해 전술된 바와 같이, 디블로킹 및 SAO 필터들은 인코딩 아티팩트들을 감소시키기 위해 루프 내 필터들로서 사용된다. 비디오 압축에 대해 더 일반적으로, 루프 내 필터링을 위해 다른 필터들이 사용될 수 있다. 예를 들어, JVET(Joint Video Exploration Team)에 의해 개발된 현재 JEM 6.0(Joint Exploration Model 6.0)에 대한 도 3에 도시된 바와 같이, 4개의 필터들, 즉, 양방향 필터(BLF), 디블로킹 필터(DBF), SAO 및 ALF(Adaptive Loop Filter)가 연속적으로 적용된다. 이러한 상이한 필터들은 일반적으로, (1) 샘플 분석 및 픽셀 분류 및 (2) 클래스-의존적 필터링에 기초한다.

표기의 편의를 위해, 인코더에 대한 입력 이미지를 S 로, 루프 내 필터링에 대한 입력을 로, 그리고 루프 내 필터링의 출력을 로 지칭한다. 는 또한 이미지의 초기 재구성 또는 초기 재구성된 버전으로 지칭될 수 있다. 도 3에 도시된 바와 같이, 루프 내 필터링에 대한 입력은 예측된 샘플들과 디코딩된 예측 잔차들의 합산이다. 특정 블록들에 대해, 예측 잔차들이 제로이거나 존재하지 않을 때(예를 들어, 스킵 모드), 루프 내 필터링에 대한 입력은 직접적으로, 예측된 샘플들이다.

현재 JEM에서, 양방향 필터는 디블로킹 필터 이전에, 재구성된 샘플들 에 적용된다. BLF는 이웃 샘플들에 대한 거리 뿐만 아니라 이들의 값들을 필터 가중치들의 기초로 함으로써 작용한다. 초기 재구성된 픽처 내의 각각의 샘플은 그 자신의 가중된 평균 및 그의 이웃들로 대체된다. 가중치들은 중심 샘플들로부터의 거리 뿐만 아니라 샘플 값들에서의 차이에 기초하여 계산된다. 필터가 작은 플러스 부호의 형상이기 때문에(즉, 필터는 4개의 이웃 샘플들을 사용함), 거리들 모두는 0 또는 1이다.

(i, j)에 위치된 샘플은 그의 이웃 샘플들을 사용하여 필터링될 것이다. 가중치 w(i, j, k, l)는 현재 샘플 (i, j)를 필터링하기 위해 이웃 샘플 (k, l)에 할당된 가중치이고, 다음과 같이 정의되며:

여기서 I(i, j) 및 I(k, l)는 각각 초기 재구성 에서 샘플들 (i, j) 및 (k, l)의 세기 값들이고, 는 공간 파라미터이고, 는 범위 파라미터이다. 양방향 필터의 속성들(또는 강도)는 파라미터들 및 에 의해 제어된다. JEM 6.0에서, 는 변환 유닛 크기 및 예측 모드에 의존하여 설정되고, 는 현재 블록에 대해 사용된 QP에 기초하여 설정된다.

출력 필터링된 샘플 값 I_F(i,j)는 다음과 같이 계산된다:

제안된 양방향 필터는, 각각의 CU에, 또는 CU가 인코더 및 디코더 둘 모두에서 16x16보다 큰 경우 최대 크기 16x16의 블록들에 적용된다. JEM 6.0에서, 양방향 필터는 인코더 측에서 RDO(Rate-Distortion Optimization) 루프 내부에서 수행된다. 따라서, 필터링된 블록들은 또한 후속 블록들을 예측하기 위해 사용될 수 있다(인트라 예측).

ALF는 기본적으로, L2 왜곡을 최소화하도록 선형 필터들(1D 또는 2D)을 설계하는 것, 즉, 필터링된 샘플들과 기준 샘플들(일반적으로 원래의 샘플들) 사이의 제곱 에러를 최소화하는 것을 목적으로 하는 위너 필터(Wiener filter)에 기초하여 설계된다. JEM에서, 블록 기반 필터 적응을 갖는 ALF가 적용된다. 루마 성분의 경우, 신호의 방향 및 활동에 기초하여 각각의 2x2 블록에 대해 25개의 필터들 중 하나가 선택된다.

최대 3개의 원형 대칭 필터 형상들이 루마 성분에 대해 지원된다. 픽처의 루마 성분에 대해 사용되는 필터 형상을 표시하기 위해 픽처 레벨에서 인덱스가 시그널링된다. 픽처 내의 크로마 성분들의 경우, 5x5 다이아몬드 형상 필터가 항상 사용된다.

블록 분류는 각각의 2x2 블록에 적용되고, 이는 로컬 신호 분석(그래디언트들, 방향성)에 기초하여 25개 클래스들 중 하나로 카테고리화된다. 픽처 내의 크로마 성분들 둘 모두에 대해, 어떠한 분류 방법도 적용되지 않는데, 즉, ALF 계수들의 단일 세트가 각각의 크로마 성분에 적용된다.

루마 성분의 필터링 프로세스는 CU 레벨에서 제어될 수 있다. ALF가 CU의 루마 성분에 적용되는지를 표시하기 위한 플래그가 시그널링된다. 크로마 성분의 경우, ALF가 적용되는지는 오직 픽처 레벨에서 표시된다. ALF 필터 파라미터들은 제1 CTU의 SAO 파라미터들 이전에 제1 CTU에서 시그널링된다. 루마 필터 계수들의 최대 25개 세트가 시그널링될 수 있다. 비트 오버헤드를 감소시키기 위해, 상이한 분류의 필터 계수들이 병합될 수 있다. 또한, 기준 픽처들의 ALF 계수들은 현재 픽처의 ALF 계수들로서 재사용될 수 있다.

루프 내 필터링을 수행하기 위해 딥 러닝을 사용할 때 몇몇 작업들이 또한 존재한다. 딥 러닝의 분야는 딥 신경 네트워크들의 사용에 관한 것이다. 신경 네트워크는 계층들로 지칭되는 그룹들에 의해 체계화된 뉴런들을 포함한다. 신경 네트워크에는 입력 계층, 출력 계층 및 은닉 계층(들)이 존재한다. 딥 신경 네트워크는 2개 이상의 은닉 계층들을 갖는다.

비디오 압축은 패턴 인식과 관련된 것으로 고려될 수 있는데, 이는, 압축이 리던던시들을 제거하기 위해 종종 반복 패턴들을 찾기 때문이다. 비디오 압축에서 아티팩트 제거 또는 아티팩트 감소는 원래의 이미지들을 인식하고 복구하는 것으로 고려될 수 있기 때문에, 아티팩트들을 감소시키기 위한 필터들로서 신경 네트워크들을 사용하는 것이 가능하다. 이러한 애플리케이션에서, 아티팩트 감소는 또한 이미지 복구로 지칭되고, 아티팩트들을 감소시키기 위한 신경 네트워크들은 또한 복구 필터들로 지칭될 수 있다.

도 4는 예시적인 M-계층 콘벌루셔널 신경 네트워크를 도시하고, 여기서 필터링 없는 비디오 코덱으로부터의 초기 재구성()은 CNN에 의해 컴퓨팅된 잔차 R을 추가함으로써 로서 복구된다. 수학적으로, 네트워크는 다음과 같이 표현될 수 있다:

(1)

여기서 W_i 및 B_i는 각각 계층 i에 대한 가중치들 및 바이어스 파라미터들이고, g()는 활성화 함수(예를 들어, S자형 또는 개선된 선형 유닛(ReLU) 함수)이고, *는 콘벌루션 연산을 나타낸다. CNN으로부터의 출력 는 후속 프레임들을 인코딩 또는 디코딩하기 위한 예측자로서 사용될 기준 픽처 버퍼(RPB)에 저장될 수 있다.

W_i 및 B_i, i = {1,., M}를 포함하는 파라미터 세트 θ는 예를 들어, 다음과 같이, 복구된 이미지들과 원래의 이미지들 사이의 에러에 기초하여 정의되는 손실 함수를 최소화함으로써, K개의 트레이닝 샘플들 { S _k }, k = {1,., K}로부터 트레이닝될 수 있다.

손실 함수는 또한 수렴을 안정화하거나 과도-피팅(fitting)을 회피하기 위해 다른 항들을 포함할 수 있음에 유의한다. 이러한 정규화 항들은 단순히 에러 함수에 추가될 수 있다.

압축 아티팩트들을 감소시키기 위해, International Conference on Multimedia Modeling, pp. 28-39, Springer, 2017, a CNN-based post-processing algorithm for HEVC에서 Yuanying Dai 등에 의해 "A convolutional neural network approach for post-processing in HEVC intra coding"으로 명명된 문헌에서, 성능을 개선하고 네트워크 트레이닝을 가속화하기 위해 가변 필터 크기 잔차 학습 CNN(VRCNN)이 설계되었다.

특히, 도 5에 도시된 바와 같이, VRCNN은 4-계층 완전 콘벌루셔널 신경 네트워크로서 구조화되고, 여기서 4개의 계층들은 특징부 추출, 특징부 향상, 맵핑 및 재구성에 각각 대응하도록 고려될 수 있다. HEVC에서 가변 크기 변환에 적응하기 위해, 제2 계층은 5x5 및 3x3 필터들(conv2, conv3)의 조합을 사용하고, 제3 계층은 3x3 및 1x1 필터들(conv4, conv5)의 조합을 사용한다. 또한, 아티팩트 감소에서 필터링 이전의 입력 및 필터링 이후의 출력은 통상적으로 유사하기 때문에, 이들 사이의 차이를 학습하는 것이 더 쉽고 더 견고할 수 있다. 따라서, VRCNN은 잔차 학습 기술들을 사용하고, 여기서 CNN은 출력을 직접 학습하기 보다는 출력과 입력 사이의 잔차들을 학습하도록 설계된다.

도 6a는 CNN이 이미지들의 큰 데이터베이스에 대해 트레이닝되는 것을 도시하고, 여기서 네트워크는 원래의 이미지와의 에러를 최소화함으로써, 인코더에 의해 재구성된 이미지를 복구하려 시도한다. 도 6b는 재구성 이후 이미지들을 복구하기 위해 인코더에서 결과적 CNN이 사용되는 것을 도시한다. 이어서, 복구된 이미지들은 디스플레이되거나, 시퀀스 내의 다른 프레임들을 예측하기 위한 기준으로서 사용될 수 있다. 대칭적으로, 도 6c에 도시된 바와 같은 디코더는 비트스트림을 수신하고, 이미지들을 재구성하고, 동일한 CNN을 사용하여 이미지들을 복구한다.

VRCNN은 인코더 또는 디코더로부터 이용가능한 다른 정보를 사용함이 없이 상이한 QP들에서 CNN을 트레이닝하고 적용하기 위해 오직 재구성된 이미지들을 사용한다. 따라서, CNN에 대한 입력은, 블록 경계들 상에 나타나는 블록 효과들의 특정 아티팩트들과 블록 코딩 유형에 따른 아티팩트들을 명시적으로 고려하지 않는다.

본 실시예들은 필터링을 위한 모드-인식 CNN에 관한 것이다. 특히, 인코더 또는 디코더로부터 이용가능한 상이한 정보(또한 일반적으로 "모드"로 지칭됨)는 또한 초기 재구성된 이미지에 추가로, 트레이닝, 인코딩 또는 디코딩 프로세스 동안 CNN에 대한 입력으로서 사용된다.

일 실시예에서, QP들(Quantization Parameters), 이미지의 블록 파티셔닝 및 블록 코딩 유형이 추가적인 입력들로서 사용될 수 있다. CNN이 샘플들의 세트로서 재구성된 이미지를 입력으로 취하기 때문에, CNN의 입력으로서 추가적인 채널들을 사용하여 파티셔닝, 코딩 모드 정보 및 이미지의 재구성된 샘플들과 정렬된 QP를 또한 입력할 수 있다.

VRCNN 및 다른 CNN들에서, CNN의 제1 계층에 대한 입력은 통상적으로 재구성된 이미지, 즉, 크기 WxHx1의 이미지의 Y 성분이고, 여기서 W 및 H는 이미지의 폭 및 높이이다. 또한 입력으로서 다른 정보를 사용하기 위해, 재구성된 이미지를 하나의 채널로서 고려하고, 추가적인 채널들을 사용하여 다른 정보를 입력한다.

일 실시예에서, 경계 이미지를 형성하기 위해 파티션들의 경계 정보는 재구성된 이미지와 동일한 크기로 하나의 샘플 어레이로 체계화된다. 경계 이미지 내의 샘플은, 대응하는 샘플이 파티션 경계에 있는지 여부(즉, 파티션 프론티어인지 여부)를 표시한다. 파티션은 CU, PU, TU, CTU 또는 다른 영역들일 수 있다.

도 7은 일 실시예에 따라 경계 이미지를 생성하기 위한 예시적인 방법(700)을 예시한다. 이러한 예에서, CU 경계는 파티션 경계로 고려된다. 단계들(710, 720, 730 및 740)에서, 위의 샘플, 아래의 샘플, 좌측 샘플 또는 우측 샘플이 현재 샘플과 동일한 CU에 있는지가 체크된다. 조건 중 임의의 조건이 충족되지 않으면, 현재 샘플은 경계 샘플이고, 경계 이미지 내의 대응하는 샘플은 1로 설정된다(760). 그렇지 않으면, 경계 이미지 내의 샘플은 0으로 설정된다(750). 단계(770)에서, 더 많은 샘플들이 프로세싱될 것으로 결정되면, 제어는 단계(710)로 리턴한다. 그렇지 않으면, 경계 이미지가 획득된다. 이미지 가장자리들의 경우, 이들을 경계 또는 비-경계로 고려할 수 있다. 실제로, 제로-패딩(zero-padding) 정책을 사용할 수 있다.

도 8a는 예시적인 이미지가 3개의 코딩 유닛들로 분할되는 것을 예시하고, 여기서 파티션 프론티어들은 굵은 선들로 도시되고, 도 8b는 대응하는 경계 이미지를 도시한다. 구체적으로, 파티션 프론티어들에 인접한 픽셀들은 경계 픽셀들로 고려되고, 다른 픽셀들은 비-경계 픽셀들로 고려된다. 경계 이미지에서, 경계 픽셀들은 "1"로 표현되고, 비-경계 픽셀들은 "0"으로 표현된다. 경계 정보는 블로킹 아티팩트들이 어디에 있는지를 CNN이 이해하도록 도울 수 있고, 따라서 네트워크가 파라미터들을 소비하여 블로킹 아티팩트들을 찾을 필요가 없기 때문에 CNN을 개선할 수 있다.

QP 정보를 사용하기 위해, 재구성된 이미지와 동일한 크기로 샘플 어레이를 생성하여 QP 이미지를 형성할 수 있고, 여기서 QP 이미지 내의 각각의 샘플은 양자화 단계 크기를 표현한다. 예를 들어, HEVC에서, 와 같이, [0.. 51] 내의 QP로부터 양자화 단계 크기(q_s)로의 변환을 사용할 수 있다. 변환은 추가로 양자화 매트릭스 및/또는 양자화 라운딩 오프셋을 고려할 수 있다. 개별적인 샘플들에 대한 QP를 획득하기 위해 QP는 통상적으로 블록, 예를 들어, H.264/AVC 내의 매크로블록 또는 HEVC 내의 CU에 대해 표시되고, 특정 샘플에 대한 QP는 특정 샘플을 포함하는 블록에 대한 QP로 설정됨에 유의한다. 양자화 단계 크기는 입력 전에 0 내지 1로 정규화될 수 있다. QP에 기초한 다른 파라미터들이 또한 입력으로서 사용될 수 있다. 추가적인 채널로서 QP 이미지를 사용하는 것은 상이한 블록들과 연관된 상이한 양자화 단계 크기들을 수용할 수 있다.

코딩 모드들을 고려하기 위해, 예측 이미지의 픽셀 값들에 대응하는 채널이 사용된다. 인트라 또는 인터, 즉, 필터링의 유형과 같은 상이한 코딩 모드들에 대한 예측 블록들이 상이한 특성들을 갖기 때문에, 예측 블록들 또는 예측 잔차들은 코딩 모드들을 반영할 것이다.

다른 실시예에서, 코딩 모드를 직접 사용할 수 있다. QP에 대해 수행된 것과 유사하게, 코딩 모드의 값을 갖는 채널을 생성할 수 있다. 예를 들어, 인트라 방향의 경우, 인트라 예측의 각도의 값을 갖는, 예를 들어, HEVC 표준 규격의 섹션 8.4.4.2.6에서 주어진 각도 값을 갖는 채널을 설정할 수 있다. 그러나, DC 및 평면 모드들이 상이하기 때문에, 이들은, 예를 들어, 모드가 활성일 때 1로 설정된 별개의 채널을 필요로 할 수 있다.

인트라 예측 모드에 추가로, 예를 들어, JEM의 EMT(explicit multiple core transforms) 인덱스, NSST(Non-separable secondary transform) 인덱스 및 경계 필터링 유형을 포함하지만 이에 제한되는 것은 아닌 많은 다른 모드들이 블록에 대해 존재하고, CNN에 대한 입력으로서 사용될 수 있다.

입력 정보는 WxHxD의 어레이로 체계화될 수 있다. 재구성된 이미지, QP, 경계 정보 및 예측 이미지 모두가 입력에 대해 사용될 때, D = 4이다. 입력은 [Y 성분 , 경계 이미지 BI , 예측 이미지 P , 양자화 이미지 Q ]로 체계화될 수 있다. 변형에서, 모든 컬러 성분들(예를 들어, Y, Cb, Cr)에 대해 동일한 구성이 반복된다. 하나 이상의 QP, 경계 정보 및 예측 이미지를 입력으로서 선택할 수 있고, D는 2 내지 4으로 달라질 수 있다.

입력 정보는 또한 상이한 방식들로 체계화될 수 있어서, 예를 들어, 일부 입력 채널은 네트워크에서 더 나중에 입력될 수 있다. 앞서 설명된 바와 같이, VRCNN 내의 4개의 계층들은 특징부 추출, 특징부 향상, 맵핑 및 재구성에 각각 대응하는 것으로 고려될 수 있다. 일 실시예에서, QP는, QP 정보가 더 관련될 수 있는 특징부 향상 스테이지에 대한 입력으로서만 사용될 수 있다. 더 나중의 스테이지에서 QP 정보를 사용함으로써, CNN은 더 앞선 스테이지에서 더 적은 파라미터들을 사용할 수 있다. 일반적으로, 복잡성을 감소시키기 위해 CNN의 중간 계층에서 하나 이상의 입력 채널들이 사용될 수 있다.

다른 예에서, 이러한 파라미터가 최종 재구성된 이미지에 대해 큰 영향을 갖는 경우 특정 파라미터의 상이한 값들에 대해 상이한 네트워크들이 트레이닝될 수 있다. 예를 들어, CNN의 세트가 상이한 QP들에서 트레이닝될 수 있고, 현재 CU에 가장 가까운 QP를 갖는 것이 사용된다. 다른 예에서, 몇몇 CNN들의 입력의 가중된 평균이 이미지를 필터링하기 위해 사용된다.

도 9a는 일 실시예에 따라, 입력으로서 4개의 채널들을 사용하는 예시적인 트레이닝 프로세스(900A)를 예시한다. 이미지들의 큰 데이터베이스(905)가 트레이닝 입력으로서 사용된다. 트레이닝 이미지는 인코더에 의해 인코딩된다(910). QP, 파티션 경계들, 초기 재구성 및 예측 이미지를 포함하는, 인코더로부터 이용가능한 정보가 CNN에 대한 입력으로서 사용된다. 특히, QP 정보는 양자화 이미지를 형성(930)하기 위해 사용되고, 경계 정보는 경계 이미지를 형성(920)하기 위해 사용된다.

트레이닝 프로세스 동안, 잔차 학습 기술이 사용된다. 즉, 이미지를 복구하기 위해 CNN의 최종 계층의 출력에 초기 재구성 가 추가된다(940). 손실 함수(950)는 복구된 이미지 와 원래의 이미지 S 사이의 차이에 기초한다.

수학적으로, 이러한 네트워크는 다음과 같이 표현될 수 있다:

(2)

여기서 W_i 및 B_i는 각각 계층 i에 대한 가중치들 및 바이어스 파라미터들이고, g()는 활성화 함수(예를 들어, S자형 또는 개선된 선형 유닛(ReLU) 함수)이고, *는 콘벌루션 연산을 나타낸다. 여기서 제1 가중치는 WxHx1 대신 WxHxD의 차원을 갖기 때문에 오직 제1 가중치(W₁)만이 수학식 (1)에 설명된 것과 상이함에 유의한다. 또한 활성화 함수 g()는 계층들에 의해 상이할 수 있고 또한 다른 프로세싱, 예를 들어, 배치(batch) 정규화를 포함할 수 있음에 유의한다.

도 9b는 일 실시예에 따라, 도 9a의 트레이닝된 CNN에 대응하는 CNN에 대한 입력으로서 다수의 채널들을 사용하는 예시적인 인코딩 프로세스(900B)를 예시한다. 특히, 원래의 이미지가 루프 내 필터링 없이 인코더에 의해 인코딩된다(915). QP, 파티션 경계들, 초기 재구성 및 예측 이미지를 포함하는, 인코더로부터 이용가능한 정보가 CNN(950)에 대한 입력으로서 사용된다. 특히, QP 정보는 양자화 이미지를 형성(935)하기 위해 사용되고, 경계 정보는 경계 이미지를 형성(925)하기 위해 사용된다.

도 9c는 일 실시예에 따라, 도 9a의 트레이닝된 CNN에 대응하는 CNN에 대한 입력으로서 다수의 채널들을 사용하는 예시적인 디코딩 프로세스(900C)를 예시한다. 인코딩 프로세스(900B)와 유사하게, CNN에 대한 입력으로서 4개의 채널들이 사용된다. 특히, 루프 내 필터링 없이 디코더에 의해 비트스트림이 디코딩된다(970). QP, 파티션 경계들, 초기 재구성 및 예측 이미지를 포함하는, 디코더로부터 이용가능한 정보가 CNN(980)에 대한 입력으로서 사용된다. 특히, QP 정보는 양자화 이미지를 형성(995)하기 위해 사용되고, 경계 정보는 경계 이미지를 형성(990)하기 위해 사용된다.

위에서, 이미지에 기초하여 입력을 설명한다. 그러나, 입력 재구성된 이미지는 예를 들어, W'<W 및 H'<H를 갖는 W'xH' 크기에서 영역들로 분할될 수 있다. 따라서 QP 이미지 영역, 경계 이미지 영역 또는 예측 이미지 영역은 W'xH'의 크기에서 생성될 것이다. 예를 들어, 인코딩 프로세스에서, 영역은 CU, PU 또는 CTU일 수 있다. 필터링에 사용되는 영역의 크기가 QP 또는 인트라 예측에 대한 블록 크기보다, 또는 더 일반적으로 코딩 모드를 수행하는 블록 크기보다 클 때, 필터링 영역은 몇몇 블록들, 및 그에 따른 몇몇 QP들 또는 인트라 예측 방향 모드들을 포함할 수 있다. 이러한 상황에서, 대응하는 QP 이미지 영역은, 내부의 샘플이 그 샘플을 커버하는 블록에 대한 QP와 연관되도록 생성된다. 예를 들어, 필터링이 CTU 레벨에서 수행되고, QP가 CU 레벨에서 전송되면, CTU에 대한 QP 이미지는 양자화 단계 크기들의 몇몇 값들을 포함할 수 있고, 여기서 각각의 CU는 대응하는 양자화 단계 크기를 갖는다.

도 8c는 예시적인 CTU가 7개의 코딩 유닛들로 분할되는 것을 예시하고, 여기서 CU 경계들은 굵은 선들로 도시되고, 도 8d는 대응하는 QP 이미지를 도시한다. 구체적으로, QP_i를 갖는 CU에 대응하는 샘플의 경우, QP_i에 대응하는 양자화 단계 크기 qs_i가 QP 이미지에서 사용된다.

위에서, 루프 내 필터링에 대한 모드-인식 CNN을 설명한다. 본 실시예들은 또한, 렌더링 이전의 이미지 품질을 향상시키기 위해 코딩 루프 외부의 또는 필터링이 적용될 수 있는 다른 모듈들의 포스트-프로세싱에 적용될 수 있다.

위의 상이한 실시예들은 잔차-학습 CNN에 대해 설명된다. 본 실시예들은 다른 유형들의 CNN들 또는 비-콘벌루셔널 신경 네트워크들에 적용될 수 있다. 위에서, MSE는 예시적인 실시예들에서 손실 함수를 계산하기 위해 사용된다. 그러나, 개념적 미분가능 메트릭, 예를 들어, MS-SSEVI와 같은 다른 에러 함수들이 손실 함수에 대해 사용될 수 있다.

위에서, HEVC 비디오 인코더 또는 디코더 내의 루프 내 필터들(165, 265)과 같은 모든 루프 내 필터들은 모드-인식 CNN으로 대체되는 것을 가정한다. 다른 실시예에서, 모드-인식 CNN은 병렬로 또는 연속적으로 다른 루프 내 필터들과 함께 사용될 수 있다. 또한, 모드-인식 접근법이 블록 레벨에서 적용될 때 블록 자체로부터의 정보를 사용하기 때문에, 모드-인식 네트워크는, 양방향 필터가 RDO 판정에서 테스트되는 방법과 유사하게 RDO 판정에서 사용될 수 있다.

다양한 방법들이 앞서 설명되었고, 방법들 각각은 설명된 방법을 달성하기 위한 하나 이상의 단계들 또는 동작들을 포함한다. 방법의 적절한 동작을 위해 단계들 또는 동작들의 특정 순서가 요구되지 않으면, 특정 단계들 및/또는 동작들의 순서 및/또는 사용은 수정되거나 결합될 수 있다.

본 출원에서, 다양한 수치 값들, 예를 들어, 채널들의 수가 사용된다. 특정 값들은 예시적인 목적들이며, 본 실시예들은 이러한 특정 값들로 제한되지 않음을 유의해야 한다.

위에서, 다양한 실시예들이 JVET 및 HEVC 표준에 대해 설명된다. 그러나, 본 실시예들은 JVET 또는 HEVC로 제한되지 않으며 다른 표준들, 추천들 및 이들의 확장들에 적용될 수 있다. 앞서 설명된 다양한 실시예들은 개별적으로 또는 조합하여 사용될 수 있다.

도 10은 예시적인 실시예들의 다양한 양태들이 구현될 수 있는 예시적인 시스템의 블록도를 예시한다. 시스템(1000)은 아래에서 설명되는 다양한 컴포넌트들을 포함하는 디바이스로서 구현될 수 있고, 앞서 설명된 프로세스들을 수행하도록 구성된다. 이러한 디바이스들의 예들은, 개인용 컴퓨터들, 랩탑 컴퓨터들, 스마트폰들, 태블릿 컴퓨터들, 디지털 멀티미디어 셋탑 박스들, 디지털 텔레비전 수신기들, 개인용 비디오 레코딩 시스템들, 연결된 가전 제품들 및 서버들을 포함하지만 이에 제한되는 것은 아니다. 시스템(1000)은, 도 10에 도시되고 전술된 예시적인 비디오 시스템을 구현하기 위해 본 기술분야의 통상의 기술자들에게 공지된 바와 같이 통신 채널을 통해 다른 유사한 시스템들 및 디스플레이에 통신가능하게 결합될 수 있다.

시스템(1000)은 앞서 논의된 바와 같이 다양한 프로세스들을 구현하기 위해 로딩된 명령어들을 실행하도록 구성되는 적어도 하나의 프로세서(1010)를 포함할 수 있다. 프로세서(1010)는 본 기술분야에 공지된 바와 같이 내장 메모리, 입력 출력 인터페이스 및 다양한 다른 회로들을 포함할 수 있다. 시스템(1000)은 또한 적어도 하나의 메모리(1020)(예를 들어, 휘발성 메모리 디바이스, 비휘발성 메모리 디바이스)를 포함할 수 있다. 시스템(1000)은 추가적으로 EEPROM, ROM, PROM, RAM, DRAM, SRAM, 플래시, 자기 디스크 드라이브 및/또는 광 디스크 드라이브를 포함하지만 이에 제한되는 것은 아닌 비휘발성 메모리를 포함할 수 있는 저장 디바이스(1020)를 포함할 수 있다. 저장 디바이스(1040)는 비제한적 예들로서, 내부 저장 디바이스, 부착된 저장 디바이스 및/또는 네트워크 액세스가능한 저장 디바이스를 포함할 수 있다. 시스템(1000)은 또한 인코딩된 비디오 또는 디코딩된 비디오를 제공하기 위해 데이터를 프로세싱하도록 구성된 인코더/디코더 모듈(1030)을 포함할 수 있다.

인코더/디코더 모듈(1030)은 인코딩 및/또는 디코딩 기능들을 수행하기 위해 디바이스에 포함될 수 있는 모듈(들)을 표현한다. 공지된 바와 같이, 디바이스는 인코딩 및 디코딩 모듈들 중 하나 또는 둘 모두를 포함할 수 있다. 추가적으로, 인코더/디코더 모듈(1030)은 시스템(1000)의 개별 요소로서 구현될 수 있거나 또는 본 기술분야의 통상의 기술자들에게 공지된 바와 같이 하드웨어 및 소프트웨어의 조합으로서 프로세서(1010) 내에 통합될 수 있다.

앞서 설명된 다양한 프로세스들을 수행하기 위해 프로세서(1010) 상에 로딩될 프로그램 코드는 저장 디바이스(1040)에 저장될 수 있고, 후속적으로 프로세서(1010)에 의한 실행을 위해 메모리(1020) 상에 로딩될 수 있다. 예시적인 실시예들에 따르면, 프로세서(들)(1010), 메모리(1020), 저장 디바이스(1040) 및 인코더/디코더 모듈(1030) 중 하나 이상은 입력 비디오, 디코딩된 비디오, 비트스트림, 방정식들, 공식, 매트릭스들, 변수들, 동작들 및 연산 로직을 포함하지만 이에 제한되는 것은 아닌, 앞서 본원에 논의된 프로세스들의 수행 동안 다양한 아이템들 중 하나 이상을 저장할 수 있다.

시스템(1000)은 또한 통신 채널(1060)을 통해 다른 디바이스들과의 통신을 가능하게 하는 통신 인터페이스(1050)를 포함할 수 있다. 통신 인터페이스(1050)는 통신 채널(1060)로부터 데이터를 송신 및 수신하도록 구성된 트랜시버를 포함할 수 있지만, 이에 제한되는 것은 아니다. 통신 인터페이스는 모뎀 또는 네트워크 카드를 포함할 수 있지만 이에 제한되는 것은 아니며, 통신 채널은 유선 및/또는 무선 매체 내에서 구현될 수 있다. 시스템(1000)의 다양한 컴포넌트들은, 내부 버스들, 와이어들 및 인쇄 회로 기판들을 포함하지만 이에 제한되는 것은 아닌 다양한 적절한 연결들을 사용하여 함께 연결되거나 통신가능하게 결합될 수 있다.

예시적인 실시예들은 프로세서(1010)에 의해 또는 하드웨어에 의해, 또는 하드웨어와 소프트웨어의 조합에 의해 구현되는 컴퓨터 소프트웨어에 의해 수행될 수 있다. 비제한적인 예로서, 예시적인 실시예들은 하나 이상의 집적 회로들에 의해 구현될 수 있다. 메모리(1020)는 기술적인 환경에 적합한 임의의 유형일 수 있고, 임의의 적합한 데이터 저장 기술, 예를 들어, 비제한적인 예들로서, 광 메모리 디바이스들, 자기 메모리 디바이스들, 반도체 기반 메모리 디바이스들, 고정 메모리 및 착탈식 메모리를 사용하여 구현될 수 있다. 프로세서(1010)는 기술적인 환경에 적합한 임의의 유형일 수 있고, 비제한적 예들로서 마이크로프로세서들, 범용 컴퓨터들, 특수 목적 컴퓨터들 및 멀티-코어 아키텍처에 기초한 프로세서들 중 하나 이상을 포함할 수 있다.

본원에서 설명되는 구현들은, 예를 들어, 방법 또는 프로세스, 장치, 소프트웨어 프로그램, 데이터 스트림 또는 신호에서 구현될 수 있다. 오직 단일 형태의 구현의 상황에서 논의되는(예를 들어, 오직 방법으로서만 논의되는) 경우에도, 논의되는 특징들의 구현은 또한 다른 형태들(예를 들어, 장치 또는 프로그램)로 구현될 수 있다. 장치는 예를 들어, 적절한 하드웨어, 소프트웨어 및 펌웨어로 구현될 수 있다. 예를 들어, 방법들은, 예를 들어, 컴퓨터, 마이크로프로세서, 집적 회로 또는 프로그래밍가능 로직 디바이스를 포함하는 일반적인 프로세싱 디바이스들을 지칭하는, 예를 들어, 프로세서와 같은 장치로 구현될 수 있다. 프로세서들은 또한, 예를 들어, 컴퓨터들, 셀 폰들, 휴대용/개인 휴대 정보 단말("PDA들"), 및 최종 사용자들 사이에서 정보의 통신을 용이하게 하는 다른 디바이스들과 같은 통신 디바이스들을 포함한다.

"일 실시예" 또는 "실시예" 또는 "일 구현" 또는 "구현" 뿐만 아니라 이들의 다른 변화예들에 대한 참조는, 실시예와 관련하여 설명되는 특정한 특징, 구조, 특성 등이 적어도 하나의 실시예에 포함되는 것을 의미한다. 따라서, 본 명세서 전반에 걸친 다양한 위치들에서 등장하는 어구 "일 실시예에서" 또는 "실시예에서" 또는 "일 구현에서" 또는 "구현에서" 뿐만 아니라 다른 변화예들은, 반드시 동일한 실시예 전부를 참조할 필요는 없다.

추가적으로, 본 출원 또는 본 출원의 청구항들은, 정보의 다양한 조각들을 "결정"하는 것을 참조할 수 있다. 정보를 결정하는 것은, 예를 들어, 정보를 추정하는 것, 정보를 계산하는 것, 정보를 예측하는 것 또는 메모리로부터 정보를 조회하는 것 중 하나 이상을 포함할 수 있다.

추가적으로, 본 출원 또는 본 출원의 청구항들은, 정보의 다양한 조각들에 "액세스"하는 것을 참조할 수 있다. 정보에 액세스하는 것은, 예를 들어, 정보를 수신하는 것, (예를 들어, 메모리로부터) 정보를 조회하는 것, 정보를 카피하는 것, 정보를 계산하는 것, 정보를 결정하는 것, 정보를 예측하는 것 또는 정보를 추정하는 것 중 하나 이상을 포함할 수 있다.

추가적으로, 본 출원 또는 본 출원의 청구항들은, 정보의 다양한 조각들을 "수신"하는 것을 참조할 수 있다. 수신하는 것은, "액세스하는 것"에서와 같이 광의의 용어로 의도된다. 정보를 수신하는 것은, 예를 들어, 정보에 액세스하는 것 또는 (예를 들어, 메모리로부터) 정보를 조회하는 것 중 하나 이상을 포함할 수 있다. 추가적으로, "수신하는 것"은 통상적으로, 예를 들어, 정보를 저장하는 것, 정보를 프로세싱하는 것, 정보를 송신하는 것, 정보를 이동시키는 것, 정보를 카피하는 것, 정보를 소거하는 것, 정보를 계산하는 것, 정보를 결정하는 것, 정보를 예측하는 것 또는 정보를 추정하는 것과 같은 동작들 동안 하나의 방식 또는 다른 방식으로 수반된다.

본 기술분야의 통상의 기술자에게 자명할 바와 같이, 구현들은, 예를 들어, 저장 또는 송신될 수 있는 정보를 반송하도록 포맷된 다양한 신호들을 생성할 수 있다. 정보는, 예를 들어, 방법을 수행하기 위한 명령어들, 또는 설명된 구현들 중 하나에 의해 생성되는 데이터를 포함할 수 있다. 예를 들어, 신호는, 설명된 실시예의 비트스트림을 반송하도록 포맷될 수 있다. 이러한 신호는, 예를 들어, (예를 들어, 스펙트럼의 무선 주파수 부분을 사용하는) 전자기 파로서 또는 기저대역 신호로서 포맷될 수 있다. 포맷은, 예를 들어, 데이터 스트림을 인코딩하는 것 및 인코딩된 데이터 스트림과 캐리어를 변조하는 것을 포함할 수 있다. 신호가 반송하는 정보는, 예를 들어, 아날로그 또는 디지털 정보일 수 있다. 신호는, 공지된 바와 같이, 다양한 상이한 유선 또는 무선 링크들을 통해 송신될 수 있다. 신호는 프로세서-판독가능 매체 상에 저장될 수 있다.

Claims (1)

1. 제1항에 따른, 방법.

Images