전술한 문제점을 해결하기 위한 본 발명은 동영상의 부호화 시에 포토 코어 트랜스폼(Photo Core Transform) 기반으로 동작을 추정하여 부호화를 수행하고, 동영상의 복호화 시에 동작을 보상하여 복호화를 수행함으로써, 동영상의 시간적, 공간적 중복성을 제거하도록 하는, 영상 처리 시스템 및 그 방법, 동작 추정 기반 영상 부호화/복호화 장치 및 그 방법을 제공함에 목적이 있다.
전술한 목적을 달성하기 위한 본 발명에 따른 영상 처리 시스템은, 입력 영상에 대해 동작 추정 기반으로 포토 코어 트랜스폼을 통해 변형하고 가변길이코드(VLC)로 부호화하여 비트 스트림으로 출력하는 영상 부호화 장치; 및 상기 영상 부호화 장치로부터 수신된 비트 스트림에 대해 동작을 보상하여 복호화하는 영상 복호화 장치를 포함한다.
여기서, 상기 영상 부호화 장치는, 상기 입력 영상에 대해 블럭 단위로 부호화하여 비트 스트림으로 출력하게 된다.
한편, 전술한 목적을 달성하기 위한 본 발명에 따른 영상 처리 방법은, 영상 부호화 장치 및 영상 복호화 장치를 포함하는 시스템의 영상 처리 방법으로서, (a) 상기 영상 부호화 장치에서 입력 영상을 동작 추정 기반으로 포토 코어 트랜스폼을 통해 변형하여 부호화하는 단계; (b) 상기 부호화된 영상을 비트 스트림으로 상기 영상 복호화 장치로 전송하는 단계; (c) 상기 영상 복호화 장치에서 상기 비트 스트림에 대해 동작을 보상하여 복호화하는 단계; 및 (d) 상기 영상 복호화 장치에서 상기 복호화된 영상을 재생하는 단계를 포함한다.
여기서, 상기 (a) 단계는, 상기 포토 코어 트랜스폼을 통해 변형된 영상을 가변길이코드로 부호화하게 된다.
한편, 전술한 목적을 달성하기 위한 본 발명에 따른 영상 부호화 장치는, 영상을 입력하는 영상 입력부; 상기 입력된 영상을 포토 기반으로 변형하는 포토 변형부; 상기 포토 기반으로 변형된 영상을 양자화하는 양자화부; 상기 양자화 된 영상을 가변길이코드(VLC)로 부호화하는 가변장 코더(VLC)부; 상기 양자화 된 영상을 역양자화하는 역양자화부; 상기 역양자화 된 영상에서 기준 프레임으로 사용할 이 전 영상을 저장하는 영상 저장부; 상기 저장된 이전 영상에서 동작을 추정하여 상기 포토 변형부로 전달하는 동작 추정부; 및 상기 영상 입력부와, 상기 포토 변형부, 상기 양자화부, 상기 역양자화부, 상기 영상 저장부 및 상기 동작 추정부의 동작을 제어하는 제어부를 포함한다.
또한, 상기 영상 입력부는, 상기 입력된 영상을 상기 포토 변형부로 전달함과 더불어 상기 동작 추정부로 동시에 전달하게 된다.
또한, 상기 가변장 코더부에서 출력된 영상과 상기 동작 추정부에서 출력된 영상을 멀티플렉싱하여 비트 스트림으로 출력하는 다중 결합부를 더 포함한다.
그리고, 상기 포토 변형부와 상기 양자화부 및 상기 가변장 코더부는 JPEG XR 기반으로 동작하게 된다.
한편, 전술한 목적을 달성하기 위한 본 발명에 따른 영상 복호화 장치는, 영상 부호화 장치로부터 수신한 영상을 가변 길이 방식으로 디코딩하는 가변장 디코더부; 상기 디코딩된 영상을 역양자화하는 역양자화부; 상기 역양자화 된 영상을 포토 기반으로 역변형하는 포토 역변형부; 상기 포토 기반으로 역변형된 영상을 저장하는 영상 저장부; 상기 포토 기반으로 역변형된 영상의 동작을 보상하는 동작 보상부; 상기 동작이 보상된 영상을 재생하는 영상 재생부; 및 상기 가변장 디코더부와, 상기 역양자화부, 상기 포토 역변형부, 상기 영상 저장부, 상기 동작 보상부 및 상기 영상 재생부의 동작을 제어하는 제어부를 포함한다.
그리고, 상기 영상 부호화 장치로부터 수신한 비트 스트림의 영상을 디멀티 플렉싱하여 상기 가변장 디코더부와 상기 동작 보상부로 동시에 전달하는 다중 분리부를 더 포함한다.
한편, 전술한 목적을 달성하기 위한 본 발명에 따른 영상 부호화 방법은, (a) 입력된 영상에 대해 포토 기반으로 변형하는 단계; (b) 상기 포토 기반으로 변형된 영상을 양자화하는 단계; 및 (c) 상기 양자화 된 영상을 가변 길이 방식으로 부호화하는 단계를 포함한다.
또한, (d) 상기 양자화 된 영상을 역양자화하는 단계; (e) 상기 역양자화 된 영상에서 기준 프레임으로 사용할 이전 영상을 저장하는 단계; (f) 상기 이전 영상에 대해 동작을 추정하는 단계; 및 (g) 상기 동작 추정한 결과를 상기 (c) 단계의 부호화에 적용하는 단계를 더 포함한다.
또한, 상기 (c) 단계는, 바로 직전에 부호화 된 블럭과 현재 블럭의 차이가 특정 임계값보다 작으면 바로 직전 블럭의 영상을 그대로 복사하여 사용하는 스킵 모드로 부호화하게 된다.
또한, 상기 (c) 단계는, 상기 스킵 모드로 부호화 할 수 없는 경우에, 상기 동작 추정한 영상과 원영상의 차이가 특정 임계값보다 작으면 제로 모션 모드로 부호화하게 된다.
그리고, 상기 동작 추정한 영상과 원영상의 차이가 특정 임계값보다 크면 JPEG XR 방식으로 블럭 단위로 부호화하게 된다.
한편, 전술한 목적을 달성하기 위한 본 발명에 따른 영상 복호화 방법은, (a) 영상 부호화 장치로부터 수신한 영상을 가변 길이 방식으로 디코딩하는 단계; (b) 상기 디코딩된 영상을 역양자화하는 단계; (c) 상기 역양자화 된 영상을 포토 기반으로 역변형하는 단계; 및 (d) 상기 포토 기반으로 역변형된 영상의 동작을 보상하는 단계를 포함한다.
또한, (e) 상기 동작이 보상된 영상을 재생하는 단계를 더 포함한다.
그리고, 상기 (c) 단계는, 상기 포토 기반으로 역변형된 영상을 저장하는 것을 포함한다.
한편, 본 발명에 따른 영상 부호화 방법을 프로그램으로서 컴퓨터로 읽을 수 있는 매체에 기록할 수 있다. 또한, 본 발명에 따른 영상 복호화 방법을 프로그램으로서 컴퓨터로 읽을 수 있는 매체에 기록할 수 있다.
본 발명에 의하면, 낮은 성능의 모바일 디바이스에서도 낮은 연산량의 비디오 코덱을 통해 비디오 재생이나 압축 동작이 가능하고, 배터리의 사용 시간도 연장해서 사용할 수 있다.
본 발명의 목적과 기술적 구성 및 그에 따른 작용 효과에 관한 자세한 사항 은 본 발명의 명세서에 첨부된 도면에 의거한 이하 상세한 설명에 의해 보다 명확하게 이해될 것이다. 이하, 첨부된 도면을 참조하여 본 발명에 따른 실시예를 상세하게 설명한다.
도 1은 본 발명의 실시예에 따른 영상 처리 시스템의 구성을 개략적으로 나타낸 구성도이다.
도 1을 참조하면, 본 발명에 따른 영상 처리 시스템(100)은 영상 부호화 장치(110), 통신망(120), 영상 복호화 장치(130)를 포함한다.
영상 부호화 장치(110)는 동영상을 스트리밍 형태로 제공해 주는 서버가 될 수 있으며, 동영상을 상대방 단말기로 전송해 주는 이동 단말기도 될 수 있다.
따라서, 영상 부호화 장치(110)는 입력 영상에 대해 동작 추정(Motion Estimation) 기반으로 포토 코어 트랜스폼(Photo Core Transform)을 통해 변형하고 가변길이 코드(VLC:Variable Length Code))로 부호화하여 비트 스트림(Bit stream)으로 출력한다.
여기서, 영상 부호화 장치(110)는, 입력 영상에 대해 블럭(Block) 단위로 부호화하여 비트 스트림으로 출력하게 된다.
통신망(120)은 CDMA 방식이나 HSDPA 방식, WCDMA 방식, TD-SCDMA 방식의 이동 통신망을 포함하는 무선 통신망일 수 있고, 인터넷망 등의 유선 통신망일 수 있다.
영상 복호화 장치(130)는 영상 부호화 장치(110)로부터 수신된 비트 스트림에 대해 동작을 보상하여 복호화한다. 여기서, 영상 복호화 장치(130)도 동영상 등 의 미디어 컨텐츠를 수신하여 재생하는 이동 단말기일 수 있으며, DVD 등의 영상 재생 장치일 수도 있다.
도 2는 본 발명의 실시예에 따른 영상 부호화 장치의 내부 구성을 개략적으로 나타낸 구성도이다.
도 2를 참조하면, 본 발명에 따른 영상 부호화 장치(110)는, 영상 입력부(210), 포토 변형(Photo Core Transform)부(220), 양자화부(Quantization)(230), 가변장 코더(Variable Length Coder)부(240), 역양자화부(250), 영상 저장부(260), 동작 추정(Motion Estimation)부(270), 다중 결합부(Multiplexer)(280) 및 제어부(290)를 포함한다.
영상 입력부(210)는 동영상 등의 영상을 입력한다.
포토 변형부(220)는 영상 입력부(210)를 통해 입력된 영상을 포토 기반으로 변형한다.
양자화부(230)는 포토 변형부(220)를 통해 포토 기반으로 변형된 영상을 양자화한다.
가변장 코더부(240)는 양자화부(230)에 의해 양자화 된 영상을 가변길이코드(VLC)로 부호화한다.
역양자화부(250)는 양자화부(230)에 의해 양자화 된 영상을 역양자화한다.
영상 저장부(260)는 역양자화부(250)에 의해 역양자화 된 영상에서 기준 프레임으로 사용할 이전 영상을 저장한다.
동작 추정부(270)는 영상 저장부(260)에 저장된 이전 영상에서 동작을 추정하여 포토 변형부(220)로 전달한다.
다중 결합부(280)는 가변장 코더부(240)에서 출력된 영상과 동작 추정부(270)에서 출력된 영상을 멀티플렉싱(Multiplexing)하여 비트 스트림으로 출력한다.
제어부(290)는 영상 입력부(210)와, 포토 변형부(220), 양자화부(230), 가변장 코더부(240), 역양자화부(250), 영상 저장부(260) 및 동작 추정부(270)의 동작을 제어한다.
또한, 영상 입력부(210)는, 입력된 영상을 포토 변형부(220)로 전달함과 더불어 동작 추정부(270)로 동시에 전달하게 된다.
그리고, 포토 변형부(220)와 양자화부(230) 및 가변장 코더부(240)는 JPEG XR(eXtended Range) 기반으로 동작하게 된다.
도 3은 본 발명의 실시예에 따른 영상 복호화 장치의 내부 구성을 개략적으로 나타낸 구성도이다.
도 3을 참조하면, 본 발명에 따른 영상 복호화 장치(130)는, 영상 수신부(310), 가변장 디코더부(Variable Length Decoder)(320), 역양자화부(330), 포토 역변형부(Photo Reverse transform)(340), 영상 저장부(350), 동작 보상(Motion Compensation)부(360), 영상 재생부(370), 다중 분리(De-multiplexing)부(380) 및 제어부(390)를 포함한다.
영상 수신부(310)는 영상 부호화 장치(110)로부터 스트리밍되는 또는 전송되는 동영상 등의 영상 데이터를 수신한다.
가변장 디코더부(320)는 영상 부호화 장치(110)로부터 수신한 영상을 가변 길이 방식으로 디코딩한다.
역양자화부(330)는 가변장 디코더부(320)에 의해 디코딩된 영상을 역양자화한다.
포토 역변형부(340)는 역양자화부(330)에 의해 역양자화 된 영상을 포토 기반으로 역변형한다.
영상 저장부(350)는 포토 역변형부(340)에 의해 포토 기반으로 역변형된 영상을 저장한다.
동작 보상부(360)는 포토 기반으로 역변형된 영상의 동작을 보상(Compensation)한다.
영상 재생부(370)는 동작 보상부(360)에 의해 동작이 보상된 영상을 재생한다.
다중 분리부(38)는 영상 부호화 장치(110)로부터 수신한 비트 스트림의 영상을 디멀티 플렉싱(De-multiplexing)하여 가변장 디코더부(320)와 동작 보상부(360)로 동시에 전달한다.
제어부(390)는 영상 수신부(310)와, 가변장 디코더부(320), 역양자화부(330), 포토 역변형부(340), 영상 저장부(350), 동작 보상부(360) 및 영상 재생부(370)의 동작을 제어한다.
도 4는 본 발명의 실시예에 따른 영상 처리 방법을 설명하기 위한 흐름도이다.
도 4를 참조하면, 영상 부호화 장치(110)는 입력 영상을 동작 추정 기반으로 포토 코어 트랜스폼(PCT)을 통해 변형하여 부호화한다(S410).
즉, 영상 부호화 장치(110)는 포토 코어 트랜스폼을 통해 변형된 영상을 가변길이코드(VLC)로 부호화하게 된다.
이어, 영상 부호화 장치(110)는 부호화된 영상을 비트 스트림으로 통신망(120)을 통해 영상 복호화 장치(130)로 전송한다(S420).
이에 대해, 영상 복호화 장치(130)는 영상 부호화 장치(110)로부터 수신한 비트 스트림에 대해 동작을 보상하여 복호화한다(S430).
따라서, 영상 복호화 장치(130)는 복호화된 영상을 재생한다(S440).
도 5는 본 발명의 실시예에 따른 영상 부호화 장치의 동작 추정 기반 영상 부호화 방법을 설명하기 위한 동작 흐름도이다.
도 5를 참조하면, 본 발명에 따른 영상 부호화 장치(110)는 영상 입력부(210)를 통해 영상이 입력되면(S502), 입력된 영상을 포토 변형부(220)를 통해 포토 방식으로 변형한다(S504).
이어, 영상 부호화 장치(110)는 포토 방식으로 변형된 영상을 양자화부(230)를 통해 양자화한다(S506).
이어, 영상 부호화 장치(110)는 가변장 코더부(240)를 통해 양자화 된 영상 을 가변 길이 방식으로 부호화하는데, 먼저 스킵 모드로 부호화가 가능한 지를 판단하여(S508), 스킵 모드로 부호화가 가능한 경우(S508-예) 스킵 모드로 부호화를 수행한다(S510).
여기서, 스킵 모드(skip mode)는 바로 직전에 부호화 된 영상 블럭과 현재 영상 블럭의 차이가 특정 임계값보다 작을 경우에 바로 직전의 영상 블럭을 그대로 복사(copy)하여 사용하는 모드이다.
그러나, 스킵 모드로 동작할 수 없는 경우(S508-아니오), 영상 부호화 장치(110)는 제로 모션 모드로 부호화 할 수 있는지를 판단하여(S520), 제로 모션 모드로 부호화가 가능한 경우(S520-예), 제로 모션 모드로 부호화를 수행한다(S522).
한편, 제로 모션 모드로도 부호화 할 수 없는 경우(S520-아니오), 영상 부호화 장치(110)는 동작 추정 영상과 원영상의 차이를 특정 임계값과 비교하고(S530), 그 차이가 특정 임계값보다 큰 경우에(S532-예), JPEG XR 방식으로 부호화를 수행한다(S534).
그러나, 그 차이가 특정 임계값보다 작은 경우(S532-아니오), 영상 부호화 장치(110)는 동작 추정 모드로 부호화를 수행한다(S536).
전술한 스킵 모드로 부호화를 수행하거나(S510), 제로 모션 모드로 부호화를 수행하거나(S522), JPEG XR 방식으로 부호화를 수행(S534)한 다음에, 영상 부호화 장치(110)는 그 부호화를 수행한 영상 블럭이 마지막 블럭인지를 판단하여(S540), 마지막 블럭이면 부호화 동작을 종료하고, 마지막 블럭이 아닌 경우에(S540-아니오), 다음의 영상 블럭을 선택하여(S542) 부호화 동작이 스킵 모드가 가능한지를 판단하는 S508 단계로 복귀하여 다음 블럭에 대한 영상의 부호화를 수행한다.
한편, 영상 부호화 장치(110)는 동작 추정 모드로 부호화 할 경우에, 포토 기반으로 변형된 영상을 양자화부(230)를 통해 양자화 한 다음에, 양자화 된 일부 영상에 대해 역양자화부(250)를 통해 역양자화하고, 역양자화 된 영상에서 기준 프레임으로 사용할 이전 영상을 영상 저장부(260)에 저장한다.
그리고, 영상 부호화 장치(110)는 이전 영상에서 동작 추정부(270)를 통해 동작 추정한 영상을 다중 결합부(280)로 전달하여, 다중 결합부(280)를 통해 가변장 코더부(240)에서 출력된 영상과 동작 추정부(270)에서 전달된 영상을 멀티플렉싱(multiplexing)하여 비트 스트림으로 출력하는 것이다.
도 6은 본 발명의 실시예에 따른 영상 복호화 장치의 영상 복호화 방법을 설명하기 위한 동작 흐름도이다.
도 6을 참조하면, 영상 복호화 장치(130)는 영상 부호화 장치(110)로부터 영상 수신부(310)를 통해 비트 스트림이 수신되면(S602), 수신한 비트 스트림을 가변장 디코더부(320)를 통해 가변 길이(VLC) 방식으로 디코딩한다(S604).
이어, 영상 복호화 장치(130)는 가변장 디코더부(320)를 통해 디코딩된 영상을 역양자화부(330)를 통해 역양자화한다(S606).
영상 복호화 장치(130)는 역양자화부(330)를 통해 역양자화 된 영상을 포토 역변형부(340)를 통해 포토 기반으로 역변형한다(S608).
영상 복호화 장치(130)는 포토 기반으로 역변형된 영상을 영상 저장부(350) 에 저장한다(S610).
영상 복호화 장치(130)는 포토 역변형부(340)에 의해 포토 기반으로 역변형된 영상에 대해 동작 보상부(360)를 통해 동작을 보상한다(S612).
영상 복호화 장치(130)는 동작이 보상된 영상을 영상 재생부(370)를 통해 재생한다(S614).
한편, 본 발명에 따른 영상 부호화 방법을 프로그램으로서 컴퓨터로 읽을 수 있는 매체에 기록할 수 있다. 또한, 본 발명에 따른 영상 복호화 방법을 프로그램으로서 컴퓨터로 읽을 수 있는 매체에 기록할 수 있다.
전술한 바와 같이 본 발명에 의하면, 동영상의 부호화 시에 포토 코어 트랜스폼 기반으로 동작을 추정하여 부호화를 수행하고, 동영상의 복호화 시에 동작을 보상하여 복호화를 수행함으로써, 동영상의 시간적, 공간적 중복성을 제거하도록 하는, 영상 처리 시스템 및 그 방법, 동작 추정 기반 영상 부호화/복호화 장치 및 그 방법을 실현할 수 있다.
본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있으므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가개념으로부 터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.