KR100939915B1 - 사용자 선호도를 이용한 ｓｖｃ 비디오의 일반화된 ｆｇｓ데이터 추출 장치 및 방법 - Google Patents

사용자 선호도를 이용한 ｓｖｃ 비디오의 일반화된 ｆｇｓ데이터 추출 장치 및 방법 Download PDF

Info

Publication number
KR100939915B1
KR100939915B1 KR1020080013494A KR20080013494A KR100939915B1 KR 100939915 B1 KR100939915 B1 KR 100939915B1 KR 1020080013494 A KR1020080013494 A KR 1020080013494A KR 20080013494 A KR20080013494 A KR 20080013494A KR 100939915 B1 KR100939915 B1 KR 100939915B1
Authority
KR
South Korea
Prior art keywords
information
data
spatial layer
bit rate
fgs
Prior art date
Application number
KR1020080013494A
Other languages
English (en)
Other versions
KR20090066176A (ko
Inventor
콩 탕 청
강정원
유정주
홍진우
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to US12/809,366 priority Critical patent/US20110235700A1/en
Priority to PCT/KR2008/005884 priority patent/WO2009078560A1/en
Publication of KR20090066176A publication Critical patent/KR20090066176A/ko
Application granted granted Critical
Publication of KR100939915B1 publication Critical patent/KR100939915B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/34—Scalability techniques involving progressive bit-plane based encoding of the enhancement layer, e.g. fine granular scalability [FGS]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162—User input
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명의 SVC 비디오의 일반화된 FGS 데이터 추출 장치는, 비트스트림을 분석하여 하나 이상의 공간 계층의 R-D(Rate-Distortion) 데이터를 추출하는 데이터 추출부, 상기 각 공간 계층에 대한 사용자 선호도 정보를 수집하는 사용자 선호도 수집부, 상기 R-D 데이터에 포함된 비트율 및 상기 수집된 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정하는 결정 엔진부 및 상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS 데이터를 축출하는 스케일링 엔진부를 포함한다.
SVC, FGS, 사용자 선호도

Description

사용자 선호도를 이용한 ＳＶＣ 비디오의 일반화된 ＦＧＳ 데이터 추출 장치 및 방법{APPARATUS AND METHOD FOR GENERALIZED FGS TRUNCATION OF SVC VIDEO WITH USER PREFERENCE}
본 발명은 FGS 데이터 추출 장치 및 방법에 관한 것으로서, 보다 상세하게는 하나 이상의 공간 계층인 공간 해상도를 포함하는 스케일러블 비디오 비트스트림이 다수의 사용자에게 전달될 때, 전달되는 비디오의 전체 품질 정보가 최대화 되도록 적응하기 위해서 FGS 데이터를 최적 적응하는 장치 및 방법에 관한 것이다.
본 발명은 정보통신부 및 정보통신연구진흥원의 IT성장동력기술개발사업의 일환으로 수행한 연구로부터 도출된 것이다[과제관리번호: 2005-S-103-03, 과제명: 통합융합 환경에서의 유비쿼터스 콘텐츠 서비스 기술 개발].
스케일러블 비디오 코딩(SVC: Scalable Video Coding) 방식은 멀티미디어 통신의 응용에 적합한 비디오 압축 방식으로, 최신 AVC(Advanced Video Coding) 방식을 확장한 것으로 높은 압축 효율을 가지며 다양한 비트율로 압축하는 것이 가능하다.
상기 SVC 비트스트림은 단말 혹은 네트워크의 다양한 특성에 맞도록 여러 가 지 방식으로 쉽게 적응되는 특징을 가지고 있으며, 다양한 영역에서의 스케일러빌리티를 제공한다.
상기 영역의 대표적인 예로 공간, 시간, SNR를 들 수 있으며, 상기 SVC 비트스트림은 각 영역에서 스케일러빌리티를 제공하고 있다.
이중 SNR 스케일러빌리티를 제공하는 FGS(Fine Granular Scalability) 데이터는 네트워크의 대역폭 제한을 만족하도록 임의의 비트율을 갖는 SVC 비트스트림을 추출하는 것을 가능하게 한다. 일반적으로 FGS 데이터는 최상위 공간 계층으로부터 최하위 공간계층의 순으로 축출된다.
현재, 앞에서 언급한 비트스트림의 FGS 데이터는 몇 가지 방법을 사용하여 축출 될 수 있다. 그 중 하나인 Top-down truncation 방법은 일반적인 방법으로 높은 공간계층의 화질열화가 심할 수도 있는 반면 최하위 공간계층의 화질은 최상으로 유지해 주며, 또 다른 방법으로 최상위 공간계층의 품질 정보(화질)를 항상 최상으로 유지하기 위해서 낮은 공간계층의 FGS 데이터 일부를 제거하는 방법이 제공된다.
이러한 기존 방식은 한 개의 공간계층의 품질 정보를 최대화하는 반면 다른 공간계층의 품질 정보는 심하게 열화 될 수 있는 단점이 있으며, 사용자로부터의 요구사항은 실재로 복잡하며 시간에 따라서 변할 수 있는 반면 이러한 요구 사항을 모두 수렴할 수 없는 단점이 있다.
본 발명은 상술한 종래기술의 문제점을 해결하기 위해 안출된 것으로서, 하나 이상의 공간 계층(해상도)을 가지며 각 공간 계층에 SNR 스케일러빌리티를 제공하는 FGS 데이터를 가지는 SVC 비트스트림을 소비 환경에 맞게 제공하는데 그 목적이 있다.
또한, 본 발명은 하나 이상의 공간 계층들의 품질 정보를 함수로 정의하고, 전체 품질 정보가 전송 중에 변경될 수 있도록 하는데 그 목적이 있다.
또한 본 발명에서 제공되는 프레임워크를 이용하여 자원을 각 공간 계층들에 할당하는데 있어서 유연성을 갖도록 함에 그 목적이 있다.
상기의 목적을 달성하고, 상술한 종래기술의 문제점을 해결하기 위하여, 본 발명 일실시예에 따른 SVC 비디오의 일반화된 FGS 데이터 추출 장치는, 비트스트림을 분석하여 하나 이상의 공간 계층의 R-D(Rate-Distortion) 데이터를 추출하는 R-D 데이터 추출부, 상기 각 공간 계층에 대한 사용자 선호도 정보를 수집하는 사용자 선호도 수집부, 상기 R-D 데이터에 포함된 비트율 및 상기 수집된 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정하는 결정 엔진부 및 상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS 데이터를 축출하는 스케일링 엔진부를 포함한다.
또한, 본 발명의 상기 R-D 데이터 추출부는 상기 각 공간 계층 중 낮은 공간 계층의 비트율 및 해당 공간 계층의 비트율에 따른 품질 정보를 추출한다.
또한, 본 발명의 상기 결정 엔진부는 동적 프로그램의 비터비(Viterbi) 알고리즘에 의하여 상기 전체 품질 정보를 결정한다.
또한, 본 발명의 상기 결정 엔진부는 상기 사용자 선호도 정보의 레이어의 식별자 정보, 가중치, 최소품질 정보 또는 최대품질 정보 중 어느 하나 이상에 의하여 제약된 정보를 추출한다.
또한, 본 발명의 상기 스케일링 엔진부는 상기 하나 이상의 공간 계층의 FGS 데이터를 동시에 축출한다.
상기의 목적을 달성하고, 상술한 종래기술의 문제점을 해결하기 위하여, 본 발명 일실시예에 따른 SVC 비디오의 일반화된 FGS 추출 방법은, 비트스트림을 분석하여 하나 이상의 공간 계층의 R-D 데이터를 추출하는 단계, 상기 각 공간 계층에 대한 사용자 선호도 정보를 수집하는 단계, 상기 R-D 데이터에 포함된 비트율 및 상기 수집된 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정하는 단계 및 상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS 데이터를 축출하는 단계를 포함한다.
본 발명에 따르면 하나 이상의 공간 계층(해상도)을 가지며 각 공간 계층에 SNR 스케일러빌리티를 제공하는 FGS 데이터를 가지는 SVC 비트스트림을 소비 환경에 맞게 제공할 수 있다.
또한, 본 발명에 따르면 하나 이상의 공간 계층들의 품질 정보를 함수로 정 의하고, 전체 품질 정보가 전송 중에 변경될 수 있다.
또한 본 발명에 따르면 제공되는 프레임워크를 이용하여 자원을 각 공간 계층들에 할당하는데 있어서 유연성을 갖도록 할 수 있다.
이하 첨부 도면들 및 첨부 도면들에 기재된 내용들을 참조하여 본 발명의 바람직한 실시예를 상세하게 설명하지만, 본 발명이 실시예에 의해 제한되거나 한정되는 것은 아니다.
도 1은 본 발명의 일실시예에 따른 SVC 비디오의 일반화된 FGS 데이터 추출 장치의 구성을 도시한 블록도이다.
본 발명에서는 적응된 비트스트림이 제공하는 공간 계층들의 전체 품질 정보를 최대화하기 위해서, 한 개 이상의 공간계층을 포함하는 SVC 비트스트림의 FGS 데이터 축출을 고려한다.
도 2는 본 발명의 일실시예에 따른 SVC 비트스트림에서 공간계층의 예를 도시한 도면이다.
예를 들어, 본 발명은 도 2에 도시된 바와 같이 감시 영상(surveillance video)이 두 개의 공간 계층을 가지고 각각의 공간 계층은 FGS 데이터를 포함하는 SVC 포맷으로 부호화 할 수 있으며, 이때 감시 영상은 멀리 떨어진 하나의 건물에 있는 두 사람에게 전달되어 소비된다.
즉, 첫 번째 사용자는 최상의 공간 계층을 복호할 수 있는 PC를 가지고 있고, 두번째 사용자는 가장 낮은 공간 계층을 복호할 수 있는 PDA를 가지고 있는 경 우, 이 건물의 접속 대역폭(connection bitrate)을 만족시키기 위해서 FGS 데이터가 축출되어야 하며, 축출될 FGS 데이터의 양은 비트스트림의 전체 비트율의 많은 부분을 차지할 수도 있다.
본 발명은 하나 이상의 공간 계층(해상도)을 가지며 각 공간 계층에 SNR 스케일러빌리티를 제공하는 FGS 데이터를 가지는 SVC 비트스트림을 소비 환경에 맞게 제공하는 방법을 제시하고 있으며, 상기 방법에 따라 본 발명의 FGS 데이터 추출 장치(100)의 구성을 순차적으로 설명하도록 한다.
먼저, R-D 데이터 추출부(110)는 비트스트림을 분석하여 하나 이상의 공간 계층의 R-D(Rate-Distortion) 데이터를 추출한다.
본 발명에서 입력되는 비트스트림은 각 공간 계층의 R-D 데이터를 제공하는 R-D 데이터 추출부(110)로 먼저 보내진다.
또한, 상기 R-D 데이터는 상기 각 공간 계층마다 정해진 비트율에 따른 품질 정보를 포함하고 있으며, 상기 품질 정보는 상기 최소품질 정보보다 크거나 같고 최대품질 정보보다 작거나 같으며, 상기 품질 정보의 합인 전체 품질 정보는 상기 각 공간 계층의 품질 정보의 가중치 합으로 결정된다.
이때, 계층 i의 R-D 데이터는 Q i = f( R i , R i - 1 ,..., R 1 )와 같이 표현되는데, 이때, R i 는 계층 i의 비트율, Q i 는 계층 i의 품질 정보를 나타낸다. 즉, 상기 SVC가 계층간 예측(inter-layer prediction)을 하기 때문에 한 개의 공간계층의 품질 정보는 해당 공간 계층의 품질 정보/비트율 뿐만 아니라, 낮은 공간 계층의 품 질 정보/비트율의 영향을 받는다는 의미이다.
따라서, R-D 데이터 추출부(110)는 상기 각 공간 계층 중 낮은 공간 계층의 비트율 및 해당 공간 계층의 비트율에 따라 상기 공간 계층의 품질 정보를 결정한다.
본 발명에서 i=1일 경우, 상기 공간 계층은 가장 낮은 공간 계층을 나타내며,. 상기 R-D 데이터는 이산 형태(discrete form)의 샘플링 포인트(sample point) 또는 연속 형태(continuous form)의 분석 함수(analytical function) 중 어느 하나로 제공된다.
상기 R-D 데이터의 품질 정보는 특정 함수에 따라 변환되는데, 예를 들어, 서로 다른 양의 비트율이 모든 공간 계층에서 동시에 버려지고, 각 공간 계층의 해당 품질 정보를 측정할 수 있으며, 일반적으로 분석 함수들은 회귀법(regression method)을 사용하여 샘플링 포인트로부터 얻을 수 있다.
또한, 본 발명은 R-D 데이터 추출의 오버헤드(overhead)를 줄이기 위하여, 비디오 컨텐츠를 상기 컨텐츠의 특징에 따라서 다른 클래스들로 분류할 수 있으며, 각각의 클래스는 공통의 R-D 데이터 집합을 가지도록 제어할 수 있다.
이때, 임의의 새로운 비디오 컨텐츠는 하나의 클래스로 지정될 수 있고 해당 클래스에 한정된 R-D 데이터와 관련될 수 있는데, 상기 품질 정보의 함수는 객관적(즉, PSNR, MSE)이거나 주관적(MOS)이거나 혹은 인지적(인간의 시각 시스템의 모델에 근거한)일 수 있다.
즉, 본 발명의 프래임워크는 다양한 R-D 데이터 추출 또는 표현 방법 및 다 양한 품질 정보의 함수에 대해서도 일반화 된 수행 체제를 제공할 수 있다.
일반적으로 비트스트림의 R-D 데이터를 얻는 데는 시간이 필요하지만, 본 발명에서 상기 R-D 데이터는 오프라인을 통하여 비실시간으로 추출하여 온라인 등을 통하여 실시간 적응에 사용될 수 있다.
본 발명은 상기 R-D 데이터를 해당 비트스트림과 관련된 메타데이터 형태로 저장하며, 상기 R-D 데이터를 위한 표준 메타데이터 툴로는 MPEG-21 DIA의 AdaptationQoS를 예로 들 수 있다.
본 발명에서 비디오 시퀀스의 특성 예를 들어, 움직임 속도, 공간 복잡도 등은 시간에 따라 변할 수 있으므로, 한 개의 R-D 데이터 집합만으로는 비디오의 특성을 잘 표현하지 못 할 수도 있으나, 상기와 같은 경우 비디오 시퀀스를 여러 개의 연속적인 세그먼트로 나뉘어, 각각의 세그먼트 자체의 R-D 데이터와 연결함으로써 비디오의 특성을 잘 표현할 수 있도록 한다.
다음으로, 사용자 선호도 수집부(120)는 상기 각 공간 계층에 대한 사용자 선호도 정보를 수집한다.
상기 사용자 선호도 정보(user preference)는 상기 비트스트림의 공간 계층인 레이어(Layer)의 식별자 정보, 상기 공간 계층의 중요도 정보인 가중치(weight) 및 상기 공간 계층의 품질 정보 중 상기 FGS 데이터 추출 장치를 이용하는 사용자가 원하는 최소품질(minQuality) 정보또는 최대품질(maxQuality) 정보 등의 다양한 정보를 포함한다.
이때, 일례로 상기 사용자 선호도 정보에서 각 공간 계층마다 한 개의 가중 치 값(weight value)이 할당되며 기본 값(default 값)은 1로 하며, 가중치(weight) 값이 클수록 해당 공간 계층의 적응된 품질 정보는 좋아지게 된다.
또한, 최소품질 정보보다 작은 품질(quality value) 정보는 사용자들이 받아들일 수 없으며, 최대품질 정보보다 큰 품질 정보는 사용자에게 불필요하지만 적응 시스템이 최대품질 정보보다 큰 품질 정보를 제공하는 것은 사용자에게 상관 없을 수도 있다.
상기 최대품질 정보뿐만 아니라 최소품질 정보는 최적의 답을 찾는 시간(solution searching time)을 줄이는데 사용될 수 있으며, 가중치들의 값은 상대적인 것으로, 기본 가중치 값은 제공자가 미리 임의의 값으로 정할 수도 있다.
또한, 사용자 선호도 정보 툴의 파라미터들은 GUI를 통하여 사용자에 의해 조절 되거나 사용자의 프로파일 또는 사용 습성이나 패턴들을 이용한 기계 학습(machine learning)을 통해 자동적으로 조절될 수도 있다.
도 3은 본 발명의 일실시예에 따른 사용자 선호도 정보의 신택스를 도시한 도면이고, 도 4는 본 발명의 일실시예에 따른 사용자 선호도 정보의 신택스에 대한 의미 정보를 도시한 도면이다.
그리고, 사용자 선호도 정보 파라미터는 세션 중간에 변경될 수 있고, 결정 엔진부(130)은 그 변경된 값에 따라 변경된 명령을 스케일링 엔진부(140)에 전달한다. 이때, 상기와 같은 흐름은 실시간으로 진행되며, 상기 사용자 선호도 정보의 자세한 신택스와 그 의미 정보는 도 3 및 도 4를 참조하도록 한다.
이때, 상기 사용자 선호도 정보는 사용자 선호도 수집부(120)에 의하여 수집 되어 결정 엔진부(130)로 전송되며, 결정 엔진부(130)는 상기 수신된 사용자 선호도 정보를 이용하여 최적 적응 방법을 결정할 수 있다.
다음으로, 결정 엔진부(130)는 상기 R-D 데이터에 포함된 비트율 및 상기 수집된 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정한다.
즉, 결정 엔진부(130)는 비트스트림의 전체 품질 정보를 최대화하기 위해서 각 공간계층에서 버려야 할 비트율의 양을 결정한다.
본 발명에서 비트스트림의 전체 품질 정보는 해당 비트스트림의 각각 다른 공간 계층들을 소비하는 여러 사용자들을 고려하여 결정되나, 하나의 사용자가 비트스트림을 소비하는 경우 또한 고려될 수 있다.
이때, OQ는 추출된 비트스트림의 전체 품질 정보를, N은 공간 계층의 수를,
Figure 112008011124483-pat00001
과
Figure 112008011124483-pat00002
는 각각 공간계층 i에 대해 요구된 최소 품질 정보와 최대 품질 정보를, Rc는 전체 비트스트림의 비트율 제한을 나타낸다.
또한,
Figure 112008011124483-pat00003
은 i 계층의 최대 비트율을 나타내며, 이것은 계층 i 를 소비하는데 사용되는 단말의 특성이나 네트워크에 의해서 정해질 수 있다. 즉, 적응 문제는 다음과 같이 공식화 될 수 있다.
먼저, 다음의 조건을 만족하면서 OQ를 최대화 하는 {Ri} 집합을 찾는다.
Figure 112008011124483-pat00004
그리고,
Figure 112008011124483-pat00005
그리고,
Figure 112008011124483-pat00006
이때, i=1..., N
따라서, 전체 품질 정보는 하기 수학식 2와 같이 정의될 수 있다.
Figure 112008011124483-pat00007
이때, 상기 wi는 계층 i의 가중치 값이다.
또한, 본 발명은 상기 수학식 2를 이용하여 다른 공간 계층 간의 품질 정보 조합을 조절 할 수 있는데, 이는 wi값을 변화함으로써 가능하다. 예를 들어, w1 = 1 이고 w2 = 0 인 경우, 첫번째 공간계층이 항상 가능한 최상의 품질 정보를 갖도록 적응되며, 이때, 축출은 상위 계층에서 하위 계층으로(top-down) 이루어 진다.
이러한 문제를 풀기 위해서,
Figure 112008011124483-pat00008
이 명시되지 않았을 경우,
Figure 112008011124483-pat00009
는 해당 공간계층의 최저 품질 정보와 같다고 가정할 수 있으며,
Figure 112008011124483-pat00010
가 명시되지 않았을 경우,
Figure 112008011124483-pat00011
는 해당 공간계층의 원래의 품질 정보와 동일하다고 가정할 수 있다.
본 발명의 일실시예에 따라 SVC 비디오 컨텐츠는 최소 바이트 단위로 축출될 수 있으며, 이것은 R-D 데이터가 함수로 표현된다면, 품질 정보 성능(quality performance)에 영향을 주지 않고 이산화될 수 있다는 것을 의미한다.
따라서, 상기와 같은 문제들은 동적 프로그래밍(dynamic programming)의 특정 알고리즘을 사용하여 풀 수 있다. 상기 특정 알고리즘으로는 비터비(Viterbi) 알고리즘을 예로 들 수 있는데, 본 발명에서 상기 비터비 알고리즘의 고속 근사(fast approximation) 방법을 사용할 수도 있다.
상기와 같은 모든 경우에, SVC 비트스트림의 공간 계층의 수가 많지 않을 경우, 비터비 알고리즘의 계산은 실시간으로 이루어 질 수 있다.
다음으로, 스케일링 엔진부(140)는 상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS 데이터를 축출한다.
결정 엔진부(130)는 공간 계층들의 비트율을 출력하며, 스케일링 엔진부(140)는 각각 다른 공간 계층의 FGS 데이터를 축출할 수 있다. 이때, 각 공간 계층에서 FGS 데이터는 해당 공간 계층의 비트율 예산에 맞도록 축출된다.
상기 FGS 데이터의 축출은 여러 가지 방법으로 이루어질 수 있는데, 예를 들어, 시간 계층과 상관없이 모든 타임 스탬프에서 상기 FGS 데이터는 같은 비율로 축출될 수 있다.
또 다른 예로, 본 발명에서는 상기 FGS 데이터를 시간 계층이 감소하는 순서로 서로 다른 비율로 축출하는 방법도 제시하고 있다.
이때, 상기 각 공간 계층 내 하나 이상의 FGS 데이터가 존재하는 경우, 상기 각 공간 계층 내의 FGS 데이터는 최상위 단계에서 최하위 단계 순으로 축출하는 것을 전제로 한다.
또한, 스케일링 엔진부(140)는 상기 하나 이상의 공간 계층의 FGS 데이터를 축출 가능하다.
그리고, 결정 엔진부(130)에 의하여 결정되는 최적 비트율은 적응 비트율 또는 축출된 비트율 중 어느 하나일 수 있으며, 스케일링 엔진부(140)는 상기 적응 비트율 또는 축출된 비트율 중 어느 하나에 따라 제어된다.
또한, 본 발명은 상기 하나 이상의 공간 계층에 대한 최적 비트율에 대응하지 않는 데이터가 축출된 FGS 데이터를 디코딩하는 디코딩 장치를 더 구성할 수도 있다.
즉, 상기 디코딩 장치는 FGS(Fine Granular Scalability) 데이터 추출 장치로부터 FGS 데이터를 수신하는 수신부, 상기 수신된 FGS 데이터 중 하나 이상의 공간 계층에 대한 최적 비트율에 대응하지 않는 데이터가 축출된 FGS 데이터를 디코딩 하는 디코딩부 및 상기 FGS 데이터 추출 장치로 전송하기 위해, 상기 공간 계층에 대한 사용자 선호도 정보를 유지하는 사용자 선호도 정보 유지부를 포함한다.
이때, 상기 공간 계층에 대한 사용자 선호도 정보는, 상기 비트스트림의 공간 계층인 레이어의 식별자 정보, 상기 공간 계층의 중요도 정보인 가중치 및 최소품질(minQuality) 정보 또는 최대품질(maxQuality) 정보를 포함한다.
또한, 상기 FGS 데이터 추출 장치는 전술한 바와 같이 비트스트림을 분석하여 하나 이상의 공간 계층의 R-D(Rate-Distortion) 데이터를 추출하는 R-D 데이터 추출부, 상기 각 공간 계층에 대한 사용자 선호도 정보를 수집하는 사용자 선호도 수집부, 상기 R-D 데이터에 포함된 비트율 및 상기 수집된 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정하는 결정 엔진부 및 상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS(Fine Granular Scalability) 데이터를 축출하는 스케일링 엔진부를 포함한다.
도 5는 본 발명의 일실시예에 따른 SVC 비디오의 일반화된 FGS 추출 방법을 도시한 흐름도이다.
본 발명은 FGS 데이터 추출 장치(100)를 이용하여 FGS 데이터를 추출하는 방법을 제공하고 있으며, 이를 본 발명을 이용한 시스템의 기능적 측면을 고려하여 순차적으로 설명하도록 한다.
이때, 상기 방법은 FGS 데이터 추출 장치(100)를 이용하는 방법에 준하는 내용이므로, FGS 데이터 추출 장치(100)의 기능적 요소를 모두 포함하고 있기 때문에 그에 따른 상세한 설명은 생략하여 간략히 설명하기로 한다.
먼저, R-D 데이터 추출부(110)는 비트스트림을 분석하여 하나 이상의 공간 계층의 R-D 데이터를 추출한다(S510).
또한, 상기 R-D 데이터는 상기 각 공간 계층마다 정해진 비트율에 따른 품질 정보를 포함하고 있으며, 상기 품질 정보는 상기 최소품질 정보보다 크거나 같고 최대품질 정보보다 작거나 같고, 상기 품질 정보의 합인 전체 품질 정보는 상기 각 공간 계층의 품질 정보의 가중치 합으로 결정된다.
다음으로, 사용자 선호도 수집부(120)는 상기 각 공간 계층에 대한 사용자 선호도 정보를 수집한다(S520).
이때, 상기 사용자 선호도 정보는 GUI(Graphical User Inter-face)를 통해서 사용자에 의해 조절되거나 사용자의 프로파일 또는 사용 습성 및 패턴 등을 이용한 기계 학습을 통해 자동적으로 조절 될 수 있다.
상기 사용자 선호도 정보(user preference)는 상기 비트스트림의 공간 계층인 레이어(Layer)의 식별자 정보, 상기 공간 계층의 중요도 정보인 가중치(weight) 및 상기 공간 계층의 품질 정보 중 사용자가 원하는 품질 정보의 범위인 최소품질(minQuality) 정보 또는 최대품질(maxQuality) 정보 등의 정보를 포함한다.
다음으로, 결정 엔진부(130)는 상기 R-D 데이터에 포함된 비트율 및 상기 수집된 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정한다(S530).
본 단계(S530)는 결정 엔진부(130)를 이용하여 비트스트림의 전체 품질 정보를 최대화하기 위해서 각 공간계층에서 버려야 할 비트율의 양을 결정하는 단계이다.
다음으로, 스케일링 엔진부(140)는 상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS 데이터를 축출한다(S540).
본 단계(S540)에서 결정 엔진부(130)는 공간 계층들의 비트율을 출력하며, 스케일링 엔진부(140)는 각각 다른 공간 계층의 FGS 데이터를 축출할 수 있다. 이때, 각 공간 계층에서 FGS 데이터는 해당 공간 계층의 비트율 예산에 맞도록 축출된다.
도 6은 본 발명의 일실시예에 따른 FGS 데이터의 결정 및 축출 방법을 도시한 흐름도이다.
정리하면, 본 발명은 크게 결정 과정(610)과 축출 과정(620)으로 나눌 수 있다.
이때, R-D 데이터 추출 과정도 포함되어야 하나, 오프라인에서 수행되는 경우가 많으므로 도면에서는 생략하여 설명하도록 한다.
이때, 결정 과정(610)은 R-D 데이터, 예를 들어 새로운 세그먼트, 사용자 선호도, 또는 비트율 제약 등에서의 변화를 지속적으로 확인하고 상기 수학식 1을 이용하여 최적의 솔루션을 계산 또는 재계산한다.
또한, 축출 과정(620)은 각 공간 계층의 결정된 비트율을 만족하도록 입력된 SVC 비트스트림에서 FGS 데이터를 지속적으로 축출한다.
본 발명에서 이러한 결정 과정(610)과 축출 과정(620)은 동시에 각각 수행될 수도 있다.
본 발명에 따른 실시예들은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다.　 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다.　 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.　 컴퓨터 판독 가능 기록 매체의 예에는 하드디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(Floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 　프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 그러므로, 본 발명의 범위는 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
도 1은 본 발명의 일실시예에 따른 SVC 비디오의 FGS 데이터 추출 장치의 구성을 도시한 블록도이다.
도 2는 본 발명의 일실시예에 따른 SVC 비트스트림에서 공간계층의 예를 도시한 도면이다.
도 3은 본 발명의 일실시예에 따른 사용자 선호도 정보의 신택스를 도시한 도면이다.
도 4는 본 발명의 일실시예에 따른 사용자 선호도 정보의 신택스에 대한 의미 정보를 도시한 도면이다.
도 5는 본 발명의 일실시예에 따른 SVC 비디오의 FGS 추출 방법을 도시한 흐름도이다.
도 6은 본 발명의 일실시예에 따른 FGS 데이터의 결정 및 축출 방법을 도시한 흐름도이다.
<도면의 주요 부분에 대한 부호의 설명>
100: FGS 데이터 추출 장치
110: R-D 데이터 추출부
120: 사용자 선호도 수집부
130: 결정 엔진부
140: 스케일링 엔진부

Claims (20)

  1. 비트스트림을 분석하여 하나 이상의 공간 계층마다 정해진 비트율에 따른 품질 정보를 포함하는 R-D(Rate-Distortion) 데이터를 추출하는 R-D 데이터 추출부;
    상기 각 공간 계층에 대한 사용자 선호도 정보를 수집하는 사용자 선호도 수집부;
    상기 R-D 데이터에 포함된 상기 비트율 및 상기 수집된 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정하는 결정 엔진부; 및
    상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS(Fine Granular Scalability) 데이터를 축출하는 스케일링 엔진부
    를 포함하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  2. 제1항에 있어서,
    상기 사용자 선호도 정보는,
    상기 비트스트림의 공간 계층인 레이어의 식별자 정보;
    상기 공간 계층의 중요도 정보인 가중치; 및
    사용자 요청 정보에 따라 결정되는 최소품질(minQuality) 정보 또는 최대품질(maxQuality) 정보
    를 포함하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  3. 제2항에 있어서,
    상기 품질 정보는 상기 최소품질 정보보다 크거나 같고 최대품질 정보보다 작거나 같으며,
    상기 품질 정보의 합인 전체 품질 정보는 상기 각 공간 계층의 품질 정보의 가중치 합으로 결정되는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  4. 제3항에 있어서,
    상기 R-D 데이터 추출부는 상기 각 공간 계층 중 낮은 공간 계층의 비트율 및 해당 공간 계층의 비트율에 따른 품질 정보를 추출하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  5. 제1항에 있어서,
    상기 R-D 데이터는 이산 형태의 샘플링 포인트 또는 연속 형태의 분석 함수 중 어느 하나로 제공되는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  6. 제1항에 있어서,
    상기 R-D 데이터의 품질 정보는 하나 이상의 방식으로 결정되는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  7. 제3항에 있어서,
    상기 결정 엔진부는 동적 프로그램의 특정 알고리즘에 의하여 상기 전체 품질 정보를 결정하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  8. 제3항에 있어서,
    상기 결정 엔진부는 상기 사용자 선호도 정보의 레이어의 식별자 정보, 가중치, 최소품질 정보 또는 최대품질 정보 중 어느 하나 이상에 의하여 제약된 정보를 상기 사용자 선호도 추출부로부터 수신하여 추출하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  9. 제3항에 있어서,
    상기 사용자 선호도 정보에 따라 상기 결정 엔진부의 결과값이 변경되는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  10. 제1항에 있어서,
    상기 스케일링 엔진부는 상기 하나 이상의 공간 계층의 FGS 데이터를 동시에 축출하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  11. 제1항에 있어서,
    상기 결정 엔진부에 의하여 결정되는 최적 비트율은 적응 비트율 또는 축출된 비트율 중 어느 하나이며,
    상기 스케일링 엔진부는 상기 적응 비트율 또는 축출된 비트율 중 어느 하나에 따라 제어되는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  12. 제10항에 있어서,
    상기 스케일링 엔진부는 상기 각 공간 계층의 최상위 FGS 데이터 계층에서 최하위 FGS 데이터 계층순으로 FGS 데이터를 축출하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  13. 제1항에 있어서,
    상기 수신된 비트스트림은 스케일러블 비디오 코딩 비트스트림의 구조 전체를 포함하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  14. 제1항에 있어서,
    상기 FGS 데이터 추출 장치는 실시간 또는 비실시간으로 정보를 송수신하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 추출 장치.
  15. FGS(Fine Granular Scalability) 데이터 추출 장치로부터 FGS 데이터를 수신하는 수신부;
    상기 수신된 FGS 데이터 중 하나 이상의 공간 계층에 대한 최적 비트율에 대응하지 않는 데이터가 축출된 FGS 데이터를 디코딩 하는 디코딩부; 및
    상기 FGS 데이터 추출 장치로 전송하기 위해, 상기 공간 계층에 대한 사용자 선호도 정보를 유지하는 사용자 선호도 정보 유지부
    를 포함하고,
    상기 FGS 데이터는,
    비트스트림을 분석하여 하나 이상의 공간 계층마다 정해진 비트율에 따른 품질 정보를 포함하는 R-D(Rate-Distortion) 데이터 및 상기 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정하고, 상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS(Fine Granular Scalability) 데이터를 축출하여 결정되는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 디코딩 장치.
  16. 제15항에 있어서,
    상기 공간 계층에 대한 사용자 선호도 정보는,
    상기 비트스트림의 공간 계층인 레이어의 식별자 정보;
    상기 공간 계층의 중요도 정보인 가중치; 및
    최소품질(minQuality) 정보 또는 최대품질(maxQuality) 정보
    를 포함하는 것을 특징으로 하는 SVC 비디오의 FGS 데이터 디코딩 장치.
  17. 비트스트림을 분석하여 하나 이상의 공간 계층마다 정해진 비트율에 따른 품질 정보를 포함하는 R-D(Rate-Distortion) 데이터를 추출하는 단계;
    상기 각 공간 계층에 대한 사용자 선호도 정보를 수집하는 단계;
    상기 R-D 데이터에 포함된 상기 비트율 및 상기 수집된 사용자 선호도 정보를 이용하여 상기 각 공간 계층에 대한 최적 비트율을 결정하는 단계; 및
    상기 각 공간 계층에 대한 최적 비트율에 대응하지 않는 FGS 데이터를 축출하는 단계
    를 포함하는 것을 특징으로 하는 SVC 비디오의 FGS 추출 방법.
  18. 제17항에 있어서,
    상기 사용자 선호도 정보는,
    상기 비트스트림의 공간 계층인 레이어의 식별자 정보;
    상기 공간 계층의 중요도 정보인 가중치; 및
    최소품질(minQuality) 정보 또는 최대품질(maxQuality) 정보
    를 포함하는 것을 특징으로 하는 SVC 비디오의 FGS 추출 방법.
  19. 제18항에 있어서,
    상기 품질 정보는 상기 최소품질 정보보다 크거나 같고 최대품질 정보보다 작거나 같으며,
    상기 품질 정보의 합인 전체 품질 정보는 상기 각 공간 계층의 품질 정보의 가중치 합으로 결정되는 것을 특징으로 하는 SVC 비디오의 FGS 추출 방법.
  20. 제19항에 있어서,
    상기 공간 계층의 품질 정보는 상기 각 공간 계층 중 낮은 공간 계층의 비트율, 해당 공간 계층의 비트율 및 사용자 선호도 정보에 따라 결정되는 것을 특징으 로 하는 SVC 비디오의 FGS 추출 방법.
KR1020080013494A 2007-12-18 2008-02-14 사용자 선호도를 이용한 ｓｖｃ 비디오의 일반화된 ｆｇｓ데이터 추출 장치 및 방법 KR100939915B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US12/809,366 US20110235700A1 (en) 2007-12-18 2008-10-07 Apparatus and method for generalized fgs truncation of svc video with user preference
PCT/KR2008/005884 WO2009078560A1 (en) 2007-12-18 2008-10-07 Apparatus and method for generalized fgs truncation of svc video with user preference

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020070133225 2007-12-18
KR20070133225 2007-12-18

Publications (2)

Publication Number Publication Date
KR20090066176A KR20090066176A (ko) 2009-06-23
KR100939915B1 true KR100939915B1 (ko) 2010-02-03

Family

ID=40994294

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080013494A KR100939915B1 (ko) 2007-12-18 2008-02-14 사용자 선호도를 이용한 ｓｖｃ 비디오의 일반화된 ｆｇｓ데이터 추출 장치 및 방법

Country Status (2)

Country Link
US (1) US20110235700A1 (ko)
KR (1) KR100939915B1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150054752A (ko) * 2012-09-09 2015-05-20 엘지전자 주식회사 영상 복호화 방법 및 이를 이용하는 장치
US11140445B1 (en) * 2020-06-03 2021-10-05 Western Digital Technologies, Inc. Storage system and method for storing scalable video

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020087810A (ko) * 2001-05-16 2002-11-23 주식회사 넷앤티비 미세입자 스케일러블 코딩의 적응적 선택 강화 적용 방법
KR20050077874A (ko) * 2004-01-28 2005-08-04 삼성전자주식회사 스케일러블 비디오 스트림 송신 방법 및 이를 이용한 장치
KR20070039459A (ko) * 2005-10-07 2007-04-12 한국전자통신연구원 스케일러블 비디오 코딩 기술이 적용된 비트스트림적응변환 장치 및 방법

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8244895B2 (en) * 2002-07-15 2012-08-14 Hewlett-Packard Development Company, L.P. Method and apparatus for applying receiving attributes using constraints

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020087810A (ko) * 2001-05-16 2002-11-23 주식회사 넷앤티비 미세입자 스케일러블 코딩의 적응적 선택 강화 적용 방법
KR20050077874A (ko) * 2004-01-28 2005-08-04 삼성전자주식회사 스케일러블 비디오 스트림 송신 방법 및 이를 이용한 장치
KR20070039459A (ko) * 2005-10-07 2007-04-12 한국전자통신연구원 스케일러블 비디오 코딩 기술이 적용된 비트스트림적응변환 장치 및 방법

Also Published As

Publication number Publication date
KR20090066176A (ko) 2009-06-23
US20110235700A1 (en) 2011-09-29

Similar Documents

Publication Publication Date Title
Zhang et al. Video super-resolution and caching—An edge-assisted adaptive video streaming solution
KR100848310B1 (ko) 스케일러블 비디오 코딩 기술이 적용된 비트스트림적응변환 장치 및 방법
KR101478656B1 (ko) 적응 스트리밍 시스템에서 비트 전송률 조정
KR101103187B1 (ko) 복잡도 인식 인코딩
US20130304934A1 (en) Methods and systems for controlling quality of a media session
CN103108257B (zh) 一种用于嵌入式终端改善流媒体播放质量的方法及***
CN112953922B (zh) 一种自适应流媒体控制方法、***、计算机设备及应用
JP2009525704A (ja) 品質およびレート情報に基づいてマルチメディア内容をサイズ変更するための方法およびシステム
CN102740159A (zh) 媒体文件存储格式和自适应传送***
KR20050007348A (ko) 유틸리티 기능 디스크립터에 기초하는 최적의 비디오트랜스코딩 방법 및 시스템
CN113115067A (zh) 直播***、视频处理方法及相关装置
CN112714315A (zh) 基于全景视频的分层缓冲方法及***
KR100939915B1 (ko) 사용자 선호도를 이용한 ｓｖｃ 비디오의 일반화된 ｆｇｓ데이터 추출 장치 및 방법
US9258557B2 (en) Rate optimization for scalable video transmission
CN115701709A (zh) 视频编码方法、装置、计算机可读介质及电子设备
Yang et al. Sur-driven video coding rate control for jointly optimizing perceptual quality and buffer control
Zhang et al. A QOE-driven approach to rate adaptation for dynamic adaptive streaming over http
JP7494265B2 (ja) アダプティブビットレートアルゴリズムのための動的パラメータ調整
CN108900874B (zh) 一种基于svc-dash框架的流媒体自适应请求方法及其装置
WO2009078560A1 (en) Apparatus and method for generalized fgs truncation of svc video with user preference
Shi et al. Learning-based fuzzy bitrate matching at the edge for adaptive video streaming
Khan A Taxonomy for Deep Learning in Dynamic Adaptive Video Streaming Over HTTP
Wen et al. Guest editorial special issue on visual computing in the cloud: mobile computing
KR20070061150A (ko) 사용자 히스토리 정보 및 사용자 환경 정보에 따른트랜스코딩 장치 및 그 방법
Xie et al. DASH sub-representation with temporal QoE driven layering

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee