KR20130057585A - 입체 영상의 장면 전환 검출 장치 및 방법 - Google Patents

입체 영상의 장면 전환 검출 장치 및 방법 Download PDF

Info

Publication number
KR20130057585A
KR20130057585A KR1020110123373A KR20110123373A KR20130057585A KR 20130057585 A KR20130057585 A KR 20130057585A KR 1020110123373 A KR1020110123373 A KR 1020110123373A KR 20110123373 A KR20110123373 A KR 20110123373A KR 20130057585 A KR20130057585 A KR 20130057585A
Authority
KR
South Korea
Prior art keywords
scene
feature points
frame
stereoscopic
scene change
Prior art date
Application number
KR1020110123373A
Other languages
English (en)
Other versions
KR101667011B1 (ko
Inventor
우대식
박재범
전병기
김종대
정원석
Original Assignee
에스케이플래닛 주식회사
시모스 미디어텍(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이플래닛 주식회사, 시모스 미디어텍(주) filed Critical 에스케이플래닛 주식회사
Priority to KR1020110123373A priority Critical patent/KR101667011B1/ko
Priority to PCT/KR2012/008237 priority patent/WO2013077546A1/ko
Publication of KR20130057585A publication Critical patent/KR20130057585A/ko
Application granted granted Critical
Publication of KR101667011B1 publication Critical patent/KR101667011B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/49—Segmenting video sequences, i.e. computational techniques such as parsing or cutting the sequence, low-level clustering or determining units such as shots or scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142—Detection of scene cut or scene change
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074—Stereoscopic image analysis
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074—Stereoscopic image analysis
    • H04N2013/0081—Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 입체 영상의 장면 전환 검출 장치 및 방법에 관한 것으로서, 입력되는 영상에서 장면 전환점을 검출하는 장면 전환점 검출 모듈, 상기 검출된 장면 전환점의 마지막 프레임에서 특징점을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 입체 장면 연속성 점수 계산 모듈, 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 장면 연속성 여부 판단 모듈을 포함한다.
본 발명에 따르면, 영상의 특징을 이용하여 통상적인 장면전환점에서 이를 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하지를 결정하여, 입체의 관점에서 장면전환점의 연속성 유무를 결정할 수 있다.

Description

입체 영상의 장면 전환 검출 장치 및 방법{Apparatus and Method for detecting scene change of stereo-scopic image}
본 발명은 입체 영상의 장면 전환 검출 장치 및 방법에 관한 것으로서, 보다 상세하게는 입력되는 영상에서 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산한 후, 상기 입체 장면 연속성 점수를 기 설정된 임계치와 비교하여 입체 장면의 연속성 여부를 판단하는 입체 영상의 장면 전환 검출 장치 및 방법에 관한 것이다.
일반적으로 장면전환(Scene Change)이란 연속되는 동영상의 장면에서 한 장면이 끝난 후, 다른 장면으로 동영상이 다시 시작되는 현상을 말한다. 장면전환은 통상 임의의 장면이 점차적으로 사라지다가 다시 다른 장면이 서서히 나타나는 페이드-아웃(fade out) 및 페이드-인(fade in), 임의의 두 장면이 서로 다른 방향에서 시간을 두고 천천히 겹치는 오버랩(overlap), 단순 장면전환 등으로 구분하기도 한다.
종래의 장면전환점의 검출은 기본적으로 영상의 밝기나 Histogram 등과 같은 수치를 기준으로 장면 전환점을 분리한다. 대부분의 이러한 기준은 도 1의 Histogram 결과와 같이 수치적으로 불연속인 부분을 장면전환점으로 선정하는 것이 타당하지만, 입체변환의 경우에는 시각적으로 객체의 연속성이 있다면 이를 하나의 연속적인 장면으로 분리하여야 하는 경우가 많다.
즉 일반적인 장면전환점과는 다르게 연속적인 장면에서 특정 객체가 계속 움직이는 경우, 시청자는 이 객체의 입체 특성을 유지하여야 입체의 불편함이 작다.
이것이 다른 장면전환점으로 구별되어서 다른 장면(Scene)으로 분리된다면 서로 다른 입체변환방식이 적용될 수 있고, 따라서 연속적인 장면임에도 불구하고 입체의 특성이 변화되어 시각적인 입체의 불편함이 증가할 수 있다.
물론 수작업을 통해서 입체변환 작업을 한다면 특별히 장면전환점의 구별없이 사람이 시각적으로 입체의 특성을 고려하기 때문에 문제가 없지만, 자동으로 영상처리를 통해서 입체변환을 수행하여야 할 경우에는 장면전환점 단위로 입체변환을 해야 효율적이기 때문에 이러한 장면전환점은 매우 중요하다.
국내공개특허 제2009-0037288호(2009.04.15), 발명의 명칭: 동영상 부호화 데이터율 제어를 위한 실시간 장면 전환검출 방법, 이를 이용한 영상통화 품질 향상 방법 및 영상 통화 시스템
본 발명은 상술한 문제점을 해결하기 위하여 안출된 것으로서, 본 발명의 목적은 입체 변환의 관점에서 최적의 장면전환점을 검출할 수 있는 입체 영상의 장면 전환 검출 장치 및 방법을 제공하는데 있다.
본 발명의 다른 목적은 영상의 특징을 이용하여 통상적인 장면전환점에서 이를 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하지를 결정하여, 입체의 관점에서 장면전환점의 연속성 유무를 결정할 수 있는 입체 영상의 장면 전환 검출 장치 및 방법을 제공하는데 있다.
본 발명의 일 측면에 따르면, 입력되는 영상에서 장면 전환점을 검출하는 장면 전환점 검출 모듈, 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 입체 장면 연속성 점수 계산 모듈, 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 장면 연속성 여부 판단 모듈을 포함하는 입체 영상의 장면 전환 검출 장치가 제공된다.
상기 장면 전환점 검출 모듈은 상관(Correlation), 통계적 순차 분석(Statistical sequential analysis), 히스토그램(Histogram) 중 적어도 하나의 방법을 이용하여 장면 전환점을 검출한다.
상기 입체 장면 연속성 점수 계산 모듈은, 상기 장면 전환점 검출모듈에서 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 특징점 추출부, 상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 특징점 매칭부, 상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하고, 상기 구해진 SAD를 이용하여 입체 장면 연속성 점수를 구하는 입체 장면 연속성 점수 계산부를 포함한다.
상기 입체 장면 연속성 점수 계산모듈은 다음의 수학식을 이용하여 입체 장면 연속성 점수(C(s))를 구한다.
[수학식]
C(s)=(추적된 특징점 개수 / 총 특징점 개수) * (Σ(1/SAD(fn,bm))
여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미함.
상기 SAD(fn,bm)는 다음의 수학식을 이용하여 구한다.
[수학식]
SAD(fn,bm)= Σ abs( Frame(fn,bm) pixel (i)- Frame(fn+1,bm) pixel(i))
여기서, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록, i는 해당 블록의 각 pixel의 순서를 의미함.
상기 장면 연속성 여부 판단 모듈은 상기 입체 장면 연속성 점수가 상기 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단한다.
본 발명의 다른 측면에 따르면, 장면 전환 검출 장치가 입체 영상의 장면 전환을 검출하는 방법에 있어서, (a) 입력되는 영상에서 장면 전환점을 검출하는 단계, (b) 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 단계, (c) 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하여 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 단계를 포함하는 입체 영상의 장면 전환 검출 방법이 제공된다.
상기 (b) 단계는, 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 단계, 상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 단계, 상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하는 단계, 상기 구해진 SAD와 상기 추적된 특징점 개수를 이용하여 입체 장면 연속성 점수를 계산하는 단계를 포함한다.
상기 입체 장면 연속성 점수(C(s))는 다음의 수학식을 이용하여 구해진다.
[수학식]
C(s)=(추적된 특징점 개수 / 총 특징점 개수) * (Σ(1/SAD(fn,bm))
여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미함.
상기 (c) 단계는, 상기 입체 장면 연속성 점수가 상기 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단한다.
본 발명의 또 다른 측면에 따르면, (a) 입력되는 영상에서 장면 전환점을 검출하는 단계, (b) 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 단계, (c) 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하여 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 단계를 포함하는 입체 영상의 장면 전환 검출 방법이 프로그램으로 기록되고 전자 장치에서 판독 가능한 기록매체가 제공된다.
본 발명에 따르면, 입체 변환의 관점에서 최적의 장면전환점을 검출할 수 있다.
또한, 영상의 특징을 이용하여 통상적인 장면전환점에서 이를 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하지를 결정하여, 입체의 관점에서 장면전환점의 연속성 유무를 결정할 수 있다.
도 1은 종래의 장면전환점의 수치를 표현한 도면.
도 2는 본 발명에 따른 입체 영상의 장면 전환 검출 장치의 구성을 개략적으로 나타낸 블럭도.
도 3은 본 발명에 따른 프레임간 SAD를 구하는 방법을 설명하기 위한 예시도.
도 4는 본 발명에 따른 입체 영상의 장면전환 검출 장치가 장면의 연속성 여부를 검사하는 방법을 나타낸 흐름도.
도 5는 본 발명에 따른 장면전환 검출 장치가 입체 장면 연속성 점수를 구하는 방법을 나타낸 흐름도.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 보다 상세히 설명하기로 한다. 첨부 도면을 참조하여 설명함에 있어 동일하거나 대응하는 구성 요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
도 2는 본 발명에 따른 입체 영상의 장면 전환 검출 장치의 구성을 개략적으로 나타낸 블록도, 도 3은 본 발명에 따른 프레임간 SAD를 구하는 방법을 설명하기 위한 예시도이다.
도 2를 참조하면, 입체 영상의 장면 전환 검출 장치(200)는 장면 전환점 검출 모듈(210), 입체 장면 연속성 점수 계산 모듈(220), 장면 연속성 여부 판단 모듈(230)을 포함한다.
상기 장면 전환점 검출모듈(210)은 입력되는 영상에서 장면 전환점을 검출한다. 즉, 상기 장면 전환점 검출모듈(210)은 영상의 밝기, 상관(Correlation), 통계적 순차 분석(Statistical sequential analysis), 히스토그램(Histogram) 등의 방법을 이용하여 입력되는 영상의 장면 전환점을 구한다.
상기 장면 전환점 검출모듈(210)이 장면 전환점을 검출하는 기술은 종래의 기술을 따르므로 그에 대한 상세한 설명은 생략하기로 한다.
상기 입체 장면 연속성 점수 계산모듈(220)은 상기 장면 전환점 검출모듈(210)에서 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 이후 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산한다. 여기서, 상기 장면 전환점의 마지막 프레임은 장면 전환 전의 마지막 프레임을 의미하고, 상기 장면 전환된 영상의 첫번째 프레임은 장면 전환 후의 첫번째 프레임을 의미하며, 장면 전환 전과 후는 장면 전환점에 의해 구분된다.
상기와 같은 역할을 수행하는 입체 장면 연속성 점수 계산 모듈(220)은 특징점 추출부(222), 특징점 매칭부(224), 입체 장면 연속성 점수 계산부(226)를 포함한다.
상기 특징점 추출부(222)는 상기 장면 전환점 검출모듈(210)에서 검출된 장면 전환점의 마지막 프레임에서 Harris의 코너 추출 방법, SIFT(Scale Invariant Feature Transform) 알고리즘 등을 이용하여 특징점을 추출한다. 여기서, 상기 특징점은 에지(edge) 또는 코너(corner) 등을 말하는 것으로 미리 정의되어 있을 수 있다.
상기 특징점 추출부(222)는 장면 전환점 전후의 영상들간의 객체의 연관성을 찾기 위하여 장면 전환점의 마지막 프레임에서 특징점을 추출하게 된다.
상기 특징점 매칭부(224)는 상기 장면 전환점의 마지막 프레임에서 추출된 특징점들을 장면 전환된 영상의 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구한다.
예를 들어, 장면 전환점 이전의 마지막 프레임에서 추출된 특징점이 특징점 1, 특징점 2, 특징점 3, 특징점 4, 특징점 5이고, 상기 추출된 특징점들을 장면 전환점 이후의 첫번째 프레임에 매칭한 결과 특징점 1, 특징점 2, 특징점 4가 추적된 경우, 상기 특징점 매칭부(224)는 "3"을 추적된 특징점 개수로 구하게 된다.
상기 입체 장면 연속성 점수 계산부(226)는 상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하고, 상기 구해진 SAD를 이용하여 입체 장면 연속성 점수를 구한다. 여기서, 상기 미리 정의된 블록은 특징점을 기준으로 주변 화소들을 포함하는 미리 정해진 일정 크기의 블록을 의미한다. 상기 입체 장면 연속성 점수는 상기 마지막 프레임에서 추출된 특징점을 기준으로 다음으로 이어질 장면 전환된 영상에서 상기 특징점들이 어느 정도 유지되는지를 나타내는 점수를 의미한다.
상기 입체 장면 연속성 점수 계산부(226)는 수행하고자 하는 특징점의 개수에 대해서 실제 추적이 가능한 특징점의 개수와 추적으로 얻어진 특징점의 신뢰도를 고려하여 Scene(s)와 Scene(s+1)의 장면 연속성에 대한 점수를 구한다. 여기서, Scene(s)은 장면 전환점에 해당하는 장면, Scene(s+1)은 장면 전환점 이후의 장면을 말한다.
따라서, 상기 입체 장면 연속성 점수 계산부(226)는 수학식 1을 이용하여 입체 장면 연속성 점수(C(s))를 구하게 된다.
Figure pat00001
여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수를 말하고, 상기 추적된 특징점 개수는 상기 특징점 매칭부에서 구해진 장면 전환점 이후의 첫번째 프레임에서 추적된 특징점 개수를 말한다.
상기 F(n)은 각 특징점의 신뢰도를 말하고, n은 추적이 가능한 특징점의 인덱스(index), s는 각 Scene의 index를 말한다.
상기 각 특징점의 신뢰도(F(n))는 임의 특징점 n에 대해서, Scene(s)의 마지막 프레임에서 기존 방식에 따라서 장면 전환된 다음 Scene(s+1)의 첫번째 프레임에서 추적할 때 추적의 용이함을 의미한다. 즉, 각 특징점의 신뢰도는 특징점을 기준으로 형성된 영상의 일부 영역이 추적하고자 하는 다음 영상에서 얼마나 비슷한 형태로 존재하며 근접하였는지를 표현하는 것이다.
만약 이전 영상과 관계없이 완전히 다른 영상으로 장면 전환이 이루어졌다면, 유사한 특징을 가지는 영역을 찾을 수가 없을 것이고 이것은 근본적으로 추적이 불가능하기 때문에 추적에서 제외된다. 그러나 일정 정도 이상의 유사성이 발견된다면, 발견된 유사성의 척도를 SAD(sum of absolute difference)를 이용하여 구한다.
따라서, 상기 입체 장면 연속성 점수 계산부(226)은 SAD를 이용하여 입체 장면 연속성 점수를 구하게 된다.
이때, 상기 입체 장면 연속성 점수 계산부(226)는 수학식 2를 이용하여 SAD를 구한다.
Figure pat00002
여기서, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록, i는 해당 블록의 각 pixel의 순서, abs는 절대치를 의미한다.
상기 SAD(sum of absolute difference)는 블록내 모든 pixel의 절대 차이의 합으로, 결과적으로 프레임 간 같은 위치의 블록의 차이점을 표현한다. 따라서, SAD 값이 크다는 의미는 영상의 변화가 크다는 것을 의미한다.
따라서, 상기 입체 장면 연속성 점수 계산부(226)는 특징점을 중심으로 해당 프레임을 미리 정해진 일정 개수의 블록(block)으로 나누고, 각각의 블록에 대해 현재 프레임과 이전 프레임간의 SAD를 각각 구한다.
상기 입체 장면 연속성 점수 계산부(226)가 SAD를 구하는 방법에 대해 도 3을 참조하면, 현재 프레임이 Frame(fn)이고, 이전 프레임이 Frame(fn-1), 이후 프레임이 Frame(fn+1)인 경우, 상기 입체 장면 연속성 점수 계산부(226)는 각 프레임에서 동일한 위치의 블록(bm)간의 SAD 즉, 현재 프레임 블록 bm과 이전 프레임 블록 bm간의 SAD(fn-1,bm), 현재 프레임과 이후 프레임 블록 bm간의 SAD(fn,bm)을 각각 구한다.
따라서, 현재 프레임이 Frame(fn)이고, 이후 프레임이 Frame(fn+1)인 경우, 상기 입체 장면 연속성 점수 계산부(226)는 각 프레임에서 동일한 위치의 블록(bm)간의 SAD 즉, 현재 프레임 블록 bm과 이후 프레임 블록 bm간의 SAD(fn,bm)을 각각 구한다.
상기와 같이 상기 입체 장면 연속성 점수 계산부(226)는 장면전환점에서 선정된 특징점들에 대해 사전에 정의된 공간상의 크기만큼 각 블록에 대한 SAD을 구한다. 상기 구해진 SAD 값이 임계값 이상이면 이것은 현실적으로 추적의 의미가 없는 것이므로 특징점의 추적 개수에서 제외하고, SAD 값이 임계값 이상이 아니면 추적이 가능하다. 따라서, 실제 SAD 값이 작을수록 유사성은 커지고 신뢰도가 커진다. 즉, SAD가 작을수록 신뢰도는 커지는 역비계 관계이다.
따라서, 상기 입체 장면 연속성 점수 계산부(226)는 각 특징점의 신뢰도(F(n))를 SAD를 이용하여 구할 수 있다.
그러므로, 상기 입체 장면 연속성 점수 계산부(226)는 수학식 1을 수학식 3과 같이 표현할 수 있다.
Figure pat00003
여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미한다.
상기와 같이 구성된 입체 영상 연속성 점수 계산 모듈(220)은 상기 마지막 프레임의 특징점과 장면 전환된 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하고, 상기 구해진 SAD를 이용하여 입체 장면 연속성 점수를 구한다.
또한, 상기 입체 영상 연속성 점수 계산모듈(220)은 장면 전환점의 좌, 우(즉, 장면전환점 이전 또는 이후) 최소 1 프레임에서 여러 프레임에 대해서 특징점 매칭을 수행하여 입체 장면 연속성 점수를 보정할 수 있다.
상기 장면 연속성 여부 판단 모듈(230)은 상기 입체 장면 연속성 점수 계산모듈(220)에서 구해진 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단한다.
즉, 상기 장면 연속성 여부 판단 모듈(230)은 상기 입체 장면 연속성 점수가 미리 설정된 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단한다.
다시 말하면, 상기 장면 연속성 여부 판단 모듈(230)은 상기 입체 장면 연속성 점수가 임계치 이상이면, 상기 장면 전환점 검출모듈(210)에서 기존의 방식으로 분리된 2개의 Scene(s)과 Scene(s+1)은 입체영상에서 하나의 Scene으로 합쳐서 처리하게 된다.
상기와 같이 구성된 입체 영상의 장면 전환 검출 장치(200)는 자동으로 입체변환을 위한 장면전환점의 검출을 고려한 것으로, 기본적으로는 기존의 장면전환점을 먼저 선정하고 상기와 같은 추가적인 검출을 수행하여 장면전환을 해야 할 지의 여부를 검토하는 방식으로 이루어진다.
또한, 상기 입체 영상의 장면 전환 검출장치(200)는 영상의 특징을 이용하여 통상적인 장면전환점에서 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하여야 할지를 결정하는 기준을 정의한다.
도 4는 본 발명에 따른 입체 영상의 장면전환 검출 장치가 장면의 연속성 여부를 검사하는 방법을 나타낸 흐름도이다.
도 4를 참조하면, 입체 영상의 장면전환 검출장치는 입력되는 영상에 대해 장면 전환점을 검출한다(S302). 즉, 상기 장면전환 검출장치는 상관(Correlation), 통계적 순차 분석(Statistical sequential analysis), 히스토그램(Histogram) 등의 방법을 이용하여 입력되는 영상의 장면 전환점을 검출한다.
상기 S302의 수행 후, 상기 장면 전환 검출 장치는 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고(S304), 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점들을 이용하여 입체 장면 연속성 점수를 구한다(S306). 상기 장면 전환 검출 장치가 입체 장면 연속성 점수를 구하는 방법에 대한 상세한 설명은 도 5를 참조하기로 한다.
상기 S306의 수행 후, 상기 장면 전환 검출 장치는 상기 구해진 입체 장면 연속성 점수가 기 설정된 임계치 이상인지의 여부를 판단한다(S308).
상기 S308의 판단결과 상기 입체 장면 연속성 점수가 임계치 이상이면, 상기 장면전환 검출 장치는 해당 프레임을 연속적인 장면으로 판단한다(S310).
만약, 상기 S308의 판단결과 상기 입체 장면 연속성 점수가 임계치 이상이 아니면, 상기 장면전환검출 장치는 해당 프레임을 장면전환이 이루어지는 것으로 판단한다(S312).
도 5는 본 발명에 따른 장면전환 검출 장치가 입체 장면 연속성 점수를 구하는 방법을 나타낸 흐름도이다.
도 5를 참조하면, 장면전환 검출 장치는 장면전환점이 검출된 마지막 프레임의 특징점들이 장면전환점 이후의 첫번째 프레임에서 추적된 특징점 개수를 구한다(S402). 즉, 상기 장면 전환 검출 장치는 상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구한다.
상기 S402의 수행 후, 상기 장면전환 검출 장치는 상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구한다(S404).
즉, 상기 장면 전환 검출 장치는 수학식 2를 이용하여 SAD를 구한다.
상기 S404의 수행 후, 상기 장면 전환 검출 장치는 상기 구해진 SAD와 상기 추적된 특징점 개수를 이용하여 입체 장면 연속성 점수를 계산한다(S406).
즉, 상기 장면전환 검출 장치는 수학식 3을 이용하여 입체 장면 연속성 점수를 구하게 된다.
한편 본 발명은 컴퓨터로 읽을 수 있는 기록 매체에 컴퓨터가 읽을 수 있는 코드로 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다.
이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
본 발명은 영상의 특징을 이용하여 통상적인 장면전환점에서 이를 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하지를 결정하여, 입체의 관점에서 장면전환점의 연속성 유무를 결정할 수 있는 입체 영상의 장면 전환 검출 장치 및 방법에 적용할 수 있다.
200 : 장면 전환 검출 장치 210 : 장면 전환점 검출모듈
220 : 입체 장면 연속성 점수 계산모듈 222: 특징점 추출부
224 : 특징점 매칭부 226 : 입체 장면 연속성 점수 계산부
230 : 장면 연속성 여부 판단모듈

Claims (11)

  1. 입력되는 영상에서 장면 전환점을 검출하는 장면 전환점 검출 모듈;
    상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 입체 장면 연속성 점수 계산 모듈; 및
    상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 장면 연속성 여부 판단 모듈;
    을 포함하는 입체 영상의 장면 전환 검출 장치.
  2. 제1항에 있어서,
    상기 장면 전환점 검출 모듈은 상관(Correlation), 통계적 순차 분석(Statistical sequential analysis), 히스토그램(Histogram) 중 적어도 하나의 방법을 이용하여 장면 전환점을 검출하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 장치.
  3. 제1항에 있어서,
    상기 입체 장면 연속성 점수 계산 모듈은,
    상기 장면 전환점 검출모듈에서 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 특징점 추출부;
    상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 특징점 매칭부; 및
    상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하고, 상기 구해진 SAD를 이용하여 입체 장면 연속성 점수를 구하는 입체 장면 연속성 점수 계산부를 포함하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 장치.
  4. 제3항에 있어서,
    상기 입체 장면 연속성 점수 계산부는 다음의 수학식을 이용하여 입체 장면 연속성 점수(C(s))를 구하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 장치.
    [수학식]
    C(s)=(추적된 특징점 개수 / 총 특징점 개수) * (Σ(1/SAD(fn,bm))
    여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미함.
  5. 제4항에 있어서,
    상기 SAD(fn,bm)는 다음의 수학식을 이용하여 구하는 것을 특징으로 하는 입에 영상의 장면 전환 검출 장치.
    [수학식]
    SAD(fn,bm)= Σ abs( Frame(fn,bm) pixel (i)- Frame(fn+1,bm) pixel(i))
    여기서, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록, i는 해당 블록의 각 pixel의 순서, abs는 절대치를 의미함.
  6. 제1항에 있어서,
    상기 장면 연속성 여부 판단 모듈은 상기 입체 장면 연속성 점수가 상기 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 장치.
  7. 장면 전환 검출 장치가 입체 영상의 장면 전환을 검출하는 방법에 있어서,
    (a) 입력되는 영상에서 장면 전환점을 검출하는 단계;
    (b) 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 단계; 및
    (c) 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 단계;
    를 포함하는 입체 영상의 장면 전환 검출 방법.
  8. 제7항에 있어서,
    상기 (b) 단계는,
    상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 단계;
    상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 단계;
    상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하는 단계; 및
    상기 구해진 SAD와 상기 추적된 특징점 개수를 이용하여 입체 장면 연속성 점수를 계산하는 단계를 포함하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 방법.
  9. 제8항에 있어서,
    상기 입체 장면 연속성 점수(C(s))는 다음의 수학식을 이용하여 구해지는 것을 특징으로 하는 입체 영상의 장면 전환 검출 방법.
    [수학식]
    C(s)=(추적된 특징점 개수 / 총 특징점 개수) * (Σ(1/SAD(fn,bm))
    여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미함.
  10. 제7항에 있어서,
    상기 (c) 단계는,
    상기 입체 장면 연속성 점수가 상기 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 방법.
  11. (a) 입력되는 영상에서 장면 전환점을 검출하는 단계;
    (b) 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 단계; 및
    (c) 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하여 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 단계를 포함하는 입체 영상의 장면 전환 검출 방법이 프로그램으로 기록되고 전자 장치에서 판독 가능한 기록매체.
KR1020110123373A 2011-11-24 2011-11-24 입체 영상의 장면 전환 검출 장치 및 방법 KR101667011B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020110123373A KR101667011B1 (ko) 2011-11-24 2011-11-24 입체 영상의 장면 전환 검출 장치 및 방법
PCT/KR2012/008237 WO2013077546A1 (ko) 2011-11-24 2012-10-11 입체 영상의 장면 전환 검출 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110123373A KR101667011B1 (ko) 2011-11-24 2011-11-24 입체 영상의 장면 전환 검출 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20130057585A true KR20130057585A (ko) 2013-06-03
KR101667011B1 KR101667011B1 (ko) 2016-10-18

Family

ID=48469955

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110123373A KR101667011B1 (ko) 2011-11-24 2011-11-24 입체 영상의 장면 전환 검출 장치 및 방법

Country Status (2)

Country Link
KR (1) KR101667011B1 (ko)
WO (1) WO2013077546A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103489191A (zh) * 2013-09-24 2014-01-01 中国科学院自动化研究所 一种遥感图像显著目标变化检测方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102235386B1 (ko) 2017-07-07 2021-04-01 삼성에스디에스 주식회사 장면전환 검출 장치 및 방법
CN113225461A (zh) * 2021-02-04 2021-08-06 江西方兴科技有限公司 一种检测视频监控场景切换的***及方法
CN117456204A (zh) * 2023-09-25 2024-01-26 珠海视熙科技有限公司 目标跟踪方法、装置、视频处理***、存储介质和终端

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010035100A (ko) * 2000-12-22 2001-05-07 유명현 하이퍼링크 비디오를 위한 임의 객체의 효과적인 추적장치 및 방법
KR20090037288A (ko) 2007-10-10 2009-04-15 삼성전자주식회사 동영상 부호화 데이터율 제어를 위한 실시간 장면 전환검출 방법, 이를 이용한 영상통화 품질 향상 방법, 및영상통화 시스템
KR20110021014A (ko) * 2009-08-25 2011-03-04 주식회사 노매드커넥션 동영상 장면 분할 시스템 및 방법
KR20120010790A (ko) * 2010-07-27 2012-02-06 (주)자람테크놀로지 장면 전환 검출 방법 및 장치

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3648199B2 (ja) * 2001-12-27 2005-05-18 株式会社エヌ・ティ・ティ・データ カット検出装置およびそのプログラム
WO2007142646A1 (en) * 2006-06-08 2007-12-13 Thomson Licensing Scene change detection for video
KR101526868B1 (ko) * 2008-11-27 2015-06-08 삼성전자주식회사 스테레오 영상에 대한 다시점 영상 생성 장치 및 방법
KR20110050364A (ko) * 2009-11-06 2011-05-13 삼성전자주식회사 3차원 비디오의 깊이감 조절 방법 및 그 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010035100A (ko) * 2000-12-22 2001-05-07 유명현 하이퍼링크 비디오를 위한 임의 객체의 효과적인 추적장치 및 방법
KR20090037288A (ko) 2007-10-10 2009-04-15 삼성전자주식회사 동영상 부호화 데이터율 제어를 위한 실시간 장면 전환검출 방법, 이를 이용한 영상통화 품질 향상 방법, 및영상통화 시스템
KR20110021014A (ko) * 2009-08-25 2011-03-04 주식회사 노매드커넥션 동영상 장면 분할 시스템 및 방법
KR20120010790A (ko) * 2010-07-27 2012-02-06 (주)자람테크놀로지 장면 전환 검출 방법 및 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103489191A (zh) * 2013-09-24 2014-01-01 中国科学院自动化研究所 一种遥感图像显著目标变化检测方法

Also Published As

Publication number Publication date
KR101667011B1 (ko) 2016-10-18
WO2013077546A1 (ko) 2013-05-30

Similar Documents

Publication Publication Date Title
CN107798272B (zh) 快速多目标检测与跟踪***
US8204312B2 (en) Moving image editing apparatus
US10327045B2 (en) Image processing method, image processing device and monitoring system
JP5032846B2 (ja) 監視装置および監視記録装置、それらの方法
KR100846498B1 (ko) 영상 해석 방법 및 장치, 및 동영상 영역 분할 시스템
US9165211B2 (en) Image processing apparatus and method
EP3189469B1 (en) A method for selecting frames from video sequences based on incremental improvement
WO2019023921A1 (zh) 一种手势识别方法、装置及设备
CN111695540B (zh) 视频边框识别方法及裁剪方法、装置、电子设备及介质
US20110135152A1 (en) Information processing apparatus, information processing method, and program
US20080170067A1 (en) Image processing method and apparatus
JP2009512246A (ja) 画像のショットタイプを決定する方法及び装置
US9934576B2 (en) Image processing system, image processing method, and recording medium
US8660302B2 (en) Apparatus and method for tracking target
CN110363790B (zh) 目标追踪方法、装置和计算机可读存储介质
CN106603916A (zh) 一种关键帧检测方法及装置
CN105095853A (zh) 图像处理装置及图像处理方法
KR20130057585A (ko) 입체 영상의 장면 전환 검출 장치 및 방법
Cheong et al. The application of image processing to solve occlusion issue in object tracking
CN103986981B (zh) 多媒体文件的情节片段的识别方法及装置
US11587202B2 (en) Method, apparatus or computer program for controlling image processing of a captured image of a scene to adapt the captured image
US8055062B2 (en) Information processing apparatus, information processing method, and program
KR100963701B1 (ko) 영상 식별 장치
EP2887261B1 (en) Information processing device, information processing method, and program
JP2018137639A (ja) 動画像処理システム、並びに、符号化装置及びプログラム、並びに、復号装置及びプログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20191002

Year of fee payment: 4