KR101667011B1 - 입체 영상의 장면 전환 검출 장치 및 방법 - Google Patents

입체 영상의 장면 전환 검출 장치 및 방법 Download PDF

Info

Publication number
KR101667011B1
KR101667011B1 KR1020110123373A KR20110123373A KR101667011B1 KR 101667011 B1 KR101667011 B1 KR 101667011B1 KR 1020110123373 A KR1020110123373 A KR 1020110123373A KR 20110123373 A KR20110123373 A KR 20110123373A KR 101667011 B1 KR101667011 B1 KR 101667011B1
Authority
KR
South Korea
Prior art keywords
feature points
scene
scene change
frame
change point
Prior art date
Application number
KR1020110123373A
Other languages
English (en)
Other versions
KR20130057585A (ko
Inventor
우대식
박재범
전병기
김종대
정원석
Original Assignee
에스케이플래닛 주식회사
시모스 미디어텍(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이플래닛 주식회사, 시모스 미디어텍(주) filed Critical 에스케이플래닛 주식회사
Priority to KR1020110123373A priority Critical patent/KR101667011B1/ko
Priority to PCT/KR2012/008237 priority patent/WO2013077546A1/ko
Publication of KR20130057585A publication Critical patent/KR20130057585A/ko
Application granted granted Critical
Publication of KR101667011B1 publication Critical patent/KR101667011B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/49—Segmenting video sequences, i.e. computational techniques such as parsing or cutting the sequence, low-level clustering or determining units such as shots or scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142—Detection of scene cut or scene change
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074—Stereoscopic image analysis
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074—Stereoscopic image analysis
    • H04N2013/0081—Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 입체 영상의 장면 전환 검출 장치 및 방법에 관한 것으로서, 입력되는 영상에서 장면 전환점을 검출하는 장면 전환점 검출 모듈, 상기 검출된 장면 전환점의 마지막 프레임에서 특징점을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 입체 장면 연속성 점수 계산 모듈, 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 장면 연속성 여부 판단 모듈을 포함한다.
본 발명에 따르면, 영상의 특징을 이용하여 통상적인 장면전환점에서 이를 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하지를 결정하여, 입체의 관점에서 장면전환점의 연속성 유무를 결정할 수 있다.

Description

입체 영상의 장면 전환 검출 장치 및 방법{Apparatus and Method for detecting scene change of stereo-scopic image}
본 발명은 입체 영상의 장면 전환 검출 장치 및 방법에 관한 것으로서, 보다 상세하게는 입력되는 영상에서 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산한 후, 상기 입체 장면 연속성 점수를 기 설정된 임계치와 비교하여 입체 장면의 연속성 여부를 판단하는 입체 영상의 장면 전환 검출 장치 및 방법에 관한 것이다.
일반적으로 장면전환(Scene Change)이란 연속되는 동영상의 장면에서 한 장면이 끝난 후, 다른 장면으로 동영상이 다시 시작되는 현상을 말한다. 장면전환은 통상 임의의 장면이 점차적으로 사라지다가 다시 다른 장면이 서서히 나타나는 페이드-아웃(fade out) 및 페이드-인(fade in), 임의의 두 장면이 서로 다른 방향에서 시간을 두고 천천히 겹치는 오버랩(overlap), 단순 장면전환 등으로 구분하기도 한다.
종래의 장면전환점의 검출은 기본적으로 영상의 밝기나 Histogram 등과 같은 수치를 기준으로 장면 전환점을 분리한다. 대부분의 이러한 기준은 도 1의 Histogram 결과와 같이 수치적으로 불연속인 부분을 장면전환점으로 선정하는 것이 타당하지만, 입체변환의 경우에는 시각적으로 객체의 연속성이 있다면 이를 하나의 연속적인 장면으로 분리하여야 하는 경우가 많다.
즉 일반적인 장면전환점과는 다르게 연속적인 장면에서 특정 객체가 계속 움직이는 경우, 시청자는 이 객체의 입체 특성을 유지하여야 입체의 불편함이 작다.
이것이 다른 장면전환점으로 구별되어서 다른 장면(Scene)으로 분리된다면 서로 다른 입체변환방식이 적용될 수 있고, 따라서 연속적인 장면임에도 불구하고 입체의 특성이 변화되어 시각적인 입체의 불편함이 증가할 수 있다.
물론 수작업을 통해서 입체변환 작업을 한다면 특별히 장면전환점의 구별없이 사람이 시각적으로 입체의 특성을 고려하기 때문에 문제가 없지만, 자동으로 영상처리를 통해서 입체변환을 수행하여야 할 경우에는 장면전환점 단위로 입체변환을 해야 효율적이기 때문에 이러한 장면전환점은 매우 중요하다.
국내공개특허 제2009-0037288호(2009.04.15), 발명의 명칭: 동영상 부호화 데이터율 제어를 위한 실시간 장면 전환검출 방법, 이를 이용한 영상통화 품질 향상 방법 및 영상 통화 시스템
본 발명은 상술한 문제점을 해결하기 위하여 안출된 것으로서, 본 발명의 목적은 입체 변환의 관점에서 최적의 장면전환점을 검출할 수 있는 입체 영상의 장면 전환 검출 장치 및 방법을 제공하는데 있다.
본 발명의 다른 목적은 영상의 특징을 이용하여 통상적인 장면전환점에서 이를 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하지를 결정하여, 입체의 관점에서 장면전환점의 연속성 유무를 결정할 수 있는 입체 영상의 장면 전환 검출 장치 및 방법을 제공하는데 있다.
본 발명의 일 측면에 따르면, 입력되는 영상에서 장면 전환점을 검출하는 장면 전환점 검출 모듈, 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 입체 장면 연속성 점수 계산 모듈, 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 장면 연속성 여부 판단 모듈을 포함하는 입체 영상의 장면 전환 검출 장치가 제공된다.
상기 장면 전환점 검출 모듈은 상관(Correlation), 통계적 순차 분석(Statistical sequential analysis), 히스토그램(Histogram) 중 적어도 하나의 방법을 이용하여 장면 전환점을 검출한다.
상기 입체 장면 연속성 점수 계산 모듈은, 상기 장면 전환점 검출모듈에서 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 특징점 추출부, 상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 특징점 매칭부, 상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하고, 상기 구해진 SAD를 이용하여 입체 장면 연속성 점수를 구하는 입체 장면 연속성 점수 계산부를 포함한다.
상기 입체 장면 연속성 점수 계산모듈은 다음의 수학식을 이용하여 입체 장면 연속성 점수(C(s))를 구한다.
[수학식]
C(s)=(추적된 특징점 개수 / 총 특징점 개수) * (Σ(1/SAD(fn,bm))
여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미함.
상기 SAD(fn,bm)는 다음의 수학식을 이용하여 구한다.
[수학식]
SAD(fn,bm)= Σ abs( Frame(fn,bm) pixel (i)- Frame(fn+1,bm) pixel(i))
여기서, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록, i는 해당 블록의 각 pixel의 순서를 의미함.
상기 장면 연속성 여부 판단 모듈은 상기 입체 장면 연속성 점수가 상기 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단한다.
본 발명의 다른 측면에 따르면, 장면 전환 검출 장치가 입체 영상의 장면 전환을 검출하는 방법에 있어서, (a) 입력되는 영상에서 장면 전환점을 검출하는 단계, (b) 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 단계, (c) 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하여 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 단계를 포함하는 입체 영상의 장면 전환 검출 방법이 제공된다.
상기 (b) 단계는, 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 단계, 상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 단계, 상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하는 단계, 상기 구해진 SAD와 상기 추적된 특징점 개수를 이용하여 입체 장면 연속성 점수를 계산하는 단계를 포함한다.
상기 입체 장면 연속성 점수(C(s))는 다음의 수학식을 이용하여 구해진다.
[수학식]
C(s)=(추적된 특징점 개수 / 총 특징점 개수) * (Σ(1/SAD(fn,bm))
여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미함.
상기 (c) 단계는, 상기 입체 장면 연속성 점수가 상기 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단한다.
본 발명의 또 다른 측면에 따르면, (a) 입력되는 영상에서 장면 전환점을 검출하는 단계, (b) 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 단계, (c) 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하여 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 단계를 포함하는 입체 영상의 장면 전환 검출 방법이 프로그램으로 기록되고 전자 장치에서 판독 가능한 기록매체가 제공된다.
본 발명에 따르면, 입체 변환의 관점에서 최적의 장면전환점을 검출할 수 있다.
또한, 영상의 특징을 이용하여 통상적인 장면전환점에서 이를 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하지를 결정하여, 입체의 관점에서 장면전환점의 연속성 유무를 결정할 수 있다.
도 1은 종래의 장면전환점의 수치를 표현한 도면.
도 2는 본 발명에 따른 입체 영상의 장면 전환 검출 장치의 구성을 개략적으로 나타낸 블럭도.
도 3은 본 발명에 따른 프레임간 SAD를 구하는 방법을 설명하기 위한 예시도.
도 4는 본 발명에 따른 입체 영상의 장면전환 검출 장치가 장면의 연속성 여부를 검사하는 방법을 나타낸 흐름도.
도 5는 본 발명에 따른 장면전환 검출 장치가 입체 장면 연속성 점수를 구하는 방법을 나타낸 흐름도.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 보다 상세히 설명하기로 한다. 첨부 도면을 참조하여 설명함에 있어 동일하거나 대응하는 구성 요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
도 2는 본 발명에 따른 입체 영상의 장면 전환 검출 장치의 구성을 개략적으로 나타낸 블록도, 도 3은 본 발명에 따른 프레임간 SAD를 구하는 방법을 설명하기 위한 예시도이다.
도 2를 참조하면, 입체 영상의 장면 전환 검출 장치(200)는 장면 전환점 검출 모듈(210), 입체 장면 연속성 점수 계산 모듈(220), 장면 연속성 여부 판단 모듈(230)을 포함한다.
상기 장면 전환점 검출모듈(210)은 입력되는 영상에서 장면 전환점을 검출한다. 즉, 상기 장면 전환점 검출모듈(210)은 영상의 밝기, 상관(Correlation), 통계적 순차 분석(Statistical sequential analysis), 히스토그램(Histogram) 등의 방법을 이용하여 입력되는 영상의 장면 전환점을 구한다.
상기 장면 전환점 검출모듈(210)이 장면 전환점을 검출하는 기술은 종래의 기술을 따르므로 그에 대한 상세한 설명은 생략하기로 한다.
상기 입체 장면 연속성 점수 계산모듈(220)은 상기 장면 전환점 검출모듈(210)에서 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 이후 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산한다. 여기서, 상기 장면 전환점의 마지막 프레임은 장면 전환 전의 마지막 프레임을 의미하고, 상기 장면 전환된 영상의 첫번째 프레임은 장면 전환 후의 첫번째 프레임을 의미하며, 장면 전환 전과 후는 장면 전환점에 의해 구분된다.
상기와 같은 역할을 수행하는 입체 장면 연속성 점수 계산 모듈(220)은 특징점 추출부(222), 특징점 매칭부(224), 입체 장면 연속성 점수 계산부(226)를 포함한다.
상기 특징점 추출부(222)는 상기 장면 전환점 검출모듈(210)에서 검출된 장면 전환점의 마지막 프레임에서 Harris의 코너 추출 방법, SIFT(Scale Invariant Feature Transform) 알고리즘 등을 이용하여 특징점을 추출한다. 여기서, 상기 특징점은 에지(edge) 또는 코너(corner) 등을 말하는 것으로 미리 정의되어 있을 수 있다.
상기 특징점 추출부(222)는 장면 전환점 전후의 영상들간의 객체의 연관성을 찾기 위하여 장면 전환점의 마지막 프레임에서 특징점을 추출하게 된다.
상기 특징점 매칭부(224)는 상기 장면 전환점의 마지막 프레임에서 추출된 특징점들을 장면 전환된 영상의 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구한다.
예를 들어, 장면 전환점 이전의 마지막 프레임에서 추출된 특징점이 특징점 1, 특징점 2, 특징점 3, 특징점 4, 특징점 5이고, 상기 추출된 특징점들을 장면 전환점 이후의 첫번째 프레임에 매칭한 결과 특징점 1, 특징점 2, 특징점 4가 추적된 경우, 상기 특징점 매칭부(224)는 "3"을 추적된 특징점 개수로 구하게 된다.
상기 입체 장면 연속성 점수 계산부(226)는 상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하고, 상기 구해진 SAD를 이용하여 입체 장면 연속성 점수를 구한다. 여기서, 상기 미리 정의된 블록은 특징점을 기준으로 주변 화소들을 포함하는 미리 정해진 일정 크기의 블록을 의미한다. 상기 입체 장면 연속성 점수는 상기 마지막 프레임에서 추출된 특징점을 기준으로 다음으로 이어질 장면 전환된 영상에서 상기 특징점들이 어느 정도 유지되는지를 나타내는 점수를 의미한다.
상기 입체 장면 연속성 점수 계산부(226)는 수행하고자 하는 특징점의 개수에 대해서 실제 추적이 가능한 특징점의 개수와 추적으로 얻어진 특징점의 신뢰도를 고려하여 Scene(s)와 Scene(s+1)의 장면 연속성에 대한 점수를 구한다. 여기서, Scene(s)은 장면 전환점에 해당하는 장면, Scene(s+1)은 장면 전환점 이후의 장면을 말한다.
따라서, 상기 입체 장면 연속성 점수 계산부(226)는 수학식 1을 이용하여 입체 장면 연속성 점수(C(s))를 구하게 된다.
Figure 112011093125770-pat00001
여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수를 말하고, 상기 추적된 특징점 개수는 상기 특징점 매칭부에서 구해진 장면 전환점 이후의 첫번째 프레임에서 추적된 특징점 개수를 말한다.
상기 F(n)은 각 특징점의 신뢰도를 말하고, n은 추적이 가능한 특징점의 인덱스(index), s는 각 Scene의 index를 말한다.
상기 각 특징점의 신뢰도(F(n))는 임의 특징점 n에 대해서, Scene(s)의 마지막 프레임에서 기존 방식에 따라서 장면 전환된 다음 Scene(s+1)의 첫번째 프레임에서 추적할 때 추적의 용이함을 의미한다. 즉, 각 특징점의 신뢰도는 특징점을 기준으로 형성된 영상의 일부 영역이 추적하고자 하는 다음 영상에서 얼마나 비슷한 형태로 존재하며 근접하였는지를 표현하는 것이다.
만약 이전 영상과 관계없이 완전히 다른 영상으로 장면 전환이 이루어졌다면, 유사한 특징을 가지는 영역을 찾을 수가 없을 것이고 이것은 근본적으로 추적이 불가능하기 때문에 추적에서 제외된다. 그러나 일정 정도 이상의 유사성이 발견된다면, 발견된 유사성의 척도를 SAD(sum of absolute difference)를 이용하여 구한다.
따라서, 상기 입체 장면 연속성 점수 계산부(226)은 SAD를 이용하여 입체 장면 연속성 점수를 구하게 된다.
이때, 상기 입체 장면 연속성 점수 계산부(226)는 수학식 2를 이용하여 SAD를 구한다.
Figure 112011093125770-pat00002
여기서, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록, i는 해당 블록의 각 pixel의 순서, abs는 절대치를 의미한다.
상기 SAD(sum of absolute difference)는 블록내 모든 pixel의 절대 차이의 합으로, 결과적으로 프레임 간 같은 위치의 블록의 차이점을 표현한다. 따라서, SAD 값이 크다는 의미는 영상의 변화가 크다는 것을 의미한다.
따라서, 상기 입체 장면 연속성 점수 계산부(226)는 특징점을 중심으로 해당 프레임을 미리 정해진 일정 개수의 블록(block)으로 나누고, 각각의 블록에 대해 현재 프레임과 이전 프레임간의 SAD를 각각 구한다.
상기 입체 장면 연속성 점수 계산부(226)가 SAD를 구하는 방법에 대해 도 3을 참조하면, 현재 프레임이 Frame(fn)이고, 이전 프레임이 Frame(fn-1), 이후 프레임이 Frame(fn+1)인 경우, 상기 입체 장면 연속성 점수 계산부(226)는 각 프레임에서 동일한 위치의 블록(bm)간의 SAD 즉, 현재 프레임 블록 bm과 이전 프레임 블록 bm간의 SAD(fn-1,bm), 현재 프레임과 이후 프레임 블록 bm간의 SAD(fn,bm)을 각각 구한다.
따라서, 현재 프레임이 Frame(fn)이고, 이후 프레임이 Frame(fn+1)인 경우, 상기 입체 장면 연속성 점수 계산부(226)는 각 프레임에서 동일한 위치의 블록(bm)간의 SAD 즉, 현재 프레임 블록 bm과 이후 프레임 블록 bm간의 SAD(fn,bm)을 각각 구한다.
상기와 같이 상기 입체 장면 연속성 점수 계산부(226)는 장면전환점에서 선정된 특징점들에 대해 사전에 정의된 공간상의 크기만큼 각 블록에 대한 SAD을 구한다. 상기 구해진 SAD 값이 임계값 이상이면 이것은 현실적으로 추적의 의미가 없는 것이므로 특징점의 추적 개수에서 제외하고, SAD 값이 임계값 이상이 아니면 추적이 가능하다. 따라서, 실제 SAD 값이 작을수록 유사성은 커지고 신뢰도가 커진다. 즉, SAD가 작을수록 신뢰도는 커지는 역비계 관계이다.
따라서, 상기 입체 장면 연속성 점수 계산부(226)는 각 특징점의 신뢰도(F(n))를 SAD를 이용하여 구할 수 있다.
그러므로, 상기 입체 장면 연속성 점수 계산부(226)는 수학식 1을 수학식 3과 같이 표현할 수 있다.
Figure 112011093125770-pat00003
여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미한다.
상기와 같이 구성된 입체 영상 연속성 점수 계산 모듈(220)은 상기 마지막 프레임의 특징점과 장면 전환된 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하고, 상기 구해진 SAD를 이용하여 입체 장면 연속성 점수를 구한다.
또한, 상기 입체 영상 연속성 점수 계산모듈(220)은 장면 전환점의 좌, 우(즉, 장면전환점 이전 또는 이후) 최소 1 프레임에서 여러 프레임에 대해서 특징점 매칭을 수행하여 입체 장면 연속성 점수를 보정할 수 있다.
상기 장면 연속성 여부 판단 모듈(230)은 상기 입체 장면 연속성 점수 계산모듈(220)에서 구해진 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단한다.
즉, 상기 장면 연속성 여부 판단 모듈(230)은 상기 입체 장면 연속성 점수가 미리 설정된 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단한다.
다시 말하면, 상기 장면 연속성 여부 판단 모듈(230)은 상기 입체 장면 연속성 점수가 임계치 이상이면, 상기 장면 전환점 검출모듈(210)에서 기존의 방식으로 분리된 2개의 Scene(s)과 Scene(s+1)은 입체영상에서 하나의 Scene으로 합쳐서 처리하게 된다.
상기와 같이 구성된 입체 영상의 장면 전환 검출 장치(200)는 자동으로 입체변환을 위한 장면전환점의 검출을 고려한 것으로, 기본적으로는 기존의 장면전환점을 먼저 선정하고 상기와 같은 추가적인 검출을 수행하여 장면전환을 해야 할 지의 여부를 검토하는 방식으로 이루어진다.
또한, 상기 입체 영상의 장면 전환 검출장치(200)는 영상의 특징을 이용하여 통상적인 장면전환점에서 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하여야 할지를 결정하는 기준을 정의한다.
도 4는 본 발명에 따른 입체 영상의 장면전환 검출 장치가 장면의 연속성 여부를 검사하는 방법을 나타낸 흐름도이다.
도 4를 참조하면, 입체 영상의 장면전환 검출장치는 입력되는 영상에 대해 장면 전환점을 검출한다(S302). 즉, 상기 장면전환 검출장치는 상관(Correlation), 통계적 순차 분석(Statistical sequential analysis), 히스토그램(Histogram) 등의 방법을 이용하여 입력되는 영상의 장면 전환점을 검출한다.
상기 S302의 수행 후, 상기 장면 전환 검출 장치는 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고(S304), 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점들을 이용하여 입체 장면 연속성 점수를 구한다(S306). 상기 장면 전환 검출 장치가 입체 장면 연속성 점수를 구하는 방법에 대한 상세한 설명은 도 5를 참조하기로 한다.
상기 S306의 수행 후, 상기 장면 전환 검출 장치는 상기 구해진 입체 장면 연속성 점수가 기 설정된 임계치 이상인지의 여부를 판단한다(S308).
상기 S308의 판단결과 상기 입체 장면 연속성 점수가 임계치 이상이면, 상기 장면전환 검출 장치는 해당 프레임을 연속적인 장면으로 판단한다(S310).
만약, 상기 S308의 판단결과 상기 입체 장면 연속성 점수가 임계치 이상이 아니면, 상기 장면전환검출 장치는 해당 프레임을 장면전환이 이루어지는 것으로 판단한다(S312).
도 5는 본 발명에 따른 장면전환 검출 장치가 입체 장면 연속성 점수를 구하는 방법을 나타낸 흐름도이다.
도 5를 참조하면, 장면전환 검출 장치는 장면전환점이 검출된 마지막 프레임의 특징점들이 장면전환점 이후의 첫번째 프레임에서 추적된 특징점 개수를 구한다(S402). 즉, 상기 장면 전환 검출 장치는 상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구한다.
상기 S402의 수행 후, 상기 장면전환 검출 장치는 상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구한다(S404).
즉, 상기 장면 전환 검출 장치는 수학식 2를 이용하여 SAD를 구한다.
상기 S404의 수행 후, 상기 장면 전환 검출 장치는 상기 구해진 SAD와 상기 추적된 특징점 개수를 이용하여 입체 장면 연속성 점수를 계산한다(S406).
즉, 상기 장면전환 검출 장치는 수학식 3을 이용하여 입체 장면 연속성 점수를 구하게 된다.
한편 본 발명은 컴퓨터로 읽을 수 있는 기록 매체에 컴퓨터가 읽을 수 있는 코드로 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다.
이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
본 발명은 영상의 특징을 이용하여 통상적인 장면전환점에서 이를 독립적인 장면전환으로 분리할지 또는 연속적인 하나의 장면전환으로 구별하지를 결정하여, 입체의 관점에서 장면전환점의 연속성 유무를 결정할 수 있는 입체 영상의 장면 전환 검출 장치 및 방법에 적용할 수 있다.
200 : 장면 전환 검출 장치 210 : 장면 전환점 검출모듈
220 : 입체 장면 연속성 점수 계산모듈 222: 특징점 추출부
224 : 특징점 매칭부 226 : 입체 장면 연속성 점수 계산부
230 : 장면 연속성 여부 판단모듈

Claims (11)

  1. 입력되는 영상에서 장면 전환점을 검출하는 장면 전환점 검출 모듈;
    상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 입체 장면 연속성 점수 계산 모듈; 및
    상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 장면 연속성 여부 판단 모듈;
    을 포함하되,
    상기 입체 장면 연속성 점수 계산 모듈은,
    상기 장면 전환점 검출모듈에서 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 특징점 추출부;
    상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 특징점 매칭부; 및
    상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하고, 상기 구해진 SAD를 이용하여 입체 장면 연속성 점수를 구하는 입체 장면 연속성 점수 계산부를 포함하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 장치.
  2. 제1항에 있어서,
    상기 장면 전환점 검출 모듈은 상관(Correlation), 통계적 순차 분석(Statistical sequential analysis), 히스토그램(Histogram) 중 적어도 하나의 방법을 이용하여 장면 전환점을 검출하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 장치.
  3. 삭제
  4. 제1항에 있어서,
    상기 입체 장면 연속성 점수 계산부는 다음의 수학식을 이용하여 입체 장면 연속성 점수(C(s))를 구하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 장치.
    [수학식]
    C(s)=(추적된 특징점 개수 / 총 특징점 개수) * (Σ(1/SAD(fn,bm))
    여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미함.
  5. 제4항에 있어서,
    상기 SAD(fn,bm)는 다음의 수학식을 이용하여 구하는 것을 특징으로 하는 입에 영상의 장면 전환 검출 장치.
    [수학식]
    SAD(fn,bm)= Σ abs( Frame(fn,bm) pixel (i)- Frame(fn+1,bm) pixel(i))
    여기서, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록, i는 해당 블록의 각 pixel의 순서, abs는 절대치를 의미함.
  6. 제1항에 있어서,
    상기 장면 연속성 여부 판단 모듈은 상기 입체 장면 연속성 점수가 상기 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 장치.
  7. 장면 전환 검출 장치가 입체 영상의 장면 전환을 검출하는 방법에 있어서,
    (a) 입력되는 영상에서 장면 전환점을 검출하는 단계;
    (b) 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 단계; 및
    (c) 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하고, 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 단계;
    를 포함하되,
    상기 (b) 단계는,
    상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 단계;
    상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 단계;
    상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하는 단계; 및
    상기 구해진 SAD와 상기 추적된 특징점 개수를 이용하여 입체 장면 연속성 점수를 계산하는 단계를 포함하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 방법.
  8. 삭제
  9. 청구항 9은(는) 설정등록료 납부시 포기되었습니다.
    제7항에 있어서,
    상기 입체 장면 연속성 점수(C(s))는 다음의 수학식을 이용하여 구해지는 것을 특징으로 하는 입체 영상의 장면 전환 검출 방법.
    [수학식]
    C(s)=(추적된 특징점 개수 / 총 특징점 개수) * (Σ(1/SAD(fn,bm))
    여기서, 상기 총 특징점 개수는 장면 전환점의 마지막 프레임에서 추출된 특징점 개수, 상기 추적된 특징점 개수는 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점 개수, fn은 해당 프레임의 번호, bm은 해당 프레임의 m번째 블록을 의미함.
  10. 청구항 10은(는) 설정등록료 납부시 포기되었습니다.
    제7항에 있어서,
    상기 (c) 단계는,
    상기 입체 장면 연속성 점수가 상기 임계치 이상인 경우 연속적인 장면으로 판단하고, 임계치 이상이 아닌 경우 장면 전환이 이루어지는 것으로 판단하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 방법.
  11. (a) 입력되는 영상에서 장면 전환점을 검출하는 단계;
    (b) 상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하고, 상기 추출된 특징점들이 장면 전환된 영상의 첫번째 프레임에서 추적된 특징점을 이용하여 입체 장면 연속성 점수를 계산하는 단계; 및
    (c) 상기 계산된 입체 장면 연속성 점수를 기 설정된 임계치와 비교하여 그 비교 결과를 근거로 입체 장면의 연속성 여부를 판단하는 단계를 포함하되,
    상기 (b) 단계는,
    상기 검출된 장면 전환점의 마지막 프레임에서 특징점들을 추출하는 단계;
    상기 마지막 프레임에서 추출된 특징점들을 상기 첫번째 프레임과 매칭하여 상기 추출된 특징점들이 상기 첫번째 프레임에서 추적된 특징점 개수를 구하는 단계;
    상기 마지막 프레임의 특징점들과 상기 첫번째 프레임에서 추적된 특징점들을 기준으로 미리 정의된 블록에서의 SAD(sum of absolute difference)를 구하는 단계; 및
    상기 구해진 SAD와 상기 추적된 특징점 개수를 이용하여 입체 장면 연속성 점수를 계산하는 단계를 포함하는 것을 특징으로 하는 입체 영상의 장면 전환 검출 방법이 프로그램으로 기록되고 전자 장치에서 판독 가능한 기록매체.
KR1020110123373A 2011-11-24 2011-11-24 입체 영상의 장면 전환 검출 장치 및 방법 KR101667011B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020110123373A KR101667011B1 (ko) 2011-11-24 2011-11-24 입체 영상의 장면 전환 검출 장치 및 방법
PCT/KR2012/008237 WO2013077546A1 (ko) 2011-11-24 2012-10-11 입체 영상의 장면 전환 검출 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110123373A KR101667011B1 (ko) 2011-11-24 2011-11-24 입체 영상의 장면 전환 검출 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20130057585A KR20130057585A (ko) 2013-06-03
KR101667011B1 true KR101667011B1 (ko) 2016-10-18

Family

ID=48469955

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110123373A KR101667011B1 (ko) 2011-11-24 2011-11-24 입체 영상의 장면 전환 검출 장치 및 방법

Country Status (2)

Country Link
KR (1) KR101667011B1 (ko)
WO (1) WO2013077546A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190005651A (ko) 2017-07-07 2019-01-16 삼성에스디에스 주식회사 장면전환 검출 장치 및 방법

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103489191B (zh) * 2013-09-24 2016-04-13 中国科学院自动化研究所 一种遥感图像显著目标变化检测方法
CN113225461A (zh) * 2021-02-04 2021-08-06 江西方兴科技有限公司 一种检测视频监控场景切换的***及方法
CN117456204A (zh) * 2023-09-25 2024-01-26 珠海视熙科技有限公司 目标跟踪方法、装置、视频处理***、存储介质和终端

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100348357B1 (ko) * 2000-12-22 2002-08-09 (주)버추얼미디어 하이퍼링크 비디오를 위한 임의 객체의 효과적인 추적 장치 및 방법
JP3648199B2 (ja) * 2001-12-27 2005-05-18 株式会社エヌ・ティ・ティ・データ カット検出装置およびそのプログラム
US20100303158A1 (en) * 2006-06-08 2010-12-02 Thomson Licensing Method and apparatus for scene change detection
KR101490521B1 (ko) 2007-10-10 2015-02-06 삼성전자주식회사 동영상 부호화 데이터율 제어를 위한 실시간 장면 전환검출 방법, 이를 이용한 영상통화 품질 향상 방법, 및영상통화 시스템
KR101526868B1 (ko) * 2008-11-27 2015-06-08 삼성전자주식회사 스테레오 영상에 대한 다시점 영상 생성 장치 및 방법
KR101050255B1 (ko) * 2009-08-25 2011-07-19 주식회사 노매드커넥션 동영상 장면 분할 시스템 및 방법
KR20110050364A (ko) * 2009-11-06 2011-05-13 삼성전자주식회사 3차원 비디오의 깊이감 조절 방법 및 그 장치
KR101167645B1 (ko) * 2010-07-27 2012-07-20 강원대학교산학협력단 장면 전환 검출 방법 및 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190005651A (ko) 2017-07-07 2019-01-16 삼성에스디에스 주식회사 장면전환 검출 장치 및 방법

Also Published As

Publication number Publication date
KR20130057585A (ko) 2013-06-03
WO2013077546A1 (ko) 2013-05-30

Similar Documents

Publication Publication Date Title
CN112990191B (zh) 一种基于字幕视频的镜头边界检测与关键帧提取方法
EP3008696B1 (en) Tracker assisted image capture
CN107798272B (zh) 快速多目标检测与跟踪***
CN106937114B (zh) 用于对视频场景切换进行检测的方法和装置
EP3189469B1 (en) A method for selecting frames from video sequences based on incremental improvement
CN111695540B (zh) 视频边框识别方法及裁剪方法、装置、电子设备及介质
KR102085035B1 (ko) 객체 인식을 위한 객체 후보영역 설정방법 및 장치
JP2006031678A (ja) 画像処理
JP2009512246A (ja) 画像のショットタイプを決定する方法及び装置
US8660302B2 (en) Apparatus and method for tracking target
KR101750094B1 (ko) 영상의 실시간 모니터링을 통한 비정상 집단행동 분류 방법
CN113302907B (zh) 拍摄方法、装置、设备及计算机可读存储介质
KR101667011B1 (ko) 입체 영상의 장면 전환 검출 장치 및 방법
US10296539B2 (en) Image extraction system, image extraction method, image extraction program, and recording medium storing program
EP2393290B1 (en) Video identifier creation device
US8509303B2 (en) Video descriptor generation device
CN108010044A (zh) 一种视频边界检测的方法
US11587202B2 (en) Method, apparatus or computer program for controlling image processing of a captured image of a scene to adapt the captured image
JP5644505B2 (ja) 照合加重情報抽出装置
JP2014110020A (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR100963701B1 (ko) 영상 식별 장치
EP2887261A2 (en) Information processing device, information processing method, and program
CN108363981B (zh) 一种标题检测方法及装置
JP4924423B2 (ja) 特徴量の予測誤差に基づいて動画像のカット点を検出する装置
Cózar et al. Detection of logos in low quality videos

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20191002

Year of fee payment: 4