KR102034967B1 - 움직임 흐림 제거 방법 및 장치 - Google Patents

움직임 흐림 제거 방법 및 장치 Download PDF

Info

Publication number
KR102034967B1
KR102034967B1 KR1020180155755A KR20180155755A KR102034967B1 KR 102034967 B1 KR102034967 B1 KR 102034967B1 KR 1020180155755 A KR1020180155755 A KR 1020180155755A KR 20180155755 A KR20180155755 A KR 20180155755A KR 102034967 B1 KR102034967 B1 KR 102034967B1
Authority
KR
South Korea
Prior art keywords
channels
motion blur
convolution operation
feature map
convolution
Prior art date
Application number
KR1020180155755A
Other languages
English (en)
Other versions
KR20190067111A (ko
Inventor
김문철
김현호
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Publication of KR20190067111A publication Critical patent/KR20190067111A/ko
Application granted granted Critical
Publication of KR102034967B1 publication Critical patent/KR102034967B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G06T5/003—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/73—Deblurring; Sharpening
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20172—Image enhancement details
    • G06T2207/20201—Motion blur correction

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

움직임 흐림 제거 방법 및 장치가 개시된다. 일 실시예에 따른 움직임 흐림 제거 방법은, 이미지를 수신하는 단계와, 적어도 한 번의 상기 이미지의 움직임 흐림을 제거하는 단계를 포함하고, 상기 제거하는 단계는, 상기 이미지에 기초한 특징맵에 제1 컨벌루션 연산을 수행하여 크기가 감소된 복수의 채널을 생성하는 단계와, 상기 복수의 채널에 제2 컨벌루션 연산을 수행하는 단계와, 제2 컨벌루션 연산이 수행된 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원하는 단계와, 상기 특징맵과 상기 출력을 더하여 움직임 흐림을 제거하는 단계를 포함한다.

Description

움직임 흐림 제거 방법 및 장치{MOTION DEBLURRING METHOD AND APPARATUS}
아래 실시예들은 움직임 흐림을 제거하는 방법 및 장치에 관한 것이다.
멀티 스케일(multi-scale)을 이용하여 영상의 움직임 흐림을 제거하는 알고리즘의 경우 애드버서리얼 로스(adversarial loss)를 이용하여 개별 영상의 주관적 화질을 높였다. 그러나 이 방법의 경우 동영상에 적용했을 때 깜박임 현상 (flickering)이 발생하여 영상의 주관적 화질을 저하시키는 문제가 있었다.
동영상의 시간 정보를 이용한 알고리즘의 경우, 데이터 정렬을 하지 않기 때문에 빠르게 움직이는 영상에 대해서는 성능을 보장하지 못하며, 동영상의 시간 정보가 반드시 필요하기 때문에 단일 영상에 대해서는 움직임 흐림을 제거할 수 없었다.
흐림 커널(Blur kernel) 예측이 필요한 알고리즘의 경우 엔드투엔드 학습(end-to-end learning)이 아니며, 선형 흐림 커널(linear blur kernel)에 대해서만 학습을 했기 때문에 성능이 높지 않다.
실시예들은 움직임 흐림을 제거하는 기술을 제공할 수 있다.
일 실시예에 따른 움직임 흐림 제거 방법은, 이미지를 수신하는 단계와, 적어도 한 번의 상기 이미지의 움직임 흐림을 제거하는 단계를 포함하고, 상기 제거하는 단계는, 상기 이미지에 기초한 특징맵에 제1 컨벌루션 연산을 수행하여 크기가 감소된 복수의 채널을 생성하는 단계와, 상기 복수의 채널에 제2 컨벌루션 연산을 수행하는 단계와, 제2 컨벌루션 연산이 수행된 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원하는 단계와, 상기 특징맵과 상기 출력을 더하여 움직임 흐림을 제거하는 단계를 포함한다.
상기 움직임 흐림 제거 방법은, 상기 생성하는 단계 전에, 상기 이미지에 컨벌루션 연산을 수행하여 상기 특징맵을 생성하는 단계를 더 포함할 수 있다.
상기 특징맵을 생성하는 단계는, 컨벌루션 연산이 수행된 이미지를 비선형화하여 상기 특징맵을 생성하는 단계를 포함할 수 있다.
상기 생성하는 단계는, 상기 제1 컨벌루션 연산의 스트라이드(stride)에 기초하여 상기 이미지의 크기를 감소시키는 단계와, 상기 제1 컨벌루션 연산의 필터의 채널 수에 대응하는 상기 복수의 채널을 생성하는 단계를 포함할 수 있다.
상기 움직임 흐림 제거 방법은, 상기 생성하는 단계 이후에, 상기 복수의 채널을 제1 비선형화하는 단계를 더 포함할 수 있다.
상기 제1 비선형화하는 단계는, 상기 복수의 채널을 비선형화하는 단계와, 비선형화된 복수의 채널을 필터링하여 제1 필터링된 복수의 채널을 생성하는 단계와, 상기 제1 필터링된 복수의 채널에 상수를 곱하는 단계와, 상수가 곱해진 제1 필터링된 복수의 채널을 비선형화하는 단계를 포함할 수 있다.
상기 움직임 흐림 제거 방법은, 상기 수행하는 단계 이후에, 상기 제2 컨벌루션 연산이 수행된 복수의 채널을 제2 비선형화하는 단계를 더 포함할 수 있다.
상기 제2 비선형화하는 단계는, 상기 제2 컨벌루션 연산이 수행된 복수의 채널을 비선형화하는 단계와, 비선형화된 제2 컨벌루션 연산이 수행된 복수의 채널을 필터링하여 제2 필터링된 복수의 채널을 생성하는 단계와, 상기 제2 필터링된 복수의 채널에 상수를 곱하는 단계와, 상수가 곱해진 제2 필터링된 복수의 채널을 비선형화하는 단계를 포함할 수 있다.
상기 복원하는 단계는, 상기 제2 컨벌루션이 수행된 복수의 채널 각각에 포함된 화소를 상기 제1 컨벌루션 연산의 스트라이드를 간격으로 가지도록 배치하여 결합함으로써 상기 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원하는 단계를 포함할 수 있다.
상기 특징맵과 상기 출력을 더하여 움직임 흐림을 제거하는 단계는, 상기 특징맵과 상기 출력을 더한 뒤에 컨벌루션 연산을 수행하는 단계를 포함할 수 있다.
일 실시예에 따른 움직임 흐림 제거 장치는, 이미지를 수신하는 수신기와, 적어도 한 번의 상기 이미지의 움직임 흐림을 제거하는 프로세서를 포함하고, 상기 프로세서는, 상기 이미지에 기초한 특징맵에 제1 컨벌루션 연산을 수행하여 크기가 감소된 복수의 채널을 생성하고, 상기 복수의 채널에 제2 컨벌루션 연산을 수행하고, 제2 컨벌루션 연산이 수행된 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원하고, 상기 특징맵과 상기 출력을 더하여 움직임 흐림을 제거한다.
상기 프로세서는, 상기 복수의 채널을 생성하기 전에, 상기 이미지에 컨벌루션 연산을 수행하여 상기 특징맵을 생성할 수 있다.
상기 프로세서는, 컨벌루션 연산이 수행된 이미지를 비선형화하여 상기 특징맵을 생성할 수 있다.
상기 프로세서는, 상기 제1 컨벌루션 연산의 스트라이드(stride)에 기초하여 상기 이미지의 크기를 감소시키고, 상기 제1 컨벌루션 연산의 필터의 채널 수에 대응하는 상기 복수의 채널을 생성할 수 있다.
상기 프로세서는, 상기 복수의 채널을 생성한 이후에, 상기 복수의 채널을 제1 비선형화할 수 있다.
상기 프로세서는, 상기 복수의 채널을 비선형화하고, 비선형화된 복수의 채널을 필터링하여 제1 필터링된 복수의 채널을 생성하고, 상기 제1 필터링된 복수의 채널에 상수를 곱하고, 상수가 곱해진 제1 필터링된 복수의 채널을 비선형화할 수 있다
상기 프로세서는, 상기 제2 컨벌루션을 수행한 이후에, 상기 제2 컨벌루션 연산이 수행된 복수의 채널을 제2 비선형화할 수 있다.
상기 프로세서는, 상기 제2 컨벌루션 연산이 수행된 복수의 채널을 비선형화하고, 비선형화된 제2 컨벌루션 연산이 수행된 복수의 채널을 필터링하여 제2 필터링된 복수의 채널을 생성하고, 상기 제2 필터링된 복수의 채널에 상수를 곱하고, 상수가 곱해진 제2 필터링된 복수의 채널을 비선형화할 수 있다.
상기 프로세서는, 상기 제2 컨벌루션이 수행된 복수의 채널 각각에 포함된 화소를 상기 제1 컨벌루션 연산의 스트라이드를 간격으로 가지도록 배치하여 결합함으로써 상기 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원할 수 있다.
상기 프로세서는, 상기 특징맵과 상기 출력을 더한 뒤에 컨벌루션 연산을 수행할 수 있다.
도 1은 일 실시예에 따른 움직임 흐림 제거 장치의 개략적인 블록도를 나타낸다.
도 2는 도 1에 도시된 움직임 흐림 제거 장치의 동작의 예를 나타낸다.
도 3은 도 2에 도시된 컨벌루션 유닛의 구조의 예를 나타낸다.
도 4는 도 2에 도시된 비선형화 동작의 예를 나타낸다.
도 5는 도 1에 도시된 프로세서의 복원 동작의 예를 나타낸다.
도 6a는 움직임 흐림을 제거하기 전의 이미지의 일 예를 나타낸다.
도 6b는 도 6a의 이미지가 도 1에 도시된 움직임 흐림 제거 장치에 의해 움직임 흐림이 제거된 모습을 나타낸다.
도 7a는 움직임 흐림을 제거하기 전의 이미지의 다른 예를 나타낸다.
도 7b는 도 7a의 이미지가 도 1에 도시된 움직임 흐림 제거 장치에 의해 움직임 흐림이 제거된 모습을 나타낸다.
도 8a는 움직임 흐림을 제거하기 전의 이미지의 또 다른 예를 나타낸다.
도 8b는 도 8a의 이미지가 도 1에 도시된 움직임 흐림 제거 장치에 의해 움직임 흐림이 제거된 모습을 나타낸다.
도 9a는 움직임 흐림을 제거하기 전의 이미지의 또 다른 예를 나타낸다.
도 9b는 도 9a의 이미지가 도 1에 도시된 움직임 흐림 제거 장치에 의해 움직임 흐림이 제거된 모습을 나타낸다.
도 10a는 움직임 흐림을 제거하기 전의 이미지의 또 다른 예를 나타낸다.
도 10b는 도 10a의 이미지가 도 1에 도시된 움직임 흐림 제거 장치에 의해 움직임 흐림이 제거된 모습을 나타낸다.
도 11a는 움직임 흐림을 제거하기 전의 이미지의 또 다른 예를 나타낸다.
도 11b는 도 11a의 이미지가 도 1에 도시된 움직임 흐림 제거 장치에 의해 움직임 흐림이 제거된 모습을 나타낸다.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
제1 또는 제2등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해서 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만, 예를 들어 실시예의 개념에 따른 권리 범위로부터 이탈되지 않은 채, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
도 1은 일 실시예에 따른 움직임 흐림 제거 장치의 개략적인 블록도를 나타낸다.
도 1을 참조하면, 움직임 흐림(motion blur) 제거 장치(10)는 이미지를 수신하고, 이미지의 움직임 흐림을 제거할 수 있다. 이미지는 빛의 굴절이나 반사 등에 의하여 이루어진 물체의 상을 포함하는 것으로, 선이나 색채를 이용하여 사물의 형상을 나타낸 것을 의미할 수 있다. 예를 들어, 이미지는 컴퓨터가 처리할 수 있는 형태로 된 정보로 이루어질 수 있다.
움직임 흐림은 카메라에 의해 생성된 이미지에 있어서, 피사체나 카메라가 빠르게 움직이거나 노출 시간이 길어지면서 이미지가 흐려지는 효과를 포함할 수 있다.
움직임 흐림 제거 장치(10)는 움직임 흐림이 존재하는 이미지의 움직임 흐림을 제거할 수 있다. 움직임 흐림 제거 장치(10)는 뉴럴 네트워크를 이용하여 이미지의 움직임 흐림을 제거할 수 있다. 움직임 흐림 제거 장치(10)는 다양한 학습 데이터를 이용하여 뉴럴 네트워크를 학습시킬 수 있다.
예를 들어, 움직임 흐림 제거 장치(10)는 컨벌루션 뉴럴 네트워크를 이용하여 이미지의 움직임 흐림을 제거할 수 있다.
움직임 흐림 제거 장치(10)는 수신기(100), 컨트롤러(200) 및 메모리(300)를 포함한다. 수신기(100)는 이미지를 수신할 수 있다. 수신기(100)는 움직임 흐림 제거 장치(10)의 외부로부터 이미지를 수신할 수 있고, 메모리(300)로부터 이미지를 불러올 수 있다.
프로세서(200)는 이미지의 움직임 흐림을 적어도 한 번 제거할 수 있다. 즉, 프로세서(200)는 동일한 움직임 흐림 제거 과정을 한 번 이상 수행하여 이미지의 움직임 흐림을 제거할 수 있다.
프로세서(200)는 적어도 하나의 컨벌루션 유닛(convolution unit)을 이용하여 이미지의 움직임 흐림을 제거할 수 있다. 컨벌루션 유닛은 입력된 이미지의 움직임 흐림을 제거할 수 있다. 컨벌루션 유닛의 자세한 동작은 도 3을 참조하여 상세하게 설명할 것이다.
프로세서(200)는 이미지에 컨벌루션 연산을 수행하여 특징맵(feature map)을 생성할 수 있다. 프로세서(200)는 컨벌루션 연산이 수행된 이미지를 비선형화(nonlinearize)하여 특징맵을 생성할 수 있다. 프로세서(200)가 비선형화를 수행하는 구체적인 동작은 도 4를 참조하여 상세하게 설명할 것이다.
프로세서(200)는 이미지에 기초한 특징맵에 제1 컨벌루션 연산을 수행하여 크기가 감소된 복수의 채널을 생성할 수 있다. 프로세서(200)는 복수의 채널을 가지는 컨벌루션 필터(filter)를 이용하여 특징맵으로부터 복수의 채널(channel)을 생성할 수 있다.
프로세서(200)는 제1 컨벌루션 연산의 스트라이드(stride)에 기초하여 이미지의 크기를 감소시킬수 있다. 컨벌루션 연산의 스트라이드는 컨벌루션 필터를 이용하여 컨벌루션 연산을 수행할 때 필터를 이동시키는 화소 간격을 의미할 수 있다.
프로세서(200)는 제1 컨벌루션 연산의 필터의 채널 수에 대응하는 복수의 채널을 생성할 수 있다. 예를 들어, 프로세서(200)는 특징맵으로부터 4 개의 채널을 생성할 수 있다.
프로세서(200)는 생성된 복수의 채널을 제1 비선형화할 수 있다. 제1 비선형화는 먼저 복수의 채널을 비선형화함으로써 수행될 수 있다. 예를 들어, 프로세서(200)는 ReLU(Rectified Linear Unit)을 이용하여 복수의 채널을 비선형화 할 수 있다.
프로세서(200)는 비선형화된 복수의 채널을 필터링하여 제1 필터링된 복수의 채널을 생성할 수 있다. 예를 들어, 프로세서(200)는 1×1 컨벌루션 필터를 이용하여 비선형화된 복수의 채널을 필터링할 수 있다.
프로세서(200)는 제1 필터링된 복수의 채널에 상수를 곱할 수 있다. 필요에 따라 상수를 곱하는 연산은 생략될 수 있다. 마지막으로, 프로세서(200)는 상수가 곱해진 제1 필터링된 복수의 채널을 비선형화할 수 있다. 예를 들어, 프로세서(200)는 상수가 곱해진 제1 필터링된 복수의 채널을 시그모이드(sigmoid)함수를 이용하여 비선형화할 수 있다.
프로세서(200)는 복수의 채널에 제2 컨벌루션 연산을 수행할 수 있다. 제2 컨벌루션 연산은 입력된 복수의 채널의 크기 및 채널의 변화가 없이 수행될 수 있다. 예를 들어, 제2 컨벌루션 연산은 1의 스트라이드를 가지고 수행될 수 있다.
프로세서(200)는 제2 컨벌루션 연산이 수행된 복수의 채널을 제2 비선형화할 수 있다. 제2 비선형화는 먼저 제2 컨벌루션 연산이 수행된 복수의 채널을 비선형화함으로써 수행될 수 있다. 예를 들어, 프로세서(200)는 ReLU를 이용하여 제2 컨벌루션 연산이 수행된 복수의 채널을 비션형화할 수 있다.
프로세서(200)는 비선형화된 제2 컨벌루션 연산이 수행된 복수의 채널을 필터링하여 제2 필터링된 복수의 채널을 생성할 수 있다. 예를 들어, 프로세서(200)는 1×1 컨벌루션 필터를 이용하여 비선형화된 제2 컨벌루션 연산이 수행된 복수의 채널을 필터링할 수 있다.
프로세서(200)는 제2 컨벌루션 연산이 수행된 복수의 채널을 처음 입력된 특징맵과 동일한 크기의 출력으로 복원할 수 있다. 프로세서(200)는 제2 컨벌루션이 수행된(및 선택적으로 제2 비선형화가 수행된) 복수의 채널 각각에 포함된 화소를 제1 컨벌루션 연산의 스트라이드를 간격으로 가지도록 배치하여 결합함으로써 복수의 채널을 특징맵과 동일한 크기의 출력으로 복원할 수 있다. 프로세서(200)의 복원 동작은 도 5를 참조하여 상세하게 설명할 것이다.
프로세서(200)는 이미지에 기초한 특징맵과 특징맵과 동일한 크기로 복원된 출력을 더하여 움직임 흐림을 제거할 수 있다.
메모리(300)는 프로세서(200)에 의해 실행될 명령들(instructions), 뉴럴 네트워크의 필터 파라미터, 특징맵 등을 저장할 수 있다. 또한, 메모리(300)는 이미지, 움직임 흐림이 제거된 이미지를 저장할 수 있다.
도 2는 도 1에 도시된 움직임 흐림 제거 장치의 동작의 예를 나타낸다.
도 2를 참조하면, 움직임 흐림 제거 장치(10)는 입력된 이미지에 프론트 엔드 컨벌루션 레이어(front-end convolution layer, 500)를 통해 컨벌루션 연산을 수행하고, 비선형화 유닛(600)을 통해 비선형화를 수행할 수 있다. 그 후, 움직임 흐림 제거 장치(10)는 복수의 컨벌루션 유닛(400-1 내지 400-19)를 통과시키면서 움직임 흐림을 제거할 수 있다.
마지막으로, 움직임 흐림 제거 장치(10)는 백 엔드 컨벌루션 레이어(back-end convolution layer, 700)를 통해 컨벌루션 연산을 수행하여 움직임 흐림이 제거된 출력 이미지를 획득할 수 있다.
움직임 흐림 제거 장치(10)는 현실감 있는 흐림 이미지(blur image) 데이터 셋을 얻기 위해 고속 카메라를 이용하여 초당 240 프레임(fps)의 선명한 비디오 시퀀스를 획득할 수 있다.
다음, 각 비디오 시퀀스들은 시간적 오버랩 없이 매 7 개의 연속적인 선명한 비디오 프레임들로 평균화되고, 흐림 커널(blur kernel)들 없이 약 34 fps에서 데시메이트된(decimated) 흐림 시퀀스 버전으로 생성될 수 있다.
이러한 방법으로 깊이 정보를 효과적으로 활용하여 카메라에 가까운 물체는 큰 움직임 흐림을 가지는 반면, 카메라에서 먼 물체는 상대적으로 작은 움직임 흐림을 가질 수 있다.
움직임 흐림 제거 장치(10)는 움직임 흐림을 효과적으로 제거하기 위해 뉴럴 네트워크를 학습시킬 수 있다. 움직임 흐림 제거 장치(10)는 복수의 컨벌루션 유닛(400-1 내지 400-19)을 이용하여 움직임 흐림을 제거할 수 있다. 예를 들어, 컨벌루션 유닛(400-1 내지 400-19)은 확장된 수영 영역(enlarged receptive-field) 컨벌루션 유닛을 의미할 수 있다.
복수의 컨벌루션 유닛(400-1 내지 400-19)은 케스케이드(cascade) 형태로 연결될 수 있다. 예를 들어, 움직임 흐림 제거 장치(10)는 19 개의 컨벌루션 유닛(400-1 내지 400-19)을 케스케이드로 연결하여 이미지의 움직임 흐림을 제거할 수 있다.
이미지가 복수의 컨벌루션 유닛(400-1 내지 400-19)을 통과할 때, 원래의 공간 해상도(spatial resolution)와 감소된 공간 해상도 모두에서 움직임 흐림에 대한 중간 특징맵이 반복적으로 생성될 수 있다.
공간 해상도를 줄이면 흐림 크기(blur size)가 작아지기 때문에 움직임 흐림을 줄일 수 있다. 즉, 움직임 흐림 제거 장치(10)는 고정된 컨벌루션 필터를 사용하여 수용 영역의 크기를 확대할 수 있다.
축소된 공간 해상도에서의 특징맵의 처리 결과는 부화소(sub-pixel) 컨벌루션 레이어를 통해 원래의 공간 해상도 크기로 다시 구성될 수 있다.
첫 번째 컨벌루션 유닛(400-1)은 비선형화를 수행하는 비선형화 유닛(600)과 케스케이드로 연결될 수 있다. 비선형화 유닛(600)은 선택 유닛(selection unit)을 의미할 수 있다. 비선형화 유닛(600)의 동작은 도 4를 참조하여 상세하게 설명할 것이다.
움직임 흐림 제거 장치(10)에 사용되는 연산의 상세구성은 표 1과 같이 나타낼 수 있다.
# 레이어
(Layers)		 가중치 디멘전(Weight
Dimensions)		 스트라이드
(Strides)		 출력 크기(Output Sizes)
- - - - 256ⅹ256ⅹ3
0th 레이어 컨벌루션 5ⅹ5ⅹ3ⅹC 1 256ⅹ256ⅹC
비선형화 1ⅹ1ⅹCⅹC 1 256ⅹ256ⅹC
1st 컨벌루션 유닛 컨벌루션 5ⅹ5ⅹCⅹ4C 2 128ⅹ128ⅹ4C
비선형화 1ⅹ1ⅹ4Cⅹ4C 1 128ⅹ128ⅹ4C
컨벌루션 5ⅹ5ⅹ4Cⅹ4C 1 128ⅹ128ⅹ4C
비선형화 1ⅹ1ⅹ4Cⅹ4C 1 128ⅹ128ⅹ4C
업스케일 - - 256ⅹ256ⅹC
19th 컨벌루션 유닛 컨벌루션 5ⅹ5ⅹCⅹ4C 2 128ⅹ128ⅹ4C
비선형화 1ⅹ1ⅹ4Cⅹ4C 1 128ⅹ128ⅹ4C
컨벌루션 5ⅹ5ⅹ4Cⅹ4C 1 128ⅹ128ⅹ4C
비선형화 1ⅹ1ⅹ4Cⅹ4C 1 128ⅹ128ⅹ4C
업스케일 - - 256ⅹ256ⅹC
20th 레이어 컨벌루션 5ⅹ5ⅹCⅹ3 1 256ⅹ256ⅹ3
도 3은 도 2에 도시된 컨벌루션 유닛의 구조의 예를 나타낸다.
도 3을 참조하면, 움직임 흐림 제거 장치(10)는 복수의 컨벌루션 유닛(400-1 내지 400-19)을 이용해서 이미지의 움직임 흐림을 제거할 수 있다. 도 2에 도시된 컨벌루션 유닛(400-1 내지 400-19; 총괄적으로 “400”이라 함) 각각의 구조를 나타낼 수 있다.
컨벌루션 유닛(400)은 특징맵을 입력으로 받아서 수용 영역을 확장시킬 수 있다. 구체적으로, 컨벌루션 유닛(400)은 제1 컨벌루션을 통해 특징맵을 다운 스케일링하고, 비선형화 유닛(410-1)을 통해 비선형화할 수 있다. 컨벌루션 유닛(400)은 비션형화된 다운스케일링된 특징맵에 제2 컨벌루션 연산을 수행하고, 비선형화를 수행한 후에 업스케일링을 통해 원래의 크기를 복원할 수 있다.
컨벌루션 유닛(400)은 H×W×C 크기의 특징맵을 입력으로 받아 5×5×C×4C 컨벌루션 필터를 스트라이드 2로 컨벌루션 연산을 수행할 수 있다. 실시예에 따라, 컨벌루션 연산의 스트라이드는 2 이상의 값을 가질 수 있다.
컨벌루션 유닛(400)은 복수의 채널을 비선형화 할 수 있다. 즉, 4C 채널로 변환된 특징맵은 비선형화될 수 있다. 구체적으로, ReLU, 1ⅹ1 컨벌루션 레이어, 시그모이드(sigmoid)로 구성된 비선형화 유닛(예를 들어, 선택 유닛, 410-1)을 통과하여 비선형화될 수 있다.
5×5×C×4C는 필터의 폭 × 필터 높이 × 입력 채널 수 × 출력 채널 수를 나타낼 수 있다. 4C 채널로 변환된 특징맵(복수의 채널)은 H/2×W/2 로 공간 해상도가 감소될 수 있다.
컨벌루션 유닛(400)은 공간 해상도가 감소된 4C 채널로 변환된 특징맵에 5×5×4C×4C 컨벌루션 필터를 이용하여 스트라이드 1로 제2 컨벌루션 연산을 수행할 수 있다. 그 후, 제2 컨벌루션 연산의 출력은 비선형화 유닛(예를 들어, 선택 유닛, 410-2)을 통과할 수 있다.
비선형화 유닛(410-2)의 출력은 부화소 컨벌루션 레이어를 통해서 원래의 H×W 공간 해상도를 갖는 출력으로 복원될 수 있다.
마지막으로 C 채널 입력 특징맵은 복원된 출력에 잔차 네트워크에서와 같이 더해질 수 있다. 이를 통해, 컨벌루션 유닛(400)은 입력의 잔차를 학습할 수 있다.
도 4는 도 2에 도시된 비선형화 동작의 예를 나타낸다.
도 4를 참조하면, 비선형화 동작은 비선형화(예를 들어, ReLU), 필터링(예를 들어, 컨벌루션 필터링) 및 다른 비선형화(예를 들어, 시그모이드)를 포함할 수 있다. 또한, 선택적으로 상수의 곱셈 연산을 포함할 수 있다.
도 2, 3에 도시된 비선형화 유닛(410-1, 410-2)은 도 4에 도시된 비선형화 유닛(410)으로 구현될 수 있다. 비선형화 유닛(410)은 ReLU, 1×1 컨벌루션, 상수 곱셈기 및 시그모이드 함수로 구현될 수 있다.
예를 들어, 곱셈기에서 곱해지는 상수는 30일 수 있다. 상수의 곱을 통해 0 근처의 작은 값의 비선형성(non-linearity)가 증가될 수 있다.
도 5는 도 1에 도시된 프로세서의 복원 동작의 예를 나타낸다.
도 5를 참조하면, 컨벌루션 유닛(400)은 제2 컨벌루션 연산(선택적으로 비선형화)가 수행된 복수의 채널을 원래의 공간 해상도 크기를 가지는 특징맵으로 복원할 수 있다.
예를 들어, 채널이 4개인 경우에 컨벌루션 유닛(400)은 제1 채널의 (1, 1)위치의 화소를 복원될 특징맵의 (1, 1) 위치의 화소로 배치하고, 제2 채널의 (1, 1)화소를 복원될 특징맵의 (1, 2) 위치의 화소로 배치할 수 있다. 마찬가지로, 컨벌루션 유닛(400)은 제3 채널의 (1, 1) 화소를 복원될 특징맵의 (2, 1) 위치의 화소로 배치하고, 제4 채널의 (1, 1) 화소를 복원될 특징맵의 (2, 2) 위치의 화소로 배치할 수 있다.
모든 채널의 (1, 1) 화소가 배치한 후에, 컨벌루션 유닛(400)은 제1 채널의 (1, 2) 화소를 복원될 채널의 (1, 3) 위치의 화소로 배치할 수 있다. 컨벌루션 유닛(400)은 모든 채널에 대하여 상술한 동작을 수행할 수 있다.
결과적으로, 특정 스트라이드(예를 들어, 2)로 다운 스케일링된 제1 채널의 화소들은 복원될 특징맵에서 스트라이드 만큼(예를 들어, 2) 화소 간격을 가지고 배치될 수 있다. 나머지 채널들도 동일한 간격을 가지고 배치될 수 있다.
도 6a 내지 도 11b는 도 1의 움직임 흐림 제거 장치에 의해 움직임 흐림 제거되는 모습을 설명하기 위한 예들이다.
도 6a, 도 7a, 도 8a, 도 9a, 도 10a, 및 도 11a는 움직임 흐림을 제거하기 전의 이미지의 일 예를 나타내고, 도 6b, 도 7b, 도 8b, 도 9b, 도 10b, 및 도 11b는 움직임 흐림 제거 전의 이미지가 움직임 흐림 제거 장치(10)에 의해 움직임 흐림이 제거된 모습을 나타낸다.
실험을 위해 GOPRO 데이터 셋과 DBN(Deep Belief Network) 데이터 셋을 사용하여 정량적 및 정성적인 비교가 수행될 수 있다. 움직임 흐림 제거 장치(10)는 C=32 및 C=64를 사용하여 움직임 흐림 성능에서 파라미터의 영향이 조사될 수 있다.
움직임 흐림 제거 장치(10)는 TensorFlowTM을 이용하여 구현될 수 있고, 실험은 3.7 GHz Intel Core i7TM 700CPU 32G RAM 및 Pascal 아키텍저의 NVIDIA Titan XP GPU가 장착된 PC 플랫폼에서 구현될 수 있다.
GOPRO 데이터 셋은 GoPro4 Hero Black 카메라를 이용하여 240 fps로 촬영되었고, 3214 개의 다이나믹 신 움직임 흐림(dynamic scene motion blur)과 선명한 이미지(sharp image) 쌍으로 구성될 수 있다.
GOPRO 데이터셋을 이용한 움직임 흐림 제거 장치(10)의 PSNR 성능은 표 2와 같이 나타낼 수 있다.
방식 #1 #2 #3 #4 #5 #6 #7 #8 #9 #10 #11 평균
입력 28.44 27.61 26.43 29.75 26.35 23.36 22.91 22.74 24.91 22.96 25.73 25.56
움직임 흐림 제거 장치(C=32) 31.99 31.74 31.58 31.87 29.86 27.63 26.99 27.97 29.17 28.22 32.03 29.91
움직임 흐림 제거 장치(C=64) 32.57 32.24 31.73 32.3 30.62 28.62 28.01 29.02 30.04 29.11 33.23 30.68
DBN 데이터셋을 이용한 움직임 흐림 제거 장치(10)의 PSNR 성능은 표 과 같이 나타낼 수 있다.
방식 #1 #2 #3 #4 #5 #6 #7 #8 #9 #10 평균
입력 24.87 30.07 28.65 28.02 22.68 29.12 27.34 23.75 31.07 27.06 27.26
움직임 흐림 제거 장치(C=32) 28.75 33.51 30.91 30.79 25.62 32.07 30.14 26.8 34.32 29.54 30.24
움직임 흐림 제거 장치(C=64) 29.12 33.87 31.07 31.13 26.05 32.33 30.33 27.04 34.61 29.89 30.55
또한, 움직임 흐림 제거 장치(10)의 필터 파라미터의 수를 나타내면 표 4와 같을 수 있다.
파라미터 GOPRO DBN
움직임 흐림 제거 장치(C=32) 10,356,416 29.91 30.24
움직임 흐림 제거 장치(C=64) 41,416,064 30.68 30.55
정량적, 정성적 성능을 분석한 결과, 움직임 흐림 제거 장치(10)는 네트워크 파라미터의 수가 적어도 정교하고 정량적으로 뛰어난 성능을 보여줌을 확인할 수 있다. 움직임 흐림 제거 장치(10)는 컨벌루션 유닛(400)이 저해상도 특징맵에서 확장된 수영 영역을 갖는 컨벌루션 필터에 의해 움직임 흐림에 대하여 효과적인 학습을 가능하게 할 수 있다.
이를 통해, 움직임 흐림 제거 장치(10)는 움직임 흐림이 있는 큰 영역은 2 개의 컨벌루션 레이어를 통해 원래의 해상도로 다시 학습된 절반 해상도의 특징맵에 응축시킬 수 있다.
또한, 실험을 통해 움직임 흐림 제거 장치(10)가 높은 PSNR 성능을 나타냄을 확인할 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims (20)

  1. 이미지를 수신하는 단계; 및
    적어도 한 번의 상기 이미지의 움직임 흐림을 제거하는 단계
    를 포함하고,
    상기 제거하는 단계는,
    상기 이미지에 기초한 특징맵에 제1 컨벌루션 연산을 수행하여 크기가 감소된 복수의 채널을 생성하는 단계;
    상기 복수의 채널에 제2 컨벌루션 연산을 수행하는 단계;
    제2 컨벌루션 연산이 수행된 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원하는 단계; 및
    상기 특징맵과 상기 출력을 더하여 움직임 흐림을 제거하는 단계
    를 포함하고,
    상기 생성하는 단계는,
    상기 이미지의 공간 해상도(spatial resolution)를 감소시킴으로써 상기 크기가 감소된 복수의 채널을 생성하는 단계
    를 포함하고,
    상기 복원하는 단계는,
    상기 제2 컨벌루션이 수행된 복수의 채널에 포함된 화소를 하나의 특징맵에 배치함으로써 상기 출력으로 복원하는 단계를 포함하고,
    상기 특징맵의 채널 수와 상기 출력의 채널 수는 동일하게 유지되는
    움직임 흐림 제거 방법.
  2. 제1항에 있어서,
    상기 생성하는 단계 전에,
    상기 이미지에 컨벌루션 연산을 수행하여 상기 특징맵을 생성하는 단계
    를 더 포함하는 움직임 흐림 제거 방법.
  3. 제2항에 있어서,
    상기 특징맵을 생성하는 단계는,
    컨벌루션 연산이 수행된 이미지를 비선형화하여 상기 특징맵을 생성하는 단계
    를 포함하는 움직임 흐림 제거 방법.
  4. 제1항에 있어서,
    상기 생성하는 단계는,
    상기 제1 컨벌루션 연산의 스트라이드(stride)에 기초하여 상기 이미지의 크기를 감소시키는 단계; 및
    상기 제1 컨벌루션 연산의 필터의 채널 수에 대응하는 상기 복수의 채널을 생성하는 단계
    를 포함하는 움직임 흐림 제거 방법.
  5. 제1항에 있어서,
    상기 생성하는 단계 이후에,
    상기 복수의 채널을 제1 비선형화하는 단계
    를 더 포함하는 움직임 흐림 제거 방법.
  6. 제5항에 있어서,
    상기 제1 비선형화하는 단계는,
    상기 복수의 채널을 비선형화하는 단계;
    비선형화된 복수의 채널을 필터링하여 제1 필터링된 복수의 채널을 생성하는 단계;
    상기 제1 필터링된 복수의 채널에 상수를 곱하는 단계; 및
    상수가 곱해진 제1 필터링된 복수의 채널을 비선형화하는 단계
    를 포함하는 움직임 흐림 제거 방법.
  7. 제1항에 있어서,
    상기 수행하는 단계 이후에,
    상기 제2 컨벌루션 연산이 수행된 복수의 채널을 제2 비선형화하는 단계
    를 더 포함하는 움직임 흐림 제거 방법.
  8. 제7항에 있어서,
    상기 제2 비선형화하는 단계는,
    상기 제2 컨벌루션 연산이 수행된 복수의 채널을 비선형화하는 단계;
    비선형화된 제2 컨벌루션 연산이 수행된 복수의 채널을 필터링하여 제2 필터링된 복수의 채널을 생성하는 단계;
    상기 제2 필터링된 복수의 채널에 상수를 곱하는 단계; 및
    상수가 곱해진 제2 필터링된 복수의 채널을 비선형화하는 단계
    를 포함하는 움직임 흐림 제거 방법.
  9. 제1항에 있어서,
    상기 복원하는 단계는,
    상기 제2 컨벌루션이 수행된 복수의 채널 각각에 포함된 화소를 상기 제1 컨벌루션 연산의 스트라이드를 간격으로 가지도록 배치하여 결합함으로써 상기 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원하는 단계
    를 포함하는 움직임 흐림 제거 방법.
  10. 제1항에 있어서,
    상기 특징맵과 상기 출력을 더하여 움직임 흐림을 제거하는 단계는,
    상기 특징맵과 상기 출력을 더한 뒤에 컨벌루션 연산을 수행하는 단계
    를 포함하는 움직임 흐림 제거 방법.
  11. 이미지를 수신하는 수신기; 및
    적어도 한 번의 상기 이미지의 움직임 흐림을 제거하는 프로세서
    를 포함하고,
    상기 프로세서는,
    상기 이미지에 기초한 특징맵에 제1 컨벌루션 연산을 수행하여 크기가 감소된 복수의 채널을 생성하고, 상기 복수의 채널에 제2 컨벌루션 연산을 수행하고, 제2 컨벌루션 연산이 수행된 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원하고, 상기 특징맵과 상기 출력을 더하여 움직임 흐림을 제거하고, 상기 이미지의 공간 해상도를 감소시킴으로써 상기 크기가 감소된 복수의 채널을 생성하고,
    상기 제2 컨벌루션이 수행된 복수의 채널에 포함된 화소를 하나의 특징맵에 배치함으로써 상기 출력으로 복원하고,
    상기 특징맵의 채널 수와 상기 출력의 채널 수는 동일하게 유지되는
    움직임 흐림 제거 장치.
  12. 제11항에 있어서,
    상기 프로세서는,
    상기 복수의 채널을 생성하기 전에,
    상기 이미지에 컨벌루션 연산을 수행하여 상기 특징맵을 생성하는
    움직임 흐림 제거 장치.
  13. 제12항에 있어서,
    상기 프로세서는,
    컨벌루션 연산이 수행된 이미지를 비선형화하여 상기 특징맵을 생성하는
    움직임 흐림 제거 장치.
  14. 제11항에 있어서,
    상기 프로세서는,
    상기 제1 컨벌루션 연산의 스트라이드(stride)에 기초하여 상기 이미지의 크기를 감소시키고, 상기 제1 컨벌루션 연산의 필터의 채널 수에 대응하는 상기 복수의 채널을 생성하는
    움직임 흐림 제거 장치.
  15. 제11항에 있어서,
    상기 프로세서는,
    상기 복수의 채널을 생성한 이후에,
    상기 복수의 채널을 제1 비선형화하는
    움직임 흐림 제거 장치.
  16. 제15항에 있어서,
    상기 프로세서는,
    상기 복수의 채널을 비선형화하고, 비선형화된 복수의 채널을 필터링하여 제1 필터링된 복수의 채널을 생성하고, 상기 제1 필터링된 복수의 채널에 상수를 곱하고, 상수가 곱해진 제1 필터링된 복수의 채널을 비선형화하는
    움직임 흐림 제거 장치.
  17. 제11항에 있어서,
    상기 프로세서는,
    상기 제2 컨벌루션을 수행한 이후에,
    상기 제2 컨벌루션 연산이 수행된 복수의 채널을 제2 비선형화하는
    움직임 흐림 제거 장치.
  18. 제17항에 있어서,
    상기 프로세서는,
    상기 제2 컨벌루션 연산이 수행된 복수의 채널을 비선형화하고, 비선형화된 제2 컨벌루션 연산이 수행된 복수의 채널을 필터링하여 제2 필터링된 복수의 채널을 생성하고, 상기 제2 필터링된 복수의 채널에 상수를 곱하고, 상수가 곱해진 제2 필터링된 복수의 채널을 비선형화하는
    움직임 흐림 제거 장치.
  19. 제11항에 있어서,
    상기 프로세서는,
    상기 제2 컨벌루션이 수행된 복수의 채널 각각에 포함된 화소를 상기 제1 컨벌루션 연산의 스트라이드를 간격으로 가지도록 배치하여 결합함으로써 상기 복수의 채널을 상기 특징맵과 동일한 크기의 출력으로 복원하는
    움직임 흐림 제거 장치.
  20. 제11항에 있어서,
    상기 프로세서는,
    상기 특징맵과 상기 출력을 더한 뒤에 컨벌루션 연산을 수행하는
    움직임 흐림 제거 장치.
KR1020180155755A 2017-12-06 2018-12-06 움직임 흐림 제거 방법 및 장치 KR102034967B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20170166980 2017-12-06
KR1020170166980 2017-12-06

Publications (2)

Publication Number Publication Date
KR20190067111A KR20190067111A (ko) 2019-06-14
KR102034967B1 true KR102034967B1 (ko) 2019-10-21

Family

ID=66846611

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180155755A KR102034967B1 (ko) 2017-12-06 2018-12-06 움직임 흐림 제거 방법 및 장치

Country Status (1)

Country Link
KR (1) KR102034967B1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021002719A1 (ko) * 2019-07-03 2021-01-07 한국과학기술원 비디오 처리 방법 및 장치
KR102364628B1 (ko) * 2019-07-03 2022-02-18 한국과학기술원 비디오 처리 방법 및 장치
JP7219727B2 (ja) * 2020-01-14 2023-02-08 Kddi株式会社 動きボケ除去装置及びプログラム
WO2022005157A1 (en) * 2020-07-02 2022-01-06 Samsung Electronics Co., Ltd. Electronic device and controlling method of electronic device
KR102328029B1 (ko) * 2021-06-02 2021-11-17 아주대학교산학협력단 블러 이미지 처리 방법 및 장치

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Sainandan Ramakrishnan et al., "Deep Generative Filter for Motion Deblurring", Computer Vision and Pattern Recognition, 2017.09.11.*

Also Published As

Publication number Publication date
KR20190067111A (ko) 2019-06-14

Similar Documents

Publication Publication Date Title
KR102034967B1 (ko) 움직임 흐림 제거 방법 및 장치
US10860929B2 (en) Machine-learning based video compression
CN110008817B (zh) 模型训练、图像处理方法、装置、电子设备及计算机可读存储介质
JP6106897B2 (ja) ぼやけた画像に基づいて鮮明な画像を生成する方法および装置
CN110062164B (zh) 视频图像处理方法及装置
WO2018216207A1 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
KR101685885B1 (ko) 화상 처리 장치, 화상 처리 방법 및 화상 처리 프로그램
CN111091503A (zh) 基于深度学习的图像去失焦模糊方法
EP2979449B1 (en) Enhancing motion pictures with accurate motion information
CN110610467B (zh) 一种基于深度学习的多帧视频去压缩噪声方法
CN110569961A (zh) 一种神经网络训练方法、装置及终端设备
Gao et al. Atmospheric turbulence removal using convolutional neural network
Koh et al. Bnudc: A two-branched deep neural network for restoring images from under-display cameras
CN111709904A (zh) 一种图像融合方法及装置
CN113744159B (zh) 一种遥感图像去雾方法、装置及电子设备
CN115082306A (zh) 一种基于蓝图可分离残差网络的图像超分辨率方法
KR102083166B1 (ko) 이미지 처리 방법 및 장치
CN111091515B (zh) 图像复原方法及装置、计算机可读存储介质
Peng et al. MND-GAN: A research on image deblurring algorithm based on generative adversarial network
KR102126916B1 (ko) 블러된 영상 복원을 위한 장치 및 방법
Kim et al. Blind motion deblurring for satellite image using convolutional neural network
CN111476743B (zh) 一种基于分数阶微分的数字信号滤波与图像处理方法
Lian et al. An Image Deblurring Method Using Improved U‐Net Model
WO2017183297A1 (ja) 画像処理装置、画像処理プログラム及び画像処理方法、並びに画像送受信システム及び画像送受信方法
US20230044532A1 (en) Image processing method and apparatus using neural network based deblocking filtering

Legal Events

Date Code Title Description
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant