KR20210157052A - 객체 인식 방법 및 객체 인식 장치 - Google Patents

객체 인식 방법 및 객체 인식 장치 Download PDF

Info

Publication number
KR20210157052A
KR20210157052A KR1020200074868A KR20200074868A KR20210157052A KR 20210157052 A KR20210157052 A KR 20210157052A KR 1020200074868 A KR1020200074868 A KR 1020200074868A KR 20200074868 A KR20200074868 A KR 20200074868A KR 20210157052 A KR20210157052 A KR 20210157052A
Authority
KR
South Korea
Prior art keywords
scores
determining
weight
region
object region
Prior art date
Application number
KR1020200074868A
Other languages
English (en)
Inventor
박성헌
곽영준
유병인
이솔애
이용일
이한아
최지호
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020200074868A priority Critical patent/KR20210157052A/ko
Priority to US17/106,807 priority patent/US20210397819A1/en
Publication of KR20210157052A publication Critical patent/KR20210157052A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G06K9/00228—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06K9/00268—
    • G06K9/00288—
    • G06K9/3233—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • G06T2207/30201—Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Mathematical Physics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Human Computer Interaction (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Medical Informatics (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

객체 인식 방법 및 객체 인식 장치가 개시된다. 객체 인식 방법은 입력 영상에서 객체가 나타난 객체 영역을 검출하는 단계, 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하는 단계, 스코어들 및 객체 영역의 검출 정보에 기초하여 해당 스코어들 각각에 적용될 가중치를 결정하는 단계, 스코어들 및 결정된 가중치에 기초하여 최종 스코어를 결정하는 단계, 및 결정된 최종 스코어에 기초하여 객체에 대한 인식 결과를 결정하는 단계를 포함할 수 있다.

Description

객체 인식 방법 및 객체 인식 장치{OBJECT RECOGNITION METHOD AND OBJECT RECOGNITION APPARATUS}
아래의 실시예들은 분류기를 이용한 객체 인식 기술에 관한 것이다.
최근, 분류기 등의 인식 모델을 통해 사용자의 얼굴이나 지문을 통해 사용자 인증을 수행하는 기술에 대한 연구가 활발히 이루어지고 있다. 인식 모델은 인간의 생물학적 신경 세포의 특성을 수학적 표현에 의해 모델링한 뉴럴 네트워크(neural network)에 기초한다. 뉴럴 네트워크는 입력된 정보의 입력 패턴에 대응하는 인식 결과를 출력하는데 이용될 수 있다. 뉴럴 네트워크는 학습을 통해 입력 패턴과 출력 패턴 간의 사상(mapping)을 생성할 수 있고, 학습 결과에 기초하여 학습에 이용되지 않았던 입력 패턴에 대하여 비교적 올바른 출력 값을 생성할 수 있는 능력을 가지고 있다.
일 실시예에 따른 객체 인식 방법은, 입력 영상에서 객체가 나타난 객체 영역을 검출하는 단계; 상기 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하는 단계; 상기 스코어들 및 상기 객체 영역의 검출 정보에 기초하여, 상기 스코어들 각각에 적용될 가중치를 결정하는 단계; 상기 스코어들 및 상기 결정된 가중치에 기초하여 최종 스코어를 결정하는 단계; 및 상기 최종 스코어에 기초하여 상기 객체에 대한 인식 결과를 결정하는 단계를 포함할 수 있다.
상기 객체 영역의 검출 정보는, 상기 입력 영상에서 상기 객체 영역의 위치를 정의하는 파라미터들을 포함할 수 있다.
상기 파라미터들은, 상기 객체 영역의 너비, 상기 객체 영역의 높이 및 상기 객체 영역과 관련된 기준점의 좌표를 포함할 수 있다.
상기 가중치의 값은, 상기 객체 영역의 검출 정보와 상기 스코어들에 따라 적응적으로 변동될 수 있다.
상기 스코어들을 결정하는 단계는, 분류기들을 이용하여 상기 스코어들을 결정하는 단계를 포함하고, 상기 가중치를 결정하는 단계는, 상기 분류기들 중 적어도 하나로부터 획득한 특징 정보, 상기 스코어들, 및 상기 객체 영역의 검출 정보에 기초하여 상기 가중치를 결정하는 단계를 포함할 수 있다.
상기 특징 정보는, 상기 분류기들 중 적어도 하나의 중간 레이어로부터 출력된 특징 값을 포함할 수 있다.
다른 실시예에 따른 객체 인식 방법은, 입력 영상에서 객체가 나타난 객체 영역을 검출하는 단계; 상기 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하는 단계; 상기 검출된 객체 영역에 관한 검출 특징이 객체 인식 성능 저하 조건을 만족시키는 경우, 상기 스코어들 및 상기 객체 영역의 검출 정보에 기초하여 상기 스코어들 각각에 적용될 가중치를 결정하는 단계; 상기 스코어들 및 상기 결정된 가중치에 기초하여 최종 스코어를 결정하는 단계; 및 상기 최종 스코어에 기초하여 상기 객체에 대한 인식 결과를 결정하는 단계를 포함할 수 있다.
상기 검출된 객체 영역에 관한 검출 특징이 상기 객체 인식 성능 저하 조건을 만족시키는 경우는, 상기 입력 영상에서 객체 영역이 복수 개가 검출된 경우 및 상기 검출된 객체 영역이 불완전하게 검출된 객체 영역에 대응하는 경우 중 적어도 하나를 포함할 수 있다.
상기 검출된 객체 영역에 관한 특징이 상기 객체 인식 성능 저하 조건을 만족시키지 않는 경우, 상기 스코어들 및 고정된 가중치에 기초하여 최종 스코어를 결정하는 단계를 더 포함할 수 있다.
일 실시예에 따른 객체 인식 장치는, 하나 이상의 프로세서를 포함하고, 상기 하나 이상의 프로세서는, 입력 영상에서 객체가 나타난 객체 영역을 검출하고, 상기 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하고, 상기 스코어들 및 상기 객체 영역의 검출 정보에 기초하여, 상기 스코어들 각각에 적용될 가중치를 결정하고, 상기 스코어들 및 상기 결정된 가중치에 기초하여 최종 스코어를 결정하고, 상기 최종 스코어에 기초하여 상기 객체에 대한 인식 결과를 결정할 수 있다.
일 실시예에 따른 전자 장치는, 입력 영상을 획득하는 카메라; 및 상기 입력 영상에 기초하여 객체 인식을 수행하는 프로세서를 포함하고, 상기 프로세서는, 상기 입력 영상에서 객체가 나타난 객체 영역을 검출하고, 상기 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하고, 상기 스코어들 및 상기 객체 영역의 검출 정보에 기초하여, 상기 스코어들 각각에 적용될 가중치를 결정하고, 상기 스코어들 및 상기 결정된 가중치에 기초하여 최종 스코어를 결정하고, 상기 최종 스코어에 기초하여 상기 객체에 대한 인식 결과를 결정할 수 있다.
도 1은 일 실시예에 따른 객체 인식 장치의 구성을 도시하는 도면이다.
도 2는 일 실시예에 따른 객체 인식 방법의 동작을 설명하기 위한 흐름도이다.
도 3은 일 실시예에 따른 객체 영역의 검출 정보에 기초하여 최종 스코어를 결정하는 일례를 설명하기 위한 도면이다.
도 4는 다른 실시예에 따른 객체 영역의 검출 정보에 기초하여 최종 스코어를 결정하는 일례를 설명하기 위한 도면이다.
도 5는 다른 실시예에 따른 객체 인식 방법의 동작을 설명하기 위한 흐름도이다.
도 6은 다른 실시예에 따른 객체 인식 장치의 구성을 도시하는 도면이다.
도 7은 일 실시예에 따른 전자 장치의 구성을 도시하는 도면이다.
도 8은 일 실시예에 따른 학습 장치의 구성을 도시하는 도면이다.
실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 실시될 수 있다. 따라서, 실시예들은 특정한 개시형태로 한정되는 것이 아니며, 본 명세서의 범위는 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 또한, 어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
단수의 표현은 달리 명시되지 않는 한 일반적으로 "하나 이상의"를 의미하는 것으로 해석되어야 한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
또한, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.
도 1은 일 실시예에 따른 객체 인식 장치의 구성을 도시하는 도면이다.
객체 인식 장치(100)은 입력 영상에 나타난 객체를 인식하는 시스템으로서, 예를 들어 얼굴이 나타난 입력 영상에서 사용자의 얼굴을 인식하는데 이용될 수 있다. 다만, 실시예의 범위가 이에 한정되는 것은 아니고 객체 인식 장치(100)은 얼굴 이외에 다른 다양한 객체를 검출하는데 적용될 수 있다. 본 명세서에서 '입력 영상'은 '영상', '대상 영상' 또는 '쿼리 영상'으로도 지칭될 수 있다. 이러한 객체 인식 장치(100)은 예를 들어 스마트 폰, 스마트 TV, 데스크 탑, 노트북, 태블릿 PC, 웨어러블 디바이스, 지능형 자동차, 보안 시스템, 스마트 홈 시스템, 스마트 가전기기 등에 탑재될 수 있다.
도 1을 참조하면, 객체 인식 장치(100)은 객체 영역 검출기(110), 멀티-스케일 분류기(120), 가중치 결정기(130), 최종 스코어 결정기(140) 및 객체 인식 결정기(150)를 포함할 수 있다. 객체 영역 검출기(110)는 입력 영상에서 객체 영역을 검출할 수 있다. 객체 영역은 예를 들어 객체를 포함하는 바운딩 박스(bounding box)의 형태로 검출될 수 있다.
일 실시예로서, 입력 영상에서 얼굴 영역을 검출하는 경우, 객체 영역 검출기(110)는 Haar 기반의 캐스케이드 에이다부스트 분류기(Haar-based cascade adaboost classifier), 뉴럴 네트워크에 기반한 분류기 또는 서포트 벡터 머신(Support Vector Machine) 등을 이용하여 입력 영상에서 얼굴 영역을 검출할 수 있다. 다만, 실시예의 범위가 이에 한정되는 것은 아니고, 얼굴 인증 장치는 다양한 얼굴 영역 검출 기법을 이용하여 입력 영상에서 얼굴 영역을 검출할 수 있다.
멀티-스케일 분류기(120)는 입력 영상에서 추출된 복수의 영역들 각각에 대한 스코어(score)를 결정할 수 있다. 일 실시예에서, 멀티-스케일 분류기(120)는 복수의 뉴럴 네트워크 모델(예, 컨볼루셔널 뉴럴 네트워크(Convolutional Neural Network; CNN), 리커런트 뉴럴 네트워크(Recurrent Neural Network; RNN) 등)들을 포함할 수 있고, 각각의 뉴럴 네트워크 모델들은 입력된 영역에 대한 픽셀 값을 입력 받고, 해당 입력된 영역에 대응하는 스코어를 출력할 수 있다. '스코어'는 예를 들어 특징 값, 특징 벡터, 확률 값 또는 기대 값 등으로 지칭될 수 있다.
가중치 결정기(130)는 객체 영역 검출기(110)가 검출한 객체 영역의 검출 정보와 멀티-스케일 분류기(120)로부터 출력된 스코어에 대한 정보를 기초로 스코어들 각각에 적용될 가중치를 결정할 수 있다. 일 실시예에서, 가중치 결정기(130)는 스코어에 대한 정보와 객체 영역의 검출 정보를 입력으로 하고, 가중치를 출력하는 뉴럴 네트워크 모델일 수 있다. 객체 영역의 검출 정보는 입력 영상에서 객체 영역의 위치를 정의하는 파라미터들을 포함할 수 있다. 해당 파라미터들은 예를 들어 객체 영역의 너비(width), 객체 영역의 높이(height) 및 객체 영역과 관련된 기준점(예, 객체 영역의 중앙점, 꼭지점, 엣지(edge) 등)의 좌표 등에 대한 정보를 포함할 수 있다.
가중치 결정기(130)는 아래 도 8에서 설명하는 것처럼, 객체 인식 성능 저하 조건에 따라 최종 스코어가 결정되는데 있어 멀티-스케일 분류기(120)에 포함된 복수의 분류기들 중에서 성능이 좋은 분류기의 영향이 커지도록(즉, 해당 성능이 좋은 분류기로부터 출력되는 스코어에 적용되는 가중치가 상대적으로 커지도록) 미리 학습될 수 있다.
최종 스코어 결정기(140)는 멀티-스케일 분류기(120)에 의해 결정된 스코어와 가중치 결정기(130)에 의해 결정된 가중치에 기초하여 최종 스코어를 결정할 수 있다. 일 실시예에서, 최종 스코어 결정기(140)는 각 스코어에 대응하는 가중치를 적용하고, 가중치의 적용 결과를 기초로 최종 스코어를 결정할 수 있다. 예를 들어, 최종 스코어는 스코어와 가중치에 기초한 앙상블(ensemble) 결과 또는 스코어들의 가중합(weighted sum)으로 정의될 수 있다.
객체 인식 결정기(150)는 최종 스코어 결정기(140)에 의해 결정된 최종 스코어에 기초하여 객체 인식 결과를 결정할 수 있다. 예를 들어, 객체 인식 결정기(150)는 최종 스코어가 임계치보다 큰 경우에는 객체 인식 결과를 '성공(success)'으로 결정하고, 최종 스코어가 임계치 이하인 경우에는 객체 인식 결과를 '실패(failure)'로 결정할 수 있다. 예를 들어, 얼굴 인식의 경우, 인식 결과가 성공인 것으로 결정되면 사용자의 접근이 허용되는 동작이 수행되고, 인식 결과가 실패인 것으로 결정되면 사용자의 접근을 차단하는 동작이 수행될 수 있다.
위에 설명한 가중치 결정기(130)로부터 출력되는 가중치의 값은 객체 영역의 검출 정보와 스코어들에 적응적으로 변동될 수 있다. 이에 따라, 최종 스코어를 결정하는데 있어 고정된 가중치가 이용되는 것이 아니라, 검출 영역의 검출 위치에 적응적으로 결정된 가중치가 이용된다. 멀티-스케일 분류기(120)를 학습(training)시키는데 이용되는 학습 영상들의 경우, 다양한 검출 위치의 객체 영역을 반영하는 학습 영상들을 획득하는데 한계가 있다. 만약, 최종 스코어를 결정하는데 있어 객체 영역의 검출 위치에 대한 고려 없이 고정된 가중치가 이용된다면, 학습 영상들에 반영되지 않거나 드물게 반영된 객체 영역의 검출 위치에서 객체 영역이 검출되는 케이스에 대해서는 인식 성능이 저하될 수 있다. 하지만, 위에 설명된 가중치 결정기(130)에 의해 객체 영역의 검출 위치에 따라 가중치가 적응적으로 변동되는 것에 의해, 객체 영역의 검출 위치에 강인하게 객체 인식이 수행되어 인식 성능이 향상될 수 있다.
도 2는 일 실시예에 따른 객체 인식 방법의 동작을 설명하기 위한 흐름도이다. 객체 인식 방법은 본 명세서에서 설명된 객체 인식 장치에 의해 수행될 수 있다.
도 2를 참조하면, 단계(210)에서 객체 인식 장치는 입력 영상에서 객체가 나타난 객체 영역을 검출할 수 있다. 객체 인식 장치는 객체 인식의 대상이 되는 영상으로서 입력 영상을 수신하고, 입력 영상 내 부분 영역으로서 객체가 나타난 객체 영역을 추출할 수 있다. 입력 영상은 예를 들어, 디지털 스틸 카메라, 비디오 카메라 또는 적외선 카메라와 같은 영상 획득 장치에 의해 획득될 수 있다. 객체 영역은 예를 들어 얼굴 영역에 대응할 수 있고, 이 경우 객체 인식 장치는 입력 영상에서 얼굴 영역을 검출할 수 있다.
단계(220)에서, 객체 인식 장치는 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정할 수 있다. 일 실시예에 따르면, 객체 인식 장치는 멀티-스케일 분류기에 포함된 분류기들을 이용하여 스코어들을 결정할 수 있다. 멀티-스케일 분류기는 다른 스케일로 학습된 분류기들, 예를 들어 영상 내에서 서로 다른 영역에 대해 서로 다른 스케일로 학습된 분류기들을 포함할 수 있다.
설명의 편의를 위해 멀티-스케일 분류기가 제1 분류기와 제2 분류기를 포함한다고 가정하면, 제1 분류기와 제2 분류기는 서로 다른 구조나 특성 내지 파라미터들을 가질 수 있다. 일 실시예에서, 객체 인식 장치는 제1 분류기를 이용하여 객체 영역의 제1 영역에 대응하는 제1 스코어를 결정하고, 멀티-스케일 분류기에 포함된 제2 분류기를 이용하여 객체 영역의 제2 영역에 대응하는 제2 스코어를 결정할 수 있다. 예를 들어, 객체 영역이 얼굴 영역에 대응할 때, 제1 영역은 얼굴 영역에서 하나 이상의 얼굴 컴포넌트(예, 눈, 눈썹, 코, 입 등)가 나타난 일부 영역에 대응하고, 제2 영역은 검출된 얼굴 영역의 전체 영역에 대응하거나, 또는 얼굴 영역보다 더 넓은 영역에 대응할 수도 있다. 실시예에 따라, 멀티-스케일 분류기는 3개 이상의 분류기들을 포함할 수도 있고, 각각의 분류기마다 입력 영상에서 추출된 특정 영역이 입력되고 각각 대응되는 스코어가 출력될 수도 있다. 이 경우, 분류기들에서 출력된 3개 이상의 스코어들에 기초하여 아래 동작들이 수행될 수 있다.
단계(230)에서, 객체 인식 장치는 객체 영역의 검출 정보와 스코어들에 기초하여 스코어들 각각에 적용될 가중치를 결정할 수 있다. 객체 영역의 검출 정보는 입력 영상에서 객체 영역의 위치를 정의하는 파라미터들을 포함한다. 객체 인식 장치는 이러한 파라미터들과 멀티-스케일 분류기로부터 출력된 스코어들을 기초로, 스코어들 중 하나 이상에 적용될 가중치를 결정할 수 있다.
일 실시예에서, 객체 인식 장치는 객체 영역의 검출 정보 및 단계(220)에서 결정된 스코어들에 기초하여, 스코어들 각각에 적용될 가중치를 결정할 수 있다. 예를 들어, 객체 인식 장치는 객체 영역의 검출 정보 및 스코어들에 기초하여, 제1 스코어에 대응하는 제1 가중치와 제2 스코어에 대응하는 제2 가중치를 결정할 수 있다. 가중치를 결정할 때, 제1 스코어, 제2 스코어 및 객체 영역의 검출 정보를 입력으로 하고, 각 스코어에 대응하는 가중치를 출력하는 뉴럴 네트워크 모델이 이용될 수 있다. 이러한 뉴럴 네트워크 모델은 입력에 따라 각 스코어에 대응하는 가중치를 출력하도록 학습된 모델일 수 있다.
다른 실시예에 따르면, 객체 인식 장치는 멀티-스케일 분류기에 포함된 분류기들 중 적어도 하나로부터 획득한 특징 정보, 스코어들, 및 객체 영역의 검출 정보에 기초하여 가중치를 결정할 수도 있다. 여기서, 특징 정보는 예를 들어 분류기들 중 적어도 하나의 중간 레이어로부터 출력된 특징 값을 포함할 수 있다. 이 경우, 가중치를 결정할 때, 스코어들, 객체 영역의 검출 정보, 및 해당 중간 레이어로부터 출력된 특징 값을 입력으로 하고, 각 스코어들에 대응하는 가중치를 출력하는 뉴럴 네트워크 모델이 이용될 수 있다.
단계(240)에서, 객체 인식 장치는 멀티-스케일 분류기로부터 출력된 스코어들과 단계(230)에서 결정된 가중치에 기초하여 최종 스코어를 결정할 수 있다. 일 실시예에서, 객체 인식 장치는 제1 스코어 및 제2 스코어마다 가중치가 결정되었다고 가정하면, 객체 인식 장치는 제1 스코어에 제1 가중치가 적용된 결과 및 제2 스코어에 제2 가중치가 적용된 결과에 기초하여 최종 스코어를 결정할 수 있다. 최종 스코어는 스코어들과 가중치에 기초한 가중합의 형태로 계산될 수 있다.
단계(250)에서, 객체 인식 장치는 결정된 최종 스코어에 기초하여 객체에 대한 인식 결과를 결정할 수 있다. 예를 들어, 객체 인식 장치는 최종 스코어에 기초하여 입력 영상에 나타난 객체의 종류를 식별하거나 또는 입력 영상에 나타난 얼굴의 인식 결과를 결정할 수 있다.
위와 같이, 객체 영역의 검출 정보에 기초하여 결정되는 가중치에 의해 멀티-스케일 분류기로부터 출력되는 스코어가 조정되고, 이러한 스코어의 조정을 통해 객체 영역이 검출되는 조건에 강인하게 객체 인식이 수행될 수 있다.
도 3은 일 실시예에 따른 객체 영역의 검출 정보에 기초하여 최종 스코어를 결정하는 일례를 설명하기 위한 도면이다.
도 3을 참조하면, 객체 인식 장치는 입력 영상(310)에서 객체가 나타난 객체 영역(315)을 검출하고, 객체 영역(315)의 검출과 관련된 검출 정보(320)를 획득할 수 있다. 예를 들어, 검출 정보(320)는 객체 영역(315)의 너비, 높이, 기준점(예, 중심점 또는 좌측 상단 모서리)의 좌표(x, y)에 대한 정보를 포함할 수 있다.
본 실시예에서, 멀티-스케일 분류기는 제1 분류기(335), 제2 분류기(345) 및 제3 분류기(355)를 포함한다고 가정한다. 제1 분류기(335), 제2 분류기(345) 및 제3 분류기(355) 각각은 컨볼루셔널 뉴럴 네트워크 모델에 기반할 수 있다. 제1 분류기(335)에는 입력 영상(310)의 제1 영역(330)이 입력되고, 제1 분류기(335)는 제1 영역(330)에 대응하는 제1 스코어 S1를 제공할 수 있다. 제2 분류기(345)에는 입력 영상(310)의 제2 영역(340)이 입력되고, 제2 분류기(345)는 제2 영역(340)에 대응하는 제2 스코어 S2를 제공할 수 있다. 제3 분류기(355)에는 입력 영상(310)의 제3 영역(350)이 입력되고, 제3 분류기(355)는 제3 영역(350)에 대응하는 제3 스코어 S3를 제공할 수 있다. 제1 영역(330), 제2 영역(340) 및 제3 영역(350)은 입력 영상(310)에서 추출된 멀티-스케일의 패치(patch) 영역들일 수 있다. 해당 패치 영역들은 크기나 나타내는 영역이 서로 다를 수 있으며, 서로 간에 어느 한 쪽이 다른 쪽을 포함하거나 적어도 일부 영역이 중첩될 수 있다.
가중치 결정기(360)는 제1, 제2, 제3 스코어 (S1, S2, S3)과 검출 정보(320)에 기초하여, 제1, 제2, 제3 스코어 (S1, S2, S3) 중 적어도 하나에 적용될 가중치를 결정할 수 있다. 본 실시예에서는, 제1 스코어 S1에 대해 제1 가중치 w1이, 제2 스코어 S2에 대해 제2 가중치 w2가, 제3 스코어 S3에 대해 제3 가중치 w3이 결정된다고 가정한다. 이러한 가중치들(w1, w2, w3) 각각의 값 객체 영역(315)에 대한 검출 정보(320)에 따라 달라질 수 있다. 일 실시예에서, 가중치 결정기(360)는 가중치들(w1, w2, w3)을 결정하기 위해, 제1, 제2, 제3 스코어 (S1, S2, S3)과 검출 정보(320)를 입력으로 하고, 제1, 제2, 제3 스코어 (S1, S2, S3) 각각에 대응하는 가중치들(w1, w2, w3)을 출력하는 뉴럴 네트워크 모델을 이용할 수 있다.
객체 인식 장치는 1, 제2, 제3 스코어 (S1, S2, S3)와 가중치들(w1, w2, w3)을 기초로 최종 스코어 Sf 를 결정할 수 있다. 예를 들어, 최종 스코어 Sf는 1, 제2, 제3 스코어 (S1, S2, S3)와 각 스코어들에 대응하는 가중치들(w1, w2, w3)에 기초한 가중합의 결과로서 결정될 수 있다.
도 4는 다른 실시예에 따른 객체 영역의 검출 정보에 기초하여 최종 스코어를 결정하는 일례를 설명하기 위한 도면이다.
도 4를 참조하면, 도 3의 실시예와 동일하게, 객체 인식 장치는 입력 영상(310)에서 객체 영역(315)을 검출하고, 객체 영역(315)의 검출과 관련된 검출 정보(320)를 획득하며, 제1 분류기(335), 제2 분류기(345) 및 제3 분류기(355)를 통해 각각의 패치 영역들(330, 340, 350)에 대응하는 스코어(S1, S2, S3)를 획득한다고 가정한다.
본 실시예에서 객체 인식 장치는 특징 추출기(410)를 포함할 수 있고, 특징 추출기(410)는 멀티-스케일 분류기로부터 특징 정보를 획득할 수 있다. 예를 들어, 특징 추출기(410)는 제1 분류기(335), 제2 분류기(345) 및 제3 분류기(355)와 연결되고, 제1 분류기(335)의 중간 레이어로부터 출력된 제1 특징 값, 제2 분류기(345)의 중간 레이어로부터 출력된 제2 특징 값 및 제3 분류기(355)의 중간 레이어로부터 출력된 제3 특징 값을 획득할 수 있다. 특징 추출기(410)는 획득한 제1 특징 값, 제2 특징 값 및 제3 특징 값을 가중치 결정기(420)에 전달할 수 있다.
가중치 결정기(420)는 스코어(S1, S2, S3)와 검출 정보(320) 이외에 특징 추출기(410)에 의해 획득된 특징 정보를 기초로, 스코어(S1, S2, S3) 각각에 적용될 가중치(w1, w2, w3)을 결정할 수 있다. 이후에, 객체 인식 장치는 스코어(S1, S2, S3)와 가중치(w1, w2, w3)를 기초로 최종 스코어 Sf를 결정할 수 있다.
도 5는 다른 실시예에 따른 객체 인식 방법의 동작을 설명하기 위한 흐름도이다.
다른 실시예에 따르면, 입력 영상의 객체 인식 성능 저하 조건에 따라 객체 인식 장치는 가중치를 적응적으로 결정하여 최종 스코어를 결정하거나 또는 고정된 가중치를 기초로 최종 스코어를 결정할 수 있다. 도 5를 참조하면, 단계(510)에서 객체 인식 장치는 입력 영상에서 객체 영역을 검출할 수 있다. 단계(520)에서, 객체 인식 장치는 멀티-스케일 분류기에 포함된 각 분류기들을 이용하여 객체 영역(또는 입력 영상)의 복수의 영역들 각각에 대응하는 스코어를 결정할 수 있다. 여기서, 복수의 영역들은 서로 다른 범위나 서로 다른 영역을 가질 수 있다.
단계(530)에서, 객체 인식 장치는 검출된 객체 영역에 관한 검출 특징이 객체 인식 성능 저하 조건을 만족시키는지 여부를 판단할 수 있다. 객체 영역에 관한 검출 특징이 객체 인식 성능 저하 조건을 만족시키는 경우는, 예를 들어 입력 영상에서 객체 영역이 복수 개 검출된 경우 및 검출된 객체 영역이 불완전하게 검출된 객체 영역에 대응하는 경우 중 하나 이상을 포함할 수 있다. 객체 영역이 불완전하게 검출된 것은, 객체 영역이 미리 정의된 위치(예, 입력 영상의 엣지 근처 영역)에서 검출되거나 객체를 정의하는 컴포넌트들이 모두 검출되지 않은 경우 등을 포함할 수 있다.
객체 영역에 관한 검출 특징이 해당 객체 인식 성능 저하 조건을 만족시키는 경우, 단계(540)에서 객체 인식 장치는 객체 영역의 검출 정보와 스코어들에 기초하여 가중치를 적응적으로 결정할 수 있다. 일 실시예에서, 객체 인식 장치는 멀티-스케일 분류기에 포함된 분류기들로부터 획득된 스코어들 및 객체 영역의 검출 정보에 기초하여, 스코어들 각각에 적용될 가중치를 결정할 수 있다. 단계(540)은 도 2의 단계(230)에 대응할 수 있다.
이후에, 객체 인식 장치는 단계(560)에서 멀티-스케일 분류기로부터 출력된 스코어들과 단계(530)에서 결정된 가중치에 기초하여 최종 스코어를 결정하고, 단계(570)에서 최종 스코어에 기초하여 객체에 대한 인식 결과를 결정할 수 있다.
단계(530)에서의 판단 결과, 객체 영역에 관한 특징이 객체 인식 성능 저하 조건을 만족시키지 않는 경우, 단계(550)에서 객체 인식 장치는 최종 스코어를 위해 고정된 가중치(fixed weight)를 이용하는 것으로 결정할 수 있다. 고정된 가중치는 미리 정의되어 있을 수 있다. 단계(560)에서, 객체 인식 장치는 스코어들 및 고정된 가중치에 기초하여 최종 스코어를 결정할 수 있다. 예를 들어, 최종 스코어는 스코어들 각각에 해당 고정된 가중치가 적용된 결과의 합인, 가중합의 형태로서 계산될 수 있다. 단계(570)에서. 객체 인식 장치는 최종 스코어에 기초하여 객체에 대한 인식 결과를 결정할 수 있다.
위와 같이, 다른 실시예에 따른 객체 인식 장치는 고정된 가중치를 이용하는 경우 객체 인식에 대한 성능이 저하될 수 있는 특정한 객체 인식 성능 저하 조건인지 여부를 판단하고, 해당 객체 인식 성능 저하 조건에서는 객체 영역의 검출 정보와 스코어들을 기초로 가중치를 적응적으로 결정하여 객체 인식을 수행할 수 있다. 이에 따라, 객체 인식 장치는 항상 고정된 가중치를 이용하는 경우보다 객체 인식의 성능을 향상하여 높은 객체 인식 정확도를 제공할 수 있다.
도 6은 다른 실시예에 따른 객체 인식 장치의 구성을 도시하는 도면이다.
도 6을 참조하면, 객체 인식 장치(600)는 객체 인식을 위한 입력 영상을 수신할 수 있다. 객체 인식 장치(600)는 객체 인식 방법과 관련하여 본 명세서에서 기술되거나 또는 도시된 하나 이상의 동작을 수행할 수 있고, 객체 인식의 결과를 사용자에게 제공할 수 있다.
객체 인식 장치(600)는 하나 이상의 프로세서(610) 및 메모리(620)를 포함할 수 있다. 메모리(620)는 프로세서(610)에 연결되고, 프로세서(610)에 의해 실행가능한 인스트럭션들, 프로세서(610)가 연산할 데이터 또는 프로세서(610)에 의해 처리된 데이터를 저장할 수 있다. 메모리(620)는 비일시적인 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 플래쉬 메모리 장치 또는 기타 비휘발성 솔리드 스테이트 메모리 장치)를 포함할 수 있다.
일 실시예에서, 프로세서(610)는 입력 영상에서 객체가 나타난 객체 영역을 검출하고, 멀티-스케일 분류기를 이용하여 객체 영역의 복수의 영역들 각각에 대한 스코어 정보를 획득할 수 있다. 예를 들어 프로세서(610)는 제1 분류기를 이용하여 입력 영상의 제1 영역에 대응하는 제1 스코어를 결정하고, 제2 분류기를 이용하여 입력 영상의 제2 영역에 대응하는 제2 스코어를 결정할 수 있다. 제1 분류기 및 제2 분류기를 포함하는 멀티-스케일 분류기는 모델 데이터베이스(630)에 저장되어 있을 수 있다.
프로세서(610)는 복수의 영역들에 대한 스코어들 및 객체 영역의 검출 정보에 기초하여, 스코어들 각각에 적용될 가중치를 결정할 수 있다. 객체 영역의 검출 정보는 입력 영상에서 검출된 객체 영역의 위치를 정의하는 파라미터들을 포함할 수 있다. 다른 실시예에서, 프로세서(610)는 가중치를 결정하는데 있어, 분류기들 중 적어도 하나로부터 획득한 특징 정보를 더 이용하여, 해당 특징 정보, 스코어들 및 객체 영역의 검출 정보에 기초하여 가중치를 결정할 수도 있다. 프로세서(610)는 스코어들 및 결정된 가중치에 기초하여 최종 스코어를 결정하고, 최종 스코어에 기초하여 객체에 대한 인식 결과를 결정할 수 있다. 예를 들어, 프로세서(610)는 스코어들과 가중치에 기초한 가중합의 결과를 최종 스코어로 결정하여, 최종 스코어가 임계치 이상이면 객체 인식이 성공인 것으로 결정하고, 최종 스코어가 임계치 미만이면 객체 인식이 실패인 것으로 결정할 수 있다.
도 7은 일 실시예에 따른 전자 장치의 구성을 도시하는 도면이다.
본 명세서에서 설명한 객체 인식 장치는 전자 장치(700)에 포함되어 동작할 수 있고, 전자 장치(700)는 객체 인식 장치가 수행할 수 있는 하나 이상의 동작을 수행할 수 있다. 전자 장치(700)는 예를 들어 스마트폰, 웨어러블 기기(wearable device), 태블릿 컴퓨터, 넷북, 랩탑, 데스크탑, PDA(personal digital assistant), 셋탑 박스, 스마트 가전 기기, 보안 장치 등일 수 있다.
도 7을 참조하면, 전자 장치(700)는 프로세서(710), 메모리(720), 카메라(730), 저장 장치(740), 입력 장치(750), 출력 장치(760) 및 통신 장치(770)를 포함할 수 있다. 프로세서(710), 메모리(720), 카메라(730), 저장 장치(740), 입력 장치(750), 출력 장치(760) 및 통신 장치(770)는 통신 버스(780)를 통해 서로 통신할 수 있다.
카메라(730)는 정지 영상, 비디오 영상, 또는 이들 모두를 캡쳐할 수 있다. 카메라(730)는 객체 인식을 위한 입력 영상을 획득할 수 있다. 획득된 영상은 예를 들어, 컬러 영상, 흑백 영상 또는 적외선 영상일 수 있다.
프로세서(710)는 전자 장치(700) 내에서 실행하기 위한 기능 및 인스트럭션들을 실행한다. 예를 들어, 프로세서(710)는 메모리(720) 또는 저장 장치(740)에 저장된 인스트럭션들을 처리할 수 있다. 프로세서(710)는 카메라(730)에 의해 획득된 입력 영상이나 다른 영상에 기초하여 객체 인식을 수행할 수 있고, 도 1 내지 도 6을 통하여 전술한 하나 이상의 동작을 수행할 수 있다.
저장 장치(740)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함한다. 저장 장치(740)는 멀티-스케일 분류기를 저장하는 모델 데이터베이스를 포함할 수 있다. 저장 장치(740)는 자기 하드 디스크, 광 디스크, 플래쉬 메모리, 전기적으로 프로그래밍가능한 메모리(EPROM), 플로피 디스크 또는 이 기술 분야에서 알려진 다른 형태의 비휘발성 메모리를 포함할 수 있다.
입력 장치(750)는 촉각, 비디오, 오디오 또는 터치 입력을 통해 사용자로부터 입력을 수신할 수 있다. 예를 들어, 입력 장치(750)는 키보드, 마우스, 터치스크린, 마이크로폰, 또는 사용자로부터 입력을 검출하고, 검출된 입력을 전자 장치(700)에 전달할 수 있는 임의의 다른 장치를 포함할 수 있다.
출력 장치(760)는 시각적, 청각적 또는 촉각적인 채널을 통해 사용자에게 전자 장치(700)의 출력을 제공할 수 있다. 출력 장치(760)는 예를 들어, 액정 디스플레이, LED(light emitting diode) 디스플레이, 터치 스크린, 스피커, 진동 발생 장치 또는 사용자에게 출력을 제공할 수 있는 임의의 다른 장치를 포함할 수 있다.
통신 장치(770)는 유선 또는 무선 네트워크를 통해 외부 장치와 통신할 수 있다.
도 8은 일 실시예에 따른 학습 장치의 구성을 도시하는 도면이다.
도 8를 참조하면, 학습 장치(800)는 프로세서(810)에 의해 실행 가능한 인스트럭션들을 저장하는 메모리(820)와 메모리(820)에 저장된 인스트럭션들을 실행함으로써 분류기의 학습 과정을 수행하는 프로세서(810)를 포함한다.
프로세서(810)는 모델 데이터베이스(840)에 저장된 멀티-스케일 분류기, 가중치 결정기 및 특징 추출기 각각에서 이용되는 뉴럴 네트워크 모델들을 학습시킬 수 있다. 본 명세서에서 '학습(training)'은 컴퓨터의 기계 학습(machine learning)을 의미할 수 있다.
일 실시예에서, 프로세서(810)는 학습 데이터 데이터베이스(830)에 저장된 학습 영상에 기초하여, 가중치를 결정하는데 이용되는 뉴럴 네트워크 모델을 학습시킬 수 있다. 해당 뉴럴 네트워크 모델에는 학습 영상에서 검출된 객체 영역의 검출 정보와 멀티-스케일 분류기로부터 획득된 스코어 정보가 입력되고, 뉴럴 네트워크 모델은 각각의 스코어에 대응하는 가중치를 출력할 수 있다. 일 실시예에서, 뉴럴 네트워크 모델의 출력에 대한 목적하는 출력은 멀티-스케일 분류기로부터 획득된 스코어들에 기초하여 결정될 수 있다.
멀티-스케일 분류기가 3개의 분류기들을 포함하고, 해당 분류기들이 스코어들(S1, S2, S3)을 출력한다고 가정하면, 뉴럴 네트워크 모델로부터 출력되어야 할 바람직한 가중치들(
Figure pat00001
)은 다음의 수학식 1과 같이 나타낼 수 있다.
Figure pat00002
여기서, 가중치들(
Figure pat00003
)은 각각 스코어들(S1, S2, S3)에 대응하는 바람직한 가중치들이고,
Figure pat00004
는 1 이상의 상수로서 조정 가능한 값이다.
학습 영상에 기초하여 뉴럴 네트워크 모델로부터 가중치들(w1, w2, w3)이 출력되었다면, 프로세서(810)는 각각의 가중치들(w1, w2, w3)과 바람직한 가중치들(
Figure pat00005
) 간의 오차를 계산하고, 계산된 오차가 줄어드는 방향으로 뉴럴 네트워크 모델의 파라미터들을 업데이트할 수 있다.
프로세서(810)는 각각의 학습 영상에서 객체 영역을 검출하고, 객체 영역의 검출 정보를 기초로 위와 같이 가중치 결정기의 뉴럴 네트워크 모델을 학습시키는 과정을 반복적으로 수행할 수 있다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (20)

  1. 입력 영상에서 객체가 나타난 객체 영역을 검출하는 단계;
    상기 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하는 단계;
    상기 스코어들 및 상기 객체 영역의 검출 정보에 기초하여, 상기 스코어들 각각에 적용될 가중치를 결정하는 단계;
    상기 스코어들 및 상기 결정된 가중치에 기초하여 최종 스코어를 결정하는 단계; 및
    상기 최종 스코어에 기초하여 상기 객체에 대한 인식 결과를 결정하는 단계
    를 포함하는 객체 인식 방법.
  2. 제1항에 있어서,
    상기 객체 영역의 검출 정보는,
    상기 입력 영상에서 상기 객체 영역의 위치를 정의하는 파라미터들을 포함하는, 객체 인식 방법.
  3. 제2항에 있어서,
    상기 파라미터들은,
    상기 객체 영역의 너비(width), 상기 객체 영역의 높이(height) 및 상기 객체 영역과 관련된 기준점의 좌표를 포함하는,
    객체 인식 방법.
  4. 제1항에 있어서,
    상기 가중치의 값은,
    상기 객체 영역의 검출 정보와 상기 스코어들에 따라 적응적으로 변동되는,
    객체 인식 방법.
  5. 제1항에 있어서,
    상기 가중치를 결정하는 단계는,
    상기 스코어들 및 상기 객체 영역의 검출 정보를 입력으로 하고, 상기 가중치를 출력하는 뉴럴 네트워크 모델을 이용하여 상기 가중치를 획득하는 단계
    를 포함하는 객체 인식 방법.
  6. 제1항에 있어서,
    상기 스코어들을 결정하는 단계는,
    분류기들을 이용하여 상기 스코어들을 결정하는 단계를 포함하고,
    상기 가중치를 결정하는 단계는,
    상기 분류기들 중 적어도 하나로부터 획득한 특징 정보, 상기 스코어들, 및 상기 객체 영역의 검출 정보에 기초하여 상기 가중치를 결정하는 단계
    를 포함하는 객체 인식 방법.
  7. 제6항에 있어서,
    상기 특징 정보는,
    상기 분류기들 중 적어도 하나의 중간 레이어로부터 출력된 특징 값을 포함하는,
    객체 인식 방법.
  8. 제1항에 있어서,
    상기 가중치를 결정하는 단계는,
    상기 객체 영역의 검출 정보 및 상기 스코어들에 기초하여 제1 스코어에 대응하는 제1 가중치를 결정하는 단계; 및
    상기 객체 영역의 검출 정보 및 상기 스코어들에 기초하여 제2 스코어에 대응하는 제2 가중치를 결정하는 단계
    를 포함하는 객체 인식 방법.
  9. 제8항에 있어서,
    상기 최종 스코어를 결정하는 단계는,
    상기 제1 스코어에 상기 제1 가중치가 적용된 결과 및 상기 제2 스코어에 상기 제2 가중치가 적용된 결과에 기초하여 상기 최종 스코어를 결정하는 단계
    를 포함하는 객체 인식 방법.
  10. 제1항에 있어서,
    상기 객체 영역은, 얼굴 영역에 대응하고,
    상기 복수의 영역들은, 상기 얼굴 영역 및 상기 얼굴 영역에서 하나 이상의 얼굴 컴포넌트가 나타난 일부 영역을 포함하는,
    객체 인식 방법.
  11. 입력 영상에서 객체가 나타난 객체 영역을 검출하는 단계;
    상기 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하는 단계;
    상기 검출된 객체 영역에 관한 검출 특징이 객체 인식 성능 저하 조건을 만족시키는 경우, 상기 스코어들 및 상기 객체 영역의 검출 정보에 기초하여 상기 스코어들 각각에 적용될 가중치를 결정하는 단계;
    상기 스코어들 및 상기 결정된 가중치에 기초하여 최종 스코어를 결정하는 단계; 및
    상기 최종 스코어에 기초하여 상기 객체에 대한 인식 결과를 결정하는 단계
    를 포함하는 객체 인식 방법.
  12. 제11항에 있어서,
    상기 객체 영역의 검출 정보는,
    상기 입력 영상에서 상기 객체 영역의 위치를 정의하는 파라미터들을 포함하고,
    상기 파라미터들은,
    상기 객체 영역의 너비, 상기 객체 영역의 높이 및 상기 객체 영역과 관련된 기준점의 좌표를 포함하는,
    객체 인식 방법.
  13. 제11항에 있어서,
    상기 검출된 객체 영역에 관한 검출 특징이 상기 객체 인식 성능 저하 조건을 만족시키는 경우는,
    상기 입력 영상에서 객체 영역이 복수 개가 검출된 경우 및 상기 검출된 객체 영역이 불완전하게 검출된 객체 영역에 대응하는 경우 중 적어도 하나를 포함하는,
    객체 인식 방법.
  14. 제11항에 있어서,
    상기 검출된 객체 영역에 관한 특징이 상기 객체 인식 성능 저하 조건을 만족시키지 않는 경우, 상기 스코어들 및 고정된 가중치(fixed weight)에 기초하여 최종 스코어를 결정하는 단계
    를 더 포함하는 객체 인식 방법.
  15. 제11항에 있어서,
    상기 가중치를 결정하는 단계는,
    상기 스코어들 및 상기 객체 영역의 검출 정보를 입력으로 하고, 상기 가중치를 출력하는 뉴럴 네트워크 모델을 이용하여 상기 가중치를 획득하는 단계
    를 포함하는 객체 인식 방법.
  16. 제1항 내지 제15항 중 어느 하나의 항의 방법을 실행하기 위한 인스트럭션들을 저장하는 컴퓨터 판독 가능한 저장매체.
  17. 하나 이상의 프로세서를 포함하고,
    상기 하나 이상의 프로세서는,
    입력 영상에서 객체가 나타난 객체 영역을 검출하고,
    상기 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하고,
    상기 스코어들 및 상기 객체 영역의 검출 정보에 기초하여, 상기 스코어들 각각에 적용될 가중치를 결정하고,
    상기 스코어들 및 상기 결정된 가중치에 기초하여 최종 스코어를 결정하고,
    상기 최종 스코어에 기초하여 상기 객체에 대한 인식 결과를 결정하는,
    객체 인식 장치.
  18. 제17항에 있어서,
    상기 객체 영역의 검출 정보는,
    상기 입력 영상에서 상기 객체 영역의 위치를 정의하는 파라미터들을 포함하고,
    상기 파라미터들은,
    상기 객체 영역의 너비, 상기 객체 영역의 높이 및 상기 객체 영역과 관련된 기준점의 좌표를 포함하는,
    객체 인식 방법.
  19. 제17항에 있어서,
    상기 프로세서는,
    분류기들을 이용하여 상기 스코어들을 결정하고,
    상기 분류기들 적어도 하나로부터 획득한 특징 정보, 상기 스코어들, 및 상기 객체 영역의 검출 정보에 기초하여 상기 가중치를 결정하는,
    객체 인식 장치.
  20. 입력 영상을 획득하는 카메라; 및
    상기 입력 영상에 기초하여 객체 인식을 수행하는 프로세서를 포함하고,
    상기 프로세서는,
    상기 입력 영상에서 객체가 나타난 객체 영역을 검출하고,
    상기 객체 영역의 복수의 영역들 각각에 대응하는 스코어들을 결정하고,
    상기 스코어들 및 상기 객체 영역의 검출 정보에 기초하여, 상기 스코어들 각각에 적용될 가중치를 결정하고,
    상기 스코어들 및 상기 결정된 가중치에 기초하여 최종 스코어를 결정하고,
    상기 최종 스코어에 기초하여 상기 객체에 대한 인식 결과를 결정하는,
    전자 장치.
KR1020200074868A 2020-06-19 2020-06-19 객체 인식 방법 및 객체 인식 장치 KR20210157052A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200074868A KR20210157052A (ko) 2020-06-19 2020-06-19 객체 인식 방법 및 객체 인식 장치
US17/106,807 US20210397819A1 (en) 2020-06-19 2020-11-30 Object recognition method and object recognition apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200074868A KR20210157052A (ko) 2020-06-19 2020-06-19 객체 인식 방법 및 객체 인식 장치

Publications (1)

Publication Number Publication Date
KR20210157052A true KR20210157052A (ko) 2021-12-28

Family

ID=79022398

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200074868A KR20210157052A (ko) 2020-06-19 2020-06-19 객체 인식 방법 및 객체 인식 장치

Country Status (2)

Country Link
US (1) US20210397819A1 (ko)
KR (1) KR20210157052A (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI806006B (zh) * 2021-02-20 2023-06-21 緯創資通股份有限公司 熱影像定位方法及其系統

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8170280B2 (en) * 2007-12-03 2012-05-01 Digital Smiths, Inc. Integrated systems and methods for video-based object modeling, recognition, and tracking
GB2457508B (en) * 2008-02-18 2010-06-09 Ltd Sony Computer Entertainmen System and method of audio adaptaton
US9858501B2 (en) * 2012-02-16 2018-01-02 Nec Corporation Reliability acquiring apparatus, reliability acquiring method, and reliability acquiring program
US20170011194A1 (en) * 2015-07-09 2017-01-12 MI Express Care Licensing Company, LLC Connection Of Disparate Medical Personnel Networks And Associated Messaging In A Telemedicine System
WO2017155470A1 (en) * 2016-03-09 2017-09-14 Agency For Science, Technology And Research Self-determining inspection method for automated optical wire bond inspection
US11010595B2 (en) * 2017-03-23 2021-05-18 Samsung Electronics Co., Ltd. Facial verification method and apparatus
KR102370063B1 (ko) * 2017-03-28 2022-03-04 삼성전자주식회사 얼굴 인증 방법 및 장치
EP3404436B1 (de) * 2017-05-19 2021-04-21 Siemens Healthcare GmbH Funktionelle magnetresonanz-bildgebung
CN108496188A (zh) * 2017-05-31 2018-09-04 深圳市大疆创新科技有限公司 神经网络训练的方法、装置、计算机***和可移动设备
KR102299847B1 (ko) * 2017-06-26 2021-09-08 삼성전자주식회사 얼굴 인증 방법 및 장치
CN108491784B (zh) * 2018-03-16 2021-06-22 南京邮电大学 面向大型直播场景的单人特写实时识别与自动截图方法

Also Published As

Publication number Publication date
US20210397819A1 (en) 2021-12-23

Similar Documents

Publication Publication Date Title
US10572072B2 (en) Depth-based touch detection
CN108875833B (zh) 神经网络的训练方法、人脸识别方法及装置
KR102415509B1 (ko) 얼굴 인증 방법 및 장치
KR102170725B1 (ko) 지문 등록 방법 및 장치
KR102439938B1 (ko) 사용자 인증을 위한 멀티-모달 퓨전 방법 및 사용자 인증 방법
US11163978B2 (en) Method and device for face image processing, storage medium, and electronic device
US8792722B2 (en) Hand gesture detection
US8750573B2 (en) Hand gesture detection
KR101997479B1 (ko) 사용자 인증을 위한 생체 영역을 검출하는 방법 및 장치
US20160148080A1 (en) Method and apparatus for recognizing object, and method and apparatus for training recognizer
WO2019136894A1 (en) Methods and systems for face alignment
US11361587B2 (en) Age recognition method, storage medium and electronic device
KR20190081243A (ko) 정규화된 표현력에 기초한 표정 인식 방법, 표정 인식 장치 및 표정 인식을 위한 학습 방법
US20220198836A1 (en) Gesture recognition method, electronic device, computer-readable storage medium, and chip
KR20210062381A (ko) 라이브니스 검사 방법 및 장치, 생체 인증 방법 및 장치
KR20210069404A (ko) 라이브니스 검사 방법 및 라이브니스 검사 장치
JP2017523498A (ja) 効率的なフォレストセンシングに基づくアイトラッキング
KR20200008845A (ko) 전자 장치, 영상 처리 방법 및 컴퓨터 판독가능 기록 매체
US20230306792A1 (en) Spoof Detection Based on Challenge Response Analysis
Lahiani et al. Hand pose estimation system based on Viola-Jones algorithm for android devices
US11335128B2 (en) Methods and systems for evaluating a face recognition system using a face mountable device
KR20170003361A (ko) 지문 인식 방법 및 장치
KR102447100B1 (ko) 지문 인증 방법 및 장치
KR102415507B1 (ko) 영상 처리 방법 및 영상 처리 장치
KR20210157052A (ko) 객체 인식 방법 및 객체 인식 장치