KR20200092842A - 멀티 카메라 시스템 내의 더블 임베딩 구성을 이용하여 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스팅 방법 및 테스팅 장치 - Google Patents

멀티 카메라 시스템 내의 더블 임베딩 구성을 이용하여 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스팅 방법 및 테스팅 장치 Download PDF

Info

Publication number
KR20200092842A
KR20200092842A KR1020190119502A KR20190119502A KR20200092842A KR 20200092842 A KR20200092842 A KR 20200092842A KR 1020190119502 A KR1020190119502 A KR 1020190119502A KR 20190119502 A KR20190119502 A KR 20190119502A KR 20200092842 A KR20200092842 A KR 20200092842A
Authority
KR
South Korea
Prior art keywords
similarity
learning
distance
loss
embedding
Prior art date
Application number
KR1020190119502A
Other languages
English (en)
Other versions
KR102320985B1 (ko
Inventor
김계현
김용중
김인수
김학경
남운현
부석훈
성명철
여동훈
유우주
장태웅
정경중
제홍모
조호진
Original Assignee
주식회사 스트라드비젼
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 스트라드비젼 filed Critical 주식회사 스트라드비젼
Publication of KR20200092842A publication Critical patent/KR20200092842A/ko
Application granted granted Critical
Publication of KR102320985B1 publication Critical patent/KR102320985B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0221—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving a learning process
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/046—Forward inferencing; Production systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261—Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Electromagnetism (AREA)
  • Image Analysis (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

멀티 카메라 시스템에서 더블 임베딩 구성을 이용하여 보행자 이벤트 및 자동차 이벤트를 포함한 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법이 제공된다. 상기 학습 방법은, 학습 장치가 (i) 유사도 컨벌루션 레이어로 하여금 뉴럴 네트워크로부터 출력된 특징에 유사도 컨벌루션 연산을 가하여 유사도 임베딩 특징을 생성하는 단계; (ii) 유사도 로스 레이어로 하여금 상기 유사도 임베딩 특징으로부터 샘플링된 두 점 사이의 유사도 및 이에 대응하는 GT 라벨 이미지를 참고하여 유사도 로스를 생성하는 단계; (iii) 거리 컨벌루션 레이어로 하여금 상기 유사도 임베딩 특징에 거리 컨벌루션 연산을 가하여 거리 임베딩 특징을 생성하는 단계; (iv) 거리 로스 레이어로 하여금 인스턴스 클래스의 평균값 사이의 상호 클래스 간 차이를 증가시키고 상기 인스턴스 클래스의 클래스 내 분산값을 감소시키기 위해 거리 로스를 생성하도록 하는 단계; 및 (v) 상기 유사도 로스 및 상기 거리 로스의 적어도 하나를 백프로파게이션하는 단계;를 포함한다.

Description

멀티 카메라 시스템 내의 더블 임베딩 구성을 이용하여 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스팅 방법 및 테스팅 장치{LEARNING METHOD AND LEARNING DEVICE FOR IMPROVING SEGMENTATION PERFORMANCE TO BE USED FOR DETECTING ROAD USER EVENTS USING DOUBLE EMBEDDING CONFIGURATION IN MULTI-CAMERA SYSTEM AND TESTING METHOD AND TESTING DEVICE USING THE SAME}
본 발명은 멀티 카메라 시스템 내의 더블 임베딩 구성을 이용한 보행자 이벤트 및 자동차 이벤트를 포함한 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법에 관한 것으로; 보다 상세하게는, 인스턴스 세그먼테이션(Instance Segmentation)을 위한 상기 학습 방법에 있어서, (a) 적어도 하나의 트레이닝 이미지 내의 하나 이상의 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 적어도 하나의 네트워크 출력 특징을 획득하는 프로세스를 수행하는 단계; (b) 적어도 하나의 유사도 컨벌루션(Similarity Convolution) 레이어로 하여금 상기 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 유사도 임베딩(Embedding) 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 임베딩 벡터를 생성하는 프로세스를 수행하는 단계; (c) 적어도 하나의 유사도 로스 레이어로 하여금, 상기 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT(Ground Truth) 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하는 단계; (d) 적어도 하나의 거리 컨벌루션(Distance Convolution) 레이어로 하여금, 상기 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 유사도 임베딩 특징을 적어도 하나의 특징 공간으로 변경하는 프로세스를 수행하는 단계; (e) 적어도 하나의 거리 로스 레이어로 하여금, 상기 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하는 단계; 및 (f) 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션(Backpropagation)하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행하는 단계;를 포함하는 것을 특징으로 하는 학습 방법 및 학습 장치, 그리고 이를 이용한 테스트 방법 및 테스트 장치에 관한 것이다.
딥러닝은 사물이나 데이터를 군집화하거나 분류하는 데 사용하는 기술이다. 예를 들어, 컴퓨터는 사진만으로 개와 고양이를 구분하지 못한다. 하지만 사람은 아주 쉽게 구분할 수 있다. 이를 위해 '기계학습(Machine Learning)'이라는 방법이 고안됐다. 이것은 컴퓨터로 하여금 입력된 많은 데이터 중에서 유사한 것들을 분류하도록 하는 기술이다. 저장된 개 사진과 비슷한 사진이 입력되면, 이를 개 사진이라고 컴퓨터가 분류하도록 한 것이다.
데이터를 어떻게 분류할 것인가를 놓고 이미 많은 기계학습 알고리즘이 등장했다. '의사결정나무'나 '베이지안망', '서포트벡터머신(SVM)', '인공신경망' 등이 대표적이다. 이 중 딥러닝은 인공신경망의 후예다.
딥 컨벌루션 뉴럴 네트워크(Deep Convolutional Neural Network; Deep CNN)는 딥 러닝 분야에서 일어난 놀라운 발전의 핵심이다. CNN은 글자 인식 문제를 풀기 위해 90년대에 이미 사용되었지만, 현재처럼 널리 쓰이게 된 것은 최근의 연구 결과 덕분이다. 이러한 딥 CNN은 2012년 ImageNet 이미지 분류 시합에서 다른 경쟁자들을 이기고 우승을 차지했다. 그리고 나서 컨벌루션 뉴럴 네트워크는 기계 학습 분야에서 매우 유용한 툴이 되었다.
이미지 세그먼테이션(Image Segmentation)은 적어도 하나의 입력 이미지를 이용하여 적어도 하나의 라벨 이미지를 생성하는 방법이다. 최근 딥러닝(Deep Learning) 기술이 각광을 받으면서 세그먼테이션에서도 딥러닝을 많이 사용하는 추세이다. 상기 세그먼테이션은 하나 이상의 컨벌루션 연산을 이용하여 상기 라벨 이미지를 생성하는 방법 등 초기에는 인코더(Encoder)만을 이용한 방법으로 수행되었다. 이후에, 상기 인코더에 의해 상기 이미지의 특징을 추출하고 디코더(Decoder)에 의해 이러한 특징을 상기 라벨 이미지로 복원하는 인코더-디코더(Encoder-Decoder) 구성을 이용한 방법으로 상기 세그먼테이션이 수행되었다.
도 1은 종래의 뉴럴 네트워크를 이용하여 이미지 세그먼테이션을 수행하는 프로세스를 간략하게 도시한 것이다.
도 1을 참조하면, 종래의 차선 검출 방법에서는, 학습 장치가 입력 이미지를 받아, 다수의 컨벌루션 레이어로 하여금 상기 입력 이미지에 다수의 컨벌루션 연산 및 ReLU와 같은 비선형 연산을 가하도록 하여, 하나 이상의 디컨벌루션 레이어로 하여금 특징 맵에 하나 이상의 디컨벌루션 연산 및 소프트 맥스 연산을 가하도록 하여 세그먼테이션 결과를 생성한다.
그러나, 도 1 에서 도시된 뉴럴 네트워크만을 이용해서는 각각의 클래스를 명확하게 식별하는 것은 어렵고, 특히 각 상기 클래스의 적어도 하나의 에지 부분의 정보를 정확하게 식별하는 것은 어렵다는 문제점이 존재한다.
아울러 차선과 같은 객체를 검출하기 위한 인스턴스 세그먼테이션을 수행하는 다른 종래의 방법은 세그먼테이션 프로세스 후에 클러스터링(Clustering) 프로세스를 통해 수행된다. 하지만, 이러한 두 프로세스는 이질적이기 때문에, 이 두 프로세스가 함께 학습이 되면 성능이 떨어지는 문제점이 존재한다.
본 발명은 앞서 언급한 모든 문제점을 해결하는 것을 목적으로 한다.
본 발명은 클러스터링 프로세스 없이 인스턴스 세그먼테이션의 결과를 생성하고 상기 인스턴스 세그먼테이션 결과를 이용하여 적어도 하나의 객체를 검출하기 위한 방법을 제공하는 것을 다른 목적으로 한다.
본 발명은 추가 임베딩 프로세스를 통해 각각의 클래스를 더 명확히 식별하고 각각의 상기 클래스의 적어도 하나의 에지를 더 정확히 추출하여 객체를 정확히 식별하는 방법을 제공하는 것을 또 다른 목적으로 한다.
상기한 바와 같은 본 발명의 목적을 달성하고, 후술하는 본 발명의 특징적인 효과를 실현하기 위한 본 발명의 특징적인 구성은 하기와 같다.
본 발명의 일 태양에 따르면, 인스턴스 세그먼테이션(Instance Segmentation)을 위한 학습 방법에 있어서, (a) 학습 장치가, 적어도 하나의 트레이닝 이미지 내의 하나 이상의 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 적어도 하나의 네트워크 출력 특징을 획득하는 프로세스를 수행하는 단계; (b) 상기 학습 장치가, 적어도 하나의 유사도 컨벌루션(Similarity Convolution) 레이어로 하여금 상기 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 유사도 임베딩(Embedding) 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 임베딩 벡터를 생성하는 프로세스를 수행하는 단계; (c) 상기 학습 장치가, 적어도 하나의 유사도 로스 레이어로 하여금, 상기 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT(Ground Truth) 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하는 단계; (d) 상기 학습 장치가, 적어도 하나의 거리 컨벌루션(Distance Convolution) 레이어로 하여금, 상기 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 유사도 임베딩 특징을 적어도 하나의 특징 공간으로 변경하는 프로세스를 수행하는 단계; (e) 상기 학습 장치가, 적어도 하나의 거리 로스 레이어로 하여금, 상기 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하는 단계; 및 (f) 상기 학습 장치가, 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션(Backpropagation)하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행하는 단계;를 포함하는 것을 특징으로 하는 학습 방법이 제공된다.
일 실시예에서, (g) 상기 학습 장치가, 적어도 하나의 샘플링 레이어 및 적어도 하나의 검출 레이어로 하여금, 상기 거리 임베딩 특징을 샘플링하고 리그레션(Regression)을 통해 상기 객체의 위치를 검출하여 개별적으로 상기 객체를 식별하도록 함으로써, 적어도 하나의 인스턴스 세그먼테이션을 생성하는 프로세스를 수행하는 단계;를 더 포함한다.
일 실시예에서, (h) 상기 학습 장치가, 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 인스턴스 세그먼테이션 및 이에 대응되는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 산출하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어, 및 상기 뉴럴 네트워크 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 수행하는 단계;를 더 포함한다.
일 실시예에서, 상기 GT 라벨 이미지는 상기 인스턴스 세그먼테이션에 대응하는 GT 라벨 이미지이다.
일 실시예에서, 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 거리 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위 보다 크게 되도록 결정된다.
일 실시예에서, 상기 유사도는 아래 수학식
Figure pat00001
- 여기서, 상기 fp 및 상기 fq는 상기 유사도 임베딩 특징으로부터 임의로 샘플링된 상기 두 점임 - 으로 표현되며,
상기 유사도 로스(Similarity Loss)는 아래 수학식
Figure pat00002
- 여기서 상기 A는 상기 유사도 임베딩 특징으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내고, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타냄 - 으로 표현되는 크로스 엔트로피 로스(Cross Entropy Loss)이다.
일 실시예에서, 상기 객체는 하나 이상의 차선을 나타낸다.
일 실시예에서, 상기 거리 로스는 아래 수학식
Figure pat00003
- 여기서 상기
Figure pat00004
및 상기
Figure pat00005
는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
Figure pat00006
)은 상기
Figure pat00007
의 평균값을 나타내며, 상기 mean(
Figure pat00008
)은 상기
Figure pat00009
의 평균값을 나타내고, 상기 var(
Figure pat00010
)는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
Figure pat00011
,
Figure pat00012
)은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타냄 - 으로 표현되는 클러스터링 로스(Clustering Loss)이다.
일 실시예에서, 상기 thresh는 1로 설정된다.
본 발명의 다른 태양에 따르면, 인스턴스 세그먼테이션(Instance Segmentation)을 위한 테스팅 방법에 있어서, (a) 학습 장치가, (i) 적어도 하나의 유사도 컨벌루션 레이어로 하여금 적어도 하나의 트레이닝 이미지 내의 하나 이상의 학습용 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 획득된 적어도 하나의 학습용 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 학습용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 학습용 임베딩 벡터를 생성하는 프로세스를 수행하고, (ii) 적어도 하나의 유사도 로스 레이어로 하여금, 상기 학습용 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하며, (iii) 적어도 하나의 거리 컨벌루션 레이어로 하여금, 상기 학습용 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 학습용 유사도 임베딩 특징을 적어도 하나의 학습용 특징 공간으로 변경하는 프로세스를 수행하고, (iv) 적어도 하나의 거리 로스 레이어로 하여금, 상기 학습용 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하며, (v) 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행한 상태에서, 테스팅 장치가, 적어도 하나의 테스트 이미지 내의 하나 이상의 테스트용 객체를 검출할 수 있는 상기 뉴럴 네트워크로부터 적어도 하나의 테스트용 네트워크 출력 특징을 획득하는 단계; (b) 상기 테스팅 장치가, 상기 유사도 컨벌루션 레이어로 하여금 상기 테스트용 네트워크 출력 특징에 상기 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 테스트용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 테스트용 임베딩 벡터를 생성하는 프로세스를 수행하는 단계; (c) 상기 테스팅 장치가, 상기 거리 컨벌루션 레이어로 하여금, 상기 테스트용 유사도 임베딩 특징에 상기 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 테스트용 유사도 임베딩 특징을 적어도 하나의 테스트용 특징 공간으로 변경하는 프로세스를 수행하는 단계; 및 (d) 상기 테스팅 장치가, 적어도 하나의 샘플링 레이어 및 적어도 하나의 검출 레이어로 하여금, 상기 테스트용 거리 임베딩 특징을 샘플링하고 리그레션(Regression)을 통해 상기 테스트용 객체의 위치를 검출하여 개별적으로 상기 테스트용 객체를 식별하도록 함으로써, 적어도 하나의 테스트용 인스턴스 세그먼테이션을 생성하는 프로세스를 수행하는 단계;를 포함하는 것을 특징으로 하는 테스팅 방법이 제공된다.
일 실시예에서, 상기 (a) 단계에서, 상기 학습 장치가, (vi) 상기 샘플링 레이어 및 상기 검출 레이어로 하여금, 상기 학습용 거리 임베딩 특징을 샘플링하고 상기 리그레션(Regression)을 통해 상기 학습용 객체의 위치를 검출하여 개별적으로 상기 학습용 객체를 식별하도록 함으로써, 적어도 하나의 학습용 인스턴스 세그먼테이션을 생성하는 프로세스 및 (vii) 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 학습용 인스턴스 세그먼테이션 및 이에 대응되는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 산출하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어, 및 상기 뉴럴 네트워크 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 더 수행한다.
일 실시예에서, 상기 GT 라벨 이미지는 상기 학습용 인스턴스 세그먼테이션에 대응하는 GT 라벨 이미지이다.
일 실시예에서, 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 거리 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위 보다 크게 되도록 결정된다.
일 실시예에서, 상기 유사도는 아래 수학식
Figure pat00013
- 여기서, 상기 fp 및 상기 fq는 상기 학습용 유사도 임베딩 특징으로부터 임의로 샘플링된 상기 두 점임 - 으로 표현되며,
상기 유사도 로스(Similarity Loss)는 아래 수학식
Figure pat00014
- 여기서 상기 A는 상기 학습용 유사도 임베딩 특징으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내고, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타냄 - 으로 표현되는 크로스 엔트로피 로스(Cross Entropy Loss)이다.
일 실시예에서, 상기 학습용 객체는 하나 이상의 차선을 나타내며,
상기 거리 로스는 아래 수학식
Figure pat00015
- 여기서 상기
Figure pat00016
및 상기
Figure pat00017
는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
Figure pat00018
)은 상기
Figure pat00019
의 평균값을 나타내며, 상기 mean(
Figure pat00020
)은 상기
Figure pat00021
의 평균값을 나타내고, 상기 var(
Figure pat00022
)는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
Figure pat00023
,
Figure pat00024
)은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타냄 - 으로 표현되는 클러스터링 로스(Clustering Loss)이다.
본 발명의 또 다른 태양에 따르면, 인스턴스 세그먼테이션을 위한 학습 장치에 있어서, 인스트럭션을 저장하는 적어도 하나의 메모리; 및 (I) 적어도 하나의 유사도 컨벌루션 레이어로 하여금 적어도 하나의 트레이닝 이미지 내의 하나 이상의 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 획득된 적어도 하나의 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 임베딩 벡터를 생성하는 프로세스를 수행하고, (II) 적어도 하나의 유사도 로스 레이어로 하여금, 상기 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하며, (III) 적어도 하나의 거리 컨벌루션 레이어로 하여금, 상기 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 유사도 임베딩 특징을 적어도 하나의 특징 공간으로 변경하는 프로세스를 수행하고, (IV) 적어도 하나의 거리 로스 레이어로 하여금, 상기 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하며, (V) 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션(Backpropagation)하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행하기 위한 상기 인스트럭션을 실행하도록 구성된 적어도 하나의 프로세서;를 포함하는 것을 특징으로 하는 학습 장치가 제공된다.
일 실시예에서, 상기 프로세서가, (VI) 적어도 하나의 샘플링 레이어 및 적어도 하나의 검출 레이어로 하여금, 상기 거리 임베딩 특징을 샘플링하고 리그레션(Regression)을 통해 상기 객체의 위치를 검출하여 개별적으로 상기 객체를 식별하도록 함으로써, 적어도 하나의 인스턴스 세그먼테이션을 생성하는 프로세스를 더 수행한다.
일 실시예에서, 상기 프로세서가, (VII) 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 인스턴스 세그먼테이션 및 이에 대응되는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 산출하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어, 및 상기 뉴럴 네트워크 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 더 수행한다.
일 실시예에서, 상기 GT 라벨 이미지는 상기 인스턴스 세그먼테이션에 대응하는 GT 라벨 이미지이다.
일 실시예에서, 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 거리 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위 보다 크게 되도록 결정된다.
일 실시예에서, 상기 유사도는 아래 수학식
Figure pat00025
- 여기서, 상기 fp 및 상기 fq는 상기 유사도 임베딩 특징으로부터 임의로 샘플링된 상기 두 점임 - 으로 표현되며,
상기 유사도 로스(Similarity Loss)는 아래 수학식
Figure pat00026
- 여기서 상기 A는 상기 유사도 임베딩 특징으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내고, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타냄 - 으로 표현되는 크로스 엔트로피 로스(Cross Entropy Loss)이다.
일 실시예에서, 상기 객체는 하나 이상의 차선을 나타낸다.
일 실시예에서, 상기 거리 로스는 아래 수학식
Figure pat00027
- 여기서 상기
Figure pat00028
및 상기
Figure pat00029
는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
Figure pat00030
)은 상기
Figure pat00031
의 평균값을 나타내며, 상기 mean(
Figure pat00032
)은 상기
Figure pat00033
의 평균값을 나타내고, 상기 var(
Figure pat00034
)는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
Figure pat00035
,
Figure pat00036
)은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타냄 - 으로 표현되는 클러스터링 로스(Clustering Loss)이다.
일 실시예에서, 상기 thresh는 1로 설정된다.
본 발명의 또 다른 태양에 따르면, 인스턴스 세그먼테이션을 위한 테스팅 장치에 있어서, 인스트럭션을 저장하는 적어도 하나의 메모리; 및 학습 장치가 (i) 적어도 하나의 유사도 컨벌루션 레이어로 하여금 적어도 하나의 트레이닝 이미지 내의 하나 이상의 학습용 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 획득된 적어도 하나의 학습용 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 학습용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 학습용 임베딩 벡터를 생성하는 프로세스를 수행하고, (ii) 적어도 하나의 유사도 로스 레이어로 하여금, 상기 학습용 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하며, (iii) 적어도 하나의 거리 컨벌루션 레이어로 하여금, 상기 학습용 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 학습용 유사도 임베딩 특징을 적어도 하나의 학습용 특징 공간으로 변경하는 프로세스를 수행하고, (iv) 적어도 하나의 거리 로스 레이어로 하여금, 상기 학습용 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하며, (v) 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행한 상태에서, (I) 상기 유사도 컨벌루션 레이어로 하여금 적어도 하나의 테스트 이미지 내의 하나 이상의 테스트용 객체를 검출할 수 있는 상기 뉴럴 네트워크(Neural Network)로부터 획득된 적어도 하나의 테스트용 네트워크 출력 특징에 상기 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 테스트용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 테스트용 임베딩 벡터를 생성하는 프로세스, (II) 상기 거리 컨벌루션 레이어로 하여금, 상기 테스트용 유사도 임베딩 특징에 상기 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 테스트용 유사도 임베딩 특징을 적어도 하나의 테스트용 특징 공간으로 변경하는 프로세스, 및 (III) 적어도 하나의 샘플링 레이어 및 적어도 하나의 검출 레이어로 하여금, 상기 테스트용 거리 임베딩 특징을 샘플링하고 리그레션(Regression)을 통해 상기 테스트용 객체의 위치를 검출하여 개별적으로 상기 테스트용 객체를 식별하도록 함으로써, 적어도 하나의 테스트용 인스턴스 세그먼테이션을 생성하는 프로세스를 수행하기 위한 상기 인스트럭션을 실행하도록 구성된 적어도 하나의 프로세서;를 포함하는 것을 특징으로 하는 테스팅 장치가 제공된다.
일 실시예에서, 상기 학습 장치가, (vi) 상기 샘플링 레이어 및 상기 검출 레이어로 하여금, 상기 학습용 거리 임베딩 특징을 샘플링하고 상기 리그레션(Regression)을 통해 상기 학습용 객체의 위치를 검출하여 개별적으로 상기 학습용 객체를 식별하도록 함으로써, 적어도 하나의 학습용 인스턴스 세그먼테이션을 생성하는 프로세스 및 (vii) 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 학습용 인스턴스 세그먼테이션 및 이에 대응되는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 산출하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어, 및 상기 뉴럴 네트워크 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 더 수행한다.
일 실시예에서, 상기 GT 라벨 이미지는 상기 학습용 인스턴스 세그먼테이션에 대응하는 GT 라벨 이미지이다.
일 실시예에서, 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 거리 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위 보다 크게 되도록 결정된다.
일 실시예에서, 상기 유사도는 아래 수학식
Figure pat00037
- 여기서, 상기 fp 및 상기 fq는 상기 학습용 유사도 임베딩 특징으로부터 임의로 샘플링된 상기 두 점임 - 으로 표현되며,
상기 유사도 로스(Similarity Loss)는 아래 수학식
Figure pat00038
- 여기서 상기 A는 상기 학습용 유사도 임베딩 특징으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내고, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타냄 - 으로 표현되는 크로스 엔트로피 로스(Cross Entropy Loss)이다.
일 실시예에서, 상기 학습용 객체는 하나 이상의 차선을 나타내며,
상기 거리 로스는 아래 수학식
Figure pat00039
- 여기서 상기
Figure pat00040
및 상기
Figure pat00041
는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
Figure pat00042
)은 상기
Figure pat00043
의 평균값을 나타내며, 상기 mean(
Figure pat00044
)은 상기
Figure pat00045
의 평균값을 나타내고, 상기 var(
Figure pat00046
)는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
Figure pat00047
,
Figure pat00048
)은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타냄 - 으로 표현되는 클러스터링 로스(Clustering Loss)이다.
본 발명에 의하면, 뉴럴 네트워크로부터 출력된 적어도 하나 특징 맵의 유사도 임베딩 프로세스 및 거리 임베딩 프로세스를 통해 인스턴스 세그먼테이션 결과를 생성하여 객체를 검출할 수 있는 효과가 있다.
또한, 본 발명에 의하면, 추가 임베딩 프로세스를 통해 각각의 클래스를 더 명확히 식별하고 각 클래스의 적어도 하나 에지 부분을 더 정확히 추출함으로써, 정확하게 객체를 식별할 수 있는 효과가 있다.
본 발명의 실시예의 설명에 이용되기 위하여 첨부된 아래 도면들은 본 발명의 실시예들 중 단지 일부일 뿐이며, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자(이하 "통상의 기술자")에게 있어서는 발명적 작업이 이루어짐 없이 이 도면들에 기초하여 다른 도면들이 얻어질 수 있다.
도 1은 종래의 뉴럴 네트워크를 이용하여 이미지 세그먼테이션을 수행하는 프로세스를 간략하게 도시한 것이다.
도 2는 본 발명의 일 실시예에 따른 이른바 더블 임베딩 구성을 추가로 이용하여 하나 이상의 객체를 검출하는 방법을 도시한 것이다.
도 3은 본 발명의 일 실시예에 따른 상기 더블 임베딩 구성을 이용하여 상기 이미지 세그먼테이션의 성능 향상을 위한 학습 프로세스를 나타낸 흐름도이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 분류될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
또한, 본 발명의 상세한 설명 및 청구항들에 걸쳐, "포함하다"라는 단어 및 그것의 변형은 다른 기술적 특징들, 부가물들, 구성요소들 또는 단계들을 제외하는 것으로 의도된 것이 아니다. 통상의 기술자에게 본 발명의 다른 목적들, 장점들 및 특성들이 일부는 본 설명서로부터, 그리고 일부는 본 발명의 실시로부터 드러날 것이다. 아래의 예시 및 도면은 실례로서 제공되며, 본 발명을 한정하는 것으로 의도된 것이 아니다.
본 발명에서 언급하는 각종 이미지는 포장 또는 비포장 도로 관련 이미지를 포함할 수 있으며, 이 경우 도로 환경에서 등장할 수 있는 물체(가령, 자동차, 사람, 동물, 식물, 물건, 건물, 비행기나 드론과 같은 비행체, 기타 장애물)를 상정할 수 있을 것이나, 반드시 이에 한정되는 것은 아니며, 본 발명에서 언급하는 각종 이미지는 도로와 상관 없는 이미지(가령, 비포장도로, 골목길, 공터, 바다, 호수, 강, 산, 숲, 사막, 하늘, 실내와 관련된 이미지)일 수도 있으며, 이 경우, 비포장도로, 골목길, 공터, 바다, 호수, 강, 산, 숲, 사막, 하늘, 실내 환경에서 등장할 수 있는 물체(가령, 자동차, 사람, 동물, 식물, 물건, 건물, 비행기나 드론과 같은 비행체, 기타 장애물)를 상정할 수 있을 것이나, 반드시 이에 한정되는 것은 아니다.
이하, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
메트릭 학습(Metric Learning)을 이용한 특징 임베딩 방법은 기계 학습 시절 이래로 광범위하게 연구되어 왔다. 최근에, 딥러닝(Deep Learning)을 이용하여 다양한 임베딩 방법에 대한 논문들이 많이 나오고 있다. 워드 임베딩(Word Embedding) 방법은 적어도 하나의 단어를 r차원의 적어도 하나의 벡터로 매핑(Mapping)시키는 것을 말한다. 예를 들어, 'cat'이라는 단어는 적어도 하나의 벡터로 매핑되고, 문자는 의미를 가진 적어도 하나의 숫자로 변환되는 것이다. 비전(Vision) 분야에서의 다른 임베딩 방법은 적어도 하나의 이미지를 적어도 하나의 특정 특징 공간으로 변환하는 것을 말한다. 그리고, 상기 메트릭 학습은 유사도나 거리 등의 적어도 하나의 측정(Measure)을 통해 수행되는 학습을 말한다.
도 2는 본 발명의 일 실시예에 따른 이른바 더블 임베딩 구성을 추가로 이용하여 하나 이상의 객체를 검출하는 학습 방법을 개략적으로 도시한 것이다.
도 2를 참조하면, 본 발명에 따른 상기 객체를 검출하는 상기 학습 방법은 기존에 학습된 DNN(Deep Neural Network)을 이용하고 추가로 이른바 더블 임베딩 구성을 이용하여 인스턴스 세그먼테이션(Instance Segmentation) 결과를 생성한다. 즉, 도 2 에 도시된 상기 뉴럴 네트워크(100)는 도 1에 도시된 상기 DNN의 인코더-디코더 구성을 포함한다. 적어도 하나의 네트워크 출력 특징은 상기 뉴럴 네트워크(100)로부터 획득되고, 더블 임베딩 프로세스가 상기 네트워크 출력 특징에 적용된다.
도 2를 다시 참조하면, 유사도 임베딩 블록(300) 및 거리 임베딩 블록(400)은 본 발명의 상기 기존에 학습된 뉴럴 네트워크(100)의 출력 측에 연결된다. 또한, 적어도 하나의 샘플링 레이어(500) 및 적어도 하나의 검출 레이어(600)가 차선과 같은 상기 객체를 검출하기 위해서 상기 거리 임베딩 블록(400)의 출력 측에 추가적으로 더 연결된다. 상기 유사도 임베딩 블록(300) 및 상기 거리 임베딩 블록(400)은 미세조정(Fine Tuning)을 통해 추가로 학습된다.
도 3은 본 발명의 일 실시예에 따른 상기 더블 임베딩 구성을 이용하여 이미지 세그먼테이션의 성능을 향상시키기 위한 학습 프로세스를 도시한 흐름도이다.
도 2 및 도 3을 참조하면, 본 발명에 따른 상기 인스턴스 세그먼테이션을 위한 상기 학습 과정에 있어서, 상기 네트워크 출력 특징(200)은, 적어도 하나의 트레이닝 이미지(10)에 상기 뉴럴 네트워크(100)의 적어도 하나의 연산을 가하여 생성된다(S01). 이때, 상기 뉴럴 네트워크(100)의 상기 연산은 도 1에 도시된 상기 DNN의 상기 인코더-디코더 구성의 적어도 하나의 연산이 이용될 수 있다.
그런 다음, 적어도 하나의 유사도 컨벌루션 레이어(310)로 하여금 상기 네트워크 출력 특징(200)에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써, 적어도 하나의 유사도 임베딩 특징(320)을 생성하되(S02), 상기 유사도 컨벌루션 연산은 상기 네트워크 출력 특징(200)의 픽셀의 적어도 일부분에 대응하는 하나 이상의 임베딩 벡터를 출력한다.
파라미터가 학습된 상기 뉴럴 네트워크(100)로부터 출력된 상기 네트워크 출력 특징(200)을 이용하여 도 2의 상기 유사도 컨벌루션 레이어(310) 및 상기 거리 컨벌루션 레이어(410)를 미세조정하는 경우, 상기 인스턴스 세그먼테이션의 적절한 결과를 획득하기 쉽지 않다. 이것은, 상기 뉴럴 네트워크(100)가 앞서 언급한 미세조정을 통해 약간의 재학습이 이루어지긴 하지만, 상기 네트워크 출력 특징(200)는 상기 기존에 학습된 파라미터를 재사용하여 생성된 것이기 때문이다. 따라서, 본 발명에서는, 상기 유사도 컨벌루션 레이어(310)가 상기 유사도 컨벌루션 연산을 상기 네트워크 출력 특징(200)에 가하기 위해 추가된다. 그리고, 상기 유사도 컨벌루션 레이어(310)는 초기화되어 있는 상태이기 때문에 임베딩 프로세스를 수행한다. 그러므로, 상기 유사도 컨벌루션 레이어(310)는 상기 네트워크 출력 특징(200)의 특징 공간을 적어도 하나의 유사도 임베딩 특징(320)으로 변경한다.
한편, 도 2 및 도 3을 참조하면, 상기 유사도 컨벌루션 레이어(310)의 하나 이상의 파라미터의 학습, 즉 미세조정은, 적어도 하나의 유사도 로스 레이어(330)를 통해 이루어지며, 상기 유사도 임베딩 특징(320)을 이용하여 수행된다. 상기 유사도 로스 레이어(330)는, 상기 유사도 임베딩 특징(320)으로부터 샘플링된 두 점 사이의 적어도 하나의 유사도를 출력하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT(Ground Truth) 라벨 이미지를 참조하여 적어도 하나의 유사도 로스를 출력한다(S03). 여기서, 상기 GT 라벨 이미지는 상기 인스턴스 세그먼테이션에 대응하는 적어도 하나의 GT 이미지이다.
상기 유사도는 특징 맵 즉, 상기 유사도 임베딩 특징(320)으로부터 임의로 두 점을 샘플링하여, 아래의 수학식에 따라 산출된다.
Figure pat00049
상기 fp 및 fq는 상기 유사도 임베딩 특징(320)으로부터 임의로 샘플링된 상기 두 점이다.
상기 인스턴스 세그먼테이션에 대응하는 상기 GT 라벨 이미지 내 각각의 상기 객체의 각각의 인스턴스 클래스는 이미 알고 있기 때문에, 각각의 상기 인스턴스 클래스마다 적당한 개수의 점을 샘플링하여 계산될 수 있다. 상기 수학식 1에서 상기
Figure pat00050
는 상기 두 점 사이의 유클리디안 거리(Euclidian Distance)를 나타낸다. 상기 두 점이 서로 가까우면, 거리가 0에 근접하여 exp(0)은 1에 근접해지고, 상기 유사도(s)는 1에 근접해진다. 상기 두 점이 서로 멀리 떨어져 있다면, exp(∞)는 Δ가 되어, 상기 유사도(s)는 0에 근접해진다. 이와같이 상기 두 점 사이의 상기 유사도를 측정하는 것이 메트릭 방법이며, 본 발명은 상기 메트릭 방법을 이용하여 상기 학습을 수행하는 것이다. 이때, 상기 두 점 사이의 상기 거리를 측정하는 대신에, 다른 요소들이 상기 학습을 위해 이용되도록 측정될 수 있다.
그리고, 상기 유사도 로스 레이어(330)로부터 출력된 상기 유사도 로스(Similarity Loss)는 아래의 수학식에 따라 계산된다.
Figure pat00051
상기 A는 상기 유사도 임베딩 특징(320)으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내며, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타낸다.
상기 수학식 2의 상기 유사도 로스는 상기 수학식 1의 상기 유사도를 이용하여 계산된 크로스 엔트로피 로스(Cross Entropy Loss)이다. 이렇게 계산된 상기 유사도 로스는 백프로파게이션을 통해 상기 유사도 컨벌루션 레이어의 상기 파라미터를 학습한다. 상기 백프로파게이션을 통해, 상기 유사도 임베딩 특징(320)에 포함된 유사한 클래스는 서로 클러스터링된다.
이때, 상기 유사도 로스가 상기 백프로파게이션에 이용될 때, 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크(100)의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 유사도 컨벌루션 레이어(310)의 상기 파라미터는 상기 유사도 로스를 이용하여 미세조정된다.
한편, 상기 유사도 임베딩 특징(320)은 유사한 클래스끼리 바람직하게 뭉치게 하여 생성될 수 있는데, 상기 유사도 임베딩 특징(320) 내의 에지 부분은 여전히 불분명하게 나타날 수 있다. 즉, 제1 임베딩 프로세스(상기 유사도 임베딩 프로세스)로부터 생성된 특징은 다른 클래스를 구별하기에 충분하지만, 상기 에지 부분은 정확하게 구별되지 않는다는 단점이 존재한다. 이러한 단점을 극복하기 위해 제2 임베딩 프로세스가 필요하게 된다. 이에 따라, 도 2에서 도시된 바와 같이, 본 발명에 따라 상기 거리 임베딩 블록(400)이 추가로 더 제공된다. 즉, 상기 거리 컨벌루션 레이어(410)가 상기 유사도 컨벌루션 레이어(310)의 출력 측에 더 연결된다.
도 2 및 도 3을 참조하면, 상기 학습 장치는 상기 거리 컨벌루션 레이어(410)로 하여금 상기 유사도 임베딩 특징(320)에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 거리 임베딩 특징 (420)을 생성하되(S04), 상기 거리 컨벌루션 연산은 상기 유사도 임베딩 특징(320)을 적어도 하나의 특징 공간으로 변경한다.
그 후, 적어도 하나의 거리 로스 레이어(430)는 상기 거리 임베딩 특징(420)을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성한다(S05).
아래의 수학식은 상기 거리 임베딩 프로세스를 수행하기 위한 상기 거리 로스의 수학식이다.
Figure pat00052
여기서 상기
Figure pat00053
및 상기
Figure pat00054
는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
Figure pat00055
)은 상기
Figure pat00056
의 평균값을 나타내며, 상기 mean(
Figure pat00057
)은 상기
Figure pat00058
의 평균값을 나타내고, 상기 var(
Figure pat00059
)는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
Figure pat00060
,
Figure pat00061
)은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타낸다.
상기 언급한 제2 임베딩 프로세스(즉, 상기 거리 임베딩 프로세스)는, 상기 제1 임베딩 프로세스(즉, 상기 유사도 임베딩 프로세스)에서 상기 유사도만 고려되었기 때문에 여전히 불분명한 상기 에지 부분을 갖는 상기 유사도 임베딩 특징(320)에 적용된다. 상기 거리 임베딩 프로세스는, 각각의 분산값은 감소되고, 각각의 상기 평균값 사이의 상기 차이는 증가하도록 수행된다. 그러므로, 상기 거리 임베딩 프로세스가 수행되면, 큰 분산값을 갖는 상기 에지 부분의 적어도 하나의 에러가 학습되고, 따라서 상기 유사한 클래스는 서로 뭉치게 되고 상기 클래스 간 차이는 증가되는 상기 거리 임베딩 특징(420)이 생성된다.
상기 거리 로스는 아래와 같이 설명된다. 상기 트레이닝 이미지(10) 내에 6개의 차선이 존재한다면, 상기 6개의 차선 중에서 제1 차선(
Figure pat00062
) 및 제2 차선(
Figure pat00063
)의 각각의 평균값이 계산되며, 상기 평균값 사이의 차이가 계산된다. 상기 차이의 제곱이 상기 임계치의 제곱(상기
Figure pat00064
)보다 크다면, 상기 max는 0이 되며, 상기 차이의 제곱이 상기 임계치의 제곱보다 같거나 작다면, 상기 max는
Figure pat00065
Figure pat00066
Figure pat00067
이 된다. 상기 n_combination(
Figure pat00068
,
Figure pat00069
)은 상기 6개의 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이다. 상기 임계치는 1일 수 있다. 그리고, 위의 수학식에서 모든 차선의 각각의 분산값이 계산되어 이용된다. 이러한 방식으로, 상기 학습 프로세스 동안 상기 평균값 사이의 차이는 증가되고, 각 차선의 각각의 분산값은 감소된다.
상기 거리 임베딩 프로세스를 수행하여, 상기 트레이닝 이미지 내 각각의 상기 객체의 평균값 즉, 상기 객체에 대응하는 클래스 각각의 평균값은 각각 서로 더 달라져서 상기 객체는 상기 거리 임베딩 특징(420) 내에서 더 구별이 쉬워지고 상기 클래스 각각의 분산값은 각각 더 작아져서 상기 거리 임베딩 특징(420) 내의 상기 객체에 대응하는 상기 유사한 클래스는 서로 뭉쳐지게 된다.
상기 거리 임베딩 특징(420)이 불분명한 에지 부분을 갖는다면, 각각의 상기 불분명한 에지 부분에서의 각각의 분산값은 커지게 된다. 그러므로, 각각의 상기 에지 부분의 각각의 분산값은 감소되도록 학습되어 각각의 상기 에지 부분은 대응하는 클래스에 각각 속하게 된다. 그리고, 각각의 상기 다른 클래스의 평균값 각각은 상기 거리 임베딩 특징(420) 내에서 서로 달라지려고 하기 때문에, 각각의 상기 클래스는 각각 다른 색깔 즉, 다른 라벨 값을 갖도록 학습된다.
이때, 상기 거리 로스를 백프로파게이션하는 동안, 상기 거리 컨벌루션 레이어(410)의 하나 이상의 파라미터의 조정 범위가 상기 뉴럴 네트워크(100)의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어(310)의 상기 파라미터의 조정 범위보다 크게 되도록 결정되어, 상기 거리 컨벌루션 레이어(410)의 상기 파라미터가 미세조정된다. 또한, 상기 유사도 컨벌루션 레이어(310)의 상기 파라미터의 조정 범위 및 상기 거리 컨벌루션 레이어(410)의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크(100)의 상기 파라미터의 조정 범위보다 크게 되도록 결정되고, 상기 유사도 컨벌루션 레이어(310)의 상기 파라미터 및 상기 거리 컨벌루션 레이어(410)의 상기 파라미터가 미세조정된다.
예를 들어, 상기 뉴럴 네트워크(100)이 학습된 상태에서, 상기 유사도 컨벌루션 레이어(310)의 상기 파라미터는, 상기 유사도 컨벌루션 레이어(310)의 상기 파라미터에 1인 값으로 할당된 가중치와 상기 뉴럴 네트워크(100)의 상기 파라미터에 1/10인 값으로 할당된 가중치를 사용하여 상기 유사도 로스를 백프로파게이션하여 학습된다. 또한, 상기 거리 컨벌루션 레이어(410)의 상기 파라미터에 1인 값으로 할당된 가중치, 상기 뉴럴 네트워크(100)의 상기 파라미터에 1/10인 값으로 할당된 가중치 및 상기 유사도 컨벌루션 레이어(310)의 상기 파라미터에 1/10인 값으로 할당된 가중치를 사용하여, 상기 거리 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어(410)의 상기 파라미터가 학습된다.
도 2에 도시된 상기 샘플링 레이어(500) 및 상기 검출 레이어(600)는 상기 더블 임베딩 구성으로부터 출력된 상기 거리 임베딩 특징(420)을 샘플링하고 리그레션을 통해 상기 객체 즉, 상기 차선의 위치를 검출하여 개별적으로 상기 객체를 식별하도록 구성된다. 도 3을 참조하면, 상기 거리 임베딩 특징(420)을 샘플링하고 상기 리그레션을 통해 상기 객체의 위치를 검출하여 상기 객체가 개별적으로 식별된다(S06). 예를 들어, 상기 차선 각각은, 상기 더블 임베딩 프로세스를 이용한 상기 인스턴스 세그먼테이션 후에 도로로부터 분리되지만, 상기 차선의 상기 인스턴스 세그먼테이션은 정확하지 않을 수 있기 때문에, 상기 샘플링은 긍정 오류(False Positive)의 수를 줄이기 위해 이용되고, 상기 리그레션을 통해 상기 차선의 정확한 픽셀이 검출된다. 그 결과, 상기 객체가 서로 분리되고 상기 에지 부분은 분명해진 상기 인스턴스 세그먼테이션이 생성된다.
한편, 도 2 에서 도시되지는 않았지만, 상기 학습 장치는, 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 인스턴스 세그먼테이션 및 이에 대응하는 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 출력하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어(410), 상기 유사도 컨벌루션 레이어(310), 및 상기 뉴럴 네트워크(100) 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 더 수행한다.
그리고, 도 2 및 도 3에서 도시된 상기 학습 방법은 상기 뉴럴 네트워크(100)의 테스팅 방법에서도 적용될 수 있다.
참고로, 상기 아래의 설명에서, 혼란을 피하기 위해, 상기 학습 프로세스와 관련된 용어에 "학습용"이라는 단어가 추가되었고 테스팅 프로세스와 관련된 용어에 "테스트용"이라는 단어가 추가되었다.
즉, 상기 인스턴스 세그먼테이션을 위한 상기 테스팅 방법은 (a) 상기 학습 장치가, (i) 상기 트레이닝 이미지(10) 내의 하나 이상의 학습용 객체를 검출할 수 있는 상기 뉴럴 네트워크(100)로부터 적어도 하나의 학습용 네트워크 출력 특징을 획득하는 프로세스를 수행하고, (ii) 상기 유사도 컨벌루션 레이어(310)로 하여금 상기 학습용 네트워크 출력 특징에 상기 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 학습용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 학습용 임베딩 벡터를 생성하는 프로세스를 수행하며, (iii) 상기 유사도 로스 레이어(330)로 하여금, 상기 학습용 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 상기 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT 라벨 이미지를 참고하여 상기 유사도 로스를 생성하도록 하는 상기 유사도 임베딩 프로세스를 수행하고, (iv) 상기 거리 컨벌루션 레이어(410)로 하여금, 상기 학습용 유사도 임베딩 특징에 상기 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 학습용 유사도 임베딩 특징을 적어도 하나의 학습용 특징 공간으로 변경하는 프로세스를 수행하며, (v) 상기 거리 로스 레이어(430)로 하여금, 상기 학습용 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 상기 거리 임베딩 프로세스를 수행하고, (vi) 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션하여 상기 거리 컨벌루션 레이어(410), 상기 유사도 컨벌루션 레이어(310) 및 상기 뉴럴 네트워크(100) 중 하나 이상의 파라미터를 학습하는 프로세스를 수행한 상태에서, 테스팅 장치가 적어도 하나의 테스트 이미지 내의 하나 이상의 테스트용 객체를 검출할 수 있는 상기 뉴럴 네트워크(100)로부터 적어도 하나의 테스트용 네트워크 출력 특징을 획득하는 단계; (b) 상기 테스팅 장치가 상기 유사도 컨벌루션 레이어(310)로 하여금 상기 테스트용 네트워크 출력 특징에 상기 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 테스트용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 테스트용 임베딩 벡터를 생성하는 프로세스를 수행하는 단계; (c) 상기 테스팅 장치가 상기 거리 컨벌루션 레이어(410)로 하여금, 상기 테스트용 유사도 임베딩 특징에 상기 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 테스트용 유사도 임베딩 특징을 적어도 하나의 테스트용 특징 공간으로 변경하는 프로세스를 수행하는 단계; 및 (d) 상기 테스팅 장치가 상기 샘플링 레이어(500) 및 상기 검출 레이어(600)로 하여금, 상기 테스트용 거리 임베딩 특징을 샘플링하고 리그레션을 통해 상기 테스트용 객체의 위치를 검출하여 개별적으로 상기 테스트용 객체를 식별하도록 함으로써, 적어도 하나의 테스트용 인스턴스 세그먼테이션을 생성하는 프로세스를 수행하는 단계;를 포함한다.
상기 학습 방법 및 상기 테스팅 방법은 멀티 카메라 시스템 내의 센서 융합(Sensor Fusion)을 이용하여 보행자 이벤트 및 자동차 이벤트를 포함한 도로 이용자 이벤트를 검출하도록 이용되기 위해 제공된다.
본 발명 기술분야의 통상의 기술자에게 이해될 수 있는 바로서, 위에서 설명된 이미지, 예컨대 상기 트레이닝 이미지 및 상기 테스트 이미지와 같은 이미지 데이터의 송수신이 학습 장치 및 테스트 장치의 통신부들에 의하여 이루어질 수 있으며, 특징 맵과 연산을 수행하기 위한 데이터가 학습 장치 및 테스트 장치의 프로세서(및/또는 메모리)에 의하여 보유/유지될 수 있고, 컨벌루션 연산, 디컨벌루션 연산, 로스 값 연산 과정이 주로 학습 장치 및 테스트 장치의 프로세서에 의하여 수행될 수 있으나, 본 발명이 이에 한정되지는 않을 것이다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (30)

  1. 인스턴스 세그먼테이션(Instance Segmentation)을 위한 학습 방법에 있어서,
    (a) 학습 장치가, 적어도 하나의 트레이닝 이미지 내의 하나 이상의 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 적어도 하나의 네트워크 출력 특징(Network Output Feature)을 획득하는 프로세스를 수행하는 단계;
    (b) 상기 학습 장치가, 적어도 하나의 유사도 컨벌루션(Similarity Convolution) 레이어로 하여금 상기 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 유사도 임베딩(Embedding) 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 임베딩 벡터를 생성하는 프로세스를 수행하는 단계;
    (c) 상기 학습 장치가, 적어도 하나의 유사도 로스 레이어로 하여금, 상기 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT(Ground Truth) 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하는 단계;
    (d) 상기 학습 장치가, 적어도 하나의 거리 컨벌루션(Distance Convolution) 레이어로 하여금, 상기 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 유사도 임베딩 특징을 적어도 하나의 특징 공간으로 변경하는 프로세스를 수행하는 단계;
    (e) 상기 학습 장치가, 적어도 하나의 거리 로스 레이어로 하여금, 상기 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하는 단계; 및
    (f) 상기 학습 장치가, 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션(Backpropagation)하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행하는 단계;
    를 포함하는 것을 특징으로 하는 학습 방법.
  2. 제 1 항에 있어서,
    (g) 상기 학습 장치가, 적어도 하나의 샘플링 레이어 및 적어도 하나의 검출 레이어로 하여금, 상기 거리 임베딩 특징을 샘플링하고 리그레션(Regression)을 통해 상기 객체의 위치를 검출하여 개별적으로 상기 객체를 식별하도록 함으로써, 적어도 하나의 인스턴스 세그먼테이션을 생성하는 프로세스를 수행하는 단계;
    를 더 포함하는 것을 특징으로 하는 학습 방법.
  3. 제 2 항에 있어서,
    (h) 상기 학습 장치가, 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 인스턴스 세그먼테이션 및 이에 대응되는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 산출하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어, 및 상기 뉴럴 네트워크 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 수행하는 단계;
    를 더 포함하는 것을 특징으로 하는 학습 방법.
  4. 제 1 항에 있어서,
    상기 GT 라벨 이미지는 상기 인스턴스 세그먼테이션에 대응하는 GT 라벨 이미지인 것을 특징으로 하는 학습 방법.
  5. 제 1 항에 있어서,
    상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 거리 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위 보다 크게 되도록 결정되는 것을 특징으로 하는 학습 방법.
  6. 제 1 항에 있어서,
    상기 유사도는 아래 수학식
    Figure pat00070

    - 여기서, 상기 fp 및 상기 fq는 상기 유사도 임베딩 특징으로부터 임의로 샘플링된 상기 두 점임 - 으로 표현되며,
    상기 유사도 로스(Similarity Loss)는 아래 수학식
    Figure pat00071

    - 여기서 상기 A는 상기 유사도 임베딩 특징으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내고, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타냄 - 으로 표현되는 크로스 엔트로피 로스(Cross Entropy Loss)인 것을 특징으로 하는 학습 방법.
  7. 제 1 항에 있어서,
    상기 객체는 하나 이상의 차선을 나타내는 것을 특징으로 하는 학습 방법.
  8. 제 7 항에 있어서,
    상기 거리 로스는 아래 수학식
    Figure pat00072

    - 여기서 상기
    Figure pat00073
    및 상기
    Figure pat00074
    는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
    Figure pat00075
    )은 상기
    Figure pat00076
    의 평균값을 나타내며, 상기 mean(
    Figure pat00077
    )은 상기
    Figure pat00078
    의 평균값을 나타내고, 상기 var(
    Figure pat00079
    )는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
    Figure pat00080
    ,
    Figure pat00081
    )은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타냄 - 으로 표현되는 클러스터링 로스(Clustering Loss)인 것을 특징으로 하는 학습 방법.
  9. 제 8 항에 있어서,
    상기 thresh는 1로 설정되는 것을 특징으로 하는 학습 방법.
  10. 인스턴스 세그먼테이션(Instance Segmentation)을 위한 테스팅 방법에 있어서,
    (a) 학습 장치가, (i) 적어도 하나의 유사도 컨벌루션 레이어로 하여금 적어도 하나의 트레이닝 이미지 내의 하나 이상의 학습용 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 획득된 적어도 하나의 학습용 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 학습용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 학습용 임베딩 벡터를 생성하는 프로세스를 수행하고, (ii) 적어도 하나의 유사도 로스 레이어로 하여금, 상기 학습용 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하며, (iii) 적어도 하나의 거리 컨벌루션 레이어로 하여금, 상기 학습용 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 학습용 유사도 임베딩 특징을 적어도 하나의 학습용 특징 공간으로 변경하는 프로세스를 수행하고, (iv) 적어도 하나의 거리 로스 레이어로 하여금, 상기 학습용 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하며, (v) 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행한 상태에서, 테스팅 장치가, 적어도 하나의 테스트 이미지 내의 하나 이상의 테스트용 객체를 검출할 수 있는 상기 뉴럴 네트워크로부터 적어도 하나의 테스트용 네트워크 출력 특징을 획득하는 단계;
    (b) 상기 테스팅 장치가, 상기 유사도 컨벌루션 레이어로 하여금 상기 테스트용 네트워크 출력 특징에 상기 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 테스트용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 테스트용 임베딩 벡터를 생성하는 프로세스를 수행하는 단계;
    (c) 상기 테스팅 장치가, 상기 거리 컨벌루션 레이어로 하여금, 상기 테스트용 유사도 임베딩 특징에 상기 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 테스트용 유사도 임베딩 특징을 적어도 하나의 테스트용 특징 공간으로 변경하는 프로세스를 수행하는 단계; 및
    (d) 상기 테스팅 장치가, 적어도 하나의 샘플링 레이어 및 적어도 하나의 검출 레이어로 하여금, 상기 테스트용 거리 임베딩 특징을 샘플링하고 리그레션(Regression)을 통해 상기 테스트용 객체의 위치를 검출하여 개별적으로 상기 테스트용 객체를 식별하도록 함으로써, 적어도 하나의 테스트용 인스턴스 세그먼테이션을 생성하는 프로세스를 수행하는 단계;
    를 포함하는 것을 특징으로 하는 테스팅 방법.
  11. 제 10 항에 있어서,
    상기 (a) 단계에서,
    상기 학습 장치가, (vi) 상기 샘플링 레이어 및 상기 검출 레이어로 하여금, 상기 학습용 거리 임베딩 특징을 샘플링하고 상기 리그레션(Regression)을 통해 상기 학습용 객체의 위치를 검출하여 개별적으로 상기 학습용 객체를 식별하도록 함으로써, 적어도 하나의 학습용 인스턴스 세그먼테이션을 생성하는 프로세스 및 (vii) 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 학습용 인스턴스 세그먼테이션 및 이에 대응되는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 산출하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어, 및 상기 뉴럴 네트워크 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 더 수행하는 것을 특징으로 하는 테스팅 방법.
  12. 제 10 항에 있어서,
    상기 GT 라벨 이미지는 상기 학습용 인스턴스 세그먼테이션에 대응하는 GT 라벨 이미지인 것을 특징으로 하는 테스팅 방법.
  13. 제 10 항에 있어서,
    상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 거리 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위 보다 크게 되도록 결정되는 것을 특징으로 하는 테스팅 방법.
  14. 제 10 항에 있어서,
    상기 유사도는 아래 수학식
    Figure pat00082

    - 여기서, 상기 fp 및 상기 fq는 상기 학습용 유사도 임베딩 특징으로부터 임의로 샘플링된 상기 두 점임 - 으로 표현되며,
    상기 유사도 로스(Similarity Loss)는 아래 수학식
    Figure pat00083

    - 여기서 상기 A는 상기 학습용 유사도 임베딩 특징으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내고, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타냄 - 으로 표현되는 크로스 엔트로피 로스(Cross Entropy Loss)인 것을 특징으로 하는 테스팅 방법.
  15. 제 10 항에 있어서,
    상기 학습용 객체는 하나 이상의 차선을 나타내며,
    상기 거리 로스는 아래 수학식
    Figure pat00084

    - 여기서 상기
    Figure pat00085
    및 상기
    Figure pat00086
    는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
    Figure pat00087
    )은 상기
    Figure pat00088
    의 평균값을 나타내며, 상기 mean(
    Figure pat00089
    )은 상기
    Figure pat00090
    의 평균값을 나타내고, 상기 var(
    Figure pat00091
    )는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
    Figure pat00092
    ,
    Figure pat00093
    )은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타냄 - 으로 표현되는 클러스터링 로스(Clustering Loss)인 것을 특징으로 하는 테스팅 방법.
  16. 인스턴스 세그먼테이션을 위한 학습 장치에 있어서,
    인스트럭션을 저장하는 적어도 하나의 메모리; 및
    (I) 적어도 하나의 유사도 컨벌루션 레이어로 하여금 적어도 하나의 트레이닝 이미지 내의 하나 이상의 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 획득된 적어도 하나의 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 임베딩 벡터를 생성하는 프로세스를 수행하고, (II) 적어도 하나의 유사도 로스 레이어로 하여금, 상기 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하며, (III) 적어도 하나의 거리 컨벌루션 레이어로 하여금, 상기 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 유사도 임베딩 특징을 적어도 하나의 특징 공간으로 변경하는 프로세스를 수행하고, (IV) 적어도 하나의 거리 로스 레이어로 하여금, 상기 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하며, (V) 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션(Backpropagation)하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행하기 위한 상기 인스트럭션을 실행하도록 구성된 적어도 하나의 프로세서;
    를 포함하는 것을 특징으로 하는 학습 장치.
  17. 제 16 항에 있어서,
    상기 프로세서가, (VI) 적어도 하나의 샘플링 레이어 및 적어도 하나의 검출 레이어로 하여금, 상기 거리 임베딩 특징을 샘플링하고 리그레션(Regression)을 통해 상기 객체의 위치를 검출하여 개별적으로 상기 객체를 식별하도록 함으로써, 적어도 하나의 인스턴스 세그먼테이션을 생성하는 프로세스를 더 수행하는 것을 특징으로 하는 학습 장치.
  18. 제 17 항에 있어서,
    상기 프로세서가, (VII) 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 인스턴스 세그먼테이션 및 이에 대응되는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 산출하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어, 및 상기 뉴럴 네트워크 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 더 수행하는 것을 특징으로 하는 학습 장치.
  19. 제 16 항에 있어서,
    상기 GT 라벨 이미지는 상기 인스턴스 세그먼테이션에 대응하는 GT 라벨 이미지인 것을 특징으로 하는 학습 장치.
  20. 제 16 항에 있어서,
    상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 거리 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위 보다 크게 되도록 결정되는 것을 특징으로 하는 학습 장치.
  21. 제 16 항에 있어서,
    상기 유사도는 아래 수학식
    Figure pat00094

    - 여기서, 상기 fp 및 상기 fq는 상기 유사도 임베딩 특징으로부터 임의로 샘플링된 상기 두 점임 - 으로 표현되며,
    상기 유사도 로스(Similarity Loss)는 아래 수학식
    Figure pat00095

    - 여기서 상기 A는 상기 유사도 임베딩 특징으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내고, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타냄 - 으로 표현되는 크로스 엔트로피 로스(Cross Entropy Loss)인 것을 특징으로 하는 학습 장치.
  22. 제 16 항에 있어서,
    상기 객체는 하나 이상의 차선을 나타내는 것을 특징으로 하는 학습 장치.
  23. 제 22 항에 있어서,
    상기 거리 로스는 아래 수학식
    Figure pat00096

    - 여기서 상기
    Figure pat00097
    및 상기
    Figure pat00098
    는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
    Figure pat00099
    )은 상기
    Figure pat00100
    의 평균값을 나타내며, 상기 mean(
    Figure pat00101
    )은 상기
    Figure pat00102
    의 평균값을 나타내고, 상기 var(
    Figure pat00103
    )는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
    Figure pat00104
    ,
    Figure pat00105
    )은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타냄 - 으로 표현되는 클러스터링 로스(Clustering Loss)인 것을 특징으로 하는 학습 장치.
  24. 제 23 항에 있어서,
    상기 thresh는 1로 설정되는 것을 특징으로 하는 학습 장치.
  25. 인스턴스 세그먼테이션을 위한 테스팅 장치에 있어서,
    인스트럭션을 저장하는 적어도 하나의 메모리; 및
    학습 장치가 (i) 적어도 하나의 유사도 컨벌루션 레이어로 하여금 적어도 하나의 트레이닝 이미지 내의 하나 이상의 학습용 객체를 검출할 수 있는 뉴럴 네트워크(Neural Network)로부터 획득된 적어도 하나의 학습용 네트워크 출력 특징에 하나 이상의 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 학습용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 학습용 임베딩 벡터를 생성하는 프로세스를 수행하고, (ii) 적어도 하나의 유사도 로스 레이어로 하여금, 상기 학습용 유사도 임베딩 특징으로부터 샘플링된 두 점 사이에서 적어도 하나의 유사도를 산출하도록 하고, 상기 유사도 및 이에 대응하는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 유사도 로스를 생성하도록 하는 유사도 임베딩 프로세스를 수행하며, (iii) 적어도 하나의 거리 컨벌루션 레이어로 하여금, 상기 학습용 유사도 임베딩 특징에 하나 이상의 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 학습용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 학습용 유사도 임베딩 특징을 적어도 하나의 학습용 특징 공간으로 변경하는 프로세스를 수행하고, (iv) 적어도 하나의 거리 로스 레이어로 하여금, 상기 학습용 거리 임베딩 특징을 이용하여 하나 이상의 인스턴스 클래스 각각의 평균값과 분산값을 산출하여, 상기 인스턴스 클래스의 각각의 상기 평균값 사이의 상호 클래스 간 차이 각각을 증가시키고 각각의 상기 인스턴스 클래스의 각 클래스 내 분산값을 감소시키기 위해 이용될, 적어도 하나의 거리 로스를 생성하도록 하는 거리 임베딩 프로세스를 수행하며, (v) 상기 유사도 로스 및 상기 거리 로스 중 적어도 하나를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어 및 상기 뉴럴 네트워크 중 적어도 하나의 파라미터를 학습하는 프로세스를 수행한 상태에서, (I) 상기 유사도 컨벌루션 레이어로 하여금 적어도 하나의 테스트 이미지 내의 하나 이상의 테스트용 객체를 검출할 수 있는 상기 뉴럴 네트워크(Neural Network)로부터 획득된 적어도 하나의 테스트용 네트워크 출력 특징에 상기 유사도 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 유사도 임베딩 특징을 생성하되, 상기 유사도 컨벌루션 연산은 상기 테스트용 네트워크 출력 특징의 픽셀의 적어도 일부분에 대응하는 하나 이상의 테스트용 임베딩 벡터를 생성하는 프로세스, (II) 상기 거리 컨벌루션 레이어로 하여금, 상기 테스트용 유사도 임베딩 특징에 상기 거리 컨벌루션 연산을 가하도록 함으로써 적어도 하나의 테스트용 거리 임베딩 특징을 생성하되, 상기 거리 컨벌루션 연산은 상기 테스트용 유사도 임베딩 특징을 적어도 하나의 테스트용 특징 공간으로 변경하는 프로세스, 및 (III) 적어도 하나의 샘플링 레이어 및 적어도 하나의 검출 레이어로 하여금, 상기 테스트용 거리 임베딩 특징을 샘플링하고 리그레션(Regression)을 통해 상기 테스트용 객체의 위치를 검출하여 개별적으로 상기 테스트용 객체를 식별하도록 함으로써, 적어도 하나의 테스트용 인스턴스 세그먼테이션을 생성하는 프로세스를 수행하기 위한 상기 인스트럭션을 실행하도록 구성된 적어도 하나의 프로세서;
    를 포함하는 것을 특징으로 하는 테스팅 장치.
  26. 제 25 항에 있어서,
    상기 학습 장치가, (vi) 상기 샘플링 레이어 및 상기 검출 레이어로 하여금, 상기 학습용 거리 임베딩 특징을 샘플링하고 상기 리그레션(Regression)을 통해 상기 학습용 객체의 위치를 검출하여 개별적으로 상기 학습용 객체를 식별하도록 함으로써, 적어도 하나의 학습용 인스턴스 세그먼테이션을 생성하는 프로세스 및 (vii) 적어도 하나의 세그먼테이션 로스 레이어로 하여금 상기 학습용 인스턴스 세그먼테이션 및 이에 대응되는 적어도 하나의 GT 라벨 이미지를 참고하여 적어도 하나의 세그먼테이션 로스를 산출하도록 하고, 상기 세그먼테이션 로스를 백프로파게이션하여 상기 거리 컨벌루션 레이어, 상기 유사도 컨벌루션 레이어, 및 상기 뉴럴 네트워크 중 적어도 하나의 상기 파라미터를 학습하는 프로세스를 더 수행하는 것을 특징으로 하는 테스팅 장치.
  27. 제 25 항에 있어서,
    상기 GT 라벨 이미지는 상기 학습용 인스턴스 세그먼테이션에 대응하는 GT 라벨 이미지인 것을 특징으로 하는 테스팅 장치.
  28. 제 25 항에 있어서,
    상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위보다 더 크게 되도록 결정되고, 상기 거리 컨벌루션 레이어의 상기 파라미터의 조정 범위가 상기 뉴럴 네트워크의 상기 파라미터의 조정 범위 또는 상기 유사도 컨벌루션 레이어의 상기 파라미터의 조정 범위 보다 크게 되도록 결정되는 것을 특징으로 하는 테스팅 장치.
  29. 제 25 항에 있어서,
    상기 유사도는 아래 수학식
    Figure pat00106

    - 여기서, 상기 fp 및 상기 fq는 상기 학습용 유사도 임베딩 특징으로부터 임의로 샘플링된 상기 두 점임 - 으로 표현되며,
    상기 유사도 로스(Similarity Loss)는 아래 수학식
    Figure pat00107

    - 여기서 상기 A는 상기 학습용 유사도 임베딩 특징으로부터 임의로 상기 두 점을 샘플링하는 조합(Combination)의 수를 나타내고, 상기 y는 상기 두 점이 같은 클래스에 있으면 1, 다른 클래스에 있으면 0을 갖는 수이고, 상기 s는 상기 유사도를 나타냄 - 으로 표현되는 크로스 엔트로피 로스(Cross Entropy Loss)인 것을 특징으로 하는 테스팅 장치.
  30. 제 25 항에 있어서,
    상기 학습용 객체는 하나 이상의 차선을 나타내며,
    상기 거리 로스는 아래 수학식
    Figure pat00108

    - 여기서 상기
    Figure pat00109
    및 상기
    Figure pat00110
    는 상기 차선 중에서 임의로 선택된 2개의 차선을 나타내고, 상기 mean(
    Figure pat00111
    )은 상기
    Figure pat00112
    의 평균값을 나타내며, 상기 mean(
    Figure pat00113
    )은 상기
    Figure pat00114
    의 평균값을 나타내고, 상기 var(
    Figure pat00115
    )는 상기 차선 중에서 각 차선의 분산값이며, 상기 n_combination(
    Figure pat00116
    ,
    Figure pat00117
    )은 상기 차선 중에서 2개 차선을 선택하는 조합의 총 경우의 수이며, 상기 thresh는 임계치를 나타냄 - 으로 표현되는 클러스터링 로스(Clustering Loss)인 것을 특징으로 하는 테스팅 장치.
KR1020190119502A 2019-01-25 2019-09-27 멀티 카메라 시스템 내의 더블 임베딩 구성을 이용하여 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스팅 방법 및 테스팅 장치 KR102320985B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/257,993 US10551846B1 (en) 2019-01-25 2019-01-25 Learning method and learning device for improving segmentation performance to be used for detecting road user events using double embedding configuration in multi-camera system and testing method and testing device using the same
US16/257,993 2019-01-25

Publications (2)

Publication Number Publication Date
KR20200092842A true KR20200092842A (ko) 2020-08-04
KR102320985B1 KR102320985B1 (ko) 2021-11-03

Family

ID=68502920

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190119502A KR102320985B1 (ko) 2019-01-25 2019-09-27 멀티 카메라 시스템 내의 더블 임베딩 구성을 이용하여 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스팅 방법 및 테스팅 장치

Country Status (5)

Country Link
US (1) US10551846B1 (ko)
EP (1) EP3686778B1 (ko)
JP (1) JP6867054B2 (ko)
KR (1) KR102320985B1 (ko)
CN (1) CN111488879B (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102372988B1 (ko) * 2021-10-08 2022-03-14 주식회사 멀티플아이 시계열 이벤트를 이용하여 카메라의 자세 변화 결과를 추정하기 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11003920B2 (en) * 2018-11-13 2021-05-11 GM Global Technology Operations LLC Detection and planar representation of three dimensional lanes in a road scene
KR20210061839A (ko) * 2019-11-20 2021-05-28 삼성전자주식회사 전자 장치 및 그 제어 방법
CN111507985A (zh) * 2020-03-19 2020-08-07 北京市威富安防科技有限公司 图像实例分割优化处理方法、装置和计算机设备
CN111553916B (zh) * 2020-05-09 2023-11-14 中科计算技术创新研究院 基于多种特征和卷积神经网络的图像篡改区域检测方法
CN112561053B (zh) * 2020-11-10 2023-09-08 北京百度网讯科技有限公司 图像处理方法、预训练模型的训练方法、装置和电子设备
CN112819008B (zh) * 2021-01-11 2022-10-28 腾讯科技（深圳）有限公司 实例检测网络的优化方法、装置、介质及电子设备

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8879796B2 (en) * 2012-08-23 2014-11-04 Xerox Corporation Region refocusing for data-driven object localization
US10902243B2 (en) * 2016-10-25 2021-01-26 Deep North, Inc. Vision based target tracking that distinguishes facial feature targets
US11449985B2 (en) * 2016-12-02 2022-09-20 Regents Of The University Of Minnesota Computer vision for cancerous tissue recognition
US10497382B2 (en) * 2016-12-16 2019-12-03 Google Llc Associating faces with voices for speaker diarization within videos
US10540590B2 (en) * 2016-12-29 2020-01-21 Zhejiang Gongshang University Method for generating spatial-temporally consistent depth map sequences based on convolution neural networks
US10565434B2 (en) * 2017-06-30 2020-02-18 Google Llc Compact language-free facial expression embedding and novel triplet training scheme
GB201710877D0 (en) * 2017-07-06 2017-08-23 Nokia Technologies Oy A method and an apparatus for evaluating generative machine learning model
CN108595409A (zh) * 2018-03-16 2018-09-28 上海大学 一种基于神经网络的需求文档和服务文档匹配方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Alireza Fathi et al., Semantic instance segmentation via deep metric learning, cs.CV (2017. 3. 30) *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102372988B1 (ko) * 2021-10-08 2022-03-14 주식회사 멀티플아이 시계열 이벤트를 이용하여 카메라의 자세 변화 결과를 추정하기 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치

Also Published As

Publication number Publication date
CN111488879A (zh) 2020-08-04
US10551846B1 (en) 2020-02-04
JP2020119505A (ja) 2020-08-06
CN111488879B (zh) 2023-10-10
EP3686778B1 (en) 2024-06-19
JP6867054B2 (ja) 2021-04-28
EP3686778A1 (en) 2020-07-29
KR102320985B1 (ko) 2021-11-03

Similar Documents

Publication Publication Date Title
KR20200092842A (ko) 멀티 카메라 시스템 내의 더블 임베딩 구성을 이용하여 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스팅 방법 및 테스팅 장치
KR102280395B1 (ko) 차선 후보 픽셀의 분류를 통해 차선을 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102373456B1 (ko) 자동 주차 시스템을 제공하기 위해 결정 지점 간의 관계 및 결정 지점에 대한 리그레션 결과를 이용하여 주차 공간을 검출하는 학습 방법 및 학습 장치, 그리고 이를 이용한 테스팅 방법 및 테스팅 장치
KR20200027428A (ko) 에지 이미지를 이용하여 객체를 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102279376B1 (ko) CNN(Convolutional Neural Network)을 사용하여 차선을 검출하기 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102328734B1 (ko) 이미지를 분석하기 위해, 딥러닝 네트워크에 이용하기 위한 트레이닝 이미지에 대한 라벨링 신뢰도를 자동으로 평가하기 위한 방법 및 이를 이용한 신뢰도 평가 장치
US10509987B1 (en) Learning method and learning device for object detector based on reconfigurable network for optimizing customers' requirements such as key performance index using target object estimating network and target object merging network, and testing method and testing device using the same
KR20200047307A (ko) 유용한 학습 데이터를 취사 선별하기 위한 cnn 기반 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
US10430691B1 (en) Learning method and learning device for object detector based on CNN, adaptable to customers' requirements such as key performance index, using target object merging network and target region estimating network, and testing method and testing device using the same to be used for multi-camera or surround view monitoring
KR102279388B1 (ko) 차선 모델을 이용하여 차선을 검출할 수 있는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
US10423860B1 (en) Learning method and learning device for object detector based on CNN to be used for multi-camera or surround view monitoring using image concatenation and target object merging network, and testing method and testing device using the same
US10796206B2 (en) Method for integrating driving images acquired from vehicles performing cooperative driving and driving image integrating device using same
KR20200094622A (ko) 뉴럴 네트워크 학습에 이용될 오토 라벨링된 이미지 중에서 라벨 검수를 위한 샘플 이미지를 획득하는 방법 및 이를 이용한 샘플 이미지 획득 장치
CN111508252B (zh) 利用v2x信息集成技术更新高清地图的方法和装置
KR20200094075A (ko) 다수의 차량을 통한 센서 퓨전, v2x 통신 가능한 애플리케이션을 이용한 협업 주행을 위해 주변에 위치하는 카메라 각각에 대응되는 각각의 객체 검출기에 의해 검출되는 객체 검출 정보를 통합하는 방법 및 장치
CN112101114B (zh) 一种视频目标检测方法、装置、设备以及存储介质
CN110909588B (zh) 基于cnn的用于车道线检测的方法和装置
CN115909096A (zh) 无人机巡航管道隐患分析方法、装置及***
CN112699711A (zh) 车道线检测方法、装置、存储介质及电子设备
CN110738229B (zh) 一种细粒度图像分类方法、装置及电子设备
CN111160282A (zh) 一种基于二值化Yolov3网络的红绿灯检测方法
US10373004B1 (en) Method and device for detecting lane elements to plan the drive path of autonomous vehicle by using a horizontal filter mask, wherein the lane elements are unit regions including pixels of lanes in an input image
CN114202927B (zh) 一种基于多传感器融合的车型检测方法
CN113743372A (zh) 一种基于人工智能的交通标识安全检测方法及***

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant