KR20120055306A - 객체 인식 시스템, 차량용 장애물 인식 시스템 및 차량용 장애물 인식 방법 - Google Patents
객체 인식 시스템, 차량용 장애물 인식 시스템 및 차량용 장애물 인식 방법 Download PDFInfo
- Publication number
- KR20120055306A KR20120055306A KR1020100116980A KR20100116980A KR20120055306A KR 20120055306 A KR20120055306 A KR 20120055306A KR 1020100116980 A KR1020100116980 A KR 1020100116980A KR 20100116980 A KR20100116980 A KR 20100116980A KR 20120055306 A KR20120055306 A KR 20120055306A
- Authority
- KR
- South Korea
- Prior art keywords
- edge
- region
- image
- vehicle
- interest
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
Abstract
객체 인식 시스템이 개시된다. 이 객체 인식 시스템은 소스 영상의 관심 영역 내에서 객체를 인식하는 시스텝으로서, 상기 소스 영상을 입력받아서, 상기 객체를 에지 라인으로 나타내는 에지 영상으로 변환하는 영상 변환부와, 상기 에지 영상을 복수의 영역으로 분할하고, 각 영역에 포함된 에지 라인의 에지 성분 값의 총합과 기 설정된 임계치를 영역별로 비교하고, 상기 복수의 영역 중 상기 에지 성분 값의 총합이 상기 임계치보다 큰 영역을 상기 관심 영역으로서 검출하는 관심 영역 검출부를 포함한다.
Description
본 발명은 객체 인식 시스템, 차량용 장애물 인식 시스템 및 그 방법에 관한 것으로서, 더욱 상세하게는, 영상 처리 기술 분야에서 영상 내에 포함된 객체를 인식하는 객체 인식 시스템, 차량용 장애물 인식 시스템 및 상기 시스템을 이용한 장애물 인식 방법에 관한 것이다.
객체 인식(Object Recognition) 알고리즘은 사용자 인증 시스템, 차량의 장애물 인식 시스템, 보안 시스템, HRI(Human Robot Interaction) 기술 등 다양한 분야에서 적용되고 있다. 최근 객체 인식 알고리즘은 하드웨어에 내장되어 특수한 기능만을 수행하는 임베디드 시스템으로 구현되고 있다. 여기서, 임베디드 시스템은 큰 시스템의 일부로서 특별한 업무를 수행하기 위한 하드웨어와 소프트웨어를 포함한 특정한 응용시스템을 말한다.
그런데, 객체 인식 알고리즘은 프로세서에게 과도한 연산 처리량을 요구한다. 예컨대, 객체 인식 알고리즘에는 입력 영상의 전체 영역을 소정 사이즈(size)의 서칭 윈도우(Searching Wingow)로 스캐닝(scanning)하는 과정이 있는데, 이 스캐닝하는 과정에서 과도한 연산 처리량이 요구된다. 이러한 과도한 연산 처리량은 영상 처리에 필요한 메모리 추가를 동반한다. 또한 과도한 연산 처리량과 메모리 추가는 객체 인식(Object Recognition) 알고리즘을 임베디듣 시스템과 같은 하드웨어로의 구현을 방해하는 요소이다.
따라서, 본 발명의 목적은 객체 인식을 위한 영상 처리 과정에서 과도한 연산 처리량이 요구되지 않는 객체 인식 시스템을 제공하는 것이다.
본 발명의 다른 목적은 상기 객체 인식 시스템을 이용한 차량용 장애물 인식 시스템을 제공하는 것이다.
본 발명의 또 다른 목적은, 장애물 인식을 위한 영상 처리 과정에서 과도한 연산 처리량이 요구되지 않는 차량용 장애물 인식 방법을 제공하는 것이다.
상기와 같은 목적을 달성하기 위한 본 발명의 일면에 다른 객체 인식 시스템은 상기 소스 영상을 입력받아서, 상기 객체를 에지 라인으로 나타내는 에지 영상으로 변환하는 영상 변환부와, 상기 에지 영상을 복수의 영역으로 분할하고, 각 영역에 포함된 에지 라인의 에지 성분 값의 총합과 기 설정된 임계치를 영역별로 비교하고, 상기 복수의 영역 중 상기 에지 성분 값의 총합이 상기 임계치보다 큰 영역을 상기 관심 영역으로서 검출하는 관심 영역 검출부를 포함한다.
본 발명의 다른 일면에 따른 차량용 장애물 인식 시스템은, 챠량에 구비되고, 상기 차량의 주행중 전방 영역과 후방 영역을 촬영한 소스 영상을 생성하는 영상 촬영부와, 상기 소스 영상을 입력받아서, 상기 소스 영상에 포함된 객체를 에지 라인으로 나타내는 에지 영상을 생성하는 에지 영상 생성부와, 상기 에지 영상을 복수의 영역으로 분할하고, 각 영역별로 에지 라인을 구성하는 에지 성분 값들의 총합을 각 영역별로 계산하여, 상기 에지 성분 값들의 총합과 기설정된 임계치를 비교하고, 각 영역별로 비교한 결과치에 근거하여 상기 복수의 영역에서 관심 영역을 검출하는 관심 영역 검출부 및 상기 검출된 관심 영역을 일정한 크기의 블록 단위로 스캔하여 상기 검출된 관심 영역 내에서 장애물의 존재 여부를 분석하는 영상 분석부를 포함한다.
본 발명의 또 다른 일면에 따른 차량용 장애물 인식 시스템은, 챠량에 구비되고, 상기 차량의 주행중 전방 영역과 후방 영역을 촬영한 소스 영상을 생성하는 영상 촬영부와, 상기 소스 영상을 입력받아서, 상기 소스 영상에 포함된 객체를 에지 라인으로 나타내는 에지 영상을 생성하는 에지 영상 생성부와, 상기 차량의 속도값에 따라 상기 에지 영상을 기설정된 개수의 영역들로 분할하고, 각 영역별 에지 라인을 구성하는 에지 성분 값들의 총합을 계산하여, 에지 성분 값들의 총합과 기설정된 임계치를 각 영역별로 비교하고, 각 영역별 비교 결과에 근거하여 상기 복수의 영역에서 관심 영역을 검출하는 관심 영역 검출부 및 상기 검출된 관심 영역을 일정한 크기의 블록 단위로 스캔하여 상기 검출된 관심 영역 내에서 장애물의 존재 여부를 분석하는 영상 분석부를 포함한다.
본 발명의 또 다른 일면에 따른 차량용 장애물 인식 방법은, 소스 영상 내에서 검출된 관심 영역을 일정한 크기의 블록 단위로 스캔하여 장애물을 인식하는 차량용 장애물 인식 방법으로서, 상기 소스 영상에 포함된 객체를 에지 라인으로 나타내는 에지 영상을 생성하는 단계와, 상기 차량의 속도값에 따라 상기 에지 영상을 기설정된 개수의 복수의 영역들로 분할하는 단계와, 분할된 각 영역들에 존재하는 에지 라인을 구성하는 에지 성분 값들의 총합을 각 영역별로 계산하여, 에지 성분 값들의 총합과 기설정된 임계치를 비교하고, 각 영역별 비교 결과에 근거하여, 상기 복수의 영역에서 관심 영역을 검출하는 단계를 포함한다.
본 발명에 의하면, 소스 영상의 전체 영역에서 영상 처리 과정이 수행되는 기존과는 달리 소스 영상의 일부 영역에서만 객체 인식을 위한 영상 처리 과정이 수행된다. 이로 인해, 프로세서가 부담해야하는 연산 처리량이 감소하고, 영상 처리과정에서 필요한 메모리의 용량을 줄인다. 이러한 본발명이 임베디드 시스템과 같은 하드웨어로 구현되는 경우, 처리속도의 저하 없이 뛰어난 처리 성능이 보장된다.
도 1은 본 발명의 일실시예에 따른 객체 인식 시스템의 블록도이다.
도 2는 도 1에 도시된 영상 촬영부에서 촬영된 소스 영상의 일례를 보여주는 도면이다.
도 3은 도 1에 도시된 에지 영상 생성부에 의해 생성된 에지 영상의 일례를 보여주는 도면이다.
도 4는 도 1에 도시된 ROI 검출부의 내부 구성의 일례를 보여주는 블록도이다.
도 5 및 도 6은 도 4에 도시된 영역 분할부에 의해 분할된 에지 영상의 일례를 보여주는 도면들이다.
도 7은 도 1에 도시된 ROI 검출부의 내부 구성의 다른 일례를 보여주는 블록도이다.
도 8은 본 발명의 일실시예에 따른 객체 인식 방법을 보여주는 순서도이다.
도 2는 도 1에 도시된 영상 촬영부에서 촬영된 소스 영상의 일례를 보여주는 도면이다.
도 3은 도 1에 도시된 에지 영상 생성부에 의해 생성된 에지 영상의 일례를 보여주는 도면이다.
도 4는 도 1에 도시된 ROI 검출부의 내부 구성의 일례를 보여주는 블록도이다.
도 5 및 도 6은 도 4에 도시된 영역 분할부에 의해 분할된 에지 영상의 일례를 보여주는 도면들이다.
도 7은 도 1에 도시된 ROI 검출부의 내부 구성의 다른 일례를 보여주는 블록도이다.
도 8은 본 발명의 일실시예에 따른 객체 인식 방법을 보여주는 순서도이다.
본 발명은 카메라와 같은 촬상 수단로부터 제공되는 소스 영상을 분석하고, 분석결과에 기초하여 소스 영상에 포함된 객체의 검출 성능을 크게 개선한다.
이를 위해, 본 발명은 소스 영상의 전체 영역 내에서 장애물과 같은 객체를 검출하는 기존과는 달리 소스 영상의 전체 영역 중 일부 영역에서만 객체 검출 과정이 수행된다.
이하 첨부된 도면을 참조하여 본 발명의 일실시예를 상세히 설명하기로 한다.
본 발명의 일실시예에 대한 상세한 설명에 앞서, 본 발명의 이해를 돕기 위하여, 아래에서는, 본 발명의 객체 인식 시스템이 차량에 적용되어, 인접 차량 또는 보행자와 같은 장애물(또는 객체)을 인식하기 위한 장애물을 인식하는 용도로 사용된 예가 기술된다. 이러한 적용 예를 고려하여, 아래의 도면에서는 '객체 인식 시스템'이란 용어가 '차량용 장애물 인식 시스템'이란 용어로 대체된다.
그러나 본 발명의 객체 인식 시스템이 차량의 장애물 인식을 위한 용도로 한정되는 것은 아니다. 오히려 본 발명의 객체 인식 시스템이 사용자 인증 시스템, 보안 시스템, HRI(Human Robot Interaction) 기술 등 객체 인식을 위한 다양한 영상 처리 분야에서 이용될 수 있음은 아래의 설명을 통해 충분히 이해될 수 있다.
또한 아래의 설명에서, 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 공지 기능 및 구성에 대한 상세한 기술은 생략되며, 첨부된 각 도면에서, 동일한 부재는 가능한 한 동일한 참조부호로 도시한다. 예컨대, 도 4 및 도 7에 각각 도시된 에지값 수집부와 비교부는 동일 참조부호로 도시된다.
도 1은 본 발명의 일실시예에 따른 차량용 장애물 인식 시스템(100)의 블록도이고, 도 2는 도 1에 도시된 영상 촬영부에서 촬영된 소스 영상의 일례를 보여주는 도면이고, 도 3은 도 1에 도시된 에지 영상 생성부에 의해 생성된 에지 영상의 일례를 보여주는 도면이다. 여기서, 도 2 및 도 3에 각각 도시된 'i'는 소스 영상과 에지 영상의 가로 길이를 각각 나타내는 변수로서 가로 방향의 픽셀 수이고, 'j'는 소스 영상과 에지 영상의 가로 길이를 각각 나타내는 변수로서 세로 방향의 픽셀 수이다.
도 1을 참조하면, 본 발명의 일실시예에 따른 차량용 장애물 인식 시스템(100)은 차량 및 보행자와 같은 장애물(또는 객체)을 검출한다. 무엇보다도 이 차량용 장애물 인식 시스템(100)에서는 소스 영상의 전체 영역 중 일부 영역을 관심 영역으로 설정하고, 설정된 관심 영역에서만 스캐닝하는 과정이 수행된다.
이 차량용 장애물 인식 시스템(100)은, 소스 영상의 전체 영역 중 분석 대상 영역을 일부 영역으로 제한함으로써, 영상 처리 대상이 소스 영상의 전체 영역에서 일부 영역으로 축소된다. 따라서 프로세서가 부담해야하는 연산 처리량이 감소되고, 또한 영상 처리 과정에서 필요한 메모리의 용량이 감소된다. 이를 위하여, 상기 차량용 장애물 인식 시스템(100)은 영상 촬영부(110), 에지 영상 생성부(120), 관심 영역I(Region Of Interest: ROI) 검출부(130) 및 영상 분석부(140)를 포함한다.
영상 촬영부(110)는 적외선 카메라와 같은 촬상 수단으로서 차량의 특정 위치에 구비된다. 영상 촬영부(110)는 차량이 주행하는 동안 차량의 전방영역 및/또는 후방영역을 촬영한 소스 영상(S-IM)을 생성한다.
에지 영상 생성부(120)는 상기 영상 촬영부(110)로부터 소스 영상(S-IM)을 입력받는다. 에지 영상 생성부(120)는 소스 영상(S-IM)에 포함된 차량 또는 보행자와 같은 장애물을 에지 라인(윤곽선)으로 나타내는 에지 영상(EG-IM)을 생성한다. 이를 위하여, 에지 영상 생성부(110)는 에지 검출(egde detection) 기법을 이용하여 에지 영상(EG-IM)을 생성한다. 에지 검출 기법은 에지 연산자를 이용하여 소스 영상(S-IM)에 포함된 장애물(object 또는 Obstacle)의 에지 라인(윤곽선)을 구성하는 에지 성분값을 검출하는 알고리즘이다. 상기 에지 성분값은 에지 라인을 구성하는 픽셀들 중 임의 픽셀과 이 임의의 픽셀에 이웃하는 이웃 픽셀을 지정하고, 지정된 임의 픽셀의 계조값과 이웃 픽셀의 계조값 간의 불연속적인 값을 의미한다. 여기서, 불연속적인 값은 임의 픽셀의 계조값과 이웃 픽셀의 계조값 간의 차이값 또는 임의 픽셀의 계조값과 이웃 픽셀의 계조값 간의 변화율을 수치화한 값 등으로 정의될 수 있다.
상기 불연속적인 값은 에지 연산자(edge operator)를 이용하여 검출될 수 있으며, 상기 에지 연산자에는, 일례로, 유사 연산자(Homogenety operator), 차 연산자(Difference operator), 미분 연산자, 컴퍼스(Compass) 기울기 연산자, 라플라시안 연산자(Laplacian operator), LOG(Laplacian of Gaussian) 연산자 등이 있을 수 있다.
한편, 소스 영상(S-IM)에서 에지 라인(또는 에지 성분값)을 검출하는 과정에서, 소스 영상(S-IM) 내의 잡음(noise)도 에지 라인(또는 에지 성분)으로 추출될 수 있다. 따라서, 에지 영상 생성부(110)는 도 2에 도시된 바와 같은 소스 영상(S-IM)을 객체의 윤곽선으로 이루어진 중간 영상으로 변환하고, 이후, 변환된 중간 영상을 이진화시킴으로써 영상 내 잡음이 제거된 도 3에 도시된 바와 같은 이진화된 에지 영상(EG-IM)을 최종 생성한다. 예컨대, 에지 영상 생성부(110)가 장애물(또는 객체)의 에리 라인을 구성하는 픽셀들에는 255의 계조값(또는 이진 비트 '1')을 부여하고, 객체의 에리 라인을 형성하는 픽셀들 이외의 픽셀들에는 0의 계조(Gray level) 값(또는 이진 비트 '0')을 부여한다. 이렇게 함으로써, 도 3에 도시된 바와 같은 블랙 계조과 화이트 계조와 같은 그레이 계조로 이루어진 이진화된 에지 영상(EG-IM)이 최종 생성된다.
계속해서, ROI 검출부(130)는 에지 영상 생성부(120)로부터 입력받은 에지 영상(EG-IM)의 전제 영역을 복수의 영역으로 분할한다. 그리고, ROI 검출부(130)는 분할된 영역들 중 아래에서 기술되는 특정 조건을 만족하는 영역을 선택하여, 선택된 영역을 관심 영역(ROI)으로서 검출한다. 검출된 관심 영역(ROI)에 대응하는 ROI 영상(ROI-IM)은 영상 분석부(140)로 제공된다. ROI 검출부(130)에 대한 구체적인 설명은 아래에서 상세히 기술된다.
영상 분석부(140)는 ROI 검출부(130)로부터 입력받은 ROI 영상(ROI-IM)을 입력받고, ROI 영상(ROI-IM)의 전체 영역을 소정 사이즈(size)로 설정된 서칭 윈도우(Searching Wingow)를 한 픽셀씩 좌측에서 우측으로 이동시키는 방식으로 스캐닝한다. 서칭 윈도우의 이동이 ROI 영상(ROI-IM)의 좌측 상단에서 우측 하단에 도달하면, 한 싸이클의 스캐닝과정이 완료된다.
영상 분석부(140)는 한 사이클의 스캐닝과정이 완료되면, ROI 영상의 크기를 축소(scale-down)시켜 상기와 같은 스캐닝 과정을 반복한다. 이와 같이 반복되는 스캐닝 과정을 통해 영상 분석 작업이 수행된다. 이러한 스캐닝 과정은 영상의 크기를 조절해가면서 반복되는 과정이므로, 매우 많은 데이터 처리량 및 메모리를 요구하는 과정이다.
그러나 본 발명의 일실시예에서는 전체 영역을 스캐닝하는 것이 아니라 에지 영상(EG-IM)의 전체 영역 중 특정 조건을 만족하는 일부 영역에 대해서만 스캐닝 과정이 수행된다.
도 4는 도 1에 도시된 RIO 검출부의 내부 구성의 일례를 보여주는 블록도이고, 도 5 및 도 6은 도 4에 도시된 영역 분할부에 의해 분할된 에지 영상의 일례를 보여주는 도면들이다.
도 4를 참조하면, RIO 검출부(130)는 에지 영상(EG-IM)의 전체 영역 중 일부 영역을 관심 영역으로 검출하는 구성으로서, 영역 분할부(132), 에지값 수집부(134) 및 비교부(136)를 포함한다.
영역 분할부(132)는 에지 영상(EG-IM)의 전체 영역을 복수의 영역으로 분할하는 구성으로서, 본 발명의 일 실시예에 따른 영역 분할부(132)는 상기 에지 영상(EG-IM)의 전체 영역을 가로 방향으로 n(여기서, n은 2 이상의 자연수) 등분하여, 상기 복수의 영역으로 분할한다.
차량의 전방 또는 후방 영역을 촬영한 소스 영상에 장애물이 존재하는 경우, 이 장애물은 에지 영상의 전체 영역 내에서 가로 방향으로 분포된다. 따라서, 본 실시예에서는 에지 영상에서 객체의 검출 성공률 및 분할 효율을 높이기 위해, 에지 영상(EG-IM)의 전체 영역이 가로 방향으로 n(여기서, n은 2 이상의 자연수) 등분하는 방식으로 분할된다.
에지 영상(EG-IM)의 전체 크기가 도 3에 도시된 바와 같이 i * j인 경우, 상기 분할된 영역들 각각의 크기는 i * (j/n)이다. 여기서, i은 에지 영상의 가로 길이로서, 가로 방향의 픽셀 수이고, j은 에지 영상의 세로길이로서, 세로 방향의 픽셀 수이다. 그리고, n은 가로 방향으로 분할된 영역의 개수를 결정하는 변수로서, 2 이상이고, 5 이하인 자연수이다. 변수 n은 시스템 설계자에 의해 다양하게 설정될 수 있다.
도 5 및 도 6에서는, 상기 영역 분할부(132)에 의해 분할된 에지 영상의 일례들로서, 도 5는 에지 영상의 전체 영역을 가로 방향으로 2 등분한 것으로서, 상기 변수 n이 2로 설정된 경우이고, 도 6은 에지 영상을 가로 방향으로 3 등분한 것으로서, 상기 변수 n이 3으로 설정된 경우이다.
다시 도 4를 참조하면, 에지값 수집부(134)는 상기 영역 분할부(132)에 의해 분할된 각 영역에 포함된 에지 라인의 에지 성분 값들의 총합(이하, CET값)을 계산한다. 에지 성분값들의 총합은 아래의 수학식 1과 같다.
이후, 에지값 수집부(134)는 분할된 각 영역별로 계산된 CET값들을 영역별로 구분하여 수집하고, 수집된 CET값들 비교부(136)로 제공한다.
비교부(136)는 에지값 수집부(134)로부터 입력받은 CET값들과 기 설정된 임계치(TH)를 영역별로 비교한다. 여기서, 임계치(TH)는 시스템 설계자에 의해 수집된 통계 정보에 기초하여 계산된 예측 값이다. 이 설정된 임계치(TH)는 분할된 영역의 개수에 따라 다르게 설정될 수 있다. 예컨대, 에지 영상이 도 5에 도시된 바와 같이 2 등분된 경우에서의 설정된 임계치는 도 6에 도시된 바와 같이 3 등분된 경우에서 설정된 임계치보다 크게 설정될 수 있으며, 이와는 반대로, 작게 설정될 수도 있다.
비교부(136)는 영역별로 비교한 비교 결과에 근거하여, CET값이 임계치(TH)보다 큰 영역을 상기 관심 영역(ROI)으로서 검출한다. 예컨대, 도 5에 도시된 바와 같이, 에지 영상이 제1 영역(R1)과 제2 영역(R2)으로 2 등분된 경우, 제1 영역(R1)에는 장애물이 존재하지 않으므로, 제1 영역(R1)의 CET값은 설정된 임계치(TH)보다 낮게 나타나므로, 관심영역에서 제외된다. 반면, 제2 영역(R2)에는 차량과 같은 장애물이 존재하므로, 제2 영역(R2)의 CET값은 임게치보다 높게 나타나므로, 제2 영역(R2)이 관심 영역으로서 검출된다. 이와 유사하게, 도 6의 경우에서는 제3 영역(R3)을 제외한 제4 영역(R4) 및 제5 영역(R5)이 관심 영역으로서 검출된다.
이후, 비교부(136)에 의해 검출된 관심 영역은 영상 분석부(140)로 출력되고, 영상 분석부(140)는 비교부로부터 입력받은 관심 영역 내에서만 스캐닝 과정을 수행하므로, 전체 영상 처리 속도가 향상될 수 있다.
도 7은 도 1에 도시된 ROI 검출부의 내부 구성의 다른 실시예를 보여주는 블록도이다.
도 7을 참조하면, 본 발명의 다른 실시예에 따른 ROI 검출부(130)는 에지 영상의 전체 영역을 차량의 속도값에 따라 기설정된 개수로 분할하는 점에서, 도 6의 ROI 검출부와 그 기능이 다르다.
구체적으로, 본 발명의 다른 실시예에 따른 ROI 검출부(130)에 구비된 영역 분할부(132A)는 차량 시스템(200)으로부터 속도값을 입력받고, 입력받은 속도값에 따라 적응적으로 에지 영상의 전체 영역의 분할 개수를 조절한다.
차량의 속도가 증가할수록 에지 영상의 전체 영역에서 장애물이 차지하는 비율은 커진다. 즉, 차량의 속도가 증가할수록 전체 영역에서 비 관심 영역의 비율은 줄어들게 된다.
만일 차량의 속도와 무관하게 에지 영상의 전체 영역을 동일할 개수로 분할하게 되면, 관심 영역으로 검출되어야 할 영역이 비 관심 영역으로 판단되어, 관심 영역의 검출과정에서 검출 오류가 발생할 수 있다.
예컨대, 시스템 설계자가, 시속 80 Km/h로 주행하는 사용자의 차량에서 에지 영상을 분할하는 경우, 도 5에 도시된 바와 같이, 에지 영상이 2 등분되도록 설계하면, 제2 영역(R2)에 장애물이 존재하므로, 비교부(136)의 비교 처리 과정에 따라 제2 영역(R2)은 관심 영역으로 검출될 것이다.
그런데, 사용자의 차량이 100 Km/h 이상으로 주행 속도가 증가하는 경우에도 에지 영상을 2등분 하는 경우, 차량의 속도 증가로 인해 전방에서 주행하는 장애물 차량의 크기가 에지 영상의 전체 영역 내에서 차지하는 비율 또한 증가한다. 따라서 장애물 차량을 나타내는 에지 라인의 일부가 제1 영역(R1)에도 나타날 수 있다. 이 경우, 도 4의 에지값 수집부(134)에서 계산한 결과, 제1 영역(R1)의 CET값이 기 설정된 임계치(TH)보다 작으면, 제1 영역(R1)은 관심영역에서 배제되는 검출오류가 발생할 수 있다. 따라서, 차량의 속도가 증가하는 경우, 에지 영상의 전체 영역을 정밀하게 분할하는 과정이 필요하다.
이에, 본 발명의 다른 실시예에 따른 ROI 검출부(130)의 영역 분할부(132A)는 차량 시스템(200)으로부터 차량의 속도값(V)을 실시간으로 입력받고, 입력받은 차량의 속도값이 증가하는 경우, 에지 영상의 전체 영역의 분할 개수를 증가시킨다.
즉, 전술한 예에서와 같이, 에지 영상의 전체 크기가 i*j이고, 에지 영상을 가로방향으로 분할하여 생성된 영역들 각각의 크기가 i*(j/n)인 경우, 영역 분할부(132A)는 차량의 속도값의 비례하여 상기 변수 n값을 증가시켜 에지 영상의 전체 영역을 분할한다. 차량의 속도값에 따라 분할된 에지 영상의 이후 처리과정에 대해서는 도 6을 참조한 설명으로 대신한다.
도 8은 본 발명의 일실시예에 따른 장애물 인식 방법을 보여주는 순서도이다.
도 8을 참조하면, 먼저, 차량에 설치된 촬상 기기를 통해 차량의 전방 또는 후방 영역을 촬영한 소스 영상이 생성된다(S410).
이어, 에지 검출 기법에 따라 상기 소스 영상에 존재하는 장애물(또는 객체)을 에지 라인으로 나타내는 에지 영상이 생성된다(S420).
이어, 에지 영상의 전체 영역이 분할되는 과정이 수행된다(S430). 이 분할 과정에서는, 에지 영상이 가로 방향으로 n등분되고, 여기서, n은 2 이상이고, 5 이하로 설정될 수 있다. 상기 과정(s430) 이하의 과정에서는, 발명의 이해를 돕기 위하여 n이 2인 경우, 즉, 에지 영상의 전체 영역이 2 등분된 경우에서의 처리 과정이 기술되며, 편의상 분할된 영역들이 상부 영역(도 5의 R1)과 하부 영역(도 5의 R2)로 각각 지칭된다.
이어, 상부 영역(R1)에 포함된 에지 라인의 에지 성분 값의 총합(이하, 제1 CET값)과, 하부 영역(R2)에 포함된 에지 라인의 에지 성분 값의 총합(이하, 제2 CET값)이 각각 계산된다(S440).
이어, 제1 및 제2 CET값이 각각 기설정된 임계치(TH)와 비교된다(S450). 여기서, 제1 CET값이 기설정된 임계치(TH)보다 작은 경우, 제1 CET값에 대응하는 상부 영역은 관심 영역에서 배제되고(S460), 제2 CET값과 임계치(TH)가 비교된다(S450). 제2 CET값가 임계치(TH)보다 큰 경우(S460), 제2 CET값에 대응하는 하부 영역에 대응하는 영상이 관심 영역으로서 검출된다(S470).
이후, 관심 영역으로 검출된 하부 영역에서만 스캐닝하는 과정과 같은 영상 분석과정이 수행된다.
이와 같이, 본 발명에서는, 소스 영상의 전체 영역에서 영상 처리 과정이 수행되는 기존과는 달리 소스 영상의 일부 영역에서만 장애물 인식을 위한 영상 처리 과정이 수행된다. 따라서 프로세서가 부담하는 연산 처리량이 감소되고, 영상 처리과정에서 필요한 메모리의 용량이 감소될 수 있다.
이상, 실시예와 첨부된 도면을 참조하여 본 발명에 대하여 구체적으로 설명하였으나, 이는 예시에 불과한 것으로서, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 있어 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변형 및 변경이 가능함은 물론이다. 따라서, 본 발명의 권리범위는 전술한 실시예 및 첨부된 도면에 의해 한정되지 아니하고, 이하의 특허청구범위의 기재에 의하여 정하여져야 할 것이다.
Claims (18)
- 소스 영상의 관심 영역 내에서 객체를 인식하는 객체 인식 시스템에 있어서,
상기 소스 영상을 입력받아서, 상기 객체를 에지 라인으로 나타내는 에지 영상으로 변환하는 영상 변환부; 및
상기 에지 영상을 복수의 영역으로 분할하고, 각 영역에 포함된 에지 라인의 에지 성분 값의 총합과 기 설정된 임계치를 영역별로 비교하고, 상기 복수의 영역 중 상기 에지 성분 값의 총합이 상기 임계치보다 큰 영역을 상기 관심 영역으로서 검출하는 관심 영역 검출부;
를 포함하는 객체 인식 시스템.
- 제1항에 있어서, 상기 관심 영역 검출부는,
상기 에지 영상의 전체 영역을 가로 방향으로 n(여기서, n은 2 이상의 자연수) 등분하여, 상기 복수의 영역으로 분할하는 것을 특징으로 하는 객체 인식 시스템.
- 제2항에 있어서, 상기 관심 영역 검출부는,
상기 n은 6 이하인 것을 특징으로 하는 객체 인식 시스템.
- 차량에 구비되고, 상기 차량의 주행중 전방 영역과 후방 영역을 촬영한 소스 영상을 생성하는 영상 촬영부;
상기 소스 영상을 입력받아서, 상기 소스 영상에 포함된 객체를 에지 라인으로 나타내는 에지 영상을 생성하는 에지 영상 생성부;
상기 에지 영상을 복수의 영역으로 분할하고, 각 영역별로 에지 라인을 구성하는 에지 성분 값들의 총합을 각 영역별로 계산하여, 상기 에지 성분 값들의 총합과 기설정된 임계치를 비교하고, 각 영역별로 비교한 결과치에 근거하여 상기 복수의 영역에서 관심 영역을 검출하는 관심 영역 검출부; 및
상기 검출된 관심 영역을 일정한 크기의 블록 단위로 스캔하여 상기 검출된 관심 영역 내에서 장애물의 존재 여부를 분석하는 영상 분석부
를 포함하는 차량용 장애물 인식 시스템.
- 제4항에 있어서, 상기 관심 영역 검출부는,
상기 에지 영상을 가로 방향으로 분할하여 상기 복수의 영역으로 구획하는 영역 분할부;
상기 각 영역에 포함된 에지 라인의 에지 성분 값들의 총합을 계산하고, 계산된 에지 성분 값들의 총합을 영역별로 수집하는 에지값 수집부; 및
상기 기설정된 임계치를 입력받아서, 각 영역별로 상기 에지 라인의 에지 성분 값의 총합과 상기 기 설정된 임계치를 비교하고, 상기 복수의 영역 중 상기 에지 성분 값의 총합이 상기 임계치보다 큰 영역을 상기 관심 영역으로서 검출하는 비교부;
를 포함하는 차량용 장애물 인식 시스템.
- 제5항에 있어서, 상기 영역 분할부는,
상기 에지 영상의 전체 크기가 i(여기서, i은 가로 방향의 픽셀 수) * j(여기서, j은 세로 방향의 픽셀 수)인 경우,
상기 복수의 영역 각각의 크기는,
i * (j/n)(여기서, n은 2 이상이고, 6 이하인 자연수)인 것을 특징으로 하는 특징으로 하는 차량용 장애물 인식 시스템.
- 제4항에 있어서, 상기 에지 영상 생성부는,
상기 소스 영상을 상기 객체의 윤곽선으로 이루어진 중간 영상으로 변환하고, 상기 변환된 중간 영상을 그레이 계조로 이루어진 상기 에지 영상을 생성하는 것을 특징으로 하는 차량용 장애물 인식 시스템.
- 제4항에 있어서, 상기 에지 성분 값은,
상기 에지 라인을 구성하는 픽셀들 계조값인 것을 특징으로 하는 차량용 장애물 인식 시스템.
- 챠량에 구비되고, 상기 차량의 주행중 전방 영역과 후방 영역을 촬영한 소스 영상을 생성하는 영상 촬영부;
상기 소스 영상을 입력받아서, 상기 소스 영상에 포함된 객체를 에지 라인으로 나타내는 에지 영상을 생성하는 에지 영상 생성부;
상기 차량의 속도값에 따라 상기 에지 영상을 기설정된 개수의 영역들로 분할하고, 각 영역별 에지 라인을 구성하는 에지 성분 값들의 총합을 계산하여, 에지 성분 값들의 총합과 기설정된 임계치를 각 영역별로 비교하고, 각 영역별 비교 결과에 근거하여 상기 복수의 영역에서 관심 영역을 검출하는 관심 영역 검출부; 및
상기 검출된 관심 영역을 일정한 크기의 블록 단위로 스캔하여 상기 검출된 관심 영역 내에서 장애물의 존재 여부를 분석하는 영상 분석부
를 포함하는 차량용 장애물 인식 시스템.
- 제9항에 있어서, 상기 관심 영역 검출부는,
차량 시스템으로부터 상기 차량의 속도값을 입력받고, 입력받은 상기 차량의 속도값에 따라 상기 에지 영상의 전체 영역을 기설정된 개수로 분할하는 영역 분할부;
각 영역에 포함된 에지 라인의 에지 성분 값들의 총합을 계산하고, 계산된 에지 성분 값들의 총합을 상기 각 영역별로 수집하는 에지값 수집부; 및
상기 각 영역별로 상기 에지 라인의 에지 성분 값의 총합과 상기 기 설정된 임계치를 비교하고, 상기 복수의 영역 중 상기 에지 성분 값의 총합이 상기 임계치보다 큰 영역을 상기 관심 영역으로서 검출하는 비교부
를 포함하는 차량용 장애물 인식 시스템.
- 제10항에 있어서, 상기 영역 분할부는,
상기 차량 시스템으로부터 캔(CAN) 통신 방식에 따라 상기 차량의 속도값을 전송받는 것을 특징으로 하는 차량용 장애물 인식 시스템.
- 제10항에 있어서, 상기 영역 분할부는,
상기 차량의 속도값에 따라 설정된 크기로 상기 에지 영상을 가로 방향으로 n(여기서, n은 이상의 자연수)등분하는 것을 특징으로 하는 차량용 장애물 인식 시스템.
- 제10항에 있어서, 상기 영역 분할부는,
상기 에지 영상의 전체 크기가 i(여기서, i은 가로 방향의 픽셀 수) * j(여기서, j은 세로 방향의 픽셀 수)인 경우, 상기 분할된 복수의 영역 각각의 크기는,
i * (j/n)(여기서, n은 2 이상이고, 6 이하인 자연수)인 것을 특징으로 하는 특징으로 하는 차량용 장애물 인식 시스템.
- 제13항에 있어서, 상기 n은,
상기 차량의 속도가 증가할수록 증가하는 것을 특징으로 하는 차량용 장애물 인식 시스템.
- 제9항에 있어서, 상기 에지 영상 생성부, 상기 관심 영역 검출부 및 영상 분석부는 한의 칩형태로 모듈화된 것을 특징으로 하는 차량용 장애물 인식 시스템.
- 소스 영상 내에서 검출된 관심 영역을 일정한 크기의 블록 단위로 스캔하여 장애물을 인식하는 차량용 장애물 인식 방법에 있어서,
상기 소스 영상에 포함된 객체를 에지 라인으로 나타내는 에지 영상을 생성하는 단계;
상기 차량의 속도값에 따라 상기 에지 영상을 기설정된 개수의 복수의 영역들로 분할하는 단계;
분할된 각 영역들에 존재하는 에지 라인을 구성하는 에지 성분 값들의 총합을 각 영역별로 계산하여, 에지 성분 값들의 총합과 기설정된 임계치를 비교하고, 각 영역별 비교 결과에 근거하여, 상기 복수의 영역에서 관심 영역을 검출하는 단계
를 포함하는 차량용 장애물 인식 방법.
- 제16항에 있어서, 상기 에지 영상은 가로 방향으로 분할되는 것을 특징으로 하는 차량용 장애물 인식 방법.
- 제16항에 있어서, 상기 차량의 속도값이 증가할수록 상기 기설정된 개수는 증가하는 것을 특징으로 하는 차량용 장애물 인식 방법.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020100116980A KR101240469B1 (ko) | 2010-11-23 | 2010-11-23 | 객체 인식 시스템, 차량용 장애물 인식 시스템 및 차량용 장애물 인식 방법 |
US13/031,935 US8848055B2 (en) | 2010-11-23 | 2011-02-22 | Object recognition system, and obstacle recognition system and method for vehicle |
CN201110045980.3A CN102479327B (zh) | 2010-11-23 | 2011-02-25 | 目标识别***,以及用于汽车的障碍识别***和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020100116980A KR101240469B1 (ko) | 2010-11-23 | 2010-11-23 | 객체 인식 시스템, 차량용 장애물 인식 시스템 및 차량용 장애물 인식 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20120055306A true KR20120055306A (ko) | 2012-05-31 |
KR101240469B1 KR101240469B1 (ko) | 2013-03-11 |
Family
ID=46064023
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020100116980A KR101240469B1 (ko) | 2010-11-23 | 2010-11-23 | 객체 인식 시스템, 차량용 장애물 인식 시스템 및 차량용 장애물 인식 방법 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8848055B2 (ko) |
KR (1) | KR101240469B1 (ko) |
CN (1) | CN102479327B (ko) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016104831A1 (ko) * | 2014-12-24 | 2016-06-30 | 전자부품연구원 | 저사양 영상 기기에서의 실시간 영상 인식 방법 |
KR20220084780A (ko) * | 2020-12-14 | 2022-06-21 | 주식회사 유라코퍼레이션 | 후측방 접근차량 경고 시스템 및 방법 |
CN115953665A (zh) * | 2023-03-09 | 2023-04-11 | 武汉人工智能研究院 | 一种目标检测方法、装置、设备及存储介质 |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8605949B2 (en) * | 2011-11-30 | 2013-12-10 | GM Global Technology Operations LLC | Vehicle-based imaging system function diagnosis and validation |
CN103778600B (zh) * | 2012-10-25 | 2019-02-19 | 北京三星通信技术研究有限公司 | 图像处理*** |
KR20140054926A (ko) * | 2012-10-30 | 2014-05-09 | 현대모비스 주식회사 | 사이드 영상 제공 장치 및 이를 포함하는 차량 |
US9076034B2 (en) * | 2012-12-07 | 2015-07-07 | Analog Devices, Inc. | Object localization using vertical symmetry |
US9129161B2 (en) * | 2013-05-31 | 2015-09-08 | Toyota Jidosha Kabushiki Kaisha | Computationally efficient scene classification |
WO2016076449A1 (en) * | 2014-11-11 | 2016-05-19 | Movon Corporation | Method and system for detecting an approaching obstacle based on image recognition |
US9818197B2 (en) | 2015-05-29 | 2017-11-14 | Datalogic Ip Tech S.R.L. | System and method for reading machine readable codes in transportation and logistic applications |
KR101778558B1 (ko) * | 2015-08-28 | 2017-09-26 | 현대자동차주식회사 | 물체 인식 장치, 그를 가지는 차량 및 그 제어 방법 |
CN109493292B (zh) * | 2018-10-29 | 2021-12-17 | 平高集团有限公司 | 基于电力设备红外测温图像的增强处理方法和装置 |
JP7078587B2 (ja) * | 2019-09-30 | 2022-05-31 | 本田技研工業株式会社 | 走行支援システム、走行支援方法およびプログラム |
KR20210072504A (ko) | 2019-12-09 | 2021-06-17 | 삼성전자주식회사 | 뉴럴 네트워크 시스템 및 이의 동작 방법 |
US11891067B2 (en) * | 2019-12-11 | 2024-02-06 | Electronics And Telecommunications Research Institute | Vehicle control apparatus and operating method thereof |
CN111361557B (zh) * | 2020-02-13 | 2022-12-16 | 江苏大学 | 一种重型卡车转弯时对于碰撞事故发生的预警方法 |
US20220057225A1 (en) * | 2020-08-18 | 2022-02-24 | International Business Machines Corporation | Landmark determination |
US11981326B2 (en) * | 2021-03-24 | 2024-05-14 | Ford Global Technologies, Llc | Object identification with thermal imaging |
CN113313013B (zh) * | 2021-05-26 | 2023-04-07 | 国网电力科学研究院武汉南瑞有限责任公司 | 一种基于红外图像处理技术的变压器套管目标检测方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6130706A (en) * | 1998-03-25 | 2000-10-10 | Lucent Technologies Inc. | Process for determining vehicle dynamics |
US6834232B1 (en) * | 2003-07-30 | 2004-12-21 | Ford Global Technologies, Llc | Dual disimilar sensing object detection and targeting system |
US7444004B2 (en) * | 2004-03-29 | 2008-10-28 | Fujifilm Corporation | Image recognition system, image recognition method, and machine readable medium storing thereon an image recognition program |
JP3898709B2 (ja) * | 2004-05-19 | 2007-03-28 | 本田技研工業株式会社 | 車両用走行区分線認識装置 |
JP4720383B2 (ja) * | 2005-09-01 | 2011-07-13 | トヨタ自動車株式会社 | 車両制御装置 |
WO2007124502A2 (en) * | 2006-04-21 | 2007-11-01 | Sarnoff Corporation | Apparatus and method for object detection and tracking and roadway awareness using stereo cameras |
JP4886597B2 (ja) * | 2007-05-25 | 2012-02-29 | アイシン・エィ・ダブリュ株式会社 | レーン判定装置及びレーン判定方法、並びにそれを用いたナビゲーション装置 |
CN101470806B (zh) * | 2007-12-27 | 2012-06-27 | 东软集团股份有限公司 | 车灯检测方法和装置、感兴趣区域分割方法和装置 |
JP5041170B2 (ja) | 2008-09-12 | 2012-10-03 | トヨタ自動車株式会社 | 画像処理装置 |
JP4655242B2 (ja) | 2008-09-30 | 2011-03-23 | マツダ株式会社 | 車両用画像処理装置 |
KR101520069B1 (ko) * | 2008-12-26 | 2015-05-21 | 삼성전자 주식회사 | 관심 영역 기반 영상 처리 장치 및 방법 |
CA2712576C (en) * | 2009-08-11 | 2012-04-10 | Certusview Technologies, Llc | Systems and methods for complex event processing of vehicle-related information |
-
2010
- 2010-11-23 KR KR1020100116980A patent/KR101240469B1/ko active IP Right Grant
-
2011
- 2011-02-22 US US13/031,935 patent/US8848055B2/en active Active
- 2011-02-25 CN CN201110045980.3A patent/CN102479327B/zh active Active
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016104831A1 (ko) * | 2014-12-24 | 2016-06-30 | 전자부품연구원 | 저사양 영상 기기에서의 실시간 영상 인식 방법 |
KR20160078561A (ko) * | 2014-12-24 | 2016-07-05 | 전자부품연구원 | 저사양 영상 기기에서의 실시간 영상 인식 방법 |
KR20220084780A (ko) * | 2020-12-14 | 2022-06-21 | 주식회사 유라코퍼레이션 | 후측방 접근차량 경고 시스템 및 방법 |
KR20220167257A (ko) * | 2020-12-14 | 2022-12-20 | 주식회사 유라코퍼레이션 | 후측방 접근차량 경고 시스템 및 방법 |
CN115953665A (zh) * | 2023-03-09 | 2023-04-11 | 武汉人工智能研究院 | 一种目标检测方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
KR101240469B1 (ko) | 2013-03-11 |
US20120127309A1 (en) | 2012-05-24 |
CN102479327A (zh) | 2012-05-30 |
US8848055B2 (en) | 2014-09-30 |
CN102479327B (zh) | 2017-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101240469B1 (ko) | 객체 인식 시스템, 차량용 장애물 인식 시스템 및 차량용 장애물 인식 방법 | |
US20200167554A1 (en) | Gesture Recognition Method, Apparatus, And Device | |
US9652851B2 (en) | Side window detection in near-infrared images utilizing machine learning | |
KR102399017B1 (ko) | 이미지 생성 방법 및 장치 | |
US10506174B2 (en) | Information processing apparatus and method for identifying objects and instructing a capturing apparatus, and storage medium for performing the processes | |
WO2020220663A1 (zh) | 目标检测方法及装置、设备及存储介质 | |
KR101348680B1 (ko) | 영상추적기를 위한 표적포착방법 및 이를 이용한 표적포착장치 | |
JP2012038318A (ja) | ターゲット検出方法及び装置 | |
Brahme et al. | An implementation of moving object detection, tracking and counting objects for traffic surveillance system | |
Peng et al. | Markov random field based binarization for hand-held devices captured document images | |
Wang et al. | Object counting in video surveillance using multi-scale density map regression | |
JP2016143335A (ja) | グループ対応付け装置、グループ対応付け方法及びグループ対応付け用コンピュータプログラム | |
KR101333459B1 (ko) | 차선 인식 방법 및 장치 | |
CN109643437B (zh) | 图像处理装置、立体照相机装置以及图像处理方法 | |
KR102150661B1 (ko) | 객체를 검출하기 위한 전처리 장치 및 방법 | |
Mustafah et al. | Skin region detector for real time face detection system | |
Low et al. | Superevents: Towards native semantic segmentation for event-based cameras | |
CN113160027A (zh) | 一种图像处理模型训练方法及装置 | |
Chaiyawatana et al. | Robust object detection on video surveillance | |
US20180268228A1 (en) | Obstacle detection device | |
SanMiguel et al. | Use of feedback strategies in the detection of events for video surveillance | |
Wu et al. | Gradient map based Lane detection using CNN and RNN | |
Prabavathy et al. | Gradual transition detection in shot boundary using gradual curve point. | |
Sharma et al. | Efficient object detection with its enhancement | |
Al-Berr et al. | Wavelet-enhanced detection of small/slow object movement in complex scenes |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20170124 Year of fee payment: 5 |
|
FPAY | Annual fee payment |
Payment date: 20180129 Year of fee payment: 6 |
|
FPAY | Annual fee payment |
Payment date: 20190129 Year of fee payment: 7 |
|
FPAY | Annual fee payment |
Payment date: 20200128 Year of fee payment: 8 |