KR102015959B1 - 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법 - Google Patents

사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법 Download PDF

Info

Publication number
KR102015959B1
KR102015959B1 KR1020180095722A KR20180095722A KR102015959B1 KR 102015959 B1 KR102015959 B1 KR 102015959B1 KR 1020180095722 A KR1020180095722 A KR 1020180095722A KR 20180095722 A KR20180095722 A KR 20180095722A KR 102015959 B1 KR102015959 B1 KR 102015959B1
Authority
KR
South Korea
Prior art keywords
risk
beacon
movement
average value
value
Prior art date
Application number
KR1020180095722A
Other languages
English (en)
Inventor
김진성
Original Assignee
주식회사 플랜비
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 플랜비 filed Critical 주식회사 플랜비
Priority to KR1020180095722A priority Critical patent/KR102015959B1/ko
Application granted granted Critical
Publication of KR102015959B1 publication Critical patent/KR102015959B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19606Discriminating between target movement or movement in an area of interest and other non-signicative movements, e.g. target movements induced by camera shake or movements of pets, falling leaves, rotating fan
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/10Alarms for ensuring the safety of persons responsive to calamitous events, e.g. tornados or earthquakes

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Geology (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Alarm Systems (AREA)

Abstract

본 발명은 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법에 관한 것이다. 본 발명의 지능형 방범 시스템은 관찰 대상의 비콘 단말기를 감지하는 비콘 센서가 구비된 복수 개의 사물 인터넷 카메라와, 사물 인터넷 카메라로부터 획득된 영상을 전송받아서 관찰 대상에 대한 객체를 검지 및 분류하고, 비콘 센서가 비콘 단말기의 이동에 따라 실시간 감지하여, 객체의 위험 상황 발생 여부를 판별하기 위한 위험도를 산출하고, 산출된 위험도를 딥러닝 기반으로 학습하여 위험도가 기준값을 초과하면, 유관 기관이나 보호자에게 알려주도록 처리하는 방범 관제 서버를 포함한다. 본 발명에 의하면, 비콘 단말기를 구비하는 관찰 대상의 이동 및 움직임을 실시간으로 모니터링이 가능하다.

Description

사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법{INTELLIGENT SECURITY SYSTEM BASED ON DEEP LEARNING USING IoT CAMERA AND METHOD FOR PROCESSING THEREOF}
본 발명은 지능형 방범 시스템에 관한 것으로, 좀 더 구체적으로 비콘 센서가 구비되는 사물 인터넷(IoT) 카메라와 딥러닝 기술을 이용하여 감시 영역에서의 객체를 추출하고, 추출된 객체의 이동 경로와 움직임을 파악하고, 이동 경로와 움직임에 따른 객체의 위험도를 산출하여 딥러닝 기반으로 학습하고, 산출된 위험도가 기설정된 기준값을 초과할 때, 위험 상황이 발생되었음을 판단하여 유관 기관 서버와 사용자 단말기로 위험 상황 발생 여부를 알려주도록 처리하는 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법에 관한 것이다.
방범 CCTV 시스템은 CCTV 카메라를 이용하여 시설 관리 및 재난 대응, 방범, 교통 관리 등의 목적으로 다양한 분야에 적용되고 있다. 특히, 최근에는 다양한 생활 공간에서 발생될 수 있는 사건, 사고의 예방 및 해결을 위해 방범형 CCTV 카메라의 설치가 증가하고 있는 실정이다.
일반적인 방범 CCTV 시스템은 여러 장소에 다수의 CCTV 카메라를 설치하고, 통합 관제 센터에서 운영자가 CCTV 카메라와 연결된 모니터 화면을 이용하여 설치 장소를 감시하게 된다. 이러한 방범 CCTV 시스템은 예를 들어, 수천 내지 수만 대의 CCTV 카메라가 설치되었다고 할 경우, 모든 영상을 동시에 모니터링하여야 하는데, 이 경우 각 CCTV 카메라별 모니터링을 위한 관리 인력 문제와 실시간으로 모든 CCTV 카메라의 영상을 모니터링하는 것이 불가능하므로 효율적인 운영이 어렵다.
이러한 문제점을 해소하기 위하여, 최근에는 영상 인식 기술을 기반으로 하는 지능형 방범 CCTV 시스템이 도입되고 있다.
지능형 방범 CCTV 시스템은 객체 검출(object detection), 추적(tracking), 상황 인식(event detection) 등의 복합적인 영상 처리 기술(video processing)이 요구된다. 객체 검출은 주로 보행자 또는 차량 검출 기법이 필요하고 상황에 따라서 화염 또는 연기 검출 기법이 요구된다. 이러한 지능형 방범 CCTV 시스템은 목표 객체 주변의 움직이는 객체에 의한 동적 배경, 시간 및 계절 그리고 일기의 변화에 따른 조명 변화에 의하여 정확하게 상황을 인식하는 것이 필요하다.
국내 등록특허공보 제10-1698500호(공고일 2017년 02월 01일) 국내 등록특허공보 제10-1857164호(공고일 2018년 05월 14일) 국내 등록특허공보 제10-1850286호(공고일 2018년 04월 19일) 국내 등록특허공보 제10-1877294호(공고일 2018년 07월 11일)
본 발명의 목적은 관찰 대상의 비콘 단말기를 감지하는 비콘 센서를 구비하는 IoT 카메라를 이용하여 실시간으로 관찰 대상의 이동 경로와 움직임을 모니터링하기 위한 사물 인터넷 카메라를 이용하는 지능형 방범 시스템 및 그의 처리 방법을 제공하는 것이다.
본 발명의 다른 목적은 딥러닝 기반으로 관찰 대상의 위험 상황 발생 여부를 판별하기 위한 사물 인터넷 카메라를 이용하는 지능형 방범 시스템 및 그의 처리 방법을 제공하는 것이다.
본 발명의 또 다른 목적은 유비쿼터스 시티(Ubiquitous City : U-City)를 구현하기 위한 사물 인터넷 카메라와 딥러닝 기술을 이용하는 지능형 방범 시스템 및 그의 처리 방법을 제공하는 것이다.
상기 목적들을 달성하기 위한, 본 발명의 지능형 방범 시스템은 비콘 센서가 구비된 사물 인터넷 카메라를 이용하여 관찰 대상의 영상을 획득하고, 관찰 대상의 비콘 단말기를 실시간으로 감지하여 관찰 대상의 이동 경로와 움직임에 따른 위험 상황 발생 여부를 판별하는데 그 한 특징이 있다. 이와 같은 본 발명의 지능형 방범 시스템은 비콘 단말기를 구비하는 관찰 대상의 이동 및 움직임을 실시간으로 모니터링이 가능하고, 위험 상황 발생 시, 유관 기관이나 보호자에게 신속히 알려줄 수 있다.
이 특징에 따른 본 발명의 지능형 방범 시스템은, 식별 가능하고, 이동 가능한 객체가 구비하거나 객체에 부착되는 비콘 단말기; 서로 일정 간격으로 이격 설치되고, 각각이 상호 중첩되는 일정 영역에 대한 영상을 획득하는 고해상도 카메라와, 상기 일정 영역 내에 위치하는 상기 비콘 단말기를 실시간으로 감지하는 비콘 센서를 구비하는 복수 개의 사물 인터넷 카메라; 및 상기 사물 인터넷 카메라로부터 영상을 받아서 객체를 검지 및 분류하고, 상기 비콘 센서로부터 감지된 상기 비콘 단말기에 대응하는 객체에 대한 이벤트가 발생되면, 상기 사물 인터넷 카메라로부터 영상을 받아서 이벤트가 발생된 객체가 포함된 고해상도 영상을 추출하여 저장하고, 인접하는 상기 비콘 센서들이 연동되어 상기 비콘 단말기에 대응하는 객체의 이동을 실시간으로 추적하여 객체의 이동 경로와 움직임에 따른 위험도를 산출하고, 산출된 위험도를 딥러닝 기반으로 학습하여 위험도가 기설정된 기준값 이상이면, 통신망을 통하여 유관 기관 서버와 기등록된 사용자 단말기 중 적어도 하나로 위험 상황이 발생되었음을 알려주는 방범 관제 서버;를 포함하되, 상기 방범 관제 서버는, 적어도 상기 비콘 센서의 감지 영역 내에서 설정된 안전 영역과 기준 이동 경로와의 벗어난 이탈 정도와, 시간 당 객체의 움직임 정도 및, 인접하는 상기 비콘 센서들과 상기 비콘 단말기 간에 전송되는 비콘 신호에 따른 중첩 횟수 정도를 이용하여 객체의 현재 위험도와 위험 상황이 발생되지 않은 특정 주기 동안의 객체의 이동 경로와 움직임에 대한 평균값을 산출하고, 산출된 위험도와 평균값을 이용하여 객체의 예측 위험도를 산출하여 산출된 예측 위험도를 딥러닝 기법으로 학습하며, 상기 예측 위험도와 상기 기준값을 비교하여 위험 상황 발생을 판별한다.
이 특징의 한 실시예에 있어서, 상기 방범 관제 서버는, 상기 사물 인터넷 카메라로부터 저해상도 영상을 전송받아서 저해상도 영상에 포함되는 객체를 검지하고, 검지된 객체를 카테고리별로 분류하여 저장하고, 상기 사물 인터넷 카메라로부터 상기 비콘 단말기의 식별 정보와 감지 신호가 전송되면, 저해상도 영상에서 이벤트가 발생된 객체를 판별하는 객체 분류기; 상기 이벤트가 발생되면, 상기 사물 인터넷 카메라로부터 이벤트가 발생되고 상기 객체 분류기에 의해 판별된 객체가 포함된 고해상도 영상을 전송받아서 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상을 추출하여 저장하는 이벤트 스토리지; 상기 객체 분류기가 상기 사물 인터넷 카메라로부터 전송된 저해상도 영상에서 객체를 분류 및 저장하도록 제어하고, 상기 객체 분류기로부터 상기 비콘 단말기의 식별 정보와 감지 신호를 전송되면, 상기 객체 분류기로 이벤트가 발생된 객체를 검지하도록 제어하고 상기 사물 인터넷 카메라로부터 전송된 고해상도 영상에서 이벤트 발생에 따른 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상을 추출하여 상기 이벤트 스토리지에 저장하도록 제어하며, 상기 비콘 단말기의 식별 정보와 감지 신호에 대응하여 객체의 이동 경로와 움직임에 따른 위험 상황을 인지하도록 상기 현재 위험도와 상기 평균값 및 상기 예측 위험도를 산출하는 제어부; 상기 제어부의 제어를 받아서, 상기 이벤트 스토리지에 저장된 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상을 모니터링하도록 표시하는 모니터링부; 및 통신망에 연결되고 상기 제어부의 제어를 받아서 위험 상황이 발생되었음을 알려주는 정보를 상기 유관 기관 서버와 상기 사용자 단말기 중 적어도 하나로 전송하는 통신부;를 포함한다.
다른 실시예에 있어서, 상기 현재 위험도는 아래의 수학식 1에 의해 산출되고,
Figure 112018081125897-pat00001
[수학식 1], (여기서, R1은 관찰 대상의 현재 위험도 값이고, A는 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도, B는 일정 시간 당 관찰 대상의 움직임 정도, 그리고 C는 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도를 나타내는 값이다); 상기 평균값은 아래의 수학식 2에 의해 산출되며,
Figure 112018081125897-pat00002
[수학식 2], (여기서, R2는 관찰 대상의 특정 주기 동안의 이동 경로와 움직임에 대한 평균값이고, Ar은 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도의 평균값, Br은 일정 시간 당 관찰 대상의 움직임 정도의 평균값, 그리고 Cr은 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도의 평균값을 나타낸다); 그리고, 상기 예측 위험도는 아래의 수학식 3에 의해 산출되는,
Figure 112018081125897-pat00003
[수학식 3], (여기서, R은 관찰 대상의 위험도 값이고, R1은 관찰 대상의 현재 위험도 값이고, R2는 관찰 대상의 평균값이며, 그리고 α는 위험 상황을 판별하기 위한 기설정된 상기 기준값을 나타낸다); 것을 특징으로 한다.
본 발명의 다른 특징에 따르면, 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템의 처리 방법이 제공된다.
이 특징에 따른 지능형 방범 시스템의 처리 방법은, 서로 일정 간격으로 이격 설치되고, 각각이 상호 중첩되는 일정 영역에 대한 영상을 획득하는 고해상도 카메라와, 상기 일정 영역 내에 위치하는 상기 비콘 단말기를 실시간으로 감지하는 비콘 센서를 구비하는 사물 인터넷 카메라가 상기 고해상도 카메라를 이용하여 설치 장소의 일정 영역에 대한 고해상도 영상을 획득하고, 고해상도 영상을 압축하여 저해상도 영상으로 변환하는 단계; 상기 사물 인터넷 카메라가 방범 관제 서버의 객체 분류기로 저해상도 영상을 전송하면 상기 객체 분류기가 저해상도 영상에서 식별 가능한 비콘 단말기를 구비하는 관찰 대상의 객체를 검지하고, 검지된 객체들을 카테고리별로 분류하여 저장하는 단계; 상기 방범 관제 서버가 상기 비콘 센서로부터 감지된 상기 비콘 단말기의 식별 정보와 감지 신호를 전송받아서 이벤트가 발생되면, 상기 객체 분류기를 통해 저해상도 영상에서 객체를 인식하고, 상기 사물 인터넷 카메라로부터 인식된 객체가 포함되는 고해상도 영상을 전송받고, 전송된 고해상도 영상으로부터 상기 객체 분류기가 인식한 객체가 포함되는 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상을 추출하여 이벤트 스토리지에 저장하는 단계; 상기 방범 관제 서버가 상기 비콘 센서로부터 감지된 객체의 상기 비콘 단말기를 실시간으로 추척하여 객체의 이동 경로 및 움직임에 대한 현재 위험도를 산출하는 단계; 상기 방범 관제 서버가 위험 상황이 발생되지 않은 특정 주기 동안의 객체의 이동 경로와 움직임에 대한 평균값을 산출하는 단계; 상기 방범 관제 서버가 산출된 상기 현재 위험도와 상기 평균값을 이용하여 예측 위험도를 산출하고 딥러닝 기반으로 학습하는 단계; 및 상기 방범 관제 서버가 산출된 상기 예측 위험도를 기설정된 기준값과 비교하여 위험도 기준을 초과하면, 객체의 이동 경로와 움직임에 대한 위험 상황이 발생되었다고 판단하여 통신망을 통하여 유관 기관 서버와 기등록된 사용자 단말기 중 적어도 하나로 객체에 위험 상황이 발생되었음을 알려주는 단계;를 포함한다.
이 특징의 한 실시예에 있어서, 상기 현재 위험도를 산출하는 단계는, 객체의 이동 경로와 움직임을 기설정된 안전 영역 및 기준 이동 경로로부터의 벗어나는 이탈 정도와, 일정 시간 당 객체의 움직임 정도 및, 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도를 이용하여 아래의 수학식 1에 의해 산출되고,
Figure 112018081125897-pat00004
[수학식 1], (여기서, R1은 관찰 대상의 현재 위험도 값이고, A는 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도, B는 일정 시간 당 관찰 대상의 움직임 정도, 그리고 C는 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도를 나타내는 값이다); 상기 평균값을 산출하는 단계는, 상기 이탈 정도와, 상기 움직임 정도 및 상기 중첩 횟수 정도를 이용하여 아래의 수학식 2에 의해 산출되며,
Figure 112018081125897-pat00005
[수학식 2], (여기서, R2는 관찰 대상의 특정 주기 동안의 이동 경로와 움직임에 대한 평균값이고, Ar은 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도의 평균값, Br은 일정 시간 당 관찰 대상의 움직임 정도의 평균값, 그리고 Cr은 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도의 평균값을 나타낸다); 상기 예측 위험도를 산출하고 딥러닝 기반으로 학습하는 단계는, 상기 현재 위험도와 상기 평균값을 이용하여 아래의 수학식 3에 의해 산출되는,
Figure 112018081125897-pat00006
[수학식 3], (여기서, R은 관찰 대상의 위험도 값이고, R1은 관찰 대상의 현재 위험도 값이고, R2는 관찰 대상의 평균값이며, 그리고 α는 위험 상황을 판별하기 위한 기설정된 상기 기준값을 나타낸다); 것을 특징으로 한다.
상술한 바와 같이, 본 발명의 지능형 방범 시스템은 비콘 센서가 구비된 사물 인터넷 카메라를 이용하여 지능형 방범 시스템을 구축함으로써, 비콘 단말기를 구비하는 관찰 대상의 이동 및 움직임을 실시간으로 모니터링이 가능하다.
본 발명의 지능형 방범 시스템은 사물 인터넷 카메라의 비콘 센서를 이용하여 관찰 대상의 비콘 단말기를 실시간으로 인식함으로써, 치매 노인, 아동 등의 실종을 방지할 수 있으며, 여성 안심 귀가 등 사회적 약자를 위한 안심 서비스를 제공할 수 있다.
또 본 발명의 지능형 방범 시스템은 사물 인터넷 카메라를 이용하여 관찰 대상이 포함된 고해상도 영상을 유관 기관 등에 제공하여 골든 타임을 확보할 수 있다.
또한 본 발명의 지능형 방범 시스템은 관찰 대상의 이동과 움직임에 대한 빅데이터를 이용하여 위험 발생 상황을 예측하고, 예측된 위험 발생 상황에 대한 정보를 딥러닝 기반으로 반복 학습하여, 보다 정확한 예측이 가능하게 한다.
도 1은 본 발명에 따른 사물 인터넷(IoT) 카메라를 이용하는 지능형 방범 시스템의 네트워크 구성을 도시한 블럭도,
도 2는 도 1에 도시된 IoT 카메라의 구성을 나타내는 블럭도,
도 3은 도 1에 도시된 객체 인식부의 구성을 나타내는 블럭도,
도 4는 본 발명에 따른 IoT 카메라를 이용하는 지능형 방범 시스템의 처리 수순을 도시한 흐름도, 그리고
도 5는 본 발명의 실시예에 따른 IoT 카메라를 이용하여 비콘 단말기가 구비된 객체의 이동 경로와 움직임을 인식하는 과정을 설명하기 위한 도면이다.
본 발명의 실시예는 여러 가지 형태로 변형될 수 있으며, 본 발명의 범위가 아래에서 서술하는 실시예로 인해 한정되어지는 것으로 해석되어서는 안된다. 본 실시예는 당업계에서 평균적인 지식을 가진 자에게 본 발명을 보다 완전하게 설명하기 위해서 제공되는 것이다. 따라서 도면에서의 구성 요소의 형상 등은 보다 명확한 설명을 강조하기 위해서 과장되어진 것이다.
이하 첨부된 도 1 내지 도 5를 참조하여 본 발명의 실시예를 상세히 설명한다.
도 1은 본 발명에 따른 사물 인터넷(IoT) 카메라를 이용하는 지능형 방범 시스템의 네트워크 구성을 도시한 블럭도이고, 도 2는 도 1에 도시된 IoT 카메라의 구성을 나타내는 블럭도이며, 그리고 도 3은 도 1에 도시된 객체 인식부의 구성을 나타내는 블럭도이다.
도 1 내지 도 3을 참조하면, 본 발명에 따른 지능형 방범 시스템(2)은 비콘 센서(220)가 구비된 사물 인터넷(Internet of Thing : IoT) 카메라(200)를 이용하여 관찰 대상 즉, 객체에 구비되거나 부착된 비콘 단말기(300)를 실시간으로 인식하고, IoT 카메라(200)로부터 획득된 영상에서 객체를 분류하여 객체가 인식되면, 비콘 센서(220)를 통해 비콘 단말기(300)를 실시간 인식 및 추적하고 이를 통해 객체의 이동 경로와 움직임을 모니터링하도록 제공하고, 딥러닝 기반으로 객체의 이동 경로와 움직임에 따른 위험도를 학습 및 예측하여, 위험 상황이 발생되었음이 판단되면, 유관 기관 서버(400)와 사용자 단말기(500)로 해당 객체에 위험 상황이 발생되었음을 알려준다.
본 발명에서 관찰 대상은 예를 들어, 노인, 아동, 위치 추적 장치를 구비한 관리 대상자, 전자 팔찌를 착용한 범죄자 등이 포함될 수 있으며, 노인이나 아동의 이동 경로를 모니터링하여 실종이나 미아 발생을 방지하거나, 관찰 대상자의 이동 경로를 파악하거나 또는 범죄자의 범죄 발생을 예방하기 위하여, 비콘 단말기(300)를 구비하거나, 부착하고 이를 통해 실시간으로 이동 경로와 움직임을 인식할 수 있다. 또 관찰 대상은 예를 들어, 자동차, 자전거, 이륜차 등이 포함될 수 있다. 이러한 관찰 대상은 사전에 자신의 이동 경로와 움직임을 모니터링할 수 있도록 동의를 한 사용자에 한해서 비콘 단말기(300)를 인식하도록 구비된다.
이를 위해 본 발명의 지능형 방범 시스템(2)은 비콘 단말기(300)의 식별 정보를 사전에 등록 관리한다. 예를 들어, 전자 팔찌를 착용한 범죄자의 경우, 현재에는 개인 정보 보호의 사유로 관제 센터에서 제공받을 수 없으나, 법률 및 조례의 개정을 통해 해당 기관이나 정부 부처(예를 들어, 법무부 등)로부터 합법적인 절차를 통해 전자 팔찌의 특정 고유값을 제공받아서 등록, 관리하고, 비콘 센서(220)가 전자 팔찌의 고유값을 식별할 수 있도록 구비한다. 또 노인이나 아동의 경우, 비콘 단말기(300)의 고유 코드(ID) 값을 보호자나 보호 기관으로부터 사전에 제공받아서 등록, 관리한다.
구체적으로, 본 발명의 지능형 방범 시스템(2)은 복수 개의 IoT 카메라(200)와, 복수 개의 비콘 단말기(300) 및 방범 관제 서버(100)를 포함한다. 또 본 발명의 지능형 방범 시스템(2)은 적어도 하나의 유관 기관 서버(400)와, 적어도 하나의 사용자 단말기(500)를 포함할 수 있다.
비콘 단말기(300)는 예를 들어, 저전력 블루투스(Bluetooth Low Energy : BLE), 지그비(zigbee), RFID(Radio Frequency IDentification) 등의 근거리 무선 통신 가능한 스마트 폰, 전용 단말기, 부착 태그, 웨어러블 디바이스, 전자 팔찌 등으로 구비되어 관찰 대상 즉, 객체가 휴대하거나, 객체에 부착 또는 착용되는 모바일 전자 장치로, IoT 카메라(200)의 비콘 센서(220)가 식별 가능한 고유의 식별 정보를 구비한다. 비콘 단말기(300)는 비콘 센서(220)에 의해 인식 가능한 일정 영역 내에서 객체의 이동과 움직임에 따라 실시간으로 인식된다. 비콘 단말기(300)의 관찰 대상은 비콘 센서(220)에 의해 설정되는 안전 영역에 대한 정보를 제공받고, 이를 통해 비콘 단말기(300)가 안전 영역을 벗어나는 정도에 따라 위험 상황 발생 여부를 인식하도록 제공된다. 여기서 안전 영역은 비콘 센서(220)의 감지 영역 내의 일부 영역으로 설정되어, IoT 카메라(200)의 제어부(230)에 의해 설정, 관리된다.
IoT 카메라(200)는 복수 개가 서로 일정 간격 이격 설치되고, 각각이 설치 장소에서 상호 중첩되는 일정 영역에 대한 영상을 실시간으로 획득한다. IoT 카메라(200)는 일정 영역 내에 위치하는 비콘 단말기(300)를 실시간으로 인식하는 비콘 센서(220)와, 일정 영역에 대한 영상을 획득하는 고해상도 카메라(도 2의 210)를 포함한다. IoT 카메라(200)는 네트워크(예를 들어, LoRa IoT 망 등)를 통해 실시간으로 획득된 영상을 방범 관제 서버(100)로 전송한다. IoT 카메라(200)는 비콘 센서(220)에 의해 감지된 비콘 단말기(300)의 식별 정보를 네트워크를 통해 실시간 또는 주기적으로 방범 관제 서버(100)로 전송한다. 이러한 IoT 카메라(200)는 네트워크를 통해 방범 관제 서버(100)가 고해상도 카메라(210)의 PTZ(Pan-Tilt-Zoom)을 원격 제어할 수도 있다.
이 실시예의 IoT 카메라(200)는 도 2에 도시된 바와 같이, 고해상도 카메라(210), 비콘 센서(220), 제어부(230), 저장부(240) 및 전원부(250)를 포함한다.
고해상도 카메라(210)는 예컨대, 4 K 해상도의 CCTV 카메라, IP 카메라 등으로 구비되어, 제어부(230)의 제어를 받아서 설치 장소의 일정 영역에 대한 고해상도 영상을 획득한다. 여기서 고해상도 카메라(210)는 기존의 방범 및 감시 시스템에 적용되는 저해상도의 CCTV 카메라로부터 획득되는 영상(예를 들어, 약 1M 내지 3M 픽셀의 영상) 보다 높은 해상도의 영상(예를 들어, 12 M 픽셀의 영상)를 획득한다. 고해상도 카메라(210)는 제어부(230)의 내부에 구비되는 엔코더, 압축 코덱 등을 이용하여 획득된 고해상도 영상을 서로 다른 압축률로 압축시켜서 서로 다른 해상도를 갖는 저해상도 영상을 생성할 수 있다. 이러한 IoT 카메라(210)는 용도에 따라 영상의 해상도를 달리하여 방범 관제 서버(100)로 고해상도 영상을 제공하거나, 저해상도 영상을 제공할 수 있다.
비콘 센서(220)는 제어부(230)의 제어를 받아서 감지 영역 내에 위치하는 적어도 하나의 비콘 단말기(300)로부터 비콘 신호를 수신하여 적어도 하나의 비콘 단말기(300)를 감지한다. 비콘 센서(220)는 감지된 비콘 단말기(300)로부터 전송되는 비콘 신호를 제어부(230)로 제공하여 비콘 단말기(300)가 기등록된 관찰 대상의 것인지를 판별하도록 한다. 이러한 비콘 센서(220)들 각각은 인접하는 비콘 센서(220)들과 상호 일부 영역이 중첩되게 감지 영역을 구비하여, 인접하는 비콘 센서(220)들과 상호 연동해서 이동 중인 객체의 비콘 단말기(300)를 실시간으로 감지할 수 있다. 비콘 센서(220)는 감지 영역 내의 일정 영역을 안전 영역으로 설정하여 비콘 단말기(300)가 안전 영역에서 이탈되는지를 감지한다. 비콘 센서(220)는 비콘 단말기(300)가 안전 영역으로부터 벗어나는 이탈 정도를 복수의 단계로 감지하여 감지 신호를 제어부(230)으로 제공한다.
제어부(230)는 IoT 카메라(200)의 제반 동작을 처리하도록 제어한다. 제어부(230)는 고해상도 카메라(210)로부터 획득된 고해상도 영상을 저해상도 영상으로 변환하고, 용도에 따라 고해상도 영상 또는 저해상도 영상을 방범 관제 서버(100)로 전송하도록 제어한다. 제어부(230)는 비콘 센서(220)로부터 제공되는 비콘 신호를 통해 저장부(240)에 기등록된 식별 정보와 비교하여 비콘 단말기(300)의 식별 정보가 관찰 대상의 것인지를 판별하고, 판별된 비콘 단말기(300)가 관찰 대상의 것이면, 비콘 단말기(300)의 식별 정보와, 비콘 센서(220)에 의해 비콘 단말기(300)를 감지한 감지 신호를 방범 관제 서버(100)로 제공한다. 제어부(230)는 고해상도 카메라(210)로부터 획득된 고해상도 영상과 변환된 저해상도 영상을 저장부(240)에 임시로 저장시키고, 저장부(240)에 비콘 단말기(300)의 식별 정보를 사전에 등록, 저장하도록 제어한다. 제어부(230)는 IoT 카메라(200)의 전원을 공급하도록 전원부(250)를 제어한다.
저장부(240)는 제어부(230)의 제어를 받아서 고해상도 카메라(210)로부터 획득된 고해상도 영상과 변환된 저해상도 영상을 임시로 저장하고, 사전에 등록된 비콘 단말기(300)의 식별 정보를 저장한다.
그리고 전원부(240)는 예컨대, 전원 공급 장치로 구비되어, 제어부(230)의 제어를 받아서 IoT 카메라(200)의 구동 전원을 공급한다. 전원부(250)는 제어부(230)의 제어를 받아서 전원 공급 장치로부터 전원을 공급받아서 재충전되는 배터리를 더 포함할 수 있다.
다시 도 1을 참조하면, 방범 관제 서버(100)는 복수 개의 IoT 카메라(200)들로부터 영상(예를 들어, 저해상도 영상)을 받아서 각각의 영상에 포함되는 객체를 검지하고, 검지된 객체가 사람, 차량 및 이륜차 등인지를 분류하여 저장한다. 방범 관제 서버(100)는 IoT 카메라(200)로부터 관찰 대상이 구비하는 비콘 단말기(300)의 식별 정보와 감지 신호가 전송되면, 즉, 이벤트가 발생되면, 저해상도 영상에서 객체를 판별하여 이에 대응하는 고해상도 영상을 IoT 카메라(200)로부터 전송받는다. 방범 관제 서버(100)는 IoT 카메라(200)로부터 전송된 고해상도 영상에서 해당 객체가 포함된 영상을 추출하여 저장한다. 이 때, 추출된 영상은 복수 개의 고해상도 정지 영상, 일부 구간의 고해상도 동영상 등으로 저장된다.
이러한 본 발명의 지능형 방범 시스템(2)은 평소에는 저해상도 영상을 이용하여 설치 장소에 대한 영상을 모니터링하도록 하고, 저해상도 영상에서 이벤트 즉, 관찰 대상의 객체가 검지되면, 고해상도 영상을 이용하여 객체 인식 및 모니터링 하도록 하여, 이벤트 발생 시에만 고해상도 영상을 저장하게 함으로써, 영상 저장 공간의 용량 절감, 네트워크 부하 절감 효과를 제공할 수 있으며, 이벤트 발생에 따른 객체 식별의 정확성 향상과, 객체의 상태, 이동 경로 등을 파악하거나 모니터링하는데 용이하다.
또 방범 관제 서버(100)는 IoT 카메라(200)로부터 획득된 영상과, 관찰 대상의 비콘 단말기(300)의 식별 정보와 감지 신호를 실시간으로 전송받아서 관찰 대상의 이동 경로와 움직임을 모니터링하도록 출력한다. 방범 관제 서버(100)는 감지 신호를 통해 관찰 대상의 이동 경로와 움직임을 안전 영역 및 기준 이동 경로로부터의 이탈 정도와, 일정 시간 당 관찰 대상의 움직임 정도 및, 인접하는 비콘 센서(220)들과의 중첩 횟수 정도 등에 따라 관찰 대상에 대한 위험 상황을 인지하기 위한 위험도를 산출, 예측하여 위험 상황 발생 여부를 판별한다. 이를 위해 방범 관제 서버(100)는 기등록된 관찰 대상의 이동 경로와 움직임에 대한 빅데이터(big data)를 구축하여 관찰 대상의 현재 위험도와, 위험 상황이 발생되지 않은 특정 주기 동안의 관찰 대상의 이동 경로와 움직임에 대한 평균값을 산출하여 딥러닝(Deep-learning) 기반으로 학습하고, 이를 통해 위험도를 예측한다.
또 방범 관제 서버(100)는 관찰 대상에 위험 상황이 발생되었다고 판단되면, 통신망을 통하여 적어도 하나의 유관 기관 서버(400)와 기등록된 적어도 하나의 사용자 단말기(500)로 관찰 대상에 위험 상황이 발생되었음을 알려준다.
구체적으로, 이 실시예의 방범 관제 서버(100)는 객체 분류기(110), 이벤트 스토리지(120), 제어부(130), 모니터링부(140) 및 통신부(150)를 포함한다.
객체 분류기(110)는 IoT 카메라(200)로부터 저해상도 영상을 전송받아서 저해상도 영상에 포함되는 객체를 검지하고, 검지된 객체가 사람, 차량 및 이륜차 등인지를 분류하여 저장한다. 객체 분류기(110)는 IoT 카메라(200)로부터 관찰 대상의 비콘 단말기(300)의 식별 정보와 감지 신호가 전송되면, 제어부(130)로 이벤트가 발생되었음을 알려주고, 저해상도 영상에서 이벤트가 발생된 객체를 판별한다.
이벤트 스토리지(120)는 객체 분류기(110)로부터 이벤트가 발생되었음이 알려지면, 제어부(130)의 제어를 받아서 IoT 카메라(200)로부터 이벤트가 발생된 객체가 포함된 고해상도 영상을 전송받아서 해당 객체가 포함된 영상을 추출하여 저장한다.
모니터링부(140)는 예를 들어, 대형 디스플레이 장치, 멀티 스크린 장치 등으로 구비되고, 제어부(130)의 제어를 받아서, 이벤트 스토리지(120)에 저장된 고해상도 영상을 관제 센터의 담당자가 모니터링하도록 표시한다. 모니터링부(140)는 예를 들어, 고해상도 영상이 출력된 화면에 비콘 단말기(300)의 이동 경로를 표시한다.
통신부(150)는 예를 들어, 유무선 통신 모듈 등으로 구비되고, 통신망에 연결된다. 통신부(150)는 제어부(130)의 제어를 받아서 위험 상황이 발생되었음을 알려주는 정보를 유관 기관 서버(400)와 사용자 단말기(500) 중 적어도 하나로 전송한다.
그리고 제어부(130)는 방범 관제 서버(100)의 제반 동작을 처리하도록 제어한다. 즉, 제어부(130)는 객체 분류기(110), 이벤트 스토리지(120), 모니터링부(140) 및 통신부(150)를 제어한다.
제어부(130)는 객체 분류기(110)가 IoT 카메라(200)로부터 전송된 영상에서 객체를 분류하도록 제어한다. 제어부(130)는 IoT 카메라(200)로부터 객체 분류기(110)를 통해 비콘 단말기(300)의 식별 정보가 전송되면, 객체 분류기(110)에 이벤트가 발생된 객체를 검지하도록 제어하여 IoT 카메라(200)로부터 전송된 영상에서 이벤트 발생에 따른 고해상도 영상을 추출하여 이벤트 스토리지(120)에 저장하도록 제어한다.
제어부(130)는 이벤트 스토리지(120)로부터 고해상도 영상과, 객체 분류기(110)로부터 관찰 대상의 비콘 단말기(300)의 식별 정보와 감지 신호를 실시간으로 전송받아서 모니터링부(140)에 출력시켜서 관찰 대상의 이동 경로와 움직임을 모니터링할 수 있도록 제어한다.
제어부(130)는 비콘 센서(220)에 의해 비콘 단말기(300)를 실시간 감지하여, 관찰 대상의 현재 이동 경로와 움직임에 따른 위험 상황을 인지하기 위한 현재 위험도를 산출한다. 이 실시예에서 제어부(130)는 관찰 대상이 안전 영역 및 기준 이동 경로로부터의 이탈 정도와, 일정 시간 당 관찰 대상의 움직임 정도 및 인접하는 비콘 센서(220)들과의 중첩 횟수 정도 등의 위험도 예측 항목에 따라 현재 위험도를 산출한다. 위험도 예측 항목들 각각은 복수 개의 단계로 그 값을 산출한다.
제어부(130)는 기등록된 관찰 대상에 대한 빅데이터(big data)를 이용하여 위험 상황이 발생되지 않은 특정 주기 동안의 관찰 대상의 이동 경로와 움직임에 대한 평균값을 산출한다. 이러한 평균값은 위험도 예측 항목들 각각에 대해 관찰 대상의 주기별(시간대별) 이동 경로와 움직임을 파악하고, 이동 경로나 안전 영역을 벗어나면, 실시간 위치를 추적하여 데이터를 저장하고, 이를 통해 빅데이터를 구축한다.
제어부(130)는 관찰 대상의 현재 위험도와 평균값을 이용하여 관찰 대상의 위험도를 산출한다. 제어부(130)는 산출된 위험도를 딥러닝 기반으로 학습하여 정확한 위험 상황 발생 여부를 판별할 수 있다. 제어부(130)는 산출된 위험도를 기설정된 값과 비교하여 일정 값을 초과하면, 위험 상황이라 판단한다. 제어부(130)는 위험 상황이 발생되었다고 판단되면, 통신부(150)를 제어하여 유관 기관 서버(400)와 사용자 단말기(500) 중 적어도 하나에 관찰 대상의 위험 상황 발생에 따른 정보를 전송하여 알려준다.
이 실시예의 제어부(130)는 도 3에 도시된 바와 같이, 위험도 산출부(132), 평균값 산출부(134), 위험도 판단부(136) 및 알림 처리부(138)를 포함한다.
위험도 산출부(132)는 IoT 카메라(200)로부터 전송된 비콘 단말기(300)의 감지 신호를 통해 관찰 대상의 현재 위험도를 산출한다. 위험도 산출부(132)는 아래의 수학식 1에 의해 현재 위험도를 산출한다.
Figure 112018081125897-pat00007
여기서, R1은 관찰 대상의 현재 위험도 값이고, A는 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도, B는 일정 시간 당 관찰 대상의 움직임 정도, 그리고 C는 인접하는 비콘 센서(220)들과의 중첩 횟수 정도를 나타낸다.
이 실시예에서 이탈 정도(A)는 5 단계로 구분되며, 이탈 정도가 가장 작을 경우의 값을 1로, 이탈 정도가 가장 클 경우의 값을 5로 하여 기설정된 이동 경로와 안전 영역에서 벗어난 정도(거리)에 따라 1과 5 사이의 값으로 나타낸다. 움직임 정도(B)는 5 단계로 구분되며, 움직임이 가장 작은 경우의 값을 5로, 움직임이 가장 많은 경우의 값을 1로 하고 움직임 정도(속도)에 따라 1과 5 사이의 값으로 나타낸다. 그리고 중첩 횟수 정도(C)는 5 단계로 구분되며, 인접하는 비콘 센서(220)들과 전송되는 비콘 신호의 중첩 횟수 정도가 가장 적은 경우의 값을 5로, 가장 많은 경우의 값을 1로 하여 그 사이의 값으로 중첩 횟수 정도를 나타낸다.
이탈 정도(A)는 1에서 5로 갈수록 위험도가 높아지고, 움직임 정도(B)는 5에서 1로 갈수록 위험도가 낮아지며, 중첩 횟수 정도(C)는 5에서 1로 갈수록 위험도가 낮아진다.
평균값 산출부(134)는 관찰 대상의 위험 상황이 발생되지 않은 특정 주기 동안의 이동 경로와 움직임에 대한 평균값을 산출한다. 평균값 산출부(134)는 상술한 위험도 예측 항목들을 이용하여 아래의 수학식 2에 의해 평균값을 산출한다.
Figure 112018081125897-pat00008
여기서, R2는 관찰 대상의 특정 주기 동안의 이동 경로와 움직임에 대한 평균값이고, Ar은 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도의 평균값, Br은 일정 시간 당 관찰 대상의 움직임 정도의 평균값, 그리고 Cr은 인접하는 비콘 센서(220)들과의 중첩 횟수 정도의 평균값을 나타낸다.
이들 위험도 예측 항목의 평균값(Ar, Br, Cr)들 각각은 현재 위험도의 항목(A, B, C)들 각각과 동일하게 5 단계로 구분되고 동일한 의미를 갖는다.
위험도 판단부(136)는 위험도 산출부(132)에 의해 산출된 현재 위험도 값과, 평균값 산출부(134)에 의해 산출된 평균값을 이용하여 관찰 대상의 위험도를 산출한다. 위험도 판단부(136)는 아래의 수학식 3에 의해 위험도를 산출한다.
Figure 112018081125897-pat00009
여기서, R은 관찰 대상의 위험도 값이고, R1은 관찰 대상의 현재 위험도 값이고, R2는 관찰 대상의 평균값이며, 그리고 α는 위험 상황을 판별하기 위한 기설정된 기준값을 나타낸다.
따라서 위험도 판단부(136)는 산출한 위험도(R)가 기준값(α)을 초과하면, 관찰 대상의 위험 상황이 발생되었음을 판단한다.이러한 위험도 판단부(136)는 산출된 위험도를 딥러닝 기반으로 학습하여 위험 상황 발생 여부를 정확하게 판별할 수 있다.
그리고 알림 처리부(138)는 위험도 판단부(136)에 의해 관찰 대상에게 위험 상황이 발생되었다고 판단되면, 통신부(150)를 통해 유관 기관 서버(400)와 사용자 단말기(500) 중 적어도 하나에 관찰 대상의 위험 상황 발생에 따른 정보를 전송하여 알려주도록 처리한다.
다시 도 1을 참조하면, 유관 기관 서버(400)는 예를 들어, 방범 관제 센터, 경찰서 등에 구비되는 것으로, 관찰 대상에 대한 정보를 등록, 관리하여, 관찰 대상을 관찰하거나 보호할 수 있도록 제공된다.
그리고 사용자 단말기(500)는 방범 관제 서버(100)에 관찰 대상의 보호자로 기등록된 사용자의 단말기로, 예를 들어, 스마트 폰, 휴대폰 등으로 구비된다.
도 4는 본 발명에 따른 IoT 카메라를 이용하는 지능형 방범 시스템의 처리 수순을 도시한 흐름도이고, 도 5는 본 발명의 실시예에 따른 IoT 카메라를 이용하여 비콘 단말기가 구비된 객체의 이동 경로와 움직임을 인식하는 과정을 설명하기 위한 도면이다. 여기서는 도 1의 지능형 방범 시스템(2)의 구성을 이용하여 설명한다.
도 4 및 도 5를 참조하면, 본 발명의 지능형 방범 시스템(2)은 단계 S150에서 IoT 카메라(200)가 설치 장소의 일정 영역에 대한 고해상도 영상을 획득하고, 고해상도 영상을 압축하여 저해상도 영상으로 변환한다.
단계 S152에서 IoT 카메라(200)가 방범 관제 서버(100)의 객체 분류기(110)로 저해상도 영상을 전송한다. 단계 S154에서 객체 분류기(110)는 저해상도 영상에서 관찰 대상 즉, 객체를 검지하고, 검지된 객체들을 카테고리별(예를 들어, 사람, 차량, 이륜차 등)로 분류하여 저장한다.
단계 S156에서 방범 관제 서버(100)는 IoT 카메라(200)의 비콘 센서(220)로부터 감지된 비콘 단말기(300)의 식별 정보와 감지 신호가 전송되면 즉, 이벤트가 발생되면, 단계 S158에서 객체 분류기(110)를 통해 저해상도 영상에서 객체를 인식하고, 이에 대응하는 고해상도 영상을 IoT 카메라(200)로부터 전송받는다. 방범 관제 서버(100)는 IoT 카메라(200)로부터 전송된 고해상도 영상으로부터 객체 분류기(110)가 인식한 객체가 포함되는 고해상도 영상(예를 들어, 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상 등)을 추출하여 이벤트 스토리지(120)에 저장한다.
단계 S160에서 방범 관제 서버(100)는 비콘 센서(220)로부터 감지된 객체의 비콘 단말기(300)를 실시간으로 추척하여 객체의 이동 경로 및 움직임에 대한 현재 위험도를 산출한다. 여기서 현재 위험도는 객체에 대한 위험 상황을 판별하기 위하여, 객체의 이동 경로와 움직임을 기설정된 안전 영역 및 기준 이동 경로로부터의 벗어나는 이탈 정도와, 일정 시간 당 객체의 움직임 정도 및 인접하는 비콘 센서(220)들과의 중첩 횟수 정도 등을 이용하여 수학식 1에 의해 산출된다. 이 때, 방범 관제 서버(100)는 IoT 카메라(200)로부터 획득된 영상과, 관찰 대상의 비콘 단말기(300)의 식별 정보와 감지 신호를 실시간으로 전송받아서 객체의 이동 경로와 움직임을 모니터링하도록 해당 고해상도 영상을 모니터링부(150)로 출력할 수 있다.
이 실시예에서는 도 5에 도시된 바와 같이, 복수 개의 IoT 카메라(200 : 200a, 200b, 200n)는 서로 다른 장소에 설치되고 상호 중첩되는 일정 영역에 대한 영상을 획득한다. IoT 카메라(200a, 200b, 200n)들 각각에는 이동 중인 관찰 대상의 비콘 단말기(300)를 각각 감지하는 비콘 센서(220a, 220b, 220n)가 구비된다.
비콘 센서(220a, 220b, 220n)들 각각의 감지 영역은 인접하는 것의 감지 영역과 상호 일부가 중첩되게 형성된다. 비콘 센서(220a, 220b, 220n)들 각각은 감지 영역 내에 안전 영역이 설정된다. 또 비콘 센서(220a, 220b, 220n)들의 안전 영역에는 기준 이동 경로가 설정된다. 안전 영역은 비콘 단말기(300)의 감지 영역 중에 위험 요인이 있거나, 설치 장소에 대한 빅데이터를 이용하여 위험 요인이 있다고 판별하여 설정될 수 있다. 또 기준 이동 경로는 객체 즉, 관찰 대상의 평상 시, 이동에 대한 빅데이터를 통해 결정될 수 있다.
만약, 복수 개의 비콘 센서(220a, 220b, 220n)들 중 제1 비콘 센서(220a)에서 특정 관찰 대상의 비콘 단말기(300)가 감지되면, 비콘 단말기(300)의 이동에 따라 제2 비콘 센서(220b)와 제n 비콘 센서(220n)에서 기준 이동 경로를 따라 이동 중인 비콘 단말기(300)를 순차적으로 감지하게 된다. 이 때, 이동 중인 비콘 단말기(300)가 안전 영역을 벗어나거나, 기준 이동 경로를 벗어나게 되면, 그 이탈 정도에 따라 위험도가 증가된다.
단계 S162에서 방범 관제 서버(100)는 위험 상황이 발생되지 않은 특정 주기 동안의 객체의 이동 경로와 움직임에 대한 평균값을 산출한다. 즉, 평균값 또한 이탈 정도와, 움직임 정도 및 중첩 횟수 정도 등을 이용하여 수학식 2에 의해 산출된다.
이 실시예에서 비콘 센서(220a, 220b, 220n)들 각각은 안전 영역 내에서 감지된 비콘 단말기(300a, 300b 또는 300n)의 이동 속도, 체류 시간 등을 이용하여 움직임 정도를 판단할 수 있다. 이 실시예에서는 움직임 정도가 큰 경우에 위험도가 낮다고 판단한다.
단계 S164에서 방범 관제 서버(100)는 산출된 현재 위험도와 평균값을 이용하여 예측 위험도를 산출한다. 산출된 예측 위험도는 수학식 3에 의해 산출되어 딥러닝(Deep-learning) 기반으로 학습하고, 이를 통해 객체에 대한 위험 상황 발생 여부를 판별한다.
이 실시예에서 비콘 센서(220a, 220b, 220n)들 각각은 상호 인접하는 영역에서 비콘 단말기(300)와 비콘 신호를 송수신하게 되는데 제1 비콘 센서(220a)와 제2 비콘 센서(220b) 사이, 제2 비콘 센서(220b)와 제3 비콘 센서(미도시됨) 사이, 제n-1 비콘 센서(미도시됨)와 제n 비콘 센서(220n) 사이 각각에서 비콘 단말기(300)와의 비콘 신호 전송에 따른 중첩 횟수 정도를 판별한다. 이 실시예에서는 중첩 횟수 정도가 많은 경우에 위험도가 낮다고 판단한다. 따라서 본 발명은 이러한 위험도 예측 항목들에 대해 딥러닝 기반으로 반복 학습하여 관찰 대상의 이동 경로 및 움직임에 따른 위험도를 부여하게 된다.
단계 S166에서 방범 관제 서버(100)는 산출된 예측 위험도를 기설정된 기준값과 비교하여 위험도 기준을 초과하면, 객체의 이동 경로와 움직임에 대한 위험 상황이 발생되었다고 판단하여 통신망을 통하여 유관 기관 서버(400)와 기등록된 사용자 단말기(500) 중 적어도 하나로 객체에 위험 상황이 발생되었음을 알려준다.
이상에서, 본 발명에 따른 지능형 방범 시스템의 구성 및 작용을 상세한 설명과 도면에 따라 도시하였지만, 이는 실시예를 들어 설명한 것에 불과하며, 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 다양한 변화 및 변경이 가능하다.
2 : 지능형 방범 시스템
100 : 방범 관제 서버
110 : 객체 분류기
120 : 이벤트 스토리지
130 : 객체 인식부
140 : 모니터링부
150 : 통신부
200 : 사물 인터넷(IoT) 카메라
300 : 비콘 단말기
400 : 유관 기관 서버
500 : 사용자 단말기

Claims (5)

  1. 지능형 방범 시스템에 있어서:
    식별 가능하고, 이동 가능한 객체가 구비하거나 객체에 부착되는 비콘 단말기;
    서로 일정 간격으로 이격 설치되고, 각각이 상호 중첩되는 일정 영역에 대한 영상을 획득하는 고해상도 카메라와, 상기 일정 영역 내에 위치하는 상기 비콘 단말기를 실시간으로 감지하는 비콘 센서를 구비하는 복수 개의 사물 인터넷 카메라; 및
    상기 사물 인터넷 카메라로부터 영상을 받아서 객체를 검지 및 분류하고, 상기 비콘 센서로부터 감지된 상기 비콘 단말기에 대응하는 객체에 대한 이벤트가 발생되면, 상기 사물 인터넷 카메라로부터 영상을 받아서 이벤트가 발생된 객체가 포함된 고해상도 영상을 추출하여 저장하고, 인접하는 상기 비콘 센서들이 연동되어 상기 비콘 단말기에 대응하는 객체의 이동을 실시간으로 추적하여 객체의 이동 경로와 움직임에 따른 위험도를 산출하고, 산출된 위험도를 딥러닝 기반으로 학습하여 위험도가 기설정된 기준값 이상이면, 통신망을 통하여 유관 기관 서버와 기등록된 사용자 단말기 중 적어도 하나로 위험 상황이 발생되었음을 알려주는 방범 관제 서버;를 포함하되,
    상기 방범 관제 서버는,
    적어도 상기 비콘 센서의 감지 영역 내에서 설정된 안전 영역과 기준 이동 경로와의 벗어난 이탈 정도와, 시간 당 객체의 움직임 정도 및, 인접하는 상기 비콘 센서들과 상기 비콘 단말기 간에 전송되는 비콘 신호에 따른 중첩 횟수 정도를 이용하여 객체의 현재 위험도와 위험 상황이 발생되지 않은 특정 주기 동안의 객체의 이동 경로와 움직임에 대한 평균값을 산출하고, 산출된 위험도와 평균값을 이용하여 객체의 예측 위험도를 산출하여 산출된 예측 위험도를 딥러닝 기법으로 학습하며, 상기 예측 위험도와 상기 기준값을 비교하여 위험 상황 발생을 판별하고;
    상기 현재 위험도는 아래의 수학식 1에 의해 산출되고,
    Figure 112019044641722-pat00021
    [수학식 1],
    (여기서, R1은 관찰 대상의 현재 위험도 값이고, A는 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도, B는 일정 시간 당 관찰 대상의 움직임 정도, 그리고 C는 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도를 나타내는 값이다);
    상기 평균값은 아래의 수학식 2에 의해 산출되며,
    Figure 112019044641722-pat00022
    [수학식 2],
    (여기서, R2는 관찰 대상의 특정 주기 동안의 이동 경로와 움직임에 대한 평균값이고, Ar은 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도의 평균값, Br은 일정 시간 당 관찰 대상의 움직임 정도의 평균값, 그리고 Cr은 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도의 평균값을 나타낸다); 그리고,
    상기 예측 위험도는 아래의 수학식 3에 의해 산출되는;
    Figure 112019044641722-pat00023
    [수학식 3],
    (여기서, R은 관찰 대상의 위험도 값이고, R1은 관찰 대상의 현재 위험도 값이고, R2는 관찰 대상의 평균값이며, 그리고 α는 위험 상황을 판별하기 위한 기설정된 상기 기준값을 나타낸다) 것을 특징으로 하는 지능형 방범 시스템.
  2. 청구항 1에 있어서,
    상기 방범 관제 서버는,
    상기 사물 인터넷 카메라로부터 저해상도 영상을 전송받아서 저해상도 영상에 포함되는 객체를 검지하고, 검지된 객체를 카테고리별로 분류하여 저장하고, 상기 사물 인터넷 카메라로부터 상기 비콘 단말기의 식별 정보와 감지 신호가 전송되면, 저해상도 영상에서 이벤트가 발생된 객체를 판별하는 객체 분류기;
    상기 이벤트가 발생되면, 상기 사물 인터넷 카메라로부터 이벤트가 발생되고 상기 객체 분류기에 의해 판별된 객체가 포함된 고해상도 영상을 전송받아서 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상을 추출하여 저장하는 이벤트 스토리지;
    상기 객체 분류기가 상기 사물 인터넷 카메라로부터 전송된 저해상도 영상에서 객체를 분류 및 저장하도록 제어하고, 상기 객체 분류기로부터 상기 비콘 단말기의 식별 정보와 감지 신호를 전송되면, 상기 객체 분류기로 이벤트가 발생된 객체를 검지하도록 제어하고 상기 사물 인터넷 카메라로부터 전송된 고해상도 영상에서 이벤트 발생에 따른 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상을 추출하여 상기 이벤트 스토리지에 저장하도록 제어하며, 상기 비콘 단말기의 식별 정보와 감지 신호에 대응하여 객체의 이동 경로와 움직임에 따른 위험 상황을 인지하도록 상기 현재 위험도와 상기 평균값 및 상기 예측 위험도를 산출하는 제어부;
    상기 제어부의 제어를 받아서, 상기 이벤트 스토리지에 저장된 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상을 모니터링하도록 표시하는 모니터링부; 및
    통신망에 연결되고 상기 제어부의 제어를 받아서 위험 상황이 발생되었음을 알려주는 정보를 상기 유관 기관 서버와 상기 사용자 단말기 중 적어도 하나로 전송하는 통신부;를 포함하는 것을 특징으로 하는 지능형 방범 시스템.
  3. 삭제
  4. 지능형 방범 시스템의 처리 방법에 있어서:
    서로 일정 간격으로 이격 설치되고, 각각이 상호 중첩되는 일정 영역에 대한 영상을 획득하는 고해상도 카메라와, 상기 일정 영역 내에 위치하는 비콘 단말기를 실시간으로 감지하는 비콘 센서를 구비하는 사물 인터넷 카메라가 상기 고해상도 카메라를 이용하여 설치 장소의 일정 영역에 대한 고해상도 영상을 획득하고, 고해상도 영상을 압축하여 저해상도 영상으로 변환하는 단계;
    상기 사물 인터넷 카메라가 방범 관제 서버의 객체 분류기로 저해상도 영상을 전송하면 상기 객체 분류기가 저해상도 영상에서 식별 가능한 상기 비콘 단말기를 구비하는 관찰 대상의 객체를 검지하고, 검지된 객체들을 카테고리별로 분류하여 저장하는 단계;
    상기 방범 관제 서버가 상기 비콘 센서로부터 감지된 상기 비콘 단말기의 식별 정보와 감지 신호를 전송받아서 이벤트가 발생되면, 상기 객체 분류기를 통해 저해상도 영상에서 객체를 인식하고, 상기 사물 인터넷 카메라로부터 인식된 객체가 포함되는 고해상도 영상을 전송받고, 전송된 고해상도 영상으로부터 상기 객체 분류기가 인식한 객체가 포함되는 고해상도 정지 영상 또는 일정 구간의 고해상도 동영상을 추출하여 이벤트 스토리지에 저장하는 단계;
    상기 방범 관제 서버가 상기 비콘 센서로부터 감지된 객체의 상기 비콘 단말기를 실시간으로 추척하여 객체의 이동 경로 및 움직임에 대한 현재 위험도를 산출하는 단계;
    상기 방범 관제 서버가 위험 상황이 발생되지 않은 특정 주기 동안의 객체의 이동 경로와 움직임에 대한 평균값을 산출하는 단계;
    상기 방범 관제 서버가 산출된 상기 현재 위험도와 상기 평균값을 이용하여 예측 위험도를 산출하고 딥러닝 기반으로 학습하는 단계; 및
    상기 방범 관제 서버가 산출된 상기 예측 위험도를 기설정된 기준값과 비교하여 위험도 기준을 초과하면, 객체의 이동 경로와 움직임에 대한 위험 상황이 발생되었다고 판단하여 통신망을 통하여 유관 기관 서버와 기등록된 사용자 단말기 중 적어도 하나로 객체에 위험 상황이 발생되었음을 알려주는 단계;를 포함하되,
    상기 현재 위험도를 산출하는 단계는,
    객체의 이동 경로와 움직임을 기설정된 안전 영역 및 기준 이동 경로로부터의 벗어나는 이탈 정도와, 일정 시간 당 객체의 움직임 정도 및, 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도를 이용하여 아래의 수학식 1에 의해 산출되고,
    Figure 112019044641722-pat00024
    [수학식 1],
    (여기서, R1은 관찰 대상의 현재 위험도 값이고, A는 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도, B는 일정 시간 당 관찰 대상의 움직임 정도, 그리고 C는 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도를 나타내는 값이다);
    상기 평균값을 산출하는 단계는,
    상기 이탈 정도와, 상기 움직임 정도 및 상기 중첩 횟수 정도를 이용하여 아래의 수학식 2에 의해 산출되며,
    Figure 112019044641722-pat00025
    [수학식 2],
    (여기서, R2는 관찰 대상의 특정 주기 동안의 이동 경로와 움직임에 대한 평균값이고, Ar은 기설정된 이동 경로와 안전 영역에서 벗어난 정도에 따른 이탈 정도의 평균값, Br은 일정 시간 당 관찰 대상의 움직임 정도의 평균값, 그리고 Cr은 인접하는 상기 비콘 센서들과의 비콘 신호 전송에 따른 중첩 횟수 정도의 평균값을 나타낸다); 그리고
    상기 예측 위험도를 산출하고 딥러닝 기반으로 학습하는 단계는,
    상기 현재 위험도와 상기 평균값을 이용하여 아래의 수학식 3에 의해 산출되는;
    Figure 112019044641722-pat00026
    [수학식 3],
    (여기서, R은 관찰 대상의 위험도 값이고, R1은 관찰 대상의 현재 위험도 값이고, R2는 관찰 대상의 평균값이며, 그리고 α는 위험 상황을 판별하기 위한 기설정된 상기 기준값을 나타낸다) 것을 특징으로 하는 지능형 방범 시스템의 처리 방법.
  5. 삭제
KR1020180095722A 2018-08-16 2018-08-16 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법 KR102015959B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180095722A KR102015959B1 (ko) 2018-08-16 2018-08-16 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180095722A KR102015959B1 (ko) 2018-08-16 2018-08-16 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법

Publications (1)

Publication Number Publication Date
KR102015959B1 true KR102015959B1 (ko) 2019-08-28

Family

ID=67774990

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180095722A KR102015959B1 (ko) 2018-08-16 2018-08-16 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법

Country Status (1)

Country Link
KR (1) KR102015959B1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102104351B1 (ko) * 2019-11-20 2020-05-29 주식회사 플랜비 레이더 모듈을 이용하여 움직이는 객체를 검지하는 cctv 카메라 및 이를 구비하는 cctv 시스템
KR102118581B1 (ko) * 2019-11-20 2020-06-03 주식회사 플랜비 레이더 모듈이 구비된 cctv 카메라의 영상 처리 방법 및 이를 구비하는 cctv 시스템의 영상 처리 방법
KR102199572B1 (ko) 2019-11-25 2021-01-07 포인드 주식회사 딥러닝 기반의 역방향 사물 검사 방법
KR20210100801A (ko) * 2020-02-07 2021-08-18 주식회사 이형정보기술 스마트 도로시설물

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101698500B1 (ko) 2016-11-16 2017-02-01 (주)와이즈콘 지능형 감시카메라를 이용한 감시 시스템
KR20170052053A (ko) * 2015-11-03 2017-05-12 영현정보통신 주식회사 비콘과 스마트cctv를 이용한 전자발찌 위치추적 및 영상감시정보 시스템
KR20170101675A (ko) * 2016-02-29 2017-09-06 이동규 빅 데이터 및 전자 발찌를 이용한 성범죄자 감시 및 알림 시스템과 그 방법
KR101850286B1 (ko) 2017-06-27 2018-04-19 한국기술교육대학교 산학협력단 딥 러닝 기반 cctv용 영상 인식 방법
KR101857164B1 (ko) 2017-09-25 2018-05-14 한화테크윈 주식회사 영상획득장치 및 영상처리장치
KR20180058155A (ko) * 2016-11-23 2018-05-31 정석훈 패턴 인식기반 동적 적응형 스트리밍 cctv 시스템 및 그 방법
KR101877294B1 (ko) 2018-01-16 2018-07-11 한국비전기술주식회사 객체, 영역 및 객체가 유발하는 이벤트의 유기적 관계를 기반으로 한 복수 개 기본행동패턴 정의를 통한 복합 상황 설정 및 자동 상황 인지가 가능한 지능형 방범 cctv 시스템

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170052053A (ko) * 2015-11-03 2017-05-12 영현정보통신 주식회사 비콘과 스마트cctv를 이용한 전자발찌 위치추적 및 영상감시정보 시스템
KR20170101675A (ko) * 2016-02-29 2017-09-06 이동규 빅 데이터 및 전자 발찌를 이용한 성범죄자 감시 및 알림 시스템과 그 방법
KR101698500B1 (ko) 2016-11-16 2017-02-01 (주)와이즈콘 지능형 감시카메라를 이용한 감시 시스템
KR20180058155A (ko) * 2016-11-23 2018-05-31 정석훈 패턴 인식기반 동적 적응형 스트리밍 cctv 시스템 및 그 방법
KR101850286B1 (ko) 2017-06-27 2018-04-19 한국기술교육대학교 산학협력단 딥 러닝 기반 cctv용 영상 인식 방법
KR101857164B1 (ko) 2017-09-25 2018-05-14 한화테크윈 주식회사 영상획득장치 및 영상처리장치
KR101877294B1 (ko) 2018-01-16 2018-07-11 한국비전기술주식회사 객체, 영역 및 객체가 유발하는 이벤트의 유기적 관계를 기반으로 한 복수 개 기본행동패턴 정의를 통한 복합 상황 설정 및 자동 상황 인지가 가능한 지능형 방범 cctv 시스템

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
블로그1* *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102104351B1 (ko) * 2019-11-20 2020-05-29 주식회사 플랜비 레이더 모듈을 이용하여 움직이는 객체를 검지하는 cctv 카메라 및 이를 구비하는 cctv 시스템
KR102118581B1 (ko) * 2019-11-20 2020-06-03 주식회사 플랜비 레이더 모듈이 구비된 cctv 카메라의 영상 처리 방법 및 이를 구비하는 cctv 시스템의 영상 처리 방법
KR102199572B1 (ko) 2019-11-25 2021-01-07 포인드 주식회사 딥러닝 기반의 역방향 사물 검사 방법
KR20210100801A (ko) * 2020-02-07 2021-08-18 주식회사 이형정보기술 스마트 도로시설물
KR102333855B1 (ko) * 2020-02-07 2021-12-03 주식회사 이형정보기술 스마트 도로시설물

Similar Documents

Publication Publication Date Title
KR102015959B1 (ko) 사물 인터넷 카메라를 이용하는 딥러닝 기반의 지능형 방범 시스템 및 그의 처리 방법
KR101766305B1 (ko) 침입 탐지 장치
KR101644443B1 (ko) 시공적 상황데이터를 이용한 경고 방법 및 시스템
CN105913559B (zh) 一种基于体感技术的银行atm机智能监控方法
KR101877294B1 (ko) 객체, 영역 및 객체가 유발하는 이벤트의 유기적 관계를 기반으로 한 복수 개 기본행동패턴 정의를 통한 복합 상황 설정 및 자동 상황 인지가 가능한 지능형 방범 cctv 시스템
KR102260120B1 (ko) 딥러닝기반 행동인식장치 및 그 장치의 구동방법
KR100962529B1 (ko) 객체 추적 방법
CN108227606B (zh) 一种基于多源感知的船舶安防智能管理***
KR101698500B1 (ko) 지능형 감시카메라를 이용한 감시 시스템
KR102039277B1 (ko) 보행자 얼굴 인식 시스템 및 그 방법
CN110070155B (zh) 一种基于可穿戴设备的服刑人员综合行为识别方法及***
KR102039279B1 (ko) 영상 인식을 이용한 경찰 업무 지원 시스템 및 그 방법
KR101936837B1 (ko) 맵기반 지능형 영상통합 감시시스템 및 이를 이용한 감시 방법
KR101036947B1 (ko) 컴퓨터 영상 분석기술을 이용한 범죄 및 사고예방 자동경비 시스템
KR20160074208A (ko) 비콘신호를 이용한 안전 서비스 제공 시스템 및 방법
KR20160006426A (ko) 군사용 경계초소의 주둔지 방호 시스템
CN103152558A (zh) 基于场景识别的入侵检测方法
KR101372327B1 (ko) 스쿨존 안전관리 시스템 및 그 제공방법
CN106791670A (zh) 用于光伏电站的智能安全预警监控***
JP3801044B2 (ja) 防犯監視システム
KR20020082476A (ko) 감시 방법, 시스템 및 묘듈
CN114999222B (zh) 异常举动通知装置、通知***、通知方法以及记录介质
AU2021103548A4 (en) Smart home surveillance system using iot application with warning of intruder activities
KR20230087008A (ko) 스마트 폴을 이용한 위험상황 정보 처리장치
JP2014170284A (ja) 移動物体監視システム

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant