KR102459778B1 - Method for change detection using lidar and camera and computer program recorded on record-medium for executing method therefor - Google Patents
Method for change detection using lidar and camera and computer program recorded on record-medium for executing method therefor Download PDFInfo
- Publication number
- KR102459778B1 KR102459778B1 KR1020220058557A KR20220058557A KR102459778B1 KR 102459778 B1 KR102459778 B1 KR 102459778B1 KR 1020220058557 A KR1020220058557 A KR 1020220058557A KR 20220058557 A KR20220058557 A KR 20220058557A KR 102459778 B1 KR102459778 B1 KR 102459778B1
- Authority
- KR
- South Korea
- Prior art keywords
- point cloud
- cloud data
- image
- identifying
- new object
- Prior art date
Links
- 230000008859 change Effects 0.000 title claims abstract description 32
- 238000000034 method Methods 0.000 title claims abstract description 29
- 238000001514 detection method Methods 0.000 title claims description 26
- 238000004590 computer program Methods 0.000 title claims description 10
- 238000012545 processing Methods 0.000 claims abstract description 76
- 238000013473 artificial intelligence Methods 0.000 claims description 7
- 239000003086 colorant Substances 0.000 claims description 6
- 238000007726 management method Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000013439 planning Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 4
- 230000002194 synthesizing effect Effects 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000001149 cognitive effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 238000012384 transportation and delivery Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0248—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means in combination with a laser
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G05D2201/0212—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Networks & Wireless Communication (AREA)
- Automation & Control Theory (AREA)
- Aviation & Aerospace Engineering (AREA)
- Theoretical Computer Science (AREA)
- Optics & Photonics (AREA)
- Multimedia (AREA)
- Traffic Control Systems (AREA)
Abstract
Description
본 발명은 도로 정보 수집 방법에 관한 것이다. 보다 상세하게는, 물류 운송 차량에 설치된 복수의 카메라(camera) 및 라이다(lidar)를 이용하여 도로 상의 객체에 대한 변화를 탐지하기 위한 변화 탐지 방법에 관한 것이다.The present invention relates to a method for collecting road information. More particularly, it relates to a change detection method for detecting a change in an object on a road using a plurality of cameras and lidar installed in a logistics transportation vehicle.
차량의 자율주행(automatic driving)은 차량 스스로 판단하여 주행할 수 있는 시스템을 의미한다. 이와 같은, 자율주행은 시스템이 주행에 관여하는 정도와 운전차가 차량을 제어하는 정도에 따라 비자동화부터 완전 자동화까지 점진적인 단계로 구분될 수 있다. 일반적으로, 자율주행의 단계는 국제자동차기술자협회(SAE(Society of Automotive Engineers) International)에서 분류한 6단계의 레벨로 구분된다. 국제자동차기술자협회가 분류한 6단계에 따르면, 레벨 0단계는 비자동화, 레벨 1단계는 운전자 보조, 레벨 2단계는 부분 자동화, 레벨 3단계는 조건부 자동화, 레벨 4단계는 고도 자동화, 그리고 레벨 5단계는 완전 자동화 단계이다.Automated driving of a vehicle refers to a system capable of driving a vehicle by judging itself. Such autonomous driving may be divided into gradual stages from non-automation to full automation according to the degree to which the system participates in driving and the degree to which the driver controls the vehicle. In general, the stages of autonomous driving are divided into six levels classified by the Society of Automotive Engineers (SAE) International. According to the six stages classified by the International Automobile Engineers Association, level 0 is non-automated, level 1 is driver assistance, level 2 is partial automation,
한편, 최근에는 인터넷에서 단순 지도에 대한 정보를 제공하는 것을 넘어 실제 거리의 이미지를 보여주는 거리뷰(roadview) 서비스를 통해 다양한 실제 도로, 거리, 구조물 등의 정보를 제공하고 있다.Meanwhile, in recent years, the Internet has provided various information on actual roads, streets, structures, etc. through a roadview service that shows an image of an actual street beyond providing information on a simple map on the Internet.
이와 같은, 차량의 자율주행 및 거리뷰를 제공하기 위해서는 도로와 관련한 정보 수집이 필수적이다. 도로 정보는 도로를 이동하는 차량에 설치된 카메라가 차량에 의해 이동하면서 이미지를 촬영하여 수집될 수 있다. 일반적으로, 도로 정보 수집을 위한 카메라는 차량의 상부에 설치되어, 차량을 중심으로 360°이미지를 생성한다.In order to provide such autonomous driving of a vehicle and a street view, it is essential to collect road-related information. The road information may be collected by photographing an image while a camera installed in a vehicle moving on the road moves by the vehicle. In general, a camera for collecting road information is installed on an upper portion of a vehicle to generate a 360° image centered on the vehicle.
그러나, 차량의 상부에 카메라를 설치하는 경우에는 차량의 차체에 의해 가려지는 영역이 발생되기 때문에, 도로의 노면에 대한 이미지의 왜곡이 발생될 수 있으며, 지하 터널이나 육교 등의 장애물로 인하여 상부에 설치된 카메라의 파손이 발생될 수 있는 문제점이 있었다.However, when the camera is installed on the upper part of the vehicle, since an area covered by the vehicle body is generated, image distortion may occur on the road surface, and the image may be distorted due to an obstacle such as an underground tunnel or an overpass. There was a problem that the installed camera could be damaged.
한편, 차량의 자율주행은 인지(perception), 측위(localization), 경로 계획(path planning) 및 제어(control)의 메커니즘을 통해 수행된다. 현재 여러 기업체들은 자율주행 메커니즘 중에서 인지 및 경로 계획을 인공지능(AI)을 이용하여 구현하기 위해 개발 중에 있다.Meanwhile, autonomous driving of a vehicle is performed through mechanisms of perception, localization, path planning, and control. Currently, several companies are developing to implement cognitive and path planning among autonomous driving mechanisms using artificial intelligence (AI).
이와 같은, 인지 및 경로 계획을 구현하기 위해서는 도로의 이미지 수집이 필요할 뿐만 아니라, 포트홀(pothole), 싱크홀(sinkhole) 등과 같은 도로의 장애물이나, 신규 구조물 등과 같은 도로에 존재하는 객체의 변화에 대한 파악이 필요하다.In order to implement such recognition and path planning, it is not only necessary to collect images of the road, but also to detect obstacles on the road, such as potholes and sinkholes, or changes in objects existing on the road, such as new structures. need to understand
본 발명의 일 목적은 물류 운송 차량에 설치된 복수의 카메라(camera) 및 라이다(lidar)를 이용하여 도로 상의 객체에 대한 변화를 탐지하기 위한 변화 탐지 방법을 제공하는 것이다.One object of the present invention is to provide a change detection method for detecting a change in an object on a road using a plurality of cameras and lidar installed in a logistics transportation vehicle.
본 발명의 또 다른 목적은 물류 운송 차량에 설치된 복수의 카메라(camera) 및 라이다(lidar)를 이용하여 도로 상의 객체에 대한 변화를 탐지하기 위한 변화 탐지 방법을 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램을 제공하는 것이다.Another object of the present invention is a computer recorded on a recording medium to execute a change detection method for detecting a change in an object on a road using a plurality of cameras and lidar installed in a logistics transportation vehicle. to provide the program.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The technical problems of the present invention are not limited to the technical problems mentioned above, and other technical problems not mentioned will be clearly understood by those skilled in the art from the following description.
상술한 바와 같은 기술적 과제를 달성하기 위하여, 본 발명은 라이다 및 카메라를 이용한 변화 탐지 방법을 제안한다. 상기 방법은 데이터 가공 장치가, 차량에 설치된 라이다(lidar) 및 카메라(camera)에 의해 동시에 획득 및 촬영된 3D 점군 데이터(points group) 및 이미지(image)를 수집하는 단계, 상기 데이터 가공 장치가, 상기 수집된 3D 점군 데이터를 기존에 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별하는 단계 및 상기 데이터 가공 장치가, 상기 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 상기 이미지에 오버레이(overlay) 하는 단계를 포함할 수 있다.In order to achieve the technical problem as described above, the present invention proposes a change detection method using a lidar and a camera. The method includes, by the data processing apparatus, collecting 3D point group data and images simultaneously acquired and photographed by a lidar and a camera installed in the vehicle, the data processing apparatus , identifying a new object by comparing the collected 3D point cloud data with the previously acquired reference 3D point cloud data, and the data processing device includes points included in the 3D point cloud data for the identified new object. It may include the step of overlaying (overlay) on the image.
상기 신규 객체를 식별하는 단계는 상기 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 기초로 객체를 식별하고, 상기 식별된 객체가 상기 레퍼런스 3D 점군 데이터에 존재하는지 여부를 확인하여 상기 신규 객체를 식별할 수 있다.In the step of identifying the new object, the object is identified based on points forming a crowd within a preset threshold range among points included in the collected 3D point cloud data, and the identified object is the reference The new object may be identified by checking whether it exists in the 3D point cloud data.
상기 신규 객체를 식별하는 단계는 상기 레퍼런스 3D 점군 데이터에 존재하나, 상기 수집된 3D 점군 데이터에 존재하지 않는 누락 객체를 식별할 수 있다.In the identifying of the new object, a missing object that exists in the reference 3D point cloud data but does not exist in the collected 3D point cloud data may be identified.
상기 객체를 식별하는 단계 이후에, 상기 레퍼런스 3D 점군 데이터에 포함된 객체가 상기 수집된 3D 점군 데이터에 존재하지 않는 경우, 상기 수집된 3D 점군 데이터를 기초로 상기 레퍼런스 3D 점군 데이터를 업데이트 할 수 있다.After the step of identifying the object, if the object included in the reference 3D point cloud data does not exist in the collected 3D point cloud data, the reference 3D point cloud data may be updated based on the collected 3D point cloud data .
상기 객체를 식별하는 단계는 상기 신규 객체 및 상기 누락 객체의 유형을 식별할 수 있다.The identifying of the object may identify the type of the new object and the missing object.
상기 객체를 식별하는 단계는 상기 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 식별하고, 상기 식별된 군집의 X축 상의 폭, Y축 상의 높이 및 Z축 상의 깊이를 기초로 상기 객체의 유형을 식별할 수 있다.In the identifying of the object, points forming a crowd within a preset threshold range among points included in the collected 3D point cloud data are identified, and the width and Y axis of the identified cluster on the X-axis. The type of the object may be identified based on the height of the image and the depth on the Z-axis.
상기 객체를 식별하는 단계는 객체의 유형별로 사전에 구비된 폭, 높이 및 깊이의 비율 관계(rate relation)를 기초로, 상기 식별된 군집의 X축 상의 폭, Y축 상의 높이 및 Z축 상의 깊이에 대응하는 객체의 유형을 식별할 수 있다.In the step of identifying the object, the width on the X-axis, the height on the Y-axis, and the depth on the Z-axis of the identified cluster are based on a rate relation of width, height, and depth provided in advance for each type of object. You can identify the type of object corresponding to .
상기 오버레이 하는 단계는 객체의 유형에 따라 사전에 기계 학습(machine learning) 된 인공 지능(Artificial Intelligence, AI)을 이용하여, 상기 신규 객체 및 상기 누락 객체를 정제하고, 정제된 신규 객체 및 누락 객체에 대한 3D 점군 데이터에 포함된 점들을 상기 촬영된 이미지에 오버레이 할 수 있다.In the overlaying step, the new object and the missing object are refined using artificial intelligence (AI) that has been machine learned in advance according to the type of object, and the new object and the missing object are purified. The points included in the 3D point cloud data for the data may be overlaid on the photographed image.
상기 오버레이 하는 단계는 상기 신규 객체의 움직임 여부를 판단하고, 상기 신규 객체 중 움직임 존재하는 것으로 판단된 신규 객체를 정제할 수 있다.The overlaying may determine whether the new object moves, and refine the new object determined to be in motion among the new objects.
상기 오버레이 하는 단계 이후에, 상기 신규 객체 및 상기 누락 객체의 위치 좌표 및 상기 오버레이 된 이미지를 포함하는 변화 탐지 정보를 전송하는 단계를 더 포함할 수 있다.After the overlaying step, the method may further include transmitting change detection information including location coordinates of the new object and the missing object and the overlaid image.
상기 변화 탐지 정보를 전송하는 단계는 상기 식별된 객체의 유형이 사전에 설정된 객체의 유형에 포함되는 경우, 상기 변화 탐지 정보를 전송할 수 있다.The transmitting of the change detection information may include transmitting the change detection information when the identified object type is included in a preset object type.
상기 오버레이 하는 단계는 상기 신규 객체 및 상기 누락 객체의 3D 점군 데이터에 포함된 점들(point)의 색상을 각각 달리하여 상기 이미지에 오버레이 할 수 있다.The overlaying may include different colors of points included in the 3D point cloud data of the new object and the missing object to overlay the image on the image.
상술한 바와 같은 기술적 과제를 달성하기 위하여, 본 발명은 라이다 및 카메라를 이용한 변화 탐지 방법을 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램을 제안한다. 상기 컴퓨터 프로그램은 메모리(memory); 송수신기(transceiver); 및 상기 메모리에 상주된 명령어를 처리하는 프로세서(processor)를 포함하여 구성된 컴퓨팅 장치와 결합될 수 있다. 그리고, 상기 컴퓨터 프로그램은 상기 프로세서가, 차량에 설치된 라이다(lidar) 및 카메라(camera)에 의해 동시에 획득 및 촬영된 3D 점군 데이터(points group) 및 이미지(image)를 수집하는 단계, 상기 프로세서가, 상기 수집된 3D 점군 데이터를 동일한 위치에서 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별하는 단계 및 상기 프로세서가, 상기 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 상기 이미지에 오버레이(overlay) 하는 단계를 실행시키기 위하여, 기록매체에 기록된 컴퓨터 프로그램이 될 수 있다.In order to achieve the technical problem as described above, the present invention proposes a computer program recorded on a recording medium to execute a change detection method using a lidar and a camera. The computer program includes a memory; transceiver; and a processor for processing instructions resident in the memory. In addition, the computer program is a step in which the processor collects 3D point group data and images simultaneously acquired and photographed by a lidar and a camera installed in the vehicle, the processor , comparing the collected 3D point cloud data with reference 3D point cloud data obtained at the same location to identify a new object, and the processor, the points included in the 3D point cloud data for the identified new object, the In order to execute the step of overlaying on the image, it may be a computer program recorded on a recording medium.
기타 실시 예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.Specific details of other embodiments are included in the detailed description and drawings.
본 발명의 실시 예들에 따르면, 차량에 설치된 라이다(lidar) 및 카메라(camera)에 의해 동시에 3D 점군 데이터(points group) 및 이미지(image)를 획득하고, 수집된 3D 점군 데이터를 기존에 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별할 수 있다.According to embodiments of the present invention, 3D point cloud data and an image are simultaneously acquired by a lidar and a camera installed in a vehicle, and the collected 3D point cloud data is previously acquired New objects can be identified by comparison with reference 3D point cloud data.
더하여, 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 이미지에 오버레이(overlay) 함으로써, 신규 객체의 식별이 용이하도록 할 수 있다.In addition, by overlaying the points included in the 3D point cloud data for the identified new object on the image, it is possible to facilitate the identification of the new object.
본 발명의 효과들은 이상에서 언급한 효과로 제한되지 아니하며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 본 발명이 속한 기술분야의 통상의 기술자에게 명확하게 이해될 수 있을 것이다.Effects of the present invention are not limited to the above-mentioned effects, and other effects not mentioned will be clearly understood by those skilled in the art from the description of the claims.
도 1은 본 발명의 일 실시예에 따른 도로 정보 수집 시스템의 구성도이다.
도 2는 본 발명의 일 실시예에 따른 도로 정보 수집 장치를 설명하기 위한 예시도이다.
도 3은 본 발명의 일 실시예에 따른 데이터 가공 장치의 논리적 구성도이다.
도 4는 본 발명의 일 실시예에 따른 데이터 가공 장치의 하드웨어 구성도이다.
도 5는 본 발명의 일 실시예에 따른 도로 정보 수집 방법을 설명하기 위한 순서도이다.
도 6은 본 발명의 일 실시예에 따른 변화 탐지 방법을 설명하기 위한 순서도이다.
도 7은 본 발명의 일 실시예에 따른 변화 탐지 방법을 설명하기 위한 예시도이다.1 is a block diagram of a road information collection system according to an embodiment of the present invention.
2 is an exemplary view for explaining a road information collecting apparatus according to an embodiment of the present invention.
3 is a logical configuration diagram of a data processing apparatus according to an embodiment of the present invention.
4 is a hardware configuration diagram of a data processing apparatus according to an embodiment of the present invention.
5 is a flowchart illustrating a method for collecting road information according to an embodiment of the present invention.
6 is a flowchart illustrating a change detection method according to an embodiment of the present invention.
7 is an exemplary diagram for explaining a change detection method according to an embodiment of the present invention.
본 명세서에서 사용되는 기술적 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본명세서에서 사용되는 기술적 용어는 본 명세서에서 특별히 다른 의미로 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다. 또한, 본 명세서에서 사용되는 기술적인 용어가 본 발명의 사상을 정확하게 표현하지 못하는 잘못된 기술적 용어일 때에는, 당업자가 올바르게 이해할 수 있는 기술적 용어로 대체되어 이해되어야 할 것이다. 또한, 본 발명에서 사용되는 일반적인 용어는 사전에 정의되어 있는 바에 따라, 또는 전후 문맥상에 따라 해석되어야 하며, 과도하게 축소된 의미로 해석되지 않아야 한다.It should be noted that technical terms used herein are used only to describe specific embodiments, and are not intended to limit the present invention. In addition, the technical terms used in the present specification should be interpreted as meanings generally understood by those of ordinary skill in the art to which the present invention belongs, unless otherwise defined in this specification, and are overly comprehensive. It should not be construed as a human meaning or in an excessively reduced meaning. In addition, when the technical terms used in this specification are incorrect technical terms that do not accurately express the spirit of the present invention, they should be understood by being replaced with technical terms that can be correctly understood by those skilled in the art. In addition, general terms used in the present invention should be interpreted as defined in advance or according to the context before and after, and should not be interpreted in an excessively reduced meaning.
또한, 본 명세서에서 사용되는 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, '구성된다' 또는 '가지다' 등의 용어는 명세서 상에 기재된 여러 구성 요소들, 또는 여러 단계들을 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다.Also, as used herein, the singular expression includes the plural expression unless the context clearly dictates otherwise. In this application, terms such as 'consisting' or 'having' should not be construed as necessarily including all of the various components or various steps described in the specification, and some of the components or some steps are included. It should be construed that it may not, or may further include additional components or steps.
또한, 본 명세서에서 사용되는 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성 요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성 요소는 제2 구성 요소로 명명될 수 있고, 유사하게 제2 구성 요소도 제1 구성 요소로 명명될 수 있다.Also, terms including ordinal numbers such as first, second, etc. used herein may be used to describe various elements, but the elements should not be limited by the terms. The above terms are used only for the purpose of distinguishing one component from another. For example, without departing from the scope of the present invention, a first component may be referred to as a second component, and similarly, the second component may also be referred to as a first component.
어떤 구성 요소가 다른 구성 요소에 '연결되어' 있다거나 '접속되어' 있다고 언급된 때에는, 그 다른 구성 요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성 요소가 존재할 수도 있다. 반면에, 어떤 구성 요소가 다른 구성 요소에 "'직접 연결되어' 있다거나 '직접 접속되어' 있다고 언급된 때에는, 중간에 다른 구성 요소가 존재하지 않는 것으로 이해되어야 할 것이다.When a component is referred to as being 'connected' or 'connected' to another component, it may be directly connected or connected to the other component, but another component may exist in between. On the other hand, when it is said that a certain element is "'directly connected' or 'directly connected' to another element, it should be understood that another element does not exist in the middle.
이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 또한, 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 발명의 사상을 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 발명의 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다. 본 발명의 사상은 첨부된 도면 외에 모든 변경, 균등물 내지 대체물에 까지도 확장되는 것으로 해석되어야 한다.Hereinafter, a preferred embodiment according to the present invention will be described in detail with reference to the accompanying drawings, but the same or similar components are given the same reference numerals regardless of the reference numerals, and the redundant description thereof will be omitted. In addition, in the description of the present invention, if it is determined that a detailed description of a related known technology may obscure the gist of the present invention, the detailed description thereof will be omitted. In addition, it should be noted that the accompanying drawings are only for easy understanding of the spirit of the present invention, and should not be construed as limiting the spirit of the present invention by the accompanying drawings. The spirit of the present invention should be construed as extending to all changes, equivalents, or substitutes other than the accompanying drawings.
한편, 차량의 자율주행 및 거리뷰를 제공하기 위해서는 도로와 관련한 정보 수집이 필요하다. 도로 정보는 도로를 이동하는 차량에 설치된 카메라가 차량에 의해 이동하면서 이미지를 촬영하여 수집될 수 있다. 일반적으로, 도로 정보 수집을 위한 카메라는 차량의 상부에 설치되어, 차량을 중심으로 360°이미지를 생성한다.Meanwhile, in order to provide autonomous driving of a vehicle and a street view, it is necessary to collect road-related information. The road information may be collected by photographing an image while a camera installed in a vehicle moving on the road moves by the vehicle. In general, a camera for collecting road information is installed on an upper portion of a vehicle to generate a 360° image centered on the vehicle.
그러나, 차량의 상부에 카메라를 설치하는 경우에는 차량의 차체에 의해 가려지는 영역이 발생되기 때문에, 도로의 노면에 대한 이미지의 왜곡이 발생될 수 있고, 지하 터널이나 육교 등의 장애물로 인하여 상부에 설치된 카메라의 파손이 발생될 수 있는 문제점이 있었다.However, when the camera is installed on the top of the vehicle, since an area covered by the body of the vehicle is generated, distortion of the image on the road surface may occur, and the image may be distorted due to obstacles such as underground tunnels or overpasses. There was a problem that the installed camera could be damaged.
한편, 차량의 자율주행은 인지(perception), 측위(localization), 경로 계획(path planning) 및 제어(control)의 메커니즘을 통해 수행된다. 현재 여러 기업체들은 자율주행 메커니즘 중에서 인지 및 경로 계획을 인공지능(AI)을 이용하여 구현하기 위해 개발 중에 있다.Meanwhile, autonomous driving of a vehicle is performed through mechanisms of perception, localization, path planning, and control. Currently, several companies are developing to implement cognitive and path planning among autonomous driving mechanisms using artificial intelligence (AI).
이와 같은, 인지 및 경로 계획을 구현하기 위해서는 도로의 이미지 수집이 필요할 뿐만 아니라, 포트홀(pothole), 싱크홀(sinkhole) 등과 같은 도로의 장애물이나, 신규 구조물 등과 같은 도로에 존재하는 객체의 변화에 대한 파악이 필요하다.In order to implement such recognition and path planning, it is not only necessary to collect images of the road, but also to detect obstacles on the road, such as potholes and sinkholes, or changes in objects existing on the road, such as new structures. need to understand
이러한 한계를 극복하고자, 본 발명은 도로 정보를 수집할 수 있고, 도로 상의 객체에 대한 변화를 탐지할 수 있는 다양한 수단들을 제안하고자 한다.In order to overcome this limitation, the present invention intends to propose various means capable of collecting road information and detecting a change in an object on the road.
도 1은 본 발명의 일 실시예에 따른 도로 정보 수집 시스템의 구성도이다.1 is a block diagram of a road information collection system according to an embodiment of the present invention.
도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 도로 정보 수집 시스템은 도로 정보 수집 장치(100), 데이터 가공 장치(200) 및 관리 서버(300)를 포함하여 구성될 수 있다.As shown in FIG. 1 , the road information collection system according to an embodiment of the present invention may include a road
이와 같은, 일 실시예에 따른 시스템의 구성 요소들은 기능적으로 구분되는 요소들을 나타낸 것에 불과하므로, 둘 이상의 구성 요소가 실제 물리적 환경에서는 서로 통합되어 구현되거나, 하나의 구성 요소가 실제 물리적 환경에서는 서로 분리되어 구현될 수 있을 것이다.As such, since the components of the system according to an embodiment are merely functionally distinct elements, two or more components are implemented by being integrated with each other in the actual physical environment, or one component is separated from each other in the actual physical environment. and can be implemented.
각각의 구성 요소에 대하여 설명하면, 도로 정보 수집 장치(100)는 도로 정보 수집을 위한 데이터를 수집하는데 사용될 수 있는 장치이다.Each component will be described. The road
즉, 도로 정보 수집 장치(100)는 차량에 설치되어, 차량에 의해 이동하면서 차량을 중심으로 이미지를 촬영하거나, 3차원 점군 데이터를 획득할 수 있다. 그리고, 도로 정보 수집 장치(100)는 촬영 또는 획득된 데이터들이 가공될 수 있도록, 데이터 가공 장치(200)에 전송할 수 있다. 여기서, 차량은 물류 이송 차량이 될 수 있으나, 이에 한정된 것은 아니다.That is, the road
이를 위해, 도로 정보 수집 장치(100)는 카메라(camera) 또는 라이다(lidar)를 포함하여 구성될 수 있다. 여기서 카메라는 전방을 촬영하는 전방 카메라, 측방을 촬영하는 측방 카메라 및 후방을 촬영하는 후방 카메라를 포함할 수 있다.To this end, the road
이와 같은, 도로 정보 수집 장치(100)의 카메라 및 라이다에 대해서는 추후 도 2를 참조하여 보다 구체적으로 설명하기로 한다.Such a camera and lidar of the road
다음 구성으로, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 획득된 이미지 또는 3D 점군 데이터를 가공하는데 사용될 수 있는 장치이다.With the following configuration, the
특징적으로, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)의 전방 카메라 및 측방 카메라로부터 촬영된 전방 이미지 및 측방 이미지를 수집할 수 있다. 데이터 가공 장치(200)는 전방 카메라 및 측방 카메라 각각의 위치를 기반으로 전방 이미지 및 측방 이미지의 캘리브레이션(calibration)을 수행하고, 캘리브레이션 된 전방 이미지 및 측방 이미지를 합성한 정합 이미지를 생성할 수 있다.Characteristically, the
또한, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)의 라이다(lidar) 및 카메라(camera)에 의해 동시에 획득 및 촬영된 3D 점군 데이터(points group) 및 이미지(image)를 수집할 수 있다. 데이터 가공 장치(200)는 수집된 3D 점군 데이터를 기존에 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별하고, 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 이미지에 오버레이(overlay) 할 수 있다. 여기서, 레퍼런스 3D 점군 데이터는 비교 대상이 되는 3D 점군 데이터를 획득한 도로 상에서 사전에 획득된 데이터가 될 수 있다.In addition, the
이와 같은 특징을 가지는 데이터 가공 장치(200)는 도로 정보 수집 장치(100) 및 관리 서버(300)와 데이터를 송수신하고, 송수신된 데이터를 기초로 연산을 수행할 수 있는 장치라면 어떠한 장치라도 허용될 수 있다. 예를 들어, 학습 데이터 생성 장치(200)는 데스크탑(desktop), 워크스테이션(workstation) 또는 서버(server)와 같은 고정식 컴퓨팅 장치 중 어느 하나가 될 수 있으나, 이에 한정되는 것은 아니다.The
다음 구성으로, 관리 서버(300)는 데이터 가공 장치(200)로부터 가공된 정보를 수집하여 관리하는 역할을 수행할 수 있다. 예를 들어, 관리 서버(300)는 차량의 자율주행을 위한 도로 정보를 관리하는 서버이거나, 도로 주변의 시설물을 관리하는 서버, 도로 상의 차량의 주차를 관리하는 서버 등이 될 수 있다.With the following configuration, the
특징적으로, 관리 서버(300)는 도로 상의 신규 객체 및 누락 객체의 위치 좌표, 이미지를 포함하는 변화 탐지 정보를 데이터 가공 장치(200)로부터 수신할 수 있다. 예를 들어, 관리 서버(300)는 포트홀(pothole), 싱크홀(sinkhole), 주차된 차량 등과 같은 기존에 존재하지 않은 객체에 대한 변화 탐지 정보를 데이터 가공 장치(200)로부터 수신하여 관리할 수 있다.Characteristically, the
이와 같은 특징을 가지는 관리 서버(300)는 데이터 가공 장치(200)와 데이터를 송수신하고, 송수신된 데이터를 기초로 연산을 수행할 수 있는 장치라면 어떠한 장치라도 허용될 수 있다. 예를 들어, 학습 데이터 생성 장치(200)는 데스크탑(desktop), 워크스테이션(workstation) 또는 서버(server)와 같은 고정식 컴퓨팅 장치 중 어느 하나가 될 수 있으나, 이에 한정되는 것은 아니다.The
지금까지 상술한 바와 같은, 도로 정보 수집 장치(100), 데이터 가공 장치(200) 및 관리 서버(300)는 장치들 사이를 직접 연결하는 보안 회선, 공용 유선 통신망 또는 이동 통신망 중 하나 이상이 조합된 네트워크를 이용하여 데이터를 송수신할 수 있다. As described above, the road
예를 들어, 공용 유선 통신망에는 이더넷(ethernet), 디지털가입자선(x Digital Subscriber Line, xDSL), 광동축 혼합망(Hybrid Fiber Coax, HFC), 광가입자망(Fiber To The Home, FTTH)가 포함될 수 있으나, 이에 한정되는 것도 아니다. 그리고, 이동 통신망에는 코드 분할 다중 접속(Code Division Multiple Access, CDMA), 와이드 밴드 코드 분할 다중 접속(Wideband CDMA, WCDMA), 고속 패킷 접속(High Speed Packet Access, HSPA), 롱텀 에볼루션(Long Term Evolution, LTE), 5세대 이동통신(5th generation mobile telecommunication)가 포함될 수 있으나, 이에 한정되는 것은 아니다.For example, public wired networks include Ethernet, x Digital Subscriber Line (xDSL), Hybrid Fiber Coax (HFC), and Fiber To The Home (FTTH). However, it is not limited thereto. In addition, mobile communication networks include Code Division Multiple Access (CDMA), Wideband CDMA, WCDMA, High Speed Packet Access (HSPA), Long Term Evolution, LTE) and 5th generation mobile telecommunication may be included, but are not limited thereto.
이하, 본 발명의 일 실시예에 따른 도로 정보 수집 장치(100)에 대하여 상세히 설명하도록 한다.Hereinafter, the road
도 2는 본 발명의 일 실시예에 따른 도로 정보 수집 장치를 설명하기 위한 예시도이다.2 is an exemplary view for explaining a road information collecting apparatus according to an embodiment of the present invention.
도 2에 도시된 바와 같이, 본 발명의 일 실시예에 따른 도로 정보 수집 장치(100)는 차량(10)에 고정 설치된 카메라(110) 및 라이다(120) 중 적어도 하나 이상을 제어하여, 도로와 관련한 정보를 촬영 또는 획득할 수 있다.As shown in FIG. 2 , the
여기서, 차량(10)은 도로 정보 수집을 위한 카메라(110) 및 라이다(120)가 설치된 차량으로, 물류 운송 차량이 될 수 있다. 예를 들어, 차량(10)은 택배 차량이 될 수 있다.Here, the
카메라(110)는 차량(10)에 고정 설치되어 차량(10)의 주위에 대한 2차원 이미지를 촬영할 수 있다. 이러한, 카메라(110)는 전방에 대한 이미지를 촬영하는 전방 카메라, 측방에 대한 이미지를 촬영하는 측방 카메라 및 후방에 대한 이미지를 촬영하는 후방 카메라로 구성될 수 있다. 여기서, 전방 카메라, 측방 카메라 및 후방 카메라는 최대 180°화각을 가질 수 있다.The
구체적으로, 전방 카메라는 차량(10)의 전면 창 내측에 설치될 수 있으며, 차량(10)의 주행과 관련한 정보를 기록하는 블랙박스(black box)가 활용될 수 있다. 측방 카메라는 차량(10)의 물류 적재 공간의 양측면에 각각 설치될 수 있다. 후방 카메라는 차량(10)의 물류 적재 공간의 후면에 설치될 수 있으며, 지면을 향하여 틸팅(tilting) 되어 설치될 수 있다.Specifically, the front camera may be installed inside the front window of the
여기서, 전방 카메라 및 측방 카메라에 의해 촬영된 이미지는 도로 노면을 제외한 차량을 중심으로 한 도로 주변의 360°이미지를 생성하는데 활용될 수 있다. 후방 카메라에 의해 촬영된 이미지는 도로 노면에 대한 정보를 획득하는데 활용될 수 있다.Here, the images taken by the front camera and the side camera may be utilized to generate a 360° image around the road centered on the vehicle except for the road surface. The image taken by the rear camera may be utilized to obtain information about the road surface.
라이다(120)는 차량(10)에 고정 설치되어 차량(10)의 주위로 레이저 펄스(laser pulse)를 방사하고, 차량(10)의 주위에 위치하는 객체에 의해 반사되어 돌아온 빛을 감지하여, 차량(10)의 주위에 대한 3차원 영상에 해당하는 3D 점군 데이터를 생성할 수 있다.The lidar 120 is fixedly installed in the
다르게 말하면, 3D 점군 데이터는 차량(10)에 고정 설치된 라이다(120)에 의해 차량의 주위로 방사된 레이저 펄스를 반사시킨 점들에 대한 3차원 정보이다. 따라서, 3D 점군 데이터에 포함된 점들의 좌표들은 차량(10)의 주위에 위치하는 객체의 위치 및 형성에 대응하는 값을 가질 수 있다.In other words, the 3D point cloud data is three-dimensional information about points that reflect a laser pulse radiated around the vehicle by the lidar 120 fixedly installed in the
이하, 본 발명의 일 실시예에 따른 데이터 가공 장치(200)의 논리적 구성에 대하여 보다 구체적으로 설명하기로 한다.Hereinafter, a logical configuration of the
도 3은 본 발명의 일 실시예에 따른 데이터 가공 장치의 논리적 구성도이다.3 is a logical configuration diagram of a data processing apparatus according to an embodiment of the present invention.
도 3에 도시된 바와 같이, 데이터 가공 장치(200)는 통신부(205), 입출력부(210), 정보 수집부(215), 캘리브레이션 부(220), 이미지 정합부(225), 객체 식별부(230), 오버레이 부(235) 및 변화 탐지 정보 전송부(240)를 포함하여 구성될 수 있다.As shown in FIG. 3 , the
이와 같은, 데이터 가공 장치(200)의 구성 요소들은 기능적으로 구분되는 요소들을 나타낸 것에 불과하므로, 둘 이상의 구성 요소가 실제 물리적 환경에서는 서로 통합되어 구현되거나, 하나의 구성 요소가 실제 물리적 환경에서는 서로 분리되어 구현될 수 있을 것이다.As such, the components of the
각각의 구성 요소에 대하여 설명하면, 통신부(205)는 도로 정보 수집 장치(100) 및 관리 서버(300)와 데이터를 송수신할 수 있다.Each component will be described. The
구체적으로, 통신부(205)는 도로 정보 수집 장치(100)로부터 카메라(110) 및 라이다(120)로부터 이미지 및 3D 점군 데이터를 수신할 수 있다. 또한 통신부(205)는 생성한 정합 이미지를 관리 서버(300)에 전송하거나, 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)이 오버레이(overlay) 된 이미지를 관리 서버(300)에 전송할 수 있다.Specifically, the
다음 구성으로, 입출력부(210)는 사용자 인터페이스(UI)를 통해 사용자로부터 신호를 입력 받거나, 연산 결과를 외부로 출력할 수 있다.With the following configuration, the input/
구체적으로, 입출력부(210)는 통신부(205)를 통해 수집된 전방 이미지, 측방 이미지 및 후방 이미지의 캘리브레이션과, 정합 이미지를 생성하기 위한 제어 신호를 입력 받을 수 있다. 또한, 입출력부(210)는 통신부(205)를 통해 수집된 3D 점군 데이터를 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별하고, 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 이미지에 오버레이(overlay) 하기 위한 제어 신호를 입력 받을 수 있다.Specifically, the input/
다음 구성으로, 정보 수집부(215)는 통신부(205)를 통해 도로 정보 수집 장치(100)로부터 전방 카메라에 의해 촬영된 전방 이미지 및 측방 카메라에 의해 촬영된 측방 이미지를 수집할 수 있다. 더하여, 정보 수집부(215)는 후방 카메라에 의해 촬영된 후방 이미지를 전방 이미지 및 측방 이미지와 동시에 수집할 수 있다.With the following configuration, the information collection unit 215 may collect a front image photographed by the front camera and a side image photographed by the side camera from the road
또한, 정부 수집부(215)는 통신부(205)를 통해 도로 정보 수집 장치(100)로부터 라이다(120)에 의해 획득된 3D 점군 데이터를 수집할 수 있다.Also, the government collection unit 215 may collect 3D point cloud data obtained by the lidar 120 from the road
또한, 정보 수집부(215)는 도로 정보 수집 장치(100)로부터 센싱 된 차량의 바퀴 회전수를 수신할 수 있다. 여기서, 정보 수집부(215)는 도로 정보 수집 장치(100)로부터 바퀴 회전수가 수신되지 않는 경우, 차량이 정차 상태인 것으로 판단하고, 전방 이미지, 측방 이미지, 후방 이미지 및 3D 점군 데이터의 수집을 중지할 수 있다.Also, the information collection unit 215 may receive the wheel rotation speed of the vehicle sensed from the road
또한, 정부 수집부(215)는 전방 이미지, 측방 이미지 및 후방 이미지 중 적어도 하나에 대한 연속된 이미지 사이의 유사도를 산출하고, 유사도가 사전에 설정된 값 이상인 경우, 차량이 정차 상태인 것으로 판단할 수 있다. 여기서, 정보 수집부(215)는 연속된 이미지에서 픽셀(pixel)에 대한 RGB(Red, Green, Blue) 히스토그램을 생성하고, 생성된 RGB 히스토그램을 비교하여 유사도를 산출할 수 있다. 여기서, RGB 히스토그램은 이미지에서 각 원색(RGB)의 밝기 분포를 나타내는 그래프이다. 예를 들어, RGB 히스토그램은 가로축이 컬러의 밝기 레벨을 표시하며, 세로축이 컬러의 밝기 레벨에 할당된 픽셀 수로 표시되고, 좌측으로 치우친 픽셀 수가 많을수록 색상이 어둡고 덜 선명하게 표현되며, 우측으로 치운 친 픽셀 수가 많을수록 색상이 더 밝고 진하게 표현될 수 있다. 이와 같이, 정부 수집부(215)는 RGB 히스토그램을 통해 연속된 이미지의 색상의 채도와 계조 상태, 화이트 밸런스의 성향 등을 비교하여 유사도를 산출할 수 있다.In addition, the government collection unit 215 calculates the similarity between consecutive images for at least one of the front image, the side image, and the rear image, and when the similarity is greater than or equal to a preset value, it can be determined that the vehicle is in a stopped state. have. Here, the information collection unit 215 may generate a red, green, blue (RGB) histogram for a pixel in a continuous image, and calculate a similarity by comparing the generated RGB histogram. Here, the RGB histogram is a graph showing the brightness distribution of each primary color (RGB) in the image. For example, in an RGB histogram, the horizontal axis represents the brightness level of a color, and the vertical axis represents the number of pixels assigned to the color's brightness level. The higher the number of pixels, the brighter and darker the color can be expressed. In this way, the government collecting unit 215 may calculate the similarity by comparing the color saturation and gradation state, the white balance inclination, etc. of consecutive images through the RGB histogram.
또한, 정보 수집부(215)는 도로 정보 수집 장치(100)로부터 바퀴 회전수가 수신되지 않은 시점으로부터 사전 설정된 시간 동안 연속된 이미지 사이의 유사도가 사전에 설정된 값 이상인 경우, 차량이 정차 상태인 것으로 최종 판단할 수 있다. 즉, 정보 수집부(215)는 바퀴 회전수와 연속된 이미지 사이의 유사도를 통한 2단계 검증을 통해 차량의 정차 여부를 명확히 파악하고, 주행시에만 도로 정보 수집 장치(100)로부터 이미지 또는 3D 점군 데이터를 수집할 수 있다.In addition, the information collecting unit 215 determines that the vehicle is in a stopped state when the similarity between consecutive images for a preset time is greater than or equal to a preset value from a point in time when the wheel rotation speed is not received from the road
다음 구성으로, 캘리브레이션 부(220)는 전방 카메라 및 측방 카메라 각각의 위치를 기반으로 전방 이미지 및 측방 이미지의 캘리브레이션(calibration)을 수행할 수 있다.With the following configuration, the calibration unit 220 may perform calibration of the front image and the side image based on the positions of the front camera and the side camera, respectively.
구체적으로, 캘리브레이션 부(220)는 전방 카메라, 측방 카메라 및 후방 카메라 간의 거리 및 차량의 이동 거리를 기초로 전방 이미지, 측방 이미지 및 후방 이미지의 캘리브레이션을 수행할 수 있다. 여기서, 캘리브레이션 부(220)는 도로 정보 수집 장치(100)로부터 센싱 된 차량의 바퀴 회전수를 기초로 차량의 이동 거리를 산출할 수 있다.Specifically, the calibrator 220 may perform calibration of the front image, the side image, and the rear image based on the distance between the front camera, the side camera, and the rear camera and the moving distance of the vehicle. Here, the calibrator 220 may calculate the moving distance of the vehicle based on the wheel rotation speed sensed by the road
즉, 캘리브레이션 부(220)는 전방 카메라 및 측방 카메라의 이격 거리만큼 차량이 이동한 시간과, 전방 이미지 또는 측방 이미지의 촬영 시각을 기초로, 합성할 전방 이미지 및 측방 이미지를 결정할 수 있다. That is, the calibrator 220 may determine the front image and the side image to be synthesized based on the time the vehicle moves by the separation distance between the front camera and the side camera and the photographing time of the front image or the side image.
예를 들어, 차량이 전방 카메라 및 측방 카메라 간의 거리만큼 이동하는데 걸리는 시간은 차량이 전방 카메라 및 측방 카메라 간의 거리에서 차량의 속도를 나눈 값이 될 수 있다. 이에 따라, 캘리브레이션 부(220)는 산출된 시간 값을 기초로 전방 이미지 및 측방 이미지의 싱크(sync)를 조절할 수 있다.For example, the time it takes for the vehicle to move by the distance between the front camera and the side camera may be a value obtained by dividing the speed of the vehicle by the distance between the front camera and the side camera. Accordingly, the calibrator 220 may adjust the sync of the front image and the side image based on the calculated time value.
또한, 캘리브레이션 부(220)는 전방 카메라 및 측방 카메라에 각각 설치된 라이다(lidar)로부터 전방 이미지 및 측방 이미지와 동시에 획득된 3D 점군 데이터(points group)를 통해 전방 이미지 및 측방 이미지에 동시에 존재하는 객체(object)를 추출하고, 추출된 객체와의 거리를 기초로 합성할 전방 이미지 및 측방 이미지를 재조정할 수 있다.In addition, the calibration unit 220 is an object present in the front image and the side image through 3D point group data (points group) obtained simultaneously with the front image and the side image from the lidar installed in the front camera and the side camera, respectively. (object) may be extracted, and the front image and the side image to be synthesized may be readjusted based on the distance to the extracted object.
즉, 캘리브레이션 부(220)는 전방 카메라 및 측방 카메라 간의 거리를 기초로 전방 이미지 및 후방 이미지 사이의 싱크를 1차적으로 조절할 수 있으며, 3D 점군 데이터를 이용하여 전방 이미지 및 측방 이미지에 동시에 존재하는 객체를 기초로 전방 이미지 및 측방 이미지 사이의 싱크를 2차적으로 조절할 수 있다.That is, the calibrator 220 may primarily adjust the sync between the front image and the rear image based on the distance between the front camera and the side camera, and an object that exists simultaneously in the front image and the side image using 3D point cloud data. Based on , the sync between the front image and the lateral image can be adjusted secondarily.
다음 구성으로, 이미지 정합부(225)는 캘리브레이션 된 전방 이미지 및 측방 이미지를 합성한 정합 이미지를 생성할 수 있다.With the following configuration, the
구체적으로, 이미지 정합부(225)는 전방 이미지 및 측방 이미지를 합성하여, 도로 노면 영역을 제외한 제1 정합 이미지를 생성하고, 생성한 제1 정합 이미지에 후방 이미지를 합성하여 도로 노면 영역을 포함한 제2 정합 이미지를 생성할 수 있다. 이를 통해, 이미지 정합부(225)는 각 영역에 대하여 왜곡되지 않은 정확한 정합 이미지를 획득할 수 있다.Specifically, the
즉, 전방 이미지는 신호등, 표지판 등과 같은 교통 정보를 획득하는데 사용할 수 있고, 측방 이미지는 상점과 같은 건축물 정보를 획득하는데 사용할 수 있으며, 후방 이미지는 도로 노면 정보를 획득하는 데 사용될 수 있다.That is, the front image may be used to acquire traffic information such as traffic lights and signs, and the side image may be used to acquire building information such as a store, and the rear image may be used to acquire road surface information.
다음 구성으로, 객체 식별부(230)는 수집된 3D 점군 데이터를 기존에 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별할 수 있다.With the following configuration, the
구체적으로, 객체 식별부(230)는 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 기초로 객체를 식별하고, 식별된 객체가 레퍼런스 3D 점군 데이터에 존재하는지 여부를 확인하여 신규 객체를 식별할 수 있다.Specifically, the
또한, 객체 식별부(230)는 레퍼런스 3D 점군 데이터에 존재하나, 수집된 3D 점군 데이터에 존재하지 않는 누락 객체를 식별할 수 있다. 여기서, 객체 식별부(230)는 레퍼런스 3D 점군 데이터에 포함된 객체가 수집된 3D 점군 데이터에 존재하지 않는 경우, 수집된 3D 점군 데이터를 기초로 레퍼런스 3D 점군 데이터를 업데이트할 수 있다. 예를 들어, 레퍼런스 3D 점군 데이터는 주차된 차량이나 불필요한 장애물 등이 존재하는 상태에서 획득된 데이터가 될 수 있다. 이에 따라, 객체 식별부(230)는 레퍼런스 3D 점군 데이터에 존재하나, 수집된 3D 점군 데이터에 존재하지 않는 누락 객체를 식별하여, 레퍼런스 3D 점군 데이터를 보완하여 업데이트할 수 있다.Also, the
또한, 객체 식별부(230)는 신규 객체 및 누락 객체의 유형을 식별할 수 있다. 즉, 객체 식별부(230)는 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 식별하고, 식별된 군집의 X축 상의 폭, Y축 상의 높이 및 Z축 상의 깊이를 기초로 객체의 유형을 식별할 수 있다. 여기서, 객체 식별부(230)는 객체의 유형별로 사전에 구비된 폭, 높이 및 깊이의 비율 관계(rate relation)를 기초로, 식별된 군집의 X축 상의 폭, Y축 상의 높이 및 Z축 상의 깊이에 대응하는 객체의 유형을 식별할 수 있다.Also, the
다음 구성으로, 오버레이 부(235)는 식별된 신규 객체 및 누락 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 이미지에 오버레이(overlay) 할 수 있다. 여기서, 오버레이 부(235)는 객체의 유형에 따라 사전에 기계 학습(machine learning) 된 인공 지능(Artificial Intelligence, AI)을 이용하여, 신규 객체 및 누락 객체를 정제하고, 정제된 신규 객체 및 누락 객체에 대한 3D 점군 데이터에 포함된 점들을 촬영된 이미지에 오버레이 할 수 있다. 이때, 오버레이 부(235)는 신규 객체의 움직임 여부를 판단하고, 신규 객체 중 움직임이 존재하는 것으로 판단된 신규 객체를 정제할 수 있다. 즉, 오버레이 부(235)는 움직임이 존재하는 신규 객체를 이동하는 차량과 같은 도로 정보 수집에 불필요한 객체로 판단하고 정제할 수 있다.With the following configuration, the
또한, 오버레이 부(235)는 신규 객체 및 누락 객체의 3D 점군 데이터에 포함된 점들(point)의 색상을 각각 달리하여 이미지에 오버레이 할 수 있다. 즉, 오버레이 부(235)는 신규 객체 및 누락 객체의 색상을 달리하여, 신규 객체 및 누락 객체를 직관적으로 구분하도록 할 수 있다. 예를 들어, 오버레이 부(235)는 신규 객체를 파란색으로, 누락 객체를 빨간색으로 표시하여 구분할 수 있다.In addition, the
다음 구성으로, 변화 탐지 정보 전송부(240)는 신규 객체 및 누락 객체의 위치 좌표, 오버레이 된 이미지를 포함하는 변화 탐지 정보를 관리 서버(300)에 전송할 수 있다.With the following configuration, the change
이하, 상술한 바와 같은 데이터 가공 장치(200)의 논리적 구성요소를 구현하기 위한 하드웨어에 대하여 보다 구체적으로 설명한다.Hereinafter, hardware for implementing the logical components of the
도 4는 본 발명의 일 실시예에 따른 데이터 가공 장치의 하드웨어 구성도이다.4 is a hardware configuration diagram of a data processing apparatus according to an embodiment of the present invention.
도 4에 도시된 바와 같이, 학습 데이터 생성 장치(200)는 프로세서(Processor, 250), 메모리(Memory, 255), 송수신기(Transceiver, 260), 입출력장치(Input/output device, 265), 데이터 버스(Bus, 270) 및 스토리지(Storage, 275)를 포함하여 구성될 수 있다. As shown in FIG. 4 , the learning
프로세서(250)는 메모리(255)에 상주된 본 발명의 실시예들에 따른 방법이 구현된 소프트웨어(280a)에 따른 명령어를 기초로, 데이터 가공 장치(200)의 동작 및 기능을 구현할 수 있다. 메모리(255)에는 본 발명의 실시예들에 따른 방법이 구현된 소프트웨어(280a)가 상주(loading)될 수 있다. 송수신기(260)는 도로 정보 수집 장치(100) 및 관리 서버(300)와 데이터를 송수신할 수 있다. 입출력장치(265)는 데이터 가공 장치(200)의 동작에 필요한 데이터를 입력 받고, 정합 이미지, 변화 탐지 정보 등의 작업 결과물을 출력할 수 있다. 데이터 버스(270)는 프로세서(250), 메모리(255), 송수신기(260), 입출력장치(265) 및 스토리지(275)와 연결되어, 각각의 구성 요소 사이가 서로 데이터를 전달하기 위한 이동 통로의 역할을 수행할 수 있다.The
스토리지(275)는 본 발명의 실시예들에 따른 방법이 구현된 소프트웨어(280a)의 실행을 위해 필요한 애플리케이션 프로그래밍 인터페이스(Application Programming Interface, API), 라이브러리(library) 파일, 리소스(resource) 파일 등을 저장할 수 있다. 스토리지(275)는 본 발명의 실시예들에 따른 방법이 구현된 소프트웨어(280b)를 저장할 수 있다. 또한, 스토리지(275)는 본 발명의 실시예들에 따른 방법의 수행에 필요한 정보들을 저장할 수 있다. The storage 275 stores an application programming interface (API), a library file, a resource file, etc. necessary for the execution of the
본 발명의 일 실시예에 따르면, 메모리(255)에 상주되거나 또는 스토리지(275)에 저장된, 도로 정보 수집 방법을 구현하기 위한 소프트웨어(280a, 280b)는 프로세서(250)가 도로 정보 수집을 위하여 차량에 설치되어 전방 이미지를 촬영하는 전방 카메라 및 측방 이미지를 촬영하는 측방 카메라를 포함하는 도로 정보 수집 장치로부터 상기 전방 이미지 및 상기 측방 이미지를 수집하는 단계, 상기 프로세서가, 상기 전방 카메라 및 상기 측방 카메라 각각의 위치를 기반으로 상기 전방 이미지 및 상기 측방 이미지의 캘리브레이션(calibration)을 수행하는 단계 및 상기 프로세서가, 상기 캘리브레이션 된 상기 전방 이미지 및 상기 측방 이미지를 합성한 정합 이미지를 생성하는 단계를 실행시키기 위하여 기록매체에 기록된 컴퓨터 프로그램이 될 수 있다.According to an embodiment of the present invention, the software (280a, 280b) for implementing the road information collection method, resident in the
본 발명의 일 실시예에 따르면, 메모리(255)에 상주되거나 또는 스토리지(275)에 저장된, 변화 탐지 방법을 구현하기 위한 소프트웨어(280a, 280b)는 프로세서(250)가 차량에 설치된 라이다(lidar) 및 카메라(camera)에 의해 동시에 획득 및 촬영된 3D 점군 데이터(points group) 및 이미지(image)를 수집하는 단계, 상기 프로세서가, 상기 수집된 3D 점군 데이터를 동일한 위치에서 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별하는 단계 및 상기 프로세서가, 상기 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 상기 이미지에 오버레이(overlay) 하는 단계를 실행시키기 위하여, 기록매체에 기록된 컴퓨터 프로그램이 될 수 있다.According to an embodiment of the present invention, the
보다 구체적으로, 프로세서(250)는 ASIC(Application-Specific Integrated Circuit), 다른 칩셋(chipset), 논리 회로 및/또는 데이터 처리 장치를 포함할 수 있다. 메모리(255)는 ROM(Read-Only Memory), RAM(Random Access Memory), 플래쉬 메모리, 메모리 카드, 저장 매체 및/또는 다른 저장 장치를 포함할 수 있다. 송수신기(260)는 유무선 신호를 처리하기 위한 베이스밴드 회로를 포함할 수 있다. 입출력장치(265)는 키보드(keyboard), 마우스(mouse), 및/또는 조이스틱(joystick) 등과 같은 입력 장치 및 액정표시장치(Liquid Crystal Display, LCD), 유기 발광 다이오드(Organic LED, OLED) 및/또는 능동형 유기 발광 다이오드(Active Matrix OLED, AMOLED) 등과 같은 영상 출력 장치 프린터(printer), 플로터(plotter) 등과 같은 인쇄 장치를 포함할 수 있다. More specifically, the
본 명세서에 포함된 실시 예가 소프트웨어로 구현될 경우, 상술한 방법은 상술한 기능을 수행하는 모듈(과정, 기능 등)로 구현될 수 있다. 모듈은 메모리(255)에 상주되고, 프로세서(250)에 의해 실행될 수 있다. 메모리(255)는 프로세서(250)의 내부 또는 외부에 있을 수 있고, 잘 알려진 다양한 수단으로 프로세서(250)와 연결될 수 있다.When the embodiment included in this specification is implemented in software, the above-described method may be implemented as a module (process, function, etc.) that performs the above-described function. Modules reside in
도 4에 도시된 각 구성요소는 다양한 수단, 예를 들어, 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 본 발명의 일 실시예는 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서, 콘트롤러, 마이크로 콘트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.Each component shown in FIG. 4 may be implemented by various means, for example, hardware, firmware, software, or a combination thereof. In the case of implementation by hardware, an embodiment of the present invention provides one or more Application Specific Integrated Circuits (ASICs), Digital Signal Processors (DSPs), Digital Signal Processing Devices (DSPDs), Programmable Logic Devices (PLDs), FPGAs ( Field Programmable Gate Arrays), a processor, a controller, a microcontroller, a microprocessor, etc. may be implemented.
또한, 펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 일 실시예는 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차, 함수 등의 형태로 구현되어, 다양한 컴퓨터 수단을 통하여 판독 가능한 기록매체에 기록될 수 있다. 여기서, 기록매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 기록매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 예컨대 기록매체는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(Magnetic Media), CD-ROM(Compact Disk Read Only Memory), DVD(Digital Video Disk)와 같은 광 기록 매체(Optical Media), 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치를 포함한다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한, 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.In addition, in the case of implementation by firmware or software, an embodiment of the present invention is implemented in the form of a module, procedure, function, etc. that performs the functions or operations described above, and is stored in a recording medium readable through various computer means. can be recorded. Here, the recording medium may include a program command, a data file, a data structure, etc. alone or in combination. The program instructions recorded on the recording medium may be specially designed and configured for the present invention, or may be known and available to those skilled in the art of computer software. For example, the recording medium includes a magnetic medium such as a hard disk, a floppy disk, and a magnetic tape, an optical recording medium such as a compact disk read only memory (CD-ROM), a digital video disk (DVD), and a floppy disk. magneto-optical media, such as a disk, and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions may include high-level language codes that can be executed by a computer using an interpreter or the like as well as machine language codes such as those generated by a compiler. Such hardware devices may be configured to operate as one or more software to perform the operations of the present invention, and vice versa.
이하, 본 발명의 일 실시예에 따른 도로 정보 수집 방법에 대하여 상세히 설명하도록 한다.Hereinafter, a method for collecting road information according to an embodiment of the present invention will be described in detail.
도 5는 본 발명의 일 실시예에 따른 도로 정보 수집 방법을 설명하기 위한 순서도이다.5 is a flowchart illustrating a method for collecting road information according to an embodiment of the present invention.
도 5에 도시된 바와 같이, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 전방 카메라 및 전방 카메라에 의해 촬영된 전방 이미지 및 측방 이미지를 수집할 수 있다(S110). 더하여, 데이터 가공 장치(200)는 후방 카메라에 의해 촬영된 후방 이미지를 전방 이미지 및 측방 이미지와 동시에 수집할 수 있다.As shown in FIG. 5 , the
또한, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 센싱 된 차량의 바퀴 회전수를 수신할 수 있다. 여기서, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 바퀴 회전수가 수신되지 않는 경우, 차량이 정차 상태인 것으로 판단하고, 전방 이미지, 측방 이미지 및 후방 이미지의 수집을 중지할 수 있다.Also, the
또한, 데이터 가공 장치(200)는 전방 이미지, 측방 이미지 및 후방 이미지 중 적어도 하나에 대한 연속된 이미지 사이의 유사도를 산출하고, 유사도가 사전에 설정된 값 이상인 경우, 차량이 정차 상태인 것으로 판단할 수 있다. 여기서, 데이터 가공 장치(200)는 연속된 이미지에서 픽셀(pixel)에 대한 RGB(Red, Green, Blue) 히스토그램을 생성하고, 생성된 RGB 히스토그램을 비교하여 유사도를 산출할 수 있다.In addition, the
또한, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 바퀴 회전수가 수신되지 않은 시점으로부터 사전 설정된 시간 동안 연속된 이미지 사이의 유사도가 사전에 설정된 값 이상인 경우, 차량이 정차 상태인 것으로 최종 판단할 수 있다.In addition, the
다음으로, 데이터 가공 장치(200)는 전방 카메라 및 측방 카메라 각각의 위치를 기반으로 전방 이미지 및 측방 이미지의 캘리브레이션(calibration)을 수행할 수 있다(S120).Next, the
구체적으로, 데이터 가공 장치(200)는 전방 카메라, 측방 카메라 및 후방 카메라 간의 거리 및 차량의 이동 거리를 기초로 전방 이미지, 측방 이미지 및 후방 이미지의 캘리브레이션을 수행할 수 있다. 여기서, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 센싱 된 차량의 바퀴 회전수를 기초로 차량의 이동 거리를 산출할 수 있다.Specifically, the
즉, 데이터 가공 장치(200)는 전방 카메라 및 측방 카메라의 이격 거리만큼 차량이 이동한 시간과, 전방 이미지 또는 측방 이미지의 촬영 시각을 기초로, 합성할 전방 이미지 및 측방 이미지를 결정할 수 있다. That is, the
또한, 데이터 가공 장치(200)는 전방 카메라 및 후방 카메라에 각각 설치된 라이다(lidar)로부터 전방 이미지 및 측방 이미지와 동시에 획득된 3D 점군 데이터(points group)를 통해 전방 이미지 및 측방 이미지에 동시에 존재하는 객체(object)를 추출하고, 추출된 객체와의 거리를 기초로 합성할 전방 이미지 및 측방 이미지를 재조정할 수 있다.In addition, the
그리고, 데이터 가공 장치(200)는 S120 단계에서 캘리브레이션 된 전방 이미지 및 측방 이미지를 합성한 정합 이미지를 생성할 수 있다(S130).In addition, the
구체적으로, 데이터 가공 장치(200)는 전방 이미지 및 측방 이미지를 합성하여, 도로 노면 영역을 제외한 제1 정합 이미지를 생성하고, 생성한 제1 정합 이미지에 후방 이미지를 합성하여 도로 노면 영역을 포함한 제2 정합 이미지를 생성할 수 있다. Specifically, the
이하, 본 발명의 일 실시예에 따른 변화 탐지 방법에 대하여 상세히 설명하도록 한다.Hereinafter, a change detection method according to an embodiment of the present invention will be described in detail.
도 6은 본 발명의 일 실시예에 따른 변화 탐지 방법을 설명하기 위한 순서도이다.6 is a flowchart illustrating a change detection method according to an embodiment of the present invention.
도 6을 참조하면, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 전방 카메라 및 전방 카메라에 의해 촬영된 전방 이미지 및 측방 이미지를 수집할 수 있다(S210). 더하여, 데이터 가공 장치(200)는 후방 카메라에 의해 촬영된 후방 이미지를 전방 이미지 및 측방 이미지와 동시에 수집할 수 있다. 또한, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 라이다(120)에 의해 획득된 3D 점군 데이터를 수집할 수 있다.Referring to FIG. 6 , the
또한, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 센싱 된 차량의 바퀴 회전수를 수신할 수 있다. 여기서, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 바퀴 회전수가 수신되지 않는 경우, 차량이 정차 상태인 것으로 판단하고, 전방 이미지, 측방 이미지 및 후방 이미지의 수집을 중지할 수 있다.In addition, the
또한, 데이터 가공 장치(200)는 전방 이미지, 측방 이미지 및 후방 이미지 중 적어도 하나에 대한 연속된 이미지 사이의 유사도를 산출하고, 유사도가 사전에 설정된 값 이상인 경우, 차량이 정차 상태인 것으로 판단할 수 있다. 여기서, 데이터 가공 장치(200)는 연속된 이미지에서 픽셀(pixel)에 대한 RGB(Red, Green, Blue) 히스토그램을 생성하고, 생성된 RGB 히스토그램을 비교하여 유사도를 산출할 수 있다.In addition, the
또한, 데이터 가공 장치(200)는 도로 정보 수집 장치(100)로부터 바퀴 회전수가 수신되지 않은 시점으로부터 사전 설정된 시간 동안 연속된 이미지 사이의 유사도가 사전에 설정된 값 이상인 경우, 차량이 정차 상태인 것으로 최종 판단할 수 있다.In addition, the
다음으로, 데이터 가공 장치(200)는 S210 단계에서 수집된 3D 점군 데이터를 기존에 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별할 수 있다(S220).Next, the
구체적으로, 데이터 가공 장치(200)는 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 기초로 객체를 식별하고, 식별된 객체가 레퍼런스 3D 점군 데이터에 존재하는지 여부를 확인하여 신규 객체를 식별할 수 있다.Specifically, the
또한, 데이터 가공 장치(200)는 레퍼런스 3D 점군 데이터에 존재하나, 수집된 3D 점군 데이터에 존재하지 않는 누락 객체를 식별할 수 있다. Also, the
여기서, 데이터 가공 장치(200)는 레퍼런스 3D 점군 데이터에 포함된 객체가 수집된 3D 점군 데이터에 존재하지 않는 경우, 수집된 3D 점군 데이터를 기초로 레퍼런스 3D 점군 데이터를 업데이트할 수 있다(S240). 예를 들어, 레퍼런스 3D 점군 데이터는 주차된 차량이나 불필요한 장애물 등이 존재하는 상태에서 획득된 데이터가 될 수 있다. 이에 따라, 객체 식별부(230)는 레퍼런스 3D 점군 데이터에 존재하나, 수집된 3D 점군 데이터에 존재하지 않는 누락 객체를 식별하여, 레퍼런스 3D 점군 데이터를 보완하여 업데이트할 수 있다.Here, when the object included in the reference 3D point cloud data does not exist in the collected 3D point cloud data, the
또한, 데이터 가공 장치(200)는 신규 객체 및 누락 객체의 유형을 식별할 수 있다. 즉, 데이터 가공 장치(200)는 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 식별하고, 식별된 군집의 X축 상의 폭, Y축 상의 높이 및 Z축 상의 깊이를 기초로 객체의 유형을 식별할 수 있다. 여기서, 데이터 가공 장치(200)는 객체의 유형별로 사전에 구비된 폭, 높이 및 깊이의 비율 관계(rate relation)를 기초로, 식별된 군집의 X축 상의 폭, Y축 상의 높이 및 Z축 상의 깊이에 대응하는 객체의 유형을 식별할 수 있다.In addition, the
다음으로, 데이터 가공 장치(200)는 식별된 신규 객체 및 누락 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 이미지에 오버레이(overlay) 할 수 있다(S230). 여기서, 데이터 가공 장치(200)는 객체의 유형에 따라 사전에 기계 학습(machine learning) 된 인공 지능(Artificial Intelligence, AI)을 이용하여, 신규 객체 및 누락 객체를 정제하고, 정제된 신규 객체 및 누락 객체에 대한 3D 점군 데이터에 포함된 점들을 촬영된 이미지에 오버레이 할 수 있다. 이때, 데이터 가공 장치(200)는 신규 객체의 움직임 여부를 판단하고, 신규 객체 중 움직임이 존재하는 것으로 판단된 신규 객체를 정제할 수 있다. 즉, 데이터 가공 장치(200)는 움직임이 존재하는 신규 객체를 이동하는 차량과 같은 도로 정보 수집에 불필요한 객체로 판단하고 정제할 수 있다. 여기서, 데이터 가공 장치(200)는 신규 객체 및 누락 객체의 3D 점군 데이터에 포함된 점들(point)의 색상을 각각 달리하여 이미지에 오버레이 할 수 있다.Next, the
그리고, 데이터 가공 장치(200)는 S230 단계에서 생성된 신규 객체 및 누락 객체가 오버레이 된 이미지, 해당 이미지의 위치 좌표를 포함하는 변화 탐지 정보를 관리 서버(300)에 전송할 수 있다(S250).In addition, the
도 7은 본 발명의 일 실시예에 따른 변화 탐지 방법을 설명하기 위한 예시도이다.7 is an exemplary diagram for explaining a change detection method according to an embodiment of the present invention.
본 발명의 실시예에 따른 데이터 가공 장치(200)는 차량에 설치된 라이다(lidar) 및 카메라(camera)에 의해 동시에 3D 점군 데이터(points group) 및 이미지(image)를 획득하고, 수집된 3D 점군 데이터를 기존에 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별할 수 있다.The
즉, 도 7에 도시된 바와 같이, 데이터 가공 장치(200)는 신규 객체(A) 및 누락 객체(B)에 대한 3D 점군 데이터에 포함된 점들(point)을 이미지에 오버레이 할 수 있다. 예를 들어, 신규 객체는 주차된 차량이 될 수 있으며, 누락 객체는 표지판이 될 수 있다. 데이터 가공 장치(200)는 신규 객체(A) 및 누락 객체(B)가 오버레이 된 이미지를 관리 서버(300)에 전송하여 주차 관리 또는 시설물 관리에 활용하도록 할 수 있다.That is, as shown in FIG. 7 , the
이와 같이, 데이터 가공 장치(200)는 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 이미지에 오버레이(overlay) 함으로써, 신규 객체의 식별이 용이하도록 할 수 있다.As such, the
이상과 같이, 본 명세서와 도면에는 본 발명의 바람직한 실시예에 대하여 개시하였으나, 여기에 개시된 실시예 외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다. 또한, 본 명세서와 도면에서 특정 용어들이 사용되었으나, 이는 단지 본 발명의 기술 내용을 쉽게 설명하고 발명의 이해를 돕기 위한 일반적인 의미에서 사용된 것이지, 본 발명의 범위를 한정하고자 하는 것은 아니다. 따라서, 상술한 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적해석에 의해 선정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.As described above, although preferred embodiments of the present invention have been disclosed in the present specification and drawings, it is in the technical field to which the present invention pertains that other modifications based on the technical idea of the present invention are possible in addition to the embodiments disclosed herein. It is obvious to those with ordinary knowledge. In addition, although specific terms have been used in the present specification and drawings, these are only used in a general sense to easily describe the technical contents of the present invention and help the understanding of the present invention, and are not intended to limit the scope of the present invention. Accordingly, the above detailed description should not be construed as restrictive in all respects but as exemplary. The scope of the present invention should be selected by rational interpretation of the appended claims, and all modifications within the equivalent scope of the present invention are included in the scope of the present invention.
100 : 도로 정보 수집 장치 200 : 데이터 가공 장치
300 : 관리 서버 205 : 통신부
210 : 입출력부 215 : 정보 수집부
220 : 캘리브레이션 부 225 : 이미지 정합부
230 : 객체 식별부 235 : 오버레이 부
240 : 변화 탐지 정보 전송부100: road information collection device 200: data processing device
300: management server 205: communication unit
210: input/output unit 215: information collection unit
220: calibration unit 225: image matching unit
230: object identification unit 235: overlay unit
240: change detection information transmission unit
Claims (10)
상기 데이터 가공 장치가, 상기 수집된 3D 점군 데이터를 기존에 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별하는 단계; 및
상기 데이터 가공 장치가, 상기 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 상기 이미지에 오버레이(overlay) 하는 단계를 포함하고,
상기 객체를 식별하는 단계는
상기 레퍼런스 3D 점군 데이터에 존재하나, 상기 수집된 3D 점군 데이터에 존재하지 않는 누락 객체를 식별하는 것을 특징으로 하며,
상기 오버레이 하는 단계는
객체의 유형에 따라 사전에 기계 학습(machine learning) 된 인공 지능(Artificial Intelligence, AI)을 이용하여, 상기 신규 객체 및 상기 누락 객체를 정제하고, 정제된 신규 객체 및 누락 객체에 대한 3D 점군 데이터에 포함된 점들을 상기 촬영된 이미지에 오버레이 하는 것을 특징으로 하고,
상기 오버레이 하는 단계는
상기 신규 객체의 움직임 여부를 판단하고, 상기 신규 객체 중 움직임 존재하는 것으로 판단된 신규 객체를 불필요한 객체로 판단하여 정제하는 것을 특징으로 하며,
상기 오버레이 하는 단계는
상기 신규 객체 및 상기 누락 객체가 각각 구분되도록 상기 신규 객체 및 상기 누락 객체의 3D 점군 데이터에 포함된 점들(point)의 색상을 각각 달리하여 상기 이미지에 오버레이 하는 것을 특징으로 하는, 변화 탐지 방법.
Collecting, by the data processing apparatus, 3D point group data and images simultaneously acquired and photographed by a lidar and a camera installed in the vehicle;
comparing, by the data processing device, the collected 3D point cloud data with previously acquired reference 3D point cloud data to identify a new object; and
Comprising, by the data processing apparatus, overlaying (overlaying) points included in 3D point cloud data for the identified new object on the image,
The step of identifying the object
Characterized in identifying missing objects that exist in the reference 3D point cloud data but do not exist in the collected 3D point cloud data,
The overlaying step
Using artificial intelligence (AI) that has been machine learned in advance according to the type of object, the new object and the missing object are refined, and the 3D point cloud data for the refined new object and the missing object It is characterized in that the included points are overlaid on the photographed image,
The overlaying step
It is characterized in that it is determined whether the new object is moved, and the new object determined to exist in motion among the new objects is determined and refined as an unnecessary object,
The overlaying step
The change detection method, characterized in that the new object and the missing object are respectively distinguished by different colors of points included in the 3D point cloud data of the new object and the missing object and overlaid on the image.
상기 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 기초로 객체를 식별하고, 상기 식별된 객체가 상기 레퍼런스 3D 점군 데이터에 존재하는지 여부를 확인하여 상기 신규 객체를 식별하는 것을 특징으로 하는, 변화 탐지 방법.According to claim 1, wherein the step of identifying the object
Objects are identified based on points forming a crowd within a preset threshold range among points included in the collected 3D point cloud data, and whether the identified object exists in the reference 3D point cloud data A change detection method, characterized in that by checking to identify the new object.
상기 레퍼런스 3D 점군 데이터에 포함된 객체가 상기 수집된 3D 점군 데이터에 존재하지 않는 경우, 상기 수집된 3D 점군 데이터를 기초로 상기 레퍼런스 3D 점군 데이터를 업데이트 하는 것을 특징으로 하는, 변화 탐지 방법.
The method of claim 1 , wherein after identifying the object,
When the object included in the reference 3D point cloud data does not exist in the collected 3D point cloud data, the reference 3D point cloud data is updated based on the collected 3D point cloud data.
상기 신규 객체 및 상기 누락 객체의 유형을 식별하는 것을 특징으로 하는, 변화 탐지 방법.
The method of claim 3, wherein identifying the object comprises:
and identifying the type of the new object and the missing object.
상기 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 식별하고, 상기 식별된 군집의 X축 상의 폭, Y축 상의 높이 및 Z축 상의 깊이를 기초로 상기 객체의 유형을 식별하는 것을 특징으로 하는, 변화 탐지 방법.
5. The method of claim 4, wherein the identifying the object comprises:
Among the points included in the collected 3D point cloud data, points forming a cluster within a preset threshold range are identified, and the identified cluster is identified by a width on an X-axis, a height on a Y-axis, and a depth on the Z-axis. A change detection method, characterized in that for identifying the type of the object based on
객체의 유형별로 사전에 구비된 폭, 높이 및 깊이의 비율 관계(rate relation)를 기초로, 상기 식별된 군집의 X축 상의 폭, Y축 상의 높이 및 Z축 상의 깊이에 대응하는 객체의 유형을 식별하는 것을 특징으로 하는, 변화 탐지 방법.
The method of claim 5, wherein identifying the object comprises:
Based on the rate relation of width, height, and depth provided in advance for each type of object, the type of object corresponding to the width on the X-axis, the height on the Y-axis, and the depth on the Z-axis of the identified cluster is determined. A method of detecting a change, characterized in that it identifies.
송수신기(transceiver); 및
상기 메모리에 상주된 명령어를 처리하는 프로세서(processor)를 포함하여 구성된 컴퓨팅 장치와 결합되어,
상기 프로세서가, 차량에 설치된 라이다(lidar) 및 카메라(camera)에 의해 동시에 획득 및 촬영된 3D 점군 데이터(points group) 및 이미지(image)를 수집하는 단계;
상기 프로세서가, 상기 수집된 3D 점군 데이터를 동일한 위치에서 획득된 레퍼런스 3D 점군 데이터와 비교하여 신규 객체를 식별하는 단계; 및
상기 프로세서가, 상기 식별된 신규 객체에 대한 3D 점군 데이터에 포함된 점들(point)을 상기 이미지에 오버레이(overlay) 하는 단계를 포함하여 실행시키되,
상기 객체를 식별하는 단계는
상기 레퍼런스 3D 점군 데이터에 존재하나, 상기 수집된 3D 점군 데이터에 존재하지 않는 누락 객체를 식별하는 것을 특징으로 하며,
상기 오버레이 하는 단계는
객체의 유형에 따라 사전에 기계 학습(machine learning) 된 인공 지능(Artificial Intelligence, AI)을 이용하여, 상기 신규 객체 및 상기 누락 객체를 정제하고, 정제된 신규 객체 및 누락 객체에 대한 3D 점군 데이터에 포함된 점들을 상기 촬영된 이미지에 오버레이 하는 것을 특징으로 하고,
상기 오버레이 하는 단계는
상기 신규 객체의 움직임 여부를 판단하고, 상기 신규 객체 중 움직임 존재하는 것으로 판단된 신규 객체를 불필요한 객체로 판단하여 정제하는 것을 특징으로 하며,
상기 오버레이 하는 단계는
상기 신규 객체 및 상기 누락 객체가 각각 구분되도록 상기 신규 객체 및 상기 누락 객체의 3D 점군 데이터에 포함된 점들(point)의 색상을 각각 달리하여 상기 이미지에 오버레이 하는 것을 특징으로 하는, 기록매체에 기록된 컴퓨터 프로그램.
memory;
transceiver; and
Combined with a computing device configured to include a processor for processing instructions resident in the memory,
collecting, by the processor, 3D point group data and images simultaneously acquired and photographed by a lidar and a camera installed in the vehicle;
identifying, by the processor, the collected 3D point cloud data with reference 3D point cloud data acquired at the same location to identify a new object; and
Execute, by the processor, including overlaying, on the image, points included in 3D point cloud data for the identified new object;
The step of identifying the object
Characterized in identifying missing objects that exist in the reference 3D point cloud data but do not exist in the collected 3D point cloud data,
The overlaying step
Using artificial intelligence (AI) that has been machine learned in advance according to the type of object, the new object and the missing object are refined, and the 3D point cloud data for the refined new object and the missing object It is characterized in that the included points are overlaid on the photographed image,
The overlaying step
It is characterized in that it is determined whether the new object is moved, and the new object determined to exist in motion among the new objects is determined and refined as an unnecessary object,
The overlaying step
Recorded on a recording medium, characterized in that the colors of the points included in the 3D point cloud data of the new object and the missing object are respectively different and overlaid on the image so that the new object and the missing object are distinguished from each other. computer program.
상기 수집된 3D 점군 데이터에 포함된 점들 중에서 사전에 설정된 임계 범위 내에서 군집(crowd)을 형성하고 있는 점들을 기초로 객체를 식별하고, 상기 식별된 객체가 상기 레퍼런스 3D 점군 데이터에 존재하는지 여부를 확인하여 상기 신규 객체를 식별하는 것을 특징으로 하는, 기록매체에 기록된 컴퓨터 프로그램.
The method of claim 7, wherein the identifying the object comprises:
Objects are identified based on points forming a crowd within a preset threshold range among points included in the collected 3D point cloud data, and whether the identified object exists in the reference 3D point cloud data A computer program recorded on a recording medium, characterized in that by identifying the new object.
상기 레퍼런스 3D 점군 데이터에 포함된 객체가 상기 수집된 3D 점군 데이터에 존재하지 않는 경우, 상기 수집된 3D 점군 데이터를 기초로 상기 레퍼런스 3D 점군 데이터를 업데이트 하는 것을 특징으로 하는, 기록매체에 기록된 컴퓨터 프로그램.
8. The method of claim 7, wherein after identifying the object,
When the object included in the reference 3D point cloud data does not exist in the collected 3D point cloud data, the reference 3D point cloud data is updated based on the collected 3D point cloud data. program.
상기 신규 객체 및 상기 누락 객체의 유형을 식별하는 것을 특징으로 하는, 기록매체에 기록된 컴퓨터 프로그램.The method of claim 9, wherein identifying the object comprises:
A computer program recorded on a recording medium, characterized in that for identifying the type of the new object and the missing object.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020220058557A KR102459778B1 (en) | 2022-05-12 | 2022-05-12 | Method for change detection using lidar and camera and computer program recorded on record-medium for executing method therefor |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020220058557A KR102459778B1 (en) | 2022-05-12 | 2022-05-12 | Method for change detection using lidar and camera and computer program recorded on record-medium for executing method therefor |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR102459778B1 true KR102459778B1 (en) | 2022-10-31 |
Family
ID=83803233
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020220058557A KR102459778B1 (en) | 2022-05-12 | 2022-05-12 | Method for change detection using lidar and camera and computer program recorded on record-medium for executing method therefor |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102459778B1 (en) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102538231B1 (en) * | 2023-03-07 | 2023-05-31 | 주식회사 인피닉 | Method for 3D analysis of semantic segmentation, and computer program recorded on record-medium for executing method thereof |
| KR102538225B1 (en) * | 2023-03-07 | 2023-05-31 | 주식회사 인피닉 | Method for semantic segmentation based on sensor fusion, and computer program recorded on record-medium for executing method thereof |
| KR102546206B1 (en) * | 2023-03-09 | 2023-06-22 | 주식회사 인피닉 | Method for semantic segmentation using correlations and regional associations of multi-scale features, and computer program recorded on record-medium for executing method thereof |
| KR102578638B1 (en) * | 2022-11-30 | 2023-09-18 | 주식회사 유오케이 | Method for building high precision 3D cadastral map and computer program recorded on record-medium for executing method therefor |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20110037045A (en) | 2009-10-05 | 2011-04-13 | 주식회사 엘지유플러스 | Image acquisition system by vehicle camera and controlling method thereof |
| JP2020144226A (en) * | 2019-03-06 | 2020-09-10 | 三菱電機株式会社 | Map updating system, map updating method, and map updating program |
| KR102338665B1 (en) * | 2020-03-02 | 2021-12-10 | 건국대학교 산학협력단 | Apparatus and method for classficating point cloud using semantic image |
| KR102343061B1 (en) * | 2021-08-05 | 2021-12-24 | 주식회사 인피닉 | Method for de-identifying personal information, and computer program recorded on record-medium for executing method therefor |
-
2022
- 2022-05-12 KR KR1020220058557A patent/KR102459778B1/en active IP Right Grant
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20110037045A (en) | 2009-10-05 | 2011-04-13 | 주식회사 엘지유플러스 | Image acquisition system by vehicle camera and controlling method thereof |
| JP2020144226A (en) * | 2019-03-06 | 2020-09-10 | 三菱電機株式会社 | Map updating system, map updating method, and map updating program |
| KR102338665B1 (en) * | 2020-03-02 | 2021-12-10 | 건국대학교 산학협력단 | Apparatus and method for classficating point cloud using semantic image |
| KR102343061B1 (en) * | 2021-08-05 | 2021-12-24 | 주식회사 인피닉 | Method for de-identifying personal information, and computer program recorded on record-medium for executing method therefor |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102578638B1 (en) * | 2022-11-30 | 2023-09-18 | 주식회사 유오케이 | Method for building high precision 3D cadastral map and computer program recorded on record-medium for executing method therefor |
| KR102538231B1 (en) * | 2023-03-07 | 2023-05-31 | 주식회사 인피닉 | Method for 3D analysis of semantic segmentation, and computer program recorded on record-medium for executing method thereof |
| KR102538225B1 (en) * | 2023-03-07 | 2023-05-31 | 주식회사 인피닉 | Method for semantic segmentation based on sensor fusion, and computer program recorded on record-medium for executing method thereof |
| KR102546206B1 (en) * | 2023-03-09 | 2023-06-22 | 주식회사 인피닉 | Method for semantic segmentation using correlations and regional associations of multi-scale features, and computer program recorded on record-medium for executing method thereof |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102459778B1 (en) | Method for change detection using lidar and camera and computer program recorded on record-medium for executing method therefor | |
| US20230054914A1 (en) | Vehicle localization | |
| US8861787B2 (en) | Environment recognition device and environment recognition method | |
| KR102475332B1 (en) | Method for collect road information using multiple camera and computer program recorded on record-medium for executing method therefor | |
| JP5747549B2 (en) | Signal detector and program | |
| US8908924B2 (en) | Exterior environment recognition device and exterior environment recognition method | |
| US10339812B2 (en) | Surrounding view camera blockage detection | |
| Hirabayashi et al. | Traffic light recognition using high-definition map features | |
| US7957559B2 (en) | Apparatus and system for recognizing environment surrounding vehicle | |
| JP5981550B2 (en) | Three-dimensional object detection apparatus and three-dimensional object detection method | |
| IL285153B1 (en) | Generating ground truth for machine learning from time series elements | |
| JP5874831B2 (en) | Three-dimensional object detection device | |
| KR102389998B1 (en) | De-identification processing method and a computer program recorded on a recording medium to execute the same | |
| KR102403169B1 (en) | Method for providing guide through image analysis, and computer program recorded on record-medium for executing method therefor | |
| US11069049B2 (en) | Division line detection device and division line detection method | |
| CN110422168B (en) | Lane recognition system and method and automatic driving automobile | |
| KR20210075293A (en) | Vehicle and control method thereof | |
| US20210327129A1 (en) | Method for a sensor-based and memory-based representation of a surroundings, display device and vehicle having the display device | |
| KR102313918B1 (en) | Synchronization method of 3D data and 2D image, and computer program recorded on record-medium for executing method thereof | |
| Itu et al. | An efficient obstacle awareness application for android mobile devices | |
| CN107992789B (en) | Method and device for identifying traffic light and vehicle | |
| CN109726708A (en) | A kind of Lane detection method and device | |
| US11235775B2 (en) | Method and device for determining the curve of a road | |
| KR20230025550A (en) | Object detection method and electronic device performing the method | |
| KR102540634B1 (en) | Method for create a projection-based colormap and computer program recorded on record-medium for executing method therefor |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |