KR20230056192A - Method and apparatus for updating 3D model of object in virtual space - Google Patents
Method and apparatus for updating 3D model of object in virtual space Download PDFInfo
- Publication number
- KR20230056192A KR20230056192A KR1020210139938A KR20210139938A KR20230056192A KR 20230056192 A KR20230056192 A KR 20230056192A KR 1020210139938 A KR1020210139938 A KR 1020210139938A KR 20210139938 A KR20210139938 A KR 20210139938A KR 20230056192 A KR20230056192 A KR 20230056192A
- Authority
- KR
- South Korea
- Prior art keywords
- model
- update
- updating
- block
- present
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 92
- 238000013528 artificial neural network Methods 0.000 claims description 66
- 238000007689 inspection Methods 0.000 abstract description 15
- 238000012423 maintenance Methods 0.000 abstract description 8
- 230000006870 function Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 18
- 230000007547 defect Effects 0.000 description 16
- 238000012545 processing Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 5
- 238000007405 data analysis Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 238000011176 pooling Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 230000000306 recurrent effect Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 238000011179 visual inspection Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/003—Navigation within 3D models or images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Geometry (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Architecture (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
본 발명은 가상공간 내 객체의 3차원 모델을 갱신하는 방법 및 장치에 관한 것으로, 보다 구체적으로는 시설물 안전점검 및 유지관리를 위해 객체에 대한 실제 현장 이미지를 반영하여 객체의 3차원 모델을 갱신하는 방법 및 장치에 관한 것이다.The present invention relates to a method and apparatus for updating a 3D model of an object in a virtual space, and more specifically, to update a 3D model of an object by reflecting an actual field image of the object for safety inspection and maintenance of a facility. It relates to methods and devices.
우리나라는 주요 시설물에 대한 주기적 점검 및 진단을 통한 안전 관리를 관련 법령에 의하여 의무화하여 시행하고 있다. 특히, '재난 및 안전관리 기본법' 및 소방 방재청의 '특정 관리 대상 시설 지정 및 관리 지침'에 의하여 1종 및 2종 시설물에 해당하지 않는 시설(3종 시설물) 중 특정 관리 대상 시설을 지정하여 책임 주체(중앙 및 지방 자치 단체, 재난 관리 책임 기관, 시설주)들에 의한 주기적인 안전 점검이 수행되도록 하고 있다.In Korea, safety management through periodic inspection and diagnosis of major facilities is mandated and implemented according to relevant laws and regulations. In particular, in accordance with the 'Framework Act on Disaster and Safety Management' and 'Guidelines for Designation and Management of Facilities Subject to Specific Management' of the National Emergency Management Agency, among facilities that do not fall under
안전점검 및 진단 방법은 통상 점검자의 육안점검을 통해 이루어지는데, 육안점검은 시설물의 파손 및 외관 상태의 확인이 주목적이다. 점검을 통해 시설물에 크랙이 발생하거나 부식과 같은 파손 내지 손상이 관측된 경우, 점검자가 해당 시설물의 손상 부분을 기록하는 방식으로 안전점검이 수행되고 있는 실정이다.The safety inspection and diagnosis method is usually performed through the visual inspection of the inspector, and the main purpose of the visual inspection is to check the damage and appearance of the facility. In the event that cracks occur in the facility or damage such as corrosion is observed through the inspection, the safety inspection is performed in such a way that the inspector records the damaged part of the facility.
이러한 종래의 방식에 따르면, 시설물에 대한 안전점검이 점검자의 주관적인 판단과 역량에 의존하게 되므로 시설물의 균열 및 결함 검출의 정확도 및 속도가 현저히 떨어지는 문제점이 있다. 또한, 실제 공간에 있는 시설물을 주기적으로 방문하여 직접 정보를 확인 및 기록하거나 혹은, 해당 위치를 방문하여 점검 부위를 촬영하고 추후에 사람이 촬영된 영상을 확인하여 정보를 확인 및 기록하는 등, 처리 과정 전반에 걸쳐 사람이 반드시 개입하여야 하기 때문에, 데이터 수집과 이를 분석하여 처리하는데 비용과 시간, 노력이 많이 소모될 수밖에 없다는 문제점이 있다.According to this conventional method, since the safety inspection of the facility depends on the subjective judgment and capability of the inspector, there is a problem in that the accuracy and speed of detecting cracks and defects in the facility are significantly lowered. In addition, processing such as periodically visiting facilities in the real space to directly check and record information, or visit the location to take a picture of the inspection area and later check the video recorded by a person to check and record information, etc. Since a person must intervene throughout the process, there is a problem in that a lot of cost, time, and effort are inevitably consumed in data collection, analysis, and processing.
최근, 점검자가 스마트폰과 같은 무선인터넷 서비스가 가능한 전용 단말을 이용하여 해당 부분을 촬영하고 서버로 전송하는 방식으로 데이터 수집 및 처리 방식이 개선되고 있기는 하다. 하지만, 이러한 경우에도 손상된 시설물 부분의 위치가 어디인지 정확히 확인할 수 없는 한계점이 있을 뿐만 아니라, 정밀한 영상을 확보하기 위해서는 해당 영상정보가 대용량으로 전송되어야 하기 때문에 무선전송에 과부하가 걸리는 등의 문제점도 있다.Recently, although the data collection and processing method has been improved in a way that the inspector uses a dedicated terminal capable of wireless Internet service such as a smartphone to take a picture of the part and transmit it to a server. However, even in this case, there is a limitation in that it is impossible to accurately determine the location of the damaged part of the facility, and in order to secure a precise image, the image information must be transmitted in a large amount, so wireless transmission is overloaded. .
또한, 최근에는 3차원 모델링 기술 기반으로 시설물 안전관리를 수행하는 기술이 제안되고 있다(선행 특허문헌 1 참조). VR(virtual reality, 가상 현실)에 대한 관심이 높아짐에 따라 관련 컨텐츠의 개발이 활발해지고 있으며, 이러한 VR 기술은 시설물의 안전 및 유지관리를 위한 분야에도 적극적으로 도입되고 있는 추세이다.In addition, recently, a technique for performing facility safety management based on 3D modeling technology has been proposed (see Prior Patent Document 1). As interest in VR (virtual reality) increases, development of related contents is becoming active, and such VR technology is actively being introduced to the field for safety and maintenance of facilities.
참조된 선행 특허문헌 1에 따르면, 시설물에 포함되는 복수의 개별 공간들을 분리하는 측벽들을 촬영한 측벽 사진들을 사용하여 시설물의 3차원 형상을 나타내고, 현장 점검자의 입력에 기초하여 상기 시설물의 손상 위치에 대한 손상 정보를 기록하는 방법을 개시하고 있다. 종래의 시설물 안전관리 기술이 2차원 도면을 사용하여 안전점검을 수행하기 때문에, 하자가 발생한 정확한 위치를 알기 어렵다는 문제점을 극복하기 위해 제안된 기술이다.According to the referenced
이는 3차원 도면을 사용하여 시설물 안전관리를 수행함으로써 보다 현장감 있는 안전점검 결과를 생성할 수 있다는 측면에서는 기술적 특징이 있으나, 이러한 선행 특허문헌 1에 따르더라도 처리 과정 전반에 걸쳐 사람이 반드시 개입하여야 하기 때문에, 데이터 분석하여 처리하는데 비용과 시간, 노력이 많이 소모될 수밖에 없다는 한계점을 극복하지 못한다.This has a technical feature in that a more realistic safety inspection result can be generated by performing facility safety management using a 3D drawing, but even according to this
이에, 본 발명의 객체의 3차원 모델을 갱신하는 방법 및 장치는 시설물 안전점검 및 유지관리를 위해 3D 모델링 기반 결함 검출 및 결함 이미지 갱신 방법을 제시함에 목적이 있다.Accordingly, an object of the method and apparatus for updating a 3D model of an object of the present invention is to provide a 3D modeling-based defect detection and defect image update method for facility safety inspection and maintenance.
또한, 본 발명의 객체의 3차원 모델을 갱신하는 방법 및 장치는 시설물의 결함 검출 및 결함 여부 판단에 있어서 점검자의 주관적 판단의 개입을 최소화하고, 데이터 분석 및 처리를 자동화하는 방법 및 장치를 제시함에 목적이 있다.In addition, the method and apparatus for updating a 3D model of an object of the present invention minimizes the intervention of an inspector's subjective judgment in detecting defects in facilities and determining whether or not there are defects, and presents a method and apparatus for automating data analysis and processing. There is a purpose.
또한, 본 발명의 객체의 3차원 모델을 갱신하는 방법 및 장치는 시설물의 3D 모델을 갱신하는 방법에 있어서 매칭 포인트를 추정하고 정합하는 과정을 구체화하여 갱신된 결과물의 이질감을 최소화할 수 있는 방법을 제시함에 목적이 있다. In addition, a method and apparatus for updating a 3D model of an object of the present invention provides a method for minimizing the heterogeneity of the updated result by specifying a process of estimating and matching a matching point in a method for updating a 3D model of a facility. It is intended to present.
상술한 과제를 해결하기 위한 본 발명의 일 실시예에 따른 객체의 3차원 모델을 갱신하는 방법은, 제2 시점에 상기 대상 객체가 촬영된 이미지로부터 상기 대상 객체의 3차원 모델인 제2 모델을 생성하는 단계; 제1 시점에서 상기 대상 객체가 촬영된 이미지로부터 생성된 상기 대상 객체의 3차원 모델인 제1 모델과 상기 제2 모델의 비교 결과를 산출하는 단계로써, 상기 제1 시점은 상기 제2 시점 이전의 시점이고; 상기 비교 결과에 기초하여 상기 제2 모델의 적어도 일부 영역을 갱신 대상 영역으로 결정하는 단계; 및 상기 갱신 대상 영역으로부터 추출된 형상 변화 데이터를 상기 제1 모델에 추가하는 단계; 를 포함한다.A method for updating a 3D model of an object according to an embodiment of the present invention for solving the above problems is to obtain a second model, which is a 3D model of the target object, from an image in which the target object is photographed at a second point in time. generating; A step of calculating a comparison result between a first model, which is a 3D model of the target object, and the second model, which is a 3D model of the target object generated from an image of the target object at a first viewpoint, wherein the first viewpoint is the first viewpoint before the second viewpoint. is the time point; determining at least a partial region of the second model as an update target region based on the comparison result; and adding shape change data extracted from the update target region to the first model. includes
또한, 객체의 3차원 모델을 갱신하는 방법은, 상기 제2 모델을 생성하는 단계는, 상기 대상 객체가 촬영된 통합 이미지로부터 촬영 시점을 달리하는 복수의 부분 이미지를 생성하는 단계; 및 상기 복수의 부분 이미지로부터 상기 제2 모델을 생성하는 단계; 를 포함할 수 있다.In addition, the method of updating a 3D model of an object, wherein the generating of the second model may include generating a plurality of partial images at different photographing points from an integrated image in which the target object is photographed; and generating the second model from the plurality of partial images. can include
또한, 객체의 3차원 모델을 갱신하는 방법은, 상기 제1 모델과 상기 제2 모델의 비교 결과를 산출하는 단계는, 상기 제1 모델 및 상기 제2 모델 각각을 복수의 단위 블록으로 분할하는 단계; 상기 제1 모델 및 상기 제2 모델을 블록 단위로 비교하여 형상의 차이가 발생한 하나 이상의 갱신 후보 블록을 결정하는 단계; 및 소정의 방식에 따라 상기 하나 이상의 갱신 후보 블록 중 적어도 일부 블록을 하나 이상의 갱신 대상 블록으로 결정하는 단계; 를 포함할 수 있다.In addition, in the method of updating the 3D model of the object, the step of calculating a comparison result between the first model and the second model includes dividing each of the first model and the second model into a plurality of unit blocks. ; comparing the first model and the second model block by block to determine one or more update candidate blocks having a shape difference; and determining at least some of the one or more update candidate blocks as one or more update target blocks according to a predetermined method. can include
또한, 객체의 3차원 모델을 갱신하는 방법은, 상기 하나 이상의 갱신 후보 블록은 제1 후보 블록을 포함하고, 상기 갱신 대상 영역으로 결정하는 단계는,In addition, in the method of updating the 3D model of the object, the one or more update candidate blocks include a first candidate block, and the determining of the update target region comprises:
상기 제1 모델 상에서의 제1 후보 블록과 상기 제2 모델 상에서의 제1 후보 블록의 차이 형상을 산출하는 단계; 학습된 인공 신경망을 이용하여 상기 차이 형상의 유형을 결정하는 단계; 및 상기 유형을 참조하여 상기 제1 후보 블록의 상기 갱신 대상 블록으로의 포함 여부를 결정하는 단계; 를 포함할 수 있다.calculating a difference shape between a first candidate block on the first model and a first candidate block on the second model; determining the type of the difference shape using a learned artificial neural network; and determining whether the first candidate block is included in the update target block by referring to the type. can include
또한, 객체의 3차원 모델을 갱신하는 방법은, 상기 형상 변화 데이터를 상기 제1 모델에 추가하는 단계는, 상기 차이 형상을 상기 제1 모델의 갱신 대상 블록에 추가하는 단계; 를 포함할 수 있다.In addition, the method of updating a 3D model of an object may include adding the shape change data to the first model, adding the difference shape to an update target block of the first model; can include
또한, 객체의 3차원 모델을 갱신하는 방법은, 상기 차이 형상의 유형을 결정하는 단계에서 결정된 유형이 복수 개의 서로 다른 유형을 포함하는 경우, 상기 제1 후보 블록을 단일 유형의 차이 형상을 포함하는 복수의 세부 블록으로 분할하는 단계; 를 더 포함하고, 상기 갱신 대상 블록으로의 포함 여부를 결정하는 단계는 각각의 세부 블록에 대한 갱신 대상 블록으로의 포함 여부를 결정할 수 있다.In addition, the method of updating the 3D model of the object may include, when the type determined in the step of determining the difference shape type includes a plurality of different types, the first candidate block includes a single type of difference shape. Dividing into a plurality of detailed blocks; In addition, the step of determining whether to include in the update target block may determine whether to include each subblock in the update target block.
또한, 객체의 3차원 모델을 갱신하는 방법은, 상기 하나 이상의 갱신 후보 블록을 결정하는 단계에서 서로 인접한 블록이 갱신 후보 블록으로 결정되는 경우, 서로 인접한 블록을 통합 갱신 후보 블록으로 병합하는 단계; 를 더 포함할 수 있다.In addition, the method of updating a 3D model of an object may include, when adjacent blocks are determined as update candidate blocks in the step of determining one or more update candidate blocks, merging adjacent blocks into an integrated update candidate block; may further include.
또한, 객체의 3차원 모델을 갱신하는 방법은, 상기 갱신 대상 블록으로의 포함 여부를 결정하는 단계는, 상기 차이 형상 및 상기 차이 형상에 대한 유형을 포함한 인터페이스를 제공하는 단계; 상기 인터페이스에 대한 사용자의 선택 입력을 수신하는 단계; 상기 선택 입력에 기초하여 상기 제1 후보 블록의 상기 갱신 대상 블록으로의 포함 여부를 결정하는 단계; 를 포함할 수 있다.In addition, the method of updating a 3D model of an object may include: determining whether the object is included in the update target block may include providing an interface including the difference shape and a type for the difference shape; receiving a user's selection input for the interface; determining whether to include the first candidate block in the update target block based on the selection input; can include
본 발명의 객체의 3차원 모델을 갱신하는 방법 및 장치에 따르면 시설물의 결함 검출 및 결함 여부 판단에 있어서 점검자의 주관적 판단의 개입을 최소화하고 데이터 분석 및 처리를 자동화함으로써, 시설물 안전점검 및 유지관리를 위한 데이터 처리에 소요되는 시간 및 비용을 절감할 수 있다.According to the method and apparatus for renewing a 3D model of an object of the present invention, safety inspection and maintenance of facilities are performed by minimizing the intervention of the inspector's subjective judgment and automating data analysis and processing in detecting and determining whether a facility has defects. It can reduce the time and cost required for data processing for
또한, 본 발명의 객체의 3차원 모델을 갱신하는 방법 및 장치에 따르면, 결함 여부를 판단하고 갱신 데이터와 비갱신 데이터를 식별하는 인공 신경망을 적용하여 시설물의 결함 검출 및 판단에 대한 속도 및 정확도를 높일 수 있다.In addition, according to the method and apparatus for updating a 3D model of an object of the present invention, the speed and accuracy of facility defect detection and judgment are improved by applying an artificial neural network that determines whether there is a defect and identifies updated data and non-updated data. can be raised
또한, 본 발명의 객체의 3차원 모델을 갱신하는 방법 및 장치에 따르면, 기존의 시설물 3차원 모델에 갱신 부분의 이미지를 정합하는 과정에 있어서 3D 텍스쳐와 결함 부분을 분리하여 결합하는 방식을 취함으로써 갱신된 결과물의 이질감을 최소화할 수 있다.In addition, according to the method and apparatus for updating the 3D model of an object of the present invention, in the process of matching the image of the updated part to the existing 3D model of the facility, by taking a method of separating and combining the 3D texture and the defective part The heterogeneity of the updated result can be minimized.
도 1은 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 시스템의 개략적인 구성을 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 장치의 구성을 나타내는 도면이다.
도 3은 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 방법을 설명하기 위한 흐름도이다.
도 4는 대상 객체의 3차원 모델을 생성하는 방법을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 장치가 대상 객체의 제1 모델과 제2 모델의 비교하고 갱신 대상 블록을 결정하는 방법을 설명하기 위한 흐름도이다.
도 6은 본 발명의 객체의 3차원 모델 갱신 장치가 도 5의 갱신 후보 블록을 결정하는 단계를 수행하는 방법을 설명하기 위한 도면이다.
도 7은 갱신 후보 블록을 결정하는 단계에서 서로 인접한 블록이 갱신 후보 블록으로 결정되는 경우에 수행되는 방법을 설명하기 위한 도면이다.
도 8 및 도 9는 본 발명의 객체의 3차원 모델 갱신 장치가 이용하는 학습된 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다.
도 10은 본 발명의 3차원 모델 갱신 장치(100)에서 활용되는 인공 신경망이 학습되는 과정을 설명하기 위한 도면이다.
도 11은 본 발명의 객체의 3차원 모델 갱신 장치가 학습된 인공 신경망을 이용하여 도 5의 차이 형상의 유형을 결정하는 단계(S34)를 수행하는 방법을 설명하기 위한 도면이다.
도 12는 차이 형상의 유형을 결정하는 단계(S34)에서 결정된 유형이 복수 개의 서로 다른 유형을 포함하는 경우에 수행되는 방법을 설명하기 위한 도면이다.
도 13은 본 발명의 객체의 3차원 모델 갱신 방법에 의해 갱신된 제1 모델을 설명하기 위한 도면이다.1 is a diagram showing a schematic configuration of a system for updating a 3D model of an object according to an embodiment of the present invention.
2 is a diagram showing the configuration of an apparatus for updating a 3D model of an object according to an embodiment of the present invention.
3 is a flowchart illustrating a method of updating a 3D model of an object according to an embodiment of the present invention.
4 is a diagram for explaining a method of generating a 3D model of a target object.
5 is a flowchart illustrating a method of comparing a first model and a second model of a target object and determining a block to be updated by an apparatus for updating a 3D model of an object according to an embodiment of the present invention.
FIG. 6 is a diagram for explaining a method of performing the step of determining an update candidate block of FIG. 5 by the apparatus for updating a 3D model of an object according to the present invention.
7 is a diagram for explaining a method performed when blocks adjacent to each other are determined as update candidate blocks in the step of determining update candidate blocks.
8 and 9 are diagrams for explaining an exemplary structure of a learned artificial neural network used by the apparatus for updating a 3D model of an object according to the present invention.
10 is a diagram for explaining a process of learning an artificial neural network used in the 3D
FIG. 11 is a diagram for explaining how the apparatus for updating a 3D model of an object of the present invention performs the step S34 of determining the type of difference shape of FIG. 5 using the learned artificial neural network.
FIG. 12 is a diagram for explaining a method performed when the type determined in the step of determining the difference shape type (S34) includes a plurality of different types.
13 is a diagram for explaining a first model updated by the method of updating a 3D model of an object according to the present invention.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. Advantages and features of the present invention, and methods of achieving them, will become clear with reference to the detailed description of the following embodiments taken in conjunction with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but will be implemented in various different forms, only these embodiments make the disclosure of the present invention complete, and common knowledge in the art to which the present invention belongs. It is provided to fully inform the holder of the scope of the invention, and the present invention is only defined by the scope of the claims.
비록 제1, 제2 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.Although first, second, etc. are used to describe various components, these components are not limited by these terms, of course. These terms are only used to distinguish one component from another. Accordingly, it goes without saying that the first element mentioned below may also be the second element within the technical spirit of the present invention.
이하의 실시예에서, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. In the following embodiments, terms such as include or have mean that features or components described in the specification exist, and do not preclude the possibility that one or more other features or components may be added.
도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 형태는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다. In the drawings, the size of components may be exaggerated or reduced for convenience of description. For example, since the size and shape of each component shown in the drawings are arbitrarily shown for convenience of description, the present invention is not necessarily limited to those shown.
명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.Like reference numbers designate like elements throughout the specification.
본 발명의 여러 실시예들의 각각 특징들이 부분적으로 또는 전체적으로 서로 결합 또는 조합 가능하며, 당업자가 충분히 이해할 수 있듯이 기술적으로 다양한 연동 및 구동이 가능하며, 각 실시예들이 서로에 대하여 독립적으로 실시 가능할 수도 있고 연관 관계로 함께 실시 가능할 수도 있다.Each feature of the various embodiments of the present invention can be partially or entirely combined or combined with each other, and as those skilled in the art can fully understand, various interlocking and driving operations are possible, and each embodiment can be implemented independently of each other. It may be possible to implement together in an association relationship.
이하, 첨부된 도면을 참고로 하여 본 발명의 3차원 객체를 갱신하는 방법 및 장치에 대하여 자세히 설명한다.Hereinafter, a method and apparatus for updating a 3D object according to the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 시스템의 개략적인 구성을 도시한 도면이다.1 is a diagram showing a schematic configuration of a system for updating a 3D model of an object according to an embodiment of the present invention.
본 발명의 일 실시예에 따른 3차원 모델 갱신 시스템(1000)은 시설물 안전점검 및 유지관리를 위해 3D 모델링 기반 결함 검출 및 결함 이미지 갱신 기술을 구현하는 시스템이다. 3차원 모델 갱신 시스템(1000)은 제1 시점에서의 대상 객체의 3차원 모델을 제1 시점의 이후 시점인 제2 시점에서의 대상 객체의 3차원 모델을 이용하여 갱신하는 서비스를 수행한다.A 3D
본 발명에서 '객체'(object)는 실 공간 상에 존재하는 시설물과 같은 대상일 수 있으며, 예컨대 안전진단 및 유지관리의 대상이 되는 시설물일 수 있다. 건축물, 교량 등 균열이나 결함을 주기적으로 업데이트하여 관리하여야 하는 대상일 수 있다.In the present invention, an 'object' may be an object such as a facility existing in a real space, and may be, for example, a facility subject to safety diagnosis and maintenance. It may be an object that needs to be managed by periodically updating cracks or defects, such as buildings and bridges.
본 발명에서 '인공 신경망'은 장치(100) 또는 단말(200)이 수행하는 서비스에 적합하게 학습된 신경망으로, 머신 러닝(Machine Learning) 또는 딥러닝(Deep Learning) 기법에 의해 학습된 인공 신경망을 의미할 수 있다. 이와 같은 신경망의 구조에 대해서는 도 8 내지 도 11을 참조하여 후술한다.In the present invention, the 'artificial neural network' is a neural network trained to be suitable for the service performed by the
본 발명의 일 실시예에 따른 3차원 모델 갱신 시스템(1000)은 도 1에 도시된 바와 같이 3차원 모델 갱신 장치(100), 영상 획득 수단(200), 단말(300) 및 각 구성을 연결하는 통신망을 포함하여 구성된다. As shown in FIG. 1, a 3D
본 발명의 3차원 모델 갱신 장치(100)는 학습된 인공 신경망을 이용하여 가상공간 내 대상 객체의 3차원 모델을 갱신하는 방법을 수행한다. 이러한 장치(100)는 코로케이션 서버 (Co-location Server) 또는 클라우드 서버 (cloud server) 일 수 있고, 이러한 서버에 포함되는 장치일 수도 있으며, 이에 제한되지는 않는 다양한 공지의 형태로 구현될 수도 있다.The 3D
3차원 모델 갱신 장치(100)가 영상 획득 수단(200) 및 단말(300)과 함께 본 발명의 객체의 3차원 모델을 갱신하는 방법을 수행하는 구체적인 방법에 대해서는 이하 도 3 내지 도 13을 참조하여 후술한다.For a specific method of performing the method of updating the 3D model of an object of the present invention by the 3D
영상 획득 수단(200)은 실 공간에서의 대상 객체에 대한 이미지 또는 영상을 획득하는 장치이다. 영상 획득 수단(200)은 도 4에 도시된 바와 같은 대상 객체에 대한 360도 이미지를 획득할 수 있다. The
이러한 영상 획득 수단(200)은 카메라 모듈을 포함한 장치로서, 대상 객체의 적어도 일부를 포함하는 이미지 또는 영상을 획득할 수 있는 것이라면 비제한적으로 적용될 수 있다. 영상 획득 수단(200)은 본 발명의 3차원 모델 갱신 장치(100)와 직/간접적으로 연결된 공지의 영상 획득 장치라면 비제한적으로 적용될 수 있다. 영상 획득 수단(200)은 이미지 획득뿐 아니라, 깊이 정보 획득부 예컨대, ToF 카메라, 뎁스 비전 카메라와 같은 3차원 영상 정보를 획득할 수 있는 것을 포함할 수도 있다.The
본 발명의 단말(300)은 본 발명의 3차원 모델 갱신 장치(100)와 연결되어 본 발명의 3차원 모델 갱신 장치(100)가 수행한 3차원 모델 갱신 방법을 표시하거나, 사용자 입력을 획득하는 등의 단계를 수행할 수 있다.The
단말(300)은 유무선 통신 환경에서 웹 또는 모바일 서비스를 이용할 수 있는 통신 단말일 수 있다. 구체적으로, 단말(200)은 범용 (general purpose) 컴퓨터, 특수 목적용 컴퓨터, 스마트폰과 같은 모바일 단말, 데스크탑 또는 노트북 컴퓨터이거나, 착용가능한 디스플레이 장치 예컨대 HMD(Head Mounted Display)장치일 수 있으며, 이들과 결합하여 사용하는 부속 장치일 수 있다. The terminal 300 may be a communication terminal capable of using a web or mobile service in a wired/wireless communication environment. Specifically, the terminal 200 may be a general purpose computer, a special purpose computer, a mobile terminal such as a smartphone, a desktop or notebook computer, or a wearable display device such as a head mounted display (HMD) device. It may be an accessory device used in combination with.
3차원 모델 갱신 시스템(1000)에 포함되어 3차원 모델 갱신 장치(100), 영상 획득 수단(200) 및 단말(300)을 연결하는 통신망은 시스템의 각 구성 간의 데이터 송수신을 매개하는 수단을 의미할 수 있다. 이와 같은 통신망은 근거리 네트워크 (local area network; LAN), 광역 네트워크 (wide area network; WAN), 거대도시 네트워크 (metropolitan area network; MAN), 종합정보 네트워크 (Integrated Service Digital Network; ISDN) 등의 유선 네트워크, 3G나 LTE (Long Term Evolution), 5G 와 같은 이동통신이나 와이파이 (Wi-Fi), 와이파이 다이렉트 (Wi-Fi Direct), 위성통신 같은 무선 네트워크, 블루투스 (Bluetooth), 지그비 (Zigbee), 저전력 단거리 무선망 IPv6(6LoWPAN), 근거리장 통신(Near Field communication) 과 같은 단거리 무선 네트워크 (Wireless Personal Area Network) 중 어느 하나일 수 있고, 나아가 이들의 조합, 또는 임의의 다른 네트워크일 수도 있으며, 이들로 한정되는 것은 아니다.The communication network included in the 3D
도 2는 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 장치(100)의 구성을 나타내는 도면이다.2 is a diagram showing the configuration of an
도 2를 참조하면, 3차원 모델 갱신 장치(100)는 통신부(110), 제어부(120) 및 저장부(130)를 포함한다. 또한 도면에는 도시되지 않았으나, 본 발명의 일 실시예에 따른 3차원 모델 갱신 장치(100)는 입/출력부, 프로그램 저장부 등을 더 포함할 수 있다. Referring to FIG. 2 , the 3D
통신부(110)는 3차원 모델 갱신 장치(100)가 영상 획득 수단(200) 및 단말(300), 그 외 외부 서버와 같은 다른 장치와 유무선 연결을 통해 제어 신호 또는 데이터 신호와 같은 신호를 송수신하기 위해 필요한 하드웨어 및 소프트웨어를 포함하는 장치일 수 있다.The
통신부(110)는 제1 시점과 제2 시점에 대상 객체가 촬영된 이미지를 수신할 수 있으며, 소정의 데이터를 사용자 단말(300)로 전달하여 사용자의 선택 입력을 수신하는 단계를 수행할 수 있다. The
제어부(120)는 프로세서(Processor)와 같이 데이터를 처리할 수 있는 모든 종류의 장치를 포함할 수 있다. 여기서, '프로세서(Processor)'는, 예를 들어 프로그램 내에 포함된 코드 또는 명령으로 표현된 기능을 수행하기 위해 물리적으로 구조화된 회로를 갖는, 하드웨어에 내장된 데이터 처리 장치를 의미할 수 있다. 이와 같이 하드웨어에 내장된 데이터 처리 장치의 일 예로써, 마이크로프로세서(Microprocessor), 중앙처리장치(Central Processing Unit: CPU), 프로세서 코어(Processor Core), 멀티프로세서(Multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 등의 처리 장치를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.The
제어부(120)는 통신부(110) 및 저장부(130)와 함께 이하의 도 3에 도시된 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 방법을 수행한다. 이에 대해서는 이하의 도 3 내지 도 13을 참조하여 구체적으로 후술하도록 한다.The
저장부(130)는 본 발명의 3차원 모델 갱신 장치(100)가 처리하는 데이터를 일시적 또는 영구적으로 저장하는 기능을 수행한다. 저장부는 자기 저장 매체(Magnetic Storage Media) 또는 플래시 저장 매체(Flash Storage Media)를 포함할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다. 저장부(130)는 본 발명의 가상공간 내 대상 객체의 3차원 모델을 갱신하는 방법의 일부 단계를 수행하는 학습된 인공 신경망 및 이와 관련된 파라미터들을 일시적 및/또는 영구적으로 저장할 수 있다. 물론 저장부(130)는 필요에 따라 인공 신경망들을 학습하기 위한 학습 데이터도 저장할 수 있다. 다만 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다.The
단말(300)은 본 발명의 3차원 모델 갱신 장치(100)와 통신하며 본 발명의 객체의 3차원 모델 갱신 방법의 일부 단계를 수행하거나, 이러한 프로그램 또는 어플리케이션이 탑재될 수 있는 단말이라면 제한 없이 채용될 수 있다. 이하 명세서에서는 설명의 편의를 위해 단말(300)을 본 발명의 사용자 단말인 것으로 상정하고 설명하나, 본 발명의 범위가 이에 한정되는 것은 아니다.The terminal 300 communicates with the 3D
단말(300)은 디스플레이부를 포함할 수 있으며, 디스플레이부는 단말(300)에 구비되거나 단말(300)과 연결된 표시장치일 수 있으며, 사용자에게 본 발명의 객체의 3차원 모델을 갱신하는 방법에 따른 표시 영상을 나타낼 수 있는 것이라면 비제한적으로 적용될 수 있다. 또한 단말(300)은 입력부를 포함할 수 있으며, 입력부는 사용자의 선택 입력을 수신할 수 있는 입력 수단일 수 있으며 예컨대 터치 패드와 같은 입력 수단일 수 있다.The terminal 300 may include a display unit, and the display unit may be a display device provided in the terminal 300 or connected to the terminal 300, and display to the user according to the method of updating the 3D model of the object of the present invention. Anything capable of displaying an image may be applied without limitation. Also, the terminal 300 may include an input unit, and the input unit may be an input unit capable of receiving a user's selection input, and may be, for example, an input unit such as a touch pad.
본 발명의 3차원 모델 갱신 장치(100)가 영상 획득 수단(200) 및 단말(300)과 함께 수행하는 수행하는 구체적인 객체의 3차원 모델 갱신 방법에 대해서는 이하 도 3 내지 도 13을 참조하여 구체적으로 설명한다.For a method of updating a 3D model of a specific object performed by the 3D
도 3은 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 방법을 설명하기 위한 흐름도이다.3 is a flowchart illustrating a method of updating a 3D model of an object according to an embodiment of the present invention.
도 3을 참조하면, 본 발명의 3차원 모델 갱신 장치(100)는 제1 시점에 대상 객체의 3차원 모델인 제1 모델을 생성하고(S10), 제2 시점에 대상 객체의 3차원 모델인 제2 모델을 생성하고(S20), 제1 모델과 제2 모델의 비교 결과를 산출하고(S30), 비교 결과에 기초하여 제2 모델의 적어도 일부 영역을 갱신 대상 영역으로 결정하고(S40), 갱신 대상 영역으로부터 추출된 형상 변화 데이터를 제1 모델에 추가하는(S50) 단계를 수행함으로써 가상공간 내 3차원 객체를 갱신한다.Referring to FIG. 3, the 3D
먼저, 본 발명의 3차원 모델 갱신 장치(100)는 제1 시점에 대상 객체의 3차원 모델인 제1 모델을 생성하고(S10), 제2 시점에 대상 객체의 3차원 모델인 제2 모델을 생성하고(S20)한다. 대상 객체의 3차원 모델을 생성하는 단계(S10, S20)는 도 4에 도시된 방법에 의해 수행될 수 있다. First, the 3D
도 4는 본 발명의 3차원 모델 갱신 장치(100)가 대상 객체의 3차원 모델을 생성하는 방법을 설명하기 위한 도면이다. 대상 객체의 3차원 모델을 생성하는 단계는, 대상 객체가 촬영된 통합 이미지(예컨대, 360도 이미지)로부터 촬영 시점을 달리하는 복수의 부분 이미지를 생성하는 단계 및 복수의 부분 이미지로부터 대상 객체의 3차원 모델을 생성하는 단계를 포함할 수 있다. 4 is a diagram for explaining a method of generating a 3D model of a target object by the 3D
도 4를 참조하면, 본 발명의 3차원 모델 갱신 장치(100)는 영상 획득 수단(200)으로부터 대상 객체를 포함한 360도 촬영 이미지를 수신할 수 있다. 3차원 모델 갱신 장치(100)는 수신된 360도 촬영 이미지를 다시점 2차원 이미지로 분할하고, 분할된 2차원 이미지의 특징점을 매칭하여 3차원 구조로 대상 객체의 모델을 생성할 수 있다. 예컨대, 3차원 모델 갱신 장치(100)는 대상 객체에 대한 360도 영상을 6개 방향에서 본 2차원 이미지를 생성하고, 생성된 복수의 2차원 이미지를 SfM(Structure from Motion) 엔진에 입력하여 대상 객체에 대한 3차원 모델을 생성할 수 있다.Referring to FIG. 4 , the 3D
본 발명의 3차원 모델 갱신 장치(100)는 도 4에 도시된 방법에 따라 제1 시점에 대상 객체의 3차원 모델인 제1 모델을 생성하고(S10), 제2 시점에 대상 객체의 3차원 모델인 제2 모델을 생성한다(S20). 이때 제1 시점은 제2 시점 이전의 시점이다. 다시 말해 3차원 모델 갱신 장치(100)는, 도 4에 도시된 방법에 따라 대상 객체에 대한 3차원 모델을 생성한 이후 소정의 시간이 경과한 시점에서의 대상 객체에 대한 3차원 모델을 각각 생성한다.The 3D
다만, 대상 객체의 3차원 모델을 생성하는 단계(S10, S20)는 도 4에 도시된 SfM 방식에 한정되는 것은 아니고, 본 발명의 3차원 모델 갱신 장치(100)는 여러 각도에서 촬영된 복수의 2차원 이미지를 입력 받아 대상 객체에 대한 3차원 모델을 생성할 수도 있으며, 그 밖의 공지의 방식에 따라 대상 객체에 대한 3차원 모델을 생성할 수도 있음은 물론이다.However, the steps of generating the 3D model of the target object (S10, S20) are not limited to the SfM method shown in FIG. A 3D model of the target object may be generated by receiving a 2D image, and a 3D model of the target object may be generated according to other known methods.
대상 객체의 3차원 모델을 생성하는 단계(S10, S20)에 의해 생성된 각각의 3차원 모델은 도 6의 (a) 및 (b)에 도시된 대상 객체에 대한 3차원 모델일 수 있다.Each of the 3D models generated by the steps of generating a 3D model of the target object ( S10 and S20 ) may be a 3D model of the target object shown in (a) and (b) of FIG. 6 .
본 발명의 3차원 모델 갱신 장치(100)는 제1 시점에서의 대상 객체의 3차원 모델인 제1 모델과 제2 시점에서의 대상 객체의 3차원 모델인 제2 모델을 비교하고(S30), 비교 결과에 기초하여 제2 모델의 적어도 일부 영역을 갱신 대상 영역으로 결정한다(S40).The 3D
본 발명의 3차원 모델 갱신 방법의 제1 모델과 상기 제2 모델의 비교 결과를 산출하는 단계(S30)는 상기 제1 모델 및 상기 제2 모델 각각을 복수의 단위 블록으로 분할하는 단계, 상기 제1 모델 및 상기 제2 모델을 블록 단위로 비교하여 형상의 차이가 발생한 하나 이상의 갱신 후보 블록을 결정하는 단계 및 소정의 방식에 따라 상기 하나 이상의 갱신 후보 블록 중 적어도 일부 블록을 하나 이상의 갱신 대상 블록으로 결정하는 단계를 포함할 수 있다.Calculating a comparison result between the first model and the second model of the 3D model updating method of the present invention (S30) includes dividing each of the first model and the second model into a plurality of unit blocks, comparing the first model and the second model on a block-by-block basis to determine one or more update candidate blocks having a shape difference, and selecting at least some of the one or more update candidate blocks as one or more update target blocks according to a predetermined method It may include a decision-making step.
도 5는 본 발명의 일 실시예에 따른 객체의 3차원 모델 갱신 장치(100)가 대상 객체의 제1 모델과 제2 모델의 비교하고 갱신 대상 블록을 결정하는 방법을 설명하기 위한 흐름도이고, 도 6은 본 발명의 객체의 3차원 모델 갱신 장치가 도 5의 갱신 후보 블록(60)을 결정하는 단계(S32)를 수행하는 방법을 설명하기 위한 도면이다.5 is a flowchart illustrating a method in which the
도 5를 참조하면, 본 발명의 3차원 모델 갱신 장치(100)는 제1 모델 및 제2 모델 각각을 복수의 단위 블록으로 분할하고(S31), 제1 모델 및 제2 모델을 블록 단위로 비교하여 형상의 차이가 발생한 하나 이상의 갱신 후보 블록을 결정한다(S32).Referring to FIG. 5, the 3D
제1 모델 및 제2 모델 각각을 복수의 단위 블록으로 분할하는 단계(S31)는 도 6의 (a) 및 (b)에 도시된 바와 같이, 대상 객체의 3차원 모델을 생성하는 단계(S10, S20)에 의해 생성된 각각의 3차원 모델을 소정의 간격으로 분할하는 방식에 의해 수행된다. 이때, 제1 모델 및 제2 모델은 3차원 모델이므로 각 모델의 시점과 방향이 일치된 상태에서 복수의 단위 블록으로 분할하여 각 단위 블록의 좌표를 결정하는 것이 바람직하다.The step of dividing each of the first model and the second model into a plurality of unit blocks (S31) is the step of generating a 3D model of the target object as shown in (a) and (b) of FIG. 6 (S10, It is performed by a method of dividing each 3D model generated by S20) into predetermined intervals. At this time, since the first model and the second model are 3D models, it is preferable to determine the coordinates of each unit block by dividing them into a plurality of unit blocks while the viewpoints and directions of each model are matched.
도 6은 제1 모델 및 제2 모델을 정면에서 바라본 상태에서, 8X5의 단위 블록으로 분할된 모습을 도시한다. 다만 이는 예시적인 것으로 이에 한정되는 것은 아니고, 제1 모델과 제2 모델을 비교하여 갱신 후보 블록을 설정할 수 있는 적정한 수의 단위 블록으로 분할되는 것이 바람직하다.6 shows a state in which the first model and the second model are divided into 8X5 unit blocks when viewed from the front. However, this is illustrative and not limited thereto, and it is preferable to divide the first model and the second model into an appropriate number of unit blocks capable of setting update candidate blocks.
3차원 모델 갱신 장치(100)는 도 6의 (a)에 도시된 제1 시점에 대상 객체의 3차원 모델인 제1 모델과 도 6의 (b)에 도시된 제2 시점에 대상 객체의 3차원 모델인 제2 모델을 소정의 간격으로 분할된 각각의 블록 단위로 비교하여 형상의 차이가 발생한 하나 이상의 갱신 후보 블록(60)을 결정한다(S32).The 3D
여기서 갱신 후보 블록(60)은 도 6의 (a)에 도시된 제1 모델과 도 6의 (b)에 도시된 제2 모델의 각각의 블록 단위에서 형상의 차이가 발생한 적어도 하나 이상의 블록의 집합이다. 즉, 제1 모델과 제2 모델을 비교해보면, 제1 모델에 비하여 제2 모델에 크랙 결함, 행인, 현수막에 의한 형상의 차이가 발생한 영역이 존재한다. 이러한 형상의 차이가 발생한 단위 블록들의 집합을 갱신 후보 블록(60)이라 한다. 따라서, 도 6의 (b)에서 갱신 후보 블록은 7개의 단위 블록이 된다.Here, the
한편, 갱신 후보 블록(60)을 결정하는 단계(S32)에서 복수의 갱신 후보 블록에 걸쳐 차이 형상이 포함되는 경우, 3차원 모델 갱신 장치(100)는 본 발명의 도 7에 도시된 바와 같이, 통합 갱신 후보 블록(70)을 생성할 수 있다. 다시 말해, 제1 모델 및 상기 제2 모델을 블록 단위로 비교하여 형상의 차이가 발생한 하나 이상의 갱신 후보 블록을 결정하는 단계에서 서로 인접한 블록이 갱신 후보 블록으로 결정되는 경우, 본 발명의 객체의 3차원 모델 갱신 방법은 서로 인접한 블록을 통합 갱신 후보 블록(70)으로 병합하는 단계를 더 포함할 수 있다. 3차원 모델 갱신 장치(100)는 단일의 것으로 판단되는 차이 형상이 복수의 갱신 후보 블록에 걸쳐 포함되는 경우, 도 7과 같이 통합 갱신 후보 블록(70)을 설정하는 것이 바람직하다.On the other hand, when the difference shape is included across a plurality of update candidate blocks in the step of determining the update candidate block 60 (S32), the 3D
본 발명의 3차원 모델 갱신 장치(100)는 하나 이상의 갱신 후보 블록을 결정하는 단계(S32) 이후에, 소정의 방식에 따라 상기 하나 이상의 갱신 후보 블록 중 적어도 일부 블록을 하나 이상의 갱신 대상 블록으로 결정한다.After the step of determining one or more update candidate blocks (S32), the 3D
여기서, 소정의 방식이라 함은, 학습된 인공 신경망을 이용하여 갱신 후보 블록 중 갱신이 필요한 특징을 포함하는 블록을 갱신 대상 블록으로 결정하는 방법을 의미할 수 있다. 한편, 또 다른 실시예의 소정의 방식이라 함은, 갱신 후보 블록 중 갱신이 필요한 특징을 포함하는 블록에 대한 사용자의 선택 입력을 수신하고, 수신된 입력에 기초하여 갱신 대상 블록을 결정하는 방법을 의미할 수도 있다. 우선, 학습된 인공 신경망을 이용하여 갱신 대상 블록을 결정하는 방식에 대하여 구체적으로 설명한다.Here, the predetermined method may refer to a method of determining, as an update target block, a block including a feature requiring update among update candidate blocks using a learned artificial neural network. On the other hand, a predetermined method in another embodiment means a method of receiving a user's selection input for a block including a feature requiring updating among update candidate blocks, and determining an update target block based on the received input. You may. First, a method of determining an update target block using a learned artificial neural network will be described in detail.
도 5를 참조하면, 본 발명의 3차원 모델 갱신 장치(100)는 하나 이상의 갱신 후보 블록을 결정하는 단계(S32) 이후에, 제1 모델 상에서의 갱신 후보 블록과 제2 모델 상에서의 갱신 후보 블록의 차이 형상을 산출하고(S33), 학습된 인공 신경망을 이용하여 상기 차이 형상의 유형을 결정한다(S34). 이후, 본 발명의 3차원 모델 갱신 장치(100)는 차이 형상의 유형을 참조하여 갱신 후보 블록 중 일부 블록을 갱신 대상 블록으로 결정하는(S41) 단계를 수행한다.Referring to FIG. 5, after the step of determining one or more update candidate blocks (S32), the 3D
제1 모델과 제2 모델의 갱신 후보 블록에서 차이 형상을 산출(S33)하는 단계는, 각각의 갱신 후보 블록에 대한 픽셀 값의 차이를 연산하는 방식으로 수행될 수 있다. 다시 말해, 도 6의 (a)에 도시된 제1 모델의 (1,2) 블록과 도 6의 (b)에 도시된 제2 모델의 (1,2) 블록의 픽셀 값의 차이 값을 산출하는 경우, 해당 블록에서 차이 형상의 부분 즉, 현수막이 걸려있는 부분 만이 유의미한 차이 형상으로 산출될 수 있다.Calculating the difference shape between the update candidate blocks of the first model and the second model (S33) may be performed by calculating a difference between pixel values for each update candidate block. In other words, the difference between the pixel values of the (1,2) block of the first model shown in FIG. 6 (a) and the (1,2) block of the second model shown in FIG. 6 (b) is calculated. In this case, only the part of the difference shape in the corresponding block, that is, the part where the banner is hung, can be calculated as a significant difference shape.
이처럼 본 발명의 3차원 모델 갱신 장치(100)는 각각의 갱신 후보 블록에서 차이 형상을 산출하고 산출된 차이 형상을 기초로 학습된 인공 신경망을 이용하여 상기 차이 형상의 유형을 결정한다(S34). 이 경우 인공 신경망으로의 입력 값은 차이 형상에 대한 데이터(픽셀 데이터의 차이 값)이고, 출력 값은 차이 형상의 유형 즉, 사람, 현수막, 크랙과 같은 형상의 분류 데이터일 수 있다.As such, the 3D
본 발명의 3차원 모델 갱신 장치(100)가 이용하는 학습된 인공 신경망에 대해서는 이하의 도 8 내지 도 11을 참조하여 후술한다.The learned artificial neural network used by the 3D
본 발명의 3차원 모델 갱신 장치(100)는 학습된 인공 신경망을 이용하여 상기 차이 형상의 유형을 결정한(S34) 후, 결정된 차이 형상의 유형을 참조하여 갱신 후보 블록 중 일부 블록을 갱신 대상 블록으로 결정한다(S41). 이는 도 3에 도시된, 본 발명의 3차원 모델 갱신 장치(100)가 비교 결과에 기초하여 제2 모델의 적어도 일부 영역을 갱신 대상 영역으로 결정하는(S40) 단계에 대응될 수 있다.The 3D
갱신 후보 블록 중 일부 블록을 갱신 대상 블록으로 결정하는(S41) 단계는, 적어도 하나의 갱신 후보 블록 중 건물 외벽의 크랙과 같은 유의미한 갱신 대상을 포함하는 블록을 선택하는 것을 의미한다. 예컨대, 차이 형상이 도 6 및 도 7에 예시된 바와 같이 건물 외벽의 크랙, 건물 앞에 지나가는 사람, 건물에 걸려있는 현수막과 같이 분류되는 경우, 유의미한 갱신 대상은 건물 외벽의 크랙이며, 그 외의 사람과 현수막과 같은 차이 형상은 3차원 모델의 갱신 대상에 포함되지 않을 수 있다.The step of determining some of the update candidate blocks as update target blocks (S41) means selecting a block including a significant update target, such as a crack in an exterior wall of a building, from among at least one update candidate block. For example, when the difference shape is classified as a crack on the outer wall of a building, a person passing in front of a building, or a banner hanging on a building, as illustrated in FIGS. 6 and 7, a meaningful update target is a crack on the outer wall of a building, and A difference shape such as a banner may not be included in the update target of the 3D model.
이처럼, 차이 형상을 포함하는 갱신 후보 블록 모두가 다른 시점의 3차원 모델에 갱신될 필요는 없기 때문에, 본 단계(S41)에서 유의미한 갱신 대상만을 선별하여 해당 블록만을 갱신 대상 블록으로 결정하는 과정이 수행된다.In this way, since it is not necessary to update all of the update candidate blocks including the difference shape to the 3D model at different times, in this step (S41), a process of selecting only a significant update target and determining only the corresponding block as an update target block is performed. do.
도 3을 참조하면, 본 발명의 3차원 모델 갱신 장치(100)는 제2 모델의 적어도 일부 영역을 갱신 대상 영역으로 결정하는(S40) 단계 이후에, 갱신 대상 영역으로부터 추출된 형상 변화 데이터를 제1 모델에 추가한다(S50). 형상 변화 데이터를 상기 제1 모델에 추가하는 단계(S50)는, 제1 모델 상에서의 갱신 후보 블록과 제2 모델 상에서의 갱신 후보 블록의 차이 형상을 산출하는(S33) 단계에서 산출된 상기 차이 형상을 제1 모델의 갱신 대상 블록에 추가하는 단계를 포함한다. Referring to FIG. 3 , the 3D
도 13은 본 발명의 객체의 3차원 모델 갱신 방법에 의해 갱신된 제1 모델을 도시한다. 도 13을 참조하면, 건물 외벽의 크랙을 포함하여 제2 모델에서 갱신 대상 블록으로 결정된 블록에서 추출된 차이 형상을 제1 모델에 추가함으로써 본 발명의 3차원 모델 갱신 방법이 수행된다.13 shows a first model updated by the 3D model updating method of an object according to the present invention. Referring to FIG. 13 , the 3D model updating method of the present invention is performed by adding a difference shape extracted from a block determined as an update target block in the second model, including cracks on the outer wall of the building, to the first model.
이하에서, 본 발명의 3차원 모델 갱신 장치(100)가 이용하는 학습된 인공 신경망에 대하여 도 8 내지 도 11을 참조하여 구체적으로 설명한다.Hereinafter, the learned artificial neural network used by the 3D
도 8 및 도 9는 본 발명의 3차원 모델 갱신 장치(100)에서 활용되는 학습된 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다. 이러한 인공 신경망은 본 발명의 3차원 모델 갱신 장치(100)에 의해 학습된 인공 신경망일 수도 있고, 별도의 외부 장치에 의해 학습된 인공 신경망일 수도 있다.8 and 9 are diagrams for explaining an exemplary structure of a learned artificial neural network utilized in the 3D
본 발명의 일 실시예에 따른 인공 신경망은 도 8에 도시된 바와 같은 합성 곱 신경망(CNN: Convolutional Neural Network) 모델에 따른 인공 신경망일 수 있다. 이때 CNN 모델은 복수의 연산 레이어(Convolutional Layer, Pooling Layer)를 번갈아 수행하여 최종적으로는 입력 데이터의 특징을 추출하는 데 사용되는 계층 모델일 수 있다.An artificial neural network according to an embodiment of the present invention may be an artificial neural network based on a Convolutional Neural Network (CNN) model as shown in FIG. 8 . In this case, the CNN model may be a hierarchical model used to finally extract features of input data by alternately performing a plurality of operation layers (Convolutional Layer, Pooling Layer).
본 발명의 3차원 모델 갱신 장치(100) 또는 외부 장치는 신경망 학습 데이터를 지도학습(Supervised Learning) 기법에 따라 처리하여 인공 신경망 모델을 구축하거나 학습시킬 수 있다. 본 발명의 3차원 모델 갱신 장치(100)에서 활용되는 학습된 인공 신경망이 학습되는 방법에 대해서는 도 10을 참조하여 설명한다.The 3D
본 발명의 3차원 모델 갱신 장치(100)에서 활용되는 인공 신경망은 복수의 학습 데이터를 이용하여, 어느 하나의 입력 데이터를 인공 신경망에 입력하여 생성된 출력 값이 해당 학습 데이터에 표지된 값에 근접하도록 각 레이어 및/또는 각 노드의 가중치를 갱신하는 과정이 반복 수행됨으로써 학습될 수 있다. 이때 3차원 모델 갱신 장치(100) 또는 외부 장치는 역전파(Back Propagation) 알고리즘에 따라 각 레이어 및/또는 각 노드의 가중치(또는 계수)를 갱신할 수 있다.The artificial neural network used in the 3D
본 발명의 일 실시예에 따른 3차원 모델 갱신 장치(100) 또는 외부 장치는 입력 데이터의 특징 값을 추출하기 위한 컨볼루션 레이어(Convolution layer), 추출된 특징 값을 결합하여 특징 맵을 구성하는 풀링 레이어(pooling layer)를 생성할 수 있다. 또한 본 발명의 일 실시예에 따른 3차원 모델 갱신 장치(100) 또는 외부 장치는 생성된 특징 맵을 결합하여, 입력 데이터가 복수의 항목 각각에 해당할 확률을 결정할 준비를 하는 풀리 커넥티드 레이어(Fully Conected Layer)를 생성할 수 있다. 본 발명의 일 실시예에 따른 일 실시예에 따른 3차원 모델 갱신 장치(100) 또는 외부 장치는 입력 데이터에 대응되는 출력을 포함하는 아웃풋 레이어(Output Layer)를 산출할 수 있다. 도 8에 도시된 예시에서는, 입력 데이터가 5X7 형태의 블록으로 나누어지며, 컨볼루션 레이어의 생성에 5X3 형태의 단위 블록이 사용되고, 풀링 레이어의 생성에 1X4 또는 1X2 형태의 단위 블록이 사용되는 것으로 도시되었지만, 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 입력 데이터의 종류 및/또는 각 블록의 크기는 다양하게 구성될 수 있다.The 3D
한편 이와 같은 인공 신경망은 3차원 모델 갱신 장치(100) 또는 외부 장치의 저장부에 인공 신경망을 구성하는 적어도 하나의 노드의 계수, 노드의 가중치 및 인공 신경망을 구성하는 복수의 레이어 간의 관계를 정의하는 함수의 계수들의 형태로 저장될 수 있다. 물론 인공 신경망의 구조 또한 저장부에 소스코드 및/또는 프로그램의 형태로 저장될 수 있다.On the other hand, such an artificial neural network defines the coefficient of at least one node constituting the artificial neural network, the weight of the node, and the relationship between a plurality of layers constituting the artificial neural network in the storage of the 3D
본 발명의 일 실시예에 따른 인공 신경망은 도 9에 도시된 바와 같은 순환 신경망(Recurrent Neural Network, RNN) 모델에 따른 인공 신경망일 수 있다.An artificial neural network according to an embodiment of the present invention may be an artificial neural network based on a Recurrent Neural Network (RNN) model as shown in FIG. 9 .
도 9를 참조하면, 이와 같은 순환 신경망(RNN) 모델에 따른 인공 신경망은 적어도 하나의 입력 노드(N1)를 포함하는 입력 레이어(L1), 복수의 히든 노드(N2)를 포함하는 히든 레이어(L2) 및 적어도 하나의 출력 노드(N3)를 포함하는 출력 레이어(L3)를 포함할 수 있다. 이때 입력 레이어(L1)의 적어도 하나의 입력 노드(N1)에는 제2 텍스트 생성을 위한 하나 이상의 평가 이미지가 입력될 수 있다. Referring to FIG. 9 , an artificial neural network according to such a recurrent neural network (RNN) model includes an input layer L1 including at least one input node N1 and a hidden layer L2 including a plurality of hidden nodes N2. ) and an output layer L3 including at least one output node N3. At this time, one or more evaluation images for generating the second text may be input to at least one input node N1 of the input layer L1.
히든 레이어(L2)는 도시된 바와 같이 전체적으로 연결된(Fully Connected) 하나 이상의 레이어를 포함할 수 있다. 히든 레이어(L2)가 복수의 레이어를 포함하는 경우, 인공 신경망은 각각의 히든 레이어 사이의 관계를 정의하는 함수(미도시)를 포함할 수 있다. 출력 레이어(L3)의 적어도 하나의 출력 노드(N3)는 제어부(112)의 제어에 따라 인공 신경망이 입력 레이어(L1)의 입력 값으로부터 생성한 출력 값을 포함할 수 있다. 가령 출력 레이어(L3)에는 하나 이상의 평가 이미지에 대응되는 음을 묘사하는 제2 텍스트 데이터가 포함될 수 있다. As shown, the hidden layer L2 may include one or more fully connected layers. When the hidden layer L2 includes a plurality of layers, the artificial neural network may include a function (not shown) defining a relationship between each hidden layer. At least one output node N3 of the output layer L3 may include an output value generated by the artificial neural network from an input value of the input layer L1 under the control of the controller 112 . For example, the output layer L3 may include second text data describing sounds corresponding to one or more evaluation images.
한편 각 레이어의 각 노드에 포함되는 값은 벡터일 수 있다. 또한 각 노드는 해당 노드의 중요도에 대응되는 가중치를 포함할 수도 있다. 한편 인공 신경망은 입력 레이어(L1)와 히든 레이어(L2)의 관계를 정의하는 제1 함수(F1) 및 히든 레이어(L2)와 출력 레이어(L3)의 관계를 정의하는 제2 함수(F2)를 포함할 수 있다. 제1 함수(F1)는 입력 레이어(L1)에 포함되는 입력 노드(N1)와 히든 레이어(L2)에 포함되는 히든 노드(N2)간의 연결관계를 정의할 수 있다. 이와 유사하게, 제2 함수(F2)는 히든 레이어(L2)에 포함되는 히든 노드(N2)와 출력 레이어(L2)에 포함되는 출력 노드(N2)간의 연결관계를 정의할 수 있다. 이와 같은 제1 함수(F1), 제2 함수(F2) 및 히든 레이어 사이의 함수들은 이전 노드의 입력에 기초하여 결과물을 출력하는 순환 신경망 모델을 포함할 수 있다.Meanwhile, a value included in each node of each layer may be a vector. In addition, each node may include a weight corresponding to the importance of the corresponding node. Meanwhile, the artificial neural network includes a first function F1 defining the relationship between the input layer L1 and the hidden layer L2 and a second function F2 defining the relationship between the hidden layer L2 and the output layer L3. can include The first function F1 may define a connection relationship between the input node N1 included in the input layer L1 and the hidden node N2 included in the hidden layer L2. Similarly, the second function F2 may define a connection relationship between the hidden node N2 included in the hidden layer L2 and the output node N2 included in the output layer L2. Functions between the first function F1, the second function F2, and the hidden layer may include a recurrent neural network model that outputs a result based on an input of a previous node.
본 발명의 3차원 모델 갱신 장치(100)에서 활용되는 인공 신경망이 학습되는 과정에서, 복수의 학습 데이터에 기초하여 제1 함수(F1) 및 제2 함수(F2)가 학습될 수 있다. 물론 인공 신경망이 학습되는 과정에서 전술한 제1 함수(F1) 및 제2 함수(F2) 외에 복수의 히든 레이어 사이의 함수들 또한 학습될 수 있다. 본 발명의 일 실시예에 따른 인공 신경망은 표지(Labeled)된 학습 데이터를 기반으로 지도학습(Supervised Learning) 방식으로 학습될 수 있다. In the process of learning the artificial neural network used in the 3D
본 발명의 일 실시예에 따른 3차원 모델 갱신 장치(100) 또는 외부 장치는 복수의 학습 데이터를 이용하여, 어느 하나의 입력 데이터를 인공 신경망에 입력하여 생성된 출력 값이 해당 학습 데이터에 표지된 값에 근접하도록 전술한 함수들(F1, F2, 히든 레이어 사이의 함수들 등)을 갱신하는 과정을 반복하여 수행함으로써 인공 신경망을 학습시킬 수 있다. 이때 본 발명의 일 실시예에 따른 서버(100)는 역전파(Back Propagation) 알고리즘에 따라 전술한 함수들(F1, F2, 히든 레이어 사이의 함수들 등)을 갱신할 수 있다. 다만 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다.The 3D
한편 도 8 및 도 9에서 설명한 인공 신경망의 종류 및/또는 구조는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 다양한 종류의 모델의 인공 신경망이 명세서를 통하여 설명하는 '인공 신경망'에 해당할 수 있다.Meanwhile, the type and/or structure of the artificial neural network described in FIGS. 8 and 9 is exemplary, and the spirit of the present invention is not limited thereto. Accordingly, artificial neural networks of various types of models may correspond to 'artificial neural networks' described throughout the specification.
이하에서는 본 발명의 3차원 모델 갱신 장치(100)에서 활용되는 인공 신경망이 학습하는 과정에 대해서 먼저 설명하고, 3차원 모델 갱신 장치(100)가 학습된 인공 신경망을 이용하여 객체의 3차원 모델을 갱신하는 방법에 대하여 설명한다.Hereinafter, the process of learning the artificial neural network used in the 3D
도 10은 본 발명의 3차원 모델 갱신 장치(100)에서 활용되는 인공 신경망이 학습되는 과정을 설명하기 위한 도면이다.10 is a diagram for explaining a process of learning an artificial neural network used in the 3D
도 10을 참조하면, 본 발명의 3차원 모델 갱신 장치(100)에서 활용되는 인공 신경망(10)은 복수의 학습 데이터(11)를 이용하여 학습된다.Referring to FIG. 10 , the artificial
본 발명의 일 실시예에 따른 인공 신경망(10)은 복수의 학습 데이터(11) 각각에 포함되는 차이 형상 데이터(11a) 및 차이 형상의 유형(11b) 간의 상관관계를 학습한(또는 학습하는) 신경망을 의미할 수 있다. 즉, 본 발명의 인공 신경망(10)은 차이 형상에 관한 이미지 데이터인 제1 학습 데이터(11a) 및 차이 형상의 유형에 대한 제2 학습 데이터(11b)에 기반하여 차이 형상 데이터(11a) 및 차이 형상의 유형(11b) 간의 상관관계를 학습한(또는 학습하는) 신경망일 수 있다.The artificial
여기서, 차이 형상에 관한 이미지 데이터라 함은, 제1 모델과 제2 모델의 갱신 후보 블록에서 차이 형상을 산출(S33)하는 단계에서 산출된 차이 형상에 대한 데이터(픽셀 데이터의 차이 값)이다. 또한, 차이 형상의 유형이라 함은, 크랙, 사람, 현수막과 같이 차이 형상에 대한 대상을 특정할 수 있는 식별정보를 의미한다.Here, the image data related to the difference shape is data (difference value of pixel data) of the difference shape calculated in the step of calculating the difference shape in the update candidate block of the first model and the second model (S33). In addition, the type of the difference shape means identification information capable of specifying a target for the difference shape, such as a crack, a person, or a banner.
도 11은 본 발명의 객체의 3차원 모델 갱신 장치(100)가 학습된 인공 신경망을 이용하여 도 5의 차이 형상의 유형을 결정하는 단계(S34)를 수행하는 방법을 설명하기 위한 도면이다.FIG. 11 is a diagram for explaining how the
도 11을 참조하면, 본 발명의 3차원 모델 갱신 장치(100)는 학습된 인공 신경망(10)을 이용하여, 형상에 대한 데이터(픽셀 데이터의 차이 값)를 포함한 입력 정보(12)로부터 차이 형상의 유형 즉, 사람, 현수막, 크랙과 같은 형상의 분류 데이터를 포함한 출력 정보(13)를 생성한다. 본 발명의 객체의 3차원 모델 갱신 장치(100)는 학습된 인공 신경망(10)을 이용하여, 제1 모델 상에서의 갱신 후보 블록과 제2 모델 상에서의 갱신 후보 블록로부터 산출된 차이 형상을 이용하여 차이 형상의 유형을 결정하는 단계(S34)를 수행할 수 있다.Referring to FIG. 11, the 3D
예컨대, 도 11의 (a)에 따르면 건물 외벽에 포함되는 크랙에 대한 차이 형상이 입력 정보(12)일 수 있고, 크랙이라는 분류 결과가 출력 정보(13)일 수 있다. 본 발명의 3차원 모델 갱신 장치(100)는 크랙이라는 분류 결과 즉, 크랙이라는 차이 형상의 유형을 기초로, 해당 블록을 갱신 대상 블록으로 포함시킬지 여부를 판단한다. 차이 형상의 유형을 결정하는 단계(S34)에서 '크랙'으로 차이 형상의 유형이 결정되는 경우라면 해당 블록을 갱신 대상 블록으로 포함시키는 것이 바람직하다.For example, according to (a) of FIG. 11 , the difference shape of cracks included in the outer wall of a building may be
도 11의 (b)에 따르면 건물 앞에 지나가는 행인에 대한 차이 형상이 입력 정보(12)일 수 있고, 사람이라는 분류 결과가 출력 정보(13)일 수 있다. 본 발명의 3차원 모델 갱신 장치(100)는 크랙이라는 분류 결과 즉, 크랙이라는 차이 형상의 유형을 기초로, 해당 블록을 갱신 대상 블록으로 포함시킬지 여부를 판단한다. 차이 형상의 유형을 결정하는 단계(S34)에서 '사람'으로 차이 형상의 유형이 결정되는 경우라면 해당 블록을 갱신 대상 블록으로 포함시키지 않는 것이 바람직하다.According to (b) of FIG. 11 , the difference shape of a passerby passing in front of a building may be
한편, 도 12는 차이 형상의 유형을 결정하는 단계(S34)에서 결정된 유형이 복수 개의 서로 다른 유형을 포함하는 경우에 수행되는 방법을 설명하기 위한 도면이다.Meanwhile, FIG. 12 is a diagram for explaining a method performed when the type determined in the step of determining the difference shape type (S34) includes a plurality of different types.
경우에 따라, 갱신 후보 블록이 복수 개의 서로 다른 유형의 차이 형상을 포함할 수 있다. 도 12에 도시된 바와 같이, 단일한 갱신 후보 블록(60)이 크랙과 사람에 대한 차이 형상을 모두 포함하는 경우라면, 상술한 학습된 인공 신경망(10)을 통해 각각의 차이 형상에 대한 유형이 출력될 수 있다.In some cases, an update candidate block may include a plurality of different types of difference shapes. As shown in FIG. 12, if a single
이때, 본 발명의 객체의 3차원 모델 갱신 장치(100)는 상기 차이 형상의 유형을 결정하는 단계(S34)에서 결정된 유형이 복수 개의 서로 다른 유형을 포함하는 경우, 갱신 후보 블록(60)을 단일 유형의 차이 형상을 포함하는 복수의 세부 블록(80)으로 분할하는 단계를 수행할 수 있다. 이후, 갱신 대상 블록으로의 포함 여부를 결정하는 단계(S41)는 각각의 세부 블록(80)에 대한 갱신 대상 블록으로의 포함 여부를 결정하도록 수행된다.At this time, the
한편, 도시되지는 않았지만, 본 발명의 3차원 모델 갱신 장치(100)가 결정된 차이 형상의 유형을 참조하여 갱신 후보 블록 중 일부 블록 갱신 대상 블록으로 결정하는(S41) 방식은, 사용자의 선택 입력을 추가로 수신하고 수신된 선택 입력에 기초하여 갱신 대상 블록을 결정하는 단계를 포함할 수 있다. On the other hand, although not shown, the method in which the 3D
다시 말해, 본 발명의 3차원 모델 갱신 장치(100)는 갱신 대상 영역으로부터 추출된 형상 변화 데이터를 제1 모델에 추가하는(S50) 단계 이전에, 차이 형상 및 상기 차이 형상에 대한 유형을 포함한 인터페이스를 사용자 단말(300)에 제공하는 단계, 사용자 단말(300)에 제공된 인터페이스에 대한 사용자의 선택 입력을 수신하는 단계, 수신된 선택 입력에 기초하여 갱신 후보 블록을 갱신 대상 블록으로 포함시킬지 여부를 결정하는 단계를 포함할 수 있다.In other words, before the step of adding the shape change data extracted from the update target region to the first model (S50), the 3D
본 발명의 객체의 3차원 모델을 갱신하는 방법 및 장치에 따르면 시설물의 결함 검출 및 결함 여부 판단에 있어서 점검자의 주관적 판단의 개입을 최소화하고 데이터 분석 및 처리를 자동화함으로써, 시설물 안전점검 및 유지관리를 위한 데이터 처리에 소요되는 시간 및 비용을 절감할 수 있다.According to the method and apparatus for renewing a 3D model of an object of the present invention, safety inspection and maintenance of facilities are performed by minimizing the intervention of the inspector's subjective judgment and automating data analysis and processing in detecting and determining whether a facility has defects. It can reduce the time and cost required for data processing for
또한, 본 발명의 객체의 3차원 모델을 갱신하는 방법 및 장치에 따르면, 결함 여부를 판단하고 갱신 데이터와 비갱신 데이터를 식별하는 인공 신경망을 적용하여 시설물의 결함 검출 및 판단에 대한 속도 및 정확도를 높일 수 있다.In addition, according to the method and apparatus for updating a 3D model of an object of the present invention, the speed and accuracy of facility defect detection and judgment are improved by applying an artificial neural network that determines whether there is a defect and identifies updated data and non-updated data. can be raised
이상 설명된 본 발명에 따른 객체의 3차원 모델을 갱신하는 방법의 다양한 실시예는 컴퓨터 상에서 다양한 구성요소를 통하여 실행될 수 있는 컴퓨터 프로그램의 형태로 구현될 수 있으며, 이와 같은 컴퓨터 프로그램은 컴퓨터로 판독 가능한 매체에 기록될 수 있다. Various embodiments of the method for updating a 3D model of an object according to the present invention described above can be implemented in the form of a computer program that can be executed on a computer through various components, and such a computer program can be read by a computer. can be recorded on media.
이때, 매체는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치를 포함할 수 있다. 나아가, 매체는 네트워크 상에서 전송 가능한 형태로 구현되는 무형의 매체를 포함할 수 있으며, 예를 들어 소프트웨어 또는 애플리케이션 형태로 구현되어 네트워크를 통해 전송 및 유통이 가능한 형태의 매체일 수도 있다.At this time, the medium is a magnetic medium such as a hard disk, a floppy disk and a magnetic tape, an optical recording medium such as a CD-ROM and a DVD, a magneto-optical medium such as a floptical disk, and a ROM hardware devices specially configured to store and execute program instructions, such as RAM, flash memory, and the like. Furthermore, the medium may include an intangible medium implemented in a form transmittable on a network, and may be, for example, a medium implemented in the form of software or an application and capable of transmission and distribution through a network.
이상 첨부된 도면을 참조하여 본 발명의 실시예들을 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.Although the embodiments of the present invention have been described with reference to the accompanying drawings, those skilled in the art to which the present invention pertains can be implemented in other specific forms without changing the technical spirit or essential features of the present invention. you will be able to understand Therefore, the embodiments described above should be understood as illustrative in all respects and not limiting.
1000 … 3차원 모델 갱신 시스템
100 … 3차원 모델 갱신 장치
110 … 통신부
120 … 제어부
130 … 저장부
200 … 영상 획득 수단
300 … 단말
10 … 인공 신경망
11 … 학습 데이터
12 … 입력 정보
13 … 출력 정보
60 … 갱신 후보 블록
70 … 통합 갱신 후보 블록
80 … 세부 갱신 후보 블록1000 … 3D model update system
100 … 3D model updating device
110 … Ministry of Communications
120 … control unit
130 … storage
200 … image acquisition means
300 … terminal
10 … artificial neural network
11 … learning data
12 … input information
13 … output information
60 … update candidate block
70 … Integration update candidate block
80 … Detailed update candidate block
Claims (8)
제2 시점에 상기 대상 객체가 촬영된 이미지로부터 상기 대상 객체의 3차원 모델인 제2 모델을 생성하는 단계;
제1 시점에서 상기 대상 객체가 촬영된 이미지로부터 생성된 상기 대상 객체의 3차원 모델인 제1 모델과 상기 제2 모델의 비교 결과를 산출하는 단계로써, 상기 제1 시점은 상기 제2 시점 이전의 시점이고;
상기 비교 결과에 기초하여 상기 제2 모델의 적어도 일부 영역을 갱신 대상 영역으로 결정하는 단계; 및
상기 갱신 대상 영역으로부터 추출된 형상 변화 데이터를 상기 제1 모델에 추가하는 단계; 를 포함하는, 객체의 3차원 모델을 갱신하는 방법.A method for updating a 3D model of a target object in virtual space,
generating a second model, which is a 3D model of the target object, from an image of the target object captured at a second viewpoint;
A step of calculating a comparison result between a first model, which is a 3D model of the target object, and the second model, which is a 3D model of the target object generated from an image of the target object at a first viewpoint, wherein the first viewpoint is the first viewpoint before the second viewpoint. is the time point;
determining at least a partial region of the second model as an update target region based on the comparison result; and
adding shape change data extracted from the update target region to the first model; Including, how to update the three-dimensional model of the object.
상기 제2 모델을 생성하는 단계는,
상기 대상 객체가 촬영된 통합 이미지로부터 촬영 시점을 달리하는 복수의 부분 이미지를 생성하는 단계; 및
상기 복수의 부분 이미지로부터 상기 제2 모델을 생성하는 단계; 를 포함하는, 객체의 3차원 모델을 갱신하는 방법.According to claim 1,
The step of generating the second model,
generating a plurality of partial images of different capturing points from the integrated image in which the target object is captured; and
generating the second model from the plurality of partial images; Including, how to update the three-dimensional model of the object.
상기 제1 모델과 상기 제2 모델의 비교 결과를 산출하는 단계는,
상기 제1 모델 및 상기 제2 모델 각각을 복수의 단위 블록으로 분할하는 단계;
상기 제1 모델 및 상기 제2 모델을 블록 단위로 비교하여 형상의 차이가 발생한 하나 이상의 갱신 후보 블록을 결정하는 단계; 및
소정의 방식에 따라 상기 하나 이상의 갱신 후보 블록 중 적어도 일부 블록을 하나 이상의 갱신 대상 블록으로 결정하는 단계; 를 포함하는, 객체의 3차원 모델을 갱신하는 방법.According to claim 1,
Calculating a comparison result of the first model and the second model,
Dividing each of the first model and the second model into a plurality of unit blocks;
comparing the first model and the second model block by block to determine one or more update candidate blocks having a shape difference; and
determining at least some of the one or more update candidate blocks as one or more update target blocks according to a predetermined method; Including, how to update the three-dimensional model of the object.
상기 하나 이상의 갱신 후보 블록은 제1 후보 블록을 포함하고,
상기 갱신 대상 영역으로 결정하는 단계는,
상기 제1 모델 상에서의 제1 후보 블록과 상기 제2 모델 상에서의 제1 후보 블록의 차이 형상을 산출하는 단계;
학습된 인공 신경망을 이용하여 상기 차이 형상의 유형을 결정하는 단계; 및
상기 유형을 참조하여 상기 제1 후보 블록의 상기 갱신 대상 블록으로의 포함 여부를 결정하는 단계; 를 포함하는, 객체의 3차원 모델을 갱신하는 방법.According to claim 3,
The one or more update candidate blocks include a first candidate block,
The step of determining the update target area,
calculating a difference shape between a first candidate block on the first model and a first candidate block on the second model;
determining the type of the difference shape using a learned artificial neural network; and
determining whether the first candidate block is included in the update target block by referring to the type; Including, how to update the three-dimensional model of the object.
상기 형상 변화 데이터를 상기 제1 모델에 추가하는 단계는,
상기 차이 형상을 상기 제1 모델의 갱신 대상 블록에 추가하는 단계; 를 포함하는, 객체의 3차원 모델을 갱신하는 방법.According to claim 4
Adding the shape change data to the first model,
adding the difference shape to an update target block of the first model; Including, how to update the three-dimensional model of the object.
상기 차이 형상의 유형을 결정하는 단계에서 결정된 유형이 복수 개의 서로 다른 유형을 포함하는 경우,
상기 제1 후보 블록을 단일 유형의 차이 형상을 포함하는 복수의 세부 블록으로 분할하는 단계; 를 더 포함하고,
상기 갱신 대상 블록으로의 포함 여부를 결정하는 단계는 각각의 세부 블록에 대한 갱신 대상 블록으로의 포함 여부를 결정하는, 객체의 3차원 모델을 갱신하는 방법.According to claim 4,
If the type determined in the step of determining the type of the difference shape includes a plurality of different types,
dividing the first candidate block into a plurality of subblocks including a single type of difference shape; Including more,
The step of determining whether to include in the update target block determines whether to include each subblock in the update target block, a method for updating a three-dimensional model of an object.
상기 하나 이상의 갱신 후보 블록을 결정하는 단계에서 서로 인접한 블록이 갱신 후보 블록으로 결정되는 경우,
서로 인접한 블록을 통합 갱신 후보 블록으로 병합하는 단계; 를 더 포함하는, 객체의 3차원 모델을 갱신하는 방법.According to claim 3,
In the step of determining one or more update candidate blocks, when blocks adjacent to each other are determined as update candidate blocks,
merging blocks adjacent to each other into an integrated update candidate block; A method for updating a three-dimensional model of an object, further comprising a.
상기 갱신 대상 블록으로의 포함 여부를 결정하는 단계는,
상기 차이 형상 및 상기 차이 형상에 대한 유형을 포함한 인터페이스를 제공하는 단계;
상기 인터페이스에 대한 사용자의 선택 입력을 수신하는 단계;
상기 선택 입력에 기초하여 상기 제1 후보 블록의 상기 갱신 대상 블록으로의 포함 여부를 결정하는 단계; 를 포함하는, 객체의 3차원 모델을 갱신하는 방법.According to claim 4,
The step of determining whether to include in the update target block,
providing an interface including the difference shape and a type for the difference shape;
receiving a user's selection input for the interface;
determining whether to include the first candidate block in the update target block based on the selection input; Including, how to update the three-dimensional model of the object.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020210139938A KR102538012B1 (en) | 2021-10-20 | 2021-10-20 | Method and apparatus for updating 3D model of object in virtual space |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020210139938A KR102538012B1 (en) | 2021-10-20 | 2021-10-20 | Method and apparatus for updating 3D model of object in virtual space |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20230056192A true KR20230056192A (en) | 2023-04-27 |
| KR102538012B1 KR102538012B1 (en) | 2023-05-30 |
Family
ID=86100553
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020210139938A KR102538012B1 (en) | 2021-10-20 | 2021-10-20 | Method and apparatus for updating 3D model of object in virtual space |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102538012B1 (en) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20180131471A (en) * | 2017-05-30 | 2018-12-10 | 주식회사 위메이드아이앤씨 | Apparatus for integrated management of construction errors using 3d scanning with bim and method thereof |
| KR20200015589A (en) * | 2017-05-29 | 2020-02-12 | 유니베르시태트 취리히 | Block-matching Optical Flow and Stereo Vision for Dynamic Vision Sensors |
| KR102204016B1 (en) | 2020-07-23 | 2021-01-18 | (주)에이톰엔지니어링 | System and method for 3d based facilities safety management |
| KR20210071283A (en) * | 2019-12-06 | 2021-06-16 | 주식회사 드론아이디 | Safety inspection maintenance method and system for structure using drone |
| KR20210115246A (en) * | 2020-03-12 | 2021-09-27 | 이용 | Integral maintenance control method and system for managing dam safety based on 3d modelling |
-
2021
- 2021-10-20 KR KR1020210139938A patent/KR102538012B1/en active IP Right Grant
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20200015589A (en) * | 2017-05-29 | 2020-02-12 | 유니베르시태트 취리히 | Block-matching Optical Flow and Stereo Vision for Dynamic Vision Sensors |
| KR20180131471A (en) * | 2017-05-30 | 2018-12-10 | 주식회사 위메이드아이앤씨 | Apparatus for integrated management of construction errors using 3d scanning with bim and method thereof |
| KR20210071283A (en) * | 2019-12-06 | 2021-06-16 | 주식회사 드론아이디 | Safety inspection maintenance method and system for structure using drone |
| KR20210115246A (en) * | 2020-03-12 | 2021-09-27 | 이용 | Integral maintenance control method and system for managing dam safety based on 3d modelling |
| KR102204016B1 (en) | 2020-07-23 | 2021-01-18 | (주)에이톰엔지니어링 | System and method for 3d based facilities safety management |
Also Published As
| Publication number | Publication date |
|---|---|
| KR102538012B1 (en) | 2023-05-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Rahimian et al. | On-demand monitoring of construction projects through a game-like hybrid application of BIM and machine learning | |
| KR102423561B1 (en) | Intelligent dam management system based on digital twin | |
| RU2642167C2 (en) | Device, method and system for reconstructing 3d-model of object | |
| Verykokou et al. | UAV-based 3D modelling of disaster scenes for Urban Search and Rescue | |
| AU2014236959B2 (en) | Determining object volume from mobile device images | |
| CN110084304B (en) | Target detection method based on synthetic data set | |
| WO2023093217A1 (en) | Data labeling method and apparatus, and computer device, storage medium and program | |
| Huang et al. | Semantics-aided 3D change detection on construction sites using UAV-based photogrammetric point clouds | |
| EP3274964B1 (en) | Automatic connection of images using visual features | |
| CN110728707B (en) | Multi-view depth prediction method based on asymmetric depth convolution neural network | |
| JP7059883B2 (en) | Learning device, image generator, learning method, and learning program | |
| US11494975B2 (en) | Method for analyzing three-dimensional model and device for analyzing three-dimensional model | |
| CN114758337B (en) | Semantic instance reconstruction method, device, equipment and medium | |
| JP2017033197A (en) | Change area detection device, method, and program | |
| CN104350525A (en) | Combining narrow-baseline and wide-baseline stereo for three-dimensional modeling | |
| Pantoja-Rosero et al. | Damage-augmented digital twins towards the automated inspection of buildings | |
| CN116188703B (en) | Building engineering visual management system based on BIM | |
| Levine et al. | Development of a building information model-guided post-earthquake building inspection framework using 3D synthetic environments | |
| CN117197388A (en) | Live-action three-dimensional virtual reality scene construction method and system based on generation of antagonistic neural network and oblique photography | |
| JP7059889B2 (en) | Learning device, image generator, learning method, and learning program | |
| JP2007193850A (en) | Change region recognition apparatus | |
| US11861900B2 (en) | Multi-view visual data damage detection | |
| Lu et al. | Image-based 3D reconstruction for Multi-Scale civil and infrastructure Projects: A review from 2012 to 2022 with new perspective from deep learning methods | |
| KR102538012B1 (en) | Method and apparatus for updating 3D model of object in virtual space | |
| CN114529689B (en) | Ceramic cup defect sample amplification method and system based on antagonistic neural network |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |