KR20210115245A - Intelligent dam management system based on digital twin - Google Patents

Intelligent dam management system based on digital twin Download PDF

Info

Publication number
KR20210115245A
KR20210115245A KR1020200030739A KR20200030739A KR20210115245A KR 20210115245 A KR20210115245 A KR 20210115245A KR 1020200030739 A KR1020200030739 A KR 1020200030739A KR 20200030739 A KR20200030739 A KR 20200030739A KR 20210115245 A KR20210115245 A KR 20210115245A
Authority
KR
South Korea
Prior art keywords
dam
modeling
digital twin
management system
safety management
Prior art date
Application number
KR1020200030739A
Other languages
Korean (ko)
Other versions
KR102423561B1 (en
Inventor
이용
Original Assignee
이용
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 이용 filed Critical 이용
Priority to KR1020200030739A priority Critical patent/KR102423561B1/en
Publication of KR20210115245A publication Critical patent/KR20210115245A/en
Application granted granted Critical
Publication of KR102423561B1 publication Critical patent/KR102423561B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/08Arrangements of cameras
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06K9/62
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06Energy or water supply
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Tourism & Hospitality (AREA)
  • General Health & Medical Sciences (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Primary Health Care (AREA)
  • Mathematical Physics (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Quality & Reliability (AREA)
  • Medical Informatics (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Water Supply & Treatment (AREA)
  • Optics & Photonics (AREA)
  • Computer Graphics (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Multimedia (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

The present invention relates to a digital twin-based intelligent dam safety management system. According to the present invention, considerable improvements can be achieved in speed, accuracy, efficiency, and so on through dam infrastructure safety inspection and facility management technology advancement. The present invention includes: a digital twin generation module for building 3D dam modeling with respect to a dam where measuring means is installed at a facility based on an image captured by at least one of a drone and imaging means, subdividing the 3D dam modeling by management region, and displaying at least one of facility information and measurement information of the measuring means on the 3D dam modeling; a 3D modeling mapping module mapping the 3D dam modeling with an image captured by a thermal imaging camera-equipped drone and storing certain flight path information by management region and enabling the confirmation of dam water leakage or efflorescence change through a thermal imaging orthoimage while comparing and expressing the pre- and post-mapping 3D dam modeling; and a concrete crack identification module for performing concrete crack identification by deep learning analysis of a dam concrete structure image captured by the drone.

Description

디지털 트윈 기반 지능형 댐 안전 관리 시스템{INTELLIGENT DAM MANAGEMENT SYSTEM BASED ON DIGITAL TWIN}Digital twin-based intelligent dam safety management system {INTELLIGENT DAM MANAGEMENT SYSTEM BASED ON DIGITAL TWIN}

본 발명은 댐 안전 관리 시스템에 관한 것으로서, 보다 구체적으로는 댐 인프라 안전점검 및 시설관리의 기술 고도화를 통해 신속성, 정확성, 효율성 등을 대폭적으로 개선할 수 있는 디지털 트윈 기반 지능형 댐 안전 관리 시스템에 관한 것이다.The present invention relates to a dam safety management system, and more specifically, to a digital twin-based intelligent dam safety management system that can significantly improve speed, accuracy, efficiency, etc. through technological advancement of dam infrastructure safety inspection and facility management will be.

국내의 물 인프라는 세계적 수준으로 1967년 소양강댐을 시작으로 다목적댐·보 등 수자원 물인프라 시설(56개소)을 건설·관리하고 있으며 국가 산업발전의 핵심 인프라를 맏고 있다.Korea's water infrastructure is world-class, starting with the Soyanggang Dam in 1967, building and managing water resource water infrastructure facilities (56 places) such as multi-purpose dams and weirs, and it is the core infrastructure for national industrial development.

특히, 한국수자원공사는 용수공급 125억㎥(전체의 60%), 홍수조절 53억㎥(국가 전체의 95%) 담당하고 있으나, 전체 SOC 인프라 중 댐 및 저수지의 노후화율이 월등히 높은 상황이다.In particular, Korea Water Resources Corporation is responsible for water supply of 12.5 billion m3 (60% of the total) and flood control of 5.3 billion m3 (95% of the country), but the aging rate of dams and reservoirs among the entire SOC infrastructure is very high.

최근 일련의 사고로 물 인프라 안전관리에 대한 국민적인 관심이 부상하고 있으며, 전 세계적으로도 물 인프라 노후화 및 기후변화로 인한 대형 댐 안전 사고가 빈발하고 있다.Due to a series of accidents, public interest in water infrastructure safety management is rising recently, and large-scale dam safety accidents due to deterioration of water infrastructure and climate change are frequent around the world.

그러나 위와 같이 재난으로까지 이어질 수 있는 댐의 안전관리가 매우 중차대한 이슈임에도 불구하고 현행 댐 관리의 문제점들로는 다음과 같은 것들이 있다.However, despite the fact that the safety management of dams, which can lead to disasters, is a very important issue as described above, the problems of current dam management include the following.

- 기후변화, 지진발생 증가 등에 대한 기존 시설물 대응력 증대를 위한 구조·비구조적 대책 마련 필요- It is necessary to prepare structural and non-structural measures to increase the ability of existing facilities to respond to climate change and increased earthquake occurrence.

- 시설물 노후화, SOC 투자 감소, 4차 산업혁명 기술 등 첨단기술의 개발 및 적용요구 증가 등 시설물 안전·분야에 새로운 요구 대두- New demands are emerging in the field of facility safety, such as aging of facilities, reduction of SOC investment, and increasing demand for development and application of advanced technologies such as 4th industrial revolution technology

- 국내 SOC 관리 기업·기관에 비해 수자원 시설 유지관리 분야에서 4차 산업혁명 기술 등 최신기술 도입 미흡- Insufficient introduction of the latest technologies such as the 4th industrial revolution technology in the field of water resource facility maintenance compared to domestic SOC management companies and institutions

- 2000년 이전 준공 댐의 도면, 축조, 물성, 계측정보 등 필수 정보의 전산화 미흡- Insufficient computerization of essential information such as drawings, construction, physical properties, and measurement information of dams completed before 2000

- 점검 및 진단 자료는 종이 보고서 형태로 개별 보존 → 사용자 접근성 제한, 정보 검색에 상당한 시간과 경험을 수반함에 따라 경험자의 노하우에 의존- Inspection and diagnostic data are individually preserved in the form of paper reports → Reliance on the know-how of experienced users as it entails a significant amount of time and experience in user access restrictions and information retrieval.

- 기존 유지관리 이력 분산 및 접근성 제한에 따라 체계적인 시설 및 보수보강 이력 관리필요- Systematic facility and maintenance and reinforcement history management is required due to the distribution of existing maintenance history and restrictions on accessibility

- 현재 댐 안전점검 자료들이 점검주체의 보고서 및 스캐닝된 전자문서 형태로 보존되어 사용자의 접근성이 제한되고 정확한 위치 파악에 상당한 시간과 경험을 수반하며 지식의 제공과 공유에 있어 경험자의 노하우에 의존- Currently, dam safety inspection materials are preserved in the form of the inspection subject's report and scanned electronic document, which limits the user's accessibility and entails considerable time and experience in determining the exact location.

- 댐 시설물의 법정 안전 점검 및 진단업무는 대부분 접근 제약 지역 육안조사 위주로 진행됨에 따라 크고 작은 위험작업으로 분류되고 데이터의 정확성이 낮으며 노동력과 시간에 크게 의존- As most of the legal safety inspection and diagnosis work of dam facilities is conducted mainly on visual inspections in areas with restricted access, they are classified as large and small dangerous tasks, the accuracy of data is low, and it is highly dependent on labor and time.

- 기존 엔지니어의 노하우 중심 안전관리로 신입·전입 직원의 업무 숙련화에 상당시간 소요- It takes a considerable amount of time to master the work of new/transferred employees through safety management based on the know-how of existing engineers

- 계측 데이터 분석은 단순 경시변화 제공으로 정보의 직관적 이해가 어렵고 계측 정보의 공학적 의미가 결여되어 분석에 상당 시간 소요- Measurement data analysis takes a considerable amount of time because it is difficult to understand information intuitively and lacks the engineering meaning of measurement information as it provides simple temporal changes.

- 외부 변위계 등 주요 계측기 설치 위치 이외의 변형, 열화 현상 파악에 제한적임에 따라 입체적 변형 모니터링 필요- Three-dimensional deformation monitoring is necessary as it is limited to identify deformation and deterioration phenomena other than the installation location of major instruments such as external displacement gauges

따라서 4차 산업혁명 기술을 적용하여 댐 인프라 안전점검 및 시설관리의 기술 고도화를 도모할 수 있는 방안 마련이 필요한 실정이다.Therefore, it is necessary to prepare a plan to promote the technological advancement of dam infrastructure safety inspection and facility management by applying the 4th industrial revolution technology.

대한민국 등록특허공보 제10-0773393호Republic of Korea Patent Publication No. 10-0773393 대한민국 공개특허공보 제10-2017-0074411호Republic of Korea Patent Publication No. 10-2017-0074411

본 발명은 상기한 종래 기술의 문제점을 해결하기 위해 안출된 것으로서, 댐 인프라 안전점검 및 시설관리의 기술 고도화를 통해 신속성, 정확성, 효율성 등을 대폭적으로 개선할 수 있는 디지털 트윈 기반 지능형 댐 안전 관리 시스템을 제공하는데 그 목적이 있다.The present invention has been devised to solve the problems of the prior art, and a digital twin-based intelligent dam safety management system that can significantly improve speed, accuracy, efficiency, etc. through technological advancement of dam infrastructure safety inspection and facility management Its purpose is to provide

상기 목적을 달성하기 위하여, 본 발명은, 시설물에 계측수단이 설치된 댐에 대해 드론 및 촬영수단 중 적어도 어느 하나 이상으로 촬영한 이미지에 기초하여 3D 댐 모델링을 구축하고, 3D 댐 모델링을 관리영역 단위별로 세분화하며, 3D 댐 모델링상에 시설물 정보 및 계측수단의 측정정보 중 적어도 어느 하나 이상을 표시하기 위한 디지털 트윈 생성모듈과; 상기 관리영역 단위별로 일정 비행경로 정보가 저장되고 열화상 카메라가 장착된 드론이 촬영한 이미지를 3D 댐 모델링에 매핑하고, 매핑 전후 3D 댐 모델링을 비교 표출하면서 열화상 정사영상을 통해 댐의 누수 또는 백태 변화를 확인 가능하도록 하는 3D 모델링 매핑모듈과; 상기 드론이 촬영한 댐 콘크리트 구조물 이미지를 딥러닝 방식으로 분석하여 콘크리트 균열을 판별하기 위한 콘크리트 균열 판별모듈;을 구비하는 것을 특징으로 한다.In order to achieve the above object, the present invention builds a 3D dam modeling based on an image captured by at least any one of a drone and a photographing means for a dam in which a measuring means is installed in a facility, and 3D dam modeling is performed in a management area unit a digital twin generation module for subdividing into each and displaying at least any one or more of facility information and measurement information of measurement means on 3D dam modeling; The flight path information is stored for each unit of the management area and the image taken by a drone equipped with a thermal imaging camera is mapped to 3D dam modeling, and the 3D dam modeling before and after mapping is compared and expressed while leaking or leaking the dam through the thermal image orthographic image. a 3D modeling mapping module that enables confirmation of white changes; and a concrete crack identification module for determining concrete cracks by analyzing the dam concrete structure image taken by the drone in a deep learning method.

여기서, 상기 드론은 종중복도 80% 이상 및 횡중복도 70% 이상으로 하여 촬영한 이미지가 격자 형태가 되도록 하거나, 동서방향 및 남북방향으로 비행하면서 촬영한 이미지가 중복되도록 하는 비행경로 정보를 저장하는 것을 특징으로 한다.Here, the drone uses 80% or more of longitudinal overlap and 70% or more of lateral overlap so that the photographed image is in a grid shape, or the image taken while flying in the east-west and north-south directions overlaps with flight path information to store characterized in that

또한, 상기 계측수단은 IoT 기능을 구비하고, 상기 디지털 트윈 생성모듈은 계측수단으로부터 수신한 측정정보를 실시간으로 조회 가능하도록 3D 댐 모델링에 링크시키는 것을 특징으로 한다.In addition, the measurement means is equipped with an IoT function, and the digital twin generation module is characterized in that the measurement information received from the measurement means is linked to the 3D dam modeling so that it can be inquired in real time.

추가적으로, 상기 디지털 트윈 생성모듈은 댐에 대해 스캔한 2D 도면을 3D로 변환하여 3D 댐 모델링에 연계 가능하고, 3D 댐 모델링에 대해 일상점검을 위한 체크리스트를 설정하여 주기적으로 팝업시킬 수 있는 것을 특징으로 한다.Additionally, the digital twin generation module converts a 2D drawing scanned for a dam into 3D, can be linked to 3D dam modeling, and can periodically pop-up by setting a checklist for daily inspection for 3D dam modeling. do it with

또한, 상기 디지털 트윈 생성모듈과 연동하여 3D 댐 모델링, 시설물 정보 및 계측수단의 측정정보 중 적어도 어느 하나 이상을 표출 가능한 AR(Augmented Reality) 글래스를 더 포함하는 것을 특징으로 한다.In addition, it is characterized in that it further comprises AR (Augmented Reality) glasses capable of displaying at least any one of 3D dam modeling, facility information, and measurement information of a measurement means in conjunction with the digital twin generation module.

또한, 상기 3D 모델링 매핑모듈은 매핑 전후 3D 댐 모델링을 동기화시켜 경시 변화를 비교하여 표출 가능한 것을 특징으로 한다.In addition, the 3D modeling mapping module is characterized in that it is possible to compare and express changes over time by synchronizing 3D dam modeling before and after mapping.

더욱이, 상기 콘크리트 균열 판별모듈은 콘크리트 균열 이미지에 대해 스케일은 동일하게 유지하면서 회전, 밝기 조절, 선명도 조절, 좌우반전 및 상하반전 중 적어도 어느 하나 이상의 방식에 따라 변형시키면서 그 변형된 복수개의 콘크리트 균열 이미지를 학습하여 콘크리트 균열을 판별하기 위한 학습 데이터를 강화시키며, 콘크리트 균열 이미지상의 노이즈를 제거한 다음으로 균열 길이 및 폭 중 적어도 어느 하나 이상을 추출하는 것을 특징으로 한다.In addition, the concrete crack discrimination module maintains the same scale for the concrete crack image and deforms it according to at least any one of rotation, brightness control, sharpness control, left/right reversal, and up/down reversal while maintaining the same scale for a plurality of transformed concrete crack images. It is characterized in that the learning data for discriminating concrete cracks is strengthened by learning the

또한, 상기 계측수단의 측정정보 중 누수량과 관계된 데이터를 추출하여 기계학습에 의해 누수량을 예측하기 위한 누수량 예측모듈을 더 포함하는 것을 특징으로 한다.In addition, it characterized in that it further comprises a water leakage prediction module for predicting the amount of water leakage by machine learning by extracting data related to the amount of water leakage from the measurement information of the measuring means.

이상과 같은 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템은 다음과 같은 효과를 나타낼 수 있다. The digital twin-based intelligent dam safety management system according to the present invention as described above may exhibit the following effects.

1. 디지털 트윈 기반 댐 시설관리 지능 정보화 플랫폼 구현으로 안전업무 분야의 기술혁신 도모1. Promotion of technological innovation in safety work field by realizing an intelligent information platform for dam facility management based on digital twin

2. 드론 디지털 매핑 및 영상분석에 의한 입체적·직관적 댐 안전점검, 접근 제약지역 극복, 점검 효율성, 정확성 등의 현저한 개선 가능2. Three-dimensional and intuitive dam safety inspection by drone digital mapping and image analysis, overcoming access restriction areas, inspection efficiency, accuracy, etc. can be significantly improved

3. 콘크리트 구조물 현실 모델링(Reality Modeling) 및 AI 딥러닝 자동 균열 검출로 점검·진단 시간·노동력 절감3. Concrete structure reality modeling and AI deep learning automatic crack detection to reduce inspection/diagnosis time and labor

4. 주요 계측 정보 시각화 및 데이터 분석 직관화로 빠른 의사결정 지원4. Quick decision support by visualizing key measurement information and intuitive data analysis

5. AR(증강현실) 글래스를 활용한 3D 디지털 시설관리 및 댐 관리 현황 브리핑 가능5. 3D digital facility management and dam management status briefing using AR (augmented reality) glass

6. 전입, 신입 직원 댐 안전관리 업무의 디지털 트윈 모델을 활용한 교육훈련 가능6. Education and training available using the digital twin model of dam safety management for new employees

도 1은 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템을 개략적으로 도시한 도면
도 2a 및 도 2b는 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템에서 사용되는 드론의 비행 방향을 나타낸 도면
도 3은 AR 기능을 연계한 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템 구조의 일례를 도시한 도면
도 4는 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템에서 열화상 정사영상을 통해 댐의 백태 또는 누수를 확인하는 방식의 일례를 나타낸 사진
도 5는 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템 중 콘크리트 균열 판별모듈의 학습/분석 과정을 개략적으로 도시한 순서도
도 6은 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템 중 학습 강화를 위해 콘크리트 균열 판별모듈에 의해 콘크리트 균열 이미지를 변형시킨 사례를 나타낸 사진
도 7은 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템 중 콘크리트 균열 판별모듈에 적용되는 VGG Net 구조를 도시한 도면
1 is a diagram schematically showing a digital twin-based intelligent dam safety management system according to the present invention
2A and 2B are diagrams showing the flight direction of a drone used in a digital twin-based intelligent dam safety management system according to the present invention;
3 is a diagram showing an example of a digital twin-based intelligent dam safety management system structure according to the present invention in connection with AR function
4 is a photograph showing an example of a method of checking the whiteness or leakage of a dam through a thermal image orthographic image in a digital twin-based intelligent dam safety management system according to the present invention
5 is a flowchart schematically illustrating a learning/analysis process of a concrete crack identification module in a digital twin-based intelligent dam safety management system according to the present invention;
6 is a photo showing a case in which a concrete crack image is transformed by a concrete crack identification module for learning reinforcement in a digital twin-based intelligent dam safety management system according to the present invention
7 is a view showing the VGG Net structure applied to the concrete crack identification module among the digital twin-based intelligent dam safety management system according to the present invention

본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념을 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다.The terms or words used in the present specification and claims should not be construed as being limited to their ordinary or dictionary meanings, and the inventor may properly define the concept of the term in order to best describe his invention. It should be interpreted as meaning and concept consistent with the technical idea of the present invention based on the principle that there is.

따라서, 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.Therefore, the configuration shown in the embodiments and drawings described in the present specification is only the most preferred embodiment of the present invention, and does not represent all the technical spirit of the present invention, so they can be substituted at the time of the present application It should be understood that various equivalents and modifications may be made.

이하, 도면을 참조로 하여 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템을 설명하기로 한다.Hereinafter, a digital twin-based intelligent dam safety management system according to the present invention will be described with reference to the drawings.

도 1은 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템을 개략적으로 도시한 도면이다.1 is a diagram schematically illustrating a digital twin-based intelligent dam safety management system according to the present invention.

본 발명은 기본적으로 디지털 트윈 생성모듈, 3D 모델링 매핑모듈 및 콘크리트 균열 판별모듈을 포함하여 구성된다.The present invention is basically configured to include a digital twin generation module, a 3D modeling mapping module, and a concrete crack identification module.

보다 구체적으로 본 발명은 시설물에 계측수단이 설치된 댐에 대해 드론, 촬영수단 등이 촬영한 이미지에 기초하여 3D 댐 모델링을 구축하고 3D 댐 모델링을 관리영역(예: 콘크리트 댐체, 여수로, 필댐체, 양안부) 단위별로 세분화하며 3D 댐 모델링상에 시설물 정보 및 계측수단의 측정정보 중 적어도 어느 하나 이상을 표시하기 위한 디지털 트윈 생성모듈과, 관리영역 단위별로 일정 비행경로 정보가 저장되고 열화상 카메라가 장착된 드론이 촬영한 이미지를 3D 댐 모델링에 매핑하고 매핑 전후 3D 댐 모델링을 비교 표출하면서 열화상 정사영상을 통해 댐의 누수 또는 백태 변화를 확인 가능하도록 하는 3D 모델링 매핑모듈과, 드론이 촬영한 댐 콘크리트 구조물 이미지를 딥러닝 방식으로 분석하여 콘크리트 균열을 판별하기 위한 콘크리트 균열 판별모듈을 포함하여 이루어진다.More specifically, the present invention builds 3D dam modeling based on images taken by drones, photographing means, etc. for dams in which measuring means are installed in facilities, and manages 3D dam modeling in management areas (eg, concrete dam body, Yeosu waterway, fill dam body) , binocular) subdivided by unit, and a digital twin generation module for displaying at least any one of facility information and measurement information of measurement means on 3D dam modeling, and a thermal imaging camera A 3D modeling mapping module that maps images taken by a drone equipped with a dam to 3D dam modeling, and compares and expresses 3D dam modeling before and after mapping, and enables checking of leaks or changes in dam leakage through orthographic images of the dam, and drone shooting A dam concrete structure image is analyzed by a deep learning method and a concrete crack identification module is included to identify concrete cracks.

상기 디지털 트윈 생성모듈은 우선적으로 콘크리트 댐체, 여수로, 필댐체, 양안부(좌안, 우안)와 같은 댐 시설물에 설치되는 온도 측정기, 강우량계, 수위 측정기, 누수량계, 간극수압계, 양압력계 등과 같은 계측수단으로부터 측정정보를 수신할 수 있고, 드론이 촬영한 이미지나 DSLR(Digital Single Lens Reflex) 카메라와 같은 촬영수단으로 촬영한 이미지를 연결하는 과정에서 중복되는 부분을 제외하면서 결합한 후 3D 댐 모델링으로 변환하도록 기능하게 된다.The digital twin generation module is preferentially installed in dam facilities such as a concrete dam body, a waterway, a fill dam body, and both eyes (left eye, right eye), a temperature meter, a rainfall meter, a water level meter, a water leak meter, a pore water pressure gauge, a positive pressure gauge, etc. Measurement information can be received from the same measurement means and 3D dam modeling after combining while excluding overlapping parts in the process of linking images taken by drones or images taken by shooting means such as a DSLR (Digital Single Lens Reflex) camera function to convert to .

도 2a 및 도 2b는 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템에사 사용되는 드론의 비행 방향을 나타낸 도면이다.2A and 2B are diagrams illustrating the flight direction of a drone used in the digital twin-based intelligent dam safety management system according to the present invention.

도 2a 및 도 2b를 참조로 하면, 상기 드론은 일례로 4천만 화소 이상의 DSLR 미러리스 카메라를 장착하고 종중복도 80% 이상 및 횡중복도 70% 이상으로 하여 촬영한 이미지가 격자 형태로 겹쳐질 수 있도록 비행함으로써 그 촬영 이미지간 디스패리티(disparity) 부분만을 머징(merging)하는 과정을 통해 정밀한 3D 댐 모델링을 생성할 수 있게 되며, 고해상도 영상을 획득하기 위해 비행고도를 낮출 경우 중복도 부족 문제로 영상 접합이 어려울 수 있는 상황에서는 동서방향 및 남북방향으로 비행하면서 촬영한 이미지가 격자 형태보다 더욱 조밀하게 중복되도록 하는 비행경로 정보를 저장하게 된다.2A and 2B, the drone is equipped with a DSLR mirrorless camera of 40 million pixels or more, for example, and the images taken with 80% or more of vertical overlap and 70% or more of lateral overlap can be overlapped in a grid form. It is possible to create precise 3D dam modeling through the process of merging only the disparity part between the captured images by flying so that In situations where splicing may be difficult, flight path information is stored so that images taken while flying in the east-west and north-south directions are more densely overlapped than in the lattice form.

참고로, 상기 3D 댐 모델링을 생성하는 다른 예로는 드론에 레이저 스캐너를 설치하여 비행 경로를 따라 댐에 레이저 빔을 주사하여 반사되는 빔의 방향 및 거리를 통해 댐 외형을 3차원 좌표상에 일정 간격으로 분포된 점들의 집합으로 나타낼 수 있는데, 댐 전체를 한 번에 스캐닝할 수는 없기 때문에 부분적으로 나누어 스캐닝한 정보를 하나의 좌표계로 합쳐 전체 또는 단위별 관리영역에 대한 3D 스캔 정보를 확보할 수 있고, 이러한 3D 스캔 정보의 Point Cloud 데이터를 3D 레퍼런스 데이터로 변환하여 전체적인 3D 댐 모델링을 생성할 수 있게 된다.For reference, as another example of generating the 3D dam modeling, a laser scanner is installed in a drone and a laser beam is scanned to the dam along a flight path, and the dam appearance is displayed at regular intervals on three-dimensional coordinates through the direction and distance of the reflected beam. It can be expressed as a set of points distributed as It is possible to create an overall 3D dam modeling by converting the point cloud data of this 3D scan information into 3D reference data.

여기서, 상기 Point Cloud는 레이저 스캐너로부터 조밀하게 방출되어 대상체에서 반사되어 수신기로 돌아온 수많은 측점군들이 각각 x, y, z의 위치좌표를 갖게 됨에 따라 중심 좌표계를 기준으로 각 지점에 대한 공간의 거리를 표적표면에 대한 조밀한 샘플링을 통해 그에 해당하는 3차원 위치를 포함하는 수많은 측점, 즉 점군 형태로 제공되는 정보를 의미하며, 점군 데이터를 3차원 형태로 시각화하면 자유로운 시점 이동이 가능해지고 공간에 대한 측정 정보를 제공할 수 있게 된다.Here, as the point cloud is densely emitted from the laser scanner and reflected from the object and returned to the receiver, a number of point groups each have x, y, and z position coordinates. It means information provided in the form of a number of points, that is, a point cloud, including the corresponding three-dimensional position through dense sampling of the target surface. measurement information can be provided.

상기 디지털 트윈 생성모듈은 실제 댐 관리영역과 일치시켜 이에 대응되는 영역을 3D 댐 모델링상에서 시각적으로 구분 가능하게 하고, 3D 댐 모델링상에 기본 제원, 유지관리/보수보강 이력, 위치 등과 같은 시설물 정보나 계측수단을 통해 측정되는 누수량, 간극수압, 양압력 등과 같은 측정정보를 계측수단 위치와 함께 육안으로 확인 가능하게 표시할 수 있으며, 이때 계측수단이 IoT(Internet of Thing) 기능을 갖도록 하여 계측수단으로부터 수신한 측정정보를 3D 댐 모델링에 링크시켜 그 모델링에서 실시간으로 조회 가능하게 할 수도 있다.The digital twin generation module matches the actual dam management area so that the corresponding area can be visually distinguished on 3D dam modeling, and facility information such as basic specifications, maintenance/reinforcement history, location, etc. on 3D dam modeling Measurement information such as the amount of water leakage, pore water pressure, positive pressure, etc. measured through the measuring means can be displayed visually along with the location of the measuring means. It is also possible to link the received measurement information to 3D dam modeling so that the modeling can be viewed in real time.

또한, 상기 디지털 트윈 생성모듈은 댐에 대해 스캔한 2D 도면을 3D로 변환하여 3D 댐 모델링에 연계시키거나 2D 도면 자체를 3D 댐 모델링에 링크시킬 수 있는데, 이는 촬영 이미지가 존재하지 않아 공백인 3D 댐 모델링 부분을 메꾸는데 사용하거나 3D 댐 모델링이 특정 부분에 대한 2D 도면을 확인 가능하게 하기 위함이며, 더욱이 시설물 정보, 계측수단의 측정정보, 2D 도면 등의 정보를 핫 스팟 방식에 따라 3D 댐 모델링에 연계시켜 그 스팟을 클릭하는 것만으로 간편하고 혼란스럽지 않게 관련 정보만이 노출되도록 할 수도 있을 것이다.In addition, the digital twin generation module can convert the 2D drawing scanned for the dam into 3D and link it to 3D dam modeling or link the 2D drawing itself to 3D dam modeling, which is a blank 3D image because there is no photographed image. It is used to fill the dam modeling part or to enable 3D dam modeling to check 2D drawings for a specific part, and 3D dam modeling according to the hot spot method It may also be possible to expose only relevant information without confusion and simply by clicking on the spot by linking to it.

추가적으로, 상기 디지털 트윈 생성모듈은 3D 댐 모델링에 대해 일상점검을 위한 체크리스트를 설정하여 주기적으로 팝업시킬 수 있으며, 이러한 체크리스트의 일례로는 아래의 표 1과 같다.Additionally, the digital twin generation module may set a checklist for daily inspection for 3D dam modeling and pop it up periodically, and an example of such a checklist is shown in Table 1 below.

구분division 점검항목check list

일일점검


daily inspection
* 자동계측 시스템 및 CCTV 확인
- 중요 계측항목에 대하여 미계측중인 센서가 있는가?
- 이상계측에 의하여 현장점검 또는 위기대응이 필요한가?(관심 → 주의 → 경계)
- CCTV가 설치되어 있는 중용 구조물(댐체, 여수로, 취수탑)에 이상이 있는가?
* Automatic measurement system and CCTV check
- Are there any unmeasured sensors for important measurement items?
- Is on-site inspection or crisis response necessary due to abnormal measurement? (Interest → Caution → Alert)
- Is there any abnormality in the middle structure (dam body, Yeosu waterway, water intake tower) where CCTV is installed?









주간점검









Weekly inspection
* 자동계측 시스템 및 CCTV 확인
- 중요 계측항목에 대하여 미계측중인 센서가 있는가?
- 이상계측에 의하여 현장점검 또는 위기대응이 필요한가?(관심 → 주의 → 경계)
- CCTV가 설치되어 있는 중용 구조물(댐체, 여수로, 취수탑)에 이상이 있는가?
* Automatic measurement system and CCTV check
- Are there any unmeasured sensors for important measurement items?
- Is on-site inspection or crisis response necessary due to abnormal measurement? (Interest → Caution → Alert)
- Is there any abnormality in the middle structure (dam body, Yeosu waterway, water intake tower) where CCTV is installed?
* 댐 마루
- 종방향 또는 횡방향 균열이 있는가?
- 침하, 구멍 및 수평변위 현상이 있는가?
* dam floor
- Are there longitudinal or transverse cracks?
- Are there settlements, holes and horizontal displacements?
* 하류사면
- 누수현상 또는 습윤현상이 있는가?
- 기존 누수현상 또는 습윤지역에 변화가 있는가?
- 누수, 습윤부에서 흙탕물이 발생하는가?
- 구멍, 슬라이딩(붕락) 등 특이 변형이 있는가?
* Downstream slope
- Is there any leakage or wetting?
- Is there any change in existing leaks or wet areas?
- Does muddy water occur in leaks or wet areas?
- Are there any unusual deformations such as holes and sliding (collapse)?
* 상류사면
- 수위변동에 따른 침식 부위가 있는가?
- 구멍, 슬라이딩(붕락) 등 특이 변형이 있는가?
- 상류사면 인근 저수지에 소용돌이 현상이 있는가?
* Upstream slope
- Are there areas of erosion due to water level fluctuations?
- Are there any unusual deformations such as holes and sliding (collapse)?
- Is there a whirlpool phenomenon in the reservoir near the upstream slope?
* 양안부 및 하류지역
- 누수현상 또는 습윤현상이 있는가?
- 기존 누수현상 또는 습윤지역에 변화가 있는가?
- 구멍, 슬라이딩(붕락) 등 특이 변형이 있는가?
- 하류하천 제방에 누수현상 또는 습윤현상이 있는가?
* Both eyes and downstream areas
- Is there any leakage or wetting?
- Is there any change in existing leaks or wet areas?
- Are there any unusual deformations such as holes and sliding (collapse)?
- Is there any leakage or wetting in the downstream river bank?

상술된 바와 같이 디지털 트윈 생성모듈이 팝업시키는 체크리스트를 통해 댐의 전반전인 점검업무가 원활하게 수행되도록 할 수 있으며, 항목별 선택 시 해당 항목에 기재된 센서, 구조물 등이 위치한 부분을 3D 댐 모델링상에 함께 표시하여 전입, 신입 직원들의 점검 업무에 도움을 줄 수도 있을 것이다.As described above, through the checklist that the digital twin generation module pops up, the inspection task, which is the first half of the dam, can be smoothly performed. It may be helpful in the inspection work of new employees and transferees by marking them together.

도 3은 AR 기능을 연계한 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템 구조의 일례를 도시한 도면이다.3 is a diagram showing an example of a digital twin-based intelligent dam safety management system structure according to the present invention in connection with AR function.

본 발명은 디지털 트윈 생성모듈과 연동하여 3D 댐 모델링, 시설물 정보, 계측수단의 측정정보 등을 표출하기 위한 AR(Augmented Reality) 글래스를 더 포함함으로써 시각적/직관적 현장 관리 업무 지원 등 다양한 용도로 AR 글래스를 활용할 수 있으며, 도 2를 참조로 하면, 예를 들어 현장 점검/진단 시 본 발명을 통해 구축된 플랫폼에 의해 콘크리트 댐체, 여수로, 필댐체, 양안부 등 주요 시설물의 기본 제원, 유지관리, 보수보강 정보나 누수량계, 간극수압계, 양압력계 등 주요 계측수단에 대한 물리적 의미/안전 범위/위치정보 등이 AR 글래스에 표출되도록 할 수 있으며, 이에 대한 활용 방안의 일례로는 아래와 같은 것들이 있다.The present invention further includes AR (Augmented Reality) glasses for displaying 3D dam modeling, facility information, measurement information of measurement means, etc. in conjunction with a digital twin generation module to support visual/intuitive field management tasks, etc. AR glasses for various purposes can be utilized, and with reference to FIG. 2, for example, during on-site inspection/diagnosis, basic specifications, maintenance, Maintenance and reinforcement information or physical meaning/safety range/location information of major measurement means such as water leak gauge, pore water pressure gauge, and positive pressure gauge can be displayed on AR glasses. .

ㅇ 댐 시설관리 업무 AR 글래스 브리핑ㅇ AR glass briefing on dam facility management

- 전체의 운영 방식을 시각화하여 전달함- Visualize and deliver the overall operation method

- 드론 디지털 매핑에 따른 영상 전달 가능- Possible to deliver images according to drone digital mapping

- 주요 계측 정보를 MR(Mixed Reality)을 통한 3차원 가상 이미지로 전달 가능- It is possible to deliver key measurement information as a 3D virtual image through MR (Mixed Reality)

- 주요 이벤트별 AR 구현 : 드론 매칭 계측 등 댐 안전관리 이벤트를 AR로 제작하며, 주요 기계설비 장치의 유지관리 시스템을 3D 로 시각화 가능- AR implementation for each major event: Produces dam safety management events such as drone matching and measurement with AR, and can visualize the maintenance system of major machinery and equipment in 3D

ㅇ 물 문화관 대국민 댐 홍보 디지털 모델 구현ㅇ Implementation of digital model to promote public dam in Water Culture Center

- 디지털 트윈 모델 활용 실감형 대국민 댐 기능과 편익성 홍보 체계 구현- Implementation of realistic public dam function and convenience promotion system using digital twin model

- 댐 안전관리 방식을 인터렉티브 이벤트로 쉽게 이해되도록 함- Make the dam safety management method easy to understand as an interactive event

- 기존의 모형 전시물을 대체하여 방문객에게 홍보 효과를 극대화함- Maximizes the publicity effect to visitors by replacing the existing model exhibits

- 아바타 제작 및 브리핑 매칭 : 주요 이슈별 설명을 음성과 병행한 아바타를 통하여 전달력을 극대화함- Avatar production and briefing matching: Maximizes the delivery power through the avatar in parallel with the voice to explain each major issue

도 4는 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템에서 열화상 정사영상을 통해 댐의 백태 또는 누수를 확인하는 방식의 일례를 나타낸 사진이다.4 is a photograph showing an example of a method of checking the whiteness or leakage of a dam through a thermal image orthographic image in a digital twin-based intelligent dam safety management system according to the present invention.

상기 3D 모델링 매핑모듈은 디지털 트윈 생성모듈에서 3D 댐 모델링을 최초 생성한 이후로 드론이 촬영한 이미지나 인위적으로 촬영한 이미지를 수신하여 기존 3D 댐 모델링에 매핑시킨 다음 매핑 전후 3D 댐 모델링을 동기화시켜 경시 변화를 비교하여 표출하게 됨으로써 시설물 변형/변화를 분석할 수 있도록 하면서 드론이 열화상 카메라로 촬영한 이미지가 반영됨에 따라 3D 댐 모델링상에서 열화상 정사영상을 확인할 수 있게 되어 결과적으로 댐의 누수 또는 백태를 확인할 수 있도록 한다.The 3D modeling mapping module receives images taken by drones or artificially taken images since the first 3D dam modeling was created in the digital twin generation module, maps them to the existing 3D dam modeling, and then synchronizes the 3D dam modeling before and after mapping. By comparing and expressing changes over time, it is possible to analyze the deformation/change of the facility, and as the image taken by the drone with the thermal imaging camera is reflected, it is possible to check the thermal orthographic image on the 3D dam modeling. Make sure to check the whiteness.

도 5는 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템 중 콘크리트 균열 판별모듈의 학습/분석 과정을 개략적으로 도시한 순서도이고, 도 6은 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템 중 학습 강화를 위해 콘크리트 균열 판별모듈에 의해 콘크리트 균열 이미지를 변형시킨 사례를 나타낸 사진이며, 도 7은 본 발명에 따른 디지털 트윈 기반 지능형 댐 안전 관리 시스템 중 콘크리트 균열 판별모듈에 적용되는 VGG Net 구조를 도시한 도면이다.5 is a flowchart schematically illustrating a learning/analysis process of a concrete crack identification module in a digital twin-based intelligent dam safety management system according to the present invention, and FIG. 6 is a digital twin-based intelligent dam safety management system according to the present invention. It is a photograph showing a case in which the concrete crack image is transformed by the concrete crack identification module for reinforcement, and FIG. 7 shows the VGG Net structure applied to the concrete crack identification module among the digital twin-based intelligent dam safety management system according to the present invention. It is a drawing.

상기 콘크리트 균열 판별모듈은 딥러닝 방식에 따라 콘크리트 균열을 판별하도록 기능하는데, 추가적으로 콘크리트 균열 이미지에 대해 스케일은 동일하게 유지하면서 회전(예: 45/90/135/180/225/270/315도 회전), 밝기 조절, 선명도 조절, 좌우반전, 상하반전 등의 방식에 따라 변형시키면서 그 변형된 복수개의 콘크리트 균열 이미지를 학습하여 콘크리트 균열을 판별하기 위한 학습 데이터를 강화시키게 되고, 이에 의해 적은 수의 학습 데이터, 즉 콘크리트 균열 이미지를 가지고도 많은 양의 학습 데이터를 취득할 수 있기 때문에 학습 모델의 정확도를 향상시킬 수 있다.The concrete crack discrimination module functions to discriminate concrete cracks according to the deep learning method. ), brightness control, sharpness control, left/right reversal, vertical reversal, etc., while learning the deformed plurality of concrete crack images to strengthen the learning data for discriminating concrete cracks, thereby reducing the number of learning Since a large amount of training data can be acquired even with data, that is, concrete crack images, the accuracy of the training model can be improved.

일례로, 인공지능 신경망의 일종인 VGG(Visual Geometry Group) Net로 댐 이미지에서 콘크리트 균열 여부를 확인할 수 있는데, 이러한 VGG Net는 기존 CNN(Convolutional Neutral Net)이 갖는 1개의 합성곱 필터와 1개의 풀링 구조 대비 n개의 합성곱 필터와 1개의 풀링 구조를 가짐에 따라 CNN보다 더욱 높은 정확성을 가지게 된다.As an example, it is possible to check whether concrete cracks in a dam image with VGG (Visual Geometry Group) Net, a kind of artificial intelligence neural network. As it has n convolution filters and 1 pooling structure compared to the structure, it has higher accuracy than CNN.

또한, 상기 콘크리트 균열 판별모듈은 콘크리트 균열 이미지상의 노이즈를 제거한 다음으로 균열 길이, 폭을 추출할 수 있으며, 균열 이미지상의 노이즈를 제거하기 위한 과정의 일례로는 우선적으로 블러링을 통해 부드럽게 이미지를 처리한 후 그레이스케일링 및 이진화 과정을 거쳐 흑백 상태에서 균열 부분만 뚜렷하게 식별되도록 이미지를 가공하는 것을 들 수 있다.In addition, the concrete crack identification module can extract the crack length and width after removing the noise on the concrete crack image. As an example of the process for removing the noise on the crack image, the image is first processed smoothly through blurring. One example is to process the image so that only the cracks are clearly identified in the black-and-white state through gray-scaling and binarization.

상기 콘크리트 균열 판별모듈은 촬영 이미지를 기준으로 균열 이미지를 추출하여 증강(이미지 회전, 변환 등)시키고, 균열 판별 모델 학습을 수행하면서 모델 파라미터 조정 후 재학습과 학습 모델 검증을 거쳐 최종적인 균열 판별 모델을 생성할 수 있게 되며, 좀 더 상세하게는 도 5를 참조로 하면 학습 과정으로 댐 촬영 이미지 라벨링, 댐 촬영 이미지 증강, 균열 판별 인공지능 학습 및 균열 판별 모델 생성이 진행되고, 분석 과정으로 댐 촬영 이미지 로딩, 균열 판별, 균열 세부 진단 및 균열 진단 결과 저장이 진행될 수 있다.The concrete crack identification module extracts and augments the crack image based on the photographed image (image rotation, transformation, etc.) In more detail, referring to FIG. 5 , as the learning process, dam shooting image labeling, dam shooting image augmentation, crack discrimination artificial intelligence learning and crack discrimination model generation are in progress, and dam shooting as an analysis process Image loading, crack identification, detailed crack diagnosis, and storage of crack diagnosis results can be performed.

한편으로, 본 발명은 상기 계측수단의 측정정보 중 누수량과 관계된 데이터를 추출하여 기계학습에 의해 누수량을 예측하기 위한 누수량 예측모듈을 더 포함할 수 있는데, 이는 계측수단에 의해 수신 가능한 강우량, 수위, 누수량, 간극수압, 양압력 등과 같은 누수량과 연관된 데이터를 지속적으로 학습하여 누수량을 예측하게 되며, 이에 따라 댐 안전 데이터 추출 과정을 지능화시켜 해당 예측 정보의 시각화/직관화까지 용이하게 수행되도록 할 수 있다.On the other hand, the present invention may further include a water leakage prediction module for predicting the amount of water leakage by machine learning by extracting data related to the amount of water leakage from the measurement information of the measurement means, which can be received by the measurement means, the amount of rainfall, water level, It predicts the amount of water leakage by continuously learning the data related to the amount of water leakage, such as the amount of water leakage, pore water pressure, and positive pressure. .

상기 누수량 예측모듈은 계측수단으로부터 수집한 측정정보로부터 누수와 관련된 데이터를 데이터 마이닝에 의해 선별 후 학습에 적합하도록 전처리 과정을 수행하고, 누수량 예측 모델의 정확도 향상을 위한 성능 비교를 통해 학습 모델을 선정한 다음 매개변수 조정을 통해 그 학습 모델을 최적화하며, 성능 검증을 위해 실측값과 예측값의 정확도를 비교하여 최종적인 누수량 예측 모델을 설정함으로써 인공 지능에 의한 누수량 예측을 가능하게 한다.The leak amount prediction module selects data related to water leakage from the measurement information collected from the measurement means by data mining, then performs a pre-processing process to be suitable for learning, and selects a learning model through performance comparison to improve the accuracy of the leak amount prediction model It optimizes the learning model by adjusting the following parameters, and for performance verification, the accuracy of the measured value and the predicted value is compared to set the final leak amount prediction model, thereby making it possible to predict the amount of water leakage by artificial intelligence.

참고로, 상기 누수량 예측모듈에 적용 가능한 기계학습 알고리즘으로는 다음과 같은 것들이 있다.For reference, machine learning algorithms applicable to the leak prediction module include the following.

1. 서포트 백터 머신1. Support Vector Machine

- 기본적으로 이진 분류 문제를 해결하기 위해 설계됨- Basically designed to solve binary classification problems

- 선형 분류와 더불어 비선형 분류에서도 사용 가능- Can be used for non-linear classification as well as linear classification

- 학습된 각 모드마다 이진 분류를 통해 유효 고유진동수의 추출이 가능함- It is possible to extract the effective natural frequency through binary classification for each learned mode

2. 나이브 베이즈 분류2. Naive Bayes Classification

- 특성들 사이의 독립을 가정하는 베이즈 정리를 적용항 확률 분류기의 일종- A type of probability classifier that applies Bayes theorem that assumes independence between features

- 서포트 벡터 머신과 마찬가지로 각 모드마다 학습된 고유 진동수를 이용함Like the support vector machine, it uses the natural frequencies learned for each mode.

- 이진 분류를 통해 고유 진동수를 추출함- Extract natural frequencies through binary classification

3. 의사결정트리3. Decision tree

- 입력 변수에 대해 목표 변수의 값을 에측하는 모델 생성을 목표로 함- Aims to create a model that predicts the value of the target variable for the input variable

- 출력 변수가 연속형인 회귀모형에서는 예측력이 저하되는 단점이 있음- Regression models with continuous output variables have a disadvantage in that predictive power is lowered.

4. 인공신경망4. Artificial Neural Network

- 함수 추론, 회귀 분석, 시계열 예측, 근사 모델링- Function inference, regression analysis, time series prediction, approximate modeling

- 패턴 인식, 순서 인식, 순차 결정 같은 분류 알고리즘- Classification algorithms such as pattern recognition, sequence recognition, and sequential decision

이상에서 첨부된 도면을 참조하여 본 발명을 설명함에 있어 특정형상 및 방향을 위주로 설명하였으나, 본 발명은 당업자에 의하여 다양한 변형 및 변경이 가능하고, 이러한 변형 및 변경은 본 발명의 권리범위에 포함되는 것으로 해석되어야 한다.In the above description of the present invention with reference to the accompanying drawings, a specific shape and direction have been mainly described, but the present invention can be variously modified and changed by those skilled in the art, and such modifications and changes are included in the scope of the present invention. should be interpreted as

Claims (10)

시설물에 계측수단이 설치된 댐에 대해 드론 및 촬영수단 중 적어도 어느 하나 이상으로 촬영한 이미지에 기초하여 3D 댐 모델링을 구축하고, 3D 댐 모델링을 관리영역 단위별로 세분화하며, 3D 댐 모델링상에 시설물 정보 및 계측수단의 측정정보 중 적어도 어느 하나 이상을 표시하기 위한 디지털 트윈 생성모듈과;
상기 관리영역 단위별로 일정 비행경로 정보가 저장되고 열화상 카메라가 장착된 드론이 촬영한 이미지를 3D 댐 모델링에 매핑하고, 매핑 전후 3D 댐 모델링을 비교 표출하면서 열화상 정사영상을 통해 댐의 누수 또는 백태 변화를 확인 가능하도록 하는 3D 모델링 매핑모듈과;
상기 드론이 촬영한 댐 콘크리트 구조물 이미지를 딥러닝 방식으로 분석하여 콘크리트 균열을 판별하기 위한 콘크리트 균열 판별모듈;을 포함하는 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
3D dam modeling is built based on images captured by at least one of drones and shooting means for dams with measuring means installed in facilities, 3D dam modeling is subdivided by management area unit, and facility information on 3D dam modeling and a digital twin generating module for displaying at least any one or more of the measurement information of the measurement means;
The flight path information is stored for each management area unit and the image taken by a drone equipped with a thermal imaging camera is mapped to the 3D dam modeling, and the 3D dam modeling before and after the mapping is compared and expressed while leaking or leaking the dam through the thermal image orthographic image. a 3D modeling mapping module that enables confirmation of white changes;
A digital twin-based intelligent dam safety management system comprising a; a concrete crack identification module for determining concrete cracks by analyzing the dam concrete structure image taken by the drone in a deep learning method.
청구항 1에 있어서,
상기 드론은 종중복도 80% 이상 및 횡중복도 70% 이상으로 하여 촬영한 이미지가 격자 형태가 되도록 하거나, 동서방향 및 남북방향으로 비행하면서 촬영한 이미지가 중복되도록 하는 비행경로 정보를 저장하는 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
The drone stores flight path information that allows images taken with a vertical overlap of 80% or more and a lateral overlap of 70% or more to form a grid or overlapping images taken while flying in the east-west and north-south directions. Digital twin-based intelligent dam safety management system.
청구항 1에 있어서,
상기 계측수단은 IoT 기능을 구비하고,
상기 디지털 트윈 생성모듈은 계측수단으로부터 수신한 측정정보를 실시간으로 조회 가능하도록 3D 댐 모델링에 링크시키는 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
The measuring means has an IoT function,
The digital twin generation module is a digital twin-based intelligent dam safety management system, characterized in that the measurement information received from the measurement means is linked to 3D dam modeling so that it can be inquired in real time.
청구항 1에 있어서,
상기 디지털 트윈 생성모듈은 댐에 대해 스캔한 2D 도면을 3D로 변환하여 3D 댐 모델링에 연계 가능한 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
The digital twin generation module is a digital twin-based intelligent dam safety management system, characterized in that it can be linked to 3D dam modeling by converting a 2D drawing scanned for a dam into 3D.
청구항 1에 있어서,
상기 디지털 트윈 생성모듈은 3D 댐 모델링에 대해 일상점검을 위한 체크리스트를 설정하여 주기적으로 팝업시킬 수 있는 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
The digital twin generation module is a digital twin-based intelligent dam safety management system, characterized in that it can pop up periodically by setting a checklist for daily inspection for 3D dam modeling.
청구항 1에 있어서,
상기 디지털 트윈 생성모듈과 연동하여 3D 댐 모델링, 시설물 정보 및 계측수단의 측정정보 중 적어도 어느 하나 이상을 표출 가능한 AR(Augmented Reality) 글래스를 더 포함하는 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
Digital twin-based intelligent dam safety management system, characterized in that it further comprises AR (Augmented Reality) glasses capable of displaying at least any one of 3D dam modeling, facility information, and measurement information of measurement means in conjunction with the digital twin generation module .
청구항 1에 있어서,
상기 3D 모델링 매핑모듈은 매핑 전후 3D 댐 모델링을 동기화시켜 경시 변화를 비교하여 표출 가능한 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
The 3D modeling mapping module is a digital twin-based intelligent dam safety management system, characterized in that it is possible to compare and express changes over time by synchronizing 3D dam modeling before and after mapping.
청구항 1에 있어서,
상기 콘크리트 균열 판별모듈은 콘크리트 균열 이미지에 대해 스케일은 동일하게 유지하면서 회전, 밝기 조절, 선명도 조절, 좌우반전 및 상하반전 중 적어도 어느 하나 이상의 방식에 따라 변형시키면서 그 변형된 복수개의 콘크리트 균열 이미지를 학습하여 콘크리트 균열을 판별하기 위한 학습 데이터를 강화시키는 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
The concrete crack identification module learns a plurality of deformed concrete crack images while maintaining the same scale for the concrete crack image and transforming it according to at least one method of rotation, brightness control, sharpness control, left/right reversal, and up/down reversal Digital twin-based intelligent dam safety management system, characterized in that it reinforces the learning data to identify concrete cracks.
청구항 1에 있어서,
상기 콘크리트 균열 판별모듈은 콘크리트 균열 이미지상의 노이즈를 제거한 다음으로 균열 길이 및 폭 중 적어도 어느 하나 이상을 추출하는 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
The concrete crack identification module is a digital twin-based intelligent dam safety management system, characterized in that after removing the noise on the concrete crack image, at least one of the crack length and width is extracted.
청구항 1에 있어서,
상기 계측수단의 측정정보 중 누수량과 관계된 데이터를 추출하여 기계학습에 의해 누수량을 예측하기 위한 누수량 예측모듈을 더 포함하는 것을 특징으로 하는 디지털 트윈 기반 지능형 댐 안전 관리 시스템.
The method according to claim 1,
Digital twin-based intelligent dam safety management system, characterized in that it further comprises a water leakage prediction module for predicting the amount of water leakage by machine learning by extracting data related to the amount of water leakage from the measurement information of the measuring means.
KR1020200030739A 2020-03-12 2020-03-12 Intelligent dam management system based on digital twin KR102423561B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200030739A KR102423561B1 (en) 2020-03-12 2020-03-12 Intelligent dam management system based on digital twin

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200030739A KR102423561B1 (en) 2020-03-12 2020-03-12 Intelligent dam management system based on digital twin

Publications (2)

Publication Number Publication Date
KR20210115245A true KR20210115245A (en) 2021-09-27
KR102423561B1 KR102423561B1 (en) 2022-07-21

Family

ID=77926104

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200030739A KR102423561B1 (en) 2020-03-12 2020-03-12 Intelligent dam management system based on digital twin

Country Status (1)

Country Link
KR (1) KR102423561B1 (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113744268A (en) * 2021-11-04 2021-12-03 深圳市城市交通规划设计研究中心股份有限公司 Crack detection method, electronic device and readable storage medium
CN114707227A (en) * 2022-04-28 2022-07-05 水利部南京水利水文自动化研究所 Dam safety early warning and warning method and system based on digital twins
KR20220107540A (en) * 2021-01-25 2022-08-02 주식회사 코매퍼 Apparatus for artificial intelligence based safety diagnosis through 3d model and method thereof
CN115064023A (en) * 2022-05-06 2022-09-16 中国人民解放军陆军防化学院 Portable terminal teaching training system based on AR glasses
KR20230068888A (en) 2021-11-11 2023-05-18 경기과학기술대학교 산학협력단 Virtual reality-based factory monitoring system
CN116452474A (en) * 2023-05-17 2023-07-18 天津国兴海洋能源工程有限公司 Visual management system of sewage treatment equipment based on digital twin
CN116843158A (en) * 2023-08-10 2023-10-03 盐城师范学院 Comprehensive security inspection management system
CN117078627A (en) * 2023-08-18 2023-11-17 中国水利水电科学研究院 Method and system for monitoring and safely evaluating defects of dam body of silt dam
CN117218743A (en) * 2023-11-07 2023-12-12 诺比侃人工智能科技(成都)股份有限公司 Intelligent inspection control method and system based on machine vision
CN117332664A (en) * 2023-12-01 2024-01-02 北京云庐科技有限公司 Geological disaster digital twin live-action display method based on physical calculation result
CN117351180A (en) * 2023-12-04 2024-01-05 中建科工集团绿色科技有限公司 Modular building augmented reality auxiliary construction method and device based on deep learning

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102587701B1 (en) 2022-09-20 2023-10-11 (주)더퍼스트아이씨티 Facility management system based on digital twin

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060056572A (en) * 2004-11-22 2006-05-25 (주)로봇앤드디자인 Bridge inspecting system capable of coordinate confirmation about image
KR100773393B1 (en) 2005-08-20 2007-11-06 한국건설기술연구원 Real-time Monitoring System and Method for DAM
JP2013036162A (en) * 2011-08-03 2013-02-21 Seibu Construction Co Ltd Re-vibration period determination method for ready-mixed concrete and re-vibration period determination device for ready-mixed concrete
KR20160078605A (en) * 2014-12-24 2016-07-05 충남대학교산학협력단 Method for forecasting household water demand and detecting water leakage based on complex event processing and machine learning
KR20170067373A (en) * 2015-12-08 2017-06-16 가톨릭대학교 산학협력단 System and Method for Extracting Automatically 3D Object Based on Drone Photograph Image
KR20170074411A (en) 2015-12-22 2017-06-30 전자부품연구원 Debris Barrier Safety Monitoring Method and System based on Single Camera with Multi-Sensor
KR101772916B1 (en) * 2016-12-30 2017-08-31 한양대학교 에리카산학협력단 Device for measuring crack width of concretestructure
KR20180046177A (en) * 2016-10-27 2018-05-08 전주비전대학교산학협력단 Method for detecting solar energy module being overheat by using drone and GIS
KR101972957B1 (en) * 2018-11-21 2019-08-28 한방유비스 주식회사 System of analyzing fire dangerousness and monitoring fire protection of buildings using unmanned vehicle

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060056572A (en) * 2004-11-22 2006-05-25 (주)로봇앤드디자인 Bridge inspecting system capable of coordinate confirmation about image
KR100773393B1 (en) 2005-08-20 2007-11-06 한국건설기술연구원 Real-time Monitoring System and Method for DAM
JP2013036162A (en) * 2011-08-03 2013-02-21 Seibu Construction Co Ltd Re-vibration period determination method for ready-mixed concrete and re-vibration period determination device for ready-mixed concrete
KR20160078605A (en) * 2014-12-24 2016-07-05 충남대학교산학협력단 Method for forecasting household water demand and detecting water leakage based on complex event processing and machine learning
KR20170067373A (en) * 2015-12-08 2017-06-16 가톨릭대학교 산학협력단 System and Method for Extracting Automatically 3D Object Based on Drone Photograph Image
KR20170074411A (en) 2015-12-22 2017-06-30 전자부품연구원 Debris Barrier Safety Monitoring Method and System based on Single Camera with Multi-Sensor
KR20180046177A (en) * 2016-10-27 2018-05-08 전주비전대학교산학협력단 Method for detecting solar energy module being overheat by using drone and GIS
KR101772916B1 (en) * 2016-12-30 2017-08-31 한양대학교 에리카산학협력단 Device for measuring crack width of concretestructure
KR101972957B1 (en) * 2018-11-21 2019-08-28 한방유비스 주식회사 System of analyzing fire dangerousness and monitoring fire protection of buildings using unmanned vehicle

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
오성덕. 효율적 댐조사 점검 안전관리...미래 기술 앞당기다. 2019.12.17.. 건설기술신문. 출처:http://www.ctman.kr/news/18534* *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220107540A (en) * 2021-01-25 2022-08-02 주식회사 코매퍼 Apparatus for artificial intelligence based safety diagnosis through 3d model and method thereof
CN113744268A (en) * 2021-11-04 2021-12-03 深圳市城市交通规划设计研究中心股份有限公司 Crack detection method, electronic device and readable storage medium
KR20230068888A (en) 2021-11-11 2023-05-18 경기과학기술대학교 산학협력단 Virtual reality-based factory monitoring system
CN114707227A (en) * 2022-04-28 2022-07-05 水利部南京水利水文自动化研究所 Dam safety early warning and warning method and system based on digital twins
CN115064023A (en) * 2022-05-06 2022-09-16 中国人民解放军陆军防化学院 Portable terminal teaching training system based on AR glasses
CN116452474A (en) * 2023-05-17 2023-07-18 天津国兴海洋能源工程有限公司 Visual management system of sewage treatment equipment based on digital twin
CN116452474B (en) * 2023-05-17 2023-08-29 天津国兴海洋能源工程有限公司 Visual management system of sewage treatment equipment based on digital twin
CN116843158B (en) * 2023-08-10 2024-05-14 盐城师范学院 Comprehensive security inspection management system
CN116843158A (en) * 2023-08-10 2023-10-03 盐城师范学院 Comprehensive security inspection management system
CN117078627A (en) * 2023-08-18 2023-11-17 中国水利水电科学研究院 Method and system for monitoring and safely evaluating defects of dam body of silt dam
CN117078627B (en) * 2023-08-18 2024-02-27 中国水利水电科学研究院 Method and system for monitoring and safely evaluating defects of dam body of silt dam
CN117218743B (en) * 2023-11-07 2024-02-09 诺比侃人工智能科技(成都)股份有限公司 Intelligent inspection control method and system based on machine vision
CN117218743A (en) * 2023-11-07 2023-12-12 诺比侃人工智能科技(成都)股份有限公司 Intelligent inspection control method and system based on machine vision
CN117332664A (en) * 2023-12-01 2024-01-02 北京云庐科技有限公司 Geological disaster digital twin live-action display method based on physical calculation result
CN117332664B (en) * 2023-12-01 2024-02-09 北京云庐科技有限公司 Geological disaster digital twin live-action display method based on physical calculation result
CN117351180A (en) * 2023-12-04 2024-01-05 中建科工集团绿色科技有限公司 Modular building augmented reality auxiliary construction method and device based on deep learning
CN117351180B (en) * 2023-12-04 2024-03-29 中建科工集团绿色科技有限公司 Modular building augmented reality auxiliary construction method and device based on deep learning

Also Published As

Publication number Publication date
KR102423561B1 (en) 2022-07-21

Similar Documents

Publication Publication Date Title
KR102423561B1 (en) Intelligent dam management system based on digital twin
KR102423579B1 (en) Integral maintenance control method and system for managing dam safety based on 3d modelling
Reja et al. Computer vision-based construction progress monitoring
CN105045950B (en) A kind of bridge security assessment system based on 3 D laser scanning
CN114707227A (en) Dam safety early warning and warning method and system based on digital twins
KR102536822B1 (en) 3D digital twin dam safety management system and method using 3D modeling
NL2027073B1 (en) Automatic urban three-dimensional skyline contour generation and diagnosis method based on occlusion rate
Ji et al. 3D scene reconstruction of landslide topography based on data fusion between laser point cloud and UAV image
CN115688491A (en) Water conservancy digital twin simulation method based on block chain
Ji et al. An encoder-decoder deep learning method for multi-class object segmentation from 3D tunnel point clouds
CN117351521B (en) Digital twinning-based power transmission line bird detection method, system, medium and equipment
Rankohi et al. Image-based modeling approaches for projects status comparison
Peng et al. Research on oil leakage detection in power plant oil depot pipeline based on improved YOLO v5
Park et al. A framework for improving object recognition of structural components in construction site photos using deep learning approaches
Wu et al. Defect inspection for underwater structures based on line-structured light and binocular vision
CN111354028B (en) Binocular vision-based power transmission channel hidden danger identification and tracking method
Attard et al. A comprehensive virtual reality system for tunnel surface documentation and structural health monitoring
CN115661429B (en) System and method for identifying defects of boiler water wall pipe and storage medium
CN111951404A (en) Ship control method, system, device and storage medium
KR20160120955A (en) Module for multi diensional vedio information visualization
VARLIK et al. Generation and comparison of BIM models with CAD to BIM and scan to BIM techniques
CN117671447B (en) Digital twin and intelligent sensor fusion system for complex scene
Chen et al. Improving completeness and accuracy of 3D point clouds by using deep learning for applications of digital twins to civil structures
KR102538012B1 (en) Method and apparatus for updating 3D model of object in virtual space
Galantucci et al. A rapid pipeline for periodic inspection and maintenance of architectural surfaces

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant