CN117315146B - 基于跨尺度多源数据的三维模型的重建方法及存储方法 - Google Patents
基于跨尺度多源数据的三维模型的重建方法及存储方法 Download PDFInfo
- Publication number
- CN117315146B CN117315146B CN202311236479.4A CN202311236479A CN117315146B CN 117315146 B CN117315146 B CN 117315146B CN 202311236479 A CN202311236479 A CN 202311236479A CN 117315146 B CN117315146 B CN 117315146B
- Authority
- CN
- China
- Prior art keywords
- data
- point cloud
- optimization
- image
- modeling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 72
- 238000003860 storage Methods 0.000 title claims abstract description 32
- 238000005457 optimization Methods 0.000 claims abstract description 79
- 230000004927 fusion Effects 0.000 claims abstract description 28
- 230000000750 progressive effect Effects 0.000 claims abstract description 12
- 238000005259 measurement Methods 0.000 claims abstract description 5
- 238000004364 calculation method Methods 0.000 claims description 15
- 230000011218 segmentation Effects 0.000 claims description 10
- 238000002372 labelling Methods 0.000 claims description 6
- 238000000605 extraction Methods 0.000 claims description 5
- 238000013507 mapping Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 5
- 238000005070 sampling Methods 0.000 claims description 5
- 239000007787 solid Substances 0.000 claims description 4
- 238000013500 data storage Methods 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 description 5
- 239000013598 vector Substances 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000011514 reflex Effects 0.000 description 3
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 3
- 238000007726 management method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/08—Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种基于跨尺度多源数据的三维模型的重建方法即存储方法,包括如下步骤:对建模对象布设跨尺度测量控制网以获取建模对象内各尺度相关点的坐标信息,并采用不同的图像采集设备采集建模对象不同尺度场景的图像数据;根据步骤1的坐标信息,采用渐进式空三解算方法对获得的不同尺度场景的图像数据先分别进行空三解算再将空三解算后的点云数据进行融合优化得到建模对象的融合优化点云数据;根据步骤2获得的融合优化点云数据采用语义优化建模方法对建模对象进行建模得到语义标注三维模型。本发明解决了跨尺度和室内外建模中普遍存在的空三失败的问题,通过语义优化建模方法构建的三维模型质量更高。
Description
技术领域
本发明属于三维模型重建的技术领域,具体涉及一种基于跨尺度多源数据的三维模型的重建方法及存储方法。
背景技术
通过摄影测量、激光扫描等三维建模技术,可以实现城市场景、文化遗产、考古探方等重要场景的实景三维重建。实景三维重建能够全方位记录场景的高精度几何信息和高真实感纹理信息,受到了各行各业的极大重视。随着实景三维建模的普及,许多行业应用对其提出了更多的需求。在实际应用中,许多场景需要同时关注千米级、百米级、米级、毫米级的建模对象,甚至越来越多的场景需要同时关注室外和室内的建模对象。实景三维建模通常要求所有的建模对象都具备真实地理坐标或真实的尺度,否则会使模型的价值和可用性大幅缩水。在这样的背景下,实现三维建模面临多项挑战,主要包括:(1)不同的数据采集方式适用不同场景,如何使多种数据源有效融合;(2)室内无RTK信号的情况下进行控制点布设;(3)跨尺度与室内外联合建模面临的空三解算困难;(4)室内模型与室外模型占据相同坐标和相同瓦块导致的模型存储冲突。
目前的实景三维建模都是针对不同的区域使用不同的数据采集方式,一套数据完成一次建模。例如,千米级场景使用无人机采集数据,室内场景使用单反相机,毫米级采用手持激光扫描仪采集数据。这种作业方式,导致涉及跨尺度或室内外场景的建模成果十分零散,不同区域的模型质量会参差不齐,无法统一进行浏览和测量,更无法生成统一的4D产品。
在这种情况下,即便将各个区域的模型转换至统一的坐标系下,模型之间也有诸多的边缘错乱和接缝问题,对模型的价值、可用性和美观程度都有严重影响。特别地,如果一个项目同时实现室外和室内建模,模型转换至统一坐标系后,室外模型和室内模型会出现坐标冲突和瓦块冲突,尤其是瓦块冲突会导致模型存储、浏览和检索时出现错误。
发明内容
本发明的目的在于针对现有技术的不足之处,提供一种基于跨尺度多源数据的三维模型的重建方法,该方法解决了跨尺度多源数据在三维模型重建过程中难以融合的问题。
为解决上述技术问题,本发明采用如下技术方案:
一种基于跨尺度多源数据的三维模型的重建方法,包括如下步骤:
步骤1、对建模对象布设跨尺度测量控制网以获取建模对象内各尺度相关点的坐标信息,并采用不同的图像采集设备采集建模对象不同尺度场景的图像数据;
步骤2、根据步骤1的坐标信息,采用渐进式空三解算方法对获得的不同尺度场景的图像数据先分别进行空三解算再将空三解算后的点云数据进行融合优化得到建模对象的融合优化点云数据;
步骤3、根据步骤2获得的融合优化点云数据采用语义优化建模方法对建模对象进行建模得到语义标注三维模型。
进一步地,步骤1中,对于建模对象的室外场景采用无人机搭载多镜头采集倾斜影像,室内场景采用手持单反相机采集多角度影像。
进一步地,步骤1中,采用无人机搭载机载激光雷达采集室外场景的点云数据,使用架站式激光扫描仪、手持激光扫描仪采集室内场景的激光雷达点云。
进一步地,步骤1中采集影像数据满足的条件为:
采用不同图像采集装置进行采集时,对相邻区域的两种不同图像采集影像装置的采集范围划定交集共同采集,交集内的数据作为缓冲数据,缓冲数据的面积不低于其中一种设备采集面积的10%;
针对室外场景的不同尺度的目标进行采集,在不同的航高处进行采集,如果航高差超过150米,则使用中间航高采集室外场景中最小尺度场景的数据作为缓冲数据,缓冲数据的面积完全覆盖最小尺寸场景;
对室内外场景的不同尺度的目标进行采集,使用室外采集的图像采集装置采集部分室内场景作为缓冲数据,或使用室内采集的图像采集装置采集室外场景作为缓冲数据,缓冲数据的采集面积超过室内面积的10%。
进一步地,步骤2中采用渐进式空三解算方法对获得的不同尺度的影像数据的方法为:
1)数据分组:根据输入路径、数据类型和元数据信息对获得的不同尺度场景的图像数据进行标注分组;
2)局部空三解算:对每个数据组进行空三解算得到局部解算位姿和局部点云;
3)联合空三解算:根据局部解算位姿和局部点云,借助点云配准方法将所有影像数据从全局角度重新进行解算得到影像全局优化点云数据;
4)空三融合优化:对于同时具备影像和激光扫描点云的场景,将影像全局优化点云数据和激光扫描点云配准对齐,然后再使用RANSAC算法剔除噪声和和离群点,最后做均匀采样,从而将影像全局优化点云和激光扫描的点云进行优化融合得到融合优化点云数据;对于未采集激光点云数据的场景,直接将影像全局优化点云数据进行RANSAC去除噪声和离群点,然后在进行空间均匀采样,即得到融合优化点云数据。
进一步地,联合空三解算的方法为:
将局部空三解算获得的若干局部点云进行配准对齐;
通过配准的点云代表的物方点坐标,借助共线方程再次反向优化局部空三解算获得局部解算位姿,进而获得所有的影像全局优化位姿,再对所有影像全局优化位姿进行解算得到全局优化点云;其中,共线方程的基本形式为:
式中:
-x,y为像点的像平面坐标;
-x0,y0,f为影像的内方位元素;
-XS,YS,ZS为摄站点的物方空间坐标;
-XA,YA,ZA为物方点的物方空间坐标;
ai,bi,ci(i=1,2,3)为影像的3个外方位角元素组成的9个方向余弦。
进一步地,步骤3中语义优化建模的方法包括以下步骤:
1)预设场景语义类别;
2)采用PointNet++算法对融合优化点云数据进行点云语义分割,得到对应的各语义类别;
3)对不同语义类别的对象设置不同的类别约束,并对其设置相应的优化建模算法,在相应的类别约束下,根据步骤2得到全局点云数据采用对应的建模优化算法进行建模得到各语义类别的三维模型;
4)对各语义类别的三维模型进行语义接边优化得到整体三维模型,对接边后的整体三维模型执行模型纹理映射得到最终的语义标注三维模型。
进一步地,采用PointNet++算法进行语义分割的方法为:
1)对融合优化点云进行聚类得到多个点云子集;
2)在每个点云子集内通过共享的多层感知机来提取每个点云子集的特征;
3)以层级化方式重复多次上述步骤,得到包含了局部邻域内丰富上下文信息的高层级点云特征;
4)根据学习到的高层级点云特征,使用一个全连接网络为每一个聚类的点云进行类别评分,得分最高的类别为最终分类;
5)将分类标签赋予类别内原始包含的所有点,实现点云的语义分割,即每一个点包含一个语义标签。
进一步地,语义接边优化的实现方法为:
1)边缘顶点提取:通过各三维模型中仅被使用一次的三角形边检测出各三维模型的边缘,进而检测出边缘顶点;
2)结构化接边错误识别:从邻接的两个三维模型的首个共同边缘顶点开始,进行ID标注,使边缘获得结构化信息,通过结构化信息对比识别接边错误;
3)接边错误优化:通过判断涉及的三角形数量最少原则,自动选择剔除冗余边缘顶点,或增加缺失边缘顶点,将邻接的两个三维模型的边缘处理至完全一致,即实现接边错误优化。
本发明的另一个目的是提供一种根据上述的基于跨尺度多源数据的三维模型的重建方法的数据存储方法,包括如下步骤:
将实体三维模型均匀地划分为多个网格,为每个网格构建一个瓦块存储单元;
为每个网格中包含的不同语义的三角网分别构建一个分级瓦块存储单元,每个分级瓦块存储单元将网格中相同语义的三角网包括的所有模型数据进行储存;
瓦块存储单元对其内包括的所有分级瓦块存储单元包含的全部数据进行打包储存。
与现有技术相比,本发明的有益效果为:
(1)本发明通过数据采集方式的优化解决了跨尺度和室内外建模中普遍存在的空三失败的问题;本发明提出了渐进式空三解算的方法,改进了常规空三解算存在的失败率高、平差难、平差慢等严重弊端;并且实现了影像空三解算的点云和激光扫描的融合优化,而避免了现有算法只能二选一的困境。
(2)本发明在模型生产环节提出了融合点云语义分割,使得构建的三维模型从整体看是连续的、完整的,实际上不同语义标注的模型由不同的三角网构成,从而使得构建的三维模型精度更好质量更好;
(3)本发明提出了分级式瓦块的概念,既可以保留按地理位置划分瓦块时便于统一管理模型文件的优点,又可以便捷地保存三维模型的语义信息;同时解决了室内外模型的叠加导致的显示错误和浏览操作困难等问题。
附图说明
图1为本发明实施例基于跨尺度多源数据的三维模型的重建方法的流程图;
图2为本发明实施例渐进式空三与常规空三解算的区别图;
图3为本发明实施例共线方程图解;
图4为本发明实施例联合空三解算的流程示意图;
图5为本发明实施例建模方法与常规建模方法对比的流程图;
图6为本发明实施例语义优化建模方法的示意图;
图7为本发明实施例语义接边优化方法的示意图。
具体实施方式
下面将结合本发明实施例对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
下面结合具体实施例对本发明作进一步说明,但不作为本发明的限定。
如图1所示,本发明公开了一种基于跨尺度多源数据的三维模型的重建方法,其特征在于,包括如下步骤:
步骤1、对建模对象布设跨尺度测量控制网以建模对象内不同尺度相关点的坐标信息,并采用不同的图像采集装置采集建模对象不同尺度场景的图像数据;
该步骤主要是对数据进行采集,数据采集主要包括:在建模对象的室内外联合布设跨尺度控制网以采集多尺度的相关点坐标信息、跨尺度多源数据的采集。在本实施例中,对建模对象的室内外布设控制网,根据尺度级别(如千米级、米级、毫米级等)布设相应的控制点,再测量获得各控制点的坐标。其中,使用RTK或PPK对室外控制点进行测量获得各控制点的坐标信息,再利用室内外通视区域,使用全站仪测量室内控制点的坐标信息。
跨尺度多源数据采集的方法是根据建模项目的实际灵活调整的,在本实施例中多源数据的采集包括:1)室外场景使用无人机搭载多镜头采集倾斜影像;2)室内场景使用手持单反相机采集多角度影像;3)对于高精度需求的项目,可进一步选择使用无人机搭载机载激光雷达采集室外场景的点云数据,如有条件可进一步选择同时采集正射影像;4)对于高精度需求的项目,可进一步选择使用架站式激光扫描仪、手持激光扫描仪采集室内激光雷达点云。
为确保多源数据的跨尺度室内外自动融合三维重建的成功率,解决跨尺度和室内外建模中普遍存在的空三失败的问题,本实施例提出了缓冲数据采集的概念。缓冲数据采集是指在采用不同设备、针对不同尺度的目标或涉及室内外场景时,提供冗余的缓冲数据助力空三结算。针对多源数据的跨尺度室内外自动融合三维重建的场景,具体执行方式为:1)采用不同设备采集时,对相邻区域的两种不同设备的采集范围应当划定交集共同采集,交集内的数据作为缓冲数据,缓冲数据的面积不低于其中一种设备采集面积的10%;2)针对室外场景的不同尺度的目标进行采集,通常采用不同的航高,如果航高差超过150米,应该使用中间航高采集小尺度场景的数据作为缓冲数据,缓冲数据的面积应当完全覆盖小尺寸场景;3)涉及室内外场景时,需要使用室外采集的设备适当采集室内场景作为缓冲数据,或使用室内采集的设备适当采集室外场景作为缓冲数据,缓冲数据的采集面积应当超过室内面积的10%。
步骤2、根据步骤1获得的坐标信息,采用渐进式空三解算方法对获得的不同尺度场景的图像数据先分别进行空三解算再将空三解算后的点云数据进行融合得到建模对象的融合优化点云数据;
在多源数据的跨尺度室内外自动融合三维重建的应用场景中,常规空三解算方法明显表现出失败率高平差难、平差慢等严重弊端。在实际项目中,多款国内外主流的三维重建软件都出现了平差72小时以上最终平差失败、空三解算失败的场景。为了解决这一问题,本发明实施例改进了常规的空三解算方法,提出了渐进式空三解算,具体地,如图2所示,渐进式空三解算方法为:
1)数据分组:接收用户输入的所有图像数据,根据输入路径、数据类型和元数据信息对影像数据进行标记分组得到多组数据组,不同路径、不同数据类型或元数据有差异的影像分至不同数据组;本实施例在空三的准备阶段,提出数据分组的概念,通过易于操作、易于自动化的方式把整体难以完成区域网平差的数据分成若干组分别进行空三,进而能够提高空三的成功率和平差效率;
2)局部空三解算:对每个数据组进行局部空三解算得到局部解算位姿和局部点云,该步骤主要包括特征点提取、特征点匹配、区域网平差、密集匹配、加密点坐标解算。其中,指特征点提取是通过SIFT算法提取影像中颜色或纹理变化明显的点作为特征点。在提取特征点后计算特征点的特征向量,将相邻两张影像之间特征向量一致的特征点进行关联,作为同名点对存储,再采用相关系数法进行特征点匹配。同名点对意味着它们指向地物上的相同点,因此应当具有相同的物方坐标。
由于原本数据中每张影像不包含位姿或位姿具有较大误差,经过匹配后获得大量的同名点对,在同名点对物方点坐标相同的约束下,根据共线方程调整影像的外方位元素。在所有同名点对的约束下解算所有影像的外方位元素,并使得总体误差最小,即可完成区域网平差。影像的外方位元素包括相机成像时刻的位置坐标(X、Y、Z)和姿态(Omega、Phi、Kappa),简称影像位姿。
密集匹配是通过摄影测量学中的密集匹配算法,在影像中逐像素地寻找尽可能多的同名点对。本实施例采用SGM算法进行密集匹配。加密点坐标解算是利用影像位姿和共线方程,根据同名点对的物方坐标一致约束,在同名点对所处的两张相邻影像上使用前方交汇原理(测绘学基础原理)解算所有的同名点对的物方坐标。以该坐标构建一个三维点,即可使所有的同名点对构成点云。
其中,见图3,共线方程的基本形式为:
式中:
-x,y为像点的像平面坐标;
-x0,y0,f为影像的内方位元素;
-XS,YS,ZS为摄站点的物方空间坐标;
-XA,YA,ZA为物方点的物方空间坐标;
ai,bi,ci(i=1,2,3)为影像的3个外方位角元素组成的9个方向余弦。
3)联合空三解算:数据采集阶段保证10%左右的缓冲数据,是保证渐进式空三的联合空三解算的基础。数据采集阶段保证10%左右的缓冲数据,缓冲数据的点云在两个不同分组的数据中具有一致性,可以通过特征匹配的方式进行拼接融合,因而能够保证渐进式空三的联合空三解算的顺利进行。根据局部空三解算获得的若干局部点云进行配准对齐,再通过配准的点云代表的物方点坐标,借助共线方程再次反向优化局部空三解算获得的局部解算位姿,进而获得所有影像的全局优化位姿,对所有影像的全局优化位姿进行密集匹配和加密坐标点解算得到全局优化点云。如图4所示,根据局部解算后,获得了点A、B、C构成的局部点云1,以及点E、F、G构成的局部点云2,其中,局部点云1对应影像P,局部点云2对应影像Q,对局部点云1和局部点云2进行配准对齐,由于配准对齐导致点云1和点云2做出了轻微坐标变换,因此影像P和影像Q的局部解算位姿不再满足贡献方程,故此时需要配准点云代表的物方点坐标,配准后根据点云坐标以及共线方程再次优化影像P和Q的局部解算位姿,进而获得影像P和Q的全局优化位姿,再对所有影像的全局优化位姿进行密集匹配和加密坐标点解算得到全局优化点云。该步骤主要是利用了点云配准的过程简单、高效、精度高的特点,帮助规避了常规空三解算中所有数据整体进行区域网平差的失败率高、精度差、效率低下的问题。
4)空三融合优化;空三融合优化能在联合空三解算获得了全局优化位姿的基础上,获得更准确的影像位姿有助于更好地判断影像重叠关系,进而提升密集匹配的效率和匹配点数量;同时,更准确的影像位姿能够提升加密点坐标解算的精度,获得全局优化点云。
如果项目除了采集影像数据,还采集了激光点云数据,可进一步将激光点云数据与全局优化点云进行融合优化,即首先进行二者配准对齐,再利用RANSAC算法去除噪声和离群点,最后进行空间均匀采样,即可得到融合后的融合优化点云。如果项目未采集激光点云数据,则可省略二者配准对齐的步骤,直接将全局优化点云进行RANSAC去除噪声和离群点,然后再进行空间均匀采样,即可得到融合优化点云。
步骤3、根据步骤2获得的融合优化点云数据采用语义优化建模方法对建模对象进行建模得到实体三维模型。
常见的摄影测量三维重建软件,在模型生产环节仅针对空三解算的点云进行几何模型构建和模型纹理映射获得三维模型,故构建的三维模型质量不高。为了针对不同类别的建模对象执行特定优化方案,并加强模型的分析与应用价值,本发明实施例提出使语义优化建模的方法进行建模,见图5,主要包括以下步骤:
1)预设场景语义类别,例如树木、建筑物、水体等;
2)采用PointNet++算法对全局优化点云进行语义分割,得到不同的语义类别;采用PointNet++算法进行语义分割的方法为:
a、对融合优化点云进行聚类产生多个点云子集,其中首先会根据核密度估计算法提取多个中心点,再根据距离关系将每一个点聚类至距离最近的中心点,从而完成聚类;
b、在每个点云子集内通过共享的多层感知机来提取每个点云子集的特征,多层感知机是一种前馈人工神经网络模型,经过多层神经网络的计算后,会得出一组预设维度的特征向量,特征向量即该点云子集的特征;
c、以层级化方式重复多次上述步骤,即每一次聚类算法输出的多个点集都被当作抽象后的点云再进行下一次处理,以便得到包含了局部邻域内丰富上下文信息的高层级点云特征;
d、根据学习到的高层级点云特征,使用一个全连接网络为每一个聚类的点云进行类别评分,全连接神经网络是一种基础的前馈神经网络,经过多层神经网络计算后,最后一层的每个输出节点均可得到一个概率得分,得分最高的类别可以指定为点云所述的分类;
e、将分类标签赋予类别内原始包含的所有点,实现点云的语义分割,即每一个点包含一个语义标签。
3)如图6所示,对不同语义类别的对象设置不同的类别约束,并对其设置相应的优化建模算法,在相应的类别约束下,根据步骤2得到全局点云数据采用对应的建模优化算法进行建模得到各语义类别的三维模型;例如,针对水体微动态的极难匹配的建模对象,本实施例增加平面约束,并进行点云和三角网自动均匀化的优化建模算法进行建模,可以使水面建模质量更优、效果更好;针对树木这类叶片结构极其复杂、模型占据大量存储空间的建模对象,本实施例增加轮廓约束,并进行点云和三角网自动抽稀的优化建模算法进行建模,可以保持树木基本外观的同时,优化模型的数据量;
5)由于不同语义类别的三维模型是单独构建的,三维模型之间必然会产生重叠错误或缝隙错误,本实施例采用语义接边优化来消除上述问题,见图7,其主要包括以下步骤:
边缘顶点提取:通过仅被使用一次的三角形边可检测出各三维模型的边缘,进而检测出边缘顶点;
结构化接边错误识别:从邻接的两个三维模型的首个共同边缘顶点开始,进行ID标注,使边缘获得结构化信息,通过对比结构化信息,即可发现冗余边缘顶点(或称另一个模型的缺失边缘顶点),进而识别出从邻接的两个三维模型之间的接边错误;在图中,从首个共同边缘顶点开始对模型1和模型2的边缘顶点进行ID标注,模型1中边缘顶点依次标注为1、2、3、4、5、6、7,模型2中边缘顶点依次标注为1、2、3、5、7,对比可见,模型2中4号和6号为缺失边缘顶点,分别导致了两个模型的重叠错误和裂隙错误;
接边错误优化:通过判断“涉及的三角形数量最少”原则,自动选择剔除冗余边缘顶点,或增加缺失边缘顶点,将从邻接的两个三维模型的边缘处理至完全一致,即可实现接边错误优化;在图7中,鉴于模型2中4号和6号为缺失边缘顶点,为了将两个模型边缘处理成一致,剔除模型1的冗余边缘顶点6,增加模型2缺失的边缘顶点4,从而将两各模型完美接边。在经过上述处理后即可将各语义类别的三维模型整合成完整的全局三维模型;
6)将影像采集装置采集的纹理映射至全局三维模型上得到最终的语义标注三维模型。本实施例获得的语义标注三维模型,其从实景三维模型的整体观察,模型是连续的、完整的,实际上不同语义类别的几何模型是分开构建的,因而本质上是由不相连的三角网构成。
本发明的另一个目的是提供一种根据上述的基于跨尺度多源数据的三维模型的重建方法的数据存储方法,包括如下步骤:
将实体三维模型均匀地划分为多个网格,为每个网格构建一个瓦块存储单元;
为每个网格中不同语义的三角网分别构建一个分级瓦块存储单元,每个分级瓦块存储单元将网格中相同语义的三角网包括的所有模型数据进行储存;
瓦块存储单元对其内包含的所有分级瓦块存储单元涵盖的全部数据进行打包储存。
本实施例将语义标注三维模型均匀地划分为大小相同的多个网格,为每个网格构建一个瓦块存储单元,从而避免构建和加载模型的时候出现内存爆满的问题。由于语义标注模型是自然地把不同类型的物体分开构网,因此模型的三角网的划分是自然的曲线。瓦块结构和语义标注模型的作用双重叠加,会导致一个网格由多个三角网组成,为了避免存储出现冲突和错误,本实施例提出了分级式瓦块的概念,即每个网格中不同语义的三角网分别构建一个分级瓦块存储单元,每个分级瓦块存储单元将网格中相同语义的三角网包括的所有模型数据进行储存,而瓦块存储单元对其内包含的所有分级瓦块存储单元涵盖的全部数据进行打包储存。这样在分级式瓦块中,一个瓦块仍然是一个文件,但该文件类似于一个压缩包文件,按照规定的顺序依次打包存储了不同语义的模型文件。这样做的优势是既可以保留按地理位置划分瓦块时便于统一管理模型文件的优点,又可以便捷地保存三维模型的语义信息。对于室内外自动融合的三维重建工作而言,分级式瓦块最明显的优点在于,可以在模型浏览时根据语义信息区分三角网属于室外或者室内,从而在显示室外模型时屏蔽室内模型,显示室内模型时屏蔽室外模型,避免室内外模型的叠加导致显示错误和浏览操作困难。
以上仅为本发明较佳的实施例,并非因此限制本发明的实施方式及保护范围,对于本领域技术人员而言,应当能够意识到凡运用本发明说明书内容所作出的等同替换和显而易见的变化所得到的方案,均应当包含在本发明的保护范围内。
Claims (9)
1.一种基于跨尺度多源数据的三维模型的重建方法,其特征在于,包括如下步骤:
步骤1、对建模对象布设跨尺度测量控制网以获取建模对象内各尺度相关点的坐标信息,并采用不同的图像采集设备采集建模对象不同尺度场景的图像数据;
步骤2、根据步骤1的坐标信息,采用渐进式空三解算方法对获得的不同尺度场景的图像数据先分别进行空三解算再将空三解算后的点云数据进行融合优化得到建模对象的融合优化点云数据;
步骤3、根据步骤2获得的融合优化点云数据采用语义优化建模方法对建模对象进行建模得到语义标注三维模型;
其中,步骤2中采用渐进式空三解算方法对获得的不同尺度的影像数据的方法为:
1)数据分组:根据输入路径、数据类型和元数据信息对获得的不同尺度场景的图像数据进行标注分组;
2)局部空三解算:对每个数据组进行空三解算得到局部解算位姿和局部点云;
3)联合空三解算:根据局部解算位姿和局部点云,借助点云配准方法将所有影像数据从全局角度重新进行解算得到影像全局优化点云数据;
4)空三融合优化:对于同时具备影像和激光扫描点云的场景,将影像全局优化点云数据和激光扫描点云配准对齐,然后再使用RANSAC算法剔除噪声,最后做均匀采样,从而将影像全局优化点云和激光扫描的点云进行优化融合得到融合优化点云;对于未采集激光点云数据的场景,直接将影像全局优化点云数据进行RANSAC去除噪声和离群点,然后在进行空间均匀采样,即得到融合优化点云数据。
2.根据权利要求1所述的基于跨尺度多源数据的三维模型的重建方法,其特征在于,步骤1中,对于建模对象的室外场景采用无人机搭载多镜头采集倾斜影像,室内场景采用手持单反相机采集多角度影像。
3.根据权利要求1所述的基于跨尺度多源数据的三维模型的重建方法,其特征在于,步骤1中,采用无人机搭载机载激光雷达采集室外场景的点云数据,使用架站式激光扫描仪、手持激光扫描仪采集室内场景的激光雷达点云。
4.根据权利要求1所述的基于跨尺度多源数据的三维模型的重建方法,其特征在于,步骤1中采集影像数据满足的条件为:
采用不同图像采集装置进行采集时,对相邻区域的两种不同图像采集影像装置的采集范围划定交集共同采集,交集内的数据作为缓冲数据,缓冲数据的面积不低于其中一种设备采集面积的10%;
针对室外场景的不同尺度的目标进行采集,在不同的航高处进行采集,如果航高差超过150米,则使用中间航高采集室外场景中最小尺度场景的数据作为缓冲数据,缓冲数据的面积完全覆盖最小尺寸场景;
对室内外场景的不同尺度的目标进行采集,使用室外采集的图像采集装置采集部分室内场景作为缓冲数据,或使用室内采集的图像采集装置采集室外场景作为缓冲数据,缓冲数据的采集面积超过室内面积的10%。
5.根据权利要求1所述的基于跨尺度多源数据的三维模型的重建方法,其特征在于,联合空三解算的方法为:
将局部空三解算获得的若干局部点云进行配准对齐;
通过配准的点云代表的物方点坐标,借助共线方程再次反向优化局部空三解算获得的局部解算位姿,进而使所有的影像获得全局优化位姿,再对所有影像全局优化位姿进行解算得到全局优化点云;其中,共线方程的基本形式为:
式中:
为像点的像平面坐标;
为影像的内方位元素;
为摄站点的物方空间坐标;
为物方点的物方空间坐标;
为影像的 3 个外方位角元素组成的 9 个方向余弦,/>。
6.根据权利要求1所述的基于跨尺度多源数据的三维模型的重建方法,其特征在于,步骤3中语义优化建模的方法包括以下步骤:
1)预设场景语义类别;
2)采用PointNet++算法对全局优化点云数据进行点云语义分割,得到对应的各语义类别;
3)对不同语义类别的对象设置不同的类别约束,并对其设置相应的优化建模算法,在相应的类别约束下,根据步骤2得到全局点云数据采用对应的建模优化算法进行建模得到各语义类别的三维模型;
4)对各语义类别的三维模型进行语义接边优化得到整体三维模型,对接边后的整体三维模型执行模型纹理映射得到最终的语义标注三维模型。
7.根据权利要求6所述的基于跨尺度多源数据的三维模型的重建方法,其特征在于,采用PointNet++算法进行语义分割的方法为:
1)使用聚类的方式产生多个点云子集;
2)在每个点云子集内通过共享的多层感知机来提取每个点云子集的特征;
3)以层级化方式重复多次上述步骤,得到包含了局部邻域内丰富上下文信息的高层级点云特征;
4)根据学习到的高层级点云特征,使用一个全连接网络为每一个聚类的点云进行类别评分,得分最高的类别为最终分类;
5)将分类标签赋予类别内原始包含的所有点,实现点云的语义分割,即每一个点包含一个语义标签。
8.根据权利要求1所述的基于跨尺度多源数据的三维模型的重建方法,其特征在于,语义接边优化的实现方法为:
1)边缘顶点提取:通过各三维模型中仅被使用一次的三角形边检测出各三维模型的边缘,进而检测出边缘顶点;
2)结构化接边错误识别:从邻接两个三维模型的首个共同边缘顶点开始,进行ID标注,使边缘获得结构化信息,通过结构化信息对比识别接边错误;
3)接边错误优化:通过判断涉及的三角形数量最少原则,自动选择剔除冗余边缘顶点,或增加缺失边缘顶点,将邻接的两个三维模型的边缘处理至完全一致,即实现接边错误优化。
9.一种根据权利要求1-8任意一项所述的基于跨尺度多源数据的三维模型的重建方法的数据存储方法,其特征在于,包括如下步骤:
将实体三维模型均匀地划分为多个网格,为每个网格构建一个瓦块存储单元;
为每个网格中包含的不同语义的三角网分别构建一个分级瓦块存储单元,每个分级瓦块存储单元将网格中相同语义的三角网包括的所有模型数据进行储存;
瓦块存储单元对其内包括的所有分级瓦块存储单元包含的全部数据进行打包储存。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311236479.4A CN117315146B (zh) | 2023-09-22 | 2023-09-22 | 基于跨尺度多源数据的三维模型的重建方法及存储方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311236479.4A CN117315146B (zh) | 2023-09-22 | 2023-09-22 | 基于跨尺度多源数据的三维模型的重建方法及存储方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117315146A CN117315146A (zh) | 2023-12-29 |
CN117315146B true CN117315146B (zh) | 2024-04-05 |
Family
ID=89287735
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311236479.4A Active CN117315146B (zh) | 2023-09-22 | 2023-09-22 | 基于跨尺度多源数据的三维模型的重建方法及存储方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117315146B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117523206B (zh) * | 2024-01-04 | 2024-03-29 | 南京航空航天大学 | 一种基于跨源点云与多模态信息的自动化装配方法 |
CN117808987B (zh) * | 2024-02-28 | 2024-05-14 | 苏州元脑智能科技有限公司 | 室内场景三维重建方法、装置、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109827548A (zh) * | 2019-02-28 | 2019-05-31 | 华南机械制造有限公司 | 无人机航测数据的处理方法 |
CN111815776A (zh) * | 2020-02-04 | 2020-10-23 | 山东水利技师学院 | 综合机载和车载三维激光点云及街景影像的三维建筑物精细几何重建方法 |
CN113920262A (zh) * | 2021-10-15 | 2022-01-11 | 中国矿业大学(北京) | 一种增强边缘取样与改进Unet模型的矿区FVC计算方法及*** |
WO2022252274A1 (zh) * | 2021-05-31 | 2022-12-08 | 北京理工大学 | 基于PointNet网络点云分割及虚拟环境生成方法和装置 |
WO2023045455A1 (zh) * | 2021-09-21 | 2023-03-30 | 西北工业大学 | 基于分支重构配准的非合作目标三维重建方法 |
CN115937288A (zh) * | 2022-10-12 | 2023-04-07 | 国网四川省电力公司电力科学研究院 | 一种变电站三维场景模型构建方法 |
-
2023
- 2023-09-22 CN CN202311236479.4A patent/CN117315146B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109827548A (zh) * | 2019-02-28 | 2019-05-31 | 华南机械制造有限公司 | 无人机航测数据的处理方法 |
CN111815776A (zh) * | 2020-02-04 | 2020-10-23 | 山东水利技师学院 | 综合机载和车载三维激光点云及街景影像的三维建筑物精细几何重建方法 |
WO2022252274A1 (zh) * | 2021-05-31 | 2022-12-08 | 北京理工大学 | 基于PointNet网络点云分割及虚拟环境生成方法和装置 |
WO2023045455A1 (zh) * | 2021-09-21 | 2023-03-30 | 西北工业大学 | 基于分支重构配准的非合作目标三维重建方法 |
CN113920262A (zh) * | 2021-10-15 | 2022-01-11 | 中国矿业大学(北京) | 一种增强边缘取样与改进Unet模型的矿区FVC计算方法及*** |
CN115937288A (zh) * | 2022-10-12 | 2023-04-07 | 国网四川省电力公司电力科学研究院 | 一种变电站三维场景模型构建方法 |
Non-Patent Citations (3)
Title |
---|
基于倾斜摄影测量的三维建模关键技术研究与应用;赵政权;《贵州大学学报( 自然科学版)》;20200731;第35-39页 * |
基于点云数据的三目标识别和模型分割方法;牛辰庚;《图学学报》;20190430;第274-281页 * |
赵政权.基于倾斜摄影测量的三维建模关键技术研究与应用.《贵州大学学报( 自然科学版)》.2020,第35-39页. * |
Also Published As
Publication number | Publication date |
---|---|
CN117315146A (zh) | 2023-12-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110570428B (zh) | 一种从大规模影像密集匹配点云分割建筑物屋顶面片的方法及*** | |
CN117315146B (zh) | 基于跨尺度多源数据的三维模型的重建方法及存储方法 | |
CN107133325B (zh) | 一种基于街景地图的互联网照片地理空间定位方法 | |
JP6080642B2 (ja) | 3次元点群解析方法 | |
Moons et al. | Automatic modelling and 3D reconstruction of urban house roofs from high resolution aerial imagery | |
CN109883401B (zh) | 一种城市观山可视域的测量方法及*** | |
Barazzetti et al. | True-orthophoto generation from UAV images: Implementation of a combined photogrammetric and computer vision approach | |
Zhu et al. | Leveraging photogrammetric mesh models for aerial-ground feature point matching toward integrated 3D reconstruction | |
CN113096250A (zh) | 基于无人机航拍影像序列的三维建筑模型库***构建方法 | |
JP6080641B2 (ja) | 3次元点群解析方法 | |
Verykokou et al. | Oblique aerial images: a review focusing on georeferencing procedures | |
CN112765095A (zh) | 一种立体测绘卫星影像数据归档方法和*** | |
JP6080640B2 (ja) | 3次元点群解析方法 | |
CN115358486B (zh) | 基于立体卫星影像的港口货运量预测方法、***及应用 | |
CN110223380A (zh) | 融合航拍与地面视角图像的场景建模方法、***、装置 | |
Özdemir et al. | A multi-purpose benchmark for photogrammetric urban 3D reconstruction in a controlled environment | |
JP2023530449A (ja) | 空中と地上の位置合わせのためのシステムおよび方法 | |
Frommholz et al. | Extracting semantically annotated 3D building models with textures from oblique aerial imagery | |
Jiang et al. | Learned local features for structure from motion of uav images: A comparative evaluation | |
Cui et al. | Tracks selection for robust, efficient and scalable large-scale structure from motion | |
Sun et al. | Geographic, geometrical and semantic reconstruction of urban scene from high resolution oblique aerial images. | |
CN113781639B (zh) | 一种大场景道路基础设施数字化模型快速构建方法 | |
CN113240755B (zh) | 基于街景图像与车载激光融合的城市场景构图方法及*** | |
Atik et al. | An automatic image matching algorithm based on thin plate splines | |
Liang et al. | Efficient match pair selection for matching large-scale oblique UAV images using spatial priors |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |