CN115330940B - 一种三维重建方法、装置、设备和介质 - Google Patents
一种三维重建方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN115330940B CN115330940B CN202210950651.1A CN202210950651A CN115330940B CN 115330940 B CN115330940 B CN 115330940B CN 202210950651 A CN202210950651 A CN 202210950651A CN 115330940 B CN115330940 B CN 115330940B
- Authority
- CN
- China
- Prior art keywords
- target object
- surface data
- dimensional reconstruction
- adopting
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 68
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 145
- 230000005855 radiation Effects 0.000 claims abstract description 33
- 230000001537 neural effect Effects 0.000 claims description 38
- 238000001514 detection method Methods 0.000 claims description 22
- 238000004891 communication Methods 0.000 claims description 13
- 238000000605 extraction Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 abstract description 11
- 230000000694 effects Effects 0.000 abstract description 8
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000010801 machine learning Methods 0.000 abstract description 4
- 210000005036 nerve Anatomy 0.000 abstract description 3
- 230000003190 augmentative effect Effects 0.000 abstract 1
- 238000005516 engineering process Methods 0.000 description 11
- 238000004590 computer program Methods 0.000 description 10
- 239000007787 solid Substances 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 4
- 238000009877 rendering Methods 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000003924 mental process Effects 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/529—Depth or shape recovery from texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
- Image Generation (AREA)
Abstract
本公开提供了一种三维重建方法、装置、设备和介质,涉及图像数据处理技术领域,尤其涉及人工智能、计算机视觉、深度机器学习、虚拟现实、增强现实、元宇宙技术领域。具体实现方案为:获取针对目标物从至少两个视角采集到的原始图像;根据各原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取目标物的第一表面数据;如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用第一表面数据,作为多视角特征匹配算法的初始表面数据;基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建,以获取目标物的三维重建模型。本方案为提供了一种考虑纹理特征的三维重建方案,能够实现对弱纹理表面物体更好的重建效果。
Description
技术领域
本公开涉及图像数据处理技术领域,尤其涉及人工智能、计算机视觉、深度机器学习技术。
背景技术
对目标物体的三维重建是计算机图形学和计算机视觉的一个重要研究领域。其目标是高质量地捕捉物体和场景的三维形状和外观,以模拟数字空间中的三维交互和感知。目前基于RGB图像的三维重建技术有利于对表面纹理丰富的物品进行建模,而对表面缺乏纹理特征的物品则较难快速实现良好的重建效果。
已有的三维重建算法中,对于弱纹理表面的物品,难以兼顾建模速度、准确性和完整性,导致重建效果不佳。
发明内容
本公开提供了一种三维重建方法、装置、设备以及介质。
根据本公开的一方面,提供了一种三维重建方法,包括:
获取针对目标物从至少两个视角采集到的原始图像;
根据各所述原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取所述目标物的第一表面数据;
如果确定所述目标物的表面图案为符合设定条件的弱纹理表面,则采用所述第一表面数据,作为多视角特征匹配算法的初始表面数据;
基于所述初始表面数据,根据各所述原始图像,采用所述多视角特征匹配算法进行三维重建,以获取所述目标物的三维重建模型。
根据本公开的另一方面,提供了一种电子设备,该电子设备包括:
至少一个处理器;以及
与至少一个处理器通信连接的存储器;其中,
存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开任一实施例的三维重建方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开任一实施例的三维重建方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序/指令,所述计算机程序/指令在被处理器执行时实现本公开任一实施例的三维重建方法。
本方案为三维重建提供了一种考虑目标物表面纹理特征的新的解决方案,能够实现对弱纹理表面物体更好的重建效果。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例提供的一种三维重建方法的流程图;
图2是根据本公开实施例提供的一种三维重建方法的流程图;
图3是根据本公开实施例提供的一种三维重建方法的流程图;
图4A是根据本公开实施例提供的一种三维重建方法的流程图;
图4B是根据本公开实施例提供的三维重建方法的流程示意图;
图4C是根据本公开实施例提供三维重建效果示意图;
图5是根据本公开实施例提供的一种三维重建装置的结构示意图;
图6是用来实现本公开实施例的三维重建方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在相关技术中,有两大类对物品进行三维重建的方式,一类为基于立体视觉算法进行三维重建的方式,典型的如多视角立体匹配算法(Multi-View Stereo,MVS),多视图深度预测网络(MVSNet)等,这种方法主要是基于物品表面像素特征的匹配来重构三维模型,如果物品表面大量特征相似度高,区别度差,可称为弱纹理物品,对于弱纹理表面,立体视觉算法对于区别度不大的像素点没法重建,会出现表面像素点缺失的问题,因此无法进行有效的三维重建。另一类为基于神经渲染进行三维重建的方式,典型的如NeRF(NeuralRadiance Fields,神经辐射场算法)、NeuS(Neural Implicit Surfaces,神经隐式表面)以及VolSDF(Volume signed distance function,体表示符号距离场函数)等。基于NeRF算法的三维重建方法训练速度快,主要是利用多视角的图像的像素之间的关系,***连续的像素点,并根据多视角的图像计算像素深度,从而实现三维重建,这种方法可以全面建立物品表面像素点,但是计算的深度准确度较低,因为插帧的方式,计算像素深度时也会不准确,使得重建得到的网格表面非常不平整,且网格内部存在大量杂乱面片结构,无法应用到高精度三维建模的场景中。而基于NeuS和VolSDF算法的三维重建方法可以对弱纹理物品进行有效重建,但训练速度慢,重建时间过长使其应用场景有限。本公开针对表面缺乏纹理特征的物品无法实现短时间有效重建的问题,将NeRF和MVS算法进行互补,提出了一种基于目标物表面纹理特征的新的三维重建方案,具体的,本公开提供的三维重建方法,将在下述实施例进行详细介绍。
图1是根据本公开实施例提供的一种三维重建方法的流程图,本公开实施例可适用于如何基于目标物的多视角拍摄图像,进行三维重建的情况,尤其适用于具有表面弱纹理物品的三维重建。该方法可由一种三维重建装置来执行,该装置可采用硬件和/或软件的方式来实现,可配置于具有三维重建功能的电子设备中,如高精度、低成本的通用三维扫描设备等。参考图1,该方法具体包括如下:
S101,获取针对目标物从至少两个视角采集到的原始图像。
其中,目标物是指目标进行三维重建的一个三维立体的物品。图像采集设备是指可以对目标物至少两个视角的图像进行采集的设备,图像采集设备可以是摄像机,示例性的,可以基于双目摄像机从两个视角对目标物进行图像采集。视角是指采集物品图像时的不同角度。原始图像是指图像采集设备采集的包含目标物的原始图像,图像可以是像素级别的RGB(Red Green Blue,三原色)图像,即RGB图像中包含若干像素点的像素值和灰度值信息。
可选的,可以通过图像采集设备从至少两个不同的视角对目标物进行图像采集,获取采集到的至少两张原始图像,即获取针对目标物通过图像采集设备从至少两个视角采集到的原始图像。
可选的,利用图像采集设备采集不同视角的原始图像之后,可以利用SFM(structure from motion)算法计算图像采集设备(如相机)的位姿信息,根据相机的位姿信息,将不同视角采集的图像像素点的位置信息转化在同一坐标系,便于后续进行三维重建。
S102,根据各原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取目标物的第一表面数据。
其中,神经辐射场算法是通过神经渲染方式进行三维重建的算法。神经辐射场算法可以是Instant-NGP(瞬时神经图元)、Mip-NeRF(mipmapping-NeRF,MIP映射神经辐射场)或Point-NeRF。
重建结果是指采用神经辐射场算法进行三维重建后得到的结果。第一表面数据是指采用神经辐射场算法确定的目标物表面各像素的信息数据,第一表面数据可以包括像素值和灰度值信息。
可选的,神经辐射场算法可以通过神经网络对三维空间中每个体素的颜色和透明度进行预测,进而通过体渲染的方法生成新视角的原始图像。同时,通过设置体素透明度阈值并采用marching cube(MC,等值面提取)算法生成三维体素模型,从而实现对目标物体的三维重建,得到重建结果。
可选的,得到重建结果后,可以基于预设的特征提取算法,从重建结果中提取出重建后的目标物表面的像素信息,如像素的像素值或灰度值,即获取目标物的第一表面数据;也可以将重建结果输入预先训练好的模型,输出第一表面数据,即基于重建结果获取目标物的第一表面数据。
可选的,神经辐射场算法可以为NeRF(Neural Radiance Fields)算法。通过采用NeRF算法进行三维重建,可以更全面完整的建模目标物表面的像素点,便于后续将NeRF算法确定的表面数据作为多视角特征匹配算法的初始值,从而实现快速有效的三维重建。
S103,如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用第一表面数据,作为多视角特征匹配算法的初始表面数据。
其中,目标物的表面图案是指表征目标物表面纹理特征的图案。设定条件是指预设的用于区分目标物表面的纹理是否为弱纹理的条件。多视角特征匹配算法是基于像素点特征匹配的方式来进行三维重建的算法。初始表面数据是指多视角特征匹配算法进行三维重建时的初始值。弱纹理表面是指纹理特征相似度高,区别度差的目标物表面,弱纹理条件可以基于三维重建结果的统计值或经验值进行自定义设置。
可选的,可以根据目标物各视角的原始图像,确定目标物的表面图案,进一步的,由于目标物表面纯色区域的纹理特征往往相似度很高,因此可以对表面图案进行分析,基于自定义的经验规则判断,确定目标物的表面图案是否为符合设定条件的弱纹理表面;还可以根据第一表面数据,基于预设的规则,对神经辐射场算法进行三维重建确定的第一表面数据进行分析,根据分析结果,确定目标物的表面图案是否为符合设定条件的弱纹理表面。
可选的,如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用神经辐射场算法进行三维重建确定的第一表面数据,作为多视角特征匹配算法的初始表面数据。
可选的,多视角特征匹配算法为MVS算法。通过采用MVS算法进行三维重建,可以使得像素点的深度计算更准确。
S104,基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建,以获取目标物的三维重建模型。
其中,三维重建模型是指最终确定的可以表征目标物表面纹理特征的目标物的三维模型。
可选的,可以采用多视角特征匹配算法,根据初始表面数据中的像素信息,结合各原始图像中各像素的像素值或灰度值,基于预设的条件,对像素进行筛选,根据筛选出的像素对其相邻的像素进行迭代更新,得到最终迭代更新后的目标物表面的像素值,即完成三维重建,得到重建结果,对重建结果进行纹理贴图,从而得到目标物的三维重建模型。
可选的,若原始图像为RGB图像,则可以得到目标物的彩色三维重建模型。
本公开实施例的方案,获取针对目标物从至少两个视角采集到的原始图像,根据各原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取目标物的第一表面数据,如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用第一表面数据,作为多视角特征匹配算法的初始表面数据,基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建,以获取目标物的三维重建模型。本方案为三维重建提供了一种基于目标物表面纹理特征的新的解决方案,考虑到多视角特征匹配算法和神经辐射场算法分别对目标物进行三维建模时的缺陷,将神经辐射场算法进行三维建模确定的第一表面数据作为多视角特征匹配算法的初始表面数据进行再次三维建模,克服了多视角特征匹配算法对弱纹理表面建模准确性不足、计算量大的问题,同时克服了神经辐射场算法对目标物像素深度建模不准确的问题,可以对弱纹理表面的目标物进行更快速、准确且完整的三维重建。
图2是根据本公开实施例提供的一种三维重建方法的流程图,本实施例在上述实施例的基础上,进一步对“采用第一表面数据,作为多视角特征匹配算法的初始表面数据”进行详细的解释说明,如图2所述,该方法包括:
S201,获取针对目标物从至少两个视角采集到的原始图像。
S202,根据各原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取目标物的第一表面数据。
S203,如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用第一表面数据中的像素值,作为多视角特征匹配算法的初始表面数据中的像素值。
可选的,确定目标物的表面图案为符合设定条件的弱纹理表面之后,可以直接从神经辐射场算法进行三维重建确定的第一表面数据中,提取出建模后目标物表面各像素点的像素值,并在基于多视角特征匹配算法进行三维建模前,设置多视角特征匹配算法模型的初始值为第一表面数据中的像素值,即采用第一表面数据中的像素值,作为多视角特征匹配算法的初始表面数据中的像素值。
S204,基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建,以获取目标物的三维重建模型。
可选的,可以采用多视角特征匹配算法,基于初始表面数据与各原始图像中像素的像素值,进行三维重建,具体的,基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建包括:基于初始表面数据中的像素值,采用多视角特征匹配算法进行关键像素的选择,并基于关键像素向相邻像素进行像素值传播,以更新表面数据;根据各原始图像,对更新表面数据进行一致性检测;根据一致性检测结果,迭代更新表面数据,重复执行关键像素选择和像素值传播的操作,直至达到一致性检测条件。
其中,关键像素是指基于预设筛选条件从初始表面像素中选择出的关键像素,通常是指像素深度值相对准确的像素。相邻像素是指与关键像素相邻的像素。一致性检测是指确定各原始图像中对应像素的像素值深度是否一致的检测。
可选的,可以采用多视角特征匹配算法,将初始表面数据中的像素值与原始图像的像素值进行像素的遍历和一致性检测,从而筛选出准确度相对较高的像素,作为关键像素,即进行关键像素的选择。
可选的,确定关键像素后,可以将关键像素的深度传播到其相邻的像素点,一种传播方式为:直接利用关键像素的像素值替换相邻像素点的像素值,另一种传播方式为:根据关键像素的像素值,基于一定的梯度规则,为相邻像素点的像素值赋值,从而实现对初始表面数据中像素值的更新,即基于关键像素向相邻像素进行像素值传播,以更新表面数据。
可选的,每进行一次更新后,都将更新表面数据中各原始图像中对应像素的深度值进行一一比对,即根据各原始图像,对更新表面数据进行一致性检测,若更新表面数据中各原始图像中对应像素的深度值均一致,则达到一致性检验结果,若不一致,则迭代更新表面数据,重复执行关键像素选择和像素值传播的操作,直至达到一致性检测条件。
需要说明的是,通过遍历像素的一致性检测和迭代更新,给出了一种采用多视角特征匹配算法进行三维重建的可实施方式,有效利用神经辐射场算法确定的初始表面数据,实现了更准确有效的三维重建。
本公开实施例的方案,根据各原始图像,获取目标物的第一表面数据之后,如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用第一表面数据中的像素值,作为多视角特征匹配算法的初始表面数据中的像素值,基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建,以获取目标物的三维重建模型。通过这样的方式,给出了一种根据第一表面数据确定多视角特征匹配算法初始表面数据的一种可实施方式,便于后续基于初始表面数据中的像素值进行三维重建。
图3是根据本公开实施例提供的一种三维重建方法的流程图,本实施例在上述实施例的基础上,进一步对“确定目标物的表面图案为符合设定条件的弱纹理表面”进行详细的解释说明,如图3所示,该方法包括:
S301,获取针对目标物从至少两个视角采集到的原始图像。
S302,根据各原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取目标物的第一表面数据。
S303,根据各原始图像,采用多视角特征匹配算法进行三维重建,以基于重建结果获取目标物的第二表面数据。
其中,第二表面数据是指采用多视角特征匹配算法确定的目标物表面各像素的信息数据。
可选的,可以随机生成或者利用稀疏点云生成多视角特征匹配算法的初始表面数据,此后在此基础上进行传播优化进行三维重建,具体的,对于任意两个不同视角采集的原始图像,可以遍历每个像素,确定该像素与相邻像素的像素值存在一定的差异关系,若基于第一视角采集的原始图像中某个像素与相邻像素的像素值存在一定的差异关系,则在目标物第二视角采集的图像中寻找有相同差异关系的像素,即进行匹配,若可以找到有相同差异关系的像素,则这两个像素匹配成功,根据匹配成功的这两个像素,对目标物表面对应的像素点进行三维重建。
可选的,得到重建结果后,可以从重建结果中提取出重建后的目标物表面的像素信息,如像素的像素值或灰度值,即基于重建结果获取目标物的第二表面数据;也可以将重建结果输入预先训练好的模型,输出第二表面数据,即基于重建结果获取目标物的第二表面数据。
S304,采用第一表面数据和第二表面数据识别目标物的表面图案是否为符合设定条件的弱纹理表面。
可选的,由于通过神经渲染方式即神经辐射场算法确定的第一表面数据对目标物表面的重建更为完整,因此可以根据第一表面数据,评估第二表面数据的完整度,根据评估结果,确定目标物的表面图案是否为符合设定条件的弱纹理表面,具体的,采用第一表面数据和第二表面数据识别目标物的表面图案是否为符合设定条件的弱纹理表面包括:以第一表面数据为参考表面,计算第二表面数据相对于第一表面数据的表面完整度;如果表面完整度小于设定阈值,则确定目标物的表面图案是符合设定条件的弱纹理表面;否则确定目标物的表面图案不是符合设定条件的弱纹理表面。
其中,表面完整度是指多视角特征匹配算法相对于神经辐射场算法进行三维重建后的模型表面的完整度。设定阈值是用于衡量多视角特征匹配算法进行三维重建确定的第二表面数据的完整程度。
可选的,以第一表面数据为参考表面,可以计算参考表面上所有像素到第二表面上最近像素之间距离,进一步计算所有距离的平均值,来表征第二表面数据的表面完整度,即计算第二表面数据相对于第一表面数据的表面完整度。
可选的,如果计算的表面完整度的值小于设定阈值,则表明目标物表面通过多视角特征匹配算法无法重建的像素数较多,此时可以确定目标物的表面图案是符合设定条件的弱纹理表面;否则确定目标物的表面图案不是符合设定条件的弱纹理表面。
需要说明的是,通过这样的方式,给出了根据第二表面数据相对于第一表面数据的表面完整度,确定目标物的表面图案是否为符合设定条件的弱纹理表面的一种可实施方式,可以更好的标识出目标物表面的纹理特征。
可选的,如果识别确定目标物的表面图案不是符合设定条件的弱纹理表面之后,还包括:将根据各原始图像,采用多视角特征匹配算法进行三维重建之后得到的重建结果,作为目标物的三维重建模型。
可选的,在确定目标物的表面图案不是符合设定条件的弱纹理表面时,也就是目标物表面的纹理为强纹理时,此时认为多视角特征匹配算法可以实现对目标物准确有效的三维重建,因此,将根据各原始图像,采用多视角特征匹配算法进行三维重建之后得到的重建结果,作为目标物的三维重建模型。
需要说明的是,通过这样的方式,给出了目标物的表面图案为强纹理时确定三维重建模型的可实施方式,可以提高目标物三维重建的准确度。
S305,如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用第一表面数据,作为多视角特征匹配算法的初始表面数据。
S306,基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建,以获取目标物的三维重建模型。
本公开实施例的方案,确定第一表面数据后,根据各原始图像,采用多视角特征匹配算法进行三维重建,以基于重建结果获取目标物的第二表面数据,进一步采用第一表面数据和第二表面数据识别目标物的表面图案是否为符合设定条件的弱纹理表面,最后获取目标物的三维重建模型。通过这样的方式,给出了基于两种不同算法确定的表面数据来确定目标物的表面是否为弱纹理表面的一种可实施方式,提高了目标物表面纹理特征辨识的丰富性。
图4A是根据本公开实施例提供的一种三维重建方法的流程图,图4B是根据本公开实施例提供的三维重建方法的流程示意图,图4C是根据本公开实施例提供三维重建效果示意图。本实施例在上述实施例的基础上,进一步对“确定目标物的表面图案为符合设定条件的弱纹理表面”进行详细的解释说明,如图4A所示,该方法包括:
S401,获取针对目标物从至少两个视角采集到的原始图像。
S402,根据各原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取目标物的第一表面数据。
S403,根据原始图像提取纯色的连通区域。
其中,纯色的连通区域是指原始图像中颜色相同的一整块连通区域。例如,纯色可以是纯白、纯黑色等纯色。
可选的,可以基于预设的规则,如预设的分割算法,对各原始图像进行处理,提取出原始图像中的纯色的连通区域。
S404,如果连通区域大于设定面积值,则确定目标物的表面图案是符合设定条件的弱纹理表面;否则确定目标物的表面图案不是符合设定条件的弱纹理表面。
可选的,确定纯色的连通区域之后,可以计算纯色的连通区域的面积,进一步确定纯色的连通区域的面积与设定面积值之间的大小关系,如果连通区域大于设定面积值,则确定目标物的表面图案是符合设定条件的弱纹理表面,否则确定目标物的表面图案不是符合设定条件的弱纹理表面。
可选的,确定纯色的连通区域之后,还可以确定纯色的连通区域的面积占目标物表面总面积的比例,根据比例与预设比例阈值的关系,确定目标物的表面图案是符合设定条件的弱纹理表面。如果连通区域的面积占目标物表面总面积的比例大于预设比例阈值,则确定目标物的表面图案是符合设定条件的弱纹理表面,否则确定目标物的表面图案不是符合设定条件的弱纹理表面。
S405,如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用第一表面数据,作为多视角特征匹配算法的初始表面数据。
S406,基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建,以获取目标物的三维重建模型。
本公开实施例的方案,根据原始图像提取纯色的连通区域,如果连通区域大于设定面积值,则确定目标物的表面图案是符合设定条件的弱纹理表面,否则确定目标物的表面图案不是符合设定条件的弱纹理表面在。通过这样的方式,给出了一种基于原始图像的纯色连通区域的面积,确定目标物的表面是否属于弱纹理表面的一种可实施方式,提高了目标物表面纹理特征辨识的丰富性。
优选的,参见图4B,本公开提供的三维重建方法可以包括如下过程:获取多视角采集的原始图像,并根据SFM算法计算相机位姿信息,进一步分别采用MVS算法和NeRF算法进行三维重建,得到MVS三维重建结果和NeRF三维重建结果,根据由此确定的第一表面数据和第二表面数据,确定目标物的的表面图案是否为弱纹理表面,若是,则根据NeRF三维重建结果确定的第一表面数据,利用MVS算法进行传播优化及一致性检测,实现三维重建,并对重建结果进行纹理贴图,从而得到彩色三维模型,即获取目标物的三维重建模型;若目标物的的表面图案不是弱纹理表面,则直接采用MVS算法进行三维重建,并对重建结果进行纹理贴图,从而得到彩色三维模型。
示例性的,将本公开提供的根据S102-S104步骤实现三维重建的方法简称为MVS_PLUS,则可以通过图4C展示仅采用NeRF算法进行三维重建、仅采用MVS算法进行三维重建、采用NeRF算法和MVS算法结合的MVS_PLUS算法进行三维重建的这三种算法,相对于原始图像的重建效果。由图4C可见,本公开提供的三维重建方法能够有效提升基于RGB图像三维重建算法对于缺乏纹理物体的重建效果。通过将MVS和NeRF算法进行结合,可以在不增加硬件辅助的条件下对缺乏表面纹理特征的物体进行快速三维重建,能够显著扩展基于图像三维重建算法的应用范围,有利于基于RGB图像的高精度、低成本三维扫描仪器的开发。
图5是根据本公开实施例提供的一种三维重建装置的结构示意图,本公开实施例可适用于如何基于目标物表面的纹理特征进行三维重建的情况,该装置可以采用软件和/或硬件的方式实现。具体可以集成于具有三维重建功能的电子设备中。如图5所示,该三维重建装置500包括:
图像获取模块501,用于获取针对目标物从至少两个视角采集到的原始图像;
数据获取模块502,用于根据各所述原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取所述目标物的第一表面数据;
确定模块503,用于如果确定所述目标物的表面图案为符合设定条件的弱纹理表面,则采用所述第一表面数据,作为多视角特征匹配算法的初始表面数据;
模型获取模块504,用于基于所述初始表面数据,根据各所述原始图像,采用所述多视角特征匹配算法进行三维重建,以获取所述目标物的三维重建模型。
本公开实施例的方案,获取针对目标物从至少两个视角采集到的原始图像,根据各原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取目标物的第一表面数据,如果确定目标物的表面图案为符合设定条件的弱纹理表面,则采用第一表面数据,作为多视角特征匹配算法的初始表面数据,基于初始表面数据,根据各原始图像,采用多视角特征匹配算法进行三维重建,以获取目标物的三维重建模型。本方案为三维重建提供了一种基于目标物表面纹理特征的新的解决方案,考虑到多视角特征匹配算法和神经辐射场算法分别对目标物进行三维建模时的缺陷,将神经辐射场算法进行三维建模确定的第一表面数据作为多视角特征匹配算法的初始表面数据进行再次三维建模,克服了多视角特征匹配算法对弱纹理表面建模准确性不足、计算量大的问题,同时克服了神经辐射场算法对目标物像素深度建模不准确的问题,可以对弱纹理表面的目标物进行更快速、准确且完整的三维重建。
进一步的,所述确定模块503包括:
像素值确定单元,用于采用所述第一表面数据中的像素值,作为所述多视角特征匹配算法的初始表面数据中的像素值。
进一步的,所述模型获取模块504包括:
更新单元,用于基于所述初始表面数据中的像素值,采用所述多视角特征匹配算法进行关键像素的选择,并基于所述关键像素向相邻像素进行像素值传播,以更新表面数据;
检测单元,用于根据各所述原始图像,对更新表面数据进行一致性检测;
迭代执行单元,用于根据一致性检测结果,迭代更新表面数据,重复执行关键像素选择和像素值传播的操作,直至达到一致性检测条件。
进一步的,所述确定模块503还包括:
数据获取单元,用于根据各所述原始图像,采用多视角特征匹配算法进行三维重建,以基于重建结果获取所述目标物的第二表面数据;
识别单元,用于采用第一表面数据和第二表面数据识别所述目标物的表面图案是否为符合设定条件的弱纹理表面。
进一步的,所述装置还包括:
模型确定模块,用于如果识别确定所述目标物的表面图案不是符合设定条件的弱纹理表面之后,将根据各所述原始图像,采用多视角特征匹配算法进行三维重建之后得到的重建结果,作为所述目标物的三维重建模型。
进一步的,所述识别单元包括:
计算子单元,用于以第一表面数据为参考表面,计算所述第二表面数据相对于所述第一表面数据的表面完整度;
确定子单元,用于如果所述表面完整度小于设定阈值,则确定所述目标物的表面图案是符合设定条件的弱纹理表面;否则确定所述目标物的表面图案不是符合设定条件的弱纹理表面。
进一步的,所述确定模块503还包括:
提取单元,用于根据所述原始图像提取纯色的连通区域;
图案确定单元,用于如果所述连通区域大于设定面积值,则确定所述目标物的表面图案是符合设定条件的弱纹理表面;否则确定所述目标物的表面图案不是符合设定条件的弱纹理表面。
进一步的,所述多视角特征匹配算法为MVS算法;所述神经辐射场算法为NeRF算法。
上述产品可执行本公开任意实施例所提供的三维重建方法,具备执行方法相应的功能模块和有益效果。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图6是用来实现本公开实施例的三维重建方法的电子设备的框图。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如三维重建方法。例如,在一些实施例中,三维重建方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行上文描述的三维重建方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行三维重建方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)区块链网络和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式***的服务器,或者是结合了区块链的服务器。
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术及机器学习/深度学习技术、大数据处理技术、知识图谱技术等几大方向。
云计算(cloud computing),指的是通过网络接入弹性可扩展的共享物理或虚拟资源池,资源可以包括服务器、操作***、网络、软件、应用和存储设备等,并可以按需、自服务的方式对资源进行部署和管理的技术体系。通过云计算技术,可以为人工智能、区块链等技术应用、模型训练提供高效强大的数据处理能力。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开提供的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (16)
1.一种三维重建方法,包括:
获取针对目标物从至少两个视角采集到的原始图像;所述原始图像为像素级别的三原色RGB图像;
根据各所述原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取所述目标物的第一表面数据;
如果确定所述目标物的表面图案为符合设定条件的弱纹理表面,则采用所述第一表面数据中的像素值,作为所述多视角特征匹配算法的初始表面数据中的像素值;
基于所述初始表面数据,根据各所述原始图像,采用所述多视角特征匹配算法进行三维重建,以获取所述目标物的三维重建模型。
2.根据权利要求1所述的方法,其中,基于所述初始表面数据,根据各所述原始图像,采用所述多视角特征匹配算法进行三维重建包括:
基于所述初始表面数据中的像素值,采用所述多视角特征匹配算法进行关键像素的选择,并基于所述关键像素向相邻像素进行像素值传播,以更新表面数据;
根据各所述原始图像,对更新表面数据进行一致性检测;
根据一致性检测结果,迭代更新表面数据,重复执行关键像素选择和像素值传播的操作,直至达到一致性检测条件。
3.根据权利要求1所述的方法,其中,确定所述目标物的表面图案为符合设定条件的弱纹理表面包括:
根据各所述原始图像,采用多视角特征匹配算法进行三维重建,以基于重建结果获取所述目标物的第二表面数据;
采用第一表面数据和第二表面数据识别所述目标物的表面图案是否为符合设定条件的弱纹理表面。
4.根据权利要求3所述的方法,如果识别确定所述目标物的表面图案不是符合设定条件的弱纹理表面之后,还包括:
将根据各所述原始图像,采用多视角特征匹配算法进行三维重建之后得到的重建结果,作为所述目标物的三维重建模型。
5.根据权利要求3所述的方法,其中,采用第一表面数据和第二表面数据识别所述目标物的表面图案是否为符合设定条件的弱纹理表面包括:
以第一表面数据为参考表面,计算所述第二表面数据相对于所述第一表面数据的表面完整度;
如果所述表面完整度小于设定阈值,则确定所述目标物的表面图案是符合设定条件的弱纹理表面;否则确定所述目标物的表面图案不是符合设定条件的弱纹理表面。
6.根据权利要求1所述的方法,其中,确定所述目标物的表面图案为符合设定条件的弱纹理表面包括:
根据所述原始图像提取纯色的连通区域;
如果所述连通区域大于设定面积值,则确定所述目标物的表面图案是符合设定条件的弱纹理表面;否则确定所述目标物的表面图案不是符合设定条件的弱纹理表面。
7.根据权利要求1所述的方法,其中,所述多视角特征匹配算法为MVS算法;所述神经辐射场算法为NeRF算法。
8.一种三维重建装置,包括:
图像获取模块,用于获取针对目标物从至少两个视角采集到的原始图像;所述原始图像为像素级别的三原色RGB图像;
数据获取模块,用于根据各所述原始图像,采用神经辐射场算法进行三维重建,以基于重建结果获取所述目标物的第一表面数据;
确定模块,用于如果确定所述目标物的表面图案为符合设定条件的弱纹理表面,则采用所述第一表面数据,作为多视角特征匹配算法的初始表面数据;
模型获取模块,用于基于所述初始表面数据,根据各所述原始图像,采用所述多视角特征匹配算法进行三维重建,以获取所述目标物的三维重建模型;
其中,所述确定模块包括:
像素值确定单元,用于采用所述第一表面数据中的像素值,作为所述多视角特征匹配算法的初始表面数据中的像素值。
9.根据权利要求8所述的装置,所述模型获取模块包括:
更新单元,用于基于所述初始表面数据中的像素值,采用所述多视角特征匹配算法进行关键像素的选择,并基于所述关键像素向相邻像素进行像素值传播,以更新表面数据;
检测单元,用于根据各所述原始图像,对更新表面数据进行一致性检测;
迭代执行单元,用于根据一致性检测结果,迭代更新表面数据,重复执行关键像素选择和像素值传播的操作,直至达到一致性检测条件。
10.根据权利要求8所述的装置,所述确定模块还包括:
数据获取单元,用于根据各所述原始图像,采用多视角特征匹配算法进行三维重建,以基于重建结果获取所述目标物的第二表面数据;
识别单元,用于采用第一表面数据和第二表面数据识别所述目标物的表面图案是否为符合设定条件的弱纹理表面。
11.根据权利要求10所述的装置,所述装置还包括:
模型确定模块,用于如果识别确定所述目标物的表面图案不是符合设定条件的弱纹理表面之后,将根据各所述原始图像,采用多视角特征匹配算法进行三维重建之后得到的重建结果,作为所述目标物的三维重建模型。
12.根据权利要求10所述的装置,所述识别单元包括:
计算子单元,用于以第一表面数据为参考表面,计算所述第二表面数据相对于所述第一表面数据的表面完整度;
确定子单元,用于如果所述表面完整度小于设定阈值,则确定所述目标物的表面图案是符合设定条件的弱纹理表面;否则确定所述目标物的表面图案不是符合设定条件的弱纹理表面。
13.根据权利要求8所述的装置,所述确定模块还包括:
提取单元,用于根据所述原始图像提取纯色的连通区域;
图案确定单元,用于如果所述连通区域大于设定面积值,则确定所述目标物的表面图案是符合设定条件的弱纹理表面;否则确定所述目标物的表面图案不是符合设定条件的弱纹理表面。
14.根据权利要求8所述的装置,其中,所述多视角特征匹配算法为MVS算法;所述神经辐射场算法为NeRF算法。
15. 一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210950651.1A CN115330940B (zh) | 2022-08-09 | 2022-08-09 | 一种三维重建方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210950651.1A CN115330940B (zh) | 2022-08-09 | 2022-08-09 | 一种三维重建方法、装置、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115330940A CN115330940A (zh) | 2022-11-11 |
CN115330940B true CN115330940B (zh) | 2023-05-23 |
Family
ID=83921145
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210950651.1A Active CN115330940B (zh) | 2022-08-09 | 2022-08-09 | 一种三维重建方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115330940B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116152442B (zh) * | 2023-03-30 | 2023-09-08 | 北京数原数字化城市研究中心 | 一种三维点云模型生成方法及装置 |
CN116228994B (zh) * | 2023-05-09 | 2023-08-01 | 腾讯科技(深圳)有限公司 | 三维模型获取方法、装置、设备及存储介质 |
CN116580212B (zh) * | 2023-05-16 | 2024-02-06 | 北京百度网讯科技有限公司 | 图像生成方法、图像生成模型的训练方法、装置和设备 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113689540A (zh) * | 2021-07-22 | 2021-11-23 | 清华大学 | 基于rgb视频的物体重建方法和装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022133445A1 (en) * | 2020-12-14 | 2022-06-23 | Raxium, Inc. | Methods and systems for rendering view-dependent images using 2d images |
CN113160420A (zh) * | 2021-05-17 | 2021-07-23 | 上海商汤临港智能科技有限公司 | 一种三维点云重建的方法、装置、电子设备及存储介质 |
CN113628348B (zh) * | 2021-08-02 | 2024-03-15 | 聚好看科技股份有限公司 | 一种确定三维场景中视点路径的方法及设备 |
CN114219001A (zh) * | 2021-11-04 | 2022-03-22 | 华为技术有限公司 | 一种模型融合方法及相关装置 |
CN114067051A (zh) * | 2021-11-16 | 2022-02-18 | 百度在线网络技术(北京)有限公司 | 三维重建处理方法、装置、电子设备以及存储介质 |
CN114004941B (zh) * | 2022-01-04 | 2022-08-16 | 苏州浪潮智能科技有限公司 | 一种基于神经辐射场的室内场景三维重建***及方法 |
CN114494589A (zh) * | 2022-01-14 | 2022-05-13 | 广州极飞科技股份有限公司 | 三维重建方法、装置、电子设备和计算机可读存储介质 |
-
2022
- 2022-08-09 CN CN202210950651.1A patent/CN115330940B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113689540A (zh) * | 2021-07-22 | 2021-11-23 | 清华大学 | 基于rgb视频的物体重建方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115330940A (zh) | 2022-11-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115330940B (zh) | 一种三维重建方法、装置、设备和介质 | |
CN113362444B (zh) | 点云数据的生成方法、装置、电子设备及存储介质 | |
US9659408B2 (en) | Mesh reconstruction from heterogeneous sources of data | |
US20170243352A1 (en) | 3-dimensional scene analysis for augmented reality operations | |
CN112989995B (zh) | 文本检测方法、装置及电子设备 | |
CN114067051A (zh) | 三维重建处理方法、装置、电子设备以及存储介质 | |
CN112270745B (zh) | 一种图像生成方法、装置、设备以及存储介质 | |
CN115439543B (zh) | 孔洞位置的确定方法和元宇宙中三维模型的生成方法 | |
CN112528858A (zh) | 人体姿态估计模型的训练方法、装置、设备、介质及产品 | |
CN115578515B (zh) | 三维重建模型的训练方法、三维场景渲染方法及装置 | |
CN115375823B (zh) | 三维虚拟服饰生成方法、装置、设备及存储介质 | |
CN108388901B (zh) | 基于空间-语义通道的协同显著目标检测方法 | |
US20230115765A1 (en) | Method and apparatus of transferring image, and method and apparatus of training image transfer model | |
CN115375847B (zh) | 材质恢复方法、三维模型的生成方法和模型的训练方法 | |
CN115222895B (zh) | 图像生成方法、装置、设备以及存储介质 | |
EP4086853A2 (en) | Method and apparatus for generating object model, electronic device and storage medium | |
Kong et al. | Effective 3d face depth estimation from a single 2d face image | |
CN112991451B (zh) | 图像识别方法、相关装置及计算机程序产品 | |
CN113191207B (zh) | 一种基于多视角特征的工件识别方法和装置 | |
CN115273184A (zh) | 人脸活体检测模型训练方法及装置 | |
CN115019057A (zh) | 图像特征提取模型确定方法及装置、图像识别方法及装置 | |
CN114842066A (zh) | 图像深度识别模型训练方法、图像深度识别方法及装置 | |
CN114037865B (zh) | 图像处理方法、装置、设备、存储介质和程序产品 | |
CN115205939B (zh) | 人脸活体检测模型训练方法、装置、电子设备及存储介质 | |
CN117351303A (zh) | 目标检测模型的训练方法、目标检测方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |