CN115880435A - 图像重建方法、模型训练方法、装置、电子设备和介质 - Google Patents
图像重建方法、模型训练方法、装置、电子设备和介质 Download PDFInfo
- Publication number
- CN115880435A CN115880435A CN202211652402.0A CN202211652402A CN115880435A CN 115880435 A CN115880435 A CN 115880435A CN 202211652402 A CN202211652402 A CN 202211652402A CN 115880435 A CN115880435 A CN 115880435A
- Authority
- CN
- China
- Prior art keywords
- image
- sampling
- depth range
- depth
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
本公开提供了一种图像重建方法、模型训练方法、装置、电子设备和介质,涉及人工智能领域,尤其涉及计算机视觉、增强现实、虚拟现实、深度学习等技术领域,可应用于智慧城市、元宇宙等场景。具体实现方案为:获取第一位姿信息;基于第一位姿信息,确定待重建图像所对应的多条射线的第一深度范围;将多条射线的深度转换至第二深度范围内,其中,第二深度范围的最大值小于第一深度范围中的最大值;对每条射线进行采样,得到第一采样数据集;将第一采样数据集和多条射线的方向信息输入预先训练得到的第一目标模型进行图像重建,得到第一目标模型输出的待重建图像。本公开可以提高图像的重建效果。
Description
技术领域
本公开涉及人工智能领域,尤其涉及计算机视觉、增强现实、虚拟现实、深度学习等技术领域,可应用于智慧城市、元宇宙等场景。具体涉及一种图像重建方法、模型训练方法、装置、电子设备和介质。
背景技术
相关技术中,在许多场景下需要用到三维重建技术对特定场所的进行图像重建。具体而言,相关技术中的重建方法通常基于是拍摄得到的多张特定场所中的不同视角的图像,采用三维重建技术对该特定场所中任意视角的图像进行重建。
发明内容
本公开提供了一种图像重建方法、模型训练方法、装置、电子设备和介质
根据本公开的第一方面,提供了一种图像重建方法,包括:
获取第一位姿信息;
基于所述第一位姿信息,确定待重建图像所对应的多条射线的第一深度范围,所述多条射线与所述待重建图像中的多个像素点一一对应,且所述多条射线的深度位于所述第一深度范围内;
将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据,每条射线对应多个采样数据;
将所述第一采样数据集和所述多条射线的方向信息输入预先训练得到的第一目标模型进行图像重建,得到所述第一目标模型输出的所述待重建图像。
根据本公开的第二方面,提供了一种模型训练方法,包括:
获取训练数据和所述训练数据所对应的第一位姿信息,其中,所述训练数据包括对第一区域进行采集得到的第一样本图像,所述第一位姿信息包括图像采集设备在采集所述第一样本图像时的位姿;
基于所述第一位姿信息,确定所述第一样本图像所对应的多条射线的第一深度范围,其中,所述多条射线与所述第一样本图像中的多个像素点一一对应;
将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据;
基于所述训练数据和所述第一采样数据集对预先构建的三维重建模型进行训练,得到第一目标模型,其中,所述第一目标模型用于重建所述第一区域的图像内容。
根据本公开的第三方面,提供了一种图像重建装置,包括:
获取模块,用于获取第一位姿信息;
确定模块,用于基于所述第一位姿信息,确定待重建图像所对应的多条射线的第一深度范围,所述多条射线与所述待重建图像中的多个像素点一一对应,且所述多条射线的深度位于所述第一深度范围内;
转换模块,用于将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
采样模块,用于在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据,每条射线对应多个采样数据;
重建模块,用于将所述第一采样数据集和所述多条射线的方向信息输入预先训练得到的第一目标模型进行图像重建,得到所述第一目标模型输出的所述待重建图像。
根据本公开的第四方面,提供了一种模型训练装置,包括:
获取模块,用于获取训练数据和所述训练数据所对应的第一位姿信息,其中,所述训练数据包括对第一区域进行采集得到的第一样本图像,所述第一位姿信息包括图像采集设备在采集所述第一样本图像时的位姿;
确定模块,用于基于所述第一位姿信息,确定所述第一样本图像所对应的多条射线的第一深度范围,其中,所述多条射线与所述第一样本图像中的多个像素点一一对应;
转换模块,用于将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
采样模块,用于在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据;
训练模块,用于基于所述训练数据和所述第一采样数据集对预先构建的三维重建模型进行训练,得到第一目标模型,其中,所述第一目标模型用于重建所述第一区域的图像内容。
根据本公开的第五方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述第一方面或第二方面所述的方法。
根据本公开的第六方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述第一方面或第二方面所述的方法。
根据本公开的第七方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现第一方面或第二方面所述的方法。
本公开实施例中,由于第二深度范围的最大值小于第一深度范围中的最大值,因此,通过将射线的深度范围从第一深度范围转换至第二深度范围,有利于缩小采样的范围,这样,可以提高采样的效果,进而可以提高图像的重建效果。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开实施例提供的一种图像重建方法的流程图;
图2是本公开实施例提供的一种模型训练方法的流程图之一;
图3是本公开实施例提供的一种模型训练方法的流程图之二;
图4是本公开实施例提供的一种图像重建装置的结构示意图;
图5是本公开实施例提供的一种采样模块的结构示意图;
图6是本公开实施例提供的一种转换模块的结构示意图;
图7是本公开实施例提供的一种模型训练装置的结构示意图;
图8是本公开实施例提供的一种训练模块的结构示意图;
图9是本公开实施例提供的一种获取模块的结构示意图;
图10本公开实施例提供的用于实现图像重建方法,或者,模型训练方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
请参见图1,图1为本公开实施例提供的一种图像重建方法,所述图像重建方法包括以下步骤:
步骤S101、获取第一位姿信息;
步骤S102、基于所述第一位姿信息,确定待重建图像所对应的多条射线的第一深度范围,所述多条射线与所述待重建图像中的多个像素点一一对应,且所述多条射线的深度位于所述第一深度范围内;
步骤S103、将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
步骤S104、在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据,每条射线对应多个采样数据;
步骤S105、将所述第一采样数据集和所述多条射线的方向信息输入预先训练得到的第一目标模型进行图像重建,得到所述第一目标模型输出的所述待重建图像。
相关技术中,在许多场景下均需要用到图像重建技术对图像进行重建,例如,在自动驾驶仿真测试场景中,需要对仿真车辆实时位置的场景图像进行重建。
相关技术中的重建方法主要是:通过获取某一待重建地点部分视角的图像,对重建模型进行训练,以通过重建模型自动生成该地点其他视角的图像。该过程中重建模型主要采用射线采样的方式进行重建,其中,所述射线可以视为待重建视角下,图像采集设备的发出的射线,其中,每一条射线对应待重建的图像中的一个像素点。相关技术中,通常需要在一条射线中选取多个采样点进行采样,以得到该射线对应的采样数据,并基于该射线对应的采样数据对该射线对应的像素点进行重建。
相关技术中对射线的采样方式主要包括正深度采样和逆深度采样。其中,正深度采样的方式为:沿射线的深度方向进行等间距采样,例如,在射线深度为1000m,每隔10m设置一个采样点。然而,当射线为无线长的射线时,若采用正深度采样方式,则需要采样无数个采样点,显然无法采用正深度采样方式进行采样。
基于此,相关技术中提出了逆深度采样,即采用深度的导数作为采样点,即当深度为无穷大时,采样点趋近于0,以确保能够对各个深度范围进行采样。然而,逆深度采样的方式存在过于关注近景,对远景的采样很少的问题,例如,当深度范围为100m时,若需采样100个采样点,则采样位置分别为:100/1、100/2、…、100/100。由于100/1=100,其表征的含义是:在100m深度处设置一个采样点,100/2=50其表征的含义是:在50m深度处设置一个采样点。显然,采样此种方式,当需要在100m范围之内采样100个点时,在50m至100m之间仅存在2个采样点,而在50m范围之内存在98个采样点,这将导致采样过程忽视对远处的采样,进而导致采样效果差的问题。
基于此,本公开实施例通过将射线的深度范围映射至一个相对较小的深度范围,然后,由于深度范围较小时,可以做到相对均匀的采样,从而有利于提高采样的效果。
上述第一位姿信息可以包括待重建视角下,重建起点的位置和姿态信息。该重建起点的位置和姿态信息可以视为:对待重建视角进行图像采集时,图像采集设备的位置和姿态信息。
上述待重建图像可以是所述第一位姿信息所指示的视角下第一区域中的图像,相应地,上述第一目标模型为预先训练得到的用于对所述第一区域进行图像重建的三维图像重建模型。所述第一区域可以是任意空间区域,例如,可以是特定位置的街景等特定地点的空间区域。
上述多条射线分别对应所述待重建图像中的多个像素点,且针对每条射线进行采样得到的采样数据,用于对该射线对应的像素点进行重建。
上述第一深度范围可以是所述多条射线中,所有射线的深度的取值范围,其中,所射线的深度即射线的长度。即将所述多条射线中,深度值最小的射线的深度值确定为所述第一深度范围中的最小值;同时,将所述多条射线中,深度值最大的射线的深度值确定为所述第一深度范围中的最大值。
上述第二深度范围可以是预先设置的一个有限的取值空间,且所述第二深度范围中的最大值小于所述第一深度范围中的最大值,如此,有利于缩小采样过程中的深度范围。例如,所述第二深度范围可以是0至1之间的范围,在此情况下,可以对所述多条射线的深度值进行归一化,从而将所述多条射线的深度转换至第二深度范围内。此外,上述第二深度范围也可以是其他优先的范围,例如,可以是0至10之间的范围,或者,还可以是0至100之间的范围等。下文以所述第二深度范围为0至1之间的范围为例,对公开提供的图像重建方法作进一步的解释说明。
具体地,在将所述多条射线转换至0至1之间的取值空间之后,每条射线的深度均小于或等于1,如此,针对任意一条深度小于或等于1的射线可以采用相关技术中的采样手段进行采样。例如,针对深度为1的射线需要采样N+1个采样点时,可以选取如下位置点作为采样点:其中,所述N为大于等于1的整数。可以理解的是,在确定位于第二深度范围所对应的取值空间中的采样点之后,可以将采样点的深度映射回所述第一深度范围所对应的取值空间,以便于后续基于采样点进行图像重建。
上述第一目标模型可以是基于相关技术中的三维重建技术训练得到的三维重建模型,例如,所述第一目标模型可以是通过三维重建技术对多层感知器(Multi-LayerPerception,MLP)进行训练得到的模型。且所述第一目标模型的图像重建过程与相关技术中的模型进行图像重建的过程类似。具体地,所述第一目标模型的训练过程与图像重建原理可以与相关技术中的神经辐射场(NeRF)神经网络类似。
在本公开一个实施例中,所述第一目标模型的重建图像的过程可以为:第一目标模型基于每条射线的采样数据和该射线的方向,可以计算出该射线中每个采样点的密度和颜色信息,然后,利于体素渲染的方式,得到该射线投影到成像平面的像素值,该像素值即为该射线所对应的待重建的像素点的像素值。如下,通过按照上述方式分别计算出每条射线所对应的像素点的像素值,即可生成所述待重建图像。
此外,在本公开实施例中,可以预先确定所述第一区域中,图像采集设备的位姿信息与深度范围之间的对应关系,如此,在获取到所述第一位姿信息时,可以根据所述对应关系,确定所述第一位姿信息所对应的第一深度范围。或者,也可以基于相关技术中的深度估计方法,利用已知的位姿信息与深度范围之间的对应关系,预测未知的姿态信息所对应的深度范围。
该实施方式中,由于第二深度范围的最大值小于第一深度范围中的最大值,因此,通过将射线的深度范围从第一深度范围转换至第二深度范围,有利于缩小采样的范围,这样,可以提高采样的效果,进而可以提高图像的重建效果。
可选地,所述在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,包括:
在所述第二深度范围内,对每条射线进行均匀采样,得到多个初始采样数据,所述多个初始采样数据与所述多个采样数据一一对应,且所述初始采样数据包括所对应的采样点的深度值,所述深度值位于所述第二深度范围;
将所述多个初始采样数据中,每个采样点的深度值转换至所述第一深度范围内的深度值,得到所述多个采样数据。
在本公开一个实施例中,若上述第一深度范围为0至+∞,而所述第二深度范围为0至1,则可以通过预先设置一个映射函数,将所述多条射线从所述第一深度范围映射至所述第二深度范围,然后,在第二深度范围内确定N+1个采样点的位置,在确定N+1个采样点的位置之后,通过另一映射函数将位于第二深度范围内的N+1个采样点映射回所述第一深度范围。
为了便于理解,下文以一个简单的实施例,对上述射线的深度转换过程作进一步的解释说明。例如,假设上述第一深度范围为0至10000时,而所述第二深度范围为0至1,在将多条射线的深度范围转换至第二深度范围时,可以对每条射线的深度缩小10000倍;而在对每条射线进行采样确定每条射线在所述第二深度范围内的采样点的深度位置之后,可以将每个采样点的位置放大10000倍,以映射回所述第一深度范围所对应的深度空间,从而实现对射线的采样过程。
该实施方式中,通过先将射线的深度映射至第二深度范围,并在第二深度范围内确定采样点在射线中的位置,然后,在将采样点的位置映射回所述第一深度范围,如此,当所述第一深度范围为无线大的深度范围时,可以确保能够在有限的空间内进行采样,从而提高采样效果。
可选地,所述将所述多条射线的深度转换至第二深度范围内,包括:
确定第一映射函数,其中,所述第一映射参数为基于采样控制函数进行数学运算得到的映射函数,所述采样控制函数为幂函数,且所述幂函数的指数小于0;
基于所述第一映射函数将所述多条射线的深度转换至第二深度范围内。
在本公开一个实施例中,所述第一深度范围为:[tn,tf]所述第一映射函数可以表示为:
其中,g(x)为采样控制函数,该采样控制函数可以表示为g(x)=xp,所述p为所述幂函数的指数,所述x为射线在所述第一深度范围内的深度值,s表示射线在s空间(即第二深度范围)内的深度值。如此,通过上述第一映射函数,可以将所述第一深度范围内的射线的深度归一化到[0,1]。当所述p<0时,可以处理无限远的射线(tf=+∞),然后,在s空间内进行均匀采样:若采样点为N+1个,则s空间内的采样点为最后,可以通过第二映射函数,将所述s空间内的采样点的深度映射回t空间(即映射回所述第一深度范围),所述第二映射函数可以表示为:
t=g-1(sg(tf)+(1-s)g(tn))
在本公开另一个实施例中,上述采样控制参数还可以是其他形式的单调函数,例如,可以为对数函数。
该实施方式中,通过上述第一映射函数和第二映射函数对射线的深度进行映射,以实现上述射线的深度在第一深度范围和第二深度范围之间的相互映射。
可选地,所述确定第一映射函数,包括:
基于预先训练得到的第二目标模型,利用第二位姿信息,对第二样本图像进行迭代重建,得到重建图像,其中,所述第二目标模型为用于对第二区域进行图像重建的三维重建模型,所述第二位姿信息包括:在所述第二区域采集所述第二样本图像时,图像采集设备的位姿;所述迭代重建中的任意一次重建包括:基于所述第二位姿信息和初始映射函数在所述第二深度范围内进行采样,得到第二采样数据集,并将所述第二采样数据集输入所述第二目标模型进行图像重建;所述初始映射函数用于将深度范围转换至所述第二深度范围;
在目标重建图像与所述第二样本图像的相似度大于预设阈值的情况下,将目标映射函数确定为所述第一映射函数,其中,所述目标重建图像为所述迭代重建过程中得到的重建图像,且所述目标映射函数为用于重建所述目标重建图像的初始映射函数。
上述第二目标模型可以是预训练的神经渲染模型,如基于学习的多视角图像渲染(IBRNet)模型。上述第二区域可以是所述第一区域,或者,所述第二区域也可以是所述第一区域之外的其他区域。
上述初始映射函数可以表示为:
g(x)=xp
其中,进行迭代重建的过程中,每次迭代重建可以选择一个p的取值,然后,基于上述实施例中的采样方法和第二位姿信息进行采样,得到采样数据集,并基于所述第二目标模型根据采样数据集对所述第二样本图像进行重建,在每次重建得到重建图像之后,基于相关技术中的手段计算该重建图像与第二样本图像之间的相似度,在相似度小于或等于所述预设阈值时;对所述初始映射函数中的p的取值进行更新,再次重复上述过程,直至所述目标重建图像与所述第二样本图像的相似度大于预设阈值,将所述目标映射函数确定为所述第一映射函数。从而有利于提高所确定的第一映射函数的效果。
该实施方式中,通过基于预先训练得到的第二目标模型,利用第二位姿信息,对第二样本图像进行迭代重建,有利于提高确定的第一映射函数的效果,如此,可以提高本公开提供的图像重建方法采样过程中的采样效果,进而提高图像重建的效果。
可选地,所述初始映射函数为基于所述采样控制函数进行数学运算得到的映射函数,所述迭代重建的过程中,不同次迭代重建,所对应的所述初始映射函数中的幂函数的指数不同。
该实施方式中,由于上述第一映射函数中幂函数的指数的取值不同时,基于上述实施例提供的采样方法的采样效果可能不同,因此,可以通过预先训练得到的第二目标模型,对第一映射函数中的幂函数的指数进行优选,以得到能够提高图像重建效果的第一映射函数。上述第二目标模型的图像重建过程与上述第一目标模型的图像重建过程类似,为避免重复,在此不再予以赘述。
可选地,所述第二深度范围为0至1之间的范围。
该实施方式中,由于所述第二深度范围为0至1之间,因此,可以采用相关技术中的归一化算法直接对所述多条射线的深度进行归一化。同时,由于0至1之间的取值范围较小,因此,可以采用各种采样方法在对所述射线进行采样,从而提高采样效果,进而提高图像重建的效果。
请参见图2,图2为本公开实施例提供的一种模型训练方法的流程示意图,所述模型训练方法包括以下步骤:
步骤S201、获取训练数据和所述训练数据所对应的第一位姿信息,其中,所述训练数据包括对第一区域进行采集得到的第一样本图像,所述第一位姿信息包括图像采集设备在采集所述第一样本图像时的位姿;
步骤S202、基于所述第一位姿信息,确定所述第一样本图像所对应的多条射线的第一深度范围,其中,所述多条射线与所述第一样本图像中的多个像素点一一对应;
步骤S203、将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
步骤S204、在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据;
步骤S205、基于所述训练数据和所述第一采样数据集对预先构建的三维重建模型进行训练,得到第一目标模型,其中,所述第一目标模型用于重建所述第一区域的图像内容。
可以理解的是,上述实施例中的第一目标模型可以是采用本公开实施例中提供的模型训练方法训练得到的模型。
其中,步骤S201至步骤S204为与上述实施例中的步骤S101至步骤S104对应的步骤,其具体实现过程与上述实施例类似,且能够实现相同的有益效果,为避免重复,在此不再予以赘述。
上述步骤S205中可以采用相关技术中的模型训练方法对所述三维重建模型进行训练,得到所述第一目标模型,例如,可以采用神经辐射场(NeRF)神经网络的训练方法训练所述三维重建模型。
该实施方式中,由于第二深度范围的最大值小于第一深度范围中的最大值,因此,通过将射线的深度范围从第一深度范围转换至第二深度范围,有利于缩小采样的范围,这样,可以提高采样的效果,进而提高模型的训练效果。
可选地,所述基于所述训练数据和所述第一采样数据集对预先构建的三维重建模型进行训练,得到第一目标模型,包括:
将所述第一采样数据集和所述多条射线的方向信息输入所述三维重建模型进行图像重建,得到所述三维重建模型输出的重建图像;
基于所述重建图像和所述第一样本图像,对所述三维重建模型进行参数优化,得到所述第一目标模型。
具体地,可以采用所述三维重建模型基于所述第一采样数据集和所述多条射线的方向信息对所述第一样本图像进行重建,得到重建图像,然后,通过比较重建图像与第一样本图像之间的差值,以确定模型的损失,并基于所确定的模型的损失对所述三维重建模型进行参数优化,以完成所述三维重建模型的训练过程。
可以理解的是,在本公开实施例中,可以获取多个训练数据对所述三维重建模型进行训练,以得到所述第一目标模型。其中,所述多个训练数据与多张第一样本图像一一对应,且所述多张第一样本图像为在所述第一区域采用不同的位姿信息进行图像采集得到的多张图像。
该实施方式中,通过将所述第一采样数据集和所述多条射线的方向信息输入所述三维重建模型进行图像重建,得到所述三维重建模型输出的重建图像;然后,基于所述重建图像和所述第一样本图像,对所述三维重建模型进行参数优化,得到所述第一目标模型,从而实现对所述三维重建模型的训练过程。
可选地,所述训练数据还包括所述第一样本图像中,每个像素点的真实深度值;所述三维重建模型还用于输出所述重建图像中每个像素点的预测深度值;所述基于所述重建图像和所述第一样本图像,对所述三维重建模型进行参数优化,得到所述第一目标模型,包括:
基于所述重建图像、所述第一样本图像、所述真实深度值和所述预测深度值构建损失函数;
利用所述损失函数对所述三维重建模型进行参数优化,得到所述第一目标模型。
具体地,上述三维重建模型在基于所述第一采样数据集和所述多条射线的方向信息计算得到所述重建图像中每个像素点的密度和颜色信息之后,还可以进一步利用体素算法基于所述密度和采样点的深度,估计所述采样点所述射线的深度,其中,所述射线的估计深度即为所述像素点的估计深度。由于所述三维重建模型除了可以输出每个像素点的像素值之外,还可以输出该像素点的深度值,而该像素点所对应的射线的方向已知,因此,可以确定每个像素点在三维空间内的坐标,从而实现三维图像的重建过程。
该实施方式中,通过基于所述重建图像、所述第一样本图像、所述真实深度值和所述预测深度值构建损失函数,如此,有利于提高训练得到的第一目标模型对像素值和像素点的深度进行预测的准确性。进而有利于提高基于第一目标模型进行图像重建的质量。
可选地,所述获取训练数据和所述训练数据所对应的第一位姿信息,包括:
获取所述初始样本图像;
去除所述初始样本图像中的可运动对象,得到所述第一样本图像;
基于预设三维重建方法对所述第一样本图像进行位姿预测和深度预测,得到所述第一位姿信息,以及,得到所述第一样本图像中,每个像素点的真实深度值。
上述初始样本图像可以是利用图像采集设备在第一位置信息所指示的位姿时,对所述第一区域进行拍摄得到的图像。所述可运动对象可以是拍摄所述初始样本图像时,所述第一区域中的行人、车辆等动态变化的对象。在进行图像重建时,通常不需要对这类动态变化的对象进行重建,因此,在生成用于训练所述三维重建模型的样本时,可以去除所述初始样本图像中的可运动对象。
具体地,可以采用相关技术中的语义分割技术去除所述初始样本图像中的可运动对象,例如,可以通过图像识别模型识别所述初始样本图像中的可运动对象,然后,将所述初始样本图像中的可运动对象从所述初始样本图像中分离,以得到所述第一样本图像。
上述预设三维重建方法可以是相关技术中常见的三维重建方法,例如,可以是开源的三维重建的框架(Colmap),如此,可以通过Colmap估计每张第一样本图像的位姿信息和第一样本图像中各个像素点的深度,从而得到所述训练数据和所述第一位姿信息。
该实施方式中,通过去除样本图像中的可运动对象,从而可以避免对运动对象对三维重建模型的训练过程的干扰,同时,通过基于预设三维重建方法对所述第一样本图像进行位姿预测和深度预测,以实现所述训练数据和第一位姿信息的获取过程。
请参见图3,图3为本公开另一实施例提供的模型训练方法的流程示意图,所述模型训练方法包括以下步骤:
对第一区域中的街景图像进行采集;
数据预处理:去除街景图像中的可运动对象,得到第一样本图像;对第一样本图像进行位姿估计和深度估计,得到训练数据和第一位姿信息。
确定射线采样控制函数:具体包括确定采用控制函数形式,确定采样点,以及,调节射线采样方式,以完成采样过程,得到第一采样数据集。
然后,基于采样数据对神经渲染模型进行训练,得到第一目标模型。
最后,可以利用所述第一目标模型对所述第一区域的各种视角的街景图像进行重建。
请参见图4,图4为本公开实施例提供的一种图像重建装置400的结构示意图,所述图像重建装置400,包括:
获取模块401,用于获取第一位姿信息;
确定模块402,用于基于所述第一位姿信息,确定待重建图像所对应的多条射线的第一深度范围,所述多条射线与所述待重建图像中的多个像素点一一对应,且所述多条射线的深度位于所述第一深度范围内;
转换模块403,用于将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
采样模块404,用于在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据,每条射线对应多个采样数据;
重建模块405,用于将所述第一采样数据集和所述多条射线的方向信息输入预先训练得到的第一目标模型进行图像重建,得到所述第一目标模型输出的所述待重建图像。
可选地,请参见图5为本公开实施例中提供的采样模块500的结构示意图,其中,所述采样模块500可以用作图4中的采样模块404,采样模块500包括:
采样子模块501,用于在所述第二深度范围内,对每条射线进行均匀采样,得到多个初始采样数据,所述多个初始采样数据与所述多个采样数据一一对应,且所述初始采样数据包括所对应的采样点的深度值,所述深度值位于所述第二深度范围;
第一转换子模块502,用于将所述多个初始采样数据中,每个采样点的深度值转换至所述第一深度范围内的深度值,得到所述多个采样数据。
可选地,请参见图5为本公开实施例中提供的转换模块600的结构示意图,其中,所述转换模块600可以用作图4中的转换模块403,转换模块600包括:
确定子模块601,用于确定第一映射函数,其中,所述第一映射参数为基于采样控制函数进行数学运算得到的映射函数,所述采样控制函数为幂函数,且所述幂函数的指数小于0;
第二转换子模块602,用于基于所述第一映射函数将所述多条射线的深度转换至第二深度范围内。
可选地,所述确定子模块601,具体用于基于预先训练得到的第二目标模型,利用第二位姿信息,对第二样本图像进行迭代重建,得到重建图像,其中,所述第二目标模型为用于对第二区域进行图像重建的三维重建模型,所述第二位姿信息包括:在所述第二区域采集所述第二样本图像时,图像采集设备的位姿;所述迭代重建中的任意一次重建包括:基于所述第二位姿信息和初始映射函数在所述第二深度范围内进行采样,得到第二采样数据集,并将所述第二采样数据集输入所述第二目标模型进行图像重建;所述初始映射函数用于将深度范围转换至所述第二深度范围;所述迭代重建的过程中;
所述确定子模块601,具体还用于在目标重建图像与所述第二样本图像的相似度大于预设阈值的情况下,将目标映射函数确定为所述第一映射函数,其中,所述目标重建图像为所述迭代重建过程中得到的重建图像,且所述目标映射函数为用于重建所述目标重建图像的初始映射函数。
可选地,所述初始映射函数为基于所述采样控制函数进行数学运算得到的映射函数,所述迭代重建的过程中,不同次迭代重建,所对应的所述初始映射函数中的幂函数的指数不同。
可选地,所述第二深度范围为0至1之间的范围。
需要说明地,本实施例提供的图像重建装置400能够实现上述图像重建方法实施例的全部技术方案,因此至少能够实现上述全部技术效果,此处不再赘述。
请参见图7,图7为本公开实施例提供的一种模型训练装置700的结构示意图,所述模型训练装置,包括:
获取模块701,用于获取训练数据和所述训练数据所对应的第一位姿信息,其中,所述训练数据包括对第一区域进行采集得到的第一样本图像,所述第一位姿信息包括图像采集设备在采集所述第一样本图像时的位姿;
确定模块702,用于基于所述第一位姿信息,确定所述第一样本图像所对应的多条射线的第一深度范围,其中,所述多条射线与所述第一样本图像中的多个像素点一一对应;
转换模块703,用于将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
采样模块704,用于在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据;
训练模块705,用于基于所述训练数据和所述第一采样数据集对预先构建的三维重建模型进行训练,得到第一目标模型,其中,所述第一目标模型用于重建所述第一区域的图像内容。
可选地,请参见图8为本公开实施例中提供的训练模块800的结构示意图,其中,所述训练模块800可以用作图7中的训练模块705,所述训练模块800,包括:
重建子模块801,用于将所述第一采样数据集和所述多条射线的方向信息输入所述三维重建模型进行图像重建,得到所述三维重建模型输出的重建图像;
优化子模块802,用于基于所述重建图像和所述第一样本图像,对所述三维重建模型进行参数优化,得到所述第一目标模型。
可选地,所述训练数据还包括所述第一样本图像中,每个像素点的真实深度值;所述三维重建模型还用于输出所述重建图像中每个像素点的预测深度值;
所述优化子模块802,具体用于基于所述重建图像、所述第一样本图像、所述真实深度值和所述预测深度值构建损失函数;
所述优化子模块802,具体还用于利用所述损失函数对所述三维重建模型进行参数优化,得到所述第一目标模型。
可选地,请参见图9为本公开实施例中提供的获取模块900的结构示意图,其中,所述获取模块900可以用作图7中的获取模块701,所述获取模块900,包括:
获取子模块901,用于获取所述初始样本图像;
去除子模块902,用于去除所述初始样本图像中的可运动对象,得到所述第一样本图像;
预测子模块903,用于基于预设三维重建方法对所述第一样本图像进行位姿预测和深度预测,得到所述第一位姿信息,以及,得到所述第一样本图像中,每个像素点的真实深度值。
需要说明地,本实施例提供的模型训练装置800能够实现上述模型训练方法实施例的全部技术方案,因此至少能够实现上述全部技术效果,此处不再赘述。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示,电子设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
电子设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006,例如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如图像重建方法,或者,模型训练方法。例如,在一些实施例中,图像重建方法可被实现为计算机软件程序,相应地,模型训练方法也可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,执行上文描述的图像重建方法的一个或多个步骤,或者,模型训练方法的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图像重建方法,或者,执行模型训练方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (21)
1.一种图像重建方法,包括:
获取第一位姿信息;
基于所述第一位姿信息,确定待重建图像所对应的多条射线的第一深度范围,所述多条射线与所述待重建图像中的多个像素点一一对应,且所述多条射线的深度位于所述第一深度范围内;
将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据,每条射线对应多个采样数据;
将所述第一采样数据集和所述多条射线的方向信息输入预先训练得到的第一目标模型进行图像重建,得到所述第一目标模型输出的所述待重建图像。
2.根据权利要求1所述的方法,其中,所述在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,包括:
在所述第二深度范围内,对每条射线进行均匀采样,得到多个初始采样数据,所述多个初始采样数据与所述多个采样数据一一对应,且所述初始采样数据包括所对应的采样点的深度值,所述深度值位于所述第二深度范围;
将所述多个初始采样数据中,每个采样点的深度值转换至所述第一深度范围内的深度值,得到所述多个采样数据。
3.根据权利要求1所述的方法,其中,所述将所述多条射线的深度转换至第二深度范围内,包括:
确定第一映射函数,其中,所述第一映射参数为基于采样控制函数进行数学运算得到的映射函数,所述采样控制函数为幂函数,且所述幂函数的指数小于0;
基于所述第一映射函数将所述多条射线的深度转换至第二深度范围内。
4.根据权利要求3所述的方法,其中,所述确定第一映射函数,包括:
基于预先训练得到的第二目标模型,利用第二位姿信息,对第二样本图像进行迭代重建,得到重建图像,其中,所述第二目标模型为用于对第二区域进行图像重建的三维重建模型,所述第二位姿信息包括:在所述第二区域采集所述第二样本图像时,图像采集设备的位姿;所述迭代重建中的任意一次重建包括:基于所述第二位姿信息和初始映射函数在所述第二深度范围内进行采样,得到第二采样数据集,并将所述第二采样数据集输入所述第二目标模型进行图像重建;所述初始映射函数用于将深度范围转换至所述第二深度范围;
在目标重建图像与所述第二样本图像的相似度大于预设阈值的情况下,将目标映射函数确定为所述第一映射函数,其中,所述目标重建图像为所述迭代重建过程中得到的重建图像,且所述目标映射函数为用于重建所述目标重建图像的初始映射函数。
5.根据权利要求4所述的方法,其中,所述初始映射函数为基于所述采样控制函数进行数学运算得到的映射函数,所述迭代重建的过程中,不同次迭代重建,所对应的所述初始映射函数中的幂函数的指数不同。
6.一种模型训练方法,包括:
获取训练数据和所述训练数据所对应的第一位姿信息,其中,所述训练数据包括对第一区域进行采集得到的第一样本图像,所述第一位姿信息包括图像采集设备在采集所述第一样本图像时的位姿;
基于所述第一位姿信息,确定所述第一样本图像所对应的多条射线的第一深度范围,其中,所述多条射线与所述第一样本图像中的多个像素点一一对应;
将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据;
基于所述训练数据和所述第一采样数据集对预先构建的三维重建模型进行训练,得到第一目标模型,其中,所述第一目标模型用于重建所述第一区域的图像内容。
7.根据权利要求6所述的方法,其中,所述基于所述训练数据和所述第一采样数据集对预先构建的三维重建模型进行训练,得到第一目标模型,包括:
将所述第一采样数据集和所述多条射线的方向信息输入所述三维重建模型进行图像重建,得到所述三维重建模型输出的重建图像;
基于所述重建图像和所述第一样本图像,对所述三维重建模型进行参数优化,得到所述第一目标模型。
8.根据权利要求7所述的方法,其中,所述训练数据还包括所述第一样本图像中,每个像素点的真实深度值;所述三维重建模型还用于输出所述重建图像中每个像素点的预测深度值;所述基于所述重建图像和所述第一样本图像,对所述三维重建模型进行参数优化,得到所述第一目标模型,包括:
基于所述重建图像、所述第一样本图像、所述真实深度值和所述预测深度值构建损失函数;
利用所述损失函数对所述三维重建模型进行参数优化,得到所述第一目标模型。
9.根据权利要求6所述的方法,其中,所述获取训练数据和所述训练数据所对应的第一位姿信息,包括:
获取初始样本图像;
去除所述初始样本图像中的可运动对象,得到所述第一样本图像;
基于预设三维重建方法对所述第一样本图像进行位姿预测和深度预测,得到所述第一位姿信息,以及,得到所述第一样本图像中,每个像素点的真实深度值。
10.一种图像重建装置,包括:
获取模块,用于获取第一位姿信息;
确定模块,用于基于所述第一位姿信息,确定待重建图像所对应的多条射线的第一深度范围,所述多条射线与所述待重建图像中的多个像素点一一对应,且所述多条射线的深度位于所述第一深度范围内;
转换模块,用于将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
采样模块,用于在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据,每条射线对应多个采样数据;
重建模块,用于将所述第一采样数据集和所述多条射线的方向信息输入预先训练得到的第一目标模型进行图像重建,得到所述第一目标模型输出的所述待重建图像。
11.根据权利要求10所述的装置,其中,所述采样模块,包括:
采样子模块,用于在所述第二深度范围内,对每条射线进行均匀采样,得到多个初始采样数据,所述多个初始采样数据与所述多个采样数据一一对应,且所述初始采样数据包括所对应的采样点的深度值,所述深度值位于所述第二深度范围;
第一转换子模块,用于将所述多个初始采样数据中,每个采样点的深度值转换至所述第一深度范围内的深度值,得到所述多个采样数据。
12.根据权利要求10所述的装置,其中,所述转换模块,包括:
确定子模块,用于确定第一映射函数,其中,所述第一映射参数为基于采样控制函数进行数学运算得到的映射函数,所述采样控制函数为幂函数,且所述幂函数的指数小于0;
第二转换子模块,用于基于所述第一映射函数将所述多条射线的深度转换至第二深度范围内。
13.根据权利要求12所述的装置,其中,所述确定子模块,具体用于基于预先训练得到的第二目标模型,利用第二位姿信息,对第二样本图像进行迭代重建,得到重建图像,其中,所述第二目标模型为用于对第二区域进行图像重建的三维重建模型,所述第二位姿信息包括:在所述第二区域采集所述第二样本图像时,图像采集设备的位姿;所述迭代重建中的任意一次重建包括:基于所述第二位姿信息和初始映射函数在所述第二深度范围内进行采样,得到第二采样数据集,并将所述第二采样数据集输入所述第二目标模型进行图像重建;所述初始映射函数用于将深度范围转换至所述第二深度范围;
所述确定子模块,具体还用于在目标重建图像与所述第二样本图像的相似度大于预设阈值的情况下,将目标映射函数确定为所述第一映射函数,其中,所述目标重建图像为所述迭代重建过程中得到的重建图像,且所述目标映射函数为用于重建所述目标重建图像的初始映射函数。
14.根据权利要求13所述的装置,其中,所述初始映射函数为基于所述采样控制函数进行数学运算得到的映射函数,所述迭代重建的过程中,不同次迭代重建,所对应的所述初始映射函数中的幂函数的指数不同。
15.一种模型训练装置,包括:
获取模块,用于获取训练数据和所述训练数据所对应的第一位姿信息,其中,所述训练数据包括对第一区域进行采集得到的第一样本图像,所述第一位姿信息包括图像采集设备在采集所述第一样本图像时的位姿;
确定模块,用于基于所述第一位姿信息,确定所述第一样本图像所对应的多条射线的第一深度范围,其中,所述多条射线与所述第一样本图像中的多个像素点一一对应;
转换模块,用于将所述多条射线的深度转换至第二深度范围内,其中,所述第二深度范围的最大值小于所述第一深度范围中的最大值;
采样模块,用于在所述第二深度范围内,对每条射线进行采样,得到第一采样数据集,其中,所述第一采样数据集包括每条射线对应的多个采样数据;
训练模块,用于基于所述训练数据和所述第一采样数据集对预先构建的三维重建模型进行训练,得到第一目标模型,其中,所述第一目标模型用于重建所述第一区域的图像内容。
16.根据权利要求15所述的装置,其中,所述训练模块,包括:
重建子模块,用于将所述第一采样数据集和所述多条射线的方向信息输入所述三维重建模型进行图像重建,得到所述三维重建模型输出的重建图像;
优化子模块,用于基于所述重建图像和所述第一样本图像,对所述三维重建模型进行参数优化,得到所述第一目标模型。
17.根据权利要求15所述的装置,其中,所述训练数据还包括所述第一样本图像中,每个像素点的真实深度值;所述三维重建模型还用于输出所述重建图像中每个像素点的预测深度值;
所述优化子模块,具体用于基于所述重建图像、所述第一样本图像、所述真实深度值和所述预测深度值构建损失函数;
所述优化子模块,具体还用于利用所述损失函数对所述三维重建模型进行参数优化,得到所述第一目标模型。
18.根据权利要求15所述的装置,其中,所述获取模块,包括:
获取子模块,用于获取初始样本图像;
去除子模块,用于去除所述初始样本图像中的可运动对象,得到所述第一样本图像;
预测子模块,用于基于预设三维重建方法对所述第一样本图像进行位姿预测和深度预测,得到所述第一位姿信息,以及,得到所述第一样本图像中,每个像素点的真实深度值。
19.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的图像重建方法,或者,执行权利要求6-9中任一项所述的模型训练方法的步骤。
20.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的图像重建方法,或者,执行权利要求6-9中任一项所述的模型训练方法的步骤。
21.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现权利要求1-5中任一项所述的图像重建方法,或者,实现权利要求6-9中任一项所述的模型训练方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211652402.0A CN115880435B (zh) | 2022-12-21 | 2022-12-21 | 图像重建方法、模型训练方法、装置、电子设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211652402.0A CN115880435B (zh) | 2022-12-21 | 2022-12-21 | 图像重建方法、模型训练方法、装置、电子设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115880435A true CN115880435A (zh) | 2023-03-31 |
CN115880435B CN115880435B (zh) | 2023-10-10 |
Family
ID=85754279
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211652402.0A Active CN115880435B (zh) | 2022-12-21 | 2022-12-21 | 图像重建方法、模型训练方法、装置、电子设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115880435B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116567194A (zh) * | 2023-06-30 | 2023-08-08 | 中国电信股份有限公司 | 虚拟图像合成方法、装置、设备及存储介质 |
CN117274491A (zh) * | 2023-09-22 | 2023-12-22 | 北京百度网讯科技有限公司 | 三维重建模型的训练方法、装置、设备和介质 |
CN117611648A (zh) * | 2023-12-04 | 2024-02-27 | 北京斯年智驾科技有限公司 | 一种图像深度估计方法、***和存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105389569A (zh) * | 2015-11-17 | 2016-03-09 | 北京工业大学 | 一种人体姿态估计方法 |
CN112862006A (zh) * | 2021-03-25 | 2021-05-28 | 北京百度网讯科技有限公司 | 图像深度信息获取模型的训练方法、装置及电子设备 |
CN114549612A (zh) * | 2022-02-25 | 2022-05-27 | 北京百度网讯科技有限公司 | 模型训练和图像处理方法、装置、设备及存储介质 |
CN115147558A (zh) * | 2022-08-31 | 2022-10-04 | 北京百度网讯科技有限公司 | 三维重建模型的训练方法、三维重建方法及装置 |
CN115294275A (zh) * | 2022-08-05 | 2022-11-04 | 珠海普罗米修斯视觉技术有限公司 | 三维模型的重建方法、装置及计算机可读存储介质 |
WO2022257487A1 (zh) * | 2021-06-08 | 2022-12-15 | 北京百度网讯科技有限公司 | 深度估计模型的训练方法, 装置, 电子设备及存储介质 |
CN115496793A (zh) * | 2022-09-27 | 2022-12-20 | 影石创新科技股份有限公司 | 立体匹配方法、装置、计算机设备和存储介质 |
-
2022
- 2022-12-21 CN CN202211652402.0A patent/CN115880435B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105389569A (zh) * | 2015-11-17 | 2016-03-09 | 北京工业大学 | 一种人体姿态估计方法 |
CN112862006A (zh) * | 2021-03-25 | 2021-05-28 | 北京百度网讯科技有限公司 | 图像深度信息获取模型的训练方法、装置及电子设备 |
WO2022257487A1 (zh) * | 2021-06-08 | 2022-12-15 | 北京百度网讯科技有限公司 | 深度估计模型的训练方法, 装置, 电子设备及存储介质 |
CN114549612A (zh) * | 2022-02-25 | 2022-05-27 | 北京百度网讯科技有限公司 | 模型训练和图像处理方法、装置、设备及存储介质 |
CN115294275A (zh) * | 2022-08-05 | 2022-11-04 | 珠海普罗米修斯视觉技术有限公司 | 三维模型的重建方法、装置及计算机可读存储介质 |
CN115147558A (zh) * | 2022-08-31 | 2022-10-04 | 北京百度网讯科技有限公司 | 三维重建模型的训练方法、三维重建方法及装置 |
CN115496793A (zh) * | 2022-09-27 | 2022-12-20 | 影石创新科技股份有限公司 | 立体匹配方法、装置、计算机设备和存储介质 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116567194A (zh) * | 2023-06-30 | 2023-08-08 | 中国电信股份有限公司 | 虚拟图像合成方法、装置、设备及存储介质 |
CN116567194B (zh) * | 2023-06-30 | 2023-12-12 | 中国电信股份有限公司 | 虚拟图像合成方法、装置、设备及存储介质 |
CN117274491A (zh) * | 2023-09-22 | 2023-12-22 | 北京百度网讯科技有限公司 | 三维重建模型的训练方法、装置、设备和介质 |
CN117611648A (zh) * | 2023-12-04 | 2024-02-27 | 北京斯年智驾科技有限公司 | 一种图像深度估计方法、***和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115880435B (zh) | 2023-10-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115880435B (zh) | 图像重建方法、模型训练方法、装置、电子设备和介质 | |
CN110632608B (zh) | 一种基于激光点云的目标检测方法和装置 | |
JP7273129B2 (ja) | 車線検出方法、装置、電子機器、記憶媒体及び車両 | |
CN112862006B (zh) | 图像深度信息获取模型的训练方法、装置及电子设备 | |
JP2023531350A (ja) | サンプル画像を増分する方法、画像検出モデルの訓練方法及び画像検出方法 | |
CN112967315B (zh) | 一种目标跟踪方法、装置及电子设备 | |
JP2024507727A (ja) | 潜在変数で条件付けた幾何学的形状認識ニューラルネットワークを使用した、シーンの新規画像のレンダリング | |
CN114332977A (zh) | 关键点检测方法、装置、电子设备及存储介质 | |
CN113393468A (zh) | 图像处理方法、模型训练方法、装置和电子设备 | |
CN112580666A (zh) | 图像特征的提取方法、训练方法、装置、电子设备及介质 | |
CN116611491A (zh) | 目标检测模型的训练方法、装置、电子设备和存储介质 | |
CN114792355A (zh) | 虚拟形象生成方法、装置、电子设备和存储介质 | |
CN115170815A (zh) | 视觉任务处理及模型训练的方法、装置、介质 | |
CN113766117B (zh) | 一种视频去抖动方法和装置 | |
CN113379932A (zh) | 人体三维模型的生成方法和装置 | |
CN115909255B (zh) | 图像生成、图像分割方法、装置、设备、车载终端及介质 | |
CN113920273B (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN116168132B (zh) | 街景重建模型获取及街景重建方法、装置、设备及介质 | |
CN116543417A (zh) | 人体姿态估计方法、装置、设备以及存储介质 | |
CN114758076A (zh) | 一种用于建立三维模型的深度学习模型的训练方法及装置 | |
CN113610856A (zh) | 训练图像分割模型和图像分割的方法和装置 | |
CN114093006A (zh) | 活体人脸检测模型的训练方法、装置、设备以及存储介质 | |
CN115100360B (zh) | 图像生成方法及装置、存储介质和电子设备 | |
CN114820908B (zh) | 虚拟形象生成方法、装置、电子设备和存储介质 | |
CN116206035B (zh) | 人脸重建方法、装置、电子设备以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |