CN111402404B - 全景图补全方法、装置、计算机可读存储介质及电子设备 - Google Patents
全景图补全方法、装置、计算机可读存储介质及电子设备 Download PDFInfo
- Publication number
- CN111402404B CN111402404B CN202010180842.5A CN202010180842A CN111402404B CN 111402404 B CN111402404 B CN 111402404B CN 202010180842 A CN202010180842 A CN 202010180842A CN 111402404 B CN111402404 B CN 111402404B
- Authority
- CN
- China
- Prior art keywords
- panorama
- panoramic image
- pixel point
- initial
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000013507 mapping Methods 0.000 claims abstract description 67
- 230000002441 reversible effect Effects 0.000 claims abstract description 22
- 230000004927 fusion Effects 0.000 claims description 15
- 238000001914 filtration Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 4
- 230000001502 supplementing effect Effects 0.000 claims description 4
- 230000000007 visual effect Effects 0.000 abstract 3
- 238000010586 diagram Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 239000013589 supplement Substances 0.000 description 4
- 230000010354 integration Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004806 packaging method and process Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
本公开实施例公开了一种全景图补全方法和装置，其中，该方法包括：获取表征目标空间的三维模型和在目标空间中的目标拍摄点拍摄的初始全景图，其中，初始全景图的纬度跨度小于预设纬度跨度；确定目标拍摄点的拍摄位姿；基于拍摄位姿和目标拍摄点在三维模型下的坐标，将三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图；合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图。本公开实施例可以实现利用三维模型补全全景图的垂直视角，得到垂直视角完整的全景图，解决向终端用户呈现全景图时的视角限制。
Description
技术领域
本公开涉及计算机技术领域，尤其是一种全景图补全方法、装置、计算机可读存储介质及电子设备。
背景技术
目前，针对空间的三维模型的生成方法主要包括两种。一种是基于深度采集的模型封装，即通过深度相机等设备获得被拍摄场景的深度信息，基于深度信息构建三维模型。另一种是基于深度估算的模型封装，即利用机器学习方法，训练深度估计模型，利用模型生成深度图，从而构建三维模型。这两种方式在最终的用户呈现过程中，均以三维模型及分辨率调整后的全景图形式呈现。
发明内容
本公开的实施例提供了一种全景图补全方法、装置、计算机可读存储介质及电子设备。
本公开的实施例提供了一种全景图补全方法，该方法包括：获取表征目标空间的三维模型和在目标空间中的目标拍摄点拍摄的初始全景图，其中，初始全景图的纬度跨度小于预设纬度跨度；确定目标拍摄点的拍摄位姿；基于拍摄位姿和目标拍摄点在三维模型下的坐标，将三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图；合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图。
在一些实施例中，合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图，包括：对初始全景图中的像素点的颜色值和逆映射全景图中的像素点的颜色值进行融合；利用融合后得到的颜色值，生成完整全景图。
在一些实施例中，对初始全景图中的像素点的颜色值和逆映射全景图中的像素点的颜色值进行融合，包括：对于初始全景图中的每个像素点，在逆映射全景图中确定该像素点的对应像素点；对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
在一些实施例中，对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值，包括：基于该像素点在初始全景图中的位置与初始全景图的中心位置之间的距离，确定第一权重；基于该像素点的对应像素点与逆映射全景图的中心位置之间的距离，确定第二权重；基于第一权重和第二权重，对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
在一些实施例中，该方法还包括：对完整全景图进行平滑滤波以滤除完整全景图的噪声点。
根据本公开实施例的另一个方面，提供了一种全景图补全装置，该装置包括：获取模块，用于获取表征目标空间的三维模型和在目标空间中的目标拍摄点拍摄的初始全景图，其中，初始全景图的纬度跨度小于预设纬度跨度；确定模块，用于确定目标拍摄点的拍摄位姿；逆映射模块，用于基于拍摄位姿和目标拍摄点在三维模型下的坐标，将三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图；合并模块，用于合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图。
在一些实施例中，合并模块包括：融合单元，用于对初始全景图中的像素点的颜色值和逆映射全景图中的像素点的颜色值进行融合；生成单元，用于利用融合后得到的颜色值，生成完整全景图。
在一些实施例中，融合单元包括：确定子单元，用于对于初始全景图中的每个像素点，在逆映射全景图中确定该像素点的对应像素点；计算子单元，用于对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
在一些实施例中，计算子单元进一步用于：基于该像素点在初始全景图中的位置与初始全景图的中心位置之间的距离，确定第一权重；基于该像素点的对应像素点与逆映射全景图的中心位置之间的距离，确定第二权重；基于第一权重和第二权重，对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
在一些实施例中，该装置还包括：滤波模块，用于对完整全景图进行平滑滤波以滤除完整全景图的噪声点。
根据本公开实施例的另一个方面，提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序用于执行上述全景图补全方法。
根据本公开实施例的另一个方面，提供了一种电子设备，电子设备包括：处理器；用于存储处理器可执行指令的存储器；处理器，用于从存储器中读取可执行指令，并执行指令以实现上述全景图补全方法。
基于本公开上述实施例提供的全景图补全方法、装置、计算机可读存储介质及电子设备，通过确定初始全景图对应的拍摄点的拍摄位姿，将目标空间的三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图，再合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图，从而实现了利用三维模型补全全景图的垂直视角，得到垂直视角完整的全景图，解决了向终端用户呈现全景图时的视角限制。
下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
图1是本公开所适用的***图。
图2是本公开一示例性实施例提供的全景图补全方法的流程示意图。
图3是本公开的实施例的全景图补全方法的初始全景图的示例性示意图。
图4是本公开另一示例性实施例提供的全景图补全方法的流程示意图。
图5是本公开一示例性实施例提供的全景图补全装置的结构示意图。
图6是本公开另一示例性实施例提供的全景图补全装置的结构示意图。
图7是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。
应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。
还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。
还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。
另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。
还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。
同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，技术、方法和设备应当被视为说明书的一部分。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机***、服务器等电子设备，其可与众多其它通用或专用计算***环境或配置一起操作。适于与终端设备、计算机***、服务器等电子设备一起使用的众所周知的终端设备、计算***、环境和/或配置的例子包括但不限于：个人计算机***、服务器计算机***、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的***、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机***、大型计算机***和包括上述任何***的分布式云计算技术环境，等等。
终端设备、计算机***、服务器等电子设备可以在由计算机***执行的计算机***可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机***/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算***存储介质上。
申请概述
现有的三维模型生成方式，在最终的用户呈现过程中，均以三维模型及分辨率调整后的全景图形式呈现。但是现有的全景设备存在垂直方向视角(VFOV)偏小的问题，导致面向终端用户呈现时的视角限制。
示例性***
图1示出了可以应用本公开的实施例的全景图补全方法或全景图补全装置的示例性***架构100。
如图1所示，***架构100可以包括终端设备101，网络102和服务器103。网络102用于在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101通过网络102与服务器103交互，以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用，例如图像处理应用、三维模型应用等。
终端设备101可以是各种电子设备，包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。
服务器103可以是提供各种服务的服务器，例如对终端设备101上传的全景图等进行处理的后台图像处理器。后台图像处理器可以对接收到的全景图、三维模型等进行处理，得到处理结果(例如垂直视角补全后的全景图)。
需要说明的是，本公开的实施例所提供的全景图补全方法可以由服务器103执行，也可以由终端设备101执行，相应地，全景图补全装置可以设置于服务器103中，也可以设置于终端设备101中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。在全景图、三维模型等信息不需要从远程获取的情况下，上述***架构可以不包括网络，只包括服务器或终端设备。
示例性方法
图2是本公开一示例性实施例提供的全景图补全方法的流程示意图。本实施例可应用在电子设备(如图1所示的终端设备101或服务器103)上，如图2所示，该方法包括如下步骤：
步骤201，获取表征目标空间的三维模型和在目标空间中的目标拍摄点拍摄的初始全景图。
在本实施例中，电子设备可以从本地或从远程获取表征目标空间的三维模型和在目标空间中的目标拍摄点拍摄的初始全景图。其中，初始全景图的纬度跨度小于预设纬度跨度。预设纬度跨度可以是预设的任意纬度跨度。通常，预设纬度跨度可以是180°。
目标空间为三维模型指示的空间，例如民居、商场、影院等的内部空间。通常，三维模型可以是预先利用深度相机针对目标空间拍摄的深度图，或利用深度神经网络生成的深度图，得到点云数据，并基于点云数据生成的。
目标拍摄点上设置有相机，该相机可以拍摄得到初始全景图。初始全景图通常为球形投影(Equirectangular Projection)图像，因此，初始全景图中的每个点具有经度值和纬度值。如图3中的所示，由于全景图拍摄垂直视角限制，存在全景图拍照的不可见区域，因此拍摄的原始图片302长：宽＞2：1。为呈现给用户符合球形映射的全景图，如图3中的303所示，常见做法为在宽度方向补充像素以满足长：宽＝2：1。其中，3031所示的区域为无效区域(即补充像素的区域)，3032所示的区域为有效区域。应当理解，这里的纬度跨度是初始全景图中的有效区域的纬度跨度，不包括补充的图像区域的纬度跨度。
步骤202，确定目标拍摄点的拍摄位姿。
在本实施例中，电子设备可以确定目标拍摄点的拍摄位姿。其中，拍摄位姿用于表征相机在三维模型的坐标系下的位置，以及光轴的方向。
电子设备可以按照现有的各种方法确定目标拍摄点的拍摄位姿。例如，确定拍摄位姿的方法可以包括但不限于以下至少一种：最小光度误差法，基于特征点法的位姿估计等。
步骤203，基于拍摄位姿和目标拍摄点在三维模型下的坐标，将三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图。
在本实施例中，电子设备可以基于拍摄位姿和目标拍摄点在三维模型下的坐标，将三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图。
具体地，在已知三维模型的坐标系和相机坐标系的转换参数(包括平移参数T和旋转参数R)的情况下，电子设备可以将三维模型包括的点云从三维模型的坐标系转换到相机坐标系下。接着遍历点云，将点云点映射至以相机光心为原点的球面上，此时球面与全景图之间存在一一映射的关系，即可恢复出逆映射全景图。通常，由于初始全景图经过像素补全，因此，逆映射全景图与初始全景图的大小相同。
步骤204，合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图。
在本实施例中，电子设备可以合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度(例如180°)的完整全景图。具体地，作为示例，电子设备可以将逆映射全景图中，与初始全景图不重合的区域直接补充到初始全景图中的无效区域(例如图3中的3031所示)，得到完整全景图。
在一些可选的实现方式中，电子设备还可以对完整全景图进行平滑滤波以滤除完整全景图的噪声点。其中，电子设备可以利用各种平滑滤波算法对完整全景图进行滤波，例如均值滤波、中值滤波、高斯滤波等。通过平滑滤波，可以消除图像中的噪声点，使完整全景图的显示效果更好。
本公开的上述实施例提供的方法，通过确定初始全景图对应的拍摄点的拍摄位姿，将目标空间的三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图，再合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图，从而实现了利用三维模型补全全景图的垂直视角，得到垂直视角完整的全景图，解决了向终端用户呈现全景图时的视角限制。
进一步参考图4，示出了全景图补全方法的又一个实施例的流程示意图。如图4所示，在上述图2所示实施例的基础上，步骤204可以包括如下步骤：
步骤2041，对初始全景图中的像素点的颜色值和逆映射全景图中的像素点的颜色值进行融合。
在本实施例中，电子设备可以对初始全景图中的像素点的颜色值和逆映射全景图中的像素点的颜色值(例如RGB值)进行融合。作为示例，可以将初始全景图和逆映射全景图中，位于相同位置的两个像素的颜色值取平均值(例如R、G、B分别取平均)，从而完成颜色值的融合。
步骤2042，利用融合后得到的颜色值，生成完整全景图。
在本实施例中，电子设备可以利用融合后得到的颜色值，生成完整全景图。继续上述示例，相同位置的各个像素的颜色值取平均后，得到新的颜色值作为完整全景图中的像素点的颜色值，从而生成了完整全景图。
在一些可选的实现方式中，电子设备可以按照如下步骤对初始全景图中的像素点的颜色值和逆映射全景图中的像素点的颜色值进行融合：
首先，在逆映射全景图中确定该像素点的对应像素点。其中，该像素点和该像素点的对应像素点是用于指示目标空间中的同一个点映射到初始全景图和逆映射全景图的像素点。
具体地，对于初始全景图中和逆映射全景图中的像素点的对应关系，可以通过两个全景图分别对应的相机的位置关系确定，需要说明的是，这里的相机为虚拟相机。更具体地，可以通过灰度一致性原则确定两个全景图之间的旋转信息(两个相机同光心，没有平移量)，因此可以得到两个相机坐标系下的空间点之间的映射关系，而在同光心的相机坐标系下，不同图像上的对应的像素点之间存在映射关系H21，即p2＝H21×p1。其中，H21为单应性矩阵，该式表示将图像p1(例如逆映射全景图)映射到图像p2(例如初始全景图)，利用相机内参和旋转参数R可以得到。需要说明的是，确定图像之间的映射关系的方法，是本领域的常规技术，这里不再赘述。
然后，对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。其中，每对像素点对应的权值可以是预先设置的，也可以是自动计算的。本实现方式，通过对像素点的颜色值进行加权求和，可以减弱融合后得到的完整全景图的拼接现象，使完整全景图的显示效果更好。
在一些可选的实现方式中，对于初始全景图中的每个像素点，电子设备可以按照如下步骤对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和：
首先，基于该像素点在初始全景图中的位置与初始全景图的中心位置之间的距离，确定第一权重。具体地，对于空间中的同一点，其映射到两个全景图中像素点对应的上述距离越大，颜色的准确性越低，因此，可以按照距离越大，权重越小的原则确定距离和权重的对应关系。例如，设第一权重为α1，像素点在初始全景图中的位置与初始全景图的中心位置之间的距离为d1，则α1＝1/d1。
然后，基于该像素点的对应像素点与逆映射全景图的中心位置之间的距离，确定第二权重。例如，设第二权重为α2，对应像素点在逆映射全景图中的位置与逆映射全景图的中心位置之间的距离为d2，则α2＝1/d2。
最后，基于第一权重和第二权重，对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。例如，设融合后的颜色值为x，对应的位于初始全景图和逆映射全景图的像素点的颜色值分别为x1和x2，则x＝α1×x1+α2×x2。
本实现方式通过基于距离确定权重，从而完成颜色值的融合，可以更好地消除融合后得到的完整全景图中的拼缝现象和图像色差。
上述图4对应实施例提供的方法，通过对初始全景图中的像素点的颜色值和逆映射全景图中的像素点的颜色值进行融合，得到完整全景图，可以有效地消除完整全景图中的拼缝现象，减少完整全景图中的噪点，提高完整全景图的展示效果。
示例性装置
图5是本公开一示例性实施例提供的全景图补全装置的结构示意图。本实施例可应用在电子设备上，如图5所示，全景图补全装置包括：获取模块501，用于获取表征目标空间的三维模型和在目标空间中的目标拍摄点拍摄的初始全景图，其中，初始全景图的纬度跨度小于预设纬度跨度；确定模块502，用于确定目标拍摄点的拍摄位姿；逆映射模块503，用于基于拍摄位姿和目标拍摄点在三维模型下的坐标，将三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图；合并模块504，用于合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图。
在本实施例中，获取模块501可以从本地或从远程获取表征目标空间的三维模型和在目标空间中的目标拍摄点拍摄的初始全景图。其中，初始全景图的纬度跨度小于预设纬度跨度。预设纬度跨度可以是预设的任意纬度跨度。通常，预设纬度跨度可以是180°。
目标空间为三维模型指示的空间，例如民居、商场、影院等的内部空间。通常，三维模型可以是预先利用深度相机针对目标空间拍摄的深度图，或利用深度神经网络生成的深度图，得到点云数据，并基于点云数据生成的。
目标拍摄点上设置有相机，该相机可以拍摄得到初始全景图。初始全景图为球形投影(Equirectangular Projection)图像，因此，初始全景图中的每个点具有经度值和纬度值。如图3中的所示，由于全景图拍摄垂直视角限制，存在全景图拍照的不可见区域，因此拍摄的原始图片302长：宽＞2：1。为呈现给用户符合球形映射的全景图，如图3中的303所示，常见做法为在宽度方向补充像素以满足长：宽＝2：1。其中，3031所示的区域为无效区域(即补充像素的区域)，3032所示的区域为有效区域。应当理解，这里的纬度跨度是初始全景图中的有效区域的纬度跨度，不包括补充的图像区域的纬度跨度。
在本实施例中，确定模块502可以确定目标拍摄点的拍摄位姿。其中，拍摄位姿用于表征相机在三维模型的坐标系下的位置，以及光轴的方向。
上述确定模块502可以按照现有的各种方法确定目标拍摄点的拍摄位姿。例如，确定拍摄位姿的方法可以包括但不限于以下至少一种：最小光度误差法，基于特征点法的位姿估计等。
在本实施例中，逆映射模块503可以基于拍摄位姿和目标拍摄点在三维模型下的坐标，将三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图。
具体地，在已知三维模型的坐标系和相机坐标系的转换参数(包括平移参数T和旋转参数R)的情况下，上述逆映射模块503可以将三维模型包括的点云从三维模型的坐标系转换到相机坐标系下。接着遍历点云，将点云点映射至以相机光心为原点的球面上，此时球面与全景图之间存在一一映射的关系，即可恢复出逆映射全景图。通常，由于初始全景图经过像素补全，因此，逆映射全景图与初始全景图的大小相同。
在本实施例中，合并模块504可以合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度(例如180°)的完整全景图。具体地，作为示例，上述合并模块504可以将逆映射全景图中，与初始全景图不重合的区域直接补充到初始全景图中的无效区域(例如图3中的3031所示)，得到完整全景图。
参照图6，图6是本公开另一示例性实施例提供的全景图补全装置的结构示意图。
在一些可选的实现方式中，合并模块504可以包括：融合单元5041，用于对初始全景图中的像素点的颜色值和逆映射全景图中的像素点的颜色值进行融合；生成单元5042，用于利用融合后得到的颜色值，生成完整全景图。
在一些可选的实现方式中，融合单元5041可以包括：确定子单元50411，用于对于初始全景图中的每个像素点，在逆映射全景图中确定该像素点的对应像素点；计算子单元50412，用于对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
在一些可选的实现方式中，计算子单元可以进一步用于：基于该像素点在初始全景图中的位置与初始全景图的中心位置之间的距离，确定第一权重；基于该像素点的对应像素点与逆映射全景图的中心位置之间的距离，确定第二权重；基于第一权重和第二权重，对该像素点的颜色值和该像素点的对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
在一些可选的实现方式中，该装置还可以包括：滤波模块505，用于对完整全景图进行平滑滤波以滤除完整全景图的噪声点。
本公开上述实施例提供的全景图补全装置，通过确定初始全景图对应的拍摄点的拍摄位姿，将目标空间的三维模型中的点逆映射至目标拍摄点的坐标系下，得到逆映射全景图，再合并初始全景图和逆映射全景图，得到纬度跨度为预设纬度跨度的完整全景图，从而实现了利用三维模型补全全景图的垂直视角，得到垂直视角完整的全景图，解决了向终端用户呈现全景图时的视角限制。
示例性电子设备
下面，参考图7来描述根据本公开实施例的电子设备。该电子设备可以是如图1所示的终端设备101和服务器103中的任一个或两者、或与它们独立的单机设备，该单机设备可以与终端设备101和服务器103进行通信，以从它们接收所采集到的输入信号。
图7图示了根据本公开实施例的电子设备的框图。
如图7所示，电子设备700包括一个或多个处理器701和存储器702。
处理器701可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备700中的其他组件以执行期望的功能。
存储器702可以包括一个或多个计算机程序产品，计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器701可以运行程序指令，以实现上文的本公开的各个实施例的全景图补全方法以及/或者其他期望的功能。在计算机可读存储介质中还可以存储诸如三维模型、全景图等各种内容。
在一个示例中，电子设备700还可以包括：输入装置703和输出装置704，这些组件通过总线***和/或其他形式的连接机构(未示出)互连。
例如，在该电子设备是终端设备101或服务器103时，该输入装置703可以是相机、鼠标、键盘等设备，用于输入初始全景图等。在该电子设备是单机设备时，该输入装置703可以是通信网络连接器，用于从终端设备101和服务器103接收所输入的初始全景图等。
该输出装置704可以向外部输出各种信息，包括完整全景图。该输出设备704可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然，为了简化，图7中仅示出了该电子设备700中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备700还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的全景图补全方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的全景图补全方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于***实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (12)
1.一种全景图补全方法，包括：
获取表征目标空间的三维模型和在所述目标空间中的目标拍摄点拍摄的初始全景图，其中，所述初始全景图的纬度跨度小于预设纬度跨度；
确定所述目标拍摄点的拍摄位姿；
基于所述拍摄位姿和所述目标拍摄点在所述三维模型下的坐标，将所述三维模型中的点逆映射至所述目标拍摄点的坐标系下，得到逆映射全景图；
合并所述初始全景图和所述逆映射全景图，得到纬度跨度为所述预设纬度跨度的完整全景图；
所述合并所述初始全景图和所述逆映射全景图，得到纬度跨度为所述预设纬度跨度的完整全景图，包括：
将所述逆映射全景图中的与所述初始全景图不重合的区域补充到所述初始全景图中的无效区域，得到所述完整全景图，其中，所述无效区域为将所述初始全景图的纬度跨度扩展至所述预设纬度跨度所补充的图像区域。
2.根据权利要求1所述的方法，其中，所述合并所述初始全景图和所述逆映射全景图，得到纬度跨度为所述预设纬度跨度的完整全景图，包括：
对所述初始全景图中的像素点的颜色值和所述逆映射全景图中的像素点的颜色值进行融合；
利用融合后得到的颜色值，生成完整全景图。
3.根据权利要求2所述的方法，其中，所述对所述初始全景图中的像素点的颜色值和所述逆映射全景图中的像素点的颜色值进行融合，包括：
对于所述初始全景图中的每个像素点，在所述逆映射全景图中确定该像素点的对应像素点；
对该像素点的颜色值和该像素点的所述对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
4.根据权利要求3所述的方法，其中，所述对该像素点的颜色值和该像素点的所述对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值，包括：
基于该像素点在所述初始全景图中的位置与所述初始全景图的中心位置之间的距离，确定第一权重；
基于该像素点的所述对应像素点与所述逆映射全景图的中心位置之间的距离，确定第二权重；
基于所述第一权重和所述第二权重，对该像素点的颜色值和该像素点的所述对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
5.根据权利要求1-4之一所述的方法，其中，所述方法还包括：
对所述完整全景图进行平滑滤波以滤除所述完整全景图的噪声点。
6.一种全景图补全装置，包括：
获取模块，用于获取表征目标空间的三维模型和在所述目标空间中的目标拍摄点拍摄的初始全景图，其中，所述初始全景图的纬度跨度小于预设纬度跨度；
确定模块，用于确定所述目标拍摄点的拍摄位姿；
逆映射模块，用于基于所述拍摄位姿和所述目标拍摄点在所述三维模型下的坐标，将所述三维模型中的点逆映射至所述目标拍摄点的坐标系下，得到逆映射全景图；
合并模块，用于合并所述初始全景图和所述逆映射全景图，得到纬度跨度为所述预设纬度跨度的完整全景图；
所述合并模块进一步用于：
将所述逆映射全景图中的与所述初始全景图不重合的区域补充到所述初始全景图中的无效区域，得到所述完整全景图，其中，所述无效区域为将所述初始全景图的纬度跨度扩展至所述预设纬度跨度所补充的图像区域。
7.根据权利要求6所述的装置，其中，所述合并模块包括：
融合单元，用于对所述初始全景图中的像素点的颜色值和所述逆映射全景图中的像素点的颜色值进行融合；
生成单元，用于利用融合后得到的颜色值，生成完整全景图。
8.根据权利要求7所述的装置，其中，所述融合单元包括：
确定子单元，用于对于所述初始全景图中的每个像素点，在所述逆映射全景图中确定该像素点的对应像素点；
计算子单元，用于对该像素点的颜色值和该像素点的所述对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
9.根据权利要求8所述的装置，其中，所述计算子单元进一步用于：
基于该像素点在所述初始全景图中的位置与所述初始全景图的中心位置之间的距离，确定第一权重；
基于该像素点的所述对应像素点与所述逆映射全景图的中心位置之间的距离，确定第二权重；
基于所述第一权重和所述第二权重，对该像素点的颜色值和该像素点的所述对应像素点的颜色值进行加权求和，得到该像素点的融合后的颜色值。
10.根据权利要求6-9之一所述的装置，其中，所述装置还包括：
滤波模块，用于对所述完整全景图进行平滑滤波以滤除所述完整全景图的噪声点。
11.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-5任一所述的方法。
12.一种电子设备，所述电子设备包括：
处理器；
用于存储所述处理器可执行指令的存储器；
所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-5任一所述的方法。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010180842.5A CN111402404B (zh) | 2020-03-16 | 2020-03-16 | 全景图补全方法、装置、计算机可读存储介质及电子设备 |
| US17/200,659 US11146727B2 (en) | 2020-03-16 | 2021-03-12 | Method and device for generating a panoramic image |
| US17/383,157 US11533431B2 (en) | 2020-03-16 | 2021-07-22 | Method and device for generating a panoramic image |
| US17/981,056 US20230056036A1 (en) | 2020-03-16 | 2022-11-04 | Method and device for generating a panoramic image |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010180842.5A CN111402404B (zh) | 2020-03-16 | 2020-03-16 | 全景图补全方法、装置、计算机可读存储介质及电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111402404A CN111402404A (zh) | 2020-07-10 |
| CN111402404B true CN111402404B (zh) | 2021-03-23 |
Family
ID=71428933
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010180842.5A Active CN111402404B (zh) | 2020-03-16 | 2020-03-16 | 全景图补全方法、装置、计算机可读存储介质及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111402404B (zh) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112529958B (zh) * | 2020-12-10 | 2022-08-26 | 神华天津煤炭码头有限责任公司 | 一种单激光雷达散货货船舱口位置识别方法 |
| CN113382166B (zh) * | 2021-06-08 | 2022-07-15 | 贝壳找房(北京)科技有限公司 | 摄像设备光心对齐方法和装置、存储介质、电子设备 |
| CN114663618B (zh) * | 2022-03-03 | 2022-11-29 | 北京城市网邻信息技术有限公司 | 三维重建及校正方法、装置、设备及存储介质 |
| WO2024108350A1 (zh) * | 2022-11-21 | 2024-05-30 | 北京城市网邻信息技术有限公司 | 空间结构图和户型图生成方法、装置、设备和存储介质 |
Family Cites Families (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102915526B (zh) * | 2012-09-18 | 2014-12-17 | 合肥工业大学 | 基于互补场景模型的球面全景图缺失信息修复方法 |
| CN103942754B (zh) * | 2013-01-18 | 2017-07-04 | 深圳市腾讯计算机***有限公司 | 全景图像补全方法及装置 |
| CN103118230B (zh) * | 2013-02-28 | 2016-06-22 | 腾讯科技（深圳）有限公司 | 一种全景图像采集方法、装置以及*** |
| CN103530907B (zh) * | 2013-10-21 | 2017-02-01 | 深圳市易尚展示股份有限公司 | 基于图像的复杂三维模型绘制方法 |
| CN104376118B (zh) * | 2014-12-03 | 2018-02-16 | 北京理工大学 | 基于全景图的精确标注兴趣点的户外移动增强现实方法 |
| US9984494B2 (en) * | 2015-01-26 | 2018-05-29 | Uber Technologies, Inc. | Map-like summary visualization of street-level distance data and panorama data |
| CN107666606B (zh) * | 2016-07-29 | 2019-07-12 | 东南大学 | 双目全景图像获取方法及装置 |
| CN106791360A (zh) * | 2016-11-22 | 2017-05-31 | 北京疯景科技有限公司 | 生成全景视频的方法及装置 |
| CN108702444B (zh) * | 2017-08-31 | 2021-07-06 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、无人机及*** |
| CN108665536B (zh) * | 2018-05-14 | 2021-07-09 | 广州市城市规划勘测设计研究院 | 三维与实景数据可视化方法、装置与计算机可读存储介质 |
-
2020
- 2020-03-16 CN CN202010180842.5A patent/CN111402404B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN111402404A (zh) | 2020-07-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111402404B (zh) | 全景图补全方法、装置、计算机可读存储介质及电子设备 | |
| US11270460B2 (en) | Method and apparatus for determining pose of image capturing device, and storage medium | |
| CN109788189B (zh) | 将相机与陀螺仪融合在一起的五维视频稳定化装置及方法 | |
| CN111432119B (zh) | 图像拍摄方法、装置、计算机可读存储介质及电子设备 | |
| US10437545B2 (en) | Apparatus, system, and method for controlling display, and recording medium | |
| CN111008985B (zh) | 全景图拼缝检测方法、装置、可读存储介质及电子设备 | |
| CN112116655B (zh) | 目标对象的位置确定方法和装置 | |
| CN115690382B (zh) | 深度学习模型的训练方法、生成全景图的方法和装置 | |
| CN111612842A (zh) | 生成位姿估计模型的方法和装置 | |
| CN112489114A (zh) | 图像转换方法、装置、计算机可读存储介质及电子设备 | |
| WO2023005170A1 (zh) | 全景视频的生成方法和装置 | |
| CN111415386A (zh) | 拍摄设备位置提示方法、装置、存储介质及电子设备 | |
| WO2023082822A1 (zh) | 图像数据的处理方法和装置 | |
| CN111402136B (zh) | 全景图生成方法、装置、计算机可读存储介质及电子设备 | |
| CN113269820A (zh) | 空间几何信息估计模型的生成方法和装置 | |
| WO2022166868A1 (zh) | 漫游视图的生成方法、装置、设备和存储介质 | |
| CN113132708B (zh) | 利用鱼眼相机获取三维场景图像的方法和装置、设备和介质 | |
| CN112541553A (zh) | 目标对象的状态检测方法、装置、介质以及电子设备 | |
| CN115512046B (zh) | 模型外点位的全景图展示方法和装置、设备、介质 | |
| WO2018100230A1 (en) | Method and apparatuses for determining positions of multi-directional image capture apparatuses | |
| WO2021149509A1 (ja) | 撮像装置、撮像方法、及び、プログラム | |
| CN114900742A (zh) | 基于视频推流的场景旋转过渡方法以及*** | |
| CN112465716A (zh) | 图像转换方法、装置、计算机可读存储介质及电子设备 | |
| JP6242009B2 (ja) | 広域画像に撮影領域枠を重畳表示する映像転送システム、端末、プログラム及び方法 | |
| CN110310251B (zh) | 图像处理方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20200916 Address after: 100085 Floor 102-1, Building No. 35, West Second Banner Road, Haidian District, Beijing Applicant after: Seashell Housing (Beijing) Technology Co.,Ltd. Address before: 300 457 days Unit 5, Room 1, 112, Room 1, Office Building C, Nangang Industrial Zone, Binhai New Area Economic and Technological Development Zone, Tianjin Applicant before: BEIKE TECHNOLOGY Co.,Ltd. |
|
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20210219 Address after: 101300 room 24, 62 Farm Road, Erjie village, Yangzhen Town, Shunyi District, Beijing Applicant after: Beijing fangjianghu Technology Co.,Ltd. Address before: 100085 Floor 101 102-1, No. 35 Building, No. 2 Hospital, Xierqi West Road, Haidian District, Beijing Applicant before: Seashell Housing (Beijing) Technology Co.,Ltd. |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |