CN111696144A - 深度信息确定方法、深度信息确定装置及电子设备 - Google Patents

Abstract

公开了一种深度信息确定方法、深度信息确定装置及电子设备。该深度信息确定方法包括：基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数；确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步；基于第一深度信息集和M个深度信息图像生成第二深度信息集。本申请实施例借助二维图像弥补了点云数据中的第一深度信息集的稠密度较低的缺陷，并且充分利用了点云数据中所包含的高精度的深度信息，从而最终提高了所确定的深度信息的稠密度和精度。

Description

深度信息确定方法、深度信息确定装置及电子设备

技术领域

本公开涉及图像处理技术领域，具体涉及一种深度信息确定方法、深度信息确定装置及电子设备。

背景技术

深度信息作为支持计算机视觉技术的重要信息，对三维重建有着重要的意义。尤其在自动驾驶领域，深度信息更是不可或缺的信息之一。然而，在现有基于激光雷达技术确定深度信息的方案中，所获取的深度信息的稠密度较低，无法达到实用的要求。

发明内容

为了解决上述技术问题，提出了本申请。本申请的实施例提供了一种深度信息确定方法、深度信息确定装置及电子设备。

在一方面，本申请实施例提供了一种深度信息确定方法，该深度信息确定方法包括：基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数；确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步；基于第一深度信息集和M个深度信息图像生成第二深度信息集。

在另一方面，本申请实施例提供了一种深度信息确定装置，该深度信息确定装置包括：深度信息图像确定模块，用于基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数；点云数据确定模块，用于确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步；第二深度信息集生成模块，用于基于第一深度信息集和M个深度信息图像生成第二深度信息集。

本申请实施例所提及的深度信息确定方法，通过基于与待确定深度信息的当前场景相关的二维图像确定M个深度信息图像，并确定二维图像对应的包含第一深度信息集的点云数据，然后基于点云数据的第一深度信息集和二维图像的M个深度信息图像生成第二深度信息集的方式，实现了基于二维图像和与二维图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。也就是说，本申请实施例提供的深度信息确定方法，借助二维图像弥补了点云数据中的第一深度信息集的稠密度较低的缺陷，并且充分利用了点云数据中所包含的高精度的深度信息。与现有深度信息确定方法相比，本申请实施例通过将二维图像和与二维图像对应的点云数据相结合以确定当前场景的深度信息的方式，提高了所确定的深度信息的稠密度和精度，从而为后续基于深度信息进行的三维重建等技术提供了良好的数据支持。

附图说明

通过结合附图对本申请实施例进行更详细的描述，本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解，并且构成说明书的一部分，与本申请实施例一起用于解释本申请，并不构成对本申请的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本申请所适用的场景图。

图2是本申请一示例性实施例提供的深度信息确定方法的流程示意图。

图3是本申请另一示例性实施例提供的基于二维图像确定M个深度信息图像的流程示意图。

图4是本申请又一示例性实施例提供的基于二维图像确定M个深度信息图像的流程示意图。

图5是本申请再一示例性实施例提供的基于第一深度信息集和M个深度信息图像生成第二深度信息集的流程示意图。

图6是本申请再一示例性实施例提供的将点云数据的深度信息和M个深度信息图像的深度信息进行比较，并根据比较结果确定第二深度信息集的流程示意图。

图7是本申请再一示例性实施例提供的将点云数据的深度信息和M个深度信息图像的深度信息进行比较，并根据比较结果确定第二深度信息集的流程示意图。

图8是本申请一示例性实施例提供的深度信息确定装置的结构示意图。

图9是本申请另一示例性实施例提供的深度信息确定装置的深度信息图像确定模块的结构示意图。

图10是本申请又一示例性实施例提供的深度信息确定装置的深度信息图像确定模块的结构示意图。

图11是本申请再一示例性实施例提供的深度信息确定装置的第二深度信息集生成模块的结构示意图。

图12是本申请再一示例性实施例提供的深度信息确定装置的比较单元和第二深度信息集确定单元的结构示意图。

图13是本申请再一示例性实施例提供的深度信息确定装置的比较单元和第二深度信息集确定单元的结构示意图。

图14是本申请一示例性实施例提供的电子设备的结构示意图。

具体实施方式

下面，将参考附图详细地描述根据本申请的示例实施例。显然，所描述的实施例仅仅是本申请的一部分实施例，而不是本申请的全部实施例，应理解，本申请不受这里描述的示例实施例的限制。

申请概述

在计算机视觉技术领域，深度信息的重要性不言而喻。尤其在自动驾驶领域，深度信息更是不可或缺的信息之一。

目前，通常利用激光雷达来确定场景深度信息。但是，利用激光雷达来确定深度信息时，无法确定场景中物体和像素的稠密的深度信息，并且线束越低的激光雷达所确定的深度信息越是稀疏，无法达到实用的要求。

亦或者，在现有技术中，通过利用深度神经网络模型来对拍摄的图像进行处理的方式确定场景深度信息。然而，通过此种方式确定的深度信息的精度远远不及利用激光雷达确定的深度信息的精度。

针对上述技术问题，本申请的基本构思是提出一种深度信息确定方法、深度信息确定装置及电子设备，该深度信息确定方法通过基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步，最后基于第一深度信息集和M个深度信息图像生成第二深度信息集的方式，实现了结合二维图像以及与二维图像对应的点云数据来确定具备高精度和高稠密度特性的场景深度信息的目的。由于本申请实施例所提供的深度信息确定方法能够结合二维图像以及与二维图像对应的点云数据来确定场景深度信息，因此，与现有确定场景深度信息的方法相比，本申请实施例所确定的场景深度信息具备高精度和高稠密度特性，具备高精度和高稠密度特性的深度信息为自动驾驶等计算机视觉技术的发展奠定基础。

在介绍了本申请所要解决的技术问题以及本申请的基本构思之后，下面将参考附图来具体介绍本申请的各种非限制性实施例。

示例性***

图1是本申请所适用的场景图。如图1所示，本申请所适用的场景为针对可移动设备的行驶区域的深度信息确定场景，其中，该深度信息确定场景中包括服务器1和可移动设备2，服务器1获取可移动设备2拍摄的二维图像，并获取与二维图像对应且与二维图像时间同步的点云数据，然后根据获取的二维图像和点云数据进行深度信息确定操作。

具体地，可移动设备2用于拍摄二维图像；服务器1用于基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数，然后确定二维图像对应的点云数据，其中点云数据包含第一深度信息集，并且点云数据与二维图像时间同步，最后基于第一深度信息集和M个深度信息图像生成第二深度信息集。通过该场景，可降低可移动设备2的计算量。

需要说明的是，本申请还适用于另一场景。具体地，该场景中包括可移动设备2。具体地，可移动设备2拍摄二维图像，并基于拍摄的二维图像确定M个深度信息图像，其中M为大于或等于2的整数，然后确定二维图像对应的点云数据，其中点云数据包含第一深度信息集，并且点云数据与二维图像时间同步，最后基于第一深度信息集和M个深度信息图像生成第二深度信息集。通过该场景，可确保可移动设备2能够实时获取高精度和高稠密度的场景深度信息。

示例性方法

图2是本申请一示例性实施例提供的深度信息确定方法的流程示意图。本申请实施例提供的深度信息确定方法可应用到汽车、电动车等设备的自动驾驶领域，亦可以应用到智能机器人的行进类功能领域。如图2所示，本申请实施例提供的深度信息确定方法包括如下步骤。

步骤10，基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数。

其中，二维图像是与待确定深度信息的当前场景相关的图像。

此外，需要说明的是，深度信息图像指的是基于二维图像确定的包含深度信息的图像。

步骤20，确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步。

其中，点云数据是与二维图像对应的点云数据，也就是说，点云数据与二维图像处于相同的地理位置预设范围。并且，第一深度信息集指的是点云数据中包含的每个点对应的深度信息的集合。

在本申请一实施例中，利用激光雷达获得与二维图像对应的点云数据。

步骤30，基于第一深度信息集和M个深度信息图像生成第二深度信息集。

需要说明的是，由于点云数据与二维图像对应，因此，点云数据中包含的第一深度信息集能够与二维图像对应的M个深度信息图像建立起对应关系，凭借第一深度信息集与M个深度信息图像之间的对应关系，能够从基于二维图像确定的M个深度信息图像中确定出高精度和高稠密度的深度信息，进而基于确定的高精度和高稠密度的深度信息生成第二深度信息集。

在实际应用过程中，首先基于与待确定深度信息的当前场景相关的二维图像确定M个深度信息图像，其中M为大于或等于2的整数，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步，最后基于利用点云数据确定的第一深度信息集和利用二维图像确定的M个深度信息图像生成第二深度信息集。

本申请实施例所提及的深度信息确定方法，通过基于与待确定深度信息的当前场景相关的二维图像确定M个深度信息图像，并确定二维图像对应的包含第一深度信息集的点云数据，然后基于点云数据的第一深度信息集和二维图像的M个深度信息图像生成第二深度信息集的方式，实现了基于二维图像和与二维图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。也就是说，本申请实施例提供的深度信息确定方法，借助二维图像弥补了点云数据中的第一深度信息集的稠密度较低的缺陷，并且充分利用了点云数据中所包含的高精度的深度信息。与现有深度信息确定方法相比，本申请实施例通过将二维图像和与二维图像对应的点云数据相结合以确定当前场景的深度信息的方式，提高了所确定的深度信息的稠密度和精度，从而为后续基于深度信息进行的三维重建等技术提供了良好的数据支持。

图3是本申请另一示例性实施例提供的基于二维图像确定M个深度信息图像的流程示意图。在本申请图2所示实施例的基础上延伸出本申请图3所示实施例，下面着重叙述图3所示实施例与图2所示实施例的不同之处，相同之处不再赘述。

如图3所示，在本申请实施例提供的深度信息确定方法中，二维图像为单路图像，基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数步骤(即步骤10)，包括如下步骤。

步骤11，获取单路图像。

其中，单路图像指的是利用单目相机拍摄的图像。

步骤12，利用M个深度估计模型确定出单路图像的M个深度信息图像。

需要说明的是，步骤12中提及的深度估计模型能够基于输入的单路图像确定与该单路图像对应的深度信息图像。

在实际应用过程中，首先获取单路图像，并利用M个深度估计模型确定出单路图像的M个深度信息图像，然后确定该单路图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与单路图像时间同步，最后基于利用点云数据确定的第一深度信息集和利用单路图像确定的M个深度信息图像生成第二深度信息集。其中，深度估计模型可以采用卷积神经网络模型，也可以采用SLAM中的三角化模型以及其他可以识别出单路图像的深度信息的模型。

本申请实施例所提及的深度信息确定方法，通过利用M个深度估计模型确定出单路图像的M个深度信息图像，然后基于点云数据的第一深度信息集和单路图像的M个深度信息图像生成第二深度信息集的方式，实现了基于单路图像确定M个深度信息图像，并基于单路图像和与单路图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。与采用多路图像确定M个深度信息图像的方式相比，本申请实施例无需设置双目相机或多目相机，节省了安装成本，并且无需基于多路图像确定M个深度信息图像，因而能够简化操作步骤并减少计算量，进而提高了确定深度信息的速度。

图4是本申请又一示例性实施例提供的基于二维图像确定M个深度信息图像的流程示意图。在本申请图2所示实施例的基础上延伸出本申请图4所示实施例，下面着重叙述图4所示实施例与图2所示实施例的不同之处，相同之处不再赘述。

如图4所示，在本申请实施例提供的深度信息确定方法中，二维图像为N路图像，N为大于或等于2的整数，基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数步骤(即步骤10)，包括如下步骤。

步骤13，获取N路图像。

通过双目相机或多目相机采集图像，可以获取两路或两路以上的二维图像。

步骤14，根据N路图像中的M个不同的集合来确定M个深度信息图像，其中，M个不同的集合中的每一个集合为任意X路图像的组合，其中，X为大于或等于1、小于或等于N的整数。

需要说明的是，在步骤14中，当X＝1时，深度信息图像可以利用卷积神经网络、三角化等深度估计模型来确定；当X大于1时，深度信息图像可以通过计算两个或两个以上的图像之间的视差来确定，本发明实施例对此不进行统一限定。

在实际应用过程中，首先获取N路图像，并根据N路图像中的M个不同的集合来确定M个深度信息图像，然后确定该N路图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与N路图像时间同步，最后基于利用点云数据确定的第一深度信息集和利用N路图像确定的M个深度信息图像生成第二深度信息集。

本申请实施例所提及的深度信息确定方法，通过利用N路图像中的M个不同的集合来确定M个深度信息图像，然后基于点云数据的第一深度信息集和单路图像的M个深度信息图像生成第二深度信息集的方式，实现了基于N路图像确定M个深度信息图像，并基于N路图像和与N路图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。由于本申请实施例提供的深度信息确定方法能够基于N路图像的不同组合来确定深度信息图像，因此，与基于单路图像确定M个深度信息图像相比，本申请实施例能够充分防止因单路图像出现误差而导致的M个深度信息图像精度较差的情况，进而充分提高所确定的M个深度信息图像的精度和稳定性，进而为最终提高所确定的第二深度信息集的稠密度和精度提供前提条件。

在本申请一实施例中，N＝2，即二维图像包括两路图像。在实际应用过程中，首先基于该两路图像中的任一路图像确定一深度信息图像(即单目深度信息图像)，并基于两路图像确定另一深度信息图像(即双目深度信息图像)，然后将二维图像对应的点云数据分别投影到该单目深度估计图像和双目深度估计图像中，以生成两个投影点集合(即M＝2)，最后基于每个投影点集合中的每个投影点对单目深度估计图像和双目深度估计图像进行切割操作，以分别生成多个切割单元，并基于点云数据中的每个点所对应的切割单元的深度信息来最终确定第二深度信息集(即最终的深度估计图像)。

需要说明的是，当上述实施例中提及的利用相机拍摄图像时，需要对相机进行相应的标定和校准操作，以便能够后续步骤的实现。

在本申请另一实施例中，在基于两路图像生成深度信息图像之前，基于两路图像中的每一路图像分别执行畸变校正操作，以便获取高质量的深度信息图像。在本申请另一实施例中，在基于两路图像生成深度信息图像之前，还包括基于两路图像执行极线校正操作，以便在确定双目深度信息图像时，视差和深度信息的互相转化。

图5是本申请再一示例性实施例提供的基于第一深度信息集和M个深度信息图像生成第二深度信息集的流程示意图。在本申请图2所示实施例的基础上延伸出本申请图5所示实施例，下面着重叙述图5所示实施例与图2所示实施例的不同之处，相同之处不再赘述。

如图5所示，在本申请实施例提供的深度信息确定方法中，基于第一深度信息集和M个深度信息图像生成第二深度信息集步骤(即步骤30)，包括如下步骤。

步骤31，将点云数据的每个点的深度信息与M个深度信息图像中的每一个深度信息图像进行比较，获得比较结果。

步骤32，基于比较结果确定第二深度信息集。

在实际应用过程中，首先基于与待确定深度信息的当前场景相关的二维图像确定M个深度信息图像，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步，最后将点云数据的每个点的深度信息与M个深度信息图像中的每一个深度信息图像进行比较以获得比较结果，并基于比较结果确定第二深度信息集。

本申请实施例所提及的深度信息确定方法，通过将点云数据的每个点的深度信息与M个深度信息图像中的每一个深度信息图像进行比较，并基于比较结果确定第二深度信息集的方式，实现了基于第一深度信息集和M个深度信息图像生成第二深度信息集的目的，进而最终实现了基于二维图像和与二维图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。由于在本申请实施例中，是将点云数据的每个点的深度信息与M个深度信息图像中的每一个深度信息图像进行比较，并基于比较结果确定第二深度信息集，因此，本申请实施例能够基于M个深度信息图像择优确定第二深度信息集，从而进一步提高所确定的深度信息的稠密度和精度。

图6是本申请再一示例性实施例提供的将点云数据的深度信息和M个深度信息图像的深度信息进行比较，并根据比较结果确定第二深度信息集的流程示意图。在本申请图5所示实施例的基础上延伸出本申请图6所示实施例，下面着重叙述图6所示实施例与图5所示实施例的不同之处，相同之处不再赘述。

如图6所示，在本申请实施例提供的深度信息确定方法中，将点云数据的每个点的深度信息与M个深度信息图像中的每一个深度信息图像进行比较，获得比较结果，并基于比较结果确定第二深度信息集步骤(即步骤31和步骤32)，包括如下步骤。

步骤311，将点云数据的每个点分别投影到M个深度信息图像中的每一个深度信息图像中，生成M个投影点集合。

步骤312，分别以每一个投影点集合中的每一个投影点为中心切割每一个投影点集合所在的深度信息图像，确定多个切割单元，其中M个深度信息图像的切割方式相同。

需要说明的是，切割单元的尺寸和形状可根据实际情况自行设定，本申请实施例对此不进行统一限定。比如，切割单元的形状包括但不限于为矩形、三角形等形状。

步骤313，分别计算点云数据中的每一个点的深度信息与对应的M个切割单元的深度信息的差值，以确定点云数据中的每一个点与对应的M个切割单元的差值绝对值。

在本申请一实施例中，每一个切割单元的深度信息为该切割单元所包含的所有深度信息的均值。在本申请实施例中，通过将每一切割单元所包含的所有深度信息的均值作为该切割单元的深度信息的方式，很好地提高了所确定的切割单元的深度信息的准确程度，从而为最终获取高精度的第二深度信息集提供前提条件。

在本申请另一实施例中，每一个切割单元的深度信息为与该切割单元对应的投影点所处位置的深度信息。本申请实施例能够有效降低确定切割单元的深度信息过程的计算量，简化计算步骤。

步骤314，分别确定点云数据中的每一个点对应的M个差值绝对值中的最小差值绝对值。

步骤315，将最小差值绝对值对应的切割单元确定为点云数据中的相应点对应的中间深度信息单元。

步骤321，将点云数据中的各个点对应的中间深度信息单元组合在一起，以确定第二深度信息集。

需要说明的是，在本申请实施例中，所确定的第二深度信息集即为多个中间深度信息单元的集合，也就是说，基于多个中间深度信息单元进行填充重建操作，以形成具备高精度和高稠密度特性的深度信息估计图像。

在实际应用过程中，首先基于与待确定深度信息的当前场景相关的二维图像确定M个深度信息图像，然后确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步，继而将点云数据的每个点分别投影到M个深度信息图像中的每一个深度信息图像中，生成M个投影点集合，并分别以每一个投影点集合中的每一个投影点为中心切割每一个投影点集合所在的深度信息图像，确定多个切割单元，其中M个深度信息图像的切割方式相同，以及分别计算点云数据中的每一个点的深度信息与对应的M个切割单元的深度信息的差值，以确定点云数据中的每一个点与对应的M个切割单元的差值绝对值，以及分别确定点云数据中的每一个点对应的M个差值绝对值中的最小差值绝对值，最后将最小差值绝对值对应的切割单元确定为点云数据中的相应点对应的中间深度信息单元，并将点云数据中的各个点对应的中间深度信息单元组合在一起，以确定第二深度信息集。

本申请实施例所提及的深度信息确定方法，通过计算点云数据中的每一个点的深度信息与对应的M个切割单元的深度信息的差值，并基于差值数据确定中间深度信息单元，进而基于点云数据中的各个点对应的中间深度信息单元确定第二深度信息集的方式，实现了基于二维图像和与二维图像对应的点云数据来确定待确定深度信息的当前场景的深度信息的目的。此外，由于本申请实施例将最小差值绝对值对应的切割单元确定为点云数据中的相应点对应的中间深度信息单元，因此，进一步提高了所确定的深度信息的稠密度和精度，从而为后续基于深度信息进行的三维重建等技术提供了良好的数据支持。

图7是本申请再一示例性实施例提供的将点云数据的深度信息和M个深度信息图像的深度信息进行比较，并根据比较结果确定第二深度信息集的流程示意图。在本申请图6所示实施例的基础上延伸出本申请图7所示实施例，下面着重叙述图7所示实施例与图6所示实施例的不同之处，相同之处不再赘述。

如图7所示，在本申请实施例提供的深度信息确定方法中，分别以每一个投影点集合中的每一个投影点为中心切割每一个投影点集合所在的深度信息图像，确定多个切割单元，其中M个深度信息图像的切割方式相同步骤(即步骤312)，包括如下步骤。

步骤3121，分别以每一个投影点集合中的每一个投影点为中心，以预设边长切割每一个投影点集合所在的深度信息图像，确定多个正方形切割单元，其中M个深度信息图像的切割方式相同。

也就是说，在本申请实施例中，将切割单元的形状限定为正方形。需要说明的是，正方形的切割单元能够使该切割单元所对应的投影点处于正方形的中心，即，正方形对角线的交点上。与切割单元为圆形相比，本申请实施例能够保证深度信息图像的完整性，能够避免遗漏掉相邻切割单元之间的深度信息。

在本申请一实施例中，切割单元的形状为正方形，并且该正方形的边长尺寸范围为4像素至6像素。应当理解，如果切割单元的尺寸过大，则会影响所确定的第二深度信息集的精度；如果切割单元的尺寸过小，则会增大计算量，不利于第二深度信息集的快速确定。

示例性装置

图8是本申请一示例性实施例提供的深度信息确定装置的结构示意图。本申请实施例提供的深度信息确定装置可应用到汽车、电动车等设备的自动驾驶领域，亦可以应用到智能机器人的行进类功能领域。如图8所示，本申请实施例提供的深度信息确定装置包括：

深度信息图像确定模块100，用于基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数；

点云数据确定模块200，用于确定二维图像对应的点云数据，其中，点云数据包含第一深度信息集，并且点云数据与二维图像时间同步；

第二深度信息集生成模块300，用于基于第一深度信息集和M个深度信息图像生成第二深度信息集。

图9是本申请另一示例性实施例提供的深度信息确定装置的深度信息图像确定模块的结构示意图。在本申请图8所示实施例的基础上延伸出本申请图9所示实施例，下面着重叙述图9所示实施例与图8所示实施例的不同之处，相同之处不再赘述。

如图9所示，在本申请实施例提供的深度信息确定装置中，深度信息图像确定模块100包括：

单路图像获取单元110，用于获取单路图像；

深度信息图像确定单元120，用于利用M个深度估计模型确定出单路图像的M个深度信息图像。

图10是本申请又一示例性实施例提供的深度信息确定装置的深度信息图像确定模块的结构示意图。在本申请图8所示实施例的基础上延伸出本申请图10所示实施例，下面着重叙述图10所示实施例与图8所示实施例的不同之处，相同之处不再赘述。

如图10所示，在本申请实施例提供的深度信息确定装置中，深度信息图像确定模块100包括：

N路图像获取单元130，用于获取N路图像；

深度信息图像确定单元140，用于根据N路图像中的M个不同的集合来确定M个深度信息图像，其中，M个不同的集合中的每一个集合为任意X路图像的组合，其中，X为大于或等于1、小于或等于N的整数。

图11是本申请再一示例性实施例提供的深度信息确定装置的第二深度信息集生成模块的结构示意图。在本申请图8所示实施例的基础上延伸出本申请图11所示实施例，下面着重叙述图11所示实施例与图8所示实施例的不同之处，相同之处不再赘述。

如图11所示，在本申请实施例提供的深度信息确定装置中，第二深度信息集生成模块300包括：

比较单元310，用于将点云数据的每个点的深度信息与M个深度信息图像中的每一个深度信息图像进行比较，获得比较结果；

第二深度信息集确定单元320，用于基于比较结果确定第二深度信息集。

图12是本申请再一示例性实施例提供的深度信息确定装置的比较单元和第二深度信息集确定单元的结构示意图。在本申请图11所示实施例的基础上延伸出本申请图12所示实施例，下面着重叙述图12所示实施例与图11所示实施例的不同之处，相同之处不再赘述。

如图11所示，在本申请实施例提供的深度信息确定装置中，比较单元310包括：

投影点集合生成子单元3101，用于将点云数据的每个点分别投影到M个深度信息图像中的每一个深度信息图像中，生成M个投影点集合；

切割单元确定子单元3102，用于分别以每一个投影点集合中的每一个投影点为中心切割每一个投影点集合所在的深度信息图像，确定多个切割单元，其中M个深度信息图像的切割方式相同；

差值绝对值确定子单元3103，用于分别计算点云数据中的每一个点的深度信息与对应的M个切割单元的深度信息的差值，以确定点云数据中的每一个点与对应的M个切割单元的差值绝对值；

最小差值绝对值确定子单元3104，用于分别确定点云数据中的每一个点对应的M个差值绝对值中的最小差值绝对值；

中间深度信息确定子单元3105，用于将最小差值绝对值对应的切割单元确定为点云数据中的相应点对应的中间深度信息单元。

并且，第二深度信息集确定单元320包括：

第二深度信息集确定子单元3201，用于将点云数据中的各个点对应的中间深度信息单元组合在一起，以确定第二深度信息集。

图13是本申请再一示例性实施例提供的深度信息确定装置的比较单元和第二深度信息集确定单元的结构示意图。在本申请图12所示实施例的基础上延伸出本申请图13所示实施例，下面着重叙述图13所示实施例与图12所示实施例的不同之处，相同之处不再赘述。

如图11所示，在本申请实施例提供的深度信息确定装置中，比较单元310中的切割单元确定子单元3102包括：

正方形切割单元确定子单元31021，用于分别以每一个投影点集合中的每一个投影点为中心，以预设边长切割每一个投影点集合所在的深度信息图像，确定多个正方形切割单元，其中M个深度信息图像的切割方式相同。

应当理解，图8至图13提供的深度信息确定装置中的深度信息图像确定模块100、点云数据确定模块200和第二深度信息集生成模块300，以及深度信息图像确定模块100中包括的单路图像获取单元110、深度信息图像确定单元120、N路图像获取单元130和深度信息图像确定单元140，以及第二深度信息集生成模块300中包括的比较单元310和第二深度信息集确定单元320，以及比较单元310中包括的投影点集合生成子单元3101、切割单元确定子单元3102、差值绝对值确定子单元3103、最小差值绝对值确定子单元3104和中间深度信息确定子单元3105，以及第二深度信息集确定单元320中包括的第二深度信息集确定子单元3201，以及切割单元确定子单元3102中包括的正方形切割单元确定子单元31021的操作和功能可以参考上述图2至图7提供的深度信息确定方法，为了避免重复，在此不再赘述。

示例性电子设备

下面，参考图14来描述根据本申请实施例的电子设备。图14图示了根据本申请实施例的电子设备的框图。

如图14所示，电子设备40包括一个或多个处理器401和存储器402。

处理器401可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备40中的其他组件以执行期望的功能。

存储器402可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器401可以运行所述程序指令，以实现上文所述的本申请的各个实施例的深度信息确定方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如二维图像等各种内容。

在一个示例中，电子设备40还可以包括：输入装置403和输出装置404，这些组件通过总线***和/或其他形式的连接机构(未示出)互连。

该输入装置403可以包括例如键盘、鼠标等等。

该输出装置404可以向外部输出各种信息，包括确定出的深度信息等。该输出装置404可以包括例如显示器、通信网络及其所连接的远程输出设备等等。

当然，为了简化，图14中仅示出了该电子设备40中与本申请有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备40还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本申请的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的深度信息确定方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本申请的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的深度信息确定方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本申请的基本原理，但是，需要指出的是，在本申请中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本申请为必须采用上述具体的细节来实现。

本申请中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

还需要指出的是，在本申请的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此，本申请不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (9)

1.一种深度信息确定方法，包括：

基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数；

确定所述二维图像对应的点云数据，其中，所述点云数据包含第一深度信息集，并且所述点云数据与所述二维图像时间同步；

基于所述第一深度信息集和所述M个深度信息图像生成第二深度信息集。

2.根据权利要求1所述的方法，其中所述二维图像为单路图像；所述基于二维图像确定M个深度信息图像，包括：

获取所述单路图像；

利用M个深度估计模型确定出所述单路图像的M个深度信息图像。

3.根据权利要求1所述的方法，其中所述二维图像为N路图像，其中N为大于或等于2的整数；所述基于二维图像确定M个深度信息图像，包括：

获取所述N路图像；

所述根据N路图像中的M个不同的集合来确定M个深度信息图像，其中，所述M个不同的集合中的每一个集合为任意X路图像的组合，其中，X为大于或等于1、小于或等于N的整数。

4.根据权利要求1所述的方法，所述第一深度信息集包括所述点云数据中的每个点的深度信息；所述基于所述第一深度信息集和所述M个深度信息图像生成第二深度信息集，包括：

将所述点云数据的每个点的深度信息与所述M个深度信息图像中的每一个深度信息图像进行比较，获得比较结果；

基于所述比较结果确定第二深度信息集。

5.根据权利要求4所述的方法，其中，所述将所述点云数据的每个点的深度信息与所述M个深度信息图像中的每一个深度信息图像进行比较，获得比较结果；基于所述比较结果确定第二深度信息集，包括：

将所述点云数据的每个点分别投影到所述M个深度信息图像中的每一个深度信息图像中，生成M个投影点集合；

分别以所述每一个投影点集合中的每一个投影点为中心切割所述每一个投影点集合所在的所述深度信息图像，确定多个切割单元，其中所述M个深度信息图像的切割方式相同；

分别计算所述点云数据中的每一个点的深度信息与对应的M个切割单元的深度信息的差值，以确定所述点云数据中的每一个点与对应的所述M个切割单元的差值绝对值；

分别确定所述点云数据中的每一个点对应的M个差值绝对值中的最小差值绝对值；

将所述最小差值绝对值对应的切割单元确定为所述点云数据中的相应点对应的中间深度信息单元；

将所述点云数据中的各个点对应的中间深度信息单元组合在一起，以确定所述第二深度信息集。

6.根据权利要求5所述的方法，所述分别以所述每一个投影点集合中的每一个投影点为中心切割所述每一个投影点集合所在的深度信息图像，确定多个切割单元，包括：

分别以所述每一个投影点集合中的每一个投影点为中心，以预设边长切割所述每一个投影点集合所在的深度信息图像，确定多个正方形切割单元。

7.一种深度信息确定装置，包括：

深度信息图像确定模块，用于基于二维图像确定M个深度信息图像，其中M为大于或等于2的整数；

点云数据确定模块，用于确定所述二维图像对应的点云数据，其中，所述点云数据包含第一深度信息集，并且所述点云数据与所述二维图像时间同步；

第二深度信息集生成模块，用于基于所述第一深度信息集和所述M个深度信息图像生成第二深度信息集。

8.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-6任一所述的深度信息确定方法。

9.一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于执行上述权利要求1-6任一所述的深度信息确定方法。

Images