CN109961472B - 3d热力图生成的方法、***、存储介质及电子设备 - Google Patents

Abstract

本发明实施例提供一种3D热力图生成的方法、***、存储介质及电子设备，该方法包括：周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像，根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标，以及基于每个周期的关键点的空间坐标的方法，能够生成所述目标场景的3D热力图。相比于现有技术中的热力图，能够对目标场景中的任意空间中的位置的热力信息进行显示，从而提升了热力图显示热力信息的全面性。

Description

3D热力图生成的方法、***、存储介质及电子设备

技术领域

本发明涉及物流及计算机技术领域，具体而言，涉及一种3D热力图生成的方法、***、存储介质及电子设备。

背景技术

热力图是一种以特殊高亮的形式显示访客热衷的页面区域和访客所在的地理区域的图示。热力图可以显示不可点击区域发生的事情。

目前，在零售行业，店铺热力图已经被广泛的应用于店铺的客流分析。通过观察热力图上的颜色变化，根据颜色的深浅来判断人气区域，一般区域块的颜色越深人群越集中，颜色越浅则人群就越分散。

现有技术中，通常是通过监控视频识别人流，确定客户在店铺中的停留位置；在店铺中，停留的客户人数越多，时间越长，则该地点在热力图中的颜色越深。图1是本发明实施例中示出的一种现有技术中的商超的热力图。

在实现本发明的过程中，发明人发现现有技术中至少存在以下技术问题：

现有技术中的热力图的显示方式为2d显示，对空间中的位置的热力信息显示不全，如图1中的热力图，无法显示在整个商超中，每一层货架的热力信息。

因此，需要一种新的3D热力图生成的方法、***、存储介质及电子设备。

在所述背景技术部分公开的上述信息仅用于加强对本发明的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

有鉴于此，本发明提供一种3D热力图生成的方法、***、存储介质及电子设备，能够生成对空间中的位置信息显示更加全面的3D热力图。

本发明的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明的实践而习得。

根据本发明的第一方面，提供一种3D热力图生成的方法，其中，在目标场景中包括至少一个深度摄像头，所述方法包括：

周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像；

根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标；

基于每个周期的关键点的空间坐标，生成所述目标场景的3D热力图。

根据一些实施例，根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标，包括：

从所述RGB图像中提取关键点的RGB图像坐标；

基于所述RGB图像坐标获取所述关键点的深度坐标；

基于所述关键点的RGB图像坐标、深度坐标以及所述深度摄像头相对于所述目标场景的空间坐标，获取所述关键点在所述目标场景中的空间坐标。

根据一些实施例，从所述RGB图像中提取关键点的RGB图像坐标，包括：

基于行人检测算法，从所述RGB图像中标记行人框；

根据所述行人框以及人体关键点检测算法，提取行人的五个指尖和手腕的RGB图像坐标；

根据所述五个指尖和手腕的RGB图像坐标，计算出手掌的中心或重心，将所述中心或者重心的RGB图像坐标作为关键点的RGB图像坐标。。

根据一些实施例，当在目标场景中包括多个深度摄像头时，基于所述深度摄像头相对于所述目标场景的空间坐标，包括：获取所述深度摄像头的标识；根据所述标识查找所述深度摄像头相对于所述目标场景的空间坐标。

根据一些实施例，基于每个周期的关键点的空间坐标，生成所述目标场景的3D热力图之前，所述方法还包括：根据所述每个周期的关键点的空间坐标，判断所述关键点是否对应所述目标场景中的标记物；如果是，基于所述关键点的空间坐标，生成所述目标场景的3D热力图。

根据一些实施例，基于每个周期的关键点的空间坐标，生成所述目标场景的3D热力图，包括：3D重建所述目标场景，以获取所述目标场景的3D图像；在所述3D图像中以热力标记每个周期的关键点的空间坐标，生成所述目标场景的3D热力图。

根据本发明的第二方面，提供一种3D热力图生成的***，其中，在目标场景中包括至少一个深度摄像头，所述***包括：

第一获取模块，用于周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像；

第二获取模块，用于根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标；

生成模块，用于基于每个周期的关键点的空间坐标，生成所述目标场景的3D热力图。

根据一些实施例，所述第二获取模块，包括：

提取单元，用于从所述RGB图像中提取关键点的RGB图像坐标；

深度坐标获取单元，用于基于所述RGB图像坐标获取所述关键点的深度坐标；

空间坐标获取单元，用于基于所述关键点的RGB图像坐标、深度坐标以及所述深度摄像头相对于所述目标场景的空间坐标，获取所述关键点在所述目标场景中的空间坐标。

根据一些实施例，所述提取单元，配置为基于行人检测算法，从所述RGB图像中标记行人框，根据所述行人框以及人体关键点检测算法，提取行人的五个指尖和手腕的RGB图像坐标，根据所述五个指尖和手腕的RGB图像坐标，计算出手掌的中心或重心，所述中心或者重心的RGB图像坐标作为关键点的RGB图像坐标。

根据一些实施例，所述***还包括：判断模块，用于根据所述每个周期的关键点的空间坐标，判断所述关键点是否对应所述目标场景中的标记物；所述生成模块，用于在所述判断模块判断结果为是时，基于所述关键点的空间坐标，生成所述目标场景的3D热力图。

根据本发明的第三方面，提供一种计算机可读存储介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如第一方面所述的方法步骤。

根据本发明的第四方面，提供一种电子设备，其中，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如第一方面所述的方法步骤。

本发明上述实施例中，通过周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像，根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标，以及基于每个周期的关键点的空间坐标的方法，能够生成所述目标场景的3D热力图。相比于现有技术中的热力图，能够对目标场景中的任意空间中的位置的热力信息进行显示，从而提升了热力图显示热力信息的全面性。

附图说明

通过参照附图详细描述其示例实施例，本发明的上述和其它目标、特征及优点将变得更加显而易见。

图1是本发明实施例中示出的一种现有技术中的商超的热力图；

图2是根据一示例性实施例示出的一种3D热力图生成的方法的流程图；

图3是本发明实施例中示出的一种深度摄像头在目标场景中的布设的示意图；

图4是根据一示例性实施例示出的一种获取关键点在所述目标场景中的空间坐标的方法的流程图；

图5a是本发明实施例提出的一种目标场景的空间坐标系的示意图；

图5b是本发明实施例提出的一种以深度摄像头为原点的摄像头坐标系的示意图；

图5c是本发明实施例提出的一种RGB图像坐标系的示意图；

图5d是本发明实施例提出的一种的深度坐标系的示意图；

图6是根据本发明实施例示出的一种3D热力图生成的***的结构图；

图7是根据一示例性实施例示出的一种电子设备的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本发明将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本发明的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本发明的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

需要说明的是，虽然本发明实施例中采用第一/第二等术语来描述处理模块、时间段、销量数据，但这些术语并不能限制处理模块、时间段、销量数据，仅用于将处理模块、时间段、销量数据彼此区分开。

图2是根据一示例性实施例示出的一种3D热力图生成的方法的流程图。其中，需要说明的是，目标场景中布置了包括至少一个深度摄像头。

如图2所示，在S210中，周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像。

根据示例实施例，可以利用至少一个深度摄像头对目标场景进行监控，深度摄像头的布设需要满足能够清晰的拍摄每个标记物。

图3是本发明实施例中示出的一种深度摄像头在目标场景中的布设的示意图，该目标场景可以为便利店、超市或者商店，标记物可以为货架，通过调整每个深度摄像头的水平方向与镜头朝向的角度α，可以使这两个深度摄像头能够清楚的拍摄到目标场景中的货架。

根据示例实施例，在布设好深度摄像头后，该深度摄像头对目标场景进行录制，同时获取到的RGB视频和深度视频，需要说明的是，RGB视频与深度视频相对应。进一步的，周期性从RGB视频和深度视频获取RGB图像，并获取与该RGB图像对应的深度图像。例如，可以在RGB视频和深度视频分别取同一时刻的图像，获取到的RGB图像与深度图像相对应。

在S220中，根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标。

需要说明的是，本发明实施例中为了检测到目标场景中的空间位置的热力信息，将人手作为关键点进行检测，可以理解的是，在商超等场景中，客人经常会对货架中的某层上的商品感兴趣，拿起来查看，根据现有技术中的热力图生成的方法，只能检测到用户在该货架停留时间长，但是无法检测到用户具体是对该货架的哪一层停留时间长。本发明上述方案中，将人手作为关键点检测，可以检测到用户具体是对该货架的哪一层停留时间长，从而生成这对每层的3D热力图。

在S230中，基于每个周期的关键点的空间坐标，生成所述目标场景的3D热力图。

根据示例实施例，在生成所述目标场景的3D热力图之前，可以根据每个周期的关键点的空间坐标，判断该关键点是否对应该目标场景中的标记物，如果是，基于所述关键点的空间坐标，生成所述目标场景的3D热力图。如果否，舍弃该关键点。

需要指出的是，在商超等场景中，标记物可能是货架，周期性获取到的RGB图像和对应的深度图像中检测到的关键点可能是用户正在行走过程中，这时检测到的关键点人手可能处于正常摆动的过程中，不对应某个货架，此时检测到的人手在目标场景中的空间坐标对生成3D热力图并没有意义，因此可以将该关键点舍弃。而当检测到的关键点人手对应某个货架，将该货架上的某商品拿在手里时，此时需要根据检测到的人手在目标场景中的空间坐标对生成3D热力图。

根据示例实施例，生成目标场景的3D热力图时，可以首先3D重建该目标场景，以获取所述目标场景的3D图像。进一步的，在所述3D图像中以热力标记每个周期的关键点的空间坐标，生成所述目标场景的3D热力图。

例如，在3D图像中显示每个货架的每个层，进一步的，每个周期获取到目标场景的关键点后，根据该关键点的在该目标场景中的空间坐标后，在该3D图像中以热力标记该周期的关键点的空间坐标，生成该目标场景的3D热力图。

本发明实施例中，通过周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像，根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标，以及基于每个周期的关键点的空间坐标的方法，能够生成所述目标场景的3D热力图。相比于现有技术中的热力图，能够对目标场景中的任意空间中的位置的热力信息进行显示，从而提升了热力图显示热力信息的全面性。

下面结合具体的实施例，对本发明实施例中的根据RGB图像、深度图像以及深度摄像头相对于目标场景的空间坐标，获取关键点在目标场景中的空间坐标的方法进行详细的说明。

图4是根据一示例性实施例示出的一种获取关键点在所述目标场景中的空间坐标的方法的流程图。图5a是本发明实施例提出的一种目标场景的空间坐标系的示意图，其中，该坐标系的圆点优选为该目标场景的某一个角落，X、Y、Z三个方向分别以该角落为圆点向长、宽、高三个方向延伸。图5b是本发明实施例提出的一种以深度摄像头为原点的摄像头坐标系的示意图，如图5b所示，该摄像头坐标系在搭建的过程中，可以满足一下规则：

1、Z1与Z平行方向相反；

2、X1与X平行；

3、Y1与Y平行；

进一步的，在搭建好该摄像头坐标系后，可以获取到该摄像头的镜头朝向的方向与X1、Y1和Z1的夹角分别为

如图4所示，在S410中，从RGB图像中提取关键点的RGB图像坐标。

根据示例实施例，需要说明的是，在从该RGB图像中提取关键点的RGB图像坐标时，可以首先基于行人检测算法，例如，yolo2或者DSSD算法，从该RGB图像中标记出行人框。进而根据人体关键点检测算法，例如，openpose的人体关键点监测算法，从该行人框中提取行人的五个指尖和手腕的RGB图像坐标，并根据这五个指尖和手腕的RGB图像坐标，计算出手掌的中心或重心，最后，将所述中心或者重心的RGB图像坐标作为关键点的RGB图像坐标。如图5c所示，其是本发明实施例提出的一种RGB图像坐标系的示意图。其中，A1为摄像头的镜头朝向在RGB图像形成的中心点，G为RBG图像中提取的关键点，其与该中心点在X2和Y2上的距离分别为W和H。

在S420中，基于该RGB图像坐标获取该关键点的深度坐标。

根据示例实施例，深度图像与RGB图像相对应，深度图像中各像素点用深度表示其与摄像头的距离。在获取到关键点的RGB图像坐标(x_rgb,y_rgb)后，如图5d所示，其是本发明实施例提出的一种的深度坐标系的示意图，有图5d可以获取到RGB坐标系中的关键点对应的深度值。

在S430中，基于该关键点的RGB图像坐标、深度坐标以及该深度摄像头相对于所述目标场景的空间坐标，获取该关键点在该目标场景中的空间坐标。

在获取到关键点的深度坐标后，可以基于该深度坐标中该关键点的深度值(也就是关键点距镜头的距离)，以及预设置的距镜头距离与每像素点实际距离的对照表，计算出RGB坐标系中的关键点到距离中心点的实际距离。

例如，可以预设置对照表中距离镜头距离的各点，然后根据其真实尺寸以及其在深度坐标系中所占据的像素点，获取到距镜头距离的各点对应的每个像素点的实际距离。

距镜头距离(m)	每像素点实际距离(m)
		0-0.2	L_0-0.2
0.2-0.4	L_0.2-0.4
		……	……

表1

由表1可知，在距镜头距离为0-0.2米时，RGB坐标系中的每个像素点的实际距离为0-0.2米。

进一步的，可以从查找到W和H各占据几个像素点，根据该关键点在深度坐标系中的深度值，从对照表中查找到对应的深度下，RGB图像上每个像素点对应的实际距离，最终计算出关键点与中心点的实际距离。

进一步的，可以根据以下公式计算出关键点在目标场景中的空间坐标：

其中，

表示该关键点在深度坐标系中的深度值，

表示在该深度时每像素点的实际距离，x、y、z分别表示该关键点在目标场景中空间坐标，

表示该摄像头的镜头朝向的方向与X1、Y1和Z1的夹角。

需要说明的是，当在目标场景中包括多个深度摄像头时，可以首先获取到该深度摄像头的标识，进一步的，根据该标识从记录的各深度摄像头在目标场景中的空间坐标，查找到该深度摄像头相对于所述目标场景的空间坐标。

需要指出的是，本发明实施例中在部署深度摄像头时，尽量要求每个深度摄像头所能拍摄的范围不重叠，从而可以提高深度摄像头的利用率，在存在多个深度摄像头获取到同一个关键点的空间坐标时，针对关键点相对于目标场景的空间坐标的计算，可以选择其中一个最优的深度摄像头进行计算，或者同时获取关键点相对于多个深度摄像头的空间坐标，然后进行拟合换算，以获取到该关键点在目标场景中的空间坐标。

本发明上述实施例中，通过RGB图像提取关键点的RGB图像坐标，基于该RGB图像坐标获取所述关键点的深度坐标，基于该关键点的RGB图像坐标、深度坐标，获取所述关键点相对于所述深度摄像头的空间坐标，基于该深度摄像头相对于所述目标场景的空间坐标，获取所述关键点在所述目标场景中的空间坐标，实现了获取每个关键点在目标场景中的空间坐标，为构建3D热力图提供了基础。

需要说明的是，根据本发明实施例中的提出的3D热力图生成的方法，本领域技术人员可以对本方案进行简单的变形，例如，获取目标场景中的每个标记物在目标场景中的空间坐标，利用深度摄像头获取到的RGB图像和深度图像，检测到关键点基于标记物的空间坐标，进而计算出关键点在目标场景中的空间坐标。

应清楚地理解，本发明描述了如何形成和使用特定示例，但本发明的原理不限于这些示例的任何细节。相反，基于本发明公开的内容的教导，这些原理能够应用于许多其它实施例。

下述为本发明***实施例，可以用于执行本发明方法实施例。在下文对装置的描述中，与前述方法相同的部分，将不再赘述。

图6是根据本发明实施例示出的一种3D热力图生成的***的结构图。其中，在目标场景中包括至少一个深度摄像头，如图6所示，***600包括：

第一获取模块610，用于周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像；

第二获取模块620，用于根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标；

生成模块630，用于基于每个周期的关键点的空间坐标，生成所述目标场景的3D热力图。

根据一些实施例，所述第二获取模块620，包括：

提取单元622，用于从所述RGB图像中提取关键点的RGB图像坐标；

深度坐标获取单元624，用于基于所述RGB图像坐标获取所述关键点的深度坐标；

空间坐标获取单元626，用于基于所述关键点的RGB图像坐标、深度坐标以及所述深度摄像头相对于所述目标场景的空间坐标，获取所述关键点在所述目标场景中的空间坐标。

根据一些实施例，所述提取单元，配置为基于行人检测算法，从所述RGB图像中标记行人框，根据所述行人框以及人体关键点检测算法，提取行人的五个指尖和手腕的RGB图像坐标，根据所述五个指尖和手腕的RGB图像坐标，计算出手掌的中心或重心，所述中心或者重心的RGB图像坐标作为关键点的RGB图像坐标。

根据一些实施例，所述***还包括：判断模块640，用于根据所述每个周期的关键点的空间坐标，判断所述关键点是否对应所述目标场景中的标记物；

所述生成模块630，用于在所述判断模块判断结果为是时，基于所述关键点的空间坐标，生成所述目标场景的3D热力图。

本发明实施例中，通过周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像，根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标，以及基于每个周期的关键点的空间坐标的方法，能够生成所述目标场景的3D热力图。相比于现有技术中的热力图，能够对目标场景中的任意空间中的位置的热力信息进行显示，从而提升了热力图显示热力信息的全面性。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备可以执行：周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像；根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标；基于每个周期的关键点的空间坐标，生成所述目标场景的3D热力图。

图7是根据一示例性实施例示出的一种电子设备的结构示意图。需要说明的是，图7示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图7所示，计算机***700包括中央处理单元(CPU)701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中，还存储有***700操作所需的各种程序和数据。CPU701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

以下部件连接至I/O接口705：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时，执行本申请的终端中限定的上述功能。

需要说明的是，本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本申请各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括第一获取模块、第二获取模块和生成模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定。

以上具体示出和描述了本发明的示例性实施例。应可理解的是，本发明不限于这里描述的详细结构、设置方式或实现方法；相反，本发明意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。

Claims (6)

1.一种3D热力图生成的方法，其特征在于，在目标场景中包括至少一个深度摄像头，所述目标场景中还包括标记物，所述标记物包括多层，所述方法包括：

周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像；

根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取每个周期关键点在所述目标场景中的空间坐标；

根据每个周期的关键点的空间坐标，判断所述关键点是否对应所述目标场景中的标记物；

如果不是，则将所述关键点舍弃；

如果是，根据每个周期的关键点的空间坐标，确定所述关键点对应的所述标记物的层，以热力标记每个周期的关键点在对应层位置处的空间坐标，生成所述目标场景的3D热力图，所述3D热力图用于显示所述目标场景中的所述标记物的各个层处的热力情况；

其中，根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取关键点在所述目标场景中的空间坐标，包括：

基于行人检测算法，从所述RGB图像中标记行人框；

根据所述行人框以及人体关键点检测算法，提取行人的五个指尖和手腕的RGB图像坐标；

根据所述五个指尖和手腕的RGB图像坐标，计算出手掌的中心或重心，将所述中心或者重心的RGB图像坐标作为关键点的RGB图像坐标；基于所述RGB图像坐标获取所述关键点的深度坐标；

基于所述关键点的RGB图像坐标、深度坐标以及所述深度摄像头相对于所述目标场景的空间坐标，获取所述关键点在所述目标场景中的空间坐标；

其中，基于所述关键点的RGB图像坐标、深度坐标以及所述深度摄像头相对于所述目标场景的空间坐标，获取所述关键点在所述目标场景中的空间坐标包括：

在获取到所述关键点的深度坐标后，基于所述深度坐标中该关键点的深度值以及预设值的距所述深度摄像头距离与每像素点实际距离的对照表，确定所述关键点到所述深度摄像头的实际距离；

根据以下公式计算出关键点在目标场景中的空间坐标：

其中，

其中，

表示该关键点在深度坐标系中的深度值，

表示在该深度时每像素点的实际距离，x、y、z分别表示该关键点在目标场景的空间坐标系XYZ中的空间坐标，

表示该摄像头在摄像头坐标系X1Y1Z1中镜头朝向的方向与X1、Y1和Z1的夹角，其中Z1与Z平行方向相反，X1与X平行，Y1与Y平行，其中，深度坐标系代表所述关键点的深度值所在的坐标系，其中摄像头的镜头朝向在RGB图像中形成了中心点，所述RGB图像处于图像坐标系X2Y2中，关键点与所述中心点在X2和Y2上的距离分别为w和h。

2.如权利要求1所述的方法，其特征在于，当在目标场景中包括多个深度摄像头时，基于所述深度摄像头相对于所述目标场景的空间坐标，包括：

获取所述深度摄像头的标识；

根据所述标识查找所述深度摄像头相对于所述目标场景的空间坐标。

3.如权利要求1所述的方法，其特征在于，基于每个周期的关键点的空间坐标，生成所述目标场景的3D热力图，包括：

3D重建所述目标场景，以获取所述目标场景的3D图像；

在所述3D图像中以热力标记每个周期的关键点的空间坐标，生成所述目标场景的3D热力图。

4.一种3D热力图生成的***，其特征在于，在目标场景中包括至少一个深度摄像头，所述目标场景中还包括标记物，所述标记物包括多层，所述***包括：

第一获取模块，用于周期性从深度摄像头录制的RGB视频和深度视频获取RGB图像和对应的深度图像；

第二获取模块，用于根据所述RGB图像、所述深度图像以及所述深度摄像头相对于所述目标场景的空间坐标，获取每个周期关键点在所述目标场景中的空间坐标；

生成模块，用于根据每个周期的关键点的空间坐标，判断所述关键点是否对应所述目标场景中的标记物；如果不是，则将所述关键点舍弃；如果是，根据每个周期的关键点的空间坐标，确定所述关键点对应的所述标记物的层，以热力标记每个周期的关键点在对应层位置处的空间坐标，生成所述目标场景的3D热力图，所述3D热力图用于显示所述目标场景中的所述标记物的各个层处的热力情况；

其中，所述第二获取模块，包括：

提取单元，用于基于行人检测算法，从所述RGB图像中标记行人框，根据所述行人框以及人体关键点检测算法，提取行人的五个指尖和手腕的RGB图像坐标，

根据所述五个指尖和手腕的RGB图像坐标，计算出手掌的中心或重心，所述中心或者重心的RGB图像坐标作为关键点的RGB图像坐标；

深度坐标获取单元，用于基于所述RGB图像坐标获取所述关键点的深度坐标；

空间坐标获取单元，用于基于所述关键点的RGB图像坐标、深度坐标，以及所述深度摄像头相对于所述目标场景的空间坐标，获取所述关键点在所述目标场景中的空间坐标；

其中，基于所述关键点的RGB图像坐标、深度坐标以及所述深度摄像头相对于所述目标场景的空间坐标，获取所述关键点在所述目标场景中的空间坐标包括：

在获取到所述关键点的深度坐标后，基于所述深度坐标中该关键点的深度值以及预设值的距所述深度摄像头距离与每像素点实际距离的对照表，确定所述关键点到所述深度摄像头的实际距离；

根据以下公式计算出关键点在目标场景中的空间坐标：

其中，

其中，

表示该关键点在深度坐标系中的深度值，

表示在该深度时每像素点的实际距离，x、y、z分别表示该关键点在目标场景的空间坐标系XYZ中的空间坐标，

表示该摄像头在摄像头坐标系X1Y1Z1中镜头朝向的方向与X1、Y1和Z1的夹角，其中Z1与Z平行方向相反，X1与X平行，Y1与Y平行，其中，深度坐标系代表所述关键点的深度值所在的坐标系，其中摄像头的镜头朝向在RGB图像中形成了中心点，所述RGB图像处于图像坐标系X2Y2中，关键点与所述中心点在X2和Y2上的距离分别为w和h。

5.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现权利要求1-3任一项所述的方法步骤。

6.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1-3中任一项所述的方法步骤。

Images