CN111191582A - 三维目标检测方法、检测装置、终端设备及计算机可读存储介质 - Google Patents

三维目标检测方法、检测装置、终端设备及计算机可读存储介质 Download PDF

Info

Publication number
CN111191582A
CN111191582A CN201911383359.0A CN201911383359A CN111191582A CN 111191582 A CN111191582 A CN 111191582A CN 201911383359 A CN201911383359 A CN 201911383359A CN 111191582 A CN111191582 A CN 111191582A
Authority
CN
China
Prior art keywords
image
point cloud
cloud data
instance
data corresponding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911383359.0A
Other languages
English (en)
Other versions
CN111191582B (zh
Inventor
刘培超
徐培
郎需林
刘主福
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Yuejiang Technology Co Ltd
Original Assignee
Shenzhen Yuejiang Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Yuejiang Technology Co Ltd filed Critical Shenzhen Yuejiang Technology Co Ltd
Priority to CN201911383359.0A priority Critical patent/CN111191582B/zh
Publication of CN111191582A publication Critical patent/CN111191582A/zh
Application granted granted Critical
Publication of CN111191582B publication Critical patent/CN111191582B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/64—Three-dimensional objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/50—Depth or shape recovery
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20092—Interactive image processing based on input by user
    • G06T2207/20104—Interactive definition of region of interest [ROI]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

本申请适用于计算机视觉技术领域，提供了一种三维目标检测方法、检测装置、终端设备及计算机可读存储介质，包括：获取待检测场景的深度图像以及RGB图像，并将所述深度图像转换为第一点云数据；对所述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据；将每一个所述实例对应的第二点云数据映射至所述RGB图像，得到每一个所述实例对应的实例图像；对所述实例图像进行图像识别，得到所述实例图像对应的实例的识别结果。本申请可解决在低计算的复杂度和低成本的情况下，目标检测的准确率低的技术问题。

Description

三维目标检测方法、检测装置、终端设备及计算机可读存储 介质
技术领域
本申请属于计算机视觉技术领域，尤其涉及一种三维目标检测方法、检测装置、终端设备及计算机可读存储介质。
背景技术
3D目标检测是在图像或视频中检测和识别出感兴趣目标的位姿和类别，相对于2D目标检测，需要检测出目标在3D空间中的位置，这对检测算法提出了更高的要求。
目前，3D目标检测算法主要有深度神经网络法以及特征工程算法，深度神经网络算法直接对点云数据进行处理，特征工程算法构造物体3D特征，然后将目标与模板匹配。然而，不管是利用深度神经网络算法还是特征工程算法，目标检测的高准确率都是以计算的复杂度为代价的，且计算的复杂度高，导致成本也高。因此，目前需要一种在低计算的复杂度和成本的情况下，又能提高目标检测的准确率的方法。
发明内容
本申请实施例提供了三维目标检测方法、检测装置、终端设备及计算机可读存储介质，可以解决在低计算的复杂度和低成本的情况下，目标检测的准确率低的技术问题。
第一方面，本申请实施例提供了一种三维目标检测方法，包括：
获取待检测场景的深度图像以及RGB图像，并将上述深度图像转换为第一点云数据；
对上述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据；
将每一个上述实例对应的第二点云数据映射至上述RGB图像，得到每一个上述实例对应的实例图像；
对上述实例图像进行图像识别，得到上述实例图像对应的实例的识别结果。
第二方面，本申请实施例提供了一种三维目标检测装置，包括：
图像获取模块，用于获取待检测场景的深度图像以及RGB图像，并将上述深度图像转换为第一点云数据；
实例分割模块，用于对上述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据；
第一映射模块，用于将每一个上述实例对应的第二点云数据映射至上述RGB图像，得到每一个上述实例对应的实例图像；
识别模块，用于对上述实例图像进行图像识别，得到上述实例图像对应的实例的识别结果。
第三方面，本申请实施例提供了一种终端设备，包括存储器、处理器以及存储在上述存储器中并可在上述处理器上运行的计算机程序，上述处理器执行上述计算机程序时实现如上述第一方面所述方法的步骤。
第四方面，本申请实施例提供了一种计算机可读存储介质，上述计算机可读存储介质存储有计算机程序，上述计算机程序被处理器执行时实现如上述第一方面所述方法的步骤。
第五方面，本申请实施例提供了一种计算机程序产品，上述计算机程序产品包括计算机程序，上述计算机程序被一个或多个处理器执行时实现如上述第一方面所述方法的步骤。
可以理解的是，上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述，在此不再赘述。
由上可见，本申请提供一种三维目标检测方法，首先，获取待检测场景的深度图像以及RGB图像(待检测场景包含了感兴趣的目标，比如，待检测场景为包含了气球多个的草坪，气球为感兴趣的目标)，并将上深度图像转换为第一点云数据；对上述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据(比如，草坪上包含了多个气球，对第一点云数据进行实例分割后，得到每个气球对应的第二点云数据)；将每一个上述实例对应的第二点云数据映射至上述RGB图像，得到每一个上述实例对应的实例图像；对上述实例图像进行图像识别，得到上述实例图像对应的实例的识别结果。
显然，本申请先对点云数据做了实例分割，再将分割后的点云数据映射到RGB图像，不是直接对点云数据进行处理，从而降低计算的复杂度。且将分割后的点云数据映射到RGB图像使得实例可更加准确地在RGB图像上找到对应的实例图像，同时，将点云数据映射到RGB图像，得到实例对应的实例图像，对实例图像单独进行识别，从而可提高实例识别的准确率。因此，本申请的技术方案可以在低计算的复杂度和低成本的情况下，提高三维目标检测的准确率。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例一提供的一种三维目标检测方法的实现流程示意图；
图2是本申请实施例一提供的一种得到实例图像的方法的实现流程示意图；
图3是本申请实施例一提供的掩码图像包围框的示意图；
图4是本申请实施例一提供的训练预设神经网络的方法的流程示意图；
图5是本申请实施例二提供的一种三维目标检测方法的流程示意图；
图6是本申请实施例提供的三维目标检测装置的结构示意图；
图7是本申请实施例提供的终端设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定***结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的***、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
本申请实施例提供的三维目标检测方法可以应用于手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality，AR)/虚拟现实(virtual reality，VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本、个人数字助理(personal digital assistant，PDA)等终端设备上，本申请实施例对终端设备的具体类型不作任何限制。
为了说明本申请所述的技术方案，下面通过具体实施例来进行说明。
实施例一
步骤S101、获取待检测场景的深度图像以及RGB图像，并将上述深度图像转换为第一点云数据；
在步骤S101中，获取待检测场景的深度图像以及RGB图像可通过多目摄像头获取，比如使用双目摄像头进行获取待检测场景的深度图像以及RGB图像，一个摄像头获取深度图像，另外一个摄像头获取RGB图像；或者使用三目摄像头进行待检测场景的深度图像以及RGB图像，此时两个摄像头获取深度图像，一个摄像头获取RGB图像，以便获得更加全面深度信息的深度图像。待检测场景为包含感兴趣目标的场景，比如，感兴趣的目标为气球，气球在草坪上，则待检测场景为草坪，需要从草坪上识别出气球。
另外，上述深度图像以及RGB图像可以通过本实施例的终端设备采集，也可以通过其他终端设备采集后，再发送至本实施例的终端设备进行处理。在本实施例中，对获取上述深度图像以及RGB图像的终端设备不做限定。
步骤S102、对上述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据；
在步骤S102中，分割算法的具体类型可以根据实际需求进行选择。例如，可以选择局部凸连接打包一波带走法(Locally Convex Connected Patches，LCCP)以及欧式聚类算法等作为本实施例采用的分割算法。在本申请的实施例中，对分割算法的类型不做限定。
对上述第一点云数据进行实例分割，从而可得到不同个体对应的第二点云数据，比如，感兴趣的目标为气球，气球在草坪上，则待检测场景为草坪，对图上的气球进行分割后，可得到每个气球对应的第二点云数据。
在本实施例中，不是直接对点云数据进行处理，是先对点云数据进行实例分割，再对分割后的点云数据进行后续的处理，从而降低计算的复杂度。
步骤S103、将每一个上述实例对应的第二点云数据映射至上述RGB图像，得到每一个上述实例对应的实例图像；
在步骤S103中，根据以下映射关系式将每一个上述实例对应的第二点云数据映射至上述RGB图像：
Figure BDA0002342836240000061
其中，点pD(xD,yD,zD)为每个实例对应的第二点云数据在获取深度图像的摄像头上的坐标表示，pW(zDu,zDv,zD)为每个实例对应的第二点云数据的像素坐标表示，
Figure BDA0002342836240000062
为系数矩阵，其中fu＝f/dX,fv＝f/dY,分别称为u轴和v轴上的归一化焦距；f是相机的焦距,dX和dY分别表示传感器u轴和v轴上单位像素的尺寸大小,uo,vo为主点坐标。
在本实施例中，将分割后的点云数据映射到RGB图像使得实例可更加准确地在RGB图像上找到对应的实例图像，找到每一个实例对应的实例图像后，再执行步骤S104。
在本实施例中，可以使用如图2所述的方法来得到每一个上述实例对应的实例图像。
如图2所述，通过步骤S201-S203来得到每一个上述实例对应的实例图像。
步骤S201、将每一个上述实例对应的第二点云数据映射至上述RGB图像，得到每一个上述实例对应的掩码图像；
在步骤S201中，对每一个上述实例对应的第二点云数据映射至上述RGB图像后得到的图像进行掩码操作，即可得到掩码图像，对每一个上述实例对应的第二点云数据映射至上述RGB图像后得到的图像进行掩码操作，以便去掉每一个上述实例对应的第二点云数据映射至上述RGB图像后得到的图像中不感兴趣的区域，从而减少计算量。
步骤S202、确定上述每一个实例对应的掩码图像的包围框；
在一些可能的实现方式中，上述每一个实例对应的掩码图像的包围框可以为每一个掩码图像的外轮廓(如图3中的301)，此时，计算量比较小。
在另一些可能的实现方式中，包围框也可以为掩码图像的最小矩形包围框(如图3中的302)，此时的计算量大于包围框为每一个掩码图像的外轮廓的情形，然而，在后续的步骤S203中，可提高对上述RGB图像的分割准确率。
在另一些可能的实现方式中，包围框也可以为比掩码图像大预设比例的矩形包围框(如图3中的303)，此时，在后续的步骤S203中，对上述RGB图像的分割准确率比较高，然而，计算量也随之增加，上述预设比例用户可根据实际需要设定，在此不做具体限定。
用户可根据实际需要确定掩码图像的包围框中具体形态，在此不做具体限定。
步骤S203、根据上述包围框对上述RGB图像进行分割，得到每一个上述实例对应的实例图像；
在步骤S203中，根据包围框对RGB图像进行分割，以便得到每一个实例对应的实例图像，从而可以将实例图像输入图像识别模块进行识别。
在本实施例中，通过得到每一个实例对应的掩码图像，去掉每一个上述实例对应的第二点云数据映射至上述RGB图像后得到的图像中不感兴趣的区域，从而减少计算量。再根据掩码图像的包围框对上述RGB图像进行分割，以便提高述RGB图像分割的准确率。
需要说明的是，在一些可能的实现方式中，可以先对第一点云数据进行分割，得到至少一个实例对应的第二点云数据之前，先将上述第一点云数据映射至RGB空间，得到第三点云数据，然后再对第三点云数据进行实例分割，得到至少一个实例对应的第二点云数据，最后再执行步骤S103。
根据以下关系式，将上述第一点云数据映射至RGB空间：
Figure BDA0002342836240000081
其中，PD(XD,YD,ZD)为第一点云数据在获取深度图像的摄像头坐标系下的坐标表示，PR(XR,YR,ZR)为第三点云数据在获取RGB图像的摄像头坐标系下的坐标表示，[Rt]为***矩阵，其中R为转转矩阵，t为平移矩阵。
相应地，将每一个上述实例对应的第二点云数据映射至上述RGB图像的映射关系为：
Figure BDA0002342836240000082
其中，点pR(xR,yR,zR)为每个实例对应的第二点云数据在获取RGB图像的摄像头坐标系下的坐标表示，，pW(zRu,zRv,zR)为每个实例对应的第二点云数据的像素坐标表示，
Figure BDA0002342836240000083
为系数矩阵，其中fu＝f/dX,fv＝f/dY,分别称为u轴和v轴上的归一化焦距；f是相机的焦距,dX和dY分别表示传感器u轴和v轴上单位像素的尺寸大小,uo,vo为主点坐标。
在另一些可能的实现方式中，也可以先对上述第一点云数据进行分割，得到至少一个实例对应的第二点云数据之后，再将每一个实例对应的第二点云数据映射至RGB空间，得到每一个实例对应的第四点云数据，之后再根据第四点云数据执行步骤S103。相应地，步骤S103为将每一个实例对应的第四点云数据映射至上述RGB图像，得到每一个实例对应的实例图像。将每一个实例对应的第二点云数据映射至RGB空间的映射关系与将上述第一点云数据映射至RGB空间的相同，在此不再赘述。
由于获取深度图像的摄像头的坐标系和获取RGB图像的摄像头的坐标系不一致，因此，将第一点云数据映射至RGB空间，以便得到在获取RGB图像的摄像头的坐标系上表示的第三点云数据，再对第三点云数据进行实例分割，得到至少一个实例对应的第二点云数据，或者，将每一个实例对应的第二点云数据映射至RGB空间，得到每一个实例对应的第四点云数据，从而使得每一个实例对应的第二点云数据(第四点云数据)更好地映射到上述RGB图像上。
步骤S104、对上述实例图像进行图像识别，得到上述实例图像对应的实例的识别结果。
在步骤S104中，根据预设的神经网络模型对上述实例图像进行图像识别。参照图4，在本实施例中，可通过步骤S401-S402训练预设的神经网络模型。
步骤S401、获取训练样本数据，其中，上述训练样本数据包括样本图像和上述样本图像的标注；
在对预设的神经网络模型进行训练之前，需对训练样本图像进行标注。训练样本图像为分割后的实例图像，先对实例图像进行分类，每个类别的实例图像的张数可以根据用户实际需要进行设定，例如，可以设定为100-200张。
步骤S402、将上述训练样本数据输入预设的神经网络模型中进行训练，得到经过训练的预设的神经网络模型；
将标注好的实例图像输入输入预设的神经网络模型中进行训练，得到经过训练的预设的神经网络模型。
此外，还可准备一个验证数据集，以便验证预设的神经网络模型对实例图像的类别判断是否正确，如果预设的神经网络模型对实例图像的类别判断错误，则对分类错误的图像再次进行训练。
综上，本申请提供一种三维目标检测方法，首先，获取待检测场景的深度图像以及RGB图像(待检测场景包含了感兴趣的目标，比如，待检测场景为包含了气球多个的草坪，气球为感兴趣的目标)，并将上深度图像转换为第一点云数据；对上述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据(比如，草坪上包含了多个气球，对第一点云数据进行实例分割后，得到每个气球对应的第二点云数据)；将每一个上述实例对应的第二点云数据映射至上述RGB图像，得到每一个上述实例对应的实例图像；对上述实例图像进行图像识别，得到上述实例图像对应的实例的识别结果。
显然，本申请先对点云数据做了实例分割，再将分割后的点云数据映射到RGB图像，不是直接对点云数据进行处理，从而降低计算的复杂度。且将分割后的点云数据映射到RGB图像使得实例可更加准确地在RGB图像上找到对应的实例图像，同时，将点云数据映射到RGB图像，得到实例对应的实例图像，对实例图像单独进行识别，从而可提高实例识别的准确率。因此，本申请的技术方案可以在低计算的复杂度和低成本的情况下，提高三维目标检测的准确率。
实施例二
下面对本申请实施例二提供的三维目标检测方法进行描述，请参阅附图5，该方法包括：
步骤S501-S504与实施例一中的步骤S101-S104相同，在此不再赘述。
在步骤S505中，根据上述目标实例对应的第二点云数据确定抓取位姿；
在步骤S505中，得到所述实例图像对应的识别结果后，比如，该实例图像的判定类别为气球，即目标实例为气球，使用聚类算法抓取气球对应的第二点云数据，再通过计算气球对应的第二点云数据的主曲率和主方向得到每一个气球对应的点的姿态，从而确定每一个气球的位姿。
主曲率的计算方式可以根据实际需求进行确定。例如，可以通过三次曲面拟合算法、基于网络数据算法或直接对点云数据进行微分几何特征量的计算算法计算主曲率。
在步骤S506中，将上述抓取位姿发送至机械臂，以指示上述机械臂执行与上述抓取位姿对应的抓取操作；
在步骤S506中，将抓取的每一个实例对应的位姿发送至机械臂，比如，当抓取到气球对应的位姿时，将气球的位姿发送至机械臂，以便机械臂执行与抓取的每一个实例对应的位姿对应的抓取操作。
实例图像的识别结果只包含了实例的类别，并没有包括实例的三维空间的位姿，因此，在得到所述实例图像对应的识别结果后，根据实例类别确定每一个实例对应的三维空间的位姿，实现只通过深度图像即可获取到每一个实例对应的三维空间的位姿，将每一个实例对应的三维空间的位姿发送给机械臂，以便控制机械臂对实例进行分拣。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
实施例三
对应于上文实施例所述的三维目标检测方法，图6示出了本申请实施例提供的三维目标检测装置的结构框图，为了便于说明，仅示出了与本申请实施例相关的部分。
参照图6，该装置600包括：
图像获取模块601，用于获取待检测场景的深度图像以及RGB图像，并将上述深度图像转换为第一点云数据；
实例分割模块602，用于对上述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据；
第一映射模块603，用于将每一个上述实例对应的第二点云数据映射至上述RGB图像，得到每一个上述实例对应的实例图像；
识别模块604，用于对上述实例图像进行图像识别，得到上述实例图像对应的实例的识别结果。
可选地，装置600还包括：
第二映射模块，用于将上述第一点云数据映射至RGB空间，得到第三点云数据；
相应的，对上述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据包括：
对上述第三点云数据进行实例分割，得到至少一个实例对应的第二点云数据。
可选地，第一映射模块603具体用于：
将每一个上述实例对应的第二点云数据映射至RGB空间，得到每一个上述实例对应的第四点云数据；
将每一个上述实例对应的第四点云数据映射至上述RGB图像，得到每一个上述实例对应的实例图像。
可选地，第一映射模块603包括：
映射单元，用于将每一个上述实例对应的第二点云数据映射至上述RGB图像，得到每一个上述实例对应的掩码图像；
包围框确定单元，用于确定上述每一个实例对应的掩码图像的包围框；
分割单元，根据上述包围框对上述RGB图像进行分割，得到每一个上述实例对应的实例图像。
可选地，识别模块604具体用于：
根据预设的神经网络模型对上述实例图像进行图像识别。
可选地，识别模块604包括：
训练样本数据获取单元，用于获取训练样本数据，其中，上述训练样本数据包括样本图像和上述样本图像的标注；
训练样本数据输入单元，用于将上述训练样本数据输入预设的神经网络模型中进行训练，得到经过训练的预设的神经网络模型。
可选地，装置600还包括：
抓取位姿确定模块，用于根据上述目标实例对应的第二点云数据确定抓取位姿；
抓取位姿发送模块，用于将上述抓取位姿发送至机械臂，以指示上述机械臂执行与上述抓取位姿对应的抓取操作。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
实施例四
图7是本申请实施例三提供的终端设备的示意图。如图7所示，该实施例的终端设备700包括：处理器701、存储器702以及存储在上述存储器702中并可在上述处理器701上运行的计算机程序703。上述处理器701执行上述计算机程序703时实现上述各个方法实施例中的步骤。或者，上述处理器701执行上述计算机程序703时实现上述各装置实施例中各模块/单元的功能。
示例性的，上述计算机程序703可以被分割成一个或多个模块/单元，上述一个或者多个模块/单元被存储在上述存储器702中，并由上述处理器701执行，以完成本申请。上述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述上述计算机程序703在上述终端设备700中的执行过程。例如，上述计算机程序703可以被分割成图像获取模块、实例分割模块、第一映射模块以及识别模块，各模块具体功能如下：
获取待检测场景的深度图像以及RGB图像，并将所述深度图像转换为第一点云数据；
对所述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据；
将每一个所述实例对应的第二点云数据映射至所述RGB图像，得到每一个所述实例对应的实例图像；
对所述实例图像进行图像识别，得到所述实例图像对应的实例的识别结果。
上述终端设备可包括，但不仅限于，处理器701、存储器702。本领域技术人员可以理解，图7仅仅是终端设备700的示例，并不构成对终端设备700的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如上述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器701可以是中央处理单元(Central Processing Unit，CPU)，还可以是其它通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
上述存储器702可以是上述终端设备700的内部存储单元，例如终端设备700的硬盘或内存。上述存储器702也可以是上述终端设备700的外部存储设备，例如上述终端设备700上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。进一步地，上述存储器702还可以既包括上述终端设备700的内部存储单元也包括外部存储设备。上述存储器702用于存储上述计算机程序以及上述终端设备所需的其它程序和数据。上述存储器702还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将上述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/终端设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/终端设备实施例仅仅是示意性的，例如，上述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述各个方法实施例中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，上述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，上述计算机程序包括计算机程序代码，上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括：能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，上述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上上述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种三维目标检测方法，其特征在于，包括：
获取待检测场景的深度图像以及RGB图像，并将所述深度图像转换为第一点云数据；
对所述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据；
将每一个所述实例对应的第二点云数据映射至所述RGB图像，得到每一个所述实例对应的实例图像；
对所述实例图像进行图像识别，得到所述实例图像对应的实例的识别结果。
2.如权利要求1所述的三维目标检测方法，其特征在于，在所述对所述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据之前，还包括：
将所述第一点云数据映射至RGB空间，得到第三点云数据；
相应的，所述对所述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据包括：
对所述第三点云数据进行实例分割，得到至少一个实例对应的第二点云数据。
3.如权利要求1所述的三维目标检测方法，其特征在于，所述将每一个所述实例对应的第二点云数据映射至所述RGB图像，得到每一个所述实例对应的实例图像包括：
将每一个所述实例对应的第二点云数据映射至RGB空间，得到每一个所述实例对应的第四点云数据；
将每一个所述实例对应的第四点云数据映射至所述RGB图像，得到每一个所述实例对应的实例图像。
4.如权利要求1所述的三维目标检测方法，其特征在于，所述将每一个所述实例对应的第二点云数据映射至所述RGB图像，得到每一个所述实例对应的实例图像包括：
将每一个所述实例对应的第二点云数据映射至所述RGB图像，得到每一个所述实例对应的掩码图像；
确定所述每一个实例对应的掩码图像的包围框；
根据所述包围框对所述RGB图像进行分割，得到每一个所述实例对应的实例图像。
5.如权利要求1所述的三维目标检测方法，其特征在于，所述对所述实例图像进行图像识别包括：
根据预设的神经网络模型对所述实例图像进行图像识别。
6.如权利要求5所述的三维目标检测方法，其特征在于，所述预设的神经网络模型的训练方法如下：
获取训练样本数据，其中，所述训练样本数据包括样本图像和所述样本图像的标注；
将所述训练样本数据输入预设的神经网络模型中进行训练，得到经过训练的预设的神经网络模型。
7.如权利要求1所述的三维目标检测方法，其特征在于，在所述对所述实例图像进行图像识别，得到所述实例图像对应的实例的识别结果之后，包括：
根据所述目标实例对应的第二点云数据确定抓取位姿；
将所述抓取位姿发送至机械臂，以指示所述机械臂执行与所述抓取位姿对应的抓取操作。
8.一种三维目标检测装置，其特征在于，包括：
图像获取模块，用于获取待检测场景的深度图像以及RGB图像，并将所述深度图像转换为第一点云数据；
实例分割模块，用于对所述第一点云数据进行实例分割，得到至少一个实例对应的第二点云数据；
第一映射模块，用于将每一个所述实例对应的第二点云数据映射至所述RGB图像，得到每一个所述实例对应的实例图像；
识别模块，用于对所述实例图像进行图像识别，得到所述实例图像对应的实例的识别结果。
9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的方法。
CN201911383359.0A 2019-12-27 2019-12-27 三维目标检测方法、检测装置、终端设备及计算机可读存储介质 Active CN111191582B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911383359.0A CN111191582B (zh) 2019-12-27 2019-12-27 三维目标检测方法、检测装置、终端设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911383359.0A CN111191582B (zh) 2019-12-27 2019-12-27 三维目标检测方法、检测装置、终端设备及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN111191582A true CN111191582A (zh) 2020-05-22
CN111191582B CN111191582B (zh) 2022-11-01

Family

ID=70707779

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911383359.0A Active CN111191582B (zh) 2019-12-27 2019-12-27 三维目标检测方法、检测装置、终端设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN111191582B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112102397A (zh) * 2020-09-10 2020-12-18 敬科(深圳)机器人科技有限公司 一种多层零件的定位方法、设备、***及可读存储介质
CN112215861A (zh) * 2020-09-27 2021-01-12 深圳市优必选科技股份有限公司 一种足球检测方法、装置、计算机可读存储介质及机器人
CN112785714A (zh) * 2021-01-29 2021-05-11 北京百度网讯科技有限公司 点云实例标注方法及装置、电子设备和介质
CN113447923A (zh) * 2021-06-29 2021-09-28 上海高德威智能交通***有限公司 目标检测方法、装置、***、电子设备及存储介质
CN113761999A (zh) * 2020-09-07 2021-12-07 北京京东乾石科技有限公司 一种目标检测方法、装置、电子设备和存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107576960A (zh) * 2017-09-04 2018-01-12 苏州驾驶宝智能科技有限公司 视觉雷达时空信息融合的目标检测方法及***
CN107748890A (zh) * 2017-09-11 2018-03-02 汕头大学 一种基于深度图像的视觉抓取方法、装置及其可读存储介质
CN108171748A (zh) * 2018-01-23 2018-06-15 哈工大机器人（合肥）国际创新研究院 一种面向机器人智能抓取应用的视觉识别与定位方法
CN108734120A (zh) * 2018-05-15 2018-11-02 百度在线网络技术（北京）有限公司 标注图像的方法、装置、设备和计算机可读存储介质
CN109614889A (zh) * 2018-11-23 2019-04-12 华为技术有限公司 对象检测方法、相关设备及计算机存储介质
CN109886272A (zh) * 2019-02-25 2019-06-14 腾讯科技（深圳）有限公司 点云分割方法、装置、计算机可读存储介质和计算机设备
US20190206071A1 (en) * 2017-12-29 2019-07-04 Baidu Online Network Technology (Beijing) Co., Ltd. Method and apparatus for recovering point cloud data
CN110472534A (zh) * 2019-07-31 2019-11-19 厦门理工学院 基于rgb-d数据的3d目标检测方法、装置、设备和存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107576960A (zh) * 2017-09-04 2018-01-12 苏州驾驶宝智能科技有限公司 视觉雷达时空信息融合的目标检测方法及***
CN107748890A (zh) * 2017-09-11 2018-03-02 汕头大学 一种基于深度图像的视觉抓取方法、装置及其可读存储介质
US20190206071A1 (en) * 2017-12-29 2019-07-04 Baidu Online Network Technology (Beijing) Co., Ltd. Method and apparatus for recovering point cloud data
CN108171748A (zh) * 2018-01-23 2018-06-15 哈工大机器人（合肥）国际创新研究院 一种面向机器人智能抓取应用的视觉识别与定位方法
CN108734120A (zh) * 2018-05-15 2018-11-02 百度在线网络技术（北京）有限公司 标注图像的方法、装置、设备和计算机可读存储介质
CN109614889A (zh) * 2018-11-23 2019-04-12 华为技术有限公司 对象检测方法、相关设备及计算机存储介质
CN109886272A (zh) * 2019-02-25 2019-06-14 腾讯科技（深圳）有限公司 点云分割方法、装置、计算机可读存储介质和计算机设备
CN110472534A (zh) * 2019-07-31 2019-11-19 厦门理工学院 基于rgb-d数据的3d目标检测方法、装置、设备和存储介质

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113761999A (zh) * 2020-09-07 2021-12-07 北京京东乾石科技有限公司 一种目标检测方法、装置、电子设备和存储介质
CN113761999B (zh) * 2020-09-07 2024-03-05 北京京东乾石科技有限公司 一种目标检测方法、装置、电子设备和存储介质
CN112102397A (zh) * 2020-09-10 2020-12-18 敬科(深圳)机器人科技有限公司 一种多层零件的定位方法、设备、***及可读存储介质
CN112102397B (zh) * 2020-09-10 2021-05-11 敬科(深圳)机器人科技有限公司 一种多层零件的定位方法、设备、***及可读存储介质
CN112215861A (zh) * 2020-09-27 2021-01-12 深圳市优必选科技股份有限公司 一种足球检测方法、装置、计算机可读存储介质及机器人
CN112785714A (zh) * 2021-01-29 2021-05-11 北京百度网讯科技有限公司 点云实例标注方法及装置、电子设备和介质
CN113447923A (zh) * 2021-06-29 2021-09-28 上海高德威智能交通***有限公司 目标检测方法、装置、***、电子设备及存储介质

Also Published As

Publication number Publication date
CN111191582B (zh) 2022-11-01

Similar Documents

Publication Publication Date Title
CN111191582B (zh) 三维目标检测方法、检测装置、终端设备及计算机可读存储介质
US11379699B2 (en) Object detection method and apparatus for object detection
CN110705405B (zh) 目标标注的方法及装置
WO2022170844A1 (zh) 一种视频标注方法、装置、设备及计算机可读存储介质
CN109117773B (zh) 一种图像特征点检测方法、终端设备及存储介质
CN112348778B (zh) 一种物体识别方法、装置、终端设备及存储介质
CN109948397A (zh) 一种人脸图像校正方法、***及终端设备
CN110852311A (zh) 一种三维人手关键点定位方法及装置
CN111223065A (zh) 图像矫正方法、不规则文本识别方法、装置、存储介质和设备
CN110781770B (zh) 基于人脸识别的活体检测方法、装置及设备
CN112651380A (zh) 人脸识别方法、人脸识别装置、终端设备及存储介质
CN111325107A (zh) 检测模型训练方法、装置、电子设备和可读存储介质
CN113744256A (zh) 一种深度图空洞填充方法、装置、服务器及可读存储介质
CN112200056A (zh) 人脸活体检测方法、装置、电子设备及存储介质
CN112395962A (zh) 数据增广方法及装置、物体识别方法及***
CN108805838B (zh) 一种图像处理方法、移动终端及计算机可读存储介质
CN108960246B (zh) 一种用于图像识别的二值化处理装置及方法
CN114842466A (zh) 目标检测方法、计算机程序产品和电子设备
CN113570725A (zh) 基于聚类的三维表面重建方法、装置、服务器及存储介质
CN111709377A (zh) 特征提取方法、目标重识别方法、装置及电子设备
CN110610178A (zh) 图像识别方法、装置、终端及计算机可读存储介质
CN112287945A (zh) 碎屏确定方法、装置、计算机设备及计算机可读存储介质
CN117011481A (zh) 构建三维地图的方法、装置、电子设备及存储介质
CN112819953B (zh) 三维重建方法、网络模型训练方法、装置及电子设备
CN110674817B (zh) 一种基于双目摄像头的车牌防伪的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder

Address after: 518000 1003, building 2, Chongwen Park, Nanshan wisdom Park, 3370 Liuxian Avenue, Fuguang community, Taoyuan Street, Nanshan District, Shenzhen City, Guangdong Province

Patentee after: Shenzhen Yuejiang Technology Co.,Ltd.

Address before: 518000 1003, building 2, Chongwen Park, Nanshan wisdom Park, 3370 Liuxian Avenue, Fuguang community, Taoyuan Street, Nanshan District, Shenzhen City, Guangdong Province

Patentee before: SHENZHEN YUEJIANG TECHNOLOGY Co.,Ltd.

CP01 Change in the name or title of a patent holder