CN109079786B - 机械臂抓取自学习方法及设备 - Google Patents

Abstract

本发明的目的是提供一种机械臂抓取自学习方法及设备，本申请通过机械臂末端向可能是物体的点云组施加作用力，利用力传感器和机械臂末端的运动情况判断是否为物体；推动物体后，验证候选物体的点云组是不是属于同一个物体，同时根据运动点云的前后变化求得物体实际的边界，实现机械臂可以进行自我探索，学习可以抓取的位置，机械臂能高效的学习可以抓取的位置，降低成本，并达到良好的效果。

Description

机械臂抓取自学习方法及设备

技术领域

本发明涉及计算机领域，尤其涉及一种机械臂抓取自学习方法及设备。

背景技术

给定一个物体，给定一个任务，给定一个手，这个手该怎么根据这个任务去抓这个物体才是最好的？当前现有的方法是通过增强学习，自动学习物体的抓取。然而该方法最大的问题是数据收集的问题。现有的使用增强学习的方法自动学习抓取中，为了获取数据，需要使用了50台机械臂，采集超过一个月的时间。所以，传统机器人抓取需要大量学习样本，成本很高。

发明内容

本发明的一个目的是提供一种机械臂抓取自学习方法及设备。

根据本发明的一个方面，提供了一种机械臂抓取自学习方法，该方法包括：

步骤S1，获取场景的RGBD图像，得到所述场景的RGBD图像中的候选物体的点云组；

步骤S2，利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近该组点云的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

步骤S3，移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达所述预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体；

步骤S4，根据施加所述作用力的过程中所述候选物体点云组的移动，验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

步骤S5，由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用model-free的抓取方法计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂所述抓取物体。

进一步的，上述方法中，得到所述场景的RGBD图像中的候选物体的点云组，包括：

通过深度神经网络或几何信息的先验，得到所述场景的RGBD图像中的候选物体的点云组，候选物体的点云组为可能是物体的点云组

进一步的，上述方法中，所述深度神经网络包括VoxelNet。

进一步的，上述方法中，所述几何信息的先验包括Real-Time 3D Segmentationof Cluttered Scenes for Robot Grasping。

进一步的，上述方法中，根据所述运动方向并利用路径规划，求得所述机械臂在所述候选物体表面的接触点。

进一步的，上述方法中，与所述机械臂连接的力传感器检测施加的所述作用力之后，还包括：若在所述作用力到达所述预设阈值时，所述候选物体的点云组未发生移动时，则判定所述候选物体的点云组不是物体，本轮流程结束，返回所述步骤S1。

进一步的，上述方法中，验证所述候选物体的点云组包括：

使用光流或者dense correspondence验证所述候选物体的点云组。

进一步的，上述方法中，验证所述候选物体的点云组之后，还包括：

若验证结果是所述候选物体的点云组属于多个个物体，随机挑选其中一个物体，根据所述候选物体点云组的移动中前后变化，求得挑选出的物体实际的体边界。

根据本发明的另一方面，还提供了一种基于计算的设备，其中，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：

获取场景的RGBD图像，得到所述场景的RGBD图像中的候选物体的点云组；

利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近该组点云的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达所述预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体；

根据施加所述作用力的过程中所述候选物体点云组的移动，验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用model-free的抓取方法计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂所述抓取物体。

根据本发明的另一方面，还提供了一种计算机可读存储介质，其上存储有计算机可执行指令，其中，该计算机可执行指令被处理器执行时使得该处理器：

获取场景的RGBD图像，得到所述场景的RGBD图像中的候选物体的点云组；

利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近该组点云的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达所述预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体；

根据施加所述作用力的过程中所述候选物体点云组的移动，验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用model-free的抓取方法计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂所述抓取物体。

与现有技术相比，本申请通过机械臂末端向可能是物体的点云组施加作用力，利用力传感器和机械臂末端的运动情况判断是否为物体；推动物体后，验证候选物体的点云组是不是属于同一个物体，同时根据运动点云的前后变化求得物体实际的边界，实现机械臂可以进行自我探索，学习可以抓取的位置，机械臂能高效的学习可以抓取的位置，降低成本，并达到良好的效果。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显：

图1示出根据本发明一个方面的一种机械臂抓取自学习方法的流程图。

附图中相同或相似的附图标记代表相同或相似的部件。

具体实施方式

下面结合附图对本发明作进一步详细描述。

在本申请一个典型的配置中，终端、服务网络的设备和可信方均包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flashRAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括非暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

如图1所示，本申请提供一种机械臂抓取自学习方法，所述方法包括：步骤S1，获取场景的RGBD(R是Red红色,G是Green绿色,B是Blue蓝色,D是Depth深度)图像，得到所述场景的RGBD图像中的候选物体的点云组；

在一些实施例中，可以通过深度神经网络(如VoxelNet)或几何信息的先验(如Real-Time 3D Segmentation of Cluttered Scenes for Robot Grasping)，得到所述场景的RGBD图像中的候选物体的点云组，候选物体的点云组为可能是物体的点云组；

步骤S2，利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近该组点云的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

在此，所述接触点是机械臂可以接触物体表面的位置，在一些实施例中，可以根据所述运动方向并利用路径规划，求得所述机械臂在所述候选物体表面的接触点；

步骤S3，移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达所述预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体，待抓取的物体即为可以抓取的物体；

在一些实施例中，同时与所述机械臂连接的力传感器检测施加的所述作用力之后，还包括：若在所述作用力到达所述预设阈值时，所述候选物体的点云组未发生移动时，则判定所述候选物体的点云组不是物体，本轮流程结束，返回步骤S1；

步骤S4，根据施加所述作用力的过程中所述候选物体点云组的移动，使用opticalflow(光流)或者dense correspondence验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

在一些实施例中，使用optical flow(光流)或者dense correspondence验证所述候选物体的点云组之后，还包括：若验证结果是所述候选物体的点云组属于多个个物体，随机挑选其中一个物体，根据所述候选物体点云组的移动中前后变化，求得挑选出的物体实际的体边界；

步骤S5，由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用model-free的抓取方法(如grasp pose detection)计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂所述抓取物体。

在此，本申请通过机械臂末端向可能是物体的点云组施加作用力，利用力传感器和机械臂末端的运动情况判断是否为物体；推动物体后，验证候选物体的点云组是不是属于同一个物体，同时根据运动点云的前后变化求得物体实际的边界，实现机械臂可以进行自我探索，学习可以抓取的位置，机械臂能高效的学习可以抓取的位置，降低成本，并达到良好的效果。

根据本发明的另一方面，还提供了一种基于计算的设备，其中，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：

获取场景的RGBD图像，得到所述场景的RGBD图像中的候选物体的点云组；

利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近该组点云的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达所述预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体；

根据施加所述作用力的过程中所述候选物体点云组的移动，验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用model-free的抓取方法计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂所述抓取物体。

根据本发明的另一方面，还提供了一种计算机可读存储介质，其上存储有计算机可执行指令，其中，该计算机可执行指令被处理器执行时使得该处理器：

获取场景的RGBD图像，得到所述场景的RGBD图像中的候选物体的点云组；

利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近该组点云的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达所述预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体；

根据施加所述作用力的过程中所述候选物体点云组的移动，验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用model-free的抓取方法计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂所述抓取物体。

上述设备和计算机可读存储介质各实施例的详细内容，具体可参见各方法实施例的对应部分，在此，不再赘述。

显然，本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样，倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内，则本申请也意图包含这些改动和变型在内。

需要注意的是，本发明可在软件和/或软件与硬件的组合体中被实施，例如，可采用专用集成电路(ASIC)、通用目的计算机或任何其他类似硬件设备来实现。在一个实施例中，本发明的软件程序可以通过处理器执行以实现上文所述步骤或功能。同样地，本发明的软件程序(包括相关的数据结构)可以被存储到计算机可读记录介质中，例如，RAM存储器，磁或光驱动器或软磁盘及类似设备。另外，本发明的一些步骤或功能可采用硬件来实现，例如，作为与处理器配合从而执行各个步骤或功能的电路。

另外，本发明的一部分可被应用为计算机程序产品，例如计算机程序指令，当其被计算机执行时，通过该计算机的操作，可以调用或提供根据本发明的方法和/或技术方案。而调用本发明的方法的程序指令，可能被存储在固定的或可移动的记录介质中，和/或通过广播或其他信号承载媒体中的数据流而被传输，和/或被存储在根据所述程序指令运行的计算机设备的工作存储器中。在此，根据本发明的一个实施例包括一个装置，该装置包括用于存储计算机程序指令的存储器和用于执行程序指令的处理器，其中，当该计算机程序指令被该处理器执行时，触发该装置运行基于前述根据本发明的多个实施例的方法和/或技术方案。

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。装置权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一，第二等词语用来表示名称，而并不表示任何特定的顺序。

Claims (9)

1.一种机械臂抓取自学习方法，其中，该方法包括：

步骤S1，获取场景的RGBD图像，得到所述场景的RGBD图像中的候选物体的点云组；

步骤S2，利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近所述点云组的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

步骤S3，移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体；与所述机械臂连接的力传感器检测施加的所述作用力之后，还包括：若在所述作用力到达所述预设阈值时，所述候选物体的点云组未发生移动时，则判定所述候选物体的点云组不是物体，返回所述步骤S1；

步骤S4，根据施加所述作用力的过程中所述候选物体点云组的移动，验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

步骤S5，由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用抓取方法计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂抓取所述物体。

2.根据权利要求1所述的方法，其中，得到所述场景的RGBD图像中的候选物体的点云组，包括：

通过深度神经网络或几何信息的先验，得到所述场景的RGBD图像中的候选物体的点云组，候选物体的点云组为可能是物体的点云组。

3.根据权利要求2所述的方法，其中，所述深度神经网络包括VoxelNet。

4.根据权利要求2所述的方法，其中，所述几何信息的先验包括Real-Time 3DSegmentation of Cluttered Scenes for Robot Grasping。

5.根据权利要求1所述的方法，其中，根据所述运动方向并利用路径规划，求得所述机械臂在所述候选物体表面的接触点。

6.根据权利要求1所述的方法，其中，验证所述候选物体的点云组包括：

使用光流或者dense correspondence验证所述候选物体的点云组。

7.根据权利要求1所述的方法，其中，验证所述候选物体的点云组之后，还包括：

若验证结果是所述候选物体的点云组属于多个物体，随机挑选其中一个物体，根据所述候选物体点云组的移动中前后变化，求得挑选出的物体实际的体边界。

8.一种基于计算的设备，其中，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器：

获取场景的RGBD图像，得到所述场景的RGBD图像中的候选物体的点云组；

利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近所述点云组的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体；与所述机械臂连接的力传感器检测施加的所述作用力之后，还包括：若在所述作用力到达所述预设阈值时，所述候选物体的点云组未发生移动时，则判定所述候选物体的点云组不是物体，返回步骤S1；

根据施加所述作用力的过程中所述候选物体点云组的移动，验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用抓取方法计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂抓取所述物体。

9.一种计算机可读存储介质，其上存储有计算机可执行指令，其中，该计算机可执行指令被处理器执行时使得该处理器：

获取场景的RGBD图像，得到所述场景的RGBD图像中的候选物体的点云组；

利用所述场景的RGBD图像中的深度信息得到所述候选物体的点云组的表面的法向方向作为机械臂接近所述点云组的运动方向，根据所述运动方向求得所述机械臂在所述候选物体表面的接触点，移动所述机械臂到所述接触点附近后，利用所述机械臂触碰所述候选物体表面的接触点；

移动所述机械臂的末端，以使所述机械臂开始往所述接触点的法向方向施加作用力，同时与所述机械臂连接的力传感器检测施加的所述作用力，若在所述作用力到达预设阈值之前所述候选物体的点云组发生移动，则判定所述候选物体为待抓取的物体；与所述机械臂连接的力传感器检测施加的所述作用力之后，还包括：若在所述作用力到达所述预设阈值时，所述候选物体的点云组未发生移动时，则判定所述候选物体的点云组不是物体，返回步骤S1；

根据施加所述作用力的过程中所述候选物体点云组的移动，验证所述候选物体的点云组，若验证结果是所述候选物体的点云组属于同一个物体，根据所述候选物体点云组的移动中前后变化求得所述物体实际的边界；

由所述物体实际的边界得到所述物体的点云，根据得到的所述物体的点云并使用抓取方法计算所述机械臂的抓取点，根据所述抓取点控制所述机械臂抓取所述物体。

Images