CN117809232A - 物体抓取姿态识别方法、装置、设备及存储介质 - Google Patents
物体抓取姿态识别方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117809232A CN117809232A CN202211205982.9A CN202211205982A CN117809232A CN 117809232 A CN117809232 A CN 117809232A CN 202211205982 A CN202211205982 A CN 202211205982A CN 117809232 A CN117809232 A CN 117809232A
- Authority
- CN
- China
- Prior art keywords
- determining
- roi
- point
- grabbing
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000003825 pressing Methods 0.000 claims abstract description 39
- 239000013598 vector Substances 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 10
- 239000012636 effector Substances 0.000 claims description 8
- 238000000513 principal component analysis Methods 0.000 claims description 8
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 230000005484 gravity Effects 0.000 claims description 6
- 239000011159 matrix material Substances 0.000 claims description 6
- 239000007788 liquid Substances 0.000 abstract description 17
- 239000000463 material Substances 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004806 packaging method and process Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 239000003599 detergent Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000006260 foam Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000002453 shampoo Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明提供了一种物体抓取姿态识别方法、装置、设备及存储介质,包括如下步骤:获取目标物体的2D图像,并在所述2D图像上确定ROI区域并确定该ROI区域对应的目标点云;确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定所述ROI区域的包围盒;根据所述目标点云确定所述ROI区域的抓取高度,根据所述抓取高度和包围盒确定所述目标物体的吸取点或抓取点。本发明中通过获取目标物体的2D图像,并在所述2D图像上确定ROI区域以及相应的目标点云,确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定包围盒,根据所述包围盒以及根据点云确定抓取高度确定所述目标物体吸取点或抓取点,实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取。
Description
技术领域
本发明涉及分拣机器人,具体地,涉及一种物体抓取姿态识别方法、装置、设备及存储介质。
背景技术
分拣机器人(Sorting robot),是一种具备了传感器、物镜和电子光学***的机器人,可以快速进行货物分拣。
现有的分拣机器人抓取瓶状物往往采用将瓶状物放倒,然后通过吸盘式夹具吸取的方式实现抓取。但实际场景中存在可能没有放倒空间的情况,如瓶状物紧密排列、瓶状物所处位置空间狭窄等情形。
此外,对于小口径瓶状物,由于小口径瓶状物的顶部抓取空间小,因此需要对小口径瓶状物的顶部抓取空间进行准确的识别,才能够实现小口径瓶状物的抓取或吸取,但是现有技术的尚没有能够小口径瓶状物准确识别的方法,因此对于重量较大的小口径瓶状物,无论是机械手还是吸盘往往都不具备相应的抓取能力。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种物体抓取姿态识别方法、装置、设备及存储介质。
根据本发明提供的物体抓取姿态识别方法,包括如下步骤:
步骤S1:获取目标物体的2D图像,并在所述2D图像上确定ROI区域并确定该ROI区域对应的目标点云;
步骤S2:确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定所述ROI区域的包围盒;
步骤S3:根据所述目标点云确定所述ROI区域的抓取高度,根据所述抓取高度和包围盒确定所述目标物体的吸取点或抓取点。
优选地,步骤S1包括如下步骤:
步骤S101:控制深度相机中的投影机向竖直放置的按压瓶垂直投射结构光;
步骤S102:控制深度相机中的光接收传感器接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图,控制深度相机中的RGB相机以俯视角度采集所述按压瓶的2D图像;
步骤S103:在所述2D图像上确定所述ROI区域并在所述点云图中确定该ROI区域对应的目标点云。
优选地,所述步骤S2包括如下步骤:
步骤S201:提取所述ROI区域的外轮廓线;
步骤S202:对所述ROI区域的外轮廓线进行主成分分析将外轮廓线转换为一特征向量空间中的多个特征向量,根据所述特征向量确定所述ROI区域的最长轴方向;
步骤S203:旋转所述ROI区域的最长轴方向使其与所述2D图像所在的图像坐标系中X轴对齐;
步骤S204:对所述ROI区域生成沿所述ROI区域的最长轴对称的包围盒。
优选地,所述步骤S3包括如下步骤:
步骤S301:根据所述目标点云确定所述ROI区域与所述投影机之间的距离,根据所述距离确定ROI区域的抓取高度;
步骤S302:确定所述ROI区域的重心,根据所述ROI区域的重心与所述ROI区域的最长轴中点的关系确定所述目标点云对应目标物体的朝向;
步骤S303:根据所述抓取高度、所述目标物体的朝向以及所述包围盒确定所述目标物体的吸取点或抓取点。
优选地,所述步骤S201包括如下步骤:
步骤S2011:获取预设置的像素值阈值,提取所述ROI区域中大于所述像素值阈值的像素;
步骤S2012:对提取后的所述像素进行二值化处理生成二值化图像,去除所述二值化图像中的噪点生成目标二值化图像;
步骤S2013:根据所述目标二值化图像提取所述ROI区域的外轮廓线。
优选地,所述步骤S303包括如下步骤:
步骤S3031:获取所述深度相机在相机坐标系下的位姿,进而将所述深度相机的位姿依次转至机器人坐标、工作空间坐标系下并生成相应的转换矩阵;
步骤S3032:根据所述转换矩阵将相机坐标系下的所述目标物体的朝向和所述包围盒的坐标转换至工作空间坐标系下,并在所述工作空间坐标系下确定所述目标物体的吸取点或抓取点;
步骤S3033:将所述工作空间坐标系下的吸取点或抓取点转换至机器人坐标下,并根据所述机器人坐标下的吸取点或抓取点控制机器人运行。
优选地,当抓取点或吸取点在所述包围盒横向方向上到按压瓶瓶盖边缘的距离大于末端执行器的半径时,则向按压瓶瓶盖边缘移动直到抓取点或吸取点在所述包围盒横向方向上到按压瓶瓶盖边缘的距离小于所述末端执行器的半径。
根据本发明提供的物体抓取姿态识别装置,包括如下模块:
图像获取模块,用于获取目标物体的2D图像,并在所述2D图像上确定ROI区域并确定该ROI区域对应的目标点云;
包围盒确定模块,用于确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定所述ROI区域的包围盒;
点位确定模块,用于根据所述目标点云确定所述ROI区域的抓取高度,根据所述抓取高度和包围盒确定所述目标物体的吸取点或抓取点。
根据本发明提供的物体抓取姿态识别设备,包括:
处理器;
存储器模块,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行所述的物体抓取姿态识别方法的步骤。
根据本发明提供的计算机可读存储介质,用于存储程序,所述程序被执行时实现所述的物体抓取姿态识别方法的步骤。
与现有技术相比,本发明具有如下的有益效果:
本发明中通过获取目标物体的2D图像,并在所述2D图像上确定ROI区域以及相应的目标点云,确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定包围盒,根据点云确定抓取高度进而根据所述包围盒确定所述目标物体吸取点或抓取点,从而实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取;
本发明中通过主成分分析将ROI区域的外轮廓线转换为一特征向量空间中的多个特征向量确ROI区域的最长轴,进而对所述ROI区域生成沿所述ROI区域的最长轴对称的包围盒,以实现吸取点或抓取点的准确计算。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1为本发明实施例中物体抓取姿态识别方法的步骤流程图;
图2为本发明实施例中生成2D图像和目标点云的步骤流程图;
图3为本发明实施例中确定所述ROI区域的最长轴包围盒的步骤流程图;
图4为本发明实施例中确定所述目标物体吸取点或抓取点的步骤流程图;
图5为本发明实施例中生成所述ROI区域的外轮廓线的步骤流程图;
图6为本发明实施例中根据吸取点或抓取点控制机器人运行的步骤流程图;
图7为本发明实施例中ROI区域的外轮廓线的示意图;
图8为本发明实施例中确定所述ROI区域的最长轴的示意图;
图9为本发明实施例中物品拣选机器人对按压瓶吸取时的示意图;
图10为本发明实施例中执行物体抓取姿态识别方法的物品拣选机器人的结构示意图;
图11为本发明实施例中物体抓取姿态识别装置的模块示意图;
图12是本发明实施例中物体抓取姿态识别设备的结构示意图;以及
图13是本发明实施例中的计算机可读存储介质的结构示意图。
图中:
1为夹具座;2为气囊;3为出液嘴。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进。这些都属于本发明的保护范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例,例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
下面以具体地实施例对本发明的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
下面以具体地实施例对本发明的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本发明的实施例进行描述。
图1为本发明实施例中物体抓取姿态识别方法的步骤流程图,如图1所示,本发明提供的物体抓取姿态识别方法,包括如下步骤:
步骤S1:获取目标物体的2D图像,并在所述2D图像上确定ROI区域并确定该ROI区域对应的目标点云;
图2为本发明实施例中生成2D图像和目标点云的步骤流程图,如图2所示,步骤S1包括如下步骤:
步骤S101:控制深度相机中的投影机向竖直放置的按压瓶垂直投射结构光;
步骤S102:控制深度相机中的光接收传感器接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图,控制深度相机中的RGB相机以俯视角度采集所述按压瓶的2D图像;
步骤S103:在所述2D图像上确定所述ROI区域并在所述点云图中确定该ROI区域对应的目标点云。
在本发明实施例中,在确定包括所述按压瓶上顶部出液嘴的ROI区域时,通过RGB相机采集俯视所述按压瓶方向的RGB图像,所述RGB图像和所述点云图对齐,先通过深度学习模型在所述RGB图像识别出包括所述按压瓶上顶部出液嘴的ROI区域,然后再在所述点云图上确定出包括所述按压瓶上顶部出液嘴的目标点云。
在本发明实施例中,所述结构光包括点阵结构光、条纹结构光以及编码结构光。当多个按压瓶正常摆放时,按压瓶的出液嘴位于上端,此时控制投影机以俯视的角度向按压瓶垂直投射结构光。
所述点云是一个数据集,数据集中的每个点代表一组X、Y、Z几何坐标和一个强度值,这个强度值根据物体表面反射率记录返回信号的强度。当这些点组合在一起时,就会形成一个点云,即空间中代表3D形状或对象的数据点集合。点云也可以自动上色,以实现更真实的可视化。
所述按压瓶为常见的洗发水包装瓶、沐浴液包装瓶以及洗洁精包装瓶等。
步骤S2:确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定所述ROI区域的包围盒;
图3为本发明实施例中确定所述ROI区域的最长轴包围盒的步骤流程图,如图3所示,所述步骤S2包括如下步骤:
步骤S201:提取所述ROI区域的外轮廓线,提取生成的所述外轮廓线如图7所示;
步骤S202:对所述ROI区域的外轮廓线进行主成分分析将外轮廓线转换为一特征向量空间中的多个特征向量,根据所述特征向量确定所述ROI区域的最长轴方向;
步骤S203:旋转所述ROI区域的最长轴方向使其与所述2D图像所在的图像坐标系中X轴对齐;
步骤S204:对所述ROI区域生成沿所述ROI区域的最长轴对称的包围盒。
在本发明实施例中,在进行所述主成分分析时采用PCA主成分分析。所述2D图像所在的图像坐标系X轴为所述2D图像的横向方向,所述2D图像所在的图像坐标系Y轴为所述2D图像的竖直方向;所述2D图像所在的图像坐标系原点为所述2D图像的一个角端。
所述包围盒呈矩形形状。所述ROI区域的最长轴方向如图8所示。
步骤S3:根据所述目标点云确定所述ROI区域的抓取高度,根据所述抓取高度和包围盒确定所述目标物体的吸取点或抓取点。
图4为本发明实施例中确定所述目标物体吸取点或抓取点的步骤流程图,如图4所示,所述步骤S3包括如下步骤:
步骤S301:根据所述目标点云确定所述ROI区域与所述投影机之间的距离,根据所述距离确定ROI区域的抓取高度;
步骤S302:确定所述ROI区域的重心,根据所述ROI区域的重心与所述ROI区域的最长轴中点的关系确定所述目标点云对应目标物体的朝向;
步骤S303:根据所述抓取高度、所述目标物体的朝向以及所述包围盒确定所述目标物体的吸取点或抓取点。
在本发明变形例中,还可以根据所述ROI区域的中心与所述2D图像的X轴之间的关系确定所述目标物体的朝向,即按压瓶的朝向,如根据所述ROI区域的最长轴在X轴延伸范围确定所述ROI区域的分布区间,当所述ROI区域的中心在所述X轴的偏左侧,则按压瓶的瓶口朝右,如所述ROI区域的中心在所述X轴的偏右侧,则按压瓶的瓶口朝左。
所述2D图像的X轴为所述2D图像的横向方向,所述2D图像的Y轴为所述2D图像的竖直方向。
所述抓取高度为世界坐标下目标点云距离深度相机的高度平均值。所述包围盒通过其中心点位于图像坐标系中的位置来表示。
图5为本发明实施例中生成所述ROI区域的外轮廓线的步骤流程图,如图5所示,所述步骤S201包括如下步骤:
步骤S2011:获取预设置的像素值阈值,提取所述ROI区域中大于所述像素值阈值的像素;
步骤S2012:对提取后的所述像素进行二值化处理生成二值化图像,去除所述二值化图像中的噪点生成目标二值化图像;
步骤S2013:根据所述目标二值化图像提取所述ROI区域的外轮廓线。
在本发明实施例中,所述像素值阈值可以设置为最大像素值的40%至60%之间。在去除所述二值化图像中的噪点时,采用morphology close算法。
图6为本发明实施例中根据吸取点或抓取点控制机器人运行的步骤流程图,如图6所示,所述步骤S302包括如下步骤:
步骤S3031:获取所述深度相机在相机坐标系下的位姿,进而将所述深度相机的位姿依次转至机器人坐标、工作空间坐标系下并生成相应的转换矩阵;
步骤S3032:根据所述转换矩阵将相机坐标系下的所述目标物体的朝向和所述包围盒的坐标转换至工作空间坐标系下,并在所述工作空间坐标系下确定所述目标物体的吸取点或抓取点;
步骤S3033:将所述工作空间坐标系下的吸取点或抓取点转换至机器人坐标下,并根据所述机器人坐标下的吸取点或抓取点控制机器人运行。
在本发明实施例中,当抓取点或吸取点在所述包围盒横向方向上到按压瓶瓶盖边缘的距离大于末端执行器的半径时,则向按压瓶瓶盖边缘移动直到抓取点或吸取点在所述包围盒横向方向上到按压瓶瓶盖边缘的距离小于所述末端执行器的半径。
在本发明实施例中,当使用本发明提供的物体抓取姿态识别方法进行按压瓶的抓取姿态识别时,包括如下步骤:
步骤1:获取按压瓶上出液嘴的2D图像和点云图,并在所述2D图像上确定ROI区域并确定该ROI区域对应的目标点云;所述ROI区域为出液嘴的俯视点云图;
步骤2:对所述ROI区域的外轮廓线进行主成分分析确定所述ROI区域的最长轴和最短轴;
步骤3:转所述ROI区域的最长轴方向使其与所述2D图像所在的图像坐标系中X轴对齐,对所述ROI区域生成沿所述ROI区域的最长轴对称的包围盒;
步骤4:根据所述目标点云确定所述ROI区域的抓取高度,根据所述抓取高度和包围盒确定所述目标物体的吸取点或抓取点;
步骤5:根据确定好的所述目标物体的吸取点或抓取点通过物品拣选机器人设置的末端执行器对出液嘴进行吸取或抓取。
在本发明实施例中,所述末端执行器优选为气囊夹具。该气囊夹具包括:夹具座1和气囊2,其中,夹具座1上开设有安装位;气囊2设于该安装位。且所述气囊2的侧壁形成一夹持空间,充气状态下所述气囊2的外侧壁受到所述夹具座1施加的径向支撑力,所述气囊2的内侧壁径向向内膨胀以夹持待夹持物;
所述夹具座1上设有第一避让缺口,所述气囊2上对应所述第一避让缺口的位置设有第二避让缺口;所述第一避让缺口和第二避让缺口用于所述出液嘴的移动通道以使所述出液嘴进入所述夹持空间。
具体的,夹具座1的顶部封闭,夹具座1的顶部和侧壁形成一容纳腔,气囊2置于该容纳腔内。并且,气囊2具有顶部,气囊2的顶部和侧壁形成一夹持腔。待按压瓶上的出液嘴3进入气囊2的夹持腔后,通过对气囊2充气使其径向膨胀包覆按压瓶,充气状态下气囊2的外侧壁受到夹具座1施加的径向支撑力,气囊2的内侧壁径向向内膨胀,从而施加摩擦力来夹紧按压瓶,以对按压瓶进行提起、平移、放下等操作,在移动到放置位置后,释放气囊2中的气体使按压瓶脱离夹具。
图10为本发明实施例中物体抓取姿态识别方法的物品拣选机器人的结构示意图,如图10所示,本发明提供的物品拣选机器人,还包括:
第一单元、第二单元,用于储放或/和运输物料;
深度相机300,其视觉扫描区域至少涵盖所述物料的储放或运输的第一单元,用于对所述物料进行视觉扫描,采集所述物料的深度图像,并根据所述深度图像生成物料的位姿信息和存放位置;
机器人单元100,与所述深度相机300通信连接,用于接收所述位姿态信息和存放位置,根据所述位姿和所述存放位置判断目标物体的放置状态,并根据所述放置状态对所述目标物体进行拣取。
在本发明一实施例中,所述第一单元可以设置为储料单元200;
储料单元200,用于储放无序放置的物料,所述物料为所述目标物体,如金属制品、盒体等任意物品;
机器人单元100,与所述深度相机300通信连接,用于接收所述位姿态信息和存放位置,根据所述位姿和所述存放位置判断目标物体的放置状态,并根据所述放置状态对所述目标物体进行拣取后移送至第二单元中。
所述第二单元可以设置为对拣选后的物料进行运输或存放,如设置为便于物品整齐排列的支撑架,
所述第二单元,还可以设置运输单元,使得所述机器人单元100能够将支撑架上的目标物体移动至运输单元上。
所述深度相机300,设置在相机支架上。
其中,所述机器人单元100包括处理器,处理器配置为经由执行可执行指令来执行所述物体抓取姿态识别方法的步骤时,通过获取目标物体的2D图像,并在所述2D图像上确定ROI区域以及相应的目标点云,确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定包围盒,根据点云确定抓取高度进而根据所述包围盒确定所述目标物体吸取点或抓取点,从而实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取。
图11为本发明实施例中物体抓取姿态识别装置的模块示意图,如图11所示,本发明提供的物体抓取姿态识别装置,包括如下模块:
图像获取模块,用于获取目标物体的2D图像,并在所述2D图像上确定ROI区域并确定该ROI区域对应的目标点云;
包围盒确定模块,用于确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定所述ROI区域的包围盒;
点位确定模块,用于根据所述目标点云确定所述ROI区域的抓取高度,根据所述抓取高度和包围盒确定所述目标物体的吸取点或抓取点。
本发明实施例中还提供一种物体抓取姿态识别设备,包括处理器和存储器。存储器,其中存储有处理器的可执行指令。其中,处理器配置为经由执行可执行指令来执行物体抓取姿态识别方法步骤。
如上,该实施例中,通过获取目标物体的2D图像,并在所述2D图像上确定ROI区域以及相应的目标点云,确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定包围盒,根据所述包围盒以及根据点云确定抓取高度以及所述目标物体吸取点或抓取点,实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为***、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“平台”。
图12是本发明实施例中物体抓取姿态识别设备的结构示意图。下面参照图12来描述根据本发明中这种实施方式的电子设备600。图12显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图12所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,存储单元存储有程序代码,程序代码可以被处理单元610执行,使得处理单元610执行本说明书上述物体抓取姿态识别方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,处理单元610可以执行如图1中所示的步骤。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备、相机、深度相机等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图12中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储平台等。
本发明实施例中还提供一种计算机可读存储介质,用于存储程序,程序被执行时实现的物体抓取姿态识别方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述物体抓取姿态识别方法部分中描述的根据本发明各种示例性实施方式的步骤。
如上所示,该实施例的计算机可读存储介质的程序在执行时,通过获取目标物体的2D图像,并在所述2D图像上确定ROI区域以及相应的目标点云,确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定包围盒,根据点云确定抓取高度进而根据所述包围盒确定所述目标物体吸取点或抓取点,从而实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取。
图13是本发明实施例中的计算机可读存储介质的结构示意图。参考图13所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
本发明实施例中,通过获取目标物体的2D图像,并在所述2D图像上确定ROI区域以及相应的目标点云,确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定包围盒,根据点云确定抓取高度进而根据所述包围盒确定所述目标物体吸取点或抓取点,从而实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取;通过主成分分析将ROI区域的外轮廓线转换为一特征向量空间中的多个特征向量确ROI区域的最长轴,进而对所述ROI区域生成沿所述ROI区域的最长轴对称的包围盒,以实现吸取点或抓取点的准确计算。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变形或修改,这并不影响本发明的实质内容。
Claims (10)
1.一种物体抓取姿态识别方法,其特征在于,包括如下步骤:
步骤S1:获取目标物体的2D图像,并在所述2D图像上确定ROI区域并确定该ROI区域对应的目标点云;
步骤S2:确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定所述ROI区域的包围盒;
步骤S3:根据所述目标点云确定所述ROI区域的抓取高度,根据所述抓取高度和包围盒确定所述目标物体的吸取点或抓取点。
2.根据权利要求1所述的物体抓取姿态识别方法,其特征在于,步骤S1包括如下步骤:
步骤S101:控制深度相机中的投影机向竖直放置的按压瓶垂直投射结构光;
步骤S102:控制深度相机中的光接收传感器接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图,控制深度相机中的RGB相机以俯视角度采集所述按压瓶的2D图像;
步骤S103:在所述2D图像上确定所述ROI区域并在所述点云图中确定该ROI区域对应的目标点云。
3.根据权利要求2所述的物体抓取姿态识别方法,其特征在于,所述步骤S2包括如下步骤:
步骤S201:提取所述ROI区域的外轮廓线;
步骤S202:对所述ROI区域的外轮廓线进行主成分分析将外轮廓线转换为一特征向量空间中的多个特征向量,根据所述特征向量确定所述ROI区域的最长轴方向;
步骤S203:旋转所述ROI区域的最长轴方向使其与所述2D图像所在的图像坐标系中X轴对齐;
步骤S204:对所述ROI区域生成沿所述ROI区域的最长轴对称的包围盒。
4.根据权利要求3所述的物体抓取姿态识别方法,其特征在于,所述步骤S3包括如下步骤:
步骤S301:根据所述目标点云确定所述ROI区域与所述投影机之间的距离,根据所述距离确定ROI区域的抓取高度;
步骤S302:确定所述ROI区域的重心,根据所述ROI区域的重心与所述ROI区域的最长轴中点的关系确定所述目标点云对应目标物体的朝向;
步骤S303:根据所述抓取高度、所述目标物体的朝向以及所述包围盒确定所述目标物体的吸取点或抓取点。
5.根据权利要求4所述的物体抓取姿态识别方法,其特征在于,所述步骤S201包括如下步骤:
步骤S2011:获取预设置的像素值阈值,提取所述ROI区域中大于所述像素值阈值的像素;
步骤S2012:对提取后的所述像素进行二值化处理生成二值化图像,去除所述二值化图像中的噪点生成目标二值化图像;
步骤S2013:根据所述目标二值化图像提取所述ROI区域的外轮廓线。
6.根据权利要求4所述的物体抓取姿态识别方法,其特征在于,所述步骤S303包括如下步骤:
步骤S3031:获取所述深度相机在相机坐标系下的位姿,进而将所述深度相机的位姿依次转至机器人坐标、工作空间坐标系下并生成相应的转换矩阵;
步骤S3032:根据所述转换矩阵将相机坐标系下的所述目标物体的朝向和所述包围盒的坐标转换至工作空间坐标系下,并在所述工作空间坐标系下确定所述目标物体的吸取点或抓取点;
步骤S3033:将所述工作空间坐标系下的吸取点或抓取点转换至机器人坐标下,并根据所述机器人坐标下的吸取点或抓取点控制机器人运行。
7.根据权利要求6所述的物体抓取姿态识别方法,其特征在于,当抓取点或吸取点在所述包围盒横向方向上到按压瓶瓶盖边缘的距离大于所述机器人的末端执行器的半径时,则向按压瓶瓶盖边缘移动直到抓取点或吸取点在所述包围盒横向方向上到按压瓶瓶盖边缘的距离小于所述末端执行器的半径。
8.一种物体抓取姿态识别装置,其特征在于,包括如下模块:
图像获取模块,用于获取目标物体的2D图像,并在所述2D图像上确定ROI区域并确定该ROI区域对应的目标点云;
包围盒确定模块,用于确定所述ROI区域的最长轴,根据所述ROI区域的最长轴确定所述ROI区域的包围盒;
点位确定模块,用于根据所述目标点云确定所述ROI区域的抓取高度,根据所述抓取高度和包围盒确定所述目标物体的吸取点或抓取点。
9.一种物体抓取姿态识别设备,其特征在于,包括:
处理器;
存储器模块,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至7任一项所述的物体抓取姿态识别方法的步骤。
10.一种计算机可读存储介质,用于存储程序,其特征在于,所述程序被执行时实现权利要求1至7任一项所述的物体抓取姿态识别方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211205982.9A CN117809232A (zh) | 2022-09-30 | 2022-09-30 | 物体抓取姿态识别方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211205982.9A CN117809232A (zh) | 2022-09-30 | 2022-09-30 | 物体抓取姿态识别方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117809232A true CN117809232A (zh) | 2024-04-02 |
Family
ID=90418900
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211205982.9A Pending CN117809232A (zh) | 2022-09-30 | 2022-09-30 | 物体抓取姿态识别方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117809232A (zh) |
-
2022
- 2022-09-30 CN CN202211205982.9A patent/CN117809232A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11383380B2 (en) | Object pickup strategies for a robotic device | |
US9659217B2 (en) | Systems and methods for scale invariant 3D object detection leveraging processor architecture | |
US9507995B2 (en) | Combination of stereo and structured-light processing | |
US9205562B1 (en) | Integration of depth points into a height map | |
JP2019509559A (ja) | センサ誘導式ロボットを用いたボックスの位置特定、分離、およびピッキング | |
CN113351522B (zh) | 物品分拣方法、装置及*** | |
CN110395515B (zh) | 一种货物识别抓取方法、设备以及存储介质 | |
Pan et al. | Manipulator package sorting and placing system based on computer vision | |
CN117809232A (zh) | 物体抓取姿态识别方法、装置、设备及存储介质 | |
CN117798957A (zh) | 物体抓取*** | |
CN113284129B (zh) | 基于3d包围盒的压箱检测方法及装置 | |
CN115471834A (zh) | 物体抓取姿态识别方法、装置、设备及存储介质 | |
CN115139325B (zh) | 物体抓取*** | |
JP7408107B2 (ja) | 物体取り扱いを伴うロボットシステムのためのシステム及び方法 | |
CN113298866B (zh) | 物体分类方法及装置 | |
CN118115575A (zh) | 多轮廓物体的位姿识别*** | |
CN118115568A (zh) | 多轮廓物体的位姿识别方法、装置、设备及存储介质 | |
CN117670765A (zh) | 物品检测方法、装置、设备及存储介质 | |
CN117208567A (zh) | 用于物料筐无序拣取的取料方法、装置、设备及存储介质 | |
CN117206215A (zh) | 用于物料筐无序拣取的取料装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |