CN115139325A - 物体抓取*** - Google Patents

物体抓取*** Download PDF

Info

Publication number
CN115139325A
CN115139325A CN202211067628.4A CN202211067628A CN115139325A CN 115139325 A CN115139325 A CN 115139325A CN 202211067628 A CN202211067628 A CN 202211067628A CN 115139325 A CN115139325 A CN 115139325A
Authority
CN
China
Prior art keywords
point cloud
target point
axis
determining
bottle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211067628.4A
Other languages
English (en)
Other versions
CN115139325B (zh
Inventor
刘中元
李勇奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Star Ape Philosophy Technology Shanghai Co ltd
Xingyuanzhe Technology Shenzhen Co ltd
Original Assignee
Star Ape Philosophy Technology Shanghai Co ltd
Xingyuanzhe Technology Shenzhen Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Star Ape Philosophy Technology Shanghai Co ltd, Xingyuanzhe Technology Shenzhen Co ltd filed Critical Star Ape Philosophy Technology Shanghai Co ltd
Priority to CN202211067628.4A priority Critical patent/CN115139325B/zh
Publication of CN115139325A publication Critical patent/CN115139325A/zh
Application granted granted Critical
Publication of CN115139325B publication Critical patent/CN115139325B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J15/00Gripping heads and other end effectors
    • B25J15/0023Gripper surfaces directly activated by a fluid
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/04Sorting according to size
    • B07C5/10Sorting according to size measured by light-responsive means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/36Sorting apparatus characterised by the means used for distribution
    • B07C5/361Processing or control devices therefor, e.g. escort memory
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/36Sorting apparatus characterised by the means used for distribution
    • B07C5/361Processing or control devices therefor, e.g. escort memory
    • B07C5/362Separating or distributor mechanisms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • B25J9/161Hardware, e.g. neural networks, fuzzy logic, interfaces, processor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1612Programme controls characterised by the hand, wrist, grip control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C2501/00Sorting according to a characteristic or feature of the articles or material to be sorted
    • B07C2501/0063Using robots

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Physics & Mathematics (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Manipulator (AREA)

Abstract

本发明提供了一种物体抓取***,包括深度相机,包括投影机和光接收传感器,所述投影机用于向垂直放置的按压瓶垂直投射结构光,所述光接收传感器用于接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图;处理器模块,用于获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云,确定所述第一目标点云的最长轴,根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴,根据所述对称轴确定所述按压瓶的吸取点或抓取点;机器人模块,用于根据所述按压瓶的吸取点或抓取点对所述按压瓶的进行吸取或抓取,本发明能够实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取。

Description

物体抓取***
技术领域
本发明涉及分拣机器人,具体地,涉及一种物体抓取***。
背景技术
分拣机器人(Sorting robot),是一种具备了传感器、物镜和电子光学***的机器人,可以快速进行货物分拣。
现有的分拣机器人抓取瓶状物往往采用将瓶状物放倒,然后通过吸盘式夹具吸取的方式实现抓取。但实际场景中存在可能没有放倒空间的情况,如瓶状物紧密排列、瓶状物所处位置空间狭窄等情形。
此外,对于小口径瓶状物,由于小口径瓶状物的顶部抓取空间小,因此需要对小口径瓶状物的顶部抓取空间进行准确的识别,才能够实现小口径瓶状物的抓取或吸取,但是现有技术中尚没有能够对小口径瓶状物准确识别的方法,因此对于重量较大的小口径瓶状物,无论是机械手还是吸盘往往都不具备相应的抓取能力。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种物体抓取***。
根据本发明提供的物体抓取***,包括:
深度相机,包括投影机和光接收传感器,所述投影机用于向垂直放置的按压瓶垂直投射结构光,所述光接收传感器用于接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图;
处理器模块,用于获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云,确定所述第一目标点云的最长轴,根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴,根据所述对称轴确定所述按压瓶的吸取点或抓取点;
机器人模块,用于根据所述按压瓶的吸取点或抓取点对所述按压瓶的进行吸取或抓取。
优选地,所述处理器模块包括:
点云获取单元,用于获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云;
最长轴确定单元,用于确定所述第一目标点云的最长轴;
点位确定单元,用于根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴,进而根据所述对称轴确定所述按压瓶吸取点或抓取点。
优选地,所述最长轴确定单元包括如下部分:
点云获取部,用于获取所述第一目标点云;
主成分分析部,用于对所述第一目标点云进行主成分分析将第一目标点云转换为一特征向量空间中的多个特征向量;
轴向确定部,用于根据所述特征向量确定所述第一目标点云的最长轴和最短轴。
优选地,所述点位确定单元包括如下部分:
点云位置调整部,用于将所述第一目标点云的最长轴朝向所述特征向量空间的X轴,所述ROI区域的最短轴朝向所述特征向量空间的Z轴;
对称轴确定部,用于根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴;
点位确定部,用于根据所述对称轴确定所述按压瓶吸取点或抓取点。
优选地,所述对称轴确定部包括如下部分:
镜面翻转分部,用于将所述第一目标点云沿XZ平面镜面翻转生成第二目标点云,同时确定所述翻转时的翻转矩阵;
点云配准分部,用于将所述第一目标点云和所述第二目标点云进行配准,生成第三目标点云,同时确定所述第一目标点云在配准时的旋转矩阵;
法向量确定分部,用于根据所述第一目标点云和所述第三目标点云上相对应的两个点确定对称轴的法向量;
目标点确定分部,用于根据所述第一目标点云、所述翻转矩阵以及所述旋转矩阵确定对称轴上的目标点;
对称轴确定分部,用于根据所述对称轴的法向量和所述目标点确定所述对称轴的位置。
优选地,所述对称轴确定部包括如下部分:
镜面翻转分部,用于将所述第一目标点云沿XZ平面镜面翻转生成第二目标点云;
点云配准分部,用于将所述第一目标点云和所述第二目标点云进行配准,生成沿所述特征向量空间的X轴对称的第三目标点云,同时确定所述第一目标点云在配准时的旋转矩阵;
对称轴确定分部,用于确定所述第三目标点云的对称轴,进而根据所述旋转矩阵确定所述第一目标点云的对称轴。
优选地,所述点云位置调整部用于控制所述第一目标点云的最长轴尽可能与所述特征向量空间的X轴朝向一致,将所述ROI区域的最短轴尽可能与所述特征向量空间的Z轴朝向一致。
优选地,所述投影机用于向垂直放置的按压瓶垂直投射结构光,所述光接收传感器用于接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图;
所述ROI区域为所述点云图中所述按压瓶上顶部出液嘴的区域。
优选地,在确定包括所述按压瓶上顶部出液嘴的ROI区域时,通过RGB相机采集俯视所述按压瓶方向的RGB图像,所述RGB图像和所述点云图对齐;先通过深度学习模型在所述RGB图像识别出包括所述按压瓶上顶部出液嘴的ROI区域,然后再在所述点云图上确定出包括所述按压瓶上顶部出液嘴的ROI区域。
优选地,所述机器人模块包括末端执行器,通过所述末端执行器对所述按压瓶的进行抓取;
所述末端执行器为气囊夹具,所述气囊夹具包括:
夹具座,开设有安装位;
气囊,设于所述安装位;且所述气囊的侧壁形成一夹持空间,充气状态下所述气囊的外侧壁受到所述夹具座施加的径向支撑力,所述气囊的内侧壁径向向内膨胀以夹持待夹持物;
所述夹具座上设有第一避让缺口,所述气囊上对应所述第一避让缺口的位置设有第二避让缺口;所述第一避让缺口和第二避让缺口用于所述出液嘴的移动通道以使所述出液嘴进入所述夹持空间。
与现有技术相比,本发明具有如下的有益效果:
本发明中通过获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云,确定所述第一目标点云的最长轴,根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称,根据所述对称轴确定所述按压瓶吸取点或抓取点,实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取;
本发明中通过主成分分析将第一目标点云转换为一特征向量空间中的多个特征向量确定第一目标点云的最长轴,进而根据将所述第一目标点云和沿XZ平面镜面翻转生成第二目标点云进行配准生成第三目标点云,然后在进行对称轴的计算,实现在长条形物体上点云密度较底时对称轴的准确计算,进而实现吸取点或抓取点的准确计算。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显。
图1为本发明实施例中物体抓取***的第一模块示意图。
图2为本发明实施例中物体抓取***的第二模块示意图。
图3为本发明实施例中物体抓取***的第三模块示意图。
图4为本发明实施例中物体抓取***的第四模块示意图。
图5为本发明实施例中物体抓取***的第五模块示意图。
图6为本发明实施例中物体抓取***的第六模块示意图。
图7为本发明实施例中物体抓取姿态识别的原理示意图。
图8为本发明变形例中确定所述对称轴的位置的原理示意图。
图9为本发明实施例中物品拣选机器人对按压瓶吸取时的示意图。
图10为本发明实施例中应用物体抓取***的物品拣选机器人的结构示意图。
图11为本发明实施例中物体抓取姿态识别方法的步骤流程图。
图12是本发明实施例中物体抓取姿态识别设备的结构示意图。
图13是本发明实施例中的计算机可读存储介质的结构示意图。
图中:
1为夹具座;2为气囊;3为出液嘴。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进。这些都属于本发明的保护范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例,例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
下面以具体地实施例对本发明的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
下面以具体地实施例对本发明的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本发明的实施例进行描述。
图1为本发明实施例中物体抓取***的第一模块示意图,如图1所示,本发明提供的物体抓取姿***,包括:
深度相机101,包括投影机和光接收传感器,所述投影机用于向垂直放置的按压瓶垂直投射结构光,所述光接收传感器用于接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图;
处理器模块102,用于获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云,确定所述第一目标点云的最长轴,根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴,根据所述对称轴确定所述按压瓶的吸取点或抓取点;
机器人模块103,用于根据所述按压瓶的吸取点或抓取点对所述按压瓶的进行吸取或抓取。
在本发明实施例中,所述投影机用于向垂直放置的按压瓶垂直投射结构光,所述光接收传感器用于接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图;
所述ROI区域为所述点云图中所述按压瓶上顶部出液嘴的区域。
在本发明实施例中,所述结构光包括点阵结构光、条纹结构光以及编码结构光。当多个按压瓶正常摆放时,按压瓶的出液嘴位于上端,此时控制投影机以俯视的角度向按压瓶垂直投射结构光。
所述点云是一个数据集,数据集中的每个点代表一组X、Y、Z几何坐标和一个强度值,这个强度值根据物体表面反射率记录返回信号的强度。当这些点组合在一起时,就会形成一个点云,即空间中代表3D形状或对象的数据点集合。点云也可以自动上色,以实现更真实的可视化。
图2为本发明实施例中物体抓取***的第二模块示意图,如图2所示,所述处理器模块包括:
点云获取单元1021,用于获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云;
最长轴确定单元1022,用于确定所述第一目标点云的最长轴;
点位确定单元1023,用于根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴,进而根据所述对称轴确定所述按压瓶吸取点或抓取点。
在本发明实施例中,在确定包括所述按压瓶上顶部出液嘴的ROI区域时,通过RGB相机采集俯视所述按压瓶方向的RGB图像,所述RGB图像和所述点云图对齐;先通过深度学习模型在所述RGB图像识别出包括所述按压瓶上顶部出液嘴的ROI区域,然后再在所述点云图上确定出包括所述按压瓶上顶部出液嘴的ROI区域。
图3为本发明实施例中物体抓取***的第三模块示意图,如图3所示,所述最长轴确定单元1021包括如下部分:
点云获取部10211,用于获取所述第一目标点云;
主成分分析部10212,用于对所述第一目标点云进行主成分分析将第一目标点云转换为一特征向量空间中的多个特征向量;
轴向确定部10213,用于根据所述特征向量确定所述第一目标点云的最长轴和最短轴。
在本发明实施例中,在进行所述主成分分析时采用PCA主成分分析法。所述按压瓶为常见的洗发水包装瓶、沐浴液包装瓶以及洗洁精包装瓶等。
图4为本发明实施例中物体抓取***的第四模块示意图,如图4所示,所述点位确定单元1023包括如下部分:
点云位置调整部10231,用于将所述第一目标点云的最长轴朝向所述特征向量空间的X轴,所述ROI区域的最短轴朝向所述特征向量空间的Z轴;
对称轴确定部10232,用于根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴;
点位确定部10233,用于根据所述对称轴确定所述按压瓶吸取点或抓取点。
在本发明实施例中,控制所述第一目标点云的最长轴尽可能与所述特征向量空间的X轴朝向一致,将所述ROI区域的最短轴尽可能与所述特征向量空间的Z轴朝向一致。
图5为本发明实施例中物体抓取***的第五模块示意图,图7为本发明实施例中物体抓取姿态识别的原理示意图,如图5、图7所示,所述对称轴确定部10232包括如下部分:
镜面翻转分部102321,用于将所述第一目标点云沿XZ平面镜面翻转生成第二目标点云,同时确定所述翻转时的翻转矩阵;
点云配准分部102322,用于将所述第一目标点云和所述第二目标点云进行配准,生成第三目标点云,同时确定所述第一目标点云在配准时的旋转矩阵;
法向量确定分部102323,用于根据所述第一目标点云和所述第三目标点云上相对应的两个点确定对称轴的法向量;
目标点确定分部102324,用于根据所述第一目标点云、所述翻转矩阵以及所述旋转矩阵确定对称轴上的目标点;
对称轴确定分部102325,用于根据所述对称轴的法向量和所述目标点确定所述对称轴的位置。
更为具体地,首先,先将PCA主成分分析变换之后的第一目标点云沿着XZ平面镜像,第一目标点云中的点变换可以表示为:
Figure 498130DEST_PATH_IMAGE001
其中,P为第一目标点云中的点,P'为第二目标点云中的点。
然后将所述第一目标点云和所述第二目标点云进行ICP配准生成第三目标点云,此时所述第三目标点云中的点P''变换为:
Figure 320593DEST_PATH_IMAGE002
因此,对于第一目标点云,即原点云坐标下的任意点X,可以得到对称平面法向量n和对称平面上的某一点Xm;
Figure 649943DEST_PATH_IMAGE003
其中,
Figure 848843DEST_PATH_IMAGE004
,X''为第三目标点云中的点。
图6为本发明实施例中物体抓取***的第六模块示意图,图8为本发明变形例中确定所述对称轴的位置的原理示意图,如图6、图8所示,所述对称轴确定部10232包括如下部分:
镜面翻转分部102321,用于将所述第一目标点云沿XZ平面镜面翻转生成第二目标点云;
点云配准分部102322,用于将所述第一目标点云和所述第二目标点云进行配准,生成沿所述特征向量空间的X轴对称的第三目标点云,同时确定所述第一目标点云在配准时的旋转矩阵;
对称轴确定分部102323,用于确定所述第三目标点云的对称轴,进而根据所述旋转矩阵确定所述第一目标点云的对称轴。
在本发明实施例中,所述第三目标点云的对称轴为所述特征向量空间的X轴。
在本发明实施例中,当使用本发明提供的物体抓取***进行按压瓶的抓取时,包括如下步骤:
步骤1:获取按压瓶上出液嘴的点云图,并在所述点云图上截取ROI区域以确定第一目标点云;所述ROI区域为出液嘴的俯视点云图;
步骤2:对所述第一目标点云进行主成分分析确定所述ROI区域的最长轴和最短轴;
步骤3:将所述ROI区域投影至特征矢量空间,且使的所述ROI区域的最长轴与X轴朝向一致,所述ROI区域的最短轴与Z轴朝向一致;
步骤4:将所述第一目标点云沿XZ平面镜面翻转生成第二目标点云,并将所述第一目标点云和所述第二目标点云进行配准生成第三目标点云,同时生成相应的翻转矩阵和旋转矩阵;
步骤5:确定所述第三目标点云在X轴上的对称轴,进而根据所述第三目标点云的对称轴以及相应的所述翻转矩阵和所述旋转矩阵计算所述第一目标点云的对称轴,根据所述第一目标点云的对称轴计算所述吸取点或抓取点;
步骤6:通过机器人模块设置的末端执行器对出液嘴进行吸取或抓取。
在本发明实施例中,所述末端执行器优选为气囊夹具。该气囊夹具包括:夹具座1和气囊2,其中,夹具座1上开设有安装位;气囊2设于该安装位。且所述气囊2的侧壁形成一夹持空间,充气状态下所述气囊2的外侧壁受到所述夹具座1施加的径向支撑力,所述气囊2的内侧壁径向向内膨胀以夹持待夹持物;
所述夹具座1上设有第一避让缺口,所述气囊2上对应所述第一避让缺口的位置设有第二避让缺口;所述第一避让缺口和第二避让缺口用于所述出液嘴3的移动通道以使所述出液嘴3进入所述夹持空间。
具体的,夹具座1的顶部封闭,夹具座1的顶部和侧壁形成一容纳腔,气囊2置于该容纳腔内。并且,气囊2具有顶部,气囊2的顶部和侧壁形成一夹持腔。待按压瓶上的出液嘴3进入气囊2的夹持腔后,通过对气囊2充气使其径向膨胀包覆按压瓶,充气状态下气囊2的外侧壁受到夹具座1施加的径向支撑力,气囊2的内侧壁径向向内膨胀,从而施加摩擦力来夹紧按压瓶,以对按压瓶进行提起、平移、放下等操作,在移动到放置位置后,释放气囊2中的气体使按压瓶脱离夹具。
图10为本发明实施例中机器人模块的结构示意图,如图10所示,本发明提供的机器人模块,还包括:
第一单元、第二单元,用于储放或/和运输物料;
深度相机101,其视觉扫描区域至少涵盖所述物料的储放或运输的第一单元,用于对所述物料进行视觉扫描,采集所述物料的深度图像,并根据所述深度图像生成物料的位姿信息和存放位置;
机器人单元103,与所述深度相机101通信连接,用于接收所述位姿态信息和存放位置,根据所述位姿和所述存放位置判断按压瓶的放置状态,并根据所述放置状态对所述按压瓶进行拣取。
在本发明一实施例中,所述第一单元可以设置为储料单元104;
储料单元104,用于储放无序放置的物料,所述物料为所述按压瓶;
机器人单元103,与所述深度相机101通信连接,用于接收所述位姿态信息和存放位置,根据所述位姿和所述存放位置判断按压瓶的放置状态,并根据所述放置状态对所述按压瓶进行拣取后移送至第二单元中。
所述第二单元可以设置为对拣选后的物料进行运输或存放,如设置为便于物品整齐排列的支撑架,
所述第二单元,还可以设置运输单元,使得所述机器人单元103能够将支撑架上的按压瓶移动至运输单元上。
所述深度相机101,设置在相机支架上。
其中,所述处理器模块配置为经由执行可执行指令来执行所述物体抓取姿态识别方法的步骤时,通过获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云,确定所述第一目标点云的最长轴,根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称,根据所述对称轴确定所述按压瓶吸取点或抓取点,实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取。
图11为本发明实施例中物体抓取姿态识别方法的步骤流程图,如图11所示,本发明提供的物体抓取姿态识别方法,包括如下步骤:
步骤S1:获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云;
步骤S2:确定所述第一目标点云的最长轴;
步骤S3:根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称,根据所述对称轴确定所述按压瓶吸取点或抓取点。
本发明实施例中还提供一种物体抓取姿态识别设备,包括处理器和存储器。存储器,其中存储有处理器的可执行指令。其中,处理器配置为经由执行可执行指令来执行物体抓取姿态识别方法的步骤。
如上,该实施例中,通过获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云,确定所述第一目标点云的最长轴,根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称,根据所述对称轴确定所述按压瓶吸取点或抓取点,实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为***、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“平台”。
图12是本发明实施例中物体抓取姿态识别设备的结构示意图。下面参照图12来描述根据本发明中这种实施方式的电子设备600。图12显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图12所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,存储单元存储有程序代码,程序代码可以被处理单元610执行,使得处理单元610执行本说明书上述物体抓取姿态识别方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,处理单元610可以执行如图11中所示的步骤。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备、相机、深度相机等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图12中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储平台等。
本发明实施例中还提供一种计算机可读存储介质,用于存储程序,程序被执行时实现的物体抓取姿态识别方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述物体抓取姿态识别方法部分中描述的根据本发明各种示例性实施方式的步骤。
如上所示,该实施例的计算机可读存储介质的程序在执行时,能够在加载的流图中选定需要运行的单一程序模块或部分程序模块,单独进行该部分程序模块的运行控制,而无需进行整个流图的全部运行,从而能够便于整个程序的运行控制,而且在程序运行失败时,便于错误调试。
图13是本发明实施例中的计算机可读存储介质的结构示意图。参考图13所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
本发明实施例中,通过获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云,确定所述第一目标点云的最长轴,根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称,根据所述对称轴确定所述按压瓶吸取点或抓取点,实现顶部出液嘴为长条形的物体如按压瓶的吸取或抓取。通过主成分分析将第一目标点云转换为一特征向量空间中的多个特征向量确定第一目标点云的最长轴,进而根据将所述第一目标点云和沿XZ平面镜面翻转生成第二目标点云进行配准生成第三目标点云,然后在进行对称轴的计算,实现在长条形物体上点云密度较底时对称轴的准确计算,进而实现吸取点或抓取点的准确计算。本发明实施中对每一按压瓶的点云检测时间为10ms,能够较好的检测出点云的位置和方向。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变形或修改,这并不影响本发明的实质内容。

Claims (9)

1.一种物体抓取***,其特征在于,包括:
深度相机,包括投影机和光接收传感器,所述投影机用于向垂直放置的按压瓶垂直投射结构光,所述光接收传感器用于接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图;
处理器模块,用于获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云,确定所述第一目标点云的最长轴,根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴,根据所述对称轴确定所述按压瓶的吸取点或抓取点;
机器人模块,用于根据所述按压瓶的吸取点或抓取点对所述按压瓶的进行吸取或抓取,所述机器人模块包括末端执行器,通过所述末端执行器对所述按压瓶的进行抓取;
所述末端执行器为气囊夹具,所述气囊夹具包括:
夹具座,开设有安装位;
气囊,设于所述安装位;且所述气囊的侧壁形成一夹持空间,充气状态下所述气囊的外侧壁受到所述夹具座施加的径向支撑力,所述气囊的内侧壁径向向内膨胀以夹持待夹持物;
所述夹具座上设有第一避让缺口,所述气囊上对应所述第一避让缺口的位置设有第二避让缺口;所述第一避让缺口和第二避让缺口用作所述按压瓶上端出液嘴的移动通道以使所述出液嘴进入所述夹持空间。
2.根据权利要求1所述的物体抓取***,其特征在于,所述处理器模块包括:
点云获取单元,用于获取按压瓶的点云图,并在所述点云图上截取ROI区域以确定第一目标点云;
最长轴确定单元,用于确定所述第一目标点云的最长轴;
点位确定单元,用于根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴,进而根据所述对称轴确定所述按压瓶吸取点或抓取点。
3.根据权利要求2所述的物体抓取***,其特征在于,所述最长轴确定单元包括如下部分:
点云获取部,用于获取所述第一目标点云;
主成分分析部,用于对所述第一目标点云进行主成分分析将第一目标点云转换为一特征向量空间中的多个特征向量;
轴向确定部,用于根据所述特征向量确定所述第一目标点云的最长轴和最短轴。
4.根据权利要求2所述的物体抓取***,其特征在于,所述点位确定单元包括如下部分:
点云位置调整部,用于将所述第一目标点云的最长轴朝向所述特征向量空间的X轴,所述ROI区域的最短轴朝向所述特征向量空间的Z轴;
对称轴确定部,用于根据所述第一目标点云的最长轴确定所述第一目标点云在最长轴方向的对称轴;
点位确定部,用于根据所述对称轴确定所述按压瓶吸取点或抓取点。
5.根据权利要求4所述的物体抓取***,其特征在于,所述对称轴确定部包括如下部分:
镜面翻转分部,用于将所述第一目标点云沿XZ平面镜面翻转生成第二目标点云,同时确定所述翻转时的翻转矩阵;
点云配准分部,用于将所述第一目标点云和所述第二目标点云进行配准,生成第三目标点云,同时确定所述第一目标点云在配准时的旋转矩阵;
法向量确定分部,用于根据所述第一目标点云和所述第三目标点云上相对应的两个点确定对称轴的法向量;
目标点确定分部,用于根据所述第一目标点云、所述翻转矩阵以及所述旋转矩阵确定对称轴上的目标点;
对称轴确定分部,用于根据所述对称轴的法向量和所述目标点确定所述对称轴的位置。
6.根据权利要求4所述的物体抓取***,其特征在于,所述对称轴确定部包括如下部分:
镜面翻转分部,用于将所述第一目标点云沿XZ平面镜面翻转生成第二目标点云;
点云配准分部,用于将所述第一目标点云和所述第二目标点云进行配准,生成沿所述特征向量空间的X轴对称的第三目标点云,同时确定所述第一目标点云在配准时的旋转矩阵;
对称轴确定分部,用于确定所述第三目标点云的对称轴,进而根据所述旋转矩阵确定所述第一目标点云的对称轴。
7.根据权利要求1所述的物体抓取***,其特征在于,所述点云位置调整部用于控制所述第一目标点云的最长轴尽可能与所述特征向量空间的X轴朝向一致,将所述ROI区域的最短轴尽可能与所述特征向量空间的Z轴朝向一致。
8.根据权利要求1所述的物体抓取***,其特征在于,所述投影机用于向垂直放置的按压瓶垂直投射结构光,所述光接收传感器用于接收所述按压瓶反射后的所述结构光生成俯视所述按压瓶方向的点云图;
所述ROI区域为所述点云图中所述按压瓶上顶部出液嘴的区域。
9.根据权利要求8所述的物体抓取***,其特征在于,在确定包括所述按压瓶上顶部出液嘴的ROI区域时,通过RGB相机采集俯视所述按压瓶方向的RGB图像,所述RGB图像和所述点云图对齐;先通过深度学习模型在所述RGB图像识别出包括所述按压瓶上顶部出液嘴的ROI区域,然后再在所述点云图上确定出包括所述按压瓶上顶部出液嘴的ROI区域。
CN202211067628.4A 2022-09-02 2022-09-02 物体抓取*** Active CN115139325B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211067628.4A CN115139325B (zh) 2022-09-02 2022-09-02 物体抓取***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211067628.4A CN115139325B (zh) 2022-09-02 2022-09-02 物体抓取***

Publications (2)

Publication Number Publication Date
CN115139325A true CN115139325A (zh) 2022-10-04
CN115139325B CN115139325B (zh) 2022-12-23

Family

ID=83416664

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211067628.4A Active CN115139325B (zh) 2022-09-02 2022-09-02 物体抓取***

Country Status (1)

Country Link
CN (1) CN115139325B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050128197A1 (en) * 2003-12-11 2005-06-16 Strider Labs, Inc. Probable reconstruction of surfaces in occluded regions by computed symmetry
CN108010036A (zh) * 2017-11-21 2018-05-08 江南大学 一种基于rgb-d相机的物体对称轴检测方法
CN109015640A (zh) * 2018-08-15 2018-12-18 深圳清华大学研究院 抓取方法、***、计算机装置及可读存储介质
CN110580725A (zh) * 2019-09-12 2019-12-17 浙江大学滨海产业技术研究院 一种基于rgb-d相机的箱体分拣方法及***
CN215920503U (zh) * 2021-10-15 2022-03-01 星猿哲科技(上海)有限公司 一种气囊夹具

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050128197A1 (en) * 2003-12-11 2005-06-16 Strider Labs, Inc. Probable reconstruction of surfaces in occluded regions by computed symmetry
CN108010036A (zh) * 2017-11-21 2018-05-08 江南大学 一种基于rgb-d相机的物体对称轴检测方法
CN109015640A (zh) * 2018-08-15 2018-12-18 深圳清华大学研究院 抓取方法、***、计算机装置及可读存储介质
CN110580725A (zh) * 2019-09-12 2019-12-17 浙江大学滨海产业技术研究院 一种基于rgb-d相机的箱体分拣方法及***
CN215920503U (zh) * 2021-10-15 2022-03-01 星猿哲科技(上海)有限公司 一种气囊夹具

Also Published As

Publication number Publication date
CN115139325B (zh) 2022-12-23

Similar Documents

Publication Publication Date Title
US11383380B2 (en) Object pickup strategies for a robotic device
US10124489B2 (en) Locating, separating, and picking boxes with a sensor-guided robot
CN113351522B (zh) 物品分拣方法、装置及***
US20160335496A1 (en) Systems and Methods for Scale Invariant 3D Object Detection Leveraging Processor Architecture
CN113191174A (zh) 物品定位方法和装置、机器人及计算机可读存储介质
Pan et al. Manipulator package sorting and placing system based on computer vision
CN114037595A (zh) 图像数据处理方法、装置、电子设备和存储介质
CN114092428A (zh) 图像数据处理方法、装置、电子设备和存储介质
CN115744272A (zh) 机器人多表面夹持器组件及其操作方法
CN115139325B (zh) 物体抓取***
CN112802107A (zh) 基于机器人的夹具组的控制方法及装置
CN115471834A (zh) 物体抓取姿态识别方法、装置、设备及存储介质
CN113284129B (zh) 基于3d包围盒的压箱检测方法及装置
JPH08315152A (ja) 画像認識装置
CN117798957A (zh) 物体抓取***
JP7481926B2 (ja) 情報処理装置、仕分システム、及びプログラム
CN114022342A (zh) 抓取点信息获取方法、装置、电子设备和存储介质
CN114022341A (zh) 抓取点信息获取方法、装置、电子设备和存储介质
CN117809232A (zh) 物体抓取姿态识别方法、装置、设备及存储介质
JP7481867B2 (ja) 制御装置及びプログラム
JP7408107B2 (ja) 物体取り扱いを伴うロボットシステムのためのシステム及び方法
CN113298866B (zh) 物体分类方法及装置
CN118115575A (zh) 多轮廓物体的位姿识别***
US20230228688A1 (en) Planar object segmentation
CN116551672A (zh) 用于具有物体处置能力的机器人***的***和方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address

Address after: 200240 1, 5, 951 Jianchuan Road, Minhang District, Shanghai.

Patentee after: Star ape philosophy Technology (Shanghai) Co.,Ltd.

Patentee after: Xingyuanzhe Technology (Shenzhen) Co.,Ltd.

Address before: 518102 Room 1201M1, Hengfang Science and Technology Building, No. 4008, Xinhu Road, Yongfeng Community, Xixiang Street, Baoan District, Shenzhen City, Guangdong Province

Patentee before: Xingyuanzhe Technology (Shenzhen) Co.,Ltd.

Patentee before: Star ape philosophy Technology (Shanghai) Co.,Ltd.

CP03 Change of name, title or address