CN113284129A - 基于3d包围盒的压箱检测方法及装置 - Google Patents

基于3d包围盒的压箱检测方法及装置 Download PDF

Info

Publication number
CN113284129A
CN113284129A CN202110656960.3A CN202110656960A CN113284129A CN 113284129 A CN113284129 A CN 113284129A CN 202110656960 A CN202110656960 A CN 202110656960A CN 113284129 A CN113284129 A CN 113284129A
Authority
CN
China
Prior art keywords
box
point
bounding box
virtual
grabbing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110656960.3A
Other languages
English (en)
Other versions
CN113284129B (zh
Inventor
魏海永
班宇
邵天兰
丁有爽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mech Mind Robotics Technologies Co Ltd
Original Assignee
Mech Mind Robotics Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mech Mind Robotics Technologies Co Ltd filed Critical Mech Mind Robotics Technologies Co Ltd
Priority to CN202110656960.3A priority Critical patent/CN113284129B/zh
Publication of CN113284129A publication Critical patent/CN113284129A/zh
Application granted granted Critical
Publication of CN113284129B publication Critical patent/CN113284129B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Manipulator (AREA)

Abstract

本发明公开了一种基于3D包围盒的压箱检测方法及装置。该方法包括:获取压箱检测参数信息,其中,压箱检测参数信息包括:底面尺寸阈值、高度阈值;获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云,其中,第一物体为待抓取物体,第二物体为当前场景中除第一物体外的其它物体;基于抓取点位姿信息、压箱检测参数信息构建虚拟3D包围盒;根据虚拟3D包围盒及第二物体的点云判断是否存在压箱风险,并输出压箱检测结果,从而能够准确地判断出第一物体周围是否存在可能造成压箱的第二物体,通过输出压箱检测结果能够精准控制机器人夹具进行安全抓取,避免机器人夹具抓取第一物体时对其周围的第二物体造成破坏的现象。

Description

基于3D包围盒的压箱检测方法及装置
技术领域
本发明涉及计算机技术领域,具体涉及一种基于3D包围盒的压箱检测方法及装置。
背景技术
随着工业智能化的发展,通过机器人代替人工对物体(例如工业零件、箱体等)进行操作的情况越来越普及。在机器人操作时,一般需要抓取物体,将物体从一个位置移动并放置至另一位置处,例如从传送带上抓取物体移动并放置于托盘上或笼车中,又如从托盘上抓取物体,按要求放置于传送带或其他托盘上等。然而,现有技术中可能出现某个物体虽然从码垛角度或者拆垛角度是最适合抓取的,但是可能出现该物体周围的存在其它高大物体而造成压箱的问题,破坏了其它物体。
发明内容
鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的基于3D包围盒的压箱检测方法及装置。
根据本发明的一个方面,提供了一种基于3D包围盒的压箱检测方法,包括:
获取压箱检测参数信息,其中,压箱检测参数信息包括:底面尺寸阈值、高度阈值;
获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云,其中,第一物体为待抓取物体,第二物体为当前场景中除第一物体外的其它物体;
基于抓取点位姿信息、压箱检测参数信息构建虚拟3D包围盒;
根据虚拟3D包围盒及第二物体的点云判断是否存在压箱风险,并输出压箱检测结果。
根据本发明的另一方面,提供了一种基于3D包围盒的压箱检测装置,包括:
第一获取模块,适于获取压箱检测参数信息,其中,压箱检测参数信息包括:底面尺寸阈值、高度阈值;
第二获取模块,适于获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云,其中,第一物体为待抓取物体,第二物体为当前场景中除第一物体外的其它物体;
构建模块,适于基于抓取点位姿信息、压箱检测参数信息构建虚拟3D包围盒;
检测模块,适于根据虚拟3D包围盒及第二物体的点云检测是否存在压箱风险,并输出压箱检测结果。
根据本发明的又一方面,提供了一种计算设备,包括:处理器、存储器、通信接口和通信总线,处理器、存储器和通信接口通过通信总线完成相互间的通信;
存储器用于存放至少一可执行指令,可执行指令使处理器执行上述基于3D包围盒的压箱检测方法对应的操作。
根据本发明的再一方面,提供了一种计算机存储介质,存储介质中存储有至少一可执行指令,可执行指令使处理器执行如上述基于3D包围盒的压箱检测方法对应的操作。
根据本发明提供的方案,通过在第一物体的抓取点的上方,构建能够机器人夹具安全抓取的虚拟3D包围盒,根据虚拟3D包围盒及第二物体的点云进行压箱风险检测能够准确地判断出第一物体周围是否存在可能造成压箱的第二物体,通过输出压箱检测结果能够精准控制机器人夹具进行安全抓取,避免机器人夹具抓取第一物体时对其周围的第二物体造成破坏的现象。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了根据本发明一个实施例的基于3D包围盒的压箱检测方法的流程示意图;
图2示出了根据本发明另一个实施例的基于3D包围盒的压箱检测方法的流程示意图;
图3示出了根据本发明一个实施例的基于3D包围盒的压箱检测装置的结构示意图;
图4示出了根据本发明一个实施例的计算设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例,然而应当理解,可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本发明,并且能够将本发明的范围完整的传达给本领域的技术人员。
图1示出了根据本发明一个实施例的基于3D包围盒的压箱检测方法的流程示意图。如图1所示,该方法包括以下步骤:
步骤S101,获取压箱检测参数信息,其中,压箱检测参数信息包括:底面尺寸阈值、高度阈值。
具体地,向压箱检测人员提供输入界面,压箱检测人员在所提供的输入界面中输入压箱检测参数信息,本实施例需要获取压箱检测人员所输入的压箱检测参数信息,压箱检测参数信息包括:底面尺寸阈值、高度阈值,其中,高度阈值是机器人夹具在抓取物体过程中相对物体需要抬起的高度,是相对抬起高度,高度阈值是一个固定值,其能够满足所有物体抓取前的压箱检测;底面尺寸阈值具体是根据机器人夹具的尺寸及机器人的转弯半径而确定的,机器人夹具可以是吸盘等,底面尺寸阈值需要大于机器人夹具尺寸与机器人的转弯半径之和,然而,底面尺寸阈值并不是越大越好,为了避免误检测,底面尺寸阈值略大于机器人夹具尺寸与机器人的转弯半径之和即可。
步骤S102,获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云,其中,第一物体为待抓取物体,第二物体为当前场景中除第一物体外的其它物体。
当前场景是物体当前所在的环境,当前场景是动态变化的,其随着物体的抓取而变化,第一物体是当前场景中的待抓取的物体,第二物体为当前场景中除第一物体外的其它物体,抓取点是第一物体的上表面的中心点,是便于机器人夹具进行物体抓取的点,实际应用中,第一物体可能并不是处于水平状态,为了能够精准地进行压箱检测,本步骤需要获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云,其中,第一物体的数量可以是一个或多个。
第一物体与第二物体是相对的,举例说明,当前场景中包含物体A、物体B、物体C、物体D,若物体A为第一物体时,则物体B、物体C、物体D为第二物体;若物体B为第一物体时,则物体A、物体C、物体D为第二物体。
需要说明的是,本实施例并不限定步骤S101和步骤S102的执行顺序,可以先执行步骤S101再执行步骤S102,或者,先执行步骤S102再执行步骤S101,或者,同时执行步骤S101和步骤S102。
步骤S103,基于抓取点位姿信息、压箱检测参数信息构建虚拟3D包围盒。
为了能够避免机器人夹具抓取物体过程中出现的压箱现象并实现安全抓取,需要在机器人夹具抓取物体前进行压箱检测,例如,通过构建虚拟3D包围盒,基于所构建的虚拟3D包围盒来进行压箱检测,具体地,抓取点位姿信息具体可包括抓取点在空间中XYZ三轴的坐标值以及XYZ三轴方向等信息,通俗地讲,抓取点位姿信息定义了所构建的虚拟3D包围盒的底面及底面的中心点,以及虚拟3D包围盒的角度朝向;而高度阈值则定义了所构建的虚拟3D包围盒的高度,底面尺寸阈值则定义了虚拟3D包围盒的底面的尺寸,例如,长和宽,因此,可以基于抓取点位姿信息、压箱检测参数信息来构建虚拟3D包围盒,其中,所构建的虚拟3D包围盒是第一物体的抓取点上方的一个空间,该空间是机器人夹具能够实现安全抓取物体且不造成压箱的安全空间。
步骤S104,根据虚拟3D包围盒及第二物体的点云检测是否存在压箱风险,并输出压箱检测结果。
压箱是指机器人夹具向目标物体移动过程中,会碰撞到目标物体周围的其它物体,而对其它物体造成破坏的情况,为了避免压箱情况出现,需要进行压箱检测,步骤S103构建得到的虚拟3D包围盒是第一物体的抓取点上方的一个空间,该空间是机器人夹具抓取第一物体过程中不出现压箱情况所需要的安全空间,第二物体的点云是第一物体周围物体的点云,因此,可以根据虚拟3D包围盒及第二物体的点云来检测是否存在压箱风险,并输出对应的压箱检测结果。
根据本发明上述实施例提供的基于3D包围盒的压箱检测方法,通过在第一物体的抓取点的上方,构建机器人夹能够具安全抓取的虚拟3D包围盒,根据虚拟3D包围盒及第二物体的点云进行压箱风险检测能够准确地判断出第一物体周围是否存在可能造成压箱的第二物体,通过输出压箱检测结果能够精准控制机器人夹具进行安全抓取,避免机器人夹具抓取第一物体时对其周围的第二物体造成破坏的现象。
图2示出了根据本发明另一个实施例的基于3D包围盒的压箱检测方法的流程示意图。如图2所示,该方法包括以下步骤:
步骤S201,获取压箱检测参数信息,其中,压箱检测参数信息包括:底面尺寸阈值、高度阈值。
具体地,向压箱检测人员提供输入界面,压箱检测人员在所提供的输入界面中输入压箱检测参数信息,本实施例需要获取压箱检测人员所输入的压箱检测参数信息,压箱检测参数信息包括:底面尺寸阈值、高度阈值,其中,高度阈值是机器人夹具在抓取物体过程中相对物体需要抬起的高度,是相对抬起高度,高度阈值是一个固定值,其能够满足所有物体抓取前的压箱检测;底面尺寸阈值具体是根据机器人夹具的尺寸及机器人的转弯半径而确定的,机器人夹具可以是吸盘等,底面尺寸阈值需要大于机器人夹具尺寸与机器人的转弯半径之和,然而,底面尺寸阈值并不是越大越好,为了避免误检测,底面尺寸阈值略大于机器人夹具尺寸与机器人的转弯半径之和即可。
步骤S202,获取场景图像以及场景图像对应的点云,利用预设分割算法对场景图像进行分割处理,得到场景图像中各个物体的分割结果,根据场景图像对应的点云以及各个物体的分割结果,确定各个物体对应的点云。
具体地,向3D视觉装置发送触发信号,控制3D视觉装置采集当前场景的场景图像和深度图像,3D相机可包括有激光探测器、LED等可见光探测器、红外探测器和/或雷达探测器等元件,利用这些元件对当前场景进行探测以得到深度图像,3D视觉装置具体可为3D相机,设置在上方位置处,其中,场景图像为RGB图像,场景图像和深度图像的像素点一一对应。通过对场景图像和深度图像进行处理,能够便捷地得到场景图像对应的点云,点云包括各个3D点的位姿信息,各个3D点的位姿信息具体可包括各个3D点在空间的XYZ三轴的坐标值以及各个3D点自身的XYZ三轴朝向等信息。在本步骤中,可获取3D视觉装置采集到的当前场景的场景图像以及通过对场景图像和深度图像进行处理而得到的场景图像对应的点云。
本实施例的目的是输出当前场景中所有能够被机器人夹具抓取且不会造成压箱的抓取点,因此,需要分割出场景图像中所包含的每个物体,为了便捷、精准地分割出场景图像中所包含的每个物体,可预先收集样本场景图像,构建训练样本集合,采用深度学习算法对训练样本集合中的各个样本场景图像进行训练,最终训练得到深度学习分割模型,那么在获取了当前场景的场景图像之后,可将场景图像输入至经过训练的深度学习分割模型中,利用经过训练的深度学习分割模型进行一系列的模型计算,对场景图像中所包含的每个物体进行实例分割处理,从而得到场景图像中各个物体的分割结果。将场景图像对应的点云与分割处理得到的各个物体的分割结果进行匹配,从场景图像对应的点云中查找到各个物体对应的3D点,针对每个物体,汇总该物体对应的所有3D点形成该物体对应的点云。
步骤S203,确定场景图像中的第一物体及第二物体,基于第一物体的点云确定该物体的抓取点对应的位姿信息。
既然是输出当前场景中所有能够被机器人夹具抓取且不会造成压箱的抓取点,那么当前场景中的每个物体均可以作为第一物体,场景图像中除第一物体外的其它物体被视为第二物体,第一物体和第二物体是相对的。在步骤S202中得到的是当前场景中各个物体的点云,因此,在确定场景图像中的第一物体及第二物体后,第一物体及第二物体对应的点云也可确定。基于第一物体的点云确定该物体的抓取点对应的位姿信息,例如,可以根据第一物体的点云确定第一物体的中心点,该中心点投影至第一物体的上表面所对应的点即为第一物体的抓取点,从而确定了第一物体的抓取点对应的位姿信息。
步骤S204,基于抓取点位姿信息、压箱检测参数信息构建虚拟3D包围盒。
为了能够避免机器人夹具抓取物体过程中出现的压箱现象并实现安全抓取,需要在机器人夹具抓取物体前进行压箱检测,例如,通过构建虚拟3D包围盒,基于所构建的虚拟3D包围盒来进行压箱检测,具体地,抓取点位姿信息具体可包括抓取点在空间中XYZ三轴的坐标值以及XYZ三轴方向等信息,通俗地讲,抓取点位姿信息定义了所构建的虚拟3D包围盒的底面及底面的中心点,以及虚拟3D包围盒的角度朝向;而高度阈值则定义了所构建的虚拟3D包围盒的高度,底面尺寸阈值则定义了虚拟3D包围盒的底面的尺寸,例如,长和宽,因此,可以基于抓取点位姿信息、压箱检测参数信息来构建虚拟3D包围盒,其中,所构建的虚拟3D包围盒是第一物体的抓取点上方的一个空间,该空间是机器人夹具能够实现安全抓取物体且不造成压箱的安全空间。
虚拟3D包围盒与抓取点在同一个坐标系下,3D包围盒的长宽高分别与抓取点位姿信息的XYZ三轴相平行,根据抓取点位姿信息、压箱检测参数信息,设置虚拟3D包围盒的长宽高的起始位置和终止位置。例如,虚拟3D包围盒的长的起始位置为minX,终止位置为maxX,则虚拟3D包围盒的长对应于区间(minX,maxX);虚拟3D包围盒的宽的起始位置为minY,终止位置为maxY,则虚拟3D包围盒的宽对应于区间(minY,maxY);虚拟3D包围盒的高的起始位置为minZ,终止位置为maxZ,则虚拟3D包围盒的高对应于区间(minZ,maxZ)。
步骤S205,将第二物体的多个点云的坐标转换至虚拟3D包围盒的坐标系下。
为了便于判断第二物体的点云是否落入虚拟3D包围盒内,需要将第二物体的多个点云的坐标转换至虚拟3D包围盒的坐标系下,具体地,在转换时需要结合抓取点位姿信息计算转换角度和移动距离,然后,基于所计算得到的转换角度和移动距离对第二物体的多个点云的坐标进行转换,使得第二物体的多个点云与虚拟3D包围盒处于同一坐标系。
虚拟3D包围盒是机器人夹能够具安全抓取的一个空间,因此,在将第二物体的多个点云的坐标转换至虚拟3D包围盒的坐标系下之后,可以通过步骤S206-步骤S209中的方法来判断是否存在压箱风险:
步骤S206,统计位于虚拟3D包围盒内第二物体的点云的数量。
针对第二物体的任一点云,确定点云的坐标是否落入虚拟3D包围盒所形成的空间内,例如,第二物体的点云的坐标为(x,y,z),虚拟3D包围盒的长宽高分别对应于区间(minX,maxX)、(minY,maxY)和(minZ,maxZ),判断第二物体的点云的坐标(x,y,z)是否落入区间(minX,maxX)、(minY,maxY)和(minZ,maxZ)所形成的空间内,若是,则认为该点云位于虚拟3D包围盒内,若否,则认为该点云位于虚拟3D包围盒外。然后,统计位于虚拟3D包围盒内的第二物体的点云的数量。
步骤S207,判断点云数量是否大于预设点云阈值;若是,则执行步骤S208;若否,则执行步骤S209。
本实施例预先设置了存在压箱风险的点云阈值,该预设点云阈值是一个临界值,预设点云阈值可以是0或者其它数值,例如,50,因此,可以通过判断位于虚拟3D包围盒内的第二物体的点云的数量是否大于预设点云阈值,来确定是否存在压箱风险,若位于虚拟3D包围盒内的第二物体的点云的数量大于预设点云阈值,则表明存在压箱风险;若位于虚拟3D包围盒内的第二物体的点云的数量小于或等于预设点云阈值,则表明不存在压箱风险。
步骤S208,确定存在压箱风险。
步骤S209,确定不存在压箱风险。
步骤S210,输出压箱检测结果。
具体地,压箱检测结果可以根据实际需要而输出,例如,可以只输出不存在压箱风险的第一物体的抓取点对应的位姿信息而不输出存在压箱风险的第一物体的抓取点对应的位姿信息,或者输出第一物体的抓取点对应的位姿信息及压箱检测标记,其中,压箱检测标记包含:压箱标记或抓取标记,压箱标记表示存在压箱风险,抓取标记表示不存在压箱风险,能够进行抓取,通过输出压箱检测标记能够直观地了解到抓取哪个物体时存在压箱风险。
根据本发明上述实施例提供的基于3D包围盒的压箱检测方法,通过在第一物体的抓取点的上方,构建机器人夹能够具安全抓取的虚拟3D包围盒,将第二物体的多个点云的坐标转换至虚拟3D包围盒的坐标系下,便于精确地确定第二物体的点云是否位于虚拟3D包围盒内,通过将位于虚拟3D包围盒内第二物体的点云的数量与预设点云阈值进行比较,能够准确地判断出第一物体周围是否存在可能造成压箱的第二物体,通过输出压箱检测结果能够精准控制机器人夹具进行安全抓取,避免机器人夹具抓取第一物体时对其周围的第二物体造成破坏的现象。
图3示出了根据本发明一个实施例的基于3D包围盒的压箱检测装置的结构示意图。如图3所示,该装置包括:第一获取模块301、第二获取模块302、构建模块303、检测模块304。
第一获取模块301,适于获取压箱检测参数信息,其中,压箱检测参数信息包括:底面尺寸阈值、高度阈值;
第二获取模块302,适于获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云,其中,第一物体为待抓取物体,第二物体为当前场景中除第一物体外的其它物体;
构建模块303,适于基于抓取点位姿信息、压箱检测参数信息构建虚拟3D包围盒;
检测模块304,适于根据虚拟3D包围盒及第二物体的点云检测是否存在压箱风险,并输出压箱检测结果。
可选地,检测模块进一步适于:统计位于虚拟3D包围盒内第二物体的点云的数量;
判断点云数量是否大于预设点云阈值;
若是,则确定存在压箱风险;若否,则确定不存在压箱风险。
可选地,检测模块还适于:将第二物体的多个点云的坐标转换至虚拟3D包围盒的坐标系下。
可选地,检测模块进一步适于:输出第一物体的抓取点对应的位姿信息及压箱检测标记,其中,压箱检测标记包含:压箱标记或抓取标记;或者,
若不存在压箱风险,则输出第一物体的抓取点对应的位姿信息。
可选地,第二获取模块进一步适于:获取场景图像以及场景图像对应的点云,利用预设分割算法对场景图像进行分割处理,得到场景图像中各个物体的分割结果,根据场景图像对应的点云以及各个物体的分割结果,确定各个物体对应的点云;
确定场景图像中的第一物体及第二物体,基于第一物体的点云确定该物体的抓取点对应的位姿信息。
可选地,底面尺寸阈值具体是根据机器人夹具的尺寸及机器人的转弯半径而确定的。
根据本发明上述实施例提供的基于3D包围盒的压箱检测装置,通过在第一物体的抓取点的上方,构建能够机器人夹具安全抓取的虚拟3D包围盒,根据虚拟3D包围盒及第二物体的点云进行压箱风险检测能够准确地判断出第一物体周围是否存在可能造成压箱的第二物体,通过输出压箱检测结果能够精准控制机器人夹具进行安全抓取,避免机器人夹具抓取第一物体时对其周围的第二物体造成破坏的现象。
本申请实施例还提供了一种非易失性计算机存储介质,计算机存储介质存储有至少一可执行指令,该计算机可执行指令可执行上述任意方法实施例中的基于3D包围盒的压箱检测方法。
图4示出了根据本发明一个实施例的计算设备的结构示意图,本发明具体实施例并不对计算设备的具体实现做限定。
如图4所示,该计算设备可以包括:处理器(processor)402、通信接口(Communications Interface)404、存储器(memory)406、以及通信总线408。
其中:处理器402、通信接口404、以及存储器406通过通信总线408完成相互间的通信。
通信接口404,用于与其它设备比如客户端或其它服务器等的网元通信。
处理器402,用于执行程序410,具体可以执行上述基于3D包围盒的压箱检测方法实施例中的相关步骤。
具体地,程序410可以包括程序代码,该程序代码包括计算机操作指令。
处理器402可能是中央处理器CPU,或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit),或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器,可以是同一类型的处理器,如一个或多个CPU;也可以是不同类型的处理器,如一个或多个CPU以及一个或多个ASIC。
存储器406,用于存放程序410。存储器406可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
程序410具体可以用于使得处理器402执行上述任意方法实施例中的基于3D包围盒的压箱检测方法。程序410中各步骤的具体实现可以参见上述基于3D包围盒的压箱检测实施例中的相应步骤和单元中对应的描述,在此不赘述。所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的设备和模块的具体工作过程,可以参考前述方法实施例中的对应过程描述,在此不再赘述。
在此提供的算法或显示不与任何特定计算机、虚拟***或者其它设备固有相关。各种通用***也可以与基于在此的示教一起使用。根据上面的描述,构造这类***所要求的结构是显而易见的。此外,本发明实施例也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明实施例的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。上述实施例中的步骤,除有特殊说明外,不应理解为对执行顺序的限定。

Claims (14)

1.一种基于3D包围盒的压箱检测方法,包括:
获取压箱检测参数信息,其中,压箱检测参数信息包括:底面尺寸阈值、高度阈值;
获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云,其中,第一物体为待抓取物体,第二物体为当前场景中除第一物体外的其它物体;
基于抓取点位姿信息、压箱检测参数信息构建虚拟3D包围盒;
根据所述虚拟3D包围盒及第二物体的点云检测是否存在压箱风险,并输出压箱检测结果。
2.根据权利要求1所述的方法,其中,所述根据虚拟3D包围盒及第二物体的点云检测是否存在压箱风险进一步包括:
统计位于所述虚拟3D包围盒内第二物体的点云的数量;
判断点云数量是否大于预设点云阈值;
若是,则确定存在压箱风险;若否,则确定不存在压箱风险。
3.根据权利要求2所述的方法,其中,在统计位于所述虚拟3D包围盒内第二物体的点云的数量之前,所述方法还包括:
将所述第二物体的多个点云的坐标转换至所述虚拟3D包围盒的坐标系下。
4.根据权利要求1-3中任一项所述的方法,其中,所述输出压箱检测结果进一步包括:
输出第一物体的抓取点对应的位姿信息及压箱检测标记,其中,压箱检测标记包含:压箱标记或抓取标记;或者
若不存在压箱风险,则输出第一物体的抓取点对应的位姿信息。
5.根据权利要求1-3中任一项所述的方法,其中,所述获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云进一步包括:
获取场景图像以及场景图像对应的点云,利用预设分割算法对场景图像进行分割处理,得到所述场景图像中各个物体的分割结果,根据所述场景图像对应的点云以及各个物体的分割结果,确定各个物体对应的点云;
确定场景图像中的第一物体及第二物体,基于第一物体的点云确定该物体的抓取点对应的位姿信息。
6.根据权利要求1-3中任一项所述的方法,其中,所述底面尺寸阈值具体是根据机器人夹具的尺寸及机器人的转弯半径而确定的。
7.一种基于3D包围盒的压箱检测装置,包括:
第一获取模块,适于获取压箱检测参数信息,其中,压箱检测参数信息包括:底面尺寸阈值、高度阈值;
第二获取模块,适于获取当前场景中第一物体的抓取点对应的位姿信息以及第二物体对应的点云,其中,第一物体为待抓取物体,第二物体为当前场景中除第一物体外的其它物体;
构建模块,适于基于抓取点位姿信息、压箱检测参数信息构建虚拟3D包围盒;
检测模块,适于根据所述虚拟3D包围盒及第二物体的点云检测是否存在压箱风险,并输出压箱检测结果。
8.根据权利要求7所述的装置,其中,所述检测模块进一步适于:统计位于所述虚拟3D包围盒内第二物体的点云的数量;
判断点云数量是否大于预设点云阈值;
若是,则确定存在压箱风险;若否,则确定不存在压箱风险。
9.根据权利要求8所述的装置,其中,所述检测模块还适于:将所述第二物体的多个点云的坐标转换至所述虚拟3D包围盒的坐标系下。
10.根据权利要求7-9中任一项所述的装置,其中,所述检测模块进一步适于:输出第一物体的抓取点对应的位姿信息及压箱检测标记,其中,压箱检测标记包含:压箱标记或抓取标记;或者,
若不存在压箱风险,则输出第一物体的抓取点对应的位姿信息。
11.根据权利要求7-9中任一项所述的装置,其中,所述第二获取模块进一步适于:
获取场景图像以及场景图像对应的点云,利用预设分割算法对场景图像进行分割处理,得到所述场景图像中各个物体的分割结果,根据所述场景图像对应的点云以及各个物体的分割结果,确定各个物体对应的点云;
确定场景图像中的第一物体及第二物体,基于第一物体的点云确定该物体的抓取点对应的位姿信息。
12.根据权利要求7-9中任一项所述的装置,其中,所述底面尺寸阈值具体是根据机器人夹具的尺寸及机器人的转弯半径而确定的。
13.一种计算设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如权利要求1-6中任一项所述的基于3D包围盒的压箱检测方法对应的操作。
14.一种计算机存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如权利要求1-6中任一项所述的基于3D包围盒的压箱检测方法对应的操作。
CN202110656960.3A 2021-06-11 2021-06-11 基于3d包围盒的压箱检测方法及装置 Active CN113284129B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110656960.3A CN113284129B (zh) 2021-06-11 2021-06-11 基于3d包围盒的压箱检测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110656960.3A CN113284129B (zh) 2021-06-11 2021-06-11 基于3d包围盒的压箱检测方法及装置

Publications (2)

Publication Number Publication Date
CN113284129A true CN113284129A (zh) 2021-08-20
CN113284129B CN113284129B (zh) 2024-06-18

Family

ID=77284538

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110656960.3A Active CN113284129B (zh) 2021-06-11 2021-06-11 基于3d包围盒的压箱检测方法及装置

Country Status (1)

Country Link
CN (1) CN113284129B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114619447A (zh) * 2022-03-16 2022-06-14 梅卡曼德(北京)机器人科技有限公司 抓取方法、抓取装置及机器人

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107138432A (zh) * 2017-04-05 2017-09-08 杭州迦智科技有限公司 非刚性物体分拣方法和装置
CN107803831A (zh) * 2017-09-27 2018-03-16 杭州新松机器人自动化有限公司 一种aoaae层次包围盒碰撞检测方法
CN109816730A (zh) * 2018-12-20 2019-05-28 先临三维科技股份有限公司 工件抓取方法、装置、计算机设备和存储介质
CN111080693A (zh) * 2019-11-22 2020-04-28 天津大学 一种基于YOLOv3的机器人自主分类抓取方法
CN111815708A (zh) * 2020-07-17 2020-10-23 中国科学院自动化研究所 基于双通路卷积神经网络的服务机器人抓取检测方法
CN111882610A (zh) * 2020-07-15 2020-11-03 中国科学院自动化研究所 基于椭圆锥人工势场的服务机器人抓取目标物体的方法
CN112025701A (zh) * 2020-08-11 2020-12-04 浙江大华技术股份有限公司 抓取物体的方法、装置、计算设备和存储介质
CN112060087A (zh) * 2020-08-28 2020-12-11 佛山隆深机器人有限公司 一种用于机器人抓取场景的点云碰撞检测方法
CN112744217A (zh) * 2021-03-10 2021-05-04 北京车和家信息技术有限公司 碰撞检测方法、行驶路径的推荐方法及其装置和存储介质
CN112837370A (zh) * 2021-02-26 2021-05-25 梅卡曼德(北京)机器人科技有限公司 基于3d包围盒的物体堆叠判断方法、装置及计算设备

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107138432A (zh) * 2017-04-05 2017-09-08 杭州迦智科技有限公司 非刚性物体分拣方法和装置
CN107803831A (zh) * 2017-09-27 2018-03-16 杭州新松机器人自动化有限公司 一种aoaae层次包围盒碰撞检测方法
CN109816730A (zh) * 2018-12-20 2019-05-28 先临三维科技股份有限公司 工件抓取方法、装置、计算机设备和存储介质
CN111080693A (zh) * 2019-11-22 2020-04-28 天津大学 一种基于YOLOv3的机器人自主分类抓取方法
CN111882610A (zh) * 2020-07-15 2020-11-03 中国科学院自动化研究所 基于椭圆锥人工势场的服务机器人抓取目标物体的方法
CN111815708A (zh) * 2020-07-17 2020-10-23 中国科学院自动化研究所 基于双通路卷积神经网络的服务机器人抓取检测方法
CN112025701A (zh) * 2020-08-11 2020-12-04 浙江大华技术股份有限公司 抓取物体的方法、装置、计算设备和存储介质
CN112060087A (zh) * 2020-08-28 2020-12-11 佛山隆深机器人有限公司 一种用于机器人抓取场景的点云碰撞检测方法
CN112837370A (zh) * 2021-02-26 2021-05-25 梅卡曼德(北京)机器人科技有限公司 基于3d包围盒的物体堆叠判断方法、装置及计算设备
CN112744217A (zh) * 2021-03-10 2021-05-04 北京车和家信息技术有限公司 碰撞检测方法、行驶路径的推荐方法及其装置和存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王张飞;刘春阳;隋新;杨芳;马喜强;陈立海;: "基于深度投影的三维点云目标分割和碰撞检测", 光学精密工程, no. 07, pages 1600 - 1608 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114619447A (zh) * 2022-03-16 2022-06-14 梅卡曼德(北京)机器人科技有限公司 抓取方法、抓取装置及机器人
CN114619447B (zh) * 2022-03-16 2023-12-22 梅卡曼德(北京)机器人科技有限公司 抓取方法、抓取装置及机器人

Also Published As

Publication number Publication date
CN113284129B (zh) 2024-06-18

Similar Documents

Publication Publication Date Title
CN111844019B (zh) 一种机器抓取位置确定方法、设备、电子设备和存储介质
WO2022179261A1 (zh) 基于3d匹配的物体抓取方法、装置及计算设备
JP6529302B2 (ja) 情報処理装置、情報処理方法、プログラム
WO2021249568A1 (zh) 仓储机器人的控制方法、装置、设备及可读存储介质
CN113351522B (zh) 物品分拣方法、装置及***
US9576363B2 (en) Object picking system, object detecting device, object detecting method
US11288814B2 (en) System and method of object detection based on image data
KR101919463B1 (ko) 비정형 소화물 피킹이 가능한 물류 로봇 제어 시스템
JP2015147256A (ja) ロボット、ロボットシステム、制御装置、及び制御方法
JP2004050390A (ja) ワーク取出し装置
CN113284178B (zh) 物体码垛方法、装置、计算设备及计算机存储介质
JP2023024980A (ja) 画像ベースのサイジングメカニズムを備えたロボットシステム及びロボットシステムを操作するための方法
CN114310892B (zh) 基于点云数据碰撞检测的物体抓取方法、装置和设备
CN113284129B (zh) 基于3d包围盒的压箱检测方法及装置
JP7264247B2 (ja) 情報処理装置及び情報処理方法
WO2023092519A1 (zh) 抓取控制方法、装置、电子设备和存储介质
CN114202526A (zh) 质量检测方法、***、装置、电子设备和介质
JP2024015358A (ja) 物体取り扱いを伴うロボットシステムのためのシステム及び方法
Wang et al. GraspFusionNet: a two-stage multi-parameter grasp detection network based on RGB–XYZ fusion in dense clutter
CN116228854B (zh) 一种基于深度学习的包裹自动分拣方法
CN116803631A (zh) 自主***和由自主***执行的方法
CN112837370A (zh) 基于3d包围盒的物体堆叠判断方法、装置及计算设备
JP7481867B2 (ja) 制御装置及びプログラム
CN114800494A (zh) 一种基于单目视觉的搬箱机械手
WO2024053150A1 (ja) ピッキングシステム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: Room 1100, 1st Floor, No. 6 Chuangye Road, Shangdi Information Industry Base, Haidian District, Beijing 100085

Applicant after: MECH-MIND (BEIJING) ROBOTICS TECHNOLOGIES CO.,LTD.

Address before: 100085 1001, floor 1, building 3, No.8 Chuangye Road, Haidian District, Beijing

Applicant before: MECH-MIND (BEIJING) ROBOTICS TECHNOLOGIES CO.,LTD.

CB02 Change of applicant information
GR01 Patent grant
GR01 Patent grant