CN101522377A - 机械手 - Google Patents

机械手 Download PDF

Info

Publication number
CN101522377A
CN101522377A CNA2007800378723A CN200780037872A CN101522377A CN 101522377 A CN101522377 A CN 101522377A CN A2007800378723 A CNA2007800378723 A CN A2007800378723A CN 200780037872 A CN200780037872 A CN 200780037872A CN 101522377 A CN101522377 A CN 101522377A
Authority
CN
China
Prior art keywords
mentioned
image
manipulator
handle part
arm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2007800378723A
Other languages
English (en)
Other versions
CN101522377B (zh
Inventor
柄川索
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Publication of CN101522377A publication Critical patent/CN101522377A/zh
Application granted granted Critical
Publication of CN101522377B publication Critical patent/CN101522377B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • B25J9/1676Avoiding collision or forbidden zones
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/2033Limiting the movement of frames or implements, e.g. to avoid collision between implements and the cabin

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Manipulator (AREA)

Abstract

一种机械手,基于由设在机械手(101)的臂部(103)的图像输入装置(2)获得的把持部(102)周边的图像、和由设于把持部(102)与臂部(103)之间的关节(112)的角度传感器(122)检测出的机械手(101)的位置变化,检测出由把持部(102)把持的物体(109)的位置和形状。另外,接触可能性判定装置(4)检测物体(109)的形状和位置,从而与由周围监视装置(3)检测出的周围物体(108)的位置进行比较,判定接触的可能性。另外,若存在物体(109)与周围物体(108)接触的可能性,则停止机械手(101)的移动,或由警报装置(5)警告把持物体(109)与周围物体(108)的接近。

Description

机械手
技术领域
本发明涉及一种通过臂部把持对象物进行定位或搬运的机械手。
背景技术
机械手为如人的手臂那样组合了关节与臂部(臂)的装置,是把持对象物进行定位或搬运的装置的总称。机械手一般具有把持对象物的把持机构和使把持机构动作的臂机构,存在臂部的移动受到自动控制的机械手和人操作的机械手。作为臂部受到自动控制的类型的机械手的例子,有在工厂中用于部件的输送、组装等的产业用机器人臂部、在公共空间·办公室·家庭内等进行家务或看护等作业的服务机器人的臂部等。作为人操作臂部的类型的机械手的例子,有处理大型·质量大的物体的建筑机械、在宇宙环境或核能设施等中使用的主从机械手、以及医疗用手术支援机械手等。
以往,提出有防止机械手接触周围的物或人的安全技术。对于手臂型机器人提出了如下技术,即,在机器人臂部的作业范围的周围设置侵入检测传感器等,当检测到障碍物的进入时,紧急停止。另外,对于建筑机械,提出了如下的建筑机械的警报装置,即,作业人员佩戴红外线发光器,同时,将红外线感光器安装于建筑机械,当作业人员侵入设定在建筑机械周围的警报区域内时,由红外线感光器检测到作业人员,发出警告。
另一方面,对于机械手所把持的物体,也需要防止接触到周围的物或人。然而,以往未提出可应对把持了未预先提供形状的未知物体的情况的、关于把持物体的接触的安全技术。
为了防止未知的把持物体接触到周围,需要得知把持中的物体的尺寸和形状的机构。作为与其相关的技术,具有以通过机械手把持对象物为目的、获取与该对象物的形状相关的信息的技术。作为该技术,提出了如下方法,即,基于由设置在手臂型机器人上的视觉传感器获得的图像信息,通过图像识别将把持对象物适用于简单形状,计算出其大小、朝向,据此求出把持方法,以便可靠地对任意形状物进行把持。
在日本特开2000-202790号公报中公开了如下的机器人装置,该机器人装置由设置于手臂型机器人主体的超声波传感器检测周围的移动物体,当与主体的距离处于一定的范围内时,对机器人臂部的移动速度进行减速控制。
另外,在日本特开2005-128959号公报中公开了机器人装置及其学习方法,即,通过使臂部单元等的可动部接触于学习对象物体并使学习对象物体动作,以此切出表示学习对象物体的物体区域图像,从该物体区域图像抽取特征量并且登录到物体模型数据库。在这里,抽取对象物体的图像的机构,使用从拍摄的图像抽取在使对象物体动作前后存在变化的区域的方法。
以往,在机械手把持着未知物体的情况下,不存在防止把持物体接触到周围的物或人的适当的安全技术。另外,上述以往的通过图像识别获得与把持对象物体的形状相关的信息的方法能够用于工厂那样的整顿后的环境,但在一般的办公室·家庭内或者屋外等复杂的环境中,存在难以从图像中所拍摄的背景的物体将把持对象物体分离出来的问题。
更详细地说,在一般的办公室·家庭内、屋外等复杂的环境中,存在把持的对象物以外的周围物体也移动的可能性。如日本特开2005-128959号公报那样,作为在对象物正移动的情况下从图像中抽取对象物的方法,已知有从不同时刻的多个图像抽取变化了的部分的方法,但在周围物体也移动的情况下,由于将移动的背景的部分误识别为对象物,所以,不能正确地抽取对象物。
这样,为了安全地处理未知的物体,需要识别正把持的物体,但在以往的技术中,难以在一般的环境中可靠地识别把持对象物体。这使得难以将办公室·家庭用服务机器人等具有处理未知物体的自动型机械手的机器人实用化。另外,在建筑机械等操作型机械手的情况下,必须由操作者的注意力确保安全性,操作者的负担大。
专利文献1:日本特开2000-202790号公报
专利文献2:日本特开2005-128959号公报
发明内容
本发明就是鉴于该点而作出的,其目的在于提供一种机械手,该机械手在把持着的物体和周围物体都能够任意地动作的状况下,能够可靠地识别未知的把持物体的形状,并基于识别的形状进行作业,而且,可防止把持物体接触到周围的物·人,由此可提高安全性。
本发明的机械手具有:臂部;驱动上述臂部的臂部驱动机构;设置于上述臂部的把持部;获取上述把持部的周边图像的图像输入机构;检测上述把持部相对于上述图像输入机构的相对位置的把持部相对位置检测机构;以及存储由上述图像输入机构获得的多个图像、和由上述把持部相对位置检测机构检测出的上述把持部相对于上述图像输入机构的相对位置的存储机构,基于存储于上述存储机构的多个图像和上述把持部相对于上述图像输入机构的相对位置,检测上述把持物体的位置和形状。
根据本发明,可识别机械手的把持物体的形状,防止该把持物体接触周围物体,提高机械手的安全性。
附图说明
图1为示出本发明的一个实施方式的整体结构例的模式图。
图2为示出本发明的一个实施方式的机械手装置的***结构例的框图。
图3为示出本发明的一个实施方式的接触可能性判定处理的整体处理例的流程图。
图4为示出本发明的一个实施方式的把持物体的位置·形状判定处理的处理例的流程图。
图5为示出本发明的一个实施方式的灰度图像例的说明图。
图6为示出本发明的一个实施方式的把持物体的位置·形状判定处理的图像处理例的说明图。
图7为示出本发明的一个实施方式的接触可能性判定处理的处理例的流程图。
图8为示出本发明的其它实施方式的整体结构例的模式图。
具体实施方式
下面,参照附图说明本发明的一实施方式。
图1示出本实施例的机械手的整体结构例,图2示出本实施例的机械手的***结构例。首先,参照图1说明本实施例的整体结构例。
本实施例的机械手101具有基座105、直接从基座连接出来的多个臂部(臂)103和104、以及安装在臂部前端的把持部102。在图1中,臂部的数量为2个,但也可设置更多。在把持部102、臂部103、104以及基座105之间,具有作为可动部的关节112、113、114。另外,在各关节上,具有驱动关节的促动器132、133、134(在图1中与关节112、113、114重叠地图示)、和为了测定可动部的变化量而测定关节112、113、114的角度的角度传感器122、123、124(在图1中与关节112、113、114重叠地图示)。在这里,关节也可具有多个旋转自由度,在该情况下,角度传感器获得多个方向的旋转角度。另外,具有控制装置106,该控制装置106输入角度传感器获得的角度信息,控制促动器而使机械手101动作。根据机械手101的用途、形状,控制装置106的设置位置多种多样,但在图1中,记载于机械手101的近旁。
一般情况下,机械手主要使用从基座串联地连接的臂部控制把持部的位置,使前端的臂部与把持部之间的关节旋转,从而控制把持部的姿势。在这里,根据与人的构造的对比,将把持部102的跟前的臂部103称为前臂103。另外,将前臂103与把持部102之间的关节112称为手腕关节112。在使手腕关节112旋转的情况下,虽然把持部102的前端位置也移动,但由于把持部的长度比臂部103、104短,所以,位置的变化量相对较小。另外,与手腕关节相当的部分有时也由多个关节和短的臂部构成,但在这里将其统一看成1个手腕关节。
下面,参照图1和图2说明本实施例的机械手101的***结构例。搭载于机械手101的本实施例的机械手101,具有作为用于获得把持部102附近的物体的立体图像的图像输入机构的图像输入装置2、以及作为可检测周围物体108等的位置的周围监视机构的周围监视装置3。在本实施例中,图像输入装置2安装在前臂103上,周围监视装置3以可获取比图像输入装置2宽的范围的周边图像的方式设于机械手101的基座105上。图像输入装置2若可获取把持部102附近的图像,则也可设于臂部104上,但为了使关节113进入到其间,如果可能最好设置于前臂(臂部)103上。另外,作为检测把持部102相对于图像输入装置2的装置位置·姿势的变化的把持部相对位置检测机构,使用对手腕关节112的角度进行测定的角度传感器122。另外,具有作为存储机构的图像存储部301,该图像存储部301组合图像输入装置2所获取的立体图像数据和从控制装置106获得的手腕关节112的角度传感器122的角度信息而存储。另外,具有图像抽取部302,该图像抽取部302使用存储于图像存储部301的多个图像和把持部的相对位置·姿势的信息,抽取把持物体109的图像,检测把持物体的位置和形状,另外,还具有作为接触可能性判定机构的接触可能性判定装置4和作为警报机构的警报装置5,该接触可能性判定装置4基于检测出的把持物体109的位置和形状以及周围监视装置3所检测出的周围物体108的位置信息,判定把持物体109与周围物体108接触的可能性,该警报装置5通过声音·图像等通知接触的可能性。另外,接触可能性判定装置4通过将接触的可能性通知控制装置106,对机械手的移动进行限制从而防止接触。在这里,在图1中记载了将接触可能性判定装置4和警报装置5与机械手101、控制装置6分离,但也可组装到机械手101、控制装置6上。
本实施例的图像输入装置2具有获取灰度图像(濃淡画像)和由到图像各点的距离信息构成的距离图像的功能。作为图像输入装置2,可使用立体摄像机、激光雷达、距离图像摄像机、及这些装置与通常的2维CCD摄像机等的组合,该立体摄像机使用2台以上的摄像机、根据图像的错动测定距离;该激光雷达使激光1维或2维地扫描,根据激光遇到物体后返回的往返时间测定距离;该距离图像摄像机具有同样可根据光的往返时间测定距离的摄像元件。另外,也可组合多个上述图像输入装置进行使用。周围监视装置3也具有与图像输入装置2相同的获取距离图像的功能。另外,作为警报装置5,使用蜂鸣器、灯、显示器等。
在这里,所谓的距离图像为在图像处理技术领域中使用的用语,是指在每个图像的像素中储存到物体的距离的值的数据。通常的图像(灰度图像)将相对于细分成格子状的多个方向的光的亮度、即由存在于该方向的物体反射来的光的强度的信息作为2维排列数据存储,而距离图像对于图像中的各点,存储到达该方向的物体为止的距离以代替光的亮度。即,距离图像为收纳了到达物体的距离的2维排列数据,一般用于存储立体摄像机等可获得纵深信息的传感器的输出。
机械手101具有在由把持部102把持成为对象的把持物体109时可识别把持物体109的位置·形状的功能。下面,以对把持物体109进行把持为前提进行说明。作为对把持物体109进行把持的方法,在自动型机械手的情况下,例如基于图像输入装置2所获得的图像信息使用形状特征进行图像识别,从而测量成为对象的把持物体109中的容易把持的点的位置,将把持部定位在该位置,由此对把持物体109进行把持。另外,在操作型机械手的情况下,操作者通过目视判断把持物体109的位置和形状,用手动操作移动机械手而把持把持物体109。
对于本实施例的机械手101,在把持把持物体109的状态下移动机械手101,基于把持部102与图像输入装置2的相对位置的变化、预测把持部102附近的图像中的把持物体109的移动,从图像输入装置2的图像中抽取正进行与该预测相同的运动的部分,由此,从图像中高可靠性地抽取把持物体109。
下面,参照图3说明图像存储部301、图像抽取部302及接触可能性判定装置4的动作。图3为表示图像存储部301、图像抽取部302及接触可能性判定装置4的处理例的整体概要的流程图。
本处理在由机械手101的把持部102对把持物体109进行把持的时刻开始处理。首先,从图像输入装置2获取把持部102周边的立体图像信息、即灰度图像12和距离图像13,同时,通过控制装置106获取由角度传感器122测量的、手腕关节112的角度14,并且保存在图像存储部301中(步骤S1)。这些在机械手101移动前获得的信息在以后的处理中以灰度图像12a、距离图像13a、手腕关节角度14a进行参照。然后,为了使把持物体109移动,机械手101开始动作,把持部102在稍微进行移动之前等候(步骤S2)。在把持部102移动后,从图像输入装置2获得把持部102周边的灰度图像12和距离图像13,从控制装置106获得手腕关节112的角度14,并且保存在图像存储部301中(步骤S3)。这些移动后所获得的信息在以后的处理中以灰度图像12b、距离图像13b、及手腕关节角度14b进行参照。然后,通过图像抽取部302,基于在步骤1和步骤3中获得的信息,判定把持物体109的位置·形状(步骤S4)。然后,由接触可能性判定装置4从周围监视装置3获得周围物体的位置信息,通过与在步骤S4中判定的把持物体109的位置进行比较,判定是否存在把持物体109与周围物体108接触的可能性(步骤S5)。判断步骤S5的接触可能性判定处理的结果(步骤S6),在存在接触的可能性的情况下,由警报装置5输出警报(步骤S7)。作为警报输出方法,例如有如下一些方法,即,在自动型机械手的情况下,通知控制装置106并使机械手停止;在操作型机械手的情况下,通过声音输出、警报灯的亮灯等告知机械手的操作者等方法。在接触可能性判定处理的结果为没有接触可能性的情况下,前进到下一处理。最后,判定机械手101的把持部102是否把持着把持物体109(步骤S8),在把持着物体的情况下,将在步骤S3获得的灰度图像12b、距离图像13b、手腕关节112的角度14b的信息置换成移动前的信息并进行保存(步骤S9),返回到步骤S2的处理并反复进行处理,继续监视把持物体与周围物体接触的可能性。在步骤S8中,在把持部102已经不把持物体的情况下,结束处理。
下面,更详细地说明上述各处理。首先,参照图4的流程图说明图像抽取部302中的把持物体的位置·形状判定处理(步骤S4)的处理例。
在本处理中,基于由步骤S1和步骤S3获得的灰度图像、距离图像、手腕关节角度的信息判定把持物体109的位置·形状。首先,如图6所示,将移动后的灰度图像12b和距离图像13b(未图示)分割成格子状的块(步骤S31)。块的大小预先设定好。块具有如下特征,即,块越小,则位置分辨率越高,块越大,则后述的图像匹配精度越高,通常设定为5×5像素至25×25像素左右。另外,在本实施例中,为了将图像输入装置2安装在前臂103上,如图5的灰度图像例所示的那样将前臂103摄入到图像中。即使把持部102移动,在图像上,前臂103也能够时常出现在相同位置,所以,该部分(图5的剖面线部分)从此后的处理对象中去除。
然后,取出一个分割了的移动后的灰度图像12b的块信息,作为块B(i)进行以下的处理(步骤S32)。另外,还参照图6所示的图像处理例对之后的图像处理进行说明。首先,求出被摄在块B(i)上的点Q(i)的空间位置Pb(i)(步骤S33)。即,将被摄在块B(i)中心的物体的点设为Q(i),求出点Q(i)在图像上的位置(2维座标),设为Rb(i)。然后,基于移动后的距离图像13b的块B(i)内部的各像素所具有的距离信息,对各像素的距离的值进行平均,求出到被摄在块B(i)上的点Q(i)为止的平均距离,通过逆投影变换,求出点Q(i)相对于图像输入装置2的相对的3维空间位置Pb(i)(图6的J1)。
然后,求出假设将点Q(i)固定在把持部102时的移动前的Q(i)的空间位置Pa(i)(步骤S34)。即,假设点Q(i)为固定于把持部102上的把持物体109上的点,通过座标变换求出使手腕关节112的角度14从现在的移动后的手腕角度14b旋转到移动前的手腕角度14a时的3维空间位置(相对于图像输入装置2的相对位置),将其设为Pa(i)(图6的J2)。然后,通过投影变换求出空间位置Pa(i)摄在图像输入装置2的图像上的位置(2维座标)Ra(i)(步骤S35)(图6的J3)。另外,上述的空间位置Pa(i)也与Pb(i)同样为相对于图像输入装置2的相对位置。
然后,比较移动后的灰度图像12b上的块B(i)的图像,和以移动前的灰度图像12a上的位置Ra(i)为中心的、与块相同尺寸的部分图像21,判定图像是否一致(步骤S36)。根据判定的结果,在图像一致的情况下(步骤S37),将表示在把持物体109上这一情况的把持物体标记标注于块B(i)(步骤S38)。
在这里,关于位置Ra(i),在假设摄在移动后的灰度图像12b上的块B(i)上的点Q(i)为把持物体109的一部分的情况下,推断点Q(i)被摄在移动前的灰度图像12a上的位置。为此,若点Q(i)实际为把持物体109的一部分,则块B(i)的图像与部分图像21的图像应一致。相反,如果Q(i)与假设不同,不为把持物体109的一部分而是背景物体,则图像不一致。这是因为,在Q(i)为背景物体的情况下,随着机械手101的动作,安装在前臂103上的图像输入装置2的位置·姿势变化,所以,点Q(i)出现在与移动前灰度图像12a上的位置Ra(i)不同的位置。为此,在图像一致的情况下,可判断为点Q(i)是把持物体109的一部分。
另外,在图像一致的判定中,使用归一化相关等的图像匹配的方法。例如,求出移动后灰度图像12b上的块B(i)的图像与移动前的灰度图像12a上的位置Ra(i)的部分图像21的归一化相关值,当该值比预先确定的阈值大时,判定为图像一致。
最后,判定是否已对所有块进行了处理(步骤S39),在还存在未进行处理的块的情况下,反复进行上述步骤S32~S38,在结束了所有块的处理之后,结束本处理。通过以上的处理,可检测出把持物体上的点的3维空间位置,得知把持物体的位置·形状。
上述图像抽取程序为,在把持着把持物体的状态下使机械手动作,使用由传感器测量的把持部与图像输入装置的相对位置,预测此时图像中的把持物体的移动,从图像中抽取进行与该预测相同的移动的部分,从而从图像中仅抽取把持物体。另外,换一种考虑方式,该方法还是以下方法,即,测定把持部102与图像输入装置2的相对位置,以在机械手101移动前后摄于图像上的把持部102不移动的方式使图像变形,对这样变形了的图像相互进行比较,将一致的部分抽取,从而从图像中仅抽取由把持部102把持的把持物体109。
下面,参照图7的流程图说明图3的接触可能性判定处理(步骤S5)的处理例。
该处理由接触可能性判定装置4进行。比较由上述图像抽取处理抽取的把持物体109上的点的位置和从周围监视装置4获得的周围物体的位置,在存在距离近的点的情况下,判定为存在接触的可能性。
首先,从周围监视装置3获得周围物体的位置信息(步骤S41)。然后,抽取移动后的灰度图像12b上的块B(i)中的标注了把持物体标记的块(步骤S42)。比较与抽取的标注了把持物体标记的块B(i)相对应的空间位置Pb(i)、和由步骤S41获得的周围物体的位置(步骤S43)。其结果,在它们的距离比预先确定的阈值小的情况下,判断为位置近(步骤S44),即使在位置近的块为1个的情况下,也认为存在把持物体109与周围物体接触的可能性(步骤S45),结束处理。根据步骤S44的判定结果,在判断为位置不近的情况下,判定是否已对标注了把持物体标记的所有块进行了处理(步骤S46),在所有块的处理结束了的情况下,看作没有接触可能性(步骤S47)而结束处理。在仍然存在未处理的块的情况下,反复进行上述步骤S42~S44。
这样,在本实施例的机械手101中,利用使机械手101动作时的把持物体109和周围物体108的图像上的移动的不同,通过图像匹配检测出图像中的把持物体109的部分,所以,即使在背景复杂的情况下或者在背景中存在移动部分的情况下,也能够可靠地检测出把持物体109的形状·位置。为此,即使在一般的使用环境中,也能够可靠地判定把持物体109与周围物体接近的可能性,根据判定的结果,若存在接近把持物体109的物体,则可向机械手101的操作者发出警告。
另外,在本实施例中,由于将图像输入装置2安装在机械手的前臂103上,所以,可时常在视场的中心捕捉到把持物体109。因此,与将图像输入装置2安装在基座105等上的情况相比,由于把持物体109在视场内(图像内)不产生大的移动,所以,能够可靠地检测出把持物体109,同时,可限定视场角,所以,可获得高分辨率的信息。另外,图像输入装置2与把持物体109之间的距离,与将图像输入装置2安装在把持部102上的情况相比,已适度地离开,所以,可容易地监视把持物体109整体的形状。另一方面,由于在前臂103上安装图像输入装置2,所以,当手腕关节112动作时,存在把持物体109的图像在视场内移动的问题,但是,由于使用由关节角度传感器122获得的手腕关节角度14的信息,考虑把持物体109在视场内的移动而进行图像匹配处理,所以,即使手腕关节112移动,也可正确地检测出把持物体109。
另外,在本实施例中,使用基于从图像输入装置2获得的图像信息而检测出的把持物体109的现在的位置,判定与周围物体108的接近的状态,但也可从机械手101的运动预测计算出把持物体109今后一定时间内到达的位置,调查在该位置处与周围物体108的接近状态。这样,可在事前判定把持物体109与周围物体108接触的可能性,更早地发出警告,所以,机械手101运行时的安全性提高。
另外,在本实施例中,与图像输入装置2分开地设置有周围监视装置3,但也可使图像输入装置2具有获得周围物体108的图像的功能,以取代将周围监视装置3作为独立的装置设置,从而形成兼作周围监视装置的结构。另外,也可在接触可能性判定装置4中存放预先制作的地图信息,参照该地图信息获取周围物体的位置信息。
具体地说,在使图像输入装置2具有获取周围物体108的图像的功能的情况下,从通过图像输入装置2输入的立体图像中,从除去了由上述方法抽取的把持物体109的背景中预先抽取周围物体108,存储该物体的3维座标。当从除去了抽取的把持物体109的背景抽取周围物体108时,周围物体108基本上不因机械手101的动作而改变位置,所以,只要由图像输入装置2或周围监视装置3获得周围的距离图像即可。
另外,在本实施例中,使用立体摄像机等立体图像传感器作为图像输入装置2,但也可使用CCD等单眼摄像机作为简单的结构而进行替代。在该情况下,不能检测纵深信息,所以,假设把持物体109处于一定的距离而进行把持物体的检测以及与周围的接触可能性的判定。
或者,也可假设把持物体109处在固定于把持部102上的一个假想面上,从而根据单眼摄像机的像推断距离。该情况下的假想面最好处于把持物体109存在的概率高的位置,例如,最好设定为通过把持部102的前端并与把持部直交的面。
另外,在本实施例中,将图像输入装置2安装在机械手的前臂103上,但也可安装在其它位置。在将图像输入装置2安装在基座105上的情况下,在图4所示的把持物体的位置·形状判定处理的流程图的步骤S34中,只要考虑手腕以外的关节的角度变化、求出点Q(i)的移动前的空间位置Pa(i)即可。在该情况下,虽然存在把持物体109在视场内产生大的移动的问题,但由于图像输入装置2的位置固定,所以,具有构造简单、图像输入装置2可兼作周围监视装置3的优点。另一方面,在将图像输入装置2安装在把持部102上的情况下,把持物体109在视场内不移动,所以,在步骤S34中,只要使点Q(i)的移动前的空间位置Pa(i)与移动后的位置Pb(i)相等即可。在该情况下,虽然存在把持物体109过于接近图像输入装置2的问题,但具有计算处理简单的优点。
另外,在本实施例中,作为检测图像输入装置与把持部的相对位置关系的把持部相对位置检测机构,使用测定手腕关节的角度的角度传感器,但作为其替代,也可由其它方法检测图像输入装置与把持部的位置·姿势,并且求出相对位置关系。在测定位置·姿势的方法中,除了测量臂部的关节角度的方法外,还存在由置于外部的摄像机对测定对象物进行摄影,从而求出位置·姿势的方法等。
下面,示出将本实施例的机械手搭载于建筑机械的实施例。图8为将本实施例的机械手搭载于用于林业或解体作业等的作业机械的情况的结构例。
本实施例的作业机械201作为机械手,具有作为把持部的抓斗202、臂部203、悬臂204。作业机械201用于通过抓斗202抓住物体进行解体·搬运等用途。
构成本实施例的机械手的图像输入装置2安装在与前臂相当的臂部203的底面。在该情况下,与抓斗202的位置关系不产生大的变化,而且从抓斗202适度地离开,所以,适于捕捉抓斗202把持的物体。另外,周围监视装置3为了覆盖较广的视场而安装在驾驶室209的上部。另外,在与手腕相当的关节212上,作为手腕角度传感器安装有角度传感器222。在本实施例中,虽然图示了将接触可能性判定装置4和警报装置5设置在驾驶室209的内部,但只要不对机械手的操作形成障碍,并且是可与各装置传输信息的位置,则也可设置在其它位置。
在本实施例中,接触可能性判定装置4使用由图像输入装置2获得的抓斗202周边的立体图像、和从角度传感器222获得的关节212的角度,检测抓斗202把持的物体,与由周围监视装置3检测出的周围物体的位置进行比较,判定是否存在接触的可能性。在存在接触的可能性的情况下,由警报装置5告知操作者。警报装置5对操作者传递接触可能性的方法,除了利用声音、图像的通知方法以外,还存在将振动施加到操作杆等的方法。另外,也可由图中未示出的显示机构显示与接触可能性判定装置4的处理相关的一连串的图像信息。
这样,通过使用本实施例的机械手,可减轻操作者的负担。另外,如本实施例那样,在林业、解体作业、建筑作业等那样的障碍物多的复杂作业环境中,通过事前警告把持物体与周围物体108的接触可能性,可更安全、迅速地进行作业。
按照以上的说明,根据本发明的实施例,即使在复杂的环境中把持未知的物体时,也能够可靠地识别机械手的把持物体的形状,防止该把持物体接触到周围物体,提高机械手的安全性。

Claims (5)

1.一种机械手,其特征在于,具有:臂部;驱动上述臂部的臂部驱动机构;设置于上述臂部的把持部;获取上述把持部的周边图像的图像输入机构;检测上述把持部相对于上述图像输入机构的相对位置的把持部相对位置检测机构;存储由上述图像输入机构获得的多个图像、和由上述把持部相对位置检测机构检测出的上述把持部相对于上述图像输入机构的相对位置的存储机构,基于存储于上述存储机构的多个图像和上述把持部相对于上述图像输入机构的相对位置,检测上述把持物体的位置和形状。
2.根据权利要求1所述的机械手,其特征在于,具有:检测周围物体的位置的周围监视机构;基于检测出的上述把持物体的位置和形状以及由上述周围监视机构检测出的周围物体的位置,判定上述把持物体与上述周围的物体的接触可能性的接触可能性判定机构;以及基于上述接触可能性判定机构的判定结果发出警报的警报机构。
3.根据权利要求1或2所述的机械手,其特征在于,上述图像输入机构设置于上述机械手的臂部,上述把持部相对位置检测机构是检测可动部的变化量的机构,上述可动部设置于从设置了上述图像输入机构的臂部开始到上述把持部之间。
4.根据权利要求1~3中的任何一项所述的机械手,其特征在于,上述图像输入机构为能够获得灰度图像和距离图像的立体图像输入机构。
5.根据权利要求2所述的机械手,其特征在于,上述接触可能性判定机构基于由上述把持部相对位置检测机构检测出的把持部的相对位置的变化状态,预测上述把持物体将来的位置,判定与上述周围物体接触的可能性。
CN2007800378723A 2006-10-20 2007-10-18 机械手 Expired - Fee Related CN101522377B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006286419 2006-10-20
JP286419/2006 2006-10-20
PCT/JP2007/070360 WO2008047872A1 (fr) 2006-10-20 2007-10-18 Manipulateur

Publications (2)

Publication Number Publication Date
CN101522377A true CN101522377A (zh) 2009-09-02
CN101522377B CN101522377B (zh) 2011-09-14

Family

ID=39314090

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2007800378723A Expired - Fee Related CN101522377B (zh) 2006-10-20 2007-10-18 机械手

Country Status (3)

Country Link
JP (1) JPWO2008047872A1 (zh)
CN (1) CN101522377B (zh)
WO (1) WO2008047872A1 (zh)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012000400A1 (zh) * 2010-07-01 2012-01-05 湖南三一智能控制设备有限公司 一种机械铰接臂的控制方法及控制装置
CN102310409A (zh) * 2010-07-05 2012-01-11 株式会社安川电机 机器人装置及基于机器人装置的把持方法
CN103101760A (zh) * 2012-12-28 2013-05-15 长春大正博凯汽车设备有限公司 一种用于工件搬运的视觉搬运***及其搬运方法
CN103185558A (zh) * 2011-11-18 2013-07-03 海克斯康计量公司 包括标引锁定臂的测量装置
CN103192414A (zh) * 2012-01-06 2013-07-10 沈阳新松机器人自动化股份有限公司 一种基于机器视觉的机器人防撞保护装置及方法
CN103260834A (zh) * 2010-12-16 2013-08-21 罗伯特·博世有限公司 用于操纵机构尤其工业机器人的安全装置和运行安全装置的方法
CN103687702A (zh) * 2011-06-29 2014-03-26 三菱电机株式会社 部件供给装置
CN104416581A (zh) * 2013-08-27 2015-03-18 富泰华工业(深圳)有限公司 具有报警功能的机械手
CN104802174A (zh) * 2013-10-10 2015-07-29 精工爱普生株式会社 机器人控制***、机器人、程序以及机器人控制方法
CN105870814A (zh) * 2016-03-31 2016-08-17 广东电网有限责任公司中山供电局 一种适用于10kV开关紧急分闸的操作装置
CN108527374A (zh) * 2018-06-29 2018-09-14 德淮半导体有限公司 应用于机械臂的防撞***和方法
CN108602187A (zh) * 2015-09-09 2018-09-28 碳机器人公司 机械臂***和物体躲避方法
CN108713082A (zh) * 2016-03-02 2018-10-26 株式会社神户制钢所 工程机械的防干扰装置
CN109070365A (zh) * 2016-04-22 2018-12-21 三菱电机株式会社 物体操作装置及物体操作方法
CN110524579A (zh) * 2018-05-25 2019-12-03 丰田自动车株式会社 机械手和移动机器人
CN111757796A (zh) * 2018-02-23 2020-10-09 仓敷纺绩株式会社 线状物的前端移动方法、控制装置以及三维照相机
CN113386135A (zh) * 2021-06-16 2021-09-14 深圳谦腾科技有限公司 一种具有2d相机的机械手及其抓取方法

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5164811B2 (ja) * 2008-11-26 2013-03-21 キヤノン株式会社 作業システム及び情報処理方法
JP2010271978A (ja) * 2009-05-22 2010-12-02 Nippon Telegr & Teleph Corp <Ntt> 行動推定装置
JP5578844B2 (ja) 2009-12-21 2014-08-27 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP4837116B2 (ja) 2010-03-05 2011-12-14 ファナック株式会社 視覚センサを備えたロボットシステム
JP5423520B2 (ja) * 2010-03-24 2014-02-19 富士ゼロックス株式会社 位置計測システム、位置計測装置及び位置計測プログラム
DE102010043574A1 (de) * 2010-11-08 2012-05-10 Fresenius Medical Care Deutschland Gmbh Manuell zu öffnender Klemmhalter mit Sensor
US9437005B2 (en) 2011-07-08 2016-09-06 Canon Kabushiki Kaisha Information processing apparatus and information processing method
US9279661B2 (en) * 2011-07-08 2016-03-08 Canon Kabushiki Kaisha Information processing apparatus and information processing method
US9217636B2 (en) 2012-06-11 2015-12-22 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and a computer-readable storage medium
JP2019516568A (ja) * 2016-05-20 2019-06-20 グーグル エルエルシー 物体を取り込む画像に基づき、環境内の将来のロボット運動に関するパラメータに基づいて、ロボットの環境内の物体の動きを予測することに関する機械学習の方法および装置
JP7210369B2 (ja) * 2018-04-27 2023-01-23 新明和工業株式会社 作業車両
FI129250B (en) 2018-07-12 2021-10-15 Novatron Oy Control system for controlling the machine tool
JP7341837B2 (ja) * 2019-10-10 2023-09-11 清水建設株式会社 建設作業用ロボット
US20220362936A1 (en) * 2021-05-14 2022-11-17 Intelligrated Headquarters, Llc Object height detection for palletizing and depalletizing operations

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63245387A (ja) * 1987-03-30 1988-10-12 豊田工機株式会社 ロボツトの視覚認識装置
JPH05261692A (ja) * 1992-03-17 1993-10-12 Fujitsu Ltd ロボットの作業環境監視装置
JP2004243454A (ja) * 2003-02-13 2004-09-02 Yaskawa Electric Corp ロボットの工具形状指定装置および工具干渉チェック装置
DE10319253B4 (de) * 2003-04-28 2005-05-19 Tropf, Hermann Dreidimensional lagegerechtes Zuführen mit Roboter
JP2005001022A (ja) * 2003-06-10 2005-01-06 Yaskawa Electric Corp 物体モデル作成装置及びロボット制御装置

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012000400A1 (zh) * 2010-07-01 2012-01-05 湖南三一智能控制设备有限公司 一种机械铰接臂的控制方法及控制装置
US9302392B2 (en) 2010-07-01 2016-04-05 Hunan Sany Intelligent Control Equipment Co., Ltd. Method and device for controlling mechanical articulated arm
CN102310409A (zh) * 2010-07-05 2012-01-11 株式会社安川电机 机器人装置及基于机器人装置的把持方法
CN103260834A (zh) * 2010-12-16 2013-08-21 罗伯特·博世有限公司 用于操纵机构尤其工业机器人的安全装置和运行安全装置的方法
CN103260834B (zh) * 2010-12-16 2016-09-07 罗伯特·博世有限公司 用于操纵机构尤其工业机器人的安全装置和运行安全装置的方法
CN103687702B (zh) * 2011-06-29 2016-08-24 三菱电机株式会社 部件供给装置
CN103687702A (zh) * 2011-06-29 2014-03-26 三菱电机株式会社 部件供给装置
CN103185558B (zh) * 2011-11-18 2016-03-02 海克斯康计量公司 包括标引锁定臂的测量装置
CN103185558A (zh) * 2011-11-18 2013-07-03 海克斯康计量公司 包括标引锁定臂的测量装置
CN103192414A (zh) * 2012-01-06 2013-07-10 沈阳新松机器人自动化股份有限公司 一种基于机器视觉的机器人防撞保护装置及方法
CN103101760A (zh) * 2012-12-28 2013-05-15 长春大正博凯汽车设备有限公司 一种用于工件搬运的视觉搬运***及其搬运方法
CN104416581A (zh) * 2013-08-27 2015-03-18 富泰华工业(深圳)有限公司 具有报警功能的机械手
CN104802174A (zh) * 2013-10-10 2015-07-29 精工爱普生株式会社 机器人控制***、机器人、程序以及机器人控制方法
CN104802174B (zh) * 2013-10-10 2016-09-07 精工爱普生株式会社 机器人控制***、机器人、程序以及机器人控制方法
CN108602187A (zh) * 2015-09-09 2018-09-28 碳机器人公司 机械臂***和物体躲避方法
CN108713082B (zh) * 2016-03-02 2021-03-30 株式会社神户制钢所 工程机械的防干扰装置
CN108713082A (zh) * 2016-03-02 2018-10-26 株式会社神户制钢所 工程机械的防干扰装置
CN105870814A (zh) * 2016-03-31 2016-08-17 广东电网有限责任公司中山供电局 一种适用于10kV开关紧急分闸的操作装置
CN109070365A (zh) * 2016-04-22 2018-12-21 三菱电机株式会社 物体操作装置及物体操作方法
CN109070365B (zh) * 2016-04-22 2021-11-05 三菱电机株式会社 物体操作装置及物体操作方法
CN111757796A (zh) * 2018-02-23 2020-10-09 仓敷纺绩株式会社 线状物的前端移动方法、控制装置以及三维照相机
CN111757796B (zh) * 2018-02-23 2023-09-29 仓敷纺绩株式会社 线状物的前端移动方法、控制装置以及三维照相机
US11964397B2 (en) 2018-02-23 2024-04-23 Kurashiki Boseki Kabushiki Kaisha Method for moving tip of line-like object, controller, and three-dimensional camera
CN110524579A (zh) * 2018-05-25 2019-12-03 丰田自动车株式会社 机械手和移动机器人
CN110524579B (zh) * 2018-05-25 2022-09-20 丰田自动车株式会社 机械手和移动机器人
CN108527374A (zh) * 2018-06-29 2018-09-14 德淮半导体有限公司 应用于机械臂的防撞***和方法
CN113386135A (zh) * 2021-06-16 2021-09-14 深圳谦腾科技有限公司 一种具有2d相机的机械手及其抓取方法

Also Published As

Publication number Publication date
CN101522377B (zh) 2011-09-14
WO2008047872A1 (fr) 2008-04-24
JPWO2008047872A1 (ja) 2010-02-25

Similar Documents

Publication Publication Date Title
CN101522377B (zh) 机械手
CN101479082B (zh) 机器人装置和机器人装置的控制方法
CN114728417B (zh) 由远程操作员触发的机器人自主对象学习的方法及设备
US9463574B2 (en) Mobile inspection robot
JP6551455B2 (ja) 歩行分析支援ロボット
JP6856583B2 (ja) センシングシステム、作業システム、拡張現実画像の表示方法、拡張現実画像の記憶方法、およびプログラム
JP5003731B2 (ja) 巡回警備支援システム、方法及びプログラム
CN107664977A (zh) 用于在包括机器的制造环境中操作机器的***以及方法
US20090198374A1 (en) Nursing system
JP6856590B2 (ja) センシングシステム、作業システム、拡張現実画像の表示方法、およびプログラム
JP2010120139A (ja) 産業用ロボットの安全制御装置
JP2005250990A (ja) 作業支援装置
US11642780B2 (en) Monitoring of surface touch points for precision cleaning
JP2022103189A (ja) 作業現場監視装置、作業現場監視システム、作業現場監視方法およびプログラム
JP2005219161A (ja) ロボット把持制御装置及びロボット把持制御システム
CN116745576A (zh) 使用机器人操纵器上的主动照射和相机复原材料属性
US11006079B2 (en) Autonomous vehicle vision system
CN111113374A (zh) 机器人***
KR20190091870A (ko) 모션센서와 vr을 활용한 로봇 제어 시스템
KR102500684B1 (ko) 로봇 청소기 및 로봇 청소기의 제어 방법
CN111045354A (zh) 机器人控制装置
JP2020006494A (ja) ロボット
JP2019118993A (ja) ロボット、自己診断プログラム、及び自己診断方法
CN103365219B (zh) 用于监视和控制过程控制***的目标操作设备的***和方法
WO2023157380A1 (ja) ロボット監視システム、監視装置、監視装置の制御方法およびプログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20110914

Termination date: 20161018