CN114693798B - 机械手控制方法及装置 - Google Patents
机械手控制方法及装置 Download PDFInfo
- Publication number
- CN114693798B CN114693798B CN202011626908.5A CN202011626908A CN114693798B CN 114693798 B CN114693798 B CN 114693798B CN 202011626908 A CN202011626908 A CN 202011626908A CN 114693798 B CN114693798 B CN 114693798B
- Authority
- CN
- China
- Prior art keywords
- image
- manipulator
- height
- target
- acquisition device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 230000004044 response Effects 0.000 claims description 5
- 239000000758 substrate Substances 0.000 claims 1
- 238000004519 manufacturing process Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 6
- 239000003550 marker Substances 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000013507 mapping Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 239000000969 carrier Substances 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Manipulator (AREA)
Abstract
本公开涉及自动化设备技术领域,具体提供了一种机械手控制方法及装置。控制方法包括:基于所述机械手在预设位置时所述图像采集装置采集的第一图像进行模板匹配,根据匹配结果控制所述机械手调整至目标高度;所述目标高度是所述图像采集装置的标定高度;获取在所述目标高度时所述图像采集装置采集的第二图像,并根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置。本公开方法实现机械手高度的自动调节,提高机械手的工作效率。
Description
技术领域
本公开涉及自动化设备技术领域,具体涉及一种机械手控制方法及装置。
背景技术
随着自动化技术的发展,各领域的产线采用机器人取代人工完成指定作业。视觉是人类获取外界信息作为重要的手段,随着电子技术的发展,将机械手与机器视觉结合起来,已经成为机械手的主流控制方式。
相关技术中,在控制机械手抓取目标时,往往需要人工手动调整机械手的初始高度,而且机械手每次抓取之前需要重复进行相机标定,导致机械手的工作效率较低。
发明内容
为解决相关技术中机械手的工作效率低的技术问题,本公开实施方式提供了一种机械手的控制方法、装置、***以及存储介质。
第一方面,本公开实施方式提供了一种机械手控制方法,所述机械手上固设有图像采集装置,所述方法包括:
基于所述机械手在预设位置时所述图像采集装置采集的第一图像进行模板匹配,根据匹配结果控制所述机械手调整至目标高度;所述目标高度是所述图像采集装置的标定高度;
获取在所述目标高度时所述图像采集装置采集的第二图像,并根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置。
在一些实施方式中,根据匹配结果控制所述机械手调整至目标高度,包括:
基于所述第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数;
根据所述匹配分数调整所述机械手至第一高度,并获取所述机械手在所述第一高度时,所述图像采集装置采集的第三图像;
基于所述第三图像上待抓取物体的标记点的图像特征,与多个不同放缩比例的预设模板图像的匹配相似度,得到变形分数;
根据所述变形分数调整所述机械手至目标高度。
在一些实施方式中,所述多个预设模板图像包括至少一个不同旋转角度下的预设模板图像;
基于所述第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数,包括:
基于所述第一图像上待抓取物体的标记点的位置特征,与所述多个预设模板图像的匹配相似度,得到多个匹配分数和目标旋转角度;
根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置,包括:
根据所述第二图像上待抓取物体的标记点的图像位置和所述标定结果控制所述机械手移动至目标位置,且根据所述目标旋转角度控制所述机械手旋转至目标角度。
在一些实施方式中,根据所述匹配分数调整所述机械手至第一高度,包括:
响应于所述多个匹配分数中的最高匹配分数不位于第一预设阈值范围,控制所述机械手进行高度调整,直至所述最高匹配分数落入所述第一预设阈值范围。
在一些实施方式中,根据所述变形分数调整所述机械手至目标高度,包括:
响应于所述变形分数不位于第二预设阈值范围,控制所述机械手进行高度调整,直至所述变形分数落入所述第二预设阈值范围。
在一些实施方式中,根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置,包括:
获取所述第二图像上待抓取物体的标记点的图像位置和参考位置之间的图像位置偏差;所述参考位置是所述图像采集装置标定时待抓取物体上的标记点在图像上的位置;
根据所述图像位置偏差和所述标定结果,得到所述机械手的真实位置偏差;
根据所述真实位置偏差,控制所述机械手移动至所述目标位置。
在一些实施方式中,在所述基于所述机械手在预设位置时所述图像采集装置采集的第一图像进行模板匹配之前,所述方法还包括:
获取所述图像采集装置在所述目标高度时的所述标定结果和参考位置,所述参考位置是所述图像采集装置标定时待抓取物体上的标记点在图像上的位置。
第二方面,本公开实施方式提供了一种机械手控制装置,所述机械手上固设有图像采集装置,所述机械手控制装置包括:
高度调整模块,被配置为基于所述机械手在预设位置时所述图像采集装置采集的第一图像进行模板匹配,根据匹配结果控制所述机械手调整至目标高度;所述目标高度是所述图像采集装置的标定高度;
移动控制模块,被配置为获取在所述目标高度时所述图像采集装置采集的第二图像,并根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置。
在一些实施方式中,所述高度调整模块具体被配置为:
基于所述第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数;
根据所述匹配分数调整所述机械手至第一高度,并获取所述机械手在所述第一高度时,所述图像采集装置采集的第三图像;
基于所述第三图像上待抓取物体的标记点的图像特征,与多个不同放缩比例的预设模板图像的匹配相似度,得到变形分数;
根据所述变形分数调整所述机械手至目标高度。
在一些实施方式中,所述多个预设模板图像包括至少一个不同旋转角度下的预设模板图像;
所述高度调整模块,具体被配置为基于所述第一图像上待抓取物体的标记点的位置特征,与所述多个预设模板图像的匹配相似度,得到多个匹配分数和目标旋转角度;
所述移动控制模块,具体被配置为根据所述第二图像上待抓取物体的标记点的图像位置和所述标定结果控制所述机械手移动至目标位置,且根据所述目标旋转角度控制所述机械手旋转至目标角度。
在一些实施方式中,所述高度调整模块具体被配置为:
响应于所述多个匹配分数中的最高匹配分数不位于第一预设阈值范围,控制所述机械手进行高度调整,直至所述最高匹配分数落入所述第一预设阈值范围;
响应于所述变形分数不位于第二预设阈值范围,控制所述机械手进行高度调整,直至所述变形分数落入所述第二预设阈值范围。
在一些实施方式中,所述移动控制模块具体被配置为:
获取所述第二图像上待抓取物体的标记点的图像位置和参考位置之间的图像位置偏差;所述参考位置是所述图像采集装置标定时待抓取物体上的标记点在图像上的位置;
根据所述图像位置偏差和所述标定结果,得到所述机械手的真实位置偏差;
根据所述真实位置偏差,控制所述机械手移动至所述目标位置。
在一些实施方式中,所述的机械手控制装置,还包括:
标定模块,被配置为获取所述相机在所述目标高度时的所述标定结果和所述参考位置。
第三方面,本公开实施方式提供了一种机械手控制***,包括:
机械手,所述机械手上固设有图像采集装置;
处理器;以及
存储器,存储有能够被所述处理器读取的计算机指令,当所述计算机指令被读取时,所述处理器执行根据第一方面任一实施方式所述的方法。
第四方面,本公开实施方式提供了一种存储介质,用于存储计算机可读指令,所述计算机可读指令用于使计算机执行根据第一方面任一实施方式所述的方法。
本公开实施方式的机械手控制方法,包括基于机械手在预设位置时图像采集装置采集的第一图像进行可变形模板匹配,并根据匹配结果控制机械手调整至目标高度,根据图像采集装置在目标高度采集的第二图像上标记点的图像位置和相机标定结果,控制机械手移动至目标位置。通过模板匹配控制机械手移动至目标高度,从而无需在每次抓取时手动调整机械手的高度,提高机械手的工作效率。而且通过模板匹配提高机械手的抓取定位精度。无需设置例如距离传感器等硬件,仅采用相机视觉信息即可实现,降低成本。
附图说明
为了更清楚地说明本公开具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本公开的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本公开一些实施方式中机械手控制***的结构示意图。
图2是根据本公开一些实施方式中机械手控制方法的流程图。
图3是根据本公开一些实施方式中机械手控制方法的流程图。
图4是根据本公开一些实施方式中机械手控制方法的原理图。
图5是根据本公开一些实施方式中机械手控制方法的流程图。
图6是根据本公开一些实施方式中机械手控制装置的流程图。
图7是适于实现本公开方法的计算机***结构示意图。
具体实施方式
下面将结合附图对本公开的技术方案进行清楚、完整地描述,显然,所描述的实施方式是本公开一部分实施方式,而不是全部的实施方式。基于本公开中的实施方式,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施方式,都属于本公开保护的范围。此外,下面所描述的本公开不同实施方式中所涉及的技术特征只要彼此之间未构成冲突就可以相互结合。
机械手是产线上常用的自动化设备,利用机械手可以实现目标抓取搬运,替代人工,提高产线的生产效率。以手机生产测试线为例,在生产测试线上布置多台测试机柜,每个测试机柜包括多个实现不同测试功能的抽屉,在对手机或元器件进行测试时,需要机械手将载有元器件的载具搬运至不同的机柜抽屉中。在机械手实现搬运时,主要是依赖于设置在机械手末端的图像采集装置(例如工业相机)采集图像视觉信息,从而实现机械手的定位。
在相机标定后,机械手每次抓取时,机械手的初始位置距离抽屉内待抓取物体的高度需要与标定高度相同。因此,相关技术中,机械手在每次抓取时,需要操作员手动调整机械手的高度,保证与标定高度误差小于0.05mm。手动调整高度的操作方式无疑大大降低了机械手的抓取效率,而且手动调高的误差较难控制,操作复杂,降低产线的工作效率。
基于上述,本公开实施方式提供了一种机械手控制方法、装置、***以及存储介质,以提高机械手的工作效率。
为便于理解,首先对本公开实施方式的实施场景和相关技术术语进行说明。
如图1所示,机柜100包括多个抽屉110,抽屉110内放置装有待测元器件的载具,载具上设置有抓取标记点(mark点)。机械手200的自由端固设有夹爪和图像采集装置。在本公开实施方式中,图像采集装置以相机210为例进行说明。相机210通过拍摄图像,可以采集到下方包括载具的图像。工控机基于相机210采集的图像进行相关处理,即可控制机械手调整至目标位置,进而实施对下方载具的抓取。
基于视觉的机械手***,在工作前需要对相机进行标定。相机标定是指:相机在距离待抓取物体某个高度的情况下,找到相机的图像坐标系与真实的世界坐标系之间的映射关系。相机的标定结果也就是指这个映射关系。相机的标定高度也就是指相机标定时距离待抓取物体的高度。
相机在标定时,需要在待抓取物体上设置标记点,也即前述载具上设置的mark点。在标定高度h的情况下拍摄下方载具的图像,通过运行标定算法即可得到图像上mark点坐标与真实世界中载具上mark点坐标之间的映射关系,也即标定结果。同时,在相机标定时,还可以得到图像上mark点的图像坐标,也即本公开中定义的“参考位置”。
在相机标定完成后,在工作阶段,机械手首先要运行到标定高度h,拍摄当前mark点图像,将当前mark点的图像位置和已知的参考位置之间的差异,利用标定结果映射到真实世界,即可得到机械手当前位置的真实偏差,进而即可控制机械手矫正自身偏差,之后对下方载具进行抓取。
为便于对本公开实施方式的理解,在此对相机标定的过程和原理进行了说明,对于未尽详述之处,本领域技术人员参照相关技术毫无疑问可以理解并实现,本公开对此无需赘述。
通过上述也进一步理解了,机械手在进行抓取之前,首先需要将高度调整至标定高度,然后才能基于标定相关参数校正自身位置偏差,实现目标抓取。若通过人工手动进行高度调整,大大降低机械手的工作效率,而且手动调整带来的误差较难控制。若增加距离传感器等硬件进行高度调整,则提高设备成本,而且多传感器配合的算法更加复杂。本公开实施方式旨在不增加任何硬件设备的情况下,利用相机视觉信息实现机械手的控制定位,下面进行具体说明。
第一方面,本公开实施方式提供了一种机械手控制方法,该方法可应用于产线工控设备,由设备的处理器执行。图2示出了本公开一些实施方式中的控制方法,下面结合图2进行说明。
如图2所示,在一些实施方式中,本公开机械手控制方法包括:
S210、基于机械手在预设位置时图像采集装置采集的第一图像进行模板匹配,根据匹配结果控制机械手调整至目标高度。
具体来说,通过前述可知,机械手在抓取目标之前,机械手上的相机首先需要进行标定,也即本公开方法包括:获取相机在目标高度时的标定结果和参考位置。
目标高度即为相机标定过程中的标定高度,步骤S210旨在将机械手自动调整至目标高度。参考位置的概念前述已经解释说明,其表示的是标定时mark点在图像上的坐标位置。标定结果前述同样已经解释说明,其表示的是相机的图像坐标系与真实世界坐标系之间的映射关系。也即,在相机标定完成后,可以得到标定高度、标定结果以及参考位置三个已知参数。
在步骤S210中,预设位置指的是机械手抓取前的粗定位位置,其可以使机械手移动至待抓取物体上方的大概位置,从而使得相机可以拍摄到待抓取物体上的标记点。例如图1中所示,假设机械手当前需要抓取抽屉110内的载具,可首先控制机械手移动至与抽屉110对应的预设位置,也即抽屉110上方大概位置,相当于对机械手初步的粗定位。
机械手到达预设位置后,相机拍摄包含有待抓取物体的第一图像,基于第一图像进行可变形模板匹配,然后根据匹配结果控制机械手自动调整至目标高度。模板匹配是一种图像匹配方法,以可变形模板匹配为例,可变形模板匹配将预设的模板图像与拍摄图像进行比较,并输出模板在拍摄图像不同位置不同放缩系数的相似度分数。关于如何根据模板匹配结果调整机械手高度,本公开下文中进行详细说明,在此暂不详述。
基于模板匹配结果,即可将机械手高度自动调整至目标高度,也即标定高度。
S220、获取在目标高度时图像采集装置采集的第二图像,并根据第二图像上待抓取物体的标记点的图像位置和图像采集装置的标定结果,控制机械手移动至目标位置。
具体来说,在机械手移动至目标高度之后,即可利用已有的标定相关参数,来对机械手当前位置进行校正。首先相机在目标高度时拍摄包含有待抓取物体的第二图像,根据第二图像上标记点的图像位置和已知的参考位置,即可得到两者图像位置的差异,基于两者图像位置的差异利用标定结果映射到真实世界坐标,即可得到机械手真实的校正偏差。下文中对于具体过程进行详细说明,在此暂且不表。
得到机械手真实的校正偏差之后,即可控制机械手移动至目标位置,实现对自身偏差的校正,之后即可进行待检测物体的抓取。
通过上述可知,本公开实施方式的控制方法,无需在每次抓取前手动调整机械手的高度,实现机械手高度的自动调节,提高机械手的工作效率。而且仅利用已有的相机硬件实现,无需额外设置其他传感器硬件,提高定位精度的同时降低成本。
如图3所示,在一些实施方式中,本公开控制方法中根据匹配结果调整机械手高度,包括:
S310、基于第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数。
具体来说,可变形模板匹配需要预先创建多个预设模板图像,预设模板图像既包括不同标记点位置的模板图像,也包括不同标记点放缩系数的模板图像,还可以包括不同图像旋转角度的模板图像,预设的模板图像可以基于实验数据预先设置并存储。对于预设模板图像的创建,本领域技术人员基于相关技术可以理解并实施,本公开对此不再赘述。
相机在预设位置首先拍摄第一图像,第一图像上包含有待抓取物体和设于待抓取物体上的标记点。通过对第一图像进行特征提取,可以得到第一图像上标记点的位置特征,位置特征指标记点的边缘轮廓的梯度向量,表示为f(i,j)。同时,每个预设模板图像中标记点的边缘轮廓梯度向量表示为G(i,j)。
基于第一图像上标记点的位置梯度向量f(i,j)和多个预设模板图像中标记点的梯度向量G(i,j),利用下式(1)计算得到第一图像上标记点与各个预设模板图像的匹配分数Score(x,y),表示为:
匹配分数表示第一图像上标记点的位置与各个模板的匹配相似度,匹配分数越高,则表示该位置越有可能是标记点位置。
S320、根据匹配分数调整机械手至第一高度,并获取机械手在第一高度时相机采集的第三图像。
具体来说,在得到多个匹配分数之后,需要依据匹配分数与第一预设阈值范围之间的差异调整机械手的高度。
在一个示例中,可设置第一预设阈值范围为不小于0.95,假设多个匹配分数中最高的那个匹配分数小于0.95,说明此时机械手的位置偏差较大,例如机械手距离待抓取物体过远,导致匹配分数较低。此时,可以控制机械手向下移动,慢慢靠近待抓取物体,在移动过程中,继续重复执行步骤S310来获取匹配分数,直到多个匹配分数中最高分数大于或等于0.95,也即最高匹配分数落入第一预设阈值范围内,机械手移动至第一高度,完成初步的高度调节。
在本公开实施方式中,在机械手根据匹配分数调整至第一高度之后,并非直接把第一高度作为目标高度,还需要基于放缩系数进一步精细化的调节高度。因此,机械手移动至第一高度时,相机继续拍摄包含待抓取物体的第三图像。
S330、基于第三图像上待抓取物体的标记点的图像特征,与多个不同放缩比例的预设模板图像的匹配相似度,得到变形分数。
S340、根据变形分数调整机械手至目标高度。
具体来说,预设模板图像中包括不同放缩系数(Deformation)的模板图像。对于定焦相机来说,图像上目标的放缩比例可以很好的反映相机与目标之间的距离。因此,通过将第三图像上标记点与不同放缩比例的模板图像上标记点进行相似度匹配,得到的变形分数可以反映相机具体被抓取物体的高度是否满足要求。
在一个示例中,如图4所示,可预先设置多个放缩比例下的预设模板图像,例如放缩比例为0.9、1.0和1.1的预设模板图像。通过对标记点轮廓进行对比,可以确定相似度最高的预设模板图像的放缩比例为第三图像的变形分数。同时设置第二预设阈值范围,例如第二预设阈值范围为不大于1.05。当变形分数大于1.05时,说明相机距离待抓取物体较远,可控制机械手向下慢慢移动,靠近待抓取物体,同时重复执行上述步骤S330~S340,直至变形系数小于或等于1.05,也即变形系数落入第二预设阈值范围内,机械手停止运动,到达目标高度。
可以理解,上述第一预设阈值范围和第二预设阈值范围并不局限于上述示例,本领域技术人员可以根据具体实施进行设置,本公开对此不作限制。
通过上述可知,本公开控制方法,通过可变形模板匹配实现机械手高度的自动调节,无需每次抓取前手动调整机械手高度,提高机械手效率。而且利用匹配分数和变形分数对机械手进行先后两次的高度调节,保证机械手定位精度,更有利于后续的位置校正,提高机械手抓取精度。
值得说明的是,在一些实施方式中,考虑到机械手末端旋转角度的不同,也会影响机械手的抓取精度,因此还需要对机械手的水平旋转角度进行调整。为了实现机械手在水平方向的旋转角度调整,预先设置的多个预设模板图像中包括至少一个不同旋转角度下的图像。
在步骤S310中,基于第一图像上标记点的位置梯度向量f(i,j)和多个预设模板图像中标记点的梯度向量G(i,j),还可以得到第一图像上标记点与各个预设模板图像的旋转角度的差异,进而得到目标旋转角度。目标旋转角度是指:各个匹配分数中最高的那个匹配分数的预设模板图像的旋转角度,也即机械手需要后续调整的旋转角度。在后续的机械手定位过程中,即可根据目标旋转角度对机械手进行偏差校正,下文中继续进行说明。
在机械手调整至目标高度后,即可根据已有的标定相关参数对机械手的水平位置偏差和/或旋转角度进行调整。如图5所示,在一些实施方式中,本公开控制方法中,控制机械手移动至目标位置,包括:
S510、获取第二图像上待抓取物体的标记点的图像位置和参考位置之间的图像位置偏差。
具体来说,机械手移动至目标高度后,相机拍摄得到第二图像,第二图像包含有待抓取物体的标记点,基于第二图像上标记点的图像坐标和参考位置的图像坐标,即可计算得到两者之间的差异。参考位置是标记点期望移动到的位置,而第二图像上标记点的图像坐标是当前实际的位置,因此两者的差异即表示两者在图像位置上的偏差。前述已经对参考位置定义进行解释说明,在此不再赘述。
在一个示例中,参考位置坐标为(x0,y0,θ0),第二图像上标记点的图像坐标为(x1,y1,θ1),θ表示旋转角度,则两者的图像位置偏差即表示为(x1-x0,y1-y0,θ1-θ0),θ1-θ0表示目标旋转角度。
S520、根据图像位置偏差和标定结果,得到机械手的真实位置偏差。
S530、根据真实位置偏差,控制机械手移动至目标位置,并且根据目标旋转角度控制机械手旋转至目标角度。
具体来说,在得到图像位置偏差之后,利用已有的相机的标定结果,即可将图像位置偏差映射到真实世界坐标下,得到真实位置偏差(Δx,Δy,Δθ),表示为:
式(2)中,Tuple表示标定结果。在得到机械手的真实位置偏差和目标旋转角度之后,即可控制机械手移动至目标位置,且控制机械手调整水平方向的旋转角度,校正自身偏差,进而实现待抓取物体的抓取。
通过上述可知,本公开实施方式的控制方法,无需在每次抓取前手动调整机械手的高度,实现机械手高度的自动调节,提高机械手的工作效率。而且仅利用已有的相机硬件实现,无需额外设置其他传感器硬件,提高定位精度的同时降低成本。
第二方面,本公开实施方式提供了一种机械手控制装置,该装置可应用于产线工控设备。图6示出了本公开一些实施方式中的控制装置的结构框图,下面结合图6进行说明。
如图6所示,在一些实施方式中,机械手上固设有图像采集装置,本公开机械手控制装置包括:
高度调整模块10,被配置为基于机械手在预设位置时图像采集装置采集的第一图像进行模板匹配,根据匹配结果控制机械手调整至目标高度;目标高度是图像采集装置的标定高度;
移动控制模块20,被配置为获取在目标高度时图像采集装置采集的第二图像,并根据第二图像上待抓取物体的标记点的图像位置,和图像采集装置的标定结果控制机械手移动至目标位置。
通过上述可知,本公开实施方式的控制方法,无需在每次抓取前手动调整机械手的高度,实现机械手高度的自动调节,提高机械手的工作效率。而且仅利用已有的相机硬件实现,无需额外设置其他传感器硬件,提高定位精度的同时降低成本。
在一些实施方式中,高度调整模块10具体被配置为:
基于第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数;
根据匹配分数调整机械手至第一高度,并获取机械手在第一高度时,图像采集装置采集的第三图像;
基于第三图像上待抓取物体的标记点的图像特征,与多个不同放缩比例的预设模板图像的匹配相似度,得到变形分数;
根据变形分数调整机械手至目标高度。
在一些实施方式中,多个预设模板图像包括至少一个不同旋转角度下的预设模板图像;
高度调整模块10,具体被配置为基于第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数和目标旋转角度;
移动控制模块20,具体被配置为根据第二图像上待抓取物体的标记点的图像位置和标定结果控制机械手移动至目标位置,且根据目标旋转角度控制机械手旋转至目标角度。
在一些实施方式中,高度调整模块10具体被配置为:
响应于多个匹配分数中的最高匹配分数不位于第一预设阈值范围,控制机械手进行高度调整,直至最高匹配分数落入第一预设阈值范围;
响应于变形分数不位于第二预设阈值范围,控制机械手进行高度调整,直至变形分数落入第二预设阈值范围。
通过上述可知,本公开控制方法,通过可变形模板匹配实现机械手高度的自动调节,无需每次抓取前手动调整机械手高度,提高机械手效率。而且利用匹配分数和变形分数对机械手进行先后两次的高度调节,保证机械手定位精度,更有利于后续的位置校正,提高机械手抓取精度。
在一些实施方式中,移动控制模块20具体被配置为:
获取第二图像上待抓取物体的标记点的图像位置和参考位置之间的图像位置偏差;参考位置是图像采集装置标定时待抓取物体上的标记点在图像上的位置;
根据图像位置偏差和标定结果,得到机械手的真实位置偏差;
根据真实位置偏差,控制机械手移动至目标位置。
在一些实施方式中,本公开的控制装置,还包括:
标定模块,被配置为获取相机在目标高度时的标定结果和参考位置。
通过上述可知,本公开实施方式的控制方法,无需在每次抓取前手动调整机械手的高度,实现机械手高度的自动调节,提高机械手的工作效率。而且仅利用已有的相机硬件实现,无需额外设置其他传感器硬件,提高定位精度的同时降低成本。
第三方面,本公开实施方式提供了一种机械手控制***,包括:
机械手,机械手上固设有图像采集装置;
处理器;以及
存储器,存储有能够被处理器读取的计算机指令,当计算机指令被读取时,处理器执行根据第一方面任一实施方式的方法。
第四方面,本公开实施方式提供了一种存储介质,用于存储计算机可读指令,计算机可读指令用于使计算机执行根据第一方面任一实施方式的方法。
具体而言,图7示出了适于用来实现本公开方法的计算机***600的结构示意图,通过图7所示***,可实现上述处理器及存储介质相应功能。
如图7所示,计算机***600包括处理器601,其可以根据存储在存储器602中的程序或者从存储部分608加载到存储器602中的程序而执行各种适当的动作和处理。在存储器602中,还存储有***600操作所需的各种程序和数据。处理器601和存储器602通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本公开的实施方式,上文方法过程可以被实现为计算机软件程序。例如,本公开的实施方式包括一种计算机程序产品,其包括有形地包含在机器可读介质上的计算机程序,计算机程序包含用于执行上述方法的程序代码。在这样的实施方式中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。
附图中的流程图和框图,图示了按照本公开各种实施方式的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
显然,上述实施方式仅仅是为清楚地说明所作的举例,而并非对实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引伸出的显而易见的变化或变动仍处于本公开创造的保护范围之中。
Claims (12)
1.一种机械手控制方法,其特征在于,所述机械手上固设有图像采集装置,所述方法包括:
基于所述机械手在预设位置时所述图像采集装置采集的第一图像进行模板匹配,根据匹配结果控制所述机械手调整至目标高度;所述目标高度是所述图像采集装置的标定高度;
获取在所述目标高度时所述图像采集装置采集的第二图像,并根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置;
根据匹配结果控制所述机械手调整至目标高度,包括:
基于所述第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数;
根据所述匹配分数调整所述机械手至第一高度,并获取所述机械手在所述第一高度时,所述图像采集装置采集的第三图像;
基于所述第三图像上待抓取物体的标记点的图像特征,与多个不同放缩比例的预设模板图像的匹配相似度,将最高的匹配相似度所对应的预设模板图像的放缩比例确定为所述第三图像的变形分数;
根据所述变形分数调整所述机械手至目标高度;
根据所述变形分数调整所述机械手至目标高度,包括:
响应于所述变形分数不位于第二预设阈值范围,控制所述机械手进行高度调整,直至所述变形分数落入所述第二预设阈值范围。
2.根据权利要求1所述的方法,其特征在于,所述多个预设模板图像包括至少一个不同旋转角度下的预设模板图像;
基于所述第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数,包括:
基于所述第一图像上待抓取物体的标记点的位置特征,与所述多个预设模板图像的匹配相似度,得到多个匹配分数和目标旋转角度;
根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置,包括:
根据所述第二图像上待抓取物体的标记点的图像位置和所述标定结果控制所述机械手移动至目标位置,且根据所述目标旋转角度控制所述机械手旋转至目标角度。
3.根据权利要求1所述的方法,其特征在于,
根据所述匹配分数调整所述机械手至第一高度,包括:
响应于所述多个匹配分数中的最高匹配分数不位于第一预设阈值范围,控制所述机械手进行高度调整,直至所述最高匹配分数落入所述第一预设阈值范围。
4.根据权利要求1所述的方法,其特征在于,根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置,包括:
获取所述第二图像上待抓取物体的标记点的图像位置和参考位置之间的图像位置偏差;所述参考位置是所述图像采集装置标定时待抓取物体上的标记点在图像上的位置;
根据所述图像位置偏差和所述标定结果,得到所述机械手的真实位置偏差;
根据所述真实位置偏差,控制所述机械手移动至所述目标位置。
5.根据权利要求1所述的方法,其特征在于,在所述基于所述机械手在预设位置时所述图像采集装置采集的第一图像进行模板匹配之前,所述方法还包括:
获取所述图像采集装置在所述目标高度时的所述标定结果和参考位置,所述参考位置是所述图像采集装置标定时待抓取物体上的标记点在图像上的位置。
6.一种机械手控制装置,其特征在于,所述机械手上固设有图像采集装置,所述机械手控制装置包括:
高度调整模块,被配置为基于所述机械手在预设位置时所述图像采集装置采集的第一图像进行模板匹配,根据匹配结果控制所述机械手调整至目标高度;所述目标高度是所述图像采集装置的标定高度;
移动控制模块,被配置为获取在所述目标高度时所述图像采集装置采集的第二图像,并根据所述第二图像上待抓取物体的标记点的图像位置,和所述图像采集装置的标定结果控制所述机械手移动至目标位置;
所述高度调整模块具体被配置为:
基于所述第一图像上待抓取物体的标记点的位置特征,与多个预设模板图像的匹配相似度,得到多个匹配分数;
根据所述匹配分数调整所述机械手至第一高度,并获取所述机械手在所述第一高度时,所述图像采集装置采集的第三图像;
基于所述第三图像上待抓取物体的标记点的图像特征,与多个不同放缩比例的预设模板图像的匹配相似度,将最高的匹配相似度所对应的预设模板图像的放缩比例确定为所述第三图像的变形分数;
根据所述变形分数调整所述机械手至目标高度;
所述高度调整模块具体被配置为:响应于所述变形分数不位于第二预设阈值范围,控制所述机械手进行高度调整,直至所述变形分数落入所述第二预设阈值范围。
7.根据权利要求6所述的机械手控制装置,其特征在于,所述多个预设模板图像包括至少一个不同旋转角度下的预设模板图像;
所述高度调整模块,具体被配置为基于所述第一图像上待抓取物体的标记点的位置特征,与所述多个预设模板图像的匹配相似度,得到多个匹配分数和目标旋转角度;
所述移动控制模块,具体被配置为根据所述第二图像上待抓取物体的标记点的图像位置和所述标定结果控制所述机械手移动至目标位置,且根据所述目标旋转角度控制所述机械手旋转至目标角度。
8.根据权利要求6所述的机械手控制装置,其特征在于,所述高度调整模块具体被配置为:
响应于所述多个匹配分数中的最高匹配分数不位于第一预设阈值范围,控制所述机械手进行高度调整,直至所述最高匹配分数落入所述第一预设阈值范围。
9.根据权利要求6所述的机械手控制装置,其特征在于,所述移动控制模块具体被配置为:
获取所述第二图像上待抓取物体的标记点的图像位置和参考位置之间的图像位置偏差;所述参考位置是所述图像采集装置标定时待抓取物体上的标记点在图像上的位置;
根据所述图像位置偏差和所述标定结果,得到所述机械手的真实位置偏差;
根据所述真实位置偏差,控制所述机械手移动至所述目标位置。
10.根据权利要求6所述的机械手控制装置,其特征在于,还包括:
标定模块,被配置为获取所述图像采集装置在所述目标高度时的所述标定结果和参考位置。
11.一种机械手控制***,其特征在于,包括:
机械手,所述机械手上固设有图像采集装置;
处理器;以及
存储器,存储有能够被所述处理器读取的计算机指令,当所述计算机指令被读取时,所述处理器执行根据权利要求1至5任一项所述的方法。
12.一种存储介质,其特征在于,用于存储计算机可读指令,所述计算机可读指令用于使计算机执行根据权利要求1至5任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011626908.5A CN114693798B (zh) | 2020-12-31 | 2020-12-31 | 机械手控制方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011626908.5A CN114693798B (zh) | 2020-12-31 | 2020-12-31 | 机械手控制方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114693798A CN114693798A (zh) | 2022-07-01 |
CN114693798B true CN114693798B (zh) | 2023-12-26 |
Family
ID=82133536
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011626908.5A Active CN114693798B (zh) | 2020-12-31 | 2020-12-31 | 机械手控制方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114693798B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107192331A (zh) * | 2017-06-20 | 2017-09-22 | 佛山市南海区广工大数控装备协同创新研究院 | 一种基于双目视觉的工件抓取方法 |
CN107992881A (zh) * | 2017-11-13 | 2018-05-04 | 广州中国科学院先进技术研究所 | 一种机器人动态抓取方法及*** |
CN110125926A (zh) * | 2018-02-08 | 2019-08-16 | 比亚迪股份有限公司 | 自动化的工件取放方法及*** |
CN110509281A (zh) * | 2019-09-16 | 2019-11-29 | 中国计量大学 | 基于双目视觉的位姿识别与抓取的装置与方法 |
CN110660104A (zh) * | 2019-09-29 | 2020-01-07 | 珠海格力电器股份有限公司 | 工业机器人视觉识别定位抓取方法、计算机装置以及计算机可读存储介质 |
CN110766750A (zh) * | 2019-09-09 | 2020-02-07 | 浙江大学 | 一种基于局部轮廓的机械臂视觉伺服目标识别方法 |
CN111476841A (zh) * | 2020-03-04 | 2020-07-31 | 哈尔滨工业大学 | 一种基于点云和图像的识别定位方法及*** |
CN111966041A (zh) * | 2020-08-26 | 2020-11-20 | 珠海格力电器股份有限公司 | 机器人的控制方法和装置 |
CN112070818A (zh) * | 2020-11-10 | 2020-12-11 | 纳博特南京科技有限公司 | 基于机器视觉的机器人无序抓取方法和***及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
ATE452379T1 (de) * | 2007-10-11 | 2010-01-15 | Mvtec Software Gmbh | System und verfahren zur 3d-objekterkennung |
-
2020
- 2020-12-31 CN CN202011626908.5A patent/CN114693798B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107192331A (zh) * | 2017-06-20 | 2017-09-22 | 佛山市南海区广工大数控装备协同创新研究院 | 一种基于双目视觉的工件抓取方法 |
CN107992881A (zh) * | 2017-11-13 | 2018-05-04 | 广州中国科学院先进技术研究所 | 一种机器人动态抓取方法及*** |
CN110125926A (zh) * | 2018-02-08 | 2019-08-16 | 比亚迪股份有限公司 | 自动化的工件取放方法及*** |
CN110766750A (zh) * | 2019-09-09 | 2020-02-07 | 浙江大学 | 一种基于局部轮廓的机械臂视觉伺服目标识别方法 |
CN110509281A (zh) * | 2019-09-16 | 2019-11-29 | 中国计量大学 | 基于双目视觉的位姿识别与抓取的装置与方法 |
CN110660104A (zh) * | 2019-09-29 | 2020-01-07 | 珠海格力电器股份有限公司 | 工业机器人视觉识别定位抓取方法、计算机装置以及计算机可读存储介质 |
CN111476841A (zh) * | 2020-03-04 | 2020-07-31 | 哈尔滨工业大学 | 一种基于点云和图像的识别定位方法及*** |
CN111966041A (zh) * | 2020-08-26 | 2020-11-20 | 珠海格力电器股份有限公司 | 机器人的控制方法和装置 |
CN112070818A (zh) * | 2020-11-10 | 2020-12-11 | 纳博特南京科技有限公司 | 基于机器视觉的机器人无序抓取方法和***及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114693798A (zh) | 2022-07-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109308693B (zh) | 由一台ptz相机构建的目标检测和位姿测量单双目视觉*** | |
CN106767393B (zh) | 机器人的手眼标定装置与方法 | |
CN110163912B (zh) | 二维码位姿标定方法、装置及*** | |
CN108381549B (zh) | 一种双目视觉引导机器人快速抓取方法、装置及存储介质 | |
CN113910219A (zh) | 运动臂***以及控制方法 | |
CN109886124B (zh) | 一种基于线束描述子图像匹配的无纹理金属零件抓取方法 | |
CN111179233B (zh) | 基于激光切割二维零部件的自适应纠偏方法 | |
CN107300100B (zh) | 一种在线cad模型驱动的级联式机械臂视觉引导逼近方法 | |
CN111721259A (zh) | 基于双目视觉的水下机器人回收定位方法 | |
US20220230348A1 (en) | Method and apparatus for determining a three-dimensional position and pose of a fiducial marker | |
CN112509036B (zh) | 位姿估计网络训练及定位方法、装置、设备、存储介质 | |
CN113379849A (zh) | 基于深度相机的机器人自主识别智能抓取方法及*** | |
CN111681279A (zh) | 基于改进李群非线性优化的行车吊臂空间位姿测量方法 | |
CN116749198A (zh) | 一种基于双目立体视觉引导机械臂抓取方法 | |
CN111536872A (zh) | 基于视觉的二维平面测距装置及方法、标记点识别装置 | |
CN113997295A (zh) | 机械臂的手眼标定方法、装置、电子设备及存储介质 | |
CN113172632A (zh) | 一种基于图像的简化机器人视觉伺服控制方法 | |
CN110853102B (zh) | 一种新的机器人视觉标定及引导方法、装置及计算机设备 | |
CN113172636A (zh) | 一种自动手眼标定方法、装置及存储介质 | |
CN114693798B (zh) | 机械手控制方法及装置 | |
KR20040100963A (ko) | 화상 처리 장치 | |
CN115790449B (zh) | 一种狭长空间的三维形貌测量方法 | |
CN109410272B (zh) | 一种变压器螺母识别与定位装置及方法 | |
CN115592666A (zh) | 组件定位方法、组件定位装置、组件定位***和机器人 | |
CN116188540A (zh) | 一种基于点云信息的目标识别和位姿估计方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |