CN110842928A - 一种复合机器人视觉引导定位装置及方法 - Google Patents

一种复合机器人视觉引导定位装置及方法 Download PDF

Info

Publication number
CN110842928A
CN110842928A CN201911225526.9A CN201911225526A CN110842928A CN 110842928 A CN110842928 A CN 110842928A CN 201911225526 A CN201911225526 A CN 201911225526A CN 110842928 A CN110842928 A CN 110842928A
Authority
CN
China
Prior art keywords
mechanical arm
calibration
tail end
robot
positioning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911225526.9A
Other languages
English (en)
Other versions
CN110842928B (zh
Inventor
杨跞
朱小生
贺琪欲
李兵
刘一帆
李法设
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siasun Co Ltd
Original Assignee
Siasun Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siasun Co Ltd filed Critical Siasun Co Ltd
Priority to CN201911225526.9A priority Critical patent/CN110842928B/zh
Publication of CN110842928A publication Critical patent/CN110842928A/zh
Application granted granted Critical
Publication of CN110842928B publication Critical patent/CN110842928B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/0095Means or methods for testing manipulators

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Manipulator (AREA)

Abstract

本发明提供一种复合机器人视觉引导定位装置及方法,其中装置包括:测量模块,用于测量机械臂末端相对于工作台面的距离、机械臂末端的倾角、以及获取工作台上作为引导基准的标识区的图像;视觉引导处理模块,用于根据测量模块采集的信息,经机器人运动控制器控制机械臂运动,使机器人在标定时和作业应用时机械臂末端达到同样的相对位姿;控制标定数据的自动化采集和标定参数计算;以及控制机械臂末端从标定位置沿TCP偏移至工件摆放位置,完成工件抓放。对应的复合机器人视觉引导定位方法包括视觉引导标定的步骤和作业应用的步骤。本发明通过基于多种传感器信息的精确相对定位,保证了复合机器人作业精度不受实际各种误差因素的影响。

Description

一种复合机器人视觉引导定位装置及方法
技术领域
本公开属于工业机器人领域,尤其是机器人引导定位技术,具体涉及一种复合机器人视觉引导定位装置及方法。
背景技术
复合机器人是AGV(自动移动小车)与机械臂组成的移动机械手,属于一种新型机器人,可快速布局于3C行业、自动化工厂、仓储分拣、自动化货物超市,实现物料自动搬运、物品上下料、物料分拣等。
目前,复合机器人的视觉引导定位跟固定底座机器人一样,也主要采用眼在手上的方式,即机械臂末端带动着相机运动,但复合机器人比底座固定机器人工作环境条件更加复杂,导致这种机器人的视觉引导物体抓放难度也增加。
底座固定机器人面对的工作区域固定,通常都是通过事先的标定,建立各采集点的手眼位置对应关系,解算出标定参数,后续只需根据物体在视场内的像素坐标和标定参数,计算出机械臂的位移量,按照该位移量控制机械臂移动,即可准确对准工件摆放位置,进而实现准确抓放。可见,在机械臂抓放工件前,只需在二维平面内计算和调整即可实现与工件位置的对准。
而底座移动的复合机器人,需要先将AGV小车自动导航运动到停车点,再用机械臂对工作台上的目标位置进行物体抓放,在这一过程中,由于AGV小车的停车点位置会存在误差,以及AGV小车停车点地面的不平,都会导致小车到达停车点后机械臂末端相对工作台的位置和姿态与标定时不同,由于机械臂是一种高精度设备,这时如果仍然简单地按照底座固定机器人的处理方法,即仅仅根据标定参数和目标位置在相机视场内的像素坐标计算机械臂的偏移量,会导致机械臂末端位置距离实际目标位置出现偏差,机械臂动作精度大大降低。
发明内容
本发明的目的在于提供一种复合机器人视觉引导定位装置及方法,以解决上述复合机器人在实际工作环境中视觉引导精度下降的问题。
本发明一方面提供了一种复合机器人视觉引导定位装置,包括:
测量模块,固定于机械臂末端,用于测量机械臂末端相对于工作台面的距离、机械臂末端的倾角、以及获取工作台上作为引导基准的标识区的图像;
视觉引导处理模块,用于根据所述测量模块采集到的信息,通过机器人运动控制器,控制机械臂运动,使机器人在标定时和作业应用时机械臂末端相对于工作台的距离、位置和角度值达到同样的状态;控制标定数据的自动化采集和标定参数解算;控制机械臂末端从标定位置沿TCP偏移至工件摆放位置,完成工件抓放。
进一步地,所述测量模块包括测距传感器、倾角传感器和工业相机。
进一步地,所述视觉引导处理模块包括:
测量模块通信单元:与所述测量模块通信,实时获取和记录所述测量模块采集的距离和倾角信息;
机器人通信单元:向机器人运动控制器发指令,指挥其控制机器人运动,同时实时获取机器人的坐标信息;
图像识别定位单元:控制所述测量模块采集图像,对接收到的图像进行识别定位,获取并记录其中基准点的像素坐标和图像的Rz角度值;
标定参数计算单元:根据在各采集点处获取的基准点像素坐标和机械臂的偏移量,计算标定参数保存;
人机交互单元:为用户提供指令、数据、图像等信息的输入输出接口。
进一步地,还包括固定于工作台上所述标识区的二维码标签或字符标签。
本发明同时提供了一种适用于上述装置的复合机器人视觉引导定位方法,包括视觉引导标定的步骤和视觉引导作业应用的步骤,其中所述视觉引导标定的步骤具体包括:
相对位姿采集:当小车到达适当停车点后,调整机械臂末端至适当的标定原点,获取并记录此时机械臂位姿,机械臂末端的倾角,以及相对于工作台面的距离、位置和Rz角度值;
标定参数解算:标定数据采集,根据采集到的数据计算标定参数;
测量机械臂由所述标定原点至工件摆放位置的TCP偏移量;
所述视觉引导作业应用的步骤具体包括:
相对位姿复现:当小车停于标定时的位置和角度后,控制机械臂运动至标定时记录的姿态,然后控制机械臂末端调整至标定时所记录的相对位姿;
按照由所述标定原点至工件摆放位置的TCP偏移量,控制机械臂运动,完成抓放作业任务。
进一步地,所述相对位姿采集的步骤具体包括:
调整机械臂末端姿态,使其工作平面与工作台面平行,采集并记录机械臂末端倾角Rx和Ry的数值;
调整机械臂末端与工作台的距离,使所述测量模块的成像视野清晰,记录当前点为标定原点;
采集并记录此时机械臂末端到工作台面的距离;
采集工作台上所述标识区的图像,对图像进行识别定位,提取并记录其中基准点的像素坐标和标识区的Rz角度值;
采集并记录此时机械臂的位姿。
进一步地,所述对图像进行识别定位的方法为:使用形状匹配方式进行识别定位,如果所述标识区设有二维码标签,则使用二维码识别定位方式进行识别定位。
进一步地,所述标定数据采集的方法包括:
设置各采集点相对于所述标定原点的TCP偏移量;
控制机械臂沿TCP坐标系分别按预设偏移量运动到各采集点;
在各采集点处采集工作台上所述标识区的图像,对图像进行识别定位,提取并记录其中基准点的像素坐标。
进一步地,所述标定参数计算的方法为:
假设机械臂末端在标定原点处,得到所述标识区中基准点的像素坐标为(u0,v0);机械臂末端沿着TCP坐标系移动Δx,此时基准点像素坐标为(u1,v1);机械臂末端返回到标定原点后再沿着TCP坐标系移动Δy,此时基准点像素坐标为(u2,v2);
那么在作业应用时,如果得到基准点的像素坐标为(u,v),则这时机械臂相对于标定原点的TCP偏移量(Δx',Δy')应为:
其中,
Δu1=u1-u0,Δv1=v1-v0,Δu2=u2-u0,Δv2=v2-v0,Δu=u-u0,Δv=v-v0
进一步地,所述相对位姿复现的步骤具体包括:
控制机械臂运动至标定时记录的姿态;
测量机械臂末端倾角Rx和Ry值,调整机械臂末端姿态,使该倾角与标定时记录的倾角数值相同;
测量机械臂末端到工作台面之间的距离值,调整机械臂姿态,使该距离等于标定时记录的距离数值;
获取工作台上所述标识区的图像,提取标识区的Rz角度值,与标定时记录的图像Rz值对比,调整机械臂末端姿态Rz,使两者一致;
再次获取所述标识区的图像,得到其中基准点的像素坐标,根据记录的标定参数,计算机械臂的TCP偏移量,按该偏移量控制机械臂运动,即可到达标定时记录的相对于工作台面的位姿。
可见,本发明提供的复合机器人视觉引导定位装置和方法,通过在标定时详细记录复合机器人的相对位置和姿态信息,包括与工作台的距离、位置和角度等,进而在作业应用时复现这一相对位姿,覆盖复合机器人由于小车导航定位误差、地面不平等因素引起的视觉和动作偏差,从而提高机器人在实际环境下的作业精度。与现有技术相比,其有益效果主要包括:(1)保证了复合机器人在各种不利工作环境下的抓放物体准确度;(2)能够与机器人运动控制器通信,直接控制机器人运动,而不需要使用机械臂示教器,方便快捷,数据精准,无人为输入错误;(3)自动识别并获取视觉引导基准的像素坐标和图像角度,减少标定过程的操作复杂度,提高了标定效率。
应了解的是,上述一般描述及以下具体实施方式仅为示例性及阐释性的,其并不能限制本申请所欲主张的范围。
附图说明
下面的附图是本发明说明书的一部分,其示出了本发明的实施例,所附附图与说明书的描述一起用来说明本发明的原理。
图1为复合机器人视觉引导定位装置示例性实施例组成示意图;
图2为复合机器人视觉引导定位方法示例性实施例总体流程图;
图3为复合机器人视觉引导定位方法示例性实施例的标定步骤流程图;
图4为复合机器人视觉引导定位方法示例性实施例的作业应用步骤流程图。
具体实施方式
下面将参照附图更详细地描述本公开的优选实施例。虽然附图中显示了本公开的优选实施例,然而应该理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了使本公开更加透彻和完整,并且能够将本公开的范围完整地传达给本领域的技术人员。
附图1中给出了本公开所述复合机器人视觉引导定位装置示例性实施例的组成示意图。
本公开提供的复合机器人视觉引导定位装置包括:
测量模块,用于测量机械臂末端相对于工作台面的距离、机械臂末端的倾角、以及获取工作台上作为引导基准的标识区的图像;
视觉引导处理模块,用于根据所述测量模块采集到的信息,通过机器人运动控制器,控制机械臂运动,使机器人在标定时和作业应用时机械臂末端相对于工作台的距离、位置和角度值达到同样的状态;控制标定数据的自动化采集和标定参数解算;控制机械臂末端从标定位置沿TCP偏移至工件摆放位置,完成工件抓放。
其中,工作台面上作为引导基准的标识区应具有与周围环境明显不同、易于被识别区分的特征。从中选择有特征的一点作为基准点,以该点在图像中的像素坐标定位实现机械臂末端相对于工作台的定位。
标识区的位置可以灵活选择:如果待抓放工件放在工作台上的工件定位工装中,且工件相对于定位工装位置和姿态不变,那么可以直接选择在工件定位工装上,这时待抓放工件、工件定位工装、标识区三者之间的相对定位关系保持不变;如果待抓取目标工件在工作台上的位置是活动变化的,即没有工件定位工装限位,那么也可以直接选择在待抓取目标工件上。同时都需要选取方便机械臂末端拍照装置识别的位置。
标识区可以通过印刷或粘贴标签等手段设置其内部特征,优选的方案为贴附二维码标签或字符标签。
测量模块为测量机器人相对工作台的位姿提供了更多的信息,后续以此为基础进行位姿调整,能够有效校正复合机器人由于小车导航定位误差、地面不平等因素引起的视觉偏差,提供视觉引导作业精度。
测量模块可采用现有一切适用于测量机械臂末端相对于工作台的距离、机械臂末端倾角、以及获取工作台上作为引导基准的标识区图像的探测装置。
优选方案为测距传感器、倾角传感器和工业相机,如图1所示。
视觉引导处理模块通常包括机器人的视觉控制计算机和运行于其中的视觉引导处理软件。视觉控制计算机也通称视觉控制器,为工业控制计算机,与机器人运动控制器、测量模块之间均有通信接口:一般通过网线与机器人运动控制器相连,通过TCP/IP协议通信;通过高速网线与相机相连;通过串口与测角或测距传感器相连。视觉引导处理软件则完成所述视觉引导处理模块的各项功能。
作为优选方案,视觉引导处理模块包括:
测量模块通信单元:与所述测量模块通信,实时获取和记录所述测量模块采集的距离和倾角信息;
机器人通信单元:向机器人运动控制器发指令,指挥其控制机器人运动,同时实时获取机器人的坐标信息;
图像识别定位单元:控制所述测量模块采集图像,对接收到的图像进行识别定位,获取并记录其中基准点的像素坐标和图像的Rz角度值;
标定参数计算单元:根据在各采集点处获取的基准点像素坐标和机械臂的偏移量,计算标定参数保存;
人机交互单元:为用户提供指令、数据、图像等信息的输入输出接口。
附图2中给出了适用于上述复合机器人视觉引导装置的视觉引导定位方法示例性实施例的总体流程图。如图2所示,根据示例性实施例的视觉引导方法,主要包括视觉引导标定的步骤和视觉引导作业应用的步骤,其中,视觉引导标定步骤包括:
相对位姿采集:小车到达适当停车点后,调整机械臂末端至适当的标定原点,获取并记录此时机械臂位姿,机械臂末端倾角,以及相对于工作台面的距离、位置和Rz角度值。其中,机械臂末端相对工作台的位置和Rz角度值可以通过工作台上作为引导基准的标识区中基准点的像素坐标和标识区的Rz角度值来定位。
标定参数解算:包括标定数据采集,根据采集到的数据计算标定参数。
测量机械臂由所述标定原点至工件摆放位置的TCP偏移量。
视觉引导作业应用步骤包括:
相对位姿复现:小车运动至标定时记录的停车点后,控制机械臂运动至标定时记录的姿态,根据测量模块采集的信息,控制机械臂末端调整至标定时相对于工作台的位姿。
按照标定时获取的所述标定原点至工件摆放位置的TCP偏移量,控制机械臂按TCP偏移,完成抓放作业任务。
该方法中,相对位姿采集过程中,通过对测量模块所获参数的采集,详细记录了标定时机械臂的姿态、机械臂末端相对于工作台的位姿,包括距离、位置和角度,其中位置用标识区图像中基准点的像素坐标表征,角度用倾角传感器记录的RX和Ry方向角度值以及标识区图像的Rz角度值表征。而标识区图像中基准点的像素坐标和标识区图像的Rz角度值都通过对测量模块获取的标识区图像进行识别定位处理得到。
之后,在作业应用时,通过上述相对位姿的复现,使复合机器人相对于工作台的位姿与标定时相同,从而屏蔽了机器人由于小车导航定位误差、地面不平等因素引起的视觉和动作偏差,保证了机器人在实际作业环境下的作业精度。
作为优选方案,相对位姿采集的步骤,具体包括:
调整机械臂末端姿态,使其工作平面与工作台面平行,采集并记录机械臂末端倾角Rx和Ry的数值;
调整机械臂末端与工作台的距离,使所述测量模块的成像视野清晰,记录当前点为标定原点;
采集并记录此时机械臂末端到工作台面的距离;
采集工作台上所述标识区的图像,对图像进行识别定位,提取并记录其中基准点的像素坐标和标识区的Rz角度值;
采集并记录此时机械臂的位姿。
作为优选方案,相对位姿复现的步骤,具体包括:
控制机械臂运动至标定时记录的姿态;
测量机械臂末端倾角Rx和Ry值,调整机械臂末端姿态,使该倾角与标定时记录的倾角数值相同;
测量机械臂末端到工作台面之间的距离值,调整机械臂姿态,使该距离等于标定时记录的距离数值;
获取工作台上所述标识区的图像,提取标识区的Rz角度值,与标定时记录的图像Rz值对比,调整机械臂末端姿态Rz,使两者一致;
再次获取所述标识区的图像,得到其中基准点的像素坐标,根据记录的标定参数,计算机械臂的TCP偏移量,按该偏移量控制机械臂运动,即可到达标定时记录的相对于工作台面的位姿。
其中,对图像识别定位的方法属于成熟技术,通常采用形状匹配的方法,但如果标识区中设的是二维码标签,则可以采用二维码识别定位的方法。
复合机器人的标定参数解算可以采用现有技术中一切适用的方法。优选方案为基于增量补偿的标定数据采集和标定参数计算:按照预设的Rx和Ry方向的TCP偏移量,控制机械臂分别到达标定原点周围的各预设点,采集该点处工作台上基准点的像素坐标,然后根据采集到的这些数据计算标定参数,建立起基准点的像素坐标与机械臂相对于标定原点的TCP偏移量之间的对应关系。
另外,在标定步骤中测量机械臂由所述标定原点至工件摆放位置的TCP偏移量,可以通过牵引示教等方式完成。
本发明所述复合机器人视觉引导定位方法,通过标定时详细的相对位姿测量以及在后面作业应用环节的复现,屏蔽了机器人小车自身的各种误差因素的影响,保证了工件抓放精度,便捷精准。
应用示例:
如图1所示为示例性的复合机器人视觉引导定位装置。图中,复合机器人由移动小车(1)和机械臂(2)组成,工作台面(10)为水平状态。小车标定或工作时,选择适合的停车点(11),工作台的工件位置都处于机械臂末端的工作范围(9)内。
该机器人视觉引导定位装置包括:
水平安装在复合机器人机械臂末端的倾角传感器(3),安装在机械臂末端的测距传感器(4)、及工业相机(5),分别用于测量机械臂末端倾角、机械臂末端到工作台的距离,以及获取作为视觉引导基准的标识区(7)的图像;
视觉引导处理模块,与机器人运动控制器、倾角传感器(3)、测距传感器(4)、工业相机(5)之间均有通信接口,获取测量模块所采集的距离、倾角、图像等数据,并对图像进行识别定位,得到其中基准点的像素坐标和标识区的Rz角度值;给机器人运动控制器发指令,控制机器人运动,同时实时获取机器人的坐标信息。
该视觉引导处理模块主要用于:根据预设的偏移量,控制机械臂偏移,采集基准点像素坐标,计算标定参数;标定时获取并记录机械臂末端相对于工作台面的距离、位置和角度值,作业应用时控制机械臂末端到达同样的相对位姿;控制机械臂末端从标定位置沿TCP偏移至工件摆放位置,完成工件抓放。
视觉引导处理模块包括机器人视觉控制器和运行于其中的视觉引导处理软件,视觉控制器为工控机,通过网线分别与复合机器人运动控制器和相机相连,通过串口与倾角传感器及测距传感器相连;视觉引导处理软件则完成各项具体功能。
另外,该视觉引导定位装置还包括了设置于标识区(7)的二维码标签或字符标签,以标签的中心点作为基准点进行像素坐标定位。
适用于上述装置的复合机器人视觉引导定位方法包括视觉引导定位标定步骤和作业步骤,其中:
S1,标定步骤,如附图3所示,包括:
S11,复合机器人AGV小车到达合适的工作停车点后(小车的运动导航由小车的控制装置负责),调整复合机器人机械臂末端姿态,使机械臂末端与工作台平行,视觉引导处理模块记录下此刻倾角传感器Rx和Ry的角度数值。
S12,调整复合机器人机械臂与工作台的距离,调节工业相机的焦距和光圈,使相机成像视野清晰,视觉引导处理模块记录下此刻测距传感器的距离数值。取该点为标定原点。
S13,视觉引导处理模块与机器人通信,记录此刻机械臂的位姿,打开相机采图,定位标签的像素坐标和角度值并记录。
S14,设置复合机器人机械臂沿TCP坐标系(工具坐标系)X方向和Y方向的偏移量,分别控制机械臂运动到偏移点,打开相机采图,对标签进行像素坐标定位;然后机械臂返回到标定原点,再控制机器人沿TCP偏移至另一点,打开相机采图,对图像中的标签进行像素定位,机械臂返回到标定原点。
S15,视觉引导处理模块根据所获像素坐标及机械臂偏移量,计算标定参数,并保存标定结果到本地。
S16,通过牵引示教方式,将机械臂从此刻的标定原点位置沿TCP运动到待抓放目标工件位置,记录下机械臂的TCP偏移量(ΔTx',ΔTy',ΔTz')。
S2,作业步骤,如附图4所示,包括:
S21,复合机器人AGV小车从初始点导航运动到标定时的停车点后,将机械臂运动到标定原点姿态;
S22,根据标定时记录的倾角传感器Rx和Ry值,调节机械臂末端姿态,保证与标定时记录的倾角传感器数值相同;
S23,根据标定时记录的测距传感器距离,调节机械臂末端到工作台的距离;
S24,打开工业相机拍照,识别标签角度,与标定时记录的Rz进行对比,将角度偏差发送给复合机器人机械臂;
S25,复合机器人机械臂根据角度偏差,调节末端姿态Rz,使其与标定时的姿态一致;
S26,再次打开相机拍照,识别定位标签像素坐标,根据标定参数,计算机械臂的TCP偏移量,指挥控制机械臂进行TCP偏移。此刻复合机器人机械臂工具坐标系相对于标签的位置和角度已经与标定时一致。
S27,根据标定时记录的机械臂从标定原点到待抓取工件位置之间的TCP偏移量,指挥控制机械臂按照TCP运动。此刻,机械臂便能够准确地运行到待抓放工件位置,完成抓放作业任务。
可见,本实施例中的复合机器人视觉引导定位装置及方法,通过实时获取测角、测距传感器数据以及相机图像,详细记录标定时机械臂相对于工作台的距离、位置和角度,在后续实际工作过程中精确调整机械臂,使其达到这一相对位姿,从而屏蔽了因小车停车定位误差、角度误差、以及地面不平等因素对机械臂抓放操作带来的影响,使复合机器人视觉引导定位作业精度能够相对现有技术获得明显改善。
以上所述仅为本申请示意性的具体实施方式,在不脱离本申请的构思和原则的前提下,任何本领域的技术人员所做出的等同变化与修改,均应属于本申请保护的范围。

Claims (10)

1.一种复合机器人视觉引导定位装置,其特征在于,包括:
测量模块,固定于机械臂末端,用于测量机械臂末端相对于工作台面的距离、机械臂末端的倾角、以及获取工作台上作为引导基准的标识区的图像;
视觉引导处理模块,用于根据所述测量模块采集到的信息,通过机器人运动控制器,控制机械臂运动,使机器人在标定时和作业应用时机械臂末端相对于工作台的距离、位置和角度值达到同样的状态;控制标定数据的自动化采集和标定参数解算;控制机械臂末端从标定位置沿TCP偏移至工件摆放位置,完成工件抓放。
2.根据权利要求1所述的复合机器人视觉引导定位装置,其特征在于,所述测量模块包括测距传感器、倾角传感器和工业相机。
3.根据权利要求1所述的复合机器人视觉引导定位装置,其特征在于,所述视觉引导处理模块包括:
测量模块通信单元:与所述测量模块通信,实时获取和记录所述测量模块采集的距离和倾角信息;
机器人通信单元:向机器人运动控制器发指令,指挥其控制机器人运动,同时实时获取机器人的坐标信息;
图像识别定位单元:控制所述测量模块采集图像,对接收到的图像进行识别定位,获取并记录其中基准点的像素坐标和图像的Rz角度值;
标定参数计算单元:根据在各采集点处获取的基准点像素坐标和机械臂的偏移量,计算标定参数保存;
人机交互单元:为用户提供指令、数据、图像等信息的输入输出接口。
4.根据权利要求1所述的复合机器人视觉引导定位装置,其特征在于,还包括固定于工作台上所述标识区的二维码标签或字符标签。
5.一种适用于权利要求1至4中任一项所述视觉引导定位装置的复合机器人视觉引导定位方法,包括视觉引导标定的步骤和视觉引导作业应用的步骤,其中所述视觉引导标定的步骤具体包括:
相对位姿采集:小车到达适当停车点后,调整机械臂末端至适当的标定原点,获取并记录此时机械臂位姿,机械臂末端的倾角、相对于工作台面的距离,位置和Rz角度值;
标定参数解算:标定数据采集,根据采集到的数据计算标定参数;
测量机械臂由所述标定原点至工件摆放位置的TCP偏移量;
所述视觉引导作业应用的步骤具体包括:
相对位姿复现:当小车停于标定时的位置和角度后,控制机械臂运动至标定时记录的姿态,然后控制机械臂末端调整至标定时所记录的相对位姿;
按照由所述标定原点至工件摆放位置的TCP偏移量,控制机械臂运动,完成抓放作业任务。
6.根据权利要求5所述的复合机器人视觉引导定位方法,其特征在于,所述相对位姿采集的步骤具体包括:
调整机械臂末端姿态,使其工作平面与工作台面平行,采集并记录机械臂末端倾角Rx和Ry的数值;
调整机械臂末端与工作台的距离,使所述测量模块的成像视野清晰,记录当前点为标定原点;
采集并记录此时机械臂末端到工作台面的距离;
采集工作台上所述标识区的图像,对图像进行识别定位,提取并记录其中基准点的像素坐标和标识区的Rz角度值;
采集并记录此时机械臂的位姿。
7.根据权利要求6所述的复合机器人视觉引导定位方法,其特征在于,所述对图像进行识别定位的方法为:使用形状匹配方式进行识别定位,如果所述标识区设有二维码标签,则使用二维码识别定位方式进行识别定位。
8.根据权利要求5所述的复合机器人视觉引导定位方法,其特征在于,所述标定数据采集的方法包括:
设置各采集点相对于所述标定原点的TCP偏移量;
控制机械臂沿TCP坐标系分别按预设偏移量运动到各采集点;
在各采集点处采集工作台上所述标识区的图像,对图像进行识别定位,提取并记录其中基准点的像素坐标。
9.根据权利要求8所述的复合机器人视觉引导定位方法,其特征在于,所述标定参数计算的方法为:
假设机械臂末端在标定原点处,得到所述标识区中基准点的像素坐标为(u0,v0);机械臂末端沿着TCP坐标系移动Δx,此时基准点像素坐标为(u1,v1);机械臂末端返回到标定原点后再沿着TCP坐标系移动Δy,此时基准点像素坐标为(u2,v2);
那么在作业应用时,如果得到基准点的像素坐标为(u,v),则这时机械臂相对于标定原点的TCP偏移量(Δx',Δy')应为:
Figure FDA0002302100700000031
其中,
Δu1=u1-u0,Δv1=v1-v0,Δu2=u2-u0,Δv2=v2-v0,Δu=u-u0,Δv=v-v0
10.根据权利要求5所述的复合机器人视觉引导定位方法,其特征在于,所述相对位姿复现的步骤具体包括:
控制机械臂运动至标定时记录的姿态;
测量机械臂末端倾角Rx和Ry值,调整机械臂末端姿态,使该倾角与标定时记录的倾角数值相同;
测量机械臂末端到工作台面之间的距离值,调整机械臂姿态,使该距离等于标定时记录的距离数值;
获取工作台上所述标识区的图像,提取标识区的Rz角度值,与标定时记录的图像Rz值对比,调整机械臂末端姿态Rz,使两者一致;
再次获取所述标识区的图像,得到其中基准点的像素坐标,根据记录的标定参数,计算机械臂的TCP偏移量,按该偏移量控制机械臂运动,即可到达标定时记录的相对于工作台面的位姿。
CN201911225526.9A 2019-12-04 2019-12-04 一种复合机器人视觉引导定位方法 Active CN110842928B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911225526.9A CN110842928B (zh) 2019-12-04 2019-12-04 一种复合机器人视觉引导定位方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911225526.9A CN110842928B (zh) 2019-12-04 2019-12-04 一种复合机器人视觉引导定位方法

Publications (2)

Publication Number Publication Date
CN110842928A true CN110842928A (zh) 2020-02-28
CN110842928B CN110842928B (zh) 2022-02-22

Family

ID=69607796

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911225526.9A Active CN110842928B (zh) 2019-12-04 2019-12-04 一种复合机器人视觉引导定位方法

Country Status (1)

Country Link
CN (1) CN110842928B (zh)

Cited By (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111250406A (zh) * 2020-03-16 2020-06-09 科为升视觉技术(苏州)有限公司 基于视觉定位的pcb检测流水线自动放置方法及***
CN111452038A (zh) * 2020-03-03 2020-07-28 重庆大学 一种高精度工件组件及高精度工件组件的装配方法
CN111531580A (zh) * 2020-04-27 2020-08-14 武汉工程大学 一种基于视觉的多工业机器人故障检测方法及***
CN112102289A (zh) * 2020-09-15 2020-12-18 齐鲁工业大学 一种基于机器视觉的细胞样本离心处理***及方法
CN112098137A (zh) * 2020-08-05 2020-12-18 湖南华菱涟源钢铁有限公司 钢板自动取样方法及钢板自动取样***
CN112208113A (zh) * 2020-08-13 2021-01-12 苏州赛米维尔智能装备有限公司 一种基于视觉引导的导热棉自动贴附装置及其贴附方法
CN112357707A (zh) * 2020-10-21 2021-02-12 日立楼宇技术(广州)有限公司 一种电梯检测方法、装置、机器人及存储介质
CN112454354A (zh) * 2020-11-10 2021-03-09 中国电子工程设计院有限公司 一种工业机器人的工作方法、装置及存储介质
CN112720474A (zh) * 2020-12-21 2021-04-30 深圳市越疆科技有限公司 机器人的位姿校正方法、装置、终端设备及存储介质
CN112936265A (zh) * 2021-01-29 2021-06-11 山东莱钢永锋钢铁有限公司 一种远程调控abb机械臂的***
CN113084808A (zh) * 2021-04-02 2021-07-09 上海智能制造功能平台有限公司 一种基于单目视觉的移动机械臂2d平面抓取方法
CN113211431A (zh) * 2021-04-16 2021-08-06 中铁第一勘察设计院集团有限公司 基于二维码修正机器人***的位姿估计方法
CN113370203A (zh) * 2020-03-10 2021-09-10 固高科技(深圳)有限公司 机器人控制方法、装置、计算机设备及存储介质
CN113524259A (zh) * 2021-05-18 2021-10-22 北京奔驰汽车有限公司 机器人运行精度测量***
CN113526125A (zh) * 2021-07-28 2021-10-22 齐鲁工业大学 一种基于多标签定位的细胞标本样片搬运***及方法
CN113777336A (zh) * 2021-09-08 2021-12-10 广州赛特智能科技有限公司 一种生物标本的自动化检测***及方法
CN113799140A (zh) * 2021-10-14 2021-12-17 友上智能科技(苏州)有限公司 一种应用在复合机器人上的飞行视觉定位取料方法
CN113843798A (zh) * 2021-10-11 2021-12-28 深圳先进技术研究院 一种移动机器人抓取定位误差的纠正方法、***及机器人
CN113858206A (zh) * 2021-10-25 2021-12-31 联想(北京)有限公司 机器人作业控制方法、机器人和计算机可读存储介质
CN113989472A (zh) * 2021-09-30 2022-01-28 深圳先进技术研究院 一种精准抓取目标物的方法、***和设备
CN114055454A (zh) * 2021-12-15 2022-02-18 重庆远创光电科技有限公司 发动机端盖和线箱机器人视觉引导定位装置
CN114089767A (zh) * 2021-11-23 2022-02-25 成都瑞特数字科技有限责任公司 一种移动式复合机器人应用中瓶状物的定位与抓取方法
CN114252013A (zh) * 2021-12-22 2022-03-29 深圳市天昕朗科技有限公司 一种基于有线通讯模式下的agv视觉识别精准定位***
CN114310881A (zh) * 2021-12-23 2022-04-12 中国科学院自动化研究所 一种机械臂快换装置的标定方法、***及电子设备
CN114538027A (zh) * 2020-11-26 2022-05-27 合肥欣奕华智能机器股份有限公司 一种全自动视觉定位转移设备及其控制方法
CN114571494A (zh) * 2022-03-18 2022-06-03 贵州航天天马机电科技有限公司 一种基于视觉引导的多自由度通用重载吊装机械手结构
CN114589699A (zh) * 2021-07-09 2022-06-07 株式会社不二越 机器人视觉***
CN114643599A (zh) * 2020-12-18 2022-06-21 沈阳新松机器人自动化股份有限公司 一种基于点激光和面阵相机的三维机器视觉***及方法
CN114842089A (zh) * 2022-03-29 2022-08-02 国营芜湖机械厂 一种电传操纵计算机电位计自动调制方法
CN114833872A (zh) * 2022-07-04 2022-08-02 苏州亿迈视光电科技有限公司 一种基于图像识别作为引导信息的机械臂
CN114920000A (zh) * 2022-04-22 2022-08-19 歌尔科技有限公司 搬运装置、机械设备以及搬运装置的控制方法
CN115122331A (zh) * 2022-07-04 2022-09-30 中冶赛迪工程技术股份有限公司 工件抓取方法及装置
CN115319737A (zh) * 2022-07-12 2022-11-11 广州里工实业有限公司 一种自动化上下料控制方法、***、装置及存储介质
CN115450447A (zh) * 2021-06-08 2022-12-09 广东博智林机器人有限公司 交互***、砌砖装置、砌砖机械手及砌砖定位方法
WO2023024961A1 (zh) * 2021-08-26 2023-03-02 深圳市海柔创新科技有限公司 传感器装置的补偿参数生成方法及设备
CN115847492A (zh) * 2023-02-16 2023-03-28 安徽天创智诚科技有限公司 一种工业机器人视觉传感器测量装置
CN116135492A (zh) * 2023-04-20 2023-05-19 成都盛锴科技有限公司 一种轨道车辆车门自动拆装装置及方法
CN116587283A (zh) * 2023-06-16 2023-08-15 南方电网电力科技股份有限公司 一种机械臂控制零点标定方法及相关装置
CN117549338A (zh) * 2024-01-09 2024-02-13 北京李尔现代坦迪斯汽车***有限公司 一种用于汽车坐垫生产车间的抓取机器人

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3398729A1 (de) * 2017-05-05 2018-11-07 Robert Bosch GmbH Einrichtung, vorrichtung und verfahren zum betrieb von autonomen, mit kleinladungsträgern beladbaren transportfahrzeugen
CN109131630A (zh) * 2018-08-28 2019-01-04 中科新松有限公司 一种复合机器人和复合机器人的控制方法
CN109129445A (zh) * 2018-09-29 2019-01-04 先临三维科技股份有限公司 机械臂的手眼标定方法、标定板、装置、设备和存储介质
CN109848994A (zh) * 2019-02-22 2019-06-07 浙江启成智能科技有限公司 一种机器人视觉引导定位算法
US20190188632A1 (en) * 2013-07-25 2019-06-20 IAM Robotics, LLC System and method for piece picking or put-away with a mobile manipulation robot

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190188632A1 (en) * 2013-07-25 2019-06-20 IAM Robotics, LLC System and method for piece picking or put-away with a mobile manipulation robot
EP3398729A1 (de) * 2017-05-05 2018-11-07 Robert Bosch GmbH Einrichtung, vorrichtung und verfahren zum betrieb von autonomen, mit kleinladungsträgern beladbaren transportfahrzeugen
CN109131630A (zh) * 2018-08-28 2019-01-04 中科新松有限公司 一种复合机器人和复合机器人的控制方法
CN109129445A (zh) * 2018-09-29 2019-01-04 先临三维科技股份有限公司 机械臂的手眼标定方法、标定板、装置、设备和存储介质
CN109848994A (zh) * 2019-02-22 2019-06-07 浙江启成智能科技有限公司 一种机器人视觉引导定位算法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
卢海军: "基于视觉引导的机械臂抓取***研究", 《中国优秀硕士学位论文全文库信息科技辑2019年第8期》 *

Cited By (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111452038A (zh) * 2020-03-03 2020-07-28 重庆大学 一种高精度工件组件及高精度工件组件的装配方法
CN113370203A (zh) * 2020-03-10 2021-09-10 固高科技(深圳)有限公司 机器人控制方法、装置、计算机设备及存储介质
CN111250406B (zh) * 2020-03-16 2023-11-14 科为升视觉技术(苏州)有限公司 基于视觉定位的pcb检测流水线自动放置方法及***
CN111250406A (zh) * 2020-03-16 2020-06-09 科为升视觉技术(苏州)有限公司 基于视觉定位的pcb检测流水线自动放置方法及***
CN111531580B (zh) * 2020-04-27 2023-02-07 武汉工程大学 一种基于视觉的多工业机器人故障检测方法及***
CN111531580A (zh) * 2020-04-27 2020-08-14 武汉工程大学 一种基于视觉的多工业机器人故障检测方法及***
CN112098137A (zh) * 2020-08-05 2020-12-18 湖南华菱涟源钢铁有限公司 钢板自动取样方法及钢板自动取样***
CN112208113B (zh) * 2020-08-13 2022-09-06 苏州赛米维尔智能装备有限公司 一种基于视觉引导的导热棉自动贴附装置及其贴附方法
CN112208113A (zh) * 2020-08-13 2021-01-12 苏州赛米维尔智能装备有限公司 一种基于视觉引导的导热棉自动贴附装置及其贴附方法
CN112102289A (zh) * 2020-09-15 2020-12-18 齐鲁工业大学 一种基于机器视觉的细胞样本离心处理***及方法
CN112357707A (zh) * 2020-10-21 2021-02-12 日立楼宇技术(广州)有限公司 一种电梯检测方法、装置、机器人及存储介质
CN112454354B (zh) * 2020-11-10 2022-05-03 中国电子工程设计院有限公司 一种工业机器人的工作方法、装置及存储介质
CN112454354A (zh) * 2020-11-10 2021-03-09 中国电子工程设计院有限公司 一种工业机器人的工作方法、装置及存储介质
CN114538027A (zh) * 2020-11-26 2022-05-27 合肥欣奕华智能机器股份有限公司 一种全自动视觉定位转移设备及其控制方法
CN114643599A (zh) * 2020-12-18 2022-06-21 沈阳新松机器人自动化股份有限公司 一种基于点激光和面阵相机的三维机器视觉***及方法
CN112720474A (zh) * 2020-12-21 2021-04-30 深圳市越疆科技有限公司 机器人的位姿校正方法、装置、终端设备及存储介质
CN112936265B (zh) * 2021-01-29 2022-09-20 山东莱钢永锋钢铁有限公司 一种远程调控abb机械臂的***
CN112936265A (zh) * 2021-01-29 2021-06-11 山东莱钢永锋钢铁有限公司 一种远程调控abb机械臂的***
CN113084808A (zh) * 2021-04-02 2021-07-09 上海智能制造功能平台有限公司 一种基于单目视觉的移动机械臂2d平面抓取方法
CN113084808B (zh) * 2021-04-02 2023-09-22 上海智能制造功能平台有限公司 一种基于单目视觉的移动机械臂2d平面抓取方法
CN113211431B (zh) * 2021-04-16 2022-07-01 中铁第一勘察设计院集团有限公司 基于二维码修正机器人***的位姿估计方法
CN113211431A (zh) * 2021-04-16 2021-08-06 中铁第一勘察设计院集团有限公司 基于二维码修正机器人***的位姿估计方法
CN113524259A (zh) * 2021-05-18 2021-10-22 北京奔驰汽车有限公司 机器人运行精度测量***
CN115450447A (zh) * 2021-06-08 2022-12-09 广东博智林机器人有限公司 交互***、砌砖装置、砌砖机械手及砌砖定位方法
CN115450447B (zh) * 2021-06-08 2024-05-31 广东博智林机器人有限公司 交互***、砌砖装置、砌砖机械手及砌砖定位方法
CN114589699A (zh) * 2021-07-09 2022-06-07 株式会社不二越 机器人视觉***
CN113526125A (zh) * 2021-07-28 2021-10-22 齐鲁工业大学 一种基于多标签定位的细胞标本样片搬运***及方法
CN113526125B (zh) * 2021-07-28 2022-11-22 齐鲁工业大学 一种基于多标签定位的细胞标本样片搬运***及方法
WO2023024961A1 (zh) * 2021-08-26 2023-03-02 深圳市海柔创新科技有限公司 传感器装置的补偿参数生成方法及设备
CN113777336A (zh) * 2021-09-08 2021-12-10 广州赛特智能科技有限公司 一种生物标本的自动化检测***及方法
CN113777336B (zh) * 2021-09-08 2023-08-04 广州赛特智能科技有限公司 一种生物标本的自动化检测***及方法
CN113989472A (zh) * 2021-09-30 2022-01-28 深圳先进技术研究院 一种精准抓取目标物的方法、***和设备
CN113843798A (zh) * 2021-10-11 2021-12-28 深圳先进技术研究院 一种移动机器人抓取定位误差的纠正方法、***及机器人
CN113799140A (zh) * 2021-10-14 2021-12-17 友上智能科技(苏州)有限公司 一种应用在复合机器人上的飞行视觉定位取料方法
CN113858206A (zh) * 2021-10-25 2021-12-31 联想(北京)有限公司 机器人作业控制方法、机器人和计算机可读存储介质
CN114089767B (zh) * 2021-11-23 2024-03-26 成都瑞特数字科技有限责任公司 一种移动式复合机器人应用中瓶状物的定位与抓取方法
CN114089767A (zh) * 2021-11-23 2022-02-25 成都瑞特数字科技有限责任公司 一种移动式复合机器人应用中瓶状物的定位与抓取方法
CN114055454B (zh) * 2021-12-15 2023-07-14 重庆远创光电科技有限公司 发动机端盖和线箱机器人视觉引导定位装置
CN114055454A (zh) * 2021-12-15 2022-02-18 重庆远创光电科技有限公司 发动机端盖和线箱机器人视觉引导定位装置
CN114252013B (zh) * 2021-12-22 2024-03-22 深圳市天昕朗科技有限公司 一种基于有线通讯模式下的agv视觉识别精准定位***
CN114252013A (zh) * 2021-12-22 2022-03-29 深圳市天昕朗科技有限公司 一种基于有线通讯模式下的agv视觉识别精准定位***
CN114310881A (zh) * 2021-12-23 2022-04-12 中国科学院自动化研究所 一种机械臂快换装置的标定方法、***及电子设备
CN114571494A (zh) * 2022-03-18 2022-06-03 贵州航天天马机电科技有限公司 一种基于视觉引导的多自由度通用重载吊装机械手结构
CN114842089B (zh) * 2022-03-29 2024-03-15 国营芜湖机械厂 一种电传操纵计算机电位计自动调制方法
CN114842089A (zh) * 2022-03-29 2022-08-02 国营芜湖机械厂 一种电传操纵计算机电位计自动调制方法
CN114920000A (zh) * 2022-04-22 2022-08-19 歌尔科技有限公司 搬运装置、机械设备以及搬运装置的控制方法
CN114833872B (zh) * 2022-07-04 2022-09-27 苏州亿迈视光电科技有限公司 一种基于图像识别作为引导信息的机械臂
CN114833872A (zh) * 2022-07-04 2022-08-02 苏州亿迈视光电科技有限公司 一种基于图像识别作为引导信息的机械臂
CN115122331A (zh) * 2022-07-04 2022-09-30 中冶赛迪工程技术股份有限公司 工件抓取方法及装置
CN115319737A (zh) * 2022-07-12 2022-11-11 广州里工实业有限公司 一种自动化上下料控制方法、***、装置及存储介质
CN115847492A (zh) * 2023-02-16 2023-03-28 安徽天创智诚科技有限公司 一种工业机器人视觉传感器测量装置
CN115847492B (zh) * 2023-02-16 2024-04-26 三维信技测量技术(苏州)有限公司 一种工业机器人视觉传感器测量装置
CN116135492B (zh) * 2023-04-20 2023-09-05 成都盛锴科技有限公司 一种轨道车辆车门自动拆装装置及方法
CN116135492A (zh) * 2023-04-20 2023-05-19 成都盛锴科技有限公司 一种轨道车辆车门自动拆装装置及方法
CN116587283A (zh) * 2023-06-16 2023-08-15 南方电网电力科技股份有限公司 一种机械臂控制零点标定方法及相关装置
CN117549338A (zh) * 2024-01-09 2024-02-13 北京李尔现代坦迪斯汽车***有限公司 一种用于汽车坐垫生产车间的抓取机器人
CN117549338B (zh) * 2024-01-09 2024-03-29 北京李尔现代坦迪斯汽车***有限公司 一种用于汽车坐垫生产车间的抓取机器人

Also Published As

Publication number Publication date
CN110842928B (zh) 2022-02-22

Similar Documents

Publication Publication Date Title
CN110842928B (zh) 一种复合机器人视觉引导定位方法
CA2710669C (en) Method and system for the high-precision positioning of at least one object in a final location in space
CN111127568B (zh) 一种基于空间点位信息的相机位姿标定方法
JP6855492B2 (ja) ロボットシステム、ロボットシステム制御装置、およびロボットシステム制御方法
EP1488893A2 (en) Connector gripping device, connector inspection system comprising the device, and connector connection system
US20220314455A1 (en) Production system
US20110071675A1 (en) Visual perception system and method for a humanoid robot
JP2019093481A (ja) ロボットシステム及びロボットシステムの制御方法
US20220331970A1 (en) Robot-mounted moving device, system, and machine tool
JP2021049607A (ja) ロボットに支持された部材の位置を調整するロボット装置の制御装置
JP2019195885A (ja) 制御装置およびロボットシステム
CN112247525A (zh) 一种基于视觉定位智能组装***
CN114770461B (zh) 一种基于单目视觉的移动机器人及其自动抓取方法
US20230123629A1 (en) 3d computer-vision system with variable spatial resolution
JP2016203282A (ja) エンドエフェクタの姿勢変更機構を備えたロボット
WO2023013740A1 (ja) ロボット制御装置、ロボット制御システム、及びロボット制御方法
WO2022075303A1 (ja) ロボットシステム
CN115409878A (zh) 一种工件整理归位的ai算法
CN114643577B (zh) 一种通用型机器人视觉自动标定装置和方法
JPH06218682A (ja) 組立用ロボット
US20220134577A1 (en) Image processing method, image processing apparatus, robot-mounted transfer device, and system
JP6832408B1 (ja) 生産システム
JP2022530589A (ja) ロボット搭載移動装置、システム及び工作機械
Song et al. Global visual servoing of miniature mobile robot inside a micro-assembly station
JP2024068115A (ja) ロボット搭載移動装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: A Vision-Guided Localization Method for Composite Robots

Effective date of registration: 20220826

Granted publication date: 20220222

Pledgee: Industrial and Commercial Bank of China Limited Shanghai pilot Free Trade Zone New Area Branch

Pledgor: SIASUN Co.,Ltd.

Registration number: Y2022310000204

PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20221227

Granted publication date: 20220222

Pledgee: Industrial and Commercial Bank of China Limited Shanghai pilot Free Trade Zone New Area Branch

Pledgor: SIASUN Co.,Ltd.

Registration number: Y2022310000204

PC01 Cancellation of the registration of the contract for pledge of patent right
TR01 Transfer of patent right

Effective date of registration: 20230316

Address after: 201306 No. 299, Xueyang Road, Lingang New District, pilot Free Trade Zone, Pudong New Area, Shanghai

Patentee after: SHANGHAI XINSONG ROBOT CO.,LTD.

Address before: Room 101, 201, West, building 11, No. 351 jinzang Road, Pudong New Area, Shanghai

Patentee before: SIASUN Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20231023

Address after: 201206 rooms 101 and 201, west of building 11, 351 jinzang Road, China (Shanghai) pilot Free Trade Zone, Pudong New Area, Shanghai

Patentee after: SIASUN Co.,Ltd.

Address before: 201306 No. 299, Xueyang Road, Lingang New District, pilot Free Trade Zone, Pudong New Area, Shanghai

Patentee before: SHANGHAI XINSONG ROBOT CO.,LTD.

TR01 Transfer of patent right