CN113579476B - 基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置及方法 - Google Patents

基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置及方法 Download PDF

Info

Publication number
CN113579476B
CN113579476B CN202110982716.6A CN202110982716A CN113579476B CN 113579476 B CN113579476 B CN 113579476B CN 202110982716 A CN202110982716 A CN 202110982716A CN 113579476 B CN113579476 B CN 113579476B
Authority
CN
China
Prior art keywords
welding gun
central axis
workpiece
welded
laser
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110982716.6A
Other languages
English (en)
Other versions
CN113579476A (zh
Inventor
朱志明
朱传辉
张天一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN202110982716.6A priority Critical patent/CN113579476B/zh
Publication of CN113579476A publication Critical patent/CN113579476A/zh
Application granted granted Critical
Publication of CN113579476B publication Critical patent/CN113579476B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K26/00Working by laser beam, e.g. welding, cutting or boring
    • B23K26/20Bonding
    • B23K26/21Bonding by welding
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K26/00Working by laser beam, e.g. welding, cutting or boring
    • B23K26/08Devices involving relative movement between laser beam and workpiece
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • B25J11/005Manipulators for mechanical processing tasks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Robotics (AREA)
  • Plasma & Fusion (AREA)
  • Laser Beam Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

本申请提出一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置和方法。方法包括,在焊接过程中,装置向待焊工件表面投射组合激光线,利用相机拍摄获取组合激光线图像,对图像进行处理,提取激光线特征值,利用焊枪相对于待焊工件表面的空间位姿检测算法,获取焊枪相对于待焊工件表面的相对空间位姿,重力感应装置检测并获取焊枪相对于重力加速度方向的绝对空间姿态,融合获取的两个空间姿态,通过坐标变换,计算出待焊工件表面的绝对空间姿态。可实现对焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位姿进行符合对应待焊工件相对于重力加速度方向的绝对空间姿态的适应性实时调整与控制,达到更好的焊缝成形质量控制效果。

Description

基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态 检测装置及方法
技术领域
本发明涉及焊接机器人设备技术及视觉传感领域,特别涉及一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置及方法。
背景技术
焊接是现代制造业不可或缺且应用广泛的金属构件成形制造技术,计算机与机器人技术的飞速发展使焊接制造的自动化与智能化水平日益提高。检测与控制是焊接自动化技术的核心,也是实现智能化焊接的基础。其中,检测***用于获取影响焊缝成形质量的关键信息,控制***用于调整和控制焊接运动轨迹及焊枪相对于焊接接头(坡口、焊缝)的相对位置和姿态、保障焊缝成形质量。因此,提升检测***所获取信息的全面性,是进一步提高焊接自动化与智能化程度、控制焊缝成形质量的有效途径。
对于金属结构件的空间位置焊接,除了焊接电流与电弧电压外,焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位置与姿态对焊缝成形质量也有重要影响。焊接工艺中,焊枪相对于待焊工件焊接接头(坡口、焊缝)的前后倾角与左右摆角通常由待焊工件焊接接头(坡口、焊缝)的绝对空间姿态决定,在平焊、立焊与横焊等不同的待焊工件焊接接头(坡口、焊缝)绝对空间姿态工况下,保障焊缝成形质量所需的焊枪相对于待焊工件焊接接头(坡口、焊缝)的前后倾角与左右摆角是不同的。例如,在立焊工艺中,在焊枪沿待焊工件焊接接头(坡口、焊缝)行进的过程中,焊枪需前倾(立向下焊)或后倾(立向上焊)15-30°;在横焊工艺中,在焊枪沿待焊工件焊接接头(坡口、焊缝)行进的过程中,焊枪需朝向重力加速度方向摆动10-15°。对于任意绝对空间姿态的待焊工件焊接接头(坡口、焊缝),在焊枪沿待焊工件焊接接头(坡口、焊缝)行进的过程中,则需要根据待焊工件焊接接头(坡口、焊缝)的绝对空间姿态,对焊枪相对于待焊工件焊接接头(坡口、焊缝)的前后倾角与左右摆角进行合理调整和控制。因此,为了实现对焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位置和姿态的实时调整和控制,对待焊工件焊接接头(坡口、焊缝)所在平面的绝对空间姿态实施在线检测至关重要。
经过对现有技术的文献检索发现,许燕玲在博士论文“基于视觉及电弧传感技术的机器人GTAW三维焊缝实时跟踪控制技术研究”中,利用被动视觉获取电弧相对于焊接接头(坡口、焊缝)的左右偏差,依靠电弧传感检测电弧长度,通过视觉传感与电弧传感相结合的方法,实现了焊枪相对于工件待焊点的相对空间位置和姿态实时检测;戚玉涵在博士论文“空间焊缝视觉测量与跟踪控制”中,针对空间焊缝,提出了一种定距插值算法,在通过激光结构光视觉传感及定距插值算法获取焊接接头(坡口、焊缝)插补点位置坐标后,以更高的精度求取出机器人基坐标系下的焊接路径点三维坐标,实现了焊接机器人的空间运动轨迹规划,进而实现了全位置空间焊接。但这些关于焊枪空间位置和姿态的研究,都仅仅关注于已知待焊工件焊接接头(坡口、焊缝)所在平面相对于重力加速度方向的绝对空间姿态时的焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位置和姿态的检测、调整和控制,并未研究未知待焊工件焊接接头(坡口、焊缝)所在平面相对于重力加速度方向的绝对空间姿态的在线实时检测,也未实现未知待焊工件焊接接头(坡口、焊缝)所在平面相对于重力加速度方向的绝对空间姿态时的焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位置和姿态的适应性实时调整与控制,因此,也就未能达到对未知待焊工件焊接接头(坡口、焊缝)所在平面相对于重力加速度方向的绝对空间姿态时的焊缝成形质量的最有效控制,焊缝成形质量尚有进一步优化和提高空间。
现有技术公开了一种弧焊机器人焊缝跟踪姿态调整方法(CN108817614A)及一种无轨移动式焊接机器人的精密定位方法(CN105729008A),此2项专利都专注于已知待焊工件焊接接头(坡口、焊缝)所在平面相对于重力加速度方向的绝对空间姿态时的焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位置与姿态的检测、调整和控制,但并不具备检测焊枪与待焊工件焊接接头(坡口、焊缝)所在平面相对于重力加速度方向的绝对空间姿态的功能。
通过对现有技术的检索可以发现,目前并无可实际应用的成熟的待焊工件绝对空间姿态检测技术,故需要一种可以针对待焊工件的绝对空间姿态检测的方法。
发明内容
本发明旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本发明的第一个目的在于提出一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置,根据视觉成像原理与重力感应原理,实现焊前或焊接过程中的待焊工件上表面相对于重力加速度方向的绝对空间姿态检测。
本发明的第二个目的在于提出一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测方法。
为达上述目的,本发明第一方面实施例提出了一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置,包括:
焊枪固连架,所述焊枪固连架与焊枪相连;
激光发射器组件,所述激光发射器组件通过激光发射器固定座连接在所述焊枪固连架上,用于向待焊工件上表面及焊接接头投射组合激光线;
相机,所述相机与所述焊枪固连架相连,用于在焊接过程中实时拍摄图像;
重力感应装置,所述重力感应装置通过重力感应装置支撑架连接在所述焊枪固连架上,用于检测所述焊枪的中轴线相对于重力加速度方向的两个夹角分量,以实时感知所述焊枪相对于所述重力加速度方向的绝对空间姿态。
另外,本发明第一方面实施例提出的待焊工件表面绝对空间姿态检测装置还具有以下附加的技术特征:
进一步地,在本发明的一个实施例中,所述用于在焊接过程中实时拍摄图像,包括:
采用所述相机获取包含所述激光发射器组件投射在所述待焊工件上表面及焊接接头的组合激光线的焊接接头图像。
进一步地,在本发明的一个实施例中,该装置还包括:镜头,所述镜头设在所述相机的前端,用于调节所述相机的光学参数。
进一步地,在本发明的一个实施例中,该装置还包括:滤光***,所述滤光***设在所述镜头前端用于滤除弧光与自然光。
进一步地,在本发明的一个实施例中,该装置还包括:防飞溅板,所述防飞溅板设在所述焊枪的末端与所述镜头和所述滤光***之间,用于保护所述镜头、滤光***和激光发射器组件不受焊接飞溅污染。
进一步地,在本发明的一个实施例中,所述激光发射器组件包括:第一激光发射器、第二激光发射器与第三激光发射器,其中,
所述第一激光发射器、所述第二激光发射器与所述第三激光发射器依次设于所述相机的焊接前进方向上;
所述第一激光发射器的中轴线、所述第二激光发射器的中轴线与所述第三激光发射器的中轴线平行,均位于所述焊枪的中轴线、所述相机的光学中轴线所构成的平面内,且与所述焊枪的中轴线之间的夹角为θ,θ满足关系式25°≤θ≤35°;
所述第一激光发射器的激光投射面与所述第二激光发射器的激光投射面平行,且与所述焊枪的中轴线、所述相机的光学中轴线所构成的平面垂直;
所述第三激光发射器的激光投射面与所述焊枪的中轴线、所述相机的光学中轴线所构成的平面重合,且与所述第一激光发射器的激光投射面和所述第二激光发射器的激光投射面垂直。
进一步地,在本发明的一个实施例中,所述重力感应装置包括两个安装平面:底面和侧面,其中,
所述重力感应装置的安装底面与所述焊枪的中轴线垂直;
所述重力感应装置的安装侧面与所述焊枪的中轴线和所述相机的光学中轴线所构成的平面垂直。
进一步地,在本发明的一个实施例中,所述检测所述焊枪的中轴线相对于重力加速度方向的两个夹角分量,以实时感知所述焊枪相对于所述重力加速度方向的绝对空间姿态,包括:
所述焊枪的中轴线与所述重力加速度方向间的两个夹角分量,分别为与所述焊枪的中轴线、所述相机的光学中轴线所构成的平面平行的焊枪前后倾角,以及与所述焊枪的中轴线、所述相机的光学中轴线所构成的平面垂直的焊枪左右摆角。
本发明实施例的基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置,通过焊枪固连架与焊枪相连;激光发射器组件,通过激光发射器固定座连接在焊枪固连架上,用于向待焊工件上表面及焊接接头投射组合激光线;相机,与焊枪固连架相连,用于在焊接过程中实时拍摄图像;重力感应装置,通过重力感应装置支撑架连接在焊枪固连架上,用于检测焊枪的中轴线相对于重力加速度方向的两个夹角分量。本发明用此装置在实际焊接工况中进行了应用,有效检测出了待焊工件相对于重力加速度方向的绝对空间姿态,从而实现了对焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位姿进行符合对应待焊工件相对于重力加速度方向的绝对空间姿态的适应性实时调整与控制,达到了更好的焊缝成形质量控制效果。
为达上述目的,本发明第二方面实施例提出了一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测方法,包括以下步骤:
在焊接过程中,向待焊工件上表面及焊接接头投射组合激光线;
利用相机拍摄,获取组合激光线图像;
对所述图像进行处理,提取激光线特征值,根据所提取的图像特征值以及焊枪相对待焊工件(焊接接头)的空间位姿检测算法,获取所述焊枪相对于所述待焊工件上表面的相对空间位姿;
根据重力感应装置检测并获取所述焊枪相对于重力加速度方向的绝对空间姿态;
融合获取的所述焊枪相对于所述待焊工件上表面的相对空间位姿和所述焊枪相对于重力加速度方向的绝对空间姿态,根据坐标变换,计算出所述待焊工件上表面相对于所述重力加速度方向的绝对空间姿态。
进一步地,在本发明的一个实施例中,所述焊枪相对于所述待焊工件上表面的相对空间位姿,包括:所述焊枪相对于所述待焊工件上表面的沿所述焊枪前进方向的前后倾角、垂直于所述焊枪前进方向的左右摆角以及所述焊枪导电嘴末端沿所述焊枪中轴线至所述待焊工件上表面间的距离;
所述待焊工件上表面相对于所述重力加速度方向的绝对空间姿态,包括:所述待焊工件上表面法线与所述重力加速度方向间的两个夹角分量,分别为与所述焊枪的中轴线和所述相机的光学中轴线所构成的平面平行方向的所述待焊工件上表面法线与所述重力加速度方向间的夹角,以及与所述焊枪的中轴线和所述相机的光学中轴线所构成的平面垂直方向的所述待焊工件上表面法线与所述重力加速度方向间的夹角。
本发明实施例的基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测方法,通过在焊接过程中向待焊工件上表面及焊接接头投射组合激光线,利用相机拍摄,获取组合激光线图像,对图像进行处理并提取激光线特征值,根据所提取的图像特征值以及焊枪相对待焊工件的空间位姿检测算法,获取焊枪相对于待焊工件上表面的相对空间位姿,根据重力感应装置检测并获取焊枪相对于重力加速度方向的绝对空间姿态,融合获取的焊枪相对于待焊工件上表面的相对空间位姿和焊枪相对于重力加速度方向的绝对空间姿态,根据坐标变换,计算出待焊工件上表面相对于重力加速度方向的绝对空间姿态。该方法有效检测出了待焊工件相对于重力加速度方向的绝对空间姿态,从而可实现对焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位姿进行符合对应待焊工件相对于重力加速度方向的绝对空间姿态的适应性实时调整与控制,达到了更好的焊缝成形质量控制效果。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1是根据本发明一个实施例的基于重力感应与视觉传感融合的复合传感器示意图;
图2是根据本发明一个实施例的焊枪相对于待焊工件上表面的相对空间位置和姿态示意图;
图3是根据本发明一个实施例的组合激光线光路与成像示意图;
图4是根据本发明一个实施例的横截面的几何关系示意图;
图5是根据本发明一个实施例的待焊工件上表面的组合激光线分布图;
图6是根据本发明一个实施例的相机视野内的组合激光线分布图;
图7是根据本发明一个实施例的控制焊枪倾角和摆角的两个旋转电机的安装顺序示意图;
图8是根据本发明一个实施例的基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测方法流程图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置和方法。
本申请实施例的基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置根据视觉成像原理与重力感应原理,实现焊前或焊接过程中的待焊工件上表面相对于重力加速度方向的绝对空间姿态检测。
图1为本发明实施例所提供的一种基于重力感应与视觉传感融合的复合传感器示意图。
如图1所示,该装置包括:焊枪固连架110、激光发射器组件固定座120、工业CCD相机130、激光发射器组件150、重力感应装置支撑架180、重力感应装置190、焊枪200。
其中,焊枪固连架110与焊枪200相连。激光发射器组件150通过激光发射器固定座120连接在焊枪固连架110上,用于向待焊工件上表面及焊接接头投射组合激光线。工业CCD相机130与焊枪固连架110相连,用于在焊接过程中实时拍摄图像。重力感应装置190通过重力感应装置支撑架180连接在焊枪固连架110上,用于检测焊枪200的中轴线相对于重力加速度方向的两个夹角分量,以实时感知焊枪200相对于重力加速度方向的绝对空间姿态。
进一步地,该装置还包括:工业镜头140,设在工业CCD相机130的前端以调节工业CCD相机130的焦距等光学参数。
可以理解的是,工业CCD相机130采用大恒MER-200工业相机,工业镜头140采用VST6mm焦距工业镜头,焦距可微调。工业CCD相机130所搭载的控制程序,可详细调节曝光时间、曝光度等多项光学参数。由此可应用于多种工作环境下。
本发明实施例的,激光发射器组件150包括3个一字线激光发射器;3个一字线激光发射器可投射出3个激光平面,产生2个十字交叉,并在待焊工件上表面及焊接接头(坡口、焊缝)形成相交的组合激光线。
可选地,激光发射器组件150的每一个一字线激光发射器,额定功率为100mW,激光波长为660nm,可调焦;配合旋钮控制开关可手动调节激光发射器的输出功率,进而调节投射在待焊工件上表面及焊接接头(坡口、焊缝)的激光线亮度。
有利地,激光发射器组件150采用光学镀膜玻璃透镜,增加透射率,减少投射在待焊工件上表面及焊接接头(坡口、焊缝)的激光线亮度衰减。
具体地,激光发射器组件150包括第一激光发射器151、第二激光发射器152、第三激光发射器153。第一激光发射器151的投射激光面S1与第二激光发射器152的投射激光面S2平行,与第三激光发射器153的投射激光面S3垂直。
在本发明的一些具体的实施例中,第一激光发射器151投射在待焊工件上表面及焊接接头(坡口、焊缝)的第一激光线L1、第二激光发射器152投射在待焊工件上表面及焊接接头(坡口、焊缝)的第二激光线L2与焊接接头(坡口、焊缝)的走向垂直,第三激光发射器153投射在待焊工件上表面及焊接接头(坡口、焊缝)的第三激光线L3与焊接接头(坡口、焊缝)的中心线平行或重合。由此,第三激光发射器153投射在待焊工件上表面及焊接接头(坡口、焊缝)的第三激光线L3与第一激光发射器151投射在待焊工件上表面及焊接接头(坡口、焊缝)的第一激光线L1、第二激光发射器152投射在待焊工件上表面及焊接接头(坡口、焊缝)的第二激光线L2分别在待焊工件上表面及焊接接头(坡口、焊缝)形成相交的组合激光线。
激光发射器组件150的第一激光发射器151、第二激光发射器152和第三激光发射器153连接在激光发射器固定座120上,进而与焊枪200的中轴线或工业CCD相机130的光学中轴线形成固定夹角θ。
需要补充说明的是,在本发明的实施例中,在满足第三投射激光面S3与第一投射激光面S1、第二投射激光面S2垂直的前提下,第三激光发射器153的中轴线不需要与第一激光发射器151的中轴线、第二激光发射器152的中轴线严格平行。
本发明实施例的,重力感应装置190通过重力感应装置支撑架180连接在焊枪固连架110上,用于检测焊枪200的中轴线相对于重力加速度方向的夹角。
可选地,重力感应装置190选用型号为无锡慧联LIS326的双轴倾角传感器,安装底面与焊枪200的中轴线垂直,安装侧面与焊枪200的中轴线、工业CCD相机130的光学中轴线所构成的平面垂直。有利地,重力感应装置190可检测焊枪200的中轴线与重力加速度方向的夹角,该夹角被分解为相互垂直的两个方向上的两个分量,分别为与焊枪200的中轴线和工业CCD相机130的光学中轴线所构成的平面平行的焊枪前后倾角、与焊枪200的中轴线和工业CCD相机130的光学中轴线所构成的平面垂直的焊枪左右摆角。
在本发明的实施例中,在焊枪200的前进方向上,依次设置工业CCD相机130、第一激光发射器151、第二激光发射器152、第三激光发射器153。可以理解的是,工业CCD相机130、第一激光发射器151、第二激光发射器152、第三激光发射器153均位于焊枪200的前进方向上。由此,工业CCD相机130可以拍摄待焊接侧的包含激光发射器组件150投射至待焊工件上表面及焊接接头(坡口、焊缝)的组合激光线的焊接接头(坡口、焊缝)图像。
可选地,重力感应装置190设置于焊枪200的前进方向的反方向上。
在本发明的实施例中,工业CCD相机130的光学中轴线、工业镜头140的光学中轴线与焊枪200的中轴线相互平行。在采用检测算法计算求解焊枪相对于待焊工件上表面的空间位置和姿态参数时,工业CCD相机130的光学中轴线、工业镜头140的光学中轴线与焊枪200的中轴线相平行有利于简化检测算法,降低检测算法的复杂度。当然,工业CCD相机130的光学中轴线、工业镜头140的光学中轴线与焊枪200的中轴线也可以不平行。
本发明实施例的检测装置在安装过程中,需要注意的安装细节如下:
(1)待焊工件绝对空间姿态检测装置组装时,确保工业CCD相机130的光学中轴线与工业镜头140的光学中轴线共轴;确保焊枪200的中轴线、工业CCD相机130的光学中轴线、工业镜头140的光学中轴线、第一激光发射器151的中轴线、第二激光发射器152的中轴线、第三激光发射器153的中轴线共面。
(2)待焊工件绝对空间姿态检测装置组装时,确保第一激光发射器151的中轴线与第二激光发射器152的中轴线平行,确定焊枪200的中轴线与工业CCD相机130的光学中轴线之间的距离D0,工业CCD相机130的焦点至第一激光发射器151的中轴线的距离D1,第一激光发射器151的中轴线至第二激光发射器152的中轴线的距离D2,以及第一激光发射器151的中轴线、第二激光发射器152的中轴线与工业CCD相机130的光学中轴线之间的夹角θ,工业CCD相机130的焦点至过焊枪200的导电嘴末端的垂直于焊枪200的中轴线的平面的垂直距离H0。
(3)待焊工件绝对空间姿态检测装置组装时,确保重力感应装置190的安装底面与焊枪200的中轴线相互垂直,重力感应装置190的安装侧面与焊枪200的中轴线、工业CCD相机130的光学中轴线所构成的平面相互垂直。
进一步地,在本发明的一个实施例中,该检测装置还包括:滤光***160,设在工业镜头140前端,以滤除部分可能存在的弧光与自然光。
在本发明的实施例中,滤光***选用的滤光片为660±8nm的窄带滤光片。由此,配合发射波长为660nm的激光发射器组件150,可以削弱外部因素对工业CCD相机130成像的干扰。
进一步地,在本发明的一个实施例中,该检测装置还包括:防飞溅板170,设在焊枪200末端与工业镜头140之间,以保护在电弧焊接工况下的工业镜头140、滤光***160和激光发射器组件150不受焊接飞溅污染。
本发明实施例的基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置,通过焊枪固连架,与焊枪相连;激光发射器组件,通过激光发射器固定座连接在焊枪固连架上,用于向待焊工件上表面及焊接接头投射组合激光线;相机,与焊枪固连架相连,用于在焊接过程中实时拍摄图像;重力感应装置,通过重力感应装置支撑架连接在焊枪固连架上,用于检测焊枪的中轴线相对于重力加速度方向的两个夹角分量。本发明用此装置在实际焊接工况中进行了应用,有效检测出了待焊工件相对于重力加速度方向的绝对空间姿态,从而实现了对焊枪相对于待焊工件焊接接头(坡口、焊缝)的相对空间位姿进行符合对应待焊工件相对于重力加速度方向的绝对空间姿态的适应性实时调整与控制,达到了更好的焊缝成形质量控制效果。
为达上述目的,本发明第二方面实施例提出了一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测方法,包括以下步骤:
101,在焊接过程中,向待焊工件上表面及焊接接头投射组合激光线;
102,利用相机拍摄,获取组合激光线图像;
103,对图像进行处理,提取激光线特征值,根据所提取的图像特征值以及焊枪相对待焊工件(焊接接头)的空间位姿检测算法,获取焊枪相对于待焊工件上表面的相对空间位姿;
104,根据重力感应装置检测并获取焊枪相对于重力加速度方向的绝对空间姿态;
105,融合获取的焊枪相对于待焊工件上表面的相对空间位姿和焊枪相对于重力加速度方向的绝对空间姿态,根据坐标变换,计算出待焊工件上表面相对于所述重力加速度方向的绝对空间姿态。
具体地,采用工业CCD相机130可实时拍摄包含激光发射器组件150投射在待焊工件上表面及焊接接头(坡口、焊缝)的组合激光线的焊接接头(坡口、焊缝)图像,通过对CCD图像进行针对性处理,提取组合激光线的特征点图像坐标值,可计算获得焊枪200相对于待焊工件上表面的相对空间位置和姿态;然后,根据本发明实施例中的焊枪坐标系-地球坐标系间的坐标变换,可计算获得待焊工件上表面相对于重力加速度方向的绝对空间姿态。
其中,激光发射器组件150投射在待焊工件上表面及焊接接头(坡口、焊缝)的组合激光线的CCD图像特征点包括:激光发射器组件150投射在待焊工件上表面及焊接接头(坡口、焊缝)的组合激光线的交点。
具体地,根据本发明的实施例,重力感应装置190检测焊枪200的中轴线与重力加速度方向间的夹角,该夹角分解为与所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面平行的焊枪前后倾角、与所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面垂直的焊枪左右摆角两个分量;工业CCD相机130拍摄包含激光发射器组件150投射至待焊工件上表面及焊接接头(坡口、焊缝)组合激光线的焊接接头(坡口、焊缝)图像,通过对CCD图像进行针对性处理,提取组合激光线的特征点图像坐标值,配合所述焊枪200相对于待焊工件上表面的相对空间位置和姿态检测算法,可获取所述焊枪200相对于待焊工件上表面的与所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面平行的前后倾角、与所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面垂直的左右摆角以及所述焊枪200的导电嘴末端沿焊枪200的中轴线至待焊工件上表面的距离;然后,根据所述焊枪200的中轴线在所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面平行方向相对于重力加速度方向的前后倾角、在所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面垂直方向的相对于重力加速度方向的左右摆角两个分量,以及焊枪200的中轴线相对于待焊工件上表面的与所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面平行方向的前后倾角、与所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面垂直方向的左右摆角,通过焊枪坐标系-地球坐标系间的坐标变换,即可获取待焊工件上表面相对于重力加速度方向的绝对空间姿态参数,包括2个分量:与所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面平行方向的待焊工件上表面法线与重力加速度方向间的夹角、与所述焊枪200的中轴线和所述工业CCD相机130的光学中轴线所构成的平面垂直方向的待焊工件上表面法线与重力加速度方向间的夹角。
第一激光发射器151、第二激光发射器152、第三激光发射器153能够发出第一投射激光面S1、第二投射激光面S2、第三投射激光面S3。而第一投射激光面S1、第二投射激光面S2、第三投射激光面S3投射至待焊工件上表面及焊接接头(坡口、焊缝),且与待焊工件上表面及焊接接头(坡口、焊缝)相交,并在待焊工件上表面及焊接接头(坡口、焊缝)形成第一投射激光线L1、第二投射激光线L2、第三投射激光线L3。工业CCD相机130拍摄并记录投射在待焊工件上表面及焊接接头(坡口、焊缝)的组合激光线及其分布特征。
对工业CCD相机130所拍摄的图像进行针对性处理,辨识获取第一投射激光线L1和第二投射激光线L2与第三投射激光线L3的交点图像坐标值,利用本实施例的检测装置的内部结构参数和前述安装参数,由光学三角测量原理导出的焊枪200相对于待焊工件上表面的相对空间位置和姿态参数检测算法,可求出焊枪200相对于待焊工件上表面的实际空间位置和姿态参数。
下面给出根据本实施例待焊工件表面绝对空间姿态检测装置根据工业CCD相机130所拍摄的图像及对图像进行针对性处理、辨识获取的组合激光线特征点图像坐标值进行焊枪200的相对于待焊工件上表面的相对空间位置和姿态参数检测方法。
如图2所示,焊枪200相对于待焊工件上表面的相对空间位置和姿态由以下三个参数决定:焊枪200的中轴线沿焊枪前进方向的倾斜(前倾或后倾)角度(焊枪200的中轴线绕Y轴旋转)α;焊枪200的中轴线相对于焊枪前进方向的左侧或右侧的偏摆(左摆或右摆)角度β;焊枪200的导电嘴末端沿焊枪200的中轴线至焊枪200的中轴线与待焊工件上表面交点的距离l。焊枪200相对于待焊工件上表面的相对空间位置和姿态参数检测即是对这三个表征参数的检测。
焊枪200相对于待焊工件上表面的相对空间姿态,即前后倾角α和左右摆角β,会对激光发射器组件150发射出的投射激光面在待焊工件上表面及焊接接头(坡口、焊缝)形成的组合激光线产生影响,具体可表征为待焊工件上表面的三条投射激光线间的夹角发生变化。
同时,记控制焊枪前后倾角的旋转电机需转动的角度为α',控制焊枪左右摆角的旋转电机需转动的角度为β'。根据两个旋转电机的安装顺序,控制焊枪左右摆角的电机转动时,会使焊枪绕着焊枪坐标系的X轴转动,因此,β'=β。而控制焊枪前后倾角的电机转动时,会使焊枪绕着焊枪坐标系的Y轴转动,但α'不是简单地等于α。
如图4所示,横截面中的∠AOB即为α'。根据几何关系,∠AOB的对边长度为x1,直角的临边长度为
Figure BDA0003229727990000111
可得,α'的正切值为:
Figure BDA0003229727990000112
即需要使控制焊枪前后倾角的电机转动角α'满足式(1),方可使焊枪的前倾角度为α。
根据立体几何与空间投影规则可以得出,第一投射激光线L1与第二投射激光线L2永远平行,且与第三投射激光线L3之间的夹角
Figure BDA0003229727990000114
的余切值为:
Figure BDA0003229727990000113
如图3所示,为激光投射线示意图,其中,L1、L2和L3分别为第一激光发射器151、第二激光发射器152和第三激光发射器153在待焊工件上表面的投射激光线,p13和p23分别是L1、L2与L3在待焊工件上表面的交点,L4是L3右侧的1条虚拟线(与L3之间的距离d为任意设定的虚拟值),L1、L2与虚拟线L4在待焊工件上表面的虚拟交点分别是p14和p24。
以工业CCD相机130的光学中轴线与待焊工件上表面的交点为原点O,以第三激光发射器153在待焊工件上表面的投射线L3为X轴,以焊枪200的前进(焊接)方向为X轴的正方向,按右手法则定义表示待焊工件上表面的XOY坐标系的Y轴;以工业CCD相机130的光学中轴线与其像平面的交点为原点O',以第三激光发射器153在待焊工件上表面的投射线L3在工业CCD相机130的像平面的像L′3为X'轴,同样以焊枪200的前进(焊接)方向为X'轴的正方向,并按右手法则定义表示工业CCD相机130的像平面的X'O'Y'坐标系的Y'轴。
在焊枪200的中轴线(包括工业CCD相机130的光学中轴线)相对于焊枪200的前进方向存在前倾(或后倾)角α、或焊枪(导电嘴)200的中轴线(包括工业CCD相机130的光学中轴线,或者说焊枪200的中轴线与工业CCD相机130的光学中轴线所构成的平面)相对于焊枪200前进方向的左侧(或右侧)存在左摆(或右摆)角β、或倾角α与摆角β同时存在时,坐标系XOY表征的待焊工件上表面与工业CCD相机130的光学中轴线并不垂直,从而与坐标系X'O'Y'表征的工业CCD相机130的像平面并不平行,而是存在倾角α(相当于过待焊工件上表面的原点O、垂直于工业CCD相机130的光学轴线的平面绕Y轴逆时针旋转α角)、摆角β(相当于过待焊工件上表面的原点O、垂直于工业CCD相机130的光学中轴线的平面绕X轴逆时针旋转β角)、或倾角α与倾角β同时存在(相当于过待焊工件上表面的原点O、垂直于工业CCD相机130的光学中轴线的平面,在绕Y轴逆时针旋转α角的同时,也绕X轴逆时针旋转β角)。
设点p13和p23、点p14和p24在XOY坐标系的坐标分别为(xp13,yp13)和(xp23,yp23)、(xp14,yp14)和(xp24,yp24),对应于p13和p23、p14和p24点的物距(即过点p13和p23、点p14和p24,且与工业CCD相机130的光学中轴线垂直的平面至工业CCD相机130的焦点的距离)分别设为Hp13和Hp23、Hp14和Hp24
在以上设定条件下,待焊工件上表面的组合投射激光线如图5所示,工业CCD相机130捕捉图像中的组合投射激光线分布如图6所示。
对于点p13,根据图3中的几何关系,考虑到yp13=0,有:
Figure BDA0003229727990000121
Hp13=H0+l-D0 tanα'-xp13 sinα' (4)
由式(3)和(4),可进一步求出:
Figure BDA0003229727990000122
Figure BDA0003229727990000131
对于点p23,根据图3中的几何关系,考虑到yp23=0,有:
Figure BDA0003229727990000132
Hp23=H0+l-D0 tanα'-xp23 sinα' (8)
由式(7)和(8),可进一步求出:
Figure BDA0003229727990000133
Figure BDA0003229727990000134
对于点p14,根据图5中的几何关系,由于yp14=-d≠0,有:
Figure BDA0003229727990000135
yp14=yp13-d=-d (12)
Hp14=H0+l-D0·tanα'-xp13·sinα'+d·sinβ·(cosα'+sinα'·tan(θ+α)) (13)
对于点p24,类似地,由于yp24=-d≠0,有:
Figure BDA0003229727990000136
yp24=yp23-d=-d (15)
Hp24=H0+l-D0·tanα'-xp23·sinα'+d·sinβ·(cosα'+sinα'·tan(θ+α)) (16)
对于待焊工件上表面XOY坐标系内的任意点p,假设其坐标为(xp,yp),物距为Hp,其在工业CCD相机130的像平面X'O'Y'坐标系的成像点p'的坐标为(x’p,y’p),根据光学三角成像原理,有:
Figure BDA0003229727990000137
式(17)中,xp cosα'-yp sinα'sinβ为待焊工件上表面的点p在其对应物距为Hp的物平面内的x坐标值,ypcosβ为待焊工件上表面的点p在其对应物距为Hp的物平面内的y坐标值。
设XOY坐标系内的点p13和p23、点p14和p24(虚拟点)在X'O'Y'坐标系的成像点分别为点p'13和p'23、点p'14和p'24(虚拟点),像坐标分别为(x’p13,y’p13)和(x’p23,y’p23)、(x’p14,y’p14)和(x’p24,y’p24)。
Step1:求解焊枪200的导电嘴末端沿焊枪200中轴线至焊枪200中轴线与待焊工件上表面交点距离l:
对应于点p13,由式(5)、(6)和(17)可得:
Figure BDA0003229727990000141
对应于点p23,由式(9)、(10)和(17)可得:
Figure BDA0003229727990000142
式(18)与(19)联立,可解得控制焊枪200前后倾角的旋转电机转角α′:
Figure BDA0003229727990000143
在由式(20)求出tanα′的值之后,将tanα′的值代入式(18)或(19),可分别独立求得距离l的值。所求出的距离l的值可进行互相验证。
Step2:求解焊枪200中轴线相对于焊枪200前进方向的左侧或右侧的偏摆(左摆或右摆)角度β:
对应于点p14,由式(11)、(12)、(13)和(17)可得:
Figure BDA0003229727990000144
再将式(21)代入到(17)中,可得:
Figure BDA0003229727990000145
类似地,对应于点p24,由式(14)、(15)、(16)和(17)可得:
Figure BDA0003229727990000146
再将式(23)代入式(17)中,可得:
Figure BDA0003229727990000151
式(22)与式(24)的区别在于:式(24)包含了检测装置的视觉传感器的固有结构参数D2,像坐标x'p24和y'p24取自投射激光线L2在像平面的像L2'中的任意点(点p23除外);而式(22)不包含检测装置的视觉传感器的固有结构参数D2,像坐标x'p14和y'p14取自投射激光线L1在像平面的像L1'中的任意点(点p13除外)。式(24)与式(22)求出的焊枪200的摆角β的值可进行互相验证。
Step3:求解焊枪200中轴线沿焊枪200前进方向的倾斜(前倾或后倾)角度α:
最后,在已知控制焊枪200前后倾角的旋转电机的转角α'及焊枪200左右摆角β的前提下,根据tanα=tanα'/cosβ,可计算求得焊枪200的前后倾角α。
至此,采用本发明所设计、构建的基于组合激光结构光的单目视觉传感器,完全实现了对焊枪200相对于待焊工件上表面的任意空间位置和姿态参数(倾角α、摆角β和距离l)的检测。
根据本实施例中两个旋转电机的安装顺序(如图7所示),控制焊枪200左右摆角的电机转动时,相当于使焊枪200的中轴线绕着焊枪坐标系的X轴转动;而控制焊枪200前后倾角的电机转动时,相当于使焊枪200的中轴线绕着焊枪坐标系的Y轴转动。如果控制焊枪200左右摆角的电机和控制焊枪200前后倾角的电机两者的旋转轴重合或平行于焊枪坐标系的坐标轴,那么,就可以应用三维欧拉坐标变换方法。因此,在控制电机转动进而使焊枪200与重力加速度方向重合的过程中,可以使控制焊枪200前后倾角的电机转动α',此为绕着焊枪坐标系的Y轴转动;此运动结束后,焊枪坐标系的X轴与地球坐标系的X轴已经平行,此时,再使控制焊枪200左右摆角的电机转动β',则此转动的旋转轴平行于焊枪坐标系的X轴。
根据三维欧拉坐标变换方法,焊枪坐标系-地球坐标系间的坐标旋转矩阵为:
Figure BDA0003229727990000152
Figure BDA0003229727990000161
采用此基于重力感应与视觉传感融合的检测装置以及上述实施例检测出焊枪200相对于待焊工件上表面法线的前后倾角值为αre、左右摆角值为βre,相对地,待焊工件上表面法线与焊枪间的夹角在X’OZ’平面内的分量为-αre,在Y’OZ’平面内的分量为-βre
取待焊工件上表面法线的方向向量
Figure BDA0003229727990000162
(待焊工件上表面法线在焊枪坐标系下)为:
Figure BDA0003229727990000163
该方向向量
Figure BDA0003229727990000164
在地球坐标系中为/>
Figure BDA0003229727990000165
Figure BDA0003229727990000166
其中,
Figure BDA0003229727990000167
记待焊工件上表面法线与重力加速度方向间夹角的两个分量为αwp与βwp,则有:
Figure BDA0003229727990000168
/>
Figure BDA0003229727990000169
由此,求得表征待焊工件上表面的绝对空间姿态参量αwp与βwp,即检测获得了待焊工件相对于重力加速度方向的绝对空间姿态。
综上,由上述检测方法可知,本实施例的基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置通过对工业CCD相机130所拍摄的图像进行处理,提取组合激光线的特征点图像坐标值,可实现对焊枪200相对于待焊工件上表面的任意空间位置和姿态参数(倾角α、摆角β和距离l)的检测;另外,本实施例的基于重力感应与视觉传感融合的待焊工件绝对空间姿态检测装置的组件重力感应装置190可实现对焊枪200的中轴线相对于重力加速度方向的绝对空间姿态参数检测。根据以上检测数据,本实施例的基于重力感应与视觉传感融合的待焊工件绝对空间姿态检测装置可实现对待焊工件相对于重力加速度方向的绝对空间姿态参数的检测,获得待焊工件的焊接接头(坡口、焊缝)所在平面法线与重力加速度方向的夹角分量αwp与βwp,进而为空间全位置焊接机器人的焊接工艺参数选择提供依据,特别是,焊枪200相对待焊工件上表面及焊接接头(坡口、焊缝)的前后倾角和左右摆角的选择、实时调整和控制。有效检测出了待焊工件相对于重力加速度方向的绝对空间姿态,实现了对焊枪相对于待焊工件的相对空间位姿进行符合对应待焊工件相对于重力加速度方向的绝对空间姿态的适应性实时调整与控制,达到了更好的焊缝成形质量控制效果。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“长度”、“宽度”、“厚度”、“顶”、“底”“内”、“外”、“顺时针”、“逆时针”、“轴向”、“径向”、“周向”、“前倾”、“后倾”、“左摆”、“右摆”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接,可以是机械连接,也可以是电连接,可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (8)

1.一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置,其特征在于,包括:
焊枪固连架,所述焊枪固连架与焊枪相连;
激光发射器组件,所述激光发射器组件通过激光发射器固定座连接在所述焊枪固连架上,用于向待焊工件上表面及焊接接头投射组合激光线;
工业相机,所述工业相机与所述焊枪固连架相连,用于在焊接过程中实时拍摄图像;
重力感应装置,所述重力感应装置通过重力感应装置支撑架连接在所述焊枪固连架上,用于检测所述焊枪的中轴线相对于重力加速度方向的两个夹角分量,以实时感知所述焊枪相对于所述重力加速度方向的绝对空间姿态;
还包括:镜头,所述镜头设在所述工业相机的前端,用于调节所述工业相机的光学参数;
所述重力感应装置设于焊枪的前进方向的反方向上,重力感应装置检测焊枪的中轴线与重力加速度方向间的夹角,夹角可分解为与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面平行的焊枪前后倾角、与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面垂直的焊枪左右摆角两个分量;
所述工业相机拍摄的包含激光发射器组件投射至待焊工件上表面及焊接接头的变形激光线图像,通过对变形激光线图像进行处理,提取变形激光线的特征点图像坐标值,根据所述焊枪相对于待焊工件上表面的相对空间位置和姿态检测算法,获取所述焊枪相对于待焊工件上表面的与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面平行的前后倾角、与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面垂直的左右摆角以及所述焊枪的导电嘴末端沿所述焊枪的中轴线至待焊工件上表面的距离;
根据所述焊枪的中轴线在所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面的平行方向相对于重力加速度方向的前后倾角、在所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面的垂直方向相对于重力加速度方向的左右摆角两个分量,以及所述焊枪的中轴线相对于待焊工件上表面的与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面的平行方向的前后倾角、与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面的垂直方向的左右摆角,通过焊枪坐标系-地球坐标系间的坐标变换,获取待焊工件上表面相对于重力加速度方向的绝对空间姿态参数,包括:在所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面的平行方向上的待焊工件上表面法线与重力加速度方向间的夹角、在所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面的垂直方向上的待焊工件上表面法线与重力加速度方向间的夹角;
所述激光发射器组件包括:第一激光发射器、第二激光发射器与第三激光发射器,其中,
所述第一激光发射器、所述第二激光发射器与所述第三激光发射器依次设于所述工业相机的焊接前进方向上;
所述第一激光发射器的中轴线、所述第二激光发射器的中轴线与所述第三激光发射器的中轴线平行,均位于所述焊枪的中轴线、所述工业相机的光学中轴线所构成的平面内,且与所述焊枪的中轴线之间的夹角为θ,θ满足关系式25°≤θ≤35°;
所述第一激光发射器的激光投射面与所述第二激光发射器的激光投射面平行,且与所述焊枪的中轴线、所述工业相机的光学中轴线所构成的平面垂直;
所述第三激光发射器的激光投射面与所述焊枪的中轴线、所述工业相机的光学中轴线所构成的平面重合,且与所述第一激光发射器的激光投射面和所述第二激光发射器的激光投射面垂直;
定义相关参数含义:D1表示工业相机的焦点到至第一激光发射器的激光投射平面之间的距离,H0表示工业相机的焦点至焊枪导电嘴前端的距离在焊枪中轴线方向的分量大小,D0表示焊枪的中轴线与工业相机的光学中轴线之间的距离,D2表示第一激光发射器的激光投射平面与第二激光发射器的激光投射平面之间的距离,d表示两坐标点在坐标系中的距离在坐标系轴上的分量值;fx和fy分别表示工业相机在坐标系中沿x方向和y方向上的无量纲尺度因子;
焊枪相对于待焊工件上表面的相对空间姿态,即前后倾角α和左右摆角β,记控制焊枪前后倾角的旋转电机需转动的角度为α',控制焊枪左右摆角的旋转电机需转动的角度为β',根据两个旋转电机的安装顺序,控制焊枪左右摆角的电机转动时,使焊枪绕着焊枪坐标系的X轴转动,β'=β,控制焊枪前后倾角的电机转动时,使焊枪绕着焊枪坐标系的Y轴转动;
α'的正切值为:
Figure FDA0004233738120000031
即需要使控制焊枪前后倾角的电机转动角α'满足式(1),使焊枪的前倾角度为α;
L1、L2和L3分别为第一激光发射器、第二激光发射器和第三激光发射器在待焊工件上表面的投射激光线,p13和p23分别是L1、L2与L3在待焊工件上表面的交点,L4是L3右侧的1条虚拟线,L1、L2与虚拟线L4在待焊工件上表面的虚拟交点分别是p14和p24;
根据立体几何与空间投影规则得出,第一投射激光线L1与第二投射激光线L2永远平行,且与第三投射激光线L3之间的夹角
Figure FDA0004233738120000032
的余切值为:
Figure FDA0004233738120000033
设点p13和p23、点p14和p24在XOY坐标系的坐标分别为(xp13,yp13)和(xp23,yp23)、(xp14,yp14)和(xp24,yp24),对应于p13和p23、p14和p24点的物距,即过点p13和p23、点p14和p24,且与工业相机的光学中轴线垂直的平面至工业相机的焦点的距离,分别设为Hp13和Hp23、Hp14和Hp24
对于点p13,根据几何关系,考虑到yp13=0,有:
Figure FDA0004233738120000034
Hp13=H0+l-D0tanα'-xp13sinα' (4)
由式(3)和(4),求出:
Figure FDA0004233738120000035
Figure FDA0004233738120000036
对于点p23,根据几何关系,考虑到yp23=0,有:
Figure FDA0004233738120000041
Hp23=H0+l-D0tanα'-xp23sinα' (8)
由式(7)和(8),求出:
Figure FDA0004233738120000042
Figure FDA0004233738120000043
对于点p14,根据几何关系,由于yp14=-d≠0,有:
Figure FDA0004233738120000044
yp14=yp13-d=-d (12)
Hp14=H0+l-D0·tanα'-xp13·sinα'+d·sinβ·(cosα'+sinα'·tan(θ+α)) (13)
对于点p24,由于yp24=-d≠0,有:
Figure FDA0004233738120000045
yp24=yp23-d=-d (15)
Hp24=H0+l-D0·tanα'-xp23·sinα'+d·sinβ·(cosα'+sinα'·tan(θ+α)) (16)
对于待焊工件上表面XOY坐标系内的任意点p,假设其坐标为(xp,yp),物距为Hp,其在工业相机的像平面X'O'Y'坐标系的成像点p'的坐标为(x’p,y’p),根据光学三角成像原理,有:
Figure FDA0004233738120000046
式(17)中,xpcosα'-ypsinα'sinβ为待焊工件上表面的点p在其对应物距为Hp的物平面内的x坐标值,ypcosβ为待焊工件上表面的点p在其对应物距为Hp的物平面内的y坐标值;
设XOY坐标系内的点p13和p23、点p14和p24在X'O'Y'坐标系的成像点分别为点p'13和p'23、点p'14和p'24,像坐标分别为(x’p13,y’p13)和(x’p23,y’p23)、(x’p14,y’p14)和(x’p24,y’p24);
Step1:求解焊枪的导电嘴末端沿焊枪中轴线至焊枪中轴线与待焊工件上表面交点距离l:
对应于点p13,由式(5)、(6)和(17)可得:
Figure FDA0004233738120000051
对应于点p23,由式(9)、(10)和(17)可得:
Figure FDA0004233738120000052
式(18)与(19)联立,解得控制焊枪前后倾角的旋转电机转角α′:
Figure FDA0004233738120000053
在由式(20)求出tanα′的值之后,将tanα′的值代入式(18)或(19),分别独立求得距离l的值;
Step2:求解焊枪中轴线相对于焊枪前进方向的左侧或右侧的偏摆角度β:
对应于点p14,由式(11)、(12)、(13)和(17)得:
Figure FDA0004233738120000054
再将式(21)代入到(17)中,得:
Figure FDA0004233738120000055
对应于点p24,由式(14)、(15)、(16)和(17)得:
Figure FDA0004233738120000056
再将式(23)代入式(17)中,得:
Figure FDA0004233738120000057
Step3:求解焊枪中轴线沿焊枪前进方向的倾斜角度α:
在已知控制焊枪前后倾角的旋转电机的转角α'及焊枪左右摆角β的前提下,根据tanα=tanα'/cosβ,计算求得焊枪的前后倾角α;
根据三维欧拉坐标变换方法,焊枪坐标系-地球坐标系间的坐标旋转矩阵为:
Figure FDA0004233738120000061
检测出焊枪相对于待焊工件上表面法线的前后倾角值为αre、左右摆角值为βre,待焊工件上表面法线与焊枪间的夹角在X’OZ’平面内的分量为-αre,在Y’OZ’平面内的分量为-βre
取待焊工件上表面法线的方向向量
Figure FDA0004233738120000062
为:
Figure FDA0004233738120000063
该方向向量
Figure FDA0004233738120000064
在地球坐标系中为/>
Figure FDA0004233738120000065
Figure FDA0004233738120000066
其中,
Figure FDA0004233738120000067
记待焊工件上表面法线与重力加速度方向间夹角的两个分量为αwp与βwp,则有:
Figure FDA0004233738120000071
Figure FDA0004233738120000072
2.根据权利要求1所述的检测装置,其特征在于,所述用于在焊接过程中实时拍摄图像,包括:
采用所述工业相机获取包含所述激光发射器组件投射在所述待焊工件上表面及焊接接头的组合激光线的焊接接头图像。
3.根据权利要求1所述的检测装置,其特征在于,还包括:滤光***,所述滤光***设在所述镜头前端用于滤除弧光与自然光。
4.根据权利要求3所述的检测装置,其特征在于,还包括:防飞溅板,所述防飞溅板设在所述焊枪的末端与所述镜头和所述滤光***之间,用于保护所述镜头、滤光***和激光发射器组件不受焊接飞溅污染。
5.根据权利要求1所述的检测装置,其特征在于,所述重力感应装置包括两个安装平面:底面和侧面,其中,
所述重力感应装置的安装底面与所述焊枪的中轴线垂直;
所述重力感应装置的安装侧面与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面垂直。
6.根据权利要求1所述的检测装置,其特征在于,所述检测所述焊枪的中轴线相对于重力加速度方向的两个夹角分量,以实时感知所述焊枪相对于所述重力加速度方向的绝对空间姿态,包括:
所述焊枪的中轴线与所述重力加速度方向间的两个夹角分量,分别为与所述焊枪的中轴线、所述工业相机的光学中轴线所构成的平面平行的焊枪前后倾角,以及与所述焊枪的中轴线、所述工业相机的光学中轴线所构成的平面垂直的焊枪左右摆角。
7.应用于权利要求1-6任一所述装置的一种基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测方法,其特征在于:该检测方法包括以下步骤:
在焊接过程中,向待焊工件上表面及焊接接头投射组合激光线;
利用工业相机拍摄,获取组合激光线图像;
对所述图像进行处理,提取激光线特征值,根据所提取的图像特征值以及焊枪相对于待焊工件表面的空间位姿检测算法,获取所述焊枪相对于所述待焊工件上表面的相对空间位姿;
根据重力感应装置检测并获取所述焊枪相对于重力加速度方向的绝对空间姿态;
融合获取的所述焊枪相对于所述待焊工件上表面的相对空间位姿和所述焊枪相对于重力加速度方向的绝对空间姿态,根据坐标变换,计算出所述待焊工件上表面相对于所述重力加速度方向的绝对空间姿态;
所述重力感应装置设置于焊枪的前进方向的反方向上,重力感应装置检测所述焊枪的中轴线与重力加速度方向间的夹角,夹角分解为与所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面平行的焊枪前后倾角、与所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面垂直的焊枪左右摆角两个分量;
所述工业相机拍摄的包含激光发射器组件投射至待焊工件上表面及焊接接头组合激光线的焊接接头图像,通过对焊接接头图像处理,提取组合激光线的特征点图像坐标值,根据所述焊枪相对于待焊工件上表面的相对空间位置和姿态检测算法,获取所述焊枪相对于待焊工件上表面的与所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面平行的前后倾角、与所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面垂直的左右摆角以及所述焊枪的导电嘴末端沿所述焊枪的中轴线至待焊工件上表面的距离;
根据所述焊枪的中轴线在所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面的平行方向相对于重力加速度方向的前后倾角、在所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面的垂直方向的相对于重力加速度方向的左右摆角两个分量,以及焊枪的中轴线相对于待焊工件上表面的与所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面的平行方向的前后倾角、与所述焊枪的中轴线和所述工业相机的光学中轴线所构成平面的垂直方向的左右摆角,通过焊枪坐标系-地球坐标系间的坐标变换,便可以获取所述待焊工件上表面相对于重力加速度方向的绝对空间姿态;
所述激光发射器组件包括:第一激光发射器、第二激光发射器与第三激光发射器,其中,
所述第一激光发射器、所述第二激光发射器与所述第三激光发射器依次设于所述工业相机的焊接前进方向上;
所述第一激光发射器的中轴线、所述第二激光发射器的中轴线与所述第三激光发射器的中轴线平行,均位于所述焊枪的中轴线、所述工业相机的光学中轴线所构成的平面内,且与所述焊枪的中轴线之间的夹角为θ,θ满足关系式25°≤θ≤35°;
所述第一激光发射器的激光投射面与所述第二激光发射器的激光投射面平行,且与所述焊枪的中轴线、所述工业相机的光学中轴线所构成的平面垂直;
所述第三激光发射器的激光投射面与所述焊枪的中轴线、所述工业相机的光学中轴线所构成的平面重合,且与所述第一激光发射器的激光投射面和所述第二激光发射器的激光投射面垂直;
定义相关参数含义:D1表示工业相机的焦点到至第一激光发射器的激光投射平面之间的距离,H0表示工业相机的焦点至焊枪导电嘴前端的距离在焊枪中轴线方向的分量大小,D0表示焊枪的中轴线与工业相机的光学中轴线之间的距离,D2表示第一激光发射器的激光投射平面与第二激光发射器的激光投射平面之间的距离,d表示两坐标点在坐标系中的距离在坐标系轴上的分量值;fx和fy分别表示工业相机在坐标系中沿x方向和y方向上的无量纲尺度因子;
焊枪相对于待焊工件上表面的相对空间姿态,即前后倾角α和左右摆角β,记控制焊枪前后倾角的旋转电机需转动的角度为α',控制焊枪左右摆角的旋转电机需转动的角度为β',根据两个旋转电机的安装顺序,控制焊枪左右摆角的电机转动时,使焊枪绕着焊枪坐标系的X轴转动,β'=β,控制焊枪前后倾角的电机转动时,使焊枪绕着焊枪坐标系的Y轴转动;
α'的正切值为:
Figure FDA0004233738120000091
即需要使控制焊枪前后倾角的电机转动角α'满足式(1),使焊枪的前倾角度为α;
L1、L2和L3分别为第一激光发射器、第二激光发射器和第三激光发射器在待焊工件上表面的投射激光线,p13和p23分别是L1、L2与L3在待焊工件上表面的交点,L4是L3右侧的1条虚拟线,L1、L2与虚拟线L4在待焊工件上表面的虚拟交点分别是p14和p24;
根据立体几何与空间投影规则得出,第一投射激光线L1与第二投射激光线L2永远平行,且与第三投射激光线L3之间的夹角
Figure FDA0004233738120000101
的余切值为:
Figure FDA0004233738120000102
设点p13和p23、点p14和p24在XOY坐标系的坐标分别为(xp13,yp13)和(xp23,yp23)、(xp14,yp14)和(xp24,yp24),对应于p13和p23、p14和p24点的物距,即过点p13和p23、点p14和p24,且与工业相机的光学中轴线垂直的平面至工业相机的焦点的距离,分别设为Hp13和Hp23、Hp14和Hp24
对于点p13,根据几何关系,考虑到yp13=0,有:
Figure FDA0004233738120000103
Hp13=H0+l-D0tanα'-xp13sinα' (4)
由式(3)和(4),求出:
Figure FDA0004233738120000104
Figure FDA0004233738120000105
对于点p23,根据几何关系,考虑到yp23=0,有:
Figure FDA0004233738120000106
Hp23=H0+l-D0tanα'-xp23sinα' (8)
由式(7)和(8),求出:
Figure FDA0004233738120000107
Figure FDA0004233738120000108
对于点p14,根据几何关系,由于yp14=-d≠0,有:
Figure FDA0004233738120000111
yp14=yp13-d=-d (12)
Hp14=H0+l-D0·tanα'-xp13·sinα'+d·sinβ·(cosα'+sinα'·tan(θ+α)) (13)
对于点p24,由于yp24=-d≠0,有:
Figure FDA0004233738120000112
yp24=yp23-d=-d (15)
Hp24=H0+l-D0·tanα'-xp23·sinα'+d·sinβ·(cosα'+sinα'tan(θ+α)) (16)
对于待焊工件上表面XOY坐标系内的任意点p,假设其坐标为(xp,yp),物距为Hp,其在工业相机的像平面X'O'Y'坐标系的成像点p'的坐标为(x’p,y’p),根据光学三角成像原理,有:
Figure FDA0004233738120000113
式(17)中,xpcosα'-ypsinα'sinβ为待焊工件上表面的点p在其对应物距为Hp的物平面内的x坐标值,ypcosβ为待焊工件上表面的点p在其对应物距为Hp的物平面内的y坐标值;
设XOY坐标系内的点p13和p23、点p14和p24在X'O'Y'坐标系的成像点分别为点p'13和p'23、点p'14和p'24,像坐标分别为(x’p13,y’p13)和(x’p23,y’p23)、(x’p14,y’p14)和(x’p24,y’p24);
Step1:求解焊枪的导电嘴末端沿焊枪中轴线至焊枪中轴线与待焊工件上表面交点距离l:
对应于点p13,由式(5)、(6)和(17)可得:
Figure FDA0004233738120000114
对应于点p23,由式(9)、(10)和(17)可得:
Figure FDA0004233738120000121
式(18)与(19)联立,解得控制焊枪前后倾角的旋转电机转角α′:
Figure FDA0004233738120000122
在由式(20)求出tanα′的值之后,将tanα′的值代入式(18)或(19),分别独立求得距离l的值;
Step2:求解焊枪中轴线相对于焊枪前进方向的左侧或右侧的偏摆角度β:
对应于点p14,由式(11)、(12)、(13)和(17)得:
Figure FDA0004233738120000123
再将式(21)代入到(17)中,得:
Figure FDA0004233738120000124
对应于点p24,由式(14)、(15)、(16)和(17)得:
Figure FDA0004233738120000125
再将式(23)代入式(17)中,得:
Figure FDA0004233738120000126
Step3:求解焊枪中轴线沿焊枪前进方向的倾斜角度α:
在已知控制焊枪前后倾角的旋转电机的转角α'及焊枪左右摆角β的前提下,根据tanα=tanα'/cosβ,计算求得焊枪的前后倾角α;
根据三维欧拉坐标变换方法,焊枪坐标系-地球坐标系间的坐标旋转矩阵为:
Figure FDA0004233738120000127
Figure FDA0004233738120000131
检测出焊枪相对于待焊工件上表面法线的前后倾角值为αre、左右摆角值为βre,待焊工件上表面法线与焊枪间的夹角在X’OZ’平面内的分量为-αre,在Y’OZ’平面内的分量为-βre
取待焊工件上表面法线的方向向量
Figure FDA0004233738120000132
为:
Figure FDA0004233738120000133
该方向向量
Figure FDA0004233738120000134
在地球坐标系中为/>
Figure FDA0004233738120000135
Figure FDA0004233738120000136
其中,
Figure FDA0004233738120000137
记待焊工件上表面法线与重力加速度方向间夹角的两个分量为αwp与βwp,则有:
Figure FDA0004233738120000138
Figure FDA0004233738120000139
8.根据权利要求7所述的检测方法,其特征在于,其中,
所述焊枪相对于所述待焊工件上表面的相对空间位姿,包括:所述焊枪相对于所述待焊工件上表面的沿所述焊枪前进方向的前后倾角、垂直于所述焊枪前进方向的左右摆角以及所述焊枪导电嘴末端沿所述焊枪中轴线至所述待焊工件上表面间的距离;
所述待焊工件上表面相对于所述重力加速度方向的绝对空间姿态,包括:所述待焊工件上表面法线与所述重力加速度方向间的两个夹角分量,分别为与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面平行的所述待焊工件上表面法线与所述重力加速度方向间的夹角,以及与所述焊枪的中轴线和所述工业相机的光学中轴线所构成的平面垂直的所述待焊工件上表面法线与所述重力加速度方向间的夹角。
CN202110982716.6A 2021-08-25 2021-08-25 基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置及方法 Active CN113579476B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110982716.6A CN113579476B (zh) 2021-08-25 2021-08-25 基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110982716.6A CN113579476B (zh) 2021-08-25 2021-08-25 基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置及方法

Publications (2)

Publication Number Publication Date
CN113579476A CN113579476A (zh) 2021-11-02
CN113579476B true CN113579476B (zh) 2023-06-16

Family

ID=78239566

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110982716.6A Active CN113579476B (zh) 2021-08-25 2021-08-25 基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置及方法

Country Status (1)

Country Link
CN (1) CN113579476B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114792337B (zh) * 2022-03-04 2024-06-11 清华大学 一种焊接坡口尺寸和焊枪相对位姿高精度检测方法和装置
CN118123847B (zh) * 2024-05-08 2024-07-02 帕西尼感知科技(张家港)有限公司 一种人机协作的***、操作控制方法及装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009166107A (ja) * 2008-01-18 2009-07-30 Jfe Engineering Corp 自動溶接制御方法及び自動溶接装置
CN101966617B (zh) * 2010-08-30 2012-11-28 东南大学 用于焊接机器人连续运动的激光视觉焊件特征检测方法
CN108015455B (zh) * 2017-11-01 2020-06-19 清华大学 基于复合激光结构光的多功能视觉传感器装置
CN108857152B (zh) * 2018-06-14 2020-01-31 清华大学 基于复合激光结构光的全空间位姿检测视觉传感器装置
CN112338399A (zh) * 2020-11-18 2021-02-09 南昌大学 基于三线激光视觉传感装置的焊枪位姿识别装置及方法

Also Published As

Publication number Publication date
CN113579476A (zh) 2021-11-02

Similar Documents

Publication Publication Date Title
CN108857152B (zh) 基于复合激光结构光的全空间位姿检测视觉传感器装置
CN112959329B (zh) 一种基于视觉测量的智能控制焊接***
CN113579476B (zh) 基于重力感应与视觉传感融合的待焊工件表面绝对空间姿态检测装置及方法
CN104384765B (zh) 基于三维模型与机器视觉的自动焊接方法
Zhou et al. Path planning with automatic seam extraction over point cloud models for robotic arc welding
CN105303560B (zh) 机器人激光扫描式焊缝跟踪***标定方法
Nele et al. An image acquisition system for real-time seam tracking
CN114043087B (zh) 一种三维轨迹激光焊接焊缝跟踪姿态规划方法
CN108015455B (zh) 基于复合激光结构光的多功能视觉传感器装置
US20050021170A1 (en) Method of controlling the welding of a three-dimensional structure
US20230390853A1 (en) Automatic Welding System and Method for Large Structural Parts Based on Hybrid Robots and 3D Vision
CN106382888B (zh) 适用于垂直关节型六轴工业机器人的线激光焊缝检测装置
CN113798634B (zh) 空间环形焊缝示教与焊缝跟踪方法、***及设备
CN103273171A (zh) 波纹薄板角焊缝自动焊接中的视觉跟踪监测***与方法
Ryberg et al. Stereo vision for path correction in off-line programmed robot welding
US20210001423A1 (en) Twin laser camera assembly
CA3048300C (en) Twin laser camera assembly
US8780359B2 (en) Optical base plate alignment
CN114473153A (zh) 一种油气长输管道焊接***及方法
Xiao et al. An automatic calibration algorithm for laser vision sensor in robotic autonomous welding system
CN109623229A (zh) 一种基于机器人焊接的手眼协作***
Chen et al. The decoupling visual feature extraction of dynamic three-dimensional V-type seam for gantry welding robot
Wu et al. A teaching-free welding position guidance method for fillet weld based on laser vision sensing and EGM technology
Huissoon Robotic laser welding: seam sensor and laser focal frame registration
JP7183372B1 (ja) マーカ検出装置及びロボット教示システム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information
CB03 Change of inventor or designer information

Inventor after: Zhu Zhiming

Inventor after: Zhu Chuanhui

Inventor after: Zhang Tianyi

Inventor before: Zhu Zhiming

Inventor before: Zhang Tianyi

Inventor before: Zhu Chuanhui

GR01 Patent grant
GR01 Patent grant