CN104703762A - 基于相机的自动对准的***和方法 - Google Patents
基于相机的自动对准的***和方法 Download PDFInfo
- Publication number
- CN104703762A CN104703762A CN201380051764.7A CN201380051764A CN104703762A CN 104703762 A CN104703762 A CN 104703762A CN 201380051764 A CN201380051764 A CN 201380051764A CN 104703762 A CN104703762 A CN 104703762A
- Authority
- CN
- China
- Prior art keywords
- truing tool
- camera
- image
- axle
- gripper unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
- B25J9/1692—Calibration of manipulator
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39045—Camera on end effector detects reference pattern
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39057—Hand eye calibration, eye, camera on hand, end effector
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/40—Robotics, robotics mapping to robotics vision
- G05B2219/40613—Camera, laser scanner on end effector, hand eye manipulator, local
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Manipulator (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
一种基于相机的自动对准方法可以包括通过机械臂的夹持器单元来夹持第一校准工具。连接到所述夹持器单元的相机可以捕获所述第一校准工具的图像。可以在两个大致平行轴上对准所述夹持器单元和相机单元。可以分析所述图像以校准所述相机视场轴与所述夹持器轴,从而提供所述机械臂的XY校准。通过使用提供在第二校准工具上的地标来光学校准,和/或通过将所述夹持器单元向所述工作表面移动直到所述夹持器单元与所述工作表面接触并停止,可以在Z轴上校准所述夹持器单元。一旦所述相机被校准,就可以使用相机来识别在所述工作表面上的已知位置的一个或多个地标,以对准所述机械臂与所述工作表面。
Description
相关申请案
相关申请的交叉引用
本申请要求下列申请的优先权:Stefan Rueckl于2012年10月5日提交的标题为“自动对准的***和方法(SYSTEM ANDMETHOD FOR AUTO-ALIGNMENT)”的美国临时专利申请号61/710,612;Stefan Rueckl等人于2012年12月21日提交的标题为“自动对准的***和方法(SYSTEM AND METHOD FORAUTO-ALIGNMENT)”的美国临时专利申请号61/745,252;以及Stefan Rueckl等人于2013年3月5日提交的标题为“自动对准的***和方法(SYSTEM AND METHOD FOR AUTO-ALIGNMENT)”的美国临时专利申请号61/772,971,这些申请各自为了达到所有目的以引用的方式整体并入本文。本申请涉及Stephan Otts于2013年10月4日提交的标题为“基于激光的自动对准的***和方法(SYSTEM ANDMETHOD FOR LASER-BASED AUTO ALIGNMENT)”的美国专利申请号_________(尚未分配申请号),所述申请为了达到所有目的以引用的方式整体并入本文。
背景技术
当实验室自动化***(LAS)被安装在客户现场时,服务技术员对准***的元件,例如,框架、机械臂的XY台架、以及工作表面上的抽屉,以使机械臂能够精确地夹持样品管并将样品管从一个位置转移到另一个位置。通常,手动完成机械臂与工作空间的对准。手动对准是缓慢而昂贵的方法,特别是在可能包括每个必须被单独对准的几个机械臂的复杂的LAS上更是如此。另外,手动对准有可能将人为错误引入每个对准。自动对准方法允许更少的服务技术员在更短的时间内安装和对准更多的LAS,并且由于人为错误造成的不正确的对准的风险更小。
在典型的LAS中,每个机械臂被固定在工作表面上方的台架,工作表面可以包括例如架子中的试管,其可以被移动到工作表面上的不同的位置或者工具。例如,将试管从分配架移动到离心机适配器。夹持运动需要精确,以避免各种问题。例如,如果机械臂无法夹持管,或者如果机械臂成功地夹持所选管,但由于未对准而破坏了管。常规的手动对准可能包括各种步骤,诸如通过手或者使用外部驱动电机将夹持器臂手动定位到工作表面上的几个不同的位置。另外,对于工作表面上的架子或者抽屉,需要单独对准机械臂。服务技术员手动对准的这个程序可能每个机械臂需要花费几个小时到一天时间。
本发明的实施例解决这些和其他问题。
发明内容
本文公开根据实施例的一种自动对准方法和相关技术布置,以在实验室自动化***(LAS)内校准和/或对准机械臂与夹持器单元。
在基于相机的对准***中,相机可以在夹持器单元的位置附接到XYZ机器人以允许机械臂获取在夹持器位置下面的工作表面的图像。通过在安装期间对准相机的光轴与机械臂的轴,可以在安装相机时执行相机和机械臂的对准。然而,准确地安装相机,并且确保相机不改变位置,可能在涉及多个机械臂的复杂***中成本过高。因此,利用相机的自动对准程序可以降低与将相机精确地附接到机械臂相关联的生产成本,以及提供在相机的位置移动或者以其他方式变得未对准的情况下重新对准相机-机械臂***的现成的方法。
根据实施例,一种基于相机的自动对准方法可以包括通过机械臂的夹持器单元来夹持第一校准工具。连接到夹持器单元的相机可以捕获第一校准工具的图像。可以在两个大致平行轴上对准夹持器单元和相机单元。可以分析图像以校准相机视场轴与夹持器轴,从而提供机械臂的XY校准。通过使用提供在第二校准工具上的地标来光学校准,和/或通过将夹持器单元向工作表面移动直到夹持器单元与工作表面接触并停止,可以在Z轴上校准夹持器单元。一旦相机被校准,就可以使用相机来识别在工作表面上的已知位置的一个或多个地标,以对准机械臂与工作表面。
附图说明
图1示出根据本发明的实施例的XYZ机器人的相机-夹持器布置。
图2示出根据本发明的实施例的用于基于相机的自动对准的多个地标设计。
图3示出根据本发明的实施例的X-Y校准工具。
图4示出根据本发明的实施例的Z校准工具。
图5示出根据本发明的实施例的实验室自动化***(LAS)的实例。
图6示出根据本发明的实施例的附接到Z轴壳体的相机单元和夹持器单元。
图7示出根据本发明的实施例的校准XYZ机器人的方法。
图8示出常见的径向失真的实例。
图9示出根据本发明的实施例的X-Y校准的方法。
图10示出根据本发明的实施例的在校准期间X-Y校准工具的路径的投影。
图11示出根据本发明的实施例的在校准期间由图像捕获设备的成像属性所产生的椭圆。
图12示出根据本发明的实施例的用于确定图像捕获设备的高度的地标的三角测量。
图13示出根据本发明的实施方式的Z校准的方法。
图14示出根据本发明的实施例的用于确定基于相机的自动对准***的精度的***。
图15示出根据本发明的实施例的自动对准***的框图。
图16示出根据本发明的实施例的计算机装置的框图。
具体实施方式
在下面的描述中,为了解释的目的,阐述了许多具体细节以便提供对本发明的各种实施例的全面的理解。然而,对于本领域技术人员将显而易见的是,在没有这些具体细节的情况下也可以实践本发明的实施例。在其他情况下,以框图形式示出公知的结构和设备。
随后的描述仅仅提供示例性实施例,并且不旨在限制本公开的范围、应用性或者配置。确切地说,示例性实施例的随后的描述将向本领域技术人员提供用于实施示例性实施例的可行描述。应理解,在不脱离如在所附权利要求中阐述的本发明的精神和范围的情况下,可以在元件的功能和布置方面做出各种改变。
在下面的描述中给出具体细节以提供对实施例的全面的理解。然而,本领域普通技术人员将理解,可以不用这些具体细节来实践实施例。例如,为了在不必要的细节中不使实施例模糊,电路、***、网络、过程和其他部件可以被示出为框图形式中的部件。在其他情况下,为了避免使实施例模糊,可以在没有不必要细节的情况下,示出公知的电路、过程、算法、结构和技术。
图1示出根据实施例的XYZ机器人的相机-夹持器布置。根据实施例,公开一种使用作为光学测量工具的相机来自动对准的方法。机械臂可以包括夹持器单元100,其可操作以在实验室自动化***(LAS)内夹持、拾取和移动工作表面上的物体。相机,或者其他图像捕获设备可以连接到夹持器单元,使得由相机捕获的图像和/或视频可以用于识别LAS中的元件并且对准机械臂与LAS。在一些实施例中,相机连接到夹持器单元,使得在可以沿着Z轴移动夹持器单元的同时将相机保持在固定的高度。在机械臂的对准期间,可以使用一个或多个校准工具来校准相机和夹持器单元。校准过程被用来建立相机坐标系(以像素表示)与机器人坐标系(以步长或者编码器计数表示)之间的关系。校准也可以考虑相机中可能导致失真的光学缺陷,失真不被校正则可能会导致未对准。一旦相机被校准,就可以使用相机来识别位于工作表面上的已知位置的地标。这会对准机械臂与LAS。
根据实施例,夹持器单元100可以夹持LAS中的元件102。这些元件可以包括试管、校准工具和其他物体。使用在第一轴上的夹持器单元夹持元件102。由于相机单元104与夹持器单元100之间的偏移量,故可以通过在第二轴上的相机单元104获取图像。典型的相机和组件过大,以致不能被集成到夹持器组件或者夹持工具。因此,相机单元可以连接在邻近夹持器单元处,从而导致第一轴与第二轴之间的机械偏移。由于在正常操作期间相机不干扰夹持器单元,故相机可以保持固定到夹持器单元,从而能够根据需要进一步执行自动对准。可以分析图像以确定第二轴与第一轴之间的偏移量,并且校准相机坐标系与机器人坐标系。偏移可能导致第一轴与第二轴之间的任何角度未对准。通过将相机定位在地标上方并且在X方向和Y方向上使机械臂移动预定步长数,可以确定电机步长与像素之间的转换率。可以基于地标的视位置的变化来确定转换率。偏移量和转换率可以用于在X-Y平面中校准夹持器。然后,可以使用第二校准工具在Z轴上校准夹持器。可选地,可以识别在工作表面上的一个或多个元件上的一个或多个地标(例如,输入区)以验证夹持器的校准精度。一旦校准完成,就可以使用相机单元来识别在工作表面上的已知位置的一个或多个地标,以对准机械臂与LAS。
根据实施例,在Z轴上校准夹持器可以包括使用提供在第二校准工具上的地标来光学校准夹持器,例如通过对固定地标与相机的距离作三角测量。另外或者替代地,通过沿着Z轴将夹持器向第二校准工具移动直到夹持器与第二校准工具接触,可以在Z轴上物理校准夹持器。
如上所述,可视地标可以用于机械臂与LAS的校准和对准过程。例如,校准工具可以包括相机单元可以识别的地标,并且工作表面上的地标可以用于对准机械臂与LAS。地标可以包括位于工作表面上的已知位置的对比几何形状。地标也可以位于校准工具上,用于校准相机和夹持器单元。
图2示出不同的地标设计200的实例。在一些实施例中,地标可以印刷在衬底(诸如胶粘纸或者乙烯)上,所述衬底可以被施加到工作表面。在一些实施例中,地标可以机械地、化学地或者以其他方式蚀刻到工作表面中,并且填充有对比填料(诸如油漆或者环氧树脂)。或者,对比度也可以通过蚀刻已被阳极化处理或者以其他方式涂覆的部件来实现。这提供了不会在工作表面上移位或移动的永久地标。
理想情况下,可以选择容易创建、具有容易识别的中点,并且具有低的错误识别风险的地标。例如,线性地标(诸如十字形或者矩形)可能比圆形地标更加难以可靠地识别。另外,工作表面上的划痕可能更容易被误认为是线性地标而不是圆形地标。包括多个同心圆的地标容易识别、与线性地标相比被错误识别的可能更小,并且中点可以通过所有识别的圆中点的代数平均值来确定。尽管本文中通常使用圆形地标,但是任何对比形状(包括但不限于图2中所示的对比形状)可以用于本发明的实施例。当相机单元捕获工作表面的图像时,可以使用图案识别过程来处理图像以确定地标是否存在于图像中。图案识别过程可以确定是否存在地标,并且如果存在,则识别地标的中点。中点可以表示为以像素表示的相机坐标系中的位置。
图3示出根据本发明的实施例的X-Y校准工具。X-Y校准工具可以用于在X-Y平面中校准夹持器单元。如本文所用,X-Y平面可以指代平行于工作表面的平面。如上所述,相机可以连接到机械臂的夹持器单元,从而导致相机轴与夹持器单元轴之间的偏移量。由于内置于机械臂和相机的机械公差,以及安装硬件和其他因素的变化,这个偏移量可能因不同的安装而不同。因此,偏移量在安装之前是未知的,并且可以在机械臂与LAS的对准和校准期间被确定。
如图3中所示,X-Y校准工具300可以包括夹持部分302和大体上水平的部分304。当夹持部分302由夹持器单元来夹持时,相机可以看得见大体上水平的部分304。大体上水平的部分包括多个地标306,其可以由相机来检测并且用于测量相机轴与机器人夹持器轴之间的偏移量。在一些实施例中,可以执行校准,其中可以检测X-Y校准工具上的至少两个标记。图3中所示的X-Y校准工具具有五个地标306,然而也可以使用更多或更少的地标。地标可以位于沿着工具的已知距离处,其中所述距离是从每个地标的中心到夹持部分302的中心的已知距离。可以基于机械臂被部署到的LAS来选择X-Y校准工具的尺寸。可以基于机器人可能定期拾取的物体的直径来选择夹持部分302的直径。例如,对于定期夹持试管的机器人,圆柱体的直径可以选择为近似于试管的直径。水平部分304的长度可以选择为大于夹持器轴与相机轴之间的偏移量,从而确保在校准期间相机看得见水平部分304。下文详细地描述根据实施例的X-Y校准过程的流程。
图4示出根据本发明的实施例的Z校准工具400。Z校准工具可以用于沿着Z轴校准夹持器单元。如本文所用,Z轴可以指代正交于工作表面的轴。Z校准工具可以包括在已知高度的多个水平面402。每个水平面可以包括可以由相机识别的地标404。在一些实施例中,标签(诸如条形码)可以用于将唯一的识别号分配给Z校准工具400上的地标。Z校准工具可以在安装期间由服务技术员在预先限定的位置附接到工作表面,或者可以永久地集成到工作表面。根据实施例,可以在X-Y校准之后执行Z校准。
根据实施例,机械臂可以包括压力传感器,并且可以被配置成一旦遇到阻力就停止。这通常被用作安全特征,以防止机械臂对本身、工作表面或者工作表面上的物体造成损害。使用作为自止装置的压力传感器,机械臂可以被定位在Z校准工具上的第一地标上方,并且被降低直到夹持器单元与第一地标接触。当进行接触时,压力传感器使机械臂停止。当臂被停止时,可以记录电机在Z轴上的位置。根据实施例,用于沿着每个轴驱动机械臂的电机可以是有刷直流电机或者步进电机。可以用编码器计数或者步长记录电机在Z轴上的位置。对于Z校准工具上的每个地标,这个过程可以重复进行。一旦每个位置已被记录,就可以用编码器计数或者步长确定每个水平面之间的距离。如下文进一步描述的,可以使用三角测量来确定Z校准工具的每个水平面的高度(例如,以每个像素的步长表示)。下文进一步描述根据实施例的Z轴校准过程的流程。
在一些实施例中,可以使用组合X-Y校准工具和Z校准工具的特征的单一的校准工具。例如,组合的校准工具可以类似于如上所述的X-Y校准工具,其已被修改使得每个地标在不同的水平面。
图5示出根据本发明的实施例的实验室自动化***(LAS)的实例。如图5中所示,LAS 500可以包括框架,其具有附接Z轴504的X-Y台架502。包括夹持器单元506的机械臂和相机单元508可以各自连接到Z轴504。如上所述,X-Y台架可操作以在X-Y平面中在工作表面510上方移动机械臂和夹持器单元,并且Z轴可操作以相对于工作表面510上下移动机械臂和夹持器单元。根据实施例,可以使用一个或多个电动机沿着轨道移动每个轴。在一些实施例中,电机可以是有刷直流电机或者步进电机,步进电机具有以每毫米步长表示的已知的电机分辨率。一个或多个控制器,诸如微控制器、处理器或者其他控制器,可以用于控制与每个轴相关联的电机并且将三维空间中的机械臂定位在工作表面上方。为了对准机械臂与工作表面,工作表面可以包括在已知位置的一个或多个地标512。可以校准相机单元,其使以像素表示的相机坐标系能够转换为以编码器计数或者步长表示的机器人坐标系。另外,校准过程可以校正相机轴与夹持器单元轴之间的小的角度未对准,以及相机中的光学缺陷(诸如镜头失真)。另外,可以使用一个或多个地标512自动对准机械臂与工作表面,从而使机械臂能够执行其中精度重要的功能,诸如拾取物体并将物体重新定位在工作表面上。一些实施例可以利用其他类型的机器人,例如,可以使用选择顺应性装配机械臂(SCARA)。
图6示出根据本发明的实施例的附接到Z轴壳体的相机单元和夹持器单元。如图6中所示,Z轴壳体600可以充当夹持器单元602和相机单元604的安装点。这将导致光学相机轴608与机械夹持器轴610之间的偏移量606。理想情况下,在安装期间努力保持在相机608的光轴与机械夹持器轴610之间的大体上平行的对准。然而,各轴的仔细和准确的对准可能是昂贵的,包括增加制造、部件和安装成本。在***失准的情况下这些成本可能加剧,从而导致昂贵的重新对准程序。另外,复杂的LAS可能包括大量的机械臂,从而进一步增加潜在的成本。
根据实施例,自动对准过方法提供在LAS中正确安装机械臂的高效的、可重复的方式,并且提供在任何机械臂在使用期间失准的情况下的快速维护程序。图7示出根据本发明的实施例的基于相机的自动对准的方法。在700,可以通过在第一轴上的夹持器单元夹持X-Y校准工具。可以在工作表面上的已知位置拾取X-Y校准工具,或者技术员可以手动指示夹持器单元夹持X-Y校准工具。在702,可以通过连接到夹持器单元的在第二轴上的相机捕获X-Y校准工具的图像。基于捕获的图像,可以确定对应于相机轴与夹持器轴之间的偏移量的距离。因为这个偏移量受机械公差影响,所以这个偏移量无法通过编程来预先限定。在这个过程期间,可以确定距离,而无需使用其他传感器或者测量工具。在704,可以执行相机与Z轴之间的Z校准以使能够精确测量电机单元中的地标的高度。在一些实施例中,还可以在X-Y校准或者Z校准期间计算和校正镜头失真。在一些实施例中,可以在对准过程期间作为单独的步骤来校正镜头失真。一旦已成功地执行上述对准步骤,***即准备好使用。在一些实施例中,在校准相机单元并且校正镜头失真之后,可以使用相机单元来识别在LAS的工作表面上的一个或多个地标,以对准LAS中的机械臂。
复杂的LAS可以包括许多机械臂,每个机械臂都具有其自己的相机。因此,可以利用较便宜的相机来减少给定的LAS的固定成本。然而,较便宜的相机通常比较昂贵的相机遭受更大的镜头失真效应。可以在对准过程期间考虑和校正这些失真。
图8示出常见的径向失真的实例。在记录图像时,镜头的几何属性可以产生某些失真。有两种基本类型的失真。一种是径向失真,也被称为枕形失真800或者桶形失真802。这是由镜头的球面形状造成的,并且还有这一事实,即通过镜头的中心并射至芯片的光几乎没有折射,而通过镜头的边缘的光易受更大的弯曲和折射效应。第二种失真是由镜头与相机芯片之间的角度产生的切向失真。
在使用相对较高质量的镜头或者相机时,径向失真往往成为更显著的因素。径向失真可以表示为一系列多项式:
其中是对应于(x,y)的失真校正点,α1,α2,…是描述径向失真的系数,并且r是点(x,y)至图像的中点的欧氏距离,点(x,y)在这种情况下对应于点(0,0)。
可以执行校准过程以确定系数。为了校准的目的,假设α1充分描述了径向失真,并且高阶效应可以忽略不计。用于描述失真的另一模型是Fitzgibbon除法模型:
当处理小的α1时,模型与一个因子的一系列多项式的结果几乎相同。用于Fitzgibbon除法模型的方程(12)可以被修改,以形成以下方程:
在这种情况下,s描述比例因子,并且对应于失真校正点(x,y)。
点x位于线l=(l1 l2 l3)T上的这一假设可以被用来显示由于径向失真而形成在圆环段上的线:
lTp=0, (14)
或者l1x+l2y+l3(1+α1*r2)=0
如果这个方程然后应用于圆方程的形式
(x-xm)2+(y-ym)2=R2 (15)
则由此得出结论
因此,以下适用于xm,ym,R:
这个属性可以用于确定系数α1。根据实施例,检测的地标被移动到图像的边缘,然后通过移动机器人的一个轴沿着这个边缘被移动。在这个过程期间可以记录地标的中点位置。由于只有一个机器人的轴被移动,故所有测量的中点沿着将中点联接在一起的线伸展。然而,由于上述的失真,情况并非如此。接着,圆域函数被拟合到所测量的中点。然后,方程(7)可以应用于这个函数以确定失真参数α1如下:
其中(xm,ym)是圆的中点,并且R是半径。
这个过程可以在图像的所有四个角落重复进行,由此确定以这种方式测量的系数。
接着,变换掩码可以被确定以确保计算上有效的图像变换。在这样做时,使用图像的尺寸来生成矩阵。矩阵的每个元素(i,j)对应于来自原始图像的像素,并且含有这个像素的校正位置图像一被记录,然后随即使用该掩码校正图像中的每个像素。图像处理库(诸如开放源代码库OpenCV)包括为了这个目的实施的方法,并且可以用于在图像由相机捕获时校正图像。
在一些实施例中,周期性重复的图案地标(诸如棋或者棋盘图案)可以用于考虑和校正镜头失真。根据实施例,周期性重复的图案地标可以被印刷在工具上或者安装到工具,所述工具可以由机器人来夹持。根据实施例,这个工具可以类似于图3中所示的X-Y校准工具,但设有一个或多个周期性重复的图案地标(诸如棋盘),而不是圆形地标。这使机器人能够使周期性重复的图案旋转通过相机的视场,同时也使周期性重复的图案能够被移动更接近或者更远离相机。
根据实施例,周期性重复的图案地标也可以被印刷在阶梯状工具上或者安装到阶梯状工具,诸如图4中所示的Z校准工具。在这种情况下,机器人并且因此相机独立于图案而移动,并且可以移动机器人使得图案在相机的视场内的多个不同的位置看得见。
根据实施例,可以确定如通过相机所视的周期性重复的图案地标的特征(例如,棋盘图案的边缘、单个视场和视场数)。由于地标的几何属性为***所知,故可以使用拟合算法来比较这些特征的坐标与特征的已知/预期位置。这些拟合算法可获自OpenCV、DLR CalLab和CalDe的相机校准工具箱——DLR相机校准工具箱、以及其他类似的软件库。然后,拟合算法可以用于估计计算机视觉***的内在和外在参数。内在和外在参数可以用于为使用中的相机-镜头组合确定失真系数。使用具有在不同的位置的一个或多个周期性重复的图案地标的多张图片,提高了通过算法确定的失真系数的准确性。
图9示出根据本发明的实施例的X-Y校准的方法。在一些实施例中,在镜头失真已被校正之后,可以使用X-Y校准工具来确定相机轴与夹持器单元轴之间的偏移量并且校准相机。上述X-Y校准工具可以被带入机器人的操作区域以确定相机轴与夹持器轴之间的X距离和Y距离。一旦X-Y校准过程已经开始,用户(例如,服务技术员)就可以被提示以将机器人定位在工具上方。然后,机器人可以移动到夹持高度,并且用户可以具有多一个机会来调整机器人的位置。在900,可以通过机械臂的夹持器单元来夹持X-Y校准工具,并且可以记录机器人的当前的X-Y位置。接着,机器人可以移动到工作表面的开放区,并且将工具降低到校准过程的指定或者预定高度。在902,夹持器单元可能以粗略增量的方式使X-Y校准工具旋转直到在由相机单元捕获的图像中成功地检测工具上的至少两个地标。接着,以小增量的方式使工具旋转直到不再可以检测最远地标。然后,使工具旋转通过相机的整个视场一次,并且以相等的时间间隔记录工具上的地标的位置。随着使X-Y校准工具旋转通过相机的视场,相机可以在编程时间间隔下获得多个图像以捕获校准工具的弧,以及蚀刻在其上的多个地标。在904,基于地标的记录位置,可以确定对应于第一轴的旋转的中点。由于在旋转期间一直沿着围绕夹持机器人的轴的圆形路径移动地标,故可以确定圆形路径的中点以便确定第一轴与第二轴之间的偏移量。在906,可以使用从第一轴到第二轴的偏移量来确定以像素为单位的距离。然而,由于机械公差,可能未将相机轴和夹持器单元轴彼此平行对准。因此,校准工具的观察路径是椭圆,而不是记录校准工具的圆形路径。
图10示出根据本发明的实施例的在校准期间X-Y校准工具的路径的投影。如上所述,由于镜头效应和倾斜的组合,以及相机轴相对于夹持器轴的偏移量,地标的圆形路径被记录为圆锥截面(诸如椭圆)。如图10中所示,1000指示世界坐标系中的圆,1002指示相机的光轴,并且1004指示以椭圆形式的相机***中的投影圆。
以下以数学形式显示这个投影:
以下内在成像矩阵K可以被假设为相机的成像属性:
其中f是焦距,并且点P=(u0,v0)描述图像的中点。点X=[X,Y,Z]然后被映射到点如下:
其中
其中K是上述内在相机属性的矩阵,[R T]是外在相机矩阵,其中R描述旋转,并且T描述相机坐标系相对于世界坐标系的平移,并且λ是不等于零的比例因子。
如果圆的中点被假设为[XC,YC,0],则圆中的每个点x将必须满足下列方程:
XTCX=0 (21)
其中C是定义圆的矩阵:
这个圆然后被描绘在椭圆ε上如下:
λE=H-TCH-1
其中H=K[R1 R2 T] (23)
其中R1和R2是旋转矩阵R中的前两列。椭圆现在可以被描述如下:
或者作为x和y的函数:
0=Ax2+Bxy+Cy2+Dx+Ey+F (25)
这是圆锥的一般描述,其中可以假设A=1而不失普遍性:
0=x2+Bxy+Cy2+Dx+Ey+F (26)
以下条件保证椭圆(并且因此排除抛物线和双曲线):
B2-4C<0, (27)
根据实施例,先前测量的点可以用于沿着圆的轨迹放置椭圆。为此,可以使用最小误差平方的方法。可以使用数值分析和数据处理库(诸如ALGLIB)来解决这个任务。也可以使用替代数值分析方法。为此,方程(15)中的函数可以被转移到拟合算法。此外,算法可以接收可以用于启动迭代的初始值。通过使用方程(15)中的五点组合然后求解方程***来确定这些值。使用一些可能的点组合重复这个过程,以便然后对计算出的系数求平均值。这些值然后被用作拟合算法的初始值,拟合算法使用迭代过程来确定关于最小误差平方的最佳解。
图11示出根据本发明的实施例的在校准期间由图像捕获设备的成像属性所产生的椭圆。如上文参照图10所描述而确定的椭圆1100中的每个的中点1102沿着直线1104分散。圆的投影中点现在位于连接椭圆的中点的一条线上。可以通过使用由投影保持的半径比以确定圆的中点的以下方法来确定圆的投影中点(其提供在X方向和Y方向上的偏移距离)。
在投影之前两个圆的半径比:
比率cr现在对应于由交叉点p1,p2,p41106、1108、1112产生的段的比率,其中连接椭圆的中点的线与椭圆相交:
其中
然后,可以使用圆的中点pc,pc pc1110到交叉点中的一个的距离来求解这个方程:
用于计算cr的半径对应于地标到旋转中心(或者换句话说,由夹持器单元抓住的X-Y校准工具的夹持部分的中点)的距离。可以在方法的应用中使用两个同心圆。由于在使用上述校准工具时检测到五个圆,这五个圆对应于校准工具上的五个地标,故双圆的总共十个不同的组合是可能的。最后,基于双圆的十个组合来确定计算出的中点的数学平均值和标准偏差,并且与被编程的极限值进行比较。当成功地确定中点时,则可以确定相机轴与夹持器单元轴之间的偏移量(以像素为单位)。如上所述,上面所用的半径对应于地标与夹持器单元轴之间的以像素为单位测量的距离。夹持器单元可以在相机的视场中使X-Y校准工具居中,相机可以识别图像的中心点,然后确定在X轴和Y轴上从中心点到距中心点最近的标记的像素的数量。基于从中心点到最近的标记的距离,以及从最近的标记到夹持器单元轴的距离,可以计算以像素为单位的偏移量。
在一些实施例中,可以确定像素与电机步长的比率以将圆的中点的坐标从以像素表示的相机坐标系转换成以步长表示的电机坐标系。为此,机械臂可以移动到开始时保存的工具记录位置,并且将工具放回到这个位置。首先,使地标在相机图像中居中。在一些实施例中,这可以是X-Y校准工具上的特定地标,诸如所述示例性工具的中间地标。然而,可以使用任何地标。机器人然后在X方向和Y方向上移动指定的距离(以步长为单位),而在同一时间,相机***记录地标的位置。然后使用这些值来计算两个轴的像素与步长的比率。使用圆的先前确定的中点,这个比率然后可以被用于确定夹持器轴到相机图像的中点的距离(以电机步长为单位)。
根据实施例,可以在至少一个其他夹持高度下重复上述校准过程,以确定线性偏移函数dx(z)=mxz+bx或者dy(z)=myz+by,其描述在方向X和Y上相机的光轴到夹持器机器人的机械轴的距离与高度Z之间的相关性。如果在多于两个的不同的高度下执行操作,则可以使用测量点(dx,y,z)来拟合线性函数。这个函数对应于在整个工作空间上光学相机轴相对于机械夹持器轴的倾斜度。
在另一实施例中,可以组合失真校正步骤与X-Y校准步骤。如上所述,随着使X-Y校准工具旋转通过相机的视场,相机可以获得一系列图像。工具可以包括一个或多个地标,诸如图3中所示的圆形地标或者周期性重复的图案地标(诸如棋盘)。如上所述,使用一系列图像,***可以确定失真校正参数。随后,失真校正可以应用于图像。如上所述,可以使用一系列失真校正图像来执行X-Y校准。通过将地标中的已知点拟合到一系列失真校正图像以确定圆形运动,可以确定X-Y校准系数。这些特定点可以包括圆形地标的中心点,或者周期性重复的图案地标中的边缘。
图12示出根据本发明的实施例的用于确定夹持器单元的高度的地标的三角测量。上文所述并且在图4中所示的Z校准工具可以用于这个过程。首先,机械臂可以移动到在Z校准工具上方的位置并且搜索第一地标。根据实施例,第一地标可以由可以通过相机识别的条形码或者其他标签来唯一地识别。机器人然后重新定位自己使得地标位于图像的中心。一旦已成功地使地标居中,机器人随即移动给定的距离至地标的左边或者右边,并且记录位置。在这个实例中,基于在相机图像层1200处地标从标记位置11202到标记位置21204的视差或者视位置的变化,可以执行三角测量。相机移动已知的距离至标记的左边或者右边。可以基于电机位置来确定距离(以步长为单位)。相机可以确定地标的视位置的变化(以像素为单位)。如图12中所示,基于这些测量,三角测量可以用于确定地标的高度(以每像素步长为单位):
在这种情况下,f对应于焦距。然而,因为由于进行测量时的景深范围导致f不能被清楚地确定,所以f可以被假设为1。一旦使用三角测量确定了地标的高度,就可以将所确定的高度转换成在z轴上的步长数。为此,可以使用上面确定的X-Y偏移量将机械臂直接定位在地标上面。接着,调整z轴的运动参数,使得在机械臂中的压力传感器检测到预先限定的阻力水平的情况下停止运动。然后,机器人可以沿着z轴被缓慢下降直到夹持器接触地标,此时压力传感器检测阻力并且使机器人停止。然后存储夹持器的当前位置(以步长为单位)。
根据实施例,这个过程可以在工具的所有三个步骤下重复进行。最后,三个测量点(z[步长/像素],z[步长])用于拟合线性函数。通过使用三角测量确定的高度(以像素为单位),这个函数现在可以用于确定z轴的高度(以步长为单位)。
图13示出根据实施例的Z校准的方法。在1300,识别Z校准工具上的第一地标。如上所述,Z校准工具可以包括定位在工作表面上面的不同的高度的多个地标。在1302,可以测量和存储从机械臂到第一地标的距离。如上所述,可以使用三角测量来计算到第一地标的距离以确定以每像素步长为单位的距离,并且夹持器单元的硬接触可以用于测量以步长为单位的高度,其中夹持器单元可以被降低直到其与地标接触。在1304,对于Z校准工具上的每个剩余的地标重复这个测量。在1306,使用每对测量值(以每像素步长为单位的距离,以及以步长为单位的距离)来拟合线性距离函数。线性距离函数然后可以用于在以像素为单位的相机坐标系与以步长为单位的机器人坐标系之间转换,由此校准Z轴上的机械臂。
根据实施例,也可以组合失真校正步骤与Z校准步骤。如上所述,为了校正镜头失真,相机可以获得一个或多个地标的一系列图像。可以使用具有一个或多个周期性重复的图案地标的Z校准工具(诸如图4中所示的Z校准工具)。地标可以放置在相机的视场内的多个不同的位置。使用这些图像,失真校正系数可以被确定并且然后被用来校正一系列图像中的失真。
使用失真校正图像,然后可以执行Z校准。由于周期性重复的图案地标的几何形状是已知的,故***可以用已知的图案确定像素与距离的关系。例如,棋盘图案地标中的边缘之间的距离可以存储在存储器中。一旦图像被校正失真,就可以分析图像以确定地标中的边缘之间的像素数,并且可以确定像素与距离的关系。如上所述,机械臂然后可以被降低以接触地标。机械臂移动以接触地标的距离可以被记录,并且被用来将像素与距离的关系转换成机器人参考系上的像素与步长的关系。根据实施例,对于z校准工具上的额外的步骤可以重复这个过程。
图14示出根据实施例的用于确定基于相机的自动对准***的精度的***。如图14中所示,在对准过程完成之后,探针1400可以由夹持器单元来夹持并且定位在工作表面上的地标1404上方。激光距离传感器1406可以用于通过用激光1402定标探针来确定到探针针尖的距离。用于精度测试的地标可以被选择,使得从地标的中点到邻近地标的壁的距离是已知的。然后测量从激光距离传感器到探针针尖的距离。然后确定所测量的距离与到后壁的距离之间的差。激光距离传感器1406然后可以按90°重新定位,并且可以重复这个过程。这两个测量产生两个点(X1,Y1)和(X2,Y2),并且已知的探针针尖半径R然后可以被用来确定探针针尖的中点如下:
Ym1,m2=a*Xm1,m2+b (37)
然而,这两个点和半径不提供最终解。如在公式(26)和(27)中可以看出,有圆的两个可能的中点(Xm1,m2,Ym1,m2);然而,通常在一个可能的中点与地标的测量中点之间有大的差异。一旦识别正确的中点,就可以比较中点测量以确定自动对准***的精度。
图15示出根据本发明的实施例的自动对准***的框图。自动对准***可以包括多个轴电机1500,其包括轴电机1500a、1500b和1500c。轴电机1500可以用于将三维空间中的机械臂和夹持器单元定位在工作表面上方。图像捕获设备1502(诸如相机)可以连接到夹持器单元并且用于自动对准机械臂与工作表面。一个或多个电机控制器1504和图像捕获设备控制器1506可以在自动对准过程期间从中央控制器1508中继转发指令。在一些实施例中,电机控制器1504可以记录来自每个轴电机的位置信息,诸如编码器计数或者步长,并且图像捕获设备控制器1506可以指示图像捕获设备以规则的时间间隔获得图像,并且将捕获的图像传递到中央控制器1508进行处理。中央控制器1508可以从处理器1510接收对准指令,并且返回从电机控制器和图像捕获设备控制器接收的对准结果(诸如位置信息和捕获的图像)。处理器1510可以使用从中央控制器返回的信息来确定相机轴与夹持器单元轴之间的偏移量,对夹持器单元的高度作三角测量,并且确定对准过程是否完成。在一些实施例中,图像处理器可以用于与处理器1510分开执行图像处理操作。处理器1510可以连接到存储器1512,存储器1512可以包括自动对准模块1512a,其可以包括由处理器1510可执行以执行自动对准的计算机代码,所述计算机代码包括轴电机沿着X-Y平面移动机械臂的指令,以及图像捕获设备捕获工作表面上的地标的图像并且分析捕获的图像的指令。存储器可以进一步包括所确定的地标位置1512b和对准数据1512c(包括工作表面上的元件(抽屉、工具等)相对于一个或多个地标位置的位置数据)的存储。
处理器1510可以包括用于处理数据的任何合适的数据处理器。例如,处理器可以包括一个或多个微处理器,其单独或一起起作用以使***的各种部件操作。
存储器1512可以包括按照任何合适的组合使用的任何适合类型的存储器设备。存储器1512可以包括使用任何合适的电、磁和/或光学数据存储技术来操作的一个或多个易失性或非易失性存储器设备。
本文参照附图所描述的各种参与者和要素可以操作一个或多个计算机装置以促进本文所描述的功能。上面描述中的任何要素(包括任何服务器、处理器或者数据库)可以使用任何适合数量的子***来促进本文所描述的功能,例如,用于操作和/或控制实验室自动化***、轴控制器、传感器控制器等的功能单元和模块的功能。
在图16中示出这些子***或者部件的实例。经由***总线4445使图16中所示的子***互连。示出额外的子***,诸如打印机4444、键盘4448、固定磁盘4449(或者包括计算机可读介质的其他存储器)、连接到显示适配器4482的监视器4446、以及其他。连接到I/O控制器4441(其可以是处理器或者其他合适的控制器)的***设备和输入/输出(I/O)设备可以通过本领域中已知的任何数量的装置(诸如串行端口4484)连接到计算机***。例如,串行端口4484或者外部接口4481可以用于将计算机装置连接到广域网(诸如互联网)、鼠标输入设备或者扫描仪。经由***总线的互连允许中央处理器4443与每个子***通信,并且控制来自***存储器4442或者固定磁盘4449的指令的执行,以及子***之间的信息的交换。***存储器4442和/或固定磁盘4449可以实施计算机可读介质。
本技术的实施例不限于上述实施例。以上提供了关于一些上述方面的具体细节。在不脱离本技术的实施例的精神和范围的情况下,可能以任何合适的方式组合具体方面的具体细节。例如,后端处理、数据分析、数据采集和其他过程都可以在本技术的一些实施例中进行组合。然而,本技术的其他实施例可以针对与每个个别方面,或者这些个别方面的具体组合有关的具体实施例。
应理解,如上所述的本技术可以采用以模块化或者集成方式使用计算机软件(存储在有形物理介质中)的控制逻辑的形式来实施。此外,本技术可以采用任何图像处理和/或任何图像处理的组合的形式来实施。基于本文提供的公开和教导,本领域普通技术人员将知道并了解使用硬件以及硬件和软件的组合来实施本技术的其他方式和/或方法。
在本申请中描述的任何软件部件或者功能可以被实施为由处理器使用例如常规或者面向对象技术,使用例如Java、C++或者Perl的任何合适的计算机语言来执行的软件代码。软件代码可以作为一系列指令或者命令存储在计算机可读介质上,诸如随机存取存储器(RAM)、只读存储器(ROM)、磁性介质(诸如硬盘驱动器或者软盘)、或者光学介质(诸如CD-ROM)。任何这种计算机可读介质可以驻留在单个计算装置上或者其内部,并且可以存在于***或者网络内的不同计算装置上或者其内部。
以上描述是说明性而非限制性的。在审阅本公开后,本技术的许多变化对本领域技术人员而言将变得显而易见。因此,本技术的范围不应参考以上描述来确定,而是应参考所附权利要求以及其全部范围或者等效物来确定。
来自任何实施例的一个或多个特征可以与任何其他实施例的一个或多个特征结合而不脱离本技术的范围。
对“一”或者“该”的叙述旨在表示“ー个或多个”,除非有具体地相反指示。
以上提及的所有专利、专利申请、出版物以及描述为了达到所有目的以引用的方式整体并入本文。没有任何内容被承认为是现有技术。
Claims (23)
1.一种自动对准的方法,包括:
通过在第一轴上的在工作表面上方的第一高度的机械臂的夹持器单元夹持X-Y校准工具;
通过在第二轴上的相机获取在所述第一高度的所述X-Y校准工具的图像,其中所述相机连接到所述夹持器单元;以及
分析在所述第一高度的所述第一校准工具的图像,以确定所述第二轴与所述第一轴之间的偏移量。
2.根据权利要求1所述的方法,进一步包括:
使所述X-Y校准工具旋转通过所述相机的视场,其中所述X-Y校准工具包括大体上平坦的部分,所述部分包括多个地标;以及
其中分析所述X-Y校准工具的图像包括:
识别多个椭圆路径,每个椭圆路径对应于所述图像中的所述地标中的一个,
确定对应于所述第一轴的所述多个椭圆路径的中心点,
基于所述多个椭圆路径的中心点,确定所述第一轴与第二轴之间的偏移量。
3.根据权利要求2所述的方法,进一步包括:
定位所述机械臂使得所述相机在地标上方居中,并且记录以像素为单位的所述地标的第一位置;
在X方向和Y方向上移动所述机械臂预定步长数,并且记录以像素为单位的所述地标的第二位置;
基于所述第一位置与所述第二位置之间的差值以及所述预定步长数,确定步长与像素的转换率。
4.根据权利要求2所述的方法,进一步包括:
夹持在第二高度的所述X-Y校准工具;
通过所述相机获取在所述第二高度的所述X-Y校准工具的图像;
分析在所述第二高度的所述X-Y校准工具的图像,以确定所述第二轴与所述第一轴之间的第二偏移量;
夹持在第三高度的所述X-Y校准工具;
通过所述相机获取在所述第三高度的所述X-Y校准工具的图像;
分析在所述第三高度的所述X-Y校准工具的图像,以确定所述第二轴与所述第一轴之间的第三偏移量;以及
使用所述三个偏移量和三个高度来确定线性偏移函数。
5.根据权利要求1所述的方法,其中所述X-Y校准工具上的至少一个地标为周期性重复的图案,并且其中分析所述X-Y校准工具的图像以确定所述第二轴与所述第一轴之间的偏移量进一步包括:
分析所述图像以使用所述周期性重复的图案来确定至少一个失真校正参数,其中所述至少一个失真校正参数可以用于校正所述图像中的镜头相关的失真;以及
将所述至少一个失真校正参数应用于所述图像以产生失真校正图像。
6.根据权利要求1所述的方法,进一步包括:
识别工作表面上的一个或多个元件上的一个或多个地标,以对准所述机械臂与所述工作表面。
7.根据权利要求1所述的方法,其中所述相机连接到所述夹持器单元,使得在所述夹持器单元沿着正交于所述工作表面的Z轴移动时将所述相机保持在固定的高度。
8.一种自动对准的方法,包括:
将机械臂的夹持器单元定位在Z校准工具上方的预定高度,其中所述Z校准工具包括多个水平面上的多个地标;
在所述Z校准工具上的第一地标上方沿着Z轴校准所述夹持器单元,其中校准包括:
沿着所述Z轴将所述夹持器单元向所述Z校准工具上的所述第一地标移动直到所述夹持器单元与所述Z校准工具接触;以及
确定所述夹持器单元从所述预定高度到与所述Z校准工具接触所行进的第一步长数。
9.根据权利要求8所述的方法,其中在第一地标上方沿着Z轴校准所述夹持器单元进一步包括:
使用三角测量,在所述Z校准工具上的所述第一地标上方确定所述夹持器单元的以像素为单位的第一高度。
10.根据权利要求8所述的方法,进一步包括:
在所述Z校准工具上的至少两个额外的地标上方沿着所述Z轴校准所述夹持器单元;以及
基于所述地标中的每个的校准结果,确定将以像素为单位的高度转换成以步长为单位的高度的距离函数。
11.根据权利要求8所述的方法,其中所述Z校准工具上的至少一个地标为周期性重复的图案,并且其中使用Z校准工具在Z轴上校准所述夹持器进一步包括:
分析所述Z校准工具的图像以使用所述周期性重复的图案来确定至少一个失真校正参数,其中所述至少一个失真校正参数可以用于校正所述图像中的镜头相关的失真;以及
将所述至少一个失真校正参数应用于所述图像以产生失真校正图像。
12.一种自动对准的方法,包括:
通过在第一轴上的夹持器单元夹持校准工具;
通过在第二轴上的相机获取所述校准工具的图像,其中所述相机连接到所述夹持器;
分析所述图像以确定至少一个失真校正参数,其中所述至少一个失真校正参数可以用于校正所述图像中的镜头相关的失真;以及
将所述至少一个失真校正参数应用于所述图像以产生失真校正图像。
13.根据权利要求12所述的方法,进一步包括:
分析所述失真校正图像,以使用在所述失真校正图像中显示的X-Y校准工具上的一个或多个地标来确定所述第二轴与所述第一轴之间的偏移量。
14.根据权利要求13所述的方法,进一步包括:
使用提供在Z校准工具上的一个或多个地标,使用所述失真校正图像在Z轴上校准所述夹持器,其中在所述Z轴上校准所述夹持器包括对提供在所述Z校准工具上的地标作三角测量。
15.根据权利要求14所述的方法,其中在Z轴上校准所述夹持器进一步包括通过沿着所述Z轴将所述夹持器向所述Z校准工具移动直到所述夹持器与所述Z校准工具接触,物理校准所述夹持器。
16.一种组件,包括:
机械臂,其包括夹持器单元,其中所述机械臂被配置成在工作表面上方在三维空间上移动;以及
相机,其连接到所述夹持器单元,使得在所述夹持器单元沿着大体上正交于所述工作表面的Z轴移动时将所述相机保持在固定的高度。
17.根据权利要求16所述的组件,进一步包括:
自动对准***,其包括连接到所述机械臂和相机的一个或多个控制器,其中所述自动对准***被配置成指示所述机械臂夹持X-Y校准工具并且使所述X-Y校准工具旋转通过所述相机的视场,并且其中所述自动对准***被配置成在使所述X-Y校准工具旋转时指示所述相机捕获所述X-Y校准工具的图像;以及
其中所述自动对准***进一步被配置成分析所述X-Y校准工具的图像,以确定对应于所述夹持器单元的第一轴与对应于所述相机的第二轴之间的偏移量。
18.根据权利要求17所述的组件,其中所述自动对准***进一步被配置成:
识别多个椭圆路径,每个椭圆路径对应于所述图像中的所述地标中的一个,
确定对应于所述第一轴的所述多个椭圆路径的中心点,
基于所述多个椭圆路径的中心点,确定所述第一轴与第二轴之间的偏移量。
19.根据权利要求18所述的组件,其中所述自动对准***进一步被配置成:
指示所述机械臂夹持在第二高度的所述X-Y校准工具;
指示所述相机获取在所述第二高度的所述X-Y校准工具的图像;
分析在所述第二高度的所述X-Y校准工具的图像,以确定所述第二轴与所述第一轴之间的第二偏移量;
指示所述机械臂夹持在第三高度的所述X-Y校准工具;
通过所述相机获取在所述第三高度的所述X-Y校准工具的图像;
指示所述相机获取在所述第三高度的所述X-Y校准工具的所述图像以确定所述第二轴与所述第一轴之间的第三偏移量;以及
使用所述三个偏移量和所述三个高度来确定线性偏移函数。
20.根据权利要求17所述的组件,其中所述自动对准***进一步被配置成:
定位所述机械臂使得所述相机在地标上方居中,并且记录所述地标的以像素为单位的第一位置;
在X方向和Y方向上移动所述机械臂预定步长数,并且记录所述地标的以像素为单位的第二位置;
基于所述第一位置与所述第二位置之间的差值以及所述预定步长数,确定步长与像素的转换率。
21.根据权利要求17所述的组件,其中所述自动对准***进一步被配置成:
指示所述相机捕获包括周期性重复的图案的地标的图像;
分析包括所述周期性重复的图案的所述地标的图像以使用所述周期性重复的图案来确定至少一个失真校正参数,其中所述至少一个失真校正参数可以用于校正所述图像中的镜头相关的失真;以及
将所述至少一个失真校正参数应用于所述X-Y校准工具的图像以产生失真校正图像。
22.根据权利要求17所述的组件,其中所述自动对准***进一步被配置成:
在Z校准工具上方的预定高度定位所述机械臂的夹持器单元,其中所述Z校准工具包括多个水平面上的多个地标;
在所述Z校准工具上的第一地标上方沿着Z轴校准所述夹持器单元,其中校准包括:
使用三角测量,在所述Z校准工具上的所述第一地标上方确定所述夹持器单元的以像素为单位的第一高度;
沿着所述Z轴将所述夹持器单元向所述Z校准工具上的所述第一地标移动直到所述夹持器单元与所述Z校准工具接触;以及
确定所述夹持器单元从所述预定高度到与所述Z校准工具接触所行进的第一步长数。
23.根据权利要求22所述的组件,其中所述自动对准***进一步被配置成:
在所述Z校准工具上的至少两个额外的地标上方沿着所述Z轴校准所述夹持器单元;以及
基于所述地标中的每个的校准结果,确定将以像素为单位的高度转换成以步长为单位的高度的距离函数。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261710612P | 2012-10-05 | 2012-10-05 | |
US61/710,612 | 2012-10-05 | ||
US201261745252P | 2012-12-21 | 2012-12-21 | |
US61/745,252 | 2012-12-21 | ||
US201361772971P | 2013-03-05 | 2013-03-05 | |
US61/772,971 | 2013-03-05 | ||
PCT/US2013/063523 WO2014055909A2 (en) | 2012-10-05 | 2013-10-04 | System and method for camera-based auto-alignment |
Publications (1)
Publication Number | Publication Date |
---|---|
CN104703762A true CN104703762A (zh) | 2015-06-10 |
Family
ID=49447830
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380051764.7A Pending CN104703762A (zh) | 2012-10-05 | 2013-10-04 | 基于相机的自动对准的***和方法 |
Country Status (8)
Country | Link |
---|---|
US (1) | US20140100694A1 (zh) |
EP (1) | EP2903786A2 (zh) |
JP (1) | JP2015530276A (zh) |
KR (1) | KR20150067163A (zh) |
CN (1) | CN104703762A (zh) |
BR (1) | BR112015007050A2 (zh) |
IN (1) | IN2015DN02064A (zh) |
WO (1) | WO2014055909A2 (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107972065A (zh) * | 2016-10-21 | 2018-05-01 | 和硕联合科技股份有限公司 | 机械手臂定位方法及应用其的*** |
CN108665542A (zh) * | 2018-04-25 | 2018-10-16 | 南京理工大学 | 一种基于线激光的场景三维形貌重建***及方法 |
CN109968347A (zh) * | 2017-12-28 | 2019-07-05 | 沈阳新松机器人自动化股份有限公司 | 一种七轴机器人的零位标定方法 |
CN110193832A (zh) * | 2019-03-29 | 2019-09-03 | 牧今科技 | 验证和更新机器人控制用相机校准的方法和控制*** |
CN110978056A (zh) * | 2019-12-18 | 2020-04-10 | 东莞市沃德精密机械有限公司 | 机器人运动的平面校准***及方法 |
CN111862051A (zh) * | 2020-02-04 | 2020-10-30 | 牧今科技 | 执行自动相机校准的方法和*** |
CN112008717A (zh) * | 2019-05-30 | 2020-12-01 | 松下i-PRO传感解决方案株式会社 | 相机和机器人*** |
CN113195171A (zh) * | 2018-11-01 | 2021-07-30 | 泰连服务有限公司 | 用于带有工具偏移量的相机-机器人***的自动校准 |
CN114485767A (zh) * | 2020-10-23 | 2022-05-13 | 深圳市神州云海智能科技有限公司 | 多传感器的配置***、配置工具、方法及存储介质 |
CN114909994A (zh) * | 2022-04-29 | 2022-08-16 | 深圳市中图仪器股份有限公司 | 影像测量仪的校准方法 |
US11508088B2 (en) | 2020-02-04 | 2022-11-22 | Mujin, Inc. | Method and system for performing automatic camera calibration |
US11590656B2 (en) | 2019-03-29 | 2023-02-28 | Mujin, Inc. | Method and control system for verifying and updating camera calibration for robot control |
Families Citing this family (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102013214694B4 (de) * | 2013-07-26 | 2015-02-12 | Roche Pvt Gmbh | Verfahren zum Handhaben eines Gegenstands und Vorrichtung zum Handhaben von Gegenständen |
US10318067B2 (en) | 2014-07-11 | 2019-06-11 | Hewlett-Packard Development Company, L.P. | Corner generation in a projector display area |
US10525597B2 (en) * | 2014-11-21 | 2020-01-07 | Seiko Epson Corporation | Robot and robot system |
ES2753441T3 (es) * | 2015-01-16 | 2020-04-08 | Comau Spa | Aparato para el remachado |
CN105157725B (zh) * | 2015-07-29 | 2018-06-29 | 华南理工大学 | 一种二维激光视觉传感器和机器人的手眼标定方法 |
US10311596B2 (en) * | 2015-10-16 | 2019-06-04 | Seiko Epson Corporation | Image processing device, robot, robot system, and marker |
FR3043004B1 (fr) * | 2015-10-29 | 2017-12-22 | Airbus Group Sas | Procede d'orientation d'un effecteur portant un outil d'assemblage par rapport a une surface |
WO2017092809A1 (en) * | 2015-12-03 | 2017-06-08 | Abb Schweiz Ag | A method for teaching an industrial robot to pick parts |
CN108463313A (zh) * | 2016-02-02 | 2018-08-28 | Abb瑞士股份有限公司 | 机器人***校准 |
DE102016005699B3 (de) * | 2016-05-12 | 2017-05-18 | Carl Zeiss Automated Inspection GmbH | Verfahren zum Kalibrieren einer Messvorrichtung zur Vermessung von Karosserieteilen und anderen Werkstücken sowie zur Durchführung des Verfahrens geeignete Messvorrichtung |
JP6805323B2 (ja) * | 2016-07-14 | 2020-12-23 | シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. | ロボットグリッパーと構成要素との間の位置方位を較正する方法及び装置 |
KR101944339B1 (ko) * | 2016-08-03 | 2019-01-31 | 이승학 | 단일 카메라를 이용한 대상물의 3차원 좌표 추출 장치 및 그 방법 |
WO2018026186A1 (ko) * | 2016-08-03 | 2018-02-08 | 이승학 | 단일 카메라를 이용한 대상물의 3차원 좌표 추출 장치 및 그 방법 |
US10354371B2 (en) * | 2016-10-06 | 2019-07-16 | General Electric Company | System, method and apparatus for locating the position of a component for use in a manufacturing operation |
CN109996653B (zh) * | 2016-11-17 | 2022-09-02 | 株式会社富士 | 作业位置校正方法及作业机器人 |
JP2018122376A (ja) * | 2017-01-31 | 2018-08-09 | セイコーエプソン株式会社 | 画像処理装置、ロボット制御装置、及びロボット |
JP6707485B2 (ja) * | 2017-03-22 | 2020-06-10 | 株式会社東芝 | 物体ハンドリング装置およびその較正方法 |
JP2019025572A (ja) * | 2017-07-28 | 2019-02-21 | セイコーエプソン株式会社 | ロボットの制御装置、ロボット、ロボットシステム、並びに、ロボットの異常を確認する方法 |
KR102583530B1 (ko) | 2017-11-16 | 2023-10-05 | 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 | 원격조작을 위한 마스터/슬레이브 정합 및 제어 |
CN110709024A (zh) | 2017-11-21 | 2020-01-17 | 直观外科手术操作公司 | 用于直观运动的主/工具配准和控制的***和方法 |
TWI711910B (zh) * | 2018-03-19 | 2020-12-01 | 達明機器人股份有限公司 | 機器手臂校正臂外相機的方法 |
MX2020011540A (es) | 2018-04-30 | 2021-10-04 | Path Robotics Inc | Escaner láser que rechaza la reflexión. |
US11897127B2 (en) | 2018-10-22 | 2024-02-13 | Intuitive Surgical Operations, Inc. | Systems and methods for master/tool registration and control for intuitive motion |
WO2020140077A1 (en) * | 2018-12-28 | 2020-07-02 | Beckman Coulter, Inc. | Methods and systems for picking and placing vessels and for aligning an instrument |
US10369698B1 (en) * | 2019-03-07 | 2019-08-06 | Mujin, Inc. | Method and system for performing automatic camera calibration for robot control |
US10925687B2 (en) * | 2019-07-12 | 2021-02-23 | Synaptive Medical Inc. | System and method for optical axis calibration |
DE112019007698T5 (de) | 2019-09-10 | 2022-06-23 | Nalux Co., Ltd. | Montagevorrichtung und verfahren zum einstellen derselben |
DE102020118790A1 (de) * | 2020-02-04 | 2021-08-05 | Mujin, Inc. | Verfahren und system zum durchführen einer automatischen kamerakalibrierung |
US20210291376A1 (en) * | 2020-03-18 | 2021-09-23 | Cognex Corporation | System and method for three-dimensional calibration of a vision system |
US11584013B2 (en) | 2020-03-31 | 2023-02-21 | Wipro Limited | System, device and method for determining error in robotic manipulator-to-camera calibration |
US11407110B2 (en) | 2020-07-17 | 2022-08-09 | Path Robotics, Inc. | Real time feedback and dynamic adjustment for welding robots |
WO2022182894A1 (en) | 2021-02-24 | 2022-09-01 | Path Robotics Inc. | Autonomous welding robots |
CN114027980B (zh) * | 2021-10-30 | 2023-07-21 | 浙江德尚韵兴医疗科技有限公司 | 一种介入手术机器人***及其标定与误差补偿方法 |
KR102651649B1 (ko) * | 2021-11-23 | 2024-03-26 | 세메스 주식회사 | 기판 처리 장치 및 이를 이용한 기판 처리 방법 |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4380696A (en) * | 1980-11-12 | 1983-04-19 | Unimation, Inc. | Method and apparatus for manipulator welding apparatus with vision correction for workpiece sensing |
US5297238A (en) * | 1991-08-30 | 1994-03-22 | Cimetrix Incorporated | Robot end-effector terminal control frame (TCF) calibration method and device |
US5978521A (en) * | 1997-09-25 | 1999-11-02 | Cognex Corporation | Machine vision methods using feedback to determine calibration locations of multiple cameras that image a common object |
US5978080A (en) * | 1997-09-25 | 1999-11-02 | Cognex Corporation | Machine vision methods using feedback to determine an orientation, pixel width and pixel height of a field of view |
US6778263B2 (en) * | 2000-08-25 | 2004-08-17 | Amnis Corporation | Methods of calibrating an imaging system using calibration beads |
JP2002172575A (ja) * | 2000-12-07 | 2002-06-18 | Fanuc Ltd | 教示装置 |
US6612043B2 (en) * | 2001-06-08 | 2003-09-02 | Industrial Technology Research Institute | Method and apparatus for vertically calibrating wire of wire cutting electric discharge machine |
CA2369845A1 (en) * | 2002-01-31 | 2003-07-31 | Braintech, Inc. | Method and apparatus for single camera 3d vision guided robotics |
DE10345743A1 (de) * | 2003-10-01 | 2005-05-04 | Kuka Roboter Gmbh | Verfahren und Vorrichtung zum Bestimmen von Position und Orientierung einer Bildempfangseinrichtung |
JP3905073B2 (ja) * | 2003-10-31 | 2007-04-18 | ファナック株式会社 | アーク溶接ロボット |
US7319920B2 (en) * | 2003-11-10 | 2008-01-15 | Applied Materials, Inc. | Method and apparatus for self-calibration of a substrate handling robot |
DE102004005380A1 (de) * | 2004-02-03 | 2005-09-01 | Isra Vision Systems Ag | Verfahren zur Bestimmung der Lage eines Objekts im Raum |
DE102004027445B4 (de) * | 2004-06-04 | 2008-01-31 | Jungheinrich Aktiengesellschaft | Vorrichtung zum Halten einer Last auf einem Lasttragmittel eines Flurförderzeugs |
US7206667B2 (en) * | 2004-06-18 | 2007-04-17 | Siemens Medical Solutions Diagnostics | Robot alignment system and method |
WO2006007716A2 (en) * | 2004-07-20 | 2006-01-26 | Resonant Medical Inc. | Calibrating imaging devices |
US20060047363A1 (en) * | 2004-08-31 | 2006-03-02 | Farrelly Philip J | Machine vision system for lab workcells |
TWI307484B (en) * | 2006-02-21 | 2009-03-11 | Univ Nat Chiao Tung | Image capture apparatus calibration system and method there |
JP5241353B2 (ja) * | 2007-07-31 | 2013-07-17 | 株式会社日立ハイテクノロジーズ | 走査型電子顕微鏡の調整方法、及び走査電子顕微鏡 |
US20090182454A1 (en) * | 2008-01-14 | 2009-07-16 | Bernardo Donoso | Method and apparatus for self-calibration of a substrate handling robot |
US8139219B2 (en) * | 2008-04-02 | 2012-03-20 | Suss Microtec Lithography, Gmbh | Apparatus and method for semiconductor wafer alignment |
CN101556440B (zh) * | 2008-04-11 | 2012-03-28 | 鸿富锦精密工业(深圳)有限公司 | 对准装置 |
US8583392B2 (en) * | 2010-06-04 | 2013-11-12 | Apple Inc. | Inertial measurement unit calibration system |
US8619528B2 (en) * | 2011-08-31 | 2013-12-31 | Seagate Technology Llc | Method and system for optical calibration |
-
2013
- 2013-10-04 WO PCT/US2013/063523 patent/WO2014055909A2/en active Application Filing
- 2013-10-04 IN IN2064DEN2015 patent/IN2015DN02064A/en unknown
- 2013-10-04 EP EP13779687.6A patent/EP2903786A2/en not_active Withdrawn
- 2013-10-04 JP JP2015535833A patent/JP2015530276A/ja active Pending
- 2013-10-04 CN CN201380051764.7A patent/CN104703762A/zh active Pending
- 2013-10-04 KR KR1020157008334A patent/KR20150067163A/ko not_active Application Discontinuation
- 2013-10-04 BR BR112015007050A patent/BR112015007050A2/pt not_active IP Right Cessation
- 2013-10-04 US US14/046,829 patent/US20140100694A1/en not_active Abandoned
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107972065A (zh) * | 2016-10-21 | 2018-05-01 | 和硕联合科技股份有限公司 | 机械手臂定位方法及应用其的*** |
CN107972065B (zh) * | 2016-10-21 | 2020-06-16 | 和硕联合科技股份有限公司 | 机械手臂定位方法及应用其的*** |
CN109968347A (zh) * | 2017-12-28 | 2019-07-05 | 沈阳新松机器人自动化股份有限公司 | 一种七轴机器人的零位标定方法 |
CN109968347B (zh) * | 2017-12-28 | 2022-01-14 | 沈阳新松机器人自动化股份有限公司 | 一种七轴机器人的零位标定方法 |
CN108665542A (zh) * | 2018-04-25 | 2018-10-16 | 南京理工大学 | 一种基于线激光的场景三维形貌重建***及方法 |
CN113195171A (zh) * | 2018-11-01 | 2021-07-30 | 泰连服务有限公司 | 用于带有工具偏移量的相机-机器人***的自动校准 |
CN113195171B (zh) * | 2018-11-01 | 2024-03-08 | 泰连服务有限公司 | 用于带有工具偏移量的相机-机器人***的自动校准 |
CN110193832B (zh) * | 2019-03-29 | 2022-07-05 | 牧今科技 | 验证和更新机器人控制用相机校准的方法和控制*** |
US11590656B2 (en) | 2019-03-29 | 2023-02-28 | Mujin, Inc. | Method and control system for verifying and updating camera calibration for robot control |
CN110193832A (zh) * | 2019-03-29 | 2019-09-03 | 牧今科技 | 验证和更新机器人控制用相机校准的方法和控制*** |
CN112008717A (zh) * | 2019-05-30 | 2020-12-01 | 松下i-PRO传感解决方案株式会社 | 相机和机器人*** |
US11813740B2 (en) | 2019-05-30 | 2023-11-14 | i-PRO Co., Ltd. | Camera and robot system |
CN110978056B (zh) * | 2019-12-18 | 2021-10-22 | 东莞市沃德精密机械有限公司 | 机器人运动的平面校准***及方法 |
CN110978056A (zh) * | 2019-12-18 | 2020-04-10 | 东莞市沃德精密机械有限公司 | 机器人运动的平面校准***及方法 |
CN111862051A (zh) * | 2020-02-04 | 2020-10-30 | 牧今科技 | 执行自动相机校准的方法和*** |
US11508088B2 (en) | 2020-02-04 | 2022-11-22 | Mujin, Inc. | Method and system for performing automatic camera calibration |
CN114485767A (zh) * | 2020-10-23 | 2022-05-13 | 深圳市神州云海智能科技有限公司 | 多传感器的配置***、配置工具、方法及存储介质 |
CN114909994A (zh) * | 2022-04-29 | 2022-08-16 | 深圳市中图仪器股份有限公司 | 影像测量仪的校准方法 |
CN114909994B (zh) * | 2022-04-29 | 2023-10-20 | 深圳市中图仪器股份有限公司 | 影像测量仪的校准方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2014055909A2 (en) | 2014-04-10 |
KR20150067163A (ko) | 2015-06-17 |
BR112015007050A2 (pt) | 2017-07-04 |
JP2015530276A (ja) | 2015-10-15 |
US20140100694A1 (en) | 2014-04-10 |
IN2015DN02064A (zh) | 2015-08-14 |
WO2014055909A3 (en) | 2014-07-17 |
EP2903786A2 (en) | 2015-08-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104703762A (zh) | 基于相机的自动对准的***和方法 | |
JP6280525B2 (ja) | カメラのミスキャリブレーションの実行時決定のためのシステムと方法 | |
US8520067B2 (en) | Method for calibrating a measuring system | |
JP5270670B2 (ja) | 2次元画像による3次元組立て検査 | |
CN104853886A (zh) | 用于基于激光的自动对准的***和方法 | |
CN101568891B (zh) | 定位工具用x-y定位的校准方法及具有这种定位工具的装置 | |
JP2008014940A (ja) | 平面状被撮像物のカメラ計測のためのカメラキャリブレーション方法、および応用計測装置 | |
JP2009511881A (ja) | 実用的な3dビジョンシステムの方法および装置 | |
JP2009172718A (ja) | 作業装置及びその校正方法 | |
US8106349B2 (en) | Vision alignment with multiple cameras and common coordinate at contactor for IC device testing handlers | |
JP7189988B2 (ja) | ビジョンシステムの3次元校正のためのシステム及び方法 | |
US20200262080A1 (en) | Comprehensive model-based method for gantry robot calibration via a dual camera vision system | |
Stein | Internal camera calibration using rotation and geometric shapes | |
JP5464468B2 (ja) | 基板検査装置及び検査治具 | |
US11580667B2 (en) | Systems and methods for characterizing object pose detection and measurement systems | |
US20210065356A1 (en) | Apparatus and method for heat exchanger inspection | |
CN111145247B (zh) | 基于视觉的位置度检测方法及机器人、计算机存储介质 | |
CN111754584A (zh) | 一种远距离大视场相机参数标定***和方法 | |
KR101626374B1 (ko) | 모서리 기반 코너 추정을 이용한 정밀 위치 보정 방법 | |
CN115290008A (zh) | 一种影像测量平行光管的角度标定算法 | |
US20210233276A1 (en) | Imaging system | |
WO2005073669A1 (en) | Semi and fully-automatic camera calibration tools using laser-based measurement devices | |
Joochim et al. | The 9 points calibration using SCARA robot | |
CN117697828B (zh) | 一种手术机器人精度测量工装及精度测量方法 | |
Liang et al. | Pose Alignment for Electronic Component Insertion Using Rotational Stereo Vision |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20150610 |