CN110136068A - 基于双侧远心镜头相机之间位置标定的音膜球顶装配*** - Google Patents
基于双侧远心镜头相机之间位置标定的音膜球顶装配*** Download PDFInfo
- Publication number
- CN110136068A CN110136068A CN201910209810.0A CN201910209810A CN110136068A CN 110136068 A CN110136068 A CN 110136068A CN 201910209810 A CN201910209810 A CN 201910209810A CN 110136068 A CN110136068 A CN 110136068A
- Authority
- CN
- China
- Prior art keywords
- camera
- sound film
- top dome
- image
- telecentric lens
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000002146 bilateral effect Effects 0.000 title claims abstract description 30
- 239000013598 vector Substances 0.000 claims abstract description 34
- 238000013519 translation Methods 0.000 claims abstract description 15
- 230000014616 translation Effects 0.000 claims abstract description 15
- 238000000605 extraction Methods 0.000 claims abstract description 9
- 239000011159 matrix material Substances 0.000 claims description 45
- 230000007704 transition Effects 0.000 claims description 24
- 239000003550 marker Substances 0.000 claims description 15
- 238000012545 processing Methods 0.000 claims description 12
- 238000005457 optimization Methods 0.000 claims description 11
- 241000208340 Araliaceae Species 0.000 claims description 6
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims description 6
- 235000003140 Panax quinquefolius Nutrition 0.000 claims description 6
- 235000008434 ginseng Nutrition 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 3
- 230000006870 function Effects 0.000 description 12
- 238000000034 method Methods 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013016 damping Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 230000000930 thermomechanical effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
- G06T3/604—Rotation of whole images or parts thereof using coordinate rotation digital computer [CORDIC] devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Abstract
基于双侧远心镜头相机之间位置标定的音膜球顶装配***,包括使用双侧远心镜头的相机和能够在三轴向平移的机床,音膜相机和球顶相机相互位置标定时执行以下操作:在透明平台上放置一块透明标定物,音膜相机和球顶相机对标定物拍照得到标定物图像,分别对相机标定物图像进行特征点提取,获得每个特征点的像素坐标,将特征点像素坐标都转换到机床坐标系下,计算球顶相机和音膜相机在机床坐标系下的向量差,得出音膜相机和球顶相机之间的相对位置。本发明依靠视觉的定位装配,通过一种基于视觉的音膜球顶自动装配***,完善了相机之间的相互位置误差标定,提高相机的图像采集性能,并且降低***对于机械设备精度的要求,提高***的装配精度。
Description
技术领域
本发明涉及视觉检测领域,特别涉及一种使用双侧远心镜头进行音膜和球顶的自动装配的***。
背景技术
如今电子产品的应用越来越广泛,尤其是电子产品的配件如音膜,球顶等,由于配件精细,需要纯手工进行装配,但是纯手工装配不仅劳动强度大,效率低,而且装配过程中经常会出现犯错,产品成品率非常低。
依靠视觉的定位来装配精细配件,利用完善的***误差标定来提高相机的图像采集性能,并且可以极大的降低***对于机械设备精度的要求,从而提高***的装配精度。
相机的成像模型就是用数学公式刻画整个成像过程,即被拍摄物体空间点到照片成像点之间的几何变换关系。
总体上,相机成像可以分为四个步骤:刚体变换(从世界坐标系到相机坐标系)、透视投影(从相机坐标系到理想图像坐标系)、畸变校正(从理想图像坐标系到真实图像坐标系)和数字化图像(从真实图像坐标系到数字化图像坐标系)。
世界坐标系:客观三维世界的绝对坐标系,也称客观坐标系。因为数码相机安放在三维空间中,我们需要世界坐标系这个基准坐标系来描述数码相机的位置,并且用它来描述安放在此三维环境中的其它任何物体的位置,用(X,Y,Z)表示其坐标值。
相机坐标系(光心坐标系):以相机的光心为坐标原点,X轴和Y轴分别平行于图像坐标系的X轴和Y轴,相机的光轴为Z轴,用(Xc,Yc,Zc)表示其坐标值。
图像坐标系:以CCD图像平面的中心为坐标原点,X轴和Y轴分别平行于图像平面的两条垂直边,用(x,y)表示其坐标值。图像坐标系是用物理单位(例如毫米)表示像素在图像中的位置。
像素坐标系:以CCD图像平面的左上角顶点为原点,X轴和Y轴分别平行于图像坐标系的X轴和Y轴,用(u,v)表示其坐标值。数码相机采集的图像首先是形成标准电信号的形式,然后再通过模数转换变换为数字图像。每幅图像的存储形式是M×N的数组,M行N列的图像中的每一个元素的数值代表的是图像点的灰度。这样的每个元素叫像素,像素坐标系就是以像素为单位的图像坐标系。
对于相机标定,现有的比较通用且成熟的技术为针对针孔相机模型的张正友标定算法,通过棋盘格标定板即可标定出相机的内外参,MATLAB工具箱和OpenCV的标定函数均可实现该标定过程。
而这些相机标定算法只能针对普通镜头。
普通针孔相机目标物体越靠近镜头(工作距离越短),所成的像就越大。在使用普通镜头进行视觉识别时,会存在如下问题:1.由于被测量物体不在同一个测量平面,而造成放大倍率的不同。2.镜头畸变大。3.存在视差也就是当物距变大时,对物体的放大倍数也改变。4.镜头的解析度不高。5.由于视觉光源的几何特性,而造成的图像边缘位置的不确定性。
对于一个带有视觉的机器人***,相机得到的所有信息都是在相机坐标系下描述的。要让机器人根据视觉***得到的信息,第一步要做的就是确定相机坐标系与机器人之间的相互位置关系,这就是机器人手眼标定的研究内容。
对于机器人的手眼标定,直接让机械臂在空间中运动两个位置,保证这两个位置下都可以看到标定板。然后构建空间变换回路AX=XB,求得手眼关系。
机器人***是一个三轴移动的机床,它只能在xyz三个方向上进行平移,并不能像机器人的机械臂那样可以实现在空间里任意运动,所以不能用张正友标定相机与机床的相互位置关系。
根据机床只能平移的运动特性,可以通过平移平台的方式来标定相机与平台的相对关系。一个比较经典的自标定方法是在平台上放置一个已知参考物体,通过控制平台沿三个非共面方向平移三次,从控制器获得平台运动数据,再通过相机拍摄参考物体来计算引起的相机运动。相机与平台坐标系在三维空间中的旋转矩阵就可由下式求得:
tp=Rtc
式中,tp为平台三次正交平移组成的向量,tp=(tp1,tp2,tp3);tc为计算得到的相机三次平移组成的向量tc=(tc1,tc2,tc3)。但是tp和tc是普通镜头才能获得的参数,若使用其他镜头,则无法确定镜头tp和tc,从而造成无法实现相机标定。而且目前很多针对视觉与机器的标定,都是考虑的二维坐标系转换,忽略了很多安装误差,造成标定精度不高。
发明内容
本发明的目的在于提供一种能够使用双侧远心镜头进行图像采集,并对具有双侧远心镜头的相机进行相机之间相互位置的精确标定,使装配精度达到微米级的音膜球顶自动装配***。
基于双侧远心镜头相机之间位置标定的音膜球顶装配***,包括使用双侧远心镜头的相机和能够在三轴向平移的机床,相机至少包括球顶相机和音膜相机,球顶相机从下向上拍摄,音膜相机从上向下拍摄;音膜相机和球顶相机相互位置标定时执行以下操作。
在透明平台上放置一块透明标定物,音膜相机对标定物拍照得到音膜相机标定物图像,球顶相机对标定物拍照得到球顶相机标定物图像。
分别对音膜相机标定物图像和球顶相机标定物图像进行特征点提取,获得每个特征点在音膜相机标定物图像的像素坐标,和每个特征点在球顶相机标定物图像的像素坐标。
将音膜相机标定物图像的特征点像素坐标都转换到机床坐标系下,获得音膜相机在机床坐标系下的位置:
W_film=R_film^(-1)*A_film^(-1)*uv_film;
将球顶相机标定物图像的特征点像素坐标都转换到机床坐标系下,获得球顶相机在机床坐标系下的位置:
W_dome=R_dome^(-1)*A_dome^(-1)*uv_dome;
计算球顶相机和音膜相机在机床坐标系下的向量差Δx,Δy,得出音膜相机和球顶相机之间的相对位置Δx,Δy。
相机之间相互位置标定模块执行以下步骤:
步骤1,在透明平台上放置一块透明标定物,音膜相机从上往下方向拍标定物,球顶相机从下往上方向拍标定物,从而获取标定物图像,并由计算机读取由音膜相机和球顶相机拍到的标定物图像;
步骤2,计算机从音膜相机获取标定物图像,计算机从球顶相机获取标定物图像,然后分别对标定物图像中的特征点进行提取,获得音膜相机标定物图像特征点的像素坐标和球顶相机标定物图像特征点的像素坐标;
步骤3,通过转换矩阵,将标定物图像特征点像素坐标都转换到机床坐标系下:
W_film=R_film^(-1)*A_film^(-1)*uv_film;
W_dome=R_dome^(-1)*A_dome^(-1)*uv_dome;
其中,机床坐标为相对坐标,它的原点建立在夹持相机处。W_film是音膜相机拍的标定物图像特征点的机床坐标,W_dome是球顶相机拍的标定物图像特征点的机床坐标,R_film是音膜相机的相机坐标系与机床坐标系之间的旋转矩阵,R_dome是球顶相机的相机坐标系与机床坐标系之间的旋转矩阵,A_film为音膜相机的内参矩阵,A_dome是球顶相机的内参矩阵,uv_film是音膜相机标定物图像特征点的像素坐标,uv_dome是球顶相机标定物图像特征点的像素坐标,其通过特征点提取获得。
步骤4,显示音膜相机得到的标定物图像特征点在机床坐标系下的坐标和球顶相机得到的标定物图像特征点在机床坐标系下的坐标;
步骤5,从音膜相机和球顶相机得到的标定物图像特征点的基础上,分别取16个对应特征点,组成两组坐标向量W_film和W_dome,并求这两个向量的差,然后求和取平均,得出音膜相机和球顶相机之间的相对位置Δx,Δy:
delta=W_film-W_dome;
dx1=delta(1,:);
dx=sum(dx1);dx=dx/16
dy1=delta(2,:);
dy=sum(dy1);dy=dy/16
其中,delta为两个向量的差,dxl为在x分量上的差,维度为1*16,通过sum函数对向量里的参数求和,然后除以角点数量,得到的dx即为两个相机在x方向上的坐标差;dyl为在y分量上的差,维度为1*16,通过sum函数对向量里的参数求和,然后除以角点数量,得到的dy即为两个相机在y方向上的坐标差。
进一步,特征点的数量为多个,所有特征点的向量差求和后取平均获得平均向量差,平均向量差表示音膜相机和球顶相机之间的相对位置。
进一步,标定物为棋盘格标定板,计算机从音膜相机获取棋盘格图像,计算机从球顶相机获取棋盘格图像,然后分别对棋盘格图像中的角点进行提取,获得音膜相机棋盘格图像角点的像素坐标和球顶相机棋盘格图像角点的像素坐标。
进一步,标定物为非棋盘格标定板,在透明平台上放置一个透明标志物,音膜相机从上往下方向拍透明标志物,球顶相机从下往上方向拍透明标志物,从而获取标志物投影图像,并由计算机读取由音膜相机和球顶相机获取标志物投影图像;对音膜相机获取的原始标志物投影图像和球顶相机获取的原始标志物投影图像进行灰度化的图像预处理;对球顶相机获取的图像进行翻转,并与音膜相机获取的图像统一在一个同一个方向下,经过灰度化的音膜相机获取的标志物投影图像和经过灰度化的球顶相机获取的标志物投影图像进行特征点的提取,从而获得对应特征点之间的距离关系。
进一步,所述的标定物为非棋盘格标定板,对经过灰度化的音膜相机获取的标志物投影图像提取到的特征点和经过灰度化的球顶相机获取的标志物投影图像提取到的特征点,用SURF算法进行特征描述,从而建立特征向量。
进一步,标定物为非棋盘格标定板,对灰度化的音膜相机获取的标志物投影图像和球顶相机获取的标志物投影图像进行特征匹配,找到两幅图里的对应点,得到最终的匹配点对;两幅图里的对应点指的是,同一个透明标志物分别用音膜相机获取的标志物图像A,和用球顶相机拍照获取的标志物图像B,透明标志物上的每一个实际特征点都会同时投影到标志物图像A和标志物图像B,实际特征点投影到标志物图像A的对应点和实际特征点投影到标志物图像B的对应点作为一对匹配点。
进一步,所述的基于双侧远心镜头的音膜相机和球顶相机的相机模型包含无失真相机模型和有失真相机模型:
基于双侧远心镜头无失真相机模型的世界坐标系和像素坐标系的转换关系:
基于双侧远心镜头无失真相机模型的相机倍率m:
有失真相机模型下进行非线性优化获得考虑畸变后的标准像素坐标(xd,yd):
像素坐标转换成相机坐标时,像素坐标使用(xd,yd)参与转换计算。
无失真相机模型的建立包括以下模型公式:
首先,世界坐标系转到相机坐标系是一个旋转+平移过程,转换矩阵表示如下:
其中,为世界坐标系,为相机坐标系,为三维空间旋转矩阵,为x轴转换向量,为y轴转换向量,为z轴转换向量,tx,ty,tz为平移参数。
然后,相机坐标系转到图像坐标系是相机的成像过程,转换矩阵表示如下:
其中,为图像坐标系,m为相机的倍率。
接着,图像坐标系转到像素坐标系是一个单位的转换,转换矩阵表示如下:
其中,为像素坐标系,du和dv表示每一个像素在u轴和v轴方向上的物理尺寸,du=dv=3.45um/pix。
最后,将转换矩阵(4.1)、转换矩阵(4.2)、转换矩阵(4.3)乘在一起,得到世界坐标系和像素坐标系的转换关系:
相机的参数标定用到了标定板,本发明用的标定板为棋盘格标定板,每个格子尺寸为1mm,该标定方法只需拍一张棋盘格就能标定出相机的内外参数,根据公式(4.2)得到棋盘格标定板图像坐标系:
将公式(4.5)写成矩阵相乘的形式:
所述的公式(4.6)等式左边的内外参数组成的向量是要求解的,该向量由五个未知数组成,所以至少需要5个方程才能解得所有未知数;为了保证计算结果的精度,选取了棋盘格所有角点共88个,组成了下列方程:
上述方程左边的系数矩阵维度为88×5,方程组数量远大于5个,从而转变成超定方程的求解:
ML=X (4.8)
其中M代表L代表X代表
超定方程的解满足普通方程:
MTML=MTX (4.9)
将普通方程(4.9)转换如下,求得向量L:
L=(MTM)-1MTX (4.10)
通过计算得出的旋转、平移分量,结合公式(4.2),计算出相机倍率m:
进一步,有失真相机模型下进行非线性优化,进一步包括通过求解F重投影误差的最小值,建立目标函数,迭代优化内外参和畸变系数,目标函数为:
有失真的相机模型的非线性优化包括以下步骤:
通过求解F重投影误差的最小值,建立目标函数,迭代优化内外参和畸变系数,目标函数为:
式中pi是由相机拍摄得到的图片的像素坐标,是由式(4.4)、(5.1)建立的有失真相机模型计算得到的像素坐标,R为三维空间旋转矩阵,tx和ty为平移参数。
上述的目标函数通过Levenberg–Marquardt(LM)算法进行迭代优化。旋转、平移参数的初值为前面无失真相机模型求解得到的,镜头畸变参数的初值取0。
LM算法与高斯牛顿优化算法存在一些区别,高斯牛顿法的迭代公式为:
为目标函数对各变量的一阶导,Hf(xn)-1表示直接在梯度向量的导数。这两个量的乘积就是每次迭代的步长Δ,将其改写为矩阵相乘的形式:
Δ=-(Jf T.Jf)-1.Jf T.f (6.3)
定义式中g=2Jf T.f为雅可比矩阵,H≈2Jf T.Jf为Hessian矩阵。
LM算法是在高斯牛顿法的基础上增加了一个可调的阻尼参数λ,迭代步长Δk为:
Δk=-(Jf T.Jf+λ)-1.Jf T.f (6.4)
进一步,通过转换矩阵,将标定物图像特征点像素坐标都转换到机床坐标系下;
其中对于标记点的每一组像素坐标,将像素坐标通过内参矩阵A转换到音膜相机的相机坐标系:
进一步,通过转换矩阵,将标定物图像特征点像素坐标都转换到机床坐标系下,进一步包括利用相机坐标与机床坐标的转换关系获得音膜相机与机床的转换矩阵t=(a′*a)-1*a′*b。
相机坐标系到机床坐标系的转换,需要进行相机与机床的位置标定其包括以下步骤:
首先,像素坐标film_imagepoints通过转换矩阵A转换到各自相机坐标系下:
filmc=A1-1*film_imagepoints
然后,将像素坐标dome_imagepoints通过转换矩阵A转换到各自相机坐标系下:
domec=A2-1*dome_imagepoints
接着,在p1、p2的像素坐标、机床坐标和相机坐标均已知的情况下,通过计算得到机床坐标系到音膜相机坐标系和机床坐标系到球顶相机坐标系的转换关系,相机坐标与机床坐标之间存在旋转+平移的关系,转换矩阵表示如下:
将上式写成方程组形式:
Xc=r11Xt+r12Yt+tx
Yc=r21Yt+r22Yt+ty (7.2)
为了求旋转平移参数,需要将其单独表示成一个向量,因此式(7.2)又可以转化为如下表示方式:
其中(Xci,Yci)为标记点的相机坐标,可以通过内参矩阵计算得到,(Xti,Yti)为标记点的机床坐标。
最后,等式(7.3)左边的系数矩阵维度为24X6,是一个超定方程的求解问题,通过超定方程解法就可以求得由旋转和平移分量组成的未知向量,也就得到了音膜相机坐标系与机床坐标系的转换矩阵;求音膜相机与机床转换矩阵,通过建立超定方程a1*t1=b1,代入数据从而求得音膜相机与机床转换矩阵t1=(a1'*a1)-1*a1'*b1;
等式(7.3)左边的系数矩阵维度为24X6,是一个超定方程的求解问题,通过超定方程解法就可以求得由旋转和平移分量组成的未知向量,也就得到了球顶相机坐标系与机床坐标系的转换矩阵;求球顶相机与机床转换矩阵,通过建立超定方程a2*t2=b2,代入数据,求得球顶相机与机床转换矩阵t2=(a2'*a2)-1*a2'*b2;
本发明优点在于:
1、依靠视觉的定位装配,通过一种基于视觉的音膜球顶自动装配***,完善了相机之间的相互位置误差标定,可以提高相机的图像采集性能,并且可以极大的降低***对于机械设备精度的要求,从而提高***的装配精度。
附图说明
图1是相机对拍时机床坐标系下棋盘格角点的坐标。
图2是双侧远心镜头光路。
图3是不同相机模型的标定结果。
图4是不同失真相机模型的远心镜头的测量精度。
图5是两个相机获取的同一标志物的图片。
图6是球顶图像翻转后的图片。
图7是特征匹配图。
具体实施方式
下面对本发明涉及的结构或这些所使用的技术方法术语做进一步的说明,如果没有特别指明,按照本领域的通用的一般属于进行理解和解释。
基于视觉的音膜球顶自动装配***,包括:基座和具有转动自由度的机械手,基座上有移动式装配的机床,图像采集模块和元件工位,元件工位包括音膜放置位和球顶放置位;图像采集模块包括音膜相机组件和球顶相机组件,移动式装配机床控制机械手和音膜相机组件运动,音膜相机组件位于元件工位之上,球顶相机组件位于元件工位之下;音膜相机组件和球顶相机组件均采用双侧远心镜头,自动装配***对图像采集模块与相机位置的标定。
相机之间的相对位置标定的方案一,标定上下两个相机在机床坐标系下的相对位置Δx,Δy,步骤1在透明平台上放置一块透明标定板;步骤2上下两个相机同时从上下方向拍棋盘格;步骤3通过前面求得的相机与机床的旋转矩阵将两个相机拍的角点像素坐标转换到机床坐标系下,如图1所示为两个相机对拍时机床坐标系下棋盘格角点像素的坐标;步骤4通过计算film-board和dome-board对应角点之间的相对位置,取平均值得到两个相机的相对位置Δx,Δy。
算法实现步骤包括:步骤1读取film和dome相机拍的棋盘格图片;步骤2棋盘格角点提取;步骤3通过转换矩阵,将棋盘格角点像素坐标都转换到机床坐标系下:
W_film=R_film^(-1)*A_film^(-1)*uv_film;
W_dome=R_dome^(-1)*A_dome^(-1)*uv_dome;
其中W_film(dome)为相机拍的棋盘格角点的机床坐标,R_film(dome)为相机与机床的旋转矩阵,A_film(dome)为相机的内参矩阵,uv_film(dome)为棋盘格角点的像素坐标,通过角点提取获得。
步骤4可视化展示:画出棋盘格角点在机床坐标系下的坐标,查看上下两个相机的相互位置关系。
步骤5分别取16个对应角点,组成两组坐标向量W_film和W_dome,求这两个向量的差,然后求和取平均,求出film相机和dome相机之间的相对位置:
delta=W_film-W_dome;
dx1=delta(1,:);
dx=sum(dx1);dx=dx/16
dy1=delta(2,:);
dy=sum(dy1);dy=dy/16
其中delta为两个向量的差,dxl为在x分量上的差,维度为1*16,通过sum函数对向量里的参数求和,然后除以角点数量,得到的dx即为两个相机在x方向上的坐标差,dyl为在y分量上的差,维度为1*16,通过sum函数对向量里的参数求和,然后除以角点数量,得到的dy即为两个相机在y方向上的坐标差。
相机之间非棋盘格标定板的相对位置标定,标定上下两个相机在机床坐标系下的相对位置Δx,Δy,步骤1在中间平台放置一个透明标志物,上下两个相机同时拍透明标记物;步骤2对图像进行特征点提取;步骤3用特征匹配找到两幅图里的对应点;步骤4计算所有特征点在机床坐标系下的相对位置;步骤5对结果求和取平均值,从而得到了两个相机中心在机床坐标系下的相对位置Δx,Δy。
进一步,步骤1对上下两个相机从上下两个方向同时拍摄的透明玻璃板图片进行灰度化的图像预处理,如图5所示左边为film相机拍的图片,右边为dome相机拍的图片。
进一步,步骤2由于两张图片是从上下两个方向获得的,为了求得两张图片中对应特征点之间的距离关系,首先需要将图片进行翻转,统一在一个方向下,如图6所示将dome相机拍的图片进行翻转。
进一步,步骤3分别对两幅图片进行特征点提取,然后用SURF算法进行特征描述,对建立的特征向量进行特征匹配,得到最终的匹配点对。
进一步,步骤4将特征匹配得到的特征点通过相机与机床坐标系的转换矩阵转换到机床坐标系下如图7所示,然后计算对应特征点在机床坐标系下的相对位置。
进一步,步骤5对每个点对的相对位置求和取平均,就得到了两个相机中心在机床坐标系下的相对位置Δx,Δy。
算法实现步骤包括:步骤1,film、dome原始图片输入;步骤2,图像预处理(灰度化);步骤3,特征提取;步骤4,特征描述(SURF);步骤5,特征匹配matchFeatures;步骤6,将两幅图的特征点都转换到机床坐标系下;步骤7,计算对应点之间的相对位置delts;步骤8,计算出两个相机中心相对位置:
delt_machine_x=sum(delts(:,1))/num_of_points;
delt_machine_y=sum(delts(:,2))/num_of_points;
num_of_points为特征点数量,delt_machine_x(y)为两个相机中心在机床坐标系xy方向的相对位置。
本项目使用的是双侧远心镜头,在一定的物距范围内,得到的图像放大倍率不会变化,因此这种镜头拍出来的图像没有近大远小关系。如图2所示为双侧远心镜头的光路,图中,u为物距,v为像距,f1和f2为两个镜头的焦距,光阑放置于两个镜头的焦点处,它使进出镜头的光线均为平行光,其余光线被光阑遮挡。
作为一个实施方式,建立相机模型,包括以下步骤:
使用工具为MATLAB 2016a
步骤1,读取图片(imageFileNames)
步骤2,棋盘格角点提取:DetectCheckerboardPoints(imageFileNames)得到角点像素坐标image_points
步骤3,将角点的像素坐标转换到图像坐标系下(单位:mm):
image_points*3.45/1000
步骤4,由公式(4.7),建立超定方程ML=X,未知向量L=(MTM)-1MTX;再根据旋转矩阵特性,矩阵RS满足det(RS TRS-I2×2)=0,求出旋转和平移分量。
步骤5,重投影,建立的目标函数为重投影误差:
步骤6,求重投影误差的最小值,通过LM算法迭代优化所有参数(内外参、畸变系数)
这里考虑畸变的失真相机模型分为四种:(1)只有径向畸变k1(2)径向+偏心畸变k1h1h2(3)径向+薄透镜畸变k1s1s2(4)所有畸变k1h1h2s1s2根据每种情况带入相应参数优化。
得到的相机模型标定参数。
得到的不同失真相机模型的远心镜头测量精度:
得到建立的不同相机模型的标定结果,如图3和图4所示。
由上述技术方案可知,本发明所提供的一种基于视觉的音膜球顶自动装配***。方案一,标定上下两个相机在机床坐标系下的相对位置Δx,Δy,步骤1在透明平台上放置一块透明标定板;步骤2上下两个相机同时从上下方向拍棋盘格;步骤3通过前面求得的相机与机床的旋转矩阵将两个相机拍的角点像素坐标转换到机床坐标系下,如图1所示为两个相机对拍时机床坐标系下棋盘格角点像素的坐标;步骤4通过计算film-board和dome-board对应角点之间的相对位置,取平均值得到两个相机的相对位置Δx,Δy。
本发明优点是依靠视觉的定位装配,通过一种基于视觉的音膜球顶自动装配***,完善了相机之间的相互位置误差标定,可以提高相机的图像采集性能,并且可以极大的降低***对于机械设备精度的要求,从而提高***的装配精度。
本发明说明书中提到的所有专利和出版物都表示这些是本领域的公开技术,本发明可以使用。这里所引用的所有专利和出版物都被同样列在参考文献中,跟每一个出版物具体的单独被参考引用一样。这里所述的本发明可以在缺乏任何一种元素或多种元素,一种限制或多种限制的情况下实现,这里这种限制没有特别说明。例如这里每一个实例中术语“包含”,“实质由……组成”和“由……组成”可以用两者之一的其余2个术语代替。这里采用的术语和表达方式所为描述方式,而不受其限制,这里也没有任何意图来指明此书描述的这些术语和解释排除了任何等同的特征,但是可以知道,可以在本发明和权利要求的范围内做任何合适的改变或修改。可以理解,本发明所描述的实施例子都是一些优选的实施例子和特点,任何本领域的一般技术人员都可以根据本发明描述的精髓下做一些更改和变化,这些更改和变化也被认为属于本发明的范围和独立权利要求以及附属权利要求所限制的范围内。
Claims (10)
1.基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,装配***包括使用双侧远心镜头的相机和能够在三轴向平移的机床,相机至少包括球顶相机和音膜相机,球顶相机从下向上拍摄,音膜相机从上向下拍摄;音膜相机和球顶相机相互位置标定时执行以下操作:
在透明平台上放置一块透明标定物,音膜相机对标定物拍照得到音膜相机标定物图像,球顶相机对标定物拍照得到球顶相机标定物图像;
分别对音膜相机标定物图像和球顶相机标定物图像进行特征点提取,获得每个特征点在音膜相机标定物图像的像素坐标,和每个特征点在球顶相机标定物图像的像素坐标;
将音膜相机标定物图像的特征点像素坐标都转换到机床坐标系下,获得音膜相机在机床坐标系下的位置:
W_film=R_film^(-1)*A_film^(-1)*uv_film;
将球顶相机标定物图像的特征点像素坐标都转换到机床坐标系下,获得球顶相机在机床坐标系下的位置:
W_dome=R_dome^(-1)*A_dome^(-1)*uv_dome;
计算球顶相机和音膜相机在机床坐标系下的向量差Δx,Δy,得出音膜相机和球顶相机之间的相对位置Δx,Δy。
2.根据权利要求1所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,特征点的数量为多个,所有特征点的向量差求和后取平均获得平均向量差,平均向量差表示音膜相机和球顶相机之间的相对位置。
3.根据权利要求1所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,所述的标定物为棋盘格标定板,计算机从音膜相机获取棋盘格图像,计算机从球顶相机获取棋盘格图像,然后分别对棋盘格图像中的角点进行提取,获得音膜相机棋盘格图像角点的像素坐标和球顶相机棋盘格图像角点的像素坐标。
4.根据权利要求1所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,所述的标定物为非棋盘格标定板,在透明平台上放置一个透明标志物,音膜相机从上往下方向拍透明标志物,球顶相机从下往上方向拍透明标志物,从而获取标志物投影图像,并由计算机读取由音膜相机和球顶相机获取标志物投影图像;对音膜相机获取的原始标志物投影图像和球顶相机获取的原始标志物投影图像进行灰度化的图像预处理;对球顶相机获取的图像进行翻转,并与音膜相机获取的图像统一在一个同一个方向下,经过灰度化的音膜相机获取的标志物投影图像和经过灰度化的球顶相机获取的标志物投影图像进行特征点的提取,从而获得对应特征点之间的距离关系。
5.根据权利要求1或4所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,所述的标定物为非棋盘格标定板,对经过灰度化的音膜相机获取的标志物投影图像提取到的特征点和经过灰度化的球顶相机获取的标志物投影图像提取到的特征点,用SURF算法进行特征描述,从而建立特征向量。
6.根据权利要求1、4、5所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,所述的标定物为非棋盘格标定板,对灰度化的音膜相机获取的标志物投影图像和球顶相机获取的标志物投影图像进行特征匹配,找到两幅图里的对应点,得到最终的匹配点对;两幅图里的对应点指的是,同一个透明标志物分别用音膜相机获取的标志物图像A,和用球顶相机拍照获取的标志物图像B,透明标志物上的每一个实际特征点都会同时投影到标志物图像A和标志物图像B,实际特征点投影到标志物图像A的对应点和实际特征点投影到标志物图像B的对应点作为一对匹配点。
7.根据权利要求1所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,所述的基于双侧远心镜头的音膜相机和球顶相机的相机模型包含无失真相机模型和有失真相机模型:
基于双侧远心镜头无失真相机模型的世界坐标系和像素坐标系的转换关系:
基于双侧远心镜头无失真相机模型的相机倍率m:
有失真相机模型下进行非线性优化获得考虑畸变后的标准像素坐标(xd,yd):
像素坐标转换成相机坐标时,像素坐标使用(xd,yd)。
8.根据权利要求7所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,所述的有失真相机模型下进行非线性优化,进一步包括通过求解F重投影误差的最小值,建立目标函数,迭代优化内外参和畸变系数,目标函数为:
9.根据权利要求1所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,所述的通过转换矩阵,将标定物图像特征点像素坐标都转换到机床坐标系下;
其中对于标记点的每一组像素坐标,将像素坐标通过内参矩阵A转换到音膜相机的相机坐标系:
10.根据权利要求1所述的一种基于双侧远心镜头相机之间位置标定的音膜球顶装配***,其特征在于,所述的通过转换矩阵,将标定物图像特征点像素坐标都转换到机床坐标系下,进一步包括利用相机坐标与机床坐标的转换关系获得音膜相机与机床的转换矩阵t=(a′*a)-1*a′*b。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910209810.0A CN110136068B (zh) | 2019-03-19 | 2019-03-19 | 基于双侧远心镜头相机之间位置标定的音膜球顶装配*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910209810.0A CN110136068B (zh) | 2019-03-19 | 2019-03-19 | 基于双侧远心镜头相机之间位置标定的音膜球顶装配*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110136068A true CN110136068A (zh) | 2019-08-16 |
CN110136068B CN110136068B (zh) | 2023-06-30 |
Family
ID=67568575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910209810.0A Active CN110136068B (zh) | 2019-03-19 | 2019-03-19 | 基于双侧远心镜头相机之间位置标定的音膜球顶装配*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110136068B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112611361A (zh) * | 2020-12-08 | 2021-04-06 | 华南理工大学 | 一种无人机机载测绘吊舱的摄像头安装误差测定方法 |
CN114332231A (zh) * | 2022-03-04 | 2022-04-12 | 成都创像科技有限公司 | 视觉检测设备中机械手与相机的定位方法、装置及介质 |
CN114782549A (zh) * | 2022-04-22 | 2022-07-22 | 南京新远见智能科技有限公司 | 基于定点标识的相机标定方法及*** |
CN117718985A (zh) * | 2024-02-07 | 2024-03-19 | 西安中科光电精密工程有限公司 | 一种基于智能三维视觉的搜排爆机器人 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104182982A (zh) * | 2014-08-27 | 2014-12-03 | 大连理工大学 | 双目立体视觉摄像机标定参数的整体优化方法 |
CN104881874A (zh) * | 2015-06-04 | 2015-09-02 | 西北工业大学 | 基于二元四次多项式畸变误差补偿的双远心镜头标定方法 |
CN107025670A (zh) * | 2017-03-23 | 2017-08-08 | 华中科技大学 | 一种远心相机标定方法 |
US20170359573A1 (en) * | 2016-06-08 | 2017-12-14 | SAMSUNG SDS CO., LTD., Seoul, KOREA, REPUBLIC OF; | Method and apparatus for camera calibration using light source |
CN108573476A (zh) * | 2018-03-14 | 2018-09-25 | 浙江大学山东工业技术研究院 | 基于视觉的太阳花模组表面螺钉孔位置检测方法 |
CN109242918A (zh) * | 2018-11-15 | 2019-01-18 | 中国直升机设计研究所 | 一种直升机机载双目立体视觉标定方法 |
-
2019
- 2019-03-19 CN CN201910209810.0A patent/CN110136068B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104182982A (zh) * | 2014-08-27 | 2014-12-03 | 大连理工大学 | 双目立体视觉摄像机标定参数的整体优化方法 |
CN104881874A (zh) * | 2015-06-04 | 2015-09-02 | 西北工业大学 | 基于二元四次多项式畸变误差补偿的双远心镜头标定方法 |
US20170359573A1 (en) * | 2016-06-08 | 2017-12-14 | SAMSUNG SDS CO., LTD., Seoul, KOREA, REPUBLIC OF; | Method and apparatus for camera calibration using light source |
CN107025670A (zh) * | 2017-03-23 | 2017-08-08 | 华中科技大学 | 一种远心相机标定方法 |
CN108573476A (zh) * | 2018-03-14 | 2018-09-25 | 浙江大学山东工业技术研究院 | 基于视觉的太阳花模组表面螺钉孔位置检测方法 |
CN109242918A (zh) * | 2018-11-15 | 2019-01-18 | 中国直升机设计研究所 | 一种直升机机载双目立体视觉标定方法 |
Non-Patent Citations (1)
Title |
---|
刘俸材等: "双目视觉的立体标定方法", 《计算机工程与设计》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112611361A (zh) * | 2020-12-08 | 2021-04-06 | 华南理工大学 | 一种无人机机载测绘吊舱的摄像头安装误差测定方法 |
CN114332231A (zh) * | 2022-03-04 | 2022-04-12 | 成都创像科技有限公司 | 视觉检测设备中机械手与相机的定位方法、装置及介质 |
CN114782549A (zh) * | 2022-04-22 | 2022-07-22 | 南京新远见智能科技有限公司 | 基于定点标识的相机标定方法及*** |
CN114782549B (zh) * | 2022-04-22 | 2023-11-24 | 南京新远见智能科技有限公司 | 基于定点标识的相机标定方法及*** |
CN117718985A (zh) * | 2024-02-07 | 2024-03-19 | 西安中科光电精密工程有限公司 | 一种基于智能三维视觉的搜排爆机器人 |
Also Published As
Publication number | Publication date |
---|---|
CN110136068B (zh) | 2023-06-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110136068A (zh) | 基于双侧远心镜头相机之间位置标定的音膜球顶装配*** | |
CN110136204A (zh) | 基于双侧远心镜头相机机床位置标定的音膜球顶装配*** | |
CN106408556B (zh) | 一种基于一般成像模型的微小物体测量***标定方法 | |
CN112734863B (zh) | 一种基于自动定位的交叉式双目相机标定方法 | |
CN109919911B (zh) | 基于多视角光度立体的移动三维重建方法 | |
CN111612794B (zh) | 基于多2d视觉的零部件高精度三维位姿估计方法及*** | |
CN106091983B (zh) | 包含扫描方向信息的线结构光视觉测量***完整标定方法 | |
CN111536902A (zh) | 一种基于双棋盘格的振镜扫描***标定方法 | |
CN109448054A (zh) | 基于视觉融合的目标分步定位方法、应用、装置及*** | |
CN111145269B (zh) | 一种鱼眼相机与单线激光雷达的外方位元素的标定方法 | |
CN109155070A (zh) | 使用平面镜校准立体成像***的方法和计算机程序产品 | |
JP7218435B2 (ja) | キャリブレーション装置、キャリブレーション用チャート、およびキャリブレーション方法 | |
CN115861445B (zh) | 一种基于标定板三维点云的手眼标定方法 | |
CN109272555B (zh) | 一种rgb-d相机的外部参数获得及标定方法 | |
CN115830103A (zh) | 一种基于单目彩色的透明物体定位方法、装置及存储介质 | |
CN114299156A (zh) | 无重叠区域下多相机的标定与坐标统一方法 | |
Resch et al. | On-site semi-automatic calibration and registration of a projector-camera system using arbitrary objects with known geometry | |
CN112229323A (zh) | 基于手机单目视觉的棋盘格合作目标的六自由度测量方法及其应用 | |
CN110415363A (zh) | 一种基于三目视觉的散乱物识别定位方法 | |
Wang et al. | Temporal matrices mapping-based calibration method for event-driven structured light systems | |
CN112489141B (zh) | 车载摄像头单板单图带中继镜的产线标定方法及装置 | |
CN110125662B (zh) | 音膜球顶自动装配*** | |
CN107872664A (zh) | 一种三维成像***及三维图像构建方法 | |
CN112652019A (zh) | 一种双目视觉三维定位方法 | |
CN116652970A (zh) | 一种四轴机械臂2d手眼标定方法及***、存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |