CN110033447B - 一种基于点云方法的高铁重轨表面缺陷检测方法 - Google Patents
一种基于点云方法的高铁重轨表面缺陷检测方法 Download PDFInfo
- Publication number
- CN110033447B CN110033447B CN201910292336.2A CN201910292336A CN110033447B CN 110033447 B CN110033447 B CN 110033447B CN 201910292336 A CN201910292336 A CN 201910292336A CN 110033447 B CN110033447 B CN 110033447B
- Authority
- CN
- China
- Prior art keywords
- point
- point cloud
- image
- linear array
- array camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8887—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20056—Discrete and fast Fourier transform, [DFT, FFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明涉及表面缺陷检测技术领域,提供一种基于点云方法的高铁重轨表面缺陷检测方法,首先构建检测平台,并对彩色双目线阵相机进行标定;然后采集待检测高铁重轨在n个视角下的初始线阵图像并进行预处理;接着将每个视角下两幅二维图像映射为一幅三维深度图像,利用基于相位相关的二维图像配准方法为相邻视角下两幅待配准点云提供初始配准,并对配准后每对点云进行ICP精确迭代,得到完整的表面点云;最后利用将法矢角度、曲率改变量作为平滑阈值的点云区域生长算法,对完整的表面点云进行缺陷提取与分割,得到待检测高铁重轨表面缺陷分布。本发明能够降低图像采集质量及检测区域范围对检测的影响,提高检测效率与检出率,降低漏检率与误检率。
Description
技术领域
本发明涉及表面缺陷检测技术领域,特别是涉及一种基于点云方法的高铁重轨表面缺陷检测方法。
背景技术
我国高铁技术飞速发展,高铁已成为一种高效、舒适、安全的出行方式。高铁重轨的安全生产成为保证出行安全的重要课题,重轨表面缺陷的检测是重轨安全生产的一项重要任务。
现有的高铁重轨表面缺陷检测方法主要有人工目测检测方法和基于机器视觉的重轨在线检测方法。一方面,大多数钢厂依然停留在人工目测检测的阶段,其受制于检测人员的主观因素,检测效率低下、漏检率高,而且现场工人的安全存在较大隐患。另一方面,基于机器视觉的重轨在线检测方法,其关键主要在于检测***和检测算法两个方面。在检测***方面,德国公司Parsytec开发了Dual Sensor***,采用面阵和线阵CCD相机同时存在的传感器融合检测技术,有效地提高了缺陷的检出率,但其检测的缺陷种类有限;日本JFE钢铁公司针对镀锡薄板基板(TMBP)生产线开发出一套自动检测***,其特征在于结合明暗域组合的光照模式,在初检时针对缺陷的不同类型设置了六种自动阈值算法,同时定义合适的特征值去除噪声并基于树形分类器进行缺陷的分类,检测缺陷数量达120种,准确率高达95.5%,但其存在造价高等问题;2014年李雯等人研发了激光轮廓检测仪器,可以高效完成钢轨多平面的轮廓检测,但是该***对钢轨传动时的震动相对敏感。在检测算法方面,国外专家如Nashat S等人提出了金字塔式的分割方法以减小颜色信息和纹理信息对检测的干扰;Mehran P等人研究了一种高效模糊模型用于汽车零件检测中,其鲁棒性很强;2016年袁小翠等人通过对多种利用灰度阈值分割钢轨缺陷的技术手段的对比,提出了一种加权OTSU方法,提高了检测效率和精度。然而,现有基于机器视觉的高铁重轨表面缺陷检测方法多采用基于二维图像的检测手段,其非常受限于图像的采集质量,且受到检测区域范围的影响,很容易出现漏检和误检问题。
发明内容
针对现有技术存在的问题,本发明提供一种基于点云方法的高铁重轨表面缺陷检测方法,能够降低图像采集质量及检测区域范围对检测的影响,提高检测效率与检出率,降低漏检率与误检率。
本发明的技术方案为:
一种基于点云方法的高铁重轨表面缺陷检测方法,其特征在于:包括以下步骤:
步骤1:构建检测平台,所述检测平台在上方设置有中间固定框架、关于中间固定框架对称的两个两侧固定框架,所述检测平台在上方中部设置有履带、在下方设置有电机,所述电机用于控制履带轮毂的转速;在中间固定框架上安装彩色双目线阵相机,在两个两侧固定框架上分别安装一个专业光照设备;
步骤2:打开检测平台的电源,调节专业光照设备的亮度,将彩色双目线阵相机的触发方式调节为外部触发,根据履带轮毂的转速调节彩色双目线阵相机的采集频率,并设置双目线阵相机的增益参数与曝光率;将标定靶放置在检测平台上彩色双目线阵相机下方,利用标定靶对彩色双目线阵相机进行标定,得到标定参数,取走标定靶,将待检测高铁重轨放在检测平台上彩色双目线阵相机下方;所述标定参数包括彩色双目线阵相机的焦距f、彩色双目线阵相机的两个子相机的成像平面坐标系原点之间的距离b、彩色双目线阵相机的初始外方位元素;
步骤4:对所有初始线阵图像均进行预处理,得到第i个视角下的两幅预处理后的线阵图像为fi1、fi2,i=1,2,...,n;所述预处理包括降采样处理、去噪处理;
步骤5:利用二维图像相位相关将相邻视角下的两幅左图fi1与fi+1,1进行配准,得到第i个初始变换矩阵为H2Di,i=1,2,...,n-1;
步骤6:基于中心透视投影及双目视差原理,将第i个视角下两幅预处理后的线阵图像fi1、fi2映射为三维深度图像fi,i=1,2,...,n,所述三维深度图像fi即为第i个待配准点云;
步骤7:利用第i初始变换矩阵H2Di对第i个待配准点云fi进行旋转和平移,得到第i个初始配准点云Fi;其中,Fi=fi×H2Di i=1,2,...,n-1,Fn=fn;
步骤8:基于ICP算法,对初始配准后的每对点云(Fi,Fi+1)均进行m次迭代,得到第i个优化后的变换矩阵为H3Di,i=1,2,...,n-1;
步骤9:利用优化后的变换矩阵对初始配准后的点云进行旋转和平移,得到完整的表面点云为
步骤10:利用将法矢角度、曲率改变量作为平滑阈值的点云区域生长算法,对完整的表面点云F进行缺陷提取与分割,得到待检测高铁重轨的表面缺陷分布。
所述步骤5包括下述步骤:
步骤5.1:计算图像fi1相对于图像fi+1,1的x轴、y轴方向平移量分别为x0、y0:
步骤5.1.1:计算二维图像fi1(x,y)与目标平移图像fi+1,1(x,y)的傅里叶变换分别为Fi1(u,v)与Fi+1,1(u,v);
步骤5.1.2:根据傅里叶变换的性质,图像域的位移等价于在傅里叶域的相位变化,得到图像fi1与fi+1,1的频谱关系为
步骤5.1.3:由公式(1)得到图像fi1与fi+1,1的互功率谱为
步骤5.1.4:计算式(2)的傅里叶反变换,找到傅里叶反变换曲线的峰值位置,所述峰值位置的坐标即为平移量(x0,y0);
其中,j表示复数,*表示复数共轭;
步骤5.2:计算图像fi1相对于图像fi+1,1的旋转量θ0与缩放量r0;
步骤5.2.1:对图像fi1(x,y)与目标旋转缩放图像fi+1,1(x,y)进行极坐标变换处理,将旋转关系变成相加性关系,再对极坐标做对数运算,使缩放关系变成相加关系,得到对数极坐标下图像fi1与fi+1,1的旋转缩放关系为
fi+1,1(R,θ)=fi,1(R-R0,θ-θ0) (3)
步骤5.3:构建图像fi1到图像fi+1,1的初始变换矩阵为
其中,p、q为投影变化量。
所述步骤6包括下述步骤:
步骤6.1:将图像fi1与fi2分别作为主图与辅助图,利用SAD算法,对图像fi1与fi2进行匹配,得到视差图,得到图像fi1与fi2中任意像素点P的视差值d,从而得到该像素点P在世界坐标系下的Z轴值为
步骤6.2:以彩色双目线阵相机的扫描行为方向为x轴方向、前进方向为y轴方向,建立每一次扫描的瞬时平面坐标系,构建第m次扫描的成像模型为
其中,(X,Y,Z)为待检测高铁重轨在世界坐标系下任意像素点P的坐标值,(xm,0)为像素点P每次被扫描时的成像点,Xsm、Ysm、Zsm为彩色双目线阵相机在世界坐标系下的位置,λ为比例因子,Rm为由wm、km构成的旋转矩阵,aqm、bqm、cqm(q=1,2,3)为Rm的各个元素;wm、km分别为坐标轴x、y、z的旋转角度,在采集图像的过程中彩色双目线阵相机固定不动、待检测高铁重轨沿直线轨道运动,从而wm=w0、km=k0,;
步骤6.3:计算彩色双目线阵相机在世界坐标系下的位置为
步骤6.4:计算彩色双目线阵相机在世界坐标系下的Y轴值为
其中,Y0为初始时刻待检测高铁重轨在世界坐标下的Y轴值;
步骤6.5:由式(5)、(6)、(7)、(8)、(9),计算得到
从而得到图像fi1与fi2中任意像素点P在世界坐标系下的三维坐标(X,Y,Z),将图像fi1、fi2映射为三维深度图像fi。
所述步骤8包括下述步骤:
步骤8.1:初始化ICP算法的迭代次数K=0、第K次迭代的点云集PK,P0=C,C为源点云集{F1,F2,...,Fi,...,Fn-1},目标点云集为B={F2,...,Fi,...,Fn};源点云集与目标点云集在第K次迭代时获得的对应点集为SK,第K次迭代通过对应点集得到的旋转矩阵、平移矩阵、估计误差分别为RK、TK、WK,R0=I,T0=0;
步骤8.2:搜寻最近点:计算点云Ci中的点在点云Bi中的最近点,组成对应点集Sk;
步骤8.3:求解对应点的变换关系H3Di:求对应最近点对平均距离最小的旋转变化矩阵H3Di,并估计误差WK为
步骤8.4:应用变换:对点云Ci中的每个点使用旋转变化矩阵H3Di进行变换,得到点云Ci+1;
所述步骤10包括下述步骤:
步骤10.1:对完整的表面点云F进行去噪和降采样预处理;
步骤10.2:设置空的种子序列{A}、空的聚类区域{J}、曲率阈值Cth、角度阈值θth;
步骤10.3:估计点云F中每个点的法向量{N}和曲率{C},得到每个点的法线和曲率值;
步骤10.4:根据点云F中各点曲率值大小将点云数据重排序,将曲率最小点定义为初始种子点{SC},加入种子序列{A}和聚类区域{J}中,聚类区域{J}为无缺陷区域;
步骤10.5:利用点云邻域搜索算法搜索种子点邻域{BC};
步骤10.6:计算每个邻域点BC(j)的法线与种子点的法线间的夹角,判断该夹角值是否小于角度阈值θth:
cos-1(|N{sC(i)},N{BC(j)}|)<θth (12)
若邻域点BC(j)满足式(12),则将该邻域点加入聚类区域{J}中,并判断该邻域点的曲率值是否小于曲率阈值Cth,若该邻域点的曲率小于曲率阈值Cth,则将该邻域点加入种子点序列{A}中;若该邻域点的曲率不小于曲率阈值Cth,则进行下一个邻域点BC(j+1)的曲率、法线夹角的判断,直到遍历邻域{BC}中的所有点,并删除当前种子点;
步骤10.7:在更新后的种子点序列{A}中重新选择种子点,重复上述步骤10.5至步骤10.6,直到种子点序列{A}为空,完成对点云F上法矢角度突变点与平滑区域的分割,得到缺陷的点云数据集,从而得到待检测高铁重轨的表面缺陷分布。
本发明的有益效果为:
(1)本发明基于中心透视投影及双目视差原理,将每个视角下的两幅二维图像映射为一幅三维深度图像,利用基于相位相关的二维图像配准方法为相邻视角下的两幅待配准点云提供初始配准,并对配准后的每对点云进行ICP精确迭代。与传统的点云配准方法相比,本发明采用的方法在重轨点云配准中收敛性更好、计算效率更高、耗时更短,初始配准覆盖率能够达到90%左右,可以有效完成配准;且本发明的方法对视角影响敏感度较低,对局部遮挡、重合范围较小的图像配准相较于其他方法鲁棒性更强,具有良好的稳定性、准确性和实时性,从而能够进一步降低图像采集质量及检测区域范围对检测的影响。
(2)本发明利用点云的法矢、曲率,基于将法矢角度、曲率改变量作为平滑阈值的点云区域生长算法,对重轨表面点云进行缺陷提取与分割。与传统受到图像曝光、颜色对比度等因素影响必须在缺陷邻域范围内进行检测导致局限性和偶然性较大的基于二维图像的检测方法相比,本发明一方面能够用于重轨单个表面的全局缺陷提取,另一方面能够准确定位单个表面三维缺陷的边缘,并且能够准确区分三维缺陷与伪缺陷,不会因受到图像噪声点和颜色信息干扰而出现误检、漏检的情况,检测效果更好且具有更高的有效检出率和更低的误检率。
附图说明
图1为本发明实施例中基于点云方法的高铁重轨表面缺陷检测方法中检测平台的结构示意图;
图2为本发明实施例中基于点云方法的高铁重轨表面缺陷检测方法中的扫描视角示意图;
图3为本发明实施例中基于点云方法的高铁重轨表面缺陷检测方法中点云融合算法的流程图;
图4为本发明实施例中基于点云方法的高铁重轨表面缺陷检测方法中经过相位相关初始配准后得到的初始配准点云;
图5为本发明实施例中基于点云方法的高铁重轨表面缺陷检测方法中经过ICP迭代后得到的完整表面点云;
图6为本发明实施例中基于点云方法的高铁重轨表面缺陷检测方法中缺陷检测结果示意图。
图中,1-检测平台,2-中间固定框架,3-两侧固定框架,4-彩色双目线阵相机,5-专业光照设备,6-待检测高铁重轨。
具体实施方式
下面将结合附图和具体实施方式,对本发明作进一步描述。
本发明的基于点云方法的高铁重轨表面缺陷检测方法,其特征在于:包括以下步骤:
步骤1:构建检测平台1,所述检测平台1在上方设置有中间固定框架2、关于中间固定框架2对称的两个两侧固定框架3,所述检测平台1在上方中部设置有履带、在下方设置有电机,所述电机用于控制履带轮毂的转速;在中间固定框架2上安装彩色双目线阵相机4,在两个两侧固定框架2上分别安装一个专业光照设备5。
步骤2:打开检测平台1的电源,调节专业光照设备5的亮度,将彩色双目线阵相机4的触发方式调节为外部触发,根据履带轮毂的转速调节彩色双目线阵相机4的采集频率,并设置双目线阵相机4的增益参数与曝光率;将标定靶放置在检测平台1上彩色双目线阵相机4下方,利用标定靶对彩色双目线阵相机4进行标定,得到标定参数,取走标定靶,将待检测高铁重轨6放在检测平台上彩色双目线阵相机4下方;所述标定参数包括彩色双目线阵相机4的焦距f、彩色双目线阵相机4的两个子相机的成像平面坐标系原点之间的距离b、彩色双目线阵相机4的初始外方位元素。
本实施例中,检测平台1的结构如图1所示,彩色双目线阵相机4为3DPIXA双目彩色线阵相机,其传感器尺寸为7142pixels×1line,像元尺寸为10μm×10μm;专业光照设备5为带有光源调节器的LED灯。
本实施例中,如图2所示,利用彩色双目线阵相机4对待检测高铁重轨6的鞍面从30度和-30度这2个视角进行扫描,也即n=2。其中,顺时针为正。
步骤4:对所有初始线阵图像均进行预处理,得到第i个视角下的两幅预处理后的线阵图像为fi1、fi2,i=1,2,...,n;所述预处理包括降采样处理、去噪处理。
本发明采用如图3所示的点云融合算法对每个视角下的两幅二维图像进行处理,以得到完整的表面点云,具体如下:
步骤5:利用二维图像相位相关将相邻视角下的两幅左图fi1与fi+1,1进行配准,得到第i个初始变换矩阵为H2Di,i=1,2,...,n-1。
所述步骤5包括下述步骤:
步骤5.1:计算图像fi1相对于图像fi+1,1的x轴、y轴方向平移量分别为x0、y0:
步骤5.1.1:计算二维图像fi1(x,y)与目标平移图像fi+1,1(x,y)的傅里叶变换分别为Fi1(u,v)与Fi+1,1(u,v);
步骤5.1.2:根据傅里叶变换的性质,图像域的位移等价于在傅里叶域的相位变化,得到图像fi1与fi+1,1的频谱关系为
步骤5.1.3:由公式(1)得到图像fi1与fi+1,1的互功率谱为
步骤5.1.4:计算式(2)的傅里叶反变换,找到傅里叶反变换曲线的峰值位置,所述峰值位置的坐标即为平移量(x0,y0);
其中,j表示复数,*表示复数共轭;
步骤5.2:计算图像fi1相对于图像fi+1,1的旋转量θ0与缩放量r0;
步骤5.2.1:对图像fi1(x,y)与目标旋转缩放图像fi+1,1(x,y)进行极坐标变换处理,将旋转关系变成相加性关系,再对极坐标做对数运算,使缩放关系变成相加关系,得到对数极坐标下图像fi1与fi+1,1的旋转缩放关系为
fi+1,1(R,θ)=fi,1(R-R0,θ-θ0) (3)
步骤5.3:构建图像fi1到图像fi+1,1的初始变换矩阵为
其中,p、q为投影变化量。
步骤6:基于中心透视投影及双目视差原理,将第i个视角下两幅预处理后的线阵图像fi1、fi2映射为三维深度图像fi,i=1,2,...,n,所述三维深度图像fi即为第i个待配准点云。
所述步骤6包括下述步骤:
步骤6.1:将图像fi1与fi2分别作为主图与辅助图,利用SAD算法,对图像fi1与fi2进行匹配,得到视差图,得到图像fi1与fi2中任意像素点P的视差值d,从而得到该像素点P在世界坐标系下的Z轴值为
步骤6.2:以彩色双目线阵相机的扫描行为方向为x轴方向、前进方向为y轴方向,建立每一次扫描的瞬时平面坐标系,构建第m次扫描的成像模型为
其中,(X,Y,Z)为待检测高铁重轨在世界坐标系下任意像素点P的坐标值,(xm,0)为像素点P每次被扫描时的成像点,Xsm、Ysm、Zsm为彩色双目线阵相机在世界坐标系下的位置,λ为比例因子,Rm为由wm、km构成的旋转矩阵,aqm、bqm、cqm(q=1,2,3)为Rm的各个元素;wm、km分别为坐标轴x、y、z的旋转角度,在采集图像的过程中彩色双目线阵相机固定不动、待检测高铁重轨沿直线轨道运动,从而wm=w0、km=k0,;
步骤6.3:计算彩色双目线阵相机在世界坐标系下的位置为
步骤6.4:计算彩色双目线阵相机在世界坐标系下的Y轴值为
其中,Y0为初始时刻待检测高铁重轨在世界坐标下的Y轴值;
步骤6.5:由式(5)、(6)、(7)、(8)、(9),计算得到
从而得到图像fi1与fi2中任意像素点P在世界坐标系下的三维坐标(X,Y,Z),将图像fi1、fi2映射为三维深度图像fi。
步骤7:利用第i初始变换矩阵H2Di对第i个待配准点云fi进行旋转和平移,得到第i个初始配准点云Fi;其中,Fi=fi×H2Di i=1,2,...,n-1,Fn=fn。
步骤8:基于ICP算法,对初始配准后的每对点云(Fi,Fi+1)均进行m次迭代,得到第i个优化后的变换矩阵为H3Di,i=1,2,...,n-1。
所述步骤8包括下述步骤:
步骤8.1:初始化ICP算法的迭代次数K=0、第K次迭代的点云集PK,P0=C,C为源点云集{F1,F2,...,Fi,...,Fn-1},目标点云集为B={F2,...,Fi,...,Fn};源点云集与目标点云集在第K次迭代时获得的对应点集为SK,第K次迭代通过对应点集得到的旋转矩阵、平移矩阵、估计误差分别为RK、TK、WK,R0=I,T0=0;
步骤8.2:搜寻最近点:计算点云Ci中的点在点云Bi中的最近点,组成对应点集Sk;
步骤8.3:求解对应点的变换关系H3Di:求对应最近点对平均距离最小的旋转变化矩阵H3Di,并估计误差WK为
步骤8.4:应用变换:对点云Ci中的每个点使用旋转变化矩阵H3Di进行变换,得到点云Ci+1;
步骤9:利用优化后的变换矩阵对初始配准后的点云进行旋转和平移,得到完整的表面点云为
本实施例中,利用二维图像相位相关将两个视角下的两幅左图f11与f2,1进行配准,得到初始变换矩阵为
基于中心透视投影及双目视差原理,将第i个视角下两幅预处理后的线阵图像fi1、fi2映射为三维深度图像fi,得到两个待配准点云f1、f2;利用初始变换矩阵对第1个待配准点云f1进行旋转和平移,得到初始配准点云F1如图4所示,另一个初始配准点云F2=f2;基于ICP算法,对初始配准后的点云对(F1,F2)进行迭代,将ICP的迭代终止条件阈值设定为0.3mm,即两片点云数据对应点之间的最大欧氏距离不超过0.3mm,得到优化后的变换矩阵为
利用优化后的变换矩阵H3D1对初始配准后的点云进行旋转和平移,得到完整的表面点云F如图5所示。由于在二维图像与点云的映射中,图像背景噪声较多,因此映射后的点云数据噪声点较多,会对配准精度造成影响,有时甚至会影响收敛性;本实施例中,两片点云数数据的欧式适合度为0.084,配准收敛,满足实验要求。
步骤10:利用将法矢角度、曲率改变量作为平滑阈值的点云区域生长算法,对完整的表面点云F进行缺陷提取与分割,得到待检测高铁重轨的表面缺陷分布。
所述步骤10包括下述步骤:
步骤10.1:对完整的表面点云F进行去噪和降采样预处理;
步骤10.2:设置空的种子序列{A}、空的聚类区域{J}、曲率阈值Cth、角度阈值θth;本实施例中,θth=1.5rad,Cth=1.0;
步骤10.3:估计点云F中每个点的法向量{N}和曲率{C},得到每个点的法线和曲率值;
步骤10.4:根据点云F中各点曲率值大小将点云数据重排序,将曲率最小点定义为初始种子点{SC},加入种子序列{A}和聚类区域{J}中,聚类区域{J}为无缺陷区域;
步骤10.5:利用点云邻域搜索算法搜索种子点邻域{BC};本实施例中,点云邻域搜索算法采用k-dtree算法;
步骤10.6:计算每个邻域点BC(j)的法线与种子点的法线间的夹角,判断该夹角值是否小于角度阈值θth:
cos-1(|N{sC(i)},N{BC(j)}|)<θth (12)
若邻域点BC(j)满足式(12),则将该邻域点加入聚类区域{J}中,并判断该邻域点的曲率值是否小于曲率阈值Cth,若该邻域点的曲率小于曲率阈值Cth,则将该邻域点加入种子点序列{A}中;若该邻域点的曲率不小于曲率阈值Cth,则进行下一个邻域点BC(j+1)的曲率、法线夹角的判断,直到遍历邻域{BC}中的所有点,并删除当前种子点;
步骤10.7:在更新后的种子点序列{A}中重新选择种子点,重复上述步骤10.5至步骤10.6,直到种子点序列{A}为空,完成对点云F上法矢角度突变点与平滑区域的分割,得到缺陷的点云数据集,从而得到待检测高铁重轨的表面缺陷分布。
本实施例中,对单组13个高铁重轨含缺陷表面样本进行缺陷检测。该样本13个个体依次编号为a-l,其中(a)组到(d)组有4个磕碰砸伤、凹坑等含凹陷型缺陷,(e)组到(g)组有4个开裂、凸块等含凸起型缺陷,(h)组到(l)组有9个划痕、焊渣等缺陷,其中有4个大范围氧化铁皮、锈斑等伪缺陷,如图6所示。通过本发明基于点云方法的高铁重轨表面缺陷检测方法,检测出该组高铁重轨含缺陷表面样本中,共有缺陷17个,未出现漏检和误检。所谓漏检是指缺陷未被检测出来,误检是指将氧化铁皮、锈斑等伪缺陷检测为缺陷。
本实施例中,还将本发明与基于二维图像的边缘检测方法、基于图像显著性的检测方法进行对比。样本数为50个含缺陷高铁重轨表面,共106处缺陷,包括表面凹坑、轧疤、开裂、折叠等明显缺陷75处,细微划痕、微小孔洞等难检缺陷31处,伪缺陷26处,得到的检测结果如表1所示。
表1
由表1可以看出,有效检出率三种方法相差较小,本发明基于点云方法的高铁重轨表面缺陷检测方法的检出率最高,为86.79%,二维边缘检测方法最低,但依然达到81.13%;但是在区分三维缺陷与伪缺陷方面,两种基于二维图像的检测方法的误检率分别为50%和65.34%,而本发明极好地避免了对此类伪缺陷的检出。因为本发明利用点云方法的高铁重轨表面缺陷检测方法中,利用缺陷位置存在点云法矢角度突变和曲率突变来对点云F上法矢角度突变点与平滑区域进行分割,不会出现由于图像采集效果产生的漏检和误检,能够有效地对三维缺陷进行提取分割,也能很好地区分含深度信息的三维缺陷和伪缺陷。
显然,上述实施例仅仅是本发明的一部分实施例,而不是全部的实施例。上述实施例仅用于解释本发明,并不构成对本发明保护范围的限定。基于上述实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,也即凡在本申请的精神和原理之内所作的所有修改、等同替换和改进等,均落在本发明要求的保护范围内。
Claims (5)
1.一种基于点云方法的高铁重轨表面缺陷检测方法,其特征在于:包括以下步骤:
步骤1:构建检测平台,所述检测平台在上方设置有中间固定框架、关于中间固定框架对称的两个两侧固定框架,所述检测平台在上方中部设置有履带、在下方设置有电机,所述电机用于控制履带轮毂的转速;在中间固定框架上安装彩色双目线阵相机,在两个两侧固定框架上分别安装一个专业光照设备;
步骤2:打开检测平台的电源,调节专业光照设备的亮度,将彩色双目线阵相机的触发方式调节为外部触发,根据履带轮毂的转速调节彩色双目线阵相机的采集频率,并设置双目线阵相机的增益参数与曝光率;将标定靶放置在检测平台上彩色双目线阵相机下方,利用标定靶对彩色双目线阵相机进行标定,得到标定参数,取走标定靶,将待检测高铁重轨放在检测平台上彩色双目线阵相机下方;所述标定参数包括彩色双目线阵相机的焦距f、彩色双目线阵相机的两个子相机的成像平面坐标系原点之间的距离b、彩色双目线阵相机的初始外方位元素;
步骤4:对所有初始线阵图像均进行预处理,得到第i个视角下的两幅预处理后的线阵图像为fi1、fi2,i=1,2,...,n;所述预处理包括降采样处理、去噪处理;
步骤5:利用二维图像相位相关将相邻视角下的两幅左图fi1与fi+1,1进行配准,得到第i个初始变换矩阵为H2Di,i=1,2,...,n-1;
步骤6:基于中心透视投影及双目视差原理,将第i个视角下两幅预处理后的线阵图像fi1、fi2映射为三维深度图像fi,i=1,2,...,n,所述三维深度图像fi即为第i个待配准点云;
步骤7:利用第i初始变换矩阵H2Di对第i个待配准点云fi进行旋转和平移,得到第i个初始配准点云Fi;其中,Fi=fi×H2Di i=1,2,...,n-1,Fn=fn;
步骤8:基于ICP算法,对初始配准后的每对点云(Fi,Fi+1)均进行m次迭代,得到第i个优化后的变换矩阵为H3Di,i=1,2,...,n-1;
步骤9:利用优化后的变换矩阵对初始配准后的点云进行旋转和平移,得到完整的表面点云为
步骤10:利用将法矢角度、曲率改变量作为平滑阈值的点云区域生长算法,对完整的表面点云F进行缺陷提取与分割,得到待检测高铁重轨的表面缺陷分布。
2.根据权利要求1所述的基于点云方法的高铁重轨表面缺陷检测方法,其特征在于,所述步骤5包括下述步骤:
步骤5.1:计算图像fi1相对于图像fi+1,1的x轴、y轴方向平移量分别为x0、y0:
步骤5.1.1:计算二维图像fi1(x,y)与目标平移图像fi+1,1(x,y)的傅里叶变换分别为Fi1(u,v)与Fi+1,1(u,v);
步骤5.1.2:根据傅里叶变换的性质,图像域的位移等价于在傅里叶域的相位变化,得到图像fi1与fi+1,1的频谱关系为
步骤5.1.3:由公式(1)得到图像fi1与fi+1,1的互功率谱为
步骤5.1.4:计算式(2)的傅里叶反变换,找到傅里叶反变换曲线的峰值位置,所述峰值位置的坐标即为平移量(x0,y0);
其中,j表示复数,*表示复数共轭;
步骤5.2:计算图像fi1相对于图像fi+1,1的旋转量θ0与缩放量r0;
步骤5.2.1:对图像fi1(x,y)与目标旋转缩放图像fi+1,1(x,y)进行极坐标变换处理,将旋转关系变成相加性关系,再对极坐标做对数运算,使缩放关系变成相加关系,得到对数极坐标下图像fi1与fi+1,1的旋转缩放关系为
fi+1,1(R,θ)=fi,1(R-R0,θ-θ0) (3)
步骤5.3:构建图像fi1到图像fi+1,1的初始变换矩阵为
其中,p、q为投影变化量。
3.根据权利要求2所述的基于点云方法的高铁重轨表面缺陷检测方法,其特征在于,所述步骤6包括下述步骤:
步骤6.1:将图像fi1与fi2分别作为主图与辅助图,利用SAD算法,对图像fi1与fi2进行匹配,得到视差图,得到图像fi1与fi2中任意像素点P的视差值d,从而得到该像素点P在世界坐标系下的Z轴值为
步骤6.2:以彩色双目线阵相机的扫描行为方向为x轴方向、前进方向为y轴方向,建立每一次扫描的瞬时平面坐标系,构建第m次扫描的成像模型为
其中,(X,Y,Z)为待检测高铁重轨在世界坐标系下任意像素点P的坐标值,(xm,0)为像素点P每次被扫描时的成像点,Xsm、Ysm、Zsm为彩色双目线阵相机在世界坐标系下的位置,λ为比例因子,Rm为由wm、km构成的旋转矩阵,aqm、bqm、cqm(q=1,2,3)为Rm的各个元素;wm、km分别为坐标轴x、y、z的旋转角度,在采集图像的过程中彩色双目线阵相机固定不动、待检测高铁重轨沿直线轨道运动,从而wm=w0、km=k0;
步骤6.3:计算彩色双目线阵相机在世界坐标系下的位置为
步骤6.4:计算彩色双目线阵相机在世界坐标系下的Y轴值为
其中,Y0为初始时刻待检测高铁重轨在世界坐标下的Y轴值;
步骤6.5:由式(5)、(6)、(7)、(8)、(9),计算得到
从而得到图像fi1与fi2中任意像素点P在世界坐标系下的三维坐标(X,Y,Z),将图像fi1、fi2映射为三维深度图像fi。
4.根据权利要求3所述的基于点云方法的高铁重轨表面缺陷检测方法,其特征在于,所述步骤8包括下述步骤:
步骤8.1:初始化ICP算法的迭代次数K=0、第K次迭代的点云集PK,P0=C,C为源点云集{F1,F2,...,Fi,...,Fn-1},目标点云集为B={F2,...,Fi,...,Fn};源点云集与目标点云集在第K次迭代时获得的对应点集为SK,第K次迭代通过对应点集得到的旋转矩阵、平移矩阵、估计误差分别为RK、TK、WK,R0=I,T0=0;
步骤8.2:搜寻最近点:计算点云Ci中的点在点云Bi中的最近点,组成对应点集Sk;
步骤8.3:求解对应点的变换关系H3Di:求对应最近点对平均距离最小的旋转变化矩阵H3Di,并估计误差WK为
步骤8.4:应用变换:对点云Ci中的每个点使用旋转变化矩阵H3Di进行变换,得到点云Ci+1;
5.根据权利要求4所述的基于点云方法的高铁重轨表面缺陷检测方法,其特征在于,所述步骤10包括下述步骤:
步骤10.1:对完整的表面点云F进行去噪和降采样预处理;
步骤10.2:设置空的种子序列{A}、空的聚类区域{J}、曲率阈值Cth、角度阈值θth;
步骤10.3:估计点云F中每个点的法向量{N}和曲率{C},得到每个点的法线和曲率值;
步骤10.4:根据点云F中各点曲率值大小将点云数据重排序,将曲率最小点定义为初始种子点{SC},加入种子序列{A}和聚类区域{J}中,聚类区域{J}为无缺陷区域;
步骤10.5:利用点云邻域搜索算法搜索种子点邻域{BC};
步骤10.6:计算每个邻域点BC(j)的法线与种子点的法线间的夹角,判断该夹角值是否小于角度阈值θth:
cos-1(N{sC(i)},N{BC(j)}|)<θth (12)
若邻域点BC(j)满足式(12),则将该邻域点加入聚类区域{J}中,并判断该邻域点的曲率值是否小于曲率阈值Cth,若该邻域点的曲率小于曲率阈值Cth,则将该邻域点加入种子点序列{A}中;若该邻域点的曲率不小于曲率阈值Cth,则进行下一个邻域点BC(j+1)的曲率、法线夹角的判断,直到遍历邻域{BC}中的所有点,并删除当前种子点;
步骤10.7:在更新后的种子点序列{A}中重新选择种子点,重复上述步骤10.5至步骤10.6,直到种子点序列{A}为空,完成对点云F上法矢角度突变点与平滑区域的分割,得到缺陷的点云数据集,从而得到待检测高铁重轨的表面缺陷分布。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910292336.2A CN110033447B (zh) | 2019-04-12 | 2019-04-12 | 一种基于点云方法的高铁重轨表面缺陷检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910292336.2A CN110033447B (zh) | 2019-04-12 | 2019-04-12 | 一种基于点云方法的高铁重轨表面缺陷检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110033447A CN110033447A (zh) | 2019-07-19 |
CN110033447B true CN110033447B (zh) | 2022-11-08 |
Family
ID=67238251
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910292336.2A Active CN110033447B (zh) | 2019-04-12 | 2019-04-12 | 一种基于点云方法的高铁重轨表面缺陷检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110033447B (zh) |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110852979A (zh) * | 2019-11-12 | 2020-02-28 | 广东省智能机器人研究院 | 一种基于相位信息匹配的点云配准及融合方法 |
CN111080640B (zh) * | 2019-12-30 | 2023-07-14 | 广东博智林机器人有限公司 | 一种孔洞检测方法、装置、设备和介质 |
CN111311576B (zh) * | 2020-02-14 | 2023-06-02 | 易思维(杭州)科技有限公司 | 基于点云信息的缺陷检测方法 |
CN111709934B (zh) * | 2020-06-17 | 2021-03-23 | 浙江大学 | 一种基于点云特征对比的注塑叶轮翘曲缺陷检测方法 |
CN112102397B (zh) * | 2020-09-10 | 2021-05-11 | 敬科(深圳)机器人科技有限公司 | 一种多层零件的定位方法、设备、***及可读存储介质 |
CN112098419A (zh) * | 2020-09-11 | 2020-12-18 | 江苏理工学院 | 汽车外覆盖件表面缺陷检测***、检测方法 |
CN112233248B (zh) * | 2020-10-19 | 2023-11-07 | 广东省计量科学研究院(华南国家计量测试中心) | 基于三维点云的表面平整度的检测方法、***及介质 |
CN112489134B (zh) * | 2020-11-26 | 2024-05-14 | 南方科技大学 | 面向运动估计的跨帧超高速相机设计方法及运动估计方法 |
WO2022110043A1 (zh) * | 2020-11-27 | 2022-06-02 | 西门子股份公司 | 侵蚀检测方法、装置和计算机可读介质 |
CN112489025A (zh) * | 2020-12-07 | 2021-03-12 | 南京钢铁股份有限公司 | 一种连铸坯表面凹坑缺陷识别方法 |
CN112489042A (zh) * | 2020-12-21 | 2021-03-12 | 大连工业大学 | 基于超分辨重建的金属品印刷缺陷与表面损伤的检测方法 |
CN112802123B (zh) * | 2021-01-21 | 2023-10-27 | 北京科技大学设计研究院有限公司 | 一种基于条纹虚拟靶标的双目线阵相机静态标定方法 |
CN112819883B (zh) * | 2021-01-28 | 2024-04-26 | 华中科技大学 | 一种规则对象检测及定位方法 |
CN113096094B (zh) * | 2021-04-12 | 2024-05-17 | 吴俊� | 三维物体表面缺陷检测方法 |
CN113379841B (zh) * | 2021-06-21 | 2024-04-30 | 上海仙工智能科技有限公司 | 一种基于相位相关法与因子图的激光slam方法及其可读存储介质 |
CN113706462A (zh) * | 2021-07-21 | 2021-11-26 | 南京旭锐软件科技有限公司 | 产品表面缺陷检测方法、装置、设备及存储介质 |
CN114004873A (zh) * | 2021-09-27 | 2022-02-01 | 上海三一重机股份有限公司 | 作业区域平整度的检测方法、装置、设备、介质及产品 |
CN113804696B (zh) * | 2021-09-28 | 2023-01-20 | 北京科技大学 | 一种棒材表面缺陷尺寸面积确定方法 |
CN114066893A (zh) * | 2022-01-17 | 2022-02-18 | 湖南视比特机器人有限公司 | 检测工件质量的方法、装置和*** |
CN114549412A (zh) * | 2022-01-17 | 2022-05-27 | 湖南视比特机器人有限公司 | 检测工件质量的方法、装置和*** |
CN114332078B (zh) * | 2022-03-02 | 2022-06-10 | 山东华硕汽车配件科技有限公司 | 一种汽车发动机金属磨损智能修复控制方法 |
CN114511626B (zh) * | 2022-04-20 | 2022-08-05 | 杭州灵西机器人智能科技有限公司 | 基于rgbd相机***的图像处理装置、方法、设备及介质 |
CN115239625B (zh) * | 2022-06-21 | 2023-05-09 | 厦门微图软件科技有限公司 | 顶盖焊点云缺陷检测方法、装置、设备及存储介质 |
CN114897907B (zh) * | 2022-07-14 | 2022-09-30 | 北京远舢智能科技有限公司 | 一种烟支外观缺陷检测方法、装置及电子设备 |
CN115423758B (zh) * | 2022-08-15 | 2023-07-11 | 山东电力建设第三工程有限公司 | 一种全场精细化dni预测方法 |
CN115655151B (zh) * | 2022-12-08 | 2023-03-10 | 常州微亿智造科技有限公司 | 基于彩色相位测量偏折术的手机后盖板检测装置及方法 |
CN115953409B (zh) * | 2023-03-15 | 2023-05-30 | 深圳市深奇浩实业有限公司 | 基于图像处理的注塑件表面缺陷检测方法 |
CN116664575B (zh) * | 2023-07-31 | 2023-11-03 | 厦门微图软件科技有限公司 | 一种基于点云配准的缺陷检测方法、装置以及设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015096806A1 (zh) * | 2013-12-29 | 2015-07-02 | 刘进 | 智能机姿态测定、全景影像生成及目标识别方法 |
WO2015154601A1 (zh) * | 2014-04-08 | 2015-10-15 | 中山大学 | 一种基于无特征提取的紧致sfm三维重建方法 |
CN109242828A (zh) * | 2018-08-13 | 2019-01-18 | 浙江大学 | 基于光栅投影多步相移法的3d打印制品三维缺陷检测方法 |
CN109523501A (zh) * | 2018-04-28 | 2019-03-26 | 江苏理工学院 | 一种基于降维和点云数据匹配的电池外观缺陷检测方法 |
-
2019
- 2019-04-12 CN CN201910292336.2A patent/CN110033447B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015096806A1 (zh) * | 2013-12-29 | 2015-07-02 | 刘进 | 智能机姿态测定、全景影像生成及目标识别方法 |
WO2015154601A1 (zh) * | 2014-04-08 | 2015-10-15 | 中山大学 | 一种基于无特征提取的紧致sfm三维重建方法 |
CN109523501A (zh) * | 2018-04-28 | 2019-03-26 | 江苏理工学院 | 一种基于降维和点云数据匹配的电池外观缺陷检测方法 |
CN109242828A (zh) * | 2018-08-13 | 2019-01-18 | 浙江大学 | 基于光栅投影多步相移法的3d打印制品三维缺陷检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110033447A (zh) | 2019-07-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110033447B (zh) | 一种基于点云方法的高铁重轨表面缺陷检测方法 | |
CN107014294B (zh) | 一种基于红外图像的接触网几何参数检测方法及*** | |
CN109615654B (zh) | 基于双目视觉的排水管道内表面腐蚀深度及面积测量方法 | |
CN105913415B (zh) | 一种具有广泛适应性的图像亚像素边缘提取方法 | |
CN111696107B (zh) | 一种实现闭合连通域的熔池轮廓图像提取方法 | |
CN104318548B (zh) | 一种基于空间稀疏度和sift特征提取的快速图像配准实现方法 | |
CN108230237B (zh) | 一种用于电气设备在线检测的多光谱图像重构方法 | |
CN110687904A (zh) | 一种巡线机器人视觉导航巡检和避障方法 | |
CN106996748A (zh) | 一种基于双目视觉的轮径测量方法 | |
CN109448045B (zh) | 基于slam的平面多边形物体测量方法及机器可读存储介质 | |
CN106969706A (zh) | 基于双目立体视觉的工件检测与三维测量***及检测方法 | |
CN111126174A (zh) | 一种用于机器人抓取零件的视觉检测方法 | |
CN112037203A (zh) | 基于复杂工件外轮廓配准的侧表面缺陷检测方法及*** | |
CN108921164B (zh) | 一种基于三维点云分割的接触网***坡度检测方法 | |
CN115482195B (zh) | 一种基于三维点云的列车部件变形检测方法 | |
CN109668904A (zh) | 一种光学零件疵病检测装置及方法 | |
CN112365439B (zh) | 一种镀锌钢gmaw焊缝成形特征与焊枪方向同步实时检测方法 | |
CN110189375A (zh) | 一种基于单目视觉测量的图像目标识别方法 | |
CN110334727B (zh) | 一种隧道裂缝智能匹配检测方法 | |
CN117036641A (zh) | 一种基于双目视觉的公路场景三维重建与缺陷检测方法 | |
CN108109154A (zh) | 一种工件的新型定位及数据获取方法 | |
CN111667470A (zh) | 一种基于数字图像的工业管道探伤内壁检测方法 | |
CN111402330A (zh) | 一种基于平面靶标的激光线关键点提取方法 | |
CN116579955B (zh) | 一种新能源电芯焊缝反光点去噪和点云补全方法及*** | |
CN111415378B (zh) | 用于汽车玻璃检测的图像配准方法及汽车玻璃检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |