CN110188774A - 一种基于深度学习的电涡流扫描图像分类识别方法 - Google Patents
一种基于深度学习的电涡流扫描图像分类识别方法 Download PDFInfo
- Publication number
- CN110188774A CN110188774A CN201910443855.4A CN201910443855A CN110188774A CN 110188774 A CN110188774 A CN 110188774A CN 201910443855 A CN201910443855 A CN 201910443855A CN 110188774 A CN110188774 A CN 110188774A
- Authority
- CN
- China
- Prior art keywords
- encoder
- training
- image
- training sample
- current vortex
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000013135 deep learning Methods 0.000 title claims abstract description 12
- 238000012549 training Methods 0.000 claims abstract description 69
- 230000009467 reduction Effects 0.000 claims abstract description 33
- 238000012360 testing method Methods 0.000 claims abstract description 24
- 239000000463 material Substances 0.000 claims abstract description 22
- 238000013528 artificial neural network Methods 0.000 claims abstract description 17
- 238000011478 gradient descent method Methods 0.000 claims abstract description 7
- 210000002569 neuron Anatomy 0.000 claims description 16
- 238000000605 extraction Methods 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 15
- 230000007547 defect Effects 0.000 claims description 14
- 230000006870 function Effects 0.000 claims description 13
- 238000003708 edge detection Methods 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 7
- 238000001514 detection method Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 5
- 230000004913 activation Effects 0.000 claims description 3
- 238000010276 construction Methods 0.000 claims description 3
- 230000010354 integration Effects 0.000 claims description 3
- 230000001537 neural effect Effects 0.000 claims description 3
- 230000000694 effects Effects 0.000 description 5
- 208000037656 Respiratory Sounds Diseases 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000013095 identification testing Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 229910001069 Ti alloy Inorganic materials 0.000 description 1
- RTAQQCXQSZGOHL-UHFFFAOYSA-N Titanium Chemical compound [Ti] RTAQQCXQSZGOHL-UHFFFAOYSA-N 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000036039 immunity Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 210000004218 nerve net Anatomy 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 229910052719 titanium Inorganic materials 0.000 description 1
- 239000010936 titanium Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Investigating Or Analyzing Materials By The Use Of Magnetic Means (AREA)
Abstract
本发明公开了一种基于深度学习的电涡流扫描图像分类识别方法,步骤为:S1、采集被测材料的电涡流扫描图像,并进行预处理;S2、构建训练样本与测试样本;S3、使用Sobel算子处理,得到去背景化的训练样本;S4、构建多个稀疏降噪自编码器,并初始化;S5、输入训练样本与去背景化的训练样本,对多个稀疏降噪自编码器进行无监督的逐层自学习预训练;S6、将多个训练好的稀疏降噪编码器的编码网络提取出来进行栈式组合构建栈式稀疏降噪自编码深度神经网络;S7、结合数据标签,使用BP算法与批量梯度下降法对深度神经网络进行微调;S8、将测试样本输入深度神经网络进行性能测试。该方法使隐含层提取到的图像特征能更加简明地反映材料缺陷,有利于分类准确率提高。
Description
技术领域
本发明属于电涡流成像检测中的图像识别技术领域,具体涉及一种基于深度学习的电涡流扫描图像分类识别方法,特别是将深度学习应用于电涡流扫描图像的特征提取,并实现对电涡流扫描图像的自动分类识别。
背景技术
电涡流成像检测可以直观地反映被测导体材料缺陷,不仅便于生产人员进行直观的复检,也可根据扫描图像分析材料产生缺陷的原因,有利于生产工艺的改进。然而,在实际的电涡流成像检测中,由于工业现场环境复杂、被检材料表面条件较差、扫描装置振动、探头提离高度变化等因素,电涡流成像不可避免地收到各种噪声的干扰。因此,如何从低信噪比或受损的扫描图像中提取有效的特征,并对被检材料进行准确的缺陷分类识别一直是研究人员关注的问题。
目前对于电涡流检测缺陷分类识别,常规的方法主要由人工设计特征或依靠信号处理进行特征提取,再输入合适的分类器进行缺陷的分类识别。这依赖于检测人员对于检测信号的先验知识,特征质量和模型参数选择容易受人为主观影响,方法泛化性不强。同时,以上方法主要基于浅层模型进行特征提取与分类识别,难以提取较为本质、抽象的高阶特征,且难以逼近复杂非线性函数,在缺陷类型较多时分类能力不足。在工作环境复杂、强噪声干扰等情况下效果欠佳。
发明内容
本发明针对电涡流成像检测中扫描图像在低信噪比条件下的分类识别问题,在此提出一种基于深度学习的电涡流扫描图像分类识别方法,目的在于克服特征提取中人工设计特征的局限性,解决浅层模型在强噪声干扰下分类识别效果不理想的问题。本发明所提出方法将降稀疏性限制引入降噪自编码器(Denoising Auto-Encoder,DAE),构成稀疏降噪自编码器(Sparse Denoising Auto-Encoder, SDAE);同时使用Sober算子对训练样本图像进行进边缘检测,然后通过处理得到去背景化的电涡流扫描图像,进而使用训练样本与去背景化训练样本对多个自编码器进行无监督自学习预训练,然后利用自学习后的编码器构建栈式稀疏降噪自编码(Stacked Sparse Denoising Auto-Encoder,SSDAE)深度神经网络。所构建的深度神经网络进过有监督微调后,可同时实现被检材料缺陷的特征自动提取与分类识别。
为实现本发明的目的,在此提供的一种基于深度学习的电涡流扫描图像分类识别方法,具体步骤如下:
S1、通过检测装置采集被测材料的电涡流扫描图像,并对采集图像进行归一化处理,形成灰度图,图像的分辨率为a×b;
S2、将每一幅电涡流扫描图像fi∈Ra×b的像素值按列相连构成d×1的列向量,d=a×b;将每类材料缺陷的扫描图像向量各自随机取3/4作为训练样本 X(容量为m),1/4作为测试样本Y(容量为n),其表示如下:
S3、将训练集对应的图像通过Sober算子进行边缘检测,然后得到不包含边缘外背景的图像,同样,将图像构成M×1的列向量,得到去背景化训练样本X′;
S4、构建多个稀疏降噪自编码器;
S5、输入训练样本X、训练样本参考标签X′进行逐层无监督预训练;首先使用训练样本、训练样本参考标签训练第一个编码器,然后以第一个编码器隐含层的输出作为第二个编码器输入,训练第二个编码器,以此类推完成全部编码器的训练;
S6、将多个训练好的稀疏降噪编码器的编码网络提取出来进行栈式组合(初始化),再加上LR层作为输出层构建包含多个隐含层的深度神经网络;其中,深度网络输入层神经元数等于样本数据维数d;隐含层数等于稀疏降噪自编码器数量,各隐含层神经元数分别等于对应编码器隐含层神经元数;LR层神经元数量为类别数;
S7、结合数据标签,使用BP算法与批量梯度下降法对对深度网络进行微调,完成微调的网络结合SoftMax分类器,可实现特征自动提取与分类识别;
S8、将测试样本Y输入深度神经网络进行特征提取与分类识别,测试网络性能。
进一步,步骤3所述的边缘检测,对训练样本去背景化处理的具体方法和步骤如下:
S31、根据Sober算子构建两个3×3的矩阵CX,CY作为卷积核,其表达式如下:
S32、使用Cx,Cy和训练样本中对应的每一幅原始电涡流扫描图像fi做卷积,分别得到横向梯度矩阵Gxi=Cx*fi和纵向梯度矩阵Gyi=Cy*fi, i=1,2,…,N;
S33、计算图像的梯度值矩阵Gi=Gxi(|gjk|)+Gyi(|gjk|),Gi∈Rm×n;若矩阵中的每个梯度大于某个阈值(本发明取150),该点为边缘点;
S34、将Gi∈Rm×n中的边缘点置为1,其余点置为0;由于电涡流成像检测的特性,电涡流扫描图像中的材料缺陷一般为封闭图形,因此边缘内侧的区域也置为1,代表缺陷区域;
S35、将Gi和fi逐点相乘,得到去背景化训练样本X′={x′1,x′2,…,x′N}, x′i=Gi·*fi。
进一步,步骤5所述的降噪自编码器预训练具体原理与步骤如下:
S51、将测试样本xi添加噪声获得损坏数据(噪声程度用噪声系数表示,为损坏数据的百分比),并输入第一个编码器:编码器将映射到隐藏层,获得特征表达h,特征表达h再映射到输出层,得到重构数据zi,其表达式如下:
其中,W(1)∈Rr×d表示输入至隐含层权重,b(1)∈Rr×1为隐含层的输入偏置; W(2)∈Rd ×r表示隐含层至输出层权重,b(2)∈Rd×1为输出层的输入偏置;r为隐含层节点数量,s(·)表示Sigmoid激活函数;
S52、求出该编码器的代价函数值:本发明为使学习到的特征能更好表征被测材料缺陷,在栈式降噪自编码基础上做出改进,要求第一个编码器能重构出去背景化图像;且为使编码器能学习到更加简明的稀疏特征,在降噪自编码器的基础上引入稀疏性限制,形成稀疏降噪自编码器;因此编码器的代价函数如下所示:
上式中第一项为均方误差项,第二项为正则化项,其目的是尽量减小权重的大小,防止过度拟合,第三项为稀疏限制项,表达式如下:
其中zi (j)表示输入的输出,表示第i个去背景化训练样本的第j个参数;λ为权值衰减系数;l为网络层数;为第k层与k+1层之间,第j个神经元与第i个神经元的网络权重值;
S53、使用BP算法最小化代价函数J(W,b),得到该编码器模型的最优解W 和b,同时采用批量梯度下降法在每次迭代时更新权重值。更新过程如下所示:
S54、第一个编码器训练完成后,将其隐含层输出h作为第二个编码器的输入训练第二个编码器,以此类推直到所有编码器训练完成。需要注意的是,除第一个编码器外,其他编码器只要求能重构出输入特征,其代价函数如下:
其中表示该编码器输出的输出参数,表示上一个编码器隐含层第i个输出的第j个参数;求解和更新W和b的过程同步骤S53。
与现有技术相比,本发明的优点和积极效果在于:
1、本发明首先通过Sobel算子处理,得到去背景化的训练样本。在对稀疏降噪自编码器进行无监督预训练时,要求编码器能重构出去背景的电涡流扫描图像,使隐含层提取到的图像特征能更加简明地反映材料缺陷,有利于分类准确率提高。
2、同时,引入稀疏性限制的降噪自编码器能在强噪声干扰下学习到本质、简明的图像特征,具有较好抗噪性。具有以上特性的自编码器栈式组合构建出的深度神经网络也具有较强抗干扰能力,在不同工况下均能有效地对钛板缺陷进行分类识别,相比其他常规方法具有更强的鲁棒性。
3、该方法无需人工设计特征或依靠信号处理技术的先验知识,而是通过自学习方式提取特征。
附图说明
图1为基于深度学习的电涡流扫描图像方法流程图;
图2为被测材料的裂纹尺寸图;
图3为电涡流扫描图像样本示意图;
图4为降噪自编码器结构图;
图5为栈式稀疏降噪自编码深度神经网络结构及训练示意图;
图6为不同方法特征提取效果对比图,(a)为PCA方法的特征散点图,(b)为 SSDAE方法的特征散点;
图7为不同方法的分类识别效果对比图。
具体实施方式
下面结合附图和具体实施例,对本发明作进一步说明。
如图1所示,一种基于深度学习的电涡流扫描图像分类识别方法,其步骤如下:
S1、通过检测装置采集被测材料进行多次扫描,得到9类,每类270幅电涡流扫描图像,并对采集图像进行归一化处理,形成灰度图,图像的分辨率为40×20。其中被测材料为3mm厚的TC3钛合金板材试件,试件上采用电火花放电加工了长度和深度不同的裂纹模拟材料缺陷。试件、裂纹的具体尺寸如图2 与表1所示,每一类裂纹的电涡流扫描图像如图3所示;
表1试件裂纹参数
S2、将每一幅电涡流扫描图像fi∈R40×20的像素值按列相连构成800×1的列向量;将每类材料缺陷的扫描图像向量各自随机取3/4作为训练样本X(容量为 1800),1/4作为测试样本Y(容量为630),其表示如下:
X={x1,x2,…,x180}=(xij)800×1800,xi={x1i,x2i,…,x800i}T
Y={y1,y2,…,y630}=(yij)800×630,yi={y1i,y2i,…,y800i}T
S3、如图4所示,将训练集对应的图像通过Sober算子进行边缘检测,然后得到不包含边缘外背景的图像,同样,将图像构成800×1的列向量,得到去背景化训练样本X′;
S4、构建3个稀疏降噪自编码器并初始化。稀疏降噪自编码器结构如图3所示,稀疏降噪自编码器可以视为一个输入和输出层神经元数相同,而隐含层神经元数量小于另外两层的三层神经网络;为了防止网络的过拟合而在输入层加入随机噪声,并在训练中要求自编码器能学习到压缩的特征并重构出不含噪声的原始输入;为使压缩特征更加简明,引入稀疏性限制,在一定程度上抑制输出接近于 0的隐含层神经元;
S5、如图4所示,构建多个稀疏降噪自编码器并初始化后,输入训练样本X、训练样本参考标签X′进行逐层无监督预训练。首先使用训练样本、训练样本参考标签训练第一个编码器,然后以第一个编码器隐含层的输出作为第二个编码器输入,训练第二个编码器,以此类推完成全部编码器的训练;
S6、如图4所示,将3个训练好的稀疏降噪编码器的编码网络提取出来进行栈式组合(初始化),再加上LR层作为输出层构建包含3个隐含层的深度神经网络。其中,深度网络输入层神经元数等于样本数据维数800;隐含层数等于稀疏降噪自编码器数3,各隐含层神经元数分别等于对应编码器隐含层神经元数 400/200/100,最后一个隐含层输出的提取的特征;LR层神经元数量为被测试件裂纹类别数9。
S7、结合数据标签,使用BP算法与批量梯度下降法对对深度网络进行微调,完成微调的网络结合SoftMax分类器,可实现特征自动提取与分类识别。
S8、将测试样本Y输入深度神经网络进行特征提取与分类识别,测试网络性能。
进一步,S3所述的边缘检测,对训练样本去背景化处理的具体方法和步骤如下:
S31、根据Sober算子构建两个3×3的矩阵CX,CY作为卷积核,其表达式如下:
S32、使用Cx,Cy和训练样本中对应的每一幅原始电涡流扫描图像fi做卷积,分别得到横向梯度矩阵Gxi=Cx*fi和纵向梯度矩阵Gyi=Cy*fi, i=1,2,…,1800;
S33、计算图像的梯度值矩阵Gi=Gxi(|gjk|)+Gyi(|gjk|),Gi∈R40×20;若矩阵中的每个梯度大于某个阈值(本发明取150),该点为边缘点;
S34、将Gi∈R40×20中的边缘点置为1,其余点置为0;由于电涡流成像检测的特性,电涡流扫描图像中的材料缺陷一般为封闭图形,因此边缘内侧的区域也置为1,代表缺陷区域;
S35、将Gi和fi逐点相乘,得到去背景化训练样本X′={x′1,x′2,…,x′1800}, x′i=Gi·*fi。
进一步,S5所述的降噪自编码器预训练具体原理与步骤如下:
S51、将测试样本xi添加噪声获得损坏数据并输入第一个编码器:编码器将映射到隐藏层,获得特征表达h,特征表达h再映射到输出层,得到重构数据zi,其表达式如下:
其中,W(1)∈Rr×d表示输入至隐含层权重,b(1)∈Rr×1为隐含层的输入偏置; W(2)∈Rd ×r表示隐含层至输出层权重,b(2)∈Rd×1为输出层的输入偏置;r为隐含层节点数量,s(·)表示Sigmoid激活函数;
S52、求出该编码器的代价函数值:本发明为使学习到的特征能更好表征被测材料缺陷,在栈式降噪自编码基础上做出改进,要求第一个编码器能重构出去背景化图像;且为使编码器能学习到更加简明的稀疏特征,在降噪自编码器的基础上引入稀疏性限制,形成稀疏降噪自编码器;因此编码器的代价函数如下所示:
上式中第一项为均方误差项,第二项为正则化项,其目的是尽量减小权重的大小,防止过度拟合,第三项为稀疏限制项,表达式如下:
其中zi (j)表示输入的输出,表示第i个去背景化训练样本的第j个参数;λ为权值衰减系数;l为网络层数;为第k层与k+1层之间,第j个神经元与第i个神经元的网络权重值;
S53、使用BP算法最小化代价函数J(W,b),得到该编码器模型的最优解W 和b,同时采用批量梯度下降法在每次迭代时更新权重值。更新过程如下所示:
S54、第一个编码器训练完成后,将其隐含层输出h作为第二个编码器的输入训练第二个编码器,以此类推直到所有编码器训练完成。需要注意的是,除第一个编码器外,其他编码器只要求能重构出输入特征,其代价函数如下:
其中表示该编码器输出的输出参数,表示上一个编码器隐含层第i个输出的第j个参数;求解和更新W和b的过程同步骤S54。
进一步,为了本发明方法的有效性,使用训练完成后的SSDAE深度神经网络模型对电涡流图像进行特征提取与分类识别测试,步骤S8的具体测试过程与效果如下:
1)测试使用X,X′进行训练,使用Y进行测试。测试的SSDAE深度神经网络的关键参数如表2所示。
表2网络参数
2)首先对比本发明方法的特征提取效果。测试使用PCA与本发明方法进行对比,为了直观展示特征的分布情况,将特征映射至三维特征向量,如图5所示。可以看出,PCA提取的图像特征相对混杂,然而,在基于深度架构的SSDAE 方法同类缺陷特征聚集明显,且对于不同缺陷,特征之间的交叉与重合程度较小。
3)使用提取的特征输入LR层与sofmax分类器进行分类识别,本次测试使用PCA+SVM、PCA+BP神经网络与发明方法进行对比,分类准确率分别为 96.98%、91.11%、99.84%,表面本发明方法分类识别性能优于传统方法。
4)为了更进一步验证SSDAE深度神经网络的鲁棒性,进行了不同工况下的对比测试,同样使用PCA+SVM、PCA+BP神经网络与发明方法进行对比。在实际生产中,工况和工作环境的改变,往往会对检测产生不同程度的噪声干扰。为模拟不同的工况环境,将测试样本加入不同程度的高斯白噪声,信噪比为 10dB~32dB,间隔为2dB。在不同信噪比下的电涡流检测图像如图6所示。将包含不同程度噪声的图像输入训练好的模型进行分类识别测试,结果如图7所示。
从图7可以看出,在信噪比大于24dB时,3种方法均有相对较高的识别率,最高分别为96.98%、88.89%、99.84%。但随着信噪比的减小,各类方法识别准确率出现明显的下降趋势。但值得注意的是,SSDAE方法的准确率下降较其他方法不明显,说明该方法在输入受损或含有强噪声的情况下也能提取到合适的特征并准确进行分类,能有效抑制环境噪声影响,具有更强的鲁棒性。
上面结合附图对本发明的具体实施例作了详细说明,但是本发明并不限于上述实施例,在本领域普通技术人员所具备的知识范围内,还可以在不脱离本发明宗旨的前提下作出各种变化。
Claims (3)
1.一种基于深度学习的电涡流扫描图像分类识别方法,其特征在于,包括以下步骤:
S1、通过检测装置采集被测材料的电涡流扫描图像,并对采集图像进行归一化处理,形成灰度图,图像的分辨率为a×b;
S2、将每一幅电涡流扫描图像fi∈Ra×b的像素值按列相连构成d×1的列向量,d=a×b;将每类材料缺陷的扫描图像向量各自随机取3/4作为训练样本X,容量为m,1/4作为测试样本Y,容量为n,其表示如下:
xi={x1i,x2i,…,xdi}T
yi={y1i,y2i,…,ydi}T
S3、将训练集对应的图像通过Sober算子进行边缘检测,然后得到不包含边缘外背景的图像,同样,将图像构成M×1的列向量,得到去背景化训练样本X′;
S4、构建多个稀疏降噪自编码器;
S5、输入训练样本X、训练样本参考标签X′进行逐层无监督预训练;首先使用训练样本、训练样本参考标签训练第一个编码器,然后以第一个编码器隐含层的输出作为第二个编码器输入,训练第二个编码器,以此类推完成全部编码器的训练;
S6、将多个训练好的稀疏降噪编码器的编码网络提取出来进行栈式组合(初始化),再加上LR层作为输出层构建包含多个隐含层的深度神经网络;其中,深度网络输入层神经元数等于样本数据维数d;隐含层数等于稀疏降噪自编码器数量,各隐含层神经元数分别等于对应编码器隐含层神经元数;LR层神经元数量为类别数;
S7、结合数据标签,使用BP算法与批量梯度下降法对对深度网络进行微调,完成微调的网络结合SoftMax分类器,可实现特征自动提取与分类识别;
S8、将测试样本Y输入深度神经网络进行特征提取与分类识别,测试网络性能。
2.根据权利要求1所述的一种基于深度学习的电涡流扫描图像分类识别方法,其特征在于步骤S3所述的边缘检测,对训练样本去背景化处理的具体方法和步骤如下:
S31、根据Sober算子构建两个3×3的矩阵CX,CY作为卷积核,其表达式如下:
S32、使用Cx,Cy和训练样本中对应的每一幅原始电涡流扫描图像fi做卷积,分别得到横向梯度矩阵Gxi=Cx*fi和纵向梯度矩阵Gyi=Cy*fi,i=1,2,…,N;
S33、计算图像的梯度值矩阵Gi=Gxi(|gjk|)+Gyi(|gjk|),Gi∈Rm×n;若矩阵中的每个梯度大于某个阈值(本发明取150),该点为边缘点;
S34、将Gi∈Rm×n中的边缘点置为1,其余点置为0;由于电涡流成像检测的特性,电涡流扫描图像中的材料缺陷一般为封闭图形,因此边缘内侧的区域也置为1,代表缺陷区域;
S35、将Gi和fi逐点相乘,得到去背景化训练样本X′={x′1,x′2,…,x′N},x′i=Gi·*fi。
3.根据权利要求1所述的一种基于深度学习的电涡流扫描图像分类识别方法,其特征在于步骤S5所述的降噪自编码器预训练具体原理与步骤如下:
S51、将测试样本xi添加噪声获得损坏数据并输入第一个编码器:编码器将映射到隐藏层,获得特征表达h,特征表达h再映射到输出层,得到重构数据zi,其表达式如下:
其中,W(1)∈Rr×d表示输入至隐含层权重,b(1)∈Rr×1为隐含层的输入偏置;W(2)∈Rd×r表示隐含层至输出层权重,b(2)∈Rd×1为输出层的输入偏置;r为隐含层节点数量,s(·)表示Sigmoid激活函数;
S52、求出该编码器的代价函数值:编码器的代价函数如下所示:
上式中第一项为均方误差项,第二项为正则化项,其目的是尽量减小权重的大小,防止过度拟合,第三项为稀疏限制项,表达式如下:
其中zi (j)表示输入的输出,表示第i个去背景化训练样本的第j个参数;λ为权值衰减系数;l为网络层数;为第k层与k+1层之间,第j个神经元与第i个神经元的网络权重值;
S53、使用BP算法最小化代价函数J(W,b),得到该编码器模型的最优解W和b,同时采用批量梯度下降法在每次迭代时更新权重值。更新过程如下所示:
S54、第一个编码器训练完成后,将其隐含层输出h作为第二个编码器的输入训练第二个编码器,以此类推直到所有编码器训练完成;除第一个编码器外,其他编码器只要求能重构出输入特征,其代价函数如下:
其中表示该编码器输出的输出参数,表示上一个编码器隐含层第i个输出的第j个参数;求解和更新W和b的过程同步骤S53。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910443855.4A CN110188774B (zh) | 2019-05-27 | 2019-05-27 | 一种基于深度学习的电涡流扫描图像分类识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910443855.4A CN110188774B (zh) | 2019-05-27 | 2019-05-27 | 一种基于深度学习的电涡流扫描图像分类识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110188774A true CN110188774A (zh) | 2019-08-30 |
CN110188774B CN110188774B (zh) | 2022-12-02 |
Family
ID=67717935
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910443855.4A Active CN110188774B (zh) | 2019-05-27 | 2019-05-27 | 一种基于深度学习的电涡流扫描图像分类识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110188774B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111028210A (zh) * | 2019-11-25 | 2020-04-17 | 北京航天控制仪器研究所 | 基于稀疏自动编码器的深度神经网络玻璃管端面缺陷检测方法 |
CN111028302A (zh) * | 2019-11-27 | 2020-04-17 | 华南师范大学 | 一种基于深度学习的压缩对象成像方法及*** |
CN111062409A (zh) * | 2019-10-30 | 2020-04-24 | 闽南师范大学 | 一种无监督图像特征的提取及分类方法 |
CN111144316A (zh) * | 2019-12-27 | 2020-05-12 | 南京航空航天大学 | 基于堆栈自编码器的海面目标检测方法 |
CN111753789A (zh) * | 2020-07-01 | 2020-10-09 | 重庆邮电大学 | 基于堆栈式组合自编码器的机器人视觉slam闭环检测方法 |
CN111814878A (zh) * | 2020-07-09 | 2020-10-23 | 仲恺农业工程学院 | 基于ssda-helm-softmax的农业投入品实时分类预测方法 |
CN111815561A (zh) * | 2020-06-09 | 2020-10-23 | 中海石油(中国)有限公司 | 一种基于深度时空特征的管道缺陷及管道组件的检测方法 |
CN112967239A (zh) * | 2021-02-23 | 2021-06-15 | 湖南大学 | 一种坡口缺陷检测方法、计算设备及可读存储介质 |
CN114070621A (zh) * | 2021-11-16 | 2022-02-18 | 苏州大学 | 面向网络数据流分类的在线稀疏学习方法及*** |
CN117314900A (zh) * | 2023-11-28 | 2023-12-29 | 诺比侃人工智能科技(成都)股份有限公司 | 一种基于半自监督特征匹配缺陷检测方法 |
Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101210905A (zh) * | 2007-12-21 | 2008-07-02 | 浙江大学 | 具有自调零功能的巨磁电阻电涡流探头 |
CN101339602A (zh) * | 2008-07-15 | 2009-01-07 | 中国科学技术大学 | 一种基于光流法的视频火灾烟雾图像识别方法 |
CN101923070A (zh) * | 2010-06-23 | 2010-12-22 | 北京理工大学 | 一种齿轮损伤检测方法与装置 |
CN102663382A (zh) * | 2012-04-25 | 2012-09-12 | 重庆邮电大学 | 基于子网格特征自适应加权的视频图像文字识别方法 |
WO2013163503A1 (en) * | 2012-04-27 | 2013-10-31 | The General Hospital Corporation | Implantable electrode system |
CN104145277A (zh) * | 2013-02-28 | 2014-11-12 | Lsi公司 | 在处理层和一个或多个更高层之间具有多通道接口的图像处理器 |
CN104914851A (zh) * | 2015-05-21 | 2015-09-16 | 北京航空航天大学 | 一种基于深度学习的飞机旋转作动器驱动装置自适应故障检测方法 |
CN105069400A (zh) * | 2015-07-16 | 2015-11-18 | 北京工业大学 | 基于栈式稀疏自编码的人脸图像性别识别*** |
CN105163121A (zh) * | 2015-08-24 | 2015-12-16 | 西安电子科技大学 | 基于深度自编码网络的大压缩比卫星遥感图像压缩方法 |
CN106326893A (zh) * | 2016-08-25 | 2017-01-11 | 安徽水滴科技有限责任公司 | 一种基于区域辨别的车辆颜色识别方法 |
CN106553086A (zh) * | 2016-10-27 | 2017-04-05 | 大连理工大学 | 快速高精度的复杂曲面制孔点法矢量测量方法 |
CN106803062A (zh) * | 2016-12-20 | 2017-06-06 | 陕西师范大学 | 栈式降噪自编码神经网络手势图像的识别方法 |
CN107016241A (zh) * | 2017-04-05 | 2017-08-04 | 重庆交通大学 | 基于加噪样本增强深度自编码学习网络的旋转机械寿命阶段识别方法 |
CN107239751A (zh) * | 2017-05-22 | 2017-10-10 | 西安电子科技大学 | 基于非下采样轮廓波全卷积网络的高分辨sar图像分类方法 |
CN107292243A (zh) * | 2017-06-02 | 2017-10-24 | 太原理工大学 | 一种基于图像处理的转子***轴心轨迹识别方法 |
CN107292885A (zh) * | 2017-08-08 | 2017-10-24 | 广东工业大学 | 一种基于自动编码器的产品缺陷分类识别方法及装置 |
CN108037138A (zh) * | 2017-12-23 | 2018-05-15 | 陕西科技大学 | 一种用于检测纸张双面缺陷的纸病检测***及检测方法 |
CN108665005A (zh) * | 2018-05-16 | 2018-10-16 | 南京信息工程大学 | 一种利用dcgan提高基于cnn图像识别性能的方法 |
CN109270475A (zh) * | 2018-09-27 | 2019-01-25 | 中国人民解放军国防科技大学 | 高速磁浮长定子牵引行波磁场检测*** |
-
2019
- 2019-05-27 CN CN201910443855.4A patent/CN110188774B/zh active Active
Patent Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101210905A (zh) * | 2007-12-21 | 2008-07-02 | 浙江大学 | 具有自调零功能的巨磁电阻电涡流探头 |
CN101339602A (zh) * | 2008-07-15 | 2009-01-07 | 中国科学技术大学 | 一种基于光流法的视频火灾烟雾图像识别方法 |
CN101923070A (zh) * | 2010-06-23 | 2010-12-22 | 北京理工大学 | 一种齿轮损伤检测方法与装置 |
CN102663382A (zh) * | 2012-04-25 | 2012-09-12 | 重庆邮电大学 | 基于子网格特征自适应加权的视频图像文字识别方法 |
WO2013163503A1 (en) * | 2012-04-27 | 2013-10-31 | The General Hospital Corporation | Implantable electrode system |
CN104145277A (zh) * | 2013-02-28 | 2014-11-12 | Lsi公司 | 在处理层和一个或多个更高层之间具有多通道接口的图像处理器 |
CN104914851A (zh) * | 2015-05-21 | 2015-09-16 | 北京航空航天大学 | 一种基于深度学习的飞机旋转作动器驱动装置自适应故障检测方法 |
CN105069400A (zh) * | 2015-07-16 | 2015-11-18 | 北京工业大学 | 基于栈式稀疏自编码的人脸图像性别识别*** |
CN105163121A (zh) * | 2015-08-24 | 2015-12-16 | 西安电子科技大学 | 基于深度自编码网络的大压缩比卫星遥感图像压缩方法 |
CN106326893A (zh) * | 2016-08-25 | 2017-01-11 | 安徽水滴科技有限责任公司 | 一种基于区域辨别的车辆颜色识别方法 |
CN106553086A (zh) * | 2016-10-27 | 2017-04-05 | 大连理工大学 | 快速高精度的复杂曲面制孔点法矢量测量方法 |
CN106803062A (zh) * | 2016-12-20 | 2017-06-06 | 陕西师范大学 | 栈式降噪自编码神经网络手势图像的识别方法 |
CN107016241A (zh) * | 2017-04-05 | 2017-08-04 | 重庆交通大学 | 基于加噪样本增强深度自编码学习网络的旋转机械寿命阶段识别方法 |
CN107239751A (zh) * | 2017-05-22 | 2017-10-10 | 西安电子科技大学 | 基于非下采样轮廓波全卷积网络的高分辨sar图像分类方法 |
CN107292243A (zh) * | 2017-06-02 | 2017-10-24 | 太原理工大学 | 一种基于图像处理的转子***轴心轨迹识别方法 |
CN107292885A (zh) * | 2017-08-08 | 2017-10-24 | 广东工业大学 | 一种基于自动编码器的产品缺陷分类识别方法及装置 |
CN108037138A (zh) * | 2017-12-23 | 2018-05-15 | 陕西科技大学 | 一种用于检测纸张双面缺陷的纸病检测***及检测方法 |
CN108665005A (zh) * | 2018-05-16 | 2018-10-16 | 南京信息工程大学 | 一种利用dcgan提高基于cnn图像识别性能的方法 |
CN109270475A (zh) * | 2018-09-27 | 2019-01-25 | 中国人民解放军国防科技大学 | 高速磁浮长定子牵引行波磁场检测*** |
Non-Patent Citations (6)
Title |
---|
G. E. HINTON: "Training Products of Experts by Minimizing Contrastive Divergence", 《NEURAL COMPUTATION》, 31 December 2002 (2002-12-31), pages 1771 - 1800 * |
仝卫国等: "深度学习优化算法研究", 《计算机科学》, 15 November 2018 (2018-11-15), pages 165 - 169 * |
刘晨等: "基于CNN的SAR图像目标分类优化算法", 《雷达科学与技术》, no. 04, 15 August 2017 (2017-08-15), pages 28 - 33 * |
包俊 等: "基于SSDAE深度神经网络的钛板电涡流检测图像分类研究", 《仪器仪表学报》, 30 April 2019 (2019-04-30), pages 238 - 247 * |
陈寿宏等: "深度卷积神经网络胸片肺结节分类识别研究", 《计算机工程与应用》, no. 24, 15 December 2018 (2018-12-15), pages 181 - 186 * |
韩嘉隆等: "基于二维OTSU的海天分界线提取算法", 《国外电子测量技术》, no. 08, 15 August 2016 (2016-08-15), pages 72 - 75 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111062409A (zh) * | 2019-10-30 | 2020-04-24 | 闽南师范大学 | 一种无监督图像特征的提取及分类方法 |
CN111028210A (zh) * | 2019-11-25 | 2020-04-17 | 北京航天控制仪器研究所 | 基于稀疏自动编码器的深度神经网络玻璃管端面缺陷检测方法 |
CN111028302A (zh) * | 2019-11-27 | 2020-04-17 | 华南师范大学 | 一种基于深度学习的压缩对象成像方法及*** |
CN111028302B (zh) * | 2019-11-27 | 2023-07-25 | 华南师范大学 | 一种基于深度学习的压缩对象成像方法及*** |
CN111144316A (zh) * | 2019-12-27 | 2020-05-12 | 南京航空航天大学 | 基于堆栈自编码器的海面目标检测方法 |
CN111815561A (zh) * | 2020-06-09 | 2020-10-23 | 中海石油(中国)有限公司 | 一种基于深度时空特征的管道缺陷及管道组件的检测方法 |
CN111815561B (zh) * | 2020-06-09 | 2024-04-16 | 中海石油(中国)有限公司 | 一种基于深度时空特征的管道缺陷及管道组件的检测方法 |
CN111753789A (zh) * | 2020-07-01 | 2020-10-09 | 重庆邮电大学 | 基于堆栈式组合自编码器的机器人视觉slam闭环检测方法 |
CN111814878A (zh) * | 2020-07-09 | 2020-10-23 | 仲恺农业工程学院 | 基于ssda-helm-softmax的农业投入品实时分类预测方法 |
CN111814878B (zh) * | 2020-07-09 | 2023-06-06 | 仲恺农业工程学院 | 基于ssda-helm-softmax的农业投入品实时分类预测方法 |
CN112967239A (zh) * | 2021-02-23 | 2021-06-15 | 湖南大学 | 一种坡口缺陷检测方法、计算设备及可读存储介质 |
CN114070621A (zh) * | 2021-11-16 | 2022-02-18 | 苏州大学 | 面向网络数据流分类的在线稀疏学习方法及*** |
CN114070621B (zh) * | 2021-11-16 | 2023-01-17 | 苏州大学 | 面向网络数据流分类的在线稀疏学习方法及*** |
CN117314900A (zh) * | 2023-11-28 | 2023-12-29 | 诺比侃人工智能科技(成都)股份有限公司 | 一种基于半自监督特征匹配缺陷检测方法 |
CN117314900B (zh) * | 2023-11-28 | 2024-03-01 | 诺比侃人工智能科技(成都)股份有限公司 | 一种基于半自监督特征匹配缺陷检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110188774B (zh) | 2022-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110188774A (zh) | 一种基于深度学习的电涡流扫描图像分类识别方法 | |
CN105427300B (zh) | 一种基于低秩表示和学习字典的高光谱图像异常探测方法 | |
CN110533631B (zh) | 基于金字塔池化孪生网络的sar图像变化检测方法 | |
CN110135267A (zh) | 一种大场景sar图像细微目标检测方法 | |
CN105868793B (zh) | 基于多尺度深度滤波器的极化sar图像分类方法 | |
CN109977808A (zh) | 一种晶圆表面缺陷模式检测与分析方法 | |
CN107909109B (zh) | 基于显著性和多尺度深度网络模型的sar图像分类方法 | |
CN109800631A (zh) | 基于掩膜区域卷积神经网络的荧光编码微球图像检测方法 | |
CN107563999A (zh) | 一种基于卷积神经网络的芯片缺陷识别方法 | |
CN110232419A (zh) | 一种边坡岩石类别自动识别的方法 | |
CN109002848B (zh) | 一种基于特征映射神经网络的弱小目标检测方法 | |
CN106295124A (zh) | 利用多种图像检测技术综合分析基因子图相似概率量的方法 | |
CN106886760B (zh) | 一种基于空谱信息结合的高光谱舰船检测方法 | |
CN109858352A (zh) | 一种基于压缩感知与改进多尺度网络的故障诊断方法 | |
CN110045015A (zh) | 一种基于深度学习的混凝土结构内部缺陷检测方法 | |
CN105844279A (zh) | 基于深度学习和sift特征的sar图像变化检测方法 | |
CN104200478B (zh) | 一种基于稀疏表示的低分辨率触摸屏图像缺陷检测方法 | |
CN109902715A (zh) | 一种基于上下文聚合网络的红外弱小目标检测方法 | |
CN109948527B (zh) | 基于集成深度学习的小样本太赫兹图像异物检测方法 | |
CN113297929A (zh) | 基于全过程可视化的卷积神经网络微震监测波形识别方法 | |
CN110297041A (zh) | 一种基于fcn与gru的3d编织复合材料缺陷检测方法 | |
CN108492298A (zh) | 基于生成对抗网络的多光谱图像变化检测方法 | |
CN109389171A (zh) | 基于多粒度卷积降噪自动编码器技术的医疗图像分类方法 | |
CN109191418A (zh) | 一种基于收缩自编码器特征学习的遥感图像变化检测方法 | |
CN109657707A (zh) | 一种基于观测矩阵变换维度的图像分类方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |