CN111260640A - 基于cyclegan的树状生成器网络齿轮点蚀图像测量方法及装置 - Google Patents
基于cyclegan的树状生成器网络齿轮点蚀图像测量方法及装置 Download PDFInfo
- Publication number
- CN111260640A CN111260640A CN202010065989.XA CN202010065989A CN111260640A CN 111260640 A CN111260640 A CN 111260640A CN 202010065989 A CN202010065989 A CN 202010065989A CN 111260640 A CN111260640 A CN 111260640A
- Authority
- CN
- China
- Prior art keywords
- image
- pitting
- gear
- tooth surface
- generator
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 30
- 238000001514 detection method Methods 0.000 claims abstract description 31
- 238000007781 pre-processing Methods 0.000 claims abstract description 12
- 230000007613 environmental effect Effects 0.000 claims abstract description 4
- 238000012545 processing Methods 0.000 claims description 44
- 230000011218 segmentation Effects 0.000 claims description 30
- 238000013507 mapping Methods 0.000 claims description 28
- 239000011159 matrix material Substances 0.000 claims description 26
- 230000006870 function Effects 0.000 claims description 24
- 238000005286 illumination Methods 0.000 claims description 24
- 230000009466 transformation Effects 0.000 claims description 24
- 238000005260 corrosion Methods 0.000 claims description 21
- 230000007797 corrosion Effects 0.000 claims description 21
- 229910052704 radon Inorganic materials 0.000 claims description 21
- SYUHGPGVQRZVTB-UHFFFAOYSA-N radon atom Chemical compound [Rn] SYUHGPGVQRZVTB-UHFFFAOYSA-N 0.000 claims description 21
- 230000000877 morphologic effect Effects 0.000 claims description 20
- 238000005070 sampling Methods 0.000 claims description 18
- 238000003709 image segmentation Methods 0.000 claims description 17
- 125000004122 cyclic group Chemical group 0.000 claims description 16
- 238000003708 edge detection Methods 0.000 claims description 14
- 238000012937 correction Methods 0.000 claims description 12
- 230000000007 visual effect Effects 0.000 claims description 11
- 238000011179 visual inspection Methods 0.000 claims description 9
- 230000004913 activation Effects 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 7
- 230000001131 transforming effect Effects 0.000 claims description 7
- 230000008485 antagonism Effects 0.000 claims description 6
- 230000006399 behavior Effects 0.000 claims description 6
- 238000004891 communication Methods 0.000 claims description 6
- 238000001914 filtration Methods 0.000 claims description 6
- 238000011176 pooling Methods 0.000 claims description 6
- 238000000691 measurement method Methods 0.000 claims 3
- QBPPRVHXOZRESW-UHFFFAOYSA-N 1,4,7,10-tetraazacyclododecane Chemical compound C1CNCCNCCNCCN1 QBPPRVHXOZRESW-UHFFFAOYSA-N 0.000 claims 1
- 238000012549 training Methods 0.000 abstract description 11
- 238000006243 chemical reaction Methods 0.000 abstract description 3
- 230000007246 mechanism Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 8
- 238000013527 convolutional neural network Methods 0.000 description 7
- 230000008901 benefit Effects 0.000 description 6
- 238000013459 approach Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 102100040954 Ephrin-A1 Human genes 0.000 description 2
- 101000965523 Homo sapiens Ephrin-A1 Proteins 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000003042 antagnostic effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 206010056342 Pulmonary mass Diseases 0.000 description 1
- 238000005299 abrasion Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 210000002421 cell wall Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0008—Industrial image inspection checking presence/absence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
- G06T3/608—Rotation of whole images or parts thereof by skew deformation, e.g. two-pass or three-pass rotation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
- G06T5/30—Erosion or dilatation, e.g. thinning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/187—Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20032—Median filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,并提供对应装置,属于齿轮故障检测,包括以下步骤:S1:采集齿轮点蚀图像信息;S2:对原始图像进行图像预处理,消除环境因素;S3:基于循环一致性损失cyclegan的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像;S4:通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级。本发明可以利用其底层参数共享机制来有效训练树状的生成器和鉴别器,通过训练树状生成器,让生成器的各个分支朝着不同的数据模式学习,同时用重构器让这些样本重构成原域样本,这样便能够保持风格转换的情况下生成不同的样本。
Description
技术领域
本发明属于齿轮故障检测领域,涉及一种基于cyclegan的树状生成器网络齿轮点蚀图像测量方法及装置。
背景技术
齿轮的故障诊断在齿轮的寿命预测中扮演者重要的角色,齿轮点蚀是齿轮常见的故障形式,对于齿轮点蚀的测量关乎着整个齿轮机械设备的正常运作,因此其重要性不言而喻。然而由于齿轮点蚀图片数据集的缺乏,对齿轮点蚀测量的准确度进行评价时,它的表现往往很差。
生成对抗网络(GANS)是近年来出现的一类新的深度生成模型,它成功地应用于图像、视频生成、图像修复、语义分割、图像到图像翻译和文本到图像合成等多种应用(Goodfellow, 2016)。从博弈论隐喻来看,该模型由一个鉴别器和一个生成器玩两人制极小极大值博弈的游戏,其中生成器旨在生成与训练数据中的样本相似的样本,而鉴别器则在试图区分这两个样本,如这论文中所说的那样(Goodfellow,2014)。然而训练GAN是一个挑战,由于生成器只专注于生成位于几个模式上的样本,这样很容易陷入模式崩溃的问题(Goodfellow,2016)。
最近,许多GAN变体被提出来解决这个问题,他们可以分成两大类:训练单个生成器或者多个生成器。对于前者,其方法包括修改鉴别器的目标(Metz等人),修改生成器的目标 (Warde,2016),或者额外的鉴别器为生成器生成更有用梯度信号(Nguyen等人,2017;Durugkar等人,2016)。这些变体的共同主题就是在均衡状态下,生成器显示出能够恢复数据分布的能力,但是在实践中收敛性很难实现。
最近通过修改鉴别器来尝试解决模式崩溃的方法包括:小批量的鉴别器(Salimans等 2016),展开的GAN(Metz等2016)和去噪特征匹配(DFM)(Warde-Farley andBengio, 2016)。小批量判别的思想是通过去允许鉴别器去检测与其它生成样本明显相似的样本,尽管这个方法可以产生视觉上有吸引力的样本,但是计算成本高,因此通常用于鉴别器的最后一个隐藏层。展开的GAN通过展开计算图以包含鉴别器的附加优化步骤来改进学习效果,它可以有效地减少模式崩溃问题,不是展开步骤代价很高,让他无法扩展到大型数据集。DFM 用一个去噪自编码器(DAE)来增强生成器的目标函数,来让鉴别器倒数第二层激活的重建误差最小,其思想是,来自DAE的梯度信号可以引导生成器生成接近实际数据激活的多个样本,DFM在避免模式崩溃方面出人意料地有效,但是深度的DAE给模型增加了相当大的计算成本。
另一种方法是训练额外的鉴别器。D2GAN(Nguyen等,2017)使用两个鉴别器来最小化 KL和反向KL距离,从而在数据模式之间实现公平分布。尽管该方法在一定程度上可以避免模式崩溃问题,但其优势有限不能超过DFM。
另外一种方法就是训练多个生成器,MIX+GAN是基于min-max定理,通过在极大极小博弈中训练五个不同参数的生成器和鉴别器的混合,该策略的总奖励就是通过对所有的生成器和鉴别器的加权平均奖励来计算的,由于缺乏参数共享,导致使用该方法的训练计算量大。启发我们本文思想的便是MAD-GAN(Ghosh等人2017),它是通过训练了多个生成器并且使用多类的分类器作为鉴别器。其文提出的解决模式崩溃的思想是用用户定义的基于相似度的函数来增强生成器的目标函数,以此来鼓励不同的生成器生成不同的样本,其次也通过修改鉴别器的目标函数来分离每个生成器的样本,进一步推动不同的生成器朝着不同的模式生成。
发明内容
有鉴于此,本发明的目的在于提供一种基于cyclegan的树状生成器网络齿轮点蚀图像测量方法及装置。
为达到上述目的,本发明提供如下技术方案:
一方面,本发明提供一种基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,包括以下步骤:
S1:采集齿轮点蚀图像信息;
S2:对原始图像进行图像预处理,消除环境因素;
S3:基于循环一致性损失(cyclegan)的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像;
S4:通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级。
进一步,步骤S1中,通过齿轮点蚀采集设备对齿轮点蚀图像信息进行采集,所述齿轮点蚀采集设备包括视觉检测模块、图像处理模块、光照模块、齿轮夹具模块、以及用于安装上述模块的工作台;
所述齿轮夹具模块通过三爪卡盘夹持固定齿轮,所述视觉检测模块用于获取齿轮各个齿面的点蚀图像信息,所述图像处理模块用于从点蚀图像信息中提取有效工作齿面并通过阈值分割手段得到其中的点蚀部分,所述光照模块用于在视觉检测模块获取点蚀图像信息的过程中提供光源。
进一步,步骤S2中,所述图像预处理包括图像增强和齿面倾斜矫正;
所述图像增强包括:采用中值滤波算法,对齿面图像中任意像素点,在以该点为中心的领域内对所有像素点灰度值进行统计排序,将排序中值定为该点处理后的灰度大小;
所述齿面倾斜矫正包括:基于Radon变换的齿面倾斜矫正,其具体的实现步骤:
1)利用边缘检测,对图像中水平线进行强化处理;
2)计算图像的Radon变换,获取倾斜角度;
3)根据倾斜角度,对齿面图像进行倾斜校;
Radon变换数学表达式为:
其中f(x,y)表示图像矩阵中的某个像素点,θ表示校正图像的Radon变换的角度,R表示Radon变换之后的图像。
进一步,步骤S3中所述基于循环一致性损失(cyclegan)的树状生成器网络,X和Y分别表示不同图像域之间的数据集,将G:x-y的每个分支同时进行训练,目标是学习一个映射G:x-y,通过对抗性损失使得来自G(y)的多个图像的分布均与真实Y图像的分布不可区分,并且在生成器的底端的部分层进行参数共享,对于它的逆映射F:y-x,引入循环一致性损失,并且在除处第一层输入层外,其余层进行参数共享,从而产生一种新的对抗结构,多个分支的生成器,判别器之间形成一个最大最小值博弈,生成器G(x-y)产生趋近与真实Y域的图像分布,重构器将G(y)通过逆映射重构成真实x域的图像分布,而鉴别器确定产生的样本是真实数据还是由生成器生成。
进一步,所述基于cyclegan的树状生成器网络包括两种大方向的映射函数:G:x—>Yi,和F:y→Xi,因此这个对抗损失对于生成器和判别器{(Gm,Dx)(Fm,Dy)}就变成了:
Ltrees-GAN(Gm,DY,X,Y)=Ey~pdata[logDY(y)]+Ex~pdata(x)[log(1-DY(G(x)m)]
对于X域中的每个图像x,这个图片风格循环需要将x返回到原始图像域中,即 X→G(x)m→F(G(x)m)≈x;对于对于Y域的每一张图片y—>F(y)→G(F(y))≈y;通过循环一致性损失激励此行为,如下:
Lcycle(Gm,Fm)=Ex~pdata(x)[||F(G(x)m)-x)||1]+Ey~pdata(y)[||G(F(y)m)-y||1]
所提出的树状生成器模型的训练就是通过最大最小化:
Ltrees-cyclegan=Ltrees-GAN(Gm,DY,X,Y)+Ltrees-GAN(Fm,DX,Y,X)+λLcyc(Gm,Fm)。
进一步,步骤S4具体包括以下步骤:
S41:齿轮有效齿面分割:对图像进行颜色空间的变换,将RGB颜色空间变换到YcrCb 颜色空间中,产生聚类的二值矩阵,然后对图像进行聚类,利用Roberts微分算子对图像进行边缘检测,从而定位齿面的大致区域再进行图像分割,把齿面部分图像从背景中分割出来;所述利用Roberts微分算子进行边缘分割,利用的是图像的垂直和水平差分来逼近梯度算子,即:
其中f(x,y)表示图像矩阵中的某个像素点,f(x-1,y)和f(x,y-1)分别为其垂直和水平的邻域的两个像素点;
得到齿轮齿面部分图像之后,从齿面图像中进一步分割出工作齿面,利用腐蚀和膨胀的形态学处理进一步对齿面优化分割;对于齿面部分图像进行二值化处理;然后进行图像形态学处理,先膨胀再腐蚀,填充小孔,对齿面部分图像进行联通;先腐蚀再膨胀,消除二值化的图像中小且无意义的物体;在进行形态学处理之后找到剩余部分的最大联通区域,形成一个矩形框,利用矩形框的位置信息对原始图像进行分割,从而得到齿面图像信息中的有效工作齿面部分;
S42:利用U-Net网络进行点蚀图像分割:所述U-Net网络包括卷积层、最大池化层(下采样)、反卷积层(上采样)以及ReLU非线性激活函数,U-Net网络共进行4次上采样,并在同一个卷积阶段和反卷积阶段进行连接,而不是直接在高级语义特征上进行监督和损失函数反传,这样就保证了最后恢复出来的特征图融合了更多的浅层信息的特征,也使得不同卷积层的特征得到了的融合,从而可以进行多尺度预测和深度监督,4次上采样也使得分割图恢复边缘等信息更加精细。根据U-Net的结构,它能够结合底层和高层的信息。底层 (深层)信息:经过多次下采样后的低分辨率信息。能够提供分割目标在整个图像中上下文语义信息,可理解为反应目标和它的环境之间关系的特征,这个特征有助于物体的类别判断。高层(浅层)信息:经过连接操作从编码器直接传递到同高度解码器上的高分辨率信息。能够为分割提供更加精细的特征,如梯度等。从而检测工作齿面中点蚀部分并计算出点蚀占整个齿面面积的比例,确定齿轮的点蚀等级;区分出工作齿面中的点蚀部分和其他部分,通过自适应阈值分割、聚类分割手段把点蚀部分提取出来;计算点蚀部分的像素点数和整个工作区域的像素点数,来计算点蚀占比。
另一方面,本发明提供一种基于cyclegan的树状生成器网络齿轮点蚀图像测量装置,包括视觉检测模块、图像处理模块、光照模块、齿轮夹具模块、以及用于安装上述模块的工作台;
所述齿轮夹具模块用于夹持固定齿轮,包括固定设置在工作台上的第三滑轨,以及滑动设置在第三滑轨内的齿轮夹具;所述齿轮夹具包括旋转电机以及三爪卡盘,所述三爪卡盘设置在旋转电机的输出轴上,齿轮由三爪卡盘夹持设置,由旋转电机的输出轴扭矩带动转动;
所述视觉检测模块用于获取齿轮各个齿面的点蚀图像信息,包括固定设置在工作台上的第四滑轨、以及滑动设置在第四滑轨上的CCD相机;所述视觉检测模块还包括第五滑轨,所述第五滑轨的一端滑动设置在第四滑轨内,所述CCD相机通过第一旋转块及第一转轴设置在第五滑轨上;
所述图像处理模块用于对采集的齿面点蚀图像信息进行预处理,再基于循环一致性损失 cyclegan的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像,并通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级;
所述光照模块用于在视觉检测模块获取点蚀图像信息的过程中提供光源,所述光照模块与齿轮的转轴设置同一平面内,所述光照模块包括固定设置在工作台上的第一滑轨,滑动设置在第一滑轨内的光源夹具以及设置在光源夹具上且由其夹持的光源,所述光照模块还包括第二滑轨,所述第二滑轨的一端滑动设置在第一滑轨上,所述光源夹具滑动设置在第二滑轨上。
进一步,所述图像处理模块对采集的齿面点蚀图像信息进行预处理,包括以下内容:
图像增强:采用中值滤波算法,对齿面图像中任意像素点,在以该点为中心的领域内对所有像素点灰度值进行统计排序,将排序中值定为该点处理后的灰度大小;
齿面倾斜矫正:基于Radon变换的齿面倾斜矫正,包括:
1)利用边缘检测,对图像中水平线进行强化处理;
2)计算图像的Radon变换,获取倾斜角度;
3)根据倾斜角度,对齿面图像进行倾斜校;
Radon变换数学表达式为:
其中,f(x,y)表示图像矩阵中的某个像素点,θ表示校正图像的Radon变换的角度,R表示变换矩阵中的数值。
进一步,所述图像处理模块基于循环一致性损失cyclegan的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像,具体包括:
X和Y分别表示不同图像域之间的数据集,将G:x-y的每个分支同时进行训练,目标是学习一个映射G:x-y,通过对抗性损失使得来自G(y)的多个图像的分布均与真实Y图像的分布不可区分,并且在生成器的底端的部分层进行参数共享,对于它的逆映射F:y-x,引入循环一致性损失,并且在除处第一层输入层外,其余层进行参数共享,从而产生一种新的对抗结构,多个分支的生成器,判别器之间形成一个最大最小值博弈,生成器G(x-y)产生趋近与真实Y域的图像分布,重构器将G(y)通过逆映射重构成真实x域的图像分布,而鉴别器确定产生的样本是真实数据还是由生成器生成;
所述基于cyclegan的树状生成器网络包括两种大方向的映射函数:G:x—>Yi,和F: y→Xi,因此这个对抗损失对于生成器和判别器{(Gm,Dx)(Fm,Dy)}就变成了:
Ltrees-GAN(Gm,DY,X,Y)=Ey~pdata[logDY(y)]+Ex~pdata(x)[log(1-DY(G(x)m)]
对于X域中的每个图像x,这个图片风格循环需要将x返回到原始图像域中,即 X→G(x)m→F(G(x)m)≈x;对于对于Y域的每一张图片y—>F(y)→G(F(y))≈y;通过循环一致性损失激励此行为,如下:
Lcycle(Gm,Fm)=Ex~pdata(x)[||F(G(x)m)-x)||1]+Ey~pdata(y)[||G(F(y)m)-y||1]
所提出的树状生成器模型的训练就是通过最大最小化:
Ltrees-cyclegan=Ltrees-GAN(Gm,DY,X,Y)+Ltrees-GAN(Fm,DX,Y,X)+λLcyc(Gm,Fm)。
进一步,所述图像处理模块通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级,具体包括:
齿轮有效齿面分割:对图像进行颜色空间的变换,将RGB颜色空间变换到YcrCb颜色空间中,产生聚类的二值矩阵,然后对图像进行聚类,利用Roberts微分算子对图像进行边缘检测,从而定位齿面的大致区域再进行图像分割,把齿面部分图像从背景中分割出来;所述利用Roberts微分算子进行边缘分割,利用的是图像的垂直和水平差分来逼近梯度算子,即:
其中f(x,y)表示图像矩阵中的某个像素点,f(x-1,y)和f(x,y-1)分别为其垂直和水平的邻域的两个像素点;
得到齿轮齿面部分图像之后,从齿面图像中进一步分割出工作齿面,利用腐蚀和膨胀的形态学处理进一步对齿面优化分割;对于齿面部分图像进行二值化处理;然后进行图像形态学处理,先膨胀再腐蚀,填充小孔,对齿面部分图像进行联通;先腐蚀再膨胀,消除二值化的图像中小且无意义的物体;在进行形态学处理之后找到剩余部分的最大联通区域,形成一个矩形框,利用矩形框的位置信息对原始图像进行分割,从而得到齿面图像信息中的有效工作齿面部分;
利用U-Net网络进行点蚀图像分割:所述U-Net网络包括卷积层、最大池化层(下采样)、反卷积层(上采样)以及ReLU非线性激活函数,U-Net网络共进行4次上采样,并在同一个卷积阶段和反卷积阶段进行连接,从而检测工作齿面中点蚀部分并计算出点蚀占整个齿面面积的比例,确定齿轮的点蚀等级;区分出工作齿面中的点蚀部分和其他部分,通过自适应阈值分割、聚类分割手段把点蚀部分提取出来;计算点蚀部分的像素点数和整个工作区域的像素点数,来计算点蚀占比。
本发明的有益效果在于:本发明可以利用其底层参数共享机制来有效训练树状的生成器和鉴别器,通过训练树状生成器,让生成器的各个分支朝着不同的数据模式学习,同时用重构器让这些样本重构成原域样本,这样便能够保持风格转换的情况下生成不同的样本。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。
附图说明
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作优选的详细描述,其中:
图1为基于循环一致性损失的树状生成器生成模型的生成器和重构器的结构示意图;
图2为基于循环一致性损失的树状生成器生成模型的判别器结构示意图;
图3为U-net网络结构示意图;
图4为基于cyclegan的树状生成器网络齿轮点蚀图像测量装置整体结构示意图;
图5为光照模块的结构示意图;
图6为视觉检测模块的结构示意图;
图7为相机夹具的结构示意图;
图8为齿轮夹具的结构示意图;
图9为齿轮装夹示意图;
图10为基于cyclegan的树状生成器网络齿轮点蚀图像测量装置模块的连接及功能示意图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
其中,附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本发明的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
本发明实施例的附图中相同或相似的标号对应相同或相似的部件;在本发明的描述中,需要理解的是,若有术语“上”、“下”、“左”、“右”、“前”、“后”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此附图中描述位置关系的用语仅用于示例性说明,不能理解为对本发明的限制,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
一方面,本发明提供一种基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,包括以下内容:
对于齿轮点蚀的图片则采集于我们实验室的齿轮点蚀采集装备,总共有600来张,根据齿轮的类别分成两类样本。对于点蚀图像主要来自于视觉检测装置来进行采集。主要包括光源及配套夹具、摄像机及配套夹具和齿轮夹具,其中相机采用荷耦合器件(CCD)相机。齿轮通过三爪卡盘对齿轮进行定位安装,装置之间相配合获取齿轮各个齿面的点蚀图像信息。齿轮点蚀图像均来自于实验中发生疲劳点蚀的齿轮。根据实际工况不同,每个齿轮会出现点蚀的齿面基本在1个到10个之间。不同齿面的点蚀等级区别较大,在出现疲劳点蚀的齿面中,点蚀面积占有效工作齿面面积在2%到10%区间内,部分齿面在出现点蚀的同时,也会伴有磨损等其它失效形式。
CCD相机拍摄齿面图像之后,通过图像处理方法对采集的齿面图像进行分析,以实现齿轮点蚀等级的自动检测。传输到计算机的原始图像包含点蚀齿面图像信息部分和不必要的背景环境,如齿轮箱、其他齿面等。在后面的识别和检测过程中,这些会造成不必要的计算量或影响检测精度。对此,在识别检测之前需要对原始图像进行图像预处理,以消除环境因素。图像预处理主要包括图像增强和齿面倾斜矫正。
图像增强技术的主要目的是提高图像的质量和可辨识度,使得图像更有利于观察或者进一步分析处理。图像增强技术一般通过对图像的某些特征,例如边缘信息、轮廓信息和对比度等进行突出或者增强,从而更好的显示图像的有用信息,提高图像的使用价值。采集齿面图像时,环境的亮度及光照条件变化等因素都会对图像产生噪声干扰。本发明采用中值滤波算法,对齿面图像中任意像素点,在以该点为中心的领域内对所有像素点灰度值进行统计排序,将排序中值定为该点处理后的灰度大小。经过中值滤波降噪之后,使用灰度变换增强调整图像的对比度,使得边缘信息更加明显。考虑到图像获取过程中会有不同的拍摄角度,需要对图像进行齿面倾斜矫正。基于Radon变换的齿面倾斜矫正,其具体的实现步骤:1)利用边缘检测,对图像中水平线进行强化处理;2)计算图像的Radon变换,获取倾斜角度; 3)根据倾斜角度,对齿面图像进行倾斜校。Radon变换数学表达式为:
其中,f(x,y)表示图像矩阵中的某个像素点,θ表示校正图像的Radon变换的角度,R 表示变换矩阵中的数值。
基于循环一致性损失cyclegan的树状生成器网络对齿面图像进行分析,以实现齿轮点蚀等级的自动检测。
首先描述下基于对抗训练的生成模型来建立数据生成模型(GAN),训练GAN的依于最小化数据生成分布P——data(x)和模型数据分布之间的JS-散度。然后通过最小化生成器网络 G(z)和判别器网路D(X)之间的对抗损失来学习的,其中G(z)可以学习到一个映射G:Z—>X。生成器学习着去构建数据分布Pdata(x),通过X去产生不能够区分的样本X’=G(z),使用源噪声信号Z去最小化,而判别器通过最大最小化对抗损失学习着去将真实数据X和生成样本 X’区分开来。
对于平行域X域与y域之间的自适应,提出了Conditional GAN(CGAN),使用一个生成器通过最小化并行条件对抗损失LP-CGAN直接学习映射函数G:x->y,
其中D是学***行域X与y之间的自适应上,提出了一种使用循环一致性对抗损失(cyclegan) 的条件gan[1,3],在cyclegan中,有两个条件生成器,即G:X->Y,和F:Y->X,每个生成器分别在对抗环境Dy和Dx中训练,也就是说,有两对非并行条件对抗损失Lnp-cgan(GX,DY) 以及Lnp-cgan(Gy,Dx),其中公式如下:
在非并行情况下,它的目标是在无监督的情况下在x域和y域上能找到正确的伪对(x, y),为了确保G:x->y和F:y->x能够学习到这样的映射函数,cyclegan提出了通过使用L1 正则化来最小化循环一致性损失
因此,cyclegan将上面两个损失组合起来为对抗性损失Lcycle loss,通过最大化Lcycle loss来学习X与y域之间的无监督映射函数
LCycleGAN=LNPCGAN(GX,DY)+LNPCGAN(GY,DX)-Lcycle(GX,GY)
本发明提出了一个基于循环一致性损失的树状生成器生成模型。这样可以有效解决cyclegan生成结果中样本单一问题。本发明中,X和Y分别表示不同图像域之间的数据集,本模型的目的是在风格转换的过程中能够产生出不同于彼此的样本,这也受启发于GMAN。但不同于多生成器的GMAN,本模型是将G:x-y的每个分支同时进行训练,它们的目标是学习一个映射G:x-y,通过对抗性损失使得来自G(y)的多个图像的分布均与真实Y图像的分布不可区分,并且在生成器的底端的部分层进行参数共享,对于它的逆映射F:y-x,引入循环一致性损失,并且在除处第一层输入层外,其余层进行参数共享,这样可以大大减少模型的计算量。这样的结果就产生了一种新的对抗结构,多个分支的生成器,判别器之间形成一个最大最小值博弈,生成器G(x-y)产生趋近与真实Y域的图像分布,重构器将G(y)通过逆映射重构成真实x域的图像分布,而鉴别器确定产生的样本是真实数据还是由生成器生成,本模型称为树状生成器的cyclegan。本模型包含了两种大方向的映射函数:G:x—>Yi,和F: y→Xi,因此这个对抗损失对于生成器和判别器{(Gm,Dx)(Fm,Dy)}就变成了:
Ltrees-GAN(Gm,DY,X,Y)=Ey~pdata[logDY(y)]+Ex~pdata(x)[log(1-DY(G(x)m)]
对于X域中的每个图像x,这个图片风格循环需要将x返回到原始图像域中,例如:X→G(x)m→F(G(x)m)≈x,这也就是之前人们提出1前向周期一致性,类似地,对于对于Y 域的每一张图片y—>F(y)→G(F(y))≈y,用循环一致性损失来激励此行为,如下:
Lcycle(Gm,Fm)=Ex~pdata(x)[||F(G(x)m)-x)||1]+Ey~pdata(y)[||G(F(y)m)-y||1]
所提出的树状生成器模型的训练就是通过最大最小化:
Ltrees-cyclegan=Ltrees-GAN(Gm,DY,X,Y)+Ltrees-GAN(Fm,DX,Y,X)+λLcyc(Gm,Fm)
如图1所示为基于循环一致性损失的树状生成器生成模型的生成器和重构器部分,图2 为判别器部分。
得到新的齿轮点蚀样本集之后,需要进一步对齿面进行分割得到有效工作齿面。对图像进行颜色空间的变换,将RGB颜色空间变换到YcrCb颜色空间中,产生聚类的二值矩阵,然后对图像进行聚类,利用Roberts等微分算子对图像进行边缘检测,从而定位齿面的大致区域再进行图像分割,把齿面部分图像从背景中分割出来。这一方法使用的基于边缘检测的图像分割算法。通常不同区域的边界上像素的灰度值变化比较剧烈,如果将图片从空间域通过傅里叶变换到频率域,边缘就对应着高频部分,这是基本边缘检测算法。使用Roberts微分算子进行边缘分割,利用的是图像的垂直和水平差分来逼近梯度算子,即:
其中f(x,y)表示图像矩阵中的某个像素点,f(x-1,y)和f(x,y-1)分别为其垂直和水平的邻域的两个像素点。
但是边缘检测算法不能保证边缘的连续性和封闭性,而且在高细节区域存在大量的碎边缘,难以形成一个大区域,但是又不宜将高细节区域分成小碎片。图像的形态学处理方法在边缘信息提取处理中优于基于微分运算的边缘提取算法,它不像微分算法对噪声那样敏感,提取的边缘比较光滑,并且提取的图像骨架有人比较连续,断点少。因此,本文利用边缘分割算法结合图像的形态学处理实现齿轮有效工作齿面的分割。
得到齿轮齿面部分图像之后,接下来是要从齿面图像中进一步分割出工作齿面,利用腐蚀和膨胀的形态学处理实现进一步对齿面优化分割。对于齿面部分图像进行二值化处理。然后进行图像形态学处理,先膨胀再腐蚀,填充小孔,对齿面部分图像进行联通;先腐蚀再膨胀,消除二值化的图像中小且无意义的物体。在进行形态学处理之后找到剩余部分的最大联通区域,形成一个矩形框,利用矩形框的位置信息对原始图像进行分割,从而得到齿面图像信息中的有效工作齿面部分。有效工作齿面的分割是齿轮点蚀计算的前提,去除了背景信息的干扰,实现了自动化分割,速度快、精度高。
卷积神经网络(CNN)在图像分类和图像检测方面有着广泛的应用,CNN的优点在于它的多层结构能自动学习特征,并且可以学习到多个层次的特征:较浅的卷积层感知域较小,学习到一些局部区域的特征;较深的卷积层具有较大的感知域,能够学习到更加抽象一些的特征。这些抽象特征对物体的大小、位置和方向等敏感性更低,从而有助于识别性能的提高。
在CNN的基础上,UC Berkeley的Jonathan Long等人提出了全卷积神经网络(Fully Convolutional Networks,FCN)用于图像的分割,FCN将传统CNN中的全连接层转化成一个个的卷积层。全卷积神经网络从抽象的特征中恢复出每个像素所属的类别,即从图像级别的分类进一步延伸到像素级别的分类。
U-Net神经网络是一个基于CNN的图像分割网络,它继承了FCN的思想,继续进行优化改进,由于它的网络结构形状是一个U字型,故命名为U-Net。U-Net网络主要用于医学图像分割上,最初提出时是用于细胞壁的分割,之后在肺结节检测以及眼底视网膜上的血管提取等方面都有着出色的表现。基本的U-Net网络结构如图3所示,主要由卷积层、最大池化层(下采样)、反卷积层(上采样)以及ReLU非线性激活函数组成。
U-Net网络共进行了4次上采样,并在同一个卷积阶段和反卷积阶段进行连接,而不是直接在高级语义特征上进行监督和损失函数反传,这样就保证了最后恢复出来的特征图融合了更多的浅层信息的特征,也使得不同卷积层的特征得到了的融合,从而可以进行多尺度预测和深度监督,4次上采样也使得分割图恢复边缘等信息更加精细。根据U-Net的结构,它能够结合底层和高层的信息。底层(深层)信息:经过多次下采样后的低分辨率信息。能够提供分割目标在整个图像中上下文语义信息,可理解为反应目标和它的环境之间关系的特征,这个特征有助于物体的类别判断。高层(浅层)信息:经过连接操作从编码器直接传递到同高度解码器上的高分辨率信息。能够为分割提供更加精细的特征,如梯度等。
在齿轮有效工作齿面中分割得到点蚀部分的过程中,图像结构相对固定,由于受力分布比较固定,点蚀分割目标在有效齿面上的分布比较有规律,语义简单明确,低分辨率特征能够提供这一信息,用于目标物体的识别。另外由于受到光照信息和拍摄角度等的影响,部分点蚀像素灰度与正常区别较大,部分点蚀区别较小但有明显的边界,点蚀图像梯度较为复杂,需要较多的高分辨率信息用于精准分割。U-Net网络结合了低分辨率信息来提供物体类别识别依据和高分辨率信息来提供精准分割定位依据,适用于齿轮点蚀图像分割。实验过程中,把1000张样本图片分成训练集和测试集,把训练集图片中的齿轮点蚀部分标记出来输入U- Net网络进行模型的训练,再利用训练好的模型对测试集的图片进行图像分割。
另一方面,本发明还提供一种基于cyclegan的树状生成器网络齿轮点蚀图像测量装置,如图4-9所示,附图中的元件标号分别表示:光照模块101、视觉检测模块102、齿轮夹具103、第一滑轨201、第一支架202、第二滑轨203、第一支撑板204、第二旋转轴205、第二旋转块 206、光罩207、第二支架301、第五滑轨302、第二支撑板303、滑板304、第二支撑板305、第一旋转块306、第一转轴307、CCD相机308、第三支撑板401、第三滑轨501、旋转电机 502、输出轴503、三爪卡盘504、齿轮505。
本实施例中的方向采用图4中标识的X轴、Y轴、Z轴进行描述。
本实例中,光照模块101参阅图5,整个***通过第一滑轨201固定在工作台上,第一滑轨201有两个轨道,能够实现X轴方向的滑动。滑轨上方安装着整个光照模块101的第一支架202,第一支架202上装有第二滑轨203,能够实现光照模块101Z轴方向的移动。其余部分是光源的夹具部分,其中包括了第一支撑板204、第二转轴205和第二旋转块206,通过调整第二旋转块206在第二转轴205上的位置和角度实现了光源两个方向的自由度,Y轴方向的移动和转动,二者之间通过第二旋转块206上的螺母锁紧。光源安装在第二旋转块206上,周围有光罩207包裹,使光源的光线更加集中,为齿轮提供不错的光照强度。
本实例中,视觉检测模块参阅图6和图7,整个视觉检测模块的核心是CCD相308。CCD 相机308具有四个自由度,包括XYZ轴方向的移动,和Y轴方向的转动,这使得CCD相机308能够选择合适的角度去采集齿面的图像信息。视觉检测模块102结构参阅图6,整个视觉检测模块102通过第二支架301固定在工作台上。第二支架301上装有第五滑轨302能够让CCD相机308的夹具实现Z轴方向的移动。接下来是组合滑轨部分,第二支撑板303安装在第五滑轨302上,上有轨道能够实现相机Y轴方向的移动,轨道部分参阅图7中的第三支撑板401。第二支撑板303轨道上方装有滑板304,滑板304上方是另一滑轨的轨道部分,二者是一个整体。滑板304上装有第二支撑板305,二者组成滑轨实现CCD相机308X轴方向的移动。CCD相机308的夹具末端是第一旋转块306和第一转轴307,实现了CCD相机308X 轴方向的转动。CCD相机308安装在第一旋转块306上,通过第一转轴307调整拍摄角度。
本实例中,齿轮夹具103部分参阅图8,齿轮夹具有两个自由度,包括X轴方向的移动和转动。齿轮夹具103通过第三滑轨501安装在工作台上,可以进行X轴方向小幅度的距离调整,第三滑轨501往上是旋转电机502,旋转电机502通过输出轴503带动三爪卡盘504 的旋转,齿轮505装夹在三爪卡盘504。***要求实现的功能是采集到齿轮每个齿面的齿面点蚀信息,因此要求齿轮505在装甲之后是能够实现旋转的,从而实现图像信息采集的自动化。三爪卡盘504属于小型的三爪卡盘,参阅图9,三爪卡盘主要依靠卡盘爪向外抓取齿轮的轴孔来实现对齿轮的固定。
以上是本发明实例中视觉检测装置的整体架构,光照模块101,视觉检测模块102和齿轮夹具103三者的位置分布如图4。其中齿轮夹具103的位置基本固定,通过调整光照模块 101的位置和角度来获得良好的光照条件,通过调整视觉检测模块102的位置和角度来确定良好的拍摄角度,保证获得像素分布和亮度、颜色等信息丰富的齿面点蚀图像信息。
本发明实例的另一重要部分是图像处理模块。
在通过视觉检测装置得到的齿面点蚀图像信息中,不可避免的含有背景信息,要齿轮点蚀等级评估,这些背景信息是不需要的。图像处理模块能够实现从点蚀图像信息中分割出所需要的齿面部分。得到点蚀图像之后,先进行图像预处理,对齿面进行倾斜校正,增强齿面部分的特征信息。再基于循环一致性损失cyclegan的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像,并通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级。
所述图像处理模块基于循环一致性损失cyclegan的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像,具体包括:
X和Y分别表示不同图像域之间的数据集,将G:x-y的每个分支同时进行训练,目标是学习一个映射G:x-y,通过对抗性损失使得来自G(y)的多个图像的分布均与真实Y图像的分布不可区分,并且在生成器的底端的部分层进行参数共享,对于它的逆映射F:y-x,引入循环一致性损失,并且在除处第一层输入层外,其余层进行参数共享,从而产生一种新的对抗结构,多个分支的生成器,判别器之间形成一个最大最小值博弈,生成器G(x-y)产生趋近与真实Y域的图像分布,重构器将G(y)通过逆映射重构成真实x域的图像分布,而鉴别器确定产生的样本是真实数据还是由生成器生成;
所述基于cyclegan的树状生成器网络包括两种大方向的映射函数:G:x—>Yi,和F: y→Xi,因此这个对抗损失对于生成器和判别器{(Gm,Dx)(Fm,Dy)}就变成了:
Ltrees-GAN(Gm,DY,X,Y)=Ey~pdata[logDY(y)]+Ex~pdata(x)[log(1-DY(G(x)m)]
对于X域中的每个图像x,这个图片风格循环需要将x返回到原始图像域中,即 X→G(x)m→F(G(x)m)≈x;对于对于Y域的每一张图片y—>F(y)→G(F(y))≈y;通过循环一致性损失激励此行为,如下:
Lcycle(Gm,Fm)=Ex~pdata(x)[||F(G(x)m)-x)||1]+Ey~pdata(y)[||G(F(y)m)-y||1]
所提出的树状生成器模型的训练就是通过最大最小化:
Ltrees-cyclegan=Ltrees-GAN(Gm,DY,X,Y)+Ltrees-GAN(Fm,DX,Y,X)+λLcyc(Gm,Fm)。
所述图像处理模块通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级,具体包括:
齿轮有效齿面分割:对图像进行颜色空间的变换,将RGB颜色空间变换到YcrCb颜色空间中,产生聚类的二值矩阵,然后对图像进行聚类,利用Roberts微分算子对图像进行边缘检测,从而定位齿面的大致区域再进行图像分割,把齿面部分图像从背景中分割出来;所述利用Roberts微分算子进行边缘分割,利用的是图像的垂直和水平差分来逼近梯度算子,即:
其中f(x,y)表示图像矩阵中的某个像素点,f(x-1,y)和f(x,y-1)分别为其垂直和水平的邻域的两个像素点;
得到齿轮齿面部分图像之后,从齿面图像中进一步分割出工作齿面,利用腐蚀和膨胀的形态学处理进一步对齿面优化分割;对于齿面部分图像进行二值化处理;然后进行图像形态学处理,先膨胀再腐蚀,填充小孔,对齿面部分图像进行联通;先腐蚀再膨胀,消除二值化的图像中小且无意义的物体;在进行形态学处理之后找到剩余部分的最大联通区域,形成一个矩形框,利用矩形框的位置信息对原始图像进行分割,从而得到齿面图像信息中的有效工作齿面部分;
利用U-Net网络进行点蚀图像分割:所述U-Net网络包括卷积层、最大池化层(下采样)、反卷积层(上采样)以及ReLU非线性激活函数,U-Net网络共进行4次上采样,并在同一个卷积阶段和反卷积阶段进行连接,从而检测工作齿面中点蚀部分并计算出点蚀占整个齿面面积的比例,确定齿轮的点蚀等级;区分出工作齿面中的点蚀部分和其他部分,通过自适应阈值分割、聚类分割手段把点蚀部分提取出来;计算点蚀部分的像素点数和整个工作区域的像素点数,来计算点蚀占比。
如图10所示,即为本实施例所述基于cyclegan的树状生成器网络齿轮点蚀图像测量装置模块的连接及功能示意图。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本技术方案的宗旨和范围,其均应涵盖在本发明的权利要求范围当中。
Claims (10)
1.一种基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,其特征在于:包括以下步骤:
S1:采集齿轮点蚀图像信息;
S2:对原始图像进行图像预处理,消除环境因素;
S3:基于循环一致性损失cyclegan的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像;
S4:通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级。
2.根据权利要求1所述的基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,其特征在于:步骤S1中,通过齿轮点蚀采集设备对齿面图像信息进行采集,所述齿轮点蚀采集设备包括视觉检测模块、图像处理模块、光照模块、齿轮夹具模块、以及用于安装上述模块的工作台;
所述齿轮夹具模块通过三爪卡盘夹持固定齿轮,所述视觉检测模块用于获取齿轮各个齿面的点蚀图像信息,所述图像处理模块用于从点蚀图像信息中提取有效工作齿面并通过阈值分割手段得到其中的点蚀部分,所述光照模块用于在视觉检测模块获取点蚀图像信息的过程中提供光源。
3.根据权利要求2所述的基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,其特征在于:步骤S2中,所述图像预处理包括图像增强和齿面倾斜矫正;
所述图像增强包括:采用中值滤波算法,对齿面图像中任意像素点,在以该点为中心的领域内对所有像素点灰度值进行统计排序,将排序中值定为该点处理后的灰度大小;
所述齿面倾斜矫正包括:基于Radon变换的齿面倾斜矫正,其具体的实现步骤:
1)利用边缘检测,对图像中水平线进行强化处理;
2)计算图像的Radon变换,获取倾斜角度;
3)根据倾斜角度,对齿面图像进行倾斜校;
Radon变换数学表达式为:
其中,f(x,y)表示图像矩阵中的某个像素点,θ表示校正图像的Radon变换的角度,R表示变换矩阵中的数值。
4.根据权利要求3所述的基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,其特征在于:步骤S3中所述基于循环一致性损失cyclegan的树状生成器网络,X和Y分别表示不同图像域之间的数据集,将G:x-y的每个分支同时进行训练,目标是学习一个映射G:x-y,通过对抗性损失使得来自G(y)的多个图像的分布均与真实Y图像的分布不可区分,并且在生成器的底端的部分层进行参数共享,对于它的逆映射F:y-x,引入循环一致性损失,并且在除处第一层输入层外,其余层进行参数共享,从而产生一种新的对抗结构,多个分支的生成器,判别器之间形成一个最大最小值博弈,生成器G(x-y)产生趋近与真实Y域的图像分布,重构器将G(y)通过逆映射重构成真实x域的图像分布,而鉴别器确定产生的样本是真实数据还是由生成器生成。
5.根据权利要求4所述的基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,其特征在于:所述基于cyclegan的树状生成器网络包括两种大方向的映射函数:G:x—>Yi,和F:y→Xi,因此这个对抗损失对于生成器和判别器{(Gm,Dx)(Fm,Dy)}就变成了:
对于X域中的每个图像x,这个图片风格循环需要将x返回到原始图像域中,即X→G(x)m→F(G(x)m)≈x;对于对于Y域的每一张图片y—>F(y)→G(F(y))≈y;通过循环一致性损失激励此行为,如下:
Lcycle(Gm,Fm)=Ex~pdata(x)[||F(G(x)m)-x)||1]+Ey~pdata(y)[||G(F(y)m)-y||1]
所提出的树状生成器模型的训练就是通过最大最小化:
Ltrees-cyclegan=Ltrees-GAN(Gm,DY,X,Y)+Ltrees-GAN(Fm,DX,Y,X)+λLcyc(Gm,Fm)。
6.根据权利要求5所述的基于cyclegan的树状生成器网络齿轮点蚀图像测量方法,其特征在于:步骤S4具体包括以下步骤:
S41:齿轮有效齿面分割:对图像进行颜色空间的变换,将RGB颜色空间变换到YcrCb颜色空间中,产生聚类的二值矩阵,然后对图像进行聚类,利用Roberts微分算子对图像进行边缘检测,从而定位齿面的大致区域再进行图像分割,把齿面部分图像从背景中分割出来;所述利用Roberts微分算子进行边缘分割,利用的是图像的垂直和水平差分来逼近梯度算子,即:
其中f(x,y)表示图像矩阵中的某个像素点,f(x-1,y)和f(x,y-1)分别为其垂直和水平的邻域的两个像素点;
得到齿轮齿面部分图像之后,从齿面图像中进一步分割出工作齿面,利用腐蚀和膨胀的形态学处理进一步对齿面优化分割;对于齿面部分图像进行二值化处理;然后进行图像形态学处理,先膨胀再腐蚀,填充小孔,对齿面部分图像进行联通;先腐蚀再膨胀,消除二值化的图像中小且无意义的物体;在进行形态学处理之后找到剩余部分的最大联通区域,形成一个矩形框,利用矩形框的位置信息对原始图像进行分割,从而得到齿面图像信息中的有效工作齿面部分;
S42:利用U-Net网络进行点蚀图像分割:所述U-Net网络包括卷积层、最大池化层(下采样)、反卷积层(上采样)以及ReLU非线性激活函数,U-Net网络共进行4次上采样,并在同一个卷积阶段和反卷积阶段进行连接,从而检测工作齿面中点蚀部分并计算出点蚀占整个齿面面积的比例,确定齿轮的点蚀等级;区分出工作齿面中的点蚀部分和其他部分,通过自适应阈值分割、聚类分割手段把点蚀部分提取出来;计算点蚀部分的像素点数和整个工作区域的像素点数,来计算点蚀占比。
7.一种基于cyclegan的树状生成器网络齿轮点蚀图像测量装置,其特征在于:包括视觉检测模块、图像处理模块、光照模块、齿轮夹具模块、以及用于安装上述模块的工作台;
所述齿轮夹具模块用于夹持固定齿轮,包括固定设置在工作台上的第三滑轨,以及滑动设置在第三滑轨内的齿轮夹具;所述齿轮夹具包括旋转电机以及三爪卡盘,所述三爪卡盘设置在旋转电机的输出轴上,齿轮由三爪卡盘夹持设置,由旋转电机的输出轴扭矩带动转动;
所述视觉检测模块用于获取齿轮各个齿面的点蚀图像信息,包括固定设置在工作台上的第四滑轨、以及滑动设置在第四滑轨上的CCD相机;所述视觉检测模块还包括第五滑轨,所述第五滑轨的一端滑动设置在第四滑轨内,所述CCD相机通过第一旋转块及第一转轴设置在第五滑轨上;
所述图像处理模块用于对采集的齿面点蚀图像信息进行预处理,再基于循环一致性损失cyclegan的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像,并通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级;
所述光照模块用于在视觉检测模块获取点蚀图像信息的过程中提供光源,所述光照模块与齿轮的转轴设置同一平面内,所述光照模块包括固定设置在工作台上的第一滑轨,滑动设置在第一滑轨内的光源夹具以及设置在光源夹具上且由其夹持的光源,所述光照模块还包括第二滑轨,所述第二滑轨的一端滑动设置在第一滑轨上,所述光源夹具滑动设置在第二滑轨上。
8.根据权利要求7所述的基于cyclegan的树状生成器网络齿轮点蚀图像测量装置,其特征在于:所述图像处理模块对采集的齿面点蚀图像信息进行预处理,包括以下内容:
图像增强:采用中值滤波算法,对齿面图像中任意像素点,在以该点为中心的领域内对所有像素点灰度值进行统计排序,将排序中值定为该点处理后的灰度大小;
齿面倾斜矫正:基于Radon变换的齿面倾斜矫正,包括:
1)利用边缘检测,对图像中水平线进行强化处理;
2)计算图像的Radon变换,获取倾斜角度;
3)根据倾斜角度,对齿面图像进行倾斜校;
Radon变换数学表达式为:
其中,f(x,y)表示图像矩阵中的某个像素点,θ表示校正图像的Radon变换的角度,R表示变换矩阵中的数值。
9.根据权利要求7所述的基于cyclegan的树状生成器网络齿轮点蚀图像测量装置,其特征在于:所述图像处理模块基于循环一致性损失cyclegan的树状生成器网络对齿轮点蚀图像进行扩增,生成多张齿轮点蚀图像,具体包括:
X和Y分别表示不同图像域之间的数据集,将G:x-y的每个分支同时进行训练,目标是学习一个映射G:x-y,通过对抗性损失使得来自G(y)的多个图像的分布均与真实Y图像的分布不可区分,并且在生成器的底端的部分层进行参数共享,对于它的逆映射F:y-x,引入循环一致性损失,并且在除处第一层输入层外,其余层进行参数共享,从而产生一种新的对抗结构,多个分支的生成器,判别器之间形成一个最大最小值博弈,生成器G(x-y)产生趋近与真实Y域的图像分布,重构器将G(y)通过逆映射重构成真实x域的图像分布,而鉴别器确定产生的样本是真实数据还是由生成器生成;
所述基于cyclegan的树状生成器网络包括两种大方向的映射函数:G:x—>Yi,和F:y→Xi,因此这个对抗损失对于生成器和判别器{(Gm,Dx)(Fm,Dy)}就变成了:
对于X域中的每个图像x,这个图片风格循环需要将x返回到原始图像域中,即X→G(x)m→F(G(x)m)≈x;对于对于Y域的每一张图片y—>F(y)→G(F(y))≈y;通过循环一致性损失激励此行为,如下:
Lcycle(Gm,Fm)=Ex~pdata(x)[||F(G(x)m)-x)||1]+Ey~pdata(y)[||G(F(y)m)-y||1]
所提出的树状生成器模型的训练就是通过最大最小化:
Ltrees-cyclegan=Ltrees-GAN(Gm,DY,X,Y)+Ltrees-GAN(Fm,DX,Y,X)+λLcyc(Gm,Fm)。
10.根据权利要求7所述的基于cyclegan的树状生成器网络齿轮点蚀图像测量装置,其特征在于:所述图像处理模块通过齿轮点蚀检测算法对多张齿轮点蚀图像进行检测,得到齿轮点蚀等级,具体包括:
齿轮有效齿面分割:对图像进行颜色空间的变换,将RGB颜色空间变换到YcrCb颜色空间中,产生聚类的二值矩阵,然后对图像进行聚类,利用Roberts微分算子对图像进行边缘检测,从而定位齿面的大致区域再进行图像分割,把齿面部分图像从背景中分割出来;所述利用Roberts微分算子进行边缘分割,利用的是图像的垂直和水平差分来逼近梯度算子,即:
其中f(x,y)表示图像矩阵中的某个像素点,f(x-1,y)和f(x,y-1)分别为其垂直和水平的邻域的两个像素点;
得到齿轮齿面部分图像之后,从齿面图像中进一步分割出工作齿面,利用腐蚀和膨胀的形态学处理进一步对齿面优化分割;对于齿面部分图像进行二值化处理;然后进行图像形态学处理,先膨胀再腐蚀,填充小孔,对齿面部分图像进行联通;先腐蚀再膨胀,消除二值化的图像中小且无意义的物体;在进行形态学处理之后找到剩余部分的最大联通区域,形成一个矩形框,利用矩形框的位置信息对原始图像进行分割,从而得到齿面图像信息中的有效工作齿面部分;
利用U-Net网络进行点蚀图像分割:所述U-Net网络包括卷积层、最大池化层(下采样)、反卷积层(上采样)以及ReLU非线性激活函数,U-Net网络共进行4次上采样,并在同一个卷积阶段和反卷积阶段进行连接,从而检测工作齿面中点蚀部分并计算出点蚀占整个齿面面积的比例,确定齿轮的点蚀等级;区分出工作齿面中的点蚀部分和其他部分,通过自适应阈值分割、聚类分割手段把点蚀部分提取出来;计算点蚀部分的像素点数和整个工作区域的像素点数,来计算点蚀占比。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2020100326459 | 2020-01-13 | ||
CN202010032645 | 2020-01-13 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111260640A true CN111260640A (zh) | 2020-06-09 |
CN111260640B CN111260640B (zh) | 2023-03-31 |
Family
ID=70954326
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010065989.XA Active CN111260640B (zh) | 2020-01-13 | 2020-01-20 | 基于cyclegan的树状生成器网络齿轮点蚀图像测量方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111260640B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111860782A (zh) * | 2020-07-15 | 2020-10-30 | 西安交通大学 | 三重多尺度的CycleGAN、眼底荧光造影生成方法、计算机设备及存储介质 |
CN111915572A (zh) * | 2020-07-13 | 2020-11-10 | 青岛大学 | 一种基于深度学习的自适应齿轮点蚀定量检测***及方法 |
CN111931684A (zh) * | 2020-08-26 | 2020-11-13 | 北京建筑大学 | 一种基于视频卫星数据鉴别特征的弱小目标检测方法 |
CN112287927A (zh) * | 2020-10-14 | 2021-01-29 | 中国人民解放军战略支援部队信息工程大学 | 一种文本图像倾斜角度的检测方法及装置 |
CN112529978A (zh) * | 2020-12-07 | 2021-03-19 | 四川大学 | 一种人机交互式抽象画生成方法 |
CN112906769A (zh) * | 2021-02-04 | 2021-06-04 | 国网河南省电力公司电力科学研究院 | 一种基于CycleGAN的输变电设备图像缺陷样本增广方法 |
US20210374929A1 (en) * | 2020-05-26 | 2021-12-02 | Airbus (S.A.S.) | Method for determining striation properties of fatigue striations and for determining the presence of fatigue damage |
CN114943869A (zh) * | 2022-03-30 | 2022-08-26 | 中国民用航空飞行学院 | 风格迁移增强的机场目标检测方法 |
CN115392325A (zh) * | 2022-10-26 | 2022-11-25 | 中国人民解放军国防科技大学 | 一种基于CycleGan的多特征降噪调制识别方法 |
CN117474925A (zh) * | 2023-12-28 | 2024-01-30 | 山东润通齿轮集团有限公司 | 一种基于机器视觉的齿轮点蚀检测方法及*** |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101351623A (zh) * | 2005-12-27 | 2009-01-21 | Ntn株式会社 | 臂式气门传动装置的摇臂、摇臂轴、阀盖、调节螺杆、枢轴轴承构件及阀 |
CN105118044A (zh) * | 2015-06-16 | 2015-12-02 | 华南理工大学 | 一种轮形铸造产品缺陷自动检测方法 |
CN108507787A (zh) * | 2018-06-28 | 2018-09-07 | 山东大学 | 基于多特征融合的风电齿轮增速箱故障诊断试验平台及方法 |
US20180284737A1 (en) * | 2016-05-09 | 2018-10-04 | StrongForce IoT Portfolio 2016, LLC | Methods and systems for detection in an industrial internet of things data collection environment with large data sets |
CN109754442A (zh) * | 2019-01-10 | 2019-05-14 | 重庆大学 | 一种基于机器视觉的齿轮点蚀检测*** |
US20190174207A1 (en) * | 2016-05-09 | 2019-06-06 | StrongForce IoT Portfolio 2016, LLC | Methods and systems for the industrial internet of things |
CN110210570A (zh) * | 2019-06-10 | 2019-09-06 | 上海延华大数据科技有限公司 | 基于深度学习的糖尿病视网膜病变图像多分类方法 |
CN110567985A (zh) * | 2019-10-14 | 2019-12-13 | 重庆大学 | 一种基于深度学习的自适应齿轮点蚀定量评估与检测装置 |
CN110660057A (zh) * | 2019-11-01 | 2020-01-07 | 重庆大学 | 一种基于深度学习的双目自动化齿轮点蚀检测装置 |
-
2020
- 2020-01-20 CN CN202010065989.XA patent/CN111260640B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101351623A (zh) * | 2005-12-27 | 2009-01-21 | Ntn株式会社 | 臂式气门传动装置的摇臂、摇臂轴、阀盖、调节螺杆、枢轴轴承构件及阀 |
CN105118044A (zh) * | 2015-06-16 | 2015-12-02 | 华南理工大学 | 一种轮形铸造产品缺陷自动检测方法 |
US20180284737A1 (en) * | 2016-05-09 | 2018-10-04 | StrongForce IoT Portfolio 2016, LLC | Methods and systems for detection in an industrial internet of things data collection environment with large data sets |
US20190174207A1 (en) * | 2016-05-09 | 2019-06-06 | StrongForce IoT Portfolio 2016, LLC | Methods and systems for the industrial internet of things |
CN108507787A (zh) * | 2018-06-28 | 2018-09-07 | 山东大学 | 基于多特征融合的风电齿轮增速箱故障诊断试验平台及方法 |
CN109754442A (zh) * | 2019-01-10 | 2019-05-14 | 重庆大学 | 一种基于机器视觉的齿轮点蚀检测*** |
CN110210570A (zh) * | 2019-06-10 | 2019-09-06 | 上海延华大数据科技有限公司 | 基于深度学习的糖尿病视网膜病变图像多分类方法 |
CN110567985A (zh) * | 2019-10-14 | 2019-12-13 | 重庆大学 | 一种基于深度学习的自适应齿轮点蚀定量评估与检测装置 |
CN110660057A (zh) * | 2019-11-01 | 2020-01-07 | 重庆大学 | 一种基于深度学习的双目自动化齿轮点蚀检测装置 |
Non-Patent Citations (5)
Title |
---|
JOTHIKUMAR等: "Visual endpoint detection of Escherichia coli O157:H7 using isothermal Genome Exponential Amplification Reaction (GEAR) assay and malachite green" * |
W. ZHENG等: "A novel background subtraction algorithm based on parallel vision and Bayesian GANs" * |
张华等: "基于分类BP网络的车牌识别技术研究" * |
张莉云: "水下图像清晰化算法研究" * |
李巍华;刘雯;: "基于图论和直推式支持矢量机的齿轮早期故障诊断" * |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210374929A1 (en) * | 2020-05-26 | 2021-12-02 | Airbus (S.A.S.) | Method for determining striation properties of fatigue striations and for determining the presence of fatigue damage |
US11954845B2 (en) * | 2020-05-26 | 2024-04-09 | Airbus (S.A.S.) | Method for determining striation properties of fatigue striations and for determining the presence of fatigue damage |
CN111915572B (zh) * | 2020-07-13 | 2023-04-25 | 青岛大学 | 一种基于深度学习的自适应齿轮点蚀定量检测***及方法 |
CN111915572A (zh) * | 2020-07-13 | 2020-11-10 | 青岛大学 | 一种基于深度学习的自适应齿轮点蚀定量检测***及方法 |
CN111860782A (zh) * | 2020-07-15 | 2020-10-30 | 西安交通大学 | 三重多尺度的CycleGAN、眼底荧光造影生成方法、计算机设备及存储介质 |
CN111931684A (zh) * | 2020-08-26 | 2020-11-13 | 北京建筑大学 | 一种基于视频卫星数据鉴别特征的弱小目标检测方法 |
CN111931684B (zh) * | 2020-08-26 | 2021-04-06 | 北京建筑大学 | 一种基于视频卫星数据鉴别特征的弱小目标检测方法 |
CN112287927A (zh) * | 2020-10-14 | 2021-01-29 | 中国人民解放军战略支援部队信息工程大学 | 一种文本图像倾斜角度的检测方法及装置 |
CN112287927B (zh) * | 2020-10-14 | 2023-04-07 | 中国人民解放军战略支援部队信息工程大学 | 一种文本图像倾斜角度的检测方法及装置 |
CN112529978A (zh) * | 2020-12-07 | 2021-03-19 | 四川大学 | 一种人机交互式抽象画生成方法 |
CN112906769A (zh) * | 2021-02-04 | 2021-06-04 | 国网河南省电力公司电力科学研究院 | 一种基于CycleGAN的输变电设备图像缺陷样本增广方法 |
CN114943869A (zh) * | 2022-03-30 | 2022-08-26 | 中国民用航空飞行学院 | 风格迁移增强的机场目标检测方法 |
CN115392325B (zh) * | 2022-10-26 | 2023-08-18 | 中国人民解放军国防科技大学 | 一种基于CycleGan的多特征降噪调制识别方法 |
CN115392325A (zh) * | 2022-10-26 | 2022-11-25 | 中国人民解放军国防科技大学 | 一种基于CycleGan的多特征降噪调制识别方法 |
CN117474925A (zh) * | 2023-12-28 | 2024-01-30 | 山东润通齿轮集团有限公司 | 一种基于机器视觉的齿轮点蚀检测方法及*** |
CN117474925B (zh) * | 2023-12-28 | 2024-03-15 | 山东润通齿轮集团有限公司 | 一种基于机器视觉的齿轮点蚀检测方法及*** |
Also Published As
Publication number | Publication date |
---|---|
CN111260640B (zh) | 2023-03-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111260640B (zh) | 基于cyclegan的树状生成器网络齿轮点蚀图像测量方法及装置 | |
Shaziya et al. | Automatic lung segmentation on thoracic CT scans using U-net convolutional network | |
CN106886977B (zh) | 一种多图自动配准及融合拼接方法 | |
CN109242888B (zh) | 一种结合图像显著性和非下采样轮廓波变换的红外与可见光图像融合方法 | |
CN107657279B (zh) | 一种基于少量样本的遥感目标检测方法 | |
Gao et al. | A deep learning based approach to classification of CT brain images | |
CN113592845A (zh) | 一种电池涂布的缺陷检测方法及装置、存储介质 | |
EP0766205B1 (fr) | Procédé et dispositif de traitement d'image, pour la détection automatique de régions d'un type prédéterminé de cancer dans une image d'intensité | |
CN106940816A (zh) | 基于3d全连接卷积神经网络的ct图像肺结节检测*** | |
CN107808161B (zh) | 一种基于光视觉的水下目标识别方法 | |
CN110060237A (zh) | 一种故障检测方法、装置、设备及*** | |
CN108154519A (zh) | 眼底图像中血管的分割方法、装置及存储介质 | |
CN110736747B (zh) | 一种细胞液基涂片镜下定位的方法及*** | |
CN111833306A (zh) | 缺陷检测方法和用于缺陷检测的模型训练方法 | |
CN112700461B (zh) | 一种肺结节检测和表征类别识别的*** | |
CN112862744B (zh) | 一种基于超声图像的电容内部缺陷智能检测方法 | |
CN110189375A (zh) | 一种基于单目视觉测量的图像目标识别方法 | |
Huo et al. | Tongue shape classification integrating image preprocessing and convolution neural network | |
CN115829942A (zh) | 基于非负性约束稀疏自编码器的电子电路缺陷检测方法 | |
CN116630762A (zh) | 一种基于深度学习的多模态医学图像融合方法 | |
CN116188786B (zh) | 一种肝胆管及胆道结石的图像分割*** | |
CN114140373A (zh) | 一种基于LabVIEW深度学习的开关缺陷检测方法 | |
CN114331961A (zh) | 用于对象的缺陷检测的方法 | |
CN115294119B (zh) | 基于机器视觉的梅花螺纹头部内槽污渍检测方法 | |
CN116735610A (zh) | 一种基于机器视觉的钢管表面缺陷检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |