CN112257862A - 一种基于关系网络标记样本扩充的半监督辨识方法 - Google Patents
一种基于关系网络标记样本扩充的半监督辨识方法 Download PDFInfo
- Publication number
- CN112257862A CN112257862A CN202011064873.0A CN202011064873A CN112257862A CN 112257862 A CN112257862 A CN 112257862A CN 202011064873 A CN202011064873 A CN 202011064873A CN 112257862 A CN112257862 A CN 112257862A
- Authority
- CN
- China
- Prior art keywords
- deep neural
- network
- signal
- fault
- signal set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 239000003550 marker Substances 0.000 title claims abstract description 8
- 238000013528 artificial neural network Methods 0.000 claims abstract description 57
- 238000013145 classification model Methods 0.000 claims abstract description 46
- 238000003745 diagnosis Methods 0.000 claims abstract description 21
- 238000007781 pre-processing Methods 0.000 claims abstract description 12
- 238000012544 monitoring process Methods 0.000 claims abstract description 10
- 230000001537 neural effect Effects 0.000 claims description 24
- 230000006870 function Effects 0.000 claims description 23
- 238000000605 extraction Methods 0.000 claims description 22
- 238000004364 calculation method Methods 0.000 claims description 21
- 238000012549 training Methods 0.000 claims description 21
- 238000011176 pooling Methods 0.000 claims description 14
- 230000001133 acceleration Effects 0.000 claims description 9
- 238000002372 labelling Methods 0.000 claims description 7
- 150000001875 compounds Chemical class 0.000 claims description 6
- 238000004901 spalling Methods 0.000 claims description 4
- 108010076504 Protein Sorting Signals Proteins 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 238000005259 measurement Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 9
- 238000005299 abrasion Methods 0.000 description 5
- 238000009826 distribution Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011425 standardization method Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M13/00—Testing of machine parts
- G01M13/02—Gearings; Transmission mechanisms
- G01M13/021—Gearings
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M13/00—Testing of machine parts
- G01M13/02—Gearings; Transmission mechanisms
- G01M13/028—Acoustic or vibration analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Acoustics & Sound (AREA)
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
本发明公开一种基于关系网络标记样本扩充的半监督辨识方法，步骤为：1)获取有标签信号集和无标签信号集；2)对有标签信号集和无标签信号集进行预处理；3)对有标签信号集进行样本扩充；4)利用扩充后的有标签信号集建立深度神经网络故障分类模型；5)实时监测齿轮箱的振动信号，并对振动信号进行预处理；6)将预处理后的振动信号输入到深度神经网络故障分类模型中，得到齿轮箱的运行状态，从而完成齿轮箱的故障诊断。本发明能充分利用少量样本的标签信息，精确实现样本之间的相似性衡量，降低了对标签信号样本数量上的依赖。
Description
技术领域
本发明涉及齿轮箱部件状态监测和故障诊断领域，具体是一种基于关系网络标记样本扩充的半监督辨识方法。
背景技术
随着装备制造业的迅速发展，旋转机械设备被广泛的应用于各类工业场合，如风力发电、高速列车、航空航天等领域，齿轮箱作为常见传动部件是旋转机械中最重要的部件。但是，由于工业应用中复杂而严峻的运行环境，齿轮箱在长期运行期间经常会发生故障。齿轮箱部件的意外损坏可能会导致较长的停机时间，较高的维护成本，甚至会带来巨大的安全威胁。因此，对运行中的齿轮箱部件进行实时的状态监测和故障诊断，以便及时发现初期故障，对实际的工业生产极为重要。
就齿轮箱部件的故障诊断而言，大致分为三类方法：基于模型的、基于知识的和基于数据驱动的。前两种故障诊断方法极度地依赖于专家经验和先验知识，这严重的制约了该类方法在实际工业场合中的部署和应用。近年来，随着工业物联网和人工智能技术的兴起，基于数据驱动的故障诊断方法得到了广泛的研究和关注。得益于其强大的非线性建模和表征能力，深度学习方法被广泛的应用于旋转机械状态监测和故障诊断领域，该类方法通过构建深度神经网络能从原始输入信号中学习到利于故障分类的特征表达，进而精确实现设备运行状态的故障模式识别。
传统的基于深度学习的故障诊断方法需要引入大量的有标签信号进行监督训练，以获取具有高泛化能力的故障分类模型；否则，过拟合(over-fitting)问题会严重的制约所建立深度模型的表征能力和分类精度。然而，在实际的工业场合中，标记所有的故障振动信号需要耗费大量的时间和精力。因此，在真实的工况中，仅有很少部分振动信号带有标签信息，而其余振动信号不具有任何先验信息。上述的振动信号样本标签稀疏性给传统的深度学习故障诊断方法带来了巨大的挑战。
发明内容
本发明的目的是提供一种基于关系网络标记样本扩充的半监督辨识方法，包括以下步骤：
1)获取若干有标签振动信号
并写入有标签信号集
m为有标签信号集元素数量。获取若干无标签振动信号
并写入无标签信号集
所述标签
为齿轮箱运行状态类别。上标i和上标j表示信号序号。n为无标签信号集元素数量。
所述齿轮箱运行状态类别包括无故障状态、齿轮箱表面剥落、齿根故障、断齿故障和齿尖磨损故障。其中齿尖磨损故障分为5种故障等级。
所述振动信号表示由贴置在齿轮箱上的加速度传感器采样得到的时间序列。每个振动信号包括N个采样点的加速度幅值。
2)对有标签信号集和无标签信号集进行预处理。所述预处理为归一化处理。
3)对有标签信号集进行样本扩充。
对有标签信号集进行样本扩充的步骤包括：
3.1)建立深度神经关系网络。深度神经关系网络包括特征提取模块Ge(·；θe)、特征组合模块C(·)和关系计算模块Gr(·；θr)。
3.2)从有标签信号集中随机选择两个元素组成输入样本对，并输入到深度神经网络中，对深度神经关系网络进行训练，得到训练好的深度神经关系网络。
对深度神经关系网络进行训练的步骤包括：
3.2.1)生成学习任务Tl，即：
式中，Tl表示生成的学习任务，1(·)表示指示函数，当判别条件为真时，指示函数输出为1，否则为0。
3.2.2)将学习任务Tl输入到深度神经关系网络中进行前向传播，计算得到输入样本对的关系分数rij，即：
式中，Ge(·；θe)为特征提取模块，C(·)为特征组合模块，Gr(·；θr)为关系计算模块。
3.2.3)对深度神经关系网络进行后向传播，实现深度神经关系网络的参数更新。
深度神经关系网络参数更新如下：
式中，θe和θr分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的网络参数。
分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的更新后的网络参数。
其中，真实关系分数
如下所示：
3.3)选取无标签信号集中的一个元素，并与有标签信号集中每个元素进行两两组合，得到输入信号样本对，写入输入信号样本集中。
3.4)重复步骤3.3)，直至无标签信号集中每个元素均与有标签信号集中每个元素进行了组合，得到输入信号样本集。
3.5)将输入信号样本集输入到训练好的深度神经网络中，建立有标签振动信号和无标签振动信号的嵌入关系空间，得到无标签振动信号的预测标签和预测标签的确定性。
无标签信号的预测标签如下所示：
式中，
为无标签信号
的预测标签，O(·)为独热编码操作，K为故障类型数量，sj为深度关系网络输出的关系分数向量。
式中，xl,k表示故障类型为k的有标签振动信号。
Kr(·；·)＝Gr{C[Ge(·；θe)；Ge(·；θe)]；θr} (7)
式中，r(·；·)为建立的深度神经关系网络。
预测标签的确定性如下所示：
式中，
为预测标签的确定性。
3.6)按照预测标签的确定性对无标签振动信号进行降序排列，将前ns个无标签信号添加到有标签信号集中，实现样本扩充。
4)利用扩充后的有标签信号集建立深度神经网络故障分类模型。
建立深度神经网络故障分类模型的步骤包括：
1)建立深度神经网络故障分类模型，包括输入层、卷积层、池化层、全连接层和softmax输出层。
2)将扩充后的有标签信号集输入到深度神经网络故障分类模型中，对深度神经网络故障分类模型进行训练，得到训练好的深度神经网络故障分类模型。
对深度神经网络故障分类模型进行训练的函数为交叉熵损失函数Lentropy，即：
式中，Lentropy为交叉熵损失函数。m′为扩充后有标签信号集的样本数量。fk(·；θs)表示深度神经网络故障分类模型。
式中，θs为深度神经网络故障分类模型的参数。
为深度神经网络故障分类模型更新后的参数。
5)实时监测齿轮箱的振动信号，并对振动信号进行预处理；
6)将预处理后的振动信号输入到深度神经网络故障分类模型中，得到齿轮箱的运行状态，从而完成齿轮箱的故障诊断。
本发明的技术效果良好，明具如下：
1)通过构建成对输入样本能生成大量的学习任务用于深度神经网络的训练，能够最大程度提高深度模型的泛化能力，防止因过拟合所带来的模型退化问题。并且，和传统的样本扩充方法不同(如生成式方法，添加噪声方法)，本发明所提出的样本扩充方式不改变原始数据分布，避免了因数据分布差异给深度模型带来的额外随机扰动；
2)构建了深度关系网络用于小样本训练数据下的特征提取和模式识别，与传统有监督深度分类模型相比，所提出的方法能充分利用少量样本的标签信息，精确实现样本之间的相似性衡量，降低了对标签信号样本数量上的依赖；
3)提出了新颖的半监督学习策略，以循环方式逐步实现有标签信号集的扩充，能够充分利用无标签信号集的数据信息，极大的提高了深度关系网络的泛化能力和最终深度分类模型的故障诊断准确率。
附图说明
图1为本发明的深度关系网络的结构图；
图2(a)为本发明的深度关系网络特征提取模块的结构图；
图2(b)为本发明的深度关系网络关系计算模块的结构图；
图3为本发明的深度神经网络故障分类模型结构图；
图4为本发明的基于关系网络的半监督齿轮箱故障监测与诊断方法的整体示意图；
图5为本发明提出的齿轮箱故障监测与诊断方法的故障识别混淆矩阵。
具体实施方式
下面结合实施例对本发明作进一步说明，但不应该理解为本发明上述主题范围仅限于下述实施例。在不脱离本发明上述技术思想的情况下，根据本领域普通技术知识和惯用手段，做出各种替换和变更，均应包括在本发明的保护范围内。
实施例1：
参见图1至图5，一种基于关系网络标记样本扩充的半监督辨识方法，包括以下步骤：
1)获取若干有标签振动信号
并写入有标签信号集
m为元素数量。获取若干无标签振动信号
并写入无标签信号集
所述标签
为齿轮箱运行状态类别。上标i和上标j表示信号序号。有标签信号集元素数量远远少于无标签信号集元素数量。n为无标签信号集元素数量。
所述齿轮箱运行状态类别包括无故障状态、齿轮箱表面剥落、齿根故障、断齿故障和齿尖磨损故障。其中齿尖磨损故障分为5种故障等级。
所述振动信号表示由贴置在齿轮箱上的加速度传感器采样得到的时间序列。每个振动信号包括N个采样点的加速度幅值。
2)对有标签信号集和无标签信号集进行预处理。所述预处理为归一化处理。
3)对有标签信号集进行样本扩充。
对有标签信号集进行样本扩充的步骤包括：
3.1)建立深度神经关系网络。深度神经关系网络包括特征提取模块Ge(·；θe)、特征组合模块C(·)和关系计算模块Gr(·；θr)。所述特征提取模块包含输入层、卷积block1、池化层1、卷积block2、池化层2、卷积block3、卷积block4，该模块用于原始振动信号的故障特征提取。所述特征组合模块，将通过特征提取模块分别提取到的输入样本对的故障特征在深度方向上进行特征整合，最终生成一个统一的特征图，并输入到关系计算模块中。所述关系计算模块包含卷积block5、池化层5、卷积block6、池化层6、全连接层1、全连接层2，该模块可看作是一个回归模型，其接收上一模块组合的特征图，并最终生成一个介于0至1之间的实数，用于衡量输入样本对之间的关系或相似性，具体地，输出关系分数越接近于1，表示输入样本对具有越高的相似性。
3.2)从有标签信号集中随机选择两个元素组成输入样本对，并输入到深度神经网络中，对深度神经关系网络进行训练，得到训练好的深度神经关系网络。
对深度神经关系网络进行训练的步骤包括：
3.2.1)生成学习任务Tl，即：
式中，Tl表示生成的学习任务，1(·)表示指示函数，当判别条件为真时，指示函数输出为1，否则为0。＝＝表示左右两边相等。
3.2.2)将学习任务Tl输入到深度神经关系网络中进行前向传播，计算得到输入样本对的关系分数rij，即：
式中，Ge(·；θe)为特征提取模块，C(·)为特征组合模块，Gr(·；θr)为关系计算模块。
3.2.3)对深度神经关系网络进行后向传播，实现深度神经关系网络的参数更新。
深度神经关系网络参数更新如下：
式中，θe和θr分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的网络参数。
分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的更新后的网络参数。←表示左边项参数由右边项迭代更新得到。
其中，真实关系分数
如下所示：
3.3)选取无标签信号集中的一个元素，并与有标签信号集中每个元素进行两两组合，得到输入信号样本对，写入输入信号样本集中。
3.4)重复步骤3.3)，直至无标签信号集中每个元素均与有标签信号集中每个元素进行了组合，得到输入信号样本集。
3.5)将输入信号样本集输入到训练好的深度神经网络中，建立有标签振动信号和无标签振动信号的嵌入关系空间，得到无标签振动信号的预测标签和预测标签的确定性。
无标签信号的预测标签如下所示：
式中，
为无标签信号
的预测标签，O(·)为独热编码操作，K为故障类型数量，sj为深度关系网络输出的关系分数向量。k为故障类型。
式中，xl,k表示故障类型为k的有标签振动信号。
Kr(·；·)＝Gr{C[Ge(·；θe)；Ge(·；θe)]；θr} (7)
式中，r(·；·)为建立的深度神经关系网络。
预测标签的确定性如下所示：
式中，
为预测标签的确定性。
3.6)按照预测标签的确定性对无标签振动信号进行降序排列，将前ns个无标签信号添加到有标签信号集中，实现样本扩充。
4)利用扩充后的有标签信号集建立深度神经网络故障分类模型。
建立深度神经网络故障分类模型的步骤包括：
1)建立深度神经网络故障分类模型，包括输入层、卷积层、池化层、全连接层和softmax输出层。
2)将扩充后的有标签信号集输入到深度神经网络故障分类模型中，对深度神经网络故障分类模型进行训练，得到训练好的深度神经网络故障分类模型。
对深度神经网络故障分类模型进行训练的函数为交叉熵损失函数Lentropy，即：
式中，Lentropy为交叉熵损失函数。m′为扩充后有标签信号集的样本数量。fk(·；θs)表示深度神经网络故障分类模型。
式中，θs为深度神经网络故障分类模型的参数。
为深度神经网络故障分类模型更新后的参数。
实施例2：
一种基于关系网络标记样本扩充的半监督辨识方法，包括以下步骤：
1)齿轮箱故障振动信号获取和预处理；
其中，所述齿轮箱故障振动信号获取和预处理过程包括以下步骤：
1.1)齿轮箱故障振动信号获取；
采用振动加速度传感器以20kHZ采样频率测量得到不同健康状态下齿轮箱部件的加速度振动信号，每个故障振动信号为包含1024个采样点的加速度幅值时间序列；所述齿轮箱故障类型包括健康状态、表面剥落、齿根故障、断齿故障、齿尖磨损故障1、齿尖磨损故障2、齿尖磨损故障3、齿尖磨损故障4、齿尖磨损故障5等共计9种故障类型，每种故障类型采集260个振动信号；将测得的故障振动信号进一步划分为有标签信号集和无标签信号集，对有标签信号集中的每个振动信号样本进行故障类别标注，其中有标签信号集包含10×9＝90个故障振动信号，无标签信号集包含250×9＝2250个故障振动信号。
1.2)齿轮箱故障振动信号预处理；
将有标签信号集和无标签信号集看作一个整体，计算总体信号集的均值和标准差；分别对有标签信号集和无标签信号集进行数据标准化，近似的将原数据集映射为标准正态分布，以便进行后续深度模型训练；具体的标准化方法为：每个故障振动信号减去总体均值并除以总体标准差；
通过上述步骤，获取包含9类齿轮箱故障类型的有标签信号集
和无标签信号集
其中，
和
表示采集到的故障振动信号，
为标注的齿轮箱的故障类型。
2)有标签振动信号样本集扩充。
2.1)有标签信号集输入样本对构建；
2.1.1)给定集合Dl表示包含90个振动信号的有标签信号集，从中以有放回的方式随机选择2个振动信号构成输入样本对，穷尽所有的组合方式得到如下的学习任务：
其中，Tl表示生成的学习任务，1(·)表示指示函数，当判别条件为真时，指示函数输出为1，否则为0。
2.1.2)深度关系网络的构建；
本发明所建立的深度关系网络主要基于卷积神经网络，其模型结构和网络参数如图1和图2所示；所提出的深度关系网络包含一个特征提取模块、特征组合模块和关系计算模块，上述模块依次连接形成深度网络结构；
所述特征提取模块包含输入层、卷积block1、池化层1、卷积block2、池化层2、卷积block3、卷积block4，该模块用于原始振动信号的故障特征提取；
所述特征组合模块，将通过特征提取模块分别提取到的输入样本对的故障特征在深度方向上进行特征整合，最终生成一个统一的特征图，并输入到关系计算模块中；
所述关系计算模块包含卷积block5、池化层5、卷积block6、池化层6、全连接层1、全连接层2，该模块可看作是一个回归模型，其接收上一模块组合的特征图，并最终生成一个介于0至1之间的实数，用于衡量输入样本对之间的关系或相似性，具体地，输出关系分数越接近于1，表示输入样本对具有越高的相似性。
2.1.3)深度关系网络的训练；
对深度关系网络进行随机初始化，使得网络参数近似服从均值为0标准差为0.01的正态分布；
将步骤2.1.1)构建的学习任务以32的batch size分批输入到深度关系网络中，进行前向传播，计算得到成对输入样本的关系分数，前向传播过程表述如下：
其中，rij为输入样本对的关系分数，Ge(·；θe)为特征提取模块，C(·)为特征组合模块，Gr(·；θr)为关系计算模块；
选用Adam优化器以0.001学习率对深度关系网络进行后向传播，以实现深度模型参数优化，后向传播过程表述如下：
其中，θe和θr分别为特征提取模块和关系计算模块的网络参数。
2.2)无标签和有标签信号集样本对构建；
将有标签信号集和无标签信号集中的信号样本进行组合，生成如下的输入信号样本对：
嵌入关系空间建立；
将生成的样本对输入到训练好的深度关系网络中，建立起有标签样本和无标签信号的嵌入关系空间：
r(·；·)＝Gr{C[Ge(·；θe)；Ge(·；θe)]；θr}
在建立的嵌入关系空间中，每个无标签信号包含两个要素，分别为预测标签和预测标签的确定性；
无标签信号的预测标签表述如下：
预测标签的确定性表述如下：
其中，xl,k表示来自故障类型k的有标签信号，r(·；·)为建立的深度关系网络，O(·)为独热编码操作。
2.3)有标签振动信号集样本扩充；
以建立的关系空间为参考，进行有标签振动信号集的样本扩充。具体的扩充方式为：针对齿轮箱每类故障类型，具有前50个最大预测确定性的无标签信号被选择出来，其预测标签被当作其真实标签。选择出来的无标签样本结合其预测标签添加到有标签信号集中，实现样本扩充。
2.4)循环训练；
重复步骤2.1)-2.3)若干次，逐步提高深度关系网络的泛化能力，并迭代进行无标签信号的标签标定，以实现有标签信号集的样本扩充。本实施例选择重复四次。
通过以上步骤得到扩充的有标签信号集表述如下：
3)深度神经网络故障分类模型的建立。
通过上述步骤扩充的有标签信号集De和初始有标签信号集Dl构成总的有标签训练集Dtotal＝De∪Dl，并用于训练深度神经网络故障分类模型。
3.1)深度神经网络故障分类模型的建立；
所建立的深度神经网络故障分类模型包含输入层、卷积层1、池化层1、卷积层2、池化层2、卷积层3、池化层3、全连接层1、全连接层2和softmax输出层，通过级联各层形成深度网络结构，其具体模型结构和网络参数如图3和图4所示。
3.2)深度神经网络故障分类模型的训练；
将扩充的有标签信号集Dtotal的故障振动信号以32的batch size分批次输入到深度神经网络故障分类模型中，采用交叉熵损失函数衡量网络预测输出与实际标签的差别，选用Adam优化器以0.0001学习率进行模型参数更新和优化，参数优化过程表述如下：
其中，Lentropy为交叉熵损失函数，f(·；θs)表示所建立的深度神经网络故障分类模型，θs为所建立模型的网络参数。
4)齿轮箱实时运行状态监测和故障诊断
4.1)故障振动信号预处理；
对采集到的齿轮箱运行数据进行标准化预处理。
齿轮箱实时运行状态监测和故障诊断；
4.2)将步骤4.1处理得到的齿轮箱运行数据输入到训练好的深度神经网络故障分类模型中，得到一个9维向量，分别表示齿轮箱每类故障发生的预测概率，其中具有最大预测概率的故障类型被认为是故障诊断结果，由此进行齿轮箱故障模式识别和健康状态预测。
为了验证所提出技术方案在半监督条件下齿轮箱故障诊断中的优越性能，本发明将传统故障诊断方法和所提出技术方案进行齿轮箱故障诊断对比试验，得到的实验结果如表1所示：
表1齿轮箱故障诊断识别准确率对比
此外，引入混淆矩阵进一步说明本技术方案在齿轮箱故障诊断中的识别情况，如图5所示。
Claims (9)
1.一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，包括以下步骤：
1)获取若干有标签振动信号
并写入所述有标签信号集
m为有标签信号集元素数量；获取若干无标签振动信号
并写入无标签信号集
所述标签
为齿轮箱运行状态类别；上标i和上标j表示信号序号；n为无标签信号集元素数量；
2)对有标签信号集和无标签信号集进行预处理。
3)对有标签信号集进行样本扩充；
4)利用扩充后的有标签信号集建立深度神经网络故障分类模型；
5)实时监测齿轮箱的振动信号，并对振动信号进行预处理；
6)将预处理后的振动信号输入到深度神经网络故障分类模型中，得到齿轮箱的运行状态，从而完成齿轮箱的故障诊断。
2.根据权利要求1或2所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于：所述齿轮箱运行状态类别包括无故障状态、齿轮箱表面剥落、齿根故障、断齿故障和齿尖磨损故障；其中齿尖磨损故障分为5种故障等级。
3.根据权利要求1所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于：所述振动信号表示由贴置在齿轮箱上的加速度传感器采样得到的时间序列；每个振动信号包括N个采样点的加速度幅值。
4.根据权利要求1所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于：所述预处理为归一化处理。
5.根据权利要求1所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，对有标签信号集进行样本扩充的步骤包括：
1)建立深度神经关系网络；深度神经关系网络包括特征提取模块Ge(·；θe)、特征组合模块C(·)和关系计算模块Gr(·；θr)；
2)从有标签信号集中随机选择两个元素组成输入样本对，并输入到深度神经网络中，对深度神经关系网络进行训练，得到训练好的深度神经关系网络；
3)选取无标签信号集中的一个元素，并与有标签信号集中每个元素进行两两组合，得到输入信号样本对，写入输入信号样本集中；
4)重复步骤3)，直至无标签信号集中每个元素均与有标签信号集中每个元素进行了组合，得到输入信号样本集；
5)将输入信号样本集输入到训练好的深度神经网络中，建立有标签振动信号和无标签振动信号的嵌入关系空间，得到无标签振动信号的预测标签和预测标签的确定性；
6)按照预测标签的确定性对无标签振动信号进行降序排列，将前ns个无标签信号添加到有标签信号集中，实现样本扩充。
6.根据权利要求5所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，对深度神经关系网络进行训练的步骤包括：
1)生成学习任务Tl，即：
式中，Tl表示生成的学习任务，1(·)表示指示函数，当判别条件为真时，指示函数输出为1，否则为0；
2)将学习任务Tl输入到深度神经关系网络中进行前向传播，计算得到输入样本对的关系分数rij，即：
式中，Ge(·；θe)为特征提取模块，C(·)为特征组合模块，Gr(·；θr)为关系计算模块；θe和θr分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的网络参数；
3)对深度神经关系网络进行后向传播，实现深度神经关系网络的参数更新；
深度神经关系网络参数更新如下：
式中，θe和θr分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的网络参数；
分别为特征提取模块Ge(·；θe)和关系计算模块Gr(·；θr)的更新后的网络参数。
其中，真实关系分数
如下所示：
7.根据权利要求5所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，无标签信号的预测标签如下所示：
式中，
为无标签信号
的预测标签，O(·)为独热编码操作，K为故障类型数量，sj为深度关系网络输出的关系分数向量；
式中，xl,k表示故障类型为k的有标签振动信号；
Kr(·；·)＝Gr{C[Ge(·；θe)；Ge(·；θe)]；θr} (7)
式中，r(·；·)为建立的深度神经关系网络；
预测标签的确定性如下所示：
式中，
为预测标签的确定性。
8.根据权利要求1所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，建立深度神经网络故障分类模型的步骤包括：
1)建立深度神经网络故障分类模型，包括输入层、卷积层、池化层、全连接层和softmax输出层；
2)将扩充后的有标签信号集输入到深度神经网络故障分类模型中，对深度神经网络故障分类模型进行训练，得到训练好的深度神经网络故障分类模型。
9.根据权利要求8所述的一种基于关系网络标记样本扩充的半监督辨识方法，其特征在于，对深度神经网络故障分类模型进行训练的函数为交叉熵损失函数Lentropy，即：
式中，Lentropy为交叉熵损失函数；m′为扩充后有标签信号集的样本数量；fk(·；θs)表示深度神经网络故障分类模型；
式中，θs为深度神经网络故障分类模型的参数；
为深度神经网络故障分类模型更新后的参数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011064873.0A CN112257862B (zh) | 2020-09-30 | 2020-09-30 | 一种基于关系网络标记样本扩充的半监督辨识方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011064873.0A CN112257862B (zh) | 2020-09-30 | 2020-09-30 | 一种基于关系网络标记样本扩充的半监督辨识方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112257862A true CN112257862A (zh) | 2021-01-22 |
| CN112257862B CN112257862B (zh) | 2023-12-05 |
Family
ID=74234841
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011064873.0A Active CN112257862B (zh) | 2020-09-30 | 2020-09-30 | 一种基于关系网络标记样本扩充的半监督辨识方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112257862B (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112949823A (zh) * | 2021-02-05 | 2021-06-11 | 杭州电子科技大学 | 基于一维多尺度深度卷积神经网络的工业过程性能诊断方法 |
| CN113222867A (zh) * | 2021-04-16 | 2021-08-06 | 山东师范大学 | 基于多模板图像的图像数据增强方法及*** |
| CN113642465A (zh) * | 2021-08-13 | 2021-11-12 | 石家庄铁道大学 | 基于关系网络的轴承健康评估方法 |
| WO2023231374A1 (zh) * | 2022-05-30 | 2023-12-07 | 深圳技术大学 | 机械设备半监督故障检测分析方法、装置、终端及介质 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104751191A (zh) * | 2015-04-23 | 2015-07-01 | 重庆大学 | 一种稀疏自适应半监督多流形学习的高光谱影像分类方法 |
| CN107194336A (zh) * | 2017-05-11 | 2017-09-22 | 西安电子科技大学 | 基于半监督深度距离度量网络的极化sar图像分类方法 |
| CN108364016A (zh) * | 2018-01-12 | 2018-08-03 | 华南理工大学 | 基于多分类器的渐进式半监督分类方法 |
| CN108460134A (zh) * | 2018-03-06 | 2018-08-28 | 云南大学 | 基于多源域集成迁移学习的文本主题分类模型及分类方法 |
| CN109522961A (zh) * | 2018-11-23 | 2019-03-26 | 中山大学 | 一种基于字典深度学习的半监督图像分类方法 |
| CN109582003A (zh) * | 2018-12-03 | 2019-04-05 | 东北林业大学 | 基于伪标签半监督核局部费舍尔判别分析轴承故障诊断 |
| CN110617966A (zh) * | 2019-09-23 | 2019-12-27 | 江南大学 | 一种基于半监督生成对抗网络的轴承故障诊断方法 |
| US20200125897A1 (en) * | 2018-10-18 | 2020-04-23 | Deepnorth Inc. | Semi-Supervised Person Re-Identification Using Multi-View Clustering |
| CN111695612A (zh) * | 2020-05-26 | 2020-09-22 | 东南大学 | 一种基于聚类的半监督识别方法 |
-
2020
- 2020-09-30 CN CN202011064873.0A patent/CN112257862B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104751191A (zh) * | 2015-04-23 | 2015-07-01 | 重庆大学 | 一种稀疏自适应半监督多流形学习的高光谱影像分类方法 |
| CN107194336A (zh) * | 2017-05-11 | 2017-09-22 | 西安电子科技大学 | 基于半监督深度距离度量网络的极化sar图像分类方法 |
| CN108364016A (zh) * | 2018-01-12 | 2018-08-03 | 华南理工大学 | 基于多分类器的渐进式半监督分类方法 |
| CN108460134A (zh) * | 2018-03-06 | 2018-08-28 | 云南大学 | 基于多源域集成迁移学习的文本主题分类模型及分类方法 |
| US20200125897A1 (en) * | 2018-10-18 | 2020-04-23 | Deepnorth Inc. | Semi-Supervised Person Re-Identification Using Multi-View Clustering |
| CN109522961A (zh) * | 2018-11-23 | 2019-03-26 | 中山大学 | 一种基于字典深度学习的半监督图像分类方法 |
| CN109582003A (zh) * | 2018-12-03 | 2019-04-05 | 东北林业大学 | 基于伪标签半监督核局部费舍尔判别分析轴承故障诊断 |
| CN110617966A (zh) * | 2019-09-23 | 2019-12-27 | 江南大学 | 一种基于半监督生成对抗网络的轴承故障诊断方法 |
| CN111695612A (zh) * | 2020-05-26 | 2020-09-22 | 东南大学 | 一种基于聚类的半监督识别方法 |
Non-Patent Citations (6)
| Title |
|---|
| HAO WU等: "Semi-Supervised Deep Learning Using Pseudo Labels for Hyperspectral Image Classification", 《IEEE TRANSACTIONS ON IMAGE PROCESSING》, vol. 27, no. 3, pages 1259, XP011675134, DOI: 10.1109/TIP.2017.2772836 * |
| ZHENYA WANG等: "Mahalanobis semi-supervised mapping and beetle antennae search based support vector machine for wind turbine rolling bearings fault diagnosis", 《RENEWABLE ENERGY》, vol. 155, pages 1312 - 1327, XP086162145, DOI: 10.1016/j.renene.2020.04.041 * |
| 吕枫等: "深度嵌入关系空间下齿轮箱标记样本扩充及其半监督故障诊断方法", 《仪器仪表学报》, vol. 42, no. 2, pages 55 - 65 * |
| 樊宏渊: "基于深度学习的半监督高光谱图像分类", 《中国优秀硕士学位论文全文数据链 (工程科技Ⅱ辑)》, no. 02, pages 028 - 185 * |
| 陶新民;任超;徐朗;何庆;刘锐;邹俊荣;: "基于伪标签半监督核局部Fisher判别分析轴承故障诊断", 振动与冲击, no. 17, pages 1 - 9 * |
| 韩嵩;韩秋弘;: "半监督学习研究的述评", 计算机工程与应用, no. 06, pages 19 - 27 * |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112949823A (zh) * | 2021-02-05 | 2021-06-11 | 杭州电子科技大学 | 基于一维多尺度深度卷积神经网络的工业过程性能诊断方法 |
| CN113222867A (zh) * | 2021-04-16 | 2021-08-06 | 山东师范大学 | 基于多模板图像的图像数据增强方法及*** |
| CN113222867B (zh) * | 2021-04-16 | 2022-05-20 | 山东师范大学 | 基于多模板图像的图像数据增强方法及*** |
| CN113642465A (zh) * | 2021-08-13 | 2021-11-12 | 石家庄铁道大学 | 基于关系网络的轴承健康评估方法 |
| CN113642465B (zh) * | 2021-08-13 | 2022-07-08 | 石家庄铁道大学 | 基于关系网络的轴承健康评估方法 |
| WO2023231374A1 (zh) * | 2022-05-30 | 2023-12-07 | 深圳技术大学 | 机械设备半监督故障检测分析方法、装置、终端及介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112257862B (zh) | 2023-12-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112257862B (zh) | 一种基于关系网络标记样本扩充的半监督辨识方法 | |
| Zhao et al. | Deep multi-scale convolutional transfer learning network: A novel method for intelligent fault diagnosis of rolling bearings under variable working conditions and domains | |
| Qian et al. | A new deep transfer learning network based on convolutional auto-encoder for mechanical fault diagnosis | |
| Han et al. | An adaptive spatiotemporal feature learning approach for fault diagnosis in complex systems | |
| Li et al. | Fault diagnosis of rotating machinery based on combination of deep belief network and one-dimensional convolutional neural network | |
| Feng et al. | Similarity-based meta-learning network with adversarial domain adaptation for cross-domain fault identification | |
| CN112906644B (zh) | 基于深度迁移学习的机械故障智能诊断方法 | |
| Wang et al. | Self-supervised signal representation learning for machinery fault diagnosis under limited annotation data | |
| Xu et al. | A novel multi-scale CNN and attention mechanism method with multi-sensor signal for remaining useful life prediction | |
| CN110375987B (zh) | 一种基于深度森林机械轴承故障检测方法 | |
| CN112161784A (zh) | 基于多传感器信息融合迁移网络的机械故障诊断方法 | |
| CN115600150A (zh) | 一种基于深度迁移学习的多模态齿轮箱故障诊断方法 | |
| CN113505664B (zh) | 一种风电机组行星齿轮箱故障诊断方法 | |
| Chen et al. | Generalized open-set domain adaptation in mechanical fault diagnosis using multiple metric weighting learning network | |
| CN110991471B (zh) | 一种高速列车牵引***故障诊断方法 | |
| CN114722952B (zh) | 一种基于表示学习的轴承故障检测和分类的一体化方法 | |
| CN115358259A (zh) | 一种基于自学习的无监督跨工况轴承故障诊断方法 | |
| CN116227586A (zh) | 基于深度残差收缩原型网络的元学习故障诊断方法及装置 | |
| Rahadian et al. | Image encoding selection based on Pearson correlation coefficient for time series anomaly detection | |
| Saberi et al. | LightGBM-based fault diagnosis of rotating machinery under changing working conditions using modified recursive feature elimination | |
| Wei et al. | WSAFormer-DFFN: A model for rotating machinery fault diagnosis using 1D window-based multi-head self-attention and deep feature fusion network | |
| Chou et al. | SHM data anomaly classification using machine learning strategies: A comparative study | |
| Ma et al. | A collaborative central domain adaptation approach with multi-order graph embedding for bearing fault diagnosis under few-shot samples | |
| Zhang et al. | Compound Fault Diagnosis for Gearbox Based Using of Euclidean Matrix Sample Entropy and One‐Dimensional Convolutional Neural Network | |
| Techane et al. | Rotating machinery prognostics and application of machine learning algorithms: Use of deep learning with similarity index measure for health status prediction |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |