CN113076920A - 一种基于非对称域对抗自适应模型的智能故障诊断方法 - Google Patents

Abstract

本发明提供一种基于非对称域对抗自适应模型的智能故障诊断方法，克服现有无监督域适配对抗训练困难且目标域无标签数据需求量大的问题。首先将传感器采集到的振动信号转化为时频图谱，利用分步式域对抗训练从时频图谱中获得域不变故障特征。同时将轻量化网络构架和Wasserstein d i stance融入对抗式网络大幅度缩短网络模型的训练成本，降低对目标域数据的依赖性，使得对抗迁移模型在小样本场景下依旧保持良好的性能。

Description

一种基于非对称域对抗自适应模型的智能故障诊断方法

技术领域

本发明涉及变工况滚动轴承故障模式识别，尤其是针对故障样本数据稀少的场景的一种基于非对称域对抗自适应的智能故障诊断方法。

背景技术

随着大数据时代的到来，基于深度学习算法的智能故障诊断逐渐成为设备故障诊断领域和设备状态健康状态维护管理的主流方法。深度学习算法从大量状态数据中提取到设备故障信息，同时依靠其自身强大的表征学习能力，实现端到端的故障诊断流程。

然而在实际工业生产过程中，1)一方面，设备长时间处于正常状态运行，工作人员难以获得大量带标签故障样本数据。2)另一方面大型设备的工作环境复杂多变，很难保证在每个工况场景中都能够获得充足的带标签故障样本数据。缺乏足够的训练样本严重限制了深度学习模型在工业中的应用。其原因主要在于少量、稀疏的实际故障样本难以保障经验分布的完备性使其支撑深层网络构架中大量参数的优化学习，最终导致深层网络模型泛化能力较差。3)最重要的一点，深层网络模型的大量训练参数难以满足实际生产实时分析的要求，同时深度学习模型的计算成本也很高，难以应用于实际工业场景中。

近年来，随着标签样本数据的成本越来越高，迁移学习(transfer learning)作为解决目标域数据稀缺问题的有效方案持续受到研究人员的关注。迁移学习将模型在源域数据中学习到的知识应用到目标域中，从而增强模型的泛化能力。其中可以根据一定的权重生成规则，对数据样本进行重用，实现基于样例的迁移。然而，为进一步提升迁移后模型的性能，领域自适应(Domain Adaptation)方法通过与网络结合，将分布不同的源域数据和目标域数据，映射到一个特征空间。其通过不断减小两者在高维特征空间的距离，解决不同域数据之间的协方差漂移现象。该方法主要通过几种距离度量准则来减小不同域数据之间的分布差异，如最大均值差异距离(MMD)、KL散度、Wasserstein距离、基于A-Distance等方法。Chen等人，提出基于迁移成分分析(TCA)的变工况故障诊断，其利用最小化MMD距离实现源域数据和目标域数据之间的边缘分布自适应。作为TCA方法的延伸，Long等人提出了基于联合分布自适应(JDA)的迁移策略。为进一步提升模型的泛化性能，Long等人将度量准则嵌入到深层网络模型中，利用网络梯度下降的能力减小域间距离。但是MMD作为域适配的距离度量准则仍存在两个较大的问题，1)作为人为构造的高维映射特征空间距离，迁移的性能效果始终难以进一步提升。2)随着数据量的增多，计算成本指数式增加。

随着对抗生成网络(GAN)的兴起，网络模型通过对抗训练获得更加真实的样本分布。在深层对抗迁移过程中，对抗训练主要通过更新域判别器区分源域数据与目标域数据，随后更新特征提取器，生成高质量数据使得判别器无法区分两者差别，两者通过博弈实现纳什平衡从而完成域适配过程。深层对抗迁移在传统DA的基础上，通过学习网络模型自主映射到高维空间，增强模型的泛化性能。随后提出的DANN构架，通过最小化图像分类损失的同时最大化域分类损失，将源域数据与目标域数据映射到同一个特征空间，拉近两个域的距离从而实现域间的特征级别自适应。

然而，上述方案均存在一定的问题。1)首先几种常规的距离度量准则无法精确描述数据之间分布的差异，往往会忽略一些不重要因素造成无法完全对齐源域和目标域。2)其次DANN虽然作为一种有效的域适配方法，但是在训练过程中，其域分类损失仅作为整体损失函数中的一个正则项约束模型的优化方向，本质上并没有体现出生成器与判别器相互博弈实现平衡的过程，使得生成的样本缺乏一定的复杂度，易产生过拟合现象。3)传统对抗过程极易产生梯度消失或模式坍塌问题，造成模型无法训练。4)最后现阶段的无监督对抗域适配迁移策略需要大量的无标签目标域数据进行辅助训练，否则诊断性能会大幅度下降。

发明内容

针对上述现有技术中存在的一系列问题，本发明的目的是一种基于非对称域对抗自适应的智能故障诊断方法，解决了传统诊断方法的不足，提升智能诊断在工业应用中的稳定性和可靠性。在克服训练集与测试集由于工况变化导致的分布差异的同时，探索一种新的对抗迁移适配方法来缓解稀疏样本下的诊断性能。

为实现上述目的，本发明采用以下技术方案来实现：

一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，包括如下步骤：

(1)首先将从加速度传感器中获取的振动信号进行异常值处理，随后将不同工况下的振动信号通过滑动窗口划分成多段样本数据，利用一维连续小波将时域信号转化成二维时频图谱。最后在训练之前，将小波系数进行归一化处理。

(2)通过源域数据训练源域的特征提取器以及分类器，随后冻结训练好的模型参数。

(3)利用步骤(2)的源域特征提取器对目标域特征提取器的参数进行初始化，采用对抗博弈的方式训练域判别器以及目标域的特征提取器，直至模型收敛，从而提取到域不变特征。

(4)采用步骤(3)训练好的目标域特征提取器和步骤(2)中的分类器对目标域数据进行识别分类，完成诊断过程。

本发明进一步的改进在于，步骤(1)的具体步骤如下：

1)获取滚动轴承在两种不同工况下的时域振动信号；

2)进行信号预处理，如剔除异常值，去噪等过程；

3)采用固定滑动窗口对一维连续信号进行分割；

4)使用连续小波变换将每段振动信号转化为二维时频图谱；

5)将小波系数进行归一化处理

6)其中源域故障数据集为标签样本数据

边缘分布为P_s(X)，其中该数据集有n_s个故障类别。目标域故障数据集为无标签样本数据

边缘分布为P_t(X)，其中该数据集有有n_t个故障类别。本文重点研究不同域数据集间边缘分布不同P_s(X)≠P_t(X)但是标签空间一致Y_s＝Y_t时的无监督领域自适应问题。

本发明进一步改进在于，步骤(2)中，利用源域标签数据对源域特征提取器和分类器进行训练，具体步骤如下：

1)源域和目标域特征提取器均由简化的轻量化模型S-MobileNet v2搭建而成，能够增强模型的泛化能力同时降低计算成本。

2)分类器采用全连接层对所提取到的特征进行识别分类。

3)基于ERM理论以及大量的训练数据，使得深度学习网络模型学习到完备的源域数据分布，获取充足的故障信息。

根据权利要求3所述的一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，步骤(2)，具体计算过程如下：

根据源域数据

训练源域的特征提取器M_s和分类器C

根据权利要求1所述的一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，步骤(3)中，进行对抗域适配过程，具体过程如下：

1)首先固定源域特征提取器M_s和分类器C，对目标域特征提取器M_t进行初始化

2)采用对抗学***衡从而提取到域不变特征。

3)域判别器D采用Wasserstein距离作为衡量源域数据与目标域数据分布差异的指标，缓解对抗训练过程中梯度消失和模式崩溃现象。

根据权利要求5所述的一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，步骤(3)中，具体计算过程如下：

训练模型网络中域判别器，多次更新判别器，待其稳定后，更新目标域特征提取器(生成器)，重复迭代直至收敛。

其中

为优化器在M_t中的梯度，θ_d为优化器在D中的梯度，AdaBelif为模型的优化器

与现有诊断方法相比，本发明具有以下有益效果：

1.本发明首次将Adversarial Domain Discriminative Adaptation(ADDA)迁移策略应用到变工况故障诊断方法中，采用非对称映射的方式提取故障特征以及基于GAN的损失函数，增强了生成样本的复杂度，进一步提升了诊断模型的泛化性能。

2.本发明对目前主流的轻量化模型MobileNet v2进行进一步改进，从而降低对目标域数据的依赖性，更加贴近实际工业场景中的需求。其次，本发明采用Wasserstein距离代替KL散度以保证模型在对抗学习的过程中不发生模式坍塌，尤其是在目标域数据稀缺的时候。

3.相比于Adam优化器，本发明采用的Adabelif优化器在对抗过程中使其收敛更快，稳定性更强。

附图说明

图1为本发明剔除的在不同工况下基于迁移学习的滚动轴承故障诊断流程图。

图2为改进的轻量化模型

图3为本发明的对抗适配具体结构图

图4为目标域数据量下降前后的诊断性能对比

具体实施方式

下面结合附图与具体实施方式对本发明做进一步的描述说明。

参照图1，本发明提供一种非对称域对抗模型来进行变工况故障诊断的方法，克服现有无监督域适配对抗训练困难且目标域无标签数据需求量大的问题。首先将传感器采集到的振动信号转化为时频图谱，利用分步式域对抗训练从时频图谱中获得域不变故障特征。同时将轻量化网络构架和Wasserstein distance融入对抗式网络大幅度缩短网络模型的训练成本，降低对目标域数据的依赖性，使得对抗迁移模型在小样本场景下依旧保持良好的性能。

参照图1，一种非对称域对抗模型来进行变工况故障诊断的方法，包括如下步骤，

(1)首先将从加速度传感器中获取的振动信号进行异常值处理，随后将不同工况下的振动信号通过滑动窗口划分成多段样本数据，利用一维连续小波将时域信号转化成二维时频图谱。最后在训练之前，将小波系数进行归一化处理。预处理后得到带标签的源域数据集和无标签的目标域数据集。

步骤(1)具体过程如下：

1)获取滚动轴承在两种不同工况下的时域振动信号；

2)进行信号预处理，如剔除异常值，去噪等过程；

3)采用固定滑动窗口对一维连续信号进行分割；

4)使用连续小波变换将每段振动信号转化为二维时频图谱；

5)将小波系数进行归一化处理

6)其中源域故障数据集为标签样本数据

边缘分布为P_s(X)，其中该数据集有n_s个故障类别。目标域故障数据集为无标签样本数据

边缘分布为P_t(X)，其中该数据集有有n_t个故障类别。本文重点研究不同域数据集间边缘分布不同P_s(X)≠P_t(X)但是标签空间一致Y_s＝Y_t时的无监督领域自适应问题。

(2)根据步骤(1)可以获得带标签的源域数据集和无标签的目标域数据集，首先利用带标签的源域数据集训练源域特征提取器和分类器。

步骤(2)的具体过程如下：

1)源域和目标域特征提取器均由简化的轻量化模型S-MobileNet v2搭建而成，能够增强模型的泛化能力同时降低计算成本。

2)分类器采用全连接层对所提取到的特征进行识别分类。

3)基于ERM理论以及大量的训练数据，使得深度学习网络模型学习到完备的源域数据分布，获取充足的故障信息。

步骤(2)，具体计算过程如下：

根据源域数据

训练源域的特征提取器M_s和分类器C

(3)基于步骤(2)训练好的源域特征提取器，将其固定，采用对抗博弈策略训练目标域特征提取器(生成器)和域判别器(判别器)，不断更新迭代直至达到纳什平衡状态，从而提取到不随工况变化的鲁棒特征。

步骤(3)中的对抗域适配过程如下所示：

1)首先固定源域特征提取器M_s和分类器C，对目标域特征提取器M_t进行初始化

2)采用对抗学***衡从而提取到域不变特征。

3)域判别器D采用Wasserstein距离作为衡量源域数据与目标域数据分布差异的指标，缓解对抗训练过程中梯度消失和模式崩溃现象。

步骤(3)的具体计算过程如下所示：

训练模型网络中域判别器，多次更新判别器，待其稳定后，更新目标域特征提取器(生成器)，重复迭代直至收敛。

其中

以下给出一个具体应用实例过程，同时验证本发明在工业应用中的有效性。

本发明利用非对称域对抗自适应方法识别不同工况下的旋转机械滚动轴承故障诊断，具体步骤实施如下：

(1)数据集介绍：

为了验证跨域小样本故障诊断的有效性，本文主要使用了凯斯西储大学滚动轴承故障数据进行实验与分析。故障样本数据在三种不同的工作环境下获得(主要是负载和转速发生变化)，可以分为L(1HP/1772rpm)、M(2HP/1750rpm)和H(3HP/1730rpm)。每个工况条件下的滚动轴承故障数据均是人为模拟单点损伤。滚动轴承故障位置主要分为三类：滚动球损伤，内圈损伤，外圈损伤。其中每个损伤类型有三种损伤程度，损伤直径分别为0.1778，0.3556和0.5334mm。采用的是电机驱动端深沟球轴承，型号为SKF6205，采样频率为12kHz。

(2)数据集划分

根据采样频率和转速可以得到一个旋转周期至少需要400个采样点，结合旋转周期的波动，采样长度ns设为1024。随后将故障数据进行连续小波变换获得时频图谱，最后在诊断之前进行归一化。每个工况下获取10*100个样本，其中20％用作测试集，80用作训练，所有实验均重复10次以避免偶然性和特殊性。

(3)故障模式识别网络

在本发明中，如图2所示，特征提取器采用简化后的轻量化网络S-MobileNet v2，其中分类器由全连接层和Softmax层组成，结构参数由多次试验获得。每个Bottleneck包含了深度可分离卷积和倒残差结构获取深层故障特征的同时大幅度降低网络结构参数。域判别器由多个全连接层构成，其中激活函数采用Leaky ReLU。

(4)WAADA的构建

在本发明中，如图3所示，设计非对称域对抗自适应网络(WAADA)。如图2所示，基础网络构架采用简化的MobileNetV2，第一层为卷积层，包含了32个大小为3*3卷积核，接下来为5个BottleNeck模块，每个模块包含了深度可分离卷积和倒残差结构.第一个BottleNeck的输出通道数为16，可分离卷积步长s为1，通道扩大数为1；第二个BottleNeck模块的输出通道数为32，可分离卷积的步长s为2，通道扩大数为6；第三个BottleNeck模块的输出通道数为64，可分离卷积的步长s为2，通道扩大数为6；第四个BottleNeck模块的输出通道数为96，可分离卷积的步长s为2，通道扩大数为6；第五个BottleNeck和第四个完全一致。随后经过第二个卷积层，该卷积层包含了128个通道为96的1*1卷积核，再将其放入全局均值池化层将输出特征图变为1*1，最后将特征图放入最后一个卷积层，该卷积层包含了10个128通道的1*1卷积核。源域特征提取器和目标域特征提取器完全一样，两个域的数据共用一个分类器和域判别器。首先使用源域故障数据预训练源域特征提取器source extractor以及分类器classifier，随后固定两者的参数，同时使用源域故障数据和目标域故障数据交替训练目标域特征提取器target extractor和域判别器discriminator，经过对抗学***稳可靠，使用Wasserstein距离计算源域数据和目标域数据的分布差异。

(5)超参数设定

优化器采用AdaBelif，为了避免过拟合，使用了dropout和l2正则化。训练源域模型时的batch_size设为80，学习率lr设为0.0005，源域模型迭代训练200次。在对抗过程中，batch_size设为80，学习率为0.0001，对抗训练100次，每训练8次判别器优化一次生成器。

为了验证本发明的有效性，选择多种迁移策略进行综合对比分析，主要包含了无迁移策略的CNN模型，Deep Coral，DAN，DANN，AdaBN以及MADA。如图4所示，展示了不同方法在目标域数量降低时，性能的下降程度。从中可以看出，本发明在目标域数据稀疏时，仍保持较好的故障诊断性能。

综上，整个非对称域对抗自适应网络(WAADA)训练过程：

Claims (6)

1.一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，包括如下步骤：

(1)首先将从加速度传感器中获取的振动信号进行异常值处理，随后将不同工况下的振动信号通过滑动窗口划分成多段样本数据，利用一维连续小波将时域信号转化成二维时频图谱；最后在训练之前，将小波系数进行归一化处理；

(2)通过源域数据训练源域的特征提取器以及分类器，随后冻结训练好的模型参数；

(3)利用步骤(2)的源域特征提取器对目标域特征提取器的参数进行初始化，采用对抗博弈的方式训练域判别器以及目标域的特征提取器，直至模型收敛，从而提取到域不变特征；

(4)采用步骤(3)训练好的目标域特征提取器和步骤(2)中的分类器对目标域数据进行识别分类，完成诊断过程。

2.根据权利要求1所述的一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，步骤(1)的具体步骤如下：

1)获取滚动轴承在两种不同工况下的时域振动信号；

2)进行信号预处理，包括剔除异常值、去噪过程；

3)采用固定滑动窗口对一维连续信号进行分割；

4)使用连续小波变换将每段振动信号转化为二维时频图谱；

5)将小波系数进行归一化处理；

6)其中源域故障数据集为标签样本数据

边缘分布为P_s(X)，其中该数据集有n_s个故障类别；目标域故障数据集为无标签样本数据

边缘分布为P_t(X)，其中该数据集有n_t个故障类别；适用于不同域数据集间边缘分布不同P_s(X)≠P_t(X)且标签空间一致Y_s＝Y_t时的无监督领域自适应问题。

3.根据权利要求1所述的一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，步骤(2)中，利用源域标签数据对源域特征提取器和分类器进行训练，具体步骤如下：

1)源域和目标域特征提取器均由简化的轻量化模型S-MobileNet v2搭建而成，能够增强模型的泛化能力同时降低计算成本；

2)分类器采用全连接层对所提取到的特征进行识别分类；

3)基于ERM理论以及大量的训练数据，使得深度学习网络模型学习到完备的源域数据分布，获取充足的故障信息。

4.根据权利要求3所述的一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，步骤(2)，具体计算过程如下：

根据源域数据

训练源域的特征提取器M_s和分类器C

其中M_s(x_s)输出的是源域故障特征，

为源域样本的损失函数，即源域特征提取器和分类器的优化目标函数。

5.根据权利要求1所述的一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，步骤(3)中，进行对抗域适配过程，具体过程如下：

1)首先固定源域特征提取器M_s和分类器C，对目标域特征提取器M_t进行初始化；

2)采用对抗学***衡从而提取到域不变特征；

3)域判别器D采用Wasserstein距离作为衡量源域数据与目标域数据分布差异的指标，缓解对抗训练过程中梯度消失和模式崩溃现象。

6.根据权利要求5所述的一种基于非对称域对抗自适应模型的智能故障诊断方法，其特征在于，步骤(3)中，具体计算过程如下：

训练模型网络中域判别器，多次更新判别器，待其稳定后，更新目标域特征提取器(生成器)，重复迭代直至收敛；

其中

ε～U[0,1]

根据上述损失函数更新域判别器参数θ_d和目标域特征提取器参数

其中

为优化器在M_t中的梯度，θ_d为优化器在D中的梯度，AdaBelif为模型的优化器。

Images