CN115630299A - 基于联合域适应网络的旋转机械故障诊断方法及*** - Google Patents

Abstract

本发明提供了一种基于联合域适应网络的旋转机械故障诊断方法及***，包括：通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型，以提高域适应过程中初始阶段的目标域数据的预测精确度；以及通过给目标域无标注数据生成伪标签的方式，提高无标签数据中的故障信息的利用率。

Description

基于联合域适应网络的旋转机械故障诊断方法及***

技术领域

本发明涉及旋转机械故障诊断技术领域，特别涉及一种基于联合域适应网络的旋转机械故障诊断方法及***。

背景技术

传统智能故障诊断方法需要依靠足够的标记数据来训练诊断模型，但是在真实工业场景中，设备大多正常运行，故障数据难以获取。基于诊断知识可以在多个相关机器之间重用的思想——比如实验室轴承的诊断知识可能有助于识别工业场景中轴承的健康状态——采用域适应结合半监督学习可以将在有标注的源域数据中学到的诊断知识迁移到无标注的目标域数据中，由此很好的解决在某些真实工业场景没有标注数据的问题。然而，目前基于域适应的故障诊断主要存在以下问题：

采用一些距离度量的方式和对抗学习的方式学习源域和目标域中两者之间的域不变特征，这些方案仅仅从特征空间这个角度对齐，忽视了标签信息对对齐的影响。这会导致仅仅从全局对齐了两个数据分布，忽视了类别间的分布对齐；

采用单一的域适应对齐方式，在数据分布方面差异较大，这种对齐方式的效果就会受到很大影响，无法捕获数据中蕴含的多模态信息；

直接采用源域数据训练好的模型预测目标域数据，然后进行域适应对齐，这种方式在训练前期，由于源域数据和目标域数据分布差异较大，目标域数据的的预测效果很差，而域适应又依赖于目标域数据的预测结果，如果目标域数据预测效果很差，会导致模型难以训练，不能收敛。

发明内容

本发明的目的在于提供一种基于联合域适应网络的旋转机械故障诊断方法及***，以解决现有的基于域适应的故障诊断效果差的问题。

为解决上述技术问题，本发明提供一种基于联合域适应网络的旋转机械故障诊断方法，包括：

通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型，以提高域适应过程中初始阶段的目标域数据的预测精确度；以及

通过给目标域无标注数据生成伪标签的方式，提高无标签数据中的故障信息的利用率。

可选的，在所述的基于联合域适应网络的旋转机械故障诊断方法中，还包括：

结合联合最大均值差异域适应和条件对抗域适应的对齐方式，通过多种方式对齐源域数据和目标域数据之间特征的联合分布、以及通过多种方式对齐源域数据和目标域数据之间标签的联合分布，以能够捕获数据中蕴含的多模态信息；以及

从全局对齐两个联合分布，并进行不同类别间的对齐，以提高不同数据分布差异下的对齐精确度、以及源域目标域相似特征对齐效果。

可选的，在所述的基于联合域适应网络的旋转机械故障诊断方法中，还包括：

引入半监督的预训练模型，在半监督训练过程中通过阈值筛选引入可信度更高的目标域数据，以替代在预适应阶段直接用源域数据训练好的模型预测目标域数据，以提高预测的准确度。

可选的，在所述的基于联合域适应网络的旋转机械故障诊断方法中，还包括：

构建两个模块进行源域和目标域的域适应；

利用输入特征和输出标签的联合分布差异，通过联合最大均值差异域适应在特征提取和分类层进行域适应；

在特征和预测标签之间进行领域对抗训练，以减少领域漂移；

基于域分类器预测的不确定性，通过熵计算权重ω对领域分类器中的样本进行重新加权，以减少具有不确定预测的目标实例的影响；以及

通过两个模块进行类别之间的最大区分、以及多模式下的领域适应。

可选的，在所述的基于联合域适应网络的旋转机械故障诊断方法中，通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型包括：

针对有标签数据，进行弱增强；

针对无标签数据，分别进行弱增强与强增强，弱增强加入的噪声比例与强增强加入的噪声比例不同；

对弱增强的无标签数据预测伪标签，当模型产生高于阈值的预测时，保留作为伪标签；

对强增强的无标签数据预测分类概率，通过交叉熵损失衡量强弱二者预测的一致性；以及

结合有标签数据的监督损失和无标签数据的一致性正则损失，得到一个预训练模型，使得域适应阶段对目标域数据预测的误差减小。

可选的，在所述的基于联合域适应网络的旋转机械故障诊断方法中，提高源域目标域相似特征对齐效果包括：

分别对有标注的源域数据和无标注的目标域数据进行弱增强，送入预训练阶段得到的弱增强得到的预训练模型；

对最终的特征和标签做多层线性变换，用以表示特征与标签的联合分布；

采用联合最大均值差异域适应方式和条件域对抗域适应方式，对齐特征与标签的联合分布；以及

结合标签分类联合最大均值差异域适应方式的损失和条件域对抗域适应方式的损失，训练得到源域与目标域的域不变特征，以提高迁移学习故障诊断准确度。

可选的，在所述的基于联合域适应网络的旋转机械故障诊断方法中，所述预训练还包括：

预训练引入一致性正则损失；

一致性正则损失包括：无标注数据被注入噪声之后，分类器为其输出相同的概率分布，强制一个无标签的样本被分类为与自身的增强样本相同的分类；以及

通过强制一个无标签的样本被分类为与自身的增强样本相同的分类，将无标注数据的信息引入到预训练模型，使得该预训练模型的准确度高于直接采用源域数据训练好的模型预测目标域数据的准确度，从而避免模型前期不能收敛。

可选的，在所述的基于联合域适应网络的旋转机械故障诊断方法中，两个域适应模块结合对齐特征和标签的联合分布还包括：

结合两种不同的域适应方式，以互补对齐两个领域数据的联合分布，以避免源域和目标域数据分布差异大于数据分布阈值时的情况：对齐特征之间的分布，忽视类别信息，从整体上对齐两个特征分布，忽略类别之间的关系；以及

结合两种不同的域适应方式，以互补对齐两个领域数据的联合分布，以避免采用单一的域适应模块对齐联合分布的情况：基于分布之间的差异信息复杂度大于复杂度阈值，单一的域适应模块无法捕获其中的多模态信息。

可选的，在所述的基于联合域适应网络的旋转机械故障诊断方法中，还包括：

在同种数据集不同工况下进行迁移；基于不同工况下收集到的轴承或齿轮振动信号具有差别，以及旋转机械运行处于变工况条件下且至少一个工况下收集的数据量小于数据量阈值，将数据量大于数据量阈值的工况作为源域数据，将从源域数据训练的诊断知识迁移到其他工况下；差别包括负载参数和转速参数；

在不同数据集之间迁移；采用实验室模拟收集的轴承数据；基于实验室轴承的诊断知识，识别工程场景中轴承的健康状态，以用于工程场景中的轴承故障诊断；以及

在混合故障类型不同工况下迁移；基于轴承和齿轮同时发生故障的情况，不同工况下收集的数据分布差异大于数据分布阈值的情况，采用多种域适应方式和/或引入无标注数据的信息，通过引入预训练模型结合多种域适应模块减小数据分布差异的影响。

本发明还提供一种基于联合域适应网络的旋转机械故障诊断***，包括：

预训练模型模块，被配置为通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型，以提高域适应过程中初始阶段的目标域数据的预测精确度；以及

半监督训练模块，被配置为通过给目标域无标注数据生成伪标签的方式，提高无标签数据中的故障信息的利用率。

在本发明提供的基于联合域适应网络的旋转机械故障诊断方法及***中，通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型，使得域适应过程中初始阶段目标域数据的预测效果不会太差，避免模型难以训练不能收敛，解决了现有域适应故障诊断算法中目标域数据没有被充分利用的问题。

进一步的，本发明结合联合最大均值差异和条件对抗域适应两种域适应对齐方式，通过多种方式对齐源域数据和目标域数据特征与标签的联合分布，可以捕获数据中蕴含的多模态信息，不仅从全局对齐了两个分布，同时也考虑了不同类别间的对齐，从而在数据分布差异较大时也能达到很好的对齐效果，解决了源域域目标域相似特征对齐效果不好的问题。

本发明提出了一种半监督的基于联合域适应网络的旋转机械故障诊断方法，旨在解决真实工业场景中没有标注数据的场景下，通过所提方法仍能取得一个良好的诊断效果。本方案主要结合了半监督学习和域适应的思想，设计了一种半监督的基于联合域适应网络的旋转机械故障诊断方法，不需要先验知识，完全通过神经网络自动学习域不变特征，目标域不需要标签，该方法是不依赖于目标域标签的半监督算法，可以解决数据标记不足的问题。

本发明为在故障标记数据不足或者完全无标记的故障数据这样的场景，提供了一种诊断效果良好的故障诊断算法。相比较传统的单种域适应对齐的故障诊断算法，本发明结合了两种域适应对齐方式，同时考虑了数据的类别信息，对齐两个数据的联合分布而不是边缘分布，大大的减小了负迁移的概率，从而提高了迁移效果。相比于一些迁移故障诊断算法直接采用源域数据训练好的模型预测目标域数据，然后进行域适应对齐，本发明首先采用一个预训练方法，将无标注数据的信息引入到预训练模型中，一定程度上提升目标域数据的预测效果，避免了模型难以训练，不能收敛的问题。

附图说明

图1是本发明一实施例基于联合域适应网络的旋转机械故障诊断方法预训练拓扑示意图；

图2是本发明一实施例基于联合域适应网络的旋转机械故障诊断方法域适应拓扑示意图。

具体实施方式

下面结合具体实施方式参考附图进一步阐述本发明。

应当指出，各附图中的各组件可能为了图解说明而被夸大地示出，而不一定是比例正确的。在各附图中，给相同或功能相同的组件配备了相同的附图标记。

在本发明中，除非特别指出，“布置在…上”、“布置在…上方”以及“布置在…之上”并未排除二者之间存在中间物的情况。此外，“布置在…上或上方”仅仅表示两个部件之间的相对位置关系，而在一定情况下、如在颠倒产品方向后，也可以转换为“布置在…下或下方”，反之亦然。

在本发明中，各实施例仅仅旨在说明本发明的方案，而不应被理解为限制性的。

在本发明中，除非特别指出，量词“一个”、“一”并未排除多个元素的场景。

在此还应当指出，在本发明的实施例中，为清楚、简单起见，可能示出了仅仅一部分部件或组件，但是本领域的普通技术人员能够理解，在本发明的教导下，可根据具体场景需要添加所需的部件或组件。另外，除非另行说明，本发明的不同实施例中的特征可以相互组合。例如，可以用第二实施例中的某特征替换第一实施例中相对应或功能相同或相似的特征，所得到的实施例同样落入本申请的公开范围或记载范围。

在此还应当指出，在本发明的范围内，“相同”、“相等”、“等于”等措辞并不意味着二者数值绝对相等，而是允许一定的合理误差，也就是说，所述措辞也涵盖了“基本上相同”、“基本上相等”、“基本上等于”。以此类推，在本发明中，表方向的术语“垂直于”、“平行于”等等同样涵盖了“基本上垂直于”、“基本上平行于”的含义。

另外，本发明的各方法的步骤的编号并未限定所述方法步骤的执行顺序。除非特别指出，各方法步骤可以以不同顺序执行。

以下结合附图和具体实施例对本发明提出的基于联合域适应网络的旋转机械故障诊断方法及***作进一步详细说明。根据下面说明，本发明的优点和特征将更清楚。需说明的是，附图均采用非常简化的形式且均使用非精准的比例，仅用以方便、明晰地辅助说明本发明实施例的目的。

本发明的目的在于提供一种基于联合域适应网络的旋转机械故障诊断方法及***，以解决现有的基于域适应的故障诊断效果差的问题。

为实现上述目的，本发明提供了一种基于联合域适应网络的旋转机械故障诊断方法及***，包括：通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型，以提高域适应过程中初始阶段的目标域数据的预测精确度；以及通过给目标域无标注数据生成伪标签的方式，充分利用无标签数据中的故障信息。

图1～2提供了本发明的第一个实施例，其分别示出了基于联合域适应网络的旋转机械故障诊断方法预训练和域适应拓扑示意图。

本发明提出了一种半监督的基于联合域适应网络的旋转机械故障诊断方法，旨在解决真实工业场景中没有标注数据的场景下，通过所提方法仍能取得一个良好的诊断效果。本方案主要结合了半监督学习和域适应的思想，设计了一种半监督的基于联合域适应网络的旋转机械故障诊断方法；具有如下有益效果：

不需要先验知识，完全通过神经网络自动学习域不变特征；

目标域是不需要标签的，该方法是不依赖于目标域标签的半监督算法，可以解决数据标记不足的问题；

通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型，使得域适应过程中初始阶段目标域数据的预测效果不会太差，避免模型难以训练，不能收敛，解决了现有域适应故障诊断算法中目标域数据没有被充分利用的问题；以及

结合联合最大均值差异和条件对抗域适应两种域适应对齐方式，通过多种方式对齐源域数据和目标域数据特征与标签的联合分布，可以捕获数据中蕴含的多模态信息，不仅从全局对齐了两个分布，同时也考虑了不同类别间的对齐，从而在数据分布差异较大时也能达到很好的对齐效果，解决了源域域目标域相似特征对齐效果不好的问题。

如图1所示，预训练包括：针对有标签数据，只做弱增强；针对无标签数据，分别做弱增强与强增强，区别在于加入的噪声比例不同；对弱增强的无标签数据预测伪标签，只有当模型产生高于阈值的预测时，才会保留作为伪标签；对强增强的无标签数据预测分类概率，通过交叉熵损失衡量强弱二者预测的一致性；结合有标签数据的监督损失和无标签数据的一致性正则损失得到一个预训练模型，使得域适应阶段对目标域数据预测的误差减小。

如图2所示，域适应包括：分别对有标注的源域数据和无标注的目标域数据做弱增强，送入预训练阶段得到的弱增强得到的预训练模型；对最终的特征f和标签l做多层线性变换，用以表示特征与标签的联合分布；采用联合最大均值差异JMMD和条件域对抗CDA两种域适应方式对齐特征与标签的联合分布；结合标签分类七损失，JMMD损失，CDA损失训练可以得到源域与目标域的域不变特征，实现一个好的迁移学习故障诊断效果。

本发明引入了一个半监督的预训练模型，与在预适应阶段直接用源域数据训练好的模型预测目标域数据相比，在半监督训练过程中通过阈值筛选引入了相对可信的目标域数据，可以提高预测的准确度。

本发明构建了两个模块以实现源域和目标域的域适应。一方面，利用输入特征和输出标签的联合分布差异，通过JMMD在特征提取和分类层进行域适应。另一方面，在特征和预测标签之间进行领域对抗训练，以减少领域漂移。同时考虑到域分类器预测的不确定性，通过熵计算权重ω对领域分类器中的样本进行重新加权，减少具有不确定预测的目标实例的影响。这两个模块不仅实现了类别之间的最大区分，而且还实现了多模式下的领域适应。

具体的，预训练具有必要性，预训练引入了一致性正则损失。一致性正则损失的思想是即使无标注数据被注入噪声之后，分类器也应该为其输出相同的概率分布，即强制一个无标签的样本应该被分类为与自身的增强样本相同的分类。通过这种方式，将无标注数据的信息引入到预训练模型，因此该预训练模型的准确度要比直接采用源域数据训练好的模型预测目标域数据的准确度要高，从而避免模型前期难以训练，不能收敛的问题。

进一步的，两个域适应模块结合对齐特征和标签的联合分布具有必要性：当源域和目标域数据分布差异较大的时候，仅仅对齐特征之间的分布，忽视了类别信息，只是从整体上对齐了两个特征分布，类别之间的关系被忽略，因此对齐效果会受到很大影响。同样仅采用单一的域适应模块对齐联合分布，由于分布之间的差异信息较为复杂，单一的域适应模块难以捕获其中蕴含的多模态信息，也很难取得一个好的对齐效果。因此，结合两种不同的域适应方式，以互补的对齐两个领域数据的联合分布。

本发明为在故障标记数据不足或者完全无标记的故障数据这样的场景，提供了一种诊断效果良好的故障诊断算法。相比较传统的单种域适应对齐的故障诊断算法，本发明的方案结合了两种域适应对齐方式，同时考虑了数据的类别信息，对齐两个数据的联合分布而不是边缘分布，大大的减小了负迁移的概率，从而提高了迁移效果。相比较一些迁移故障诊断算法直接采用源域数据训练好的模型预测目标域数据，然后进行域适应对齐，本发明首先采用一个预训练方法，将无标注数据的信息引入到预训练模型中，以一定程度上提升目标域数据的预测效果，避免了模型难以训练，不能收敛的问题。

另外，本发明实现在同种数据集不同工况下迁移，不同工况下收集到的轴承或齿轮振动信号是有差别的，比如不同的负载，不同转速，考虑到旋转机械运行多处于变工况条件下，而有些工况下收集到的数据量可能不够，假如本发明有其中一种工况下足够的标记数据，本发明就可以把它作为源域数据，通过该方法将从源域数据学到的诊断知识迁移到数据量不足的工况下，也能取得一个好的诊断效果。

进一步的，本发明实现不同数据集之间迁移，真实工业场景中故障很少发生，收集到的数据很少难以训练一个效果好的模型。这时本发明可以采用实验室模拟收集到的轴承数据，来自实验室轴承的诊断知识可能有助于识别工程场景中轴承的健康状态，可以使用该方案用于工程场景中的轴承故障诊断。

更进一步的，本发明实现混合故障类型不同工况下迁移，真实工业场景中会存在轴承和齿轮同时发生故障的情况，不同工况下收集到数据分布差异是比较大的，再加上不通故障类型的相互影响，会进一步加大数据分布的差异，这种情况下采用单一的域适应方式，或者不引入无标注数据的信息，是很难取得一个有效的对齐效果。通过引入预训练模型结合多种域适应模块可以很大程度上削减差异带来的影响。

综上，上述实施例对基于联合域适应网络的旋转机械故障诊断方法及***的不同构型进行了详细说明，当然，本发明包括但不局限于上述实施中所列举的构型，任何在上述实施例提供的构型基础上进行变换的内容，均属于本发明所保护的范围。本领域技术人员可以根据上述实施例的内容举一反三。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的***而言，由于与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

上述描述仅是对本发明较佳实施例的描述，并非对本发明范围的任何限定，本发明领域的普通技术人员根据上述揭示内容做的任何变更、修饰，均属于权利要求书的保护范围。

Claims (10)

1.一种基于联合域适应网络的旋转机械故障诊断方法，其特征在于，包括：

基于一致性正则损失和伪标签，训练得到初始的预训练模型，以提高域适应过程中初始阶段的目标域数据的预测精确度；以及

通过给目标域无标注数据生成伪标签的方式，提高无标签数据中的故障信息的利用率。

2.如权利要求1所述的基于联合域适应网络的旋转机械故障诊断方法，其特征在于，还包括：

结合联合最大均值差异域适应和条件对抗域适应的对齐方式，通过多种方式对齐源域数据和目标域数据之间特征的联合分布、以及通过多种方式对齐源域数据和目标域数据之间标签的联合分布，以能够捕获数据中蕴含的多模态信息；以及

从全局对齐两个联合分布，并进行不同类别间的对齐，以提高不同数据分布差异下的对齐精确度、以及源域目标域相似特征对齐效果。

3.如权利要求2所述的基于联合域适应网络的旋转机械故障诊断方法，其特征在于，还包括：

引入半监督的预训练模型，在半监督训练过程中通过阈值筛选引入可信度更高的目标域数据，以替代在预适应阶段直接用源域数据训练好的模型预测目标域数据，以提高预测的准确度。

4.如权利要求3所述的基于联合域适应网络的旋转机械故障诊断方法，其特征在于，还包括：

构建两个模块进行源域和目标域的域适应；

利用输入特征和输出标签的联合分布差异，通过联合最大均值差异域适应在特征提取和分类层进行域适应；

在特征和预测标签之间进行领域对抗训练，以减少领域漂移；

基于域分类器预测的不确定性，通过熵计算权重ω对领域分类器中的样本进行重新加权，以减少具有不确定预测的目标实例的影响；以及

通过两个模块进行类别之间的最大区分、以及多模式下的领域适应。

5.如权利要求4所述的基于联合域适应网络的旋转机械故障诊断方法，其特征在于，通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型包括：

针对有标签数据，进行弱增强；

针对无标签数据，分别进行弱增强与强增强，弱增强加入的噪声比例与强增强加入的噪声比例不同；

对弱增强的无标签数据预测伪标签，当模型产生高于阈值的预测时，保留作为伪标签；

对强增强的无标签数据预测分类概率，通过交叉熵损失衡量强弱二者预测的一致性；以及

结合有标签数据的监督损失和无标签数据的一致性正则损失，得到一个预训练模型，使得域适应阶段对目标域数据预测的误差减小。

6.如权利要求5所述的基于联合域适应网络的旋转机械故障诊断方法，其特征在于，提高源域目标域相似特征对齐效果包括：

分别对有标注的源域数据和无标注的目标域数据进行弱增强，送入预训练阶段得到的弱增强得到的预训练模型；

对最终的特征和标签做多层线性变换，用以表示特征与标签的联合分布；

采用联合最大均值差异域适应方式和条件域对抗域适应方式，对齐特征与标签的联合分布；以及

结合标签分类联合最大均值差异域适应方式的损失和条件域对抗域适应方式的损失，训练得到源域与目标域的域不变特征，以提高迁移学习故障诊断准确度。

7.如权利要求6所述的基于联合域适应网络的旋转机械故障诊断方法，其特征在于，所述预训练还包括：

预训练引入一致性正则损失；

一致性正则损失包括：无标注数据被注入噪声之后，分类器为其输出相同的概率分布，强制一个无标签的样本被分类为与自身的增强样本相同的分类；以及

通过强制一个无标签的样本被分类为与自身的增强样本相同的分类，将无标注数据的信息引入到预训练模型，使得该预训练模型的准确度高于直接采用源域数据训练好的模型预测目标域数据的准确度，从而避免模型前期不能收敛。

8.如权利要求7所述的基于联合域适应网络的旋转机械故障诊断方法，其特征在于，两个域适应模块结合对齐特征和标签的联合分布还包括：

结合两种不同的域适应方式，以互补对齐两个领域数据的联合分布，以避免源域和目标域数据分布差异大于数据分布阈值时的情况：对齐特征之间的分布，忽视类别信息，从整体上对齐两个特征分布，忽略类别之间的关系；以及

结合两种不同的域适应方式，以互补对齐两个领域数据的联合分布，以避免采用单一的域适应模块对齐联合分布的情况：基于分布之间的差异信息复杂度大于复杂度阈值，单一的域适应模块无法捕获其中的多模态信息。

9.如权利要求8所述的基于联合域适应网络的旋转机械故障诊断方法，其特征在于，还包括：

在同种数据集不同工况下进行迁移；基于不同工况下收集到的轴承或齿轮振动信号具有差别，以及旋转机械运行处于变工况条件下且至少一个工况下收集的数据量小于数据量阈值，将数据量大于数据量阈值的工况作为源域数据，将从源域数据训练的诊断知识迁移到其他工况下；差别包括负载参数和转速参数；

在不同数据集之间迁移；采用实验室模拟收集的轴承数据；基于实验室轴承的诊断知识，识别工程场景中轴承的健康状态，以用于工程场景中的轴承故障诊断；以及

在混合故障类型不同工况下迁移；基于轴承和齿轮同时发生故障的情况，不同工况下收集的数据分布差异大于数据分布阈值的情况，采用多种域适应方式和/或引入无标注数据的信息，通过引入预训练模型结合多种域适应模块减小数据分布差异的影响。

10.一种基于联合域适应网络的旋转机械故障诊断***，其特征在于，包括：

预训练模型模块，被配置为通过结合一致性正则损失和伪标签，训练得到一个初始的预训练模型，以提高域适应过程中初始阶段的目标域数据的预测精确度；以及

半监督训练模块，被配置为通过给目标域无标注数据生成伪标签的方式，提高无标签数据中的故障信息的利用率。

Images