CN118094367A - 无源领域自适应轴承故障分类方法及*** - Google Patents
无源领域自适应轴承故障分类方法及*** Download PDFInfo
- Publication number
- CN118094367A CN118094367A CN202410504708.4A CN202410504708A CN118094367A CN 118094367 A CN118094367 A CN 118094367A CN 202410504708 A CN202410504708 A CN 202410504708A CN 118094367 A CN118094367 A CN 118094367A
- Authority
- CN
- China
- Prior art keywords
- sample
- domain
- training
- source domain
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 101
- 238000012549 training Methods 0.000 claims abstract description 142
- 238000013145 classification model Methods 0.000 claims abstract description 66
- 238000009499 grossing Methods 0.000 claims abstract description 47
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 27
- 238000005457 optimization Methods 0.000 claims abstract description 27
- 230000006870 function Effects 0.000 claims description 32
- 238000004364 calculation method Methods 0.000 claims description 26
- 230000008569 process Effects 0.000 claims description 23
- 230000003044 adaptive effect Effects 0.000 claims description 22
- 239000006185 dispersion Substances 0.000 claims description 14
- 230000006978 adaptation Effects 0.000 claims description 12
- 238000013136 deep learning model Methods 0.000 claims description 9
- 238000013508 migration Methods 0.000 claims description 8
- 230000005012 migration Effects 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 7
- 238000009826 distribution Methods 0.000 claims description 6
- 238000000605 extraction Methods 0.000 claims description 5
- 230000004931 aggregating effect Effects 0.000 claims description 4
- 230000010354 integration Effects 0.000 claims description 4
- 238000002156 mixing Methods 0.000 claims description 4
- 238000004422 calculation algorithm Methods 0.000 claims description 3
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 238000012935 Averaging Methods 0.000 claims 1
- 238000003745 diagnosis Methods 0.000 description 21
- 238000004519 manufacturing process Methods 0.000 description 19
- 230000036541 health Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 8
- 238000012544 monitoring process Methods 0.000 description 8
- 238000001514 detection method Methods 0.000 description 7
- 238000013461 design Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000005096 rolling process Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 239000000306 component Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 238000010248 power generation Methods 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003449 preventive effect Effects 0.000 description 2
- 101100326595 Arabidopsis thaliana CAD6 gene Proteins 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000008358 core component Substances 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000012938 design process Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000002405 diagnostic procedure Methods 0.000 description 1
- 238000012631 diagnostic technique Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000001747 exhibiting effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000003908 quality control method Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- LZWUCYAVMIKMIA-UHFFFAOYSA-M sodium;1-[3-[2-[(4-azido-2,3,5,6-tetrafluorobenzoyl)amino]ethyldisulfanyl]propanoyloxy]-2,5-dioxopyrrolidine-3-sulfonate Chemical compound [Na+].O=C1C(S(=O)(=O)[O-])CC(=O)N1OC(=O)CCSSCCNC(=O)C1=C(F)C(F)=C(N=[N+]=[N-])C(F)=C1F LZWUCYAVMIKMIA-UHFFFAOYSA-M 0.000 description 1
- 238000001931 thermography Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- XOOUIPVCVHRTMJ-UHFFFAOYSA-L zinc stearate Chemical compound [Zn+2].CCCCCCCCCCCCCCCCCC([O-])=O.CCCCCCCCCCCCCCCCCC([O-])=O XOOUIPVCVHRTMJ-UHFFFAOYSA-L 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明属于振动数据识别技术领域,公开了一种基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法及***,包括:利用振动信号数据集,将源域的样本以及样本标签通过数据增强模块进行数据增强;源域与新增源域样本输入卷积神经网络进行监督训练,获得基于源域的轴承故障类型分类预训练模型;将目标域样本通过故障分类模型与伪标签生成模块获得伪标签;之后利用伪标签将目标域样本通过数据增强模块进行数据增强;目标域与新增目标域样本输入卷积神经网络,使用进行无监督训练,并最后输出预测标签。
Description
技术领域
本发明属于工业自动化设备健康状态监测技术领域,尤其涉及一种基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法及***,是保障工业设备安全运行的支撑手段。
背景技术
作为工业自动化设备的核心部件,滚动轴承对设备安全运行和性能发挥起着重要作用。为监测轴承的健康状态,判断运行中的轴承是否出现故障以及准确分类故障类型显得尤为关键。由于轴承的易损性,其健康状态受时间和工况环境的影响而不断演变,导致监测数据与轴承状态之间的关系呈现出高复杂性。因此,基于传感器信号,如振动信号和热成像等,准确判定轴承故障情况以及识别故障类型成为一个具有挑战性的实际需求问题。
在轴承故障类型分类方面,通常利用滚动轴承的振动信号来获取其内部状态信息。这种方法在轴承状态检测中被广泛采用。随着互联网、物联网和工业大数据的快速发展,故障诊断技术从专家导向转变为数据驱动,推向了新的高潮。在这一趋势下,深度学习模型掀起了一波智能诊断方法的热潮,并取得了引人注目的成就。这种技术打破了基于模型或信号分析的诊断方法的常规,将诊断问题视为端到端的健康模式识别问题。目前思路是运用深度学习技术进行故障诊断。这种方法属于监督学习,即利用带有标签的数据集对模型进行训练,然后将待识别的振动信号输入训练好的模型,以获得准确的故障类型分类结果。
尽管具有吸引人的性能,但这些模型都基于数据的独立同分布假设。然而在实际应用中,不同数据往往存在着跨机组、工况变化以及传感器位置差异等多种因素。这些因素导致了源域数据与目标域数据呈现出不同的分布特征。由于工作状态的变化和监测环境的不确定性,源域数据集和目标域数据集之间的数据特征或分布总是存在不可避免的差异。因此,由于未满足上述先决条件,模型性能将急剧下降。换言之,将训练好的模型直接应用于具有领域转移的新任务是困难的。鉴此,跨域故障诊断技术对于解决实际生产环境中的轴承健康监测问题具有重要意义。
目前,出现了基于无监督领域自适应(UDA)的诊断技术。这些方法旨在减少领域偏差,将标记的源域数据集和未标记的目标域数据集在一个共同的表示空间中对齐,使得在源域上训练的模型可以推广到目标域。尽管当前的UDA方法取得了成功,但它们往往默认了一个前提,即源域数据集在训练过程中始终可用。这是因为源域数据集在保留有价值的故障识别相关语义知识和减少迭代适应过程中的分布差异方面的重要性。然而,在众多的现实情境中,这样的前提条件往往并不适用。原因在于,源域数据集并非总是能够轻易获取,这通常是由于涉及到隐私保护或知识产权等方面的限制。例如,监测数据中蕴含了大量关于设备性能和潜在问题的敏感信息,这些信息对于企业而言,既具有关键的战略价值,又涉及深度的隐私保护需求。正是因为这种双重性质,它们对于提升产品的市场竞争力和保护企业的核心竞争力具有不可忽视的作用。因此,如何在确保数据安全和隐私的前提下,有效地利用这些监测数据,成为了企业需要认真考虑和解决的问题。为了解决这个问题,组织更愿意提供经过训练的模型,而不是源域数据集。在这种无源域情形下进行跨域轴承故障诊断面临着更大的挑战。这种情形下,模型进行领域自适应迁移时是完全脱离源域数据集的,这意味着模型只能进行无监督训练。实践证明,这个挑战已经无法通过对无监督领域自适应进行简单扩展以解决。基于模型结构以及学习策略,一种深度学习网络设计端到端的故障诊断方法有望提供一个有效的解决方案。
通过上述分析,现有技术存在的问题及缺陷为:
现有的滚动轴承故障诊断方法大都假设源域数据集总是可访问的,但这个假设在实际应用场景下很难成立,脱离源域进行无监督训练会使得传统的诊断模型无法进行自迁移训练。
发明内容
针对现有技术存在的问题,本发明提供了一种基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法及***。
本发明是这样实现的,一种基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***,该***包括:
a. 数据增强模块,用于对初始源域数据集和目标域数据集进行数据增强,生成新增的源域样本和目标域样本,以及相应的样本标签和伪标签;
b. 一维ResNet18深度卷积神经网络,用于接收增强后的源域数据集,并利用标签平滑交叉熵Loss进行监督化学习训练,生成基于源域的轴承故障类型分类预训练模型;
c. 伪标签生成模块,用于将目标域样本输入预训练模型,获取对应特征和softmax预测输出,并据此生成目标域样本的伪标签;
d. 无监督学***滑交叉熵Loss,以及样本特征的近邻吸引与同批分散Loss进行无监督学习训练,使预训练模型能够自适应地迁移到目标域数据集;
e. 分类器模块,用于接收经过无监督学习训练后的目标域样本,输出准确的目标域样本预测标签。
进一步,还设置有轴承故障类型分类***,该***适应于无源领域自适应学习,包括:
数据处理单元,用于接收振动信号数据集,并对其进行数据增强和伪标签生成;
深度学习模型单元,包含一维ResNet18深度卷积神经网络,用于对源域数据集进行监督化学习训练,生成轴承故障类型分类预训练模型,并对目标域数据集进行无监督学习训练,实现模型的自适应迁移;
损失计算单元,用于计算源域数据集和目标域数据集的标签平滑交叉熵Loss,以及目标域样本特征的近邻吸引与同批分散Loss,以优化深度学习模型的训练过程;
预测输出单元,用于根据训练后的深度学习模型,对目标域样本进行分类,并输出准确的预测标签。
本发明还提供了一种基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法,基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法包括:将源域样本通过数据增强模块进行数据增强获得新增源域样本;源域与新增源域样本输入卷积神经网络进行监督训练获得基于源域的轴承故障类型分类预训练模型;将目标域样本通过故障分类模型与伪标签生成模块获得伪标签;之后利用伪标签将目标域样本通过数据增强模块进行数据增强获得新增目标域样本;目标域与新增目标域样本输入卷积神经网络,使用进行无监督训练,并最后输出预测标签。
进一步,基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法包括以下步骤:
步骤S1:取得振动信号数据集作为初始源域数据集,初始源域数据集包含振动信号数据的所有样本以及样本标签;将初始源域数据集的样本以及样本标签通过数据增强模块进行数据增强,获得新增的源域样本以及样本标签;新增的部分与初始源域数据集结合成新源域数据集。
步骤S2:将步骤S1新源域数据集的所有样本输入一维ResNet18深度卷积神经网络,利用标签平滑交叉熵Loss进行监督化学习训练,获得基于源域的轴承故障类型分类预训练模型,该模型学习到了源域内的轴承故障分类语义信息。
步骤S3:取得振动信号数据集作为初始目标域数据集,源域和目标域中的故障类型集合相同;将目标域样本输入S2步骤中的故障分类模型,获得目标域样本的对应特征以及softmax预测输出;再将特征和预测输出输入伪标签生成模块,获得目标域样本的伪标签;将目标域样本以及伪标签通过数据增强模块进行数据增强,获得新增的目标域样本以及伪标签;新增的部分与初始目标域数据集结合成新目标域数据集。
步骤S4:将步骤S3新目标域数据集的所有样本输入S2步骤中的故障分类模型,利用输出与伪标签之间的标签平滑交叉熵Loss进行无监督学习训练;与此同时,模型使用新引入的样本特征的近邻吸引与同批分散Loss进行无监督学习训练;使得故障分类模型能够从在脱离源域数据集的情况下,自适应的迁移到目标域数据集。最后目标域样本通过故障分类模型的分类器能够输出准确的目标域样本的预测标签。
进一步,在所述S1步骤中,取得振动信号数据集作为初始源域数据集。将类别的数
量记为K,初始源域数据集记为,其中表示初始源域样本中的第个振
动信号,而表示对应的故障类型标签,则是初始源域样本的数量。对于数据增强模块,
它需要输入随机两个故障样本和,以及对应的标签和 ,而数据增强模块本身会
计算样本的长度以及随机生成的窗口长度Win。在每次训练时,数据增强模块都会以概率执行数据增强操作,从故障样本和故障样本以随机的相同位置截取窗口,然后将
窗口的内容覆盖掉中窗口的内容,得到混合之后的新样本,而新标签计算方式如
下所示:
(1)
概率通常设定为0.5。将初始源域数据集经过数据增强模块得到的源域数据集
记为。将数据集与数据集整合,得到新源域数据集,公式
如下:
(2)
其中表示新源域样本中的第个振动信号,为振动信号对应的故障类型
标签,则是新源域样本的数量。
进一步,在所述S2步骤中,其一维ResNet18深度卷积神经网络包含特征提取器
以及分类器,将新源域样本输入特征提取器提取的样本特征命为,然后将样本特
征输入分类器F,得到源域的样本预测输出。对一维ResNet18深度卷积神经
网络使用标签平滑交叉熵损失函数进行有监督学习训练,获得基于源域训练的故障分类模
型。标签平滑交叉熵损失函数包括对样本标签进行标签平滑操作,目标是通过向正确类别
的标签添加噪声,使其不再是完全的0和1,而是接近0和1的值。通过标签平滑交叉熵损失函
数的计算,提高故障分类模型对源域的预测标签的准确率。对于源域训练的故障分类模型,
其标签平滑交叉熵损失函数结果求平均,得到,计算方式如下:
(3)
上述总损失函数公式(3)通过随机梯度下降(SGD)法的不断迭代训练,更新网络的权重参数。这个过程不仅可以获得源域训练后的故障分类模型,还可以提高故障分类模型的特征提取能力以及鲁棒性。
进一步,在所述S3步骤中,取得振动信号数据集作为初始目标域数据集,记为,其中表示第 个目标域样本的振动信号,而则是目标域样本的数量。
目标域的故障类型伪标签待预测。由于数据增强需要标签的参与,同时
样本特征的近邻吸引与同批分散Loss需要所有样本的特征。因此这一步需要生成对应伪标
签以及所有样本的特征库。对于伪标签生成模块,需要输入目标域样本的对应特征以
及预测输出,原理为利用原型,即类级的特征质心,来产生更可靠的伪标签。为对应的类别为k的输出,因此为样本在类别k上的预测输出。可以用如
下公式表示:
(4)
针对目标域进行类级的初始原型(质心)计算公式如下:
(5)
由于原型对离群值不那么敏感,它们可以更稳定地表征目标域内不同类别的分
布。可以通过距离度量来首次计算初始伪标签:
(6)
然后,使用初始标签再次更新原型,以计算更准确的伪标签。其中算法表示当输入为真时输出数值1,该过程被描述为:
(7)
(8)
有了伪标签,便可以输入数据增强模块进行数据增强,同理,它需要输入随机两个
故障样本和,以及对应的伪标签和 ,总体生成过程与源域生成过程相似,每一
次都由随机生成的窗口Win的大小决定。新标签计算方式如下:
(9)
将初始目标域域数据集经过数据增强模块得到的新数据集记为。将数据集与数据集和与之对应的伪标签整合,得到新目标域
数据集,公式如下:
(10)
其中表示源域整合样本中的第个振动信号,为振动信号对应的故障类
型的伪标签。此时,便可以提取所有样本的特征。在这个过程中,故障分类模型的特征提取
器输出可以再被简化为特征,所有特征的集合被称为。
进一步,在所述S4步骤中,将步骤S3新目标域数据集的所有样本输入S2步骤中的
故障分类模型。故障分类模型根据伪标签,通过标签平滑交叉熵损失函数进行自监督学习
训练。故障分类模型对应目标域训练的标签平滑交叉熵损失函数结果求平均计算得到,
计算方式如下:
(11)
与此同时,对于新引入的“样本特征的近邻吸引与同批分散Loss”来说,其原理是
利用源域样本训练好的训练模型,以样本在特征上的余弦相似度距离关系为依据,通过聚
合特定特征空间内样本在局部领域特征相似的预测、远离特征不相似的预测,来训练模型。
其中,所有特征的集合在步骤S3被整合为,分类器的预测输出记为,
所有输出的集合被称为。每一个样本的特征,都有包含在内的个近邻特征(距离
为余弦相似度)组成的特征集合,以及不属于的背景特征集合,为了使训练简单化,
使用小批量中除以外的所有其他特征作为。训练之后,都会计算样本特征的近邻吸引
与同批分散Loss结果,并求平均得到,其计算方式如下:
(12)
其中,表示的转置,超参数会从1开始,随着训练的进行开始衰减。通过不
断迭代训练,使得故障分类模型会逐渐学习到域不变特征的提取,并且利用模型内源域的
知识完成从源域到目标域的无源领域自适应。综合上述公式,S4步骤中损失函数可以定义
出总损失函数如下:
(13)
总损失函数公式(13)通过SGD随机梯度下降法的不断迭代训练,更新网络的权重参数,使得未标记类型的目标域样本通过故障分类模型可以输出准确预测的对应样本标签。
本发明的另一目的在于提供一种实现所述基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***,包括:
数据增强模块,用于对源域和目标域进行数据增强,获得新增的样本以及样本标签;
深度卷积神经网络,将新源域数据集的所有样本输入一维ResNet18深度卷积神经网络,获得基于源域的轴承故障类型分类预训练模型;
模型训练模块,将源域训练后的故障分类模型包含参数输入模型训练模块,以此为基础,利用伪标签与拉近特征空间内相似样本的预测、远离同批次样本特征的预测进行无监督训练;
伪标签生成模块,将目标域样本的对应特征以及softmax预测输出输入伪标签模块,以生成对应样本的伪标签;
预测标签生成模块,用于通过故障分类模型的分类器输出准确的目标域样本的预测标签。
本发明的另一目的在于提供一种计算机设备,计算机设备包括存储器和处理器,存储器存储有计算机程序,计算机程序被处理器执行时,使得处理器执行所述的基于无源领域自适应的轴承故障类型方法的步骤。
本发明的另一目的在于提供一种计算机可读存储介质,存储有计算机程序,计算机程序被处理器执行时,使得处理器执行所述的基于无源领域自适应的轴承故障类型方法的步骤。
本发明的另一目的在于提供一种信息数据处理终端,信息数据处理终端用于实现所述的基于无源领域自适应的轴承故障类型***。
结合上述的技术方案和解决的技术问题,本发明所要保护的技术方案所具备的优点及积极效果为:
第一,在相同的实验数据条件下,通过一维ResNet-18深度卷积神经网络对数据进行处理,能有效避免将一维振动信号内部结构进行破坏,可以获得更好的鉴别特性,取得更好的识别率,同时拥有较快的训练速度和识别速度。
对源域和目标域数据集使用数据增强模块进行数据增强,从而扩充了数据训练样本的容量,规避了过度拟合的风险,提升了模型的鲁棒性。
对于用源域样本训练好的训练模型,以样本在特征上的余弦相似度距离关系为依据,通过聚合特定特征空间内样本在局部领域特征相似的预测,远离特征不相似的预测,从而实现高效的特征聚类和聚类分配,更有利于更多振动类型的区分。
本发明最大的亮点在于应用一维ResNet-18深度卷积神经网络和数据增强方法,在确保神经网络在提高训练速度与质量的同时不会出现明显的过拟合现象。并且使用“样本特征的近邻吸引与同批分散”Loss,有效的提高了最终分类故障模型振动类型的区分,从而做到在脱离源域数据集进行无监督训练的前提下,依然有效缓解源域与目标域之间存在的领域差异的影响,提高了分类故障模型的鲁棒性。
第二,传统的方法将一维震动信号转换为二维信号,这通常导致信息丢失和训练中的无效信息。的新发明直接使用一维深度网络进行学习,有效提高了信息利用效率、减少了无效信息的训练,并简化了模型结构。
传统的方法较少使用数据增强技术,然而现实中往往目标域数据集是较少样本容量的数据集,这通常导致模型参考不够充分,出现过拟合现象。的新发明使用数据增强模块进行数据增强,从而扩充了数据训练样本的容量,规避了过度拟合的风险。
传统的方法大多数完全依靠伪标签来进行训练,而忽略了伪标签本身存在噪声标签这一无法避免的问题。的新发明创新性的引入了样本特征的近邻吸引与同批分散Loss,这个损失不依靠伪标签,而是根据样本特征的余弦相似度距离进行运算。
第三,本项技术创新可在无源领域自适应的基础上面向包含工业自动化设备的企业进行技术转化,特别是在石化工业和制造业等领域,其中大量轴承部件参与生产过程。通过直接使用一维深度网络进行学习,该技术有望显著提高轴承健康状况的监测性能,实现及时有效的预警,以适应复杂环境,从而避免因轴承故障导致的生产事故和生产停顿,降低企业潜在的生产风险,推动企业实现生产质量的提升和效益的增长。
第四,轴承故障诊断技术目前主要依赖于无监督领域自适应方法。但在许多实际场景中,这样的条件是不合适的,原因是源域数据集并不总是可访问的,这是由于隐私保护或知识产权问题。而更符合实际情况的无源领域自适应方法尚未得到充分关注和研究。针对轴承故障诊断技术在复杂生产环境下无源领域自适应方法性能下降的问题,本发明提出了一种新的方法。这种方法在领域自适应时完全脱离源域数据集,使无源领域自适应方法成为轴承故障诊断的现实问题。为了实现这一目标,本发明采用了数据增强、一维深度卷积神经网络等先进工具,并创新性地引入了样本特征的近邻吸引与同批分散Loss来进行训练。这提供了一个针对无源领域自适应情形下轴承故障诊断的有效技术方案,有助于改善实际生产复杂环境下轴承健康状况监测的效果。
第五,已有的无源领域自适应技术方案大多数完全依靠伪标签来进行训练,而忽略了伪标签本身存在噪声标签这一无法避免的问题。为了解决这个问题,本发明在模型设计过程中综合考虑了样本在局部领域特征相似的预测,远离特征不相似的预测,从而实现高效的特征聚类和聚类分配,更有利于更多振动类型的区分。此外,本发明还直接采用了一维深度网络进行学习。传统的做法通常是将一维振动信号转换为二维信号后再输入深度网络,但这样做往往会导致信息的丢失和引入无效信息。而直接使用一维深度网络进行学习则可以有效提高信息的利用效率,减少无效信息的干扰,并简化模型的结构。这样的设计使得模型能够更直接地处理一维振动信号,从而更好地捕捉到信号中的有用信息,提高故障诊断的准确性。
第六,长期以来人们对于轴承故障诊断技术的领域迁移研究主要集中在经典的无监督领域自适应方面,而对于实际环境中的无源领域自适应关注不够。目前的大多数发明往往直接假设能够获得源域的数据集。但大多数情况下,由于数据安全和数据量大等原因,并不能直接获得源域相关的数据集。而随着生产环境日益复杂,轴承故障诊断技术面临无源领域自适应方法性能下降的问题。因此本发明提出训练模型在领域自适应时完全脱离源域数据集的情况下,依然获得了不错的分类成果,更适合实际生产环境使用。
1. 无源领域自适应:此方法显著的特点在于实现了无源领域自适应。这意味着在源域模型训练完成后,迁移过程不再需要源域样本的参与。这在实际应用中具有很大优势,因为源域数据由于隐私、安全或存储限制等原因无法持续访问。通过这种方法,模型能够在不依赖源域数据的情况下,自适应地迁移到目标域,从而提高了模型的灵活性和实用性。
2. 近邻吸引与同批分散Loss:在目标域的训练过程中,该方法引入了近邻吸引与同批分散Loss进行无监督学习训练。这种损失函数的设计使得模型能够更好地捕捉到目标域样本之间的内在关系,从而提高了模型对目标域数据的分类准确性。
3. 原型与伪标签的迭代更新:伪标签生成过程中,通过原型(类级的特征质心)和伪标签的迭代更新,可以生成更可靠的伪标签。这种方法提高了伪标签的质量,有助于模型在目标域上进行更准确的分类。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图做简单的介绍,显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法流程图;
图2是本发明实施例提供的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***结构图;
图3是本发明实施例提供的目标域中未知类型振动信号的预测标签获得示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
针对现有技术存在的问题,本发明提供了一种基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法及***,下面结合附图对本发明作详细的描述。
如图1所示,本发明实施例提供的基于无源领域自适应的振动信号标签分类方法,包括以下步骤:
步骤S1:取得振动信号数据集作为初始源域数据集,初始源域数据集包含振动信号数据的所有样本以及样本标签;将初始源域数据集的样本以及样本标签通过数据增强模块进行数据增强,获得新增的源域样本以及样本标签;新增的部分与初始源域数据集结合成新源域数据集。
步骤S2:将步骤S1新源域数据集的所有样本输入一维ResNet18深度卷积神经网络,利用标签平滑交叉熵Loss进行监督化学习训练,获得基于源域的轴承故障类型分类预训练模型,该模型学习到了源域内的轴承故障分类语义信息。
步骤S3:取得振动信号数据集作为初始目标域数据集,源域和目标域中的故障类型集合相同;将目标域样本输入S2步骤中的故障分类模型,获得目标域样本的对应特征以及softmax预测输出;将二者输入伪标签生成模块,获得目标域样本的伪标签;将目标域样本以及伪标签通过数据增强模块进行数据增强,获得新增的目标域样本以及伪标签;新增的部分与初始目标域数据集结合成新目标域数据集。
步骤S4:将步骤S3新目标域数据集的所有样本输入S2步骤中的故障分类模型,利用输出与伪标签之间的标签平滑交叉熵Loss进行无监督学习训练;与此同时,模型使用新引入的样本特征的近邻吸引与同批分散Loss进行无监督学习训练;使得故障分类模型能够从在脱离源域数据集的情况下,自适应的迁移到目标域数据集。最后目标域样本通过故障分类模型的分类器能够输出准确的目标域样本的预测标签。
具体地,在所述S1步骤中,取得振动信号数据集作为初始源域数据集。将类别的数
量记为K,初始源域数据集记为,其中表示初始源域样本中的第个振
动信号,而表示对应的故障类型标签,则是初始源域样本的数量。对于数据增强模块,
它需要输入随机两个故障样本和,以及对应的标签和 ,而数据增强模块本身会
计算样本的长度以及随机生成的窗口长度Win。在每次训练时,数据增强模块都会以概率执行数据增强操作,从故障样本和故障样本以随机的相同位置截取窗口,然后将
窗口的内容覆盖掉中窗口的内容,得到混合之后的新样本,而新标签计算方式如
下所示:
(1)
概率通常设定为0.5。将初始源域数据集经过数据增强模块得到的源域数据集
记为。将数据集与数据集整合,得到新源域数据集,公式
如下:
(2)
其中表示新源域样本中的第个振动信号,为振动信号对应的故障类型
标签,则是新源域样本的数量。
在所述S2步骤中,其一维ResNet18深度卷积神经网络包含特征提取器以及分类
器,将新源域样本输入特征提取器提取的样本特征命为,然后将样本特征输
入分类器F,得到源域的样本预测输出。对一维ResNet18深度卷积神经网络使用标
签平滑交叉熵损失函数进行有监督学***
滑交叉熵损失函数包括对样本标签进行标签平滑操作,目标是通过向正确类别的标签添加
噪声,使其不再是完全的0和1,而是接近0和1的值。通过标签平滑交叉熵损失函数的计算,
提高故障分类模型对源域的预测标签的准确率。对于源域训练的故障分类模型,其标签平
滑交叉熵损失函数结果求平均,得到,计算方式如下:
(3)
上述总损失函数公式(3)通过随机梯度下降(SGD)法的不断迭代训练,更新网络的权重参数。这个过程不仅可以获得源域训练后的故障分类模型,还可以提高故障分类模型的特征提取能力以及鲁棒性。
在所述S3步骤中,取得振动信号数据集作为初始目标域数据集,记为,其中表示第 个目标域样本的振动信号,而则是目标域样本的数量。
目标域的故障类型伪标签待预测。由于数据增强需要标签的参与,同时
样本特征的近邻吸引与同批分散Loss需要所有样本的特征。因此这一步需要生成对应伪标
签以及所有样本的特征库。对于伪标签生成模块,需要输入目标域样本的对应特征以
及预测输出,原理为利用原型,即类级的特征质心,来产生更可靠的伪标签。为对应的类别为k的输出,因此为样本在类别k上的预测输出。可以用如
下公式表示:
(4)
针对目标域进行类级的初始原型(质心)计算公式如下:
(5)
由于原型对离群值不那么敏感,它们可以更稳定地表征目标域内不同类别的分
布。可以通过距离度量来首次计算初始伪标签:
(6)
然后,使用初始标签再次更新原型,以计算更准确的伪标签。其中算法表示当输入为真时输出数值1,该过程被描述为:
(7)
(8)
有了伪标签,便可以输入数据增强模块进行数据增强,同理,它需要输入随机两个
故障样本和,以及对应的伪标签和 ,总体生成过程与源域生成过程相似,每一
次都由随机生成的窗口Win的大小决定。新标签计算方式如下:
(9)
将初始目标域域数据集经过数据增强模块得到的新数据集记为。将数据集与数据集和与之对应的伪标签整合,得到新目标域
数据集,公式如下:
(10)
其中表示源域整合样本中的第个振动信号,为振动信号对应的故障类
型的伪标签。此时,便可以提取所有样本的特征。在这个过程中,故障分类模型的特征提取
器输出可以再被简化为特征,所有特征的集合被称为。
在所述S4步骤中,将步骤S3新目标域数据集的所有样本输入S2步骤中的故障分类
模型。故障分类模型根据伪标签,通过标签平滑交叉熵损失函数进行自监督学习训练。故障
分类模型对应目标域训练的标签平滑交叉熵损失函数结果求平均计算得到,计算方式如
下:
(11)
与此同时,对于新引入的“样本特征的近邻吸引与同批分散Loss”来说,其原理是
利用源域样本训练好的训练模型,以样本在特征上的余弦相似度距离关系为依据,通过聚
合特定特征空间内样本在局部领域特征相似的预测、远离特征不相似的预测,来训练模型。
其中,所有特征的集合在步骤S3被整合为,分类器的预测输出记为,
所有输出的集合被称为。每一个样本的特征,都有包含在内的个近邻特征(距离
为余弦相似度)组成的特征集合,以及不属于的背景特征集合,为了使训练简单化,
使用小批量中除以外的所有其他特征作为。训练之后,都会计算样本特征的近邻吸引
与同批分散Loss结果,并求平均得到,其计算方式如下:
(12)
其中,表示的转置,超参数会从1开始,随着训练的进行开始衰减。通过不
断迭代训练,使得故障分类模型会逐渐学习到域不变特征的提取,并且利用模型内源域的
知识完成从源域到目标域的无源领域自适应。综合上述公式,S4步骤中损失函数可以定义
出总损失函数如下:
(13)
总损失函数公式(13)通过SGD随机梯度下降法的不断迭代训练,更新网络的权重参数,使得未标记类型的目标域样本通过故障分类模型可以输出准确预测的对应样本标签。
如图2所示,本发明实施例提供基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***,包括:
初始源域数据集,取得振动信号数据集作为初始源域数据集,初始源域数据集包含振动信号数据的所有样本以及样本标签;
数据增强模块,用于对源域和目标域进行数据增强,获得新增的样本以及样本标签;
深度卷积神经网络,将新源域数据集的所有样本输入一维ResNet18深度卷积神经网络,获得基于源域的轴承故障类型分类预训练模型;
模型训练模块,将源域训练后的故障分类模型包含参数输入模型训练模块,以此为基础,利用伪标签与拉近特征空间内相似样本的预测、远离同批次样本特征的预测进行无监督训练;
伪标签生成模块,将目标域样本的对应特征以及softmax预测输出输入伪标签模块,以生成对应样本的伪标签;
初始目标域数据集,目标域样本与源域样本具有公共故障类型;
预测标签生成模块,用于通过故障分类模型的分类器输出准确的目标域样本的预测标签。
如图3所示,本发明在源域对故障分类模型进行源域训练之后,在目标域中主要通过对基于源域训练的故障分类模型进行无源领域自适应来得到目标域中未知类型振动信号的预测标签。首先将初始源域数据集通过数据增强模块以获得新增源域数据集,并将二者合并为新源域数据集,将新源域数据集样本输入一维深度卷积神经网络进行监督训练以获得源域训练后的故障分类模型,之后将初始目标域数据集通过伪标签生成模块(内核为故障分类模型)获得对应伪标签,将初始目标域数据集与伪标签通过数据增强模块以获得新增目标域数据集,并将二者合并为新目标域数据集,将新目标域数据集输入源域训练后的故障分类模型进行无监督训练,期间更新伪标签与特征集,最终使得故障分类模型在脱离源域数据集进行自适应的前提下,能够学习出源域和目标域之间的域不变特征,将目标域样本通过故障分类模型即可得到目标域中未知类型振动信号的分类标签。
源域设置问题:本方法旨在学***滑技术,以提高模型的泛化性和适应性。此阶段完成后,源域数据集不再可用,只能接触到源域训练后的故障分类模型。在第二阶段,即模型自适应阶段,本发明首先设计了一种新颖的机制,以充分探索未标记数据中的语义信息,其中采用了类原型导向的伪标签策略和标签平滑交叉熵,以促进强健训练。此外,引入“样本特征的近邻吸引与同批分散”Loss,以进一步鼓励预测输出的可区分性和多样性,与自训练相互作用,提高源域训练后的故障分类模型对目标域的适应性。
本发明的应用实施例提供了一种计算机设备,计算机设备包括存储器和处理器,存储器存储有计算机程序,计算机程序被处理器执行时,使得处理器执行基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法的步骤。
本发明的应用实施例提供了一种计算机可读存储介质,存储有计算机程序,计算机程序被处理器执行时,使得处理器执行基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法的步骤。
本发明的应用实施例提供了一种信息数据处理终端,信息数据处理终端用于实现基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***。
将本发明的振动信号检测方法在帕德博恩大学的轴承振动信号数据集上进行实验,并将实验结果与其他方法进行对比分析。
基于帕德博恩大学的公开轴承振动信号数据集进行无源领域自适应轴承故障诊断实验,以检验提出方法在跨域轴承故障诊断上的有效性。这个测试装置主要由电动机、扭矩测量模块、滚动轴承测试模块、飞轮和负载电机组成。 不同健康状态的轴承安装在轴承测试模块中进行数据生成,位于轴承座顶部的加速度计以64 kHz的采样频率记录加速度数据。选择了3个不同的工作条件来分别作为源域与目标域,转速、负载扭矩和径向力分别为1500 rpm/0.1Nm/1000N(B1)、1500 rpm/0.7Nm/1000N(B2)和1500 rpm/0.7Nm/400N(B1)。构造出6个无源领域自适应的故障诊断任务,数据域和故障诊断任务的具体信息如表2所示。
表1 故障诊断任务
采取以下数据处理办法,每个振动数据样本为2048维向量,每个轴承在每个工作条件下的样本数量为1000,来自9个轴承状况类型包括1个正常轴承和8个真实损伤轴承,具体内容如表3所示。
表2 9种轴承类型
在相同的实验设置下,选取了5个具有代表性且被广泛认可的方法作为对比,即MAD, CoAD, CADA, SHOT和SFAD。实验识别率如下:
表3 故障诊断任务结果
本发明应用了无源领域自适应的原理,通过在源域和目标域上学***均识别率高于其他最终方法,证明了方法的有效性。实验证明了本发明能够在脱离源域的前提下依然能够有效缓解域差异造成的影响,并且有效提高识别率。
本发明提供的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法,凭借其先进的技术框架,可以广泛应用于工业领域,尤其是在轴承故障诊断和预防性维护中。以下是两个具体的应用实施例,展示了该方法的实际应用场景和效果。
实施例1:风力发电场的轴承故障预测
在一个风力发电场中,风机轴承的健康状况对于整个发电***的稳定运行至关重要。该发电场通过部署振动传感器收集轴承的振动信号,并利用本发明方法对轴承故障进行实时预测和分类。
1. 数据收集与增强:首先,从已知故障类型的轴承中收集振动信号作为源域数据集,通过数据增强模块增加样本多样性。
2. 模型预训练:利用增强后的源域数据集对一维ResNet18网络进行预训练,获取轴承故障类型分类的预训练模型。
3. 目标域自适应:将实时收集的未知类型的轴承振动信号作为目标域数据集,通过伪标签生成模块和数据增强模块进行处理后,对预训练模型进行自适应学习。
4. 故障预测与维护决策:利用自适应后的模型对风机轴承进行故障类型预测,根据预测结果制定相应的维护计划和预防措施,从而降低故障率,提高发电效率。
实施例2:智能制造中的轴承质量检测
在智能制造领域,轴承是许多机械设备中不可或缺的部件,其质量直接影响到整个生产线的稳定性和产品质量。该实施例通过部署本发明方法,自动识别和分类轴承故障,以实现早期故障检测和预警。
1. 数据集准备:从制造线上收集的正常和已知故障类型的轴承振动信号作为源域数据集,并进行数据增强处理。
2. 深度学习模型训练:使用处理后的源域数据集对深度学习模型进行有监督训练,获得能够识别多种轴承故障类型的分类模型。
3. 在线检测与自适应学习:在生产线上实时收集轴承振动信号作为目标域数据集,应用无源领域自适应方法更新故障分类模型,以适应生产环境的变化。
4. 质量控制与优化:利用更新后的模型对轴承进行实时故障检测和分类,根据检测结果对生产线进行调整和优化,提高产品质量和生产效率。
在本发明的描述中,除非另有说明,“多个”的含义是两个或两个以上;术语“上”、“下”、“左”、“右”、“内”、“外”、“前端”、“后端”、“头部”、“尾部”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”等仅用于描述目的,而不能理解为指示或暗示相对重要性。
应当注意,本发明的实施方式可以通过硬件、软件或者软件和硬件的结合来实现。硬件部分可以利用专用逻辑来实现;软件部分可以存储在存储器中,由适当的指令执行***,例如微处理器或者专用设计硬件来执行。本领域的普通技术人员可以理解上述的设备和方法可以使用计算机可执行指令和/或包含在处理器控制代码中来实现,例如在诸如磁盘、CD或DVD-ROM的载体介质、诸如只读存储器(固件)的可编程的存储器或者诸如光学或电子信号载体的数据载体上提供了这样的代码。本发明的设备及其模块可以由诸如超大规模集成电路或门阵列、诸如逻辑芯片、晶体管等的半导体、或者诸如现场可编程门阵列、可编程逻辑设备等的可编程硬件设备的硬件电路实现,也可以用由各种类型的处理器执行的软件实现,也可以由上述硬件电路和软件的结合例如固件来实现。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,都应涵盖在本发明的保护范围之内。
Claims (10)
1.一种基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***,其特征在于,该***包括:
a. 数据增强模块,用于对初始源域数据集和目标域数据集进行数据增强,生成新增的源域样本和目标域样本,以及相应的样本标签和伪标签;
b. 一维ResNet18深度卷积神经网络,用于接收增强后的源域数据集,并利用标签平滑交叉熵Loss进行监督化学习训练,生成基于源域的轴承故障类型分类预训练模型;
c. 伪标签生成模块,用于将目标域样本输入预训练模型,获取对应特征和softmax预测输出,并据此生成目标域样本的伪标签;
d. 无监督学***滑交叉熵Loss,以及样本特征的近邻吸引与同批分散Loss进行无监督学习训练,使预训练模型能够自适应地迁移到目标域数据集;
e. 分类器模块,用于接收经过无监督学习训练后的目标域样本,输出准确的目标域样本预测标签。
2.如权利要求1所述的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***,其特征在于,还设置有轴承故障类型分类***,该***适应于无源领域自适应,包括:
数据处理单元,用于接收振动信号数据集,并对其进行数据增强和伪标签生成;
深度学习模型单元,包含一维ResNet18深度卷积神经网络,用于对源域数据集进行监督化学习训练,生成轴承故障类型分类预训练模型,并对目标域数据集进行无监督学习训练,实现模型的自适应迁移;
损失计算单元,用于计算源域数据集和目标域数据集的标签平滑交叉熵Loss,以及目标域样本特征的近邻吸引与同批分散Loss,以优化深度学习模型的训练过程;
预测输出单元,用于根据训练后的深度学习模型,对目标域样本进行分类,并输出准确的预测标签。
3.一种基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法,其特征在于,包括以下步骤:
步骤S1:取得振动信号数据集作为初始源域数据集,初始源域数据集包含振动信号数据的所有样本以及样本标签;将初始源域数据集的样本以及样本标签通过数据增强模块进行数据增强,获得新增的源域样本以及样本标签;新增的部分与初始源域数据集结合成新源域数据集;
步骤S2:将步骤S1新源域数据集的所有样本输入一维ResNet18深度卷积神经网络,利用标签平滑交叉熵Loss进行监督化学习训练,获得基于源域的轴承故障类型分类预训练模型,该模型学习到了源域内的轴承故障分类语义信息;
步骤S3:取得振动信号数据集作为初始目标域数据集,源域和目标域中的故障类型集合相同;将目标域样本输入S2步骤中的故障分类模型,获得目标域样本的对应特征以及softmax预测输出;将二者输入伪标签生成模块,获得目标域样本的伪标签;将目标域样本以及伪标签通过数据增强模块进行数据增强,获得新增的目标域样本以及伪标签;新增的部分与初始目标域数据集结合成新目标域数据集;
步骤S4:将步骤S3新目标域数据集的所有样本输入S2步骤中的故障分类模型,利用输出与伪标签之间的标签平滑交叉熵Loss进行无监督学习训练;与此同时,模型使用新引入的样本特征的近邻吸引与同批分散Loss进行无监督学习训练;使得故障分类模型能够从在脱离源域数据集的情况下,自适应的迁移到目标域数据集;最后目标域样本通过故障分类模型的分类器能够输出准确的目标域样本的预测标签。
4.如权利要求3所述的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法,其特征在于,通过源域样本训练好源模型之后,模型的迁移不再需要源域样本的参与;
源域样本由若干已知类型的振动信号组成;
目标域样本由若干未知类型的振动信号组成。
5.如权利要求3所述的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法,其特征在于,在S1中,取得振动信号数据集作为初始源域数据集;将类别的数量记为K,初始源域数据集记为,其中/>表示初始源域样本中的第/>个振动信号,而/>表示对应的故障类型标签,/>则是初始源域样本的数量;对于数据增强模块,它需要输入随机两个故障样本/>和/>,以及对应的标签/>和/> ,而数据增强模块本身会计算样本的长度/>以及随机生成的窗口长度Win;在每次训练时,数据增强模块都会以概率执行数据增强操作,从故障样本/>和故障样本/>以随机的相同位置截取窗口,然后将/>窗口的内容覆盖掉/>中窗口的内容,得到混合之后的新样本/>,而新标签/>计算方式如下所示:
(1)
概率通常设定为0.5;将初始源域数据集经过数据增强模块得到的源域数据集记为;将数据集/>与数据集/>整合,得到新源域数据集/>,公式如下:
(2)
其中表示新源域样本中的第/>个振动信号,/>为/>振动信号对应的故障类型标签,/>则是新源域样本的数量。
6.如权利要求3所述的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法,其特征在于,在S2中,其一维ResNet18深度卷积神经网络包含特征提取器以及分类器/>,将新源域样本输入特征提取器/>提取的样本特征命为/>,然后将样本特征输入分类器F,得到源域的样本预测输出/>;对一维ResNet18深度卷积神经网络使用标签平滑交叉熵损失函数进行有监督学***滑交叉熵损失函数包括对样本标签进行标签平滑操作,目标是通过向正确类别的标签添加噪声,使其不再是完全的0和1,而是接近0和1的值;通过标签平滑交叉熵损失函数的计算,提高故障分类模型对源域的预测标签的准确率;对于源域训练的故障分类模型,其标签平滑交叉熵损失函数结果求平均,得到/>,计算方式如下:
(3)
上述总损失函数公式(3)通过随机梯度下降(SGD)法的不断迭代训练,更新网络的权重参数。
7.如权利要求3所述的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法,其特征在于,在S3中,取得振动信号数据集作为初始目标域数据集,记为,其中/>表示第 /> 个目标域样本的振动信号,而/>则是目标域样本的数量;目标域的故障类型伪标签/>待预测;由于数据增强需要标签的参与,同时样本特征的近邻吸引与同批分散Loss需要所有样本的特征;因此这一步需要生成对应伪标签以及所有样本的特征库;对于伪标签生成模块,需要输入目标域样本的对应特征/>以及预测输出/>,原理为利用原型,即类级的特征质心/>,来产生更可靠的伪标签/>;/>为对应的类别为k的输出,因此/>为样本/>在类别k上的预测输出;可以用如下公式表示:
(4)
针对目标域进行类级的初始原型计算公式如下:
(5)
由于原型对离群值不那么敏感,它们可以更稳定地表征目标域内不同类别的分布;可以通过距离度量来首次计算初始伪标签:
(6)
然后,使用初始标签再次更新原型,以计算更准确的伪标签/>;其中算法/>表示当输入为真时输出数值1,该过程被描述为:
(7)
(8)
有了伪标签,便可以输入数据增强模块进行数据增强,同理,它需要输入随机两个故障样本和/>,以及对应的伪标签/>和/> ,总体生成过程与源域生成过程相似,每一次都由随机生成的窗口Win的大小决定;新标签/>计算方式如下:
(9)
将初始目标域域数据集经过数据增强模块得到的新数据集记为;将数据集/>与数据集/>和与之对应的伪标签整合,得到新目标域数据集/>,公式如下:
(10)
其中表示源域整合样本中的第/>个振动信号,/>为/>振动信号对应的故障类型的伪标签;此时,便可以提取所有样本的特征;在这个过程中,故障分类模型的特征提取器输出可以再被简化为特征/>,所有特征的集合被称为/>。
8.如权利要求3所述的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类方法,其特征在于,在S4中,将步骤S3新目标域数据集的所有样本输入S2步骤中的故障分类模型;故障分类模型根据伪标签,通过标签平滑交叉熵损失函数进行自监督学***滑交叉熵损失函数结果求平均计算得到,计算方式如下:
(11)
与此同时,对于新引入的“样本特征的近邻吸引与同批分散Loss”来说,其原理是利用源域样本训练好的训练模型,以样本在特征上的余弦相似度距离关系为依据,通过聚合特定特征空间内样本在局部领域特征相似的预测、远离特征不相似的预测,来训练模型;其中,所有特征的集合在步骤S3被整合为,分类器的预测输出记为/>,所有输出的集合被称为/>;每一个样本的特征/>,都有包含/>在内的/>个近邻特征组成的特征集合/>,以及不属于/>的背景特征集合/>,为了使训练简单化,使用小批量中除/>以外的所有其他特征作为/>;训练之后,计算样本特征的近邻吸引与同批分散Loss结果,并求平均得到/>,其计算方式如下:
(12)
其中,表示/>的转置,超参数/>会从1开始,随着训练的进行开始衰减;通过不断迭代训练,使得故障分类模型会逐渐学习到域不变特征的提取,并且利用模型内源域的知识完成从源域到目标域的无源领域自适应;
S4步骤中损失函数可以定义出总损失函数如下:
(13)
总损失函数公式(13)通过SGD随机梯度下降法的不断迭代训练,更新网络的权重参数,使得未标记类型的目标域样本通过故障分类模型可以输出准确预测的对应样本标签。
9.一种实现如权利要求3~8任意一项所述分类方法的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***,其特征在于,包括:
初始源域数据集,取得振动信号数据集作为初始源域数据集,初始源域数据集包含振动信号数据的所有样本以及样本标签;
数据增强模块,用于对源域和目标域进行数据增强,获得新增的样本以及样本标签;
深度卷积神经网络,将新源域数据集的所有样本输入一维ResNet18深度卷积神经网络,获得基于源域的轴承故障类型分类预训练模型;
模型训练模块,将源域训练后的故障分类模型包含参数输入模型训练模块,以此为基础,利用伪标签与拉近特征空间内相似样本的预测、远离同批次样本特征的预测进行无监督训练;
伪标签生成模块,将目标域样本的对应特征以及softmax预测输出输入伪标签模块,以生成对应样本的伪标签;
初始目标域数据集,目标域样本与源域样本具有公共故障类型;
预测标签生成模块,用于通过故障分类模型的分类器输出准确的目标域样本的预测标签。
10.根据权利要求7所述的基于数据增强、标签平滑与特征优化的无源领域自适应轴承故障分类***,其特征在于,所述数据增强模块能够执行基于随机选择的两个样本执行数据混合,通过在故障样本之间随机选取相同位置的窗口进行内容覆盖,生成新的样本和对应的混合标签;
所述基于源域的一维ResNet18深度卷积神经网络轴承故障类型分类预训练模型进行无监督迁移时,采用标签平滑交叉熵损失函数以及特征的近邻吸引与同批分散损失进行无监督学习,以实现更精准的轴承故障类型识别和分类。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410504708.4A CN118094367A (zh) | 2024-04-25 | 2024-04-25 | 无源领域自适应轴承故障分类方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410504708.4A CN118094367A (zh) | 2024-04-25 | 2024-04-25 | 无源领域自适应轴承故障分类方法及*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118094367A true CN118094367A (zh) | 2024-05-28 |
Family
ID=91156605
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410504708.4A Pending CN118094367A (zh) | 2024-04-25 | 2024-04-25 | 无源领域自适应轴承故障分类方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118094367A (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111860677A (zh) * | 2020-07-29 | 2020-10-30 | 湖南科技大学 | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 |
CN113239610A (zh) * | 2021-01-19 | 2021-08-10 | 昆明理工大学 | 一种基于Wasserstein距离的域自适应滚动轴承故障诊断方法 |
CN116304820A (zh) * | 2023-03-14 | 2023-06-23 | 广东石油化工学院 | 一种基于多源域迁移学习的轴承故障类型预测方法及*** |
US20230339108A1 (en) * | 2020-12-18 | 2023-10-26 | Strong Force Vcn Portfolio 2019, Llc | Machine-Learned Robot Fleet Management for Value Chain Networks |
KR20230152319A (ko) * | 2022-04-27 | 2023-11-03 | 경북대학교 산학협력단 | 준지도학습 기반 금속 외관 결함 분류 장치 및 그 방법 |
CN117312984A (zh) * | 2023-09-28 | 2023-12-29 | 哈尔滨理工大学 | 一种域间数据标签关系未知的滚动轴承跨域故障诊断方法及*** |
-
2024
- 2024-04-25 CN CN202410504708.4A patent/CN118094367A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111860677A (zh) * | 2020-07-29 | 2020-10-30 | 湖南科技大学 | 一种基于部分域对抗的滚动轴承迁移学习故障诊断方法 |
US20230339108A1 (en) * | 2020-12-18 | 2023-10-26 | Strong Force Vcn Portfolio 2019, Llc | Machine-Learned Robot Fleet Management for Value Chain Networks |
CN113239610A (zh) * | 2021-01-19 | 2021-08-10 | 昆明理工大学 | 一种基于Wasserstein距离的域自适应滚动轴承故障诊断方法 |
KR20230152319A (ko) * | 2022-04-27 | 2023-11-03 | 경북대학교 산학협력단 | 준지도학습 기반 금속 외관 결함 분류 장치 및 그 방법 |
CN116304820A (zh) * | 2023-03-14 | 2023-06-23 | 广东石油化工学院 | 一种基于多源域迁移学习的轴承故障类型预测方法及*** |
CN117312984A (zh) * | 2023-09-28 | 2023-12-29 | 哈尔滨理工大学 | 一种域间数据标签关系未知的滚动轴承跨域故障诊断方法及*** |
Non-Patent Citations (1)
Title |
---|
李小娟;徐增丙;熊文;***;谭俊杰;: "基于深度度量学习的轴承故障诊断方法", 振动与冲击, no. 15, 15 August 2020 (2020-08-15) * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Xiao et al. | Domain adaptive motor fault diagnosis using deep transfer learning | |
Cai et al. | Data-driven early fault diagnostic methodology of permanent magnet synchronous motor | |
Verstraete et al. | Deep learning enabled fault diagnosis using time‐frequency image analysis of rolling element bearings | |
CN116304820B (zh) | 一种基于多源域迁移学习的轴承故障类型预测方法及*** | |
Han et al. | Cross‐machine intelligent fault diagnosis of gearbox based on deep learning and parameter transfer | |
Sun et al. | Condition monitoring of wind turbine blades based on self-supervised health representation learning: A conducive technique to effective and reliable utilization of wind energy | |
Kaya et al. | A new automatic bearing fault size diagnosis using time-frequency images of CWT and deep transfer learning methods | |
Wang et al. | Remaining useful life prediction of rolling bearings based on multiscale convolutional neural network with integrated dilated convolution blocks | |
Zhao et al. | Adaptive open set domain generalization network: Learning to diagnose unknown faults under unknown working conditions | |
Guo et al. | Reconstruction domain adaptation transfer network for partial transfer learning of machinery fault diagnostics | |
Dong et al. | A fault diagnosis method for rotating machinery based on PCA and Morlet kernel SVM | |
Lin | PCA/SVM‐based method for pattern detection in a multisensor system | |
Yan et al. | Fault diagnosis of rolling‐element bearing using multiscale pattern gradient spectrum entropy coupled with Laplacian score | |
Long et al. | Decentralised one‐class kernel classification‐based damage detection and localisation | |
Zhang et al. | A new deep convolutional domain adaptation network for bearing fault diagnosis under different working conditions | |
CN110705694A (zh) | 基于特征提取的面向边缘数据中心的窃电监测方法 | |
Wang et al. | Probabilistic transfer factor analysis for machinery autonomous diagnosis cross various operating conditions | |
Li et al. | Intelligent fault diagnosis of aeroengine sensors using improved pattern gradient spectrum entropy | |
Yin et al. | A fault diagnosis method for nuclear power plant rotating machinery based on adaptive deep feature extraction and multiple support vector machines | |
Muhamad et al. | Mahalanobis-Taguchi system for pattern recognition: A brief review | |
Xu et al. | Bearing Fault Diagnosis in the Mixed Domain Based on Crossover‐Mutation Chaotic Particle Swarm | |
Saha et al. | Enhancing bearing fault diagnosis using transfer learning and random forest classification: A comparative study on variable working conditions | |
Huang et al. | A novel multi-scale competitive network for fault diagnosis in rotating machinery | |
Abbasi et al. | Condition based maintenance of oil and gas equipment: A review | |
CN118094367A (zh) | 无源领域自适应轴承故障分类方法及*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |