CN114297918A - 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法 - Google Patents

基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法 Download PDF

Info

Publication number
CN114297918A
CN114297918A CN202111577980.8A CN202111577980A CN114297918A CN 114297918 A CN114297918 A CN 114297918A CN 202111577980 A CN202111577980 A CN 202111577980A CN 114297918 A CN114297918 A CN 114297918A
Authority
CN
China
Prior art keywords
data
test
rul
engine
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111577980.8A
Other languages
English (en)
Inventor
李英顺
丁子尧
全福祥
孙希明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dalian University of Technology
Original Assignee
Dalian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dalian University of Technology filed Critical Dalian University of Technology
Priority to CN202111577980.8A priority Critical patent/CN114297918A/zh
Publication of CN114297918A publication Critical patent/CN114297918A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明提供一种基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法。首先,计算训练集数据和测试集数据的剩余寿命RUL值,并对对数据子集FD001进行降维,并构建仿真数据集。其次,采用FCM算法聚类仿真数据集的类中心及对应样本。再次,构建Transformer网络模块作为基学习器,并确定基学习器权重及加权集成输出。最后。对测试集数据预处理,随机抽取部分数据采用动态集成预测模型给出剩余寿命值。本发明对发动机剩余寿命预测,不仅可以不受距离影响的学习数据间依赖关系,还可显著提升运行速度,消除冗余属性的影响,提高预测的准确率。本发明基于寿命数据,与发动机实际型号无关,通过训练不同的数据集即可将模型迁移到不同型号发动机上使用,具有普适性。

Description

基于全注意力深度网络和动态集成学习的航空发动机剩余寿 命预测方法
技术领域
本发明提出了一种基于全注意力深度网络(transformer)和动态集成学习的航空发动机剩余寿命预测方法,属于航空发动机故障预测与健康管理(PHM)领域。
背景技术
保障飞行安全一直是发达国家和飞机高度重视的问题。围绕这一问题,发动机状态监测与故障诊断技术从20世纪50年代发展至今,经历了从简单、初级、离线诊断、单一到复杂、高级、实时监测、集成化、智能化的过程。由于现代航空发动机工作在温度、压力、转速等要求极高的环境中,航空发动机的关键部件不断累积退化,经过一定程度的退化后,航空发动机的性能将偏离正常工作状态,从而导致各种故障的发生。因此,航空发动机健康状态的监测和剩余使用寿命的预测是维修实践中的重要任务,这一定程度上促进了预测与健康管理(PHM)的研究。PHM特别涉及到预测***未来行为的阶段,是通过评估当前运行条件下运行能力的退化以及正常和异常数据的历史来预测***未来可靠性的过程。
飞机发动机的剩余使用寿命(RUL)定义为从当前时间到飞机发动机预期使用寿命结束的时间量(小时或周期),RUL预测指利用发动机整个生命周期分析整体退化的过程。准确的剩余寿命预测结果能够合理调整维修计划、降低维修成本、保障了航空发动机的安全可靠运行。
本发明的研究对象为NASA公开的涡轮风扇发动机退化仿真数据集。该数据集是典型的燃气涡轮发动机仿真结果,记录了发动机从正常运行到出现错误再到最终停止的状态数据。数据集包括四个子数据集,子数据集可进一步分为训练和测试子集及RUL真实值,包含了不同引擎的时间序列数据,每个引擎均测量了21个含有噪声的传感器测量值。
目前剩余寿命预测主要是采用分为2大类:基于物理模型的预测方法和基于数据驱动的预测方法。但是由于设备和部件的结构日益复杂,再加上各种环境的影响,很难用物理模型去准确地预测RUL。而且随着大数据时代的到来,我们获取机器的大量数据日益简单,再加上计算机技术的不断发展,使用数据驱动的模型去预测RUL已成为主流方法。
对于数据时序关联性强的涡轮风扇发动机退化仿真数据集,目前的方法大多数采用单一的模型,如:循环神经网络、长短期记忆网络,来对数据集进行训练及预测。而集成学习可以集成多个模型的优势,选择性能更好的算法,提高整体的泛化能力。此外,对于集成模型的参数进行动态调节也能够进一步提高航空发动机剩余寿命预测的准确性。
发明内容
针对现有技术中准确性低,可靠性差的问题,本发明提供一种基于Transformer和动态集成学习的航空发动机剩余寿命预测方法。
本发明的技术方案:
一种基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法,包括以下步骤:
S1.计算训练集数据和测试集数据的剩余寿命RUL值,包括以下步骤:
S1.1由于航空发动机数据集中所包含的四个数据子集(FD001-FD004)特征大致相同,包含的是21维的传感器数据。本发明选取数据子集FD001的训练数据Train_FD001、测试数据Test_FD001和对应剩余寿命数据RUL_FD001(即以第一组数据子集为例)进行训练与预测;
S1.2计算训练数据的RUL值:
根据S1.1中选取的训练数据,取每台发动机健康运行的最大时间记为Ttrain_max,利用Ttrain_max减去当前发动机运行时间Ttrain,得到每台发动机在每一时刻对应的剩余寿命值RULtrain,计算公式如下:
RULtrain=Ttrain_max-Ttrain
S1.3计算测试数据的RUL值:
由于Test_FD001包含的是发动机从开始到故障之前某一时刻Ttest的数据,RUL_FD001为在Ttest时刻时发动机的剩余寿命值,记为RULt,因此将Ttest及RULt相加,得到真实的发动机健康运行时间Ttest_max,再利用Ttest_max减去当前发动机运行时间Ttest,最终得到测试数据中每台发动机在每一时刻对应的剩余寿命值RULtest,计算公式如下:
Ttest_max=RULt+Ttest
RULtest=Ttest_max-Ttest
S2.对数据子集FD001进行降维,并构建仿真数据集,包括以下步骤:
S2.1利用高相关滤波及低方差滤波对数据子集FD001进行降维,过滤掉数据分布相似、趋势变化不大的传感器数据,则传感器维度由21维降低到12维;
S2.2按照时间步大小划分数据子集FD001的数据,时间步设为30、设置长度为30的时间窗口在时域数据上滑动,落在时间窗口内的数据切分出来作为一个样本,完成仿真数据集的构建。
S3.采用模糊C均值聚类(FCM)算法聚类仿真数据集的类中心及对应样本,包括以下步骤:
S3.1利用FCM算法对S2中构建的仿真数据集进行聚类,为了充分考虑变量间的相关性及差异程度,引入马氏距离替代传统FCM算法中的欧式距离进行聚类;
传统FCM算法隶属度函数为:
Figure BDA0003425240100000031
其中,设X={X1,X2,…,XN}为数量为N的样本集合,其中Xi=[x1,x2,…,xn]代表样本Xi的n元数据矩阵,将样本集合X划分为c个子集S={S1,S2,…,Sc},用A={∝1,∝2,…,∝c}表示这c个子集的聚类中心,其中∝i=[a1,a2,…,an]代表聚类中心∝i的n元数据矩阵,uij为元素xj对Si的隶属度,dij为样本Xj与聚类中心∝i的距离,一般为欧式距离。
为了避免误分率等问题,引入加权马氏距离替代传统FCM中的欧式距离,马氏距离计算公式为:
Figure BDA0003425240100000032
其中,∑为协方差矩阵,实践应用中用样本协方差矩阵代替计算。
为了考虑到不同特征对于样本预测的影响,拟合传感器数据曲线斜率并归一化处理,并将其作为各传感器重要程度添加到马氏距离计算中,得到改进的加权马氏距离公式为:
Figure BDA0003425240100000033
其中,W=[w1,w2,…,w12]为12维传感器权重矩阵,且∑wp=1,p∈{1,2,…,12};
S3.2不断更新隶属度矩阵U与聚类中心A,直到目标函数
Figure BDA0003425240100000034
与迭代次数达到条件,最终得到训练数据样本的类中心∝i并保留所划分样本集合S。
所述FCM算法的目标函数
Figure BDA0003425240100000035
为:
Figure BDA0003425240100000036
其中uij满足约束条件:
Figure BDA0003425240100000037
uij≥0(1≤i≤c,1≤j≤n)
所述隶属度矩阵为U={uij}为c×m矩阵。
所述聚类中心为A={∝1,∝2,…,∝c}。
FCM算法是使目标函数最小化收敛的过程,再迭代求解时,uij是按Lagrange乘数法得到的:
Figure BDA0003425240100000038
Figure BDA0003425240100000041
S4.构建Transformer网络模块作为基学习器,包括以下步骤:
S4.1将S2中构建的仿真数据集作为Transformer网络模块的输入,Transformer网络模块由编码器和解码器两部分构成;
所述搭建编码器结构:由6层相同层堆叠而成,每层有两个子层,分别包含多头自注意力机制和前馈神经网络,编码器将航空发动机特征序列编码成中间向量,捕捉特征内部相关性,提取特征序列的重要信息;
所述搭建解码器结构:由6层相同层堆叠而成,除了包含编码器两个子层外,解码器每一层中还加入了遮挡多头自注意力机制子层。解码器的输入为剩余寿命数据,将寿命数据输入到遮挡多头自注意力机制模块中,再将学习到的寿命数据信息与编码器中得到的中间向量共同输入多头注意力机制中,通过综合学习特征序列与寿命数据间的依赖关系;
S4.2对编码器和解码器的输入序列进行位置编码操作,将位置信息(即时间信息)添加到输入序列中;
S4.3为了解决航空发动机输入特征序列与寿命数据(一维寿命数据)维度不一致的问题,分别在解码器输入端、输出端添加全连接网络层对寿命数据进行升维、降维操作,从而得到当前寿命预测值。
S4.4基学习器训练:将类中心∝i对应的样本集合Si输入到S3搭建的Transformer网络模块中进行训练,得到类中心∝i对应的基学习器,最终得到训练好的基学习器集;
S4.5保存训练好的基学习器模型并在验证集上进行测试,根据验证集评价指标调整模型超参数,评价指标采用RMSE、Score两种指标,保存评价指标,最终得到不同类中心对应的、最优的基学习器模型;
所述RMSE指标为:
Figure BDA0003425240100000042
Score指标为:
Figure BDA0003425240100000043
其中,N为样本个数,hi为剩余寿命预测值RUL和剩余寿命真实值RULtrue间的误差。
S5.确定基学习器权重及加权集成输出,包括以下步骤:
S5.1计算待测样本(测试集样本)与各类中心距离并以此动态地分配基学习器权重:将待测样本输入到S4.7中训练好的基学习器集中,得到预测结果集合{pre1,pre2,…,prec},设待测样本与各个类中心的距离集合为Dis={dis1,dis2,…,disc}(此处采用欧氏距离),则计算基学习器的权重w_li公式为:
Figure BDA0003425240100000051
S5.2加权集成输出:将基学习器预测结果prei及对应权重w_li进行加权求和,得到最终的动态集成预测模型,其对该待测样本最终预测寿命值RUL:
RUL=∑w_li×prei,i∈{1,2,…,c}
S6.在测试数据上进行预测
S6.1按S1、S2中步骤对测试集数据预处理,并按动态集成预测模型的输入要求调整数据维度;
S6.2在测试集数据中随机抽取部分数据,采用动态集成预测模型给出剩余寿命值。
本发明的有益效果:通过本发明所提供方法对发动机剩余寿命预测,相比于以往循环神经网络(RNN)由串行运算导致运行速度慢和信息损耗记忆力退化的不足,Transformer中自注意力机制采用并行运算,不仅可以不受距离影响的学习数据间依赖关系,还大大提升了运行速度。同时,动态集成学习除了结合多个模型的结果进行综合预测以外,还可以根据不同测试样本的内部特征动态的调整模型权重,提高预测的准确率。最后,FCM聚类算法中加权马氏距离的引入将不同传感器的重要程度考虑其中,消除了冗余属性的影响。本方法基于寿命数据,与发动机实际型号无关,因此通过训练不同的数据集即可将模型迁移到不同型号发动机上使用,具有一定程度的普适性。
附图说明
图1为数据预处理流程图;
图2为Transformer网络结构图;
图3为FCM聚类算法流程图;
图4为以Transformer为基学习器的动态集成网络预测航空发动机剩余寿命方法流程图;
图5为模型训练中损失函数随着迭代次数变化曲线图。
具体实施方式
下面结合附图对本发明作进一步说明,本发明依托背景为涡轮风扇发动机退化仿真数据。
图1为数据预处理流程图,数据预处理步骤如下:
S1.由于数据子集特征大致相同,选取FD001的训练数据Train_FD001、测试数据Test_FD001和对应剩余寿命数据RUL_FD001(即以第一组子数据集为例)进行训练与预测;根据选取的数据,计算训练集和测试集中每台发动机(共100台)每一时刻对应的RUL值,找到训练集中每台发动机数据样本中发动机健康运行的最大循环次数Ttrain_max,利用Ttrain_max减去当前发动机循环次数Ttrain,得到每台发动机在每一时刻对应的剩余寿命值RULtrain,计算公式如下:
RULtrain=Ttrain_max-Ttrain
以训练数据Train_FD001中第一台发动机为例,数据给出该发动机从开始故障的数据,其中最大循环次数为192,若当前循环次数为150,则当前时刻的剩余寿命值RULtrain_150为:
RULtrain_150=192-150=42
S2.测试数据RUL值计算:由于Test_FD001包含的是发动机从开始到故障之前某一时刻Ttest的数据,RUL_FD001为在Ttest时刻时发动机的剩余寿命值(记为RULt),因此将Ttest及RULt相加,得到真实的发动机健康运行时间Ttest_max,再利用Ttest_max减去当前发动机运行时间Ttest,最终得到测试数据中每台发动机在每一时刻对应的剩余寿命值RULtest,计算公式如下:
Ttest_max=RULt+Ttest
RULtest=Ttest_max-Ttest
以测试数据Test_FD001和对应剩余寿命数据RUL_FD001中第50台发动机为例,Test_FD001给出了第50台发动机从开始运行到故障前循环次数为74的数据,RUL_FD001中可以查到第50台发动机在第74循环次数下的剩余寿命值为79,因此该发动机真实健康运行次数为:
Ttest_max_50=74+79=153
若当前循环次数为80,则对应的剩余寿命值RULtest_50为:
RULtest_50=153-80=133
S3.利用高相关滤波及低方差滤波进行降维,过滤掉数据分布相似、趋势变化不大的传感器数据,最终降维后的传感器维度由21维降低到12维;
S4.按照时间步大小划分数据,时间步设为30,设置长度为30的时间窗口在时域数据上滑动,落在时间窗口内的数据切分出来作为一个样本,仿真数据集构建完成;
S5.将训练数据集按4:1的比例划分为训练集和验证集。
图2为Transformer网络结构图,构建Transformer网络的步骤如下:
S1.将仿真数据集作为Transformer网络模块的输入,Transformer网络模块由编码器和解码器两部分构成;
S2.搭建编码器结构,由6层相同层堆叠而成,每层有两个子层,分别包含多头自注意力机制和前馈神经网络,编码器将航空发动机特征序列编码成中间向量,捕捉特征内部相关性,提取特征序列的重要信息。
S3.搭建解码器结构:由6层相同层堆叠而成,除了包含编码器两个子层外,解码器每一层中还加入了遮挡多头自注意力机制子层。解码器的输入为剩余寿命数据,将寿命数据输入到遮挡多头自注意力机制模块中,再将学习到的寿命数据信息与中间向量共同输入多头注意力机制中,通过综合学习特征序列与寿命数据间的依赖关系;
S4.为了提高模块学习位置信息的能力,对编码器和解码器的输入序列进行位置编码操作,将位置信息(即时间信息)添加到输入序列中;
S5.为了解决在航空发动机剩余寿命预测任务中,输入特征序列与寿命数据(一维寿命数据)维度不一致的问题,在解码器输入端添加全连接网络层对标签数据进行升维,在输出端添加全连接网络层进行降维,从而得到当前寿命预测值。
图3为FCM聚类算法流程图,基于马氏距离的FCM聚类算法流程如下:
S1.利用FCM算法对S2中构建的仿真数据集进行聚类,为了充分考虑变量间的相关性及差异程度,引入马氏距离替代传统FCM算法中的欧式距离进行聚类;
其中,设X={X1,X2,…,XN}为数量为N的样本集合,其中Xi=[x1,x2,…,xm]代表样本Xi的m元数据矩阵,将样本集合X划分为c个子集S={S1,S2,…,Sc},用A={∝1,∝2,…,∝c}表示这c个子集的聚类中心,其中∝i=[a1,a2,…,am]代表聚类中心∝i的m元数据矩阵,uij为元素xj对Si的隶属度,dij为样本Xi与聚类中心∝j的距离,一般为欧式距离。其中,为了避免误分率等问题,引入加权马氏距离替代传统FCM中的欧式距离
马氏距离计算公式为:
Figure BDA0003425240100000071
其中,∑为协方差矩阵,实践应用中用样本协方差矩阵代替计算。
S2.为了考虑到不同特征对于样本预测的影响,拟合传感器数据曲线斜率并归一化处理以作为各传感器重要程度添加到马氏距离计算中:
W=[0.08012458,0.07756672,0.0899668,0.08700115,0.07480246,0.09228094,0.08942299,0.07498324,0.08519578,0.08021568,0.08419325,0.08424642]
得到改进的加权马氏距离公式为:
Figure BDA0003425240100000072
其中W=[w1,w2,…,w12]为12维传感器权重矩阵,且∑wp=1,p∈{1,2,…,12}
以数据中某样本X′,中心∝1为例:
X′=[0.18373494,0.40680183,0.30975692,0.72624799,0.24242424,0.36904762,0.63326226,0.20588235,0.36398615,0.33333333,0.71317829,0.7246617]
1=[0.44020676,0.42214628,0.44682645,0.56985804,0.29583561,0.40774171,0.58437711,0.31577143,0.44802636,0.43174849,0.52727746,0.54898566]
二者协方差矩阵∑-1为12×12矩阵,则算得的加权马氏距离d′为:
d′=0.6979423665500938
S3.不断更新隶属度矩阵U与聚类中心A,直到目标函数
Figure BDA0003425240100000081
与迭代次数达到条件,最终得到训练数据样本的类中心∝i并保留所划分样本集合S;
所述FCM算法的目标函数
Figure BDA0003425240100000082
为:
Figure BDA0003425240100000083
其中uij满足约束条件:
Figure BDA0003425240100000084
uij≥0(1≤i≤c,1≤j≤n)
所述隶属度矩阵为U={uij}为c×m矩阵。
所述聚类中心为A={∝1,∝2,…,∝c}。
FCM算法是使目标函数最小化收敛的过程,再迭代求解时,uij是按Lagrange乘数法得到的:
Figure BDA0003425240100000085
Figure BDA0003425240100000086
图4为以Transformer为基学习器的动态集成网络预测航空发动机剩余寿命方法流程图,构建该预测模型的步骤如下:
S1.将上述所得类中心∝i对应的样本集合Si输入到已搭建的Transformer网络模块中进行训练,得到类中心∝i对应的基学习器,最终得到训练好的基学习器集;
S2.保存训练基学习器模型并在验证集上进行测试,根据验证集评价指标调整模型超参数,评价指标采用RMSE、Score两种指标,保存评价指标最优的模型得到最终的以Transformer为基学习器的动态集成预测模型;
所述RMSE指标为:
Figure BDA0003425240100000087
Score指标为:
Figure BDA0003425240100000088
其中,N为样本个数,hi为剩余寿命预测值RUL和剩余寿命真实值RULtrue间的误差。
S3.将待测样本输入到S2中训练好的基学习器集中,取c=10个类中心,得到预测结果集合Pre={pre1,pre2,…,pre10},设待测样本与各个类中心的距离集合为Dis={dis1,dis2,…,dis10}(此处采用欧氏距离),则计算基学习器的权重w_li公式为:
Figure BDA0003425240100000091
如:w_l′=[0.09593363,0.128334,0.13336846,0.12667233,,0.09304425,0.084029770.07274519,0.08803256,0.15928859,0.01855123]
如:Pre′=[123.58698,66.89998,159.30264,46.72468,145.54897,36.58113,122.11829,118.94503,138.40454,86.78972]
S4.将基学习器预测结果prei及对应权重w_li进行加权求和,得到模型对该待测样本最终预测寿命值PUL:
PUL=∑w_li×prei,i∈{1,2,…,c}
则RUL′=105.86890
图5为模型训练中损失函数随着迭代次数变化曲线图,从图中可以看出所提出的模型能够进行有效训练及收敛,实现航空发动机寿命预测。
以上所述实施例仅表达本发明的实施方式,但并不能因此而理解为对本发明专利的范围的限制,应当指出,对于本领域的技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些均属于本发明的保护范围。

Claims (2)

1.一种基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法,其特征在于,包括以下步骤:
S1.计算训练集数据和测试集数据的剩余寿命RUL值,包括以下步骤:
S1.1航空发动机数据集中所包含的四个数据子集FD001-FD004特征大致相同,包含21维的传感器数据;选取第一组数据子集,即数据子集FD001的训练数据Train_FD001、测试数据Test_FD001和对应剩余寿命数据RUL_FD001进行训练与预测;
S1.2计算训练数据的RUL值:
根据S1.1中选取的训练数据,取每台发动机健康运行的最大时间记为Ttrain_max,利用Ttrain_max减去当前发动机运行时间Ttrain,得到每台发动机在每一时刻对应的剩余寿命值RULtrain
S1.3计算测试数据的RUL值:
由于Test_FD001包含的是发动机从开始到故障之前某一时刻Ttest的数据,RUL_FD001为在Ttest时刻时发动机的剩余寿命值,记为RULt,将Ttest及RULt相加得到真实的发动机健康运行时间Ttest_max;再利用Ttest_max减去当前发动机运行时间Ttest,得到测试数据中每台发动机在每一时刻对应的剩余寿命值RULtest
S2.对数据子集FD001进行降维,并构建仿真数据集,包括以下步骤:
S2.1利用高相关滤波及低方差滤波对数据子集FD001进行降维,传感器维度由21维降低到12维;
S2.2按照时间步大小划分数据子集FD001的数据,落在时间窗口内的数据切分出来作为一个样本,完成仿真数据集的构建;
S3.采用模糊C均值聚类算法聚类仿真数据集的类中心及对应样本,包括以下步骤:
设X={X1,X2,…,XN}为数量为N的样本集合,其中Xi=[x1,x2,…,xn]代表样本Xi的n元数据矩阵,将样本集合X划分为c个子集S={S1,S2,…,Sc};用A={∝1,∝2,…,∝c}表示这c个子集的聚类中心,其中∝i=[a1,a2,…,an]代表聚类中心∝i的n元数据矩阵,A={∝1,∝2,…,∝c}表示c个子集的聚类中心;dij为样本Xj与聚类中心∝i的距离;
S3.1利用FCM算法对S2中构建的仿真数据集进行聚类,引入马氏距离替代传统FCM算法中的欧式距离进行聚类;
拟合传感器数据曲线斜率并归一化处理,并将其作为各传感器重要程度添加到马氏距离计算中,得到改进的加权马氏距离公式为:
Figure FDA0003425240090000011
其中,W=[w1,w2,…,w12]为12维传感器权重矩阵;∑wp=1,p∈{1,2,...,12};∑为协方差矩阵,实践应用中用样本协方差矩阵代替计算;
S3.2不断更新隶属度矩阵U与聚类中心A,直到目标函数
Figure FDA0003425240090000021
与迭代次数达到条件,最终得到训练数据样本的类中心∝i并保留所划分样本集合S;
所述FCM算法的目标函数
Figure FDA0003425240090000022
为:
Figure FDA0003425240090000023
其中,uij为元素xj对Si的隶属度,uij满足约束条件:
Figure FDA0003425240090000024
uij≥0(1≤i≤c,1≤j≤n)
所述隶属度矩阵为U={uij}为c×m矩阵;
S4.构建Transformer网络模块作为基学习器,包括以下步骤:
S4.1将S2中构建的仿真数据集作为Transformer网络模块的输入,Transformer网络模块由编码器和解码器两部分构成;
所述编码器结构:由6层相同层堆叠而成,每层有两个子层,分别包含多头自注意力机制和前馈神经网络,编码器将航空发动机特征序列编码成中间向量,捕捉特征内部相关性,提取特征序列的重要信息;
所述解码器结构:由6层相同层堆叠而成,除了包含编码器两个子层外,解码器每一层中还加入遮挡多头自注意力机制子层;解码器的输入为剩余寿命数据,将寿命数据输入到遮挡多头自注意力机制模块中,再将学习到的寿命数据信息与编码器中得到的中间向量共同输入多头注意力机制中,通过综合学习特征序列与寿命数据间的依赖关系;
S4.2对编码器和解码器的输入序列进行位置编码操作,将位置信息添加到输入序列中;
S4.3为了解决航空发动机输入特征序列与寿命数据维度不一致的问题,分别在解码器输入端、输出端添加全连接网络层对寿命数据进行升维、降维操作,得到当前寿命预测值;
S4.4基学习器训练:将类中心∝i对应的样本集合Si输入到S3搭建的Transformer网络模块中进行训练,得到类中心∝i对应的基学习器,最终得到训练好的基学习器集;
S4.5保存训练好的基学习器模型并在验证集上进行测试,根据验证集评价指标调整模型超参数,评价指标采用RMSE、Score两种指标,保存评价指标,得到不同类中心对应的、最优的基学习器模型;
S5.确定基学习器权重及加权集成输出,包括以下步骤:
S5.1计算待测样本与各类中心距离并以此动态地分配基学习器权重:将待测样本输入到S4.7中训练好的基学习器集中,得到预测结果集合{pre1,pre2,…,prec},设待测样本与各个类中心的距离集合为Dis={dis1,dis2,…,disc},此处采用欧氏距离,则计算基学习器的权重w_li公式为:
Figure FDA0003425240090000031
S5.2加权集成输出:将基学习器预测结果prei及对应权重w_li进行加权求和,得到最终的动态集成预测模型,其对该待测样本最终预测寿命值RUL:
RUL=∑w_li×prei,i∈{1,2,...,c}
S6.在测试数据上进行预测
S6.1按S1、S2中步骤对测试集数据预处理,并按动态集成预测模型的输入要求调整数据维度;
S6.2在测试集数据中随机抽取部分数据,采用动态集成预测模型给出剩余寿命值。
2.根据权利要求1所述的一种基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法,其特征在于,所述的步骤S4.5中:
所述RMSE指标为:
Figure FDA0003425240090000032
所述Score指标为:
Figure FDA0003425240090000033
其中,N为样本个数,hi为剩余寿命预测值RUL和剩余寿命真实值RULtrue间的误差。
CN202111577980.8A 2021-12-22 2021-12-22 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法 Pending CN114297918A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111577980.8A CN114297918A (zh) 2021-12-22 2021-12-22 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111577980.8A CN114297918A (zh) 2021-12-22 2021-12-22 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法

Publications (1)

Publication Number Publication Date
CN114297918A true CN114297918A (zh) 2022-04-08

Family

ID=80968904

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111577980.8A Pending CN114297918A (zh) 2021-12-22 2021-12-22 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法

Country Status (1)

Country Link
CN (1) CN114297918A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115618733A (zh) * 2022-10-24 2023-01-17 大连理工大学 针对航空发动机剩余使用寿命预测的多尺度混杂注意力机制建模方法
CN115879248A (zh) * 2023-03-03 2023-03-31 山东亿宁环保科技有限公司 一种适用于真空泵的全生命周期管理方法和***
CN116128158A (zh) * 2023-04-04 2023-05-16 西南石油大学 混合采样注意力机制的油井效率预测方法
WO2024045377A1 (zh) * 2022-09-02 2024-03-07 同济大学 一种基于深度学习的航空发动机剩余寿命预测方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024045377A1 (zh) * 2022-09-02 2024-03-07 同济大学 一种基于深度学习的航空发动机剩余寿命预测方法
CN115618733A (zh) * 2022-10-24 2023-01-17 大连理工大学 针对航空发动机剩余使用寿命预测的多尺度混杂注意力机制建模方法
WO2024087128A1 (zh) * 2022-10-24 2024-05-02 大连理工大学 针对航空发动机剩余使用寿命预测的多尺度混杂注意力机制建模方法
CN115879248A (zh) * 2023-03-03 2023-03-31 山东亿宁环保科技有限公司 一种适用于真空泵的全生命周期管理方法和***
CN116128158A (zh) * 2023-04-04 2023-05-16 西南石油大学 混合采样注意力机制的油井效率预测方法

Similar Documents

Publication Publication Date Title
CN114297918A (zh) 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法
CN111666982B (zh) 一种基于深度神经网络的机电设备故障诊断方法
CN111382542B (zh) 一种面向全寿命周期的公路机电设备寿命预测***
Fu et al. A novel time-series memory auto-encoder with sequentially updated reconstructions for remaining useful life prediction
CN114218872B (zh) 基于dbn-lstm半监督联合模型的剩余使用寿命预测方法
CN110705812A (zh) 一种基于模糊神经网络的工业故障分析***
Xu et al. A novel dual-stream self-attention neural network for remaining useful life estimation of mechanical systems
Liu et al. Complex engineered system health indexes extraction using low frequency raw time-series data based on deep learning methods
CN115791174B (zh) 一种滚动轴承异常诊断方法、***、电子设备及存储介质
CN112699597A (zh) 一种核电启动水泵滚动轴承故障检测方法及***
CN113188794A (zh) 一种基于改进pso-bp神经网络齿轮箱故障诊断方法及装置
CN115375026A (zh) 一种多故障模式下的航空发动机寿命预测方法
CN115081484A (zh) 基于crj-oselm算法的航空发动机传感器故障诊断方法
Chen et al. Real-time bearing remaining useful life estimation based on the frozen convolutional and activated memory neural network
Li et al. Intelligent fault diagnosis of aeroengine sensors using improved pattern gradient spectrum entropy
Sadoughi et al. A deep learning approach for failure prognostics of rolling element bearings
Li et al. A CM&CP framework with a GIACC method and an ensemble model for remaining useful life prediction
Wang et al. Three‐stage feature selection approach for deep learning‐based RUL prediction methods
Xu et al. Global attention mechanism based deep learning for remaining useful life prediction of aero-engine
Huang et al. A hybrid bayesian deep learning model for remaining useful life prognostics and uncertainty quantification
Wu et al. Ensemble recurrent neural network-based residual useful life prognostics of aircraft engines
CN112560252B (zh) 一种航空发动机剩余寿命预测方法
Li et al. Spherical-dynamic time warping–A new method for similarity-based remaining useful life prediction
CN115048873A (zh) 一种用于飞机发动机的剩余使用寿命预测***
Zhi-hong et al. Sensor fault diagnosis based on wavelet analysis and LSTM neural network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination