CN113821974B - 基于多故障模式的发动机剩余寿命预测方法 - Google Patents

基于多故障模式的发动机剩余寿命预测方法 Download PDF

Info

Publication number
CN113821974B
CN113821974B CN202111042036.2A CN202111042036A CN113821974B CN 113821974 B CN113821974 B CN 113821974B CN 202111042036 A CN202111042036 A CN 202111042036A CN 113821974 B CN113821974 B CN 113821974B
Authority
CN
China
Prior art keywords
network
engine
life prediction
residual life
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111042036.2A
Other languages
English (en)
Other versions
CN113821974A (zh
Inventor
李珍
吴建国
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Peking University
Original Assignee
Peking University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Peking University filed Critical Peking University
Priority to CN202111042036.2A priority Critical patent/CN113821974B/zh
Publication of CN113821974A publication Critical patent/CN113821974A/zh
Application granted granted Critical
Publication of CN113821974B publication Critical patent/CN113821974B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2119/00Details relating to the type or aim of the analysis or the optimisation
    • G06F2119/04Ageing analysis or optimisation against ageing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
  • Combined Controls Of Internal Combustion Engines (AREA)

Abstract

本发明提供一种基于多故障模式的发动机剩余寿命预测方法,该方法首先使用长短时记忆网络(LSTM)网络从多通道传感数据中提取特征,然后,采用基于神经网络的函数结构,同时考虑故障模式判别模型与剩余寿命预测回归模型的逻辑关系而构建序贯式神经网络,最终输出剩余寿命预测。与传统的方法相比,本发明适用于多故障模式情况下的剩余寿命预测,能够提升估计结果的准确性,提供更准确的预测结果。

Description

基于多故障模式的发动机剩余寿命预测方法
技术领域
本发明属于发动机使用寿命的预测技术,具体涉及一种对多源传感器信号进行融合,构建序贯式多任务学习模型,对发动机剩余寿命进行预测的方法。
背景技术
如今,随着传感器和信息技术的飞速发展,多传感器普遍嵌入复杂机器***中,形成传感器网络用于机器状态监测和剩余使用寿命预测。因此,基于高维传感器数据开发适当的数据融合和特征提取技术是十分必要的。然而,大多数现有的发动机寿命预测方法仅针对一种故障模式,忽略了多种潜在故障模式之间的差异。事实上,随着制造工艺的发展,复杂***容易受到多种故障模式的影响,例如通信***和大型旋转机械等。在不同的故障模式下,退化过程可能表现出明显不同的退化路径,这使得状态监测和剩余使用寿命预测更具挑战性。由于不同的故障模式对退化轨迹有着明显的影响,只使用一个统一的剩余使用寿命预测的预测模型可能会导致跨不同故障模式的泛化性能低下,或者因为逼近分段函数而导致模型复杂性高。因此,考虑了故障模式识别的剩余寿命预测是实现准确和稳健的寿命分析必不可少的步骤。
发明内容
为了克服现有技术的不足,本发明提供一种基于多故障模式的发动机剩余寿命预测方法,具体地,采用基于神经网络的函数结构,同时考虑故障模式判别模型与剩余寿命预测回归模型的逻辑关系而构建的神经网络,提出了一种基于多种故障模式判别的发动机剩余寿命预测方法。本发明方法包括如下步骤:
(1)将多传感器数据处理为具有S个维度的固定长度L的个时间窗,其中Qn=max(Tn-L+1,1);其中:
令N表示机器总数,而T=(T1,...,TN)表示这N个发动机的总生命周期,假设对应的多传感器数据用表示,其中/>是故障模式为k的机器n的多传感器数据,大小为Tn×S,给出为
是故障模式为k的机器n的第s个传感器时序数据,/>是发动机n的传感器数据,在观测时期t的第s个传感器观测数据点;
(2)多层LSTM组成的长短时记忆网络层可以更好地提取时间特征并从时间序列数据中表征退化模式,针对各个故障模式的分类子任务设计为全连接层的神经网络,而全连接层可以有效地编译所有神经元并学习全连接层的输入和输出特征之间的潜在非线性函数,其中:
长短时记忆网络(LSTM)由单元状态ct,遗忘门Γf,更新门Γu,候选状态输出门Γo以及最后的输出值ht组成,令W和b表示神经网络中的权重和偏差,脚注f,u,c和o分别表示忘记门,更新门和候选单元以及输出
Γf=σ[Wf(ht-1,xt)]+bf, (式2)
Γu=σ[Wu(ht-1,xt)]+bu, (式3)
然后可以根据控制门(遗忘门Γf,更新门Γu)更新新的单元状态ct,如下所示
最终输出ht基于单元状态ct,但将通过输出门Γo的Sigmoid(σ)函数进行滤波,
ht=Γo⊙ct (式7)
(3)全连接层使用ReLU函数作为中间层的激活函数,而Softmax运算用于最后一个全连接层的输出,的Softmax激活函数如下所示:
得出在时间t的实例n属于故障模式k的概率其中e为自然常数e;
(4)基于不同的故障模式,将全连接层分支到多个回归子网络模型中,针对每个回归自网络生成剩余寿命预测估计将每个回归子网络针对不同故障模式/>生成的/>的概率输出进行积分,以提高预测结果的准确性,最终输出剩余寿命预测为
与现有技术相比,本发明的有益效果是:(1)针对多种故障模式建立分支子网络,用于剩余寿命预测的输入,通过复杂度低的子网络模型逼近复杂函数;(2)本发明可以实现在故障模式诊断和剩余寿命预测之间及不同故障模式下的剩余寿命预测任务的数据扩充和知识迁移。
附图说明
图1为本发明LSTM具体机制的示意图;
图2是本发明LSTM网络结构的示意图;
图3是本发明流程示意图。
具体实施方式
下面结合附图,通过实施例进一步描述本发明,但不以任何方式限制本发明的范围。
令N表示机器总数,而T=(T1,...,TN)表示这N个发动机的总生命周期。假设对应的多传感器数据用表示,其中/>是故障模式为k的机器n的多传感器数据,大小为Tn×S,给出为
是故障模式为k的机器n的第s个传感器时序数据,/>是发动机n的在观测时期t的第s个传感器收集到的观测数据。本发明关键是要根据状态监测信号识别潜在的故障模式并进一步预测剩余使用寿命。因此,为了描述顺序降级过程并捕获传感器信号的长期依赖性,本发明采用基于RNN的机制来处理时间数据。循环记忆网络(RNN)的基本思想是从有向循环开始,在历史单元之间建立连接。在此过程中,记忆有价值信息的关键是转换函数H,其转换公式为
ht=H(xt,ht-1), (3)
其中H接受当前时间的输入向量xt和隐藏的输出向量ht-1,后者是先前输入的内存的内部状态,用于更新当前的隐藏的输出ht。通过这种反馈机制,历史状态与当前输入交互,并有助于保留重要信息。但是,RNN从根本上说是一个非常深的前馈网络,其中所有层共享相同的权重,这使得难以保存长期信息。为了解决训练传统RNN时可能遇到的梯度消失或***问题,开发了长短时记忆网络(LSTM)作为RNN体系结构的重要变体。由于LSTM捕获的不同时间模式对于任务学习至关重要,因此非常适合对长时间序列数据进行分类和预测。LSTM具体机制可以描述为图1。
由于它是从标准的递归神经网络派生而来的,因此在LSTM中也存在反馈连接。在这种机制下,将前一个时间点t-1的LSTM单元的输出与当前时间点xt的观测值相结合,馈入下一个单元。这些顺序的单元形成LSTM网络,以处理多个传感器的时间数据。
具体而言,LSTM单元由单元状态ct,遗忘门Γf,更新门Γu,候选状态输出门Γo以及最后的输出值ht组成。单元会记住任意时间间隔内的值,而门会选择有价值的信息传递给LSTM。图2描绘了LSTM单个单元网络的结构。
具体来说,LSTM中的逐步信息转换可以说明如下。令W和b表示神经网络中的权重和偏差,脚注f,u,c和o分别表示忘记门,更新门和候选单元以及输出。LSTM的第一步是确定应该放弃单元状态中的哪些信息,这是通过“遗忘门”实现的。遗忘门Γf由S型神经元层和逐点乘法运算组成。sigmoid函数作用于上一步ht-1的输出和当前输入xt,以生成向量。由于S形函数的输出范围(表示为σ)在0到1之间,因此“遗忘门”会根据以下操作调节应从单元格中移出的信息流,
Γf=σ[Wf(ht-1,xt)]+bf, (3)
之后需要确定应在单元状态下存储哪些信息,其中包括以下两个部分。首先,Γu中的sigmoid函数决定要更新的值,然后tanh层创建候选向量上述操作可用以下公式表示:
Γu=σ[Wu(ht-1,xt)]+bu, (4)
然后可以根据控制门更新新的单元状态ct,如下所示
最终输出ht基于单元状态ct,但将通过Sigmoid(σ)函数进行滤波,以确定在以下方程式中要输出的单元状态的哪一部分。
ht=Γo⊙ct (7)
通过前述的单元存储功能机制,LSTM单元向量可以人为地忘记其先前存储的存储器,并可以在信息传输过程中添加新信息。
本发明提供了预测发动机剩余寿命的方法,如图3所示,主要包括四个部分,即填充,共享表示,分类和回归。具体而言,
第一部分填充是对原始多通道监视数据执行必要的数据预处理,通常,建立的模型应该能够对具有各种数据长度的发动机进行预测,然而,LSTM模型限定了输入为固定长度的时间序列。因此,除了诸如标准化之类的基本预处理操作之外,还需要填充层来处理持续时间小于预定序列长度的序列批次。在此层中,将序列用掩码值进行批处理填充到固定长度,该掩码值预设为与实际传感器信号可能数值完全不同。因此,被填充的批处理序列可以通过掩码技术由学习的网络模型直接区分,即将多传感器数据处理为具有S个维度的固定长度L的个时间窗,其中Qn=max(Tn-L+1,1)。
第二部分是共享表示由多层LSTM组成的长短时记忆网络层和使用ReLU(f(x)=max(0,x))作为激活函数的全连接层组成。长短时记忆网络层可以更好地提取时间特征并从时间序列数据中表征退化模式,而全连接层可以有效地编译所有神经元并学习全连接层的输入和输出特征之间的潜在非线性函数。
第三部分类为故障模式判别,将针对各个故障模式的分类子任务设计为全连接的神经网络,使用ReLU函数作为中间层的激活函数,而Softmax运算用于最后一个全连接层的输出 的Softmax激活函数如下所示:
通过该公式计算可得出在时间t的实例n属于故障模式k的概率
第四部分为回归,对于预测任务,由于不同的故障模式会导致不同的退化过程,因此精确预测的先决条件是将数据分组为相应的失效类别,然后分别对降级过程进行建模。因此,基于不同的故障模式,将分类层之前的共享表示层分支到多个回归子网络模型中,针对每个回归自网络生成最后,将每个回归子网络针对不同故障模式/>生成的/>的概率输出进行积分,以提高预测结果的准确性,最终输出剩余寿命预测为
本发明使用联合学习或优化来训练模型参数。设θ=[θc,θr]表示模型参数,其中θc表示共享表示层和分类层的所有参数,θr表示回归层的所有参数。对于剩余寿命预测任务,剩余寿命的真实值τn,t与估计值之间的均方根误差(RMSE)用于定义预测任务的损失,由下式给出
由于故障模式诊断任务本质上是一个多分类问题,因此该任务的目标是使类别标签逼近与估计的故障模式分布/>针对分类子任务的优化目标设置交叉熵函数,具体为
然后,计算这两个相互关联的任务的联合损失函数,总体目标是最大程度地减少如下的联合损失函数,
其中,λ是用于调节两个损失的权重。
本发明基于一阶梯度的目标函数优化算法。该步骤计算损失函数的偏导数:
其中
表示元素方平方。本发明在训练过程中将超参数设置为α=0.001,β1=0.9,β2=0.999和∈=10-8
从等式(15)-(16),可以发现两个任务的训练是联合优化的。与传统的多任务学习(损失函数仅将每个任务的损失累加)不同,本发明故障模式诊断和剩余寿命预测直接耦合关联。因此,通过优化联合损失函数,可以进一步增强故障模式诊断与剩余寿命预测的准确性。
虽然本发明已以较佳实施例披露如上,然而并非用以限定本发明。任何熟悉本领域的技术人员,在不脱离本发明技术方案范围情况下,都可利用上述揭示的方法和技术内容对本发明技术方案作出许多可能的变动和修饰,或修改为等同变化的等效实施例。因此,凡是未脱离本发明技术方案的内容,依据本发明的技术实质对以上实施例所做的任何简单修改、等同变化及修饰,均仍属于本发明技术方案保护的范围内。

Claims (5)

1.一种发动机剩余寿命预测方法,包括如下步骤:
(1)将多传感器数据处理为具有S个维度的固定长度L的个时间窗,其中Qn=max(Tn-L+1,1);其中:
令N表示机器总数,而T=(T1,...,TN)表示这N个发动机的总生命周期,假设对应的多传感器数据用表示,其中/>是故障模式为k的机器n的多传感器数据,大小为Tn×S,给出为
是故障模式为k的机器n的第s个传感器时序数据,/>是发动机n的传感器数据,在观测时期t的第s个传感器观测数据点;
(2)采用长短时记忆网络层提取多传感器数据的时间特征并从时间序列数据中表征退化模式,对各个故障模式的分类子任务设计为全连接的神经网络,全连接层编译所有神经元并学习全连接层的输入和输出特征之间的潜在非线性函数;
(3)全连接层使用ReLU函数作为中间层的激活函数,而Softmax运算用于最后一个全连接层的输出 的Softmax激活函数如下所示:
通过该公式计算得出在时间t的实例n属于故障模式k的概率
(4)基于不同的故障模式,将全连接层分支到多个回归子网络模型中,针对每个回归自网络生成剩余寿命预测估计将每个回归子网络针对不同故障模式/>生成的/>的概率输出进行积分,以提高预测结果的准确性,最终输出剩余寿命预测为:
2.如权利要求1所述的发动机剩余寿命预测方法,其特征在于,所述长短时记忆网络包括单元状态ct,遗忘门Γf,更新门Γu和候选状态令W和b表示神经网络中的权重和偏差,脚注f,u,c和o分别表示忘记门,更新门和候选单元以及输出
其中,
Γf=σ[Wf(ht-1,xt)]+bf, (式4)
Γu=σ[Wu(ht-1,xt)]+bu, (式5)
然后根据控制门更新单元状态ct,如下所示:
3.如权利要求2所述的发动机剩余寿命预测方法,其特征在于,所述长短时记忆网络最终输出值ht基于单元状态ct,通过输出门Γo的Sigmoid(σ)函数进行滤波,
ht=Γo⊙ct (式8)。
4.如权利要求1所述的发动机剩余寿命预测方法,其特征在于,剩余寿命的真实值τn,t与估计值之间的均方根误差用于定义预测任务的损失,由下式给出:
类别标签逼近故障模式k的概率/>针对分类子任务设置交叉熵函数,具体为:
5.如权利要求4所述的发动机剩余寿命预测方法,其特征在于,计算联合损失函数,具体为:
其中,λ是用于调节两个损失的权重。
CN202111042036.2A 2021-09-07 2021-09-07 基于多故障模式的发动机剩余寿命预测方法 Active CN113821974B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111042036.2A CN113821974B (zh) 2021-09-07 2021-09-07 基于多故障模式的发动机剩余寿命预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111042036.2A CN113821974B (zh) 2021-09-07 2021-09-07 基于多故障模式的发动机剩余寿命预测方法

Publications (2)

Publication Number Publication Date
CN113821974A CN113821974A (zh) 2021-12-21
CN113821974B true CN113821974B (zh) 2023-11-24

Family

ID=78921923

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111042036.2A Active CN113821974B (zh) 2021-09-07 2021-09-07 基于多故障模式的发动机剩余寿命预测方法

Country Status (1)

Country Link
CN (1) CN113821974B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117929906B (zh) * 2024-03-25 2024-06-04 天津蓝孚高能物理技术有限公司 一种辐照加速器用栅控电子枪的测试***

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109343505A (zh) * 2018-09-19 2019-02-15 太原科技大学 基于长短期记忆网络的齿轮剩余寿命预测方法
CN111476212A (zh) * 2020-05-18 2020-07-31 哈尔滨理工大学 一种基于长短时记忆法的电机故障检测***
AU2020104133A4 (en) * 2020-12-16 2021-03-04 Anjanamma, Chappidi MRS Expected conditional clustered regressive deep multilayer precepted neural learning for iot based cellular network traffic prediction with big data
CN112580263A (zh) * 2020-12-24 2021-03-30 湖南工业大学 基于时空特征融合的涡扇发动机剩余使用寿命预测方法
CN113158348A (zh) * 2021-05-21 2021-07-23 上海交通大学 基于深度学习耦合建模的飞机发动机剩余寿命预测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020000248A1 (zh) * 2018-06-27 2020-01-02 大连理工大学 一种基于空间重构的航空发动机过渡态加速过程关键性能参数预测方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109343505A (zh) * 2018-09-19 2019-02-15 太原科技大学 基于长短期记忆网络的齿轮剩余寿命预测方法
CN111476212A (zh) * 2020-05-18 2020-07-31 哈尔滨理工大学 一种基于长短时记忆法的电机故障检测***
AU2020104133A4 (en) * 2020-12-16 2021-03-04 Anjanamma, Chappidi MRS Expected conditional clustered regressive deep multilayer precepted neural learning for iot based cellular network traffic prediction with big data
CN112580263A (zh) * 2020-12-24 2021-03-30 湖南工业大学 基于时空特征融合的涡扇发动机剩余使用寿命预测方法
CN113158348A (zh) * 2021-05-21 2021-07-23 上海交通大学 基于深度学习耦合建模的飞机发动机剩余寿命预测方法

Also Published As

Publication number Publication date
CN113821974A (zh) 2021-12-21

Similar Documents

Publication Publication Date Title
CN111899510B (zh) 基于发散卷积和gat的智能交通***流量短期预测方法及***
Alaloul et al. Data processing using artificial neural networks
Lv et al. Generative adversarial networks for parallel transportation systems
CN110321603B (zh) 一种用于航空发动机气路故障诊断的深度计算模型
CN113094357B (zh) 一种基于时空注意力机制的交通缺失数据补全方法
CN112819136A (zh) 基于cnn-lstm神经网络模型与arima模型的时间序列预测方法及***
CN112763967B (zh) 一种基于BiGRU的智能电表计量模块故障预测与诊断方法
Miao et al. A novel real-time fault diagnosis method for planetary gearbox using transferable hidden layer
CN114282443B (zh) 基于mlp-lstm有监督联合模型的剩余使用寿命预测方法
CN113869563A (zh) 一种基于故障特征迁移的航空涡扇发动机剩余寿命预测方法
CN114218872B (zh) 基于dbn-lstm半监督联合模型的剩余使用寿命预测方法
CN110837888A (zh) 一种基于双向循环神经网络的交通缺失数据补全方法
CN113449919B (zh) 一种基于特征和趋势感知的用电量预测方法及***
CN112416358B (zh) 一种基于结构化词嵌入网络的智能合约代码缺陷检测方法
CN110991776A (zh) 一种基于gru网络实现水位预测的方法及***
CN114548591A (zh) 一种基于混合深度学习模型和Stacking的时序数据预测方法及***
CN113821974B (zh) 基于多故障模式的发动机剩余寿命预测方法
CN114662791A (zh) 一种基于时空注意力的长时序pm2.5预测方法及***
CN116542701A (zh) 一种基于cnn-lstm组合模型的碳价预测方法及***
Lin et al. Remaining useful life prediction in prognostics using multi-scale sequence and Long Short-Term Memory network⋆
Saha et al. A brief review on artificial neural network: network structures and applications
Mazzi et al. Lithium-ion battery state of health estimation using a hybrid model based on a convolutional neural network and bidirectional gated recurrent unit
CN113988210A (zh) 结构监测传感网失真数据修复方法、装置及存储介质
CN112381213A (zh) 一种基于双向长短期记忆网络的工业设备剩余寿命预测方法
CN111524349A (zh) 一种语境特征注入的多尺度交通流预测模型及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant