CN113987704A - 基于自动多微分学习深度网络的航空发动机寿命预测方法 - Google Patents
基于自动多微分学习深度网络的航空发动机寿命预测方法 Download PDFInfo
- Publication number
- CN113987704A CN113987704A CN202111261992.XA CN202111261992A CN113987704A CN 113987704 A CN113987704 A CN 113987704A CN 202111261992 A CN202111261992 A CN 202111261992A CN 113987704 A CN113987704 A CN 113987704A
- Authority
- CN
- China
- Prior art keywords
- model
- data
- output
- mcblstm
- trend
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 68
- 230000015556 catabolic process Effects 0.000 claims abstract description 14
- 238000006731 degradation reaction Methods 0.000 claims abstract description 14
- 230000002457 bidirectional effect Effects 0.000 claims description 26
- 230000008569 process Effects 0.000 claims description 24
- 238000004364 calculation method Methods 0.000 claims description 19
- 238000000605 extraction Methods 0.000 claims description 13
- 230000006870 function Effects 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 11
- 238000005259 measurement Methods 0.000 claims description 10
- 210000002569 neuron Anatomy 0.000 claims description 9
- 238000013528 artificial neural network Methods 0.000 claims description 8
- 230000036541 health Effects 0.000 claims description 8
- 239000011541 reaction mixture Substances 0.000 claims description 8
- 238000005516 engineering process Methods 0.000 claims description 7
- 230000007774 longterm Effects 0.000 claims description 7
- 210000004027 cell Anatomy 0.000 claims description 6
- 230000002441 reversible effect Effects 0.000 claims description 6
- 230000011218 segmentation Effects 0.000 claims description 6
- 238000011176 pooling Methods 0.000 claims description 4
- 238000007781 pre-processing Methods 0.000 claims description 4
- 230000003213 activating effect Effects 0.000 claims description 3
- 230000004913 activation Effects 0.000 claims description 3
- 238000004458 analytical method Methods 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 238000000638 solvent extraction Methods 0.000 claims description 3
- 210000000352 storage cell Anatomy 0.000 claims description 3
- 238000012216 screening Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 12
- 238000012360 testing method Methods 0.000 description 9
- 238000012549 training Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 7
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 4
- 238000003860 storage Methods 0.000 description 3
- 150000001875 compounds Chemical class 0.000 description 2
- 230000004069 differentiation Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 238000009412 basement excavation Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000013179 statistical model Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/17—Mechanical parametric or variational design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
- G06N5/022—Knowledge engineering; Knowledge acquisition
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F01—MACHINES OR ENGINES IN GENERAL; ENGINE PLANTS IN GENERAL; STEAM ENGINES
- F01D—NON-POSITIVE DISPLACEMENT MACHINES OR ENGINES, e.g. STEAM TURBINES
- F01D21/00—Shutting-down of machines or engines, e.g. in emergency; Regulating, controlling, or safety means not otherwise provided for
- F01D21/14—Shutting-down of machines or engines, e.g. in emergency; Regulating, controlling, or safety means not otherwise provided for responsive to other specific conditions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/15—Vehicle, aircraft or watercraft design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F05—INDEXING SCHEMES RELATING TO ENGINES OR PUMPS IN VARIOUS SUBCLASSES OF CLASSES F01-F04
- F05D—INDEXING SCHEME FOR ASPECTS RELATING TO NON-POSITIVE-DISPLACEMENT MACHINES OR ENGINES, GAS-TURBINES OR JET-PROPULSION PLANTS
- F05D2260/00—Function
- F05D2260/82—Forecasts
- F05D2260/821—Parameter estimation or prediction
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F05—INDEXING SCHEMES RELATING TO ENGINES OR PUMPS IN VARIOUS SUBCLASSES OF CLASSES F01-F04
- F05D—INDEXING SCHEME FOR ASPECTS RELATING TO NON-POSITIVE-DISPLACEMENT MACHINES OR ENGINES, GAS-TURBINES OR JET-PROPULSION PLANTS
- F05D2270/00—Control
- F05D2270/01—Purpose of the control system
- F05D2270/11—Purpose of the control system to prolong engine life
-
- F—MECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
- F05—INDEXING SCHEMES RELATING TO ENGINES OR PUMPS IN VARIOUS SUBCLASSES OF CLASSES F01-F04
- F05D—INDEXING SCHEME FOR ASPECTS RELATING TO NON-POSITIVE-DISPLACEMENT MACHINES OR ENGINES, GAS-TURBINES OR JET-PROPULSION PLANTS
- F05D2270/00—Control
- F05D2270/70—Type of control algorithm
- F05D2270/709—Type of control algorithm with neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/02—Reliability analysis or reliability optimisation; Failure analysis, e.g. worst case scenario performance, failure mode and effects analysis [FMEA]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Pure & Applied Mathematics (AREA)
- Computational Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Automation & Control Theory (AREA)
- Aviation & Aerospace Engineering (AREA)
- Mechanical Engineering (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供一种基于自动多微分学习深度网络的航空发动机寿命预测方法,具体步骤为:采集待预测航空发动机多维退化参数获得采集数据;采用滑动窗口对采集数据进行分割获得预处理数据;构建包括MBCNN模型、MCBLSTM模型、全连接层FC1、回归层的航空发动机剩余寿命预测模型;将预处理数据作为MBCNN模型的输入数据,提取MBCNN模型的输出,将MBCNN模型的输出及递归数据作为MCBLSTM模型的输入数据,提取MCBLSTM模型的输出;将MCBLSTM模型的输出作为全连接层FC1的输入,得到全连接层FC1的输出,将输入回归层中进行预测的剩余寿命的预测。本申请通过ADLDNN模型对特征自动筛选并于差异化学习相结合,提高了寿命预测的准确性和泛化能力。
Description
技术领域
本发明涉及航空发动机寿命预测领域,特别是一种基于自动多微分学习深度网络的航空发动机寿命预测方法。
背景技术
航空发动机是一种高度复杂和精密的热力机械,是为航空器提供飞行所需动力的发动机,由于其复杂的内部结构、恶劣的工作环境,航空发动机也更易发生故障;因此对航空发动机剩余使用寿命的准确预测,对航空发动机的运行和维护有极大的帮助。
随着科学技术的发展长短期记忆LSTM和卷积神经网络CNN被广泛应用于旋转机械剩余使用寿命RUL的预测中,但现有神经网络都是在统一的模式下处理数据的,因此无法采用不同的特征提取模式挖掘出不同层次的特征信息,预测精度差。
发明内容
本发明的目的就是提供一种基于自动多微分学习深度网络的航空发动机寿命预测方法,它可以用于航空发动机剩余寿命的预测。
本发明的目的是通过这样的技术方案实现的,具体步骤如下:
1)数据采集:采集待预测航空发动机多维退化参数,通过稳定趋势分析,选取若干能反映航空发动机退化性能的参数,获得采集数据;
2)数据预处理:采用滑动窗口技术对采集数据进行数据分割,获得预处理数据;
3)构建模型:构建基于自动多微分学习深度神经网络ADLDNN的航空发动机剩余寿命预测模型,所述寿命预测模型包括多分支卷积神经网络MBCNN模型、多细胞双向长短期记忆MCBLSTM模型、全连接层FC1、回归层;
4)特征提取:将预处理数据作为MBCNN模型的输入数据,提取MBCNN模型的输出,将MBCNN模型的输出及递归数据作为MCBLSTM模型的输入数据,提取MCBLSTM模型的输出;
5)寿命预测:将MCBLSTM模型的输出作为全连接层FC1的输入,得到全连接层FC1的输出,将全连接层FC1的输出输入回归层中进行预测的剩余寿命的预测。
进一步,所述多分支卷积神经网络MBCNN模型包括级别划分单元、空间特征异化提取单元;
所述多细胞双向长短期记忆MCBLSTM模型包括双向趋势划分单元、多细胞更新单元。
进一步,步骤4)中提取MBCNN模型的输出的具体步骤为:
4-1-1)级别划分:将步骤2)中的预处理数据作为输入数据,将t时刻的输入数据xt输入到MBCNN模型的级别划分单元中进行层级划分,所述层级划分单元包括一个由五个神经元组成的全连接层FC2,对全连接层FC2的输出Dt进行了softmax归一化操作,得到层级划分结果D1t:
D1t=softmax(Dt)=[d11t d12t d13t d14t d15t] (2)
式(1)、(2)中,wxd1和bd1分别表示全连接层FC2的权重和偏差,d11t、d12t、d13t、d14t和d15t分别代表重要级别、相对重要级别、一般级别、相对次要级别和次要级别五个级别,D1t中最大元素的位置表示当前输入的水平划分结果;
4-1-2)提取特征:根据输入数据的阶段划分结果D1,将输入数据输入空间特征异化提取单元的不同卷积路径中进行卷积处理,根据层次划分结果和设计的5条卷积路径,对输入测量值进行自动差分处理,得到健康特征ht 1:
式(3)中,Pij和Cij分别表示第i个卷积路径的第j个卷积运算和池化运算,为重要级别数据的卷积输出,为相对重要级别数据的卷积输出,为一般级别数据的卷积输出,为相对次要级别数据的卷积输出,为次要级别数据的卷积输出。
进一步,步骤4)中提取MCBLSTM模型的输出的具体步骤为:
4-2-1)趋势划分:将t时刻MBCNN模型的输出以及t-1时刻MCBLSTM模型的递归数据h2 t-1作为MCBLSTM模型t时刻的输入数据,输入双向趋势划分单元中进行趋势划分,所述双向趋势划分单元包括分别沿前向和后向划分其趋势水平的全连接层FC3、全连接层FC4,所述全连接层FC3与全连接层FC4均包括五个神经元,全连接层FC3与全连接层FC4的输出与分别为:
式(6)中,箭头→和←分别表示正向和反向过程,为全局趋势在双向计算过程中对应的数据更新单元,为短期趋势在双向计算过程中对应的数据更新单元,为中期趋势在双向计算过程中对应的数据更新单元,为中长期趋势在双向计算过程中对应的数据更新单元,为中短期趋势在双向计算过程中对应的数据更新单元,σ为sigmod激活函数,均为MCBLSTM模型输入门的权重,均为MCBLSTM模型遗忘门的权重,均为MCBLSTM细胞存储单元的权重,为MCBLSTM模型输入门的偏重,为MCBLSTM模型遗忘门的偏重,为MCBLSTM细胞存储单元的权重,⊙为点积运算,s1、s2、s3、s4均为通过学习获得的混合比例系数;
根据五个异化单元的更新结果以及趋势划分结果和对多细胞更新单元中各个子细胞单元的异化输出进行权重组合得到多细胞更新单元的输出和通过控制MCBLSTM模型的输出门和得到MCBLSTM模型t时刻的输出h2 t:
进一步,步骤5)中进行预测的剩余寿命预测的具体方法为:
将h2 t输入全连接层FC1中,采用dropout技术避免过拟合,得到全连接层FC1的输出h3 t,将h3 t输入回归层中得到预测的剩余寿命yt:
由于采用了上述技术方案,本发明具有如下的优点:
1、本申请根据不同的测量值在不同时期对机械故障的灵敏度不同,构建深度挖掘模型ADLDNN模型,通过ADLDNN模型对特征自动筛选并于差异化学习相结合,提高了寿命预测的准确性和泛化能力。
2、本申请通过MBCNN模型的级别划分单元对输入数据进行分类,将分类后的输入数据输入具有多分支卷积神经网络中,每个分支根据其输入数据的级别进行相应的特征提取;然后通过MCBLSTM模型的双向趋势级别划分单元将MBCNN的输出特征划分为若干级退化趋势以前向及后向传递两个角度,再利用多细胞更新单元对输入特征的双向趋势水平进行相应的特征学习输出健康指标,可以更好的挖掘航空发动机不同程度的健康状态退化趋势。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书和权利要求书来实现和获得。
附图说明
本发明的附图说明如下。
图1为本发明航空发动机寿命预测的方法流程图。
图2为本发明自动多微分学习深度神经网络ADLDNN模型的结构图。
图3为本发明数据预处理滑动窗口技术的示意图。
图4为本发明所述预测方法在FD001子集上的预测结果图。
图5为本发明所述预测方法在FD002子集上的预测结果图。
图6为本发明所述预测方法在FD003子集上的预测结果图。
图7为本发明所述预测方法在FD004子集上的预测结果图。
具体实施方式
下面结合附图和实施例对本发明作进一步说明。
如题1-图3所示的一种基于自动多微分学习深度网络的航空发动机寿命预测方法,具体步骤如下:
1)数据采集:采集待预测航空发动机多维退化参数,通过稳定趋势分析,选取若干能反映航空发动机退化性能的参数,获得采集数据,具体步骤为:
1-1)在C-MAPSS(商用模块化航空推进***仿真)对航空发动机的退化数据进行了仿真,采集待预测航空发动机多维退化参数,如表1所示:
表1.发动机运行时21个传感器的输出
如表2所示,将C-MAPSS数据集根据不同的运行条件和故障模式划分为4个子数据集:
表2.C-MAPSS数据集
每个子数据集包含训练数据、测试数据以及与测试数据相对应的实际剩余寿命RUL;训练数据包含从某一个健康状态到故障的所有发动机数据,而测试数据是发动机运行故障之前的数据;训练数据和试验数据分别包含一定数量的具有不同初始健康状态的发动机。
由于发动机初始健康状态不同,同一数据库中不同发动机的运行周期也不同。以FD001数据集为例,训练数据集包含100个引擎,最大运行周期为362,最小运行周期为128。为充分证明所提方法优越性,采用最简单的子集即单一工况和单一故障的子集FD001和最复杂的子集即多工况和多故障模式的子集FD004作为实验数据。
1-2)将一些稳定的趋势测量(传感器1、5、6、10、16、18和19的测量数据)提前被排除。这些传感器测量并不适合用于剩余寿命RUL预测,因为这些测量的全寿命测量曲线是稳定的、恒定的,即包含的发动机退化信息较少,又因为工况信息对模型的预测能力有显著影响。因此,筛选后的14个传感器测量和工况信息共同构成原始数据,获得采集数据。
2)数据预处理:采用滑动窗口技术对采集数据进行数据分割,获得预处理数据,具体方法为:
如图4所示,发动机的全生命周期为T,滑动窗口大小设为l,滑动步长设为m,则第i个输入样本的尺寸为l×n,其中:n为所选传感器个数与工况信息维数之和;
则第i个样本输入时实际剩余寿命RUL为T-l-(i-1)×m;
将线性分段剩余寿命RUL技术用于构造寿命标签,其定义如下所示:
式(10)中,Rulmax为最大剩余寿命,为提前设定的阈值。
在本发明实例中,FD001和FD004的最大寿命值分别设置为130和150次运行周期,设置滑动窗口大小l为30,滑动步长m为1。则FD001和FD004的训练样本大小分别可以计算为17731和54028,测试样本数则分别为100248,因为只使用了测试集的最后一次测量值进行预测能力验证。
3)构建模型:构建基于自动多微分学习深度神经网络ADLDNN的航空发动机剩余寿命预测模型,所述寿命预测模型包括多分支卷积神经网络MBCNN模型、多细胞双向长短期记忆MCBLSTM模型、全连接层FC1、回归层;
所述多分支卷积神经网络MBCNN模型包括级别划分单元、空间特征异化提取单元;
所述多细胞双向长短期记忆MCBLSTM模型包括双向趋势划分单元、多细胞更新单元。
4)特征提取:将预处理数据作为MBCNN模型的输入数据,提取MBCNN模型的输出,将MBCNN模型的输出及递归数据作为MCBLSTM模型的输入数据,提取MCBLSTM模型的输出,具体步骤为:
4-1)提取MBCNN模型的输出:
4-1-1)级别划分:将步骤2)中的预处理数据作为输入数据,将t时刻的输入数据xt输入到MBCNN模型的级别划分单元中进行层级划分,所述层级划分单元包括一个由五个神经元组成的全连接层FC2,对全连接层FC2的输出Dt进行了softmax归一化操作,得到层级划分结果D1t:
D1t=softmax(Dt)=[d11t d12t d13t d14t d15t] (12)
式(11)、(12)中,和分别表示全连接层FC2的权重和偏差,d11t、d12t、d13t、d14t和d15t分别代表重要级别、相对重要级别、一般级别、相对次要级别和次要级别五个级别,D1t中最大元素的位置表示当前输入的水平划分结果;
式(13)中,Pij和Cij分别表示第i个卷积路径的第j个卷积运算和池化运算,为重要级别数据的卷积输出,为相对重要级别数据的卷积输出,为一般级别数据的卷积输出,为相对次要级别数据的卷积输出,为次要级别数据的卷积输出。
提取MCBLSTM模型的输出的具体步骤为:
4-2-1)趋势划分:将t时刻MBCNN模型的输出以及t-1时刻MCBLSTM模型的递归数据h2 t-1作为MCBLSTM模型t时刻的输入数据,输入双向趋势划分单元中进行趋势划分,所述双向趋势划分单元包括分别沿前向和后向划分其趋势水平的全连接层FC3、全连接层FC4,所述全连接层FC3与全连接层FC4均包括五个神经元,全连接层FC3与全连接层FC4的输出与分别为:
式(16)中,箭头→和←分别表示正向和反向过程,为全局趋势在双向计算过程中对应的数据更新单元,为短期趋势在双向计算过程中对应的数据更新单元,为中期趋势在双向计算过程中对应的数据更新单元,为中长期趋势在双向计算过程中对应的数据更新单元,为中短期趋势在双向计算过程中对应的数据更新单元,σ为sigmod激活函数,均为MCBLSTM模型输入门的权重,均为MCBLSTM模型遗忘门的权重,均为MCBLSTM细胞存储单元的权重,为MCBLSTM模型输入门的偏重,为MCBLSTM模型遗忘门的偏重,为MCBLSTM细胞存储单元的权重,⊙为点积运算,s1、s2、s3、s4均为通过学习获得的混合比例系数;
根据五个异化单元的更新结果以及趋势划分结果和对多细胞更新单元中各个子细胞单元的异化输出进行权重组合得到多细胞更新单元的输出和通过控制MCBLSTM模型的输出门和得到MCBLSTM模型t时刻的输出h2 t:
在本发明实例中,为了尽可能长时间地保持全局趋势,细胞单元和由在上一时刻的细胞状态更新,为了及时替换局部趋势,单元和由此时刻的内部状态更新,根据BLSTM中传统的细胞更新机制,利用全局趋势与局部趋势对中期趋势和进行更新,利用全局趋势与中期趋势对中长期趋势进行更新,利用中期趋势与局部趋势对中短期趋势进行更新。
5)寿命预测:将MCBLSTM模型的输出作为全连接层FC1的输入,得到全连接层FC1的输出,将全连接层FC1的输出输入回归层中进行预测的剩余寿命的预测,具体方法为:
将h2 t输入全连接层FC1中,采用dropout技术避免过拟合,得到全连接层FC1的输出h3 t,将h3 t输入回归层中得到预测的剩余寿命y t:
在本发明实例中,训练过程中样本总数为N,将均方误差(MSE)定义为损失函数,则其计算公式为:
式(20)中,和Ruli分别为第i个样本的预测剩余寿命与实际剩余寿命,利用反向传播规则得到各层的误差梯度,并利用Adam优化方法优化模型的权重参数。并且为了避免学习深度中的过拟合问题,Dropout技术被采用。
采用网格搜索的方法对ADLDNN超参数进行选择:
C11、C12、C13、C14、C15、C21、C22、C23、C24、C31、C32、C33、C41、C42、C51的核大小分别设置为1、2、2、2、2、2、2、2、2、2、2、7、2、2、2、9;
P11、P12、P13、P14、P14、P21、P22、P23、P24、P31、P32、P33、P41、P42、P51的最大池化大小分别为2、1、1、1、1、1、1、1、1、2、1、1、2、2;
卷积核的步幅设为1,MCBLSTM的神经细胞数为30,全连接层FC1的神经细胞数为30,回归层的神经细胞数为1。dropout设置为0.5,将窗口大小和步长分别设置为30和1。
6)实验验证:
6-1)评价指标:采用IEEE评价分数(Score)和均方根误差(RMSE)作为评价指标对剩余使用寿命预测性能进行定量表征,评价指标可分别计算如下:
式(21)、(22)、(23)中,Ruli和分别为第i个发动机的实际寿命及预测寿命,N为子集中的发动机总数。这些指标的值与RUL性能成反比,即指标值越低,模型性能越好。Score相交于RMSE对过度预测的惩罚更大,更加符合工程实践。因此,在RMSE接近的情况下,更加倾向于基于Score对模型进行评价。
6-2)剩余使用寿命预测及对比:提出的ADLDNN首先通过FD001、FD002、FD003和FD004的训练集进行训练,然后通过相应的测试集进行测试。四个子集的预测结果分别如图4-7所示。
图4-7中,x轴为测试发动机的数量,y轴为RUL值。预测的RUL和实际的RUL分别用实线和虚线表示。图4-7的标题显示了预测结果的Score值和RMSE值。可以直观地看到,图4中预测规则与实际规则之间的误差一般要小于图5-7。这意味着所提出的ADLDNN在FD001上具有最高的性能。此外,该方法在FD003上的性能优于FD002,在FD004上性能最差。
发动机在单一工况下的退化趋势相对简单,同时训练集与测试集重叠程度较大;因此,FD001和FD003在单一工况下的预测结果优于FD002和FD004在多种工况下的预测结果。另外,FD001的预测结果比FD003的预测结果准确率更高,FD002的预测结果比FD004的预测结果准确率更高。由此可见,单失效模式下的预测精度高于多失效模式下的预测精度。我们还可以看到,FD003的预测结果优于FD002,这意味着失效模式数量对RUL预测的影响小于运行条件数量。
为了进一步突出ADLDNN在RUL预测中的优势,将其与基于统计模型、浅学习模型、经典DL模型以及最近发表的几种DL模型的各种典型方法进行了比较。另外,根据上述所有方法的预测结果计算得到的Score和RMSE如表3所示。从表中可以看出,所有方法对FD001的预测效果最高,对FD004的预测效果最差。这是因为FD001是最简单的子集,而FD004具有最复杂的运行条件、故障类型和比其他子集更多的测试引擎编号。由于所有方法对FD003的预测精度都优于对FD002的预测精度,我们进一步证明了工况和发动机编号相对于故障类型对RUL预测精度的影响更大。
从表3可以看出,对于最简单的FD001,所提出的方法得到的预测结果的Score和RMSE比目前的其他方法都要小,除了Acyclic Graph Network。但对于FD002和FD004等复杂数据集,该方法比其他典型方法具有更强的预测能力。此外,由于该Score在实际工程中比RMSE具有更高的实用性,ADLDNN被认为优于FD003中的Acyclic Graph Network。与现有的典型方法相比,本文提出的ADLDNN更适合于多工况、多故障类型的复杂数据集的处理。综上所述,ADLDNN具有较高的综合性能,可以更好地应用于机器RUL的预测。
表3不同方法在数据集上的预测表现定量对比
本领域内的技术人员应明白,本申请的实施例可提供为方法、***、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
最后应当说明的是:以上实施例仅用以说明本发明的技术方案而非对其限制,尽管参照上述实施例对本发明进行了详细的说明,所属领域的普通技术人员应当理解:依然可以对本发明的具体实施方式进行修改或者等同替换,而未脱离本发明精神和范围的任何修改或者等同替换,其均应涵盖在本发明的权利要求保护范围之内。
Claims (5)
1.基于自动多微分学习深度网络的航空发动机寿命预测方法,其特征在于,具体步骤如下:
1)数据采集:采集待预测航空发动机多维退化参数,通过稳定趋势分析,选取若干能反映航空发动机退化性能的参数,获得采集数据;
2)数据预处理:采用滑动窗口技术对采集数据进行数据分割,获得预处理数据;
3)构建模型:构建基于自动多微分学习深度神经网络ADLDNN的航空发动机剩余寿命预测模型,所述寿命预测模型包括多分支卷积神经网络MBCNN模型、多细胞双向长短期记忆MCBLSTM模型、全连接层FC1、回归层;
4)特征提取:将预处理数据作为MBCNN模型的输入数据,提取MBCNN模型的输出,将MBCNN模型的输出及递归数据作为MCBLSTM模型的输入数据,提取MCBLSTM模型的输出;
5)寿命预测:将MCBLSTM模型的输出作为全连接层FC1的输入,得到全连接层FC1的输出,将全连接层FC1的输出输入回归层中进行预测的剩余寿命的预测。
2.如权利要求1所述的基于自动多微分学习深度网络的航空发动机寿命预测方法,其特征在于,所述多分支卷积神经网络MBCNN模型包括级别划分单元、空间特征异化提取单元;
所述多细胞双向长短期记忆MCBLSTM模型包括双向趋势划分单元、多细胞更新单元。
3.如权利要求2所述的基于自动多微分学习深度网络的航空发动机寿命预测方法,其特征在于,步骤4)中提取MBCNN模型的输出的具体步骤为:
4-1-1)级别划分:将步骤2)中的预处理数据作为输入数据,将t时刻的输入数据xt输入到MBCNN模型的级别划分单元中进行层级划分,所述层级划分单元包括一个由五个神经元组成的全连接层FC2,对全连接层FC2的输出Dt进行了softmax归一化操作,得到层级划分结果D1t:
D1t=softmax(Dt)=[d11t d12t d13t d14t d15t] (2)
式(1)、(2)中,和分别表示全连接层FC2的权重和偏差,d11t、d12t、d13t、d14t和d15t分别代表重要级别、相对重要级别、一般级别、相对次要级别和次要级别五个级别,D1t中最大元素的位置表示当前输入的水平划分结果;
4.如权利要求2所述的基于自动多微分学习深度网络的航空发动机寿命预测方法,其特征在于,步骤4)中提取MCBLSTM模型的输出的具体步骤为:
4-2-1)趋势划分:将t时刻MBCNN模型的输出以及t-1时刻MCBLSTM模型的递归数据h2 t-1作为MCBLSTM模型t时刻的输入数据,输入双向趋势划分单元中进行趋势划分,所述双向趋势划分单元包括分别沿前向和后向划分其趋势水平的全连接层FC3、全连接层FC4,所述全连接层FC3与全连接层FC4均包括五个神经元,全连接层FC3与全连接层FC4的输出与分别为:
式(6)中,箭头→和←分别表示正向和反向过程,为全局趋势在双向计算过程中对应的数据更新单元,为短期趋势在双向计算过程中对应的数据更新单元,为中期趋势在双向计算过程中对应的数据更新单元,为中长期趋势在双向计算过程中对应的数据更新单元,为中短期趋势在双向计算过程中对应的数据更新单元,σ为sigmod激活函数,均为MCBLSTM模型输入门的权重,均为MCBLSTM模型遗忘门的权重,均为MCBLSTM细胞存储单元的权重,为MCBLSTM模型输入门的偏重,为MCBLSTM模型遗忘门的偏重,为MCBLSTM细胞存储单元的权重,⊙为点积运算,s1、s2、s3、s4均为通过学习获得的混合比例系数;
根据五个异化单元的更新结果以及趋势划分结果和对多细胞更新单元中各个子细胞单元的异化输出进行权重组合得到多细胞更新单元的输出和通过控制MCBLSTM模型的输出门和得到MCBLSTM模型t时刻的输出h2 t:
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111261992.XA CN113987704A (zh) | 2021-10-28 | 2021-10-28 | 基于自动多微分学习深度网络的航空发动机寿命预测方法 |
US17/972,539 US20230141864A1 (en) | 2021-10-28 | 2022-10-24 | Method for predicting remaining useful life (rul) of aero-engine based on automatic differential learning deep neural network (adldnn) |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111261992.XA CN113987704A (zh) | 2021-10-28 | 2021-10-28 | 基于自动多微分学习深度网络的航空发动机寿命预测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113987704A true CN113987704A (zh) | 2022-01-28 |
Family
ID=79743236
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111261992.XA Pending CN113987704A (zh) | 2021-10-28 | 2021-10-28 | 基于自动多微分学习深度网络的航空发动机寿命预测方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20230141864A1 (zh) |
CN (1) | CN113987704A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115982942A (zh) * | 2022-11-25 | 2023-04-18 | 浙江长龙航空有限公司 | 航空预冷器剩余寿命预测的方法、装置、设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110245745A (zh) * | 2019-05-30 | 2019-09-17 | 华中科技大学 | 基于集成双向循环神经网络的设备剩余使用寿命预测方法 |
CN110737948A (zh) * | 2019-10-15 | 2020-01-31 | 南京航空航天大学 | 一种基于深度fnn-lstm混合网络的航空发动机剩余寿命预测方法 |
CN110807257A (zh) * | 2019-11-04 | 2020-02-18 | 中国人民解放军国防科技大学 | 航空发动机剩余寿命预测方法 |
US20200143206A1 (en) * | 2018-11-05 | 2020-05-07 | Royal Bank Of Canada | System and method for deep reinforcement learning |
CN111832216A (zh) * | 2020-04-14 | 2020-10-27 | 新疆大学 | 基于eemd-mcnn-gru的滚动轴承剩余使用寿命预测方法 |
CN112580263A (zh) * | 2020-12-24 | 2021-03-30 | 湖南工业大学 | 基于时空特征融合的涡扇发动机剩余使用寿命预测方法 |
-
2021
- 2021-10-28 CN CN202111261992.XA patent/CN113987704A/zh active Pending
-
2022
- 2022-10-24 US US17/972,539 patent/US20230141864A1/en active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200143206A1 (en) * | 2018-11-05 | 2020-05-07 | Royal Bank Of Canada | System and method for deep reinforcement learning |
CN110245745A (zh) * | 2019-05-30 | 2019-09-17 | 华中科技大学 | 基于集成双向循环神经网络的设备剩余使用寿命预测方法 |
CN110737948A (zh) * | 2019-10-15 | 2020-01-31 | 南京航空航天大学 | 一种基于深度fnn-lstm混合网络的航空发动机剩余寿命预测方法 |
CN110807257A (zh) * | 2019-11-04 | 2020-02-18 | 中国人民解放军国防科技大学 | 航空发动机剩余寿命预测方法 |
CN111832216A (zh) * | 2020-04-14 | 2020-10-27 | 新疆大学 | 基于eemd-mcnn-gru的滚动轴承剩余使用寿命预测方法 |
CN112580263A (zh) * | 2020-12-24 | 2021-03-30 | 湖南工业大学 | 基于时空特征融合的涡扇发动机剩余使用寿命预测方法 |
Non-Patent Citations (3)
Title |
---|
SHENG XIANG等: "Automatic multi-differential deep learning and its application to machine remaining useful lifte prediction", 《RELIABILITY ENGINEERING & SYSTEM SAFETY》, 30 July 2022 (2022-07-30), pages 1 - 15 * |
何彦;凌俊杰;王禹林;李育锋;吴鹏程;肖圳;: "基于长短时记忆卷积神经网络的刀具磨损在线监测模型", 中国机械工程, no. 16, 25 August 2020 (2020-08-25), pages 73 - 81 * |
王旭;艾红;: "基于CAE与LSTM的航空发动机剩余寿命预测", 北京信息科技大学学报(自然科学版), no. 04, 15 August 2020 (2020-08-15), pages 60 - 65 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115982942A (zh) * | 2022-11-25 | 2023-04-18 | 浙江长龙航空有限公司 | 航空预冷器剩余寿命预测的方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US20230141864A1 (en) | 2023-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Theissler et al. | Explainable AI for time series classification: a review, taxonomy and research directions | |
CN112580263A (zh) | 基于时空特征融合的涡扇发动机剩余使用寿命预测方法 | |
CN114238100B (zh) | 基于GGNN和分层注意力网络的Java漏洞检测定位方法 | |
Wang et al. | A new approach for missing data imputation in big data interface | |
Hasanpour et al. | Software defect prediction based on deep learning models: Performance study | |
CN110580213A (zh) | 一种基于循环标记时间点过程的数据库异常检测方法 | |
CN111858328B (zh) | 一种基于有序神经网络的软件缺陷模块严重程度预测方法 | |
Wang et al. | A remaining useful life prediction model based on hybrid long-short sequences for engines | |
García-Vico et al. | Fepds: A proposal for the extraction of fuzzy emerging patterns in data streams | |
Mikes et al. | Optimizing an algorithm for data mining a design repository to automate functional modeling | |
CN113836822A (zh) | 一种基于mclstm模型的航空发动机寿命预测方法 | |
CN113987704A (zh) | 基于自动多微分学习深度网络的航空发动机寿命预测方法 | |
Bi et al. | AI in HVAC fault detection and diagnosis: A systematic review | |
Togatoropa et al. | Optimizing Random Forest using Genetic Algorithm for Heart Disease Classification | |
Martinez et al. | Deep learning evolutionary optimization for regression of rotorcraft vibrational spectra | |
CN114860953B (zh) | 一种基于少样本关系预测模型的可解释方法 | |
Bolchini et al. | Machine learning-based techniques for incremental functional diagnosis: A comparative analysis | |
Fávero et al. | Analogy-based effort estimation: A systematic mapping of literature | |
CN118335319B (zh) | 基于虚拟人仿真的常见重大疾病早期预测方法 | |
CN113868964A (zh) | 基于时空多异化处理深度网络的航空发动机寿命预测方法 | |
Panda et al. | Fuzzy modelling techniques for improving multi-label classification of software bugs | |
Tameswar | Towards Optimized K Means Clustering Using Nature-Inspired Algorithms for Software Bug Prediction | |
Aarthi et al. | Effective management of class imbalance problem in climate data analysis using a hybrid of deep learning and data level sampling | |
Huang | A Unified Soft Sensing Framework for Complex Dynamical Systems | |
Niu et al. | Comprehensive Review and Empirical Evaluation of Causal Discovery Algorithms for Numerical Data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |