CN110378052B - 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 - Google Patents
基于循环神经网络考虑未来工况的设备剩余寿命预测方法 Download PDFInfo
- Publication number
- CN110378052B CN110378052B CN201910676192.0A CN201910676192A CN110378052B CN 110378052 B CN110378052 B CN 110378052B CN 201910676192 A CN201910676192 A CN 201910676192A CN 110378052 B CN110378052 B CN 110378052B
- Authority
- CN
- China
- Prior art keywords
- model
- lstm
- data
- group
- residual life
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 11
- 125000004122 cyclic group Chemical group 0.000 title description 3
- 238000012544 monitoring process Methods 0.000 claims abstract description 41
- 238000002474 experimental method Methods 0.000 claims abstract description 10
- 238000007781 pre-processing Methods 0.000 claims abstract description 7
- 230000000306 recurrent effect Effects 0.000 claims abstract description 7
- 238000012549 training Methods 0.000 claims description 43
- 238000012360 testing method Methods 0.000 claims description 21
- 230000036541 health Effects 0.000 claims description 16
- 239000011159 matrix material Substances 0.000 claims description 13
- 238000012795 verification Methods 0.000 claims description 8
- 238000004422 calculation algorithm Methods 0.000 claims description 6
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 5
- 238000012512 characterization method Methods 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 4
- 230000008859 change Effects 0.000 claims description 3
- 230000003247 decreasing effect Effects 0.000 claims description 3
- 238000000605 extraction Methods 0.000 claims description 3
- 238000012886 linear function Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 2
- 230000015556 catabolic process Effects 0.000 description 5
- 238000006731 degradation reaction Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000003862 health status Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008014 freezing Effects 0.000 description 1
- 238000007710 freezing Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000013179 statistical model Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000011282 treatment Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/17—Mechanical parametric or variational design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/04—Manufacturing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Geometry (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- General Health & Medical Sciences (AREA)
- Operations Research (AREA)
- Biophysics (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Quality & Reliability (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Entrepreneurship & Innovation (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Computational Mathematics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Manufacturing & Machinery (AREA)
- Primary Health Care (AREA)
- Testing And Monitoring For Control Systems (AREA)
- Testing Of Devices, Machine Parts, Or Other Structures Thereof (AREA)
Abstract
本发明公开了一种基于循环神经网络考虑未来工况的设备剩余寿命预测方法，其包括以下步骤：S1：获取反映目标设备工作状况的多个传感器监测数据集，包括设备从初始时刻到失效的监测数据，并对数据进行预处理；S2：利用滑动时间窗口方法根据监测数据获得建模样本，并根据实验选取预设的时间窗口大小；S3：根据建模样本建立深度LSTM模型，使用训练后的深度LSTM模型对目标设备进行初步剩余寿命预测；S4：根据初步预测结果和未来工况数据，建立考虑未来工况的多输入端模型，对目标设备进行剩余寿命预测。该方法能够准确地预测设备的剩余寿命，在未来工况已知的情况下，能够考虑未来工况对剩余寿命的影响，提高预测准确度。
Description
技术领域
本发明涉及数据驱动的剩余寿命预测方法领域，具体地涉及一种基于LSTM(LongShort-Term Memory，即长短期记忆)循环神经网络的能够考虑未来工况的设备剩余寿命预测方法。
背景技术
剩余寿命预测方法可以分为以下四类，即基于物理模型的方法、基于统计模型的方法、人工智能方法以及混合方法。对于一些复杂产品往往难以建立精确的失效物理模型，人工智能方法可以基于历史退化数据预测剩余寿命。近几年已经有许多人工智能方法被提出并取得了较好的预测结果。随着传感器技术的发展，有大量的退化数据可以获得，同时对这些数据的处理和特征提取需要大量的人工操作。因此，作为人工智能的一种常用重要方法，深度学习可以融合多变量数据，提取高维特征，是一种有力且高效的剩余寿命预测方法。当有大量历史退化数据可以获得时，深度学习方法往往优于传统的剩余寿命预测方法。已有大量的深度学习技术被用来预测剩余寿命。然而，之前的工作只关注处理历史数据，而没有考虑未来工况这一对剩余寿命预测有重要影响的因素。通过考虑未来工况，可以获得更准确的剩余寿命预测结果，同时可以为决策者提供信息来调整未来工作计划，从而延长设备寿命。
为了结合历史传感器数据和未来工况信息，需要得到设备当前的健康状态，在许多研究中通过建立健康指标来描述***健康状态。通常，健康指标被假设为是一个一维变量。然而对于有多种失效模式和退化机理的复杂设备，一维的健康指标并不能全面地描述设备当前的健康状态，需要建立多维健康指标来与未来工况信息相结合。
LSTM模型可以挖掘输入序列中的长时相关性，是序列建模预测的有效方法，但是普通LSTM模型的输入是一个固定大小的矩阵，无法将维度不同的历史传感器数据与未来工况数据同时输入。目前尚没有将二者分别处理再结合以预测剩余寿命的方法。
发明内容
本发明的目的在于提出一种能考虑未来工况的设备剩余寿命预测方法。为此需要建立适当的模型，将历史传感器数据和未来工况数据结合，共同预测剩余寿命。
本发明提出的方法利用多输入端模型将具有不同维度的历史传感器数据和未来工况数据有效地结合在一起，共同预测剩余寿命。模型可以刻画未来工况对剩余寿命的影响，既可以获得更高的预测准确度，还可以根据模型的预测结果调整设备的工作计划，以延长设备的寿命。
具体地，本发明提供的一种基于循环神经网络考虑未来工况的设备剩余寿命预测方法，其包括以下步骤：
S1：获取反映目标设备工作状况的从初始时刻到失效的监测数据，并对监测数据进行预处理，其中所述监测数据包括多个传感器测量得到的历史传感器数据；
S2：利用滑动时间窗口方法根据监测数据获得建模样本，并根据实验选取预设的时间窗口大小；
S3：构建深度LSTM模型，将所述S2中获得的建模样本分为训练组、验证组和测试组，并使用训练组对所述深度LSTM模型进行训练，使用Adam算法更新深度LSTM模型中的参数，使用均方误差作为训练时的损失函数，当验证组的预测误差停止减小时中止训练，计算测试组上的所述深度LSTM模型的预测误差，并使用训练后的深度LSTM模型对目标设备进行初步剩余寿命预测；以及
S4：根据所述S3中得到的初步剩余寿命预测的结果计算未来工况输入数据的长度，建立考虑未来工况的多输入端模型，所述多输入端模型包括第一组LSTM网络和第二组LSTM网络，通过第一组LSTM网络和第二组LSTM网络分别对历史传感器数据和所述目标设备的未来工况输入数据进行特征提取，使用所述S3中得到训练后的深度LSTM模型作为第一组LSTM网络的预训练模型，精调所述第一组LSTM网络的最后LSTM层，再将从所述第一组LSTM网络获得的多维健康指标数据和从所述第二组LSTM网络获得的未来工况输入数据的表征数据相结合，共同对目标设备进行剩余寿命预测。
可优选的是，所述监测数据包括反映目标设备健康状态、工作环境或载荷的所述多个传感器历史监测数据。
进一步，对所述监测数据的预处理包括：
S11、对各传感器的数据进行筛选，去除在同一工况下不随时间改变的传感器监测数据；
S12、数据归一化，根据各传感器在不同工况下的最大值和最小值按照下式进行归一化，
其中，x(i，m)表示第m个传感器在第i个时间点的原始值，
表示x(i，m)归一化后的值，
和
表示第m个传感器在第c种工况下的最大值和最小值；每个x(i，m)都用相应的
和
进行归一化；
S13、设置各时间点剩余寿命标签，根据各传感器的监测数据的变化趋势，选取最大剩余寿命标签值，并利用分段线性函数来设置各时间点的剩余寿命标签值；以及
S14、若目标设备经历的工况能够聚类，则对聚类后的工况用one-hot编码，获得反映工况的代码表达的监测数据。
可优选的是，对于每个样本，在时间窗口范围内的所有历史传感器监测数据共同构成模型的输入矩阵；对于每个输入矩阵，最后一个时间步对应的剩余寿命作为所述输入矩阵的目标输出值；通过将时间窗口从历史传感器监测数据的第一个时间步滑动到最后一个时间步，能够获得包含输入矩阵和目标输出值的样本用于建立模型，其中所述时间窗口大小根据预实验的结果来决定。
可优选的是，所述深度LSTM模型包括一层遮蔽层和若干层LSTM层，所述遮蔽层用于跳过填充的时间步，所述LSTM层用于输入数据的特征提取，根据所述建模样本对所述模型进行训练，以得到所述深度LSTM模型。
可优选的是，在建立多输入端模型前，先利用所述深度LSTM模型对目标设备的剩余寿命进行预估，计算所述深度LSTM模型在测试组上的预测平均绝对误差和预估值之和，并将计算结果作为所述多输入端模型的未来工况输入数据的长度。
可优选的是，由所述多输入端模型的第一组LSTM网络和第二组LSTM网络得到的多为健康指标和未来工况输入数据表征数据相结合后，输入到全连接层中，经过全连接层的回归计算，得到最终的剩余寿命预测结果，其中所述全连接层与所述第一组LSTM网络和第二组LSTM网络是共同进行训练的。
可优选的是，所述多输入端模型的训练以所述深度LSTM模型为基础，首先构建多输入端模型结构，然后将所述S3中得到的深度LSTM模型的输出层以外的参数赋值给所述多输入端模型的第一组LSTM网络中的参数，将所述第一组LSTM网络的最后LSTM层以外的参数保持不变，使用Adam优化算法同时更新多输入端模型的其余所有参数。
本发明优化算法的学习率要更小，保证参数更新的幅度足够小以防破坏预训练网络已提取的特征。
与现有技术相比，本发明具有以下创新点：
(1)本发明针对在未来工况已知的情况下更好地预测剩余寿命，提出了一种多输入端模型，该模型可以将具有不同维度的历史传感器数据和未来工况数据有效地结合在一起，共同预测剩余寿命。模型能刻画未来工况对剩余寿命的影响，既可以获得更高的预测准确度，还可以根据模型的预测结果调整设备的工作计划，以延长设备的寿命。
(2)本发明提出先不考虑未来工况预估目标设备的剩余寿命，再结合预估的准确度计算得到未来工况输入序列的长度，以避免信息的损失或冗余。
(3)本发明提出多输入端模型的一种精调策略，将深度LSTM模型作为多输入端模型一部分的预训练模型，再进行精调，以降低模型的训练难度，提高模型的有效性。
(4)本发明提出使用多维健康指标来表征设备的当前健康状态。
附图说明
图1是本发明基于循环神经网络考虑未来工况的设备剩余寿命预测方法的步骤流程图；
图2是本发明实施例中一台设备的一个传感器全寿命周期的监测值；
图3是本发明LSTM神经元的内部结构；
图4是本发明深度LSTM模型结构；
图5是本发明模型训练流程图；
图6是本发明FD002测试集预测结果；
图7是本发明FD004测试集预测结果；
图8是本发明多输入端模型结构；以及
图9是本发明未来工况输入序列长度和多输入端模型精调方法示意图。
具体实施方式
下面详细描述本发明的实施例，实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。
本发明提供一种基于循环神经网络考虑未来工况的设备剩余寿命预测方法。下面结合附图1所示的方法流程，以C-MAPSS涡扇发动机仿真数据集的三个包含多种工况的子集为例，在下文中分别称为挑战比赛数据、FD002和FD004，对本发明的建模方法做进一步描述；
三个数据集都分别包括一个训练集和一个测试集。训练集包括多个同类发动机的全寿命周期监测数据，包括21个传感器数据序列和3个工况传感器数据序列。每台发动机由不同的初始健康状态开始工作，一段时间后开始退化，直到***失效。测试集中的传感器数据序列在***失效前的某一时间终止，目标就是要预测这些发动机在记录数据的最后一个时间点的剩余寿命。此外，FD002和FD004两组数据的测试集的各发动机剩余寿命是已知的，但是挑战比赛数据的未知。因此，FD002和FD004中测试集的预测结果与其他已有方法的结果对比可以证明本发明S3步骤得到的模型的有效性。而训练集有全寿命周期的数据，每一个时间步的未来工况信息是已知的，因此这部分数据可以被用来验证本发明整体方法在未来工况已知情况下的剩余寿命预测的有效性。
步骤一：对原始数据进行预处理。即，获取反映目标设备工作状况的从初始时刻到失效的监测数据，并对监测数据进行预处理，其中监测数据包括多个传感器测量得到的历史传感器数据。
首先进行特征选择，去除传感器监测数据中随时间没有明显变化趋势的数据序列。在本例中，21个传感器监测数据序列中，有7个数据序列在同一工况下一直保持不变，这些数据对剩余寿命预测没有任何作用，应该被舍弃掉。
每个传感器监测数据的幅值不同，同一传感器在不同工况下的幅值也不同。为了使传感器监测数据都在同一范围内有相同的幅值，并减小不同工况的影响，按照下式对传感器监测数据在不同工况下进行归一化处理，放缩到[0，1]范围内。
其中，x(i，m)表示第m个传感器在第i个时间点的原始值，
表示x(i，m)归一化后的值，
和
表示第m个传感器在第c种工况下的最大值和最小值。每个x(i，m)都用相应的
和
进行归一化。
设置各时间点的剩余寿命标签。事实上，设备在早期的工作是正常的，一段时间以后才开始退化。例如，在本例中，FD002第一台设备的归一化后的第11个传感器监测值如附图2所示。从图中可以看出，传感器测量值在早期没有明显的变化趋势，退化开始后才表现出增大的趋势。注意到其他传感器测量值也有同样的现象，因此可以假设在早期剩余寿命的标签是一个常数，使用一个分段线性函数来设置各时间点的标签。在本例中，早期剩余寿命设为125。
对于可以聚类的工况，聚类后用one-hot向量表示各类工况。在本例中，利用数据集中三个工况传感器监测数据在三维图中画出散点图，可以看出所有点都集中在六个点附近，于是可以容易的将工况分为六类，并用长度为6的one-hot向量表示各类工况。
进一步地，在本例中，使用在PHM’08会议比赛中使用的一种评分函数和均方根误差(RMSE)来计算模型预测的误差，其具体计算表达式如下：
步骤二：利用滑动时间窗口方法根据监测数据获得建模样本，并根据实验选取预设的时间窗口大小。对于每个样本，在时间窗口范围内的所有历史传感器数据共同构成模型的输入矩阵。对于每个输入矩阵，最后一个时间步对应的剩余寿命作为该输入矩阵的标签即目标输出值。通过将时间窗口从历史传感器数据的第一个时间步滑动到最后一个时间步，可以获得包含输入矩阵和目标输出值的样本，用于建立模型。时间窗口的大小是一个重要的参数。选取不同的窗口大小，通过10-折叠交叉验证实验结果确定合适的值。在本例中，不同窗口大小的实验结果如表1所示。根据实验结果，选择窗口大小为80，即对于每台设备的历史传感器数据，从第1个时间点到第80个时间点的数据作为第一个输入样本，从第2个时间点到第81个时间点的数据作第二个输入样本，如此划分下去，直到最后一个时间点的数据被划分进一个样本。
表1不同时间窗口大小的实验结果
步骤三：根据建模样本建立深度LSTM模型，即多层LSTM模型。构建深度LSTM模型，将S2中获得的建模样本分为训练组、验证组和测试组，并使用训练组对深度LSTM模型进行训练，使用Adam算法更新深度LSTM模型中的参数，使用均方误差作为训练时的损失函数，当验证组的预测误差停止减小时中止训练，计算测试组上的深度LSTM模型的预测误差，并使用训练后的深度LSTM模型对目标设备进行初步剩余寿命预测。模型中每个单元，即LSTM神经元的结构如图3所示。基于LSTM神经元，构建如图4所示的深度LSTM模型，并用步骤二得到的建模样本进行模型训练和选择。
具体地，模型训练和选择的流程如图5所示。首先，数据集经过预处理得到了包含归一化后的传感器监测数据和代表不同工况的one-hot向量的时间序列。然后，通过滑动时间窗口方法得到了2维的输入样本，窗口的大小通过不同值的实验确定。
深度LSTM模型对于建立多输入端模型是必要的。当未来工况已知时，每个样本的未来工况输入数据长度是深度LSTM模型的剩余寿命预估值及其在测试组的平均绝对误差之和。如果已知的未来工况序列长度不足，则在其后随机生成工况来补足。需要注意的是，每个样本的未来工况输入序列长度并不相同，所以在较短的序列后面补零使得每个样本的未来工况的维度相同，以便模型的训练。
然后，由训练集得到的样本按照8：1：1的比例进一步分为训练组、验证组和测试组。训练组的样本用于训练模型，验证组的样本用于决定训练轮数防止过拟合，当在最大训练轮数之前验证组的误差不再减小时则停止训练，测试组用于评价模型的表现并选择模型的超参数。
接着，基于准备好的样本，先建立深度LSTM网络，它的结构参数根据其在测试组样本上的表现决定。然后，基于第一个建立好的模型，建立考虑未来工况的多输入端模型。模型根据每小批次样本的均方误差进行训练，在本例中，每批次包括1024个样本比较合适。
最后，测试组的样本输入到模型中预测其剩余寿命，并计算预测误差。在本例中，FD002和FD004测试集中各目标设备的预测结果分别如图6和图7所示，各测试集的设备按照标签从小到大排序。可以发现，预测值比较接近真实值，尤其是当设备快要失效时。本发明的方法在这一步的预测结果与现有其他方法的对比如表2所示：
表2本发明中剩余寿命初步预估准确度与现有其他方法预测准确度对比
步骤四：根据初步预测结果和未来工况数据，建立考虑未来工况的多输入端模型，据此预测目标设备剩余寿命。根据S3中得到的初步剩余寿命预测的结果计算未来工况输入数据的长度，建立考虑未来工况的多输入端模型，多输入端模型包括第一组LSTM网络和第二组LSTM网络，通过第一组LSTM网络和第二组LSTM网络分别对历史传感器数据和目标设备的未来工况输入数据进行特征提取，使用S3中得到训练后的深度LSTM模型作为第一组LSTM网络的预训练模型，精调第一组LSTM网络的最后LSTM层，再将从第一组LSTM网络获得的多维健康指标数据和从第二组LSTM网络获得的未来工况输入数据的表征数据相结合，共同对目标设备进行剩余寿命预测。
构建如图8所示的多输入端模型，并根据步骤三得到的目标设备剩余寿命预估值及其统计平均绝对误差计算得到未来工况输入序列长度，根据未来工作计划得到未来工况输入序列，与历史传感器数据组成输入样本，进行模型训练和选择。模型的训练和选择的总体过程同步骤三，如图5所示。
生成未来工况输入序列和训练多输入端模型的精调方法如图9所示。具体地，第一步，不考虑未来工况，通过深度LSTM模型预估每一个目标设备的剩余寿命，并计算每个目标设备对应的未来工况输入序列长度；第二步，根据未来工况输入序列长度和未来工作计划得到每个目标设备的未来工况数据；第三步，载入训练好的S3中得到的深度LSTM模型中的LSTM部分，最后一层全连接层以外的全部结构和预训练好的参数作为多输入端模型中计算多维健康指标的预训练模型；第四步，构建整个多输入端神经网络，冻结预训练模型中最后一层LSTM层以外的层，并训练网络的其他部分。
表3两种模型的预测结果对比
不考虑未来工况的深度LSTM模型和考虑未来工况的多输入端模型的预测结果对比如上面的表3所示。可以看出，当未来工况已知时，多输入端模型的预测结果更准，此外，预测结果还表明，使用图9所示的生成未来工况输入序列和训练多输入端模型的精调方法可以提高模型的预测准确度，因此，本发明的方法是更有效的。
最后应说明的是：以上所述的实施例仅用于说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分或全部技术特征进行等同替换；而这些修改或替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (4)
1.一种基于循环神经网络考虑未来工况的设备剩余寿命预测方法，其特征在于，其包括以下步骤：
S1：获取反映目标设备工作状况的从初始时刻到失效的监测数据，并对监测数据进行预处理，其中所述监测数据包括多个传感器测量得到的历史传感器数据；
对所述监测数据的预处理包括：
S11、对各传感器的数据进行筛选，去除在同一工况下不随时间改变的传感器监测数据；
S12、数据归一化，根据各传感器在不同工况下的最大值和最小值按照下式进行归一化，
其中，x(i，m)表示第m个传感器在第i个时间点的原始值，
表示x(i，m)归一化后的值，
和
表示第m个传感器在第c种工况下的最大值和最小值；每个x(i，m)都用相应的
和
进行归一化；
S13、设置各时间点剩余寿命标签，根据各传感器的监测数据的变化趋势，选取最大剩余寿命标签值，并利用分段线性函数来设置各时间点的剩余寿命标签值；
S14、若目标设备经历的工况能够聚类，则对聚类后的工况用one-hot编码，获得反映工况的代码表达的监测数据；
S2：利用滑动时间窗口方法根据监测数据获得建模样本，并根据实验选取预设的时间窗口大小；
对于每个样本，在时间窗口范围内的所有历史传感器监测数据共同构成模型的输入矩阵；对于每个输入矩阵，最后一个时间步对应的剩余寿命作为所述输入矩阵的目标输出值；通过将时间窗口从历史传感器监测数据的第一个时间步滑动到最后一个时间步，能够获得包含输入矩阵和目标输出值的样本用于建立模型，其中所述时间窗口大小根据预实验的结果来决定；
S3：构建深度LSTM模型，将所述S2中获得的建模样本分为训练组、验证组和测试组，并使用训练组对所述深度LSTM模型进行训练，使用Adam算法更新深度LSTM模型中的参数，使用均方误差作为训练时的损失函数，当验证组的预测误差停止减小时中止训练，计算测试组上的所述深度LSTM模型的预测误差，并使用训练后的深度LSTM模型对目标设备进行初步剩余寿命预测；
S4：根据所述S3中得到的初步剩余寿命预测的结果计算未来工况输入数据的长度，建立考虑未来工况的多输入端模型，所述多输入端模型包括第一组LSTM网络和第二组LSTM网络，通过第一组LSTM网络和第二组LSTM网络分别对历史传感器数据和所述目标设备的未来工况输入数据进行特征提取，使用所述S3中得到训练后的深度LSTM模型作为第一组LSTM网络的预训练模型，精调所述第一组LSTM网络的最后LSTM层，再将从所述第一组LSTM网络获得的多维健康指标数据和从所述第二组LSTM网络获得的未来工况输入数据的表征数据相结合，共同对目标设备进行剩余寿命预测；
在建立多输入端模型前，先利用所述深度LSTM模型对目标设备的剩余寿命进行预估，计算所述深度LSTM模型在测试组上的预测平均绝对误差和预估值之和，并将计算结果作为所述多输入端模型的未来工况输入数据的长度；
由所述多输入端模型的第一组LSTM网络和第二组LSTM网络得到的多维健康指标和未来工况输入数据表征数据相结合后，输入到全连接层中，经过全连接层的回归计算，得到最终的剩余寿命预测结果，其中所述全连接层与所述第一组LSTM网络和第二组LSTM网络是共同训练。
2.根据权利要求1所述的基于循环神经网络考虑未来工况的设备剩余寿命预测方法，其特征在于，所述监测数据包括反映目标设备健康状态、工作环境或载荷的所述多个传感器历史监测数据。
3.根据权利要求1所述的基于循环神经网络考虑未来工况的设备剩余寿命预测方法，其特征在于，所述深度LSTM模型包括一层遮蔽层和若干层LSTM层，所述遮蔽层用于跳过填充的时间步，所述LSTM层用于输入数据的特征提取，根据所述建模样本对所述模型进行训练，以得到所述深度LSTM模型。
4.根据权利要求1所述的基于循环神经网络考虑未来工况的设备剩余寿命预测方法，其特征在于，所述多输入端模型的训练以所述深度LSTM模型为基础，首先构建多输入端模型结构，然后将所述S3中得到的深度LSTM模型的输出层以外的参数赋值给所述多输入端模型的第一组LSTM网络中的参数，将所述第一组LSTM网络的最后LSTM层以外的参数保持不变，使用Adam优化算法同时更新多输入端模型的其余所有参数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910676192.0A CN110378052B (zh) | 2019-07-25 | 2019-07-25 | 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910676192.0A CN110378052B (zh) | 2019-07-25 | 2019-07-25 | 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110378052A CN110378052A (zh) | 2019-10-25 |
| CN110378052B true CN110378052B (zh) | 2020-11-06 |
Family
ID=68255819
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910676192.0A Active CN110378052B (zh) | 2019-07-25 | 2019-07-25 | 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110378052B (zh) |
Families Citing this family (25)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3815645A1 (en) * | 2019-11-01 | 2021-05-05 | DENTSPLY SIRONA Inc. | Dental machining system for predicting the wear condition of a dental tool |
| CN111241673B (zh) * | 2020-01-07 | 2021-10-22 | 北京航空航天大学 | 用于噪声环境工业设备的健康状态预测方法 |
| CN111340282B (zh) * | 2020-02-21 | 2021-04-23 | 山东大学 | 基于da-tcn的设备剩余使用寿命的估计方法及*** |
| CN111460728B (zh) * | 2020-03-09 | 2022-08-12 | 华南理工大学 | 一种工业设备剩余寿命预测方法、装置、存储介质及设备 |
| CN111475921A (zh) * | 2020-03-13 | 2020-07-31 | 重庆邮电大学 | 一种基于边缘计算和lstm网络的刀具剩余寿命预测方法 |
| CN112115636B (zh) * | 2020-08-18 | 2024-06-14 | 国网山东省电力公司经济技术研究院 | 一种电力电缆绝缘老化寿命超前预测方法及*** |
| CN112150443B (zh) * | 2020-09-27 | 2022-07-12 | 中南大学 | 基于空气质量数据图谱的列车车载空调剩余寿命预测方法 |
| CN112232557B (zh) * | 2020-09-30 | 2024-02-09 | 中国铁道科学研究院集团有限公司通信信号研究所 | 基于长短期记忆网络的转辙机健康度短期预测方法 |
| CN112488295A (zh) * | 2020-11-23 | 2021-03-12 | 江苏科技大学 | 交叉验证算法优化lstm网络继电器贮存寿命预测方法 |
| CN112465259B (zh) * | 2020-12-12 | 2023-01-31 | 武汉七星电气有限公司 | 一种基于深度神经网络的开关故障预测方法 |
| CN112801400A (zh) * | 2021-02-09 | 2021-05-14 | 重庆大学 | 一种融合多尺度lstm与bp神经网络的收费站下道流量短时预测方法 |
| CN113158348B (zh) * | 2021-05-21 | 2023-10-03 | 上海交通大学 | 基于深度学习耦合建模的飞机发动机剩余寿命预测方法 |
| CN113536982B (zh) * | 2021-06-28 | 2023-02-24 | 长江大学 | 主减速器剩余寿命智能预测方法、***、设备及介质 |
| CN113505532B (zh) * | 2021-07-06 | 2023-12-29 | 新奥新智科技有限公司 | 设备剩余寿命预测方法、装置、计算机设备及介质 |
| CN113570138B (zh) * | 2021-07-28 | 2022-04-26 | 朗坤智慧科技股份有限公司 | 一种时间卷积网络的设备剩余使用寿命预测方法及装置 |
| CN113567858A (zh) * | 2021-07-30 | 2021-10-29 | 北京航空航天大学 | 控制力矩陀螺剩余寿命预测*** |
| CN113570160A (zh) * | 2021-08-27 | 2021-10-29 | 三一石油智能装备有限公司 | 一种混砂车砂泵的寿命预测方法及装置 |
| CN113779882B (zh) * | 2021-09-10 | 2024-05-17 | 中国石油大学(北京) | 设备剩余使用寿命的预测方法、装置、设备及存储介质 |
| CN114112030A (zh) * | 2021-12-06 | 2022-03-01 | 江西省纳米技术研究院 | 基于人工智能的光电探测器性能测试装置 |
| CN114035098A (zh) * | 2021-12-14 | 2022-02-11 | 北京航空航天大学 | 一种融合未来工况信息和历史状态信息的锂电池健康状态预测方法 |
| CN115017683A (zh) * | 2022-05-24 | 2022-09-06 | 中国工程物理研究院总体工程研究所 | 基于深度lstm神经网络的泡沫橡胶材料剩余寿命预测方法 |
| CN115327382B (zh) * | 2022-06-28 | 2024-02-23 | 广州汽车集团股份有限公司 | 电池使用寿命预测模型的生成方法、装置及车辆 |
| WO2024050782A1 (en) * | 2022-09-08 | 2024-03-14 | Siemens Aktiengesellschaft | Method and apparatus for remaining useful life estimation and computer-readable storage medium |
| CN115310240B (zh) * | 2022-10-11 | 2022-12-27 | 烟台杰瑞石油装备技术有限公司 | 油气压裂泵设备寿命预测方法、装置及非易失性存储介质 |
| CN115824261B (zh) * | 2023-01-15 | 2023-05-23 | 北京理工大学 | 一种控制力矩陀螺仪故障检测方法、装置及相关存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105758661A (zh) * | 2016-05-05 | 2016-07-13 | 华电国际电力股份有限公司技术服务中心 | 一种锅炉受热面寿命评估***和方法 |
| CN106951695A (zh) * | 2017-03-09 | 2017-07-14 | 杭州安脉盛智能技术有限公司 | 多工况下的机械设备剩余使用寿命计算方法及*** |
| CN109782192A (zh) * | 2019-03-08 | 2019-05-21 | 安徽理工大学 | 不同放电倍率下锂离子电池剩余寿命预测方法 |
| CN109883699A (zh) * | 2018-12-20 | 2019-06-14 | 上海理工大学 | 一种基于长短时记忆网络的滚动轴承剩余寿命预测方法 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102592171A (zh) * | 2011-12-30 | 2012-07-18 | 南京邮电大学 | 基于bp神经网络的认知网络性能预测方法及装置 |
| US11288577B2 (en) * | 2016-10-11 | 2022-03-29 | Hitachi, Ltd. | Deep long short term memory network for estimation of remaining useful life of the components |
| CN109991542B (zh) * | 2019-03-27 | 2021-05-18 | 东北大学 | 基于wde优化lstm网络的锂离子电池剩余寿命预测方法 |
-
2019
- 2019-07-25 CN CN201910676192.0A patent/CN110378052B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105758661A (zh) * | 2016-05-05 | 2016-07-13 | 华电国际电力股份有限公司技术服务中心 | 一种锅炉受热面寿命评估***和方法 |
| CN106951695A (zh) * | 2017-03-09 | 2017-07-14 | 杭州安脉盛智能技术有限公司 | 多工况下的机械设备剩余使用寿命计算方法及*** |
| CN109883699A (zh) * | 2018-12-20 | 2019-06-14 | 上海理工大学 | 一种基于长短时记忆网络的滚动轴承剩余寿命预测方法 |
| CN109782192A (zh) * | 2019-03-08 | 2019-05-21 | 安徽理工大学 | 不同放电倍率下锂离子电池剩余寿命预测方法 |
Non-Patent Citations (1)
| Title |
|---|
| 基于退化与寿命数据融合的产品剩余寿命预测;彭宝华等;《***工程与电子技术》;20110531;第33卷(第5期);第1073-1078页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110378052A (zh) | 2019-10-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110378052B (zh) | 基于循环神经网络考虑未来工况的设备剩余寿命预测方法 | |
| CN116757534B (zh) | 一种基于神经训练网络的智能冰箱可靠性分析方法 | |
| Wang et al. | A similarity-based prognostics approach for remaining useful life estimation of engineered systems | |
| CN111222549B (zh) | 一种基于深度神经网络的无人机故障预测方法 | |
| CN106528975B (zh) | 一种应用于电路与***的故障预测与健康管理方法 | |
| US9934470B2 (en) | Production equipment including machine learning system and assembly and test unit | |
| CN113723007B (zh) | 基于drsn和麻雀搜索优化的设备剩余寿命预测方法 | |
| EP4068140A1 (en) | Method and system for optimizing a simulation model using machine learning | |
| CN108961460B (zh) | 基于稀疏esgp与多目标优化的故障预测方法及装置 | |
| CN113869563A (zh) | 一种基于故障特征迁移的航空涡扇发动机剩余寿命预测方法 | |
| CN106896219A (zh) | 基于变压器油中溶解气体数据的变压器亚健康状态识别及平均剩余寿命估计方法 | |
| CN112098833B (zh) | 一种继电器寿命预测方法、***、介质及设备 | |
| CN111783242B (zh) | 一种基于rvm-kf的滚动轴承剩余寿命预测方法及装置 | |
| CN111079348B (zh) | 一种缓变信号检测方法和装置 | |
| CN115422687A (zh) | 一种滚动轴承的寿命预测方法 | |
| CN111400964B (zh) | 一种故障发生时间预测方法及装置 | |
| CN117785522A (zh) | 利用经训练机器学习模型执行根本原因分析的方法和*** | |
| CN111948561A (zh) | 基于实测大数据和人工智能学习算法的电池寿命预测方法 | |
| CN114565051B (zh) | 基于神经元影响程度的产品分类模型的测试方法 | |
| CN116011214A (zh) | 一种基于稀疏变分贝叶斯的复杂装备剩余寿命预测方法 | |
| CN114720129A (zh) | 一种基于双向gru的滚动轴承剩余寿命预测方法及*** | |
| CN112016240B (zh) | 一种相似证据非完全降解设备剩余稳定使用寿命预测方法 | |
| Kumari et al. | Remaining useful life prediction using hybrid neural network and genetic algorithm approaches | |
| CN111105074A (zh) | 一种基于改进深度信念学习的故障预测方法 | |
| CN117095068B (zh) | 番茄贮藏温度调控方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |