CN113536682B - 一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法 - Google Patents
一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法 Download PDFInfo
- Publication number
- CN113536682B CN113536682B CN202110824289.9A CN202110824289A CN113536682B CN 113536682 B CN113536682 B CN 113536682B CN 202110824289 A CN202110824289 A CN 202110824289A CN 113536682 B CN113536682 B CN 113536682B
- Authority
- CN
- China
- Prior art keywords
- data
- model
- extrapolation
- time sequence
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013213 extrapolation Methods 0.000 title claims abstract description 71
- 238000000034 method Methods 0.000 title claims abstract description 51
- 230000004927 fusion Effects 0.000 title claims abstract description 45
- 238000006731 degradation reaction Methods 0.000 title claims abstract description 22
- 230000015556 catabolic process Effects 0.000 title claims abstract description 20
- 230000007246 mechanism Effects 0.000 title claims abstract description 11
- 238000012549 training Methods 0.000 claims abstract description 82
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 51
- 238000007781 pre-processing Methods 0.000 claims abstract description 12
- 238000012360 testing method Methods 0.000 claims abstract description 7
- 238000013507 mapping Methods 0.000 claims abstract description 6
- 238000000605 extraction Methods 0.000 claims description 44
- 238000011176 pooling Methods 0.000 claims description 21
- 239000011159 matrix material Substances 0.000 claims description 13
- 230000006870 function Effects 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000012795 verification Methods 0.000 claims description 6
- 230000002441 reversible effect Effects 0.000 claims description 4
- 238000011156 evaluation Methods 0.000 claims description 3
- 238000004088 simulation Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 9
- 238000002347 injection Methods 0.000 description 8
- 239000007924 injection Substances 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000013528 artificial neural network Methods 0.000 description 6
- 238000010606 normalization Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004401 flow injection analysis Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法,所述方法包括:获取电动液压舵机的故障预测数据;对所述故障数据进行综合预处理,以得到训练数据集和测试数据集;构建时序外推预测器:所述时序外推预测器包括卷积神经网络一次自编码器、基于专家知识的人工时域特征提取器,以及基于SAE的二次自编码器;所述时序外推预测器将所述训练数据集进行融合得到融合特征,而且所述二次自编码器对所述融合特征进行二次编码,而后再将二次编码特征与标签数据建立映射关系;综合训练所述卷积神经网络一次自编码器和所述时序外推预测器,得到训练好的时序外推预测器;以及利用训练好的时序外推预测模型对对已有数据进行预测。
Description
技术领域
本发明涉及电动液压舵机的退化趋势预测,特别是涉及一种电动液压舵机参数退化时序外推预测。
背景技术
电动液压舵机***是一种复杂的机电一体化***,同时也是一种高精度的位置伺服***,对飞行器的姿态控制具有重要影响。随着科学技术的不断发展,先进航空器广泛采用速度快、精度高、功率重量比大的全数字化伺服舵机***。当代工程应用对舵机的可靠性提出了更高的要求。舵机关键参数退化过程预测是舵机可靠性研究的一个重要方面。精准预测舵机关键参数未来时间序列,把握参数变化趋势规律,对于合理安排维修计划、提高飞行品质、保障飞行安全、降低全寿命周期费用等具有重要意义。传统的时序外推预测方法通常采用时间序列分解的策略,通过将时间序列分解为趋势项、季节项、残差项等分别进行预测,最后融合各项预测结果得到参数的时序外推预测序列。然而,对于电动液压舵机这样的复杂机电***,其退化过程往往表现出非线性,导致其退化参数的时间序列往往难以依照传统方法进行有效分解,给舵机关键参数未来时序预测问题带来了很大困难。
为了解决该问题,提出了一种基于人工特征与卷积特征二次自编码融合机制的电动液压舵机参数退化时序外推预测方法。该方法结合人工时域特征与卷积深度特征,通过二次自编码机制实现特征融合,可以将原始参数的时序依赖关系与变化趋势直接映射到隐层深度特点当中,避免了传统方法中序列分解的问题,为电动液压舵机关键参数退化时序的外推预测问题提供了更实用的方法。
发明内容
为了解决现有技术所存在的问题,本发明提出一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法。
根据本发明的一个方面,提供一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法,所述方法包括:获取电动液压舵机的故障预测数据;对所述故障数据进行综合预处理,以得到训练数据集和测试数据集;构建时序外推预测器:所述时序外推预测器包括卷积神经网络一次自编码器、基于专家知识的人工时域特征提取器,以及基于SAE的二次自编码器;所述时序外推预测器将所述训练数据集进行融合得到融合特征,而且所述二次自编码器对所述融合特征进行二次编码,而后再将二次编码特征与标签数据建立映射关系;综合训练所述卷积神经网络一次自编码器和所述时序外推预测器,得到训练好的时序外推预测器;以及利用训练好的时序外推预测模型对对已有数据进行预测。
优选地是,所述时序外推预测模型以原始的训练数据集作为输入,首先基于人工时域特征提取器进行人工特征提取,利用经过预训练的卷积神经网络特征提取模型对原始的训练数据集进行卷积特征提取,然后对卷积特征与人工时域特征进行特征融合,并将训练数据标签Strainy作为时序外推预测模型输出,以此完成外推预测器模型的训练。
优选地是,对所述已有数据进行预测时,对于长度为w的输入数据,其预测数据长度为W-w,截取已有数据中长度为2w-W的数据段与预测数据进行拼接,以此作为新一轮预测的输入,不断往复迭代知道达到人为预设的预测长度Lp,则预测结束。
优选地是,将经过综合预处理得到的验证集数据送入所述时序外推预测模型,结合相应的预测指标,完成模型的预测性能评估。
优选地是,所述综合预处理步骤包括对关键参数时序数据进行滑窗切割,所述关键参数时序数据为X,X={x1,x2,...xN},对X进行滑窗切割从而生成相应的样本数据集,当窗口宽度为W,步长为s时,切割生成的样本数量为:
则生成相应的数据集为{S1,S2,...Ssn},对{S1,nor,S2,nor,...Ssn,nor}中的每个样本Si,nor取长度为w的数据作为训练数据,取W-w长度的数据作为这段训练数据对应的预测数据。
优选地是,所述卷积神经网络一次自编码器的构建包括基于所述训练数据集Strain={S1,nor,S2,nor,...Sn,nor},将其数据格式转化为三维数据格式(sn,w,1),将所构建好的三维训练数据集输入一次自编码器反复执行前向传播和反向传播迭代计算过程,以对所构建的一次自编码模型的卷积层、池化层、全连接层的模型参数不断进行调整,以完成模型的预训练,其中{S1,nor,S2,nor,...Ssn,nor}为经过归一化处理的样本数据集,sn为样本数量,w为每个样本的数据长度,1为通道数。
优选地是,所述一次自编码模型包括多个卷积层、多个池化层和一个Flatten全连接层,所述全连接层利用多层堆叠的卷积层和池化提取的特征进行特征识别,在所述全连接层上使用sofimax回归,所述sofimax函数的输出为
其中k表示输出层网络节点数。
优选地是,在所述基于SAE的二次自编码器中进一步以二维融合特征矩阵所述二次编码器和解码器进行预训练;以二维融合特征矩阵作为所述堆叠二次自编码的输入和输出,选择合适的损失函数和迭代次数,完成前向传播和反向传播迭代计算过程,使模型不断重构自身输入,最终从完成预训练的堆叠二次自编码器模型中提取其中的编码层作为可用的二次自编码模型。
优选地是,基于预训练得到的二次自编码器模型对深度融合特征进行二次自编码,从而得到二次编码特征集{F′1,F′2,..,F′sn}。
本发明内容仅作为在具体实施方式和附图中完全描述的主题的介绍。不应将发明内容认定为描述了必要技术特征,也不应当用来确定权利要求的范围。此外,应该理解的是,上述发明内容和以下具体实施方式仅仅是示例性的和解释性的,并且不作为所要求保护的主题的必要限制。
附图说明
本公开的各种实施例或样例(“示例”)在以下的具体实施方式和附图中得以公开。没必要将附图按比例绘制。一般而言,除非在权利要求中另有规定,否则可以任意顺序执行所公开方法的操作。附图中:
图1示出了根据本发明的基于深度神经网络的人工特征与卷积特征融合的特征提取方法流程图;
图1A示出了基于图1所示方法输出的融合特征的时序外推预测方法;
图2示出了根据本发明的获取电动液压舵机故障预测数据的方法示意图;
图3示出了根据本发明的基于卷积神经网络的一次自编码模型结构图;
图4示出了图1所示的一次自编码和人工时域特征提取的的操作流程图;
图5示出了图1所示的基于SAE的二次自编码器的结构示意图;
图6示出了反馈角度原始数据示意图;
图7A示出了基于图4所示流程图获取的人工时域特征的最大值;
图7B示出了基于图4所示流程图获取的人工时域特征的标准差;
图8为根据本发明的时序外推预测方法得到的预测结果;
图9A为全部预测数据;
图9B为部分预测数据的局部放大图。
具体实施方式
在详细解释本公开的一个或多个实施例之前,应当理解,实施例不限于它们具体应用中的构造细节,以及下文实施方式或附图所提出步骤或方法。
本发明所公开的时序外推预测方法图示在图1和图1A所示的方法流程图中,图1示出了根据本发明的基于深度神经网络的人工特征与卷积特征融合的特征提取方法流程图,图1A示出了基于图1所示方法输出的融合特征的时序外推预测方法。如图1所示的特征提取方法,其包括多个步骤:步骤1:获取电动液压舵机的故障预测数据;步骤2:对故障数据进行综合预处理;步骤3:进行基于卷积神经网络的特征提取;步骤4:对训练数据集进行基于专家知识的人工时域特征提取;步骤5:对基于经验知识提取的人工特征和基于CNN特征提取模型提取的高维隐含层特征进行特征拼接;步骤6:进行基于堆叠自编码器的深度特征融合,从而得到二次编码特征值。在步骤6中得到的二次编码特征值送入图1A所示的时序外推预测模型训练模块,执行步骤7:时序外推预测模型训练,所述步骤7具体包括:构建时序外推预测模型;训练时序外推预测器模型;以及使用外推预测期进行预测。下面将结合图1和图1A对基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法进行详细的说明。
一、获取电动液压舵机的故障预测数据
受限于现实试验条件与实际使用环境,产品真实故障数据获取困难这一情况广泛存在。仿真分析是国内外解决数据匮乏问题的主要手段之一,广泛的研究结果都是基于仿真模型进行故障注入、获取相应的故障数据。因此,本发明为了获取电动液压舵机的故障预测数据,需要使用Simulink软件对电动液压舵机进行结构化建模并进行故障模拟。在操作中,使用该Simulink模型进行故障注入,可以最大限度获取接近真实故障情况的数据,实现故障预测模型验证。
针对舵机***故障预测要求,首先对舵机***结构进行了模型化处理,然后利用Simulink仿真软件搭建舵机控制***仿真模型,用于生成仿真数据。在舵机控制***仿真模型的基础上,选取适当的舵机***仿真模型故障注入点进行故障注入并采集仿真信号,用于舵机控制***故障预测模型的开发和验证。获取电动液压舵机故障预测数据的方法如图2所示。
首先,针对舵机***故障预测要求,对舵机控制***模型进行结构化处理。结构化处理的舵机***主要包含能源***和位置伺服***,如图2中的舵机***结构分析模块所示,其关键组成部件主要包括:功放组合、直流电机、电液伺服阀、液压变量泵、作动筒、操纵机构、反馈电位器、高压安全阀、低压安全阀、油滤、邮箱等部件。
在对舵机控制***模型进行结构化处理的基础上,利用Simulink模拟软件,搭建舵机控制***仿真模型,在此仿真模型的基础上确定故障注入点。故障注入点可根据故障预测需要和历史故障数据来选取,其通常在舵机的各个组成部件上注入。在本申请中,例如可以选取反馈放大系数作为故障注入点,并在反馈电位器上进行故障注入。最后,进行故障仿真模拟与信号采集。信号采集的数据可以是舵机控制***的各种控制指令和状态信号,其是本申请的电动舵机关键参数时序数据,例如包括:控制指令、统一时钟、位移信号、反馈角度。这些选取的关键参数时序数据就构成了待预测参数的历史时序数据。其中反馈角度可以有效地表征舵机***的健康状态,因此,可以选择反馈角度作为后续的被预测参数。
二、对故障数据进行综合预处理
舵机故障预测数据获取单元获得的数据,例如是反馈角度信号,送入故障数据预处理单元进行综合处理,以得到训练数据集和测试数据集,具体参照图1所示的综合数据预处理模块,其包括:
步骤1、对关键参数时序数据进行滑窗切割,构造样本数据集;
对传感器采集到的任一电动舵机关键参数时序数据为X,X={x1,x2,...xN},对X进行滑窗切割从而生成相应的样本数据集。当窗口宽度为W步长为s时,切割生成的样本数量为:
则生成相应的数据集为{S1,S2,...Ssn},对{S1,nor,S2,nor,...Ssn,nor}中的每个样本Si,nor取长度为w的数据作为训练数据,取W-w长度的数据作为这段训练数据对应的预测数据。
步骤2、对训练数据集进行极大极小值归一化处理;
为了提高数据表达能力,加快后续模型的训练的收敛速度,需要对训练数据集进行归一化处理,主要是通过极大极小值归一法对原始参数的幅值进行缩放,完成数据的线性变换。对于单个样本数据Si={x1,x2,...xw},通过公式:
实现归一化处理,从而得到归一化的样本数据集{S1,nor,S2,nor,...Ssn,nor}。
步骤3、构造训练数据集和测试数据集;
从所有数据中选取前r%的数据作为训练数据集,剩下的数据作为测试数据集,用于验证模型预测性能。通常而言,r一般取60-80,优选地取70。
三、进行基于卷积神经网络的特征提取
经过综合数据预处理模块处理后得到的训练数据集,分别送入卷积神经网络一次自编码器和基于专家知识的人工时域特征提取模块,以得到卷积特征和人工特时域征。该特征提取步骤具体包括:基于卷积神经网络的一次自编码模型构建,如图3所示;以及如图4所示的卷积一次自编码器模型的预训练和使用卷积编码器进行卷积特征提取。
首先,利用训练数据集,构建基于卷积神经网络(CNN)的一次自编码模型,并利用训练数据集进行模型的预训练。由于二维卷积神经网络对输入数据的格式要求为三维数据,因此需要构造训练数据集。构造训练集是为了满足二维的一次自编码模型的输入要求,其方法是将训练数据集Strain={S1,nor,S2,nor,...Sn,nor}的数据格式转化为(sn,w,1),其中sn为样本数量,w为每个样本的数据长度,1为通道数。将构建好的训练样本数据集输入图3所示的基于卷积神经网络(CNN)的一次自编码模型。
卷积神经网络(Convolutional Neural Network)是一种多层的监督学习神经网络,隐含层的卷积层和池采样层是实现卷积神经网络特征提取功能的核心部分。CNN是一种专门用来处理具有类似网络结构数据的神经网络,通过模仿生物视觉运行机制对原始数据进行特征提取,不同CNN层之间具有权值共享的特点,有效降低了网络的复杂度,避免因数据量过少而引起的过拟合问题和避免多维数据特征提取时数据重建的复杂度。如图3所示,本发明的深度卷积神经网络包括多个卷积层、多个池化层和一个Flatten全连接层。
卷积层:具有非线性激活的卷积过程可描述为:
其中,是第r个卷积层中第n个卷积核的输出,/>是第r-1个卷积层中第m个输出特征向量,*代表卷积操作,/>分别表示第r个卷积层中第n个卷积核的权重和偏置,ReLU表示非线性激活函数。
池化层:通过加入池化层能够减少卷积特征的空间维数,避免过拟合。最大池化层是最常用的池化层,它只取输入中最重要的部分(最高的值),可以表示为
其中是卷积层得到的特征,/>是池化层的输出,l表示池化操作区域的长度。
全连接层:利用多层堆叠的卷积层和池化提取的特征,最终输入全连接层进行特征识别,通常在顶层全连接层上使用softmax回归。定义softmax函数的输出为
其中k表示输出层网络节点数。
其中卷积层通过使用一定数量的卷积核来提取输入数据在时域上的不同特征,通过池化层可以有效的缩小参数矩阵的尺寸,从而减少最后连接层的中的参数数量,加入池化层可以加快计算速度以及防止模型过拟合,最后利用全连接层将高维隐含层中的特征参数映射至原始的输入数据,从而训练模型的特征提取能力。
其次,选择合适的迭代次数和损失函数,将所构建好的三维训练数据集输入特征提取模型反复执行前向传播和反向传播迭代计算过程;在此过程中,对卷积层、池化层、全连接层的模型参数不断进行调整,以完成模型的预训练。
再次,取出预训练模型的两层卷积层和两层池化层以及一层全连接层,并保留其权重参数,将其构建为训练后的深度卷积神经网络一次自编码模型。
最后,基于完成预训练的卷积神经网络一次自编码模型对训练数据集{S1,nor,S2,nor,...Ssn,nor}进行卷积特征提取,从而得到卷积特征集{F1,CNN,F2,CNN,...,Fsn,CNN}。
四、对训练数据集进行基于专家知识的人工时域特征提取
如图4的右侧图所示,对切割出的训练数据集Strain={S1,nor,S2,nor,...Sn,nor}进行基于专家知识的时域特征提取。具体包括对归一化训练数据进行滑窗切割,对切割出的每个样本提取不同的时域数据以及时域特征的归一化处理。
对归一化的样本数据进行滑窗切割:窗口长度为w′,步长为1,对于样本Si={x1,x2,...xw}可切割出w-w′+1个样本,每个样本长度为w′,即得到{S′1,S′2,...S′w-w′+1}。
对每个样本S′i分别提取最大值、标准差、方差、波形因子、均方根、脉冲指数、裕度因子、峰值因子八个时域特征:对于窗口数据S′i提取的时域特征为Fi={f1,f2,...,f8},因此对于样本Si提取的人工特征为{F1,F2,...Fw-w′+1},利用极大极小值归一方法对人工特征进行归一化处理,具体可参考综合数据预处理中的步骤2。
五、对基于专家知识提取的人工特征和基于CNN特征提取模型提取的高维隐含层特征进行特征拼接
继续参考图1和图4,在CNN特征提取模型提取高维隐含层特征和人工特征提取模块提取人工时域特征之后,对所述高维隐含层特征和人工时域特征进行特征拼接。CNN特征提取模型提取的特征矩阵为MCNN,其形状尺寸为其中nf为卷积核个数,sf为卷积核步长,f为卷积核尺寸。人工特征提取模块提取的人工时域特征矩阵为Mmanual,其形状尺寸为(w-w′+1,8)。分别将两个特征尺寸MCNN,Mmanual进行Flatten展平,并沿列方向进行拼接,得到的融合特征的尺寸为:
对训练数据集Strain={S1,nor,S2,nor,...Sn,nor}中每个样本Si,nor进行CNN特征提取和人工特征提取并进行特征融合。令融合特征的维度为nmerge,则可将训练数据集重新组织为(n,nmerge)的二维融合特征矩阵,并把此融合特征矩阵作为后续SAE编码模型的输入。
六、进行基于堆叠自编码器(SAE)的深度特征融合
参考图5,图5为图1所示的基于SAE的二次自编码器的结构示意图。在此二次自编码器种,进行基于堆叠自编码器的深度特征融合,具体包括构建二次自编码器和解码器,训练二次编码器和解码器以及使用堆叠的二次自编码器进行深度特征融合。
首先,构建堆叠二次自编码器和解码器模型,其模型结构如图5所示,编码层数与解码层数相同,能够使得模型对深度特征具有更好的二次编码能力。
其次,利用步骤(五)中得到的二维融合特征矩阵进行二次自编码器模型的预训练,以二维融合特征矩阵作为堆叠二次自编码模型的输入和输出,选择合适的损失函数和迭代次数,完成前向传播和反向传播迭代计算过程,使模型不断重构自身输入,最终从完成预训练的堆叠二次自编码器模型中提取其中的编码层作为可用的二次自编码模型。
最后,基于预训练得到的二次自编码器模型对深度融合特征进行二次自编码,从而得到二次编码特征集{F′1,F′2,..,F′sn}。
七、进行时序外推预测模型训练
图1A所示的框图示出了时序外推预测模型训练的执行步骤和方法,其具体包括构建时序外推预测模型,训练外推预测器模型以及使用外推预测期进行预测。
步骤7.1:利用在进行基于卷积神经网络的特征提取过程中得到的卷积神经网络一次自编码器和基于SAE的二次自编码过程中得到的堆叠二次自编码器模型,构建时序外推预测器,该外推预测器将CNN特征与人工特征进行了融合而且对深度特征进行了二次编码,再将二次编码特征与标签数据建立映射关系从而完成外推预测。
步骤7.2:综合训练CNN卷积特征提取器和时序外推预测器。时序外推预测模型以原始输入数据作为输入,首先进行人工特征提取,利用经过预训练的CNN特征提取模型对原始数据进行CNN卷积特征提取,然后对CNN卷积特征与人工时域特征进行特征融合,并将训练数据标签Strainy作为时序外推预测模型输出,以此完成外推预测器模型的训练。
步骤7.3、利用训练好的时序外推预测模型对已有数据进行预测,对于长度为w的输入数据,其预测数据长度为W-w,截取已有数据中长度为2w-W的数据段与预测数据进行拼接,以此作为新一轮预测的输入,不断往复迭代知道达到人为预设的预测长度Lp,则预测结束。
步骤7.4、将综合数据预处理单元得到的验证集数据送入时序外推预测模型,结合相应的预测指标,可完成模型的预测性能评估。
【基于特征融合的特征提取示例】
本发明的一个重要工作在于创新地设计了基于深度神经网络的人工特征与卷积特征融合的特征提取方法,该方法直接影响外推预测模型的液压作动***退化趋势预测及健康评估。基于此,我们以舵机***“作动筒内漏”故障,选取“流量注入点”测点采集的反馈角度数据进行示例说明。
电动液压舵机的结构化模型如图2所示,其故障预测设定为“作动筒内漏”故障,其数据为反馈角度时域数据。在获取反馈角度数据后,对此数据进行预处理。在本案例中,选择窗口长度为9000,步长为1,对于每个窗口的数据,前6000长度的数据作为基于卷积神经网络序列外推预测模型的输入,后3000长度的数据作为该窗口的标签数据,即为预测数据。对于全部归一化的反馈角度数据,选取前70%的数据作为训练数据集,剩下的30%数据作为验证数据集,用于验证模型预测性能。
1、得到训练数据后,进行基于卷积神经网络的特征提取
考虑舵机反馈角度数据的参数特性,利用卷积神经网络对归一化样本数据进行样本特征提取。继续参考图1、图3和图4,卷积层通过使用一定数量的卷积核来提取输入数据在时域上的不同特征,通过池化层可以有效的缩小参数矩阵的尺寸,从而减少最后连接层的中的参数数量,加入池化层可以加快计算速度以及防止模型过拟合,利用两层卷积层将原式数据映射至高维隐含空间以此学***层和全连接层将高维样本特征重映射至原始的输入数据从而学习原始样本的关键特征,选取将原始数据样本映射到低维特征空间的模块作为模型的编码器,选取提取筛选后的特征重构样本的模块作为模型的解码器。本发明选择的模型结构参数如表1所示
表1 基于卷积神经网络的一次自编码器模型参数
选择合适的迭代次数和损失函数,将所构建好的三维训练数据集输入特征提取模型反复执行前向传播和反向传播迭代计算过程,对卷积层、池化层、全连接层的模型参数不断进行调整完成模型的预训练,取出预训练模型的两层卷积层和两层池化层以及一层全连接层,并保留其权重参数,将其构建为CNN特征提取模型。
2、对切割出的训练数据集进行基于专家知识的时域特征提取
具体地,以窗口长度为3000,步长为3000再对每个窗口的训练数据进行切割并对每个子窗口的数据进行人工特征提取,特征提取结果如图7A和图7B所示。
3、对基于专家知识提取的人工特征和基于CNN特征提取模型提取的高维隐含层特征进行特征拼接
4、进行基于堆叠自编码器的深度特征融合
利用二维融合特征矩阵进行二次自编码器模型的预训练,以二维融合特征矩阵作为堆叠二次自编码模型的输入和输出,选择合适的损失函数和迭代次数,完成前向传播和反向传播迭代计算过程,使模型不断重构自身输入,最终从完成预训练的堆叠二次自编码器模型中提取其中的编码层作为可用的二次自编码模型。
5、时序外推预测模型训练
利用预训练得到的卷积神经网络一次自编码器和堆叠二次自编码器模型构建时序外推预测器,该外推预测器将CNN特征与人工特征进行了融合而且对深度特征进行了二次编码,再将二次编码特征与标签数据建立映射关系从而完成外推预测,该时序外推预测模型以原始输入数据作为输入,首先进行人工特征提取,利用经过预训练的CNN提特模型对原始数据进行CNN提特,然后对CNN特征与人工特征进行特征融合,并将训练数据标签作为模型输出以此完成模型训练。利用训练好的预测模型对已有数据进行预测,将外推数据与原始数据进行拼接以此作为新一轮预测的输入,不断往复迭代知道达到人为预设的预测长度,则预测结束,预测结果如图8所示,预测结果与真实标签对比结果如图9A和图9B所示。
尽管已经参考附图所示的实施例描述了本发明,但是可在不脱离权利要求范围的情况下使用等同或替代手段。本发明所描述和图示的组件仅仅是可以用于实现本公开的实施例的***/设备和方法的示例,并且可以在不脱离权利要求范围的情况下用其他设备和组件进行替换。
Claims (9)
1.一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法,包括:
获取电动液压舵机的故障预测数据;
对所述故障数据进行综合预处理,以得到训练数据集和测试数据集;
构建时序外推预测器,其特征在于:
所述时序外推预测器包括卷积神经网络一次自编码器、基于专家知识的人工时域特征提取器,以及基于SAE的二次自编码器;
所述时序外推预测器将所述训练数据集进行融合得到融合特征,而且所述二次自编码器对所述融合特征进行二次编码,而后再将二次编码特征与标签数据建立映射关系;
综合训练所述卷积神经网络一次自编码器和所述时序外推预测器,得到训练好的时序外推预测器;以及
利用训练好的时序外推预测模型对对已有数据进行预测。
2.根据权利要求1所述的电动液压舵机参数退化时序外推预测方法,其特征在于,所述时序外推预测模型以原始的训练数据集作为输入,首先基于人工时域特征提取器进行人工特征提取,利用经过预训练的卷积神经网络特征提取模型对原始的训练数据集进行卷积特征提取,然后对卷积特征与人工时域特征进行特征融合,并将训练数据标签Strainy作为时序外推预测模型输出,以此完成外推预测器模型的训练。
3.根据权利要求1所述的电动液压舵机参数退化时序外推预测方法,其特征在于,对所述已有数据进行预测时,对于长度为w的输入数据,其预测数据长度为W-w,截取已有数据中长度为2w-W的数据段与预测数据进行拼接,以此作为新一轮预测的输入,不断往复迭代知道达到人为预设的预测长度Lp,则预测结束。
4.根据权利要求1所述的电动液压舵机参数退化时序外推预测方法,其特征在于,将经过综合预处理得到的验证集数据送入所述时序外推预测模型,结合相应的预测指标,完成模型的预测性能评估。
5.根据权利要求1所述的电动液压舵机参数退化时序外推预测方法,其特征在于,所述综合预处理步骤包括对关键参数时序数据进行滑窗切割,所述关键参数时序数据为X,X={x1,x2,...xN},对X进行滑窗切割从而生成相应的样本数据集,当窗口宽度为W,步长为s时,切割生成的样本数量为:
则生成相应的数据集为{S1,S2,...Ssn},对{S1,nor,S2,nor,...Ssn,nor}中的每个样本Si,nor取长度为w的数据作为训练数据,取W-w长度的数据作为这段训练数据对应的预测数据。
6.根据权利要求1所述的电动液压舵机参数退化时序外推预测方法,其特征在于,所述卷积神经网络一次自编码器的构建包括基于所述训练数据集Strain={S1,nor,S2,nor,...Sn,nor},将其数据格式转化为三维数据格式(sn,w,1),将所构建好的三维训练数据集输入一次自编码器反复执行前向传播和反向传播迭代计算过程,以对所构建的一次自编码模型的卷积层、池化层、全连接层的模型参数不断进行调整,以完成模型的预训练,其中{S1,nor,S2,or,...Ssn,nor}为经过归一化处理的样本数据集,sn为样本数量,w为每个样本的数据长度,1为通道数。
7.根据权利要求6所述的电动液压舵机参数退化时序外推预测方法,其特征在于,所述一次自编码模型包括多个卷积层、多个池化层和一个Flatten全连接层,所述全连接层利用多层堆叠的卷积层和池化提取的特征进行特征识别,在所述全连接层上使用softmax回归,所述softmax函数的输出为
其中k表示输出层网络节点数。
8.根据权利要求1所述的电动液压舵机参数退化时序外推预测方法,其特征在于,在所述基于SAE的二次自编码器中进一步以二维融合特征矩阵对所述二次编码器和解码器进行预训练;以二维融合特征矩阵作为所述二次自编码的输入和输出,选择合适的损失函数和迭代次数,完成前向传播和反向传播迭代计算过程,使模型不断重构自身输入,最终从完成预训练的二次自编码器模型中提取其中的编码层作为可用的二次自编码模型。
9.根据权利要求8所述的电动液压舵机参数退化时序外推预测方法,其特征在于,基于预训练得到的二次自编码器模型对深度融合特征进行二次自编码,从而得到二次编码特征集{F′1,F′2,...,F′sn}。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110824289.9A CN113536682B (zh) | 2021-07-21 | 2021-07-21 | 一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110824289.9A CN113536682B (zh) | 2021-07-21 | 2021-07-21 | 一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113536682A CN113536682A (zh) | 2021-10-22 |
CN113536682B true CN113536682B (zh) | 2024-01-23 |
Family
ID=78100684
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110824289.9A Active CN113536682B (zh) | 2021-07-21 | 2021-07-21 | 一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113536682B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114063601A (zh) * | 2021-11-12 | 2022-02-18 | 江苏核电有限公司 | 一种基于人工智能的设备状态诊断***及方法 |
CN114399066B (zh) * | 2022-01-15 | 2023-04-18 | 中国矿业大学(北京) | 基于弱监督学习的机械设备预知性维护***和维护方法 |
CN116776228B (zh) * | 2023-08-17 | 2023-10-20 | 合肥工业大学 | 一种电网时序数据解耦自监督预训练方法与*** |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109634139A (zh) * | 2018-12-10 | 2019-04-16 | 中国航天空气动力技术研究院 | 高超声速飞行器导航和控制***半实物仿真***及方法 |
CN112257760A (zh) * | 2020-09-30 | 2021-01-22 | 北京航空航天大学 | 一种基于时序模体的主机网络通信行为异常检测方法 |
CN113035280A (zh) * | 2021-03-02 | 2021-06-25 | 四川大学 | 一种基于深度学习的rbp结合位点预测算法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11531802B2 (en) * | 2019-10-18 | 2022-12-20 | Taiwan Semiconductor Manufacturing Company Ltd. | Layout context-based cell timing characterization |
-
2021
- 2021-07-21 CN CN202110824289.9A patent/CN113536682B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109634139A (zh) * | 2018-12-10 | 2019-04-16 | 中国航天空气动力技术研究院 | 高超声速飞行器导航和控制***半实物仿真***及方法 |
CN112257760A (zh) * | 2020-09-30 | 2021-01-22 | 北京航空航天大学 | 一种基于时序模体的主机网络通信行为异常检测方法 |
CN113035280A (zh) * | 2021-03-02 | 2021-06-25 | 四川大学 | 一种基于深度学习的rbp结合位点预测算法 |
Also Published As
Publication number | Publication date |
---|---|
CN113536682A (zh) | 2021-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113536682B (zh) | 一种基于二次自编码融合机制的电动液压舵机参数退化时序外推预测方法 | |
CN113536681B (zh) | 一种基于时序外推预测的电动舵机健康评估方法 | |
CN112149316B (zh) | 基于改进的cnn模型的航空发动机剩余寿命预测方法 | |
Ke et al. | Short-term electrical load forecasting method based on stacked auto-encoding and GRU neural network | |
CN109376413B (zh) | 基于数据驱动的在线神经网络故障诊断方法 | |
CN113536683B (zh) | 一种基于深度神经网络的人工特征与卷积特征融合的特征提取方法 | |
Liu et al. | A novel deep learning-based encoder-decoder model for remaining useful life prediction | |
CN112838946B (zh) | 基于通信网故障智能感知与预警模型的构建方法 | |
CN111160620A (zh) | 一种基于端到端记忆网络的短期风电功率预测方法 | |
CN113836783B (zh) | 斜拉桥主梁温致挠度监测基准值的数字回归模型建模方法 | |
CN112329172A (zh) | 基于并联式神经网络的盾构机刀盘扭矩预测方法及*** | |
CN116680105A (zh) | 一种基于邻域信息融合注意力机制的时序异常检测方法 | |
CN115545321A (zh) | 一种制丝车间工艺质量在线预测方法 | |
CN113221458B (zh) | 盾构刀盘扭矩多步预测方法和*** | |
CN113627093A (zh) | 一种基于改进Unet网络的水下机构跨尺度流场特征预测方法 | |
Wang et al. | Stock market prediction using artificial neural networks based on HLP | |
CN115905848A (zh) | 基于多模型融合的化工过程故障诊断方法及*** | |
CN115840893A (zh) | 一种多变量时间序列预测方法及装置 | |
CN112347531A (zh) | 一种脆性大理石三维裂纹扩展路径预测方法及*** | |
CN116826727B (zh) | 基于时序表征和多级注意力的超短期风电功率预测方法及预测*** | |
CN113221450A (zh) | 一种针对稀疏不均匀时序数据的航位预测方法及*** | |
CN113283642A (zh) | 一种家禽饲料检测与配方*** | |
CN117852686A (zh) | 基于多元自编码器的电力负荷预测方法 | |
CN112232570A (zh) | 一种正向有功总电量预测方法、装置及可读存储介质 | |
CN116843057A (zh) | 基于LSTM-ViT的风电功率超短期预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |