CN108197648B - 一种基于lstm深度学习模型的水电机组故障诊断方法与*** - Google Patents
一种基于lstm深度学习模型的水电机组故障诊断方法与*** Download PDFInfo
- Publication number
- CN108197648B CN108197648B CN201711463863.2A CN201711463863A CN108197648B CN 108197648 B CN108197648 B CN 108197648B CN 201711463863 A CN201711463863 A CN 201711463863A CN 108197648 B CN108197648 B CN 108197648B
- Authority
- CN
- China
- Prior art keywords
- lstm
- output
- input
- deep learning
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
- G01R31/34—Testing dynamo-electric machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
本发明公开了一种基于LSTM深度学习模型的水电机组故障诊断方法与***,该方法包含:获取水电机组的N个不同信号通道的采样序列,对每一个时间序列进行VMD分解得到K个IMF分量;构建相应的训练集和待诊断集;对每一个IMF分量的训练集构建LSTM模型,通过两层的LSTM层来对每一个IMF分量进行特征提取;同一个信号通道的K个LSTM层输出连接到一个Dense层;通过Softmax层对多个Dense层输出进行特征分类;通过RMSProp梯度下降算法对深度学习神经网络模型进行训练,将训练好的模型对待诊断集进行诊断。本发明将变分模态分解VMD相对较好的信噪分离效果与长短期记忆网络LSTM对时间序列的处理优势相结合,有效的提高了水电机组故障诊断的准确度。
Description
本发明属于水电机组故障诊断技术领域,更具体地,涉及一种基于LSTM深度学习模型的水电机组故障诊断方法与***。
背景技术
长期以来,定期计划维修体制为水电站的正常运作发挥了重要作用,但这种维修体制还不能满足日益增长的设备维护需求,维修的代价仍然十分昂贵。而在社会需求以及科学技术的带动下,故障诊断技术与***的快速发展为水电机组依据其运行状态来进行实时监测与检修提供了实现的可能性,因此对水电机组故障诊断技术的研究就显得十分必要。
伴随机器学习、模式识别、信号处理、人工智能等的发展,基于数据分析与处理的诊断方法开始得到发展,这种诊断方法将传统方法与智能方法相结合,通过对传感器的大量数据进行处理分析来提取出故障特征。但由于这些传统基于数据的故障诊断方法其相对浅层的模型结构,在随着检测数据越来越庞大的情况下面临着如维数灾难、对复杂非线性对象学习能力有限等等问题,传统方法在面对现代复杂设备故障诊断问题时显得表现不足,因此迫切需要一种新的方法以适应诊断需求的变化。
针对以上问题,本发明将人工智能领域的新兴方法深度学习长短期记忆网络(Long Short Term Memory,简写为:LSTM)与变分模态分解(Variational ModeDecomposition,简写为:VMD)相结合,实现一种针对水电机组的故障诊断方法与***。该方法利用深度学习模型相对传统模型更深层的网络结构,来对水电机组的大量数据进行更有效的特征提取,并与VMD的信噪分离效果相结合,以一种新的方式将深度学习理论运用到水电机组的故障诊断中来,以达到相对更好的水电机组故障诊断效果。
发明内容
本发明的目的在于提供一种基于LSTM深度学习模型的水电机组故障诊断方法与***,利用深度学习领域的长短期记忆网络模型和变分模态分解算法来构建多层次模型,以寻找一种水电机组故障诊断领域更有效的新方法。
为了实现上述目的,本发明所采用的技术方案是:
第一方面,本发明提供了一种基于LSTM深度学习模型的水电机组故障诊断方法,方法包括:
步骤1:获取水电机组的N个不同信号通道的振动信号的采样序列,对每一个时间序列进行变分模态分解,得到分解出来的K个IMF分量。
步骤2:对每一个IMF分量进行归一化处理,并构建相应的训练集和待诊断集。
步骤3:对每一个IMF分量的训练集构建长短期记忆网络(LTSM)深度学习模型,通过至少两层的LSTM层来对每一个IMF分量进行特征提取。
步骤4:同一个信号通道的K个IMF分量的LSTM层输出连接到一个Dense层,再将N个信号通道的Dense层输出连接到Softmax层来进行最后的分类,并通过交叉熵损失函数与故障标签得到误差来用于训练。
步骤5:通过RMSProp梯度下降算法对LTSM深度学习模型进行训练,将训练好的模型对待诊断集进行诊断,得到最终的诊断结果。
更进一步地,VMD分解的前提为构造一个变分问题,假设每个‘模态’都是具有中心频率的有限带宽,变分问题就可以被描述为寻求K个IMF分量uk(t),使每个模态的估计带宽之和最小,约束条件为每个模态相加之和为原始输入信号,变分问题构造过程如下:
更进一步地,变分模态分解的算法通过引入惩罚因子α和拉格朗日乘法算子λ(t)得到扩展的拉格朗日表达式如下,其中f(t)为原始信号。其中,
在对变分问题构造了扩展的拉格朗日表达式后利用交替方向乘子算法ADMM求取IMF分量uk(t)的具体步骤如下:
步骤1.2、执行循环n=n+1;
步骤1.4、中心频率ωk的更新方程如下所示:
步骤1.5、更新拉格朗日乘法算子λ,λ更新式为:
更进一步地,可以通过选择同一个信号通道分解得出的一部分IMF分量作为输入进行分类输出,分析不同组合的IMF分量对分类结果精确度的影响大小,从而选择出IMF分量uk(t)中对结果影响较大的几个IMF分量来用于特征提取,以减少不必要的计算量达到更高的效率和准确度。
更进一步地,通过长短期记忆网络LSTM对每一个IMF分量的时间序列进行处理,序列每一个时刻的值作为一个LSTM神经元的输入,其神经元的前向计算包括:
遗忘门的前向计算为ft=sigmoid(θf·[ht-1,xt]+bf),其中ft为遗忘门的输出值,θf为遗忘门输入权重,bf为遗忘门输入偏置。
输入门的前向计算为it=sigmoid(θi·[ht-1,xt]+bi),其中it为输入门的输出值,θi为输入门输入权重,bi为输入门输入偏置。
输出门的前向计算为ot=sigmoid(θo·[ht-1,xt]+bo),其中ot为输出门的输出值,θo为输出门输入权重,bo为输出门输入偏置。
对记忆单元Cell的记忆内容的更新计算为ct=ft⊙ct-1+it⊙ct,其中ct-1为上一个时刻的记忆单元的值。
最后输出给下一层的隐藏层输出值ht的计算为ht=ot⊙tanh(ct),由输出门来控制记忆单元进行输出。其中ht-1为t-1时刻的隐层输出,xt为输入值,对应一个IMF分量的t时刻的值。
更进一步的,之前计算所用到的sigmoid激活函数公式为:
所用到的tanh激活函数公式为:
更进一步地,使用全连接层Dense层连接在LSTM层后面,将LSTM层的输出作为其输入向量来进行进一步的特征提取,Dense层的激活函数选择ReLu来减小梯度弥散问题,其计算公式为Dense(x)=ReLu(θ·x+b),其中θ为权重,b为偏置,x为输入,对应K个LSTM层的输出组成的输出向量。
更进一步地,通过Softmax层对Dense层的特征向量进行特征分类得到概率输出向量,Softmax回归是当前深度学习研究中广泛使用在深度网络有监督学习部分的分类器。作为一个非线性分类器,它与深度网络中无监督学习的部分相结合,往往能够达到非常高的分类准确率,其具体公式为:
更进一步地,在构建的LSTM多层深度学习神经网络模型中使用了Dropout技术来防止神经网络模型的过拟合。Dropout在训练模型是随机让一定比例的隐含节点不工作,这些不工作的节点会在该次训练中不会进行权值更新,而下一次训练时会重新按比例选择不工作的节点,该方法可以有效减少过拟合现象并降低分类的错误率。
更进一步地,为了克服一般损失函数如均方差损失函数求导时由于sigmoid等激活函数的特性带来的梯度弥散问题,本发明采用交叉熵损失函数作为整个模型的损失函数,损失函数是通过将期望输出与实际输出进行一种计算得到的一个优化的计算指标,具体公式为:
其中L(f(x(i);θ),y(i))为损失函数,m为样本个数,y(i)为第i个样本的期望输出,f(x(i);θ)为第i个样本的实际输出,对应Softmax层实际的概率输出向量。
更进一步地,梯度下降训练时的梯度优化算法采用RMSProp算法,RMSProp算法针对循环神经网络有相对普通的梯度下降算法有相对更好的训练效果。本模型中的RMSProp算法是通过结合交叉熵损失函数L(f(x(i);θ),y(i))对各个权重θ进行梯度求导,求出使损失函数变小的权重变化值,同时引入梯度累计量r和衰减系数ρ,在一定程度上加快收敛速度并避免局部最优化,具体梯度更新步骤如下:
步骤5.2、计算梯度累计量r,其中ρ为衰减系数。其中,r←ρr+(1-ρ)g⊙g。
步骤5.4、通过Δθ更新权重θ的值。其中,θ←θ+Δθ。
第二方面,本发明还提供了一种基于LSTM深度学习模型的水电机组故障诊断***,***包括:
IMF分量获取单元,用于获取水电机组的N个不同信号通道的振动信号的采样序列,对每一个时间序列进行变分模态分解,得到K个IMF分量;
训练集和待诊断集获取单元,用于对每一个IMF分量进行归一化处理,并构建相应的训练集和待诊断集;
特征提取单元,用于对每一个IMF分量的训练集构建长短期记忆网络(LTSM)深度学习模型,通过至少两层的LSTM层来对每一个本征模态函数进行特征提取;
训练模块,用于将同一个信号通道的K个LSTM层输出连接到一个Dense层,再将N个信号通道的Dense层输出连接到Softmax层来进行分类,并通过交叉熵损失函数与故障标签得到误差来用于训练;
诊断模块,用于通过RMSProp梯度下降算法对LTSM深度学习模型进行训练,将训练好的模型对待诊断集进行诊断,得到最终的诊断结果。
本发明将变分模态分解VMD算法与深度学习中的LSTM神经网络进行结合形成一种更精准高效的算法,以提高目前水电机组故障诊断的精确度,也进一步提高了水电厂的维修效率。
进一步的,本发明针对水电机组现场测量得到的信号通道中会有较大的噪音成分的问题,使用变分模态分解VMD对振动信号进行分解以得到信噪分离后的有效的波形分量再来提取特征。同时循环神经网络(Recurrent Neural Networks,简写为:RNN)这种反馈型神经网络以及其变体长短期记忆网络LSTM、门控循环单元GRU等等对时间序列的数据具有更高效的处理能力。由于RNN神经网络在沿着时间反向传播训练时存在梯度弥散的问题,从而较长时间跨度的信息无法有效的利用起来,因此本发明中选择使用深度学习中的长短期记忆网络LSTM对VMD信噪分离后的分量序列来进行特征提取。
附图说明
图1为本发明实施例提供的基于长短期记忆网络深度学习的水电机组故障诊断模型图;
图2为本发明实施例提供的循环神经网络的计算展开图;
图3为本发明实施例提供的长短期记忆网络的内部记忆单元和门结构的计算图;
图4为本发明实施例提供的一种基于LSTM深度学习模型的水电机组故障诊断***架构图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图对本发明进行进一步详细说明。应当理解,此处所描述的具体步骤仅仅用以解释本发明,并不用于限定本发明。
实施例1:
本发明实施例提出的一种基于LSTM深度学习模型的水电机组故障诊断方法,参考如图1所示的诊断模型图,具体实施步骤如下:
步骤1:获取水电机组的N个不同信号通道的振动信号的采样值。对每一个信号通道的振动信号进行变分模态分解,得到分解出来的K个IMF分量。
其中,VMD分解的前提为构造一个变分问题,假设每个‘模态’都是具有中心频率的有限带宽,变分问题就可以被描述为寻求K个IMF分量uk(t),使每个模态的估计带宽之和最小,约束条件为每个模态相加之和为原始输入信号,变分问题构造过程如下:
(1)通过Hilbert变换,得到每个模态函数的解析信号,目的是可以得到它的单边频谱,具体变换如下,其中δ(t)为脉冲信号函数,uk(t)为IMF分量,*为卷积计算符号,j表示虚数单位。
更进一步地,变分模态分解的算法通过引入惩罚因子α和拉格朗日乘法算子λ(t)得到扩展的拉格朗日表达式如下,其中f(t)为原始信号。
在对变分问题构造了扩展的拉格朗日表达式后利用交替方向乘子算法ADMM求取IMF分量uk(t)的具体步骤如下:
步骤1.2、执行循环n=n+1;
步骤1.3、更新uk,仅计算频域ω>0的部分,计算公式如下其中f(ω)为f(t)的傅里叶变换,uk(ω)为信号uk(t)的傅里叶变换,ωk为中心频率;
步骤1.4、中心频率ωk的更新方程如下所示:
步骤1.5、更新拉格朗日乘法算子λ,λ更新式如下,其中τ为迭代系数:
步骤2、对每一个IMF分量进行归一化处理,并构建相应的训练集和待诊断集。归一化时对同一个通道的所有分量进行整体上的归一化,同时训练集中作为一个样本的输入序列的长度可以取与包含最低频的信号的时间长度的采样序列以保证能对所有有用信息进行提取,同时将采样信息分成多个时间段作为样本,采用一定比例来划分训练集和待诊断集。
步骤3、对每一个IMF分量的训练集构建长短期记忆网络模型,通过两层的LSTM层来对每一个IMF分量进行特征提取。其中第一层LSTM网络以多输出方式输出序列,该序列用于提供给第二层LSTM层再次进行特征提取。第二层LSTM层为单输出,再和同一通道的LSTM层输出进行合并,得到的K个IMF分量的LSTM层输出合并的特征向量用于作为Dense全连接层的输入。同时两层LSTM层均取Dropout值为0.2来防止过拟合现象。
其中LSTM的前向计算过程如图3所示,具体计算步骤如下,其中ht-1为t-1时刻隐层输出,xt为输入值,对应一个IMF分量的t时刻的值。
遗忘门的计算如下,其中ft为遗忘门的输出值,θf为遗忘门输入权重,bf为遗忘门输入偏置。
ft=sigmoid(θf·[ht-1,xt]+bf) (10)
输入门的计算如下,其中it为输入门的输出值,θi为输入门输入权重,bi为输入门输入偏置。
it=sigmoid(θi·[ht-1,xt]+bi) (11)
输出门的计算如下,其中ot为输出门的输出值,θo为输出门输入权重,bo为输出门输入偏置。
ot=sigmoid(θo·[ht-1,xt]+bo) (12)
对记忆单元Cell的记忆内容的更新计算如下,其中ct-1为上一个时刻的记忆单元的值。
ct=ft⊙ct-1+it⊙ct (14)
隐藏层输出值ht的计算如下。
ht=ot⊙tanh(ct) (15)
步骤4、同一个信号通道的K个IMF分量的LSTM层输出连接到一个Dense层,再将N个信号通道的Dense层输出连接到Softmax层来进行最后的分类,并通过交叉
与故障标签得到误差来用于训练。
其中Dense层用于对LSTM层提取的特征进行进一步特征提取,再用于下一层Softmax的分类计算。为防止过拟合,并减少计算量,Dense层取Dropout值为0.5。Dense层的计算公式如下,其中θ为权重,x为输入,b为偏置,ReLu为激活函数:
Dense(x)=ReLu(θ·x+b) (16)
ReLu的计算公式如下:
Dense层的输出向量通过Softmax层来进行归一化输出,Softmax层输出对应每个故障的概率,输出的向量的每一位表示对应该位为1的水电机组故障的概率大小,通过概率大小即可判断此时信号通道的输入最可能对应的故障原因。Softmax的计算公式如下,其中x为Softmax层的输入向量,在模型中为Dense层的输出,θ为softmax层的权重矩阵,左边向量中的元素p(y=n|x;θ)表示输出y的值为n的概率,最终组成一个概率输出向量。
为了克服一般损失函数如均方差损失函数求导时由于sigmoid等激活函数的特性带来的梯度弥散问题,相应的误差损失函数的构建通过交叉熵来实现。损失函数是通过将期望输出与实际输出进行一种计算得到的一个优化的计算指标,交叉熵的计算如下,其中L(f(x(i);θ),y(i))为损失函数,m为样本个数,y(i)为第i个样本的期望输出,f(x(i);θ)为第i个样本的实际输出,对应Softmax层实际的概率输出向量。
步骤5、通过RMSProp梯度下降算法对深度学习神经网络模型进行训练,将训练好的模型对待诊断集进行诊断,得到最终的诊断结果。RMSProp算法针对循环神经网络有相对普通的梯度下降算法有相对更好的训练效果,通过结合交叉熵损失函数L(f(x(i);θ),y(i))对各个权重θ和偏置b进行梯度求导,求出使损失函数变小的权重变化值,同时引入梯度累计量r和衰减系数ρ,在一定程度上加快收敛速度并避免局部最优化。RMSprop算法迭代过程如下:
步骤5.2、计算梯度累计量r,其中ρ为衰减系数。
r←ρr+(1-ρ)g⊙g (22)
步骤5.3、计算权重更新值Δθ,η为学习率,δ为一个小常数(通常取10-6),用于被小数除时的数值稳定。
步骤5.4、通过Δθ来更新权重θ的值。
θ←θ+Δθ (24)
进行训练优化后的深度学习网络模型即可用于对待诊断集进行故障诊断,具体为将某一类故障的每一个信号通道的振动信号序列进行VMD分解再归一化处理后输入到网络模型中,对得到的最终的概率向量进行分析,若对应该故障的向量中的哪一位的概率值最大并最接近于1,表明网络诊断该故障可能性最大,代表该故障的诊断结果正确。
实施例2:
本发明实施例还提供了一种基于LSTM深度学习模型的水电机组故障诊断***,如图4所示,***包括:
IMF分量获取单元,用于获取水电机组的N个不同信号通道的振动信号的采样序列,对每一个时间序列进行变分模态分解,得到K个IMF分量;
训练集和待诊断集获取单元,用于对每一个IMF分量进行归一化处理,并构建相应的训练集和待诊断集;
特征提取单元,用于对每一个IMF分量的训练集构建长短期记忆网络(LTSM)深度学习模型,通过至少两层的LSTM层来对每一个本征模态函数进行特征提取;
训练模块,用于将同一个信号通道的K个LSTM层输出连接到一个Dense层,再将N个信号通道的Dense层输出连接到Softmax层来进行分类,并通过交叉熵损失函数与故障标签得到误差来用于训练;
诊断模块,用于通过RMSProp梯度下降算法对LTSM深度学习模型进行训练,将训练好的模型对待诊断集进行诊断,得到最终的诊断结果。
本领域的技术人员容易理解,以上所述仅为本发明的具体实施步骤,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于LSTM深度学习模型的水电机组故障诊断方法,其特征在于,方法包括:
获取水电机组的N个不同信号通道的振动信号的采样序列,对每一个时间序列进行变分模态分解,得到K个IMF分量;
对每一个IMF分量进行归一化处理,并构建相应的训练集和待诊断集;
对每一个IMF分量的训练集构建长短期记忆网络(LTSM)深度学习模型,通过至少两层的LSTM层来对每一个本征模态函数进行特征提取;
同一个信号通道的K个LSTM层输出连接到一个Dense层,再将N个信号通道的Dense层输出连接到Softmax层来进行分类,并通过交叉熵损失函数与故障标签得到误差来用于训练;
通过RMSProp梯度下降算法对LTSM深度学习模型进行训练,将训练好的模型对待诊断集进行诊断,得到最终的诊断结果。
2.根据权利要求1所述的基于LSTM深度学习模型的水电机组故障诊断方法,其特征在于,所述对每一个时间序列进行变分模态分解,得到K个IMF分量,具体包括:
使每个模态的估计带宽之和最小,约束条件为每个模态相加之和为原始输入信号,变分问题构造过程如下:
3.根据权利要求2所述的基于LSTM深度学习模型的水电机组故障诊断方法,其特征在于,所述通过估计的模态信号的带宽之和,构造使总带宽最小的变分求解问题,用于后续的变分模态分解,具体包括:
变分模态分解的算法通过引入惩罚因子α和拉格朗日乘法算子λ(t)得到扩展的拉格朗日表达式完成,其中拉格朗日表达式如下:
其中f(t)为原始信号;
在对变分问题构造了扩展的拉格朗日表达式后利用交替方向乘子算法ADMM求取IMF分量uk(t)的具体步骤如下:
步骤1.2、执行循环n=n+1;
步骤1.3、更新uk,仅计算频域ω>0的部分,其中f(ω)为原始信号f(t)的傅里叶变换,uk(ω)为信号uk(t)的傅里叶变换,ωk为中心频率;
步骤1.4、中心频率ωk的更新方程如下所示:
步骤1.5、更新拉格朗日乘法算子λ,λ更新式如下,其中τ为迭代系数:
4.根据权利要求2或3所述的基于LSTM深度学习模型的水电机组故障诊断方法,其特征在于,通过选择同一个信号通道分解得出的一部分IMF分量作为输入进行分类输出,分析不同组合的IMF分量对分类结果精确度的影响大小,选择出IMF分量uk(t)中对结果影响较大的IMF分量来用于特征提取。
5.根据权利要求1-3任一所述的基于LSTM深度学习模型的水电机组故障诊断方法,其特征在于,通过长短期记忆网络LSTM对每一个IMF分量的时间序列进行处理,序列每一个时刻的值作为一个LSTM神经元的输入,其神经元的前向计算包括:
遗忘门的前向根据ft=sigmoid(θf·[ht-1,xt]+bf)计算,其中ft为遗忘门的输出值,θf为遗忘门输入权重,bf为遗忘门输入偏置;
输入门的前向根据it=sigmoid(θi·[ht-1,xt]+bi)计算,其中it为输入门的输出值,θi为输入门输入权重,bi为输入门输入偏置;
输出门的前向根据ot=sigmoid(θo·[ht-1,xt]+bo)计算,其中ot为输出门的输出值,θo为输出门输入权重,bo为输出门输入偏置;
对记忆单元Cell的记忆内容的更新根据ct=ft⊙ct-1+it⊙ct计算,其中ct-1为上一个时刻的记忆单元的值;
输出给下一层的隐藏层输出值ht根据ht=ot⊙tanh(ct)计算,并由输出门来控制记忆单元进行输出;其中ht-1为t-1时刻的隐层输出,xt为输入值,对应一个IMF分量的t时刻的值。
10.一种基于LSTM深度学习模型的水电机组故障诊断***,其特征在于,***包括:
IMF分量获取单元,用于获取水电机组的N个不同信号通道的振动信号的采样序列,对每一个时间序列进行变分模态分解,得到K个IMF分量;
训练集和待诊断集获取单元,用于对每一个IMF分量进行归一化处理,并构建相应的训练集和待诊断集;
特征提取单元,用于对每一个IMF分量的训练集构建长短期记忆网络(LTSM)深度学习模型,通过至少两层的LSTM层来对每一个本征模态函数进行特征提取;
训练模块,用于将同一个信号通道的K个LSTM层输出连接到一个Dense层,再将N个信号通道的Dense层输出连接到Softmax层来进行分类,并通过交叉熵损失函数与故障标签得到误差来用于训练;
诊断模块,用于通过RMSProp梯度下降算法对LTSM深度学习模型进行训练,将训练好的模型对待诊断集进行诊断,得到最终的诊断结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711463863.2A CN108197648B (zh) | 2017-12-28 | 2017-12-28 | 一种基于lstm深度学习模型的水电机组故障诊断方法与*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711463863.2A CN108197648B (zh) | 2017-12-28 | 2017-12-28 | 一种基于lstm深度学习模型的水电机组故障诊断方法与*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108197648A CN108197648A (zh) | 2018-06-22 |
CN108197648B true CN108197648B (zh) | 2020-06-05 |
Family
ID=62585562
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711463863.2A Active CN108197648B (zh) | 2017-12-28 | 2017-12-28 | 一种基于lstm深度学习模型的水电机组故障诊断方法与*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108197648B (zh) |
Families Citing this family (57)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109143851B (zh) * | 2018-07-11 | 2021-06-01 | 佛山科学技术学院 | 多标记故障深度学习的识别及其结果智能表达的方法 |
CN109035226B (zh) * | 2018-07-12 | 2021-11-23 | 武汉精测电子集团股份有限公司 | 基于LSTM模型的Mura缺陷检测方法 |
CN109408552B (zh) * | 2018-08-08 | 2022-01-04 | 南京航空航天大学 | 基于lstm-ae深度学习框架的民机***故障监测与识别方法 |
CN110858289B (zh) * | 2018-08-24 | 2023-11-03 | 河南工业大学 | 一种基于深度学习的粮食水分检测方法及*** |
CN110865625A (zh) * | 2018-08-28 | 2020-03-06 | 中国科学院沈阳自动化研究所 | 一种基于时间序列的工艺数据异常检测方法 |
CN109276244A (zh) * | 2018-09-03 | 2019-01-29 | 南京理工大学 | 基于脑电波信息的老年人护理意图的识别方法 |
CN109242212A (zh) * | 2018-10-16 | 2019-01-18 | 中国矿业大学 | 一种基于变模式分解与长短记忆网络的风电预测方法 |
CN109443752B (zh) * | 2018-10-17 | 2020-11-27 | 北京信息科技大学 | 一种基于vmd的齿轮振动信号降噪及故障诊断方法 |
CN109460005B (zh) * | 2018-11-01 | 2021-08-13 | 上海理工大学 | 基于gru深度神经网络的动态工业过程故障诊断方法 |
CN109129574B (zh) * | 2018-11-08 | 2021-05-04 | 山东大学 | 服务机器人运动***云端故障诊断***及方法 |
CN111008203A (zh) * | 2018-11-20 | 2020-04-14 | 中国石油化工股份有限公司 | 一种油井计量仪器失准定位诊断方法、装置和终端 |
CN109583346A (zh) * | 2018-11-21 | 2019-04-05 | 齐鲁工业大学 | 基于lstm-fc的脑电信号特征提取与分类识别方法 |
CN109276255B (zh) * | 2018-11-27 | 2023-02-28 | 平安科技(深圳)有限公司 | 一种肢体震颤检测方法及装置 |
CN109814523B (zh) * | 2018-12-04 | 2020-08-28 | 合肥工业大学 | 基于cnn-lstm深度学习方法及多属性时序数据的故障诊断方法 |
CN109657604B (zh) * | 2018-12-17 | 2021-02-12 | 中国人民解放军战略支援部队信息工程大学 | 基于循环神经网络的卫星幅相信号识别解调方法及装置 |
CN109555566B (zh) * | 2018-12-20 | 2021-04-20 | 西安交通大学 | 一种基于lstm的汽轮机转子故障诊断方法 |
CN109738776A (zh) * | 2019-01-02 | 2019-05-10 | 华南理工大学 | 基于lstm的风机变流器开路故障识别方法 |
CN109948833A (zh) * | 2019-02-25 | 2019-06-28 | 华中科技大学 | 一种基于长短期记忆网络的水电机组劣化趋势预测方法 |
CN109781399A (zh) * | 2019-02-27 | 2019-05-21 | 天津大学 | 一种基于神经网络的风冷式制冷机组传感器故障诊断方法 |
CN110232395B (zh) * | 2019-03-01 | 2023-01-03 | 国网河南省电力公司电力科学研究院 | 一种基于故障中文文本的电力***故障诊断方法 |
CN109931678B (zh) * | 2019-03-13 | 2020-09-25 | 中国计量大学 | 基于深度学习lstm的空调故障诊断方法 |
CN110046663A (zh) * | 2019-04-16 | 2019-07-23 | 重庆大学 | 一种复杂机电***故障临界态辨识方法 |
CN110069886A (zh) * | 2019-05-05 | 2019-07-30 | 四川大学 | 基于vmd和cnn的电缆早期故障识别与分类方法 |
CN110297479B (zh) * | 2019-05-13 | 2020-12-29 | 国网浙江省电力有限公司紧水滩水力发电厂 | 一种基于卷积神经网络信息融合的水电机组故障诊断方法 |
CN110263846B (zh) * | 2019-06-18 | 2021-12-28 | 华北电力大学 | 基于故障数据深度挖掘及学习的故障诊断方法 |
CN110261773B (zh) * | 2019-07-01 | 2021-04-13 | 南京航空航天大学 | 一种航空发电机故障征兆提取方法及*** |
CN110441065B (zh) * | 2019-07-04 | 2022-02-08 | 杭州华电江东热电有限公司 | 基于lstm的燃气轮机在线检测方法与装置 |
CN110153802B (zh) * | 2019-07-04 | 2020-05-01 | 西南交通大学 | 一种基于卷积神经网络和长短时记忆神经网络联合模型的刀具磨损状态辨识方法 |
CN110309603B (zh) * | 2019-07-05 | 2023-10-24 | 华北电力大学(保定) | 一种基于风速特性的短期风速预测方法及*** |
CN110991471B (zh) * | 2019-08-01 | 2023-07-11 | 南京航空航天大学 | 一种高速列车牵引***故障诊断方法 |
CN110458281B (zh) * | 2019-08-02 | 2021-09-03 | 中科新松有限公司 | 乒乓球机器人的深度强化学习旋转速度预测方法及*** |
CN110609229B (zh) * | 2019-09-17 | 2020-12-01 | 电子科技大学 | 一种基于深度学***衡故障检测方法 |
CN110531266B (zh) * | 2019-10-14 | 2021-08-24 | 国网山东省电力公司电力科学研究院 | 一种同步电机励磁绕组匝间短路故障预警方法 |
CN110736968B (zh) * | 2019-10-16 | 2021-10-08 | 清华大学 | 基于深度学习的雷达异常状态诊断方法 |
CN110909782A (zh) * | 2019-11-15 | 2020-03-24 | 湘潭大学 | 一种基于多特征结合深度学习对机床主轴故障的诊断方法 |
CN111175852B (zh) * | 2019-12-27 | 2022-11-18 | 中国电子科技集团公司第十四研究所 | 一种基于长短时记忆算法的机场大雾预报预警方法 |
CN111222467B (zh) * | 2020-01-08 | 2022-03-25 | 燕山大学 | 一种风力发电机部件故障分类检测方法 |
CN111273623B (zh) * | 2020-02-25 | 2022-10-18 | 电子科技大学 | 基于Stacked LSTM的故障诊断方法 |
CN111428788B (zh) * | 2020-03-24 | 2022-12-09 | 西安交通大学 | 基于深度学习的汽轮机发电机组转子多故障诊断方法及*** |
CN111458640B (zh) * | 2020-04-22 | 2021-05-28 | 西安交通大学 | 一种基于三相电流的交流异步电机转子断条故障诊断方法 |
CN112101116B (zh) * | 2020-08-17 | 2024-05-07 | 北京无线电计量测试研究所 | 一种基于深度学习的模拟电路故障诊断方法 |
CN112146879A (zh) * | 2020-08-21 | 2020-12-29 | 江苏大学 | 一种滚动轴承故障智能诊断方法及其*** |
CN112101244A (zh) * | 2020-09-18 | 2020-12-18 | 无锡科晟光子科技有限公司 | 基于深度学习预测光纤振动信号危险等级的方法 |
CN112488171A (zh) * | 2020-11-25 | 2021-03-12 | 江南大学 | 一种变分模式分解的sru故障预测方法 |
CN115221769B (zh) * | 2021-04-15 | 2023-10-10 | 广州中国科学院先进技术研究所 | 一种故障预测方法、***、电子设备和存储介质 |
CN113392771A (zh) * | 2021-06-16 | 2021-09-14 | 天津职业技术师范大学(中国职业培训指导教师进修中心) | 一种基于深度学习的植物生长状态诊断方法、***及装置 |
CN113485102A (zh) * | 2021-06-22 | 2021-10-08 | 西安法士特汽车传动有限公司 | 一种基于长短期记忆神经网络识别车辆行驶工况的方法 |
CN113609932B (zh) * | 2021-07-21 | 2022-09-16 | 广州大学 | 基于长短期记忆网络的故障检测方法、***、装置及介质 |
CN113822329B (zh) * | 2021-08-10 | 2023-11-03 | 国网新源控股有限公司 | 一种水电机组主轴摆度信号处理方法及装置 |
CN113777485B (zh) * | 2021-09-07 | 2022-05-17 | 江南大学 | 基于价值函数误差的永磁同步电机开路故障诊断方法 |
CN114203298A (zh) * | 2021-12-15 | 2022-03-18 | 山东众阳健康科技集团有限公司 | 基于深度神经网络的辅助诊断方法及*** |
CN114528874A (zh) * | 2022-01-24 | 2022-05-24 | 五凌电力有限公司 | 水电机组的故障诊断方法、装置及电子设备 |
CN114925809B (zh) * | 2022-04-13 | 2024-05-24 | 北京印刷学院 | 基于lstm的印刷机轴承故障诊断方法及装置 |
CN116340830B (zh) * | 2023-05-19 | 2023-08-18 | 山东通维信息工程有限公司 | 一种基于深层记忆模型的高速公路机电***故障分类方法 |
CN117494545B (zh) * | 2023-09-28 | 2024-06-11 | 中国长江电力股份有限公司 | 一种基于混合学习方法的断路器老化故障率预测方法 |
CN117557304B (zh) * | 2024-01-11 | 2024-03-29 | 国网浙江省电力有限公司 | 基于模态分解与神经网络的电量电价层级融合预测方法 |
CN117929952B (zh) * | 2024-03-21 | 2024-05-28 | 国网(山东)电动汽车服务有限公司 | 一种电动汽车充电桩的新型电弧故障检测方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106596116A (zh) * | 2016-11-29 | 2017-04-26 | 西安理工大学 | 一种风力发电机组振动故障诊断方法 |
CN107044349A (zh) * | 2017-04-17 | 2017-08-15 | 清华大学深圳研究生院 | 一种发动机的故障预测方法 |
CN107315892A (zh) * | 2017-08-10 | 2017-11-03 | 北京交通大学 | 一种基于极限学习机的轴承故障诊断方法 |
-
2017
- 2017-12-28 CN CN201711463863.2A patent/CN108197648B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106596116A (zh) * | 2016-11-29 | 2017-04-26 | 西安理工大学 | 一种风力发电机组振动故障诊断方法 |
CN107044349A (zh) * | 2017-04-17 | 2017-08-15 | 清华大学深圳研究生院 | 一种发动机的故障预测方法 |
CN107315892A (zh) * | 2017-08-10 | 2017-11-03 | 北京交通大学 | 一种基于极限学习机的轴承故障诊断方法 |
Non-Patent Citations (6)
Title |
---|
Fault diagnosis and remaining useful life estimation of aero engine using LSTM neural network;Mei Yuan,Yuting Wu and Li Lin;《2016 IEEE/CSAA INTERNATIONAL CONFERENCE ON AIRCRAFT UTILITY SYSTEMS (AUS)》;20161012;全文 * |
Recurrent Neural Network-based Fault Detector for Aileron Failures of Aircraft;Nobuyuki Yoshikawa,Nacim Belkhir and Sinji Suzuki;《2017 11TH ASIAN CONTROL CONFERENCE (ASCC)》;20171220;全文 * |
变分模态分解与神经网络结合的轴承故障诊断;杨洪柏,张宏利,蒋超,刘树林;《机械设计与制造》;20170630(第06期);全文 * |
基于VMD分解和支持向量机的水电机组振动故障诊断;张勋康,陈文献,杨洋,李涛涛;《电网与清洁能源》;20171025;第33卷(第10期);全文 * |
基于长短时记忆神经网络的风电机组滚动轴承故障诊断方法;张建付,宋雨,李刚,王传洋,焦亚菲;《计算机测量与控制》;20170125;第25卷(第1期);全文 * |
水电机组振动信号分析与智能故障诊断方法研究;付文龙;《中国博士学位论文全文数据库 工程科技Ⅱ辑(月刊)》;20170815(第08期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN108197648A (zh) | 2018-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108197648B (zh) | 一种基于lstm深度学习模型的水电机组故障诊断方法与*** | |
Xie et al. | Graph neural network approach for anomaly detection | |
CN111899510A (zh) | 基于发散卷积和gat的智能交通***流量短期预测方法及*** | |
Fan et al. | A novel machine learning method based approach for Li-ion battery prognostic and health management | |
CN112131760A (zh) | 基于cbam模型的航空发动机剩余寿命预测方法 | |
Cheng et al. | A novel deep class-imbalanced semisupervised model for wind turbine blade icing detection | |
CN109886464B (zh) | 基于优化奇异值分解生成特征集的低信息损失短期风速预测方法 | |
Remadna et al. | Leveraging the power of the combination of CNN and bi-directional LSTM networks for aircraft engine RUL estimation | |
Zhang et al. | A novel fault diagnosis method based on stacked LSTM | |
CN111914897A (zh) | 一种基于孪生长短时间记忆网络的故障诊断方法 | |
CN106649479A (zh) | 一种基于概率图的变压器状态关联规则挖掘方法 | |
CN113591728A (zh) | 基于集成深度学习的电能质量扰动分类方法 | |
Wang et al. | Multi-step-ahead time series prediction method with stacking LSTM neural network | |
CN112766603A (zh) | 一种交通流量预测方法、***、计算机设备及存储介质 | |
CN111141879B (zh) | 一种深度学习的空气质量监测方法以及装置、设备 | |
Osogami et al. | Bidirectional learning for time-series models with hidden units | |
CN114841076A (zh) | 基于时空图模型的动力电池生产工艺波动异常检测方法 | |
CN114596726B (zh) | 基于可解释时空注意力机制的停车泊位预测方法 | |
CN115713162A (zh) | 一种分布式低碳能源站健康状态预警预测方法 | |
CN116818325A (zh) | 一种滚动轴承故障诊断方法及*** | |
CN115761654B (zh) | 一种车辆重识别方法 | |
Alam | Recurrent neural networks in electricity load forecasting | |
Xiao et al. | Mixture of deep neural networks for instancewise feature selection | |
Yu et al. | Remaining useful life prediction based on multi-scale residual convolutional network for aero-engine | |
CN115754537A (zh) | 一种滑窗信号分解与卷积预测的非侵入式负荷检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |