CN110542819B - 一种基于半监督dbnc的变压器故障类型诊断方法 - Google Patents

Abstract

本发明公开了一种基于半监督DBNC的变压器故障类型诊断方法，它包括：选定样本数据集；将样本数据分为无标签的预训练集、有标签集、测试集1和测试集2；对故障类型进行状态编码；建立基于深度信念网络分类器的变压器故障诊断模型；对模型的各层参数进行初始化；利用对比散度对底部每个RBM进行逐层训练；通过反向传播对整个网络参数进行优化，使网络分类性能达到全局最优；将训练好的网络进行保存，并利用测试集1的样本数据对网络的分类性能进行验证；解决了对变压器故障诊断采用深度学习网络故障数据进行分析处理，而通常情况下只能获得少量完备数据样本，获取大量具有标签的完备数据样本非常困难，需要花费大量的人力物力。

Description

一种基于半监督DBNC的变压器故障类型诊断方法

技术领域

本发明属于变压器故障诊断技术，尤其涉及一种基于半监督DBNC的变压器故障类型诊断方法。

背景技术

电力变压器作为电力***中电压变换和电能分配的重要设备，其安全可靠性与电力***的稳定性息息相关。但由于制造缺陷、人为因素和天气影响等，变压器的故障诊断及其发展趋势预测一直受到高度关注。我国大多数电力变压器是油浸式变压器。变压器故障初期，所形成的气体溶解于油中，当故障能量变大，就会形成自由气体。因此，油中溶解气体分析(Dissolved Gas Analysis,DGA)成为了变压器故障诊断的主要手段。

目前，基于DGA的电力变压器故障诊断方法主要分为传统的故障诊断方法和智能诊断方法。传统方法主要是利用IEC三比值法。该方法目前在变压器故障诊断方面应用率很高，它在远离区间分界点的地方准确率很理想，但是，当比值在判断区间交界处附近时，三比值法会有判断不准甚至误判的问题。面对传统比值法的不足之处，研究者们以DGA作为特征量，开展了大量智能故障诊断方法的研究。比如用3步法构造贝叶斯网络,将其与DGA的三比值法结合后引入变压器故障诊断；采用模糊ISODATA法对电力变压器的油中气体分析数据进行聚类分析；提出使用BP网络诊断变压器故障；提出使用支持向量机及其改进算法对变压器故障类型进行诊断。但是，这些方法均属于浅层机器学习方法，学习能力具有一定的有限性，诊断准确率达到一定高度时很难再有大的提高。现有技术进一步提出使用深度学习网络对大量变压器故障数据进行分析处理，进而诊断变压器故障类型。但是深度学习需要样本准确、完备，方能得到比较满意的结果，而通常情况下只能获得少量完备数据样本，获取大量具有标签的完备数据样本非常困难，需要花费大量的人力物力。

发明内容

本发明要解决的技术问题是：提供一种基于半监督DBNC的变压器故障类型诊断方法，以解决现有技术对变压器故障诊断采用深度学习网络对大量变压器故障数据进行分析处理，进而诊断变压器故障类型；但是深度学习需要样本准确、完备，方能得到比较满意的结果，而通常情况下只能获得少量完备数据样本，获取大量具有标签的完备数据样本非常困难，需要花费大量的人力物力。

本发明的技术方案是：

一种基于半监督DBNC的变压器故障类型诊断方法，它包括：

步骤1、选定样本数据集，并对样本数据集进行归一化处理；

由于电压等级在220kV及以下的变压器油中溶解气体含量阈值相同，故本发明选取的所有数据均为220kV及以下的变压器油中溶解气体含量数值。每组样本数据大小为1×8维，分别是CH₄、C₂H₆、C₂H₄、C₂H₂、总烃、H₂、CO、CO₂。由于变压器的故障存在随着时间发展和变化的现象，且由于监测设备造成的假故障数据时常存在，故单独提取一次监测数据来做故障诊断的意义不大。本课题选取的样本数据均为连续三次监测的变压器油色谱监测数据，每组样本数据大小为3×8维，将其变换成1×24维输入网络，对所有数据进行归一化为[0，1]之间的值，避免样本各维之间的数量级差别较大。本文归一化方法采用最大最小法：

x_k＝(x_k-x_min)/(x_max-x_min)

其中，x_min为数据序列中的最小值；x_max为数据序列中的最大值。

步骤2、将样本数据分为无标签的预训练集、有标签集、测试集1和测试集2；

步骤3、对故障类型进行状态编码；

步骤4、建立基于深度信念网络分类器的变压器故障诊断模型；

步骤5、对模型的各层参数进行初始化；

步骤6、利用对比散度对底部每个RBM进行逐层训练；

步骤7、通过反向传播对整个网络参数进行优化，使网络分类性能达到全局最优；

步骤8、将训练好的网络进行保存，并利用测试集1的样本数据对网络的分类性能进行验证；

步骤9、将测试集1中置信度高于阀值的样本加入到预训练集中，从测试集1中删除加入到预训练集中的样本，并判断测试集中数据是否用完，如果用完则执行步骤10，没有用完则返回步骤8；

步骤10、保存训练好的半监督DBNC网络；

步骤11、用保存的半监督DBNC网络对测试集2进行测试，得出分类结果。

步骤4所述建立基于深度信念网络分类器的变压器故障诊断模型的方法为：

步骤4.1、设D_N＝{x₁，x₂，…，x_l+1，x_l+2，…，x_n}是无标签的预训练集，D_L＝{(x₁，y₁)，(x₂，y₂)，…，(x_l，y_l)}是有标签集；算法流程如下：

步骤4.2、用D_L初始化分类器；

步骤4.3、从D_N中随机选出数据样本，用分类器对数据样本进行分类预测；然后选出置信度高于阀值的样本放入到有标签集，重新用有标签集来训练分类器；置信度低于阀值的样本重新返回无标签的预训练集；

步骤4.4、重复步骤4.2-4.3，直到满足停止条件；停止条件是D_N用完。

所述预训练集和有标签集的样本数据是通过将原始数据生成对抗网络来做数据平衡处理后得到的数据；所述生成对抗网络的方法为：生成对抗网络的框架中包含一对相互对抗的模型：判别器和生成器；判别器用来判别数据真假，输入的样本为真，则判别器输出1，输入的样本为假，判别器输出0；生成器则尽可能的逼近真实数据的分布，使得判别器无法判断生成器输出样本的真假；当生成器和判别器两者间达到纳什均衡，则完成生成对抗网络目标。

本发明有益效果：

本发明为了解决可用完备数据样本少而不能满足DBNC网络训练需求，但是现场却存在大量未标签数据样本无法使用的问题，提出了基于半监督DBNC网络的变压器故障诊断方法。采用半监督学***衡问题。通过对实际数据集进行仿真分析，结果表明，本文提出的基于半监督学习的DBNC网络能够利用未标签数据样本并改善变压器故障诊断性能。随着电力大数据时代的到来，半监督学习算法更能适应时代的需求，解决了现有技术对变压器故障诊断采用深度学习网络对大量变压器故障数据进行分析处理，进而诊断变压器故障类型；但是深度学习需要样本准确、完备，方能得到比较满意的结果，而通常情况下只能获得少量完备数据样本，获取大量具有标签的完备数据样本非常困难，需要花费大量的人力物力。

具体实施方式

本发明提出利用DBNC网络选择置信度高的样本，扩大训练样本数量。

深度信念网络分类器

深度信念网络分类器的网络结构是由一个输入层、若干个受限玻尔兹曼机(Restricted Boltzmann Machine，RBM)和一个顶部分类层叠加而成，顶层分类器选用Softmax分类器，其特点是在给出分类结果的同时，还会给出每个结果的概率大小，非常适合用于对非线性的多分类问题进行求解。

深度信念网络分类器处理多分类问题时，其训练过程分为预训练和调优两个阶段。

(1)预训练阶段采用逐层训练法，对网络各层之间的连接权重及偏置量进行初始化，该过程是一个无监督学习的过程。

以单个RBM为例，其网络结构包括两层：一个可视层v和一个隐含层h，则单个RBM的能量可被表示成以下式子：

式中：r是可视层的单元个数；t是隐含层的单元个数；v_i是可视层第i个单元的取值；h_j为隐含层第j个单元的取值；W_ij代表的是可视层的第i个单元和隐含层第j个单元之间的连接权重；a是一个向量，表示可视层的偏置；b表示隐含层的偏置；由于参数过多不便于计算，遂将RBM的参数W_ij、a和b一起记为θ。由式(1)可知，(v，h)的联合概率分布就可以被表示为以下式子：

式中：Z(θ)＝∑_v，he^-E(v，h|θ)称为归一化因子。进一步的，P(vθ)的似然函数就可以被表示成下面的式子：

为了求解到参数θ，需要利用梯度下降法，对式(3)取极大化。但是，这样计算非常复杂，计算量也很大。为了使计算更加简便，对式(3)的对数取极大化。其中，最重要的计算步骤就是求解logP(vθ)关于θ的偏导数：

式中：<·>_p表示关于分布P的数学期望；P(h|v，θ)表示己知可视层的训练样本v时的隐含层概率分布；P(v，h|θ)表示v层与h层的联合概率分布。用“D″表示P(h|v，θ)，用′M″表示P(v，h|θ)，单样本情况下logP(v|θ)关于参数θ的偏导数分别为：

式中：<·>_D表示对数据集的期望；<·>_M表示模型中定义的期望值，实际上，<·>_M是很难计算出来的，因为实际计算中人们很难得到无偏的样本，所以对重构数据近似采样和更新网络参数θ时，本发明采用对比散度(Contrastive Divergence，CD)算法。以一个训练样本x₀为例，CD算法具体步骤如下：

步骤①：初始化网络参数。各个参数包括：可视层单元的初始状态值v₀＝x₀，参数θ和每一个RBM训练的时候使用的最大迭代次数；

步骤②：对网络中的每一个隐含层单元：

从P(h_0j|v₀)中抽取h_0j∈{0，1}，其中σ(x)为Sigmoid函数；

步骤③：对网络中的每一个可见层单元：

从P(v_1i|h₀)中抽取v_1i∈{0，1}；

步骤④：对网络中的每一个隐含层单元：

步骤⑤：按下面的三个式子来更新参数W、a和b：

a←a+ρ(v₀-v₁) (12)

b←b+ρ[P(h₀＝1|v₀)-P(h₁＝1|v₁)] (13)

步骤⑥：判断每一个RBM的网络重构误差是否满足了设置的精度要求，如果不满足，则重复步骤②～⑤；如果满足，结束。

(2)调优阶段为有监督学习的过程。该阶段将数据标签与相应的网络预测结果进行对比，得到的误差从顶层向底层传播，用于修改整个网络每个单元的参数，最终使DBNC网络达到分类性能最优，这一过程与BP神经网络的反向传播类似。

因此本发明的技术方案为：

一种基于半监督DBNC的变压器故障类型诊断方法，它包括：

步骤1、选定样本数据集，并对样本数据集进行归一化处理；

步骤2、将样本数据分为无标签的预训练集、有标签集、测试集1和测试集2；

步骤3、对故障类型进行状态编码；

步骤4、建立基于深度信念网络分类器的变压器故障诊断模型；

步骤5、对模型的各层参数进行初始化；

步骤6、利用对比散度对底部每个RBM进行逐层训练；

步骤7、通过反向传播对整个网络参数进行优化，使网络分类性能达到全局最优；

步骤8、将训练好的网络进行保存，并利用测试集1的样本数据对网络的分类性能进行验证；

步骤9、将测试集1中置信度高于阀值的样本加入到预训练集中，从测试集1中删除加入到预训练集中的样本，并判断测试集中数据是否用完，如果用完则执行步骤10，没有用完则返回步骤8；

步骤10、保存训练好的半监督DBNC网络；

步骤11、用保存的半监督DBNC网络对测试集2进行测试，得出分类结果。

步骤1所述选定样本数据集，并对样本数据集进行归一化处理的方法为：

选定每组样本数据大小为1×8维，分别是CH₄、C₂H₆、C₂H₄、C₂H₂、总烃、H₂、CO和CO₂；

选取的样本数据均为连续三次监测的变压器油色谱监测数据，每组样本数据大小为3×8维，变换成1×24维输入网络，对所有数据进行归一化为[0，1]之间的值，归一化方法采用最大最小法：

x_k＝(x_k-x_min)/(x_max-x_min)

式中：x_min为数据序列中的最小值；x_max为数据序列中的最大值。步骤4所述建立基于深度信念网络分类器的变压器故障诊断模型的方法为：

步骤4.1、设D_N＝{x₁，x₂，…，x_l+1，x_l+2，…，x_n}是无标签的预训练集，D_L＝{(x₁，y₁)，(x₂，y₂)，…，(x_l，y_l)}是有标签集；算法流程如下：

步骤4.2、用D_L初始化分类器；

步骤4.3、从D_N中随机选出数据样本，用分类器对数据样本进行分类预测；然后选出置信度高于阀值的样本放入到有标签集，重新用有标签集来训练分类器；置信度低于阀值的样本重新返回无标签的预训练集；

步骤4.4、重复步骤4.2-4.3，直到满足停止条件；停止条件是DN用完。

在变压器油色谱的监测中，正常状态与异常状态的样本数据量相差悬殊，本发明得到的变压器油色谱监测数据中，正常数据与异常数据之比约为50∶1。因其数据不平衡性，使用DBNC网络对其进行分类效果并不理想，存在严重的过拟合和网络不收敛现象。为了解决不平衡数据问题，选择使用生成对抗网络(Generative AdversarialNetworks，GAN)来做数据平衡处理。

所述预训练集和有标签集的样本数据是通过将原始数据生成对抗网络来做数据平衡处理后得到的数据；所述生成对抗网络的方法为：生成对抗网络的框架中包含一对相互对抗的模型：判别器和生成器；判别器用来判别数据真假，输入的样本为真，则判别器输出1，输入的样本为假，判别器输出0；生成器则尽可能的逼近真实数据的分布，使得判别器无法判断生成器输出样本的真假；当生成器和判别器两者间达到纳什均衡，则完成生成对抗网络目标。通过对每一类数据进行学***衡，但生成的样本仅用于网络训练，网络测试样本一律使用真实数据进行。

本发明仿真部分统一使用电脑设备的操作***为Windows 10(64bite)，CPU为Intel i7-6500U，内存为8GB，建模仿真平台为MATLAB R2014a。表1给出了变压器五种状态及其对应编码。采样数据共5800组，其中5000组标签样本用于训练网络，5类数据各占1000组；400组无标签样本用于扩张训练集，另外400组无标签样本用于测试网络分类性能。800组无标签样本中，5类数据各占160组。

表1输出结果编码与变压器状态对应关系

DBNC网络构造过程中比较难以确定的参数主要有三个：隐含层网络层数、隐含层单元个数和预训练网络迭代次数。

①对于隐含层网络层数，常用的方法是始终从一个隐含层开始，逐个增加隐含层数量。在隐含层数为2时分类正确率达到最大值，之后极有可能由于过拟合问题导致测试集正确率下降。故本发明选择RBM层数为2层。

②每层RBM单元个数的确定方法目前还没有相关文献总结，根据经验，隐藏节点的数量与输入层和输出层节点数量有关，其关系如下：

N_h＝λ(N_i+N_o) (15)

其中，N_h为隐含层节点数，N_i为输入层节点数，N_o为输出层节点数，λ为一常数，一般取2/3。虽然本文的实际输入有24个节点，但实际上它是三组1*8维的样本拼接而成，故本文的N_i应取8，输出共有五类，故N_o为5，对应的N_h值为8.7，取整后N_h应该在8～9个左右。其实分类正确率在每层RBM单元个数在6左右就开始稳定下来，小于原本预测的每层RBM有8～9个单元数，考虑到隐含层单元数较少更能有效减少过拟合，但可能达不到较好的收敛效果；较多则有可能收敛效果好，但造成迭代时有过剩的容量。折中以后，隐含层单元数量取7个。

③对于预训练时的迭代次数，在每一层RBM的训练过程中，可见层首先把数据传递给隐含层，而重建阶段是指隐藏层的激活状态变成了反向传递过程中的输入。隐含层的激活状态a与每个相应的权重相乘，其过程与可见层向隐含层传递信息时相同。得到的乘积之和与每个相应的可视层处节点偏置项相加，这就是一次重建的过程，重建结果r即对原始输入的一个逼近。

因由于每个RBM层的权值初始化是随机的，所以重建结果与原始输入之间的误差往往较大。将重建结果r与原始输入的差值称为重建误差，该误差会随RBM的权重以迭代过程反复前后传播，直到达到误差精度要求。每平均重构误差在每层RBM的迭代次数在10次以后基本保持不变，故本文选择每层RBM迭代10次后停止。

用DBNC网络代替自训练学***均分类正确率，将BP神经网络、SVM和DBNC三种方法在半监督学习改进前后对于变压器故障诊断的正确率做对比，训练集大小从500～5000递增，结果如表2所示。

表2三种算法改进前后分类正确率对比

由表2可知，在增长趋势上BP算法和SVM算法都出现了平均正确率到达一定值之后不再有提高的现象，而标准DBNC算法虽然平均正确率不如BP和SVM，但却没有出现平均正确率随着训练样本的增多而停滞的现象。其主要原因是BP神经网络和SVM都属于浅层学习网络范畴，其固有的网络学习能力、扩展能力都是非常有限的。并且，浅层学习网络不适合用于对大批量样本进行训练，其网络泛化性能较弱。与之对比由于DBNC多隐含层的复杂拓扑结构，和它使用逐层训练算法带来的网络稳定性，使得DBNC网络能够对大数据量的样本进行训练、分析和学习，所以训练样本量越大越有利于DBNC的特征学习。

本发明为了解决可用完备数据样本少而不能满足DBNC网络训练需求，但是现场却存在大量未标签数据样本无法使用的问题，本发明基于半监督DBNC网络的变压器故障诊断方法。采用半监督学***衡问题；通过对实际数据集进行仿真分析，结果表明，本发明提出的基于半监督学习的DBNC网络能够利用未标签数据样本并改善变压器故障诊断性能。随着电力大数据时代的到来，半监督学习算法更能适应时代的需求。

Claims (1)

1.一种基于半监督DBNC的变压器故障类型诊断方法，它包括：

步骤1、选定样本数据集，并对样本数据集进行归一化处理；

步骤1所述选定样本数据集，并对样本数据集进行归一化处理的方法为：

选定每组样本数据大小为1×8维，分别是CH₄、C₂H₆、C₂H₄、C₂H₂、总烃、H₂、CO和CO₂；

选取的样本数据均为连续三次监测的变压器油色谱监测数据，每组样本数据大小为3×8维，变换成1×24维输入网络，对所有数据进行归一化为[0,1]之间的值，归一化方法采用最大最小法：

x_k＝(x_k-x_min)/(x_max-x_min)

式中：x_min为数据序列中的最小值；x_max为数据序列中的最大值；

步骤2、将样本数据分为无标签的预训练集、有标签集、测试集1和测试集2；所述预训练集和有标签集的样本数据是通过将原始数据生成对抗网络来做数据平衡处理后得到的数据；所述生成对抗网络的方法为：生成对抗网络的框架中包含一对相互对抗的模型：判别器和生成器；判别器用来判别数据真假，输入的样本为真，则判别器输出1，输入的样本为假，判别器输出0；生成器则尽可能的逼近真实数据的分布，使得判别器无法判断生成器输出样本的真假；当生成器和判别器两者间达到纳什均衡，则完成生成对抗网络目标；

步骤3、对故障类型进行状态编码；

步骤4、建立基于深度信念网络分类器的变压器故障诊断模型；

建立基于深度信念网络分类器的变压器故障诊断模型的方法为：

步骤4.1、设D_N＝{x₁,x₂,…,x_l+1,x_l+2,…,x_n}是无标签的预训练集，D_L＝{(x₁,y₁),(x₂,y₂),…,(x_l,y_l)}是有标签集；算法流程如下:

步骤4.2、用D_L初始化分类器；

步骤4.3、从D_N中随机选出数据样本，用分类器对数据样本进行分类预测；然后选出置信度高于阀值的样本放入到有标签集，重新用有标签集来训练分类器；置信度低于阀值的样本重新返回无标签的预训练集；

步骤4.4、重复步骤4.2-4.3，直到满足停止条件；停止条件是D_N用完；

步骤5、对模型的各层参数进行初始化；步骤6、利用对比散度对底部每个RBM进行逐层训练；

步骤7、通过反向传播对整个网络参数进行优化，使网络分类性能达到全局最优；

步骤8、将训练好的网络进行保存，并利用测试集1的样本数据对网络的分类性能进行验证；

步骤9、将测试集1中置信度高于阀值的样本加入到预训练集中，从测试集1中删除加入到预训练集中的样本，并判断测试集中数据是否用完，如果用完则执行步骤10，没有用完则返回步骤8；

步骤10、保存训练好的半监督DBNC网络；

步骤11、用保存的半监督DBNC网络对测试集2进行测试，得出分类结果。