CN105550700A - 一种基于关联分析和主成分分析的时间序列数据清洗方法 - Google Patents

Abstract

本发明公开了一种基于关联分析和主成分分析的时间序列数据清洗方法，步骤：采用皮尔逊系数分析法(PCC)找出变压器故障和其它电力数据的一些隐藏关联；采用主成分分析法(PCA)对所有相关的时间序列进行降维、降噪处理；将清洗后的一部分数据作为训练集输入到BP神经网络(BPNN)中进行训练学习，并用剩下的部分数据作为测试集对模型加以验证。本发明与传统技术相比，能显著提高变压器故障诊断的精确度，同时可以提高分类的准确度，并且在面对高维数据时，运算时间更短。

Description

一种基于关联分析和主成分分析的时间序列数据清洗方法

技术领域

本发明涉及一种基于关联分析和主成分分析的时间序列数据清洗方法。

背景技术

作为国家经济和安全的命脉，电网的安全运营一直是电网最核心和本质的要求。油浸式变压器是又电力***中至关重要的设备，它们的工作状态直接影响到整个电力***的安全性，发生任何故障都可能会导致严重的经济损失。所以很有必要对潜在的故障进行预测，以便及时采取合适的方案对设备进行检修。溶解气体分析法(DGA)是用于电力变压器故障诊断的有效方法。根据电力行业的经验，变压器的工作状态主要和几种油中溶解气体的含量有关，主要包括：氢气(H₂)，甲烷(CH₄)，乙炔(C₂H₂)，乙烯(C₂H₄)，乙烷(C₂H₆)，一氧化碳(CO)和二氧化碳(CO₂)。

过去，电力***普遍采用三比值法来对变压器等电力设备进行估值诊断。三比值法是根据电气设备内绝缘油在故障下裂解产生气体组分含量的相对浓度与温度的相互依赖关系，从几种特征气体中选取两种溶解度和扩散系数相近的气体组成三对比值，以不同的编码表示特定的故障类型。三比值法对于一些常见的严重故障比较适用，但对一些发生频率较低的故障则不大敏感，因为有些编码并没有正确的故障类型与之相对应。此外，由于该编码***对故障类型划分比较绝对，而实际应用中的故障情况要复杂很多，所以当气体含量接近编码的边界时，三比值法经常会发生误判。

近年来，人工智能技术因其强大的学习能力和泛化性，逐渐被应用在变压器故障诊断领域。在实际应用中，灰色模型(GM)、支持向量机(SVM)、随机森林(RF)等方法都取得了比传统三比值法更优越的性能。然而，随着智能电网的高速发展，这些方法也逐渐难以适应更大的数据规模了。一方面，这些方法依然是用传统的DGA气体去做故障预测，而忽略了其它一些可能和变压器工作状态相关的隐藏因素，比如油温和接地电流等。另一方面，当数据集越来越大时，会产生很多的冗余和噪声，如果不做任何预处理而直接输入分类器，会导致预测精度下降和***运算时间的增加。皮尔逊系数分析法(PCC)可通过计算皮尔逊系数找出与变压器故障有隐藏关联的其它电力数据，为故障诊断增加新的依据。而主成分分析法(PCA)可对越来越大的时间序列进行数据清洗，达到降维、降噪的效果。

申请号为201210302062.9的发明专利公开了一种基于大卫三角形法和置信度高低进行变电站中电压器故障的诊断方法。申请号为201310068804.0的发明专利公开了一种基于模糊聚类的变压器故障诊断方法。在处理类似于电力设备的故障数据时它们都可用于提高准确性，但是由于只关注机器学习的训练过程，而缺乏对采集数据的预处理，效率存在明显局限：即当数据规模越来越大时，训练数据中存在大量的冗余和噪声，训练效率低下且一定程度上影响了最终的准确性。

发明内容

本发明的目的就是为了解决上述问题，提供一种基于关联分析和主成分分析的时间序列数据清洗方法，它具有在大规模数据背景可提高变压器故障诊断的准确度，同时提升***的响应速度的优点。

为了实现上述目的，本发明采用如下技术方案：

一种基于关联分析和主成分分析的时间序列数据清洗方法，包括以下步骤：

步骤S1：采用皮尔逊系数分析法PCC(Pearson’sCorrelationCoefficient)从电力生产管理***PMS(ProductionManagementSystem)中找出与变压器故障有隐藏关联的电力数据作为与故障相关的时间序列，为变压器增加新的故障诊断依据；

步骤S2：采用主成分分析法PCA(PrincipalComponentAnalysis)对与故障相关的时间序列进行数据清洗，达到降维、降噪的效果；所述数据清洗包括计算相关系数矩阵、计算特征值和特征向量以及选择主成分；

步骤S3：将步骤S2清洗后的时间序列数据作为训练集，输入到BP神经网络(BPNN，BackPropagationNeuralNetwork)中进行训练学习，得到关于电力数据时间序列和故障类型关系的训练模型，并且再次使用训练集中的数据作为测试集对训练模型加以测试，以验证训练模型的有效性。

所述步骤S1中，每次将从候选数据指标中选取一种计算出候选数据指标的皮尔逊系数，如果候选数据指标的皮尔逊系数大于设定阈值，则认为该候选数据指标与变压器故障结果强相关，则引入该候选数据指标作为新的故障诊断依据。

所述步骤S2的相关系数矩阵计算步骤为：

对于两个给定的n维向量X和Y，它们的相关系数矩阵R定义为：

式中，r_ij(i,j＝1,2,…,n)为表达原始变量X_i和X_j之间关联程度的相关系数，其中X_i和X_j是一维向量，r_ij计算公式如下：

$r_{ij}=\frac{{\mathrm{\Σ}}_{k=1}^n\left(\right(X_{ij}-\stackrel{\‾}{X_l})\×(X_{kj}-\stackrel{\‾}{X_J}\left)\right)}{\sqrt{{\mathrm{\Σ}}_{k=1}^n\left({\left(X_{ki}-\stackrel{\‾}{X_l}\right)}^2\right)\×{\mathrm{\Σ}}_{k=1}^n\left({\left(X_{ki}-\stackrel{\‾}{X_l}\right)}^2\right)}}$

其中，r_ij为一维向量X_i和X_j的相关系数，X_ki表示一维向量X_i中的第k个元素，X_kj表示一

维向量X_j中的第k个元素，表示一维向量X_i的平均值，表示一维向量X_j的平均值，

计算公式为：

$\stackrel{\‾}{X_l}=\frac{{\mathrm{\Σ}}_{k=1}^n\left(X_{ki}\right)}{n}$

因为R是实对称矩阵，所以只需计算实对称矩阵R的上三角元素或者下三角元素即可。

所述步骤S2的特征值与特征向量计算步骤为：

特征值是特征方程|λI-R|＝0的解；

其中，I是单位向量，R表示符合相关系数矩阵。

利用特征方程求出所有特征值λ_i(i＝1,2,...,n)，并按大小排序，即令λ₁≥λ₂≥…λ_n≥0；然后带入特征方程分别求出对应特征值λ_i的特征向量U_i：

$\left(\begin{array}{c}{Y}_1\\ Y_2\\ .\\ .\\ .\\ Y_n\end{array}\right)=\left|\begin{array}{cccc}{U}_1& U_2& \mathrm{...}& U_n\end{array}\right|\left|\begin{array}{c}{X}_1\\ X_2\\ .\\ .\\ .\\ X_n\end{array}\right|=\left|\begin{array}{c}{U}_{11}{X}_1+U_{21}{X}_2+\mathrm{...}{U}_{n1}{X}_n\\ U_{12}{X}_1+U_{22}{X}_2+\mathrm{...}{U}_{n2}{X}_n\\ .\\ .\\ .\\ U_{ln}{X}_1+U_{2n}{X}_1+\mathrm{...}{U}_{nn}{X}_n\end{array}\right|$

其中，U_i是一维特征向量，U_ik表示U_i中的第k个元素，Y₁,Y₂,…,Y_n即分别是第1，2，…n个主成分。

所述步骤S2选择主成分步骤为：

定义特征值λ_i(i＝1,2,...,n)的信息贡献率：

$DonationRate\left(i\right)\frac{{\mathrm{\Σ}}_{i=1}^k{\mathrm{\λ}}_i}{{\mathrm{\Σ}}_{j=1}^n\mathrm{\λ}j},(i=1,2,\mathrm{...},n)$

当累计贡献率接近1时(累计贡献率为大于85％)，前m个特征值λ₁，λ₂，....，λ_m对应的m个主成分即被选为新的指标变量。

本发明的有益效果：

1、本方法运用关联分析方法发掘出油温和变压器工作状态间的高关联度，并且通过加入油温这个强关联度的额外因素提高数据清洗降维的准确度。

2、本方法运用PCA预处理方法，对与故障相关的时间序列进行数据清洗，达到降维、降噪的效果显著提高了变压器故障诊断的精确度。

3、与传统方法相比，虽然本方法多了两个步骤，但在面对高维数据时，运算时间更短。

4、本发明是一整套处理流程，通过该流程增加了具有学习价值的特征，充分发掘对故障诊断有用的信息，针对电网大数据，对可获得的数据进行整合，通过构造原始指标的适当线性组合，产生一系列互不线性相关的综合性指标，从中选出少数几个新的综合指标，并且使它们尽可能多地含有原始指标所含有的信息，即用较少的指标去解释原来资料的信息。最后利用神经网络进行学习，可在更短时间获得更准确的故障判断结果。

附图说明

图1基于关联分析和主成分分析的时间序列数据清洗方法流程图；

图2(a)相关系数为1的时间序列；

图2(b)相关系数为0的时间序列；

图2(c)相关系数为-1的时间序列；

图3(a)和图3(b)BP神经网络示意图；

图4油温与总烃气体关系示意图；

图5特征数与执行时间关系示意图；

具体实施方式

下面结合附图与实施例对本发明作进一步说明。

如图1所示，一种基于关联分析和主成分分析的时间序列数据清洗方法，包括以下步骤：

步骤S1：采用皮尔逊系数分析法(PCC)找出和变压器故障有隐藏关联的其它电力数据，为故障诊断增加新的依据。

本发明在此阶段采用皮尔逊分析法(PCC)分析其它电力数据。皮尔逊分析法(PCC)是一种广泛用于模式识别、统计分析和图像处理的度量方法，皮尔逊系数是表示两个数据集间线性相关程度的参数，其取值区间为[-1,1]，1代表完全正相关，-1代表完全负相关，0表示没有任何关系，示意图如图2(a)、图2(b)、图2(c)所示。图2(a)表示完全正相关，图2(b)表示没有关系，图2(c)表示完全负相关。

在本发明中采用一维时间序列作为输入数据，对于数据集X和Y，他们之间的皮尔逊系数表示为：

$r=r_{xy}=\frac{{\mathrm{\Σ}}_{i=1}^N(X_i-\stackrel{\‾}{X})\×(Y_i-\stackrel{\‾}{Y})}{\sqrt{{\mathrm{\Σ}}_{i=1}^N-{(X_i-\stackrel{\‾}{X})}^2}\×\sqrt{{\mathrm{\Σ}}_{i=1}^N-{(Y_i-\stackrel{\‾}{Y})}^2}}$

步骤S2：使用主成分分析法清洗数据

本发明在此阶段采用的主成分分析法也称主向量分析法。其从可观测的显示变量中提取信息，组成不可直接观测的隐含变量。在用统计方法研究多变量问题时，变量越多，计算量和增加分析问题的复杂性就越大，因此人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析法利用降维的思想，通过构造原始指标的适当线性组合，产生一系列互不线性相关的综合性指标，从中选出少数几个新的综合指标，并且使它们尽可能多地含有原始指标所含有的信息，即用较少的指标去解释原来资料的信息。具体实现方法是通过一系列的数学变换，将给定的一组相关变量通过线性变换转成另一组不相关的变量，这些新的变量按照方差依次递减的顺序排列。在数学变换中保持变量的总方差不变，使第一变量具有最大的方差，称为第一主成分，第二变量的方差次大，并且和第一变量不相关，称为第二主成分。依次类推，I个变量就有I个主成分。

本步骤分为三步：计算相关系数矩阵、计算特征值和特征向量、以及选择主成分。

(1)计算相关矩阵系数

在计算之前首先要将数据标准化。输入数据为N个一维向量，将这N个输入向量组成一个新的N×I的矩阵，包括n个原始溶解气体分析法的变量和上一步皮尔逊方法得到的新变量，这个矩阵由之前的原始变量时间序列和上一步皮尔逊方法得到的相关系数构成。我们需要计算所有变量之间的相关系数，最后输出相关系数矩阵R。

其中r_ij(i,j＝1,2,…,N)表示原始变量X_i，X_j关联程度的相关系数，其中X_i，X_j是一维向量。其计算公式如下：

$r_{ij}=\frac{{\mathrm{\Σ}}_{k=1}^n\left(\right(X_{ki}-{\stackrel{\‾}{X}}_i)\×(X_{k-j}-{\stackrel{\‾}{X}}_j\left)\right)}{\sqrt{{\mathrm{\Σ}}_{k=1}^n-\left({\left(X_{ki}-{\stackrel{\‾}{X}}_i\right)}^2\right)\×{\mathrm{\Σ}}_{k=1}^n-\left({\left(X_{ki}-{\stackrel{\‾}{X}}_i\right)}^2\right)}}$

(2)计算特征值与特征向量

首先解特征方程|λE-R|＝0(其中E是单位向量，R表示相关系数矩阵)求出特征值，并按大小排序，然后分别求出对应特征值λ_i(i＝1，2，...，n)的特征向量U_i(i＝1，2，...，n)其中特征向量U是n×1的向量，所以用U_ij来表示第i个特征向量中的第j个数得到特征向量之后，便可得到主成分矩阵Y，其中每一行Y，其中每一行Y_i代表第i个主成分

$\left(\begin{array}{c}{Y}_1\\ Y_2\\ .\\ .\\ .\\ Y_n\end{array}\right)=\left|\begin{array}{cccc}{U}_1& U_2& \mathrm{...}& U_n\end{array}\right|\left|\begin{array}{c}{X}_1\\ X_2\\ .\\ .\\ .\\ X_n\end{array}\right|=\left|\begin{array}{c}{U}_{11}{X}_1+U_{21}{X}_2+\mathrm{...}{U}_{n1}{X}_n\\ U_{12}{X}_1+U_{22}{X}_2+\mathrm{...}{U}_{n2}{X}_n\\ .\\ .\\ .\\ U_{ln}{X}_1+U_{2n}{X}_1+\mathrm{...}{U}_{nn}{X}_n\end{array}\right|$

(3)选择主成分

计算每个特征向量的信息贡献率，计算特征值λ_i(i＝1，2，...，n)的累计贡献率

$DenotionRate\left(n\right)=\frac{{\mathrm{\Σ}}_{m=1}^k{\mathrm{\λ}}_m}{{\mathrm{\Σ}}_{m=1}^n{\mathrm{\λ}}_m}$

当累计贡献率接近1时(本方法中我们所取累计贡献率为大于85％)，前m个特征值λ₁，λ₂...λ_m对应的m个主成分即被选为新的指标变量。

步骤S3：用BP神经网络进行故障诊断

BP(BackPropagation)神经网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学***方和最小。

BP神经网络模型拓扑结构包括输入层(inputlayer)、隐藏层(hiddenlayer)和输出层(outputlayer)，图3(a)和图3(b)是BP神经网络的结构图。

经过上一步PCA的预处理过程，我们可以得到更高质量的训练样本。该训练集被馈送到网络中，所传送的值由输入层经中间层向前传播到输出层。然后，我们可以得到输出层中对输入的响应。接着，为了减少实际输出和期望输出之间的误差，连接权重从输出层调整到中间层，最后再根据梯度下降的方向调整至输入层。因为BPNN包含中间的隐含层，所以它具备实现非线性模型的能力。

在开始用BP神经网络进行训练之前，偏离率和权重必须初始化。我们使用零附近的随机数初始化网络中的权重和偏离率。然后，当新的数据集Y_n送入BP网络时，网络的权重和偏差会进行迭代调整，以减少在训练过程中对网络性能的功能性影响。

经过神经网络的训练之后，我们便能得到一个新的故障诊断的模型。

为了检测本方法的可靠性及其性能，从国家电网和其他检测***收集了相关历史数据，比如油温、环境湿度和负载电流。还有超过200条包含故障类型的数据供我们验证本方法的有效性。

(1)新指标与实验数据的相关性

在本实验基于所掌握的历史运行数据，用PCC法计算出各新指标和总烃的相关程度，以评判哪些新指标是有效的。各指标和总烃间的PCC值如表1所示：

表1非气体指标及其皮尔逊系数

对于PCC法来说，皮尔逊系数的绝对值和相关程度的关系可参考表2：

表2皮尔逊系数及相关程度对照表

通过以上两表可以得出“油温”这一指标和总烃之间存在很强的相关性。实际上通过在同一张图中绘制油温和总烃两个时间序列的变化趋势，也可以看出油温和总烃随着时间变化的趋势几乎一致，如图4所示。

至此，已有充分的理由把油温这一指标也加入故障诊断中来。

(2)新指标数据集与传统指标分类准确性的对比

来自国家电网的前150条故障数据当做训练集输入到BP神经网络进行训练学习，并用剩下的故障数据作为测试集进行准确率的验证。值得一提的是，为了方便神经网络的学习，我们把故障数据中的各故障类型用不同的数字来标识，对应关系如表3：

表3故障类型与类型编号对照表

最终发现用只用原先传统的7种指标时，故障分类的准确性是61.30％，而当增加油温作为第8种指标时，分类的准确率就提高到了81.05％。

(3)预处理对准确性的影响

当数据规模变大后，原始数据不可避免地会包含很多噪声和冗余，如果直接输入神经网络中，会对最终***的性能不利。因此本方法在神经网络的输入层之前增加了一个基于主成分分析的数据清洗流程。

基于本方法的步骤二可分别计算出有无油温的两种情况下的主成分累计贡献率。随着主成分数量k的增加，两种情况下累计贡献率的增长情况如表4：

表4有无油温指标时累计贡献率

可以看出，当k＝3时，两种情况下的累计贡献率均已超过了85％。所以我们可以选择前3个主成分作为新的训练集输入BP神经网络。最终的分类结果证明了经过PCA的预处理，两种情况下的性能都有不同程度的提升。其中，只有7项指标时，准确率提高到了85.17％，考虑油温时，准确率提高到了91.57％。

(4)新方法处理与传统方法对比

各情况下故障诊断准确率的总结，如下表所示：

分类准确率	无油温	有油温
			无PCA预处理	61.30％	81.05％
有PCA预处理	85.17％	91.57％

通过上表的汇总，可以得出3个结论：

a)增加油温这一指标可以有效提高故诊断的准确率；

b)PCA预处理方法可以有效减少原始数据的噪声和维度，从而简化***结构，提高故障分类的准确率；

c)当同时采用油温指标和PCA预处理时，分类的效果达到了最高的91.57％，证明我们的方法行之有效。

(5)本方法和传统方法的运行时间的对比

本实验分别记录了当输入指标数从5到8的增长过程中，两种方法的运行时间，并绘制折线图如图5所示。

通过上图可以看出，虽然本方法多了两个过程，但随着数据维度的增加，本方法的运行速度逐渐快于传统的BPNN方法。而且本方法运行时间的斜率更小，意味着当面对更高的数据维度时，本方法有着更好的可扩展性。

所以相比于传统方法，本方法显然有着更优越的性能，可以考虑在电力***中推行。

上述虽然结合附图对本发明的具体实施方式进行了描述，但并非对本发明保护范围的限制，所属领域技术人员应该明白，在本发明的技术方案的基础上，本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明的保护范围以内。

Claims (6)

1.一种基于关联分析和主成分分析的时间序列数据清洗方法，其特征是，包括以下步骤：

步骤S1：采用皮尔逊系数分析法PCC从电力生产管理***PMS中找出与变压器故障有隐藏关联的电力数据作为与故障相关的时间序列，为变压器增加新的故障诊断依据；

步骤S2：采用主成分分析法PCA对与故障相关的时间序列进行数据清洗，达到降维、降噪的效果；所述数据清洗包括计算相关系数矩阵、计算特征值和特征向量以及选择主成分；

步骤S3：将步骤S2清洗后的时间序列数据作为训练集，输入到BP神经网络中进行训练学习，得到关于电力数据时间序列和故障类型关系的训练模型，并且再次使用训练集中的数据作为测试集对训练模型加以测试，以验证训练模型的有效性。

2.如权利要求1所述的一种基于关联分析和主成分分析的时间序列数据清洗方法，其特征是，

所述步骤S1中，每次将从候选数据指标中选取一种计算出候选数据指标的皮尔逊系数，如果候选数据指标的皮尔逊系数大于设定阈值，则认为该候选数据指标与变压器故障结果强相关，则引入该候选数据指标作为新的故障诊断依据。

3.如权利要求1所述的一种基于关联分析和主成分分析的时间序列数据清洗方法，其特征是，

所述步骤S2的相关系数矩阵计算步骤为：

对于两个给定的n维向量X和Y，它们的相关系数矩阵R定义为：

式中，r_ij为表达原始变量X_i和X_j之间关联程度的相关系数，i,j＝1,2,…,n，其中X_i和X_j是一维向量，r_ij计算公式如下：

$r_{ij}=\frac{{\Σ}_{k=1}^n\left(\left(X_{ki}-\stackrel{\‾}{X_l}\right)\×\left(X_{kj}-\stackrel{\‾}{X_J}\right)\right)}{\sqrt{{\Σ}_{k=1}^n\left({\left(X_{ki}-\stackrel{\‾}{X_l}\right)}^2\right)\×{\Σ}_{k=1}^n\left({\left(X_{ki}-\stackrel{\‾}{X_l}\right)}^2\right)}}$

其中，r_ij为一维向量X_i和X_j的相关系数，X_ki表示一维向量X_i中的第k个元素，X_kj表示一维向量X_j中的第k个元素，表示一维向量X_i的平均值，表示一维向量X_j的平均值，计算公式为：

$\stackrel{\‾}{X_l}=\frac{{\Σ}_{k=1}^n\left(X_{ki}\right)}{n}$

因为R是实对称矩阵，所以只需计算实对称矩阵R的上三角元素或者下三角元素即可。

4.如权利要求1所述的一种基于关联分析和主成分分析的时间序列数据清洗方法，其特征是，

所述步骤S2的特征值与特征向量计算步骤为：

特征值是特征方程|λI-R|＝0的解；

其中，I是单位向量，R表示符合相关系数矩阵；

利用特征方程求出所有特征值λ_i，i＝1,2,...,n，并按大小排序，即令λ₁≥λ₂≥…λ_n≥0；然后带入特征方程分别求出对应特征值λ_i的特征向量U_i：

$\left(\begin{array}{c}{Y}_1\\ Y_2\\ \begin{array}{c}.\\ .\\ .\end{array}\\ Y_n\end{array}\right)=\left|\begin{array}{cccc}{U}_1& U_2& ...& U_n\end{array}\right|\×\left|\begin{array}{c}{X}_1\\ X_2\\ \begin{array}{c}.\\ .\\ .\end{array}\\ X_n\end{array}\right|=\left|\begin{array}{c}{U}_{11}{X}_1+U_{21}{X}_2+...U_{n1}{X}_n\\ U_{12}{X}_1+U_{22}{X}_2+...U_{n2}{X}_n\\ \begin{array}{c}.\\ .\\ .\end{array}\\ U_{1n}{X}_1+U_{2n}{X}_1+...U_{nn}{X}_n\end{array}\right|$

其中，U_i是一维特征向量，U_ik表示U_i中的第k个元素，Y₁,Y₂,…,Y_n即分别是第1，2，…n个主成分。

5.如权利要求1所述的一种基于关联分析和主成分分析的时间序列数据清洗方法，其特征是，

所述步骤S2选择主成分步骤为：

定义特征值λ_i(i＝1,2,...,n)的信息贡献率：

$DonationRate\left(i\right)=\frac{{\Σ}_{i=1}^k{\mathrm{\λ}}_i}{{\Σ}_{j=1}^n{\mathrm{\λ}}_j},(i=1,2,...,n)$

当累计贡献率接近1时，前m个特征值λ₁，λ₂，…·，λ_m对应的m个主成分即被选为新的指标变量。

6.如权利要求1所述的一种基于关联分析和主成分分析的时间序列数据清洗方法，其特征是，当累计贡献率接近1即累计贡献率为大于85％。