CN112016473A - 基于半监督学习和注意力机制的配电网高阻接地故障诊断方法 - Google Patents

Abstract

本发明公开了一种基于半监督学习和注意力机制的配电网高阻接地故障诊断方法，包括：1、将故障相电压时间序列数据集合分类成有标记样本集合和无标记样本集合；2、根据计算无标记样本和有标记样本集合的相似度更新两类样本集；3、利用有标记样本集合训练1NN分类器，并利用1NN分类器对无标记样本集合进行预测标注；4、构建基于注意力机制的LSTM‑CNN神经网络；5、利用注意力机制网络融合LSTM和CNN的特征向量；6、通过梯度下降反向传播算法更新LSTM‑CNN的神经网络参数。本发明使得故障检测模型具有时间、空间的特征表达能力，从而能提高配电网高阻接地的故障检测率。

Description

基于半监督学习和注意力机制的配电网高阻接地故障诊断 方法

技术领域

本发明涉及配电网继电保护领域，高阻接地故障诊断技术，深度学习技术，具体涉及一种基于半监督学习和注意力机制的高阻接地故障诊断方法。

背景技术

配电网靠近用户，运行环境复杂，运行时易与树枝、建筑或地面接触，产生高阻故障。对于此类故障，因接地电阻大，引起的电气量变化不明显，常规保护难以可靠动作。多数高阻故障不会对配电网产生严重影响，但故障若长期存在，不仅***会因故障产生的过电压而出现新的接地点，导致事故进一步扩大，甚至还会因故障发生时伴有的电弧引起火灾，威胁人身、财产安全。高阻故障识别是配电网继电保护领域极具挑战性的难点问题之一。

电网智能化调度与控制***重点实验室(山东大学)韦明杰等人研究了基于零序电流波形区间斜率曲线的配电网高阻接地故障检测方法(电力***自动化,2020,44(14):164-175.)，基于对10kV电网现场实测高阻故障波形的分析，采用最小二乘线性拟合描述波形非线性畸变,同时采用格拉布斯(Grubbs)法抑制不规则波形畸变对区间斜率曲线的干扰，进一步保证了算法对故障特征的正确提取。但该方法针对复杂的运行环境和多样的故障特征很难确定合理的整定阈值，不具有通用的判定规则，灵敏性较差。

国网辽宁省电力有限公司盘锦供电公司翁月莹、陈翔宇等人研究了基于PSO和贝叶斯分类器的配电网高阻接地故障识别方法(电测与仪表,2020,57(02):52-56.)，该方法首先采用离散小波变换构造配电网电压和电流的时频矩阵，提取出反映高阻接地故障的特征量。该方法优化了电量数据的特征空间，提高了分类准确性和计算时效性。但由于母小波函数的选择将直接影响小波变换提取特征信息的质量。一般针对特定配网拓扑和参数，需要通过反复试错选择固定的母小波，该方法只能达到局部最优效果。

福州大学的苏文聪、朱星宇等人发明了一种基于小波变换和神经网络的配电网高阻接地故障检测方法(公开号：CN109613402A)。该方法运用演化的神经网络对传统的检测方法进行改进。演化的神经网络是一种基于动态连接结构的智能***，能够通过增量学习调整其拓扑结构以融入新信息。该方法利用离散小波变换处理故障信号，将故障信号输入演化的神经网络中,以此检测配电网的高阻接地故障。但配电网高阻故障检测中未标记样本量大且较易获得，标记样本量少且难于获得，未标记数据远多于标记数。该方法没有采用未标记数据进行训练，不能真正代表真实数据的分布特征，分类器不能正确找到真实数据的分类边界，该方法不能充分利用样本集，故障诊断未达到最佳效果。

发明内容

本发明是为避免上述现有技术所存在的不足之处，提供一种基于半监督学习和注意力机制的配电网高阻接地故障诊断方法，以期在面对海量高阻故障数据时，通过半监督学习机制充分获取故障样本信息，利用注意力机制网络融合样本集时空及频域上的特征，从而提高配电网高阻接地的故障检测率，满足快速化准确化的实际需求。

本发明为解决技术问题采用如下技术方案：

本发明一种基于半监督学习和注意力机制的配电网高阻接地故障诊断方法的特点是按如下步骤进行：

步骤1：获取一组配电网高阻接地故障时，变压器二次侧端的故障相电压时间序列并作为训练样本，记为TS＝{TS₁,TS₂,···,TS_i,···,TS_N}；其中，N表示所述训练样本的个数，TS_i表示所述训练样本中第i条故障相电压时间序列，并有：

TS_i＝{(t₁,x_i,1),(t₂,x_i,2),···,(t_j,x_i,j),···,(t_q,x_i,q)}，q表示所述训练样本中第i条故障相电压时间序列的长度，t_j表示所述训练样本中第j个时间，x_i,j表示所述训练样本中第i条故障相电压时间序列在第j个时间对应的电压值；

步骤2、对所述故障相电压时间序列集合TS进行去噪，得到预处理后的故障相电压时间序列集合；将所述预处理后的故障相电压时间序列集合进行分类，分为包含未标记的故障相电压时间序列样本集合D_u和包含已标记的故障相电压时间序列样本集合D_p；

步骤3、定义变量k，初始化k＝1；定义第k次更新后的未标记样本集合为

并初始化为D_u，第k次更新后的已标记样本集合为

初始化为D_p；

步骤4、计算第k次更新后的未标记样本集合

中第j个故障相电压时间序列样本与第k次更新后的已标记样本集合

的相似度R_j，从而得到相似度向量

j＝1,2,...m_k，m_k为在第k次更新后的未标记样本集

的样本数量；

步骤5、定义第k次更新后的未标记样本集合

中单个样本与已标记样本集合

的相似度阈值为ε；

判断所述相似度向量R^k中所有相似度是否均小于ε，若是，则执行步骤7，否则，执行步骤6；

步骤6、选择第k次更新后的未标记样本集合

中与已标记样本集合

具有最大相似度的样本进行人工标注，并将人工标注后的样本加入到已标记样本集合

并得到第k+1次更新后的未标记样本集合

同时从未标记样本集合

中删除人工标注后的样本，从而得到第k+1次更新后的未标记样本集合

再将k+1赋值给k后，返回步骤4；

步骤7、利用第k次更新后的已标注样本集合

训练最近邻1NN分类器，得到训练后的1NN分类器，用于对未标记样本集合

进行分类；

步骤8、将第k次更新后的未标记样本集合

输入训练后的1NN分类器，得到的预测标签并作为未标记样本的真实标签；

再将带有真实标签的未标记样本集合

与已标注样本集合

进行合并，得到包含N个样本的高阻故障训练集T；

步骤9、构建基于注意力机制的LSTM-CNN神经网络；

所述LSTM-CNN神经网络包含LSTM网络、CNN网络、基于注意力机制的特征融合层以及SCN分类器；其中，LSTM网络的输入节点个数为q×1，隐含层输出维数为m×1；CNN网络隐含层的输出维数为m×1；

步骤10、定义网络当前迭代次数为μ，并初始化μ＝1；最大迭代次数为μ_max；对所述网络中各层的参数进行第μ次随机初始化，从而得到第μ次迭代的LSTM-CNN神经网络；

步骤11、定义变量i，初始化为i＝1；

步骤12、将所述高阻故障训练集T中第i个故障相电压时间序列样本进行傅里叶变换，得到第i个故障相电压时间序列的图像样本X_i；

步骤13、将所述图像样本X_i输入第μ次迭代的LSTM-CNN神经网络中的CNN网络，得到维数为m×1的特征向量C_i,μ；

步骤14、从所述高阻故障训练集T中选取第i个故障相电压时间序列样本输入第μ次迭代的LSTM-CNN神经网络中的LSTM网络，得到维数为q×m的特征向量

其中，

表示第i个故障相电压时间序列样本的第n个时间步输入第μ次迭代的LSTM-CNN神经网络中的LSTM网络，输出的维数为m×1的特征向量；

步骤15、利用式(1-1)-式(1-3)对所述特征向量C_i,μ与所述特征向量H_i,μ进行融合，并得到维数为的m×1特征向量F_i,μ；

式(1-1)-式(1-3)中，

是第μ次迭代的LSTM-CNN神经网络的特征融合层的权重矩阵，维数为m×m；

是第μ次迭代的LSTM-CNN神经网络的特征融合层的偏置项；

表示第i个故障相电压时间序列样本第l个时间步输入第μ次迭代的LSTM-CNN神经网络中LSTM网络所输出的维数为m×1的特征向量；α_i,μ,n表示第μ次迭代的LSTM-CNN神经网络的特征融合层中

对应的融合权重系数；

步骤16、将所述特征向量F_i,μ输入第μ次迭代的LSTM-CNN神经网络中的SCN分类器，得到输出结果t′_i,μ，将输出结果t′_i,μ与期望输出t_i作差，得到SCN分类器的输出误差e_i,μ；

步骤17、将i+1赋值给i后，判断i＞N是否成立；若成立，则继续执行步骤18，否则，返回步骤12；

步骤18、计算第μ次迭代的LSTM-CNN神经网络中SCN分类器的输出均方根误差为

步骤19、判断μ＞μ_max和e_μ＜e₀是否同时成立；若成立，则得到第μ次迭代的LSTM-CNN神经网络A_μ并用于对配电网高阻接地故障进行诊断，否则，将μ+1赋值给μ后，根据梯度下降算法更新第μ次迭代的LSTM-CNN神经网络A_μ后，执行步骤11，其中，e₀是人工设定误差阈值。

与现有技术相比，本发明的有益效果体现在：

1、本发明采用半监督学习机制对海量的故障相电压时序数据进行全标记，解决了深度学习网络需要大量的已知样本进行训练的问题，减少了高阻故障标记数据难获取等因素带来的不便，提高了方法对配电网高阻接地故障的检测率。

2、本发明利用LSTM网络和CNN网络分别提取故障相电压时序数据在时间维度和频域上的特征，并采用注意力机制的方式融合数据的时频特征并对变化的时间特征动态加权，增强了方法的时频特征表达能力，从而保证了配电网高阻接地故障诊断的可靠性。

3、本发明采用随机配置网络替代传统卷积神经网络中的softmax层，增强了学习器的学习能力和泛化能力，实现了故障相电压时序数据多尺度特征的高阻故障状态全局逼近，从而提高了配电网高阻接地故障的识别精度。

附图说明

图1为本发明基于配电网高阻接地故障诊断方法的流程图；

图2为本发明故障相电压时间序列样本的时序波形图；

图3为本发明故障相电压时间序列样本的傅里叶变换图；

图4为本发明配电网高阻接地故障诊断模型示意图。

具体实施方式

本实施例中，参照图1，一种基于半监督学习和注意力机制的配电网高阻接地故障诊断方法是按如下步骤进行：

步骤1：获取一组配电网高阻接地故障时，变压器二次侧端的故障相电压时间序列并作为训练样本，记为TS＝{TS₁,TS₂,···,TS_i,···,TS_N}；其中，N表示训练样本的个数，TS_i表示训练样本中第i条故障相电压时间序列，并有：TS_i＝{(t₁,x_i,1),(t₂,x_i,2),···,(t_j,x_i,j),···,(t_q,x_i,q)}，q表示训练样本中第i条故障相电压时间序列的长度，t_j表示训练样本中第j个时间，x_i,j表示训练样本中第i条故障相电压时间序列在第j个时间对应的电压值；

步骤2、对故障相电压时间序列集合TS进行去噪，得到预处理后的故障相电压时间序列集合；将预处理后的故障相电压时间序列集合进行分类，分为包含未标记的故障相电压时间序列样本集合D_u和包含已标记的故障相电压时间序列样本集合D_p；

步骤3、定义变量k，初始化k＝1；定义第k次更新后的未标记样本集合为

并初始化为D_u，第k次更新后的已标记样本集合为

初始化为D_p；

步骤4、计算第k次更新后的未标记样本集合

中第j个故障相电压时间序列样本与第k次更新后的已标记样本集合

的相似度R_j，从而得到相似度向量

j＝1，2，...m_k，m_k为在第k次更新后的未标记样本集

的样本数量；

步骤5、定义第k次更新后的未标记样本集合

中单个样本与已标记样本集合

的相似度阈值为ε；

判断相似度向量R^k中所有相似度是否均小于ε，若是，则执行步骤7，否则，执行步骤6；具体实施中，其中相似度阈值设定为ε＝0.8；

步骤6、选择第k次更新后的未标记样本集合

中与已标记样本集合

具有最大相似度的样本进行人工标注，并将人工标注后的样本加入到已标记样本集合

开得到第k+1次更新后的未标记样本集合

同时从未标记样本集合

中删除人工标注后的样本，从而得到第k+1次更新后的未标记样本集合

再将k+1赋值给k后，返回步骤4；

步骤7、利用第k次更新后的已标注样本集合

训练最近邻1NN分类器，得到训练后的1NN分类器，用于对未标记样本集合

进行分类；

步骤8、将第k次更新后的未标记样本集合

输入训练后的1NN分类器，得到的预测标签并作为未标记样本的真实标签；

再将带有真实标签的未标记样本集合

与已标注样本集合

进行合并，得到包含N个样本的高阻故障训练集T；

本实施例中，高阻故障训练集T中一个故障相电压时序数据样本截取部分如表一所示；故障相电压时间序列样本的时序波形图如图2所示。

表一相电压时序数据样本截取部分

T(s)	1/60	2/60	3/60	4/60	5/60	6/60	7/60	8/60	9/60	10/60
											V(v)	-26.2228	-9.5195	5.5134	17.2057	25.5574	39.4768	56.7368	71.7698	85.6892	94.0408
T(s)	11/60	12/60	13/60	14/60	15/60	16/60	17/60	18/60	19/60	20/60
											V(v)	102.9492	107.9602	109.6305	114.6415	120.766	128.5609	135.799	143.5939	150.8319	161.9675
T(s)	21/60	22/60	23/60	24/60	25/60	26/60	27/60	28/60	29/60	30/60
											V(v)	168.6488	172.5462	173.6598	170.8759	165.8649	155.8429	148.0481	140.81	134.1287	125.2203

步骤9、构建基于注意力机制的LSTM-CNN神经网络；

LSTM-CNN神经网络包含LSTM网络、CNN网络、基于注意力机制的特征融合层以及SCN分类器；其中，LSTM网络的输入节点个数为q×1，隐含层输出维数为m×1；CNN网络隐含层的输出维数为m×1；

步骤10、定义网络当前迭代次数为μ，并初始化μ＝1；最大迭代次数为μ_max；对网络中各层的参数进行第μ次随机初始化，从而得到第μ次迭代的LSTM-CNN神经网络；

步骤11、定义变量i，初始化为i＝1；

步骤12、将高阻故障训练集T中第i个故障相电压时间序列样本进行傅里叶变换，得到第i个故障相电压时间序列的图像样本X_i；具体实施例中，高阻故障训练集T中一个故障相电压时间序列样本的傅里叶变换图如图3所示。

步骤13、将图像样本X_i输入第μ次迭代的LSTM-CNN神经网络中的CNN网络，得到维数为m×1的特征向量C_i,μ；

步骤14、从高阻故障训练集T中选取第i个故障相电压时间序列样本输入第μ次迭代的LSTM-CNN神经网络中的LSTM网络，得到维数为q×m的特征向量

其中，

表示第i个故障相电压时间序列样本的第n个时间步输入第μ次迭代的LSTM-CNN神经网络中的LSTM网络，输出的维数为m×1的特征向量；

步骤15、利用式(1-1)-式(1-3)对特征向量C_i,μ与特征向量H_i,μ进行融合，并得到维数为的m×1特征向量F_i,μ；

式(1-1)-式(1-3)中，

是第μ次迭代的LSTM-CNN神经网络的特征融合层的权重矩阵，维数为m×m；

是第μ次迭代的LSTM-CNN神经网络的特征融合层的偏置项；

表示第i个故障相电压时间序列样本第l个时间步输入第μ次迭代的LSTM-CNN神经网络中LSTM网络所输出的维数为m×1的特征向量；α_i,μ,n表示第μ次迭代的LSTM-CNN神经网络的特征融合层中

对应的融合权重系数；

步骤16、将特征向量F_i,μ输入第μ次迭代的LSTM-CNN神经网络中的SCN分类器，得到输出结果t′_i,μ，将输出结果t′_i,μ与期望输出t_i作差，得到SCN分类器的输出误差e_i,μ；具体实施例中，步骤9-步骤16的方法所构建的配电网高阻接地故障诊断模型示意图如图4所示；

步骤17、将i+1赋值给i后，判断i＞N是否成立；若成立，则继续执行步骤18，否则，返回步骤12；

步骤18、计算第μ次迭代的LSTM-CNN神经网络中SCN分类器的输出均方根误差为

步骤19、判断μ＞μ_max和e_μ＜e₀是否同时成立；若成立，则得到第μ次迭代的LSTM-CNN神经网络A_μ并用于对配电网高阻接地故障进行诊断，否则，将μ+1赋值给μ后，根据梯度下降算法更新第μ次迭代的LSTM-CNN神经网络A_μ后，执行步骤11，其中，e₀是人工设定误差阈值。具体实施例中，人工设定网络的最大迭代次数μ_max＝500，e₀＝0.01。

Claims (1)

1.一种基于半监督学习和注意力机制的配电网高阻接地故障诊断方法，其特征是按如下步骤进行：

步骤1：获取一组配电网高阻接地故障时，变压器二次侧端的故障相电压时间序列并作为训练样本，记为TS＝{TS₁,TS₂,…,TS_i,…,TS_N}；其中，N表示所述训练样本的个数，TS_i表示所述训练样本中第i条故障相电压时间序列，并有：TS_i＝{(t₁,x_i,1),(t₂,x_i,2),…,(t_j,x_i,j),…,(t_q,x_i,q)}，q表示所述训练样本中第i条故障相电压时间序列的长度，t_j表示所述训练样本中第j个时间，x_i,j表示所述训练样本中第i条故障相电压时间序列在第j个时间对应的电压值；

步骤2、对所述故障相电压时间序列集合TS进行去噪，得到预处理后的故障相电压时间序列集合；将所述预处理后的故障相电压时间序列集合进行分类，分为包含未标记的故障相电压时间序列样本集合D_u和包含已标记的故障相电压时间序列样本集合D_p；

步骤3、定义变量k，初始化k＝1；定义第k次更新后的未标记样本集合为

并初始化为D_u，第k次更新后的已标记样本集合为

初始化为D_p；

步骤4、计算第k次更新后的未标记样本集合

中第j个故障相电压时间序列样本与第k次更新后的已标记样本集合

的相似度R_j，从而得到相似度向量

j＝1,2,...m_k，m_k为在第k次更新后的未标记样本集

的样本数量；

步骤5、定义第k次更新后的未标记样本集合

中单个样本与已标记样本集合

的相似度阈值为ε；

判断所述相似度向量R^k中所有相似度是否均小于ε，若是，则执行步骤7，否则，执行步骤6；

步骤6、选择第k次更新后的未标记样本集合

中与已标记样本集合

具有最大相似度的样本进行人工标注，并将人工标注后的样本加入到已标记样本集合

并得到第k+1次更新后的未标记样本集合

同时从未标记样本集合

中删除人工标注后的样本，从而得到第k+1次更新后的未标记样本集合

再将k+1赋值给k后，返回步骤4；

步骤7、利用第k次更新后的已标注样本集合

训练最近邻1NN分类器，得到训练后的1NN分类器，用于对未标记样本集合

进行分类；

步骤8、将第k次更新后的未标记样本集合

输入训练后的1NN分类器，得到的预测标签并作为未标记样本的真实标签；

再将带有真实标签的未标记样本集合

与已标注样本集合

进行合并，得到包含N个样本的高阻故障训练集T；

步骤9、构建基于注意力机制的LSTM-CNN神经网络；

所述LSTM-CNN神经网络包含LSTM网络、CNN网络、基于注意力机制的特征融合层以及SCN分类器；其中，LSTM网络的输入节点个数为q×1，隐含层输出维数为m×1；CNN网络隐含层的输出维数为m×1；

步骤10、定义网络当前迭代次数为μ，并初始化μ＝1；最大迭代次数为μ_max；对所述网络中各层的参数进行第μ次随机初始化，从而得到第μ次迭代的LSTM-CNN神经网络；

步骤11、定义变量i，初始化为i＝1；

步骤12、将所述高阻故障训练集T中第i个故障相电压时间序列样本进行傅里叶变换，得到第i个故障相电压时间序列的图像样本X_i；

步骤13、将所述图像样本X_i输入第μ次迭代的LSTM-CNN神经网络中的CNN网络，得到维数为m×1的特征向量C_i,μ；

步骤14、从所述高阻故障训练集T中选取第i个故障相电压时间序列样本输入第μ次迭代的LSTM-CNN神经网络中的LSTM网络，得到维数为q×m的特征向量

其中，

表示第i个故障相电压时间序列样本的第n个时间步输入第μ次迭代的LSTM-CNN神经网络中的LSTM网络，输出的维数为m×1的特征向量；

步骤15、利用式(1-1)-式(1-3)对所述特征向量C_i,μ与所述特征向量H_i,μ进行融合，并得到维数为的m×1特征向量F_i,μ；

式(1-1)-式(1-3)中，

是第μ次迭代的LSTM-CNN神经网络的特征融合层的权重矩阵，维数为m×m；

是第μ次迭代的LSTM-CNN神经网络的特征融合层的偏置项；

表示第i个故障相电压时间序列样本第l个时间步输入第μ次迭代的LSTM-CNN神经网络中LSTM网络所输出的维数为m×1的特征向量；α_i,μ,n表示第μ次迭代的LSTM-CNN神经网络的特征融合层中

对应的融合权重系数；

步骤16、将所述特征向量F_i,μ输入第μ次迭代的LSTM-CNN神经网络中的SCN分类器，得到输出结果t′_i,μ，将输出结果t′_i,μ与期望输出t_i作差，得到SCN分类器的输出误差e_i,μ；

步骤17、将i+1赋值给i后，判断i＞N是否成立；若成立，则继续执行步骤18，否则，返回步骤12；

步骤18、计算第μ次迭代的LSTM-CNN神经网络中SCN分类器的输出均方根误差为

步骤19、判断μ＞μ_max和e_μ＜e₀是否同时成立；若成立，则得到第μ次迭代的LSTM-CNN神经网络A_μ并用于对配电网高阻接地故障进行诊断，否则，将μ+1赋值给μ后，根据梯度下降算法更新第μ次迭代的LSTM-CNN神经网络A_μ后，执行步骤11，其中，e₀是人工设定误差阈值。

Images