CN109359693A

CN109359693A - 一种电能质量扰动分类方法

Info

Publication number: CN109359693A
Application number: CN201811240639.1A
Authority: CN
Inventors: 廖天明; 陈新; 陈海燕
Original assignee: State Grid Shanghai Electric Power Co Ltd
Current assignee: State Grid Shanghai Electric Power Co Ltd
Priority date: 2018-10-24
Filing date: 2018-10-24
Publication date: 2019-02-19

Abstract

本发明针对电能质量扰动识别困难的问题，提出一种基于迁移学习的电能质量扰动分类方法。本方法将ImageNet数据集作为源数据集，首先，通过AlexNet卷积神经网络模型提取电能质量扰动波形的固有抽象特征；然后，将训练过的AlexNet卷积神经网络模型进行迁移学习，建立新的AlexNet卷积神经网络模型，对电能质量扰动波形信号的分类。并通过matlab建立大量的单一扰动和双重扰动波形信号，对迁移后的经电能质量扰动波形信号训练过的AlexNet模型进行训练和测试。实验结果表明，本文迁移学习方法对电能质量扰动具有良好的分类准确性和抗噪性。

Description

一种电能质量扰动分类方法

技术领域

本发明涉及一种电能质量分析方法，具体为一种电能质量扰动分类方法。

背景技术

随着我国电力工业的飞速发展、电力体制改革的深入和电力市场的逐步开放，电力部门越来越重视电力***的安全性和经济性。电能质量的好坏，直接影响着电力***的安全稳定与经济运行，也时刻影响着工农业高效稳定的生产以及其他工业设备的安全运行。然而随着智能电网的发展，分布式发电单元和非线性负荷日益增多，导致电网发生各种电能质量扰动问题，给用户带来了极大的不便，电能质量扰动成为目前配电网研究的热点之一。电力***中电能质量扰动种类繁多，受噪声影响，而且还可能多种扰动负荷，导致电能质量扰动分类难度很大。电能质量扰动的准确识别，是进行电能质量分析与评估的前提和基础，为配电网中电能质量的管理和治理提供辅助决策。

电能质量扰动识别过程包括特征提取和模式分类两个环节。特征提取是指对信号波形进行变换，再提取出能反映扰动事件的特征量。常用的特征提取方法包括：离散傅里叶变换(discrete Fourier transform,DFT)、短时傅里叶变换(short-term Fouriertransform,STFT)、小波变换(wavelet transform,WT)、希尔伯特-黄变换(Hilbert-Huangtransform,HHT)、S变换、Kalman滤波等。DFT只能分辨频域，可用于分析稳态扰动，不能分析短时扰动；STFT的窗口固定，时频分辨率也固定，不适合分析暂态扰动信号；WT在低频部分具有较高的频率分辨率和较低的时间分辨率，在高频部分则具有较高的时间分辨率和较低的频率分辨率。因此，WT具有自适应性，可同时获得时间与频率信息，尤其是信号中的突变信息，但是WT对低频扰动不能进行很好的检测，而且其运算量大，满足不了实时性检测的要求；HHT抗噪性能较好，对于非线性，非平稳信号有着较强的处理能力,能够准确的得到信号的时间-频率-能量的分布特征，但存在边界效应；S变换免去了窗函数的选择，并改善了窗宽固定的缺点，具有良好的时频分析特性，结果更加直观，而且抗噪性能好，是目前应用最多的特征提取算法，但是扰动信号经S变换分解后的信息量太大，特征选择提取操作困难，而且其时频分辨率较低，使得特征提取精度受到限制；Kalman滤波敏感性差，在幅值较小时，难以实时识别幅值的状态跳变。模式分类用于确定扰动所属类别，主要方法有：决策树(decision tree,DT)、人工神经网络(artificial neural network,ANN)和支持向量机(support vector machine,SVM)等。DT结构简单，模拟人类的逻辑思维实现分类，易于理解，分类效率较高，但是其分类准确率依赖于特征子集以及分类阈值的选取，而且容易发生过拟合；ANN能学习和存贮大量输入-输出模式映射关系，而无需事先了解描述这种映射关系的数学方程，但是需要大量的训练样本，而且训练时间长，易陷入局部最优；SVM基于统计学习理论，是一种解决样本数量少、非线性及高维样本的模式识别问题的机器学习方法，其克服了人工神经网络易陷入局部最优解和训练时间长的缺点。

上述电能质量复合扰动分类算法特征提取多采用数学变换的方法，步骤繁琐复杂、计算量大，而且容易致使原始信号部分特征丢失；分类器的识别精度不够理想，并且训练样本较少，导致识别精度不理想；研究对象大多集中于单一电能质量扰动信号，而实际电力***中电能质量扰动往往是多种扰动组成的复合扰动，传统方法易出现特征重叠、特征失效和分类精度下降等问题，针对复合扰动识别问题的研究还未成熟。

发明内容

本发明的目的在于提供一种电能质量扰动分类方法，能够将电能质量扰动波形图按其扰动原因分类。本发明将采用ImageNet数据集训练过的AlexNe卷积神经网络模型进行迁移学习，用来对电能质量扰动波形图进行识别。通过引入迁移学习，本发明的克服了传统分类算法的上述缺陷，可大大提高识别精度。

为了达到上述目的，本发明提出一种电能质量扰动分类方法，采用Imagenet图像分数据集和AlexNet卷积神经网络模型，将电能扰动波形集按照扰动产生的原因进行分类，所述AlexNet卷积神经网络模型第一至第五层为卷积层，第六至第八层为全连接层，最后还接有一个Softmax分类层，包括以下步骤：

S1、将Imagenet图像数据集作为源数据集，训练得到提取了Imagenet图像数据集固有抽象特征的AlexNet卷积神经网络模型；

S2、基于迁移学习原理进行特征迁移，利用步骤S1中所训练的AlexNet卷积神经网络模型，建立新的AlexNet卷积神经网络模型；

S3、随机初始化Softmax分类层的参数；

S4、将每个待分类的电能质量扰动信号波形图像转换为227*227*3像素；将所述转换后的图像作为新的AlexNet卷积神经网络模型的输入，对新的AlexNet卷积神经网络模型进行训练，并从Softmax分类层得到电能质量扰动信号波形的分类结果。

S5、生成多种扰动方式的电能质量扰动信号，验证经电能质量扰动信号波形图像训练过的AlexNet卷积神经网络模型的分类正确率。

所述Imagenet图像分数据集，具体为Imagenet图像分类比赛所用数据集ILSVRC-2011数据集，包含120万张已分类照片。

步骤S2所述的建立新的AlexNet卷积神经网络模型，具体是指，将将步骤S1中Imagenet图像数据集所训练的AlexNet卷积神经网络模型，将最后一个全连接层，替换为一个新的全连接层。

步骤S3中所述的初始化Softmax分类层的参数，具体是指：将Softmax的输出类别改为本文扰动类别数，WeightLearnRateFactor和BiasLearnRateFactor的参数值，皆设为50。初始学习率为0.0001，最大训练周期数为8。

步骤S5具体包含以下步骤：

S51：按照扰动方式，在MATLAB环境中随机产生9种单一扰动以及17种双重扰动，共计26种电能质量扰动仿真信号；

S52、根据电能质量单一扰动模型表达式，建立数学模型，对所述仿真信号进行分类；

S53：利用步骤S4所训练的AlexNet卷积神经网络模型对仿真信号进行训练和测试，依据分类结果验证新的AlexNet卷积神经网络模型的分类正确率。

利用步骤S5所训练的AlexNet卷积神经网络模型对生成的多种扰动信号进行训练和测试，得到分类结果，依据所述分类结果验证新的AlexNet卷积神经网络模型的分类正确率。

步骤S51所述9种单一扰动，具体是指暂升、暂降、中断、谐波、尖峰、切痕、闪变、振荡和脉冲这九种扰动。

步骤S51所述26种双重扰动，具体是指暂升加谐波、暂升加闪变、暂升加振荡、暂升加脉冲、暂降加谐波、暂降加闪变、暂降加振荡、暂降加脉冲、中断加谐波、中断加闪变、中断加振荡、中断加脉冲、谐波加闪变、谐波加振荡、谐波加脉冲、闪变加振荡、闪变加脉冲这26种双重扰动。

与现有技术相比，本发明的优点在于：使用了包含120万张训练图片的ImageNet数据集，在图片数据量和种类上都更为丰富，使得经ImageNet数据集训练过的AlexNet卷积神经网络模型能够提取更多、更准确的图像特征。本发明还将用ImageNet数据集训练过的AlexNet卷积神经网络模型迁移到电能质量扰动识别的问题上。实施例证明，所述迁移的AlexNet卷积神经网络模型可大幅提高电能质量扰动波形的识别精度，对电能质量扰动波形的分类更为准确，且抗噪性能良好。

附图说明

为了更清楚地说明本发明技术方案，下面将对描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一个实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图:

图1为本发明的流程图。

图2为迁移学习的示意图。

图3为AlexNet模型结构图。

图4为本发明的进行迁移学习的具体方法示意图。

图5为实施例的单一扰动分类训练结果。

图6为实施例的双重扰动分类训练结果。

具体实施方式

为了更好地理解本发明的技术特征、目的和效果，下面结合附图对本发明进行更为详细地描述。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明专利。需要说明的是，这些附图中均采用非常简化的形式且均使用非精准的比率，仅用于方便、清晰地辅助说明本发明专利。

本发明提出一种电能质量扰动分类方法，采用Imagenet图像分数据集和AlexNet卷积神经网络模型，将电能扰动波形集按照扰动产生的原因进行分类，如图3所示，AlexNet卷积神经网络模型第一至第五层为卷积层，第六至第八层为全连接层，最后还接有一个Softmax分类层。所述卷积层对输入图像进行特征提取工作，是卷积神经网络中最重要的部分。所述AlexNet卷积神经网络模型还包含三个池化层。卷积神经网络与普通神经网络最大的区别就是前者包含了一个由卷积层和池化层构成的特征提取器。用不同的卷积核对图片进行卷积以得到不同特征上的响应，完成多种局部特征的提取。

另外，为避免神经网络退化为最原始的感知机，每个卷积层都需要选择一个激活函数使得输入输出之间保持高度非线性的关系。在传统的卷积神经网络中通常使用Simoid函数作为激活函数，但是AlexNet模型使用ReLU函数Φ(x)＝max(0,x)作为激活函数，可有效缓解过拟合问题，而且改善Simoid函数反向传播时梯度消失的问题。

所述池化层能提升网络对输入图像平移旋转等抗畸变的能力。而且图像经过卷积操作之后得到的特征维度很高，如果直接作用于分类器，在训练过程中容易出现过拟合现象。为避免此类现象发生，在卷积层后面对卷积特征进行池化操作，可降低图像特征维数，并减少神经网络中参数的个数，提高鲁棒性。多分类网络的最后层需要输出待分类目标在各类别的预测概率值，AlexNet模型中通过Softmax函数对网络输出各权重值进行计算得到最终多分类下的先验概率。另外，AlexNet模型还采用了ReLU激活函数、Dropout策略、局部响应归一化LRN等提高网络的性能。卷积神经网络的权重共享可以减少网络的训练参数，使其适应性更强，其特征提取和模式分类是同时进行的，而且同时在训练中产生而且采用了重叠池化技术，也可以避免过拟合的产生。因此利用卷积神经网络强大的特征提取功能，提取电能质量扰动信号波形的特征具有可行性。

本发明的对电能质量扰动分类方法包括以下步骤：

S1、将Imagenet图像数据集作为源数据集，训练得到提取了Imagenet图像数据集固有抽象特征的AlexNet卷积神经网络模型；所述Imagenet图像分数据集，具体为Imagenet图像分类比赛所用数据集ILSVRC-2011数据集，包含120万张已分类照片。

S2、基于迁移学习原理进行特征迁移，如图4所示，建立新的AlexNet卷积神经网络模型，将步骤S1中Imagenet图像数据集所训练的AlexNet卷积神经网络模型，将最后一个全连接层，替换为一个新的全连接层；

S3、随机初始化Softmax分类层的参数，具体是指：将Softmax的输出类别改为本文扰动类别数，WeightLearnRateFactor和BiasLearnRateFactor的参数值，皆设为50。初始学习率为0.0001，最大训练周期数为8。；

S5、生成多种扰动方式的电能质量扰动信号，验证经电能质量扰动信号波形图像训练过的AlexNet卷积神经网络模型的分类正确率。具体包含以下步骤：

S51、按照扰动方式，在MATLAB环境中，随机产生9种单一扰动以及17种双重扰动，共计26类电能质量扰动信号的仿真信号，每种各产生2000个样本，信号基波频率f0为50Hz,采样频率fs为6.4kHz；

S52、根据表1的单一扰动模型表达式建立数学变换模型，对所述仿真信号检测、分类；所述9种单一扰动，具体是指暂升、暂降、中断、谐波、尖峰、切痕、闪变、振荡和脉冲这九种扰动。扰动信号产生的原则为：单一扰动按扰动定义和特点可分为四大类：电压暂降、电压暂升、电压中断、尖峰、切痕为第1类扰动；振荡和脉冲为第2类扰动；谐波和闪变各自为一类扰动，同属于一个类别的扰动不能相互混合。根据扰动信号产生的原则，所述26种双重扰动，具体是指暂升加谐波、暂升加闪变、暂升加振荡、暂升加脉冲、暂降加谐波、暂降加闪变、暂降加振荡、暂降加脉冲、中断加谐波、中断加闪变、中断加振荡、中断加脉冲、谐波加闪变、谐波加振荡、谐波加脉冲、闪变加振荡、闪变加脉冲这26种双重扰动。表1中T为工频周期，u(t)为单位阶跃函数，t1和t2分别为扰动起始和终止时刻，信号样本长度为10周期。由于实际电能质量数据会受到噪声的影响，所以在仿真信号上分别叠加信噪比为20db、30db、40db和50db的高斯白噪声。

表1单一扰动模型表达式(ω₀＝2π·50rads)

S53、利用步骤S5所训练的AlexNet卷积神经网络模型对生成的多种扰动信号进行训练和测试，得到分类结果，依据所述分类结果验证新的AlexNet卷积神经网络模型的分类正确率。本发明采用动量随机梯度下降法(SGDM)来训练数据。采用十折交叉验证完成对模型的测试，即每类中轮流取200个波形样本作为测试数据，其余的1800个样本作为训练数据，以10次训练测试结果的平均值作为最终识别准确率。

步骤S2所述的迁移学习，是机器学习领域近年来比较热门的领域，受到学者的广泛关注，并取得了一系列研究成果。其目的是将在源领域中学到的知识迁移到目标领域，来解决目标任务。图2为迁移学习示意图，与机器学习算法不同，迁移学习可以应用在较少样本情况，并且不需要做同分布假设，主要针对样本数量有限的特定领域集使用卷积神经网络时容易产生过拟合而导致无法训练与学习的问题。迁移学习可定义为：给定一个源域D_S与源任务T_S，一个目标域D_T与目标任务T_T，迁移学习使得D_S和T_S的知识能够帮助求解T_T，其中D_S≠T_S或D_T≠T_T。域D定义为一个二元对{x,P(X)},其中x为特征空间，P(X)是X的边缘分布，X＝{x₁,x₂,...,x_n}∈x,任务T也是一个二元对{y,f(x)}，其中y是标签空间，y＝f(x)是从训练样本{x_i,y_i}(x_i∈X,y_i∈y)学习到的目标函数。将源域中的训练样本数记为n_S,目标域中的记为n_T。

传统的特征学习是在给定充分训练样本的基础上学习一个分类模型，然后利用学习到的分类模型对测试样本进行分类。完成这个过程需要大量的已标注训练样本的支持，如果没有大量的标注数据，会使得特征学习效果不理想甚至无法完成学习。而在电能质量领域中，大量的已标注电能质量扰动波形非常难以得到，因为标注训练与测试样本需要大量的人力与物力，而且大量训练样本的学习对计算机硬件的要求很高，实现困难。面对上述困难，迁移学习提供了一种解决问题的新方法，它允许迁移已有的知识来解决目标领域中仅有少量已标注样本数据的学习问题，也就是运用已有的知识对不同但相关领域问题进行求解。总体来说，迁移学习是机器学习中非常重要的一部分，也是解决电能质量扰动识别问题的有效方法。

在电能质量扰动识别中，能够收集到的带标签数据是非常有限的。如果直接使用样本数量较少的数据集训练一个卷积神经网络，由于网络的参数数量较大，极易产生过拟合现象。针对上述问题，本发明将迁移学习与AlexNet模型相结合，即源域DS为ImageNet图像数据集，DT为电能质量扰动波形集。将对电能质量扰动波形的识别转化为对图形的自动识别分类问题，将在同为图像数据的ImageNet数据集上预训练的AlexNet模型中的特征提取层迁移到电能质量扰动波形数据集的分类任务中，然后随机初始化Softmax分类层的参数并用电能质量波形进行训练，完成对电能质量扰动波形的识别。相对于电能质量扰动波形数据集，ImageNet数据集在数据量和种类上都非常丰富，ImageNet的图像分类数据集ILSVRC2011中训练集包含1229413张图片，验证集中包含50000张图片，测试集中包含100000张图片。尽管ImageNet中没有大量的电能质量扰动波形图像，但是，由于电能质量扰动识别同样是利用边缘、纹理等图像特征，因此，迁移学习模型迁移的是卷积神经网络强大的特征提取能力。利用ImageNet作为源数据集可以提取到丰富多样的图像空间特征信息，进而迁移到电能质量扰动识别的问题上。

本发明的一种基于迁移学习的电能质量扰动分类方法。考虑到实际应用中电能质量扰动波形较少，难以获取足够多的样本，本发明引入迁移学习的方法，将用ImageNet数据集训练过的AlexNet卷积神经网络模型迁移到电能质量扰动识别的问题上，通过提取了图像特征的卷积神经网络自动识别电能质量扰动信号波形，减少了数据预处理、特征提取、特征表示等复杂的人工操作。实施例结果表明，本发明所提出分类模型能够有效的提高电能质量扰动波形的分类精度，显著优于传统分类模型。

表2为单一扰动分类结果。单一扰动的训练结果如图5所示。由表2可以看出，本发明方法和传统数学变换方法对于单一扰动的识别均有较高的准确率，本发明模型较数学变换准确率略有提高。由于单一扰动信号比较简单，通过数学变换提取特征进行分类已经具有不错的效果，而本发明模型的优势更多体现在对复杂的复合扰动的分类上。

表2单一扰动分类结果

对17种双重扰动的训练结果如图6所示。分类结果如表3、4所示。

表3双重扰动仿真测试结果

表4扰动分类结果

从表3,4可知，本发明分类模型的分类准确率显著高于数学变换模型，平均准确率高达99.1％。复合扰动时，由于多个扰动之间互相干扰，使得通过数学变换显式地人工提取特征难度很大，并且步骤繁琐复杂，导致分类准确率低，而本发明迁移学习模型可以隐式地从训练数据中进行学习，克服了传统数学变换提取波形特征的缺点，使得准确率大大提高。而且，当叠加不同信噪比的高斯白噪声时，本发明模型仍有较高的识别准确率，说明本发明模型抗噪性能良好。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims

1.一种电能质量扰动分类方法，采用Imagenet图像分数据集和AlexNet卷积神经网络模型，将电能扰动波形集按照扰动产生的原因进行分类，所述AlexNet卷积神经网络模型第一至第五层为卷积层，第六至第八层为全连接层，最后还接有一个Softmax分类层，其特征在于，包括以下步骤：

S3、随机初始化Softmax分类层的参数；

S4、将每个待分类的电能质量扰动信号波形图像转换为227*227*3像素；将所述转换后的图像作为新的AlexNet卷积神经网络模型的输入，对新的AlexNet卷积神经网络模型进行训练，并从Softmax分类层得到电能质量扰动信号波形的分类结果；

2.如权利要求1所述的电能质量扰动分类方法，其特征在于，所述Imagenet图像分数据集，具体为Imagenet图像分类比赛所用数据集ILSVRC-2011数据集，包含120万张已分类照片。

3.如权利要求1所述的电能质量扰动分类方法，其特征在于，步骤S2所述的建立新的AlexNet卷积神经网络模型，具体是指，将将步骤S1中Imagenet图像数据集所训练的AlexNet卷积神经网络模型，最后一个全连接层替换为一个新的全连接层。

4.如权利要求1所述的电能质量扰动分类方法，其特征在于，所述步骤S3中所述的初始化Softmax分类层的参数，具体是指：将Softmax的输出类别改为本文扰动类别数，WeightLearnRateFactor和BiasLearnRateFactor的参数值，皆设为50，初始学习率为0.0001，最大训练周期数为8。

5.如权利要求1所述的一种电能质量扰动分类方法，其特征在于，步骤S5具体包含以下步骤：

6.如权利要求5所述的一种电能质量扰动分类方法，其特征在于，步骤S51所述9种单一扰动，具体是指暂升、暂降、中断、谐波、尖峰、切痕、闪变、振荡和脉冲这九种扰动。

7.如权利要求5所述的一种电能质量扰动分类方法，其特征在于，步骤S51所述26种双重扰动，具体是指暂升加谐波、暂升加闪变、暂升加振荡、暂升加脉冲、暂降加谐波、暂降加闪变、暂降加振荡、暂降加脉冲、中断加谐波、中断加闪变、中断加振荡、中断加脉冲、谐波加闪变、谐波加振荡、谐波加脉冲、闪变加振荡、闪变加脉冲这26种双重扰动。