CN111931900B - 基于残差网络与多尺度特征融合的gis放电波形检测方法 - Google Patents

Abstract

本发明公开了一种基于残差网络与多尺度特征融合的GIS放电波形检测方法，包括：获取原始放电波形数据并标记类别标签，将所有样本数据进行打乱分为训练样本数据集和测试样本数据集；设计分类网络模型，并将训练样本数据集中的训练样本按批次传入该分类网络模型；使用交叉熵构造该分类网络模型的损失函数，在该分类网络模型的训练过程中使用随机梯度下降法，使得所述批训练样本在分类网络模型上的损失函数的平均值最小；将测试样本送入训练完成的分类网络模型中，得到检测结果。本方法由引入残差网络单元的全卷积网络提取放电波形特征，抑制了网络层数加深而带来的退化问题，提高了分类准确率。

Description

基于残差网络与多尺度特征融合的GIS放电波形检测方法

技术领域

本发明属于GIS放电波形检测技术领域，尤其涉及一种基于残差网络与多尺度特征融合的GIS放电波形检测方法。

背景技术

GIS(gas insulated switchgear，气体绝缘全封闭组合电器)由断路器、隔离开关、接地开关、互感器、避雷器、母线、连接件和出线终端等组成，这些设备或部件全部封闭在金属接地的外壳中，在其内部充有一定压力的SF6绝缘气体。GIS具有较高的安全可靠性，但加工、运输、现场装配等多种原因使得GIS不可避免地存在绝缘缺陷而影响其长期可靠性。这些缺陷通常比较微小和隐蔽，对设备的安全运行造成威胁。

残差网络与多尺度特征融合的GIS放电波形检测能够帮助及时发现GIS的绝缘缺陷，避免绝缘故障，提高GIS的安全运行水平，实现GIS绝缘的状态维修，减少停电时间和节省维修费用。传统机器学习使用人工手段提取放电波形的特征，通过滤波器滤波后送入分类模型从而完成对放电波形数据的分析与检测。这种人工提取特征的方式会因为放电波形特征复杂多样、数据的特征尺度不一而无法实现准确分类，并且在不同环境下放电波形数据会发生变化，直接导致检测结果准确率无法得到保障。

发明内容

针对上述问题，本发明的目的在于提供一种基于残差网络与多尺度特征融合的GIS放电波形检测方法，降低了分类模型由于网络层数的增加而带来的退化问题，增强了分类模型对放电数据不同尺度上特征的感知能力，提高了放电波形检测准确率。本发明要解决的技术问题通过以下技术方案实现：

本发明提供了一种基于残差网络与多尺度特征融合的GIS放电波形检测方法，包括以下步骤：

步骤1：获取原始放电波形数据，并对每个所述原始放电波形数据标记所属的类别标签，形成样本数据，在保证每个所述原始放电波形数据与其类别标签一一对应的前提下，将所有样本数据打乱，并将打乱后的样本数据按照预定比例分为训练样本数据集和测试样本数据集；

步骤2：设计残差网络与多尺度特征融合的分类网络模型，并将来自所述训练样本数据集中的训练样本按批次传入所述分类网络模型中；

步骤3：使用交叉熵构造所述分类网络模型的损失函数，在训练过程中，每次训练传入一批训练样本，使用随机梯度下降法，使得所述批训练样本在所述分类网络模型上的损失函数的平均值最小，遍历训练样本数据集中的所有训练样本，完成所述分类网络模型的训练过程；

步骤4：将来自所述测试样本数据集中的测试样本送入训练完成的分类网络模型中，通过所述分类网络模型的前向传播和最后一层的Softmax层，得到所述测试样本属于各个类别的置信度，取置信度最大的一类为所述分类网络模型的检测结果，遍历所有测试样本，通过对比所述分类网络模型的检测结果和标签真实值，获得所述分类网络模型的分类准确率。

与现有技术相比，本发明的有益效果在于：

1)本发明实施例的基于残差网络与多尺度特征融合的GIS放电波形检测方法实现了对GIS放电波形可靠检测。该方法由引入残差网络单元的全卷积网络提取放电波形特征，并且抑制了网络层数加深而带来的退化问题，提高了模型的分类准确率。

2)为了提高模型对不同环境、不同类型的放电数据的处理能力，提出多尺度特征融合的GIS放电波形检测算法，该方法增强了分类网络模型对放电数据不同尺度上特征的感知能力，有效提高了模型的分类准确率。

以下将结合附图及实施例对本发明做进一步详细说明。

附图说明

图1为本发明实施例提供的一种基于残差网络与多尺度特征融合的GIS放电波形检测方法的流程图；

图2为本发明实施例提供的一种样本处理流程图；

图3a至图3f依次为悬浮、尖刺、颗粒、气隙、沿面、自由粒子六种放电类型的波形图；

图4为本发明实施例提供的一种的残差网络与多尺度特征融合的GIS放电波形检测方法的网络整体结构图；

图5为本发明实施例使用随机梯度下降法训练检测模型时，其准确率随迭代次数的变化情况。

具体实施方式

为了使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例的附图，对本发明实施例的技术方案进行清楚、完整地描述。有关本发明的前述及其他技术内容、特点及功效，在以下配合附图的具体实施方式详细说明中即可清楚地呈现。通过具体实施方式的说明，可对本发明为达成预定目的所采取的技术手段及功效进行更加深入且具体地了解，然而所附附图仅是提供参考与说明之用，并非用来对本发明的技术方案加以限制。

请参见图1，图1为本发明实施例提供的一种基于残差网络与多尺度特征融合的GIS放电波形检测方法的流程图。该残差网络与多尺度特征融合的GIS放电波形检测方法包括：

步骤1：获取原始放电波形数据，并人工在每个波形数据标记所属的类别标签，在保证波形数据和标签类别一一对应的前提下，将所有样本数据进行打乱，按照一定比例，将打乱后的样本数据分为训练样本数据集和测试样本数据集。请参见图2，图2为本发明实施例提供的一种样本处理流程图。优选地，训练样本数据集中的训练数据占总样本数据的比例一般取70％，测试样本数据集中的测试数据占总样本数据的比例一般取30％。

步骤2：设计残差网络与多尺度特征融合的分类网络模型，并将来自所述训练样本数据集中的训练样本按批次传入所述分类网络模型中。

进一步地，步骤2的具体子步骤包括：

S2.1：根据放电波形为一维数据的特点，设计该分类网络模型的基本结构为一维全卷积神经网络，网络的输入大小为单个放电波形数据点的个数，网络输出为分类个数。在本实施例中，分类个数为6个，分别为悬浮放电、尖刺放电、颗粒放电、气隙放电、沿面放电和自由粒子放电。也就是说，本实施例的分类网络模型的的输出节点数为6。请参见图3a至图3f，图3a至图3f依次为悬浮、尖刺、颗粒、气隙、沿面、自由粒子六种放电类型的波形图。为了使本实施例的分类网络模型学习到的特征不被丢弃，在下采样过程中去除传统的池化层，采用步长为2的卷积层代替，从而尽可能地保留分类网络模型学习到的特征。

S2.2：由于不同放电波形数据拥有不同尺度上的特征，为了提高该分类网络模型对不同放电波形的特征感知能力，设计多尺度特征融合的网络结构。请参见图4，图4为本发明实施例提供的一种的残差网络与多尺度特征融合的GIS放电波形检测方法的网络整体结构图。如图4所示，设计多尺度特征融合的网络结构的具体做法为：输入的1×1×100放电波形数据在模型网络中传播时，依次经过不同的网络层并得到不同大小的特征图，取三次下采样后的特征图卷积层2、卷积层6、卷积层11，三个特征图的大小分别为1×6×50、1×12×24、1×24×12，将这三个不同尺度的特征图展宽为一维向量，向量长度分别为300、288、288，并将这三个一维向量拼接在一起组成全连接网络的第1层，其长度为876。设置全连接网络的第二层为150个节点，全连接网络第二层内的每个节点均与全连接网络第一层每个节点相连，由于模型解决的为6分类问题，设置全连接网络的第三层为6个节点，且全连接网络第三层内的每个节点均与全连接网络第二层每个节点相连。经过三层全连接网络的前向传播，三种尺度上的特征图得到融合，最终输出网络的前向传播结果。

具体地，在S2.2中，输入的放电波形数据的形状为1×1×100，所述分类网络模型的输出节点数为6，共16层。

S2.3：由于放电波形数据单个样本数据量较小的特点，为防止该分类网络模型在网络层数较深时出现退化问题，本实施例引入残差网络机制，即将原始分类网络模型的输出与原始分类网络模型的输入求和作为残差网络的输出。使用两层卷积层和一层求和层作为残差网络单元，残差网络单元的输入经过两层卷积层后再与输入进行求和，求和后的结果作为残差网络单元的输出。具体地，如图4所示，在该分类网络模型的设计中，以卷积层3、卷积层4、卷积层5构成的残差网络单元为例，卷积层3是由卷积层2进行步长为1的卷积操作得到的，其形状为50×6×1。对卷积层3进行步长为1的卷积操作，得到卷积层4，其形状为50×6×1。将卷积层2与卷积层4求和得到卷积层5，其形状为50×6×1，将卷积层5作为残差网络单元的输出。引入残差网络使得该分类网络模型对数据变化更为敏感，避免了模型分类准确率随网络层数加深而下降的退化问题。

步骤3：使用交叉熵构造该分类网络模型的损失函数，在模型的训练过程中，每次训练传入一批训练样本数据，使用随机梯度下降法，使得所述批训练样本数据在分类网络模型上的损失函数的平均值最小，遍历所有训练样本数据集中的训练数据，完成所述分类网络模型的训练过程。

进一步地，步骤3的具体子步骤为：

S3.1：判断所述分类网络模型的当前训练次数i与进行训练的总次数M的大小，若i≤M，则跳转至S3.2，若i＞M，则跳转至步骤4，其中，令i的初始值为1；

S3.2：取statr＝(i-1)·n_batch，end＝start+n_batch-1，其中，start为单次训练样本的数据起始位置，end为单次训练样本的数据末尾位置，n_batch为训练样本的数据个数，在所述训练样本数据集C＝I₁,I₂,...,I_k,...,I_N中,N为所述训练样本数据集中的训练样本的数据个数，I_k表示所有训练样本数据集中第k个样本，取单次训练样本为C_i＝I_start,I_start+1,...,I_end进行模型训练；

S3.3：若end＞n_batch，则取C_i＝I_start,I_start+1,...,I_N,I₁,...I_N-end，若start＞N，则取start＝end_i-1；

S3.4：将单次训练样本C_i送入所述分类网络模型，使用随机梯度下降法优化网络参数；

S3.5：计算当前次训练的准确率P_i，与预先设定的目标准确率P_set比较，若P_i≥P_set，则停止训练，获得训练完成的分类网络模型，并跳转至步骤4；否则令i＝i+1，跳转至S3.1。

进一步地，在步骤3中，构建的损失函数为：

其中，y_i为分类标签的真实值，y_{i_}为模型输出值，n为分类网络模型的节点数。

步骤4：将测试样本送入训练完成的分类网络模型中，通过网络模型的前向传播和最后一层的Softmax层，得到待检测波形属于各个类别的置信度，取置信度最大的一类为该分类网络模型的检测结果。遍历所有测试样本，通过对比模型分类结果和标签真实值，计算出该分类网络模型的分类准确率。在本实施例中，Softmax层中待检测波形属于第i类的概率p_i的计算公式为：

其中，z_i为上层第i个节点的输出值，n为上层网络的节点个数。

请参见图5，图为本发明实施例使用随机梯度下降法训练检测模型时，其准确率随迭代次数的变化情况。如图所示，本实施例的分类网络模型在迭代训练的过程中，前200k次训练后即达到80％左右准确率，1.2M次训练后模型的准确率稳定在92％左右。在训练数据不大于700的小样本条件下，本实施例的方法在上述条件下对6种实测GIS放电波形的检测准确率可达到92％，且单样本的平均检测时间不超过50ms。

综上所述，本发明实施例的基于残差网络与多尺度特征融合的GIS放电波形检测方法实现了对GIS放电波形可靠检测。该方法由引入残差网络单元的全卷积网络提取放电波形特征，并且抑制了网络层数加深而带来的退化问题，提高了模型的分类准确率。此外，为了提高模型对不同环境、不同类型的放电数据的处理能力，提出多尺度特征融合的GIS放电波形检测算法，该方法增强了分类网络模型对放电数据不同尺度上特征的感知能力，有效提高了模型的分类准确率。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围；这样，倘若本发明的这些改动和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims (5)

1.一种基于残差网络与多尺度特征融合的GIS放电波形检测方法，其特征在于，所述方法包括：

步骤1：获取原始放电波形数据，并对每个所述原始放电波形数据标记所属的类别标签，形成样本数据，在保证每个所述原始放电波形数据与其类别标签一一对应的前提下，将所有样本数据打乱，并将打乱后的样本数据按照预定比例分为训练样本数据集和测试样本数据集；

步骤2：设计残差网络与多尺度特征融合的分类网络模型，并将来自所述训练样本数据集中的训练样本按批次传入所述分类网络模型中；

步骤3：使用交叉熵构造所述分类网络模型的损失函数，在训练过程中，每次训练传入一批训练样本，使用随机梯度下降法，使得所述批训练样本在所述分类网络模型上的损失函数的平均值最小，遍历训练样本数据集中的所有训练样本，完成所述分类网络模型的训练过程；

步骤4：将来自所述测试样本数据集中的测试样本送入训练完成的分类网络模型中，通过所述分类网络模型的前向传播和最后一层的Softmax层，得到所述测试样本属于各个类别的置信度，取置信度最大的一类为所述分类网络模型的检测结果，遍历所有测试样本，通过对比所述分类网络模型的检测结果和标签真实值，获得所述分类网络模型的分类准确率；

所述步骤2包括：

S2.1：根据放电波形为一维数据的特点，设计所述分类网络模型的基本结构为一维全卷积神经网络，所述分类网络模型的的输入大小为单个放电波形数据点的个数，输出为分类个数，并且在下采样过程中去除传统的池化层，采用步长为2的卷积层代替；

S2.2：将所述分类网络模型设计成多尺度特征融合的网络结构，具体做法为：输入的放电波形数据在所述分类网络模型中传播时，依次经过不同的网络层并得到不同大小的特征图，将三种下采样后的不同尺度的特征图展宽为一维向量，并将三个一维向量拼接在一起组成全连接网络的第一层，设置全连接网络的第二层内的每个节点均与全连接网络第一层每个节点相连，设置全连接网络的第三层为6个节点，且全连接网络第三层内的每个节点均与全连接网络第二层每个节点相连，经过三层全连接网络的前向传播，三种尺度上的特征图得到融合，最终输出所述分类网络模型的前向传播结果；

S2.3：引入残差网络机制，将原始分类网络模型的输出与原始分类网络模型的输入求和作为残差网络的输出，使用两层卷积层和一层求和层作为残差网络单元，所述残差网络单元的输入经过两层卷积层后再与输入进行求和，求和后的结果作为所述残差网络单元的输出，

所述步骤3包括：

S3.1：判断所述分类网络模型的当前训练次数i与训练总次数M的大小，若i≤M，则跳转至S3.2，若i>M，则跳转至步骤4，其中，令i的初始值为1；

S3.2：取start＝(i-1)·n_batch，end＝start+n_batch-1，其中，start为单次训练样本的数据起始位置，end为单次训练样本的数据末尾位置，n_batch为训练样本的数据个数，在所述训练样本数据集C＝I₁,I₂,...,I_k,...,I_N中,N为所述训练样本数据集中的训练样本的数据个数，I_k表示所有训练样本数据集中第k个样本，取单次训练样本为C_i＝I_start,I_start+1,...,I_end进行模型训练；

S3.3：若end>n_batch，则取C_i＝I_start,I_start+1,...,I_N,I₁,...I_N-end，若start>N，则取start＝end_i-1；

S3.4：将单次训练样本C_i送入所述分类网络模型，使用随机梯度下降法优化网络参数；

S3.5：计算当前次训练的准确率P_i，与预先设定的目标准确率P_set比较，若P_i≥P_set，则停止训练，获得训练完成的分类网络模型，并跳转至步骤4；否则令i＝i+1，跳转至S3.1。

2.如权利要求1所述的基于残差网络与多尺度特征融合的GIS放电波形检测方法，其特征在于，在所述S2.2中，所述输入的放电波形数据的形状为1×1×100，所述分类网络模型的输出节点数为6，共16层。

3.如权利要求1所述的基于残差网络与多尺度特征融合的GIS放电波形检测方法，其特征在于，在所述步骤3中，每批训练样本的数据数量为200。

4.如权利要求1所述的基于残差网络与多尺度特征融合的GIS放电波形检测方法，其特征在于，在所述步骤3中，所述损失函数为：

其中，y_i为分类标签的真实值，y_{i_}为所述分类网络模型的输出值，n为所述分类网络模型的节点数。

5.如权利要求1所述的残差网络与多尺度特征融合的GIS放电波形检测方法，其特征在于，在所述步骤4中，Softmax层中待检测波形属于第i类的概率p_i计算公式为：

其中，z_i为上层第i个节点的输出值，n为上层网络的节点个数。