CN114462508A - 基于多模态神经网络的电力变压器健康状态评估方法 - Google Patents

基于多模态神经网络的电力变压器健康状态评估方法 Download PDF

Info

Publication number
CN114462508A
CN114462508A CN202210030825.2A CN202210030825A CN114462508A CN 114462508 A CN114462508 A CN 114462508A CN 202210030825 A CN202210030825 A CN 202210030825A CN 114462508 A CN114462508 A CN 114462508A
Authority
CN
China
Prior art keywords
layer
data
neural network
modal
transformer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210030825.2A
Other languages
English (en)
Inventor
何怡刚
邢致恺
杜博伦
赵莹莹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ningbo Lidou Intelligent Technology Co ltd
Wuhan University WHU
Original Assignee
Ningbo Lidou Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo Lidou Intelligent Technology Co ltd filed Critical Ningbo Lidou Intelligent Technology Co ltd
Priority to CN202210030825.2A priority Critical patent/CN114462508A/zh
Publication of CN114462508A publication Critical patent/CN114462508A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Human Resources & Organizations (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Strategic Management (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Educational Administration (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Tourism & Hospitality (AREA)
  • Evolutionary Biology (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Game Theory and Decision Science (AREA)
  • Probability & Statistics with Applications (AREA)
  • Public Health (AREA)
  • Water Supply & Treatment (AREA)
  • Primary Health Care (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于多模态神经网络的变压器健康状态评估方法，包括：采集各变电站中变压器的油中气体和红外图像；对采集的信息进行数据清洗和数据归一化，得到多模态矩阵；将多模态矩阵按比例划分为训练集和验证集；构建基于一维卷积神经网络和深度残差神经网络的多模态神经网络，输入训练集和验证集进行网络训练；利用实时采集的数据经过滤波后得到可训练的数据，进行健康状态评估和网络参数的更新。本发明利用一维卷积神经网络从油中气体数据中提取文本特征，深度残差神经网络从红外图像中提取图像特征，由稀疏注意力机制从文本特征和图像特征中获得电力变压器统一表征，并得到变压器的健康状态。该神经网络具有准确的评估性能和稳定的鲁棒性。

Description

基于多模态神经网络的电力变压器健康状态评估方法
技术领域
本发明属于电力变压器健康状态评估技术领域，更具体地，涉及一种基于多模态神经网络的电力变压器健康状态评估方法。
背景技术
电网的安全稳定运行是可靠供电的基础。电网一旦发生故障，不仅损坏电力设备，停止供电，影响人民正常生产、生活，严重时还会危害公共安全，造成重大经济损失和不良社会影响。电力变压器是十分重要的电压转换节点，是变电站核心设备，并且电力变压器造价昂贵，突发故障停运会严重危害电力***的安全。然而变压器在长期运行过程中，受热、电及其他因素影响，出现缺陷的风险逐渐增大，缺陷点会快速发展为故障，造成变压器停运，影响电网的稳定运行，甚至造成大面积停电。
电力变压器状态评估是判断变压器健康状态的一种有效手段。变压器在运行过程中积累的数据蕴含丰富状态信息，是进行状态评估和故障诊断的有效基础。通过对变压器的某些指标进行检测和分析，能够对电力变压器的健康状况做出准确、可靠的评估和诊断，为后续的处理方式提供有依据的决策。因此，制定有效、可靠的电力变压器状态评估方法已成为国内外学者和工程师们亟需解决的一个问题。目前，故障诊断方法针对单一模态的数据进行故障诊断，但变压器的数据具有多源、异构的特征，新的多模态故障诊断技术仍需要研究。然而在多模态学习应用的实际任务中，由于不同模态数据之间具有相似性，导致不同模态数据提供的信息存在一定的冗余，如果将不同模态的数据提取到的特征进行简单的拼接融合，往往会降低模型在目标任务上的性能。
发明内容
针对现有技术的以上缺陷或改进需求，本发明提出了一种基于多模态神经网络的电力变压器健康状态评估方法，解决现有技术中过于依赖各变量参数的选择、无法评估多变量情形下的健康状态等缺陷，评估效率和准确性更高。
为实现上述目的，本发明提供了一种基于多模态神经网络的电力变压器健康状态评估方法，包括：
(1)采集各变电站中的多模态信息，其中，多模态信息包括：各变电站油测试、油中溶解气体和呋喃含量监测信息，以及变压器的红外图像数据；
(2)对采集到的多模态信息进行数据清洗和数据归一化处理，得到多模态矩阵；
(3)将多模态矩阵按比例划分为训练集和验证集，以对网络的参数进行训练；
(4)构建基于一维卷积网络和深度残差神经网络的多模态神经网络，输入训练集和验证集进行多模态神经网络训练，学习变压器多模态数据的特征；
(5)对实时运行的多模态数据进行健康状态评估，同时对多模态神经网络的权值进行微调，使多模态神经网络持续学习新的特征。
在一些可选的实施方案中，所述多模态信息包括：运行中变压器以及电力公司记录的数据，其中每一组数据均包括文本数据和图像数据及其对应的变压器的健康状态，文本数据包含九种关键状态的含量：BDV、水含量、酸度、氢气、甲烷、乙烷、乙烯、乙炔、呋喃含量；图像数据包含变压器运行中的红外图像。
在一些可选的实施方案中，步骤(2)包括：
(2.1)对多模态信息进行小波阈值去噪，以消除多模态信息中数据存在的噪声；
(2.2)对去噪后的数据进行归一化处理，得到多模态矩阵。
在一些可选的实施方案中，步骤(2.1)包括：
对多模态信息进行两层小波分解获得逼近系数和细节系数，对逼近系数和细节系数分别用中值滤波进行处理；
对中值滤波后的逼近系数和细节系数进行重构，得到初步处理的光谱信号，将光谱信号进行小波分解，采用软阈值函数与无偏风险估计阈值对二次小波分解获得的逼近系数和细节系数进行去噪处理；
对去噪处理后的逼近系数和细节系数进行小波逆变换，获得最终去噪后的多模态信息中的数据。
在一些可选的实施方案中，在步骤(3)中将多模态信息中的数据划分为两部分，其中，若干比例的数据作为训练集，对多模态神经网络进行训练，剩下比例的数据作为测试集验证多模态神经网络对变压器健康状态评估效果。
在一些可选的实施方案中，步骤(4)包括：
(4.1)构建一维卷积神经网络和深度残差神经网络的多模态神经网络，对图像数据进行特征提取，其中，深度残差神经网络由输入层、残差模块、softmax层、分类输出层组成；一维卷积神经网络由卷积层、全局平均池化层和激活函数层组成；
(4.2)利用一维卷积神经网络对文本数据进行特征提取；
(4.3)利用稀疏注意力机制对文本特征和图像特征进行重要信息提取，并输出变压器的健康状态。
在一些可选的实施方案中，步骤(4.1)包括：
残差模块包括归一化层、全局平均池化层、激励层、阈值层和残差相加层，残差模块的组成如下：
第一层为归一化层，其运用正则化方法对数据进行归一化，在归一化层中，计算所有数据的正则化后，对数据进行变化，使网络能够学习正则化的规律；
第二层为全局平均池化层，实现对传输中的数据降维，减少网络的训练参数；
第三层是激励层，目的是捕获通道之间的依赖关系；
第四层为激活层，第五层为激励层，第六层为激活函数层，第七层为阈值层，通过
Figure BDA0003466355880000041
计算α，然后乘以第一层输出的数据，其中，z是由第六层输出的数据；
第八层为相加层，将第七层输出的数据与第一层输入的数据相加。
在一些可选的实施方案中，步骤(4.2)包括：
一维卷积神经网络的组成如下：第一层为卷积层，第二层为全局平局池化层，第三层为卷积层，第四层为全局平均池化层，第五层为激活函数层。
在一些可选的实施方案中，步骤(4.3)包括：
构建稀疏注意力机制对特征进行提取，注意机制将查询和一组键值映射到输出，使用KL发散度来度量查询稀疏性；
计算并归一化注意权重，注意层使用注意权值输出向量。
在一些可选的实施方案中，步骤(5)包括：
对于实时采集的多模态数据，进行数据清洗和数据归一化，然后将清洗和归一化后的数据进行分割为训练集和验证集，对多模态神经网络进行训练，进行健康状态评估，若需要增加新的数据类别或相关影响因素，利用原多模态神经网络作为预训练模型，激活所有层进行训练。
总体而言，通过本发明所构思的以上技术方案与现有技术相比，能够取得下列有益效果：
本发明的基于多模态神经网络的电力变压器健康状态评估方法，考虑到典型变压器健康状态评估过程中存在模态单一和精度较低等问题，利用多模态神经网络进行健康状态评估。综合考虑多模态神经网络的参数多和特征提取能力不同，创新性地构建了基于一维卷积神经网络和深度残差神经网络的多模态神经网络的健康评估模型。在此基础上，考虑到工程实际数据中存在噪声和异常数据问题，对模型输入数据进行数据清洗和归一化。
附图说明
图1是本发明实施例提供的一种基于多模态神经网络的电力变压器健康状态评估方法实现流程图；
图2是本发明实施例提供的一种一维卷积神经网络结构；
图3是本发明实施例提供的一种残差模块结构；
图4是本发明实施例提供的一种基于多模态神经网络模型的结构。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。此外，下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
本发明的目的是为变压器健康状态提供新的评估方法，评估效率和准确性更高，并解决传统方法过于依赖各变量参数的选择、无法评估多变量情形下的健康状态等问题。
本发明是采用如下技术方案来实现的：
如图1所示，本发明实施例的基于多模态神经网络的电力变压器健康状态评估方法，包括以下步骤：
步骤1：首先收集各变电站油测试，油中溶解气体和呋喃含量监测信息；
其中，步骤1中的数据采集于运行中变压器以及电力公司测试数据，其中每一组数据都包括BDV、水含量、酸度、氢气(H2)、甲烷(CH4)、乙烷(C2H6)、乙烯(C2H4)、乙炔(C2H2)、呋喃含量九种关键状态的含量和变压器的红外图像及其对应的变压器的健康状态。
步骤2：对采集到的多模态信息进行数据清洗和数据归一化处理，得到多模态矩阵；
具体地，步骤2可以通过以下方式实现：
步骤2.1：对步骤1中采集到的多模态信息进行小波阈值去噪，消除数据中存在的噪声；
首先，对数据进行一次小波分解，对获得逼近系数和细节系数分别用中值滤波进行处理。
其中，中值滤波是一种非线性平滑处理方法，算法数学模型为：假设滑动窗口的大小为n＝2k+1或者n＝2k，滤波器输出的中值为：
Figure BDA0003466355880000061
其次，对中值滤波处理后的逼近系数和细节系数进行小波逆变换重构，得到初步处理的信号，将新的信号进行二次小波分解，采用软阈值函数与无偏风险估计阈值对二次小波分解获得的逼近系数和细节系数进行去噪处理。
其中，无偏风险估计阈值公式为：
Figure BDA0003466355880000062
软阈值函数的数学表达式为：
Figure BDA0003466355880000063
最后，对新的逼近系数和细节系数进行小波逆变换，获得最终去噪后的多模态信息中的数据。
步骤2.2：对步骤2.1中去噪后的数据进行数据归一化，运用极差变换法，其公式为：
Figure BDA0003466355880000071
其中，max(x)为样本数据的最大值，min(x)为样本数据的最小值，xi为样本中第i个数据，yi为归一化后的第i个数据。
本实施例参考DL/T 1685-2017油浸式变压器状态评价导则将变压器状态分为如下4个等级：正常、注意、异常和严重，如表1所示：
表1评价等级与相对劣化度对应关系及其状态描述
Figure BDA0003466355880000072
步骤3：将多模态矩阵按比例划分为训练集和验证集；
将多模态矩阵数据集划分为两部分，其中，80％作为训练集对多模态神经网络进行训练，20％作为测试集验证多模态神经网络对健康状态的分类效果。
步骤4：构建基于一维卷积神经网络和深度残差神经网络的多模态神经网络，输入训练集和验证集进行网络训练；
步骤4中深度残差网络的构建方法为：首先构建一个残差模块，其中残差层由10个残差模块构成，如图3所示，残差模块包括归一化层、全局平均池化层、激励层、阈值层和残差相加层；然后构建一维卷积神经网络，如图2所示；最后，利用稀疏注意力机制对特征进行重要信息提取，其门激活函数为σ，本发明激活函数选择为‘sigmoid’，状态激活函数为‘tanh’，如图4所示。
其中，步骤4具体可以通过以下方式实现：
步骤4.1：构建一维卷积神经网络和深度残差神经网络的多模态神经网络，其中，深度残差神经网络由输入层、残差模块、softmax层、分类输出层组成；一维卷积神经网络由卷积层、全局平均池化层和激活函数层组成；
其中，深度残差神经网络由多个残差模块组成，残差模块的组成如下：
第一层为归一化层，运用正则化方法对数据进行归一化，该层的数据维度为m×n×l；正则化公式如下：
Figure BDA0003466355880000081
其中，μB是数据的均值，
Figure BDA0003466355880000082
是数据的方差，xi是输入的数据，
Figure BDA0003466355880000083
是输出数据，ε是一个参数，m,n,l分别表示输入数据的尺寸。
在正则化公式中，数据均值的计算公式如下：
Figure BDA0003466355880000084
在正则化公式中，数据的方差计算公式如下：
Figure BDA0003466355880000085
其中，M表示输入样本的总个数。
在归一化层中，计算所有数据的正则化后，对数据进行变化，使深度残差网络可以学习正则化的规律，其公式如下：
yi＝γxi+β (8)
其中，γ和β是深度残差神经网络学习的参数；
第二层为全局平均池化层，实现对传输中的数据降维，减少深度残差网络的训练参数，该层的数据维度为m×n×l，计算公式如下：
Figure BDA0003466355880000086
其中，u(i,j)是输入数据，M和N是数据的维度，zl是输出数据；
第三层是激励层，目的是捕获通道之间的依赖关系，该层的数据维度为m×n×(l/n)，计算公式如下：
sl＝σ(W2δ(W1z)) (10)
其中，δ是ReLU激活函数，
Figure BDA0003466355880000091
σ表示Sigmoid激活层，z∈Rl，b表示需要压缩的倍数。
第四层为激活层，该层的数据维度为m×n×(l/n)，其公式如下：
xl＝Fscale(ul,sl)＝slul (11)
其中，x＝[x1,x2,...,xl]，Fscale(ul,sl)计算sl和输入数据的乘积，ul表示输入数据，xl表示输出数据；
第五层为激励层，该层的数据维度为m×n×l；
第六层为激活函数层，用‘sigmoid’作为激活函数，该层的数据维度为m×n×l；
第七层为阈值层，通过如下公式进行计算α，然后乘以第一层输出的数据；
Figure BDA0003466355880000092
其中，z是由第六层输出的数据；
第八层为残差相加层，将第七层输出的数据与第一层输入的数据相加。
步骤4.2：一维卷积神经网络的组成如下：
第一层为卷积层，其数学表达式为：
y＝A·x (13)
其中，A∈RN×CHW,x∈RCHW×1，y∈RN×1，N表示输出数据的矩阵维度，CHW表示输入数据的矩阵维度。
第二层为全局平局池化层，第三层为卷积层，第四层为全局平均池化层，第五层为激活函数层。
步骤4.3：构建稀疏注意力机制对特征进行提取，注意机制将查询和一组键值映射到输出，输出矩阵可计算为：
Figure BDA0003466355880000101
其中，
Figure BDA0003466355880000102
是一个与q大小相同的稀疏矩阵，它包含在稀疏度量下的最高测量矩阵M(q,K)，Q和K是计算权值系数的矩阵，V是对权重系数求和的矩阵，d表示输入数据的维度。
其中，步骤4.3使用KL发散度来度量查询稀疏性，第i个查询的稀疏性评估公式为：
Figure BDA0003466355880000103
其中，第一项是所有键的log-sum-exp(LSE)，第二项是它们的算术平均值，qi,kj分别表示矩阵Q,K中的数据，LK表示矩阵K的长度。
然后，计算并归一化注意权重Ai如下：
Figure BDA0003466355880000104
其中，k(qi,kj)选择非对称指数核A(Q,K,V)，l表示从1到LK的数，vj表示矩阵V中的数据。
最后，注意层使用注意权值输出向量Ai。
Figure BDA0003466355880000105
其中，
Figure BDA0003466355880000106
是输入矩阵。
其中，步骤4中利用输入训练集和验证集对构建好的多模态神经网络进行训练。
其中，神经网络的具体训练过程是：使用交叉熵作为误差函数，使用Adam优化算法更新多模态神经网络的权值；在使用Adam优化算法更新多模态神经网络权值的过程中，若在连续的设定步数范围内均值小于设定的阈值，则停止对多模态神经网络的训练并保存最后一步计算出的深度残差神经网络的权值；
其中，在训练过程中使用的交叉熵函数公式如下：
Figure BDA0003466355880000111
其中，tj是属于第j类的观测结果的实际概率，Nclass是分类结果的总数，yi表示多模态神经网络输出的结果；
在训练过程中Adam优化算法的公式如下：
Figure BDA0003466355880000112
Figure BDA0003466355880000113
Figure BDA0003466355880000114
Figure BDA0003466355880000115
mn＝β1mn-1+(1-β1)gn (23)
其中，β1和β2是两个超参数，ε是辅助常量防止更新崩溃，gn是误差函数的梯度，
Figure BDA0003466355880000116
是gn的第二动量。
网络的超参数设置如表2所示。然后根据实施方式的步骤4进行多模态神经网络的训练和验证，从而获得健康状态评估模型。
表2深度残差网络超参数设置
Figure BDA0003466355880000117
Figure BDA0003466355880000121
为了简洁，利用下式计算准确率。实际应用中还可以综合考虑softmax层的输出结果，每一组数据对应每个变压器状态标签的概率，不仅选取最大概率所对应的类型作为诊断结果，当softmax中第二大概率值与最大概率值无显著性区别时，可综合考虑这两种诊断结果。
Figure BDA0003466355880000122
其中，TP是指正类预测为正类数，FP是指负类预测为正类数，FN是正类预测为负类数。
步骤5：结合实际测试数据进行健康状态评估和神经网络的微调。输入监测得到的变压器数据集进行健康评估。最终的诊断准确率为95.4511％。
步骤5中结合实际测试数据进行健康状态评估和网络参数微调的方法为：对于实时采集的多模态数据，按照步骤2对数据进行数据清洗和数据归一化，然后按照步骤3将数据进行分割为训练集和验证集，对多模态神经网络进行训练，最后按照步骤5的验证集进行健康状态评估，若需要增加新的数据类别或相关影响因素，利用原多模态神经网络作为预训练模型，激活所有层进行训练。
本发明通过采集各变电站中的变压器的油中气体和红外图像；对采集到的监测信息进行数据清洗和数据归一化处理，得到多模态矩阵；将多模态矩阵按比例划分为训练集和验证集；构建基于一维卷积神经网络和深度残差神经网络的多模态神经网络，输入训练集和验证集进行网络训练；利用实时采集的数据经过滤波后得到可训练的数据，进行健康状态评估和网络参数的更新。本发明考虑电力变压器数据存在多源异构的问题，而且多模态的健康评估精度较差，利用一维卷积神经网络从油中气体数据中提取文本特征，深度残差神经网络从红外图像中提取图像特征，最终由稀疏注意力机制从文本特征和图像特征中获得电力变压器统一表征，并得到变压器的健康状态。该神经网络具有准确的评估性能和稳定的鲁棒性。
需要指出，根据实施的需要，可将本申请中描述的各个步骤/部件拆分为更多步骤/部件，也可将两个或多个步骤/部件或者步骤/部件的部分操作组合成新的步骤/部件，以实现本发明的目的。
本领域的技术人员容易理解，以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于多模态神经网络的电力变压器健康状态评估方法，其特征在于，包括：
(1)采集各变电站中的多模态信息，其中，多模态信息包括：各变电站油测试、油中溶解气体和呋喃含量监测信息，以及变压器的红外图像数据；
(2)对采集到的多模态信息进行数据清洗和数据归一化处理，得到多模态矩阵；
(3)将多模态矩阵按比例划分为训练集和验证集，以对网络的参数进行训练；
(4)构建基于一维卷积网络和深度残差神经网络的多模态神经网络，输入训练集和验证集进行多模态神经网络训练，学习变压器多模态数据的特征；
(5)对实时运行的多模态数据进行健康状态评估，同时对多模态神经网络的权值进行微调，使多模态神经网络持续学习新的特征。
2.根据权利要求1所述的方法，其特征在于，所述多模态信息包括：运行中变压器以及电力公司记录的数据，其中每一组数据均包括文本数据和图像数据及其对应的变压器的健康状态，文本数据包含九种关键状态的含量：BDV、水含量、酸度、氢气、甲烷、乙烷、乙烯、乙炔、呋喃含量；图像数据包含变压器运行中的红外图像。
3.根据权利要求1或2所述的方法，其特征在于，步骤(2)包括：
(2.1)对多模态信息进行小波阈值去噪，以消除多模态信息中数据存在的噪声；
(2.2)对去噪后的数据进行归一化处理，得到多模态矩阵。
4.根据权利要求3所述的方法，其特征在于，步骤(2.1)包括：
对多模态信息进行两层小波分解获得逼近系数和细节系数，对逼近系数和细节系数分别用中值滤波进行处理；
对中值滤波后的逼近系数和细节系数进行重构，得到初步处理的光谱信号，将光谱信号进行小波分解，采用软阈值函数与无偏风险估计阈值对二次小波分解获得的逼近系数和细节系数进行去噪处理；
对去噪处理后的逼近系数和细节系数进行小波逆变换，获得最终去噪后的多模态信息中的数据。
5.根据权利要求4所述的方法，其特征在于，在步骤(3)中将多模态信息中的数据划分为两部分，其中，若干比例的数据作为训练集，对多模态神经网络进行训练，剩下比例的数据作为测试集验证多模态神经网络对变压器健康状态评估效果。
6.根据权利要求5所述的方法，其特征在于，步骤(4)包括：
(4.1)构建一维卷积神经网络和深度残差神经网络的多模态神经网络，对图像数据进行特征提取，其中，深度残差神经网络由输入层、残差模块、softmax层、分类输出层组成；一维卷积神经网络由卷积层、全局平均池化层和激活函数层组成；
(4.2)利用一维卷积神经网络对文本数据进行特征提取；
(4.3)利用稀疏注意力机制对文本特征和图像特征进行重要信息提取，并输出变压器的健康状态。
7.根据权利要求6所述的方法，其特征在于，步骤(4.1)包括：
残差模块包括归一化层、全局平均池化层、激励层、阈值层和残差相加层，残差模块的组成如下：
第一层为归一化层，其运用正则化方法对数据进行归一化，在归一化层中，计算所有数据的正则化后，对数据进行变化，使网络能够学习正则化的规律；
第二层为全局平均池化层，实现对传输中的数据降维，减少网络的训练参数；
第三层是激励层，目的是捕获通道之间的依赖关系；
第四层为激活层，第五层为激励层，第六层为激活函数层，第七层为阈值层，通过
Figure FDA0003466355870000031
计算α，然后乘以第一层输出的数据，其中，z是由第六层输出的数据；
第八层为相加层，将第七层输出的数据与第一层输入的数据相加。
8.根据权利要求7所述的方法，其特征在于，步骤(4.2)包括：
一维卷积神经网络的组成如下：第一层为卷积层，第二层为全局平局池化层，第三层为卷积层，第四层为全局平均池化层，第五层为激活函数层。
9.根据权利要求8所述的方法，其特征在于，步骤(4.3)包括：
构建稀疏注意力机制对特征进行提取，注意机制将查询和一组键值映射到输出，使用KL发散度来度量查询稀疏性；
计算并归一化注意权重，注意层使用注意权值输出向量。
10.根据权利要求1所述的方法，其特征在于，步骤(5)包括：
对于实时采集的多模态数据，进行数据清洗和数据归一化，然后将清洗和归一化后的数据进行分割为训练集和验证集，对多模态神经网络进行训练，进行健康状态评估，若需要增加新的数据类别或相关影响因素，利用原多模态神经网络作为预训练模型，激活所有层进行训练。
CN202210030825.2A 2022-01-12 2022-01-12 基于多模态神经网络的电力变压器健康状态评估方法 Pending CN114462508A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210030825.2A CN114462508A (zh) 2022-01-12 2022-01-12 基于多模态神经网络的电力变压器健康状态评估方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210030825.2A CN114462508A (zh) 2022-01-12 2022-01-12 基于多模态神经网络的电力变压器健康状态评估方法

Publications (1)

Publication Number Publication Date
CN114462508A true CN114462508A (zh) 2022-05-10

Family

ID=81409594

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210030825.2A Pending CN114462508A (zh) 2022-01-12 2022-01-12 基于多模态神经网络的电力变压器健康状态评估方法

Country Status (1)

Country Link
CN (1) CN114462508A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115169234A (zh) * 2022-07-17 2022-10-11 无锡格策电气有限公司 一种基于大数据分析的电力网络可靠性评估方法
CN116797854A (zh) * 2023-08-18 2023-09-22 常州思瑞电力科技有限公司 一种基于光伏箱变监控***的异常监测学习方法
WO2024000764A1 (zh) * 2022-06-29 2024-01-04 南方电网科学研究院有限责任公司 变压器健康状态评估方法、装置、设备及可读存储介质
CN117496133A (zh) * 2024-01-03 2024-02-02 山东工商学院 基于多模态数据的封闭母线r-cnn温度故障监测方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024000764A1 (zh) * 2022-06-29 2024-01-04 南方电网科学研究院有限责任公司 变压器健康状态评估方法、装置、设备及可读存储介质
CN115169234A (zh) * 2022-07-17 2022-10-11 无锡格策电气有限公司 一种基于大数据分析的电力网络可靠性评估方法
CN115169234B (zh) * 2022-07-17 2023-09-15 无锡格策电气有限公司 一种基于大数据分析的电力网络可靠性评估方法
CN116797854A (zh) * 2023-08-18 2023-09-22 常州思瑞电力科技有限公司 一种基于光伏箱变监控***的异常监测学习方法
CN117496133A (zh) * 2024-01-03 2024-02-02 山东工商学院 基于多模态数据的封闭母线r-cnn温度故障监测方法
CN117496133B (zh) * 2024-01-03 2024-03-22 山东工商学院 基于多模态数据的封闭母线r-cnn温度故障监测方法

Similar Documents

Publication Publication Date Title
Chen et al. Deep neural networks-based rolling bearing fault diagnosis
CN114462508A (zh) 基于多模态神经网络的电力变压器健康状态评估方法
Wang et al. Fault diagnosis of a rolling bearing using wavelet packet denoising and random forests
Lu et al. Fault severity recognition of aviation piston pump based on feature extraction of EEMD paving and optimized support vector regression model
CN113435652B (zh) 一种一次设备缺陷诊断与预测方法
CN109460618A (zh) 一种滚动轴承剩余寿命在线预测方法及***
CN114186379A (zh) 基于回声网络和深度残差神经网络的变压器状态评估方法
CN112147432A (zh) 基于注意力机制的BiLSTM模块、变压器状态诊断方法和***
Guo et al. A hybrid prognosis scheme for rolling bearings based on a novel health indicator and nonlinear Wiener process
CN115563563A (zh) 基于变压器油色谱分析的故障诊断方法及装置
CN114297918A (zh) 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法
Zhao et al. A novel deep fuzzy clustering neural network model and its application in rolling bearing fault recognition
CN113342784A (zh) 一种电网主变设备风险评估的数据库设计方法
CN114548199A (zh) 一种基于深度迁移网络的多传感器数据融合方法
CN117371207A (zh) 一种特高压换流阀状态评价方法、介质及***
CN116562114A (zh) 一种基于图卷积神经网络的电力变压器故障诊断方法
CN114861349A (zh) 一种基于模型迁移和维纳过程的滚动轴承rul预测方法
Yao et al. RUL prediction method for rolling bearing using convolutional denoising autoencoder and bidirectional LSTM
Zheng et al. An unsupervised transfer learning method based on SOCNN and FBNN and its application on bearing fault diagnosis
CN116127398B (zh) 一种基于机理模型与多源数据融合的液压泵故障诊断方法
Shuai et al. Adaptive morphological feature extraction and support vector regressive classification for bearing fault diagnosis
An et al. Adaptive cross-domain feature extraction method and its application on machinery intelligent fault diagnosis under different working conditions
CN116611184A (zh) 一种齿轮箱的故障检测方法、装置及介质
WO2023065580A1 (zh) 风电机组齿轮箱的故障诊断方法及装置
CN115146739A (zh) 基于堆叠时间序列网络的电力变压器故障诊断方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20231117

Address after: Hengzhang village, Shiqi street, Haishu District, Ningbo City, Zhejiang Province

Applicant after: Ningbo Lidou Intelligent Technology Co.,Ltd.

Applicant after: WUHAN University

Address before: Hengzhang village, Shiqi street, Haishu District, Ningbo City, Zhejiang Province

Applicant before: Ningbo Lidou Intelligent Technology Co.,Ltd.