CN115078894A - 一种电力机房异常检测方法、装置、设备及可读存储介质 - Google Patents

一种电力机房异常检测方法、装置、设备及可读存储介质 Download PDF

Info

Publication number
CN115078894A
CN115078894A CN202211002791.2A CN202211002791A CN115078894A CN 115078894 A CN115078894 A CN 115078894A CN 202211002791 A CN202211002791 A CN 202211002791A CN 115078894 A CN115078894 A CN 115078894A
Authority
CN
China
Prior art keywords
data
vector matrix
stage
decoder
reconstruction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211002791.2A
Other languages
English (en)
Other versions
CN115078894B (zh
Inventor
梁妍陟
张杰明
陈显超
高宜凡
陈展尘
李波
刘洋
陈忠颖
陈益哲
陈金成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhaoqing Power Supply Bureau of Guangdong Power Grid Co Ltd
Original Assignee
Zhaoqing Power Supply Bureau of Guangdong Power Grid Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhaoqing Power Supply Bureau of Guangdong Power Grid Co Ltd filed Critical Zhaoqing Power Supply Bureau of Guangdong Power Grid Co Ltd
Priority to CN202211002791.2A priority Critical patent/CN115078894B/zh
Publication of CN115078894A publication Critical patent/CN115078894A/zh
Application granted granted Critical
Publication of CN115078894B publication Critical patent/CN115078894B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01D—MEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D21/00—Measuring or testing not otherwise provided for
    • G01D21/02—Measuring two or more variables by means not covered by a single other subclass
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

本发明涉及电力机房检测技术领域，公开了一种电力机房异常检测方法、装置、设备及可读存储介质。本发明利用目标电力机房的多维传感器时间序列数据构建第一向量矩阵和第二向量矩阵，并输入到训练好的深度学习网络模型以得到相应的重构数据，基于重构数据的异常得分确定异常数据；深度学习网络模型包括第一编码器、第二编码器、第一解码器和第二解码器。本发明在深度学习网络模型中，将Transfomer重构成类似GAN式的对抗式网络，并利用异常多头注意力机制优化了Transfomer的多头注意力层，能够有效提升电力机房异常检测的精确性和稳定性。

Description

一种电力机房异常检测方法、装置、设备及可读存储介质
技术领域
本发明涉及电力机房检测技术领域，尤其涉及一种电力机房异常检测方法、装置、设备及可读存储介质。
背景技术
电力机房中某台设备出现故障时，将会对电力装置的安全运行构成威胁，因此有必要对电力机房故障进行实时检测。根据电力机房监测数据进行电力机房故障检测的过程可以简化为从机房监测时间序列中检测异常点的过程。
然而，异常点通常很罕见，并且被大量的正常点所隐藏，这使得异常点的检测和标记较为困难且昂贵。早期的一些用于检测时间序列中的异常的方法试图建立一个完全适合给定数据的数学模型，并将异常值视为异常。这些方法通过测量每个样本之间的距离或每个点的密度来区分正常样本和异常样本。因此，为了获得良好的实验结果，需要找到一个能够完美拟合真实数据的模型，但是当情况复杂且数据受到多种因素影响时，很难使用单个模型来描述真实世界中的数据。
深度学习算法作为人工智能的重要部分，能够有效解决大部分传统方法稳定性和泛化性有限的问题。深度学习是一种表征学习，重构模型在异常检测任务中起着重要作用。Transformer是2017年出现的一种深度学习结构，其用作重构模型时，在自然语言处理和计算机视觉的许多任务中都取得了优异的性能。使用Transformer进行异常检测，相对于其他传统的时间依赖性模型会有更有效的检测效果，并且Transformer相比于LSTM（长短期记忆网络）或循环神经网络，能够更有效地关注到全局的特征。在对于时间序列重建方面，GAN（生成对抗网络）风格的深度学习网络也在这方面取得了较为不错的效果。
发明内容
本发明提供了一种电力机房异常检测方法、装置、设备及可读存储介质，解决了如何提升电力机房异常检测的精确性和稳定性的技术问题。
本发明第一方面提供一种电力机房异常检测方法，包括：
根据目标电力机房的多维传感器时间序列数据构建输入向量矩阵，利用预置长度的窗口获取所述输入向量矩阵的先前序列，根据所述先前序列构建第一向量矩阵，将所述先前序列与所述输入向量矩阵融合以得到第二向量矩阵；
将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据；所述深度学习网络模型包括第一编码器、第二编码器、第一解码器和第二解码器，所述第一编码器包括多头注意力层和前馈层，所述第二编码器包括掩膜多头注意力层和异常多头注意力层，所述异常多头注意力层用于计算先验关联与序列关联，根据所述先验关联与序列关联计算关联差异，并利用极大极小策略来放大正常数据与异常数据的关联差异；
对所述重构数据进行打分以得到异常分数，若所述异常分数超过分数阈值，判定对应机房设备出现异常。
根据本发明第一方面的一种能够实现的方式，所述第一解码器和所述第二解码器均包括前馈层和激活函数。
根据本发明第一方面的一种能够实现的方式，所述将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据，包括：
根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构；进行第一阶段的数据重构时以全零矩阵作为焦点分数；进行第二阶段的数据重构时，根据所述第一解码器在第一阶段的重建后输出和所述第二向量矩阵计算第一阶段的偏差范数，将所述偏差范数和所述第一向量矩阵合并后与位置编码相加，将得到的结果作为焦点分数；
其中，每阶段的数据重构包括：
将所述第一向量矩阵与焦点分数合并，将合并得到的结果与位置编码相加作为所述第一编码器的输入，得到所述第一编码器输出的第一数据特征；
将所述第二向量矩阵与位置编码相加输入所述第二编码器的掩膜多头注意力层，将得到的结果与对应的原先输入相加并进行标准化，得到第二数据特征；
将所述第一数据特征和所述第二数据特征输入所述第二编码器的异常多头注意力层，将得到的结果与所述第二数据特征相加并进行标准化，得到第三数据特征；
将所述第三数据特征作为所述第一解码器和所述第二解码器的输入，得到所述第一解码器和所述第二解码器的重建后输出。
根据本发明第一方面的一种能够实现的方式，所述根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构，包括：
在进行第一阶段的数据重构时，采用下列损失函数：
Figure 744391DEST_PATH_IMAGE001
式中，
Figure 860115DEST_PATH_IMAGE002
表示第一阶段对应的损失，
Figure 762212DEST_PATH_IMAGE003
为训练参数，
Figure 242872DEST_PATH_IMAGE004
为训练轮数，
Figure 863209DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 454727DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 211331DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 128471DEST_PATH_IMAGE008
为损失参数，
Figure 970525DEST_PATH_IMAGE009
为关联差异；
在进行第二阶段的数据重构时，采用下列损失函数：
Figure 428051DEST_PATH_IMAGE010
式中，
Figure 242423DEST_PATH_IMAGE011
表示第二阶段对应的损失，
Figure 127203DEST_PATH_IMAGE012
为所述第二解码器在第一阶段的重建后输出。
根据本发明第一方面的一种能够实现的方式，所述对所述重构数据进行打分以得到异常分数，包括：
按照下列打分公式对所述重构数据进行打分：
Figure 394236DEST_PATH_IMAGE014
式中，
Figure 655453DEST_PATH_IMAGE015
表示异常分数，
Figure 324332DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 380013DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 134342DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 933671DEST_PATH_IMAGE009
为关联差异，
Figure 519373DEST_PATH_IMAGE016
为归一化指数函数。
根据本发明第一方面的一种能够实现的方式，所述若所述异常分数超过分数阈值，判定对应机房设备出现异常，包括：
基于所述异常分数通过POT模型确定出所述分数阈值。
根据本发明第一方面的一种能够实现的方式，所述根据目标电力机房的多维传感器时间序列数据构建输入向量矩阵，包括：
构建输入向量矩阵时，按照下式对相应的多维传感器时间序列进行规范化处理：
Figure 949217DEST_PATH_IMAGE017
式中，
Figure 253160DEST_PATH_IMAGE018
为多维传感器时间序列
Figure 528283DEST_PATH_IMAGE019
中第
Figure 234071DEST_PATH_IMAGE020
个向量，
Figure 569237DEST_PATH_IMAGE021
为对
Figure 360476DEST_PATH_IMAGE018
进行规范化处理后得到的结果，
Figure 439290DEST_PATH_IMAGE022
为多维传感器时间序列
Figure 23022DEST_PATH_IMAGE019
中模最小的向量，
Figure 794669DEST_PATH_IMAGE023
为多维传感器时间序列
Figure 807624DEST_PATH_IMAGE019
中模最大的向量，
Figure 690130DEST_PATH_IMAGE024
是一个极小的用于防止零除的向量。
本发明第二方面提供一种电力机房异常检测装置，包括：
数据准备模块，用于根据目标电力机房的多维传感器时间序列数据构建输入向量矩阵，利用预置长度的窗口获取所述输入向量矩阵的先前序列，根据所述先前序列构建第一向量矩阵，将所述先前序列与所述输入向量矩阵融合以得到第二向量矩阵；
异常检测模块，用于将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据；所述深度学习网络模型包括第一编码器、第二编码器、第一解码器和第二解码器，所述第一编码器包括多头注意力层和前馈层，所述第二编码器包括掩膜多头注意力层和异常多头注意力层，所述异常多头注意力层用于计算先验关联与序列关联，根据所述先验关联与序列关联计算关联差异，并利用极大极小策略来放大正常数据与异常数据的关联差异；
异常判定模块，用于对所述重构数据进行打分以得到异常分数，若所述异常分数超过分数阈值，判定对应机房设备出现异常。
根据本发明第二方面的一种能够实现的方式，所述第一解码器和所述第二解码器均包括前馈层和激活函数。
根据本发明第二方面的一种能够实现的方式，所述异常检测模块包括：
数据重构单元，用于根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构；进行第一阶段的数据重构时以全零矩阵作为焦点分数；进行第二阶段的数据重构时，根据所述第一解码器在第一阶段的重建后输出和所述第二向量矩阵计算第一阶段的偏差范数，将所述偏差范数和所述第一向量矩阵合并后与位置编码相加，将得到的结果作为焦点分数；
其中，所述数据重构单元进行每阶段的数据重构时，具体用于：
将所述第一向量矩阵与焦点分数合并，将合并得到的结果与位置编码相加作为所述第一编码器的输入，得到所述第一编码器输出的第一数据特征；
将所述第二向量矩阵与位置编码相加输入所述第二编码器的掩膜多头注意力层，将得到的结果与对应的原先输入相加并进行标准化，得到第二数据特征；
将所述第一数据特征和所述第二数据特征输入所述第二编码器的异常多头注意力层，将得到的结果与所述第二数据特征相加并进行标准化，得到第三数据特征；
将所述第三数据特征作为所述第一解码器和所述第二解码器的输入，得到所述第一解码器和所述第二解码器的重建后输出。
根据本发明第二方面的一种能够实现的方式，所述数据重构单元根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构时，具体用于：
在进行第一阶段的数据重构时，采用下列损失函数：
Figure 104931DEST_PATH_IMAGE001
式中，
Figure 47479DEST_PATH_IMAGE002
表示第一阶段对应的损失，
Figure 547730DEST_PATH_IMAGE003
为训练参数，
Figure 30664DEST_PATH_IMAGE004
为训练轮数，
Figure 503234DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 679000DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 604231DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 890856DEST_PATH_IMAGE008
为损失参数，
Figure 952353DEST_PATH_IMAGE009
为关联差异；
在进行第二阶段的数据重构时，采用下列损失函数：
Figure 299020DEST_PATH_IMAGE010
式中，
Figure 711547DEST_PATH_IMAGE011
表示第二阶段对应的损失，
Figure 801863DEST_PATH_IMAGE012
为所述第二解码器在第一阶段的重建后输出。
根据本发明第二方面的一种能够实现的方式，所述异常判定模块包括：
异常打分单元，用于按照下列打分公式对所述重构数据进行打分：
Figure 45762DEST_PATH_IMAGE025
式中，
Figure 235435DEST_PATH_IMAGE015
表示异常分数，
Figure 197575DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 763686DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 127671DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 550562DEST_PATH_IMAGE009
为关联差异，
Figure 937681DEST_PATH_IMAGE016
为归一化指数函数。
根据本发明第二方面的一种能够实现的方式，所述异常判定模块还包括：
阈值设定单元，用于基于所述异常分数通过POT模型确定出所述分数阈值。
根据本发明第二方面的一种能够实现的方式，所述数据准备模块包括：
数据规范化单元，用于构建输入向量矩阵时，按照下式对相应的多维传感器时间序列进行规范化处理：
Figure 369799DEST_PATH_IMAGE017
式中，
Figure 260395DEST_PATH_IMAGE018
为多维传感器时间序列
Figure 119767DEST_PATH_IMAGE019
中第
Figure 728602DEST_PATH_IMAGE020
个向量，
Figure 964412DEST_PATH_IMAGE021
为对
Figure 975093DEST_PATH_IMAGE018
进行规范化处理后得到的结果，
Figure 5366DEST_PATH_IMAGE022
为多维传感器时间序列
Figure 101498DEST_PATH_IMAGE019
中模最小的向量，
Figure 875419DEST_PATH_IMAGE023
为多维传感器时间序列
Figure 802924DEST_PATH_IMAGE019
中模最大的向量，
Figure 941781DEST_PATH_IMAGE024
是一个极小的用于防止零除的向量。
本发明第三方面提供了一种电力机房异常检测设备，包括：
存储器，用于存储指令；其中，所述指令用于实现如上任意一项能够实现的方式所述的电力机房异常检测方法；
处理器，用于执行所述存储器中的指令。
本发明第四方面一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上任意一项能够实现的方式所述的电力机房异常检测方法。
从以上技术方案可以看出，本发明具有以下优点：
本发明利用目标电力机房的多维传感器时间序列数据构建第一向量矩阵和第二向量矩阵，并输入到训练好的深度学习网络模型以得到相应的重构数据，基于重构数据的异常得分确定异常数据；深度学习网络模型包括第一编码器、第二编码器、第一解码器和第二解码器。本发明在深度学习网络模型中，将Transfomer重构成类似GAN式的对抗式网络，利用对抗式网络在重建输入信号时的优越能力，对于异常信号进行放大，使其更容易被发现，并利用异常多头注意力机制优化了Transfomer的多头注意力层，通过计算先验关联与序列关联得出关联差异，并通过极大极小策略来放大信号在正常状态与异常状态时的关联差异，进一步提升了模型放大信号正常与异常差异的能力，有效提升了电力机房异常检测的精确性和稳定性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。
图1为本发明一个可选实施例提供的一种电力机房异常检测方法的流程图；
图2为本发明一个可选实施例提供的深度学习网络模型的结构示意图；
图3为本发明一个可选实施例提供的异常多头注意力层的数据处理逻辑示意图；
图4为本发明一个可选实施例提供的一种电力机房异常检测装置的结构连接框图。
附图标记：
1-数据准备模块；2-异常检测模块；3-异常判定模块。
具体实施方式
本发明实施例提供了一种电力机房异常检测方法、装置、设备及可读存储介质，用于解决如何提升电力机房异常检测的精确性和稳定性的技术问题。
为使得本发明的发明目的、特征、优点能够更加的明显和易懂，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅仅是本发明一部分实施例，而非全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
本发明提供了一种电力机房异常检测方法。
请参阅图1，图1示出了本发明实施例提供的一种电力机房异常检测方法的流程图。
本发明实施例提供的一种电力机房异常检测方法，包括步骤S1-S3。
步骤S1，根据目标电力机房的多维传感器时间序列数据构建输入向量矩阵，利用预置长度的窗口获取所述输入向量矩阵的先前序列，根据所述先前序列构建第一向量矩阵，将所述先前序列与所述输入向量矩阵融合以得到第二向量矩阵。
具体地，在需要检测故障的电力机房中，利用传感器读取主轴承温度、风扇转速、CPU温度、电源电压等数据，根据该数据形成多维传感器时间序列，作为输入向量矩阵。该输入向量矩阵可以表示为：
Figure 587526DEST_PATH_IMAGE026
式中，X表示输入向量矩阵，
Figure 837242DEST_PATH_IMAGE027
为序列长度，
Figure 884832DEST_PATH_IMAGE028
，其中，
Figure 194591DEST_PATH_IMAGE029
为输入向量的维度，即数据类型的数量。
本发明上述实施例，通过多维传感器时间序列数据构建输入向量矩阵。多维变量能够有效捕捉设备之间的运行状态联系和相关性，避免了单维的数据导致模型预测精度有限以及稳定性不足的问题。
构建输入向量矩阵时，可以对多维传感器时间序列进行规范化处理，以提升后续检测模型的鲁棒性。在一种能够实现的方式中，按照下式对相应的多维传感器时间序列进行规范化处理：
Figure 327632DEST_PATH_IMAGE017
式中，
Figure 381038DEST_PATH_IMAGE018
为多维传感器时间序列
Figure 283135DEST_PATH_IMAGE019
中第
Figure 763795DEST_PATH_IMAGE020
个向量，
Figure 118553DEST_PATH_IMAGE021
为对
Figure 37968DEST_PATH_IMAGE018
进行规范化处理后得到的结果，
Figure 732254DEST_PATH_IMAGE022
为多维传感器时间序列
Figure 446132DEST_PATH_IMAGE019
中模最小的向量，
Figure 491449DEST_PATH_IMAGE023
为多维传感器时间序列
Figure 948975DEST_PATH_IMAGE019
中模最大的向量，
Figure 497768DEST_PATH_IMAGE024
是一个极小的用于防止零除的向量。
构建第一向量矩阵时，具体地，创建一个长度为
Figure 648126DEST_PATH_IMAGE030
的窗口，利用该窗口获取所述输入向量矩阵的先前序列，进而与当前时间点的数据一起构建窗口向量，以用于对数据点在当前时间与之前时间点的相关性进行建模。该窗口向量表示如下：
Figure 915160DEST_PATH_IMAGE031
式中，
Figure 176377DEST_PATH_IMAGE032
为第
Figure 579676DEST_PATH_IMAGE033
个时间点的向量。
利用复制填充的方式与输入向量X进行融合，得到第二向量矩阵：
Figure 900936DEST_PATH_IMAGE034
。
其中，T<K时，利用一个长度为K-t的向量
Figure 655266DEST_PATH_IMAGE035
填充当前长度为K的窗口子向量
Figure 454594DEST_PATH_IMAGE036
。所有窗口子向量合并成为第二向量矩阵
Figure 977980DEST_PATH_IMAGE006
。利用窗口向量进行模型构建能够使序列携带之前时间的信息。并记录到当前时间t的时间序列切片并记录为向量
Figure 470141DEST_PATH_IMAGE037
。所有到当前时间的子向量合并成为第一向量矩阵，以
Figure 508504DEST_PATH_IMAGE038
表示。
步骤S2，将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据；所述深度学习网络模型包括第一编码器、第二编码器、第一解码器和第二解码器，所述第一编码器包括多头注意力层和前馈层，所述第二编码器包括掩膜多头注意力层和异常多头注意力层，所述异常多头注意力层用于计算先验关联与序列关联，根据所述先验关联与序列关联计算关联差异，并利用极大极小策略来放大正常数据与异常数据的关联差异。
本发明实施例中，深度学习网络模型基于Transfomer结构。Transfomer相比于LSTM或RNN而言具有更优的效果，使得模型可以并行化训练，而且能够拥有全局信息。
深度学习网络模型的结构示意图如图2所示。其中，所述第一解码器和所述第二解码器均包括前馈层和激活函数。
在一种能够实现的方式中，将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据，包括：
根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构；进行第一阶段的数据重构时以全零矩阵作为焦点分数；进行第二阶段的数据重构时，根据所述第一解码器在第一阶段的重建后输出和所述第二向量矩阵计算第一阶段的偏差范数，将所述偏差范数和所述第一向量矩阵合并后与位置编码相加，将得到的结果作为焦点分数；
其中，每阶段的数据重构包括：
将所述第一向量矩阵与焦点分数合并，将合并得到的结果与位置编码相加作为所述第一编码器的输入，得到所述第一编码器输出的第一数据特征；
将所述第二向量矩阵与位置编码相加输入所述第二编码器的掩膜多头注意力层，将得到的结果与对应的原先输入相加并进行标准化，得到第二数据特征；
将所述第一数据特征和所述第二数据特征输入所述第二编码器的异常多头注意力层，将得到的结果与所述第二数据特征相加并进行标准化，得到第三数据特征；
将所述第三数据特征作为所述第一解码器和所述第二解码器的输入，得到所述第一解码器和所述第二解码器的重建后输出。
本发明实施例，利用GAN的思想构建对抗式的Transformer结构，故其存在两个阶段。
具体地，请参阅图2，在第一阶段，用一个全零矩阵作为焦点分数，与步骤S1得到的第一向量矩阵C合并，并加入位置编码（PE），送入原生Transfomer多头注意力机制进行运算（即利用第一编码器的多头注意力层进行运算）。运算过程如下：
序列进入图2中的编码器一（即第一编码器）。进入Transfomer进行运算，首先经过多头注意力机制。合并后的序列会被拆分成h份并分别计算出Query(Q)矩阵，Key(K)矩阵和Value(V)矩阵，即Transformer模块中运算的三个必要参数。
将合并后的输入记为
Figure 49207DEST_PATH_IMAGE039
，计算方式如下：
Figure 754995DEST_PATH_IMAGE040
Figure 90161DEST_PATH_IMAGE041
Figure 881399DEST_PATH_IMAGE042
式中
Figure 960214DEST_PATH_IMAGE043
、
Figure 520508DEST_PATH_IMAGE044
、
Figure 26576DEST_PATH_IMAGE045
分别表示第
Figure 305111DEST_PATH_IMAGE046
个注意力头的Query，Key和Value，
Figure 187616DEST_PATH_IMAGE047
，
Figure 602417DEST_PATH_IMAGE048
与
Figure 607282DEST_PATH_IMAGE049
为对应的权重矩阵，也是需要学习的参数矩阵。
记多头注意力机制头的数量为h，则计算方式如下：
Figure 45216DEST_PATH_IMAGE050
式中，Concat(.)的作用为合并矩阵。
Attention的计算方式如下，首先计算出Attention参数矩阵：
Figure 528150DEST_PATH_IMAGE051
再利用一个激活函数
Figure 720DEST_PATH_IMAGE016
进行归一化操作并除以
Figure 910907DEST_PATH_IMAGE052
以减少重量变化，促进模型训练的稳定性：
Figure 836138DEST_PATH_IMAGE053
式中，
Figure 122763DEST_PATH_IMAGE029
为通道数；
最后乘上Value（V）矩阵得注意力分数：
Figure 449839DEST_PATH_IMAGE054
如图2的编码器一中的结构所示，将运算后的结果与原先的输入相加并进行标准化。作为一种能够实现的方式，对运算后的结果进行相加并标准化时，采用层标准化。
具体地，结果输出进入前馈层，再进行一次相加标准化的计算方式如下：
Figure 796507DEST_PATH_IMAGE055
其中，LayerNorm(.)为层标准化操作，Feedforward(.)为前馈操作。最终编码器一的输出为
Figure 209033DEST_PATH_IMAGE056
。
相同的，将第二向量矩阵W输入图2中的编码器二（即第二编码器）进行运算，记输入为
Figure 33770DEST_PATH_IMAGE057
，计算过程如下：
Figure 277669DEST_PATH_IMAGE058
式中，MultiHeadAttention(.)的计算方式上文已提及。编码器二的异常多头注意力层采用本发明改进的多头注意力机制，即异常多头注意力机制。
异常多头注意力层的数据处理逻辑如图3所示。本发明将Transfomer中的多头注意力机制从自注意力机制修改为拥有两个分支的普通注意力机制，使其更加能够放大正常状态与异常状态的差异。改进后的异常多头注意力机制会分别计算先验关联与序列关联，并利用极大极小策略来放大电力机房正常数据与异常数据的关联差异，从而更加突出普通状态与异常状态的差异。
如图3所示，异常多头注意力机制仍然会计算多头注意力，即序列关联，此时输入到该异常多头注意力层的序列为
Figure 732921DEST_PATH_IMAGE059
，即编码器一的输出与编码器二先前经过多头注意力计算的组合。此时的序列关联计算方式如下：
Figure 695061DEST_PATH_IMAGE060
式中，
Figure 261172DEST_PATH_IMAGE061
表示序列关联；
除此之外，由于电力机房设备异常的罕见性和正态模式的主导性，故异常很难与整个序列建立强关联。异常关联应集中在相邻的时间点，由于连续性，这些时间点更有可能包含类似的异常模式。这种相邻的关联偏差称为先验关联。本发明对其进行计算，并记为
Figure 359578DEST_PATH_IMAGE062
，采用可学习的高斯核
Figure 985731DEST_PATH_IMAGE063
来计算它，计算方式如下：
Figure 435167DEST_PATH_IMAGE064
式中，
Figure 539389DEST_PATH_IMAGE065
，N为参与计算的时间序列的长度，
Figure 757881DEST_PATH_IMAGE046
、
Figure 617253DEST_PATH_IMAGE066
对应不同时间点，即第
Figure 226089DEST_PATH_IMAGE046
个时间点到第
Figure 461898DEST_PATH_IMAGE066
个时间点的关联权重由高斯核
Figure 472579DEST_PATH_IMAGE067
计算。
Figure 502852DEST_PATH_IMAGE068
表示除以行和操作，用于将关联权重转变为离散分布。
计算完先验关联与序列关联后，本发明实施例采用一种极大极小策略来放大关联差异。使用停止梯度方向传播的方式约束并放大异常时的序列关联，最终利用经过异常放大后的序列关联与Value(V)矩阵相乘获得模块输出。即：
Figure 661301DEST_PATH_IMAGE069
从异常多头注意力层输出后，经过一层相加与标准化层，输出会被分别送入解码器一与解码器二，计算出输出
Figure 107326DEST_PATH_IMAGE070
，即：
Figure 300410DEST_PATH_IMAGE071
由于本网络结构存在两个阶段，故会生成第一阶段与第二阶段分别两个输出
Figure 439267DEST_PATH_IMAGE072
，第一阶段主要用来生成输入窗口的近似重建，并利用第一阶段的偏差范数
Figure 85012DEST_PATH_IMAGE073
作为第二阶段的焦点分数；第二阶段主要用来将重建的序列中异常情况放到最大。本发明实施例的方法不考虑第二阶段的
Figure 334728DEST_PATH_IMAGE074
输出。
对于改进的异常多头注意力机制，本发明实施例还会计算其关联差异：
Figure 382318DEST_PATH_IMAGE075
式中，
Figure 754394DEST_PATH_IMAGE009
表示关联差异，
Figure 825118DEST_PATH_IMAGE076
代表计算先验关联P与序列关联S的KL散度；
Figure 940841DEST_PATH_IMAGE077
，N为序列长度。
最后计算出的
Figure 780621DEST_PATH_IMAGE078
。
通过对电力机房数据的测试观察，当数据异常时，其关联差异会比正常时间点小，故可在损失函数中加入该项来放大差异。经过改进的异常注意力机制的损失函数如下：
在进行第一阶段的数据重构时，采用下列损失函数：
Figure 323598DEST_PATH_IMAGE001
式中，
Figure 616039DEST_PATH_IMAGE002
表示第一阶段对应的损失，
Figure 535454DEST_PATH_IMAGE003
为训练参数，
Figure 292057DEST_PATH_IMAGE004
为训练轮数，
Figure 943618DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 51252DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 446461DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 57571DEST_PATH_IMAGE008
为损失参数，
Figure 145613DEST_PATH_IMAGE009
为关联差异；
在进行第二阶段的数据重构时，采用下列损失函数：
Figure 474963DEST_PATH_IMAGE010
式中，
Figure 408284DEST_PATH_IMAGE011
表示第二阶段对应的损失，
Figure 162917DEST_PATH_IMAGE012
为所述第二解码器在第一阶段的重建后输出。
上述损失函数中，一阶段与二阶段的前两项不变，后面分别减去关联差异乘以损失参数
Figure 421860DEST_PATH_IMAGE008
以放大差异。
Figure 972927DEST_PATH_IMAGE079
代表编码器一和编码器二的损失，即要保持重建误差最小。
Figure 37835DEST_PATH_IMAGE080
与
Figure 561220DEST_PATH_IMAGE081
表示解码器一要保证所输出重构误差最小，解码器二用解码器一的重建误差作为焦点分数，要保证输出重构误差最大，以放大异常时时间序列的幅度。
在应用极大极小策略阶段，其损失函数为：
Figure 787802DEST_PATH_IMAGE082
具体地，在最小化阶段，利用先验关联去近似
Figure 29428DEST_PATH_IMAGE083
，若损失函数中
Figure 632447DEST_PATH_IMAGE084
，则停止关联的梯度反向传播。在最大化阶段，网络会更多关注序列非相邻区域。利用以上操作，能够使电力机房设备数据的正常状态与异常状态的差异放大。
本发明上述实施例，通过利用重构Transfomer结构为对抗式来重建从目标电力机房监测中采集到的输入时间序列，以达到放大异常状态的目的。并通过改造Transfomer中的多头注意力机制层来放大正常与异常的差异，进一步提升放大效果。
步骤S3，对所述重构数据进行打分以得到异常分数，若所述异常分数超过分数阈值，判定对应机房设备出现异常。
在一种能够实现的方式中，所述对所述重构数据进行打分以得到异常分数，包括：
按照下列打分公式对所述重构数据进行打分：
Figure 10339DEST_PATH_IMAGE085
式中，
Figure 673401DEST_PATH_IMAGE015
表示异常分数，
Figure 136744DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 543454DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 41432DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 609816DEST_PATH_IMAGE009
为关联差异，
Figure 888351DEST_PATH_IMAGE016
为归一化指数函数。
在一种能够实现的方式中，所述若所述异常分数超过分数阈值，判定对应机房设备出现异常，包括：
基于所述异常分数通过POT模型确定出所述分数阈值。
本发明实施例中，使用POT算法动态设定阈值，这是一种使用“极值理论”将数据分布与广义帕累托分布拟合的统计方法，能够自动动态地选择阈值。其判定电力设备异常方法如下：
Figure 770856DEST_PATH_IMAGE086
式中，
Figure 185657DEST_PATH_IMAGE087
表示将打分序列中超过阈值的时间点打上标记，
Figure 862626DEST_PATH_IMAGE088
表示或，表示一旦输出序列中有异常，***就会报警通知电力机房管理员对设备进行查验。
本发明还提供了一种电力机房异常检测装置。
请参阅图4，图4示出了本发明实施例提供的一种电力机房异常检测装置的结构连接框图。
本发明实施例提供的一种电力机房异常检测装置，包括：
数据准备模块1，用于根据目标电力机房的多维传感器时间序列数据构建输入向量矩阵，利用预置长度的窗口获取所述输入向量矩阵的先前序列，根据所述先前序列构建第一向量矩阵，将所述先前序列与所述输入向量矩阵融合以得到第二向量矩阵；
异常检测模块2，用于将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据；所述深度学习网络模型包括第一编码器、第二编码器、第一解码器和第二解码器，所述第一编码器包括多头注意力层和前馈层，所述第二编码器包括掩膜多头注意力层和异常多头注意力层，所述异常多头注意力层用于计算先验关联与序列关联，根据所述先验关联与序列关联计算关联差异，并利用极大极小策略来放大正常数据与异常数据的关联差异；
异常判定模块3，用于对所述重构数据进行打分以得到异常分数，若所述异常分数超过分数阈值，判定对应机房设备出现异常。
在一种能够实现的方式中，所述第一解码器和所述第二解码器均包括前馈层和激活函数。
在一种能够实现的方式中，所述异常检测模块2包括：
数据重构单元，用于根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构；进行第一阶段的数据重构时以全零矩阵作为焦点分数；进行第二阶段的数据重构时，根据所述第一解码器在第一阶段的重建后输出和所述第二向量矩阵计算第一阶段的偏差范数，将所述偏差范数和所述第一向量矩阵合并后与位置编码相加，将得到的结果作为焦点分数；
其中，所述数据重构单元进行每阶段的数据重构时，具体用于：
将所述第一向量矩阵与焦点分数合并，将合并得到的结果与位置编码相加作为所述第一编码器的输入，得到所述第一编码器输出的第一数据特征；
将所述第二向量矩阵与位置编码相加输入所述第二编码器的掩膜多头注意力层，将得到的结果与对应的原先输入相加并进行标准化，得到第二数据特征；
将所述第一数据特征和所述第二数据特征输入所述第二编码器的异常多头注意力层，将得到的结果与所述第二数据特征相加并进行标准化，得到第三数据特征；
将所述第三数据特征作为所述第一解码器和所述第二解码器的输入，得到所述第一解码器和所述第二解码器的重建后输出。
在一种能够实现的方式中，所述数据重构单元根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构时，具体用于：
在进行第一阶段的数据重构时，采用下列损失函数：
Figure 362878DEST_PATH_IMAGE001
式中，
Figure 49074DEST_PATH_IMAGE002
表示第一阶段对应的损失，
Figure 318381DEST_PATH_IMAGE003
为训练参数，
Figure 494148DEST_PATH_IMAGE004
为训练轮数，
Figure 419378DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 706003DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 33079DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 379747DEST_PATH_IMAGE008
为损失参数，
Figure 526695DEST_PATH_IMAGE009
为关联差异；
在进行第二阶段的数据重构时，采用下列损失函数：
Figure 617010DEST_PATH_IMAGE010
式中，
Figure 860910DEST_PATH_IMAGE011
表示第二阶段对应的损失，
Figure 316162DEST_PATH_IMAGE012
为所述第二解码器在第一阶段的重建后输出。
在一种能够实现的方式中，所述异常判定模块3包括：
异常打分单元，用于按照下列打分公式对所述重构数据进行打分：
Figure 278302DEST_PATH_IMAGE089
式中，
Figure 844412DEST_PATH_IMAGE015
表示异常分数，
Figure 942818DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 568972DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 752828DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 184947DEST_PATH_IMAGE009
为关联差异，
Figure 341122DEST_PATH_IMAGE016
为归一化指数函数。
在一种能够实现的方式中，所述异常判定模块3还包括：
阈值设定单元，用于基于所述异常分数通过POT模型确定出所述分数阈值。
在一种能够实现的方式中，所述数据准备模块1包括：
数据规范化单元，用于构建输入向量矩阵时，按照下式对相应的多维传感器时间序列进行规范化处理：
Figure 200493DEST_PATH_IMAGE017
式中，
Figure 809329DEST_PATH_IMAGE018
为多维传感器时间序列
Figure 779559DEST_PATH_IMAGE019
中第
Figure 790240DEST_PATH_IMAGE020
个向量，
Figure 820513DEST_PATH_IMAGE021
为对
Figure 978962DEST_PATH_IMAGE018
进行规范化处理后得到的结果，
Figure 690566DEST_PATH_IMAGE022
为多维传感器时间序列
Figure 883650DEST_PATH_IMAGE019
中模最小的向量，
Figure 22508DEST_PATH_IMAGE023
为多维传感器时间序列
Figure 402673DEST_PATH_IMAGE019
中模最大的向量，
Figure 980285DEST_PATH_IMAGE024
是一个极小的用于防止零除的向量。
本发明还提供了一种电力机房异常检测设备，包括：
存储器，用于存储指令；其中，所述指令用于实现如上任意一项实施例所述的电力机房异常检测方法；
处理器，用于执行所述存储器中的指令。
本发明还提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上任意一项实施例所述的电力机房异常检测方法。
本发明上述实施例，将深度学习运用到电力机房设备故障的智能监测上来，运用无监督的深度学习方法，大大节约了人工成本。对于电力机房设备故障信号难以分辨的问题，本发明改进了深度学习架构与网络计算方式，通过放大异常点的方式提高了发明判断异常的能力。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置、设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程，上述描述的装置、设备和模块的具体有益效果，可以参考前述方法实施例中的对应有益效果，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置、设备和方法，可以通过其它的方式实现。例如，以上所描述的设备实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个装置，或一些特征可以忽略，或不执行。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。
所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（ROM，Read-OnlyMemory）、随机存取存储器（RAM，Random Access Memory）、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种电力机房异常检测方法，其特征在于，包括：
根据目标电力机房的多维传感器时间序列数据构建输入向量矩阵，利用预置长度的窗口获取所述输入向量矩阵的先前序列，根据所述先前序列构建第一向量矩阵，将所述先前序列与所述输入向量矩阵融合以得到第二向量矩阵；
将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据；所述深度学习网络模型包括第一编码器、第二编码器、第一解码器和第二解码器，所述第一编码器包括多头注意力层和前馈层，所述第二编码器包括掩膜多头注意力层和异常多头注意力层，所述异常多头注意力层用于计算先验关联与序列关联，根据所述先验关联与序列关联计算关联差异，并利用极大极小策略来放大正常数据与异常数据的关联差异；
对所述重构数据进行打分以得到异常分数，若所述异常分数超过分数阈值，判定对应机房设备出现异常。
2.根据权利要求1所述的电力机房异常检测方法，其特征在于，所述第一解码器和所述第二解码器均包括前馈层和激活函数。
3.根据权利要求1所述的电力机房异常检测方法，其特征在于，所述将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据，包括：
根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构；进行第一阶段的数据重构时以全零矩阵作为焦点分数；进行第二阶段的数据重构时，根据所述第一解码器在第一阶段的重建后输出和所述第二向量矩阵计算第一阶段的偏差范数，将所述偏差范数和所述第一向量矩阵合并后与位置编码相加，将得到的结果作为焦点分数；
其中，每阶段的数据重构包括：
将所述第一向量矩阵与焦点分数合并，将合并得到的结果与位置编码相加作为所述第一编码器的输入，得到所述第一编码器输出的第一数据特征；
将所述第二向量矩阵与位置编码相加输入所述第二编码器的掩膜多头注意力层，将得到的结果与对应的原先输入相加并进行标准化，得到第二数据特征；
将所述第一数据特征和所述第二数据特征输入所述第二编码器的异常多头注意力层，将得到的结果与所述第二数据特征相加并进行标准化，得到第三数据特征；
将所述第三数据特征作为所述第一解码器和所述第二解码器的输入，得到所述第一解码器和所述第二解码器的重建后输出。
4.根据权利要求3所述的电力机房异常检测方法，其特征在于，所述根据所述第一向量矩阵和所述第二向量矩阵进行两阶段的数据重构，包括：
在进行第一阶段的数据重构时，采用下列损失函数：
Figure 583082DEST_PATH_IMAGE001
式中，
Figure 869707DEST_PATH_IMAGE002
表示第一阶段对应的损失，
Figure 993521DEST_PATH_IMAGE003
为训练参数，
Figure 340189DEST_PATH_IMAGE004
为训练轮数，
Figure 815032DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 905348DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 149248DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 338920DEST_PATH_IMAGE008
为损失参数，
Figure 324498DEST_PATH_IMAGE009
为关联差异；
在进行第二阶段的数据重构时，采用下列损失函数：
Figure 952925DEST_PATH_IMAGE010
式中，
Figure 316910DEST_PATH_IMAGE011
表示第二阶段对应的损失，
Figure 677485DEST_PATH_IMAGE012
为所述第二解码器在第一阶段的重建后输出。
5.根据权利要求3所述的电力机房异常检测方法，其特征在于，所述对所述重构数据进行打分以得到异常分数，包括：
按照下列打分公式对所述重构数据进行打分：
Figure 126921DEST_PATH_IMAGE014
式中，
Figure 559039DEST_PATH_IMAGE015
表示异常分数，
Figure 449634DEST_PATH_IMAGE005
为所述第一解码器在第一阶段的重建后输出，
Figure 309006DEST_PATH_IMAGE006
为所述第二向量矩阵，
Figure 980159DEST_PATH_IMAGE007
为所述第二解码器在第二阶段的重建后输出，
Figure 153651DEST_PATH_IMAGE009
为关联差异，
Figure 226649DEST_PATH_IMAGE016
为归一化指数函数。
6.根据权利要求5所述的电力机房异常检测方法，其特征在于，所述若所述异常分数超过分数阈值，判定对应机房设备出现异常，包括：
基于所述异常分数通过POT模型确定出所述分数阈值。
7.根据权利要求1所述的电力机房异常检测方法，其特征在于，所述根据目标电力机房的多维传感器时间序列数据构建输入向量矩阵，包括：
构建输入向量矩阵时，按照下式对相应的多维传感器时间序列进行规范化处理：
Figure 256922DEST_PATH_IMAGE017
式中，
Figure 415371DEST_PATH_IMAGE018
为多维传感器时间序列
Figure 126975DEST_PATH_IMAGE019
中第
Figure 54480DEST_PATH_IMAGE020
个向量，
Figure 255654DEST_PATH_IMAGE021
为对
Figure 839082DEST_PATH_IMAGE018
进行规范化处理后得到的结果，
Figure 151115DEST_PATH_IMAGE022
为多维传感器时间序列
Figure 198705DEST_PATH_IMAGE019
中模最小的向量，
Figure 570781DEST_PATH_IMAGE023
为多维传感器时间序列
Figure 641505DEST_PATH_IMAGE019
中模最大的向量，
Figure 757229DEST_PATH_IMAGE024
是一个极小的用于防止零除的向量。
8.一种电力机房异常检测装置，其特征在于，包括：
数据准备模块，用于根据目标电力机房的多维传感器时间序列数据构建输入向量矩阵，利用预置长度的窗口获取所述输入向量矩阵的先前序列，根据所述先前序列构建第一向量矩阵，将所述先前序列与所述输入向量矩阵融合以得到第二向量矩阵；
异常检测模块，用于将所述第一向量矩阵和所述第二向量矩阵输入到训练好的深度学习网络模型以得到相应的重构数据；所述深度学习网络模型包括第一编码器、第二编码器、第一解码器和第二解码器，所述第一编码器包括多头注意力层和前馈层，所述第二编码器包括掩膜多头注意力层和异常多头注意力层，所述异常多头注意力层用于计算先验关联与序列关联，根据所述先验关联与序列关联计算关联差异，并利用极大极小策略来放大正常数据与异常数据的关联差异；
异常判定模块，用于对所述重构数据进行打分以得到异常分数，若所述异常分数超过分数阈值，判定对应机房设备出现异常。
9.一种电力机房异常检测设备，其特征在于，包括：
存储器，用于存储指令；其中，所述指令用于实现如权利要求1-7任意一项所述的电力机房异常检测方法；
处理器，用于执行所述存储器中的指令。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1-7任意一项所述的电力机房异常检测方法。
CN202211002791.2A 2022-08-22 2022-08-22 一种电力机房异常检测方法、装置、设备及可读存储介质 Active CN115078894B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211002791.2A CN115078894B (zh) 2022-08-22 2022-08-22 一种电力机房异常检测方法、装置、设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211002791.2A CN115078894B (zh) 2022-08-22 2022-08-22 一种电力机房异常检测方法、装置、设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN115078894A true CN115078894A (zh) 2022-09-20
CN115078894B CN115078894B (zh) 2023-01-06

Family

ID=83244428

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211002791.2A Active CN115078894B (zh) 2022-08-22 2022-08-22 一种电力机房异常检测方法、装置、设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN115078894B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116662811A (zh) * 2023-06-13 2023-08-29 无锡物联网创新中心有限公司 一种工业设备的时序状态数据重构方法及相关装置
CN117407697A (zh) * 2023-12-14 2024-01-16 南昌科晨电力试验研究有限公司 基于自动编码器和注意力机制的图异常检测方法及***
CN118094454A (zh) * 2024-04-29 2024-05-28 国网山东省电力公司嘉祥县供电公司 一种配电网负荷数据异常检测方法及***

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112418149A (zh) * 2020-12-04 2021-02-26 清华大学深圳国际研究生院 一种基于深卷积神经网络的异常行为检测方法
CN112488235A (zh) * 2020-12-11 2021-03-12 江苏省特种设备安全监督检验研究院 一种基于深度学习的电梯时序数据的异常诊断方法
CN113516228A (zh) * 2021-07-08 2021-10-19 哈尔滨理工大学 一种基于深度神经网络的网络异常检测方法
CN113901845A (zh) * 2021-09-15 2022-01-07 昆明理工大学 基于双向依存自注意力机制的低资源神经机器翻译方法
WO2022064350A1 (en) * 2020-09-22 2022-03-31 Victoria Link Limited Electricity distribution network fault detection system and method
CN114386521A (zh) * 2022-01-14 2022-04-22 湖南师范大学 时间序列数据的异常检测方法、***、设备和存储介质
US20220187819A1 (en) * 2020-12-10 2022-06-16 Hitachi, Ltd. Method for event-based failure prediction and remaining useful life estimation
CN114881331A (zh) * 2022-05-09 2022-08-09 西安交通大学 一种面向在线教育的学习者异常学习状态预测方法
CN114913396A (zh) * 2022-07-15 2022-08-16 西北工业大学 一种电机轴承故障诊断方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022064350A1 (en) * 2020-09-22 2022-03-31 Victoria Link Limited Electricity distribution network fault detection system and method
CN112418149A (zh) * 2020-12-04 2021-02-26 清华大学深圳国际研究生院 一种基于深卷积神经网络的异常行为检测方法
US20220187819A1 (en) * 2020-12-10 2022-06-16 Hitachi, Ltd. Method for event-based failure prediction and remaining useful life estimation
CN112488235A (zh) * 2020-12-11 2021-03-12 江苏省特种设备安全监督检验研究院 一种基于深度学习的电梯时序数据的异常诊断方法
CN113516228A (zh) * 2021-07-08 2021-10-19 哈尔滨理工大学 一种基于深度神经网络的网络异常检测方法
CN113901845A (zh) * 2021-09-15 2022-01-07 昆明理工大学 基于双向依存自注意力机制的低资源神经机器翻译方法
CN114386521A (zh) * 2022-01-14 2022-04-22 湖南师范大学 时间序列数据的异常检测方法、***、设备和存储介质
CN114881331A (zh) * 2022-05-09 2022-08-09 西安交通大学 一种面向在线教育的学习者异常学习状态预测方法
CN114913396A (zh) * 2022-07-15 2022-08-16 西北工业大学 一种电机轴承故障诊断方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
汪涛等: "基于 Transformer 的多轨音乐生成对抗网络", 《计算机应用》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116662811A (zh) * 2023-06-13 2023-08-29 无锡物联网创新中心有限公司 一种工业设备的时序状态数据重构方法及相关装置
CN116662811B (zh) * 2023-06-13 2024-02-06 无锡物联网创新中心有限公司 一种工业设备的时序状态数据重构方法及相关装置
CN117407697A (zh) * 2023-12-14 2024-01-16 南昌科晨电力试验研究有限公司 基于自动编码器和注意力机制的图异常检测方法及***
CN117407697B (zh) * 2023-12-14 2024-04-02 南昌科晨电力试验研究有限公司 基于自动编码器和注意力机制的图异常检测方法及***
CN118094454A (zh) * 2024-04-29 2024-05-28 国网山东省电力公司嘉祥县供电公司 一种配电网负荷数据异常检测方法及***
CN118094454B (zh) * 2024-04-29 2024-07-05 国网山东省电力公司嘉祥县供电公司 一种配电网负荷数据异常检测方法及***

Also Published As

Publication number Publication date
CN115078894B (zh) 2023-01-06

Similar Documents

Publication Publication Date Title
CN115078894B (zh) 一种电力机房异常检测方法、装置、设备及可读存储介质
Zhang et al. LSTM-based analysis of industrial IoT equipment
Cai et al. Data-driven early fault diagnostic methodology of permanent magnet synchronous motor
Feng et al. Similarity-based meta-learning network with adversarial domain adaptation for cross-domain fault identification
Deng et al. Modified kernel principal component analysis using double-weighted local outlier factor and its application to nonlinear process monitoring
EP3422517A1 (en) A method for recognizing contingencies in a power supply network
Zhang et al. A novel data-driven method based on sample reliability assessment and improved CNN for machinery fault diagnosis with non-ideal data
Bilski Application of support vector machines to the induction motor parameters identification
Wang et al. Decision tree based control chart pattern recognition
Sedigh Ziyabari et al. Robust fault estimation of a blade pitch and drivetrain system in wind turbine model
Li et al. Fault diagnosis using pattern classification based on one-dimensional adaptive rank-order morphological filter
Sun et al. Lightweight bidirectional long short-term memory based on automated model pruning with application to bearing remaining useful life prediction
Horváth et al. Sequential monitoring of changes in dynamic linear models, applied to the US housing market
Man et al. Bearing remaining useful life prediction based on AdCNN and CWGAN under few samples
Duan et al. High-speed bearing health monitoring method based on attention mechanism optimized siamese deep residual network
Baek An intelligent condition‐based maintenance scheduling model
CN117349697A (zh) 业务流程异常检测方法、计算机设备以及可读存储介质
Dwiputranto et al. Machinery equipment early fault detection using Artificial Neural Network based Autoencoder
Zhang et al. Generalized maximum correntropy-based echo state network for robust nonlinear system identification
CN110941542A (zh) 基于弹性网络的序列集成高维数据异常检测***及方法
Ghate et al. Induction machine fault detection using support vector machine based classifier
Li et al. CDX-NET: cross-domain multi-feature fusion modeling via deep neural networks for multivariate time series forecasting in AIOps
Kruglov et al. Neural network modeling of vector multivariable functions in ill-posed approximation problems
Gonzalez-Abreu et al. Deep learning based condition monitoring approach applied to power quality
Yokkampon et al. Anomaly detection using variational autoencoder with spectrum analysis for time series data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant