CN114417991A - 基于时空注意力网络的缺失结构健康监测数据恢复方法 - Google Patents

基于时空注意力网络的缺失结构健康监测数据恢复方法 Download PDF

Info

Publication number
CN114417991A
CN114417991A CN202210038619.6A CN202210038619A CN114417991A CN 114417991 A CN114417991 A CN 114417991A CN 202210038619 A CN202210038619 A CN 202210038619A CN 114417991 A CN114417991 A CN 114417991A
Authority
CN
China
Prior art keywords
attention
time
missing
data
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210038619.6A
Other languages
English (en)
Inventor
李顺龙
牛津
李忠龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Institute of Technology
Original Assignee
Harbin Institute of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology filed Critical Harbin Institute of Technology
Priority to CN202210038619.6A priority Critical patent/CN114417991A/zh
Publication of CN114417991A publication Critical patent/CN114417991A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction
    • G06F2218/10—Feature extraction by analysing the shape of a waveform, e.g. extracting parameters relating to peaks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)

Abstract

本发明公开了一种基于时空注意力网络的缺失结构健康监测数据恢复方法，所述方法包括如下步骤：步骤1、标记部分时段信号缺失的异常传感器，创建数据重构的训练样本；步骤2、利用时空注意力机制，构建基于时空注意力网络的缺失数据恢复模型；步骤3、训练基于时空注意力网络的缺失数据恢复模型并验证基于时空注意力网络的缺失数据恢复模型对监测数据的重构精度；步骤4、用已训练的模型恢复缺失数据。该方法利用与缺失测点数据相关的同类和非同类传感器数据，通过时空注意力网络挖掘多源数据的时空关联，实现对缺失数据的重构。本发明充分挖掘了大量传感器之间隐含的时空关联，融合了多源异构数据，提高了数据利用效率，解决了数据缺失问题。

Description

基于时空注意力网络的缺失结构健康监测数据恢复方法
技术领域
本发明涉及一种基于时空注意力网络的缺失结构健康监测数据恢复方法。
背景技术
传感器是构成结构健康监测***的基础，连续实时地记录了结构响应信息及环境条件，为结构服役性能的评估提供依据。但在长期的使用过程中，受信号传输错误、供电中断、传感器故障等影响，部分传感器出现暂时或永久的数据丢失现象几乎是不可避免的；一些故障传感器的异常数据本身缺乏有价值的信息，也可视作缺失数据。很多缺失的数据对于结构状态评估是不可或缺的，而一些基于传感器数据关联性的异常检测和状态评估方法依赖于数据完整性，数据的丢失破坏了这些关联挖掘的有效性。因此，对于更换代价较大、尤其是不可替换的传感器，需要通过数据恢复技术进行缺失数据重构。为提高数据重构精度，数据恢复常涉及大量传感器参与计算，可能会遇到过拟合等问题；此外，与缺失数据相关的非同类监测项目可能有助于提高回归的准确性，但需要充分考虑非同类数据之间的差异性。因此，有必要寻找适当的建模方法挖掘大量传感器之间的时空关联，同时采取合理手段融合多源数据，提高缺失数据恢复精度。
发明内容
针对结构健康监测***普遍存在的传感器数据缺失问题，本发明提供了一种基于时空注意力网络的缺失结构健康监测数据恢复方法。该方法利用与缺失测点数据相关的同类和非同类传感器数据，通过时空注意力网络挖掘多源数据的时空关联，实现对缺失数据的重构。本发明充分挖掘了大量传感器之间隐含的时空关联，融合了多源异构数据，提高了数据利用效率，解决了数据缺失问题。
本发明的目的是通过以下技术方案实现的：
一种基于时空注意力网络的缺失结构健康监测数据恢复方法，包括如下步骤：
步骤1、标记部分时段信号缺失的异常传感器，创建数据重构的训练样本；
步骤2、利用时空注意力机制，构建基于时空注意力网络的缺失数据恢复模型；
步骤3、训练基于时空注意力网络的缺失数据恢复模型并验证基于时空注意力网络的缺失数据恢复模型对监测数据的重构精度；
步骤4、用已训练的基于时空注意力网络的缺失数据恢复模型恢复缺失数据。
相比于现有技术，本发明具有如下优点：
本发明利用时空注意力机制对监测数据时空关联进行建模，同时通过在空间注意力系数的计算中引入非同类监测数据实现多源数据的充分利用，与传统方法相比提高了缺失数据的恢复精度，利用注意力机制的自适应建模省去传感器相关性分析等步骤，克服了大量传感器参与计算时容易出现的过拟合问题。本发明能够充分利用监测***的冗余信息，挖掘多源数据之间的时空关联，提高缺失数据恢复的准确性。
附图说明
图1为基于时空注意力网络的缺失结构健康监测数据恢复方法的流程示意图；
图2为步骤2的时空注意力网络结构示意图；
图3为步骤2的时空注意力网络中图卷积层、空间注意力层和时间注意力层的顶点特征聚合方向示意图；
图4为实施例中的缺失传感器信号恢复结果示意图；
图5为实施例中的不同数据恢复方法精度对比的示意图。
具体实施方式
下面结合附图对本发明的技术方案作进一步的说明，但并不局限于此，凡是对本发明技术方案进行修改或者等同替换，而不脱离本发明技术方案的精神和范围，均应涵盖在本发明的保护范围中。
本发明提供了一种基于时空注意力网络的缺失结构健康监测数据恢复方法，所述方法针对结构健康监测***普遍存在的传感器数据缺失问题，利用与缺失测点数据相关的同类和非同类传感器数据，通过时空注意力网络挖掘多源数据的时空关联，实现对缺失数据的重构。在时空注意力网络中，首先通过图卷积层将正常的同类传感器信号映射到数据缺失测点，再通过时空注意力机制分别对传感器的时间关联和空间关联建模，可在空间关联建模过程中选择将非同类数据引入空间注意力系数的计算以融合多源数据，最后用全连接层组合时空特征获取重构信号。具体包括如下步骤：
步骤1、标记部分时段信号缺失的异常传感器，创建数据重构的训练样本，具体步骤如下：
标记部分时段信号缺失的异常传感器，寻找与这些异常传感器同类和非同类且相关的正常传感器，利用正常相关传感器包括t时刻在内先前一段时间的监测数据序列，重构异常传感器在t时刻的缺失信号。数据缺失的异常传感器数目记为Na,其同类传感器数目记为N,正常同类传感器数目记为Nn＝N-Na，非同类相关传感器数目为M。
t时刻的训练样本为
Figure BDA0003469165270000041
其中，
Figure BDA0003469165270000042
维度为Nn×L，L表示时间序列数据点数目，Δt为数据点时间间隔，
Figure BDA0003469165270000043
表示t时刻正常同类传感器数据，维度为Nn；
Ht＝[ht-(L-1)·Δt,...,ht-Δt,ht]维度为M×L，ht表示t时刻正常非同类传感器数据，维度为M；
Figure BDA0003469165270000044
表示t时刻数据缺失的异常传感器数据，维度为Na。
步骤2、利用时空注意力机制，构建基于时空注意力网络的缺失数据恢复模型。
本步骤中，所述时空注意力网络由图卷积层、时空注意力单元和全连接层组成，其中：时空注意力单元由1个空间注意力层和1～3个时间注意力层组成。在图卷积层和空间注意力层中，每个顶点对应一个传感器，而在时间注意力层中，每个顶点对应一个时间点。
1)图卷积层
图卷积层采用可学习邻接矩阵的图卷积网络。如图3所示，传感器表示为连通图上的顶点，其中存在数据缺失问题的异常传感器表示为图的汇点。在各个时间点，图卷积层计算公式为：
X′＝AXW (1)
式中，X表示图卷积层输入，维度为N×F；X′表示图卷积层输出，维度为N×F′；W表示待训练的权重，维度为F×F′；A表示可学习的邻接矩阵，维度为N×N，利用激活函数SoftMax归一化，Aij∈A表示源顶点sj指向目标顶点si的边权重。在第一个图卷积层中，输入特征数F＝1，输入维度为Nn×1，待训练的权重维度为1×F′，邻接矩阵A的维度为Nn×N。
2)空间注意力层
在每个时间点，传感器表示为连通图上的顶点。空间注意力层利用多头(multi-head)注意力机制对传感器信号的空间相关性建模，共K个注意力head。
如果仅考虑同类监测数据，第k个注意力head的注意力系数计算公式为：
Figure BDA0003469165270000051
式中，
Figure BDA0003469165270000052
表示源顶点sj对目标顶点si的注意力系数(未归一化)；
Figure BDA0003469165270000053
表示待训练的权重，维度为F′/K；xi和xj分别表示目标顶点si和源顶点sj的输入特征，维度均为F；
Figure BDA0003469165270000054
和
Figure BDA0003469165270000055
分别表示目标顶点特征和源顶点特征的线性映射，维度均为F′/K，F′为K的整数倍；σ(·)表示激活函数Tanh。
如果同时考虑同类和非同类监测数据，第k个注意力head的注意力系数计算公式为：
Figure BDA0003469165270000061
式中，
Figure BDA0003469165270000062
和
Figure BDA0003469165270000063
表示待训练的权重，维度分别为(F′/K)×M和F′/K；h表示非同类传感器监测数据特征，维度为M。通过在空间注意力系数的计算中引入非同类传感器监测数据，实现多源数据融合。各注意力head中，权重
Figure BDA0003469165270000064
和
Figure BDA0003469165270000065
的初始化是不同的，进一步提高多头机制中不同注意力head之间的区分度。
利用激活函数SoftMax对
Figure BDA0003469165270000066
归一化，计算归一化注意力系数
Figure BDA0003469165270000067
多头注意力连接K个平行的注意力head，计算公式表示为：
Figure BDA0003469165270000068
式中，x′i表示顶点sj的输出特征，维度为F′，
Figure BDA0003469165270000069
表示源顶点特征的线性映射，维度为F′/K；σ(·)表示激活函数ELU。
3)时间注意力层
时间注意力层利用多头注意力机制对传感器信号的时间相关性建模。如图3所示，对于每个传感器，时间点表示为连通图上的顶点，数个时间点的特征聚合到最后一个时间点上。共K个注意力head，其中第k个注意力head的注意力系数计算公式为：
Figure BDA00034691652700000610
式中，
Figure BDA00034691652700000611
表示源顶点tj对目标顶点ti的注意力系数(未归一化)；yi和yj分别表示目标顶点ti和源顶点tj的输入特征，维度均为F；
Figure BDA0003469165270000071
和
Figure BDA0003469165270000072
分别表示目标顶点特征和源顶点特征的线性映射，维度均为F′/K，F′为K的整数倍。
利用激活函数SoftMax对
Figure BDA0003469165270000073
归一化，计算归一化注意力系数
Figure BDA0003469165270000074
多头注意力连接K个平行的注意力head，计算公式表示为：
Figure BDA0003469165270000075
式中，y′i表示顶点tj的输出特征，维度为F′，
Figure BDA0003469165270000076
表示源顶点特征的线性映射，维度为F′/K；σ(·)表示激活函数ELU。
4)全连接层
全连接层为最后的隐含层，取存在信号缺失的Na个异常传感器在最后一个时间步的特征，通过聚合其所有特征重构缺失值。
进一步地，所述时空注意力网络结构采用1个图卷积层、3个时空注意力单元和1个全连接层，每个时空注意力单元中采用1个空间注意力层和1个时间注意力层。在传感器数量大、必要考虑的时间序列长的应用场景下，可调整增加具体网络中的图卷积层数、时空注意力单元数及时间注意力层数。
本步骤中，所述目标函数选用均方误差MSE。
步骤3、训练基于时空注意力网络的缺失数据恢复模型并验证基于时空注意力网络的缺失数据恢复模型对监测数据的重构精度。
本步骤中，以传感器处于正常状态时的监测数据用于基于时空注意力网络的缺失数据恢复模型的训练与测试，基于时空注意力网络的缺失数据恢复模型训练过程采用交叉验证方法。
步骤4、用已训练的基于时空注意力网络的缺失数据恢复模型恢复缺失数据。
实施例：
本实施例提供了一种基于时空注意力网络的缺失结构健康监测数据恢复方法，如图1所示，所述方法包括如下步骤：
步骤1、标记部分时段信号缺失的异常传感器，创建数据重构的训练样本。
本步骤中，某斜拉桥2006年至2007年初索力传感器的监测数据处于正常状态，但2007年11月之后，索力传感器A4、A20、A39存在幅值异常或信号缓漂问题，如图4监测信号，这些异常信号缺少有价值信息，故可视作缺失值。本实施例以这些故障索力传感器和正常传感器A42的索力趋势作为恢复目标；其中，A42用于检验恢复模型的长期表现。由于索力的趋势反映了其在静载荷和外部环境变化的影响下的变化，尤其与温度密切相关。因此，除了可用的同类索力监测数据，环境温度和结构温度也可以作为索力趋势恢复中的相关异类数据。标记部分时段信号缺失的异常索力传感器(A4、A20、A39，A42(用于验证))，寻找其他索力传感器(A1～3，A5～19，A21～38，A40，A41)和相关的温度传感器(B1～5)，利用正常相关传感器包括t时刻在内先前一段时间的监测数据序列，重构异常传感器在t时刻的缺失信号。数据缺失的异常传感器数目Na＝4,其同类传感器数目N＝42,正常同类传感器数目Nn＝N-Na＝38，非同类相关传感器数目M＝5。
t时刻的训练样本为
Figure BDA0003469165270000091
其中，
Figure BDA0003469165270000092
维度为Nn×L，时间序列数据点数目L＝7，数据点时间间隔Δt为10分钟，
Figure BDA0003469165270000093
表示t时刻正常同类传感器数据，维度为Nn；
Ht＝[ht-(L-1)·Δt,...,ht-Δt,ht]维度为M×L，ht表示t时刻正常非同类传感器数据，维度为M；
Figure BDA0003469165270000094
表示t时刻数据缺失的异常传感器数据，维度为Na。
步骤2、利用时空注意力机制，构建基于时空注意力网络的缺失数据恢复模型。
本步骤中，如图2所示，时空注意力网络由图卷积层、3个时空注意力单元和1个全连接层组成，每个时空注意力单元由1个空间注意力层和1个时间注意力层组成。时空注意力网络结构及各层参数分别为：
L1-1层，输入维度为38×7×1，对每个时间步的输入38×1执行图卷积层操作，输出特征数量为16，激活函数为ELU，输出维度为42×7×16。
L2-1层，上接L1-1层，输入维度为42×7×16，对每个时间步的输入42×16执行空间注意力层操作，注意力head为8，每个注意力head输出特征为4，激活函数为ELU，输出维度为42×7×32。
L2-2层，上接L2-1层，输入维度为42×7×32，对每个传感器的输入7×32执行时间注意力层操作，注意力head为8，每个注意力head输出特征为4，输出维度为42×7×32。
L2-3层，上接L1-1层，输入维度为42×7×16，执行张量线性变换操作，输出维度为42×7×32。
L2-4层，上接L2-2层和L2-3层，输入维度均为42×7×32，执行张量叠加操作，激活函数为ELU，输出维度为42×7×32。
L3-1层，上接L2-4层，输入维度为42×7×32，对每个时间步的输入42×32执行空间注意力层操作，注意力head为8，每个注意力head输出特征为4，激活函数为ELU，输出维度为42×7×32。
L3-2层，上接L3-1层，输入维度为42×7×32，对每个传感器的输入7×32执行时间注意力层操作，注意力head为8，每个注意力head输出特征为4，输出维度为42×7×32。
L3-3层，上接L2-4层，输入维度为42×7×32，执行张量线性变换操作，输出维度为42×7×32。
L3-4层，上接L3-2层和L3-3层，输入维度均为42×7×32，执行张量叠加操作，激活函数为ELU，输出维度为42×7×32。
L4-1层，上接L3-4层，输入维度为42×7×32，对每个时间步的输入42×32执行空间注意力层操作，注意力head为8，每个注意力head输出特征为4，激活函数为ELU，输出维度为42×7×32。
L4-2层，上接L4-1层，输入维度为42×7×32，对每个传感器的输入7×32执行时间注意力层操作，注意力head为8，每个注意力head输出特征为4，输出维度为42×7×32。
L4-3层，上接L3-4层，输入维度为42×7×32，执行张量线性变换操作，输出维度为42×7×32。
L4-4层，上接L4-3层和L4-3层，输入维度均为42×7×32，执行张量叠加操作，激活函数为ELU，输出维度为42×7×32。
L5-1层，上接4-4层，输入维度为42×7×32，取存在信号缺失的4个异常传感器在最后一个时间步的特征，维度为4×32，执行全连接层操作，输出特征为1，输出维度为4。
步骤3、训练基于时空注意力网络的缺失数据恢复模型并验证基于时空注意力网络的缺失数据恢复模型对监测数据的重构精度。
本步骤中，以2007年2月之前的监测数据为参考数据，其中，以2007年1月19日之前的数据为训练数据，在训练集中，采用K折交叉验证；以2007年1月20日至2007年2月28日的数据为测试集，验证模型性能，图4的测试数据的重构信号相对于监测信号拟合良好。
步骤4、用已训练的基于时空注意力网络的缺失数据恢复模型恢复缺失数据。
本步骤中，用训练好的模型恢复传感器A4、A20、A39和A42在2007年11月之后的缺失信号。根据图4可以发现，各传感器的恢复结果在测试集上表现良好；而A42传感器作为正常传感器，其重构信号与实测信号相比长期保持良好的拟合精度。
为验证时空注意力机制对提高恢复精度的有效性，以全连接网络作为基准模型，并在此基础上逐步引入时空注意力机制和异类监测数据，对比了如下几种方法的数据恢复精度：
1)方法1：基准模型，以全连接形式建立时空关联。
2)方法2：利用注意力机制建立时空关联。为了验证不同注意力机制计算公式的表现，在空间注意力层中比较了在常用的三种注意力机制，包括dotproduct(方法2-1)、concatenation(方法2-2)和addition(方法2-3)。这些方法的公式记为：
Figure BDA0003469165270000121
式中，eij是注意力系数(未归一化)；f1(xi)和f2(xj)表示xi和xj的线性映射；a和v分别表示不同公式中可学习的权重向量，维度分别为2F′和F′。
3)方法3：相比方法2，将异类监测数据引入空间注意力系数的计算，即采用公式(3)。
利用上述方法对标准化的索力进行恢复，重构结果的均方根误差RMSE和绝对平均误差MAE如图5所示。结果表明，时空注意力机制的利用和异类监测数据在空间注意力机制中的引入能够有效提高缺失数据的重构精度。

Claims (8)

1.一种基于时空注意力网络的缺失结构健康监测数据恢复方法，其特征在于所述方法包括如下步骤：
步骤1、标记部分时段信号缺失的异常传感器，创建数据重构的训练样本；
步骤2、利用时空注意力机制，构建基于时空注意力网络的缺失数据恢复模型；
步骤3、训练基于时空注意力网络的缺失数据恢复模型并验证基于时空注意力网络的缺失数据恢复模型对监测数据的重构精度；
步骤4、用已训练的基于时空注意力网络的缺失数据恢复模型恢复缺失数据。
2.根据权利要求1所述的基于时空注意力网络的缺失结构健康监测数据恢复方法，其特征在于所述步骤1的具体步骤如下：
标记部分时段信号缺失的异常传感器，寻找与这些异常传感器同类和非同类且相关的正常传感器，利用正常相关传感器包括t时刻在内先前一段时间的监测数据序列，重构异常传感器在t时刻的缺失信号，数据缺失的异常传感器数目记为Na，其同类传感器数目记为N，正常同类传感器数目记为Nn＝N-Na，非同类相关传感器数目为M；
t时刻的训练样本为
Figure FDA0003469165260000011
其中，
Figure FDA0003469165260000012
维度为Nn×L，L表示时间序列数据点数目，Δt为数据点时间间隔，
Figure FDA0003469165260000013
表示t时刻正常同类传感器数据，维度为Nn；Ht＝[ht-(L-1)·Δt,...,ht-Δt,ht]维度为M×L，ht表示t时刻正常非同类传感器数据，维度为M；
Figure FDA0003469165260000021
表示t时刻数据缺失的异常传感器数据，维度为Na。
3.根据权利要求1所述的基于时空注意力网络的缺失结构健康监测数据恢复方法，其特征在于所述步骤2中，时空注意力网络由图卷积层、时空注意力单元和全连接层组成，其中：时空注意力单元由1个空间注意力层和1～3个时间注意力层组成；在图卷积层和空间注意力层中，每个顶点对应一个传感器，在时间注意力层中，每个顶点对应一个时间点。
4.根据权利要求3所述的基于时空注意力网络的缺失结构健康监测数据恢复方法，其特征在于所述图卷积层采用可学习邻接矩阵的图卷积网络，在各个时间点，图卷积层计算公式为：
X′＝AXW；
式中，X表示图卷积层输入，维度为N×F；X′表示图卷积层输出，维度为N×F′；W表示待训练的权重，维度为F×F′；A表示可学习的邻接矩阵，维度为N×N，利用激活函数SoftMax归一化，Aij∈A表示源顶点sj指向目标顶点si的边权重。
5.根据权利要求3所述的基于时空注意力网络的缺失结构健康监测数据恢复方法，其特征在于所述空间注意力层利用多头注意力机制对传感器信号的空间相关性建模，共K个注意力head，其中：
如果仅考虑同类监测数据，第k个注意力head的注意力系数计算公式为：
Figure FDA0003469165260000022
式中，
Figure FDA0003469165260000031
表示源顶点sj对目标顶点si的注意力系数；
Figure FDA0003469165260000032
表示待训练的权重，维度为F′/K；xi和xj分别表示目标顶点si和源顶点sj的输入特征，维度均为F；
Figure FDA0003469165260000033
和
Figure FDA0003469165260000034
分别表示目标顶点特征和源顶点特征的线性映射，维度均为F′/K，F′为K的整数倍；σ(·)表示激活函数Tanh；
如果同时考虑同类和非同类监测数据，第k个注意力head的注意力系数计算公式为：
Figure FDA0003469165260000035
式中，
Figure FDA0003469165260000036
和
Figure FDA0003469165260000037
表示待训练的权重，维度分别为(F′/K)×M和F′/K；h表示非同类传感器监测数据特征，维度为M；
利用激活函数SoftMax对
Figure FDA0003469165260000038
归一化，计算归一化注意力系数
Figure FDA0003469165260000039
多头注意力连接K个平行的注意力head，计算公式表示为：
Figure FDA00034691652600000310
式中，x′i表示顶点sj的输出特征，维度为F′，
Figure FDA00034691652600000311
表示源顶点特征的线性映射，维度为F′/K；σ(·)表示激活函数ELU。
6.根据权利要求3所述的基于时空注意力网络的缺失结构健康监测数据恢复方法，其特征在于所述时间注意力层利用多头注意力机制对传感器信号的时间相关性建模，共K个注意力head，其中第k个注意力head的注意力系数计算公式为：
Figure FDA00034691652600000312
式中，
Figure FDA0003469165260000041
表示源顶点tj对目标顶点ti的注意力系数；yi和yj分别表示目标顶点ti和源顶点tj的输入特征，维度均为F；
Figure FDA0003469165260000042
和
Figure FDA0003469165260000043
分别表示目标顶点特征和源顶点特征的线性映射，维度均为F′/K，F′为K的整数倍；
利用激活函数SoftMax对
Figure FDA0003469165260000044
归一化，计算归一化注意力系数
Figure FDA0003469165260000045
多头注意力连接K个平行的注意力head，计算公式表示为：
Figure FDA0003469165260000046
式中，y′i表示顶点tj的输出特征，维度为F′，
Figure FDA0003469165260000047
表示源顶点特征的线性映射，维度为F′/K；σ(·)表示激活函数ELU。
7.根据权利要求1所述的基于时空注意力网络的缺失结构健康监测数据恢复方法，其特征在于所述全连接层为最后的隐含层，取存在信号缺失的Na个异常传感器在最后一个时间步的特征，通过聚合其所有特征重构缺失值。
8.根据权利要求1所述的基于时空注意力网络的缺失结构健康监测数据恢复方法，其特征在于所述步骤3中，以传感器处于正常状态时的监测数据用于基于时空注意力网络的缺失数据恢复模型的训练与测试，基于时空注意力网络的缺失数据恢复模型训练过程采用交叉验证方法。
CN202210038619.6A 2022-01-13 2022-01-13 基于时空注意力网络的缺失结构健康监测数据恢复方法 Pending CN114417991A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210038619.6A CN114417991A (zh) 2022-01-13 2022-01-13 基于时空注意力网络的缺失结构健康监测数据恢复方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210038619.6A CN114417991A (zh) 2022-01-13 2022-01-13 基于时空注意力网络的缺失结构健康监测数据恢复方法

Publications (1)

Publication Number Publication Date
CN114417991A true CN114417991A (zh) 2022-04-29

Family

ID=81273785

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210038619.6A Pending CN114417991A (zh) 2022-01-13 2022-01-13 基于时空注意力网络的缺失结构健康监测数据恢复方法

Country Status (1)

Country Link
CN (1) CN114417991A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117272704A (zh) * 2023-11-23 2023-12-22 湖南华自卓创智能技术有限责任公司 一种面向多源异构数据的数字孪生驱动的数据处理***
CN117349770A (zh) * 2023-09-19 2024-01-05 武汉理工大学 一种结构健康监测多应变传感器数据异常检测与修复方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111737909A (zh) * 2020-06-10 2020-10-02 哈尔滨工业大学 基于时空图卷积网络的结构健康监测数据异常识别方法
CN112508173A (zh) * 2020-12-02 2021-03-16 中南大学 交通时空序列多步预测方法、***及存储介质

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111737909A (zh) * 2020-06-10 2020-10-02 哈尔滨工业大学 基于时空图卷积网络的结构健康监测数据异常识别方法
CN112508173A (zh) * 2020-12-02 2021-03-16 中南大学 交通时空序列多步预测方法、***及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JIN NIU 等: "Restoration of missing structural health monitoring data using patiotemporal graph attention networks", 《STRUCTUAL HEALTH MONITORING》, 6 December 2021 (2021-12-06), pages 2408 - 2419 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117349770A (zh) * 2023-09-19 2024-01-05 武汉理工大学 一种结构健康监测多应变传感器数据异常检测与修复方法
CN117349770B (zh) * 2023-09-19 2024-05-14 武汉理工大学 一种结构健康监测多应变传感器数据异常检测与修复方法
CN117272704A (zh) * 2023-11-23 2023-12-22 湖南华自卓创智能技术有限责任公司 一种面向多源异构数据的数字孪生驱动的数据处理***
CN117272704B (zh) * 2023-11-23 2024-01-26 湖南华自卓创智能技术有限责任公司 一种面向多源异构数据的数字孪生驱动的数据处理***

Similar Documents

Publication Publication Date Title
CN114417991A (zh) 基于时空注意力网络的缺失结构健康监测数据恢复方法
CN110119854B (zh) 基于代价敏感lstm循环神经网络的稳压器水位预测方法
CN111737909B (zh) 基于时空图卷积网络的结构健康监测数据异常识别方法
Chen et al. Recovering the missing components in a large noisy low-rank matrix: Application to SFM
CN110781266B (zh) 一种基于时空因果关系的城市感知数据处理方法
CN105574669B (zh) 时空联合数据聚类分析的输变电设备状态异常检测方法
CN110213244A (zh) 一种基于时空特征融合的网络入侵检测方法
CN109213753B (zh) 一种基于在线pca的工业***监测数据恢复方法
CN112257263B (zh) 基于自注意力机制的设备剩余寿命预测***
CN108415810B (zh) 一种硬盘状态监控方法和装置
CN115017826B (zh) 一种装备剩余使用寿命预测方法
CN110837888A (zh) 一种基于双向循环神经网络的交通缺失数据补全方法
CN112948743B (zh) 一种基于时空融合的煤矿瓦斯浓度缺失值填充方法
CN115935147A (zh) 低秩和稀疏张量表示的交通数据恢复和异常值检测方法
CN113988210A (zh) 结构监测传感网失真数据修复方法、装置及存储介质
CN109919335A (zh) 基于深度学习的磁盘故障预测***
CN114818817A (zh) 一种电容式电压互感器微弱故障识别***及方法
CN108415819B (zh) 一种硬盘故障追踪方法和装置
CN116894180B (zh) 一种基于异构图注意力网络的产品制造质量预测方法
KR101955091B1 (ko) 이상 신호 복원 시스템 및 방법
CN112418529A (zh) 基于lstm神经网络的户外广告在线倒塌预测方法
KR20180125277A (ko) 이상 신호 복원 시스템 및 방법
CN111723857A (zh) 一种流程生产装备运行状态的智能监测方法与***
CN115953902A (zh) 一种基于多视图时空图卷积网络的交通流预测方法
CN115691144A (zh) 一种异常交通状态监测方法、装置、设备及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination