CN117688496A - 面向卫星遥测多维时序数据的异常诊断方法、***及设备 - Google Patents
面向卫星遥测多维时序数据的异常诊断方法、***及设备 Download PDFInfo
- Publication number
- CN117688496A CN117688496A CN202410100736.XA CN202410100736A CN117688496A CN 117688496 A CN117688496 A CN 117688496A CN 202410100736 A CN202410100736 A CN 202410100736A CN 117688496 A CN117688496 A CN 117688496A
- Authority
- CN
- China
- Prior art keywords
- satellite
- time sequence
- graph
- causal
- anomaly
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 153
- 238000003745 diagnosis Methods 0.000 title claims abstract description 79
- 230000005856 abnormality Effects 0.000 title claims abstract description 53
- 230000001364 causal effect Effects 0.000 claims abstract description 119
- 238000012546 transfer Methods 0.000 claims abstract description 86
- 238000001514 detection method Methods 0.000 claims abstract description 72
- 230000002159 abnormal effect Effects 0.000 claims abstract description 53
- 239000000203 mixture Substances 0.000 claims abstract description 29
- 238000013528 artificial neural network Methods 0.000 claims abstract description 26
- 238000010276 construction Methods 0.000 claims description 32
- 230000006870 function Effects 0.000 claims description 29
- 239000013598 vector Substances 0.000 claims description 28
- 125000004122 cyclic group Chemical group 0.000 claims description 21
- 230000004913 activation Effects 0.000 claims description 19
- 230000007246 mechanism Effects 0.000 claims description 13
- 230000008569 process Effects 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 10
- 238000010606 normalization Methods 0.000 claims description 6
- 238000012549 training Methods 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims description 4
- 239000011159 matrix material Substances 0.000 description 6
- 230000007547 defect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 239000000047 product Substances 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000002513 implantation Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000011524 similarity measure Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了面向卫星遥测多维时序数据的异常诊断方法、***及设备,涉及卫星遥测多维时序数据异常诊断领域,该方法包括:将待检测的卫星遥测多维时序数据输入至异常检测和诊断模型中,输出各个时刻的预测误差;异常检测和诊断模型是基于改进的传递熵方法、因果‑自动学习的图神经网络构图方法以及图注意力网络构建的;当预测误差超出误差范围时,确定待检测的卫星遥测多维时序数据存在异常,并根据预测误差确定异常变量;根据改进的传递熵方法构建异常变量的因果关系;根据因果关系确定异常变量因果图;根据异常变量因果图确定异常的卫星遥测多维时序数据的异常原因。本发明能够准确诊断出卫星遥测多维时序数据的异常原因。
Description
技术领域
本发明涉及卫星遥测多维时序数据异常诊断领域,特别是涉及一种面向卫星遥测多维时序数据的异常诊断方法、***及设备。
背景技术
卫星是一个由机械、推进、热控等部件构成的复杂***,这些部件之间存在相互关联和协同作用。然而,由于卫星长期处于外层空间,经常运行在恶劣的环境下,如高温、严寒和振动等条件,其性能会出现下降,部分功能可能失效,最终导致整个卫星故障停机。因此,实时监测和定位异常对于在轨卫星的日常维护和延长寿命具有重要意义。在卫星运行过程中,安装在卫星各个部件上的多个传感器会采集卫星各部件的在轨运行数据,然后将其传输到地面的监测中心并存储为时间序列数据,即卫星遥测多维时序数据。这些卫星遥测多维时序数据记录了***各个部分的温度、电压、电流等关键信息,通过分析这些信息,可以得到卫星各个部件之间的交互流程以及各自的状态信息,是检测卫星***运行状态的重要依据。
然而,在卫星运行过程中,关键指标的变化不仅依赖于历史信息,还取决于相关变量之间复杂的相互作用。过去的异常检测方法主要依赖于传统的机器学习。这些方法只能以简单的方式捕捉不同时间序列之间的线性关系。但在卫星***中,不同卫星遥测多维时序数据之间通常存在着复杂的非线性关系,这导致了传统机器学习方法在异常检测性能上的局限。近年来,随着各种深度学习模型的提出,凭借其在高维和复杂数据集上的卓越性能,各种深度学习方法已经被广泛的应用于异常检测这一领域,并且已经取得了出色的结果。
卫星遥测多维时序数据中不同时间序列存在着错综复杂的潜在相关性,并呈现出强烈的非线性关系。然而,当前的异常检测算法模型大多未能充分利用甚至是忽略这些潜在的相关性关系,这将严重的影响异常检测和诊断模型的性能。
除此之外,现有的针对卫星的异常检测工作往往只局限于单一的异常检测任务,即只能检测出卫星在何时产生了异常,而忽略了导致异常的根本原因即异常诊断的任务,后者同样对于确保卫星的安全运行具有重要的意义。
发明内容
本发明的目的是提供一种面向卫星遥测多维时序数据的异常诊断方法、***及设备,能够准确诊断出卫星遥测多维时序数据的异常原因。
为实现上述目的,本发明提供了如下方案:
一种面向卫星遥测多维时序数据的异常诊断方法,包括:
将待检测的卫星遥测多维时序数据输入至异常检测和诊断模型中,输出各个时刻的预测误差;所述异常检测和诊断模型是基于改进的传递熵方法、因果-自动学习的图神经网络构图方法以及图注意力网络构建的;
当所述预测误差超出误差范围时,确定所述待检测的卫星遥测多维时序数据存在异常,并根据所述预测误差确定异常变量;
根据改进的传递熵方法构建所述异常变量的因果关系;
根据所述因果关系确定异常变量因果图;
根据所述异常变量因果图确定异常的卫星遥测多维时序数据的异常原因。
可选的,所述异常检测和诊断模型的构建过程,具体包括:
采用傅里叶变换分析历史卫星遥测多维时序数据的周期信息,并利用传递熵参数确定法、因果显著性水平检测法以及因果图构建方法,构建改进的传递熵方法;
根据所述改进的传递熵方法分析所述历史卫星遥测多维时序数据之间的因果关系,并结合基于相似度的自动学习的构图方法构建图神经网络中的图结构;
采用动态注意力机制以及多个激活函数改进所述图结构的图注意力网络;
将所述历史卫星遥测多维时序数据输入至改进的图注意力网络中,确定下一时刻卫星各个时序特征的预测结果;
根据所述预测结果以及所述历史卫星遥测多维时序数据之间的误差确定预测误差,完成所述异常检测和诊断模型的构建。
可选的,根据所述预测结果以及所述历史卫星遥测多维时序数据之间的误差确定预测误差,完成所述异常检测和诊断模型的构建,之后还包括:
根据所述预测误差构建损失函数;
基于所述损失函数,利用历史卫星遥测多维时序数据对所述异常检测和诊断模型进行训练,确定训练好的异常检测和诊断模型。
可选的,利用传递熵参数确定法、因果显著性水平检测法以及因果图构建方法,构建改进的传递熵方法,具体包括:
利用传递熵参数确定方法确定不同部件提供的历史卫星遥测多维时序数据之间的传递熵值;
利用因果显著性水平检测法消除因噪音导致的历史卫星遥测多维时序数据之间的虚假的因果关系,更新所述传递熵值;
利用因果图构建方法,根据更新后的传递熵值构建初始因果图;
计算所述初始因果图中所有联通边的直接传递熵,消除历史卫星遥测多维时序数据之间的间接的虚假的因果关系,完成改进的传递熵方法的构建过程。
可选的,根据所述改进的传递熵方法分析所述历史卫星遥测多维时序数据之间的因果关系,并结合基于相似度的自动学习的构图方法构建图神经网络中的图结构,具体包括:
对同一卫星子***中的时序特征进行统一循环嵌入,利用所述改进后的传递熵方法提取卫星子***内部各个时序特征之间的因果关系,构建卫星子***的因果图;
将所述卫星子***的因果图中得到的因果关系作为先验知识,利用自动学习的构图方法进行学习,计算所述卫星子***的因果图中任一时序特征节点的循环嵌入向量以及所有潜在邻居节点的循环嵌入向量之间的余弦相似度,构建图神经网络中的图结构。
可选的,采用动态注意力机制以及多个激活函数改进所述图结构的图注意力网络,具体包括:
联结循环嵌入向量和时序特征节点的时序特征向量作为图神经网络的输入,确定非线性信息;
基于所述动态注意力机制,利用第一激活函数,根据所述非线性信息确定卫星子***各个时序特征之间的非线性关系;
利用第二激活函数,根据所述非线性关系,计算注意力系数;
利用第三激活函数对所述注意力系数进行归一化处理;
根据归一化处理后的注意力系数改进所述图结构的图注意力网络。
可选的,根据所述预测误差确定异常变量,具体包括:
将所述预测误差作为异常分数,并将所有异常分数的平均值作为异常分数阈值;
将超过所述异常分数阈值的异常分数对应的卫星遥测多维时序数据确定为异常变量。
一种面向卫星遥测多维时序数据的异常诊断***,包括:
预测误差输出模块,用于将待检测的卫星遥测多维时序数据输入至异常检测和诊断模型中,输出各个时刻的预测误差;所述异常检测和诊断模型是基于改进的传递熵方法、因果-自动学习的图神经网络构图方法以及图注意力网络构建的;
异常变量确定模块,用于当所述预测误差超出误差范围时,确定所述待检测的卫星遥测多维时序数据存在异常,并根据所述预测误差确定异常变量;
因果关系构建模块,用于根据改进的传递熵方法构建所述异常变量的因果关系;
因果图确定模块,用于根据所述因果关系确定异常变量因果图;
异常原因确定模块,用于根据所述异常变量因果图确定异常的卫星遥测多维时序数据的异常原因。
一种电子设备,包括存储器及处理器,所述存储器用于存储计算机程序,所述处理器运行所述计算机程序以使所述电子设备执行如上述面向卫星遥测多维时序数据的异常诊断方法。
可选的,所述存储器为非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述面向卫星遥测多维时序数据的异常诊断方法。
根据本发明提供的具体实施例,本发明公开了以下技术效果:本发明通过基于改进的传递熵方法、因果-自动学习的图神经网络构图方法以及图注意力网络构建的异常检测和诊断模型确定各个时刻的预测误差,确定异常变量,构建异常变量的因果关系,确定因果图,最终确定确定出异常的卫星遥测多维时序数据的异常原因。其中,利用改进的传递熵方法能够提取不同卫星遥测多维时序数据之间的因果关系,更准确的定位出导致卫星遥测多维时序数据异常的异常原因,且因果-自动学习的图神经网络构图方法能够提取不同卫星遥测多维时序数据之间的相似关系,通过两种关系的融合,最终捕获出卫星各部件之间复杂的潜在依赖和相互作用,使得所构建的异常检测和诊断模型能够更好的理解卫星遥测多维时序数据中的异常变量;此外,利用图注意力网络改进卫星遥测多维时序数据的时序特征节点信息线性转换的缺点,从而提高了异常检测和诊断模型的准确性,从而能够准确诊断出卫星遥测多维时序数据的异常原因。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明所提供的面向卫星遥测多维时序数据的异常诊断方法流程图;
图2为本发明所提供的另一种面向卫星遥测多维时序数据的异常诊断方法流程图;
图3为本发明所提供的改进的传递熵方法流程图;
图4为本发明所提供的因果自动学习构图方式示意图;
图5为本发明所提供的异常变量识别方法示意图;
图6为本发明所提供的异常变量因果图;
图7为本发明所提供的异常检测和诊断方法模型的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种面向卫星遥测多维时序数据的异常诊断方法、***及设备,能够准确诊断出卫星遥测多维时序数据的异常原因。
为使本发明的上述目的、时序特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
实施例一
如图1所示,本发明提供了一种面向卫星遥测多维时序数据的异常诊断方法,包括:
步骤101:将待检测的卫星遥测多维时序数据输入至异常检测和诊断模型中,输出各个时刻的预测误差;所述异常检测和诊断模型是基于改进的传递熵方法、因果-自动学习的图神经网络构图方法以及图注意力网络构建的。
在实际应用中,所述异常检测和诊断模型的构建过程,具体包括:采用傅里叶变换分析历史卫星遥测多维时序数据的周期信息,并利用传递熵参数确定法、因果显著性水平检测法以及因果图构建方法,构建改进的传递熵方法;根据所述改进的传递熵方法分析所述历史卫星遥测多维时序数据之间的因果关系,并结合基于相似度的自动学习的构图方法构建图神经网络中的图结构;采用动态注意力机制以及多个激活函数改进所述图结构的图注意力网络;将所述历史卫星遥测多维时序数据输入至改进的图注意力网络中,确定下一时刻卫星各个时序特征的预测结果;根据所述预测结果以及所述历史卫星遥测多维时序数据之间的误差确定预测误差,完成所述异常检测和诊断模型的构建;对于卫星多维遥测时序数据来说,每一维时序数据对应一个时序特征。
在实际应用中,根据所述预测结果以及所述历史卫星遥测多维时序数据之间的误差确定预测误差,完成所述异常检测和诊断模型的构建,之后还包括:根据所述预测误差构建损失函数;基于所述损失函数,利用历史卫星遥测多维时序数据对所述异常检测和诊断模型进行训练,确定训练好的异常检测和诊断模型。
在实际应用中,利用传递熵参数确定法、因果显著性水平检测法以及因果图构建方法,构建改进的传递熵方法,具体包括:利用传递熵参数确定方法确定不同部件提供的历史卫星遥测多维时序数据之间的传递熵值;利用因果显著性水平检测法消除因噪音导致的历史卫星遥测多维时序数据之间的虚假的因果关系,更新所述传递熵值;利用因果图构建方法,根据更新后的传递熵值构建初始因果图;计算所述初始因果图中所有联通边的直接传递熵,消除历史卫星遥测多维时序数据之间的间接的虚假的因果关系,完成改进的传递熵方法的构建过程。
作为本发明可选的一种实施方式,所述改进的传递熵方法具体包括:用网格搜索确定传递熵参数,当传递熵的值达到最大的时候,网格搜索参数作为最终确定的参数,此外用于计算传递熵的时序数据总长度则由时序数据的周期来确定;因果显著性水平检测是一个假设性检验问题,打乱原始时间序列,构造空分布的传递熵值,当传递熵值在该分布中的可能性低于阈值的时候,传递熵值是统计显著的;在计算得到所有时间序列之间的传递熵值后,结合直接传递熵,可以完成因果图的构建。
在实际应用中,根据所述改进的传递熵方法分析所述历史卫星遥测多维时序数据之间的因果关系,并结合基于相似度的自动学习的构图方法构建图神经网络中的图结构,具体包括:对同一卫星子***中的时序特征进行统一循环嵌入,利用所述改进后的传递熵方法提取卫星子***内部各个时序特征之间的因果关系,构建卫星子***的因果图;将所述卫星子***的因果图中得到的因果关系作为先验知识,利用自动学习的构图方法进行学习,计算所述卫星子***的因果图中任一时序特征节点的循环嵌入向量以及所有潜在邻居节点的循环嵌入向量之间的余弦相似度,构建图神经网络中的图结构。
作为本发明可选的一种实施方式,因果-自动学习的图神经网络构图方法结合了基于规则和基于学习的两种构图方式,具体的,在卫星子***内部,使用所述改进的传递熵方法提取卫星子***内部时序特征之间的因果关系,在卫星子***之间则使用结构学习的方式,提取分属不同卫星子***的时序特征之间的相似性关系。
在实际应用中,采用动态注意力机制以及多个激活函数改进所述图结构的图注意力网络,具体包括:联结循环嵌入向量和时序特征节点的时序特征向量作为图神经网络的输入,确定非线性信息;基于所述动态注意力机制,利用第一激活函数,根据所述非线性信息确定卫星子***各个时序特征之间的非线性关系;利用第二激活函数,根据所述非线性关系,计算注意力系数;利用第三激活函数对所述注意力系数进行归一化处理;根据归一化处理后的注意力系数改进所述图结构的图注意力网络。
作为本发明可选的一种实施方式,在图注意力网络中,通过改进计算注意力系数的方法,实现动态注意力。
利用基于动态注意力的图注意力网络对卫星遥测多维时序数据进行预测,通过与真实的卫星遥测多维时序数据进行对比,获得预测误差,以预测误差为样本,采用验证集中确定的异常阈值为threshold完成异常检测的任务。
利用异常检测任务中获取的预测误差作为异常分数判定异常变量,此后结合改进的传递熵方法构建异常变量因果图,确定导致异常的根本原因,完成异常诊断的任务。
步骤102:当所述预测误差超出误差范围时,确定所述待检测的卫星遥测多维时序数据存在异常,并根据所述预测误差确定异常变量。
在实际应用中,根据所述预测误差确定异常变量,具体包括:将所述预测误差作为异常分数,并将所有异常分数的平均值作为异常分数阈值;将超过所述异常分数阈值的异常分数对应的卫星遥测多维时序数据确定为异常变量。
步骤103:根据改进的传递熵方法构建所述异常变量的因果关系。
步骤104:根据所述因果关系确定异常变量因果图。
步骤105:根据所述异常变量因果图确定异常的卫星遥测多维时序数据的异常原因。
作为本发明可选的一种实施方式,采用加权移动平均法对所述的预测误差进行平滑处理,得到平滑误差;当所述平滑误差超过给定的阈值的时候,判定为所述待检测的卫星遥测多维时序数据存在异常,并记录异常时间点;随后根据预测误差确定异常变量,并应用改进的传递熵方法进行根因分析,完成异常诊断的任务。
本发明针对卫星遥测多维时序数据进行异常检测和异常诊断,利用改进的传递熵和自动学习的方式提取不同序列之间的因果性和相似性两种潜在的相关关系,使用改进的图注意力网络实现了动态注意力机制,克服了原始图注意力网络无法实现节点信息线性转换的缺点,提高了模型预测的准确度。最后,基于预测值与真实值的预测误差判断数据是否异常,进而达到异常检测的目的,在检测到异常之后,综合利用预测误差和改进的传递熵方法,实现异常根本原因的定位,进而达到异常诊断的目的。
实施例二
图2为本发明所提供的另一种面向卫星遥测多维时序数据的异常诊断方法流程图,本发明的目的是针对卫星遥测多维时序数据进行异常检测和异常诊断。首先针对卫星各个部件产生的卫星遥测多维时序数据进行预处理的工作,保存预处理之后的卫星遥测多维时序数据(以下部分简称时间序列数据)。随后,本发明构建改进的传递熵方法来识别各个时间序列数据之间的因果关系,从而构建时间序列因果图。利用得到的因果关系结合基于相似度的自动学习的构图方法,完成图神经网络中图结构的构建。在得到图结构之后,本发明构建了基于改进图注意力网络的异常检测和诊断模型,并利用预处理后的时间序列数据进行异常检测和诊断模型的训练,完成异常检测的任务。最后,利用异常检测部分得到的异常分数,和构建的因果图推断出导致异常的根本原因,完成异常诊断的任务。更为详细的实施步骤如下所示。
步骤一:数据预处理。
在卫星遥测多维时序数据采集的过程中,由于技术手段和环境因素往往数据会存在部分缺失,同时由于不同部位采集的数据类型不同,例如温控传感器采集的是卫星运行时的部件温度,单位为摄氏度,而电池翼上的传感器则采集的是卫星的偏转角度,单位为度,这就造成了各个维度数值范围差别较大,不能直接用于模型训练。因此针对采集缺失的数据,本发明使用最近邻节点算法(KNN)对缺失的卫星遥测多维时序数据进行补充。通过计算距离来识别数据集中相似的k个样本,随后使用这k个样本来估算缺失部分的数据,每个样本缺失值使用卫星遥测多维时序数据集中找到的k个邻域的平均值进行填补。
在完成缺失值处理后,本发明利用线性归一化对原始卫星遥测多维时序数据进行等比例缩放,具体公式如下所示,为归一化后的卫星遥测多维时序数据,/>为原始卫星遥测多维时序数据,/>、/>分别为数据集中的最大值和最小值。
。
通过线性归一化的预处理方法,可以保证所有的卫星遥测多维时序数据都在同一个范围,方便模型的训练。
步骤二:改进的传递熵方法。
针对卫星遥测多维时序数据,改进了传统传递熵的参数确定方式。本发明提出的改进的传递熵可以消除卫星各个时序特征之间虚假的间接因果关系,准确地识别出不同卫星的时序特征之间真实的因果关系,具体流程如图3所示。
改进的传递熵方法包括传递熵参数确定法、因果显著性水平检测法和因果图构建方法。对于两个不同部件提供的遥测多维时序数据的时间序列和/>,计算它们之间传递熵的公式如下所示:
。
如上式所示,,/>代表两个卫星遥测时间序列,其中/>表示两个时间序列的长度,/>和/>是上述两个时间序列的植入维度,代表在当前时刻/>的状态受到前/>个/>状态和前/>个/>状态的影响,即马尔科夫的阶数。/>为条件概率密度,/>和/>分别代表了/>和/>在当前时刻的测量值,/>表示/>在未来下一时刻的测量值,/>表示/>和/>在当前时刻的取值为/>,/>的情况下,未来下一时刻/>的取值为/>的条件概率,与之类似,/>表示/>在当前时刻的取值为/>的情况下,未来下一时刻/>的取值为/>的条件概率。
表示时间序列/>到/>的传递熵值,针对不同时间序列之间传递熵的计算首先需要确定三个参数/>,/>和/>,如上所述,/>,/>为/>和/>的植入维度,/>为针对时间序列/>和/>计算一次传递熵时需要的卫星遥测多维时序数据总长度。过往参数确定方法,往往是根据过往的经验或是相关的领域知识进行判定,然而对于卫星遥测多维时序数据,由于其并非是一种严格的马尔科夫过程,也没有相关的领域知识对参数的确定提供先验知识,因此对于/>和/>,本发明使用网格搜索来确定,当两个时间序列传递熵的值达到最大的时候的参数作为最终确定的参数,与此同时本发明使用傅里叶变换确定卫星运行的周期,使用卫星运行周期的整数倍作为参数/>的值。
由于噪声等原因,不具有因果关系的时序特征之间的传递熵并不一定为0,因此为了消除卫星时序特征之间虚假的因果关系,本发明进一步提出了一种因果显著性检测方法,因果显著性检测被看作一个假设性检验问题,打乱原始时间序列,构造空分布的传递熵值,当传递熵值在该分布中的可能性低于阈值的时候,传递熵的值是统计显著的,保留计算得到的传递熵值,否则直接将传递熵的值标记为0。
在计算得到卫星所有时序特征两两之间的传递熵值后,本发明首先完成初始因果图的构建,具体的过程如下式所示:
。
表示初始因果图的邻接矩阵,/>表示时序特征/>代表的遥测时序数据,/>表示时序特征/>代表的遥测时序数据,/>表示时间序列xj到时间序列xi的传递熵值,为邻接矩阵中处于/>行/>列的元素值,/>则表示邻接矩阵中处于/>行/>列的元素值,如果时序特征/>到时序特征/>的传递熵值大于时序特征/>到时序特征/>的值,就代表两者的因果关系的方向是/>指向/>,即/>=1,因果图中也存在从/>指向/>的边,通过这种方式可以完成初始因果图的构建。
紧接着计算初始因果图中所有联通边的直接传递熵,如果为0,联通边是间接的,可以消除。直接传递熵的公式计算如下式所示:
。
其中,表示时间序列/>和/>之间直接传递熵的值。
与计算类似,/>同样表示条件概率密度,/>在/>的基础上引入了间接变量/>,与/>和/>的含义类似,/>同样代表一个时序特征,其/>和/>的含义和计算方法同上文一致。条件概率密度/>和也是在前文公式的基础上引入了间接变量/>,其余定义完全相同。
本发明提出的改进的传递熵方法改进了原始传递熵中落后的参数确定方法,利用因果显著性检测消除了因噪音等原因导致的卫星遥测多维时序数据之间虚假因果关系,引入的直接传递熵则消除了虚假的间接因果关系,因此,改进的传递熵方法可以准确的识别卫星各个时序特征之间准确的因果关系,从而完成卫星多维卫星遥测多维时序数据因果图的构建。
步骤三:因果-自动学习的图神经网络构图方法。
针对图神经网络的构图方法,为了克服过往构图方法提取的关系过于单一的问题,本发明提出了一种因果-自动学习的图神经网络构图方法,该方法结合了基于规则和基于学习的两种构图方法,从因果和相似度两个层面提取了卫星各个时序特征之间复杂的相关关系,弥补了因果构图和自动学习构图法中各自存在的缺点。具体地,在卫星子***内部,使用步骤一所述的改进的传递熵方法提取卫星子***内部各个时序特征之间的因果关系,在卫星子***之间则结构学习的方式,提取分属不同卫星子***的时序特征之间的相似性关系,详细的过程如图4所示,其中,S1和S2表示两个不同的子***,实线代表的是因果关系,主要存在于卫星子***内部,虚线则代表相似度关系,存在于不同的卫星子***之间。
本发明针对属于同一个卫星子***的时序特征进行统一的循环嵌入,这些嵌入不仅可以提取卫星遥测多维时序数据的时序特征,并且会参与后续的图结构的构建。
详细的过程如下:
设,/>表示对时序特征/>随机初始化的嵌入向量,并且这个时序特征属于卫星子***/>。随后,针对该特征/>进行循环嵌入,循环嵌入后的循环嵌入向量使用表示,/>定义为:/>。
上述和/>中的/>均可省略,可以记为:/>和/>。
其中,表示卫星子***内部的循环嵌入叠加了/>次,使用的双向/>来针对卫星子***进行循环嵌入叠加,这些循环嵌入将会参与到接下来的图结构的构建中去。
在构建图时,针对图中的每一个节点,将因果图中得到的关系作为先验知识。这种先验知识可以灵活地表示为每个时序特征的一组候选关系/>,即它的邻居节点,假设图中的节点总个数为/>,那么时序特征/>的候选邻居节点可以用下面的式子表示:。
剩余的候选关系,利用自动学习的构图方法来进行学习,针对一个节点,根据下面的公式计算其循环嵌入向量和它的所有潜在邻居节点/>的循环嵌入向量之间的余弦相似度。
。
表示时序特征/>和时序特征/>循环嵌入向量之间的相似度,本发明使用循环嵌入向量之间的相似性来反映不同时序特征之间的相似性。具体的运算方式见上式所示,计算代表时序特征/>和代表时序特征/>的两个循环嵌入向量/>和/>的余弦相似度,/>表示特征/>的循环嵌入向量的转置,/>表示特征/>的循环嵌入向量,分子表示二者的向量内积,分母则是两个向量模的乘积,余弦相似度越大表明两个向量越相似,同时也反映出时序特征/>和时序特征/>之间的相似关系。
从这些相似度度量,可以定义最终图结构的邻接矩阵的一个元素为下面的样式。
。
=1在图结构中表示代表时序特征/>的节点和代表时序特征/>的节点为邻居节点,它们之间存在边的连接。
即首先计算,/>为节点/>和节点/>循环嵌入向量归一化点积也即余弦相似度,随后确定一个超参数/>,该超参数在后续的实验中可以根据异常检测的效果进行调节。随后选择最大的/>个归一化点积对应的索引作为该节点的邻居节点。括号中的公式表示上述边的连接均是在排除因果图中已经构造的边的前提之下进行的。如果使用相似度运算出的边/>存在于因果图构建的边的集合/>,则无需再次重复构建。
步骤四:基于改进图注意力网络的异常检测和诊断模型
针对过往图注意力网络GAT模型中存在的静态注意力机制和节点的线性聚合问题,本发明提出了一种改进的图注意力网络。不同于传统的GAT直接将节点的时序特征输入参与运算,循环嵌入向量和节点的时序特征向量被联结作为输入,为节点引入了更多的非线性信息,而且丰富了节点的时间表示。具体实现见下式所示:
。
其中,表示联结操作,/>表示节点/>在/>层的输入特征,/>表示联结后第/>个节点的特征表示。
图注意力网络针对输入的特征向量,利用注意力聚合邻居节点的特征向量。其中注意力分数由下面的式子计算。
。
与此同时,传统的GAT采用的是一种非常有限的静态注意力机制,为此,本发明所提供的异常检测和诊断模型将权重矩阵的运算顺序提前,实现了动态注意力,原始和改进的计算方式见下式。
。
。
是归一化之前的注意力系数,/>为权重矩阵,/>是第/>个节点的特征表示,是第/>个节点的特征表示,/>则是一个非线性激活函数。
为了适应卫星各个时序特征之间的非线性关系,额外的激活函数被用于计算注意力系数:,其中,/>是sigmoid激活函数。/>
随后函数被用于对注意力系数进行归一化。
。
最终的节点聚合表示被定义为如下的样式。
。
其中,为非线性激活函数,/>表示特征/>和特征/>之间的注意力系数,/>表示权重矩阵,/>和/>表示当前节点/>和节点/>的时序特征表示。
最后将最终的结果输入全连接层获得最后的预测输出,同时均方根误差被选择作为异常检测和诊断模型的损失函数。
随后,利用上述的图注意力网络模型对下一个时间步卫星各个时序特征的卫星遥测多维时序数据值进行预测,并与真实的卫星遥测多维时序数据值进行作差,得到异常检测和诊断模型的预测误差。随后,使用加权平均法对预测误差进行平滑处理,得到平滑后的预测误差。以预测误差作为样本,使用验证集中确定的异常阈值作为threshold,当所述预测误差超过threshold时,判定为待检测的卫星遥测多维时序数据存在异常,并记录异常的时间点。
步骤五:异常诊断。
过往的针对卫星遥测多维时序数据的异常检测方法往往只局限于异常检测领域,只能检测出卫星发生异常,但忽略了导致卫星异常的根本原因,本发明在异常检测的基础上,进一步完成了包含异常变量识别、异常根因分析的异常诊断任务。
结合步骤二的改进传递熵方法和步骤四中的基于改进图注意力网络的异常检测和诊断模型可以完成异常诊断的任务。
这里以真实在轨某卫星发生的异常为例,该卫星共有8个遥测参数,即使用的数据为8维的卫星遥测多维时序数据。首先,如图5所示,本发明提出的面向卫星遥测多维时序数据的异常诊断方法将预测误差作为异常分数,将所有变量异常分数的平均值作为阈值,异常分数超过阈值的变量被识别为异常变量,即图6中的遥测参数C、D、E、F四个变量被识别为异常变量。随后,利用步骤二中提出的改进传递熵方法,完成异常变量因果图的构建,如图6所示。最终,从该因果图中发明可以推断导致异常的根本原因——异常变量C。
本发明提供的面向卫星遥测多维时序数据的异常诊断方法是一种无监督的多维时序数据异常检测和诊断方法。多维时间序列之间往往存在着复杂的相关性,尽管近年来深度学习方法在卫星异常检测领域显示出了巨大的潜力,但往往忽略不同时间序列之间复杂的关系,对异常的研究也仅限于检测方面。本发明从因果性和相关性两个层面提取了不同遥测时间序列数据之间的复杂关系,改进的图注意力网络也解决了传统图注意力网络无法实现动态注意力机制和节点信息线性转换的缺点,提高了模型的异常检测能力,在异常诊断部分,本发明将异常分数与改进的传递熵结合,通过异常变量的因果图推断出导致卫星异常的根因。
实施例三
为了执行上述实施例一对应的方法,以实现相应的功能和技术效果,下面提供一种面向卫星遥测多维时序数据的异常诊断***。
一种面向卫星遥测多维时序数据的异常诊断***,包括:
预测误差输出模块,用于将待检测的卫星遥测多维时序数据输入至异常检测和诊断模型中,输出各个时刻的预测误差;所述异常检测和诊断模型是基于改进的传递熵方法、因果-自动学习的图神经网络构图方法以及图注意力网络构建的。
异常变量确定模块,用于当所述预测误差超出误差范围时,确定所述待检测的卫星遥测多维时序数据存在异常,并根据所述预测误差确定异常变量。
因果关系构建模块,用于根据改进的传递熵方法构建所述异常变量的因果关系。
因果图确定模块,用于根据所述因果关系确定异常变量因果图。
异常原因确定模块,用于根据所述异常变量因果图确定异常的卫星遥测多维时序数据的异常原因。
实施例四
一种电子设备,包括存储器及处理器,所述存储器用于存储计算机程序,所述处理器运行所述计算机程序以使所述电子设备执行如上述面向卫星遥测多维时序数据的异常诊断方法。
在实际应用中,所述存储器为非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述面向卫星遥测多维时序数据的异常诊断方法。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的***而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种面向卫星遥测多维时序数据的异常诊断方法,其特征在于,包括:
将待检测的卫星遥测多维时序数据输入至异常检测和诊断模型中,输出各个时刻的预测误差;所述异常检测和诊断模型是基于改进的传递熵方法、因果-自动学习的图神经网络构图方法以及图注意力网络构建的;
当所述预测误差超出误差范围时,确定所述待检测的卫星遥测多维时序数据存在异常,并根据所述预测误差确定异常变量;
根据改进的传递熵方法构建所述异常变量的因果关系;
根据所述因果关系确定异常变量因果图;
根据所述异常变量因果图确定异常的卫星遥测多维时序数据的异常原因。
2.根据权利要求1所述的面向卫星遥测多维时序数据的异常诊断方法,其特征在于,所述异常检测和诊断模型的构建过程,具体包括:
采用傅里叶变换分析历史卫星遥测多维时序数据的周期信息,并利用传递熵参数确定法、因果显著性水平检测法以及因果图构建方法,构建改进的传递熵方法;
根据所述改进的传递熵方法分析所述历史卫星遥测多维时序数据之间的因果关系,并结合基于相似度的自动学习的构图方法构建图神经网络中的图结构;
采用动态注意力机制以及多个激活函数改进所述图结构的图注意力网络;
将所述历史卫星遥测多维时序数据输入至改进的图注意力网络中,确定下一时刻卫星各个时序特征的预测结果;
根据所述预测结果以及所述历史卫星遥测多维时序数据之间的误差确定预测误差,完成所述异常检测和诊断模型的构建。
3.根据权利要求2所述的面向卫星遥测多维时序数据的异常诊断方法,其特征在于,根据所述预测结果以及所述历史卫星遥测多维时序数据之间的误差确定预测误差,完成所述异常检测和诊断模型的构建,之后还包括:
根据所述预测误差构建损失函数;
基于所述损失函数,利用历史卫星遥测多维时序数据对所述异常检测和诊断模型进行训练,确定训练好的异常检测和诊断模型。
4.根据权利要求2所述的面向卫星遥测多维时序数据的异常诊断方法,其特征在于,利用传递熵参数确定法、因果显著性水平检测法以及因果图构建方法,构建改进的传递熵方法,具体包括:
利用传递熵参数确定方法确定不同部件提供的历史卫星遥测多维时序数据之间的传递熵值;
利用因果显著性水平检测法消除因噪音导致的历史卫星遥测多维时序数据之间的虚假的因果关系,更新所述传递熵值;
利用因果图构建方法,根据更新后的传递熵值构建初始因果图;
计算所述初始因果图中所有联通边的直接传递熵,消除历史卫星遥测多维时序数据之间的间接的虚假的因果关系,完成改进的传递熵方法的构建过程。
5.根据权利要求2所述的面向卫星遥测多维时序数据的异常诊断方法,其特征在于,根据所述改进的传递熵方法分析所述历史卫星遥测多维时序数据之间的因果关系,并结合基于相似度的自动学习的构图方法构建图神经网络中的图结构,具体包括:
对同一卫星子***中的时序特征进行统一循环嵌入,利用所述改进后的传递熵方法提取卫星子***内部各个时序特征之间的因果关系,构建卫星子***的因果图;
将所述卫星子***的因果图中得到的因果关系作为先验知识,利用自动学习的构图方法进行学习,计算所述卫星子***的因果图中任一时序特征节点的循环嵌入向量以及所有潜在邻居节点的循环嵌入向量之间的余弦相似度,构建图神经网络中的图结构。
6.根据权利要求5所述的面向卫星遥测多维时序数据的异常诊断方法,其特征在于,采用动态注意力机制以及多个激活函数改进所述图结构的图注意力网络,具体包括:
联结循环嵌入向量和时序特征节点的时序特征向量作为图神经网络的输入,确定非线性信息;
基于所述动态注意力机制,利用第一激活函数,根据所述非线性信息确定卫星子***各个时序特征之间的非线性关系;
利用第二激活函数,根据所述非线性关系,计算注意力系数;
利用第三激活函数对所述注意力系数进行归一化处理;
根据归一化处理后的注意力系数改进所述图结构的图注意力网络。
7.根据权利要求1所述的面向卫星遥测多维时序数据的异常诊断方法,其特征在于,根据所述预测误差确定异常变量,具体包括:
将所述预测误差作为异常分数,并将所有异常分数的平均值作为异常分数阈值;
将超过所述异常分数阈值的异常分数对应的卫星遥测多维时序数据确定为异常变量。
8.一种面向卫星遥测多维时序数据的异常诊断***,其特征在于,包括:
预测误差输出模块,用于将待检测的卫星遥测多维时序数据输入至异常检测和诊断模型中,输出各个时刻的预测误差;所述异常检测和诊断模型是基于改进的传递熵方法、因果-自动学习的图神经网络构图方法以及图注意力网络构建的;
异常变量确定模块,用于当所述预测误差超出误差范围时,确定所述待检测的卫星遥测多维时序数据存在异常,并根据所述预测误差确定异常变量;
因果关系构建模块,用于根据改进的传递熵方法构建所述异常变量的因果关系;
因果图确定模块,用于根据所述因果关系确定异常变量因果图;
异常原因确定模块,用于根据所述异常变量因果图确定异常的卫星遥测多维时序数据的异常原因。
9.一种电子设备,其特征在于,包括存储器及处理器,所述存储器用于存储计算机程序,所述处理器运行所述计算机程序以使所述电子设备执行如权利要求1-7中任一项所述的面向卫星遥测多维时序数据的异常诊断方法。
10.根据权利要求9所述的电子设备,其特征在于,所述存储器为非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的面向卫星遥测多维时序数据的异常诊断方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410100736.XA CN117688496B (zh) | 2024-01-25 | 2024-01-25 | 面向卫星遥测多维时序数据的异常诊断方法、***及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410100736.XA CN117688496B (zh) | 2024-01-25 | 2024-01-25 | 面向卫星遥测多维时序数据的异常诊断方法、***及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117688496A true CN117688496A (zh) | 2024-03-12 |
CN117688496B CN117688496B (zh) | 2024-04-16 |
Family
ID=90139220
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410100736.XA Active CN117688496B (zh) | 2024-01-25 | 2024-01-25 | 面向卫星遥测多维时序数据的异常诊断方法、***及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117688496B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110751199A (zh) * | 2019-10-15 | 2020-02-04 | 南京航空航天大学 | 一种基于贝叶斯神经网络的卫星异常检测方法 |
CN113835411A (zh) * | 2021-09-07 | 2021-12-24 | 北京科技大学顺德研究生院 | 一种轧钢工艺流程质量异常综合诊断方法 |
CN114091600A (zh) * | 2021-11-18 | 2022-02-25 | 南京航空航天大学 | 一种数据驱动的卫星关联故障传播路径辨识方法及*** |
US20230102786A1 (en) * | 2021-09-24 | 2023-03-30 | Bmc Software, Inc. | Ccontinuous knowledge graph generation using causal event graph feedback |
CN116880381A (zh) * | 2023-07-03 | 2023-10-13 | 浙江大学 | 基于强化学习的工业过程时空因果有向图建模方法 |
CN116975123A (zh) * | 2023-07-27 | 2023-10-31 | 中国人民解放军国防科技大学 | 结合图结构学习与图注意力网络的多维时序异常检测方法 |
CN116992380A (zh) * | 2023-07-18 | 2023-11-03 | 重庆工商大学 | 卫星多维遥测序列异常检测模型构建方法及装置、异常检测方法及装置 |
-
2024
- 2024-01-25 CN CN202410100736.XA patent/CN117688496B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110751199A (zh) * | 2019-10-15 | 2020-02-04 | 南京航空航天大学 | 一种基于贝叶斯神经网络的卫星异常检测方法 |
CN113835411A (zh) * | 2021-09-07 | 2021-12-24 | 北京科技大学顺德研究生院 | 一种轧钢工艺流程质量异常综合诊断方法 |
US20230102786A1 (en) * | 2021-09-24 | 2023-03-30 | Bmc Software, Inc. | Ccontinuous knowledge graph generation using causal event graph feedback |
CN114091600A (zh) * | 2021-11-18 | 2022-02-25 | 南京航空航天大学 | 一种数据驱动的卫星关联故障传播路径辨识方法及*** |
CN116880381A (zh) * | 2023-07-03 | 2023-10-13 | 浙江大学 | 基于强化学习的工业过程时空因果有向图建模方法 |
CN116992380A (zh) * | 2023-07-18 | 2023-11-03 | 重庆工商大学 | 卫星多维遥测序列异常检测模型构建方法及装置、异常检测方法及装置 |
CN116975123A (zh) * | 2023-07-27 | 2023-10-31 | 中国人民解放军国防科技大学 | 结合图结构学习与图注意力网络的多维时序异常检测方法 |
Non-Patent Citations (4)
Title |
---|
HAOYAN XU 等: "Multivariate Time Series Forecasting Based on Causal Inference with Transfer Entropy and Graph Neural Network", 《ARXIV:2005.01185V1》, 3 May 2020 (2020-05-03), pages 1 - 9 * |
ZIHENG DUAN 等: "Multivariate Time Series Forecasting with Transfer Entropy Graph", 《TSINGHUA SCIENCE AND TECHNOLOGY》, vol. 28, no. 1, 28 February 2023 (2023-02-28), pages 141 * |
张杰 等: "融合传递熵的图神经网络农产品期货预测模型", 《》, vol. 59, no. 2, 5 November 2021 (2021-11-05), pages 321 - 328 * |
李超能 等: "轨迹异常检测研究综述", 《软件学报》, vol. 35, no. 2, 10 November 2023 (2023-11-10), pages 927 - 974 * |
Also Published As
Publication number | Publication date |
---|---|
CN117688496B (zh) | 2024-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111504676B (zh) | 基于多源监控数据融合的设备故障诊断方法、装置及*** | |
CN110598851A (zh) | 一种融合lstm和gan的时间序列数据异常检测方法 | |
CN113255848B (zh) | 基于大数据学习的水轮机空化声信号辨识方法 | |
CN113485302B (zh) | 基于多元时序数据的车辆运行过程故障诊断方法及*** | |
CN111562108A (zh) | 一种基于cnn和fcmc的滚动轴承智能故障诊断方法 | |
CN111523081B (zh) | 一种基于增强门控循环神经网络的航空发动机故障诊断方法 | |
CN114297918A (zh) | 基于全注意力深度网络和动态集成学习的航空发动机剩余寿命预测方法 | |
CN111680725B (zh) | 基于重构贡献的气体传感器阵列多故障隔离算法 | |
CN112033463A (zh) | 一种核动力设备状态评估与预测一体化方法和*** | |
CN115618732B (zh) | 核反应堆数字孪生关键参数自主优化数据反演方法 | |
CN114623050A (zh) | 风电机组的运行数据异常检测方法、***及介质 | |
CN114048688A (zh) | 一种风力发电机轴承寿命预测方法 | |
CN114091504A (zh) | 一种基于生成对抗网络的旋转机械小样本故障诊断方法 | |
CN115204272A (zh) | 基于多采样率数据的工业***故障诊断方法与设备 | |
CN116625686A (zh) | 一种航空发动机轴承故障在线诊断方法 | |
CN117521512A (zh) | 一种基于多尺度贝叶斯卷积Transformer模型的轴承剩余使用寿命预测方法 | |
CN114897138A (zh) | 基于注意力机制和深度残差网络的***故障诊断方法 | |
CN117688496B (zh) | 面向卫星遥测多维时序数据的异常诊断方法、***及设备 | |
CN116610973A (zh) | 一种传感器故障监测及失效信息重构方法及*** | |
Zhang et al. | A flexible monitoring framework via dynamic-multilayer graph convolution network | |
Sohaidan et al. | Remaining useful life prediction of turbofan engine using long-short term memory | |
CN114548701A (zh) | 面向全量测点耦合结构分析与估计的过程预警方法及*** | |
CN114137915A (zh) | 一种工业设备的故障诊断方法 | |
CN114046816A (zh) | 基于轻量级梯度提升决策树的传感器信号故障诊断方法 | |
Xu et al. | A graph convolutional shrinkage network-based fault diagnosis method for industrial process |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |