CN108960303B - 一种基于lstm的无人机飞行数据异常检测方法 - Google Patents

一种基于lstm的无人机飞行数据异常检测方法 Download PDF

Info

Publication number
CN108960303B
CN108960303B CN201810639367.6A CN201810639367A CN108960303B CN 108960303 B CN108960303 B CN 108960303B CN 201810639367 A CN201810639367 A CN 201810639367A CN 108960303 B CN108960303 B CN 108960303B
Authority
CN
China
Prior art keywords
lstm
aerial vehicle
unmanned aerial
flight data
sample set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810639367.6A
Other languages
English (en)
Other versions
CN108960303A (zh
Inventor
刘大同
彭宇
王泽洋
王本宽
彭喜元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Institute of Technology
Original Assignee
Harbin Institute of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology filed Critical Harbin Institute of Technology
Priority to CN201810639367.6A priority Critical patent/CN108960303B/zh
Publication of CN108960303A publication Critical patent/CN108960303A/zh
Application granted granted Critical
Publication of CN108960303B publication Critical patent/CN108960303B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/20—Administration of product repair or maintenance

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Traffic Control Systems (AREA)

Abstract

一种基于LSTM的无人机飞行数据异常检测方法，涉及无人机异常检测和***健康管理领域。本发明是为了解决在无人机飞行数据异常检测中，无人机***工作过程中产生的函数较为复杂，其逼近能力并不能满足较高拟合精度需求的问题。本发明重构无人机遥测数据相空间，获得输入向量和输出向量，获得训练样本集和测试样本集，采用TensorFlow深度学习开源框架搭建LSTM基本预测模型并进行参数进行寻优，获得最优LSTM模型进而计算LSTM预测结果；之后分别进行异常点检测和异常序列检测，最终完成无人机飞行数据异常检测。

Description

一种基于LSTM的无人机飞行数据异常检测方法
技术领域
本发明属于无人机异常检测和***健康管理领域。
背景技术
无人机异常检测方法主要可分为三大类，基于知识的异常检测方法、基于物理模型的异常检测方法和基于数据驱动的异常检测方法。前两种方法需要充分了解领域知识或***结构才能达到较好的检测效果，普适性较差，抗干扰能力差，且一般只能检测已知类型的异常检测。无人机遥测数据异常标签少，异常类型复杂，且难以对其各个子***建立统一的物理模型。
基于数据驱动的异常检测方法属于多元统计分析的范畴，可以细分为基于相似性的方法、基于统计的方法、基于分类的方法、基于预测的方法、基于概率的方法。无人机遥测飞行数据主要的形式为时间序列，基于预测的方法广泛应用于时间序列的异常检测中，具有自适应性，可以进行离线数据或在线数据的异常检测。这类方法以数据的预测结果为基础，因此优秀的检测效果依赖于精准有效的预测模型，如ARMA、SVM、神经网络等。但这些方法都属于浅层学习算法，对于无人机***工作过程中产生的较为复杂的函数，其逼近能力并不能满足的较高拟合精度需求。近年来，深度学习迅速发展，本课题采用深度学习领域的LSTM方法完成预测模型，并基于预测结果完成无人机异常检测。
发明内容
本发明是为了解决在无人机飞行数据异常检测中，无人机***工作过程中产生的函数较为复杂，其逼近能力并不能满足较高拟合精度需求的问题，现提供一种基于LSTM的无人机飞行数据异常检测方法。
一种基于LSTM的无人机飞行数据异常检测方法，包括异常点检测方法和异常序列检测方法：
异常点检测方法具体为：
步骤一：重构无人机遥测数据相空间，获得输入向量和输出向量，构建LSTM基本预测模型的训练样本集和测试样本集，并基于训练、测试样本集搭建LSTM基本预测模型；
步骤二：利用网格搜索法对LSTM基本预测模型的参数进行寻优，并将寻优后的参数代入LSTM基本预测模型中获得最优LSTM模型；
步骤三：将测试样本集中的样本输入到最优LSTM模型中，获得LSTM预测结果；
步骤四：计算训练样本集中样本的实际值与LSTM预测结果的残差，将训练样本集中样本的残差平均值作为正态分布中心μ＝mean(etraining)，将训练样本集中样本残差的标准差作为正态分布方差σ＝std(etraining)，etraining表示训练样本集中样本的残差，当置信概率P＝99％时，获得置信区间：
[μ-2.6·σ,μ+2.6·σ]；
步骤五：判断待检测无人机飞行数据是否属于置信区间，是则该待检测无人机飞行数据为正常点，否则该待检测无人机飞行数据为异常点；
异常序列检测方法具体为：
步骤六：将所有待检测无人机飞行数据按照时间顺序划分为多个时间序列，每个时间序列含有n个数据，6≤n≤15；
步骤七：当置信概率大于99％时，判断每个时间序列中异常点的个数Q是否属于[n-4,n]，是则该时间序列为异常时间序列，否则该时间序列为正常时间序列。
有益效果：本发明所述的一种基于LSTM的无人机飞行数据异常检测方法，对无人机飞行数据进行异常检测时，对片段异常的检测效果较准确。对于图3中异常片段为[303,343]的无人机数据，本发明最终检测到的异常片段为[303,346]，可见本方法检测效果较好，逼近能力能够满足较高拟合精度需求。
附图说明
图1为一种基于LSTM的无人机飞行数据异常检测方法的流程图；
图2为LSTM网络结构示意图；
图3为存在异常的无人机数据曲线图；
图4为测试集残差曲线与决策阈值曲线图；
图5为测试集异常检测结果标记曲线图；
1：LSTM节点。
具体实施方式
参照图1具体说明本实施方式，本实施方式所述的一种基于LSTM的无人机飞行数据异常检测方法，
步骤一：无人机遥测数据相空间重构。
为适应LSTM网络结构的特点，对于单维的无人机遥测数据，首先进行相空间重构，构造输入向量和输出向量作为LSTM的训练样本和测试样本，如式1所示。
Figure GDA0002944191430000021
其中X(t)是从单维时间序列中构造的输入向量，x(t)以时间序列形式存在的单维无人机遥测数据在t时刻的值，其相空间重构窗口长度为D，Y(t)为输出向量为X(t)所对应的真实值。LSTM模型需要完成的就是对X(t)→Y(t)映射关系的学习。
将前
Figure GDA0002944191430000031
个输入向量和输出向量作为LSTM基本预测模型的训练样本集，将剩余的
Figure GDA0002944191430000032
个输入向量和输出向量作为LSTM基本预测模型的测试样本集，k表示输入向量和输出向量的总个数。
步骤二：利用步骤一获得的训练样本集和测试样本集，采用TensorFlow深度学习开源框架搭建LSTM基本预测模型。LSTM网络结构如图2所示。
具体包含四个要点：
A、确认输入维度。根据每个时刻对LSTM网络输入数据点的个数确定输入维度，且网络沿时间展开次数与输入维度的乘积等于相空间重构窗口长度。
B、根据无人机遥测数据的复杂程度和输入维度确定LSTM结构网络层数。本实施方式采用三层LSTM结构，即只有一层隐藏节点，避免过深的纵向层数导致过拟合。
C、选择激活函数。在隐藏层和输出层之间选择了线性函数作为激活函数。
D、输出层设计。LSTM拟合的是[x(t),x(t-1),…,x(t-(D-1))]→x(t+1)的映射关系，每输入一轮数据仅对应一维输出，因此最后一个输入数据到来前所有时刻均不输出结果，即取消网络输出层，网络最后一次沿时间展开时输出层正常输出预测结果。训练和测试样本里的输出向量。
步骤三：利用网格搜索法对LSTM基本预测模型的参数进行寻优，并将寻优后的参数代入LSTM基本预测模型中获得最优LSTM模型。
在LSTM模型中，预先设置的诸多参数都可能对最终的预测效果产生明显影响。其中较为关键的三个参数分别为相空间重构窗口长度L、隐藏层节点个数N和学习率η。采用网格搜索方法对上述三种参数进行寻优。网格搜索指的是这三种参数各自取其不同的数值，相互交叉，形成了参数的三维搜索空间。遍历三个参数的设定取值范围，最后给出所有参数组合的测试集预测精度，并按照从高到低的顺序排列，排在首位的参数组合即为最优参数组合。
步骤四：将测试样本集中的样本输入到最优LSTM模型中，获得LSTM预测结果
步骤五：检测异常点。
预测值与真实值会存在残差，视为不能进一步学***均值作为正态分布中心μ＝mean(etraining)，将训练样本集中样本残差的标准差作为正态分布方差σ＝std(etraining)，etraining表示训练样本集中样本的残差，当置信概率P＝99％时，获得置信区间：
[μ-2.6·σ,μ+2.6·σ] (2)
判断待检测无人机飞行数据是否属于置信区间，是则该待检测无人机飞行数据为正常点，否则该待检测无人机飞行数据为异常点。
步骤六：检测异常序列。
将所有待检测无人机飞行数据按照时间顺序划分为多个时间序列，每个时间序列含有n个数据，6≤n≤15；当置信概率大于99％时，判断每个时间序列中异常点的个数Q是否属于[n-4,n]，是则该时间序列为异常时间序列，否则该时间序列为正常时间序列。
步骤七：将所有异常时间序列取并集，获得所有待检测无人机飞行数据的异常点集合。
本实施方式选用存在异常片段的无人机数据进行所述方法的效果评估。无人机数据如图3所示，在[303,343]区间内存在片段异常。利用所提出的方法，设定置信度为99％，即置信区间为[μ-2.6·σ,μ+2.6·σ]，得到置信区间如图4所示，残差超出置信区间部分为异常值。最后，对所有异常点进行标记。根据所提出的方法，当度为10的时间序列中出现至少6个异常值时，此片段为异常片段，最终得到的异常片段为[303,346]，检测效果较好，如图5所示。

Claims (5)

1.一种基于LSTM的无人机飞行数据异常检测方法，其特征在于，包括异常点检测方法和异常序列检测方法：
异常点检测方法具体为：
步骤一：重构无人机遥测数据相空间，获得输入向量和输出向量，构建LSTM基本预测模型的训练样本集和测试样本集，并基于训练样本集和测试样本集搭建LSTM基本预测模型；
步骤二：利用网格搜索法对LSTM基本预测模型的参数进行寻优，并将寻优后的参数代入LSTM基本预测模型中获得最优LSTM模型；
步骤三：将测试样本集中的样本输入到最优LSTM模型中，获得LSTM预测结果；
步骤四：计算训练样本集中样本的实际值与LSTM预测结果的残差，将训练样本集中样本的残差平均值作为正态分布中心μ＝mean(etraining)，将训练样本集中样本残差的标准差作为正态分布方差σ＝std(etraining)，etraining表示训练样本集中样本的残差，当置信概率P＝99％时，获得置信区间：
[μ-2.6·σ,μ+2.6·σ]；
步骤五：判断待检测无人机飞行数据是否属于置信区间，是则该待检测无人机飞行数据为正常点，否则该待检测无人机飞行数据为异常点；
异常序列检测方法具体为：
步骤六：将所有待检测无人机飞行数据按照时间顺序划分为多个时间序列，每个时间序列含有n个数据，6≤n≤15；
步骤七：当置信概率大于99％时，判断每个时间序列中异常点的个数Q是否属于[n-4,n]，是则该时间序列为异常时间序列，否则该时间序列为正常时间序列。
2.根据权利要求1所述的一种基于LSTM的无人机飞行数据异常检测方法，其特征在于，在步骤七之后，将所有异常时间序列取并集，获得所有待检测无人机飞行数据的异常点集合。
3.根据权利要求1或2所述的一种基于LSTM的无人机飞行数据异常检测方法，其特征在于，步骤一中无人机遥测数据相空间的输入向量X(t)和输出向量Y(t)表达式如下：
Figure FDA0002944191420000011
其中，x(t)为以时间序列形式存在的单维无人机遥测数据在t时刻的值，D为相空间重构窗口长度。
4.根据权利要求1或2所述的一种基于LSTM的无人机飞行数据异常检测方法，其特征在于，步骤一中搭建LSTM基本预测模型的方法为：
根据每个时刻对LSTM网络输入数据点的个数确定输入维度，且网络沿时间展开次数与输入维度的乘积等于相空间重构窗口长度；
根据无人机遥测数据的复杂程度和输入维度确定LSTM结构网络层数；
在隐藏层和输出层之间选择线性函数作为激活函数；
使LSTM网络最后一次沿时间展开时输出层输出预测结果。
5.根据权利要求1或2所述的一种基于LSTM的无人机飞行数据异常检测方法，其特征在于，步骤二中所述LSTM基本预测模型的参数包括：相空间重构窗口长度、隐藏层节点个数和学习率。
CN201810639367.6A 2018-06-20 2018-06-20 一种基于lstm的无人机飞行数据异常检测方法 Active CN108960303B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810639367.6A CN108960303B (zh) 2018-06-20 2018-06-20 一种基于lstm的无人机飞行数据异常检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810639367.6A CN108960303B (zh) 2018-06-20 2018-06-20 一种基于lstm的无人机飞行数据异常检测方法

Publications (2)

Publication Number Publication Date
CN108960303A CN108960303A (zh) 2018-12-07
CN108960303B true CN108960303B (zh) 2021-05-07

Family

ID=64490435

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810639367.6A Active CN108960303B (zh) 2018-06-20 2018-06-20 一种基于lstm的无人机飞行数据异常检测方法

Country Status (1)

Country Link
CN (1) CN108960303B (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109711440B (zh) * 2018-12-13 2022-02-08 新奥数能科技有限公司 一种数据异常检测方法和装置
CN109934337B (zh) * 2019-03-14 2020-12-25 哈尔滨工业大学 一种基于集成lstm的航天器遥测数据异常的检测方法
CN110458195B (zh) * 2019-07-10 2022-08-19 河海大学 一种基于多判据融合的异常数据甄别方法
CN112306722A (zh) * 2019-07-26 2021-02-02 北京京东乾石科技有限公司 识别故障的方法、装置、设备和计算机可读介质
CN110705658B (zh) * 2019-08-15 2022-03-15 哈尔滨工业大学 一种基于多变量回归的无人机飞参数据故障检测与恢复方法
CN110569925B (zh) * 2019-09-18 2023-05-26 南京领智数据科技有限公司 应用于电力设备运检的基于lstm的时序异常检测方法
CN111241744B (zh) * 2020-01-07 2022-08-09 浙江大学 一种基于双向lstm的低压铸造机时间序列数据异常检测方法
CN111260029A (zh) * 2020-01-13 2020-06-09 北京工业大学 一种面向空气质量数据的可信度分析方法
CN111562996B (zh) * 2020-04-11 2021-11-23 北京交通大学 一种关键性能指标数据的时序异常检测方法及***
CN111786738B (zh) * 2020-07-01 2022-06-03 中国人民解放军陆军工程大学 基于长短期记忆的抗干扰学习的网络结构及学习方法
CN112085866B (zh) * 2020-08-14 2023-04-07 陕西千山航空电子有限责任公司 一种基于飞参数据的飞机异常状态识别方法
CN113218537B (zh) * 2021-05-25 2024-04-05 中国南方电网有限责任公司超高压输电公司广州局 温度异常检测模型的训练方法、装置、设备和存储介质
CN114037012B (zh) * 2021-11-09 2023-04-07 四川大学 基于相关性分析与深度学习的飞行数据异常检测方法
CN116088349B (zh) * 2023-03-07 2023-06-27 东方空间技术(山东)有限公司 基于lstm的火箭半实物仿真数据异常评估方法及决策装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106055885A (zh) * 2016-05-26 2016-10-26 哈尔滨工业大学 基于过采样投影近似基追踪无人机飞行数据异常检测方法
EP3261024A2 (en) * 2016-06-23 2017-12-27 Siemens Healthcare GmbH Method and system for vascular disease detection using recurrent neural networks
CN107748899A (zh) * 2017-11-03 2018-03-02 哈尔滨工业大学深圳研究生院 一种基于lstm的二维图像的目标类别判识方法
CN107833208A (zh) * 2017-10-27 2018-03-23 哈尔滨工业大学 一种基于动态权重深度自编码的高光谱异常检测方法
CN108053653A (zh) * 2018-01-11 2018-05-18 广东蔚海数问大数据科技有限公司 基于lstm的车辆行为预测方法和装置
CN108063698A (zh) * 2017-12-15 2018-05-22 东软集团股份有限公司 设备异常检测方法和装置、程序产品及存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106055885A (zh) * 2016-05-26 2016-10-26 哈尔滨工业大学 基于过采样投影近似基追踪无人机飞行数据异常检测方法
EP3261024A2 (en) * 2016-06-23 2017-12-27 Siemens Healthcare GmbH Method and system for vascular disease detection using recurrent neural networks
CN107833208A (zh) * 2017-10-27 2018-03-23 哈尔滨工业大学 一种基于动态权重深度自编码的高光谱异常检测方法
CN107748899A (zh) * 2017-11-03 2018-03-02 哈尔滨工业大学深圳研究生院 一种基于lstm的二维图像的目标类别判识方法
CN108063698A (zh) * 2017-12-15 2018-05-22 东软集团股份有限公司 设备异常检测方法和装置、程序产品及存储介质
CN108053653A (zh) * 2018-01-11 2018-05-18 广东蔚海数问大数据科技有限公司 基于lstm的车辆行为预测方法和装置

Also Published As

Publication number Publication date
CN108960303A (zh) 2018-12-07

Similar Documents

Publication Publication Date Title
CN108960303B (zh) 一种基于lstm的无人机飞行数据异常检测方法
CN112131760B (zh) 基于cbam模型的航空发动机剩余寿命预测方法
CN111222549B (zh) 一种基于深度神经网络的无人机故障预测方法
CN112926273B (zh) 一种多元退化设备剩余寿命预测方法
CN109766583A (zh) 基于无标签、不均衡、初值不确定数据的航空发动机寿命预测方法
CN111680875B (zh) 基于概率基线模型的无人机状态风险模糊综合评价方法
CN114266278B (zh) 一种基于双重注意力网络的设备剩余使用寿命预测方法
CN108427400B (zh) 一种基于神经网络解析冗余的飞机空速管故障诊断方法
CN110309537B (zh) 一种飞行器的智能健康预测方法及***
CN116448419A (zh) 基于深度模型高维参数多目标高效寻优的零样本轴承故障诊断方法
CN116610092A (zh) 用于车辆分析的方法和***
CN111079348B (zh) 一种缓变信号检测方法和装置
CN114266289A (zh) 一种复杂装备健康状态评估方法
Ye et al. A deep learning-based method for automatic abnormal data detection: Case study for bridge structural health monitoring
CN112257914A (zh) 一种基于随机森林的航空安全因果预测方法
CN115600051A (zh) 基于短弧天基光学观测的轨道机动智能检测方法和装置
CN116625686A (zh) 一种航空发动机轴承故障在线诊断方法
CN115982141A (zh) 一种针对时序数据预测的特征优化方法
CN114048546B (zh) 一种基于图卷积网络和无监督域自适应的航空发动机剩余使用寿命预测方法
CN115221973A (zh) 一种基于增强加权异质集成学习的航空轴承故障诊断方法
CN117407781B (zh) 基于联邦学习的设备故障诊断方法及装置
CN111126477A (zh) 一种混合贝叶斯网络的学习与推理方法
CN114357372A (zh) 一种基于多传感器数据驱动的飞机故障诊断模型生成方法
CN114169091A (zh) 工程机械部件剩余寿命的预测模型建立方法及预测方法
CN117521512A (zh) 一种基于多尺度贝叶斯卷积Transformer模型的轴承剩余使用寿命预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant