CN113469217A - 一种基于深度学习的无人驾驶汽车导航传感器异常检测方法 - Google Patents
一种基于深度学习的无人驾驶汽车导航传感器异常检测方法 Download PDFInfo
- Publication number
- CN113469217A CN113469217A CN202110609739.2A CN202110609739A CN113469217A CN 113469217 A CN113469217 A CN 113469217A CN 202110609739 A CN202110609739 A CN 202110609739A CN 113469217 A CN113469217 A CN 113469217A
- Authority
- CN
- China
- Prior art keywords
- data
- training
- model
- layer
- deep learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 71
- 238000013135 deep learning Methods 0.000 title claims abstract description 63
- 238000012549 training Methods 0.000 claims abstract description 126
- 238000000034 method Methods 0.000 claims abstract description 55
- 230000009467 reduction Effects 0.000 claims abstract description 42
- 230000002159 abnormal effect Effects 0.000 claims abstract description 36
- 238000012360 testing method Methods 0.000 claims abstract description 26
- 238000012706 support-vector machine Methods 0.000 claims abstract description 22
- 230000005856 abnormality Effects 0.000 claims abstract description 21
- 238000000605 extraction Methods 0.000 claims abstract description 20
- 230000008569 process Effects 0.000 claims abstract description 17
- 230000004927 fusion Effects 0.000 claims abstract description 15
- 238000012795 verification Methods 0.000 claims description 51
- 238000003745 diagnosis Methods 0.000 claims description 25
- 238000012545 processing Methods 0.000 claims description 23
- 238000011176 pooling Methods 0.000 claims description 21
- 238000005070 sampling Methods 0.000 claims description 16
- 239000011159 matrix material Substances 0.000 claims description 14
- 238000013527 convolutional neural network Methods 0.000 claims description 13
- 238000005259 measurement Methods 0.000 claims description 9
- 238000010200 validation analysis Methods 0.000 claims description 7
- 238000013528 artificial neural network Methods 0.000 claims description 5
- 238000002790 cross-validation Methods 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 3
- 238000013100 final test Methods 0.000 claims description 3
- 210000002569 neuron Anatomy 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 abstract description 2
- 230000009466 transformation Effects 0.000 abstract description 2
- 238000005065 mining Methods 0.000 abstract 1
- 238000010606 normalization Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- NVPDSZPWJFLMIC-PAMZHZACSA-N 2-amino-9-[(4s,5r)-4-hydroxy-5-(hydroxymethyl)oxolan-2-yl]-8-(pyren-2-ylamino)-3h-purin-6-one Chemical compound C1=2NC(N)=NC(=O)C=2N=C(NC=2C=C3C=CC4=CC=CC5=CC=C(C3=C54)C=2)N1C1C[C@H](O)[C@@H](CO)O1 NVPDSZPWJFLMIC-PAMZHZACSA-N 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000013178 mathematical model Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 241000700605 Viruses Species 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000012774 diagnostic algorithm Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
本发明公开了一种基于深度学习的无人驾驶汽车导航传感器异常检测方法,该方法通过采集无人驾驶汽车导航传感器在正常状态和N个异常状态下的位置测量原始多通道数据,将原始的多通道测量数据被直接输入到构建的深度学习异常检测模型,其输入数据层自动完成多通道数据融合、样本生成等数据预处理,其特征提取层自动完成特征挖掘和特征提取,其降维减参层自动完成维度变换和降维减参等一系列的操作,Softmax分类器用于模型的训练阶段完成误差反向传播迭代计算,支持向量机用于模型的测试阶段,整个检测过程无需依赖于工程师先验知识的任何特征操作,使人们检测无人驾驶汽车导航传感器的网络攻击或物理损坏等异常更加方便快捷。
Description
技术领域
本发明涉及智能驾驶技术,尤其涉及一种基于深度学习的无人驾驶汽车导航传感器异常检测方法。
背景技术
近十年来,无人驾驶汽车作为一种新兴交通工具已成为智能交通运输***的重要组成部分,无人驾驶汽车可以自动完成诸如自主驾驶、自主蔽障、自主路径规划和自动泊车等一系列“人工操作”,不仅有效释放了驾驶员的操控时间,同时还有效避免和减少了诸如疲劳驾驶、酒驾、交通拥堵和违章等交通事故的发生;无人驾驶汽车在行驶过程中需要依赖大量的传感器实时的读取和接收来自于路基单元、交通信号、雷达基站和其他车辆的路况数据,作为一种新兴智能交通工具,无人驾驶汽车的行驶完全依赖于导航传感器提供的精确位置和路径数据,然而,无人驾驶汽车的导航传感器因恶意网络攻击或导航传感器本身的物理故障而造成导航位置数据异常或篡改给无人驾驶汽车的安全行驶带来了巨大的威胁和挑战,因此,研究无人驾驶汽车的导航传感器异常检测对保障无人驾驶汽车的正常行驶是极为必要的。
目前,业内学者和科研院所主要聚焦于无人驾驶汽车功能的实现和性能提升研究,直接针对无人驾驶汽车导航传感器网络攻击检测的研究尚未见到,现有的一些针对计算机操作***的黑客攻击往往是采用计算机病毒入侵、或是采用基于卡尔曼滤波器模型的异常检测,但这些方法需要建立复杂的数学模型,并且检测效果很大程度上取决于模型精度,然而在实际中建立高精度的数学模型是十分困难的,异常检测效果十分有限,并且这些方法的应用对象也不是无人驾驶汽车,不便于无人驾驶汽车的导航传感器异常的实时诊断和故障检测。
发明内容
本发明要解决的技术问题在于针对现有技术中的缺陷,提供一种基于深度学习的无人驾驶汽车导航传感器异常检测方法。
本发明解决其技术问题所采用的技术方案是:一种基于深度学习的无人驾驶汽车导航传感器异常检测方法,包括以下步骤:
1)采集无人驾驶汽车导航传感器的位置测量数据,其包含正常状态数据和异常状态数据,获取原始异常状态数据;
2)对原始异常状态数据进行多通道数据融合;
3)对多通道数据融合后的异常状态数据进行数据处理完成异常状态数据扩充,获得扩充数据集;
4)将扩充数据集划分为训练数据集、验证数据集和测试数据集;
5)构建深度学习异常检测模型;
所述深度学习异常检测模型包括:输入数据层、特征提取层、降维减参层和逻辑判别输出层;所述输入数据层、特征提取层、降维减参层和逻辑判别输出层依次连接;
所述输入数据层,用于读取训练数据集、验证数据集和测试数据集的样本数据,并将这些数据输入到特征提取层;
所述特征提取层为一个一维卷积神经网络模型(1DCNN);包含有多个依次堆叠的一维卷积层、激活层和一维池化层;
所述降维减参层由1个1×1的一维卷积层和1个一维全局均值池化层(1DGAP)组成;
所述逻辑判别输出层由Softmax分类器和支持向量机(SVM)分类器组成;
6)对所述深度学习异常检测模型进行训练,获得深度学习异常检测模型的特征提取层、降维减参层和逻辑判别输出层的权重参数;
采用所述训练数据集对深度学习异常检测模型进行训练,采用所述验证数据集对深度学习异常检测模型进行交叉验证,直到验证数据集的准确率达到设定的目标值或训练迭代次数时,模型训练结束,同时保存模型训练时验证数据集准确率最高的模型各层权重参数值;
7)使用训练后的模型完成最终测试,得到最终异常检测结果。
按上述方案,所述步骤2)中多通道数据融合为将来自于多个导航传感器的多通道时间序列数据转变为一个长时间序列的原始数据集二维特征图{T}原;
按上述方案,所述步骤2)中将来自于多个导航传感器的多通道时间序列数据转变为一个长时间序列的原始数据集二维特征图;具体如下:
无人驾驶汽车设置有k个导航传感器,每个传感器具有m个数据通道,每个通道采集了P个数据点,在n种状态类型下构建一个[n,[k,m],P]的多维张量矩阵的原始数据集二维特征图{T}原;所述原始数据集二维特征图{T}原的数据排序设置为:第1个导航传感器的各通道数据顺序排列、第2个导航传感器的各通道数据顺序排列、…、第k个导航传感器的的各通道数据顺序排列。
按上述方案,所述步骤3)中扩充数据集为将一个长时间序列多维张量矩阵原始数据集二维特征图{T}原生成Tnum个短时间序列的扩充总数据集二维特征图训练样本{T}总。
按上述方案,所述步骤3)中数据处理包含依次进行数据标准化处理、数据截断处理、重叠采样数据扩充处理。
按上述方案,所述步骤3)中,
数据标准化处理,为将每个通道的P个数据点的量值压缩到0~1之间的数值,具体的量值压缩方法采用最大最小标准化方法,其数学表达式为:{X}=(xi-xmin)/(xmax-xmin),其中xi为第i个原始数据点,xmin为P个原始数据点中最小值的数据点,xmax为P个原始数据点中最大值的数据点,{X}为标准化处理后的P个数据点;
数据截断处理,为将长度为P的长时间序列多维张量矩阵的原始数据集二维特征图{T}原截取为多个长度为p的短时间序列二维特征图{t};
重叠采样数据扩充处理,为采用基于滑动窗口法重叠采样的样本数据扩充方法,采用一个固定的滑移窗口Wnum在长时间序列多维张量矩阵原始数据集二维特征图{T}原上以固定的步长Snum沿时间轴方向滑移,每移动一个步长就将滑移窗口内的数据点生成保存为一个短时间序列二维特征图训练样本{t},从而将一个长时间序列多维张量矩阵原始数据集二维特征图{T}原生成Tnum个短时间序列的扩充总数据集二维特征图训练样本{T}总。
按上述方案,所述特征提取层还可设置为循环神经网络、深度自编码神经网络或深度信念神经网络。
按上述方案,所述深度学习异常检测模型设置为包含训练阶段模型组合和测试阶段模型组合两种组合形式;
在所述深度学习异常检测模型的训练阶段,训练阶段模型组合形式如下:
在输入数据层、特征提取层、降维减参层之后连接逻辑判别输出层中的Softmax分类器,构成了由一维卷积神经网络层、1×1一维卷积层、一维全局均值池化层和Softmax分类器共同组成的1DCNN-1DGAP-Softmax模型,该组合用于通过误差反向传播算法来实现模型各层神经元的参数训练和权重学习;
在所述深度学习异常检测模型的测试阶段,测试阶段模型组合形式如下:
在所述降维减参层之后连接了SVM分类器,构成了由一维卷积神经网络层、1×1一维卷积层、一维全局均值池化层和SVM分类器共同组成的1DCNN-1DGAP-SVM模型,该模块不进行误差反向传播训练,输入样本直接由一维卷积神经网络层、1×1一维卷积层和一维全局均值池化层的各层提取特征后输入给SVM分类器,SVM分类器完成最终诊断结果的进一步提升和输出。
按上述方案,所述步骤6)中在所述深度学习异常检测模型的训练阶段,在模型训练的同时,将所述输入数据层的验证数据集的样本用于对训练过程中的所述1DCNN-1DGAP-Softmax模型的诊断准确率进行实时验证,验证模型在验证集上的准确率以及检查是否出现过拟合;
按上述方案,所述步骤6)中所述训练过程中1DCNN-1DGAP-Softmax模型是否过拟合的判定设置为:若随着模型训练迭代轮数的增加,当验证集上的准确率与训练集上的准确率持续增涨时,则模型训练正常,模型继续训练,直到训练集和验证集上的准确率达到设定的迭代轮数时,模型结束训练,保存训练过程中验证数据集准确率最高的模型各层权重参数值;若随着模型训练迭代轮数的增加,当训练集上的准确率持续增涨而验证集上的准确率没有增涨,且两者准确率差达到预设值时,则诊断模型出现过拟合,停止模型训练,跳转执行将所述训练集的数据重新输入所述深度学习异常检测模型,重新修改所述深度学习异常检测模型超参数,若重新验证时,没有出现过拟合,则说明模型参数合理,模型继续训练,直到训练集和验证集上的准确率达到设定的迭代轮数时,模型结束训练,保存训练过程中验证数据集准确率最高的模型各层权重参数值,若重新验证时出现过拟合,则停止训练,再重新修改所述深度学习异常检测模型参数,继续验证,依此反复执行,直到验证成功。
本发明产生的有益效果是:本发明通过改进传统一维卷积神经网络模型结构,首先采用1×1的一维卷积层与设计的一维全局均值池化层(1D-GAP)进行组合来代替传统1DCNN的2~3层的全连接层结构,有效减少1DCNN的训练参数量,提高了模型的诊断速度,然后在测试阶段采用支持向量机代替Softmax分类器进一步提升诊断准确率,同时,本发明可自动无人驾驶汽车的多个导航传感器下采集的多通道数据进行数据融合,通过有效利用多个通道的数据对无人驾驶汽车导航传感器的网络攻击或物理异常进行更精准的异常诊断。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1是本发明实施例的方法流程图;
图2是本发明实施例的多传感器多通道数据融合示意图;
图3是本发明实施例的滑移窗口重叠采样法样本数据增强的示意图;
图4是本发明实施例的深度学习异常检测模型的算法示意图;
图5是本发明实施例的深度学习的无人驾驶汽车导航传感器异常检测原理图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
如图1所示,本发明提供了一种基于深度学习的无人驾驶汽车导航传感器异常检测方法,包括:
S101、采集无人驾驶汽车导航传感器正常状态数据和N类异常状态的多通道位置测量数据;
无人驾驶汽车导航传感器多通道位置测量数据包含有1类正常状态数据和N类异常状态数据,从而获取n类(n=N+1)原始异常状态数据。
S102、对所述原始异常状态数据进行多通道数据融合。
参见图2,多通道数据融合设置为将来自于多个导航传感器的多通道时间序列数据转变为一个长时间序列的原始数据集二维特征图{T}原。
在本实施例中,假设无人驾驶汽车有k个导航传感器,每个传感器具有m个数据通道,每个通道采集了P个数据点,在n(n=N+1)种状态类型下可以构建一个[n,[k,m],P]的多维张量矩阵的原始数据集二维特征图{T}原。
在本实施例中,原始数据集二维特征图{T}原的数据排序设置为:第1个导航传感器的第1通道、第1个导航传感器的第2通道、…、第1个导航传感器的第m通道、第2个导航传感器的第1通道、第2个导航传感器的第2通道、…、第2个导航传感器的第m通道、…、第k个导航传感器的第1通道、第k个导航传感器的第2通道、…、第k个导航传感器的第m通道。
S103、通过数据处理进行数据样本扩充。
数据处理包含数据标准化处理、数据截断处理和重叠采样数据扩充处理。
在本实施例中,数据标准化处理,为将每个通道的P个数据点的量值压缩到0~1之间的数值,具体的量值压缩方法采用最大最小标准化方法,其数学表达式为:{X}=(xi-xmin)/(xmax-xmin),其中xi为第i个原始数据点,xmin为P个原始数据点中最小值的数据点,xmax为P个原始数据点中最大值的数据点,{X}为标准化处理后的P个数据点。
在本实施例中,数据截断处理设置为将长度为P的长时间序列多维张量矩阵的原始数据集二维特征图{T}原截取为多个长度为p的短时间序列二维特征图{t}。
在本实施例中,重叠采样数据扩充处理,如图3所示,设置为采用基于滑动窗口法重叠采样的样本数据扩充方法,该方法设置为采用一个固定的滑移窗口Wnum在所述长时间序列多维张量矩阵原始数据集二维特征图{T}原上以固定的步长Snum沿时间轴方向滑移,每移动一个步长就将滑移窗口内的数据点生成保存为一个短时间序列二维特征图训练样本{t},从而将一个长时间序列多维张量矩阵原始数据集二维特征图{T}原生成Tnum个短时间序列的扩充总数据集二维特征图训练样本{T}总。
在本实施例中,滑动窗口重叠采样法的样本数据增强方法所生成的新训练样本数量的计算方法为:Tnum=(Inum-Wnum+1)/Snum,Inum代表输入样本的数据点个数,Wnum代表滑动窗口的长度,Snum代表滑窗步长,Tnum代表新故障样本的数量,该计算结果小数点设置为向上取整。在图3中,假设每个通道包含2000个数据点,即Inum=2000,通过重叠采样数据截断法,可获得6个训练样本(滑窗长度Wnum为400,步长Snum为300,即重叠率为25%),每个故障样本的尺寸为[m,400]。由图3可见,最右侧的样本是不完整的,不完整的样本不能构成一个有效样本,将其丢弃。
S104、划分数据集。
具体的,将生成的扩充总数据集二维特征图训练样本{T}总划分为训练数据集、验证数据集和测试数据集,划分方法为:设置为在预处理后的扩充总数据集二维特征图训练样本{T}总的每个状态类别的所有样本中随机的选取30%的样本数量作为测试数据集,在剩余的70%的样本中随机取80%作为训练数据集、20%作为验证数据集;
S105、构建深度学习异常检测模型。
深度学习异常检测模型设置有输入数据层、特征提取层、降维减参层和逻辑判别输出层四个部分。
输入数据层,用于读取训练数据集、验证数据集和测试数据集的样本数据,并将这些数据输入到所述特征提取层。
特征提取层为一个一维卷积神经网络模型(1DCNN),如图4和图5所示,包含有多个依次堆叠的一维卷积层和一维池化层;降维减参层设置为由1个1×1的一维卷积层和1个一维全局均值池化层(1DGAP)组成;逻辑判别输出层由Softmax分类器和支持向量机(SVM)分类器组成。
在本实施例中,如图4和图5所示,深度学习异常检测模型设置为包含有训练阶段模型组合和测试阶段模型组合两个模块,在所述深度学习异常检测模型的训练阶段,在所述降维减参层之后连接了Softmax分类器,构成了由一维卷积神经网络层、1×1一维卷积层、一维全局均值池化层和Softmax分类器共同组成的1DCNN-1DGAP-Softmax模型,该组合用于通过误差反向传播算法来实现模型各层神经元的参数训练和权重学习;在所述深度学习异常检测模型的测试阶段,在所述降维减参层之后连接了SVM分类器,构成了由一维卷积神经网络层、1×1一维卷积层、一维全局均值池化层和SVM分类器共同组成的1DCNN-1DGAP-SVM模型,该模块不进行误差反向传播训练,输入样本直接由一维卷积神经网络层、1×1一维卷积层和一维全局均值池化层的各层提取特征后输入给SVM,SVM完成最终诊断结果的进一步提升和输出。
S106、对深度学习异常检测模型进行训练和验证。
对深度学习异常检测模型进行训练,获得深度学习异常检测模型的特征提取层、降维减参层和逻辑判别输出层的权重参数,采用训练数据集对深度学习异常检测模型进行训练,采用验证数据集对深度学习异常检测模型进行交叉验证。在模型训练的同时,将所述输入数据层的验证数据集的样本用于对训练过程中的所述1DCNN-1DGAP-Softmax模型的诊断准确率进行实时验证,验证模型在验证集上的准确率以及检查是否出现过拟合。
训练过程中1DCNN-1DGAP-Softmax模型是否过拟合的判定设置为:若随着模型训练迭代轮数的增加,当验证集上的准确率与训练集上的准确率持续增涨时,则模型训练正常,模型继续训练,直到训练集和验证集上的准确率达到设定的迭代轮数时,模型结束训练,保存训练过程中验证数据集准确率最高的模型各层权重参数值;若随着模型训练迭代轮数的增加,当训练集上的准确率持续增涨而验证集上的准确率没有增涨,且两者准确率差达到预设值时,则诊断模型出现过拟合,停止模型训练,跳转执行将所述训练集的数据重新输入所述深度学习异常检测模型,重新修改所述深度学习异常检测模型超参数,若重新验证时,没有出现过拟合,则说明模型参数合理,模型继续训练,直到训练集和验证集上的准确率达到设定的迭代轮数时,模型结束训练,保存训练过程中验证数据集准确率最高的模型各层权重参数值,若重新验证时出现过拟合,则停止训练,再重新修改所述深度学习异常检测模型参数,继续验证,依此反复执行,直到验证成功。
S107、完成模型训练,保存最优的模型参数权重。
训练过程中,当验证数据集的准确率达到设定的目标值或训练迭代次数时,模型训练结束,同时保存模型训练时验证数据集准确率最高的模型各层权重参数值。
S108、完成最终测试,得到最终诊断结果。
最后将所述测试数据集的样本或新采集的无人驾驶汽车导航传感器的实时样本输入到深度学习异常检测模型进行异常检测,输出最终的异常检测结果。
在本实施例中,所述导航传感器的类型包含有全球定位***传感器(GPS)、激光探测与测量传感器(LIDAR)等常规导航传感器。
在本实施例中,为了进一步说明本发明提供的方法在针对无人驾驶汽车导航传感器异常诊断的可行性和有效性,本实施例以GPS和LIDAR导航传感器为例,对本发明提出的方法进行验证。
在本实施例中,选用了GPS和LIDAR两个导航传感器的位置数据作为实验数据,两者均包含有x、y和姿态角θ三个通道的数据,其中GPS的数据加入了5种攻击,LIDAR作为参考信号未加入攻击。两个传感器的采样频率均为10Hz,测试时间为1000秒,因此每类异常的每个通道均可获得一个包含有10000个点的一维时间序列数据段。本实验充分考虑到不同异常严重程度和网络攻击的不确定性,从而设置了多种异常等级,详细说明如下:
1)正常状态和定点攻击:无等级;
2)X向偏移攻击:分别设置了±1m、±3m、±5m、±7m和±10m五个等级;
3)Y向偏移攻击:分别设置了±5m、±10m、±20m、±30m和±50m五个等级;
4)X向缓变漂移攻击:分别设置了±0.2、±0.4m、±0.6m、±0.8m和±1.0五种斜率等级;
5)Y向缓变漂移攻击:分别设置了±0.2、±0.4m、±0.6m、±0.8m和±1.0五个斜率的攻击等级。以上每个异常等级的采样时间均为100秒。
首先,每种异常状态的原始数据在输入层中进行数据融合,本实施例中,2个传感器获得6个通道数据,从而构建一个[10000,6]的二维特征图,在5种异常状态和1个正常状态下最终可得到一个[6,10000,6]的原始数据集,第一个6代表6种状态类型。其次,对所有原始数据做数据标准化处理后进行样本切割,本实验中无人车的GPS和LIDAR的采样频率均为10Hz,因此,在数据截断中将每个训练样本的长度设置为10,将原始数据进行等分,从而每种状态类型可获得1000个训练样本,如表2所示。最后,在每类异常的所样本中随机取70%作为训练集,30%作为测试集,在训练集中随机的选取20%进行交叉验证,训练集用于模型训练,测试集用于检测算法的诊断准确率,最终建立的异常数据集如表1所示。
表1无人车导航传感器异常数据集
根据图4和图5所示的所述深度学习异常检测模型框架,本实施例建立了诊断模型,如表2所示,该模型中,所述的一维卷积神经网络层包含有3个一维卷积层、3个激活层和1个一维池化层,所述的降维减参层包含有一个1×1的一维卷积层和1个一维全局均值池化层,所述的逻辑判别输出层包含有一个Softmax分类层和1个SVM分类层。所有的卷积核和池化核的补零方式都设置为Padding=“Same”,采用Adam自适应学习率优化器和mini-batch训练法,每批64个样本,训练200轮。
表2建立的诊断模型超参数明细表
在传统的1DCNN算法中,模型末端通过采用了一个2~3层的全连接结构,为了进一步验证本发明提出的算法的改进效果,本实施例对一个具有3个全连接层的1DCNN模型进行测试,3个全连接层的隐含节点数分别为256-128-6,本实施例采用同样的数据集对传统1DCNN算法进行训练,两种模型最终得到的诊断结果如表3所示,表4给出了两个诊断模型的训练参数的数量。
表3两种算法的诊断结果对比
表4两种诊断算法的参数量对比
通过对比表3和表4的结果可以看出:
1)在诊断准确率方面,传统的1DCNN算法的准确率为98.94%,而本发明提出的算法的诊断准确率已提升至99.78%,且对正常状态、定点攻击、Y向偏移和Y向缓变攻击的辨识度达100%,相比传统的1DCNN方法具有更高的诊断准确率。
2)在模型参数量方面,传统的包含有3层全连接层的1DCNN算法的总参数量为108134个,3层的全连接网络参数量为74886个;而本发明提出的采用一维全局均值池化改进后的模型参数量仅为33488,相比传统1DCNN算法减少参数量74304个,约占总参数量的70%,有效减少了模型参数量。
3)在诊断时间方面,传统的方法的训练时间和测试时间分别为204.81秒和0.372秒,而改进算法的训练时间和测试时间分别为163.57秒和0.223秒,尤其是测试时间上,本发明提出的算法有效减少诊断时间约43%,给无人车网络攻击检测提供了更多的报警排障时间,这对网络攻击的实时诊断具有重要现实意义。
本发明产生的有益效果是:本发明通过改进传统一维卷积神经网络模型结构,首先采用1×1的一维卷积层与设计的一维全局均值池化层进行组合来代替传统1DCNN的2~3层的全连接层结构,有效减少1DCNN的训练参数量,提高了模型的诊断速度,然后在测试阶段采用支持向量机代替Softmax分类器进一步提升诊断准确率,同时,本发明可自动无人驾驶汽车的多个导航传感器下采集的多通道数据进行数据融合,通过有效利用多个通道的数据对无人驾驶汽车导航传感器的网络攻击或物理异常进行更精准的异常诊断。
本发明提供的一种基于深度学习的无人驾驶汽车导航传感器异常检测方法,将无人驾驶汽车导航传感器的多通道位置测量数据自动进行多通道数据融合,原始的无人驾驶汽车导航传感器多通道测量数据被直接输入到构建的深度学习异常检测模型,其输入数据层自动完成多通道数据融合、数据标准化处理、数据截断、样本数据增强及样本生成、特征提取、维度变换和降维减参等一系列的操作,整个检测过程无需依赖于工程师先验知识的任何特征操作,端到端的算法结构具有优越的自适应性和灵活通用性,且具有更快的检测速度和更高的诊断准确率,更加适用于无人驾驶汽车导航传感器的网络攻击或物理损坏的异常实时诊断和快速检测,使人们对无人驾驶汽车导航传感器的异常检测更方便快捷。
应当理解的是,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,而所有这些改进和变换都应属于本发明所附权利要求的保护范围。
Claims (10)
1.一种基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,包括以下步骤:
1)采集无人驾驶汽车导航传感器的位置测量数据,其包含正常状态数据和异常状态数据,获取原始异常状态数据;
2)对原始异常状态数据进行多通道数据融合;
3)对多通道数据融合后的异常状态数据进行数据处理完成异常状态数据扩充,获得扩充数据集;
4)将扩充数据集划分为训练数据集、验证数据集和测试数据集;
5)构建深度学习异常检测模型;
所述深度学习异常检测模型包括:输入数据层、特征提取层、降维减参层和逻辑判别输出层;所述输入数据层、特征提取层、降维减参层和逻辑判别输出层依次连接;
所述输入数据层,用于读取训练数据集、验证数据集和测试数据集的样本数据,并将这些数据输入到特征提取层;
所述降维减参层包括一个1×1的一维卷积层和一个一维全局均值池化层;
所述逻辑判别输出层由Softmax分类器和支持向量机(SVM)分类器组成;
6)对所述深度学习异常检测模型进行训练,获得深度学习异常检测模型的特征提取层、降维减参层和逻辑判别输出层的权重参数;
采用所述训练数据集对深度学习异常检测模型进行训练,采用所述验证数据集对深度学习异常检测模型进行交叉验证,直到验证数据集的准确率达到设定的目标值或训练迭代次数时,模型训练结束,同时保存模型训练时验证数据集准确率最高的模型各层权重参数值;
7)使用训练后的模型完成最终测试,得到最终异常检测结果。
2.根据权利要求1所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述步骤2)中多通道数据融合为将来自于多个导航传感器的多通道时间序列数据转变为一个长时间序列的原始数据集二维特征图{T}原。
3.根据权利要求1所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述步骤2)中将来自于多个导航传感器的多通道时间序列数据转变为一个长时间序列的原始数据集二维特征图;具体如下:
无人驾驶汽车设置有k个导航传感器,每个传感器具有m个数据通道,每个通道采集了P个数据点,在n种状态类型下构建一个[n,[k,m],P]的多维张量矩阵的原始数据集二维特征图{T}原;所述原始数据集二维特征图{T}原的数据排序设置为:第1个导航传感器的各通道数据顺序排列、第2个导航传感器的各通道数据顺序排列、…、第k个导航传感器的的各通道数据顺序排列。
4.根据权利要求1所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述步骤3)中扩充数据集为将一个长时间序列多维张量矩阵原始数据集二维特征图{T}原生成Tnum个短时间序列的扩充总数据集二维特征图训练样本{T}总。
5.根据权利要求1所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述步骤3)中数据处理包含依次进行数据标准化处理、数据截断处理和重叠采样数据扩充处理。
6.根据权利要求1所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述步骤3)中,数据处理具体如下:
数据标准化处理,为将每个通道的P个数据点的量值压缩到0~1之间的数值;
数据截断处理,为将长度为P的长时间序列多维张量矩阵的原始数据集二维特征图{T}原截取为多个长度为p的短时间序列二维特征图{t};
重叠采样数据扩充处理,为采用基于滑动窗口法重叠采样的样本数据扩充方法,采用一个固定的滑移窗口Wnum在长时间序列多维张量矩阵原始数据集二维特征图{T}原上以固定的步长Snum沿时间轴方向滑移,每移动一个步长就将滑移窗口内的数据点生成保存为一个短时间序列二维特征图训练样本{t},从而将一个长时间序列多维张量矩阵原始数据集二维特征图{T}原生成Tnum个短时间序列的扩充总数据集二维特征图训练样本{T}总。
7.根据权利要求1所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述特征提取层为一个一维卷积神经网络模型;包含有多个依次堆叠的一维卷积层、激活层和一维池化层。
8.根据权利要求1所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述深度学习异常检测模型设置为包含训练阶段模型组合和测试阶段模型组合两种组合形式;
在所述深度学习异常检测模型的训练阶段,训练阶段模型组合形式如下:
在输入数据层、特征提取层、降维减参层之后连接逻辑判别输出层中的Softmax分类器,构成了由一维卷积神经网络层、1×1一维卷积层、一维全局均值池化层和Softmax分类器共同组成的1DCNN-1DGAP-Softmax模型,该组合用于通过误差反向传播算法来实现模型各层神经元的参数训练和权重学习;
在所述深度学习异常检测模型的测试阶段,测试阶段模型组合形式如下:
在所述降维减参层之后连接了SVM分类器,构成了由一维卷积神经网络层、1×1一维卷积层、一维全局均值池化层和SVM分类器共同组成的1DCNN-1DGAP-SVM模型,该模块不进行误差反向传播训练,输入样本直接由一维卷积神经网络层、1×1一维卷积层和一维全局均值池化层的各层提取特征后输入给SVM分类器,SVM分类器完成最终诊断结果的进一步提升和输出。
9.根据权利要求8所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述步骤6)中在所述深度学习异常检测模型的训练阶段,在模型训练的同时,将所述输入数据层的验证数据集的样本用于对训练过程中的所述1DCNN-1DGAP-Softmax模型的诊断准确率进行实时验证,验证模型在验证集上的准确率以及检查是否出现过拟合。
10.根据权利要求9所述的基于深度学习的无人驾驶汽车导航传感器异常检测方法,其特征在于,所述步骤6)中所述训练过程中1DCNN-1DGAP-Softmax模型是否过拟合的判定设置为:若随着模型训练迭代轮数的增加,当验证集上的准确率与训练集上的准确率持续增涨时,则模型训练正常,模型继续训练,直到训练集和验证集上的准确率达到设定的迭代轮数时,模型结束训练,保存训练过程中验证数据集准确率最高的模型各层权重参数值;若随着模型训练迭代轮数的增加,当训练集上的准确率持续增涨而验证集上的准确率没有增涨,且两者准确率差达到预设值时,则诊断模型出现过拟合,停止模型训练,跳转执行将所述训练集的数据重新输入所述深度学习异常检测模型,重新修改所述深度学习异常检测模型超参数,若重新验证时,没有出现过拟合,则说明模型参数合理,模型继续训练,直到训练集和验证集上的准确率达到设定的迭代轮数时,模型结束训练,保存训练过程中验证数据集准确率最高的模型各层权重参数值,若重新验证时出现过拟合,则停止训练,再重新修改所述深度学习异常检测模型参数,继续验证,依此反复执行,直到验证成功。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110609739.2A CN113469217A (zh) | 2021-06-01 | 2021-06-01 | 一种基于深度学习的无人驾驶汽车导航传感器异常检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110609739.2A CN113469217A (zh) | 2021-06-01 | 2021-06-01 | 一种基于深度学习的无人驾驶汽车导航传感器异常检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113469217A true CN113469217A (zh) | 2021-10-01 |
Family
ID=77871940
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110609739.2A Pending CN113469217A (zh) | 2021-06-01 | 2021-06-01 | 一种基于深度学习的无人驾驶汽车导航传感器异常检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113469217A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113859250A (zh) * | 2021-10-14 | 2021-12-31 | 泰安北航科技园信息科技有限公司 | 一种基于驾驶行为异常识别的智能汽车信息安全威胁检测*** |
CN113988202A (zh) * | 2021-11-04 | 2022-01-28 | 季华实验室 | 一种基于深度学习的机械臂异常振动检测方法 |
CN116828413A (zh) * | 2023-08-24 | 2023-09-29 | 长河信息股份有限公司 | 一种异构多源数据信号接收传输***及方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104616033A (zh) * | 2015-02-13 | 2015-05-13 | 重庆大学 | 基于深度学习和支持向量机的滚动轴承故障诊断方法 |
CN106874957A (zh) * | 2017-02-27 | 2017-06-20 | 苏州大学 | 一种滚动轴承故障诊断方法 |
CN107066759A (zh) * | 2017-05-12 | 2017-08-18 | 华北电力大学(保定) | 一种汽轮机转子振动故障诊断方法及装置 |
CN107067026A (zh) * | 2017-02-16 | 2017-08-18 | 国网江苏省电力公司电力科学研究院 | 基于深度神经网络的电力设备故障检测方法 |
CN108520080A (zh) * | 2018-05-11 | 2018-09-11 | 武汉理工大学 | 船舶柴油发电机故障预测与健康状态在线评估***及方法 |
CN109115501A (zh) * | 2018-07-12 | 2019-01-01 | 哈尔滨工业大学(威海) | 一种基于cnn与svm的民航发动机气路故障诊断方法 |
CN110443488A (zh) * | 2019-07-31 | 2019-11-12 | 中国石油大学(华东) | 基于卷积神经网络的钻井溢漏风险识别方法、***及设备 |
US20200285900A1 (en) * | 2019-03-06 | 2020-09-10 | Wuhan University | Power electronic circuit fault diagnosis method based on optimizing deep belief network |
CN112067916A (zh) * | 2019-09-20 | 2020-12-11 | 武汉理工大学 | 基于深度学习的时间序列数据智能故障诊断方法 |
-
2021
- 2021-06-01 CN CN202110609739.2A patent/CN113469217A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104616033A (zh) * | 2015-02-13 | 2015-05-13 | 重庆大学 | 基于深度学习和支持向量机的滚动轴承故障诊断方法 |
CN107067026A (zh) * | 2017-02-16 | 2017-08-18 | 国网江苏省电力公司电力科学研究院 | 基于深度神经网络的电力设备故障检测方法 |
CN106874957A (zh) * | 2017-02-27 | 2017-06-20 | 苏州大学 | 一种滚动轴承故障诊断方法 |
CN107066759A (zh) * | 2017-05-12 | 2017-08-18 | 华北电力大学(保定) | 一种汽轮机转子振动故障诊断方法及装置 |
CN108520080A (zh) * | 2018-05-11 | 2018-09-11 | 武汉理工大学 | 船舶柴油发电机故障预测与健康状态在线评估***及方法 |
CN109115501A (zh) * | 2018-07-12 | 2019-01-01 | 哈尔滨工业大学(威海) | 一种基于cnn与svm的民航发动机气路故障诊断方法 |
US20200285900A1 (en) * | 2019-03-06 | 2020-09-10 | Wuhan University | Power electronic circuit fault diagnosis method based on optimizing deep belief network |
CN110443488A (zh) * | 2019-07-31 | 2019-11-12 | 中国石油大学(华东) | 基于卷积神经网络的钻井溢漏风险识别方法、***及设备 |
CN112067916A (zh) * | 2019-09-20 | 2020-12-11 | 武汉理工大学 | 基于深度学习的时间序列数据智能故障诊断方法 |
Non-Patent Citations (6)
Title |
---|
GONG W等: ""A novel deep learning method for intelligent fault diagnosis of rotating machinery based on improved CNN-SVM and multichannel data fusion"", 《SENSORS》 * |
周剑飞: ""基于深度学习的设备异常检测方法研究"", 《中国优秀硕士学位论文全文数据库工程科技Ⅱ辑》 * |
宫文峰等: ""基于改进CNN-GAP-SVM的船舶电力变换器快速故障诊断方法"", 《计算机集成制造***》 * |
宫文峰等: ""基于改进卷积神经网络的滚动轴承智能故障诊断研究"", 《振动工程学报》 * |
宫文峰等: ""基于深度学习的电机轴承微小故障智能诊断方法"", 《仪器仪表学报》 * |
宫文峰等: ""基于深度学习的船舶机械微小故障快速诊断方法"", 《计算机集成制造***》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113859250A (zh) * | 2021-10-14 | 2021-12-31 | 泰安北航科技园信息科技有限公司 | 一种基于驾驶行为异常识别的智能汽车信息安全威胁检测*** |
CN113988202A (zh) * | 2021-11-04 | 2022-01-28 | 季华实验室 | 一种基于深度学习的机械臂异常振动检测方法 |
CN116828413A (zh) * | 2023-08-24 | 2023-09-29 | 长河信息股份有限公司 | 一种异构多源数据信号接收传输***及方法 |
CN116828413B (zh) * | 2023-08-24 | 2023-12-08 | 长河信息股份有限公司 | 一种异构多源数据信号接收传输***及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113469217A (zh) | 一种基于深度学习的无人驾驶汽车导航传感器异常检测方法 | |
JP6855091B2 (ja) | ニューラルネットワーク学習に利用されるオートラベリングされたイメージのうちでラベル検収のためのサンプルイメージを取得する方法、及びそれを利用したサンプルイメージ取得装置 | |
Duarte et al. | Vehicle classification in distributed sensor networks | |
CN102463990B (zh) | 用于跟踪物体的***和方法 | |
CN111368885B (zh) | 一种航空发动机气路故障诊断方法 | |
CN111797676A (zh) | 一种高分辨率遥感图像目标在轨轻量化快速检测方法 | |
CN111639678B (zh) | 一种基于集成神经网络的ins/gps组合导航故障检测与诊断方法 | |
CN112669594B (zh) | 交通路况预测的方法、装置、设备及存储介质 | |
CN113188807B (zh) | 一种abs结果自动判定算法 | |
WO2023147786A1 (zh) | 基于改进卷积神经网络的车联网入侵检测方法及设备 | |
CN113159115A (zh) | 基于神经架构搜索的车辆细粒度识别方法、***和装置 | |
CN113933858A (zh) | 定位传感器的异常检测方法、装置及终端设备 | |
CN106339720A (zh) | 一种汽车发动机的失效检测方法 | |
CN111967308A (zh) | 一种在线路面不平度辨识方法及*** | |
Islam et al. | Comparative analysis of steering angle prediction for automated object using deep neural network | |
EP3640857B1 (en) | Method, vehicle, system, and storage medium for indicating anomalous vehicle scenario using encoder network and discriminator network intermediate layer activation | |
CN106056150A (zh) | 基于人工智能随机森林方法建立不同车型分零件远程定损***及方法 | |
CN114818845A (zh) | 一种噪声稳健的高分辨距离像特征选择方法 | |
CN114724036A (zh) | 一种基于多尺度学习的冰裂隙检测方法 | |
CN115563607A (zh) | 自主驾驶无人船导航传感器网络攻击异常诊断***方法 | |
CN113362372B (zh) | 一种单目标追踪方法及计算机可读介质 | |
Kim et al. | Line-Post Insulator Fault Classification Model Using Deep Convolutional GAN-Based Synthetic Images | |
Li et al. | Research on abnormal monitoring of vehicle traffic network data based on support vector machine | |
CN112874510B (zh) | 一种基于半监督学习的自动编码器在自动泊车中车位探测的方法 | |
Diviš et al. | Neural criticality: validation of convolutional neural networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20211001 |
|
RJ01 | Rejection of invention patent application after publication |