CN110046590A - 一种基于粒子群优化深度学习特征选择的一维像识别方法 - Google Patents

Abstract

本发明属于雷达目标识别技术领域，具体涉及一种基于粒子群优化深度学习特征选择的一维像识别方法。本发明的方法首先使用深度信念网络(DBN)学习到原始高维数据的内部特征，进一步结合粒子群优化(PSO)算法，实现对特征的选择和优化，解决深度学习网络特征维数过高的问题，减少冗余特征对后续分类器的影响，改善了对目标的识别率。

Description

一种基于粒子群优化深度学习特征选择的一维像识别方法

技术领域

本发明属于雷达目标识别技术领域，具体涉及一种基于粒子群优化深度学习特征选择的一维像识别方法。

背景技术

基于雷达一维距离像的雷达目标识别技术是近几年来重要的一种雷达目标识别技术。雷达一维距离像是宽带雷达获取的目标散射点子回波沿雷达视线方向的投影的矢量和，它其中包含着丰富的目标距离像几何结构等信息，相较于SAR和ISAR图像而言，一维距离像更容易获取和处理，因此被广泛应用于雷达目标识别领域。

深度学习是近年来提出的一种识别方法，它已经在很多领域，例如图像识别，语音检测，手写输入等方面都取得了不错的进展，很多学者也尝试将深度学习的方法用于雷达一维距离像的目标识别当中，例如采用深度信念网络，栈式自编码，卷积神经网络等模型对一维像数据进行识别。但是这些方法也存在一些问题，深度神经网络提取到的特征维数通常比较高，这会降低后续分类器的性能。其次当网络深度加深时，会产生梯度弥散的问题，也会使得运行的时间大幅增加。

发明内容

本发明针对上述问题，提出采用粒子群优化算法对特征进行选择，从而筛选出更为优良的特征。

本发明所采用的技术方案为：

一种基于粒子群优化深度学习特征选择的一维像识别方法，其特征在于，包括以下步骤：

S1、采用深度信念网络DBN提取雷达一维距离像的特征，获得高维特征数据；

S2、基于粒子群优化算法，对获得的高维特征数据进行优化，具体为：

S21、初始化粒子群：将DBN提取的高维特征数据的优化空间作为粒子群优化PSO的搜索空间，种群数量设置为10，即随机初始化10个粒子，每个粒子为一个DBN特征数据的子集，大小为N,且每个粒子互不相同，初始化每个粒子的位置和速度；

S22、计算粒子的适应度值：将每一个粒子带入BP神经网络中，以测试集来测试粒子的分类正确率，用分类正确率作为粒子的适应度值；

S23、对每个粒子，用它的适应度值和个体极值比较，如果适应度值>个体极值，则用适应度值代替个体极值，个体极值为粒子在最优位置对应的适应度值；

S24、对每个粒子，用它的适应度值和全局极值比较，如果适应度值>全局极值，则用适应度值代替全局极值，全局极值为个体极值中的最优解；

S25、采用惯性权重与惯性速度来更新粒子的速度与位置

V_id＝ωV_id+C₁random(0,1)(P_id-X_id)+C₂random(0,1)(P_gd-X_id)

X_i,d＝X_i,d+V_i,d

ω为惯性因子，C₁和C₂称为加速常数，下标i和d分别表示粒子和维度的序号；V_i,d和X_i,d分别表示粒子i在d维上的速度和位置；P_i,d表示粒子i个体极值的第d维；P_g,d表示全局最优解的第d维；random(0,1)为在区间(0,1)之间的一个随机数。

S26、终止条件为达到预先设置的迭代最大次数，否则返回步骤S22。

本发明应用PSO完成对高维数据特征的选择，全局极值对应的粒子就是选择后的数据特征，它减少了特征的维数，也剔除了高维数据中存在的冗余特征。

进一步的，所述步骤S1的具体方法为：

如图1所示，本发明采用三层的深度信念网络(DBN)来提取雷达一维距离像的特征，输入320维的飞机一维距离像作为可视层的神经元，输出为5，各隐藏层的神经元个数分别为300,400,200，深度信念网络的实现分为两步，即基于RBM的无监督预训练和精调，具体为

S11、基于RBM的无监督预训练：

a1.采用CD-K算法(Contrastive Divergence，对比散度算法)初始化权值{W,a,b}，其中W表示层间的权重向量，a表示可视层的偏置向量，b表示隐藏层的偏置向量，将他们都初始化为较小的数值或者为0：

其中，X为输入的一维距离像数据，M为可视层神经元个数，即320维的输入数据维数，N为隐藏层神经元个数，W用来自于正态分布N(0,0.01)的随机数来初始化，a_i利用公式：

初始化，其中p_i表示为训练集中第i个样本数据处于激活状态的样本所占的比例，(i≤M)，b初始化为零矩阵；隐藏层单元和可视层单元的计算为：

b1.将X赋给可视层v⁽⁰⁾，计算输入数据能够使隐藏层神经元被激活的概率：

其中σ表示为sigmoid函数；

c1.根据步骤b得到的概率分布进行一次Gibbs采样，采样得到h⁽⁰⁾,h⁽⁰⁾为隐藏层中的每个单元从{0,1}中抽取得到的值；

d1.用采样得到的h⁽⁰⁾计算概率密度用概率密度再进行一次Gibbs采样，得到重构的可视层v⁽¹⁾；

e1.再次用重构后的可视层v⁽¹⁾计算隐藏层神经元被开启的概率

f1.更新权重和偏置：

W←W+λ[p(h⁽⁰⁾＝1|v⁽⁰⁾)v^(0)T-p(h⁽¹⁾＝1|v⁽¹⁾)v^(1)T]

b←b+λ[p(h⁽⁰⁾＝1|v⁽⁰⁾)-p(h⁽¹⁾＝1|v⁽¹⁾)]

a←a+λ[v⁽⁰⁾-v⁽¹⁾]

其中，λ＝0.05为学习率；

S2、精调，包括：

a2.使用预训练好的W,b计算相应隐藏层神经元是否激励；

b2.逐层的向上传播，计算各层的每个神经元的激励值，使用sigmoid函数完成标准化；

c2.计算输出层的激励值和输出；

d2.反向传播微调整个网络，采用最小均方误差准则来更新整个网络的参数，代价函数E为：

和X_i分别表示输出层的输出和理想输出，i为样本索引。l表示第l层，模型中使用的是一个3层的网络；

e2.采用梯度下降法，来更新网络的权重和偏置，每5个数据将更新一次权值和偏置；

S3、DBN经过多次迭代后网络的权值和偏置更新完毕，得到的第三层隐藏层的输出h⁽³⁾，作为一维距离像数据提取到的高维特征数据，该特征数据维数为200维

本发明的有益效果为，本发明的方法首先使用深度信念网络(DBN)学习到原始高维数据的内部特征，进一步结合粒子群优化(PSO)算法，实现对特征的选择和优化，解决深度学习网络特征维数过高的问题，减少冗余特征对后续分类器的影响，改善了对目标的识别率。

附图说明

图1为三层深度信念网络(DBN)的示意图。

具体实施方式

为了验证所提方法的有效性，进行如下仿真实验。

实验采用的训练样本数据和测试样本数据均来自于某雷达飞机目标仿真软件所仿真的五种飞机(ah-64,an-26,b-1b,b-52,f-15)数据，每组飞机相对于雷达径向的俯仰角为0°，方位角范围：0°-180°。每组飞机数据各有1800幅一维像，每幅一维距离像有320个距离单元。其中雷达的工作参数为：信号带宽：400MHz，中心频率：6GHz，每组飞机数据随机抽取1200个作为训练集，其余600个作为测试集。

本次实验使用深度信念网络、栈式自编码两种网络与粒子群深度学习特征选择方法进行对比，均采用BP网络作为分类器。深度信念网络共三层，各隐藏层单元数为300,400,200，学习率为0.05，迭代次数为300，batchsize为5。栈式自编码网络为5层，输入层为320，隐藏层分别为300,200,100，输出层为5，迭代次数为300，学习率为0.5，batchsize为5。粒子群种群数为10，最大迭代次数为100。实验结果如表1所示

表1实验结果

由实验结果可知粒子群深度学习特征选择方法的识别率相较于深度信念网络和栈式自编码网络有着7％左右的提高，说明粒子群深度学习特征选择方法能够剔除冗余特征，提高***识别能力。深度信念网络与栈式自编码两种深度学习网络的识别率几乎一致，说明两种网络的识别能力相差无几。从分类器运行时间上看，栈式自编码网络在运行速度上优于深度信念网络网络。粒子群深度学习特征选择的分类器运行时间均小于两种深度学习网络，说明该方法能够提升分类器的识别效率。

Claims (2)

1.一种基于粒子群优化深度学习特征选择的一维像识别方法，其特征在于，包括以下步骤：

S1、采用深度信念网络DBN提取雷达一维距离像的特征，获得高维特征数据；

S2、基于粒子群优化算法，对获得的高维特征数据进行优化，具体为：

S21、初始化粒子群：将DBN提取的高维特征数据的优化空间作为粒子群优化PSO的搜索空间，种群数量设置为10，即随机初始化10个粒子，每个粒子为一个DBN特征数据的子集，大小为N,且每个粒子互不相同，初始化每个粒子的位置和速度；

S22、计算粒子的适应度值：将每一个粒子带入BP神经网络中，以测试集来测试粒子的分类正确率，用分类正确率作为粒子的适应度值；

S23、对每个粒子，用它的适应度值和个体极值比较，如果适应度值>个体极值，则用适应度值代替个体极值，个体极值为粒子在最优位置对应的适应度值；

S24、对每个粒子，用它的适应度值和全局极值比较，如果适应度值>全局极值，则用适应度值代替全局极值，全局极值为个体极值中的最优解；

S25、采用惯性权重与惯性速度来更新粒子的速度与位置

V_id＝ωV_id+C₁random(0,1)(P_id-X_id)+C₂random(0,1)(P_gd-X_id)

X_id＝X_id+V_id

其中，ω为惯性因子，C₁和C₂为加速常数，下标i和d分别表示粒子和维度的序号；V_id和X_id分别表示粒子i在d维上的速度和位置；P_id表示粒子i个体极值的第d维；P_gd表示全局最优解的第d维；random(0,1)为在区间(0,1)之间的一个随机数；

S26、终止条件为达到预先设置的迭代最大次数，否则返回步骤S22。

2.根据权利要求1所述的一种基于粒子群优化深度学习特征选择的一维像识别方法，其特征在于，所述步骤S1的具体方法为：设输入数据为320维的飞机一维距离像，将其作为可视层的神经元，令DBN各隐藏层的神经元个数分别为300,400,200，则DBN的实现包括基于RBM的无监督预训练和精调，具体为

S11、基于RBM的无监督预训练：

a1.采用CD-K算法初始化权值{W,a,b}，其中W表示层间的权重向量，a表示可视层的偏置向量，b表示隐藏层的偏置向量，将他们都初始化为较小的数值或者为0：

其中，X为输入的一维距离像数据，M为可视层神经元个数，即320维的输入数据维数，N为隐藏层神经元个数，W用来自于正态分布N(0,0.01)的随机数来初始化，a_i利用公式：

初始化，其中p_i表示为训练集中第i个样本数据处于激活状态的样本所占的比例，i≤M，b初始化为零矩阵；隐藏层单元和可视层单元的计算为：

b1.将X赋给可视层v⁽⁰⁾，计算输入数据能够使隐藏层神经元被激活的概率：

其中σ表示为sigmoid函数；

c1.根据步骤b得到的概率分布进行一次Gibbs采样，采样得到h⁽⁰⁾,h⁽⁰⁾为隐藏层中的每个单元从{0,1}中抽取得到的值；

d1.用采样得到的h⁽⁰⁾计算概率密度用概率密度再进行一次Gibbs采样，得到重构的可视层v⁽¹⁾；

e1.再次用重构后的可视层v⁽¹⁾计算隐藏层神经元被开启的概率

f1.更新权重和偏置：

W←W+λ[p(h⁽⁰⁾＝1|v⁽⁰⁾)v^(0)T-p(h⁽¹⁾＝1|v⁽¹⁾)v^(1)T]

b←b+λ[p(h⁽⁰⁾＝1|v⁽⁰⁾)-p(h⁽¹⁾＝1|v⁽¹⁾)]

a←a+λ[v⁽⁰⁾-v⁽¹⁾]

其中，λ＝0.05为学习率；

S2、精调，包括：

a2.使用预训练好的W,b计算相应隐藏层神经元是否激励；

b2.逐层的向上传播，计算各层的每个神经元的激励值，使用sigmoid函数完成标准化；

c2.计算输出层的激励值和输出；

d2.反向传播微调整个网络，采用最小均方误差准则来更新整个网络的参数，代价函数E为：

和X_i分别表示输出层的输出和理想输出，i为样本索引；

e2.采用梯度下降法，来更新网络的权重和偏置，每5个数据将更新一次权值和偏置；

S3、DBN经过多次迭代后网络的权值和偏置更新完毕，得到的第三层隐藏层的输出h⁽³⁾，作为一维距离像数据提取到的高维特征数据，该特征数据维数为200维。