CN109375186B - 基于深度残差多尺度一维卷积神经网络的雷达目标识别方法 - Google Patents

基于深度残差多尺度一维卷积神经网络的雷达目标识别方法 Download PDF

Info

Publication number
CN109375186B
CN109375186B CN201811405815.2A CN201811405815A CN109375186B CN 109375186 B CN109375186 B CN 109375186B CN 201811405815 A CN201811405815 A CN 201811405815A CN 109375186 B CN109375186 B CN 109375186B
Authority
CN
China
Prior art keywords
scale
layer
neural network
radar target
center
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811405815.2A
Other languages
English (en)
Other versions
CN109375186A (zh
Inventor
郭晨
简涛
孙顺
徐从安
王海鹏
王聪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Naval Aeronautical University
Original Assignee
Naval Aeronautical University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Naval Aeronautical University filed Critical Naval Aeronautical University
Priority to CN201811405815.2A priority Critical patent/CN109375186B/zh
Publication of CN109375186A publication Critical patent/CN109375186A/zh
Application granted granted Critical
Publication of CN109375186B publication Critical patent/CN109375186B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/41—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G01S7/417—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section involving the use of neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Analysis (AREA)

Abstract

本发明提出了一种基于深度残差多尺度一维卷积神经网络的雷达目标识别方法。雷达目标因具有平移敏感性和姿态角敏感性而识别难度较大，该方法可自动提取雷达目标HRRP的不变特征。该方法利用卷积核和下采样操作的特征设计了两种一维残差多尺度块和两种一维多尺度下采样层，并以二者为核心构建神经网络模型，在此基础上，提出了一种新的损失函数来提高特征的可分性。该方法可以有效提取目标的深度不变特征，识别正确率较高，具有较好的鲁棒性和泛化性能。

Description

基于深度残差多尺度一维卷积神经网络的雷达目标识别方法
技术领域
本发明属于雷达目标自动识别技术，设计全角域条件下的目标HRRP特征提取和分类识别问题，提供了一种基于深度学习框架的雷达目标识别方法。
背景技术
目前已有的基于深度学习的雷达目标HRRP特征提取方法基本都是基于自编码模型及其变体，自编码由编码器和解码器两部分组成。编码的过程即为输入向特征层的映射，编码器的输出即为自编码提取的特征，当特征层(隐藏层)的神经元数小于输入数据维度时，编码可以看成是降维操作，类似于主成分分析法(PCA)。
目前，雷达目标HRRP识别存在的问题主要分为两个方面第一、HRRP存在姿态角敏感性，识别过程需要进行角域划分，第二、识别模型的泛化性能不好。故利用自编码进行识别，需要增加隐藏层及其神经元的个数，但由于训练数据的个数有限，模型容易产生过拟合现象。因此基于自编码的雷达目标HRRP识别主要针对较小角域的情况。
所提方法利用一维深度残差多尺度卷机神经网络模型提取HRRP的全角域复杂特征，该模型因卷积核的局部连接特性而具有良好的泛化性能，同时该方法提出的余弦中心损失函数提高不同类目标的特征可分性，因此该方法可以提高目标识别正确率。
发明内容
本发明的目的在于，针对全角域HRRP的识别难题，提供一种基于深度残差多尺度一维卷积神经网络的雷达目标识别方法，提高了全角域条件下的HRRP目标识别正确率。
本发明的技术解决方案为：构建一维深度残差多尺度卷积神经网络，并设计了一种更有利于目标精细划分的损失函数，利用训练样本对模型进行训练，得到可用于端对端识别的模型。
为实现上述目的，本发明实现步骤如下：
步骤1：构建深度一维残差卷积神经网络模型，并对模型参数进行初始化。
步骤2：前向传播，计算迭代过程中损失函数L。
步骤3：后向传播，采用链式法则对模型中的参数进行更新。
步骤4：重复步骤2、3直到损失函数收敛，得到可用于雷达目标识别的模型。
本发明相比现有技术具有如下的优点：
(1)提出了一种以一维卷积核为核心的深度残差多尺度卷积神经网络，卷积核具有局部视野和权值共享的特性，且不同尺度的卷积核可以提取不同精细度的特征，本文利用这两个特征使得模型利用较少参数便可以提取HRRP的全角域复杂特征，提高了模型的泛化能力。
(2)设计了一种新的损失函数-余弦中心损失，利用该损失函数进行模型的训练，可以增大特征的类间距离并减小特征的类内距离，从而提高目标的识别正确率。
附图说明
图1：多尺度卷积层I。
图2：多尺度卷积层II。
图3：残差多尺度块示意图。
图4：多尺度下采样层I。
图5：多尺度下采样层II。
图6：该方法所提模型构成示意图。
具体实施方式
以下结合说明书附图对本发明作进一步详细描述。参照说明书附图，本发明所构建的模型说明如下：
1.残差多尺度卷积块的构建
设计了两种多尺度卷积层，其结构如图1、2所示。除了标注下采样层的模块之外，其他的模块均代表卷积层。
多尺度卷积层I、II均包含四个分支，其中(从左往右)，多尺度卷积层I、II的分支一、二相同，分支一包含一个卷积层，卷积核尺度为1*1，分支二包含两个卷积层，(从上到下)卷积核尺度分别1*1、3*3。多尺度卷积层I、II的差别主要体现在分支三和分支四。分支三包含三个卷积层，多尺度卷积层I、II的分支三从上到下卷积核的大小分别为1*1、3*1、5*1和5*1、3*1、1*1，分支四包含一个降采样层和一个卷积层，多尺度卷积层I，II分支四中卷积层的卷积核尺度为3*1和1*1。分支四的下采样层相同，该层的功能是剔除冗余信息，更好的保留特征的有效信息。最后的相加操作，直接把每个分支的特征拼在一起，以多尺度卷积层I为例，输入特征经过多尺度卷积层得到的输出特征的通道数为16+16+16+16＝64。每个卷积层和下采样层的输出都使用补零操作，即经过多尺度卷积层输入输出的维度不变，只改变通道数。
残差块由卷积层组成，可以包含一个或多个卷积层，为了保证网络不出现退化的情况，残差块中的卷积层的个数不会过多，通常为两个。残差块的输出为卷积层输出与残差块输入之和，其使用可避免模型出现梯度***或消失的情况。通过卷积运算，特征向量的长度会减小，故利用补零的方法保证输出和输入的特征向量个数和维度均相同。图中的加号表示对应特征向量的元素逐个相加。残差块的表达式为
xl+1＝F(xl,θr)+Wrxl
其中，xl∈Rk×m表示输入特征向量，xl+1∈Rh×m表示输出特征向量，k和h分别表示输入和输出特征向量的个数。θr＝{k1,k2,b1,b2}表示残差块的参数集合，Wr∈Rh×k用来调节xl的维度，使其与xl+1的维度相同，这里我们设置
Figure BDA0001876325120000031
Wr为常数矩阵，反向传播的过程中不需要对其进行参数更新。
将残差块中的卷积层替换为多尺度卷积层即可得到残差多尺度卷积块，如图3所示。
2.多尺度下采样层的构建
设计了两种多尺度下采样层，如图4、5所示。除了标注下采样层的模块之外，其他的模块均代表卷积层。
多尺度下采样层I、II均包含三个分支，其中(从左往右)，分支一包含一个卷积层，卷积核大小分别为3*1和1*1。分支二包含两个卷积层，卷积核大小分别为5*1、3*1和3*1、1*1，分支三由一个卷积层和一个下采样层组成，卷积核的大小分别为3*1和1*1，下采样层的窗口长度为3*1。每个分支的最后一层步长均为2，从而保证输出的维度为输入特征维度的二分之一，多尺度下采样层的功能不只是减少数据维度，也提取了更深层次的特征。
3.损失函数设计
损失函数设计借鉴了人脸识别方法中大边界余弦损失(Large Margin CosineLoss)，在此基础上，考虑了特征的类内距离的约束，提出了一种基于余弦距离和特征中心的损失函数—余弦中心损失函数。损失函数的表达式如下：
Figure BDA0001876325120000041
其中，m是训练数据的个数，xi表示第i个样本数据的在输出层之前的全连接层的输出特征，yi是第i个样本数据的真实标签，代表第i个样本数据所属的真实类别。Wj∈Rd是全连接层的权值矩阵W∈Rd×n的第j列，即为第j类目标对应的权值向量。
Figure BDA0001876325120000042
代表Wj，xi之间的余弦值，s和α分别控制LLMCL和Lcenter中归一化后的特征的幅度，以免出现特征归一化后损失函数不收敛的问题，a为常数，作用是为了增强特征xi与权重Wj的夹角约束。
Figure BDA0001876325120000043
是第i个样本的标签yi所对应类的的特征中心，λ是中心损失项的权重，λ越大，类内特征越聚集。
该损失函数分为两个部分LLMCL和Lcenter，LLMCL叫做Large Margin Cosine Loss,简称(LMCL)，传统的softmax-loss的表达式为
Figure BDA0001876325120000051
其中，
Figure BDA0001876325120000052
cosθj可以看成是权值W和特征x之间的相似性度量，为了更加充分利用角度信息对模型进行训练，我们希望权值矩阵||W||和特征向量||x||的范数均为1，故对W,x均进行归一化操作，令W＝W*/||W*||，x＝x*/||x*||，便得到
Figure BDA0001876325120000053
因为
Figure BDA0001876325120000054
Figure BDA0001876325120000055
是单调递减的，特征xi与权重Wj的夹角越小，
Figure BDA0001876325120000056
越大，特征xi相对应的样本i属于类别j的概率越大，当满足
Figure BDA0001876325120000057
时，样本i属于第yi类。在所提方法中，当满足
Figure BDA0001876325120000058
时，样本i才属于第yi类。
超参数a＞0作用是为了增强特征xi与权重Wj的夹角约束，理想情况下，a的取值范围为
Figure BDA0001876325120000059
其中，n为类别的数量。在特征空间，当且仅当各相邻特征中心之间的夹角相同且各类样本的特征与相对应的特征中心的夹角为0时，a＝1-cos(2π/n)。
参数s解决了损失函数不收敛的问题，其大小满足
Figure BDA00018763251200000510
m为min-batch中训练样本的数量，ε是一个非常小的常数，越接近于0越好。
Lcenter为角度中心损失函数，c为归一化后的特征中心，其初始化的表达式为
Figure BDA00018763251200000511
其中，δ(yi＝j)表示当yi为第j类时，δ(·)等于1，否则δ(·)等于0，mj表示min-batch中第j类目标包含的样本数量，
Figure BDA00018763251200000512
表示样本i的特征xi与其对应的特征中心
Figure BDA00018763251200000513
的夹角的余弦值，该函数惩罚特征向量与特征中心的夹角较大的样本。

Claims (2)

1.一种基于深度残差多尺度一维卷积神经网络的雷达目标识别方法，其特征在于，包括以下步骤：
步骤1，构建深度一维残差卷积神经网络模型，并对模型参数进行初始化；
步骤2，前向传播，计算迭代过程中损失函数L；
损失函数的计算方法具体为：
Figure FDA0003581177650000011
其中，LLMCL为LargeMargin Cosine Loss，Lcenter为角度中心损失函数，m是一个min-batch中训练数据的个数，xi表示第i个样本数据的在输出层之前的全连接层的输出特征，yi是第i个样本数据的真实标签，代表第i个样本数据所属类别；Wj∈Rd是全连接层的权值矩阵W∈Rd×n的第j列，代表为第j类目标对应的权值向量；
Figure FDA0003581177650000012
代表Wj和xi之间的余弦值，s，α分别控制LLMCL和Lcenter中归一化后的特征的幅度，a为常数，决定类别之间的余弦边界；
Figure FDA0003581177650000013
是第i个样本数据的标签yi所对应的类的特征中心，λ是中心损失项的权重；
Figure FDA0003581177650000014
表示样本i的特征xi与其对应的特征中心
Figure FDA0003581177650000015
的夹角的余弦值；
步骤3，后向传播，采用链式法则对模型中的参数进行更新；
步骤4，重复步骤2、3直到损失函数收敛，得到可用于雷达目标识别的模型。
2.如权利要求1所述的雷达目标识别方法，其特征在于，步骤1中神经网络模型由残差多尺度卷积层、多尺度下采样层、卷积层、下采样层和全连接层构成。
CN201811405815.2A 2018-11-22 2018-11-22 基于深度残差多尺度一维卷积神经网络的雷达目标识别方法 Active CN109375186B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811405815.2A CN109375186B (zh) 2018-11-22 2018-11-22 基于深度残差多尺度一维卷积神经网络的雷达目标识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811405815.2A CN109375186B (zh) 2018-11-22 2018-11-22 基于深度残差多尺度一维卷积神经网络的雷达目标识别方法

Publications (2)

Publication Number Publication Date
CN109375186A CN109375186A (zh) 2019-02-22
CN109375186B true CN109375186B (zh) 2022-05-31

Family

ID=65383391

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811405815.2A Active CN109375186B (zh) 2018-11-22 2018-11-22 基于深度残差多尺度一维卷积神经网络的雷达目标识别方法

Country Status (1)

Country Link
CN (1) CN109375186B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109901129A (zh) * 2019-03-06 2019-06-18 中国人民解放军海军航空大学 一种海杂波中目标检测方法及***
CN109828251B (zh) * 2019-03-07 2022-07-12 中国人民解放军海军航空大学 基于特征金字塔轻量卷积神经网络的雷达目标识别方法
CN110069985B (zh) * 2019-03-12 2020-08-28 北京三快在线科技有限公司 基于图像的目标点位置检测方法、装置、电子设备
CN109977871B (zh) * 2019-03-27 2021-01-29 中国人民解放军战略支援部队航天工程大学 一种基于宽带雷达数据和gru神经网络的卫星目标识别方法
CN110837777A (zh) * 2019-10-10 2020-02-25 天津大学 基于改进VGG-Net的部分遮挡的人脸表情识别方法
CN110942777B (zh) * 2019-12-05 2022-03-08 出门问问信息科技有限公司 一种声纹神经网络模型的训练方法、装置及存储介质
CN110929697B (zh) * 2019-12-17 2021-04-13 中国人民解放军海军航空大学 一种基于残差结构的神经网络目标识别方法及***
CN112712126B (zh) * 2021-01-05 2024-03-19 南京大学 一种图片识别方法
CN112346056B (zh) * 2021-01-11 2021-03-26 长沙理工大学 多脉冲雷达信号的分辨性特征融合提取方法及识别方法
CN113050077B (zh) * 2021-03-18 2022-07-01 电子科技大学长三角研究院(衢州) 基于迭代优化网络的mimo雷达波形优化方法
CN113486917B (zh) * 2021-05-17 2023-06-02 西安电子科技大学 一种基于度量学习的雷达hrrp小样本目标识别方法
CN114636995A (zh) * 2022-03-16 2022-06-17 中国水产科学研究院珠江水产研究所 一种基于深度学习的水声信号检测方法及***

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015176305A1 (zh) * 2014-05-23 2015-11-26 中国科学院自动化研究所 人形图像分割方法
CN108776835A (zh) * 2018-05-28 2018-11-09 嘉兴善索智能科技有限公司 一种深度神经网络训练方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103544296B (zh) * 2013-10-22 2017-02-15 中国人民解放军海军航空工程学院 雷达距离扩展目标自适应智能融合检测方法
CN106097355A (zh) * 2016-06-14 2016-11-09 山东大学 基于卷积神经网络的胃肠道肿瘤显微高光谱图像处理方法
US10007865B1 (en) * 2017-10-16 2018-06-26 StradVision, Inc. Learning method and learning device for adjusting parameters of CNN by using multi-scale feature maps and testing method and testing device using the same
CN108169745A (zh) * 2017-12-18 2018-06-15 电子科技大学 一种基于卷积神经网络的钻孔雷达目标识别方法
CN108062754B (zh) * 2018-01-19 2020-08-25 深圳大学 基于密集网络图像的分割、识别方法和装置
CN108416378B (zh) * 2018-02-28 2020-04-14 电子科技大学 一种基于深度神经网络的大场景sar目标识别方法
CN108734660A (zh) * 2018-05-25 2018-11-02 上海通途半导体科技有限公司 一种基于深度学习的图像超分辨率重建方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015176305A1 (zh) * 2014-05-23 2015-11-26 中国科学院自动化研究所 人形图像分割方法
CN108776835A (zh) * 2018-05-28 2018-11-09 嘉兴善索智能科技有限公司 一种深度神经网络训练方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
《CosFace: Large Margin Cosine Loss for Deep Face Recognition》;H. Wang et al;《2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition》;20180723;5265-5274 *

Also Published As

Publication number Publication date
CN109375186A (zh) 2019-02-22

Similar Documents

Publication Publication Date Title
CN109375186B (zh) 基于深度残差多尺度一维卷积神经网络的雷达目标识别方法
Leng et al. Local feature descriptor for image matching: A survey
Song et al. A survey of remote sensing image classification based on CNNs
Yuan et al. Remote sensing image scene classification using rearranged local features
Song et al. Hyperspectral image classification with deep feature fusion network
CN108009559B (zh) 一种基于空谱联合信息的高光谱数据分类方法
CN107316013B (zh) 基于nsct变换和dcnn的高光谱图像分类方法
CN111191583B (zh) 基于卷积神经网络的空间目标识别***及方法
Wang et al. Remote sensing landslide recognition based on convolutional neural network
CN103971123B (zh) 基于线性回归与Fisher判别字典学习的高光谱图像分类方法
Qayyum et al. Scene classification for aerial images based on CNN using sparse coding technique
CN108229551B (zh) 一种基于紧凑字典稀疏表示的高光谱遥感图像分类方法
CN108460400B (zh) 一种结合多种特征信息的高光谱图像分类方法
CN113139512B (zh) 基于残差和注意力的深度网络高光谱影像分类方法
CN109685093A (zh) 无监督的自适应特征选择方法
CN112115806B (zh) 基于Dual-ResNet小样本学习的遥感影像场景精确分类方法
CN111652273A (zh) 一种基于深度学习的rgb-d图像分类方法
CN109657704B (zh) 一种基于稀疏融合的核化场景特征提取方法
Zhao et al. PCA dimensionality reduction method for image classification
CN112836671A (zh) 一种基于最大化比率和线性判别分析的数据降维方法
CN115019145A (zh) 一种青藏高原公路路表沉降变形监测方法
CN114926693A (zh) 基于加权距离的sar图像小样本识别方法及装置
CN115131580A (zh) 基于注意力机制的空间目标小样本识别方法
CN104809471A (zh) 一种基于空间光谱信息的高光谱图像残差融合分类方法
Ni et al. Scene classification from remote sensing images using mid-level deep feature learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant