CN117173556A - 一种基于孪生神经网络的小样本sar目标识别方法 - Google Patents
一种基于孪生神经网络的小样本sar目标识别方法 Download PDFInfo
- Publication number
- CN117173556A CN117173556A CN202310942393.7A CN202310942393A CN117173556A CN 117173556 A CN117173556 A CN 117173556A CN 202310942393 A CN202310942393 A CN 202310942393A CN 117173556 A CN117173556 A CN 117173556A
- Authority
- CN
- China
- Prior art keywords
- convolution
- denseblock
- layer
- acceptance
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 19
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 15
- 238000000605 extraction Methods 0.000 claims abstract description 11
- 238000013507 mapping Methods 0.000 claims abstract description 3
- 230000007704 transition Effects 0.000 claims description 11
- 238000012549 training Methods 0.000 claims description 9
- 238000011176 pooling Methods 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 abstract description 6
- 230000006870 function Effects 0.000 description 10
- 238000013527 convolutional neural network Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000008034 disappearance Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000035515 penetration Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种基于孪生神经网络的小样本SAR目标识别方法，包括两个对称的分支，每个分支都采用DenseNet作为主干提取网络，在主干网络中使用Inception来代替常规的卷积层；每个分支包含3个DenseBlock，每个DenseBlock包含4个Inception单元，如图2所示，每个Inception单元输出特征映射的12个通道；不同卷积核的特征映射通道输出数量之比是1:3:8。本发明在数据集较少、类别单一和复杂场景下的图像识别时，有效提升了识别准确度；通过共享局部连接权重的方式生成不同的特征图来表达特征，较大程度地降低网络计算的复杂度。
Description
技术领域
本发明涉及雷达技术，具体涉及一种基于孪生神经网络的小样本SAR目标识别方法。
背景技术
合成孔径雷达(Synthetic Aperture Radar，SAR)是一种具有高分辨率和高穿透性的全天时、全天候雷达。SAR在军事和民用领域有着重要的作用。凭借其地物穿透能力的观测优势，SAR在近几十年取得了飞速的发展，广泛应用于农林、水文调查、灾害预警、资源勘探、海洋监测等领域。
传统SAR目标识别方法依赖于大量人工设计特征。此外，传统方法通常计算量大，对新类别的泛化性能较差。随着机器学习技术的快速发展，卷积神经网络(ConvolutionalNeural Network，CNN)已经成为SAR目标识别中非常流行和不可或缺的架构，并且在很大程度上优于传统的方法。
近年来，CNN已成为SAR自动目标识别中主流的特征提取方法，其变体通过删除全连接层、构造多通道结构、采用批量归一化、添加信息记录器、构造级联网络、引入注意机制等方法，极大地提高了识别性能。同时，利用几何、空间、时间等重要特征进一步设计了多特征融合网络。然而，由于网络结构的简单性和输入数据的变形导致无法提取几何结构，这些方法的特征表示能力有限。传统上，深度CNN通常需要大量的训练数据以避免过拟合，但由于观测条件的限制以及人工标注成本高、耗时长，训练数据不足以实现SAR目标的自动识别。由于SAR的数据采集比自然场景图像更加困难以及SAR图像的注释识别非常耗时和费力，对SAR来说获得大规模的SAR目标样本和注释识别依然是一个挑战。
现有的SAR目标识别方法大多是将自然图像的目标识别方法应用到SAR图像中，忽略了SAR数据本身的特性，即SAR图像本质上是同时包含振幅和相位信息的复值图像，传统特征提取方式在识别SAR目标时，由于SAR图像(或特征矢量)对目标的姿态角的变化很敏感，另外，目标本身结构的变化、遮挡、隐蔽以及背景、参数的变化等等，都会引起目标SAR图像或SAR特征矢量的变化，因此可能导致识别效果不理想。由于SAR数据的采集和样本标记可能非常昂贵和辛苦，无法获得大量的样本，一些目标类别可能只有几个或几十个标记的样本，深度学习对大数据集的严重依赖限制了深度学习在目标样本集一般较小的合成孔径雷达(SAR)自动目标识别(ATR)领域的应用。在这种情况下，导致CNN的性能显著下降，出现了小样本SAR目标识别问题。
发明内容
本发明的主要目的在于提供一种基于孪生神经网络的小样本SAR目标识别方法，该方法包含两个对称的分支，每个分支都采用DenseNet作为主干提取网络，针对DenseNet网络模型在进行小样本学习时出现的梯度消失问题，在主干网络中使用Inception来代替常规的卷积层，不仅加强了特征传播，还可以利用不同尺度的特征。在网络中加入了跳跃连接，以增强网络在最终预测中利用不同尺度特征的能力，这种网络结构可以减少模型中学习参数的数量，同时缓解过拟合问题；然后对特征提取后的两个输入进行相似度计算，判断两个输入是否属于同一个类别；最后使用sigmoid函数将输出压缩至[0,1]区间内。
本发明采用的技术方案是：一种基于孪生神经网络的小样本SAR目标识别方法，包括两个对称的分支，每个分支都采用DenseNet作为主干提取网络，在主干网络中使用Inception来代替常规的卷积层；
每个分支包含3个DenseBlock，每个DenseBlock包含4个Inception单元，如图2所示，每个Inception单元输出特征映射的12个通道；不同卷积核的特征映射通道输出数量之比是1:3:8。
进一步地，其中Hl表示DenseBlock中第l层的输出，则第(l+1)层的输出Hl+1可以表示为公式(1)
Hl+1＝[[f7(Hl)，f5(Hl)，f3(Hl)]，Hl-1，...，H1]
(1)
fn()表示卷积核大小为n的卷积层，[]代表通道上的连接操作；卷积层由四个基本操作组成，批处理归一化、无偏差卷积、ReLU激活函数和0.2概率的dropout；
Inception单元由几个卷积层组成，它的第一个1×1卷积是作为瓶颈层引入的，该瓶颈层产生了4倍的特征映射维度；
然后，利用不同核大小的卷积层对特征图进行处理；
将第一个DenseBlock和第二个DenseBlock生成的特征图通过1×1卷积层和全局平均池化添加到最终的全连接层。
更进一步地，特征提取模块主要由3个DenseBlock模块组成；
在前两个DenseBlock块后接入过渡层，通过相邻DenseBlock之间的过渡层将特征图的网格大小和通道数减少到原始大小的一半；
过渡层主要包含1×1的卷积和步长为2的平均池化。
更进一步地，训练时，使用二元交叉熵损失函数进行模型训练，来衡量两个输入样本之间的相似度；
二元交叉熵是常用的一个Loss函数，p代表真实标记的分布，q则代表训练后的模型的预测标记分布，交叉熵损失函数可以衡量p与q的相似性，二元交叉熵的如公式(2)所示：
本发明的优点：
本发明通过利用不同尺度的特征，加强了特征传播，有效缓解了小样本学习时出现的梯度消失问题；
在网络中加入了跳跃连接，以增强网络在最终预测中利用不同尺度特征的能力，这种网络结构可以减少模型中学习参数的数量，同时缓解过拟合问题；
在训练样本有限的情况下，进一步提高了模型的泛化能力；
在数据集较少、类别单一和复杂场景下的图像识别时，有效提升了识别准确度；
通过共享局部连接权重的方式生成不同的特征图来表达特征，较大程度地降低网络计算的复杂度。
除了上面所描述的目的、特征和优点之外，本发明还有其它的目的、特征和优点。下面将参照图，对本发明作进一步详细的说明。
附图说明
构成本申请的一部分的附图用来提供对本发明的进一步理解，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。
图1是本发明的基于孪生神经网络的小样本SAR目标识别方法的网络结构图；
图2是本发明的DenseBlock模块图；
图3是本发明的Inception单元结构图；
图4是本发明的过渡层图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
(1)基于孪生神经网络的多尺度稠密连接模型的小样本SAR目标识别方法(Multi-scale Dense connection model based on Siamese neural network for few shot SARtarget recognition，MDSN)中，通过一种多尺度稠密连接网络结构来解决过拟合问题，并利用了孪生神经网络的思想，MDSN网络采用了双输入，如图1所示，虚线部分共享权重，两个输入得到两个输出后再进行loss计算。对于一张图片，一个卷积核会依次扫描图片每一个像素，处理每一个像素点的权重保持不变，即实现权重共享。通过这种卷积方式得到的网络输出，则被称为该图像的一个特征图，即一个卷积核对应了一个特征图。为了从原始自然数据中提取到更多的特征，可以通过使用多个卷积核处理输入数据从而获得同样多的差异化的特征图。因此，引入权重共享的思想后，网络不再通过大量的连接权重来表达特征，而是通过共享局部连接权重的方式生成不同的特征图来表达特征。这样能够较大程度地降低网络计算的复杂度，便于网络的实际实现。同时挖掘了图像的局部结构的多种特征，有利于图像目标的识别。
(2)在基于孪生神经网络的多尺度稠密连接模型的小样本识别方法中包含两个对称的分支，每个分支都采用DenseNet作为主干提取网络，针对DenseNet网络模型在进行小样本学习时出现的梯度消失问题，在主干网络中使用Inception来代替常规的卷积层。每个分支包含3个DenseBlock，每个DenseBlock包含4个Inception单元，如图2所示，每个Inception单元输出特征映射的12个通道。不同卷积核(3×3，5×5，7×7)的特征映射通道输出数量之比是1:3:8。
(3)Hl表示DenseBlock中第l层的输出，则第(l+1)层的输出Hl+1可以表示为公式(1)
Hl+1＝[[f7(Hl)，f5(Hl)，f3(Hl)]，Hl-1，...，H1]
(1)
fn()表示卷积核大小为n的卷积层，[]代表通道上的连接操作。卷积层由四个基本操作组成，批处理归一化、无偏差卷积、ReLU激活函数和0.2概率的dropout。Inception单元由几个卷积层组成，它的第一个1×1卷积是作为瓶颈层引入的，该瓶颈层产生了4倍的特征映射维度。然后，利用不同核大小的卷积层对特征图进行处理。对于一个大尺寸的卷积核，例如7×7，两个核大小为7×1和1×7卷积可以用来替换这个7×7的核，如图3所示。瓶颈层和替换操作有助于降低模型复杂度，缓解过拟合。此外，为了利用不同网格大小的特征，将第一个DenseBlock和第二个DenseBlock生成的特征图通过1×1卷积层和全局平均池化添加到最终的全连接层。
(4)特征提取模块主要由3个DenseBlock模块组成。在前两个DenseBlock块后接入过渡层，通过相邻DenseBlock之间的过渡层将特征图的网格大小和通道数减少到原始大小的一半。过渡层主要包含1×1的卷积和步长为2的平均池化，如图4所示。过渡层主要起两个作用：
1)防止features数无限增大，进一步压缩数据。
2)下采样，降低feature map的分辨率。
(5)训练时，使用二元交叉熵(Binary cross entropy)损失函数进行模型训练，来衡量两个输入样本之间的相似度。二元交叉熵是常用的一个Loss函数，p代表真实标记的分布，q则代表训练后的模型的预测标记分布，交叉熵损失函数可以衡量p与q的相似性。二元交叉熵的公式如公式二所示：
/>
以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (4)
1.一种基于孪生神经网络的小样本SAR目标识别方法，其特征在于，包括两个对称的分支，每个分支都采用DenseNet作为主干提取网络，在主干网络中使用Inception来代替常规的卷积层；
每个分支包含3个DenseBlock，每个DenseBlock包含4个Inception单元，如图2所示，每个Inception单元输出特征映射的12个通道；不同卷积核的特征映射通道输出数量之比是1:3:8。
2.根据权利要求1所述的基于孪生神经网络的小样本SAR目标识别方法，其特征在于，其中Hl表示DenseBlock中第l层的输出，则第(l+1)层的输出Hl+1可以表示为公式(1)
Hl+1＝[[f7(Hl)，f5(Hl)，f3(Hl)]，Hl-1，...，H1]
(1)
fn()表示卷积核大小为n的卷积层，[]代表通道上的连接操作；卷积层由四个基本操作组成，批处理归一化、无偏差卷积、ReLU激活函数和0.2概率的dropout；
Inception单元由几个卷积层组成，它的第一个1×1卷积是作为瓶颈层引入的，该瓶颈层产生了4倍的特征映射维度；
然后，利用不同核大小的卷积层对特征图进行处理；
将第一个DenseBlock和第二个DenseBlock生成的特征图通过1×
1卷积层和全局平均池化添加到最终的全连接层。
3.根据权利要求1所述的基于孪生神经网络的小样本SAR目标识别方法，其特征在于，特征提取模块主要由3个DenseBlock模块组成；
在前两个DenseBlock块后接入过渡层，通过相邻DenseBlock之间的过渡层将特征图的网格大小和通道数减少到原始大小的一半；
过渡层主要包含1×1的卷积和步长为2的平均池化。
4.根据权利要求1所述的基于孪生神经网络的小样本SAR目标识别方法，其特征在于，训练时，使用二元交叉熵损失函数进行模型训练，来衡量两个输入样本之间的相似度；
二元交叉熵是常用的一个Loss函数，p代表真实标记的分布，q则代表训练后的模型的预测标记分布，交叉熵损失函数可以衡量p与q的相似性，二元交叉熵的如公式(2)所示：
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310942393.7A CN117173556A (zh) | 2023-07-30 | 2023-07-30 | 一种基于孪生神经网络的小样本sar目标识别方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310942393.7A CN117173556A (zh) | 2023-07-30 | 2023-07-30 | 一种基于孪生神经网络的小样本sar目标识别方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN117173556A true CN117173556A (zh) | 2023-12-05 |
Family
ID=88930773
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310942393.7A Pending CN117173556A (zh) | 2023-07-30 | 2023-07-30 | 一种基于孪生神经网络的小样本sar目标识别方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117173556A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117876699A (zh) * | 2024-03-13 | 2024-04-12 | 中国人民解放***箭军工程大学 | 一种基于孪生神经网络的仿真图像逼真度评估方法 |
-
2023
- 2023-07-30 CN CN202310942393.7A patent/CN117173556A/zh active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117876699A (zh) * | 2024-03-13 | 2024-04-12 | 中国人民解放***箭军工程大学 | 一种基于孪生神经网络的仿真图像逼真度评估方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110135366B (zh) | 基于多尺度生成对抗网络的遮挡行人重识别方法 | |
| Zhang et al. | ShipDeNet-20: An only 20 convolution layers and< 1-MB lightweight SAR ship detector | |
| CN109636742B (zh) | 基于对抗生成网络的sar图像和可见光图像的模式转换方法 | |
| Karami et al. | Automatic plant counting and location based on a few-shot learning technique | |
| CN108428220B (zh) | 静止轨道卫星序列遥感影像海岛礁区域自动几何校正方法 | |
| CN117173556A (zh) | 一种基于孪生神经网络的小样本sar目标识别方法 | |
| CN115047455A (zh) | 一种轻量化的sar图像舰船目标检测方法 | |
| Zhu et al. | Rapid ship detection in SAR images based on YOLOv3 | |
| CN113435254A (zh) | 一种基于哨兵二号影像的耕地深度学习提取方法 | |
| CN114119621A (zh) | 基于深度编解码融合网络的sar遥感图像水域分割方法 | |
| Jiang et al. | Hyperspectral image classification with CapsNet and Markov random fields | |
| CN115272865A (zh) | 一种基于自适应激活函数和注意力机制的目标检测方法 | |
| Song et al. | Multi-source remote sensing image classification based on two-channel densely connected convolutional networks. | |
| CN112906564B (zh) | 用于无人机载sar图像自动目标识别的智能决策支持***设计及实现方法 | |
| Li et al. | Few-shot fine-grained classification with rotation-invariant feature map complementary reconstruction network | |
| Jiang et al. | IARet: A lightweight multiscale infrared aerocraft recognition algorithm | |
| CN117523394A (zh) | 一种基于聚合特征增强网络的sar船舰检测方法 | |
| Sun et al. | MASSFormer: Memory-Augmented Spectral-Spatial Transformer for Hyperspectral Image Classification | |
| Yuan | Remote sensing image classification methods based on CNN: Challenge and trends | |
| Wang et al. | Multi-view SAR automatic target recognition based on deformable convolutional network | |
| CN114049551B (zh) | 一种基于ResNet18的SAR原始数据目标识别方法 | |
| CN115272153A (zh) | 一种基于特征稀疏区域检测的影像匹配增强方法 | |
| CN114973016A (zh) | 基于分组双线性卷积神经网络的双极化雷达舰船分类方法 | |
| Wang et al. | Multiscale fusion network based on global weighting for hyperspectral feature selection | |
| Li et al. | Monitoring the growth status of corn crop from uav images based on dense convolutional neural network |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |