CN108805039A - 联合熵与预训练cnn提取时频图像特征的调制识别方法 - Google Patents

Abstract

本发明属于雷达辐射源信号调制识别技术领域，具体涉及联合熵与预训练CNN提取时频图像特征的调制识别方法。首先将待识别的9类雷达信号集进行时频变换得到时频图像；然后基于MatConvNet官网提供的预训练卷积神经网络模型imagenet‑vgg‑verydeep‑19，由其Input输入层至fc6全连接层构成FT‑VGGNet‑fc6特征迁移提取模块；接着将调整后图像送入特征迁移提取模块，输出雷达信号时频图像特征；再对调整后图像进行灰度化，人工提取处理后图像的Renyi熵；接下来按照一定比例划分训练集与测试集，并选取训练集对SVM分类器进行训练；最后，利用训练后的SVM分类器对时频图像的训练集进行识别，利用多信噪比下9类雷达信号组成的数据集验证FT‑VGGNET‑fc6‑SVM分类器的识别率。

Description

联合熵与预训练CNN提取时频图像特征的调制识别方法

技术领域

本发明属于雷达辐射源信号调制识别技术领域，具体涉及联合熵与预训练CNN提取时频图像特征的调制识别方法。

背景技术

雷达辐射源信号调制识别是电子对抗及电子侦察中的重要环节，在电子战中具有十分重要的地位和作用。应用较普遍的雷达辐射源信号调制识别方法有基于五种参数的信号调制识别方法、基于时频图像的脉内调制识别方法和基于CNN的信号调制识别方法。

传统的基于五种参数(载频、脉冲到达时间、脉冲幅度、脉冲宽度和脉冲到达方向)的调制识别方法在经过多次测量后可获得脉冲的其他特征参数，但是没有考虑新体制雷达的脉内调制特性，不能实现有效识别。同时，此方法过多依赖数据库中原有信息，对库中不存在的雷达不能进行识别且不能自学习，因此在新体制雷达面前收效甚微。

基于时频图像的脉内调制识别方法是应用较为广泛的，它可以将雷达信号通过时频分布转换为时频图像，对图像预处理后提取特征，在其后端接入支持向量机(SVM)分类器，即使在低信噪比下也能获得较为可观的识别率。但是此方法需要人工提取图像特征，人工提取特征速度慢。此外，若人工提取特征信息不当必将导致识别出现偏差，最终导致其识别率低。

相比于上述两种方法，基于CNN的信号调制识别方法在对雷达辐射源信号进行调制识别时，CNN可以自动完成时频图像特征的提取，实现了特征提取的高度自动化。但是利用CNN提取特征后输出特征量过多，出现冗余信息会导致***的有效性有所降低，且其提取的特征在低信噪比条件下识别效果差，相应***抗噪能力弱。同时，在面对小样本数据时，CNN全连接层间神经单元数量陡降会导致***识别率整体下降。

发明内容

本发明的目的是提出一种联合熵与预训练CNN提取时频图像特征的调制识别方法，利用CNN自动提取图像特征来实现提取特征自动化，应用主成分分析(PCA)对输出特征降维提高***有效性，将降维后特征结合人工提取的Renyi熵来提高***低信噪比条件下的识别率，且应用SVM解决深层网络小样本训练精度不高的问题，最终实现对雷达信号的精确快速识别。

本发明的目的是这样实现的：

联合熵与预训练CNN提取时频图像特征的调制识别方法，其特征在于，包括以下步骤：

步骤一 依据九类雷达信号参数，产生由CW、LFM、BPSK、COSTAS、FRANK、P1、P2、P3、P4组成的雷达信号集；所述的九类雷达信号参数包括：采样频率、采样点数、CW调制方式载频、巴克码、带宽、频率序列、起始频率、P3和P4调制方式产生的载频以及FRANK、P1、P2、调制方式产生的载频；

步骤二 对雷达信号进行时频分析，应用CWD将待识别的雷达信号集进行时频变换得到时频图像；对应CWD公式如下：

时变的局部相关函数可通过对相关函数作滑窗处理得到：

当窗函数取时间冲击函数，不加限制，而在时域取瞬时值：

对时变局部相关函数作Fourier变换，即可得到Wigner Ville分布(WVD)：

WVD可通过添加核函数得到CWD：

步骤三 预训练卷积神经网络模型选用MatConvNet官网提供的imagenet-vgg-verydeep-19，将图片转换为224×224×3大小的图像；使imagenet-vgg-verydeep-19网络参数保持不变，由其Input输入层至fc6全连接层构成FT-VGGNet-fc6特征迁移提取模块；

步骤四 将步骤三调整后的图像集送入特征迁移提取模块，产生雷达信号时频图像特征，使用保留至fc6全连接层的FT-VGGNet-fc6特征迁移提取模块可得8×512个雷达信号时频图像特征；

步骤五 FT-VGGNet-fc6特征迁移提取模块输出的特征过多，会有冗余信息出现导致训练速度和***有效性下降，用PCA降维保留具有显著区分度的95个特征；

PCA将时频图像作为原始样本构成一个数据矩阵：

其协方差矩阵为R＝XX^T，可对该协方差矩阵作特征值分解：

R_M×M＝U∧U^T

式中，T表示转置，∧为协方差矩阵的特征值对角阵，U为相应的特征矩阵，对时频图像作如下变换：

P_M×N＝U^TX＝[p₁,p₂,…,p_M]^T

式中，P为时频图像二值矩阵的主成分，p₁是第一主成分，p_j为第j主成分，选取前k个主成分，构成时频图像的特征矩阵；

步骤六 对调整后的时频图像进行图像灰度化，三分量为R、G和B的彩色图像像素对应该点的亮度可用灰度化公式计算为：

I＝0.3B+0.59G+0.11R

步骤七 提取灰度图像中能提高***识别率尤其低信噪比条件下识别率的Renyi熵，并使之与降维后的95个特征共同归一化组合构成100个新的雷达信号时频图像特征；时频图像的Renyi熵表示为：

式中，P^α(t,f)表示信号的时频分布；对于Renyi熵阶数α的选取，不考虑非整数阶α产生复数的熵值的情况，选取阶数为3、5、7、9、11的Renyi熵作为信号的识别特征；

步骤八 针对九种雷达信号，选取每类雷达信号在信噪比为0dB时时频图像各300张，将雷达信号时频图像特征按7:3的比例随机分为训练集和测试集；

步骤九 划分训练集与测试集，将粒子群算法(PSO)与人工蜂群算法(ABC)结合，联合应用两算法计算适应值，每独立计算一次比较取最优，直到到达最大迭代次数取最优值，实现两算法联合对SVM参数寻优，并选取训练集对SVM分类器进行训练；

粒子群算法PSO粒子的搜索行为受到群内其他粒子的搜索行为的影响而易陷入局部最优解，而人工蜂群算法ABC局部搜索能力较弱且收敛速度比较慢；ABC算法能弥补PSO算法陷入局部解，两者的结合提高PSO算法的寻优能力，相关公式如下：

粒子群中粒子位置及速度的更新为：

人工蜂群算法中搜索方程为：

v_ij＝x_ij+φ_ij(x_ij-x_kj)

首先要将种群规模、PSO速度范围、ABC蜜源数及参数、ABC算法和PSO算法的(C,σ)及初始适应值进行初始化；然后划分为2个独立子种群并联合应用ABC算法和PSO算法计算适应值，每独立计算一次比较取最优；最后将两者达到最大迭代次数时的最优适应值作为SVM最优参数，实现应用两个算法的联合对SVM的参数寻优；

将训练集特征结合相应类别标签输入上述SVM参数寻优算法进行交叉验证，确定SVM的σ和C，根据最佳参数使用训练集对SVM进行训练；

步骤十：选取信噪比为-3～8dB情况下的9类雷达信号时频图像共32400张图片，其中，每类雷达信号单一信噪比下的时频图像各300张；从数据集的每类雷达信号单一信噪比下随机选210张，共22680张作为训练集，数据集每类雷达信号单一信噪比下剩余的90张，共9720张作为测试集；利用训练后的SVM分类器对时频图像的训练集进行识别，并验证FT-VGGNET-fc6-SVM分类器的识别率。

与现有技术相比，本发明的优点在于：

1、提出了将Renyi熵与CNN提取时频图像特征联合，接入SVM并结合迁移学习理论对雷达信号进行调制识别，克服了CNN与SVM各自的局限性，相较于目前识别算法其识别速度更快、识别率更高(尤其低信噪比下)、有效性更好以及识别***鲁棒性更高；

2、CNN作为深层网络能获取更具代表性的信息，从而使调制识别特征更加全面有效，应用CNN自动提取图像特征，解决了人工提取特征速度慢和提取特征不全面的问题，且能够提高***稳定性；

3、图像输入构建的FT-VGGNet-fc6特征迁移模块，CNN提取输出特征量级大，应用PCA降维可以有效地找出最主要的95个特征，去除冗余及无效信息，使识别***的有效性远远超越单纯应用CNN调制识别的***；

4、Renyi熵具有熵特征公有的强抗噪能力，尤其在低信噪比下识别率高于基于其他特征所得识别率，所以在CNN提取特征降维后再人工提取预处理图像中Renyi熵，共同归一化使两者结合会提高识别***的抗噪能力；

5、利用SVM需要非常小量的训练样本就可以得到类别模式的特点，有效避免了卷积神经网络由于样本类别数过少导致全连接层间神经单元数量陡降的问题，且应用SVM能使***泛化性能与鲁棒性得到有效提升；

6、设置好的FT-VGGNET-fc6-SVM在面对小样本时对SVM分类器训练即可应用，而面对大量数据时可固定特征抽取参数进行特征迁移，使得雷达信号数据集可以利用大型数据库训练整个网络，以此得到更有区分度和鲁棒性更高的特征。

附图说明

图1是本发明涉及的imagenet-vgg-verydeep-19网络结构图；

图2是本发明联合熵与预训练CNN提取时频图像特征的调制识别流程图；

图3是本发明的FT-VGGNET-fc6-SVM分类器的测试结果图。

具体实施方式

下面结合附图对本发明做进一步描述：

首先将待识别的9类雷达信号集进行Choi-Williams分布(CWD)时频变换得到时频图像；然后基于MatConvNet官网提供的预训练卷积神经网络模型imagenet-vgg-verydeep-19，将时频图像大小调整至224×224×3，使预训练网络模型的参数保持不变，由其Input输入层至fc6全连接层构成FT-VGGNet-fc6特征迁移提取模块；接着将调整后图像送入特征迁移提取模块，输出雷达信号时频图像特征，应用PCA对特征降维至95个特征；再对调整后图像进行灰度化，人工提取处理后图像的Renyi熵，将降维特征与Renyi熵共同归一化后组合构成新的雷达信号时频图像特征；接下来按照一定比例划分训练集与测试集，将粒子群算法(PSO)与人工蜂群算法(ABC)结合，联合应用两算法计算适应值，每独立计算一次比较取最优，直到到达最大迭代次数取最优值，实现两算法联合对SVM参数寻优，并选取训练集对SVM分类器进行训练；最后，利用训练后的SVM分类器对时频图像的训练集进行识别，利用多信噪比下9类雷达信号组成的数据集验证FT-VGGNET-fc6-SVM分类器的识别率。

具体包括以下步骤：

步骤一：依据表1提供的9类雷达信号参数值，产生由CW、LFM、BPSK、COSTAS、FRANK、P1、P2、P3、P4组成的雷达信号集。

表1

步骤二：对雷达信号这类非平稳信号的分析处理不能单单局限于时域或频域，要对雷达信号进行时频分析，而CWD能在获得较好地时间、频率分辨率的同时有效抑制交叉项，应用CWD将待识别的雷达信号集进行时频变换得到时频图像，对应CWD公式如下：

时变的局部相关函数可通过对相关函数作滑窗处理得到：

当窗函数取时间冲击函数，不加限制，而在时域取瞬时值：

对时变局部相关函数作Fourier变换，即可得到Wigner Ville分布(WVD)：

WVD可通过添加核函数得到CWD：

步骤三：预训练卷积神经网络模型选用MatConvNet官网提供的imagenet-vgg-verydeep-19，由于imagenet-vgg-verydeep-19模型需要输入固定大小的三原色(RGB)图像，因此需要将图片转换为224×224×3大小的图像。使imagenet-vgg-verydeep-19网络参数保持不变，由其Input输入层至fc6全连接层构成FT-VGGNet-fc6特征迁移提取模块。

步骤四：将步骤三调整后的图像集送入特征迁移提取模块，产生雷达信号时频图像特征，使用保留至fc6全连接层的FT-VGGNet-fc6特征迁移提取模块可得

8×512个雷达信号时频图像特征。

步骤五：FT-VGGNet-fc6特征迁移提取模块输出的特征过多，会有冗余信息出现导致训练速度和***有效性下降，可用PCA降维保留具有显著区分度的95个特征。具体而言，PCA将时频图像作为原始样本构成一个数据矩阵：

其协方差矩阵为R＝XX^T，可对该协方差矩阵作特征值分解：

R_M×M＝U∧U^T (6)

式中，T表示转置，∧为协方差矩阵的特征值对角阵，U为相应的特征矩阵，对时频图像作如下变换：

P_M×N＝U^TX＝[p₁,p₂,…,p_M]^T (7)

式中，P为时频图像二值矩阵的主成分，p₁是第一主成分，p_j为第j主成分，选取前k个主成分，构成时频图像的特征矩阵。

步骤六：对调整后的时频图像进行图像灰度化，三分量为R、G和B的彩色图像像素对应该点的亮度可用灰度化公式计算为：

I＝0.3B+0.59G+0.11R (8)

步骤七：提取灰度图像中能提高***识别率尤其低信噪比条件下识别率的Renyi熵，并使之与降维后的95个特征共同归一化组合构成100个新的雷达信号时频图像特征。时频图像的Renyi熵表示为：

式中,P^α(t,f)表示信号的时频分布。对于Renyi熵阶数α的选取，本实施例不考虑非整数阶α产生复数的熵值的情况，主要选取阶数为3、5、7、9、11的Renyi熵作为信号的识别特征。

步骤八：针对9种雷达信号，选取每类雷达信号在信噪比为0dB时时频图像各300张，将雷达信号时频图像特征按7:3的比例随机分为训练集和测试集。

步骤九：粒子群算法(PSO)粒子的搜索行为受到群内其他粒子的搜索行为的影响而易陷入局部最优解，而人工蜂群算法(ABC)局部搜索能力较弱且收敛速度比较慢。ABC算法能弥补PSO算法陷入局部解，两者的结合可以提高PSO算法的寻优能力，相关公式如下：

粒子群中粒子位置及速度的更新为：

人工蜂群算法中搜索方程为：

v_ij＝x_ij+φ_ij(x_ij-x_kj) (11)

首先要将种群规模、PSO速度范围、ABC蜜源数及参数、ABC算法和PSO算法的(C,σ)及初始适应值进行初始化；然后划分为2个独立子种群并联合应用ABC算法和PSO算法计算适应值，每独立计算一次比较取最优；最后将两者达到最大迭代次数时的最优适应值作为SVM最优参数，实现应用两个算法的联合对SVM的参数寻优。

将训练集特征结合相应类别标签输入上述SVM参数寻优算法进行交叉验证，确定SVM的σ和C，根据最佳参数使用训练集对SVM进行训练。

步骤十：选取信噪比为-3～8dB情况下的9类雷达信号时频图像共32400张图片，其中，每类雷达信号单一信噪比下的时频图像各300张。从数据集的每类雷达信号单一信噪比下随机选210张，共22680张作为训练集，数据集每类雷达信号单一信噪比下剩余的90张，共9720张作为测试集。利用训练后的SVM分类器对时频图像的训练集进行识别，并验证FT-VGGNET-fc6-SVM分类器的识别率。

图3给出FT-VGGNet-fc6-SVM分类器的测试结果，其识别率随着信噪比的增加呈上升趋势，到5dB之后趋于平滑。在-3dB取得了87％的识别率，之后呈稳步上升趋势，并在7dB时达到99％以上，表明了本发明对雷达辐射源信号调制识别率(尤其低信噪比下)较高。此外，本发明测试稳定，识别率未出现大幅度的波动，表明了本发明稳定性与鲁棒性较好，具有很好的实用性。

本发明提供了一种联合熵与预训练CNN提取时频图像特征的调制识别方法，具体实现该技术方案的方法和途径很多，以上所述仅是本发明的优选实施方式。本实施例中未明确的各组成部分均可用现有技术加以实现。

Claims (1)

1.联合熵与预训练CNN提取时频图像特征的调制识别方法，其特征在于，包括以下步骤：

步骤一依据九类雷达信号参数，产生由CW、LFM、BPSK、COSTAS、FRANK、P1、P2、P3、P4组成的雷达信号集；所述的九类雷达信号参数包括：采样频率、采样点数、CW调制方式载频、巴克码、带宽、频率序列、起始频率、P3和P4调制方式产生的载频以及FRANK、P1、P2、调制方式产生的载频；

步骤二对雷达信号进行时频分析，应用CWD将待识别的雷达信号集进行时频变换得到时频图像；对应CWD公式如下：

时变的局部相关函数通过对相关函数作滑窗处理得到：

当窗函数取时间冲击函数，不加限制，而在时域取瞬时值：

对时变局部相关函数作Fourier变换，得到Wigner Ville分布(WVD)：

WVD通过添加核函数得到CWD：

步骤三预训练卷积神经网络模型选用MatConvNet官网提供的imagenet-vgg-verydeep-19，将图片转换为224×224×3大小的图像；使imagenet-vgg-verydeep-19网络参数保持不变，由其Input输入层至fc6全连接层构成FT-VGGNet-fc6特征迁移提取模块；

步骤四将步骤三调整后的图像集送入特征迁移提取模块，产生雷达信号时频图像特征，使用保留至fc6全连接层的FT-VGGNet-fc6特征迁移提取模块得8×512个雷达信号时频图像特征；

步骤五FT-VGGNet-fc6特征迁移提取模块输出的特征过多，会有冗余信息出现导致训练速度和***有效性下降，用PCA降维保留具有显著区分度的95个特征；

PCA将时频图像作为原始样本构成一个数据矩阵：

其协方差矩阵为R＝XX^T，对该协方差矩阵作特征值分解：

R_M×M＝U∧U^T

式中，T表示转置，∧为协方差矩阵的特征值对角阵，U为相应的特征矩阵，对时频图像作如下变换：

P_M×N＝U^TX＝[p₁,p₂,…,p_M]^T

式中，P为时频图像二值矩阵的主成分，p₁是第一主成分，p_j为第j主成分，选取前k个主成分，构成时频图像的特征矩阵；

步骤六对调整后的时频图像进行图像灰度化，三分量为R、G和B的彩色图像像素对应该点的亮度用灰度化公式计算为：

I＝0.3B+0.59G+0.11R；

步骤七提取灰度图像中能提高***识别率尤其低信噪比条件下识别率的Renyi熵，并使之与降维后的95个特征共同归一化组合构成100个新的雷达信号时频图像特征；时频图像的Renyi熵表示为：

式中，P^α(t,f)表示信号的时频分布；对于Renyi熵阶数α的选取，不考虑非整数阶α产生复数的熵值的情况，选取阶数为3、5、7、9、11的Renyi熵作为信号的识别特征；

步骤八针对九种雷达信号，选取每类雷达信号在信噪比为0dB时时频图像各300张，将雷达信号时频图像特征按7:3的比例随机分为训练集和测试集；

步骤九划分训练集与测试集，将粒子群算法(PSO)与人工蜂群算法(ABC)结合，联合应用两算法计算适应值，每独立计算一次比较取最优，直到到达最大迭代次数取最优值，实现两算法联合对SVM参数寻优，并选取训练集对SVM分类器进行训练；

粒子群算法PSO粒子的搜索行为受到群内其他粒子的搜索行为的影响而易陷入局部最优解，而人工蜂群算法ABC局部搜索能力较弱且收敛速度比较慢；ABC算法能弥补PSO算法陷入局部解，两者的结合提高PSO算法的寻优能力，相关公式如下：

粒子群中粒子位置及速度的更新为：

人工蜂群算法中搜索方程为：

v_ij＝x_ij+φ_ij(x_ij-x_kj)

首先要将种群规模、PSO速度范围、ABC蜜源数及参数、ABC算法和PSO算法的(C,σ)及初始适应值进行初始化；然后划分为2个独立子种群并联合应用ABC算法和PSO算法计算适应值，每独立计算一次比较取最优；最后将两者达到最大迭代次数时的最优适应值作为SVM最优参数，实现应用两个算法的联合对SVM的参数寻优；

将训练集特征结合相应类别标签输入上述SVM参数寻优算法进行交叉验证，确定SVM的σ和C，根据最佳参数使用训练集对SVM进行训练；

步骤十：选取信噪比为-3～8dB情况下的9类雷达信号时频图像共32400张图片，其中，每类雷达信号单一信噪比下的时频图像各300张；从数据集的每类雷达信号单一信噪比下随机选210张，共22680张作为训练集，数据集每类雷达信号单一信噪比下剩余的90张，共9720张作为测试集；利用训练后的SVM分类器对时频图像的训练集进行识别，并验证FT-VGGNET-fc6-SVM分类器的识别率。