CN112702294B - 一种基于深度学习的多层次特征提取的调制识别方法 - Google Patents

Abstract

本发明公开了一种基于深度学习的多层次特征提取的调制识别方法，包括以下步骤：S1：利用一维卷积，探索IQ信号各分量之间的隐藏特征信息；S2：结合二维卷积块，对步骤S1中提取的隐藏特征信息及原始IQ信号进一步特征提取得到高阶空间融合特征，将得到的高阶空间融合特征送入时序特征提取模块的长短期记忆网络，向时序特征提取模块中引入注意力机制，提取出重要的时序特征；S3：集成空间融合特征与时序特征提取模块；S4：将空间融合特征信息和时序特征信息进行互补，完成对多种调制信号的识别；通过强调I/Q信号各分量之间的重要影响，充分挖掘I/Q信号之间的隐藏信息，有效避免了信息的丢失。

Description

一种基于深度学习的多层次特征提取的调制识别方法

技术领域

本发明涉及无线电调制识别领域，具体是一种基于深度学习的多层次特征提取的调制识别方法。

背景技术

自动调制识别属于无线通信领域的一项重要技术，其在民用和军事领域都有着广泛的应用。而在传输数据以及发送端参数未知的前提下，对无线电信号的调制方式进行盲识别是一个重大的挑战。总体来说，关于调制识别的方法，一般分为两类：基于似然比的调制识别方法和基于特征的调制识别方法。而基于似然比的调制识别方法，需要较强的先验知识，通过对信号的似然函数进行处理，将得到的似然比与设定的阈值进行比较，从而完成调制信号的识别。这种方法计算复杂度较高且严重依赖阈值的设置，对参数偏差比较敏感，模型鲁棒性较差。基于特征的识别方法，主要包括预处理、特征提取和分类器选择三个步骤。传统的调制信号特征提取包括基于高阶累积量的特征参数提取，基于循环谱分析的方法，基于小波变换的特征提取，基于星座图的变换分析等方法，然后再将这些人为提取的专家特征，用决策树或者支持向量机等分类器进行调制方式识别。这类特征都属于专家知识，需要较强的专业知识，且应用范围有限制，有一定的局限性。

现有的基于神经网络的调制识别方法主要是利用卷积神经网络或者循环神经网络，通过精心设计的网络模型，完成调制识别。这些方法大都忽略了I/Q信号各分量之间存在的互信息，并在网络计算过程中，存在信息的丢失，而且在实际传输过程中，存在频率偏移，多径衰落等复杂环境的影响，加大了某些调制类别的识别困难。所以，如何充分挖掘I/Q信号之间的隐藏信息，重视I分量和Q分量之间的相互影响，便成为无线电调制识别领域亟待解决的问题。

发明内容

本发明的目的在于克服现有技术忽略了I/Q信号各分量之间存在的互信息导致信息丢失的不足，提供了一种基于深度学习的多层次特征提取的调制识别方法，通过强调I/Q信号各分量之间的重要影响，充分挖掘I/Q信号之间的隐藏信息，有效避免了信息的丢失。

本发明的目的主要通过以下技术方案实现：

一种基于深度学习的多层次特征提取的调制识别方法，包括以下步骤：

S1：利用一维卷积，探索IQ信号各分量之间的隐藏特征信息；

S2：结合二维卷积块，采用空间融合特征提取模块对步骤S1中提取的隐藏特征信息及原始IQ信号进一步特征提取得到高阶空间融合特征，将得到的高阶空间融合特征送入时序特征提取模块的长短期记忆网络，向时序特征提取模块中引入注意力机制，提取出重要的时序特征；

S3：集成空间融合特征提取模块与时序特征提取模块；

S4：将空间融合特征信息和时序特征信息进行互补，完成对多种调制信号的识别。

在通信领域，I/Q信号包含I正交分量和Q同相分量，两者结合组成了一个完整的样本点，便于确定信号的多种特征信息，例如瞬时幅度、相位和功率等，所以通过提取IQ信号的瞬时幅度和相位特征，利用长短期记忆网络，实现了对多种调制方式的较高识别准确率，说明了各IQ信号分量之间存在重要的关联，又由于不同调制类型的IQ信号具有其对应的规则，以及在实际信道传输过程中，存在多径衰落、频率偏移，路径损耗等复杂影响，因此，为了提高调制识别的鲁棒性，克服多种环境影响，本发明提出了一种多层次特征融合的算法；首先利用一维卷积，探索IQ信号各分量之间的隐藏特征信息，本发明中的隐藏特征是指I通道分量和Q通道分量之间的互信息，例如，通过I分量和Q分量可计算该调制信号的瞬时幅度和瞬时相位等瞬时特征，这里是利用一维卷积探索这两分量之间的重要信息，此后再结合二维卷积提取空间特征的优点，将网络提取的高阶空间融合特征信息，送入长短期记忆网络进行时间特征提取，并引入注意力机制，使其充分挖掘重要的时间特征。通过卷积神经网络和长短期记忆网络的集成，实现了IQ信号空间特征和时间特征信息之间的互补，完成了对多种调制信号的高精度识别，本发明通过强调I/Q信号各分量之间的重要影响，充分挖掘I/Q信号之间的隐藏信息，有效避免了信息的丢失。

进一步的，所述空间融合特征的提取包括以下步骤：

S11：对IQ信号进行批归一化；

S12：将规则化后的IQ信号送入一维卷积层并提取IQ各分量信号之间的互信息，得到第一数组；

S13：通过Concatenate1操作，即对原始IQ信号与第一数组进行拼接融合，得到第二数组；

S14：利用二维卷积层将第二数组送入两个注意力残差块，并提取特征信息；

S15：将步骤S14中提取的特征信息送入到一个批归一化层和一个二维卷积层，实现跨通道交互和信息整合，得到空间特征；

S16：通过Concatenate2操作，即对原始IQ信号与所述空间特征进行拼接组合，得到空间融合特征。

在本发明的空间融合特征的提取过程中，所述批归一化层被用来加速网络训练，能解决复杂模型的训练难度，还能防止梯度的消失和内部数据分布的偏移现象，所述IQ信号被规则化，然后将规则化后的IQ信号送入一维卷积层，目的是为了提取IQ各分量信号之间的互信息，挖掘其隐藏的瞬时特征，从而得到相应的数组，将数组通过Concatenate1操作，原始IQ信号与提取的特征值进行拼接融合，得到进一步的一个数组，其中既包含了原始IQ样本点，还包括了通过一维卷积层提取的隐含特征。这样不仅避免了原始有用信息的丢失，还有效的结合了提取的信号特征，使得每个IQ信号样本点由原来只包含I分量和Q分量两维度扩充到更多维，丰富了其特征信息，再将融合后的IQ特征信息，利用二维卷积层的空间特征提取能力，送入两个注意力残差块，再通过Concatenate2操作，将原始IQ信号与之前卷积神经网络提取的空间特征进行拼接组合，实现原始信号特征的复用，得到空间融合特征，本发明中Concatenate1和Concatenate2操作均为现有的Concatenate函数操作，所述的在本发明中所述Concatenate操作是将得到的数组按照某个轴进行拼接，通过对IQ信号规则化处理、送入一维卷积层、Concatenate1操作、二维卷积层、两个注意力残差块和Concatenate2操作，将空间融合特征完整有效的提取出来。

进一步的，所述注意力残差块由标准残差网络构成，一共由三个卷积层组成，在每个卷积层之间添加批归一化层，并使用ReLU激活函数。所述注意力残差块主体结构是由标准残差网络构成，一共由三个卷积层组成，在每个卷积层之间添加批归一化层，并使用ReLU激活函数，提升其非线性映射能力，经过注意力残差块的数组送入到一个批归一化层和一个二维卷积层，进而实现跨通道的交互和信息整合。

进一步的，在所述步骤S14的两个注意力残差块中均引入注意力机制，所述注意力机制包括以下步骤：

S141：提取特征映射U；

S142：将提取出的特征映射U通过全局平均池化技术压缩到通道描述符

， 其中z的第C个元素通过下式计算：

所述z的每个元素都具有特征映射U的全局感受野，式中H代表每个通道特征映射图的高度，W代表每个通道特征映射图的宽度；

S143：将所述通道描述符z代入包含两个全连接层的激励部分，并通过两个全连接层的维度变换学习各个通道的权重，将获得的权重乘以相应通道的特征图以重新校准特征图，所述重新校准特征图与输入的所述第二数组相加，得到特征信息。

为了进一步地提升有用信息的利用率和模型的特征提取能力，本发明还引入了通 道注意力机制，这种机制的实现主要包括压缩和激励两部分。压缩部分依靠特征映射U通过 全局平均池化技术压缩到通道描述符

中来实现，而激励部分包含两个全连接层，全 连接层的维度控制通过超参数r控制。通过两个全连接层的维度变换学习各个通道的权重， 然后将获得的权重乘以相应通道的特征图以重新校准特征图，这类似于分别应用于每个通 道的门控机制。它是一种轻量级的选通机制，用于通过建立逐通道关系来提高网络表示能 力。最后将通过重校准后的特征图与之前输入的数组进行相加操作，从而实现残差学习的 目的，避免了网络的退化。

进一步的，所述时序特征提取模块由两层双向长短期记忆网络和全连接层构成。为了从多方位提取调制信号的内在特征，本发明将获取的空间融合特征输入到由两层双向长短期记忆网络和全连接层构成的网络，期望其能够提取调制信号蕴含的时序特征，其中双向长短期记忆网络的优点是可以提取输入序列数据过去和未来的关联信息，能捕获更加完整的时序特征。

进一步的，所述时序特征提取模块中时序特征的提取步骤包括：

S21：将空间融合特征输入时序特征提取模块；

S22：经过两层双向长短期记忆网络后，提取位于最后一层双向长短期记忆网络输出中部的向量，并对其利用全连接层进行投影作为查询向量，然后与双向长短期记忆网络的输出进行点积操作，再利用softmax函数进行归一化，得到注意力概率分布值；

S23：将所述注意力概率分布值与最后一层双向长短期记忆网络的输出进行点积运算，得到时序特征向量。

由于双向长短期记忆网络内部存储有大量的信息，为了过滤掉不相关的特征信息，使得模型关注更重要的时序特征，我们在两层双向长短期记忆网络的最后输出添加了注意力机制。本发明提取位于最后一层双向长短期记忆网络输出中部的向量，并对其利用全连接层进行投影作为查询向量，然后与双向长短期记忆网络的输出进行点积操作，再利用softmax函数进行归一化，得到最终的注意力概率分布值。接下来，将该注意力分数值，即一个向量，与最后一层双向长短期记忆网络的输出进行点积运算，得到最终的特征向量。

综上所述，本发明与现有技术相比具有以下有益效果：

（1）本发明通过卷积神经网络和长短期记忆网络的集成，实现了IQ信号空间特征和时序特征信息之间的互补，完成了对多种调制信号的高精度识别，由此通过强调I/Q信号各分量之间的重要影响，充分挖掘I/Q信号之间的隐藏信息，有效避免了信息的丢失。

（2）通过对IQ信号规则化处理、送入一维卷积层、Concatenate1操作、二维卷积层、两个注意力残差块和Concatenate2操作，将空间融合特征完整有效的提取出来。

（3）本发明将获取的空间融合特征输入到由两层双向长短期记忆网络和全连接层构成的网络，期望其能够提取调制信号蕴含的时序特征。

附图说明

此处所说明的附图用来提供对本发明实施例的进一步理解，构成本申请的一部分，并不构成对本发明实施例的限定。在附图中：

图1为本发明原理图；

图2为本发明注意力残差块原理图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，下面结合实施例和附图，对本发明作进一步的详细说明，本发明的示意性实施方式及其说明仅用于解释本发明，并不作为对本发明的限定。

实施例1：

如图1所示，本实施例涉及一种基于深度学习的多层次特征提取的调制识别方法，包括以下步骤：

S1：利用一维卷积，探索IQ信号各分量之间的隐藏特征信息；

S2：结合二维卷积块，采用空间融合特征提取模块对步骤S1中提取的隐藏特征信息及原始IQ信号进一步特征提取得到高阶空间融合特征，将得到的高阶空间融合特征送入时序特征提取模块的长短期记忆网络，向时序特征提取模块中引入注意力机制，提取出重要的时序特征；

S3：集成空间融合特征提取模块与时序特征提取模块；

S4：将空间融合特征信息和时序特征信息进行互补，完成对多种调制信号的识别。

本实施例首先利用一维卷积，探索IQ信号各分量之间的隐藏特征信息，本发明中的隐藏特征是指I通道分量和Q通道分量之间的互信息，此后再结合二维卷积提取空间特征的优点，将网络提取的高阶空间融合特征信息，送入长短期记忆网络进行时间特征提取，并引入注意力机制，使其充分挖掘重要的时间特征。通过卷积神经网络和长短期记忆网络的集成，实现了IQ信号空间特征和时间特征信息之间的互补，完成了对多种调制信号的高精度识别。

由于IQ信号调制识别本质上属于多分类任务，因此，一般将各种调制信号类型标 签进行独热编码，并使用交叉熵损失函数。而由于输入的每种调制类型，有些类别之间较为 相似，再加上不同程度噪声的影响，很容易造成过拟合，使得模型对于分类结果过于自信， 导致对较难识别的调制类型错分类，在本实施例中引入标签平滑技术对每一种调制类型的 标签进行一定处理，以防止过拟合，以训练样本x为例，对于训练样本x对应的标签y，本实施 例需要替代标签分布

，利用公式如下：

其中ϵ代表平滑参数，本实施例中采用的0.2，u（k）代表标签的分布，由于实验中每种调制类型样本数量相同，因此本实施例采用均匀分布，令u（k）=1/K，K等于标签类别数。

实施例2：

如图1所示，本实施例在实施例1的基础上，所述空间融合特征的提取包括以下步骤：

S11：对IQ信号进行批归一化；

S12：将规则化后的IQ信号送入一维卷积层并提取IQ各分量信号之间的互信息，得到第一数组；

S13：通过Concatenate1操作，即对原始IQ信号与第一数组进行拼接融合，得到第二数组；

S14：利用二维卷积层将第二数组送入两个注意力残差块，并提取特征信息；

S15：将步骤S14中提取的特征信息送入到一个批归一化层和一个二维卷积层，实现跨通道交互和信息整合，得到空间特征；

S16：通过Concatenate2操作，即对原始IQ信号与所述空间特征进行拼接组合，得到空间融合特征。

本实施例中所述IQ信号被规则化，IQ信号被规则化后的尺寸为2*128，然后将规则化后的尺寸为2*128IQ信号送入尺寸为5，卷积核个数为25的一维卷积层，目的是为了提取IQ各分量信号之间的互信息，挖掘其隐藏的瞬时特征，从而得到尺寸为25*128的数组，将数组通过Concatenate1操作，原始IQ信号与提取的特征值进行拼接融合，得到一个27*128的数组，其中27既包含了原始IQ样本点，还包括了通过一维卷积层提取的隐含特征，128表示每一帧的样本点个数，再将融合后的IQ特征信息，利用二维卷积层的空间特征提取能力，送入两个注意力残差块，再通过Concatenate2操作，将原始IQ信号与之前卷积神经网络提取的空间特征进行拼接组合，实现原始信号特征的复用，得到空间融合特征。

实施例3：

如图1~2所示，本实施例在实施例2的基础上，所述注意力残差块由标准残差网络构成，一共由三个卷积层组成，在每个卷积层之间添加批归一化层，并使用ReLU激活函数。

实施例4：

如图1~2所示，本实施例在实施例2或3的基础上，在所述步骤S14的两个注意力残差块中均引入注意力机制，所述注意力机制包括以下步骤：

S141：提取特征映射U；

S142：将提取出的特征映射U通过全局平均池化技术压缩到通道描述符

中，其中z的第C个元素通过下式计算：

所述z的每个元素都具有特征映射U的全局感受野，式中H代表每个通道特征映射图的高度，W代表每个通道特征映射图的宽度；

S143：将所述通道描述符z代入包含两个全连接层的激励部分，并通过两个全连接层的维度变换学习各个通道的权重，将获得的权重乘以相应通道的特征图以重新校准特征图，所述重新校准特征图与输入的所述第二数组相加，得到特征信息。

实施例5：

如图1~2所示，本实施例在实施例1~4任一实施例的基础上，所述时序特征提取模块中时序特征的提取步骤包括：

S21：将空间融合特征输入时序特征提取模块；

S22：经过两层双向长短期记忆网络后，提取位于最后一层双向长短期记忆网络输出中部的向量，并对其利用全连接层进行投影作为查询向量，然后与双向长短期记忆网络的输出进行点积操作，再利用softmax函数进行归一化，得到注意力概率分布值；

S23：将所述注意力概率分布值与最后一层双向长短期记忆网络的输出进行点积运算，得到时序特征向量。

本实施例中提取位于最后一层双向长短期记忆网络输出中部的向量，并对其利用全连接层进行投影作为查询向量，然后与双向长短期记忆网络的输出进行点积操作，再利用softmax函数进行归一化，得到最终的注意力概率分布值。接下来，将该注意力分数值，即一个向量，与最后一层双向长短期记忆网络的输出进行点积运算，得到最终的特征向量，为了将提取的特征向量映射到更加容易分离的空间，本实施例使用了两个全连接层，其中激活函数选择的是‘selu’，并采取了dropout策略，防止过拟合，最后输入到单元个数为需要区分的调制方式数目的全连接层，并采用softmax函数，从而得到IQ信号对应于每一类调制方式的置信度。

实施例6：

如图1~2所示，本实施例在实施例1~5的基础上，设计实验。

由于实际上，接收机接收到的I/Q信号y(t)可以表示为

其中s(t)代表调制后的信号， h(t)代表信道脉冲响应，n(t)表示添加的高斯白噪声。

在本实施例中，采用的是此前公开的无线电标准数据集RML2016.10a。它一共包括11类常见的调制信号（BPSK，QPS，8PSK，16QAM，64QAM，BFSK，CPFSKWB-FM，AM-SSB，AM-DSB和PAM4），每种调制类型包括从-20dB到18dB，间隔为2的信噪比，每一种信噪比对应的每一类调制信号数量为1000条。整个数据集一共220000条样本，每条IQ信号样本尺寸为2*128。在信号生成过程中，除了添加噪声外，还考虑了中心频率偏移，采样率偏移，多径衰落等因素，以接近真实传输情况。

首先进行参数设置，本实施例中的实验所采用的神经网络框架是Keras，以tensorflow为后端。训练设备采用的是Nvidia GeForce RTX 2080。在训练过程中，batchsize设置为64，初始学习率为0.001，并引入逐步衰减策略，每隔10个epoch衰减一次。数据集划分是根据每种信噪比对应的每一类调制信号以7:1:2的比例随机划分训练集、验证集和测试集。同时引入早停机制，即观察验证集准确率在10个epoch内有无提升，若没有，则停止训练。优化器选用的Adam。

其次，为了对比评估所提出的模型，本实施例与之前流行的算法做了对比，分别名为VTCNN2，LSTM2，CLDNN，GRU。其中VTCNN2、CLDNN、GRU都是直接以IQ原始信号作为输入，通过精心设计的模型，实现调制信号识别的任务，而LSTM2是先将IQ调制信号进行预处理，提取瞬时幅度和相位，将对应振幅矢量进行L2标准化，相位矢量在-1到1区间进行归一化，然后将其送入长短期记忆网络进行训练。同时本实施例对本发明提出的网络模型中长短期记忆网络中引入的注意力机制进行了可视化，并对比了添加注意力和不添加注意力的影响，还比较了引入标签平滑技术和未引入标签平滑技术的差别。然后从模型复杂度以及训练时间方面说明了算法的优缺点。

最后，通过对比五种算法，本实验得到以下结论：当信噪比大于等于-6dB时，本发明提出的算法对调制信号的识别准确率明显优于其他算法。4dB SNR以上，识别准确率稳定在92%附近，其中信噪比为16dB时，识别准确率最高可达92.68%，说明了这种模型的稳定和可靠性。0到18dB信噪比，平均识别率为91.3%，相比于其他模型，准确度提升了接近1%~17%。

以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (3)

1.一种基于深度学习的多层次特征提取的调制识别方法，其特征在于，包括以下步骤：

S1：利用一维卷积，探索IQ信号各分量之间的隐藏特征信息；

S2：结合二维卷积块，采用空间融合特征提取模块对步骤S1中提取的隐藏特征信息及原始IQ信号进一步特征提取得到高阶空间融合特征，将得到的高阶空间融合特征送入时序特征提取模块的长短期记忆网络，向时序特征提取模块中引入注意力机制，提取出重要的时序特征；

S3：集成空间融合特征提取模块与时序特征提取模块；

S4：将空间融合特征信息和时序特征信息进行互补，完成对多种调制信号的识别；

所述空间融合特征的提取包括以下步骤：

S11：对IQ信号进行批归一化；

S12：将规则化后的IQ信号送入一维卷积层并提取IQ各分量信号之间的互信息，得到第一数组；

S13：通过Concatenate1操作，即对原始IQ信号与第一数组进行拼接融合，得到第二数组；

S14：利用二维卷积层将第二数组送入两个注意力残差块，并提取特征信息；

S15：将步骤S14中提取的特征信息送入到一个批归一化层和一个二维卷积层，实现跨通道交互和信息整合，得到空间特征；

S16：通过Concatenate2操作，即对原始IQ信号与所述空间特征进行拼接组合，得到空间融合特征；

所述时序特征提取模块由两层双向长短期记忆网络和全连接层构成；

所述时序特征提取模块中时序特征的提取步骤包括：

S21：将空间融合特征输入时序特征提取模块；

S22：经过两层双向长短期记忆网络后，提取位于最后一层双向长短期记忆网络输出中部的向量，并对其利用全连接层进行投影作为查询向量，然后与双向长短期记忆网络的输出进行点积操作，再利用softmax函数进行归一化，得到注意力概率分布值；

S23：将所述注意力概率分布值与最后一层双向长短期记忆网络的输出进行点积运算，得到时序特征向量。

2.根据权利要求1所述的一种基于深度学习的多层次特征提取的调制识别方法，其特征在于，所述注意力残差块由标准残差网络构成，一共由三个卷积层组成，在每个卷积层之间添加批归一化层，并使用ReLU激活函数。

3.根据权利要求1所述的一种基于深度学习的多层次特征提取的调制识别方法，其特征在于，在所述步骤S14的两个注意力残差块中均引入注意力机制，所述注意力机制包括以下步骤：

S141：提取特征映射U；

S142：将提取出的特征映射U通过全局平均池化技术压缩到通道描述符ZϵR^C中，其中z的第C个元素通过下式计算：

所述z的每个元素都具有特征映射U的全局感受野，式中H代表每个通道特征映射图的高度，W代表每个通道特征映射图的宽度；

S143：将所述通道描述符z代入包含两个全连接层的激励部分，并通过两个全连接层的维度变换学习各个通道的权重，将获得的权重乘以相应通道的特征图以重新校准特征图，所述重新校准特征图与输入的所述第二数组相加，得到特征信息。

Images