CN113705787A - 一种基于深度协同训练的数字调制信号识别方法 - Google Patents

一种基于深度协同训练的数字调制信号识别方法 Download PDF

Info

Publication number
CN113705787A
CN113705787A CN202110995377.5A CN202110995377A CN113705787A CN 113705787 A CN113705787 A CN 113705787A CN 202110995377 A CN202110995377 A CN 202110995377A CN 113705787 A CN113705787 A CN 113705787A
Authority
CN
China
Prior art keywords
data set
modulation signal
digital modulation
network
marked
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110995377.5A
Other languages
English (en)
Other versions
CN113705787B (zh
Inventor
罗程
王卫东
甘露
廖红舒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Research Institute Of Yibin University Of Electronic Science And Technology
University of Electronic Science and Technology of China
Original Assignee
Research Institute Of Yibin University Of Electronic Science And Technology
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Research Institute Of Yibin University Of Electronic Science And Technology, University of Electronic Science and Technology of China filed Critical Research Institute Of Yibin University Of Electronic Science And Technology
Priority to CN202110995377.5A priority Critical patent/CN113705787B/zh
Publication of CN113705787A publication Critical patent/CN113705787A/zh
Application granted granted Critical
Publication of CN113705787B publication Critical patent/CN113705787B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00—Reducing energy consumption in communication networks
    • Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Digital Transmission Methods That Use Modulated Carrier Waves (AREA)

Abstract

本发明属于深度学习技术领域，具体是涉及一种基于深度协同训练的数字调制信号识别方法。本传统的基于深度学习的数字调制信号识别方法需要大量有标记的数据样本进行训练。在实际通信活动中，仅容易获得大量未标记信号样本，获取人工标记成本高且效率低。本发明搭建了两个CLDNN网络进行协同训练，利用生成对抗实现视图的差异化，充分利用大量无标记样本辅助少量有标记样本下的学习，有效地提升了识别准确率，增强了深度学习在数字调制信号识别任务中的可行性和实用性。

Description

一种基于深度协同训练的数字调制信号识别方法
技术领域
本发明属于深度学习技术领域，具体是涉及一种基于深度协同训练的数字调制信号识别方法。
背景技术
数字信号调制识别是无线通信领域的一项重要技术，其在民用和军事领域都有广泛的应用。数字信号调制识别的任务主要是在仅有少量先验信息或者在没有先验信息的条件下对信号的调制类型进行确认，是信号检测与解调之间的重要步骤。随着无线通信的快速发展，信号的调制方式变得多种多样，调制识别的代价也随之增加。
调制识别的方法一般可以分类两类：基于似然比的调制识别方法和基于特征的调制识别方法。基于似然比的调制识别方法能够在贝叶斯准则的意义下获得最优结果，但需要大量先验信息，且算法的复杂度高，对参数设置十分敏感，鲁棒性较差。基于特征的调制识别方法主要是利用已知的调制信号样本训练特征提取器，自动学习、提取信号特征，并根据提取的特征对未知的信号进行分类。常用的特征提取器有SVM、决策树、LSTM、CNN等。
现有的基于特征的调制识别方法，通常需要大量已知的有标记样本对特征提取器进行训练，得到最优特征提取器后再进行调制识别任务。在实际情况下，往往仅能获得大量无标记样本，有标记样本的获取十分困难且成本高昂。一般的基于特征的调制识别方法没有充分利用大量的无标记样本。所以，如何充分利用大量无标记样本实现在少量有标记样本下的数字信号调制识别，便成为无线电调制识别领域亟待解决的问题。
发明内容
为解决现有技术的不足，本发明提出了一种基于深度协同训练的数字信号调制识别方法。本发明的核心主要分为四个部分：一是对已知的信号数据进行预处理，实现数据的扩充；二是通过生成对抗算法生成对抗样本；三是利用对抗样本完成协同训练；四是基于训练完成的特征提取器完成对未知调制信号的类型确认。
本发明的技术方案为：
一种基于深度协同训练的数字调制信号识别方法，如图1所示，所述识别包括以下步骤：
S1、获取数字调制信号数据及标注，记为数据集D，对数据集D进行预处理，包括：划分数据集，包括有标记数据集S和无标记数据集U，有标记数据集记为
Figure BDA0003233682870000021
无标记数据集记为
Figure BDA0003233682870000022
且D＝S∪U且M＜＜N，x为有标记数据，y为x对应的标记，xu为无标记数据，M为有标记数据集数量，N为无标记数据集数量；对有标记数据集进行扩充；
S2、构建识别网络，包括两个结构相同的CLDNN网络，如图2所示，CLDNN网络包括卷积部分、LSTM层及两个全连接层构成；卷积部分包括三个卷积块，每个卷积块由一个卷积层、一个批归一化层和一个ReLU激活函数，每两个卷积块之间有一个核大小为2的均匀池化层；将两个CLDNN网络作为特征提取器，分别记为f1(·)和f2(·)，采用步骤S1获得的数据集对识别网络进行协同训练，所述协同训练具体为：
采用生成对抗算法根据数据集D生成对抗样本数据集D′，D′＝{g(x)|x∈D}，g(·)为生成对抗算法；两个CLDNN网络在有标记数据集S上的交叉熵损失为：
Lsup＝H(y，f1(x))+H(y，f2(x))
其中H(·)为交叉熵损失函数；
两个CLDNN网络在无标记数据集D上的JS散度损失为：
Lcot＝JS(f1(xu)||f2(xu))
其中JS(·)为JS散度；
CLDNN网络f1(·)在原始数据集D上的输出与网络f2(·)在对抗样本数据集D′上的输出的交叉熵损失函数，以及网络f2(·)在原始数据集D上的输出与网络f1(·)在对抗样本数据集D′上的输出的交叉熵损失函数为：
Ldif＝H(f1(x)，f2(g1(x)))+H(f2(x)，f1(g2(x)))
则获得训练结果的联合损失函数为：
Lall＝Lsup+λcotLcot+λdifLdif
其中λcot和λdif是两个超参数，分别控制损失函数Lcot和Ldif在联合损失函数中的比重：
Figure BDA0003233682870000031
其中λmax是λcot和λdif的最大值；α是增长系数；exp(·)是以自然常数e为底的指数函数；t是当前训练轮数；Tstable是超参数λcot和λdif稳定时的训练轮数；
通过反向梯度传播更新特征提取器，获得训练好的识别网络；
S3、获取数字调制信号，采用步骤S1的方法预处理后输入到训练好的识别网络，完成调制信号的识别。
本发明的有益效果为，本发明提供了一种基于深度协同训练的数字信号调制识别方法，利用生成对抗算法生成对抗样本以满足协同训练假设，使特征提取器在极少量样本下就能接近大量样本训练下的性能。并且通过信号数据的预处理，提升了特征提取器的泛化能力，使其鲁棒性更强。将深度协同训练算法应用于数字信号调制识别中，弥补了现有方法的不足，使信号调制识别算法更加实用和可靠。
附图说明
图1是本发明一种基于深度协同训练的数字调制信号识别方法的流程图；
图2是本发明的CLDNN网络模型示意图。
具体实施方式
在发明内容部分已经对本发明的技术方案进行类型详细描述，本发明的方法在充分利用少量有标记数据信息的基础上，提取并利用大量无标记数据的信息，使特征提取器能够在少量有标记样本情况下也能获得优异的性能，提高了数字信号调制识别方法的实用性。
在本发明的基于深度协同训练的数字信号调制识别方法中，先通过信号预处理进行数据集的扩充和网络模型的泛化，通过生成对抗算法实现对抗数据的生成。对抗数据可以认为是信号样本的不同于原始样本的视图，结合生成样本和原始样本即可满足协同训练的假设。在训练过程中，通过特定的损失函数约束特征提取器的优化方向，并利用系数加权控制训练的重点偏向。两个特征提取器能够在协同训练的假设下互相学习，互相优化，直至最优。利用训练完成的特征提取器，即可确定未知信号的调制类型。

Claims (1)

1.一种基于深度协同训练的数字调制信号识别方法，其特征在于，所述识别包括以下步骤：
S1、获取数字调制信号数据及标注，记为数据集D，对数据集D进行预处理，包括：划分数据集，包括有标记数据集S和无标记数据集U，有标记数据集记为
Figure FDA0003233682860000011
无标记数据集记为
Figure FDA0003233682860000012
且D＝S∪U且M＜＜N，x为有标记数据，y为x对应的标记，xu为无标记数据，M为有标记数据集数量，N为无标记数据集数量；对有标记数据集进行扩充；
S2、构建识别网络，包括两个结构相同的CLDNN网络，CLDNN网络包括卷积部分、LSTM层及两个全连接层构成；卷积部分包括三个卷积块，每个卷积块由一个卷积层、一个批归一化层和一个ReLU激活函数，每两个卷积块之间有一个核大小为2的均匀池化层；将两个CLDNN网络作为特征提取器，分别记为f1(·)和f2(·)，采用步骤S1获得的数据集对识别网络进行协同训练，所述协同训练具体为：
采用生成对抗算法根据数据集D生成对抗样本数据集D′，D′＝{g(x)|x∈D}，g(·)为生成对抗算法；两个CLDNN网络在有标记数据集S上的交叉熵损失为：
Lsup＝H(y，f1(x))+H(y，f2(x))
其中H(·)为交叉熵损失函数；
两个CLDNN网络在无标记数据集D上的JS散度损失为：
Lcot＝JS(f1(xu)||f2(xu))
其中JS(·)为JS散度；
CLDNN网络f1(·)在原始数据集D上的输出与网络f2(·)在对抗样本数据集D′上的输出的交叉熵损失函数，以及网络f2(·)在原始数据集D上的输出与网络f1(·)在对抗样本数据集D′上的输出的交叉熵损失函数为：
Ldif＝H(f1(x)，f2(g1(x)))+H(f2(x)，f1(g2(x)))
则获得训练结果的联合损失函数为：
Lall＝Lsup+λcotLcot+λdifLdif
其中λcot和λdif是两个超参数，分别控制损失函数Lcot和λdif在联合损失函数中的比重：
Figure FDA0003233682860000021
其中λmax是λcot和λdif的最大值；α是增长系数；exp(·)是以自然常数e为底的指数函数；t是当前训练轮数；Tstable是超参数λcot和λdif稳定时的训练轮数；
通过反向梯度传播更新特征提取器，获得训练好的识别网络；
S3、获取数字调制信号，采用步骤S1的方法预处理后输入到训练好的识别网络，完成调制信号的识别。
CN202110995377.5A 2021-08-27 2021-08-27 一种基于深度协同训练的数字调制信号识别方法 Active CN113705787B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110995377.5A CN113705787B (zh) 2021-08-27 2021-08-27 一种基于深度协同训练的数字调制信号识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110995377.5A CN113705787B (zh) 2021-08-27 2021-08-27 一种基于深度协同训练的数字调制信号识别方法

Publications (2)

Publication Number Publication Date
CN113705787A true CN113705787A (zh) 2021-11-26
CN113705787B CN113705787B (zh) 2023-04-07

Family

ID=78655956

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110995377.5A Active CN113705787B (zh) 2021-08-27 2021-08-27 一种基于深度协同训练的数字调制信号识别方法

Country Status (1)

Country Link
CN (1) CN113705787B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114584441A (zh) * 2022-03-02 2022-06-03 中国人民解放军军事科学院战争研究院 一种基于深度学习的数字信号调制识别方法
CN114611671A (zh) * 2022-03-15 2022-06-10 电子科技大学 一种基于自编码器的自动调制识别扩增数据维度的方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108718288A (zh) * 2018-03-30 2018-10-30 电子科技大学 基于卷积神经网络的数字信号调制模式识别方法
CN110598530A (zh) * 2019-07-30 2019-12-20 浙江工业大学 一种基于acgan的小样本无线电信号增强识别方法
US20200044899A1 (en) * 2017-03-27 2020-02-06 South China University Of Technology Method for automatically identifying modulation mode for digital communication signal
CN112115821A (zh) * 2020-09-04 2020-12-22 西北工业大学 一种基于小波近似系数熵的多信号智能调制模式识别方法
CN112115963A (zh) * 2020-07-30 2020-12-22 浙江工业大学 一种基于迁移学习生成无偏见深度学习模型的方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200044899A1 (en) * 2017-03-27 2020-02-06 South China University Of Technology Method for automatically identifying modulation mode for digital communication signal
CN108718288A (zh) * 2018-03-30 2018-10-30 电子科技大学 基于卷积神经网络的数字信号调制模式识别方法
CN110598530A (zh) * 2019-07-30 2019-12-20 浙江工业大学 一种基于acgan的小样本无线电信号增强识别方法
CN112115963A (zh) * 2020-07-30 2020-12-22 浙江工业大学 一种基于迁移学习生成无偏见深度学习模型的方法
CN112115821A (zh) * 2020-09-04 2020-12-22 西北工业大学 一种基于小波近似系数熵的多信号智能调制模式识别方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
LUO CHENG等: "modulation recognition based on deep co-training" *
王威;王培源;彭奇峰;: "基于卷积神经网络STBC调制信号识别" *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114584441A (zh) * 2022-03-02 2022-06-03 中国人民解放军军事科学院战争研究院 一种基于深度学习的数字信号调制识别方法
CN114611671A (zh) * 2022-03-15 2022-06-10 电子科技大学 一种基于自编码器的自动调制识别扩增数据维度的方法

Also Published As

Publication number Publication date
CN113705787B (zh) 2023-04-07

Similar Documents

Publication Publication Date Title
CN112731309B (zh) 一种基于双线性高效神经网络的有源干扰识别方法
CN113705787B (zh) 一种基于深度协同训练的数字调制信号识别方法
CN109961095B (zh) 基于非监督深度学习的图像标注***及标注方法
CN110598018B (zh) 一种基于协同注意力的草图图像检索方法
CN114157539B (zh) 一种数据知识双驱动的调制智能识别方法
CN111931814B (zh) 一种基于类内结构紧致约束的无监督对抗域适应方法
CN116403058B (zh) 一种遥感跨场景多光谱激光雷达点云分类方法
CN114726692B (zh) 一种基于SEResNet-LSTM的辐射源调制方式识别方法
CN113392731B (zh) 一种基于图神经网络的调制信号分类方法和***
CN113657607A (zh) 一种面向联邦学习的连续学习方法
CN113920472A (zh) 一种基于注意力机制的无监督目标重识别方法及***
Shu et al. A SVM multi-class image classification method based on DE and KNN in smart city management
CN111291705B (zh) 一种跨多目标域行人重识别方法
CN115272881A (zh) 动态关系蒸馏的长尾遥感图像目标识别方法
CN118051831A (zh) 基于CNN-Transformer合作网络模型的水声目标识别方法
CN112668633B (zh) 一种基于细粒度领域自适应的图迁移学习方法
CN116701665A (zh) 基于深度学习的中医古籍知识图谱构建方法
CN116403247A (zh) 一种基于元学习模型的射频指纹小样本识别方法
CN114189416B (zh) 一种基于一致性正则化的数字调制信号识别方法
CN114037866B (zh) 一种基于可辨伪特征合成的广义零样本图像分类方法
CN115661539A (zh) 一种嵌入不确定性信息的少样本图像识别方法
CN114168782B (zh) 一种基于三元组网络的深度哈希图像检索方法
CN113158901B (zh) 一种域自适应行人重识别方法
CN115659146A (zh) 一种基于改进tri-training的AMC场景迁移方法
CN111401519B (zh) 一种基于物体内和物体间相似性距离的深层神经网络无监督学习方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant