CN111582373A - 一种基于加权迁移极限学习机算法的辐射源识别方法 - Google Patents
一种基于加权迁移极限学习机算法的辐射源识别方法 Download PDFInfo
- Publication number
- CN111582373A CN111582373A CN202010385735.6A CN202010385735A CN111582373A CN 111582373 A CN111582373 A CN 111582373A CN 202010385735 A CN202010385735 A CN 202010385735A CN 111582373 A CN111582373 A CN 111582373A
- Authority
- CN
- China
- Prior art keywords
- sample
- representing
- samples
- domain
- learning machine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000005855 radiation Effects 0.000 title claims abstract description 38
- 238000000034 method Methods 0.000 title claims abstract description 25
- 238000013508 migration Methods 0.000 title claims description 16
- 230000005012 migration Effects 0.000 title claims description 16
- 238000012549 training Methods 0.000 claims abstract description 28
- 230000006870 function Effects 0.000 claims abstract description 24
- 238000012546 transfer Methods 0.000 claims abstract description 13
- 239000011159 matrix material Substances 0.000 claims description 21
- 239000003550 marker Substances 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 12
- 230000004913 activation Effects 0.000 claims description 6
- 230000009286 beneficial effect Effects 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于加权迁移极限学习机算法的辐射源识别方法,包括以下步骤:采集若干源域样本和目标域样本,对目标域样本中部分样本和源域样本进行标记,并将目标域样本中剩余部分样本作为待测样本集;构建极限学习机模型的训练目标函数,并根据训练目标函数、源域标记样本和目标域标记样本对极限学习机模型的模型参数β进行更新,得到训练完成的极限学习机模型;将待测样本集输入训练完成的极限学习机模型,得到新增辐射源识别结果。本发明提升了知识迁移的效率,提高了小样本条件下,新增辐射源个体分类识别的准确度和稳定度。
Description
技术领域
本发明属于辐射源识别领域,具体涉及一种基于加权迁移极限学习机算法的辐射源识别方法。
背景技术
在现代电子战应用环境中,受时间、空间、作战需求等因素的影响,快速变化的战场条件极大的增加了设备采集辐射源信号的难度,仅能获取少量带标签的辐射源样本数据。因此在小样本条件下,辐射源新增个体的识别问题亟待解决。目前针对小样本条件下辐射源个体的识别问题,主要有两种解决方案:基于卷积神经网络的迁移学习和迁移极限学习机算法。基于卷积神经网络的迁移学习算法其基本思想是在已知数据集上训练好卷积神经网络模型,然后通过快速简单的调整将该模型应用到另一个数据集上。即是利用大量已知辐射源样本训练卷积神经网络模型,并保留模型中卷积层的参数不变,然后利用少量带标签的新增辐射源样本训练模型的全连接层参数,进而识别新增辐射源个体。然而,由于深度神经网络层数多,复杂度较高,因此网络参数量庞大,少量的标记样本难以使模型参数得到充分训练,导致新增辐射源个体识别的错误率较高,识别性能难以满足应用需求。迁移极限学习机算法是在极限学习机和迁移学习的基础上,利用大量源域辐射源标记样本和少量新增辐射源标记样本构建极限学习机模型,使得该模型将从源域学习到的知识迁移至目标域,从而实现目标域新增辐射源个体的识别。然而,由于不同的源域样本对建立目标模型的有效性存在差异,直接使用源域中的各样本容易导致模型出现“负迁移”的问题,影响模型在目标样本集上的识别性能,因此该算法下,模型的识别性能不稳定,当源域中存在坏样本时,将直接干扰和影响目标模型的构建。
发明内容
针对现有技术中的上述不足,本发明提供的一种基于加权迁移极限学习机算法的辐射源识别方法解决了现有技术识别错误率高、模型识别性能不稳定以及算法严重依赖于样本数量的问题。
为了达到上述发明目的,本发明采用的技术方案为:一种基于加权迁移极限学习机算法的辐射源识别方法,包括以下步骤:
S1、采集若干源域样本和目标域样本,对目标域样本中部分样本和源域样本进行标记,并将目标域样本中剩余部分样本作为待测样本集;
S2、构建极限学习机模型的训练目标函数,并根据训练目标函数、源域标记样本和目标域标记样本对极限学习机模型的模型参数β进行更新,得到训练完成的极限学习机模型;
S3、将待测样本集输入训练完成的极限学习机模型,得到新增辐射源识别结果。
进一步地,所述步骤S2中训练目标函数LW-TELM为:
其中,s.t.表示条件限制,β表示极限学***衡常数,Ct表示目标域t的预测误差平衡常数,W表示源域样本的权重矩阵,Ns表示源域样本总数,Nt表示目标域样本中的标记样本数,表示第i个源域样本的预测误差,表示第j个目标域样本的预测误差,表示源域样本对应的隐层输出,表示目标域样本对应的隐层输出,表示第i个源域样本的标签,Yt j表示第j个目标域样本的标签。
进一步地,所述步骤S2中根据训练目标函数、源域标记样本和目标域标记样本对极限学习机模型的模型参数β进行更新的具体方法为:
A1、将源域标记样本输入极限学习机模型,获取源域样本的隐层输出;
A2、获取源域样本的权重矩阵;
A3、将目标域标记样本输入极限学习机模型,获取目标域样本的隐层输出;
A4、根据源域样本的隐层输出、权重矩阵和目标域样本的隐层输出,对极限学习机模型的模型参数β进行更新。
所述步骤A1中获取源域样本的隐层输出Hs的公式为:
Hs=g(a·Xs+b)
其中,g()表示激活函数,a表示输入权重参数,b表示隐层偏置。
进一步地,所述步骤A2中获取源域样本的权重矩阵为W=diag{Wi},diag()表示对角矩阵,所述权重Wi为:
其中,di表示第i个源域样本与目标域样本均值点之间的欧式距离,i=1,2,...,Ns,Ns表示源域样本总数。
进一步地,所述步骤A3中目标域标记样本为其中,Xt表示目标域样本集合,Yt表示目标域样本标签集合,表示第j个目标域样本,Yt j表示第j个目标域样本标签,j=1,2,...,Nt,Nt表示目标域标记样本总数;
所述步骤A3中获取目标域样本的隐层输出Ht为:
Ht=g(a·Xt+b)
其中,g()表示激活函数,a表示输入权重参数,b表示隐层偏置。
进一步地,所述步骤A4具体为:将训练目标函数相对于模型参数β的梯度设置为零,并判断训练样本数是否大于隐层节点数,若是,则令模型参数β等于第一最优解β1,否则令模型参数β等于第二最优解β2,完成对模型参数β的更新。
进一步地,所述训练样本数包括目标域标记样本数和源域标记样本数。
进一步地,所述第一最优解β1为:
其中,Cs表示源域s的预测误差平衡常数,Hs表示源域样本的隐层输出,T表示转置,W表示源域样本的权重矩阵,Ct表示目标域t的预测误差平衡常数,Ht表示目标域样本的隐层输出,Ys表示源域样本标签集合,Yt表示目标域样本标签集合。
进一步地,所述第二最优解β2为:
本发明的有益效果为:
(1)本发明针对源领域样本对目标任务帮助存在差异性的问题,对源域样本进行加权处理,从源域中挑选出有利于目标模型训练的样本并增加其权重,使得该分类器模型能更适用于目标分类任务,解决了负迁移问题。
(2)本发明提升了知识迁移的效率,提高了小样本条件下,新增辐射源个体分类识别的准确度和稳定度。
(3)本发明通过结合极限学习机理论,利用源域样本和目标域中有限的标记样本建立目标分类器模型,使极限学习机具有知识迁移能力并且无需依赖大量样本进行反复迭代训练,有效的满足了小样本的条件限制。
附图说明
图1为本发明提出的一种基于加权迁移极限学习机算法的辐射源识别方法流程图。
具体实施方式
下面对本发明的具体实施方式进行描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
下面结合附图详细说明本发明的实施例。
如图1所示,一种基于加权迁移极限学习机算法的辐射源识别方法,包括以下步骤:
S1、采集若干源域样本和目标域样本,对目标域样本中部分样本和源域样本进行标记,并将目标域样本中剩余部分样本作为待测样本集。
在本实施例中,目标域标记样本为其样本总数的2%,即待测样本数量占目标域样本总数的98%。
S2、构建极限学习机模型的训练目标函数,并根据训练目标函数、源域标记样本和目标域标记样本对极限学习机模型的模型参数β进行更新,得到训练完成的极限学习机模型。
在本实施例中,在对模型参数β更新前,随机初始化模型参数β。
S3、将待测样本集输入训练完成的极限学习机模型,得到新增辐射源识别结果。
在本实施例中,已知辐射源为源域s,新增辐射源为目标域t,辐射源为通信电台。
所述步骤S2中训练目标函数LW-TELM为:
其中,s.t.表示条件限制,β表示极限学***衡常数,Ct表示目标域t的预测误差平衡常数,W表示源域样本的权重矩阵,Ns表示源域样本总数,Nt表示目标域样本中的标记样本数,表示第i个源域样本的预测误差,表示第j个目标域样本的预测误差,表示源域样本对应的隐层输出,表示目标域样本对应的隐层输出,表示第i个源域样本的标签,Yt j表示第j个目标域样本的标签。
所述步骤S2中根据训练目标函数、源域标记样本和目标域标记样本对极限学习机模型的模型参数β进行更新的具体方法为:
A1、将源域标记样本输入极限学习机模型,获取源域样本的隐层输出;
A2、获取源域样本的权重矩阵;
A3、将目标域标记样本输入极限学习机模型,获取目标域样本的隐层输出;
A4、根据源域样本的隐层输出、权重矩阵和目标域样本的隐层输出,对极限学习机模型的模型参数β进行更新。
在本实施例中,将训练目标函数相对于模型参数β的梯度设置为零可得:
在本实施例中,隐层节点数设置为1e+3。
所述步骤A1中获取源域样本的隐层输出Hs的公式为:
Hs=g(a·Xs+b)
其中,g()表示激活函数,a表示输入权重参数,b表示隐层偏置。
所述步骤A2中获取源域样本的权重矩阵为W=diag{Wi},diag()表示对角矩阵,所述权重Wi为:
其中,di表示第i个源域样本与目标域样本均值点之间的欧式距离,i=1,2,...,Ns,Ns表示源域样本总数。
所述步骤A3中获取目标域样本的隐层输出Ht为:
Ht=g(a·Xt+b)
其中,g()表示激活函数,a表示输入权重参数,b表示隐层偏置。
所述步骤A4具体为:将训练目标函数相对于模型参数β的梯度设置为零,并判断训练样本数是否大于隐层节点数,若是,则令模型参数β等于第一最优解β1,否则令模型参数β等于第二最优解β2,完成对模型参数β的更新。
所述训练样本数包括目标域标记样本数和源域标记样本数。
所述第一最优解β1为:
其中,Cs表示源域s的预测误差平衡常数,Hs表示源域样本的隐层输出,T表示转置,W表示源域样本的权重矩阵,Ct表示目标域t的预测误差平衡常数,Ht表示目标域样本的隐层输出,Ys表示源域样本标签集合,Yt表示目标域样本标签集合。
所述第二最优解β2为:
本发明的有益效果为:
(1)本发明针对源领域样本对目标任务帮助存在差异性的问题,对源域样本进行加权处理,从源域中挑选出有利于目标模型训练的样本并增加其权重,使得该分类器模型能更适用于目标分类任务,解决了负迁移问题。
(2)本发明提升了知识迁移的效率,提高了小样本条件下,新增辐射源个体分类识别的准确度和稳定度。
(3)本发明通过结合极限学习机理论,利用源域样本和目标域中有限的标记样本建立目标分类器模型,使极限学习机具有知识迁移能力并且无需依赖大量样本进行反复迭代训练,有效的满足了小样本的条件限制。
Claims (10)
1.一种基于加权迁移极限学习机算法的辐射源识别方法,其特征在于,包括以下步骤:
S1、采集若干源域样本和目标域样本,对目标域样本中部分样本和源域样本进行标记,并将目标域样本中剩余部分样本作为待测样本集;
S2、构建极限学习机模型的训练目标函数,并根据训练目标函数、源域标记样本和目标域标记样本对极限学习机模型的模型参数β进行更新,得到训练完成的极限学习机模型;
S3、将待测样本集输入训练完成的极限学习机模型,得到新增辐射源识别结果。
3.根据权利要求2所述的基于加权迁移极限学习机算法的辐射源识别方法,其特征在于,所述步骤S2中根据训练目标函数、源域标记样本和目标域标记样本对极限学习机模型的模型参数β进行更新的具体方法为:
A1、将源域标记样本输入极限学习机模型,获取源域样本的隐层输出;
A2、获取源域样本的权重矩阵;
A3、将目标域标记样本输入极限学习机模型,获取目标域样本的隐层输出;
A4、根据源域样本的隐层输出、权重矩阵和目标域样本的隐层输出,对极限学习机模型的模型参数β进行更新。
7.根据权利要求3所述的基于加权迁移极限学习机算法的辐射源识别方法,其特征在于,所述步骤A4具体为:将训练目标函数相对于模型参数β的梯度设置为零,并判断训练样本数是否大于隐层节点数,若是,则令模型参数β等于第一最优解β1,否则令模型参数β等于第二最优解β2,完成对模型参数β的更新。
8.根据权利要求7所述的基于加权迁移极限学习机算法的辐射源识别方法,其特征在于,所述训练样本数包括目标域标记样本数和源域标记样本数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010385735.6A CN111582373A (zh) | 2020-05-09 | 2020-05-09 | 一种基于加权迁移极限学习机算法的辐射源识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010385735.6A CN111582373A (zh) | 2020-05-09 | 2020-05-09 | 一种基于加权迁移极限学习机算法的辐射源识别方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111582373A true CN111582373A (zh) | 2020-08-25 |
Family
ID=72126390
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010385735.6A Pending CN111582373A (zh) | 2020-05-09 | 2020-05-09 | 一种基于加权迁移极限学习机算法的辐射源识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111582373A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112070236A (zh) * | 2020-09-11 | 2020-12-11 | 福州大学 | 基于迁移学习解决在线复杂优化计算的稀疏特征学习方法 |
CN113029559A (zh) * | 2021-03-30 | 2021-06-25 | 山东大学 | 一种齿轮箱故障诊断方法及*** |
CN113177520A (zh) * | 2021-05-26 | 2021-07-27 | 电子科技大学 | 一种基于集成学习的智能辐射源识别方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107301381A (zh) * | 2017-06-01 | 2017-10-27 | 西安电子科技大学昆山创新研究院 | 基于深度学习和多任务学习策略的雷达辐射源识别方法 |
CN107832787A (zh) * | 2017-10-31 | 2018-03-23 | 杭州电子科技大学 | 基于双谱自编码特征的雷达辐射源识别方法 |
AU2018101317A4 (en) * | 2018-09-07 | 2018-10-11 | Chen, Guoyi Mr | A Deep Learning Based System for Animal Species Classification |
CN109446877A (zh) * | 2018-09-01 | 2019-03-08 | 哈尔滨工程大学 | 一种联合多维特征迁移融合的雷达辐射源信号调制识别方法 |
-
2020
- 2020-05-09 CN CN202010385735.6A patent/CN111582373A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107301381A (zh) * | 2017-06-01 | 2017-10-27 | 西安电子科技大学昆山创新研究院 | 基于深度学习和多任务学习策略的雷达辐射源识别方法 |
CN107832787A (zh) * | 2017-10-31 | 2018-03-23 | 杭州电子科技大学 | 基于双谱自编码特征的雷达辐射源识别方法 |
CN109446877A (zh) * | 2018-09-01 | 2019-03-08 | 哈尔滨工程大学 | 一种联合多维特征迁移融合的雷达辐射源信号调制识别方法 |
AU2018101317A4 (en) * | 2018-09-07 | 2018-10-11 | Chen, Guoyi Mr | A Deep Learning Based System for Animal Species Classification |
Non-Patent Citations (7)
Title |
---|
X.LI等: ""Extreme learning machine based transfer learning for data classification\"" * |
余欢欢;魏文戈;: "模型参数自适应迁移的多源域适应" * |
卢忱;王晶;: "一种基于自动标签机制的行为识别模型迁移方法" * |
孟凡杰等: "基于多特征融合的雷达辐射源信号识别" * |
舒醒;于慧敏;郑伟伟;谢奕;胡浩基;唐慧明;: "基于边际Fisher准则和迁移学习的小样本集分类器设计算法" * |
董莹莹;邓万宇;刘光达;: "基于score样本选择的同构域适应迁移学习" * |
黄健航;雷迎科;: "基于深度学习的通信辐射源指纹特征提取算法" * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112070236A (zh) * | 2020-09-11 | 2020-12-11 | 福州大学 | 基于迁移学习解决在线复杂优化计算的稀疏特征学习方法 |
CN113029559A (zh) * | 2021-03-30 | 2021-06-25 | 山东大学 | 一种齿轮箱故障诊断方法及*** |
CN113029559B (zh) * | 2021-03-30 | 2022-03-18 | 山东大学 | 一种齿轮箱故障诊断方法及*** |
CN113177520A (zh) * | 2021-05-26 | 2021-07-27 | 电子科技大学 | 一种基于集成学习的智能辐射源识别方法 |
CN113177520B (zh) * | 2021-05-26 | 2022-06-28 | 电子科技大学 | 一种基于集成学习的智能辐射源识别方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111738315B (zh) | 基于对抗融合多源迁移学习的图像分类方法 | |
CN111582373A (zh) | 一种基于加权迁移极限学习机算法的辐射源识别方法 | |
CN111191732A (zh) | 一种基于全自动学习的目标检测方法 | |
CN110175615B (zh) | 模型训练方法、域自适应的视觉位置识别方法及装置 | |
CN112347970B (zh) | 一种基于图卷积神经网络的遥感影像地物识别方法 | |
CN105701509B (zh) | 一种基于跨类别迁移主动学习的图像分类方法 | |
CN110619059B (zh) | 一种基于迁移学习的建筑物标定方法 | |
CN111079847A (zh) | 一种基于深度学习的遥感影像自动标注方法 | |
CN103886330A (zh) | 基于半监督svm集成学习的分类方法 | |
CN107909053B (zh) | 一种基于等级学习级联卷积神经网络的人脸检测方法 | |
CN111239137B (zh) | 基于迁移学习与自适应深度卷积神经网络的谷物质量检测方法 | |
CN111353545A (zh) | 一种基于稀疏网络迁移的植株病虫害识别方法 | |
CN110222785B (zh) | 用于气体传感器漂移校正的自适应置信度主动学习方法 | |
CN112685504A (zh) | 一种面向生产过程的分布式迁移图学习方法 | |
CN107273922A (zh) | 一种面向多源实例迁移学习的样本筛选和权重计算方法 | |
CN116129219A (zh) | 一种基于知识稳健-重平衡网络的sar目标类增量识别方法 | |
CN115278520A (zh) | 一种基于指纹库迁移重构的5g室内定位方法 | |
CN114329031A (zh) | 一种基于图神经网络和深度哈希的细粒度鸟类图像检索方法 | |
CN112381730B (zh) | 一种遥感影像数据扩增方法 | |
CN113837046A (zh) | 一种基于迭代特征分布学习的小样本遥感图像场景分类方法 | |
CN115294381B (zh) | 基于特征迁移和正交先验的小样本图像分类方法及装置 | |
CN116089812A (zh) | 基于半监督对抗域泛化智能模型的故障诊断方法 | |
CN106203469A (zh) | 一种基于有序模式的图分类方法 | |
CN114494819B (zh) | 一种基于动态贝叶斯网络的抗干扰红外目标识别方法 | |
CN109145749A (zh) | 一种跨数据集的面部表情识别模型构建及识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200825 |