CN113627377A - 基于Attention-Based CNN的认知无线电频谱感知方法及*** - Google Patents
基于Attention-Based CNN的认知无线电频谱感知方法及*** Download PDFInfo
- Publication number
- CN113627377A CN113627377A CN202110950319.0A CN202110950319A CN113627377A CN 113627377 A CN113627377 A CN 113627377A CN 202110950319 A CN202110950319 A CN 202110950319A CN 113627377 A CN113627377 A CN 113627377A
- Authority
- CN
- China
- Prior art keywords
- attention
- signal
- spectrum sensing
- based cnn
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001228 spectrum Methods 0.000 title claims abstract description 41
- 238000000034 method Methods 0.000 title claims abstract description 33
- 230000001149 cognitive effect Effects 0.000 title claims abstract description 17
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 39
- 230000007246 mechanism Effects 0.000 claims abstract description 21
- 238000012549 training Methods 0.000 claims abstract description 13
- 238000007781 pre-processing Methods 0.000 claims abstract description 10
- 238000012360 testing method Methods 0.000 claims abstract description 8
- 238000010606 normalization Methods 0.000 claims abstract description 7
- 238000012795 verification Methods 0.000 claims abstract description 4
- 230000006870 function Effects 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 7
- 239000013598 vector Substances 0.000 claims description 6
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 4
- 238000009826 distribution Methods 0.000 claims description 3
- 238000010200 validation analysis Methods 0.000 claims description 3
- 230000009286 beneficial effect Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 10
- 238000001514 detection method Methods 0.000 description 6
- 238000003860 storage Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003657 Likelihood-ratio test Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000035755 proliferation Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/30—Monitoring; Testing of propagation channels
- H04B17/382—Monitoring; Testing of propagation channels for resource allocation, admission control or handover
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Signal Processing (AREA)
- Probability & Statistics with Applications (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- Complex Calculations (AREA)
Abstract
本发明涉及一种基于Attention‑Based CNN的认知无线电频谱感知方法及***，该方法包括如下步骤：S1、对信号数据进行预处理，包括能量归一化和信噪比间隔划分，然后划分为训练集、验证集和测试集；S2、搭建注意力机制层；S3、将注意力机制层加入卷积神经网络中，得到Attention‑Based CNN模型；S4、利用预处理得到的数据对Attention‑Based CNN模型进行训练，得到训练好的Attention‑Based CNN分类器；S5、对新接收的数据进行数据预处理，然后送入训练好的Attention‑Based CNN分类器中进行分类，得到最终的分类结果，即为频谱感知的结果。该方法及***有利于提高频谱感知的准确率，同时合理利用计算资源。
Description
技术领域
本发明属于无线通信领域，具体涉及一种基于Attention-Based CNN的认知无线电频谱感知方法及***。
背景技术
近年来，随着移动设备数量的激增以及现有频带分配制度的限制，频谱资源变得愈发稀缺。由此，提高频谱资源的利用率已经成为无线通信领域的研究热点。在1999年JosephMitoal博士提出了认知无线电(CognitiveRadio，CR)的概念，致力于提高频谱利用率等问题，其被认为是解决频谱资源紧缺问题的潜在方法。CR的核心思想是在不对主用户(PU)造成干扰或者限制的情况下，允许次用户(SU)充分利用空闲频带。因此，SU需要频繁的执行频谱感知，以检测PU是否存在，而频谱感知的准确性则是实现动态频谱接入的关键前提。
在过去的几十年中，已经提出了许多适用于不同场景的频谱感知方法。在这些现有的频谱感知方法中，协方差矩阵由于包含各种判别特征而被认为是最常用的检验统计。如果主用户的信号以及噪声的先验统计协方差矩阵均可用，则估计相关器(E-C)检测检测器被认为是最佳的检测器。而在现实生活中存在主用户信号以及噪声的先验知识不确定性的问题，所以E-C并不实用。
为了进一步提高检测器的性能，提出了仅需要噪声功率(知识)的半盲检方法，其典型的检测器是基于广义似然比测试(GLRT)的信号子空间特征值(SSE)检测器和最大特征值检测器(MED)。但是在实际情况中仍然存在噪声功率(知识)不确定性的问题，噪声功率总是随着时间而发生变化。为克服该问题，提出了对于噪声功率没有要求的全盲检测方法。例如，算术平均几何(AGM)检测、协方差绝对值(CAV)检测和盲组合检测(BCED)。但是这些方法计算较为复杂。
目前已经发表或公开的频谱感知的技术中主要存在三个问题：一是模型简单的方法，识别正确率不高；二是受主用户信号以及噪声的先验知识的影响；三是模型复杂的方法计算量过大，这样也会增加设备的负担。
发明内容
本发明的目的在于提供一种基于Attention-BasedCNN的认知无线电频谱感知方法及***，该方法及***有利于提高频谱感知的准确率，同时合理利用计算资源。
为实现上述目的，本发明采用的技术方案是：一种基于Attention-Based CNN的认知无线电频谱感知方法，包括如下步骤：
S1、对信号数据进行预处理，包括能量归一化和信噪比间隔划分，然后划分为训练集、验证集和测试集；
S2、搭建注意力机制层；
S3、将搭建好的注意力机制层加入卷积神经网络中，得到Attention-Based CNN模型；
S4、利用步骤S1预处理得到的数据，对Attention-Based CNN模型进行训练，得到训练好的Attention-Based CNN分类器；
S5、对于新接收的数据，对其进行数据预处理，然后送入训练好的Attention-Based CNN分类器中进行分类，得到最终的分类结果，即为频谱感知的结果。
进一步地，步骤S1中，所述信号数据包括8种类型的调制信号，分别为：BPSK、8PSK、QPSK、PAM4、QAM16、QAM64、GFSK、CPFSK，噪声数据为CSCG噪声；在接收到时域信号之后首先对信号进行能量归一化处理；信噪比从-20～20，间隔为1；每个样本的采用点数为8，信号样本长度分别为64，128，256，512，1024；
然后将所有信号数据样本按3：1：1划分为训练集、验证集和测试集。
进一步地，步骤S2中，注意力机制层的计算过程包括以下步骤：
S201、计算输入信号和输入信号中各元素Key的相似度得到对应的权重：
scorei＝F(Q,ki)
其中，scorei表示权重，Q表示查询向量，ki表示输入信号中的元素，F(,)为相似度计算函数；
S202、采用Softmax函数对步骤S201得到的权重归一化：
其中，αi表示注意力分布，N表示输入信号个数；
S203、将权重和加权后的输入信号中各元素的权值进行加权求和，得到注意力Attention：
其中，K表示输入信号，V表示输入信号的值，vi表示第i个输入信号的值。
进一步地，步骤S3中，所述Attention-Based CNN模型采用两个卷积层、一个注意力机制层和一个全连接层；对于激活函数，在FC2采用Softmax，其他层采用ReLU；在第一个卷积层和全连接层后面加入了Dropout层，以防止模型的过拟合。
进一步地，所述Attention-Based CNN模型的网络参数为：优化器使用Adam优化器，学习率设置为0.0003，batch size设置为100，Dropout ratio设置为0.2，每一层卷积的Filters为60，Filters的大小为10。
进一步地，步骤S4中，如果分类结果为空闲，则表示主用户不存在，次用户可以接入，如果分类结果为占用，则表示主用户存在，次用户不可以接入。
本发明还提供了一种基于Attention-Based CNN的认知无线电频谱感知***，包括存储器、处理器以及存储于存储器上并能够被处理器运行的计算机程序指令，当处理器运行该计算机程序指令时，能够实现上述的方法步骤。
与现有技术相比，本发明具有以下有益效果：提供了一种基于Attention-BasedCNN的认知无线电频谱感知方法及***，将频谱感知视为一个二分类问题，在使用CNN对信号和噪声的特征进行学习的同时引入Attention机制，对提取的特征根据其重要性来赋予不同的权重值，在不需要用户信号以及噪声先验知识的同时，确保频谱感知的准确率，合理的利用计算资源。
附图说明
图1是本发明实施例的方法实现流程图。
图2是本发明实施例中注意力机制层的结构示意图。
图3是本发明实施例中Attention-Based CNN模型的结构示意图。
具体实施方式
下面结合附图及实施例对本发明做进一步说明。
应该指出，以下详细说明都是示例性的，旨在对本申请提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本申请所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本申请的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
如图1所示，本实施例提供了一种基于Attention-Based CNN的认知无线电频谱感知方法，包括如下步骤：
S1、对信号数据进行预处理，包括能量归一化和信噪比间隔划分，然后划分为训练集、验证集和测试集。
在本实施例中，所述信号数据包括8种类型的调制信号，分别为：BPSK、8PSK、QPSK、PAM4、QAM16、QAM64、GFSK、CPFSK，噪声数据为CSCG噪声；在接收到时域信号之后首先对信号进行能量归一化处理；信噪比(SNR)从-20～20，间隔为1；每个样本的采用点数为8，信号样本长度分别为64，128，256，512，1024；
然后将所有信号数据样本按3：1：1划分为训练集、验证集和测试集。
S2、搭建注意力机制层(Attention layer)。
注意力机制的本质思想是一个查询一系列key-value对的相似性操作，可以将其看成是一种软寻址操作，即把输入的信息看成是存储器中的内容，输入信息由Key(键盘)和Value(值)组成，那么N个输入信息可表示为：
(K,V)＝[(k1,v1),(k2,v2),...,(kN,vN)] (1)
当有个Query需要查询时，我们通过计算Query与存储器内元素Key的相似度来决定从对应的元素Value中取出多少内容。两者之间相似度越高就会取出越多的内容即分配更多的注意力资源，相似度越少则取出的内容越少甚至不取。注意力机制的结构如下图2所示。
注意力机制层的计算过程包括以下步骤：
S201、计算输入信号和输入信号中各元素Key的相似度得到对应的权重：
scorei＝F(Q,ki)
其中，scorei表示权重，Q表示查询向量，ki表示输入信号中的元素，F(,)为相似度计算函数；
S202、采用Softmax函数对步骤S201得到的权重归一化：
其中，αi表示注意力分布，N表示输入信号个数；
S203、将权重和加权后的输入信号中各元素的权值进行加权求和，得到注意力Attention：
其中，K表示输入信号，V表示输入信号的值，vi表示第i个输入信号的值。
S3、将搭建好的注意力机制层加入卷积神经网络中，得到Attention-Based CNN模型。
在本实施例中，所述Attention-Based CNN模型采用两个卷积层、一个注意力机制层和一个全连接层；对于激活函数，在FC2采用Softmax，其他层采用ReLU；在第一个卷积层和全连接层后面加入了Dropout层，以防止模型的过拟合。具体网络结构如图3所示。
优化器使用Adam优化器，学习率设置为0.0003，batch size设置为100，Dropoutratio设置为0.2，每一层卷积的Filters为60，Filters的大小为10。具体网络参数如下表1所不。
表1网络参数
| <u>Hyperparameter</u> | Value |
| Optimizer | Adam |
| learning rate | 0.0003 |
| Batch size | 100 |
| Dropout ratio | 0.2 |
| Filters per <u>Conv</u> layer | 60 |
| Filter size | 10 |
S4、利用步骤S1预处理得到的数据，对Attention-Based CNN模型进行训练，得到训练好的Attention-Based CNN分类器。
S5、对于新接收的数据，对其进行数据预处理，然后送入训练好的Attention-Based CNN分类器中进行分类，得到最终的分类结果，即为频谱感知的结果。
本方法首先将频谱感知视为一个二分类问题。将步骤S1得到的训练数据输入到步骤S3得到的需要训练的模型当中，并把训练好的模型保持下来。获取新的信号数据进行上述类似的数据预处理后，即可送入训练好的模型中进行分类，当分类结果为空闲，则表示主用户不存在，次用户可以接入，当分类结果为占用，则表示主用户存在，次用户不可以接入。
下面对本发明构建的Attention-Based CNN模型涉及的相关内容作进一步说明。
1、卷积神经网络(CNN)
卷积神经网络由输入层、卷积层、线性整流层、Dropout层、全连接层和输出层组成，其中输入层用于数据输入。
卷积层是卷积核在上一级输入层通过逐次滑动窗口计算而得。卷积层上的结果是通过将卷积核中的每一个参数与上一级输入层对应的局部像素值相乘求和得到的。卷积层局部连接和权值共享的两个特征，不仅使网络训练中的参数数量大幅度减少而且使网络的学习效率更高效，同时也在一定程度上降低过拟合的发生。卷积运算实现了对输入特征的提取，执行一层卷积运算得到的是输入的低级特征，执行多层卷积运算就可以从低级特征中迭代提取更高级的特征。
由于卷积也是一种线性运算，因此需要对卷积层输出的结果做一个非线性映射。本实施例中，在FC2采用Softmax激活函数，而其他层采用激励函数为ReLU(RectifiedLinear Unit)，其特点是收敛快，求梯度简单，但比较脆弱。
在本实施例中，采用Dropout层降低模型的过拟合程度。此外，采用全连接层将上一层输出展开变成一维数据，并连接到每一个神经元上。全连接层的作用是把有用信息保留下来，减少特征信息的损失。
最后，输出层输出最后的结果。
2、注意力机制(Attention)
本发明采用一种软寻址注意力机制：将source理解为存储器内由地址key和值Value组成的存储内容，当前有个Key-Value的查询，目的是得到Attention数值，即存储器内地址Key对应的Value值。通过计算Query和存储器内元素Key的地址的相似性最终完成寻址。软寻址区别于只从存储器内容里找出一条内容的一般寻址，它从每个地址Key都会取出对应的内容，然后通过计算Query和Key的相似性，决定取出内容所占的比重，之后对Value进行加权求和，得到最终AttentionValue的值。
本实施例中，如图2所示，Attention机制主要通过以下三步来得到AttentionValue：
1)首先Query和Key进行相似度计算得到权值；
2)对权值进行归一化处理；
3)用归一化的权值与Value进行加权求和，得到注意力的值，其计算公式如下所示：
其中Lx＝||source||，代表source的长度。
3、Attention-Based CNN
本发明在卷积层之间引入了attention层。具体地，Attention层是为每个输入信号元素创建上下元素向量。上下元素向量与信号元素向量拼接，作为信号元素新的表示，将其输入到卷积层。直观来看，一对彼此远离的信号元素往往联系较少。本发明采用Attention机制的思想是在学习时将注意力放在重要的信号元素上，这使得模型的准确率以及工作效率都能大大提升。
本实施例还提供了一种基于Attention-Based CNN的认知无线电频谱感知***，其特征在于，包括存储器、处理器以及存储于存储器上并能够被处理器运行的计算机程序指令，当处理器运行该计算机程序指令时，能够实现上述的方法步骤。
本发明将频谱感知视为一个二分类问题，并提出了基于Attentiond-BasedCNN的频谱感知方法。该方法首先将信号样本输入卷积神经网络(CNN)，利用卷积神经网络(CNN)在提取特征方面具有强大功能的优势对输入的样本进行特征提取，并接入注意力机制，对提取的特征根据其重要性来赋予不同的权重值，使模型集中学习更重要的数据特征，进一步提高预测性能，同时不会加大模型的计算量和存储量。
本发明是动态频谱接入的关键前提，而动态频谱接入是CR的基础。只有准确的感知到主用户的信号状态，次用户才能充分的利用空闲频谱，解决当下频谱资源紧缺的问题。本发明可以应用于小到手表、手机、电视，大到车联网、智能电网和卫星导航技术等各个领域。
本领域内的技术人员应明白，本申请的实施例可提供为方法、***、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述，仅是本发明的较佳实施例而已，并非是对本发明作其它形式的限制，任何熟悉本专业的技术人员可能利用上述揭示的技术内容加以变更或改型为等同变化的等效实施例。但是凡是未脱离本发明技术方案内容，依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与改型，仍属于本发明技术方案的保护范围。
Claims (7)
1.一种基于Attention-Based CNN的认知无线电频谱感知方法，其特征在于，包括如下步骤：
S1、对信号数据进行预处理，包括能量归一化和信噪比间隔划分，然后划分为训练集、验证集和测试集；
S2、搭建注意力机制层；
S3、将搭建好的注意力机制层加入卷积神经网络中，得到Attention-Based CNN模型；
S4、利用步骤S1预处理得到的数据，对Attention-Based CNN模型进行训练，得到训练好的Attention-Based CNN分类器；
S5、对于新接收的数据，对其进行数据预处理，然后送入训练好的Attention-BasedCNN分类器中进行分类，得到最终的分类结果，即为频谱感知的结果。
2.根据权利要求1所述的基于Attention-Based CNN的认知无线电频谱感知方法，其特征在于，步骤S1中，所述信号数据包括8种类型的调制信号，分别为：BPSK、8PSK、QPSK、PAM4、QAM16、QAM64、GFSK、CPFSK，噪声数据为CSCG噪声；在接收到时域信号之后首先对信号进行能量归一化处理；信噪比从-20～20，间隔为1；每个样本的采用点数为8，信号样本长度分别为64，128，256，512，1024；
然后将所有信号数据样本按3：1：1划分为训练集、验证集和测试集。
3.根据权利要求1所述的基于Attention-Based CNN的认知无线电频谱感知方法，其特征在于，步骤S2中，注意力机制层的计算过程包括以下步骤：
S201、计算输入信号和输入信号中各元素Key的相似度得到对应的权重：
scorei＝F(Q,ki)
其中，scorei表示权重，Q表示查询向量，ki表示输入信号中的元素，F(,)为相似度计算函数；
S202、采用Softmax函数对步骤S201得到的权重归一化：
其中，αi表示注意力分布，N表示输入信号个数；
S203、将权重和加权后的输入信号中各元素的权值进行加权求和，得到注意力Attention：
其中，K表示输入信号，V表示输入信号的值，vi表示第i个输入信号的值。
4.根据权利要求1所述的基于Attention-Based CNN的认知无线电频谱感知方法，其特征在于，步骤S3中，所述Attention-Based CNN模型采用两个卷积层、一个注意力机制层和一个全连接层；对于激活函数，在FC2采用Softmax，其他层采用ReLU；在第一个卷积层和全连接层后面加入了Dropout层，以防止模型的过拟合。
5.根据权利要求4所述的基于Attention-Based CNN的认知无线电频谱感知方法，其特征在于，所述Attention-Based CNN模型的网络参数为：优化器使用Adam优化器，学习率设置为0.0003，batch size设置为100，Dropout ratio设置为0.2，每一层卷积的Filters为60，Filters的大小为10。
6.根据权利要求1所述的基于Attention-Based CNN的认知无线电频谱感知方法，其特征在于，步骤S4中，如果分类结果为空闲，则表示主用户不存在，次用户可以接入，如果分类结果为占用，则表示主用户存在，次用户不可以接入。
7.一种基于Attention-Based CNN的认知无线电频谱感知***，其特征在于，包括存储器、处理器以及存储于存储器上并能够被处理器运行的计算机程序指令，当处理器运行该计算机程序指令时，能够实现如权利要求1-6所述的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110950319.0A CN113627377A (zh) | 2021-08-18 | 2021-08-18 | 基于Attention-Based CNN的认知无线电频谱感知方法及*** |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110950319.0A CN113627377A (zh) | 2021-08-18 | 2021-08-18 | 基于Attention-Based CNN的认知无线电频谱感知方法及*** |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113627377A true CN113627377A (zh) | 2021-11-09 |
Family
ID=78386446
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110950319.0A Pending CN113627377A (zh) | 2021-08-18 | 2021-08-18 | 基于Attention-Based CNN的认知无线电频谱感知方法及*** |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113627377A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113884844A (zh) * | 2021-11-18 | 2022-01-04 | 国网山东省电力公司电力科学研究院 | 一种变压器局部放电类型识别方法及*** |
| CN115276853A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 一种基于cnn-cbam的频谱感知方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110728224A (zh) * | 2019-10-08 | 2020-01-24 | 西安电子科技大学 | 一种基于注意力机制深度Contourlet网络的遥感图像分类方法 |
| CN112699902A (zh) * | 2021-01-11 | 2021-04-23 | 福州大学 | 基于双线性注意力池化机制的细粒度敏感图像检测方法 |
| KR20210046512A (ko) * | 2019-10-18 | 2021-04-28 | 고려대학교 산학협력단 | 주의 기반 뉴럴네트워크를 이용한 지진 이벤트 분류 방법, 이를 수행하기 위한 기록 매체 및 장치 |
| CN112770325A (zh) * | 2020-12-09 | 2021-05-07 | 华南理工大学 | 一种基于深度学习的认知车联网频谱感知方法 |
| KR20210051419A (ko) * | 2019-10-30 | 2021-05-10 | 한밭대학교 산학협력단 | 뇌 인지 부하 분류 시스템 및 방법 |
| WO2021104099A1 (zh) * | 2019-11-29 | 2021-06-03 | 中国科学院深圳先进技术研究院 | 一种基于情景感知的多模态抑郁症检测方法和*** |
| CN113177136A (zh) * | 2021-04-27 | 2021-07-27 | 桂林电子科技大学 | 基于注意力的音频和歌词的多模态音乐风格分类方法 |
-
2021
- 2021-08-18 CN CN202110950319.0A patent/CN113627377A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110728224A (zh) * | 2019-10-08 | 2020-01-24 | 西安电子科技大学 | 一种基于注意力机制深度Contourlet网络的遥感图像分类方法 |
| KR20210046512A (ko) * | 2019-10-18 | 2021-04-28 | 고려대학교 산학협력단 | 주의 기반 뉴럴네트워크를 이용한 지진 이벤트 분류 방법, 이를 수행하기 위한 기록 매체 및 장치 |
| KR20210051419A (ko) * | 2019-10-30 | 2021-05-10 | 한밭대학교 산학협력단 | 뇌 인지 부하 분류 시스템 및 방법 |
| WO2021104099A1 (zh) * | 2019-11-29 | 2021-06-03 | 中国科学院深圳先进技术研究院 | 一种基于情景感知的多模态抑郁症检测方法和*** |
| CN112770325A (zh) * | 2020-12-09 | 2021-05-07 | 华南理工大学 | 一种基于深度学习的认知车联网频谱感知方法 |
| CN112699902A (zh) * | 2021-01-11 | 2021-04-23 | 福州大学 | 基于双线性注意力池化机制的细粒度敏感图像检测方法 |
| CN113177136A (zh) * | 2021-04-27 | 2021-07-27 | 桂林电子科技大学 | 基于注意力的音频和歌词的多模态音乐风格分类方法 |
Non-Patent Citations (2)
| Title |
|---|
| 杨洁;夏卉;: "基于卷积神经网络的通信信号调制识别研究", 计算机测量与控制, no. 07 * |
| 王?;李争平;栗卓然;: "基于机器学习的无线频谱占用预测研究", 物联网技术, no. 04 * |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113884844A (zh) * | 2021-11-18 | 2022-01-04 | 国网山东省电力公司电力科学研究院 | 一种变压器局部放电类型识别方法及*** |
| CN115276853A (zh) * | 2022-06-16 | 2022-11-01 | 宁波大学 | 一种基于cnn-cbam的频谱感知方法 |
| CN115276853B (zh) * | 2022-06-16 | 2023-10-03 | 宁波大学 | 一种基于cnn-cbam的频谱感知方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Xing et al. | Spectrum sensing in cognitive radio: A deep learning based model | |
| CN113627377A (zh) | 基于Attention-Based CNN的认知无线电频谱感知方法及*** | |
| CN110875912A (zh) | 一种基于深度学习的网络入侵检测方法、装置和存储介质 | |
| CN111314353B (zh) | 一种基于混合采样的网络入侵检测方法及*** | |
| CN112820299B (zh) | 声纹识别模型训练方法、装置及相关设备 | |
| CN108616471B (zh) | 一种基于卷积神经网络的信号调制识别方法和装置 | |
| CN110224771B (zh) | 基于bp神经网络与信息几何的频谱感知方法及装置 | |
| CN108924847B (zh) | 一种基于ann的认知无线电频谱预测方法及设备 | |
| CN116596095B (zh) | 基于机器学习的碳排放量预测模型的训练方法及装置 | |
| US20240135698A1 (en) | Image classification method, model training method, device, storage medium, and computer program | |
| CN113315593A (zh) | 一种基于flom协方差矩阵和lstm神经网络的频谱感知算法 | |
| CN113468338A (zh) | 针对数字化云业务的大数据分析方法及大数据服务器 | |
| CN116192307A (zh) | 非高斯噪声下分布式协同的多天线协作频谱智能感知方法、***、设备及介质 | |
| CN114612011A (zh) | 一种风险防控决策方法及装置 | |
| US11985508B2 (en) | RF fingerprint signal processing device and RF fingerprint signal processing method | |
| CN113472860A (zh) | 大数据和数字化环境下的业务资源分配方法及服务器 | |
| CN109309538A (zh) | 一种频谱感知方法、装置、设备、***及存储介质 | |
| CN110855474B (zh) | Kqi数据的网络特征提取方法、装置、设备及存储介质 | |
| CN111507461A (zh) | 可解释性信息确定方法及装置 | |
| CN110889467A (zh) | 一种公司名称匹配方法、装置、终端设备及存储介质 | |
| Zhang et al. | Machine learning based protocol classification in unlicensed 5 GHz bands | |
| CN114337883B (zh) | 协方差矩阵Cholesky分解的CNN协作频谱感知方法及*** | |
| CN113312166B (zh) | 资源处理方法以及装置 | |
| CN112350790B (zh) | 一种基于深度学习的频谱感知检测方法、装置及设备 | |
| CN115273148A (zh) | 行人重识别模型训练方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |