CN117176534A - 一种基于Transformer的OFDM接收方法 - Google Patents
一种基于Transformer的OFDM接收方法 Download PDFInfo
- Publication number
- CN117176534A CN117176534A CN202311113977.XA CN202311113977A CN117176534A CN 117176534 A CN117176534 A CN 117176534A CN 202311113977 A CN202311113977 A CN 202311113977A CN 117176534 A CN117176534 A CN 117176534A
- Authority
- CN
- China
- Prior art keywords
- ofdm
- signal
- channel
- ofdm receiver
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 26
- 230000005540 biological transmission Effects 0.000 claims abstract description 24
- 238000001514 detection method Methods 0.000 claims abstract description 16
- 230000007246 mechanism Effects 0.000 claims abstract description 11
- 238000004891 communication Methods 0.000 claims description 25
- 238000012549 training Methods 0.000 claims description 24
- 230000008569 process Effects 0.000 claims description 9
- 230000006870 function Effects 0.000 claims description 7
- 238000004422 calculation algorithm Methods 0.000 claims description 4
- 238000005457 optimization Methods 0.000 claims description 4
- 238000003062 neural network model Methods 0.000 claims description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 2
- 238000013135 deep learning Methods 0.000 abstract description 8
- 238000013461 design Methods 0.000 description 8
- 239000013598 vector Substances 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 7
- 238000010586 diagram Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
Abstract
本发明提供一种基于Transformer的OFDM接收方法，在正交频分复用OFDM***中利用深度学习来实现信道估计和信号检测。以端到端的方式设计和扩展OFDM接收机的基础框架，通过引入通用灵活的Transformer网络结构使用多头注意力机制学习信道特征，根据接收信号和原始信号之间的关系进行网络参数更新，在不进行显式信道估计的同时获得最终的信号信息，并直接输出预测的发送比特。本发明提出的OFDM接收方法可以有效解决信道失真并检测传输信号，其性能可与传统OFDM接收方式相媲美，在对抗复杂、难以建模的信道环境以及非线性干扰因素上也具有明显的优势，具有重要的工程应用价值。
Description
技术领域
本发明涉及一种基于Transformer的OFDM接收机设计方法，属于无线通信技术领域。
背景技术
正交频分复用(Orthogonal Frequency-Division Multiplexing,OFDM)已被证明是一种处理无线信道延迟扩展的有效技术，可以更好的应对复杂无线通信环境中对接收信号进行高效检测的巨大挑战。而准确估计出信道状态信息(Channel State Information,CSI)对OFDM***中的相干检测和解码至关重要。传统的OFDM信道估计算法有最小二乘法(Least Square,LS)和最小均方误差法(Minimum Mean Square Error,MMSE)，这类基于训练序列的信道估计方法在各种条件下得到了利用和优化，但其训练序列过长会降低频谱效率。信道估计的性能严重依赖导频数量，随着导频数量的增加，导频开销也随之增加。同时，传统的信号检测方法难以解决日益复杂的无线通信场景中信道信息获取困难和检测误码率高等诸多难题。
在经典信号处理、通信和信息理论的基础上，无线通信已逐渐接近最优的香农极限性能。传统的通信***通常由多个处理块组成，例如编码、调制、信道估计和信号检测，它们通常以单独的方式进行设计和优化，基于不同的假设和目标，***的全局最优性难以得到保障。另外，在实现信道中的非线性模块时，传统的优化方法也难以得到较好的性能表现。基于上述传统通信***设计的局限性，传统通信***的适配能力难以满足未来异构垂直业务的多样化需求。
近年来，深度学习在计算机视觉和自然语言处理等领域取得了巨大成功，在无线通信中的应用也逐渐成为人们关注的内容，相关研究主要集中在增强通信***中的某些组件，例如CSI反馈、信道估计和信号检测，其性能均优于现有的传统通信算法。与现有的传统OFDM接收机设计先显式地估计出CSI然后再检测传输信号不同，基于深度学习的OFDM接收机设计可以通过端到端的学习方式，利用神经网络可以有效拟合非线性函数的特点，隐式利用CSI直接恢复传输信号，而考虑到信道具有时变性的特征，传输信号不仅与当前时刻的信道状态有关，还会受到之前或之后的信道的影响。因此，可以考虑使用通用灵活的Transformer网络结构，设计OFDM***的信道估计和信号检测模型，采用端到端的训练方式在不进行显式信道估计的同时获得最终的信号信息。
发明内容
本发明为解决上述背景技术中技术问题，提供一种利用Transformer的多头注意力机制学习子载波之间的相关性，通过调整每个子载波之间的权重，提取信道信息的全局变量，从而完成OFDM接收的方法。
本发明为解决上述技术问题所采用的技术方案是，一种基于Transformer的OFDM接收方法，包括以下步骤：
S1、生成一个随机二进制比特序列作为原始的发送数据样本X，将X经调制后***相应的导频序列得到频域OFDM信号，再经过离散傅里叶反变换和加入保护间隔生成OFDM基带信号；OFDM基带信号经过射频发射端处理后经通信信道和射频接收端处理后得到OFDM接收信号样本Y；
S2、OFDM接收信号样本Y和发送数据样本X作为训练数据输入基于自注意力机制的神经网络模型Transformer的OFDM接收机；
S3、OFDM接收机的训练过程中利用自注意力机制学习信道特征，基于相邻子载波之间的相关性提高信号检测的精度，OFDM接收机的训练过程中通过不断缩小从OFDM接收信号样本Y中恢复出的发送数据与发送数据样本X之间的差距来更新OFDM接收机的模型参数；
S4、将通信场景下的接收信号输入完成训练的OFDM接收机，OFDM接收机完成信道估计和信号检测，输出二进制比特序列作为恢复出的发送数据。
本发明的有益效果是：
(1)Transformer引入多头注意力机制学习学习信道特征，根据子载波之间的相关性调整子载波之间的权重以得到更准确的特征表示，最终通过端到端的学习方式获得信号检测信息；
(2)使用仿真信道数据和真实无线通信场景的信道数据，根据相应的无线通信收发链路，通过Transformer对接收到的信号进行训练和检测，实现从接收信号中恢复发送信号。在导频有限、信道干扰和非线性噪声的情况下，完成训练的Transformer可以更好地工作，证明了Transformer网络结构有能力学习和分析无线信道的特性，也可以进一步说明基于深度学习的智能通信可用于实际部署的可能性。
附图说明
图1为本发明方法所应用的OFDM***结构图；
图2为OFDM信号物理帧结构示意图；
图3为基于深度学习的OFDM***结构示意图；
图4为OFDM接收机TCD-Net网络结构示意图；
具体实施方式
为了详细地说明本发明，下面将结合本发明实施例中的附图，对本发明的技术方案进行进一步的描述。
如图1所示，一个传统的OFDM过程是一个正交子载波调制的过程。OFDM发射机的输入比特s首先要进行编码(有冗余)，以减少特定信道的错误，编码后的比特通过调制在相内和正交(In-Phase and Quadrature,IQ)平面上映射成星座，得到复数表示的IQ数据。然后在IQ数据中***导频和保护频带，得到频域上的OFDM信号。频域OFDM信号通过反离散傅里叶变换(IDFT)转换为时域OFDM信号，其中IDFT可以并行地从接收信号中恢复搭载在子载波上的信号。然后***保护间隔，通过加入循环前缀(Cyclic Prefix,CP)减少上一个传输信号对下一个传输信号的干扰，最终得到一个完整的时域OFDM符号x(i)。通过上述整合得到了可以送入射频***的OFDM基带信号。然后，OFDM基带信号被上变频为无线电频率(radiofrequency,RF)，并通过RF前端进行空中传播。通过无线信道传播的无线电波被接收机的RF前端接收并下变频为基带数字IQ数据。在接收部分，传统OFDM接收机首先通过载波同步器对接收信号y(i)去除CP恢复时域OFDM信号，基带接收机再通过离散傅里叶变换DFT将时域OFDM信号转换到频域得到频域OFDM信号，DFT操作可以并行生成多个相互正交的子载波。信道均衡器估计信道的响应，并对接收到的被衰落信道扭曲的IQ数据进行均衡。经过信道估计和信道均衡后的频域IQ数据被解调为浮点型比特，再由信道解码器将其进一步解码为二进制比特的发送数据 被发送到下一层，并回收成数据包。
本发明只考虑有衰减和噪声过程的无线信道。无线信道可表示为：
其中x(i)代表发送信号，y(i)是接收信号，h(i)是信道系数，w(i)是加性白高斯噪声(AWGN)，代表卷积操作。在经过去除CP并执行DFT的操作后，在频域中，接收到的频域信号也可表示为：
其中，Y(i)，X(i)，H(i)和W(i)分别对应y(i),x(i),h(i)和w(i)的离散傅里叶变换。
如图2所示，OFDM通信***通常基于包含多个OFDM信号的物理帧(频域OFDM信号)，使用不同的块表示导频和数据，信号则通过两条天线TX1和TX2进行传输。一个OFDM物理帧包含多个连续的OFDM信号，其中，每个OFDM信号包含N个子载波，实施例假设每个子载波上的导频符号和传输数据按图2中的顺序进行排列，那么在信道上可以看作是一个OFDM帧到另一个OFDM帧的变化。
假设在第一个OFDM块中有导频符号，而随后的OFDM块则包含传输的数据。它们共同构成一个(物理)帧。信道可被视为跨越导频块和数据块的恒定信道，但从一个(物理)帧到另一个(物理)帧会发生变化。深度学习模型将由一个导频块和一个数据块组成的接收数据作为输入，并以端到端的方式恢复传输数据。以导频数量为32的发送过程为例：发送数据X由两路发送比特构成。接收信号Y由两路接收信号构成，按照实虚、天线、子载波的顺序排列成实数向量。发送端先从导频文件中读取参考导频分给两路发送。在时隙1，发送天线1导频占用0,8…号载波，发送天线2导频占用4,12…号载波；在时隙2，发送天线1和发送天线2以设定的调制方式分别发送比特。
与传统设计相比，采用本发明方法的OFDM接收机取代了传统OFDM接收机中载波同步器、基带接收机、信道均衡器、解调器和信道解码器，以图2所示的RF接收端输出的OFDM基带信号作为输入，并采用端到端的方式将接收到的OFDM基带信号直接映射为二进制比特输出。
本发明从深度学习的角度出发，受到自动编码器(auto encoder,AE)在无线通信***中可以根据大量训练数据有效逼近或拟合复杂函数并进行隐含特征提取的启发，如图3所示，本发明提出了基于深度学习的OFDM接送机的设计，打破了传统OFDM接收机模块化的结构设计。在通信环境中，发送比特X通过链路、信道和噪声的仿真影响处理，得到了接收信号Y，目的是从Y中获得发送比特的预测值并尽可能减少比特错误率，而之所以有比特错误率是因为发送信号在经过无线信道传输过程中会受到信道中噪声的影响。信号数据处理流程包括以下步骤：
S1、生成一个随机二进制比特序列作为原始的发送数据样本X，将X经调制后***相应的导频序列得到频域OFDM信号，再经过离散傅里叶反变换和加入保护间隔生成OFDM基带信号；OFDM基带信号经过射频发射端处理后经通信信道和射频接收端处理后得到OFDM接收信号样本Y；从发送数据样本X到OFDM接收信号样本Y的生成通过MATLAB实现；
S2、OFDM接收信号样本Y和发送数据样本X作为训练数据输入基于自注意力机制的神经网络模型Transformer；Transformer为一个包含信道估计和信号检测在内的OFDM接收机网络TCD-Net；
S3、OFDM接收机网络TCD-Net的训练过程中利用自注意力机制学习信道特征，基于相邻子载波之间的相关性提高信号检测的精度，采用端到端的训练方式对模型进行训练，TCD-Net的训练过程中通过不断缩小从OFDM接收信号样本Y中恢复出的发送数据与发送数据样本X之间的差距来更新TCD-Net的模型参数，实现模型的参数最优化，最终得到代替传统OFDM无线通信的信道估计和信号检测的接收机设计；
采用端到端的训练方式时，使用Adam优化算法最小化均方误差损失函数以更新参数集，损失函数公式如下：
其中，其中‖·‖2是欧几里得范数，K表示训练数据的样本总数。
S4、将通信场景下的接收信号输入完成训练的OFDM接收机，OFDM接收机完成信道估计和信号检测，输出二进制比特序列作为恢复出的发送数据。OFDM接收机模型用到导频有限和具有非线形失真及干扰的通信场景下。
具体的TCD-Net网络结构如图4所示，使用Transformer网络结构中的编码Encoder部分来设计。模型的输入是接收信号Y，输出是模型对发送信号的预测值接收信号Y包含有n个子载波y1,y2，...，yn。Transformer的Encoder为现有结构。输入经过Input Embedding层得到维度相同的嵌入向量表示Inputembedding。由于Transformer模型没有循环神经网络的迭代操作，因此通过位置编码(Position Encoding)将信号位置信息提供给模型，从而识别出接收信号中的顺序关系，经过位置编码能够得到一个和Inputembedding维度完全一致的编码数组Posembedding，将其叠加到原来的输入嵌入上得到新的嵌入表示Input′embedding可表示为：
Input′embedding＝Inputembedding+Posembedding
模型的核心结构是多头注意力机制，首先从嵌入表示Input′embedding中产生查询向量q，键向量k，值向量v三个向量，然后通过子载波y1对应的查询向量q1和每个k得到注意力权重 可表示为：
其中，d是向量q和k的维度。最终，结合所有位置上的特征信息得到子载波y1的特征可表示为：
注意力机制的矩阵计算可表示为：
其中，Q，K，V分布为查询矩阵、键矩阵和值矩阵，是键矩阵K的维度大小，为了把注意力矩阵变成标准正态分布，softmax进行归一化，使得不同位置信息的注意力权重之和为1，保证每个嵌入都包含当前信号的内所有的信息。Attention(Q，K，V)的维度和V的维度则保持一致。
在得到了经过注意力矩阵加权之后的V，也就是Attention(Q，K，V)，对其进行转置，使其和Input′embedding的维度一致，然后把他们加起来做残差连接，直接进行元素相加，即Input′embedding+Attention(Q，K，V)，在之后的运算里，每经过一个模块的运算，都要把运算之前的值和运算之后的值相加，从而得到残差连接，在训练的时候可以使梯度直接走捷径反传到最初始层。归一化Normalization的作用是把神经网络中隐藏层归一为标准正态分布，加速收敛，具体操作是将每一行的每一个元素减去这行的均值,再除以这行的标准差,从而得到归一化后的数值。前馈Feed Forward层包含两个线性层，通过线性变换，将数据先映射到高维空间，再映射到低维空间，帮助模型提取到信号数据更深层次的特征。在一个残差连接和归一化后，使用一个线性层和sigmoid激活函数得到对发送信号的最终预测。
以上为说明本发明技术思想的实施例，不能以此限定本发明的保护范围，基于本领域的普通技术人员所具备的专业能力知识范围内，在上述说明的基础上，还可以在不脱离本发明宗旨的前提下，做出其它不同形式的变化或变动。凡是在本发明提出的技术方案基础上所做的任何修改、替换和改进均应属于本发明权利要求书的保护范围之内。
Claims (3)
1.一种基于Transformer的OFDM接收方法，其特征在于，包括以下步骤：
S1、生成一个随机二进制比特序列作为原始的发送数据样本X，将X经调制后***相应的导频序列得到频域OFDM信号，再经过离散傅里叶反变换和加入保护间隔生成OFDM基带信号；OFDM基带信号经过射频发射端处理后经通信信道和射频接收端处理后得到OFDM接收信号样本Y；
S2、OFDM接收信号样本Y和发送数据样本X作为训练数据输入基于自注意力机制的神经网络模型Transformer的OFDM接收机；
S3、OFDM接收机的训练过程中利用自注意力机制学习信道特征，基于相邻子载波之间的相关性提高信号检测的精度，OFDM接收机的训练过程中通过不断缩小从OFDM接收信号样本Y中恢复出的发送数据与发送数据样本X之间的差距来更新OFDM接收机的模型参数；
S4、将通信场景下的接收信号输入完成训练的OFDM接收机，OFDM接收机完成信道估计和信号检测，输出二进制比特序列作为恢复出的发送数据。
2.根据权利要求1所述方法，其特征在于，步骤S3中，OFDM接收机使用Transformer网络结构中的编码部分。
3.根据权利要求1所述方法，其特征在于，OFDM接收机的训练过程中，使用Adam优化算法最小化均方误差损失函数以更新OFDM接收机的模型参数，损失函数如下：
其中，其中‖·‖2是欧几里得范数，K表示训练数据的样本总数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311113977.XA CN117176534A (zh) | 2023-08-31 | 2023-08-31 | 一种基于Transformer的OFDM接收方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311113977.XA CN117176534A (zh) | 2023-08-31 | 2023-08-31 | 一种基于Transformer的OFDM接收方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN117176534A true CN117176534A (zh) | 2023-12-05 |
Family
ID=88938836
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311113977.XA Pending CN117176534A (zh) | 2023-08-31 | 2023-08-31 | 一种基于Transformer的OFDM接收方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117176534A (zh) |
-
2023
- 2023-08-31 CN CN202311113977.XA patent/CN117176534A/zh active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US6928047B1 (en) | Precoded OFDM systems robust to spectral null channels and vector OFDM systems with reduced cyclic prefix length | |
| KR100918717B1 (ko) | 다입다출력 직교주파수분할다중화 이동통신 시스템에서의신호 시퀀스 추정 방법 및 장치 | |
| CN1871807B (zh) | 用于实现高吞吐量无线通信***的设备和相关方法 | |
| EP2044716B1 (en) | Improved multicarrier MIMO communication using Hadamard transform. | |
| CN101427485A (zh) | 复杂性降低的波束受控mimo ofdm*** | |
| CN107438047B (zh) | 一种单载波频域均衡***中基于判决反馈的相位噪声自矫正补偿方法 | |
| CN102546512A (zh) | 正交频分复用发送装置和正交频分复用接收装置 | |
| CN106059639B (zh) | 基于矩阵盖尔圆的发射天线数目盲估计方法 | |
| CN102201847A (zh) | 接收装置 | |
| CN111628833B (zh) | 基于卷积神经网络的mimo天线数目估计方法 | |
| CN110086743A (zh) | 一种基于差分编码的短突发mimo-ofdm通信***及方法 | |
| US20070206697A1 (en) | Signal receiving method and signal receiving equipment for multiple input multiple output wireless communication system | |
| US9654252B2 (en) | Low complexity maximum-likelihood-based method for estimating emitted symbols in a SM-MIMO receiver | |
| CN102651727B (zh) | 用于多根天线的sm-ofdm***中的非相干检测方法 | |
| CN101322365B (zh) | 多载波***中的噪声功率插值 | |
| CN109995404B (zh) | 空频域调制的一种差分调制和解调方法 | |
| CN109067674B (zh) | 一种基于选择性叠加导频的信道估计方法 | |
| CN112019464A (zh) | 一种高维信号传输方法 | |
| CN109818891B (zh) | 一种格基约减辅助的低复杂度贪心球形译码检测方法 | |
| CN117176534A (zh) | 一种基于Transformer的OFDM接收方法 | |
| CN101719816A (zh) | 实现自适应mimo-scfde***低反馈速率的方法 | |
| CN101162975B (zh) | 无线通信***中的反馈信息检测方法及*** | |
| Acar et al. | Data detection based iterative channel estimation for coded SM-OFDM systems | |
| CN107248876B (zh) | 基于稀疏贝叶斯学习的广义空间调制符号检测方法 | |
| WO2007039823A2 (en) | Ofdm reception in a multi-antenna mode |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |