CN110728314A - 一种大规模免调度***活跃用户检测方法 - Google Patents

Abstract

一种大规模免调度***活跃用户检测方法，首先在具体通信场景下利用变分方法对损失函数进行推导，利用变分自编码器神经网络结构对大量训练数据进行训练，将训练好的网络对测试数据进行检测，并利用机器学习中的F_β度量对检测结果进行衡量，本发明利用深度学习的变分自编码器解决大规模免调度***活跃用户检测的方法，将大量数据经过训练之后得到的网络，在活跃用户数未知的情况下，输入对应不同活跃用户数的观测数据，能够达到较为准确的检测结果，与压缩感知昂贵的重构过程相比只运用了简单的网络结构，而利用大量数据进行训练的神经网络对于新输入的待检测数据可以直接输出较为准确的结果，具有较好的鲁棒性，不用再次进行迭代计算。

Description

一种大规模免调度***活跃用户检测方法

技术领域

本发明涉及通信技术领域，特别涉及一种利用深度学习进行大规模免调度传输场景下的活跃用户检测方法。

背景技术

物联网在结构上分为感知层、网络层和应用层三个部分，而构成感知层的重要组件就是各种各样的传感器。下一代移动通信技术重点引入了机器类通信场景(MTC)。MTC通信广泛应用在环境传感，事件监测和控制中，需要用到各种不同的监测传感器设备。对于MTC通信，***需要支持海量的连接，接入基站的设备可能达到10⁴到10⁶量级，在每个给定时刻，只有很少一部分的设备是处于激活状态的，对于网络中处于活跃状态的用户检测对确保基站和用户之间的有效通信极为重要。

相对于当前网络中总的注册用户而言，活跃用户数相对较少，因此之前有很多研究工作提出采用压缩感知中的信号处理方法来进行活跃用户检测。比如，BOMP(块正交匹配追踪)算法，AMP(近似消息传递)算法和BP(基追踪)算法。压缩感知具有灵活并且数据效率高的优点，但是由于其昂贵的重建过程，使压缩感知的应用受到限制。

随着深度学习方法的广泛研究，其技术在通信领域也得到了很多应用。变分自编码器是一种生成模型，被广泛应用在深度学习的无监督学习和半监督学习中，目前被广泛用于生成图像。但如何应用到通信领域的大规模免调度***活跃用户检测中，还未见有报道。

发明内容

为了克服传统压缩感知算法的技术限制，解决大规模免调度***活跃用户检测问题，本发明的目的在于提供一种利用深度学习的变分自编码器解决大规模免调度***活跃用户检测的方法，将大量数据经过训练之后得到的网络，在活跃用户数未知的情况下，输入对应不同活跃用户数的观测数据，能够达到较为准确的检测结果。

为了达到上述目的，本发明的目的是通过下述技术方案来实现的。

一种大规模免调度***活跃用户检测方法，包括下述步骤：

(1)、创建接收信号y的数据集；

(2)、将步骤(1)中得到的数据集划分为训练集和测试集；

(3)、利用变分自编码器方法设计损失函数和神经网络结构，利用步骤(2)中得到的训练集数据输入到网络中进行训练；

(4)、将步骤(3)训练好的网络，利用步骤(2)中得到的测试集数据输入到网络中进行测试；

(5)、步骤(4)输出的重构信号中输出值为1的元素对应的位置即代表处于活跃状态的用户，输出值为0的元素对应的位置即代表处于非活跃状态的用户，采用机器学习中的F_β度量来衡量检测结果。

所述步骤(1)中，创建接收信号y的数据集方法为：首先生成一个长度为N的稀疏向量a作为活跃用户指示向量，N代表总的注册用户数，a中只包含少数1，其余元素都为0，稀疏向量a与具体场景下的信道系数向量h对应元素相乘，再与基站分配的导频序列矩阵S进行矩阵乘法，叠加高斯白噪声w后即得到接收信号，y＝S(h*a)+w，*代表对应元素逐个相乘，按照上述方法产生多条数据，在Tensorflow深度学习框架中创建数据集，用于作为训练数据集和测试数据集；

所述步骤(3)具体为：在Tensorflow深度学习框架中搭建变分自编码器网络结构，编码器和解码器部分都由两个全连接层组成，通过变分推断的方法推导出一个变分下界，作为用于变分自编码器网络训练的损失函数

变分下界的表达如下：

其中p_θ(a)为先验概率密度函数，p_θ(y|a)为高斯似然函数，q_Φ(a|y)为一个逼近后验概率p_θ(a|y)的近似后验概率密度函数，称作编码器；

网络训练采用小批量训练方式利用梯度下降法最小化损失函数

关注编码器q_Φ(a|y)的输出结果，对编码器的网络实现，利用了两层全连接神经网络，因为处理的数据是复数，所以输入层有两个输入通道，分别对应观测信号y的实部和虚部，输出层有一个通道，代表输出概率向量

其中q_i代表每个用户处于激活状态的概率预测值，第一层全连接层与第二层全连接层之间的激活函数为Softmax函数，定义为

输出层激活函数为Sigmoid函数，保证输出结果在[0,1]之间，代表有效的概率值。

所述步骤(5)具体为，对活跃用户指示向量的真实值与预测值的不同情况的组合做如下定义：a＝[a₁,a₂,…,a_N]向量中的元素a_i的真实取值为1，预测值q_i为1时对应的情况个数记为TP；a_i的真实取值为1，预测值q_i为0时对应的情况个数记为FN；a_i的真实取值为0，预测值q_i为0时对应的情况个数记为TN；a_i的真实取值为0，预测值q_i为1时对应的情况个数记为FP，定义两个度量：查准率P和查全率R分别为：

对P和R的重视程度的不同可以用F_β度量对两者进行加权调和平均，取F_β中的参数β＝5代表赋给查全率更高的比重，F_β定义为：

本发明利用基于变分自编码器的深度学习方法来解决大规模免调度传输场景下的活跃用户检测问题。针对一条数据的重构效果，将活跃用户检测结果与传统压缩感知算法结果对比，基于变分自编码器的深度学习方法可以达到很好的效果。

附图说明

图1为本发明方法的实施流程图。

图2为本发明所述方法与其它算法的对比。

具体实施方式

为了更加清晰说明本发明的目的、技术方案及优点，以下结合附图及实施实例对本发明作进一步详细说明。应当理解，此处所述的具体实施实例仅用以解释本发明，并不用于限定本发明。

考虑一个上行免调度无线蜂窝***，包含有N个单天线用户，所有用户接入同一基站，基站配置一根天线，N个用户在以基站为中心的圆上均匀坐落，当用户向基站提交了注册信息并成功入网后即成为该基站覆盖网络下的在线用户。该***需要支持大规模的用户连接，但在每个给定时刻，只有很少一部分的用户是处于激活状态的。

基于上述大规模免调度***的一种活跃用户检测方法，参照图1，包括下述步骤：

(1)、创建接收信号y的数据集；

首先生成一个长度为N的稀疏向量a作为活跃用户指示向量，N代表总的注册用户数，a中只包含少数1，其余元素都为0。比如向量长度N为100，代表100个待检测在线用户，其中处于活跃状态的用户个数可以取2,3,4,5,6等。稀疏向量a与具体场景下的信道系数向量h对应元素相乘，再与基站分配的导频序列S矩阵进行矩阵乘法，叠加高斯白噪声w后即得到接收信号，y＝S(h*a)+w，(*代表对应元素逐个相乘)。按照上述方法产生多条数据，在Tensorflow深度学习框架中创建数据集，用于作为训练数据集和测试数据集；

具体为：基站为每个在线用户分配导频序列作为唯一标识。令a_n∈{1,0}，a＝[a₁,a₂,…,a_N]代表活跃用户指示向量，只包含0和少数1，1代表激活状态，0代表非激活状态。分配给用户n的导频序列为其中L为导频序列长度。假设s_n服从独立同分布的均值为0，方差为1/L的复高斯分布。考虑一个块衰落模型，在每个块内信道保持不变。稀疏向量a与具体场景下的信道系数向量h对应元素相乘，再与基站分配的导频序列矩阵S进行矩阵乘法，叠加高斯白噪声w后即得到接收信号，则基站端的接收信号可以被建模为：

中的元素h_n∈C是基站与用户之间的信道系数，w∈C^L×1代表加性高斯白噪声。

其中代表用户的有效信道，假设信道系数为h＝h+Δh,h为发送端估计的信道状态信息，Δh为信道状态信息误差，假设

是瑞丽衰落信道，

且Δh也服从复高斯分布，

基站端的接收信号可以被写为：

y＝Sx+w＝S(h*a)+w

于是：

y＝S(h*a)+S(Δh*a)+w＝Φa+n

其中Φ代表矩阵S的每一行和h分别对应相乘。n＝S(Δh*a)+w仍然是一个均值为0，方差为σ²的复高斯分布。

在Tensorflow深度学习框架中随机产生1060条数据，用户总数N假设为100，导频序列长度L设置为20，其中包含活跃用户数分别为2,3,4,5,6的情况，且每种活跃用户数对应的数据数目是相等的。选择980条数据作为训练集，另外80条数据作为测试集。

(2)、对步骤(1)中得到的数据集划分为训练集和测试集；

实例中选择980条数据作为训练集，另外80条数据作为测试集。其中训练集和测试集分别包含相等数量的活跃用户数分别为2,3,4,5,6对应的数据。

(3)、利用变分自编码器方法设计损失函数和神经网络结构，利用步骤(2)中得到的训练集数据输入到网络中进行训练；

即在Tensorflow深度学习框架中搭建变分自编码器网络结构，编码器和解码器部分都由两个全连接层组成。通过变分推断的方法推导出一个变分下界，作为用于变分自编码器网络训练的损失函数

变分下界的表达如下：

网络训练采用小批量训练方式利用梯度下降法最小化损失函数

具体为：

本发明的目的是在接收信号y的基础上恢复活跃用户指示信号a，在此场景下用户数远远大于导频序列长度，即N＞＞L。

对于上面的问题，考虑用ML估计活跃用户指示向量a，即寻找使logp_θ(y)最大的a向量和σ²，这里先验p_θ(a)＝(ε)^Nε(1-ε)^N(1-ε)，假设每个用户是同步的并且在每个相干块内的活跃的概率相等，都为ε；高斯似然函数为

后验概率为p_θ(a|y)。然而p_θ(y)＝∫_xp(x)p_θ(y|x)dx很难求解，而这个问题可以通过变分方法解决，通过变分自编码器(VAE)的方法，可以不用直接最大化p_θ(y)，而是最大化一个下界：

这里D_KL[·||·]代表两个密度函数的KL距离，q_Φ(a|y)是一个任意逼近p_θ(y|a)的概率密度函数。于是现在问题转化成了最大化下界

解码器p_θ(y|a)和编码器q_Φ(a|y)都由神经网络来实现。

接下来推导训练神经网络用到的损失函数

由上面的公式得到：

令等式右边第一项为A,第二项为B,则：

其中(φx_m)_j代表矩阵Φ的第m行，第j列。用

对σ2求导，并令求导结果等于0,利用σ²的优化值

带入

并去掉不应参与训练的常数项后，得到用于网络训练的损失函数在此通信场景下的具体形式：

本发明主要关注编码器q_Φ(a|y)的输出结果，对编码器的网络实现，利用了两层全连接神经网络，因为处理的数据是复数，所以输入层有两个输入通道，分别对应观测信号y的实部和虚部，输出层有一个通道，代表输出概率向量其中q_i代表每个用户处于激活状态的概率预测值。第一层全连接层与第二层全连接层之间的激活函数为Softmax函数，定义为

输出层激活函数为Sigmoid函数，保证输出结果在[0,1]之间，代表有效的概率值。

(4)、将步骤(3)训练好的网络，利用步骤(2)中得到的测试集数据输入到网络中进行测试；

测试集包含等数量的活跃用户数分别为2,3,4,5,6对应的数据。将不同活跃用户数下的测试数据输入到训练好的网络中得到对应的输出结果。

(5)、步骤(4)输出的重构信号中输出值为1的元素对应的位置即代表处于活跃状态的用户，输出值为0的元素对应的位置即代表处于非活跃状态的用户，采用机器学习中的F_β度量来衡量检测结果。

对活跃用户指示向量a＝[a₁,a₂,…,a_N]向量中的元素a_i的真实取值为1，预测值q_i为1时对应的情况个数记为TP；a_i的真实取值为1，预测值q_i为0时对应的情况个数记为FN；a_i的真实取值为0，预测值q_i为0时对应的情况个数记为TN；a_i的真实取值为0，预测值q_i为1时对应的情况个数记为FP。定义两个度量：查准率P和查全率R分别为：

对P和R的重视程度的不同可以用F_β度量对两者进行加权调和平均。例如，在商品推荐算法中，为了尽可能少打扰用户，更希望推荐内容是用户感兴趣的，此时查准率P更重要；在逃犯检索***中，更希望尽可能少漏掉逃犯，此时查全率更重要。为了突出对查全率的重视，我们取F_β中的参数β＝5代表赋给查全率更高的比重。F_β定义为：

图2给出了按照本发明所述方法得到的F_β度量随不同活跃用户数的变化曲线，另外四条曲线是利用传统压缩感知算法BPDN，SAMP，IST算法进行对比得到的F_β度量随着活跃用户数的变化曲线。由图2可见，本发明所述方法明显优于其它算法，具有较为理想的检测性能。并且训练好的网络不需要再次进行迭代计算即可对新输入的数据进行检测，具有较好的鲁棒性。

Claims (4)

1.一种大规模免调度***活跃用户检测方法，其特征在于，包括下述步骤：

(1)、创建接收信号y的数据集；

(2)、将步骤(1)中得到的数据集划分为训练集和测试集；

(3)、利用变分自编码器方法设计损失函数和神经网络结构，利用步骤(2)中得到的训练集数据输入到网络中进行训练；

(4)、将步骤(3)训练好的网络，利用步骤(2)中得到的测试集数据输入到网络中进行测试；

(5)、步骤(4)输出的重构信号中输出值为1的元素对应的位置即代表处于活跃状态的用户，输出值为0的元素对应的位置即代表处于非活跃状态的用户，采用机器学习中的F_β度量来衡量检测结果。

2.根据权利要求1所述的一种大规模免调度***活跃用户检测方法，其特征在于，

所述步骤(1)中，创建接收信号y的数据集方法为：首先生成一个长度为N的稀疏向量a作为活跃用户指示向量，N代表总的注册用户数，a中只包含少数1，其余元素都为0，稀疏向量a与具体场景下的信道系数向量h对应元素相乘，再与基站分配的导频序列矩阵S进行矩阵乘法，叠加高斯白噪声w后即得到接收信号，y＝S(h*a)+w，*代表对应元素逐个相乘，按照上述方法产生多条数据，在Tensorflow深度学习框架中创建数据集，用于作为训练数据集和测试数据集。

3.根据权利要求1所述的一种大规模免调度***活跃用户检测方法，其特征在于，

所述步骤(3)具体为：在Tensorflow深度学习框架中搭建变分自编码器网络结构，编码器和解码器部分都由两个全连接层组成，通过变分推断的方法推导出一个变分下界，作为用于变分自编码器网络训练的损失函数

变分下界的表达如下：

其中p_θ(a)为先验概率密度函数，p_θ(y|a)为高斯似然函数，q_Φ(a|y)为一个逼近后验概率p_θ(a|y)的近似后验概率密度函数，称作编码器；

网络训练采用小批量训练方式利用梯度下降法最小化损失函数

关注编码器q_Φ(a|y)的输出结果，对编码器的网络实现，利用了两层全连接神经网络，因为处理的数据是复数，所以输入层有两个输入通道，分别对应观测信号y的实部和虚部，输出层有一个通道，代表输出概率向量

其中q_i代表每个用户处于激活状态的概率预测值，第一层全连接层与第二层全连接层之间的激活函数为Softmax函数，定义为

输出层激活函数为Sigmoid函数，保证输出结果在[0,1]之间，代表有效的概率值。

4.根据权利要求1所述的一种大规模免调度***活跃用户检测方法，其特征在于，

所述步骤(5)具体为，对活跃用户指示向量的真实值与预测值的不同情况的组合做如下定义：a＝[a₁,a₂,…,a_N]向量中的元素a_i的真实取值为1，预测值q_i为1时对应的情况个数记为TP；a_i的真实取值为1，预测值q_i为0时对应的情况个数记为FN；a_i的真实取值为0，预测值q_i为0时对应的情况个数记为TN；a_i的真实取值为0，预测值q_i为1时对应的情况个数记为FP，定义两个度量：查准率P和查全率R分别为：

对P和R的重视程度的不同可以用Fβ度量对两者进行加权调和平均，取F_β中的参数β＝5代表赋给查全率更高的比重，F_β定义为：

Images