CN110210658A - 基于小波变换的Prophet与高斯过程用户网络流量预测方法 - Google Patents

Abstract

本发明提供一种基于小波变换的Prophet与高斯过程用户网络流量预测方法。针对用户网络流量时间序列的非平稳性、时变性等复杂特性，采用小波变换对用户网络流量时间序列进行预处理分析。经过小波变换后得到高频子序列与低频子序列，其中高频子序列反映了用户网络流量时间序列的突变性与无规律的波动性特征，而低频子序列则反映了用户网络流量时间序列的周期性与长期依赖特性。本发明针对高频子序列与低频子序列的特点，分别应用Prophet模型预测低频子序列，用高斯过程回归模型预测高频子序列，最后再进行离散小波逆变换，重构得到最终的网络流量预测结果。本发明所提出的预测方法，可以有效提高用户网络流量预测准确度。

Description

基于小波变换的Prophet与高斯过程用户网络流量预测方法

技术领域

本发明属于无线通信技术领域，具体涉及一种基于小波变换的Prophet与高斯过程用户网络数据流量预测方法。

背景技术

近年来，移动通信行业飞速发展，使得用户无线接入需求大幅增长。用户数激增使得网络流量需求升高，用户的使用观感随之下降。如何保证整体网络稳定，保障QoE(Quality of Experience,用户体验)成为了移动通信网络运营商面临的巨大挑战。对个人用户未来流量的准确预测有助于实现无线网络的自优化，提高效率，提供最优质的用户体验。现有对用户流量预测方法较多为自回归滑动平均模型。然而该方法更适用平稳序列的短期预测，个人用户网络流量数据常常存在突发性特征，造成预测的准确度不是很高。

发明内容

本发明所要解决的技术问题在于针对背景技术所指出的不足，提供一种基于小波变换的Prophet与高斯过程的个人用户网络流量预测方法，针对高频子序列与低频子序列的特点，分别应用Prophet模型预测低频子序列，用高斯过程回归模型预测高频子序列，最后再进行离散小波逆变换，重构得到最终的网络流量预测结果，可以有效提高用户网络流量预测准确度。

本发明为解决上述技术问题而采用以下技术方案实现：

一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，步骤如下：

步骤1、采用小波变换对用户网络流量时间序列进行数据预处理分析，得到高频子序列与低频子序列，其中高频子序列用于反映用户网络流量时间序列的突变性与无规律的波动性特征，低频子序列用于反映用户网络流量时间序列的周期性与长期依赖特性；

步骤2、用Prophet模型预测低频子序列，用高斯过程回归模型预测高频子序列；

步骤3、进行离散小波逆变换，重构得到最终的网络流量预测结果。

进一步的，本发明所提出的一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，步骤1具体包括如下步骤：

(1)获取单个用户网络业务流量数据时间序列，统计其在每个时隙内使用的流量，得到用户网络流量时间序列u(t),t＝1,2,...,L，其中u(t)为用户在时隙t中使用的流量；

(2)对用户流量数据进行尺度压缩，即对u(t)进行以下处理：

z(t)＝log₁₀(u(t)+1) (1)

式中，z(t)为尺度压缩后的用户网络流量时间序列；

(3)对时间序列z(t)进行预处理使均值为0：

式中，z′(t)为零均值化处理后的时间序列，为时间序列z(t)的平均值，

(4)对z′(t)做离散小波变换，得到低频子序列c(n)与高频子序列d(n)；

对预处理后的用户网络流量数据序列z′(t),t＝1,2,...,L进行一阶小波分解，得到子序列c(n)和d(n)：

其中和ψ(t)分别是尺度函数和小波函数，由小波基决定；c(n)为低频子序列，包含序列的低频信息，称为近似系数；d(n)为高频子序列，包含信号的高频信息，称为细节系数；经过一阶小波分解后得到的高频子序列与低频子序列长度均为L/2，即n＝1,2,...,L/2。

进一步的，本发明所提出的一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，步骤2对高频子序列d(n)进行高斯过程回归和预测，应用高斯过程回归模型对其建模，得到高频子序列的预测结果包括如下流程：

(1)回归模型样本数据构建：对任意i＝1,2,...,L/2，回归模型的输入样本为x_i＝{d(i-m),d(i-m+1),...,d(i-1)}^T，回归模型的第i个输出样本为d(i)；其中m取值视具体数据而定；由此，构建样本数据集合D＝(X,d)，其中X为输入样本集合，d为输出样本集合；

式中T表示转置操作；

(2)划分训练样本集合与测试样本集合：将D＝(X,d)前80％的数据作为训练样本集合D_train＝(X_train,d_train)，后20％作为测试样本集合D_test＝(X_test,d_test)；

(3)高斯回归模型参数确定：选取平方指数协方差函数SE作为高斯过程协方差函数，如下所示：

其中θ为超参数，可用最大似然法获得最优超参数θ^ML：

θ^ML＝argmin(-logp(d_train|X_train,θ)) (8)

(4)建立高斯过程回归模型：可认为d_train服从高斯过程，表示为：

其中，GP表示高斯过程，为噪声方差，δ_ij为克罗内克函数，当i＝j时，δ_ij＝1；测试集合输出样本d_test的后验分布服从高斯分布：

d_test|X_train,d_train,X_test～N(μtest,Σ_test)(10)

其中μ_test为测试集合输出样本的均值，选其作为测试集合输出样本的估计值；Σ_test为测试集合输出样本的方差，分别为：

式中K(X_train,X_test)＝K(X_test,X_train)^T为测试集合输入样本与训练集合输入样本之间的协方差矩阵，K(X_test,X_test)为X_test自身的协方差，I_n为单位矩阵；A^-1表示对矩阵A求逆矩阵；

(5)训练集合与测试集合输出样本的预测值分别为：

因此，得到高频子序列的预测值

进一步的，本发明所提出的一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，步骤2对于小波分解后得到的低频子序列c(n)，应用Prophet模型建模并预测，得到低频子序列预测结果

对低频子序列c(n)分解成g(n),s(n),h(n)之和，即：

c(n)＝g(n)+s(n)+h(n)+ε_n (15)

其中c(n)表示原有低频子序列，g(n)是用户网络流量时间序列中的趋势项，表示用户网络流量时间序列非周期性的变化，周期项s(n)刻画用户网络流量时间序列周期性变化，h(n)代表特殊节假日对用户网络流量时间序列值的影响，错误项ε_n代表模型无法捕捉的特殊变化，并假设其服从正态分布；

其中趋势项g(n)如下公式所示：

其中C为承载能力，指时间序列曲线的最大渐进值，由市场规模的数据或者专业领域知识来决定；k表示曲线的增长速率，p为偏移量参数；

周期项s(n)由下式给出：

其中P代表目标序列的周期，c_l为模型要估计的参数，2N为设定的近似项个数，用于控制滤波程度；

节假日项h(n)可表示为：

其中，对于第i个节假日而言，D_i表示该节假日产生影响的时间段，定义一个指示性函数1，表示时刻n是否处于节假日i的影响时段内；如果n∈D_i，否则为0；并且为每个节假日设置一个参数κ_i来表示节假日的影响范围，κ_i∈N(0,υ_i ²)；假设存在M个节假日，

利用Prophet算法分别拟合趋势项、周期项与节假日项中的参数，然后将拟合结果求和得到用户网络流量低频子序列的预测值即：

分别表示。由于Prophet模型的拟合过程为一个现有成熟技术，在此不再赘述。

进一步的，本发明所提出的一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，对上述高频子序列与低频子序列的预测结果进行离散小波逆变换，重构得到

式中和分别表示低频子序列与高频子序列的预测值；对消除零均值化影响并取指数，恢复到网络流量原来的尺度，得到用户网络流量时间序列最终的预测结果

本发明采用以上技术方案，与现有技术相比具有以下有益效果：

本发明提出了一种基于小波变换得Prophet与高斯过程回归组合预测模型，采用小波分解将用户网络流量数据时间序列分解为表征长期趋势变化的低频部分和表征随机突变的高频部分，进一步分别采用Prophet模型以及高斯过程回归模型进行预测建模，具有较好的预测效果。与传统的自回归滑动平均模型相比，该方法能更好地捕捉时间序列的突变特性，更适用于用户的流量预测。

附图说明

图1是本发明的方法流程图。

具体实施方式

下面结合附图及具体实施例，对本发明作进一步的详细描述。

本发明提供一种基于小波变换的Prophet与高斯过程用户流量预测方法。针对用户网络流量时间序列的非平稳性、时变性等复杂特性，采用小波变换对用户网络流量时间序列进行预处理分析。经过小波变换后得到高频子序列与低频子序列，其中高频子序列反映了用户网络流量时间序列的突变性与无规律的波动性特征，而低频子序列则反映了用户网络流量时间序列的周期性与长期依赖特性。本发明针对高频子序列与低频子序列的特点，分别应用Prophet模型预测低频子序列，用高斯过程回归模型预测高频子序列，最后再进行离散小波逆变换，重构得到最终的网络流量预测结果。

如图1所示，本发明的方法具体包括如下步骤：

第一步：数据预处理，本步骤包括如下流程：

(1)获取单个用户网络业务流量数据时间序列。例如以一小时或一天为一时隙，统计其在每个时隙内使用的流量，得到用户网络流量时间序列u(t),t＝1,2,...,L，其中u(t)为用户在时隙t中使用的流量。

(2)对用户流量数据进行尺度压缩，即对u(t)进行以下处理：

z(t)＝log₁₀(u(t)+1) (1)

式中，z(t)为尺度压缩后的用户网络流量时间序列。

(3)对时间序列z(t)进行预处理使均值为0：

式中，z′(t)为零均值化处理后的时间序列，为时间序列z(t)的平均值，

第二步：对z′(t)做离散小波变换，得到低频子序列c(n)与高频子序列d(n)。

对预处理后的用户网络流量数据序列z′(t),t＝1,2,...,L进行一阶小波分解，得到子序列c(n)和d(n)：

其中和ψ(t)分别是尺度函数和小波函数，由小波基决定。考虑到对称性与正则性，选择db4小波作为小波基。c(n)为低频子序列，包含序列的低频信息，称为近似系数。d(n)为高频子序列，包含信号的高频信息，称为细节系数。经过一阶小波分解后得到的高频子序列与低频子序列长度均为L/2，即n＝1,2,...,L/2。

第三步：对高频子序列d(n)进行高斯过程回归和预测。高频子序列d(n)可以认为该时间序列值均服从高斯分布，因此，可应用高斯过程回归模型对其建模，得到高频子序列的预测结果本步骤包括如下流程：

(1)回归模型样本数据构建。对任意i＝1,2,...,L/2，回归模型的输入样本为x_i＝{d(i-7),d(i-6),...,d(i-1)}^T，回归模型的第i个输出样本为d(i)。由此，构建样本数据集合D＝(X,d)，其中X为输入样本集合，d为输出样本集合。

式中T表示转置操作。

(2)划分训练样本集合与测试样本集合。将D＝(X,d)前80％的数据作为训练样本集合D_train＝(X_train,d_train)，后20％作为测试样本集合D_test＝(X_test,d_test)。

(3)高斯回归模型参数确定。选取平方指数协方差函数(Squared exponentialcovariance function,SE)作为高斯过程协方差函数，如下所示：

其中θ为超参数，可用最大似然法获得最优超参数θ^ML：

θ^ML＝argmin(-logp(d_train|X_train,θ)) (8)

(4)建立高斯过程回归模型。可以认为d_train服从高斯过程，表示为：

其中，GP表示高斯过程，为噪声方差。δ_ij为克罗内克函数，当i＝j时，δ_ij＝1。

测试集合输出样本d_test的后验分布服从高斯分布：^d _test|X_train,d_train,X_test～N(μ_test,Σ_test) (10)

其中μ_test为测试集合输出样本的均值，一般选其作为测试集合输出样本的估计值。

Σ_test为测试集合输出样本的方差，分别为：

式中K(X_train,X_test)＝K(X_test,X_train)^T为测试集合输入样本与训练集合输入样本之间的协方差矩阵，K(X_test,X_test)为X_test自身的协方差，I_n为单位矩阵。A^-1表示对矩阵A求逆矩阵。

(5)训练集合与测试集合输出样本的预测值分别为：

因此，得到高频子序列的预测值

第四步：对于小波分解后得到的低频子序列c(n)，应用Prophet模型建模并预测，得到低频子序列预测结果

对低频子序列c(n)分解成g(n),s(n),h(n)之和，即：

c(n)＝g(n)+s(n)+h(n)+ε_n (15)

其中c(n)表示原有低频子序列，g(n)是用户网络流量时间序列中的趋势项，表示用户网络流量时间序列非周期性的变化，周期项s(n)刻画用户网络流量时间序列周期性变化，h(n)代表特殊节假日对用户网络流量时间序列值的影响。错误项ε_n代表模型无法捕捉的特殊变化，可以假设其服从正态分布。

其中趋势项g(n)如下公式所示：

其中C为承载能力，指时间序列曲线的最大渐进值，例如总市场规模，总人口数等。通常这个值由市场规模的数据或者专业领域知识来决定。k表示曲线的增长速率，p为偏移量参数，该参数一般由Prophet算法自动拟合得出。设定承载能力C为用户历史使用流量最大值的5倍。

周期项s(n)由下式给出：

其中P代表目标序列的周期，c_l为模型要估计的参数，2N为设定的近似项个数，用于控制滤波程度。将P设置为7，对应N取值通常为3。

节假日项h(n)可以表示为：

其中，对于第i个节假日而言，D_i表示该节假日产生影响的时间段。定义一个指示性函数1，表示时刻n是否处于节假日i的影响时段内。如果n∈D_i，否则为0。并且为每个节假日设置一个参数κ_i来表示节假日的影响范围，κ_i∈N(0,υ_i ²)。假设存在M个节假日，

利用Prophet算法分别拟合趋势项、周期项与节假日项中的参数，然后将拟合结果求和得到用户网络流量低频子序列的预测值即：

分别表示。由于Prophet模型的拟合过程为一个现有成熟技术，在此不再赘述。

第五步：对上述高频子序列与低频子序列的预测结果进行离散小波逆变换，重构得到

式中和分别表示低频子序列与高频子序列的预测值。对消除零均值化影响并取指数，恢复到网络流量原来的尺度，得到用户网络流量时间序列最终的预测结果

本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

Claims (5)

1.一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，其特征在于，步骤如下：

步骤1、采用小波变换对用户网络流量时间序列进行数据预处理分析，得到高频子序列与低频子序列，其中高频子序列用于反映用户网络流量时间序列的突变性与无规律的波动性特征，低频子序列用于反映用户网络流量时间序列的周期性与长期依赖特性；

步骤2、用Prophet模型预测低频子序列，用高斯过程回归模型预测高频子序列；

步骤3、进行离散小波逆变换，重构得到最终的网络流量预测结果。

2.根据权利要求1所述的一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，其特征在于，步骤1具体包括如下步骤：

(1)获取单个用户网络业务流量数据时间序列，统计其在每个时隙内使用的流量，得到用户网络流量时间序列u(t),t＝1,2,...,L，其中u(t)为用户在时隙t中使用的流量；

(2)对用户流量数据进行尺度压缩，即对u(t)进行以下处理：

z(t)＝log₁₀(u(t)+1) (1)

式中，z(t)为尺度压缩后的用户网络流量时间序列；

(3)对时间序列z(t)进行预处理使均值为0：

式中，z′(t)为零均值化处理后的时间序列，为时间序列z(t)的平均值，

(4)对z′(t)做离散小波变换，得到低频子序列c(n)与高频子序列d(n)；

对预处理后的用户网络流量数据序列z′(t),t＝1,2,...,L进行一阶小波分解，得到子序列c(n)和d(n)：

其中和ψ(t)分别是尺度函数和小波函数，由小波基决定；c(n)为低频子序列，包含序列的低频信息，称为近似系数；d(n)为高频子序列，包含信号的高频信息，称为细节系数；经过一阶小波分解后得到的高频子序列与低频子序列长度均为L/2，即n＝1,2,...,L/2。

3.根据权利要求2所述的一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，其特征在于，步骤2对高频子序列d(n)进行高斯过程回归和预测，应用高斯过程回归模型对其建模，得到高频子序列的预测结果包括如下流程：

(1)回归模型样本数据构建：对任意i＝1,2,...,L/2，回归模型的输入样本为x_i＝{d(i-m),d(i-m+1),...,d(i-1)}^T，回归模型的第i个输出样本为d(i)；其中m取值视具体数据而定；由此，构建样本数据集合D＝(X,d)，其中X为输入样本集合，d为输出样本集合；

式中T表示转置操作；

(2)划分训练样本集合与测试样本集合：将D＝(X,d)前80％的数据作为训练样本集合D_train＝(X_train,d_train)，后20％作为测试样本集合D_test＝(X_test,d_test)；

(3)高斯回归模型参数确定：选取平方指数协方差函数SE作为高斯过程协方差函数，如下所示：

其中θ为超参数，可用最大似然法获得最优超参数θ^ML：

θ^ML＝argmin(-logp(d_train|X_train,θ)) (8)

(4)建立高斯过程回归模型：可认为d_train服从高斯过程，表示为：

其中，GP表示高斯过程，为噪声方差，δ_ij为克罗内克函数，当i＝j时，δ_ij＝1；测试集合输出样本d_test的后验分布服从高斯分布：

d_test|X_train,d_train,X_test～N(μ_test,Σ_test) (10)

其中μ_test为测试集合输出样本的均值，选其作为测试集合输出样本的估计值；Σ_test为测试集合输出样本的方差，分别为：

式中K(X_train,X_test)＝K(X_test,X_train)^T为测试集合输入样本与训练集合输入样本之间的协方差矩阵，K(X_test,X_test)为X_test自身的协方差，I_n为单位矩阵；A^-1表示对矩阵A求逆矩阵；

(5)训练集合与测试集合输出样本的预测值分别为：

因此，得到高频子序列的预测值

4.根据权利要求2所述的一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，其特征在于，步骤2对于小波分解后得到的低频子序列c(n)，应用Prophet模型建模并预测，得到低频子序列预测结果

对低频子序列c(n)分解成g(n),s(n),h(n)之和，即：

c(n)＝g(n)+s(n)+h(n)+ε_n (15)

其中c(n)表示原有低频子序列，g(n)是用户网络流量时间序列中的趋势项，表示用户网络流量时间序列非周期性的变化，周期项_s(n)刻画用户网络流量时间序列周期性变化，h(n)代表特殊节假日对用户网络流量时间序列值的影响，错误项ε_n代表模型无法捕捉的特殊变化，并假设其服从正态分布；

其中趋势项g(n)如下公式所示：

其中C为承载能力，指时间序列曲线的最大渐进值，由市场规模的数据或者专业领域知识来决定；k表示曲线的增长速率，p为偏移量参数；

周期项s(n)由下式给出：

其中P代表目标序列的周期，c_l为模型要估计的参数，2N为设定的近似项个数，用于控制滤波程度；

节假日项h(n)可表示为：

其中，对于第i个节假日而言，D_i表示该节假日产生影响的时间段，定义一个指示性函数1，表示时刻n是否处于节假日i的影响时段内；如果n∈D_i，否则为0；并且为每个节假日设置一个参数κ_i来表示节假日的影响范围，κ_i∈N(0,υ_i ²)；假设存在M个节假日，

利用Prophet算法分别拟合趋势项、周期项与节假日项中的参数，然后将拟合结果求和得到用户网络流量低频子序列的预测值即：

5.根据权利要求2所述的一种基于小波变换的Prophet与高斯过程用户网络流量预测方法，其特征在于，对上述高频子序列与低频子序列的预测结果进行离散小波逆变换，重构得到到

式中和分别表示低频子序列与高频子序列的预测值；对消除零均值化影响并取指数，恢复到网络流量原来的尺度，得到用户网络流量时间序列最终的预测结果