CN112990556A - 一种基于Prophet-LSTM模型的用户用电能耗预测方法 - Google Patents

Abstract

本发明公开了一种基于Prophet‑LSTM模型的用户用电能耗预测方法，包括如下步骤：S1、通过智能电表获取用户用电能耗的历史数据，历史数据包括时序数据、天气温度数据和节假日数据；S2、历史数据数据预处理归一化：原始用电能耗数据为：X＝{x₁，x₂，...，x_n}，对原始数据预处理包括对缺失值、异常值、重复值以及无效值进行处理；S3、构建Prophet预测模型，将处理后历史用电能耗数据X′＝{x′₁，x′₂，...，x′_n}输入到Prophet模型中，进行Prophet预测；S4、为防止预测过拟合，结合改进的长短时记忆网络LSTM模型进行组合预测；S5、衡量和验证组合模型的拟合度与预测效果，用常用评价指标。本发明分析用电能耗数据的特征和规律，提高预测模型的精确度，对国家电网及各供电公司制定有效的供电服务有重要的指导意义。

Description

一种基于Prophet-LSTM模型的用户用电能耗预测方法

技术领域

本发明设计时间序列分析和能耗预测领域，具体涉及一种基于Prophet-LSTM模型的用户用电能耗预测方法。

背景技术

对用户用电能耗进行分析预测，能够为国家电网或供电公司提供判断用户用电是否出现异常状况并提供相应的解决方案，相关的供电公司可以参照用电能耗的预测趋势，及时调整供电决策方案计划，提高供电服务的高效性和可靠性，促进节能减排意识发展，构建节约用电型社会。许多学者在此方面了一定的研究，但是用户用电能耗预测受到用户用电行为、负荷变化、节假日以及季节变化等诸多因素的综合影响，从而导致时间序列出现不平衡的趋势变化，而常用的预测模型没有对数据进行细致分解，导致预测结果欠佳。因此，建立高效的用户用电能耗预测模型是电力领域研究的热点之一。而Prophet是一种时间序列预测模型，一开始用于商业预测，如经济金融业等。它具有操作简单，参数模型复杂度低，计算预测时间短以及预测效果好等优点，迅速在各领域流行起来，但Prophet模型存在着在特殊时间点陷入过拟合的缺点，在展现时间序列的复合特征方面也存在不足，因此针对单一的预测模型存在的这弊端，会导致预测效果不好，本文提出利用改进的LSTM模型与Prophet模型结合的策略，融合两个模型的优势，来减少预测误差。

发明内容

本发明针对现有技术存在的技术问题，对用户用电历史能耗数据进行处理分析预测，提出一种基于Prophet-LSTM模型的用户用电能耗预测方法，组合模型不仅可以对用户历史能耗数据进行处理，还对数据中的趋势变化、节假日效应以及季节性趋势进行预测处理，能够很好的处理异常值、缺失值以及时间序列的复合特征，以提高预测结果精确度。

为了实现上述发明的目的，本发明采取如下的技术方案：

一种基于Prophet-LSTM模型的用户用电能耗预测方法，所述方法包括如下步骤：

S1、通过智能电表获取用户用电能耗的历史数据，历史数据包括时序数据、天气温度数据和节假日数据；其中时序数据包括不同时间的用电能耗数据，用来描述供电量需求量随着时间变化的情况。

S2、历史数据数据预处理归一化

原始用电能耗数据为：X＝{x₁，x₂，...，x_n}，对原始数据预处理包括对缺失值、异常值、重复值以及无效值进行处理；

进一步地，步骤2的具体实现：

(1)缺失数据与重复数据采用平均值、最大最小值计算方法代替缺失值或删除重复值；

(2)异常数据和无效数据采用统计方法计算出异常值和无效值进行删除或替代；

(3)对处理好的数据进行数据归一化处理：利用公式

进行数据预处理，其中x_i是历史数据实际值，x_max是历史数据值，x_min是历史数据最小值，x_i ^*是归一化处理后的数据。

S3、构建Prophet预测模型，将处理后历史用电能耗数据X′＝{x′_i，x′₂，...，x′_n}输入到Prophet模型中，进行Prophet预测；

进一步地，步骤3的具体实现：

(1)选取历史用电能耗数据样本数据，将选取的数据分成训练集数据X_r′＝{x′_r1，x′_r2，...，x′_rn}和测试集数据X_t′＝{x′_r1，x′_t2，...，x′_tn}。

(2)对训练数据建立的Prophet模型进行检验，步骤下：

a)Prophet模型将用电能耗时间序列数据分解为三个部分：趋势变化、节假日和季节趋势；分解函数公式如下：y(t)＝g(t)+h(t)+s(t)+ε_t，其中g(t)是趋势变化函数，用来处理预测值中的非周期性变化；h(t)是节假日项表示假期节日对时序数据的影响；s(t)是周期项，用来处理时序数据中的周期性变化；ε_t是误差项表示模型中没有预测到的波动。

b)由训练数据，通过趋势公式计算趋势变化函数：

c)其中c表示预测模型的容量大小，k是趋势增长率，n是偏移参数，t是时间；

d)通过节假日数据信息，可知不同的节假日在不同的时间点是独立模型，因此节假日模型公式表示：

其中k_i表示节假日对预测值的影响，i是节假日，D_i是窗口期中包含的时间t(若时间t是虚拟变量则D_i为1，否则为0：

e)根据季节特征信息，通过周期项s(t)一般使用傅里叶级数来近似表示周期性分量，公式为：

其中S是时间序列的周期，2n是期望在预测模型中周期个数，N为傅里叶变换的阶数，a_n，b_n为需要估计的参量。

(3)训练集数据进行模型训练，测试集数据初步评估模型，并进行测试结果的参数调整，确定最终模型的趋势函数模型、周期个数和增长率、季节性和节假日拟合度，以此来进行用电能耗序列变化的分析和预测；

(4)通过Prophet预测模型可以很好的表现出时间序列发展过程，描绘时间序列趋势变化，得到不同的量化值；最终得到Prophet模型预测值P(t)。

S4、为防止预测过拟合，结合改进的LSTM模型进行组合预测；

进一步地，改进的LSTM模型预测的具体实现：

(1)针对传统的LSTM模型因记忆能力不足带有预测滞后的问题，对LSTM模型进行改进，在LSTM模型处理数据前，用卷积神经网络(CNN)提取高阶特征信息，同时去除无用的信息，改进后的LSTM模型减小了处理的数据量，提高了LSTM模型处理速度，两者使用相同的权重，不仅降低了网络负载增量，而且还提高LSTM网络记忆能力。

(2)LSTM(长短时记忆网络)通过增加门限解决梯度消失或梯度膨胀问题，在循环神经网络的基础上增加三个逻辑控制单元：输入门、输出门和遗忘门；在t时刻有改进的LSTM神经网络公式：

f_t＝(W_f·[h_t-1，x_t]+b_f)

i_t＝σ(W_i·[h_t-1，x_t]+b_i)

o_t＝σ(W_o·[h_t-1，x_t]+b_o)

h_t＝o_t*tanhc_t

其中x_t是t时刻的输入向量，x_i′是经过卷积神经网络处理后输出向量，σ是sigmoid函数和tanh是双曲线正切函数，σ，tanh均为激活函数，遗忘门f_t，输入门i_t和输出门o_t对应的各门限的加权矩阵为W_f，W_i和W_o，各转换偏差值b_f，b_i和b_o，*表示矩阵相乘，c_t是在t时刻网络单元状态输出，即记忆单元，记忆单元的加权矩阵为W_c，转换偏差值b_c，c_t-1是遗忘门确定上一时刻记忆单元丢弃的信息，

是更新记忆单元信息，h_t是记忆单元输出的隐含信息，h_t-1是记忆单元输入的隐含信息。

改进的LSTM模型训练步骤：

a、将t时刻的用电能耗值输入到输入层，通过激励函数计算输出结果；

b、用改进的LSTM网络模型对训练数据进行训练，多次训练后，选择误差最小的超参数作为预测模型参数，通过网络搜索算法确定模型的超参数，循环遍历的每一种参数组合，从中选取性能最好的最优参数；

c、对测试集数据使用改进的LSTM预测模型，得到第i天用户用电能耗预测值L(t)。

(3)最终将在t时刻的Prophet模型预测值P(t)与改进的LSTM模型预测值L(t)t＝1，2，...，n组合预测后，与真实值进行对比，判断组合模型的预测效果。

S5、衡量和验证组合模型的拟合度与预测效果，用以下两个常用评价指标：均方根误差RMSE和平均绝对百分比MAPE，公式如下：

其中x_i表示第i时刻时间序列真实值，d_i表示同一时刻时间序列预测值。

与现有技术相比，本发明的有益效果在于：

(1)传统的时间序列预测方法，通过建立数学模型拟合历史时间趋势曲线，数据简单有滞后性的问题，本发明采用的Prophet模型不仅是对历史时间数据曲线的拟合，还对数据中的周期趋势变化、节假日效应以及季节性趋势进行适应，尤其在对异常值和缺失值的鲁棒性起有效的作用。

(2)本发明分析用电能耗数据的特征和规律，提高预测模型的精确度，对国家电网及各供电公司制定有效的供电服务有重要的指导意义。

(3)单一的预测方法对于时间序列的复合特征的捕捉能力较差，为优化模型的预测效果，以不同时间序列处理分析方法融合复合模型，对用电能耗数据进行预测分析，本发明采用改进的LSTM模型与Prophet模型进行组合预测，再利用网络搜索算法来优化模型参数，可以提高预测效果。

附图说明

图1：基于Prophet-LSTM组合模型算法流程图

图2：Prophet模型预测工作流程图

图3：改进的LSTM神经网络结构图

具体实施方式

本实施例中，一种基于Prophet-LSTM模型的用户用电能耗预测方法，如图一所示，包括：

S1、通过智能电表获取用户用电能耗的历史数据，历史数据包括时序数据、天气温度数据和节假日数据；其中时序数据包括不同时间的用电能耗数据，用来描述供电量需求量随着时间变化的情况。

S2、历史数据数据预处理归一化

原始用电能耗数据为：X＝{x₁，x₂，...，x_n}，对原始数据预处理包括对缺失值、异常值、重复值以及无效值进行处理；

进一步地，步骤2的具体实现：

(1)缺失数据与重复数据采用平均值、最大最小值计算方法代替缺失值或删除重复值；

(2)异常数据和无效数据采用统计方法计算出异常值和无效值进行删除或替代；

(3)对处理好的数据进行数据归一化处理：利用公式

进行数据预处理，其中x_t是历史数据实际值，x_max是历史数据值，x_min是历史数据最小值，x_i ^*是归一化处理后的数据。

S3、构建Prophet预测模型，如图二所示，将处理后历史用电能耗数据X′＝{x′₁，x′₂，...，x′_n}输入到Prophet模型中，进行Prophet预测；

进一步地，步骤3的具体实现：

(1)选取历史用电能耗数据样本数据，将选取的数据分成训练集数据X_r′＝{x′_r1，x′_r2，...，x′_rn}

和测试集数据X_t′＝{x′_t1，x′_t2，...，x′_tn}。

(2)对训练数据建立的Prophet模型进行检验，步骤下：

a)Prophet模型将用电能耗时间序列数据分解为三个部分：趋势变化、节假日和季节趋势；分解函数公式如下：y(t)＝g(t)+h(t)+s(t)+ε_t，其中g(t)是趋势变化函数，用来处理预测值中的非周期性变化；h(t)是节假日项表示假期节日对时序数据的影响；s(t)是周期项，用来处理时序数据中的周期性变化；ε_t是误差项表示模型中没有预测到的波动。

b)由训练数据，通过趋势公式计算趋势变化函数：

其中c表示预测模型的容量大小，k是趋势增长率，n是偏移参数，t是时间；

c)通过节假日数据信息，可知不同的节假日在不同的时间点是独立模型，因此节假日模型公式表示：

其中k_i表示节假日对预测值的影响，i是节假日，D_i是窗口期中包含的时间t(若时间t是虚拟变量则D_i为1，否则为0；

d)根据季节特征信息，通过周期项s(t)一般使用傅里叶级数来近似表示周期性分量，公式为：

其中S是时间序列的周期，2n是期望在预测模型中周期个数，N为傅里叶变换的阶数，a_n，b_n为需要估计的参量。

(3)训练集数据进行模型训练，测试集数据初步评估模型，并进行测试结果的参数调整，确定最终模型的趋势函数模型、周期个数和增长率、季节性和节假日拟合度，以此来进行用电能耗序列变化的分析和预测；

(4)通过Prophet预测模型可以很好的表现出时间序列发展过程，描绘时间序列趋势变化，得到不同的量化值；最终得到Prophet模型预测值P(t)。

S4、为防止预测过拟合，结合改进的LSTM模型进行组合预测，如图三所示；

进一步地，改进的LSTM模型预测的具体实现：

(1)针对传统的LSTM模型因记忆能力不足带有预测滞后的问题，对LSTM模型进行改进，在LSTM模型处理数据前，用卷积神经网络(CNN)提取高阶特征信息，同时去除无用的信息，改进后的LSTM模型减小了处理的数据量，提高了LSTM模型处理速度，两者使用相同的权重，不仅降低了网络负载增量，而且还提高LSTM网络记忆能力。

(2)LSTM(长短时记忆网络)通过增加门限解决梯度消失或梯度膨胀问题，在循环神经网络的基础上增加三个逻辑控制单元：输入门、输出门和遗忘门；在t时刻改进的LSTM神经网络公式：

f_t＝(W_f·[h_t-1，x_t]+b_f)

i_t＝σ(W_i·[h_t-1，x_t]+b_i)

o_t＝σ(W_o·[h_t-1，x_t]+b_o)

h_t＝o_t*tanhc_t

其中x_t是t时刻的输入向量，x_t′是经过卷积神经网络处理后输出向量，σ是sigmoid函数和tanh是双曲线正切函数，σ，tanh均为激活函数，遗忘门f_t，输入门i_t和输出门o_t对应的各门限的加权矩阵为W_f，W_i和W_o，各转换偏差值b_f，b_i和b_o，*表示矩阵相乘，c_t是在t时刻网络单元状态输出，即记忆单元，记忆单元的加权矩阵为W_c，转换偏差值b_c，c_t-1是遗忘门确定上一时刻记忆单元丢弃的信息，

是更新记忆单元信息，h_t是记忆单元输出的隐含信息，h_t-1是记忆单元输入的隐含信息。

改进的LSTM模型训练步骤：

a)将t时刻的用电能耗值输入到输入层，通过激励函数计算输出结果；

b)用改进的LSTM网络模型对训练数据进行训练，多次训练后，选择误差最小的超参数作为预测模型参数，通过网络搜索算法确定模型的超参数，循环遍历的每一种参数组合，从中选取性能最好的最优参数：以本发明数据集为例，建立三层LSTM模型，使其分别包含128、64、16个神经元，学习率learning_rate＝0.3，激活函数activation_function＝″tanh〞，batch_size＝1000，epochs＝10，损失函数loss＝”MAE”；

c)对测试集数据使用改进的LSTM预测模型，得到第i天用户用电能耗预测值L(t)。

(3)最终将在t时刻的Prophet模型预测值P(t)与改进的LSTM模型预测值L(t)t＝1，2，...，n组合预测后，与真实值进行对比，判断组合模型的预测效果。

S5、衡量和验证组合模型的拟合度与预测效果，用以下两个常用评价指标：均方根误差RMSE和平均绝对百分比MAPE，公式如下：

其中x_i表示第i时刻时间序列真实值，d_i表示同一时刻时间序列预测值。

本发明通过组合Prophet模型和改进的LSTM模型并充分发挥了两种预测模型的优势，利用了网络搜索算法，将模型的参数进行了最优选择，可以提高预测模型的精确度，在时间序列分析和能耗预测领域，可以提供一定的参考。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示意性实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

尽管已经示出和描述了本发明的实施例，本领域的普通技术人员可以理解：在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由权利要求及其等同物限定。

Claims (5)

1.一种基于Prophet-LSTM模型的用户用电能耗预测方法，其特征在于，包括如下步骤：

S1、通过智能电表获取用户用电能耗的历史数据，历史数据包括时序数据、天气温度数据和节假日数据；其中时序数据包括不同时间的用电能耗数据，用来描述供电量需求量随着时间变化的情况；

S2、历史数据数据预处理归一化：原始用电能耗数据为：X＝{x₁，x₂，...，x_n}，对原始数据预处理包括对缺失值、异常值、重复值以及无效值进行处理；

S3、构建Prophet预测模型，将处理后历史用电能耗数据X′＝{x′₁，x′₂，...，x′_n}输入到Prophet模型中，进行Prophet预测；

S4、为防止预测过拟合，结合改进的长短时记忆网络LSTM模型进行组合预测；

S5、衡量和验证组合模型的拟合度与预测效果，用以下两个常用评价指标：均方根误差RMSE和平均绝对百分比MAPE，公式如下：

其中x_i表示第i时刻时间序列真实值，d_i表示同一时刻时间序列预测值。

2.根据权利要求1所述的一种基于Prophet-LSTM模型的用户用电能耗预测方法，其特征在于，所述步骤2的具体实现：

2.1、缺失数据与重复数据采用平均值、最大最小值计算方法代替缺失值或删除重复值；

2.2、异常数据和无效数据采用统计方法计算出异常值和无效值进行删除或替代；

2.3、对处理好的数据进行数据归一化处理：利用公式

进行数据预处理，其中x_i是历史数据实际值，x_max是历史数据值，x_min是历史数据最小值，x_i ^*是归一化处理后的数据。

3.根据权利要求1所述的一种基于Prophet-LSTM模型的用户用电能耗预测方法，其特征在于，步骤S3的具体实现过程为：

3.1、选取历史用电能耗数据样本数据，将选取的数据分成训练集数据X_r′＝{x′_r1，x′_r2，...，x′_rn}和测试集数据X_t′＝{x′_r1，x′_t2，...，x′_tn}；

3.2、对训练数据建立的Prophet模型进行检验；

3.3、训练集数据进行模型训练，测试集数据初步评估模型，并进行测试结果的参数调整，确定最终模型的趋势函数模型、周期个数和增长率、季节性和节假日拟合度，以此来进行用电能耗序列变化的分析和预测；通过Prophet预测模型能够表现出时间序列发展过程，描绘时间序列趋势变化，得到不同的量化值；最终得到Prophet模型预测值P(t)。

4.根据权利要求3所述的一种基于Prophet-LSTM模型的用户用电能耗预测方法，其特征在于，对训练数据建立的Prophet模型进行检验的步骤如下：

a、Prophet模型将用电能耗时间序列数据分解为三个部分：趋势变化、节假日和季节趋势；分解函数公式如下：y(t)＝g(t)+h(t)+s(t)+ε_t，其中g(t)是趋势变化函数，用来处理预测值中的非周期性变化；h(t)是节假日项表示假期节日对时序数据的影响；s(t)是周期项，用来处理时序数据中的周期性变化；ε_t是误差项表示模型中没有预测到的波动；

b、由训练数据，通过趋势公式计算趋势变化函数：

其中c表示预测模型的容量大小，k是趋势增长率，n是偏移参数，t是时间；

c、通过节假日数据信息，可知不同的节假日在不同的时间点是独立模型，因此节假日模型公式表示：

其中k_i表示节假日对预测值的影响，i是节假日，D_i是窗口期中包含的时间t，若时间t是虚拟变量则D_i为1，否则为0；

d、根据季节特征信息，通过周期项s(t)一般使用傅里叶级数来近似表示周期性分量，公式为：

其中S是时间序列的周期，2n是期望在预测模型中周期个数，N为傅里叶变换的阶数，a_n，b_n为需要估计的参量。

5.根据权利要求1所述的一种基于Prophet-LSTM模型的用户用电能耗预测方法，其特征在于，所述步骤S4的具体实现为：

4.1、针对传统的LSTM模型因记忆能力不足带有预测滞后的问题，对LSTM模型进行改进，在LSTM模型处理数据前，用卷积神经网络CNN提取高阶特征信息，同时去除无用的信息，改进后的LSTM模型减小了处理的数据量，提高了LSTM模型处理速度，两者使用相同的权重，不仅降低了网络负载增量，而且还提高LSTM网络记忆能力；

4.2、LSTM通过增加门限解决梯度消失或梯度膨胀问题，在循环神经网络的基础上增加三个逻辑控制单元：输入门、输出门和遗忘门；在t时刻有改进的LSTM神经网络公式：

f_t＝(W_f·[h_t-1，x_t′]+b_f)

i_t＝σ(W_i·[h_t-1，x_t′]+b_i)

o_t＝σ(W_o·[h_t-1，x_t′]+b_o)

h_t＝o_t*tanhc_t

其中x_t是t时刻的输入向量，x_t′是经过卷积神经网络处理后输出向量，σ是sigmoid函数和tanh是双曲线正切函数，σ，tanh均为激活函数，遗忘门f_t，输入门i_t和输出门o_t对应的各门限的加权矩阵为W_f，W_i和W_o，各转换偏差值b_f，b_i和b_o，*表示矩阵相乘，c_t是在t时刻网络单元状态输出，即记忆单元，记忆单元的加权矩阵为W_c，转换偏差值b_c，c_t-1是遗忘门确定上一时刻记忆单元丢弃的信息，

是更新记忆单元信息，h_t是记忆单元输出的隐含信息，h_t-1是记忆单元输入的隐含信息；改进的LSTM模型训练步骤：

a、将t时刻的用电能耗值输入到输入层，通过激励函数计算输出结果；

b、用改进的LSTM网络模型对训练数据进行训练，多次训练后，选择误差最小的超参数作为预测模型参数，通过网络搜索算法确定模型的超参数，循环遍历的每一种参数组合，从中选取性能最好的最优参数；

c、对测试集数据使用改进的LSTM预测模型，得到第i天用户用电能耗预测值L(t)。

4.3、最终将在t时刻的Prophet模型预测值P(t)与改进的LSTM模型预测值

组合预测后，与真实值进行对比，判断组合模型的预测效果。

Images