CN114970711A - 一种基于Seq2Seq的电力负荷预测模型的构建方法及应用 - Google Patents

一种基于Seq2Seq的电力负荷预测模型的构建方法及应用 Download PDF

Info

Publication number
CN114970711A
CN114970711A CN202210569462.XA CN202210569462A CN114970711A CN 114970711 A CN114970711 A CN 114970711A CN 202210569462 A CN202210569462 A CN 202210569462A CN 114970711 A CN114970711 A CN 114970711A
Authority
CN
China
Prior art keywords
power load
sequence
prediction model
load prediction
historical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210569462.XA
Other languages
English (en)
Inventor
卢仁智
白瑞昌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huazhong University of Science and Technology
Original Assignee
Huazhong University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huazhong University of Science and Technology filed Critical Huazhong University of Science and Technology
Priority to CN202210569462.XA priority Critical patent/CN114970711A/zh
Publication of CN114970711A publication Critical patent/CN114970711A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • H—ELECTRICITY
    • H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
    • H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
    • H02J3/00—Circuit arrangements for ac mains or ac distribution networks
    • H02J3/003—Load forecast, e.g. methods or systems for forecasting future load demand
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Power Engineering (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于Seq2Seq的电力负荷预测模型的构建方法及应用，属于电力负荷预测领域，包括：搭建电力负荷预测模型；最小化电力负荷预测模型预测得到的电力负荷序列与真实电力负荷序列之间的偏差以及最小化电力负荷预测模型的残差为目标，训练电力负荷预测模型；本发明所构建的电力负荷预测模型中的基本块通过残差连接，使得当前基本块无法学习到的信息可以递交到下游的基本块来学习，减轻了每一个基本块的负担，使得电力负荷序列中的时序信息能更充分的挖掘出来；另外，本发明将电力负荷预测模型最后的残差输出累加到损失函数中，提高了深度神经网络的可训练性和模型的收敛性；因此，本发明能够更加精确地对未来时间点下的电力负荷进行预测。

Description

一种基于Seq2Seq的电力负荷预测模型的构建方法及应用
技术领域
本发明属于电力负荷预测领域，更具体地，涉及一种基于Seq2Seq的电力负荷预测模型的构建方法及应用。
背景技术
随着现代化和城市化进程的快速发展，稳定高效的电力***在社会中的作用日益显著。在电力***中，通过负荷预测来确定电力供应，这对于建立高效、准确的运行计划，减少***损耗，提高向用户供电的可靠性、效率和安全性至关重要。然而，电力负荷数据呈现复杂的规律和波动，使得准确的负荷预测成为了一项具有挑战性的任务。在大数据时代，通过对历史电力负荷数据曲线进行分析，预测未来一天或几天的电力负荷数据曲线，是电力***调度中的一项重要的内容。
现有技术的缺陷和不足：
电力负荷数据本质上是一个时间序列。关于时间序列预测，当下主要有以下三大类：统计学方法、传统的基于机器学习的方法和基于深度学习的方法。
基于统计学方法的模型利用历史的负荷数据拟合出一个回归模型。特别是自回归综合移动平均(ARIMA)模型是用于进行负荷预测的最著名的统计学模型之一，它克服了ARMA模型仅适用于平稳时间序列的缺点。然而，事实证明ARIMA及其变体模型在非线性和非平稳负荷数据上表现很差，因为这些模型没法获取时间序列中潜在的时序关系。
传统的基于机器学习的模型从输入负载数据中学习。与统计模型不同，机器学习模型中的输入输出映射不需要预先定义，而是在训练过程中学习的。支持向量回归(SVR)是负载预测中最常用的机器学习模型之一，它通过非线性映射将历史负载数据映射到更高维空间，然后对映射元素进行线性回归。另一种普遍采用的模型是回归树(RT)。然而，这些机器学习模型在建模前需要进行复杂的特征工程，且这些特征直接决定了预测模型的效果，而特征工程又需要大量的实际经验与特定领域知识的专家来实现。
基于深度学习的模型因其出色的非线性拟合能力而成为负载预测最有潜力的方法，它们能够很好地提取特征并自动在多个输入和输出之间建立复杂的映射关系。卷积神经网络(CNN)和长短期记忆(LSTM)已广泛用于负荷预测，并在单步电力负荷预测领域取得了一定的成功。此外，Seq2Seq模型的应用使得电力负荷多步预测成为可能。该模型的核心在于两个不同的基于序列的神经网络，即编码器和解码器，它们可以增强对连续序列的预测，同时还允许输入和输出具有不同的时间维度。编码器负责将输入序列转换为固定大小的向量表示，称为上下文向量。解码器负责将上下文向量转换为输出序列。然而，对于较长的输入序列，编码器难以将输入序列中全部的有效时序信息压缩为上下文向量，且解码器很难从上下文向量中提取所有有价值的信息，预测精度较低。
发明内容
针对现有技术的以上缺陷或改进需求，本发明提供了一种基于Seq2Seq的电力负荷预测模型的构建方法及应用，用以解决现有的电力负荷预测方法预测精度较低的技术问题。
为了实现上述目的，本发明提供了一种基于Seq2Seq的电力负荷预测模型的构建方法，包括以下步骤：
S1、搭建电力负荷预测模型；电力负荷预测模型包括：多个串联的基本块；其中，基本块包括编码器、预测解码器和估计解码器；编码器用于提取输入的历史电力负荷序列的特征，得到上下文向量，并分别输出至预测解码器和估计解码器中；预测解码器用于基于上下文向量对未来T个时间点下的电力负荷信息进行预测，生成预测序列；估计解码器用于基于上下文向量对历史电力负荷序列进行估计，得到估计序列；
任意相邻的两个基本块之间通过残差相连；下级基本块的输入为输入到其上级基本块的历史电力负荷序列与上级基本块输出的估计序列之差；最后一级基本块输出的估计序列为上述电力负荷预测模型的残差；
上述电力负荷预测模型用于对未来T个时间点下的电力负荷进行预测，预测得到的电力负荷序列为所有基本块输出的预测序列叠加后的序列；
S2、最小化电力负荷预测模型预测得到的电力负荷序列与真实电力负荷序列之间的偏差以及最小化电力负荷预测模型的残差为目标，采用预采集好的训练集训练上述电力负荷预测模型；
其中，上述训练集包括：历史电力负荷序列及其对应的未来T个时间点下的真实电力负荷；历史电力负荷序列包括N个历史时间点下的电力负荷数据、以及对应的温度和风速所构成的序列。
进一步优选地，上述历史电力负荷序列的获取方法包括：
对从电力***所获取的原始电力数据进行Max-Min标准化；其中，原始电力数据包括采集到的历史时间点下的电力负荷数据、以及对应的温度和风速；
基于滑动窗口对标准化后的数据进行滚动切分，得到多组历史电力负荷序列。
进一步优选地，上述编码器包括多个串联的时间卷积网络。
进一步优选地，上述预测解码器包括多个串联、且参数共享的LSTM单元；预测解码器中LSTM单元的个数为T。
进一步优选地，上述估计解码器包括多个串联、且参数共享的LSTM单元；估计解码器中LSTM单元的个数与输入到估计解码器所在基本块中的历史电力负荷序列的长度相同。
进一步优选地，上述电力负荷预测模型的损失函数为：
Figure BDA0003658550650000041
其中，m为训练集中历史电力负荷序列的数量；Yi为第i个历史电力负荷序列的所对应的未来T个时间点下的真实电力负荷；
Figure BDA0003658550650000042
为输入第i个历史电力负荷序列时电力负荷预测模型预测得到的电力负荷序列；Ei为输入第i个历史电力负荷序列时电力负荷预测模型的残差。
第二方面，本发明提供了一种基于Seq2Seq的电力负荷预测方法，包括：
将当前采集到的历史电力负荷序列输入至基于上述电力负荷预测模型的构建方法所构建的电力负荷预测模型中，得到未来T个时间点下的电力负荷的预测值。
进一步优选地，上述历史电力负荷序列的获取方法包括：
将当前从电力***获取的原始电力数据进行Max-Min标准化；其中，原始电力数据包括采集到的历史时间点下的电力负荷数据、以及对应的温度和风速；
基于滑动窗口对标准化后的数据进行滚动切分，得到多组历史电力负荷序列。
第三方面，本发明提供了一种基于Seq2Seq的电力负荷预测***，包括：存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时执行本发明第二方面所提供的电力负荷预测方法。
第四方面，本发明提供了一种机器可读存储介质，所述机器可读存储介质存储有机器可执行指令，所述机器可执行指令在被处理器调用和执行时，所述机器可执行指令促使所述处理器实现本发明第一方面所提供的电力负荷预测模型的构建方法和/或本发明第二方面所提供的电力负荷预测方法。
总体而言，通过本发明所构思的以上技术方案，能够取得以下有益效果：
1、本发明提供了一种基于Seq2Seq的电力负荷预测模型的构建方法，所构建的电力负荷预测模型中的基本块通过残差连接，通过将残差作为下一个基本块的输入，这样后续的每个基本块只是对前一个基本块的残差进行预测和分析，残差输入保证了序列中能够较容易拟合的信息被移除掉，从而使下游的基本块能够更多地专注于预测未学习到的信息，从而避免了传统Seq2Seq模型中的上下文向量不能完全表达输入序列的所有信息以及解码器难以从上下文向量中提取所有有用信息的问题。本发明使得当前基本块无法学习到的信息可以递交到下游的基本块来学习，减轻了每一个基本块的负担，使得电力负荷序列中的时序信息能更充分的挖掘出来；与此同时，本发明将电力负荷预测模型最后的残差输出累加到损失函数中，提高了深度神经网络的可训练性和模型的收敛性；因此，本发明能够更加精确地对未来T个时间点下的电力负荷进行预测。
2、本发明所提供的基于Seq2Seq的电力负荷预测模型的构建方法，在每个基本块中，编码器由时间卷积网络(TCN)来实现，解码器采用参数共享的一系列长短期记忆网络(LSTM)基本单元；其中，时间卷积网络保证了未来负荷序列中的信息不会泄露到当前时刻，长短期记忆网络能够防止长序列训练过程中的梯度消失和梯度***问题；本发明结合了TCN和LSTM各自的优点，在预测结果上取得了相当大的提升，可适用于电网中能源预测，实际应用性强。
3、本发明所提供的基于Seq2Seq的电力负荷预测模型的构建方法，将分解策略深度融合到Seq2Seq框架中，在预测的过程中，可以将原始时间序列动态分解为多个分量进行预测，减轻整体预测负担，提高预测精度，克服了传统Seq2Seq模型中编码器难以将输入序列中的有效信息完全压缩到上下文向量中的缺陷。
附图说明
图1为本发明实施例1提供的基于Seq2Seq的电力负荷预测模型的构建方法流程图；
图2为本发明实施例1提供的时间卷积网络的结构示意图；
图3为本发明实施例1提供的LSTM单元的结构示意图；
图4为本发明实施例1提供的基于滑动窗口生成训练集中的历史电力负荷序列样本的过程示意图；
图5为本发明实施例1提供的电力负荷预测模型的结构示意图；
图6为本发明实施例1提供的基本块的结构示意图；
图7为本发明实施例2提供的运用电力负荷预测模型进行电力负荷预测流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。
应当理解，此处所描述的具体实施仅仅用以解释本发明，并不用于限定本发明。此外，本发明所用的所有技术和科学术语具有与本申请所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本申请的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
在本发明中，术语如“上”、“下”、“左”、“右”、“前”、“后”、“竖直”、“水平”、“侧”、“底”等指示的方位或位置关系为基于附图所示的方位或位置关系，只是为了便于叙述本发明各部件或元件结构关系而确定的关系词，并非特指本发明中任一部件或元件，不能理解为对本发明的限制。
本发明中，术语如“固接”、“相连”、“连接”等应做广义理解，表示可以是固定连接，也可以是一体地连接或可拆卸连接；可以是直接相连，也可以通过中间媒介间接相连。对于本领域的相关科研或技术人员，可以根据具体情况确定上述术语在本发明中的具体含义，不能理解为对本发明的限制。
实施例1、
一种基于Seq2Seq的电力负荷预测模型的构建方法，如图1所示，包括以下步骤：
S1、搭建电力负荷预测模型；电力负荷预测模型包括：多个串联的基本块；
其中，每个基本块均包括编码器、预测解码器和估计解码器；编码器用于提取输入的历史电力负荷序列的特征，并输出为向量，称之为上下文向量，并分别输出至预测解码器和估计解码器中；预测解码器用于基于上下文向量中的电力负荷信息对未来T个时间点下的电力负荷信息进行预测，生成预测序列；该预测序列将做为最终预测得到的电力负荷序列的一部分；估计解码器用于基于上下文向量中的电力负荷信息对历史电力负荷序列进行估计，得到估计序列，用于衡量当前基本块的学习能力，并将当前基本快中未学习到的信息通过残差传到下一个基本快。
任意相邻的两个基本块之间通过残差相连；每个基本块均包括一个输入序列和两个输出序列(预测序列和估计序列)。电力负荷预测模型的最终预测结果为所有基本块的预测序列的叠加；估计序列与当前基本块的输入之差即为当前基本块未学习到的信息，将作为下一级基本块的输入。
具体地，下级基本块的输入为输入到其上级基本块的历史电力负荷序列与上级基本块输出的估计序列之差；最后一级基本块输出的估计序列为整个电力负荷预测模型的残差；
电力负荷预测模型中的基本块通过残差连接，使得当前基本块无法学习到的信息可以递交到下游的基本块来学习，减轻了每一个基本块的负担，使得电力负荷序列中的时序信息能更充分的挖掘出来，从而实现对未来T个时间点下的电力负荷进行预测。
具体地，每个基本块包括一个输入x，两个输出，分别为：预测输出z、估计输出e。第一级基本块的输入即为模型的输入数据，即x1＝X；后续基本块的输出为前一级基本块的残差，即xi＝xi-1-ei。电力负荷预测模型的最终预测结果由每个基本块的预测输出叠加而成，电力负荷预测模型的数学表达如下：
Figure BDA0003658550650000081
Figure BDA0003658550650000082
式中，L为基本块的数量，zi为第i个基本块的预测序列，ei为第i个基本块的估计序列，X为电力负荷预测模型的输入，
Figure BDA0003658550650000083
为电力负荷预测模型的预测输出，E为电力负荷预测模型的输出残差。
优选地，在一种可选实施方式下，编码器由时间卷积网络(TCN)来实现，预测解码器和估计解码器采用参数共享的一系列长短期记忆网络(LSTM)基本单元，结合了TCN和LSTM各自的优点，在预测结果上取得了相当大的提升。
具体地，上述编码器包括多个串联的时间卷积网络，用来提取当前基本块中输入的时间序列数据的特征；时间卷积网络(TCN)为用于进行序列建模，其结构示意图如图2所示，由因果卷积、膨胀卷积、残差连接三部分组成。其中因果卷积保证了预测任务的因果限制，即未来负荷序列中的信息不会泄露到当前时刻。膨胀卷积保证了时间卷积网络的感受野随卷积层数的增大呈指数级增大，残差连接保证了模型能够更好更快的训练。在实际建模时，时间卷积网络的卷积核参数作为超参数来调整。
进一步地，上述预测解码器包括多个串联、且参数共享的LSTM单元；预测解码器中LSTM单元的个数为T。上述估计解码器包括多个串联、且参数共享的LSTM单元；估计解码器中LSTM单元的个数与输入到估计解码器所在基本块中的历史电力负荷序列的长度相同。为了建立长期的依赖关系，LSTM在其整个生命周期中维护一个新的内部状态s。此外，还引进了三种门控结构：输入门、遗忘门和输出门。内部状态st-1与外部状态ht-1和输入xt交互，在门控机制的帮助下，前一个时间步的输出和当前时间步的输入用于确定应该维护、更新或删除的元素的内部状态向量。LSTM单元的结构示意图如图3所示。
在一种可选实施方式下，选用ReLU激活函数作为电力负荷预测模型中各神经网络的输出层激活函数以减少梯度消失和梯度***，实现电力负荷预测模型在训练过程中平稳运行。
S2、最小化电力负荷预测模型预测得到的电力负荷序列与真实电力负荷序列之间的偏差以及最小化电力负荷预测模型的残差为目标，采用预采集好的训练集训练上述电力负荷预测模型；其中，上述训练集包括：历史电力负荷序列及其对应的未来T个时间点下的真实电力负荷；历史电力负荷序列包括N个历史时间点下的电力负荷数据、以及对应的温度和风速所按照时间的先后顺序排列后所构成的序列。本实施例中，利用过去24个时间点的负荷数据来预测未来12个时间点的负荷数据，即N＝24，T＝12。
优选地，电力负荷预测模型的损失函数包括两部分，第一部分为电力负荷预测模型最终预测得到的电力负荷序列与真实电力负荷序列之间的均方误差；第二部分为电力负荷预测模型最后输出的残差。
具体地，通过损失函数计算损失值；除了电力负荷预测模型预测得到的电力负荷序列与真实电力负荷序列之间的偏差，为了保证电力负荷预测模型收敛，将电力负荷预测模型最后输出的残差也加入到损失函数中作为优化目标。上述电力负荷预测模型的损失函数为：
Figure BDA0003658550650000101
其中，m为训练集中历史电力负荷序列的数量；Yi为第i个历史电力负荷序列的所对应的未来T个时间点下的真实电力负荷；
Figure BDA0003658550650000102
为输入第i个历史电力负荷序列时电力负荷预测模型预测得到的电力负荷序列；Ei为输入第i个历史电力负荷序列时电力负荷预测模型的残差。
需要说明的是，在训练过程中，可以将训练集分为不同的批次对电力负荷预测模型进行训练，在每一个批次下分别最小化电力负荷预测模型的损失值。电力负荷预测模型的参数通过反向传播机制学习得到，在本实施方式下选择均方误差(MSE)作为损失函数，此外，将电力负荷预测模型的残差输出加入到损失函数中，使电力负荷预测模型能够尽可能完整地学习到输入序列中包含的信息。在一种可选实施方式下，训练过程中，使用随机梯度下降法对模型的参数进行优化。
在一种可选实施方式下，上述历史电力负荷序列的获取方法包括：
1)对从电力***所获取的原始电力数据进行Max-Min标准化，使得电力负荷数据范围为[0,1]，避免了不同特征下数据的量纲影响，进而加块了梯度下降的速度；其中，原始电力数据包括采集到的历史时间点下的电力负荷数据、以及对应的温度和风速；
具体地，由于输入数据的不同维度之间存在量纲差异，会影响模型训练和预测的效果，因此使用Max-Min方法来对输入数据进行标准化，标准化的范围为[0,1]，Max-Min标准化数学表达式如下所示：
Figure BDA0003658550650000111
式中，x(t)和x'(t)分别为原始电力负荷序列和为标准化后的电力负荷序列在时刻t的值，xmin和xmax分别为原始电力负荷序列中的最小值和最大值。
2)基于滑动窗口对标准化后的数据进行滚动切分，得到多组历史电力负荷序列，从而得到上述训练集中的历史电力负荷序列。
具体地，滑动窗口技术的具体操作为，根据预设滑动窗口的窗口长度对标准化后的电力负荷数据进行滚动切分，得到多组时间序列，并使每组时间序列包含N个时刻的输入数据和H个时刻目标数据(即对应的标签未来T个时间点下的真实电力负荷，H＝T)，且每个时刻的输入数据包含d个特征。具体地，基于滑动窗口生成训练集中的历史电力负荷序列样本的过程示意图如图4所示。本实施例中，采用历史的24个时间点的数据(包括电力负荷、温度和风速)来预测未来12个时间点的电力负荷数据，此时，N＝24，H＝12，d＝3；其中，d＝3是因为所采用的历史24个时间点的数据包括了三个特征——电力负荷、温度、风速。
需要说明的是，本发明所提供的电力负荷预测模型由一系列基本块组成，且每个基本块都可以看作是分解的一个组成部分。每个基本块包括三个部分，并以叉状结构出现。第一部分是编码器，负责将输入序列数据u的所有有用信息压缩到上下文向量c中；第二部分是预测解码器(F-Decoder)，它对上下文向量c进行解码，产生预测输出z；第三部分是估计解码器(E-Decoder)，负责根据上下文向量c生成输入序列u的最佳估计e，其中估计序列e的长度与输入序列u的长度相同。具体来说，对于第i个基本块，它接收一个序列数据ui∈RN *d，并输出两个序列数据：预测序列zi∈RH*1和估计序列ei∈RN*1。对于模型的第一个基本块，它的输入u1是原始数据X＝{x1,x2,x3,…,xN}，包含N个时间点的电力负荷数据，每个时间点的数据包含d个特征。对于其他基本块，输入是前一个基本块的残差，它是通过从输入序列ui-1中减去其估计值ei-1获得的，因此，每个时间戳包含一个特征，即d＝1。其中一个输出zi是F-Decoder生成的长度为H的预测序列数据。另一个输出ei是E-Decoder产生的输入数据的估计序列。形式上，第i个(i≥2)基本块的计算过程如下：
ui＝ui-1-ei-1
Figure BDA0003658550650000121
Figure BDA0003658550650000122
Figure BDA0003658550650000123
其中，ui是第i个块的输入；zi和ei分别是预测和估计序列数据，为第i个块的输出。f(·)、gf(·)、ge(·)分别代表Encoder、F-Decoder、E-Decoder，
Figure BDA0003658550650000124
为各自对应的参数。
在每个基本块中，输入序列的估计序列是由E-Decoder生成的，而残差是通过计算与输入序列的差异来获得的。然后，将残差作为下一个基本块的输入，这样后续的每个基本块只是对前一个基本块的残差进行预测和分析。残差输入保证了序列中能够较容易拟合的信息被移除掉，从而使下游的基本块能够更多地专注于预测未学习到的信息。从而避免了传统Seq2Seq模型中的上下文向量不能完全表达输入序列的所有信息以及解码器难以从上下文向量中提取所有有用信息的问题。此外，基本块通过残差连接，这在提高深度架构的可训练性方面具有显着优势，所提出的电力负荷预测模型的结构示意图如图5所示。
相应地，电力负荷预测模型的最终输出包括两项：一项是长度为H的预测序列
Figure BDA0003658550650000125
为所有基本块预测输出的聚合；另一个是一个长度为N的残差序列E。形式表达如下：
Figure BDA0003658550650000131
Figure BDA0003658550650000132
其中，zi和ei分别是第i个块的预测和估计输出，L是基本块的总数。
在一种可选实施方式下，基本块中的编码器由TCN来实现，因为TCN强大的特征提取和高效的计算能力。基本块中的解码器分别是一系列具有共享参数的LSTM单元。在编码器中，TCN残差块的数量是一个超参数，它由卷积域和输入序列的长度共同决定；在两个解码器中，LSTM单元的数量分别由预测序列和估计序列的长度决定。基本块的结构示意图如图6所示。
实施例2、
一种基于Seq2Seq的电力负荷预测方法，包括：
将当前采集到的历史电力负荷序列输入至基于本发明实施例1所提供的电力负荷预测模型的构建方法所构建的电力负荷预测模型中，得到未来T个时间点下的电力负荷的预测值。
在一种可选实施方式下，上述历史电力负荷序列的获取方法包括：
将当前从电力***获取的原始电力数据进行Max-Min标准化；
基于滑动窗口对标准化后的数据进行滚动切分，得到多组历史电力负荷序列。
相关技术方案同实施例1，这里不做赘述。
具体地，运用电力负荷预测模型进行电力负荷预测主要包括以下两个步骤：
1、数据标准化。将已经分类完毕的数据划分为训练集数据和测试集数据，对数据运用Max-Min方法标准化至[0,1]内；再通过滑动窗口技术生成训练样本。相关方案同实施例1，这里不做赘述。
2、模型训练和预测。使用构建的电力负荷预测模型对标准化后的训练数据进行训练，并把标准化后的测试集数据输入到训练完毕的电力负荷预测模型中进行预测，最终得出最终预测结果。整个预测过程如图7所示，其中，将电力负荷预测模型记为Novel-Seq2Seq模型。
本实施方式下，训练集数据来自开放电力***数据平台获取的三个国家的电力负荷数据，负荷数据采样频率为15min，此外，还包括温度、风速。针对不同的预测范围，同多个时序预测模型进行了对比。
采用PyTorch库构建模型，模型中超参数采用网格搜索策略确定，预测范围包括四种，分别为N＝3，N＝6，N＝12，N＝24。训练集的batch_size设置为128，测试集的batch_size设置为64。学***均绝对百分误差(MAPE)来衡量模型预测的效果。
表1给出了本发明所提供的电力负荷预测模型(Proposed)与基准模型在三种数据集上针对不同预测范围得到的均方误差对比值。
表1
Figure BDA0003658550650000141
从表1可以看出，针对不同的预测范围，提出的模型与基准模型相比，在两个评估指标中均取得了最佳性能。例如，在预测范围为3的时候，如第二列在CH数据集上预测结果所示，所发明模型的MAPE为2.958％，而各基准模型为3.439％、5.401％、4.061％。此外，随着预测范围的增加，各模型的准确率均有所降低。造成这种情况的原因现象主要包括两点，一是随着预测范围的增加，电力负荷数据的不确定性增加，预测任务变得相对困难。第二是由于预测模型的缺陷。具体来说，SVR模型和ARIMA模型采用递归策略执行多步预测任务，它具有固有的误差累积问题。因此，当预测视野增加，精度会急剧下降。虽然Seq2Seq模型不存在误差累积问题，但随着预测范围的增加，越来越多的信息需要从电力负荷数据中学习，编码器所生成的上下文向量很难表达所有的模式。本发明所提供的电力负荷预测模型通过残差连接基本块，使得前面的基本块没有学习到的信息传递给下游的基本块来学习，准确率较高。所以，所发明的模型的优势在预测范围增加时变得更加明显。综上，本发明所提供的电力负荷预测模型在各方面都取得的较好的效果。
综上所述，本发明将分解策略深度融合到Seq2Seq框架中，在预测过程中，可以将原始时间序列动态分解为多个分量进行预测，减轻整体预测负担，提高预测精度，克服了传统Seq2Seq模型中编码器难以将输入序列中的有效信息完全压缩到上下文向量中的缺陷。本发明所提供的电力负荷预测模型由一系列基本块通过残差连接起来，且将模型最后的残差输出累加到损失函数中，提高了深度神经网络的可训练性和模型的收敛性。具体而言，在每个基本块中，编码器由时间卷积网络(TCN)来实现，解码器采用参数共享的一系列长短期记忆网络(LSTM)基本单元，结合了TCN和LSTM各自的优点，在预测结果上取得了相当大的提升，可适用于电网中能源预测，实际应用性强。
实施例3、
一种基于Seq2Seq的电力负荷预测***，包括：存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时执行本发明实施例2所提供的电力负荷预测方法。
相关技术方案同实施例2，这里不做赘述。
实施例4、
一种机器可读存储介质，所述机器可读存储介质存储有机器可执行指令，所述机器可执行指令在被处理器调用和执行时，所述机器可执行指令促使所述处理器实现本发明实施例1所提供的电力负荷预测模型的构建方法和/或本发明实施例2所提供的电力负荷预测方法。
相关技术方案同实施例1和实施例2，这里不做赘述。
本领域的技术人员容易理解，以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于Seq2Seq的电力负荷预测模型的构建方法，其特征在于，包括以下步骤：
S1、搭建电力负荷预测模型；所述电力负荷预测模型包括：多个串联的基本块；所述基本块包括编码器、预测解码器和估计解码器；所述编码器用于提取输入的历史电力负荷序列的特征，得到上下文向量，并分别输出至所述预测解码器和所述估计解码器中；所述预测解码器用于基于所述上下文向量对未来T个时间点下的电力负荷信息进行预测，生成预测序列；所述估计解码器用于基于所述上下文向量对历史电力负荷序列进行估计，得到估计序列；
任意相邻的两个基本块之间通过残差相连；下级基本块的输入为输入到其上级基本块的历史电力负荷序列与上级基本块输出的估计序列之差；最后一级基本块输出的估计序列为所述电力负荷预测模型的残差；
所述电力负荷预测模型用于对未来T个时间点下的电力负荷进行预测，预测得到的电力负荷序列为所有基本块输出的预测序列叠加后的序列；
S2、最小化所述电力负荷预测模型预测得到的电力负荷序列与真实电力负荷序列之间的偏差以及最小化电力负荷预测模型的残差为目标，采用预采集好的训练集训练上述电力负荷预测模型；
其中，所述训练集包括：历史电力负荷序列及其对应的未来T个时间点下的真实电力负荷；所述历史电力负荷序列包括N个历史时间点下的电力负荷数据、以及对应的温度和风速所构成的序列。
2.根据权利要求1所述的电力负荷预测模型的构建方法，其特征在于，所述历史电力负荷序列的获取方法包括：
对从电力***所获取的原始电力数据进行Max-Min标准化；所述原始电力数据包括采集到的历史时间点下的电力负荷数据、以及对应的温度和风速；
基于滑动窗口对标准化后的数据进行滚动切分，得到多组历史电力负荷序列。
3.根据权利要求1或2所述的电力负荷预测模型的构建方法，其特征在于，所述编码器包括多个串联的时间卷积网络。
4.根据权利要求1或2所述的电力负荷预测模型的构建方法，其特征在于，所述预测解码器包括多个串联、且参数共享的LSTM单元；所述预测解码器中LSTM单元的个数为T。
5.根据权利要求1或2所述的电力负荷预测模型的构建方法，其特征在于，所述估计解码器包括多个串联、且参数共享的LSTM单元；所述估计解码器中LSTM单元的个数与输入到所述估计解码器所在基本块中的历史电力负荷序列的长度相同。
6.根据权利要求1所述的电力负荷预测模型的构建方法，其特征在于，所述电力负荷预测模型的损失函数为：
Figure FDA0003658550640000021
其中，m为所述训练集中历史电力负荷序列的数量；Yi为第i个历史电力负荷序列的所对应的未来T个时间点下的真实电力负荷；
Figure FDA0003658550640000022
为输入第i个历史电力负荷序列时电力负荷预测模型预测得到的电力负荷序列；Ei为输入第i个历史电力负荷序列时电力负荷预测模型的残差。
7.一种基于Seq2Seq的电力负荷预测方法，其特征在于，包括：
将当前采集到的历史电力负荷序列输入至采用权利要求1-6任意一项所述的电力负荷预测模型的构建方法所构建的电力负荷预测模型中，得到未来T个时间点下的电力负荷的预测值。
8.根据权利要求7所述的电力负荷预测模型的构建方法，其特征在于，所述历史电力负荷序列的获取方法包括：
将当前从电力***获取的原始电力数据进行Max-Min标准化；所述原始电力数据包括采集到的历史时间点下的电力负荷数据、以及对应的温度和风速；
基于滑动窗口对标准化后的数据进行滚动切分，得到多组历史电力负荷序列。
9.一种基于Seq2Seq的电力负荷预测***，其特征在于，包括：存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时执行权利要求7或8所述的电力负荷预测方法。
10.一种机器可读存储介质，其特征在于，所述机器可读存储介质存储有机器可执行指令，所述机器可执行指令在被处理器调用和执行时，所述机器可执行指令促使所述处理器实现权利要求1-6任意一项所述的电力负荷预测模型的构建方法和/或权利要求7-8任意一项所述的电力负荷预测方法。
CN202210569462.XA 2022-05-24 2022-05-24 一种基于Seq2Seq的电力负荷预测模型的构建方法及应用 Pending CN114970711A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210569462.XA CN114970711A (zh) 2022-05-24 2022-05-24 一种基于Seq2Seq的电力负荷预测模型的构建方法及应用

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210569462.XA CN114970711A (zh) 2022-05-24 2022-05-24 一种基于Seq2Seq的电力负荷预测模型的构建方法及应用

Publications (1)

Publication Number Publication Date
CN114970711A true CN114970711A (zh) 2022-08-30

Family

ID=82955997

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210569462.XA Pending CN114970711A (zh) 2022-05-24 2022-05-24 一种基于Seq2Seq的电力负荷预测模型的构建方法及应用

Country Status (1)

Country Link
CN (1) CN114970711A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116361709A (zh) * 2023-03-31 2023-06-30 山东省计算中心（国家超级计算济南中心） 一种自适应电力负荷识别方法与设备

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116361709A (zh) * 2023-03-31 2023-06-30 山东省计算中心（国家超级计算济南中心） 一种自适应电力负荷识别方法与设备
CN116361709B (zh) * 2023-03-31 2023-10-31 山东省计算中心（国家超级计算济南中心） 一种自适应电力负荷识别方法与设备

Similar Documents

Publication Publication Date Title
CN112990556A (zh) 一种基于Prophet-LSTM模型的用户用电能耗预测方法
CN110969290B (zh) 一种基于深度学习的径流概率预测方法及***
CN108181591B (zh) 一种基于改进型bp神经网络的电池soc值的预测方法
CN109214708B (zh) 基于交叉熵理论优化支持向量机的电力***风险评估方法
CN111861013B (zh) 一种电力负荷预测方法及装置
CN111461463A (zh) 一种基于tcn-bp的短期负荷预测方法、***及设备
CN112434848A (zh) 基于深度信念网络的非线性加权组合风电功率预测方法
CN116307215A (zh) 一种电力***的负荷预测方法、装置、设备及存储介质
CN113449919B (zh) 一种基于特征和趋势感知的用电量预测方法及***
CN115587666A (zh) 基于季节趋势分解和混合神经网络的负荷预测方法及***
CN111723982A (zh) 基于灰色-马尔可夫链的中长期电力负荷组合预测方法
CN115409258A (zh) 一种混合深度学习短期辐照度预测方法
CN114169091A (zh) 工程机械部件剩余寿命的预测模型建立方法及预测方法
CN114970711A (zh) 一种基于Seq2Seq的电力负荷预测模型的构建方法及应用
CN116187835A (zh) 一种基于数据驱动的台区理论线损区间估算方法及***
Fu et al. A building energy consumption prediction method based on integration of a deep neural network and transfer reinforcement learning
CN117495126A (zh) 高比例新能源配电网线损预测方法及装置
CN113673774A (zh) 基于自编码器和时序卷积网络的航空发动机余寿预测方法
Wenqiang et al. Remaining useful life prediction for mechanical equipment based on temporal convolutional network
CN116502774A (zh) 一种基于时间序列分解和勒让德投影的时间序列预测方法
CN116865232A (zh) 一种基于风速误差修正的中长期风电功率预测方法及***
CN116578858A (zh) 基于图神经网络的空压机故障预测与健康度评价方法及***
CN115994617A (zh) 结合循环神经网络与滤波算法的剩余寿命预测方法及***
CN115510757A (zh) 一种基于门控卷积和时间注意力机制的长时间序列预测的设计方法
CN112667394B (zh) 一种计算机资源利用率优化方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination