CN116526473A - 基于粒子群优化lstm的电热负荷预测方法 - Google Patents

基于粒子群优化lstm的电热负荷预测方法 Download PDF

Info

Publication number
CN116526473A
CN116526473A CN202310592592.XA CN202310592592A CN116526473A CN 116526473 A CN116526473 A CN 116526473A CN 202310592592 A CN202310592592 A CN 202310592592A CN 116526473 A CN116526473 A CN 116526473A
Authority
CN
China
Prior art keywords
lstm
data
particle
particle swarm
load
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310592592.XA
Other languages
English (en)
Inventor
王继东
郑有良
孔祥玉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianjin University
Original Assignee
Tianjin University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianjin University filed Critical Tianjin University
Priority to CN202310592592.XA priority Critical patent/CN116526473A/zh
Publication of CN116526473A publication Critical patent/CN116526473A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H02—GENERATION; CONVERSION OR DISTRIBUTION OF ELECTRIC POWER
    • H02J—CIRCUIT ARRANGEMENTS OR SYSTEMS FOR SUPPLYING OR DISTRIBUTING ELECTRIC POWER; SYSTEMS FOR STORING ELECTRIC ENERGY
    • H02J3/00—Circuit arrangements for ac mains or ac distribution networks
    • H02J3/003—Load forecast, e.g. methods or systems for forecasting future load demand
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/06—Energy or water supply
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • General Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Tourism & Hospitality (AREA)
  • Evolutionary Computation (AREA)
  • Marketing (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Power Engineering (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Public Health (AREA)
  • Water Supply & Treatment (AREA)
  • Primary Health Care (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明涉及智能网络、综合能源***的负荷预测技术，为提出新的电热负荷预测技术方案，本发明，基于粒子群优化LSTM的电热负荷预测方法，步骤如下：1)设置粒子群算法的参数；2)对历史负荷数据进行预处理；3)建立长短时记忆网络LSTM预测模型，并且用改进后的粒子群算法对LSTM中超参数进行寻优，得到优化后的LSTM预测模型；4)使用训练集对优化后的LSTM预测模型进行训练，然后将训练好的模型对测试集数据预测，得到预测结果。本发明主要应用于智能电网管理场合。

Description

基于粒子群优化LSTM的电热负荷预测方法
技术领域
本发明涉及智能网络、综合能源***的负荷预测技术领域，具体涉及基于粒子群优化LSTM的电热负荷预测方法。
背景技术
随着电网的发展和用户负荷的多样性增加，负荷预测领域引入人工智能算法以希望提高预测的精度。其中长短时记忆网络(Long Short-Term Memory Networks，LSTM)是近些年来比较经典的人工智能神经网络。但单独使用LSTM预测模型已经逐渐满足不了用户对负荷预测精度的要求，所以将其他算法与LSTM预测模型相结合以提高预测效果。LSTM在进行负荷预测时，模型的超参数对预测精度的有着举足轻重的影响。所以有研究者提出使用粒子群优化算法(Particle Swarm Optimization,PSO)对模型超参数进行寻优，之后使用优化后的模型进行预测来提高预测效果，实验证明此方法确实可以提高预测效果。但粒子群优化算法，在寻优过程中容易陷入局部最优，并且迭代次数比较多。
发明内容
为克服现有技术的不足，本发明旨在提出电热负荷预测新方法。为此，本发明采取的技术方案是，基于粒子群优化LSTM的电热负荷预测方法，步骤如下：
1)设置粒子群算法的参数，将自适应权重算法和自然选择算法对粒子群算法进行改进，得到改进后的粒子群算法；
2)对历史负荷数据进行预处理，减小因数据误差过大或缺少数据等问题引起的最终实验的误差，将处理后的数据划分为训练集和测试集；
3)建立长短时记忆网络LSTM预测模型，并且用改进后的粒子群算法对LSTM中超参数进行寻优，得到优化后的LSTM预测模型；
4)使用训练集对优化后的LSTM预测模型进行训练，然后将训练好的模型对测试集数据预测，得到预测结果。
详细步骤如下：
一、数据预处理
预处理包含识别和修正异常值、补充缺失数据以及归一化样本数据；
1)异常值的识别与修正
(1)水平处理法
利用相邻时刻负荷值相差不大的这一规律，对异常数据进行修正，具体如下式所示。
如果
max[Y(d,t)-Y(d,t-1),|Y(d,t)-Y(d,t+1)]＞ε(t) (1)
那么
式中，ε(t)为阈值，Y(d,t-1)、Y(d,t)、和Y(d,t+1)分别为第d天中t-1、t和t+1时刻负荷值，即在第d天中，当t时刻的负荷值与t-1或t+1时刻负荷值之差大于所设置阈值时，则认为t时刻的负荷值Y(d,t)为异常数据，并取t-1与t+1时刻负荷值的平均值作为t时刻的负荷值；
(2)垂直处理法
因此如果相邻两天同一时间点数据值相差过大，则有异常点，采用垂直处理法修正，具体如下所示：
如果
|Y(d,t)-m(t)|＞r(t) (3)
那么
式中，r(t)为阈值，Y(d,t)为第d日t时刻的负荷值，m(t)为近几日负荷数据的平均值；
2)缺失数据的补充
使用前后日期的正常数据进行加权平均对这些缺少的数据进行填补；
3)数据的归一化和还原
(1)数据的归一化
使用基于线性函数转换对所采集数据进行归一化处理，具体如下所示。
式中，xi为原始采集的数据，xmin、xmax分别是所采集数据的最小、最大值；
(2)数据的还原
具体如下所示。
式中，yi为模型输出数据，ymax和ymin分别为数据变化范围的上下限；
二、长短时记忆神经网络预测模型
xt为t时刻的输入，ht-1、ct-1分别为t-1时刻的隐层状态和门控单元状态，LSTM的核心就是门控单元，LSTM网络各参数计算如下所示。
ft＝σ(Wf[ht-1,xt]+bf) (7)
it＝σ(Wi[ht-1,xt]+bi) (8)
ot＝σ(Wo[ht-1,xt]+bo) (9)
ct＝ft×ct-1+it×tanh(Wc[ht-1,xt]+bc) (10)
ht＝ot×tanh(ct) (11)
式中：ft为遗忘门，it为输入门，ot为输出门，ut为状态单元的状态；[ht-1,xt]表示t-1时刻隐含层的状态和t时刻的输入；W为权重系数矩阵，b表示偏置项；σ表示sigmoid激活函数即S形曲线，tanh表示双曲正弦激活函数。
三、基于自然选择和自适应权重改进粒子群算法
1)基本粒子群算法
应用改进后的PSO算法解决负载预测模型LSTM的超参数优化问题；
2)粒子群算法的基本原理和优化方法
为粒子i在t次迭代的起始位置；/>为粒子i搜寻的方向和距离；/>为粒子i搜寻到的最优位置，/>为整个群体粒子对粒子i的影响，/>为粒子i经过第t次迭代的位置，从图中可以看出，粒子i第t+1次的位置受到了粒子i本身第t次位置、粒子i的速度和整个群体粒子的影响；
寻优过程中，更新各个粒子位置和速度的公式如下所示。
Xi＝(xi1,xi2,...,xiD),i＝1,2,...,N (12)
Vi＝(vi1,vi2,...,viD),i＝1,2,...,N (13)
Pbest＝(pi1,pi2,...,piD),i＝1,2,...,N (14)
gbest＝(pg1,pg2,...,pgD) (15)
vid＝ωvid+c1r1(pid-xid)+c2r2(pgd-xid) (16)
xid＝xid+vid (17)
式中D表示为粒子是在D维的搜索空间中；N表示的是粒子群总的粒子个数；Xi表示第i个粒子的位置；Vi表示的是第i个粒子的速度；Pbest为第i个粒子从初始化到当前所搜索到的个体极值；gbest为全局极值；ω为惯性权重系数；c1，c2为学习因子；r1，r2为[0,1]范围内的均匀随机数；vid，xid分别表示粒子的速度和位置；式(34)中等号右边的三部分分别代表图2中的当前速度的影响、自我记忆的影响和群体的影响；
3)粒子群算法的改进
(1)自适应算法对权重进行改进
采用非线性动态惯性权重系数公式如下所示。
式中ωmin，ωmax分别表示惯性权重的最小、最大值；f表示为粒子的实时函数适应度的值；favg表示当前所有粒子的平均值；fmin为当前所有粒子的最小值；
惯性权重随着粒子适应度函数值的改变而改变，在粒子适应度比较分散时进一步将惯性权重减小；当粒子目标值一致时，则将惯性权重进一步增加，用这种方法来改进粒子群算法中的惯性权重，从而去提高粒子群算法的寻优能力；
(2)自然选择算法对粒子群算法的改进
利用自然选择算法将位置比较差的粒子替换到比较好的位置上，然后再进行下一步迭代；
四、基于自然选择和自适应权重改进PSO优化的LSTM预测模型结构
基于自然选择和自适应权重改进PSO优化的LSTM预测模型分为优化模块和预测模块两大部分，该方法利用所提改进的粒子群算法对LSTM模型中的超参数进行寻优，优化的超参数包括LSTM中的训练次数、神经元数量和学习率，具体步骤如下：
优化部分，运用基于自然选择和自适应权重改进PSO优化模块，首先需要对粒子群算法中的参数进行初始化设置，其中包括粒子群群体大小；最大迭代次数；两个加速常数；寻优的维度等参数，由于运用自适应权重法对粒子群算法中的权重进行改进，需要设置权重的最大最小值；其次，对寻优边界进行设定，并对粒子群的位置和速度进行初始化，计算每个粒子的适应度的值，用每个粒子的适应度的值与个体极值作比较，先获得个体极值，然后再与全局极值作比较，获得当前的最优值；最后，使用自然选择法，对粒子的适应度进行排序，将适应度小的粒子的位置和速度用适应度大的粒子进行替换，若达到最大迭代次数，则将优化模块中寻找到的LSTM最优超参数进行输出，此时便可得到LSTM优化预测模型；
预测部分，将预处理过后的数据按照比例划分成训练集和测试集两部分，构造LSTM预测模型，将LSTM预测模型中的超参数设置为优化部分的寻优结果，得到LSTM优化模型，将划分为训练集的数据对LSTM优化模型进行训练，之后再将测试集用训练过后的LSTM优化模型进行测试，最终得出预测结果。
本发明的特点及有益效果是：
本发明在PSO算法优化LSTM预测模型的基础上，引入自然选择算法和自适应权重算法(Natural Selection and Adaptive Weight-Particle Swarm Optimization，NSAW)对PSO算法进行改进优化LSTM得到NSAW-PSO-LSTM预测模型。在粒子群寻优过程中，引入自适应权重算法可以实现在最优点在比较差的位置时扩大寻优范围，在比较好的位置时缩小寻优范围，并且引入自然选择算法可以实现使用更少的迭代次数达到最优点。将上述负荷预测模型运用到电热负荷预测中，通过实验证明可以有效提高负荷预测的效果。
附图说明：
图1LSTM结构示意图。
图2粒子的更新过程。
图3NSAW-PSO-LSTM预测流程图。
图4某地区2020年电负荷曲线。
图5某地区2020年热负荷曲线。
图6冬季电负荷预测方法结果对比。
图7夏季电负荷预测方法结果对比。
图8冬季热负荷预测方法结果对比。图中：(a)第一个隐含层单元数；(b)第二个隐含层单元数；(3)LSTM训练次数；(4)学习率。
图9超参数随迭代次数变化曲线。
具体实施方式
为了解决人为设置LSTM超参数对预测精度的影响，在PSO算法优化LSTM预测模型的基础上，引入自然选择算法和自适应权重算法(Natural Selection and AdaptiveWeight-Particle Swarm Optimization，NSAW)对PSO算法进行改进优化LSTM得到NSAW-PSO-LSTM预测模型。在粒子群寻优过程中，引入自适应权重算法可以实现在最优点在比较差的位置时扩大寻优范围，在比较好的位置时缩小寻优范围，并且引入自然选择算法可以实现使用更少的迭代次数达到最优点。将上述负荷预测模型运用到电热负荷预测中，通过实验证明可以有效提高负荷预测的效果。
一种电热负荷预测的方法，所述方案包括以下步骤：
1)设置粒子群算法的参数，将自适应权重算法和自然选择算法对粒子群算法进行改进，得到改进后的粒子群算法。
2)对历史负荷数据进行预处理，减小因数据误差过大或缺少数据等问题引起的最终实验的误差，将处理后的数据划分为训练集和测试集。
3)建立LSTM预测模型，并且用改进后的粒子群算法对LSTM中超参数进行寻优，得到优化后的LSTM预测模型。
4)使用训练集对优化后的LSTM预测模型进行训练，然后将训练好的模型对测试集数据预测，得到预测结果。
下面对本发明进行详细说明。
一、数据预处理
负荷预测是在历史数据的基础上进行的。其效果会直接受到这些数据的精准性和完整性等的影响。负荷本身有一定规律性，但是历史数据的异常和缺失会使得这些规律不易被发现，从而导致预测精度降低。另外，因为输入数据集的变量有较大差异的含义和量纲，所以一般数值差也较大。但若先对数据进行归一化处理，再分析输入输出之间的函数关系，对运算的准确性将会有较大的提高。所以，通常负荷预测之前会对采样得到的负荷数据进行预处理。预处理主要包含识别和修正异常值、补充缺失数据以及归一化样本数据。
1)异常值的识别与修正
在负荷数据的采集过程中，可能出现一些不可预知的工作情况，导致一部分负荷值偏离实际值，甚至显现出较大的峰谷波动，从而产生部分数据异常点。数据异常点的处理方法一般包括水平处理法及垂直处理法。
(1)水平处理法
正常情况下，负荷数据曲线一般是平滑且连续的，但是在现实中，会出现很多不确定因素，比如突然接入大功率装置、因外部因素突然停电等。这些不确定因素很大可能会对基于这些数据的负荷预测结果产生负面影响。因此当相邻时刻的负荷值相差过大时，可认为出现异常点。利用相邻时刻负荷值相差不大的这一规律，对异常数据进行修正，具体如下式所示。
如果
max[|Y(d,t)-Y(d,t-1)|,|Y(d,t)-Y(d,t+1)|]＞ε(t) (19)
那么
式中，ε(t)为阈值，Y(d,t-1)、Y(d,t)、和Y(d,t+1)分别为第d天中t-1、t和t+1时刻负荷值。即在第d天中，当t时刻的负荷值与t-1或t+1时刻负荷值之差大于所设置阈值时，则认为t时刻的负荷值Y(d,t)为异常数据，并取t-1与t+1时刻负荷值的平均值作为t时刻的负荷值。
(2)垂直处理法
负荷的变化一般具有日周期性，即相邻两天的同一时间点的负荷值相差不会太大，但也会由于各种意外情况而引起相邻两天的负荷值相差过大，比如工厂出现意外情况而停工等。这些数据也会对负荷预测结果产生负面影响。因此如果相邻两天同一时间点数据值相差过大，则有可能为异常点。可以采用垂直处理法修正，具体如下所示。
如果
|Y(d,t)-m(t)|＞r(t) (21)
那么
式中，r(t)为阈值，Y(d,t)为第d日t时刻的负荷值，m(t)为近几日负荷数据的平均值。
2)缺失数据的补充
在负荷数据的采集过程中，可能会因为设备等客观因素或温度等外部环境因素导致所采数据缺少和损失，比如测量装置意外损坏而导致数据没有采集到。本发明使用前后日期的正常数据进行加权平均对这些缺少的数据进行填补。
3)数据的归一化和还原
(1)数据的归一化
本发明所提方法使用基于线性函数转换对所采集数据进行归一化处理，具体如下所示。
式中，xi为原始采集的数据，xmin、xmax分别是所采集数据的最小、最大值。
(2)数据的还原
由于模型中输入的数据全部进行了归一化处理，经过模型运算得到的数据也是归一化的，所以在完整输出之前需要将数据还原。具体如下所示。
式中，yi为模型输出数据，ymax和ymin分别为数据变化范围的上下限。
二、长短时记忆神经网络预测模型
LSTM的结构如图1所示。xt为t时刻的输入，ht-1、ct-1分别为t-1时刻的隐层状态和门控单元状态。LSTM的核心就是门控单元。LSTM网络各参数计算如下所示。
ft＝σ(Wf[ht-1,xt]+bf) (25)
it＝σ(Wi[ht-1,xt]+bi) (26)
ot＝σ(Wo[ht-1,xt]+bo) (27)
ct＝ft×ct-1+it×tanh(Wc[ht-1,xt]+bc) (28)
ht＝ot×tanh(ct) (29)
式中：ft为遗忘门，it为输入门，ot为输出门，ut为状态单元的状态；[ht-1,xt]表示t-1时刻隐含层的状态和t时刻的输入；W为权重系数矩阵，b表示偏置项；σ表示sigmoid激活函数即S形曲线，tanh表示双曲正弦激活函数。
三、基于自然选择和自适应权重改进粒子群算法
1)基本粒子群算法
粒子群算法原理上属于进化算法，该算法模拟鸟类觅食现象，通过跟踪当前搜索到的最优值以寻找全局的最优值完成寻优任务，因其具有原理简明、容易实现、收敛迅速、参数设置简洁等优点，近年来被广泛应用到约束优化、函数优化、电力***等各个领域中，是一种非常高效的搜索算法。粒子群算法不依赖于特定问题领域，对问题种类具有很强的适应性，在等方面得到了广泛应用。本发明针对负载预测模型LSTM的超参数优化问题，应用改进后的PSO算法进行了探究。
2)粒子群算法的基本原理
PSO算法最初起源于对简单社会***的模拟，其模拟了鸟群在寻找食物的过程中的行为。在PSO中，每个潜在的解都是搜索空间中的一个粒子，即一只鸟，而本发明的模型中需要进行优化的LSTM的超参数，则成为搜索空间中的一个粒子。每一个粒子都拥有一个由被优化函数决定的适应度值，用于衡量该粒子是否为最优解。同时，粒子还应该具有速度属性，用于决定它们的搜索方向与距离。在这个速度的影响下，所有粒子将在设定的搜寻空间中搜索最优解。不同的优化问题需要设定不同的合适适应度函数，以保证算法的有效性。
PSO算法的迭代过程非常简单，它首先会初始化一定数量的随机粒子(即随机解)，然后进行一定次数的迭代寻找最优值。每次粒子进行更新迭代，会跟踪自己的两个极值，通过对这两个极值进行一定的操作来更新自己的位置。这个过程中，每个粒子的速度和位置被动态地调整，以尽可能地接近全局最优解。在迭代的最后，算法会给出一个优化的结果，更新过程如下：首先第一个极值是这个粒子本身根据自己的搜寻方向和距离所能找到的问题的最优解，这个解是局部的，一般将这个解称为优化问题(本文中为LSTM超参数)的局部最优值；第二个极值是所有粒子的最优解，为全局最优值。
粒子的更新方式如图2所示。
其中，为粒子i在t次迭代的起始位置；/>为粒子i搜寻的方向和距离；/>为粒子i搜寻到的最优位置，/>为整个群体粒子对粒子i的影响，/>为粒子i经过第t次迭代的位置，从图中可以看出，粒子i第t+1次的位置受到了粒子i本身第t次位置、粒子i的速度和整个群体粒子的影响。
寻优过程中，更新各个粒子位置和速度的公式如下所示。
Xi＝(xi1,xi2,...,xiD),i＝1,2,...,N (30)
Vi＝(vi1,vi2,...,viD),i＝1,2,...,N (31)
Pbest＝(pi1,pi2,...,piD),i＝1,2,...,N (32)
gbest＝(pg1,pg2,...,pgD) (33)
vid＝ωvid+c1r1(pid-xid)+c2r2(pgd-xid) (34)
xid＝xid+vid (35)
式中D表示为粒子是在D维的搜索空间中；N表示的是粒子群总的粒子个数；Xi表示第i个粒子的位置；Vi表示的是第i个粒子的速度；Pbest为第i个粒子从初始化到当前所搜索到的个体极值；gbest为全局极值；ω为惯性权重系数；c1，c2为学习因子；r1，r2为[0,1]范围内的均匀随机数；vid，xid分别表示粒子的速度和位置；式(34)中等号右边的三部分分别代表图2中的当前速度的影响、自我记忆的影响和群体的影响。
4)粒子群算法的改进
在本发明中选择对粒子群算法的参数和与其他进化算法相融合的方法进行改进，以提高粒子群优化算法的精确度和速度。
(1)自适应算法对权重进行改进
粒子群算法中最为关键、影响最大的参数之一是惯性权重。随着对惯性权重改进的研究深入，研究者们认识到惯性权重的大小不仅跟迭代次数有关，还与粒子距离全局最优解的距离有关。因此，他们提出了一系列动态惯性权重方案，使不同位置的粒子拥有不同的惯性权重，当位置距离最优点越近权重越小，相反，距最优点越远权重越大。这种动态惯性权重方案能够更有效地引导算法在搜索空间中快速找到最优解。目前大多数采用的非线性动态惯性权重系数公式如下所示。
式中ωmin，ωmax分别表示惯性权重的最小、最大值；f表示为粒子的实时函数适应度的值；favg表示当前所有粒子的平均值；fmin为当前所有粒子的最小值。
从惯性权重的公式中可以看出，惯性权重随着粒子适应度函数值的改变而改变。在粒子适应度比较分散时进一步将惯性权重减小；当粒子目标值一致时，则将惯性权重进一步增加。用这种方法来改进粒子群算法中的惯性权重，从而去提高粒子群算法的寻优能力。
(2)自然选择算法对粒子群算法的改进
基本粒子群算法在寻优过程中，适应度函数值比较差的粒子们的位置距离全局最优点的距离一般比较远，这些粒子们对最优解起的作用非常小，所以可以更新这些粒子的位置，将这些粒子放在一个比较好的位置上。可以利用自然选择算法将位置比较差的粒子替换到比较好的位置上，然后再进行下一步迭代。自然选择算法借鉴遗传算法中的选择思想，按照自然选择的原理，在每次迭代完成后，将每个粒子的适应度函数值由大到小进行排序，保持前半部分的粒子们的位置不变，将后半部分粒子们的位置用前半部分的粒子的位置进行替换，这样就能让粒子群中的粒子与最优解的距离都比较近，使每次迭代最后得到的粒子们有好的性能，进一步提高对适应度函数的收敛速度。
四、基于自然选择和自适应权重改进PSO优化的LSTM预测模型结构
基于自然选择和自适应权重改进PSO优化的LSTM预测模型分为优化模块和预测模块两大部分，该方法利用所提改进的粒子群算法对LSTM模型中的超参数进行寻优，优化的超参数包括LSTM中的训练次数、神经元数量和学习率。流程图如图3所示。具体部分如下：
优化部分，运用基于自然选择和自适应权重改进PSO优化模块，首先需要对粒子群算法中的参数进行初始化设置，其中包括粒子群群体大小；最大迭代次数；两个加速常数；寻优的维度等参数。由于运用自适应权重法对粒子群算法中的权重进行改进，需要设置权重的最大最小值。其次，对寻优边界进行设定。并对粒子群的位置和速度进行初始化，计算每个粒子的适应度的值，用每个粒子的适应度的值与个体极值作比较，先获得个体极值，然后再与全局极值作比较，获得当前的最优值。最后，使用自然选择法，对粒子的适应度进行排序，将适应度小的粒子的位置和速度用适应度大的粒子进行替换。若达到最大迭代次数，则将优化模块中寻找到的LSTM最优超参数进行输出。此时便可得到LSTM优化预测模型。
预测部分，将预处理过后的数据按照比例划分成训练集和测试集两部分。构造LSTM预测模型，将LSTM预测模型中的超参数设置为优化部分的寻优结果，得到LSTM优化模型。将划分为训练集的数据对LSTM优化模型进行训练，之后再将测试集用训练过后的LSTM优化模型进行测试，最终得出预测结果。
以某地区的电负荷和另一地区的热负荷数据进行实验，选取2020年1月1日至2020年12月30日时间间隔为1小时的用电数据。使用数据预处理的方法对电负荷数据和热负荷数据进行处理。如图4和图5分别为本发明所使用的经过预处理的2020年电负荷和热负荷的负荷曲线。
本发明模型评价为数据预测效果的评价。预测误差评价指标常用的有两种，分别为均方根误差(Root Mean Square Error，RMSE)和平均绝对误差(Mean AbsolutePercentage Error，MAPE)。通过以下公式定义这两种评价指标。
(1)均方根误差指标
式中，n表示样本数，表示预测值，yi表示真实值，RMSE表示预测和真实值之间的绝对误差。
(2)平均绝对误差指标
式中，各个变量含义与均方根误差指标中的变量含义相同，MAPE表示预测值和真实值之间的相对误差，可以更好地反应预测效果，是在负荷预测中应用最广泛的指标之一。
为了验证本发明所提的NSAW-PSO-LSTM负荷预测方法的效果，设置了NSAW-PSO-LSTM与传统的LSTM和PSO-LSTM负荷预测方法的对比实验。本发明中使用三种预测方法对夏季和冬季的一天电负荷进行预测，并比较预测结果，验证本发明所提预测方法的精确性。其次，展示了PSO算法和NSAW-PSO算法的寻优过程，验证了对PSO的改进效果。
本发明使用LSTM预测模型是含有两层隐含层的预测模型，PSO优化算法和本发明中NSAW-PSO优化算法是对LSTM中超参数进行优化，寻优的超参数包括第一层隐含层的神经元的数量、第二层隐含层神经元的数量，训练的次数和学习率，通过对这些超参数进行寻优，从而提高预测精度。表1为粒子群算法和本发明中基于自然选择和权重改进的粒子群算法的参数。N代表种群数，M表示迭代次数，c1和c2表示学习因子，ω表示权重，ωmin和ωmax分别表示权重的最小值和最大值。
表1算法参数
首先分析冬季夏季一天电负荷三种方法的预测结果。图6为冬季一天电负荷预测结果，图7为夏季一天电负荷预测结果。由图6和图7中的实际用电量可知，虽然冬、夏两个季节因为各种因素导致负荷变化趋势不同，但不论是冬季还是夏季，本发明中的方法相较于其他方法都能较好的跟随真实负荷变化，相较于其他方法在一天中的电负荷预测值都更加接近真实值。数字相对图形可以更加准确高效地展示出这三种预测方法的预测效果。由表2中误差数据对比可得知，相较于PSO-LSTM预测方法，冬季的预测精度提高了43.7％(MAPE)和39％(RMSE)，夏季的预测精度提高了19.1％(MAPE)和6.6％(RMSE)，说明本文所提NSAW-PSO寻优算法相较于传统PSO算法寻优效果优良，可以进一步提高预测模型的精度。
表2不同模型在冬夏两季电负荷预测误差对比
由于热负荷在夏季使用较少，所以对热负荷进行冬季预测。图8为冬季一天热负荷三种方法的预测结果。三种方法热负荷的预测误差指标如表3所示。
表3不同模型在冬季热负荷预测误差对比
由表3中数据可知，NSAW-PSO-LSTM算法在热负荷预测方面也有较好的表现。相较于PSO-LSTM预测模型，NSAW-PSO-LSTM模型热负荷预测精度提高了18％(MAPE)和9.24％(RMSE)。
为了体现NSAW对PSO算法的改进效果，将NSAW-PSO算法和PSO算法在寻优过程中参数随粒子群算法迭代次数变化过程进行了对比，如图所示。图9(a)为PSO算法与本文所提NSAW-PSO算法对LSTM第一个隐含层单元数的寻优结果。由图可知，本发明所提NSAW-PSO算法的搜索范围为155-220，传统PSO算法的搜索范围为59-80，因此，本发明所提NSAW-PSO算法的搜索范围较大。剩下三张图中也可以看出本发明中所提的方法搜索范围更大。经上述分析可知，PSO算法每次更新最优点的时候，其搜索范围都比较小，大部分都是在上一个最优点的附近，比较容易陷入局部最优点。而NSAW-PSO算法在寻找最优点的过程中，范围更广，不易陷入局部最优点，并且迭代次数也更少。以上结果证明了自适应权重和自然选择法对PSO算法改进的效果。
本领域技术人员可以理解附图只是一个优选实施例的示意图，上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (2)

1.一种基于粒子群优化LSTM的电热负荷预测方法，其特征是，步骤如下：
1)设置粒子群算法的参数，将自适应权重算法和自然选择算法对粒子群算法进行改进，得到改进后的粒子群算法；
2)对历史负荷数据进行预处理，减小因数据误差过大或缺少数据等问题引起的最终实验的误差，将处理后的数据划分为训练集和测试集；
3)建立长短时记忆网络LSTM预测模型，并且用改进后的粒子群算法对LSTM中超参数进行寻优，得到优化后的LSTM预测模型；
4)使用训练集对优化后的LSTM预测模型进行训练，然后将训练好的模型对测试集数据预测，得到预测结果。
2.如权利要求1所述的基于粒子群优化LSTM的电热负荷预测方法，其特征是，详细步骤如下：
一、数据预处理
预处理包含识别和修正异常值、补充缺失数据以及归一化样本数据；
1)异常值的识别与修正
(1)水平处理法
利用相邻时刻负荷值相差不大的这一规律，对异常数据进行修正，具体如下式所示。
如果
max[Y(d,t)-Y(d,t-1),|Y(d,t)-Y(d,t+1)]＞ε(t) (1)
那么
式中，ε(t)为阈值，Y(d,t-1)、Y(d,t)、和Y(d,t+1)分别为第d天中t-1、t和t+1时刻负荷值，即在第d天中，当t时刻的负荷值与t-1或t+1时刻负荷值之差大于所设置阈值时，则认为t时刻的负荷值Y(d,t)为异常数据，并取t-1与t+1时刻负荷值的平均值作为t时刻的负荷值；
(2)垂直处理法
因此如果相邻两天同一时间点数据值相差过大，则有异常点，采用垂直处理法修正，具体如下所示：
如果
Y(d,t)-m(t)|＞r(t) (3)
那么
式中，r(t)为阈值，Y(d,t)为第d日t时刻的负荷值，m(t)为近几日负荷数据的平均值；
2)缺失数据的补充
使用前后日期的正常数据进行加权平均对这些缺少的数据进行填补；
3)数据的归一化和还原
(1)数据的归一化
使用基于线性函数转换对所采集数据进行归一化处理，具体如下所示。
式中，xi为原始采集的数据，xmin、xmax分别是所采集数据的最小、最大值；
(2)数据的还原
具体如下所示。
式中，yi为模型输出数据，ymax和ymin分别为数据变化范围的上下限；
二、长短时记忆神经网络预测模型
xt为t时刻的输入，ht-1、ct-1分别为t-1时刻的隐层状态和门控单元状态，LSTM的核心就是门控单元，LSTM网络各参数计算如下所示。
ft＝σ(Wf[ht-1,xt]+bf) (7)
it＝σ(Wi[ht-1,xt]+bi) (8)
ot＝σ(Wo[ht-1,xt]+bo) (9)
ct＝ft×ct-1+it×tanh(Wc[ht-1,xt]+bc) (10)
ht＝ot×tanh(ct) (11)
式中：ft为遗忘门，it为输入门，ot为输出门，ut为状态单元的状态；[ht-1,xt]表示t-1时刻隐含层的状态和t时刻的输入；W为权重系数矩阵，b表示偏置项；σ表示sigmoid激活函数即S形曲线，tanh表示双曲正弦激活函数。
三、基于自然选择和自适应权重改进粒子群算法
1)基本粒子群算法
应用改进后的PSO算法解决负载预测模型LSTM的超参数优化问题；
2)粒子群算法的基本原理和优化方法
为粒子i在t次迭代的起始位置；/>为粒子i搜寻的方向和距离；/>为粒子i搜寻到的最优位置，/>为整个群体粒子对粒子i的影响，/>为粒子i经过第t次迭代的位置，从图中可以看出，粒子i第t+1次的位置受到了粒子i本身第t次位置、粒子i的速度和整个群体粒子的影响；
寻优过程中，更新各个粒子位置和速度的公式如下所示。
Xi＝(xi1,xi2,...,xiD),i＝1,2,...,N (12)
Vi＝(vi1,vi2,...,viD),i＝1,2,...,N (13)
Pbest＝(pi1,pi2,...,piD),i＝1,2,...,N (14)
gbest＝(pg1,pg2,...,pgD) (15)
vid＝ωvid+c1r1(pid-xid)+c2r2(pgd-xid) (16)
xid＝xid+vid (17)
式中D表示为粒子是在D维的搜索空间中；N表示的是粒子群总的粒子个数；Xi表示第i个粒子的位置；Vi表示的是第i个粒子的速度；Pbest为第i个粒子从初始化到当前所搜索到的个体极值；gbest为全局极值；ω为惯性权重系数；c1，c2为学习因子；r1，r2为[0,1]范围内的均匀随机数；vid，xid分别表示粒子的速度和位置；式(34)中等号右边的三部分分别代表图2中的当前速度的影响、自我记忆的影响和群体的影响；
3)粒子群算法的改进
(1)自适应算法对权重进行改进
采用非线性动态惯性权重系数公式如下所示。
式中ωmin，ωmax分别表示惯性权重的最小、最大值；f表示为粒子的实时函数适应度的值；favg表示当前所有粒子的平均值；fmin为当前所有粒子的最小值；
惯性权重随着粒子适应度函数值的改变而改变，在粒子适应度比较分散时进一步将惯性权重减小；当粒子目标值一致时，则将惯性权重进一步增加，用这种方法来改进粒子群算法中的惯性权重，从而去提高粒子群算法的寻优能力；
(2)自然选择算法对粒子群算法的改进
利用自然选择算法将位置比较差的粒子替换到比较好的位置上，然后再进行下一步迭代；
四、基于自然选择和自适应权重改进PSO优化的LSTM预测模型结构
基于自然选择和自适应权重改进PSO优化的LSTM预测模型分为优化模块和预测模块两大部分，该方法利用所提改进的粒子群算法对LSTM模型中的超参数进行寻优，优化的超参数包括LSTM中的训练次数、神经元数量和学习率，具体步骤如下：
优化部分，运用基于自然选择和自适应权重改进PSO优化模块，首先需要对粒子群算法中的参数进行初始化设置，其中包括粒子群群体大小；最大迭代次数；两个加速常数；寻优的维度等参数，由于运用自适应权重法对粒子群算法中的权重进行改进，需要设置权重的最大最小值；其次，对寻优边界进行设定，并对粒子群的位置和速度进行初始化，计算每个粒子的适应度的值，用每个粒子的适应度的值与个体极值作比较，先获得个体极值，然后再与全局极值作比较，获得当前的最优值；最后，使用自然选择法，对粒子的适应度进行排序，将适应度小的粒子的位置和速度用适应度大的粒子进行替换，若达到最大迭代次数，则将优化模块中寻找到的LSTM最优超参数进行输出，此时便可得到LSTM优化预测模型；
预测部分，将预处理过后的数据按照比例划分成训练集和测试集两部分，构造LSTM预测模型，将LSTM预测模型中的超参数设置为优化部分的寻优结果，得到LSTM优化模型，将划分为训练集的数据对LSTM优化模型进行训练，之后再将测试集用训练过后的LSTM优化模型进行测试，最终得出预测结果。
CN202310592592.XA 2023-05-24 2023-05-24 基于粒子群优化lstm的电热负荷预测方法 Pending CN116526473A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310592592.XA CN116526473A (zh) 2023-05-24 2023-05-24 基于粒子群优化lstm的电热负荷预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310592592.XA CN116526473A (zh) 2023-05-24 2023-05-24 基于粒子群优化lstm的电热负荷预测方法

Publications (1)

Publication Number Publication Date
CN116526473A true CN116526473A (zh) 2023-08-01

Family

ID=87399442

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310592592.XA Pending CN116526473A (zh) 2023-05-24 2023-05-24 基于粒子群优化lstm的电热负荷预测方法

Country Status (1)

Country Link
CN (1) CN116526473A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117010283A (zh) * 2023-10-07 2023-11-07 中国矿业大学(北京) Pba车站钢管柱结构变形预测方法、***
CN117540265A (zh) * 2023-10-09 2024-02-09 国网浙江省电力有限公司紧水滩水力发电厂 一种基于IPSO-Transformer模型的混凝土大坝变形预测方法
CN117744895A (zh) * 2024-02-20 2024-03-22 山东华科信息技术有限公司 一种热力负荷预测方法、装置、设备及存储介质
CN117910329A (zh) * 2024-03-19 2024-04-19 山东省计算中心（国家超级计算济南中心） 基于改进粒子群优化算法的海洋时序数据预测方法及***

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117010283A (zh) * 2023-10-07 2023-11-07 中国矿业大学(北京) Pba车站钢管柱结构变形预测方法、***
CN117010283B (zh) * 2023-10-07 2023-12-29 中国矿业大学(北京) Pba车站钢管柱结构变形预测方法、***
CN117540265A (zh) * 2023-10-09 2024-02-09 国网浙江省电力有限公司紧水滩水力发电厂 一种基于IPSO-Transformer模型的混凝土大坝变形预测方法
CN117744895A (zh) * 2024-02-20 2024-03-22 山东华科信息技术有限公司 一种热力负荷预测方法、装置、设备及存储介质
CN117910329A (zh) * 2024-03-19 2024-04-19 山东省计算中心（国家超级计算济南中心） 基于改进粒子群优化算法的海洋时序数据预测方法及***

Similar Documents

Publication Publication Date Title
Tian Short-term wind speed prediction based on LMD and improved FA optimized combined kernel function LSSVM
CN113962364B (zh) 一种基于深度学习的多因素用电负荷预测方法
Wang et al. Adaptive learning hybrid model for solar intensity forecasting
CN116526473A (zh) 基于粒子群优化lstm的电热负荷预测方法
CN109284870A (zh) 基于长短期记忆神经网络的短期光伏发电量预测方法
CN109948845A (zh) 一种配电网负荷长短期记忆神经网络预测方法
CN114362175B (zh) 基于深度确定性策略梯度算法的风电功率预测方法及***
CN113537582B (zh) 一种基于短波辐射修正的光伏功率超短期预测方法
CN111915092A (zh) 基于长短时记忆神经网络的超短期风电功率预测方法
CN117977568A (zh) 基于嵌套lstm和分位数计算的电力负荷预测方法
Ma et al. An estimating combination method for interval forecasting of electrical load time series
CN115860177A (zh) 基于组合式机器学习模型光伏发电功率预测方法及其应用
CN112288157A (zh) 一种基于模糊聚类与深度强化学习的风电场功率预测方法
CN113591957B (zh) 基于lstm和马尔科夫链的风电出力短期滚动预测与校正方法
Zhu et al. Time-varying interval prediction and decision-making for short-term wind power using convolutional gated recurrent unit and multi-objective elephant clan optimization
CN111435471A (zh) 一种基于lstm的供热用气量预测模型
CN113191526B (zh) 基于随机敏感度的短期风速区间的优化预测方法及***
CN112581311B (zh) 一种多风电场聚合后出力长期波动特性预测方法及***
CN114444763A (zh) 基于afsa-gnn的风电功率预测方法
CN113705932B (zh) 一种短期负荷预测方法及装置
Zhao et al. Photovoltaic maximum power point tracking based on IWD-SVM
Wang et al. Forecasting Short-Term Solar PV Using Hierarchical Clustering and Cascade Model
Ferreira et al. Application of Bio-Inspired Optimization Techniques for Wind Power Forecasting
Carutasiu et al. Forecasting solar radiation using a deep long short-term memory artificial neural network
Xu et al. A Hybrid Method Based on SVM Integrated Improved PSO Algorithm for Electrical Energy Consumption Forecasting of Crude Oil Pipeline

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination