CN110705743B - 一种基于长短期记忆神经网络的新能源消纳电量预测方法 - Google Patents
一种基于长短期记忆神经网络的新能源消纳电量预测方法 Download PDFInfo
- Publication number
- CN110705743B CN110705743B CN201910782154.3A CN201910782154A CN110705743B CN 110705743 B CN110705743 B CN 110705743B CN 201910782154 A CN201910782154 A CN 201910782154A CN 110705743 B CN110705743 B CN 110705743B
- Authority
- CN
- China
- Prior art keywords
- neural network
- long
- term
- new energy
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005265 energy consumption Methods 0.000 title claims abstract description 57
- 230000007787 long-term memory Effects 0.000 title claims abstract description 46
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 31
- 238000000034 method Methods 0.000 title claims abstract description 27
- 230000006403 short-term memory Effects 0.000 title claims abstract description 23
- 230000015654 memory Effects 0.000 claims abstract description 53
- 238000003062 neural network model Methods 0.000 claims abstract description 44
- 238000007781 pre-processing Methods 0.000 claims abstract description 7
- 238000005457 optimization Methods 0.000 claims abstract description 5
- 238000012549 training Methods 0.000 claims description 31
- 230000006870 function Effects 0.000 claims description 21
- 238000012360 testing method Methods 0.000 claims description 16
- 238000012545 processing Methods 0.000 claims description 14
- 238000012937 correction Methods 0.000 claims description 8
- 238000004458 analytical method Methods 0.000 claims description 7
- 210000002569 neuron Anatomy 0.000 claims description 7
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000005611 electricity Effects 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 4
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 claims description 3
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 claims description 3
- 238000010248 power generation Methods 0.000 description 6
- 230000003044 adaptive effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000001537 neural effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 239000002245 particle Substances 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000006386 memory function Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Economics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Biophysics (AREA)
- Strategic Management (AREA)
- Artificial Intelligence (AREA)
- Human Resources & Organizations (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- Tourism & Hospitality (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Entrepreneurship & Innovation (AREA)
- Development Economics (AREA)
- Public Health (AREA)
- Water Supply & Treatment (AREA)
- Primary Health Care (AREA)
- Supply And Distribution Of Alternating Current (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及电力***领域,公开了一种基于长短期记忆神经网络的新能源消纳电量预测方法,包括步骤:A)采集待预测区域运行电力***中与新能源消纳电量相关的历史统计数据;B)分析不良数据,进行数据预处理,获得样本数据;C)构建长短期记忆神经网络模型;D)利用长短期记忆神经网络模型对新能源消纳电量进行预测,得到新能源消纳电量的预测值。本发明在完全利用历史数据的情况下,挖掘有效的历史特征,利用长短期记忆神经网络的方法,并且对长短期记忆神经网络模型进行参数优化,实现了对待预测区域运行电力***中新能源消纳电量的准确预测。
Description
技术领域
本发明涉及电力***领域,尤其是涉及一种基于长短期记忆神经网络的新能源消纳电量的预测方法。
背景技术
目前,随着技术的快速发展,我国已经成为全球新能源产业规模最大的国家。但是由于新能源发电存在间歇性和波动性等众多不确定性因素,因此新能源消纳一直面临着严峻的形势。为了减少弃风、弃光现象的发生,需要多方协调,多项措施并举。其中,准确的新能源消纳电量预测可以提前评估未来新能源的消纳水平,为电力***规划、调度及管理提供重要依据,有助于保障电网稳定运行、减少发电成本、降低弃风、弃光率等。近年来,对于风电和光伏的短期或超短期功率预测的研究已经相当成熟,但是对于新能源消纳电量方面的预测研究却很少。当面对某个区域的长时间范围的情况下,由于天气等各方面信息没有办法准确评估,从而造成预测出现较大的误差。
例如,一种在中国专利文献上公开的“基于自适应变异粒子群与BP网络光伏电站发电量预测方法”,其公告号CN 105913151 A,该发明首先进行数据样本的采集和预处理,然后构建BP神经网结构,并采用自适应变异粒子群算法对网络进行优化,将优化后所得最优个体带入BP神经网络进行预测。虽然该发明使用的BP神经网络有较强的非线性拟合能力,但BP神经网络收敛速度慢,超参数的选择困难,不能很好地在在线监测领域使用,并且无法明确模拟时间关系以及无法长期利用历史数据并且保存有用信息。
发明内容
本发明是为了解决面对各种不确定因素下传统预测模型预测误差大以及无法有效利用历史信息的问题,提供一种基于长短期记忆神经网络的新能源消纳电量的预测方法,在完全利用历史数据的情况下,本发明能够挖掘有效的历史特征,利用长短期记忆神经网络的方法,并且对长短期记忆神经网络模型进行参数优化,实现对待预测区域的中长期消纳新能源电量的准确预测。
为了实现上述目的,本发明采用以下技术方案:
一种基于长短期记忆神经网络的新能源消纳电量预测方法,包括步骤:
A)采集待预测区域运行电力***中与新能源消纳电量相关的历史统计数据;
B)分析不良数据,不良数据包括重复数据和不完整数据,进行数据预处理,获得样本数据;
C)构建长短期记忆神经网络模型,将样本数据分为训练集数据和测试集数据,利用训练集数据训练长短期记忆神经网络模型,利用测试集数据测试长短期记忆神经网络模型;
D)利用长短期记忆神经网络模型对新能源消纳电量进行预测,得到新能源消纳电量的预测值。
采集到的通常是海量数据,先把采集到的不适合用来做训练模型的数据进行预处理,从而转化为适合用来训练的数据,进行数据预处理可减少计算量。长短期记忆神经网络(Long-Short Term Memory)是一种深度学习算法,是循环神经网络(Recurrent NeutralNetwork)中的一种,能够有效解决长期依赖问题。长短期记忆神经网络模型通过在普通多层前馈(Back Propagation)神经网络基础上,增加了隐藏层各单元间的横向联系,通过权重矩阵,将上一个时间序列的神经单元的值传递至当前的神经单元,从而使神经网络具备了记忆功能,另外,在隐藏层各神经单元中增加记忆单元,从而使时间序列上的记忆信息可控,每次在隐藏层各单元间传递时通过几个可控门(遗忘门、输入门、输出门),可以控制之前信息和当前信息的记忆和遗忘程度,从而使网络具备了长期记忆功能。不同于传统的前馈神经网络,通过构建长短期记忆神经网络模型,该长短期记忆神经网络模型的隐藏层能够实现跨越时间点的自连隐藏层,即隐藏层的输出不但可以传输到输出层,也可以传输给下一时间点的隐藏层,该网络可以长期地保存有用信息,根据历史信息推出未来信息。
进一步地,步骤A)中,将历史统计数据按时间进行排列得到数据序列集,历史统计数据包括:风电消纳电量、光伏消纳电量、火电消纳电量、水电消纳电量、用电负荷和装机容量。
为了考虑数据集规模,所以采用了滚动的方式,使得历史统计数据能够按时间进行排列,从而得到数据序列集,历史统计数据是进行建模的基础,还可以包括历史天气、新能源利用小时数、新能源消纳电量与火电发电量之比等历史统计数据。除此之外,本发明还可以适用于中长期时间范围内的风电消纳能力预测、光伏消纳能力预测等领域。
进一步地,步骤B)中,数据预处理包括:
B1)删除重复数据,将不完整数据设置成位于数据序列集中相邻数据的平均值或相邻日期的同一时间段的近似值;
B2)设置时间周期,对每一个时间周期内的风电消纳电量和光伏消纳电量进行加和,得到新能源消纳电量y,将其作为一个历史特征,记为:y*=[y* (0),y* (1),...,y* (t-2),y* (t-1)]T,y* (t-1)表示第t个时间周期内的新能源消纳电量,将下一个时间周期内的新能源消纳电量y* (t)作为需要输出的预测值;
B3)特征选择,获得k+1个高相关历史特征;
B4)对高相关历史特征进行归一化处理,归一化处理的计算公式为:
其中,Pd *为一类历史特征在第d个时间周期的归一化数值,Pd为该类历史特征在第d个时间周期的原始数值,Pdmin为该类历史特征的最小值,Pdmax为该类历史特征的最大值,获得归一化后的训练集数据X,记为
x(t-1)(k)表示第t-1个时间周期的第k类历史特征,y(t-1)表示归一化后的第t-1个时间周期的新能源消纳电量,第t个时间周期的当前输入信息记为x(t)=[x(t)1,x(t)2,...,x(t)(k)]T。
步骤B1)中,当不完整数据是一类随着时间连续变化的量时,可以用位于数据序列集中相邻数据的平均值来进行填补,当不完整数据是与一个离散的并且与时间段有关的量时,可以用位于相邻日期的同一时间段的近似值来进行填补。步骤B2)中,设置时间周期,由于中长期的时间范围不固定,一般至少一天以上,本发明以用户为准,通过设置时间周期,采用滚动的方式进行预测,对每一个时间周期内的风电消纳电量和光伏消纳电量进行加和的目的是为了将二者合并起来后得到该时间段的新能源消纳电量,以便进行新能源消纳电量的预测。步骤B3)中,进行特征选取,可以选取出与新能源消纳电量相关性高的历史特征,好的特征选择能够提升模型的性能,减少特征数量,进行了降维,使模型的泛化能力更强,减少过拟合。步骤B4)中,归一化处理把数据映射到0至1的范围进行处理,提升了模型的收敛速度和精度。
进一步地,步骤C中构建长短期记忆神经网络模型还包括:
C1)参数初始化,其中参数包括:神经元个数、网络层数、一次性输入给神经网络模型的样本数batch_size、训练次数epoch、步长time_steps以及遗忘门、输入门和输出门的各项权重和偏置项;
C2)把训练集数据中的当前输入信息x(t)和第t-1个时间周期的输出y(t-1)共同作为第t个时间周期长短期记忆神经网络模型的输入;
C3)设置遗忘门:
ft=σ(Wf*[y(t-1),x(t]+bf),其中σ为sigmoid函数,记为Wf为遗忘门权重,bf为遗忘门偏置项;
C4)设置输入门:
it=σ(Wi*[y(t-1),x(t)]+bi)
其中tanh为tanh函数,记为/> 为中间记忆元件,Wi为输入门权重,bi为输入门偏置项,Wc为中间记忆元件权重,bm为中间记忆元件偏置项;
C5)设置记忆元件:
其中M(t-1)为上一次记忆元件的输出信息,it为中间记忆元件权重;
C6)设置输出门,获得长短期记忆神经网络模型的输出值y(t):
ot=σ(Wo*[y(t-1),x(t)]+bo)
y(t)=ot*tanh(Mt),其中,Wo为输出门权重,bo为输出门偏置项,通过sigmoid函数确定需要输出的信息ot,再将输出的信息ot通过tanh函数进行处理;
C7)判断是否达到训练次数,如果未达到,重复C2),如果达到,将测试集数据输入给已训练好的长短期记忆神经网络模型,得到输出值,进行误差分析。
长短期记忆神经网络的每个神经元都含有遗忘门、输入门和输出门三个门层,门是一种可以让信息选择性通过的方法,通过门结构可以让长短期记忆神经网络拥有去除和保留信息的能力。数据在长短期记忆神经网络的神经元中会首先决定需要丢弃多少信息。当数据通过其内部设置的遗忘门时,会通过sigmoid激活函数,决定需要“遗忘”的比例,并将此时刻的信息给记忆元件M(t-1)。接着,y(t-1)和x(t)经过输入门,分别通过sigmoid函数和tanh函数,通过计算后分别可以得到经过输入门后的信息it以及中间记忆元件的状态然后,用ft*M(t-1)表示需要丢弃的那部分信息,/>表示需要记住的那部分信息,因此通过计算便可以得到最终的记忆元件的值M(t)。最后,在输出门中,通过sigmoid函数确定需要输出的信息ot,再将其通过tanh函数进行处理,作为此时刻的输出。
进一步地,选取h个待优化参数w1,w2,...,wh,利用Adam算法对长短期记忆神经网络模型进行参数优化,步骤包括:
D1)计算第t个时间周期关于待优化参数w1的梯度:s表示训练数据集的大小,y*(t)为预测输出的真实值,ft(w1(t-1),y(t),y*(t)为长短期记忆神经网络模型的损失函数,w1(t-1)表示第t-1个时间周期的待优化参数w1;
D2)更新梯度的一阶矩估计:mt=β1·mt-1-(1-β1)·gt;
D3)更新梯度的二阶矩估计:
D4)修正一阶矩估计:
D5)修正二阶矩估计:
D6)更新待优化参数:
其中,β1为一阶矩估计修正量,β2为二阶矩估计修正量,α为修正系数,ε为修正常数,依次重复步骤D1)至D6),获得第t个时间周期h个待优化参数的最优解。
神经网络在训练的过程中,需要不停地更新权重,传统的随机梯度下降方法通过保持单一的学习率来更新所有权重,学习率在训练过程中不会发生改变。而Adam算法即适应性动量估计算法(Adaptive moment estimation)通过计算梯度的一阶矩估计和二阶矩估计而为不同的参数设计独立的自适应性学习率,从而通过训练数据迭代地更新权重。Adam算法广泛应用于深度学习的应用中,该算法占用资源相对较少而且收敛速度比较快,能够大幅度提高长短期记忆神经网络模型的速度和效果。
进一步地,待优化参数为输入门权重Wi、输入门偏置项bi、中间记忆元件权重Wc、中间记忆元件偏置项bm、中间记忆元件权重it、输出门权重Wo以及输出门偏置项bo中的至少一个。
进一步地,在步骤C7)中将长短期记忆神经网络模型的输出值进行反归一化处理,得到新能源消纳电量的预测值。
构建长短期记忆神经网络模型之前对历史特征进行了归一化处理,使数据全部落在[0,1]区间内,所以在得到模型的输出值后还需要进行反归一化处理,使数据映射到原来的范围。
进一步地,步骤B3)进一步包括通过公式来进行特征选取,其中,A、B表示任意两个历史特征,cov(A,B)表示两个历史特征之间的协方差,σA表示历史特征A的标准差,σB表示历史特征B的标准差。
ρA,B的取值范围为[-1,1],ρA,B=0表示两个历史特征不相关,ρA,B越接近1则两个历史特征正相关性越大,ρA,B越接近-1则两个历史特征负相关性越大。通过判断历史特征间的相关性,获得相关性高的历史特征。
进一步地,步骤C7)中的误差分析采用平均绝对百分误差MAPE,其中N表示样本个数,y表示真实值,y'表示预测值。
通过误差分析能够对模型进行综合评价,误差分析还可以采用方差和相对误差来进行分析。
因此,本发明具有如下有益效果:不仅全面地考虑了历史新能源消纳电量相关数据的规律性,而且还从多方面综合考虑了影响耗电量的因素,通过对过去的使用情况进行处理,预测出了新能源消纳电量使用情况,具有很好的预测效果。地区城市的耗电量又受多种因素影响,而且新能源发电存在间歇性和波动性等众多不确定性因素,本发明实现了中长期消纳电量的准确预测,提前准确评估未来新能源的消纳水平,为电力***规划、调度及管理提供重要依据,起到节约能源的作用,保障了电网稳定运行、减少了发电成本、降低了弃风和弃光率。
附图说明
图1是本发明的流程框图。
图2是本发明的长短期记忆神经网络的神经元内部结构示意图。
具体实施方式
下面结合附图与具体实施方式对本发明做进一步的描述。
一种基于长短期记忆神经网络的新能源消纳电量预测方法,如图1所示,包括下列步骤:
A)采集待预测区域运行电力***中与新能源消纳电量相关的历史统计数据;包括历史统计数据包括:风电消纳电量、光伏消纳电量、火电消纳电量、水电消纳电量、用电负荷和装机容量。
B)分析不良数据,不良数据包括重复数据和不完整数据,删除重复数据,将不完整数据设置成位于数据序列集中相邻数据的平均值或相邻日期的同一时间段的近似值。设置时间周期,对每一个时间周期内的风电消纳电量和光伏消纳电量进行加和,得到新能源消纳电量y,将其作为一个历史特征,记为:y*=[y* (0),y* (1),...,y* (t-2),y* (t-1)]T,y* (t-1)表示第t个时间周期内的新能源消纳电量,将下一个时间周期内的新能源消纳电量y* (t)作为需要输出的预测值。另外,将每一个时间周期内的新能源消纳电量数据除以装机容量,便得到在某一装机下,新能源在该时间范围内的利用小时数,将新能源利用小时数作为一个历史特征,新能源消纳电量与火电发电量之比也作为一个历史特征。再进行数据预处理,步骤包括:
B3)特征选择,通过公式来进行特征选取,获得了3个高相关历史特征:新能源利用小时数、新能源消纳电量与火电发电量之比、新能源消纳电量;
B4)对3个高相关历史特征进行归一化处理,归一化处理的计算公式为:
其中,Pd *为每一类历史特征在第d个时间周期的归一化数值,Pd为该类历史特征在第d个时间周期的原始数值,Pdmin为该类历史特征的最小值,Pdmax为该类历史特征的最大值,获得归一化后的训练集数据X,记为
x(t-1)1表示第t-1个时间周期的新能源利用小时数,x(t-1)2表示第t-1个时间周期的新能源消纳电量与火电发电量之比,y(t-1)表示归一化后的第t-1个时间周期的新能源消纳电量,第t个时间周期的当前输入信息记为x(t)=[x(t)1,x(t)2]T。
C)构建长短期记忆神经网络模型,将样本数据分为训练集数据和测试集数据,将样本数据分为训练集数据和测试集数据,利用1200个训练集数据训练长短期记忆神经网络模型,利用317个测试集数据测试长短期记忆神经网络模型。如图2所示,长短期记忆神经网络模型的构建包括以下步骤:
C1)参数初始化,其中参数包括:神经元个数、网络层数、一次性输入给神经网络模型的样本数batch_size、训练次数epoch、步长time_steps以及遗忘门、输入门和输出门的各项权重和偏置项;
C2)把训练集数据中的当前输入信息x(t)和第t-1个时间周期的输出y(t-1)共同作为第t个时间周期长短期记忆神经网络模型的输入;
C3)设置遗忘门:
ft=σ(Wf*[y(t-1),x(t]+bf),其中σ为sigmoid函数,记为Wf为遗忘门权重,bf为遗忘门偏置项;
C4)设置输入门:
it=σ(Wi*[y(t-1),x(t)]+bi)
其中tanh为tanh函数,记为/> 为中间记忆元件,Wi为输入门权重,bi为输入门偏置项,Wc为中间记忆元件权重,bm为中间记忆元件偏置项;
C5)设置记忆元件:
其中M(t-1)为上一次记忆元件的输出信息,it为中间记忆元件权重;
C6)设置输出门,获得长短期记忆神经网络模型的输出值y(t):
ot=σ(Wo*[y(t-1),x(t)]+bo)
y(t)=ot*tanh(Mt),其中,Wo为输出门权重,bo为输出门偏置项,通过sigmoid函数确定需要输出的信息ot,再将输出的信息ot通过tanh函数进行处理。长短期记忆神经网络的每个神经元都含有遗忘门、输入门和输出门三个门层,门是一种可以让信息选择性通过的方法,通过门结构可以让长短期记忆神经网络拥有去除和保留信息的能力。
选取输入门权重Wi、输入门偏置项bi、中间记忆元件权重Wc、中间记忆元件偏置项bm、中间记忆元件权重it、输出门权重Wo、输出门偏置项bo作为待优化参数,利用Adam算法对长短期记忆神经网络模型进行参数优化,步骤包括:
D1)计算第t个时间周期关于待优化参数wi的梯度:s表示训练数据集的大小,y*(t)为预测输出的真实值,ft(wi(t-1),y(t),y*(t))为长短期记忆神经网络模型的损失函数;
D2)更新梯度的一阶矩估计:mt=β1·mt-1-(1-β1)·gt;
D3)更新梯度的二阶矩估计:
D4)修正一阶矩估计:
D5)修正二阶矩估计:
D6)更新待优化参数:
其中,β1=0.9、β2=0.999、α=0.001和ε=10-8。然后依次重复D1)至D6)得到第t个时间周期所有待优化参数的最优值。
D7)判断是否达到训练次数,如果未达到,重复C2),如果达到,将测试集数据输入给已训练好的长短期记忆神经网络模型,得到输出值,采用平均绝对百分误差MAPE进行误差分析其中N表示样本个数,y表示真实值,y'表示预测值。本实施例中采用了Adam优化算法,另外通过设置batch_size为72,epoch为200,获得了比较好的训练效果,通过317个测试样本得到的平均绝对百分误差为6.9%。如表1所示,为部分测试集数据的真实值与预测值。
表1部分测试集数据的真实值与预测值
真实值 | 预测值 | 误差 |
1.267229e+06 | 1.235678e+06 | 31550.5000 |
1.284235e+06 | 1.258228e+06 | 26006.7500 |
1.321762e+06 | 1.274903e+06 | 46859.3750 |
1.422392e+06 | 1.311674e+06 | 110717.2500 |
1.417139e+06 | 1.410055e+06 | 7083.5000 |
表1
D)将待预测样本数据输入到训练后的长短期记忆神经网络模型中,利用长短期记忆神经网络模型对新能源消纳电量进行预测,得到新能源消纳电量的预测值。保存模型和权重,方便以后使用。
本发明不仅全面地考虑了历史新能源消纳电量相关数据,而且还从多方面综合考虑了影响耗电量的因素,通过对过去的使用情况进行处理,获得新能源消纳电量的预测值,具有很好的预测效果。
上述虽然结合附图对本发明的具体实施方式进行了描述,但并非对本发明保护范围的限制,所属领域技术人员应该明白,在本发明的技术方案的基础上,本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明保护范围以内。
Claims (7)
1.一种基于长短期记忆神经网络的新能源消纳电量预测方法,其特征是,包括下列步骤:
A)采集待预测区域运行电力***中与新能源消纳电量相关的历史统计数据;
B)分析不良数据,不良数据包括重复数据和不完整数据,进行数据预处理,获得样本数据;
C)构建长短期记忆神经网络模型,将样本数据分为训练集数据和测试集数据,利用训练集数据训练长短期记忆神经网络模型,利用测试集数据测试长短期记忆神经网络模型;
D)利用长短期记忆神经网络模型对新能源消纳电量进行预测,得到新能源消纳电量的预测值;
步骤A)中,将历史统计数据按时间进行排列得到数据序列集,历史统计数据包括:风电消纳电量、光伏消纳电量、火电消纳电量、水电消纳电量、用电负荷和装机容量;
步骤B)中,数据预处理包括:
B1)删除重复数据,将不完整数据设置成位于数据序列集中相邻数据的平均值或相邻日期的同一时间段的近似值;
B2)设置时间周期,对每一个时间周期内的风电消纳电量和光伏消纳电量进行加和,得到新能源消纳电量y,将其作为一个历史特征,记为:y*=[y* (0),y* (1),...,y* (t-2),y* (t-1)]T,y* (t-1)表示第t个时间周期内的新能源消纳电量,将下一个时间周期内的新能源消纳电量y* (t)作为需要输出的预测值;
B3)特征选择,获得k+1个高相关历史特征;
B4)对高相关历史特征进行归一化处理,归一化处理的计算公式为:
其中,Pd *为一类历史特征在第d个时间周期的归一化数值,Pd为该类历史特征在第d个时间周期的原始数值,Pdmin为该类历史特征的最小值,Pdmax为该类历史特征的最大值,获得归一化后的训练集数据X,记为
x(t-1)(k)表示第t-1个时间周期的第k类历史特征,y(t-1)表示归一化后的第t-1个时间周期的新能源消纳电量,第t个时间周期的当前输入信息记为x(t)=[x(t)1,x(t)2,...,x(t)(k)]T。
2.根据权利要求1所述的一种基于长短期记忆神经网络的新能源消纳电量预测方法,其特征是,步骤C中构建长短期记忆神经网络模型还包括:
C1)参数初始化,其中参数包括:神经元个数、网络层数、一次性输入给神经网络模型的样本数batch_size、训练次数epoch、步长time_steps以及遗忘门、输入门和输出门的各项权重和偏置项;
C2)把训练集数据中的当前输入信息x(t)和第t-1个时间周期的输出y(t-1)共同作为第t个时间周期长短期记忆神经网络模型的输入;
C3)设置遗忘门:
ft=σ(Wf*[y(t-1),x(t)]+bf),其中σ为sigmoid函数,记为Wf为遗忘门权重,bf为遗忘门偏置项;
C4)设置输入门:
it=σ(Wi*[y(t-1),x(t)]+bi)
其中tanh为tanh函数,记为/> 为中间记忆元件,Wi为输入门权重,bi为输入门偏置项,Wc为中间记忆元件权重,bm为中间记忆元件偏置项;
C5)设置记忆元件:
其中M(t-1)为上一次记忆元件的输出信息,it为中间记忆元件权重;
C6)设置输出门,获得长短期记忆神经网络模型的输出值y(t):
ot=σ(Wo*[y(t-1),x(t)]+bo)
y(t)=ot*tanh(Mt),其中,Wo为输出门权重,bo为输出门偏置项,通过sigmoid函数确定需要输出的信息ot,再将输出的信息ot通过tanh函数进行处理;
C7)判断是否达到训练次数,如果未达到,重复C2),如果达到,将测试集数据输入给已训练好的长短期记忆神经网络模型,得到输出值,进行误差分析。
3.根据权利要求2所述的一种基于长短期记忆神经网络的新能源消纳电量预测方法,其特征是,选取h个待优化参数w1,w2,...,wh,利用Adam算法对长短期记忆神经网络模型进行参数优化,步骤包括:
D1)计算第t个时间周期关于待优化参数w1的梯度:s表示训练数据集的大小,y*(t)为预测输出的真实值,ft(w1(t-1),y(t),y*(t))为长短期记忆神经网络模型的损失函数,w1(t-1)表示第t-1个时间周期的待优化参数w1;
D2)更新梯度的一阶矩估计:mt=β1·mt-1-(1-β1)·gt;
D3)更新梯度的二阶矩估计:
D4)修正一阶矩估计:
D5)修正二阶矩估计:
D6)更新待优化参数:其中,β1为一阶矩估计修正量,β2为二阶矩估计修正量,α为修正系数,ε为修正常数,依次重复步骤D1)至D6),获得第t个时间周期h个待优化参数的最优解。
4.根据权利要求3所述的一种基于长短期记忆神经网络的新能源消纳电量预测方法,其特征是,待优化参数为输入门权重Wi、输入门偏置项bi、中间记忆元件权重Wc、中间记忆元件偏置项bm、中间记忆元件权重it、输出门权重Wo以及输出门偏置项bo中的至少一个。
5.根据权利要求2所述的一种基于长短期记忆神经网络的新能源消纳电量预测方法,其特征在于,在步骤C7)中将长短期记忆神经网络模型的输出值进行反归一化处理,得到新能源消纳电量的预测值。
6.根据权利要求1所述的一种基于长短期记忆神经网络的新能源消纳电量预测方法,其特征在于,步骤B3)通过公式来进行特征选取,其中,A、B表示任意两个历史特征,cov(A,B)表示两个历史特征之间的协方差,σA表示历史特征A的标准差,σB表示历史特征B的标准差。
7.根据权利要求2所述的一种基于长短期记忆神经网络的新能源消纳电量预测方法,其特征在于,步骤C7)中的误差分析采用平均绝对百分误差MAPE,其中N表示样本个数,y表示真实值,y'表示预测值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910782154.3A CN110705743B (zh) | 2019-08-23 | 2019-08-23 | 一种基于长短期记忆神经网络的新能源消纳电量预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910782154.3A CN110705743B (zh) | 2019-08-23 | 2019-08-23 | 一种基于长短期记忆神经网络的新能源消纳电量预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110705743A CN110705743A (zh) | 2020-01-17 |
CN110705743B true CN110705743B (zh) | 2023-08-18 |
Family
ID=69193293
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910782154.3A Active CN110705743B (zh) | 2019-08-23 | 2019-08-23 | 一种基于长短期记忆神经网络的新能源消纳电量预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110705743B (zh) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111369078A (zh) * | 2020-02-14 | 2020-07-03 | 迈拓仪表股份有限公司 | 一种基于长短期记忆神经网络的供水水质预测方法 |
CN113516268A (zh) * | 2020-04-10 | 2021-10-19 | 中国电力科学研究院有限公司 | 一种基于多能互补能源枢纽的混合能源网络策略应用*** |
CN111426816A (zh) * | 2020-04-10 | 2020-07-17 | 昆明理工大学 | 一种基于pso-lstm的变压器油中溶解气体浓度预测方法 |
CN111738520A (zh) * | 2020-06-24 | 2020-10-02 | 中国电子科技集团公司第二十八研究所 | 一种融合孤立森林与长短期记忆网络的***负载预测方法 |
CN112001564B (zh) * | 2020-09-04 | 2022-05-10 | 国网江西省电力有限公司电力科学研究院 | 基于长短期记忆网络的用户离家时间预测方法 |
CN112633604B (zh) * | 2021-01-04 | 2022-04-22 | 重庆邮电大学 | 一种基于i-lstm的短期用电量预测方法 |
CN112926774A (zh) * | 2021-02-23 | 2021-06-08 | 中国石油大学(华东) | 基于长短时记忆神经网络的地热产能预测方法及*** |
CN113093014B (zh) * | 2021-03-31 | 2022-05-27 | 山东建筑大学 | 一种基于阻抗参数的soh与soc的在线协同估计方法及*** |
CN113112089B (zh) * | 2021-04-26 | 2022-05-10 | 燕山大学 | 水泥生料粉磨***电耗预测方法及其预测*** |
CN113177366B (zh) * | 2021-05-28 | 2024-02-02 | 华北电力大学 | 一种综合能源***规划方法、装置和终端设备 |
CN113988363A (zh) * | 2021-09-16 | 2022-01-28 | 广西电网有限责任公司 | 一种预测新能源中长期电量的方法及其设备 |
CN115034484A (zh) * | 2022-06-17 | 2022-09-09 | 国网江苏省电力有限公司经济技术研究院 | 一种基于深度学习的新能源出力预测方法 |
CN116386215B (zh) * | 2023-03-16 | 2024-04-19 | 淮阴工学院 | 一种基于人流量用于移动电箱的智能充电方法 |
CN117974366B (zh) * | 2024-04-01 | 2024-06-11 | 深圳市普裕时代新能源科技有限公司 | 基于工商业储能的能源管理*** |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016101688A1 (zh) * | 2014-12-25 | 2016-06-30 | 清华大学 | 一种基于深度长短期记忆循环神经网络的连续语音识别方法 |
CN107239859A (zh) * | 2017-06-05 | 2017-10-10 | 国网山东省电力公司电力科学研究院 | 基于串联长短期记忆循环神经网络的供热负荷预测方法 |
CN107239852A (zh) * | 2017-05-05 | 2017-10-10 | 南京邮电大学 | 一种基于深度学习的电量消耗预测方法 |
CN107832897A (zh) * | 2017-11-30 | 2018-03-23 | 浙江工业大学 | 一种基于深度学习的股票市场预测方法 |
CN107967542A (zh) * | 2017-12-21 | 2018-04-27 | 国网浙江省电力公司丽水供电公司 | 一种基于长短期记忆网络的售电量预测方法 |
CN108830487A (zh) * | 2018-06-21 | 2018-11-16 | 王芊霖 | 基于长短时神经网络的电力负荷预测方法 |
CN109214575A (zh) * | 2018-09-12 | 2019-01-15 | 河海大学 | 一种基于小波长短期记忆网络的超短期风电功率预测方法 |
CN109284870A (zh) * | 2018-10-08 | 2019-01-29 | 南昌大学 | 基于长短期记忆神经网络的短期光伏发电量预测方法 |
WO2019051701A1 (zh) * | 2017-09-14 | 2019-03-21 | 深圳传音通讯有限公司 | 拍照终端及其基于长短期记忆神经网络的拍照参数设置方法 |
AU2019100364A4 (en) * | 2019-04-05 | 2019-05-09 | Shenyuan Huang | A Method of Air Quality Prediction Using Long Short-Term Memory Neural Network |
-
2019
- 2019-08-23 CN CN201910782154.3A patent/CN110705743B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016101688A1 (zh) * | 2014-12-25 | 2016-06-30 | 清华大学 | 一种基于深度长短期记忆循环神经网络的连续语音识别方法 |
CN107239852A (zh) * | 2017-05-05 | 2017-10-10 | 南京邮电大学 | 一种基于深度学习的电量消耗预测方法 |
CN107239859A (zh) * | 2017-06-05 | 2017-10-10 | 国网山东省电力公司电力科学研究院 | 基于串联长短期记忆循环神经网络的供热负荷预测方法 |
WO2019051701A1 (zh) * | 2017-09-14 | 2019-03-21 | 深圳传音通讯有限公司 | 拍照终端及其基于长短期记忆神经网络的拍照参数设置方法 |
CN107832897A (zh) * | 2017-11-30 | 2018-03-23 | 浙江工业大学 | 一种基于深度学习的股票市场预测方法 |
CN107967542A (zh) * | 2017-12-21 | 2018-04-27 | 国网浙江省电力公司丽水供电公司 | 一种基于长短期记忆网络的售电量预测方法 |
CN108830487A (zh) * | 2018-06-21 | 2018-11-16 | 王芊霖 | 基于长短时神经网络的电力负荷预测方法 |
CN109214575A (zh) * | 2018-09-12 | 2019-01-15 | 河海大学 | 一种基于小波长短期记忆网络的超短期风电功率预测方法 |
CN109284870A (zh) * | 2018-10-08 | 2019-01-29 | 南昌大学 | 基于长短期记忆神经网络的短期光伏发电量预测方法 |
AU2019100364A4 (en) * | 2019-04-05 | 2019-05-09 | Shenyuan Huang | A Method of Air Quality Prediction Using Long Short-Term Memory Neural Network |
Non-Patent Citations (1)
Title |
---|
刘建涛等.计及可靠性的日前旋转备用容量评估指标.电网技术.2018,第43卷(第6期),全文. * |
Also Published As
Publication number | Publication date |
---|---|
CN110705743A (zh) | 2020-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110705743B (zh) | 一种基于长短期记忆神经网络的新能源消纳电量预测方法 | |
Liang et al. | A novel wind speed prediction strategy based on Bi-LSTM, MOOFADA and transfer learning for centralized control centers | |
CN108846517B (zh) | 一种分位数概率性短期电力负荷预测集成方法 | |
CN111260136A (zh) | 一种基于arima-lstm组合模型的楼宇短期负荷预测方法 | |
CN112733462B (zh) | 一种结合气象因素的超短期风电场功率预测方法 | |
CN112990556A (zh) | 一种基于Prophet-LSTM模型的用户用电能耗预测方法 | |
CN113554466B (zh) | 一种短期用电量预测模型构建方法、预测方法和装置 | |
CN111428926B (zh) | 一种考虑气象因素的区域电力负荷预测方法 | |
CN112149879B (zh) | 一种计及宏观波动性分类的新能源中长期电量预测方法 | |
CN113128113B (zh) | 一种基于深度学习和迁移学习的贫乏信息建筑负荷预测方法 | |
CN112329990A (zh) | 一种基于lstm-bp神经网络的用户用电负荷预测方法 | |
CN114862032B (zh) | 一种基于XGBoost-LSTM的电网负荷预测方法及装置 | |
CN113762591B (zh) | 一种基于gru和多核svm对抗学习的短期电量预测方法及*** | |
CN114611757A (zh) | 基于遗传算法与改进深度残差网络的电力***短期负荷预测方法 | |
CN114357670A (zh) | 一种基于bls和自编码器的配电网用电数据异常预警方法 | |
CN112767692A (zh) | 基于SARIMA-GA-Elman组合模型的短时交通流量预测*** | |
CN117151770A (zh) | 一种基于注意力机制的lstm碳价预测方法和*** | |
Xu et al. | Short-term electricity consumption forecasting method for residential users based on cluster classification and backpropagation neural network | |
CN115392387B (zh) | 一种低压分布式光伏发电出力预测方法 | |
CN110659775A (zh) | 一种基于lstm改进的电力短时负荷预测算法 | |
CN114091782B (zh) | 中长期电力负荷预测方法 | |
CN116205359A (zh) | 一种日前电力负荷预测的方法、装置、终端和存储介质 | |
CN115759343A (zh) | 一种基于e-lstm的用户电量预测方法和装置 | |
CN115860232A (zh) | 一种蒸汽负荷预测方法、***、电子设备及介质 | |
CN115238952A (zh) | 一种Bi-LSTM-Attention的短期电力负荷预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |