CN116432861A - 一种综合能源***源荷价多任务联合预测方法及*** - Google Patents
一种综合能源***源荷价多任务联合预测方法及*** Download PDFInfo
- Publication number
- CN116432861A CN116432861A CN202310519941.5A CN202310519941A CN116432861A CN 116432861 A CN116432861 A CN 116432861A CN 202310519941 A CN202310519941 A CN 202310519941A CN 116432861 A CN116432861 A CN 116432861A
- Authority
- CN
- China
- Prior art keywords
- prediction
- price
- sharing
- feature
- energy system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 230000007246 mechanism Effects 0.000 claims abstract description 38
- 238000010219 correlation analysis Methods 0.000 claims abstract description 19
- 230000008878 coupling Effects 0.000 claims abstract description 19
- 238000010168 coupling process Methods 0.000 claims abstract description 19
- 238000005859 coupling reaction Methods 0.000 claims abstract description 19
- 238000000605 extraction Methods 0.000 claims description 23
- 239000011159 matrix material Substances 0.000 claims description 22
- 230000006870 function Effects 0.000 claims description 17
- 230000004913 activation Effects 0.000 claims description 12
- 230000005611 electricity Effects 0.000 claims description 11
- 238000003860 storage Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 8
- 238000011176 pooling Methods 0.000 claims description 7
- 238000003646 Spearman's rank correlation coefficient Methods 0.000 claims description 5
- 238000010248 power generation Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 11
- 238000004645 scanning capacitance microscopy Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 7
- 230000000875 corresponding effect Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 6
- 238000009826 distribution Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 101001095088 Homo sapiens Melanoma antigen preferentially expressed in tumors Proteins 0.000 description 3
- 102100037020 Melanoma antigen preferentially expressed in tumors Human genes 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 102100029469 WD repeat and HMG-box DNA-binding protein 1 Human genes 0.000 description 2
- 101710097421 WD repeat and HMG-box DNA-binding protein 1 Proteins 0.000 description 2
- 238000005311 autocorrelation function Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000002354 daily effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000003203 everyday effect Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 238000012300 Sequence Analysis Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000004146 energy storage Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000035699 permeability Effects 0.000 description 1
- 238000004445 quantitative analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000003442 weekly effect Effects 0.000 description 1
- 238000005303 weighing Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
- G06Q10/06315—Needs-based resource requirements planning or analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
- G06Q10/06393—Score-carding, benchmarking or key performance indicator [KPI] analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Economics (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Entrepreneurship & Innovation (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Business, Economics & Management (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Marketing (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Tourism & Hospitality (AREA)
- Artificial Intelligence (AREA)
- Development Economics (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Game Theory and Decision Science (AREA)
- Educational Administration (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Primary Health Care (AREA)
- Water Supply & Treatment (AREA)
- Public Health (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种综合能源***源荷价多任务联合预测方法及***,从互相关性和自相关性两个角度分析影响综合能源***的各不确定性因素间的时空耦合特性;对两种相关性分析结果进行特征提取;利用通道注意力和时序注意力机制,对提取的特征进行二次提取;利用双层联合预测模型对二次提取后的数据进行特征共享,所述双层联合预测模型以电价预测作为主任务,源、荷预测作为辅任务,每个任务的相应负荷间的耦合采用硬共享机制,不同任务之间采用软共享机制,将辅任务向主任务共享信息,得到联合预测结果.本发明能够在综合能源***多不确定性的背景下,将能量层面与价格层面两种不确定性进行相关性分析并开展联合预测。
Description
技术领域
本发明属于综合能源***规划技术领域,涉及一种综合能源***源荷价多任务联合预测方法及***。
背景技术
本部分的陈述仅仅是提供了与本发明相关的背景技术信息,不必然构成在先技术。
综合能源***供能侧风电、光伏等新能源渗透率逐渐提高,用能侧电动汽车、储能电池等柔性负荷大量接入,以及更多私有资本被鼓励进入能源市场参与竞争交易,***中的不确定性因素显著增加,覆盖能源的产生、交易、消费等多个环节。精准的不确定性预测是保证综合能源***高效运行的先决条件。
传统的预测方法多是对供能侧新能源功率、用能侧负荷和市场侧能量价格这三类不确定性进行独立预测。模型简单方法也较为成熟,采用时间序列分析或机器学习方法,得到点预测、区间预测、概率预测等结果。然而,综合能源***中多种随机变量之间存在复杂的耦合关系,在此背景下,综合考虑并分析随机变量间及其影响因素间的相关性,充分提取其空间和时间耦合特性,以实现多变量情况下的精准预测十分重要。相对于单变量独立预测方法,开展多元随机变量联合预测能够进一步挖掘综合能源***中不确定要素的内在联系,提高预测精度及预测效率。
简而言之,面对综合能源***中能量-价格层面中各不确定性间的复杂耦合特性,传统的独立预测方法面临着效率低、精准预测难的问题。进一步对用能侧的用户行为习惯、负荷需求响应与市场层面能量价格间的相互影响开展研究并搭建合适的预测模型,实现综合能源***源荷价精准联合预测仍具有挑战性。
发明内容
本发明为了解决上述问题,提出了一种综合能源***源荷价多任务联合预测方法及***,本发明能够在综合能源***多不确定性的背景下,将能量层面与价格层面两种不确定性进行相关性分析并开展联合预测。
根据一些实施例,本发明采用如下技术方案:
一种综合能源***源荷价多任务联合预测方法,包括以下步骤:
从互相关性和自相关性两个角度分析影响综合能源***的各不确定性因素间的时空耦合特性;
根据两种相关性分析结果构建训练数据集并进行特征提取;
利用通道注意力和时序注意力机制,对提取的特征进行二次提取;
利用参数共享学习机制对二次提取后的数据进行特征共享,多任务学习方法以价格预测作为主任务,源、荷预测作为辅任务,各类任务的相应负荷间的耦合采用硬共享机制,不同类别任务之间采用软共享机制,将辅任务向主任务共享信息,得到联合预测结果。
作为可选择的实施方式,利用Pearson积差相关系数、Spearman秩相关系数和Kendall秩相关系数,分别进行多元负荷、新能源发电、能源价格、时间及气象因素之间的互相关性分析。
作为可选择的实施方式,利用自相关系数对各因素的时序特征开展分析,确定预测采用的数据时间长度。
作为可选择的实施方式,对两种相关性分析结果进行特征提取的具体过程包括:通过卷积层对输入数据进行特征提取,所述卷积层有规律地遍历输入数据,对输入数据做矩阵元素乘法求和并叠加偏差量;
利用ReLU函数的激活将卷积层输出的特征图传递至池化层,池化层的窗口根据步幅大小在输入的所有区域上滑动,通过窗口遍历每个位置并计算输出;
进行上述过程的迭代,得到最后的输出特征。
作为可选择的实施方式,利用通道注意力和时序注意力机制,对提取的特征进行二次提取的具体过程包括:将通道注意力模块与时序注意力模块串联,输入特征经过通道注意力模块获得通道注意力矩阵,将矩阵乘原图获得特征并作为时序注意力模块的输入,经过时序注意力模块获得时间注意力矩阵,再将时间注意力矩阵与原图相乘获得输出特征。
作为可选择的实施方式,所述通道注意力模块的处理过程包括将输入的特征序列经过两个并行的MaxPool层和AvgPool层,将特征序列维度进行压缩,再将通道数压缩后扩张回原通道数,经过ReLU激活函数得到两个激活后的结果;将这两个输出结果进行逐元素相加,通过sigmoid激活函数得到通道注意力矩阵。
所述时序注意力模块的处理过程包括:将通道注意力模块处理得到的特征序列按照时间维度对不同通道的数据进行拼接,得到特征序列;通过一维卷积层对其进行特征提取,再将特征序列的维度变换为原维度,再经过激活函数Sigmoid得到时序注意力矩阵。
作为可选择的实施方式,利用LSTM网络进行特征共享,热电负荷直接通过LSTM网络进行硬共享,不同的LSTM网络层级间通过权重和的方式将风电、负荷特征与电价特征进行软共享,并且辅任务在输出时向主任务共享信息。
一种综合能源***源荷价多任务联合预测***,包括:
相关性分析模块,被配置为从互相关性和自相关性两个角度分析影响综合能源***的各不确定性因素间的时空耦合特性;
特征提取模块,被配置为对两种相关性分析结果进行特征提取;
二次提取模块,被配置为利用通道注意力和时序注意力机制,对提取的特征进行二次提取;
特征共享模块,被配置为利用硬共享和软共享机制构建双层特征共享模型,对二次提取后的数据进行特征共享,所述双层特征共享模型依照预测任务类型的划分,各类任务的相应负荷间的耦合采用硬共享机制,不同类别任务之间采用软共享机制,将辅任务向主任务共享信息,得到联合预测结果。
一种计算机可读存储介质,其中存储有多条指令,所述指令适于由终端设备的处理器加载并执行所述方法中的步骤。
一种终端设备,包括处理器和计算机可读存储介质,处理器用于实现各指令;计算机可读存储介质用于存储多条指令,所述指令适于由处理器加载并执行所述的方法中的步骤。
与现有技术相比,本发明的有益效果为:
本发明在综合能源***多不确定性的背景下,将源-荷-价这三大类不确定性进行相关性分析并开展联合预测。提出的多任务学习模型,依据相关程度和属性类型的不同对预测目标进行分类,并在双层特征共享模块中,根据任务类型的异同采用不同的共享机制,区分出外层与内层,促进重要特征合理共享,便于提高模型泛化能力,实现多不确定性高效精准联合预测。提出的深度学习网络,能够实现数据中空间与时间耦合特征的分类和提取并突出重要特征,进一步提高模型的预测精度。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
构成本发明的一部分的说明书附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。
图1是本发明中计及多不确定性的联合预测方法技术路线;
图2是本发明中实例数据展示图;
图3(a)-(c)是本发明中互相关性分析结果图;
图4是本发明中自相关性分析结果图;
图5是本发明中特征提取层示意图;
图6是本发明中时序卷积注意力模块结构图;
图7是本发明中时序卷积注意力模块的通道注意力模块示意图;
图8是本发明中时序卷积注意力模块的时序注意力模块示意图;
图9是本发明中特征共享层示意图;
图10是本发明中模型预测结果对比图;
图11是本发明中模型预测结果的MAPE概率分布对比图;
图12是本发明中模型预测结果的RMSE概率分布对比图。
具体实施方式
下面结合附图与实施例对本发明作进一步说明。
应该指出,以下详细说明都是例示性的,旨在对本发明提供进一步的说明。除非另有指明,本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是,这里所使用的术语仅是为了描述具体实施方式,而非意图限制根据本发明的示例性实施方式。如在这里所使用的,除非上下文另外明确指出,否则单数形式也意图包括复数形式,此外,还应当理解的是,当在本说明书中使用术语“包含”和/或“包括”时,其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
如图1所示,针对多预测目标及其复杂的耦合特性,纵向上,该双层多任务学习模型结合不同任务之间的共性和差异,将各任务分为新能源预测任务、多元负荷预测任务、价格预测任务三大类,并在网络模型的构建中将特征共享模型依照任务类型的不同分为内层和外层。然后,在不同层级间采用合适的共享机制实现复杂耦合特性下各任务间的特征共享,增强模型的泛化能力。横向上,模型采用CNN-SCAM-LSTM网络,首先通过CNN实现整体输入数据的特征提取;然后采用提出的SCAM作为注意力机制的应用,根据任务类型的不同进行特征分类并挖掘数据的时空特征实现重要特征提取;最后通过LSTM构建特征共享模型,根据内层和外层的区分进一步获取重要的辅助耦合信息,有层次、有针对性地进行共享学习,提高模型预测精度。
需要说明的是,本实例数据来源于欧洲电力***开源数据集中丹麦2010-2013年的风电、电-热负荷、电价以及天气数据。其中,考虑到风电装机容量对风电预测数据的影响,按不同容量比对风电数据进行了调整。2010-2011年风电、电-热负荷、电价的数据如图2所示。
进行数据的相关性分析。
互相关性分析
综合能源***中多元负荷、新能源发电、能源价格、时间及气象因素相互影响且由于耦合机理不同以及时序不确定性,具有复杂的相关性。为了分析各影响因素与预测对象间的影响机理,充分挖掘多变量数据中的相关信息,有效选择联合预测模型的输入变量,构建相应的预测网络结构,必须对数据集进行量化分析。
本发明采用Pearson积差相关系数、Spearman秩相关系数和Kendall秩相关系数,探讨了各影响因素以及预测目标之间的相关性。
1.Pearson积差相关系数
Pearson相关系数用于量度两个变量X和Y之间的线性相关。它具有+1和-1之间的值,其中1是总正线性相关性,0是非线性相关性,并且-1是总负线性相关性。Pearson相关系数的一个关键数学特性是它在两个变量的位置和尺度的单独变化下是不变的。
Pearson积差相关系数对应的计算公式如下:
2.Spearman秩相关系数
Spearman相关系数利用两变量的秩次大小作线性相关分析,对原始变量的分布不做要求,属于非参数统计方法。因此它的适用范围比Pearson相关系数要广得多。即使原始数据是等级资料也可以计算Spearman相关系数。对于服从Pearson相关系数的数据也可以计算Spearman相关系数,但统计效能比Pearson相关系数要低一些。如果数据中没有重复值,并且当两个变量完全单调相关时,斯皮尔曼相关系数则为+1或-1。
针对样本容量为n的样本数据,Spearman秩相关系数对应的计算公式如下:
式中,di为数据Xi和Yi之间的等级差。一个数的等级,就是将它所在的一列数按照从小到大排序后,这个数所在的位置,如果有的数值相同,则将它们所在的位置取算术平均。
3.Kendall秩相关系数
Kendall相关系数也是一种秩相关系数,用于反映分类变量相关性的指标,适用于两个变量均为有序分类的情况,用希腊字母τ表示其值。
Kendall秩相关系数对应的计算公式如下:
式中,C表示样本数据X和Y中拥有一致性的元素对数(两个元素为一对);D表示样本数据X和Y中拥有不一致性的元素对数。
总的来说,Pearson相关系数是对定距变量的统计,Spearman相关系数是对定序变量的统计,Kendall相关系数是对于定类变量的统计,实例分析结果如图3(a)-(c)所示。互相关性分析结果让我们知道如何选取适合的影响因素作为预测网络的输入数据集。可以看出,在不同相关系数的度量下各预测目标与影响因素间的相关关系一致。其相关关系与相关程度为,电负荷与热负荷以及电价具有中等相关性,与温度和辐照度具有弱相关性;热负荷则与温度呈现较强的负相关性,且受热电耦合影响与电负荷间存在的中等相关性;电价与电负荷具有中等相关性,符合负荷与价格之间的供需关系,与电源侧的风电则呈现弱相关性;风电则与风速呈现较强的相关性,主要受天气因素影响。
自相关性分析
互相关性分析无法直观地体现出各预测目标在时间层面的变化规律,这使得输入数据时序长度的确定缺少理论基础。这就会面临下述问题,若时间序列太长,会造成特征冗余,使得模型习得许多不必要的参数。这样不仅加大了模型的运算负荷,而且会降低在测试集上模型的预测精度,使得模型存在过拟合现象。太短又不足以对高度非线性的时间序列进行高精度的预测。对此,可采用自相关系数(Autocorrelation Function,ACF)对数据的时序特征开展分析。自相关系数的计算公式为:
图4展示出电负荷、热负荷、电价和风电延迟两周后的数据相关性。可以看出电负荷每日以及每周都具有周期性;热负荷每日具有周期性;电负荷则呈现出日相关性以及稍弱的周相关性;风电则没有明显的时间特征。针对上述分析结果可得,选用24h或24*7h作为数据长度较为适宜。
基于相关性分析结果采用CNN网络进行特征提取。
本发明采用的特征提取层结构如图5所示。首先,通过卷积层对输入数据进行特征提取,其运作核心是卷积核。卷积核会有规律地遍历输入数据,在其感受野内对输入数据做矩阵元素乘法求和并叠加偏差量。然后,经过ReLU函数的激活将卷积层输出的特征图传递至池化层。池化层属于下采样过程,主要用于数据降维,避免过拟合。与卷积层类似,池化层运算符有一个固定大小的窗口组成,该窗口也是根据步幅大小在输入的所有区域上滑动,通过窗口遍历每个位置并计算输出。最后,按前述结构迭代,得到最后的输出特征。
基于注意力模块进一步进行重要特征提取。
本发明采用的注意力机制模型,主要参照卷积注意力模块(Convolutional BlockAttention Module,CBAM)进行了改进,研究了一种时序卷积注意力模块(SequentialConvolution Attention Module,SCAM)。本发明研究的SCAM模型如图6所示,整体的流程结构与CBAM相似,由通道注意力模块(Channel Attention Module,CAM)与时序注意力模块(Sequential Attention Module,SAM)串联构成。
模型公式表示为:
式中,输入特征F∈RC*T,然后经过通道注意力模块获得通道注意力矩阵Mc∈RC*1,将矩阵Mc乘原图获得特征F′∈RC*T并作为时序注意力模块的输入,经过时序注意力模块获得时间注意力矩阵Mt∈RC*T,再将矩阵Mt与原图相乘获得输出特征F″∈RC*T。
所给出SCAM模型中的通道注意力模块与CBAM中的相比整体结构不变,主要对数据维度以及层级的维度进行调整,其模型结构如图7所示。首先,将输入的特征序列经过两个并行的MaxPool层和AvgPool层,将特征序列维度从C*T压缩为C*1。然后,经过Share MLP模块,在该模块中,它先将通道数压缩为原来的1/r倍(Reduction,减少率),再扩张回原通道数,经过ReLU激活函数得到两个激活后的结果。最后,将这两个输出结果进行逐元素相加,通过sigmoid激活函数得到通道注意力矩阵。
上述模型的表达式为:
所给出SCAM模型中的时序注意力模块,其模型结构如图8所示。首先,将通道注意力模块处理得到的特征序列按照时间维度采用Concat操作对不同通道的数据进行拼接,得到维度为1*(C*T)的特征序列。然后,通过卷积核大小为3的一维卷积层对其进行特征提取,并设置padding为3使得特征序列维度不变。最后,采用view操作将特征序列的维度变换为C*T,再经过激活函数Sigmoid得到时序注意力矩阵。
上述模型的表达式为:
基于LSTM网络进行特征共享。
经SCAM进行重要特征提取后数据传递给特征共享层,此部分主要考虑预测目标间的相关性,将前级网络提取出的特征进行信息共享,其重点是选用合适的网络结构与特征共享机制。
本发明所要构建的源-荷-价联合预测模型,具有参数繁多、结构复杂的特征,不易产生过拟合问题,模型泛化能力也更强。在多任务学习的特征共享部分,根据任务类型的不同将特征共享模型分为内层与外层并采用不同的共享机制。源、荷、价三大类预测任务间的特征共享为外层,考虑到其间相关性复杂且影响机理不同,采用软共享机制。各类任务内部各子任务间的特征共享为内层,例如负荷预测,多元负荷间的耦合性较强,不同负荷间的特征共享为内层,采用硬共享机制。此外,考虑到源与荷对价格的影响,以价格预测作为主任务,源、荷预测作为辅任务构建双层特征共享模型,本实例具体模型如图9所示。其中,热电负荷直接通过LSTM网络进行硬共享,不同的LSTM网络层级间通过权重和的方式将风电、负荷特征与电价特征进行软共享,并且辅任务在全连接层输出时会向主任务共享信息。
实例结果分析
本发明中源-荷-价双层联合预测模型的构建及训练在PyTorch深度学***台采用Intel Core i 7CPU,算例数据来源于欧洲丹麦2010-2012年的数据。其中训练集、验证集采用2010-2011年数据,测试集采用2012年数据,并以24h为步长对电-热负荷、风电及电价进行预测。
本实例将提出的CNN-SCAM-LSTM-MTL模型与单任务CNN-LSTM模型、多任务CNN-LSTM-MTL模型和CNN-CBAM-LSTM-MTL模型进行预测结果进行对比,以验证所设计双层多任务联合预测模型的有效性。
如图10所示,选取了测试集中1月2日至1月8日一周的数据进行预测结果对比。可以看出在单任务学习与多任务学习的对比中,单纯采用CNN-LSTM-MTL模型的预测效果相较单任务学习较差,但是采用注意力机制的CNN-CBAM-LSTM-MTL以及CNN-SCAM-LSTM-MTL模型的预测结果与单任务学习CNN-LSTM模型预测效果相差不多且更与实际值相近。这是由于实例中采用的数据集其预测目标间的相关性中等,仅采用多任务学习框架下的输入特征相互影响对重要特征提取这一环节提出更高的要求。对此,该结果验证了采用注意力机制的必要性。
本实例对测试集全年的数据进行预测,并使用平均绝对百分比误差(MeanAbsolute Percentage Error,MAPE)和均方根误差(Root Mean Square Error,RMSE)作为模型的评价指标计算日前预测精度,结果对比如表1和表2所示。可以看出,CNN-LSTM-MTL网络单纯采用多任务学习框架开展联合预测难以根据预测目标的不同提取相应重要特征,其预测效果反而不如CNN-LSTM模型,而加入注意力机制后CNN-CBAM-LSTM-MTL和CNN-SCAM-LSTM-MTL模型的预测效果有显著提升。由此可以得出,采用的注意力机制能够对重要特征进行提取和分类。
对比CNN-LSTM模型,可以看出CNN-CBAM-LSTM-MTL模型对电-热负荷的预测精度仍低于单任务学习,但风电和电价预测效果较好。这是由于,电-热负荷具有显著的周期性,而风电和电价随机性和波动性更强,从时间维度来看数据的时序特征有所差异。虽然CBAM能从空间维度(即特征数据中的通道)对重要特征进行提取,但从时间维度上它将不同通道的特征数据进行了叠加处理,得到共同的注意力权重矩阵。这使得CBAM无法提取实例数据中的时序特征差异,对此本发明研究了SCAM。
本发明研究的CNN-SCAM-LSTM-MTL模型相较于CNN-LSTM模型与CNN-CBAM-LSTM-MTL模型有更好的综合预测精度。这是由于,本发明研究的SCAM解决了CBAM中对时序特征提取的缺陷,更好的兼顾特征信息的空间与时间特性,能够从空间与时间两个维度依照预测目标的不同对输入特征进行解耦,从而提高了预测精度。对此,可验证本发明所研究的基于多任务学习的源-荷-价双层联合预测模型以及SCAM的有效性。
表1MAPE指标对比
表2RMSE指标对比
本实施例以天为单位统计了2012年MAPE和RMSE指标下的预测精度的概率分布信息,其概率密度函数如图11和图12所示,置信度为90%下的置信区间如表3和表4所示。整体来看,CNN-SCAM-LSTM-MTL网络预测精度的概率峰值以及置信区间大小均更好,体现了预测结果的稳定性,进一步验证了本发明研究的多任务学习模型具有更好的预测精度并能够通过权衡多任务中的训练信息来提升模型的泛化性。
表3MAPE指标置信区间对比
表4RMSE指标置信区间对比
本领域内的技术人员应明白,本发明的实施例可提供为方法、***、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
上述虽然结合附图对本发明的具体实施方式进行了描述,但并非对本发明保护范围的限制,所属领域技术人员应该明白,在本发明的技术方案的基础上,本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明的保护范围以内。
Claims (10)
1.一种综合能源***源荷价多任务联合预测方法,其特征是,包括以下步骤:
从互相关性和自相关性两个角度分析影响综合能源***的各不确定性因素间的时空耦合特性;
对两种相关性分析结果进行特征提取;
利用通道注意力和时序注意力机制,对提取的特征进行二次提取;
利用参数共享学习机制对二次提取后的数据进行特征共享,多任务学习方法以价格预测作为主任务,源、荷预测作为辅任务,各类任务的相应负荷间的耦合采用硬共享机制,不同类别任务之间采用软共享机制,将辅任务向主任务共享信息,得到联合预测结果。
2.如权利要求1所述的一种综合能源***源荷价多任务联合预测方法,其特征是,利用Pearson积差相关系数、Spearman秩相关系数和Kendall秩相关系数,分别进行多元负荷、新能源发电、能源价格、时间及气象因素之间的互相关性分析。
3.如权利要求1所述的一种综合能源***源荷价多任务联合预测方法,其特征是,利用自相关系数对各因素的时序特征开展分析,确定预测采用的数据时间长度。
4.如权利要求1所述的一种综合能源***源荷价多任务联合预测方法,其特征是,对两种相关性分析结果进行特征提取的具体过程包括:通过卷积层对输入数据进行特征提取,所述卷积层有规律地遍历输入数据,对输入数据做矩阵元素乘法求和并叠加偏差量;
利用ReLU函数的激活将卷积层输出的特征图传递至池化层,池化层的窗口根据步幅大小在输入的所有区域上滑动,通过窗口遍历每个位置并计算输出;
进行上述过程的迭代,得到最后的输出特征。
5.如权利要求1所述的一种综合能源***源荷价多任务联合预测方法,其特征是,利用通道注意力和时序注意力机制,对提取的特征进行二次提取的具体过程包括:将通道注意力模块与时序注意力模块串联,输入特征经过通道注意力模块获得通道注意力矩阵,将矩阵乘原图获得特征并作为时序注意力模块的输入,经过时序注意力模块获得时间注意力矩阵,再将时间注意力矩阵与原图相乘获得输出特征。
6.如权利要求1或5所述的一种综合能源***源荷价多任务联合预测方法,其特征是,所述通道注意力模块的处理过程包括将输入的特征序列经过两个并行的MaxPool层和AvgPool层,将特征序列维度进行压缩,再将通道数压缩后扩张回原通道数,经过ReLU激活函数得到两个激活后的结果;将这两个输出结果进行逐元素相加,通过sigmoid激活函数得到通道注意力矩阵;
或,
所述时序注意力模块的处理过程包括:将通道注意力模块处理得到的特征序列按照时间维度对不同通道的数据进行拼接,得到特征序列;通过一维卷积层对其进行特征提取,再将特征序列的维度变换为原维度,再经过激活函数Sigmoid得到时序注意力矩阵。
7.如权利要求1所述的一种综合能源***源荷价多任务联合预测方法,其特征是,利用LSTM网络进行特征共享,热电负荷直接通过LSTM网络进行硬共享,不同的LSTM网络层级间通过权重和的方式将风电、负荷特征与电价特征进行软共享,并且辅任务在输出时向主任务共享信息。
8.一种综合能源***源荷价多任务联合预测***,其特征是,包括:
相关性分析模块,被配置为从互相关性和自相关性两个角度分析影响综合能源***的各不确定性因素间的时空耦合特性;
特征提取模块,被配置为对两种相关性分析结果进行特征提取;
二次提取模块,被配置为利用通道注意力和时序注意力机制,对提取的特征进行二次提取;
特征共享模块,被配置为利用硬共享和软共享机制构建双层特征共享模型,对二次提取后的数据进行特征共享,所述双层特征共享模型依照预测任务类型的划分,各类任务的相应负荷间的耦合采用硬共享机制,不同类别任务之间采用软共享机制,将辅任务向主任务共享信息,得到联合预测结果。
9.一种计算机可读存储介质,其特征是,其中存储有多条指令,所述指令适于由终端设备的处理器加载并执行权利要求1-7中任一项所述方法中的步骤。
10.一种终端设备,其特征是,包括处理器和计算机可读存储介质,处理器用于实现各指令;计算机可读存储介质用于存储多条指令,所述指令适于由处理器加载并执行权利要求1-7中任一项所述方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310519941.5A CN116432861A (zh) | 2023-05-06 | 2023-05-06 | 一种综合能源***源荷价多任务联合预测方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310519941.5A CN116432861A (zh) | 2023-05-06 | 2023-05-06 | 一种综合能源***源荷价多任务联合预测方法及*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116432861A true CN116432861A (zh) | 2023-07-14 |
Family
ID=87089132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310519941.5A Pending CN116432861A (zh) | 2023-05-06 | 2023-05-06 | 一种综合能源***源荷价多任务联合预测方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116432861A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117132135A (zh) * | 2023-10-23 | 2023-11-28 | 陕西天润科技股份有限公司 | 基于数字孪生的城市信息化管理***及方法 |
CN117369282A (zh) * | 2023-11-17 | 2024-01-09 | 上海四方无锡锅炉工程有限公司 | 一种自适应性分级送风的控制方法及其固废cfb锅炉 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115471362A (zh) * | 2022-09-26 | 2022-12-13 | 东南大学 | 深度特征指导两阶段迁移学习的综合能源源—荷预测方法 |
CN115630278A (zh) * | 2022-10-27 | 2023-01-20 | 重庆大学 | 基于通道-时空注意力机制的网络的振动损伤检测方法 |
CN115759458A (zh) * | 2022-12-01 | 2023-03-07 | 国网天津市电力公司 | 基于综合能源数据处理和多任务深度学习的负荷预测方法 |
CN115829115A (zh) * | 2022-11-28 | 2023-03-21 | 浙江工业大学 | 一种基于pca-lstm-mtl含光伏电站的台区负荷预测方法 |
US20230095676A1 (en) * | 2021-09-27 | 2023-03-30 | Hohai University | Method for multi-task-based predicting massiveuser loads based on multi-channel convolutional neural network |
CN115936218A (zh) * | 2022-12-06 | 2023-04-07 | 山东大学 | 基于深度学习的综合能源***多元负荷预测方法及*** |
-
2023
- 2023-05-06 CN CN202310519941.5A patent/CN116432861A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230095676A1 (en) * | 2021-09-27 | 2023-03-30 | Hohai University | Method for multi-task-based predicting massiveuser loads based on multi-channel convolutional neural network |
CN115471362A (zh) * | 2022-09-26 | 2022-12-13 | 东南大学 | 深度特征指导两阶段迁移学习的综合能源源—荷预测方法 |
CN115630278A (zh) * | 2022-10-27 | 2023-01-20 | 重庆大学 | 基于通道-时空注意力机制的网络的振动损伤检测方法 |
CN115829115A (zh) * | 2022-11-28 | 2023-03-21 | 浙江工业大学 | 一种基于pca-lstm-mtl含光伏电站的台区负荷预测方法 |
CN115759458A (zh) * | 2022-12-01 | 2023-03-07 | 国网天津市电力公司 | 基于综合能源数据处理和多任务深度学习的负荷预测方法 |
CN115936218A (zh) * | 2022-12-06 | 2023-04-07 | 山东大学 | 基于深度学习的综合能源***多元负荷预测方法及*** |
Non-Patent Citations (1)
Title |
---|
ZHICHAO ZHANG,ET AL.: ""Learning Attentive Representations for Environmental Sound Classification"", 《IEEE ACCESS》, vol. 7, 24 September 2019 (2019-09-24) * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117132135A (zh) * | 2023-10-23 | 2023-11-28 | 陕西天润科技股份有限公司 | 基于数字孪生的城市信息化管理***及方法 |
CN117132135B (zh) * | 2023-10-23 | 2024-02-06 | 陕西天润科技股份有限公司 | 基于数字孪生的城市信息化管理***及方法 |
CN117369282A (zh) * | 2023-11-17 | 2024-01-09 | 上海四方无锡锅炉工程有限公司 | 一种自适应性分级送风的控制方法及其固废cfb锅炉 |
CN117369282B (zh) * | 2023-11-17 | 2024-04-19 | 上海四方无锡锅炉工程有限公司 | 一种自适应性分级送风的控制方法及其固废cfb锅炉 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Cannizzaro et al. | Solar radiation forecasting based on convolutional neural network and ensemble learning | |
Baker et al. | Evaluating lossy data compression on climate simulation data within a large ensemble | |
Ozer et al. | A combined deep learning application for short term load forecasting | |
CN116432861A (zh) | 一种综合能源***源荷价多任务联合预测方法及*** | |
Wang et al. | Fast domain-aware neural network emulation of a planetary boundary layer parameterization in a numerical weather forecast model | |
CN111091196B (zh) | 客流数据确定方法、装置、计算机设备和存储介质 | |
Ozkan et al. | Data mining-based upscaling approach for regional wind power forecasting: Regional statistical hybrid wind power forecast technique (RegionalSHWIP) | |
Wang et al. | Comparative performance of logistic regression and survival analysis for detecting spatial predictors of land-use change | |
Al-Janabi et al. | Development of deep learning method for predicting DC power based on renewable solar energy and multi-parameters function | |
Lenzi et al. | Benefits of spatiotemporal modeling for short‐term wind power forecasting at both individual and aggregated levels | |
CN113591368A (zh) | 一种综合能源***多能负荷预测方法及*** | |
Kim | Spatiotemporal scale dependency and other sensitivities in dynamic land-use change simulations | |
Pravallika et al. | Prediction of temperature anomaly in Indian Ocean based on autoregressive long short-term memory neural network | |
Mohammad et al. | Short term load forecasting using deep neural networks | |
Frimane et al. | Infinite hidden Markov model for short-term solar irradiance forecasting | |
Somu et al. | Evaluation of building energy demand forecast models using multi-attribute decision making approach | |
Madhavi et al. | Multivariate deep causal network for time series forecasting in interdependent networks | |
Giebel et al. | Simulation and prediction of wind speeds: A neural network for Weibull | |
Karozis et al. | A deep learning approach for spatial error correction of numerical seasonal weather prediction simulation data | |
Jiang et al. | Evolution characteristics of potential evapotranspiration over the Three-River Headwaters Region | |
Tangrand | Some new contributions to neural networks and wavelets with applications | |
Roh et al. | Tfe-net: time and feature focus embedding network for multivariate-to-multivariate time series forecasting | |
Xu et al. | Calibration and sensitivity analysis of long-term generation investment models using Bayesian emulation | |
Sanz-Alcaine et al. | Online voltage prediction using gaussian process regression for fault-tolerant photovoltaic standalone applications | |
Euán et al. | Statistical analysis of multi‐day solar irradiance using a threshold time series model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |