CN112711791B - 基于神经网络弹性权重固化的建筑用能负荷实时预测方法 - Google Patents
基于神经网络弹性权重固化的建筑用能负荷实时预测方法 Download PDFInfo
- Publication number
- CN112711791B CN112711791B CN202110008719.XA CN202110008719A CN112711791B CN 112711791 B CN112711791 B CN 112711791B CN 202110008719 A CN202110008719 A CN 202110008719A CN 112711791 B CN112711791 B CN 112711791B
- Authority
- CN
- China
- Prior art keywords
- neural network
- real
- building energy
- time
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 88
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000012549 training Methods 0.000 claims abstract description 50
- 238000005265 energy consumption Methods 0.000 claims abstract description 20
- 238000003062 neural network model Methods 0.000 claims abstract description 18
- 238000005516 engineering process Methods 0.000 claims abstract description 10
- 238000007781 pre-processing Methods 0.000 claims abstract description 8
- 238000007711 solidification Methods 0.000 claims abstract description 8
- 230000008023 solidification Effects 0.000 claims abstract description 8
- 230000008569 process Effects 0.000 claims description 16
- 238000010606 normalization Methods 0.000 claims description 14
- 230000002159 abnormal effect Effects 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000012795 verification Methods 0.000 claims description 8
- 238000005070 sampling Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 3
- 238000002790 cross-validation Methods 0.000 claims description 3
- 210000002569 neuron Anatomy 0.000 claims description 3
- 238000010200 validation analysis Methods 0.000 claims 1
- 230000003044 adaptive effect Effects 0.000 abstract 1
- 230000006870 function Effects 0.000 description 26
- 230000008859 change Effects 0.000 description 13
- 238000001723 curing Methods 0.000 description 9
- 238000007596 consolidation process Methods 0.000 description 3
- 230000001186 cumulative effect Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000004378 air conditioning Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000005034 decoration Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/10—Geometric CAD
- G06F30/13—Architectural design, e.g. computer-aided architectural design [CAAD] related to design of buildings, bridges, landscapes, production plants or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/08—Construction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/04—Constraint-based CAD
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/08—Probabilistic or stochastic CAD
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Evolutionary Computation (AREA)
- Geometry (AREA)
- General Engineering & Computer Science (AREA)
- Strategic Management (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Economics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Human Resources & Organizations (AREA)
- Computer Hardware Design (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- General Business, Economics & Management (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Tourism & Hospitality (AREA)
- Marketing (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Entrepreneurship & Innovation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Primary Health Care (AREA)
- Architecture (AREA)
- Civil Engineering (AREA)
- Structural Engineering (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
Abstract
本发明提出了一种基于神经网络弹性权重固化的建筑用能负荷实时预测方法,包括神经网络模型离线训练和神经网络模型实时微调两个步骤。模型离线训练步骤包含六个子步骤,依次为建筑用能负荷历史数据获取、数据预处理、模型输入选择、模型超参数寻优、模型参数训练和参数重要性计算。模型实时微调步骤包含六个子步骤,依次为建筑用能负荷实时数据获取、数据预处理、保持模型输入一致、保持模型超参数一致、使用弹性权重固化对模型进行微调和参数重要性更新。特别地,模型微调以滑动窗的形式定期进行,从而保证模型能适应建筑用能规律的变化。该方法通过使用弹性权重固化技术对神经网络模型进行定期微调,从而实现准确可靠的建筑用能负荷实时预测。
Description
技术领域
本发明属于建筑用能负荷预测领域,涉及基于神经网络的黑箱建模技术和基于弹性权重固化(elastic weight consolidation)的持续学习(continual learning)技术,具体涉及一种基于神经网络弹性权重固化的建筑用能负荷实时预测方法。
背景技术
准确的建筑用能负荷预测对于中央空调***、照明***等建筑机电***的优化运行和故障诊断至关重要。随着楼宇自动化***的普及,大量的建筑用能负荷数据得以离线保存和实时获取,从而为基于神经网络的建筑用能负荷预测技术提供了可靠的数据来源。大量研究表明,神经网络(BP神经网络、递归神经网络、卷积神经网络等)在建筑用能负荷预测任务上具有通用性和高准确性。但是,神经网络的泛化能力较弱。随着建筑性能衰减、***、室内装修、季节更替等因素,建筑用能规律会逐渐或者显著发生变化。此时,基于某一固定历史数据训练得到的神经网络无法满足建筑用能负荷长期准确预测的需求。
为了解决以上问题,需要定期对神经网络进行重新训练,从而保证其能适应建筑用能规律的变化。累积训练和滑动窗训练是两种传统的定期训练方法。累积训练通过持续收集实时获取的新数据来不断扩充历史数据集,并定期使用扩充后的历史数据集对神经网络进行重新训练。此方法可以保证神经网络能够适应建筑用能规律的变化,但是由于需要不断收集新数据来扩充历史数据集,导致数据储存成本和神经网络训练时间会随着历史数据集的增长而增加。滑动窗训练通过设定某一时间间隔(滑动窗),每次只保存固定时间间隔内的数据,并定期使用这些数据对模型进行重新训练。此方法可以大大降低数据存储成本和神经网络训练时间,但是由于训练数据有限,会导致神经网络无法学习到滑动窗以外的建筑历史用能规律。
发明内容
本发明旨在使用弹性权重固化技术使得神经网络每次重新训练只需要使用实时采集获取的新数据,并保证重新训练过程不会导致其遗忘之前通过历史数据学习到的用能规律。
有鉴于此,本发明基于神经网络弹性权重固化的建筑用能负荷实时预测方法包括以下基本操作步骤:
步骤1为模型离线训练,具体步骤如下:
第1-1步,获取历史的建筑用能负荷数据;
第1-2步,对所述建筑用能负荷数据进行预处理,剔除所述建筑用能负荷数据中的异常值和缺失值,同时对所述建筑用能负荷数据进行归一化处理,得到预处理后的历史数据;
第1-3步,选择与建筑用能负荷最为相关的变量作为神经网络模型的输入,以建筑用能负荷作为神经网络模型的输出,以构建用于实时预测建筑用能负荷的神经网络;
第1-4步,对神经网络的超参数进行优化,得到一组最优的超参数取值;
第1-5步,将所述历史数据以一定比例随机划分为训练集和验证集,在训练集上使用随机梯度下降算法对神经网络中包括权重和偏置在内的参数进行训练,以保证其在验证集上的精度;
第1-6步,计算所述神经网络中的每个参数的重要性,任意第i个参数θi的重要程度Ii用所述神经网络的损失函数对所述参数的二阶导数衡量,计算公式为:
式中,D1是所述历史数据,|D1|是所述历史数据中采样点的数量,L(d,θi)是所述神经网络在所述历史数据的一个采样点d上的损失;
步骤2为模型实时微调,具体步骤如下:
第2-1步,获取从神经网络模型离线训练或模型实时微调操作完成后固定时间间隔内的实时建筑用能负荷数据;
第2-2步,对所述实时建筑用能负荷数据进行预处理,剔除所述实时建筑用能负荷数据中的异常值和缺失值,同时对所述实时建筑用能负荷数据进行归一化处理,得到预处理后的实时数据;其中,该步骤中的归一化范围与第1-2步中的归一化范围保持一致;
第2-3步,选取与第1-3步相同变量作为神经网络模型的输入;
第2-4步,选取从第1-4步优化得到的最优的超参数取值作为模型的超参数取值;
第2-5步,在所述实时数据上使用随机梯度下降算法对当前神经网络中包括权重和偏置在内的参数进行微调,所述微调过程中使用弹性权重固化技术对损失函数进行约束,计算公式为:
式中,L为所述微调过程中的损失函数,Lnew为神经网络在所述实时数据上的损失函数,λ为约束调节因子,Ii为参数重要程度,θi,new为所需学习的参数值,θi,old为已经学得的参数值;
第2-6步,基于所述实时数据,重新计算微调后的神经网络中每个参数的重要程度,对任意第i个参数θi的重要程度Ii,new重新计算,计算公式为:
式中,D2是所述实时数据,|D2|是所述实时数据中采样点的数量,L(d,θi)是微调后的神经网络在所述实时数据的一个采样点d上的损失;
取重新计算得到的重要程度Ii,new与原始重要程度Ii,old中的最大值,更新所述参数θi的重要程度Ii,计算公式如下:
Ii=max(Ii,new,Ii,old)
第2-7步,每隔固定时间间隔,重复第2-1步至第2-6步,实现对神经网络中参数的持续更新,得到实时更新的网络模型,以实时预测建筑用能负荷。
作为优选,所述建筑用能负荷包括冷负荷、热负荷和电力负荷。
作为优选,所述建筑用能负荷数据通过楼宇自动化***获取。
作为优选,所述第1-2步中,使用箱形图识别所述建筑用能负荷数据中存在的异常值,剔除包含异常值或者缺失值的数据,然后使用最大最小规范化方法对所述建筑用能负荷数据进行归一化。
作为优选,与所述建筑用能负荷最为相关的变量包括室外空气温度、室外空气相对湿度、历史负荷和时间变量。
作为优选,所述第1-4步中,使用交叉验证和网格搜索方法对神经网络的超参数进行寻优。
进一步的,所述超参数包括隐藏层数、隐藏层内神经元个数和激活函数。
作为优选,所述第1-5步中,历史数据中80%的数据作为训练集,20%的数据作为验证集。
作为优选,所述精度指标包括可决系数、均方根误差和平均绝对误差。
作为优选,所述固定时间间隔为一周。
与现有方法相比,本发明所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法具有的优势在于:
与传统的累积训练方法相比,该方法不需要对历史数据进行储存和扩充,每次微调仅需保存某一固定时间间隔(滑动窗)内的数据,从而降低了数据储存成本和神经网络训练时间。与传统的滑动窗训练方法相比,该方法可以保证神经网络在微调的过程中不会遗忘从历史数据上学习到的用能规律。该发明可以持续对神经网络进行低储存成本的快速微调,并保证微调过程中不会遗忘已经学习到的用能规律,从而实现准确可靠的建筑用能负荷实时预测。
也就是说,本发明通过引入弹性权重固化技术,可以仅用新获取的数据对神经网络进行微调,并且保证在微调过程中不会遗忘从历史数据中学习到的用能规律,从而克服累积训练和滑动窗训练的不足,既不需要对历史数据进行储存和扩充,又能保留从历史数据上学习到的用能规律。
附图说明
图1为本发明提供的预测方法的流程图。
图2和图3为两种不同情况下神经网络损失函数L(d,θi)与参数θi的关系曲线。
图4为弹性权重固化技术的原理图。
具体实施方式
下面结合附图对本发明的实施例作详细说明,本实施例在本发明技术方案为前提下进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于下属实施例。
如图1所示,为本发明提供的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,该实时预测方法包括模型离线训练和模型实时微调两个步骤。其中,模型离线训练步骤包含六个子步骤,依次为建筑用能负荷历史数据获取、数据预处理、模型输入选择、模型超参数寻优、模型参数训练和参数重要性计算。模型实时微调步骤包含六个子步骤,依次为建筑用能负荷实时数据获取、数据预处理、保持模型输入一致、保持模型超参数一致、使用弹性权重固化对模型进行微调和参数重要性更新。模型微调以滑动窗的形式定期进行,从而保证模型能适应建筑用能规律的变化。
步骤1为模型离线训练,该步骤旨在使用建筑用能负荷历史数据训练一个神经网络模型,并计算该模型参数的重要程度,具体步骤如下:
第1-1步,通过楼宇自动化***获取历史的建筑用能负荷数据,其中,建筑用能负荷包括冷负荷、热负荷和电力负荷。
第1-2步,使用箱形图识别上述建筑用能负荷数据中存在的异常值,剔除包含异常值或者缺失值的数据,然后使用最大最小规范化方法对上述建筑用能负荷数据进行归一化处理,得到预处理后的历史数据。
第1-3步,选取与建筑用能负荷最相关的变量作为神经网络模型的输入,最相关的变量包括室外空气温度、室外空气相对湿度、历史负荷和时间变量(预测负荷位于一天中的第几小时、一周中的第几天、一年中的第几月、是否节假日)。同时,以建筑用能负荷作为神经网络模型的输出,来构建用于实时预测建筑用能负荷的神经网络。
第1-4步,使用交叉验证和网格搜索方法对神经网络的超参数(包括隐藏层数、隐藏层内神经元个数、激活函数)进行寻优,得到一组最优的超参数取值。
第1-5步,将历史数据集随机划分为训练集和验证集,在本实施例中,可以将历史数据中80%的数据作为训练集,20%的数据作为验证集。在训练集上使用随机梯度下降算法训练神经网络中的参数(包括权重和偏置),保证其在验证集上有较高的精度,模型精度用常见精度指标进行评价,包括可决系数、均方根误差、平均绝对误差。
第1-6步,计算该神经网络中的每个参数的重要性。某个参数θi对神经网络的影响程度可用损失函数在某样本点d下对该参数的二阶导数衡量。举例来说,若某样本点d下的损失函数L(d,θi)与参数θi的关系曲线如图2所示,当θi取值为a时,其微小的变化将会引起损失函数巨大的变化,从而导致神经网络遗忘从该样本点上学***均值衡量,如下式所示:
式中,D1是历史数据,|D1|是历史数据中采样点的数量,L(d,θi)是神经网络在历史数据的一个采样点d上的损失。
步骤2为模型实时微调,该步骤旨在使用实时获取的数据对神经网络进行微调,从而保证神经网络能够适应建筑用能规律的变化,具体步骤如下:
第2-1步,通过楼宇自动化***获取从神经网络模型离线训练或模型实时微调操作完成后固定时间间隔内(如一周内)的实时建筑用能负荷数据。若是神经网络只经过步骤1的模型离线训练,则获取的是从神经网络模型离线训练操作后固定时间间隔内的实时建筑用能负荷数据,在此之后,均是获取从神经网络模型实时微调操作完成后固定时间间隔内的实时建筑用能负荷数据。
第2-2步,使用箱形图方法识别实时建筑用能负荷数据中存在的异常值,剔除包含异常值或者缺失值的数据,然后使用最大最小规范化对实时建筑用能负荷数据进行归一化,得到预处理后的实时数据。其中,该步骤中的归一化范围与第1-2步中的归一化范围保持一致。
第2-3步,选取第1-3步选择的神经网络输入变量作为模型的输入,即选取与第1-3步相同变量作为神经网络模型的输入。
第2-4步,选取第1-4步优化得到的神经网络超参数取值作为模型超参数取值,即选取从第1-4步优化得到的最优的超参数取值作为模型的超参数取值。
第2-5步,在实时数据上使用随机梯度下降算法对当前神经网络的权重和偏置进行微调。微调过程中使用弹性权重固化技术对损失函数进行约束来控制权重和偏置的学***方和再开方)来约束权重的学习方向。通过L2正则,可以控制易导致模型过拟合的权重的学习方向,使其取值尽可能为0,而避免模型过拟合。本发明中采用的弹性权重固化技术和L2正则类似,也是一种对损失函数进行约束的方法。其核心思想如图4所示,在实时训练数据上训练神经网络的参数时,通过对损失函数增加约束的方式,控制参数的学习方向,让参数解落在历史训练数据和实时训练数据上损失函数均较低的解空间内,从而使得其在历史训练数据和实时训练数据上均取得较低的损失函数。其约束的形式如下式所示:
式中,L为微调过程中的损失函数,Lnew为神经网络在实时数据上的损失函数,λ为约束调节因子(若认为历史数据中学习得到的用能规律比较重要,该值可以选取得较大,反之,若认为历史数据中学习得到的用能规律比较不重要,该值可以选取得较小),Ii为参数重要程度,θi,new为所需学习的参数值,θi,old为已经学得的参数值。引入λ∑iIi(θi,new-θi,old)2作为约束项可以保证在实时训练数据上训练神经网络时,对该神经网络在历史训练数据上的损失函数影响较大的参数不会被显著改变,因为若这些参数发生显著改变,神经网络的损失函数将会急剧增加。通过这一约束,最终可以保证神经网络在实时训练数据上训练时不会遗忘已经从历史训练数据上学习到的知识。该方法的效果已经在图像识别领域得到了验证,谷歌DeepMind团队构建了多个不同的图像识别数据集,依次用神经网络弹性权重固化技术对这些数据集进行学习,研究证明采用弹性权重技术后,神经网络可以在不遗忘已经学习到的图像识别知识的基础上,不断学习新的图像识别知识。
第2-6步,基于实时数据,重新计算微调后的神经网络的每个参数的重要程度,对任意第i个参数θi的重要程度Ii,new重新计算,公式如下:
式中,D2是实时数据,|D2|是实时数据中采样点的数量,L(d,θi)是微调后的神经网络在实时数据的一个采样点d上的损失。
取重新计算得到的重要程度Ii,new与原始重要程度Ii,old中的最大值,更新参数θi的重要程度Ii,如下式所示:
Ii=max(Ii,new,Ii,old)
第2-7步,每隔固定时间间隔(如一周)重复第2-1步至第2-6步,实现对神经网络参数的持续更新,得到实时更新的网络模型,以实时预测建筑用能负荷。
以上所述的实施例只是本发明的一种较佳的方案,然其并非用以限制本发明。有关技术领域的普通技术人员,在不脱离本发明的精神和范围的情况下,还可以做出各种变化和变型。因此凡采取等同替换或等效变换的方式所获得的技术方案,均落在本发明的保护范围内。
Claims (10)
1.一种基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,包括以下步骤:
步骤1为模型离线训练,具体步骤如下:
第1-1步,获取历史的建筑用能负荷数据;
第1-2步,对所述建筑用能负荷数据进行预处理,剔除所述建筑用能负荷数据中的异常值和缺失值,同时对所述建筑用能负荷数据进行归一化处理,得到预处理后的历史数据;
第1-3步,选择与建筑用能负荷最为相关的变量作为神经网络模型的输入,以建筑用能负荷作为神经网络模型的输出,以构建用于实时预测建筑用能负荷的神经网络;
第1-4步,对神经网络的超参数进行优化,得到一组最优的超参数取值;
第1-5步,将所述历史数据以一定比例随机划分为训练集和验证集,在训练集上使用随机梯度下降算法对神经网络中包括权重和偏置在内的参数进行训练,以保证其在验证集上的精度;
第1-6步,计算所述神经网络中的每个参数的重要性,任意第i个参数θi的重要程度Ii用所述神经网络的损失函数对所述参数的二阶导数衡量,计算公式为:
式中,D1是所述历史数据,|D1|是所述历史数据中采样点的数量,L(d,θi)是所述神经网络在所述历史数据的一个采样点d上的损失;
步骤2为模型实时微调,具体步骤如下:
第2-1步,获取从神经网络模型离线训练或模型实时微调操作完成后固定时间间隔内的实时建筑用能负荷数据;
第2-2步,对所述实时建筑用能负荷数据进行预处理,剔除所述实时建筑用能负荷数据中的异常值和缺失值,同时对所述实时建筑用能负荷数据进行归一化处理,得到预处理后的实时数据;其中,该步骤中的归一化范围与第1-2步中的归一化范围保持一致;
第2-3步,选取与第1-3步相同变量作为神经网络模型的输入;
第2-4步,选取从第1-4步优化得到的最优的超参数取值作为模型的超参数取值;
第2-5步,在所述实时数据上使用随机梯度下降算法对当前神经网络中包括权重和偏置在内的参数进行微调,所述微调过程中使用弹性权重固化技术对损失函数进行约束,计算公式为:
式中,L为所述微调过程中的损失函数,Lnew为神经网络在所述实时数据上的损失函数,λ为约束调节因子,Ii为参数重要程度,θi,new为所需学习的参数值,θi,old为已经学得的参数值;
第2-6步,基于所述实时数据,重新计算微调后的神经网络中每个参数的重要程度,对任意第i个参数θi的重要程度Ii,new重新计算,计算公式为:
式中,D2是所述实时数据,|D2|是所述实时数据中采样点的数量,L(d,θi)是微调后的神经网络在所述实时数据的一个采样点d上的损失;
取重新计算得到的重要程度Ii,new与原始重要程度Ii,old中的最大值,更新所述参数θi的重要程度Ii,计算公式如下:
Ii=max(Ii,new,Ii,old)
第2-7步,每隔固定时间间隔,重复第2-1步至第2-6步,实现对神经网络参数的持续更新,得到实时更新的网络模型,以实时预测建筑用能负荷。
2.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,所述建筑用能负荷包括冷负荷、热负荷和电力负荷。
3.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,所述建筑用能负荷数据通过楼宇自动化***获取。
4.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,所述第1-2步中,使用箱形图识别所述建筑用能负荷数据中存在的异常值,剔除包含异常值或者缺失值的数据,然后使用最大最小规范化方法对所述建筑用能负荷数据进行归一化。
5.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,与所述建筑用能负荷最为相关的变量包括室外空气温度、室外空气相对湿度、历史负荷和时间变量。
6.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,所述第1-4步中,使用交叉验证和网格搜索方法对神经网络的超参数进行寻优。
7.如权利要求6所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,所述超参数包括隐藏层数、隐藏层内神经元个数和激活函数。
8.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,所述第1-5步中,历史数据中80%的数据作为训练集,20%的数据作为验证集。
9.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,所述精度指标包括可决系数、均方根误差和平均绝对误差。
10.如权利要求1所述的基于神经网络弹性权重固化的建筑用能负荷实时预测方法,其特征在于,所述固定时间间隔为一周。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110008719.XA CN112711791B (zh) | 2021-01-05 | 2021-01-05 | 基于神经网络弹性权重固化的建筑用能负荷实时预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110008719.XA CN112711791B (zh) | 2021-01-05 | 2021-01-05 | 基于神经网络弹性权重固化的建筑用能负荷实时预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112711791A CN112711791A (zh) | 2021-04-27 |
CN112711791B true CN112711791B (zh) | 2022-04-19 |
Family
ID=75548279
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110008719.XA Active CN112711791B (zh) | 2021-01-05 | 2021-01-05 | 基于神经网络弹性权重固化的建筑用能负荷实时预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112711791B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112990445B (zh) * | 2021-05-13 | 2021-07-16 | 国网浙江省电力有限公司金华供电公司 | 一种配电网监控信息智能分析机器学习方法 |
CN117331339B (zh) * | 2023-12-01 | 2024-02-06 | 南京华视智能科技股份有限公司 | 基于时序神经网络模型的涂布机模头电机控制方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104217258A (zh) * | 2014-09-15 | 2014-12-17 | 国家电网公司 | 一种电力负荷条件密度预测方法 |
CN109002942A (zh) * | 2018-09-28 | 2018-12-14 | 河南理工大学 | 一种基于随机神经网络的短期负荷预测方法 |
CN110209649A (zh) * | 2019-04-08 | 2019-09-06 | 浙江大学 | 基于关联规则知识库的中央空调***能效实时诊断方法 |
CN110866640A (zh) * | 2019-11-11 | 2020-03-06 | 山东科技大学 | 一种基于深度神经网络的电力负荷预测方法 |
CN112001439A (zh) * | 2020-08-19 | 2020-11-27 | 西安建筑科技大学 | 基于gbdt的商场建筑空调冷负荷预测方法、存储介质及设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11008120B2 (en) * | 2017-05-23 | 2021-05-18 | The Boeing Company | System and method for predicting preliminary design requirements using artificial neural networks |
-
2021
- 2021-01-05 CN CN202110008719.XA patent/CN112711791B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104217258A (zh) * | 2014-09-15 | 2014-12-17 | 国家电网公司 | 一种电力负荷条件密度预测方法 |
CN109002942A (zh) * | 2018-09-28 | 2018-12-14 | 河南理工大学 | 一种基于随机神经网络的短期负荷预测方法 |
CN110209649A (zh) * | 2019-04-08 | 2019-09-06 | 浙江大学 | 基于关联规则知识库的中央空调***能效实时诊断方法 |
CN110866640A (zh) * | 2019-11-11 | 2020-03-06 | 山东科技大学 | 一种基于深度神经网络的电力负荷预测方法 |
CN112001439A (zh) * | 2020-08-19 | 2020-11-27 | 西安建筑科技大学 | 基于gbdt的商场建筑空调冷负荷预测方法、存储介质及设备 |
Non-Patent Citations (2)
Title |
---|
A hybrid deep learning-based method for short-term building energy load prediction combined with an interpretation process;Chaobo Zhang,et al.;《Energy&Buildings》;20200716;第1-18页 * |
基于BP神经网络的地铁站厅空调负荷预测;李婷婷等;《计算机科学》;20191130;第46卷(第11A期);第590-594页 * |
Also Published As
Publication number | Publication date |
---|---|
CN112711791A (zh) | 2021-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101383023B (zh) | 基于样本动态组织与温度补偿的神经网络短期电力负荷预测 | |
CN112711791B (zh) | 基于神经网络弹性权重固化的建筑用能负荷实时预测方法 | |
CN110766212B (zh) | 用于历史数据缺失电场的超短期光伏功率预测方法 | |
CN110782093B (zh) | 融合ssae深度特征学习和lstm的pm2.5小时浓度预测方法及*** | |
CN111932402B (zh) | 一种基于相似日和lstm的短期电力负荷双向组合预测方法 | |
CN111967688B (zh) | 一种基于卡尔曼滤波器与卷积神经网络的电力负荷预测方法 | |
CN112001439A (zh) | 基于gbdt的商场建筑空调冷负荷预测方法、存储介质及设备 | |
CN110738349B (zh) | 基于多模型融合的电网故障抢修时长预测方法 | |
CN109508818B (zh) | 一种基于LSSVM的在线NOx预测方法 | |
CN115270965A (zh) | 一种配电网线路故障预测方法和装置 | |
CN116186548B (zh) | 电力负荷预测模型训练方法及电力负荷预测方法 | |
CN109389238A (zh) | 一种基于岭回归的短期负荷预测方法及装置 | |
Jiang et al. | Deep transfer learning for thermal dynamics modeling in smart buildings | |
CN113011680A (zh) | 一种电力负荷预测方法及*** | |
CN115542429A (zh) | 一种基于XGBoost的臭氧质量预测方法及*** | |
CN116388150A (zh) | 基于数字孪生和神经网络技术的配变短期负荷预测方法 | |
CN116576544A (zh) | 基于物联智能体减碳优化模型的暖通空调***节能方法 | |
CN111709585A (zh) | 一种空调负荷预测方法、装置及存储介质 | |
CN115860286A (zh) | 一种基于时序门机制的空气质量预测方法及*** | |
JPH04372046A (ja) | 需要量予測方法及び装置 | |
CN112598050A (zh) | 生态环境数据质量控制方法 | |
CN112861418A (zh) | 一种基于ga-woa-grnn网络的斜拉索短期覆冰厚度预测方法 | |
CN114997470A (zh) | 基于lstm神经网络的短期用电负荷预测方法 | |
CN114707684A (zh) | 一种基于改进lstm的原烟堆垛内部温度预测算法 | |
CN115293406A (zh) | 基于CatBoost和Radam-LSTM的光伏发电功率预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |