CN108764540B - 基于并行lstm串联dnn的供水管网压力预测方法 - Google Patents
基于并行lstm串联dnn的供水管网压力预测方法 Download PDFInfo
- Publication number
- CN108764540B CN108764540B CN201810465536.9A CN201810465536A CN108764540B CN 108764540 B CN108764540 B CN 108764540B CN 201810465536 A CN201810465536 A CN 201810465536A CN 108764540 B CN108764540 B CN 108764540B
- Authority
- CN
- China
- Prior art keywords
- model
- dnn
- water supply
- pressure
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 title claims abstract description 51
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000004913 activation Effects 0.000 claims abstract description 13
- 238000011478 gradient descent method Methods 0.000 claims abstract description 11
- 238000007781 pre-processing Methods 0.000 claims abstract description 7
- 238000005516 engineering process Methods 0.000 claims abstract description 4
- 238000012549 training Methods 0.000 claims description 38
- 230000006870 function Effects 0.000 claims description 12
- 238000012544 monitoring process Methods 0.000 claims description 12
- 238000013136 deep learning model Methods 0.000 claims description 11
- 210000002569 neuron Anatomy 0.000 claims description 9
- 238000013528 artificial neural network Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 6
- 230000000694 effects Effects 0.000 claims description 5
- 238000000605 extraction Methods 0.000 claims description 5
- 230000009466 transformation Effects 0.000 claims description 5
- 230000000295 complement effect Effects 0.000 claims description 3
- 238000007499 fusion processing Methods 0.000 claims description 3
- 238000000638 solvent extraction Methods 0.000 claims description 2
- 238000007619 statistical method Methods 0.000 claims 1
- 230000008901 benefit Effects 0.000 abstract description 5
- 238000005457 optimization Methods 0.000 abstract description 2
- 238000004458 analytical method Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000007812 deficiency Effects 0.000 description 2
- 230000035772 mutation Effects 0.000 description 2
- 238000000611 regression analysis Methods 0.000 description 2
- 239000004576 sand Substances 0.000 description 2
- 238000012916 structural analysis Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000005312 nonlinear dynamic Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
- G06F2218/04—Denoising
- G06F2218/06—Denoising by applying a scale-space analysis, e.g. using wavelet analysis
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Economics (AREA)
- Data Mining & Analysis (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Health & Medical Sciences (AREA)
- Marketing (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Water Supply & Treatment (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Public Health (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computational Linguistics (AREA)
- Primary Health Care (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Evolutionary Biology (AREA)
- Development Economics (AREA)
- Game Theory and Decision Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Feedback Control In General (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于并行LSTM串联DNN的供水管网压力预测方法。本发明首先确定输入输出项，建立基于并行LSTM串联DNN的预测模型。其次数据预处理，建立压力预测数据库。然后训练预测模型。最后进行在线压力预测。本发明实现LSTM和DNN的优势互补，并用Dropout技术防止模型过拟合，Relu激活函数加快模型收敛速度，小批量梯度下降法减少了随机性和计算量，选择RMSprop作为随机梯度下降法的优化算法，提高了供水管网压力预测方法的抗干扰性和精度。
Description
技术领域
本发明属于城市供水领域，具体是一种基于并行LSTM串联DNN的供水管网压力预测方法。
背景技术
供水管网***是一个结构复杂、规模庞大、用水随机性强的非线性动态***，能否快速准确地模拟和预测出管网的运行工况，是进行供水管网优化调度的关键。供水管网生产运行中，调度人员一般以压力实测数据来观察管网的运行状况。因此，对监测点压力进行预测分析，有助于调度人员提前预判，做好生产指挥。
目前供水管网压力预测方法一般分为时间序列法、结构分析法和***方法三大类。其中时间序列法包括移动平均法、指数平滑法、趋势外推法等；结构分析法包括回归分析法等；***方法包括灰色预测、人工神经网络等。时间序列模型预测精度较好、数据处理简单，但是只能利用测点短期时序数据，并不适用于变化较大的情况；回归分析法模型简单、方便但受多种因素综合影响时难以选择；***方法具有自学习能力、非线性处理等优点，但是存在模型复杂、训练时间长等问题。上述方法均易受噪声干扰，预测精度难以保证。
发明内容
针对供水管网的高度复杂非线性特性及现有技术方法的不足，本发明提出一种基于并行LSTM(长短期记忆神经网络)串联DNN(深度神经网络)的深度学习模型进行管网压力预测，提高预测精度。
由于供水管网的状态量和控制量是两种不同类型的特征信息，倘若简单采用一个LSTM模型进行特征提取，两类特征信息对模型的不同影响将无法凸显，为此，将单一LSTM模型扩展为并行LSTM模型，分别提取、学习两类不同的特征信息。又由于LSTM擅长处理基于时间序列的数据，DNN适用于将特征信息映射到更高的空间，利用LSTM与DNN各自的优点，将LSTM与DNN联合起来作为一个统一的架构，实现优势互补，即将两路LSTM的输出结果融合后通过DNN输出，实现对下一时刻的测点压力进行预测。由此，本发明提供了一种基于并行LSTM串联DNN深度学习模型的供水管网压力预测方法。
为实现高抗干扰性、高预测精度高目的，本发明采取以下步骤：
1、确定输入输出项，建立基于并行LSTM串联DNN的预测模型
鉴于供水管网***是一个多输入多输出的非线性时滞***，选择较长的历史状态量(测点压力信息)[x(t),x(t-1),…,x(t-ns)]和控制量(入水口压力和流量)[u(t-1),u(t-2),…,u(t-nu)]作为输入项，以补偿“供水管网状态量仅部分可知”的不足；确定输出项为压力测点t+1时刻的输出ym(t+1)。这里，ns、nu为历史时间窗口。
建立基于并行LSTM串联DNN的深度学习模型：
a.分别采用LSTM模型对状态量[x(t),x(t-1),…,x(t-ns)]和控制量[u(t-1),u(t-2),…,u(t-nu)]进行特征提取和学习。
分别为供水管网的状态变量和控制变量经LSTM模型的输出值。
b.采用深层神经网络DNN模型将
进行融合处理，得到输出ym(t+1)，可用式(1)描述：
ym(t+1)为深度学习模型的预测输出。[]表示将两种在时间维度上具有相同维数的矩进行合并，H()为DNN模型的激活函数。WDNN、bDNN分别为DNN模型的权值与阈值。
2、数据预处理，建立压力预测数据库
(1)数据预处理
数据补缺：针对来自SCADA***现场采集的数据存在数据丢失问题，采用线性、抛物线或三次曲线插值补全缺失的数据。如缺失数据过多，则放弃这一时段的历史数据。
数据去噪：针对现场数据存在大量噪声干扰问题，采用小波变换去除噪声。小波变换能在时域和频域进行局部化信号分析，可实现多分辨率分析，判断噪声与突变信号，确定有效信号。
无量纲处理：针对供水管网压力和流量具有不同的物理量纲和数量级问题，对数据作归一化处理，即将输入与输出都限制在[0,l]，使它们以相同的等级参与模型训练与预测，具体公式如(2)所示
式中，X表示需归一化数据，Max(X)、Min(X)分别代表最小值和最大值，Xnor代表归一化后的数据。
(2)建立压力预测数据库
建立供水管网压力预测数据库：数据项除了时间戳、节点(监测点或入口)外，包括：(1)测点的压力、流量值，入口的压力、流量值等，从SCADA中实时抽取/清洗/转换，并存储，作为模型的输入项；(2)测点的预测压力，来自模型预测，是模型的输出项；(3)误差数据项，用来统计分析预测精度。
3、训练预测模型
(1)确定训练样本
围绕大型供水管网的DMA分区，或者小型供水管网，确定输入样本为{X(ns),U(nu),Y}，其中X(ns)为i维状态变量，U(nu)为2j维控制变量，i为监测点数，j为入口数，。
为保证训练，输入样本数据时间跨度必须保证Max(ns,nu)个时段连续，一般须保证1小时以上的连续有效的{X(ns),U(nu),Y}数据，有效样本不少于12x24x15＝4320个。
(2)确定模型基本结构，设置其余参数初值，开始训练模型
根据经验或者初步调参的效果确定参数的取值范围。nu、ns∈{1,2,…12}，时间步长t＝5分钟，即历史信息最大跨度为60分钟，由于较长的历史信息会使输入冗余，且对提高预测精度并无多大影响；隐含层个数Layers∈{1,2,…,5}，增加隐含层的层数可以提高特征提取与学习能力，但多层会使模型变得越来越复杂；相应神经元数量Neurons∈[0,300]，神经元的数量决定了网络训练的非线性程度。
为了防止深度学习模型出现过拟合现象，本发明在每一层引入Dropout后会随机地更新网络参数，增加模型的泛化能力。Dropout技术具体做法是在模型训练时随机抛弃一定比例的隐含层节点(但权重会保存，仅暂时不进行更新)，而在模型使用时恢复全连接。节点抛弃比例dropout rate∈[01,0.5]，对于节点抛弃比例的选取，如果比例太低则起不到效果，比例太高则会导致模型的欠学习。
本发明采用小批量(Mini-batch)梯度下降法来优化模型中的各个参数，这种方法把数据分为若干个批，按批(batch)来更新参数，这样，一个批中的一组数据共同决定了参数的更新，减少了随机性和计算量。小批量梯度下降法的样本大小Mini_batch∈[5,50]。训练轮数epoch∈[100,200]，训练次数太少达不到训练效果，过多并不会提高预测精度反而增加训练时间。
激活函数在模型中两个部分使用，一是用于输入值计算LSTM层，还有用于特征融合后的输出层。传统的饱和激活函数，如sigmoid和tanh会带来梯度消失问题，而ReLU等非饱和激活函数相对于饱和激活函数，能够加快模型收敛速度；使用ReLU的深度模型在有监督训练之前不需要预训练就能得到相近甚至更好的结果。本发明激活函数选取ReLU。
(3)训练迭代
在模型训练时，一般通过模型的预测值
和实测值y求出均方根作为模型误差，如公式(3)所示。其中，n是输出层神经元节点个数。
当loss<误差目标ε∈[0.2％，0.5％]，达到训练要求，迭代结束。当误差较大时调整模型的各个参数，若误差不符合收敛条件且不再减小，则改变模型基本结构，即重新给定一个{nu,ns,Layers}，再根据各个基本结构调节其他参数，重新迭代训练。
4、在线压力预测
将压力预测数据库中测点的压力、流量值，入口的压力、流量值等连续有效数据，依次输入到模型，模型则给出t+1时刻的压力预测值ym(t+1)，可以提前约t＝5分钟提供给调度人员参考。
同时，将压力预测值ym(t+1)存入数据库，与t+1时刻的实测值y(t+1)进行比较，计算Δ＝ym(t+1)-y(t+1)。设允许预测误差为σ∈[5％，10％]，若连续三次Δ>σ*y(t+1),则返回步骤3，重新训练模型，用新近数据，更新模型参数。
本发明的有益效果：本发明提出一种基于并行LSTM串联DNN的深度学习模型，实现LSTM和DNN的优势互补，并用Dropout技术防止模型过拟合，Relu激活函数加快模型收敛速度，小批量梯度下降法减少了随机性和计算量，选择RMSprop作为随机梯度下降法的优化算法，提高了供水管网压力预测方法的抗干扰性和精度。
附图说明
图1：基于并行LSTM串联DNN的预测模型；
图2：供水管网监测点压力预测***应用框架。
具体实施方式
为使本发明实现的技术手段与创作特征易于明白，下面结合附图和实施例，对本发明的实现方式进一步详述，并不限制本发明的权利范围。
现以某市Y区供水管网为实例，该区面积约合106.7km2，日供水量约为150000m3,监测点包括入水口流量计压力测点、管网压力测点、出水口流量测点、中间管道测点。
具体的管网内部重要压力监测点信息见表1
表1管网17个重要压力监测点信息
1、确定输入输出项，建立基于并行LSTM串联DNN的预测模型
鉴于供水管网***是一个多输入多输出的非线性时滞***，选择较长的历史状态量[x(t),x(t-1),…,x(t-ns)]和控制量[u(t-1),u(t-2),…,u(t-nu)]作为输入项，以补偿“供水管网状态量仅部分可知”的不足；确定输出项为压力测点t+1时刻的输出ym(t+1)。其中，ns、nu为历史时间窗口。
这里，以该市Y区供水管网***的4个入水口的供水压力、供水量的历史控制信息和17个测点压力历史和当前状态信息为输入项，以17个监测点下一时刻的压力作为输出项。
建立基于并行LSTM串联DNN的深度学习模型(如图1所示)：
a.分别采用LSTM模型对状态量[x(t),x(t-1),…,x(t-ns)]和控制量[u(t-1),u(t-2),…,u(t-nu)]进行特征提取和学习。
分别为供水管网的状态变量和控制变量经LSTM模型的输出值。
b.采用深层神经网络DNN模型将
进行融合处理，得到输出ym(t+1)，可用式(4)描述：
ym(t+1)为深度学习模型的预测输出。[]表示将两种在时间维度上具有相同维数的矩进行合并，H()为DNN模型的激活函数。WDNN、bDNN分别为DNN模型的权值与阈值。
2、数据预处理，建立压力预测数据库
(1)数据预处理
数据补缺：针对来自SCADA***现场采集的数据存在数据丢失问题，采用线性、抛物线或三次曲线插值补全缺失的数据。如缺失数据过多，则放弃这一时段的历史数据。
数据去噪：针对现场数据存在大量噪声干扰问题，采用小波变换去除噪声。小波变换能在时域和频域进行局部化信号分析，可实现多分辨率分析，判断噪声与突变信号，确定有效信号。
无量纲处理：针对供水管网压力和流量具有不同的物理量纲和数量级问题，对数据作归一化处理，即将输入与输出都限制在[0,l]，使它们以相同的等级参与模型训练与预测，具体公式如(5)所示
式中，X表示需归一化数据，Max(X)、Min(X)分别代表最小值和最大值，Xnor代表归一化后的数据。
(2)建立压力预测数据库
建立供水管网压力预测数据库：数据项除了时间戳、节点(监测点或入口)外，包括：(1)测点的压力、流量值，入口的压力、流量值等，从SCADA中实时抽取/清洗/转换，并存储，作为模型的输入项；(2)测点的预测压力，来自模型预测，是模型的输出项；(3)误差数据项，用来统计分析预测精度。
3、训练预测模型
(1)确定训练样本
围绕某市Y区供水管网，确定输入样本为为{X(ns),U(nu),Y}，其中X(ns)为17维状态变量，U(nu)为8维控制变量，17个监测点，4个入口，t为时间步长。
为保证训练，输入样本数据时间跨度必须保证Max(ns,nu)个时段连续，一般须保证1小时以上的连续有效的{X(ns),U(nu),Y}数据，有效样本不少于12x24x15＝4320个
这里，样本数据集为2016年5月27日至2016年6月28日，共35天的数据，采样间隔为5分钟，连续有效，样本大小为10080。其中5月28日6月至26日的数据用于训练。
(2)确定模型基本结构，设置其余参数初值，开始训练模型
根据经验或者初步调参的效果确定参数的取值范围。nu、ns∈{1,2,…12}，时间步长t＝5分钟，即历史信息最大跨度为60分钟，由于较长的历史信息会使输入冗余，且对提高预测精度并无多大影响；LSTM的隐含层个数layer＝2，相应神经元数量Neurons＝100，DNN的layer＝2，相应Neurons＝96。
为了防止深度学习模型出现过拟合现象，本发明在每一层引入Dropout后会随机地更新网络参数，增加模型的泛化能力。本实施例中，正则化的节点抛弃比例dropout rate＝0.3。
本实施例采用小批量(Mini-batch)梯度下降法来优化模型中的各个参数，小批量梯度下降法的样本大小Mini_batch＝32，训练轮数epoch＝100。
本实施例激活函数选取ReLU。
(3)训练迭代
在模型训练时，一般通过模型的预测值
和实测值y求出均方根作为模型误差，如公式(6)所示。其中，n是输出层神经元节点个数。
当loss<误差目标ε＝0.3％，达到训练要求，迭代结束。当误差较大时调整模型的各个参数，若误差不符合收敛条件且不再减小，则改变模型基本结构，即重新给定一个{nu,ns,Layers}，再根据各个基本结构调节其他参数，重新迭代训练。
4、在线压力预测
压力预测数据库中测点的压力、流量值，入口的压力、流量值等连续有效数据，依次输入到模型，模型则给出t+1时刻的压力预测值ym(t+1)，可以提前约t＝5分钟提供给调度人员参考。
同时，将压力预测值ym(t+1)存入数据库，与t+1时刻的实测值y(t+1)进行比较，计算Δ＝ym(t+1)-y(t+1)。设允许预测误差为σ＝5％，若连续三次Δ>σ*y(t+1),则启动模型重新训练(步骤3)，用新近数据，更新模型参数。
本实施例将6月27日至6月28日的数据用于测试，通过RMSE(均方根误差)和MAPE(平均绝对百分误差)作为评价性能指标，表2给出各个监测点性能指标,具有很高的预测精度。
表2各监测点预测性能指标
为了与传统模型进行比较，分别试算了BP神经网络、SVM支持向量机、VARX、NARX，得到了与传统预测方法比较结果(见表3)。
表3与传统预测方法的比较
| 预测方法 | BP | SVM | VARX | NARX | 本发明方法 |
| RMSE*100(各测点平均值) | 0.56 | 0.43 | 0.30 | 0.28 | 0.17 |
由表3得，基于并行LSTM串行DNN深度学习模型预测结果要明显好于传统预测模型。
本发明方法，按照图2所示的供水管网监测点压力预测***应用框架，可用于实际生产。
Claims (7)
1.基于并行LSTM串联DNN的供水管网压力预测方法，其特征在于该方法具体是：
步骤(1)确定输入输出项，建立基于并行LSTM串联DNN的预测模型，具体是：
鉴于供水管网***是一个多输入多输出的非线性时滞***，选择历史状态量[x(t),x(t-1),…,x(t-ns)]和控制量[u(t-1),u(t-2),…,u(t-nu)]作为输入项；确定输出项为压力测点t+1时刻的输出ym(t+1)，这里ns、nu为历史时间窗口；
建立基于并行LSTM串联DNN的深度学习模型：
a.分别采用LSTM模型对状态量[x(t),x(t-1),…,x(t-ns)]和控制量[u(t-1),u(t-2),…,u(t-nu)]进行特征提取和学习，同时设
分别为供水管网的状态量和控制量经LSTM模型的输出值；
b.采用深层神经网络DNN模型将
进行融合处理，得到输出ym(t+1)
其中[]表示将两种在时间维度上具有相同维数的矩进行合并，H()为DNN模型的激活函数；WDNN、bDNN分别为DNN模型的权值与阈值；
步骤(2)数据预处理，建立压力预测数据库
(2-1)数据预处理
数据补缺：针对来自SCADA***现场采集的数据存在数据丢失问题，采用线性、抛物线或三次曲线插值补全缺失的数据；
数据去噪：针对现场数据存在大量噪声干扰问题，采用小波变换去除噪声；
无量纲处理：针对供水管网压力和流量具有不同的物理量纲和数量级问题，对数据作归一化处理，即将输入与输出都限制在[0,l]，使它们以相同的等级参与模型训练与预测；
(2-2)建立压力预测数据库
数据项除了时间戳、节点外，还包括：(1)测点的压力、流量值，入口的压力、流量值，从SCADA***中实时抽取、清洗、转换、并存储，作为模型的输入项；(2)测点的预测压力，来自模型预测，是模型的输出项；(3)误差数据项，用来统计分析预测精度；
步骤(3)训练预测模型
(3-1)确定训练样本
围绕大型供水管网的DMA分区或者小型供水管网，确定输入样本为{X(ns),U(nu),Y}，其中X(ns)为i维状态量，U(nu)为2j维控制量，i为监测点数，j为入口数；
(3-2)确定模型基本结构，设置其余参数初值，开始训练模型
根据经验或者初步调参的效果确定参数的取值范围；nu、ns∈{1,2,...12}，时间步长t＝5分钟，即历史信息最大跨度为60分钟；隐含层个数Layers∈{1,2,...,5}；相应神经元数量Neurons∈[0,300]；
(3-3)训练迭代
在模型训练时，过模型的预测值
和实测值y求出均方根作为模型误差loss，当loss<误差目标ε∈[0.2％，0.5％]，达到训练要求，迭代结束；当误差不满足要求时调整模型的各个参数，若误差不符合收敛条件且不再减小，则改变模型基本结构，即重新给定一个{nu,ns,Layers}，再根据各个基本结构调节其他参数，重新迭代训练；
步骤(4)在线压力预测
将压力预测数据库中测点的压力、流量值，入口的压力、流量值，依次输入到模型，模型则给出t+1时刻的压力预测值ym(t+1)；同时，将压力预测值ym(t+1)存入数据库，与t+1时刻的实测值y(t+1)进行比较，计算Δ＝ym(t+1)-y(t+1)；设允许预测误差为σ∈[5％，10％]，若连续三次Δ>σ*y(t+1),则返回步骤(3)，重新训练模型，用新近数据，更新模型参数。
2.根据权利要求1所述的基于并行LSTM串联DNN的供水管网压力预测方法，其特征在于：步骤(3-2)中为了防止深度学习模型出现过拟合现象，在每一层引入Dropout技术后随机地更新网络参数，增加模型的泛化能力。
3.根据权利要求2所述的基于并行LSTM串联DNN的供水管网压力预测方法，其特征在于：所述的Dropout技术具体是在模型训练时随机抛弃一定比例的隐含层节点，但权重会保存，仅暂时不进行更新，而在模型使用时恢复全连接；节点抛弃比例在0.1至0.5之间。
4.根据权利要求1所述的基于并行LSTM串联DNN的供水管网压力预测方法，其特征在于：步骤(3-2)中采用小批量梯度下降法来优化模型中的各个参数。
5.根据权利要求4所述的基于并行LSTM串联DNN的供水管网压力预测方法，其特征在于：所述的小批量梯度下降法是把数据分为若干个批，按批来更新参数；小批量梯度下降法的样本大小为5至50之间；训练轮数为100至200之间。
6.根据权利要求1所述的基于并行LSTM串联DNN的供水管网压力预测方法，其特征在于：步骤(3-2)中模型的激活函数选用ReLU激活函数。
7.根据权利要求1所述的基于并行LSTM串联DNN的供水管网压力预测方法，其特征在于：步骤(4)中压力预测值ym(t+1)提前5分钟提供给调度人员参考。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810465536.9A CN108764540B (zh) | 2018-05-16 | 2018-05-16 | 基于并行lstm串联dnn的供水管网压力预测方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810465536.9A CN108764540B (zh) | 2018-05-16 | 2018-05-16 | 基于并行lstm串联dnn的供水管网压力预测方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108764540A CN108764540A (zh) | 2018-11-06 |
| CN108764540B true CN108764540B (zh) | 2021-11-30 |
Family
ID=64007993
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810465536.9A Active CN108764540B (zh) | 2018-05-16 | 2018-05-16 | 基于并行lstm串联dnn的供水管网压力预测方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108764540B (zh) |
Families Citing this family (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109930658B (zh) * | 2019-03-27 | 2021-02-05 | 杭州电子科技大学 | 一种基于***能观性的供水管网监测点布置方法 |
| CN110545208B (zh) * | 2019-09-23 | 2021-10-15 | 电子科技大学 | 一种基于lstm的网络流量预测方法 |
| CN113280265B (zh) * | 2020-02-20 | 2022-08-05 | 中国石油天然气股份有限公司 | 工况识别方法、装置、计算机设备以及存储介质 |
| CN111210093B (zh) * | 2020-03-05 | 2023-05-09 | 重庆森鑫炬科技有限公司 | 基于大数据的日用水量预测方法 |
| CN112115999B (zh) * | 2020-09-15 | 2022-07-01 | 燕山大学 | 一种时空多尺度神经网络的风电机组故障诊断方法 |
| CN112252292B (zh) * | 2020-10-15 | 2021-05-28 | 河北工业大学 | 一种基于人工神经网络的高速公路压实度实时监测方法 |
| CN112434847A (zh) * | 2020-11-17 | 2021-03-02 | 上海东普信息科技有限公司 | 基于lstm模型的快递件量预测方法、装置、设备和存储介质 |
| CN112594553A (zh) * | 2020-12-07 | 2021-04-02 | 熊猫智慧水务有限公司 | 一种基于压力目标曲线的管网压力调控方法 |
| CN112561174B (zh) * | 2020-12-18 | 2023-05-02 | 西南交通大学 | 基于lstm和mlp的叠加神经网络预测地热产能方法 |
| CN112857658B (zh) * | 2021-01-13 | 2022-06-07 | 淮阴工学院 | 一种基于云平台的压力检测*** |
| CN112818495A (zh) * | 2021-02-22 | 2021-05-18 | 成都四为电子信息股份有限公司 | 一种新型管道压降测算算法参数的动态修正方法 |
| CN113378335A (zh) * | 2021-05-07 | 2021-09-10 | 广州观必达数据技术有限责任公司 | 一种基于机器学习的供水管网压力预测方法及*** |
| CN114358244B (zh) * | 2021-12-20 | 2023-02-07 | 淮阴工学院 | 基于物联网的压力大数据智能检测*** |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103258235B (zh) * | 2013-05-13 | 2016-01-27 | 杭州电子科技大学 | 一种基于改进人工鱼群算法的供水管网改扩建优化方法 |
| US10783900B2 (en) * | 2014-10-03 | 2020-09-22 | Google Llc | Convolutional, long short-term memory, fully connected deep neural networks |
| CN105868852A (zh) * | 2016-03-28 | 2016-08-17 | 广州地理研究所 | 城市居民日用水量预测方法 |
| KR102033411B1 (ko) * | 2016-08-12 | 2019-10-17 | 한국전자통신연구원 | 주의집중 기반 문맥 종속 음향 모델을 이용한 음성 인식 장치 및 방법 |
-
2018
- 2018-05-16 CN CN201810465536.9A patent/CN108764540B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN108764540A (zh) | 2018-11-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108764540B (zh) | 基于并行lstm串联dnn的供水管网压力预测方法 | |
| CN111563706A (zh) | 一种基于lstm网络的多变量物流货运量预测方法 | |
| Lu et al. | Generalized radial basis function neural network based on an improved dynamic particle swarm optimization and AdaBoost algorithm | |
| CN107909206B (zh) | 一种基于深层结构循环神经网络的pm2.5预测方法 | |
| CN106022521B (zh) | 基于Hadoop架构的分布式BP神经网络的短期负荷预测方法 | |
| CN102622418B (zh) | 一种基于bp神经网络的预测装置及设备 | |
| CN113361777B (zh) | 基于vmd分解和ihho优化lstm的径流预测方法及*** | |
| Yu et al. | Error correction method based on data transformational GM (1, 1) and application on tax forecasting | |
| CN112364975A (zh) | 基于图神经网络的终端运行状态预测方法及*** | |
| CN115099519B (zh) | 一种基于多机器学习模型融合的油井产量预测方法 | |
| CN112288193A (zh) | 基于注意力机制的gru深度学习的海洋站表层盐度预测方法 | |
| CN112163671A (zh) | 一种新能源场景生成方法及*** | |
| CN112257847A (zh) | 一种基于CNN和LSTM预测地磁Kp指数的方法 | |
| CN114169645A (zh) | 一种智能电网短期负荷预测方法 | |
| CN113052373A (zh) | 一种基于改进elm模型的月径流变化趋势预测方法 | |
| CN114548591A (zh) | 一种基于混合深度学习模型和Stacking的时序数据预测方法及*** | |
| CN113095484A (zh) | 基于lstm神经网络的股票价格预测方法 | |
| CN111723523A (zh) | 一种基于级联神经网络的河口余水位预测方法 | |
| CN109408896B (zh) | 一种污水厌氧处理产气量多元智能实时监控方法 | |
| CN116663745A (zh) | 一种基于pca_ dwt的lstm流域水流量预测方法 | |
| Sulistiyo et al. | Evolution strategies for weight optimization of Artificial Neural Network in time series prediction | |
| CN113807005B (zh) | 基于改进fpa-dbn的轴承剩余寿命预测方法 | |
| CN111414927A (zh) | 一种海水水质评价的方法 | |
| CN114492911A (zh) | 一种集成数据去噪、麻雀搜索算法和多层极限学习机的短期风速预测方法 | |
| CN113095489A (zh) | 一种归纳多层次图网络表示学习方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |