CN113887787B - 一种基于长短时记忆网络和nsga-ii算法的洪水预报模型参数多目标优化方法 - Google Patents
一种基于长短时记忆网络和nsga-ii算法的洪水预报模型参数多目标优化方法 Download PDFInfo
- Publication number
- CN113887787B CN113887787B CN202111079661.4A CN202111079661A CN113887787B CN 113887787 B CN113887787 B CN 113887787B CN 202111079661 A CN202111079661 A CN 202111079661A CN 113887787 B CN113887787 B CN 113887787B
- Authority
- CN
- China
- Prior art keywords
- flood
- lstm
- model
- forecast model
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005457 optimization Methods 0.000 title claims abstract description 55
- 238000000034 method Methods 0.000 title claims abstract description 32
- 238000004422 calculation algorithm Methods 0.000 title claims abstract description 29
- 230000015654 memory Effects 0.000 title claims abstract description 18
- 230000006870 function Effects 0.000 claims abstract description 44
- 238000004088 simulation Methods 0.000 claims abstract description 24
- 238000012549 training Methods 0.000 claims abstract description 19
- 238000004364 calculation method Methods 0.000 claims abstract description 17
- 238000012360 testing method Methods 0.000 claims abstract description 16
- 230000000694 effects Effects 0.000 claims abstract description 4
- 239000011159 matrix material Substances 0.000 claims description 35
- 239000013598 vector Substances 0.000 claims description 27
- 238000006424 Flood reaction Methods 0.000 claims description 19
- 210000004027 cell Anatomy 0.000 claims description 16
- 238000011156 evaluation Methods 0.000 claims description 7
- 210000002569 neuron Anatomy 0.000 claims description 6
- 241000532838 Platypus Species 0.000 claims description 3
- 238000013213 extrapolation Methods 0.000 claims description 3
- 238000013461 design Methods 0.000 claims description 2
- 238000012797 qualification Methods 0.000 description 19
- 239000010410 layer Substances 0.000 description 9
- 238000013135 deep learning Methods 0.000 description 6
- 238000005259 measurement Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 3
- 230000002068 genetic effect Effects 0.000 description 2
- 230000006403 short-term memory Effects 0.000 description 2
- 101000938676 Homo sapiens Liver carboxylesterase 1 Proteins 0.000 description 1
- 102100030817 Liver carboxylesterase 1 Human genes 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 238000012876 topography Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/067—Enterprise or organisation modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/26—Government or public services
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A10/00—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
- Y02A10/40—Controlling or monitoring, e.g. of flood or hurricane; Forecasting, e.g. risk assessment or mapping
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- General Physics & Mathematics (AREA)
- Tourism & Hospitality (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Development Economics (AREA)
- General Business, Economics & Management (AREA)
- Educational Administration (AREA)
- Computational Linguistics (AREA)
- Operations Research (AREA)
- Game Theory and Decision Science (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Quality & Reliability (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Primary Health Care (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
一种基于长短时记忆网络和NSGA‑II算法的洪水预报模型多目标优化方法，首先，确定长短时记忆LSTM网络洪水预报模型的结构，将收集与整理的研究流域场次洪水资料划分为训练集、测试集场次，截取每次洪水的前期降雨序列使每个样本的输入降雨序列长度相等，得到训练集、测试集样本的输入降雨序列。其次，根据防洪保护对象的实际需求设计多个目标函数，构建LSTM洪水预报模型参数多目标优化框架，将LSTM洪水预报模型的前向计算嵌套至多目标优化框架内，循环更新与评价模型参数组，得到最优参数组。最后，将最优参数组输入LSTM洪水预报模型，并评估分析LSTM洪水预报模型的模拟、预报效果。本发明能够满足不同场景下LSTM洪水预报模型参数多目标优化的需求，为山洪灾害预报预警工作提供了新的技术支撑。
Description
技术领域
本发明属于洪水预报技术领域，涉及一种基于长短时记忆网络和NSGA-Ⅱ算法的洪水预报模型参数多目标优化方法。
背景技术
随着进化算法的发展和高性能计算革命的兴起，机器学习以其高效的数据处理能力和强大的泛化能力引起了广大水文工作者的注意，机器学习模型与洪水预报的交叉研究已成为当下国内外水文领域的研究热点之一。长短时记忆(LSTM)网络作为一种特殊的循环神经网络(RNN)，借助其内部特殊控制门和细胞单元状态能够学习输入序列数据的长期依赖关系，有效避免了梯度消失的问题，目前已在语音识别、机器翻译、计算机视觉等领域取得成功应用，也逐渐被应用于洪水预报领域。但受限于TensorFlow、Keras和Pytorch等主流深度学习框架下机器学习模型构建、训练和测试的计算模式，LSTM洪水预报模型的参数优化过程只能设置单一目标(损失)函数，无法满足LSTM洪水预报模型多目标参数优化的实际需求，从而难以反映流域水文***的不同动态行为特征，且无法兼顾流域内不同防洪保护对象对洪水预报模型输出值的需求。因此，要实现LSTM洪水预报模型参数的多目标优化必须摆脱现有深度学习框架的限制，重新构建LSTM洪水预报模型参数多目标优化框架。
带精英策略的快速非支配排序遗传算法(NSGA-II)是传统水文模型参数优化中应用较为广泛的多目标优化算法，该算法最大的特点是适用于低维多目标优化问题，降低了非劣排序遗传算法的复杂性，通过引入精英策略提高优化结果的精度，具有运行速度快，解集收敛性好的优点。为此，本发明立足于提高山丘区中小流域洪峰值的预报精度，提出一种新的模型参数多目标优化方法。以NSGA-II作为洪水预报模型的多目标优化算法，构建LSTM洪水预报模型参数的多目标优化框架，将LSTM洪水预报模型计算的多个目标函数值反馈给优化算法来调整与更新洪水预报模型参数组，实现基于长短时记忆网络和NSGA-II算法的洪水预报模型参数多目标优化，以提高洪水预报模型的峰值模拟和预报性能。
发明内容
本发明针对现有技术存在的问题，提供了一种基于长短时记忆网络和NSGA-II算法的洪水预报模型参数多目标优化方法。
为了达到上述目的，本发明采用的技术方案如下：
一种基于长短时记忆网络和NSGA-II算法的洪水预报模型参数多目标优化方法，包括以下步骤：
第一步，确定长短时记忆(LSTM)网络洪水预报模型的结构。
1.1)设计模型输入输出结构：模型输入为流域内各雨量站长序列实测降雨，输入长度为n个时段，每次洪水输入的长度n均相同。模型输出为与场次洪水历时相等的流量值序列，输出长度为l个时段，l≤n；
1.2)给定长短时记忆(LSTM)网络洪水预报模型的隐藏层层数和隐藏层神经元节点数量。
第二步，生成样本。
收集与整理研究流域场次洪水资料，并将所有场次洪水划分为训练集、测试集场次。其中，训练集场次洪水用于优化LSTM洪水预报模型的参数；测试集场次洪水用于检验训练后模型的外推能力。根据第一步设计的模型输入输出结构确定样本长度，每次洪水对应一个样本，截取每次洪水的前期降雨序列使每个样本的输入降雨序列长度等于n，获得输入降雨序列P＝[P1,P2,…,Pt,…,Pn]。其中，n为LSTM洪水预报模型输入降雨序列长度(h)，每一时间步的输入降雨Pt包含流域内各雨量站第t个时段的降雨量。
第三步，设计多目标函数。
不同的防洪保护对象在洪水预报中具有不同的关注重点。山丘区中小流域的洪水预报重点关注流域出口或河道控制断面的峰值是否达到预警流量，相应的洪水预报模型应侧重考虑洪峰相对误差，尤其大洪水的洪峰误差；入库洪水预报中入库洪量和洪水过程是水库管理人员关注的重点，洪水预报模型既要考虑产流量(次洪量)预报精度，又要关注洪峰流量大小和场次洪水过程；若以河道防洪为主，则应侧重考虑河道控制断面的洪峰流量与峰现时间预报结果。因此，洪水预报模型需根据防洪保护对象的实际需求设置多个目标函数进行参数优化。流域洪水预报常用的单目标函数包括：场次洪水峰值合格率、峰现时间合格率、纳什效率系数合格率、均方误差和加权均方误差等。
第四步，LSTM洪水预报模型的前向计算。主要步骤如下：
4.1)输入训练集样本数据，给定一组LSTM洪水预报模型的控制门、细胞单元状态的权重矩阵和偏置向量参数Wf、Uf、bf、Wc、Uc、bc、Wi、Ui、bi、Wo、Uo、bo以及输出层权重矩阵和参数Wout、bout。其中，Wf、Uf、bf分别为遗忘门输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wc、Uc、bc分别为细胞单元更新状态中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wi、Ui、bi分别为输入门中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wo、Uo、bo分别为输出门中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wout、bout分别为输出层的权重矩阵和偏置向量；
4.2)初始化模型内部状态，令输入门、遗忘门、输出门、细胞单元状态和隐藏状态的初始状态i0、f0、o0、h0、C0均等于零向量，向量长度等于神经元节点数量；
4.3)逐时段循环计算，第t时段的计算涉及遗忘门的门控状态ft、细胞单元潜在更新状态输入门的门控状态it、输出门的门控状态ot、细胞单元状态Ct和隐藏状态ht，其中t＝1,2,…,n；
4.4)提取LSTM洪水预报模型的输出隐藏状态序列h＝[h1,h2,h3,…,hn]；
4.5)计算LSTM洪水预报模型的输出流量值序列Q＝[Q1,Q2,Q3,…,Qn]；
4.6)提取每个样本对应的模型输出流量值序列Q＝[Qn-l+1,Qn-l+2,Qn-l+3,…,Qn]，l为样本的输出长度，其值大小等于场次洪水历时。
第五步，构建LSTM洪水预报模型参数多目标优化框架，求解多目标优化问题。
基于Platypus库调用NSGA-II算法，通过设置算法的种群规模、评价次数、二进制交叉算子(SBX)及多项式变异概率(PM)等参数取值，搭建NSGA-II多目标优化框架。将第四步中LSTM洪水预报模型的前向计算嵌套至多目标优化框架内，以第三步设计的多个目标函数作为LSTM洪水预报模型参数优化的目标函数，更新一组LSTM洪水预报模型参数(权重矩阵和偏置向量)，并提取LSTM洪水预报模型前向计算中每个样本对应的模型输出流量值序列，在此基础上计算出多个目标函数值来评价当前这组模型参数的优劣。以NSGA-Ⅱ算法的评价次数作为循环次数，重复上述参数更新与评价过程，直至多个目标函数结果收敛，使模型总体的拟合性能达到最优，从而得到最优参数组。
第六步，将第五步优选得到的参数输入LSTM洪水预报模型，利用训练集、测试集样本数据评估分析多目标函数优化的LSTM洪水预报模型的模拟、预报效果。
本发明提出了一种基于长短时记忆网络和NSGA-II算法的洪水预报模型参数多目标优化方法，将LSTM洪水预报模型的前向计算嵌套至NSGA-II多目标优化框架内，实现LSTM洪水预报模型参数多目标优化，提升机器学习洪水预报模型的性能。
上述基于长短时记忆网络和NSGA-II算法的多目标优化方法应用于流域洪水预报。
本发明的有益效果为：基于主流的深度学习框架下构建长短时记忆(LSTM)网络洪水预报模型无法实现模型参数多目标优化，本发明将LSTM洪水预报模型的前向计算嵌套至多目标优化框架内，利用NSGA-II算法求解多目标优化问题，构建了LSTM洪水预报模型参数多目标优化框架，能够满足不同场景下模型参数多目标优化的实际需求；同时针对山丘区中小流域洪水预报侧重于洪峰预报的实际需求，开展了LSTM洪水预报模型参数多目标优化示范应用，有效提高了山丘区中小流域场次洪水峰值模拟、预报精度，为山洪灾害预报预警工作提供了新的技术支撑。
附图说明
图1是本发明实例应用所采用的安和流域图；
图2是本发明生成样本示意图；
图3是本发明LSTM洪水预报模型参数多目标优化框架图；
图4是本发明LSTM洪水预报模型参数优选计算过程示意图；
图5是本发明多目标函数方案下LSTM洪水预报模型场次洪水洪峰流量模拟与预报结果图，其中图5(a)为训练集场次洪水洪峰流量模拟与预报结果图，图5(b)为测试集场次洪水洪峰流量模拟与预报结果图；
图6是本发明多目标函数方案下LSTM洪水预报模型典型场次洪水的模拟、预报流量过程图，其中图(a)为19970620场次洪水模拟结果，图(b)为20040705次洪水预报结果，图(c)为20010609场次洪水模拟结果，图(d)为20050619场次洪水预报结果，图(e)为20010801场次洪水模拟结果；图(f)为20060505场次洪水预报结果；图(g)为20020728场次洪水模拟结果；图(h)为20060725场次洪水预报结果。
具体实施方式
以下结合具体实施例对本发明作进一步说明。
本发明提出了一种基于长短时记忆网络和NSGA-II算法的洪水预报模型参数多目标优化方法。研究流域实例应用中训练集、测试集场次洪水的结果分别代表了LSTM洪水预报模型的模拟、预报性能。下面通过实施案例，并结合附图，对本发明做进一步说明。
安和流域位于江西省赣州市上犹县，地处东经114°-114°40′，北纬25°42′-26°01′，流域面积为251km2。该流域内植被发育良好，属于亚热带丘陵山区湿润季风气候区，雨量充沛，年均降雨量1497mm，平均气温18.8℃，安和流域地形及水文测站分布见图1。选取该山丘区中小流域作为研究实例进行洪水预报，实现基于长短时记忆网络和NSGA-II算法的洪水预报模型多目标优化。主要步骤如下：
第一步，确定长短时记忆(LSTM)网络洪水预报模型的结构。
1.1)将流域内各雨量站长序列实测降雨作为模型输入，输入长度为486h；输出流量值序列长度等于场次洪水历时；
1.2)LSTM洪水预报模型的隐藏层为单层，隐藏层神经元节点数量为5个。
第二步，生成样本。
收集与整理得到安和流域86场实测洪水过程。其中，61场为训练集场次，用于优化LSTM洪水预报模型的参数；25场为测试集场次，用于检验训练后模型的外推能力。截取每次洪水的前期降雨序列使每个样本的输入降雨序列长度等于486h，获得输入降雨序列P＝[P1,P2,…,Pt,…,P486]。其中，每一时间步的输入降雨Pt包含流域内8个雨量站第t个时段的降雨量。以场次洪水19940613为例，选取的计算样本如图2所示。
第三步，设计多目标函数。
针对山丘区中小流域洪水预报侧重于场次洪水峰值预报的实际需求，设置组合加权均方误差(WMSE)作为优化目标函数之一，将每次洪水过程中的流量值划分为高、中、低量级流量，划分阈值按照场次洪水实测洪峰值的2/3、1/3进行设置。其中，大于洪峰值2/3的为高流量，小于洪峰值1/3的为低流量，其余为中流量。MSE公式见式(1)，WMSE计算公式见式(2)。
WMSE＝k1HMSE+k2MMSE+k3LMSE (2)
式中：Qij,sim、Qij,obs分别为第i场洪水第j时段的预报流量值和实测流量值，单位为m3/s；HMSE、MMSE和LMSE分别为高流量、中流量和低流量对应的均方误差MSE计算值；k1、k2和k3为权重系数，三者取值大小需符合k1＞k2＞k3的约束。采用试错法选取权重系数的若干组合，最终根据模型在训练集场次洪水中的表现确定取值，其中k1＝10.0，k2＝1.0，k3＝0.1。
设置两种多目标函数优化方案，并与TensorFlow深度学习框架下单目标函数MSE方案进行对比：
1)QRP-QRT-NSE：以场次洪水的峰值合格率QRP、峰现时间合格率QRT和纳什效率系数NSE合格率作为目标函数，三者均越大越优；
2)WMSE-QRP：以加权均方误差WMSE为目标函数，同时兼顾场次洪水峰值合格率QRP。加权均方误差WMSE越小越优，场次洪水峰值合格率QRP越大越优；
3)TensorFlow-MSE：深度学习框架TensorFlow下以均方误差MSE为目标函数。
其中，洪峰流量相对误差≤20％视为合格；峰现时间绝对误差≤2h视为合格；场次洪水模拟、实测过程纳什效率系数NSE大于0.7视为合格。峰值合格率QRP计算见式(3)，峰现时间合格率QRT计算见式(4)，纳什效率系数NSE计算见式(5)。
式中：NP表示场次洪水洪峰流量合格数量，NT表示场次洪水峰现时间合格数量，N表示场次洪水总数；Qij,sim、Qij,obs分别为第i场洪水第j时段的预报流量值和实测流量值，单位为m3/s；为场次洪水平均实测流量，单位为m3/s。
第四步，LSTM洪水预报模型的前向计算。主要步骤如下：
4.1)输入训练集样本数据，给定一组LSTM洪水预报模型的控制门、细胞单元状态的权重矩阵和偏置向量参数Wf、Uf、bf、Wc、Uc、bc、Wi、Ui、bi、Wo、Uo、bo以及输出层权重矩阵和参数Wout、bout。其中，Wf、Uf、bf分别为遗忘门输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wc、Uc、bc分别为细胞单元更新状态中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wi、Ui、bi分别为输入门中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wo、Uo、bo分别为输出门中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wout、bout分别为输出层的权重矩阵和偏置向量；
4.2)初始化模型内部状态，令输入门、遗忘门、输出门、细胞单元状态和隐藏状态的初始状态i0、f0、o0、h0、C0均等于零向量，向量长度等于神经元节点数量；
4.3)逐时段循环计算，第t时段的计算涉及遗忘门的门控状态ft、细胞单元潜在更新状态输入门的门控状态it、输出门的门控状态ot、细胞单元状态Ct和隐藏状态ht，其中t＝1,2,…,486；
4.4)提取LSTM洪水预报模型的输出隐藏状态序列h＝[h1,h2,h3,…,h486]；
4.5)计算LSTM洪水预报模型的输出流量值序列Q＝[Q1,Q2,Q3,…,Q486]；
4.6)提取每个样本对应的模型输出流量值序列Q＝[Q486-l+1,Q486-l+2,Q486-l+3,…,Q486]，l为样本的输出长度，其值大小等于场次洪水历时。
第五步，构建LSTM洪水预报模型参数多目标优化框架，求解多目标优化问题。
基于Platypus库调用NSGA-II算法，将算法中种群规模设置为100，评价次数为5万，二进制交叉算子(SBX)取值为(1.0，15.0)，多项式变异概率(PM)取值为(0.125，20.0)，搭建NSGA-II多目标优化框架，见图3。将第四步中LSTM洪水预报模型的前向计算嵌套至多目标优化框架内，以第三步设计的多个目标函数作为LSTM洪水预报模型参数优化的目标函数，更新一组LSTM洪水预报模型参数(权重矩阵和偏置向量)，并提取LSTM洪水预报模型前向计算中每个样本对应的模型输出流量值序列，在此基础上计算出多个目标函数值来评价这一组模型参数的优劣。以NSGA-Ⅱ算法的评价次数作为循环次数，重复上述参数更新与评价过程，直至多个目标函数结果收敛，使模型总体的拟合性能达到最优，得到最优参数组。多目标优化框架下LSTM洪水预报模型参数优选计算过程见图4。
第六步，将第五步优选的参数输入LSTM洪水预报模型，对比分析单目标及两种多目标函数方案下的LSTM洪水预报模型的场次洪水模拟、预报结果。
评价指标采用场次洪水的峰值合格率QRP、峰现时间合格率QRT、纳什效率系数NSE、平均绝对误差MAE以及平均均方根误差RMSE。MAE计算见式(6)，RMSE计算见式(7)。
式中：Qij,sim、Qij,obs分别为第i场洪水第j时段的预报流量值和实测流量值，单位为m3/s。
安和流域多目标函数方案LSTM洪水预报模型场次洪水模拟、预报统计结果见表1。就山丘区中小流域重点关注的场次洪水洪峰流量而言，多目标函数方案优化得到的LSTM洪水预报模型对场次洪水的峰值模拟、预报能力整体上要优于基于TensorFlow框架训练的LSTM洪水预报模型，尤其场次洪水的峰值合格率QRP、峰现时间合格率QRT明显优于TensorFlow深度学习框架下MSE损失函数取得的结果。此外，以场次洪水峰值合格率QRP、加权均方差WMSE组成的多目标函数方案优化的LSTM洪水预报模型的洪峰合格率最高，安和流域场次洪水峰值模拟、预报合格率分别可达到0.902和0.88，说明加大高流量的权重能显著提升模型对洪峰值的拟合与预报能力。
表1多目标函数方案下LSTM洪水预报模型洪水预报结果
图5为上述两种多目标函数方案下训练集、测试集场次洪水洪峰流量模拟、预报值与实测值对比图，并给出了计算值与实测值的相关性系数。由图5明显可以看出，以峰值合格率QRP、加权均方差WMSE组成的多目标函数方案优化的LSTM洪水预报模型对场次洪水的峰值模拟、预报效果均更好，训练集、测试集场次洪水模拟、预报洪峰值与实测值相关性系数分别0.946、0.931，且该方案下LSTM洪水预报模型对较大洪峰流量值(大于200m3/s)的模拟、预报结果均更优。
表2为多目标函数方案优化的LSTM洪水预报模型的典型场次洪水的模拟、预报统计结果。图6为多目标函数方案优化的LSTM洪水预报模型的典型场次洪水模拟、预报洪水过程图。由表2和图6可明显看出，以峰值合格率QRP、加权均方差WMSE组成的多目标函数(QRP-WMSE)方案优化的LSTM洪水预报模型的洪峰相对误差较其余两种目标函数方案更小，训练集、测试集场次洪水的模拟、预报洪峰值更接近于实测洪峰值，且低流量阶段的场次洪水模拟、预报流量过程线稍高于其余两种目标函数方案，说明通过多目标优化方法得到的LSTM洪水预报模型对山丘区中小流域场次洪水高流量值的预报能力更强。
表2不同目标函数下LSTM洪水预报模型典型场次洪水模拟、预报结果
以上结果表明本发明提出的基于长短时记忆网络和NSGA-II算法的洪水预报模型多目标优化方法能够有效提高LSTM洪水预报模型在山丘区中小流域的场次洪水峰值和峰现时间模拟、预报精度。
以上所述实施例仅表达本发明的实施方式，但并不能因此而理解为对本发明专利的范围的限制，应当指出，对于本领域的技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些均属于本发明的保护范围。
Claims (1)
1.一种基于长短时记忆网络和NSGA-II算法的洪水预报模型参数多目标优化方法，其特征在于，所述洪水预报模型参数多目标优化方法能够应用于流域洪水预报，包括以下步骤：
第一步，确定长短时记忆LSTM网络洪水预报模型的结构；
1.1)设计模型输入输出结构：模型输入为流域内各雨量站长序列实测降雨，输入长度为n个时段，每次洪水输入的长度n均相同；模型输出为与场次洪水历时相等的流量值序列，输出长度为l个时段，l≤n；
1.2)给定长短时记忆LSTM网络洪水预报模型的隐藏层层数和隐藏层神经元节点数量；
第二步，生成样本；
收集与整理研究流域场次洪水资料，并将所有场次洪水划分为训练集、测试集场次；其中，训练集场次洪水用于优化LSTM洪水预报模型的参数；测试集场次洪水用于检验训练后模型的外推能力；根据第一步设计的模型输入输出结构确定样本长度，每次洪水对应一个样本，截取每次洪水的前期降雨序列使每个样本的输入降雨序列长度等于n，获得输入降雨序列P＝[P1,P2,…,Pt,…,Pn]；其中，n为LSTM洪水预报模型输入降雨序列长度(h)，每一时间步的输入降雨Pt包含流域内各雨量站第t个时段的降雨量；
第三步，洪水预报模型根据防洪保护对象的实际需求设置多个目标函数进行参数优化；
第四步，LSTM洪水预报模型的前向计算；步骤如下：
4.1)输入训练集样本数据，给定一组LSTM洪水预报模型的控制门、细胞单元状态的权重矩阵和偏置向量参数Wf、Uf、bf、Wc、Uc、bc、Wi、Ui、bi、Wo、Uo、bo以及输出层权重矩阵和参数Wout、bout；其中，Wf、Uf、bf分别为遗忘门输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wc、Uc、bc分别为细胞单元更新状态中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wi、Ui、bi分别为输入门中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wo、Uo、bo分别为输出门中输入特征的权重矩阵、隐藏状态的权重矩阵和偏置向量，Wout、bout分别为输出层的权重矩阵和偏置向量；
4.2)初始化模型内部状态，令输入门、遗忘门、输出门、细胞单元状态和隐藏状态的初始状态i0、f0、o0、h0、C0均等于零向量，向量长度等于神经元节点数量；
4.3)逐时段循环计算，第t时段的计算涉及遗忘门的门控状态ft、细胞单元潜在更新状态输入门的门控状态it、输出门的门控状态ot、细胞单元状态Ct和隐藏状态ht，其中t＝1,2,…,n；
4.4)提取LSTM洪水预报模型的输出隐藏状态序列h＝[h1,h2,h3,…,hn]；
4.5)计算LSTM洪水预报模型的输出流量值序列Q＝[Q1,Q2,Q3,…,Qn]；
4.6)提取每个样本对应的模型输出流量值序列Q＝[Qn-l+1,Qn-l+2,Qn-l+3,…,Qn]，l为样本的输出长度，其值大小等于场次洪水历时；
第五步，构建LSTM洪水预报模型参数多目标优化框架，求解多目标优化问题；
基于Platypus库调用NSGA-II算法，通过设置算法的种群规模、评价次数、二进制交叉算子SBX及多项式变异概率PM参数取值，搭建NSGA-II多目标优化框架；
将第四步中LSTM洪水预报模型的前向计算嵌套至多目标优化框架内，以第三步设计的多个目标函数作为LSTM洪水预报模型参数优化的目标函数，更新一组LSTM洪水预报模型的权重矩阵和偏置向量，并提取LSTM洪水预报模型前向计算中每个样本对应的模型输出流量值序列，在此基础上计算出多个目标函数值来评价当前这组模型参数的优劣；
以NSGA-Ⅱ算法的评价次数作为循环次数，重复上述参数更新与评价过程，直至多个目标函数结果收敛，使模型总体的拟合性能达到最优，从而得到最优参数组；
第六步，将第五步优选得到的参数输入LSTM洪水预报模型，利用训练集、测试集样本数据评估分析多目标函数优化的LSTM洪水预报模型的模拟、预报效果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111079661.4A CN113887787B (zh) | 2021-09-15 | 2021-09-15 | 一种基于长短时记忆网络和nsga-ii算法的洪水预报模型参数多目标优化方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111079661.4A CN113887787B (zh) | 2021-09-15 | 2021-09-15 | 一种基于长短时记忆网络和nsga-ii算法的洪水预报模型参数多目标优化方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113887787A CN113887787A (zh) | 2022-01-04 |
| CN113887787B true CN113887787B (zh) | 2024-05-07 |
Family
ID=79009160
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111079661.4A Active CN113887787B (zh) | 2021-09-15 | 2021-09-15 | 一种基于长短时记忆网络和nsga-ii算法的洪水预报模型参数多目标优化方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113887787B (zh) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114462304B (zh) * | 2022-01-14 | 2024-07-12 | 武汉大学 | 面向水库汛期泄流量智能计算的少样本超级学习方法 |
| CN114525497A (zh) * | 2022-02-16 | 2022-05-24 | 东北大学 | 一种基于lstm和nsga-ⅱ对pecvd镀膜工艺的多参数优化方法 |
| CN114611290B (zh) * | 2022-03-11 | 2023-03-10 | 三峡大学 | 一种基于量变参数水文不确定性处理器的场次洪水水文模型实时预报方法 |
| CN114707753B (zh) * | 2022-04-25 | 2022-12-09 | 河海大学 | 区域化lstm洪水预报方法 |
| CN115017832B (zh) * | 2022-08-09 | 2022-10-25 | 中国民航大学 | 一种面向飞机作动***的状态预测方法 |
| CN116777135B (zh) * | 2023-05-12 | 2023-11-14 | 大连海事大学 | 一种基于高效优化算法的水库-蓄滞洪区精细化防洪联合调度方法 |
| CN117471575B (zh) * | 2023-12-28 | 2024-03-08 | 河海大学 | 基于bo-lstm神经网络模型的台风浪波高预报方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109583565A (zh) * | 2018-11-07 | 2019-04-05 | 河海大学 | 基于注意力模型长短时记忆网络的洪水预测方法 |
| CN111310968A (zh) * | 2019-12-20 | 2020-06-19 | 西安电子科技大学 | 一种基于互信息的lstm神经网络循环水文预报方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105512767B (zh) * | 2015-12-15 | 2019-06-11 | 武汉大学 | 一种多预见期的洪水预报方法 |
-
2021
- 2021-09-15 CN CN202111079661.4A patent/CN113887787B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109583565A (zh) * | 2018-11-07 | 2019-04-05 | 河海大学 | 基于注意力模型长短时记忆网络的洪水预测方法 |
| CN111310968A (zh) * | 2019-12-20 | 2020-06-19 | 西安电子科技大学 | 一种基于互信息的lstm神经网络循环水文预报方法 |
Non-Patent Citations (1)
| Title |
|---|
| Channel head extraction based on fuzzy unsupervised machine learning method;Jian Wu 等;《Geomorphology》;20210812;第391卷;1-12 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113887787A (zh) | 2022-01-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113887787B (zh) | 一种基于长短时记忆网络和nsga-ii算法的洪水预报模型参数多目标优化方法 | |
| CN113468803B (zh) | 一种基于改进的woa-gru洪水流量预测方法及*** | |
| CN109272146A (zh) | 一种基于深度学习模型和bp神经网络校正的洪水预测方法 | |
| CN116721537A (zh) | 基于gcn-ipso-lstm组合模型的城市短时交通流预测方法 | |
| CN113554466A (zh) | 一种短期用电量预测模型构建方法、预测方法和装置 | |
| CN113591954A (zh) | 一种工业***中缺失的时序数据的填充方法 | |
| CN112733417A (zh) | 一种基于模型优化的异常负荷数据检测与修正方法和*** | |
| CN112182063A (zh) | 一种基于时空特征的水文预报模型的构建方法 | |
| CN114357670A (zh) | 一种基于bls和自编码器的配电网用电数据异常预警方法 | |
| Shang et al. | Research on intelligent pest prediction of based on improved artificial neural network | |
| CN115239029A (zh) | 考虑功率时序及气象相依特性的风电功率预测方法及*** | |
| CN114386677A (zh) | 一种基于新型通用输入输出结构与长短时记忆网络的洪水预报方法 | |
| CN111914488B (zh) | 一种基于对抗神经网络的有资料地区水文参数率定方法 | |
| CN117407802A (zh) | 一种基于改进深度森林模型径流预测方法 | |
| CN116894504A (zh) | 一种风电集群功率超短期预测模型建立方法 | |
| CN111310974A (zh) | 一种基于ga-elm的短期需水预测方法 | |
| CN115860165A (zh) | 一种考虑初损的神经网络流域降雨径流预报方法及*** | |
| CN115330085A (zh) | 基于深度神经网络且无未来信息泄露的风速预测方法 | |
| Shterev et al. | Time series prediction with neural networks: a review | |
| CN114357865A (zh) | 一种水电站径流及其关联源荷功率年场景模拟和预测方法 | |
| CN115330036A (zh) | 基于GRU-Seq2Seq的多步长洪水预报方法及装置 | |
| CN115130662A (zh) | 一种基于迁移学习的配电网时变拓扑状态估计方法 | |
| CN111914487B (zh) | 一种基于对抗神经网络的无资料地区水文参数率定方法 | |
| CN114219122A (zh) | 基于网格气象数据的小水电站发电功率超短期预测方法 | |
| CN114169585B (zh) | 基于马尔可夫链和组合模型的风力发电功率预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |