CN103886397B - 一种分治法与水质周期性结合的水质预测方法 - Google Patents

Abstract

本发明公开了一种分治法与水质周期性结合的水质预测方法，属于水质预测技术领域。本发明提出的水质预测方法针对单一预测器较难对水质数据的复杂变化规律进行充分学习，易造成预测精度不佳的问题，采用了基于数据驱动问题分解求解框架，该框架在学习过程中能够根据数据特点对问题空间进行自主划分，无需人工指定预测器数量，具有更好的鲁棒性。通过将预测器效果评价及水质数据周期性进行融合，更好地利用了水质数据在时间尺度上的变化特点，实现了更加准确的问题分解算法。根据框架学习内容，将待预测的数据映射至对应具有预测优势的预测器组中，由对应的预测器加权得到预测结果，具有更好的准确性及稳定性。

Description

一种分治法与水质周期性结合的水质预测方法

技术领域

本发明属于水质预测技术领域，涉及一种分治法与水质周期性结合的水质预测方法。

背景技术

水质预测是水资源管理中的重要一环。对水质变化规律的精确预测能够实现对水质恶化及水华爆发等污染性事件进行预警，为相关决策提供参照。目前，水质预测方法主要分为两类。第一类是基于水质机理中水流、物理、化学等因子的模型，如QUASAR及WASP等。基于机理的模型较好地综合考虑了水质所受到的各种环境因素，也在多个流域进行了应用，但其需要较为完备的观测样本及先验知识，在不同流域中所受局限较大。同时，人工智能、机器学习理论的快速发展为我们提供了更多的预测方法，能够在多变的环境下获得较高的预测准确率。灰度模型(GM)能够较好地处理时序数据，即使在数据量较小时也能够保持较好的预测精度。人工神经网络(ANN)通过具有以任意精度逼近任意非线性函数的能力，当训练样本充分多时可获得精确的预测效果。在过去15年中，人工神经网络被广泛使用在水资源及环境工程领域的指数预测中，其中包含了不同构造的人工神经网络，如BP神经网络、RBF神经网络等。支持向量机(SVM)也在水质预测领域中有所应用，由于参数选择对支持向量机的预测效果影响较大，因此在将支持向量机与不同参数寻优方法结合的水质预测研究方面也有许多研究，如基于遗传算法的、基于粒子群的。

除使用单一预测模型的预测方法之外，使用多个预测模型的研究也已开展多年。由于水质数据变化复杂，具有在不同时间、季节呈现不同变化规律的特点，单一预测器较难对水质数据的复杂变化规律进行充分学习，易造成预测精度不佳。而集成预测模型则可将多个预测器联合并增强，以获得更好的学习效果。在水质预测方面，基于多模型集成的研究也是业界的热点。如Partalas等人提出的基于贪婪选择的水质集成预测算法；Faruk将人工神经网络算法同ARIMA算法混合以处理水质预测问题中的线性部分及非线性部分；孙兆兵等也提出了基于概率组合的水质集成预测模型。

如上述所提到的研究，通常在集成模型中，对每个子预测器都需进行一次完全的训练，因此训练时间也显著地增加了。同时，寻找子预测器中的差异并对其确定权重是集成模型中的关键，因为每个子预测器均被训练为解决同一个问题。而采用问题分解的分治法可以将整个问题分为若干个子问题，之后对规模较小的子问题再进行特定的训练，具有较少的训练时间。相对地，寻找合适的问题分解算法是分治法的关键。

对水质预测问题来说，因水质数据复杂多变，分解后的子问题数量难以进行人工指定。而基于数据驱动，通过挖掘数据本身特点对模型进行自调整，可以实现对因此具有自适应问题分解能力的分解算法更适合解决水质预测问题。王国胤等提出了基于NARA模型的并行神经网络结构(PNN)，其问题分解算法能够根据训练数据的特点，通过各个网络的拟合情况反应数据的特点，基于数据驱动自行决定问题的划分及问题分解的数量。其在双螺旋识别问题上的良好表现也证明PNN算法具有较好的问题分解能力，适用于特征变化复杂的数据集。但当处理水质数据时，PNN算法仍需进行改进以更好地适应水质数据的特征。

发明内容

有鉴于此，本发明的目的在于提供一种分治法与水质周期性结合的水质预测方法，该方法针对单一预测器较难对水质数据的复杂变化规律进行充分学习，易造成预测精度不佳的问题，提出了基于数据驱动问题分解求解框架，并且通过将预测器效果评价及水质数据周期性进行融合，更好地利用了水质数据在时间尺度上的变化特点，实现了更加准确的问题分解算法。

为达到上述目的，本发明提供如下技术方案：

一种分治法与水质周期性结合的水质预测方法，包括以下步骤：步骤一：对原始水质数据进行预处理；步骤二：DDM-ERM预测模型训练；步骤三：DDM-ERM模型输出，在DDM-ERM模型训练完毕之后，获得对各个样本组的子预测器组及其对应权重，对于待预测的样本，首先根据其所处时间计算出对应样本组，再将其作为对应样本组的预测器组输入，获取其加权输出即为模型的预测结果。

进一步，在步骤一中，DDM-ERM使用固定长度滑动窗口算法从原始水质数据中生成子序列数据并进行一步向前预测，通过将时间序列数据转化为多个短时子序列数据，更好地对水质变化规律进行充分学习；设水质时间序列数据中相邻数据的时间间隔为T_interval，而某时刻的水质情况与之前T_pre时间内的水质情况呈显著相关，则在进行一步向前预测时，取滑动窗口长度为其具体步骤如下：

设r＝[t₁ t₂ ... t_k]为水质时间序列数据，滑动窗口长度为k，子序列集合

1)设置滑动窗口位置为1，此时位于滑动窗口内的水质数据集合为c＝{t_i|1＜＝i＜＝k}；

2)将滑动窗口内的水质数据集合c转化为一个m的子序列向量r，其中[t₁ t₂ ...t_k-1]作为该子序列r的输入，而t_k作为该子序列r的输出；

3)将子序列向量r加入到子序列集合C中，将滑动窗口向后滑动一个单位，若滑动窗口位置p＜＝n-k则跳至第二步；否则输出子序列集合C，算法结束；

经过长度为k的滑动窗口算法之后，长度为n的原始水质时间序列数据将会转化为n-k个子序列数据；子序列数据将作为DDM-ERM模型的训练及测试数据。

进一步，在步骤一中，将同阶段水质子序列聚合成组，以组作为问题划分粒度的方案，以减少问题划分的噪点，并对水质数据的周期性知识进行更充分的学习，具体包括：

对原始水质时间序列采用离散傅里叶变换，得到其频域能量分布，取其能量峰值时频率f，则其显著周期长度

在计算获得数据显著周期长度len之后，对子序列集合C＝{r₁,r₂,...r_n}，将其中子序列分为len组，每组内的子序列集合G_i＝{r_m|m＝k×len+i}，其中k为大于等于0的整数，且

进一步，所述步骤二中的模型训练具体包括以下步骤：给定输入子序列样本集合S＝{C_i|1＜＝i＜＝l_en}；第一步：设置训练集S_T＝S，j＝1；第二步：对各个备选的预测器CLR_i，使用训练集S_T进行训练，得到各备选预测器在各组验证集样本上的均方误差MRE_i,j；第三步：根据各备选预测器在各组验证机上的均方误差MRE_i,j，得到当前备选预测器中最优预测器CLR_k；第四步：根据最优预测器CLR_k的预测结果及当前训练集S_T，计算得出未识别样本组S_unrecog：

第五步：若则跳转至第六步；否则根据未识别样本组S_unrecog生成新的训练集S_Tnew，并使S_T＝S_Tnew，跳至第二步，

第六步：训练结束，对各样本组计算各预测器权重，其中，样本组i的预测器RL_j权重为：

进一步，通过以下方式设置训练集：对训练样本集合进行临近扩展，以增加训练样本集合，消除局部周期波动性的影响，具体为：

设周期长度为len，临近扩展长度为β，则对于训练集S，在获得预测器RL_i对其对应验证集的识别情况之后，有：

其中为训练集中的样本组，G_i为验证集中的样本组，S_unrecog为验证集中未识别的样本组。

进一步，在模型训练过程的第二步和第三步中，将样本分为训练集及验证集，以预测器对验证集内的预测结果作为评价标准及输出精确度的计算方式，具体为：

采取均方误差作为误差评价标准，设验证集样本组G_i中共有n个样本，样本k的期望输出为Y_k，加入预测器RL_j后集成预测模型对其输出为则其对验证集样本组G_i的均方误差MRE_i,j为：

设置α为识别阈值，则加入预测器RL_j后集成预测模型能够正确识别样本训练组C_Gi当且仅当MRE_i,j＜α；在计算加入各个预测器后集成预测模型的MRE之后，选择能够使集成预测模型识别验证集样本组最多的第m个预测器：

m＝argmax[Card({i|MSE_i,t＜α}),t]

为当前最优预测器。

本发明的有益效果在于：本发明提出的水质预测方法，在学习过程中能够根据数据特点对问题空间进行自主划分，无需人工指定预测器数量，具有更好的鲁棒性；通过将预测器效果评价及水质数据周期性进行融合，更好地利用了水质数据在时间尺度上的变化特点，实现了更加准确的问题分解算法；根据框架学习内容，将待预测的数据映射至对应具有预测优势的预测器组中，由对应的预测器加权得到预测结果，具有更好的准确性及稳定性。

附图说明

为了使本发明的目的、技术方案和有益效果更加清楚，本发明提供如下附图进行说明：

图1为DDM-ERM算法结构流程图；

图2为DDM-ERM模型输出流程。

具体实施方式

基于NARA模型的并行神经网络结构(PNN)

PNN模型由控制网络CN、识别网络RN_i(i＝1,2,...,p)及逻辑开关LS_i(i＝1,2,...,p)组成，其中，控制网络CN负责对问题空间进行划分。对于给定的输入向量X，控制网络CN能够输出其所属的子空间Q_i并将对应的逻辑开关LS_i闭合，使得只有识别网络RN_i的输出结果才能被选取，而其他识别网络RN_j(j≠i)的输出不会影响到最终结果。对识别网络RN_i来说，它可以较好地处理子空间Q_i中的问题，而不能保证它对于其他子空间中问题的处理效果。当逻辑开关LS_i＝1(即开关闭合)时，它能确保识别网络RN_i的输出会成为框架的有效输出；当LS_i＝0(即开关断开)时，识别网络RN_i的输出将会被框架忽略。

PNN算法的步骤如下：

设S₁为初始训练集合，其所含样本数量为n₁，即S₁＝{(X_i,Y_i)|i＝1,2,...,n₁}。其中，X_i为样本i的输入向量，Y_i为样本i的输出向量。

第一步：使用S₁中的全部样本对识别网络RN₁进行训练，取S₁集合中被RN₁识别的样本组成集合设置变量m＝1。

第二步：若则跳至第五步；否则跳至第三步。

第三步：使用集合中的样本训练识别网络RN_m+1。取S₁集合中被RN_m+1识别的样本组成集合

第四步：设置m＝m+1。跳至第二步。

第五步：使用集合S₁中的所有样本对控制网络CN进行训练。对于样本i∈T_j，控制网络CN对其的输出为：

PNN算法能够根据输入——输出关系，数据驱动地对问题进行分解，并能将不同输入映射至对应识别网络中，能够较好地处理输入——输出关系可分性与输入可分性相对统一的分类问题，因而也适用于变化规律随季节时间变化而不同的水质数据预测问题。但PNN算法采用单一预测器结果评价作为问题分解参考，易出现由于数据波动产生的噪点，影响了问题分解的效果。且部分识别网络训练样本过少，误分代价较大，易造成输出结果不稳定的情况。

本发明在PNN的问题分解算法基础上，提出了基于数据驱动问题分解求解的水质集成预测模型(DDM-ERM)。相对于PNN算法，DDM-ERM能够集成异构的预测器，并进行了多项改进以更加适合水质预测：加入识别阈值使其能够处理回归问题，并增强了收敛性；将预测器结果评价同水质周期性进行结合，降低了单一预测器结果评价产生的噪点对问题分解的影响；对预测难度较大的数据，采用了预测器组加权输出的方式，增加了预测结果的稳定性；并考虑了在训练过程中采用多异构预测器情况下的预测器选择问题。DDM-ERM主要由数据预处理、模型训练、模型输出三部分组成。

下面将结合附图，对本发明的优选实施例进行详细的描述。

图1为DDM-ERM算法结构流程图，图2为DDM-ERM模型输出流程。

1、数据预处理

DDM-ERM使用固定长度滑动窗口算法从原始水质数据中生成子序列数据并进行一步向前预测。通过将时间序列数据转化为多个短时子序列数据，有助于更好地对水质变化规律进行充分学习。设水质时间序列数据中相邻数据的时间间隔为T_interval，而某时刻的水质情况与之前T_pre时间内的水质情况呈显著相关，则在进行一步向前预测时，取滑动窗口长度为

滑动窗口算法步骤如下：

设r＝[t₁ t₂ ... t_k]为水质时间序列数据，滑动窗口长度为k，子序列集合

第一步：设置滑动窗口位置为1，此时位于滑动窗口内的水质数据集合为c＝{t_i|1＜＝i＜＝k}。

第二步：将滑动窗口内的水质数据集合c转化为一个m的子序列向量r，其中[t₁ t₂... t_k-1]作为该子序列r的输入，而t_k作为该子序列r的输出。

第三步：将子序列向量r加入到子序列集合C中。将滑动窗口向后滑动一个单位，若滑动窗口位置p＜＝n-k则跳至第二步；否则输出子序列集合C，算法结束。

经过长度为k的滑动窗口算法之后，长度为n的原始水质时间序列数据将会转化为n-k个子序列数据。子序列数据将作为DDM-ERM模型的训练及测试数据。

2、模型训练

DDM-ERM的模型训练结构如图1所示。

2.1、水质数据的周期计算

针对PNN算法以单个样本作为问题划分的粒度而导致易出现由于数据波动产生噪点的情况，结合水质数据变化规律具有周期性的特点，即时间相隔为周期倍数的样本之间具有相似的水质变化规律，本发明采用将同阶段水质子序列聚合成组，以组作为问题划分粒度的方案，以减少问题划分的噪点，并对水质数据的周期性知识进行更充分的学习。

对原始水质时间序列采用离散傅里叶变换，得到其频域能量分布。取其能量峰值时频率f，则其显著周期长度

在计算获得数据显著周期长度len之后，对子序列集合C＝{r₁,r₂,...r_n}，将其中子序列分为len组，每组内的子序列集合G_i＝{r_m|m＝k×len+i}，其中k为大于等于0的整数，且

2.2预测器结果的评价方式

DDM-ERM算法的问题划分流程同PNN算法相似，在获得各子序列集合样本组之后，对备选的各个预测器RL进行训练，并根据预测器在各组的输出精确度进行问题划分。在PNN算法当中，预测器对训练样本的拟合结果被采用作为评价标准及输出精确度的计算方式。在DDM-ERM算法中，考虑到异构预测器的过拟合程度不同，为了更好地对预测器结果进行度量，采用将样本分为训练集及验证集，以预测器对验证集内的预测结果作为评价标准及输出精确度的计算方式。

采取均方误差(MSE)作为误差评价标准，设验证集样本组G_i中共有n个样本，样本k的期望输出为Y_k，加入预测器RL_j后集成预测模型对其输出为则其对验证集样本组G_i的均方误差MRE_i,j为：

设置α为识别阈值，则加入预测器RL_j后集成预测模型能够正确识别样本训练组C_Gi当且仅当MRE_i,j＜α。在计算加入各个预测器后集成预测模型的MRE之后，选择能够使集成预测模型识别验证集样本组最多的第m个预测器为当前最优预测器：

m＝argmax[Card({i|MSE_i,t＜α}),t] (3)

2.3训练集生成规则

在PNN算法当中，识别网络RN是串行加入的，即是否加入下一个识别网络、下一个识别网络的训练集由上一个识别网络RN的识别情况而决定。因此在进行每轮迭代时，需要制定基于数据驱动的训练集生成规则。

PNN算法的训练集生成规则为：对训练集S中的样本p_i，若p_i已被识别，则将其从训练集S中删去；即对于下一轮迭代，其训练目标样本集合与训练样本集合均为S′＝{p|p未被识别}。

当应用至水质数据时，因水质数据呈现整体周期性，故采用2.1中所述的对水质周期进行计算后对水质数据进行了分组，以保证同组内的水质数据相位之差为周期的整数倍，即其具有相似的变化规律。但考虑到水质数据整体呈现周期性，局部周期具有波动的特征，可通过对训练样本集合进行临近扩展，以增加训练样本集合，消除局部周期波动性的影响。

设周期长度为len，临近扩展长度为β，则对于训练集S，在获得预测器RL_i对其对应验证集的识别情况之后，有：

其中为训练集中的样本组，G_i为验证集中的样本组，S_unrecog为验证集中未识别的样本组。

2.4问题分解及训练流程

DDM-ERM的问题分解及训练详细步骤如下：

给定输入子序列样本集合S＝{C_i|1＜＝i＜＝len}

第一步：设置训练集S_T＝S，j＝1；

第二步：对各个备选的预测器CLR_i，使用训练集S_T进行训练，并根据式(2)得到各备选预测器在各组验证集样本上的均方误差MRE_i,j；

第三步：根据各备选预测器在各组验证机上的均方误差MRE_i,j，根据式(3)得到当前备选预测器中最优预测器CLR_k；

第四步：根据最优预测器CLR_k的预测结果及当前训练集S_T，计算得出未识别样本组S_unrecog：

第五步：若则跳转至第六步；否则根据未识别样本组S_unrecog及式(4)生成新的训练集S_Tnew，并使S_T＝S_Tnew，跳至第二步，

第六步：训练结束，对各样本组计算各预测器权重，其中，样本组i的预测器RL_j权重为：

2.3模型输出

在DDM-ERM模型训练完毕之后，即获得对各个样本组的子预测器组及其对应权重。对于待预测的样本，首先根据其所处时间计算出对应样本组，再将其作为对应样本组的预测器组输入，获取其加权输出即为模型的预测结果。DDM-ERM模型输出流程如图2所示。

最后说明的是，以上优选实施例仅用以说明本发明的技术方案而非限制，尽管通过上述优选实施例已经对本发明进行了详细的描述，但本领域技术人员应当理解，可以在形式上和细节上对其作出各种各样的改变，而不偏离本发明权利要求书所限定的范围。

Claims (3)

1.一种分治法与水质周期性结合的水质预测方法，其特征在于：包括以下步骤：

步骤一：对原始水质数据进行预处理；

步骤二：DDM-ERM预测模型训练；

步骤三：DDM-ERM模型输出，在DDM-ERM模型训练完毕之后，获得对各个样本组的子预测器组及其对应权重，对于待预测的样本，首先根据其所处时间计算出对应样本组，再将其作为对应样本组的预测器组输入，获取其加权输出即为模型的预测结果；

在步骤一中，DDM-ERM使用固定长度滑动窗口算法从原始水质数据中生成子序列数据并进行一步向前预测，通过将时间序列数据转化为多个短时子序列数据，更好地对水质变化规律进行充分学习；设水质时间序列数据中相邻数据的时间间隔为T_interval，而某时刻的水质情况与之前T_pre时间内的水质情况呈显著相关，则在进行一步向前预测时，取滑动窗口长度为其具体步骤如下：

设r＝[t₁ t₂ ... t_k]为水质时间序列数据，滑动窗口长度为k，子序列集合

1)设置滑动窗口位置为1，此时位于滑动窗口内的水质数据集合为c＝{t_i|1＜＝i＜＝k}；

2)将滑动窗口内的水质数据集合c转化为一个m的子序列向量r，其中[t₁ t₂ ... t_k-1]作为该子序列r的输入，而t_k作为该子序列r的输出；

3)将子序列向量r加入到子序列集合C中，将滑动窗口向后滑动一个单位，若滑动窗口位置p＜＝n-k则跳至第二步；否则输出子序列集合C，算法结束；

经过长度为k的滑动窗口算法之后，长度为n的原始水质时间序列数据将会转化为n-k个子序列数据；子序列数据将作为DDM-ERM模型的训练及测试数据；

在步骤一中，将同阶段水质子序列聚合成组，以组作为问题划分粒度的方案，以减少问题划分的噪点，并对水质数据的周期性知识进行更充分的学习，具体包括：

对原始水质时间序列采用离散傅里叶变换，得到其频域能量分布，取其能量峰值时频率f，则其显著周期长度

在计算获得数据显著周期长度len之后，对子序列集合C＝{r₁,r₂,...r_n}，将其中子序列分为len组，每组内的子序列集合G_i＝{r_m|m＝k×len+i}，其中k为大于等于0的整数，且所述步骤二中的模型训练具体包括以下步骤：

给定输入子序列样本集合S＝{C_i|1＜＝i＜＝len}

第一步：设置训练集S_T＝S，j＝1；

第二步：对各个备选的预测器CLR_i，使用训练集S_T进行训练，得到各备选预测器在各组验证集样本上的均方误差MRE_i,j；

第三步：根据各备选预测器在各组验证机上的均方误差MRE_i,j，得到当前备选预测器中最优预测器CLR_k；

第四步：根据最优预测器CLR_k的预测结果及当前训练集S_T，计算得出未识别样本组S_unrecog：

第五步：若则跳转至第六步；否则根据未识别样本组S_unrecog生成新的训练集S_Tnew，并使S_T＝S_Tnew，跳至第二步，

第六步：训练结束，对各样本组计算各预测器权重，其中，样本组i的预测器RL_j权重为：

$w_{i,j}=\frac{e^{-{\mathrm{MSE}}_{i,j}}}{\underset{j=1}{\overset{n}{\Σ}}{e}^{-{\mathrm{MSE}}_{i,j}}}.$

2.根据权利要求1所述的一种分治法与水质周期性结合的水质预测方法，其特征在于：通过以下方式设置训练集：对训练样本集合进行临近扩展，以增加训练样本集合，消除局部周期波动性的影响，具体为：

设周期长度为len，临近扩展长度为β，则对于训练集S，在获得预测器RL_i对其对应验证集的识别情况之后，有：

$S_{new}=\underset{i=1}{\overset{len}{U}}\left\{G_{T_j}\right|\left(\right(j-i+len\left)\mathrm{mod}len\right)\≤{\mathrm{\βUG}}_i\⊆S_{unrecog}\}$

其中为训练集中的样本组，G_i为验证集中的样本组，S_unrecog为验证集中未识别的样本组。

3.根据权利要求2所述的一种分治法与水质周期性结合的水质预测方法，其特征在于：在模型训练过程的第二步和第三步中，将样本分为训练集及验证集，以预测器对验证集内的预测结果作为评价标准及输出精确度的计算方式，具体为：

采取均方误差作为误差评价标准，设验证集样本组G_i中共有n个样本，样本k的期望输出为Y_k，加入预测器RL_j后集成预测模型对其输出为则其对验证集样本组G_i的均方误差MRE_i,j为：

${\mathrm{MRE}}_{i,j}=\sqrt{\frac{1}{n}\underset{k=1}{\overset{n}{\mathrm{\Σ}}}{(Y_k-{\hat{Y}}_{k,j})}^2}$

设置α为识别阈值，则加入预测器RL_j后集成预测模型能够正确识别样本训练组当且仅当MRE_i,j＜α；在计算加入各个预测器后集成预测模型的MRE之后，选择能够使集成预测模型识别验证集样本组最多的第m个预测器：

m＝argmax[Card({i|MSE_i,t＜α}),t]

为当前最优预测器。