CN114462208A - 一种基于自组织rbfnn的出水bod在线软测量方法 - Google Patents

Abstract

一种基于自组织RBF神经网络的出水BOD在线软测量方法，直接应用于污水处理领域。针对当前污水处理过程出水BOD浓度存在测试周期长、滞后性较大、不能及时反映水体中BOD的变化等问题，本发明提出了一种基于自组织RBF神经的出水BOD预测方法，该方法利用高斯隶属度作为相似性度量标准，设计网络在线结构自组织机制，获得紧凑的网络结构，并提出在线小批量梯度学习算法对网络参数进行在线学习，获得快速并且稳定的收敛性能，最终实现出水BOD浓度的准确预测，解决污水处理过程中BOD浓度测量困难的问题。

Description

一种基于自组织RBFNN的出水BOD在线软测量方法

技术领域

本发明涉及人工智能领域，直接应用于污水处理领域。

背景技术

污水处理过程反应较多、非常复杂，这导致污水中的重要参数测量十分困难。生化需氧量(Biochemical Oxygen Demand,BOD)表示水体中的微生物将有机物转化为无机物所消耗的氧量，可以直接反应水体污染程度，是污水处理过程中一个非常重要的水质检测指标。目前预测出水BOD浓度的方法有稀释与接种法、人工定时采样等，但是稀释与接种法方法存在测试周期长、滞后性较大、不能及时反映水体中BOD的变化等问题。应用仪表来对污水中出水BOD进行检测的方法，虽然能够快速的检测出结果，但仪表检测又价格昂贵。因此，如何更加有效地对出水BOD浓度进行检测是污水处理过程中的关键问题。

为了解决这个问题，许多学者提出了软测量的方法，该方法采用间接测量的思路，利用已知变量，通过构建模型对未来时刻不可测变量进行实时预测。用这种方法能够解决出水BOD的传统测量方法耗时过长、应用仪表检测价格昂贵、需要定期维护的问题。传统RBF神经网络结构难以确定，并且现有的大多数自组织RBF网络对参数设定过度依赖人为因素，缺乏自适应性。本发明设计了一种基于高斯隶属度的自组织RBF神经网络，并用于出水BOD预测，实现出水BOD浓度的实时准确预测。

发明内容

1.本发明能够解决的问题：

本发明提出了一种基于自组织RBF神经网络的污水处理过程出水BOD浓度的在线预测方法。该方法利用高斯隶属度作为相似性度量标准，设计网络在线结构自组织机制，并提出在线小批量梯度学习算法对网络参数进行在线学习，实现出水BOD浓度的在线实时预测，解决污水处理过程中BOD浓度测量困难的问题。

2.本发明具体的技术方案：

一种基于自组织RBFNN的出水BOD在线软测量方法，主要包括以下步骤：

步骤1：出水BOD数据预处理

通过对污水处理过程中出水BOD的机理分析，选取①进水pH值、②出水pH值、③进水固体悬浮物浓度、④出水固体悬浮物浓度、⑤进水BOD浓度、⑥进水化学需氧量浓度(COD)、⑦出水COD浓度、⑧污泥沉降率(SV)、⑨悬浮物浓度(MLSS)、⑩溶解氧浓度(DO)一共10个变量作为出水BOD的原始特征集，即输入变量，记为X＝{x_np|p＝1,2,…,P,n＝1,2,…,N},P为输入特征维数，这里P＝10；N为样本个数。x_np表示为第n个数据的第p个特征。选取出水BOD浓度作为输出变量，记为Y＝{y_n|n＝1,2,…,N}，N是样本个数，y_n表示第n个输出样本。对得到的多特征数据集进行数据归一化处理，使得数据指标处于同一数量级，消除由于数据数量级差别较大而对软测量模型产生误差。

将输入变量X和输出变量Y按照如下公式进行归一化处理：

X和Y表示经过归一化处理后的数据，取值范围为[0,1]。

步骤2：设计基于自组织RBFNN的出水BOD在线软测量模型结构；

步骤2.1：设计RBF神经网络拓扑结构。RBF是一个三层前向神经网络，主要包括输入层、隐含层、输出层。输入层将样本导入网络，包含10个神经元。网络初始时隐含层包含2个神经元，用H表示网络隐层的神经元个数，初始时H＝2，神经元核函数采用高斯函数，第h个神经元的输出为：

其中为c_h和σ_h分别表示第h个隐含层神经元的中心和宽度向量，c₁＝x₁，c₂＝x₂，σ₁＝1，σ₂＝1，x_n表示第n个样本n≥3，||x_n-c_h||表示x_n和c_h之间的欧氏距离，计算公式为

输出层仅有一个神经元，该神经元的输出为隐层神经元输出的线性加权，表达式为：

式中，w_h为第h个隐含层神经元与输出神经元的连接权值，w₁＝y₁，w₂＝y₂。

步骤2.2：设计自组织RBF神经网络

步骤2.2.1：对于当前样本x_n(n≥3)，计算样本x_n和神经元h之间的相似度μ_nh，μ_nh计算公式为

这里H是神经元的个数，c_h为神经元h的中心向量。

样本x_n和当前所有神经元之间的相似度向量记为U_n，U_n＝[μ_n1,μ_n2,μ_nh,…,μ_nH](1≤h≤H)，根据U_n中元素的最大值找到与样本x_n具有最大相似度的神经元h，

确定最大相似度神经元h之后，计算神经元h的相似度阈值T_h，神经元h的相似度阈值T_h定义为神经元h与当前所有神经元之间相似度的最大值。

首先计算神经元h和其余所有神经元的相似度，例如，神经元h和神经元h'(h'∈H\{h})的相似度利用公式(7)计算，h'∈H\{h}示h'为H个神经元中除了第h个神经元之外的神经元。

这里H是神经元的个数，c_h为神经元h的中心向量，c_h'为神经元h'的中心向量。

神经元h和其余所有神经元的相似度矩阵记为U_h,U_h＝[μ_h1,μ_h2,μ_hh',…,μ_hH](h'∈H\{h})。神经元h的相似性阈值T_h计算公式为T_h＝max(max(U_h))。

利用公式(8)根据滑窗内的样本计算网络当前的均方根误差，当n<L时，滑窗内的样本是第一个样本到第n个样本，一共有n个样本；当n≥L时，滑窗内的样本时第n-L+1个样本到第n个样本，滑窗内一共有L个样本。

其中L代表滑动窗口的大小，L取值范围[50,100]。d_i是网络的期望输出，y_i是实际输出，i表示样本是滑窗内的数据。

设计网络增加准则：如果μ_nh<T_h，并且E>E₀，E₀取值0.05。将当前的样本作为新的神经元添加到网络中，参数设置如公式(9)所示，：

其中c_H+1，σ_H+1，w_H+1分别是新增加的神经元H+1的中心向量、宽度和输出权值，d_max是中心之间的最大距离。e_n ^H是RBFNN结构变化前在输入为x_n时的网络误差，即网络有H个神经元时的误差，利用公式(10)计算。

是神经元增加之后在输入为x_n时的网络隐含层H+1个神经元的输出之和，θ_h利用公式(3)计算。更新H＝H+1。

这里y_n是输入为x_n的情况下，网络在有H个神经元时得到的实际输出。

步骤2.2.2：设计基于自组织RBFNN的出水BOD在线软测量模型的学习算法—在线固定小批量梯度算法。如果执行增加神经元增加，结构变动之后对参数进行学习，定义当前网络的损失函数为：

其中d_i是期望输出，y_i是实际输出；

固定批量大小L取值范围[50,100]，k是迭代次数。

利用如下公式对输出权重、神经元中心、神经元宽度参数进行训练：

w_h(k+1)＝w_h(k)-η_wΦ_wh(k) (12)

c_h(k+1)＝c_h(k)-η_cΦ_ch(k) (13)

σ_h(k+1)＝σ_h(k)-η_σΦ_σh(k) (14)

其中公式(12)、公式(13)和公式(14)分别是输出权值、神经元中心和神经元宽度的更新迭代规则；w_h(k)、c_h(k)和σ_h(k)分别表示第h个神经元在第k此迭代时的权值、中心向量和宽度；Φ_wh(k)、Φ_ch(k)和Φ_σh(k)表示第h个神经元的权值梯度、中心梯度和宽度梯度；e(k)是网络基于当前滑窗内的样本在第k次迭代时所产生的误差向量；x表示当前滑窗内的样本；θ_h(k)是第h个神经元基于当前滑窗内的样本在第k次迭代时的输出向量，η_w、η_c和η_σ分别表示输出权值、中心和宽度的学习率，η_w、η_c和η_σ取值范围[0.01,0.05]。

网络参数在线学习时设定滑窗大小为50，当训练误差达到期望误差值0.05时或者达到最大训练次数200时停止训练。

步骤2.2.3：如果H>3，计算神经元与神经元之间的相似度，得到的相似度矩阵表示为U＝[U₁,U₂,…,U_H]，这里U₁表示第一个神经元与其余所有神经元之间的相似度矩阵，U₁＝[μ₁₂,μ₁₃,…,μ_1h,…,μ_1H]，μ_1h表示第一个神经元与第h个神经元之间的相似度，利用公式(7)计算。矩阵U中的每一个元素都表示两个神经元之间的相似度，假设μ_p1p2＝max(max(U))，即神经元p₁和神经元p₂的相似度μ_p1p2为所有神经元之间相似度的最大值，根据如下公式确定神经元p₁和神经元p₂，

如果μ_p1p2>T₀(T₀是合并阈值，取值为0.8)，即神经元p₁和p₂之间的相似度大于预设的合并阈值T₀，则将神经元p₁和p₂合并。合并之后的新神经元的参数设置为：

其中c_p1,c_p2,σ_p1,σ_p2,w_p1,w_p2分别是合并前神经元p₁和p₂的中心、宽度和输出权重；c_p，σ_p，w_p分别是合并之后新神经元p的中心向量、宽度和输出权值；

分别表示滑窗内的样本在神经元p₁，p₂和合并之后新神经元p上的输出之和，更新H＝H-1。

步骤2.2.4：如果执行神经元合并，在结构变动之后利用步骤2.2.2中设计的学习算法对网络的参数进行学习；

步骤2.2.5：每隔age_max时间步长检查神经元的寿命'age'和神经元的相似性能力'P'，age_max的取值40。这里神经元的寿命定义为每个神经元从生成起历经的样本个数，每个神经元自生成起age为0，每历经一次新样本输入，age加1。神经元的相似性能力定义为每个神经元满足神经元和样本的相似度大于自身相似度阈值的次数，即每满足一次μ_nh>T_h(h＝1,2,…,H)，P加1。当age达到最大值age_max时但P为2或者更小时，视为噪声神经元，更新H＝H-1。

步骤2.2.6：如果执行噪声神经元删除，在结构变动之后利用步骤2.2.2中设计的学习算法读网络的参数进行学习，并返回步骤2.2.1，对下一个样本进行学习；

步骤2.2.7：当最后一个样本学习完毕，停止。

步骤3：出水BOD预测

将测试样本数据作为自组织RBF神经网络的输入,得到自组织RBF神经网络的输出,将其进行反归一化得到出水BOD浓度。

3.本发明与现有技术相比，具有以下明显的优势：

(1)本发明针对当前污水处理过程中出水BOD存在的一些问题，提出了自组织RBF神经网络模型实现出水BOD浓度的准确预测，具有低成本、高效率的特点。

(2)本发明首次将高斯隶属度引入RBF神经网络结构自组织机制中，设计对参数不敏感的自组织RBF神经网络模型，获得紧凑的网络结构。设计在线小批量梯度学习算法对网络的参数进行学习，获得快速并且稳定的收敛性能。

附图说明

图1是本发明的神经网络内部结构图；

图2是本发明的出水BOD浓度预测方法训练均方根误差(RMSE)变化图；

图3是本发明的出水BOD浓度预测结果图；

图4是本发明的出水BOD浓度预测误差图。

具体实施方式

本发明设计了一种基于自组织RBFNN的出水BOD在线软测量方法，实现了对未来时刻BOD浓度的预测，解决了污水处理过程中出水BOD浓度难以实时测量的问题，提高了污水处理过程中对未来水质质量的监控水平。

实验数据来自北京市某污水处理厂水质分析数据，获得365组数据，其中输入数据特征选取进水pH值、出水pH值、进水固体悬浮物浓度、出水固体悬浮物浓度、进水BOD浓度、进水化学需氧量浓度(COD)、出水COD浓度、污泥沉降率(SV)、悬浮物浓度(MLSS)、溶解氧浓度(DO)，输出为出水BOD浓度。选取前265组作为训练样本，后100组作为测试样本，主要步骤如下：

步骤1：出水BOD数据预处理

选取输入变量，记为X＝{x_np|p＝1,2,…,P,n＝1,2,…,N},P为输入特征维数，这里P＝10；N为样本个数。x_np表示为第n个数据的第p个特征。选取出水BOD浓度作为输出变量，记为Y＝{y_n|n＝1,2,…,N}，N是样本个数，y_n表示第n个输出样本。对得到的多特征数据集进行数据归一化处理，使得数据指标处于同一数量级，消除由于数据数量级差别较大而对软测量模型产生误差。

将输入变量X和输出变量Y按照如下公式进行归一化处理：

X和Y表示经过归一化处理后的数据，取值范围为[0,1]。

步骤2：设计基于自组织RBFNN的出水BOD在线软测量模型结构；

步骤2.1：设计RBF神经网络拓扑结构。RBF是一个三层前向神经网络，主要包括输入层、隐含层、输出层。输入层将样本导入网络，包含10个神经元。网络初始时隐含层包含2个神经元，用H表示网络隐层的神经元个数，初始时H＝2，神经元核函数采用高斯函数，第h个神经元的输出为：

其中为c_h和σ_h分别表示第h个隐含层神经元的中心和宽度向量，c₁＝x₁，c₂＝x₂，σ₁＝1，σ₂＝1，x_n表示第n个样本n≥3，||x_n-c_h||表示x_n和c_h之间的欧氏距离，计算公式为

输出层仅有一个神经元，该神经元的输出为隐层神经元输出的线性加权，表达式为：

式中，w_h为第h个隐含层神经元与输出神经元的连接权值，w₁＝y₁，w₂＝y₂。

步骤2.2：设计自组织RBF神经网络

步骤2.2.1：对于当前样本x_n(n≥3)，计算样本x_n和神经元h之间的相似度μ_nh，μ_nh计算公式为

这里H是神经元的个数，c_h为神经元h的中心向量。

样本x_n和当前所有神经元之间的相似度向量记为U_n，U_n＝[μ_n1,μ_n2,μ_nh,…,μ_nH](1≤h≤H)，根据U_n中元素的最大值找到与样本x_n具有最大相似度的神经元h，

确定最大相似度神经元h之后，计算神经元h的相似度阈值T_h，神经元h的相似度阈值T_h定义为神经元h与当前所有神经元之间相似度的最大值。

首先计算神经元h和其余所有神经元的相似度，例如，神经元h和神经元h'(h'∈H\{h})的相似度利用公式(27)计算，h'∈H\{h}示h'为H个神经元中除了第h个神经元之外的神经元。

这里H是神经元的个数，c_h为神经元h的中心向量，c_h'为神经元h'的中心向量。

神经元h和其余所有神经元的相似度矩阵记为U_h,U_h＝[μ_h1,μ_h2,μ_hh',…,μ_hH](h'∈H\{h})。神经元h的相似性阈值T_h计算公式为T_h＝max(max(U_h))。

利用公式(28)根据滑窗内的样本计算网络当前的均方根误差，当n<L时，滑窗内的样本是第一个样本到第n个样本，一共有n个样本；当n≥L时，滑窗内的样本时第n-L+1个样本到第n个样本，滑窗内一共有L个样本。

其中L代表滑动窗口的大小，L取值范围[50,100]。d_i是网络的期望输出，y_i是实际输出，i表示样本是滑窗内的数据。

设计网络增加准则：如果μ_nh<T_h，并且E>E₀，E₀取值0.05。将当前的样本作为新的神经元添加到网络中，参数设置如公式(29)所示：

其中c_H+1，σ_H+1，w_H+1分别是新增加的神经元H+1的中心向量、宽度和输出权值，d_max是中心之间的最大距离。e_n ^H是RBFNN结构变化前在输入为x_n时的网络误差，即网络有H个神经元时的误差，利用公式(30)计算。

是神经元增加之后在输入为x_n时的网络隐含层H+1个神经元的输出之和，θ_h利用公式(23)计算。更新H＝H+1。

这里y_n是输入为x_n的情况下，网络在有H个神经元时得到的实际输出。

步骤2.2.2：设计基于自组织RBFNN的出水BOD在线软测量模型的学习算法—在线固定小批量梯度算法。如果执行增加神经元增加，结构变动之后对参数进行学习，定义当前网络的损失函数为：

其中d_i是期望输出，y_i是实际输出；

固定批量大小L取值范围[50,100]，k是迭代次数。

利用如下公式对输出权重、神经元中心、神经元宽度参数进行训练：

w_h(k+1)＝w_h(k)-η_wΦ_wh(k) (32)

c_h(k+1)＝c_h(k)-η_cΦ_ch(k) (33)

σ_h(k+1)＝σ_h(k)-η_σΦ_σh(k) (34)

其中公式(32)、公式(33)和公式(35)分别是输出权值、神经元中心和神经元宽度的更新迭代规则；w_h(k)、c_h(k)和σ_h(k)分别表示第h个神经元在第k此迭代时的权值、中心向量和宽度；Φ_wh(k)、Φ_ch(k)和Φ_σh(k)表示第h个神经元的权值梯度、中心梯度和宽度梯度；e(k)是网络基于当前滑窗内的样本在第k次迭代时所产生的误差向量；x表示当前滑窗内的样本；θ_h(k)是第h个神经元基于当前滑窗内的样本在第k次迭代时的输出向量，η_w、η_c和η_σ分别表示输出权值、中心和宽度的学习率，η_w、η_c和η_σ取值范围[0.01,0.05]。

网络参数在线学习时设定滑窗大小为50，当训练误差达到期望误差值0.05时或者达到最大训练次数200时停止训练。

步骤2.2.3：如果H>3，计算神经元与神经元之间的相似度，得到的相似度矩阵表示为U＝[U₁,U₂,…,U_H]，这里U₁表示第一个神经元与其余所有神经元之间的相似度矩阵，U₁＝[μ₁₂,μ₁₃,…,μ_1h,…,μ_1H]，μ_1h表示第一个神经元与第h个神经元之间的相似度，利用公式(7)计算。矩阵U中的每一个元素都表示两个神经元之间的相似度，假设μ_p1p2＝max(max(U))，即神经元p₁和神经元p₂的相似度μ_p1p2为所有神经元之间相似度的最大值，根据如下公式确定神经元p₁和神经元p₂，

如果μ_p1p2>T₀(T₀是合并阈值，取值为0.8)，即神经元p₁和p₂之间的相似度大于预设的合并阈值T₀，则将神经元p₁和p₂合并。合并之后的新神经元的参数设置为：

其中c_p1,c_p2,σ_p1,σ_p2,w_p1,w_p2分别是合并前神经元p₁和p₂的中心、宽度和输出权重；c_p，σ_p，w_p分别是合并之后新神经元p的中心向量、宽度和输出权值；

分别表示滑窗内的样本在神经元p₁，p₂和合并之后新神经元p上的输出之和，更新H＝H-1。

步骤2.2.4：如果执行神经元合并，在结构变动之后利用步骤2.2.2中设计的学习算法对网络的参数进行学习；

步骤2.2.5：每隔age_max时间步长检查神经元的寿命'age'和神经元的相似性能力'P'，age_max的取值40。这里神经元的寿命定义为每个神经元从生成起历经的样本个数，每个神经元自生成起age为0，每历经一次新样本输入，age加1。神经元的相似性能力定义为每个神经元满足神经元和样本的相似度大于自身相似度阈值的次数，即每满足一次μ_nh>T_h(h＝1,2,…,H)，P加1。当age达到最大值age_max时但P为2或者更小时，视为噪声神经元，更新H＝H-1。

步骤2.2.6：如果执行噪声神经元删除，在结构变动之后利用步骤2.2.2中设计的学习算法读网络的参数进行学习，并返回步骤2.2.1，对下一个样本进行学习；

步骤2.2.7：当最后一个样本学习完毕，停止。

步骤3：出水BOD预测

将测试样本数据作为自组织RBF神经网络的输入,得到自组织RBF神经网络的输出,将其进行反归一化得到出水BOD浓度。

在本实施例中，出水BOD浓度预测方法训练RMSE如图2所示，X轴为训练样本个数，Y轴为训练RMSE的值；出水BOD浓度预测结果如图3所示，X轴为测试样本个数，Y轴为出水BOD浓度值，单位是mg/L，实线为出水BOD浓度期望输出值，虚线为出水BOD浓度实际输出值；出水BOD浓度测试误差如图4所示，X轴为测试样本个数，Y轴为出水BOD浓度预测误差，单位是mg/L。

Claims (1)

1.一种基于自组织RBFNN的出水BOD在线软测量方法，其特征在于，包括以下步骤：

步骤1：出水BOD数据预处理

通过对污水处理过程中出水BOD的机理分析，选取①进水pH值、②出水pH值、③进水固体悬浮物浓度、④出水固体悬浮物浓度、⑤进水BOD浓度、⑥进水化学需氧量浓度(COD)、⑦出水COD浓度、⑧污泥沉降率(SV)、⑨悬浮物浓度(MLSS)、⑩溶解氧浓度(DO)一共10个变量作为出水BOD的原始特征集，即输入变量，记为X＝{x_np|p＝1,2,…,P,n＝1,2,…,N},P为输入特征维数，这里P＝10；N为样本个数；x_np表示为第n个数据的第p个特征；选取出水BOD浓度作为输出变量，记为Y＝{y_n|n＝1,2,…,N}，N是样本个数，y_n表示第n个输出样本；对得到的多特征数据集进行数据归一化处理，使得数据指标处于同一数量级，消除由于数据数量级差别较大而对软测量模型产生误差；

将输入变量X和输出变量Y按照如下公式进行归一化处理：

X和Y表示经过归一化处理后的数据，取值范围为[0,1]；

步骤2：设计基于自组织RBFNN的出水BOD在线软测量模型结构；

步骤2.1：设计RBF神经网络拓扑结构；RBF是一个三层前向神经网络，主要包括输入层、隐含层、输出层；输入层将样本导入网络，包含10个神经元；网络初始时隐含层包含2个神经元，用H表示网络隐层的神经元个数，初始时H＝2，神经元核函数采用高斯函数，第h个神经元的输出为：

其中为c_h和σ_h分别表示第h个隐含层神经元的中心和宽度向量，c₁＝x₁，c₂＝x₂，σ₁＝1，σ₂＝1，x_n表示第n个样本n≥3，||x_n-c_h||表示x_n和c_h之间的欧氏距离，计算公式为

输出层仅有一个神经元，该神经元的输出为隐层神经元输出的线性加权，表达式为：

式中，w_h为第h个隐含层神经元与输出神经元的连接权值，w₁＝y₁，w₂＝y₂；

步骤2.2：设计自组织RBF神经网络

步骤2.2.1：对于当前样本x_n(n≥3)，计算样本x_n和神经元h之间的相似度μ_nh，μ_nh计算公式为

这里H是神经元的个数，c_h为神经元h的中心向量；

样本x_n和当前所有神经元之间的相似度向量记为U_n，U_n＝[μ_n1,μ_n2,μ_nh,…,μ_nH](1≤h≤H)，根据U_n中元素的最大值找到与样本x_n具有最大相似度的神经元h，

确定最大相似度神经元h之后，计算神经元h的相似度阈值T_h，神经元h的相似度阈值T_h定义为神经元h与当前所有神经元之间相似度的最大值；

首先计算神经元h和其余所有神经元的相似度，例如，神经元h和神经元h'(h'∈H\{h})的相似度利用公式(7)计算，h'∈H\{h}示h'为H个神经元中除了第h个神经元之外的神经元；

这里H是神经元的个数，c_h为神经元h的中心向量，c_h'为神经元h'的中心向量；

神经元h和其余所有神经元的相似度矩阵记为U_h,U_h＝[μ_h1,μ_h2,μ_hh',…,μ_hH](h'∈H\{h})；神经元h的相似性阈值T_h计算公式为T_h＝max(max(U_h))；

利用公式(8)根据滑窗内的样本计算网络当前的均方根误差，当n<L时，滑窗内的样本是第一个样本到第n个样本，一共有n个样本；当n≥L时，滑窗内的样本时第n-L+1个样本到第n个样本，滑窗内一共有L个样本；

其中L代表滑动窗口的大小，L取值范围[50,100]；d_i是网络的期望输出，y_i是实际输出，i表示样本是滑窗内的数据；

设计网络增加准则：如果μ_nh<T_h，并且E>E₀，E₀取值0.05；将当前的样本作为新的神经元添加到网络中，参数设置如公式(9)所示，：

其中c_H+1，σ_H+1，w_H+1分别是新增加的神经元H+1的中心向量、宽度和输出权值，d_max是中心之间的最大距离；

是RBFNN结构变化前在输入为x_n时的网络误差，即网络有H个神经元时的误差，利用公式(10)计算；

是神经元增加之后在输入为x_n时的网络隐含层H+1个神经元的输出之和，θ_h利用公式(3)计算；更新H＝H+1；

这里y_n是输入为x_n的情况下，网络在有H个神经元时得到的实际输出；

步骤2.2.2：设计基于自组织RBFNN的出水BOD在线软测量模型的学习算法—在线固定小批量梯度算法；如果执行增加神经元增加，结构变动之后对参数进行学习，定义当前网络的损失函数为：

其中d_i是期望输出，y_i是实际输出；

固定批量大小L取值范围[50,100]，k是迭代次数；

利用如下公式对输出权重、神经元中心、神经元宽度参数进行训练：

w_h(k+1)＝w_h(k)-η_wΦ_wh(k) (12)

c_h(k+1)＝c_h(k)-η_cΦ_ch(k) (13)

σ_h(k+1)＝σ_h(k)-η_σΦ_σh(k) (14)

其中公式(12)、公式(13)和公式(14)分别是输出权值、神经元中心和神经元宽度的更新迭代规则；w_h(k)、c_h(k)和σ_h(k)分别表示第h个神经元在第k此迭代时的权值、中心向量和宽度；Φ_wh(k)、Φ_ch(k)和Φ_σh(k)表示第h个神经元的权值梯度、中心梯度和宽度梯度；e(k)是网络基于当前滑窗内的样本在第k次迭代时所产生的误差向量；x表示当前滑窗内的样本；θ_h(k)是第h个神经元基于当前滑窗内的样本在第k次迭代时的输出向量，η_w、η_c和η_σ分别表示输出权值、中心和宽度的学习率，η_w、η_c和η_σ取值范围[0.01,0.05]；

网络参数在线学习时设定当前固定批量大小为50，当训练误差达到期望误差值0.05时或者达到最大训练次数200时停止训练；

步骤2.2.3：如果H>3，计算神经元与神经元之间的相似度，得到的相似度矩阵表示为U＝[U₁,U₂,…,U_H]，这里U₁表示第一个神经元与其余所有神经元之间的相似度矩阵，U₁＝[μ₁₂,μ₁₃,…,μ_1h,…,μ_1H]，μ_1h表示第一个神经元与第h个神经元之间的相似度，利用公式(7)计算；矩阵U中的每一个元素都表示两个神经元之间的相似度，假设μ_p1p2＝max(max(U))，即神经元p₁和神经元p₂的相似度μ_p1p2为所有神经元之间相似度的最大值，根据如下公式确定神经元p₁和神经元p₂，

如果μ_p1p2>T₀，T₀是合并阈值，取值为0.8，即神经元p₁和p₂之间的相似度大于预设的合并阈值T₀，则将神经元p₁和p₂合并；合并之后的新神经元的参数设置为：

其中c_p1,c_p2,σ_p1,σ_p2,w_p1,w_p2分别是合并前神经元p₁和p₂的中心、宽度和输出权重；c_p，σ_p，w_p分别是合并之后新神经元p的中心向量、宽度和输出权值；

分别表示滑窗内的样本在神经元p₁，p₂和合并之后新神经元p上的输出之和，更新H＝H-1；

步骤2.2.4：如果执行神经元合并，在结构变动之后利用步骤2.2.2中设计的学习算法对网络的参数进行学习；

步骤2.2.5：每隔age_max时间步长检查神经元的寿命'age'和神经元的相似性能力'P'，age_max的取值40；这里神经元的寿命定义为每个神经元从生成起历经的样本个数，每个神经元自生成起age为0，每历经一次新样本输入，age加1；神经元的相似性能力定义为每个神经元满足神经元和样本的相似度大于自身相似度阈值的次数，即每满足一次μ_nh>T_h(h＝1,2,…,H)，P加1；当age达到最大值age_max时但P为2或者更小时，视为噪声神经元，更新H＝H-1；

步骤2.2.6：如果执行噪声神经元删除，在结构变动之后利用步骤2.2.2中设计的学习算法读网络的参数进行学习，并返回步骤2.2.1，对下一个样本进行学习；

步骤2.2.7：当最后一个样本学习完毕，停止；

步骤3：出水BOD预测

将测试样本数据作为自组织RBF神经网络的输入,得到自组织RBF神经网络的输出,将其进行反归一化得到出水BOD浓度。

Images