CN109978024A - 一种基于互联模块化神经网络的出水bod预测方法 - Google Patents
一种基于互联模块化神经网络的出水bod预测方法 Download PDFInfo
- Publication number
- CN109978024A CN109978024A CN201910181758.2A CN201910181758A CN109978024A CN 109978024 A CN109978024 A CN 109978024A CN 201910181758 A CN201910181758 A CN 201910181758A CN 109978024 A CN109978024 A CN 109978024A
- Authority
- CN
- China
- Prior art keywords
- network
- water quality
- sub
- variable
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Development Economics (AREA)
- General Health & Medical Sciences (AREA)
- Game Theory and Decision Science (AREA)
- Neurology (AREA)
- Probability & Statistics with Applications (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Feedback Control In General (AREA)
Abstract
一种基于互联模块化神经网络的出水BOD预测方法涉及人工智能领域,直接应用于污水处理领域。本发明模拟人脑模块化结构及信息处理模式,以提高出水BOD的预测精度。本发明采用自适应特征聚类方法将输入变量分解成若干个输入变量子集合,作为子模块的输入变量,在模块化神经网络中加入子模块互联策略以构建互联模块化神经网络,并通过改进的LM(Levenberg‑Marquard)算法对网络训练,对出水BOD进行预测,旨在提高其预测精度。
Description
技术领域
本发明涉及人工智能领域,直接应用于污水处理领域。
背景技术
在污水处理过程中众多的水质监测指标中,生化需氧量(Biochemical OxygenDemand,BOD)是在有氧的条件下,水中微生物分解有机物的生物化学过程中所需溶解氧的质量浓度,直接反映了水体污染程度。目前预测出水BOD指标的方法多采用人工定时采样、实验室分析化验等方法,但滞后性较大,容易造成二次污染,另外少数污水处理厂采用在线分析仪表进行测量,但仪器昂贵且维护成本较高,检测精度也不能满足预期要求,因此如何高效率、低成本地对出水BOD浓度进行预测是一个关键问题。
软测量方法采用间接测量的思路,成为解决污水处理过程关键水质参数测量的重要技术,而软测量模型的构建成为提高水质预测精度的关键所在。本发明提出一种基于互联模块化神经网络的出水BOD预测方法,模拟人脑模块化结构及信息处理模式,以提高出水BOD的预测精度。
发明内容
1、本发明能够解决的问题:
本发明提出了一种基于互联模块化神经网络的污水处理出水BOD预测方法。采用自适应特征聚类方法将输入变量分解成若干个输入变量子集合,作为子模块的输入变量,在模块化神经网络中加入子模块互联策略以构建互联模块化神经网络,并通过改进的LM(Levenberg-Marquard)算法对网络训练,对出水BOD进行预测,以模拟人脑结构及信息处理方式,旨在提高其预测精度。
2、本发明具体的技术方案:
步骤1:水质变量特征自组织分类;
采集污水处理厂实际水质参数数据,记O=[o1,o2,…,oP]为出水BOD浓度,mk(k=1,2,…,K)为第k个水质变量特征子集向量,(i=1,2,…,N)为第i个水质变量,其中为第i个水质变量的第p个样本值,P为水质变量的样本个数,K为水质变量特征子集的个数,N为水质变量的个数;
步骤1.1:计算各变量xi与输出变量的归一化互信息值NMI(xi,O),计算公式为:
其中,H(xi)与H(O)分别为变量xi与输出变量O的熵,I(xi,O)为变量xi与输出变量O的互信息;
步骤1.2:根据NMI(xi,O)的大小将水质变量集合按照降序排列,初始化子集合个数K=0;设定阈值0<α<1和1<β<2;
步骤1.3:输入第一个水质变量x1,形成只包含第一个水质变量在内的水质变量向量m1,该集合的中心为c1=x1,大小为S1=1;
步骤1.4:计算第i个水质变量(2≤i≤N)与已存在的水质变量子集向量mk(k=1,2,…,K)之间的一致性Coh(xi,mk)和非相似性InC(xi,mk),计算公式如下:
Coh(xi,mk)=NMI(xi,ck) (2)
InC(xi,mk)=|NMI(xi,O)–NMI(ck,O)| (3)
其中ck为第k个水质变量子集向量mk(k=1,2,…,K)的中心向量,NMI(xi,ck)为水质变量xi和中心向量ck的归一化互信息值,NMI(xi,O)为水质变量xi与输出变量O的归一化互信息值,NMI(ck,O)为中心向量ck与输出变量O的归一化互信息值;
步骤1.5:若第i个水质变量与已存在的水质变量子集向量满足条件Coh(xi,mk)≥α和InC(xi,mk)≤β,则将第i个水质变量放入所有满足此条件的集合一致性值最大的子集合向量当中,该子集合的大小变为中心按照下式进行更新:
即子集合的中心由该子集合中所有变量相加后求平均得到;
若不满足以上条件,则令K=K+1,形成新的水质变量子集合向量mK,该子集合的中心cK=xi,大小为1;
步骤1.6:i=i+1返回步骤1.4,直到所有的水质变量全部处理完成,最终获得K个水质变量子集合;
步骤2:设计出水BOD的互联模块化神经网络结构;
步骤2.1:将水质变量xi(i=1,2,…,N)按照公式(5)归一化至[-1,1],输出变量出水BOD按照公式(6)归一化至[0,1]:
其中,xi表示第i个水质变量,O表示输出变量,zi和y分别表示归一化后的第i个水质变量和输出变量;
步骤2.2:设计互联模块化神经网络结构:互联模块化神经网络共由K个子网络构成,K由自组织特征分类后的水质变量子集合确定,即K个水质变量子集合对应产生K个子网络;每个子网络的隐层节点通过引入其他子网络的输出反馈来建立子网络间的互联,记第k个子网络的输出为yk,(k=1,2,…,K),则整个网络的输出为即由每个子网络的输出加和取平均得到。整个网络的结构如图1所示;
步骤2.3:互联模块化神经网络子网络结构设计:子网络采用典型的RBF神经网络,包含输入层、隐含层、输出层三层结构,第k个子网络拓扑结构为Sk-Hk-1(k=1,2,…,K),其中输入神经元的个数Sk为水质变量自组织特征分类后形成的特征子集合向量mk中包含的变量个数,每个子网络隐含层包含Hk个神经元,同时每个隐含层神经元接受由其他子网络输出引入的反馈,输出层神经元的个数为1,对应出水BOD变量;
步骤2.4:假设训练样本个数为P个,对第k个子集合,第p个样本为(p=1,2,…,P),其中Sk为第k个子集合包含的变量个数,对应的网络的隐含层第h个神经元输出为:
其中为和为第k个子网络隐含层第h个神经元的中心和宽度,和yi分别表示第h个隐含层神经元引入的第i个子网络输出的反馈,yi表示第i个子网络的输出,则第k个子网络第p个样本的输出为:
其中为第k个子网络第h个隐层神经元与输出神经元的连接权值;
步骤3:设计出水BOD的互联模块化神经网络学习算法;
步骤3.1:对所有子网络,令向量Δ包含所有子网络需要更新的参数,即:
Δ=[Δ1,Δ2,…,ΔK] (9)
其中Δ1,Δ2,…,ΔK分别为从第1到第K个子网络需要更新的参数,对第k个子网络(k=1,2,…,K),Δk包含第k个子网络的所有参数,中心、宽度、输出权值、反馈权值,定义如下:
参数的更新公式如下:
Δ(t+1)=Δ(t)-(Q(t)+μI)-1g(t) (11)
其中t表示迭代步数,Q为类海森矩阵,μ为学习率参数,I为单位矩阵,g为梯度向量,类海森矩阵和梯度向量的计算公式如下:
其中,ok,p和yp分别为第k个子网络第p个样本的期望输出和实际输出,ep为模型第p个样本的误差,雅各比行向量jp定义如下:
jp=[jp,1,jp,2,...,jp,K] (14)
其中jp,1,jp,2,…,jp,K分别为从第1到第K个子网络的雅各比行向量,对第k个子网络(k=1,2,…,K),jp,k定义如下:
根据公式(7)(8)(13)可得:
根据公式(16)-(19)可得第k个子网络的雅各比矩阵行向量jp,k,根据公式(14)进一步得到jp,当所有的样本遍历一遍后,得到类海森矩阵Q和梯度向量g,并按照公式(11)进行更新;
步骤3.2:设定均方根误差函数为性能指标,定义如下:
训练时,当RMSE(t+1)≤RMSE(t)时,μ(t+1)=μ(t)/10,子网络参数保留,进行下一次更新,当RMSE(t+1)>RMSE(t)时,μ(t+1)=μ(t)×10,子网络参数返回到参数调整之前,使用当前μ(t+1)的值对网络进行更新;设定性能指标的期望值为RMSEd∈[0.05,0.1]及最大迭代步数ηmax∈[100,200];当某次训练的RMSE(t+1)<RMSEd或迭代步数η=ηmax时,训练停止,整个训练算法结束,获得各个子网络的参数值;
步骤4:将各个子集中的测试样本输入到各个子网络中,得到整个模型的输出,反归一化后得到出水BOD浓度的实际值。
3、本发明与传统神经网络预测方法相比,具有如下特点:
本发明针对污水处理过程中出水BOD预测精度低的问题,结合人脑中“模块化”高度复杂的连接结构,采用自适应特征聚类算法对出水BOD相关的水质变量进行聚类,提出了一种基于互联模块化神经网络的出水BOD预测方法,实现了对人脑网络复杂结构的模拟,提高了出水BOD的预测精度。
附图说明
图1为本发明模型结构示意图。
图2为本实施例中模型训练均方根误差(RMSE)曲线图。
图3为本实施例出水BOD测试结果图
图4为本实施例出水BOD测试误差图
具体实施方式
本发明实际应用采用北京市某污水处理厂水质分析数据,共包含23个水质变量在内的365组样本,水质变量包括(1)进水PH;(2)出水PH;(3)进水固体悬浮物浓度;(4)出水SS;(5)进水BOD浓度;(6)进水化学需氧量浓度;(7)出水COD浓度;(8)生化池污泥沉降比;(9)生化池混合液悬浮固体浓度;(10)生化池溶解氧浓度;(11)进水油类;(12)出水油类;(13)进水氨氮浓度;(14)出水氨氮浓度;(15)进水色度;(16)出水色度;(17)进水总氮浓度;(18)出水总氮浓度;(19)进水磷酸盐浓度;(20)出水磷酸盐浓度;(21)进水水温;(22)出水水温;(23)出水BOD浓度;随机选取265组数据为训练样本,100组数据作为测试样本,主要步骤如下:
步骤1:水质变量特征自组织分类;
采集污水处理厂实际水质参数数据,记O=[o1,o2,...,op]为出水BOD浓度,mk(k=1,2,…,K)为第k个水质变量特征子集向量,(i=1,2,…,N)为第i个水质变量,其中为第i个水质变量的第p个样本值,P为水质变量的样本个数,K为水质变量特征子集个数,N为水质变量的个数;
步骤1.1:按照下式计算各变量xi与输出变量的归一化互信息值NMI(xi,O):
其中,H(xi)与H(O)分别为变量xi与输出变量O的熵,I(xi,O)为变量xi与输出变量O的互信息;
步骤1.2:根据NMI(xi,O)的大小将水质变量集合按照降序排列,初始化子集合个数K=0;设定阈值0<α<1和1<β<2;
步骤1.3:输入第一个水质变量x1,形成只包含第一个水质变量在内的水质变量子集向量m1,该集合的中心为c1=x1,大小为S1=1;
步骤1.4:计算第i个水质变量(2≤i≤N)与已存在的水质变量子集向量mk(k=1,2,…,K)之间的一致性Coh(xi,mk)和非相似性InC(xi,mk),计算公式如下:
Coh(xi,mk)=NMI(xi,ck) (22)
InC(xi,mk)=|NMI(xi,O)–NMI(ck,O)| (23)
其中ck为第k个水质变量子集向量mk(k=1,2,…,K)的中心向量,NMI(xi,ck)为水质变量xi和中心向量ck的归一化互信息值,NMI(xi,O)为水质变量xi与输出变量O的归一化互信息值,NMI(ck,O)为中心向量ck与输出变量O的归一化互信息值;
步骤1.5:若第i个水质变量与已存在的水质变量子集合满足条件Coh(xi,mk)≥α和InC(xi,mk)≤β,则将第i个水质变量放入所有满足此条件的集合一致性值最大的子集向量当中,该子集合的大小变为中心按照下式进行更新:
即子集合的中心由该子集合中所有变量相加后求平均得到;
若不满足以上条件,则令K=K+1,形成新的水质变量子集合mK,该子集合的中心cK=xi,大小为1;
步骤1.6:i=i+1返回步骤1.4,直到所有的水质变量全部处理完成,最终获得K个水质变量子集合;
本实施例中,随机设定阈值α和β分别为0.08和1.2,通过该步骤得到水质变量子集合为2个,其中水质变量子集合向量m1中包含水质变量的个数为21个,分别为:(1)进水PH;(2)出水PH;(3)进水固体悬浮物浓度;(4)进水BOD浓度;(5)进水化学需氧量浓度;(6)出水COD浓度;(7)生化池污泥沉降比;(8)生化池混合液悬浮固体浓度;(9)生化池溶解氧浓度;(10)进水油类;(11)出水油类;(12)进水氨氮浓度;(13)出水氨氮浓度;(14)进水色度;(15)出水色度;(16)进水总氮浓度;(17)出水总氮浓度;(18)进水磷酸盐浓度;(19)出水磷酸盐浓度;(20)进水水温;(21)出水水温;子集合大小为S1=21;水质变量子集合向量m2中包含水质变量的个数为1个,为出水SS,子集合大小为S2=1。
步骤2:设计出水BOD的互联模块化神经网络结构;
步骤2.1:将水质变量xi(i=1,2,…,N)按照公式(25)归一化至[-1,1],输出变量出水BOD按照公式(26)归一化至[0,1]:
其中,xi表示子集合mk中的第i个水质变量,O表示输出变量,zi和y分别表示归一化后的第i个水质变量和输出变量;
步骤2.2:设计互联模块化神经网络结构:互联模块化神经网络共由K个子网络构成,K由自组织特征分类后的水质变量子集合确定,即K个水质变量子集合对应产生K个子网络;每个子网络的隐层节点通过引入其他子网络的输出反馈来建立子网络间的互联,记第k个子网络的输出为yk(k=1,2,…,K),则整个网络的输出为即由每个子网络的输出加和取平均得到;
步骤2.3:设计互联模块化神经网络子网络结构:子网络采用典型的RBF神经网络,包含输入层、隐含层、输出层三层结构,第k个子网络拓扑结构为Sk-Hk-1(k=1,2,…,K),其中输入神经元的个数Sk为水质变量自组织特征分类后形成的特征子集合mk中包含的变量个数,每个子网络隐含层包含Hk个神经元,同时每个隐含层神经元接受由其他子网络输出引入的反馈,输出层神经元的个数为1,对应出水BOD变量。模型结构图如图1所示;
步骤2.4:假设训练样本个数为P个,对第k个子集合,第p个样本为(p=1,2,…,P),其中Sk为第k个子集合包含的变量个数,对应的网络的隐含层第h个神经元输出为:
其中为和为第k个子网络隐含层第h个神经元的中心和宽度,和yi分别表示第h个隐含层神经元引入的第i个子网络输出的反馈,yi表示第i个子网络的输出,则第k个子网络第p个样本的输出为:
其中为第k个子网络第h个隐层神经元与输出神经元的连接权值。
步骤3:设计出水BOD的互联模块化神经网络学习算法;
步骤3.1:对所有子网络,令向量Δ包含所有子网络需要更新的参数,即:
Δ=[Δ1,Δ2,…,ΔK] (29)
其中Δ1,Δ2,…,ΔK分别为从第1到第K个子网络需要更新的参数,对第k个子网络(k=1,2,…,K),Δk包含第k个子网络的所有参数,中心、宽度、输出权值、反馈权值,定义如下:
参数的更新公式如下:
Δ(t+1)=Δ(t)-(Q(t)+μI)-1g(t) (31)
其中t表示迭代步数,Q为类海森矩阵,μ为学习率参数,I为单位矩阵,g为梯度向量,类海森矩阵和梯度向量的计算公式如下:
其中,ok,p和yp分别为第k个子网络第p个样本的期望输出和实际输出,ep为模型第p个样本的误差,雅各比行向量jp定义如下:
jp=[jp,1,jp,2,...,jp,K] (34)
其中jp,1,jp,2,…,jp,K分别为从第1到第K个子网络的雅各比行向量,对第k个子网络(k=1,2,…,K),jp,k定义如下:
根据公式(27)(28)(33)可得:
根据公式(36)-(39)可得第k个子网络的雅各比矩阵行向量jp,k,根据公式(34)进一步得到jp,当所有的样本遍历一遍后,得到类海森矩阵Q和梯度向量g,并按照公式(31)进行更新;
步骤3.2:设定均方根误差函数为性能指标,定义如下:
训练时,当RMSE(t+1)≤RMSE(t)时,μ(t+1)=μ(t)/10,子网络参数保留,进行下一次更新,当RMSE(t+1)>RMSE(t)时,μ(t+1)=μ(t)×10子网络参数返回到参数调整之前,使用当前μ(t+1)的值对网络进行更新。设定性能指标的期望值为RMSEd=0.1,最大迭代步数为ηmax=200;当某次训练的RMSE(t+1)<RMSEd或迭代步数η=ηmax时,训练停止,整个训练算法结束,获得各个子网络当前的参数值;
步骤4:将各个子集中的测试样本输入到各个子网络中,得到整个模型的输出,反归一化后得到出水BOD浓度的实际值。
在本实施例中,整个模型的训练RMSE如图2所示,X轴为迭代步数,Y轴为训练RMSE的值,出水BOD浓度的测试结果如图3所示,X轴为测试样本个数,Y轴为出水BOD浓度值,单位是mg/L,实线为出水BOD浓度期望输出值,虚线为出水BOD浓度实际输出值;测试误差如图4所示,X轴为测试样本个数,Y轴为出水BOD预测误差,单位是mg/L。
Claims (1)
1.一种基于互联模块化神经网络的出水BOD预测方法,其特征在于包括:
步骤1:水质变量特征自组织分类;
采集污水处理厂实际水质参数数据,记O=[o1,o2,…,oP]为出水BOD浓度,mk(k=1,2,…,K)为第k个水质变量特征子集向量, 为第i个水质变量,其中为第i个水质变量的第p个样本值,P为水质变量的样本个数,K为水质变量特征子集的个数,N为水质变量的个数;
步骤1.1:计算各变量xi与输出变量的归一化互信息值NMI(xi,O),计算公式为:
其中,H(xi)与H(O)分别为变量xi与输出变量O的熵,I(xi,O)为变量xi与输出变量O的互信息;
步骤1.2:根据NMI(xi,O)的大小将水质变量集合按照降序排列,初始化子集合个数K=0;设定阈值0<α<1和1<β<2;
步骤1.3:输入第一个水质变量x1,形成只包含第一个水质变量在内的水质变量向量m1,该集合的中心为c1=x1,大小为S1=1;
步骤1.4:计算第i个水质变量(2≤i≤N)与已存在的水质变量子集向量mk(k=1,2,…,K)之间的一致性Coh(xi,mk)和非相似性InC(xi,mk),计算公式如下:
Coh(xi,mk)=NMI(xi,ck) (2)
InC(xi,mk)=|NMI(xi,O)–NMI(ck,O)| (3)
其中ck为第k个水质变量子集向量mk(k=1,2,…,K)的中心向量,NMI(xi,ck)为水质变量xi和中心向量ck的归一化互信息值,NMI(xi,O)为水质变量xi与输出变量O的归一化互信息值,NMI(ck,O)为中心向量ck与输出变量O的归一化互信息值;
步骤1.5:若第i个水质变量与已存在的水质变量子集向量满足条件Coh(xi,mk)≥α和InC(xi,mk)≤β,则将第i个水质变量放入所有满足此条件的集合一致性值最大的子集合向量当中,该子集合的大小变为中心按照下式进行更新:
即子集合的中心由该子集合中所有变量相加后求平均得到;
若不满足以上条件,则令K=K+1,形成新的水质变量子集合向量mK,该子集合的中心cK=xi,大小为1;
步骤1.6:i=i+1返回步骤1.4,直到所有的水质变量全部处理完成,最终获得K个水质变量子集合;
步骤2:设计出水BOD的互联模块化神经网络结构;
步骤2.1:将水质变量xi(i=1,2,…,N)按照公式(5)归一化至[-1,1],输出变量出水BOD按照公式(6)归一化至[0,1]:
其中,xi表示第i个水质变量,O表示输出变量,zi和y分别表示归一化后的第i个水质变量和输出变量;
步骤2.2:设计互联模块化神经网络结构:互联模块化神经网络共由K个子网络构成,K由自组织特征分类后的水质变量子集合确定,即K个水质变量子集合对应产生K个子网络;每个子网络的隐层节点通过引入其他子网络的输出反馈来建立子网络间的互联,记第k个子网络的输出为yk,(k=1,2,…,K),则整个网络的输出为即由每个子网络的输出加和取平均得到;
步骤2.3:互联模块化神经网络子网络结构设计:子网络采用典型的RBF神经网络,包含输入层、隐含层、输出层三层结构,第k个子网络拓扑结构为Sk-Hk-1(k=1,2,…,K),其中输入神经元的个数Sk为水质变量自组织特征分类后形成的特征子集合向量mk中包含的变量个数,每个子网络隐含层包含Hk个神经元,同时每个隐含层神经元接受由其他子网络输出引入的反馈,输出层神经元的个数为1,对应出水BOD变量;
步骤2.4:假设训练样本个数为P个,对第k个子集合,第p个样本为其中Sk为第k个子集合包含的变量个数,对应的网络的隐含层第h个神经元输出为:
其中为和为第k个子网络隐含层第h个神经元的中心和宽度,和yi分别表示第h个隐含层神经元引入的第i个子网络输出的反馈,yi表示第i个子网络的输出,则第k个子网络第p个样本的输出为:
其中为第k个子网络第h个隐层神经元与输出神经元的连接权值;
步骤3:设计出水BOD的互联模块化神经网络学习算法;
步骤3.1:对所有子网络,令向量Δ包含所有子网络需要更新的参数,即:
Δ=[Δ1,Δ2,…,ΔK] (9)
其中Δ1,Δ2,…,ΔK分别为从第1到第K个子网络需要更新的参数,对第k个子网络(k=1,2,…,K),Δk包含第k个子网络的所有参数,中心、宽度、输出权值、反馈权值,定义如下:
参数的更新公式如下:
Δ(t+1)=Δ(t)-(Q(t)+μI)-1g(t) (11)
其中t表示迭代步数,Q为类海森矩阵,μ为学习率参数,I为单位矩阵,g为梯度向量,类海森矩阵和梯度向量的计算公式如下:
其中,ok,p和yp分别为第k个子网络第p个样本的期望输出和实际输出,ep为模型第p个样本的误差,雅各比行向量jp定义如下:
jp=[jp,1,jp,2,...,jp,K] (14)
其中jp,1,jp,2,…,jp,K分别为从第1到第K个子网络的雅各比行向量,对第k个子网络(k=1,2,…,K),jp,k定义如下:
根据公式(7)(8)(13)得:
根据公式(16)-(19)得第k个子网络的雅各比矩阵行向量jp,k,根据公式(14)进一步得到jp,当所有的样本遍历一遍后,得到类海森矩阵Q和梯度向量g,并按照公式(11)进行更新;
步骤3.2:设定均方根误差函数为性能指标,定义如下:
训练时,当RMSE(t+1)≤RMSE(t)时,μ(t+1)=μ(t)/10,子网络参数保留,进行下一次更新,当RMSE(t+1)>RMSE(t)时,μ(t+1)=μ(t)×10,子网络参数返回到参数调整之前,使用当前μ(t+1)的值对网络进行更新;设定性能指标的期望值为RMSEd∈[0.05,0.1]及最大迭代步数ηmax∈[100,200];当某次训练的RMSE(t+1)<RMSEd或迭代步数η=ηmax时,训练停止,整个训练算法结束,获得各个子网络的参数值;
步骤4:将各个子集中的测试样本输入到各个子网络中,得到整个模型的输出,反归一化后得到出水BOD浓度的实际值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910181758.2A CN109978024B (zh) | 2019-03-11 | 2019-03-11 | 一种基于互联模块化神经网络的出水bod预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910181758.2A CN109978024B (zh) | 2019-03-11 | 2019-03-11 | 一种基于互联模块化神经网络的出水bod预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109978024A true CN109978024A (zh) | 2019-07-05 |
CN109978024B CN109978024B (zh) | 2020-10-27 |
Family
ID=67078574
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910181758.2A Active CN109978024B (zh) | 2019-03-11 | 2019-03-11 | 一种基于互联模块化神经网络的出水bod预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109978024B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112446168A (zh) * | 2020-10-28 | 2021-03-05 | 北京工业大学 | 一种基于mic及rbfnn的出水bod浓度软测量方法 |
CN112819087A (zh) * | 2021-02-11 | 2021-05-18 | 北京工业大学 | 一种基于模块化神经网络的出水bod传感器异常检测方法 |
CN112949894A (zh) * | 2020-12-10 | 2021-06-11 | 北京工业大学 | 一种基于简化型长短期记忆神经网络的出水bod预测方法 |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102662040A (zh) * | 2012-04-20 | 2012-09-12 | 辽宁工程技术大学 | 一种动态模块化神经网络的氨氮在线软测量方法 |
CN103870878A (zh) * | 2014-03-28 | 2014-06-18 | 西安西热控制技术有限公司 | 一种电站锅炉燃烧特性神经网络模型 |
CN103886369A (zh) * | 2014-03-27 | 2014-06-25 | 北京工业大学 | 一种基于模糊神经网络的出水总磷tp预测方法 |
CN102854296B (zh) * | 2012-08-30 | 2015-03-11 | 北京工业大学 | 一种基于集成神经网络的污水处理软测量方法 |
CN105510546A (zh) * | 2015-12-27 | 2016-04-20 | 北京工业大学 | 一种基于自组织递归rbf神经网络的生化需氧量bod智能检测方法 |
CN106096727A (zh) * | 2016-06-02 | 2016-11-09 | 腾讯科技(深圳)有限公司 | 一种基于机器学习的网络模型构造方法及装置 |
CN106295800A (zh) * | 2016-07-28 | 2017-01-04 | 北京工业大学 | 一种基于递归自组织rbf神经网络的出水总氮tn智能检测方法 |
CN106354018A (zh) * | 2016-11-21 | 2017-01-25 | 北京工业大学 | 基于rbf神经网络的溶解氧智能控制*** |
CN107145867A (zh) * | 2017-05-09 | 2017-09-08 | 电子科技大学 | 基于多任务深度学习的人脸及人脸遮挡物检测方法 |
US20170278135A1 (en) * | 2016-02-18 | 2017-09-28 | Fitroom, Inc. | Image recognition artificial intelligence system for ecommerce |
CN107272418A (zh) * | 2017-07-27 | 2017-10-20 | 青岛格莱瑞智能控制技术有限公司 | 一种基于多内涵自调节神经网络的仿生智能控制方法 |
CN107607954A (zh) * | 2017-09-11 | 2018-01-19 | 中国民航大学 | 一种基于t‑s模型的fnn降水粒子相态识别方法 |
CN108469507A (zh) * | 2018-03-13 | 2018-08-31 | 北京工业大学 | 一种基于自组织rbf神经网络的出水bod软测量方法 |
US20180349765A1 (en) * | 2017-05-30 | 2018-12-06 | Xerox Corporation | Log-linear recurrent neural network |
CN109344971A (zh) * | 2018-09-26 | 2019-02-15 | 北京工业大学 | 一种基于自适应递归模糊神经网络的出水氨氮浓度预测方法 |
-
2019
- 2019-03-11 CN CN201910181758.2A patent/CN109978024B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102662040A (zh) * | 2012-04-20 | 2012-09-12 | 辽宁工程技术大学 | 一种动态模块化神经网络的氨氮在线软测量方法 |
CN102854296B (zh) * | 2012-08-30 | 2015-03-11 | 北京工业大学 | 一种基于集成神经网络的污水处理软测量方法 |
CN103886369A (zh) * | 2014-03-27 | 2014-06-25 | 北京工业大学 | 一种基于模糊神经网络的出水总磷tp预测方法 |
CN103870878A (zh) * | 2014-03-28 | 2014-06-18 | 西安西热控制技术有限公司 | 一种电站锅炉燃烧特性神经网络模型 |
CN105510546A (zh) * | 2015-12-27 | 2016-04-20 | 北京工业大学 | 一种基于自组织递归rbf神经网络的生化需氧量bod智能检测方法 |
US20170278135A1 (en) * | 2016-02-18 | 2017-09-28 | Fitroom, Inc. | Image recognition artificial intelligence system for ecommerce |
CN106096727A (zh) * | 2016-06-02 | 2016-11-09 | 腾讯科技(深圳)有限公司 | 一种基于机器学习的网络模型构造方法及装置 |
CN106295800A (zh) * | 2016-07-28 | 2017-01-04 | 北京工业大学 | 一种基于递归自组织rbf神经网络的出水总氮tn智能检测方法 |
CN106354018A (zh) * | 2016-11-21 | 2017-01-25 | 北京工业大学 | 基于rbf神经网络的溶解氧智能控制*** |
CN107145867A (zh) * | 2017-05-09 | 2017-09-08 | 电子科技大学 | 基于多任务深度学习的人脸及人脸遮挡物检测方法 |
US20180349765A1 (en) * | 2017-05-30 | 2018-12-06 | Xerox Corporation | Log-linear recurrent neural network |
CN107272418A (zh) * | 2017-07-27 | 2017-10-20 | 青岛格莱瑞智能控制技术有限公司 | 一种基于多内涵自调节神经网络的仿生智能控制方法 |
CN107607954A (zh) * | 2017-09-11 | 2018-01-19 | 中国民航大学 | 一种基于t‑s模型的fnn降水粒子相态识别方法 |
CN108469507A (zh) * | 2018-03-13 | 2018-08-31 | 北京工业大学 | 一种基于自组织rbf神经网络的出水bod软测量方法 |
CN109344971A (zh) * | 2018-09-26 | 2019-02-15 | 北京工业大学 | 一种基于自适应递归模糊神经网络的出水氨氮浓度预测方法 |
Non-Patent Citations (7)
Title |
---|
JI-PINGXU 等: ""Research on the online monitor of BOD based on process neural network"", 《2010 8TH WORLD CONGRESS ON INTELLIGENT CONTROL AND AUTOMATION》 * |
QIAO,JUNFEI 等: ""An incremental neuronal-activity-based RBF neural network for nonlinear system modeling"", 《NEUROCOMPUTING》 * |
乔俊飞 等: ""基于PSO-ESN神经网络的污水BOD预测"", 《控制工程》 * |
张昭昭: ""动态自适应模块化神经网络结构设计"", 《控制与决策》 * |
李文静 等: ""基于互信息和自组织RBF神经网络的出水BOD软测量方法"", 《化工学报》 * |
蒙西 等: ""基于类脑模块化神经网络的污水处理过程关键出水参数软测量"", 《自动化学报》 * |
韩广 等: ""基于Hopfield神经网络的污水处理过程优化控制"", 《控制与决策》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112446168A (zh) * | 2020-10-28 | 2021-03-05 | 北京工业大学 | 一种基于mic及rbfnn的出水bod浓度软测量方法 |
CN112949894A (zh) * | 2020-12-10 | 2021-06-11 | 北京工业大学 | 一种基于简化型长短期记忆神经网络的出水bod预测方法 |
CN112949894B (zh) * | 2020-12-10 | 2023-09-19 | 北京工业大学 | 一种基于简化型长短期记忆神经网络的出水bod预测方法 |
CN112819087A (zh) * | 2021-02-11 | 2021-05-18 | 北京工业大学 | 一种基于模块化神经网络的出水bod传感器异常检测方法 |
CN112819087B (zh) * | 2021-02-11 | 2024-03-15 | 北京工业大学 | 一种基于模块化神经网络的出水bod传感器异常检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109978024B (zh) | 2020-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102854296B (zh) | 一种基于集成神经网络的污水处理软测量方法 | |
CN111354423B (zh) | 一种基于多元时间序列分析的自组织递归模糊神经网络的出水氨氮浓度预测方法 | |
Bagheri et al. | Modeling and optimization of activated sludge bulking for a real wastewater treatment plant using hybrid artificial neural networks-genetic algorithm approach | |
CN108469507B (zh) | 一种基于自组织rbf神经网络的出水bod软测量方法 | |
CN104182794B (zh) | 一种基于神经网络的污水处理过程出水总磷tp软测量方法 | |
US20170185892A1 (en) | Intelligent detection method for Biochemical Oxygen Demand based on a Self-organizing Recurrent RBF Neural Network | |
CN109978024A (zh) | 一种基于互联模块化神经网络的出水bod预测方法 | |
CN109344971B (zh) | 一种基于自适应递归模糊神经网络的出水氨氮浓度预测方法 | |
CN112989704B (zh) | 一种基于de算法的irfm-cmnn出水bod浓度预测方法 | |
Han et al. | Hierarchical neural network modeling approach to predict sludge volume index of wastewater treatment process | |
CN109492265B (zh) | 基于动态非线性pls软测量方法的废水出水指标预测方法 | |
CN102262147A (zh) | 一种废水处理***出水cod的软测量方法和*** | |
CN109657790A (zh) | 一种基于pso的递归rbf神经网络出水bod预测方法 | |
CN107664682A (zh) | 一种氨氮的水质软测量预测方法 | |
CN107665288A (zh) | 一种化学需氧量的水质软测量预测方法 | |
CN109408896B (zh) | 一种污水厌氧处理产气量多元智能实时监控方法 | |
CN105160422B (zh) | 基于自组织级联神经网络的污水处理出水总磷预测方法 | |
CN115206444A (zh) | 基于fcm-anfis模型的最佳投药量预测方法 | |
CN110705752A (zh) | 基于anfis与机理模型的污水bod实时预测方法 | |
CN105372995A (zh) | 污水处理***测控方法 | |
CN113111576A (zh) | 一种基于混合编码粒子群-长短期记忆神经网络出水氨氮软测量方法 | |
Zhang et al. | Effluent Quality Prediction of Wastewater Treatment System Based on Small-world ANN. | |
CN112446168A (zh) | 一种基于mic及rbfnn的出水bod浓度软测量方法 | |
CN114861543A (zh) | 一种数据驱动的石化污水可生化性智能评价方法 | |
CN113222324A (zh) | 一种基于pls-pso-rbf神经网络模型的污水质量监测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |