CN101929993A - 基于动态模糊神经网络的青霉素发酵过程软测量建模方法 - Google Patents

Abstract

本发明公开一种基于动态模糊神经网络的青霉素发酵过程软测量建模方法，先确定青霉素发酵过程的在线可测变量、过程输入变量和为需离线化验的不直接可测变量；再将不直接可测变量作为主导变量，对过程输入变量、在线可测变量用一致相关度算法分析其与主导变量的关联度，进行二次变量选择确定辅助变量，最后将确定的辅助变量作为软测量模型的输入变量，主导变量作为输出变量，采用动态模糊神经网络建立软测量模型并对其参数进行优化，本发明克服了传统模糊神经网络在初始模型的建立、规则数的确定等方面严重依赖于经验选择的不足，使得软测量模型的复杂度降低，进一步提高模型稳定性，有着良好的建模精度。

Description

基于动态模糊神经网络的青霉素发酵过程软测量建模方法

技术领域

本发明涉及一种生物发酵过程中软测量优化建模技术领域，具体是在青霉素发酵过程中用动态模糊神经网络模型估计发酵过程中关键生化变量的软测量建模方法。

背景技术

微生物发酵工程被广泛地应用于抗生素、氨基酸及精细化工产品的生产，在医药工业、化学工业、轻工食品和环境保护等诸多领域都涉及微生物发酵，已成为生物化学工程和现代生物技术及其产业化的基础。然而在现代微生物发酵工业中，一些关键性的生物发酵过程状态变量，如菌丝浓度、基质浓度、产物浓度等缺乏在线直接测量手段。而这些关键生化变量是否准确实时的测量直接制约着发酵工业的发展。为解决这些生化发酵过程中遇到的难题，一种结合现代智能控制算法的软测量技术随之产生。所谓软测量就是根据某种准则，选择一组既与被估计变量(即被测量或主导变量)有密切联系又容易测量的直接可测变量(即辅助变量)，通过构造一定的函数关系，用计算机软件实现对被测量的估计。

早期的软测量技术主要用于控制变量或扰动不可测的场合，其目的是实现工业过程的复杂控制，因此采用的软测量模型也是与控制***模型相对应的线性模型和机理模型。随着测量技术的发展，为了满足对测量的更高要求，近年来软测量技术能够实现难测参数的在线测量，软测量模型也发展到基于神经网络模型和基于人工智能的混合模型研究。软测量技术已成为过程控制和过程检测领域的主要发展趋势之一。由于模糊神经网络兼备模糊逻辑和神经网络的优势，善于利用已有经验知识且对复杂非线性函数具有任意逼近能力的特性，其在软测量领域的应用所形成的基于模糊神经网络的软测量方法，为生化、化工过程的关键生化量的软测量问题的解决，提供了强有力的手段。但传统的模糊神经网络在初始模型的建立、规则数的确定等方面严重依赖于经验选择，而在微生物发酵过程中，专家的经验往往是不全面甚至是片面的，这便导致测量结果的误差和不精确。

发明内容

本发明的目的是提供一种青霉素发酵过程中基于动态模糊神经网络的软测量建模方法，对青霉素发酵过程中关键生化变量参数进行软测量建模分析，具有良好的建模精度，并具有较高的实用性。

本发明采用以下步骤实现：

1)确定青霉素发酵过程的溶解氧、pH值和发酵液体积为在线可测变量，葡萄糖、玉米浆、麸质粉、磷酸二氢钾和氨水流加速率为过程输入变量，菌丝浓度X、基质浓度S、产物浓度P为需离线化验的不直接可测变量；

2)将三个不直接可测变量作为主导变量，对于过程输入变量、在线可测变量用一致相关度算法分析其与主导变量的关联度，进行二次变量选择，设定关联度阈值为0.7，在关联度大于0.7条件下确认关联度较大的外部变量中的葡萄糖流加速率、氨水流加速率、溶解氧、pH值这四个变量作为软测量模型的辅助变量；

3)将确定的辅助变量作为软测量模型的输入变量，主导变量作为软测量模型的输出变量，采用动态模糊神经网络建立软测量模型，利用训练样本集对该软测量模型进行训练确定软测量模型的结构和参数，通过验证集验证软测量模型的精度，对软测量模型的参数进行优化

本发明对获取的现场测量数据以及离线测量数据通过一致相关度算法分析并确定软测量模型的辅助变量和主导变量，运用动态模糊神经网络建立软测量模型，利用训练样本集对该模型进行训练确定网络模型的结构和参数，并通过验证集验证模型的精度。最终通过该软测量模型实现在线检测发酵过程的关键生化变量，以实现对菌丝浓度X、基质浓度S、产物浓度P的在线软测量，其有益效果在于：

1.本发明给出了发酵过程中软测量模型辅助变量的选择和动态模糊神经网络模型的结构参数的优化方法，基于一致相关度法分析获得软测量模型辅助变量的过程，能够反映该辅助变量对主导变量的影响程度，使得辅助变量的选择有了理论依据。对机理分析获得的大量输入变量进行辅助变量的选择，使得软测量模型的复杂度降低，达到进一步提高模型稳定性的目的。

2.采用动态模糊神经网络进行软测量模型的优化，其参数的调整过程和结构的辨识在训练学习过程中同时进行，克服了传统模糊神经网络在初始模型的建立、规则数的确定等方面严重依赖于经验选择的问题。通过对青霉素发酵过程关键生物量参数进行软测量建模进行分析，对于缺乏经验知识的微生物发酵过程，该方法有着良好的建模精度。

3.本发明所提供的软测量方法与软测量***不仅对青霉素发酵过程有效，而且可推广到其它的化工、生化过程，具有广阔的应用前景。

附图说明

图1是青霉素发酵过程中基于动态模糊神经网络的软测量仪表优化建模方法的基本结构框图。

图2是动态模糊神经网络的结构示意图。

图3是动态模糊神经网络的算法流程图。

图4是动态模糊神经网络的模糊规则产生图。

图5是基于动态模糊神经网络软测量模型的训练误差变化图。

图6是基于动态模糊神经网络的软测量模型预测结果。

具体实施方式

如图1所示，本发明具体实施步骤如下：

1.确定青霉素发酵过程的在线可测变量、过程输入变量以及需离线化验的不直接可测变量。

根据以下公式(1)所示的青霉素流加发酵过程的动力学模型，结合实际青霉素发酵过程情况，选择青霉素发酵过程的直接在线可测变量为溶解氧、pH值和发酵液体积；过程输入变量为葡萄糖、玉米浆、麸质粉、磷酸二氢钾和氨水流加速率；需离线化验的不直接可测变量为菌丝浓度X、基质浓度S、产物浓度P，确定青霉素发酵过程的在线可测变量、过程输入变量与需离线化验的不直接可测变量。

$\left\{\begin{array}{c}\frac{\mathrm{dX}}{\mathrm{dt}}=\mathrm{\μX}-\frac{X}{V}\frac{\mathrm{dV}}{\mathrm{dt}}\\ \frac{\mathrm{dS}}{\mathrm{dt}}=-\frac{\mathrm{\μ}}{Y_{X/S}}X-\frac{{\mathrm{\μ}}_{\mathrm{pp}}}{Y_{P/S}}X-m_{x}X+F_{\mathrm{sf}}-\frac{S}{V}\frac{\mathrm{dV}}{\mathrm{dt}}\\ \frac{\mathrm{dP}}{\mathrm{dt}}={\mathrm{\μ}}_{\mathrm{pp}}X-\mathrm{KP}-\frac{P}{V}\frac{\mathrm{dV}}{\mathrm{dt}}\\ \frac{d{C}_L}{\mathrm{dt}}=-(\frac{\mathrm{\μ}}{Y_{X/O}}+\frac{{\mathrm{\μ}}_{\mathrm{pp}}}{Y_{P/O}}+m_o)X+K_{\mathrm{La}}({C_L}^{*}-C_L)-\frac{C_L}{V}\frac{\mathrm{dV}}{\mathrm{dt}}\\ \frac{\mathrm{dpH}}{\mathrm{dt}}=c_1{F}_{\mathrm{NH}}+c_{2}P+c_3{S}^{0.8}\\ \frac{\mathrm{dV}}{\mathrm{dt}}=\mathrm{\ΣF}\end{array}\right.---\left(1\right)$

其中 $\mathrm{\μ}={\mathrm{\μ}}_x\frac{S}{K_{x}X+S}\frac{C_L}{K_{\mathrm{ox}}X+C_L};$ ${\mathrm{\μ}}_{\mathrm{PP}}={\mathrm{\μ}}_P\frac{S}{(K_P+S+S^2/K_1)}\frac{C_{L}P}{K_{\mathrm{OP}}X+C_{L}P},$

X表示菌丝浓度(g/L)，

m为菌丝细胞比生长速率(h^-1)，

V表示反应器中培养液的体积(L)，

S基质浓度(g/L)，

μ_PP为产物生长比速率(h^-1)，

m_x为青霉素菌体细胞基质维持系数(kg/(kg×h))，

Y_X/S、Y_P/S分别表示菌丝细胞对基质的得率系数和产物对基质的得率系数(kg/kg)，

pH为发酵液的pH值，

F_sf为葡萄糖流加速率(g/(L×h))，

P表示产物浓度(g/L)，

K为青霉素产物分解系数(h^-1)，

C_L为溶解氧浓度(mol/L)，

Y_X/O、Y_P/o分别表示菌丝细胞对氧的得率系数和产物对氧的得率系数(g/g)，

m_o氧维持系数(g/(g×h))，

K_La为体积传氧系数(m/h)。

C_L ^*为气相饱和氧浓度(mol/L)，

F_NH表示加入氨水的流加速率(g/(L×h))，

c₁、c₂、c₃为常数，

F为发酵过程的各流加速率，

μ_x为青霉素菌体比生长速率(h^-1)，

K_x为青霉素菌丝生长基质限制饱和常数(g/g)，

K_ox为青霉素菌丝生长氧限制饱和常数(mol/g)，

μ_P为青霉素菌体比合成速率(h^-1)，

K_P为青霉素产物生长基质限制饱和常数(g/L)，

K_I为青霉素产物生长基质抑制常数(g/L)，

K_OP为青霉素产物生长氧限制饱和常数(mol/g)。

2.确定青霉素发酵过程中软测量模型的辅助变量与主导变量。

将菌丝浓度X、基质浓度S、产物浓度P三个不直接可测关键生化变量作为主导变量，对于选取的过程输入变量、在线可测变量用一致相关度算法分析其与主导变量(菌丝浓度X、基质浓度S、产物浓度P)的关联度，进行二次变量选择，取关联度较大的外部变量作为软测量模型的辅助变量。

本发明以溶解氧C_L、菌丝浓度X为例，一致相关度的具体算法如下：

其中v(k)为变化率关联系数，r为关联度，b为数据变化率对关联度的影响；

为变量相关系数，其中DX(k)=X(k+1)-X(k)，DC_L(k)＝C_L(k+1)-C_L(k)，

，l为样本数，k为样本的序列编号；

定义x_k为符合因子，则：

当DX(k)DC_L(k)＞O或者DX(k)＝DC_L(k)＝0时则称X、C_L在k点趋势相同时，x_k＝1，关联度为正；

当DX(k)DC_L(k)＝0，则称X、C_L在k点趋势无关时，x_k＝O，对相关联度无贡献；当DX(k)DC_L(k)＜O，则称X、C_L在k点趋势相反，x_k＝-1，关联度为负。

对于溶解氧CL和菌丝浓度X，设有m₁个趋势相同的点

，m₂个趋势无关联的点

m₃个趋势相反的点

代入公式(2)可得：

其中k₁+k₂+k₃＝k-1，另M，Z，N分别表示正关联度、零关联度和负关联度；当M＞|N|时，溶解氧C_L、菌丝浓度X以正相关为主，它们的变化趋势相似，相关程度由r、M两因素的大小来衡量；当r＝Z＝0时，溶解氧C_L和菌丝浓度X无关；当M＜|N|时，溶解氧C_L、菌丝浓度X相关为主，即它们的变化趋势相反，相关程度由由r、|N|两因素的大小来衡量。

外部变量与菌丝浓度X的关联度计算结果如表1所示：

表1外部变量的关联度计算值

由上计算结果可知，通过一致相关度算法分析并根据发酵过程经验，设定关联度阈值为0.7，即当在r＞0.7的条件下，外部变量中的葡萄糖流加速率、氨水流加速率、溶解氧、pH值与青霉素发酵过程中的菌丝浓度X最为相关，因此，选择上述四个变量作为软测量模型的辅助变量。

3.软测量模型的建立与参数的优化

采用动态模糊神经网络算法对软测量模型参数进行优化，进而最终确定动态模糊神经网络的各权参数及结构。分为以下三步：

(1)获取青霉素发酵过程的现场数据以及离线测量数据，即如图1所示的在线可测变量、过程输入变量和不直接可测变量。

a)青霉素发酵培养

发酵培养基在50L发酵罐内经高温消毒后降温至25℃，分别进行种罐种子液接种、发酵罐前期发酵液接种、混合接种和补料分批发酵培养，并对发酵过程中的可测量进行控制：

罐内温度：0～50℃±0.5℃；pH值：2～12pH±0.15PH；溶解氧：0～100％±0.5％

罐压：0～0.25Mpa    ；电机搅拌转速：0～500转/分，连续可调；

空气流量和补料速率根据发酵过程中的参数变化进行控制。

b)数据采集与测定

发酵过程中采集现场可测数据：葡萄糖、玉米浆、麸质粉、磷酸二氢钾、氨水流加速率、溶解氧、pH值和发酵液体积；每4小时取样化验一次获得离线生化量：菌丝浓度X、基质浓度S、产物浓度P；

总共采集10个发酵批次的数据作为样本数据(每个发酵批次时间跨度为200小时)，其中前9个批次用于动态模糊神经网络模型的训练，第10批次的数据用来对动态模糊神经网络模型进行验证。

(2)数据处理

为了提高模型的精确度，对样本数据进行归一化处理，归一化公式选为：

$x^{\′}=\frac{x_{\max }-x}{x_{\max }-x_{\min }}---\left(4\right)$

式中：x′为归一化后的数据，x为原始样本数据，x_max、x_min为样本数据的最大值、最小值。归一化后样本数据在[0，1]之间。

(3)确定动态模糊神经网络各权参数及结构

采用动态模糊神经网络建立软测量模型，其动态模糊神经网络结构如图2所示。根据以上一致相关度算法所确定的辅助变量做为模型的输入变量，主导变量(菌丝浓度X、基质浓度S、产物浓度P)做为模型的输出变量，其中用x₁，x₂，x₃，x₄依次表示输入变量为葡萄糖流加速率、氨水流加速率、溶解氧、pH值；Y是***的输出变量，包括菌丝浓度X、基质浓度S、产物浓度P。MF_ij是第i个输入变量的第j个隶属函数，R_j表示第j条模糊规则，N_j是第j个归一化节点，w_j是第j个规则的连接权系，u是***的总的规则数。网络的各层的关系如下：

第一层：为输入层，输出节点为x_i，i＝1，2，3，4；

第二层：隶属函数层，每个结点分别代表一个隶属函数，

$u_{\mathrm{ij}}\left(x_i\right)=\exp [-\frac{{(x_i-c_{\mathrm{ij}})}^2}{{\mathrm{\σ}}^2}]---\left(5\right)$

其中i＝1，2，3，4，j＝1，2，...，u，u_ij是x_i的第j个隶属函数，c_ij是x_i的第j个高斯隶属函数的中心，σ是x_i的第j个高斯隶属函数的宽度，r是输入变量数，u是隶属函数的数量。

第三层：称为T-范数层，第j个规则R_j的输出为：

${\mathrm{\φ}}_j=\exp [-\frac{\underset{i=1}{\overset{n}{\mathrm{\Σ}}}{(x-c_{\mathrm{ij}})}^2}{{\mathrm{\σ}}^2}]=\exp [-\frac{{\left|\right|X-C_j\left|\right|}^2}{{\mathrm{\σ}}^2}]---\left(6\right)$

其中j＝1，2，...，u。

第四层：归一化层，第j个节点N_j的输出为：

第五层：输出层，该层的每个节点分别表示一个输出变量，该输出是所有输入信号的叠加：

其中y是变量的输出，w_k是第k个规则的连接权。将式(5)，式(6)，式(7)分别代入式(8)中，则可以得到网络模型的输入输出关系：

$y=f\left(x\right)=\frac{\underset{j=1}{\overset{u}{\mathrm{\Σ}}}\left[w_j\exp (-\frac{\underset{i=1}{\overset{4}{\mathrm{\Σ}}}{(x_i-c_{\mathrm{ij}})}^2}{{\mathrm{\σ}}_j^2})\right]}{\underset{j=1}{\overset{u}{\mathrm{\Σ}}}\exp (-\frac{\underset{i=1}{\overset{4}{\mathrm{\Σ}}}{(x_i-c_{\mathrm{ij}})}^2}{{\mathrm{\σ}}_j^2})}---\left(9\right)$

其中x为输入变量，w_j是第k个规则的连接权系，u是***的总的规则数，r是***输入变量的个数，c_ij是x_i的第j个高斯隶属函数的中心，σ_j是x_i的第j个高斯隶属函数的宽度。动态模糊神经网络的各权参数及结构通过下一步的样本集训练和验证确定。

参数优化过程算法如图3所示，通过以上所确定的样本集中取前9个批次的数据进行训练，算法步骤如下所示：

a)初始化***并预定义***的初始参数k_e、k_d、k_err，其中k_e为根据动态模糊神经网络的精度期望预先设定值，k_d为高斯函数覆盖范围的有效半径，k_err预设的误差下降率的阈值。k_e，k_d由下式确定：

k_e＝max[e_max×βⁱ，e_min]                                               (10)

k_d＝max[d_max×γⁱ，d_min]                                               (11)

其中e_max是预先设定好的最大误差，e_min是期望的精度，β(0＜β＜1)是收敛常数，d_max是输入空间的最大长度，d_min是最小长度，γ(0＜γ＜1)是衰减常数。

b)第一条数据进入后，产生第一条模糊规则。即第一个数据(X₁，t₁)得到后，其中X₁是软测量的第1个输入向量，t₁是期望的第1个输出，这个数据就被选择为第一条规则：C₁＝X₁，σ₁＝σ₀，其中k(k＞1)是重叠因子，σ₀预先设置的常数。

c)对于给定的第i个数据(X_i，t_i)，其中X_i是软测量的第i个输入向量，t_i是期望的第i个输出，i＞1，计算X_i和现有RBF单元中心C_j之间的距离d_i(j)，即

d_i(j)＝||X_i-C_j||                                                        (12)

其中j＝1，2，...，u，u为现有的模糊规则或者RBF单元的数量。

并且计算出

d_min＝argmin(d_i(j))                                                     (13)

如果d_min＞k_d则考虑增加一条新的模糊规则。

同时根据式(9)计算得到全部输出y_i，定义e_i为第i组数据的实际输出误差：

||e_i||＝||t_i-y_i||                                                       (14)

如果||e_i||＞k_e则考虑增加一条新规则。

d)只有当d_min＞k_d、||e_i||＞k_e时才需要增加一条模糊规则。新产生的规则的初始参数按如下规则进行分配：

C_i＝X_i，σ_i＝k×d_min                                                    (15)

其中k(k＞1)是重叠因子。

其它情况如下：

第一种情况：d_min≤k_d，||e_i||≤k_e，此时可以动态模糊神经网络可以完全容纳待入数据不需要更新数据。

第二种情况：d_min＞k_d，||e_i||≤k_e，此时表明建模的网络模型具有较好的泛化能力只有结果参数需要调整。

第三种情况：d_min≤k_d，||e_i||＞k_e，这种情况表示覆盖X_i的RBF单元的泛化能力不是很好，该RBF节点以及结果参数同时被更新。对于接近X_i的第k个RBF单元按下式调整：，其中k_w(0＜k_w＜1)是预定的常数。

e)产生新的模糊规则之后，计算模型的误差下降率，以进行模糊规则的修剪。一般情况下一个模糊规则建立之后很难再剔除，在学习过程中检测到不活跃的模糊规则时加以剔除，可以获得更为紧凑的动态模糊神经网络结构。在此采用误差下降率方法，引入η_i反映第i个规则的重要性，η_i值越大，表示第i个规则的重要性。如果η_i＜k_err(k_err为预设的阈值)，则第i个规则可以剔除；如果η_i≥k_err，只需调整其结果参数。

f)判断训练是否结束，如果没有结束返回步骤c。

用构成的前9批训练样本集对网络进行训练，训练过程中模糊规则的产生如图4所示，训练的过程中，模糊规则的建立随着样本数的增加而增加，但是样本数目在360左右后趋于稳定。同时图5(a)所示为训练过程中的实际输出误差变化曲线图，图5(b)为均方根误差变化图，可以看出其实际输出误差变化曲线和均方根误差变化曲线在训练的过程中逐渐趋于0，说明训练达到了预期的效果。

然后用第10批验证样本集对动态模糊神经网络进行验证，对该批的实际输出值跟预测值测试结果如图6所示。图6(a)、(b)、(c)依次为菌丝浓度X、基质浓度S和产物浓度的预测值和真实值的变化曲线，其中的实线代表真实值，星号线代表软测量模型的预测值。从图6可以看出，本发明能达到很好的预测效果。

Claims (2)

1.一种基于动态模糊神经网络的青霉素发酵过程软测量建模方法，其特征是采用如下步骤：

1)确定青霉素发酵过程的溶解氧、pH值和发酵液体积为在线可测变量，葡萄糖、玉米浆、麸质粉、磷酸二氢钾和氨水流加速率为过程输入变量，菌丝浓度X、基质浓度S、产物浓度P为需离线化验的不直接可测变量；

2)将三个不直接可测变量作为主导变量，对于过程输入变量、在线可测变量用一致相关度算法分析其与主导变量的关联度，进行二次变量选择，设定关联度阈值为0.7，在关联度大于0.7条件下确认关联度较大的外部变量中的葡萄糖流加速率、氨水流加速率、溶解氧、pH值这四个变量作为软测量模型的辅助变量；

3)将确定的辅助变量作为软测量模型的输入变量，主导变量作为软测量模型的输出变量，采用动态模糊神经网络建立软测量模型，利用训练样本集对该软测量模型进行训练确定软测量模型的结构和参数，通过验证集验证软测量模型的精度，对软测量模型的参数进行优化。

2.根据权利要求1所述的基于动态模糊神经网络的青霉素发酵过程软测量建模方法，其特征是：动态模糊神经网络的确定包括以下步骤：

1)共采集10个青霉素发酵发酵批次的数据作为样本数据，其中前9个批次的样本数据用于动态模糊神经网络模型的训练，第10批次的样本数据用于对动态模糊神经网络模型进行验证；

2)对10个样本数据进行归一化处理，归一化公式选为：

$x^{\′}=\frac{x_{\max }-x}{x_{\max }-x_{\min }}$

x′为归一化后的数据，x为原始样本数据，x_max、x_min为样本数据的最大值、最小值；归一化后样本数据在[0，1]之间；

3)确定动态模糊神经网络各权参数及结构，模型的输入输出关系式为：

$y=f\left(x\right)=\frac{\underset{j=1}{\overset{u}{\mathrm{\Σ}}}\left[w_j\exp (-\frac{\underset{i=1}{\overset{4}{\mathrm{\Σ}}}{(x_i-c_{\mathrm{ij}})}^2}{{\mathrm{\σ}}_j^2})\right]}{\underset{j=1}{\overset{u}{\mathrm{\Σ}}}\exp (-\frac{\underset{i=1}{\overset{4}{\mathrm{\Σ}}}{(x_i-c_{\mathrm{ij}})}^2}{{\mathrm{\σ}}_j^2})}$

x为输入变量，y为输出变量，w_j是第k个规则的连接权系，u是***的总的规则数，r是***输入变量的个数，c_ij是x_i的第j个高斯隶属函数的中心，σ_j是x_i的第j个高斯隶属函数的宽度；

取前9个批次的样本数据进行训练，步骤如下：

a)初始化并预定义初始参数k_e、k_d：

k_e＝max[e_max×βⁱ，e_min]，k_d＝max[d_max×γⁱ，d_min]

k_e为根据动态模糊神经网络的精度期望预先设定值，k_d为高斯函数覆盖范围的有效半径，e_max是预先设定好的最大误差，e_min是期望的精度，β(0＜β＜1)是收敛常数，d_max是输入空间的最大长度，d_min是最小长度，γ(0＜γ＜1)是衰减常数；

b)第一个数据(X₁，t₁)得到后，产生第一条模糊规则：C₁＝X₁，σ₁＝σ₀，σ₀预先设置的常数，X₁是软测量的第1个输入向量，t₁是期望的第1个输出：

c)对给定的第i个数据(X_i，t_i)计算X_i和现有神经网络单元中心C_j之间的距离d_i(j)：

d_i(j)＝||X_i-C_j||

X_i是第i个输入向量，t_i是期望的第i个输出，i＞1，j＝1，2，...，u，u为现有的模糊规则或者神经网络单元的数量；

根据全部输出变量y_i，定义e_i为第i组数据的实际输出误差：||e_i||＝||t_i-y_i||；

当d_min＞k_d、||e_i||＞k_e时增加一条模糊规则，新产生的规则的初始参数按如下规则进行分配：C_i＝X_i，σ_i＝k×d_min，其中k(k＞1)是重叠因子；

其它情况如下：

第一种情况：d_min≤k_d，||e_i||≤k_e，不需要更新数据；

第二种情况：d_min＞k_d，||e_i||≤k_e，结果参数需要调整；

第三种情况：d_min≤k_d，||e_i||＞k_e，接近X_i的第k个神经网络单元按下式调整：

k_w(0＜k_w＜1)是预定的常数；

d)产生新的模糊规则之后，计算模型的误差下降率，进行模糊规则的修剪，

e)判断训练是否结束，若没有结束则返回步骤c)。

Images