CN107015541A - 基于互信息和最小二乘支持向量机相结合的软测量方法 - Google Patents

Abstract

本发明公开了基于互信息和最小二乘支持向量机相结合的软测量方法，首先基于对工业生产工艺流程的分析，初步选取与难测参量相关的易测变量作为软测量模型的候选辅助变量；然后应用互信息的方法表征变量间的关联程度，进而确定候选辅助变量的时延参数，并在此基础之上，采用分步式搜索的方法对候选辅助变量进行筛选，获得输入变量；最后将输入变量带入最小二乘支持向量机(LSSVM)进行训练，建立软测量模型，实现难测参量的实时估计。本发明方法，解决了由于工业生产过程中普遍存在多变量，强非线性，耦合性，时滞等特点，导致软测量模型难以建立的问题。通过将互信息和LSSVM相结合的方法建立软测量模型，来达到更好的预测效果。

Description

基于互信息和最小二乘支持向量机相结合的软测量方法

技术领域

本发明涉及软测量仪表技术领域，尤其是一种基于互信息和最小二乘支持向量机相结合的软测量方法。

背景技术

近年来，随着我国经济的飞速发展，各类生产过程，如水泥、钢铁、电力、冶金和石油等发生了显著的变化，以前简单、常规的控制方法已经不能满足现代生产工艺的要求。为了保证生产过程的平稳运行，以及产品的优质高产，先进控制和优化控制纷纷被应用于现代生产过程中，但是在应用过程中首先遇到的一个难题就是许多重要的参量难以实时测量。通常，对于工业生产过程中的参量，测量方法主要有在线测量和离线测量两种。在线测量指使用仪器直接对参量进行测量，但设备价格昂贵，维护困难，且测量结果的准确性易受到现场工况的影响。离线测量指应用离线检验的方法对参量进行测量，但离线检验往往需要几个小时，导致离线获得的测量结果对生产过程的指导存在较大延时性。因此，如何实时估计难测参量成为过程控制首先要解决的关键问题。

发明内容

本发明目的在于提供一种采用互信息的方法表征变量间的关联程度、应用最小二乘支持向量机建立软测量模型的基于互信息和最小二乘支持向量机相结合的软测量方法。

为实现上述目的，采用了以下技术方案：本发明所述方法包括以下步骤：

步骤1，确定候选辅助变量；

通过对工业工艺流程的分析，初步选取与难测参量相关的易测变量作为软测量模型的候选辅助变量；

步骤2，数据采集及预处理；

通过查询工业行业的DCS***或操作员的记录表等方法，采集候选辅助变量与难测参量的现场数据；考虑到现场数据会存在异常值和量纲不统一的问题，采用Hempel准则对数据的异常值进行剔除，并且在训练前对数据进行归一化处理；

步骤3，确定时延参数；

对候选辅助变量进行相空间重构，将历史数据加入候选辅助变量中，采用互信息的方法表征候选辅助变量与难测参量间的关联程度，根据互信息值的大小，确定候选辅助变量相对于难测参量的时延参数；

步骤4，确定输入变量；

在确定时延参数的基础上，应用分步式搜索的方法对候选辅助变量进行筛选，确定软测量模型的输入变量；

步骤5，建立软测量模型；

引入最小二乘支持向量机的方法对确定的输入变量进行训练，建立工业生产过程中难测参量的软测量模型，实现难测参量的实时估计。

进一步的，步骤2中，所述的Hempel准则如式(1)所示：

式中，x_i是输入变量中的第i个变量，x_0.5为变量中值。

进一步的，步骤3中，所述的应用互信息的方法表征变量间的关联程度如式(2)(3)所示：

设空间Z＝(X,Y)内共有N个可用样本点z_i＝(x_i,y_i),i＝1,…,N，则变量X、Y之间的互信息可以表示为：

MI(X,Y)＝ψ(k)-〈ψ(n_x+1)+ψ(n_y+1)〉+ψ(N) (2)

应用于高维变量时，(X₁,X₂,…,X_m-1,Y)之间的互信息为：

MI(X₁,X₂,…,X_m-1,Y)＝ψ(k)-〈ψ(n_x1)+…+

ψ(n_xm-1)+ψ(n_y)〉+(m-1)ψ(N) (3)

其中：k表示将样本点z_i与其它点的距离进行排序，最近的k个点的个数；n_x(i)表示与点x_i的距离严格小于ε_i/2的样本点数目，n_xm-1表示与点x_m-1的距离严格小于ε_i/2的样本点数目，n_y(i)表示与点y_i的距离严格小于ε_i/2的样本点数目，ε_i/2表示点与第k个最邻近的距离，〈…〉表示对其中的所有变量i＝1,…,N取平均，ψ(x)为Digamma函数。

进一步的，步骤3中，所述的应用互信息的方法确定时延参数，具体描述如下：

定义候选辅助变量集为x＝[x₁(t),x₂(t),…,x_n(t)]，难测参量为y＝y(t)，其中n表示候选辅助变量中变量的个数，t表示取值的时间；

对每个变量x_i(t)，i∈[1,N]进行相空间重构，嵌入时间延迟τ＝(η₁,η₂,…,η_d)，得到该变量嵌入时延后的向量为：

t_i＝[x_i(t-η₁),x_i(t-η₂),…,x_i(t-η_d)] (4)

根据公式(2)计算不同时刻各候选辅助变量对参量的贡献程度，当其值取最大时，对应的τ值即为该候选辅助变量的时延参数。

进一步的，步骤4的具体内容为：

分步式搜索分为两步对输入变量进行选取，第一步为序列前向搜索，选择难测参量的相关变量，第二步为序列后向搜索，删除掉相关变量中的冗余变量；将经过时序匹配的候选辅助变量定义为d＝(d₁,d₂,…,d_n)，难测参量定义为y，设空集为h；

4-1，序列前向搜索：从候选辅助变量集d中每次选择一个变量d_i,i∈[1,n]加入空集h中，使其满足下式：

MI(h+d_i,y)>δ₁ (5)

其中，δ₁为相关性阈值，得到难测参量的相关变量并定义为h＝(h₁,h₂,…,h_a),a∈[1,n]；

4-2，序列后向搜索：每次从相关变量h中剔除一个变量h_j,j∈[1,a]，使其满足下式：

MI(h-h_j,y)<δ₂ (6)

其中，δ₂为冗余性阈值，得到软测量模型的输入变量。

进一步的，步骤5的具体内容为：

定义所得输入变量为：u＝(u₁,u₂,…,u_s)，输出变量为：y；将输入变量带入最小二乘支持向量机，得到非线性回归表达式为：

式中，N为训练样本个数，b为偏置变量，a_k为拉格朗日算子，K(u,u_k)为核函数，可根据具体情况进行选取。

与现有技术相比，本发明具有如下优点：

1、将工业生产工艺与互信息方法相结合对输入变量进行选取，对时延参数进行确定，较好的解决了由于工业过程中普遍存在多变量、强非线性、耦合性和时滞等特点，导致软测量模型难以建立的问题。

2、建立的工业过程难测参量软测量模型具有良好的泛化能力，不仅可以为操作员提供指导，也为后续工业生产的智能控制提供了先决条件。

3、无须复杂的硬件设备，且价格低廉，具有更好的适用性和推广性。

附图说明

图1为本发明方法的流程图；

图2为本发明实施例中用于水泥生料细度预测软测量模型基于互信息方法的时延估计图。

图3为本发明一个实施例中用于水泥生料细度预测的软测量模型基于互信息分步式搜索的输入变量选择，

图4为本发明一个实施例中用于水泥生料细度预测的软测量模型训练及预测结果图。

具体实施方式

下面结合附图和实施例对本发明做进一步说明：

实施例1：本发明基于互信息和最小二乘支持向量机相结合的软测量方法，应用于某水泥厂实际生产中，对水泥生料细度进行实时预测，实施方案流程如图1所示。首先依据水泥生料粉磨工艺流程的机理分析，确定候选辅助变量；然后对候选辅助变量进行相空间重构，应用互信息的方法表征变量间的关联程度，确定候选辅助变量与生料细度间的时延参数，在此基础之上，采用分步式搜索的方法对候选输入变量进行筛选，得到模型的输入变量；最后应用LSSVM的方法进行软测量建模，实现水泥生料细度的的实时估计。

具体步骤如下：

步骤1：确定候选辅助变量

通过对水泥生料粉磨工艺流程的分析，确定影响水泥生料细度的主要因素为磨机喂料量、磨机电流、磨机入口温度、磨机出口温度、磨机压差、循环提升机电流、选粉机转速、循环风机电流，并定义为模型的候选辅助变量。

步骤2：数据采集及预处理。

从某水泥厂生产线DCS***和化验室历史记录中采集样本数据124组，通过Hempel准则去除其中的异常值，得到共112组，并进行归一化处理。

步骤3：确定时延参数

设定候选辅助变量相对于生料细度的最大时延η为40min。对候选辅助变量进行相空间重构，加入40min的历史数据，计算各时刻候选变量与生料细度的互信息值，结果如图2所示。图2中，最大互信息值对应的时间即为该候选辅助变量的时延参数，其中图2(a),(b),...,(h)分别对应各个候选辅助变量：磨机喂料量、磨机电流、磨机入口温度、磨机出口温度、磨机压差、循环提升机电流、选粉机转速、循环风机电流。

选择最大互信息值对应的η即为该候选辅助变量的时延参数，得到各个候选辅助变量的时延参数如表1所示。

表1各个候选辅助变量和时延

步骤4：确定输入变量

应用互信息的方法表征候选辅助变量与生料细度间的关联程度，然后应用分步式搜索的方法对候选辅助变量进行筛选，得到软测量模型的输入变量。第一步，序列前向搜索：如图3所示，其中，图3(a)表示序列前向搜索的结果，图3(b)表示序列后向搜索的结果。如图3(a)所示，横坐标表示依次加入的候选输入变量，纵坐标表示与生料细度的互信息值，设定相关性阈值δ₁＝0.4，选择出符合标准的变量，去除掉的候选辅助变量为Mill_temIn(磨机入口温度)、Mill_curr(磨机电机电流)。第二步，序列后向搜索：如图3(b)所示，横坐标表示从第一步选择得到的变量集中，依次去除的候选辅助变量，纵坐标为对应的互信息值，设定冗余性阈值δ₂＝0.44，剔除掉的冗余变量为Mill_temOut(磨机出口温度)、Mill_press(磨机压差)。得到输入变量为：磨机物料流量、循环提升机电流、选粉机转速、循环风机电流。

步骤5：建立软测量模型

应用最小二乘支持向量机进行软测量建模，其中，核函数采用径向基核函数。将输入变量与生料细度带入软测量模型进行训练，随机选择112组样本的82组数据作为训练样本，剩余的40组数据作为预测样本。参数选取：惩罚参数γ＝4，核函数参数ζ＝0.0039，得到生料细度的预测结果如图4(a)所示，预测结果如图4(b)所示。从图4可以看出，本发明提出的基于互信息和最小二乘支持向量机相结合的软测量方法，应用于水泥生料细度预测实例中表现出良好的性能，并且拟合程度高，可以很好的反应出水泥生料细度的变化趋势。

以上所述的实施例仅仅是对本发明的优选实施方式进行描述，并非对本发明的范围进行限定，在不脱离本发明设计精神的前提下，本领域普通技术人员对本发明的技术方案做出的各种变形和改进，均应落入本发明权利要求书确定的保护范围内。

Claims (6)

1.一种基于互信息和最小二乘支持向量机相结合的软测量方法，其特征在于，所述方法包括以下步骤：

步骤1，确定候选辅助变量；

通过对工业工艺流程的分析，初步选取与难测参量相关的易测变量作为软测量模型的候选辅助变量；

步骤2，数据采集及预处理；

采集候选辅助变量与难测参量的现场数据；采用Hempel准则对数据的异常值进行剔除，并且在训练前对数据进行归一化处理；

步骤3，确定时延参数；

对候选辅助变量进行相空间重构，将历史数据加入候选辅助变量中，采用互信息的方法表征候选辅助变量与难测参量间的关联程度，根据互信息值的大小，确定候选辅助变量相对于难测参量的时延参数；

步骤4，确定输入变量；

在确定时延参数的基础上，应用分步式搜索的方法对候选辅助变量进行筛选，确定软测量模型的输入变量；

步骤5，建立软测量模型；

引入最小二乘支持向量机的方法对确定的输入变量进行训练，建立工业生产过程中难测参量的软测量模型，实现难测参量的实时估计。

2.根据权利要求1所述的基于互信息和最小二乘支持向量机相结合的软测量方法，其特征在于，步骤2中，所述的Hempel准则如式(1)所示：

式中，x_i是输入变量中的第i个变量，x_0.5为变量中值。

3.根据权利要求1所述的基于互信息和最小二乘支持向量机相结合的软测量方法，其特征在于，步骤3中，所述的应用互信息的方法表征变量间的关联程度如式(2)(3)所示：

设空间Z＝(X,Y)内共有N个可用样本点z_i＝(x_i,y_i),i＝1,···,N，则变量X、Y之间的互信息可以表示为：

MI(X,Y)＝ψ(k)-〈ψ(n_x+1)+ψ(n_y+1)〉+ψ(N) (2)

应用于高维变量时，(X₁,X₂,···,X_m-1,Y)之间的互信息为：

MI(X₁,X₂,···,X_m-1,Y)＝ψ(k)-〈ψ(n_x1)+···+

ψ(n_xm-1)+ψ(n_y)〉+(m-1)ψ(N) (3)

其中：k表示将样本点z_i与其它点的距离进行排序，最近的k个点的个数；n_x(i)表示与点x_i的距离严格小于ε_i/2的样本点数目，表示与点x_m-1的距离严格小于ε_i/2的样本点数目，n_y(i)表示与点y_i的距离严格小于ε_i/2的样本点数目，ε_i/2表示点与第k个最邻近的距离，〈···〉表示对其中的所有变量i＝1,···,N取平均，ψ(x)为Digamma函数。

4.根据权利要求3所述的基于互信息和最小二乘支持向量机相结合的软测量方法，其特征在于，步骤3中，所述的应用互信息的方法确定时延参数，具体描述如下：

定义候选辅助变量集为x＝[x₁(t),x₂(t),···,x_n(t)]，难测参量为y＝y(t)，其中n表示候选辅助变量中变量的个数，t表示取值的时间；

对每个变量x_i(t)，i∈[1,N]进行相空间重构，嵌入时间延迟τ＝(τ₁,τ₂,···,τ_d)，得到该变量嵌入时延后的向量为：

t_i＝[x_i(t-τ₁),x_i(t-τ₂),···,x_i(t-τ_d)] (4)

根据公式(2)计算不同时刻各候选辅助变量对参量的贡献程度，当其值取最大时，对应的τ值即为该候选辅助变量的时延参数。

5.根据权利要求1所述的基于互信息和最小二乘支持向量机相结合的软测量方法，其特征在于，步骤4的具体内容为：

分步式搜索分为两步对输入变量进行选取，第一步为序列前向搜索，选择难测参量的相关变量，第二步为序列后向搜索，删除掉相关变量中的冗余变量；将经过时序匹配的候选辅助变量定义为d＝(d₁,d₂,···,d_n)，难测参量定义为y，设空集为h；

4-1，序列前向搜索：从候选辅助变量集d中每次选择一个变量d_i,i∈[1,n]加入空集h中，使其满足下式：

MI(h+d_i,y)>δ₁ (5)

其中，δ₁为相关性阈值，得到难测参量的相关变量并定义为h＝(h₁,h₂,···,h_a),a∈[1,n]；

4-2，序列后向搜索：每次从相关变量h中剔除一个变量h_j,j∈[1,a]，使其满足下式：

MI(h-h_j,y)<δ₂ (6)

其中，δ₂为冗余性阈值，得到软测量模型的输入变量。

6.根据权利要求1所述的基于互信息和最小二乘支持向量机相结合的软测量方法，其特征在于，步骤5的具体内容为：

定义所得输入变量为：u＝(u₁,u₂,···,u_s)，输出变量为：y；将输入变量带入最小二乘支持向量机，得到非线性回归表达式为：

式中，N为训练样本个数，b为偏置变量，a_k为拉格朗日算子，K(u,u_k)为核函数，可根据具体情况进行选取。