CN112001115A - 一种半监督动态软测量网络的软测量建模方法 - Google Patents
一种半监督动态软测量网络的软测量建模方法 Download PDFInfo
- Publication number
- CN112001115A CN112001115A CN202010690011.2A CN202010690011A CN112001115A CN 112001115 A CN112001115 A CN 112001115A CN 202010690011 A CN202010690011 A CN 202010690011A CN 112001115 A CN112001115 A CN 112001115A
- Authority
- CN
- China
- Prior art keywords
- soft measurement
- data
- model
- network
- semi
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005259 measurement Methods 0.000 title claims abstract description 95
- 238000000034 method Methods 0.000 title claims abstract description 75
- 238000012549 training Methods 0.000 claims abstract description 41
- 238000012545 processing Methods 0.000 claims abstract description 15
- 230000009466 transformation Effects 0.000 claims abstract description 6
- 238000010606 normalization Methods 0.000 claims abstract description 5
- 230000006870 function Effects 0.000 claims description 16
- 230000008569 process Effects 0.000 claims description 16
- 238000013528 artificial neural network Methods 0.000 claims description 6
- 230000009467 reduction Effects 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 3
- 238000009827 uniform distribution Methods 0.000 claims description 3
- 238000000691 measurement method Methods 0.000 abstract description 5
- 238000002474 experimental method Methods 0.000 description 12
- 238000000354 decomposition reaction Methods 0.000 description 9
- 238000004519 manufacturing process Methods 0.000 description 9
- 238000012360 testing method Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000003068 static effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000000052 comparative effect Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000010200 validation analysis Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 241000238876 Acari Species 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 239000002994 raw material Substances 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
- G06F2218/04—Denoising
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mathematical Optimization (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Pure & Applied Mathematics (AREA)
- Evolutionary Biology (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Geometry (AREA)
- Operations Research (AREA)
- Probability & Statistics with Applications (AREA)
- Computer Hardware Design (AREA)
- Algebra (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种半监督动态软测量网络的软测量建模方法,具体按照以下步骤实施:对训练集数据基于CEEMD与Isomap方法进行去噪与去冗余处理;对训练集数据进行序列化与归一化处理;基于训练集数据完成半监督动态软测量网络的软测量模型建立。本发明建模方法使用CEEMD和Isomap相结合的方法去除数据的噪声和冗余,CEEMD具有完备性且其结果无明显模态混叠现象,Isomap具有很强的非线性特征变换能力,综合两者的优点从而对原始数据内部的噪声和冗余进行有效去除并最大程度的减少信息损失,且对数据进行序列化处理从而引入历史数据进行动态建模,相比于传统软测量方法,使用本发明模型对变量进行预测会更加准确。
Description
技术领域
本发明属于智能信号处理和工业人工智能技术领域,具体涉及一种半监督动态软测量网络的软测量建模方法。
背景技术
在复杂工业过程中,由于生产环境恶劣、工况复杂、检测技术有限或成本等原因,过程中的关键质量变量往往无法实现可靠、实时的测量。为了克服这一难题,软测量技术应运而生,它将过程中易于测量的辅助变量作为输入,想要测量的主导变量作为输出,建立一个可以对主导变量预测的模型,从而实现对关键质量变量的准确估计。
随着信息技术的发展和分布式控制***在复杂工业过程中的广泛应用,海量的工业过程大数据得以采集并用来建立软测量模型,但外部环境扰动因素以及过程本身的波动包括原料成分变化、数据传输和存储过程中的随机干扰等因素,导致工业数据往往带有大量的数据噪声,同时,海量的工业生产数据不可避免的引入数据冗余问题,即生产过程中反复出现的相同生产状况以及不同辅助变量间的共线性,数据所含的噪声和冗余会严重影响数据驱动软测量模型的准确性,需要在预处理阶段对其进行去除。另外,工业过程数据常为连续性的时间序列,若对其进行静态软测量建模则无法捕捉数据的前后关系,往往导致在实际应用时模型估计精度低,鲁棒性差。因此,要想建立准确的数据驱动软测量模型,需对其进行动态建模。
发明内容
本发明的目的是提供一种半监督动态软测量网络的软测量建模方法,在去除变量数据噪声和冗余的同时捕捉数据间的动态特性,从而建立精确的动态软测量预测模型。
为了解决上述技术问题,本发明公开了一种半监督动态软测量网络的软测量建模方法,具体按照以下步骤实施:
步骤1,对训练集数据基于补充集成经验模态分解(Complementary EnsembleEmpirical Mode Decomposition,CEEMD)与Isomap方法进行去噪与去冗余处理;
步骤2,对步骤1处理过的训练集数据进行序列化与归一化处理;
步骤3,基于步骤2处理的训练集数据完成半监督动态软测量网络(SSDGRU-MLR)的软测量模型建立。
进一步地,步骤1,对训练集数据基于CEEMD与Isomap方法进行去噪与去冗余处理,具体步骤为:
步骤1.1,将原始辅助变量训练数据集X应用CEEMD算法得到各阶IMF;
步骤1.2,计算各阶IMF与原变量信号的相关系数指标,基于设定的阈值常量对IMF是否为噪声进行判别,对判别为噪声的IMF予以剔除,相关系数的计算公式如式下:
式(1)中ρ(Xv(t),cvi(t))表示原辅助变量Xv(t)和其第i个IMFcvi(t),i=1,...,N之间的协方差,和分别为Xv(t)和第i个IMF的标准差,|ρ|取值范围在0~1之间,越接近1说明相似程度越高;
步骤1.3,对剩余的IMF经Isomap算法进行非线性特征变换,然后使用降维后得到的新模态函数和原余项进行数据重构,最终得到去噪去冗余之后的辅助变量X′。
进一步地,步骤1.3在Isomap算法的实施过程中,对测地距离的计算方法如下:样本点和它邻域之间的测地距离用它们之间的欧式距离代替;样本点和它邻域外的点用流形上它们之间的最短路径来代替。
进一步地,步骤2,对步骤1处理的训练集数据进行序列化与归一化处理,具体步骤为:
步骤2.1,在去噪去冗余操作之后,对辅助变量数据进行序列化操作,根据从t时刻到t+ts时刻,一共ts时间步的辅助变量数据,去预测第t+ts+z时刻的主导变量,这其中ts为输入数据的时间窗口长度,z为需要预测的主导变量的时间步长,得到输入数据X′序列化后的数据X″;
步骤2.2,用Z-SCORE方法进行标准化处理,将数据转化为均值为0,方差为1的数据,公式如下:
其中式(2)中,X″为序列化后的数据,μ和σ分别表示其均值和方差,而Xin表示标准化后用于输入神经网络的序列数据,需指出的是,在此只对特征数据做标准化处理,标签数据保留原值不变;
进一步地,步骤3,基于步骤2处理的训练集数据完成SSDGRU-MLR软测量模型的建立,具体步骤为:
步骤3.1,半监督动态软测量网络SSDGRU-MLR,是将GRU单元进行多层堆叠后与有监督学习中的MLP结合而成的网络,DGRU最后一层的输出通过完全连接的MLP网络来输出其软测量预测结果,其中MLP就是一种单隐层的神经网络,用于最后关键质量变量的回归拟合;
步骤3.2,在训练模型之前,首先需要初始化模型的参数,采用Xvaier初始化方式,令当前网络层的节点数为nin,输出节点数目为nout,Xvaier初始化的方式就是实现如下所示均匀分布:
初始化完成之后,将序列化数据Xin输入到软测量模型中,整个模型训练过程的损失函数可以定义如下:
其中(4)式中,yt表示第t个序列样本对应的标签输出,n-ts+1表示序列化后样本的数量,表示第t个序列样本的预测输出;基于最小化损失函数的优化目标,通过BPTT算法,对整个模型进行参数更新和调整,经过多次迭代最终完成整个SSDGRU-MLR软测量模型的批次训练。
与现有技术相比,本发明可以获得包括以下技术效果:
1)本发明公开的一种半监督动态软测量网络的软测量建模方法,使用CEEMD和Isomap相结合的方法去除数据的噪声和冗余,该方法中CEEMD具有完备性且其结果无明显模态混叠现象,Isomap具有很强的非线性特征变换能力,综合两者的优点从而对原始数据内部的噪声和冗余进行有效去除并最大程度的减少信息损失,同时,对数据进行序列化处理从而引入历史数据进行动态建模。采用DGRU和MLP构成的半监督深度门控循环感知器网络(Semi-Supervised Deep Gated Recurrent Units-aided MLP,SSDGRU-MLR)对预处理后得到的序列化数据进行半监督动态建模,SSDGRU-MLR不但能利用过程中的大量无标签样本,其深度结构也有助于提取变量中的高级表示,同时,结构中的GRU单元还能够捕获数据的动态特性并随时间传播它们,从而提升建模效果。
2)在SSDGRU-MLR的训练过程中,使用dropout技术避免过拟合的产生,同时设计回调函数保证模型的顺利训练。通过所进行的软测量预测实验,对实验结果进行分析可以得出,相比于传统的软测量方法,使用本发明中模型对变量进行预测会更加准确,方法的有效性和优越性基于空气预热器工业实例在对比实验中得到了证明。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本发明的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1为本发明一种半监督动态软测量网络的软测量建模方法的流程图;
图2是经本发明一种半监督动态软测量网络的软测量建模方法的SSDGRU-MLR模型图;
图3是经本发明一种半监督动态软测量网络的软测量建模方法的工业实例中空气预热器的截面图;
图4是经本发明一种半监督动态软测量网络的软测量建模方法训练时得到的损失函数曲线图;
图5是经本发明一种半监督动态软测量网络的软测量建模方法得到的入口温度变量CEEMD分解结果图;
图6是经本发明一种半监督动态软测量网络的软测量建模方法得到的转子热形变预测结果图;
图7是经本发明一种半监督动态软测量网络的软测量建模方法得到的软测量预测误差分析图。
具体实施方式
以下将配合实施例来详细说明本发明的实施方式,藉此对本发明如何应用技术手段来解决技术问题并达成技术功效的实现过程能充分理解并据以实施。
本发明公开了一种半监督动态软测量网络的软测量建模方法,如图1所示,具体按照以下步骤实施:
步骤1,对训练集数据基于补充集成经验模态分解(Complementary EnsembleEmpirical Mode Decomposition,CEEMD)与Isomap方法进行去噪与去冗余处理;
具体步骤为:
步骤1.1,将原始辅助变量训练数据集X应用CEEMD算法得到各阶IMF;
步骤1.2,计算各阶IMF与原变量信号的相关系数指标,基于设定的阈值常量对IMF是否为噪声进行判别,对判别为噪声的IMF予以剔除,相关系数的计算公式如式下:
式(1)中ρ(Xv(t),cvi(t))表示原辅助变量Xv(t)和其第i个IMFcvi(t),i=1,...,N之间的协方差,和分别为Xv(t)和第i个IMF的标准差,|ρ|取值范围在0~1之间,越接近1说明相似程度越高;
步骤1.3,对剩余的IMF经Isomap算法进行非线性特征变换,然后使用降维后得到的新模态函数和原余项进行数据重构,最终得到去噪去冗余之后的辅助变量X′;
在Isomap算法的实施过程中,对测地距离的计算方法如下:样本点和它邻域之间的测地距离用它们之间的欧式距离代替;样本点和它邻域外的点用流形上它们之间的最短路径来代替;
步骤2,对步骤1处理过的训练集数据进行序列化与归一化处理;
具体步骤为:
步骤2.1,在去噪去冗余操作之后,对辅助变量数据进行序列化操作,根据从t时刻到t+ts时刻,一共ts时间步的辅助变量数据,去预测第t+ts+z时刻的主导变量,这其中ts为输入数据的时间窗口长度,z为需要预测的主导变量的时间步长,(ts、z这两个参数需结合工业背景设定)得到输入数据X′序列化后的数据X″;
步骤2.2,用Z-SCORE方法进行标准化处理,将数据转化为均值为0,方差为1的数据,公式如下:
其中式(2)中,X″为序列化后的数据,μ和σ分别表示其均值和方差,而Xin表示标准化后用于输入神经网络的序列数据,需指出的是,在此只对特征数据做标准化处理,标签数据保留原值不变;
步骤3,基于步骤2处理的训练集数据完成半监督动态软测量网络(SSDGRU-MLR)的软测量模型建立;
具体步骤为:
步骤3.1,半监督动态软测量网络SSDGRU-MLR,是将GRU单元进行多层堆叠后与有监督学习中的MLP结合而成的网络,其整体结构如图2所示,DGRU最后一层的输出通过完全连接的MLP网络来输出其软测量预测结果。其中MLP就是一种单隐层的神经网络,用于最后关键质量变量的回归拟合;
步骤3.2,在训练模型之前,首先需要初始化模型的参数,包含每个GRU单元内部的参数Wr、Ur、Wz、Uz、W、U及网络各层之间的权重和偏置W1、b1、Wj、bj、Wl、bl等,采用Xvaier初始化方式,令当前网络层的节点数为nin,输出节点数目为nout,Xvaier初始化的方式就是实现如下所示均匀分布:
初始化完成之后,将序列化后的数据输入到软测量模型中,经过DGRU前向传播得到了最后一个GRU层在最后时间步对应的隐层输出h,再将数据集合输入到MLP网络中,经MLP前向传播就得到关于关键主导变量的预测值其中ht表示第t个序列样本输入模型中经DGRU得到的隐层输出,yt表示第t个序列样本对应的标签输出,n-ts+1表示序列化后样本的数量。表示第t个序列样本的预测输出。通过标签值和预测值就可以得到预测误差,因此,整个模型训练过程的损失函数可以定义如下:
其中yt表示第t个序列样本对应的标签输出,n-ts+1表示序列化后样本的数量。表示第t个序列样本的预测输出。基于最小化损失函数的优化目标,通过BPTT算法,对整个模型进行参数更新和调整,经过多次迭代最终完成整个SSDGRU-MLR软测量模型的批次训练。
以下实验说明本发明一种半监督动态软测量网络的软测量建模方法是有效可行的,且具备一定的优越性:
基于空气预热器转子热形***测量的工业实例,将测试集数据输入本发明建立好的软测量模型,将采用其它软测量方法和本发明方法得到的形变预测结果进行对比,分析本发明建模方法的有效性与优越性,
其具体步骤为:
(1)图3所示为空气预热器转子剖面图,基于空气预热器转子热形***测量的工业实例,将序列化后的预热器实时温度数据分为训练集、验证集和测试集三部分,训练集的样本数为8571,验证集的样本数为2143,测试集的样本数为1000。依照步骤1~3完成模型的训练,并在训练过程中,使用tricks来确保模型得到有效训练:对数据进行乱序处理;对每个时间步使用相同的dropout掩码;在程序中设置回调函数来监测验证损失的变化;
(2)输入测试集对软测量模型预测能力的有效性和优越性进行测试,建立了10个软测量模型进行对比测试实验,这10个软测量模型包括选用机器学***均绝对误差(MeanAbsolute Error,MAE)、均方误差(Mean Square Error,MSE)和测定系数R2作为动态软测量模型预测性能的评价指标。
表1是使用10个软测量模型进行对比实验的测试结果,结果验证了将深度学习引入软测量开展半监督建模的必要性和优越性。
对于3~8号共6个模型,其中每一个深度学习模型都设置了经预处理和未经预处理的两组实验,由表1可以看出,无论采用DBN、DLSTM和DGRU中的何种模型,进行了去噪去冗余处理的模型比对应未经预处理的模型均实现了更高的预测精度,这样的结果也显示出对辅助变量数据进行去噪去冗余处理的操作是必要的,且本发明所提预处理方法是有效的,有效使数据质量得到了改善。同时,3号和4号模型中的DBN基于工业过程静态假设建立,相比于静态的DBN模型,动态的DLSTM与DGRU模型估计精度得到了较大的提高,其MAE值和MSE值明显较小,这得益于DLSTM和DGRU模型的反馈结构获取到了数据中的动态特性,从而提高了软测量模型的预测性能;
另外,良好动态性能的实现需要动态模型的有效训练作为基础,在6个模型中,8号模型实现了最佳的预测结果,以其为例绘图得到图4,图4是经本发明半监督动态软测量网络的软测量建模方法绘制的训练时损失函数曲线图,图中三角形曲线代表训练集损失,叉形曲线代表验证集损失,随着迭代轮数的增加,两条损失曲线均呈不断下降趋势后趋于稳定,且曲线紧密相邻,拟合良好,可以看出,所设计的算法和应用的trick帮助动态模型实现了有效的训练,对模型良好的训练也保证了本文所提动态软测量的有效性。而DGRU比DLSTM的预测结果更好,说明了DGRU结构在解决本问题上更加适用,相比于广泛使用的DLSTM来说,本发明所提出的SSDGRU-MLR模型在软测量建模领域的使用值得进一步推广;
图5是经本发明半监督动态软测量网络的软测量建模方法得到的入口温度变量CEEMD分解结果图,以入口温度变量的分解为例,第一行为入口温度变量信号,剩余各行为经CEEMD分解得到的IMFs,CEEMD得到的IMFs无明显模态混叠现象,因此能对噪声信号进行准确表达,同时由表2的去噪去冗余结果可知,模型8和模型10的RMSE指标比模型9小一个数量级,而SNR大一个量级,这说明基于CEEMD的良好分解结果,使模型8与模型10的去噪表现更优,再对IOT指标进行分析,虽然PCA和Isomap方法都适合于降维处理,但线性的PCA方法更加强调主元的正交性,而面对非线性较强的IMF数据,Isomap方法在特征变换的过程中保持测地距离不变,从而更多地保留住了的原始变量的重要信息,以得到信息丢失更少的高质量重构信号,这样的非线性特征变换方法更加有效地帮助实现了对主导变量的精准预测。通过上述分析,CEEMD结合Isomap的降噪去冗余方法其有效性和优越性得到了进一步地验证。
图6是经本发明半监督动态软测量网络的软测量建模方法得到的转子热形变预测结果图,选取1000个实际连续的测试样本,同时使用表1中模型1、模型3、模型4和模型8做对比实验,由图6可知,模型8的转子形变预测值相比于其它3个静态模型更好地追踪和适应了真实值的变化,且预测误差更小,实现了最精确的预测。模型8不仅应用序列化后的数据建模,还采用了SSDGRU-MLR模型进一步捕捉数据间的动态特性,从而显著提高预测精度,在这四个模型中动态性能最强。
为了更深入的评价模型的动态预测性能,还对模型8的转子热型变预测误差绘图进行分析,图7是经本发明半监督动态软测量网络的软测量建模方法得到的预测误差分析图,其中图7(a)为各时刻的预测误差图,图7(b)为预测误差的频率直方图(并画出核密度估计曲线),图7(c)为预测误差的时延散点图。观察图7可知,各点预测误差漂移小,其核密度曲线近似零均值,形状呈钟形,说明模型的预测误差近似正态分布,动态软测量的结果真实可靠。点分布整体上不呈现相关关系,说明各辅助变量的有用信息和数据间的动态特性都被所提出的模型有效利用,误差中再无多余的有效信息能够用于预测。
通过对图4-图7及对表1-表2的观察,并综合上述分析,可以清楚的看出本发明半监督动态软测量网络的软测量建模方法是有效可行的,且具备一定的优越性。
本发明是基于CEEMD、Isomap和DGRU的半监督动态软测量网络的软测量建模方法,使用CEEMD和Isomap相结合的方法去除数据的噪声和冗余,该方法中CEEMD具有完备性且其结果无明显模态混叠现象,Isomap具有很强的非线性特征变换能力,综合两者的优点从而对原始数据内部的噪声和冗余进行有效去除并最大程度的减少信息损失,同时,对数据进行序列化处理从而引入历史数据进行动态建模。采用DGRU和MLP构成的半监督深度门控循环感知器网络(Semi-Supervised Deep Gated Recurrent Units-aided MLP,SSDGRU-MLR)对预处理后得到的序列化数据进行半监督动态建模,SSDGRU-MLR不但能利用过程中的大量无标签样本,其深度结构也有助于提取变量中的高级表示,同时,结构中的GRU单元还能够捕获数据的动态特性并随时间传播它们,从而提升建模效果。在SSDGRU-MLR的训练过程中,使用dropout技术避免过拟合的产生,同时设计回调函数保证模型的顺利训练。通过所进行的软测量预测实验,对实验结果进行分析可以得出,相比于传统的软测量方法,使用本专利中的新型半监督动态软测量方法对变量进行预测会更加准确,方法的有效性和优越性基于空气预热器工业实例在对比实验中得到了证明。
表1是实施例中使用10个软测量模型进行对比实验的测试结果
表2是实施例中去噪去冗余的实验结果
上述说明示出并描述了发明的若干优选实施例,但如前所述,应当理解发明并非局限于本文所披露的形式,不应看作是对其他实施例的排除,而可用于各种其他组合、修改和环境,并能够在本文所述发明构想范围内,通过上述教导或相关领域的技术或知识进行改动。而本领域人员所进行的改动和变化不脱离发明的精神和范围,则都应在发明所附权利要求的保护范围内。
Claims (5)
1.一种半监督动态软测量网络的软测量建模方法,其特征在于,具体按照以下步骤实施:
步骤1,对训练集数据基于CEEMD与Isomap方法进行去噪与去冗余处理;
步骤2,对步骤1处理过的训练集数据进行序列化与归一化处理;
步骤3,基于步骤2处理的训练集数据完成半监督动态软测量网络的软测量模型建立。
2.根据权利要求1所述的半监督动态软测量网络的软测量建模方法,其特征在于,步骤1,对训练集数据基于CEEMD与Isomap方法进行去噪与去冗余处理,具体步骤为:
步骤1.1,将原始辅助变量训练数据集X应用CEEMD算法得到各阶IMF;
步骤1.2,计算各阶IMF与原变量信号的相关系数指标,基于设定的阈值常量对IMF是否为噪声进行判别,对判别为噪声的IMF予以剔除,相关系数的计算公式如式下:
式(1)中ρ(Xv(t),cvi(t))表示原辅助变量Xv(t)和其第i个IMFcvi(t),i=1,...,N之间的协方差,和分别为Xv(t)和第i个IMF的标准差,|ρ|取值范围在0~1之间,越接近1说明相似程度越高;
步骤1.3,对剩余的IMF经Isomap算法进行非线性特征变换,然后使用降维后得到的新模态函数和原余项进行数据重构,最终得到去噪去冗余之后的辅助变量X′。
3.根据权利要求2所述的半监督动态软测量网络的软测量建模方法,其特征在于,步骤1.3在Isomap算法的实施过程中,对测地距离的计算方法如下:样本点和它邻域之间的测地距离用它们之间的欧式距离代替;样本点和它邻域外的点用流形上它们之间的最短路径来代替。
4.根据权利要求3所述的半监督动态软测量网络的软测量建模方法,其特征在于,步骤2,对步骤1处理的训练集数据进行序列化与归一化处理,具体步骤为:
步骤2.1,在去噪去冗余操作之后,对辅助变量数据进行序列化操作,根据从t时刻到t+ts时刻,一共ts时间步的辅助变量数据,去预测第t+ts+z时刻的主导变量,这其中ts为输入数据的时间窗口长度,z为需要预测的主导变量的时间步长,得到输入数据X′序列化后的数据X″;
步骤2.2,用Z-SCORE方法进行标准化处理,将数据转化为均值为0,方差为1的数据,公式如下:
其中式(2)中,X″为序列化后的数据,μ和σ分别表示其均值和方差,而Xin表示标准化后用于输入神经网络的序列数据,需指出的是,在此只对特征数据做标准化处理,标签数据保留原值不变。
5.根据权利要求4所述的半监督动态软测量网络的软测量建模方法,其特征在于,步骤3,基于步骤2处理的训练集数据完成SSDGRU-MLR软测量模型的建立,具体步骤为:
步骤3.1,半监督动态软测量网络SSDGRU-MLR,是将GRU单元进行多层堆叠后与有监督学习中的MLP结合而成的网络,DGRU最后一层的输出通过完全连接的MLP网络来输出其软测量预测结果,其中MLP就是一种单隐层的神经网络,用于最后关键质量变量的回归拟合;
步骤3.2,在训练模型之前,首先需要初始化模型的参数,采用Xvaier初始化方式,令当前网络层的节点数为nin,输出节点数目为nout,Xvaier初始化的方式就是实现如下所示均匀分布:
初始化完成之后,将序列化数据Xin输入到软测量模型中,整个模型训练过程的损失函数可以定义如下:
其中(4)式中,yt表示第t个序列样本对应的标签输出,n-ts+1表示序列化后样本的数量,yt predict表示第t个序列样本的预测输出;基于最小化损失函数的优化目标,通过BPTT算法,对整个模型进行参数更新和调整,经过多次迭代最终完成整个SSDGRU-MLR软测量模型的批次训练。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010690011.2A CN112001115B (zh) | 2020-07-17 | 2020-07-17 | 一种半监督动态软测量网络的软测量建模方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010690011.2A CN112001115B (zh) | 2020-07-17 | 2020-07-17 | 一种半监督动态软测量网络的软测量建模方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112001115A true CN112001115A (zh) | 2020-11-27 |
CN112001115B CN112001115B (zh) | 2024-04-02 |
Family
ID=73467052
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010690011.2A Active CN112001115B (zh) | 2020-07-17 | 2020-07-17 | 一种半监督动态软测量网络的软测量建模方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112001115B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112668196A (zh) * | 2021-01-04 | 2021-04-16 | 西安理工大学 | 机理与数据混合驱动的生成式对抗网络软测量建模方法 |
CN113642247A (zh) * | 2021-08-29 | 2021-11-12 | 浙江工业大学 | 一种基于深度图网络分析的发酵过程软测量方法 |
CN114841000A (zh) * | 2022-05-09 | 2022-08-02 | 杭州师范大学 | 一种基于模态共有特征分离的软测量建模方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105354170A (zh) * | 2015-10-26 | 2016-02-24 | 河海大学 | 基于ceemd和奇异值分解的识别方法 |
CN107451102A (zh) * | 2017-07-28 | 2017-12-08 | 江南大学 | 一种改进自训练算法的半监督高斯过程回归软测量建模方法 |
CN108197743A (zh) * | 2017-12-31 | 2018-06-22 | 北京化工大学 | 一种基于深度学习的预测模型软测量方法 |
CN108628164A (zh) * | 2018-03-30 | 2018-10-09 | 浙江大学 | 一种基于循环神经网络模型的工业过程半监督软测量方法 |
CN108760316A (zh) * | 2018-08-16 | 2018-11-06 | 苏州大学 | 变分模态分解的变参信息融合方法 |
WO2019179340A1 (zh) * | 2018-03-19 | 2019-09-26 | 河北工业大学 | 基于eemd和msb的滚动轴承故障特征提取方法 |
CN110852527A (zh) * | 2019-11-20 | 2020-02-28 | 成都理工大学 | 一种结合深度学习的储层物性参数预测方法 |
US10678196B1 (en) * | 2020-01-27 | 2020-06-09 | King Abdulaziz University | Soft sensing of a nonlinear and multimode processes based on semi-supervised weighted Gaussian regression |
-
2020
- 2020-07-17 CN CN202010690011.2A patent/CN112001115B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105354170A (zh) * | 2015-10-26 | 2016-02-24 | 河海大学 | 基于ceemd和奇异值分解的识别方法 |
CN107451102A (zh) * | 2017-07-28 | 2017-12-08 | 江南大学 | 一种改进自训练算法的半监督高斯过程回归软测量建模方法 |
CN108197743A (zh) * | 2017-12-31 | 2018-06-22 | 北京化工大学 | 一种基于深度学习的预测模型软测量方法 |
WO2019179340A1 (zh) * | 2018-03-19 | 2019-09-26 | 河北工业大学 | 基于eemd和msb的滚动轴承故障特征提取方法 |
CN108628164A (zh) * | 2018-03-30 | 2018-10-09 | 浙江大学 | 一种基于循环神经网络模型的工业过程半监督软测量方法 |
CN108760316A (zh) * | 2018-08-16 | 2018-11-06 | 苏州大学 | 变分模态分解的变参信息融合方法 |
CN110852527A (zh) * | 2019-11-20 | 2020-02-28 | 成都理工大学 | 一种结合深度学习的储层物性参数预测方法 |
US10678196B1 (en) * | 2020-01-27 | 2020-06-09 | King Abdulaziz University | Soft sensing of a nonlinear and multimode processes based on semi-supervised weighted Gaussian regression |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112668196A (zh) * | 2021-01-04 | 2021-04-16 | 西安理工大学 | 机理与数据混合驱动的生成式对抗网络软测量建模方法 |
CN113642247A (zh) * | 2021-08-29 | 2021-11-12 | 浙江工业大学 | 一种基于深度图网络分析的发酵过程软测量方法 |
CN114841000A (zh) * | 2022-05-09 | 2022-08-02 | 杭州师范大学 | 一种基于模态共有特征分离的软测量建模方法 |
CN114841000B (zh) * | 2022-05-09 | 2024-05-14 | 杭州师范大学 | 一种基于模态共有特征分离的软测量建模方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112001115B (zh) | 2024-04-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Zhang et al. | LSTM-based analysis of industrial IoT equipment | |
CN109060001B (zh) | 一种基于特征迁移学习的多工况过程软测量建模方法 | |
CN112001115A (zh) | 一种半监督动态软测量网络的软测量建模方法 | |
CN107423503B (zh) | 基于核慢特征分析和时滞估计的高斯过程回归建模对脱丁烷塔底部的丁烷浓度进行预测的方法 | |
CN108399434B (zh) | 基于特征提取的高维时间序列数据的分析预测方法 | |
Su et al. | Prediction model of permeability index for blast furnace based on the improved multi-layer extreme learning machine and wavelet transform | |
CN110276784B (zh) | 基于记忆机制与卷积特征的相关滤波运动目标跟踪方法 | |
CN111539132A (zh) | 一种基于卷积神经网络的动载荷时域识别方法 | |
CN113780420B (zh) | 基于gru-gcn的变压器油中溶解气体浓度预测方法 | |
CN115828754A (zh) | 基于多尺度时空融合网络模型的刀具磨损状态监测方法 | |
CN114298134A (zh) | 风电功率预测方法及装置、电子设备 | |
CN113780242A (zh) | 一种基于模型迁移学习的跨场景水声目标分类方法 | |
CN112504682A (zh) | 基于粒子群优化算法的底盘发动机故障诊断方法及*** | |
CN115761868A (zh) | 不确定环境下人脸表情分类的鲁棒自适应更新方法 | |
CN116226739A (zh) | 一种基于时空融合的图卷积网络工业过程故障诊断方法 | |
Dubbs | Test set sizing via random matrix theory | |
CN108984851B (zh) | 一种带时延估计的加权高斯模型软测量建模方法 | |
CN111610514B (zh) | 一种蒸发波导传播特性的反演方法及装置 | |
CN113126489A (zh) | 一种基于cnn-gru-binn的重型燃气轮机控制***智能bit设计方法 | |
CN116680639A (zh) | 一种基于深度学习的深海潜水器传感器数据的异常检测方法 | |
CN115062764B (zh) | 光照度智能调节与环境参数物联网大数据*** | |
CN116415505A (zh) | 一种基于sbr-dbn模型的***故障诊断与状态预测方法 | |
CN115564021A (zh) | 一种聚酯纤维聚合过程的故障根因排序方法 | |
CN111160464B (zh) | 基于多隐层加权动态模型的工业高阶动态过程软测量方法 | |
CN115062542A (zh) | 基于二维稳健lstm的聚合反应过程质量预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |