CN111738482A - 一种聚酯纤维聚合过程中的工艺参数的调节方法 - Google Patents
一种聚酯纤维聚合过程中的工艺参数的调节方法 Download PDFInfo
- Publication number
- CN111738482A CN111738482A CN202010311105.4A CN202010311105A CN111738482A CN 111738482 A CN111738482 A CN 111738482A CN 202010311105 A CN202010311105 A CN 202010311105A CN 111738482 A CN111738482 A CN 111738482A
- Authority
- CN
- China
- Prior art keywords
- time
- bidirectional long
- short
- value
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 126
- 229920000728 polyester Polymers 0.000 title claims abstract description 58
- 239000000835 fiber Substances 0.000 title claims abstract description 57
- 238000006116 polymerization reaction Methods 0.000 title claims abstract description 56
- 230000015654 memory Effects 0.000 claims abstract description 182
- 230000002457 bidirectional effect Effects 0.000 claims abstract description 135
- 230000008569 process Effects 0.000 claims abstract description 86
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 34
- 238000010606 normalization Methods 0.000 claims abstract description 24
- 238000012545 processing Methods 0.000 claims abstract description 18
- 238000012163 sequencing technique Methods 0.000 claims abstract description 11
- 230000006870 function Effects 0.000 claims description 63
- 238000012549 training Methods 0.000 claims description 50
- 210000004027 cell Anatomy 0.000 claims description 32
- 238000005886 esterification reaction Methods 0.000 claims description 15
- 230000032050 esterification Effects 0.000 claims description 14
- 210000002569 neuron Anatomy 0.000 claims description 12
- 238000000605 extraction Methods 0.000 claims description 9
- 239000007788 liquid Substances 0.000 claims description 9
- 230000004927 fusion Effects 0.000 claims description 7
- 230000000717 retained effect Effects 0.000 claims description 7
- 238000011478 gradient descent method Methods 0.000 claims description 6
- 230000005484 gravity Effects 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000013528 artificial neural network Methods 0.000 claims description 4
- 239000000126 substance Substances 0.000 claims description 4
- 150000001875 compounds Chemical class 0.000 claims description 3
- 230000007423 decrease Effects 0.000 claims description 3
- 230000003247 decreasing effect Effects 0.000 claims description 3
- 239000000155 melt Substances 0.000 claims description 3
- 238000002360 preparation method Methods 0.000 claims description 3
- 238000009776 industrial production Methods 0.000 abstract description 5
- 238000005259 measurement Methods 0.000 description 11
- 238000004519 manufacturing process Methods 0.000 description 9
- LYCAIKOWRPUZTN-UHFFFAOYSA-N Ethylene glycol Chemical compound OCCO LYCAIKOWRPUZTN-UHFFFAOYSA-N 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 6
- 238000006068 polycondensation reaction Methods 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000002474 experimental method Methods 0.000 description 4
- KKEYFWRCBNTPAC-UHFFFAOYSA-N Terephthalic acid Chemical compound OC(=O)C1=CC=C(C(O)=O)C=C1 KKEYFWRCBNTPAC-UHFFFAOYSA-N 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 229920000642 polymer Polymers 0.000 description 3
- 239000000047 product Substances 0.000 description 3
- 230000006403 short-term memory Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 239000003623 enhancer Substances 0.000 description 2
- 238000007380 fibre production Methods 0.000 description 2
- 125000002887 hydroxy group Chemical group [H]O* 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 239000002994 raw material Substances 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 239000002002 slurry Substances 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 125000003178 carboxy group Chemical group [H]OC(*)=O 0.000 description 1
- 239000003054 catalyst Substances 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- WGCNASOHLSPBMP-UHFFFAOYSA-N hydroxyacetaldehyde Natural products OCC=O WGCNASOHLSPBMP-UHFFFAOYSA-N 0.000 description 1
- 230000007787 long-term memory Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 239000011268 mixed slurry Substances 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000013488 ordinary least square regression Methods 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 230000000379 polymerizing effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000004064 recycling Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000012731 temporal analysis Methods 0.000 description 1
- 238000000700 time series analysis Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Chemical compound O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/04—Manufacturing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- General Business, Economics & Management (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Tourism & Hospitality (AREA)
- Marketing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Primary Health Care (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Manufacturing & Machinery (AREA)
- Medical Informatics (AREA)
- Development Economics (AREA)
- Game Theory and Decision Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明涉及一种聚酯纤维聚合过程中的工艺参数的调节方法，获取聚酯纤维性能指标的预测值后，将其与设定值进行比较，根据比较结果调整聚酯纤维聚合过程中的工艺参数；预测值的获取过程为：首先从传感器采集到的所有特征数据中收集m个特征数据；然后基于网格搜索的极限梯度提升树算法对m个特征数据进行特征相关性排序；对排序好的m个特征数据选取特征相关性较大的前n个特征数据；接着对n个特征数据的所有样本进行归一化处理；最后运用加权的双流双向长短时记忆注意力网络处理归一化后的n个特征数据，分别输出4种所述聚酯纤维性能指标的预测值。本发明可高精度地获取聚酯纤维性能指标的预测值，进而能更好地指导工业生产。
Description
技术领域
本发明属于化纤生产工艺技术领域，涉及一种聚酯纤维聚合过程中的工艺参数的调节方法。
背景技术
聚合过程是聚酯纤维纤维生产全流程的研究首要环节。该过程包括酯化、预缩聚和终缩聚三个阶段。聚合过程主要包含四个性能指标，分别是平均分子量Mn、聚合度Pn、特性粘度MIV和酯化率Es。例如，聚合物的平均分子量Mn决定了产品的强度和抗冲击性。但是，实际工业生产中有三个性能指标不能通过传感器实时测量，因此不能通过实时控制这四个性能指标的变化来直接控制聚酯纤维纤维的生产过程，以确保产品质量。具体的，特性粘度MIV可以通过传感器实时测量，而余下的酯化率Es、聚合度Pn和平均分子量Mn不能通过传感器实时测量。
现有技术中，不能通过传感器直接测得聚酯纤维纤维聚合过程的酯化率，聚合度和平均分子量这三个性能指标。
在聚酯纤维纤维聚合实际生产过程中，操作员总是依据生产经验调节工艺参数。这不能精准的调节所需调节的工艺参数，进而提高聚酯纤维纤维产品的质量。
所以，现有技术中聚酯纤维聚合过程中的工艺参数的调节方法存在不精确性和不及时性等问题亟待解决。
发明内容
本发明旨在解决现有技术中存在的问题，提供一种聚酯纤维聚合过程中的工艺参数的调节方法。本发明的目的是提供一种根据对特性粘度MIV、酯化率Es、聚合度Pn和平均分子量Mn的预测结果来调整工艺参数以使获得理想聚合物的聚酯纤维聚合过程中的工艺参数的调节方法。
本发明通过对特性粘度MIV的值进行转化，进而可以获得酯化率Es、聚合度Pn和平均分子量Mn三个性能指标值，具体的转化方程如下：
Pn＝187.95×(MIV1.46-0.001718)；
K＝2.1×10-4,α＝0.82；
其中，OHV代表端羟基的浓度，OHV％代表着端羟基占整个溶液的百分比，AV代表端羧基的浓度，α和K均是常数。
也即本发明只需通过传感器实时测量特性粘度MIV的值，并根据当前生产工艺参数，建立基于网格搜索的极限梯度提升树算法和加权的双流双向长短时记忆注意力网络相结合的适用于当前聚合生产线的预测模型，然后在实际的聚合生产中实时对输入工艺参数进行聚合结果预测并与设定理想值进行比较，并以此调整到合适的各工艺参数。
为达到上述目的，本发明采用的技术方案如下：
一种聚酯纤维聚合过程中的工艺参数的调节方法，获取聚酯纤维性能指标的预测值后，将其与设定值进行比较，根据比较结果调整聚酯纤维聚合过程中的工艺参数；
聚酯纤维性能指标为特性粘度MIV、酯化率Es、聚合度Pn和平均分子量Mn；
预测值的获取过程如下：
首先从传感器采集到的所有特征数据中收集m个特征数据；
然后基于网格搜索的极限梯度提升树算法对m个特征数据进行特征相关性排序，即对每个特征数据计算得分函数的值，得分函数的值越高代表特征相关性越大；对排序好的m个特征数据选取特征相关性较大的前n个特征数据，n∈m；
接着对n个特征数据的所有样本进行归一化处理；
最后运用加权的双流双向长短时记忆注意力网络处理归一化后的n个特征数据，分别输出4种所述聚酯纤维性能指标的预测值；
所述加权的双流双向长短时记忆注意力网络为由合并层将两条支流获得的信息进行纵向拼接后经注意力层输入到全连接层的网络；
所述两条支流为并联的第一支流和第二支流；所述第一支流由两个相同的加权双向长短时记忆网络单元I组成，并在两者之间***一个批量标准化层；所述第二支流由两个相同的加权双向长短时记忆网络单元II组成，并在两者之间***一个批量标准化层；
所述加权双向长短时记忆网络单元I为对当前时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对当前时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元I的记忆细胞单元状态
所述加权双向长短时记忆网络单元II为对过去时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对过去时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元II的记忆细胞单元状态
其中，
代表当前时刻的信息，ct-1代表过去时刻的信息，λ1为对保留下来的当前时刻信息进一步加权的权重，λ2为对保留下来的过去时刻信息进一步加权的权重，it为记忆细胞单元状态对当前时刻信息保留的比重，ft为记忆细胞单元状态对过去时刻信息保留的比重；
获取预测值后，将其与设定值进行比较：
若聚合度、平均分子量预测值与工艺设定值的误差在正负1以内，特性粘度与酯化率的预测值与工艺设定值的误差在正负0.1以内，则不需要调节工艺参数；
若超过以上有效范围，则需要对工艺参数进行调节；
具体调节方式为：
根据网格搜索的极限梯度提升树算法获得的特征相关性排序排名，从相关性最大的即排名最靠前的工艺参数先进行调节，调节至极限仍不满足，则继续调节排名次之的工艺参数，以此类推，直至预测性能参数满足要求；
调节步长为该工艺参数具体数值的1％，调节的极限为该工艺参数具体数值的±10％；
调节方向根据性能预测结果与设定值的比较，若性能预测结果高于设定值，则调节方向为减，若性能预测结果低于设定值，则调节方向为增。
作为优选的方案：
如上所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，所述加权的双流双向长短时记忆注意力网络具体的建模和训练过程为：
(1)建模；
所述加权的双流双向长短时记忆注意力网络包括数据预处理、信息的提取和融合以及回归输出三部分；
a)数据预处理部分：
由特征数据采集、特征数据的特征相关性排序和择优处理3个部分组成；
首先从传感器收集到的所有特征数据中收集m个特征数据，该m个特征数据分别为整个聚合过程所有温度传感器中从第一个温度传感器开始间隔相同的选取四舍五入取整[(m-1)/5]个温度传感器的温度，间隔相同的从第一个压力传感器开始选取四舍五入取整[(m-1)/5]个压力传感器的压力，浆料配制槽的1个浆料配比数据，间隔相同的从第一个液位传感器开始选取四舍五入取整[(m-1)/5]个液位传感器的液位，间隔相同的从第一个流量传感器开始选取四舍五入取整[(m-1)/5]个流量传感器的流量，间隔相同的的从第一个转速传感器开始选取四舍五入取整[(m-1)/5]个转速传感器的转速；
基于网格搜索的极限梯度提升树算法对m个特征数据进行特征相关性排序；
择优处理，根据特征相关性排序选择前n个特征数据；
对选择的n个特征数据进行归一化处理得到新的n个特征数据；
b)提取和融合部分：
首先运用并联的第一支流和第二支流的双流框架分别提取归一化处理得到的n个特征数据的过去时刻信息和当前时刻信息；
在运用合并层将双流框架的两条支流获得的信息进行纵向拼接，然后根据输入信息与输出变量的相关性，利用注意力层对输入的信息进一步加权求和；
其中所采用的双流框架中的两条支流分别为：第一支流由两个相同的加权双向长短时记忆网络单元I，并在其中***一个批量标准化层构成，即一个加权双向长短时记忆网络单元I顺接一个批量标准化层在顺接一个加权双向长短时记忆网络单元I；所述加权双向长短时记忆网络单元I为对当前时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对当前时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元I的记忆细胞单元状态
第二支流由两个相同的加权双向长短时记忆网络单元II，并在其中***一个批量标准化层构成，即一个加权双向长短时记忆网络单元II顺接一个批量标准化层在顺接一个加权双向长短时记忆网络单元II；所述加权双向长短时记忆网络单元II为对过去时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对过去时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元II的记忆细胞单元状态
然后运用合并层将双流框架提取的信息进行融合，在将融合后的信息输入到注意力层进一步提取信息；
c)回归输出；
最后将注意力层提取的信息输入到全连接层进行分类，输出预测结果；
加权的双流双向长短时记忆注意力网络建立完成；
(2)训练；
所述加权的双流双向长短时记忆注意力网络通过随机梯度下降的方法进行训练；训练的对象为加权的双流双向长短时记忆注意力网络的所有超参数；
训练的终止条件为精度足够高或者达到预定义的最大迭代数；精度足够高是指MSE<0.005，同时 MAE<0.05，MSE的计算公式如下：
式中，M为样本个数，t为样本编号，yt为真实值，
为预测值；
MAE的计算公式如下：
(3)模型校正；
若训练在达到提前设定的最大迭代次数后MSE≥0.005或MAE≥0.05，则选择将批尺寸调小，调整步长为1，或者将预定义代数增大，调整步长为30代，其中预定义的最大迭代次数为100代，批尺寸的值为 32。
如上所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，加权双向长短时记忆网络单元I的双向长短时记忆网络单元由输入层、输出层、前向层和后向层组成，每一层由多个神经元组成，其中每个神经元即为一个长短时记忆网络单元，加权双向长短时记忆网络单元II的双向长短时记忆网络单元由输入层、输出层、前向层和后向层组成，每一层由多个神经元组成，其中每个神经元即为一个长短时记忆网络单元，所述批量标准化层是一种为神经网络中的任何层提供零均值/单位方差输入的技术。
如上所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，it与ft均为0到1之间的数，通过随机梯度下降的方式训练得到it与ft的值；
it＝σ(Wi*[ht-1，xt]+bi)；
ft＝σ(Wf*[ht-1，xt]+bf)；
式中，σ为sigmoid函数，ht-1为t-1时刻的信息，xt代表t时刻的输入特征，Wi、bi、Wf与bf为要训练的参数；
具体训练过程为：
设定目标函数
其中，J(θ)为损失函数，θ是要训练的参数即Wi、bi、Wf与bf，是要迭代求解的值，h(θ)是要拟合的函数即对四个性能指标的预测，yi是四个性能指标的真实值，m是训练集的条数，因为随机梯度下降是一个一个样本进行训练，所以这里m＝1；通过梯度下降法最小化损失函数实现所需参数的训练。
如上所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，所述得分函数计算的具体过程为：
式中，
为第t个特征在树结构为q时的得分函数值，T为树结构为q时的树的叶子节点的个数， Ij为树结构为q时树的第j个节点，gi为损失函数的一阶导数，wj为树结构为q时的第j个叶子结点的权重值， hi为损失函数的二阶导数，λ和γ为超参数；每棵树对于每个特征都有一个得分函数值，最后所有树关于该特征的得分函数值的和即为该特征关于输出变量相关性的得分值，得分函数的值越大，代表该特征与输出变量的相关性越大；
损失函数为聚酯纤维纤维聚合过程熔体特性粘度MIV的平方损失，平方损失是指实际值和预测值之间的误差平方和。
如上所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，基于网格搜索的极限梯度提升树通过从 m个特征中选出前n个特征，具体的n的取值数目为四舍五入取整9m/20。
如上所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，归一化处理的公式如下：
式中，xi为第i个样本归一化后的结果，以某特征数据中的所有样本的集合为集合X，Xi为集合X中第i个样本，Xmin为集合X中所有样本的最小值，Xmax为集合X中所有样本的最大值。
如上所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，步骤(2)训练中，采用随机梯度下降的方式对预测模型中的超参数进行训练；随机梯度下降即：每次迭代使用一个样本来对参数进行更新，使得训练速度加快；
对于一个样本的目标函数为：
其中，J(θ)为损失函数，θ是参数，要迭代求解的值，h(θ)是要拟合的函数，yi是真实值，m是训练集的条数，因为随机梯度下降是一个一个样本进行训练，所以这里m＝1。
如上所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，λ1的取值范围为0-1，λ2的值取值范围为0-1，当达到提前设定的最大迭代次数后MSE≥0.005或MAE≥0.05时，对该两个参数进行调整，调整步长为0.1。
本发明由于预测精度高，并且对特征进行了相关性排序，因而能有效解决现有技术存在的不确定性和不及时性问题。
具体的，本发明首先通过基于网格搜索的极限梯度提升树对m个特征进行特征相关性排序，从中选出排在前n个的特征，这样做的目的是去除了冗余的特征，减少了不相关特征对预测结果的影响，然后对前 n个特征的所有样本数据进行归一化处理，减少不同维度的大小对特征相关性的影响，接下来运用加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)对n个特征提取和融合信息，最后通过一个全连接层对得到的信息进行分类，输出四个性能指标的预测值。
在加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)算法框架中，本发明引入了参数λ1和λ2对过去时刻的信息和当前时刻的信息进行加权，使得第一支流着重于对当前时刻信息的提取，第二支流着重于对过去时刻信息的提取。且又采用了双向长短时记忆网络，进一步考虑下一时刻信息。所以加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)算法框架提取和融合的信息包含了过去时刻，当前时刻和下一时刻的信息。
综上所述提出的加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)具有较高的精度。
本发明的技术要点如下：
(一)软测量
当前，软测量基于过程工业中正在测量和存储的大量数据来构建预测模型。据报道，相关工作是对在线仪器测量的补充，以进行过程监测和控制。
软测量建模主要分为三类，即第一原理模型(FPM)(白盒模型)、数据驱动模型(黑盒模型)和混合模型。顾名思义，混合模型是第一原理模型和数据驱动模型的组合，第一原理模型建立在对过程物理化学背景的深入了解基础之上，这通常很耗时且难以获得，随着传感器技术的发展，通过分布式控制***(DCS) 可以获得大量数据，它使数据驱动建模更具吸引力，数据驱动模型的本质是挖掘数据中的隐藏信息，数据驱动模型的典型算法是普通最小二乘法、支持向量回归(SVR)和偏最小二乘(PLS)。本发明运用工厂DCS 采集到的数据建立数据驱动软测量预测模型，进而工业生产中可以将工艺参数代入本发明的预测模型，得到四个性能指标的预测结果，然后将四个性能指标的预测结果与其对应的工艺设定值进行比较，最后根据二者之差确定是否调节工艺参数，达到高质量生产聚酯纤维纤维的目的。
(二)Grid-Xgboost算法(基于网格搜索的极限梯度提升树)
Xgboost算法已被数据科学家广泛使用，以在许多机器学习应用程序上获得最新结果，这是陈天奇等人开发的一种高效的可伸缩机器学习算法，用于树的增强。
极限梯度提升树通过构建提升树来智能地获取特征分数，从而表明每个特征对模型的重要性。特征的分数越高，表明它与输出变量的相关性越高。
以上方程能被用来作为得分函数去测量特征与输出变量之间的相关性。
网格搜索是一种用于参数调整的典型方法，它有条理地为特定网格中的每个参数组合构建和评估模型。Xgboost是一种成功的机器学习方法，基于陈天奇提出的梯度提升算法。目标函数的二阶泰勒展开式使得对高精度的预测成为可能，这也归因于其在Kaggle竞赛中的高成功率。
本发明选择与输出变量最相关的特征是通过Xgboost算法选择的，因为聚合物的质量由四个主要性能指标决定。因此，有四个输出变量。其他三个性能指标是由熔体特性粘度MIV决定的。然后，将熔体特性粘度MIV的平方损失作为Xgboost算法中的损失函数来对特征重要性进行排序。平方损失是指实际值和预测值之间的误差平方和。
(三)双向长短时记忆网络(Bi-directional Long Short-term MemoryNetworks,BiLSTMs)
LSTM是基于递归神经网络(Recurrent Neural Network,RNN)提出的，用于解决时间序列长时依赖问题。它在诸如工业时间序列分析和识别应用之类的各种任务中均取得了最先进的性能。一个LSTM单元由三个乘法门组成，分别是输入门it、输出门oi和遗忘门ft。他们分别控制着向下一时刻输入，输出或者遗忘信息的比例。长短时记忆网络的核心是记忆细胞单元状态ct，因为它能够存储上一时刻的信息，这有效的解决了工业过程中的长时依赖问题。具体的LSTM的一个单元的结构被展示在图1。
LSTM的原理通过以下方程进行描述：
这里σ代表一个逻辑S型函数，it、ft和ot得到的值均在0-1之间，这预示着当前输入，输出或者保留到下一时刻的信息的比例，tanh是一个双曲正切函数。符号
代表着矩阵乘法，这代表着当前时刻的信息与过去时刻信息的融合。权重矩阵W*和偏置矩阵b*分别是模型的参数，他们的值在模型训练的过程中被决定。
代表当前时刻的信息，ct-1代表上一时刻的信息。
代表保留it比例的当前时刻的信息，
代表保留ft比例的过去时刻的信息。
通常情况下模型预测结果不仅与当前输入有关，也与下一时刻的输入有关。基于此，双向长短时记忆网络(BiLSTMs)被提出去提高LSTM模型预测精度。
如图2所示，双向长短时记忆网络(BiLSTMs)主要包含输入层、输出层、前向层和后向层，前向层和后向层共同连接到输出层，其中包含了6个共享的权重w1-w6。首先，在前向层中从时间1到时间t正向计算，这样可以每次获取并保存隐藏层的输出。接下来，在后向层计算从时间t到时间1的，以获取并保存每个时刻之后隐藏层的输出。最后，在每个时刻，通过组合前向层和后向层相应时刻的输出结果来获得最终输出。数学表达式如下：
ht＝f(w1xt+w2ht-1)
ht′＝f(w3xt+w0ht+1′)
ot＝g(w4ht+w6ht′)
其中f通常是s型函数。同样的，g是一个激活函数，对于不同的问题，g取不同的函数。ht-1，ht和 ht+1分别代表着过去时刻，当前时刻和下一时刻的隐藏层的信息，xt代表着当前输入信息。
(四)attention(注意力机制)
在过去的两年里，注意机制已被广泛应用于自然语言处理，图像识别，语音识别和其他不同类型的深度学习任务中。它是深度学习技术的核心技术之一，值得关注和深入理解。关注机制的本质是获取有关需要关注的内容的更多详细信息，并抑制其他无用的信息。也就是说，其核心操作是一组权重参数，以从序列中了解每个元素的重要性，然后根据重要性合并这些元素。权重参数是注意系数分布，反映了分配给哪个元素多少关注。
具体的，在传统的注意机制中，首先，定义之前的状态H＝{h1，h2，...ht-1}。然后得到每一列的权重和被记为vt。向量ht-1代表着从过去状态提取到的信息。ht代表着从当前状态提取到的信息。然后假设一个得分函数f：Rm×Rm→R去计算输入变量之间的相关性。最后，通过下面的方程去计算得到向量vt的值，其中αi代表着第i个特征与输出变量相关性的权重。
有益效果：
(1)本发明提出新的特征提取和融合方法，引入加权的双流双向长短时记忆注意力网络 (TS-λBiLSTMs-attention)算法框架不仅考虑了过去和现在时刻的信息还考虑了下一时刻即将输入的信息，其中，通过引入注意力机制对与输出变量相关的特征进行加权，进一步提高预测精度；
(2)本发明解决了聚酯纤维聚合过程的多输入多输出软测量建模问题，为聚酯纤维性能指标建立了软测量模型，方便工业生产过程中能够实时监测四个性能指标的变化进而达到高水平生产的目的；
(3)本发明只要给定工艺参数的值，即可精准地获得预测值，生产者通过判断得到的预测值是否接近设定值即可更好地指导工业生产。
附图说明
图1为长短时记忆网络(LSTM)的结构示意图；
图2为双向长短时记忆网络(BiLSTMs)的结构示意图；
图3为本发明获取聚酯纤维性能指标的预测值所采用的算法框架；
图4为聚酯纤维聚合过程示意图；
图5为四个性能指标基于加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)算法的预测值与真实值的对比图；
图6为基于不同的软测量算法的MIV的绝对误差对比图。
具体实施方式
下面结合具体实施方式，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。
一种聚酯纤维聚合过程中的工艺参数的调节方法，获取聚酯纤维性能指标的预测值后，将其与设定值进行比较，根据比较结果调整聚酯纤维聚合过程中的工艺参数；
聚酯纤维性能指标为特性粘度MIV、酯化率Es、聚合度Pn和平均分子量Mn；
如图3所示，预测值的获取过程如下：
首先从传感器采集到的所有特征数据中收集m个特征数据；
然后基于网格搜索的极限梯度提升树算法对m个特征数据进行特征相关性排序，即对每个特征数据计算得分函数的值，得分函数的值越高代表特征相关性越大；对排序好的m个特征数据选取特征相关性较大的前n个特征数据，n∈m，具体的n的取值数目为四舍五入取整9m/20；
所述得分函数计算的具体过程为：
式中，
为第t个特征在树结构为q时的得分函数值，T为树结构为q时的树的叶子节点的个数， Ij为树结构为q时树的第j个节点，gi为损失函数的一阶导数，wj为树结构为q时的第j个叶子结点的权重值，hi为损失函数的二阶导数，λ和γ为超参数；每棵树对于每个特征都有一个得分函数值，最后所有树关于该特征的得分函数值得和即为该特征关于输出变量相关性的得分值，得分函数的值得结果越大，代表该特征与输出变量的相关性越大；
接着对n个特征数据的所有样本进行归一化处理；归一化处理的公式如下：
式中，xi为第i个样本归一化后的结果，以某特征数据中的所有样本的集合为集合X，Xi为集合X中第i个样本，Xmin为集合X中所有样本的最小值，Xmax为集合X中所有样本的最大值；
最后运用加权的双流双向长短时记忆注意力网络处理归一化后的n个特征数据，分别输出4种所述聚酯纤维性能指标的预测值；
所述加权的双流双向长短时记忆注意力网络为由合并层将两条支流获得的信息进行纵向拼接后经注意力层输入到全连接层的网络；
所述两条支流为并联的第一支流和第二支流；所述第一支流由两个相同的加权双向长短时记忆网络单元I组成，并在两者之间***一个批量标准化层；所述第二支流由两个相同的加权双向长短时记忆网络单元II组成，并在两者之间***一个批量标准化层；
所述加权双向长短时记忆网络单元I为对当前时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对当前时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元I的记忆细胞单元状态
所述加权双向长短时记忆网络单元II为对过去时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对过去时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元II的记忆细胞单元状态
其中，
代表当前时刻的信息，ct-1代表过去时刻的信息，λ1为对保留下来的当前时刻信息进一步加权的权重，λ2为对保留下来的过去时刻信息进一步加权的权重，it为记忆细胞单元状态对当前时刻信息保留的比重，ft为记忆细胞单元状态对过去时刻信息保留的比重；
it与ft均为0到1之间的数，通过随机梯度下降的方式训练得到it与ft的值；
lt＝σ(Wi*[ht-1，xt]+bi)；
ft＝σ(Wf*[ht-1，xt]+bf)；
式中，σ为sigmoid函数，ht-1为t-1时刻的信息，xt代表t时刻的输入特征，Wi、bi、Wf与bf为要训练的参数；
具体训练过程为：
设定目标函数
其中，J(θ)为损失函数，损失函数为熔体特性粘度MIV的平方损失，平方损失是指实际值和预测值之间的误差平方和，θ是要训练的参数即Wi、bi、Wf与bf，是要迭代求解的值，h(θ)是要拟合的函数即对四个性能指标的预测，yi是四个性能指标的真实值，m是训练集的条数，因为随机梯度下降是一个一个样本进行训练，所以这里m＝1；通过梯度下降法最小化损失函数实现所需参数的训练；
所述加权的双流双向长短时记忆注意力网络具体的建模和训练过程为：
(1)建模；
所述加权的双流双向长短时记忆注意力网络包括数据预处理、信息的提取和融合以及回归输出三部分；
a)数据预处理部分：
由特征数据采集、特征数据的特征相关性排序和择优处理3个部分组成；
首先从传感器收集到的所有特征数据中收集m个特征数据，该m个特征数据分别为整个聚合过程所有温度传感器中从第一个温度传感器开始间隔相同的选取四舍五入取整[(m-1)/5]个温度传感器的温度，间隔相同的从第一个压力传感器开始选取四舍五入取整[(m-1)/5]个压力传感器的压力，浆料配制槽的1个浆料配比数据，间隔相同的从第一个液位传感器开始选取四舍五入取整[(m-1)/5]个液位传感器的液位，间隔相同的从第一个流量传感器开始选取四舍五入取整[(m-1)/5]个流量传感器的流量，间隔相同的的从第一个转速传感器开始选取四舍五入取整[(m-1)/5]个转速传感器的转速；
基于网格搜索的极限梯度提升树算法对m个特征数据进行特征相关性排序；
择优处理，根据特征相关性排序选择前n个特征数据；
对选择的n个特征数据进行归一化处理得到新的n个特征数据；
b)提取和融合部分：
首先运用并联的第一支流和第二支流的双流框架分别提取归一化处理得到的n个特征数据的过去时刻信息和当前时刻信息；
在运用合并层将双流框架的两条支流获得的信息进行纵向拼接，然后根据输入信息与输出变量的相关性，利用注意力层对输入的信息进一步加权求和；
其中所采用的双流框架中的两条支流分别为：第一支流由两个相同的加权双向长短时记忆网络单元I，并在其中***一个批量标准化层构成，即一个加权双向长短时记忆网络单元I顺接一个批量标准化层在顺接一个加权双向长短时记忆网络单元I；所述加权双向长短时记忆网络单元I为对当前时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对当前时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元I的记忆细胞单元状态
加权双向长短时记忆网络单元I的双向长短时记忆网络单元由输入层、输出层、前向层和后向层组成，每一层由多个神经元组成，其中每个神经元即为一个长短时记忆网络单元，加权双向长短时记忆网络单元 II的双向长短时记忆网络单元由输入层、输出层、前向层和后向层组成，每一层由多个神经元组成，其中每个神经元即为一个长短时记忆网络单元，所述批量标准化层是一种为神经网络中的任何层提供零均值/ 单位方差输入的技术；
第二支流由两个相同的加权双向长短时记忆网络单元II，并在其中***一个批量标准化层构成，即一个加权双向长短时记忆网络单元II顺接一个批量标准化层在顺接一个加权双向长短时记忆网络单元II；所述加权双向长短时记忆网络单元II为对过去时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对过去时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元II的记忆细胞单元状态
然后运用合并层将双流框架提取的信息进行融合，在将融合后的信息输入到注意力层进一步提取信息；
c)回归输出；
最后将注意力层提取的信息输入到全连接层进行分类，输出预测结果；
加权的双流双向长短时记忆注意力网络建立完成；
(2)训练；
所述加权的双流双向长短时记忆注意力网络通过随机梯度下降的方法进行训练；训练的对象为加权的双流双向长短时记忆注意力网络的所有超参数；
训练的终止条件为精度足够高或者达到预定义的最大迭代数；精度足够高是指MSE<0.005，同时MAE<0.05，MSE的计算公式如下：
式中，M为样本个数，t为样本编号，yt为真实值，
为预测值；
MAE的计算公式如下：
采用随机梯度下降的方式对预测模型中的超参数进行训练；随机梯度下降即：每次迭代使用一个样本来对参数进行更新，使得训练速度加快；
对于一个样本的目标函数为：
其中，J(θ)为损失函数，θ是参数，要迭代求解的值，h(θ)是要拟合的函数，yi是真实值，m是训练集的条数，因为随机梯度下降是一个一个样本进行训练，所以这里m＝1；
(3)模型校正；
若训练在达到提前设定的最大迭代次数后MSE≥0.005或MAE≥0.05，则选择将批尺寸调小，调整步长为1，或者将预定义代数增大，调整步长为30代，其中预定义的最大迭代次数为100代，批尺寸的值为 32；
λ1的取值范围为0-1，λ2的值取值范围为0-1，当达到提前设定的最大迭代次数后MSE≥0.005或 MAE≥0.05时，对该两个参数进行调整，调整步长为0.1；
获取预测值后，将其与设定值进行比较：
若聚合度、平均分子量预测值与工艺设定值的误差在正负1以内，特性粘度与酯化率的预测值与工艺设定值的误差在正负0.1以内，则不需要调节工艺参数；
若超过以上有效范围，则需要对工艺参数进行调节；
具体调节方式为：
根据网格搜索的极限梯度提升树算法获得的特征相关性排序排名，从相关性最大的即排名最靠前的工艺参数先进行调节，调节至极限仍不满足，则继续调节排名次之的工艺参数，以此类推，直至预测性能参数满足要求；
调节步长为该工艺参数具体数值的1％，调节的极限为该工艺参数具体数值的±10％；
调节方向根据性能预测结果与设定值的比较，若性能预测结果高于设定值，则调节方向为减，若性能预测结果低于设定值，则调节方向为增。
实施例1
一种聚酯纤维聚合过程中的工艺参数的调节方法，步骤如下：
(1)收集m个特征数据，特征数据为与聚酯纤维性能指标相关的工艺参数数据；
如图4所示，聚酯纤维聚合过程主要包含三个阶段，分别是酯化过程、预缩聚过程和终缩聚过程，本发明的研究主要针对当前广泛使用的杜邦三釜工艺，首先将原料聚对苯二甲酸(Polyterephthalic acid,PTA) 和乙二醇(Ethylene glycol,EG)在浆料混合罐以一定的比例进行混合，然后混合好的浆料由浆料喂入罐连续的送入酯化反应釜，在一定温度和压力的作用下，原料通过化学反应生成低聚物，然后将低聚物连续进料到预缩聚反应器和终缩聚反应器中以形成高聚物，在各个阶段产生的水蒸汽和乙二醇蒸汽进入真空***进行去除或再循环，生产过程具有非线性高、时间变化慢、参数分布多等特点；
特征数据是从中国的一家工厂采集到的，频率是每秒，根据该工厂的过程知识和操作员经验，本发明最终选择67个工艺参数作为特征数据，即m＝67；
(2)基于网格搜索的极限梯度提升树(Grid-Xgboost)算法从m个特征数据中选择前n个与聚酯纤维性能指标相关性最高的特征数据；
因为极限梯度提升树一次只能对一个输出进行特征重要性排序，而本发明有四个输出，所以本发明采用基于网格搜索的极限梯度提升树即Grid-Xgboost算法分别对四个输出进行特征重要性排序；
本发明需要调整参数以获得极限梯度提升树的最佳性能，类似于随机森林，极限梯度提升树使用超参数进行调整，极限梯度提升树的所有参数分为三类：第一类包括用于控制宏功能的常规参数；第二类包括用于控制每个步骤的增强器(树/回归)的增强器参数；最后一类具有学习目标参数，该参数用于控制训练目标的性能；
本发明专注于网格搜索两个最重要的参数，即max_depth和n_estimators，特别地，max_depth用于控制树结构的深度，n_estimators的参数是重要的调整参数，因为它与极限梯度提升树模型的复杂性有关，此外，它还代表决策树中弱学习器的数量，表1列出了两个参数的范围和最佳值：
表1
然后，通过将基于网格搜索的极限梯度提升树应用于每个特征数据，分别对四个性能指标的特征重要性等级进行排名，结果显示在表2中，由于空间限制，仅显示了与输出变量最相关的40个特征，本发明发现，对于四个不同的性能指标，大多数特征的重要性排序相同：
表2
又因为四个性能指标中，MIV占主导地位，所以本申请选择了与特性粘度MIV最相关的30个特征数据，至于为什么选取30个特征数据，本申请也进行了一组实验，最终得到的不同特征数目的测试集的统计MSE结果如表3所示：
表3
从表3中可以看出，当特征数据个数为30时，测试集MSE的值开始趋向于收敛，综上，本申请选择与特性粘度MIV最相关的30个特征数据作为加权的双流双向长短时记忆注意力网络 (TS-λBiLSTMs-attention)的输入，即n＝30，该30个特征数据被突出强调在图4中；
(3)30个特征数据共包含10000个样本，选择8000个样本来构成训练集，剩下的构成测试集；
(4)构建和训练加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)；
采用训练集通过随机梯度下降训练加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)，训练的对象为加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)的所有参数，为了获得参数λ1和λ2的最佳值，本申请将其从0调整为1，将参数的步长设置为0.1，最后将λ1设置为最佳值0.9，λ1的值与λ2相同，然后对学习率(dropout rate)采用相同的方法，最后dropout rate的最佳值为0.7，在批量大小和收敛之间需要权衡，批次大小越大，训练速度越快，最后，批量大小被设置为36，最大迭代次数被设置为 100；训练的终止条件为精度足够高或达到预定义的代数；精度足够高是指MSE<0.005，同时MAE<0.05， MSE的计算公式如下：
式中，M为样本个数，t为样本编号，yt为真实值，
为预测值；
MAE的计算公式如下：
(5)将测试值输入加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)，由其输出聚酯纤维性能指标的预测值，具体如图5所示，预测值与真实值基本一致，将预测值与设定值进行比较，设定值为：特性粘度MIV 0.7，酯化率Es 0.95，聚合度Pn125，平均分子量Mn 20000，根据比较结果调整聚酯纤维聚合过程中的工艺参数；
为了证明所提出算法框架的有效性，本发明执行了两组实验：
在第一组中，基于加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)、加权的双流双向长短时记忆网络(TS-λBiLSTMs)、双流双向长短时记忆网络(TS-BiLSTMs)、双向长短时记忆注意力网络 (BiLSTMs-attention)和双向长短时记忆网络(BiLSTMs)的MIV性能指数的绝对误差显示在图6中，该几种软测量模型并没在多输出软测量模型的文章中见到过，执行该组实验只是为了证明所提出的双流框架，加权的BiLSTM及其与注意力机制结合的算法框架是非常有效的，其中绝对误差(abosulte error)的定义是预测值与真实值误差的绝对值，具体公式如下：m指第m个测试样本，ym为真实值，
为预测值，AE的值越接近0，代表预测结果越好；
值得一提的是，图6中的五个算法具有相同的训练集、测试集、迭代次数和批尺寸大小。可以看出，基于加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)、双向长短时记忆注意力网络 (BiLSTMs-attention)和双向长短时记忆网络(BiLSTMs)的MIV性能指数的绝对误差在0-0.2之间波动，而基于双流双向长短时记忆网络(TS-BiLSTMs)和加权的双流双向长短时记忆网络(TS-λBiLSTMs)的MIV性能指标的绝对误差在0-0.4之间波动，具体而言，加权的双流双向长短时记忆注意力网络 (TS-λBiLSTMs-attention)算法的MIV绝对误差主要集中在0和0.05之间，双向长短时记忆注意力网络 (BiLSTMs-attention)的MIV绝对误差从0变为0.1，加权的双流双向长短时记忆网络(TS-λBiLSTMs)比双流双向长短时记忆网络(TS-BiLSTMs)稍好，其绝对误差主要在0.2到0.3之间波动，可以得出结论，引入参数λ是有效的，多输出双流λBiLSTM和双流BiLSTM的效果不如BiLSTMs，主要原因是多个输出使信息混乱，不能有效地学习每个特征的权重，这也证明了引入注意机制的必要性和有效性，总之，提出的加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)算法比其他方法更优越；
在第二组中，将提出的加权的双流双向长短时记忆注意力网络(TS-λBiLSTMs-attention)算法框架与几种广泛使用的软测量建模方法进行了对比实验，它们分别是LSTMs(Long Short-term Memory Networks)、 GRU(Gate Recurrent Unit)、PLS(PartialLeast Squares)和SVR(Support Vactor Regression)，10次统计平均结果被展示在表5，从表5可以看出，本发明提出的算法的四个性能指标的MSE值均集中在0.0013左右，而目前比较先进的集中软测量预测方法的最好的MSE的值大约在0.003，这说明本发明提出的算法明显优于其他算法。
表5
Claims (9)
1.一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征是：获取聚酯纤维性能指标的预测值后，将其与设定值进行比较，根据比较结果调整聚酯纤维聚合过程中的工艺参数；
聚酯纤维性能指标为特性粘度MIV、酯化率Es、聚合度Pn和平均分子量Mn；
预测值的获取过程如下：
首先从传感器采集到的所有特征数据中收集m个特征数据；
然后基于网格搜索的极限梯度提升树算法对m个特征数据进行特征相关性排序，即对每个特征数据计算得分函数的值，得分函数的值越高代表特征相关性越大；对排序好的m个特征数据选取特征相关性较大的前n个特征数据，n∈m；
接着对n个特征数据的所有样本进行归一化处理；
最后运用加权的双流双向长短时记忆注意力网络处理归一化后的n个特征数据，分别输出4种所述聚酯纤维性能指标的预测值；
所述加权的双流双向长短时记忆注意力网络为由合并层将两条支流获得的信息进行纵向拼接后经注意力层输入到全连接层的网络；
所述两条支流为并联的第一支流和第二支流；所述第一支流由两个相同的加权双向长短时记忆网络单元I组成，并在两者之间***一个批量标准化层；所述第二支流由两个相同的加权双向长短时记忆网络单元II组成，并在两者之间***一个批量标准化层；
所述加权双向长短时记忆网络单元I为对当前时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对当前时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元I的记忆细胞单元状态
所述加权双向长短时记忆网络单元II为对过去时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对过去时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元II的记忆细胞单元状态
其中，
代表当前时刻的信息，ct-1代表过去时刻的信息，λ1为对保留下来的当前时刻信息进一步加权的权重，λ2为对保留下来的过去时刻信息进一步加权的权重，it为记忆细胞单元状态对当前时刻信息保留的比重，ft为记忆细胞单元状态对过去时刻信息保留的比重；
获取预测值后，将其与设定值进行比较：
若聚合度、平均分子量预测值与工艺设定值的误差在正负1以内，特性粘度与酯化率的预测值与工艺设定值的误差在正负0.1以内，则不需要调节工艺参数；
若超过以上有效范围，则需要对工艺参数进行调节；
具体调节方式为：
根据网格搜索的极限梯度提升树算法获得的特征相关性排序排名，从相关性最大的即排名最靠前的工艺参数先进行调节，调节至极限仍不满足，则继续调节排名次之的工艺参数，以此类推，直至预测性能参数满足要求；
调节步长为该工艺参数具体数值的1％，调节的极限为该工艺参数具体数值的±10％；
调节方向根据性能预测结果与设定值的比较，若性能预测结果高于设定值，则调节方向为减，若性能预测结果低于设定值，则调节方向为增。
2.根据权利要求1所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征在于，所述加权的双流双向长短时记忆注意力网络具体的建模和训练过程为：
(1)建模；
所述加权的双流双向长短时记忆注意力网络包括数据预处理、信息的提取和融合以及回归输出三部分；
a)数据预处理部分：
由特征数据采集、特征数据的特征相关性排序和择优处理3个部分组成；
首先从传感器收集到的所有特征数据中收集m个特征数据，该m个特征数据分别为整个聚合过程所有温度传感器中从第一个温度传感器开始间隔相同的选取四舍五入取整[(m-1)/5]个温度传感器的温度，间隔相同的从第一个压力传感器开始选取四舍五入取整[(m-1)/5]个压力传感器的压力，浆料配制槽的1个浆料配比数据，间隔相同的从第一个液位传感器开始选取四舍五入取整[(m-1)/5]个液位传感器的液位，间隔相同的从第一个流量传感器开始选取四舍五入取整[(m-1)/5]个流量传感器的流量，间隔相同的的从第一个转速传感器开始选取四舍五入取整[(m-1)/5]个转速传感器的转速；
基于网格搜索的极限梯度提升树算法对m个特征数据进行特征相关性排序；
择优处理，根据特征相关性排序选择前n个特征数据；
对选择的n个特征数据进行归一化处理得到新的n个特征数据；
b)提取和融合部分：
首先运用并联的第一支流和第二支流的双流框架分别提取归一化处理得到的n个特征数据的过去时刻信息和当前时刻信息；
在运用合并层将双流框架的两条支流获得的信息进行纵向拼接，然后根据输入信息与输出变量的相关性，利用注意力层对输入的信息进一步加权求和；
其中所采用的双流框架中的两条支流分别为：第一支流由两个相同的加权双向长短时记忆网络单元I，并在其中***一个批量标准化层构成，即一个加权双向长短时记忆网络单元I顺接一个批量标准化层在顺接一个加权双向长短时记忆网络单元I；所述加权双向长短时记忆网络单元I为对当前时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对当前时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元I的记忆细胞单元状态
第二支流由两个相同的加权双向长短时记忆网络单元II，并在其中***一个批量标准化层构成，即一个加权双向长短时记忆网络单元II顺接一个批量标准化层在顺接一个加权双向长短时记忆网络单元II；所述加权双向长短时记忆网络单元II为对过去时刻信息加权的双向长短时记忆网络，是记忆细胞单元状态运算中对过去时刻的信息加权运算的双向长短时记忆网络，所述加权双向长短时记忆网络单元II的记忆细胞单元状态
然后运用合并层将双流框架提取的信息进行融合，在将融合后的信息输入到注意力层进一步提取信息；
c)回归输出；
最后将注意力层提取的信息输入到全连接层进行分类，输出预测结果；
加权的双流双向长短时记忆注意力网络建立完成；
(2)训练；
所述加权的双流双向长短时记忆注意力网络通过随机梯度下降的方法进行训练；训练的对象为加权的双流双向长短时记忆注意力网络的所有超参数；
训练的终止条件为精度足够高或者达到预定义的最大迭代数；精度足够高是指MSE<0.005，同时MAE<0.05，MSE的计算公式如下：
式中，M为样本个数，t为样本编号，yt为真实值，
为预测值；
MAE的计算公式如下：
(3)模型校正；
若训练在达到提前设定的最大迭代次数后MSE≥0.005或MAE≥0.05，则选择将批尺寸调小，调整步长为1，或者将预定义代数增大，调整步长为30代，其中预定义的最大迭代次数为100代，批尺寸的值为32。
3.根据权利要求1或2所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征在于，加权双向长短时记忆网络单元I的双向长短时记忆网络单元由输入层、输出层、前向层和后向层组成，每一层由多个神经元组成，其中每个神经元即为一个长短时记忆网络单元，加权双向长短时记忆网络单元II的双向长短时记忆网络单元由输入层、输出层、前向层和后向层组成，每一层由多个神经元组成，其中每个神经元即为一个长短时记忆网络单元，所述批量标准化层是一种为神经网络中的任何层提供零均值/单位方差输入的技术。
4.根据权利要求1所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征在于，it与ft均为0到1之间的数，通过随机梯度下降的方式训练得到it与ft的值；
it＝σ(W1*[ht-1，xt]+bi)；
ft＝σ(Wf*[ht-1，xt]+bf)；
式中，σ为sigmoid函数，ht1为t-1时刻的信息，xt代表t时刻的输入特征，Wi、bi、Wf与bf为要训练的参数；
具体训练过程为：
设定目标函数
其中，J(θ)为损失函数，θ是要训练的参数即Wi、bi、Wf与bf，是要迭代求解的值，h(θ)是要拟合的函数即对四个性能指标的预测，yi是四个性能指标的真实值，m是训练集的条数，因为随机梯度下降是一个一个样本进行训练，所以这里m＝1；通过梯度下降法最小化损失函数实现所需参数的训练。
5.根据权利要求1所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征在于，所述得分函数计算的具体过程为：
式中，
为第t个特征在树结构为q时的得分函数值，T为树结构为q时的树的叶子节点的个数，Ij为树结构为q时树的第j个节点，gi为损失函数的一阶导数，wj为树结构为q时的第j个叶子结点的权重值，hi为损失函数的二阶导数，λ和γ为超参数；每棵树对于每个特征都有一个得分函数值，最后所有树关于该特征的得分函数值的和即为该特征关于输出变量相关性的得分值，得分函数的值越大，代表该特征与输出变量的相关性越大；
损失函数为聚酯纤维纤维聚合过程熔体特性粘度MIV的平方损失，平方损失是指实际值和预测值之间的误差平方和。
6.根据权利要求1所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征在于，基于网格搜索的极限梯度提升树通过从m个特征中选出前n个特征，具体的n的取值数目为四舍五入取整9m/20。
7.根据权利要求1所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征在于，归一化处理的公式如下：
式中，xi为第i个样本归一化后的结果，以某特征数据中的所有样本的集合为集合X，Xi为集合X中第i个样本，Xmin为集合X中所有样本的最小值，Xmax为集合X中所有样本的最大值。
8.根据权利要求2所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征在于，步骤(2)训练中，采用随机梯度下降的方式对预测模型中的超参数进行训练；随机梯度下降即：每次迭代使用一个样本来对参数进行更新，使得训练速度加快；
对于一个样本的目标函数为：
其中，J(θ)为损失函数，θ是参数，要迭代求解的值，h(θ)是要拟合的函数，yi是真实值，m是训练集的条数，因为随机梯度下降是一个一个样本进行训练，所以这里m＝1。
9.根据权利要求1所述的一种聚酯纤维聚合过程中的工艺参数的调节方法，其特征在于，λ1的取值范围为0-1，λ2的值取值范围为0-1，当达到提前设定的最大迭代次数后MSE≥0.005或MAE≥0.05时，对该两个参数进行调整，调整步长为0.1。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010311105.4A CN111738482B (zh) | 2020-04-20 | 2020-04-20 | 一种聚酯纤维聚合过程中的工艺参数的调节方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010311105.4A CN111738482B (zh) | 2020-04-20 | 2020-04-20 | 一种聚酯纤维聚合过程中的工艺参数的调节方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111738482A true CN111738482A (zh) | 2020-10-02 |
| CN111738482B CN111738482B (zh) | 2022-04-29 |
Family
ID=72646931
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010311105.4A Active CN111738482B (zh) | 2020-04-20 | 2020-04-20 | 一种聚酯纤维聚合过程中的工艺参数的调节方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111738482B (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112348278A (zh) * | 2020-11-18 | 2021-02-09 | 中铁工程装备集团有限公司 | 一种基于XGBoost算法预测盾构机土仓压力的方法 |
| CN112379594A (zh) * | 2020-11-09 | 2021-02-19 | 武汉理工大学 | 一种数据驱动的碳纤维原液温度控制参数优化方法 |
| CN112613646A (zh) * | 2020-12-08 | 2021-04-06 | 上海交通大学烟台信息技术研究院 | 一种基于多维数据融合的设备状态预测方法及*** |
| CN112666047A (zh) * | 2021-01-14 | 2021-04-16 | 新疆大学 | 一种液体粘度检测方法 |
| CN115142160A (zh) * | 2022-08-22 | 2022-10-04 | 无锡物联网创新中心有限公司 | 一种纱线强力弱环的辨识方法及相关装置 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108345219A (zh) * | 2018-03-01 | 2018-07-31 | 东华大学 | 基于类脑记忆gru的聚酰胺纤维生产工艺 |
| CN109766989A (zh) * | 2018-12-05 | 2019-05-17 | 东华大学 | 一种聚酯纤维生产过程工艺参数的智能配置方法 |
| CN109829587A (zh) * | 2019-02-12 | 2019-05-31 | 国网山东省电力公司电力科学研究院 | 基于深度lstm网络的小区域级超短期负荷预测及可视化方法 |
| CN110705692A (zh) * | 2019-09-25 | 2020-01-17 | 中南大学 | 一种基于空间和时间注意力的长短期记忆网络对工业非线性动态过程产品质量预测方法 |
-
2020
- 2020-04-20 CN CN202010311105.4A patent/CN111738482B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108345219A (zh) * | 2018-03-01 | 2018-07-31 | 东华大学 | 基于类脑记忆gru的聚酰胺纤维生产工艺 |
| CN109766989A (zh) * | 2018-12-05 | 2019-05-17 | 东华大学 | 一种聚酯纤维生产过程工艺参数的智能配置方法 |
| CN109829587A (zh) * | 2019-02-12 | 2019-05-31 | 国网山东省电力公司电力科学研究院 | 基于深度lstm网络的小区域级超短期负荷预测及可视化方法 |
| CN110705692A (zh) * | 2019-09-25 | 2020-01-17 | 中南大学 | 一种基于空间和时间注意力的长短期记忆网络对工业非线性动态过程产品质量预测方法 |
Non-Patent Citations (1)
| Title |
|---|
| RUIMIN XIE 等: "Using Gated Recurrence Units Neural Network for Prediction of Melt Spinning Properties", 《2017 11TH ASIAN CONTROL CONFERENCE (ASCC)》 * |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112379594A (zh) * | 2020-11-09 | 2021-02-19 | 武汉理工大学 | 一种数据驱动的碳纤维原液温度控制参数优化方法 |
| CN112348278A (zh) * | 2020-11-18 | 2021-02-09 | 中铁工程装备集团有限公司 | 一种基于XGBoost算法预测盾构机土仓压力的方法 |
| CN112613646A (zh) * | 2020-12-08 | 2021-04-06 | 上海交通大学烟台信息技术研究院 | 一种基于多维数据融合的设备状态预测方法及*** |
| CN112666047A (zh) * | 2021-01-14 | 2021-04-16 | 新疆大学 | 一种液体粘度检测方法 |
| CN115142160A (zh) * | 2022-08-22 | 2022-10-04 | 无锡物联网创新中心有限公司 | 一种纱线强力弱环的辨识方法及相关装置 |
| CN115142160B (zh) * | 2022-08-22 | 2023-12-19 | 无锡物联网创新中心有限公司 | 一种纱线强力弱环的辨识方法及相关装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111738482B (zh) | 2022-04-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111738482B (zh) | 一种聚酯纤维聚合过程中的工艺参数的调节方法 | |
| CN107451101B (zh) | 一种分层集成的高斯过程回归软测量建模对脱丁烷塔底丁烷浓度进行预测的方法 | |
| CN107992976B (zh) | 热点话题早期发展趋势预测***及预测方法 | |
| CN108875771A (zh) | 一种基于稀疏高斯伯努利受限玻尔兹曼机和循环神经网络的故障分类模型及方法 | |
| CN113705877B (zh) | 基于深度学习模型的实时月径流预报方法 | |
| KR102475108B1 (ko) | 최적화된 하이퍼파라미터를 갖는 기계 학습 모델링 자동화 방법 및 이를 이용한 기계 학습 모델링 자동화 시스템 | |
| CN111079836A (zh) | 基于伪标签方法和弱监督学习的过程数据故障分类方法 | |
| CN111768000A (zh) | 在线自适应微调深度学习的工业过程数据建模方法 | |
| CN109507888B (zh) | 基于集成学习的丙烯聚合生产过程最优在线预报*** | |
| CN111583031A (zh) | 一种基于集成学习的申请评分卡模型建立方法 | |
| CN110633846A (zh) | 燃气负荷预测方法和装置 | |
| CN111553117A (zh) | 基于遗传算法的堆叠式集成学习的聚酯特性粘度控制方法 | |
| Cao et al. | Multimodal process monitoring based on variational Bayesian PCA and Kullback-Leibler divergence between mixture models | |
| CN111046961A (zh) | 基于双向长短时记忆单元和胶囊网络的故障分类方法 | |
| CN114015825A (zh) | 基于注意力机制的高炉热负荷异常状态监测方法 | |
| CN113837266B (zh) | 一种基于特征提取和Stacking集成学习的软件缺陷预测方法 | |
| CN114239397A (zh) | 基于动态特征提取与局部加权深度学习的软测量建模方法 | |
| CN109445398B (zh) | 基于加权组合学习的丙烯聚合生产过程最优在线预报*** | |
| CN113177578A (zh) | 一种基于lstm的农产品品质分类方法 | |
| CN115034504B (zh) | 基于云边协同训练的刀具磨损状态预测***及方法 | |
| CN114330089B (zh) | 一种稀土元素含量变化预测方法及*** | |
| CN112786120B (zh) | 神经网络辅助化学材料合成的方法 | |
| CN113065281B (zh) | 一种基于传递熵与长短期记忆网络的te过程时序预测方法 | |
| Sixiang et al. | Confidence-based local feature selection for material classification | |
| CN111797574A (zh) | 聚合物分子量分布的集成高斯过程回归模型方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |