CN116467653A - 一种基于概率分布和XGBoost决策算法的织机异常数据处理方法 - Google Patents
一种基于概率分布和XGBoost决策算法的织机异常数据处理方法 Download PDFInfo
- Publication number
- CN116467653A CN116467653A CN202310345641.XA CN202310345641A CN116467653A CN 116467653 A CN116467653 A CN 116467653A CN 202310345641 A CN202310345641 A CN 202310345641A CN 116467653 A CN116467653 A CN 116467653A
- Authority
- CN
- China
- Prior art keywords
- loom
- data
- model based
- probability distribution
- xgboost decision
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000002159 abnormal effect Effects 0.000 title claims abstract description 117
- 238000009826 distribution Methods 0.000 title claims abstract description 48
- 238000003672 processing method Methods 0.000 title claims abstract description 22
- 238000000034 method Methods 0.000 claims abstract description 84
- 230000008439 repair process Effects 0.000 claims abstract description 54
- 238000009941 weaving Methods 0.000 claims abstract description 30
- 238000012549 training Methods 0.000 claims abstract description 25
- 230000003044 adaptive effect Effects 0.000 claims abstract description 12
- 230000005856 abnormality Effects 0.000 claims abstract description 7
- 230000008859 change Effects 0.000 claims description 17
- 238000012360 testing method Methods 0.000 claims description 14
- 239000004744 fabric Substances 0.000 claims description 12
- 238000012795 verification Methods 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 10
- 230000006870 function Effects 0.000 claims description 5
- 238000010586 diagram Methods 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000004519 manufacturing process Methods 0.000 abstract description 19
- 239000004753 textile Substances 0.000 abstract description 16
- 230000008569 process Effects 0.000 description 10
- 230000008901 benefit Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000004140 cleaning Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 238000003754 machining Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 238000005314 correlation function Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000010030 laminating Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/27—Regression, e.g. linear or logistic regression
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/29—Graphical models, e.g. Bayesian networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Looms (AREA)
Abstract
本发明公开了一种基于概率分布和XGBoost决策算法的织机异常数据处理方法,属于纺织行业织造车间智能制造领域,方法包括:定时采集织机原始数据;计算各相邻数据点之间的变化差值;计算不同时间窗口下的自适应回归基准阈值;根据自适应回归基准阈值更新不同时刻下的可信区间;将数据值在可信区间范围外的数据点确定为异常数据;构建基于概率分布的贝叶斯网络异常数据识别模型;通过基于概率分布的贝叶斯网络异常数据识别模型,确定导致异常数据点产生数据异常的织机参数;构建基于XGBoost决策法的织机缺失数据修复模型;对基于XGBoost决策法的织机缺失数据修复模型进行训练;通过训练后的基于XGBoost决策法的织机缺失数据修复模型对异常数据点进行修复。
Description
技术领域
本发明属于纺织行业织造车间智能制造领域,具体涉及一种基于概率分布和XGBoost决策算法的织机异常数据处理方法。
背景技术
我国纺织业的智能制造也取得了显著进展。以物联网为基础,实现纺织高质量数据互联互通是行业进行数据化分析、智能化排产等一系列智能制造的前提。因此,需要对纺织异常数据的产生原因和存在形式进行分析研究,进而制定贴合纺织生产场景下的异常数据处理方法。在纺织设备中,织机在织布过程中的工艺流程复杂、产生的作业信息量庞大,作为纺织布匹成形的末道加工设备,其生产情况直接影响织造布匹的最终品次。为此,实现对织机异常数据的处理,提高织造数据准确性,对实现纺织智能制造高质量发展具有重要意义。
目前,在异常数据的处理中,主要包括对异常数据的清洗和修复,通过对行业异常数据特征进行分析,对异常数据进行识别和清洗。由于纺织生产环境复杂,网络通信故障和测量传感器硬件损坏等因素的影响,出现大量异常和离群数据掺杂在纺织大数据中,造成数据缺失可用率低,生产信息不准确,最终影响织造布匹品次的问题没有有效的方法进行处理。
发明内容
本发明实施例的目的是提供一种基于概率分布和XGBoost决策算法的织机异常数据处理方法,能够解决由于纺织生产环境复杂,网络通信故障和测量传感器硬件损坏等因素的影响,出现大量异常和离群数据掺杂在纺织大数据中,造成数据缺失可用率低,生产信息不准确,最终影响织造布匹品次的技术问题。
为了解决上述技术问题,本发明是这样实现的:
本发明实施例提供了一种基于概率分布和XGBoost决策算法的织机异常数据处理方法,包括:
S101:定时采集织机原始数据;
S102:计算各相邻数据点之间的变化差值;
S103:计算不同时间窗口下的自适应回归基准阈值;
S104:根据自适应回归基准阈值更新不同时刻下的可信区间;
S105:将数据值在可信区间范围外的数据点确定为;
S106:构建基于概率分布的贝叶斯网络异常数据识别模型;
S107:通过基于概率分布的贝叶斯网络异常数据识别模型,确定导致异常数据点产生数据异常的织机参数;
S108:构建基于XGBoost决策法的织机缺失数据修复模型;
S109:对基于XGBoost决策法的织机缺失数据修复模型进行训练;
S110:通过训练后的基于XGBoost决策法的织机缺失数据修复模型对异常数据点进行修复。
在本发明实施例中,首先,采用设置自适应回归阈值的方式对织机各原始数据变化的可信区间进行确定,缩小对异常数据的定位范围。然后构建基于概率分布的异常数据识别模型,进一步实现对异常数据的准确定位,通过所述基于概率分布的贝叶斯网络异常数据识别模型,确定导致所述异常数据点产生数据异常的织机参数。最后,构建基于XGBoost决策法的织机缺失数据修复模型,利用XGBoost决策法对异常数据造成的数据缺失进行修复,在实现数据清洗的同时对缺失数据进行填补修复,弥补采样数据中数据缺失可用率低的技术问题,提升织机生产信息准确性和最终织造布匹的品次,大大提升企业生产效益。
附图说明
图1是本发明实施例提供的一种基于概率分布和XGBoost决策算法的织机异常数据处理方法的流程示意图。
图2是本发明实施例提供的一种织机异常数据识别的网络关系图。
本发明目的的实现、功能特点及优点将结合实施例、参照附图做进一步说明。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面结合附图,通过具体的实施例及其应用场景对本发明实施例提供基于概率分布和XGBoost决策算法的织机异常数据处理方法进行详细地说明。
参照图1,示出了本发明实施例提供的一种基于概率分布和XGBoost决策算法的织机异常数据处理方法的流程示意图。
本发明实施例提供的一种基于概率分布和XGBoost决策算法的织机异常数据处理方法,包括:
S101:定时采集织机原始数据。
需要说明的是,织机在运行过程中,在对织机设备进行联网数据采集的过程中,由于设备本身通讯异常、传感器故障以及网络线路信号不稳定等原因,都会出现原始采集信息中带有异常干扰数据的问题发生,使采集数据的可靠度下降,所以说,采集的织机原始数据中包含有异常数据和正常数据,采集的原始数据为后续进行异常数据的处理提供数据基础。本领域技术人员可以自行设定定时方式对织机的原始数据进行采集,本方案对定时方式不做限定。
表1
需要说明的是,织机的作用是将织轴的经纱和纬纱筒的纬纱纵横向交织加工成布匹。由于织机加工过程复杂且每根织轴的加工时间漫长,因此,织机设备在作业时所产生的数据量庞大。织机数据可分为2类:静态数据和动态数据。静态数据指能够提前设定和预知,并且在短周期内不会发生变化的数据,如设备属性、产品工艺信息等;动态数据指随着设备的工作状态和加工工艺要求实时改变的数据,如织机织布产量、打纬次数、织机状态、运行时间、运行车速、运行效率和经纬停次数等。在这2类数据中,动态数据变化频率高且反映着织机的整体生产情况。在织机实际运行过程中,各动态数据间的变化幅度不一,但都具有时间关联性,并且各数据间的变化相互联系。各织机参数与时间的关联性如表1所示,织机在正常运行时的织布产量会随时间的累计而呈连续性增长趋势,织机车速由于织机状态变化的过渡时间较短,采集数值会出现短时间的离散性低频跳变。
在实际运行过程中,各数据间的变化相互联系。织机单位时刻的织布产量与车速保持同步正相关性变化,织机在运行状态时,产量值也应同步增长,并且织机车速大于0,同理,织机在停车状态时的产量值应维持不变,且车速等于0。织布产量、运行时间、运行车速和运行状态之间的理论关系式为:
其中,M表示织机的织布长度,单位cm,T表示织机的织布时间,单位min,W表示布匹的纬密参数值,也就是布匹1cm长度上的纬纱根数,S表示织机织布时的运行车速也就是织机1分钟的打纬次数,K表示织机当前时刻的工作状态其中1为运行,0为停车。
S102:计算各相邻数据点之间的变化差值。
需要说明的是,由于织机在运行过程中不同因素的影响,采集的原始数据中,任意相邻两个数据点之间的数据值不可能完全相同,通过计算相邻数据点之间的变化差值,理论上来讲,织机在连续的工作过程中,若工况相同,则相邻数据之间的变化差值会保持在一定范围内,因此通过比较相邻数据之间的变化差值可以初步定位出异常数据的位置,为后续精确定位异常数据打下基础。
S103:计算不同时间窗口下的自适应回归基准阈值。
需要说明的是,相对于现有技术,自适应回归阈值能够随原始数据的不断更新,自动修正不同时段下的基准阈值,避免因采集端和底层设备终端之间出现不定时通信故障而导致的正常数据波动被误判为异常数据的情况,提升异常数据的定位准确性。
表2
如表2所示,在计算自适应回归基准阈值时,将每个数据值的更新时间考虑进计算中,得到单位时间内的数据变化差值序列。然后,将n维的时间窗口下有时序特征的变化差值序列进行滑动平均,最终得到不同时间窗口下的自适应回归基准阈值。
在一种可能的实施方式中,S103具体包括:
S1031:获取单位时间内的数据变化差值序列;
S1032:按照时间顺序,计算当前时间窗口下的数据变化差值的滑动平均值,作为当前时间窗口下的回归基准阈值,其中,当前时间窗口为n维时间窗口,当前窗口包括n个单位时间;
其中,回归基准阈值的计算方式为:
其中,F(i)表示第i个时间窗口下的基准阈值,xk表示参数在k时刻的数据值,tk表示参数在k时刻的数据更新时间,n表示时间窗口的长度。
需要说明的是,n个单位时间为一个时间窗口,第一个时间窗口是指第1至n个单位时间,第二时间窗口是指第n+1至2n个单位时间。
S104:根据自适应回归基准阈值更新不同时刻下的可信区间。
在一种可能的实施方式中,可信区间的上限和下限分别为:
其中,Ht表示t时刻下的可信区间的上限,Lt表示t时刻下的可信区间的下限,yt-a表示t时刻前一次合法的数据值,C表示幅值系数。
需要说明的是,根据自适应回归基准阈值,可以判断出不同数据值偏离基准阈值的程度,而计算出可信区间的上下限,可以确定出在可信区间上下限的范围内的数据值是正常的数据值,也相当于是确定了正常的数据值,采用这种方法,不仅可以避免正常数据误判为异常数据的概率,还可以将采集的原始数据初步区分为正常数据和异常数据。
S105:将数据值在可信区间范围外的数据点确定为异常数据。
可以理解的是,在S104中计算出的可信区间的上限和下限,可以通过数据值是否在可信区间的范围内,进而判断出数据值是否是正常数据,也就是说,不在可信区间范围内的数据值为异常数据值,异常数据值对应的数据点便可以确定为异常数据,也就初步定位出了异常数据的位置。
S106:构建基于概率分布的贝叶斯网络异常数据识别模型。
在一种可能的实施方式中,S106具体包括:
S1061:建立样本数据集D,样本数据集D包括织布产量(x1)、打纬次数(x2)、运行时间(x3)、运行效率(x4)、运行车速(x5)、织机状态(x6)和数据类型(x7),样本数据集D的组成关系为:
其中,D的维度为i×7,i表示对织机数据的时序采集点个数。
S1062:采用等频分箱离散法对样本数据集进行离散化处理;
需要说明的是,由于贝叶斯网络对离散数据具有优越的处理性能,因此,需要对样本数据集D的样本元素进行离散化处理,其中,织机状态是反映织机运行和停车的二值元素,数据类型是代表各时刻点下织机数据属于正常数据点、偏离异常点或不活跃异常点的三值元素,无需做离散化处理。采用等频分箱离散法对织布产量、打纬次数、运行时间、运行效率和运行车速5类数据进行离散化,便于精准的进一步定位异常数据。
具体地,采用等频分箱离散法对织布产量(x1)、打纬次数(x2)、运行时间(x3)、运行效率(x4)和运行车速(x5)进行离散化处理。
在一种可能的实施方式中,在S1062之后还包括:
S1062A:在贝叶斯网络中引入各参数之间的相关性系数,相关性系数的计算方式为:
其中,a,b表示需要求取相关程度的元素,cov表示元素间的协方差值,σ表示元素间的标准差值,ρ(a,b)表示元素a,b间的相关性系数。
需要说明的是,织机各参数间相关性系数是确定贝叶斯网络关系结构的依据,本文利用Pearson相关性函数对各网络节点进行相关性分析,以此确定概率分布网络的关系结构。
S1063:确定基于概率分布的贝叶斯网络异常数据识别模型的网络结构;
网络结构为贝叶斯网络,贝叶斯网络的关系式为:
B=(J,T)
其中,J表示描述各元素间关联关系的网络结构图,包括元素节点和关系指向线,T表示描述网络中各元素节点间概率分布的关系数据集。
S1064:根据各子节点下的先验概率P(xi|D),i=1,2,···,6,对各子节点间概率分布进行训练,确定织机异常识别网络中证据节点与子节点的条件概率分布P(x7=mj|xi)。
S1065:计算各节点的全概率:
其中,P(x7=mj)表示各数据类型条件成立的联合全概率,即织布产量、打纬次数、运行时间、运行效率、运行车速和织机状态六类数据共同影响下的结果情况概率。
S1066:根据各节点全概率分布确定织机数据情况类型。
S1067:在子节点输出结果为异常数据的情况下,根据异常数据的概率分布,对各证据节点的后验概率进行推理,最终定位到产生数据异常的织机参数,后验概率的计算方式为:
其中,P(xi|x7)表示已知结果子节点数据类型父节点xi条件成立的概率,即后验概率。
S1068:将样本数据集输入至基于概率分布的贝叶斯网络异常数据识别模型进行训练。
S107:通过基于概率分布的贝叶斯网络异常数据识别模型,确定导致异常数据点产生数据异常的织机参数。
在一种可能的实施方式中,在S107之后还包括:
S111:清除导致异常数据点产生数据异常的织机参数。
需要说明的是,经过前面的异常数据定位和织机参数的定位,最终确定出异常数据的准确位置,清除确定的异常数据,避免后续在对该异常数据点进行修复的过程中异常数据的影响,之后对清除后的数据缺失位进行修复,以提高数据的整体质量。
S108:构建基于XGBoost决策法的织机缺失数据修复模型。
其中,XGBoost是基于极限梯度提升的决策树集成算法,其基本思想是以梯度下降法集成多个基学习器来逐渐减小模型每次修复结果与织机实际值的残差,由于织机数据具有多维度的特征,相对于现有技术,本文通过XGBoost决策法,充分利用织机各维度数据间的关联性,对缺失位数据进行修复,在避免修复过程中考虑不充分的同时,设置多个基学习器逐步对缺失位进行修复以逼近织机实际值,提升修复效果。。
在一种可能的实施方式中,S108具体为:
S1081:以回归树作为基学习器构建基于XGBoost决策法的织机缺失数据修复模型,基于XGBoost决策法的织机缺失数据修复模型的表达式为:
其中,表示i时刻下的织机数据修复结果,xi表示i时刻下待修复织机参数的已知关联输入样本,N表示基学习器的数量,fk表示第k个基学习器。
S109:对基于XGBoost决策法的织机缺失数据修复模型进行训练。
在一种可能的实施方式中,S109具体包括:
S1091:将经过异常识别后得到的织机各参数正常数据点作为基于XGBoost决策法的织机缺失数据修复模型的特征样本,构建特征样本集,将特征样本集按预设比例划分为训练集和测试集。
需要说明的是,将经过异常识别后得到的织机各参数正常数据点作为驱动模型的特征样本集,消除原始数据高维稀疏特征造成模型过拟合的情况,可以提高模型的数据修复能力。
可选地,训练集和测试集的预设比例为7:3。
S1092:选择回归树作为基于XGBoost决策法的织机缺失数据修复模型的基学习器,将基于XGBoost决策法的织机缺失数据修复模型的目标损失函数设置为均方损失回归。
S1093:以误差最小原则调整基于XGBoost决策法的织机缺失数据修复模型的学习率、基学习器数量和回归树深度。
需要说明的是,本文数据修复问题为回归问题,在对模型的基学习器(booster)和目标损失函数(objective)进行选择时,选择回归树作为织机缺失数据修复模型的基学习器,织机缺失数据修复模型的目标损失函数设置为均方损失回归;以误差最小原则调整模型的学习率(learning_rate)、基学习器数量(n_estimator)和回归树深度(max_depth);为防止模型训练时对样本数据的过度拟合,对构造基学习器时的随机采样数占比(subsample)和随机特征数占比(colsample_bytree)进行设置,提升修复质量,降低修复误差。
S1094:通过训练集对基于XGBoost决策法的织机缺失数据修复模型进行训练。
S1095:在基于XGBoost决策法的织机缺失数据修复模型的迭代次数达到基学习器数量的情况下,输出基于XGBoost决策法的织机缺失数据修复模型的输出结果。
S1096:判断输出结果是否在织机各对应参数的可信区间上限和下限之间,若输出结果在可信区间上限和下限之间,进入S1097,否则,进入S1098。
S1097:对输出结果进行异常值校验,判断输出结果是否通过异常值校验,在输出结果通过异常值校验的情况下,进入S1099,否则,进入S1098。
S1098:调整学习率、基学习器数量和回归树深度,返回S1094,重新训练基于XGBoost决策法的织机缺失数据修复模型。
需要说明的是,按照初始化参数对模型进行训练和构造,待模型训练迭代数达到基学习器最大数量时,输出模型训练结果和误差,判断训练结果是否包含在织机各对应参数的可信区间范围内,并且重新利用异常数据识别方法对结果进行异常值校验,若校验不通过,则调整模型学习率(learning_rate)和基学习器数量(n_estimator)的参数值,重新训练模型,直至输出结果满足处于可信区间的条件,并且可以通过异常值的校验,结束参数调整,完成基于XGBoost决策法的织机缺失数据修复模型的训练。
S1099:随机输入测试集中与织机待修复数据相关联的的样本信息,对比目标输出结果与对应织机真实参数的偏差,在目标输出结果与对应织机真实参数的偏差在预设范围内的情况下,结束基于XGBoost决策法的织机缺失数据修复模型的训练。
可以理解的是,之前训练好的基于XGBoost决策法的织机缺失数据修复模型输出结果确实是经过了验证,但是,为了避免意外情况的出现,进一步利用测试集对基于XGBoost决策法的织机缺失数据修复模型进行进一步验证,如果验证结果通过,则表示基于XGBoost决策法的织机缺失数据修复模型具有普遍适用性,经过进一步的验证,提升训练模型的可靠性和可信度。
S110:通过训练后的基于XGBoost决策法的织机缺失数据修复模型对异常数据点进行修复。
可以理解的是,利用训练好的基于XGBoost决策法的织机缺失数据修复模型对定位出的异常数据点进行修复,填补缺失位,提升织机采样数据的可用率,提高异常数据的修复成功率。
在一种可能的实施方式中,在S110之后还包括:
S112:对修复后的数据进行可靠性验证。
需要说明的是,为了避免定位出的异常数据修复后,出现修复不准确或者不满足预设条件的情况,对修复后的数据进行可靠性验证,以验证修复效果的可靠性。
在一种可能的实施方式中,S112具体为:
S1121:采用平均绝对误差指标MAE、均方根误差指标RMSE和拟合系数指标R2对修复后的数据进行可靠性验证:
其中,yi表示测试集中测试样本的实际值,表示测试样本的预测值,/>表示测试样本的均值,MAE、RMSE和R2值的范围为[0,1],MAE和RMSE的值越小,说明修复结果与真实值越接近,R2的值越接近于1,说明基于XGBoost决策法的织机缺失数据修复模型对织机缺失数据的修复准确度越高。
在实际使用过程中,现有服务于纺织企业织布生产的织机设备中,多数带有供外部数据采集通讯的信息传输接口,如丰田、津田驹、必佳乐织机等。本文以石家庄某纺织企业的必佳乐OMNIPLUS-340型喷气织机采集数据为例,对所提异常数据处理方法有效性进行验证。现有采集设备主要采用外置数据采集终端对织机的各类生产数据进行采集。为贴合实际织造车间以班次为周期的生产作息规律,本文收集了织机的完整班次数据,数据采集频率为每分钟1次,采集数据集共计样本720组,每组样本包括织机的织布产量、打纬次数、运行时间、运行效率、运行车速、织机状态和异常情况7类数据信息。
采用设置自适应回归阈值的方式对织机各参数变化的可信区间进行定义。本文以数据可变范围广、易受环境干扰的织机织布产量、打纬次数、运行效率和运行车速4类参数作为该方法处理效果的验证数据。对数据的变化特点进行分析,可知:织机织布产量和打纬次数在正常情况下的瞬时变化幅值相对较小,而织机车速和效率由于织机存在运行和停车状态的快速切换,短时刻间数值会出现大幅度跳变。因此,在对织机车速和效率进行处理时,时间窗口长度的设定需要大于织布产量和打纬次数的窗口长度。但是,时间窗口长度过长会降低基阈值的实时更新率;窗口长度过短,所包含的历史数据过少,难以体现数据的变化趋势。图为不同时间窗口长度下织机各参数的异常点识别情况。
实验发现,本文对织机织布产量、打纬次数、运行效率和运行车速的时间窗口长度分别设置为30、23、48和57。在确定各参数数据变化的可信区间后,其中,对织布产量异常点有效识别个数25个,识别率32.05%;打纬次数异常点有效识别个数17个,识别率21.15%;运行效率异常点有效识别个数10个,识别率13.33%;运行车速异常点有效识别个数17个,识别率26.98%。此外,采用设置自适应回归阈值定义数据变化可信区域的方式,能估算出织机参数的整体变化趋势,缩小对织机异常数据的定位范围,并且,能够对异常数据进行初步识别。仅通过定义可信区域识别到的异常数据点中,多数为全局偏离异常点,局部偏离异常点和不活跃异常数据点由于波动幅度不明显被包括在可信区域内而不能被有效识别,证明了引入自适应回归基准阈值定义可信区间的有效性和对异常数据的识别能力大大提升。
表3各参数间的相关性系数
x1 | x2 | x3 | x4 | x5 | x6 | |
x1 | 1.00 | 0.97 | 0.96 | 0.34 | 0.09 | 0.08 |
x2 | 0.97 | 1.00 | 0.99 | 0.35 | 0.09 | 0.08 |
x3 | 0.96 | 0.99 | 1.00 | 0.34 | 0.09 | 0.08 |
x4 | 0.34 | 0.35 | 0.34 | 1.00 | 0.11 | 0.12 |
x5 | 0.09 | 0.09 | 0.09 | 0.11 | 1.00 | 0.93 |
x6 | 0.08 | 0.08 | 0.08 | 0.12 | 0.93 | 1.00 |
自适应回归阈值的设定能有效对全局偏离异常数据进行定位,但对于波动幅度不明显的局部偏离异常数据和不活跃异常数据的识别效果不佳。本文搭建基于参数间相关性的贝叶斯网络异常数据识别模型,进一步对异常数据发生时刻点和异常类型进行定位。首先,对织机织布产量、打纬次数、运行时间、运行效率、运行车速、织机状态6类参数的相关性进行分析,确定参数间的相互关联程度,作为构建异常识别关系网络结构的依据。各参数间的相关性系数如表3所示。
从表3中各参数间的相关性系数结果可知,织机运行时间、打纬次数和织布产量3者间具有数据相关性。其中,运行时间和打纬次数间的相关性程度最高,相关性系数为0.99;织机状态和运行车速间具有数据相关性,相关性系数为0.93.
参照图2,示出了本发明实施例提供的一种织机异常数据识别的网络关系图。
由图2可知,织机数据的异常情况由织布产量、打纬次数、运行时间、运行效率、运行车速和织机状态6类证据节点共同决定。
表4各方法的异常数据识别情况
为验证本文识别网络对织机异常数据识别的有效性,将本文方法与决策树、K最近邻算法进行对比。表4为各方法对织机织布产量、打纬次数、运行效率和运行车速4类参数的异常点识别情况。由表4可知,本文基于概率分布的异常点识别方法对织机4类参数的异常点识别率分别为98.71%、95.00%、98.67%和98.41%,平均识别率为97.70%,高于其他两种对比方法,原因是所提方法充分利用了各数据间的相关性。
表5XGBoost模型参数
利用XGBoost决策法对织机缺失数据点进行修复,模型的参数设置如表5所示。为定量分析模型对织机缺失数据修复的可靠性,本文将特征样本集随机拆分为7:3比例划分成训练集和测试集,使用hermite插值、三次样条插值和本文方法分别对织机缺失数据点进行修复。从织机织布产量、打纬次数、运行效率和运行车速4类参数中各随机选择5个不同时刻观测点进行数据修复。
结果表明,对比填补后的数据值与真实数据间的拟合程度,本文提出的使用XGBoost决策法对织机缺失数据的修复结果更接近于织机参数的实际值,而两种对比方法在观测点下得到的修复值与实际值之间具有较大误差。其原因是相比于从单一维度下特征信息的获取只能从数据本身的前后变化趋势为依据,本文使用XGBoost决策法对织机缺失值进行修复时,考虑了织机多维度参数间的相互关联性,利用已有的关联参数相关性信息,实现对缺失数据更加准确的修复。
表6各参数修复评价结果
表6为hermite插值、三次样条插值和本文方法对织机各参数修复情况的评价结果。根据表中评价指标,本文方法对织机缺失数据修复的结果均优于其他两种方法,评价指标MAE、RMSE最小,织机织布产量、打纬次数、运行效率和运行车速对应的R2值分别为0.9649、0.9563、0.9832、0.9736。在验证基于XGBoost决策法对织机缺失数据修复的准确性后,利用训练好的修复模型对织机各参数的数据缺失位进行修复,提升了织机数据的整体质量。
在本发明实施例中,首先,采用设置自适应回归阈值的方式对织机各原始数据变化的可信区间进行确定,缩小对异常数据的定位范围。然后构建基于概率分布的异常数据识别模型,进一步实现对异常数据的准确定位,通过所述基于概率分布的贝叶斯网络异常数据识别模型,确定导致所述异常数据点产生数据异常的织机参数。最后,构建基于XGBoost决策法的织机缺失数据修复模型,利用XGBoost决策法对异常数据造成的数据缺失进行修复,在实现数据清洗的同时对缺失数据进行填补修复,弥补采样数据中数据缺失可用率低的技术问题,提升织机生产信息准确性和最终织造布匹的品次,大大提升企业生产效益。
以上所述仅为本发明的实施例而已,并不用于限制本发明。对于本领域技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本发明的权利要求范围之内。
Claims (10)
1.一种基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,包括:
S101:定时采集织机原始数据;
S102:计算各相邻数据点之间的变化差值;
S103:计算不同时间窗口下的自适应回归基准阈值;
S104:根据所述自适应回归基准阈值更新不同时刻下的可信区间;
S105:将数据值在可信区间范围外的数据点确定为异常数据;
S106:构建基于概率分布的贝叶斯网络异常数据识别模型;
S107:通过所述基于概率分布的贝叶斯网络异常数据识别模型,确定导致所述异常数据点产生数据异常的织机参数;
S108:构建基于XGBoost决策法的织机缺失数据修复模型;
S109:对所述基于XGBoost决策法的织机缺失数据修复模型进行训练;
S110:通过训练后的基于XGBoost决策法的织机缺失数据修复模型对所述异常数据点进行修复。
2.根据权利要求1所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,所述S103具体包括:
S1031:获取单位时间内的数据变化差值序列;
S1032:按照时间顺序,计算当前时间窗口下的数据变化差值的滑动平均值,作为所述当前时间窗口下的回归基准阈值,其中,所述当前时间窗口为n维时间窗口,所述当前窗口包括n个单位时间;
其中,所述回归基准阈值的计算方式为:
其中,F(i)表示第i个时间窗口下的基准阈值,x k表示参数在k时刻的数据值,tk表示参数在k时刻的数据更新时间,n表示时间窗口的长度。
3.根据权利要求1所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,所述S104具体为:
S1041:根据所述自适应回归基准阈值,计算t时刻下织机参数的可信区间上限和下限:
其中,Ht表示t时刻下的所述可信区间上限,Lt表示t时刻下的所述可信区间下限,yt-a表示t时刻前一次合法的数据值,C表示幅值系数。
4.根据权利要求1所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,所述S106具体包括:
S1061:建立样本数据集D,所述样本数据集D包括织布产量(x1)、打纬次数(x2)、运行时间(x3)、运行效率(x4)、运行车速(x5)、织机状态(x6)和数据类型(x7),所述样本数据集D的组成关系为:
其中,D的维度为i×7,i表示对织机数据的时序采集点个数;
S1062:采用等频分箱离散法对所述样本数据集进行离散化处理;
S1063:确定所述基于概率分布的贝叶斯网络异常数据识别模型的网络结构;
所述网络结构为贝叶斯网络,所述贝叶斯网络的关系式为:
B=(J,T)
其中,J表示描述各元素间关联关系的网络结构图,包括元素节点和关系指向线,T表示描述网络中各元素节点间概率分布的关系数据集;
S1064:根据各子节点下的先验概率P(xi|D),i=1,2,···,6,对各子节点间概率分布进行训练,确定织机异常识别网络中证据节点与子节点的条件概率分布P(x7=mj|xi);
S1065:计算各节点的全概率:
其中,P(x7=mj)表示各数据类型条件成立的联合全概率,即织布产量、打纬次数、运行时间、运行效率、运行车速和织机状态六类数据共同影响下的结果情况概率;
S1066:根据各节点全概率分布确定织机数据情况类型;
S1067:在子节点输出结果为异常数据的情况下,根据所述异常数据的概率分布,对各证据节点的后验概率进行推理,最终定位到产生数据异常的织机参数,所述后验概率的计算方式为:
其中,P(xi|x7)表示已知结果子节点数据类型父节点x i条件成立的概率,即所述后验概率;
S1068:将所述样本数据集输入至所述基于概率分布的贝叶斯网络异常数据识别模型进行训练。
5.根据权利要求4所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,在所述S1062之后还包括:
S1062A:在所述贝叶斯网络中引入各参数之间的相关性系数,所述相关性系数的计算方式为:
其中,a,b表示需要求取相关程度的元素,cov表示元素间的协方差值,σ表示元素间的标准差值,ρ(a,b)表示元素a,b间的相关性系数。
6.根据权利要求1所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,在所述S107之后还包括:
S111:清除导致所述异常数据点产生数据异常的织机参数。
7.根据权利要求1所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,所述S108具体为:
S1081:以回归树作为基学习器构建所述基于XGBoost决策法的织机缺失数据修复模型,所述基于XGBoost决策法的织机缺失数据修复模型的表达式为:
其中,表示i时刻下的织机数据修复结果,xi表示i时刻下待修复织机参数的已知关联输入样本,N表示所述基学习器的数量,fk表示第k个基学习器。
8.根据权利要求7所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,所述S109具体包括:
S1091:将经过异常识别后得到的织机各参数正常数据点作为所述基于XGBoost决策法的织机缺失数据修复模型的特征样本,构建特征样本集,将所述特征样本集按预设比例划分为训练集和测试集;
S1092:选择回归树作为所述基于XGBoost决策法的织机缺失数据修复模型的基学习器,将所述基于XGBoost决策法的织机缺失数据修复模型的目标损失函数设置为均方损失回归;
S1093:以误差最小原则调整所述基于XGBoost决策法的织机缺失数据修复模型的学习率、基学习器数量和回归树深度;
S1094:通过所述训练集对所述基于XGBoost决策法的织机缺失数据修复模型进行训练;
S1095:在所述基于XGBoost决策法的织机缺失数据修复模型的迭代次数达到所述基学习器数量的情况下,输出所述基于XGBoost决策法的织机缺失数据修复模型的输出结果;
S1096:判断所述输出结果是否在织机各对应参数的所述可信区间上限和下限之间,若所述输出结果在所述可信区间上限和下限之间,进入S1097,否则,进入S1098;
S1097:对所述输出结果进行异常值校验,判断所述输出结果是否通过所述异常值校验,在所述输出结果通过所述异常值校验的情况下,进入S1099,否则,进入S1098;
S1098:调整所述学习率、所述基学习器数量和所述回归树深度,返回S1094,重新训练所述基于XGBoost决策法的织机缺失数据修复模型;
S1099:随机输入所述测试集中与织机待修复数据相关联的的样本信息,对比目标输出结果与对应织机真实参数的偏差,在所述目标输出结果与所述对应织机真实参数的偏差在预设范围内的情况下,结束所述基于XGBoost决策法的织机缺失数据修复模型的训练。
9.根据权利要求1所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,在所述S110之后还包括:
S112:对修复后的数据进行可靠性验证。
10.根据权利要求9所述的基于概率分布和XGBoost决策算法的织机异常数据处理方法,其特征在于,所述S112具体为:
S1121:采用平均绝对误差指标MAE、均方根误差指标RMSE和拟合系数指标R2对修复后的数据进行可靠性验证:
其中,yi表示所述测试集中测试样本的实际值,表示所述测试样本的预测值,/>表示所述测试样本的均值,MAE、RMSE和R2值的范围为[0,1],MAE和RMSE的值越小,说明修复结果与真实值越接近,R2的值越接近于1,说明所述基于XGBoost决策法的织机缺失数据修复模型对织机缺失数据的修复准确度越高。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310345641.XA CN116467653A (zh) | 2023-04-03 | 2023-04-03 | 一种基于概率分布和XGBoost决策算法的织机异常数据处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310345641.XA CN116467653A (zh) | 2023-04-03 | 2023-04-03 | 一种基于概率分布和XGBoost决策算法的织机异常数据处理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116467653A true CN116467653A (zh) | 2023-07-21 |
Family
ID=87179931
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310345641.XA Pending CN116467653A (zh) | 2023-04-03 | 2023-04-03 | 一种基于概率分布和XGBoost决策算法的织机异常数据处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116467653A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116939531A (zh) * | 2023-09-13 | 2023-10-24 | 广州迪奕科环保科技有限公司 | 一种污水处理监控方法及*** |
CN117273554A (zh) * | 2023-11-23 | 2023-12-22 | 江苏洁瑞雅纺织品有限公司 | 一种基于数据识别的纺织品生产质量预测方法 |
-
2023
- 2023-04-03 CN CN202310345641.XA patent/CN116467653A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116939531A (zh) * | 2023-09-13 | 2023-10-24 | 广州迪奕科环保科技有限公司 | 一种污水处理监控方法及*** |
CN116939531B (zh) * | 2023-09-13 | 2024-01-19 | 广州迪奕科环保科技有限公司 | 一种污水处理监控方法及*** |
CN117273554A (zh) * | 2023-11-23 | 2023-12-22 | 江苏洁瑞雅纺织品有限公司 | 一种基于数据识别的纺织品生产质量预测方法 |
CN117273554B (zh) * | 2023-11-23 | 2024-04-19 | 江苏洁瑞雅纺织品有限公司 | 一种基于数据识别的纺织品生产质量预测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116467653A (zh) | 一种基于概率分布和XGBoost决策算法的织机异常数据处理方法 | |
CN111275288A (zh) | 基于XGBoost的多维数据异常检测方法与装置 | |
CN110685868A (zh) | 一种基于改进梯度提升机的风电机组故障检测方法及装置 | |
CN112529341B (zh) | 一种基于朴素贝叶斯算法的钻井漏失机率预测方法 | |
CN112181706B (zh) | 一种基于对数区间隔离的电力调度数据异常检测方法 | |
CN114492533A (zh) | 一种变工况轴承故障诊断模型的构建方法及应用 | |
CN115878603A (zh) | 基于k近邻算法与gan网络的水质缺失数据插补算法 | |
CN115235766A (zh) | 一种基于IWOA改进LightGBM的风机主轴轴承故障诊断方法 | |
CN115828466A (zh) | 一种基于宽核卷积的风机主轴部件故障预测方法 | |
CN112749840A (zh) | 一种火电机组能效特征指标基准值的获取方法 | |
Dong et al. | Real-time detection of wind power abnormal data based on semi-supervised learning Robust Random Cut Forest | |
CN113359435B (zh) | 用于火电机组动态工况数据的修正方法 | |
CN115438897A (zh) | 一种基于blstm神经网络的工业过程产品质量预测方法 | |
CN114330915A (zh) | 一种短期风电功率组合模型预测方法 | |
CN111623905B (zh) | 风电机组轴承温度预警方法及装置 | |
CN116882292A (zh) | 一种基于LightGBM与异常检测算法的井漏溢流预警方法 | |
CN116821828A (zh) | 一种基于工业数据的多维时序预测方法 | |
CN111507374A (zh) | 一种基于随机矩阵理论的电网海量数据异常检测方法 | |
CN116277821A (zh) | 一种注塑机注射成形过程异常的监控方法及设备 | |
CN116244596A (zh) | 基于tcn和注意力机制的工业时序数据异常检测方法 | |
CN112286169B (zh) | 一种工业机器人故障检测方法 | |
CN111625525B (zh) | 一种环境数据修复/填充方法及*** | |
CN114017049A (zh) | 一种基于Multi-Agent理论的盾构掘进装备核心部件协同设计制造方法 | |
CN113551904A (zh) | 基于层次机器学习的齿轮箱多类型并发故障诊断方法 | |
CN114662622B (zh) | 一种基于小样本数据的phm端到端***的实现方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |