CN106685750A - ***异常检测方法和装置 - Google Patents
***异常检测方法和装置 Download PDFInfo
- Publication number
- CN106685750A CN106685750A CN201510765610.5A CN201510765610A CN106685750A CN 106685750 A CN106685750 A CN 106685750A CN 201510765610 A CN201510765610 A CN 201510765610A CN 106685750 A CN106685750 A CN 106685750A
- Authority
- CN
- China
- Prior art keywords
- kpi
- sequences
- data
- point
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0823—Errors, e.g. transmission errors
- H04L43/0829—Packet loss
Landscapes
- Engineering & Computer Science (AREA)
- Environmental & Geological Engineering (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明提供一种***异常检测方法和装置,该方法包括:获取业务***的KPI序列;对所述KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列;对所述第一KPI序列是否具有周期性进行评估处理,并且对所述第二KPI序列是否具有趋势性进行评估处理;根据评估结果,对所述KPI序列进行异常检测。本发明的方法可以准确的检测出KPI异常,检测效率高。
Description
技术领域
本发明涉及检测技术,尤其涉及一种***异常检测方法和装置。
背景技术
现代通信网络极其庞大复杂,在日常运行和维护中,运营商通过获取关键性能指标(Key Performance Indicator,简称KPI)、关键质量指标(Key Quality Indicator,简称KQI)、故障管理(Fault Management,简称FM)数据等若干网络统计指标来监控网络的运行状况。
目前,主要通过检测业务的KPI来判断网络是否发生异常现象,通常将网络分为区域级和小区级进行KPI异常检测,区域级的KPI通常具有较平稳的周期性波动规律,KPI异常容易检测,而小区级中由于业务量较小、话单样本数少等原因,KPI通常会存在随机的抖动,而且,小区级的KPI数量通常是海量级的,因此,实现小区级KPI异常检测比较困难。现有技术中也存在一些小区级的KPI异常检测方法,例如,名称为《一种在云端的高音喇叭长期异常检测技术(A Novel Technique for Long-Term Anomaly Detection in the CloudTweeter)》的文献提出来的一种异常检测算法,用以检测社交网络中的异常事件,例如,检测照片上传数量的异常等。该异常检测算法的核心方法是混合季节性的极端学生化偏差(Seasonal Hybrid ESD,简称S-H-ESD,其中,ESD为极端学生化偏差(Extreme StudentizedDeviate,简称ESD)),该方法的步骤具体如下:
步骤1:采用基于Loess的季节效应时间序列分级算法(Seasonal Decompositionof Time Series by Loess,简称STL)算法将获取到的KPI序列分解为三个序列:包含周期信息的序列,包含趋势信息的序列,包含剩余信息的序列。
步骤2:从KPI序列中去除包含周期信息的序列,并将去除包含周期信息的序列的KPI序列中的中位数去除。
步骤3:采用ESD检验方法对步骤2最终获得的KPI序列进行异常检测,具体为用步骤2最终获得的KPI序列的中位数来代替ESD检验公式中的均值,用步骤2最终获得的KPI序列的中位绝对偏差(MAD)来代替ESD检验公式中的标准差,从而计算出KPI的标准分数(z-score)。
步骤4:根据KPI的标准分数z-score对异常检测结果进行后过滤,输出异常检测结果,对异常检测结果中的异常的KPI进行研究,从而获取网络的运行状况。
经过试验验证,现有技术中通过减去周期信息序列的KPI异常检测方法,无法准确的检测到异常的KPI,甚至会出现无法检测到异常的KPI的现象,因此,导致KPI异常检测的准确率和效率很低。
发明内容
本发明提供一种***异常检测方法和装置,可以准确的检测出***中的KPI异常,检测效率高。
第一方面,本发明实施例提供一种***异常检测方法,包括:获取业务***的KPI序列;对所述KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列;对所述第一KPI序列是否具有周期性进行评估处理,并且对所述第二KPI序列是否具有趋势性进行评估处理;根据评估结果,对所述KPI序列进行异常检测。本实施例中,对分解获得的包含周期信息的周期序列进行周期性评估,对包含趋势信息的趋势序列进行趋势性评估,根据KPI序列的周期性和趋势性分多种情况,具有针对性的采用不同的方法对不同情况下的KPI序列进行检测,可以准确的检测出KPI异常,检测效率高。
结合第一方面,在第一方面的第一种可能实现方式中,所述根据评估结果,对所述KPI序列进行异常检测,包括:若所述第一KPI序列没有周期性且所述第二KPI序列没有趋势性,则对所述KPI序列的全部数据建立数据分布进行单点异常检测;若所述第一KPI序列有周期性且所述第二KPI序列没有趋势性,则对所述KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测;若所述第一KPI序列没有周期性且所述第二KPI序列有趋势性,则对所述KPI序列的全部数据建立***点检测,然后进行时段异常检测并从所述KPI序列删除掉所述异常点,再进行单点异常检测;若所述第一KPI序列有周期性且所述第二KPI序列有趋势性,则对所述第二KPI序列进行***点检测,然后进行时段异常检测并从所述KPI序列中删除所述异常点,再进行单点异常检测。本实施例中,根据KPI序列的周期性和趋势性分四种情况,针对每种情况的采用不同的方法进行异常检测,可以准确的检测出KPI异常,检测效率高。
结合第一方面的第一种可能实现方式,在第一方面的第二种可能实现方式中,若所述第一KPI序列没有周期性且所述第二KPI序列没有趋势性,则对所述KPI序列的全部数据建立数据分布进行单点异常检测,包括:根据所述KPI序列的全部数据计算所述KPI序列的截尾均值和所述KPI序列的标准差;根据所述截尾均值和所述标准差计算所述KPI序列中每个数据的标准分数z-score;将所述z-score大于第一预设阈值或所述z-score小于第二预设阈值的数据标记为异常数据,得到包括所述异常数据的第三KPI序列;对所述第三KPI序列进行异常结果后过滤,并输出异常检测结果。本实施例的方法,KPI在不同时刻的方差差异较小,同时也没有趋势效应,所以可以统一地用所有的数据,计算KPI序列中每个数据的z-score根据z-score判断每个点的KPI异常程度,方法简单,检测效率高。
结合第一方面的第一种可能实现方式,在第一方面的第三种可能实现方式中,若所述第一KPI序列有周期性且所述第二KPI序列没有趋势性,则对所述KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,包括:根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据所述截尾均值和所述标准差计算所述相同时刻KPI的标准分数z-score;将所述z-score大于第一预设阈值或所述z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第四KPI序列;对所述第四KPI序列进行异常结果后过滤,并输出异常检测结果。本实施例的方法,KPI在不同时刻可能出现不同的方差,因此,根据KPI序列各周期中的同一时刻的数据计算z-score,不论计算哪一个周期中统一时刻的z-score,其标准差均是相同的,从而避免了不同时刻的方差差异造成的KPI异常检测不准确的问题。
结合第一方面的第一种可能实现方式,在第一方面的第四种可能实现方式中,若所述第一KPI序列没有周期性且所述第二KPI序列有趋势性,则对所述KPI序列的全部数据建立***点检测,然后进行时段异常检测并从所述KPI序列中删除掉所述异常点,再进行单点异常检测,包括:根据变化点检测算法从所述KPI序列中确定***点,将所述KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对所述每个KPI子序列的p-value进行多重比较校正,获得所述每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与所述adj.p-value大于预设阈值的KPI子序列标记为第一异常KPI序列;从所述KPI序列中减去所述第一异常KPI序列,获得第五KPI序列;对所述第五KPI序列的全部数据建立数据分布进行单点异常检测,获得第二异常KPI序列;对所述第一异常KPI序列和所述第二异常KPI序列异常结果后过滤,并输出异常检测结果。本实施例的方法,用PELT对KPI序列进行change points检测,寻找KPI序列发生趋势变化的点,从而检测时段异常;同时对剩余的序列用第一种方案中的方法,进行单点异常检测,可以准确的检测出发生异常的KPI,保证的异常检测的准确性。
结合第一方面的第一种可能实现方式,在第一方面的第五种可能实现方式中,若所述第一KPI序列有周期性且所述第二KPI序列有趋势性,则对所述第二KPI序列进行***点检测,然后进行时段异常检测并从所述KPI序列中删除所述异常点,再进行单点异常检测,包括:根据变化点检测算法从所述第二KPI序列中确定***点,将所述第二KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对所述每个KPI子序列的p-value进行多重比较校正,获得所述每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与所述adj.p-value大于预设阈值的KPI子序列标记为第三异常KPI序列;从所述KPI序列中减去所述第三异常KPI序列,获得第六KPI序列;对所述第六KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,获取第四异常KPI序列;对所述第三异常KPI序列和所述第四异常KPI序列异常结果后过滤,并输出异常检测结果。本实施例的方法,用PELT算法对KPI序列分解后的趋势序列(T)进行change points检测,寻找KPI序列发生趋势变化的点,用于检测时段异常,可以有效去除周期效应的干扰;同时对剩余的序列用第二种方案中的方法,进行单点异常检测,不仅保证了异常检测的准确性,也提高了异常检测的效率。
结合第一方面的第一种至第五种中的任一种可能实现方式,在第一方面的第六种可能实现方式中,所述对所述第一KPI序列是否具有周期性进行评估处理,包括:根据公式计算所述第一KPI序列的周期值Effects;其中,Var(S)为所述第一KPI序列的方差,Var(KPI)为所述KPI序列的方差;若所述第一KPI序列的周期值Effects大于预设周期阈值,则所述第一KPI序列具有周期性。
结合第一方面的第一种至第六种中的任一种可能实现方式,在第一方面的第七种可能实现方式中,所述对所述第二KPI序列是否具有趋势性进行评估处理,包括:根据公式计算所述第二KPI序列的趋势值EffectT;其中,为Var(T)所述第二KPI序列的方差,Var(KPI)为所述KPI序列的方差;若所述第二KPI序列的趋势值EffectT大于预设趋势阈值,则所述第二KPI序列具有趋势性。
结合第一方面的第一种至第七种中的任一种可能实现方式,在第一方面的第八种可能实现方式中,所述获取业务***的KPI序列,包括:在业务***上进行业务数据采集;根据业务规则对所采集的业务数据进行KPI计算,得到原始KPI序列;对所述原始KPI序列进行预处理,得到所述KPI序列,所述预处理包括对极端离群的数据点处理和对缺失数据的处理。
结合第一方面的第八种可能实现方式,在第一方面的第九种可能实现方式中,所述对极端离群的数据点处理,包括:根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据所述截尾均值和所述标准差计算所述相同时刻KPI的标准分数z-score;判断所述z-score的绝对值是否大于第三预设阈值,若是,则将所述z-score对应的数据标记为异常数据进行输出,并将所述异常数据设置为缺失数据,返回执行根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差的步骤;若否,则输出所述z-score对应的数据。本实施例的方法,对一个周期内不同的时刻单独进行极端值检测,避免了不同时刻的KPI之间存在方差差异,造成异常检测不准确的问题。
结合第一方面的第八种或第九种可能实现方式,在第一方面的第十种可能实现方式中,所述对缺失数据的处理,包括:根据公式计算所述KPI序列的加权平均值hat(xi);其中,xi和xi+kt为所述KPI序列中不同周期同一时刻的数据,wk为所述KPI序列中的数据对应的权重,t为所述KPI序列的周期,k为大于等于1的正整数;采用所述KPI序列的加权平均值hat(xi)代替所述KPI序列中的缺失数据。
第二方面,本发明实施例提供一种***异常检测装置,包括:获取模块,用于获取业务***的KPI序列;分解模块,用于对所述KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列;评估模块,用于对所述第一KPI序列是否具有周期性进行评估处理,并且对所述第二KPI序列是否具有趋势性进行评估处理;检测模块,用于根据评估结果,对所述KPI序列进行异常检测。
结合第二方面,在第二方面的第一种可能实现方式中,若所述评估模块确定所述第一KPI序列没有周期性且所述第二KPI序列没有趋势性,则所述检测模块对所述KPI序列的全部数据建立数据分布进行单点异常检测;
若所述评估模块确定所述第一KPI序列有周期性且所述第二KPI序列没有趋势性,则所述检测模块对所述KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测;
若所述评估模块确定所述第一KPI序列没有周期性且所述第二KPI序列有趋势性,则所述检测模块对所述KPI序列的全部数据建立***点检测,然后进行时段异常检测并从所述KPI序列删除掉所述异常点,再进行单点异常检测;
若所述评估模块确定所述第一KPI序列有周期性且所述第二KPI序列有趋势性,则所述检测模块对所述第二KPI序列进行***点检测,然后进行时段异常检测并从所述KPI序列中删除所述异常点,再进行单点异常检测。
结合第二方面的第一种可能实现方式,在第二方面的第二种可能实现方式中,若所述评估模块确定所述第一KPI序列没有周期性且所述第二KPI序列没有趋势性,则所述检测模块对所述KPI序列的全部数据建立数据分布进行单点异常检测,包括:所述检测模块根据所述KPI序列的全部数据计算所述KPI序列的截尾均值和所述KPI序列的标准差;根据所述截尾均值和所述标准差计算所述KPI序列中每个数据的标准分数z-score;将所述z-score大于第一预设阈值或所述z-score小于第二预设阈值的数据标记为异常数据,得到包括所述异常数据的第三KPI序列;对所述第三KPI序列进行异常结果后过滤,并输出异常检测结果。
结合第二方面的第一种可能实现方式,在第二方面的第三种可能实现方式中,若所述评估模块确定所述第一KPI序列有周期性且所述第二KPI序列没有趋势性,则所述检测模块对所述KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,包括:所述检测模块根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据所述截尾均值和所述标准差计算所述相同时刻KPI的标准分数z-score;将所述z-score大于第一预设阈值或所述z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第四KPI序列;对所述第四KPI序列进行异常结果后过滤,并输出异常检测结果。
结合第二方面的第一种可能实现方式,在第二方面的第四种可能实现方式中,若所述评估模块确定所述第一KPI序列没有周期性且所述第二KPI序列有趋势性,则所述检测模块对所述KPI序列的全部数据建立***点检测,然后进行时段异常检测并从所述KPI序列删除掉所述异常点,再进行单点异常检测,包括:所述检测模块根据变化点检测算法从所述KPI序列中确定***点,将所述KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对所述每个KPI子序列的p-value进行多重比较校正,获得所述每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与所述adj.p-value大于预设阈值的KPI子序列标记为第一异常KPI序列;从所述KPI序列中减去所述第一异常KPI序列,获得第五KPI序列;对所述第五KPI序列的全部数据建立数据分布进行单点异常检测,获得第二异常KPI序列;对所述第一异常KPI序列和所述第二异常KPI序列异常结果后过滤,并输出异常检测结果。
结合第二方面的第一种可能实现方式,在第二方面的第五种可能实现方式中,若所述评估模块确定所述第一KPI序列有周期性且所述第二KPI序列有趋势性,则所述检测模块对所述第二KPI序列进行***点检测,然后进行时段异常检测并从所述KPI序列中删除所述异常点,再进行单点异常检测,包括:所述检测模块根据变化点检测算法从所述第二KPI序列中确定***点,将所述第二KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对所述每个KPI子序列的p-value进行多重比较校正,获得所述每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与所述adj.p-value大于预设阈值的KPI子序列标记为第三异常KPI序列;从所述KPI序列中减去所述第三异常KPI序列,获得第六KPI序列;对所述第六KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,获取第四异常KPI序列;对所述第三异常KPI序列和所述第四异常KPI序列异常结果后过滤,并输出异常检测结果。
结合第二方面的第一种至第五种中的任一种可能实现方式,在第二方面的第六种可能实现方式中,所述评估模快对所述第一KPI序列是否具有周期性进行评估处理,包括:所述评估模快根据公式计算所述第一KPI序列的周期值Effects;其中,Var(S)为所述第一KPI序列的方差,Var(KPI)为所述KPI序列的方差;若所述第一KPI序列的周期值Effects大于预设周期阈值,则所述第一KPI序列具有周期性。
结合第二方面的第一种至第六种中的任一种可能实现方式,在第二方面的第七种可能实现方式中,所述评估模块对所述第二KPI序列是否具有趋势性进行评估处理,包括:所述评估模块根据公式计算所述第二KPI序列的趋势值EffectT;其中,为Var(T)所述第二KPI序列的方差,Var(KPI)为所述KPI序列的方差;若所述第二KPI序列的趋势值EffectT大于预设趋势阈值,则所述第二KPI序列具有趋势性。
结合第二方面的第一种至第七种中的任一种可能实现方式,在第二方面的第八种可能实现方式中,所述获取模块具体用于在业务***上进行业务数据采集;根据业务规则对所采集的业务数据进行KPI计算,得到原始KPI序列;对所述原始KPI序列进行预处理,得到所述KPI序列,所述预处理包括对极端离群的数据点处理和对缺失数据的处理。
结合第二方面的第八种可能实现方式,在第二方面的第九种可能实现方式中,所述获取模块对极端离群的数据点处理,包括:所述获取模块根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据所述截尾均值和所述标准差计算所述相同时刻KPI的标准分数z-score;判断所述z-score的绝对值是否大于第三预设阈值,若是,则将所述z-score对应的数据标记为异常数据进行输出,并将所述异常数据设置为缺失数据,返回执行根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差的步骤;若否,则输出所述z-score对应的数据。
结合第二方面的第八种或第九种可能实现方式,在第二方面的第十种可能实现方式中,所述获取模块对缺失数据的处理,包括:所述获取模块根据公式计算所述KPI序列的加权平均值hat(xi);其中,xi和xi+kt为所述KPI序列中不同周期同一时刻的数据,wk为所述KPI序列中的数据对应的权重,t为所述KPI序列的周期,k为大于等于1的正整数;采用所述KPI序列的加权平均值hat(xi)代替所述KPI序列中的缺失数据。
第二方面提供的***异常检测装置,可用于执行第一方面的***异常检测方法,装置的每种实现方式的实现原理和有益效果与对应方法的实现方式和有益效果类似,此处不再赘述。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1本发明实施例提供的***异常检测方法的应用场景示意图;
图2为本发明实施例一提供的***异常检测方法的流程图;
图3为KPI序列的分解示意图;
图4为本发明实施例二提供的***异常检测方法的流程图;
图5为本发明实施例三提供的***异常检测方法的流程图;
图6为本发明实施例四提供的***异常检测方法的流程图;
图7为本发明实施例五提供的***异常检测方法的流程图;
图8为本发明实施例六提供的***异常检测方法的流程图;
图9为极端离群的数据点处理方法流程图;
图10为本发明实施例七提供的***异常检测装置的结构示意图;
图11为本发明实施例八提供的服务器的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或器的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或器,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或器。
图1本发明实施例提供的***异常检测方法的应用场景示意图。如图1所示,该场景包括服务器1、基站2、基站3、终端4、终端5、终端6、终端7。基站2和基站3为小区中的终端进行通信,为用户提供业务服务,服务器1从基站2和基站3采集业务数据,根据业务规则计算业务数据的KPI,例如,计算数据流中的丢包率的KPI、通话质量的KPI等,对每个小区的业务数据的KPI进行异常检测,从而判断网络运行状况,及时的对异常点进行维护。
下面以具体地实施例对本发明的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
图2为本发明实施例一提供的***异常检测方法的流程图。本实施例的执行主体为服务器,具体可以为移动、电信等运营商服务器,如图2所示,该方法包括以下步骤:
步骤101、获取业务***的KPI序列。
在本实施例中,服务器在通信设备上进行业务数据的采集,并根据业务规则获取业务数据的KPI,例如,通过基站采集业务数据,获取每个时刻的业务数据的丢包率对应的KPI,形成KPI序列。KPI序列是一个时间序列,时间粒度可以根据业务需要来定义,例如,以分钟、小时等时间粒度来获取KPI序列
步骤102、对KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列。
在本实施例中,在实际业务中,KPI异常包含两种形式:一种是单点的异常,比如某天07:00的KPI突然变差,之后又恢复正常;一种是时段的异常,即一段时间内KPI都比较差。根据这种异常特征,可以用STL算法来实现KPI序列的分解,图3为KPI序列的分解示意图,如图3所示,可以将KPI序列分解为三个时间序列的和:只包含周期信息的周期序列S,即第一KPI序列,只包含趋势信息的趋势序列T,即第二KPI序列,以及包含剩余残差信息的序列R。
步骤103、对第一KPI序列是否具有周期性进行评估处理,并且对第二KPI序列是否具有趋势性进行评估处理。
在本实施例中,由于不同的KPI指标有不同的分布情况,有些KPI序列有很强的周期性,而有些KPI序列则没有。趋势性是指长期来看KPI序列是否呈现出上升/下降等状态。由于在网络中KPI的指标一般都在某个水平上波动,当KPI出现了这种趋势效应时,可能意味着发生了一个时段的异常。可以通过计算周期序列S的方差与KPI序列的方差的比值来评估周期性的程度,通过计算趋势序列T的方差与KPI序列的方差的比值来评估趋势性的程度。
步骤104、根据评估结果,对KPI序列进行异常检测。
在本实施例中,格局评估结果,采用不同的方法对不同情况下的KPI序列进行异常检测,例如,当KPI序列具有周期性、没有趋势性时,KPI在不同时刻可能出现不同的方差,因此,各级根据KPI序列的不同周期的同一时刻的数据来计算该时刻的标准分数(z-score),根据z-score判断该时刻的KPI是否异常。当KPI序列具有趋势性和周期性时,则需要对KPI分解后的包含趋势信息的序列进行***点检测,然后进行时段异常检测;然后删除掉这些异常点,再进行单点异常检测。
现有技术中,进行KPI异常检测时,仅是将KPI序列中包含周期信息的序列去除,根据剩余KPI序列中的数据计算z-score,并根据z-score判断某一时刻的KPI是否异常,经过试验证明,该方法检测到的KPI异常并不准确,而且,很多情况无法检测到KPI异常,导致KPI异常检测的准确率和效率很低。本实施例中,对分解获得的包含周期信息的周期序列进行周期性评估,对包含趋势信息的趋势序列进行趋势性评估,根据KPI序列的周期性和趋势性分多种情况,具有针对性的采用不同的方法对不同情况下的KPI序列进行检测,可以准确的检测出KPI异常,检测效率高。
本实施例提供的***异常检测方法,服务器获取业务***的KPI序列,对KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列,对第一KPI序列是否具有周期性进行评估处理,并且对第二KPI序列是否具有趋势性进行评估处理,根据评估结果,对KPI序列进行异常检测。由于对分解获得的包含周期信息的周期序列进行周期性评估,对包含趋势信息的趋势序列进行趋势性评估,根据KPI序列的周期性和趋势性分多种情况,具有针对性的采用不同的方法对不同情况下的KPI序列进行检测,可以准确的检测出KPI异常的点,检测效率高。
可选地,在图2所示实施例中,根据评估结果,对KPI序列进行异常检测,可以包括以下四种方案:
第一种方案:若第一KPI序列没有周期性且第二KPI序列没有趋势性,则对KPI序列的全部数据建立数据分布进行单点异常检测。
在本实施例中,对于这种类型的KPI序列,没有周期效应,KPI在不同时刻的方差差异较小,同时也没有趋势效应,所以可以统一地用所有的数据,构建一个分布,根据这个分布来计算每个点的KPI异常程度。
第二种方案:若第一KPI序列有周期性且第二KPI序列没有趋势性,则对KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测。
在本实施例中,对于这种类型的KPI序列,由于存在周期效应,KPI在不同时刻可能出现不同的方差,所以需要针对一个周期内的不同时刻单独进行异常检测,例如,检测某天07:00的KPI是否异常时,可以用30天的所有07:00时刻的数据计算trimmed均值和标准差,来进行异常检测。
第三种方案:若第一KPI序列没有周期性且第二KPI序列有趋势性,则对KPI序列的全部数据建立***点检测,然后进行时段异常检测并从KPI序列删除掉异常点,再进行单点异常检测。
在本实施例中,这种类型的KPI可能包含时段异常和单点异常。由于只存在趋势效应,我们用一个变化点(change points)检测算法修剪的精确线性时间***点检测算法(Pruned Exact Linear Time,简称PELT)对KPI序列进行change points检测,寻找KPI序列发生趋势变化的点,用于检测时段异常;同时对剩余的序列(去除上述异常点后的KPI序列),用第一种方案中的方法,进行单点异常检测。
第四种方案:若第一KPI序列有周期性且第二KPI序列有趋势性,则对第二KPI序列进行***点检测,然后进行时段异常检测并从KPI序列中删除异常点,再进行单点异常检测。
在本实施例中,这种类型的KPI可能包含时段异常和单点异常。由于存在趋势效应和周期效应,我们用一个change points检测算法PELT对KPI序列分解后的趋势序列(T)进行change points检测,寻找KPI序列发生趋势变化的点,用于检测时段异常。该方法的好处是可以去除周期效应的干扰;同时对剩余的序列(去除上述异常点后的KPI序列),用第二种方案中的方法,进行单点异常检测。
下面针对这四种情况分别详细描述本实施例的方案。
图4为本发明实施例二提供的***异常检测方法的流程图。本实施例涉及的上述第一种方案,即若第一KPI序列没有周期性且第二KPI序列没有趋势性,则对KPI序列的全部数据建立数据分布进行单点异常检测的具体实现方式。如图4所示,该方法包括以下步骤:
步骤201、根据KPI序列的全部数据计算KPI序列的截尾均值和KPI序列的标准差。
在本实施例中,截尾(trimmed)均值是指按时间顺序删除KPI序列的全部数据中部分最大值和最小值后,用剩余数据计算的平均值,例如,删除KPI序列的全部数据中的5%的最大值和5%的最小值,用剩余的数据计算平均值,该平均值即为trimmed均值;标准差也是用KPI序列的全部的数据来计算。
步骤202、根据截尾均值和标准差计算KPI序列中每个数据的z-score。
在本实施例中,根据公式来计算z-score,其中,xn为KPI序列中的数据。
步骤203、将z-score大于第一预设阈值或z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第三KPI序列。
在本实施例中,第一预设阈值和第二预设阈值可以根据实际需求来设置,例如,可以将第一预设阈值设置为4.5、5,将第二预设阈值设置为-4.5、-5等,若该数据的z-score大于4.5或者小于-4.5,则被标记为异常数据
步骤204、对第三KPI序列进行异常结果后过滤,并输出异常检测结果。
在本实施例中,异常结果后过滤是指根据业务要求而设置筛选条件,通过筛选的才算为异常,用于对异常检测结果的后过滤,例如,若帅选条件为丢包率大于5%,则对第三KPI序列中数据的丢包率进行判断,若数据的丢包率大于5%,则将该数据输出,否则,将该数据滤除,则异常检测结果中包括第三KPI序列中丢包率大于5%的数据。本实施例中的筛选条件还可以是其它的限制条件,本领域技术人员可以根据实际情况来设置,本发明中不加以限制。
本实施例提供的***异常检测方法,由于第一KPI序列没有周期性且第二KPI序列没有趋势性,KPI在不同时刻的方差差异较小,同时也没有趋势效应,所以可以统一地用所有的数据,计算KPI序列中每个数据的z-score根据z-score判断每个点的KPI异常程度,方法简单,检测效率高。
图5为本发明实施例三提供的***异常检测方法的流程图。本实施例涉及的上述第二种方案,即若第一KPI序列有周期性且第二KPI序列没有趋势性,则对KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测的具体实现方式。如图5所示,该方法包括以下步骤:
步骤301、根据KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差。
步骤302、根据截尾均值和标准差计算相同时刻KPI的标准分数z-score。
步骤303、将z-score大于第一预设阈值或z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第四KPI序列。
步骤304、对第四KPI序列进行异常结果后过滤,并输出异常检测结果。
本实施例提供的***异常检测方法与图4所示实施例的方法不同的是,本实施例的输入序列为KPI序列各周期中的同一时刻的数据,可以用{xi,xi+t,xi+2t,…,xi+kt}表示KPI序列各周期中同一个时刻一个子序列,t表示周期,k=1,2,3,…;例如,KPI序列包括30天的数据,周期t为24小时,若需要检测某一天07:00的KPI是否异常,则可以将这30天中每天07:00的数据构成输入序列,计算该时刻的z-score,从而判断该点的KPI是否异常。本实施例中其它步骤的方法实现原理与图4所示实施例的方法实现原理类似,此处不再赘述。
本实施例提供的***异常检测方法,由于第一KPI序列有周期性且第二KPI序列没有趋势性,存在周期效应,KPI在不同时刻可能出现不同的方差,因此,根据KPI序列各周期中的同一时刻的数据计算z-score,不论计算哪一个周期中统一时刻的z-score,其标准差均是相同的,从而避免了不同时刻的方差差异造成的KPI异常检测不准确的问题。
图6为本发明实施例四提供的***异常检测方法的流程图。本实施例涉及的上述第三种方案,即第一KPI序列没有周期性且第二KPI序列有趋势性,则对KPI序列的全部数据建立***点检测,然后进行时段异常检测并从KPI序列删除掉异常点,再进行单点异常检测的具体实现方式。如图6所示,该方法包括以下步骤:
步骤401、根据变化点检测算法从KPI序列中确定***点,将KPI序列分为多个KPI子序列。
在本实施例中,变化点检测算法可以为PELT算法,从KPI序列的全部数据找到变化点(change points),也即***点,根据change points将KPI序列分为多个KPI子序列。例如,KPI序列包括某个月1号到30号的KPI数据,通过PELT算法检测出,1号-10号的KPI值均为10,11号到20的KPI值均为100,21号-30号的KPI值均为12,则可以将1号-10号的数据划分为一个KPI子序列,将11号到20的数据划分为一个KPI子序列,将21号-30号的数据划分为一个KPI子序列。
步骤402、将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value。
在本实施例中,可以将均值最大或者均值最小的KPI子序列标记为M序列,将M序列的均值与其他的KPI子序列的均值进行比较,获取每个KPI子序列的p值p-value。当预先定义的异常为均值越大越异常时,则选择均值最大的这些点为异常点。反之,如果预先定义均值越小越异常时,则选择均值最小的这些点为异常点。
步骤403、对每个KPI子序列的p-value进行多重比较校正,获得每个KPI子序列的校正p值adj.p-value。
步骤404、将均值最大或者均值最小的KPI子序列与adj.p-value大于预设阈值的KPI子序列标记为第一异常KPI序列。
在本实施例中,可以根据实际需求设置预设阈值,一般预设阈值可以为0.05,若adj.p-value大于0.05,则将该KPI子序列标记为异常KPI序列。可以将M序列和异常KPI序列标记为D1序列。
本实施例中,步骤401-步骤404为时段异常检测的过程。
步骤405、从KPI序列中减去第一异常KPI序列,获得第五KPI序列。
在本实施例中,从KPI序列中减去第一异常KPI序列相当于将第一异常KPI序列中的数据均设置为缺失数据。
步骤406、对第五KPI序列的全部数据建立数据分布进行单点异常检测,获得第二异常KPI序列。
在本实施例中,对第五KPI序列的全部数据建立数据分布进行单点异常检测的方法与图4所示实施例的方法相同,此处不再赘述。
步骤407、对第一异常KPI序列和第二异常KPI序列异常结果后过滤,并输出异常检测结果。
本实施例提供的***异常检测方法,当第一KPI序列没有周期性且第二KPI序列有趋势性时,这种类型的KPI可能包含时段异常和单点异常,由于只存在趋势效应,我们用PELT对KPI序列进行change points检测,寻找KPI序列发生趋势变化的点,从而检测时段异常;同时对剩余的序列用第一种方案中的方法,进行单点异常检测,不仅可以检测时段异常,还可以检测单点异常,可以准确的检测出发生异常的KPI,保证的异常检测的准确性。
图7为本发明实施例五提供的***异常检测方法的流程图。本实施例涉及的上述第四种方案,即第一KPI序列有周期性且第二KPI序列有趋势性,则对第二KPI序列进行***点检测,然后进行时段异常检测并从第KPI序列中删除异常点,再进行单点异常检测的具体实现方式。如图7所示,该方法包括以下步骤:
步骤501、根据变化点检测算法从第二KPI序列中确定***点,将第二KPI序列分为多个KPI子序列。
在本实施例中,与图6所示实施例的方法不同的是,本实施例中的输入数列为第二KPI序列。
步骤502、将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value。
步骤503、对每个KPI子序列的p-value进行多重比较校正,获得每个KPI子序列的校正p值adj.p-value。
步骤504、将均值最大或者均值最小的KPI子序列与adj.p-value大于预设阈值的KPI子序列标记为第三异常KPI序列;
步骤505、从KPI序列中减去第三异常KPI序列,获得第六KPI序列。
步骤506、对第六KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,获取第四异常KPI序列。
在本实施例中,对第六KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,获取第四异常KPI序列的方法和图5所示实施例中的方法相同,此处不再赘述。
步骤507、对第三异常KPI序列和第四异常KPI序列异常结果后过滤,并输出异常检测结果。
本实施例提供的***异常检测方法,当第一KPI序列有周期性且第二KPI序列有趋势性时,这种类型的KPI可能包含时段异常和单点异常。由于存在趋势效应和周期效应,我们用PELT算法对KPI序列分解后的趋势序列(T)进行change points检测,寻找KPI序列发生趋势变化的点,用于检测时段异常,可以有效去除周期效应的干扰;同时对剩余的序列用第二种方案中的方法,进行单点异常检测,不仅保证了异常检测的准确性,也提高了异常检测的效率。
图8为本发明实施例六提供的***异常检测方法的流程图。本实施例是在图2-图7所示实施例的基础上,对部分方法步骤细化,如图8所示,该方法包括以下步骤:
步骤601、在业务***上进行业务数据采集。
在本实施例中,服务器可以通过基站对业务***上业务数据进行采集。
步骤602、根据业务规则对所采集的业务数据进行KPI计算,得到原始KPI序列。
在本实施例中,业务规则可以为计算数据的丢包率对应的KPI,也可以为计算通话质量对应的KPI等。
步骤603、对原始KPI序列进行预处理,得到KPI序列,预处理包括对极端离群的数据点处理和对缺失数据的处理。
在本实施例中,极端离群的数据点是指严重偏离KPI正常分布的数据点,可以通过极端值来判断该数据点是否为极端离群的数据点。比如,在通常情况下,KPI只在0-10之间波动,而突然有一个时刻,KPI的取值为100,那么这个值就是一种极端值,该数据点即为极端离群的数据点。通常,可以用“偏离均值5倍标准差”的这个标准来界定极端值。同时,由于在通信***中存在闲时和忙时的问题,我们对一个周期内不同的时刻单独进行极端值检测,比如在判断某天07:00的数据是否是极端值时,只根据所有天07:00的数据来进行判断,从而避免了不同时刻的KPI之间存在方差差异,造成异常检测不准确的问题。图9为极端离群的数据点处理方法流程图,如图9所示,该方法包括以下步骤:
步骤6031、根据KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差。
步骤6032、根据截尾均值和标准差计算相同时刻KPI的标准分数z-score;
步骤6033、判断z-score的绝对值是否大于第三预设阈值,若是,则分别执行步骤6034,若否,则执行步骤6035。
步骤6034、将z-score对应的数据标记为异常数据进行输出,并将异常数据设置为缺失数据,返回执行步骤6031。
步骤6035、输出z-score对应的数据。
在本实施例中,缺失数据处理是指将KPI序列中包含的缺失数据补齐。缺失数据有两个来源,一种是原来就有的缺失,一种有由于极端离群的数据点处理产生的缺失。可以用每个周期的同一时刻的值的加权平均来估计缺失数据。对缺失数据的处理,包括:根据公式计算KPI序列的加权平均值hat(xi);采用KPI序列的加权平均值hat(xi)代替KPI序列中的缺失数据。其中,xi和xi+kt为KPI序列中不同周期同一时刻的数据,wk为KPI序列中的数据对应的权重,,其中权重随着相隔周期的增加而下降,t为KPI序列的周期,k为大于等于1的正整数。
步骤604、对KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列。
步骤605、根据公式计算第一KPI序列的周期值Effects。
其中,Var(S)为第一KPI序列的方差,Var(KPI)为KPI序列的方差。
步骤606、若第一KPI序列的周期值Effects大于预设周期阈值,则第一KPI序列具有周期性。
在本实施例中,预设周期阈值可以设置为0.5,但并不以此为限。
步骤607、根据公式计算第二KPI序列的趋势值EffectT。
其中,为Var(T)第二KPI序列的方差,Var(KPI)为KPI序列的方差。
步骤608、若第二KPI序列的趋势值EffectT大于预设趋势阈值,则第二KPI序列具有趋势性。
在本实施例中,预设趋势阈值可以设置为0.5,但并不以此为限。
步骤609、根据评估结果,对KPI序列进行异常检测。
本实施提供的***异常检测方法,适用于多个网络KPI的异常检测,相比于基于预测的异常检测算法和Seasonal Hybrid ESD算法,本发明的方法特异度和敏感度更高,并且,本发明实施例提出的***异常检测方法可以区分单点异常和时段异常,为业务上的应用提供了更准确的支撑。
本发明提供的***异常检测方法还可应用于其他方面的异常检测,比如用户的异常行为检测,还可用于生成业务告警,辅助网络运维。
图10为本发明实施例七提供的***异常检测装置的结构示意图。如图10所示,该装置包括获取模块11、分解模块12、评估模块13和检测模块14。获取模块11用于获取业务***的KPI序列;分解模块12用于对KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列;评估模块13用于对第一KPI序列是否具有周期性进行评估处理,并且对第二KPI序列是否具有趋势性进行评估处理;检测模块14用于根据评估结果,对KPI序列进行异常检测。
本实施例的装置,可用于执行图2所示方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
可选地,若评估模块13确定第一KPI序列没有周期性且第二KPI序列没有趋势性,则检测模块14对KPI序列的全部数据建立数据分布进行单点异常检测;若评估模块13确定第一KPI序列有周期性且第二KPI序列没有趋势性,则检测模块14对KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测;若评估模块13确定第一KPI序列没有周期性且第二KPI序列有趋势性,则检测模块14对KPI序列的全部数据建立***点检测,然后进行时段异常检测并从KPI序列删除掉异常点,再进行单点异常检测;若评估模块13确定第一KPI序列有周期性且第二KPI序列有趋势性,则检测模块14对第二KPI序列进行***点检测,然后进行时段异常检测并从KPI序列中删除异常点,再进行单点异常检测。
可选地,若评估模块13确定第一KPI序列没有周期性且第二KPI序列没有趋势性,则检测模块14对KPI序列的全部数据建立数据分布进行单点异常检测,包括:检测模块14根据KPI序列的全部数据计算KPI序列的截尾均值和KPI序列的标准差;根据截尾均值和标准差计算KPI序列中每个数据的标准分数z-score;将z-score大于第一预设阈值或z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第三KPI序列;对第三KPI序列进行异常结果后过滤,并输出异常检测结果。
可选地,若评估模块13确定第一KPI序列有周期性且第二KPI序列没有趋势性,则检测模块14对KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,包括:检测模块14根据KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据截尾均值和标准差计算相同时刻KPI的标准分数z-score;将z-score大于第一预设阈值或z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第四KPI序列;对第四KPI序列进行异常结果后过滤,并输出异常检测结果。
可选地,若评估模块13确定第一KPI序列没有周期性且第二KPI序列有趋势性,则检测模块14对KPI序列的全部数据建立***点检测,然后进行时段异常检测并从KPI序列删除掉异常点,再进行单点异常检测,包括:检测模块14根据变化点检测算法从KPI序列中确定***点,将KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对每个KPI子序列的p-value进行多重比较校正,获得每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与adj.p-value大于预设阈值的KPI子序列标记为第一异常KPI序列;从KPI序列中减去第一异常KPI序列,获得第五KPI序列;对第五KPI序列的全部数据建立数据分布进行单点异常检测,获得第二异常KPI序列;对第一异常KPI序列和第二异常KPI序列异常结果后过滤,并输出异常检测结果。
可选地,若评估模块13确定第一KPI序列有周期性且第二KPI序列有趋势性,则检测模块14对第二KPI序列进行***点检测,然后进行时段异常检测并从KPI序列中删除异常点,再进行单点异常检测,包括:检测模块14根据变化点检测算法从第二KPI序列中确定***点,将第二KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对每个KPI子序列的p-value进行多重比较校正,获得每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与adj.p-value大于预设阈值的KPI子序列标记为第三异常KPI序列;从KPI序列中减去第三异常KPI序列,获得第六KPI序列;对第六KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,获取第四异常KPI序列;对第三异常KPI序列和第四异常KPI序列异常结果后过滤,并输出异常检测结果。
可选地,评估模快对第一KPI序列是否具有周期性进行评估处理,包括:评估模快根据公式计算第一KPI序列的周期值Effects;其中,Var(S)为第一KPI序列的方差,Var(KPI)为KPI序列的方差;若第一KPI序列的周期值Effects大于预设周期阈值,则第一KPI序列具有周期性。
可选地,评估模块13对第二KPI序列是否具有趋势性进行评估处理,包括:评估模块13根据公式计算第二KPI序列的趋势值EffectT;其中,为Var(T)第二KPI序列的方差,Var(KPI)为KPI序列的方差;若第二KPI序列的趋势值EffectT大于预设趋势阈值,则第二KPI序列具有趋势性。
可选地,获取模块11具体用于在业务***上进行业务数据采集;根据业务规则对所采集的业务数据进行KPI计算,得到原始KPI序列;对原始KPI序列进行预处理,得到KPI序列,预处理包括对极端离群的数据点处理和对缺失数据的处理。
可选地,获取模块11对极端离群的数据点处理,包括:获取模块11根据KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据截尾均值和标准差计算相同时刻KPI的标准分数z-score;判断z-score的绝对值是否大于第三预设阈值,若是,则将z-score对应的数据标记为异常数据进行输出,并将异常数据设置为缺失数据,返回执行根据KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差的步骤;若否,则输出z-score对应的数据。
可选地,获取模块11对缺失数据的处理,包括:获取模块11根据公式计算KPI序列的加权平均值hat(xi);其中,xi和xi+kt为KPI序列中不同周期同一时刻的数据,wk为KPI序列中的数据对应的权重,t为KPI序列的周期,k为大于等于1的正整数;采用KPI序列的加权平均值hat(xi)代替KPI序列中的缺失数据。
本实施例的装置,可用于执行图2~图9所示任一方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图11为本发明实施例八提供的服务器的结构示意图。如图11所示,所述服务器包含一个或多个端口508,与收发器(transceiver)506相耦合。收发器506可以是发射器,接收器或其组合,从其他网络节点通过端口508发送或接收数据包。处理器502耦合到收发器506,用于处理数据包。处理器502可包含一个或多个多核处理器和/或存储器504。处理器502可以是一个通用处理器,专用集成电路(application specific integrated circuit,ASIC),或数字信号处理器(DSP)。
存储器504可为非瞬时性的存储介质,与处理器502相耦合,用于保存不同类型的数据。存储器504可包含只读存储器(read only memory,ROM),随机存取存储器(randomaccess memory,RAM)或者可存储信息和指令的其他类型的动态存储设备,也可以是磁盘存储器。存储器504可用于保存实现图2或图3所述相关方法的指令。
处理器502具体用于执行以下操作:获取业务***的KPI序列;对KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列;对第一KPI序列是否具有周期性进行评估处理,并且对第二KPI序列是否具有趋势性进行评估处理;根据评估结果,对KPI序列进行异常检测。
可选地,处理器502根据评估结果,对KPI序列进行异常检测,包括:若第一KPI序列没有周期性且第二KPI序列没有趋势性,则处理器502对KPI序列的全部数据建立数据分布进行单点异常检测;若第一KPI序列有周期性且第二KPI序列没有趋势性,则处理器502对KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测;若第一KPI序列没有周期性且第二KPI序列有趋势性,则处理器502对KPI序列的全部数据建立***点检测,然后进行时段异常检测并从KPI序列删除掉异常点,再进行单点异常检测;若第一KPI序列有周期性且第二KPI序列有趋势性,则处理器502对第二KPI序列进行***点检测,然后进行时段异常检测并从KPI序列中删除异常点,再进行单点异常检测。
可选地,若第一KPI序列没有周期性且第二KPI序列没有趋势性,则处理器502对KPI序列的全部数据建立数据分布进行单点异常检测,包括:处理器502根据KPI序列的全部数据计算KPI序列的截尾均值和KPI序列的标准差;根据截尾均值和标准差计算KPI序列中每个数据的标准分数z-score;将z-score大于第一预设阈值或z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第三KPI序列;对第三KPI序列进行异常结果后过滤,并输出异常检测结果。
可选地,若第一KPI序列有周期性且第二KPI序列没有趋势性,则处理器502对KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,包括:处理器502根据KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据截尾均值和标准差计算相同时刻KPI的标准分数z-score;将z-score大于第一预设阈值或z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第四KPI序列;对第四KPI序列进行异常结果后过滤,并输出异常检测结果。
可选地,若第一KPI序列没有周期性且第二KPI序列有趋势性,则处理器502对KPI序列的全部数据建立***点检测,然后进行时段异常检测并从KPI序列中删除掉异常点,再进行单点异常检测,包括:处理器502根据变化点检测算法从KPI序列中确定***点,将KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对每个KPI子序列的p-value进行多重比较校正,获得每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与adj.p-value大于预设阈值的KPI子序列标记为第一异常KPI序列;从KPI序列中减去第一异常KPI序列,获得第五KPI序列;对第五KPI序列的全部数据建立数据分布进行单点异常检测,获得第二异常KPI序列;对第一异常KPI序列和第二异常KPI序列异常结果后过滤,并输出异常检测结果。
可选地,若第一KPI序列有周期性且第二KPI序列有趋势性,则处理器502对第二KPI序列进行***点检测,然后进行时段异常检测并从KPI序列中删除异常点,再进行单点异常检测,包括:处理器502根据变化点检测算法从第二KPI序列中确定***点,将第二KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对每个KPI子序列的p-value进行多重比较校正,获得每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与adj.p-value大于预设阈值的KPI子序列标记为第三异常KPI序列;从KPI序列中减去第三异常KPI序列,获得第六KPI序列;对第六KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,获取第四异常KPI序列;对第三异常KPI序列和第四异常KPI序列异常结果后过滤,并输出异常检测结果。
可选地,处理器502对第一KPI序列是否具有周期性进行评估处理,包括:处理器502根据公式计算第一KPI序列的周期值Effects;其中,Var(S)为第一KPI序列的方差,Var(KPI)为KPI序列的方差;若第一KPI序列的周期值Effects大于预设周期阈值,则第一KPI序列具有周期性。
可选地,处理器502对第二KPI序列是否具有趋势性进行评估处理,包括:处理器502根据公式计算第二KPI序列的趋势值EffectT;其中,为Var(T)第二KPI序列的方差,Var(KPI)为KPI序列的方差;若第二KPI序列的趋势值EffectT大于预设趋势阈值,则第二KPI序列具有趋势性。
可选地,处理器502获取业务***的KPI序列,包括:处理器502在业务***上进行业务数据采集;根据业务规则对所采集的业务数据进行KPI计算,得到原始KPI序列;对原始KPI序列进行预处理,得到KPI序列,预处理包括对极端离群的数据点处理和对缺失数据的处理。
可选地,处理器502对极端离群的数据点处理,包括:处理器502根据KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据截尾均值和标准差计算相同时刻KPI的标准分数z-score;判断z-score的绝对值是否大于第三预设阈值,若是,则将z-score对应的数据标记为异常数据进行输出,并将异常数据设置为缺失数据,返回执行根据KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差的步骤;若否,则输出z-score对应的数据。
可选地,处理器502对缺失数据的处理,包括:处理器502根据公式计算KPI序列的加权平均值hat(xi);其中,xi和xi+kt为KPI序列中不同周期同一时刻的数据,wk为KPI序列中的数据对应的权重,t为KPI序列的周期,k为大于等于1的正整数;采用KPI序列的加权平均值hat(xi)代替KPI序列中的缺失数据。
本实施例的服务,可以用于执行图2-图9所示任一方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (22)
1.一种***异常检测方法,其特征在于,包括:
获取业务***的KPI序列;
对所述KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列;
对所述第一KPI序列是否具有周期性进行评估处理,并且对所述第二KPI序列是否具有趋势性进行评估处理;
根据评估结果,对所述KPI序列进行异常检测。
2.根据权利要求1所述的方法,其特征在于,所述根据评估结果,对所述KPI序列进行异常检测,包括:
若所述第一KPI序列没有周期性且所述第二KPI序列没有趋势性,则对所述KPI序列的全部数据建立数据分布进行单点异常检测;
若所述第一KPI序列有周期性且所述第二KPI序列没有趋势性,则对所述KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测;
若所述第一KPI序列没有周期性且所述第二KPI序列有趋势性,则对所述KPI序列的全部数据建立***点检测,然后进行时段异常检测并从所述KPI序列删除掉所述异常点,再进行单点异常检测;
若所述第一KPI序列有周期性且所述第二KPI序列有趋势性,则对所述第二KPI序列进行***点检测,然后进行时段异常检测并从所述KPI序列中删除所述异常点,再进行单点异常检测。
3.根据权利要求2所述的方法,其特征在于,若所述第一KPI序列没有周期性且所述第二KPI序列没有趋势性,则对所述KPI序列的全部数据建立数据分布进行单点异常检测,包括:
根据所述KPI序列的全部数据计算所述KPI序列的截尾均值和所述KPI序列的标准差;
根据所述截尾均值和所述标准差计算所述KPI序列中每个数据的标准分数z-score;
将所述z-score大于第一预设阈值或所述z-score小于第二预设阈值的数据标记为异常数据,得到包括所述异常数据的第三KPI序列;
对所述第三KPI序列进行异常结果后过滤,并输出异常检测结果。
4.根据权利要求2所述的方法,其特征在于,若所述第一KPI序列有周期性且所述第二KPI序列没有趋势性,则对所述KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,包括:
根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;
根据所述截尾均值和所述标准差计算所述相同时刻KPI的标准分数z-score;
将所述z-score大于第一预设阈值或所述z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第四KPI序列;
对所述第四KPI序列进行异常结果后过滤,并输出异常检测结果。
5.根据权利要求2所述的方法,其特征在于,若所述第一KPI序列没有周期性且所述第二KPI序列有趋势性,则对所述KPI序列的全部数据建立***点检测,然后进行时段异常检测并从所述KPI序列中删除掉所述异常点,再进行单点异常检测,包括:
根据变化点检测算法从所述KPI序列中确定***点,将所述KPI序列分为多个KPI子序列;
将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;
对所述每个KPI子序列的p-value进行多重比较校正,获得所述每个KPI子序列的校正p值adj.p-value;
将均值最大或者均值最小的KPI子序列与所述adj.p-value大于预设阈值的KPI子序列标记为第一异常KPI序列;
从所述KPI序列中减去所述第一异常KPI序列,获得第五KPI序列;
对所述第五KPI序列的全部数据建立数据分布进行单点异常检测,获得第二异常KPI序列;
对所述第一异常KPI序列和所述第二异常KPI序列异常结果后过滤,并输出异常检测结果。
6.根据权利要求2所述的方法,其特征在于,若所述第一KPI序列有周期性且所述第二KPI序列有趋势性,则对所述第二KPI序列进行***点检测,然后进行时段异常检测并从所述KPI序列中删除所述异常点,再进行单点异常检测,包括:
根据变化点检测算法从所述第二KPI序列中确定***点,将所述第二KPI序列分为多个KPI子序列;
将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;
对所述每个KPI子序列的p-value进行多重比较校正,获得所述每个KPI子序列的校正p值adj.p-value;
将均值最大或者均值最小的KPI子序列与所述adj.p-value大于预设阈值的KPI子序列标记为第三异常KPI序列;
从所述KPI序列中减去所述第三异常KPI序列,获得第六KPI序列;
对所述第六KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,获取第四异常KPI序列;
对所述第三异常KPI序列和所述第四异常KPI序列异常结果后过滤,并输出异常检测结果。
7.根据权利要求1~6任一项所述的方法,其特征在于,所述对所述第一KPI序列是否具有周期性进行评估处理,包括:
根据公式计算所述第一KPI序列的周期值Effects;其中,Var(S)为所述第一KPI序列的方差,Var(KPI)为所述KPI序列的方差;
若所述第一KPI序列的周期值Effects大于预设周期阈值,则所述第一KPI序列具有周期性。
8.根据权利要求1~7任一项所述的方法,其特征在于,所述对所述第二KPI序列是否具有趋势性进行评估处理,包括:
根据公式计算所述第二KPI序列的趋势值EffectT;其中,为Var(T)所述第二KPI序列的方差,Var(KPI)为所述KPI序列的方差;
若所述第二KPI序列的趋势值EffectT大于预设趋势阈值,则所述第二KPI序列具有趋势性。
9.根据权利要求1~8任一项所述的方法,其特征在于,所述获取业务***的KPI序列,包括:
在业务***上进行业务数据采集;
根据业务规则对所采集的业务数据进行KPI计算,得到原始KPI序列;
对所述原始KPI序列进行预处理,得到所述KPI序列,所述预处理包括对极端离群的数据点处理和对缺失数据的处理。
10.根据权利要求9所述的方法,其特征在于,所述对极端离群的数据点处理,包括:
根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;
根据所述截尾均值和所述标准差计算所述相同时刻KPI的标准分数z-score;
判断所述z-score的绝对值是否大于第三预设阈值,若是,则将所述z-score对应的数据标记为异常数据进行输出,并将所述异常数据设置为缺失数据,返回执行根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差的步骤;若否,则输出所述z-score对应的数据。
11.根据权利要求9或10所述的方法,其特征在于,所述对缺失数据的处理,包括:
根据公式计算所述KPI序列的加权平均值hat(xi);其中,xi和xi+kt为所述KPI序列中不同周期同一时刻的数据,wk为所述KPI序列中的数据对应的权重,t为所述KPI序列的周期,k为大于等于1的正整数;
采用所述KPI序列的加权平均值hat(xi)代替所述KPI序列中的缺失数据。
12.一种***异常检测装置,其特征在于,包括:
获取模块,用于获取业务***的KPI序列;
分解模块,用于对所述KPI序列进行序列分解,得到包含周期信息的第一KPI序列以及包含趋势信息的第二KPI序列;
评估模块,用于对所述第一KPI序列是否具有周期性进行评估处理,并且对所述第二KPI序列是否具有趋势性进行评估处理;
检测模块,用于根据评估结果,对所述KPI序列进行异常检测。
13.根据权利要求12所述的装置,其特征在于,若所述评估模块确定所述第一KPI序列没有周期性且所述第二KPI序列没有趋势性,则所述检测模块对所述KPI序列的全部数据建立数据分布进行单点异常检测;
若所述评估模块确定所述第一KPI序列有周期性且所述第二KPI序列没有趋势性,则所述检测模块对所述KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测;
若所述评估模块确定所述第一KPI序列没有周期性且所述第二KPI序列有趋势性,则所述检测模块对所述KPI序列的全部数据建立***点检测,然后进行时段异常检测并从所述KPI序列删除掉所述异常点,再进行单点异常检测;
若所述评估模块确定所述第一KPI序列有周期性且所述第二KPI序列有趋势性,则所述检测模块对所述第二KPI序列进行***点检测,然后进行时段异常检测并从所述KPI序列中删除所述异常点,再进行单点异常检测。
14.根据权利要求13所述的装置,其特征在于,若所述评估模块确定所述第一KPI序列没有周期性且所述第二KPI序列没有趋势性,则所述检测模块对所述KPI序列的全部数据建立数据分布进行单点异常检测,包括:
所述检测模块根据所述KPI序列的全部数据计算所述KPI序列的截尾均值和所述KPI序列的标准差;根据所述截尾均值和所述标准差计算所述KPI序列中每个数据的标准分数z-score;将所述z-score大于第一预设阈值或所述z-score小于第二预设阈值的数据标记为异常数据,得到包括所述异常数据的第三KPI序列;对所述第三KPI序列进行异常结果后过滤,并输出异常检测结果。
15.根据权利要求13所述的装置,其特征在于,若所述评估模块确定所述第一KPI序列有周期性且所述第二KPI序列没有趋势性,则所述检测模块对所述KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,包括:
所述检测模块根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据所述截尾均值和所述标准差计算所述相同时刻KPI的标准分数z-score;将所述z-score大于第一预设阈值或所述z-score小于第二预设阈值的数据标记为异常数据,得到包括异常数据的第四KPI序列;对所述第四KPI序列进行异常结果后过滤,并输出异常检测结果。
16.根据权利要求13所述的装置,其特征在于,若所述评估模块确定所述第一KPI序列没有周期性且所述第二KPI序列有趋势性,则所述检测模块对所述KPI序列的全部数据建立***点检测,然后进行时段异常检测并从所述KPI序列删除掉所述异常点,再进行单点异常检测,包括:
所述检测模块根据变化点检测算法从所述KPI序列中确定***点,将所述KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对所述每个KPI子序列的p-value进行多重比较校正,获得所述每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与所述adj.p-value大于预设阈值的KPI子序列标记为第一异常KPI序列;从所述KPI序列中减去所述第一异常KPI序列,获得第五KPI序列;对所述第五KPI序列的全部数据建立数据分布进行单点异常检测,获得第二异常KPI序列;对所述第一异常KPI序列和所述第二异常KPI序列异常结果后过滤,并输出异常检测结果。
17.根据权利要求13所述的装置,其特征在于,若所述评估模块确定所述第一KPI序列有周期性且所述第二KPI序列有趋势性,则所述检测模块对所述第二KPI序列进行***点检测,然后进行时段异常检测并从所述KPI序列中删除所述异常点,再进行单点异常检测,包括:
所述检测模块根据变化点检测算法从所述第二KPI序列中确定***点,将所述第二KPI序列分为多个KPI子序列;将均值最大或者均值最小的KPI子序列与其他KPI子序列的均值差异进行比较,获取每个KPI子序列的p值p-value;对所述每个KPI子序列的p-value进行多重比较校正,获得所述每个KPI子序列的校正p值adj.p-value;将均值最大或者均值最小的KPI子序列与所述adj.p-value大于预设阈值的KPI子序列标记为第三异常KPI序列;从所述KPI序列中减去所述第三异常KPI序列,获得第六KPI序列;对所述第六KPI序列各周期中的同一时刻的数据建立数据分布进行单点异常检测,获取第四异常KPI序列;对所述第三异常KPI序列和所述第四异常KPI序列异常结果后过滤,并输出异常检测结果。
18.根据权利要求12~17任一项所述的装置,其特征在于,所述评估模快对所述第一KPI序列是否具有周期性进行评估处理,包括:
所述评估模快根据公式计算所述第一KPI序列的周期值Effects;其中,Var(S)为所述第一KPI序列的方差,Var(KPI)为所述KPI序列的方差;若所述第一KPI序列的周期值Effects大于预设周期阈值,则所述第一KPI序列具有周期性。
19.根据权利要求12~18任一项所述的装置,其特征在于,所述评估模块对所述第二KPI序列是否具有趋势性进行评估处理,包括:
所述评估模块根据公式计算所述第二KPI序列的趋势值EffectT;其中,为Var(T)所述第二KPI序列的方差,Var(KPI)为所述KPI序列的方差;若所述第二KPI序列的趋势值EffectT大于预设趋势阈值,则所述第二KPI序列具有趋势性。
20.根据权利要求12~19任一项所述的装置,其特征在于,所述获取模块具体用于在业务***上进行业务数据采集;根据业务规则对所采集的业务数据进行KPI计算,得到原始KPI序列;对所述原始KPI序列进行预处理,得到所述KPI序列,所述预处理包括对极端离群的数据点处理和对缺失数据的处理。
21.根据权利要求20所述的装置,其特征在于,所述获取模块对极端离群的数据点处理,包括:
所述获取模块根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差;根据所述截尾均值和所述标准差计算所述相同时刻KPI的标准分数z-score;判断所述z-score的绝对值是否大于第三预设阈值,若是,则将所述z-score对应的数据标记为异常数据进行输出,并将所述异常数据设置为缺失数据,返回执行根据所述KPI序列各周期中的同一时刻的数据计算相同时刻KPI的截尾均值和标准差的步骤;若否,则输出所述z-score对应的数据。
22.根据权利要求20或21所述的装置,其特征在于,所述获取模块对缺失数据的处理,包括:
所述获取模块根据公式计算所述KPI序列的加权平均值hat(xi);其中,xi和xi+kt为所述KPI序列中不同周期同一时刻的数据,wk为所述KPI序列中的数据对应的权重,t为所述KPI序列的周期,k为大于等于1的正整数;采用所述KPI序列的加权平均值hat(xi)代替所述KPI序列中的缺失数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510765610.5A CN106685750B (zh) | 2015-11-11 | 2015-11-11 | ***异常检测方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510765610.5A CN106685750B (zh) | 2015-11-11 | 2015-11-11 | ***异常检测方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106685750A true CN106685750A (zh) | 2017-05-17 |
CN106685750B CN106685750B (zh) | 2019-12-24 |
Family
ID=58864943
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510765610.5A Active CN106685750B (zh) | 2015-11-11 | 2015-11-11 | ***异常检测方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106685750B (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107528722A (zh) * | 2017-07-06 | 2017-12-29 | 阿里巴巴集团控股有限公司 | 一种时间序列中异常点检测方法及装置 |
CN108229760A (zh) * | 2018-02-08 | 2018-06-29 | 北京航空航天大学 | 面向灾害预测的不等间距时间序列异常趋势分析方法 |
CN108597616A (zh) * | 2018-04-11 | 2018-09-28 | 平安科技(深圳)有限公司 | 疾病异常数据检测方法及装置、计算机装置及存储介质 |
CN109118056A (zh) * | 2018-07-19 | 2019-01-01 | 携程计算机技术(上海)有限公司 | 服务缺陷的处理方法及*** |
CN109699090A (zh) * | 2017-10-24 | 2019-04-30 | 大唐移动通信设备有限公司 | 一种调整方法和装置 |
CN110161362A (zh) * | 2019-06-20 | 2019-08-23 | 广东石油化工学院 | 基于投影空间的变压器运行状态振声检测方法和*** |
CN110266552A (zh) * | 2019-08-15 | 2019-09-20 | 华为技术有限公司 | 流量异常检测的方法、模型训练方法和装置 |
CN110995461A (zh) * | 2019-10-28 | 2020-04-10 | 厦门大学 | 网络故障诊断方法 |
CN111211849A (zh) * | 2020-01-10 | 2020-05-29 | 武汉船舶通信研究所(中国船舶重工集团公司第七二二研究所) | 高频通信信道探测的方法和装置 |
CN111324639A (zh) * | 2020-02-11 | 2020-06-23 | 京东数字科技控股有限公司 | 数据监测方法、装置及计算机可读存储介质 |
CN112819386A (zh) * | 2021-03-05 | 2021-05-18 | 中国人民解放军国防科技大学 | 带有异常的时间序列数据生成方法、***及存储介质 |
WO2021164267A1 (zh) * | 2020-02-21 | 2021-08-26 | 平安科技(深圳)有限公司 | 异常检测方法、装置、终端设备及存储介质 |
CN113381902A (zh) * | 2020-03-10 | 2021-09-10 | 腾讯科技(深圳)有限公司 | 跨地区的网络链路的检测方法、装置和计算机存储介质 |
CN113391982A (zh) * | 2021-08-17 | 2021-09-14 | 云智慧(北京)科技有限公司 | 一种监控数据的异常检测方法、装置及设备 |
CN113420800A (zh) * | 2021-06-11 | 2021-09-21 | 中国科学院计算机网络信息中心 | 一种数据异常检测方法及装置 |
CN113961548A (zh) * | 2021-09-22 | 2022-01-21 | 航天宏康智能科技(北京)有限公司 | 用水量时序数据的异常值处理方法和异常值处理装置 |
CN117370906A (zh) * | 2023-08-21 | 2024-01-09 | 长江生态环保集团有限公司 | 基于单点和时间序列异常检测的爆管检测及性能评估方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11790240B1 (en) * | 2023-02-10 | 2023-10-17 | SurgeTech, LLC | Machine learning networks, architectures and techniques for determining or predicting demand metrics in one or more channels |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102176780A (zh) * | 2009-06-15 | 2011-09-07 | 上海华为技术有限公司 | 休眠小区的检测方法、装置和*** |
CN102449623A (zh) * | 2009-03-31 | 2012-05-09 | 东京毅力科创株式会社 | 用于检测工具性能降级和失配的方法和*** |
CN102546220A (zh) * | 2010-12-31 | 2012-07-04 | ***通信集团福建有限公司 | 一种基于业务特征的关键质量指标构成方法 |
CN103780415A (zh) * | 2012-10-22 | 2014-05-07 | 华为技术服务有限公司 | 关键性能指标的监控方法和装置 |
US20150024735A1 (en) * | 2013-07-22 | 2015-01-22 | Motorola Solutions, Inc | Apparatus and method for determining context-aware and adaptive thresholds in a communications system |
-
2015
- 2015-11-11 CN CN201510765610.5A patent/CN106685750B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102449623A (zh) * | 2009-03-31 | 2012-05-09 | 东京毅力科创株式会社 | 用于检测工具性能降级和失配的方法和*** |
CN102176780A (zh) * | 2009-06-15 | 2011-09-07 | 上海华为技术有限公司 | 休眠小区的检测方法、装置和*** |
CN102546220A (zh) * | 2010-12-31 | 2012-07-04 | ***通信集团福建有限公司 | 一种基于业务特征的关键质量指标构成方法 |
CN103780415A (zh) * | 2012-10-22 | 2014-05-07 | 华为技术服务有限公司 | 关键性能指标的监控方法和装置 |
US20150024735A1 (en) * | 2013-07-22 | 2015-01-22 | Motorola Solutions, Inc | Apparatus and method for determining context-aware and adaptive thresholds in a communications system |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107528722B (zh) * | 2017-07-06 | 2020-10-23 | 创新先进技术有限公司 | 一种时间序列中异常点检测方法及装置 |
CN107528722A (zh) * | 2017-07-06 | 2017-12-29 | 阿里巴巴集团控股有限公司 | 一种时间序列中异常点检测方法及装置 |
CN109699090A (zh) * | 2017-10-24 | 2019-04-30 | 大唐移动通信设备有限公司 | 一种调整方法和装置 |
CN109699090B (zh) * | 2017-10-24 | 2020-11-27 | 大唐移动通信设备有限公司 | 一种无线网络连接的调整方法和装置 |
CN108229760A (zh) * | 2018-02-08 | 2018-06-29 | 北京航空航天大学 | 面向灾害预测的不等间距时间序列异常趋势分析方法 |
CN108597616A (zh) * | 2018-04-11 | 2018-09-28 | 平安科技(深圳)有限公司 | 疾病异常数据检测方法及装置、计算机装置及存储介质 |
CN109118056A (zh) * | 2018-07-19 | 2019-01-01 | 携程计算机技术(上海)有限公司 | 服务缺陷的处理方法及*** |
CN109118056B (zh) * | 2018-07-19 | 2022-02-08 | 携程计算机技术(上海)有限公司 | 服务缺陷的处理方法及*** |
CN110161362A (zh) * | 2019-06-20 | 2019-08-23 | 广东石油化工学院 | 基于投影空间的变压器运行状态振声检测方法和*** |
WO2021027697A1 (zh) * | 2019-08-15 | 2021-02-18 | 华为技术有限公司 | 一种流量异常检测的方法、模型训练方法和装置 |
CN110266552A (zh) * | 2019-08-15 | 2019-09-20 | 华为技术有限公司 | 流量异常检测的方法、模型训练方法和装置 |
EP4009590A4 (en) * | 2019-08-15 | 2022-09-28 | Huawei Technologies Co., Ltd. | METHODS FOR DETECTING TRAFFIC ANOMALIES AND MODEL TRAINING METHOD AND DEVICE |
CN110995461A (zh) * | 2019-10-28 | 2020-04-10 | 厦门大学 | 网络故障诊断方法 |
CN111211849A (zh) * | 2020-01-10 | 2020-05-29 | 武汉船舶通信研究所(中国船舶重工集团公司第七二二研究所) | 高频通信信道探测的方法和装置 |
CN111211849B (zh) * | 2020-01-10 | 2022-06-17 | 武汉船舶通信研究所(中国船舶重工集团公司第七二二研究所) | 高频通信信道探测的方法和装置 |
CN111324639A (zh) * | 2020-02-11 | 2020-06-23 | 京东数字科技控股有限公司 | 数据监测方法、装置及计算机可读存储介质 |
CN111324639B (zh) * | 2020-02-11 | 2023-11-03 | 京东科技控股股份有限公司 | 数据监测方法、装置及计算机可读存储介质 |
WO2021164267A1 (zh) * | 2020-02-21 | 2021-08-26 | 平安科技(深圳)有限公司 | 异常检测方法、装置、终端设备及存储介质 |
CN113381902A (zh) * | 2020-03-10 | 2021-09-10 | 腾讯科技(深圳)有限公司 | 跨地区的网络链路的检测方法、装置和计算机存储介质 |
CN113381902B (zh) * | 2020-03-10 | 2024-01-30 | 腾讯科技(深圳)有限公司 | 跨地区的网络链路的检测方法、装置和计算机存储介质 |
CN112819386A (zh) * | 2021-03-05 | 2021-05-18 | 中国人民解放军国防科技大学 | 带有异常的时间序列数据生成方法、***及存储介质 |
CN113420800A (zh) * | 2021-06-11 | 2021-09-21 | 中国科学院计算机网络信息中心 | 一种数据异常检测方法及装置 |
CN113391982B (zh) * | 2021-08-17 | 2021-11-23 | 云智慧(北京)科技有限公司 | 一种监控数据的异常检测方法、装置及设备 |
CN113391982A (zh) * | 2021-08-17 | 2021-09-14 | 云智慧(北京)科技有限公司 | 一种监控数据的异常检测方法、装置及设备 |
CN113961548A (zh) * | 2021-09-22 | 2022-01-21 | 航天宏康智能科技(北京)有限公司 | 用水量时序数据的异常值处理方法和异常值处理装置 |
CN113961548B (zh) * | 2021-09-22 | 2022-03-25 | 航天宏康智能科技(北京)有限公司 | 用水量时序数据的异常值处理方法和异常值处理装置 |
CN117370906A (zh) * | 2023-08-21 | 2024-01-09 | 长江生态环保集团有限公司 | 基于单点和时间序列异常检测的爆管检测及性能评估方法 |
CN117370906B (zh) * | 2023-08-21 | 2024-05-10 | 长江生态环保集团有限公司 | 基于单点和时间序列异常检测的爆管检测及性能评估方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106685750B (zh) | 2019-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106685750A (zh) | ***异常检测方法和装置 | |
CN106100937B (zh) | ***监控方法和装置 | |
CN111092757B (zh) | 一种异常数据的检测方法、***及设备 | |
US10248528B2 (en) | System monitoring method and apparatus | |
CN105471659B (zh) | 一种故障根因分析方法和分析设备 | |
CN105721187B (zh) | 一种业务故障诊断方法及装置 | |
Goh et al. | Fluctuation-driven dynamics of the Internet topology | |
US11023577B2 (en) | Anomaly detection for time series data having arbitrary seasonality | |
CN105812177B (zh) | 一种网络故障处理方法和处理设备 | |
WO2011008198A1 (en) | Determining a seasonal effect in temporal data | |
CN108696486B (zh) | 一种异常操作行为检测处理方法及装置 | |
CN111478963A (zh) | 消息推送方法、装置、电子设备及计算机可读存储介质 | |
CN113141410B (zh) | 动态调节的qps控制方法、***、设备及存储介质 | |
Yang et al. | A revised range of variability approach considering the periodicity of hydrological indicators | |
CN106254137A (zh) | 监管***的告警根源分析***及方法 | |
CN108388866A (zh) | 一种植被单调变化趋势检测方法及相关装置 | |
CN105429792B (zh) | 用户行为流量获取方法及装置、用户行为分析方法及*** | |
CN114338372A (zh) | 网络信息安全监控方法及*** | |
CN113992340A (zh) | 用户异常行为识别方法、装置、设备、存储介质和程序 | |
CN111858108A (zh) | 一种硬盘故障预测方法、装置、电子设备和存储介质 | |
CN116804957A (zh) | 一种***监控方法及装置 | |
CN116016115A (zh) | 网络线路的流量监控方法、装置、设备、介质和程序产品 | |
WO2016101564A1 (zh) | 一种话单处理方法及装置 | |
CN107562703A (zh) | 字典树重构方法及*** | |
CN106034044B (zh) | 告警分析的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |