CN115269315A - 一种异常检测方法、装置、设备、介质 - Google Patents
一种异常检测方法、装置、设备、介质 Download PDFInfo
- Publication number
- CN115269315A CN115269315A CN202210838294.XA CN202210838294A CN115269315A CN 115269315 A CN115269315 A CN 115269315A CN 202210838294 A CN202210838294 A CN 202210838294A CN 115269315 A CN115269315 A CN 115269315A
- Authority
- CN
- China
- Prior art keywords
- data
- characteristic data
- data set
- historical
- real
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Quality & Reliability (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
本公开提供了一种异常检测方法、装置、设备、介质,可以应用于大数据技术领域和金融技术领域。该异常检测方法包括:从数据库监控***获取***运行实时数据、***运行正常历史特征数据和***运行异常历史特征数据;将实时***运行数据进行标准化处理,得到实时***运行特征数据;根据历史***运行正常特征数据和历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集;将实时***运行特征数据、第一特征数据集和第二特征数据集输入第一分类器,得到第一分类结果;将实时***运行特征数据、第三特征数据集和第四特征数据集输入第二分类器,得到第二分类结果;以及根据第一分类结果和第二分类结果,生成异常检测结果。
Description
技术领域
本公开涉及大数据技术领域,具体地涉及一种异常检测方法、装置、设备、介质和程序产品。
背景技术
目前,数据中心MySQL数据库健康度评价是难点之一。一定程度上,数据库***的健康度可以用一组指标来体现。随着数据库***规模的变大、复杂度的提高、监控覆盖的完善,监控数据量越来越大,运维人员无法很快从海量监控数据中发现质量问题。现阶段,数据库健康度评价主要依赖于专家经验,需要非常专业的数据库专家根据自身学科特性及工作经验,对数据质量、故障流程进行评估、梳理,从而建立特有的评价体系,人工配置成本大,且时效性不高。
发明内容
鉴于上述问题,本公开提供了一种异常检测方法、装置、设备、介质和程序产品。
根据本公开的一个方面,提供了一种异常检测方法,包括:
从数据库监控***获取***运行实时数据、***运行正常正常历史特征数据和***运行异常异常历史特征数据;
将实时***运行数据进行标准化处理,得到实时***运行特征数据;
根据历史***运行正常特征数据和历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集;其中,第一特征数据集包括第一近邻样本数据和历史***运行异常特征数据,第一近邻样本数据表征在历史运行正常特征数据中与历史运行异常特征数据近邻的数据;第二特征数据集包括历史***运行正常特征数据中去除第一近邻样本数据之后剩余的数据;第三特征数据集包括第二近邻样本数据;第四特征数据集包括历史***运行异常特征数据,第二近邻样本数据表征在第一特征数据集中与历史运行异常特征数据近邻的数据;
将实时***运行特征数据、第一特征数据集和第二特征数据集输入第一分类模型,得到第一分类结果;
将实时***运行特征数据、第三特征数据集和第四特征数据集输入第二分类模型,得到第二分类结果;以及
根据第一分类结果和第二分类结果,生成异常检测结果。
根据本公开的实施例,第一分类模型的训练方法包括:
将第一特征数据集和第二特征数据集输入第一初始分类模型进行训练,得到第一训练分类结果;
根据第一训练分类结果,构建第一混淆矩阵,其中,第一混淆矩阵中包括第一分类结果数据、第二分类结果数据和第三分类结果数据;第一分类结果数据表征被分类至第一特征数据集的历史运行异常特征数据的样本数,第二分类结果数据表征被分类至第二特征数据集的历史运行异常特征数据的样本数,第三分类结果数据表征被分类至第一特征数据集的历史运行正常特征数据的样本数;
根据第一分类结果数据、第二分类结果数据和第三分类结果数据,生成第一初始分类模型的第一分类性能指标数据;
在第一分类性能指标数据满足第一预设条件的情况下,得到训练完成的第一分类模型。
根据本公开的实施例,第二分类模型的训练方法包括:
将第三特征数据集和第四特征数据集输入第二初始分类模型进行训练,得到第二训练分类结果;
根据第二训练分类结果,构建第二混淆矩阵,其中,二混淆矩阵中包括第四分类结果数据、第五分类结果数据和第六分类结果数据;第四分类结果数据表征被分类至第四特征数据集的历史运行异常特征数据的样本数,第五分类结果数据表征被分类至第三特征数据集的历史运行异常特征数据的样本数,第六分类结果数据表征被分类至第四特征数据集的历史运行正常特征数据的样本数;
根据第四分类结果数据、第五分类结果数据和第六分类结果数据,生成第二初始分类模型的第二分类性能指标数据;
在第二分类性能指标数据满足第二预设条件的情况下,得到训练完成的第二分类模型。
根据本公开的实施例,将实时***运行数据进行标准化处理,得到实时***运行特征数据,包括:
根据实时***运行数据的类型,将实时***运行数据进行分类,得到M个实时***运行数据集,其中,M为正整数;
针对每一个实时***运行数据集,计算实时***运行数据集中的实时***运行数据的平均值和实时***运行数据的标准差;
根据实时***运行数据集中的实时***运行数据和平均值、标准差,生成实时***运行特征数据。
根据本公开的实施例,根据历史***运行正常特征数据和历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集,包括:
基于K近邻算法,根据历史***运行异常特征数据,从历史运行正常特征数据中采集第一近邻样本数据;
根据第一近邻样本数据和历史***运行异常特征数据,构建第一特征数据集;
去除历史***运行正常特征数据中的第一近邻样本数据,得到第二特征数据集,
基于K近邻算法,根据历史***运行异常特征数据,从第一特征数据集中采集第二近邻样本数据;
根据第二近邻样本数据,构建第三特征数据集;
根据历史***运行异常特征数据,构建第四特征数据集。
根据本公开的实施例,根据第一分类结果和第二分类结果,生成异常检测结果,包括:
在第一分类结果为运行特征数据被分类至第一特征数据集,且第二分类结果为运行特征数据被分类至第四特征数据集的情况下,生成异常检测结果为***运行异常;
在第一分类结果为运行特征数据被分类至第一特征数据集,且第二分类结果为运行特征数据被分类至第三特征数据集的情况下,生成异常检测结果为***运行正常;
在第一分类结果为运行特征数据被分类至第二特征数据集,且第二分类结果为运行特征数据被分类至第三特征数据集的情况下,生成异常检测结果为***运行正常。
本公开的另一方面提供了一种异常检测装置,包括:获取模块、处理模块、构建模块、第一分类模块、第二分类模块和生成模块。其中,获取模块,用于从数据库监控***获取实时***运行数据和历史***运行正常特征数据和历史***运行异常特征数据。处理模块,用于将实时***运行数据进行标准化处理,得到实时***运行特征数据。构建模块,用于根据历史***运行正常特征数据和历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集;其中,第一特征数据集包括第一近邻样本数据和历史***运行异常特征数据,第一近邻样本数据表征在历史运行正常特征数据中与历史运行异常特征数据近邻的数据;第二特征数据集包括历史***运行正常特征数据中去除第一近邻样本数据之后剩余的数据;第三特征数据集包括第二近邻样本数据;第四特征数据集包括历史***运行异常特征数据,第二近邻样本数据表征在第一特征数据集中与历史运行异常特征数据近邻的数据。第一分类模块,用于将实时***运行数据、第一特征数据集和第二特征数据集输入第一分类模型,得到第一分类结果。第二分类模块,用于将实时***运行数据、第三特征数据集和第四特征数据集输入第二分类模型,得到第二分类结果。生成模块,用于根据第一分类结果和第二分类结果,生成异常检测结果。
根据本公开的实施例,处理模块包括分类单元、计算单元和第一生成单元。其中,分类单元,用于根据实时***运行数据的类型,将实时***运行数据进行分类,得到M个实时***运行数据集,其中,M为正整数。计算单元,用于针对每一个实时***运行数据集,计算实时***运行数据集中的实时***运行数据的平均值和实时***运行数据的标准差。第一生成单元,用于根据实时***运行数据集中的实时***运行数据和平均值、标准差,生成实时***运行特征数据。
根据本公开的实施例,构建模块包括第一采集单元、第一构建单元、去除单元、第二采集单元、第二构建单元和第三构建单元。其中,第一采集单元,用于基于K近邻算法,根据历史***运行异常特征数据,从历史运行正常特征数据中采集第一近邻样本数据。第一构建单元,用于根据第一近邻样本数据和历史***运行异常特征数据,构建第一特征数据集。去除单元,用于去除历史***运行正常特征数据中的第一近邻样本数据,得到第二特征数据集。第二采集单元,用于基于K近邻算法,根据历史***运行异常特征数据,从第一特征数据集中采集第二近邻样本数据。第二构建单元,用于根据第二近邻样本数据,构建第三特征数据集。第三构建单元,用于根据历史***运行异常特征数据,构建第四特征数据集。
根据本公开的实施例,生成模块包括第二生成单元、第三生成单元和第四生成单元。其中,第二生成单元,用于在第一分类结果为运行特征数据被分类至第一特征数据集,且第二分类结果为运行特征数据被分类至第四特征数据集的情况下,生成异常检测结果为***运行异常。第三生成单元,用于在第一分类结果为运行特征数据被分类至第一特征数据集,且第二分类结果为运行特征数据被分类至第三特征数据集的情况下,生成异常检测结果为***运行正常。第四生成单元,用于在第一分类结果为运行特征数据被分类至第二特征数据集,且第二分类结果为运行特征数据被分类至第三特征数据集的情况下,生成异常检测结果为***运行正常。
本公开的另一方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述异常检测方法。
本公开的另一方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述异常检测方法。
本公开的另一方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述异常检测方法。
根据本公开的实施例,通过将历史运行异常特征数据、历史运行正常特征数据构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集,将实时***运行特征数据和第一特征数据集、第二特征数据集输入第一分类模型得到第一分类结果,将实时***运行特征数据和第三特征数据集、第四特征数据集输入第二分类模型得到第二分类结果,再根据第一分类结果和第二分类结果生成异常检测结果。由于第一特征数据集中包括从历史运行正常特征数据集中采集的第一近邻样本数据,第三特征数据集中包括从第一特征数据集中采集的第二近邻样本数据,在对实时***运行数据进行异常检测时,可以提高第一分类模型、第二分类模型中的数据类别平衡程度,同时降低了过采样引入的噪声样本数据,提高了通过分类进行***运行异常检测的准确度。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的异常检测方法、装置、设备、介质和程序产品的应用场景图;
图2示意性示出了根据本公开实施例的异常检测方法的流程图;
图3示意性示出了根据本公开实施例的第一分类模型的训练方法的流程图;
图4示意性示出了根据本公开实施例的第二分类模型的训练方法的流程图;
图5示意性示出了根据本公开实施例的得到实时***运行特征数据的流程图;
图6示意性示出了根据本公开实施例的构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集的流程图;
图7示意性示出了根据本公开实施例的生成异常检测结果的流程图;
图8示意性示出了根据本公开实施例的异常检测装置的结构框图;以及
图9示意性示出了根据本公开实施例的适于实现异常检测方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的***”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的***等)。
需要说明的是,本公开的异常检测方法和装置可用于大数据技术领域和金融技术领域,也可用于除金融领域之外的任意领域,本公开的异常检测方法和装置的应用领域不做限定。
本公开的实施例提供了一种异常检测方法,包括:从数据库监控***获取***运行实时数据、***运行正常历史特征数据和***运行异常历史特征数据;将实时***运行数据进行标准化处理,得到实时***运行特征数据;根据历史***运行正常特征数据和历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集;其中,第一特征数据集包括第一近邻样本数据和历史***运行异常特征数据,第一近邻样本数据表征在历史运行正常特征数据中与历史运行异常特征数据近邻的数据;第二特征数据集包括历史***运行正常特征数据中去除第一近邻样本数据之后剩余的数据;第三特征数据集包括第二近邻样本数据;第四特征数据集包括历史***运行异常特征数据,第二近邻样本数据表征在第一特征数据集中与历史运行异常特征数据近邻的数据;将实时***运行特征数据、第一特征数据集和第二特征数据集输入第一分类模型,得到第一分类结果;将实时***运行特征数据、第三特征数据集和第四特征数据集输入第二分类模型,得到第二分类结果;以及根据第一分类结果和第二分类结果,生成异常检测结果。
图1示意性示出了根据本公开实施例的异常检测方法的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103、网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。数据库监控***101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的异常检测方法一般可以由服务器105执行。相应地,本公开实施例所提供的异常检测装置一般可以设置于服务器105中。本公开实施例所提供的异常检测方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的异常检测装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图7对公开实施例的异常检测方法进行详细描述。
图2示意性示出了根据本公开实施例的异常检测方法的流程图。
如图2所示,该实施例的异常检测方法包括操作S210~操作S260。
在操作S210,从数据库监控***获取***运行实时数据、***运行正常历史特征数据和***运行异常历史特征数据。
根据本公开的实施例,***运行实时数据可以包括能够反映数据库***健康度的运行数据,例如:CPU使用率、可以反映连接MySQL的线程数量占连接上限的百分比的连接数使用率、可以反映MySQL实例所在的磁盘繁忙程度的磁盘带宽利用率、InnoDB中事务出现锁争用而引起等待的语句的数量、可以反映数据库中正在执行的并发线程数占总上限的百分比的并发数使用率等等。
在操作S220,将实时***运行数据进行标准化处理,得到实时***运行特征数据。
根据本公开的实施例,由于实时***运行数据种类较多,每种类型的实时***运行数据的数量级及单位均不相同,因此,可以将不同类型的实时***运行数据通过标准化处理得到标准化的实时***运行特征数据。例如:可以通过量纲化处理、归一化处理、中心化处理等多种方式进行标准化处理。
在操作S230,根据历史***运行正常特征数据和历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集;其中,第一特征数据集包括第一近邻样本数据和历史***运行异常特征数据,第一近邻样本数据表征在历史运行正常特征数据中与历史运行异常特征数据近邻的数据;第二特征数据集包括历史***运行正常特征数据中去除第一近邻样本数据之后剩余的数据;第三特征数据集包括第二近邻样本数据;第四特征数据集包括历史***运行异常特征数据,第二近邻样本数据表征在第一特征数据集中与历史运行异常特征数据近邻的数据。
根据本公开的实施例,在历史实时***运行特征数据中,历史***运行异常特征数据属于少数类样本数据,历史***正常特征数据属于多数类样本数据。历史***运行异常特征数据可以包括n个数据,例如:(a1,a2,a3...an),历史***正常特征数据可以包括m个数据,例如:(b1,b2,b3...bm),其中,m大于n。
根据本公开的实施例,可以基于K近邻算法,从历史***正常特征数据中采集K1个与历史***异常运行特征数据近邻的数据,得到第一近邻样本数据,例如(b1,b2,b3...bk1),则第一特征数据集可以为(a1,a2,a3...an,b1,b2,b3...bk1),第二特征数据集可以为(bk1+1,bk1+2,bk1+3...bm),第四特征数据集可以为(a1,a2,a3...an)。
根据本公开的实施例,可以基于K近邻算法,从第一特征数据集中采集K2个与历史***异常运行特征数据近邻的数据,得到第二近邻样本数据,例如:(b1,b2,b3...bk2),则第三特征数据集可以为:(b1,b2,b3...bk2)。
在操作S240,将实时***运行特征数据、第一特征数据集和第二特征数据集输入第一分类模型,得到第一分类结果。
根据本公开的实施例,实时***运行特征数据可以表示为(p1,p2,p3...pi),其中,i可以表示实时***运行特征数据中包括i种能够反应数据库健康度的指标数据。
根据本公开的实施例,第一分类结果可以包括实时***运行特征数据、第一特征数据集和第二特征数据经过第一分类模型,实时***运行特征数据被分类至第一特征数据集或第二特征数据集。
在操作S250,将实时***运行特征数据、第三特征数据集和第四特征数据集输入第二分类模型,得到第二分类结果。
根据本公开的实施例,第二分类结果可以包括实时***运行特征数据、第三特征数据集和第四特征数据集经过第二分类模型,被分类至第三特征数据集或第四特征数据集。
在操作S260,根据第一分类结果和第二分类结果,生成异常检测结果。
根据本公开的实施例,例如:第一分类结果为实时***运行特征数据被分类至第一特征数据集,表示实时***运行特征数据属于少数类数据集。第二分类结果实时***运行特征数据被分类至第四特征数据集,表示实时***运行特征数据为异常运行特征数据,生成的异常检测结果可以包括当前数据库***运行异常。
根据本公开的实施例,通过将历史运行异常特征数据、历史运行正常特征数据构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集,将实时***运行特征数据和第一特征数据集、第二特征数据集输入第一分类模型得到第一分类结果,将实时***运行特征数据和第三特征数据集、第四特征数据集输入第二分类模型得到第二分类结果,再根据第一分类结果和第二分类结果生成异常检测结果。由于第一特征数据集中包括从历史运行正常特征数据集中采集的第一近邻样本数据,第三特征数据集中包括从第一特征数据集中采集的第二近邻样本数据,在对实时***运行数据进行异常检测时,可以提高第一分类模型、第二分类模型中的数据类别平衡程度,同时降低了过采样引入的噪声样本数据,提高了通过分类进行***运行异常检测的准确度。
图3示意性示出了根据本公开实施例的第一分类模型的训练方法的流程图。
如图3所示,该实施例的第一分类模型的训练方法包括操作S310~S340。
在操作S310,将第一特征数据集和第二特征数据集输入第一初始分类模型进行训练,得到第一训练分类结果。
在操作S320,根据第一训练分类结果,构建第一混淆矩阵,其中,第一混淆矩阵中包括第一分类结果数据、第二分类结果数据和第三分类结果数据;第一分类结果数据表征被分类至第一特征数据集的历史运行异常特征数据的样本数,第二分类结果数据表征被分类至第二特征数据集的历史运行异常特征数据的样本数,第三分类结果数据表征被分类至第一特征数据集的历史运行正常特征数据的样本数。
根据本公开的实施例,在传统的分类问题中,通常采用准确率作为模型性能的评价指标,但是,在处理不平衡分类任务时,以准确率作为模型性能的评价指标并不适用。例如:一个数据集,包含99%的多数类样本,仅包含1%的少数类样本。若将所有样本都划分为多数类,则分类器准确率高达99%,但是对于少数类样本的分类准确率却是0%。因此,本公开实施例中以少数类样本的分类正确率作为在分类模型训练过程中的模型训练评价指标。
在操作S330,根据第一分类结果数据、第二分类结果数据和第三分类结果数据,生成第一初始分类模型的第一分类性能指标数据。
根据本公开的实施例,第一分类性能指标数据F1可以如式(1)所示:
其中,F1表示第一分类性能指标;Recall1表示第一召回率;Precision1表示第一精确率。
根据本公开的实施例,第一召回率Recall1表示少数类样本中被正确分类为少数类的样本所占比例,可以如式(2)所示:
其中,TP1表示第一分类结果数据;FN1表示第三分类结果数据。
根据本公开的实施例,第一精确率Precision1表示被分类为少数类的样本中被正确分类为少数类的样本所占比例,可以如式(3)所示:
其中,TP1表示第一分类结果数据;FP1表示第二分类结果数据。
在操作S340,在第一分类性能指标数据满足第一预设条件的情况下,得到训练完成的第一分类模型。
根据本公开的实施例,为了验证第一分类模型的稳定性,可以采用五折交叉验证法进一步评估第一分类模型的性能。例如:可以将用于训练的原始数据集随机打乱,将数据集拆分为5个组,每个组具有和原始数据相同的数据分布。对于每一组数据,将该组数据作为验证集,将剩余组数据作为训练集,在训练集上拟合模型并在验证集上进行评估,保留评估分数并丢弃模型。第一预设条件,可以为评估模型分数最高,则训练完成的第一分类模型为模型性能的评估分数最高的分类模型。
根据本公开的实施例,通过构建分类训练结果的混淆矩阵,利用少数类样本分类的精确率和召回率确定模型评价指标,对于***异常数据较少的训练数据集,可以得到分类结果准确度高、稳定性好的第一分类模型。
图4示意性示出了根据本公开实施例的第二分类模型的训练方法的流程图。
如图4所示,该实施例的第二分类模型的训练方法包括操作S410~S440。
在操作S410,将第三特征数据集和第四特征数据集输入第二初始分类模型进行训练,得到第二训练分类结果。
在操作S440,根据第二训练分类结果,构建第二混淆矩阵,其中,二混淆矩阵中包括第四分类结果数据、第五分类结果数据和第六分类结果数据;第四分类结果数据表征被分类至第四特征数据集的历史运行异常特征数据的样本数,第五分类结果数据表征被分类至第三特征数据集的历史运行异常特征数据的样本数,第六分类结果数据表征被分类至第四特征数据集的历史运行正常特征数据的样本数。
在操作S430,根据第四分类结果数据、第五分类结果数据和第六分类结果数据,生成第二初始分类模型的第二分类性能指标数据。
根据本公开的实施例,第二分类性能指标数据F2可以如式(4)所示:
其中,F2表示第二分类性能指标;Recall2表示第二召回率;Precision2表示第二精确率。
根据本公开的实施例,第二召回率Recall1表示少数类样本中被正确分类为少数类的样本所占比例,可以如式(5)所示:
其中,TP2表示第四分类结果数据;FN2表示第六分类结果数据。
根据本公开的实施例,第二精确率Precision2表示被分类为少数类的样本中被正确分类为少数类的样本所占比例,可以如式(6)所示:
其中,TP2表示第四分类结果数据;FP2表示第五分类结果数据。
在操作S440,在第二分类性能指标数据满足第二预设条件的情况下,得到训练完成的第二分类模型。
根据本公开的实施例,为了验证第二分类模型的稳定性,可以采用五折交叉验证法进一步评估第二分类模型的性能。具体评估步骤与评估第一分类模型的过程相同,在此不做赘述。第二预设条件也可以为评估分数最高。
根据本公开的实施例,,通过构建分类训练结果的混淆矩阵,利用少数类样本分类的精确率和召回率确定模型评价指标,对于***异常数据较少的训练数据集,可以得到分类结果准确度高、稳定性好的第二分类模型。
图5示意性示出了根据本公开实施例的得到实时***运行特征数据的流程图。
如图5所示,该实施例的提取实时***运行特征数据的方法包括操作S510~S530。
在操作S510,根据实时***运行数据的类型,将实时***运行数据进行分类,得到M个实时***运行数据集,其中,M为正整数。
根据本公开的实施例,实时***运行数据可以包括:CPU使用率、连接数使用率、磁盘带宽利用率、并发数使用率。可以根据实时***运行数据的类型,得到4个实时***运行数据集:CPU使用率数据集、连接数使用率数据集、磁盘带宽利用率数据集、并发数使用率数据集。
在操作S520,针对每一个实时***运行数据集,计算实时***运行数据集中的实时***运行数据的平均值和实时***运行数据的标准差。
根据本公开的实施例,以CPU使用率数据集为例,CPU使用率数据集可以表示为(x1,x2,x3...xn)。
在操作S530,根据实时***运行数据集中的实时***运行数据和平均值、标准差,生成实时***运行特征数据。
根据本公开的实施例,实时***运行特征数据可以如式(7)所示:
其中,Z表示实时***运行特征数据,x表示实时***运行数据,μ表示实时***运行数据集中的全部数据的平均值,σ表示实时***运行数据集中的全部数据的标准差。
根据本公开的实施例,通过计算实时***运行数据的平均值和标准差,将不同类型的实时***运行数据转化为标准特征数据,以便进行分类模型的训练,减少数据类型对模型参数的影响。
图6示意性示出了根据本公开实施例的构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集的流程图。
如图6所示,该实施例的构建特征数据集的方法包括操作S610~S660。
在操作S610,基于K近邻算法,根据历史***运行异常特征数据,从历史运行正常特征数据中采集第一近邻样本数据。
在操作S620,根据第一近邻样本数据和历史***运行异常特征数据,构建第一特征数据集。
在操作S630,去除历史***运行正常特征数据中的第一近邻样本数据,得到第二特征数据集。
在操作S640,基于K近邻算法,根据历史***运行异常特征数据,从第一特征数据集中采集第二近邻样本数据。
在操作S650,根据第二近邻样本数据,构建第三特征数据集。
在操作S660,根据历史***运行异常特征数据,构建第四特征数据集。
根据本公开的实施例,历史***运行异常特征数据可以包括(a1,a2,a3...an),基于K近邻算法,从历史***正常特征数据中采集K1个与历史***异常运行特征数据近邻的数据,得到第一近邻样本数据,例如(b1,b2,b3...bk1),则第一特征数据集可以为(a1,a2,a3...an,b1,b2,b3...bk1),第二特征数据集可以为(bk1+1,bk1+2,bk1+3...bm),第四特征数据集可以为(a1,a2,a3...an)。
根据本公开的实施例,可以基于K近邻算法,从第一特征数据集中采集K2个与历史***异常运行特征数据近邻的数据,得到第二近邻样本数据,例如:(b1,b2,b3...bk2),则第三特征数据集可以为:(b1,b2,b3...bk2)。
根据本公开的实施例,通过从历史***正常运行特征数据中采集第一近邻样本数据,与历史***异常运行特征数据构成第一特征数据集,可以避免在随机采样引入噪声样本,增加分类难度的问题。再从第一特征数据集中采集第二近邻样本数据,不合成新的样本数据的同时,改善了样本数据的不平衡成都,从而提升了分类性能。
图7示意性示出了根据本公开实施例的生成异常检测结果的流程图。
如图7所示,该实施例的生成异常检测结果的方法包括操作S710~S730。
在操作S710,在第一分类结果为实时***运行特征数据被分类至第一特征数据集,且第二分类结果为实时***运行特征数据被分类至第四特征数据集的情况下,生成异常检测结果为***运行异常。
在操作S720,在第一分类结果为实时***运行特征数据被分类至第一特征数据集,且第二分类结果为实时***运行特征数据被分类至第三特征数据集的情况下,生成异常检测结果为***运行正常。
在操作S730,在第一分类结果为实时***运行特征数据被分类至第二特征数据集,且第二分类结果为实时***运行特征数据被分类至第三特征数据集的情况下,生成异常检测结果为***运行正常。
根据本公开的实施例,当实时***运行特征数据被第一分类模型分类至第一特征数据集,且该实时***运行特征数据被第二分类模型分类至第四特征数据集的情况下,才表示该实时***运行特征数据为***运行异常。其他情况下,均为***运行正常。
根据本公开的实施例,根据第一分类结果和第二分类结果生成异常检测结果,实现了可自动、准确地检测到数据库的异常情况,减少了人工干预,减轻运维人员的工作压力。
基于上述异常检测方法,本公开还提供了一种异常检测装置。以下将结合图8对该装置进行详细描述。
图8示意性示出了根据本公开实施例的异常检测装置的结构框图。
如图8所示,该实施例的异常检测装置800包括获取模块810、处理模块820、构建模块830、第一分类模块840、第二分类模块850和生成模块860。
获取模块810用于从数据库监控***获取***运行实时数据、***运行正常历史特征数据和***运行异常历史特征数据。在一实施例中,获取模块810可以用于执行前文描述的操作S210,在此不再赘述。
处理模块820用于将实时***运行数据进行标准化处理,得到实时***运行特征数据。在一实施例中,处理模块820可以用于执行前文描述的操作S220,在此不再赘述。
构建模块830用于根据历史***运行正常特征数据和历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集;其中,第一特征数据集包括第一近邻样本数据和历史***运行异常特征数据,第一近邻样本数据表征在历史运行正常特征数据中与历史运行异常特征数据近邻的数据;第二特征数据集包括历史***运行正常特征数据中去除第一近邻样本数据之后剩余的数据;第三特征数据集包括第二近邻样本数据;第四特征数据集包括历史***运行异常特征数据,第二近邻样本数据表征在第一特征数据集中与历史运行异常特征数据近邻的数据。在一实施例中,构建模块830可以用于执行前文描述的操作S230,在此不再赘述。
第一分类模块840用于将实时***运行特征数据、第一特征数据集和第二特征数据集输入第一分类器,得到第一分类结果。第一分类模块840可以用于执行前文描述的操作S240,在此不再赘述。
第二分类模块850用于将实时***运行特征数据、第三特征数据集和第四特征数据集输入第二分类器,得到第二分类结果。第二分类模块850可以用于执行前文描述的操作S250,在此不再赘述。
生成模块860用于根据第一分类结果和第二分类结果,生成异常检测结果。生成模块860可以用于执行前文描述的操作S260,在此不再赘述。
根据本公开的实施例,处理模块包括分类单元、计算单元和第一生成单元。其中,分类单元,用于根据实时***运行数据的类型,将实时***运行数据进行分类,得到M个实时***运行数据集,其中,M为正整数。计算单元,用于针对每一个实时***运行数据集,计算实时***运行数据集中的实时***运行数据的平均值和实时***运行数据的标准差。第一生成单元,用于根据实时***运行数据集中的实时***运行数据和平均值、标准差,生成实时***运行特征数据。
根据本公开的实施例,构建模块包括第一采集单元、第一构建单元、去除单元、第二采集单元、第二构建单元和第三构建单元。其中,第一采集单元,用于基于K近邻算法,根据历史***运行异常特征数据,从历史运行正常特征数据中采集第一近邻样本数据。第一构建单元,用于根据第一近邻样本数据和历史***运行异常特征数据,构建第一特征数据集。去除单元,用于去除历史***运行正常特征数据中的第一近邻样本数据,得到第二特征数据集。第二采集单元,用于基于K近邻算法,根据历史***运行异常特征数据,从第一特征数据集中采集第二近邻样本数据。第二构建单元,用于根据第二近邻样本数据,构建第三特征数据集。第三构建单元,用于根据历史***运行异常特征数据,构建第四特征数据集。
根据本公开的实施例,生成模块包括第二生成单元、第三生成单元和第四生成单元。其中,第二生成单元,用于在第一分类结果为运行特征数据被分类至第一特征数据集,且第二分类结果为运行特征数据被分类至第四特征数据集的情况下,生成异常检测结果为***运行异常。第三生成单元,用于在第一分类结果为运行特征数据被分类至第一特征数据集,且第二分类结果为运行特征数据被分类至第三特征数据集的情况下,生成异常检测结果为***运行正常。第四生成单元,用于在第一分类结果为运行特征数据被分类至第二特征数据集,且第二分类结果为运行特征数据被分类至第三特征数据集的情况下,生成异常检测结果为***运行正常。
根据本公开的实施例,获取模块810、处理模块820、构建模块830、第一分类模块840、第二分类模块850和生成模块860中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,获取模块810、处理模块820、构建模块830、第一分类模块840、第二分类模块850和生成模块860中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上***、基板上的***、封装上的***、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,获取模块810、处理模块820、构建模块830、第一分类模块840、第二分类模块850和生成模块860中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图9示意性示出了根据本公开实施例的适于实现异常检测方法的电子设备的方框图。
如图9所示,根据本公开实施例的电子设备900包括处理器901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 903中,存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备900还可以包括输入/输出(I/O)接口905,输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/***中所包含的;也可以是单独存在,而未装配入该设备/装置/***中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机***中运行时,该程序代码用于使计算机***实现本公开实施例所提供的上述方法。
在该计算机程序被处理器901执行时执行本公开实施例的***/装置中限定的上述功能。根据本公开的实施例,上文描述的***、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分909被下载和安装,和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时,执行本公开实施例的***中限定的上述功能。根据本公开的实施例,上文描述的***、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (10)
1.一种异常检测方法,包括:
从数据库监控***获取***运行实时数据、***运行正常历史特征数据和***运行异常历史特征数据;
将所述实时***运行数据进行标准化处理,得到实时***运行特征数据;
根据所述历史***运行正常特征数据和所述历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集;其中,第一特征数据集包括第一近邻样本数据和所述历史***运行异常特征数据,所述第一近邻样本数据表征在所述历史运行正常特征数据中与所述历史运行异常特征数据近邻的数据;第二特征数据集包括所述历史***运行正常特征数据中去除所述第一近邻样本数据之后剩余的数据;所述第三特征数据集包括第二近邻样本数据;所述第四特征数据集包括所述历史***运行异常特征数据,所述第二近邻样本数据表征在所述第一特征数据集中与所述历史运行异常特征数据近邻的数据;
将所述实时***运行特征数据、所述第一特征数据集和所述第二特征数据集输入第一分类模型,得到第一分类结果;
将所述实时***运行特征数据、所述第三特征数据集和所述第四特征数据集输入第二分类模型,得到第二分类结果;以及
根据所述第一分类结果和所述第二分类结果,生成异常检测结果。
2.根据权利要求1所述的方法,其中,所述第一分类模型的训练方法包括:
将所述第一特征数据集和所述第二特征数据集输入第一初始分类模型进行训练,得到第一训练分类结果;
根据所述第一训练分类结果,构建第一混淆矩阵,其中,所述第一混淆矩阵中包括第一分类结果数据、第二分类结果数据和第三分类结果数据;所述第一分类结果数据表征被分类至所述第一特征数据集的历史运行异常特征数据的样本数,所述第二分类结果数据表征被分类至所述第二特征数据集的历史运行异常特征数据的样本数,所述第三分类结果数据表征被分类至所述第一特征数据集的历史运行正常特征数据的样本数;
根据所述第一分类结果数据、所述第二分类结果数据和所述第三分类结果数据,生成所述第一初始分类模型的第一分类性能指标数据;
在所述第一分类性能指标数据满足第一预设条件的情况下,得到训练完成的所述第一分类模型。
3.根据权利要求1所述的方法,其中,所述第二分类模型的训练方法包括:
将所述第三特征数据集和所述第四特征数据集输入第二初始分类模型进行训练,得到第二训练分类结果;
根据所述第二训练分类结果,构建第二混淆矩阵,其中,所述二混淆矩阵中包括第四分类结果数据、第五分类结果数据和第六分类结果数据;所述第四分类结果数据表征被分类至所述第四特征数据集的历史运行异常特征数据的样本数,所述第五分类结果数据表征被分类至所述第三特征数据集的历史运行异常特征数据的样本数,所述第六分类结果数据表征被分类至所述第四特征数据集的历史运行正常特征数据的样本数;
根据所述第四分类结果数据、所述第五分类结果数据和所述第六分类结果数据,生成所述第二初始分类模型的第二分类性能指标数据;
在所述第二分类性能指标数据满足第二预设条件的情况下,得到训练完成的所述第二分类模型。
4.根据权利要求1所述的方法,其中,所述将所述实时***运行数据进行标准化处理,得到实时***运行特征数据,包括:
根据所述实时***运行数据的类型,将所述实时***运行数据进行分类,得到M个实时***运行数据集,其中,M为正整数;
针对每一个实时***运行数据集,计算所述实时***运行数据集中的实时***运行数据的平均值和实时***运行数据的标准差;
根据所述实时***运行数据集中的实时***运行数据和所述平均值、所述标准差,生成所述实时***运行特征数据。
5.根据权利要求1所述的方法,其中,根据所述历史***运行正常特征数据和所述历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集,包括:
基于K近邻算法,根据所述历史***运行异常特征数据,从所述历史运行正常特征数据中采集所述第一近邻样本数据;
根据所述第一近邻样本数据和所述历史***运行异常特征数据,构建所述第一特征数据集;
去除所述历史***运行正常特征数据中的所述第一近邻样本数据,得到所述第二特征数据集,
基于K近邻算法,根据所述历史***运行异常特征数据,从第一特征数据集中采集第二近邻样本数据;
根据所述第二近邻样本数据,构建所述第三特征数据集;
根据所述历史***运行异常特征数据,构建所述第四特征数据集。
6.根据权利要求1所述的方法,其中,根据所述第一分类结果和所述第二分类结果,生成异常检测结果,包括:
在所述第一分类结果为所述实时***运行特征数据被分类至所述第一特征数据集,且所述第二分类结果为所述实时***运行特征数据被分类至所述第四特征数据集的情况下,生成所述异常检测结果为***运行异常;
在所述第一分类结果为所述实时***运行特征数据被分类至所述第一特征数据集,且所述第二分类结果为所述实时***运行特征数据被分类至所述第三特征数据集的情况下,生成所述异常检测结果为***运行正常;
在所述第一分类结果为所述实时***运行特征数据被分类至所述第二特征数据集,且所述第二分类结果为所述实时***运行特征数据被分类至所述第三特征数据集的情况下,生成所述异常检测结果为***运行正常。
7.一种异常检测装置,包括:
获取模块,用于从数据库监控***获取实时***运行数据和历史***运行正常特征数据和历史***运行异常特征数据;
处理模块,用于将所述实时***运行数据进行标准化处理,得到实时***运行特征数据;
构建模块,用于根据所述历史***运行正常特征数据和所述历史***运行异常特征数据,构建第一特征数据集、第二特征数据集、第三特征数据集和第四特征数据集;其中,第一特征数据集包括第一近邻样本数据和所述历史***运行异常特征数据,所述第一近邻样本数据表征在所述历史运行正常特征数据中与所述历史运行异常特征数据近邻的数据;第二特征数据集包括所述历史***运行正常特征数据中去除所述第一近邻样本数据之后剩余的数据;所述第三特征数据集包括第二近邻样本数据;所述第四特征数据集包括所述历史***运行异常特征数据,所述第二近邻样本数据表征在所述第一特征数据集中与所述历史运行异常特征数据近邻的数据;
第一分类模块,用于将所述实时***运行数据、所述第一特征数据集和所述第二特征数据集输入第一分类模型,得到第一分类结果;
第二分类模块,用于将所述实时***运行数据、所述第三特征数据集和所述第四特征数据集输入第二分类模型,得到第二分类结果;以及
生成模块,用于根据所述第一分类结果和所述第二分类结果,生成异常检测结果。
8.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~6中任一项所述的方法。
9.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~6中任一项所述的方法。
10.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210838294.XA CN115269315A (zh) | 2022-07-14 | 2022-07-14 | 一种异常检测方法、装置、设备、介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210838294.XA CN115269315A (zh) | 2022-07-14 | 2022-07-14 | 一种异常检测方法、装置、设备、介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115269315A true CN115269315A (zh) | 2022-11-01 |
Family
ID=83765088
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210838294.XA Pending CN115269315A (zh) | 2022-07-14 | 2022-07-14 | 一种异常检测方法、装置、设备、介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115269315A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115856514A (zh) * | 2023-02-28 | 2023-03-28 | 宝胜高压电缆有限公司 | 一种聚丙烯电缆的智能运行异常监测定位方法及*** |
-
2022
- 2022-07-14 CN CN202210838294.XA patent/CN115269315A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115856514A (zh) * | 2023-02-28 | 2023-03-28 | 宝胜高压电缆有限公司 | 一种聚丙烯电缆的智能运行异常监测定位方法及*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11275642B2 (en) | Tuning context-aware rule engine for anomaly detection | |
CN111290924B (zh) | 监控方法、装置及电子设备 | |
US9811391B1 (en) | Load balancing and conflict processing in workflow with task dependencies | |
CN107392259B (zh) | 构建不均衡样本分类模型的方法和装置 | |
CN114298221A (zh) | 故障确定方法及装置、电子设备和计算机可读存储介质 | |
US11645540B2 (en) | Deep graph de-noise by differentiable ranking | |
CN115913710A (zh) | 异常检测方法、装置、设备及存储介质 | |
CN111581258A (zh) | 一种安全数据分析方法、装置、***、设备及存储介质 | |
CN115269315A (zh) | 一种异常检测方法、装置、设备、介质 | |
CN114202256A (zh) | 架构升级预警方法、装置、智能终端及可读存储介质 | |
CN111582649B (zh) | 基于用户app独热编码的风险评估方法、装置和电子设备 | |
US20220179764A1 (en) | Multi-source data correlation extraction for anomaly detection | |
CN116225848A (zh) | 日志监测方法、装置、设备和介质 | |
CN113791897B (zh) | 一种农信***的服务器基线检测报告的展现方法及*** | |
CN113032237B (zh) | 数据处理方法及装置、电子设备和计算机可读存储介质 | |
CN113656391A (zh) | 数据检测方法及装置、存储介质及电子设备 | |
CN112579429A (zh) | 一种问题定位方法和装置 | |
US20210397538A1 (en) | Diagnosing application problems by learning from fault injections | |
CN113052509B (zh) | 模型评估方法、模型评估装置、电子设备和存储介质 | |
CN115981970B (zh) | 运维数据分析方法、装置、设备和介质 | |
CN116450465B (zh) | 数据处理方法、装置、设备及介质 | |
CN113138903B (zh) | 用于跟踪存储***的性能的方法和设备 | |
CN111274088B (zh) | 大数据平台实时监控方法、装置、介质及电子设备 | |
JP2023011883A (ja) | 事前トレーニングモデルの生成方法、装置、電子機器、記憶媒体およびコンピュータプログラム | |
CN114706856A (zh) | 故障处理方法及装置、电子设备和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |