CN115981970B - 运维数据分析方法、装置、设备和介质 - Google Patents
运维数据分析方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN115981970B CN115981970B CN202310265533.1A CN202310265533A CN115981970B CN 115981970 B CN115981970 B CN 115981970B CN 202310265533 A CN202310265533 A CN 202310265533A CN 115981970 B CN115981970 B CN 115981970B
- Authority
- CN
- China
- Prior art keywords
- data
- feature
- spaces
- database
- local
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种运维数据分析方法、装置、设备和介质,可以应用于计算机技术领域和数据处理技术领域。该方法包括:根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间;针对多个第一数据空间中的每个第一数据空间,对第一数据空间中的多维运维数据进行聚类,得到第一局部特征;对多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间;对多个第一特征空间进行聚类,得到第一全局特征;根据第一全局特征和多个第一局部特征确定数据库的运行状态全局特征和多个第一局部特征确定数据库的运行状态。
Description
技术领域
本发明涉及计算机技术领域和数据处理技术领域,尤其涉及一种运维数据分析方法、装置、设备和介质。
背景技术
在***运维中,不同的***、应用、数据库、中间件会随着时间维度展开生成大量的复杂的多种维度的运维数据信息,运维人员会应用多种算法,依据多维数据进行建模分析,实现状态监控,故障告警、业务分析、根因分析等等。
在实现本发明构思的过程中,发明人发现相关技术中至少存在如下问题:处理多维运维数据的效率低且运维效果差。
发明内容
鉴于上述问题,本发明提供了一种运维数据分析方法、装置、设备和介质。
根据本发明的第一个方面,提供了一种运维数据分析方法,包括:
根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间;
针对上述多个第一数据空间中的每个上述第一数据空间,对上述第一数据空间中的上述多维运维数据进行聚类,得到第一局部特征;
对上述多个第一数据空间各自对应的上述第一局部特征进行聚类,得到多个第一特征空间;
对上述多个第一特征空间进行聚类,得到第一全局特征;
根据上述第一全局特征和多个上述第一局部特征确定上述数据库的运行状态。
根据本发明的实施例,上述方法还包括:
根据专家经验将上述多维运维数据样本分配到多个第二数据空间;
对上述多个第二数据空间中的上述多维运维数据进行聚类,得到第二全局特征;
其中,上述根据上述第一全局特征和多个上述第一局部特征确定上述数据库的运行状态包括:
根据上述第一全局特征、上述第二全局特征和多个上述第一局部特征确定上述数据库的运行状态。
根据本发明的实施例,上述根据上述第一全局特征、上述第二全局特征和多个上述第一局部特征确定上述数据库的运行状态包括:
计算上述第二全局特征与上述第一全局特征的第一相似度;
在上述第一相似度大于第一阈值的情况下,将上述第一全局特征和多个上述第一局部特征输入机器学习算法中,输出上述数据库的运行状态。
根据本发明的实施例,上述方法还包括:
在上述第一相似度小于或等于上述第一阈值的情况下,根据第二预设规则将上述多维运维数据样本分配到多个第三数据空间,上述第三数据空间的数量大于上述第一数据空间的数量;
针对上述多个第三数据空间中的每个上述第三数据空间,对上述第三数据空间中的上述多维运维数据进行聚类,得到第二局部特征;
对上述多个第三数据空间各自对应的上述第二局部特征进行聚类,得到多个第二特征空间;
对上述多个第二特征空间进行聚类,得到第三全局特征;
根据上述第三全局特征和多个上述第二局部特征确定上述数据库的运行状态。
根据本发明的实施例,上述对上述多个第三数据空间各自对应的上述第二局部特征进行聚类,得到多个第二特征空间包括:
对存在相同特征的上述多个第三数据空间各自对应的上述第二局部特征进行聚类,得到上述多个第二特征空间。
根据本发明的实施例,上述针对上述多个第一数据空间中的每个第一数据空间,对上述第一数据空间中的上述多维运维数据进行聚类,得到第一局部特征包括:
计算上述第一数据空间中的上述多维运维数据之间的第二相似度;
在上述第二相似度大于第二阈值的情况下,将与上述第二相似度对应的上述多维数据聚为一类,得到上述第一局部特征。
根据本发明的实施例,上述对上述多个第一数据空间各自对应的上述第一局部特征进行聚类,得到多个第一特征空间包括:
对存在相同特征的上述多个第一数据空间各自对应的上述第一局部特征进行聚类,得到上述多个第一特征空间。
根据本发明的实施例,在上述根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间之前,上述方法还包括:
获取与数据库运行状态相关的原始运维数据;
对上述原始运维数据进行预处理,得到多维运维数据样本。
根据本发明的实施例,上述与数据库运行状态相关的原始运维数据包括:数据库的端口访问量、数据库的内存调用情况,数据库的端口是否受到攻击的情况、数据库的存储量的情况。
本发明的第二方面提供了一种运维数据分析装置,包括:
第一空间分配模块,用于根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间;
第一局部特征得到模块,用于针对上述多个第一数据空间中的每个上述第一数据空间,对上述第一数据空间中的上述多维运维数据进行聚类,得到第一局部特征;
第一特征空间得到模块,用于对上述多个第一数据空间各自对应的上述第一局部特征进行聚类,得到多个第一特征空间;
第一全局特征得到模块,用于对上述多个第一特征空间进行聚类,得到第一全局特征;
运行状态第一确定模块,用于根据上述第一全局特征和多个上述第一局部特征确定上述数据库的运行状态。
本发明的第三方面提供了一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行如上所述的方法。
本发明的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行如上所述的方法。
本发明的第五方面还提供了一种计算机程序产品,计算机程序产品包括计算机可执行指令,计算机可执行指令在被执行时实现如上所述的方法。
根据本发明的实施例,根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间,实现根据第一预设规则将杂乱的多维运维数据样本分配到多个第一数据空间,使得第一数据空间中的多维运维数据样本具有与第一预设规则相对应的特征,然后针对多个第一数据空间中的每个第一数据空间,对第一数据空间中的多维运维数据进行聚类,得到第一局部特征,对多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间,对多个第一特征空间进行聚类,得到第一全局特征,实现通过对与数据库运行状态相关的多维运维数据进行一次聚类得到与数据库运行状态相关的第一局部特征,对第一局部特征进行多次聚类得到第一全局特征,因此至少部分地克服了相关技术中处理多维运维数据的效率低且且运维效果差的技术问题,提高提取第一局部特征与第一全局特征的速度,并且第一局部特征与第一全局特征间内部联系紧密,使得第一全局特征更具全局代表性,因此实现根据第一全局特征和多个第一局部特征快速准确的确定数据库的运行状态。
附图说明
通过以下参照附图对本发明实施例的描述,本发明的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示出了根据本发明实施例的运维数据分析方法的应用场景图;
图2示出了根据本发明实施例的运维数据分析方法的流程图;
图3示出了根据本发明实施例的运维数据分析方法的另一流程图;
图4示出了根据本发明实施例的运维数据分析装置的结构框图;以及
图5示出了根据本发明实施例的适于实现运维数据分析方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本发明的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本发明的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本发明实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本发明的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本发明。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的***”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的***等)。
在本发明的技术方案中,所涉及的数据(如包括但不限于用户个人信息)的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
相关技术在处理多维运维数据的过程中,存在处理多维运维数据的效率低且运维效果差的技术问题。
为了至少部分地解决相关技术中存在的技术问题,本发明提供了一种运维数据分析方法、装置、设备和介质,可以应用于计算机技术领域和数据处理技术领域。该运维数据分析方法包括:根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间;针对多个第一数据空间中的每个第一数据空间,对第一数据空间中的多维运维数据进行聚类,得到第一局部特征;对多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间;对多个第一特征空间进行聚类,得到第一全局特征;根据第一全局特征和多个第一局部特征确定数据库的运行状态局特征和多个第一局部特征确定数据库的运行状态。
图1示出了根据本发明实施例的运维数据分析方法的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括第一终端设备101、第二终端设备102、第三终端设备103、网络104和服务器105。网络104用以在第一终端设备101、第二终端设备102、第三终端设备103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用第一终端设备101、第二终端设备102、第三终端设备103中的至少一个通过网络104与服务器105交互,以接收或发送消息等。第一终端设备101、第二终端设备102、第三终端设备103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
第一终端设备101、第二终端设备102、第三终端设备103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用第一终端设备101、第二终端设备102、第三终端设备103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本发明实施例所提供的运维数据分析方法一般可以由服务器105执行。相应地,本发明实施例所提供的运维数据分析装置一般可以设置于服务器105中。本发明实施例所提供的运维数据分析方法也可以由不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群执行。相应地,本发明实施例所提供的运维数据分析装置也可以设置于不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图3对公开实施例的运维数据分析方法进行详细描述。
图2示出了根据本发明实施例的运维数据分析方法的流程图。
如图2所示,该实施例的运维数据分析方法200包括操作S210~操作S250。
在操作S210,根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间。
根据本发明的实施例,多维运维数据样本包括多个多维运维数据。
根据本发明的实施例,多维运维数据表征对原始运维数据进行了归一化的多个维度的运维数据。
根据本发明的实施例,由于原始运维数据是以时间序列为主要特征的运维数据,因此,在对原始运维数据进行了归一化,得到的与数据库运行状态相关的多维运维数据样本后,与数据库运行状态相关的多维运维数据样本同样也是以时间序列为主要特征的运维数据,因此,可以根据多维运维数据样本中的多维运维数据的生成时间将多维运维数据样本分配到多个第一数据空间。
根据本发明的实施例,第一预设规则可以为多维运维数据的生成时间。例如在对一天中的与数据库运行状态相关的多维运维数据样本进行分析的情况下,可以按小时对多维运维数据样本进行分配,将多维运维数据样本中的多个多维数据分配到24个第一数据空间中。
根据本发明的实施例,例如在对一年中的与数据库运行状态相关的多维运维数据样本进行分析的情况下,可以按月份对多维运维数据样本进行分配,将多维运维数据样本中的多个多维数据分配到12个第一数据空间中。
根据本发明的实施例,在第一预设规则为多维运维数据的生成时间的情况下,可以根据实际情况对多维运维数据样本进行细分,细分规则不限于一小时,一个月等。
根据本发明的实施例,数据库运行状态可以包括与数据库的端口访问状况、内存调用状况、数据存储状况等。
根据本发明的实施例,第一数据空间表征具有与第一预设规则相对应的特征的多个多维运维数据组成的数据集。
根据本发明的实施例,还可以根据数据库运行状态中的某一状态对多维运维数据样本进行细分,将多维运维数据样本分配到多个第一数据空间。例如在数据库运行状态包括数据库的内存利用率的情况下,可以将数据库的内存利用率作为多维运维数据中的一维数据,可以对数据库的内存利用率进行细分将多维运维数据样本分配到多个第一数据空间。
根据本发明的实施例,在根据数据库的内存利用率将多维运维数据样本分配到多个第一数据空间的情况下,数据库的内存利用率的取值范围在0至100%之间,例如可以将包括0至20%的内存利用率的多维运维数据划分到第一个第一数据空间,将包括20%至40%的内存利用率的多维运维数据划分到第二个第一数据空间,将包括40%至60%的内存利用率的多维运维数据划分到第三个第一数据空间,将包括60%至80%的内存利用率的多维运维数据划分到第四个第一数据空间,将包括80%至100%的内存利用率的多维运维数据划分到第五个第一数据空间,得到5个第一数据空间。
根据本发明的实施例,根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间,可以实现根据第一预设规则将杂乱的多维运维数据样本分配到多个第一数据空间,使得第一数据空间中的多维运维数据样本具有与第一预设规则相对应的特征。
在操作S220,针对多个第一数据空间中的每个第一数据空间, 对第一数据空间中的多维运维数据进行聚类,得到第一局部特征。
根据本发明的实施例,可以利用马氏距离(Mahalanobis Distance)、欧氏距离、曼哈顿距离、汉明距离、Kmeans、马氏距离结合k均值聚类算法(k-means clusteringalgorithm,Kmeans)、欧氏距离结合Kmeans、曼哈顿距离结合Kmeans或汉明距离结合Kmeans等对第一数据空间中的多维运维数据进行聚类,得到第一局部特征,本发明的实施例不对具体的聚类算法做限定,可以根据实际情况进行选择。
在操作S230,对多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间。
根据本发明的实施例,可以在多个第一数据空间各自对应的第一局部特征之间存在相同或相似度大于预设相似度阈值的特征的情况下,对多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间。
根据本发明的实施例,第一特征空间表征具有周期性特征的多个多维数据组成的数据集。
根据本发明的实施例,可以利用马氏距离、欧氏距离、曼哈顿距离、汉明距离、Kmeans、马氏距离结合Kmeans、欧氏距离结合Kmeans、曼哈顿距离结合Kmeans或汉明距离结合Kmeans等对多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间,本发明的实施例不对具体的聚类算法做限定,可以根据实际情况进行选择。
根据本发明的实施例,例如,与第一个第一数据空间对应的第一局部特征和与第二个第一数据空间对应的第一局部特征之间存在相同的多维运维数据作为相同的特征的情况下,可以对与第一个第一数据空间对应的第一局部特征和与第二个第一数据空间对应的第一局部特征中的多维运维数据进行聚类,得到第一个第一特征空间。
根据本发明的实施例,例如,与第一个第一数据空间对应的第一局部特征、与第二个第一数据空间对应的第一局部特征和与第三个第一数据空间对应的第一局部特征之间存在相同的多维运维数据作为相同的特征的情况下,可以对第一个第一数据空间对应的第一局部特征、与第二个第一数据空间对应的第一局部特征和与第三个第一数据空间对应的第一局部特征中的多维运维数据进行聚类,得到第二个第一特征空间。
在操作S240,对多个第一特征空间进行聚类,得到第一全局特征。
根据本发明的实施例,可以利用马氏距离、欧氏距离、曼哈顿距离、汉明距离、Kmeans、马氏距离结合Kmeans、欧氏距离结合Kmeans、曼哈顿距离结合Kmeans或汉明距离结合Kmeans等对多个第一特征空间进行聚类,得到第一全局特征,本发明的实施例不对具体的聚类算法做限定,可以根据实际情况进行选择。
根据本发明的实施例,得到第一局部特征的聚类算法、得到多个第一特征空间的聚类算法和得到第一全局特征的聚类算法可以相同,也可以不同,具体的用于得到第一局部特征的聚类算法、用于得到多个第一特征空间的聚类算法和用于得到第一全局特征的聚类算法可以根据实际情况进行选择。
在操作S250,根据第一全局特征和多个第一局部特征确定数据库的运行状态。
根据本发明的实施例,根据第一全局特征和多个第一局部特征确定的数据库的运行状态可以为数据库的端口访问量在哪个时间段过高,数据库的内存占用率在哪个时间段过高,数据库存储量是否达到预设最高值,数据库的存储量的平均每天或每月的增加量是多少,数据库在哪个时间段受到攻击量较大。
根据本发明的实施例,运维人员通过查看根据第一全局特征和多个第一局部特征确定的数据库的运行状态,对数据库进行合理维护。
根据本发明的实施例,可以将第一全局特征和多个第一局部特征输入训练好的机器学习算法中,根据机器学习算法输出的结果确定数据库的运行状态。
根据本发明的实施例,还可以利用根据人工经验得到的全局特征对第一全局特征进行验证,在第一全局特征符合验证要求的情况下,例如根据人工经验得到的全局特征与第一全局特征相似度大于第一相似度阈值的情况下,再将第一全局特征和多个第一局部特征输入训练好的机器学习算法中,根据机器学习算法输出的结果确定数据库的运行状态。
根据本发明的实施例,在第一全局特征不符合验证要求的情况下,例如根据人工经验得到的全局特征与第一全局特征相似度小于等于第一相似度阈值的情况下,使用比第一预设规则粒度更细的规则,对与数据库运行状态相关的多维运维数据样本进行更细致的分配,然后重新计算第n局部特征、第n特征空间以及第n全局特征,直至第n全局特征符合验证要求,找到最优全局特征,使得第n全局特征更具全局代表性,然后再将第n全局特征和与第n全局特征对应的多个第n局部特征输入训练好的机器学习算法中,根据机器学习算法输出的结果确定数据库的运行状态,n表征循环计算的次数,第一相似度阈值可以根据实际情况进行选择,以保证经过多次循环使得根据人工经验得到的全局特征与第n全局特征符合验证要求。
根据本发明的实施例,第n局部特征与第一局部特征相对应,第n特征空间与第一特征空间相对应以及第n全局特征与第一全局特征相对应。
根据本发明的实施例,在第一全局特征不符合验证要求的情况下,还可以对人工经验得到的全局特征进行多次调整,使得多次调整后的人工经验得到的全局特征与第一全局特征符合验证要求,找到最优全局特征,此时认为第一全局特征更具全局代表性,然后再将第一全局特征和多个第一局部特征输入训练好的机器学习算法中,根据机器学习算法输出的结果确定数据库的运行状态。
根据本发明的实施例,在第一全局特征不符合验证要求的情况下,还可以先对人工经验得到的全局特征进行多次调整,在对人工经验得到的全局特征进行多次调整,仍然不能使第一全局特征符合验证要求的情况下,使用比第一预设规则粒度更细的规则,对与数据库运行状态相关的多维运维数据样本进行更细致的分配,然后重新计算第n局部特征、第n特征空间以及第n全局特征,直至第n全局特征符合验证要求,找到最优全局特征,使得第n全局特征更具全局代表性,然后再将第n全局特征和与第n全局特征对应的多个第n局部特征输入训练好的机器学习算法中,根据机器学习算法输出的结果确定数据库的运行状态,其中,n表征循环计算的次数。
根据本发明的实施例,在第一全局特征不符合验证要求的情况下,可以在多个第一特征空间之间存在相同或相似度大于预设相似度阈值的特征的情况下,对多个第一特征空间进行聚类,得到多个第二特征空间,然后在多个第二特征空间之间存在相同或相似度大于预设相似度阈值的特征的情况下,对多个第二特征空间进行聚类,得到多个第三特征空间,以此类推,得到多个第i特征空间,使得多个第i特征空间更具局部特征代表性,通过对多个第i特征空间进行聚类,得到第i全局特征,使得第i全局特征符合验证要求,找到最优全局特征,使得第i全局特征更具全局代表性,然后再将第i全局特征和与第i全局特征对应的多个第i局部特征输入训练好的机器学习算法中,根据机器学习算法输出的结果确定数据库的运行状态,其中,i表征对第一特征空间进行聚类的次数,i可以根据实际情况进行选择。
根据本发明的实施例,本发明实施例提供的运维数据分析方法实现通过对与数据库运行状态相关的多维运维数据进行一次聚类得到与数据库运行状态相关的第一局部特征,对第一局部特征进行多次聚类得到第一全局特征,因此至少部分地克服了相关技术中处理多维运维数据的效率低且且运维效果差的技术问题,提高提取第一局部特征与第一全局特征的速度,并且第一局部特征与第一全局特征间内部联系紧密,使得第一全局特征更具全局代表性,因此实现根据第一全局特征和多个第一局部特征快速准确的确定数据库的运行状态。
根据本发明的实施例,本发明实施例提供的运维数据分析方法实现通过对与数据库运行状态相关的多维运维数据进行一次聚类得到与数据库运行状态相关的第一局部特征,对第一局部特征进行多次聚类得到第一全局特征,可以强捕捉到时序运维数据当中的周期性特征,得到价值更高的维度的全局特征,并将价值更高的维度的全局特征提供给下游算法,得到更精准的数据库的运行状态。
根据本发明的实施例,运维数据分析方法200还包括如下操作:
根据专家经验将多维运维数据样本分配到多个第二数据空间;
对多个第二数据空间中的多维运维数据进行聚类,得到第二全局特征;
其中,根据第一全局特征和多个第一局部特征确定数据库的运行状态包括:
根据第一全局特征、第二全局特征和多个第一局部特征确定数据库的运行状态。
根据本发明的实施例,可以根据专家经验确定多维运维数据样本中的多个多维运维数据的相同或相似的数据特征,然后根据相同或相似的数据特征将多维运维数据样本中的具有特征代表性的多维运维数据分配到多个第二数据空间。
根据本发明的实施例,可以利用马氏距离、欧氏距离、曼哈顿距离、汉明距离、Kmeans、马氏距离结合Kmeans、欧氏距离结合Kmeans、曼哈顿距离结合Kmeans或汉明距离结合Kmeans等对多个第二数据空间中的多维运维数据进行聚类,得到第二全局特征,本发明的实施例不对具体的聚类算法做限定,可以根据实际情况进行选择。
根据本发明的实施例,根据专家经验将多维运维数据样本分配到多个第二数据空间,对多个第二数据空间中的多维运维数据进行聚类,得到第二全局特征,为后续利用第二全局特征对第一全局特征的进行准确性验证做准备。
根据本发明的实施例,根据第一全局特征、第二全局特征和多个第一局部特征确定数据库的运行状态包括 :
计算第二全局特征与第一全局特征的第一相似度;
在第一相似度大于第一阈值的情况下,将第一全局特征和多个第一局部特征输入机器学习算法中,输出数据库的运行状态。
根据本发明的实施例,可以利用马氏距离计算第二全局特征与第一全局特征的第一相似度,还可以利用杰卡德相似系数计算第二全局特征与第一全局特征的第一相似度,本发明的实施例不对计算第二全局特征与第一全局特征的第一相似度的具体方法做限定,可以根据实际情况进行选择。
根据本发明的实施例,例如可以利用马氏距离计算第二全局特征与第一全局特征的第一相似度,可以根据马氏距离先计算第二全局特征中包括的多个多维运维数据的平均值及协方差,然后根据平均值及协方差计算第一全局特征中的包括的多个多维运维数据中的每个多维运维数据与第二全局特征间的距离,得到多个第二全局特征距离,然后对多个第二全局特征距离求平均值,将平均值映射到0至1之间,平均值越小映射的值越大,将平均值映射到0至1之间的值作为第二全局特征与第一全局特征的第一相似度,在第一相似度大于第一阈值的情况下,将第一全局特征和多个第一局部特征输入机器学习算法中,输出数据库的运行状态。
根据本发明的实施例,第一阈值根据第一相似度的尺度进行相应设置,在第一相似度在0至1之间变化的情况下,第一阈值例如可以取值为0.7、0.8或0.9等。
根据本发明的实施例,计算第二全局特征与第一全局特征的第一相似度,在第一相似度大于第一阈值的情况下,将第一全局特征和多个第一局部特征输入机器学习算法中,输出数据库的运行状态,实现利用第二全局特征对第一全局特征的进行准确性验证,找到最优第一全局特征,使得第一全局特征更具全局代表性,因此,根据第一全局特征和多个第一局部特征得到的数据库的运行状态更准确。
根据本发明的实施例,运维数据分析方法200还包括:
在第一相似度小于或等于第一阈值的情况下,根据第二预设规则将多维运维数据样本分配到多个第三数据空间,第三数据空间的数量大于第一数据空间的数量;
针对多个第三数据空间中的每个第三数据空间,对第三数据空间中的多维运维数据进行聚类,得到第二局部特征;
对多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间;
对多个第二特征空间进行聚类,得到第三全局特征;
根据第三全局特征和多个第二局部特征确定数据库的运行状态。
根据本发明的实施例,第二预设规则表征比第一预设规则粒度更细的规则。
根据本发明的实施例,例如在对一天中的与数据库运行状态相关的多维运维数据样本进行分析的情况下,第一预设规则可以根据每小时对多维运维数据样本进行分配,将多维运维数据样本中的多个多维数据分配到24个第一数据空间中,而第二预设规则可以根据每半个小时对多维运维数据样本进行分配,将多维运维数据样本中的多个多维数据分配到48个第三数据空间中。
根据本发明的实施例,例如在对一年中的与数据库运行状态相关的多维运维数据样本进行分析的情况下,第一预设规则可以按月份对多维运维数据样本进行分配,将多维运维数据样本中的多个多维数据分配到12个第一数据空间中,第二预设规则可以按半个月份对多维运维数据样本进行分配,将多维运维数据样本中的多个多维数据分配到24个第三数据空间中。
根据本发明的实施例,例如在根据数据库的内存利用率将多维运维数据样本分配到多个第一数据空间的情况下,数据库的内存利用率的取值范围在0至100%之间,第一预设规则可以为根据内存利用率区间0至20%,20%至40%,40%至60%,60%至80%,80%至100%将多维运维数据样本划分到第五个第一数据空间中,而第二预设规则可以为根据内存利用率区间0至10%,10%至20%,20%至30%,30%至40%,40%至50%,50%至60%,60%至70%,70%至80%,80%至90%,90%至100%将多维运维数据样本划分到第十个第三数据空间中。
根据本发明的实施,在第一相似度小于或等于第一阈值的情况下,根据第二预设规则将多维运维数据样本分配到多个第三数据空间,第三数据空间的数量大于第一数据空间的数量,实现根据第二预设规则对多维运维数据样本进行更细粒度的分配,使得第三数据空间中的多维运维数据样本具有与第二预设规则相对应的特征。
根据本发明的实施例,可以利用马氏距离、欧氏距离、曼哈顿距离、汉明距离、Kmeans、马氏距离结合Kmeans、欧氏距离结合Kmeans、曼哈顿距离结合Kmeans或汉明距离结合Kmeans等对第三数据空间中的多维运维数据进行聚类,得到第二局部特征,本发明的实施例不对具体的聚类算法做限定,可以根据实际情况进行选择。
根据本发明的实施例,可以在多个第三数据空间各自对应的第二局部特征之间存在相同或相似度大于预设相似度阈值的特征的情况下,对多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间。
根据本发明的实施例,可以利用马氏距离、欧氏距离、曼哈顿距离、汉明距离、Kmeans、马氏距离结合Kmeans、欧氏距离结合Kmeans、曼哈顿距离结合Kmeans或汉明距离结合Kmeans等对多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间,本发明的实施例不对具体的聚类算法做限定,可以根据实际情况进行选择。
根据本发明的实施例,例如,与第一个第三数据空间对应的第二局部特征和与第二个第三数据空间对应的第二局部特征之间存在相同的多维运维数据作为相同的特征的情况下,可以对与第一个第三数据空间对应的第二局部特征和与第二个第三数据空间对应的第二局部特征中的多维运维数据进行聚类,得到第一个第二特征空间。
根据本发明的实施例,可以利用马氏距离、欧氏距离、曼哈顿距离、汉明距离、Kmeans、马氏距离结合Kmeans、欧氏距离结合Kmeans、曼哈顿距离结合Kmeans或汉明距离结合Kmeans等对多个第二特征空间进行聚类,得到第三全局特征,本发明的实施例不对具体的聚类算法做限定,可以根据实际情况进行选择。
根据本发明的实施例,得到第二局部特征的聚类算法、得到多个第二特征空间的聚类算法和得到第三全局特征的聚类算法可以相同,也可以不同,具体的得到第二局部特征的聚类算法、得到多个第二特征空间的聚类算法和得到第三全局特征的聚类算法可以根据实际情况进行选择。
根据本发明的实施例,根据第三全局特征和多个第二局部特征确定的数据库的运行状态可以为数据库的端口访问量在哪个时间段过高,数据库的内存占用率在哪个时间段过高,数据库存储量是否达到预设最高值,数据库的存储量的平均每天或每月的增加量是多少,数据库在哪个时间段受到攻击量较大。
根据本发明的实施例,运维人员通过查看根据第三全局特征和多个第二局部特征确定的数据库的运行状态,对数据库进行合理维护。
根据本发明的实施例,可以将第三全局特征和多个第二局部特征输入训练好的机器学习算法中,根据机器学习算法输出的结果确定数据库的运行状态。
根据本发明的实施例,还可以利用根据人工经验得到的全局特征对第三全局特征进行验证,在第三全局特征符合验证要求的情况下,例如根据人工经验得到的全局特征与第三全局特征相似度大于第一相似度阈值的情况下,再将第三全局特征和多个第一局部特征输入训练好的机器学习算法中,根据机器学习算法输出的结果确定数据库的运行状态。
根据本发明的实施例,通过在第一相似度小于或等于第一阈值的情况下,根据第二预设规则将多维运维数据样本分配到多个第三数据空间,第三数据空间的数量大于第一数据空间的数量,实现根据第二预设规则对多维运维数据样本进行更细粒度的分配,使得第三数据空间中的多维运维数据样本具有与第二预设规则相对应的特征,然后针对多个第三数据空间中的每个第三数据空间,对第三数据空间中的多维运维数据进行聚类,得到第二局部特征,对多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间,使得第二特征空间中包括的多维运维数据的周期性特征更明显,然后对多个第二特征空间进行聚类,得到第三全局特征,得到更具全局代表性的第三全局特征,提高根据第三全局特征和多个第二局部特征确定的数据库的运行状态的准确度。
根据本发明的实施例,对多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间包括:
对存在相同特征的多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间。
根据本发明的实施例,相同特征表征与多个第三数据空间各自对应的第二局部特征中包括相同的多维运维数据作为相同的特征。
根据本发明的实施例,例如可以利用马氏距离对对存在相同特征的多个第刹车数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间。
根据本发明的实施例,例如可以先利用马氏距离算法对存在相同特征的多个第三数据空间各自对应的第二局部特征中包括的多个多维运维数据计算均值及协方差,然后根据马氏距离计算公式,利用该均值及协方差对存在相同特征的多个第三数据空间各自对应的第二局部特征中包括的多个多维运维数据分别计算距离,将距离小于第二特征空间阈值的多维运维数据聚为一类,得到第二特征空间。
根据本发明的实施例,例如多个第三数据空间的数量可以为3,与第一个第三数据空间对应的为第二局部特征1,与第二个第三数据空间对应的为第二局部特征2,与第三个第三数据空间对应的为第二局部特征3。
根据本发明的实施例,例如,在第二局部特征1与第二局部特征2之间存在相同的多维运维数据作为相同特征,第二局部特征2与第二局部特征3之间存在相同的多维运维数据作为相同特征的情况下,可以利用马氏距离对第二局部特征1与第二局部特征2进行聚类,得到第二特征空间1,对第二局部特征2与第二局部特征3进行聚类得到第二特征空间2。
根据本发明的实施例,对存在相同特征的多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间,使得第二特征空间中包括的多维运维数据的周期性特征更明显。
根据本发明的实施例,针对操作S220,针对多个第一数据空间中的每个第一数据空间,对第一数据空间中的多维运维数据进行聚类,得到第一局部特征,可以包括如下操作:
计算第一数据空间中的多维运维数据之间的第二相似度;
在第二相似度大于第二阈值的情况下,将与第二相似度对应的多维数据聚为一类,得到第一局部特征。
根据本发明的实施例,例如可以利用马氏距离计算第一数据空间中的多维运维数据之间的第二相似度,可以根据马氏距离计算第一数据空间中包括的的多维运维数据中的平均值及协方差,然后根据平均值及协方差计算第一数据空间中的多维运维数据的每个多维运维数据与第一数据空间的距离,将距离映射到0至1之间,距离越小映射的值越大,将距离映射到0至1之间的值作为第二相似度,在第二相似度大于第二阈值的情况下,将与第二相似度对应的多维数据聚为一类,得到第一局部特征。
根据本发明的实施例,第二阈值根据第二相似度的尺度进行相应设置,在第二相似度在0至1之间变化的情况下,第二阈值例如可以取值为0.7、0.8或0.9等。
根据本发明的实施例,通过计算第一数据空间中的多维运维数据之间的第二相似度,在第二相似度大于第二阈值的情况下,将与第二相似度对应的多维数据聚为一类,得到第一局部特征,实现将第一数据空间中关联关系较紧密的多个多维运维数据聚集到第一局部特征,使得第一局部特征中的数据更具局部代表性。
根据本发明的实施例,针对操作S230,对多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间,可以包括如下操作:
对存在相同特征的多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间。
根据本发明的实施例,相同特征表征与多个第一数据空间各自对应的第一局部特征中包括相同的多维运维数据作为相同的特征。
根据本发明的实施例,例如可以利用马氏距离对对存在相同特征的多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间。
根据本发明的实施例,例如可以先利用马氏距离算法对存在相同特征的多个第一数据空间各自对应的第一局部特征中包括的多个多维运维数据计算均值及协方差,然后根据马氏距离计算公式,利用该均值及协方差对存在相同特征的多个第一数据空间各自对应的第一局部特征中包括的多个多维运维数据分别计算距离,将距离小于第一特征空间阈值的多维运维数据聚为一类,得到第一特征空间。
根据本发明的实施例,例如多个第一数据空间的数量为5,与第一个第一数据空间对应的为第一局部特征1,与第二个第一数据空间对应的为第一局部特征2,与第三个第一数据空间对应的为第一局部特征3,与第四个第一数据空间对应的为第一局部特征4,与第五个第一数据空间对应的为第一局部特征5。
根据本发明的实施例,例如,在第一局部特征1与第一局部特征2之间存在相同的多维运维数据作为相同特征,第一局部特征2、第一局部特征3与第一局部特征4之间存在相同的多维运维数据作为相同特征,第一局部特征4与第一局部特征5之间存在相同的多维运维数据作为相同特征的情况下,可以利用马氏距离对第一局部特征1与第一局部特征2进行聚类,得到第一特征空间1,对第一局部特征2、第一局部特征3与第一局部特征4进行聚类得到第一特征空间2,对第一局部特征4与第一局部特征5进行聚类得到第一特征空间3。
根据本发明的实施例,对存在相同特征的多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间,使得第一特征空间中包括的多维运维数据的周期性特征更明显。
根据本发明的实施例,在根据第一预设规则将与数据库运行状态相关的多维数据样本分配到多个第一数据空间之前,运维数据分析方法200方法还包括如下操作:
获取与数据库运行状态相关的原始运维数据;
对原始运维数据进行预处理,得到多维运维数据样本。
根据本发明的实施例,原始运维数据可以为数据库输出的日志类型的运维数据,还可以为检测软件对数据库进行实时检测得到的运维数据。
根据本发明的实施例,原始运维数据为以时间序列为主要特征的运维大数据。
根据本发明的实施例,对原始运维数据进行预处理包括对原始运维数据进行维度划分及数据归一化处理。
根据本发明的实施例,对原始运维数据进行归一化处理可以为对原始运维数据中不同维度的数据的尺度进行统一的操作。
根据本发明的实施例,例如在原始运维数据存在4种类型的运维数据的情况下,4种类型的运维数据分为为A、B、C、D,此时,可以将与A类型对应的数据放到多维运维数据的第一维,将与B类型对应的数据放到多维运维数据的第二维,将与C类型对应的数据放到多维运维数据的第三维,将与D类型对应的数据放到多维运维数据的第四维,然后对多维运维数据进行归一化,得到多维运维数据样本。
根据本发明的实施例,通过对原始运维数据进行预处理,得到多维运维数据样本,得到归一化的多个多维运维数据,使得后续可以利用聚类算法对多维运维数据样本中的多个多维运维数据进行统一处理。
根据本发明的实施例,与数据库运行状态相关的原始运维数据包括:数据库的端口访问量、数据库的内存调用情况,数据库的端口是否受到攻击的情况、数据库的存储量的情况。
图3示出了根据本发明实施例的运维数据分析方法的另一流程图。
由图3可知,运维数据分析方法包括获取与数据库运行状态相关的原始运维数据311,对原始运维数据311进行预处理,得到多维数据样本321,然后根据第一预设规则将多维数据样本321分配到多个第一数据空间中,得到第一数据空间1(331),第一数据空间2(332),第一数据空间n(333),然后利用聚类算法(例如马氏距离)对第一数据空间1(331)进行聚类得到第一局部特征1(341),对第一数据空间2(332)进行聚类得到第一局部特征2(342),对第一数据空间n(333)进行聚类得到第一局部特征n(343)。
由图3可知,在多个第一局部特征之间存在相同或相似度大于预设相似度阈值的特征的情况下,对多个第一局部特征进行聚类,得到多个第一特征空间,多个第一特征空间包括第一特征空间1(351),第一特征空间2(352)一直到第一特征空间n(353)。
由图3可知,第一局部特征1(341)与第一局部特征2(342)之间存在相同的多维运维数据作为相同的特征,第一局部特征1(341)与第一局部特征n(343)之间存在相同的多维运维数据作为相同的特征,第一局部特征2(342)与第一局部特征n(343)之间存在相同的多维运维数据作为相同的特征,利用聚类算法(例如马氏距离)对第一局部特征1(341)与第一局部特征2(342)进行聚类得到第一特征空间1(351),对第一局部特征1(341)与第一局部特征n(343)进行聚类,得到第一特征空间k(353),对第一局部特征2(342)与第一局部特征n(343)进行聚类得到第一特征空间2(352)。
由图3可知,利用聚类算法(例如马氏距离加Kmeans)对多个第一特征空间进行聚类,得到第一全局特征361。
由图3可知,根据专家经验将多维运维数据样本321分配到多个第二数据空间,然后对多个第二数据空间中的多维运维数据进行聚类,得到第二全局特征371。
由图3可知,利用第二全局特征371对第一全局特征361进行相似度判断,在第一全局特征361与第二全局特征371的相似度大于预设阈值的情况下,将第一全局特征361作为最优全局全局特征382,将与第一全局特征361相对应的第一局部特征作为最优局部特征381,将最优全局全局特征382以及最优局部特征381输入机器学习算法中,输出数据库的运行状态391。
根据本发明的实施例,由图3可知本发明实施例提供的运维数据分析方法通过对与数据库运行状态相关的多维运维数据进行一次聚类得到与数据库运行状态相关的第一局部特征,对第一局部特征进行多次聚类得到第一全局特征,因此至少部分地克服了相关技术中处理多维运维数据的效率低且运维效果差的技术问题,提高提取第一局部特征与第一全局特征的速度,并且第一局部特征与第一全局特征间内部联系紧密,使得第一全局特征更具全局代表性,因此实现根据第一全局特征和多个第一局部特征快速准确的确定数据库的运行状态。
图4示出了根据本发明实施例的运维数据分析装置的结构框图。
如图4所示,该实施例的运维数据分析装置400包括第一空间分配模块410、第一局部特征得到模块420、第一特征空间得到模块430、第一全局特征得到模块440和运行状态确定模块450。
第一空间分配模块410,用于根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间。
第一局部特征得到模块420,用于针对多个第一数据空间中的每个第一数据空间,对第一数据空间中的多维运维数据进行聚类,得到第一局部特征。
第一特征空间得到模块430,用于对多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间。
第一全局特征得到模块440,用于对多个第一特征空间进行聚类,得到第一全局特征;
运行状态第一确定模块450,用于根据第一全局特征和多个第一局部特征确定数据库的运行状态。
根据本发明的实施例,运维数据分析装置400还包括 :
第二空间分配模块,用于根据专家经验将多维运维数据样本分配到多个第二数据空间。
第二全局特征得到模块,用于对多个第二数据空间中的多维运维数据进行聚类,得到第二全局特征。
其中,运行状态确定模块450包括运行状态得到子模块。
运行状态得到子模块,用于根据第一全局特征、第二全局特征和多个第一局部特征确定数据库的运行状态。
根据本发明的实施例,运行状态得到子模块包括 :
第一相似度计算单元,用于计算第二全局特征与第一全局特征的第一相似度。
运行状态输出单元,用于在第一相似度大于第一阈值的情况下,将第一全局特征和多个第一局部特征输入机器学习算法中,输出数据库的运行状态。
根据本发明的实施例,运维数据分析装置400还包括:
第三空间分配模块,用于在第一相似度小于或等于第一阈值的情况下,根据第二预设规则将多维运维数据样本分配到多个第三数据空间,第三数据空间的数量大于第一数据空间的数量。
第二局部特征得到模块,用于针对多个第三数据空间中的每个第三数据空间,对第三数据空间中的多维运维数据进行聚类,得到第二局部特征。
第二特征空间得到模块,用于对多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间;
第三全局特征得到模块,用于对多个第二特征空间进行聚类,得到第三全局特征;
运行状态第二确定模块,用于根据第三全局特征和多个第二局部特征确定数据库的运行状态。
根据本发明的实施例,第二特征空间得到模块包括第二特征空间得到子模块。
第二特征空间得到子模块,用于对存在相同特征的多个第三数据空间各自对应的第二局部特征进行聚类,得到多个第二特征空间。
根据本发明的实施例,第一局部特征得到模块420包括第二相似度计算子模块以及第一局部特征得到子模块。
第二相似度计算子模块,用于计算第一数据空间中的多维数据之间的第二相似度;
第一局部特征得到子模块,用于在第二相似度大于第二阈值的情况下,将与第二相似度对应的多维数据聚为一类,得到第一局部特征。
根据本发明的实施例,第一特征空间得到模块包括第一特征空间得到子模块。
第一特征空间得到子模块,用于对存在相同特征的多个第一数据空间各自对应的第一局部特征进行聚类,得到多个第一特征空间。
根据本发明的实施例,在根据第一预设规则将与数据库运行状态相关的多维数据样本分配到多个第一数据空间之前,运维数据分析装置400还包括原始运维数据获取模块以及多维运维数据样本获取模块。
原始运维数据获取模块,用于获取与数据库运行状态相关的原始运维数据;
多维运维数据样本获取模块,用于对原始运维数据进行预处理,得到多维运维数据样本。
根据本发明的实施例,与数据库运行状态相关的原始运维数据包括:数据库的端口访问量、数据库的内存调用情况,数据库的端口是否受到攻击的情况、数据库的存储量的情况。
根据本发明的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本发明实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本发明实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上***、基板上的***、封装上的***、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本发明实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,第一空间分配模块410、第一局部特征得到模块420、第一特征空间得到模块430、第一全局特征得到模块440和运行状态确定模块450中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本发明的实施例,第一空间分配模块410、第一局部特征得到模块420、第一特征空间得到模块430、第一全局特征得到模块440和运行状态确定模块450中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上***、基板上的***、封装上的***、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一空间分配模块410、第一局部特征得到模块420、第一特征空间得到模块430、第一全局特征得到模块440和运行状态确定模块450中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本发明的实施例中运维数据分析装置部分与本发明的实施例中运维数据分析方法部分是相对应的,运维数据分析装置部分的描述具体参考运维数据分析方法部分,在此不再赘述。
图5示出了根据本发明实施例的适于实现运维数据分析方法的电子设备的方框图。
如图5所示,根据本发明实施例的电子设备500包括处理器501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。处理器501例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器501还可以包括用于缓存用途的板载存储器。处理器501可以包括用于执行根据本发明实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 503中,存储有电子设备500操作所需的各种程序和数据。处理器 501、ROM502以及RAM 503通过总线504彼此相连。处理器501通过执行ROM 502和/或RAM 503中的程序来执行根据本发明实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 502和RAM 503以外的一个或多个存储器中。处理器501也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本发明实施例的方法流程的各种操作。
根据本发明的实施例,电子设备500还可以包括输入/输出(I/O)接口505,输入/输出(I/O)接口505也连接至总线504。电子设备500还可以包括连接至I/O接口505的以下部件中的一项或多项:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
本发明还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/***中所包含的;也可以是单独存在,而未装配入该设备/装置/***中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本发明实施例的方法。
根据本发明的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。例如,根据本发明的实施例,计算机可读存储介质可以包括上文描述的ROM 502和/或RAM 503和/或ROM 502和RAM503以外的一个或多个存储器。
本发明的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机***中运行时,该程序代码用于使计算机***实现本发明实施例所提供的运维数据分析方法。
在该计算机程序被处理器501执行时执行本发明实施例的***/装置中限定的上述功能。根据本发明的实施例,上文描述的***、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分509被下载和安装,和/或从可拆卸介质511被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被处理器501执行时,执行本发明实施例的***中限定的上述功能。根据本发明的实施例,上文描述的***、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本发明的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本发明实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本发明的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本发明中。特别地,在不脱离本发明精神和教导的情况下,本发明的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本发明的范围。
以上对本发明的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本发明的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本发明的范围由所附权利要求及其等同物限定。不脱离本发明的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本发明的范围之内。
Claims (12)
1.一种运维数据分析方法,其特征在于,所述方法包括:
根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间;
针对所述多个第一数据空间中的每个所述第一数据空间,对所述第一数据空间中的所述多维运维数据进行聚类,得到第一局部特征;
对所述多个第一数据空间各自对应的所述第一局部特征进行聚类,得到多个第一特征空间;
对所述多个第一特征空间进行聚类,得到第一全局特征;
根据所述第一全局特征和多个所述第一局部特征确定所述数据库的运行状态。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据专家经验将所述多维运维数据样本分配到多个第二数据空间;
对所述多个第二数据空间中的所述多维运维数据进行聚类,得到第二全局特征;
其中,所述根据所述第一全局特征和多个所述第一局部特征确定所述数据库的运行状态包括:
根据所述第一全局特征、所述第二全局特征和多个所述第一局部特征确定所述数据库的运行状态。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一全局特征、所述第二全局特征和多个所述第一局部特征确定所述数据库的运行状态包括:
计算所述第二全局特征与所述第一全局特征的第一相似度;
在所述第一相似度大于第一阈值的情况下,将所述第一全局特征和多个所述第一局部特征输入机器学习算法中,输出所述数据库的运行状态。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
在所述第一相似度小于或等于所述第一阈值的情况下,根据第二预设规则将所述多维运维数据样本分配到多个第三数据空间,所述第三数据空间的数量大于所述第一数据空间的数量;
针对所述多个第三数据空间中的每个所述第三数据空间,对所述第三数据空间中的所述多维运维数据进行聚类,得到第二局部特征;
对所述多个第三数据空间各自对应的所述第二局部特征进行聚类,得到多个第二特征空间;
对所述多个第二特征空间进行聚类,得到第三全局特征;
根据所述第三全局特征和多个所述第二局部特征确定所述数据库的运行状态。
5.根据权利要求4所述的方法,其特征在于,所述对所述多个第三数据空间各自对应的所述第二局部特征进行聚类,得到多个第二特征空间包括:
对存在相同特征的所述多个第三数据空间各自对应的所述第二局部特征进行聚类,得到所述多个第二特征空间。
6.根据权利要求1所述的方法,其特征在于,所述针对所述多个第一数据空间中的每个第一数据空间,对所述第一数据空间中的所述多维运维数据进行聚类,得到第一局部特征包括:
计算所述第一数据空间中的所述多维运维数据之间的第二相似度;
在所述第二相似度大于第二阈值的情况下,将与所述第二相似度对应的所述多维运维数据聚为一类,得到所述第一局部特征。
7.根据权利要求1所述的方法,其特征在于,所述对所述多个第一数据空间各自对应的所述第一局部特征进行聚类,得到多个第一特征空间包括:
对存在相同特征的所述多个第一数据空间各自对应的所述第一局部特征进行聚类,得到所述多个第一特征空间。
8.根据权利要求1所述的方法,其特征在于,在所述根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间之前,所述方法还包括:
获取与数据库运行状态相关的原始运维数据;
对所述原始运维数据进行预处理,得到多维运维数据样本。
9.根据权利要求8所述的方法,其特征在于,所述与数据库运行状态相关的原始运维数据包括:数据库的端口访问量、数据库的内存调用情况,数据库的端口是否受到攻击的情况、数据库的存储量的情况。
10.一种运维数据分析装置,其特征在于,所述装置包括:
第一空间分配模块,用于根据第一预设规则将与数据库运行状态相关的多维运维数据样本分配到多个第一数据空间;
第一局部特征得到模块,用于针对所述多个第一数据空间中的每个所述第一数据空间,对所述第一数据空间中的所述多维运维数据进行聚类,得到第一局部特征;
第一特征空间得到模块,用于对所述多个第一数据空间各自对应的所述第一局部特征进行聚类,得到多个第一特征空间;
第一全局特征得到模块,用于对所述多个第一特征空间进行聚类,得到第一全局特征;
运行状态第一确定模块,用于根据所述第一全局特征和多个所述第一局部特征确定所述数据库的运行状态。
11.一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1至9中任一项所述的方法。
12.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1至9中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310265533.1A CN115981970B (zh) | 2023-03-20 | 2023-03-20 | 运维数据分析方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310265533.1A CN115981970B (zh) | 2023-03-20 | 2023-03-20 | 运维数据分析方法、装置、设备和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115981970A CN115981970A (zh) | 2023-04-18 |
CN115981970B true CN115981970B (zh) | 2023-05-16 |
Family
ID=85972540
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310265533.1A Active CN115981970B (zh) | 2023-03-20 | 2023-03-20 | 运维数据分析方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115981970B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108446200A (zh) * | 2018-02-07 | 2018-08-24 | 福建星瑞格软件有限公司 | 基于大数据机器学习的服务器智能运维方法及计算机设备 |
CN110443264A (zh) * | 2018-05-03 | 2019-11-12 | 北京京东尚科信息技术有限公司 | 一种聚类的方法和装置 |
US10572778B1 (en) * | 2019-03-15 | 2020-02-25 | Prime Research Solutions LLC | Machine-learning-based systems and methods for quality detection of digital input |
CN113051452A (zh) * | 2021-04-12 | 2021-06-29 | 清华大学 | 运维数据特征选择方法和装置 |
CN113535673A (zh) * | 2020-04-17 | 2021-10-22 | 北京京东振世信息技术有限公司 | 生成配置文件及数据处理的方法和装置 |
CN114612514A (zh) * | 2022-03-14 | 2022-06-10 | 西安邮电大学 | 多特征多分辨率轨迹异常检测方法 |
CN114897074A (zh) * | 2022-05-13 | 2022-08-12 | 北京纪新泰富机电技术股份有限公司 | 设备运行状态确定方法及装置、设备及存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070022120A1 (en) * | 2005-07-25 | 2007-01-25 | Microsoft Corporation | Caching and modifying portions of a multi-dimensional database on a user device |
KR101003842B1 (ko) * | 2008-10-24 | 2010-12-23 | 연세대학교 산학협력단 | 다차원 데이터 스트림을 위한 클러스터링 방법 및 시스템 |
US20120137367A1 (en) * | 2009-11-06 | 2012-05-31 | Cataphora, Inc. | Continuous anomaly detection based on behavior modeling and heterogeneous information analysis |
US10223191B2 (en) * | 2016-07-20 | 2019-03-05 | International Business Machines Corporation | Anomaly detection in performance management |
-
2023
- 2023-03-20 CN CN202310265533.1A patent/CN115981970B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108446200A (zh) * | 2018-02-07 | 2018-08-24 | 福建星瑞格软件有限公司 | 基于大数据机器学习的服务器智能运维方法及计算机设备 |
CN110443264A (zh) * | 2018-05-03 | 2019-11-12 | 北京京东尚科信息技术有限公司 | 一种聚类的方法和装置 |
US10572778B1 (en) * | 2019-03-15 | 2020-02-25 | Prime Research Solutions LLC | Machine-learning-based systems and methods for quality detection of digital input |
CN113535673A (zh) * | 2020-04-17 | 2021-10-22 | 北京京东振世信息技术有限公司 | 生成配置文件及数据处理的方法和装置 |
CN113051452A (zh) * | 2021-04-12 | 2021-06-29 | 清华大学 | 运维数据特征选择方法和装置 |
CN114612514A (zh) * | 2022-03-14 | 2022-06-10 | 西安邮电大学 | 多特征多分辨率轨迹异常检测方法 |
CN114897074A (zh) * | 2022-05-13 | 2022-08-12 | 北京纪新泰富机电技术股份有限公司 | 设备运行状态确定方法及装置、设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
AI深度学习在移动网异常小区检测分类中的应用;王勇等;《邮电设计技术》;第1-5页 * |
Also Published As
Publication number | Publication date |
---|---|
CN115981970A (zh) | 2023-04-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021174944A1 (zh) | 基于目标对象活跃度的消息推送方法及相关设备 | |
US20150278813A1 (en) | Determining a temporary transaction limit | |
CN111814910B (zh) | 异常检测方法、装置、电子设备及存储介质 | |
CN112236761B (zh) | 数据立方体的动态增量更新 | |
CN107392259B (zh) | 构建不均衡样本分类模型的方法和装置 | |
CN112016793B (zh) | 基于目标用户群的资源分配方法、装置及电子设备 | |
CN111210109A (zh) | 基于关联用户预测用户风险的方法、装置和电子设备 | |
CN115981970B (zh) | 运维数据分析方法、装置、设备和介质 | |
CN116701935A (zh) | 敏感度预测模型训练方法、敏感信息处理方法及装置 | |
CN116155628A (zh) | 网络安全检测方法、训练方法、装置、电子设备和介质 | |
CN114218283A (zh) | 异常检测方法、装置、设备、介质 | |
CN115269315A (zh) | 一种异常检测方法、装置、设备、介质 | |
CN114443663A (zh) | 数据表处理方法、装置、设备及介质 | |
CN113052509A (zh) | 模型评估方法、模型评估装置、电子设备和存储介质 | |
CN113986671A (zh) | 运维数据异常检测方法、装置、设备及介质 | |
CN114219053B (zh) | 用户位置信息处理方法、装置及电子设备 | |
CN116467613A (zh) | 应用分级方法及装置、电子设备和计算机可读存储介质 | |
CN113435623B (zh) | 一种预警方法和装置 | |
CN113674011A (zh) | 针对用户行为的数据处理方法、装置、计算设备和介质 | |
CN115203502A (zh) | 业务数据处理方法及装置、电子设备和存储介质 | |
CN116680308A (zh) | 数据库查询方法及装置、电子设备和计算机可读存储介质 | |
CN113570113A (zh) | 一种设备失联预测方法、装置和电子设备 | |
CN117540140A (zh) | 用于确定可再生能源的概率分布信息的方法、装置及设备 | |
CN118260335A (zh) | 数据处理方法、装置、设备、介质和程序产品 | |
CN115714718A (zh) | 基于内存的日志预警方法、***、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |