CN112882935A - 一种分布式环境运行状态的诊断方法及装置 - Google Patents

Abstract

本发明提供一种分布式环境运行状态的诊断方法及装置。在一个实施例中，从至少一个设备上采集与分布式环境运行状态相关的数据，并根据目标环境的分析需求，从多种角度对采集的数据进行分析并生成分析结果；然后将该分析结果转化为相应数值范围内的分项状态分值，以及求取该分项状态分值合成的环境总体状态分值；根据该环境总体状态分值对分布式环境运行状态进行判断。通过环境总体状态分值对分布式环境状态进行判断使得相关运维人员能够直观的获取环境信息和快速定位问题。由于整个环节绝大部分处理分析工作是由程序自动完成，极大减少了人工操作量，为运维工作起到有效的支撑作用。

Description

一种分布式环境运行状态的诊断方法及装置

技术领域

本发明涉及分布式环境运行状态诊断领域,尤其涉及一种分布式环境运行状态的诊断方法及装置。

背景技术

随着网络规模的不断扩大，分布式***逐渐会演化为来自全国甚至全世界的机器组成的大型环境。这些大型分布式环境可能包含扮演不同角色的异构逐渐，例如数据中心和计算单元，人类用户从分离的客户端设备访问这些计算资源。从安全的角度看，这样的大型分布式环境带来了新的挑战，因为了解大型环境是如何工作的，或者环境中是否发生了任何不希望发生的事情是一件极其困难的任务。

发明内容

有鉴于此，本申请实施例提供了一种分布式环境运行状态的诊断方法及装置。

第一方面本发明申请实施例提供了一种分布式环境运行状态诊断方法，包括：

从至少一个设备上采集与分布式环境运行状态相关的数据，所述数据包括：日志、各集群队列汇报数据、用户操作记录、计算作业变更记录中的至少一种；

根据目标环境的分析需求，从多种角度对采集的数据进行分析并生成多个分析结果；

将所述多个分析结果转化为相应数值范围内的多个分项状态分值，并将所述多个分项状态分值合成环境总体状态分值；其中所述多个分项状态分值与所述多个分析结果相对应；

根据所述环境总体状态分值对所述分布式环境运行状态进行判断。

可选地，所述方法还包括：对采集的与分布式环境运行状态相关的数据进行清洗、筛选和预处理。

可选地，所述从多种角度对采集的数据进行分析并生成多个分析结果包括：

基于所述目标环境为提供网络服务的环境时，所述多种角度包括：网络流量、用户访问习惯和网络攻击判别中的至少一种；

基于所述目标环境为提供计算能力的分布式集群时，所述多种角度包括：软硬件运行信息、计算应用运行稳定性和各计算节点资源使用情况中的至少一种。

可选地，所述多个分析结果包括：离散型结果和连续型结果；

当所述分析结果为离散型结果时为离散型结果赋予分值；

当所述分析结果为连续型分析结果时，将连续型分析结果转化为0到1之间的转化值norm(a)，其中分项结果分值v＝norm(a)，分项状态分值v′＝norm(a)×100,

其中，a表示连续型的分析结果数值，A表示a在不同情况下的最小取值，B表示a在不同情况下的最大取值。

可选地，所述将所述分项状态分值合成环境总体分值包括：

其中，S表示总体分值的合成值，v_i表示第i个分项结果分值；w_i为针对v_i的权重函数。

第二方面，本发明申请实施例提供了一种分布式环境运行状态诊断装置，包括：

采集单元，用于从至少一个设备上采集与分布式环境运行状态相关的数据，所述数据包括：日志、各集群队列汇报数据、用户操作记录、计算作业状态变更记录中的至少一种；

处理单元，用于根据目标环境的分析需求，从多种角度对采集的数据进行分析并生成多个分析结果；将所述多个分析结果转化为相应数值范围内的多个分项状态分值，并将所述多个分项状态分值合成环境总体状态分值；其中所述多个分项状态分值与所述多个分析结果相对应；

判断单元，用于根据所述环境总体状态分值对所述分布式环境运行状态进行判断。

可选地，所述处理单元，还用于对所采集的与分布式环境运行状态相关的数据进行清洗、筛选和预处理。

可选地，所述从多种角度对采集的数据进行分析并生成多个分析结果包括：

基于所述目标环境为提供网络服务的环境时，所述多种角度包括：网络流量、用户访问习惯和网络攻击判别中的至少一种；

基于所述目标环境为提供计算能力的分布式集群时，所述多种角度包括：软硬件运行信息、计算应用运行稳定性和各计算节点资源使用情况中的至少一种。

可选地，所述多个分析结果包括：离散型结果和连续型结果；

当所述分析结果为离散型结果时为离散型结果赋予分值；

当所述分析结果为连续型分析结果时，将连续型分析结果转化为0到1之间的转化值norm(a)，其中分项结果分值v＝norm(a)，分项状态分值v′＝norm(a)×100,

其中，a表示连续型的分析结果数值，A表示a在不同情况下的最小取值，B表示a在不同情况下的最大取值。

可选地，所述将所述分项状态分值合成环境总体分值包括：

其中，S表示总体分值的合成值，v_i表示第i个分项结果分值；w_i为针对v_i的权重函数。

本申请实施例提供一种分布式环境运行状态的诊断方法及装置，通过对于目标环境的信息收集、整理，进行不同角度的分项分析，并最终将各分析结果集成为统一的环境运行状态分值，以便相关运维人员能够直观的获取环境信息和快速定位问题。由于整个环节绝大部分处理分析工作是由程序自动完成，极大较少了人工操作量，为运维工作起到有效的支撑作用。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

图1本申请实施例提供的一种分布式环境运行状态诊断装置结构示意图；

图2为本发明申请实施例提供的一种环境运行状态诊断框架示意图；

图3为本发明申请实施例提供的一种分布式环境运行状态诊断方法的流程图。

具体实施方式

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

图1为本申请实施例提供的一种分布式环境运行状态诊断装置结构示意图，参见图1本申请实施例提供的一种分布式环境运行状态诊断装置包括：采集单元101、处理单元102和判断单元103。

采集单元101用于通过数据传输工具或程序将与分布式环境运行状态相关的数据采集到存储设备中。

在一个可能的实施例中，采集单元101采集的与分布式环境运行状态相关的数据是指各种从环境中获取的可能用来分析环境状态的数据。以高性能计算环境为例，采集单元101采集的数据包括：操作***日志、各类应用产生的日子、各集群队列汇报数据、用户操作记录、计算作业状态变更记录中的一种或多种。

处理单元102首先对采集单元101采集的数据进行数据清洗、筛选和预处理，并整理成后续处理所需要的格式。然后再根据目标环境的特定分析需求，从多种角度对采集的数据进行分析并生成分析结果。最后再将分析结果转化为特定取值范围内的分项状态分值，并将该分项状态分值合成环境总体状态分值。具体地，针对网站等提供网络服务的环境可以从网络流量、用户访问习惯、网络攻击判别等角度进行分析。而针对一个提供计算能力的分布式集群可以从软硬件运行信息、计算应用运行稳定性、各计算节点资源使用情况等角度进行分析。

在一个可能的实施例中，针对网络流量分析可以是通过对于历史网络流量数据进行统计和建模，建立常规流量模型，然后实时获取网络流量并与常规流量模型进行比对，进而发现流量异常。从用户访问习惯进行分析可以是通过用户历史操作记录建立的用户对于不同页面和服务的感兴趣程度，并通过对用户服务的变更探知用户习惯变化，从而理解该服务变更是否带来正收益。从网络攻击判别进行分析可以是根据访问日志统计和总结发现的网络攻击事例，例如发现连续的用户输入密码错误日志、来自同一IP的对不同用户名的尝试、非访问服务节点对其他内网节点发起的访问请求等。

在一个可能的实施例中，在将分析结果转化为特定取值范围内的分项状态分值，并将该分项状态分值合成环境总体状态分值。其中分项状态分值和总体分值的取值范围皆为0-100，分值越高代表环境状态越趋向于好或正常，分值越低则代表环境状态趋向于差或异常。在实际计算时，为了便于各种函数转换，可以把计算值标准化映射到0到1的范围内，再最终显示时将计算值乘以100转换成百分制分值。

在一个可能的实施例中，分项分析结果由不同的分析方法得出，其结果样式也可能各不相同，其可大致分为两大类：离散型结果和连续型结果。离散型结果表示分析结果可以由类型来表达，且类型的数量是可数的，例如给定一个时间点通过查询分析可以得知这个时间点是星期几，这个结果就是离散型。而连续型结果通常是由数值表示的，其分析结果是分布在一个区间内的某种数值，例如给定一个时间点和一个位置点，通过分析得到了该位置在该时间点的温度，这种结果就是连续型。

在转化连续型分结果时，首先需要将分析结果数值归一化映射在0到1的标准范围内。在执行该操作时，可以观察分析结果数值的分布。设分析结果数值为a，通过对目标环境不同状态下分析结果的观察，发现a在绝大部分情况下其数值落在最小值A和最大值B之间，即多数情况下A<a<B，则可以将A到B区间映射到0到1区间内。而当a低于最小值或高于最大值时，则直接将其转化为0或1。设转化值为norm(a)(，则有分项结果分值v＝norm(a)：

最终的分项状态分值v′＝norm(a)×100。部分情况下a的值是一个以0为原点的正负浮动值，此时可以以阿德绝对值(|a|)作为归一函数的输入值。

以日志流量为例，首先对历史网络流量建立正常流量模型，其中可能包含了在常规状态下单位时间内其日志流量的大体均值和变动值。在使用该模型时，可采用的方法是每单位时间截取实时日志流量，并将这个流量值与正常流量模型中的流量值做一个倍率的计算(实时流量是常规模型流量的3倍或0.2倍等)，这个计算出来的倍率就是一个连续型结果。可以对该倍率计算结果设定阈值，当倍率大于或小于设定阈值时就将该单位时间的流量判定为异常。

在分布式环境下，可能存在从多个设备采集数据并分别分析的情况，此时每个设备会得出一个独立的分析结果数值a_i。而在合成环境总体分值时，通常对于每个分项分析结果只需要一个分值，因此在这种情况下我们还需要将各设备生成的数值先合并成为一个分项分析总计分值。该分值的计算方法要根据分项分析方法的目的来决定，如果分析方法的目标是获取各设备的大体状况，则总计分值可以采用求平均值的方法，即分项结果分值

如果分析方法的目标是判别对象环境的异常、数值是用来衡量目标设备异常程度，则总计分值取所有设备分值中的最小值比较合理，即分项结果分值v＝min(a_i)。

对于离散型结果的转化，由于最终需要计算的状态分值本身是一个连续型的数值，所以对于离散型结果来说无法通过函数直接进行数值转化。离散型结果通常是某些种类型，而这些类型在给定分析场景下应该是有意义的，因此可以采用人工定义结合函数转化的方法为离散型结果赋予分值。

以某内网工作环境使用的异常分析为例，该方法通过对用户访问和操作数据进行统计分析来发现使用量高峰，其分析结果是每天使用量最高的一个小时。假设该工作环境的使用者工作时间相对固定，则使用量高峰通常处于正常工作时间，例如早8点至晚6点，而在晚间6点至0点发生高峰的可能性较低(但也存在一定因为加班造成的可能性)，在深夜0点至早8点出现高峰的可能性极低(通常说明发生了异常情况，例如***入侵攻击)。在这种情境下，在进行分值转化时就可以设定高峰分布在深夜几个小时的类别为异常值较高(即状态分值较低)，晚间几个小时异常值中等，工作时间异常值为低(状态分值高)。具体的分值可以根据对一段时间历史数据进行统计计算后得出。

部分场景下，分析方法会输出多个离散型结果，即分析结果属于多种类型，同样我们需要根据该场景下的具体含义决定该分析方法的总计分值。设分析结果得到n种类型，其结果分值分别为{a₁,a₂,…,a_n}，假设目标场景只是一般的状况信息获取，则总计分值仍可以采用求平均值的方法，即分项结果分值

随后再执行归一化转化；如果分析出的结果类型都属于异常，则可以使用累加的方法，分项结果分值

然后再归一化到分项状态分值区间，当累加值v低于下限时，则设定v＝0。

在完成各分项分析结果的分值转化后，环境运行状态诊断框架还需要将各项分值合并成为环境总体状态分值。环境总体状态分值作为最顶层的环境状态判断依据，需要能够接近实时的且明显的反映环境状态的变化，为了达成这个要求，需要满足以下两个条件：

(1)当单一分项状态分值下降或上升时，总体分值也相应发生可明显观测到的下降或上升。

(2)当全部分项状态分值都明显降低时，总体分值仍不低于0；当全部分项状态分值达到最高值时，总体分值不超过100。

其中，第(2)条保证了总体分值处于指定的取值范围内(0-100)，而第(1)条确保了状态分值的有效性。

为满足这两条要求，假设每个分项结果分值分别为{v₁,v₂,…,v_n}，则总体分值合成值S为：

这里w_i为针对v_i的权重函数。因为在实际运行中，并不是每项分项分析方法都具有相同的影响力，以网络流量分析为例，其流量变化可能比较频繁，波动也比较大，但其可接受的变动范围也比较大，即可以在较大程度上容忍这种状态变化，因此在进行总体分值合成时，就需要相应降低流量分析分值的权重。相对的，例如环境故障及异常分析这类方法，在环境正常运行的情况下其分析结果中带有异常情况的概率很低，即多数情况下该项状态分值都是满分，然而一旦发现了异常，可能就会代表某些严重的故障，因此在合成总体分值时，这一类异常分析的权重相对而言就应该设定的高一些。

观察上面的总体分值合成方法可知，w_i(v_i)的取值范围仍在0-1之间，而每项w_i(v_i)的值越小，最终得到的S值越小。因此在设计权重函数w时，当需要降低某项分析结果分值v_i的权重时，可以将w_i设定为

(若想进一步降低该权重则可将平方根运算替换为三次方根、四次方根运算)。若要增加分析结果分值v_i的权重，则可以使w_i＝v_i ²。

最后，将合成值S乘以100，就得到了基于该时刻各分项分析结果合成的环境总体状态分值，即总体状态分值S’＝S×100。

在最终进行结果集成展示时，可将这些信息都显示出来，其中环境总体状态分值作为环境运行状态诊断的综合结果，置于上方的醒目位置，随后显示各分项分析的结果分值，再下面则是具体的分项分析结果展示，包含了相应的状态信息和位置。这样一来通过建设环境运行状态诊断框架对环境数据进行层层集成和转化，就可以实现运行状态的直观表达和问题的快速定位，为目标环境的运行维护起到有效的支撑作用。

判断单元103用于根据所述环境总体状态分值对所述分布式环境运行状态进行判断。

在一个可能的实施例中，假设在已建设的一套环境运行状态诊断***中有一个分项分析方法是访问日志流量分析，可以检测每个登录服务器的用户访问日志的流量变化。当一个潜在的流量异常发生时，首先可以通过总体分值的降低发现该异常，然后根据各分项状态分值发现是访问流量这一项分值降低导致总体分值降低，接着可以去流量页面观察，找到是哪一台服务器的访问流量产生了变化，最后再根据变化情况分析异常成因。

图2为本发明申请实施例提供的一种环境运行状态诊断框架示意图。通过环境运行状态诊断框架的处理后，环境的总体状态就可以反映在一个特定取值范围内的分值上，环境相关运维人员通过获取该分值即可了解当前环境状态的大体水平，并可以根据分项状态分值和分项分析结果进一步定位具体问题的发生位置，从而实现对于异常和问题的快速响应。

图3为本发明申请实施例提供的一种分布式环境运行状态诊断方法的流程图，包括步骤S301-步骤S304。

步骤S301：从至少一个设备上采集与分布式环境运行状态相关的数据，该数据包括：日志、各集群队列汇报数据、用户操作记录、计算作业变更记录中的至少一种。

步骤S302：根据目标环境的特定分析需求，从多种角度对采集的数据进行分析并生成分析结果。

步骤S303：将所述分析结果转化为特定取值范围内的分项状态分值，并将该分项状态分值合成环境总体状态分值。

步骤S304：根据环境总体状态分值对分布式环境运行状态进行判断。

通过对目标环境的信息收集、整理，进行不同角度的分项分析，并最终将各分析结果集成为统一的运行环境状态分值，以便相关运维人员能够直观的获取环境信息和快速定位问题。由于整个环节绝大部分处理分析工作是有程序自动完成，极大减少了人工操作量，为运维工作起到有效的支撑作用。

本领域技术人员应该可以意识到，在上述一个或多个示例中，本发明所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时，可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。

以上所述的具体实施方式，对本发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施方式而已，并不用于限定本发明的保护范围，凡在本发明的技术方案的基础之上，所做的任何修改、等同替换、改进等，均应包括在本发明的保护范围之内。

Claims (10)

1.一种分布式环境运行状态诊断方法，包括：

从至少一个设备上采集与分布式环境运行状态相关的数据，所述数据包括：日志、各集群队列汇报数据、用户操作记录、计算作业变更记录中的至少一种；

根据目标环境的分析需求，从多种角度对采集的数据进行分析并生成多个分析结果；

将所述多个分析结果转化为相应数值范围内的多个分项状态分值，并将所述多个分项状态分值合成环境总体状态分值；其中所述多个分项状态分值与所述多个分析结果相对应；

根据所述环境总体状态分值对所述分布式环境运行状态进行判断。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：对采集的与分布式环境运行状态相关的数据进行清洗、筛选和预处理。

3.根据权利要求1所述的方法，其特征在于，所述从多种角度对采集的数据进行分析并生成多个分析结果包括：

基于所述目标环境为提供网络服务的环境时，所述多种角度包括：网络流量、用户访问习惯和网络攻击判别中的至少一种；

基于所述目标环境为提供计算能力的分布式集群时，所述多种角度包括：软硬件运行信息、计算应用运行稳定性和各计算节点资源使用情况中的至少一种。

4.根据权利要求1所述的方法，其特征在于，所述多个分析结果包括：离散型结果和连续型结果；

当所述分析结果为离散型结果时，为离散型结果赋予分值；

当所述分析结果为连续型分析结果时，将连续型分析结果转化为0到1之间的转化值norm(a)，其中分项结果分值v＝norm(a)，分项状态分值v′＝norm(a)×100,

其中，a表示连续型的分析结果数值，A表示a在不同情况下的最小取值，B表示a在不同情况下的最大取值。

5.根据权利要求1所述的方法，其特征在于，所述将所述分项状态分值合成环境总体分值包括：

其中，S表示总体分值的合成值，v_i表示第i个分项结果分值；w_i为针对v_i的权重函数。

6.一种分布式环境运行状态诊断装置，其特征在于，包括：

采集单元，用于从至少一个设备上采集与分布式环境运行状态相关的数据，所述数据包括：日志、各集群队列汇报数据、用户操作记录、计算作业状态变更记录中的至少一种；

处理单元，用于根据目标环境的分析需求，从多种角度对采集的数据进行分析并生成多个分析结果；将所述多个分析结果转化为相应数值范围内的多个分项状态分值，并将所述多个分项状态分值合成环境总体状态分值；其中所述多个分项状态分值与所述多个分析结果相对应；

判断单元，用于根据所述环境总体状态分值对所述分布式环境运行状态进行判断。

7.根据权利要求6所述的装置，其特征在于，所述处理单元，还用于对所采集的与分布式环境运行状态相关的数据进行清洗、筛选和预处理。

8.根据权利要求6所述的装置，其特征在于，所述从多种角度对采集的数据进行分析并生成多个分析结果包括：

基于所述目标环境为提供网络服务的环境时，所述多种角度包括：网络流量、用户访问习惯和网络攻击判别中的至少一种；

基于所述目标环境为提供计算能力的分布式集群时，所述多种角度包括：软硬件运行信息、计算应用运行稳定性和各计算节点资源使用情况中的至少一种。

9.根据权利要求6所述的装置，其特征在于，所述多个分析结果包括：离散型结果和连续型结果；

当所述分析结果为离散型结果时为离散型结果赋予分值；

当所述分析结果为连续型分析结果时，将连续型分析结果转化为0到1之间的转化值norm(a)，其中分项结果分值v＝norm(a)，分项状态分值v′＝norm(a)×100,

其中，a表示连续型的分析结果数值，A表示a在不同情况下的最小取值，B表示a在不同情况下的最大取值。

10.根据权利要求6所述的装置，其特征在于，所述将所述分项状态分值合成环境总体分值包括：

其中，S表示总体分值的合成值，v_i表示第i个分项结果分值；w_i为针对v_i的权重函数。

Images