CN115756929A - 一种基于动态服务依赖图的异常根因定位方法及*** - Google Patents
一种基于动态服务依赖图的异常根因定位方法及*** Download PDFInfo
- Publication number
- CN115756929A CN115756929A CN202211470197.6A CN202211470197A CN115756929A CN 115756929 A CN115756929 A CN 115756929A CN 202211470197 A CN202211470197 A CN 202211470197A CN 115756929 A CN115756929 A CN 115756929A
- Authority
- CN
- China
- Prior art keywords
- abnormal
- service
- root cause
- graph
- propagation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000002159 abnormal effect Effects 0.000 title claims abstract description 223
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000010586 diagram Methods 0.000 claims abstract description 13
- 230000001364 causal effect Effects 0.000 claims description 22
- 230000005856 abnormality Effects 0.000 claims description 18
- 238000010276 construction Methods 0.000 claims description 15
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000009826 distribution Methods 0.000 claims description 6
- 238000000926 separation method Methods 0.000 claims description 5
- 238000010998 test method Methods 0.000 claims description 5
- 238000012360 testing method Methods 0.000 claims description 4
- 235000008694 Humulus lupulus Nutrition 0.000 claims description 3
- 230000001419 dependent effect Effects 0.000 claims description 3
- 238000012423 maintenance Methods 0.000 abstract description 9
- 230000008859 change Effects 0.000 abstract description 8
- 230000009286 beneficial effect Effects 0.000 abstract description 3
- 230000006870 function Effects 0.000 description 7
- 238000013461 design Methods 0.000 description 6
- 230000002547 anomalous effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 208000002693 Multiple Abnormalities Diseases 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 208000018910 keratinopathic ichthyosis Diseases 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000005295 random walk Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Debugging And Monitoring (AREA)
Abstract
本发明提供了一种基于动态服务依赖图的异常根因定位方法及***,属于智能运维领域。本发明的异常根因定位,基于服务配置信息提取部署时服务依赖关系,基于服务间关键性能指标的相关性及日志频率信息,发现运行时服务依赖关系,动态地构建服务依赖图;基于输入的异常服务及动态服务依赖图,自动构建异常传播图;基于深度优先搜索构建异常传播路径,并计算异常的根因分数,定位异常根因服务,报告异常传播路径。本发明可以更好地捕捉运行时服务依赖关系的变化,有助于刻画更加精确的异常传播关系,提升了异常根因定位的能力;适用于各种类型异常的根因定位,具有很好的通用性;直接定位到异常的服务,并提供异常的传播路径,具有很好的实用性和可解释性。且无需人工参与,节省了人力成本。
Description
技术领域
本发明属于智能运维领域,具体涉及一种基于动态服务依赖图的异常根因定位方法。
背景技术
微服务架构的***(简称微服务***)由大量的细粒度的微服务组成,微服务之间协同工作,实现***功能,被广泛应用于通信、交通、物流、金融等领域。现代互联网应用,往往使用微服务***作为底层实现。微服务架构的核心设计思想是,将应用拆分成若干个高内聚,低耦合,功能单一,可独立开发、部署、更新的微服务,以此实现应用的敏捷开发与持续交付。微服务架构使得应用的开发和迭代更加的便捷,但也给***的运行维护带来的新的挑战,即复杂的微服务***使得应用容易发生异常且难以诊断异常根因。
微服务***复杂,具体体现在微服务数量庞大,微服务间依赖关系动态变化,微服务的异构实现。由于微服务的功能单一,为了完成***的功能,微服务***可能拥有庞大的微服务数量。例如,Netflix的微服务***运行了6000多个微服务实例,每天需要处理超过20亿个服务请求;Uber的微服务***也运行了4000多个微服务实例。同时,微服务***为应对用户需求的变化与应用的发展,可以动态部署与注册微服务实例,不断有新的微服务加入,使得微服务之间的依赖关系动态变化且错综复杂。并且,微服务***的服务化接口封装,允许***内不同微服务采取不同的编程语言、服务框架以及通信机制,以应对不同的应用场景。这种***内的异构性设计与实现,进一步加深了微服务***的复杂程度。
微服务***的复杂性,导致了其容易发生异常且难以诊断异常的根因。异常是指,***的运行状态相比于***的设计期望发生了偏移。微服务的松耦合设计及异构实现,使得微服务间往往通过网络远程调用的形式完成协作,容易产生由网络不稳定、版本不兼容、配置错误、代码缺陷等问题引发的异常。微服务的数量庞大,进一步加深了上述异常产生的可能性。并且,由于服务间依赖关系复杂且动态变化,任何微小的***异常均可能引起连锁反应,导致多个异常同时发生,其中只有一个或少数几个异常是引发其他异常的根因。这是由于异常会随着服务间依赖关系不断扩散,形成异常传播链,这些因依赖关系而产生的微服务异常之间存在着因果关系,往往异常传播链的源头是异常根因。为了保障***的可靠性,当检测到***运行发生异常,运维人员需要第一时间定位异常的根因,并作出相应的处理,如变更的回滚等。否则,异常可能引起服务中断或服务质量下降,并带来严重的损失。国际数据公司曾报告,一小时的服务中断平均会造成余约10万美元的损失。然而,尽管微服务***可以提供丰富的运维数据,例如日志、关键性能指标、调用链,但差异化的数据格式、稀疏化的有价值信息以及动态变化的服务依赖关系,使得运维人员难以在复杂的微服务***里定位异常的根因,严重时导致异常不能及时修复,并给企业带来更严重的经济损害与声誉损害。
然而,现有微服务***的异常根因定位方法,仍然存在不足,往往忽略了服务依赖的动态变化以及根因定位的可解释性。现有方法,大多依赖于服务依赖图。服务依赖图用于刻画服务之间的依赖关系,这种依赖关系也可以用于刻画服务之间的异常传播,从而有助于运维人员进行异常根因定位。基于服务依赖图的异常根因定位首先通过指标、***日志或追踪数据构造服务依赖图,然后当异常发生时,从服务依赖图中的异常节点出发,通过图搜索、随机游走等算法得到引起异常的候选异常根因集合,然后通过异常分数、与异常节点的相关性或被访问次数等方式对候选异常根因进行排序。然而,现有方法,往往依赖于静态服务依赖图,忽略了服务依赖之间的动态变化,导致构建的服务依赖与真实情况存在差异,限制了现有异常根因定位方法的准确性。与此同时,现有方法,往往只提供了异常的根因服务或根因指标,缺乏可解释性,导致运维人员难以快速地理解报告结果及判断根因的准确性。
发明内容
为了减少异常根因定位不准确导致的额外分析与回滚,降低运维成本,提高异常定位的可解释性,保障微服务***的可靠性,本发明提供了一种基于动态服务依赖图的异常根因定位方法。基于服务配置信息提取部署时服务依赖关系,基于服务间关键性能指标的相关性及日志频率信息,发现运行时服务依赖关系,动态地构建服务依赖图;基于输入的异常服务及服务依赖图,自动构建异常传播图;基于深度优先搜索构建异常传播路径,并计算异常的根因分数,定位异常根因服务,并报告异常传播路径。
本发明中的动态服务依赖图构建、异常传播图构建、异常根因定位都是自动进行,无需人工参与,节省了人力成本。本发明的异常根因定位,基于动态服务依赖图,可以更好地捕捉运行时服务依赖关系的变化,有助于刻画更加精确的异常传播关系,提升了异常根因定位的能力;适用于各种类型异常的根因定位,具有很好的通用性;直接定位到异常的服务,并提供异常的传播路径,具有很好的实用性和可解释性。
本发明提供的技术方案是:
一种基于动态服务依赖图的异常根因定位方法,其特征在于,包括动态服务依赖图构建、异常传播图构建、异常根因定位;具体步骤包括:
1)动态服务依赖图构建,具体执行如下步骤:
11)提取部署时服务依赖:此处的原理是,部署在同一位置(例如,主机)上或者依赖于同一资源(例如,数据库)的两个微服务,存在部署时依赖关系。从配置管理数据库(Configuration Management Database,CMDB)中提取服务的配置信息,包括部署位置信息和关联资源信息。定义待收集配置信息的属性集合K=(k1,k2,...,kn),使得收集到的配置信息ci=(ki,vi)必有ki∈K,其中,ki表示配置信息的属性(元数据),vi表示配置信息的值。记一个服务si的配置集合为Ci=(c1,c2,...,cn),若服务si与服务sj的配置集合存在交集,即Ci∩Cj≠φ,则服务si与服务sj之间存在部署依赖。
12)提取运行时服务依赖:此处的原理是,若随着***负载的变化,两服务产生的日志数量或关键性能指标(Key Performance Indicator,KPI)存在因果关系,则两服务存在运行时依赖,且因果关系的强弱可以表示运行时依赖关系的强弱。此处使用的因果推断算法是PC算法,原因是在给定可靠的条件独立性检验方法的情况下,PC算法可以处理各种类型的数据分布和因果关系,相比于其他因果推断方法具有复杂低、效果好的优势。PC算法通过条件独立性检验判断变量之间的因果关系,再利用d-分离条件确定因果关系之间的方向。此处使用的条件独立性检验方法是G2条件交叉熵度量,如式(1)所示,其服从自由度为D的χ2分布,如式(2)所示。
D=(NX-1)(NY-1)ΠZ′∈ZNZ′ 式(2)
13)构建动态服务依赖图:每次执行异常根因定位任务时,均会执行步骤11)和步骤12),动态地获取部署时服务依赖和运行时服务依赖。并基于部署时服务依赖和运行时服务依赖,构建服务依赖图G=<V,E>,其中G是有向图(Directed Graph,DG),V表示服务,是G的节点;E表示依赖关系,是G的边。构造规则为,若服务si与服务sj之间存在运行时依赖,则添加si与sj之间的有向边,边的权重为si与sj之间的G2值。若服务si与服务sj之间存在部署时依赖,则添加si到sj及sj到si的有向边,边的权重均为运行时依赖边权的均值。
2)异常传播图构建,具体执行如下步骤:
21)构建异常传播图:将输入的异常集合A={a1,a2,...,an}标记在服务依赖图G上,将标为异常的服务节点取出,形成G的子图G′,同时保留节点间的边,节点的值为异常发生时刻的倒数。其中,ai=(si,ti)表示第i个异常,si表示发生异常ai的服务,ti表示发生异常ai的时刻。为了方便计算,将异常发生的时刻进行标准化。设最先发生异常的时刻为1;其余异常按照发生的顺序,发生时刻在1的基础上递增。
3)异常根因定位,具体执行如下步骤:
31)构建异常传播路径:在异常传播图G′上,随机选择一个异常的服务s′0出发,利用深度优先搜索,寻找候选根因节点及其异常传播路径。
32)计算异常根因分数:对于s′0,利用异常传播图G′及异常传播路径Path(s′0,s′t),计算每一个s′t∈R的异常根因分数。计算公式如式(3)所示。
其中,score(s′t)表示异常服务s′t的异常根因分数,M表示s′0到s′t的异常传播路径个数,N表示传播路径ok中的跳数,wk,i表示第k条传播路径中节点i与节点i-1之间的依赖权重,si表示节点i的值,即异常发生时刻的倒数。此处根因分数计算公式设计的原理是,越早发生的异常越可能是根因,和有越多条传播路径的异常越可能是根因。
33)报告异常根因及传播路径:对异常根因按照分数进行降序排列,并报告与之对应的异常传播路径。
本发明进一步提供一种基于动态服务依赖图的异常根因定位***,其特征在于,包括动态服务依赖图构建模块、异常传播图构建模块、异常根因定位模块。
动态服务依赖图构建模块,包括部署时服务依赖关系发现器、运行时服务依赖关系发现器、动态服务依赖图构建器、服务依赖图存储器;部署时服务依赖关系发现器使用服务配置信息,发现微服务之间的部署时依赖关系;运行时服务依赖关系发现器使用服务运行日志及关键性能指标,发现微服务之间的运行时依赖关系;动态服务依赖图构建器使用部署时服务依赖关系和运行时服务依赖关系,动态地构造服务依赖图;服务依赖图存储器用于存储服务依赖图;
异常传播图构建模块,包括异常传播图构建器、异常传播图存储器。异常传播图构建器使用服务依赖图和输入的异常集,构造异常传播图;异常传播图存储器用于存储异常传播图;
异常根因定位模块,包括异常传播路径构建器、异常根因计算器、异常根因报告器。异常传播路径构建器使用异常传播图,寻找所有可能的异常根因节点,并构建异常的传播路径;异常根因计算器使用异常传播路径,根据路径的个数、路径上边的权重和异常发生的时刻,计算异常的根因分数;异常根因报告器将异常按照分数降序排序,并报告与之对应的异常传播路径。
与现有技术相比,本发明的有益效果是:
本发明提供了一种基于动态服务依赖图的异常根因定位方法及***通过读取服务配置信息以及服务运行日志和关键性能指标,动态地构建服务依赖图。并将服务依赖图进行存储,用于后续生成异常传播图。当***发生异常后,根据服务依赖图和异常集合,构建异常传播图。然后利用深度优先搜索,遍历所有可能的根因异常及其传播路径,利用异常传播路径的个数、路径上边的权重和异常发生的时刻,计算异常的根因分数,按照分数降序排序,并报告与之对应的异常传播路径。本发明能够实现自动构建动态服务依赖图,生成异常传播图,并构建异常传播路径,计算根因分数,以此定位异常根因,并报告相应的传播路径。本发明主要具有以下特点:
(一)本发明提供的***和方法以服务配置信息和运行时信息(关键性能指标和日志)为基础,自动构建动态服务依赖图。
(二)本发明提供的***和方法能够使用输入的异常和服务依赖图,自动构建异常传播图。
(三)本发明提供的***和方法能够定位异常根因服务的同时,提供异常传播路径,具有很好的实用性和可解释性。
利用本发明的技术方案,可以实现自动构建动态服务依赖图,构建异常传播图,定位异常根因,并提供异常的传播路径,适用于微服务***。
附图说明
图1是本发明提供的基于动态服务依赖图的异常根因定位方法;
图2是本发明提供的基于动态服务依赖图的异常根因定位***。
具体实施方式
下面结合附图,通过实施例进一步描述本发明,但不以任何方式限制本发明的范围。
图1是本发明提供的基于动态服务依赖图的异常根因定位方法的流程框图。本发明包括动态服务依赖图构建、异常传播图构建、异常根因定位;
动态服务依赖图构建使用服务配置信息以及服务运行日志和关键性能指标,挖掘服务间的部署时依赖关系和运行时依赖关系,动态地构造服务依赖图。配置信息用于描述服务所处的位置,及其所依赖的资源与服务。每个配置项以两元组的形式存在,包括配置属性和配置值。运行日志用于记录***的运行状况,包括关键变量的输出以及关键运行位置的标记等。运行日志以时间序列文本的形式存在,在本发明中被转换为了日志频率的时间序列的形式。关键性能指标用于监控***的运行状态,用于监控***是否发生异常。关键性能指标以时间序列的形式存在。服务依赖图是有向图,刻画了微服务***中各个服务之间的依赖关系,图的节点是服务,边是服务之间的依赖。服务依赖图随着***运行数据的积累,动态构建,具有对***迭代的自适应性。
异常传播图构建使用输入的异常集合和服务依赖图,构建异常传播图,用于之后的传播路径分析。每个异常项以两元组的形式存在,包括发生异常的服务和发生异常的时刻。异常传播图也是有向图的形式,是服务依赖图的子图。
异常根因定位使用异常传播图,寻找所有可能的异常根因节点,并构建与之对应的异常传播路径,用于计算节点的根因分数,并降序排序生成异常根因报告。异常根因报告包含根因服务分数,及其对应的异常传播路径。
针对上述基于动态服务依赖图的异常根因定位方法,所述动态服务依赖图构建具体执行如下步骤:
11)提取部署时服务依赖:此处的原理是,部署在同一位置(例如,主机)上或者依赖于同一资源(例如,数据库)的两个微服务,存在部署时依赖关系。从配置管理数据库(Configuration Management Database,CMDB)中提取服务的配置信息,包括部署位置信息和关联资源信息。定义待收集配置信息的属性集合K=(k1,k2,...,kn),使得收集到的配置信息ci=(ki,vi)必有ki∈K,其中,ki表示配置信息的属性(元数据),vi表示配置信息的值。记一个服务si的配置集合为Ci=(c1,c2,...,cn),若服务si与服务sj的配置集合存在交集,即Ci∩Cj≠φ,则服务si与服务sj之间存在部署依赖。
12)提取运行时服务依赖:此处的原理是,若着***负载的变化,两服务产生的日志数量或关键性能指标(Key Performance Indicator,KPI)存在因果关系,则两服务存在运行时依赖,且因果关系的强弱可以表示运行时依赖关系的强弱。此处使用的因果推断算法是PC算法,原因是在给定可靠的条件独立性检验方法的情况下,PC算法可以处理各种类型的数据分布和因果关系,相比于其他因果推断方法具有复杂低、效果好的优势。PC算法通过条件独立性检验判断变量之间的因果关系,再利用d-分离条件确定因果关系之间的方向。此处使用的条件独立性检验方法是G2条件交叉熵度量,如式(1)所示,其服从自由度为D的χ2分布,如式(2)所示。
D=(NX-1)(NY-1)ΠZ′∈ZNZ′ 式(2)
121)确定运行时服务依赖关系权重:具体来说,此处使用的KPI是服务级别目标(Service Level Objective,SLO)指标,如服务请求延迟,用于评估一个服务是否运行正常。记一个服务si的KPI时间序列为Ti={t1,t2,...,tn},日志频数序列为Li={l1,l2,...,ln},时间窗口大小为时间窗口个的总数为n。初始时,假设在m个服务中,任意两个服务之间存在因果关系。利用时间序列数据T,计算任意si与sj之间的G2值,并查询其在χ2分布的p值,若p值>ξ,则si与sj之间的条件独立性假设被接受,否则拒绝。若si与sj之间的条件独立性假设被接受,则记录此时条件Z作为si与sj的分割条件S(si,sj)。同理,利用日志频数序列数据L,对si与sj进行条件独立性检验。如果针对si与sj的关于T和L的两次独立性假设均被接受,则判定sai与sj之间没有因果关系,否则判定si与sj之间存在因果关系。遍历所有的si与sj对,直至确定所有的si与sj对之间的因果关系。
122)确定运行时服务依赖关系方向:之后用d-分离条件确定因果关系之间的方向。d-分离条件共有四条规则,
(2)若存在X→Y,则将所有Y-Z赋予方向Y→Z。
(3)若存在X→Z→Y,则将所有X-Y赋予方向X→Y。
(4)若同时存在X-Z1→Y和X-Z2→Y,则将所有X-Y赋予方向X→Y。
其中规则(1)优先于,规则(2)(3)(4),即确保所有的规则(1)都执行后,再执行规则(2)(3)(4)。规则(2)(3)(4)的执行没有先后顺序。
若执行完上述规则后,仍无法确定si与sj之间依赖的方向,则添加双向依赖,即添加si到sj的依赖关系,同时添加sj到si的依赖关系。
13)构建动态服务依赖图:每次执行异常根因定位任务时,均会执行步骤11)和步骤12),动态地获取部署时服务依赖和运行时服务依赖。并基于部署时服务依赖和运行时服务依赖,构建服务依赖图G=<V,E>,其中G是有向图(Directed Graph,DG),V表示服务,是G的节点;E表示依赖关系,是G的边。构造规则为,若服务si与服务sj之间存在运行时依赖,则添加si与sj之间的有向边,边的权重为si与sj之间的G2值。若服务si与服务sj之间存在部署时依赖,则添加si到sj及sj到si的有向边,边的权重均为运行时依赖边权的均值。
针对上述基于动态服务依赖图的异常根因定位方法,所述异常传播图构建具体执行如下步骤:
21)构建异常传播图:将输入的异常集合A={a1,a2,...,an}标记在服务依赖图G上,将标为异常的服务节点取出,形成G的子图G′,同时保留节点间的边,节点的值为异常发生时刻的倒数。其中,ai=(si,ti)表示第i个异常,si表示发生异常ai的服务,ti表示发生异常ai的时刻。为了方便计算,将异常发生的时刻进行标准化。设最先发生异常的时刻为1;其余异常按照发生的顺序,发生时刻在1的基础上递增。
针对上述基于动态服务依赖图的异常根因定位方法,所述异常根因定位具体执行如下步骤:
31)构建异常传播路径:在异常传播图G′上,随机选择一个异常的服务s′0出发,利用深度优先搜索,寻找候选根因节点及其异常传播路径。
311)寻找候选根因节点集合:在寻找候选根因节点阶段,初始化,s′i=s′0,ok=φ,R=φ,然后执行如下递归步骤:
(1)若s′i∈ok,则返回上级调用。
(2)将s′i加入到ok。
(3)若s′i不存在相邻的异常节点,则将s′i加入到候选根因节点集合R中。
(5)返回上级调用。
递归执行步骤(1)到步骤(5),直到不再有新的异常服务加入到R中。
312)确定异常传播路径:在寻找传播路径阶段,对于每一个s′t∈R,记从异常服务s′0到异常服务s′t的异常传播路径集为Path(s′0,s′t)={o1,o2,...,on},其中ok为一条异常传播路径,ok={s′0,...,st′}。初始化,s′i=s′0,ok=φ,Path(s′0,s′t)=φ,然后执行如下递归步骤
(1)若s′i∈ok,则返回上级调用。
(2)将s′i加入到ok。
(3)若s′i==s′t,则将ok加入到Path(s′0,s′t)。
(5)返回上级调用。
递归执行步骤(1)到步骤(5),直到不再有新的异常传播路径加入到Path(s′0,s′t)中。
32)计算异常根因分数:对于s′0,利用异常传播图G′及异常传播路径Path(s′0,s′t),计算每一个s′t∈R的异常根因分数。计算公式如式(3)所示。
其中,score(s′t)表示异常服务s′t的异常根因分数,M表示s′0到s′t的异常传播路径个数,N表示传播路径ok中的跳数,wk,i表示第k条传播路径中节点i与节点i-1之间的依赖权重,si表示节点i的值,即异常发生时刻的倒数。此处根因分数计算公式设计的原理是,越早发生的异常越可能是根因,和有越多条传播路径的异常越可能是根因。
33)报告异常根因及传播路径:对异常根因按照分数进行降序排列,并报告与之对应的异常传播路径。
图2是本发明提供的基于动态服务依赖图的异常根因定位***的结构框图。
本发明提供了一种实现基于动态服务依赖图的异常根因定位方法的***,***以配置信息、运行日志、关键性能指标、异常集合作为输入,包括动态服务依赖图构建模块、异常传播图构建模块、异常根因定位模块;
下面分别对不同的模块进行具体说明。
S1)动态服务依赖图构建模块
动态服务依赖图构建模块的功能是,基于服务配置信息、运行日志、关键性能指标,构建动态服务依赖图。该模块包含四个子模块:
S11)部署时服务依赖关系发现器
部署时服务依赖关系发现器基于服务配置信息,挖掘部署在同一位置或依赖同一资源的微服务之间的部署时依赖关系。
S12)运行时服务依赖关系发现器
运行时服务依赖关系发现器基于服务运行日志和关键性能指标,挖掘微服务之间的运行时依赖关系。
S13)动态服务依赖图构建器
动态服务依赖图构建器基于服务部署时依赖关系和运行时依赖关系,动态地构建服务依赖图。
S14)服务依赖图存储器
服务依赖图存储器以矩阵的形式存储服务依赖图,并提供对服务依赖图高性能的查询。
S2)异常传播图构建模块
异常传播图构建模块的功能是根据服务依赖图和输入的异常集合,构建异常传播图。该模块包含两个子模块:
S21)异常传播图构建器
异常传播图构建器根据服务依赖图和输入的异常集合,在服务依赖图上标记异常并生成子图,构造异常传播图。
S22)异常传播图存储器
异常传播图存储器以矩阵的形式存储异常传播图,并提供对异常传播图高性能的查询。
S3)异常根因定位模块
异常根因定位模块的功能是根据异常传播图,寻找所有可能的异常根因节点,并构建其异常传播路径,计算根因分数,生成异常根因报告。该模块分为三个子模块:
S31)异常传播路径构建器
异常传播路径构建器使用异常传播图,寻找所有可能的异常根因节点,并构建异常的传播路径。
S32)异常根因计算器
异常根因计算器使用异常传播路径,根据异常传播路径的个数、路径上边的权重和异常发生的时刻,计算异常的根因分数。
S32)异常根因报告器
异常根因报告器将异常按照分数降序排序,并报告与之对应的异常传播路径。
需要注意的是,公布实施例的目的在于帮助进一步理解本发明,但是本领域的技术人员可以理解:在不脱离本发明及所附权利要求的精神和范围内,各种替换和修改都是可能的。因此,本发明不应局限于实施例所公开的内容,本发明要求保护的范围以权利要求书界定的范围为准。
Claims (7)
1.一种基于动态服务依赖图的异常根因定位方法,其特征在于,包括动态服务依赖图构建、异常传播图构建、异常根因定位;具体步骤包括:
1)动态服务依赖图构建,具体执行如下步骤:
11)提取部署时服务依赖;
12)提取运行时服务依赖;
13)构建动态服务依赖图G:每次执行异常根因定位任务时,均执行步骤11)和步骤12),动态地获取部署时服务依赖和运行时服务依赖,构建服务依赖图G=<V,E>;其中G是有向图,V表示服务,是G的节点;E表示依赖关系,是G的边;
2)异常传播图构建,具体执行如下步骤:
构建异常传播图:将输入的异常集合A={a1,a2,...,an}标记在服务依赖图G上,将标为异常的服务节点取出,形成G的子图G′,同时保留节点间的边,节点的值为异常发生时刻的倒数;
3)异常根因定位,具体执行如下步骤:
31)构建异常传播路径:在异常传播图G′上,随机选择一个异常的服务s′0出发,利用深度优先搜索,寻找候选根因节点及其异常传播路径;
32)计算异常根因分数:对于s′0,利用异常传播图G′及异常传播路径Path(s′0,s′t),计算每一个s′t∈R的异常根因分数;
33)报告异常根因及传播路径:对异常根因按照分数进行降序排列,并报告与之对应的异常传播路径。
2.如权利要求1所述的基于动态服务依赖图的异常根因定位方法,其特征在于,步骤11)中定义待收集配置信息的属性集合K=(k1,k2,...,kn),使得收集到的配置信息ci=(ki,bi)必有ki∈K,其中,ki表示配置信息的属性,vi表示配置信息的值,记一个服务si的配置集合为Ci=(c1,c2,...,cn),若服务si与服务sj的配置集合存在交集,即Ci∩Cj≠φ,则服务si与服务sj之间存在部署依赖。
4.如权利要求1所述的基于动态服务依赖图的异常根因定位方法,其特征在于,步骤13)中构造规则为,若服务si与服务sj之间存在运行时依赖,则添加si与sj之间的有向边,边的权重为si与sj之间的G2值,若服务si与服务sj之间存在部署时依赖,则添加si到sj及sj到si的有向边,边的权重均为运行时依赖边权的均值。
5.如权利要求1所述的基于动态服务依赖图的异常根因定位方法,其特征在于,步骤2)中ai=(si,ti)表示第i个异常,si表示发生异常ai的服务,ti表示发生异常ai的时刻,将异常发生的时刻进行标准化,设最先发生异常的时刻为1;其余异常按照发生的顺序,发生时刻在1的基础上递增。
7.一种基于动态服务依赖图的异常根因定位***,其特征在于,包括动态服务依赖图构建模块、异常传播图构建模块、异常根因定位模块,其中:
动态服务依赖图构建模块,包括部署时服务依赖关系发现器、运行时服务依赖关系发现器、动态服务依赖图构建器、服务依赖图存储器;部署时服务依赖关系发现器使用服务配置信息,发现微服务之间的部署时依赖关系;运行时服务依赖关系发现器使用服务运行日志及关键性能指标,发现微服务之间的运行时依赖关系;动态服务依赖图构建器使用部署时服务依赖关系和运行时服务依赖关系,动态地构造服务依赖图;服务依赖图存储器用于存储服务依赖图;
异常传播图构建模块,包括异常传播图构建器、异常传播图存储器,异常传播图构建器使用服务依赖图和输入的异常集,构造异常传播图;异常传播图存储器用于存储异常传播图;
异常根因定位模块,包括异常传播路径构建器、异常根因计算器、异常根因报告器,异常传播路径构建器使用异常传播图,寻找所有可能的异常根因节点,并构建异常的传播路径;异常根因计算器使用异常传播路径,根据路径的个数、路径上边的权重和异常发生的时刻,计算异常的根因分数;异常根因报告器将异常按照分数降序排序,并报告与之对应的异常传播路径。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211470197.6A CN115756929B (zh) | 2022-11-23 | 2022-11-23 | 一种基于动态服务依赖图的异常根因定位方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211470197.6A CN115756929B (zh) | 2022-11-23 | 2022-11-23 | 一种基于动态服务依赖图的异常根因定位方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115756929A true CN115756929A (zh) | 2023-03-07 |
CN115756929B CN115756929B (zh) | 2023-06-02 |
Family
ID=85335430
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211470197.6A Active CN115756929B (zh) | 2022-11-23 | 2022-11-23 | 一种基于动态服务依赖图的异常根因定位方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115756929B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116450399A (zh) * | 2023-06-13 | 2023-07-18 | 西华大学 | 微服务***故障诊断及根因定位方法 |
CN116820826A (zh) * | 2023-08-28 | 2023-09-29 | 北京必示科技有限公司 | 一种基于调用链的根因定位方法、装置、设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103606042A (zh) * | 2013-11-18 | 2014-02-26 | 南京理工大学 | 基于动态依赖图的服务组合实例迁移有效性判定方法 |
CN112698975A (zh) * | 2020-12-14 | 2021-04-23 | 北京大学 | 一种微服务架构信息***的故障根因定位方法及*** |
CN112787841A (zh) * | 2019-11-11 | 2021-05-11 | 华为技术有限公司 | 故障根因定位方法及装置、计算机存储介质 |
US20220019495A1 (en) * | 2020-07-14 | 2022-01-20 | Microsoft Technology Licensing, Llc | Machine learning-based techniques for providing focus to problematic compute resources represented via a dependency graph |
EP3951598A1 (en) * | 2020-08-07 | 2022-02-09 | NEC Laboratories Europe GmbH | Methods and systems for detecting anomalies in cloud services based on mining time-evolving graphs |
CN115118621A (zh) * | 2022-06-27 | 2022-09-27 | 浙江大学 | 一种基于依赖关系图的微服务性能诊断方法及*** |
CN115278741A (zh) * | 2022-06-15 | 2022-11-01 | 清华大学 | 一种基于多模态数据依赖关系的故障诊断方法和装置 |
-
2022
- 2022-11-23 CN CN202211470197.6A patent/CN115756929B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103606042A (zh) * | 2013-11-18 | 2014-02-26 | 南京理工大学 | 基于动态依赖图的服务组合实例迁移有效性判定方法 |
CN112787841A (zh) * | 2019-11-11 | 2021-05-11 | 华为技术有限公司 | 故障根因定位方法及装置、计算机存储介质 |
US20220019495A1 (en) * | 2020-07-14 | 2022-01-20 | Microsoft Technology Licensing, Llc | Machine learning-based techniques for providing focus to problematic compute resources represented via a dependency graph |
EP3951598A1 (en) * | 2020-08-07 | 2022-02-09 | NEC Laboratories Europe GmbH | Methods and systems for detecting anomalies in cloud services based on mining time-evolving graphs |
CN112698975A (zh) * | 2020-12-14 | 2021-04-23 | 北京大学 | 一种微服务架构信息***的故障根因定位方法及*** |
CN115278741A (zh) * | 2022-06-15 | 2022-11-01 | 清华大学 | 一种基于多模态数据依赖关系的故障诊断方法和装置 |
CN115118621A (zh) * | 2022-06-27 | 2022-09-27 | 浙江大学 | 一种基于依赖关系图的微服务性能诊断方法及*** |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116450399A (zh) * | 2023-06-13 | 2023-07-18 | 西华大学 | 微服务***故障诊断及根因定位方法 |
CN116450399B (zh) * | 2023-06-13 | 2023-08-22 | 西华大学 | 微服务***故障诊断及根因定位方法 |
CN116820826A (zh) * | 2023-08-28 | 2023-09-29 | 北京必示科技有限公司 | 一种基于调用链的根因定位方法、装置、设备及存储介质 |
CN116820826B (zh) * | 2023-08-28 | 2023-11-24 | 北京必示科技有限公司 | 一种基于调用链的根因定位方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115756929B (zh) | 2023-06-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Zou et al. | Finding top-k maximal cliques in an uncertain graph | |
US20210286811A1 (en) | Continuous cloud-scale query optimization and processing | |
CN115756929A (zh) | 一种基于动态服务依赖图的异常根因定位方法及*** | |
CN103336790B (zh) | 基于Hadoop的邻域粗糙集快速属性约简方法 | |
US8098585B2 (en) | Ranking the importance of alerts for problem determination in large systems | |
CN113612749B (zh) | 一种面向入侵行为的溯源数据聚类方法及装置 | |
US20090106174A1 (en) | Methods, systems, and computer program products extracting network behavioral metrics and tracking network behavioral changes | |
Shimada et al. | Class association rule mining with chi-squared test using genetic network programming | |
CN109697456A (zh) | 业务分析方法、装置、设备及存储介质 | |
US20240168963A1 (en) | Mining patterns in a high-dimensional sparse feature space | |
CN103336791B (zh) | 基于Hadoop的粗糙集快速属性约简方法 | |
US10061678B2 (en) | Automated validation of database index creation | |
US9280409B2 (en) | Method and system for single point of failure analysis and remediation | |
WO2021109874A1 (zh) | 拓扑图生成方法、异常检测方法、装置、设备及存储介质 | |
CN114598539A (zh) | 根因定位方法、装置、存储介质及电子设备 | |
US20240095117A1 (en) | Recommendations for remedial actions | |
CN112769605A (zh) | 一种异构多云的运维管理方法及混合云平台 | |
CN110598417B (zh) | 一种基于图挖掘的软件漏洞检测方法 | |
Gao et al. | Time Series Data Cleaning under Multi-Speed Constraints. | |
CN114416573A (zh) | 一种应用程序的缺陷分析方法、装置、设备及介质 | |
Gu et al. | Improving the quality of web-based data imputation with crowd intervention | |
Sozuer et al. | A new approach for clustering alarm sequences in mobile operators | |
CN105868328B (zh) | 用于日志关联分析的方法和装置 | |
CN115277124A (zh) | 基于***溯源图搜索匹配攻击模式的在线***及服务器 | |
Liu et al. | Roots-tracing of communication network alarm: A real-time processing framework |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |