CN105227367A - 一种低延迟的告警解析处理方法 - Google Patents

Abstract

一种低延迟的告警解析处理方法，是运用在网管***的范畴内，包括：各采集机与被网管的设备通过网络通信，收集被管理设备发生故障时产生的告警信息，并统一告警信息的格式；告警服务器和存储设备详细信息的数据库通过网络通信，其中，告警服务器能够缓存设备的详细信息，并定时更新缓存；各采集机通过网络通信向告警服务器上报告警信息，告警服务器中的告警接收器收集告警信息，并转交给告警派发器，告警派发器按照分发原则将告警信息分发到相应的告警处理器中；告警处理器使用缓存对告警信息进行解析，以及对告警信息的处理任务进行派发。本发明能够实现告警解析处理的有序并发，实现告警主流程任务，可广泛应用于类似***信息的收集和集中处理。

Description

一种低延迟的告警解析处理方法

技术领域

本发明涉及一种告警解析处理方法。特别是涉及一种低延迟的告警解析处理方法。

背景技术

网管***为保证实时反应设备的告警信息、指标随时间变化的预警信息，***采用了jms消息服务机制，建立前后台(数据采集和数据集中处理)的消息通道，及时通知给中间件，通过MQ或jbossmessage发送各个客户端，保证了客户端同步性和实时性。

由于告警数据通过网络来源于全国各地的数据采集机对设备(路由器、交换机等通信设备)的告警信进行收集，并通过网络上传至总部的告警服务器进行集中处理。告警的来源途径见表1。

表1

由上表可分析出：告警的来源众多，数据量较大，根据告警的发生顺序线性解析处理，且要求必须准实时处理。所以必须设计一套即时解析并按规则处理的告警解析方法，才能满足大规模运营商集中管理各个分公司的告警监控体系。所以，目前需要解决如下问题：

1.告警数量大、部分业务必须要求线性执行(不允许无序并发)；

2.解析告警数据需要和告警设备匹配(告警对象是在一定条件下发生变化的)；

3.告警处理的主流程是多个线性有序处理规则的集合(主流程必须等待所有规则完成)。

发明内容

本发明所要解决的技术问题是：提供一种能够实现告警解析处理的有序并发，使用缓存机制实现告警信息和告警设备的低延迟解析，实现告警主流程任务的分发的低延迟的告警解析处理方法。

本发明所采用的技术方案是：一种低延迟的告警解析处理方法，是运用在网管***的范畴内，包括如下步骤：

A)各采集机与被网管的设备通过网络通信，收集被管理设备发生故障时产生的告警信息，并统一告警信息的格式；

B)告警服务器和存储设备详细信息的数据库通过网络通信，其中，告警服务器能够缓存设备的详细信息，并定时更新缓存；

C)各采集机通过网络通信向告警服务器上报告警信息，告警服务器中的告警接收器收集告警信息，并转交给告警派发器，告警派发器按照分发原则将告警信息分发到相应的告警处理器中；

D)告警处理器使用缓存对告警信息进行解析，以及对告警信息的处理任务进行派发，所述的对告警信息进行解析，包括如下步：

1)告警处理器解析告警信息，即使用资源缓存匹配告警对象；

2)告警处理器处理告警信息，将告警信息和告警设备的详细信息分别派发到对应短信通知任务队列的短信处理者、对应邮件通知任务队列的邮件处理者、以及对应用于存入数据库的告警入库任务队列的告警入库处理者。

步骤A)所述的告警信息包括：故障名称、故障原因、故障设备的编号、故障等级以及发生故障的时间。

所述的故障等级包括：紧急、主要、次要、警告。

步骤B)中所述的定时更新缓存，是指告警服务器的资源缓存每隔设定的时间扫描数据库内被管设备数据是否发生更新变化，若发生更新变化则清空资源缓存，重新加载。

所述被管设备数据变化包括：增加新设备、扩容板卡、拔出板卡。

步骤C)所述的分发原则是：设定告警处理器的个数为m，将告警设备唯一标识除以告警处理器的个数m，当得到余数为0的告警信息分配在第一告警处理器中，余数为1的告警信息分配在第二告警处理器中，以此类推，将余数为m－1的告警信息分配在第m告警处理器中。

步骤D)中的第1)步所述的使用资源缓存匹配告警对象，是根据告警设备的标识，从资源缓存中调取对应设备的基本信息，包括：设备的名称，设备的ip，以及设备的型号。

步骤D)中的第2)步所述的告警处理器处理告警信息包括：

(1)判断告警信息是否需要发送短信，是进入第(2)步，否则进入第(3)步；

(2)写任务到短信通知任务队列；

(3)判断是否发送邮件，是进入第(4)步，否则进入第(5)步；

(4)写任务到邮件通知任务队列；

(5)写任务到告警入库任务队列。

步骤D)中的第2)步所述的短信处理者、邮件处理者、告警入库处理者分别作为观察者随时监听各自的任务队列是否有任务需要执行，有任务则立即执行。

本发明的一种低延迟的告警解析处理方法，能够解决快速解析并处理多个不同来源的***告警信息，尤其能够在大量实时数据从各个途径、来源地涌向中央数据中心时候，alarmserver(告警服务器)能够快速的并发解析数据、根据规则处理数据，最终入库或者广播。使用内存缓存降级于数据库的交互(降低网络和IO的瓶颈)、使用队列加快告警服务与外部接口的交互(数据库、邮件服务器、短信网关)。本发明能够实现告警解析处理的有序并发，使用缓存机制实现告警信息和告警设备的低延迟解析，实现告警主流程任务，可广泛应用于类似***信息的收集和集中处理。

附图说明

图1是本发明派发器派发告警信息的流程图；

图2是本发明告警处理器的工作示意图；

图3是本发明告警处理器的工作流程图；

图4是本发明低延迟的告警解析处理方法的流程图。

具体实施方式

下面结合实施例和附图对本发明的一种低延迟的告警解析处理方法做出详细说明。

本发明的一种低延迟的告警解析处理方法，是运用在网管***的范畴内，包括如下步骤：

A)各采集机与被网管的设备通过网络通信，收集被管理设备发生故障时产生的告警信息，并统一告警信息的格式；所述的告警信息包括：故障名称、故障原因、故障设备的编号、故障等级以及发生故障的时间，所述的故障等级包括：紧急、主要、次要、警告。

告警信息格式采用标准的JSON格式，如表2所示：

表2

本发明中所述的统一告警信息的格式，包括：

1)初始化，并接收Trap数据包；

所述的初始化包括：将告警定义表的数据加载到内存，加载所有支持的特殊解析所用到的动态库和函数，形成包含动态库名、函数名和函数指针的动态库链表，加载映射策略到内存中，形成包含映射策略名和映射名值对列表的映射策略链表，以及启动Trap数据包的循环收取功能；

2)将2进制的Trap数据包解析成文本格式，并根据Trap数据中的Trap的OID查询告警定义表，查询到相应的数据，用来进行后面步骤；所述的查询包括：检查记录的告警解析类型，当告警解析类型为非0，进入变量解析流程；为0，则根据Trap名称字段存储的变量序号，在Trap数据包包含的变量组中找到相应序号的变量值，拼组出新的Trap的OID，然后根据新的OID，查找告警定义表，找到这个OID对应的定义表记录，包括：告警名称、设备标识、告警类型、Trap类型、告警级别、告警对象、告警描述、关键变量、映射策略和动态库配置；

3)根据第2)步查询出的告警名称、设备标识、告警类型、Trap类型、告警级别、告警对象、告警描述和关键变量字段的配置，从Trap数据包的变量组中提取相应的数据，完成对字段的解析和处理，形成基本告警信息；

所述的对字段的解析和处理，是根据所述告警名称、设备标识、告警类型、Trap类型、告警级别、告警对象、告警描述和关键变量字段的内容来完成的，这些内容包含文字和若干‘数字#’组合，其中数字对应的是Trap数据包中相应的变量序号，采用替换的方式，将‘数字#’处的内容替换为Trap数据包中相应序号的变量的值，当所有字段都替换完成，变量解析流程结束，进入枚举替换策略流程；

4)根据第2)步查询出的映射策略字段，检查映射策略字段是否为空，为空，进入特殊解析策略流程，非空，则按照字段包含的策略名称，查找对应的映射策略组，遍历映射策略组，按照映射策略组中的映射关系，对第3)步形成的基本告警信息进行处理，所有处理完成之后，进入特殊解析策略流程；

所述的映射关系，是映射策略字段存储的是映射策略的名字，根据映射策略的名字，查找出映射用的名值对列表，根据这名值对列表，对第3)步的解析结果进行处理，跟名值对列表中名称的相匹配的字段内容替换成对应的名值对中的数值；

5)动态库实现特殊解析策略，特殊解析策略主要针对特殊功能需求，包括某一个变量包含多种信息，需要对字符串进行再解析，某些字段使用数字编码，需要对应的算法来解析这些数字编码，具体运行是：

根据第2)步开查询出的动态库配置字段，检查动态库配置字段是否为空，为空，这个Trap数据包的解析结束，非空，则根据动态库配置字段的存储的动态库名和函数名，在第1)步开中所述的动态库链表中查找相应的链表节点，调用链表节点中的函数指针指向的函数对上一个步骤的处理结果进行处理，完成特殊解析策略，这个Trap数据包的解析结束，将解析后的数据传到消息服务，返回第1)步开始下一个Trap数据包的解析。

B)告警服务器和存储设备详细信息的数据库通过网络通信，其中，告警服务器能够缓存设备的详细信息，并定时更新缓存；所述的定时更新缓存，是指告警服务器的资源缓存每隔设定的时间扫描数据库内被管电信运营商设备数据是否发生更新变化，若发生更新变化则清空资源缓存，重新加载。所述被管电信运营商设备数据变化包括：增加新设备、扩容板卡、拔出板卡。

C)各采集机通过网络通信向告警服务器上报告警信息，告警服务器中的告警接收器程序收集告警信息，并转交给告警派发器程序，告警派发器程序按照分发原则将告警信息分发到相应的告警处理器中，并保证同一个设备的告警永远分配在同一个告警处理器中，从而达到告警处理的有序并发；其中，所述的分发原则是：设定告警处理器的个数为m，将告警设备唯一标识除以告警处理器的个数m，当得到余数为0的告警信息分配在第一告警处理器中，余数为1的告警信息分配在第二告警处理器中，以此类推，将余数为m－1的告警信息分配在第m告警处理器中。如图1所示，图中，n：为设备的标识，m：为告警处理者的数量。

D)告警处理器使用缓存对告警信息进行解析，以及对告警信息的处理任务进行派发，所述的对告警信息进行解析，包括如下步：

1)告警处理器解析告警信息，即使用资源缓存匹配告警对象；所述的使用资源缓存匹配告警对象，是根据告警设备的标识，从资源缓存中调取对应设备的基本信息，包括：设备的名称，设备的ip，以及设备的型号。

按照表1中的告警信息格式将告警翻译为编程语言可识别的告警对象，并丰富告警信息中的设备信息。由于丰富设备信息需要和数据库交互，所以必须使用资源缓存匹配告警设备，从而提高告警的解析速度。

使用资源缓存匹配告警设备的方法：根据表1中的告警信息的观察，标识为1001的设备信息不够详细，例如设备的名称，设备的IP地址，设备的型号等基本信息无法从原始告警中获取。由于这些设备的基本信息都存放在数据库中，虽然可以根据设备的标识从数据库中查询出设备的基本信息，但是由于告警量的庞大，频繁操作数据库会造成告警整个服务时间变长，数据库的压力变大。所以将所有的设备信息都哈希缓存在告警服务器的资源缓存中，用设备标识作为键，用设备的基本信息作为值。从而加快了告警的解析速度。

由于每种编程语言的解析JSON格式数据的方法不同，解析成各自可识别的对象不同，在此不做举例，可查阅各种编程语言的API即可完成。

2)告警处理器处理告警信息，将告警信息和告警设备的详细信息分别派发到对应短信通知任务队列的短信处理者、对应邮件通知任务队列的邮件处理者、以及对应用于存入数据库的告警入库任务队列的告警入库处理者。

将发送短信的任务派发给短信处理者，将发送邮件的任务派发给邮件处理者，将入库的任务派发给告警入库处理者。从而解放告警处理器主流程的任务，提高处理速度。当然在此我们可以认为，只要是告警主流程不需要亲力亲为的任务都可以派发给相应的任务处理者，根据不通的要求我们可以通过业务抽象出更多的任务(例如未来的微信消息接口、第三方***与告警对接)，来解放告警处理器的主流程。

如图2所示，告警处理器中不需要自身处理的任务有：短信通知、邮件通知，入库等(根据不通的业务可以整理出很多类似的任务)，因此告警处理器在遇到这三个任务时分别将任务递交给各自的任务队列：短信通知任务队列，邮件通知任务队列，告警入库任务队列。从而解放自身的任务数量和等待时长。

所述的短信处理者、邮件处理者、告警入库处理者分别作为观察者随时监听各自的任务队列是否有任务需要执行，有任务则立即执行。

如图3所示，所述的告警处理器处理告警信息的任务包括：

(1)判断告警信息是否需要发送短信，是进入第(2)步，否则进入第(3)步；

网管使用者可以根据自己的需求配置规则，例如：华北地区的告警发送给张三，西北地区告警发送给李四，紧急告警发送给王五。

(2)写任务到短信通知任务队列；

短信处理者时刻观察短信任务队列中是否有需要执行的任务，如果有任务则拿到告警信息，封装短信内容，然后和短信网关建立连接，将短信内容发送给收信人。

具体实现短信发送的程序，每种编程语言实现的方法不通，可以参照各编程语言的API实现。

(3)判断是否发送邮件，是进入第(4)步，否则进入第(5)步；

使用者可以根据自己的需求配置规则，配置方法和短信发送规则类似。

(4)写任务到邮件通知任务队列；

邮件处理者时刻观察邮件任务队列中是否有需要执行的任务，如果有任务则拿到告警信息，封装邮件内容，然后和邮件告警服务器建立连接，将邮件内容发送给收信人。

具体实现邮件发送的程序，每种编程语言实现的方法不通，可以参照各编程语言的API实现。

(5)写任务到告警入库任务队列。

告警入库处理者时刻观察入库任务队列是否有需要执行的任务，如果有任务则将告警信息转换为SQL语句，然后和数据库服务器建立连接，执行SQL语句将告警信息持久化至数据库中。

所述的短信处理者、邮件处理者、告警入库处理者分别作为观察者随时监听各自的任务队列是否有任务需要执行，有任务则立即执行。

Claims (9)

1.一种低延迟的告警解析处理方法，是运用在网管***的范畴内，包括如下步骤：

A)各采集机与被网管的设备通过网络通信，收集被管理设备发生故障时产生的告警信息，并统一告警信息的格式；

B)告警服务器和存储设备详细信息的数据库通过网络通信，其中，告警服务器能够缓存设备的详细信息，并定时更新缓存；

C)各采集机通过网络通信向告警服务器上报告警信息，告警服务器中的告警接收器收集告警信息，并转交给告警派发器，告警派发器按照分发原则将告警信息分发到相应的告警处理器中；

D)告警处理器使用缓存对告警信息进行解析，以及对告警信息的处理任务进行派发，所述的对告警信息进行解析，包括如下步：

1)告警处理器解析告警信息，即使用资源缓存匹配告警对象；

2)告警处理器处理告警信息，将告警信息和告警设备的详细信息分别派发到对应短信通知任务队列的短信处理者、对应邮件通知任务队列的邮件处理者、以及对应用于存入数据库的告警入库任务队列的告警入库处理者。

2.根据权利要求1所述的一种低延迟的告警解析处理方法，其特征在于，步骤A)所述的告警信息包括：故障名称、故障原因、故障设备的编号、故障等级以及发生故障的时间。

3.根据权利要求2所述的一种低延迟的告警解析处理方法，其特征在于，所述的故障等级包括：紧急、主要、次要、警告。

4.根据权利要求1所述的一种低延迟的告警解析处理方法，其特征在于，步骤B)中所述的定时更新缓存，是指告警服务器的资源缓存每隔设定的时间扫描数据库内被管设备数据是否发生更新变化，若发生更新变化则清空资源缓存，重新加载。

5.根据权利要求4所述的一种低延迟的告警解析处理方法，其特征在于，所述被管设备数据变化包括：增加新设备、扩容板卡、拔出板卡。

6.根据权利要求1所述的一种低延迟的告警解析处理方法，其特征在于，步骤C)所述的分发原则是：设定告警处理器的个数为m，将告警设备唯一标识除以告警处理器的个数m，当得到余数为0的告警信息分配在第一告警处理器中，余数为1的告警信息分配在第二告警处理器中，以此类推，将余数为m－1的告警信息分配在第m告警处理器中。

7.根据权利要求1所述的一种低延迟的告警解析处理方法，其特征在于，步骤D)中的第1)步所述的使用资源缓存匹配告警对象，是根据告警设备的标识，从资源缓存中调取对应设备的基本信息，包括：设备的名称，设备的ip，以及设备的型号。

8.根据权利要求1所述的一种低延迟的告警解析处理方法，其特征在于，步骤D)中的第2)步所述的告警处理器处理告警信息包括：

(1)判断告警信息是否需要发送短信，是进入第(2)步，否则进入第(3)步；

(2)写任务到短信通知任务队列；

(3)判断是否发送邮件，是进入第(4)步，否则进入第(5)步；

(4)写任务到邮件通知任务队列；

(5)写任务到告警入库任务队列。

9.根据权利要求1所述的一种低延迟的告警解析处理方法，其特征在于，步骤D)中的第2)步所述的短信处理者、邮件处理者、告警入库处理者分别作为观察者随时监听各自的任务队列是否有任务需要执行，有任务则立即执行。