CN109284257B - 一种日志写入方法、装置、电子设备及存储介质 - Google Patents

一种日志写入方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN109284257B
CN109284257B CN201810912188.5A CN201810912188A CN109284257B CN 109284257 B CN109284257 B CN 109284257B CN 201810912188 A CN201810912188 A CN 201810912188A CN 109284257 B CN109284257 B CN 109284257B
Authority
CN
China
Prior art keywords
log
emergency
rdma
writing
urgent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810912188.5A
Other languages
English (en)
Other versions
CN109284257A (zh
Inventor
陈小龙
李辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ruijie Networks Co Ltd
Original Assignee
Ruijie Networks Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ruijie Networks Co Ltd filed Critical Ruijie Networks Co Ltd
Priority to CN201810912188.5A priority Critical patent/CN109284257B/zh
Publication of CN109284257A publication Critical patent/CN109284257A/zh
Application granted granted Critical
Publication of CN109284257B publication Critical patent/CN109284257B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Debugging And Monitoring (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例提供一种日志写入方法、装置、电子设备及存储介质。所述方法包括:获取远程直接数据存取RDMA***运行日志;判断所述RDMA***运行日志是否为紧急日志;若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。本发明实施例提供的日志写入方法,提高了***突发日志实时大规模吞吐量并发处理能力,解决了大量无规则突发日志有序存储问题。

Description

一种日志写入方法、装置、电子设备及存储介质
技术领域
本发明实施例涉及网络技术领域,具体涉及一种日志写入方法、装置、电子设备及存储介质。
背景技术
在数据中心领域中,数据传输具有高带宽、低延迟的特点,性能测试需关注带宽、丢包、延迟等异常情况出现概率,故需要对数据传输性能进行测试,以防止传输中产生丢包、延迟等异常情况。现有RDMA技术已经成为25Gbps/100Gbps数据中心网络中的计算网络和数据网络的主要网络连接技术。RDMA技术全称为远程直接数据存取,是为了解决网络传输中服务器端数据处理的延迟而产生的。RDMA提供了直接访问远端主机内存的设备能力,执行这一任务时,不需要计算机操作***和CPU干涉,因而开销小。RDMA技术提供了高吞吐率,低延迟的网络。RDMA业务应用广泛,同时,RDMA数据的传输依赖于具有数据中心桥接(Data Center Bridging,DCB)特性的交换机,采用具有DCB特性的交换机传输数据可以保证RDMA数据传输。在RDMA场景下的大数据平台中,需要对服务器、网络设备进行日志监控,在客户端订阅一个事件请求或设备异常故障时,会生成访问日志。由于RDMA高带宽、低延迟特点,数据传输和处理更加频繁,产生的日志数多量大,而RDMA网卡工作频率一般在25Gpbs,在绑定模式下,频率还可以达到50Gbps/100Gpbs,在这种情况下,将访问日志文件存储到RDMA***上时,由于小容量文件的数量非常多,需要频繁打开文件读取其中内容,从而造成***崩溃。
此外,在提交事件解析请求时生成的访问日志文件大多是杂乱无章的,如果直接将这些杂乱的日志文件写入RDMA***,则会使后续处理非常麻烦,同时,也导致一些重要的日志信息没有及时被监控到,导致事件没有及时得到处理,造成网络中断。
发明内容
针对现有技术中的缺陷,本发明实施例提供了一种日志写入方法、装置、电子设备及存储介质。
第一方面,本发明实施例提供一种日志写入方法,包括:
获取远程直接数据存取RDMA***运行日志;
判断所述RDMA***运行日志是否为紧急日志;
若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;
若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;
若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
如上述方法,可选地,所述判断所述RDMA***运行日志是否为紧急日志,包括:
根据预设等级划分原则,确定所述RDMA***运行日志的紧急度;
若所述紧急度大于预设紧急度阈值,则确定所述RDMA***运行日志为紧急日志;
否则,确定所述RDMA***运行日志为非紧急日志。
如上述方法,可选地,所述判断所述RDMA***运行日志是否为紧急日志之后,还包括:
根据预设半结构化数据格式确定所述RDMA***运行日志对应的日志数据,其中,所述预设半结构化数据格式包括:所述RDMA***运行日志的紧急度、日志名称、日志产生时间和日志数值。
如上述方法,可选地,所述若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中,包括:
若所述RDMA***运行日志为紧急日志,则将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中。
如上述方法,可选地,所述将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中,包括:
将所述日志数据按照其对应的紧急度缓存至第一内存队列中;
将所述第一内存队列中的日志数据依次写入内存数据库***Hbase中。
如上述方法,可选地,所述将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中,包括:
获取所述内存数据库***Hbase中的紧急日志队列;
将所述紧急日志队列缓存至第二内存队列中;
将所述第二内存队列中的日志数据对应的紧急日志依次写入磁盘分布式文件***HDFS中。
如上述方法,可选地,所述将所述非紧急日志写入磁盘分布式文件***HDFS中,包括:
将所述非紧急日志对应的日志数据按照其对应的紧急度缓存至第三内存队列中;
将所述第三内存队列中的日志数据对应的非紧急日志依次写入磁盘分布式文件***HDFS中。
第二方面,本发明实施例提供一种日志写入装置,包括:
获取模块,用于获取远程直接数据存取RDMA***运行日志;
判断模块,用于判断所述RDMA***运行日志是否为紧急日志;
紧急日志缓存模块,用于若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;
非紧急日志存储模块,用于若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;
紧急日志存储模块,用于若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
如上述装置,可选地,所述判断模块具体用于:
根据预设等级划分原则,确定所述RDMA***运行日志的紧急度;
若所述紧急度大于预设紧急度阈值,则确定所述RDMA***运行日志为紧急日志;
否则,确定所述RDMA***运行日志为非紧急日志。
如上述装置,可选地,还包括:
预处理模块,用于根据预设半结构化数据格式确定所述RDMA***运行日志对应的日志数据,其中,所述预设半结构化数据格式包括:所述RDMA***运行日志的紧急度、日志名称、日志产生时间和日志数值。
如上述装置,可选地,所述紧急日志缓存模块具体用于:
若所述RDMA***运行日志为紧急日志,则将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中。
如上述装置,可选地,紧急日志缓存模块包括:
第一缓存单元,用于将所述日志数据按照其对应的紧急度缓存至第一内存队列中;
第一写入单元,用于将所述第一内存队列中的日志数据依次写入内存数据库***Hbase中。
如上述装置,可选地,所述紧急日志存储模块包括:
获取单元,用于获取所述内存数据库***Hbase中的紧急日志队列;
第二缓存单元,用于将所述紧急日志队列缓存至第二内存队列中;
第二写入单元,用于将所述第二内存队列中的日志数据对应的紧急日志依次写入磁盘分布式文件***HDFS中。
如上述装置,可选地,所述非紧急日志存储模块包括:
第三缓存单元,用于将所述非紧急日志对应的日志数据按照其对应的紧急度缓存至第三内存队列中;
第三写入单元,用于将所述第三内存队列中的日志数据对应的非紧急日志依次写入磁盘分布式文件***HDFS中。
第三方面,本发明实施例提供一种电子设备,包括:
存储器和处理器,所述处理器和所述存储器通过总线完成相互间的通信;所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行如下方法:获取远程直接数据存取RDMA***运行日志;判断所述RDMA***运行日志是否为紧急日志;若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
第四方面,本发明实施例提供一种存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如下方法:获取远程直接数据存取RDMA***运行日志;判断所述RDMA***运行日志是否为紧急日志;若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
本发明实施例提供的日志写入方法,将RDMA***运行日志划分为紧急日志和非紧急日志,将紧急日志存储到内存数据库***Hbase中,在空闲时将Hbase中存储的紧急日志存储到磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的日志写入方法流程示意图;
图2为本发明实施例提供的日志写入装置的结构示意图;
图3为本发明实施例提供的日志写入***的结构示意图;
图4为本发明实施例提供的日志写入***中第二Flume***的结构示意图;
图5为本发明实施例提供的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明实施例提供的日志写入方法流程示意图,如图1所示,该方法包括:
步骤S11、获取远程直接数据存取RDMA***运行日志;
具体地,在RDMA场景下的大数据平台中,数据中心采用RoCE网络RDMA协议的状态日志,其中RoCE是RDMA over Converged Ethernet简写,是一种允许通过以太网使用RDMA的网络协议。日志写入装置获取服务器或网络设备如二、三层交换机上多条远程直接数据存取RDMA***运行日志,例如,通过Linux Shell脚本获取RDMA***运行日志,运行日志可以为:RDMA网卡运行时的寄存器值,ethtool命令输出的属性值,或OFED Perftest等RDMA测试程序运行结果值。
步骤S12、判断所述RDMA***运行日志是否为紧急日志;
具体地,获取到RDMA***运行日志之后,判断该日志是否为紧急日志,例如,预先对不同类型的RDMA***运行日志进行划分,将RDMA***运行日志划分为紧急日志和非紧急日志两大类,例如,将突发重要高频率日志作为紧急日志,或者将控制报文对应的RDMA***运行日志划分为紧急日志,数据报文对应的RDMA***运行日志划分为非紧急日志等。当获取到RDMA***运行日志之后,根据RDMA***运行日志类型,判断RDMA***运行日志是否为紧急日志或非紧急日志。
步骤S13、若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;
具体地,RDMA网卡的工作频率一般在25/10Gbps,在绑定工作模式下的网卡工作频率高达100/40Gpbs,高频率的日志数据需要写入高吞吐低延迟的分布式内存数据库***Hbase中。如果判断出RDMA***运行日志为紧急日志,则将紧急日志写入内存数据库***Hbase中,实现对紧急日志信息采用高频率日志采样,解决了大量无规则突发日志有序存储问题。其中存在Hbase的数据最终也会被写入磁盘分布式文件***HDFS中。
步骤S14、若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;
具体地,如果判断出RDMA***运行日志为非紧急日志,则可以直接将非紧急日志写入磁盘分布式文件***HDFS中持久化,HDFS是Hadoop分布式文件***,HDFS能提供高吞吐量的数据访问,非常适合大规模数据集上的应用,将非紧急日志写入HDFS中,实现对非紧急日志信息采用低频率日志采样,由于HDFS采样频率较低,如果对所有运行日志均直接写入HDFS中,将导致实时突发吞吐量不够的问题。
步骤S15、若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
具体地,当RDAM***空闲时,需要将存储在内存数据库***Hbase中的紧急日志写入到磁盘分布式文件***HDFS中持久化,实现最终所有的RDMA***日志都保存在磁盘分布式文件***HDFS中。例如,通过监控***内存使用率,当判断出***空闲时,将Hbase中已经存储的紧急日志写入到HDFS中,清空Hbase中的紧急日志,以便后续采集RDMA***运行日志时Hbase有足够的空间存储紧急日志。
本发明实施例提供的日志写入方法,将RDMA***运行日志划分为紧急日志和非紧急日志,将紧急日志存储到内存数据库***Hbase中,在空闲时将Hbase中存储的紧急日志存储到磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题。
在上述实施例的基础上,进一步地,所述判断所述RDMA***运行日志是否为紧急日志,包括:
根据预设等级划分原则,确定所述RDMA***运行日志的紧急度;
若所述紧急度大于预设紧急度阈值,则确定所述RDMA***运行日志为紧急日志;
否则,确定所述RDMA***运行日志为非紧急日志。
具体地,为了对杂乱无章的日志文件进行整理,还可以预先设置等级划分原则,将日志划分为N个等级,紧急度从1~N,紧急度数值越高,日志越重要,日志采样频率越高。例如,控制报文对应的RDMA***日志紧急度为8,数据报文对应的RDAM***日志紧急度为5,乱序报文对应的RDMA***日志紧急度为1等。当获取到RDMA***运行日志之后,按照预设等级划分原则,确定RDMA***运行日志的紧急度,然后判断日志紧急度是否大于预设紧急度阈值,例如,设置紧急度阈值为5,则紧急度大于5的RDMA***运行日志为紧急日志,紧急度小于或等于5的RDMA***运行日志为非紧急日志。
本发明实施例提供的日志写入方法,将RDMA***运行日志按紧急度划分为紧急日志和非紧急日志,将紧急日志存储到内存数据库***Hbase中,在空闲时将Hbase中存储的紧急日志存储到磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题。
在上述各实施例的基础上,进一步地,所述判断所述RDMA***运行日志是否为紧急日志之后,还包括:
根据预设半结构化数据格式确定所述RDMA***运行日志对应的日志数据,其中,所述预设半结构化数据格式包括:所述RDMA***运行日志的紧急度、日志名称、日志产生时间和日志数值。
具体地,获取到RDMA***运行日志之后,按照预设等级划分原则,确定RDMA***运行日志对应的紧急度,然后判断RDMA***运行日志是否为紧急日志,并按照预设半结构化数据格式将RDMA***运行日志转换为日志数据Event,其中Event结构如下:
Figure BDA0001762089740000081
其中,Level为RMDA***运行日志紧急程度,Name为RDMA***运行日志名称,Value为RDMA***运行日志的具体数值,Time为RDMA***运行日志产生的时间,Info为RDMA***运行日志的解释信息。通过将RDMA***运行日志转化为半结构化数据格式的日志数据Event,实现紧急事件按优先级处理。之后,将日志数据Event写入对应的Hbase中或者HDFS中。当从Hbase中或HDFS中读取日志文件时,就可查看到日志文件的紧急度,从而对紧急度高的日志文件优先处理。
本发明实施例提供的日志写入方法,将RDMA***运行日志按紧急度划分为紧急日志和非紧急日志,将紧急日志对应的半结构化数据格式的日志数据存储到内存数据库***Hbase中,在空闲时将Hbase中存储的日志存储到磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题,通过将运行日志转化为半结构化数据格式的日志数据,实现了紧急事件按优先级处理。
在上述各实施例的基础上,进一步地,所述若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中,包括:
若所述RDMA***运行日志为紧急日志,则将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中。
具体地,将获取到的RDMA***运行日志转化为半结构化数据格式的日志数据Event之后,将同一紧急度日志数据Event按时间顺序存到同一Hbase文件中,同时,也可以将非紧急日志中同一紧急度日志数据Event按时间顺序存到同一HDFS文件中,这样,在同一个Hbase文件或同一个HDFS文件中,RDMA***运行日志等级相同,可按照不同Hbase文件或HDFS文件进行相应的处理,解决了大量无规则突发日志有序存储问题。
本发明实施例提供的日志写入方法,将RDMA***运行日志对应的半结构化数据格式的日志数据按照紧急度和时间顺序存储到内存数据库***Hbase或磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题,通过将运行日志转化为半结构化数据格式的日志数据,实现了紧急事件按优先级处理。
在上述各实施例的基础上,进一步地,所述将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中,包括:
将所述日志数据按照其对应的紧急度缓存至第一内存队列中;
将所述第一内存队列中的日志数据依次写入内存数据库***Hbase中。
具体地,由于日志获取速度大于日志写入速度,在实际应用中,还可以将日志数据按照对应的紧急度缓存至内存队列中,记为第一内存队列,同一紧急度的日志数据,缓存至同一个第一内存队列中,然后将第一内存队列中的日志数据依次写入内存数据库***Hbase中,在Hbase中存储紧急日志队列,解决了大量紧急无规则数据有序实时写入的问题。
本发明实施例提供的日志写入方法,将RDMA***运行日志对应的半结构化数据格式的日志数据按照紧急度和时间顺序存储到内存数据库***Hbase或磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量紧急无规则数据有序实时写入的问题。
在上述各实施例的基础上,进一步地,所述将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中,包括:
获取所述内存数据库***Hbase中的紧急日志队列;
将所述紧急日志队列缓存至第二内存队列中;
将所述第二内存队列中的日志数据对应的紧急日志依次写入磁盘分布式文件***HDFS中。
具体地,在空闲时,需要将内存数据库***Hbase中的紧急日志写入磁盘分布式文件***HDFS中持久化,首先获取内存数据库***Hbase中的紧急日志队列,然后将紧急日志队列缓存至内存队列中,记为第二内存队列,之后将第二内存队列中的日志数据对应的紧急日志依次写入磁盘分布式文件***HDFS中,将同一等级日志按时间顺序存到同一HDFS文件中,Event数据在Hbase中保存的结构为数据库中的数据表,存入HDFS后会保存为数据文件。Hbase中的Event消息数据量都比较小,一般为几十到几百字节,而HDFS文件一般为几十兆字节到几G字节,在将Hbase中Event数据写入HDFS时,需要按照日志紧急程度规则将Event数据分级到不同的第二内存队列中,不同第二内存队列中的Event数据对应的紧急日志按照时间先后顺序聚合到HDFS文件,解决了大量无规则突发日志有序存储问题。
本发明实施例提供的日志写入方法,对紧急度高的日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,将突发重要高频率日志存储到Hbase内存数据库***,在空闲时将Hbase内存数据***的重要高频率日志存储到HDFS磁盘分布式文件***,解决了***突发日志实时大规模吞吐量处理能力问题。
在上述各实施例的基础上,进一步地,所述将所述非紧急日志写入磁盘分布式文件***HDFS中,包括:
将所述非紧急日志对应的日志数据按照其对应的紧急度缓存至第三内存队列中;
将所述第三内存队列中的日志数据对应的非紧急日志依次写入磁盘分布式文件***HDFS中。
具体地,还可以对非紧急日志按照紧急度存储到磁盘分布式文件***HDFS中,首先获取RDMA***运行日志,然后确定RDMA***运行日志是否为非紧急日志以及其对应的紧急度,将非紧急日志转化为预设半结构化数据格式的日志数据,将日志数据按照紧急度缓存至内存队列中,记为第三内存队列,之后将第三内存队列中的日志数据对应的非紧急日志依次写入磁盘分布式文件***HDFS中,将同一等级日志按时间顺序存到同一HDFS文件中,解决了大量无规则突发日志有序存储问题。
本发明实施例提供的日志写入方法,对紧急度高的日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,将突发重要高频率日志存储到Hbase内存数据库***,在空闲时将Hbase内存数据***的重要高频率日志存储到HDFS磁盘分布式文件***,解决了***突发日志实时大规模吞吐量处理能力问题。
图2为本发明实施例提供的日志写入装置的结构示意图,如图2所示,该装置包括:获取模块21、判断模块22、紧急日志缓存模块23、非紧急日志存储模块24和紧急日志存储模块25,其中:
获取模块21用于获取远程直接数据存取RDMA***运行日志;判断模块22用于判断所述RDMA***运行日志是否为紧急日志;紧急日志缓存模块23用于若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;非紧急日志存储模块24用于若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;紧急日志存储模块25用于若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
具体地,获取模块21通过Linux Shell脚本获取RDMA***运行日志,运行日志可以为:RDMA网卡运行时的寄存器值,ethtool命令输出的属性值,或OFED Perftest等RDMA测试程序运行结果值。判断模块22判断该日志是否为紧急日志,若为紧急日志,则紧急日志缓存模块23将紧急日志写入内存数据库***Hbase中,实现对紧急日志信息采用高频率日志采样,解决了大量无规则突发日志有序存储问题;若为非紧急日志,则非紧急日志存储模块24直接将非紧急日志写入磁盘分布式文件***HDFS中持久化,之后判断***是否空闲,在***空闲时,紧急日志存储模块25将Hbase中已经存储的紧急日志写入到HDFS中,清空Hbase中的紧急日志,以便后续采集RDMA***运行日志时Hbase有足够的空间存储紧急日志。本发明实施例提供的装置,用于实现上述方法,其功能具体参照上述方法实施例,此处不再赘述。
本发明实施例提供的日志写入装置,将RDMA***运行日志划分为紧急日志和非紧急日志,将紧急日志存储到内存数据库***Hbase中,在空闲时将Hbase中存储的紧急日志存储到磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题。
在上述实施例的基础上,进一步地,所述判断模块具体用于:
根据预设等级划分原则,确定所述RDMA***运行日志的紧急度;
若所述紧急度大于预设紧急度阈值,则确定所述RDMA***运行日志为紧急日志;
否则,确定所述RDMA***运行日志为非紧急日志。
具体地,为了对杂乱无章的日志文件进行整理,还可以预先设置等级划分原则,将日志划分为N个等级,紧急度从1~N,紧急度数值越高,日志越重要,日志采样频率越高。当获取到RDMA***运行日志之后,判断模块按照预设等级划分原则,确定RDMA***运行日志的紧急度,然后判断日志紧急度是否大于预设紧急度阈值,例如,设置紧急度阈值为5,则紧急度大于5的RDMA***运行日志为紧急日志,紧急度小于或等于5的RDMA***运行日志为非紧急日志。本发明实施例提供的装置,用于实现上述方法,其功能具体参照上述方法实施例,此处不再赘述。
本发明实施例提供的日志写入装置,将RDMA***运行日志按紧急度划分为紧急日志和非紧急日志,将紧急日志存储到内存数据库***Hbase中,在空闲时将Hbase中存储的紧急日志存储到磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题。
在上述各实施例的基础上,进一步地,该装置还包括:
预处理模块,用于根据预设半结构化数据格式确定所述RDMA***运行日志对应的日志数据,其中,所述预设半结构化数据格式包括:所述RDMA***运行日志的紧急度、日志名称、日志产生时间和日志数值。
具体地,获取到RDMA***运行日志之后,预处理模块按照预设等级划分原则,确定RDMA***运行日志对应的紧急度,然后判断RDMA***运行日志是否为紧急日志,并按照预设半结构化数据格式将RDMA***运行日志转换为日志数据Event,其中Event结构如下:
Figure BDA0001762089740000131
其中,Level为RMDA***运行日志紧急程度,Name为RDMA***运行日志名称,Value为RDMA***运行日志的具体数值,Time为RDMA***运行日志产生的时间,Info为RDMA***运行日志的解释信息。本发明实施例提供的装置,用于实现上述方法,其功能具体参照上述方法实施例,此处不再赘述。
本发明实施例提供的日志写入装置,将RDMA***运行日志按紧急度划分为紧急日志和非紧急日志,将紧急日志对应的半结构化数据格式的日志数据存储到内存数据库***Hbase中,在空闲时将Hbase中存储的日志存储到磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题,通过将运行日志转化为半结构化数据格式的日志数据,实现了紧急事件按优先级处理。
在上述各实施例的基础上,进一步地,所述紧急日志缓存模块具体用于:
若所述RDMA***运行日志为紧急日志,则将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中。
具体地,将获取到的RDMA***运行日志转化为半结构化数据格式的日志数据Event之后,紧急日志缓存模块将同一紧急度日志数据Event按时间顺序存到同一Hbase文件中,同时,也可以将非紧急日志中同一紧急度日志数据Event按时间顺序存到同一HDFS文件中,这样,在同一个Hbase文件或同一个HDFS文件中,RDMA***运行日志等级相同,可按照不同Hbase文件或HDFS文件进行相应的处理,解决了大量无规则突发日志有序存储问题。本发明实施例提供的装置,用于实现上述方法,其功能具体参照上述方法实施例,此处不再赘述。
本发明实施例提供的日志写入装置,将RDMA***运行日志对应的半结构化数据格式的日志数据按照紧急度和时间顺序存储到内存数据库***Hbase或磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量无规则突发日志有序存储问题,通过将运行日志转化为半结构化数据格式的日志数据,实现了紧急事件按优先级处理。
在上述各实施例的基础上,进一步地,紧急日志缓存模块包括:
第一缓存单元,用于将所述日志数据按照其对应的紧急度缓存至第一内存队列中;
第一写入单元,用于将所述第一内存队列中的日志数据依次写入内存数据库***Hbase中。
具体地,由于日志获取速度大于日志写入速度,在实际应用中,第一缓存单元将日志数据按照对应的紧急度缓存至内存队列中,记为第一内存队列,同一紧急度的日志数据,缓存至同一个第一内存队列中,然后第一写入单元将第一内存队列中的日志数据依次写入内存数据库***Hbase中,在Hbase中存储紧急日志队列,解决了大量紧急无规则数据有序实时写入的问题。本发明实施例提供的装置,用于实现上述方法,其功能具体参照上述方法实施例,此处不再赘述。
本发明实施例提供的日志写入装置,将RDMA***运行日志对应的半结构化数据格式的日志数据按照紧急度和时间顺序存储到内存数据库***Hbase或磁盘分布式文件***HDFS中,提高了***突发日志实时大规模吞吐量并发处理能力,并且对紧急日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,解决了大量紧急无规则数据有序实时写入的问题。
在上述各实施例的基础上,进一步地,所述紧急日志存储模块包括:
获取单元,用于获取所述内存数据库***Hbase中的紧急日志队列;
第二缓存单元,用于将所述紧急日志队列缓存至第二内存队列中;
第二写入单元,用于将所述第二内存队列中的日志数据对应的紧急日志依次写入磁盘分布式文件***HDFS中。
具体地,获取单元获取内存数据库***Hbase中的紧急日志队列,然后第二缓存单元将紧急日志队列缓存至内存队列中,记为第二内存队列,之后第二写入单元将第二内存队列中的日志数据对应的紧急日志依次写入磁盘分布式文件***HDFS中,将同一等级日志按时间顺序存到同一HDFS文件中,Event数据在Hbase中保存的结构为数据库中的数据表,存入HDFS后会保存为数据文件。本发明实施例提供的装置,用于实现上述方法,其功能具体参照上述方法实施例,此处不再赘述。
本发明实施例提供的日志写入装置,对紧急度高的日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,将突发重要高频率日志存储到Hbase内存数据库***,在空闲时将Hbase内存数据***的重要高频率日志存储到HDFS磁盘分布式文件***,解决了***突发日志实时大规模吞吐量处理能力问题。
在上述各实施例的基础上,进一步地,所述非紧急日志存储模块包括:
第三缓存单元,用于将所述非紧急日志对应的日志数据按照其对应的紧急度缓存至第三内存队列中;
第三写入单元,用于将所述第三内存队列中的日志数据对应的非紧急日志依次写入磁盘分布式文件***HDFS中。
具体地,还可以对非紧急日志按照紧急度存储到磁盘分布式文件***HDFS中,首先获取RDMA***运行日志,然后确定RDMA***运行日志是否为非紧急日志以及其对应的紧急度,将非紧急日志转化为预设半结构化数据格式的日志数据,第三缓存单元将日志数据按照紧急度缓存至内存队列中,记为第三内存队列,之后第三写入单元将第三内存队列中的日志数据对应的非紧急日志依次写入磁盘分布式文件***HDFS中,将同一等级日志按时间顺序存到同一HDFS文件中,解决了大量无规则突发日志有序存储问题。本发明实施例提供的装置,用于实现上述方法,其功能具体参照上述方法实施例,此处不再赘述。
本发明实施例提供的日志写入装置,对紧急度高的日志信息采用高频率日志采样,对非紧急日志信息采用低频率日志采样,将突发重要高频率日志存储到Hbase内存数据库***,在空闲时将Hbase内存数据***的重要高频率日志存储到HDFS磁盘分布式文件***,解决了***突发日志实时大规模吞吐量处理能力问题。
图3为本发明实施例提供的日志写入***的结构示意图,如图3所示,在实际应用中,可以采用Apache Flume日志管理***,包括第一Flume***和第二Flume***。每个Flume***包括Source组件,channel组件和Sink组件三个组件。每台服务器上都部署了第一Flume***,用于日志的分级,写入Hbase中或者HDFS中。多台服务器上选择一台服务器部署第二Flume***,用于将Hbase中的数据写入HDFS中去。
第一Flume***中包括Source组件、紧急事件channel组件、非紧急事件channel组件、Hbase Sink组件和HDFS Sink组件,第二Flume***包括:Hbase Source组件、Memchannel组件和HDFS sink组件。其中:Source组件用于获取RDMA***运行日志,紧急事件channel组件用于以内存队列形式缓存紧急RDMA***运行日志对应的日志数据Event;非紧急事件channel组件:用于以内存队列形式缓存非紧急RDMA***运行日志对应的日志数据Event,Hbase sink组件:用于以分布式内存数据库形式存储RDMA***运行日志对应的日志数据Event;HDFS sink组件:用于以磁盘分布式文件***形式存储RDMA***运行日志。图4为本发明实施例提供的日志写入***中第二Flume***的结构示意图,如图4所示,第二Flume***包括:Hbase Source组件、多个Mem channel组件和多个HDFS sink组件。多队列第二Flume***用于将不同紧急程度的Event数据写入不同HDFS文件队列,解决了大量紧急无规则数据有序实时写入的问题。其中:Hbase source组件用于接受来自第一Flume***Hbase sink的Event数据,将Event数据转发给下游channel缓存组件,Mem channel组件用于缓存来自第二Flume***Hbase source组件的Event数据,每个Mem channel组件用于缓存同一优先级的Event数据,采用优先级队列形式缓存同一紧急度的event1、event2、event3等数据,将Event数据转发下游对应的Sink写入组件,Mem channel组件的作用主要是缓存大量紧急的Event数据。例如,第一个Mem channel组件缓存优先级队列1,第二个Memchannel组件缓存优先级队列2,第三个Mem channel组件缓存优先级队列3等。HDFS sink组件用于接受来自第二Flume***的Event数据,将Event数据对应的日志写入HDFS磁盘分布式文件***。不同Mem channel队列中的Event数据按照时间先后顺序聚合到HDFS文件。Event数据在Hbase中保存的结构为数据库中的数据表,存入HDFS后会保存为数据文件。通过将突发重要高频率日志存储到Hbase内存数据库***,在空闲时将Hbase内存数据***的重要高频率日志存储到HDFS磁盘分布式文件***,解决了***突发日志实时大规模吞吐量处理能力问题。
图5为本发明实施例提供的电子设备的结构示意图,如图5所示,所述设备包括:处理器(processor)51、存储器(memory)52和总线53;
其中,处理器51和存储器52通过所述总线53完成相互间的通信;
处理器51用于调用存储器52中的程序指令,以执行上述各方法实施例所提供的方法,例如包括:获取远程直接数据存取RDMA***运行日志;判断所述RDMA***运行日志是否为紧急日志;若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
本发明实施例公开一种计算机程序产品,所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,计算机能够执行上述各方法实施例所提供的方法,例如包括:获取远程直接数据存取RDMA***运行日志;判断所述RDMA***运行日志是否为紧急日志;若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
本发明实施例提供一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行上述各方法实施例所提供的方法,例如包括:获取远程直接数据存取RDMA***运行日志;判断所述RDMA***运行日志是否为紧急日志;若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所描述的装置等实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上各实施例仅用以说明本发明的实施例的技术方案,而非对其限制;尽管参照前述各实施例对本发明的实施例进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明的各实施例技术方案的范围。

Claims (16)

1.一种日志写入方法,其特征在于,包括:
获取远程直接数据存取RDMA***运行日志;
判断所述RDMA***运行日志是否为紧急日志;
若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;
若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;
若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
2.根据权利要求1所述的方法,其特征在于,所述判断所述RDMA***运行日志是否为紧急日志,包括:
根据预设等级划分原则,确定所述RDMA***运行日志的紧急度;
若所述紧急度大于预设紧急度阈值,则确定所述RDMA***运行日志为紧急日志;
否则,确定所述RDMA***运行日志为非紧急日志。
3.根据权利要求2所述的方法,其特征在于,所述判断所述RDMA***运行日志是否为紧急日志之后,还包括:
根据预设半结构化数据格式确定所述RDMA***运行日志对应的日志数据,其中,所述预设半结构化数据格式包括:所述RDMA***运行日志的紧急度、日志名称、日志产生时间和日志数值。
4.根据权利要求3所述的方法,其特征在于,所述若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中,包括:
若所述RDMA***运行日志为紧急日志,则将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中。
5.根据权利要求4所述的方法,其特征在于,所述将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中,包括:
将所述日志数据按照其对应的紧急度缓存至第一内存队列中;
将所述第一内存队列中的日志数据依次写入内存数据库***Hbase中。
6.根据权利要求5所述的方法,其特征在于,所述将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中,包括:
获取所述内存数据库***Hbase中的紧急日志队列;
将所述紧急日志队列缓存至第二内存队列中;
将所述第二内存队列中的日志数据对应的紧急日志依次写入磁盘分布式文件***HDFS中。
7.根据权利要求3-6任一所述的方法,其特征在于,所述将所述非紧急日志写入磁盘分布式文件***HDFS中,包括:
将所述非紧急日志对应的日志数据按照其对应的紧急度缓存至第三内存队列中;
将所述第三内存队列中的日志数据对应的非紧急日志依次写入磁盘分布式文件***HDFS中。
8.一种日志写入装置,其特征在于,包括:
获取模块,用于获取远程直接数据存取RDMA***运行日志;
判断模块,用于判断所述RDMA***运行日志是否为紧急日志;
紧急日志缓存模块,用于若所述RDMA***运行日志为紧急日志,则将所述紧急日志写入内存数据库***Hbase中;
非紧急日志存储模块,用于若所述RDMA***运行日志为非紧急日志,则将所述非紧急日志写入磁盘分布式文件***HDFS中;
紧急日志存储模块,用于若判断获知RDMA***空闲,则将所述内存数据库***Hbase中的紧急日志写入所述磁盘分布式文件***HDFS中。
9.根据权利要求8所述的装置,其特征在于,所述判断模块具体用于:
根据预设等级划分原则,确定所述RDMA***运行日志的紧急度;
若所述紧急度大于预设紧急度阈值,则确定所述RDMA***运行日志为紧急日志;
否则,确定所述RDMA***运行日志为非紧急日志。
10.根据权利要求9所述的装置,其特征在于,还包括:
预处理模块,用于根据预设半结构化数据格式确定所述RDMA***运行日志对应的日志数据,其中,所述预设半结构化数据格式包括:所述RDMA***运行日志的紧急度、日志名称、日志产生时间和日志数值。
11.根据权利要求10所述的装置,其特征在于,所述紧急日志缓存模块具体用于:
若所述RDMA***运行日志为紧急日志,则将所述紧急日志对应的日志数据按照紧急度写入内存数据库***Hbase中。
12.根据权利要求11所述的装置,其特征在于,紧急日志缓存模块包括:
第一缓存单元,用于将所述日志数据按照其对应的紧急度缓存至第一内存队列中;
第一写入单元,用于将所述第一内存队列中的日志数据依次写入内存数据库***Hbase中。
13.根据权利要求12所述的装置,其特征在于,所述紧急日志存储模块包括:
获取单元,用于获取所述内存数据库***Hbase中的紧急日志队列;
第二缓存单元,用于将所述紧急日志队列缓存至第二内存队列中;
第二写入单元,用于将所述第二内存队列中的日志数据对应的紧急日志依次写入磁盘分布式文件***HDFS中。
14.根据权利要求10-13任一所述的装置,其特征在于,所述非紧急日志存储模块包括:
第三缓存单元,用于将所述非紧急日志对应的日志数据按照其对应的紧急度缓存至第三内存队列中;
第三写入单元,用于将所述第三内存队列中的日志数据对应的非紧急日志依次写入磁盘分布式文件***HDFS中。
15.一种电子设备,其特征在于,包括:
存储器和处理器,所述处理器和所述存储器通过总线完成相互间的通信;所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行如权利要求1至7任一所述的方法。
16.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一所述的方法。
CN201810912188.5A 2018-08-10 2018-08-10 一种日志写入方法、装置、电子设备及存储介质 Active CN109284257B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810912188.5A CN109284257B (zh) 2018-08-10 2018-08-10 一种日志写入方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810912188.5A CN109284257B (zh) 2018-08-10 2018-08-10 一种日志写入方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN109284257A CN109284257A (zh) 2019-01-29
CN109284257B true CN109284257B (zh) 2021-01-05

Family

ID=65183185

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810912188.5A Active CN109284257B (zh) 2018-08-10 2018-08-10 一种日志写入方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN109284257B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112486913B (zh) * 2020-11-12 2023-09-22 思创数码科技股份有限公司 一种基于集群环境下的日志异步存储方法和设备
CN112395180A (zh) * 2020-12-10 2021-02-23 南威软件股份有限公司 一种业务日志全链路跟踪的实现方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1477822A (zh) * 2003-07-31 2004-02-25 北京港湾网络有限公司 日志信息的扩展保存方法
CN102810050A (zh) * 2011-05-31 2012-12-05 深圳市金蝶友商电子商务服务有限公司 日志数据写入方法和日志***
CN103176888A (zh) * 2011-12-22 2013-06-26 阿里巴巴集团控股有限公司 一种日志记录的方法和***
CN106951488A (zh) * 2017-03-14 2017-07-14 海尔优家智能科技(北京)有限公司 一种日志记录方法和装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1477822A (zh) * 2003-07-31 2004-02-25 北京港湾网络有限公司 日志信息的扩展保存方法
CN102810050A (zh) * 2011-05-31 2012-12-05 深圳市金蝶友商电子商务服务有限公司 日志数据写入方法和日志***
CN103176888A (zh) * 2011-12-22 2013-06-26 阿里巴巴集团控股有限公司 一种日志记录的方法和***
CN106951488A (zh) * 2017-03-14 2017-07-14 海尔优家智能科技(北京)有限公司 一种日志记录方法和装置

Also Published As

Publication number Publication date
CN109284257A (zh) 2019-01-29

Similar Documents

Publication Publication Date Title
BE1022604B1 (nl) Efficiente monitoring van een datacenter
CN111124819B (zh) 全链路监控的方法和装置
CN107341258B (zh) 一种日志数据采集方法及***
CN111045782B (zh) 日志处理方法、装置、电子设备和计算机可读存储介质
US11093349B2 (en) System and method for reactive log spooling
CN111966289B (zh) 基于Kafka集群的分区优化方法和***
US20100229182A1 (en) Log information issuing device, log information issuing method, and program
CN107135088B (zh) 云计算***中处理日志的方法和装置
US20120066694A1 (en) Event overflow handling by coalescing and updating previously-queued event notification
CN109981702B (zh) 一种文件存储方法及***
CN112350854B (zh) 一种流量故障定位方法、装置、设备及存储介质
CN112988679B (zh) 日志采集控制方法、装置、存储介质及服务器
CN111522786A (zh) 日志处理***及方法
CN109284257B (zh) 一种日志写入方法、装置、电子设备及存储介质
CN113485962A (zh) 日志文件的存储方法、装置、设备和存储介质
CN107357526B (zh) 用于处理网络数据的方法和装置、服务器和存储介质
CN115809119A (zh) 容器编排引擎的监控方法、***及装置
CN113422808B (zh) 物联网平台http信息推送方法、***、装置及介质
CN116781787A (zh) 异构存储全局管理调度方法和***、电子设备及存储介质
US10171329B2 (en) Optimizing log analysis in SaaS environments
CN114116128B (zh) 容器实例的故障诊断方法、装置、设备和存储介质
CN112131198B (zh) 一种日志分析方法、装置及电子设备
CN114185681A (zh) 一种自动化限流处理方法及装置
CN112749398B (zh) 数据传输通道控制方法和***
CN111131083A (zh) 节点间数据传输方法、装置、设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20190129

Assignee: BEIJING STAR-NET RUIJIE NETWORKS Co.,Ltd.

Assignor: RUIJIE NETWORKS Co.,Ltd.

Contract record no.: X2022350000023

Denomination of invention: A log writing method, device, electronic device and storage medium

Granted publication date: 20210105

License type: Common License

Record date: 20220808

EE01 Entry into force of recordation of patent licensing contract