CN112685375B - 基于cdn的日志分析方法及装置 - Google Patents

基于cdn的日志分析方法及装置 Download PDF

Info

Publication number
CN112685375B
CN112685375B CN201910993420.7A CN201910993420A CN112685375B CN 112685375 B CN112685375 B CN 112685375B CN 201910993420 A CN201910993420 A CN 201910993420A CN 112685375 B CN112685375 B CN 112685375B
Authority
CN
China
Prior art keywords
index data
total
cdn
log
preset
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910993420.7A
Other languages
English (en)
Other versions
CN112685375A (zh
Inventor
唐君行
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Bilibili Technology Co Ltd
Original Assignee
Shanghai Bilibili Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Bilibili Technology Co Ltd filed Critical Shanghai Bilibili Technology Co Ltd
Priority to CN201910993420.7A priority Critical patent/CN112685375B/zh
Publication of CN112685375A publication Critical patent/CN112685375A/zh
Application granted granted Critical
Publication of CN112685375B publication Critical patent/CN112685375B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Debugging And Monitoring (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了一种基于CDN的日志分析方法，该方法包括：获取CDN节点当前时刻的日志信息；从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计，以得到第一总指标数据；从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果；将所述统计结果发送至日志中心。本发明还提供一种基于CDN的日志分析装置、计算机设备以及计算机可读存储介质。本发明可以节约日志中心内存和降低中心节点的计算消耗，提高网络带宽资源的利用率。

Description

基于CDN的日志分析方法及装置
技术领域
本发明涉及网络通信技术领域，尤其涉及一种基于CDN的日志分析方法及装置。
背景技术
随着内容分发网络(Content Delivery Network，CDN)技术的发展，在对日志中的数据处理时，通过将边缘CDN产生的大量的日志统一发送至日志中心，然后根据预设的时间间隔对日志中心的数据进行分析运算，得到中间运算结果，并将中间运算结果存储在中间存储中，最后通过可视化方式将中间运算结果显示。这种日志分析的方式，需要日志中心具有极高的存储能力和计算能力，同时，在边缘CDN将日志发送至日志中心的过程中，造成了网络带宽资源的严重浪费。
发明内容
有鉴于此，本发明提出一种基于CDN的日志分析方法及装置，能够解决上述的日志中心存储能力和计算能力低，在边缘CDN将日志发送至日志中心过程中，造成网络带宽资源严重浪费的问题。
首先，为实现上述目的，本发明提供一种基于CDN的日志分析方法，所述方法包括：
获取CDN节点当前时刻的日志信息；
从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计，以得到第一总指标数据；
从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果；
将所述统计结果发送至日志中心。
优选地，所述从所述日志信息中提取与预设指标对应的多个第一指标数据，包括：
将所述日志信息进行格式化处理，以获得目标日志信息；
从所述目标日志信息中提取所述多个第一指标数据。
优选地，所述根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果，包括：
将所述第一总指标数据减去所述第二总指标数据，以得到所述预设时间间隔内所述预设指标的情况信息。
优选地，所述方法还包括：
将所述第一总指标数据添加至所述CDN内存中，并将所述第二总指标数据更新至所述第一总指标数据。
优选地，所述将所述第二总指标数据更新至所述第一总指标数据，包括：
将所述第一总指标数据保存于所述CDN内存中，并将所述第二总指标数据删除。
优选地，所述日志信息至少包括：每秒请求次数、负载量和流量。
此外，为实现上述目的，本发明还提供一种基于CDN的日志分析装置，所述装置包括：
获取模块，用于获取CDN节点当前时刻的日志信息；
提取模块，用于从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计以得到第一总指标数据；
统计模块，用于从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果；
显示模块，用于将所述统计结果发送至日志中心。
优选地，所述统计模块，还用于：
将所述第一总指标数据减去所述第二总指标数据，以得到所述预设时间间隔内所述预设指标的情况信息。
进一步地，本发明还提出一种计算机设备，所述计算机设备包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上述的日志分析方法的步骤。
进一步地，为实现上述目的，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序可被至少一个处理器执行，以使所述至少一个处理器执行如上述的日志分析方法的步骤。
相较于现有技术，本发明所提出的基于CDN的日志分析方法、装置、计算机设备及计算机可读存储介质，能够获取CDN节点当前时刻的日志信息，然后，从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计，以得到第一总指标数据，接着，从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果，最后，将所述统计结果发送至日志中心。通过以上方式，可以有效解决日志中心存储能力和计算能力低，在边缘CDN将日志发送至日志中心过程中，造成网络带宽资源严重浪费的问题。
附图说明
图1是本发明一实施例一可选的应用环境示意图；
图2是本发明一实施例另一可选的应用环境示意图；
图3是本发明基于CDN的日志分析方法一具体实施例的流程示意图；
图4是图3步骤S302中的所述从所述日志信息中提取与预设指标对应的多个第一指标数据的过程的一具体实施例的流程示意图；
图5是图3步骤S304中的所述根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果的过程的一具体实施例的流程示意图；
图6是本发明基于CDN的日志分析方法另一具体实施例的流程示意图；
图7是图6步骤S600一具体实施例的流程示意图；
图8是本发明计算机设备一可选的硬件架构的示意图；
图9是本发明基于CDN的日志分析装置一实施例的程序模块示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，在本发明中涉及“第一”、“第二”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外，各个实施例之间的技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本发明要求的保护范围之内。
图1是本发明一实施例一可选的应用环境示意图。中心节点C与多个CDN节点N1、N2…Nk进行通信，每当发生一次用户请求时，均产生一条日志信息，并将该日志信息记录在对应的CDN节点，然后所述CDN对所述日志信息进行分析，并将分析结果发送至中心节点C的日志中心，最后通过可视化程序将分析结果以可视化方式显示。所述可视化方式包括但不限于文字、表格和图表的形式。CDN节点是一种计算机设备，可以为服务器或Cache设备。在下列实施例中，以CDN节点N1将日志分析结果发送至中心节点C为例进行详细说明。
图2是本发明一实施例另一可选的应用环境示意图。CDN节点边缘运算模块根据预设指标，将接收到的日志信息中的与所述预设指标对应的指标数据进行计算，并将计算结果作为中间运算结果发送至日志中心，并显示。当然，当有新的指标需要分析时，则需要将该新的指标和该指标对应的计算逻辑添加至所述边缘运算模块中，以根据该计算逻辑多该新的指标进行分析计算。通过将日志中心中日志信息的计算转移至边缘运算模块进行计算，当日志信息量大时，极大的减少了日志中心的计算量，CDN节点仅仅将计算结果发送至日志中心，极大的降低了日志中心的存储量，提高了网络的带宽利用率。
图3是本发明基于CDN的日志分析方法一具体实施例的流程示意图。可以理解，本方法实施例中的流程图不用于对执行步骤的顺序进行限定。下面以计算机设备为执行主体进行示例性描述。
如图3所示，所述基于CDN的日志分析方法可以包括步骤S300～S306，其中：
步骤S300，获取CDN节点当前时刻的日志信息。所述日志信息至少包括每秒请求次数、负载量和网络流量。
具体地，当某一网页有用户访问时，则所述计算机设备产生一条日志信息并保存。所述计算机设备设置有预设间隔时间获取一次日志信息，以定时获取日志信息并根据该日志信息进行日志分析。例如：当节点A被访问时，则产生一条日志信息，当预设的时间间隔1分钟到来时，获取时间日志信息。
步骤S302，从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计以得到第一总指标数据。
具体地，当需要分析节点A的访问情况的指标时，则提取日志信息中该指标下的所有指标数据，并将该些指标数据进行统计，也即将日志信息中节点A 的访问量进行累加，以获得节点A访问情况指标下的总指标数据。
如图4所示，在一示例性的实施例中，步骤S302中的所述从所述日志信息中提取与预设指标对应的多个第一指标数据，包括步骤S400～S402：
步骤S400，将所述日志信息进行格式化处理，以获得目标日志信息。
步骤S402，从所述目标日志信息中提取所述多个第一指标数据。
具体地，当节点A被访问时，产生日志信息，所述日志信息的格式一般为文本格式，当然也可以为csv格式，此时的文本格式或CSV格式的日志信息不利于指标数据的直接运算和统计，则需要将文本格式的日志信息转化为excel的xls 或者xlsx格式，然后再基于转化后的xls格式或者xlsx格式的目标日志信息进行数据的提取，以便对所述多个第一指标数据的直接运算和统计。
步骤S304，从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果。
需要说明的是，每隔预设时间间隔，所述计算机设备均执行一次指标数据的统计，并将统计出的该指标下的总指标数据保存至所述CDN节点内存中。当获取到当前时刻的所述预设指标下的所述第一总指标数据后，从所述CDN 节点内存中获取上一时刻统计的所述预设指标下的第二总指标数据，然后根据当前时刻的所述第一总指标数据和上一时刻的所述第二总指标数据对所述预设指标进行统计，得到统计结果。
如图5所示，在一示例性的实施例中，步骤S304中的所述根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果，包括步骤S500：
步骤S500，将所述第一总指标数据减去所述第二总指标数据，以得到所述预设时间间隔内所述预设指标的情况信息。
需要说明的是，每次统计的总指标数据均为日志信息中到该统计时间为止的该预设指标下的所有指标数据，通过将当前统计的第总指标数据减去上一时刻统计的第二总指标数据，所述第一总指标数据和所述第二总指标数据之间的差值即为该时间间隔产生的指标数据。
具体地，若上一时刻统计的节点A的总访问次数为x，当前时刻统计的节点A的总访问次数为y，则该预设时间间隔内节点A的访问次数为(y-x)次。例如：上午10:00统计的节点A的总访问次数为25000次，上午10:01统计的节点A的总访问次数为30000次，则上午10:00～10:01这一分钟之内节点A的访问次数为5000次。当然，对于日志信息中的其他指标，均可通过该方法进行统计，在此不作赘述。
步骤S306，将所述统计结果发送至日志中心。
具体地，当统计出每一时间间隔内所述预设指标的情况信息时，均将所述情况信息发送至中心节点(也即日志中心)保存。然后，所述中心节点根据可视化程序将当前时间间隔内的情况信息与所述中心节点中保存的历史时间间隔内的情况信息显示。其中，所述预设指标的情况信息的显示形式包括但不限定为文字、表格和/或图表的形式。
参阅图6所示，在一示例性的实施例中，本发明提供的基于CDN的日志分析方法，除了包括以上所述步骤S300～S306，还可以包括步骤S600：
步骤S600，将所述第一总指标数据添加至所述CDN内存中，并将所述第二总指标数据更新至所述第一总指标数据。
具体地，当统计当前时刻下所述预设指标的第一总指标数据后，保存所述第一总指标数据于所述CDN内存中，并将所述第二总指标数据覆盖掉。通过这种将上一时刻的总指标数据覆盖的方式，能够节约内存，并加快计算机设备计算每一时间间隔指标数据的处理速度。
如图7所示，在一示例性的实施例中，所述步骤S600中所述将所述第一总指标数据添加至所述CDN内存中，并将所述第二总指标数据更新至所述第一总指标数据的实现过程，可以包括步骤S700：
步骤S700，将所述第一总指标数据保存于所述CDN内存中，并将所述第二总指标数据删除。
从上文可知，本实施例所提出的基于CDN的日志分析方法能够获取CDN节点当前时刻的日志信息，然后，从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计，以得到第一总指标数据，接着，从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果，最后，将所述统计结果发送至日志中心。通过以上方式，可以有效节约日志中心内存和降低中心节点的计算消耗，并且在边缘CDN将日志发送至日志中心过程中，提高网络带宽资源的利用率。
此外，本发明还提供一种计算机设备，参阅图8所示，是本发明计算机设备一可选的硬件架构的示意图。
本实施例中，所述计算机设备1可包括，但不仅限于，可通过***总线相互通信连接存储器11、处理器12、网络接口13。所述计算机设备1通过网络接口13 连接网络(图8未标出)，通过网络连接到区块链、应用服务器以及其他计算机设备等(图8未标出)进行数据交互。所述网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯***(Global System of Mobile communication， GSM)、宽带码分多址(Wideband CodeDivision Multiple Access，WCDMA)、 4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi、通话网络等无线或有线网络。
需要指出的是，图8仅示出了具有组件11-13的计算机设备1，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。
其中，所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器11可以是所述计算机设备1的内部存储单元，例如该计算机设备1的硬盘或内存。在另一些实施例中，所述存储器11也可以是所述计算机设备1的外部存储设备，例如该计算机设备1 配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，所述存储器11还可以既包括所述计算机设备1的内部存储单元也包括其外部存储设备。本实施例中，所述存储器11通常用于存储安装于所述计算机设备1的操作***和各类应用软件，例如挡板应用的程序代码，以及基于CDN的日志分析装置200的程序代码等。此外，所述存储器11还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器12在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器12通常用于控制所述计算机设备1的总体操作，例如执行数据交互或者通信相关的控制和处理等。本实施例中，所述处理器12用于运行所述存储器11中存储的程序代码或者处理数据，例如运行所述基于CDN的日志分析装置200的应用程序，这里不做限制。
所述网络接口13可包括无线网络接口或有线网络接口，该网络接口13通常用于在所述计算机设备1与区块链、应用服务器以及其他计算机设备等之间建立通信连接。
本实施例中，所述计算机设备1内安装并运行有基于CDN的日志分析装置 200时，当所述基于CDN的日志分析装置200运行时，能够获取CDN节点当前时刻的日志信息，然后，从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计，以得到第一总指标数据，接着，从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果，最后，将所述统计结果发送至日志中心。通过以上方式，可以有效解决日志中心存储能力和计算能力低，在边缘CDN将日志发送至日志中心过程中，造成网络带宽资源严重浪费的问题。
至此，己经详细介绍了本发明计算机设备的硬件结构和功能。下面，将基于上述计算机设备，提出本发明的各个实施例。
参阅图9所示，是本发明基于CDN的日志分析装置200一实施例的程序模块图。
本实施例中，所述基于CDN的日志分析装置200包括一系列的存储于存储器11上的计算机程序指令，当该计算机程序指令被处理器12执行时，可以实现本发明实施例的节约日志中心内存，降低中心节点的计算消耗和提高网络带宽资源的利用率功能。在一些实施例中，基于该计算机程序指令各部分所实现的特定的操作，基于CDN的日志分析装置200可以被划分为一个或多个模块。例如，在图9中，所述基于CDN的日志分析装置200可以被分割成获取模块201、提取模块202、统计模块203和显示模块204。其中：
所述获取模块201，用于获取CDN节点当前时刻的日志信息。所述日志信息至少包括每秒请求次数、负载量和网络流量。
具体地，当某一网页有用户访问时，则所述计算机设备产生一条日志信息并保存。所述计算机设备设置有预设间隔时间获取一次日志信息，以使所述获取模块201定时获取日志信息并根据该日志信息进行日志分析。例如：当节点A 被访问时，则产生一条日志信息，当预设的时间间隔1分钟到来时，获取时间日志信息。
所述提取模块202，用于从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计以得到第一总指标数据。
具体地，当需要分析节点A的访问情况的指标时，则所述提取模块202提取日志信息中该指标下的所有指标数据，并将该些指标数据进行统计，也即将日志信息中节点A的访问量进行累加，以获得节点A访问情况指标下的总指标数据。
所述提取模块202，还用于将所述日志信息进行格式化处理，以获得目标日志信息；从所述目标日志信息中提取所述多个第一指标数据。
具体地，当节点A被访问时，产生日志信息，所述日志信息的格式一般为文本格式，当然也可以为csv格式，此时的文本格式或CSV格式的日志信息不利于指标数据的直接运算和统计，则需要将文本格式的日志信息转化为excel的xls 或者xlsx格式，然后再基于转化后的xls格式或者xlsx格式的目标日志信息进行数据的提取，以便对所述多个第一指标数据的直接运算和统计。
所述统计模块203，用于从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果。
需要说明的是，每隔预设时间间隔，所述计算机设备均执行一次指标数据的统计，并将统计出的该指标下的总指标数据保存至所述CDN节点内存中。当获取到当前时刻的所述预设指标下的所述第一总指标数据后，从所述CDN 节点内存中获取上一时刻统计的所述预设指标下的第二总指标数据，然后所述统计模块203根据当前时刻的所述第一总指标数据和上一时刻的所述第二总指标数据对所述预设指标进行统计，得到统计结果。
所述统计模块203，还用于将所述第一总指标数据减去所述第二总指标数据，以得到所述预设时间间隔内所述预设指标的情况信息。
需要说明的是，每次统计的总指标数据均为日志信息中到该统计时间为止的该预设指标下的所有指标数据，所述统计模块203通过将当前统计的第一总指标数据减去上一时刻统计的第二总指标数据，所述第一总指标数据和所述第二总指标数据之间的差值即为该时间间隔产生的指标数据。
具体地，若上一时刻统计的节点A的总访问次数为x，当前时刻统计的节点A的总访问次数为y，则所述统计模块203统计出该预设时间间隔内节点A 的访问次数为(y-x)次。例如：上午10:00统计的节点A的总访问次数为25000 次，上午10:01统计的节点A的总访问次数为30000次，则上午10:00～10:01 这一分钟之内节点A的访问次数为5000次。当然，对于日志信息中的其他指标，均可通过该方法进行统计，在此不作赘述。
所述显示模块306，用于将所述统计结果发送至日志中心。
具体地，当统计出每一时间间隔内所述预设指标的情况信息时，均将所述情况信息发送至中心节点(也即日志中心)保存。然后，所述中心节点根据可视化程序将当前时间间隔内的情况信息与所述中心节点中保存的历史时间间隔内的情况信息显示。其中，所述预设指标的情况信息的显示形式包括但不限定为文字、表格和/或图表的形式。
所述基于CDN的日志分析装置20，还包括更新模块，用于将所述第一总指标数据添加至所述CDN内存中，并将所述第二总指标数据更新至所述第一总指标数据。
具体地，当统计当前时刻下所述预设指标的第一总指标数据后，所述更新模块保存所述第一总指标数据于所述CDN内存中，并将所述第二总指标数据覆盖掉。通过这种将上一时刻的总指标数据覆盖的方式，能够节约内存，并加快计算机设备计算每一时间间隔指标数据的处理速度。
所述更新模块，还用于将所述第一总指标数据保存于所述CDN内存中，并将所述第二总指标数据删除。
从上文可知，所述计算机设备1能够获取CDN节点当前时刻的日志信息，然后，从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计，以得到第一总指标数据，接着，从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果，最后，将所述统计结果发送至日志中心。通过以上方式，可以有效节约日志中心内存和降低中心节点的计算消耗，并且在边缘CDN将日志发送至日志中心过程中，提高网络带宽资源的利用率。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (6)

1.一种基于CDN的日志分析方法，其特征在于，用于CDN节点边缘运算模块中，所述方法包括：
获取CDN节点当前时刻的日志信息；
从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计，以得到第一总指标数据；
从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果；其中，根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果，包括：将所述第一总指标数据减去所述第二总指标数据，以得到预设时间间隔内所述预设指标的情况信息；
将所述第一总指标数据添加至所述CDN内存中，并将所述第二总指标数据更新至所述第一总指标数据；其中，将所述第二总指标数据更新至所述第一总指标数据包括：将所述第一总指标数据保存于所述CDN内存中，并将所述第二总指标数据删除；
将所述统计结果发送至日志中心。
2.如权利要求1所述的日志分析方法，其特征在于，从所述日志信息中提取与预设指标对应的多个第一指标数据，包括：
将所述日志信息进行格式化处理，以获得目标日志信息；
从所述目标日志信息中提取所述多个第一指标数据。
3.如权利要求1所述的日志分析方法，其特征在于，所述日志信息至少包括：每秒请求次数、负载量和流量。
4.一种基于CDN的日志分析装置，其特征在于，用于CDN节点边缘运算模块中，所述装置包括：
获取模块，用于获取CDN节点当前时刻的日志信息；
提取模块，用于从所述日志信息中提取与预设指标对应的多个第一指标数据，并对所述多个第一指标数据进行统计以得到第一总指标数据；
统计模块，用于从所述CDN节点内存中获取上一时刻与所述预设指标对应的第二总指标数据，并根据所述第一总指标数据和所述第二总指标数据对所述预设指标进行统计，得到统计结果；所述统计模块，还用于：将所述第一总指标数据减去所述第二总指标数据，以得到预设时间间隔内所述预设指标的情况信息；所述统计模块，还用于：将所述第一总指标数据添加至所述CDN内存中，并将所述第二总指标数据更新至所述第一总指标数据；其中，将所述第二总指标数据更新至所述第一总指标数据包括：将所述第一总指标数据保存于所述CDN内存中，并将所述第二总指标数据删除；
显示模块，用于将所述统计结果发送至日志中心。
5.一种计算机设备，其特征在于，所述计算机设备包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1-3任一项所述的基于CDN的日志分析方法的步骤。
6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序可被至少一个处理器执行，以使所述至少一个处理器执行如权利要求1-3中任一项所述的基于CDN的日志分析方法的步骤。
CN201910993420.7A 2019-10-18 2019-10-18 基于cdn的日志分析方法及装置 Active CN112685375B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910993420.7A CN112685375B (zh) 2019-10-18 2019-10-18 基于cdn的日志分析方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910993420.7A CN112685375B (zh) 2019-10-18 2019-10-18 基于cdn的日志分析方法及装置

Publications (2)

Publication Number Publication Date
CN112685375A CN112685375A (zh) 2021-04-20
CN112685375B true CN112685375B (zh) 2023-04-28

Family

ID=75445057

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910993420.7A Active CN112685375B (zh) 2019-10-18 2019-10-18 基于cdn的日志分析方法及装置

Country Status (1)

Country Link
CN (1) CN112685375B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1567292A (zh) * 2003-07-10 2005-01-19 华为技术有限公司 一种用量统计模块及用量统计方法
CN101958837A (zh) * 2010-09-30 2011-01-26 北京世纪互联工程技术服务有限公司 日志处理***、日志处理方法、节点服务器和中心服务器
CN105429784A (zh) * 2015-10-30 2016-03-23 上海帝联信息科技股份有限公司 中央收集服务器、日志文件处理方法及***
CN108234233A (zh) * 2016-12-22 2018-06-29 阿里巴巴集团控股有限公司 日志处理方法及装置
CN108234210A (zh) * 2017-12-29 2018-06-29 北京奇虎科技有限公司 一种内容分发网络的日志处理方法和装置
CN109951323A (zh) * 2019-02-27 2019-06-28 网宿科技股份有限公司 一种日志分析方法和***

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018005571A (ja) * 2016-07-01 2018-01-11 富士通株式会社 ログ取得プログラム、ログ取得装置、及びログ取得方法
CN106101264B (zh) * 2016-07-20 2019-05-24 腾讯科技（深圳）有限公司 内容分发网络日志推送方法、装置和***
CN107087038A (zh) * 2017-06-29 2017-08-22 珠海市魅族科技有限公司 一种数据同步的方法、同步设备、装置及存储介质
CN107332719A (zh) * 2017-08-16 2017-11-07 北京云端智度科技有限公司 一种cdn***内日志实时分析的方法
CN107707414A (zh) * 2017-11-22 2018-02-16 北京搜狐新媒体信息技术有限公司 Cdn网络的监控***及方法
US10630611B2 (en) * 2018-04-10 2020-04-21 Level 3 Communications, Llc Store and forward logging in a content delivery network
CN109634818A (zh) * 2018-10-24 2019-04-16 中国平安人寿保险股份有限公司 日志分析方法、***、终端及计算机可读存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1567292A (zh) * 2003-07-10 2005-01-19 华为技术有限公司 一种用量统计模块及用量统计方法
CN101958837A (zh) * 2010-09-30 2011-01-26 北京世纪互联工程技术服务有限公司 日志处理***、日志处理方法、节点服务器和中心服务器
CN105429784A (zh) * 2015-10-30 2016-03-23 上海帝联信息科技股份有限公司 中央收集服务器、日志文件处理方法及***
CN108234233A (zh) * 2016-12-22 2018-06-29 阿里巴巴集团控股有限公司 日志处理方法及装置
CN108234210A (zh) * 2017-12-29 2018-06-29 北京奇虎科技有限公司 一种内容分发网络的日志处理方法和装置
CN109951323A (zh) * 2019-02-27 2019-06-28 网宿科技股份有限公司 一种日志分析方法和***

Also Published As

Publication number Publication date
CN112685375A (zh) 2021-04-20

Similar Documents

Publication Publication Date Title
CN110377569B (zh) 日志监控方法、装置、计算机设备和存储介质
CN109039819B (zh) 时延统计方法、装置、***及存储介质
CN112434039A (zh) 数据的存储方法、装置、存储介质以及电子装置
CN111585837B (zh) 物联网数据链路监控方法、装置、计算机设备和存储介质
CN105119763A (zh) 基于RIA的Web网管客户端的大数据快速导出方法及***
CN112636957A (zh) 基于日志的预警方法、装置、服务器及存储介质
CN105763595A (zh) 一种提高数据处理效率的方法及服务器
CN112367384A (zh) 基于Kafka集群的动态限速方法、装置以及计算机设备
CN112685375B (zh) 基于cdn的日志分析方法及装置
CN114173006B (zh) 通信用户离网预警方法及服务器
CN113095891A (zh) 一种数据处理方法、装置、存储介质及电子装置
CN111930756A (zh) 用于源数据的特征构建方法、装置、电子设备及介质
CN109218062B (zh) 基于置信区间的互联网业务报警方法和装置
CN115865753A (zh) 数据处理方法、装置、电子设备
CN108418831A (zh) 一种面向云计算的网络安全预警方法
CN111372286B (zh) 移动终端数据处理方法、介质和电子设备
CN111046416B (zh) 基于区块链的大健康数据管理***
CN111641959A (zh) 一种网络环境信息的检测方法和装置
CN111131393A (zh) 用户活跃度数据统计方法、电子装置及存储介质
CN112559221A (zh) 智能名单处理方法、***、设备及存储介质
CN117294578B (zh) 一种通信方法、***、计算机设备和存储介质
CN111242147A (zh) 一种亲密联系人和频繁活跃区域识别的方法及装置
CN115102830B (zh) 日志缩减方法、装置、计算机设备和计算机可读存储介质
CN117194020B (zh) 一种云计算的原始大数据处理方法、***和存储介质
CN110995839B (zh) 广告***性能的分析方法、装置和计算机存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant