CN116610537B - 一种数据量监控方法、***、设备及存储介质 - Google Patents
一种数据量监控方法、***、设备及存储介质 Download PDFInfo
- Publication number
- CN116610537B CN116610537B CN202310893332.6A CN202310893332A CN116610537B CN 116610537 B CN116610537 B CN 116610537B CN 202310893332 A CN202310893332 A CN 202310893332A CN 116610537 B CN116610537 B CN 116610537B
- Authority
- CN
- China
- Prior art keywords
- statistical
- date
- threshold
- target
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 138
- 238000000034 method Methods 0.000 title claims abstract description 53
- 230000004044 response Effects 0.000 claims abstract description 14
- 238000004364 calculation method Methods 0.000 claims description 66
- 238000012216 screening Methods 0.000 claims description 14
- 230000006870 function Effects 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 4
- 238000009825 accumulation Methods 0.000 claims description 3
- 230000008859 change Effects 0.000 abstract description 2
- 230000008569 process Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000013523 data management Methods 0.000 description 5
- 230000003068 static effect Effects 0.000 description 5
- 238000007726 management method Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- ZLIBICFPKPWGIZ-UHFFFAOYSA-N pyrimethanil Chemical compound CC1=CC(C)=NC(NC=2C=CC=CC=2)=N1 ZLIBICFPKPWGIZ-UHFFFAOYSA-N 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3058—Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
- G06F11/3072—Monitoring arrangements determined by the means or processing involved in reporting the monitored data where the reporting involves data filtering, e.g. pattern matching, time or event triggered, adaptive or policy-based reporting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Quality & Reliability (AREA)
- Data Mining & Analysis (AREA)
- Computational Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Operations Research (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Debugging And Monitoring (AREA)
- Alarm Systems (AREA)
Abstract
本申请公开了一种数据量监控方法、***、设备及存储介质，通过获取目标监控规则，所述目标监控规则包括用于计算统计日期集合和阈值区间的参数；基于所述目标监控规则和目标日期确定统计日期集合；基于所述统计日期集合和所述目标监控规则确定阈值区间；比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令，从而根据不同动态的监控参数条件来监控表中数据量。根据预设的目标监控规则中包含的参数计算当前所需的阈值区间，与需要判断的目标日期的数据量进行比对，本申请提供的方案能更灵活更精准的监控表数据的变化，以适应不同业务场景监控的需求，从而提高监控的准确性。
Description
技术领域
本申请涉及计算机技术领域，特别是涉及一种数据量监控方法、***、设备及存储介质。
背景技术
随着信息技术的发展和金融市场业务量的增长，公司运营生产业务***受益于大数据技术的同时，也越发依赖于大数据***的精确性和稳定性。
在目前的数据治理过程中，如需监控数据库中表的数据量时，一般只会将今天的数据量和设置好的上限下限系数进行比较，如果数据量不在系数范围内，则进行报警。但在这种方法中，固定的上下限系数也让数据量监控过程存在监控告警误报、漏报等问题，缺乏监控精确性。
因此，如何实现精确监控数据量，是本领域技术人员亟待解决的技术问题。
发明内容
基于上述问题，本申请提供了一种数据量监控方法、***、设备及存储介质，用以提高数据监控的准确性。
为解决上述问题，本申请实施例提供的技术方案如下：
本申请第一方面提供了一种数据量监控方法，包括：
获取目标监控规则，所述目标监控规则包括用于计算统计日期集合和阈值区间的参数；
基于所述目标监控规则和目标日期确定统计日期集合；
基于所述统计日期集合和所述目标监控规则确定阈值区间；
比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令。
可选的，所述目标监控规则包括阈值计算统计长度参数，所述基于所述目标监控规则和目标日期确定统计日期集合，包括：
基于阈值计算统计长度参数和目标日期确定统计开始日期和统计截止日期，根据所述统计开始日期和所述统计截止日期确定统计日期集合。
可选的，所述目标监控规则包括阈值计算统计长度参数和计算统计辅助参数，所述基于所述目标监控规则和目标日期确定统计日期集合，包括：
基于阈值计算统计长度参数、目标日期和计算统计辅助参数，确定统计开始日期和统计截止日期，所述计算统计辅助参数包括阈值计算统计偏移参数，和/或，阈值计算统计间隔参数；
根据所述统计开始日期和所述统计截止日期确定统计日期集合。
可选的，所述目标监控规则包括统计规则和统计参数，所述基于所述统计日期集合和所述目标监控规则确定阈值区间，包括：
获取所述统计日期集合对应的数据量集合，
基于统计规则和统计参数筛选所述数据量集合，得到阈值统计基准值；
基于阈值统计基准值和阈值计算系数计算得到阈值区间。
可选的，所述生成告警指令之后，还包括：
响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
响应于所述告警指令的消息类型为短信类型，将所述告警指令发送给对应的告警联系人，将所述告警指令调整为已完成状态。
可选的，所述生成告警指令之后，还包括：
响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
响应于所述告警指令的消息类型为弹窗类型，结合告警联系人信息将所述告警指令推送至弹窗消息数据表，将告警消息表中所述告警指令调整为已完成状态；
响应于弹窗消息数据表中的所述告警指令已推送给所述告警联系人信息对应的客户端，将所述弹窗消息数据表中的所述告警指令调整为已完成状态。
本申请第二方面提供了一种数据量监控***，包括：
目标监控规则获取单元，用于获取目标监控规则，所述目标监控规则包括用于计算统计日期集合和阈值区间的参数；
统计日期集合确定单元，用于基于所述目标监控规则和目标日期确定统计日期集合；
阈值区间确定单元，用于基于所述统计日期集合和所述目标监控规则确定阈值区间；
告警指令生成单元，用于比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令。
可选的，所述***还包括：
第一消息类型判断单元，用于响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
第一推送单元，用于响应于所述告警指令的消息类型为弹窗类型，结合告警联系人信息将所述告警指令推送至弹窗消息数据表，将告警消息表中所述告警指令调整为已完成状态；
第二推送单元，用于响应于弹窗消息数据表中的所述告警指令已推送给所述告警联系人信息对应的客户端，将所述弹窗消息数据表中的所述告警指令调整为已完成状态。
可选的，所述***还包括：
第二消息类型判断单元，用于响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
第三推送单元，用于响应于所述告警指令的消息类型为短信类型，将所述告警指令发送给对应的告警联系人，将所述告警指令调整为已完成状态。
本申请第三方面提供了一种电子设备，包括：存储器，处理器，及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现前述第一方面中任一项所述的数据量监控方法。
本申请第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行如前述第一方面中任意一项所述的数据量监控方法。
相较于现有技术，本申请具有以下有益效果：
通过获取目标监控规则，所述目标监控规则包括用于计算统计日期集合和阈值区间的参数；基于所述目标监控规则和目标日期确定统计日期集合；基于所述统计日期集合和所述目标监控规则确定阈值区间；比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令，从而根据不同动态的监控参数条件来监控表中数据量。根据预设的目标监控规则中包含的参数计算当前所需的阈值区间，与需要判断的目标日期的数据量进行比对，而不是如现有技术中仅根据预先设置的上下限数值进行监控，本申请提供的方案能更灵活更精准的监控表数据的变化，以适应不同业务场景监控的需求，从而提高监控的准确性。
附图说明
为更清楚地说明本实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例所提供的一种数据量监控方法流程图；
图2为本申请实施例所提供的一种数据量监控***结构图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
为便于理解本申请实施例提供的技术方案，下面将先对本申请实施例涉及的背景技术进行说明。
正如前文所述，随着信息技术的发展和金融市场业务量的增长，公司运营生产业务***受益于大数据技术的同时，也越发依赖于大数据***的稳定性。在目前的数据治理过程中，已经积累了一套基于静态阈值的脚本巡检数据监控方法，即当前监控数据库中表的数据量时，一般只会将今天的数据量和设置好的上限下限系数进行比较，如果数据量不在系数范围内，则进行报警，但这种方法中暴露出的监控告警误报、漏报问题也给数据监控带来了很大挑战。为进一步提高数据监控的***化、自动化以及精确化，将数据治理的风险降到最低，需要实现动态阈值数据监控。
本申请实施例提供的方法由后台***执行，例如可以由数据监控后台服务器执行。所述数据监控后台服务器可以是一台服务器设备，也可以是由多台服务器组成的服务器集群。
为了解决这一问题，在本申请实施例提供了数据量监控方法、***、设备及存储介质。通过获取目标监控规则，所述目标监控规则包括用于计算统计日期集合和阈值区间的参数；基于所述目标监控规则和目标日期确定统计日期集合；基于所述统计日期集合和所述目标监控规则确定阈值区间；比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令，从而根据不同动态的监控参数条件来监控表中数据量。开发动态阈值数据监控将提高数据监控的执行频率，更早更快地发现数据问题，为产品运营生产稳定性提供强力保障；提高数据监控自动化程度和告警精确度，帮助数据治理运维人员减轻监控告警人工处理的工作量，提高监控告警的处理效率。
为了便于理解本申请实施例提供的数据量监控方法，下面对本申请的场景示例进行说明。
以下通过一个实施例，对本申请提供的一种数据量监控方法进行说明。参见图1，该图1为本申请实施例提供的一种数据量监控方法的流程图，该方法流程的执行主体为服务器，进一步的，主体可以为服务器中的监控***，该方法包括：
S101：获取目标监控规则。
所述目标监控规则包括用于计算统计日期集合和阈值区间的参数。在实际应用场景中，该目标监控规则的参数可以是由用户灵活配置的；例如，所述目标监控规则包括的参数可以为统计长度N，统计偏移L，统计间隔M，统计规则，统计参数中的一种或多种的组合。其中，例如下表1，表1为本申请实施例提供的目标监控规则明细表，统计长度N为统计样本的区间长度，时间单位调度日历的工作日，如20个工作日或20天；统计偏移L为统计区间的偏移长度，时间单位调度日历的工作日，如5个工作日或5天；统计间隔M为统计样本的是间隔，时间单位调度日历的工作日（M<N），如三个工作日或三天，统计规则包括当日累积或批次增量；统计参数包括最大最小值、平均数和中位数。需要说明的是上述参数以及参数的具体内容仅仅为举例说明，在实际应用场景中可以对参数进行适应性调整，上述举例不对保护范围产生影响。
表1. 目标监控规则明细表
;
S102：基于所述目标监控规则和目标日期确定统计日期集合。
所述目标监控规则包括阈值计算统计长度参数，在一种可能的实现方式中，所述基于所述目标监控规则和目标日期确定统计日期集合，包括步骤A1-A2：
步骤A1：基于阈值计算统计长度参数确定统计开始日期和统计截止日期。
其中阈值计算统计长度参数为表1中的N数据列，用于表征在目标日期前，用于计算阈值的时间采样区间长度。
对应上述表1，当用户选中case-1中的目标监控规则配置，则目标日期前的第20个工作日为统计开始时间，目标日期为统计截止时间。
例如，若今天8月3日，当用户选中case-1中的目标监控规则配置，即取7月13日为统计开始时间，8月3日为统计截止时间。
步骤A2：根据所述统计开始日期和所述统计截止日期确定统计日期集合。
组合所述统计开始日期和所述统计截止日期，得到统计日期集合。即统计日期集合的范围确定公式可以为D-(N+L)≤date≤D-L，其中D为目标日期，date为统计日期集合。
在一种可能的实现方式中，所述基于所述目标监控规则和目标日期确定统计日期集合，包括B1-B2：
步骤B1：基于阈值计算统计长度参数和计算统计辅助参数，确定统计开始日期和统计截止日期。
所述计算统计辅助参数包括阈值计算统计偏移参数，和/或，阈值计算统计间隔参数。
对应上述表1，当用户选中case-3中的目标监控规则配置，则目标日期前的第（20+5）个工作日为统计开始时间，目标日期为统计截止时间。
步骤B2：根据所述统计开始日期和所述统计截止日期确定统计日期集合。
在一种可能的实现方式中，对应上述表1，当用户选中case-4中的目标监控规则配置，则目标日期前的第20个工作日为统计开始时间，目标日期为统计截止时间。而后，根据已经确定的统计开始时间和统计截止时间形成的时间区间，从中每隔3个工作日取1个时间样本，将获取到的若干个时间样本组合形成统计日期集合。
对应上述表1，当用户选中case-5中的目标监控规则配置，则目标日期前的第（20+5）天为统计开始时间，目标日期为统计截止时间。而后，根据已经确定的统计开始时间和统计截止时间形成的时间区间，从中每隔3天取1个时间样本，将获取到的若干个时间样本组合形成统计日期集合。
S103：基于所述统计日期集合和所述目标监控规则确定阈值区间。
所述目标监控规则包括阈值计算统计长度参数和计算统计辅助参数
在一种可能的实现方式中，所述基于所述统计日期集合和所述目标监控规则确定阈值区间，包括C1-C3：
步骤C1：获取所述统计日期集合对应的数据量集合。
获取上述S102步骤中确定的每个统计日期对应的数据量集合。例如，若已确定统计日期集合为7月13日到8月3日，则获取7月13日到8月3日之间的数据。
步骤C2：基于统计规则和统计参数筛选所述数据量集合，得到阈值统计基准值。
其中，统计规则对应表1中的倒数第二列的数据，统计参数对应表1中的最后一列的数据，所述统计规则和所述统计参数均用于对数据量集合的筛选条件，所述统计规则对应对数据更新模式的筛选，所述统计参数对应对数据类型的筛选。
步骤C3：基于阈值统计基准值和阈值计算系数计算得到阈值区间。
对应上述表1举例说明如下：
若选定所述目标监控规则对应CASE-1的配置时：若统计时刻的最新批次为3，则目标日期至前20个工作日之间每个工作日第三个批次的数据更新量作为样本，取最大值和最小值作为阈值统计基准值，与当天表数据量进行比较。
若选定所述目标监控规则对应CASE-2的配置时：若统计时刻的最新批次为3，则目标日期至前20个工作日之间每个工作日截止第三个批次的累计数据更新量作为样本，取平均值作为阈值统计基准值，与当天表数据量进行比较。
若选定所述目标监控规则对应CASE-3的配置时：若统计时刻的最新批次为3，则统计日前5个工作日至前（20+5）个工作日之间每个工作日第三个批次的数据更新量作为样本，取中位数与当天表数据量进行比较。
若选定所述目标监控规则对应CASE-4的配置时：若统计时刻的最新批次为3，则目标日期至前20个工作日之间，每隔3个工作日取1个时间样本，然后取每个时间样本的第三个批次的数据更新量作为样本，取中位数作为阈值统计基准值，与当天表数据量进行比较。
若选定所述目标监控规则对应CASE-5的配置时：统计日前5个天至前（20+5）天之间，每隔3天取1个时间样本，然后取每个时间样本的第三个批次的数据更新量作为样本，取中位数作为阈值统计基准值，与当天表数据量进行比较。
在实际应用场景中，假如今天8月3日，规则调度日历选的自然日，当用户选中的目标监控规则为case-1中的配置，后端sql以日期字段分组，取7月13日到8月3日之间的数据，每天第三个批次的数据更新量count(1)，一共得到20个count(1)的值，然后根据统计参数为最大最小值，选出这20个count(1)中的最大值和最小值，作为阈值统计的基准值。分别乘以阈值系数再与8月3日当天的count(1)的值比较，如果8月3日当天的count(1)的值超过阈值范围则在监控报警页面生产报警记录，用户可对该报警进行处理。
在一种可能的实现方式中，动态阈值数据监控的核心算法为比较目标时间数据量与动态阈值的大小关系来进行监控告警，具体模型可以表述为：
（1）
其中，公式（1）中的F代表动态阈值统计计算函数，可以是求最大值、求最小值、求中位数、求平均数四种统计计算函数；SL代表阈值下限计算系数，SU代表阈值上限计算系数；D代表监控执行目标日期，N代表阈值计算统计长度，L代表阈值计算统计偏移，M代表阈值计算统计间隔；Count代表目标日期数据量计算函数。
需要说明的是上述参数以及参数的具体内容仅仅为举例说明，在实际应用场景中可以对参数进行适应性调整，上述举例不对保护范围产生影响。在一种可能的实现方式中，可以通过监控***中的规则管理模块来进行数据监控规则的增删改查，主要就是定义和查询，实现对包括但不限于动态阈值统计计算函数、阈值下限计算系数、阈值上限计算系数、阈值计算统计长度、阈值计算统计偏移、阈值计算统计间隔、规则执行目标日期、目标日期数据量计算函数、目标数据源、目标数据表等参数的动态管理。
S104：比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令。
在实际应用场景中，对于目标日期的数据量的获取可以由***中的外部数据获取模块实现，包含kafka（高吞吐量的开源流处理平台）消息数据获取、api接口数据（Application Programming Interface，应用程序编程接口）获取和数据库数据获取三个子模块。其中，kafka由Apache软件基金会开发的一个开源流处理平台，由Scala和Java编写。在本案实例中，数据库数据获取服务应用管理了十多种不同数据源，包括Mysql（关系型数据库管理***）数据库、Oracle（Oracle Database，甲骨文公司提供的以分布式数据库为核心的关系数据库管理***）数据库、达梦数据库，供规则服务模块调用获取目标数据表的数据量，以此计算生成动态阈值，和当前时间数据量进行比较。此模块将外部数据获取与规则查询、规则执行等过程解耦，避免了逻辑的混乱，增加了代码的复用性。
在一种可能的实现方式中，所述生成告警指令之后，还包括步骤D10-D20：
步骤D10：响应于所述告警指令为未完成状态，判断所述告警指令的消息类型。
在实际应用场景中，上述步骤中生成的告警指令可以写入告警消息数据表中，负责管理告警消息数据表的告警服务模块定时轮询告警消息数据表，获取状态为未完成的告警消息，并判断消息类型。
步骤D20：响应于所述告警指令的消息类型为短信类型，将所述告警指令发送给对应的告警联系人，将所述告警指令调整为已完成状态。
如果是短信类型的消息，则调用短信消息发送服务，发送给对应的告警联系人，并且在发送成功后将告警消息表中该条消息状态改为完成。
在一种可能的实现方式中，所述生成告警指令之后，还包括步骤D11-步骤D31：
步骤D11：响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
步骤D21：响应于所述告警指令的消息类型为弹窗类型，结合告警联系人信息将所述告警指令推送至弹窗消息数据表，将告警消息表中所述告警指令调整为已完成状态。
如果是弹窗类型的消息，则结合告警联系人生成弹窗消息推送至弹窗消息数据表，推送完成后，将告警消息表中该条消息状态改为完成。
步骤D31：响应于弹窗消息数据表中的所述告警指令已推送给所述告警联系人信息对应的客户端，将所述弹窗消息数据表中的所述告警指令调整为已完成状态。
同时，用户端会定时轮询后台弹窗消息接口，此接口会扫描弹窗消息数据表，获取状态为未完成的弹窗消息并返回给用户端，返回成功后，讲弹窗消息表中该条消息状态改为已完成。
综上，开发动态阈值数据监控将提高数据监控的执行频率，更早更快地发现数据问题，为产品运营生产稳定性提供强力保障；提高数据监控自动化程度和告警精确度，帮助数据治理运维人员减轻监控告警人工处理的工作量，提高监控告警的处理效率。开发动态阈值数据监控需要对应的技术方法来支撑阈值计算和监控告警。本发明讲述了一种基于动态阈值的数据监控技术方法，该技术方法具备多源多表、动静结合、配置灵活、告警精确的特点。
本发明相对于静态阈值数据监控而言，增加了动态阈值，对数据阈值监控形成了高效的技术解决方案；基于规则服务、数据服务、告警服务的解耦设计，使得层次清晰，同时支持结合静态阈值和动态阈值，过程处理高效，模块高可用、扩展更灵活，该技术方法具备多源多表、动静结合、配置灵活、告警精确的特点。
以上为本申请实施例所提供的数据量监控方法的一些具体实现方式，基于此，本申请还提供了对应的用于数据量监控的***。下面将从功能模块化的角度对本申请实施例所提供的***进行介绍。图2为本申请实施例所提供的一种数据量监控***结构图。
所述***包括：
目标监控规则获取单元201，用于获取目标监控规则，所述目标监控规则包括用于计算统计日期集合和阈值区间的参数；
统计日期集合确定单元202，用于基于所述目标监控规则和目标日期确定统计日期集合；
阈值区间确定单元203，用于基于所述统计日期集合和所述目标监控规则确定阈值区间；
告警指令生成单元204，用于比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令。
可选的，所述***还包括：
第一消息类型判断单元，用于响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
第一推送单元，用于响应于所述告警指令的消息类型为弹窗类型，结合告警联系人信息将所述告警指令推送至弹窗消息数据表，将告警消息表中所述告警指令调整为已完成状态；
第二推送单元，用于响应于弹窗消息数据表中的所述告警指令已推送给所述告警联系人信息对应的客户端，将所述弹窗消息数据表中的所述告警指令调整为已完成状态。
可选的，所述***还包括：
第二消息类型判断单元，用于响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
第三推送单元，用于响应于所述告警指令的消息类型为短信类型，将所述告警指令发送给对应的告警联系人，将所述告警指令调整为已完成状态。
本申请实施例还提供了对应的设备以及计算机存储介质，用于实现本申请实施例所提供的数据量监控方法方案。
可选的，所述统计日期集合确定单元具体用于：基于阈值计算统计长度参数和目标日期确定统计开始日期和统计截止日期，根据所述统计开始日期和所述统计截止日期确定统计日期集合。
可选的，所述统计日期集合确定单元具体用于：基于阈值计算统计长度参数、目标日期和计算统计辅助参数，确定统计开始日期和统计截止日期，所述计算统计辅助参数包括阈值计算统计偏移参数，和/或，阈值计算统计间隔参数；根据所述统计开始日期和所述统计截止日期确定统计日期集合。
可选的，所述阈值区间确定单元具体用于：获取所述统计日期集合对应的数据量集合，基于统计规则和统计参数筛选所述数据量集合，得到阈值统计基准值；基于阈值统计基准值和阈值计算系数计算得到阈值区间。
其中，所述设备包括存储器和处理器，所述存储器用于存储指令或代码，所述处理器用于执行所述指令或代码，以使所述设备执行本申请任一实施例所述的数据量监控方法。
所述计算机存储介质中存储有代码，当所述代码被运行时，运行所述代码的设备实现本申请任一实施例所述的数据量监控方法。
需要说明的是，本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的***或装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
应当理解，在本申请中，“至少一个（项）”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，用于描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：只存在A，只存在B以及同时存在A和B三种情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指这些项中的任意组合，包括单项（个）或复数项（个）的任意组合。例如，a，b或c中的至少一项（个），可以表示：a，b，c，“a和b”，“a和c”，“b和c”，或“a和b和c”，其中a，b，c可以是单个，也可以是多个。
还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器（RAM）、内存、只读存储器（ROM）、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (7)
1.一种数据量监控方法，其特征在于，包括：
获取目标监控规则，所述目标监控规则包括用于计算统计日期集合和阈值区间的参数；
基于所述目标监控规则和目标日期确定统计日期集合；
基于所述统计日期集合和所述目标监控规则确定阈值区间；
比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令；
所述目标监控规则包括阈值计算统计长度参数，所述基于所述目标监控规则和目标日期确定统计日期集合，包括：
基于阈值计算统计长度参数和目标日期确定统计开始日期和统计截止日期，根据所述统计开始日期和所述统计截止日期确定统计日期集合；
所述目标监控规则包括阈值计算统计长度参数和计算统计辅助参数，所述基于所述目标监控规则和目标日期确定统计日期集合，包括：
基于阈值计算统计长度参数、目标日期和计算统计辅助参数，确定统计开始日期和统计截止日期，所述计算统计辅助参数包括阈值计算统计偏移参数，和/或，阈值计算统计间隔参数；
根据所述统计开始日期和所述统计截止日期确定统计日期集合；
所述目标监控规则包括统计规则和统计参数，所述基于所述统计日期集合和所述目标监控规则确定阈值区间，包括：
获取所述统计日期集合对应的数据量集合，
基于统计规则和统计参数筛选所述数据量集合，得到阈值统计基准值，所述统计规则用于对数据量的数据更新模式进行筛选，包括当日累积或批次增量，所述统计参数用于对数据量的数据类型进行筛选，包括最大值、最小值、平均数和中位数中的任意一项；
基于阈值统计基准值和阈值计算系数计算得到阈值区间；
计算所述阈值区间的公式具体如下：
;
其中，F为用于计算最大值、最小值、中位数和平均数中任意一项的计算函数；SL为用于调整阈值下限的计算系数，SU为用于调整阈值上限的计算系数；D为目标日期，N为阈值计算统计长度参数，L为阈值计算统计偏移参数，M为阈值计算统计间隔参数，Count代表目标日期数据量计算函数，Count(i)为基于统计规则对数据量的数据更新模式进行筛选得到的数据量，Count(t)为目标日期的数据量。
2.根据权利要求1所述的方法，其特征在于，所述生成告警指令之后，还包括：
响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
响应于所述告警指令的消息类型为短信类型，将所述告警指令发送给对应的告警联系人，将所述告警指令调整为已完成状态。
3.根据权利要求1所述的方法，其特征在于，所述生成告警指令之后，还包括：
响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
响应于所述告警指令的消息类型为弹窗类型，结合告警联系人信息将所述告警指令推送至弹窗消息数据表，将告警消息表中所述告警指令调整为已完成状态；
响应于弹窗消息数据表中的所述告警指令已推送给所述告警联系人信息对应的客户端，将所述弹窗消息数据表中的所述告警指令调整为已完成状态。
4.一种数据量监控***，其特征在于，所述***包括：
目标监控规则获取单元，用于获取目标监控规则，所述目标监控规则包括用于计算统计日期集合和阈值区间的参数；
统计日期集合确定单元，用于基于所述目标监控规则和目标日期确定统计日期集合；
阈值区间确定单元，用于基于所述统计日期集合和所述目标监控规则确定阈值区间；
告警指令生成单元，用于比对目标日期的数据量与所述阈值区间，响应于所述目标日期的数据量与所述阈值区间不匹配，生成告警指令；
所述统计日期集合确定单元具体用于：基于阈值计算统计长度参数和目标日期确定统计开始日期和统计截止日期，根据所述统计开始日期和所述统计截止日期确定统计日期集合；
所述统计日期集合确定单元具体用于：基于阈值计算统计长度参数、目标日期和计算统计辅助参数，确定统计开始日期和统计截止日期，所述计算统计辅助参数包括阈值计算统计偏移参数，和/或，阈值计算统计间隔参数；根据所述统计开始日期和所述统计截止日期确定统计日期集合；
所述阈值区间确定单元具体用于：获取所述统计日期集合对应的数据量集合，基于统计规则和统计参数筛选所述数据量集合，得到阈值统计基准值；基于阈值统计基准值和阈值计算系数计算得到阈值区间；所述统计规则用于对数据量的数据更新模式进行筛选，包括当日累积或批次增量，所述统计参数用于对数据量的数据类型进行筛选，包括最大值、最小值、平均数和中位数中的任意一项；
计算所述阈值区间的公式具体如下：
;
其中，F为用于计算最大值、最小值、中位数和平均数中任意一项的计算函数；SL为用于调整阈值下限的计算系数，SU为用于调整阈值上限的计算系数；D为目标日期，N为阈值计算统计长度参数，L为阈值计算统计偏移参数，M为阈值计算统计间隔参数，Count代表目标日期数据量计算函数，Count(i)为基于统计规则对数据量的数据更新模式进行筛选得到的数据量，Count(t)为目标日期的数据量。
5.根据权利要求4所述的***，其特征在于，所述***还包括：
第一消息类型判断单元，用于响应于所述告警指令为未完成状态，判断所述告警指令的消息类型；
第一推送单元，用于响应于所述告警指令的消息类型为弹窗类型，结合告警联系人信息将所述告警指令推送至弹窗消息数据表，将告警消息表中所述告警指令调整为已完成状态；
第二推送单元，用于响应于弹窗消息数据表中的所述告警指令已推送给所述告警联系人信息对应的客户端，将所述弹窗消息数据表中的所述告警指令调整为已完成状态。
6.一种电子设备，其特征在于，包括：存储器，处理器，及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如权利要求1-3任一项所述的数据量监控方法。
7.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行如权利要求1-3任一项所述的数据量监控方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310893332.6A CN116610537B (zh) | 2023-07-20 | 2023-07-20 | 一种数据量监控方法、***、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310893332.6A CN116610537B (zh) | 2023-07-20 | 2023-07-20 | 一种数据量监控方法、***、设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116610537A CN116610537A (zh) | 2023-08-18 |
| CN116610537B true CN116610537B (zh) | 2023-11-17 |
Family
ID=87684024
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310893332.6A Active CN116610537B (zh) | 2023-07-20 | 2023-07-20 | 一种数据量监控方法、***、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116610537B (zh) |
Citations (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2003005279A1 (en) * | 2001-07-03 | 2003-01-16 | Altaworks Corporation | System and methods for monitoring performance metrics |
| WO2005045739A2 (en) * | 2003-10-24 | 2005-05-19 | Microsoft Corporation | Scalable synchronous and asynchronous processing of monitoring rules |
| CA2775419A1 (en) * | 2011-07-01 | 2013-01-01 | The Boeing Company | Method, monitoring system and computer program product for monitoring the health of a monitored system utilizing an associative memory |
| WO2016016926A1 (ja) * | 2014-07-28 | 2016-02-04 | 株式会社日立製作所 | 管理計算機及び性能閾値の評価方法 |
| CN105406991A (zh) * | 2015-10-26 | 2016-03-16 | 上海华讯网络***有限公司 | 基于网络监控指标由历史数据生成业务阈值的方法及*** |
| CN106557401A (zh) * | 2016-10-13 | 2017-04-05 | 中国铁道科学研究院电子计算技术研究所 | 一种it设备监控指标的动态阈值设定方法及*** |
| CN108491310A (zh) * | 2018-03-26 | 2018-09-04 | 北京九章云极科技有限公司 | 一种日志监测方法及*** |
| CN111190794A (zh) * | 2019-12-30 | 2020-05-22 | 天津浪淘科技股份有限公司 | 一种运维监控管理*** |
| CN111199018A (zh) * | 2019-12-27 | 2020-05-26 | 东软集团股份有限公司 | 异常数据检测方法、装置、存储介质及电子设备 |
| CN112445685A (zh) * | 2020-11-27 | 2021-03-05 | 平安普惠企业管理有限公司 | 一种动态更新告警阈值的方法、装置及存储介质 |
| CN112631761A (zh) * | 2020-12-31 | 2021-04-09 | 中国农业银行股份有限公司 | 一种任务调度监控方法和装置 |
| WO2021105927A1 (en) * | 2019-11-28 | 2021-06-03 | Mona Labs Inc. | Machine learning performance monitoring and analytics |
| CN113448798A (zh) * | 2020-12-30 | 2021-09-28 | 北京新氧科技有限公司 | 日志数据监控方法及相关设备 |
| US11132373B1 (en) * | 2019-04-30 | 2021-09-28 | Splunk Inc. | Decoupled update cycle and disparate search frequency dispatch for dynamic elements of an asset monitoring and reporting system |
| CN113448805A (zh) * | 2021-06-29 | 2021-09-28 | 中国工商银行股份有限公司 | 基于cpu动态阈值的监控方法、装置、设备及存储介质 |
| WO2023115931A1 (zh) * | 2021-12-21 | 2023-06-29 | 浪潮通信信息***有限公司 | 大数据组件参数调整方法、装置、电子设备及存储介质 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6999895B2 (en) * | 2003-03-21 | 2006-02-14 | International Business Machines Corporation | Method and structure for dynamic sampling method in on-line process monitoring |
| US9628346B2 (en) * | 2012-12-13 | 2017-04-18 | Level 3 Communications, Llc | Devices and methods supporting content delivery with reducer services |
| US10013329B2 (en) * | 2016-04-28 | 2018-07-03 | International Business Machines Corporation | Dynamic tracing using ranking and rating |
| US11269717B2 (en) * | 2019-09-24 | 2022-03-08 | Sap Se | Issue-resolution automation |
-
2023
- 2023-07-20 CN CN202310893332.6A patent/CN116610537B/zh active Active
Patent Citations (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2003005279A1 (en) * | 2001-07-03 | 2003-01-16 | Altaworks Corporation | System and methods for monitoring performance metrics |
| WO2005045739A2 (en) * | 2003-10-24 | 2005-05-19 | Microsoft Corporation | Scalable synchronous and asynchronous processing of monitoring rules |
| CA2775419A1 (en) * | 2011-07-01 | 2013-01-01 | The Boeing Company | Method, monitoring system and computer program product for monitoring the health of a monitored system utilizing an associative memory |
| WO2016016926A1 (ja) * | 2014-07-28 | 2016-02-04 | 株式会社日立製作所 | 管理計算機及び性能閾値の評価方法 |
| CN105406991A (zh) * | 2015-10-26 | 2016-03-16 | 上海华讯网络***有限公司 | 基于网络监控指标由历史数据生成业务阈值的方法及*** |
| CN106557401A (zh) * | 2016-10-13 | 2017-04-05 | 中国铁道科学研究院电子计算技术研究所 | 一种it设备监控指标的动态阈值设定方法及*** |
| CN108491310A (zh) * | 2018-03-26 | 2018-09-04 | 北京九章云极科技有限公司 | 一种日志监测方法及*** |
| US11132373B1 (en) * | 2019-04-30 | 2021-09-28 | Splunk Inc. | Decoupled update cycle and disparate search frequency dispatch for dynamic elements of an asset monitoring and reporting system |
| WO2021105927A1 (en) * | 2019-11-28 | 2021-06-03 | Mona Labs Inc. | Machine learning performance monitoring and analytics |
| CN111199018A (zh) * | 2019-12-27 | 2020-05-26 | 东软集团股份有限公司 | 异常数据检测方法、装置、存储介质及电子设备 |
| CN111190794A (zh) * | 2019-12-30 | 2020-05-22 | 天津浪淘科技股份有限公司 | 一种运维监控管理*** |
| CN112445685A (zh) * | 2020-11-27 | 2021-03-05 | 平安普惠企业管理有限公司 | 一种动态更新告警阈值的方法、装置及存储介质 |
| CN113448798A (zh) * | 2020-12-30 | 2021-09-28 | 北京新氧科技有限公司 | 日志数据监控方法及相关设备 |
| CN112631761A (zh) * | 2020-12-31 | 2021-04-09 | 中国农业银行股份有限公司 | 一种任务调度监控方法和装置 |
| CN113448805A (zh) * | 2021-06-29 | 2021-09-28 | 中国工商银行股份有限公司 | 基于cpu动态阈值的监控方法、装置、设备及存储介质 |
| WO2023115931A1 (zh) * | 2021-12-21 | 2023-06-29 | 浪潮通信信息***有限公司 | 大数据组件参数调整方法、装置、电子设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116610537A (zh) | 2023-08-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2022003566A (ja) | ヒープをため込んでいるスタックトレースを特定するための、スレッド強度とヒープ使用量との相関 | |
| US20190114711A1 (en) | Financial analysis system and method for unstructured text data | |
| JP2004280739A (ja) | 情報配信システム | |
| CN112445690B (zh) | 信息获取方法、装置及电子设备 | |
| CN113641567B (zh) | 一种数据库巡检方法、装置、电子设备及存储介质 | |
| US11651271B1 (en) | Artificial intelligence system incorporating automatic model updates based on change point detection using likelihood ratios | |
| CN116610537B (zh) | 一种数据量监控方法、***、设备及存储介质 | |
| CN112445600A (zh) | 一种离线数据处理任务发布方法及*** | |
| US11636377B1 (en) | Artificial intelligence system incorporating automatic model updates based on change point detection using time series decomposing and clustering | |
| CN115630861A (zh) | 一种质检策略自适应调整方法、装置和存储介质 | |
| CN114493054A (zh) | 一种基于大数据的碳交易市场智能分析方法及*** | |
| CN114969187A (zh) | 数据分析***及方法 | |
| CN113761082A (zh) | 一种数据可视化方法、装置和*** | |
| CN114168595A (zh) | 一种数据分析方法及装置 | |
| CN111131393B (zh) | 用户活跃度数据统计方法、电子装置及存储介质 | |
| CN114531361A (zh) | 一种分布式***的服务拓扑分析方法、装置及存储介质 | |
| CN113377604A (zh) | 一种数据处理方法、装置、设备和存储介质 | |
| US20240202287A1 (en) | Cyclic pattern detection and prediction execution | |
| CN110555537A (zh) | 多因素多时间点相关的预测 | |
| CN111737281B (zh) | 数据库查询方法、装置、电子设备以及可读存储介质 | |
| CN118013399B (zh) | 一种基于ai模型进行用户画像的处理方法和装置 | |
| CN117252345B (zh) | 基于计费逻辑顺序的计费方法以及*** | |
| CN113362097B (zh) | 一种用户确定方法和装置 | |
| CN116503175A (zh) | 产品风险预警方法及装置 | |
| CN115375037A (zh) | 需求量预测方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |