CN116827817A - 数据链路状态监测方法、装置、监测***及存储介质 - Google Patents
数据链路状态监测方法、装置、监测***及存储介质 Download PDFInfo
- Publication number
- CN116827817A CN116827817A CN202310389968.7A CN202310389968A CN116827817A CN 116827817 A CN116827817 A CN 116827817A CN 202310389968 A CN202310389968 A CN 202310389968A CN 116827817 A CN116827817 A CN 116827817A
- Authority
- CN
- China
- Prior art keywords
- data
- abnormal
- data link
- index data
- link
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 64
- 238000000034 method Methods 0.000 title claims abstract description 57
- 230000002159 abnormal effect Effects 0.000 claims abstract description 186
- 230000005856 abnormality Effects 0.000 claims abstract description 24
- 238000012549 training Methods 0.000 claims description 42
- 230000005540 biological transmission Effects 0.000 claims description 33
- 238000004590 computer program Methods 0.000 claims description 22
- 230000008569 process Effects 0.000 claims description 16
- 238000012545 processing Methods 0.000 claims description 12
- 238000004891 communication Methods 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 5
- 230000004807 localization Effects 0.000 claims 1
- 230000009286 beneficial effect Effects 0.000 abstract description 8
- 238000012806 monitoring device Methods 0.000 abstract description 3
- 238000007726 management method Methods 0.000 description 21
- 230000006870 function Effects 0.000 description 15
- 238000001816 cooling Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005553 drilling Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000001556 precipitation Methods 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000010792 warming Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
- H04L43/0811—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking connectivity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0823—Errors, e.g. transmission errors
- H04L43/0829—Packet loss
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0823—Errors, e.g. transmission errors
- H04L43/0847—Transmission error
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0852—Delays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/50—Testing arrangements
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明提供一种数据链路状态监测方法、装置、监测***及存储介质。该方法包括：根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据；在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果；获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据；根据质量指标数据，对异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果。本发明能够准确监测数据链路的异常状态，从而有利于提高数据中台的数据服务支撑能力，更有利于数据中台价值的发挥。
Description
技术领域
本发明涉及数据监控技术领域，尤其涉及一种数据链路状态监测方法、装置、监测***及存储介质。
背景技术
随着大数据时代的来临，越来越多的数据被产生，对于具有较多业务***的企业来说，通常通过数据中台集成存储数据。而随着企业高价值数据在数据中台的不断汇集沉淀，各业务***对数据中台在数据共享、数据交互等数据服务支撑能力方面的要求也日益提高。
然而，随着数据中台建设的不断推进，数据资源不断丰富，数据链路的建设规模也逐渐变得庞大和复杂，而庞大和复杂的数据链路不利于数据中台中数据质量的稳定，从而影响数据中台的数据服务支撑能力。因此，准确监测数据链路的异常状态，对提高数据中台的数据服务支撑能力至关重要。
发明内容
本发明实施例提供了一种数据链路状态监测方法、装置、监测***及存储介质，以解决对于具有庞大和复杂的数据链路的数据中台，难以准确检测数据链路的异常状态的问题。
第一方面，本发明实施例提供了一种数据链路状态监测方法，包括：
根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据；
在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果；
获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据；
根据所述质量指标数据，对所述异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果。
在一种可能的实现方式中，所述数据链路的类型包括定时传输的数据链路和实时传输的数据链路；
所述根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据，包括：
若数据中台的数据链路的类型为定时传输的数据链路，通过埋点获得数据传输的时间间隔、数据传输的数据量和数据链路的响应及时性；
若数据中台的数据链路的类型为实时传输的数据链路，通过埋点获得数据链路的连通状态、数据链路的畅通状态、链路资源利用率、网络延迟信息、数据传输的完整性信息和丢包率。
在一种可能的实现方式中，所述预设异常判断模型的训练过程包括：
获取指示数据链路的运行状态正常的正常指标数据和指示数据链路的运行状态异常的异常指标数据；
按照每条数据链路的来源，将所述正常指标数据和所述异常指标数据分组；
计算每组中的正常指标数据的数量与异常指标数据的数量的比值，记为该组中的异常指标数据的复制倍数；
根据每组中的异常指标数据的复制倍数对该组中的异常指标数据进行复制，以根据所有正常指标数据和复制后的所有异常指标数据构成训练样本集；
根据所述训练样本集对异常判断模型进行训练，获得预设异常判断模型。
在一种可能的实现方式中，所述根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果，包括：
对所述指标数据进行无量纲化，获得第一无量纲数据，并对所述指标数据对应的标准指标数据进行无量纲化，获得第二无量纲数据；
根据所述第一无量纲数据和所述第二无量纲数据，计算所述指标数据与所述标准指标数据的第一相似度；
将所述第一相似度输入预设异常定位模型中，确定该数据链路的异常类型初始定位结果。
在一种可能的实现方式中，所述根据所述第一无量纲数据和所述第二无量纲数据，计算所述指标数据与所述标准指标数据的第一相似度，包括：
根据计算所述指标数据与所述标准指标数据的第一相似度；
其中，s为所述指标数据与所述标准指标数据的第一相似度，y为所述第一无量纲数据，ymax为所述指标数据对应的标准指标数据中的最大值对应的第二无量纲数据，ymin为所述指标数据对应的标准指标数据中的最小值对应的第二无量纲数据。
在一种可能的实现方式中，所述预设异常定位模型的训练过程包括：
获取指示数据链路的运行状态异常的多条异常指标数据；
对每条异常指标数据进行无量纲化，获得第三无量纲数据，并对每条异常指标数据对应的标准指标数据进行无量纲化，获得第四无量纲数据；
根据所述第三无量纲数据和所述第四无量纲数据，计算得到每条异常指标数据与所述标准指标数据的第二相似度，以构成异常定位训练样本集；
根据所述异常定位训练样本集对异常定位模型进行训练，获得预设异常定位模型。
在一种可能的实现方式中，所述根据所述质量指标数据，对所述异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果，包括：
根据所述质量指标数据，确定该数据链路为各种异常类型的第一概率；
根据各个所述第一概率和所述异常类型初始定位结果，确定该数据链路的异常类型最终定位结果。
第二方面，本发明实施例提供了一种数据链路状态监测装置，包括：
第一获取模块，用于根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据；
处理模块，用于在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果；
第二获取模块，用于获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据；
状态监测模块，用于根据所述质量指标数据，对所述异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果。
第三方面，本发明实施例提供了一种监测***，包括存储器和处理器，所述存储器用于存储计算机程序，所述处理器用于调用并运行所述存储器中存储的计算机程序，执行如上第一方面或第一方面的任一种可能的实现方式所述方法的步骤。
第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如上第一方面或第一方面的任一种可能的实现方式所述方法的步骤。
本发明实施例提供一种数据链路状态监测方法、装置、监测***及存储介质，通过根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据，可以针对不同类型的数据链路获取不同的指标数据，从而有利于准确确定某条数据链路是否异常以及某条数据链路的异常类型初始定位结果。在此基础上，通过在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果，并获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据，根据质量指标数据，对异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果，可以基于数据链路对应的指标数据和质量指标数据，共同确定数据链路的异常类型最终定位结果，进而准确监测数据链路的异常状态，从而有利于提高数据中台的数据服务支撑能力，更有利于数据中台价值的发挥。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的数据链路状态监测方法的实现流程图；
图2是本发明实施例提供的埋点管理的功能示意图；
图3是本发明实施例提供的数据中台的数据流转图；
图4是本发明实施例提供的数据链路状态监测装置的结构示意图；
图5是本发明实施例提供的监测***的示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定***结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的***、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。
为使本发明的目的、技术方案和优点更加清楚，下面将结合附图通过具体实施例来进行说明。
参见图1，其示出了本发明实施例提供的数据链路状态监测方法的实现流程图，详述如下：
在步骤101中，根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据。
其中，按照数据链路的传输方向，数据中台的数据链路可以分为横向数据链路和纵向数据链路。例如，横向数据链路可以是总部一级业务***与总部数据中台之间的数据传输，或者分部二级业务***与分部数据中台之间的数据传输。纵向数据链路可以是总部数据中台与分部数据中台之间的数据传输。本实施例中通过埋点获得指示每条数据链路的运行状态的指标数据，既可以是获得指示每条横向数据链路的运行状态的指标数据，也可以是获得指示每条纵向数据链路的运行状态的指标数据，进而可以基于指示每条横向数据链路的运行状态的指标数据和指示每条纵向数据链路的运行状态的指标数据，实现总部数据中台与分部数据中台的两级数据链路状态监测。
其中，埋点是网站分析的一种常用的数据采集方法，通过埋点获得指示每条数据链路的运行状态的指标数据，数据采集准确，有利于后续快速、准确地进行数据链路状态监测。
可选的，数据链路的类型可以包括定时传输的数据链路和实时传输的数据链路。
相应的，根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据，可以包括：
若数据中台的数据链路的类型为定时传输的数据链路，通过埋点获得数据传输的时间间隔、数据传输的数据量和数据链路的响应及时性。
若数据中台的数据链路的类型为实时传输的数据链路，通过埋点获得数据链路的连通状态、数据链路的畅通状态、链路资源利用率、网络延迟信息、数据传输的完整性信息和丢包率。
结合图2所示，由于企业的数据中台的数据容量通常以PB或者EB或者更高为单位，有时甚至达到更高量级的单位容量。分部数据中台通过数据链路发往总部数据中台的数据量庞大，而且数据链路又分为定时传输的离线数据链路和实时传输的流式数据链路，因此，在通过埋点获得指示每条数据链路的运行状态的指标数据时，可以通过埋点管理进行埋点。
如图2所示，埋点管理一共涉及到四个对象，分别是应用管理、埋点需求管理、事件管理、属性管理。他们之间的关系是自上而下的逻辑关系。比如在***的埋点需求管理模块，筛选出一个应用名称，则对应展示的是选中的应用下面的所有数据链路埋点需求清单，选中单个埋点需求批次的时候，对应展现的就是这个批次下面的所有埋点事件。
其中，应用管理功能主要是承载业务产品对象，可以与数据中台对应的业务***对应。埋点时，需要在***里先创建一个新的产品埋点对象，然后才有后续增加的埋点需求及事件元信息等。应用管理模块可以包含应用新增、删除、编辑等基础功能。
其中，埋点需求管理功能主要承载埋点需求文档，可以实现创建需求、编辑需求、下钻需求、下线需求等功能。在埋点需求管理模块中，需求按照批次来进行管理，每一个埋点需求都有一个唯一的批次号，并且点击单个埋点需求批次号，可以直接下钻到该埋点需求下的全部事件列表。
其中，事件管理功能则承载来自所有埋点需求拆解出来需要开发的埋点事件元信息，可以实现创建事件、编辑事件、下钻事件、搜索事件、下线事件等功能。事件是埋点拆解的最小对象单元，事件管理模块中每个事件都要挂载在对应的埋点需求批次上，***里没有独立自自己游荡的事件。这样所有的应用、埋点需求批次和事件都有了映射关系。当需要使用埋点数据时，先来埋点管理***查找埋点需求批次，这种清晰的映射关系在查询埋点元信息时提供了高效的途径。
其中，属性管理功能模块承载的是常用的有共性的属性，比如数据传输速率、传输端口等属性。这些共性属性可以在属性管理模块完成注册。在新建事件时，可以直接引用已注册完成的属性绑定到事件上，减少填写事件属性信息时的大量重复填写工作。
其中，埋点管理还可以包括埋点监控模块，埋点监控功能承载的是埋点管理***全部埋点事件及任务运行的结果监控。包括展示全部埋点应用统计数、埋点需求统计数、事件统计数、有效在线事件统计数、异常的埋点事件数、未处理的埋点需求/事件数等，是统计和展示整个***管理对象及对象运行情况的监控功能模块。
本实施例中，由于数据链路可以分为定时传输的数据链路和实时传输的数据链路，埋点所要收集的信息也应有所不同，以便于针对不同类型的数据链路获取不同的指标数据，从而有利于准确确定某条数据链路是否异常以及某条数据链路的异常类型初始定位结果。
示例性的，对于定时传输的数据链路的状态感知，可以着重收集数据传输的时间间隔，每次数据传输的数据量，以及是否按照***要求及时向总部数据中台传输数据(示例性的，可以通过数据链路的响应及时性表征)。对于实时传输的数据链路的状态感知，应当注意数据链路是否连通(即数据链路的连通状态)，数据链路是否畅通(即数据链路的畅通状态)，链路资源利用率的多少，网络延迟的相关信息，数据传输信息是否完整(即数据传输的完整性信息)，有无发生丢包(即丢包率)等等，同时对于实时传输的数据链路的埋点不能对当前数据链路的传输工作造成影响。
在步骤102中，在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果。
本实施例中，在通过埋点获得指示每条数据链路的运行状态的指标数据之后，先根据各条数据链路的指标数据和预设异常判断模型，确定各条数据链路是否异常。再在某条数据链路异常时，根据异常的该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果。
可选的，预设异常判断模型的训练过程可以包括：
获取指示数据链路的运行状态正常的正常指标数据和指示数据链路的运行状态异常的异常指标数据；按照每条数据链路的来源，将正常指标数据和异常指标数据分组；计算每组中的正常指标数据的数量与异常指标数据的数量的比值，记为该组中的异常指标数据的复制倍数；根据每组中的异常指标数据的复制倍数对该组中的异常指标数据进行复制，以根据所有正常指标数据和复制后的所有异常指标数据构成训练样本集；根据训练样本集对异常判断模型进行训练，获得预设异常判断模型。
本实施例中，考虑数据链路进行数据资源传输的过程中，数据链路处于正常状态的次数往往大于数据链路处于异常状态的次数。相应的，获取的正常指标数据往往大于异常指标数据，进而导致用于异常判断模型训练的训练集中的样本数据量不平衡。如果直接使用样本数据量不平衡的训练集进行训练，得到的异常判断模型对异常链路漏判或错判的概率会大幅上升，进而影响数据链路状态监测的准确性。而本实施例中的数据链路，通常为不同业务***与分部数据中台或总部数据中台之间的数据链路，或者分部数据中台与总部数据中台之间的数据链路，因此，可以根据数据链路的来源对正常指标数据和异常指标数据进行分组，以基于分组结果获得数据量均衡的训练样本集。从而使训练得到的预设异常判断模型更加准确，更有利于准确监测数据链路的异常状态。
可选的，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果，可以包括：
对指标数据进行无量纲化，获得第一无量纲数据，并对指标数据对应的标准指标数据进行无量纲化，获得第二无量纲数据；根据第一无量纲数据和第二无量纲数据，计算指标数据与标准指标数据的第一相似度；将第一相似度输入预设异常定位模型中，确定该数据链路的异常类型初始定位结果。
结合步骤101中给出的各种指标数据的示例可知，不同的指标数据有不同的衡量尺度，所对应的量纲也各不相同，而且各指标数据的量纲可以有不同的取值范围，且数值方面往往存在较大的差距。如果未经处理直接使用量纲不同的数据，可能使预设异常定位模型出错无法进行，即使预设异常定位模型可以输出定位结果，其准确性往往也不高。因此本实施例分别对指标数据和标准指标数据进行无量纲化。
其中，标准指标数据是指相应指标数据的取值范围。例如，对于数据传输的数据量这一指标数据来说，其对应的标准指标数据可以为0MB～4096MB，对于丢包率这一指标数据来说，其对应的标准指标数据可以为0‰～2‰。其中，在对标准指标数据进行无量纲化时，可以分别对标准指标数据中的最大值和最小值进行无量纲化。
可选的，根据第一无量纲数据和第二无量纲数据，计算指标数据与标准指标数据的第一相似度，可以包括：
根据计算指标数据与标准指标数据的第一相似度。
其中，s为指标数据与标准指标数据的第一相似度，y为第一无量纲数据，ymax为指标数据对应的标准指标数据中的最大值对应的第二无量纲数据，ymin为指标数据对应的标准指标数据中的最小值对应的第二无量纲数据。
本实施例中，考虑直接基于指标数据无量纲化后的第一无量纲数据进行异常定位，往往需要预设异常定位模型学习更多的信息，因此，本实施例考虑指标数据与标准指标数据的第一相似度，由于第一相似度已经是对指标数据挖掘后的一种特征，因此基于第一相似度进行异常类型定位，可以加快预设异常定位模型输出定位结果的速度和准确性。
可选的，预设异常定位模型的训练过程可以包括：
获取指示数据链路的运行状态异常的多条异常指标数据；对每条异常指标数据进行无量纲化，获得第三无量纲数据，并对每条异常指标数据对应的标准指标数据进行无量纲化，获得第四无量纲数据；根据第三无量纲数据和第四无量纲数据，计算得到每条异常指标数据与标准指标数据的第二相似度，以构成异常定位训练样本集；根据异常定位训练样本集对异常定位模型进行训练，获得预设异常定位模型。
对应于上述步骤中通过第一相似度和预设异常定位模型确定异常类型初始定位结果，在获得预设异常定位模型的过程中，也基于第二相似度构成的异常定位训练样本集进行训练，一方面加快预设异常定位模型的训练速度，另一方面也使训练得到的预设异常定位模型可以更快更准确地输出异常类型初始定位结果。
在步骤103中，获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据。
其中，数据中台一般包括贴源层、近源层、共享层和分析层。示例性的，数据中台的数据流转图如图3所示，数据链路所传输的数据在数据中台各层之间流转的质量，也会影响数据链路的状态。因此在确定某条数据链路异常后，还可以获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据，以辅助判断数据链路的异常类型和异常原因。
示例性的，数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据，可以包括接入数据中台的数据合规性、数据在数据中台各层之间流转时的一致性、数据表记录唯一性以及数据的完整性等。
本实施例中，可以通过对比每张表在数据中台各节点的数据质量情况，获取数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据。其中，对比每张表在数据中台各节点的数据质量情况，获取质量指标数据，还可以用于保障贴源层、共享层、分析层等多层数据质量，保障数据中台的数据有效支撑业务应用。
在步骤104中，根据质量指标数据，对异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果。
本实施例中，由于数据链路所传输的数据在数据中台各层之间流转的质量也会影响数据链路的状态，因此通过质量指标数据对异常类型初始定位结果进行复核，可以基于数据链路对应的指标数据和质量指标数据，共同确定数据链路的异常类型最终定位结果，进而准确监测数据链路的异常状态，从而有利于提高数据中台的数据服务支撑能力，更有利于数据中台价值的发挥。
可选的，根据质量指标数据，对异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果，可以包括：
根据质量指标数据，确定该数据链路为各种异常类型的第一概率；根据各个第一概率和异常类型初始定位结果，确定该数据链路的异常类型最终定位结果。
本实施例中，挖掘质量指标数据与数据链路的各种异常类型之间的联系，从而可以确定质量指标数据取不同的值时，数据链路为各种异常类型的概率，进而基于数据链路为各种异常类型的概率和上述步骤得到的异常类型初始定位结果，确定数据链路的异常类型最终定位结果。
示例性的，当确定的某条数据链路的异常类型初始定位结果为A类型和B类型时，可以基于相应的质量指标数据确定的数据链路为A类型和B类型的概率，选择概率较大的异常类型作为数据链路的异常类型最终定位结果。
可选的，本发明实施例提供的数据链路状态监测方法，还可以监测数据中台的CPU、内存等平台硬件资源使用状态与存储资源使用状态，通过创建和管理队列、设置CN和队列并发上线、设置优先级等方式，实现对作业、用户和实例的资源消耗，保障资源在可控的情况下被合理利用，避免出现资源的无序使用，防止数据库***性能变慢、停止响应。
可选的，本发明实施例提供的数据链路状态监测方法，还可以围绕数据中台的存量数据资源和增量数据资源，基于深度学习算法对中台数据进行冷热分析，研究基于牛顿冷却定律的温度模型，用于标识中台数据的冷热程度，指导后期业务数据的接入和数据质量的治理，提高数据接入和治理的效率，提升中台数据对业务应用支撑的精准度和及时性。
其中，牛顿冷却定律描述一个物体在自身温度高于环境温度时向周围环境传递热量并逐渐冷却的规律。牛顿冷却定律表明，当物体的温度同周围环境存在着温度差时，物体温度的变化速度同物体与周围环境的温度差成正比关系。一个数据的冷热程度是随着时间的推移而不断“冷却”的，这与牛顿冷却定律的基本含义相一致，可以将牛顿冷却定律应用于数据“冷却”的过程。
基于温度模型的数据冷热程度的标识方法，是借鉴牛顿冷却定律，通过指数衰减来模拟温度变化的过程。将数据看作实际物体，随着时间的推移，物理环境中温度高的物体会逐渐冷却，同样的数据存储中数据的温度也会逐渐降低；当访问数据时，类似于赋予物体新的能量，物体的温度会升高，访问操作也给数据带来了能量，数据的温度会升高，实现数据的“加温”。
针对衡量数据冷热程度的应用场景，将牛顿冷却定律的公式变形，忽略环境温度的影响，增加变量Theat，即每次访问后数据的增温幅度，就可以得到以下公式：
T(tn)表示数据在tn时刻的温度，α为冷却系数，表示数据温度变化速度，Theat表示每次访问后数据的增温幅度，c表示一个离散函数。
上述公式通过确切的温度值，实现了对数据冷热程度的量化和标识，由于上述公式不仅考虑了访问对于数据冷热程度对影响，同时也考虑了时间因素对数据冷热的影响，再加上指数运算的性质，所以在实际的工作负载中，除非极其特殊的情况出现，否则在任一时点，任意两个数据的温度都是不同的，这就更加有利于根据数据温度值的不同来标识数据的冷热程度。通过对数据中台数据的冷热程度进行量化和可视化应用，可以满足数据中台各层级、***级及表级的多维监测需求，提升中台数据对业务应用支撑的精准度和及时性。
可选的，本发明实施例提供的数据链路状态监测方法，还可以监测数据中台对应的各个业务应用通过数据中台获取数据的时效性和数据服务访问情况。通过监测并分析各个业务应用通过数据中台获取数据的时效性与数据表更新频次，可以辅助运维人员对相应数据表进行优化配置。通过动态监测API访问次数、访问时长、数据调用成功率等，有助于保障各业务应用精准、高效地获取所需数据。
本发明实施例通过根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据，可以针对不同类型的数据链路获取不同的指标数据，从而有利于准确确定某条数据链路是否异常以及某条数据链路的异常类型初始定位结果。在此基础上，通过在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果，并获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据，根据质量指标数据，对异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果，可以基于数据链路对应的指标数据和质量指标数据，共同确定数据链路的异常类型最终定位结果，进而准确监测数据链路的异常状态，从而有利于提高数据中台的数据服务支撑能力，更有利于数据中台价值的发挥。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
以下为本发明的装置实施例，对于其中未详尽描述的细节，可以参考上述对应的方法实施例。
图4示出了本发明实施例提供的数据链路状态监测装置的结构示意图，为了便于说明，仅示出了与本发明实施例相关的部分，详述如下：
如图4所示，数据链路状态监测装置包括：第一获取模块41、处理模块42、第二获取模块43和状态监测模块44。
第一获取模块41，用于根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据；
处理模块42，用于在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果；
第二获取模块43，用于获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据；
状态监测模块44，用于根据所述质量指标数据，对所述异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果。
本发明实施例通过根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据，可以针对不同类型的数据链路获取不同的指标数据，从而有利于准确确定某条数据链路是否异常以及某条数据链路的异常类型初始定位结果。在此基础上，通过在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果，并获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据，根据质量指标数据，对异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果，可以基于数据链路对应的指标数据和质量指标数据，共同确定数据链路的异常类型最终定位结果，进而准确监测数据链路的异常状态，从而有利于提高数据中台的数据服务支撑能力，更有利于数据中台价值的发挥。
在一种可能的实现方式中，所述数据链路的类型包括定时传输的数据链路和实时传输的数据链路；
第一获取模块41，用于若数据中台的数据链路的类型为定时传输的数据链路，通过埋点获得数据传输的时间间隔、数据传输的数据量和数据链路的响应及时性；
若数据中台的数据链路的类型为实时传输的数据链路，通过埋点获得数据链路的连通状态、数据链路的畅通状态、链路资源利用率、网络延迟信息、数据传输的完整性信息和丢包率。
在一种可能的实现方式中，所述预设异常判断模型的训练过程包括：
获取指示数据链路的运行状态正常的正常指标数据和指示数据链路的运行状态异常的异常指标数据；
按照每条数据链路的来源，将所述正常指标数据和所述异常指标数据分组；
计算每组中的正常指标数据的数量与异常指标数据的数量的比值，记为该组中的异常指标数据的复制倍数；
根据每组中的异常指标数据的复制倍数对该组中的异常指标数据进行复制，以根据所有正常指标数据和复制后的所有异常指标数据构成训练样本集；
根据所述训练样本集对异常判断模型进行训练，获得预设异常判断模型。
在一种可能的实现方式中，处理模块42，用于对所述指标数据进行无量纲化，获得第一无量纲数据，并对所述指标数据对应的标准指标数据进行无量纲化，获得第二无量纲数据；
根据所述第一无量纲数据和所述第二无量纲数据，计算所述指标数据与所述标准指标数据的第一相似度；
将所述第一相似度输入预设异常定位模型中，确定该数据链路的异常类型初始定位结果。
在一种可能的实现方式中，处理模块42，用于根据计算所述指标数据与所述标准指标数据的第一相似度；
其中，s为所述指标数据与所述标准指标数据的第一相似度，y为所述第一无量纲数据，ymax为所述指标数据对应的标准指标数据中的最大值对应的第二无量纲数据，ymin为所述指标数据对应的标准指标数据中的最小值对应的第二无量纲数据。
在一种可能的实现方式中，所述预设异常定位模型的训练过程包括：
获取指示数据链路的运行状态异常的多条异常指标数据；
对每条异常指标数据进行无量纲化，获得第三无量纲数据，并对每条异常指标数据对应的标准指标数据进行无量纲化，获得第四无量纲数据；
根据所述第三无量纲数据和所述第四无量纲数据，计算得到每条异常指标数据与所述标准指标数据的第二相似度，以构成异常定位训练样本集；
根据所述异常定位训练样本集对异常定位模型进行训练，获得预设异常定位模型。
在一种可能的实现方式中，状态监测模块44，用于根据所述质量指标数据，确定该数据链路为各种异常类型的第一概率；
根据各个所述第一概率和所述异常类型初始定位结果，确定该数据链路的异常类型最终定位结果。
图5是本发明实施例提供的监测***的示意图。如图5所示，该实施例的监测***5包括：处理器50、存储器51以及存储在存储器51中并可在处理器50上运行的计算机程序52。处理器50执行计算机程序52时实现上述各个数据链路状态监测方法实施例中的步骤，例如图1所示的步骤101至步骤104。或者，处理器50执行计算机程序52时实现上述各装置实施例中各模块/单元的功能，例如图4所示模块/单元41至44的功能。
示例性的，计算机程序52可以被分割成一个或多个模块/单元，一个或者多个模块/单元被存储在存储器51中，并由处理器50执行，以完成本发明。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序52在监测***5中的执行过程。例如，计算机程序52可以被分割成图4所示的模块/单元41至44。
监测***5可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。监测***5可包括，但不仅限于，处理器50、存储器51。本领域技术人员可以理解，图5仅仅是监测***5的示例，并不构成对监测***5的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如监测***还可以包括输入输出设备、网络接入设备、总线等。
所称处理器50可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器51可以是监测***5的内部存储单元，例如监测***5的硬盘或内存。存储器51也可以是监测***5的外部存储设备，例如监测***5上配备的插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。进一步地，存储器51还可以既包括监测***5的内部存储单元也包括外部存储设备。存储器51用于存储计算机程序以及监测***所需的其他程序和数据。存储器51还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中，应该理解到，所揭露的装置/监测***和方法，可以通过其它的方式实现。例如，以上所描述的装置/监测***实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个数据链路状态监测方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random AccessMemory，RAM)、电载波信号、电信信号以及软件分发介质等。
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。
Claims (10)
1.一种数据链路状态监测方法，其特征在于，包括：
根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据；
在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果；
获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据；
根据所述质量指标数据，对所述异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果。
2.根据权利要求1所述的数据链路状态监测方法，其特征在于，所述数据链路的类型包括定时传输的数据链路和实时传输的数据链路；
所述根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据，包括：
若数据中台的数据链路的类型为定时传输的数据链路，通过埋点获得数据传输的时间间隔、数据传输的数据量和数据链路的响应及时性；
若数据中台的数据链路的类型为实时传输的数据链路，通过埋点获得数据链路的连通状态、数据链路的畅通状态、链路资源利用率、网络延迟信息、数据传输的完整性信息和丢包率。
3.根据权利要求1所述的数据链路状态监测方法，其特征在于，所述预设异常判断模型的训练过程包括：
获取指示数据链路的运行状态正常的正常指标数据和指示数据链路的运行状态异常的异常指标数据；
按照每条数据链路的来源，将所述正常指标数据和所述异常指标数据分组；
计算每组中的正常指标数据的数量与异常指标数据的数量的比值，记为该组中的异常指标数据的复制倍数；
根据每组中的异常指标数据的复制倍数对该组中的异常指标数据进行复制，以根据所有正常指标数据和复制后的所有异常指标数据构成训练样本集；
根据所述训练样本集对异常判断模型进行训练，获得预设异常判断模型。
4.根据权利要求1-3任一项所述的数据链路状态监测方法，其特征在于，所述根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果，包括：
对所述指标数据进行无量纲化，获得第一无量纲数据，并对所述指标数据对应的标准指标数据进行无量纲化，获得第二无量纲数据；
根据所述第一无量纲数据和所述第二无量纲数据，计算所述指标数据与所述标准指标数据的第一相似度；
将所述第一相似度输入预设异常定位模型中，确定该数据链路的异常类型初始定位结果。
5.根据权利要求4所述的数据链路状态监测方法，其特征在于，所述根据所述第一无量纲数据和所述第二无量纲数据，计算所述指标数据与所述标准指标数据的第一相似度，包括：
根据s＝y，计算所述指标数据与所述标准指标数据的第一相似度；
ymax-ymin
其中，s为所述指标数据与所述标准指标数据的第一相似度，y为所述第一无量纲数据，ymax为所述指标数据对应的标准指标数据中的最大值对应的第二无量纲数据，ymin为所述指标数据对应的标准指标数据中的最小值对应的第二无量纲数据。
6.根据权利要求1所述的数据链路状态监测方法，其特征在于，所述预设异常定位模型的训练过程包括：
获取指示数据链路的运行状态异常的多条异常指标数据；
对每条异常指标数据进行无量纲化，获得第三无量纲数据，并对每条异常指标数据对应的标准指标数据进行无量纲化，获得第四无量纲数据；
根据所述第三无量纲数据和所述第四无量纲数据，计算得到每条异常指标数据与所述标准指标数据的第二相似度，以构成异常定位训练样本集；
根据所述异常定位训练样本集对异常定位模型进行训练，获得预设异常定位模型。
7.根据权利要求1所述的数据链路状态监测方法，其特征在于，所述根据所述质量指标数据，对所述异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果，包括：
根据所述质量指标数据，确定该数据链路为各种异常类型的第一概率；
根据各个所述第一概率和所述异常类型初始定位结果，确定该数据链路的异常类型最终定位结果。
8.一种数据链路状态监测装置，其特征在于，包括：
第一获取模块，用于根据数据中台的数据链路的类型，通过埋点获得指示每条数据链路的运行状态的指标数据；
处理模块，用于在根据各条数据链路的指标数据和预设异常判断模型，确定某条数据链路异常时，根据该数据链路对应的指标数据和预设异常定位模型，获得该数据链路的异常类型初始定位结果；
第二获取模块，用于获取该数据链路所传输的数据在数据中台各层之间流转时对应的质量指标数据；
状态监测模块，用于根据所述质量指标数据，对所述异常类型初始定位结果进行复核，确定该数据链路的异常类型最终定位结果。
9.一种监测***，其特征在于，包括存储器和处理器，所述存储器用于存储计算机程序，所述处理器用于调用并运行所述存储器中存储的计算机程序，执行如权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如上的权利要求1至7中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310389968.7A CN116827817A (zh) | 2023-04-12 | 2023-04-12 | 数据链路状态监测方法、装置、监测***及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310389968.7A CN116827817A (zh) | 2023-04-12 | 2023-04-12 | 数据链路状态监测方法、装置、监测***及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116827817A true CN116827817A (zh) | 2023-09-29 |
Family
ID=88124835
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310389968.7A Pending CN116827817A (zh) | 2023-04-12 | 2023-04-12 | 数据链路状态监测方法、装置、监测***及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116827817A (zh) |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102164051A (zh) * | 2011-05-18 | 2011-08-24 | 西安交通大学 | 面向业务的故障检测与定位方法 |
| CN103199919A (zh) * | 2013-04-19 | 2013-07-10 | 重庆邮电大学 | 一种多参数感知的高精度网络故障筛选定位***及方法 |
| JP2014092799A (ja) * | 2012-10-31 | 2014-05-19 | Sumitomo Heavy Ind Ltd | 異常原因特定システム |
| CN105391579A (zh) * | 2015-11-25 | 2016-03-09 | 国家电网公司 | 基于关键告警集和监督分类的电力通信网故障定位方法 |
| CN111679158A (zh) * | 2020-08-04 | 2020-09-18 | 国网内蒙古东部电力有限公司呼伦贝尔供电公司 | 基于同步量测数据相似度的配电网故障辨识方法 |
| CN112187514A (zh) * | 2020-09-02 | 2021-01-05 | 上海御威通信科技有限公司 | 一种数据中心网络设备智能运维***、方法及终端 |
| CN112966957A (zh) * | 2021-03-22 | 2021-06-15 | 国家电网有限公司大数据中心 | 一种数据链路异常定位方法、装置、电子设备及存储介质 |
| CN113242443A (zh) * | 2021-05-28 | 2021-08-10 | 北京达佳互联信息技术有限公司 | 数据流传输的异常检测方法及其装置 |
| CN113473514A (zh) * | 2021-09-06 | 2021-10-01 | 国网江苏省电力有限公司信息通信分公司 | 电力无线专网故障诊断模型训练方法、诊断方法及装置 |
| CN115209452A (zh) * | 2021-04-09 | 2022-10-18 | ***通信集团江苏有限公司 | 核心网隐患排查方法、装置、电子设备和存储介质 |
| CN115269870A (zh) * | 2022-07-26 | 2022-11-01 | 国网天津市电力公司 | 一种基于知识图谱实现数据中台数据链路故障分类预警的方法 |
| CN115758200A (zh) * | 2022-09-28 | 2023-03-07 | 航天智控(北京)监测技术有限公司 | 一种基于相似度度量的振动信号故障识别方法及*** |
-
2023
- 2023-04-12 CN CN202310389968.7A patent/CN116827817A/zh active Pending
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102164051A (zh) * | 2011-05-18 | 2011-08-24 | 西安交通大学 | 面向业务的故障检测与定位方法 |
| JP2014092799A (ja) * | 2012-10-31 | 2014-05-19 | Sumitomo Heavy Ind Ltd | 異常原因特定システム |
| CN103199919A (zh) * | 2013-04-19 | 2013-07-10 | 重庆邮电大学 | 一种多参数感知的高精度网络故障筛选定位***及方法 |
| CN105391579A (zh) * | 2015-11-25 | 2016-03-09 | 国家电网公司 | 基于关键告警集和监督分类的电力通信网故障定位方法 |
| CN111679158A (zh) * | 2020-08-04 | 2020-09-18 | 国网内蒙古东部电力有限公司呼伦贝尔供电公司 | 基于同步量测数据相似度的配电网故障辨识方法 |
| CN112187514A (zh) * | 2020-09-02 | 2021-01-05 | 上海御威通信科技有限公司 | 一种数据中心网络设备智能运维***、方法及终端 |
| CN112966957A (zh) * | 2021-03-22 | 2021-06-15 | 国家电网有限公司大数据中心 | 一种数据链路异常定位方法、装置、电子设备及存储介质 |
| CN115209452A (zh) * | 2021-04-09 | 2022-10-18 | ***通信集团江苏有限公司 | 核心网隐患排查方法、装置、电子设备和存储介质 |
| CN113242443A (zh) * | 2021-05-28 | 2021-08-10 | 北京达佳互联信息技术有限公司 | 数据流传输的异常检测方法及其装置 |
| CN113473514A (zh) * | 2021-09-06 | 2021-10-01 | 国网江苏省电力有限公司信息通信分公司 | 电力无线专网故障诊断模型训练方法、诊断方法及装置 |
| CN115269870A (zh) * | 2022-07-26 | 2022-11-01 | 国网天津市电力公司 | 一种基于知识图谱实现数据中台数据链路故障分类预警的方法 |
| CN115758200A (zh) * | 2022-09-28 | 2023-03-07 | 航天智控(北京)监测技术有限公司 | 一种基于相似度度量的振动信号故障识别方法及*** |
Non-Patent Citations (1)
| Title |
|---|
| 剡振业: "基于数据中台的数据链路监测及综合评价模型的研究", 《中国优秀硕士学位论文全文数据库（电子期刊）（工程科技II辑）》, vol. 2023, no. 3, 15 March 2023 (2023-03-15), pages 042 - 1125 * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103748579B (zh) | 在映射化简框架中处理数据 | |
| EP3567496B1 (en) | Systems and methods for indexing and searching | |
| CN112100219B (zh) | 基于数据库查询处理的报表生成方法、装置、设备和介质 | |
| CN111611458A (zh) | 大数据治理中基于元数据和数据分析技术实现***数据架构梳理的方法 | |
| CN111400288A (zh) | 数据质量检查方法及*** | |
| CN102169491B (zh) | 一种多数据集中重复记录动态检测方法 | |
| CN111274256A (zh) | 基于时序数据库的资源管控方法、装置、设备及存储介质 | |
| CN110675238A (zh) | 客户标签配置方法、***、可读存储介质及电子设备 | |
| WO2020233347A1 (zh) | 工作流管理***的测试方法、装置、存储介质及终端设备 | |
| CN113327136A (zh) | 归因分析方法、装置、电子设备及存储介质 | |
| CN111414410A (zh) | 数据处理方法、装置、设备和存储介质 | |
| CN105868956A (zh) | 一种数据处理方法及装置 | |
| CN114612194A (zh) | 产品推荐方法、装置、电子设备及存储介质 | |
| CN110471912B (zh) | 一种员工属性信息校验方法、装置及终端设备 | |
| CN108897765A (zh) | 一种数据批量导入方法及其*** | |
| CN114429265A (zh) | 一种基于栅格技术的企业画像服务构建方法、装置及设备 | |
| US7647333B2 (en) | Cube-based percentile calculation | |
| JP5234839B2 (ja) | コンテンツ管理装置、コンテンツ管理方法およびプログラム | |
| CN116827817A (zh) | 数据链路状态监测方法、装置、监测***及存储介质 | |
| Wang et al. | Block storage optimization and parallel data processing and analysis of product big data based on the hadoop platform | |
| CN114116811B (zh) | 日志处理方法、装置、设备及存储介质 | |
| CN113312410B (zh) | 数据图谱的构建方法、数据查询方法及终端设备 | |
| CN115481026A (zh) | 测试案例的生成方法、装置、计算机设备、存储介质 | |
| CN112307047B (zh) | 生产问题处理方法、装置、设备和存储介质 | |
| CN114625805A (zh) | 一种回测配置方法、装置、设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |