CN117591496A - 一种基于云边协同的高可靠性时序数据传输与存储*** - Google Patents
一种基于云边协同的高可靠性时序数据传输与存储*** Download PDFInfo
- Publication number
- CN117591496A CN117591496A CN202410070799.5A CN202410070799A CN117591496A CN 117591496 A CN117591496 A CN 117591496A CN 202410070799 A CN202410070799 A CN 202410070799A CN 117591496 A CN117591496 A CN 117591496A
- Authority
- CN
- China
- Prior art keywords
- data
- metadata
- module
- time
- sub
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 232
- 238000012545 processing Methods 0.000 claims abstract description 39
- 238000007726 management method Methods 0.000 claims description 107
- 238000005259 measurement Methods 0.000 claims description 39
- 238000004891 communication Methods 0.000 claims description 30
- 238000012544 monitoring process Methods 0.000 claims description 27
- 238000004458 analytical method Methods 0.000 claims description 21
- 238000012546 transfer Methods 0.000 claims description 19
- 238000000034 method Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 16
- 238000005070 sampling Methods 0.000 claims description 14
- 230000002159 abnormal effect Effects 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000007781 pre-processing Methods 0.000 claims description 7
- 230000005856 abnormality Effects 0.000 claims description 4
- 238000001914 filtration Methods 0.000 claims description 4
- 238000006073 displacement reaction Methods 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 2
- 238000013508 migration Methods 0.000 description 6
- 230000005012 migration Effects 0.000 description 6
- 238000013480 data collection Methods 0.000 description 4
- 230000000737 periodic effect Effects 0.000 description 4
- 238000011084 recovery Methods 0.000 description 4
- 230000000295 complement effect Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 230000008676 import Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000003203 everyday effect Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/219—Managing data history or versioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/258—Data format conversion from or to a database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/907—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0654—Management of faults, events, alarms or notifications using network fault recovery
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0677—Localisation of faults
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/561—Adding application-functional data or data for application control, e.g. adding metadata
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/563—Data redirection of data network streams
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Library & Information Science (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Probability & Statistics with Applications (AREA)
- Mathematical Physics (AREA)
- Fuzzy Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
一种基于云边协同的高可靠性时序数据传输与存储***,包括:实时数据传输模块、历史数据传输模块、元数据存储及管理模块与时序数据处理平台,实时数据传输模块用于获取边缘侧的实时数据后将对应的实时数据写入至目标数据库存储;历史数据传输模块用于生成历史补采任务并将基于历史补采任务所补充采集的历史数据发送至目标数据库存储;时序数据处理平台包括目标数据库,目标数据库用于接收并存储实时数据与补充采集的历史数据;元数据存储及管理模块用于记录和管理***运行产生的元数据记录;通过上述各模块的配合,可实现时序数据从边缘侧至中心侧完整、可靠的传输与存储。
Description
技术领域
本发明涉及核电技术领域,尤其涉及一种基于云边协同的高可靠性时序数据传输与存储***。
背景技术
核电工业互联网平台边缘侧接入并存储了电厂的海量时序数据,根据核电数据业务特点可以将时序数据划分为近实时数据和历史数据,在将实时数据和历史数据由边缘侧传输到中心侧的过程中往往会遇到数据不完整和不可靠的问题。
其中,近实时数据具有实时性和短期缓存的特点。在基于核电工业互联平台实施实时数据接入的全数据链路中涉及到数据采集、数据缓存、数据分发、数据存储等过程,在数据实时传输过程中可能会有程序报错、网络中断、***升级等不确定因素导致的实时数据接入中断的情况发生,此外,当数据传输失败后还存在***无法自动追溯错误的问题和数据补偿的问题。历史数据具有数据量大和时间跨度大的特点,由于历史传输链路较长和数据流转环节较多等原因,导致最终存储到核电工业互联网平台的数据存在不完整的问题,由于核电工业互联网平台中需要基于历史数据进行各项应用与分析,故对连续区间内的历史数据质量要求较高,否则会影响应用与分析的可靠性,此外,由于历史传输链路较长和数据流转环节较多,也无法及时实现问题环节的有效定位与分析。
发明内容
有鉴于此,有必要提供一种基于云边协同的高可靠性时序数据传输与存储***,用以边缘侧到中心侧的数据采集与传输的完整性和可靠性问题,尤其是近实时数据的完整可靠传输与历史数据完整、可靠的迁移。
本发明提供一种基于云边协同的高可靠性时序数据传输与存储***,用于将时序数据从边缘侧传输至中心侧,包括:实时数据传输模块、历史数据传输模块、元数据存储及管理模块以及时序数据处理平台;
所述时序数据处理平台包括目标数据库,所述目标数据库用于接收并存储所述实时数据传输模块与历史数据传输模块分别发送的实时数据与补充采集的历史数据;
所述元数据存储及管理模块用于记录和管理所述***运行产生的元数据记录,所述元数据存储及管理模块包括测点元数据管理子模块,所述测点元数据管理子模块用于管理边缘侧的源数据库和所述目标数据库中的测点元数据,其中,所述测点元数据至少包括测点ID与值类型;
所述实时数据传输模块用于获取边缘侧的实时数据,并调用所述测点元数据管理子模块获取所述实时数据中待写入测点的值类型后,将对应的实时数据写入至所述目标数据库存储;
所述历史数据传输模块用于生成历史补采任务并将基于所述历史补采任务所补充采集的历史数据发送至所述目标数据库存储,包括:设置在边缘侧的历史数据采集子模块与历史数据传输子模块、设置在中心侧的历史数据采集任务生成子模块、历史数据中转子模块与导入子模块,其中:
所述历史数据采集任务生成子模块包括历史数据对比单元,所述历史数据对比单元用于所述目标数据库与指定数据库在指定时间段的历史数据对比,根据对比结果生成差异记录,并基于所述差异记录生成历史采集任务;
所述历史数据采集子模块与所述历史数据采集任务生成子模块通信连接,用于根据所述历史采集任务从所述源数据库中采集对应的历史数据;
所述历史数据传输子模块分别与所述历史数据采集子模块、所述历史数据中转子模块通信连接,用于接收所述历史数据采集子模块发送的历史数据并调用所述元测点元数据管理子模块获取历史数据中待写入的测点的值类型后,将对应的历史数据发送至所述历史数据中转子模块:
所述历史数据中转子模块中设有中转数据库,所述中转数据库用于接收、存储并转发所述历史数据传输子模块发送的历史数据;
所述导入子模块与所述历史数据中转子模块通信连接,用于将所述中转数据库中的历史数据转换为数据库格式文件后导入至目标数据库。
优选的,所述历史数据对比子模块中,所述指定数据库为源数据库,所述历史数据对比单元用于根据指定时间段从所述目标数据库查询并导出对应时间段的第一时序数据文件后,对比所述第一时序数据文件与所述源数据库,其中,所述第一时序数据文件至少包括测点ID、采集总时间段以及所述采集总时间段对应的数据总条数;
或,所述历史数据对比子模块中,所述指定数据库为中转数据库,所述历史数据对比单元用于根据指定时间段从所述目标数据库查询并导出对应时间段的第二时序数据文件后,对比所述第二时序数据文件与所述中转数据库,其中,所述第二时序数据文件至少包括测点ID、采集总时间段、每个所述总时间段所包括的实际采样时间以及每个实际采样时间对应的采样值。
优选的,历史数据采集任务生成子模块还包括任务管理单元,所述任务管理单元与所述历史数据对比单元通信连接,用于历史采集任务进行编排管理,并对编排管理后生成的最终的历史采集任务的数量、信息、运行状态进行统计和分析。
优选的,历史数据中转子模块还包括传输元数据生成单元,所述传输元数据生成单用于基于每次历史数据从边缘侧传输到中心侧的传输记录生成传输元数据,所述传输元数据用于表征传输过程记录的数据信息,所述传输元数据至少包括任务名称,传输周期以及所述传输周期内传输的文件夹总数量与文件总数量;所述元数据存储及管理模块对应设置传输元数据管理子模块,所述传输元数据管理子模块与所述历史数据中转子模块通信连接,用于接收并存储所述传输元数据。
进一步的,时序数据处理平台还包括存储元数据生成子模块,所述存储元数据生成子模块用于基于实时数据与历史数据写入至目标数据库的每个写入记录生成存储元数据,每个所述存储元数据至少包括测点名称,写入时间段、所述写入时间段对应的写入数据量,其中,所述写入数据量用于表征测点在指定日期存储在中心侧的写入数据总量;元数据存储及管理模块对应设置存储元数据管理子模块,所述存储元数据管理子模块与所述时序数据处理平台通信连接,用于接收并存储所述存储元数据。
更进一步的,每条存储元数据存储指定测点一年的写入数据量,其中,指定年份对应的所述写入数据量转换为指定进制的数据后按照时间先后顺序在所述存储元数据中依次存储。
优选的,历史传输模块还包括历史数据归档子模块,所述历史数据归档子模块设有归档数据库,所述归档数据库与中转数据库通信连接,用于所述中转数据库的历史数据的归档存储。
所述历史数据归档子模块还包括归档元数据生成单元,所述归档元数据生成单元用于基于所述中转数据库中每条历史数据的归档记录生成对应的归档元数据,每条所述归档元数据至少包括归档文件名称、归档文件大小、归档时间以及所属任务;所述元数据存储及管理模块对应设有归档元数据管理子模块,所述归档元数据管理子模块与历史数据归档子模块通信连接,用于接收并存储每条所述归档元数据。
优选的,历史数据传输模块还包括设于边缘侧的历史数据预处理子模块,所述历史数据预处理子模块与历史数据传输子模块通信连接,用于所述历史数据传输子模块中历史数据的压缩和/或加密处理。
和/或,历史数据传输模块还包括设于中心侧的数据链路可靠性监控子模块,所述数据链路可靠性监控子模块用于历史数据采集子模块、历史传输子模块、历史数据中转子模块、导入子模块、历史数据归档子模块进行链路监控,并进行异常情况报警处理。
优选的,实时传输功能模块,包括:
设置于边缘侧的实时数据采集子模块,用于从边缘侧的实时数据源中采集实时数据;
设置于边缘侧的实时数据传输子模块,用于将采集到的实时数据分别转发至中心侧和/或其他应用中;
设置于中心侧的实时数据接入子模块,其与所述实时数据传输子模块通信连接,用于将所述实时数据传输子模块转发的实时数据接入至中心侧;
设置于中心侧的实时数据计算与转发模块,用于对实时数据接入模块接入的实时数据流进行筛选、过滤以及边缘业务逻辑的附加计算后转发至所述目标数据库;
中断重试子模块,用于对于网络波动或异常情况进行多次重试传输;
缺失数据补偿子模块,用于缺失的近实时数据重新传输。
优选的,历史数据采集子模块还包括第一采集元数据生成单元,所述第一采集元数据生成单元用于基于每次历史数据采集记录生成采集元数据;所述实时数据采集子模块还包括第二采集元数据生成单元,所述第二采集元数据生成单元用于基于每次实时数据采集记录生成采集元数据,每个采集元数据至少包括测点名称,采集时间段、所述采集时间段中对应的采集数据量,其中每个采集数据量用于表征测点指定日期的采集数据总量;所述元数据存储及管理模块对应设置有采集元数据管理子模块,所述采集元数据管理子模块分别与所述历史数据传输子模块和实时数据传输子模块分别通信连接,用于接收并存储所述采集元数据。
进一步的,每条所述采集元数据存储指定测点一年的采集数据量,其中,指定年份对应全部所述采集数据量转换为指定进制的数据后按照时间先后顺序在所述采集元数据中依次存储。
优选的,所述元数据存储及管理模块还包括元数据处理子模块,所述元数据处理子模块分别与采集元数据管理子模块、传输元数据管理子模块、存储元数据管理子模块以及归档元数据管理子模块通信连接,以获取采集元数据、传输元数据、存储元数据以及归档元数据后对各类元数据进行处理。
进一步的,获取采集元数据、传输元数据、存储元数据以及归档元数据后对各类元数据进行处理包括:
A获取待定位数据的时间范围与测点范围;
B对所述测点范围内的每个测点,基于时间范围从所述归档元数据找到对应的归档文件路径,并基于所述归档文件路径从归档数据库中下载对应的归档数据;同时,基于时间范围从存储元数据中找到对应的写入数据量;
C基于所述归档数据统计归档数据量,并比较归档数据量与写入数据量的大小;
C1若二者相等,判断采集环节与传输环节可能存在问题;则
C11对所述测点范围内的每个测点,基于时间范围分别从所述采集元数据与传输元数据分别找到对应的采集数据量与文件量;
C12基于每个采集数据量与写入数据量的值,判断是否存在对应的文件,其中值不为0,则判断存在文件,并汇总后分别获取对应的采集文件总量以及存储文件总量;
C13比较采集文件总量、存储文件总量以及文件量,若其中一组数量不同,则判断对应的环节存在问题。
或C12'对所述测点范围内的每个测点,从所述采集元数据、传输元数据与存储元数据分别找到对应的测点名称以及文件夹数量;
C13'统计采集元数据与存储元数据中找到的测点名称的数量,以获取对应的采集文件夹总量以及存储文件夹总量,其中若找到对应的测点名称,则判断存在对应的文件夹;
C14'比较采集文件夹总量、存储文件夹总量以及文件量,若其中一组数量不同,则判断对应的环节存在问题。
C2若归档数据量大于写入数据量,则判断写入环节存在问题。
进一步的,获取采集元数据、传输元数据、存储元数据以及归档元数据后对各类元数据进行处理还包括周期性分析:所述周期性分析包括如下一种或多种的组合:
对于采集元数据,获取测点名称与查询时间段后, 基于所述测点名称与查询时间段获取对应的采集元数据的采集记录并展示,包括展示该测点每天的采集情况,或按年份来展示已采测点的采集状态;或,使用采集元数据统计采集数据的数据来源分布情况;
或,对于存储元数据,获取测点名称和查询时间段后,基于所述测点名称与查询时间段获取对应的存储元数据并展示该测点存储到目标数据库的记录;
或,对于传输元数据,获取任务名称后,基于所述任务名称获取对应的传输元数据展示其内存储的文件夹总数量与文件总数量。
优选的,所述实时传输功能模块还包括监控报警子模块,所述用于监控报警子模块记录异常的日志以及数据的位移量并基于异常并进行报警。
优选的,所述一种基于云边协同的高可靠性时序数据传输与存储***用于核电时序数据的传输与存储。
现有技术相比,本发明具有的有益效果为:本发明所示的一种基于云边协同的高可靠性时序数据传输与存储***,可有效保证时序数据从边缘侧至中心侧实时数据接入与历史数据迁移的可用性、完整性、可靠性,尤其是核电工业互联网边缘层时序数据实时数据接入与历史数据迁移。具体而言,实时数据传输模块通过对传输链路相关的软件服务及硬件的监视实现故障恢复及数据恢复,来保证核电工业互联网边缘层近实时的时序数据完整可靠传输问题,历史数据传输模块通过数据对比以及链路监控,解决历史数据完整、可靠的迁移问题,元数据存储及管理模块负责记录和管理所有运行产生的元数据记录,并提供查询接口供对比和分析使用,以用于数据标准的统一管理与***传输过程中问题环节的溯源。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1为本发明提供的一种基于云边协同的高可靠性时序数据传输与存储***一实施例的结构示意图;
图2为本发明提供的一种基于云边协同的高可靠性时序数据传输与存储***一实施例的工作流程示意图;
图中,实时数据传输模块10、实时数据采集子模块11、实时数据传输子模块12、实时数据接入子模块13、实时数据计算与转发模块14、中断重试子模块15、缺失数据补偿子模块16、监控报警子模块17;历史数据传输模块20、历史数据采集子模块21、历史数据传输子模块22、历史数据采集任务生成子模块23、历史数据中转子模块24、导入子模块25、历史数据预处理子模块26、历史数据归档子模块27、数据链路可靠性监控子模块28;元数据存储及管理模块30、测点元数据管理子模块31、采集元数据管理子模块32、传输元数据管理子模块33、归档元数据管理子模块34、存储元数据管理子模块35、元数据处理子模块36;时序数据处理平台40、目标数据库41、存储元数据生成子模块42。
具体实施方式
下面结合附图来具体描述本发明的优选实施例,其中,附图构成本申请一部分,并与本发明的实施例一起用于阐释本发明的原理,并非用于限定本发明的范围。
请参阅图1,本实施例中的一种基于云边协同的高可靠性时序数据传输与存储***,用于将时序数据从边缘侧传输至中心侧,包括:实时数据传输模块10、历史数据传输模块20、元数据存储及管理模块30以及时序数据处理平台40。
元数据存储及管理模块30用于记录和管理***所有运行产生的元数据记录,元数据存储及管理模块30包括测点元数据管理子模块31,测点元数据管理子模块31用于管理边缘侧的源数据库和目标数据库41中的测点元数据,其中,测点元数据至少包括测点ID以及测点的值类型;例如测点元数据可设置为FQ_01_0GEW004MU_XQ01, FLOAT,其中FQ_01_0GEW004MU_XQ01为测点ID,FLOAT表示该测点所对应的值为浮点型。
时序数据处理平台40包括目标数据库41,目标数据库41用于接收并存储实时数据传输模块10与历史数据传输模块20分别发送的实时数据与补充采集的历史数据;
实时数据传输模块10用于获取边缘侧的实时数据后,同时调用测点元数据管理子模块31获取实时数据中待写入测点的值类型,以将对应的实时数据写入至目标数据库41存储;本实施例中,目标数据库41为IotDB,在将实时数据写入目标数据库41时,先要从元数据管理子模块获取传入测点的值类型后,再调用IotDB的写入接口执行数据写入操作。
历史数据传输模块20用于生成历史补采任务并将基于历史补采任务所补充采集的历史数据发送至目标数据库41存储,包括:设置在边缘侧的历史数据采集子模块21与历史数据传输子模块22、设置在中心侧的历史数据采集任务生成子模块23、历史数据中转子模块24以及导入子模块25。历史数据采集任务生成子模块23包括历史数据对比单元,历史数据对比单元用于目标数据库41与指定数据库在指定时间段的历史数据对比,根据历史数据对比结果生成差异记录,并基于差异记录调用元数据管理模块获取待补采测点的ID后生成历史采集任务;历史数据采集子模块21与历史采集任务生成子模块23通信连接,用于根据历史采集任务生成子模块23下发的历史采集任务从边缘侧的源数据库中采集对应的历史数据;历史数据传输子模块22分别与历史数据采集子模块21以及历史数据中转子模块24通信连接,用于接收历史数据采集子模块21发送的历史数据并调用元测点元数据管理子模块31获取历史数据中待写入的测点的值类型后,将对应的历史数据发送至历史数据中转子模块24,以进行历史数据从边缘侧传输到中心侧:历史数据中转子模块24中设有中转数据库,中转数据库用于接收、存储并转发历史数据传输子模块22发送的历史数据;导入子模块25与历史数据中转子模块24通信连接,用于将中转数据库中的历史数据转换为数据库格式文件后导入至目标数据库41。
本发明所示的一种基于云边协同的高可靠性时序数据传输与存储***,可有效解决核电近实时数据和历史数据的传输与存储的完整性问题,其中,针对存储在中心侧的历史数据不完整性的问题,设计历史数据传输模块20,历史数据传输模块20负责确认中心侧数据不完整的区间段后从边缘侧中补充采集对应区间段的历史数据以替代中心侧原来不完整数据;针对近实时数据的实时性和短期缓存的特点,设计实时数据传输模块10,通过提高实时数据传输的完整性保障来降低丢包的概率;同时,设计元数据管理模块用于历史数据传输模块20与实时传输模块中在数据采集与传感过程中数据标准的统一管理。
以下对基于云边协同的高可靠性时序数据传输与存储***中各个模块的功能和工作流程分别进行说明
(一)历史数据传输模块20
本实施例中,如图2所示,历史数据传输模块20用于得到缺失的记录并生成补采集的任务,以从边缘侧的历史数据库中补充获取中心侧目标数据库41中缺失的数据。 以下结合历史传输业务流程对历史数据传输模块20工作流程进行说明。
1、历史数据对比单元进行中心侧数据完整性对比,并对应生成历史采集任务。
历史数据采集任务生成子模块23主要是确认目标数据库41中各测点连续区间内的数据是否存在不完整的问题,如前所述,历史数据有数据量大和时间跨度大的特点,为了提高对比效率,本实施例中,进行历史数据补充采集对比时,历史数据对比单元将待较长的连续采集时间段拆分成为多个相对较短的时间段分别进行完整性对比,每个时间段在进行完整性对比时,进一步设计了详细对比与简单对比两种方式,用户可根据实际需要,择一生成对应的历史数据采集任务。
进行简单对比时,历史数据对比子模块中,指定数据库为源数据库,历史数据对比单元用于根据指定时间段从目标数据库41查询并导出对应时间段的第一时序数据文件后,对比第一时序数据文件与源数据库,其中,第一时序数据文件至少包括测点ID、采集总时间段以及所述采集总时间段对应的数据总条数。
由于源数据库设置在边缘侧,目标数据库41设置在中心侧,二者空间地理距离通常很远,例如中心侧位于一核电站,边缘侧位于另一核电站,受限于两个核电站之间的空间距离以及网络等因素,中心侧与边缘侧的交互效率相对较低,故在进行数据完整性判断时,进行时间颗粒度相对较大对比,即对于指定时间段的任意一测点,从目标数据库41查询并导出对应时间段的第一时序数据文件,当判第一时序数据文件中任一条采集总时间段所对应的源数据总量与源数据库中存在不同,则判断中心侧存储对应的历史数据不完整。
如下表1所示,本实施例中,每个采集总时间段以天为单位,当需要对比2019年11月1日到30日这一指定段时间的数据,那么第一时序数据文件会按"测点ID-时间"(FQ_01_0GEW004MU_XQ01-2019-11-01)进行分组,其中,"FQ"代表核电站名称,"01"代表1号核电机组,"0GEW004MU_XQ01"代表测点序列号;对于一个测点,第一时序数据文件中会有30组数据,每一组包含的内容是测点在这一天的数据量,例如: FQ_01_xxx01 2019-11-01 100条,当对比完30组数据时就完成了这一段时间的对比。在进行比较时,比较每天的源数据总量,若源数据库中对应日期的源数据量与第一时序数据文件的数值全部相同,则判断目标数据库41中对应时间段的数据完整,若有一天的数值不同或者某一天的数据缺失等,则判断目标数据库41中对应时间段的数据不完整,需要生成历史采集任务,即根据数据对比的结果得到数据库差异记录,生成差异记录的补采任务。此外,也可以手动按时间、测点生成采集任务。
表1
进行详细对比时,历史数据对比子模块中,指定数据库为中转数据库,历史数据对比单元用于根据指定时间段从目标数据库41查询并导出对应时间段的第二时序数据文件后,对比第二时序数据文件与中转数据库中指定时间段的数据,其中,第二时序数据文件至少包括测点ID、采集总时间段、每个所述采集总时间段所包括的实际采样时间以及每个实际采样时间对应的采样值;
中转数据库与第二时序数据文件均在中心侧,处于相同的地理位置,二者之间交互效率高,故在进行数据完整性判断时,对于指定时间段的任意一测点可进行详细对比,即对于指定时间段的任意一测点执行实际采样时间的数据对比,当判第二时序数据文件中每个实际采样时间对应的值与中转数据库对应的数据存在不同时,则判断中心侧存储对应的历史数据不完整。
举例说明,如下表2所示,假设导出的第二时序数据文件为FQ_01_0GEW004MU_XQ01测点19年10月区段,则在进行比较时,对于10月份的任意一天,比较每天全部的实际采样时间以及对应的值,若中转数据库中对应时刻以及值与中转数据库中存储的数据全部相同,则判断目标数据库41中对应时间段的数据完整,若有一天存在差异,如某个实际采样时间的数值缺失、某个采样时间对应的值不同,或者某一天的数值缺失等,则判断目标数据库41中对应时间段的数据不完整,需要生成历史采集任务,即根据数据对比的结果得到数据库差异记录,生成差异记录的补采任务。此外,也可以手动按时间、测点生成采集任务。
表2
2、任务管理:
由于历史数据对比单元进行完整性判断时,拆分为多个时间段进行,故每次对比时,可能会生成多个历史采集任务,每个历史采集任务的采集时间长短、测点所在核电站等等均不同,为方便管理,故发明所示的一种基于云边协同的高可靠性时序数据传输与存储***,还设置了任务管理单元,任务管理单元与历史数据对比单元通信连接,用于历史采集任务进行任务编排管理,并对编排管理后生成的最终的历史采集任务的数量、信息、运行状态进行统计和分析。
3、边缘侧历史数据集数据:
本实施例中,边缘侧历史数据采集子模块21使用数据源***的SDK或API接口,获取每个测点的最新数据记录,将采集到的数据记录按标准格式打包后交给历史传输模块。
此外,作为一优选方案,历史数据传输子模块22还包括第一采集元数据生成单元,第一采集元数据生成单元用于基于每次历史数据采集记录生成采集元数据;其中,采集元数据用于表示本次补充采集的元数据日志,所述采集元数据至少包括测点ID,采集管理时间、所述采集管理时间范围内每天的采集数据量;第一采集元数据生成单元基于每次补采对应生成采集元数据后发给元数据管理模块。
4、边缘侧数据压缩、加密、数据文件转发:
考虑到核电领域存在数据传输安全要求较高的场景,故作为一优选方案本实施例中,历史数据传输模块20还包括设于边缘侧的历史数据预处理子模块26,历史数据预处理子模块26与历史数据传输子模块22通信连接,用于历史数据传输子模块22中补充采集历史数据的压缩和/或加密处理。这样设置,当遇到对于数据传输安全要求较高的场景,可以开启对打包文件的加密选项,同时也对打包的文件做压缩后再传输节约磁盘空间。
5、中心侧数据文件中转:
历史数据中转子模块24对历史数据传输子模块22传输到中心侧的数据进行转发,可以转发到对应的时序数据库供导入使用,也可以转发到其他服务器做数据分析对比。
此外,作为一优选方案,本实施例中,历史数据中转子模块24还包括传输元数据生成单元,传输元数据生成单用于基于每次历史数据从边缘侧传输到中心侧的传输记录生成传输元数据,如表3所示,传输元数据至少包括任务名称,传输周期以及所述传输周期内传输的文件夹总数量与文件总数量;传输元数据生成单元在每次进行数据转发时,记录并生成传输元数据后发给元数据管理模块。
表3
6、中心侧数据导入:导入子模块25将转发到时序数据处理平台40的文件转换为数据库格式文件后导入到目标数据库41;
7、中心侧历史数据归档:
考虑到边缘侧的采集速率受到各方面影响导致采集速率较慢,且边缘侧数据存储空间不充足,故历史数据传输模块20对已采集的数据做缓存处理和历史归档来防止因为异常原因导致数据写入或传输失败从而数据丢失的情况。故本发明所示的一种基于云边协同的高可靠性时序数据传输与存储***中,历史传输模块还包括历史数据归档子模块27,历史数据归档子模块27设有归档数据库,归档数据库与中转数据库通信连接,用于中转数据库已确认历史数据的归档存储,以将中心侧收到的数据文件按日期格式分类上传到归档服务器。归档的文件数据按测点和时期分类整理,提供历史数据的查询服务,这样设置,当需要进行历史数据查询时,无需从目标数据库中导出数据,而可以直接从归档数据库中找到对应的文件。
此外,作为一优选方案,本实施例中,历史数据归档子模块27还包括归档元数据生成单元,所述归档元数据生成单元用于基于所述中转数据库中每条历史数据的归档记录生成对应的归档元数据,如表4所示,每条所述归档元数据至少包括归档文件名称、归档文件大小、归档文件路径、归档时间以及所属任务;历史数据归档子模块27每次进行历史数据归档时, 基于归档情况生成对应的归档元数据并发送至元数据存储及管理模块30存储。
表4
8、历史数据监控、报警:
考虑到历史数有数据量大和时间跨度大的特点,对于连续区间内的数据质量要求较高。同时由于传输链路较长和数据流转环节较多的原因,故作为一优选方案,本实施例中,历史数据传输模块20还包括设于中心侧的数据链路可靠性监控子模块28,数据链路可靠性监控子模块28对历史数据的传输工作有监控和记录日志的功能,具体而言,数据链路可靠性监控子模块28用于历史数据采集子模块21、历史传输子模块、历史数据中转子模块24、导入子模块25、历史数据归档子模块27进行链路监控,并进行异常情况报警处理。
(二)实时数据传输模块10
实时传输功能模块负责将采集到的数据转发到边缘侧数据库和转发到中心侧存储。考虑到近实时数据有实时性和短期缓存的特点,所以在处理近实时数据时需要实时传输功能模块可以做到对实时数据传输的完整性保障来降低丢包的概率,同时在丢失少量数据后,可以及时从采集缓存区再次读取并重试传输流程。在遇到网络问题时需要有重试机制和对输入数据的监视机制以及在异常情况下告警功能,能解决数据传输失败后***无法自动追溯错误的问题和数据补偿的问题。
作为一优选方案,本实施例中,实时传输功能模块,包括:设置于边缘侧的实时采集子模块,用于基于边缘侧实时采集器采集实时数据;设置于边缘侧的实时数据传输子模块12,用于将采集到的实时数据分别转发到边缘侧数据库和转发到中心侧;设置于中心侧的实时数据接入子模块13,用于接收实时数据传输子模块12实时转发的实时数据;设置于中心侧的实时数据计算与转发子模块14,用于对实时数据接入模块接入的实时数据流进行筛选、过滤以及边缘业务逻辑的附加计算后输出到目标数据库41;中断重试子模块15,用于外部异常导致中断时的重试传输;缺失数据补偿子模块16,用于缺失的近实时数据重新传输。
实时采集子模块11、实时数据传输子模块12、实时数据接入子模块13、实时数据计算与转发子模块14配合,用于正常情况下实时数据从边缘侧至中心侧的采集与传输,当遇到由于网络等外部因素导致的少量数据丢失的特殊情况时,通过中断重试子模块15与缺失数据补偿子模块16的配合,可以及时从采集缓存区再次读取并重试传输流程。
更进一步的,本发明所示的实时传输功能模块还包括监控报警子模块17,用于记录异常的日志以及数据的位移量并基于异常并进行报警。这样设置,当遇到网络问题时还通过程序运行状态查看子模块与监控报警子模块的配合,在进行重试传输的同时,通过对输入数据的监视机制以及在异常情况下告警功能,解决数据传输失败后***无法自动追溯错误的问题和数据补偿的问题。
通过上述各模块的配合,实时传输功能模块通过对传输链路相关的软件服务及硬件的监视实现故障恢复及数据恢复,来保证核电工业互联网边缘层近实时的时序数据完整可靠传输问题。
实时传输业务流程如图2所示,具体包括如下步骤:
a)边缘侧实时采集器采集数据:本实施例中,实时数据采集模块11使用数据源***的SDK或API接口,获取每个测点的最新数据记录,将采集到的记录交给实时转发模块。
此外,作为一优选方案,本实施例中,实时数据采集子模块11还包括第二采集元数据生成单元,第二采集元数据生成单元用于基于每次实时数据采集记录生成采集元数据,采集元数据至少包括测点ID,采集管理时间、所述采集管理时间范围内每天的采集数据量;第二采集元数据生成单元与第一采集元数据生成单元功能相同,基于每次实时采集对应生成采集元数据后发给元数据管理模块,其中,采集元数据记录本次实时采集的元数据日志。
b)边缘侧数据转发:本实施例中,实时数据传输子模块12将采集到的数据记录存储到边缘侧数据库,从边缘侧转发到中心侧的。
c)中心侧数据接收:本实施例中,中心侧的实时数据接入子模块13使用物联网代理集群实时接收实时转发的数据,并根据情况转发数据流向。
d)中心侧计算、转发、存储:本实施例中,中心侧的实时数据计算与转发子模块14对中心侧接入的实时数据流进行筛选、过滤以及边缘业务逻辑的附加计算后输出到目标数据库41。
在此过程中,当网络出现问题时,由中断重试子模块15对于网络波动或异常情况进行多次重试传输,缺失数据补偿子模块16将缺失的近实时数据重新传输;同时,监控报警子模块17监控实时数据量,当判断不正常时发送报警邮件。
(三)时序数据处理平台40
时序数据处理平台40用于采集的实时数据与历史数据的存储,时序数据处理平台40中设有目标数据库41,目标数据库41用于接收并存储实时数据传输模块10与历史数据传输模块20分别发送的实时数据与补充采集的历史数据;
此外,作为一优选方案,时序数据处理平台40还包括存储元数据生成子模块42,存储元数据生成子模块42用于基于实时数据与历史数据写入至目标数据库41的每个记录生成存储元数据,每个所述存储元数据至少包括测点名称,写入时间段、所述写入时间段对应的写入数据量,其中,所述写入数据量用于表征测点在指定日期存储在中心侧的写入数据总量。
(四)元数据管理模块
元数据管理模块负责记录和管理所有运行产生的元数据记录,以用于后续发现问题时的溯源处理与状态分析管理以及数据治理。实时数据存储数量大的特点,历史数据除数据量大之外,还有时间跨度大、对于连续区间内的数据质量要求较高的特点,同时由于传输链路较长和数据流转环节较多的原因,故本发明所示的一种基于云边协同的高可靠性时序数据传输与存储***,单独设置元数据存储及管理模块30以对实时数据、历史数据的传输工作进行监控和记录日志。元数据存储及管理模块30用于记录和管理***所有运行产生的元数据记录,一方面可以通过链路监控、日志追溯的手段,快速定位出发生问题的环节,以解决历史数据完整、可靠的迁移问题。另一方面还可基于各类元数据获取当前任务中各环节工作状态与进程。
本实施例中,元数据记录包括采集元数据、传输元数据、存储元数据以及归档元数据,涵盖时序数据在***中涉及的各重要流转环节,元数据存储及管理模块30对应实时数据传输模块10、历史数据传输模块20与时序数据处理平台40,分别设置采集元数据管理子模块32、传输元数据管理子模块33、归档元数据管理子模块34与存储元数据管理子模块35,以实现各类元数据分别按类保存并提供读取接口供数据分析使用。具体而言,采集元数据管理子模块32分别与历史数据传输子模块22和实时数据传输子模块12分别通信连接,用于接收并存储采集元数据,其中,每个采集元数据至少包括测点名称,采集时间段、所述采集时间段中对应的采集数据量,其中每个采集数据量用于表征测点指定日期的采集数据总量;传输元数据管理子模块33与历史数据中转子模块24通信连接,用于接收并存储传输元数据,其中,所述传输元数据用于表征传输过程记录的数据信息,所述传输元数据至少包括任务名称,传输周期以及所述传输周期内传输的文件夹总数量与文件总数量;存储元数据管理子模块35与时序数据处理平台40通信连接,用于接收并存储存储元数据,其中,每个所述存储元数据至少包括测点名称,写入时间段、所述写入时间段对应的写入数据量,其中,所述写入数据量用于表征测点在指定日期存储在中心侧的写入数据总量;归档元数据管理子模块34与历史数据归档子模块27通信连接,用于接收并存储归档元数据,其中,每条所述归档元数据至少包括归档文件名称、归档文件大小、归档文件路径、归档时间以及所属任务。
当发现目标数据库41接收的历史数据或者实时数据存在质量问题时,可从元数据存储及管理模块30中调用指定测点在指定时间段对应的采集元数据、传输元数据、存储元数据以及归档元数据,并比较四者之间的数据量;若某类元数据与其他元数据的数据量不匹配,则说明该类元数据对应的环节可能存在问题,从而实现问题的快速定位。
更进一步的,虽然基于采集元数据与存储元数据可获取各测点指定时间段的采集数据量与存储数据量以用于后续分析,但是如前所述,历史数据存在数据量大的特点,基于历史数据获取的采集元数据与存储元数据也存在数据量也很大,当需要获取指定时间与指定测点范围的采集数据量进行分析时,需要耗费大量的时间才能找到全部的信息的问题。同时考虑到在进行历史数据的采集时是单线程遍历循环进行的,作为一优选方案,本实施例中,每条所述采集元数据存储指定测点一年的采集数据量,其中,指定年份对应全部所述采集数据量转换为指定进制的数据后按照时间先后顺序在所述采集元数据中依次存储。如表5所示,本实施例中,对于名称为ZS 02 20ZAS-EP-ET101A-26的测点,将其2019年的全部的采集数据量按照时间先后顺序依次存储,其中,相邻天数的采集数据量以逗号隔开,X代表当天无数据,同时,为进一步降低存储空间,指定年份对应的每个所述采集数据量转换为16进制数据后按照时间先后顺序在所述采集元数据中依次存储。
表5
对于同一个测点,采集元数据管理子模块以年度为单位进行采集元数据的存储,即将相同测点在某一个年度的数据放在同一条文件数据中并按照时间先后顺序依次写入对应日期的采集数据量,以2019年为例,对应的文件中记录了365个采集数据量;同时,在数据写入的过程中,还将原本的采集数据量转换为6位16进制数据以进行记录。这样设置,一方面可有效节约空间;另外一方面,由于采集元数据是按年存储的,也更利于后续的整体分析时的数据查询与获取。
作为一优选方案,本实施例中,每条存储元数据存储指定测点一年的写入数据量,所述存储元数据包括测点名称、年份以及每天的写入数据量,其中,指定年份对应的所述写入数据量转换为10进制数据后按照时间先后顺序在所述存储元数据中依次存储。如表6所示,本实施例中,对于名称为ZS 02 20ZAS-EP-ET101A-26的测点,同样将其2019年的全部的写入数据量按分别转换为10进制数据后按照时间先后顺序在所述存储元数据中依次存储,其中通过逗号隔开每一天写入数据量,0代表无数据。
表6
元数据存储及管理模块30还包括元数据处理子模块36,元数据处理子模块36分别与采集元数据管理子模块32、传输元数据管理子模块33、存储元数据管理子模块35以及归档元数据管理子模块34通信连接,以获取各类元数据并对各类元数据进行处理。
本实施例中,获取各类元数据并对各类元数据进行处理包括(1)问题环节定位分析处理;(2)周期性分析各类元数据以获取核电数据传输运行过程中各状态并生成采集报表与对比报表进行展示;(3)基于归档元数据进行资产分析。
其中,(1)对各类所述元数据进行处理以进行问题环节定位包括如下步骤:
A获取待定位数据的时间范围与测点范围;
B对所述测点范围内的每个测点,基于时间范围从所述归档元数据找到对应的归档文件路径,并基于所述归档文件路径从归档数据库中下载对应的归档数据;同时,基于时间范围从存储元数据中找到对应的写入数据量;
C基于所述归档数据统计归档数据量,并比较归档数据量与写入数据量的大小;
C1若二者相等,判断采集环节与传输环节可能存在问题;则
C11对所述测点范围内的每个测点,基于时间范围分别从所述采集元数据与传输元数据分别找到对应的采集数据量与文件量;
C12基于每个采集数据量与写入数据量的值,判断是否存在对应的文件,其中值不为0,则判断存在文件,并汇总后分别获取对应的采集文件总量以及存储文件总量;
C13比较采集文件总量、存储文件总量以及文件量,若其中一组数量不同,则判断对应的环节存在问题。
或C12'对所述测点范围内的每个测点,从所述采集元数据、传输元数据与存储元数据分别找到对应的测点名称以及文件夹数量;
C13'统计采集元数据与存储元数据中找到的测点名称的数量,以获取对应的采集文件夹总量以及存储文件夹总量,其中若找到对应的测点名称,则判断存在对应的文件夹;
C14'比较采集文件夹总量、存储文件夹总量以及文件量,若其中一组数量不同,则判断对应的环节存在问题。
C2若归档数据量大于写入数据量,则判断写入环节存在问题。
(2)对各类所述元数据进行处理还包括基于所述元数据进行周期性分析,所述周期性分析包括如下一种或多种的组合:
对于采集元数据,获取测点名称与查询时间段后, 基于所述测点名称与查询时间段获取对应的采集元数据的采集记录并展示,包括展示该测点每天的采集情况,或按年份来展示已采测点的采集状态;或,使用采集元数据统计采集数据的数据来源分布情况;
或,对于存储元数据,获取测点名称和查询时间段后,基于所述测点名称与查询时间段获取对应的存储元数据并展示该测点存储到目标数据库的记录;
或,对于传输元数据,获取任务名称后,基于所述任务名称获取对应的传输元数据展示其内存储的文件夹总数量与文件总数量。
(3)基于所述归档元数据进行资产分析,所述资产分析包括获取任务名称,基于所述任务名称从对应的归档元数据获取归档文件路径,基于所述归档文件路径从归档数据库中下载对应的数据以进行资产分析。
本发明所示的一种基于云边协同的高可靠性时序数据传输与存储***,针对海量核电数据从边缘侧的采集直至中心侧的存储全流程分别设置采集元数据、传输元数据、存储元数据以及归档元数据,并对不同的元数据定义不同的数据属性信息以及存储结构,通过对各类元数据进行处理,一方面可实现快速定位出发生问题的环节,解决历史数据完整、可靠的迁移问题;同时还可通过对各类元数据周期性分析,获取核电数据传输运行过程中各状态并展示。具体而言,针对高可靠性传输过程中的各个环节,当需要判断某个区段的历史数据不完整时,则获取对应区间段的采集元数据、传输元数据、存储元数据以及归档元数据,然后比较各元数据的记录,若其中一个记录与其他元数据中不同,则可判断该环节出现问题的可能性最大。同时还可根据需要通过对不同类型的元数据分别进一步统计,获取***的各个环节的进程,以及时掌握核电数据传输运行过程中各状态。
以上,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明之内。
Claims (16)
1.一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,用于将时序数据从边缘侧传输至中心侧,包括:实时数据传输模块、历史数据传输模块、元数据存储及管理模块以及时序数据处理平台;
所述时序数据处理平台包括目标数据库,所述目标数据库用于接收并存储所述实时数据传输模块与历史数据传输模块分别发送的实时数据与补充采集的历史数据;
所述元数据存储及管理模块用于记录和管理所述***运行产生的元数据记录,所述元数据存储及管理模块包括测点元数据管理子模块,所述测点元数据管理子模块用于管理边缘侧的源数据库和所述目标数据库中的测点元数据,其中,所述测点元数据至少包括测点ID与值类型;
所述实时数据传输模块用于获取边缘侧的实时数据,并调用所述测点元数据管理子模块获取所述实时数据中待写入测点的值类型后,将对应的实时数据写入至所述目标数据库存储;
所述历史数据传输模块用于生成历史补采任务并将基于所述历史补采任务所补充采集的历史数据发送至所述目标数据库存储,包括:设置在边缘侧的历史数据采集子模块与历史数据传输子模块、设置在中心侧的历史数据采集任务生成子模块、历史数据中转子模块与导入子模块,其中:
所述历史数据采集任务生成子模块包括历史数据对比单元,所述历史数据对比单元用于所述目标数据库与指定数据库在指定时间段的历史数据对比,根据对比结果生成差异记录,并基于所述差异记录生成历史采集任务;
所述历史数据采集子模块与所述历史数据采集任务生成子模块通信连接,用于根据所述历史采集任务从所述源数据库中采集对应的历史数据;
所述历史数据传输子模块分别与所述历史数据采集子模块、所述历史数据中转子模块通信连接,用于接收所述历史数据采集子模块发送的历史数据并调用所述元测点元数据管理子模块获取历史数据中待写入的测点的值类型后,将对应的历史数据发送至所述历史数据中转子模块:
所述历史数据中转子模块中设有中转数据库,所述中转数据库用于接收、存储并转发所述历史数据传输子模块发送的历史数据;
所述导入子模块与所述历史数据中转子模块通信连接,用于将所述中转数据库中的历史数据转换为数据库格式文件后导入至目标数据库。
2.根据权利要求1所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,所述历史数据对比子模块中,所述指定数据库为源数据库,所述历史数据对比单元用于根据指定时间段从所述目标数据库查询并导出对应时间段的第一时序数据文件后,对比所述第一时序数据文件与所述源数据库,其中,所述第一时序数据文件至少包括测点ID、采集总时间段以及所述采集总时间段对应的数据总条数;
或,所述历史数据对比子模块中,所述指定数据库为中转数据库,所述历史数据对比单元用于根据指定时间段从所述目标数据库查询并导出对应时间段的第二时序数据文件后,对比所述第二时序数据文件与所述中转数据库,其中,所述第二时序数据文件至少包括测点ID、采集总时间段、每个所述采集总时间段所包括的实际采样时间以及每个实际采样时间对应的采样值。
3.根据权利要求2所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,历史数据采集任务生成子模块还包括任务管理单元,所述任务管理单元与所述历史数据对比单元通信连接,用于历史采集任务进行编排管理,并对编排管理后生成的最终的历史采集任务的数量、信息、运行状态进行统计和分析。
4.根据权利要求3所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,历史数据中转子模块还包括传输元数据生成单元,所述传输元数据生成单元用于基于每次历史数据从边缘侧传输到中心侧的传输记录生成传输元数据,所述传输元数据用于表征传输过程记录的数据信息,所述传输元数据至少包括任务名称,传输周期以及所述传输周期内传输的文件夹总数量与文件总数量;
所述元数据存储及管理模块对应设置传输元数据管理子模块,所述传输元数据管理子模块与所述历史数据中转子模块通信连接,用于接收并存储所述传输元数据。
5.根据权利要求4所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,时序数据处理平台还包括存储元数据生成子模块,所述存储元数据生成子模块用于基于实时数据与历史数据写入至目标数据库的每个写入记录生成存储元数据,每个所述存储元数据至少包括测点名称,写入时间段、所述写入时间段对应的写入数据量,其中,所述写入数据量用于表征测点在指定日期存储在中心侧的写入数据总量;元数据存储及管理模块对应设置存储元数据管理子模块,所述存储元数据管理子模块与所述时序数据处理平台通信连接,用于接收并存储所述存储元数据。
6.根据权利要求5所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,每条存储元数据存储指定测点一年的写入数据量,其中,指定年份对应的所述写入数据量转换为指定进制的数据后按照时间先后顺序在所述存储元数据中依次存储。
7.根据权利要求5所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,历史传输模块还包括历史数据归档子模块,所述历史数据归档子模块设有归档数据库,所述归档数据库与中转数据库通信连接,用于所述中转数据库的历史数据的归档存储。
8.根据权利要求6所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,所述历史数据归档子模块还包括归档元数据生成单元,所述归档元数据生成单元用于基于所述中转数据库中每条历史数据的归档记录生成对应的归档元数据,每条所述归档元数据至少包括归档文件名称、归档文件大小、归档存储路径、归档时间以及所属任务;
所述元数据存储及管理模块对应设有归档元数据管理子模块,所述归档元数据管理子模块与历史数据归档子模块通信连接,用于接收并存储每条所述归档元数据。
9.根据权利要求8所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,历史数据传输模块还包括设于边缘侧的历史数据预处理子模块,所述历史数据预处理子模块与历史数据传输子模块通信连接,用于所述历史数据传输子模块中历史数据的压缩和/或加密处理;
和/或,历史数据传输模块还包括设于中心侧的数据链路可靠性监控子模块,所述数据链路可靠性监控子模块用于历史数据采集子模块、历史传输子模块、历史数据中转子模块、导入子模块、历史数据归档子模块进行链路监控,并进行异常情况报警处理。
10.根据权利要求8所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,实时传输功能模块,包括:
设置于边缘侧的实时数据采集子模块,用于从边缘侧的实时数据源中采集实时数据;
设置于边缘侧的实时数据传输子模块,用于将采集到的实时数据分别转发至中心侧和/或其他应用中;
设置于中心侧的实时数据接入子模块,其与所述实时数据传输子模块通信连接,用于将所述实时数据传输子模块转发的实时数据接入至中心侧;
设置于中心侧的实时数据计算与转发模块,用于对实时数据接入模块接入的实时数据流进行筛选、过滤以及边缘业务逻辑的附加计算后转发至所述目标数据库;
中断重试子模块,用于对于网络波动或异常情况进行多次重试传输;
缺失数据补偿子模块,用于缺失的近实时数据重新传输。
11.根据权利要求10所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,历史数据采集子模块还包括第一采集元数据生成单元,所述第一采集元数据生成单元用于基于每次历史数据采集记录生成采集元数据;所述实时数据采集子模块还包括第二采集元数据生成单元,所述第二采集元数据生成单元用于基于每次实时数据采集记录生成采集元数据,每个采集元数据至少包括测点名称,采集时间段、所述采集时间段中对应的采集数据量,其中每个采集数据量用于表征测点指定日期的采集数据总量;
所述元数据存储及管理模块对应设置有采集元数据管理子模块,所述采集元数据管理子模块分别与所述历史数据传输子模块和实时数据传输子模块分别通信连接,用于接收并存储所述采集元数据。
12.根据权利要求11所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,每条所述采集元数据存储指定测点一年的采集数据量,其中,指定年份对应全部所述采集数据量转换为指定进制的数据后按照时间先后顺序在所述采集元数据中依次存储。
13.根据权利要求11所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,所述元数据存储及管理模块还包括元数据处理子模块,所述元数据处理子模块分别与采集元数据管理子模块、传输元数据管理子模块、存储元数据管理子模块以及归档元数据管理子模块通信连接,以获取采集元数据、传输元数据、存储元数据以及归档元数据后对各类元数据进行处理。
14.根据权利要求13所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,获取采集元数据、传输元数据、存储元数据以及归档元数据后对各类元数据进行处理包括:
A获取待定位数据的时间范围与测点范围;
B对所述测点范围内的每个测点,基于时间范围从所述归档元数据找到对应的归档文件路径,并基于所述归档文件路径从归档数据库中下载对应的归档数据;同时,基于时间范围从存储元数据中找到对应的写入数据量;
C基于所述归档数据统计归档数据量,并比较归档数据量与写入数据量的大小;
C1若二者相等,判断采集环节与传输环节可能存在问题;则
C11对所述测点范围内的每个测点,基于时间范围分别从所述采集元数据与传输元数据分别找到对应的采集数据量与文件量;
C12基于每个采集数据量与写入数据量的值,判断是否存在对应的文件,其中值不为0,则判断存在文件,并汇总后分别获取对应的采集文件总量以及存储文件总量;
C13比较采集文件总量、存储文件总量以及文件量,若其中一组数量不同,则判断对应的环节存在问题;
或
C12'对所述测点范围内的每个测点,从所述采集元数据、传输元数据与存储元数据分别找到对应的测点名称以及文件夹数量;
C13'统计采集元数据与存储元数据中找到的测点名称的数量,以获取对应的采集文件夹总量以及存储文件夹总量,其中若找到对应的测点名称,则判断存在对应的文件夹;
C14'比较采集文件夹总量、存储文件夹总量以及文件量,若其中一组数量不同,则判断对应的环节存在问题;
C2若归档数据量大于写入数据量,则判断写入环节存在问题。
15.根据权利要求1所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,所述实时传输功能模块还包括监控报警子模块,所述用于监控报警子模块记录异常的日志以及数据的位移量并基于异常并进行报警。
16.根据权利要求1所述的一种基于云边协同的高可靠性时序数据传输与存储***,其特征在于,所述***用于核电时序数据的传输与存储。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410070799.5A CN117591496B (zh) | 2024-01-18 | 2024-01-18 | 一种基于云边协同的高可靠性时序数据传输与存储*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410070799.5A CN117591496B (zh) | 2024-01-18 | 2024-01-18 | 一种基于云边协同的高可靠性时序数据传输与存储*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117591496A true CN117591496A (zh) | 2024-02-23 |
CN117591496B CN117591496B (zh) | 2024-05-03 |
Family
ID=89913679
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410070799.5A Active CN117591496B (zh) | 2024-01-18 | 2024-01-18 | 一种基于云边协同的高可靠性时序数据传输与存储*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117591496B (zh) |
Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005111788A2 (en) * | 2004-05-07 | 2005-11-24 | Asempra Technologies, Inc. | Moving real-time data events across devices in a network |
CN102521256A (zh) * | 2011-11-17 | 2012-06-27 | 广东电网公司电力科学研究院 | 高可靠性的实时/历史数据库数据保护方法 |
IE20100798A1 (en) * | 2010-12-22 | 2012-07-04 | Isolate Technologies Ltd | A system for controlling data transmission |
CN105808749A (zh) * | 2016-03-14 | 2016-07-27 | 北京广利核***工程有限公司 | 一种用于核电站的历史存储方法 |
JP6304850B1 (ja) * | 2017-11-02 | 2018-04-04 | フリーダム合同会社 | データ管理システム、プログラム、およびコンピュータ読み取り可能な記憶媒体 |
US20190324987A1 (en) * | 2014-05-05 | 2019-10-24 | Aveva Software, Llc | Storing and identifying metadata through extended properties in a historization system |
CN110502563A (zh) * | 2019-08-26 | 2019-11-26 | 腾讯科技(深圳)有限公司 | 一种多数据源的数据的处理方法及装置、存储介质 |
CN110766214A (zh) * | 2019-10-17 | 2020-02-07 | 中南林业科技大学 | 一种基于边缘计算和大数据的实时防洪监测*** |
CN111177152A (zh) * | 2019-12-27 | 2020-05-19 | 宁波立新科技股份有限公司 | 一种配电中心数据处理*** |
CN112711840A (zh) * | 2020-12-24 | 2021-04-27 | 武汉大学 | 一种基于云边协同的流域突发水污染溯源方法 |
CN114020792A (zh) * | 2021-11-10 | 2022-02-08 | 西安热工研究院有限公司 | 实时数据库补历史数据方法、***、存储介质及服务器 |
CN114880690A (zh) * | 2022-06-08 | 2022-08-09 | 浙江省交通运输科学研究院 | 一种基于边缘计算的源数据时序精化方法 |
CN115907398A (zh) * | 2022-12-05 | 2023-04-04 | 广东电网有限责任公司 | 一种基于云边协同的低压配用电数据处理方法及装置 |
CN116319770A (zh) * | 2022-09-08 | 2023-06-23 | 浪潮软件集团有限公司 | 一种自适应云边端协同方法及装置 |
CN116340312A (zh) * | 2022-11-01 | 2023-06-27 | 湖北能源集团新能源发展有限公司 | Gis设备局部放电在线监测***的数据存储方法及*** |
CN116701862A (zh) * | 2023-05-30 | 2023-09-05 | 中核武汉核电运行技术股份有限公司 | 基于大数据和仿真技术的核电运行数据分析***及方法 |
US20230395253A1 (en) * | 2018-05-16 | 2023-12-07 | Shanghai Svm Medical Technology Co., Ltd. | Cloud-edge collaborative processing system and method for icu data based on third-party business |
CN117368651A (zh) * | 2023-12-07 | 2024-01-09 | 江苏索杰智能科技有限公司 | 一种配电网故障综合分析***及方法 |
-
2024
- 2024-01-18 CN CN202410070799.5A patent/CN117591496B/zh active Active
Patent Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005111788A2 (en) * | 2004-05-07 | 2005-11-24 | Asempra Technologies, Inc. | Moving real-time data events across devices in a network |
IE20100798A1 (en) * | 2010-12-22 | 2012-07-04 | Isolate Technologies Ltd | A system for controlling data transmission |
CN102521256A (zh) * | 2011-11-17 | 2012-06-27 | 广东电网公司电力科学研究院 | 高可靠性的实时/历史数据库数据保护方法 |
US20190324987A1 (en) * | 2014-05-05 | 2019-10-24 | Aveva Software, Llc | Storing and identifying metadata through extended properties in a historization system |
CN105808749A (zh) * | 2016-03-14 | 2016-07-27 | 北京广利核***工程有限公司 | 一种用于核电站的历史存储方法 |
JP6304850B1 (ja) * | 2017-11-02 | 2018-04-04 | フリーダム合同会社 | データ管理システム、プログラム、およびコンピュータ読み取り可能な記憶媒体 |
US20230395253A1 (en) * | 2018-05-16 | 2023-12-07 | Shanghai Svm Medical Technology Co., Ltd. | Cloud-edge collaborative processing system and method for icu data based on third-party business |
CN110502563A (zh) * | 2019-08-26 | 2019-11-26 | 腾讯科技(深圳)有限公司 | 一种多数据源的数据的处理方法及装置、存储介质 |
CN110766214A (zh) * | 2019-10-17 | 2020-02-07 | 中南林业科技大学 | 一种基于边缘计算和大数据的实时防洪监测*** |
CN111177152A (zh) * | 2019-12-27 | 2020-05-19 | 宁波立新科技股份有限公司 | 一种配电中心数据处理*** |
CN112711840A (zh) * | 2020-12-24 | 2021-04-27 | 武汉大学 | 一种基于云边协同的流域突发水污染溯源方法 |
CN114020792A (zh) * | 2021-11-10 | 2022-02-08 | 西安热工研究院有限公司 | 实时数据库补历史数据方法、***、存储介质及服务器 |
CN114880690A (zh) * | 2022-06-08 | 2022-08-09 | 浙江省交通运输科学研究院 | 一种基于边缘计算的源数据时序精化方法 |
CN116319770A (zh) * | 2022-09-08 | 2023-06-23 | 浪潮软件集团有限公司 | 一种自适应云边端协同方法及装置 |
CN116340312A (zh) * | 2022-11-01 | 2023-06-27 | 湖北能源集团新能源发展有限公司 | Gis设备局部放电在线监测***的数据存储方法及*** |
CN115907398A (zh) * | 2022-12-05 | 2023-04-04 | 广东电网有限责任公司 | 一种基于云边协同的低压配用电数据处理方法及装置 |
CN116701862A (zh) * | 2023-05-30 | 2023-09-05 | 中核武汉核电运行技术股份有限公司 | 基于大数据和仿真技术的核电运行数据分析***及方法 |
CN117368651A (zh) * | 2023-12-07 | 2024-01-09 | 江苏索杰智能科技有限公司 | 一种配电网故障综合分析***及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN117591496B (zh) | 2024-05-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105761010A (zh) | 基于实时数据采集的集团企业稽核实时监控方法及*** | |
US20110191394A1 (en) | Method of processing log files in an information system, and log file processing system | |
CN105824744A (zh) | 一种基于b2b平台的实时日志采集分析方法 | |
CN105099740A (zh) | 一种日志管理***及日志采集方法 | |
CN106327055A (zh) | 一种基于大数据技术的电力费控方法及*** | |
CN112256530A (zh) | 一种可链路追踪的日志服务方法及其*** | |
CN102479145A (zh) | 软件使用信息收集***及方法 | |
CN112039701A (zh) | 接口调用监控方法、装置、设备及存储介质 | |
CN114648393A (zh) | 一种应用于招投标的数据挖掘方法、***及设备 | |
CN112233385A (zh) | 一种业务故障预警*** | |
CN114201540A (zh) | 工业多源数据采集及存储*** | |
CN111143304B (zh) | 一种基于请求链路的微服务***异常日志分析方法 | |
CN109542091A (zh) | 一种挖掘机故障维修与可靠性数据管理***及其应用 | |
CN103348557A (zh) | 现场响应*** | |
CN117591496B (zh) | 一种基于云边协同的高可靠性时序数据传输与存储*** | |
US20020026433A1 (en) | Knowledge system and methods of business alerting and business analysis | |
CN104601374A (zh) | 用于数控机床的网络故障处理方法和装置 | |
CN113157521B (zh) | 用于区块链全生命周期的监控方法和监控*** | |
CN107564582B (zh) | 单病种质量监测***及方法 | |
CN110555583A (zh) | 一种智能电网调度控制***广域运行数据统一处理方法 | |
CN112214459A (zh) | 基于事件机制的资源处理流程日志收集*** | |
CN113836187A (zh) | 数据处理方法、装置、服务器及计算机可读存储介质 | |
CN116501584A (zh) | 基于elk的可视化监控***及方法 | |
CN115759977A (zh) | 基于数据中台的链路自动化运维*** | |
CN112448840B (zh) | 一种通信数据质量监控方法、装置、服务器及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |