CN113792094A - 一种数据同步***、方法、设备及介质 - Google Patents
一种数据同步***、方法、设备及介质 Download PDFInfo
- Publication number
- CN113792094A CN113792094A CN202110989209.5A CN202110989209A CN113792094A CN 113792094 A CN113792094 A CN 113792094A CN 202110989209 A CN202110989209 A CN 202110989209A CN 113792094 A CN113792094 A CN 113792094A
- Authority
- CN
- China
- Prior art keywords
- database
- module
- transaction data
- etl
- transaction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000004458 analytical method Methods 0.000 claims abstract description 28
- 238000001914 filtration Methods 0.000 claims description 8
- 238000013507 mapping Methods 0.000 claims description 6
- 230000007246 mechanism Effects 0.000 claims description 6
- 239000002253 acid Substances 0.000 claims description 5
- 238000004140 cleaning Methods 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 5
- 230000001360 synchronised effect Effects 0.000 claims description 5
- 230000008569 process Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
- G06F16/254—Extract, transform and load [ETL] procedures, e.g. ETL data flows in data warehouses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开涉及一种数据同步***、方法、设备及介质，该***包括：MySQL、日志解析模块、消息接收模块和ETL加载模块；MySQL利用binlog，对源端数据库更新的逻辑日志文件进行实时记录；其中，逻辑日志文件由一系列的事务Event构成；日志解析模块基于预设的解析规则解析逻辑日志文件，得到事务处理数据流；消息接收模块按照指定缓存路径，将来自于不同的源端数据库的事务处理数据流写入到缓存文件中；ETL加载模块从缓存文件中读取事务处理数据流，对事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将SQL语句加载进入目标端数据库。本公开能够高效地实现异库备份，较好地满足业务***复杂的数据交换需求。
Description
技术领域
本公开涉及数据加工技术领域，尤其涉及一种数据同步***、方法、设备及介质。
背景技术
绝大多数数据同步产品主要是大数据库厂商针对自己公司的数据库产品开发出来的，不一定适用于其它数据库管理***。以MySQL数据库数据同步为例，MySQL的主从复制集群依靠主服务器将更新写入二进制日志文件，并维护文件的索引以跟踪日志循环，同时将这些日志发送到从服务器，以便从服务器更新。这样就要求源端、目标端的数据库必须都是MySQL数据库才能使用该主从配置方案，这给业务***之间的数据交换带来了难题。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题，本公开提供了一种数据同步***、方法、设备及介质。
本公开提供了一种数据同步***，包括：关系型数据库管理***MySQL、日志解析模块、消息接收模块和ETL加载模块；
所述MySQL利用binlog，对源端数据库更新的逻辑日志文件进行实时记录；其中，所述逻辑日志文件由一系列的事务Event构成；
所述日志解析模块基于预设的解析规则解析所述逻辑日志文件，得到事务处理数据流；
所述消息接收模块按照指定缓存路径，将来自于不同的所述源端数据库的所述事务处理数据流写入到缓存文件中；
所述ETL加载模块从所述缓存文件中读取所述事务处理数据流，对所述事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将所述SQL语句加载进入目标端数据库。
可选的，所述日志解析模块在解析过程中，按照事务的ACID属性对所述逻辑日志文件进行数据清洗；其中，所述数据清洗包括：检查数据一致性以及处理无效值和缺失值。
可选的，所述日志解析模块根据预设的过滤规则对所述逻辑日志文件进行过滤；其中，所述过滤规则用于选择需要同步的所述逻辑日志文件。
可选的，所述ETL加载模块通过读取预设的配置文件，获取与所述目标端数据库的类型对应的映射规则；根据所述映射规则对所述事务处理数据流进行ETL处理，得到通用格式的SQL语句。
可选的，所述ETL加载模块配置Java数据库连接JDBC；所述ETL加载模块以所述JDBC的方式将所述SQL语句统一加载进入所述目标端数据库。
可选的，所述binlog基于同步机制的行模式进行数据记录。
可选的，所述目标端数据库为非MySQL类型数据库。
本公开提供了一种数据同步方法，包括：
所述MySQL利用binlog，对源端数据库更新的逻辑日志文件进行实时记录；其中，所述逻辑日志文件由一系列的事务Event构成；基于预设的解析规则解析所述逻辑日志文件，得到事务处理数据流；按照指定缓存路径，将来自于不同的所述源端数据库的所述事务处理数据流写入到缓存文件中；从所述缓存文件中读取所述事务处理数据流，对所述事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将所述SQL语句加载进入目标端数据库。
本公开提供了一种电子设备，所述电子设备包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述方法。
本公开提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述方法。
本公开实施例提供的技术方案与现有技术相比具有如下优点：
本公开实施例提供的一种数据同步***、方法、设备及介质，该***包括：MySQL、日志解析模块、消息接收模块和ETL加载模块；MySQL利用binlog实时记录以Event为单位的逻辑日志文件；日志解析模块基于预设的解析规则解析逻辑日志文件，得到具有较高完整性的事务处理数据流；消息接收模块缓存事务处理数据流；ETL加载模块能够高效地对事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将SQL语句加载进入目标端数据库。上述技术方案，对逻辑日志文件的解析和传输以Event为单位，减少了数据的传输量，无需处理复杂的“回滚”机制，从而可以在保证一致性和完整性的情况下，基于ETL高效地进行数据库数据同步，提高了数据库间数据同步的效率；基于MySQL的binlog解析出的SQL语句，在目标端以JDBC的方式进行统一加载，达到异库备份的目的，较好地满足业务***复杂的数据交换需求。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本公开实施例所述数据同步***的结构示意图；
图2为本公开实施例所述日志解析模块的结构示意图；
图3为本公开实施例所述消息接收模块的结构示意图；
图4为本公开实施例所述ETL加载模块的结构示意图；
图5为本公开实施例所述数据同步方法流程图。
具体实施方式
为了能够更清楚地理解本公开的上述目的、特征和优点，下面将对本公开的方案进行进一步描述。需要说明的是，在不冲突的情况下，本公开的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本公开，但本公开还可以采用其他不同于在此描述的方式来实施；显然，说明书中的实施例只是本公开的一部分实施例，而不是全部的实施例。
目前，绝大多数数据同步产品要求源端、目标端的数据库必须都是MySQL数据库才能使用该主从配置方案，这给业务***之间的数据交换带来了难题。为改善上述难题，本公开实施例提供了一种数据同步***、方法、设备及介质。该数据同步***用于实现基于MySQL数据库操作日志在线分析的ETL((Extract-Transform-Load，数据仓库技术))数据同步方法，在保证数据一致性和完整性的情况下，通过日志在线分析技术，使用ETL高效地进行数据库数据同步，达到异库备份的目的，较好地满足业务***复杂的数据交换需求的问题。为便于理解，以下对本公开实施例进行详细介绍。
参照图1所示的一种数据同步***的结构示意图，该***包括：MySQL100(关系型数据库管理***)、日志解析模块200、消息接收模块300和ETL加载模块400。
在本实施例中，MySQL100利用binlog(二进制日志)，对源端数据库更新的逻辑日志文件进行实时记录。其中，逻辑日志文件由一系列的Event(事务)构成；源端数据库为MySQL100类型数据库。
本实施例中的binlog基于同步机制的行模式进行数据记录。在具体实现时，开启MySQL100的binlog记录功能，并修改为行(row)模式，binlog基于同步机制的行模式进行数据更新，实时的反映行级别的数据变化。
日志解析模块200接收binlog记录更新的逻辑日志文件，而后，基于预设的解析规则解析逻辑日志文件，得到事务处理数据流。在本实施例中，日志解析模块200按照固定的字节读取方式和解析规则，对逻辑日志文件的诸如数据库名、表名、事件类型、时间戳、事件编号、字段名称和对应的字段值等格式进行解析，得到用户对源端数据库的操作指令和操作结果的数据集，基于得到的数据集确定事务处理数据流。
日志解析模块200将得到的事务处理数据流通信传输给消息接收模块300。消息接收模块300按照指定缓存路径，将来自于不同的源端数据库的事务处理数据流写入到缓存文件中。
ETL加载模块400从缓存文件中读取事务处理数据流，对事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将SQL语句加载进入目标端数据库。其中，目标端数据库为非MySQL100类型数据库，诸如可以包括：HBase、Kylin、或ES的NoSQL数据库。
为便于理解，以下实施例对上述数据同步***展开详细描述。
开启MySQL100的binlog记录功能，并修改为行模式，MySQL100利用binlog，对源端数据库更新的逻辑日志文件进行实时记录。在row模式下，binlog中可以只需要记录发生变化(比如修改或更新)的数据记录以及发生变化后的数据记录，从而，row的日志内容能够清楚的记录下每一行数据变化的细节，容易理解；而且不会出现某些特定情况下的存储过程和function，以及trigger的调用和出发无法被正确复制问题。
参照图2，日志解析模块200读取如下配置规则：解析规则和过滤规则，根据读取的上述配置规则对逻辑日志文件进行解析，而后将解析后得到的事务处理数据流传输给目标端的消息接收模块300。
为了提高日志解析模块200所得的事务处理数据流的数据质量，在一种实施例中，日志解析模块200在按照预设的解析规则解析逻辑日志文件的过程中，可以按照事务的ACID属性对逻辑日志文件进行数据清洗。通常，事务的ACID属性分别是原子性、一致性、隔离性和持久性。
在实施时，日志解析模块200可以添加事务完整性的检查点，通过所述事务完整性的检查点并按照事务的ACID属性对逻辑日志文件进行数据清洗；该数据清洗可以包括：检查数据一致性以及处理无效值和缺失值。本具体实施例在解析过程中添加事务完整性的检查点，在发生断电、故障的数据库重启的情况下，通过数据清洗实现无脏数据和重复数据的读取，主动过滤重复事务以及事务不完整的数据，保障业务数据的事务完整性。
在又一实施例中，在解析逻辑日志文件之前，日志解析模块200还可以根据预设的过滤规则对逻辑日志文件进行过滤；其中，过滤规则用于选择需要同步的逻辑日志文件。通过配置过滤规则，用户可以有针对性的选择待同步的逻辑日志文件，对不需要发送的逻辑日志文件进行过滤处理，以减小待解析的数据量，进而降低发送数据量对网络的压力。
消息接收模块300按照指定缓存路径，将来自于不同的源端数据库的事务处理数据流写入到缓存文件中。
参照图3所示，消息接收模块300接收来自不同源端数据库的事务处理数据流，并按照指定缓存路径，将事务处理数据流写入到本地用于数据加载的缓存文件当中。本实施例采用缓存的方式存储接收到的事务处理数据流是为了减少网络压力，加快网络发送接收响应时间，减少目标端数据库阻塞对数据接收的影响，从根本上解决因为数据库数据同步入库造成的源端和目标端之间数据阻塞问题。
参照图4，ETL加载模块400在对事务处理数据流进行ETL处理的实施方式中，通过读取预设的配置文件，获取与目标端数据库的类型对应的映射规则；根据映射规则对事务处理数据流进行ETL处理，得到通用格式的SQL语句。本实施例中通过ETL加载模块400对事务处理数据流进行在线解析，将其处理为通用格式的标准SQL语句，能达到异构数据库之间的数据备份功能。
ETL加载模块400配置JDBC(Java Database Connectivity，Java数据库连接)；ETL加载模块400以JDBC的方式将SQL语句统一加载进入目标端数据库，至此批量完成装载数据。
综上，本公开实施例提供的一种数据同步***，包括：MySQL、日志解析模块、消息接收模块和ETL加载模块；MySQL利用binlog实时记录以Event为单位的逻辑日志文件；日志解析模块基于预设的解析规则解析逻辑日志文件，得到具有较高完整性的事务处理数据流；消息接收模块缓存事务处理数据流；ETL加载模块能够高效地对事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将SQL语句加载进入目标端数据库。上述技术方案，对逻辑日志文件的解析和传输以Event为单位，减少了数据的传输量，无需处理复杂的“回滚”机制，从而可以在保证一致性和完整性的情况下，基于ETL高效地进行数据库数据同步，提高了数据库间数据同步的效率；基于MySQL的binlog解析出的SQL语句，在目标端以JDBC的方式进行统一加载，达到异库备份的目的，较好地满足业务***复杂的数据交换需求。
以上实施例提供的数据同步***，用于实现如图5所示的数据同步方法，该方法可以包括如下步骤：
步骤S502，MySQL利用binlog，对源端数据库更新的逻辑日志文件进行实时记录；其中，逻辑日志文件由一系列的事务Event构成；
步骤S504，基于预设的解析规则解析逻辑日志文件，得到事务处理数据流；
步骤S506，按照指定缓存路径，将来自于不同的源端数据库的事务处理数据流写入到缓存文件中；
步骤S508，从缓存文件中读取事务处理数据流，对事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将SQL语句加载进入目标端数据库。
本实施例所提供的方法，其实现原理及产生的技术效果和前述***实施例相同，为简要描述，方法实施例部分未提及之处，可参考前述***实施例中相应内容。
进一步，本实施例还提供了一种电子设备，所述电子设备包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述数据同步方法。
进一步，本实施例还提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述数据同步方法。
本公开实施例所提供的一种数据同步***、方法、设备及介质的计算机程序产品，包括存储了程序代码的计算机可读存储介质，所述程序代码包括的指令可用于执行前面方法实施例中所述的方法，具体实现可参见***及方法的实施例，在此不再赘述。
需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本公开的具体实施方式，使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下，在其它实施例中实现。因此，本公开将不会被限制于本文所述的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种数据同步***，其特征在于，包括：关系型数据库管理***MySQL、日志解析模块、消息接收模块和ETL加载模块；
所述MySQL利用binlog，对源端数据库更新的逻辑日志文件进行实时记录；其中，所述逻辑日志文件由一系列的事务Event构成；
所述日志解析模块基于预设的解析规则解析所述逻辑日志文件，得到事务处理数据流；
所述消息接收模块按照指定缓存路径，将来自于不同的所述源端数据库的所述事务处理数据流写入到缓存文件中；
所述ETL加载模块从所述缓存文件中读取所述事务处理数据流，对所述事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将所述SQL语句加载进入目标端数据库。
2.根据权利要求1所述的***，其特征在于，所述日志解析模块在解析过程中，按照事务的ACID属性对所述逻辑日志文件进行数据清洗；其中，所述数据清洗包括：检查数据一致性以及处理无效值和缺失值。
3.根据权利要求1所述的***，其特征在于，所述日志解析模块根据预设的过滤规则对所述逻辑日志文件进行过滤；其中，所述过滤规则用于选择需要同步的所述逻辑日志文件。
4.根据权利要求1所述的***，其特征在于，所述ETL加载模块通过读取预设的配置文件，获取与所述目标端数据库的类型对应的映射规则；根据所述映射规则对所述事务处理数据流进行ETL处理，得到通用格式的SQL语句。
5.根据权利要求1所述的***，其特征在于，所述ETL加载模块配置Java数据库连接JDBC；
所述ETL加载模块以所述JDBC的方式将所述SQL语句统一加载进入所述目标端数据库。
6.根据权利要求1所述的***，其特征在于，所述binlog基于同步机制的行模式进行数据记录。
7.根据权利要求1所述的***，其特征在于，所述目标端数据库为非MySQL类型数据库。
8.一种数据同步方法，其特征在于，包括：
所述MySQL利用binlog，对源端数据库更新的逻辑日志文件进行实时记录；其中，所述逻辑日志文件由一系列的事务Event构成；
基于预设的解析规则解析所述逻辑日志文件，得到事务处理数据流；
按照指定缓存路径，将来自于不同的所述源端数据库的所述事务处理数据流写入到缓存文件中；
从所述缓存文件中读取所述事务处理数据流，对所述事务处理数据流进行ETL处理，得到通用格式的SQL语句，并将所述SQL语句加载进入目标端数据库。
9.一种电子设备，其特征在于，所述电子设备包括：
处理器；
用于存储所述处理器可执行指令的存储器；
所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求8中所述的方法。
10.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求8中所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110989209.5A CN113792094A (zh) | 2021-08-26 | 2021-08-26 | 一种数据同步***、方法、设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110989209.5A CN113792094A (zh) | 2021-08-26 | 2021-08-26 | 一种数据同步***、方法、设备及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113792094A true CN113792094A (zh) | 2021-12-14 |
Family
ID=78876446
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110989209.5A Pending CN113792094A (zh) | 2021-08-26 | 2021-08-26 | 一种数据同步***、方法、设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113792094A (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114528266A (zh) * | 2022-01-28 | 2022-05-24 | 苏州浪潮智能科技有限公司 | 实现数据库和缓存一致性的方法、***、设备和存储介质 |
| CN114880346A (zh) * | 2022-04-22 | 2022-08-09 | 苏州浪潮智能科技有限公司 | 一种数据处理方法及相关组件、加速处理器 |
| CN115525680A (zh) * | 2022-09-21 | 2022-12-27 | 京信数据科技有限公司 | 数据处理作业调度方法、装置、计算机设备及存储介质 |
| CN116578655A (zh) * | 2023-07-06 | 2023-08-11 | 舟谱数据技术南京有限公司 | 一种数据传输***及其控制方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106709043A (zh) * | 2016-12-30 | 2017-05-24 | 江苏瑞中数据股份有限公司 | 一种基于数据库日志的数据同步加载方法 |
| CN108228755A (zh) * | 2017-12-21 | 2018-06-29 | 江苏瑞中数据股份有限公司 | 基于日志解析技术的MySQL数据库到Hadoop平台的数据同步复制方法 |
| CN108228756A (zh) * | 2017-12-21 | 2018-06-29 | 江苏瑞中数据股份有限公司 | 基于日志解析技术的PG数据库到Hadoop平台的数据同步复制方法 |
| CN109101627A (zh) * | 2018-08-14 | 2018-12-28 | 交通银行股份有限公司 | 异构数据库同步方法及装置 |
-
2021
- 2021-08-26 CN CN202110989209.5A patent/CN113792094A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106709043A (zh) * | 2016-12-30 | 2017-05-24 | 江苏瑞中数据股份有限公司 | 一种基于数据库日志的数据同步加载方法 |
| CN108228755A (zh) * | 2017-12-21 | 2018-06-29 | 江苏瑞中数据股份有限公司 | 基于日志解析技术的MySQL数据库到Hadoop平台的数据同步复制方法 |
| CN108228756A (zh) * | 2017-12-21 | 2018-06-29 | 江苏瑞中数据股份有限公司 | 基于日志解析技术的PG数据库到Hadoop平台的数据同步复制方法 |
| CN109101627A (zh) * | 2018-08-14 | 2018-12-28 | 交通银行股份有限公司 | 异构数据库同步方法及装置 |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114528266A (zh) * | 2022-01-28 | 2022-05-24 | 苏州浪潮智能科技有限公司 | 实现数据库和缓存一致性的方法、***、设备和存储介质 |
| CN114528266B (zh) * | 2022-01-28 | 2024-01-26 | 苏州浪潮智能科技有限公司 | 实现数据库和缓存一致性的方法、***、设备和存储介质 |
| CN114880346A (zh) * | 2022-04-22 | 2022-08-09 | 苏州浪潮智能科技有限公司 | 一种数据处理方法及相关组件、加速处理器 |
| CN114880346B (zh) * | 2022-04-22 | 2024-01-23 | 苏州浪潮智能科技有限公司 | 一种数据处理方法及相关组件、加速处理器 |
| CN115525680A (zh) * | 2022-09-21 | 2022-12-27 | 京信数据科技有限公司 | 数据处理作业调度方法、装置、计算机设备及存储介质 |
| CN116578655A (zh) * | 2023-07-06 | 2023-08-11 | 舟谱数据技术南京有限公司 | 一种数据传输***及其控制方法 |
| CN116578655B (zh) * | 2023-07-06 | 2023-09-15 | 舟谱数据技术南京有限公司 | 一种数据传输***及其控制方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113792094A (zh) | 一种数据同步***、方法、设备及介质 | |
| US8108343B2 (en) | De-duplication and completeness in multi-log based replication | |
| AU2016250260B2 (en) | Backup and restore in a distributed database utilizing consistent database snapshots | |
| CN107402963B (zh) | 搜索数据的构建方法、增量数据的推送方法及装置和设备 | |
| CN107391628B (zh) | 数据同步方法及装置 | |
| US10671642B2 (en) | Copying data changes to a target database | |
| US11256715B2 (en) | Data backup method and apparatus | |
| WO2022063284A1 (zh) | 数据同步方法、装置、设备及计算机可读介质 | |
| US20200348851A1 (en) | Data processing method and apparatus | |
| US8572022B2 (en) | Automatic synchronization conflict resolution | |
| US7702698B1 (en) | Database replication across different database platforms | |
| US8924365B2 (en) | System and method for range search over distributive storage systems | |
| CN110209735B (zh) | 数据库备份方法、数据库备份装置、计算设备和存储介质 | |
| CN112084161B (zh) | 基于数据库的数据处理方法、装置以及可读存储介质 | |
| CN109710388A (zh) | 数据读取方法、装置、电子设备以及存储介质 | |
| CN110765206A (zh) | 一种数据同步***、方法、装置、设备及存储介质 | |
| CN113868028A (zh) | 一种在数据节点上回放日志的方法、数据节点及*** | |
| CN109446262B (zh) | 一种数据汇聚方法及装置 | |
| CN111930788B (zh) | 操作请求的处理方法、装置、设备、可读存储介质及*** | |
| CN111737331B (zh) | 一种数据库与对象存储的事务一致性处理方法及*** | |
| CN113760902A (zh) | 数据拆分方法、装置、设备、介质及程序产品 | |
| CN112800060A (zh) | 数据处理方法、装置、计算机可读存储介质及电子设备 | |
| CN112612647B (zh) | 日志并行重演方法、装置、设备及存储介质 | |
| CN112685431B (zh) | 异步缓存方法、装置、***、电子设备和存储介质 | |
| CN114116732B (zh) | 处理事务的方法、装置、存储装置以及服务器 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |