CN108121827B - 一种全量数据的同步方法及装置 - Google Patents

Abstract

本发明提供一种全量数据的同步方法及装置。所述方法包括：读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；通过交易文件的形式发送所述事务数据发送到数据接收端；所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现源数据库和目标数据库的同步。利用本发明可提升数据库的同步效率，减少数据库的负载，降低数据库的资源占用率。

Description

一种全量数据的同步方法及装置

技术领域

本发明涉及数据库技术领域，具体涉及一种全量数据的同步方法及装置。

背景技术

数据库是应用业务***中最核心的组成部分，数据库的稳定以及业务的连续性是应用业务***中最关注的问题。

在许多数据库应用场景中(如双活、异地容灾等)，通常需两个或两个以上数据库中的数据保持同步。

现今通常将原数据库中的全量数据通过第三方数据容器转移到目标数据库。例如，可将原数据库中的数据拷贝到磁盘，再通过磁盘拷贝至目标数据库中，也可采用调用SQL方式进行数据传输，但这些方法数据同步速度慢，数据库的负载比较重，无法快速实现原数据库和目标数据库数据的实时同步，并且在数据同步过程中还会影响线上数据库的正常运行。

因此，如何提出一种方法，能够提高源数据库和目标数据库数据实时同步的效率，成为亟待解决的问题。

发明内容

针对现有技术中的缺陷，本发明实施例提供了一种全量数据的同步方法及装置。

第一方面，本发明实施例提供一种全量数据的同步方法，包括：

读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

通过交易文件的形式发送所述事务数据发送到数据接收端；

所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

第二方面，本发明实施例提供一种全量数据的同步装置，包括：

读取文件模块，用于读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

发送数据框架模块，用于通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

发送事务数据模块，用于通过交易文件的形式发送所述事务数据发送到数据接收端；

加载文件模块，用于所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

第三方面，本发明实施例还提供了一种计算机设备，包括存储器和处理器，所述处理器和所述存储器通过总线完成相互间的通信；所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行如下方法：

读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

通过交易文件的形式发送所述事务数据发送到数据接收端；

所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时用于存储如前所述的计算机程序的方法。

本发明实施例提供的全量数据同步方法及装置，通过将源数据库中解析出的数据框架先发送到目标数据库，再将装载在数据框架中的事务数据发送到目标数据库，实现源数据库和目标数据库的实时同步，不需要直接调用SQL语句来实现数据库的同步，利用本发明提升了数据库同步效率，减少数据库负载，降低数据库的资源占用率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的全量数据同步方法的流程示意图；

图2为本发明实施例提供的全量数据数据导出方法的流程示意图；

图3为本发明实施例提供的全量数据事务数据导出方法的流程示意图；

图4为本发明又一实施例提供的全量数据同步的方法流程示意图；

图5为本发明实施例提供的全量数据同步装置的结构示意图；

图6为本发明实施例提供的计算机设备的结构框图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1为本发明实施例提供的全量数据同步方法的流程示意图，如图1所示，所述方法包括：

S101、读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

S102、通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

S103、通过交易文件的形式发送所述事务数据发送到数据接收端；

S104、所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

具体地，将源数据库中的数据文件同步到目标数据库中，本发明实施例主要是对全量数据进行同步，首先将源数据库中数据文件的数据结构导入到目标数据库中，再将源数据库中的事务数据逐条或批量导入到目标数据库中，完成源数据库和目标数据库的数据文件的同步。

首先，读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

然后，通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；例如，数据库中的表有一个树状的结构，将先将树状结构以交易文件的形式发送的目标端；

再通过交易文件的形式发送所述事务数据发送到数据接收端；例如，在将树状结构发送到目标端后，再将事务数据发送到目标端；

数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，即先将数据框架装载在目标数据库中，再将事务数据填充到数据框架中，实现所述源数据库和所述目标数据库的同步。

需要说明的是，S102、S103可按顺序执行，也可同时执行，在本发明实施例中不做具体限定。

在上述发送和接收的过程中，通过无线网络进行传输，可以用WAN、LAN等。

本发明实施例提供的全量数据同步方法，通过将源数据库中解析出的数据框架先发送到目标数据库，再将装载在数据框架中的事务数据发送到目标数据库，实现源数据库和目标数据库的实时同步，不需要直接调用SQL语句来实现数据库的同步，利用本发明提升了数据库同步效率，减少数据库负载，降低数据库的资源占用率。

可选地，所述交易文件形式为数据转换过程中的一种内部数据格式，具体为：xf1/xdt数据形式。

具体地，将源数据库中的数据文件解析出数据字典、数据库对象和事务数据，将所述数据字典、数据库对象和事务数据都以交易文件形式存储和传输，本发明实施例可用xf1/xdt的数据格式。需要说明的是，本发明实施例提供的xf1/xdt数据格式不做具体限定，也可选用其他的数据形式。

可选地，所述读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据，具体为：

采用直接路径导出方式，读取所述源数据库的数据文件；

通过查询***表得到所述数据字典，所述数据字典为创建对象的SQL语句；

通过查询所述***表得到所述数据库对象，所述数据库对象至少包括：表、索引、视图、触发器；

通过直接路径导出方式，将所述事务数据导出。

图2为本发明实施例提供的全量数据导出方法的流程示意图，如图2所示。采用直接路径导出的方式，读取所述源数据库的数据文件；

通过查询***表(schema.sys)得到数据字典，用于描述表的定义的xf1/xdt结构，创建建表的SQL语句；

通过查询***表得到数据库对象，所述数据库对象至少包括：

a.表信息：schema，表名，内部标识，表空间等等。

b.字段信息：字段名，类型，精度等等。

c.LOB字段可以保存到不同的表空间，因此需要一些专门的信息：内部标识，表空间，存储格式(basic/secure-file)等等。

d.表相关的数据库对象，如索引等。

e.分区信息：分区类型，分区界线等。

f.数据段信息。

通过直接路径导出方式，将所述事务数据导出。事务数据导出是全量数据同步的主要功能，也是最费时的一部分。

本发明实施例提供的全量数据同步方法，通过将源数据库中解析出的数据框架先发送到目标数据库，再将装载在数据框架中的事务数据发送到目标数据库，实现源数据库和目标数据库的实时同步，不需要直接调用SQL语句来实现数据库的同步，利用本发明提升了数据库同步效率，减少数据库负载，降低数据库的资源占用率，最大限度的减少了人工干预，实现了不停机、不停业务、不修改数据库原有参数，一键化的全量数据同步功能，满足了迁移、查询分离、本异地容灾、双活切换、双活复制等应用。

可选地，所述通过直接路径导出方式，将所述事务数据导出，具体为：

解析所述事务数据的数据段的起始数据块，得到数据块簇信息；

根据所述数据块簇信息，逐块解析出所述数据块中的事务数据并导出。

具体地，图3为本发明实施例提供的全量数据事务数据导出方法的流程示意图，如图3所示，数据库将数据存储空间管理分为表空间(tablespace)，数据文件(datafile)，数据段(segment)，数据块簇(extent)，块(block)等多级段页式管理。

表空间由一个或多个数据文件组成。所有的数据都保存在某个表空间里。每个表空间可以保存多个数据库对象(表，索引，LOB等)。一个表可以由一到多个数据段(segment)组成。

由于一个表由一到多个数据段组成。所以，一个表的事务数据的直接路径导出过程，就是顺序导出各个数据段的过程。

具体将一个数据段的事务数据导出过程如下：

解析所述事务数据的数据段的起始数据块，得到数据块簇信息；

根据所述数据块簇信息，逐块解析出所述数据块中的事务数据并导出，直到将表中的所有事务数据都导出。

每个数据段的起始位置已经保存在数据字典中，所以，数据段的直接路径导出从这个数据段起始位置开始。

在数据段导出的过程中，一个数据段可能有成千上万个数据块，这个解析过程就有可能需要数个小时，甚至数天时间。这段时间用户应用一直都在事务数据上工作，有可能造成数据丢失问题，比如事务回滚就有可能因为数据库已经把事务记录标志为已经删除，但还没有提交，而是移到回滚段里。这种情况事务一旦回滚就有可能丢失数据。

本发明提供的方法还包括补充导出(supplemental export)，主要是在解析完数据段后，根据解析过程中保存的可疑记录信息，结合回滚段的数据判断出记录是要复制还是丢弃，从而保证数据不会丢失。

可选地，所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步，具体为：

接收所述源数据库以交易文件形式发送的所述数据框架和所述事务数据；

所接收到的交易文件存储在磁盘中，将所述磁盘中的交易文件解析为SQL语句，所述数据框架和事务数据按顺序加载到所述目标数据库中。

具体地，源数据库将数据字典、数据库对象和事务数据导出，并且以交易文件的形式通过网络发送到目标数据库接收端，目标数据库接收端接收到源数据库发送的交易文件数据；并保存到磁盘文件中，目标数据库的数据装载程序从磁盘读取队列中的交易文件，使用数据库应用程序接口装载到目标数据库中。

具体地，对磁盘文件进行加载，将磁盘文件解析为SQL语句，将解析出的事务数据逐条或批量的***到目标数据库中，完成数据加载过程。

本发明实施例提供的全量数据同步方法，通过将源数据库中解析出的数据框架先发送到目标数据库，再将装载在数据框架中的事务数据发送到目标数据库，实现源数据库和目标数据库的实时同步，不需要直接调用SQL语句来实现数据库的同步，利用本发明提升了数据库同步效率，减少数据库负载，降低数据库的资源占用率，最大限度的减少了人工干预，实现了不停机、不停业务、不修改数据库原有参数，一键化的全量数据同步功能，满足了迁移、查询分离、本异地容灾、双活切换、双活复制等应用。

图4为本发明又一实施例提供的全量数据同步的方法流程示意图，如图4所示，对源数据库和目标数据库中全量数据进行同步传输的步骤如下：

采用直接路径导出方式，读取所述源数据库的数据文件，将数据字典、数据库对象定义和事务数据导出，通过网络的方式将数据字典、数据库对象定义构造的数据框架和事务数据以交易文件的形式发送得到目标数据库的接收端，目标数据库的接收端接收源数据库发送的交易文件数据，对其进行解析，并利用数据加载程序对解析后的数据进行加载，完成全量数据同步。

本发明实施例提供的全量数据同步方法，通过将解析出的数据框架先发送到目标端，再将事务数据发送到目标端，从而提升了数据库同步效率，降低数据库的资源占用率，最大限度的减少了人工干预，实现了不停机、不停业务、不修改数据库原有参数，一键化的全量数据同步功能，满足了迁移、查询分离、本异地容灾、双活切换、双活复制等应用。

图5为本发明实施例提供的全量数据同步装置的结构示意图，如图5所示，所述装置包括：读取文件模块10、发送数据框架模块20、发送事务数据模块30和加载文件模块40，其中：

读取文件模块10用于读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

发送数据框架模块20用于通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

发送事务数据模块30用于通过交易文件的形式发送所述事务数据发送到数据接收端；

加载文件模块40用于所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

具体地，读取文件模块10读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；发送数据框架模块20通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；发送事务数据模块30通过交易文件的形式发送所述事务数据发送到数据接收端；加载文件模块40所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

本发明实施例提供的全量数据同步装置，通过将源数据库中解析出的数据框架先发送到目标数据库，再将装载在数据框架中的事务数据发送到目标数据库，实现源数据库和目标数据库的实时同步，不需要直接调用SQL语句来实现数据库的同步，利用本发明提升了数据库同步效率，减少数据库负载，降低数据库的资源占用率。可选地，所述读取文件模块，具体为：

采用直接路径导出方式，读取所述源数据库的数据文件；

根据读取的数据文件，通过查询***表得到所述数据字典，所述数据字典为创建对象的SQL语句；

根据读取的数据文件，通过查询所述***表得到所述数据库对象，所述数据库对象至少包括：表、索引、视图、触发器；

通过直接路径导出方式，从所读取的数据文件将所述事务数据导出。

具体地，采用直接路径导出的方式，读取所述源数据库的数据文件；

针对所读取的数据文件，通过查询***表(schema.sys)得到数据字典，用于描述表的定义的xf1/xdt结构，创建建表的SQL语句；

通过查询***表得到数据库对象，所述数据库对象至少包括：

a.表信息：schema，表名，内部标识，表空间等等。

b.字段信息：字段名，类型，精度等等。

c.LOB字段可以保存到不同的表空间，因此需要一些专门的信息：内部标识，表空间，存储格式(basic/secure-file)等等。

d.表相关的数据库对象，如索引等。

e.分区信息：分区类型，分区界线等。

f.数据段信息。

通过直接路径导出方式，将所述事务数据导出。事务数据导出是全量数据同步的主要功能，也是最费时的一部分。

本发明实施例提供的全量数据同步装置，通过将源数据库中解析出的数据框架先发送到目标数据库，再将装载在数据框架中的事务数据发送到目标数据库，实现源数据库和目标数据库的实时同步，不需要直接调用SQL语句来实现数据库的同步，利用本发明提升了数据库同步效率，减少数据库负载，降低数据库的资源占用率，最大限度的减少了人工干预，实现了不停机、不停业务、不修改数据库原有参数，一键化的全量数据同步功能，满足了迁移、查询分离、本异地容灾、双活切换、双活复制等应用。

可选地，所述加载文件模块，具体为：

接收所述源数据库以交易文件形式发送的所述数据框架和所述事务数据；

所接收到的交易文件存储在磁盘中，将所述磁盘中的交易文件解析为SQL语句，所述数据框架和事务数据按顺序加载到所述目标数据库中。

具体地，源数据库将数据字典、数据库对象和事务数据导出，并且以交易文件的形式通过通信网络发送到目标数据库接收端，目标数据库接收端接收到源数据库发送的交易文件数据；并保存到磁盘文件中，目标数据库的数据装载程序从磁盘读取队列中的交易文件，使用数据库应用程序接口装载到目标数据库中。

具体地，对磁盘文件进行加载，具体为：将交易文件解析为SQL语句，将解析出的事务数据逐条或批量的***到目标数据库中，完成数据加载过程。

本发明实施例提供的全量数据同步装置，通过将解析出的数据框架先发送到目标端，再将事务数据发送到目标端，从而提升了数据库同步效率，降低数据库的资源占用率，最大限度的减少了人工干预，实现了不停机、不停业务、不修改数据库原有参数，一键化的全量数据同步功能，满足了迁移、查询分离、本异地容灾、双活切换、双活复制等应用。

图6本发明实施例提供的计算机设备的结构框图，如图6所示，所述计算机设备包括：处理器(processor)601、存储器(memory)602和总线603；

其中，所述处理器601和所述存储器602通过所述总线603完成相互间的通信；

所述处理器601用于调用所述存储器602中的程序指令，以执行上述各方法实施例所提供的方法，例如包括：

读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

通过交易文件的形式发送所述事务数据发送到数据接收端；

所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

本发明实施例公开一种计算机程序产品，所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，计算机能够执行上述各方法实施例所提供的方法，例如包括：

读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

通过交易文件的形式发送所述事务数据发送到数据接收端；

所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

本发明实施例提供一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行上述各方法实施例所提供的方法，例如包括：

读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

通过交易文件的形式发送所述事务数据发送到数据接收端；

所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。

以上所描述的装置以及***实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。

Claims (8)

1.一种全量数据的同步方法，其特征在于，包括：

读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

通过交易文件的形式发送所述事务数据发送到所述数据接收端；

所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步；

所述读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据，具体为：

采用直接路径导出方式，读取所述源数据库的数据文件；

根据读取的数据文件，通过查询***表得到所述数据字典，所述数据字典为创建对象的SQL语句；

根据读取的数据文件，通过查询所述***表得到所述数据库对象，所述数据库对象至少包括：表、索引、视图、触发器；

通过直接路径导出方式，从读取的数据文件中将所述事务数据导出。

2.根据权利要求1所述的方法，其特征在于，所述交易文件形式为数据转换过程中的一种内部数据格式，具体为：xf1/xdt数据形式。

3.根据权利要求1所述的方法，其特征在于，所述通过直接路径导出方式，将所述事务数据导出，具体为：

解析所述事务数据的数据段的起始数据块，得到数据块簇信息；

根据所述数据块簇信息，逐块解析出所述数据块中的事务数据并导出。

4.根据权利要求1所述的方法，其特征在于，所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步，具体为：

接收所述源数据库以交易文件形式发送的所述数据框架和所述事务数据；

所接收到的交易文件存储在磁盘中，将所述磁盘中的交易文件解析为SQL语句，所述数据框架和事务数据按顺序加载到所述目标数据库中。

5.一种全量数据的同步装置，其特征在于，包括：

读取文件模块，用于读取源数据库的数据文件，并解析出所述数据文件的数据字典、数据库对象和事务数据；

发送数据框架模块，用于通过交易文件的形式发送所述数据字典与所述数据库对象构成的数据框架到目标数据库的数据接收端；

发送事务数据模块，用于通过交易文件的形式发送所述事务数据发送到数据接收端；

加载文件模块，用于所述数据接收端将接收到的所述数据框架和事务数据按顺序装载到目标数据库中，实现所述源数据库和所述目标数据库的同步；

所述读取文件模块，具体为：

采用直接路径导出方式，读取所述源数据库的数据文件；

根据读取的数据文件，通过查询***表得到所述数据字典，所述数据字典为创建对象的SQL语句；

根据读取的数据文件，通过查询所述***表得到所述数据库对象，所述数据库对象至少包括：表、索引、视图、触发器；

通过直接路径导出方式，从读取的数据文件中将所述事务数据导出。

6.根据权利要求5所述的装置，其特征在于，所述加载文件模块，具体为：

接收所述源数据库以交易文件形式发送的所述数据框架和所述事务数据；

所接收到的交易文件存储在磁盘中，将所述磁盘中的交易文件解析为SQL语句，所述数据框架和事务数据按顺序加载到所述目标数据库中。

7.一种计算机设备，其特征在于，包括存储器和处理器，所述处理器和所述存储器通过总线完成相互间的通信；所述存储器存储有可被所述处理器执行的程序指令，所述处理器调用所述程序指令能够执行如权利要求1至4任一所述的方法。

8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1至4任一所述的方法。

Images