CN112905391A - 一种基于页写时复制的数据同步方法及*** - Google Patents

Abstract

本发明提出了一种基于页写时复制的数据同步方法及***，涉及数据备份领域。一种基于页写时复制的数据同步方法包括：初始化的***上注册基于ebpf实现的捕获inode的共享程序；基于页数据复制的驱动，在内核的页刷磁盘写操作地方进行hook，在direct直接IO的写地方进行hook；其能够通过两套机制得保护，真正意义上完备实现这种页写时复制的手段。同时对于海量小文件的场景，本方案的ebpf提供一种意外的收获，可以精确的捕获到那些小文件变化，同时可以避免传统扫描海量文件***时间戳检索文件变化情况。此外本发明还提出了一种基于页写时复制的数据同步***，包括：初始化模块、操作模块以及一致性模块。

Description

一种基于页写时复制的数据同步方法及***

技术领域

本发明涉及数据备份领域，具体而言，涉及一种基于页写时复制的数据同步方法及***。

背景技术

在数据备份领域离不开数据快照技术保护某个时间点的数据一致性，归纳而言业界有两个大的处理方式，一种标记技术、一种写时复制技术。其中标记技术是一种时间换空间，就是新写会写入新的空间进行引用标记，这种技术的实现，会带来很大的性能提升，但是随着数据的积累，频繁的写覆盖，数据的散落碎片化很严重，传统文件***设计的数据预读、相邻io合并等技术反而拖慢***，对应当前闪存等新存储介质是具备很高的优越性，但是备份领域的机械盘带来复杂的数据管理和性能问题。

另外一种写时复制技术，相对简单，但是每一次写会触发磁盘三次IO，极高的性能开销，延迟极其敏感的业务显得无力。本专利视图对上述两种快照技术的实现，提供一种更通用的设计思路，即基于内存页的写时复制，内存的数据复制拷贝开销远远低于基于磁盘IO的开销，同时几乎不会带来原始备份数据的开销。

发明内容

本发明的目的在于提供一种基于页写时复制的数据同步方法，其能够通过两套机制得保护，真正意义上完备实现这种页写时复制的手段。同时对于海量小文件的场景，本方案的ebpf提供一种意外的收获，可以精确的捕获到那些小文件变化，同时可以避免传统扫描海量文件***时间戳检索文件变化情况。

本发明的另一目的在于提供一种基于页写时复制的数据同步***，其能够运行一种基于页写时复制的数据同步方法。

本发明的实施例是这样实现的：

第一方面，本申请实施例提供一种基于页写时复制的数据同步方法，其包括初始化的***上注册基于ebpf实现的捕获inode的共享程序；基于页数据复制的驱动，在内核的页刷磁盘写操作地方进行hook，在direct直接IO的写地方进行hook；根据不同节点的页数据复制，保证数据内存层面的复制一致性。

在本发明的一些实施例中，上述初始化的***上注册基于ebpf实现的捕获inode的共享程序包括：捕获文件***inode的变化，以识别文件的size。

在本发明的一些实施例中，上述根据不同节点的页数据复制，保证数据内存层面的复制一致性包括：应用触发一次快照，后台进行页数据复制同步，页数据复制的驱动模块通过协调两个hook保证原子性；进行hook前的所有页进行对端通讯，把所有的页数据通过网络的方式传输到对端。

在本发明的一些实施例中，上述还包括：后端接收服务在处理完了页接收数据后，进行一次快照，形成一个数据副本，以此反复形成备份数据的页拷贝副本。

在本发明的一些实施例中，上述根据不同节点的页数据复制，保证数据内存层面的复制一致性包括：页数据复制驱动实现一个原子结构，进行读写屏障保障新的页刷新、direct-io会被排队，基于ebpf的inode数据块变化持续捕获。

在本发明的一些实施例中，上述还包括：页拷贝过程的中断，通过基于ebpf实现的捕获inode的一套共享程序，得到inode变化的块；通过用户态偏移文件IO进行读取，对远端复制数据覆盖，完成一致性。

在本发明的一些实施例中，上述根据不同节点的页数据复制，保证数据内存层面的复制一致性包括：通过ebpf实现的捕获inode的共享程序捞取变化的文件，进行变化的文件数据复制。

第二方面，本申请实施例提供一种基于页写时复制的数据同步***，其包括初始化模块，用于初始化的***上注册基于ebpf实现的捕获inode的共享程序；

操作模块，用于基于页数据复制的驱动模块，在内核的页刷磁盘写操作地方进行hook，在direct直接IO的写地方进行hook；

一致性模块，用于根据不同节点的页数据复制，保证数据内存层面的复制一致性。

在本发明的一些实施例中，上述包括：用于存储计算机指令的至少一个存储器；与上述存储器通讯的至少一个处理器，其中当上述至少一个处理器执行上述计算机指令时，上述至少一个处理器使上述***执行：初始化模块、操作模块以及一致性模块。

第三方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如一种基于页写时复制的数据同步方法中任一项的方法。

相对于现有技术，本发明的实施例至少具有如下优点或有益效果：

通过两套机制得保护，真正意义上完备实现这种页写时复制的手段。同时对于海量小文件的场景，本方案的ebpf提供一种意外的收获，可以精确的捕获到那些小文件变化，同时可以避免传统扫描海量文件***时间戳检索文件变化情况，对于数以千计的开销不明显，但是对于千万、上亿的文件来说，这种线性扫描极其耗时，并且这个过程又产生新的变化，无法真正的应用一致性复制，通过ebpf实现的捕获inode的一套共享程序可以捞取变化的文件，直接进行变化的文件数据复制，从而实现了零检索开销。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例提供的一种基于页写时复制的数据同步方法步骤示意图；

图2为本发明实施例提供的一种基于页写时复制的数据同步方法详细步骤示意图；

图3为本发明实施例提供的一种基于页写时复制的数据同步***模块示意图；

图4为本发明实施例提供的一种电子设备。

图标：10-初始化模块；20-操作模块；30-一致性模块。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

下面结合附图，对本申请的一些实施方式作详细说明。在不冲突的情况下，下述的各个实施例及实施例中的各个特征可以相互组合。

实施例1

请参阅图1，图1为本发明实施例提供的一种基于页写时复制的数据同步方法步骤示意图，其如下所示：

步骤S100，初始化的***上注册基于ebpf实现的捕获inode的共享程序；

在一些实施方式中，首先初始化的***上注册基于ebpf实现的捕获inode的一套共享程序，这为了实现零拷贝的方式来捕获文件***inode的变化，以识别文件的size，这对于小文件的数据同步又提供一种新的实现方式。

步骤S110，基于页数据复制的驱动，在内核的页刷磁盘写操作地方进行hook，在direct直接IO的写地方进行hook；

在一些实施方式中，基于页复制的驱动模块，在内核的页刷磁盘写操作地方进行hook、在direct直接IO的写地方进行hook，此两处的hook可以保证真真意义的写一致，从而实现应用的数据一致性。

步骤S120，根据不同节点的页数据复制，保证数据内存层面的复制一致性。

在一些实施方式中，快照一致性保证就是基于这两个hook的一致性保证。页复制模块，实现不同节点的页数据复制，保证数据内存层面的复制一致性，具体实现流程请参考实施例2。

实施例2

请参阅图2，图2为本发明实施例提供的一种基于页写时复制的数据同步方法详细步骤示意图，其如下所示：

步骤S200，捕获文件***inode的变化，以识别文件的size。

步骤S210，应用触发一次快照，后台进行页数据复制同步，页数据复制的驱动模块通过协调两个hook保证原子性；

步骤S220，进行hook前的所有页进行对端通讯，把所有的页数据通过网络的方式传输到对端。

步骤S230，后端接收服务在处理完了页接收数据后，进行一次快照，形成一个数据副本，以此反复形成备份数据的页拷贝副本。

步骤S240，页数据复制驱动实现一个原子结构，进行读写屏障保障新的页刷新、direct-io会被排队，基于ebpf的inode数据块变化持续捕获。

步骤S250，页拷贝过程的中断，通过基于ebpf实现的捕获inode的一套共享程序，得到inode变化的块；

步骤S260，通过用户态偏移文件IO进行读取，对远端复制数据覆盖，完成一致性。

步骤S270，通过ebpf实现的捕获inode的共享程序捞取变化的文件，进行变化的文件数据复制。

在一些实施方式中，BPF（Berkeley Packet Filter），中文翻译为伯克利包过滤器，是类Unix***上数据链路层的一种原始接口，提供原始链路层封包的收发。

在一些实施方式中，应用触发一次快照，后台进行页复制同步，页复制的驱动模块通过协调两个hook保证原子性，进行hook前的所有页进行对端通讯，把所有的页数据通过网络的方式传输到对端，后端接收服务在处理完了页接收数据后，进行一次快照，形成一个数据副本，以此反复形成备份数据的页拷贝副本。

页复制驱动模块实现了一个原子结构，进行读写屏障保障新的页刷新、direct io会被排队，因基于内存的数据拷贝极其快速，排队过程开销极低，对于突发流量情况提供一种异常数据补救，基于ebpf的inode数据块变化持续捕获，在上述页拷贝过程的中断，通过基于ebpf实现的捕获inode的一套共享程序，得到inode变化的块，通过用户态偏移文件IO进行读取，对远端复制数据覆盖，完成一致性。

通过两套机制得保护，真正意义上完备实现这种页写时复制的手段。同时对于海量小文件的场景，本方案的ebpf提供一种意外的收获，可以精确的捕获到那些小文件变化，同时可以避免传统扫描海量文件***时间戳检索文件变化情况，对于数以千计的开销不明显，但是对于千万、上亿的文件来说，这种线性扫描极其耗时，并且这个过程又产生新的变化，无法真正的应用一致性复制，通过ebpf实现的捕获inode的一套共享程序可以捞取变化的文件，直接进行变化的文件数据复制，从而实现了零检索开销。

实施例3

请参阅图3，图3为本发明实施例提供的一种基于页写时复制的数据同步***模块示意图，其如下所示：

初始化模块10，用于初始化的***上注册基于ebpf实现的捕获inode的共享程序；

操作模块20，用于基于页数据复制的驱动模块，在内核的页刷磁盘写操作地方进行hook，在direct直接IO的写地方进行hook；

一致性模块30，用于根据不同节点的页数据复制，保证数据内存层面的复制一致性。

如图4所示，本申请实施例提供一种电子设备，其包括存储器101，用于存储一个或多个程序；处理器102。当一个或多个程序被处理器102执行时，实现如上述第一方面中任一项的方法。

还包括通信接口103，该存储器101、处理器102和通信接口103相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。存储器101可用于存储软件程序及模块，处理器102通过执行存储在存储器101内的软件程序及模块，从而执行各种功能应用以及数据处理。该通信接口103可用于与其他节点设备进行信令或数据的通信。

其中，存储器101可以是但不限于，随机存取存储器101（Random Access Memory，RAM），只读存储器101（Read Only Memory，ROM），可编程只读存储器101（ProgrammableRead-Only Memory，PROM），可擦除只读存储器101（Erasable Programmable Read-OnlyMemory，EPROM），电可擦除只读存储器101（Electric Erasable Programmable Read-OnlyMemory，EEPROM）等。

处理器102可以是一种集成电路芯片，具有信号处理能力。该处理器102可以是通用处理器102，包括中央处理器102（Central Processing Unit，CPU）、网络处理器102（Network Processor，NP）等；还可以是数字信号处理器102（Digital Signal Processing，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field－Programmable Gate Array，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本申请所提供的实施例中，应该理解到，所揭露的方法及***和方法，也可以通过其它的方式实现。以上所描述的方法及***实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的方法及***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

另一方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器102执行时实现如上述第一方面中任一项的方法。所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器101（ROM，Read-Only Memory）、随机存取存储器101（RAM，RandomAccess Memory）、磁碟或者光盘等各种可以存储程序代码的介质。

综上所述，本申请实施例提供的一种基于页写时复制的数据同步方法及***，通过两套机制得保护，真正意义上完备实现这种页写时复制的手段。同时对于海量小文件的场景，本方案的ebpf提供一种意外的收获，可以精确的捕获到那些小文件变化，同时可以避免传统扫描海量文件***时间戳检索文件变化情况，对于数以千计的开销不明显，但是对于千万、上亿的文件来说，这种线性扫描极其耗时，并且这个过程又产生新的变化，无法真正的应用一致性复制，通过ebpf实现的捕获inode的一套共享程序可以捞取变化的文件，直接进行变化的文件数据复制，从而实现了零检索开销。

以上仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

对于本领域技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其它的具体形式实现本申请。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本申请的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

Claims (10)

1.一种基于页写时复制的数据同步方法，其特征在于，包括：

初始化的***上注册基于ebpf实现的捕获inode的共享程序；

基于页数据复制的驱动，在内核的页刷磁盘写操作地方进行hook，在direct直接IO的写地方进行hook；

根据不同节点的页数据复制，保证数据内存层面的复制一致性。

2.如权利要求1所述的一种基于页写时复制的数据同步方法，其特征在于，所述初始化的***上注册基于ebpf实现的捕获inode的共享程序包括：

捕获文件***inode的变化，以识别文件的size。

3.如权利要求1所述的一种基于页写时复制的数据同步方法，其特征在于，所述根据不同节点的页数据复制，保证数据内存层面的复制一致性包括：

应用触发一次快照，后台进行页数据复制同步，页数据复制的驱动模块通过协调两个hook保证原子性；

进行hook前的所有页进行对端通讯，把所有的页数据通过网络的方式传输到对端。

4.如权利要求3所述的一种基于页写时复制的数据同步方法，其特征在于，还包括：

后端接收服务在处理完了页接收数据后，进行一次快照，形成一个数据副本，以此反复形成备份数据的页拷贝副本。

5.如权利要求1所述的一种基于页写时复制的数据同步方法，其特征在于，所述根据不同节点的页数据复制，保证数据内存层面的复制一致性包括：

页数据复制驱动实现一个原子结构，进行读写屏障保障新的页刷新、direct-io会被排队，基于ebpf的inode数据块变化持续捕获。

6.如权利要求5所述的一种基于页写时复制的数据同步方法，其特征在于，还包括：

页拷贝过程的中断，通过基于ebpf实现的捕获inode的一套共享程序，得到inode变化的块；

通过用户态偏移文件IO进行读取，对远端复制数据覆盖，完成一致性。

7.如权利要求1所述的一种基于页写时复制的数据同步方法，其特征在于，所述根据不同节点的页数据复制，保证数据内存层面的复制一致性包括：

通过ebpf实现的捕获inode的共享程序捞取变化的文件，进行变化的文件数据复制。

8.一种基于页写时复制的数据同步***，其特征在于，包括：

初始化模块，用于初始化的***上注册基于ebpf实现的捕获inode的共享程序；

操作模块，用于基于页数据复制的驱动模块，在内核的页刷磁盘写操作地方进行hook，在direct直接IO的写地方进行hook；

一致性模块，用于根据不同节点的页数据复制，保证数据内存层面的复制一致性。

9.如权利要求8所述的一种基于页写时复制的数据同步***，其特征在于，包括：

用于存储计算机指令的至少一个存储器；

与所述存储器通讯的至少一个处理器，其中当所述至少一个处理器执行所述计算机指令时，所述至少一个处理器使所述***执行：初始化模块、操作模块以及一致性模块。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。

Images