CN109284335A - 一种跨数据库批量传导数据的方法与装置 - Google Patents

Abstract

本发明公开了一种跨数据库批量传导数据的方法与装置，包括：对第一数据库中待传导的数据分段，依次生成多个数据切片；在每个数据切片被生成后，立即将该数据切片导出到内存中；当内存中存在的数据切片达到指定数量时，将数据切片并行地同时导入第二数据库。本发明的技术方案能够针对不同数据或不同类型的数据进行跨数据库批量传导，提高数据批量传输效率，降低传输时间。

Description

一种跨数据库批量传导数据的方法与装置

技术领域

本发明涉及数据传输领域，并且更具体地，特别是涉及一种跨数据库批量传导数据的方法与装置。

背景技术

现有技术中最常用的大数据搜索引擎是ElasticSearch(ES)，加载进ES的数据可以快速地被搜索和查询。ES数据来源之一是从关系型数据库(如K-DB数据库)。现有技术中缺乏将数据从K-DB快速批量载入ES的方案。现有技术是把数据从K-DB数据库查询出并生成数据文件(即所谓的文件落地)，再把落地的数据文件导入ES中，由于导入是全量导入，在数据量大时导入效率较低。

针对现有技术中缺乏跨数据库快速批量传导数据方法的问题，目前尚未有有效的解决方案。

发明内容

有鉴于此，本发明实施例的目的在于提出一种跨数据库批量传导数据的方法与装置，能够针对不同数据或不同类型的数据进行跨数据库批量传导，提高数据批量传输效率，降低传输时间。

基于上述目的，本发明实施例的一方面提供了一种跨数据库批量传导数据的方法，包括以下步骤：

对第一数据库中待传导的数据分段，依次生成多个数据切片；

在每个数据切片被生成后，立即将该数据切片导出到内存中；

当内存中存在的数据切片达到指定数量时，将数据切片并行地同时导入第二数据库。

在一些实施方式中，将数据切片并行地同时导入第二数据库包括：将该指定数量的数据切片并行地同时导入第二数据库。

在一些实施方式中，对第一数据库中待传导的数据分段包括：获取数据切片阈值，并将传导的数据按照数据切片阈值来分割成指定大小的多个数据切片。

在一些实施方式中，将数据切片存储在内存的缓冲区中，并且不为数据切片生成相应的切片文件。

在一些实施方式中，将数据切片并行地同时导入第二数据库包括：将内存中的所有数据切片并行地同时导入第二数据库。

在一些实施方式中，在第一数据库依次生成多个数据切片时，每两个相邻的数据切片之间具有生成时间间隔。

在一些实施方式中，第一数据库为关系型数据库K-DB；第二数据库为ElasticSearch搜索引擎的数据库。

在一些实施方式中，对K-DB数据库中待传导的数据使用shell脚本进行分段；将内存中的多个数据切片使用bulk导入ElasticSearch搜索引擎的数据库。

本发明实施例的另一方面，还提供了一种跨数据库批量传导数据的装置，包括：

第一数据库；

第二数据库；

内存；

存储器，存储有可运行的程序代码；

至少一个处理器，在运行存储器存储的程序代码时执行上述跨数据库批量传导数据的方法，以将数据从第一数据库通过内存而传导到第二数据库。

本发明实施例的另一方面，还提供了一种数据库，包括：

存储器，存储有可运行的程序代码；

至少一个处理器，在运行存储器存储的程序代码时能够通过执行上述跨数据库批量传导数据的方法来批量传导数据。

本发明具有以下有益技术效果：本发明实施例提供的跨数据库批量传导数据的方法与装置，通过对第一数据库中待传导的数据分段，依次生成多个数据切片，在每个数据切片被生成后，立即将该数据切片导出到内存中，当内存中存在的数据切片达到指定数量时，将数据切片并行地同时导入第二数据库的技术方案，能够针对不同数据或不同类型的数据进行跨数据库批量传导，提高数据批量传输效率，降低传输时间。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明提供的跨数据库批量传导数据的方法的流程示意图；

图2为本发明提供的跨数据库批量传导数据的方法的实施例的数据传送示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明实施例进一步详细说明。

需要说明的是，本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称非相同的实体或者非相同的参量，可见“第一”“第二”仅为了表述的方便，不应理解为对本发明实施例的限定，后续实施例对此不再一一说明。

基于上述目的，本发明实施例的第一个方面，提出了一种能够针对不同数据或不同类型的数据进行跨数据库批量传导的方法的实施例。图1示出的是本发明提供的跨数据库批量传导数据的方法的实施例的流程示意图。

所述跨数据库批量传导数据的方法包括以下步骤：

步骤S101，对第一数据库中待传导的数据分段，依次生成多个数据切片；

步骤S103，在每个数据切片被生成后，立即将该数据切片导出到内存中；

步骤S105，当内存中存在的数据切片达到指定数量时，将数据切片并行地同时导入第二数据库。

本发明通过JDBC方式把数据从第一数据库导出到内存，在导出的同时对数据进行切片，同时对切片的数据批量并行导入第二数据库，实现数据快速传导的目的。JDBC是一种用于执行SQL语句的Java应用程序接口(API)，包括用Java语言编写的类和接口，JDBC可以为多种关系数据库提供统一访问。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(ROM)或随机存储记忆体(RAM)等。所述计算机程序的实施例，可以达到与之对应的前述任意方法实施例相同或者相类似的效果。

在一些实施方式中，当内存中存在多个数据切片时，将多个数据切片并行地同时导入第二数据库。

在一些实施方式中，对第一数据库中待传导的数据分段包括：获取数据切片阈值，并将传导的数据按照数据切片阈值来分割成指定大小的多个数据切片。数据切片阈值可以是数据条数，例如可以每1万条数据就形成一个数据切片。

根据本发明实施例公开的方法还可以被实现为由CPU执行的计算机程序，该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被CPU执行时，执行本发明实施例公开的方法中限定的上述功能。上述方法步骤也可以利用控制器以及用于存储使得控制器实现上述步骤的计算机程序的计算机可读存储介质实现。

在一些实施方式中，将数据切片存储在内存的缓冲区中，并且不为数据切片生成相应的切片文件。数据切片在内存中以JSON格式存储，JSON格式是ElasticSearch默认的数据格式。

本文所述的计算机可读存储介质(例如内存的缓冲区)可以是易失性存储器或非易失性存储器，或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的，非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦写可编程ROM(EEPROM)或快闪存储器。易失性存储器可以包括随机存取存储器(RAM)，该RAM可以充当外部高速缓存存储器。作为例子而非限制性的，RAM可以以多种形式获得，比如同步RAM(DRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据速率SDRAM(DDRSDRAM)、增强SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)、以及直接Rambus RAM(DRRAM)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。

在一些实施方式中，将数据切片并行地同时导入第二数据库包括：将指定数量的数据切片并行地同时导入第二数据库。在另外一些实施方式中，将数据切片并行地同时导入第二数据库包括：将内存中的所有数据切片并行地同时导入第二数据库。

在一些实施方式中，在第一数据库依次生成多个数据切片时，每两个相邻的数据切片之间具有生成时间间隔。时间间隔这个时间间隔由第一数据库这一方的处理速度决定。

结合这里的公开所描述的方法或算法的步骤可以直接包含在硬件中、由处理器执行的软件模块中或这两者的组合中。软件模块可以驻留在RAM存储器、快闪存储器、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动盘、CD-ROM、或本领域已知的任何其它形式的存储介质中。示例性的存储介质被耦合到处理器，使得处理器能够从该存储介质中读取信息或向该存储介质写入信息。在一个替换方案中，所述存储介质可以与处理器集成在一起。处理器和存储介质可以驻留在ASIC中。ASIC可以驻留在用户终端中。在一个替换方案中，处理器和存储介质可以作为分立组件驻留在用户终端中。

在一些实施方式中，第一数据库为关系型数据库K-DB；第二数据库为ElasticSearch搜索引擎的数据库。K-DB是浪潮自研的国产关系型数据库，功能类似于oracle数据库。ElasticSearch是Java语言开发的企业级搜索引擎，用于在云计算中实时搜索，稳定、可靠、快速、安装使用方便。

在一些实施方式中，对K-DB数据库中待传导的数据使用shell脚本进行分段；将内存中的多个数据切片使用bulk导入ElasticSearch搜索引擎的数据库。SHELL是LINUX操作***的执行语言的相关操作***命令的集合。Bulk方式是一种批量方式，即数据的导入方式不是采用一条数据导入一次，而是采用多条数据同时导入。

如图2所示，内存采用JDBC方式连接到K-DB数据库，执行SQL语句，查询想要的数据以确定待传送的数据。在确定数据的同时执行SHELL脚本，按照既定要求(例如每1万条数据)生成数据切片。待数据切片数量或总大小到达一定阈值后，采用Bulk方式批量导入数据，并行的把数据切片的数据导入到ES中。生成数据切片、导出数据切片、和导入数据切片的工作是同时进行的。

结合这里的公开所描述的各种示例性数据库可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性，已经就各种示意性数据库的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个***的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现所述的功能，但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。

从上述实施例可以看出，本发明实施例提供的跨数据库批量传导数据的方法，通过对第一数据库中待传导的数据分段，依次生成多个数据切片，在每个数据切片被生成后，立即将该数据切片导出到内存中，当内存中存在的数据切片达到指定数量时，将数据切片并行地同时导入第二数据库的技术方案，能够针对不同数据或不同类型的数据进行跨数据库批量传导，提高数据批量传输效率，降低传输时间。

需要特别指出的是，上述跨数据库批量传导数据的方法的各个实施例中的各个步骤均可以相互交叉、替换、增加、删减，因此，这些合理的排列组合变换之于跨数据库批量传导数据的方法也应当属于本发明的保护范围，并且不应将本发明的保护范围局限在所述实施例之上。

基于上述目的，本发明实施例的第二个方面，提出了一种能够针对不同数据或不同类型的数据进行跨数据库批量传导的装置的实施例。所述装置包括：

第一数据库；

第二数据库；

内存；

存储器，存储有可运行的程序代码；

至少一个处理器，在运行存储器存储的程序代码时执行上述跨数据库批量传导数据的方法将数据从第一数据库通过内存而传导到第二数据库。

本发明实施例公开所述的装置、设备等可为各种电子终端设备，例如手机、个人数字助理(PDA)、平板电脑(PAD)、智能电视等，也可以是大型终端设备，如服务器等，因此本发明实施例公开的保护范围不应限定为某种特定类型的装置、设备。本发明实施例公开所述的客户端可以是以电子硬件、计算机软件或两者的组合形式应用于上述任意一种电子终端设备中。

基于上述目的，本发明实施例的第三个方面，提出了一种能够针对不同数据或不同类型的数据进行跨数据库批量传导的数据库的实施例。数据库包括存储有可运行的程序代码的存储器、以及至少一个处理器，处理器在运行存储器存储的程序代码时能够通过执行上述跨数据库批量传导数据的方法来批量传导数据。

结合这里的公开所描述的各种示例性数据库可以利用被设计成用于执行这里所述功能的下列部件来实现或执行：通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。通用处理器可以是微处理器，但是可替换地，处理器可以是任何传统处理器、控制器、微控制器或状态机。处理器也可以被实现为计算设备的组合，例如，DSP和微处理器的组合、多个微处理器、一个或多个微处理器结合DSP和/或任何其它这种配置。

从上述实施例可以看出，本发明实施例提供的跨数据库批量传导数据的装置和数据库，通过对第一数据库中待传导的数据分段，依次生成多个数据切片，在每个数据切片被生成后，立即将该数据切片导出到内存中，当内存中存在的数据切片达到指定数量时，将数据切片并行地同时导入第二数据库的技术方案，能够针对不同数据或不同类型的数据进行跨数据库批量传导，提高数据批量传输效率，降低传输时间。

需要特别指出的是，上述跨数据库批量传导数据的装置和数据库的实施例采用了所述跨数据库批量传导数据的方法的实施例来具体说明各模块的工作过程，本领域技术人员能够很容易想到，将这些模块应用到所述跨数据库批量传导数据的方法的其他实施例中。当然，由于所述跨数据库批量传导数据的方法实施例中的各个步骤均可以相互交叉、替换、增加、删减，因此，这些合理的排列组合变换之于所述跨数据库批量传导数据的装置和数据库也应当属于本发明的保护范围，并且不应将本发明的保护范围局限在所述实施例之上。

以上是本发明公开的示例性实施例，但是应当注意，在不背离权利要求限定的本发明实施例公开的范围的前提下，可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外，尽管本发明实施例公开的元素可以以个体形式描述或要求，但除非明确限制为单数，也可以理解为多个。

应当理解的是，在本文中使用的，除非上下文清楚地支持例外情况，单数形式“一个”旨在也包括复数形式。还应当理解的是，在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。本发明实施例公开实施例序号仅仅为了描述，不代表实施例的优劣。

所属领域的普通技术人员应当理解：以上任何实施例的讨论仅为示例性的，并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子；在本发明实施例的思路下，以上实施例或者不同实施例中的技术特征之间也可以进行组合，并存在如上所述的本发明实施例的不同方面的许多其它变化，为了简明它们没有在细节中提供。因此，凡在本发明实施例的精神和原则之内，所做的任何省略、修改、等同替换、改进等，均应包含在本发明实施例的保护范围之内。

Claims (10)

1.一种跨数据库批量传导数据的方法，其特征在于，包括以下步骤：

对第一数据库中待传导的数据分段，依次生成多个数据切片；

在每个所述数据切片被生成后，立即将该所述数据切片导出到内存中；

当所述内存中存在的所述数据切片达到指定数量时，将所述数据切片并行地同时导入第二数据库。

2.根据权利要求1所述的方法，其特征在于，将所述数据切片并行地同时导入所述第二数据库包括：将所述指定数量的数据切片并行地同时导入第二数据库。

3.根据权利要求1所述的方法，其特征在于，对所述第一数据库中待传导的所述数据分段包括：获取数据切片阈值，并将传导的所述数据按照所述数据切片阈值来分割成指定大小的多个所述数据切片。

4.根据权利要求1所述的方法，其特征在于，将所述数据切片存储在所述内存的缓冲区中，并且不为所述数据切片生成相应的切片文件。

5.根据权利要求1所述的方法，其特征在于，将所述数据切片并行地同时导入所述第二数据库包括：将所述内存中的所有所述数据切片并行地同时导入所述第二数据库。

6.根据权利要求1所述的方法，其特征在于，在所述第一数据库依次生成多个所述数据切片时，每两个相邻的所述数据切片之间具有生成时间间隔。

7.根据权利要求1-6中任意一项所述的方法，其特征在于，所述第一数据库为关系型数据库K-DB；所述第二数据库为ElasticSearch搜索引擎的数据库。

8.根据权利要求7所述的方法，其特征在于，对所述K-DB数据库中待传导的数据使用shell脚本进行分段；将所述内存中的多个所述数据切片使用bulk导入所述ElasticSearch搜索引擎的数据库。

9.一种跨数据库批量传导数据的装置，其特征在于，包括：

第一数据库；

第二数据库；

内存；

存储器，存储有可运行的程序代码；

至少一个处理器，在运行所述存储器存储的所述程序代码时执行如权利要求1-8中任意一项所述的跨数据库批量传导数据的方法，以将数据从所述第一数据库通过所述内存而传导到所述第二数据库。

10.一种数据库，其特征在于，包括：

存储器，存储有可运行的程序代码；

至少一个处理器，在运行所述存储器存储的所述程序代码时能够通过执行如权利要求1-8中任意一项所述的跨数据库批量传导数据的方法来批量传导数据。