CN109617964B - 基于区块链的大数据存储方法及装置 - Google Patents

Abstract

本发明实施例涉及数据存储技术领域，具体而言，涉及一种基于区块链的大数据存储方法及装置，该方法能够根据区块的存储容量将待存储大数据“拆分”为第一上链数据和第一非上链数据，当第一上链数据的第一数据容量满足存储容量要求时，对第一上链数据和第一非上链数据进行加密，并将第一上链数据存储至区块，如此，能够实现大数据在区块链中的存储，改善了大数据上链存储的限制。

Description

基于区块链的大数据存储方法及装置

技术领域

本发明实施例涉及数据存储技术领域，具体而言，涉及一种基于区块链的大数据存储方法及装置。

背景技术

区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式，具有去中心化、开放和不可篡改等特点。而大数据这一重要信息资产在现代信息社会中起着重要的作用，因此，将大数据与区块链进行结合具有深远的意义。但是，由于自身的实现原理的限制，区块链并不支持大数据的存储。

发明内容

有鉴于此，本发明提供了一种基于区块链的大数据存储方法及装置。

本发明实施例提供了一种基于区块链的大数据存储方法，应用于服务端，所述方法包括：

获取区块的存储容量；

提取待存储大数据中的第一摘要数据，将所述第一摘要数据作为第一上链数据，将所述待存储大数据中除所述第一摘要数据以外的数据作为第一非上链数据；

获取所述第一上链数据的第一数据容量；

判断所述第一数据容量是否超过所述存储容量，若所述第一数据容量不超过所述存储容量，对所述第一上链数据和所述第一非上链数据进行加密，将完成加密的第一上链数据存储至所述区块。

可选地，所述方法还包括：

若所述第一数据容量超过所述存储容量，从所述第一摘要数据中提取第二摘要数据，将所述第二摘要数据作为第二上链数据，将所述待存储大数据中除所述第二摘要数据以外的数据作为第二非上链数据；

获取所述第二上链数据的第二数据容量；

判断所述第二数据容量是否超过所述存储容量，若所述第二数据容量不超过所述存储容量，对所述第二上链数据和所述第二非上链数据进行加密，将完成加密的第二上链数据存储至所述区块。

可选地，从所述第一摘要数据中提取第二摘要数据的步骤，包括：

获取所述第一摘要数据中的每个元数据的优先级；

按照优先级由高到低的顺序选取所述第一摘要数据中的预设数量个元数据作为所述第二摘要数据。

可选地，从所述第一摘要数据中提取第二摘要数据的步骤，包括：

获取所述第一摘要数据中的每个元数据的字段名；

针对获取得到的每个字段名，在预设字段名数据库中查找是否存在与该字段名对应的设定字段名，若存在，提取该字段名所对应的元数据；

将提取得到至少一个元数据作为所述第二摘要数据。

可选地，对所述第一上链数据和所述第一非上链数据进行加密的步骤，包括：

根据所述第一上链数据生成公共密钥；

根据所述第一非上链数据生成私有密钥；

建立所述公共密钥与所述私有密钥的对应关系，其中，所述对应关系唯一。

本发明实施例还提供了一种基于区块链的大数据存储装置，应用于服务端，所述装置包括：

存储容量获取模块，用于获取区块的存储容量；

摘要数据提取模块，用于提取待存储大数据中的第一摘要数据，将所述第一摘要数据作为第一上链数据，将所述待存储大数据中除所述第一摘要数据以外的数据作为第一非上链数据；

数据容量获取模块，用于获取所述第一上链数据的第一数据容量；

上链模块，用于判断所述第一数据容量是否超过所述存储容量，若所述第一数据容量不超过所述存储容量，对所述第一上链数据和所述第一非上链数据进行加密，将完成加密的第一上链数据存储至所述区块。

可选地，所述上链模块还用于若所述第一数据容量超过所述存储容量，从所述第一摘要数据中提取第二摘要数据，将所述第二摘要数据作为第二上链数据，将所述待存储大数据中除所述第二摘要数据以外的数据作为第二非上链数据；所述数据容量获取模块还用于获取所述第二上链数据的第二数据容量；所述上链模块还用于判断所述第二数据容量是否超过所述存储容量，若所述第二数据容量不超过所述存储容量，对所述第二上链数据和所述第二非上链数据进行加密，将完成加密的第二上链数据存储至所述区块。

可选地，所述上链模块通过以下步骤从所述第一摘要数据中提取第二摘要数据：

获取所述第一摘要数据中的每个元数据的优先级；

按照优先级由高到低的顺序选取所述第一摘要数据中的预设数量个元数据作为所述第二摘要数据。

可选地，所述上链模块通过以下步骤从所述第一摘要数据中提取第二摘要数据：

获取所述第一摘要数据中的每个元数据的字段名；

针对获取得到的每个字段名，在预设字段名数据库中查找是否存在与该字段名对应的设定字段名，若存在，提取该字段名所对应的元数据；

将提取得到至少一个元数据作为所述第二摘要数据。

可选地，所述上链模块通过以下步骤对所述第一上链数据和所述第一非上链数据进行加密：

根据所述第一上链数据生成公共密钥；

根据所述第一非上链数据生成私有密钥；

建立所述公共密钥与所述私有密钥的对应关系，其中，所述对应关系唯一。

本发明实施例还提供了一种服务端，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述的基于区块链的大数据存储方法。

本发明实施例还提供了一种计算机可读存储介质，所述可读存储介质包括计算机程序，所述计算机程序运行时控制所述可读存储介质所在服务端执行上述的基于区块链的大数据存储方法。

有益效果

本发明实施例提供的基于区块链的大数据存储方法及装置，能够根据区块的存储容量将待存储大数据“拆分”为第一上链数据和第一非上链数据，当第一上链数据的第一数据容量满足存储容量要求时，对第一上链数据和第一非上链数据进行加密，并将第一上链数据存储至区块，如此，能够实现大数据在区块链中的存储，改善了大数据上链存储的限制。此外，第一上链数据和第一非上链数据均进行了加密，保证了待存储大数据的不可篡改性，使得大数据也能够拥有与区块链相同的特点。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例所提供的一种服务端10的方框示意图。

图2为本发明实施例所提供的一种基于区块链的大数据存储方法的流程图。

图3为本发明实施例所提供的一种基于区块链的大数据存储的原理图。

图4为本发明实施例所提供的一种基于区块链的大数据存储装置20的模块框图。

图标：

10-服务端；11-存储器；12-处理器；13-网络模块；

20-基于区块链的大数据存储装置；21-存储容量获取模块；22-摘要数据提取模块；23-数据容量获取模块；24-上链模块。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例只是本发明的一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。

发明人经调查发现，由于区块链本身的特性，难以实现大数据的全部上链存储。

以上现有技术中的方案所存在的缺陷，均是发明人在经过实践并仔细研究后得出的结果，因此，上述问题的发现过程以及下文中本发明实施例针对上述问题所提出的解决方案，都应该是发明人在本发明过程中对本发明做出的贡献。

基于上述研究，本发明实施例提供了一种基于区块链的大数据存储方法及装置，将大数据拆分后再实现上链存储，改善了大数据上链存储的限制。

图1示出了本发明实施例所提供的一种服务端10的方框示意图。本发明实施例中的服务端10具有数据存储、传输、处理功能，如图1所示，服务端10包括：存储器11、处理器12、网络模块13和基于区块链的大数据存储装置20。

存储器11、处理器12和网络模块13之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件互相之间可以通过一条或多条通讯总线或信号线实现电性连接。存储器11中存储有基于区块链的大数据存储装置20，所述基于区块链的大数据存储装置20包括至少一个可以软件或固件(firmware)的形式储存于所述存储器11中的软件功能模块，所述处理器12通过运行存储在存储器11内的软件程序以及模块，例如本发明实施例中的基于区块链的大数据存储装置20，从而执行各种功能应用以及数据处理，即实现本发明实施例中的基于区块链的大数据存储方法。

其中，所述存储器11可以是，但不限于，随机存取存储器(Random Access Memory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(Programmable Read-OnlyMemory，PROM)，可擦除只读存储器(Erasable Programmable Read-Only Memory，EPROM)，电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory，EEPROM)等。其中，存储器11用于存储程序，所述处理器12在接收到执行指令后，执行所述程序。

所述处理器12可能是一种集成电路芯片，具有数据的处理能力。上述的处理器12可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等。可以实现或者执行本发明实施例中公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

网络模块13用于通过网络建立服务端10与其他通信终端设备之间的通信连接，实现网络信号及数据的收发操作。上述网络信号可包括无线信号或者有线信号。

可以理解，图1所示的结构仅为示意，服务端10还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。

本发明实施例还提供一种计算机可读存储介质，所述可读存储介质包括计算机程序。所述计算机程序运行时控制所述可读存储介质所在服务端10执行下面的基于区块链的大数据存储方法。

图2示出了本发明实施例所提供的一种基于区块链的大数据存储方法的流程图。所述方法有关的流程所定义的方法步骤应用于服务端10，可以由所述处理器12实现。下面将对图2所示的具体流程进行详细阐述：

步骤S21，获取区块的存储容量。

可以理解，由于区块链网络是由一个个的区块构成，鉴于全网存储与分布式账本的原理，每个区块的存储容量都比较小。例如，即使运营了10年的比特币，总存储容量也不超过200G。

而大数据的容量远远超过区块的存储容量，为了能够实现大数据上链，需要对区块的存储容量进行分析。

在本实施例中，区块的存储容量为Z₀。

步骤S22，提取待存储大数据中的第一摘要数据，将第一摘要数据作为第一上链数据，将待存储大数据中除第一摘要数据以外的数据作为第一非上链数据。

例如，待存储大数据为data，提取出的第一摘要数据为data_a1。

则第一上链数据为data_a1，第一非上链数据为data-data_a1。

步骤S23，获取第一上链数据的第一数据容量。

例如，data_a1的数据容量为Z₁。

步骤S24，判断第一数据容量是否超过存储容量。

可以理解，大数据的数据容量远大于区块的存储容量，即使是大数据的摘要数据，其数据容量也可能大于区块的存储容量，为了使大数据的能够成功上链，需要对Z₁进行判断。

若Z₁不超过Z₀，转向步骤S25。

若Z₁超过Z₀，转向步骤S26。

步骤S25，对第一上链数据和第一非上链数据进行加密，将完成加密的第一上链数据存储至区块。

可以理解，若Z₁不超过Z₀，将data_a1和data-data_a1分别进行加密，然后将完成加密的data_a1存储至区块。

通过上述方法，能够将data进行拆分，data_a1作为data的摘要数据，能够很好地反映出data的特性，如此，满足了大数据上链的存储方式。

进一步地，对data_a1和data-data_a1分别进行加密能够保证大数据具有区块链的不可篡改性。

例如，请结合参阅图3，根据data_a1生成公共密钥k_1c，根据data-data_a1生成私有密钥k_1s，并建立公共密钥k_1c和私有密钥k_1s的对应关系，其中，该对应关系唯一。如此，能够保证大数据的不可篡改性。

具体地，data_a1存储于区块链，因此具有不可篡改性。根据data-data_a1生成的私有密钥k_1s也唯一，因此，只有在data-data_a1不被篡改的情况下，公共密钥k_1c和私有密钥k_1s才能匹配，进而实现data_a1与data-data_a1的拼接验证。又例如，若data-data_a1被篡改为data-data_a1-1，则data-data_a1-1生成的私有密钥为k，此时，k_1c与k无法通过拼接验证。

因此，本实施例将大数据进行“拆分”并进行存储，解决了大数据上链存储的限制，同时，加密操作能够保证大数据的不可篡改性，使得大数据能够拥有与区块链相同的特性。

可以理解，第一非上链数据数据容量较大，可以存储在常规的大数据存储平台中。

步骤S26，从第一摘要数据中提取第二摘要数据，将第二摘要数据作为第二上链数据，将待存储大数据中除第二摘要数据以外的数据作为第二非上链数据。

可以理解，若Z₁超过Z₀，表明data_a1的数据容量仍然过大，此时需要对data_a1进行进一步简化，具体地，从data_a1中提取第二摘要数据，将第二摘要数据作为第二上链数据data_a2，将data-data_a2作为第二非上链数据。

可选地，从data_a1中提取data_a2可以通过两种方法进行。

一种方法是获取data_a1中的每个元数据的优先级，按照优先级由高到低的顺序选取data_a1中的预设数量个元数据作为data_a2。

另一种方法是获取data_a1的每个元数据的字段名，针对获取得到的每个字段名，在预设字段名数据库中查找是否存在与该字段名对应的设定字段名，若存在，提取该字段名所对应的元数据，将提取得到至少一个元数据作为data_a2。

其中设定字段名可以由用户自行编辑。

步骤S27，获取第二上链数据的第二数据容量，根据第二数据容量与存储容量的比较结果进行对应操作。

获取data_a2的第二数据容量Z₂，根据Z₂与Z₀的关系继续进行判断，直到提取出的摘要数据的数据容量小于Z₀为止，然后按照步骤S25的方式进行存储。

可选地，对数据进行加密的方式也可以采用非对称加密。

在上述基础上，如图4所示，本发明实施例提供了一种基于区块链的大数据存储装置20，所述基于区块链的大数据存储装置20包括：存储容量获取模块21、摘要数据提取模块22、数据容量获取模块23和上链模块24。

存储容量获取模块21，用于获取区块的存储容量。

由于存储容量获取模块21和图2中步骤S21的实现原理类似，因此在此不作更多说明。

摘要数据提取模块22，用于提取待存储大数据中的第一摘要数据，将所述第一摘要数据作为第一上链数据，将所述待存储大数据中除所述第一摘要数据以外的数据作为第一非上链数据。

由于摘要数据提取模块22和图2中步骤S22的实现原理类似，因此在此不作更多说明。

数据容量获取模块23，用于获取所述第一上链数据的第一数据容量。

由于数据容量获取模块23和图2中步骤S23的实现原理类似，因此在此不作更多说明。

上链模块24，用于判断所述第一数据容量是否超过所述存储容量，若所述第一数据容量不超过所述存储容量，对所述第一上链数据和所述第一非上链数据进行加密，将完成加密的第一上链数据存储至所述区块。

由于上链模块24和图2中步骤S24、步骤S25、步骤S26和步骤S27的实现原理类似，因此在此不作更多说明。

综上，本发明实施例所提供的基于区块链的存储方法及装置，能够改善大数据上链存储的限制。

在本发明实施例所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置和方法实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务端10，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于区块链的大数据存储方法，其特征在于，应用于服务端，所述方法包括：

获取区块的存储容量；

提取待存储大数据中的第一摘要数据，将所述第一摘要数据作为第一上链数据，将所述待存储大数据中除所述第一摘要数据以外的数据作为第一非上链数据；

获取所述第一上链数据的第一数据容量；

判断所述第一数据容量是否超过所述存储容量，若所述第一数据容量不超过所述存储容量，对所述第一上链数据和所述第一非上链数据进行加密，将完成加密的第一上链数据存储至所述区块；

所述方法还包括：

若所述第一数据容量超过所述存储容量，从所述第一摘要数据中提取第二摘要数据，将所述第二摘要数据作为第二上链数据，将所述待存储大数据中除所述第二摘要数据以外的数据作为第二非上链数据；

获取所述第二上链数据的第二数据容量；

判断所述第二数据容量是否超过所述存储容量，若所述第二数据容量不超过所述存储容量，对所述第二上链数据和所述第二非上链数据进行加密，将完成加密的第二上链数据存储至所述区块；

从所述第一摘要数据中提取第二摘要数据的步骤，包括：

获取所述第一摘要数据中的每个元数据的字段名；

针对获取得到的每个字段名，在预设字段名数据库中查找是否存在与该字段名对应的设定字段名，若存在，提取该字段名所对应的元数据；

将提取得到至少一个元数据作为所述第二摘要数据。

2.根据权利要求1所述的基于区块链的大数据存储方法，其特征在于，从所述第一摘要数据中提取第二摘要数据的步骤，包括：

获取所述第一摘要数据中的每个元数据的优先级；

按照优先级由高到低的顺序选取所述第一摘要数据中的预设数量个元数据作为所述第二摘要数据。

3.根据权利要求1所述的基于区块链的大数据存储方法，其特征在于，对所述第一上链数据和所述第一非上链数据进行加密的步骤，包括：

根据所述第一上链数据生成公共密钥；

根据所述第一非上链数据生成私有密钥；

建立所述公共密钥与所述私有密钥的对应关系，其中，所述对应关系唯一。

4.一种基于区块链的大数据存储装置，其特征在于，应用于服务端，所述装置包括：

存储容量获取模块，用于获取区块的存储容量；

摘要数据提取模块，用于提取待存储大数据中的第一摘要数据，将所述第一摘要数据作为第一上链数据，将所述待存储大数据中除所述第一摘要数据以外的数据作为第一非上链数据；

数据容量获取模块，用于获取所述第一上链数据的第一数据容量；

上链模块，用于判断所述第一数据容量是否超过所述存储容量，若所述第一数据容量不超过所述存储容量，对所述第一上链数据和所述第一非上链数据进行加密，将完成加密的第一上链数据存储至所述区块；

所述上链模块还用于若所述第一数据容量超过所述存储容量，从所述第一摘要数据中提取第二摘要数据，将所述第二摘要数据作为第二上链数据，将所述待存储大数据中除所述第二摘要数据以外的数据作为第二非上链数据；所述数据容量获取模块还用于获取所述第二上链数据的第二数据容量；所述上链模块还用于判断所述第二数据容量是否超过所述存储容量，若所述第二数据容量不超过所述存储容量，对所述第二上链数据和所述第二非上链数据进行加密，将完成加密的第二上链数据存储至所述区块；

所述上链模块通过以下步骤从所述第一摘要数据中提取第二摘要数据：

获取所述第一摘要数据中的每个元数据的字段名；

针对获取得到的每个字段名，在预设字段名数据库中查找是否存在与该字段名对应的设定字段名，若存在，提取该字段名所对应的元数据；

将提取得到至少一个元数据作为所述第二摘要数据。

5.根据权利要求4所述的基于区块链的大数据存储装置，其特征在于，所述上链模块通过以下步骤从所述第一摘要数据中提取第二摘要数据：

获取所述第一摘要数据中的每个元数据的优先级；

按照优先级由高到低的顺序选取所述第一摘要数据中的预设数量个元数据作为所述第二摘要数据。

6.根据权利要求4所述的基于区块链的大数据存储装置，其特征在于，所述上链模块通过以下步骤对所述第一上链数据和所述第一非上链数据进行加密：

根据所述第一上链数据生成公共密钥；

根据所述第一非上链数据生成私有密钥；

建立所述公共密钥与所述私有密钥的对应关系，其中，所述对应关系唯一。

Images