CN110032547A - 一种分布式环境下文件存储改进方法 - Google Patents
一种分布式环境下文件存储改进方法 Download PDFInfo
- Publication number
- CN110032547A CN110032547A CN201910086517.XA CN201910086517A CN110032547A CN 110032547 A CN110032547 A CN 110032547A CN 201910086517 A CN201910086517 A CN 201910086517A CN 110032547 A CN110032547 A CN 110032547A
- Authority
- CN
- China
- Prior art keywords
- storage
- data
- distributed
- file
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
- G06F16/134—Distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/1834—Distributed file systems implemented based on peer-to-peer networks, e.g. gnutella
- G06F16/1837—Management specially adapted to peer-to-peer storage networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种分布式环境下文件存储改进方法,包括使用Hash‑table分布式版本化存储协议的冗余化分布式储存网络;S1:冗余化分布式储存网络中的上传者生成上传请求,并将所述上传请求记录在区块链的智能合约中;S2:在冗余化分布式储存网络中,静态数据文件将被分割为固定大小的数据块;数据分块后通过Data Encryption协议以加密形式分布式存储在各个资源节点中;并且通过P2P网络快速进行资源同步;S3:冗余化分布式储存网络中的存储者生成存储请求,并将所述存储请求记录在区块链的智能合约中;S4:在区块链中生成上传者与存储者存储所述文件分片的存储交易,同时所有数据通过Redundancy Replication协议进行冗余化备份。
Description
技术领域
本发明属于区块链领域,涉及一种分布式环境下文件存储改进方法。
背景技术
区块链游戏对玩家的最大价值是基于可玩性之上的经济收益,没有中心化游戏运营商的任意控制后,真正把游戏中的角色、道具、装备、虚拟资产等价值收益还给玩家。因此,玩家对于游戏数据的永久性储存有着刚性需求。同时,为了解决贝尔链整个生态网络中大型静态数据的高效存储与有效调用。
贝尔链技术团队需要采用一种分布式环境下文件存储改进方法。
发明内容
本发明的目的在于:提供了一种分布式环境下文件存储改进方法,解决了贝尔链整个生态网络中大型静态数据的高效存储与有效调用。
本发明采用的技术方案如下:
一种分布式环境下文件存储改进方法,包括使用Hash-table分布式版本化存储协议的冗余化分布式储存网络;
S1:冗余化分布式储存网络中的上传者生成上传请求,并将所述上传请求记录在区块链的智能合约中;
S2:在冗余化分布式储存网络中,静态数据文件将被分割为固定大小的数据块;数据分块后通过Data Encryption协议以加密形式分布式存储在各个资源节点中;并且通过P2P网络快速进行资源同步;
S3:冗余化分布式储存网络中的存储者生成存储请求,并将所述存储请求记录在区块链的智能合约中;
S4:在区块链中生成上传者与存储者存储所述文件分片的存储交易,同时所有数据通过Redundancy Replication协议进行冗余化备份;
S5:存储者存储所述文件分片,其中所述P2P网络采用了Kad算法,数据根据Hash的唯一性,通过Hash-table以及文件内容摘要分片进行索引。
为了解决了贝尔链整个生态网络中大型静态数据的高效存储与有效调用,本方案贝尔采用KAD算法、DHT、P2P网络、TCP协议等技术构建了RDSN网络(RedundancyDistributed Storage Network)即冗余化分布式储存网络;通过冗余化分布式节点储存网络,数据的存储将变得高效可靠。对于游戏来说,避免了传统游戏服务运营者的中心化数据存储模式,因此即便是开发商跑路,而玩家所持有的价值、资产也不会因此而丢失,同时游戏本身也能永存链上。RDSN是一套利用了Hash-table技术的分布式版本化存储协议。在该网络中,静态数据文件将被分割为固定大小的数据块(每块不大于4MB)。数据分块后通过DataEncryption协议以加密形式分布式存储在各个资源节点中,并且借助P2P网络快速进行资源同步。贝尔链所搭建的P2P网络主要采用了Kad算法实现,Kad是一种分布式Hash-table(DHT)技术。文件摘要是这个文件的一串信息,存到每个节点的key-value数据库里,然后每个文件的key就是这个文件的hash值-这个hash值是通过sha256算出来的;value就是这个文件的描述信息。
进一步地,所述静态数据文件包括游戏的资源下载包和补丁文件。
进一步地,所述Kad算法是DHT算法的信息调用输入端;DHT算法在资源编号和节点编号上使用了分布式Hash-table服务。也就是数据并不会以文件名的形式
进行索引,而是利用Hash的唯一性通过Hash-table以及文件内容摘要(sha256)分片进行。这样将提高搜索效率,实现在分布式环境下快速而又准确地数据路由与定位。另外,所有数据通过Redundancy Replication协议进行冗余化备份,避免单一节点文件损坏、数据缺失,网络故障等因素影响数据的完整性。在RDSN架构中,核心是数据的真实验证、高效储存与调用。
进一步地,冗余化分布式储存网络中的上传者和存储者通过AutomaticCompensation与Hash索引进行数据真实性反馈验证;通过Hash摘要完成完整数据反馈;验证成功才能使用冗余化分布式储存网络。为了确保各节点数据的真实有效,防止虚假节点播报。
进一步地,所述冗余化分布式储存网络根据数据的调用频率,将存储需求分为高频/中频/低频三类,并针对每类不同的需求进行优化配置;当各节点实现数据分类存储后,采用TCP协议与相邻节点建立连接,建立连接时通过Automatic Compensation机制实现认证“握手”的通信过程,用来确定协议版本、软件版本、节点IP或区块高度,为高频需求配备专用节点“超级矿机”,专注于处理高频交互数据,用以保障高效性与稳定性;中频需求将通过大规模的大容量智能硬件,处理中频大数据量交互数据,该类矿机是整个分布网络架构中的重要资源节点,以智能产品形式开发,为智能产品的科技化升级赋能;低频需求将通过外部分布式网络来进行冗余化存储,处理低频与无频需求,由于该类数据利用率低,因此将存储于分布式外部网络,满足偶然性调用需求,确保信息的永久保存。
综上所述,由于采用了上述技术方案,本发明的有益效果是:
1.本发明中的一种分布式环境下文件存储改进方法,识别后根据网络中数据交互的频次,分配数据储存资源节点的路径并进行动态更新与优化。
2.本发明中的一种分布式环境下文件存储改进方法,相比传统的云存储,在RDSN网络中,数据访问速度更快、更安全、更持久,再配合贝尔链超级节点的冗余化分布式储存网络,使得游戏资源永久在线。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图,其中:
图1是本发明算法流程图;
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明,即所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
下面结合实施例对本发明的特征和性能作进一步的详细描述。
实施例一
根据图1,一种分布式环境下文件存储改进方法,包括使用Hash-table分布式版本化存储协议的冗余化分布式储存网络;
S1:冗余化分布式储存网络中的上传者生成上传请求,并将所述上传请求记录在区块链的智能合约中;
S2:在冗余化分布式储存网络中,静态数据文件将被分割为固定大小的数据块;数据分块后通过Data Encryption协议以加密形式分布式存储在各个资源节点中;并且通过P2P网络快速进行资源同步;
S3:冗余化分布式储存网络中的存储者生成存储请求,并将所述存储请求记录在区块链的智能合约中;
S4:在区块链中生成上传者与存储者存储所述文件分片的存储交易,同时所有数据通过Redundancy Replication协议进行冗余化备份;
S5:存储者存储所述文件分片,其中所述P2P网络采用了Kad算法,数据根据Hash的唯一性,通过Hash-table以及文件内容摘要分片进行索引。
工作时:通过冗余化分布式节点储存网络,数据的存储将变得高效可靠。对于游戏来说,避免了传统游戏服务运营者的中心化数据存储模式,因此即便是开发商跑路,而玩家所持有的价值、资产也不会因此而丢失,同时游戏本身也能永存链上。RDSN是一套利用了Hash-table技术的分布式版本化存储协议。在该网络中,静态数据文件将被分割为固定大小的数据块(每块不大于4MB)。数据分块后通过DataEncryption协议以加密形式分布式存储在各个资源节点中,并且借助P2P网络快速进行资源同步。贝尔链所搭建的P2P网络主要采用了Kad算法实现,Kad是一种分布式Hash-table(DHT)技术。
实施例二
本实施例在实施例一的基础上,
进一步地,作为优选方案,据文件包括游戏的资源下载包和补丁文件。
进一步地,作为优选方案,所述Kad算法是DHT算法的信息调用输入端;DHT算法在资源编号和节点编号上使用了分布式Hash-table服务。也就是数据并不会以文件名的形式
进一步地,作为优选方案,而是利用Hash的唯一性通过Hash-table以及文件内容摘要(sha256)分片进行。这样将提高搜索效率,实现在分布式环境下快速而又准确地数据路由与定位。另外,所有数据通过Redundancy Replication协议进行冗余化备份,避免单一节点文件损坏、数据缺失,网络故障等因素影响数据的完整性。在RDSN架构中,核心是数据的真实验证、高效储存与调用。
进一步地,作为优选方案,冗余化分布式储存网络中的上传者和存储者通过Automatic Compensation与Hash索引进行数据真实性反馈验证;通过Hash摘要完成完整数据反馈;验证成功才能使用冗余化分布式储存网络。为了确保各节点数据的真实有效,防止虚假节点播报。
进一步地,作为优选方案,所述冗余化分布式储存网络根据数据的调用频率,将存储需求分为高频/中频/低频三类,并针对每类不同的需求进行优化配置;当各节点实现数据分类存储后,采用TCP协议与相邻节点建立连接,建立连接时通过AutomaticCompensation机制实现认证“握手”的通信过程,用来确定协议版本、软件版本、节点IP或区块高度,为高频需求配备专用节点“超级矿机”,专注于处理高频交互数据,用以保障高效性与稳定性;中频需求将通过大规模的大容量智能硬件,处理中频大数据量交互数据,该类矿机是整个分布网络架构中的重要资源节点,以智能产品形式开发,为智能产品的科技化升级赋能;低频需求将通过外部分布式网络来进行冗余化存储,处理低频与无频需求,由于该类数据利用率低,因此将存储于分布式外部网络,满足偶然性调用需求,确保信息的永久保存。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明的保护范围,任何熟悉本领域的技术人员在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (5)
1.一种分布式环境下文件存储改进方法,其特征在于:包括使用Hash-table分布式版本化存储协议的冗余化分布式储存网络;
S1:冗余化分布式储存网络中的上传者生成上传请求,并将所述上传请求记录在区块链的智能合约中;
S2:在冗余化分布式储存网络中,静态数据文件将被分割为固定1M大小的数据块;数据分块后通过Data Encryption协议以加密形式分布式存储在各个资源节点中;并且通过P2P网络快速进行资源同步;
S3:冗余化分布式储存网络中的存储者生成存储请求,并将所述存储请求记录在区块链的智能合约中;
S4:在区块链中生成上传者与存储者存储所述文件分片的存储交易,同时所有数据通过Redundancy Replication协议进行冗余化备份;
S5:存储者存储所述文件分片,其中所述P2P网络采用了Kad算法,数据根据Hash的唯一性,通过Hash-table以及文件内容摘要分片进行索引。
2.根据权利要求1所述的一种分布式环境下文件存储改进方法,其特征在于:所述静态数据文件包括游戏的资源下载包和补丁文件。
3.根据权利要求1所述的一种分布式环境下文件存储改进方法,其特征在于:所述Kad算法是DHT算法的信息调用输入端;DHT算法在资源编号和节点编号上使用了分布式Hash-table服务。
4.根据权利要求1所述的一种分布式环境下文件存储改进方法,其特征在于:冗余化分布式储存网络中的上传者和存储者通过Automatic Compensation与Hash索引进行数据真实性反馈验证;通过Hash摘要完成完整数据反馈;验证成功才能使用冗余化分布式储存网络。
5.根据权利要求1所述的一种分布式环境下文件存储改进方法,其特征在于:所述冗余化分布式储存网络根据数据的调用频率,将存储需求分为高频/中频/低频三类,并针对每类不同的需求进行优化配置;当各节点实现数据分类存储后,采用TCP协议与相邻节点建立连接,建立连接时通过Automatic Compensation机制实现认证“握手”的通信过程,用来确定协议版本、软件版本、节点IP或区块高度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910086517.XA CN110032547A (zh) | 2019-01-29 | 2019-01-29 | 一种分布式环境下文件存储改进方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910086517.XA CN110032547A (zh) | 2019-01-29 | 2019-01-29 | 一种分布式环境下文件存储改进方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110032547A true CN110032547A (zh) | 2019-07-19 |
Family
ID=67235615
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910086517.XA Pending CN110032547A (zh) | 2019-01-29 | 2019-01-29 | 一种分布式环境下文件存储改进方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110032547A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111353177A (zh) * | 2020-05-25 | 2020-06-30 | 杭州趣链科技有限公司 | 一种基于区块链的隐私大文件存储*** |
CN113127562A (zh) * | 2021-03-30 | 2021-07-16 | 河南九域腾龙信息工程有限公司 | 一种低冗余区块链数据存储和检索方法及*** |
CN114091111A (zh) * | 2021-09-09 | 2022-02-25 | 深圳前海微众银行股份有限公司 | 一种区块链智能合约的存储方法及装置 |
CN114185866A (zh) * | 2022-02-16 | 2022-03-15 | 安翰科技(武汉)股份有限公司 | 数据本地存储控制方法及医疗数据存储*** |
CN115865461A (zh) * | 2022-11-25 | 2023-03-28 | 贵州电网有限责任公司 | 一种高性能计算集群中分发数据的方法和*** |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105790954A (zh) * | 2016-03-02 | 2016-07-20 | 布比(北京)网络技术有限公司 | 一种构建电子证据的方法和*** |
CN108076148A (zh) * | 2017-12-15 | 2018-05-25 | 成都链网络科技有限公司 | 基于区块链的存储*** |
CN108111585A (zh) * | 2017-12-15 | 2018-06-01 | 成都链网络科技有限公司 | 基于区块链的分布式存储方法 |
CN108875422A (zh) * | 2018-05-07 | 2018-11-23 | 南京快文信息科技有限公司 | 基于区块链的脑电波数据存储方法及*** |
-
2019
- 2019-01-29 CN CN201910086517.XA patent/CN110032547A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105790954A (zh) * | 2016-03-02 | 2016-07-20 | 布比(北京)网络技术有限公司 | 一种构建电子证据的方法和*** |
CN108076148A (zh) * | 2017-12-15 | 2018-05-25 | 成都链网络科技有限公司 | 基于区块链的存储*** |
CN108111585A (zh) * | 2017-12-15 | 2018-06-01 | 成都链网络科技有限公司 | 基于区块链的分布式存储方法 |
CN108875422A (zh) * | 2018-05-07 | 2018-11-23 | 南京快文信息科技有限公司 | 基于区块链的脑电波数据存储方法及*** |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111353177A (zh) * | 2020-05-25 | 2020-06-30 | 杭州趣链科技有限公司 | 一种基于区块链的隐私大文件存储*** |
CN113127562A (zh) * | 2021-03-30 | 2021-07-16 | 河南九域腾龙信息工程有限公司 | 一种低冗余区块链数据存储和检索方法及*** |
CN114091111A (zh) * | 2021-09-09 | 2022-02-25 | 深圳前海微众银行股份有限公司 | 一种区块链智能合约的存储方法及装置 |
CN114091111B (zh) * | 2021-09-09 | 2022-11-18 | 深圳前海微众银行股份有限公司 | 一种区块链智能合约的存储方法及装置 |
CN114185866A (zh) * | 2022-02-16 | 2022-03-15 | 安翰科技(武汉)股份有限公司 | 数据本地存储控制方法及医疗数据存储*** |
CN114185866B (zh) * | 2022-02-16 | 2022-05-03 | 安翰科技(武汉)股份有限公司 | 数据本地存储控制方法及医疗数据存储*** |
CN115865461A (zh) * | 2022-11-25 | 2023-03-28 | 贵州电网有限责任公司 | 一种高性能计算集群中分发数据的方法和*** |
CN115865461B (zh) * | 2022-11-25 | 2024-04-19 | 贵州电网有限责任公司 | 一种高性能计算集群中分发数据的方法和*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110032547A (zh) | 一种分布式环境下文件存储改进方法 | |
US11899684B2 (en) | System and method for maintaining a master replica for reads and writes in a data store | |
US20200167366A1 (en) | Data processing method and device | |
US10929240B2 (en) | System and method for adjusting membership of a data replication group | |
CN110163004B (zh) | 一种区块链生成的方法、相关设备及*** | |
JP2024019632A (ja) | ブロックチェーンネットワークにおいて大規模分散メモリプールを管理するためのコンピュータ実装されたシステム及び方法 | |
US9411873B2 (en) | System and method for splitting a replicated data partition | |
CN113094396B (zh) | 基于节点内存的数据处理方法、装置、设备以及介质 | |
US9116862B1 (en) | System and method for data replication using a single master failover protocol | |
US20230316273A1 (en) | Data processing method and apparatus, computer device, and storage medium | |
Ye et al. | Accuracy, scalability, coverage: A practical configuration verifier on a global wan | |
CN103150394A (zh) | 面向高性能计算的分布式文件***元数据管理方法 | |
US20230090296A1 (en) | Transaction verification of a transaction based on a blockchain network | |
CN108132987A (zh) | 一种数据查询***及方法 | |
CN103001945B (zh) | 一种多元化资源标识安全访问方法 | |
CN110493345A (zh) | 基于区块链的物联网终端软件升级方法及*** | |
CN104346365A (zh) | 确定与特定业务相关的关联日志的方法和装置 | |
US20200084041A1 (en) | Automated Blockchain Protocol Update | |
WO2017071337A1 (zh) | 管理数据库表数据的方法、装置及*** | |
US20230259526A1 (en) | Block-chain-based data processing | |
CN110808839B (zh) | 一种区块链异常数据的处理方法、装置、设备和介质 | |
CN110597922A (zh) | 数据处理方法、装置、终端及存储介质 | |
CN111241589A (zh) | 一种数据库***、节点和方法 | |
CN111241590A (zh) | 一种数据库***、节点和方法 | |
WO2017067374A1 (zh) | 一种消息推送方法及推送服务器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190719 |
|
RJ01 | Rejection of invention patent application after publication |