CN107422980B - 物联网数据文件存储***及其数据文件存储方法 - Google Patents

物联网数据文件存储***及其数据文件存储方法 Download PDF

Info

Publication number
CN107422980B
CN107422980B CN201610348917.XA CN201610348917A CN107422980B CN 107422980 B CN107422980 B CN 107422980B CN 201610348917 A CN201610348917 A CN 201610348917A CN 107422980 B CN107422980 B CN 107422980B
Authority
CN
China
Prior art keywords
data
data file
file
storing
storage device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610348917.XA
Other languages
English (en)
Other versions
CN107422980A (zh
Inventor
任子瑜
沈洁
沈威
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Gonglian Communication Information Development Co Ltd
Original Assignee
Shanghai Gonglian Communication Information Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Gonglian Communication Information Development Co Ltd filed Critical Shanghai Gonglian Communication Information Development Co Ltd
Priority to CN201610348917.XA priority Critical patent/CN107422980B/zh
Publication of CN107422980A publication Critical patent/CN107422980A/zh
Application granted granted Critical
Publication of CN107422980B publication Critical patent/CN107422980B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638Organizing or formatting or addressing of data
    • G06F3/0643Management of files
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1095Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及物联网数据文件存储***及其数据文件存储方法,其中物联网数据文件存储***包括用于存储所有用户的数据文件的数据中心和用于存储指定用户的数据文件的网络附属存储装置,数据中心和网络附属存储装置均设有多个,且所有数据中心在地理上设置于不同的区域,网络附属存储装置的数目与用户数目一致,任一网络附属存储装置至少与一个数据中心连接。与现有技术相比,本发明具有安全、高效等优点。

Description

物联网数据文件存储***及其数据文件存储方法
技术领域
本发明涉及云存储,尤其是涉及一种物联网数据文件存储***及其数据文件存储方法。
背景技术
物联网是新一代信息技术的重要组成部分,也是“信息化”时代的重要发展阶段。其英文名称是:“Internet of things(IoT)”。顾名思义,物联网就是物物相连的互联网。这有两层意思:其一,物联网的核心和基础仍然是互联网,是在互联网基础上的延伸和扩展的网络;其二,其用户端延伸和扩展到了任何物品与物品之间,进行信息交换和通信,也就是物物相息。物联网通过智能感知、识别技术与普适计算等通信感知技术,广泛应用于网络的融合中,也因此被称为继计算机、互联网之后世界信息产业发展的第三次浪潮。物联网是互联网的应用拓展,与其说物联网是网络,不如说物联网是业务和应用。因此,应用创新是物联网发展的核心,以用户体验为核心的创新2.0是物联网发展的灵魂。
在微软的UWP(Universal Windows Platform,Windows通用应用平台)中,Windows10lot也作为一个重要的组成部分可以运行Win10通用应用(Windows10Universal App)。
物联网自诞生之日起便和云技术有着不可分割的关联,物联网设备(尤其是智能可穿戴设备)得以得到迅猛的发展,在硬件上,一来是归功于半导体行业的发展(更小的体积,更低的功耗和更快的处理速度),二来便是归功于云计算和云存储,大量的计算任务和存储任务被从终端剥离,终端往往只需要丰富的传感器以及执行简单的数据打包、缓存和分发即可。
然而,目前存储在云端的数据会面临非常的考验,首先,大量的数据被集中存储,导致一旦发生意外,其数据损失将会是巨大的,二来云存储技术普遍存在重复存储的问题,不同的用户可能会存在相同的文件,带来了资源的浪费。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种物联网数据文件存储***及其数据文件存储方法。
本发明的目的可以通过以下技术方案来实现:
一种物联网数据文件存储***,包括用于存储所有用户的数据文件的数据中心和用于存储指定用户的数据文件的网络附属存储装置,所述数据中心和网络附属存储装置均设有多个,且
所有数据中心在地理上设置于不同的区域,
网络附属存储装置的数目与用户数目一致,任一网络附属存储装置至少与一个数据中心连接。
所述网络附属存储装置为路由器。
所述路由器包括壳体、主板和硬盘,所述主板内置于壳体中,且主板上设有用于可拆装地插接所述硬盘的硬盘插口,所述壳体上与所述硬盘对应的位置开设有硬盘出入口。
所述硬盘出入口两侧设有用于抓取硬盘的引导斜槽。
任一网络附属存储装置至少与和该网络附属存储装置物理链路最短的数据中心连接。
一种上述任一所述物联网数据文件存储***的数据文件存储方法,包括步骤:
S1:用户的电子设备判断上级网关是否为对用于存储该用户的数据文件的网络附属存储装置,若为是,则执行步骤S2,若为否,则执行步骤S3;
S2:所述电子设备向网络附属存储装置发送数据文件,并执行步骤S4;
S3:所述电子设备向与自身物理链路最短的数据中心发送数据文件,并执行步骤S4;
S4:各数据中心之间,以及各数据中心和各网络附属存储装置均周期性同步数据文件。
所述数据中心包括用于存放公共数据文件的第一资料库和多个分别用于存储私有数据文件的第二资料库,电子设备向数据中心发送数据文件的具体过程包括步骤:
S31:获取上传数据文件的文件类型,并判断是否为多媒体文件类型,若为是,则执行步骤S32,若为否,则执行步骤S33;
S32:进行数据文件的预处理,判断该数据文件是否已存在于第一资料库中,若为是,则执行步骤S33,若为否,则接受由电子设备发送的数据文件,并将其存储于第一资料库中;
S33:在用于存储该用户数据文件的第二资料库中生成用于指向第一资料库中对应数据文件的索引;
S33:接受由电子设备发送的数据文件,并将该数据文件存放于用于存储该用户数据文件的第二资料库中。
所述S32中数据文件的比对过程具体包括步骤:
S321:将第一资料库中所有与待上传数据文件具有相同文件类型的数据文件加入至疑似文件集合;
S322:读取待上传数据文件的哈希值,并在疑似文件集合中剔除与待上传数据文件具有不同哈希值的数据文件;
S323:读取待上传文件的大小,并在疑似文件集合中剔除与待上传数据文件具有不同大小的数据文件;
S324:判断疑似文件集合中是否存在数据文件,若为是,则返回待上传数据文件存在于第一资料库中,并清空疑似文件集合,若为否,则返回待上传数据文件不存在于第一资料库中。
所述哈希值为MD5值。
与现有技术相比,本发明具有以下优点:
1)多个数据中心协同同步,避免了单一数据中心遭到破坏二带来的大规模数据丢失,同时在网络附属存储装置留有各个用户的数据备份,一来可以大大降低文件使用时的带宽成本,二来也为每一位用户提供了针对自身数据的本地备份,数据更加安全,此外所有数据中心在地理上设置于不同的区域可以实现地理灾害级别的容灾。
2)由于路由器具有常在线的特点,并且往往又是作为网关存在的,将其作为NAS可以在使用上更加便捷。
3)硬盘出入口两侧设有用于抓取硬盘的引导斜槽,在拆卸硬盘时会容易抓取,这样操作更加便捷。
4)电子设备在上传数据时,首先考虑向网络附属存储装置发送备份,将后期的同步工作交给网络附属存储装置统筹安排,可以在带宽利用上更加灵活,避免大量用户同时上传数据而带来的数据中心带宽吃紧。
5)将多媒体文件单独提取出来放入第一资料库中,可以避免不同用户存储相同文件而造成的资源浪费,与此同时,非多媒体文件则存放于第二资料库中,可以保护用户的隐私数据安全,不会被映射到公网上。
6)文件比对基于文件类型、文件大小和哈希值展开,可以更加全面,避免发生漏存和后续的索引指向错误而导致隐私门。
附图说明
图1为本发明的结构示意图;
图2为引导斜槽的设置示意图;
图3为数据中心存储划分示意图;
其中:1、数据中心,2、网络附属存储装置,21、壳体,22、硬盘,23、引导斜槽,101、第一资料库,102、第二资料库。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于下述的实施例。
一种物联网数据文件存储***,如图1所示,包括用于存储所有用户的数据文件的数据中心1和用于存储指定用户的数据文件的网络附属存储装置2,数据中心1和网络附属存储装置2均设有多个,且所有数据中心1在地理上设置于不同的区域,网络附属存储装置2的数目与用户数目一致,任一网络附属存储装置2至少与和该网络附属存储装置2物理链路最短的数据中心1连接。
网络附属存储装置2为路由器。路由器包括壳体21、主板和硬盘22,主板内置于壳体21中,且主板上设有用于可拆装地插接硬盘22的硬盘插口,壳体21上与硬盘22对应的位置开设有硬盘出入口。如图2所示,硬盘出入口两侧设有用于抓取硬盘22的引导斜槽23。
上述物联网数据文件存储***的数据文件存储方法,包括步骤:
S1:用户的电子设备判断上级网关是否为对用于存储该用户的数据文件的网络附属存储装置2,若为是,则执行步骤S2,若为否,则执行步骤S3;
S2:电子设备向网络附属存储装置2发送数据文件,并执行步骤S4;
S3:电子设备向与自身物理链路最短的数据中心1发送数据文件,并执行步骤S4;
S4:各数据中心1之间,以及各数据中心1和各网络附属存储装置2均周期性同步数据文件。
数据中心1包括用于存放公共数据文件的第一资料库101和多个分别用于存储私有数据文件的第二资料库102,电子设备向数据中心1发送数据文件的具体过程包括步骤:
S31:获取上传数据文件的文件类型,并判断是否为多媒体文件类型,若为是,则执行步骤S32,若为否,则执行步骤S33;
S32:进行数据文件的预处理,判断该数据文件是否已存在于第一资料库101中,若为是,则执行步骤S33,若为否,则接受由电子设备发送的数据文件,并将其存储于第一资料库101中;
S33:在用于存储该用户数据文件的第二资料库102中生成用于指向第一资料库101中对应数据文件的索引;
S33:接受由电子设备发送的数据文件,并将该数据文件存放于用于存储该用户数据文件的第二资料库102中。
S32中数据文件的比对过程具体包括步骤:
S321:将第一资料库101中所有与待上传数据文件具有相同文件类型的数据文件加入至疑似文件集合;
S322:读取待上传数据文件的哈希值,哈希值优选为MD5值,并在疑似文件集合中剔除与待上传数据文件具有不同哈希值的数据文件;
S323:读取待上传文件的大小,并在疑似文件集合中剔除与待上传数据文件具有不同大小的数据文件;
S324:判断疑似文件集合中是否存在数据文件,若为是,则返回待上传数据文件存在于第一资料库101中,并清空疑似文件集合,若为否,则返回待上传数据文件不存在于第一资料库101中。
如图3所示为数据文件在数据中心中的存储示意图,其中的Pufile均为多媒体文件,多媒体文件为视频和音频文件等,其文件格式可以预先设定,例如mp4、mp3、acc、avi等等,特别的多媒体文件不包括压缩文件,如果有用户希望将自己拍摄的私人视频上传至专属于自己的第二资料库中,只需要将其压缩成rar格式即可,这样由于默认的多媒体文件是会保存在第一资料库中的,可以大大减少空间。而其他的文档,例如doc和dat等文件则会被作为私人文件存放于第二资料库中。此外,图3中的pexfile(x=1,2,…)则可能是文件也可能是指向第一资料库中某一Pufile的索引。

Claims (3)

1.一种物联网数据文件存储***的数据文件存储方法,其特征在于,所述***包括用于存储所有用户的数据文件的数据中心和用于存储指定用户的数据文件的网络附属存储装置,所述数据中心和网络附属存储装置均设有多个,且
所有数据中心在地理上设置于不同的区域,
网络附属存储装置的数目与用户数目一致,任一网络附属存储装置至少与一个数据中心连接;
所述网络附属存储装置为路由器;
所述路由器包括壳体、主板和硬盘,所述主板内置于壳体中,且主板上设有用于可拆装地插接所述硬盘的硬盘插口,所述壳体上与所述硬盘对应的位置开设有硬盘出入口;
所述硬盘出入口两侧设有用于抓取硬盘的引导斜槽;
任一网络附属存储装置至少与和该网络附属存储装置物理链路最短的数据中心连接;
所述方法包括步骤:
S1:用户的电子设备判断上级网关是否为对用于存储该用户的数据文件的网络附属存储装置,若为是,则执行步骤S2,若为否,则执行步骤S3;
S2:所述电子设备向网络附属存储装置发送数据文件,并执行步骤S4;
S3:所述电子设备向与自身物理链路最短的数据中心发送数据文件,并执行步骤S4;
S4:各数据中心之间,以及各数据中心和各网络附属存储装置均周期性同步数据文件;
所述数据中心包括用于存放公共数据文件的第一资料库和多个分别用于存储私有数据文件的第二资料库,电子设备向数据中心发送数据文件的具体过程包括步骤:
S31:获取上传数据文件的文件类型,并判断是否为多媒体文件类型,若为是,则执行步骤S32,若为否,则执行步骤S33;
S32:进行数据文件的预处理,判断该数据文件是否已存在于第一资料库中,若为是,则执行步骤S33,若为否,则接受由电子设备发送的数据文件,并将其存储于第一资料库中;
S33:在用于存储该用户数据文件的第二资料库中生成用于指向第一资料库中对应数据文件的索引;
S33:接受由电子设备发送的数据文件,并将该数据文件存放于用于存储该用户数据文件的第二资料库中。
2.根据权利要求1所述的方法,其特征在于,所述S32中数据文件的比对过程具体包括步骤:
S321:将第一资料库中所有与待上传数据文件具有相同文件类型的数据文件加入至疑似文件集合;
S322:读取待上传数据文件的哈希值,并在疑似文件集合中剔除与待上传数据文件具有不同哈希值的数据文件;
S323:读取待上传文件的大小,并在疑似文件集合中剔除与待上传数据文件具有不同大小的数据文件;
S324:判断疑似文件集合中是否存在数据文件,若为是,则返回待上传数据文件存在于第一资料库中,并清空疑似文件集合,若为否,则返回待上传数据文件不存在于第一资料库中。
3.根据权利要求2所述的方法,其特征在于,所述哈希值为MD5值。
CN201610348917.XA 2016-05-24 2016-05-24 物联网数据文件存储***及其数据文件存储方法 Active CN107422980B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610348917.XA CN107422980B (zh) 2016-05-24 2016-05-24 物联网数据文件存储***及其数据文件存储方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610348917.XA CN107422980B (zh) 2016-05-24 2016-05-24 物联网数据文件存储***及其数据文件存储方法

Publications (2)

Publication Number Publication Date
CN107422980A CN107422980A (zh) 2017-12-01
CN107422980B true CN107422980B (zh) 2023-09-22

Family

ID=60422676

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610348917.XA Active CN107422980B (zh) 2016-05-24 2016-05-24 物联网数据文件存储***及其数据文件存储方法

Country Status (1)

Country Link
CN (1) CN107422980B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109302391B (zh) * 2018-09-21 2021-03-02 深圳市九洲电器有限公司 一种安防数据上传方法及装置、客户端
CN111083182B (zh) * 2018-10-19 2022-11-04 北京奇虎科技有限公司 分布式物联网设备管理方法及装置
CN111045606B (zh) * 2019-12-13 2021-08-27 西安奥卡云数据科技有限公司 一种可扩展云规模iot存储方法、装置及服务器
CN113486026A (zh) * 2021-08-02 2021-10-08 北京字节跳动网络技术有限公司 数据处理方法、装置、设备及介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003090106A1 (en) * 2002-04-15 2003-10-30 Redundant Networks Inc. Method, apparatus, and computer program product for redundant network
CN1904872A (zh) * 2005-07-27 2007-01-31 韩泽耀 网络附加存储***芯片硬件结构及基于该***的网络***
CN101841559A (zh) * 2009-03-16 2010-09-22 巴比禄股份有限公司 网络装置以及将外部存储装置公开于网络上的方法
CN104054319A (zh) * 2012-01-11 2014-09-17 阿尔卡特朗讯公司 在弹性云文件***中减少延迟和成本

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001055879A1 (en) * 2000-01-28 2001-08-02 Ibeam Broadcasting Corporation A system and method for determining optimal server in a distributed network for serving content streams
US8578203B2 (en) * 2010-08-31 2013-11-05 Autonomy, Inc. Providing a backup service from a remote backup data center to a computer through a network
US20130036135A1 (en) * 2011-08-04 2013-02-07 Michael Brockey Cloud data storage

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003090106A1 (en) * 2002-04-15 2003-10-30 Redundant Networks Inc. Method, apparatus, and computer program product for redundant network
CN1904872A (zh) * 2005-07-27 2007-01-31 韩泽耀 网络附加存储***芯片硬件结构及基于该***的网络***
CN101841559A (zh) * 2009-03-16 2010-09-22 巴比禄股份有限公司 网络装置以及将外部存储装置公开于网络上的方法
CN104054319A (zh) * 2012-01-11 2014-09-17 阿尔卡特朗讯公司 在弹性云文件***中减少延迟和成本

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
面向云计算数据中心的网络存储技术研究;董俊伶;;信息与电脑(理论版)(08);24-25 *

Also Published As

Publication number Publication date
CN107422980A (zh) 2017-12-01

Similar Documents

Publication Publication Date Title
CN107422980B (zh) 物联网数据文件存储***及其数据文件存储方法
CN103095843B (zh) 一种基于版本矢量的数据备份方法及客户端
US9846702B2 (en) Indexing of file in a hadoop cluster
CN206249316U (zh) 一种基于云端的医院数据中心平台***
CN111339192A (zh) 一种分布式边缘计算数据存储***
CN102307206A (zh) 基于云存储的快速访问虚拟机镜像的缓存***及其方法
CN104348859B (zh) 文件同步方法、装置、服务器、终端及***
US9075722B2 (en) Clustered and highly-available wide-area write-through file system cache
CN106407463A (zh) 一种基于Hadoop的图像处理方法及***
CN111338893A (zh) 进程日志处理方法、装置、计算机设备以及存储介质
CN109144785A (zh) 用于备份数据的方法和装置
CN110837423A (zh) 一种自动导引运输车数据采集的方法和装置
CN103716384A (zh) 跨数据中心实现云存储数据同步的方法和装置
WO2021017305A1 (zh) 数据的查询方法、装置、电子设备及计算机可读存储介质
Chang et al. Cloud computing storage backup and recovery strategy based on secure IoT and spark
CN115934414A (zh) 数据备份方法、数据恢复方法、装置、设备及存储介质
CN106383861A (zh) 一种用于数据库的数据同步方法及装置
CN104012055A (zh) 一种数据处理方法及装置
CN204316546U (zh) 一种中小型云存储数据同步***
KR20220026603A (ko) 파일 처리 방법, 장치, 전자 기기 및 저장 매체
CN112436943A (zh) 基于大数据的请求去重方法、装置、设备及存储介质
CN107220003A (zh) 一种数据读取方法和***
CN111427917A (zh) 搜索数据处理方法及相关产品
CN105608190B (zh) 协同数据处理方法和***
CN103312743A (zh) 一种数据同步装置和方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant