CN202872848U - 一种基于云信息云计算服务的云存储终端设备 - Google Patents

一种基于云信息云计算服务的云存储终端设备 Download PDF

Info

Publication number
CN202872848U
CN202872848U CN 201220559171 CN201220559171U CN202872848U CN 202872848 U CN202872848 U CN 202872848U CN 201220559171 CN201220559171 CN 201220559171 CN 201220559171 U CN201220559171 U CN 201220559171U CN 202872848 U CN202872848 U CN 202872848U
Authority
CN
China
Prior art keywords
cloud
interface
data
hard disk
terminal equipment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN 201220559171
Other languages
English (en)
Inventor
陈新
祁鸣书
李艳
亢大千
马艳艳
孔令燕
邵明省
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN 201220559171 priority Critical patent/CN202872848U/zh
Application granted granted Critical
Publication of CN202872848U publication Critical patent/CN202872848U/zh
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

一种基于云信息云计算服务的云存储终端设备,其特征是:由硬盘、控制模块、USB接口组成,硬盘和USB接口之间通过控制模块连接,所述的硬盘由主服务控制机群、存储节点机群、应用节点机群、计算节点机群、输人设备和输出设备组成,所述的控制模块由中央处理器、内存、固态存储器、无线网络模块、有线网络模块、VGA接口、COM接口、网络接口、MC接口、SPK接口组成。本实用新型专利的优点是:客户端的设备要求最低,使用起来也最方便,智能整理文档自动同步网盘,实现不同设备间的数据与应用共享。

Description

一种基于云信息云计算服务的云存储终端设备
技术领域
本实用新型涉及计算机信息的存储终端,特别涉及一种基于云信息云计算服务的云存储终端设备。
背景技术
传统网盘最初是对邮箱和即时通讯这两款产品提供补充出现的,以满足用户的个性化需求。随WEB2.0的兴起,传统网盘从附属产品独立出来形成完整的产品线,以满足用户多样的网络存储需求,用户对传统网盘的更多需求还是在于存储和资源共享。作为备份过程的一部分,应用备份软件或***设备把数据写入磁带或自动磁带库内,数据从磁盘上被保存到磁带上。这些磁带和它们所包含的数据按普通备份和指定一个漫长的保留期间被区分开,通常是从10年到无限长。当数据备份从服务器的磁盘驱动器中删除的时候,这些归档磁带被送到异地存储设备永久存储。磁带的不利就是在你可以取回数据前不得不等磁带从异地取回,然后也需要时间来扫描磁带,找到需要恢复的数据,重新创建磁带存储数据。此外它限制***性的数据增长导致以往缩小备份窗口,限制保留的能力,没有切实可行的手段来验证磁带介质及其数据存储年限的完整性。
数据存储无节制的增加和Web2.0应用的兴起迫使人们重新思考存储。由于数据存储量每年以60%的速度增长,企业面临一种可怕的情形。投入更多硬盘不再能解决存储问题。在存储领域,直到现在,阻力最小的路径是治标,购买更多的硬盘,造成大量的资金浪费!比如网络监控的诞生解决了传统监控效果的难题,改变了传统的连接方式,更简单更便捷,但同时衍生了更庞大的存储需求和更高的带宽满足。对于视频监控的数据来说,由于网络视频监控是基于网络的音视频流传输,在大量音视频流传输的情况下会对视频监控管理服务器的性能产生很大影响,数据越多,视频监控管理服务器对I/O操作的调度和缓存的管理就变得越复杂,往往会出现多台摄像头对单台服务器,多台服务器对一台后端存储设备的情况,对存储设备的频繁访问以及多个摄像头多个服务器的存储需求,需要占用大量的资源,影响了其处理能力。随着高清监控的发展,前端图像质量的大幅度提升也导致了后端存储的监控数据有了突飞猛进的增长。以720P高清摄像机为例,其每小时视频录像数据可压缩到3GB左右容量,一般的监控***路上都是几十路甚至上百路,按照有关规定,监控录像需保存一个月,假设某监控***为100路,则可计算得216000GB,一个上百路的高清视频监控***所需的最少容量为216TB,考虑到全局数据冗余度、未来数据膨胀,以及数据自动恢复等,***设计至少需要220TB的存储空间。
发明内容
为了解决背景技术存在的问题,采用的技术方案如下:一种基于云信息云计算服务的云存储终端设备,其特征是:由硬盘、控制模块、USB接口组成,硬盘和USB接口之间通过控制模块连接。
所述的硬盘由主服务控制机群、存储节点机群、应用节点机群、计算节点机群、输人设备和输出设备组成。
所述的控制模块由中央处理器、内存、固态存储器、无线网络模块、有线网络模块、VGA接口、COM接口、网络接口、MC接口、SPK接口组成。 
云信息为服务器需要处理的客户端大量数据量,这些数据量可能是文档或者来自各种各样的应用程序,有本地的也有在线的云计算是网格计算、分布式计算、并行计算、效用计算、网络存储、虚拟化、负载均衡等传统计算机和网络技术发展融合的产物。通过使计算分布在大量的分布式计算机上,而非本地计算机或远程服务器中,企业数据中心的运行将与互联网更相似。这使得企业能够将资源切换到需要的应用上,根据需求访问计算机和存储***。云计算是一种新兴的共享基础架构的方法。它统一管理大量的物理资源,并将这些资源虚拟化,形成一个巨大的虚拟化资源池。云是一类并行和分布式的***,这些***由一系列互联的虚拟计算机组成。这些虚拟计算机是基于服务级别协议(供应者和消费者之问协商确定)被动态部署的,并且作为一个或多个统一的计算资源而存在。云计算可以按照用户对资源和计算能力的需求动态部署虚拟资源,而不受物理资源的限制。用户所有基于云的计算和应用工作在虚拟化的资源上,不需要关心这些资源部署在哪些物理资源上,用户可以方便地变更对计算资源的需求。 云存储通过集群应用、网格技术或分布式文件***等功能,将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和业务访问功能的一个***。当云计算***运算和处理的核心是大量数据的存储和管理时,云计算***中就需要配置大量的存储设备,那么云计算***就转变成为一个云存储***。与传统的存储设备相比,云存储不仅仅是一个硬件,而是一个网络设备、存储设备、服务器、应用软件、公用访问接口、接入网、和客户端程序等多个部分组成的复杂***。各部分以存储设备为核心,通过应用软件来对外提供数据存储和业务访问服务。
本实用新型专利的优点是:客户端的设备要求最低,使用起来也最方便,智能整理文档自动同步网盘,实现不同设备间的数据与应用共享。
附图说明
图1为本实用新型的框架结构图。
具体实施方式
如图1所示为本实用新型的框架结构图,一种基于云信息云计算服务的云存储终端设备,其特征是:由硬盘、控制模块、USB接口组成,硬盘和USB接口之间通过控制模块连接。所述的硬盘由主服务控制机群、存储节点机群、应用节点机群、计算节点机群、输人设备和输出设备组成。所述的控制模块由中央处理器、内存、固态存储器、无线网络模块、有线网络模块、VGA接口、COM接口、网络接口、MC接口、SPK接口组成。USB接口通过控制模块对硬盘读写,实现云信息云计算服务。
云存储终端的资源池层是将大量相同类型的资源构成同构或接近同构的资源池,如计算资源池、数据资源池等。构建资源池更多的是物理资源的集成和管理工作,例如研究在一个标准集装箱的空间如何装下2000个服务器、解决散热和故障节点替换的问题并降低能耗。管理中间件层负责对云计算的资源进行管理,并对众多应用任务进行调度,使资源能够高效、安全地为应用提供服务。面向服务的体系结构层将云计算能力封装成标准的WebServices服务,并纳入到面向服务的体系结构层体系进行管理和使用,包括服务接口、服务注册、服务查找、服务访问和服务工作流等。管理中间件层和资源池层是云计算技术的最关键部分,面向服务的体系结构层的功能更多依靠外部设施提供。用户交互接口向应用以WebServices方式提供访问接口,获取用户需求。服务目录是用户可以访问的服务清单。***管理模块负责管理和分配所有可用的资源,其核心是负载均衡。配置工具负责在分配的节点上准备任务运行环境。监视统计模块负责监视节点的运行状态,并完成用户使用节点情况的统计。执行过程并不复杂,用户交互接口允许用户从目录中选取并调用一个服务,该请求传递给***管理模块后,它将为用户分配恰当的资源,然后调用配置工具为用户准备运行环境。
 云计算将整个***的节点分为三类角色:客户端、主服务器和数据块服务器。客户端是提供给应用程序的访问接口,它是一组专用接口,不遵守POSIX规范,以库文件的形式提供。应用程序直接调用这些库函数,并与该库链接在一起。主服务器是管理节点,在逻辑上只有一个,它保存***的元数据,负责整个文件***的管理,是文件***中的大脑。数据块服务器负责具体的存储工作。数据以文件的形式存储在数据块服务器上,数据块服务器的个数可以有多个,它的数目直接决定了***的规模。***将文件按照固定大小进行分块,默认是64MB,每一块称为一个数据块,每个数据块都有一个对应的索引号。
客户端在访问***时,首先访问主服务器节点,获取将要与之进行交互的数据块服务器信息,然后直接访问这些数据块服务器完成数据存取。这种设计方法实现了控制流和数据流的分离。客户端与主服务器之间只有控制流,而无数据流,这样就极大地降低了主服务器的负载,使之不成为***性能的一个瓶颈。客户端与数据块服务器之间直接传输数据流,同时由于文件被分成多个数据块进行分布式存储,客户端可以同时访问多个数据块服务器,从而使得整个***高度并行,***整体性能得到提高。
 存储层是云存储最基础的部分,设备可以是FC光纤通道存储设备,可以是NAS和iSCSI等IP存储设备,也可以是SCSI或SAS等DAS存储设备。云存储中的存储设备往往数量庞大且分布在不同地域,彼此之间通过广域网、互联网或者FC光纤通道网络连接在一起。存储设备之上是一个统一存储设备管理***,可以实现存储设备的逻辑虚拟化管理、多链路冗余管理,以及硬件设备的状态监控和故障维护。
基础管理层是云存储最核心的部分,也是云存储中最难以实现的部分。基础管理层通过集群、分布式文件***和网格计算等技术,实现云存储中多个存储设备之间的协同工作,使多个的存储设备可以对外提供同一种服务,并提供更大更强更好的数据访问性能。CDN内容分发***、数据加密技术保证云存储中的数据不会被未授权的用户所访问,同时,通过数据备份和容灾技术等措施可以保证云存储中的数据不会丢失,保证云存储自身的安全和稳定。
应用接口层是云存储最灵活多变的部分。不同的云存储运营单位可以根据实际业务类型,开发不同的应用服务接口,提供不同的应用服务。比如视频监控应用平台、视频点播应用平台、网络硬盘引用平台和远程数据备份应用平台等。为了实现读写权限控制,每份数据除了需要密钥。用于加密之外,还需要一个公私钥对,用于对加密后的数据进行签名和用于对签名结果进行验证。
 访问层中的任何一个授权用户都可以通过标准的公用应用接口来登录云存储***,享受云存储服务。是云存储的运营单位不同,所提供的访问类型和访问手段也不同。
当使用硬盘的时候,上传过程为:选择要上传的本地文件,执行上传操作时,首先将要上传的文件信息和其它信息发送给主服务器,服务器接收到文件信息后,首先根据文件大小进行切块计算,文件被分割成固定尺寸的块。在每个块创建的时候,服务器分配给它一个不变的、全球唯一的位的块句柄对它进行标识,块服务器把块作为linux文件保存在filesystem硬盘上,并根据指定的块句柄和字节范围来读写块数据。根据监控***所提供节点信息判断存储节点状态,将文件块均衡分配到各节点;最后,将文件信息和文件块信息***到数据库,服务器将文件块信息以XML格式发送给客户端,客户端为每个存储节点建立一个文件块队列,将文件块并行上传到对应的节点。存储节点每接收到一个文件块后,向服务器发送一条确认信息,服务器将数据库中该文件块的状态改为1表示已经上传成功。当文件所有块都上传成功后,服务器将数据库中该文件的状态改为1。当服务器通过实时监控信息,发现某个节点失效时,立即将正在上传的部分文件重新进行分配。
下载过程为:选择要下载的文件,向服务器发送一个下载请求,服务器接收到下载请求后,从数据库中查找该文件的块信息,一个节点想要搜索资源时,将带有所搜索资源的标识的搜索请求发送到中央服务器,中央服务器负责检索资源索引,告知资源请求者拥存放信息的节点及路径。服务器将文件块信息以XML格式发送给客户端。客户端根据接收到的文件块信息,为每个存储节点创建一个线程,将文件块并行下载到本地计算机临时文件夹中。客户端下载完所有文件块后,将其整合为一个完整的文件,并删除文件块。当服务器通过实时监控信息,发现某个节点失效时,立即将正在下载的部分文件重新进行分配。从数据节点选取合适的节点并且并行地发出读请求,读请求可以是针对不同的块也可以是同一个块的不同部分,但是不会是同一个块的同一个部分。不同的请求一般会发送到不同的数据节点。不同的数据节点接收到数据后进行内容汇聚,然后显示给用户。
USB接口把Internet中的海量数据经过网络机器人转化成数据流存储到多个节点数据文件中;接着云加工和云索引程序转化为程序流,流人到各个节点数据库中,并行处理多个节点文件中的数据,生成数据库文件存储在相应的节点上;用户输人查询信息,经过用户接口程序及云查询程序的处理,找到相关信息后转化成数据流反馈给用户。客户端通过主服务器获得区域所在的区域数据服务器,然后就直接与区域数据服务器进行交互。区域数据服务器之间不通信,只和主服务器进行通信,区域数据服务器受主服务器的监控和管理。
云存储被部署在互联网的某个骨干机房,可独立提供计算、存储、在线备份、托管、带宽等互联网基础设施服务。采用虚拟软件在一台服务器上虚拟出多个类似独立服务器的部分,每个部分都可以做单独的操作***,管理方法同服务器一样。
最后说明的是:以上述仅为说明本实用新型的实施方式,并不用于限制本实用新型,对于实用新型的技术人来说,凡在本实用新型的原则之内,所作的任何修改、替换等,均在包含在本实用新型的保护范围之内。

Claims (3)

1.一种基于云信息云计算服务的云存储终端设备,其特征是:由硬盘、控制模块、USB接口组成,硬盘和USB接口之间通过控制模块连接。
2.根据权利要求1所述的一种基于云信息云计算服务的云存储终端设备,其特征是:所述的硬盘由主服务控制机群、存储节点机群、应用节点机群、计算节点机群、输人设备和输出设备组成。
3.根据权利要求1所述的一种基于云信息云计算服务的云存储终端设备,其特征是:所述的控制模块由中央处理器、内存、固态存储器、无线网络模块、有线网络模块、VGA接口、COM接口、网络接口、MC接口、SPK接口组成。
CN 201220559171 2012-10-29 2012-10-29 一种基于云信息云计算服务的云存储终端设备 Expired - Fee Related CN202872848U (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 201220559171 CN202872848U (zh) 2012-10-29 2012-10-29 一种基于云信息云计算服务的云存储终端设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 201220559171 CN202872848U (zh) 2012-10-29 2012-10-29 一种基于云信息云计算服务的云存储终端设备

Publications (1)

Publication Number Publication Date
CN202872848U true CN202872848U (zh) 2013-04-10

Family

ID=48039531

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 201220559171 Expired - Fee Related CN202872848U (zh) 2012-10-29 2012-10-29 一种基于云信息云计算服务的云存储终端设备

Country Status (1)

Country Link
CN (1) CN202872848U (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104035728A (zh) * 2014-03-31 2014-09-10 深圳英飞拓科技股份有限公司 一种硬盘热插拔处理方法、装置及节点
CN104639592A (zh) * 2013-11-15 2015-05-20 华为技术有限公司 云存储网关间信息同步方法和***、及云存储网关
CN106557509A (zh) * 2015-09-29 2017-04-05 镇江雅迅软件有限责任公司 一种分布式文件***
CN108650283A (zh) * 2018-03-04 2018-10-12 长沙开雅电子科技有限公司 一种网盘***文件存储和标识实现方法
CN109313573A (zh) * 2016-06-30 2019-02-05 微软技术许可有限责任公司 数据库服务中的冷数据库的动态解激活

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104639592A (zh) * 2013-11-15 2015-05-20 华为技术有限公司 云存储网关间信息同步方法和***、及云存储网关
CN104639592B (zh) * 2013-11-15 2018-09-28 华为技术有限公司 云存储网关间信息同步方法和***、及云存储网关
US10200469B2 (en) 2013-11-15 2019-02-05 Huawei Technologies Co., Ltd. Method and system for information synchronization between cloud storage gateways, and cloud storage gateway
CN104035728A (zh) * 2014-03-31 2014-09-10 深圳英飞拓科技股份有限公司 一种硬盘热插拔处理方法、装置及节点
CN106557509A (zh) * 2015-09-29 2017-04-05 镇江雅迅软件有限责任公司 一种分布式文件***
CN109313573A (zh) * 2016-06-30 2019-02-05 微软技术许可有限责任公司 数据库服务中的冷数据库的动态解激活
US11169982B2 (en) 2016-06-30 2021-11-09 Microsoft Technology Licensing, Llc Dynamic deactivation of cold database in database service
CN109313573B (zh) * 2016-06-30 2022-07-01 微软技术许可有限责任公司 数据库服务中的冷数据库的动态解激活
CN108650283A (zh) * 2018-03-04 2018-10-12 长沙开雅电子科技有限公司 一种网盘***文件存储和标识实现方法

Similar Documents

Publication Publication Date Title
US10795905B2 (en) Data stream ingestion and persistence techniques
US11061714B2 (en) System for assignment of proxies for virtual-machine secondary copy operations
US10691716B2 (en) Dynamic partitioning techniques for data streams
US10298710B2 (en) Assigning data agent proxies for executing virtual-machine secondary copy operations including streaming backup jobs
US10467105B2 (en) Chained replication techniques for large-scale data streams
US9276959B2 (en) Client-configurable security options for data streams
US9794135B2 (en) Managed service for acquisition, storage and consumption of large-scale data streams
US20200349027A1 (en) Holistically protecting serverless applications across one or more cloud computing environments
US10635644B2 (en) Partition-based data stream processing framework
CA2930026C (en) Data stream ingestion and persistence techniques
Rao et al. Performance issues of heterogeneous hadoop clusters in cloud computing
CN103440244A (zh) 一种大数据存储优化方法
CN202872848U (zh) 一种基于云信息云计算服务的云存储终端设备
CN104050248A (zh) 一种文件存储***及存储方法
CN111352592B (zh) 磁盘读写控制方法、装置、设备及计算机可读存储介质
CN105095439A (zh) 一种图片专属安全存储云***
CN107203639A (zh) 基于高性能计算技术的并行文件***
US20230409535A1 (en) Techniques for resource utilization in replication pipeline processing
Posey et al. Infrastructure for transportation cyber-physical systems
CN107612990A (zh) 一种基于云信息云计算服务的云存储终端设备
US20240086417A1 (en) Techniques for replication-aware resource management and task management of file systems
WO2024012082A1 (zh) 大数据集群部署方法、装置、设备及介质
Posey et al. 1School of Computing, Clemson University, Clemson, SC, United States; 2Glenn Department of Civil Engineering, Clemson University, Clemson, SC, United States
Pawar et al. Structuring cloud computing using big data analytics solution: A survey

Legal Events

Date Code Title Description
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20130410

Termination date: 20131029