CN102546780A - 一种基于瘦客户端的文件分布式存储的运行方法 - Google Patents
一种基于瘦客户端的文件分布式存储的运行方法 Download PDFInfo
- Publication number
- CN102546780A CN102546780A CN2011104480409A CN201110448040A CN102546780A CN 102546780 A CN102546780 A CN 102546780A CN 2011104480409 A CN2011104480409 A CN 2011104480409A CN 201110448040 A CN201110448040 A CN 201110448040A CN 102546780 A CN102546780 A CN 102546780A
- Authority
- CN
- China
- Prior art keywords
- file
- client computer
- storage
- server
- client
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
一种基于瘦客户端的文件分布式存储的运行方法,属分布式存储技术领域,***包括瘦客户端等,运行步骤为:在MFS的客户机上搭建LAMP架构,将网络磁盘源文件部署于该架构的Apache下,在MFS的客户机上设置一个文件夹作为用户上传文件的存储目录,并将该目录作为客户机的挂载目录,客户机就基于该目录执行分布式读写操作,完成对用户上传文件的分布式存储,用户在瘦客户端上通过互联网访问Apache下的网络磁盘,就可看到网络磁盘的Web页面,执行文件的上传和下载操作。本发明方法改变了传统网络存储和本地存储模式,打破集中存储的单个服务器性能瓶颈,产生一种将网络存储和分布式存储结合的新型存储模式,大大改善存储性能。
Description
技术领域
本发明涉及一种基于瘦客户端的文件分布式存储的运行方法,属于分布式存储技术领域。
背景技术
随着云计算的应用和发展,将大量服务和资源放置在远程服务器集群上,用户只需从终端或者PC上访问所需要的资源的模式成为一种时代趋势。而对于这种模式,若采用价格昂贵、配置高端而且操作复杂的PC,就会造成本地资源的冗余和浪费。所以,基于“瘦客户端+网络+云计算服务器”的新型信息化模式应运而生。瘦客户端是一个本地无硬盘、只装有浏览器的客户端,配有最简单的输入(键盘、鼠标)和输出设备(显示器)来完成和网络通信的功能。鉴于瘦客户端在本地是没有存储空间的,那么如何对用户的私有文件进行有效存储和管理成为一个必须要解决的关键问题。本发明是通过网络磁盘和分布式存储***来完成对用户文件的安全有效存储,突破了传统的文件存储模式。
传统的文件存储分为本地存储和网络存储。其中,本地存储是将文件存储在计算机的硬盘之中,对硬盘的大小有很高要求。而网络存储是将文件数据集中存储在一个服务器上,存储服务器的性能成为***性能的瓶颈,也面临着可靠性和安全性的问题。而且目前的网络存储磁盘,如115网盘、126网盘、联想网盘等都是针对PC提供服务,往往还需要操作***的某些技术支持,存在着传输速度慢、安全性差、营运成本高、恢复能力低的问题。虽然为改善集中存储的服务器瓶颈,有不少负载均衡调度算法提出,但是仍然是基于集中存储,问题没有得到很好地解决,如专利号为200710152665,名称为《存储子***、主计算机、存储***、负载均衡方法和程序》的专利就属此列。
新型的分布式存储***是将大量不同类型的存储设备集合起来协同工作,将数据分散存储在多***立的设备上,形成一个安全的数据存储***,并且对外提供访问接口。它采用可扩展的***结构,利用多台存储服务器来分担存储负荷,通过管理服务器定位存储信息,大大提高了存储***的可靠性、可用性、可扩展性和存储效率。在数据访问量和文件存储量都很庞大的情况下,分布式存储***无疑是一种高效高可靠的存储方式。传统的存储模式已经不能够满足用户的需求,分布式存储将成为主流的存储模式。
发明内容
针对传统的文件存储模式的不足和瘦客户端本身的限制,本发明提出了一种基于瘦客户端的文件分布式存储的运行方法,旨在将传统的网络存储和分布式存储有机集合,提供一种基于瘦客户端的有效文件存储模式。
本发明的技术方案如下:
一种基于瘦客户端的文件分布式存储的运行方法,由以下***来实现,该***包括瘦客户端、网络磁盘和MooseFS(简称MFS),其中瘦客户端是基于嵌入式Linux操作***的客户端,它仅提供输入输出设备和Web浏览器;网络磁盘是基于Web的网络文件存储应用***;MFS是一种分布式文件***,其文件***结构包括管理服务器(master)、元数据日志服务器(metalogger)、数据存储服务器(chunkservers)和客户机(client),瘦客户端、网络磁盘和MFS三者之间的运作为:由多台物理服务器组成一个可扩展的服务器集群,在每台物理服务器上虚拟出多台基于Linux操作***的虚拟机,在服务器集群的虚拟机上搭建MFS,在MFS的客户机上搭建LAMP(Linux+Apache+MySQL+PHP)架构,将网络磁盘源文件放在Apache下,将网络磁盘数据库放在Mysql下,在MFS的客户机上设置一个文件夹作为用户上传文件的存储目录,并且将该存储目录作为客户机的挂载目录,客户机操作***的内核会把对该目录下文件的操作(新建、读取、修改)传递给fuse模块,这个模块会和mfsmount进程进行通信,mfsmount进程再通过网络与管理服务器和数据存储服务器进行通信,这样客户机就可以基于该存储目录执行分布式读写操作,用户在瘦客户端上通过互联网访问Apache下的网络磁盘,用户就能在瘦客户端的浏览器上看到网络磁盘的Web页面,执行文件的上传和下载操作,该运行方法步骤如下:
1)在服务器集群的虚拟机上搭建MFS,并且在MFS的客户机上部署LAMP架构,将网络磁盘源文件放置在LAMP架构的Apache下,网络磁盘的数据库文件放置在LAMP架构的MySQL下;
a)虚拟机选择:选择一台虚拟机作为管理服务器,选择另一台虚拟机作为元数据日志服务器,选择其它多台(>=3台)虚拟机作为数据存储服务器,另外再选择一台虚拟机作为客户机,这些虚拟机都是基于Linux操作***的;
b)部署管理服务器:设置编辑配置文件,指定可以远程挂载到MFS管理服务器的客户机的IP地址,并且授予该客户机访问权限;
c)部署元数据日志服务器:设置编辑配置文件,指明管理服务器的IP地址,用于进行数据备份,以便在管理服务器发生故障时进行数据转移和恢复;
d)部署数据存储服务器:新增一块硬盘单独为MFS进行文件存储,并且编辑配置文件,指明管理服务器的IP地址及通信端口;
e)部署客户机:安装fuse模块进行挂载部署;
2)修改PHP的配置文件,以增大用户可上传的文件大小;
3)在MFS的客户机上设置一个文件夹作为用户上传文件的存储目录,并且将该存储目录设定为客户机挂载到管理服务器的挂载目录;
4)启动MFS和LAMP架构下的Apache;
5)用户从瘦客户端浏览器登入到网络磁盘Web页面,注册并且登陆后,在存储目录中产生以该用户名命名的文件夹作为该用户的存储空间,然后分别转入步骤6)和步骤7);
6)用户基于自己的私有存储文件夹进行文件的上传操作,用户点击文件上传按钮,向客户机上的Apache提交上传请求,其响应之后,将文件上传到存储空间。客户机会向管理服务器发出写请求,MFS执行写操作,将存储目录下该用户的上传的文件分成多个数据块存储于数据存储服务器中,实现分布式存储,然后转入步骤8);
7)用户基于自己的私有存储文件夹进行文件的下载操作,用户点击下载按钮,向Apache提交请求,其响应之后,到文件存储空间读取文件。客户机会向管理服务器发出读请求,MFS执行读操作,从各个数据存储服务器中读取该文件的数据块信息,客户机将获取的数据块信息进行整合并且返回到挂载目录中,实现对分布式文件数据块的合并,然后转入下一步;
8)读写操作之后,用户通过瘦客户端看到网络磁盘Web页面更新之后的内容。
上述LAMP是搭建在MFS的客户机上的一组用来搭建动态网站或者服务器的开源软件,包括Linux、Apache、MySQL和PHP,共同组成了一个强大的Web应用程序平台。其中,Linux处在最低层,提供操作***;次低层是Apache,它是一个Web服务器,Apache提供可让用户获得Web页面的机制;MySQL是一个小型关系型数据库管理***,存储数据;PHP是英文超级文本预处理语言Hypertext Preprocessor的缩写,意为超级文本预处理,它一种HTML内嵌式语言,是一种在服务器端执行的嵌入HTML文档的脚本语言,语言的风格有类似于C语言,被广泛的运用。
上述网络磁盘是部署在LAMP架构下的网络文件存储应用***,其源文件是基于PHP语言编写,包括JavaScript、HTML、CSS、PHP和数据库文件。其中,JavaScript是一种基于对象和事件驱动并具有相对安全性的客户端脚本语言,同时也是一种广泛用于客户端Web开发的脚本语言,常用来给HTML网页添加动态功能;CSS是英语Cascading Style Sheets(层叠样式表单)的缩写,它是一种用来表现HTML或XML等文件式样的计算机语言。将网络磁盘源文件放在Apache下,数据库文件放在MySQL下,用户可以通过Apache获得该网络磁盘的Web页面。
上述服务器集群是将多台物理服务器集中起来一起进行同一种服务的集群,在用户看来就像是只有一个服务器。
上述虚拟机(Virtual Machine)是指通过软件模拟的具有完整硬件***功能的、运行在一个完全隔离环境中的完整计算机***。可以在一台物理计算机上模拟出一台或多台虚拟的计算机,这些虚拟机可以完全像真正的计算机那样进行工作。
上述Apache正是LAMP架构下的Web服务器,为用户提供访问Web页面的机制。
上述fuse模块是用户空间文件***(Filesystem in Userspace)模块,是Linux中用于挂载某些网络空间到本地文件***的模块。Fuse模块提供一个文件操作的接口,然后fuse在这个接口上监听文件操作,一旦有操作(新建、读取、修改)发生,fuse模块会把控制权交mfsmount进程进行处理。
上述mfsmount进程是MFS中对客户机上挂载目录中文件操作进行处理的进程,可以与MFS的管理服务器和数据存储服务器通过网络建立通信。
上述运行方法中步骤6)中的MFS执行写操作,步骤如下:
<1>客户机基于挂载目录向管理服务器发出写数据请求;
<2>管理服务器查询各个数据存储服务器的IP地址,并将各个IP地址返回给客户机;
<3>客户机与数据存储服务器建立通信,将用户上传的文件以数据块(chunk)写入到数据存储服务器,每个数据块最大为64MB,文件若小于64MB,则数据块的大小即为该文件大小,文件若超过64MB,则该文件将被均分,每一份数据块的大小以不超过64MB为原则,每个块被分散地存储在数据存储服务器的硬盘上,并且每个数据块可自主设定需要的备份数目,以提高***的容错性能和安全性能;
<4>各个数据存储服务器之间进行复制通信,保证每个数据块在不同的数据存储服务器上都有拷贝,以实现对数据的最优存储;
<5>各个数据存储服务器将成功写入的消息返回给客户机;
<6>客户机向管理服务器发出写入成功信号,结束本次写入操作。
通过上述过程,就实现了将用户上传的文件进行分布式存储的功能。
上述运行方法中步骤7)中的MFS执行读操作,步骤如下:
①客户机向管理服务器发出读文件数据的请求;
②管理服务器检索数据,获得存储该文件数据块的各个数据存储服务器IP地址,并将数据存储服务器的地址返回给客户机;
③客户机和各个数据存储服务器建立通信,向具体的数据存储服务器发起请求并读取数据;
④各个数据存储服务器将文件的数据块返回给客户机;
⑤客户机将读取的各个数据块进行合并处理,形成完整的文件,并向管理服务器发出读取成功信号,结束本次读取操作。
通过上述过程,就实现了将分布式存储的各个数据块合并成完整文件的功能。
本发明将传统的网络存储和MFS有机结合提供了一种基于瘦客户端的新的文件存储服务,将用户上传到网络磁盘上的文件分散成多个数据块放到不同的服务器上存储。实现的关键在于MFS的客户机上建有一个用于存储网络磁盘用户上传文件的存储目录,同时该目录也是MFS的客户机的挂载目录,通过mfsmount模块可以对该目录下的文件操作进行处理。所以,一旦用户上传文件到该目录下,就相当于该目录下发生了新建文件的操作,那么客户机的fuse模块就会将对该文件操作的控制权交给mfsmount模块处理,mfsmount模块则可以通过网络与管理服务器和数据存储服务器建立通信,将该目录下的文件分布式存储在各个数据存储服务器中。由此,网络磁盘和MFS在物理上通过这个存储目录建立起联系,将集中存储有效地变成了分布式存储。
本发明中的MFS是一个轻量级的分布式文件***。它主要包括四个部分:
a.管理服务器:只有一台,负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复多节点拷贝;
b.元数据日志服务器:负责备份管理服务器变化的日志文件,以便于在管理服务器出现问题的时候接替其进行工作;元数据日志服务器的存在有效地解决了MFS***只有一台管理服务器的弊端,避免了单点故障,提高了***的安全性和可恢复性;
c.数据存储服务器:可有多台,负责连接管理服务器,听从管理服务器的管理调度,提供存储空间,并为客户提供数据传输。在数据存储服务器启动后,会主动与管理服务器联系,让管理服务器知道有多少数据存储服务器在网络中;
d.客户机:可有多台,通过内核加载fuse模块,再通过和管理服务器的沟通,将数据存储服务器共享的分区挂载到本地,然后进行读写操作。MFS的高可用性是通过在多个数据存储服务器上来存储每个文件的多个副本来实现的。数据文件被分成很多个数据块,每个数据块最大为64MB,每个数据块在数据存储服务器上都表现为一个独立的文件。数据存储服务器之间可以通过通信完成数据的拷贝,以实现对一个文件的每个数据块的多副本存储。对于客户机,其对文件的所有操作会通过操作***转交给fuse模块,并通过fuse模块与mfsmount进程通信。而mfsmount进程将通过网络与管理服务器和数据存储服务器进行沟通。在客户机上,对挂载于MFS上的文件进行操作与在本地是完全一致的。
本发明运行方法的优势在于改变传统的网络存储和本地存储模式,打破集中存储的单个服务器性能瓶颈,产生一种将网络存储和分布式存储结合的新型存储模式,大大改善存储性能。
附图说明
图1是本发明运行方法的流程框图。其中,1)-8)为其各个步骤。
图2是本发明运行方法中步骤6)中的执行MFS文件的写操作的流程框图。其中,<1>-<6>为其各个步骤。
图3是本发明运行方法中步骤7)中的执行MFS文件的读操作的流程框图。其中,①-⑤为其各个步骤。
具体实施方式
下面结合附图和实施例对本发明做进一步说明,但不限于此。
实施例:
本发明实施例如图1所示,一种基于瘦客户端的文件分布式存储的运行方法,由以下***来实现,该***包括瘦客户端、网络磁盘和MooseFS(简称MFS),其中瘦客户端是基于嵌入式Linux操作***的客户端,它仅提供输入输出设备和web浏览器;网络磁盘是基于Web的网络文件存储应用***;MooseFS是一种分布式文件***,其文件***结构包括管理服务器(master)、元数据日志服务器(metalogger)、数据存储服务器(chunkservers)和客户机(client),瘦客户端、网络磁盘和MFS三者之间的运作为:由多台物理服务器组成一个可扩展的服务器集群,在每台物理服务器上虚拟出多台基于Linux操作***的虚拟机,在服务器集群的虚拟机上搭建MFS,在MFS的客户机上搭建LAMP(Linux+Apache+MySQL+PHP)架构,将网络磁盘源文件放在Apache下,将网络磁盘数据库放在Mysql下,在MFS的客户机上设置一个文件夹作为用户上传文件的存储目录,并且将该存储目录作为客户机的挂载目录,客户机操作***的内核会把对该目录下文件的操作(新建、读取、修改)传递给fuse模块,这个模块会和mfsmount进程进行通信,mfsmount进程再通过网络与管理服务器和数据存储服务器进行通信,这样客户机就可以基于该存储目录执行分布式读写操作,用户在瘦客户端上通过互联网访问Apache下的网络磁盘,用户就能在瘦客户端的浏览器上看到网络磁盘的Web页面,执行文件的上传和下载操作,该运行方法步骤如下:
1)在服务器集群的虚拟机上搭建MFS,并且在MFS的客户机上部署LAMP架构,将网络磁盘源文件放置在LAMP架构的Apache下,网络磁盘的数据库文件放置在LAMP架构的MySQL下;
a)虚拟机选择:选择一台虚拟机作为管理服务器,选择另一台虚拟机作为元数据日志服
务器,选择其它3台虚拟机作为数据存储服务器,另外再选择一台虚拟机作为客户机,
这些虚拟机都是基于Linux操作***的;
b)部署管理服务器:设置编辑配置文件,指定可以远程挂载到MFS管理服务器的客户机的IP地址,并且授予该客户机访问权限;
c)部署元数据日志服务器:设置编辑配置文件,指明管理服务器的IP地址,用于进行数据备份,以便在管理服务器发生故障时进行数据转移和恢复;
d)部署数据存储服务器:新增一块硬盘单独为MFS进行文件存储,并且编辑配置文件,指明管理服务器的IP地址及通信端口;
e)部署客户机:安装fuse模块进行挂载部署;
2)修改PHP的配置文件,以增大用户可上传的文件大小;
3)在MFS的客户机上设置一个文件夹作为用户上传文件的存储目录,并且将该存储目录设定为客户机挂载到管理服务器的挂载目录;
4)启动MFS和LAMP架构下的Apache;
5)用户从瘦客户端浏览器登入到网络磁盘Web页面,注册并且登陆后,在存储目录中产生以该用户名命名的文件夹作为该用户的存储空间,然后分别转入步骤6)和步骤7);
6)用户基于自己的私有存储文件夹进行文件的上传操作,用户点击文件上传按钮,向客户机上的Apache提交上传请求,其响应之后,将文件上传到存储空间。客户机会向管理服务器发出写请求,MFS执行写操作,将存储目录下该用户的上传的文件分成多个数据块存储于数据存储服务器中,实现分布式存储,然后转入步骤8);
7)用户基于自己的私有存储文件夹进行文件的下载操作,用户点击下载按钮,向Apache提交请求,其响应之后,到文件存储空间读取文件。客户机会向管理服务器发出读请求,MFS执行读操作,从各个数据存储服务器中读取该文件的数据块信息,客户机将获取的数据块信息进行整合并且返回到挂载目录中,实现对分布式文件数据块的合并,然后转入下一步;
8)读写操作之后,用户通过瘦客户端看到网络磁盘Web页面更新之后的内容。
上述运行方法中步骤6)中的MFS执行写操作,如图2所示,步骤如下:
<1>客户机基于挂载目录向管理服务器发出写数据请求;
<2>管理服务器查询各个数据存储服务器的IP地址,并将各个IP地址返回给客户机;
<3>客户机与数据存储服务器建立通信,将用户上传的文件以数据块(chunk)写入到数据存储服务器,每个数据块最大为64MB,文件若小于64MB,则数据块的大小即为该文件大小,文件若超过64MB,则该文件将被均分,每一份数据块的大小以不超过64MB为原则,每个块被分散地存储在数据存储服务器的硬盘上,并且每个数据块可自主设定需要的备份数目,以提高***的容错性能和安全性能;
<4>各个数据存储服务器之间进行复制通信,保证每个数据块在不同的数据存储服务器上都有拷贝,以实现对数据的最优存储;
<5>各个数据存储服务器将成功写入的消息返回给客户机;
<6>客户机向管理服务器发出写入成功信号,结束本次写入操作。
通过上述过程,就实现了将用户上传的文件进行分布式存储的功能。
上述运行方法中步骤7)中的MFS执行读操作,如图3所示,步骤如下:
①客户机向管理服务器发出读文件数据的请求;
②管理服务器检索数据,获得存储该文件数据块的各个数据存储服务器IP地址,并将数据存储服务器的地址返回给客户机;
③客户机和各个数据存储服务器建立通信,向具体的数据存储服务器发起请求并读取数据;
④各个数据存储服务器将文件的数据块返回给客户机;
⑤客户机将读取的各个数据块进行合并处理,形成完整的文件,并向管理服务器发出读取成功信号,结束本次读取操作。
Claims (3)
1.一种基于瘦客户端的文件分布式存储的运行方法,由以下***来实现,该***包括瘦客户端、网络磁盘和MooseFS,其中瘦客户端是基于嵌入式Linux操作***的客户端,它仅提供输入输出设备和web浏览器;网络磁盘是基于Web的网络文件存储应用***;MooseFS是一种分布式文件***,其文件***结构包括管理服务器、元数据日志服务器、数据存储服务器和客户机,瘦客户端、网络磁盘和MFS三者之间的运作为:由多台物理服务器组成一个可扩展的服务器集群,在每台物理服务器上虚拟出多台基于Linux操作***的虚拟机,在服务器集群的虚拟机上搭建MFS,在MFS的客户机上搭建LAMP架构,将网络磁盘源文件放在Apache下,将网络磁盘数据库放在Mysql下,在MFS的客户机上设置一个文件夹作为用户上传文件的存储目录,并且将该存储目录作为客户机的挂载目录,客户机操作***的内核会把对该目录下文件的操作传递给fuse模块,这个模块会和mfsmount进程进行通信,mfsmount进程再通过网络与管理服务器和数据存储服务器进行通信,这样客户机就可以基于该存储目录执行分布式读写操作,用户在瘦客户端上通过互联网访问Apache下的网络磁盘,用户就能在瘦客户端的浏览器上看到网络磁盘的Web页面,执行文件的上传和下载操作,该运行方法步骤如下:
1)在服务器集群的虚拟机上搭建MFS,并且在MFS的客户机上部署LAMP架构,将网络磁盘源文件放置在LAMP架构的Apache下,网络磁盘的数据库文件放置在LAMP架构的MySQL下;
a)虚拟机选择:选择一台虚拟机作为管理服务器,选择另一台虚拟机作为元数据日志服务器,选择其它3台或4台虚拟机作为数据存储服务器,另外再选择一台虚拟机作为客户机,这些虚拟机都是基于Linux操作***的;
b)部署管理服务器:设置编辑配置文件,指定可以远程挂载到MFS管理服务器的客户机的IP地址,并且授予该客户机访问权限;
c)部署元数据日志服务器:设置编辑配置文件,指明管理服务器的IP地址,用于进行数据备份,以便在管理服务器发生故障时进行数据转移和恢复;
d)部署数据存储服务器:新增一块硬盘单独为MFS进行文件存储,并且编辑配置文件,指明管理服务器的IP地址及通信端口;
e)部署客户机:安装fuse模块进行挂载部署;
2)修改PHP的配置文件,以增大用户可上传的文件大小;
3)在MFS的客户机上设置一个文件夹作为用户上传文件的存储目录,并且将该存储目录设定为客户机挂载到管理服务器的挂载目录;
4)启动MFS和LAMP架构下的Apache;
5)用户从瘦客户端浏览器登入到网络磁盘Web页面,注册并且登陆后,在存储目录中产生以该用户名命名的文件夹作为该用户的存储空间,然后分别转入步骤6)和步骤7);
6)用户基于自己的私有存储文件夹进行文件的上传操作,用户点击文件上传按钮,向客户机上的Apache提交上传请求,其响应之后,将文件上传到存储空间。客户机会向管理服务器发出写请求,MFS执行写操作,将存储目录下该用户的上传的文件分成多个数据块存储于数据存储服务器中,实现分布式存储,然后转入步骤8);
7)用户基于自己的私有存储文件夹进行文件的下载操作,用户点击下载按钮,向Apache提交请求,其响应之后,到文件存储空间读取文件。客户机会向管理服务器发出读请求,MFS执行读操作,从各个数据存储服务器中读取该文件的数据块信息,客户机将获取的数据块信息进行整合并且返回到挂载目录中,实现对分布式文件数据块的合并,然后转入下一步;
8)读写操作之后,用户通过瘦客户端看到网络磁盘Web页面更新之后的内容。
2.如权利要求1所述的运行方法的步骤6)中的MFS执行写操作,步骤如下:
<1>客户机基于挂载目录向管理服务器发出写数据请求;
<2>管理服务器查询各个数据存储服务器的IP地址,并将各个IP地址返回给客户机;
<3>客户机与数据存储服务器建立通信,将用户上传的文件以数据块写入到数据存储服务器,每个数据块最大为64MB,文件若小于64MB,则数据块的大小即为该文件大小,文件若超过64MB,则该文件将被均分,每一份数据块的大小以不超过64MB为原则,每个块被分散地存储在数据存储服务器的硬盘上,并且每个数据块可自主设定需要的备份数目,以提高***的容错性能和安全性能;
<4>各个数据存储服务器之间进行复制通信,保证每个数据块在不同的数据存储服务器上都有拷贝,以实现对数据的最优存储;
<5>各个数据存储服务器将成功写入的消息返回给客户机;
<6>客户机向管理服务器发出写入成功信号,结束本次写入操作。
通过上述过程,就实现了将用户上传的文件进行分布式存储的功能。
3.如权利要求1所述的运行方法的步骤7)中的MFS执行读操作,步骤如下:
①客户机向管理服务器发出读文件数据的请求;
②管理服务器检索数据,获得存储该文件数据块的各个数据存储服务器IP地址,并将数据存储服务器的地址返回给客户机;
③客户机和各个数据存储服务器建立通信,向具体的数据存储服务器发起请求并读取数据;
④各个数据存储服务器将文件的数据块返回给客户机;
⑤客户机将读取的各个数据块进行合并处理,形成完整的文件,并向管理服务器发出读取成功信号,结束本次读取操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110448040.9A CN102546780B (zh) | 2011-12-28 | 2011-12-28 | 一种基于瘦客户端的文件分布式存储的运行方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110448040.9A CN102546780B (zh) | 2011-12-28 | 2011-12-28 | 一种基于瘦客户端的文件分布式存储的运行方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102546780A true CN102546780A (zh) | 2012-07-04 |
CN102546780B CN102546780B (zh) | 2014-04-16 |
Family
ID=46352726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110448040.9A Active CN102546780B (zh) | 2011-12-28 | 2011-12-28 | 一种基于瘦客户端的文件分布式存储的运行方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102546780B (zh) |
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102917050A (zh) * | 2012-10-17 | 2013-02-06 | 山东大学 | 基于安卓嵌入式瘦客户端的远程安全监控***及监控方法 |
CN103024020A (zh) * | 2012-12-05 | 2013-04-03 | 蓝盾信息安全技术股份有限公司 | 基于web应用的网络数据文件存储方法及装置 |
CN103067505A (zh) * | 2012-12-30 | 2013-04-24 | 乐视网信息技术(北京)股份有限公司 | 一种上传文件到服务器的方法 |
CN103458048A (zh) * | 2013-09-16 | 2013-12-18 | 浪潮电子信息产业股份有限公司 | 一种基于云计算的考试***搭建方法 |
CN104090913A (zh) * | 2014-06-10 | 2014-10-08 | 深圳市深信服电子科技有限公司 | 基于瘦客户机的文件操作方法及装置 |
CN105069009A (zh) * | 2015-07-06 | 2015-11-18 | 无锡天脉聚源传媒科技有限公司 | 一种上传、下载文件夹的方法及装置 |
CN105490999A (zh) * | 2014-12-23 | 2016-04-13 | 哈尔滨安天科技股份有限公司 | 一种基于xmpp协议的分布式存储*** |
CN105975328A (zh) * | 2016-04-29 | 2016-09-28 | 上海交通大学 | 基于安全虚拟机的日志文件安全审计***及方法 |
CN106202350A (zh) * | 2016-07-05 | 2016-12-07 | 浪潮(北京)电子信息产业有限公司 | 一种分布式文件***自动精简配置的方法及*** |
CN103747064B (zh) * | 2013-12-26 | 2017-06-20 | 广东中科遥感技术有限公司 | 基于MooseFS分布文件***的挂载方法、客户端及*** |
CN106993004A (zh) * | 2017-06-12 | 2017-07-28 | 深圳市永达电子信息股份有限公司 | 一种在bs架构***中上传超大附件的方法 |
CN107454053A (zh) * | 2016-05-31 | 2017-12-08 | 卡巴斯基实验室股份制公司 | 在分布式网络中检测虚拟机上的恶意文件的***和方法 |
CN107580232A (zh) * | 2017-09-28 | 2018-01-12 | 郑州云海信息技术有限公司 | 一种视频直播***及方法 |
CN105242988B (zh) * | 2015-10-10 | 2018-02-02 | 国家电网公司 | 分布式文件***和分布式文件***的数据备份方法 |
CN107707507A (zh) * | 2016-08-08 | 2018-02-16 | 深圳中电长城信息安全***有限公司 | 基于安全池网络数据传输的控制方法和*** |
CN107733667A (zh) * | 2016-08-10 | 2018-02-23 | 北京京东尚科信息技术有限公司 | 一种日志管理方法和*** |
CN107832423A (zh) * | 2017-11-13 | 2018-03-23 | 中山大学 | 一种用于分布式文件***的文件读写方法 |
CN109726041A (zh) * | 2017-10-27 | 2019-05-07 | 伊姆西Ip控股有限责任公司 | 恢复虚拟机磁盘中的文件的方法、设备和计算机可读介质 |
CN109725913A (zh) * | 2017-10-27 | 2019-05-07 | 北京京东尚科信息技术有限公司 | 数据更新的方法和装置 |
CN109977083A (zh) * | 2019-03-27 | 2019-07-05 | 深圳市云语科技有限公司 | 一种基于文件***挂载盘技术的文件传输*** |
CN110321077A (zh) * | 2019-06-17 | 2019-10-11 | 浩云科技股份有限公司 | 一种集中存储文件的管理方法及装置 |
CN112667565A (zh) * | 2020-12-30 | 2021-04-16 | 湖南博匠信息科技有限公司 | 一种基于fuse的存储单元文件管理方法及*** |
CN112764830A (zh) * | 2021-01-19 | 2021-05-07 | 长沙证通云计算有限公司 | 一种应用于国产化替代的数据迁移方法及*** |
CN114895852A (zh) * | 2022-05-09 | 2022-08-12 | 北京星辰天合科技股份有限公司 | 数据处理方法、***、装置、存储介质以及电子设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101135971A (zh) * | 2006-09-01 | 2008-03-05 | 环达电脑(上海)有限公司 | 基于个人计算机硬件设备的接入路由器安装配置方法 |
CN102012933A (zh) * | 2010-12-02 | 2011-04-13 | 清华大学 | 分布式文件***及利用其存储数据和提供服务的方法 |
-
2011
- 2011-12-28 CN CN201110448040.9A patent/CN102546780B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101135971A (zh) * | 2006-09-01 | 2008-03-05 | 环达电脑(上海)有限公司 | 基于个人计算机硬件设备的接入路由器安装配置方法 |
CN102012933A (zh) * | 2010-12-02 | 2011-04-13 | 清华大学 | 分布式文件***及利用其存储数据和提供服务的方法 |
Non-Patent Citations (1)
Title |
---|
S._J.S.TSAI,MEMBER,IEEE,AND C.C.LUO: "synchronized power-quality measurement network with LAMP", 《IEEE/IEE ELECTRONIC LIBRARY(IEL)数据库》, vol. 24, no. 1, 31 January 2009 (2009-01-31) * |
Cited By (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102917050A (zh) * | 2012-10-17 | 2013-02-06 | 山东大学 | 基于安卓嵌入式瘦客户端的远程安全监控***及监控方法 |
CN103024020A (zh) * | 2012-12-05 | 2013-04-03 | 蓝盾信息安全技术股份有限公司 | 基于web应用的网络数据文件存储方法及装置 |
CN103024020B (zh) * | 2012-12-05 | 2015-06-03 | 蓝盾信息安全技术股份有限公司 | 基于web应用的网络数据文件存储方法及装置 |
CN103067505A (zh) * | 2012-12-30 | 2013-04-24 | 乐视网信息技术(北京)股份有限公司 | 一种上传文件到服务器的方法 |
CN103458048A (zh) * | 2013-09-16 | 2013-12-18 | 浪潮电子信息产业股份有限公司 | 一种基于云计算的考试***搭建方法 |
CN103747064B (zh) * | 2013-12-26 | 2017-06-20 | 广东中科遥感技术有限公司 | 基于MooseFS分布文件***的挂载方法、客户端及*** |
CN104090913B (zh) * | 2014-06-10 | 2017-11-03 | 深信服科技股份有限公司 | 基于瘦客户机的文件操作方法及装置 |
CN104090913A (zh) * | 2014-06-10 | 2014-10-08 | 深圳市深信服电子科技有限公司 | 基于瘦客户机的文件操作方法及装置 |
CN105490999A (zh) * | 2014-12-23 | 2016-04-13 | 哈尔滨安天科技股份有限公司 | 一种基于xmpp协议的分布式存储*** |
CN105069009A (zh) * | 2015-07-06 | 2015-11-18 | 无锡天脉聚源传媒科技有限公司 | 一种上传、下载文件夹的方法及装置 |
CN105242988B (zh) * | 2015-10-10 | 2018-02-02 | 国家电网公司 | 分布式文件***和分布式文件***的数据备份方法 |
CN105975328A (zh) * | 2016-04-29 | 2016-09-28 | 上海交通大学 | 基于安全虚拟机的日志文件安全审计***及方法 |
CN105975328B (zh) * | 2016-04-29 | 2019-10-08 | 上海交通大学 | 基于安全虚拟机的日志文件安全审计***及方法 |
CN107454053B (zh) * | 2016-05-31 | 2020-07-21 | 卡巴斯基实验室股份制公司 | 在分布式网络中检测虚拟机上的恶意文件的***和方法 |
CN107454053A (zh) * | 2016-05-31 | 2017-12-08 | 卡巴斯基实验室股份制公司 | 在分布式网络中检测虚拟机上的恶意文件的***和方法 |
CN106202350A (zh) * | 2016-07-05 | 2016-12-07 | 浪潮(北京)电子信息产业有限公司 | 一种分布式文件***自动精简配置的方法及*** |
CN107707507A (zh) * | 2016-08-08 | 2018-02-16 | 深圳中电长城信息安全***有限公司 | 基于安全池网络数据传输的控制方法和*** |
CN107733667A (zh) * | 2016-08-10 | 2018-02-23 | 北京京东尚科信息技术有限公司 | 一种日志管理方法和*** |
CN107733667B (zh) * | 2016-08-10 | 2021-05-25 | 北京京东尚科信息技术有限公司 | 一种日志管理方法和*** |
CN106993004A (zh) * | 2017-06-12 | 2017-07-28 | 深圳市永达电子信息股份有限公司 | 一种在bs架构***中上传超大附件的方法 |
CN107580232A (zh) * | 2017-09-28 | 2018-01-12 | 郑州云海信息技术有限公司 | 一种视频直播***及方法 |
CN109725913A (zh) * | 2017-10-27 | 2019-05-07 | 北京京东尚科信息技术有限公司 | 数据更新的方法和装置 |
CN109726041B (zh) * | 2017-10-27 | 2023-09-08 | 伊姆西Ip控股有限责任公司 | 恢复虚拟机磁盘中的文件的方法、设备和计算机可读介质 |
CN109726041A (zh) * | 2017-10-27 | 2019-05-07 | 伊姆西Ip控股有限责任公司 | 恢复虚拟机磁盘中的文件的方法、设备和计算机可读介质 |
CN107832423A (zh) * | 2017-11-13 | 2018-03-23 | 中山大学 | 一种用于分布式文件***的文件读写方法 |
CN107832423B (zh) * | 2017-11-13 | 2020-05-15 | 中山大学 | 一种用于分布式文件***的文件读写方法 |
CN109977083B (zh) * | 2019-03-27 | 2021-04-06 | 深圳市瑞云科技有限公司 | 一种基于文件***挂载盘技术的文件传输*** |
CN109977083A (zh) * | 2019-03-27 | 2019-07-05 | 深圳市云语科技有限公司 | 一种基于文件***挂载盘技术的文件传输*** |
CN110321077A (zh) * | 2019-06-17 | 2019-10-11 | 浩云科技股份有限公司 | 一种集中存储文件的管理方法及装置 |
CN110321077B (zh) * | 2019-06-17 | 2023-04-14 | 浩云科技股份有限公司 | 一种集中存储文件的管理方法及装置 |
CN112667565A (zh) * | 2020-12-30 | 2021-04-16 | 湖南博匠信息科技有限公司 | 一种基于fuse的存储单元文件管理方法及*** |
CN112764830A (zh) * | 2021-01-19 | 2021-05-07 | 长沙证通云计算有限公司 | 一种应用于国产化替代的数据迁移方法及*** |
CN114895852A (zh) * | 2022-05-09 | 2022-08-12 | 北京星辰天合科技股份有限公司 | 数据处理方法、***、装置、存储介质以及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN102546780B (zh) | 2014-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102546780B (zh) | 一种基于瘦客户端的文件分布式存储的运行方法 | |
US11068395B2 (en) | Cached volumes at storage gateways | |
Shan et al. | Distributed shared persistent memory | |
US10296494B2 (en) | Managing a global namespace for a distributed filesystem | |
US9852150B2 (en) | Avoiding client timeouts in a distributed filesystem | |
US9811532B2 (en) | Executing a cloud command for a distributed filesystem | |
US9811662B2 (en) | Performing anti-virus checks for a distributed filesystem | |
Nicolae et al. | BlobSeer: Bringing high throughput under heavy concurrency to Hadoop Map-Reduce applications | |
US9268651B1 (en) | Efficient recovery of storage gateway cached volumes | |
US9274956B1 (en) | Intelligent cache eviction at storage gateways | |
US9559889B1 (en) | Cache population optimization for storage gateways | |
CN102571905A (zh) | 为在线服务管理网络和机器 | |
JPWO2013061388A1 (ja) | 情報処理システム、及び、それを用いたファイル復元方法 | |
Dwivedi et al. | Analytical review on Hadoop Distributed file system | |
CN102523101A (zh) | 机器管理器服务结构 | |
US20210055885A1 (en) | Enhanced data access using composite data views | |
US11818012B2 (en) | Online restore to different topologies with custom data distribution | |
Jin et al. | Checkpointing orchestration: Toward a scalable hpc fault-tolerant environment | |
Won et al. | Moving metadata from ad hoc files to database tables for robust, highly available, and scalable HDFS | |
Azagury et al. | GPFS-based implementation of a hyperconverged system for software defined infrastructure | |
Wei et al. | DSC: Dynamic stripe construction for asynchronous encoding in clustered file system | |
Arteaga et al. | Towards scalable application checkpointing with parallel file system delegation | |
Liu et al. | User-oriented Mobile Filesystem Middleware for Mobile Cloud Systems. | |
Gu et al. | Sector and sphere: Towards simplified storage and processing of large scale distributed data | |
Bortnikov | Open-source grid technologies for web-scale computing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |