CN103237042A - 一种基于xen的弹性云平台存储和调度***模型 - Google Patents
一种基于xen的弹性云平台存储和调度***模型 Download PDFInfo
- Publication number
- CN103237042A CN103237042A CN2012104884074A CN201210488407A CN103237042A CN 103237042 A CN103237042 A CN 103237042A CN 2012104884074 A CN2012104884074 A CN 2012104884074A CN 201210488407 A CN201210488407 A CN 201210488407A CN 103237042 A CN103237042 A CN 103237042A
- Authority
- CN
- China
- Prior art keywords
- data
- virtual
- distributed
- virtual machine
- file system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种基于XEN的弹性云平台存储和调度***模型,平台中虚拟机都是运行在XEN上,而虚拟机所需要的虚拟磁盘是从分布式虚拟块存储DVBD上模拟出来的,DVBD是基于Hbase以及HDFS上的,而HDFS是Hadoop上的一款分布式文件***,上面所有的数据都是冗余备份的,同时也保证了虚拟机中数据的安全性;另外由于HDFS上的数据是分布式的,与物理位置无关,这意味着我们的虚拟机是跟物理位置无关的。当某一台虚拟机发生故障的时候,平台可以轻松的对它切换或迁移。保证了数据可靠和可持续性;平台中还包括调度***,负责对平台的虚拟机进行资源调度。
Description
技术领域
本发明涉及计算机应用领域,特别是涉及一种虚拟存储和调度***的设计
背景技术
随这互联网企业规模的壮大,几乎所有的企业面临以下几个问题:
(1)保证数据的安全:而随着服务器集群的壮大,机器硬盘出现故障是一件非常平常的事情。但是硬盘上的数据不能丢失的,因为数据是互联网企业的生命线,可以说丢失了数据,这个互联网企业可能就丢失了发展的机会。因此所有的互联网企业必须得保证即使物理机硬盘坏掉,数据也不能丢失。
(2)保证服务的可靠性:为了提高用户的体验,互联网上的服务必须是要全天24小时服务的,所以互联网企业要保证即使某些物理机crash掉,这些服务不应浚受到任何的影响。
(3)成本的降低:随着互鞋网的壮大,企业的成本也在急剧增加。据了解,国内某家互联网公司一年的电费都已经超过1亿元,再加上一般企业每年都要更换三分之一的服务器,这些费用都是各大互联网企业所难以承受的。可以说在未来竞争愈束愈强的互联中,谁降低了成本,谁将赢的了天下。
(4)提高资源利用率:由于互联网服务器压力的不平均性,导致了服务器的平均利用率下降。绝大部分web服务器的平均利用率基本保持在10%左右。目前国内互联金业资源利用率较国外还有较大的差距。
发明内容
本发明所要解决的技术问题是提供一种XEN的弹性云平台,解决资源利用率低的问题。
为实现上述发明目的,本发明提供分布式虚拟块存储设计,包括HDFS、Hbase。
所述HDFS,用于:保障数据安全性,由于所有的数据都是有副本备份的,所以个别机器的损坏并不会造成数据的丢失;其次,在分布式文件***中,用户读取远程的文件或者本地的文件***都是一样的。所以文件的具体存放路径、机器位置等,对于用户来说都是透明的。
所述Hbase,用于:解决互联网企业数据急剧膨胀,而传统的关系型数据慢慢的难以支撑如此海量的数据。随着云计算的发展,将会大大推进分布式数据库的发展。和所有普通的KEY-VALEU一样,Hbase提供三个接口:
(1)get(key):根据key取得相应value;
(2)put(key,value):新建一个key/value对,或者更新已经存在的key对应的value;
(3)delete(key):删除一个key及其对应的value。
本发明还提供一种基于XEN弹性云平台调度***,包括:Master、Cluster、Agent
所述Master,用于:调度***的核心,***中所有的物理资源以及VM运行状态都保存在Master中,所有的VM都在它的控制之中。同时还负责接收外部消息。
所述Cluster,用于:负责VM的状态维护以及消息的转发。
所述Agent,用于:控制VM,运行在每一台物理机上,负责控制虚拟机,例如配置虚拟机,上报虚拟机心跳等。
优选的有,上述方法中,还包括:命令消息处理、心跳消息以及VM运行数据处理。
由上述方案可以看出,本发明中虚拟块存储结合资源调度***构成弹性云平台,解决虚拟机资源利用率的问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明弹性云平台总体框架;
图2为本发明实施例一中HDFS架构图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例一,参见图2。
本发明提供一种基于分布式的块存储设计,所述***包括HDFS。
其中:
HDFS、Hbase。
所述HDFS,用于:保障数据安全性,由于所有的数据都是有副本备份的,所以个别机器的损坏并不会造成数据的丢失;其次,在分布式文件***中,用户读取远程的文件或者本地的文件***都是一样的。所以文件的具体存放路径、机器位置等,对于用户来说都是透明的。
所述Hbase,用于:解决互联网企业数据急剧膨胀,而传统的关系型数据慢慢的难以支撑如此海量的数据。随着云计算的发展,将会大大推进分布式数据库的发展。和所有普通的KEY-VALEU一样,Hbase提供三个接口:
(1)get(key):根据key取得相应value;
(2)put(key,value):新建一个key/value对,或者更新已经存在的key对应的value;
(3)delete(key):删除一个key及其对应的value。
上述***的工作过程参见图2,具体包括以下步骤:
采用master/slave模式。这种模式下,读是从多点读的,当写的时候,需要向集群中所有的副本写入数据。比如图中读valuel的时候,可以随便找一台拥有valuel的数据,而当写入value3的时候,需要想所有的副本机器写入vahe3,也就是图中的三台机器。这样一来就加快了数据读取速度并保证的数据的安全,就算某一台机器挂了,数据依然健在,另外在HDFS中,我们看到有一个统一的NameNodes,这台机器里面存放了元数据(Metadata).这个Metadata里面保
存了该数据的具体存放位置等基础信息。当然NameNodes仅仅是一个数据的管理者,它管理着所有数据的副本控制、DataNodes的心跳等等。但是所有的数据并不会经过这里,这样就可以大大提高了NameNodes的安全性。当然由于NameNodes是全局数据的唯一管理者,所以给NameNodes加上一个HA服务器。
由上可见,本发明提供的HDFS对于普通的文件***,有以下优点。
(1)数据安全性:由于所有的数据都是有副本备份的,所以个别机器的损坏并不会造成数据的丢失。
(2)资源共享:在分布式文件***中,用户读取远程的文件或者本她的文件
实施例一,参见图1、图2
本发明还提供一种基于XEN弹性云平台调度***,包括:Master、Cluster、Agent
所述Master,用于:调度***的核心,***中所有的物理资源以及VM运行状态都保存在Master中,所有的VM都在它的控制之中。同时还负责接收外部消息。
所述Cluster,用于:负责VM的状态维护以及消息的转发。
所述Agent,用于:控制VM,运行在每一台物理机上,负责控制虚拟机,例如配置虚拟机,上报虚拟机心跳等。
通过以上的方法实施例的描述,所属领域的技术人员可以清楚地了解到本发明通过提出分布式虚拟块存、调度***设计,满足虚拟化***中对资源利用率低的问题,用友增强XEN环境下安全性,降低成本等优点。
以上所述仅是本发明的具体实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (6)
1.一种基于XEN的弹性云平台存储和调度***模型,其特征在于,在一个分布式文件***上虚拟出一个个块存储设备,硬盘数据都是存放在分布式文件***中,所有的数据都会被打散的分部在多台物理机上。
2.根据权利要求1所述的方法,其特征在于,优化资源分配:整个弹性云平台的一大目的就是降低成本,尽量挖掘服务器的潜能。所以分配虚拟机遵循一定策略,将多台高I/O的VM集中在某一台物理机,由于物理机总体I/O是有限的,所以这样的分配会导致CPU空闲,I/O却严重不足,但是如果将这些高I/O的VM和那些高计算的VM分配在一起,整体***的利用率就提升。
3.根据权利要求1所述的方法,其特征在于,保证虚拟机的健壮运行:弹性云平台另一大目标是为了保证服务的不中断、数据的安全性,所以整个调度***需要去维护自己名下所有虚拟机的运行状态,当某一台虚拟机出现故障的时候,就可以根据一定策略对其进行恢复,当然这里恢复包括人工恢复以及自动故障切换,总而言之就是调度***需要实时维护VM状态,并根据相应的故障做出正确的处理。
4.根据权利要求1所述的方法,其特征在于,虚拟机运行数据的采集:通过收集VM的运行数据,并根据这些数据去评判VM的类型。
5.根据权利要求1所述的方法,其特征在于,还包括:分布式文件***中的数据冗余备份保证了数据的安全性。而运行在分布式虚拟块存储设备之上的虚拟机,因为虚拟机的特性,可以随意的迁移,大大增加了服务的可靠性。这两方面的配合就保障了数据的安全性及服务的不中断性。
6.根据权利要求1所述的方法,其特征在于,还包括:
(1)分布式文件***以及key-value***:把实现在上分布式文件***的key-valuc***虚拟成一个块设备,由于分布式***的原因,就保证了数据的安全性。采用著名开源软hadoop中的HDFS以及实现在它上面的Hbase来实现;
(2)虚拟块存储:把从key-value***中虚拟出来的块设备应用到虚拟机里面去,这样就可以保证了虚拟机数据的安全性;
(3)基于分布式虚拟块存储设备的image snapshot以及cow(copy on write)的实现。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012104884074A CN103237042A (zh) | 2012-11-16 | 2012-11-16 | 一种基于xen的弹性云平台存储和调度***模型 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012104884074A CN103237042A (zh) | 2012-11-16 | 2012-11-16 | 一种基于xen的弹性云平台存储和调度***模型 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103237042A true CN103237042A (zh) | 2013-08-07 |
Family
ID=48885058
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2012104884074A Pending CN103237042A (zh) | 2012-11-16 | 2012-11-16 | 一种基于xen的弹性云平台存储和调度***模型 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103237042A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104219318A (zh) * | 2014-09-15 | 2014-12-17 | 北京联创信安科技有限公司 | 一种分布式文件存储***及方法 |
CN104750757A (zh) * | 2013-12-31 | 2015-07-01 | ***通信集团公司 | 一种基于HBase的数据存储方法和设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120136960A1 (en) * | 2010-11-29 | 2012-05-31 | Beijing Z & W Technology Consulting Co., Ltd | Cloud Storage Data Access Method, Apparatus and System |
CN102724215A (zh) * | 2012-07-07 | 2012-10-10 | 成都国腾实业集团有限公司 | 基于用户登录密码安全存放用户密钥并提高云平台数据安全的方法 |
-
2012
- 2012-11-16 CN CN2012104884074A patent/CN103237042A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120136960A1 (en) * | 2010-11-29 | 2012-05-31 | Beijing Z & W Technology Consulting Co., Ltd | Cloud Storage Data Access Method, Apparatus and System |
CN102724215A (zh) * | 2012-07-07 | 2012-10-10 | 成都国腾实业集团有限公司 | 基于用户登录密码安全存放用户密钥并提高云平台数据安全的方法 |
Non-Patent Citations (1)
Title |
---|
徐永: "《基于XEN的弹性云平台的研究》", 《中国优秀硕士学位论文全文数据库》, 31 December 2010 (2010-12-31), pages 21 - 61 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104750757A (zh) * | 2013-12-31 | 2015-07-01 | ***通信集团公司 | 一种基于HBase的数据存储方法和设备 |
CN104750757B (zh) * | 2013-12-31 | 2018-05-08 | ***通信集团公司 | 一种基于HBase的数据存储方法和设备 |
CN104219318A (zh) * | 2014-09-15 | 2014-12-17 | 北京联创信安科技有限公司 | 一种分布式文件存储***及方法 |
CN104219318B (zh) * | 2014-09-15 | 2018-02-13 | 北京联创信安科技股份有限公司 | 一种分布式文件存储***及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102981931B (zh) | 虚拟机备份方法及装置 | |
US9513946B2 (en) | Maintaining high availability during network partitions for virtual machines stored on distributed object-based storage | |
US9785523B2 (en) | Managing replicated virtual storage at recovery sites | |
CN104081354B (zh) | 在可缩放环境中管理分区 | |
CN104427002B (zh) | 集群***及用于在集群***中提供服务可用性的方法 | |
CN103414712B (zh) | 一种分布式虚拟桌面管理***和方法 | |
US9223626B2 (en) | Task execution and management in a clustered computing environment | |
WO2015116483A1 (en) | Prioritizing data reconstruction in distributed storage systems | |
KR20140074311A (ko) | 트랜잭셔널 미들웨어 머신 환경에서 동적 리소스 브로커를 지원하기 위한 시스템 및 방법 | |
Barr et al. | Building fault-tolerant applications on AWS | |
US10705754B2 (en) | Zero-data loss recovery for active-active sites configurations | |
CN105335251A (zh) | 一种故障恢复方法及*** | |
CN104142847A (zh) | 云计算环境下的无状态化虚拟机及其应用 | |
CA2969210A1 (en) | Method, apparatus, and computer-readable medium for processing a message by a message broker system | |
US8931051B2 (en) | Scalable and highly available clustering for large scale real-time applications | |
CN105493474A (zh) | 用于支持用于同步分布式数据网格中的数据的分区级别日志的***及方法 | |
CN105635311A (zh) | 一种云管理平台中资源池信息同步的方法 | |
US20140136878A1 (en) | Scaling Up and Scaling Out of a Server Architecture for Large Scale Real-Time Applications | |
CN102968457B (zh) | 数据库间切换方法和*** | |
CN105357042A (zh) | 一种高可用集群***及其主节点和从节点 | |
CN110737504B (zh) | 一种深度学习模型训练容错方法、***、终端及存储介质 | |
CN103297264B (zh) | 一种云平台故障恢复方法和*** | |
CN103237042A (zh) | 一种基于xen的弹性云平台存储和调度***模型 | |
US10461991B1 (en) | Dynamic replication peering | |
CN107273225A (zh) | 基于消息队列的高并发抢单功能实现方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20130807 |