CN102185759A

CN102185759A - 一种满足需求特性的多物理服务器负载均衡的方法及装置

Info

Publication number: CN102185759A
Application number: CN2011100903353A
Authority: CN
Inventors: 田文洪
Original assignee: Individual
Current assignee: Individual
Priority date: 2011-04-12
Filing date: 2011-04-12
Publication date: 2011-09-14

Abstract

本发明实施例公开了一种实现多物理服务器负载均衡的方法及装置，所述方法包括：本发明实施例能够在各物理服务器负载不均衡以及具有待分配的虚拟服务器时，将虚拟服务器分配到合适的物理服务器上，从而能够很好地实现多物理服务器之间的负载均衡，该负载均衡方法和装置同时考虑了数据中心物理服务器间的负载均衡和每个物理服务器的三种属性(cpu，内存，网络带宽)间的负载均衡，并满足它们不同胡需求特性，从而保证各物理服务器能够正常工作和提供高性能服务。本发明适用于对云计算数据中心的多个物理服务器进行负载均衡。

Description

一种满足需求特性的多物理服务器负载均衡的方法及装置

1.技术领域

本发明涉及计算机通信技术领域，特别涉及一种实现多物理服务器负载均衡的方法及装置。

2.背景技术

本发明涉及云计算数据中心多个物理服务器的动态负载均衡技术。云数据中心存在大量的规格配置可能不一致的物理服务器，通过虚拟化技术，每个物理服务器可以虚拟出多个虚拟机。云计算数据中心将这些虚拟机按用户需求规格(可能不一致)动态地自动化地分配给用户。但是由于用户的需求规格和数据中心所有物理服务器的规格配置不一致，如果采用简单的分配调度方法，例如常用的轮转法，加权轮转法，最小负载(或链接数)优先，加权最小负载优先法，哈希法等，很难达到物理服务器负载均衡。因而会造成服务性能不均衡和其它相关问题。

轮转法(Round Robin)通常是预先设定好一个轮转周期(例如物理服务器个数)，依次将用户需求的虚拟机分配给不同的物理服务器，一个轮转周期结束后重新开始新一个轮转。轮转法不能解决物理服务器和用户需求规格不一致造成的负载不均衡问题。加权轮转法预先对物理服务器设定权值，在负载均衡分配虚拟机的过程中，轮转选择物理服务器，如果被选择的物理服务器的权值为0，则跳过该服务器并选择下一台，如被选择的服务器的权值不为0，则选中该服务器并将该服务器的权值减1，后继的选择在前次选择的基础上轮转。以权值分别为1，2，3的三台物理服务器(PM1，PM2，PM3)为例，第一次选择第一台物理服务器PM1，其权值减为0，第二次选择第二台物理服务器PM2，其权值减为1，第三次选择第三台物理服务器PM3，其权值减为2，第四次轮转到第一台服务器PM1，但是其权值为0，继续轮转，选择第二台服务器PM2，同时其权值减为0，…。六次选择的次序依次是：PM1，PM2，PM3，PM2，PM3，PM3。这样权值高的服务器获得的服务次数就与其权值成正比，但是当用户需求规格不一致时仍然存在负载不均衡的问题。另外加权轮转法需要在均衡过程中修改各台服务器的权值，这些公共变量需要进行加锁解锁，影响执行速度。最小负载(或链接数)优先法是每次分配虚拟机时，首先检查当前一段时间内所有物理服务器的负载情况，总是选择当前一段时间内负载最小的物理服务器分配虚拟机。图1、图2两个图可以描述此技术方案实施过程。任务一被调度到访问负载最小的站点2上，…，任务四被分配到站点3。这一方法同样无法解决用户需求规格和物理服务器规格配置不一致造成的负载不均衡问题。加权最小负载优先法，类似于加权轮转法，对于规格配置不一致的物理服务器设定不同的权值，选择分配虚拟机时考虑权值，这一方法同样无法解决用户需求规格利物理服务器规格配置不一致造成的负载不均衡问题。加权轮转法和加权最小负载法执行速度因需计算权值受到一定的影响。哈希法预先设计一个哈希函数，用于映射用户需求的虚拟机到相应的物理服务器上，执行速度较快，但如何设计一个哈希函数既满足用户规格需求又满足物理服务器规格配置不一致并且解决负载不均衡的问题几乎是不可能的。

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：上述简单的分配调度方法，均不能解决用户规格需求和物理服务器规格配置不一致造成的各物理服务器负载不均衡问题。

因此本发明设计一个依据动态调整的负载均衡算法和装置，更好地解决用户规格需求和物理服务器规格配置不一致造成的各物理服务器负载不均衡问题。

3.发明内容

本发明的实施例提供一种实现多物理服务器负载均衡的方法及装置，能够很好地实现多物理服务器的负载均衡。

本发明实施例采用的技术方案为：

一种实现多物理服务器负载均衡的方法，包括：

分配的算法：首先根据用户请求的虚拟机类型(cpu，内存，网络)将物理服务器按该类型的利用率升序排列。然后根据该类型的利用率将物理服务器划分成多个区间，每个区间的大小可以动态设置(比如以0.05为一个区间)，然后找出利用率最低的物理服务器所在的区间的所有物理服务器。将虚拟机试分配在该区间的所有物理服务器上，分别计算物理服务器分配虚拟机后每个物理服务器的cpu利用率，内存利用率，网络利用率三者的方差，得到每个物理服务器的负载均衡值。具体计算公式如下：

CombinedBalanceLevel＝(AVG-CPU_utility)*(AVG-CPU_utility)+(AVG-MEM_utility)*(AVG-MEM_utility)+(AVG-BW_utility)*(AVG-BW_utility) (1)

AVG＝(CPU_utility+MEM_utility+BW_utility)/3 (2)

其中CPU_utility，MEM_utility，BW_utility分别表示物理服务器cpu利用率，内存利用率，网络带宽利用率。AVG表示他们三者的均值。

选取负载均衡值最低的物理服务器开始分配虚拟机，只要分配该虚拟机后不超过该物理服务器的最大容量，则成功分配，否则取下一个负载均衡值次小的物理服务器进行分配，如果该区间所有物理服务器都不能分配，则取出下一个区间的物理服务器进行分配，直到可以分配为止。

等待时间预测：如果所有物理服务器都不能分配，则将该任务加入等待队列，然后根据前面等待队列中任务直到运行所需等待的时间与等待队列中的任务数来预测该任务的等待的时间，同时通知用户需等待的时间。

迁移算法：根据我们设定的cpu，内存，网络带宽的最大差距，依次比较当前调度域中最大利用率和最小利用率间的差值是否超过这个值，如果超过则需开始迁移，把所有物理服务器超过的那项的利用率进行排序，找到利用率最大的物理服务器，然后再从该物理服务器上找到该类型利用率最小的虚拟机从物理机中取出，然后调用分配算法重新分配该虚拟机。分配完一次后，继续循环迁移，直到小于最大差距的要求，或者出现了反复迁移的情况为止，则该次迁移结束。

一种实现多物理服务器负载均衡的装置，包括：

分配模块，用于分配当前新到的虚拟机任务请求或是等待队列中的虚拟机任务请求。

等待时间预测模块，用于预测虚拟机请求的资源不够时的等待时间。

迁移模块，用于当各物理服务器中最高利用率与最低利用率之间的差值大于预设差值时，将利用率最高的物理服务器上的虚拟机进行迁移，直到两者之间的差值小于预设差值。

本发明实施例提供的实现多物理服务器之间负载均衡的方法及装置，首先根据虚拟机的类型(cpu，内存，网络)，然后将对应类型的物理服务器利用率排序，找出相应利用率最小的区间，计算该区间的负载均衡值，将虚拟机分配在负载均衡值最小的物理机上。当任务分配失败时则进入等待时间预测模块，算出等待时间通知用户，以便用户做出相应的选择。在物理服务器最高利用率和最低利用率之差大于预设差值时，将利用率最高的物理服务器上的虚拟机进行迁移，直到差值小于预设差值为止。与现有技术相比，本发明实施例能够在各物理服务器之间负载不均衡以及具有待分配的虚拟服务器时，将虚拟服务器分配到合适的物理服务器上，从而能够很好地实现多物理服务器之间的负载均衡，该负载均衡同时考虑了数据中心物理服务器间的负载均衡和每个物理服务器的三种属性(cpu，内存，网络带宽)间的负载均衡，保证各物理服务器能够正常下作和提供高性能服务。

4.附图说明

图1、图2为最小负载优先算法例子；

图3为本发明实施例一提供的方法流程图；

图4为本发明实施例二提供的方法流程图；

图5为现有调度***参考体系结构示意图；

图6标出了主要功能模块；

通过以附图说明(对应正文都已经详细说明)，本发明的特征将变得更加容易理解。

5.具体实施方式

本发明实施例提供了一种实现数据中心资源负载均衡的装置(如图-6所示)，包括：

包括：

选择控制模块41，用于获取调度域内各物理机属性的当前利用率，并根据所述当前利用率确定剩余能力满足当前分配任务的物理机，所述属性包括CPU负载、内存负载及网络负载；

计算处理模块42，用于根据所述当前利用率确定所述调度域属性的负载均值，并根据所述负载均值及对所述物理机属性的负载预测值计算所述物理机的负载均衡值；

分配执行模块43，用于选择所述负载均衡值最小的物理机分配所述当前分配任务。

为使本发明技术方案的优点更加清楚，下面结合附图和实施例对本发明作详细说明。

实施例一

本实施例提供一种实现多物理服务器之间负载均衡的方法，如图3所示，所述方法包括：

101、首先根据用户请求的虚拟机类型(cpu，内存，网络)将物理服务器按该类型的利用率升序排列。

102、然后根据该类型的利用率将物理服务器划分成多个区间，每个区间的大小可以动态设置(比如以0.05为一个区间)，然后找出利用率最低的物理服务器所在的区间的所有物理服务器。

103、将虚拟机试分配在该区间的所有物理服务器上，分别计算物理服务器分配虚拟机后每个物理服务器的cpu利用率，内存利用率，网络利用率三者的方差，得到每个物理服务器的负载均衡值。

104、选取负载均衡值最低的物理服务器开始分配虚拟机，只要分配该虚拟机后不超过该物理服务器的最大容量，则成功分配。

105、否则取下一个负载均衡值次小的物理服务器进行分配，如果该区间所有物理服务器都不能分配，则取出下一个区间的物理服务器进行分配，直到可以分配为止。

具体的将虚拟机分配到合适的物理服务器上可参照如下过程：

表-1初始情况

新任务#1 到达cpu＝2 内存＝1 网络带宽＝2 类型：CPU型

cpu利用率最小的区间为0.00-0.05，该区间物理服务器有PM1，PM2，PM3。

表-2计算负载均衡值

其中PM1各项值计算如下(取小数点后4位)：

CPU_utility＝2/6.4＝0.3125

Mem_utility＝1/12.0＝0.0833

BW_utility＝2/20.0＝0.1

负载均衡值＝[0.3125-(0.3125+0.0833+0.1)/3]2+[0.0833-(0.3125+0.0833+0.1)/3]2+[0.1-(0.3125+0.0833+0.1)/3]2＝0.0326其他计算类似。

表-3新任务#1分配后各项数值

新任务#2 到达cpu＝2 内存＝2 网络带宽＝4 类型：CPU型

cpu利用率最小的区间为0.00-0.05，该区间物理服务器有PM2，PM3。

表-4计算负载均衡值

表-5新任务#2分配后

新任务#3 到达cpu＝2 内存＝2 网络带宽＝8 类型：网络带宽型

网络带宽利用率最小的区间为0.00-0.05，该区间物理服务器有PM3。

表-6新任务#3到达后计算负载均衡值

表-7新任务#3分配后

新任务#4 到达cpu＝1 内存＝2 网络带宽＝4 类型：内存型

内存利用率最小的区间为0.05-0.10，该区间物理服务器有PM1，PM3。

计算负载均衡值

表-8新任务#4到达后计算负载均衡值

表-9新任务#4分配后

实施例二

本实施例提供一种实现多物理服务器之间负载均衡的方法，如图4所示，所述方法包括：

201、获取当前时刻所有物理服务器的cpu总大小，cpu利用率，内存总大小，内存利用率，网络总大小，网络利用率。

202、接受新来的任务请求(定义优先级从高到低的四个队列分别为等待，请求，调优，删除队列)，调优任务加入调优队列，普通用户任务加入请求队列(按开始时间的先后排序)。

203、查看等待队列，如果等待不空，取出等待队列中的任务进行分配，具体分配过程参见208、209、210、211。

204、查看请求队列，如果请求队列不空，且任务的开始时间已到，则开始分配。如果成功分配则把该请求加入删除队列。

205、查看调优队列，如果调优队不为空，则开始调优，调优方式参见212、213。

206、查看删除队列，看是否有任务的删除时间到了。

207、如果有任务删除时间到了，则删除任务。

208、根据用户请求的虚拟机类型(cpu，内存，网络)将物理服务器按该类型的利用率升序排列。

209、然后根据该类型的利用率将物理服务器划分成多个区间，每个区间的大小可以动态设置(比如以0.05为一个区间)，然后找出利用率最低的物理服务器所在的区间的所有物理服务器。

210、将该虚拟机试分配在该区间的所有物理服务器上，分别计算物理服务器分配虚拟机后每个物理服务器的cpu利用率，内存利用率，网络利用率三者的方差，得到每个物理服务器的负载均衡值。

211、选取负载均衡值最低的物理服务器开始分配虚拟机，只要分配该虚拟机后不超过该物理服务器的最大容量，则成功分配，否则取下一个负载均衡值次小的物理服务器进行分配，如果该区间所有物理服务器都不能分配，则取出下一个区间的物理服务器进行分配，直到可以分配为止。如果所有物理服务器都不能分配，则将该任务加入等待队列，然后根据前面等待队列中任务直到运行所需等待的时间与等待队列中的任务数来预测该任务的等待的时间，同时通知用户需等待的时间。

212、根据我们设定的cpu，内存，网络带宽的最大差距，依次比较当前调度域中最大利用率和最小利用率间的差值是否超过这个值。

213、如果超过则需开始迁移，把所有物理服务器超过的那项的利用率进行排序，找到利用率最大的物理服务器，然后再从该物理服务器上找到该类型利用率最小的虚拟机从物理机中取出，然后调用分配算法重新分配该虚拟机。分配完一次后，继续循环迁移，直到小于最大差距的要求，或者出现了反复迁移的情况为止，则该次迁移结束。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序指令和相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(Random Access Memory，RAM)等。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求的保护范围为准。

Claims

1.分配的算法：首先根据用户请求的虚拟机类型(cpu，内存，网络)将物理服务器按该类型的利用率升序排列。然后根据该类型的利用率将物理服务器划分成多个区间，每个区间的大小可以动态设置(比如以0.05为一个区间)，然后找出利用率最低的物理服务器所在的区间的所有物理服务器。将虚拟机试分配在该区间的所有物理服务器上，分别计算物理服务器分配虚拟机后每个物理服务器的cpu利用率，内存利用率，网络利用率三者的方差，得到每个物理服务器的负载均衡值。选取负载均衡值最低的物理服务器开始分配虚拟机，只要分配该虚拟机后不超过该物理服务器的最大容量，则成功分配，否则取下一个负载均衡值次小的物理服务器进行分配，如果该区间所有物理服务器都不能分配，则取出下一个区间的物理服务器进行分配，直到可以分配为止。

2.分区间方法：把物理服务器划分成多个区间，每个区间的大小可以动态设置，每次都从利用率最小的物理服务器所在区间进行分配，这样能保证先将任务分配给利用率小的物理服务器，保证整个数据中心比较均衡。同时每次只从一个区间中寻找物理服务器大大的减少了算法的运行时间。

3.负载均衡值的计算公式：

AVG＝(CPU_utility+MEM_utility+BW_utility)/3 (2)

其中CPU_utility，MEM_utility，BW_utility分别表示物理服务器cpu利用率，内存利用率，网络带宽利用率。AVG表示他们三者的均值。每次选择负载均衡值最小的物理服务器进行分配就可以保证单个物理服务器自身的cpu，内存，网络带宽属性比较均衡。

4.满足需求特性的分配方法：每次将物理服务器排序来选择合适的物理服务器的时候都是根据请求的虚拟机类型来排序，当虚拟机类型为cpu型时，物理机则按cpu利用率排序，同理内存和网络带宽也是。这样能保证用户的不同需求都能很好的得到满足。同时数据中心的物理服务器可得到最有效的利用。

5.等待时间预测方法：如果所有物理服务器都不能分配，则将该任务加入等待队列，然后根据前面等待队列中任务直到运行所需等待的时间与等待队列中的任务数来预测该任务的等待的时间，同时通知用户需等待的时间。

6.迁移算法：根据我们设定的cpu，内存，网络带宽的最大差距，依次比较当前调度域中最大利用率和最小利用率间的差值是否超过这个值，如果超过则需开始迁移，把所有物理服务器超过的那项的利用率进行排序，找到利用率最大的物理服务器，然后再从该物理服务器上找到该类型利用率最小的虚拟机从物理机中取出，然后调用分配算法重新分配该虚拟机。分配完一次后，继续循环迁移，直到小于最大差距的要求，或者出现了反复迁移的情况为止，则该次迁移结束。

7.迁移时选择物理服务器的标准：迁移时每次都是将物理服务器按超过最大差距的那项属性的利用率进行排序，然后都是选择利用率最大的物理服务器，然后再从该物理服务器上选择虚拟机。

8.迁移时选择虚拟机的标准：找到需迁移的物理服务器后，再从上面找到利用率最小的虚拟机进行迁移，这样可以最大限度的保证迁移的成功率，因为如果每次迁移利用率最大的虚拟机放在另外一个物理服务器上的话，另外一个物理服务器可能利用率也会过大。每次迁移利用率小的虚拟机可以避免这种情况。

9.迁移到哪台物理服务器的标准：找到需迁移的虚拟机后则直接调用已有的分配算法寻找应迁往的物理服务器。

10.迁移停止的条件：当最大利用率和最小利用率差值小于最大差距的要求时停止迁移，或是出现了反复迁移的情况为止。

11.负载均衡装置，如说明书附图1-6所示的负载均衡装置。