CN101849384A - 用于控制网络***负载均衡的方法、客户机、服务器以及网络*** - Google Patents

Abstract

本发明涉及一种用于控制网络***负载均衡的方法和客户机、服务器以及网络***，所述方法包括：在服务器集群中的每个服务器处检测其负载状态，以确定其负载等级；通过组播将包括负载等级的组播消息发送到客户机集群；以及根据所述组播消息在所述客户机集群中的客户机处选择服务器以发送服务请求。因此，能够在客户机处来进行负载均衡而无需专用的负载均衡设备，从而降低单点失效的风险并简化网络***的结构。

Description

用于控制网络***负载均衡的方法、客户机、服务器以及网络***

技术领域

本发明涉及网络通信技术，更具体的，涉及一种用于控制网络***负载均衡的方法和客户机、服务器以及网络***。

背景技术

随着网络技术的发展，用户数急剧增加，通过使用服务器集群来对大量客户机提供巨大数量的任务和服务以满足用户的需求。而采用负载均衡技术在计算机网络间能够将处理和通信活动均匀地分配到服务器集群中的服务器，从而扩展服务器的带宽、增加其吞吐量，提高服务器响应速度，提高服务器及其它资源的利用效率，为用户提供更好的访问质量。

图1为现有的负载均衡***的原理框图。如图1所示，现有的负载均衡***包括由多个客户机100、101等组成的客户机集群10，诸如负载均衡器的负载均衡设备40以及由多个服务器200、201等组成的服务器集群20，负载均衡设备40与服务器集群20相连接。从客户机集群10中的客户机100发送的服务请求通过诸如例如以太网和WLAN的局域网(LAN)或虚拟局域网(VLAN)以及诸如例如因特网的广域网的网络30送到负载均衡设备40，负载均衡设备40根据特定的分配算法，例如轮询法、加权轮询法、最小连接数法、最快连接数法以及地址哈希法等，从服务器集群20中来选择服务器；负载均衡设备40将所选的服务器201的IP地址和端口信息发送给客户机，从而服务器201建立与客户机100的连接来处理客户机的服务请求。

但是当服务请求数量提高到一定程度时在单一的负载均衡设备上就可能会出现瓶颈效应，并且专用的设备均衡设备使现有的网络***的架构变得复杂，致使网络维护需要较高的成本。

发明内容

因此，针对上述问题本发明提供一种用于控制网络***负载均衡的方法、客户机、服务器以及网络***，以解决现有技术中存在的瓶颈效应并简化***结构。

根据本发明的一个方面，提供一种用于控制网络***负载均衡的方法，该***包括客户机集群和服务器集群，所述方法包括：在所述服务器集群中的至少一个服务器处检测其负载状态以确定其负载等级；通过组播将包括负载等级的组播消息发送到所述客户机集群；以及根据所述组播消息在所述客户机集群中的客户机处选择服务器以发送服务请求。

根据本发明的另一方面，提供了一种客户机，被配置来从多个服务器接收组播消息，所述客户机包括：选择装置，用于根据所述组播消息来选择服务器以发送服务请求，其中所述组播消息包括相应的服务器负载等级信息。

根据本发明的另一方面，提供了一种服务器，被配置来向客户机集群的组播组发送组播消息，所述服务器包括：检测装置，用于检测所述服务器的负载状态以确定其负载等级；以及组播装置，用于将包括负载等级的组播消息发送到所述客户机集群。

根据本发明的另一方面，提供了一种网络***，包括上述的服务器和上述的客户机。

根据本发明的另一方面，提供了一种计算机程序产品，包括计算机可执行指令，当在计算机设备上执行所述指令时，该指令致使所述设备被配置为执行根据权利要求1到11中任一个的方法。

另外的有利修改由从属权利要求来限定。

附图说明

结合附图，从下面对本发明的实施例的详细描述中本发明的目的、特点和优点将显而易见，其中：

图1为现有的负载均衡网络***的原理框图；

图2示出了根据本发明的实施例的负载均衡网络***的原理框图；

图3示出了根据本发明的实施例的控制网络***负载均衡方法的流程图；

图4示出了根据本发明的实施例的信道映射表的示意图；

图5示出了根据本发明的另外实施例的服务器的负载均衡方法的流程图；

图6示出了根据本发明的另外实施例的客户机的负载均衡方法的流程图；

图7示出了根据本发明的另外实施例的客户机的更新负载待选服务器表或信道映射表的流程图；

图8示出了根据本发明的另外实施例的服务器的原理框图；以及

图9示出了根据本发明的另外实施例的客户机的原理框图。

具体实施方式

下面，结合附图对本发明的实施例进行详细描述。

根据本发明的实施例，当出现大量的服务请求时，可以使用新的处理来控制网络***的负载均衡，基本思想是：利用组播技术将服务器集群中至少一个服务器的负载状态向客户机集群中的客户机进行组播，在客户机处通过特定的选择算法来选择服务器集群中的服务器，从而分散了单一节点的风险。

图2示出了本发明的实施例的负载均衡网络***的原理框图。如图2所示，负载均衡***包括由多个客户机100、101和102等组成的客户机集群10，以及由多个服务器200、201和202等组成的服务器集群20。客户机集群10为一个组播组，组播IP地址可以为Add1，服务器集群20为另一个组播组，组播IP地址可以为Add2。网络30可以为以太网，当然也可以为其它支持组播的局域网或者广域网。客户机集群10中的客户机100通过诸如以太网的网络30，将服务请求发送到根据特定算法所选择的诸如服务器201的服务器集群20中的服务器。

图3为本发明实施例的控制负载均衡流程图。如图3所示，在步骤S301，服务器201检测自己的负载状态，例如根据CPU、存储器和带宽的值，以及***的可容忍响应时间等来规划为不同的负载等级，诸如轻级、中级、高级、极端高级、拥塞或故障。对于所有主机(包括客户机和服务器)负载等级的类型是已知的，但是每个服务器有其自己的关于确定负载等级的标准。例如，服务器200定义95％的CPU/存储器占用为“极端高级”；服务器201被共享用于其它服务从而定义50％的CPU/存储器占用为“极端高级”；服务器202具有较差的性能从而定义80％的CPU/存储器占用为“极端高级”。

此后在步骤S302，服务器201将包括其负载等级的组播消息发送到IP组播地址为Add1的客户机集群10组播组中，在本发明的实施例中，客户机不需要知道服务器的特定性能，仅需要从来自服务器的组播消息中获悉该服务器的负载等级。当然，组播消息中还可以包括该服务器的特定属性，或者定时器的时间。对于特定的应用，可以定制特定的服务器的信息，例如定时器时间、服务器属性、负载等级以及负载分类标准等，从而使负载均衡具有灵活性。更具体而言，客户机可以通过从组播消息中获得的相应服务器的属性而在维持负载待选服务器表时将不具有该属性的服务器排除掉。例如，服务器200能够控制G.726编解码器但是其它的服务器不能，于是该属性将在组播消息中被呈现。可以对服务器属性附加初始标签，这由客户机来使用。如果初始标签保持不变，那么客户机能够假定服务器属性不变，从而客户机能够忽略服务器属性处理来节省CPU时间。例如，伪代码如下：

<Server>

<IP>135.252.134.99</IP>

<Load>1</Load>//Moderate Load

<Name>ws01</Name>

<Attribute Tag＝“abc343532”>

<codec>g.726，g.711</codec>

…

</Attribute>

</server>

最后，在步骤S303，客户机集群10中的客户机100接收到组播消息，当在请求队列中出现新的服务请求时，选择合适的服务器来发送服务请求。可以根据传统的轮询法、加权轮询法、最小连接数法、最快连接数法以及地址哈希法等来选择服务器。当然还可以在客户机处维持一个负载待选服务器表，如表1所示，该列表可以包括待选的服务器对应的负载等级、属性或IP地址来与该服务器映射起来。

服务器号	负载等级	IP地址	服务器属性
				200	极端高的负载	192.168.1.100	ALL
201	轻负载	192.168.1.101	IUA|M2UA|M3UA
				202	中等负载	192.168.1.102	SIP
…	…	…	…

表1负载待选服务器表

可替换的，该负载待选服务器表也可以是信道映射表，如图4所示，在信道映射表中每个信道映射能够接收服务请求的服务器集群中的服务器，其包含了从组播消息中获得的诸如负载等级、服务器属性、IP地址等目标服务器的有关信息。在这种情况下客户机选择服务器就变为选择相对应的信道，具体而言，如果选择某信道来发送服务请求，则该请求将发送到目标服务器的IP地址。在信道选择过程中较轻的负载等级和优选的服务器属性将具有较高的优先级。

本领域的熟练技术人员可以理解，在本发明的实施例中，服务器集群中的一个或更多服务器均可以检测其负载等级并发送组播消息，其工作原理与上述类似。

下面将详细描述服务器集群20中的服务器如何来检测负载状态。

图5为根据本发明实施例的服务器的负载均衡方法的流程图。如图5所示，服务器可以周期性的检测其负载状态，也可以基于诸如请求等命令来检测其负载状态或者结合两者来检测负载状态。在步骤S507，服务器检查定时器时间是否期满；当期满时则在步骤S508，根据其自己的标准来检测负载状态以确定负载等级；接下来在步骤S509，将对属于同一组播组的客户机组播其负载等级和服务器属性等相关信息；在步骤S510，将定时器复位，以便开始下一个周期。

参照图5，服务器也可以当负载状态发生变化时来通知客户机。步骤S501开始该过程；在步骤S502，服务器等待来自客户机的服务请求；当服务请求到来时在步骤S503开始处理该请求；接下来在步骤S504服务器根据其负载标准来检测负载状态并确定负载等级；在步骤S505，服务器检测当前负载等级是否发生变化，如果发生变化(步骤S505：是)，在步骤S506仍然继续处理该服务请求，但是同时进行组播来通知属于同一组播组的所有客户机，告知它们其新的负载等级(步骤S509)；如果当前负载等级没有发生变化(步骤S505：否)，则在步骤S506继续处理服务请求，在步骤S511，该过程结束。在该处理请求过程中服务器采取首发负责制，即不论该服务器负载状态怎么变化，当客户机发送了服务请求时，就在该服务器上处理，即使其它服务器负载较轻，在该服务器处理完成之前也不会转到其它服务器上来处理该服务请求。这样，服务响应不会在不同服务器之间被推诿，保证了服务请求的顺利进行。

在该过程中可以引入“勤劳”/“懒惰”(eager upgrade/lazy downgrade)机制，即当负载状态发生改变使负载加重(例如负载等级从较轻变为较高或者拥塞等，在本文中也称为负载升级)时，服务器集群20中的服务器将尽可能迅速的组播该负载升级消息，以便该服务器的过载状态信息等能够及时到达客户机；只有在发生负载减轻(例如服务器的负载等级从较高变为中级或轻级等，在本文中也称为负载降级)一段时间之后在服务器集群的服务器处才组播该负载降级消息来通知客户机其负载减轻，在该期间任何负载等级的恢复都会停止负载降级消息的组播。通过采用该机制可以阻止溢出，防止服务器负载状态在临界状态下过快的变化，从而降低***和网络的负担。

图6示出了根据本发明另外的实施例的客户机的负载均衡方法的流程图。如图6所示，在步骤S602检查队列中存在新的服务请求。

当出现新的服务请求时，在步骤S603客户机可以基于负载待选服务器表或信道映射表根据诸如轮询法等特定的算法来选择合适的服务器或信道，该原理可参考上面的部分，在此不再赘述。

而负载待选服务器表或信道映射表是定期更新或者基于负载状态等有关服务器的参数的变化来更新的。如图7所示，在步骤S701，客户机集群中的客户机在客户机组播IP地址监听组播消息；在步骤S702接收到该消息并获得负载状态等关于服务器的参数的最新信息；接下来在步骤S703根据所接收的服务器负载等级等参数信息，来更新负载待选服务器表或信道映射表，例如增加新的服务器项、删除现有的服务器项或者更新现有的服务器项，对于信道映射表则为***新的信道、删除现存的信道或者对现存的信道进行信息的更新。

最后，在步骤S604客户机向所选择的服务器发送服务请求。

在同一个发明构思下，图8示出了根据本发明的一个实施例的控制网络***负载均衡的服务器的原理框图。下面结合附图，详细说明本实施例。

如图8所示，在服务器集群20中的控制***负载均衡的服务器200包括：检测装置820，用于检测所述服务器的负载状态以确定其负载等级；以及组播装置821，用于将包括负载等级的组播消息发送到所述客户机集群。

检测装置820可以周期性的检测服务器200的负载状态以确定其负载等级，也可以基于诸如请求等命令来检测其负载状态以确定对应的负载等级。

组播装置821利用组播技术将包括负载等级、服务器属性以及定时器时间等有关该服务器200的信息的组播消息发送到属于同一个组播组的客户机集群10，在组播IP地址处所属的每个客户机监听组播消息并接收。

组播装置821可以被配置为当负载状态发生改变使负载加重(例如负载等级从较轻变为较高或者拥塞等，在本文中也称为负载升级)时，其将尽可能迅速的组播该负载升级消息，以便有关服务器200的过载状态信息等能够及时到达客户机。也可以配置为只有在发生负载减轻(例如服务器200的负载等级从较高变为中等负载或轻负载等，在本文中也称为负载降级)一段时间之后才组播该负载降级消息来通知客户机其负载减轻。

本实施例的控制网络***负载均衡的服务器的检测装置820和在组播装置821可以由诸如超大规模集成电路或门阵列、诸如逻辑芯片、晶体管等的半导体、或者诸如现场可编程门阵列、可编程逻辑设备等的可编程硬件设备的硬件电路实现，也可以用由各种类型的处理器执行的软件实现，也可以由上述硬件电路和软件的结合实现。本实施例的控制网络***负载均衡的服务器在操作上实现图5所示的实施例的在服务器处控制网络***负载均衡的方法。

图9为根据本发明的另外实施例的客户机的原理框图。如图9所示，本实施例的客户机集群10中的客户机100包括选择装置910，用于根据组播消息来选择服务器以发送服务请求。

客户机100还可以包括维持装置911，用于维持负载待选服务器表或者信道映射表。维持装置911可以与选择装置910分离，也可以集成在选择装置910中。

客户机100的选择装置910可以根据传统的轮询法、加权轮询法、最小连接数法、最快连接数法以及地址哈希法等来选择服务器。选择装置910还可以参考维持装置911所提供的负载待选服务器表或者信道映射表来选择将服务请求发送到哪个服务器。

维持装置911可以根据接收到的组播消息中的诸如负载等级、服务器属性等有关服务器的信息来维持一个负载待选服务器表或者负载待选服务器对应的信道映射表。维持装置可以被配置为通过对负载待选服务器表或者信道映射表的如下操作来更新该列表或者信道映射表：

●增加***新的服务器选项(信道)；

●删除现有的服务器选项(信道)；

●更新现有的服务器选项(信道)。

本实施例的控制网络***负载均衡的客户机的选择装置910和维持装置911可以由诸如超大规模集成电路或门阵列、诸如逻辑芯片、晶体管等的半导体、或者诸如现场可编程门阵列、可编程逻辑设备等的可编程硬件设备的硬件电路实现，也可以用由各种类型的处理器执行的软件实现，也可以由上述硬件电路和软件的结合实现。本实施例的控制网络***负载均衡的客户机在操作上实现图6所示的实施例的在客户机处控制网络***负载均衡的方法。

在本发明的实施例中的控制网络***负载均衡的方法可以由在计算机设备上运行的计算机可执行指令来实现，或者由各种类型的处理器执行的软件实现。

在本发明的实施例中，由于客户机集群10的各个客户机可以实现分配服务请求到所选择的服务器，来达到网络***负载均衡，并不需要第三方代理来负责服务的分配，因此简化了网络***的结构，分散了单点失效的风险，并且在该结构中服务器只是检测其负载状态，并不用来实现负载均衡，从而简化了其结构。

此外，由于采用组播技术，在运行时间期间在服务器集群中增加或删除服务器变得很容易。当服务器要增加到服务器集群中时，只需加入服务器组播组，并发送其信息到客户机组播组IP地址。当服务器需要停止时，它可以适当的发送信息到客户机组播组IP地址。如果服务器异常停止时，客户机可以通过周期性的检测组播消息的失败或者通过检测发送服务请求到服务器的失败来获得其状态。相应的，客户机可以更新负载待选服务器表或信道映射表来删除该服务器。

在本发明的实施例的网络***中，通过发送请求到客户机或者服务器组播IP地址以到达域内的每个主机，可以容易的监视整个***。

进一步，在本发明的实施例的网络***中，由于采用组播以及基于不存在第三方的架构，可以定义专用的服务器属性来帮助测试在服务器集群中的特定服务器，而无需关闭其余服务器就能够指引所有的流量到特定的服务器，从而简化网络***的维护和管理。

虽然以上结合具体实施例对本发明的控制网络***负载均衡的方法、客户机、服务器以及网络***进行了详细描述，但本发明并不限于此，本领域普通技术人员能够理解可以对本发明进行多种变换、替换和修改而不偏离本发明的精神和范围；本发明的保护范围由所附权利要求来限定。

Claims (25)

1.一种用于控制网络***负载均衡的方法，所述***包括客户机集群和服务器集群，所述方法包括：

在所述服务器集群中的至少一个服务器处检测负载状态，以确定所述服务器的负载等级；

通过组播将包括所述负载等级的组播消息发送到所述客户机集群；以及

根据所述组播消息在所述客户机集群中的客户机处选择服务器以发送服务请求。

2.根据权利要求1所述负载均衡的方法，其中所述负载等级包括轻级、中级、高级、极端高级、拥塞或故障。

3.根据权利要求1或2所述负载均衡的方法，其中所述组播消息还包括服务器属性和/或用于广播的定时器时间。

4.根据权利要求1到3中的任一项所述负载均衡的方法，其中所述检测负载状态的步骤包括至少其中之一：周期性地检测所述服务器的负载状态和根据服务请求来检测所述服务器的负载状态。

5.根据权利要求3所述负载均衡的方法，其中所述选择服务器以发送服务请求的步骤包括：

根据所述组播消息中的负载等级和/或服务器属性来选择服务器。

6.根据权利要求1所述负载均衡的方法，其中所述方法还包括：

在客户机处维持负载待选服务器表。

7.根据权利要求6所述负载均衡的方法，其中所述选择服务器以发送服务请求的步骤包括：

通过所述负载待选服务器表来选择服务器。

8.根据权利要求6所述负载均衡的方法，其中所述维持负载待选服务器表的步骤包括：

在客户机处根据所接收的组播消息来更新所述负载待选服务器表。

9.根据权利要求8所述负载均衡的方法，其中所述更新负载待选服务器表的步骤包括：

增加新的服务器项、删除现有的服务器项或者更新现有的服务器项。

10.根据权利要求6到9中任一项所述负载均衡的方法，其中所述负载待选服务器表包括信道映射表。

11.根据权利要求6到9中的任一项所述负载均衡的方法，其中所述发送组播消息的步骤至少包括其中之一：当发生负载加重时在所述服务器集群的服务器处立即发送所述组播消息和只有在发生负载减轻一段时间之后在所述服务器集群的服务器处才发送所述组播消息。

12.一种客户机，被配置来从多个服务器接收组播消息，所述客户机包括：

选择装置，用于根据所述组播消息来选择服务器以发送服务请求，其中所述组播消息包括相应的服务器负载等级信息。

13.根据权利要求12所述的客户机，其中所述组播消息还承载服务器属性和/或用于组播的定时器时间。

14.根据权利要求12所述的客户机，其中所述客户机还包括：

维持装置，用于维持负载待选服务器表。

15.根据权利要求14所述的客户机，其中所述选择装置被配置来通过所述负载待选服务器表来选择服务器。

16.根据权利要求14所述的客户机，其中所述维持装置被配置来根据所接收的组播消息来更新所述负载待选服务器表。

17.根据权利要求16所述的客户机，其中所述维持装置被配置来通过增加新的服务器项、删除现有的服务器项或者更新现有的服务器项来更新负载待选服务器表。

18.根据权利要求14到17中任一项所述的客户机，其中所述负载待选服务器表包括信道映射表。

19.一种服务器，被配置来向客户机集群的组播组发送组播消息，所述服务器包括：

检测装置，用于检测所述服务器的负载状态以确定其负载等级；以及

组播装置，用于将包括所述负载等级的组播消息发送到所述客户机集群。

20.根据权利要求19所述的服务器，其中所述负载等级包括轻级、中级、高级、极端高级、拥塞或故障。

21.根据权利要求19或20所述的服务器，其中所述组播消息还包括服务器属性和用于组播的定时器时间。

22.根据权利要求19或20所述的服务器，其中所述检测装置被配置来至少检测其中之一：周期性地和根据服务请求检测所述服务器的负载状态。

23.根据权利要求19或20所述的服务器，其中所述组播装置被配置来至少进行其中之一：当发生负载加重时立即发送所述组播消息和只有在发生负载减轻一段时间之后才发送所述组播消息。

24.一种网络***，包括根据权利要求12到18中任一项所述的客户机和根据权利要求19到23中任一项所述的服务器。

25.一种计算机程序产品，包括计算机可执行指令，当在计算机设备上执行所述指令时，该指令致使所述设备被配置为执行根据权利要求1到11中任一个的方法。

Images