CN108111567A - 实现服务器负载均匀的方法及*** - Google Patents

Abstract

本发明公开一种实现服务器负载均匀的方法及***，该实现服务器负载均匀的方法包括如下步骤：在客户端，发送调用实际服务器的请求；在实际服务器端，根据配置采集实际服务器的状态信息，以及根据状态信息计算当前实际服务器负载的评分，并上报对应的评分结果；在分配服务器端，接收所有实际服务器负载的评分结果，并根据评分结果对所有实际服务器的优先处理级别进行划分，以及在接收到客户端发送的调用实际服务器请求时，根据客户权限分配优先处理级别对应的实际服务器。本发明的技术方案能够保证各个实际服务器都得到充分的应用且保证性能差的实际服务器不出现过载，确保高优先级的客户得到更快的响应，提高用户体验。

Description

实现服务器负载均匀的方法及***

技术领域

本发明涉及一种通信技术方法，尤其涉及一种实现服务器负载均匀的方法及***。

背景技术

目前负载均衡一般的实现是：负载均衡是由多台服务器以对称的方式组成一个服务器集合，每台服务器都具有等价的地位，都可以单独对外提供服务而无须其他服务器的辅助。通过某种负载分担技术，将外部发送来的请求均匀分配到对称结构中的某一台服务器上，而接收到请求的服务器独立地回应客户的请求。均衡负载能够平均分配客户请求到服务器列阵，籍此提供快速获取重要数据，解决大量并发访问服务问题。

目前常见的负载均衡算法，包括基于DNS的负载均衡、基于四层交换技术的负载均衡以及基于七层交换技术的负载均衡；上述的方法分配服务器采用轮询、加权、最少连接、随机和响应时间等选择分配服务器认为合适的服务器分配给终端客户。

1、基于DNS的负载均衡

DNS负载均衡技术是最早的负载均衡解决方案，它是通过DNS服务中的随机名字解析来实现的，在DNS服务器中，可以为多个不同的地址配置同一个名字，而最终查询这个名字的客户机将在解析这个名字时得到其中的一个地址。因此，对于同一个名字，不同的客户机会得到不同的地址，它们也就访问不同地址上的Web服务器，从而达到负载均衡的目的。其优点是，实现简单、实施容易、成本低、适用于大多数TCP/IP应用；但是，其缺点也非常明显，首先这种方案不是真正意义上的负载均衡，DNS服务器将Http请求平均地分配到后台的Web服务器上，而不考虑每个Web服务器当前的负载情况；如果后台的Web服务器的配置和处理能力不同，最慢的Web服务器将成为***的瓶颈，处理能力强的服务器不能充分发挥作用；其次未考虑容错，如果后台的某台Web服务器出现故障，DNS服务器仍然会把DNS请求分配到这台故障服务器上，导致不能响应客户端。最后一点是致命的，有可能造成相当一部分客户不能享受Web服务，并且由于DNS缓存的原因，所造成的后果要持续相当长一段时间(一般DNS的刷新周期约为24小时)。所以在国外最新的建设中心Web站点方案中，已经很少采用这种方案了。

2、基于四层交换技术的负载均衡

基于四层交换技术是在第四层交换机上设置Web服务的虚拟IP地址，这个虚拟IP地址是DNS服务器中解析到的Web服务器的IP地址，对客户端是可见的。当客户访问此Web应用时，客户端的Http请求会先被第四层交换机接收到，它将基于第四层交换技术实时检测后台Web服务器的负载，根据设定的算法进行快速交换。常见的算法有轮询、加权、最少连接、随机和响应时间等。

3、基于七层交换技术的负载均衡

基于第七层交换的负载均衡技术主要用于实现Web应用的负载平衡和服务质量保证。它与第四层交换机比较起来有许多优势：第七层交换机不仅能检查TCP/IP数据包的TCP和UDP端口号，从而转发给后台的某台服务器来处理，而且能从会话层以上来分析Http请求的URL，根据URL的不同将不同的Http请求交给不同的服务器来处理(可以具体到某一类文件，直至某一个文件)，甚至同一个URL请求可以让多个服务器来响应以分担负载(当客户访问某一个URL，发起Http请求时，它实际上要与服务器建立多个会话连接，得到多个对象，例如.txt/.gif/.jpg文档，当这些对象都下载到本地后，才组成一个完整的页面)。

发明内容

为解决上述至少一技术问题，本发明的主要目的是提供一种实现服务器负载均匀的方法。

为实现上述目的，本发明采用的一个技术方案为：提供一种实现服务器负载均匀的方法，包括如下步骤：

在客户端，发送调用实际服务器的请求；

在实际服务器端，根据配置采集实际服务器的状态信息，以及根据状态信息计算当前实际服务器负载的评分，并上报对应的评分结果；

在分配服务器端，接收所有实际服务器负载的评分结果，并根据评分结果对所有实际服务器的优先处理级别进行划分，以及在接收到客户端发送的调用实际服务器请求时，根据客户权限分配优先处理级别对应的实际服务器。

优选地，所述根据状态信息计算当前实际服务器负载的评分的步骤，具体包括：

判断状态信息是否超过设定的阈值，

如果状态信息没有超过设定的阈值，则统计状态信息中各项数据的单项评分，以及根据配置的各项数据的加权系数及单项评分，并计算当前实际服务器负载的评分。

优选地，所述根据状态信息计算当前实际服务器负载的评分的步骤，还包括：

如果状态信息超过设定的阈值，则将当前实际服务器负载的评分记为0。

优选地，所述根据评分结果对所有实际服务器的优先处理级别进行划分的步骤，具体包括：

根据评分结果对所有实际服务器的优先处理级别进行划分，得到VIP服务器及普通服务器；

在接收到客户端发送的调用实际服务器请求时，根据VIP客户端优先分配VIP服务器，根据普通客户端优先分配普通实际服务器。

为实现上述目的，本发明采用的另一个技术方案为：提供一种实现服务器负载均匀的***，包括：

客户端，用于发送调用实际服务器的请求；

实际服务器，用于根据配置采集实际服务器的状态信息，以及根据状态信息计算当前实际服务器负载的评分，并上报对应的评分结果；

分配服务器，用于接收所有实际服务器负载的评分结果，并根据评分结果对所有实际服务器的优先处理级别进行划分，以及在接收到客户端发送的调用实际服务器请求时，根据客户权限分配优先处理级别对应的实际服务器。

优选地，所述实际服务器，具体用于：

判断状态信息是否超过设定的阈值，

在状态信息没有超过设定的阈值时，统计状态信息中各项数据的单项评分，以及根据配置的各项数据的加权系数及单项评分，并计算当前实际服务器负载的评分。

优选地，所述实际服务器，还用于：

在判断状态信息超过设定的阈值时，将当前实际服务器负载的评分记为0。

优选地，所述分配服务器，具体用于：

根据评分结果对所有实际服务器的优先处理级别进行划分，得到VIP服务器及普通服务器；

在接收到客户端发送的调用实际服务器请求时，根据VIP客户端优先分配VIP服务器，根据普通客户端优先分配普通实际服务器。

本发明的技术方案通过在实际服务器端对实际服务器进行评分处理，然后通过分配服务器根据评分处理的实际服务器进行优先处理级别划分，如此，在分配服务器接收到不同权限的客户端发送的调用实际服务器的请求时，能够对应分配优先级实际服务器，如此，可以保证各个实际服务器都得到充分的应用且保证性能差的实际服务器不出现过载，而且可以确保高优先级的客户得到更快的响应更好的服务。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图示出的结构获得其他的附图。

图1为本发明一实施例实现服务器负载均匀的方法的流程图；

图2为本发明一实施例实现服务器负载均匀的***的组网图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明，本发明中涉及“第一”、“第二”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外，各个实施例之间的技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本发明要求的保护范围之内。

请参照图1，在本发明实施例中，该实现服务器负载均匀的方法，包括如下步骤：

在客户端，发送调用实际服务器的请求；

在实际服务器端，根据配置采集实际服务器的状态信息，以及根据状态信息计算当前实际服务器负载的评分，并上报对应的评分结果；

在分配服务器端，接收所有实际服务器负载的评分结果，并根据评分结果对所有实际服务器的优先处理级别进行划分，以及在接收到客户端发送的调用实际服务器请求时，根据客户权限分配优先处理级别对应的实际服务器。

本实施例中，客户端向分配服务器发送调用实际服务器的请求，该分配服务器可以根据客户端进行优先级管理。实际服务器采集的状态信息包括网络流量、CPU使用率、内存使用率、连接数以及响应时间中至少一项数据，也可以设置两项或两项以上的数据组合。各实际服务器可以根据自身情况进行配置，例如，实际服务器A配置为实际服务器的CPU使用率、内存使用率、连接数、响应时间；实际服务器B配置为网络流量、CPU使用率、内存使用率、连接数、响应时间；甚至实际服务器可以是配置两项数据或一项数据。分配服务器根据评分结果可以将实际服务器划分成多个级别，在接收到优先级的客户端时分配对应优先级的实际服务器，如此，确保高优先级的客户得到更快的响应更好的服务。

本发明的技术方案通过在实际服务器端对实际服务器进行评分处理，然后通过分配服务器根据评分处理的实际服务器进行优先处理级别划分，如此，在分配服务器接收到不同权限的客户端发送的调用实际服务器的请求时，能够对应分配优先级实际服务器，如此，可以保证各个实际服务器都得到充分的应用且保证性能差的实际服务器不出现过载，而且可以确保高优先级的客户得到更快的响应更好的服务。

在一具体的实施例中，所述根据状态信息计算当前实际服务器负载的评分的步骤，具体包括：

判断状态信息是否超过设定的阈值，

如果状态信息没有超过设定的阈值，则统计状态信息中各项数据的单项评分，以及根据配置的各项数据的加权系数及单项评分，并计算当前实际服务器负载的评分。

本实施例中，按实际服务器配置的状态信息加权系数进行评分，得到负载评分，其中，该状态信息包括CPU使用率A1、内存使用率A2、连接数A3、响应时间A4，具体计算公式如下：

负载评分＝100-(C1*A1+C2*A2+C3*A3+C4*A4)

其中，C1、C2、C3、C4为加权系数，A1、A2、A3、A4为各个单项评分。

进一步的，所述根据状态信息计算当前实际服务器负载的评分的步骤，还包括：

如果状态信息超过设定的阈值，则将当前实际服务器负载的评分记为0。

本实施例中，实际服务器配置的状态信息可以为CPU使用率及内存使用率，当两者之一超过阈值时实际服务器负载评分为0，其它加权系数设置为0分，即不影响当前***评分；优先考虑响应时间，当响应时间超过阈值时则认为是满负载，评分为0分；。负载评分通过配置的算法进行计算，各个实际服务器可以依据服务器自身情况进行配置。

实际服务器的评分及其灵活，可以使用默认配置，也可以由实际服务器依据服务器情况进行本地配置，或者依据整个***使用情况由控制服务器进行指定，对于使用情况存在差异的服务器可以指定不同的评分策略，由实际服务器自行采集需要的状态信息进行评分。

在一具体的实施例中，所述根据评分结果对所有实际服务器的优先处理级别进行划分的步骤，具体包括：

根据评分结果对所有实际服务器的优先处理级别进行划分，得到VIP服务器及普通服务器；

在接收到客户端发送的调用实际服务器请求时，根据VIP客户端优先分配VIP服务器，根据普通客户端优先分配普通实际服务器。

本实施例中，在分配服务器端根据评分结果可以将实际服务器分成VIP服务器及普通服务器两个级别，如此，在接收到客户端发送的调用实际服务器请求时，根据VIP客户端优先分配VIP服务器，根据普通客户端优先分配普通实际服务器。只有当普通服务器负载到一定程度(可配置)时且VIP服务器负载在限定范围内(可配置)时才将普通用户分配到VIP服务器上，以保障VIP客户端的使用。

请参照图2，本发明的实施例中，该实现服务器负载均匀的***，包括：

客户端10，用于发送调用实际服务器的请求；

实际服务器30，用于根据配置采集实际服务器30的状态信息，以及根据状态信息计算当前实际服务器30负载的评分，并上报对应的评分结果；

分配服务器20，用于接收所有实际服务器30负载的评分结果，并根据评分结果对所有实际服务器30的优先处理级别进行划分，以及在接收到客户端10发送的调用实际服务器30请求时，根据客户权限分配优先处理级别对应的实际服务器30。

本实施例中，该分配服务器20可以根据客户端10进行优先级管理。实际服务器30端采集的状态信息包括网络流量、CPU使用率、内存使用率、连接数以及响应时间中至少一项数据，也可以设置两项或两项以上的数据组合。各实际服务器30可以根据自身情况进行配置，例如，实际服务器30A配置为实际服务器30的CPU使用率、内存使用率、连接数、响应时间；实际服务器30B配置为网络流量、CPU使用率、内存使用率、连接数、响应时间；甚至实际服务器30可以是配置两项数据或一项数据。分配服务器20端根据评分结果可以将实际服务器30划分成多个级别，在接收到优先级的客户端10时分配对应优先级的实际服务器30，如此，确保高优先级的客户得到更快的响应更好的服务。

在一具体的实施例中，所述实际服务器30，具体用于：

判断状态信息是否超过设定的阈值，

在状态信息没有超过设定的阈值时，统计状态信息中各项数据的单项评分，以及根据配置的各项数据的加权系数及单项评分，并计算当前实际服务器30负载的评分。

本实施例中，按实际服务器30配置的状态信息加权系数进行评分，得到负载评分，其中，该状态信息包括CPU使用率A1、内存使用率A2、连接数A3、响应时间A4，具体计算公式如下：

负载评分＝100-(C1*A1+C2*A2+C3*A3+C4*A4)

其中，C1、C2、C3、C4为加权系数，A1、A2、A3、A4为各个单项评分。

进一步的，所述实际服务器30，还用于：

在判断状态信息超过设定的阈值时，将当前实际服务器30负载的评分记为0。

本实施例中，实际服务器30配置的状态信息可以为CPU使用率及内存使用率，当两者之一超过阈值时实际服务器30负载评分为0，其它加权系数设置为0分，即不影响当前***评分；优先考虑响应时间，当响应时间超过阈值时则认为是满负载，评分为0分；。负载评分通过配置的算法进行计算，各个实际服务器30可以依据服务器自身情况进行配置。

在一具体的实施例中，所述分配服务器20，具体用于：

根据评分结果对所有实际服务器30的优先处理级别进行划分，得到VIP服务器及普通服务器；

在接收到客户端10发送的调用实际服务器30请求时，根据VIP客户端优先分配VIP服务器，根据普通客户端优先分配普通实际服务器30。

本实施例中，分配服务器20根据评分结果可以将实际服务器30分成VIP服务器及普通服务器两个级别，如此，在接收到客户端10发送的调用实际服务器30请求时，根据VIP客户端优先分配VIP服务器，根据普通客户端优先分配普通实际服务器30。只有当普通服务器负载到一定程度(可配置)时且VIP服务器负载在限定范围内(可配置)时才将普通用户分配到VIP服务器上，以保障VIP客户端的使用。

以上所述仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是在本发明的发明构思下，利用本发明说明书及附图内容所作的等效结构变换，或直接/间接运用在其他相关的技术领域均包括在本发明的专利保护范围内。

Claims (8)

1.一种实现服务器负载均匀的方法，其特征在于，所述实现服务器负载均匀的方法包括如下步骤：

在客户端，发送调用实际服务器的请求；

在实际服务器端，根据配置采集实际服务器的状态信息，以及根据状态信息计算当前实际服务器负载的评分，并上报对应的评分结果；

在分配服务器端，接收所有实际服务器负载的评分结果，并根据评分结果对所有实际服务器的优先处理级别进行划分，以及在接收到客户端发送的调用实际服务器请求时，根据客户权限分配优先处理级别对应的实际服务器。

2.如权利要求1所述的实现服务器负载均匀的方法，其特征在于，所述根据状态信息计算当前实际服务器负载的评分的步骤，具体包括：

判断状态信息是否超过设定的阈值，

如果状态信息没有超过设定的阈值，则统计状态信息中各项数据的单项评分，以及根据配置的各项数据的加权系数及单项评分，并计算当前实际服务器负载的评分。

3.如权利要求2所述的实现服务器负载均匀的方法，其特征在于，所述根据状态信息计算当前实际服务器负载的评分的步骤，还包括：

如果状态信息超过设定的阈值，则将当前实际服务器负载的评分记为0。

4.如权利要求1所述的实现服务器负载均匀的方法，其特征在于，所述根据评分结果对所有实际服务器的优先处理级别进行划分的步骤，具体包括：

根据评分结果对所有实际服务器的优先处理级别进行划分，得到VIP服务器及普通服务器；

在接收到客户端发送的调用实际服务器请求时，根据VIP客户端优先分配VIP服务器，根据普通客户端优先分配普通实际服务器。

5.一种实现服务器负载均匀的***，其特征在于，所述实现服务器负载均匀的***包括：

客户端，用于发送调用实际服务器的请求；

实际服务器，用于根据配置采集实际服务器的状态信息，以及根据状态信息计算当前实际服务器负载的评分，并上报对应的评分结果；

分配服务器，用于接收所有实际服务器负载的评分结果，并根据评分结果对所有实际服务器的优先处理级别进行划分，以及在接收到客户端发送的调用实际服务器请求时，根据客户权限分配优先处理级别对应的实际服务器。

6.如权利要求5所述的实现服务器负载均匀的***，其特征在于，所述实际服务器，具体用于：

判断状态信息是否超过设定的阈值，

在状态信息没有超过设定的阈值时，统计状态信息中各项数据的单项评分，以及根据配置的各项数据的加权系数及单项评分，并计算当前实际服务器负载的评分。

7.如权利要求6所述的实现服务器负载均匀的***，其特征在于，所述实际服务器，还用于：

在判断状态信息超过设定的阈值时，将当前实际服务器负载的评分记为0。

8.如权利要求5所述的实现服务器负载均匀的***，其特征在于，所述分配服务器，具体用于：

根据评分结果对所有实际服务器的优先处理级别进行划分，得到VIP服务器及普通服务器；

在接收到客户端发送的调用实际服务器请求时，根据VIP客户端优先分配VIP服务器，根据普通客户端优先分配普通实际服务器。