CN106713163A - 一种调配服务器负载的方法及装置 - Google Patents

Abstract

本发明提供一种调配服务器负载的方法及装置，所述方法应用于负载均衡设备，所述负载均衡设备与待调配的服务器集群相连，所述方法包括：统计服务器集群中每台服务器的并发连接数；统计服务器集群中每台服务器的新建连接数；比较所述服务器集群中每台服务器的并发连接数，选择并发连接数最小的服务器作为业务请求的接收服务器；如果至少两台服务器的并发连接数相同，则比较所述至少两台服务器的新建连接数，选择新建连接数最小的服务器作为业务请求的接收服务器。本发明实施例通过统计和比较服务器集群中服务器的新建连接数，实现了基于服务器并发连接数以及新建连接数的负载调配，可见本发明实施例调配服务器负载的精度较高，均衡效果较好。

Description

一种调配服务器负载的方法及装置

技术领域

本申请涉及通信技术领域，特别涉及调配服务器负载的方法及装置。

背景技术

随着网络通信的飞速发展，网络服务器所承载的数据流量也飞速增长。面对庞大的数据流量，服务器集群的概念应运而生。服务器集群就是指将很多服务器集中起来一起进行同一种服务，它具有更高的处理性能、更高的可靠性。而服务器集群的高效协同工作就需要负载均衡设备对服务器集群中各个服务器的负载进行调配。

现有技术中，负载均衡设备通常采用最小连接数法来进行调配，它根据服务器当前的连接情况，动态地选取其中当前并发连接数最少的一台服务器来处理新的请求。其中，并发连接数是指服务器当前与所访问的客户端已建立的会话数。如果两台或多台服务器的并发连接数相同，则选取其中服务器序号最小的一台服务器来处理新的请求。

但两台或多台服务器的并发连接数相同，并不代表它们的新建连接数也相同，其中，新建连接数是指服务器在最近一段时长(例如最近1秒)内所收到的客户端请求数。由于对客户端请求的接收和处理也需要消耗服务器的资源，所以现有的依据并发连接数的调配服务器负载的方法，并不能实现服务器负载的实际均衡，其调配服务器负载的精度较低，均衡效果较差。

发明内容

本发明实施例提供调配服务器负载的方法和装置，用于解决现有技术调配服务器负载的精度较低，均衡效果较差的问题。

根据本发明实施例的第一方面，提供一种调配服务器负载的方法，所述方法应用于负载均衡设备，所述负载均衡设备与待调配的服务器集群相连，所述方法包括：

统计所述服务器集群中每台服务器的并发连接数，所述并发连接数是指服务器与客户端已建立的会话数；

统计所述服务器集群中每台服务器的新建连接数，所述新建连接数是指服务器在最近的预设统计时长内所收到的客户端请求数；

比较所述服务器集群中每台服务器的并发连接数，选择并发连接数最小的服务器作为业务请求的接收服务器；

如果至少两台服务器的并发连接数相同，则比较所述至少两台服务器的新建连接数，选择新建连接数最小的服务器作为业务请求的接收服务器。

根据本发明实施例的第二方面，提供一种调配服务器负载的装置，所述装置应用于负载均衡设备，所述负载均衡设备与待调配的服务器集群相连，所述装置包括：

第一统计单元，用于统计所述服务器集群中每台服务器的并发连接数，所述并发连接数是指服务器与客户端已建立的会话数；

第二统计单元，用于统计所述服务器集群中每台服务器的新建连接数，所述新建连接数是指服务器在最近的预设统计时长内所收到的客户端请求数；

筛选单元，用于比较所述服务器集群中每台服务器的并发连接数，选择并发连接数最小的服务器作为业务请求的接收服务器；在至少两台服务器的并发连接数相同的情况下，则继续比较所述至少两台服务器的新建连接数，选择新建连接数最小的服务器作为业务请求的接收服务器。

由以上技术方案可见，本发明实施例通过统计服务器集群中每台服务器的新建连接数，当服务器的并发连接数相同时比较服务器的新建连接数，将新的业务请求分配到新建连接数最小的服务器上。实现了基于服务器新建连接数的负载调配，可见本发明实施例调配服务器负载的精度较高，均衡效果较好。

附图说明

图1为本发明实施例调配服务器负载的方法的一个应用场景示意图；

图2为本发明调配服务器负载的方法的一个实施例流程图；

图3为本发明调配服务器负载的方法的另一个实施例流程图；

图4为本发明调配服务器负载的装置所在设备的一种硬件结构图；

图5为本发明调配服务器负载的装置的一个实施例框图。

具体实施方式

为了使本技术领域的人员更好的理解本发明实施例中的技术方案，并使本发明实施例的上述目的、特征和优点能够更加明显易懂，下面结合附图对本发明实施例中的技术方案作进一步详细的说明。

图1为本发明实施例调配服务器负载的方法的一个应用场景示意图。

如图1所示，该应用场景中包括：N台客户端，负载均衡设备以及服务器集群，其中，所示服务器集群中包含4台服务器。所示N台客户端通过负载均衡设备与服务器集群相连接，N台客户端的访问流量通过负载均衡设备调配到服务器集群的4台服务器上。

以对图1中所示服务器集群的负载进行调配为例，现有技术中，负载均衡设备通常采用最小连接数法来进行调配，负载均衡设备根据服务器当前的连接情况，选取所示4台服务器中并发连接数最少的一台服务器来处理客户端发起的新的请求。如果所示4台服务器中有两台或多台服务器的并发连接数相同，则选取其中服务器序号最小的一台服务器来处理新的请求。但两台或多台服务器的并发连接数相同，并不代表它们的新建连接数也相同。由于对客户端请求的接收和处理也需要消耗服务器的资源，所以现有的依据并发连接数的调配服务器负载的方法，并不能实现服务器负载的实际均衡，其调配服务器负载的精度较低，均衡效果较差。

在本发明实施例中，负载均衡设备通过统计服务器集群中所示4台服务器的新建连接数，当服务器的并发连接数相同时比较服务器的新建连接数，将新的业务请求分配到新建连接数最小的服务器上。实现了基于服务器新建连接数的负载调配，可见本发明实施例调配服务器负载的精度较高，均衡效果较好。

下面结合图1示出的应用场景，对本发明实施例进行详细说明。

参见图2，图2为本发明调配服务器负载的方法的一个实施例流程图，该实施例应用于负载均衡设备，包括以下步骤：

步骤201：统计所述服务器集群中每台服务器的并发连接数，所述并发连接数是指服务器与客户端已建立的会话数。

步骤202：统计所述服务器集群中每台服务器的新建连接数，所述新建连接数是指服务器在最近的预设统计时长内所收到的客户端请求数。

在一个可选的方式中，上述预设统计时长可以为1秒。

步骤203：比较所述服务器集群中每台服务器的并发连接数，选择并发连接数最小的服务器作为业务请求的接收服务器。

在一个可选的方式中，可以在每次接收业务请求后，比较服务器集群中每台服务器的并发连接数。

在另一个可选的方式中，可以当预设时间周期到达时，比较服务器集群中每台服务器的并发连接数，

步骤204：如果至少两台服务器的并发连接数相同，则比较所述至少两台服务器的新建连接数，选择新建连接数最小的服务器作为业务请求的接收服务器。

在一个可选的方式中，如果至少两台服务器的新建连接数相同，则选择新建连接数相同的服务器中服务器编号最小的服务器作为业务请求的接收服务器，或在新建连接数相同的服务器中随机选择一台服务器作为业务请求的接收服务器。

在另一个可选的方式中，如果在上述步骤中是当预设时间周期到达时，比较服务器集群中每台服务器的并发连接数，则可以选择新建连接数最小的服务器作为下一个预设时间周期内业务请求的接收服务器。

由以上实施例可见，该实施通过统计服务器集群中每台服务器的新建连接数，当服务器的并发连接数相同时比较服务器的新建连接数，将新的业务请求分配到新建连接数最小的服务器上。实现了基于服务器新建连接数的负载调配，可见本发明实施例调配服务器负载的精度较高，均衡效果较好。

参见图3，图3为本发明调配服务器负载的方法的另一个实施例流程图，该实施例从负载均衡设备侧对服务器集群中各服务器负载的调配过程进行了详细描述，包括以下步骤：

步骤301：当预设时间周期到达时，统计服务器集群中4台服务器的并发连接数。

本步骤中的并发连接数是指服务器与客户端已建立的会话数。

在一个可选的方式中，本步骤中的预设时间周期可以为一秒钟。

在另一个可选的方式中，也可以是每当从客户端接收业务请求后，统计服务器集群中4台服务器的并发连接数。

步骤302：统计服务器集群中每台服务器的新建连接数。

本步骤中的新建连接数是指服务器在最近一秒内所收到的客户端请求数。

步骤303：判断所示4台服务器的并发连接数是否都不相同，如果是则执行步骤304，如果否则执行步骤305。

在一个可选的方式中，上述判断并发连接数是否都不相同的过程，可以采用两两循环比较的方式，具体的，可以先分别比较所示服务器1与所示服务器2、服务器3、服务器4的并发连接数，然后分别比较所示服务器2与所示服务器3、服务器4的并发连接数，然后再比较所示服务器3与所示服务器4的并发连接数，最后统计上述所有比较结果中并发连接数相同的比较结果并将并发连接数相同的统计结果所对应的服务器编号归类，最后得出一组或多组并发连接数相同的服务器的编号。

在另一个可选的方式中，上述判断并发连接数是否都不相同的过程，可以采用统计归类的方式，具体的，可以先创建一个并发连接数与服务器编号的对应关系表，然后在该对应关系表中逐一添加所示服务器集群中服务器的编号以及该服务器的并发连接数，每次添加时，如果待添加服务器的并发连接数已经记录在该对应关系表中，则将该待添加服务器的编号记录在该并发连接数对应的表项中。

步骤304：选择并发连接数最小的服务器作为下一个预设时间周期内业务请求的接收服务器。

在一个可选的方式中，本步骤中的预设时间周期可以为一秒钟。

在另一个可选的方式中，如果步骤301中是每当从客户端接收业务请求后，统计服务器集群中4台服务器的并发连接数，则在本步骤中，可以选择并发连接数最小的服务器作为本次业务请求的接收服务器。

步骤305：判断并发连接数相同的服务器的新建连接数是否都不相同，如果是则执行步骤306，如果否则执行步骤307。

上述判断新建连接数是否都不相同的过程，与步骤303中判断并发连接数是否都不相同的过程相似，在此不再赘述。

步骤306：选择新建连接数最小的服务器作为下一个预设时间周期内业务请求的接收服务器。

在一个可选的方式中，本步骤中的预设时间周期可以为一秒钟。

在另一个可选的方式中，如果步骤301中是每当从客户端接收业务请求后，统计服务器集群中4台服务器的并发连接数，则在本步骤中，可以选择并发连接数最小的服务器作为本次业务请求的接收服务器。

步骤307：在新建连接数相同的服务器中选择编号最小的服务器作为下一个预设时间周期内业务请求的接收服务器。

在一个可选的方式中，本步骤中的预设时间周期可以为一秒钟。

在另一个可选的方式中，如果步骤301中是每当从客户端接收业务请求后，统计服务器集群中4台服务器的并发连接数，则在本步骤中，可以选择并发连接数最小的服务器作为本次业务请求的接收服务器。

由以上实施例可见，一方面负载均衡设备通过统计服务器集群中所示4台服务器的新建连接数，当服务器的并发连接数相同时比较服务器的新建连接数，将新的业务请求分配到新建连接数最小的服务器上。实现了基于服务器新建连接数的负载调配，可见本发明实施例调配服务器负载的精度较高，均衡效果较好。

下面通过一个具体的应用实例对本发明实施例进行说明，该应用实例结合图1示出的应用场景进行描述，其中，假设该场景中的服务器集群已经与所示客户端建立连接，其中，所示4台服务器的并发连接数与新建连接数如表1所示：

服务器编号	并发连接数	新建连接数
			服务器1	2	1
服务器2	2	1
			服务器3	2	2
服务器4	4	3

现在假设客户端1对所示服务器集群发起业务请求，负载均衡设备对服务器集群的负载调配过程如下：

负载均衡设备在接收到客户端1的业务请求后，分别统计所示服务器集群中服务器1、服务器2、服务器3以及服务器4的并发连接数(服务器与客户端已建立的会话数)和新建连接数(服务器在最近一秒内所收到的客户端请求数)。比较所述服务器集群中每台服务器的并发连接数，选择并发连接数最小的服务器作为业务请求的接收服务器；如果至少两台服务器的并发连接数相同，则比较所述至少两台服务器的新建连接数，选择新建连接数最小的服务器作为业务请求的接收服务器；如果至少两台服务器的新建连接数相同，则选择新建连接数相同的服务器中服务器编号最小的服务器作为业务请求的接收服务器，其过程如下：

创建服务器编号、并发连接数、新建连接数三者的对应关系表；

在该对应关系表中逐一添加所示服务器集群中服务器的编号以及该服务器的并发连接数，结果如表1所示；

在上述对应关系表中比较服务器集群中各服务器的并发连接数，筛选出并发连接数相同的服务器1、服务器2、服务器3；

在上述对应关系表中比较服务器1、服务器2、服务器3的新建连接数，筛选出新建连接数相同的服务器1和服务器2；

选择服务器编号最小的服务器1作为本次客户端1业务请求的接收服务器。

与前述调配服务器负载的方法的实施例相对应，本申请还提供了调配服务器负载的装置的实施例。

本申请调配服务器负载的装置的实施例可以应用在负载均衡设备上。装置实施例可以通过软件实现，也可以通过硬件或者软硬件结合的方式实现。以软件实现为例，作为一个逻辑意义上的装置，是通过其所在设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言，如图4所示，为本申请调配服务器负载的装置所在设备的一种硬件结构图，除了图4所示的处理器、内存、网络接口、以及非易失性存储器之外，实施例中装置所在的设备通常根据该设备的实际功能，还可以包括其他硬件，对此不再赘述。

请参考图5，为本发明调配服务器负载的装置的一个实施例框图，所述装置应用于负载均衡设备，所述装置包括：第一统计单元510，第二统计单元520，筛选单元530。

其中，第一统计单元510，用于统计所述服务器集群中每台服务器的并发连接数，所述并发连接数是指服务器与客户端已建立的会话数；

第二统计单元520，用于统计所述服务器集群中每台服务器的新建连接数，所述新建连接数是指服务器在最近的预设统计时长内所收到的客户端请求数；

筛选单元530，用于比较所述服务器集群中每台服务器的并发连接数，选择并发连接数最小的服务器作为业务请求的接收服务器；在至少两台服务器的并发连接数相同的情况下，则继续比较所述至少两台服务器的新建连接数，选择新建连接数最小的服务器作为业务请求的接收服务器。

在一个可选的例子中，所述筛选单元530，具体用于：

在至少两台服务器的新建连接数相同的情况下，选择所述新建连接数相同的服务器中服务器编号最小的服务器作为业务请求的接收服务器，

或

在所述新建连接数相同的服务器中随机选择一台服务器作为业务请求的接收服务器。

在另一个可选的例子中，所述筛选单元530，具体用于：

在接收业务请求后，比较所述服务器集群中每台服务器的并发连接数。

在另一个可选的例子中，所述筛选单元530，具体用于：

当预设时间周期到达时，比较所述服务器集群中每台服务器的并发连接数；

在比较所述至少两台服务器的新建连接数后，选择新建连接数最小的服务器作为下一个预设时间周期内业务请求的接收服务器。

在另一个可选的例子中，所述预设统计时长为1秒。

由以上技术方案可见，本发明实施例通过统计服务器集群中每台服务器的新建连接数，当服务器的并发连接数相同时比较服务器的新建连接数，将新的业务请求分配到新建连接数最小的服务器上。实现了基于服务器新建连接数的负载调配，可见本发明实施例调配服务器负载的精度较高，均衡效果较好。

上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。

对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

以上所述仅为本申请的较佳实施例而已，并不用以限制本申请，凡在本申请的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本申请保护的范围之内。

Claims (10)

1.一种调配服务器负载的方法，其特征在于，所述方法应用于负载均衡设备，所述负载均衡设备与待调配的服务器集群相连，所述方法包括：

统计所述服务器集群中每台服务器的并发连接数，所述并发连接数是指服务器与客户端已建立的会话数；

统计所述服务器集群中每台服务器的新建连接数，所述新建连接数是指服务器在最近的预设统计时长内所收到的客户端请求数；

比较所述服务器集群中每台服务器的并发连接数，选择并发连接数最小的服务器作为业务请求的接收服务器；

如果至少两台服务器的并发连接数相同，则比较所述至少两台服务器的新建连接数，选择新建连接数最小的服务器作为业务请求的接收服务器。

2.根据权利要求1所述的方法，其特征在于，所述选择新建连接数最小的服务器作为业务请求的接收服务器，包括：

如果至少两台服务器的新建连接数相同，则选择所述新建连接数相同的服务器中服务器编号最小的服务器作为业务请求的接收服务器，

或

在所述新建连接数相同的服务器中随机选择一台服务器作为业务请求的接收服务器。

3.根据权利要求1所述的方法，其特征在于，所述比较所述服务器集群中每台服务器的并发连接数，包括：

在接收业务请求后，比较所述服务器集群中每台服务器的并发连接数。

4.根据权利要求1所述的方法，其特征在于，所述比较所述服务器集群中每台服务器的并发连接数，包括：

当预设时间周期到达时，比较所述服务器集群中每台服务器的并发连接数；

所述选择新建连接数最小的服务器作为业务请求的接收服务器，包括：

选择新建连接数最小的服务器作为下一个预设时间周期内业务请求的接收服务器。

5.根据权利要求1所述的方法，其特征在于，所述预设统计时长为1秒。

6.一种调配服务器负载的装置，其特征在于，所述装置应用于负载均衡设备，所述负载均衡设备与待调配的服务器集群相连，所述装置包括：

第一统计单元，用于统计所述服务器集群中每台服务器的并发连接数，所述并发连接数是指服务器与客户端已建立的会话数；

第二统计单元，用于统计所述服务器集群中每台服务器的新建连接数，所述新建连接数是指服务器在最近的预设统计时长内所收到的客户端请求数；

筛选单元，用于比较所述服务器集群中每台服务器的并发连接数，选择并发连接数最小的服务器作为业务请求的接收服务器；在至少两台服务器的并发连接数相同的情况下，则继续比较所述至少两台服务器的新建连接数，选择新建连接数最小的服务器作为业务请求的接收服务器。

7.根据权利要求6所述的装置，其特征在于，所述筛选单元，具体用于：

在至少两台服务器的新建连接数相同的情况下，选择所述新建连接数相同的服务器中服务器编号最小的服务器作为业务请求的接收服务器，

或

在所述新建连接数相同的服务器中随机选择一台服务器作为业务请求的接收服务器。

8.根据权利要求6所述的装置，其特征在于，所述筛选单元，具体用于：

在接收业务请求后，比较所述服务器集群中每台服务器的并发连接数。

9.根据权利要求6所述的装置，其特征在于，所述筛选单元，具体用于：

当预设时间周期到达时，比较所述服务器集群中每台服务器的并发连接数；

在比较所述至少两台服务器的新建连接数后，选择新建连接数最小的服务器作为下一个预设时间周期内业务请求的接收服务器。

10.根据权利要求6所述的装置，其特征在于，所述预设统计时长为1秒。