CN105812437A - 一种业务分发方法、***及相关装置 - Google Patents

Abstract

本发明实施例公开了一种业务分发方法、***及相关装置，该方法包括：接收服务器群中一个或多个服务器主动上报的第一信息；根据所述接收的第一信息，确定需要采用的负载均衡策略；根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务。能够提高负载均衡的灵活性，且能达到良好的负载均衡效果、应用场景更广泛。

Description

一种业务分发方法、***及相关装置

技术领域

本发明涉及负载均衡领域，尤其涉及一种业务分发方法、***及相关装置。

背景技术

随着英特网的快速发展，用户规模的不断扩大，业务使用量的不断提高，基于网络的数据访问数量快速增加，流量迅速增长，数据中心、大型企业以及门户网站等的服务器逐渐被数据淹没，网络部分拥塞情况日益严重。面对这种现象，一方面需要提高单台服务器的处理能力，采用高性能的服务器；另一方面可以采用服务器集群的方式，使用多台服务器连接成一个整体，通过并行处理扩展性能。目前服务器集群的方式已经被广泛采用，多台服务器通过局域网络连接成一个整体，从而以很高的整体性能如响应时间、吞吐率等，更高的性价比，实现服务器的性能扩展。

多台服务器通过网络设备相连组成一个服务器集群，每台服务器都提供相同或者相似的网络服务。为了更高效的工作，在服务器集群前端需要部署一台负载均衡设备。负载均衡设备主要工作是将负载进行均衡，根据已配置的均衡策略将用户请求在服务器集群中分发，从而实现整个***的均衡负载，保证***的处理能力和处理质量，同时负载均衡器还针对服务器可用性进行维护。目前负载均衡器有两种形式，分别是硬件的负载均衡器件以及软件形式的负载均衡器。软件形式相对于硬件盒子比较灵活，但是在性能方面远不足硬件负载均衡器。

负载均衡设备需要将业务流量根据某种算法分发给不同的服务器，这种分发算法就是负载均衡调度算法。调度算法指对需要负载均衡的流量，按照一定的策略分发到指定的服务器群中的服务器，使得各台服务器尽可能地保持负载均衡。负载均衡技术具有丰富的负载均衡调度算法，大范围上分为两类：静态调度算法和动态调度算法。

静态算法指的是，按照预先设定的策略进行分发，不考虑当前各服务器的实际负载情况。通常用的轮询法、加权法、哈希负载均衡算法等均属于静态算法。静态算法简单而且调度快捷，但是最大的问题在于缺乏感知。

动态算法，能够根据服务器实际运行的负载情况进行连接分发，分发效果更均衡。目前传统的动态算法包括，最小连接算法，带宽，时延。

目前负载均衡器能够实现大多数常用的动态和静态负载均衡算法，用户可以根据需要选择适合的负载均衡算法。对于静态的负载均衡算法，主要是应用于简单且动态变化不大的场景，对于服务器情况变化并无感知，因而存在一定的局限性；而动态负载均衡算法弥补了这一缺点，可以根据服务器情况负载均衡器作出一定的及时响应，但是这种响应也具有一定的单一性，而且是本地算法，如采用最小连接算法则根据负载均衡器上统计的各个服务器连接数作出反应，采用最小流量算法则根据负载均衡器上统计的各个服务器承载的流量作出反应，采用最小时延算法也是根据负载均衡器上统计的各个服务器时间响应作出反应。这种动态的响应，只是根据单一的指标执行负载均衡算法，无法达到理想的负载均衡，而且本地算法依据的是负载均衡器通过和服务器的通信记录的相关信息，而且这些信息相对简单，不具备完整性，也不具备实时性，影响负载均衡效果。

发明内容

有鉴于此，为解决现有存在的技术问题，本发明实施例提供：

一种业务分发方法，包括：

接收服务器群中一个或多个服务器主动上报的第一信息；

根据所述接收的第一信息，确定需要采用的负载均衡策略；

根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务。

一具体实施例中，该方法还包括：通过以下一种或多种方式获取服务器群中服务器的当前状态信息：

主动向服务器获取；

由服务器主动上报，即从所述服务器主动上报的第一信息中获取；

根据默认设置获取。

一具体实施例中，所述第一信息包括服务器物理硬件信息和/或业务信息。

一具体实施例中，所述第一信息还包括优先级信息。

一具体实施例中，根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务，包括：

根据所述负载均衡策略对应的服务器的状态信息以及各状态信息的权值进行加权计算；

根据计算的加权值，确定所述服务器承担业务的能力；

根据所述服务器承担业务的能力，向所述服务器分发业务。

本发明实施例还提供一种基于业务分发装置，包括：接收模块、负载均衡策略确定模块和业务分发模块；其中，

所述接收模块，用于接收服务器群中一个或多个服务器主动上报的第一信息；

所述负载均衡策略确定模块，用于根据所述接收的第一信息，确定需要采用的负载均衡策略；

所述业务分发模块，用于根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务。

一具体实施例中，该装置还包括状态信息获取模块，

所述状态信息获取模块，用于通过以下一种或多种方式获取服务器群中服务器的当前状态信息：主动向服务器获取；由服务器主动上报，即从所述服务器主动上报的第一信息中获取；根据默认设置获取。

一具体实施例中，所述接收模块接收的第一信息包括服务器物理硬件信息和/或业务信息。

一具体实施例中，所述接收模块接收的第一信息还包括优先级信息。

一具体实施例中，所述业务分发模块，用于根据所述负载均衡策略对应的服务器的状态信息以及各状态信息的权值进行加权计算；根据计算的加权值，确定所述服务器承担业务的能力；根据所述服务器承担业务的能力，向所述服务器分发业务。

本发明实施例还提供一种服务器，包括：信息获取模块和上报模块；其中，

所述信息获取模块，用于获取服务器物理硬件信息和/或业务信息；

所述上报模块，用于向业务分发装置上报所述获取的服务器物理硬件信息和/或业务信息。

一具体实施例中，所述上报模块，具体用于按照预设的优先级进行信息上报，和/或，上报信息的优先级信息。

本发明实施例还提供一种业务分发***，包括业务分发装置和服务器群，其特征在于，

所述业务分发装置为上述的业务分发装置；

所述服务器群中的服务器为上述的服务器。

本发明实施例所述的业务分发方法、***及相关装置，接收服务器群中一个或多个服务器主动上报的第一信息；根据所述接收的第一信息，确定需要采用的负载均衡策略；根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息进行负载均衡，向所述服务器群中的服务器分发业务。本发明实施例中，网络侧基于服务器上报的第一信息(如服务器物理硬件信息和/或业务信息)确定需要采用的负载均衡策略，相比于现有采用单一的负载均衡算法进行业务分发的方式，能够提高负载均衡的灵活性，且能达到良好的负载均衡效果。

附图说明

图1为本发明实施例一种业务分发方法流程示意图；

图2为本发明实施例一种业务分发装置结构示意图；

图3为本发明实施例再一种业务分发装置结构示意图；

图4为本发明实施例一种服务器的结构示意图；

图5为本发明实施例1所述的基于服务器的自适应交互技术示意框图；

图6为本发明实施例1中插件和负载均衡策略确定模块进行交互传递信息的过程示意图；

图7为本发明实施例1中插件和负载均衡策略确定模块进行交互传递信息的流程图。

具体实施方式

为了避免采用现有常用的根据动态和静态负载均衡算法进行业务分发存在的技术问题，本发明实施例提供一种业务分发方法，如图1所示，该方法包括：

步骤11：接收服务器群中一个或多个服务器主动上报的第一信息；

本发明实施例由传统的服务器被动接受负载均衡策略变更为服务器主动上报自身状况给负载均衡器，使得交互过程更科学，这里，服务器可以以MIB库查询的方式自动上报第一信息。

所述第一信息可以包括服务器物理硬件信息(如CPU占用情况、内存占用情况、服务器温度等)和/或业务信息(如业务连接数、业务流量、业务时延等)。

需要说明的是，对于第一信息，服务器可以按照一定的优先级进行上报，和/或，进一步上报信息的优先级信息，供负载均衡器参考。

一具体实施例中，第一信息还可以包括优先级信息。需要说明的是，所述优先级信息可以是服务器物理硬件信息和/或业务信息的优先级信息。不同优先级对应不同的加权值。

需要说明的是，服务器可以周期性上报，也可以在触发预设条件时上报。

步骤12：根据所述接收的第一信息，确定需要采用的负载均衡策略；

本发明实施例中，通过服务器实时上报给业务分发装置的自身信息(第一信息)，动态进行负载均衡策略的调度，具备实时性。尤其根据服务器上报的完整的服务器硬件信息和业务信息进行综合评判选择算法策略，使得负载均衡更充分。

需要说明的是，负载均衡策略与第一信息中部分或全部信息的信息类型有关，和/或，与第一信息中部分或全部信息的信息值有关。

步骤13：根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务。

本发明实施例中，业务分发装置根据来自服务器的第一信息得到的负载均衡策略进行业务的分发，有利于提高负载均衡器的性能。

这里，可以通过以下一种或多种方式获取服务器群中服务器的当前状态信息：

由业务分发装置主动向服务器获取；

由服务器主动向业务分发装置上报，即从所述服务器主动上报的第一信息中获取；

根据默认设置获取。例如，默认服务器在预设时间段内未向业务分发装置上报信息，表示该服务器负载低于预设值。

一具体实施例中，根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务，包括：

根据所述负载均衡策略对应的服务器的状态信息以及各状态信息的权值进行加权计算；

根据计算的加权值，确定所述服务器承担业务的能力；

根据所述服务器承担业务的能力，向所述服务器分发业务。

本发明实施例还相应地提出了一种业务分发装置，如图2所示，该业务分发装置包括：接收模块21、负载均衡策略确定模块22和业务分发模块23；其中，

所述接收模块21，用于接收服务器群中一个或多个服务器主动上报的第一信息；

这里，所述接收模块21接收的第一信息包括服务器物理硬件信息和/或业务信息。

一具体实施例中，接收模块21接收的第一信息还包括优先级信息。

所述负载均衡策略确定模块22，用于根据所述接收的第一信息，确定需要采用的负载均衡策略；

所述业务分发模块23，用于根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务。

一具体实施例中，所述业务分发模块23，用于根据所述负载均衡策略对应的服务器的状态信息以及各状态信息的权值进行加权计算；根据计算的加权值，确定所述服务器承担业务的能力；根据所述服务器承担业务的能力，向所述服务器分发业务。

一具体实施例中，如图3所示，该业务分发装置还包括状态信息获取模块24，

所述状态信息获取模块24，用于通过以下一种或多种方式获取服务器群中服务器的当前状态信息：主动向服务器获取；由服务器主动上报，即从所述服务器主动上报的第一信息中获取；根据默认设置获取。

本发明实施例还相应地提出了一种服务器，如图4所示，该服务器包括：信息获取模块41和上报模块42；其中，

所述信息获取模块41，用于获取服务器物理硬件信息和/或业务信息；

所述上报模块42，用于向业务分发装置上报所述获取的服务器物理硬件信息和/或业务信息。

一具体实施例中，所述上报模块，具体用于按照预设的优先级进行信息上报，和/或，上报信息的优先级信息。

本发明实施例还相应地提出了一种业务分发***，包括负载均衡器和服务器群，其中，

所述业务分发装置为图2或3所示的业务分发装置；

所述服务器群中的服务器为图4所示的服务器。

需要说明的是，本发明实施例中，业务分发装置中的各个模块可以位于同一物理实体(如负载均衡器)，也可以位于不同的物理实体。当业务分发模块为负载均衡器，接收模块和负载均衡策略确定模块独立于负载均衡器设置时，独立的信息处理可以减轻负载均衡器的压力，另一方面，基于上述实施例，服务器上报的信息更实时更准确更完备，具有优先级的信息便于负载均衡策略确定模块的区分信息并进行综合分析，灵活的选用各种权值，选取合适的负载均衡算法，从而实现服务器集群充分的负载均衡。

下面通过具体实施例对本发明的技术方案作进一步详细说明。

实施例1

本实施例提出一种业务分发技术，该技术为负载均衡器提供了一种新的与服务器的交互技术以及一种新的负载均衡策略，即由服务器的综合状况选择负载均衡算法。

图5为本发明实施例1所述的业务分发***示意框图，如图5所示，本实施例所述的业务分发***包括：服务器、负载均衡策略确定模块和负载均衡器，负载均衡策略确定模块可独立于负载均衡器设置或设置于负载均衡器中，本实施例以负载均衡策略确定模块与负载均衡器独立设置为例，其中：

服务器通过插件收集服务器的整体信息，以及提供服务器接口，将服务器的信息上报给负载均衡策略确定模块。信息包括服务器的物理硬件信息以及业务信息。

负载均衡策略确定模块(如核心处理器)可以为硬件盒子，负责接受服务器上报的信息，对信息进行处理，最终决策出负载均衡的算法。负载均衡策略确定模块与负载均衡器进行通信，告知其负载均衡算法，负载均衡器再利用该负载均衡算法将业务分发到服务器群。业务分发交互，由于服务器可以动态上报信息，此时需要负载均衡策略确定模块动态处理信息，根据服务器的目前状态选择合适的负载均衡策略，从而实现自适应功能。

所以负载均衡策略确定模块分为信息收集部分和信息处理两部分(分别对应接收模块21和负载均衡策略确定模块22)。

本实施例中，基于服务器的自适应交互技术具体实现涉及几个方面的内容，具体包括插件和负载均衡策略确定模块进行交互传递信息的过程，负载均衡策略确定模块处理服务器信息的过程，以及负载均衡策略确定模块和负载均衡器进行通信的过程，具体描述如下：

1.服务器插件和负载均衡策略确定模块进行交互传递信息的过程

图6所示为服务器插件和负载均衡策略确定模块进行交互传递信息的过程示意图，图7所示为服务器插件和负载均衡策略确定模块进行交互传递信息的流程图，参考图6和图7，负责收集服务器整体信息的插件传递信息给负载均衡策略确定模块时，服务器的信息以MIB库的形式上报，通过传输协议传递给负载均衡策略确定模块。传输协议类似于SNMP是一种基于TCP/IP的网络管理协议，为了保证信息的安全可靠，采用TCP作为传输层协议，能管理支持代理进程的网络设备。该协议支持管理信息库(MIB)。MIB库存储的有用信息主要分为两类，一类是服务器物理硬件信息，一类是业务信息。物理硬件信息主要包括服务器的CPU占用情况、内存占用情况、硬盘占用情况、服务器温度等信息；业务信息主要包括服务器的业务连接数、业务接口流量、业务时延等信息。为了对两种类别信息作区分，以及对同一类别的信息作一定的优先级，TCP封装时，TCP头部option字段中，对信息的优先级作了一定的规定。选取option字段中1个比特位，0代表物理硬件信息，1代表业务信息。选取option字段中2个比特位，表示具体的信息。

插件和负载均衡策略确定模块进行交互传递的信息中带有表征信息的字段可以如表1所示：

表1

2.负载均衡策略确定模块处理服务器信息的过程

负载均衡策略确定模块在接口到插件传递的信息后，进行信息的处理，根据传递的报文，对信息进行区分。优先级方面，物理硬件信息的优先级要高于业务信息的优先级。所以信息类别特征位为0的信息优先级高于信息类别特征位为1的信息。

信息类别特征为0的服务器信息出现告警，则该负载均衡算法中排除该对应的物理服务器；信息类别特征为1的服务器信息出现告警，则该负载均衡算法中排除该对应的物理服务器。对于不出现告警的情况，对于信息类别特征为0的服务器，根据CPU、内存以及硬盘以及温度情况设定一定的权值，进行对物理服务器的负载均衡算法计算，如CPU为25％，内存为25％，硬盘为25％，温度为25％。对于当前服务器的硬件信息进行加权计算(数越大表示性能越差)，根据加权结果确定负载均衡的比例。如服务器A加权得数：服务器B加权得数：服务器C加权得数＝1:2:3，则对于三个服务器承担业务负载均衡后应该为3:2:1。同样，对于不出现告警的情况，对于信息类别特征为1的服务器，同样可以设定一定的权值对连接数、流量、时延等信息做一定的加权计算，从而确定负载均衡的比例。对于信息类别特征为0和1，还可以整体做加权计算，从而均衡考虑物理硬件信息和业务信息。具体算法可以根据应用场景灵活设定。

3.负载均衡策略确定模块和负载均衡器进行通信的过程

负载均衡策略确定模块和负载均衡器之间可采用TCP连接进行通信，报文信息中包含负载均衡器应该下发的负载均衡策略。

根据上述描述，本发明实施例具备以下特点：

1、由服务器主动上报信息给负载均衡策略确定模块，由传统的服务器被动接受负载均衡策略变更为服务器主动；

2、基于TCP的传输协议可以实现实时性，通过服务器实时上报给负载均衡器自身信息，动态进行负载均衡策略的调度，而且TCP协议能够保障连接的安全性。

3、由独立的负载均衡策略确定模块负责处理服务器上报的完整信息，负载均衡器根据负载均衡策略确定模块处理信息得到的负载均衡策略进行策略的分发，实现了处理和转发的分离，有利于提高负载均衡器的性能。

4、通过TCP的option字段对服务器上报的信息进行区分，可以对信息的优先级进行识别，便于后面的信息处理；

5、负载均衡器根据服务器上报的完整的服务器硬件信息和业务的信息进行综合评判选择算法策略，使得负载均衡更充分，通过设置不同的权值，算法更灵活。

上述各单元可以由电子设备中的中央处理器(CentralProcessingUnit，CPU)、数字信号处理器(DigitalSignalProcessor，DSP)或可编程逻辑阵列(Field－ProgrammableGateArray，FPGA)实现。

本领域内的技术人员应明白，本发明的实施例可提供为方法、***、或计算机程序产品。因此，本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上所述，仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。

Claims (13)

1.一种业务分发方法，其特征在于，该方法包括：

接收服务器群中一个或多个服务器主动上报的第一信息；

根据所述接收的第一信息，确定需要采用的负载均衡策略；

根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务。

2.根据权利要求1所述的方法，其特征在于，该方法还包括：通过以下一种或多种方式获取服务器群中服务器的当前状态信息：

主动向服务器获取；

由服务器主动上报，即从所述服务器主动上报的第一信息中获取；

根据默认设置获取。

3.根据权利要求1所述的方法，其特征在于，所述第一信息包括服务器物理硬件信息和/或业务信息。

4.根据权利要求3所述的方法，其特征在于，所述第一信息还包括优先级信息。

5.根据权利要求1至4任一项所述的方法，其特征在于，根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务，包括：

根据所述负载均衡策略对应的服务器的状态信息以及各状态信息的权值进行加权计算；

根据计算的加权值，确定所述服务器承担业务的能力；

根据所述服务器承担业务的能力，向所述服务器分发业务。

6.一种业务分发装置，其特征在于，该装置包括：接收模块、负载均衡策略确定模块和业务分发模块；其中，

所述接收模块，用于接收服务器群中一个或多个服务器主动上报的第一信息；

所述负载均衡策略确定模块，用于根据所述接收的第一信息，确定需要采用的负载均衡策略；

所述业务分发模块，用于根据所述负载均衡策略以及所述服务器群中服务器的当前状态信息，向所述服务器群中的服务器分发业务。

7.根据权利要求6所述的装置，其特征在于，该装置还包括状态信息获取模块，

所述状态信息获取模块，用于通过以下一种或多种方式获取服务器群中服务器的当前状态信息：主动向服务器获取；由服务器主动上报，即从所述服务器主动上报的第一信息中获取；根据默认设置获取。

8.根据权利要求6所述的装置，其特征在于，

所述接收模块接收的第一信息包括服务器物理硬件信息和/或业务信息。

9.根据权利要求8所述的装置，其特征在于，

所述接收模块接收的第一信息还包括优先级信息。

10.根据权利要求6至9任一项所述的装置，其特征在于，

所述业务分发模块，用于根据所述负载均衡策略对应的服务器的状态信息以及各状态信息的权值进行加权计算；根据计算的加权值，确定所述服务器承担业务的能力；根据所述服务器承担业务的能力，向所述服务器分发业务。

11.一种服务器，其特征在于，该服务器包括：信息获取模块和上报模块；其中，

所述信息获取模块，用于获取服务器物理硬件信息和/或业务信息；

所述上报模块，用于向业务分发装置上报所述获取的服务器物理硬件信息和/或业务信息。

12.根据权利要求11所述的服务器，其特征在于，

所述上报模块，具体用于按照预设的优先级进行信息上报，和/或，上报信息的优先级信息。

13.一种业务分发***，包括业务分发装置和服务器群，其特征在于，

所述业务分发装置为权利要求6至10任一项所述的业务分发装置；

所述服务器群中的服务器为权利要求11或12所述的服务器。