CN112291326A - 负载均衡方法、负载均衡装置、存储介质与电子设备 - Google Patents

Abstract

本公开提供一种负载均衡方法、负载均衡装置、计算机可读存储介质与电子设备，涉及计算机技术领域。该负载均衡方法包括：检测当前主负载均衡集群及当前备负载均衡集群接收的流量；当所述当前主负载均衡集群的流量达到第一负载阈值且维持第一预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，所述第一负载阈值小于所述当前主负载均衡集群的最大负载值。本公开采用了主备结构的负载平衡器集群，可以更好地应对流量突增的情况，同时还可以避免频繁扩容而导致的扩容抖动。

Description

负载均衡方法、负载均衡装置、存储介质与电子设备

技术领域

本公开涉及计算机技术领域，尤其涉及一种负载均衡方法、负载均衡装置、计算机可读存储介质与电子设备。

背景技术

随着计算机及互联网技术的不断发展，业务流量规模及业务逻辑的复杂度也随之发展，为了适应越来越大的业务流量及越加复杂多样的业务逻辑，往往需要使用多台机器来实现性能扩展以及避免单点故障。

在使用多台机器实现业务功能的过程中，如何对发送至各机器上的流量进行负载均衡就显得十分重要。然而，在现有的负载均衡技术中，面对流量突增的情况，存在由于扩容存在时延，不能及时地应对，或由于不能进行扩容，造成现有集群负载过重，从而带来故障等问题。

发明内容

本公开提供了一种负载均衡方法、负载均衡装置、计算机可读存储介质与电子设备，进而至少在一定程度上提高应对流量突增的能力，同时还可以避免频繁地扩容。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的第一方面，提供一种负载均衡方法，包括：

检测当前主负载均衡集群及当前备负载均衡集群接收的流量；

当上述当前主负载均衡集群的流量达到第一负载阈值且维持第一预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，上述第一负载阈值小于上述当前主负载均衡集群的最大负载值。

根据本公开的第二方面，提供一种负载均衡装置，包括：

流量检测模块，用于检测当前主负载均衡集群及当前备负载均衡集群接收的流量；

负载均衡模块，用于当上述当前主负载均衡集群的流量达到第一负载阈值且维持第一预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，上述第一负载阈值小于上述当前主负载均衡集群的最大负载值。

根据本公开的第三方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述负载均衡方法。

根据本公开的第四方面，提供一种电子设备，包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行上述负载均衡方法。

本公开的技术方案具有以下有益效果：

根据上述负载均衡方法、负载均衡装置、计算机可读存储介质与电子设备，检测当前主负载均衡集群及当前备负载均衡集群接收的流量；当上述当前主负载均衡集群的流量达到第一负载阈值且维持预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，上述第一负载阈值小于当前主负载均衡集群的最大负载值。一方面，在本示例实施方式所提供的负载均衡方法中，第一负载阈值小于当前主负载均衡集群的最大负载值，也即，当前主负载均衡集群在达到最大负载值之前，就通过增加至少一个备负载均衡集群进行了扩容，因此可以迅速对流量突增的情景做出反应。另一方面，当前主负载均衡集群的流量在达到第一负载阈值时，不会马上进行扩容，而是在持续第一预设时长后，才会进行相应的扩容或缩容过程，防止了频繁地进行扩缩容带来的抖动。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出本示例性实施方式的一种***架构的示意图；

图2示出本示例性实施方式的电子设备的示意图；

图3示出本示例性实施方式的一种负载均衡方法的流程图；

图4示出本示例性实施方式的一种负载均衡方法的一个实施例的初始状态图；

图5示出本示例性实施方式的一种负载均衡方法的一个实施例的扩容示意图；

图6示出本示例性实施方式的一种负载均衡方法的一个实施例的缩容示意图；

图7示出本示例性实施方式的一种负载均衡装置的结构框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

图1示出了本公开示例性实施方式的一种***架构的示意图。如图1所示，该***架构100可以包括：终端设备110、主负载均衡集群120、备负载均衡集群130、网络140及服务器150。服务器150用于将流量分配至主负载均衡集群120及备负载均衡集群130。应该理解，图1中的终端设备110、主负载均衡集群120、备负载均衡集群130及服务器150数目仅仅是示意性的。例如，根据网络中的流量以及各负载均衡集群负载的流量，可以对上述主负载均衡集群及备负载均衡集群的数目进行调整，使其为任意数目。

在本公开实施方式所提供的负载均衡方法中，服务器将终端设备发送的流量依据预设的分配规则发送至主负载均衡集群和备负载均衡集群130；对主负载均衡集群和备负载均衡集群接收的流量进行检测，该检测过程可以由服务器进行，也可以由各负载均衡集群进行；当检测到当前主负载均衡集群的流量达到第一负载阈值且维持预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，且上述第一负载阈值小于当前主负载均衡集群的最大负载值。

本公开的示例性实施例还提供了一种能够实现上述方法的电子设备。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为***、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“***”。

下面参照图2来描述根据本公开的这种示例性实施例的电子设备200。图2显示的电子设备200仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图2所示，电子设备200以通用计算设备的形式表现。电子设备200的组件可以包括但不限于：上述至少一个处理单元210、上述至少一个存储单元220、连接不同***组件(包括存储单元220和处理单元210)的总线230、显示单元240。

其中，存储单元存储有程序代码，程序代码可以被处理单元210执行，使得处理单元210执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如，处理单元210可以执行图3、图4或图5所示的步骤等。

存储单元220可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)221和/或高速缓存存储单元222，还可以进一步包括只读存储单元(ROM)223。

存储单元220还可以包括具有一组(至少一个)程序模块225的程序/实用工具224，这样的程序模块225包括但不限于：操作***、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线230可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备200也可以与一个或多个外部设备270(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备200交互的设备通信，和/或与使得该电子设备200能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口250进行。并且，电子设备200还可以通过网络适配器260与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器260通过总线230与电子设备200的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备200使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开示例性实施例的方法。

现有负载均衡的相关技术可能存在如下问题：(1)当遇到突增流量的场景时，由于自动扩容存在一定的时间延时，负载均衡服务并不能快速地应对，需要提前进行预热；(2)无法进行扩容，一旦流量过大容易导致负载过多，从而可能出现故障无法使用。

为了解决上述问题，本公开示例实施方式提供了一种负载均衡方法、负载均衡装置、计算机可读存储介质及电子设备。下面对本公开示例性实施方式的负载均衡方法和负载均衡装置进行具体说明。

图3示出了本示例性实施方式中一种负载均衡方法的流程，包括以下步骤S310～S320：

步骤S310：检测当前主负载均衡集群及当前备负载均衡集群接收的流量。

在本示例实施方式中，上述负载均衡集群是指用于处理用户流量请求的集群，该集群通过设定合理的流量调度策略可以实现负载均衡。也即，负载均衡集群在流量进入后端服务器之前，通过对流量进行合理的分配，可以达到各服务器负载流量的均衡，从而可以实现最优化资源使用、最大化吞吐率、最小化响应时间、同时避免过载等效果。

本示例实施方式所提供的负载均衡方法所采用的是主备结构。通过上述流量调度策略将接收到的用户流量分配至主负载均衡集群及备负载均衡集群。上述流量调度策略可以是依据各集群的负载能力按比例分配，例如，预定上述负载均衡方法初始包含一个主负载均衡集群及一个备负载均衡集群，依据当前主备负载均衡集群的承载能力得到流量调度策略为将90％的流量发送至主负载均衡集群进行处理，10％的流量发送至备负载均衡集群进行处理。需要说明的是，上述场景只是一种示例性说明，本示例实施方式的保护范畴并不以此为限。例如，上述流量调度策略也可以为其他可以实现对各负载均衡集群接收的流量进行调度的策略，上述主备负载均衡集群的数目及负载能力也可以依据实际情况进行调整，本示例实施方式对此都不做特殊限定。

为了更好地应对流量突增，以及在保证处理能力的基础上节约软硬件资源，本示例实施方式还可以依据实际的网络情况对各负载均衡集群的数目进行调整。例如，在流量增大时，可以增加备负载均衡集群的数目来分担流量，当流量较少时，可以减少备负载均衡集群的数目以节约软硬件资源。此外，在调整负载均衡集群数目的同时，原有的主备结构也可能会发生调整。例如，在增加备负载均衡集群的数目时，原来的备负载均衡集群就可以并入原来的主负载均衡集群，以提高主负载均衡集群的负载能力。上述当前主负载均衡集群及上述当前备负载均衡集群指的是未经调整前的当前主备结构对应的主备负载均衡集群。

上述对各负载均衡集群的调整需要依据网络中的流量。因此，为了实现合理的调整，需要对上述当前主负载均衡集群及上述当前备负载均衡集群接收到的流量进行检测。具体地，该检测可以由负责负载均衡调度的服务器实现，也可以由各负载均衡集群各自进行并上报至上述调度服务器，本示例性实施方式对此不做特殊限定。

步骤S320：当上述当前主负载均衡集群的流量达到第一负载阈值且维持第一预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，第一负载阈值小于当前主负载均衡集群的最大负载值。

在本示例实施方式中，上述第一负载阈值及第一预设时长用于确定是否需要新增备负载均衡集群。其中，上述第一负载阈值可以依据当前主负载均衡集群的负载能力及网络中的流量进行确定，且小于当前主负载均衡集群的最大负载能力。举例而言，该第一负载阈值可以定义为当前主负载均衡集群的最优负载能力，该最优负载能力是指在保证正常的处理能力，如处理速度的基础上，当前主负载均衡集群所能处理的最大流量，应当注意的是，该最优负载能力通常是小于最大负载能力的，因为最大负载能力是集群处理流量的极限，此时是不能保证正常的处理速度等需求的。该最优负载能力可以依据CPU(中央处理器)的使用率以及用户请求数量等因素自定义。需要说明的是，上述场景只是示例性说明，第一负载阈值还可以为符合上述定义的其他阈值。关于该阈值的定义方式及具体数值等，本示例实施方式对此都不做特殊限定，且因为该第一负载阈值小于集群的最大负载能力，因此，在集群接收的能力达到极限之前，便可以进行对应的扩容处理，可以很好地应对流量突增的情况。

在本示例实施方式中，为了防止频繁地扩容操作带来扩容抖动情况，在上述当前主负载均衡集群的流量负载得到上述第一负载阈值时，不会立即进行扩容操作，而是定义了一个观察时长，即上述第一预设时长。当上述当前主负载均衡集群达到第一负载阈值并维持了第一预设时长后，新增至少一个备负载均衡集群，其中，新增的备负载均衡集群的个数可以依据业务需求及实际情景决定。举例而言，在本示例实施方式所提供的负载均衡方法中，可以设置一个共享资源池，该共享资源池中有多个可用使用的备负载均衡集群，当需要扩容时，负责调度的服务器可以从该共享资源池中调度备负载均衡集群来满足当前的需求。需要说明的是，上述场景只是一种示例性说明，本示例实施方式的保护范畴不以此为限。

在新增至少一个备负载均衡之后，本示例实施方式所提供的方法还可以通过新增的备负载均衡集群实现负载均衡，举例而言，实现负载均衡的过程可以如下：将当前备负载均衡集群的流量发送至新增的备负载均衡集群；并将当前主负载均衡集群承载的流量依据预设的比例规则发送至当前主负载均衡集群及当前备负载均衡集群。在上述过程中，在新增备负载均衡集群后，新增的备负载均衡集群作为***中新的备负载均衡集群，而当前的备负载均衡集群则加入当前的主负载均衡集群，和当前主负载均衡集群共同构成新的主负载均衡集群。其中，上述预设的比例规则则是新的主负载均衡集群中，新加入的备负载均衡集群和原主负载均衡集群承载流量的比例。

具体地，以当前主负载均衡集群承担90％的流量，当前备负载均衡集群承担10％的流量，当前主负载均衡集群达到上述第一负载阈值且维持第一预设时长时，新增一个备负载均衡集群，且上述预设的比例规则为平均分配为例，上述实现负载均衡的过程为：在当前主负载均衡集群的流量达到上述第一负载阈值且维持第一预设时长时，新增一个备负载均衡集群，该新增的备负载均衡集群作为新的备负载均衡集群，承担10％的流量。当前备负载均衡集群与当前主负载均衡集群一起作为新的主负载均衡集群，承担90％的流量，其中，当前备负载均衡集群及当前主负载均衡集群各承担该90％的流量中的一半。需要说明的是，上述场景只是一种示例性说明，并不对本示例实施方式起限定作用。例如，可以重复执行该过程直至最后得到的主负载均衡集群接收到的流量维持在第一负载阈值以下，也可以新增多个备负载均衡集群，上述主备负载均衡集群承担流量的比例，以及新的主负载均衡集群中当前主备负载均衡集群承担流量的预设比例规则也可以是其他的比例或规则等，这些都属于本示例实施方式的保护范畴。

在本示例实施方式中，上述通过新增的备负载均衡集群实现负载均衡的过程还可以通过如下步骤实现：将新增的备负载均衡集群并入上述当前主负载均衡集群，共同构成新的主负载均衡集群，承载原来的主负载均衡集群承担的流量。

以上述当前主负载均衡集群承担90％的流量，当前备负载均衡集群承担10％的流量，当前主负载均衡集群达到上述第一负载阈值且维持第一预设时长时，新增一个备负载均衡集群为例，该过程可以为：将新增的一个备负载均衡集群并入当前主负载集群，作为新的主负载均衡集群，承担90％的流量，当前备负载均衡集群依然承载剩余的10％的流量。其中，新增的备负载均衡集群与当前主负载均衡集群之间的流量分配比例可以依据实际情况设定，例如，在承载能力等条件相近时，可以各自承担90％流量的二分之一。需要说明的是，上述场景只是一种示例性说明，本示例实施方式的保护范畴并不以此为限。

综上所述，根据上述负载均衡方法、负载均衡装置、计算机可读存储介质与电子设备，检测当前主负载均衡集群及当前备负载均衡集群接收的流量；当上述当前主负载均衡集群的流量达到第一负载阈值且维持预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，上述第一负载阈值小于当前主负载均衡集群的最大负载值。一方面，在本示例实施方式所提供的负载均衡方法中，第一负载阈值小于当前主负载均衡集群的最大负载值，也即，当前主负载均衡集群在达到最大负载值之前，就通过增加至少一个备负载均衡集群进行了扩容，因此可以迅速对流量突增的情景做出反应。另一方面，当前主负载均衡集群的流量在达到第一负载阈值时，不会马上进行扩容，而是在持续第一预设时长后，才会进行相应的扩容或缩容过程，防止了频繁地进行扩缩容带来的抖动。

在一示例性实施例中，在上述通过新增的备负载均衡集群进行负载均衡之后，在当前主负载均衡集群在一定时长内维持较低的流量，且集群中负载均衡设备的数目相对较多时，可以释放至少一个当前负载均衡集群，以达到在保持正常处理需求的基础上节约资源的效果。

以将上述新增的负载均衡集群加入当前备负载均衡集群，将上述当前主负载集群及至少一个备负载均衡集群作为新的当前主负载均衡集群，其余的当前备负载均衡集群作为新的备负载均衡集群为例，该缩容过程可以为：当上述当前主负载均衡集群的负载均衡设备数量达到预设阈值，且接收到的流量达到第二负载阈值并维持第二预设时长时，将至少一个当前备负载均衡集群的流量发送至当前主负载均衡集群，并释放对应的当前备负载均衡集群。

上述负责均衡设备是各负载均衡集群中用于处理用户请求的设备，如可以为服务器，也可以为其他符合上述定义的电子设备，本示例实施方式对此不做特殊限定。上述预设阈值可以依据各负载均衡集群中初始的负载均衡数量，例如，在***初始状态中，各主备负载均衡集群各包含三个负载均衡设备，上述预设阈值可以定义为该初始数量的倍数，如6个。此外，上述预设阈值还可以基于其他依据制定，例如，可以依据当前负载均衡设备的数目及当前流量的比例，还可以是其他可以表征相对于流量，负载均衡设备数目过多的其他任意数目，本示例实施方式对此不做特殊限定。

上述第二负载阈值是需要进行缩容的阈值。其中，该第二负载阈值可以依据当前主负载均衡集群的负载能力及网络中的流量进行确定。该第二负载阈值可以依据上述当前主负载均衡集群的最优负载能力定义，例如，可以定义为最优负载能力的二分之一。上述达到该第二负载阈值是指当前主负载均衡集群的流量小于或等于该第二负载阈值。此外，该第二负载阈值也可以通过其他方式定义，例如，该第二负载阈值还可以为当前主负载均衡集群及当前备负载均衡集群接收的流量之和少于上述最优负载能力的二分之一时，当前主负载均衡集群接收到的流量，本示例实施方式对此不做特殊限定。

为了防止频繁地扩容操作带来扩容抖动情况，本示例实施方式中，在上述当前主负载均衡集群的流量负载得到上述第二负载阈值时，不会立即进行缩容操作，而是定义了一个观察时长，即上述第二预设时长。当上述当前主负载均衡集群的负载均衡设备数量达到上述预设阈值，且接收到的流量达到第二负载阈值并维持第二预设时长时，才会执行释放至少一个当前备负载均衡集群的过程。该第二预设时长可以和扩容操作时的第一预设时长相同，也可以是其他依据实际情况定义的时长，本示例实施方式对此不做特殊限定。上述释放至少一个当前备负载均衡集群，可以是在需要缩容时，负责调度的服务器将至少一个当前备负载均衡集群释放至上述共享资源池，以达到节约资源的目的。需要说明的是，上述场景只是一种示例性说明，本示例实施方式的保护范畴不以此为限。

上述释放至少一个当前备负载均衡集群的过程可以如下：将至少一个当前备负载均衡集群的流量发送至当前主负载均衡集群，并释放对应的当前备负载均衡集群。

此外，在上述过程之后，本示例实施方式还可以对各负载均衡集群的主备结构进行调整。该调整过程可以如下：依据负载均衡设备的数量将当前主负载均衡集群划分为新的主负载均衡集群及新的备负载均衡集群。举例而言，依据负载均衡设备的数目进行划分可以为依据***初始状态时，各负载均衡集群中负载均衡设备的数目进行划分。此外，也可以通过其他方法对负载均衡集群的主备结构进行调整，本示例实施方式对此不做特殊限定。

具体地，以上述步骤S320经过一次扩容后的主备负载均衡集群为例，初始状态下，各负载均衡集群中的负载均衡设备的个数为3个。扩容后的主负载均衡集群中的负载均衡设备的数目为6个，承载90％的流量，备负载均衡集群中的负载均衡设备的数目为3个，承载10％的流量。上述负载均衡设备对应的预设阈值的设定规则为初始数目的两倍，也即6个。此时，扩容后的当前主负载均衡集群中的负载均衡设备的数目为6个，备负载均衡集群的负载均衡设备数目为3个，且此时主负载均衡集群接收的流量小于或等于上述第二负载并维持了上述第二预设时长，此时，需要进行缩容。该缩容过程可以为：将上述当前备负载均衡集群承载的10％的流量发送至当前主负载均衡集群，并释放当前备负载均衡集群。此后，从当前主负载均衡集群中划分出3个负载均衡设备作为新的备负载均衡集群，用于接收10％的流量，将剩余的3个负载均衡设备作为新的主负载均衡集群，用于接收90％的流量。需要说明的是，上述场景只是一种示例性说明，并不对本示例实施方式起限定作用。

此外，上述缩容过程可以在经过至少一次扩容后进行，也可以不经过扩容过程。例如，初始状态下，主负载均衡集群中的负载均衡设备的数目为6个，承载90％的流量，备负载均衡集群中的负载均衡设备的数目为3个，承载10％的流量，上述负载均衡设备数目的预设阈值为6个。则主负载均衡集群中的负载均衡设备的数目达到预设阈值，若此时主负载均衡集群接收的流量小于或等于上述第二负载并维持了上述第二预设时长，也符合缩容条件。这一场景中，在初始状况直接进行了扩容，没有经过扩容过程。需要说明的是，上述场景只是一种示例性说明，并不对本示例实施方式起限定作用。

在一示例性实施例中，上述方法还可以设置当前主负载均衡集群及当前备负载均衡集群的初始流量接收比例。例如，在***的初始状态，可以对设置主负载均衡集群接收90％的流量，备负载均衡设备接收10％的流量。因为设置了初始流量接收比例，备用负载均衡集群在初始状态便接收流量，可以保证备负载均衡集群的可用性。

在当前主负载均衡集群满足扩容条件时，可以执行如下过程：将当前备负载均衡集群依据初始流量接收比例承载的流量发送至新增的备负载均衡集群；将当前主负载均衡集群依据初始流量接收比例承载的流量，依据预设的比例规则发送至当前主负载均衡集群及当前备负载均衡集群；将当前主负载均衡集群及当前备负载均衡集群作为新的主负载均衡集群，将新增的备负载均衡集群作为新的备负载均衡集群，并将新的主负载均衡集群及新的备负载均衡集群的流量接收比例设置为上述初始流量接收比例。

在当前主负载均衡集群满足缩容条件时，可以执行如下过程：将至少一个当前备负载均衡集群依据初始流量接收比例承载的流量发送至当前主负载均衡集群，并释放对应的当前备负载均衡集群；依据负载均衡设备的数量将当前主负载均衡集群划分为新的主负载均衡集群及新的备负载均衡集群，并将新的主负载均衡集群及新的备负载均衡集群的流量接收比例设置为初始流量接收比例。

下面，以图4所示的初始状态为例，对上述过程进行说明：

如图4所示，每秒用户请求的数量为50万，初始状态预设负载均衡集群的数目为两个。其中，一个为主负载均衡集群，该主负载均衡集群接收90％的用户请求，最优负载能力为100万用户请求。另一个为备负载均衡集群，接收10％的用户请求。第一负载阈值为最优负载能力，第二负载阈值为最优负载能力的一半，扩缩容的观察时长为1分钟，各负载均衡集群中负载均衡设备的数目为3个，缩容要求的负载均衡设备数目为当前主负载均衡集群中负载均衡设备数目达到各负载均衡集群中负载均衡设备的初始数目的两倍。

当每秒用户的请求数量达到150万时，如图5所示，当前主负载均衡集群接收90％的流量，也即当前主负载均衡集群接收135万的用户请求，达到了上述第一负载阈值。当该主负载均衡集群在该状态持续1分钟时，达到扩容条件，需要进行扩容。如图5所示，原有主备负载均衡集群将变成一个新的主负载均衡集群，共同承载90％的流量且这90％的流量平均分配给原有的主备负载均衡集群。同时，自动扩容增加一个新的备负载均衡集群，作为新的备负载均衡集群，承受10％的流量。

当每秒用户的请求数量达到50万时，如图6所示，当前主备负载均衡集群接收到的流量之和为最优负载能力的一半，且当前主负载均衡集群中负载均衡设备数目为6个，达到了负载均衡设备的初始数目的两倍，则在该状态持续1分钟时，需要进行缩容。如图6所示，备负载均衡器集群首先将10％的流量打到主负载均衡器上，主负载均衡器集群分出3个负载均衡设备作为备负载均衡器，仅接收10％的流量，其余的3个负载均衡设备作为新的主负载均衡器集群，接收90％的流量，同时把原有的备负载均衡器都释放掉。

本公开的示例性实施方式还提供一种负载均衡装置。如图7所示，该负载均衡装置700可以包括：

流量检测模块710，可以用于检测当前主负载均衡集群及当前备负载均衡集群接收的流量；

负载均衡模块720，可以用于当上述当前主负载均衡集群的流量达到第一负载阈值且维持第一预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，第一负载阈值小于当前主负载均衡集群的最大负载值。

在一示例性实施例中，上述检测模块还可以包括设置单元，用于设置上述当前主负载均衡集群及上述当前备负载均衡集群的初始流量接收比例。

在一示例性实施例中，上述扩容模块可以包括条件判断单元及扩容单元。上述条件判断单元用于判断各集群是否满足扩容条件，例如，判断当前主负载均衡集群的流量是否达到第一负载阈值且维持了预设时长。上述扩容单元用于新增至少一个备负载均衡集群，具体地，该扩容单元可以通过执行如下过程进行扩容：将当前备负载均衡集群的流量发送至新增的备负载均衡集群；并将当前主负载均衡集群承载的流量依据预设的比例规则发送至当前主负载均衡集群及当前备负载均衡集群。此时，新增的备负载均衡集群作为***中新的备负载均衡集群，而当前的备负载均衡集群则加入当前的主负载均衡集群，和当前主负载均衡集群共同构成新的主负载均衡集群。其中，上述预设的比例规则则是新的主负载均衡集群中，新加入的备负载均衡集群和原主负载均衡集群承载流量的比例。

在一示例性实施例中，上述负载均衡装置还可以包括缩容模块，上述缩容模块可以用于当上述当前主负载均衡集群的负载均衡设备数量达到预设阈值，且接收到的流量达到第二负载阈值并维持第二预设时长时，进行缩容。

上述缩容模块可以包括条件判断单元及缩容单元。上述条件判断单元用于判断各集群是否满足缩容条件，例如，在将所述新增的负载均衡集群加入当前备负载均衡集群，将所述当前主负载集群及至少一个备负载均衡集群作为新的当前主负载均衡集群之后，判断当前主负载均衡集群的负载均衡设备数量是否达到预设阈值，且接收到的流量是否达到第二负载阈值并维持了第二预设时长。上述缩容单元用于当判断单元的结果为是时，释放至少一个当前备负载均衡集群。该缩容单元可以通过执行如下过程进行缩容：将至少一个当前备负载均衡集群的流量发送至当前主负载均衡集群，并释放对应的当前备负载均衡集群；依据负载均衡设备的数量将当前主负载均衡集群划分为新的主负载均衡集群及新的备负载均衡集群。

上述装置中各模块的具体细节在方法部分实施方式中已经详细说明，未披露的细节内容可以参见方法部分的实施方式内容，因而不再赘述。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为***、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“***”。

本公开的示例性实施方式还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤，例如可以执行图3中任意一个或多个步骤。

本公开的示例性实施方式还提供了用于实现上述方法的程序产品，该程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本公开的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。

程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施方式。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

Claims (10)

1.一种负载均衡方法，其特征在于，包括：

检测当前主负载均衡集群及当前备负载均衡集群接收的流量；

当所述当前主负载均衡集群的流量达到第一负载阈值且维持第一预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，所述第一负载阈值小于所述当前主负载均衡集群的最大负载值。

2.根据权利要求1所述的负载均衡方法，其特征在于，所述通过新增的备负载均衡集群进行负载均衡，包括：

将所述当前备负载均衡集群的流量发送至所述新增的备负载均衡集群，将所述当前主负载均衡集群承载的流量依据预设的比例规则发送至所述当前主负载均衡集群及所述当前备负载均衡集群。

3.根据权利要求1所述的负载均衡方法，其特征在于，所述方法还包括：

将所述新增的负载均衡集群加入当前备负载均衡集群，将所述当前主负载集群及至少一个备负载均衡集群作为新的当前主负载均衡集群；

当所述当前主负载均衡集群的负载均衡设备数量达到预设阈值，且接收到的流量达到第二负载阈值并维持第二预设时长时，将至少一个所述当前备负载均衡集群的流量发送至所述当前主负载均衡集群，并释放对应的所述当前备负载均衡集群。

4.根据权利要求3所述的负载均衡方法，其特征在于，在所述释放对应的所述当前备负载均衡集群之后，所述方法还包括：

依据负载均衡设备的数量将所述当前主负载均衡集群划分为新的主负载均衡集群及新的备负载均衡集群。

5.根据权利要求1所述的负载均衡方法，其特征在于，所述方法还包括：

设置所述当前主负载均衡集群及所述当前备负载均衡集群的初始流量接收比例。

6.根据权利要求5所述的负载均衡方法，其特征在于，所述新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，包括：

将所述当前备负载均衡集群依据所述初始流量接收比例承载的流量发送至所述新增的备负载均衡集群；

将所述当前主负载均衡集群依据所述初始流量接收比例承载的流量，依据预设的比例规则发送至所述当前主负载均衡集群及所述当前备负载均衡集群；

将所述当前主负载均衡集群及所述当前备负载均衡集群作为新的主负载均衡集群，将所述新增的备负载均衡集群作为新的备负载均衡集群，并将所述新的主负载均衡集群及所述新的备负载均衡集群的流量接收比例设置为所述初始流量接收比例。

7.根据权利要求6所述的负载均衡方法，其特征在于，在将所述新的主负载均衡集群及所述新的备负载均衡集群的流量接收比例设置为所述初始流量接收比例之后，所述方法包括：

当所述当前主负载均衡集群的所述负载均衡设备数量达到所述预设阈值，且接收到的流量达到所述第二负载阈值并维持所述第二预设时长时，将至少一个所述当前备负载均衡集群依据所述初始流量接收比例承载的流量发送至所述当前主负载均衡集群，并释放对应的所述当前备负载均衡集群；

依据负载均衡设备的数量将所述当前主负载均衡集群划分为新的主负载均衡集群及新的备负载均衡集群，并将所述新的主负载均衡集群及所述新的备负载均衡集群的流量接收比例设置为所述初始流量接收比例。

8.一种负载均衡装置，其特征在于，包括：

流量检测模块，用于检测当前主负载均衡集群及当前备负载均衡集群接收的流量；

负载均衡模块，用于当所述当前主负载均衡集群的流量达到第一负载阈值且维持第一预设时长时，新增至少一个备负载均衡集群，并通过新增的备负载均衡集群进行负载均衡，所述第一负载阈值小于所述当前主负载均衡集群的最大负载值。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7任一项所述的负载均衡方法。

10.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1至7任一项所述的负载均衡方法。

Images