CN107707586A - 负载均衡方法和装置 - Google Patents

Abstract

本申请公开了负载均衡方法和装置。所述方法的一具体实施方式包括：接收客户端发送的消息；确定接收所述消息的服务器集群，从所述服务器集群的负荷值列表中选择取值最小的负荷值；将与所选取的负荷值相关联的服务器确定为最小负荷服务器，并将所述消息发送至所述最小负荷服务器；接收所述最小负荷服务器发送的新负荷值，将所述新负荷值更新至所述负荷值列表中，其中，所述新负荷值是所述最小负荷服务器在接收到所述消息后重新计算得到的负荷值；向所述服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。该实施方式实现了服务器集群内服务器间的负载均衡。

Description

负载均衡方法和装置

技术领域

本申请涉及计算机技术领域，尤其涉及互联网技术领域，具体涉及负载均衡方法和装置。

背景技术

在互联网领域，为实现***的可扩展性、高可用性，会采用服务器集群的方式组建***，服务器集群是指多个具有相同功能的服务器集中在一起提供服务，在客户端看来就像只有一个服务器。为提高整个***的吞吐量和并发性，需要采用负载均衡的方法将任务均衡的分配到服务器集群中的每一个服务器上。

现有的负载均衡的方法有随机分配任务法和循环依次分配任务等方法，但这些方法都是在不知道服务器集群中每个服务器的负载信息的情况下把任务分配给某一服务器，容易造成部分服务器负载过重，降低整个***的吞吐量和并发性。

发明内容

本申请的目的在于提出一种改进的负载均衡方法和装置，来解决以上背景技术部分提到的技术问题。

第一方面，本申请提供了一种负载均衡方法，所述方法包括：接收客户端发送的消息；确定接收所述消息的服务器集群，从所述服务器集群的负荷值列表中选择取值最小的负荷值，其中，所述服务器集群的负荷值列表是由所述服务器集群中的每一个服务器的负荷值组成的列表，负荷值是表征服务器处理消息能力的数据；将与所选取的负荷值相关联的服务器确定为最小负荷服务器，并将所述消息发送至所述最小负荷服务器；接收所述最小负荷服务器发送的新负荷值，将所述新负荷值更新至所述负荷值列表中，其中，所述新负荷值是所述最小负荷服务器在接收到所述消息后重新计算得到的负荷值；向所述服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

在一些实施例中，所述负荷值是服务器根据已接收且待处理的消息的个数、处理消息的时长、所述服务器各个性能参数计算得到的，其中，所述各个性能参数至少包括CPU(Central Processing Unit，中央处理器)负载、IO(Input Output，输入输出)开销。

在一些实施例中，所述负载均衡方法还包括：确定新增服务器支持接收的消息的类别；确定是否存在目标服务器集群，其中，所述目标服务器集群是接收消息的类别与所述新增服务器接收的消息的类别一致的服务器集群；响应于存在目标服务器集群，则将所述新增服务器归属至所述目标服务器集群；接收所述新增服务器发送的负荷值，将所述负荷值添加至所述目标服务器集群的负荷值列表中；向所述目标服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息；接收所述目标服务器集群中的服务器发送的新负荷值，对于接收到的每一个新负荷值，将该新负荷值更新至所述负荷值列表中，其中，新负荷值是所述目标服务器集群中的服务器接收到所述消息后重新计算得到的负荷值。

在一些实施例中，所述负载均衡方法还包括：

检测所述目标服务器集群的负荷值列表是否有更新；响应于检测到所述目标服务器集群的负荷值列表有更新，则向所述目标服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

在一些实施例中，所述负载均衡方法还包括：响应于不存在目标服务器集群，则将所述新增服务器归属至新服务器集群，其中，所述新服务器集群包含所述新增服务器；接收所述新增服务器发送的负荷值，将所述负荷值添加至所述新服务器集群的负荷值列表中；向所述新服务器集群中的所述新增服务器发送指示所述负荷值列表变更的消息。

在一些实施例中，所述负载均衡方法负荷值列表中的负荷值是按照从小到大的顺序排列的。

第二方面，本申请提供的负载均衡装置，所述装置包括：接收单元，配置用于接收客户端发送的消息；选取单元，配置用于确定接收所述消息的服务器集群，从所述服务器集群的负荷值列表中选择取值最小的负荷值，其中，所述服务器集群的负荷值列表是由所述服务器集群中的每一个服务器的负荷值组成的列表，负荷值是表征服务器处理消息能力的数据；发送单元，配置用于将与所选取的负荷值相关联的服务器确定为最小负荷服务器，并将所述消息发送至所述最小负荷服务器；更新单元，配置用于接收所述最小负荷服务器发送的新负荷值，将所述新负荷值更新至所述负荷值列表中，其中，所述新负荷值是所述最小负荷服务器在接收到所述消息后重新计算得到的负荷值；第一通知单元，配置用于向所述服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

在一些实施例中，所述装置中负荷值是服务器根据已接收且待处理的消息的个数、处理消息的时长、所述服务器各个性能参数计算得到的，其中，所述各个性能参数包括CPU负载、IO开销。

在一些实施例中，所述装置还包括：类别确定单元，配置用于确定新增服务器支持接收的消息的类别；判断单元，配置用于确定是否存在目标服务器集群，其中，所述目标服务器集群是接收消息的类别与所述新增服务器接收的消息的类别一致的服务器集群；第一归属单元，配置用于响应于存在目标服务器集群，则将所述新增服务器归属至所述目标服务器集群；第一列表更新单元，配置用于接收所述新增服务器发送的负荷值，将所述负荷值添加至所述目标服务器集群的负荷值列表中；第二通知单元，配置用于向所述目标服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息；第二列表更新单元，配置用于接收所述目标服务器集群中的服务器发送的新负荷值，对于接收到的每一个新负荷值，将该新负荷值更新至所述负荷值列表中，其中，新负荷值是所述目标服务器集群中的服务器接收到所述消息后重新计算得到的负荷值。

在一些实施例中，所述装置还包括：检测单元，配置用于检测所述目标服务器集群的负荷值列表是否有更新；负荷值列表变更通知单元，配置用于响应于检测到所述目标服务器集群的负荷值列表有更新，则向所述目标服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

在一些实施例中，所述装置还包括：第二归属单元，配置用于响应于不存在目标服务器集群，则将所述新增服务器归属至新服务器集群，其中，所述新服务器集群包含所述新增服务器；第三列表更新单元，配置用于接收所述新增服务器发送的负荷值，将所述负荷值添加至所述新服务器集群的负荷值列表中；第三通知单元，配置用于向所述新服务器集群中的所述新增服务器发送指示所述负荷值列表变更的消息。

在一些实施例中，所述装置中负荷值列表中的负荷值是按照从小到大的顺序排列的。

本申请提供的负载均衡方法和装置，通过接收消息，确定处理消息的服务器集群中负荷值最小的服务器，然后将消息发送至负荷值最小的服务器，最后更新负荷值列表，从而每次接收消息后都会将上述消息发送至负荷值最小的服务器，提高了整个***的吞吐量和并发性。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请可以应用于其中的示例性***架构图；

图2是根据本申请的负载均衡方法的一个实施例的流程图；

图3是根据本申请的负载均衡方法的一个应用场景的示意图；

图4是根据本申请的负载均衡方法的又一个实施例的流程图；

图5是根据本申请的负载均衡装置的一个实施例的结构示意图；

图6是根据本申请的负载均衡装置的又一个实施例的结构示意图；

图7是适于用来实现本申请实施例的服务器的计算机***的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的负载均衡方法或负载均衡装置的实施例的示例性***架构100。

如图1所示，***架构100可以包括终端设备101、102，服务器103，网络104、106，负载均衡服务器105，归属于同一个服务器集群的服务器107、108、109。网络104用以在终端设备101、102、服务器103与负载均衡服务器105之间提供通信链路的介质。网络106用以在负载均衡服务器105与属于同一个服务器集群的服务器107、108、109之间提供通信链路的介质。网络104、106可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102通过网络104与负载均衡服务器105交互，以接收或发送消息等。或者服务器103通过网络104与负载均衡服务器105交互，以接收或发送消息等。负载均衡服务器105通过网络106与属于同一服务器集群的服务器107、108、109交互，以接收或发送消息。终端设备101、102上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等，服务器103可以推送各种消息，例如物流通知消息、降价通知消息。

终端设备101、102可以是各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts GroupAudio Layer III，动态影像专家压缩标准音频层面3)、MP4(MovingPicture Experts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

负载均衡服务器105可以是具有接收消息、转发消息、实现负载均衡等功能的服务器，例如接收终端设备101、102或服务器103的消息，并将上述消息根据负载均衡算法转发至服务器107、108、109中的某一个服务器，其中，服务器107、108、109属于同一个服务器集群，且每一个服务器具有处理消息、计算负荷值等功能。

需要说明的是，本申请实施例所提供的负载均衡方法一般由负载均衡服务器105执行，相应地，负载均衡装置一般设置于负载均衡服务器105中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的负载均衡方法的一个实施例的流程200。所述的负载均衡方法，包括以下步骤：

步骤201，接收客户端发送的消息。

在本实施例中，负载均衡方法运行于其上的电子设备(例如图1所示的负载均衡服务器105)可以通过有线连接方式或者无线连接方式从客户端接收消息，其中，客户端可以是用户终端设备(如图1所示的终端设备101、102)，在分布式***中客户端也可以是服务器(如图1所示的服务器103)。上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultrawideband)连接、以及其他现在已知或将来开发的无线连接方式。上述消息可以是各种类别的消息。作为示例，上述消息可以是商品浏览消息、订单生成消息、物流通知消息、降价通知消息。

步骤202，确定接收消息的服务器集群，从服务器集群的负荷值列表中选择取值最小的负荷值。

在本实施例中，服务器集群是由具有相同功能的多个服务器组成的服务器群。上述电子设备可以通过配置文件获取已配置的所有服务器集群的信息，对于上述所有的服务器集群中的每一个服务器集群，可以根据服务器集群与服务器集群支持的处理消息的关联关系，判断该服务器集群是否可以接收处理上述消息。如果该服务器集群可以接收处理上述消息，则从该服务器集群的负荷值列表中选择取值最小的负荷值。负荷值是表征服务器处理消息能力的数据，该负荷值可以是以下性能参数中的一个：中央处理器CPU的使用率、内存的使用率、服务器启动的进程数。如果该负荷值列表中存在多个取值最小的负荷值，可以随机的选取一个取值最小的负荷值，也可以从按照由小到大的顺序排列的上述负荷值列表中选择第一负荷值作为需要选取的值最小的负荷值。其中，该服务器集群的负荷值列表是由该服务器集群中的每一个服务器的负荷值组成的列表。

在本实施例的一些可选的实现方式中，负荷值列表中的负荷值是按照从小到大的顺序排列的。

在本实施例的一些可选的实现方式中，负荷值是服务器根据该服务器已接收且待处理的消息的个数、该服务器处理消息的时长、该服务器各个性能参数计算得到的数据。可以按照如下步骤计算负荷值：

第一，获取服务器已接收且待处理的消息的个数。

第二，计算该服务器上一次处理消息所用的时长，其中，时长的单位是毫秒。

第三，获取以下性能参数中至少一个：中央处理器CPU负载、输入输出IO开销，其中，上述CPU负载是指该服务器当前CPU使用率，上述IO开销是指该服务器的端口每秒发送或接收的数据的比特数。

第四，对于上述获取的至少一个性能参数中的每一个性能参数，对该性能参数进行量化处理，确定量化后的参数值。作为示例，CPU使用率小于40％可以量化为1，CPU使用率大于等于40％小于70％可以量化为3，CPU使用率大于等于70％可以量化为5。当然根于实际情况，也可以采用其他的方式量化CPU使用率，例如，CPU使用率乘以5得到CPU使用率量化后的参数值。可以对IO开销进行对数运算求得IO开销量化后的参数值，或以IO开销除以某数值得到的值为IO开销量化后的参数值。

第五，根据上述已接收且待处理的消息的个数、上述上一次处理消息所用的时长、上述至少一个性能参数中的每一个性能参数量化后的参数值的预设权重，对上述已接收且待处理的消息的个数、上述上一次处理消息所用的时长、上述至少一个性能参数中的每一个性能参数量化后的参数值的预设权重进行求和计算，得到上述服务器的负荷值。作为示例，预设上述已接收且待处理的消息的个数的权重为2、上述上一次处理消息所用的时长的权重为4、上述至少一个性能参数中的每一个性能参数量化后的参数值的权重为5，已接收且待处理的消息的个数为7，上一次处理消息所用的时长9，CPU负载量化的参数值为3，IO开销量化的参数值为1，则计算该服务器负荷值的公式如下：2×7+4×9+5×3+5×1＝70。

步骤203，将与所选取的负荷值相关联的服务器确定为最小负荷服务器，并将消息发送至最小负荷服务器。

在本实施例中，上述电子设备根据记录负荷值列表中每一个负荷值与服务器集群中服务器的关联关系，确定上述负荷值相关联的服务器，并将上述服务器定为最小负荷服务器。将上述消息通过有线连接的方式或无线连接的方式发送至上述最小负荷服务器。

作为示例，上述电子设备从用户终端接收到商品浏览消息，检索到商品浏览服务器集群和用户行为监测服务器集群都需要接收上述商品浏览消息，其中，商品浏览服务器集群可以用于接收用户浏览商品消息，解析上述消息，返回用户想要浏览的商品信息，用户行为监测服务器集群可以用于接收用户浏览商品消息，解析上述信息中用户要浏览的商品的分类、品牌等信息。上述电子设备从上述商品浏览服务器集群的负荷值列表中选择取值最小的负荷值，根据记录该负荷值列表中每一个负荷值与上述商品浏览服务器集群中服务器的对应关系，确定上述负荷值对应的最小负荷服务器，并将上述商品浏览消息发送至上述最小负荷服务器。上述电子设备从上述用户行为监测服务器集群的负荷值列表中选择取值最小的负荷值，根据记录该负荷值列表中每一个负荷值与上述用户行为监测服务器集群中服务器的对应关系，确定上述负荷值对应的最小负荷服务器，并将上述商品浏览消息或上述商品浏览消息的拷贝信息发送至该最小负荷服务器。

步骤204，接收最小负荷服务器发送的新负荷值，将新负荷值更新至服务器集群的负荷值列表中。

在本实施例中，上述电子设备可以首先接收最小负荷服务器发送的新负荷值，之后检索上述最小负荷服务器所在的服务器集群，然后删除该服务器集群的负荷值列表中上述最小负荷服务器对应的负荷值并***上述新负荷值。上述新负荷值是最小负荷服务器接收上述消息之后，重新计算得到的负荷值。作为示例，商品浏览服务器集群中最小负荷服务器接收到商品浏览消息后，根据该最小负荷服务器已接收且待处理的消息的个数、该最小负荷服务器处理消息的时长、该最小负荷服务器性能参数计算得到新负荷值，并将上述新负荷值发送至上述电子设备。上述电子设备接收上述最小负荷服务器发送的新负荷值，检索到上述最小负荷服务器所在的服务器集群即商品浏览服务器集群，删除该商品浏览服务器集群的负荷值列表中上述最小负荷服务器对应的负荷值，并将上述接收的新负荷值***该商品浏览服务器集群的负荷值列表。

在本实施例的一些可选的实现方式中，负荷值列表中的负荷值是按照从小到大的顺序排列的。所以上述电子设备可以顺序的***上述新负荷值，***上述新负荷值后的负荷值列表中的负荷值仍然是按照从小到大的顺序排列的。如果，在将上述新负荷值***负荷值列表时，发现该负荷值列表中存在与上述新负荷值大小相同的多个负荷值，可以将上述新负荷值***相同的多个负荷值中最后一个负荷值的后面。

步骤205，向服务器集群中的每一个服务器发送服务器集群的负荷值列表信息变更的消息。

在本实施例的一些可选的实现方式中，上述电子设备可以通过预先创建的用于监听服务器集群负荷值列表的数据变更的事件，检测到该服务器集群的负荷值列表中负荷值发生改变，则向该服务器集群中的每一个服务器发送该服务器集群的负荷值列表变更的消息。

在本实施例的一些可选的实现方式中，上述电子设备可以在执行完步骤204中更新服务器集群的负荷值列表后，向该服务器集群中的每一个服务器发送该服务器集群的负荷值列表变更的消息。

在本实施例中，服务器集群中的服务器接收到负荷值列表变更的消息，则向上述电子设备获取负荷值列表，如果发现本服务器的负荷值在上述按照从小到大的顺序排列的负荷值列表中的索引值没有变或上述索引值变小，则不会重新计算自己的负荷值。其中，上述索引值是指上述负荷值在上述负荷值列表中排列的序号。如果发现本服务器的负荷值在上述按照从小到大的顺序排列的负荷值列表中的索引值变大，则会重新计算本服务器的负荷值，判断新负荷值在按照从小到大的顺序排列的负荷值列表中的索引值是否会变小，如果上述索引值变小，则将新负荷值发送至上述电子设备。

继续参见图3，图3是根据本实施例的负载均衡方法的应用场景的一个示例图。在图3的应用场景中。消息生成服务器根据用户的收藏的空调商品的商品信息和该商品价格减半信息生成一条该商品降价通知消息，其中，该降价通知消息还包括用户信息。并将该降价通知消息发送至负载均衡服务器。负载均衡服务器接收该降价通知消息。根据本实施例的负载均衡算法，将该降价通知消息发送至消息推送服务器集群中负荷值最小的服务器。该服务器根据该降价通知消息中用户信息发送该消息至用户终端。当用户通过终端设备的浏览器301进入账号消息通知页面，会看见空调商品降价通知302，用户点击上述空调商品降价通知302，会看到该通知的正文303。

在本申请的上述实施例提供的负载均衡方法通过把接收到的消息发送至服务器集群中负荷值最小的服务器，并及时更服务器集群的负荷值列表。这样负载均衡方法运行其上的电子设备每次接收到消息后，都会把该消息分配给服务器集群中负荷值最小的服务器，不会造成服务器集群中部分服务器负载过重，而其他部分服务器空闲的问题，提高了整个***的吞吐量和并发性。

进一步参考图4，其示出负载均衡方法的又一个实施例的流程400，该负载均衡方法的流程400，包括以下步骤：

步骤401，确定新增服务器支持接收的消息的类别。

在本实施例中，负载均衡运行于其上的电子设备(例如图1所示的负载均衡服务器105)可以从预先配置的配置文件中检索出新增服务器支持接收的消息的类别。作为示例，上述消息的类别可以是商品浏览类别、订单生成类别、物流通知类别、降价通知类别。上述新增服务器可以接收多种类别的消息。作为示例，消息推送服务器可以接收物流通知类别的消息和降价通知类别的消息。

步骤402，确定是否存在目标服务器集群。

在本实施例中，上述电子设备可以从配置文件中获取所有服务器集群。针对所有服务器集群中的每一个服务器集群，上述电子设备可以通过配置文件获取该服务器集群支持接收的消息的类别，比较该服务器集群支持接收的消息的类别是否与步骤401中确定的新增服务器支持接收的消息的类别是否一致。如果找到接收消息类别一致的服务器则称该服务器集群为目标服务器集群。如果存在目标服务器集群，则执行步骤403-406，如果不存在目标服务器集群，则执行步骤403’-405’。

步骤403，响应于存在目标服务器集群，则将新增服务器归属至目标服务器集群。

在本实施例中，响应于存在目标服务器集群，上述电子设备预先创建的配置文件中存储着上述目标服务器集群信息及该目标服务器集群中每一个服务器的信息，则将上述新增服务器的信息写入配置文件，并关联至该目标服务器集群信息。作为示例，在配置文件中，负载均衡服务器会创建服务器集群节点，并在该服务器集群节点下创建服务器节点，但只能为归属于该服务器集群的服务器创建服务器节点。

步骤404，接收新增服务器发送的负荷值，将负荷值添加至目标服务器集群的负荷值列表中。

在本实施例中，上述电子设备可以接收上述新增服务器发送的负荷值，并将上述负荷值***上述目标服务器集群的负荷值列表中。其中，上述负荷值可以是上述新增服务器根据该服务器已接收且待处理的消息的个数、该服务器处理消息的时长、该服务器性能参数计算得到的负荷值。因上述新增服务器尚未接入***，所以该服务器已接收且待处理的消息的个数为零，该服务器处理消息的时长为零。

步骤405，向目标服务器集群中的每一个服务器发送指示上述负荷值列表变更的消息。

在本实施例中，上述电子设备通过有线连接方式或无线连接方式，以广播或单播的方式向上述目标服务器集群中的每一个服务器发送指示该目标服务器集群的负荷值列表变更的消息。

步骤406，接收目标服务器集群中的服务器发送的新负荷值，对于接收到的每一个新负荷值，将该新负荷值更新至负荷值列表中。

在本实施例中，上述电子设备接收该服务器集群中服务器发送的新负荷值，对于接收到的每一个新负荷值，首先删除该新负荷值对应的服务器在负荷值列表中对应的负荷值，然后将上述新负荷值***负荷值列表中。其中，新负荷值是上述目标服务器集群中的服务器接收到负荷值列表变更消息后重新计算得到的负荷值。

在本实施例中，目标服务器集群中的服务器接收到负荷值列表变更消息后重新计算得到的负荷值，包括如下步骤：

首先，响应于接收到负荷值列表变更的消息，向服务端获取负荷值列表。在本实施例中，目标服务器集群中的服务器(例如图1所述的服务器107、108、109)可以通过有线连接的方式或无线连接的方式从服务端(例如图1所述的负载均衡服务器105)接收服务端发送的负荷值列表变更的消息，并向上述服务端拉取负荷值列表。

其次，按照由小到大的顺序确定上述负荷值列表中上述服务器对应的负荷值的第一索引值，按照由小到大的顺序确定本地负荷值列表中上述服务器对应的负荷值的第二索引值，判断上述第一索引值是否大于上述第二索引值。其中，负荷值的索引值越小，表示该负荷值对应的服务器在服务器集群中的优先级越高。本步骤即判断服务器集群中该服务器对应的优先级是否变小。

第三，如果上述第一索引值大于上述第二索引值，则重新计算上述服务器的新负荷值，按照由小到大的顺序确定上述新负荷值在上述负荷值列表中排列的第三索引值，判断上述第三索引值是否小于上述第一索引值。

第四，如果上述第三索引值小于上述第一索引值，则向上述服务端发送上述重新计算得到的新负荷值。即根据重新计算的新负荷值，判断得知该服务器的优先级有提升，则向上述服务端发送上述重新计算得到的新负荷值。

第五，将上述步骤一中获取的负荷值列表中的负荷值更新至上述本地负荷值列表中。

在本实施例中，上述电子设备检测到上述目标服务器集群的负荷值列表有更新，就会向该目标服务器集群中的每个服务器发送负荷值列表变更事件，上述目标服务器集群中的服务器接收到上述负荷值列表变更事件，经判断确定需要重新计算本服务器的新负荷值，发现优先级有提升，则发送上述新负荷值至上述电子设备，上述电子设备会再次更新负荷值列表。经过有限次数的上述步骤的循环，上述目标服务器集群中的服务器获取负荷值列表后，经确定不需要重新计算本服务器的新负荷值或计算得到的新负荷值优先级没有提升，则不再需要发送上述新负荷值至电子设备。

步骤403’，响应于不存在目标服务器集群，则将新增服务器归属至新服务器集群。

在本实施例中，响应于不存在目标服务器集群，上述电子设备则在预先创建的配置文件中创建新服务器集群信息及新增服务器的信息，并设置两者之间的关联关系。作为示例，在配置文件中，创建新服务器集群节点，并在该新服务器集群节点下创建新增服务器节点。

步骤404’，接收新增服务器发送的负荷值，将上述负荷值添加至新服务器集群的负荷值列表中。

在本实施例中，上述电子设备接收上述新增服务器发送的负荷值，并将上述负荷值***上述新服务器集群的负荷值列表中。其中，上述负荷值是上述新增服务器根据该服务器已接收且待处理的消息的个数、该服务器处理消息的时长、该服务器性能参数计算得到的负荷值，因上述新增服务器尚未接入***，所以该服务器已接收且待处理的消息的个数为零，该服务器处理消息的时长为零。

步骤405’，向新服务器集群中的每一个服务器发送指示负荷值列表变更的消息。

在本实施例中，上述电子设备通过有线连接方式或无线连接方式，以广播或单播的方式向上述新服务器集群中的每一个服务器发送指示该新服务器集群的负荷值列表变更的消息。因为上述新服务器集群中只包含上述新增服务器，所以只需要向上述新增服务器发送指示该新服务器集群的负荷值列表变更的消息。

从图4中可以看出，本实施例的负载均衡方法的流程400示出了负载均衡服务器在有新服务器接入服务器集群时，会先检索是否存在接收消息的类型一致的目标服务器集群，如果存在该目标服务器集群，则会把新服务器的负荷值添加至上述目标服务器集群的负荷值列表中。如果不存在目标服务器集群，则创建一个新服务器集群，并将上述新增服务器归属于该新服务器集群。经过至少一次更新负荷值列表，优化了服务器集群中服务器处理消息的优先级，当上述***在接收消息时，不会出现部分服务器负载过重的情况，且提高了吞吐量。

进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种负载均衡装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例所述的负载均衡装置500包括：接收单元501、选取单元502、发送单元503、更新单元504、第一通知单元505。其中，接收单元501，配置用于接收客户端发送的消息；选取单元502，配置用于确定接收上述消息的服务器集群，从上述服务器集群的负荷值列表中选择取值最小的负荷值，其中，上述服务器集群的负荷值列表是由上述服务器集群中的每一个服务器的负荷值组成的列表，负荷值是表征服务器处理消息能力的数据；发送单元503，配置用于将与上选取的负荷值相关联的服务器确定为最小负荷服务器，并将上述消息发送至上述最小负荷服务器；更新单元504，配置用于接收上述最小负荷服务器发送的新负荷值，将上述新负荷值更新至上述负荷值列表中，其中，上述新负荷值是上述最小负荷服务器在接收到上述消息后重新计算得到的负荷值；第一通知单元505，配置用于向上述服务器集群中的每一个服务器发送指示上述负荷值列表变更的消息。

在本实施例的一些可选的实现方式中，上述负载均衡装置500中负荷值是服务器根据已接收且待处理的消息的个数、处理消息的时长、上述服务器各个性能参数计算得到的，其中，上述各个性能参数包括中央处理器CPU负载、输入输出IO开销。

在本实施例中，上述负载均衡装置500的接收单元501可以通过有线连接的方式或无线连接的方式从客户端接收到消息。上述消息可以是各种类别的消息。作为示例，上述消息可以是商品浏览消息、订单生成消息、物流通知消息、降价通知消息。

在本实施例中，基于接收单元501接收到的消息，上述选取单元502获取所有的服务器集群，对于上述所有的服务器集群中的每一个服务器集群，可以根据服务器集群与服务器集群支持处理消息的关联关系，判断该服务器集群是否可以接收处理上述消息。如果该服务器集群可以接收处理上述消息，则从该服务器集群的负荷值列表中选择取值最小的负荷值。如果该负荷值列表中存在多个取值最小的负荷值，可以从该负荷值列表中按照匹配度由小到大的顺序选择第一负荷值作为需要选取的值最小的负荷值。其中，该服务器集群的负荷值是由该服务器集群中的每一个服务器的负荷值组成的列表。负荷值是表征服务器处理消息能力的数据，该负荷值可以是CPU的使用率、内存的使用率，服务器启动的进程数。

在本实施例中，发送单元503根据记录负荷值列表中每一个负荷值与服务器集群中服务器的关联关系，确定上述负荷值相关联的服务器，并将上述服务器定为最小负荷服务器。将上述消息通过有线连接的方式或无线连接的方式发送至上述最小负荷服务器。

在本实施例中，更新单元504接收最小负荷服务器发送的新负荷值，检索上述最小负荷服务器所在的服务器集群，删除该服务器集群的负荷值列表中上述最小负荷服务器对应的负荷值，***上述新负荷值。上述新负荷值是最小负荷服务器接收上述消息之后，重新计算得到的负荷值。

在本实施例的一些可选的实现方式中，负荷值列表中的负荷值是按照从小到大的顺序排列的。所以可以顺序的***上述新负荷值，***上述新负荷值后的负荷值列表中的负荷值仍然是按照从小到大的顺序排列的。如果，在将上述新负荷值***负荷值列表时，发现该负荷值列表中存在与上述新负荷值大小相同的多个负荷值，可以将上述新负荷值***相同的多个负荷值中最后一个负荷值的后面。

在本实施例的一些可选的实现方式中，第一通知单元505可以通过预先创建的监听服务器集群负荷值列表数据变更事件，检测到该服务器集群的负荷值列表中负荷值发生改变，则向该服务器集群中的每一个服务器发送该服务器集群的负荷值列表变更的消息。

在本实施例中，上述消息发送单元503根据选取单元502选择的最小负荷值，确定最小负荷服务器，然后将上述消息发送至最小负荷服务器，然后更新单元504接收上述最小负荷服务器发送的新负荷值，更新负荷值列表，这样负载均衡装置500每次接收到消息都会把该消息发送至负荷值最小的服务器，解决了服务器集群中负载不均衡、吞吐量低的问题。

进一步参考图6，作为对上述各图所示方法的实现，本申请提供了一种负载均衡装置的又一个实施例，该装置实施例与图4所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例所述的负载均衡装置600包括：类别确定单元601、判断单元602、第一归属单元603、第一列表更新单元604、第二通知单元605、第二列表更新单元606、第二归属单元603’、第三列表更新单元604’、第三通知单元605’。其中，类别确定单元601配置用于确定新增服务器支持接收的消息的类别；判断单元602配置用于确定是否存在目标服务器集群，其中，上述目标服务器集群是接收消息的类别与上述新增服务器接收的消息的类别一致的服务器集群；第一归属单元603配置用于响应于存在目标服务器集群，则将上述新增服务器归属至上述目标服务器集群；第一列表更新单元604配置用于接收上述新增服务器发送的负荷值，将上述负荷值添加至上述目标服务器集群的负荷值列表中；第二通知单元605配置用于向上述目标服务器集群中的每一个服务器发送指示上述负荷值列表变更的消息；第二列表更新单元606配置用于接收上述目标服务器集群中的服务器发送的新负荷值，对于接收到的每一个新负荷值，将该新负荷值更新至上述负荷值列表中，其中，新负荷值是上述目标服务器集群中的服务器接收到上述消息后重新计算得到的负荷值；第二归属单元603’配置用于响应于不存在目标服务器集群，则将上述新增服务器归属至新服务器集群，其中，上述新服务器集群包含上述新增服务器；第三列表更新单元604’配置用于接收上述新增服务器发送的负荷值，将上述负荷值添加至上述新服务器集群的负荷值列表中；第三通知单元605’配置用于向上述新服务器集群中的上述新增服务器发送指示上述负荷值列表变更的消息。

在本实施例的一些可选的实现方式中，负载均衡装置600还包括以下未示出的单元：检测单元，配置用于检测上述目标服务器集群的负荷值列表是否有更新；负荷值列表变更通知单元，配置用于响应于检测到上述目标服务器集群的负荷值列表有更新，则向上述目标服务器集群中的每一个服务器发送指示上述负荷值列表变更的消息。

在本实施例中，负载均衡装置600的类别确定单元601可以从预先配置的配置文件中检索出新增服务器支持接收的消息的类别。

在本实施例中，判断单元602可以从配置文件中获取所有服务器集群。针对所有服务器集群中的每一个服务器集群，上述电子设备可以通过配置文件获取该服务器集群支持接收的消息的类别，比较该服务器集群支持接收的消息的类别是否与类别确定单元601确定的新增服务器支持接收的消息的类别是否一致。如果找到接收消息类别一致的服务器集群则称该服务器为目标服务器集群。

在本实施例中，基于判断单元602检索到目标服务器集群，预先创建的配置文件中存储着上述目标服务器集群信息及该目标服务器集群中每一个服务器的信息，第一归属单元603将上述新增服务器的信息写入配置文件，并关联至该目标服务器集群信息。作为示例，在配置文件中，会创建服务器集群节点，并在该服务器集群节点下创建服务器节点，但只能为归属于该服务器集群的服务器创建服务器节点。

在本实施例中，第一列表更新单元604接收上述新增服务器发送的负荷值，并将上述负荷值***上述目标服务器集群的负荷值列表中。其中，上述负荷值是上述新增服务器根据该服务器已接收且待处理的消息的个数、该服务器处理消息的时长、该服务器性能参数计算得到的负荷值，因上述新增服务器尚未接入***，所以该服务器已接收且待处理的消息的个数为零，该服务器处理消息的时长为零。

在本实施例中，第二通知单元605通过有线连接方式或无线连接方式，以广播或单播的方式向上述目标服务器集群中的每一个服务器发送指示该目标服务器集群的负荷值列表变更的消息。

在本实施例中，第二列表更新单元606接收该服务器集群中服务器发送的新负荷值，对于接收到的每一个新负荷值，首先删除该新负荷值对应的服务器在负荷值列表中对应的负荷值，然后将上述新负荷值***负荷值列表中。其中，新负荷值是上述目标服务器集群中的服务器接收到负荷值列表变更消息后重新计算得到的负荷值。

在本实施例中，基于判断单元602没有检索到目标服务器集群，第二归属单元603’在预先创建的配置文件中创建新服务器集群信息及新增服务器的信息，并设置两者之间的关联关系。作为示例，在配置文件中，创建新服务器集群节点，并在该新服务器集群节点下创建新增服务器节点。

在本实施例中，第三列表更新单元604’接收上述新增服务器发送的负荷值，并将上述负荷值***上述新服务器集群的负荷值列表中。其中，上述负荷值是上述新增服务器根据该服务器已接收且待处理的消息的个数、该服务器处理消息的时长、该服务器性能参数计算得到的负荷值，因上述新增服务器尚未接入***，所以该服务器已接收且待处理的消息的个数为零，该服务器处理消息的时长为零。

在本实施例中，第三通知单元605’通过有线连接方式或无线连接方式，以广播或单播的方式向上述新服务器集群中的每一个服务器发送指示该新服务器集群的负荷值列表变更的消息。因为上述新服务器集群中只包含上述新增服务器，所以只需要向上述新增服务器发送指示该新服务器集群的负荷值列表变更的消息。

从图6中可以看出，本实施例示出了负载均衡服务器在有新服务器接入服务器集群时，会先检索是否存在接收消息的类型一致的目标服务器集群，如果存在该目标服务器集群，则会把新服务器的负荷值添加至上述目标服务器集群的负荷值列表中。如果不存在目标服务器集群，则创建一个新服务器集群，并将上述新增服务器归属于该新服务器集群。经过至少一次更新负荷值列表，优化了服务器集群中服务器处理消息的优先级，当上述装置在接收消息时，不会出现部分服务器负载过重的情况，且提高了吞吐量。

下面参考图7，其示出了适于用来实现本申请的服务器的计算机***700的结构示意图。

如图7所示，计算机***700包括中央处理单元(CPU)701，其可以根据存储在只读存储器(ROM)702中的

程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中，还存储有***700操作所需的各种程序和数据。CPU 701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

以下部件连接至I/O接口705：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。

特别地，根据本申请公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本申请公开的实施例包括一种计算机程序产品，其包括有形地包含在机器可读介质上的计算机程序，上述计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时，执行本申请的方法中限定的上述功能。

附图中的流程图和框图，图示了按照本申请各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，所述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括接收单元、选取单元、发送单元、更新单元、通知单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，接收单元还可以被描述为“接收客户端发送的信息存储请求的单元”。

作为另一方面，本申请还提供了一种非易失性计算机存储介质，该非易失性计算机存储介质可以是上述实施例中所述装置中所包含的非易失性计算机存储介质；也可以是单独存在，未装配入终端中的非易失性计算机存储介质。上述非易失性计算机存储介质存储有一个或者多个程序，当所述一个或者多个程序被一个设备执行时，使得所述设备：接收客户端发送的消息；确定接收所述消息的服务器集群，从所述服务器集群的负荷值列表中选择取值最小的负荷值，其中，所述服务器集群的负荷值列表是由所述服务器集群中的每一个服务器的负荷值组成的列表，负荷值是表征服务器处理消息能力的数据；将与所选取的负荷值相关联的服务器确定为最小负荷服务器，并将所述消息发送至所述最小负荷服务器；接收所述最小负荷服务器发送的新负荷值，将所述新负荷值更新至所述负荷值列表中，其中，所述新负荷值是所述最小负荷服务器在接收到所述消息后重新计算得到的负荷值；向所述服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离所述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (12)

1.一种负载均衡方法，其特征在于，所述方法包括：

接收客户端发送的消息；

确定接收所述消息的服务器集群，从所述服务器集群的负荷值列表中选择取值最小的负荷值，其中，所述服务器集群的负荷值列表是由所述服务器集群中的每一个服务器的负荷值组成的列表，负荷值是表征服务器处理消息能力的数据；

将与所选取的负荷值相关联的服务器确定为最小负荷服务器，并将所述消息发送至所述最小负荷服务器；

接收所述最小负荷服务器发送的新负荷值，将所述新负荷值更新至所述负荷值列表中，其中，所述新负荷值是所述最小负荷服务器在接收到所述消息后重新计算得到的负荷值；

向所述服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

2.根据权利要求1所述的负载均衡方法，其特征在于，所述负荷值是服务器根据已接收且待处理的消息的个数、处理消息的时长、所述服务器各个性能参数计算得到的，其中，所述各个性能参数包括中央处理器CPU负载、输入输出IO开销。

3.根据权利要求1所述的负载均衡方法，其特征在于，所述方法还包括：

确定新增服务器支持接收的消息的类别；

确定是否存在目标服务器集群，其中，所述目标服务器集群是接收消息的类别与所述新增服务器接收的消息的类别一致的服务器集群；

响应于存在目标服务器集群，则将所述新增服务器归属至所述目标服务器集群；

接收所述新增服务器发送的负荷值，将所述负荷值添加至所述目标服务器集群的负荷值列表中；

向所述目标服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息；

接收所述目标服务器集群中的服务器发送的新负荷值，对于接收到的每一个新负荷值，将该新负荷值更新至所述负荷值列表中，其中，新负荷值是所述目标服务器集群中的服务器接收到所述消息后重新计算得到的负荷值。

4.根据权利要求3所述的负载均衡方法，其特征在于，所述方法还包括：

检测所述目标服务器集群的负荷值列表是否有更新；

响应于检测到所述目标服务器集群的负荷值列表有更新，则向所述目标服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

5.根据权利要求3所述的负载均衡方法，其特征在于，所述方法还包括：

响应于不存在目标服务器集群，则将所述新增服务器归属至新服务器集群，其中，所述新服务器集群包含所述新增服务器；

接收所述新增服务器发送的负荷值，将所述负荷值添加至所述新服务器集群的负荷值列表中；

向所述新服务器集群中的所述新增服务器发送指示所述负荷值列表变更的消息。

6.根据权利要求1所述的负载均衡方法，其特征在于，所述负荷值列表中的负荷值是按照从小到大的顺序排列的。

7.一种负载均衡装置，其特征在于，所述装置包括：

接收单元，配置用于接收客户端发送的消息；

选取单元，配置用于确定接收所述消息的服务器集群，从所述服务器集群的负荷值列表中选择取值最小的负荷值，其中，所述服务器集群的负荷值列表是由所述服务器集群中的每一个服务器的负荷值组成的列表，负荷值是表征服务器处理消息能力的数据；

发送单元，配置用于将与所选取的负荷值相关联的服务器确定为最小负荷服务器，并将所述消息发送至所述最小负荷服务器；

更新单元，配置用于接收所述最小负荷服务器发送的新负荷值，将所述新负荷值更新至所述负荷值列表中，其中，所述新负荷值是所述最小负荷服务器在接收到所述消息后重新计算得到的负荷值；

第一通知单元，配置用于向所述服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

8.根据权利要求7所述的负载均衡装置，其特征在于，所述负荷值是服务器根据已接收且待处理的消息的个数、处理消息的时长、所述服务器各个性能参数计算得到的，其中，所述各个性能参数包括中央处理器CPU负载、输入输出IO开销。

9.根据权利要求7所述的负载均衡装置，其特征在于，所述装置还包括：

类别确定单元，配置用于确定新增服务器支持接收的消息的类别；

判断单元，配置用于确定是否存在目标服务器集群，其中，所述目标服务器集群是接收消息的类别与所述新增服务器接收的消息的类别一致的服务器集群；

第一归属单元，配置用于响应于存在目标服务器集群，则将所述新增服务器归属至所述目标服务器集群；

第一列表更新单元，配置用于接收所述新增服务器发送的负荷值，将所述负荷值添加至所述目标服务器集群的负荷值列表中；

第二通知单元，配置用于向所述目标服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息；

第二列表更新单元，配置用于接收所述目标服务器集群中的服务器发送的新负荷值，对于接收到的每一个新负荷值，将该新负荷值更新至所述负荷值列表中，其中，新负荷值是所述目标服务器集群中的服务器接收到所述消息后重新计算得到的负荷值。

10.根据权利要求7所述的负载均衡装置，其特征在于，所述装置还包括：

检测单元，配置用于检测所述目标服务器集群的负荷值列表是否有更新；

负荷值列表变更通知单元，配置用于响应于检测到所述目标服务器集群的负荷值列表有更新，则向所述目标服务器集群中的每一个服务器发送指示所述负荷值列表变更的消息。

11.根据权利要求7所述的负载均衡装置，其特征在于，所述装置还包括：

第二归属单元，配置用于响应于不存在目标服务器集群，则将所述新增服务器归属至新服务器集群，其中，所述新服务器集群包含所述新增服务器；

第三列表更新单元，配置用于接收所述新增服务器发送的负荷值，将所述负荷值添加至所述新服务器集群的负荷值列表中；

第三通知单元，配置用于向所述新服务器集群中的所述新增服务器发送指示所述负荷值列表变更的消息。

12.根据权利要求7所述的负载均衡装置，其特征在于，所述负荷值列表中的负荷值是按照从小到大的顺序排列的。