CN104184673B - 基于即时通信业务的负载均衡方法和*** - Google Patents

Abstract

本发明公开了一种基于即时通信业务的负载均衡方法和***，涉及即时通信领域。该方法包括：针对即时通信业务构建社交网络图；对社交网络图进行分区；调整分区使分区与业务服务器的分布和规模相适配；调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在业务服务器；根据用户的分区标识对用户进行动态迁移。本发明通过对用户间的即时通信关系进行社交化网络分区，使关系紧密的用户聚集到同一个分区，从而获得最优的服务器负载分布视图，并按照此图把用户迁移到新归属服务器上，以减少服务器跨区通信的资源消耗，使***在全局层面达到真正负载均衡，解决了即时通信***中由于用户分区不合理而引起的服务器间通信不均衡问题。

Description

基于即时通信业务的负载均衡方法和***

技术领域

本发明涉及即时通信领域，特别涉及一种基于即时通信业务的负载均衡方法和***。

背景技术

互联网级的大型即时通信***均通过部署多个集群来支持大规模用户，相应的负载均衡策略采用多级方式，一般分为全局和本地两种负载分配策略。服务器负载均衡算法包括散列算法、优先权算法、最少连接算法、响应速度算法、动态性能分配算法等。这些算法均将来自用户的请求尽量均匀的分布到各服务器上，使***中各服务器收到的用户请求处理量与其计算能力的比值趋向一致。

即时通信业务属于在线社交网络（Online Social Networks，OSNs）的范畴，这种应用的特点是前端用户的请求引起后端服务器间成密集网状的相互调用，而不是过去清晰的逐层顺序调用。因此，部署即时通信业务的服务器不仅需要处理直接接收到的用户请求，还需要处理服务器间内部互相调用的请求。由此引起服务器间内部互相调用的不均衡性，造成有些服务器节点上尽管分布的用户数也不多，但是消息流量却极大，严重影响了全网流量的平衡。

现有的负载均衡方式对即时通信业务的运行特点考虑不足，需要一种适合即时通信业务的负载均衡方案。

发明内容

本发明实施例所要解决的一个技术问题是：提出一种适合即时通信业务的负载均衡方案。

根据本发明实施例的一个方面，提出一种基于即时通信业务的负载均衡方法，包括：针对即时通信业务构建社交网络图；对社交网络图进行分区；调整分区使分区与业务服务器的分布和规模相适配；调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在业务服务器；根据用户的分区标识对用户进行动态迁移。

根据本发明实施例的另一方面，提出一种基于即时通信业务的负载均衡***，包括：分区服务器和负载调整服务器；分区服务器用于针对即时通信业务构建社交网络图；对社交网络图进行分区；调整分区使分区与业务服务器的分布和规模相适配；调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在业务服务器；负载调整服务器用于根据用户的分区标识对用户进行动态迁移。

本发明通过对用户间的即时通信关系进行社交化网络分区，使关系紧密的用户聚集到同一个分区，从而获得最优的服务器负载分布视图，并按照此图把用户迁移到新归属服务器上，以减少服务器跨区通信的资源消耗，使***在全局层面达到真正负载均衡，解决了即时通信***中由于用户分区不合理而引起的服务器间通信不均衡问题。

通过以下参照附图对本发明的示例性实施例的详细描述，本发明的其它特征及其优点将会变得清楚。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明基于即时通信业务的负载均衡方法一个实施例的流程示意图。

图2为本发明与现有技术之间的负载均衡对比示意图。

图3为本发明通过调换分区标识进行用户迁移的示意图。

图4为本发明在服务不中断情况下对用户进行动态迁移的方法流程示意图。

图5为本发明基于即时通信业务的负载均衡***一个实施例的结构示意图。

图6为本发明基于即时通信业务的负载均衡***另一个实施例的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

互联网级的大型即时通信***，用户基数大、服务器数量多、分布地域广，如果不能合理的对用户分区使通信密集的用户集中到同一个区域，则跨区的通信量会非常大，造成***整体负载失衡。本发明提出了一种适合即时通信业务的负载均衡方案，下面详细说明。

图1为本发明基于即时通信业务的负载均衡方法一个实施例的流程示意图。

如图1所示，本实施例的负载均衡方法包括以下步骤：

步骤101，针对即时通信业务构建社交网络图；

步骤102，对社交网络图进行分区；

步骤103，调整分区使分区与业务服务器的分布和规模相适配；

步骤104，调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在业务服务器；

步骤105，根据用户的分区标识对用户进行动态迁移。

上述实施例，通过对用户间的即时通信关系进行社交化网络分区，使关系紧密的用户聚集到同一个分区，从而获得最优的服务器负载分布视图，并按照此图把用户迁移到新归属服务器上，以减少服务器跨区通信的资源消耗，使***在全局层面达到真正负载均衡，解决了即时通信***中由于用户分区不合理而引起的服务器间通信不均衡问题。

图2为本发明与现有技术之间的负载均衡对比示意图。采用现有技术均衡之后，服务器A、Ｂ、Ｃ上分别有5个用户，但由于服务器Ａ上的用户A和Ｂ，与服务器Ｂ上的用户Ｃ、D和E，以及服务器C上的用户F关系紧密，用户间的通信比较频繁，造成服务器跨区通信的资源消耗比较多。采用本发明均衡之后，按照分区重新调整用户在服务器上的分布，关系密切的用户A、Ｂ、Ｃ、D和E集中到同一服务器A上，从而减少了服务器跨区通信的资源消耗，使***在全局层面达到真正负载均衡。

对于步骤101，本发明提出一种示例性的建社交网络图的方法，包括：从数据库服务器获取用户间的即时通信业务关系、关系类型、与时间相关的通信频度，根据用户间的即时通信业务关系、关系类型、与时间相关的通信频度构建各种社交网络图。其中的关系类型例如可以是好友关系、同学关系、同事关系等。另外，在判定用户间存在即时通信业务关系时，可以设置一个存在关系的最小阈值，例如可以设定存在关系的最小阈值为每个月30条消息，如果小于30条消息，则可以认为两个用户间不存在即时通信业务关系，反之，则可以认为两个用户间存在即时通信业务关系。

对于步骤102，如何在大型即时通信***这张极其庞大的、而且易变的百万个节点以上的在线社交网络图谱中进行多维度快速聚类和动态调整用户分区，从工程角度是一件非常复杂而又棘手的综合性问题。对于这个问题，本发明借鉴社会网络分析（SNA）领域的节点聚类和子图发现算法，提出一种示例性的社交网络图分区方法，包括：根据k-core算法对社交网络图进行分区，k-core算法是指分区中的任何一个用户都至少与分区中的其他k个用户建立关系，其中的k表示预设度数。需要说明的是，可以根据需要设置关系的权重，例如，一个月内联系过10次的好友才建立一个关系，而有些用户尽管也是好友但由于一个月内联系少于10次，则用户与这些好友之间并没有建立关系。

对于步骤103，本发明提出一种示例性的调整分区的方法，包括：通过改变上述预设度数k的值来调整分区大小，使分区与业务服务器的分布和规模相适配。

对于步骤104，由于用户进行哈希负载均衡时使用的key（关键字）并不是用户标识（或称用户ID）而是用户的分区标识（或称分区ID），该分区标识与用户标识的绑定关系是可变的，因此本发明可以通过修改用户标识与分区标识的映射关系，使用户在进行负载均衡的散列计算时落到待迁移的业务服务器上。

由于哈希不可逆，我们无法知道服务器对应的所有分区ID，但是通过已经落到该服务器的用户群可以知道一部分分区ID，于是本发明提出下述的第一种方法，通过不断互换服务器间已知的分区ID组，使用户最终分配到目标服务器的分区ID。

第一种方法，将用户的原分区标识替换为新分区标识，该新分区标识可以使待迁入分区所在业务服务器中的一个已知的待迁出的分区标识，以使用户使用分区标识进行负载均衡散列运算后落到待迁入分区所在业务服务器。

例如，如图3所示，用户b要想从服务器A迁移到服务器B，需要从B服务器的待迁出的分区ID中选取一个替换用户b所在原服务器A的分区ID，于是用户b的分区ID改为4，则可以将用户b迁入服务器B。又例如，用户d要想从服务器B迁移到服务器C，需要从C服务器的待迁出的分区ID中选取一个替换用户d所在原服务器B的分区ID，于是用户d的分区ID改为7，则可以将用户d迁入服务器C。其他用户调换后的分区标识如图3所示，这里不再一一赘述。

互换的方法不能确保所有用户都得到理想分区ID，这个局限可以通过***自行储备空闲分区ID得到解决，即下述的第二种方法。

第二种方法，将用户的原分区标识替换为新分区标识，该新分区标识可以使待迁入分区所在业务服务器中的一个空闲分区标识，以使用户使用分区标识进行负载均衡散列运算后落到待迁入分区所在业务服务器。

上述两种方法，在用户迁移到新分区所在业务服务器后，仍然可以采用一致性哈希算法进行用户位置寻址，不需要使用代价高昂的路由表技术，非常适合工程上实施。

对于步骤105，本发明提出一种在服务不中断情况下对用户进行动态迁移的方法，如图4所示，包括以下步骤：

步骤401，负载调整服务器获取用户的用户标识、原分区标识、新分区标识，根据原分区标识进行哈希运算得到用户所在原业务服务器的地址，根据新分区标识进行哈希运算得到用户所在新业务服务器的地址；

步骤402，负载调整服务器根据用户所在原业务服务器的地址，通知用户所在原业务服务器迁出该用户；

步骤403，负载调整服务器可以从数据库服务器获取用户的好友（好友可以是列表形式），通知用户好友所在业务服务器更新该用户的分区标识为新分区标识；

步骤404，用户所在原业务服务器可以通过于用户客户端的长连接，通知用户重定向到用户所在新业务服务器，并指定负载调整服务器为其收发消息的代理服务器，以便处理其好友同时也在迁移的情况；转发好友发给用户的消息给负载调整服务器；

步骤405，用户好友所在业务服务器记录用户的新分区标识，使用旧分区标识给用户发送消息，直到收到负载调整服务器的切换新分区标识的通知后再使用新分区标识给用户发送消息；

步骤406，负载调整服务器将发给用户所在原业务服务器的消息转发给用户所在新业务服务器，将用户所在新业务服务器发给该用户好友的消息转发给用户好友所在业务服务器；

步骤407，当用户好友所在业务服务器均完成新分区标识的更新后，负载调整服务器对用户好友所在业务服务器统一发送切换新分区标识的通知，用户好友所在业务服务器接到通知后使用新分区标识给用户发送消息，并通知用户所在新业务服务器发出消息不再经负载调整服务器中转。

上述迁移方法，可以在服务不中断情况下进行，并且在用户及其好友均在迁移的情况下不会漏接消息。

图5为本发明基于即时通信业务的负载均衡***一个实施例的结构示意图。

如图5所示，本实施例的负载均衡***包括：分区服务器501和负载调整服务器502；分区服务器501用于针对即时通信业务构建社交网络图；对社交网络图进行分区；调整分区使分区与业务服务器的分布和规模相适配；调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在业务服务器；负载调整服务器502用于根据用户的分区标识对用户进行动态迁移。

其中，分区服务器501可以包括社交网络图构建模块，用于针对即时通信业务构建社交网络图，具体包括：从数据库服务器获取用户间的即时通信业务关系、关系类型、与时间相关的通信频度，根据用户间的即时通信业务关系、关系类型、与时间相关的通信频度构建社交网络图。

其中，分区服务器501可以包括分区模块，用于对社交网络图进行分区，具体包括：根据k-core算法对社交网络图进行分区，k-core算法是指分区中的任何一个用户都至少与分区中的其他k个用户建立关系，其中的k表示预设度数。

其中，分区服务器501可以包括分区调整模块，用于调整分区使分区与业务服务器的分布和规模相适配，具体包括：通过改变预设度数k的值来调整分区大小，使分区与业务服务器的分布和规模相适配。

其中，分区服务器501可以包括分区标识调整模块，用于调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在业务服务器，具体包括：将用户的原分区标识替换为新分区标识，该新分区标识为待迁入分区所在业务服务器中的一个空闲分区标识或一个已知的待迁出的分区标识，以使用户使用分区标识进行负载均衡散列运算后落到待迁入分区所在业务服务器。

图6为本发明基于即时通信业务的负载均衡***另一个实施例的结构示意图。如图6所示，该***还包括业务服务器503。则在动态迁移过程中：

负载调整服务器502，用于从分区服务器501获取用户的用户标识、原分区标识、新分区标识，根据原分区标识进行哈希运算得到用户所在原业务服务器的地址，根据新分区标识进行哈希运算得到用户所在新业务服务器的地址，根据用户所在原业务服务器的地址，通知用户所在原业务服务器迁出该用户，从数据库服务器获取用户的好友，通知用户好友所在业务服务器更新该用户的分区标识为新分区标识；

用户所在原业务服务器，用于通知用户重定向到用户所在新业务服务器，并指定负载调整服务器为其收发消息的代理服务器；

用户好友所在业务服务器，用于记录用户的新分区标识，使用旧分区标识给用户发送消息，直到收到负载调整服务器的切换新分区标识的通知后再使用新分区标识给用户发送消息；

用户所在原业务服务器与用户好友所在业务服务器在图6中均标识为503，不再区分。

负载调整服务器502，用于将发给用户所在原业务服务器的消息转发给用户所在新业务服务器，将用户所在新业务服务器发给该用户好友的消息转发给用户好友所在业务服务器，当用户好友所在业务服务器均完成新分区标识的更新后，对用户好友所在业务服务器统一发送切换新分区标识的通知。

在具体实现时，分区服务器由于计算规模非常大、算法经常变化，可以采用oracle实现；负载调整服务器可以基于服务器框架netty改造实现；业务服务器（如openfire）需要增加restful接口供负载调整服务器发送通知指令。

上述负载均衡***，通过对用户间的即时通信关系进行社交化网络分区，使关系紧密的用户聚集到同一个分区，从而获得最优的服务器负载分布视图，并按照此图把用户迁移到新归属服务器上，以减少服务器跨区通信的资源消耗，使***在全局层面达到真正负载均衡，解决了即时通信***中由于用户分区不合理而引起的服务器间通信不均衡问题。并且，在用户迁移到新分区所在业务服务器后，仍然可以采用一致性哈希算法进行用户位置寻址，不需要使用代价高昂的路由表技术，非常适合工程上实施。另外，用户迁移可以在服务不中断情况下进行，并且在用户及其好友均在迁移的情况下不会漏接消息。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (12)

1.一种基于即时通信业务的负载均衡方法，包括：

针对即时通信业务构建社交网络图；

对社交网络图进行分区；

调整分区使分区与业务服务器的分布和规模相适配；

调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在的新业务服务器；

根据用户的分区标识对用户进行动态迁移包括：

负载调整服务器获取用户的用户标识、原分区标识、新分区标识，根据原分区标识进行哈希运算得到用户所在原业务服务器的地址，根据新分区标识进行哈希运算得到用户所在新业务服务器的地址，根据用户所在原业务服务器的地址，通知用户所在原业务服务器迁出该用户；

用户所在原业务服务器通知用户重定向到用户所在新业务服务器，并指定负载调整服务器为其收发消息的代理服务器；

负载调整服务器将发给用户所在原业务服务器的消息转发给用户所在新业务服务器，将用户所在新业务服务器发给该用户好友的消息转发给用户好友所在业务服务器。

2.根据权利要求1所述的方法，其特征在于，所述针对即时通信业务构建社交网络图包括：

根据用户间的即时通信业务关系、关系类型、与时间相关的通信频度构建社交网络图。

3.根据权利要求1所述的方法，其特征在于，所述对社交网络图进行分区包括：

根据k-core算法对社交网络图进行分区，k-core算法是指分区中的任何一个用户都至少与分区中的其他k个用户建立关系，其中的k表示预设度数。

4.根据权利要求3所述的方法，其特征在于，所述调整分区使分区与业务服务器的分布和规模相适配包括：

通过改变预设度数k的值来调整分区大小，使分区与业务服务器的分布和规模相适配。

5.根据权利要求1所述的方法，其特征在于，所述调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在业务服务器包括：

将用户的原分区标识替换为新分区标识，该新分区标识为待迁入分区所在业务服务器中的一个空闲分区标识或一个已知的待迁出的分区标识，以使用户使用分区标识进行负载均衡散列运算后落到待迁入分区所在业务服务器。

6.根据权利要求1所述的方法，其特征在于，所述根据用户的分区标识对用户进行动态迁移还包括：

负载调整服务器获取用户的好友，通知用户好友所在业务服务器更新该用户的分区标识为新分区标识；

用户好友所在业务服务器记录用户的新分区标识，使用旧分区标识给用户发送消息，直到收到负载调整服务器的切换新分区标识的通知后再使用新分区标识给用户发送消息；

负载调整服务器当用户好友所在业务服务器均完成新分区标识的更新后，对用户好友所在业务服务器统一发送切换新分区标识的通知。

7.一种基于即时通信业务的负载均衡***，包括：分区服务器、负载调整服务器和业务服务器；

分区服务器用于针对即时通信业务构建社交网络图；对社交网络图进行分区；调整分区使分区与业务服务器的分布和规模相适配；调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在的新业务服务器；

负载调整服务器用于从分区服务器获取用户的用户标识、原分区标识、新分区标识，根据原分区标识进行哈希运算得到用户所在原业务服务器的地址，根据新分区标识进行哈希运算得到用户所在新业务服务器的地址，根据用户所在原业务服务器的地址，通知用户所在原业务服务器迁出该用户；将发给用户所在原业务服务器的消息转发给用户所在新业务服务器，将用户所在新业务服务器发给该用户好友的消息转发给用户好友所在业务服务器；

用户所在原业务服务器，用于通知用户重定向到用户所在新业务服务器，并指定负载调整服务器为其收发消息的代理服务器。

8.根据权利要求7所述的***，其特征在于，所述分区服务器包括社交网络图构建模块，用于针对即时通信业务构建社交网络图，具体包括：根据用户间的即时通信业务关系、关系类型、与时间相关的通信频度构建社交网络图。

9.根据权利要求7所述的***，其特征在于，所述分区服务器包括分区模块，用于对社交网络图进行分区，具体包括：根据k-core算法对社交网络图进行分区，k-core算法是指分区中的任何一个用户都至少与分区中的其他k个用户建立关系，其中的k表示预设度数。

10.根据权利要求9所述的***，其特征在于，所述分区服务器包括分区调整模块，用于调整分区使分区与业务服务器的分布和规模相适配，具体包括：通过改变预设度数k的值来调整分区大小，使分区与业务服务器的分布和规模相适配。

11.根据权利要求7所述的***，其特征在于，所述分区服务器包括分区标识调整模块，用于调换用户的分区标识使用户进行负载均衡散列运算后落到待迁入分区所在业务服务器，具体包括：将用户的原分区标识替换为新分区标识，该新分区标识为待迁入分区所在业务服务器中的一个空闲分区标识或一个已知的待迁出的分区标识，以使用户使用分区标识进行负载均衡散列运算后落到待迁入分区所在业务服务器。

12.根据权利要求7所述的***，其特征在于，

所述负载调整服务器，用于获取用户的好友，通知用户好友所在业务服务器更新该用户的分区标识为新分区标识，当用户好友所在业务服务器均完成新分区标识的更新后，对用户好友所在业务服务器统一发送切换新分区标识的通知；

用户好友所在业务服务器，用于记录用户的新分区标识，使用旧分区标识给用户发送消息，直到收到负载调整服务器的切换新分区标识的通知后再使用新分区标识给用户发送消息。