CN102918813B - 用于数据负载均衡的设备和方法 - Google Patents

Abstract

本发明涉及一种用于确定IP多媒体子***IMS中的网络上的数据业务负载分发的方法，所述网络包括客户端源节点和至少两个服务器目的节点。所述至少两个服务器目的节点具有用于处理数据传输请求的不同容量。该方法包括以下步骤：所述客户端源节点按照客户端-服务器协议向所述至少两个服务器目的节点发送关于所述网络上的数据传输的请求；所述至少两个服务器目的节点中的每一个响应于所述请求而发送关于其实际容量的状态的指示；所述客户端源节点利用所述状态指示来判定所述服务器目的节点上的数据业务的负载分发。

Description

用于数据负载均衡的设备和方法

技术领域

本发明一般地涉及分布式网络***中的数据业务负载均衡。更具体地，其涉及用于执行这种负载均衡的方法和设备。

背景技术

负载均衡算法（也称作负载共享）在分布式网络***中的应用是现有技术中已知的。这种分布式网络例如可以是IP多媒体子***（IMS）在其上向固定和/或移动终端提供IP多媒体服务的通信网络。终端注册到IMS，之后该终端能够请求多媒体服务。多媒体服务由应用服务器提供。IMS将终端注册到应用服务器，其提供所请求的服务给终端。多个应用服务器可以同时地为同一个终端提供服务。

这种IMS通常包含具有不同功能的若干节点。第一组节点与路由经由网络的通信有关。这种节点的例子是各种不同的呼叫会话控制功能（CSCF），其能够用作朝向网络的代理、执行认证和授权核查并且确保特定用户的消息能够到达网络内的适当节点或反之亦然。第二种节点涉及已经提到的应用服务器（AS），其提供特定的服务给IMS网络的用户。这种服务的范围能够从现场和定位到更特定的服务，例如蜂窝网络服务上的一键通（PushtoTalk）。第三种节点是与用户管理和存储用户相关的信息有关的节点，所述信息例如是计费信息、授权信息，与特定用户相关联的服务、针对特定用户而被使能或禁用的网络选项，等等。第三种节点的典型例子是归属用户服务器（HSS），其用作IMS网络中的用户配置文件和其他用户相关的信息的大型数据库。在归属用户服务器（HSS）中查找由注册的终端所提供的标识。HSS确认终端标识的有效性。

IMS网络中的例如AS或CSCF的节点能够与HSS通信并且从HSS取回与特定用户有关的信息或者能够向HSS提供信息，该信息被存储在HSS中或被用来更新与该特定用户有关的所存储的信息。HSS的TISPAN/3GPP规范提供了在HSS中存储用户的应用特定的信息的可能性，此外还有用于认证、授权、计费等的用户相关的信息。

负载均衡算法被应用于在用于从客户端源节点向服务器目的节点传送数据的多条路径上分发业务来优化对资源的使用。负载均衡判定通常是在客户端或代理节点的外出接口上做出的，并且因此负载均衡必须在外出接口上被配置。

典型的负载共享算法（轮叫调度、序列、循环、随机等）在所有接收方具有相同容量的情况下进行配置时效果很好，即在负载必须在若干目的节点上均匀散布。收集容量（即服务器容量）是指资源可用于接收和处理来自客户端节点的新进入的请求的程度。资源对应于计算能力、存储器大小、存储等等。

如图1所示的典型论叫调度在客户端-服务器配置的不同收集器（服务器）上均匀地分发负载。它没有将单独的服务器节点的收集容量考虑在内。如图1所示，这导致在节点具有不同的收集容量的情况下在单独节点级别上的不同负载。图中的线代表配置上的相等的负载共享。在图1的例子中指示了关于四个节点的不同的相对负载百分比。

然而，在图2所示的情形中，其中配置包含具有不同收集容量的几个服务器节点，当相等的负载共享超过特定级别时，典型的论叫调度选择致使具有较少的收集和处理容量的节点中的暂时过载条件。服务器然后返回布尔响应（例如“没有空间”）以指示响应无法被处理。发送方（客户端节点）因而必须选择新的收集器（即服务器节点）并且重新发送请求。这显然会导致网络上总业务量的增加并且因而导致对资源的低效使用。

因此，现有的算法在特定的情形和环境中具有很大的限制。当配置增长时，它将理想地被扩展以在该扩展时具有最佳成本/利益比的节点。在许多或甚至多数情形中，这对应于改进的、更有执行力的、大容量的平台和/或具有不同性能的不同销售商的产品和具有不同容量特性的产品。因此，这种多节点配置可能不能保持同构性。这种具有异构节点的扩展配置无法利用如上所述的现有技术解决方案来适当地处理。

同样，当配置的一些节点的容量由不同的功能（或应用）共享时，会出现性能降低。现有的选择算法没有将这种临时条件考虑在内。成批的过程通常是以低业务时间来被调度的，以避免对收集而言保持最小服务器容量可用。

在典型的混合（或不同容量的）配置上的负载共享中，其中负载必须在考虑服务器节点容量的前提下被分发，每个发送方都需要利用选择规则（例如负载共享规则的总数（population））来被预先配置。这种总数通常是静态的。当特定节点由于其他过程而经历了附加的负载时，例如批处理作业，则临时过载条件会发生，这无法利用静态负载分发来解决。

多数***响应于确定下一个选择依赖于（布尔）指示（即“好”或“不好”）。这些回退响应显然导致附加的负载。上面的业务也随该负载级别而增加（因为由更多的否定响应）。布尔开/关响应会引入振荡性行为，这可能导致不稳定性和崩溃，而不是平滑的降级。此外，可用容量被低效地使用，因为低容量服务器节点接收相对更多的业务量。

静态负载分发规则的例子在EP2139195中找到，其中提出了用于将终端注册到应用服务器的解决方案。提供了预定义规则的静态集合，其例如能够被用于在一组服务器之中获得负载均衡。

其中会发生上述问题的典型例子涉及3GPPRf接口，其中多个数据生成器向多个数据收集器发送记录。当多个FEP（前端处理（FrontEndProcesse））被用来访问HSS（归属用户服务器）时，另一个例子是3GPPCx接口。本领域技术人员应当认识到，其他接口、协议、环境也是可能的。

发明内容

本发明旨在提供一种能够当在包括具有不同容量的节点的配置中使用负载均衡时所应用的方法和设备，其克服了现有技术方案的限制。

本发明涉及一种用于确定IP多媒体子***（IMS）中的网络上的数据业务负载分发的适应性方法。所述网络包括客户端源节点和至少两个服务器目的节点，由此至少两个服务器目的节点具有用于处理数据传输请求的不同容量。该方法包括以下步骤：

-所述客户端源节点根据客户端-服务器协议将关于网络上的数据传输的请求发送至至少两个服务器目的节点，

-该至少两个服务器目的节点中的每一个响应于所述请求而发送关于其实际容量状态的指示，

-所述客户端源节点利用所述状态指示来判定所述服务器目的节点上的数据业务的负载分发。

所提出的方案真正实现了本发明的目的。每当客户端节点请求用于发送数据业务的资源时，该服务器目的节点提供了其实际状态的指示，例如其正使用的（或空闲的）可用最大容量的百分比。根据来自服务器节点的信息能够就由已请求资源的客户端节点所发送的下一个数据业务来判定如何平衡负载。该判定指示了针对由客户端节点请求的数据传输而使用哪个服务器节点。

在优选的实施例中，关于实际容量状态的指示代表了所用容量或空闲容量的量。

实际容量的状态有利地是通过至少考虑存储器大小、CPU处理时间或这些参数的组合来确定的。

在另一个实施例中，该网络还包括用于在所述客户端源节点和所述服务器目的节点之间建立连接的代理节点。

在第二方面中，本发明涉及一种用在IP多媒体子***（IMS）中的网络中的接口设备，由此该网络包括客户端源节点和至少两个服务器目的节点，该至少两个服务器目的节点具有用于处理数据传输请求的不同容量。该接口设备包括：

-用于从所述至少两个服务器目的节点接收关于其实际容量状态的指示的接收装置，

-用于基于所接收的状态指示确定所述目的节点上的负载分发的处理装置，

-用于将所确定的负载分发传送给所述客户端源节点的传送装置。

优选地，所述处理装置被安排用来执行负载均衡算法，其中所述状态指示被用作加权因子。

在另一个实施例中，所述接口设备还包括用于存储所接收的状态指示的存储装置。

在最优选的实施例中，所述接口设备被安排用于按照RADIUS或Diameter协议操作。

本发明还涉及一种用在IP多媒体子***IMS中的网络中的客户端源节点，其包括之前描述的接口设备。

附图说明

图1示出了现有技术已知的典型的轮叫调度算法；

图2示出了图1的现有技术方案的限制；

图3示出了利用Diameter代理节点进行建立；

图4示出了本发明的示例性应用；

图5示出了Diameter重定向行为；

图6示出了轮叫调度算法（现有技术）的性能；

图7示出了根据本发明的解决方案的性能。

具体实施方式

在本发明中，IP多媒体子***（IMS）被用来在以客户端-服务器配置的网络上提供多媒体服务。该服务器节点并不是全都拥有相同的服务器容量。服务器容量是指与CPU时间、存储器大小、组合CPU和存储器大小、一些***测量的组合等有关的容量。在本上下文中，容量给出了关于处理将来的（类似的）请求的能力的指示。

在最优选的实施例中，该客户端-服务器配置被安排用于按照Diameter协议或RADIUS（Diameter的前任）操作。

Radius（远程认证拨号用户服务）是一种联网协议，其为计算机提供集中式认证、授权和计费（AAA）管理以连接并使用网络服务。由于RADIUS协议的广泛支持和普遍存在的特性，其通常由互联网服务提供商和企业用来管理至互联网或内部网络、无线网络和集成电子邮件服务的接入。RADIUS是利用UDP来传输的在应用层中运行的客户端/服务器协议。RADIUS提供三种功能，即在允许用户或设备接入网络之前认证它们、为这些用户或设备授权特定的网络服务以及对这些服务的使用进行计费。RADIUS无法有效地处理远程接入、IP移动性和策略控制。

Diameter协议为RADIUS提供了升级的路径。Diameter控制认证器与请求认证的任何网络实体之间的通信。Diameter协议定义由用户用来执行策略、AAA和资源控制的策略协议。这使得单个服务器能够处理许多服务的策略。与RADIUS的差别之一在于，它使用更可靠的传输协议（TCP或SCTP）。Diameter协议还通过开发上文讨论过的3GPPIP多媒体子***（IMS）而被增强。

Diameter应用不是一种软件应用，而是一种基于Diameter基础协议的协议。每个应用由应用标识符来定义并且能够添加新的命令代码和/或新的强制属性值对。添加新的可选AVP不需要新的应用。

可选地，客户端-服务器网络还包括一个或多个被安排在客户端与服务器之间的代理节点。该代理节点通常被安排用来执行路由类型的功能以及可能地缓冲功能。Diameter代理在Diameter基础协议RFC3588中被定义。图3给出了包括代理节点的建立的说明。客户端与“服务器-x”之间的链路经由Diameter代理节点而被建立。通信以如下顺序进行：客户端联系代理，代理与相关服务器通信并且然后返回给客户端。

根据所提出的方案，当接收来自客户端节点的关于数据传输的请求时，服务器节点例如在最后x秒内返回关于其实际容量的指示。该指示例如可以包括可用的最大容量的百分比，或相反地包括已经在使用中的百分比。

关于网络中的服务器节点的实际容量的信息由根据本发明的接口设备接收并且当数据业务被发送时被用来确定目的节点上的负载分发。具有高瞬时空闲容量的服务器被选择用于以更高的概率进行下一次数据传输。选择算法也确保了要选择的概率对于已返回较低可用性指示的服务器节点而言较小。所产生的关于实际负载分发的信息然后在实际传输开始之前被提供给客户端源节点。

根据本发明的接口设备优选地包含于源客户端节点中。可选地，它可以是独立的设备。这种独立设备因而通常用作（就协议而言）Diameter代理节点。

所提出的方法提供了若干优点。这个方法实现了按照接收方（即服务器）的体积容量的多个目的节点上的最佳异构业务散布。同样，通信的稳定性和高效性大大增加。另外，数据收集容量配置能够利用具有不同容量和过程特性的元件来构建。这使得配置能够随着不同代或不同销售商的部件的增长而增长。相反，在现有技术解决方案中，每当收集容量增加时，现有配置都需要升级。

本发明的一个重要优点在于，负载分发动态地适配于新的情形。例如，当服务器节点中的剩余收集容量由于批处理过程运行于该节点上而暂时减少时，业务分发朝向新的最佳效果而动态地更新。

现在提供一个例子（图4）。再一次考虑具有不同容量的四个服务器目的节点。所用容量部分针对每个节点而被指示。客户端源节点已向目的节点发送了关于发送数据业务的请求。步骤1说明服务器节点响应于所述请求而发送关于其容量方面的实际状态的指示。在该例子中，服务器节点指示为CDF（计费数据功能，其是由3GPP在TS32.240中定义的IMS功能）。服务器节点的响应消息包含两个部分：响应代码（指示了该请求是否被处理）和关于仍可用的容量（就CPU和/或存储器大小而言）测量的附加指示（可能地被实现为子代码）。如本领域技术人员应当认识到的，也可以设想响应消息的其他结构。有利地，关于各种不同的节点的可用性的指示被存储在CTF（计费触发功能）中，其是由3GPP在TS32.240中定义的IMS功能。

应当指出，CTF实现了RfDiameter客户端。在该例子中，所接收的负载指示的说明实际上是CTF的一部分。然而，这也可以是独立的功能或实现在Diameter代理中的功能或甚至是Diameter重定向。

Diameter协议实际上也定义了Diameter重定向节点。在客户端与服务器之间的实际通信之前，出于路由的目的而查询这个节点。在信令路径中存在重定向节点的情况下，实际负载分发仍由客户端执行。路由任务在该情况下是在重定向节点和客户端节点上共享的。

对于针对下一个消息选择服务器目的节点而言，将可用性信息考虑在内作为负载均衡算法的权重，其中服务器节点被选择。在启动时（或在低业务量时），CTF在所有服务器上均匀地分发负载，因为每个服务器都返回较高的可用性数字（例如95%）。当负载增加时，由具有较低容量的服务器返回的可用性数字减小。具有更多剩余可用容量（以及因而返回更高可用性数字）的服务器节点比具有很少或没有剩余空闲容量的服务器具有更高的概率被选择作为目的地。相对较大数目的请求将具有这种服务器的地址。负载较重的目的服务器因而通常较少地被选择。因此，较少数目的请求获得这种负载较重的服务器的地址。这样，实现了最佳负载共享。当收集条件在其中一个服务器中更改时（例如执行消耗CPU的批处理作业），分发模式被动态地适配于实际情形。

任何负载均衡算法的目的是动态地（即实时地）生成针对每个服务器的权重指示，并且使用这些指示来应用加权服务器选择（如用在DNS中那样）。一个可能的算法可以如下实现。该负载分发功能：

-接收并存储关于每个服务器的负载指示。

-利用与该服务器的接收值相对应的针对每个服务器的若干条目而构建动态列表或阵列。当负载指示符对应于可用资源时，可以使用所述值。当负载指示符对应于已用资源时，应用信息（已用负载百分比）。

-在该阵列的每个元素中，存储相应服务器（或其指针）的地址。

对于每个新的要发送的请求，发送方生成0到（负载指示服务器-1+负载指示服务器2等）之间的随机数。

该随机值被用作访问该动态阵列的索引。该请求的目的地被存储在阵列元素中。

当所接收的关于服务器x的负载指示较大时，相对较多数目的阵列条目将具有服务器x的地址。当所接收的关于服务器y的负载指示较小时，较少数目的阵列条目将具有该服务器y的地址。随机数指向服务器x的概率较大。

一个示例性情形涉及在具有不同收集容量的若干节点上所共享的3GPPRf业务业务（Diameter）负载。可用容量的反馈确保了最佳负载共享。

为了说明本发明提出的方案所实现的性能增益，下面给出了与现有技术中的轮叫调度算法的性能的比较。

图6示出了通过应用轮叫调度选择而获得的性能曲线，其中使用了可用服务器容量的80%的界限阈值。从达到该阈值级别起发送“不好”消息。当级别降低到60%时恢复业务。这些值通常针对每个配置而被设置以“调整”过载条件下的稳定性。定义了一种滞后性曲线，该曲线是为了避免服务器状态在打开和关闭之间振荡这一情形。图中示出了针对具有不同容量的四个服务器的配置的随时间变化的每秒请求数目，以及累积的吞吐量。上面的业务被观测（特别是在具有较低容量的节点上）。应当注意累积吞吐量（总带宽）的较大波动。最大级别（在该情况下等于单个服务器节点容量总合的80%）无法达到。

图7示出了当使用根据本发明的容量反馈解决方案时所获得的性能。再次，针对与图6相同的服务器节点的配置，示出了随时间变化的每秒请求数目以及累积的和最佳的吞吐量。与图6相反，不再观测到任何上面的业务。振荡行为已经消失。在短暂时间之后，累积的容量对应于最佳级别。

尽管已经参考特定实施例而说明了本发明，然而本领域技术人员应当清楚，本发明不限于前面说明的实施例的细节，并且本发明可以以不脱离其范围的各种不同的变化和修改来体现。本实施例因而被看作是说明性的而非限制性的，本发明的范围由所附权利要求来指示，而不是由前面的描述指示，并且在与权利要求等价的含义和范围内的所有变化都是包含于其中的。换言之，设想覆盖了落在基本原理的精神和范围内并且在本申请中主张其基本属性的权利的任何修改、变型或等价物。本申请的读者还应当理解，词语“包括”不排除其他单元或步骤，词语“一个”不排除多个，并且例如计算机***、处理器或另一个集成单元的单个单元可以实现权利要求中所公开的几个装置的功能。权利要求中的任何参考标记都不应当被看成是限制有关权利要求。用在说明书或权利要求中的术语“第一”、“第二”、“第三”、“a”、“b”、“c”等被用来区分相似的单元或步骤，并且不一定是说明顺序或时序。类似地，术语“顶部”、“底部”、“上”、“下”等只是为了描述而不是为了指示相对位置。应当理解，所使用术语在合适的情况下是可互换的，并且本发明的实施例能够以其他顺序按照本发明操作，或者以与上面描述或说明的不同的方向来操作。

Claims (9)

1.一种用于确定IP多媒体子***IMS中的网络上的数据业务负载分发的方法，所述网络包括客户端源节点和至少两个服务器目的节点，所述至少两个服务器目的节点具有用于处理数据传输请求的不同容量，所述方法包括下列步骤：

-所述客户端源节点按照客户端-服务器协议向所述至少两个服务器目的节点发送关于所述网络上的数据传输的请求；

-所述至少两个服务器目的节点中的每一个响应于所述请求而发送关于其实际容量的状态的指示；

-所述客户端源节点利用所述状态指示来判定所述服务器目的节点上的数据业务的负载分发；

-所述客户端源节点基于负载分发权重因子，将所述数据业务分发至所述服务器目的节点，所述负载分发权重因子反映所述服务器目的节点的实际容量状态指示。

2.根据权利要求1所述的用于确定业务负载分发的方法，其中，关于实际容量的状态的所述指示代表已用容量或空闲容量的量。

3.根据权利要求1或2所述的用于确定业务负载分发的方法，其中，所述实际容量的状态是通过至少考虑存储器和/或处理时间而被确定的。

4.根据权利要求1至3中任一项所述的用于确定业务负载分发的方法，其中，所述网络还包括用于在所述客户端源节点与所述服务器目的节点之间建立连接的代理节点。

5.一种用在IP多媒体子***IMS中的网络中的接口设备，所述网络包括客户端源节点和至少两个服务器目的节点，所述至少两个服务器目的节点具有用于处理数据传输请求的不同容量，所述接口设备包括：

-用于从所述至少两个服务器目的节点接收关于其实际容量的状态的指示的接收装置；

-用于基于所接收的状态指示而确定所述目的节点上的数据业务的负载分发的处理装置；

-用于基于负载分发权重因子，将所述数据业务分发至所述服务器目的节点的传送装置，所述负载分发权重因子反映所述服务器目的节点的实际容量状态指示。

6.根据权利要求5所述的接口设备，其中，所述处理装置被安排成执行负载均衡算法。

7.根据权利要求5或6所述的接口设备，还包括用于存储所接收的状态指示的存储装置。

8.根据权利要求5至7中任一项所述的接口设备，其被安排用于按照RADIUS或Diameter协议操作。

9.一种用在IP多媒体子***IMS中的网络中的客户端源节点，包括根据权利要求5至8中任一项的接口设备。