CN103731295B

CN103731295B - 用于运行虚拟整合设备的方法和***

Info

Publication number: CN103731295B
Application number: CN201310469929.4A
Authority: CN
Inventors: 高凤晙; 李康源; E·M·纳哈姆; M·土玛; D·C·维尔马; 王浩然
Original assignee: International Business Machines Corp
Current assignee: International Business Machines Corp
Priority date: 2012-10-11
Filing date: 2013-10-10
Publication date: 2017-07-21
Anticipated expiration: 2033-10-10
Also published as: US9331891B2; CN103731295A; US20140108638A1; US20140108626A1

Abstract

本发明涉及一种用于运行虚拟整合设备的方法和***。提供了用于管理虚拟整合设备中的网络业务，以便在所述虚拟整合设备的重新配置期间避免现有网络连接中断的技术。在一个方面，提供一种用于运行具有多个服务器的虚拟整合设备的方法。所述方法包括以下步骤。根据所述虚拟整合设备的状态，计算负载平衡的分配。发现所述虚拟整合设备的重新配置。根据所述虚拟整合设备的所述重新配置，基于所述虚拟整合设备的新状态计算负载平衡的新分配。在所述虚拟整合设备的所述重新配置期间，根据所述分配重定向现有网络连接。根据所述新分配为新网络连接提供服务。

Description

用于运行虚拟整合设备的方法和***

技术领域

本发明涉及虚拟整合设备，更具体地说，涉及用于管理虚拟整合设备中的网络业务，以便在虚拟整合设备的重新配置期间避免现有网络连接中断的技术。

背景技术

虚拟整合设备是充当单个虚拟设备的设备群集。设备可以是服务器、刀片、机架安装式服务器等。为了将工作负载分配到虚拟设备，当前解决方案是在设备群集之前具有负载平衡交换机，以便跨设备分配负载。但是，使用L2-L3负载平衡交换机，当管理员尝试添加附加设备（多个）（例如，以便增加处理容量，或者关闭以便维修等）时，现有网络连接（TCP/UDP/IP）可能重设，这是由于设备的负载分配更改所致。当尝试移除设备或禁用设备（例如，以便维修、省电等）时，将出现类似的问题。

具有L4-L7上下文的负载平衡交换机可潜在地防止该问题，但增加了交换逻辑的复杂性。因此，交换速度可能受影响。此外，该负载平衡交换机并不非常适合于冗余交换机配置—主动和热交换—因为当主动交换机由备用交换机替换时，主动交换机中的上下文可能不存在。

因此，需要这样的技术：当重新配置虚拟整合设备时，仍然允许为现有连接提供服务。

发明内容

本发明涉及用于管理虚拟整合设备中的网络业务，以便在所述虚拟整合设备的重新配置期间避免现有网络连接中断的技术。在本发明的一个方面，提供一种用于运行具有多个服务器的虚拟整合设备的方法。所述方法包括以下步骤。根据所述虚拟整合设备的状态，计算负载平衡的分配。发现所述虚拟整合设备的重新配置。根据所述虚拟整合设备的所述重新配置，基于所述虚拟整合设备的新状态计算负载平衡的新分配。在所述虚拟整合设备的所述重新配置期间，根据所述分配重定向现有网络连接。根据所述新分配为新网络连接提供服务。

在本发明的另一个方面，提供一种虚拟整合设备。所述虚拟整合设备包括多个服务器，每个所述服务器包括i）第一模块，其被配置为根据所述虚拟整合设备的状态，计算负载平衡的分配，ii）第二模块，其被配置为发现所述虚拟整合设备的重新配置，并且由此所述第一模块被配置为根据所述虚拟整合设备的所述重新配置，基于所述虚拟整合设备的新状态计算负载平衡的新分配，以及iii）第三模块，其被配置为在所述虚拟整合设备的所述重新配置期间，根据所述分配重定向现有网络连接；以及负载平衡交换机，其用于根据所述新分配，将网络连接定向到被配置为服务于新网络连接的所述服务器。

通过参考以下具体实施方式和附图，将获得对本发明的更全面理解，以及本发明的进一步特性和优点。

附图说明

图1是示出根据本发明的一个实施例的包括作为虚拟整合设备运行的多个服务器的示例性负载平衡方案的示意图；

图2是示出根据本发明的一个实施例的虚拟整合设备的初始配置的示意图，其中多个客户机访问单个服务器（服务器1）；

图3是示出根据本发明的一个实施例的将新服务器（服务器2）添加到虚拟整合设备的示意图；

图4是示出根据本发明的一个实施例的如何将分配给新服务器（服务器2）的现有连接转发回服务器1，以便新服务器仅处理分配给新服务器的新连接的示意图；

图5是示出根据本发明的一个实施例的虚拟整合设备的初始配置的示意图，其中多个客户机访问两个服务器（服务器1和服务器2）；

图6是示出根据本发明的一个实施例的应用新散列桶（bucket）分配的示意图，其中将所有客户机连接路由到服务器2（预计服务器1离线）；

图7是示出根据本发明的一个实施例的如何将到服务器1的现有连接转发回服务器1，以及仅当所有现有连接都关闭时服务器1才离线的示意图；

图8是示出根据本发明的一个实施例的本虚拟整合设备的示例性配置的示意图；

图9是示出根据本发明的一个实施例的用于运行虚拟整合设备（例如图8中所示的虚拟整合设备）的示例性方法的示意图；

图10是示出根据本发明的一个实施例的本技术在扩展情景上下文中的时间线的示意图；以及

图11是示出根据本发明的一个实施例的用于执行在此提供的一种或多种方法的示例性装置的示意图。

具体实施方式

如上面提供的，使用虚拟整合设备，当管理员需要关闭一个机器的电源和/或将新机器添加到群集时，这将产生热交换。常规设置的问题是任何正在进行的会话都将受到影响。有利地，本技术提供一种机制，以便在热交换期间避免影响正在进行的会话并维持现有连接。

本技术通常适用于任何作为虚拟整合设备运行的机器群集（例如，服务器、刀片、设备等群集）。可以使用运行机器群集（例如多个服务器）增加容量，并且将向用户显示为具有大容量的单个机器（例如，服务器）。

可以采用负载平衡器将工作负载分配给多个机器，以便在机器之间平衡工作负载。使用作为群集运行的多个服务器的实例，当客户机尝试访问服务器时，一种可能的负载平衡方案是根据客户机IP地址分散工作负载。例如，将以.1结尾的客户机IP地址分配给第1桶，将以.2结尾的客户机IP地址分配给第2桶等。然后以循环方式将桶分配给特定端口。例如，将第1桶分配给端口1，将第2桶分配给端口2，将第3桶分配给端口3，将第4桶分配给端口1，将第5桶分配给端口2，依此类推。端口对应于服务器。因此，在该实例中，群集中存在三个服务器（服务器1、服务器2和服务器3），并且端口1、2和3分别对应于服务器1、服务器2和服务器3。

例如参见图1，其示出该示例性负载平衡方案。即，如图1中所示，多个客户机访问服务器群集。在该实例中，群集中存在三个服务器（标记为“刀片1”、“刀片2”和“刀片3”）。客户机通过其IP地址标识，即，以*.*.*.1、*.*.*.2、*.*.*.3、*.*.*.4、...*.*.*.252、*.*.*.253等结尾的客户机IP地址。以太网交换机（例如，在国际商业机器公司提供的BLADENetwork Technology（BNT）中采用的iFlow交换机）使用散列函数进行桶分配。例如，将IP地址以*.*.*.1结尾的客户机分配给第1桶，将IP地址以*.*.*.2结尾的客户机分配给第2桶，依此类推。值得注意的是，在描述中仅使用散列桶分配过程作为实例以便例示本技术。应该理解，可以使用任何负载平衡分配过程，具体地说，本技术不应被解释为限于任何一种负载平衡分配过程。

然后以循环方式将桶分配给特定端口。端口对应于服务器。因此，将桶分配给端口1的那些客户机由服务器1提供服务，将桶分配给端口2的那些客户机由服务器2提供服务，依此类推。在这种情况下，因为具有3个服务器，所以桶分配按顺序进行，每第4桶分配再次以端口1开始（循环方式）。参见图1，其中针对客户机*.*.*.4将桶分配给端口1。

例如，在不关闭设备的情况下将另一个服务器添加到群集时，常规技术需要创建新端口（例如，将服务器4添加到群集需要创建新端口4）。使用上面的循环分配实例，分配给第4桶的客户机现在定向到新端口4。在添加新服务器4之前，将分配给第4桶的客户机分配给端口1/服务器1。对于这些客户机，网络连接将重设，因为没有现有连接。这将产生问题。但是，使用本技术，将现有连接（在该实例中，到服务器1的连接）从新服务器（在这种情况下，新服务器4）重新分配给先前分配（在该实例中，服务器1）以便维持连接。

即，首先检查其中将服务器添加到群集（在此也称为扩展情景）的情况。如图2中所示，该情景以两个客户机开始（为简单起见）：访问服务器1（在Dobbs Ferry）的客户机173（在University Heights）和客户机180（在Hastings）。初始地，仅服务器1在线，并且将所有客户机散列到分配给服务器1的桶。如图2中所示，负载平衡交换机维护一个表，该表具有客户机IP地址、散列桶分配，以及服务器分配（在该初始情景中，这是服务器1—Dobbs Ferry）的介质访问控制（MAC）。

然后将第二服务器（服务器2（在Ardsley））添加到群集。参见图3。如上所述，此添加新服务器将触发桶重新分配。在图3中所示的示例性情景中，将客户机173重新分配给新服务器2（Ardsley）。查看更新后的负载平衡表，其中现在将客户机173散列到分配给服务器2的桶。图3示出在没有本重新分配技术的情况下，服务器2将重设现有连接（RST），因为服务器2没有连接状态。

但是，如图4中所示，根据本技术，将任何重新分配给新服务器（服务器2）的现有连接转发回服务器1。因此在该情景中，服务器1（Dobbs Ferry）将继续为这些现有连接提供服务，并且将响应客户机173。如图4中所示，新服务器（服务器2）然后处理来自客户机173的任何新连接（标记为“新”）。根据本集成方案，将新服务器添加到群集时，不重设连接。

接下来，检查其中从群集移除服务器（在此也称为收缩情景）的情况。可以从群集移除服务器，例如以便维修。如图5中所示，该示例性情景以上面使用的两个客户机（客户机173（在University Heights）和客户机180（在Hastings））以及两个服务器（服务器1（在Dobbs Ferry）和服务器2（在Ardsley））开始。将客户机173散列到分配给服务器2的桶，将客户机180散列到分配给服务器1的桶。查看在负载平衡交换机旁边示出的表。在该示例性情景中，计划使服务器1转为离线以便维修。

当服务器1离线时，应用新的散列桶分配，从而仅在桶中留下服务器2。参见图6。如图6中所示，在没有本连接保留技术的情况下，到服务器1的现有连接在发送到服务器2时会丢失（TCP RST），因为服务器2没有连接状态。但是，本技术采用超时期限，其中管理员首先宣布服务器（在这种情况下，服务器1）将离线以便维修；为了省电，将服务器分配给另一个设备组等。进行该宣布之后，服务器2将处理所有新连接。参见图7，其中更新后的负载平衡表显示现在将客户机180散列到分配给服务器2的桶。但是，如图7中所示，为了确保从群集移除服务器1时不重设连接，服务器2将到服务器1的现有连接转发回服务器1。仅当所有现有连接都关闭时服务器1才离线（这可以通过业务管理器（TM）检测，参见下面图8的描述）。

在扩展或收缩情景（参见上面）中，本技术有利地针对任何类型的虚拟整合设备实现动态重新分配。因此在重新配置期间最小化（或防止）现有网络连接中断，从而从客户的角度提供无缝、不中断的性能（即，如上所述，虚拟整合设备向客户（向外界）显示为单个设备）。此外，本技术的实现不需要对现有高速L2负载平衡器进行任何更改（例如，L2负载平衡器不需要维护流信息）。

图8是示出本虚拟整合设备的示例性配置的示意图。如图8中所示，服务器群集（服务器1、服务器2、...、服务器x）构成整合设备。在每个服务器上运行设备管理器（AM）、业务管理器（TM）和IPD++。当对虚拟整合设备进行更改时（例如，当添加或移除服务器—即，服务器数量更改时），设备管理器模块发现更改，并且知道组中在任何给定时间存在哪些服务器。因此，设备管理器模块用于宣布和发现设备状态和配置以及服务器的添加/移除。相应地，在设备管理器模块处触发虚拟整合设备的重新配置。有利地，设备管理器模块针对虚拟整合设备的重新配置、软件更新和补丁管理提供单一控制点。具有单一控制点有利于***管理，因为管理员只需登录到一个模块并触发一次更新/补丁命令，而不是必须登录到不同刀片并逐个触发更新/补丁。如图8中所示，设备管理器模块共享设备配置参数。因此，组中的每个服务器将具有有关设备配置的相应和最新信息（例如，在任何给定时间，组中存在哪些服务器）。

业务管理（TM）模块监视其机器（服务器）中的状态以及组内其它服务器中的状态。即，业务管理器模块监视TCP会话状态，并且如图8中所示，与组中的其它业务管理器模块共享（协调）该信息。

根据设备状态，业务管理器模块计算负载平衡的散列桶分配。参见上面散列桶分配的描述。如图8中所示，业务管理器模块使用最新散列桶分配来配置负载平衡（LB）交换机（参见下文）。业务管理器模块还针对L2转发配置IPD++，以便在重新配置期间防止TCP连接重设。上面详细描述了当从群集/组添加或移除服务器时，用于将现有连接转发回其原始服务器的方法。

IPD++模块确定需要重定向哪个流（L2转发）。即，除了IPD的L3过滤和转发之外，IPD++模块还执行L2转发。IPD++模块提供应用编程接口（API），以便在终端主机之间转发业务并将业务转发到虚拟机（VM）。API允许高效地将应用业务从一个刀片转发到另一个刀片。

如图8中所示，虚拟整合设备还包括负载平衡（LB）交换机。如上面提供的，业务管理器模块根据设备状态计算负载平衡交换机的散列桶分配。因此，该实施例中的负载平衡交换机使用监管式散列桶分配，而不是自动iFlow模式。

图9是示出用于运行虚拟整合设备（例如，在图8中示出并在上面描述的虚拟整合设备）的示例性方法900的示意图。在步骤902，根据虚拟整合设备的状态，计算负载平衡的散列桶分配。使用图2作为实例，在所述过程的该阶段，虚拟整合设备的状态是多个客户机访问单个服务器（服务器1）。使用图5中所示的实例，状态是多个客户机访问多个服务器（服务器1和服务器2）。这些仅是为了描述所述过程而示出的实例。对于虚拟整合设备的任何状态（配置），计算散列桶分配。结合上面图1的描述，描述了散列桶分配的计算，其中将网络连接分配给虚拟整合设备中的服务器。

如结合上面图8的描述所描述的，在一个示例性实施例中，业务管理器（TM）模块执行计算负载平衡的散列桶分配的步骤。业务管理器模块还负责使用当前散列桶分配来配置负载平衡交换机（参见上文）。

接下来，在步骤904，发现虚拟整合设备的重新配置。如上所述，虚拟整合设备的重新配置可以包括将服务器（多个）添加到虚拟整合设备（参见图2-4—扩展情景）和/或从虚拟整合设备移除服务器（多个）（参见图5-7—收缩情景）。

如结合上面图8的描述所描述，在一个示例性实施例中，可以通过设备管理器模块发现虚拟整合设备的重新配置。如上面提供的，设备管理器模块针对虚拟整合设备的重新配置提供单一控制点。

在步骤906，根据发现虚拟整合设备的重新配置（根据步骤904），基于虚拟整合设备的新状态（配置）计算负载平衡的新散列桶分配。如上面提供的，虚拟整合设备的新状态可能是将服务器（多个）添加到组和/或从组移除服务器（多个）。

再次地，业务管理器模块可以执行此散列桶分配。每当例如通过业务管理器模块检测到虚拟整合设备的状态更改时，可以执行步骤906。此外，如上面提供的，业务管理器负责使用新散列桶分配来配置负载平衡交换机。因此，在步骤908，使用新散列桶分配来配置负载平衡交换机。

在步骤910，借助新散列桶分配，在重新配置期间将现有网络连接重定向到先前分配的服务器，以便避免连接重设。上面在扩展情景（图2-4）的上下文和收缩情景（图5-7）的上下文中详细描述了此概念。如上面提供的，IPD++模块可以执行此现有连接重定向（转发）。

处理现有网络连接（以便避免连接重设）之后，在步骤912，根据新散列桶分配为新网络连接提供服务。再次地，在上面扩展情景（图2-4）的上下文和收缩情景（图5-7）的上下文中详细描述了此概念。如上面提供的，在提供的示例性收缩情景的上下文中，将现有连接重定向回原始服务器（即，在步骤902的散列桶分配中指定的服务器），并且仅当到该服务器的现有连接完成之后，该服务器才离线。在这种情况下，必需监视现有连接。如上所述，设备管理器模块可以执行这种监视现有网络连接的功能。

图10是示出本技术在扩展情景（例如，将新刀片服务器添加到虚拟整合设备时）上下文中的时间线的示意图。在该实例中，刀片服务器1和2存在于群集中，并且要添加第三刀片服务器3。根据设备的重新配置（即，添加新刀片服务器3）和基于该重新配置的新（更新后的）散列桶分配（参见上文），负载平衡（LB）交换机将客户机1和客户机2网络连接（分别标记为客户机流1和客户机流2）重定向到新刀片服务器3。但是，通过本技术，将现有连接重定向（转发）到先前分配的刀片（针对客户机流1和2分别为刀片服务器1和2），以便避免连接重设。

现在转到图11，示出用于实现在此提供的一种或多种方法的装置1100的框图。仅作为举例，装置1100可以被配置为实现用于运行具有多个服务器的虚拟整合设备（例如图8的虚拟整合设备）的图9的方法900的一个或多个步骤。

装置1100包括计算机***1110和可移动介质1150。计算机***1110包括处理器设备1120、网络接口1125、存储器1130、介质接口1135和可选显示器1140。网络接口1125允许计算机***1110连接到网络，而介质接口1135允许计算机***1110与介质（例如硬盘驱动器或可移动介质1150）交互。

如所属技术领域已知的，在此讨论的方法和装置可以作为制造品分发，该制造品本身包括包含一个或多个程序的机器可读介质，当执行程序时，实现本发明的各实施例。例如，机器可读介质可以包含这样一种程序：其被配置为根据虚拟整合设备的状态，计算负载平衡的分配；发现虚拟整合设备的重新配置；根据虚拟整合设备的重新配置，基于虚拟整合设备的新状态计算负载平衡的新分配；在虚拟整合设备的重新配置期间，根据分配重定向现有网络连接；以及根据新分配为新网络连接提供服务。

机器可读介质可以是可记录介质（例如，软盘、硬盘驱动器、光盘（例如可移动介质1150）或存储卡），或者可以是传输介质（例如，包括光纤的网络、万维网、电缆，或使用时分多址、码分多址的无线信道，或其它射频信道）。可以使用任何可存储信息的适于与计算机***一起使用的已知或开发的介质。

处理器设备1120可以被配置为实现在此公开的方法、步骤和功能。存储器1130可以是分布式或本地存储器，处理器设备1120可以是分布式或单个设备。存储器1130可以实现为电、磁或光存储器，或者这些或其它类型存储器件的任意组合。此外，术语“存储器”应该进行足够广泛的解释，以便包含任何信息，能够从处理器设备1120访问的可寻址空间中的地址读取该信息或将信息写入其中。通过该定义，可通过网络接口1125访问的网络上的信息仍在存储器1130内，因为处理器设备1120可以从网络检索该信息。应该指出，构成处理器设备1120的每个分布式处理器通常包含它自己的可寻址存储空间。还应指出，计算机***1110的部分或全部可以结合在专用或通用集成电路中。

可选显示器1140是适合于与装置1100的个人用户交互的任意类型显示器。通常，显示器1140是计算机监视器或其它类似的显示器。

尽管在此描述了本发明的示例性实施例，但是应当理解，本发明并不限于这些精确的实施例，并且在不偏离本发明的范围的情况下，所属技术领域的技术人员可以做出各种其它更改和修改。

Claims

1.一种用于运行具有多个服务器的虚拟整合设备的方法，所述方法包括以下步骤：

根据所述虚拟整合设备的状态，计算负载平衡的分配，其中所述虚拟整合设备包含多个服务器，所述多个服务器组成充当单个虚拟设备的设备群集；

发现所述虚拟整合设备的重新配置，其中所述虚拟整合设备的重新配置包含服务器数量的变化，该数量的变化包含将服务器添加到群集以及从集群移除服务器；

根据所述虚拟整合设备的所述重新配置，基于所述虚拟整合设备的新状态计算负载平衡的新分配；

在所述虚拟整合设备的所述重新配置期间，根据所述虚拟整合设备的重新配置之前计算的所述新分配，重定向现有网络连接，其中包括借助所述新分配，在重新配置期间将现有网络连接重定向到先前分配的服务器以及根据所述新分配为新网络连接提供服务，从而在所述虚拟整合设备的重新配置期间维护所述现有网络连接并且避免连接重置；以及

根据所述新分配为新网络连接提供服务。

2.根据权利要求1的方法，其中所述虚拟整合设备包括用于将网络连接定向到所述服务器的负载平衡交换机。

3.根据权利要求2的方法，其中所述负载平衡交换机维护具有所述分配的表。

4.根据权利要求3的方法，还包括以下步骤：

使用所述新分配更新所述表。

5.根据权利要求2的方法，还包括以下步骤：

使用所述分配来配置所述负载平衡交换机。

6.根据权利要求2的方法，还包括以下步骤：

使用所述新分配来配置所述负载平衡交换机。

7.根据权利要求2的方法，其中使用所述负载平衡交换机执行服务步骤。

8.根据权利要求1的方法，还包括以下步骤：

在所述虚拟整合设备的所述重新配置期间，根据所述分配重定向所述现有网络连接，直到所有的所述现有网络连接均已完成。

9.根据权利要求8的方法，还包括以下步骤：

监视所述现有网络连接。

10.根据权利要求1的方法，其中使用散列函数计算所述分配。

11.一种用于运行具有多个服务器的虚拟整合设备的***，所述***包括被配置为执行权利要求1至9中的任一权利要求的方法步骤的装置。