CN111131486A - 执行节点的负载调节方法、装置、服务器及存储介质 - Google Patents

Abstract

本申请提供了一种执行节点的负载调节方法、装置、服务器及存储介质，属于云服务技术领域。该方法包括：对于云服务架构中的多个执行节点，获取每个执行节点的运行数据；根据每个执行节点的运行数据，从多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；从第一执行节点中选择待迁移的第一目标服务实例；将第一执行节点内的第一目标服务实例迁移到第二执行节点内。在本申请实施例中，当云服务架构中内存在负载过大的第一执行节点时，可以将第一执行节点内的第一目标服务实例迁移到第二执行节点内，降低第一执行节点的负载，从而实现多个执行节点的负载均衡，提高多个执行节点处理网络服务请求的速度。

Description

执行节点的负载调节方法、装置、服务器及存储介质

技术领域

本申请涉及云服务技术领域，特别涉及一种执行节点的负载调节方法、装置、服务器及存储介质。

背景技术

随着云服务技术的发展，越来越多的网络服务都可以通过Node serverless(节点云服务)进行处理。Node serverless包括多个执行节点，每个执行节点内包括多种类型的服务实例。其中，每个类型的服务实例可以处理对应类型的网络服务请求。因为每个类型的服务实例占用执行节点的资源不同，所以每个类型的服务实例给予执行节点的负载不同。因此，即使每个执行节点内的服务实例数量相同，每个执行节点的负载也会不同。这样Nodeserverless内就会出现部分执行节点负载过大的情况，而执行节点负载过大会影响该执行节点处理网络服务请求的速度。所以，如何调节Node serverless内多个执行节点的负载，使每个执行节点的负载均衡成为业界关注的重点。

发明内容

本申请实施例提供了一种负载调节方法、装置、服务器及存储介质，能够解决多个执行节点的负载不均衡的问题。所述技术方案如下：

根据本申请实施例的一方面，提供了一种执行节点的负载调节方法，所述方法包括：

对于云服务架构中的多个执行节点，获取每个执行节点的运行数据；

根据所述每个执行节点的运行数据，从所述多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；

从所述第一执行节点中选择待迁移的第一目标服务实例；

将所述第一执行节点内的所述第一目标服务实例迁移到所述第二执行节点内。

在一种可能的实现方式中，所述从所述第一执行节点中选择待迁移的第一目标服务实例，包括：

确定所述第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量；

根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择所述第一目标服务实例。

在另一种可能的实现方式中，所述根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择所述第一目标服务实例，包括：根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择第一数量最小的第一目标服务实例。

在另一种可能的实现方式中，所述根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择所述第一目标服务实例，包括：

根据所述每个服务实例对应的未处理的服务请求的第一数量，以及每个服务实例的类型，确定所述第一执行节点内每个类型对应的未处理的服务请求的第二数量；

根据所述每个类型对应的未处理的服务请求的第二数量，从所述第一执行节点内选择第二数量最小的目标类型；

从所述第一执行节点中选择所述目标类型的第一目标服务实例。

在另一种可能的实现方式中，所述将所述第一执行节点内的所述第一目标服务实例迁移到所述第二执行节点内，包括：

根据所述第一目标服务实例的目标类型，在所述第二执行节点内创建所述目标类型的第二目标服务实例；当接收到所述目标类型的服务请求时，通过所述第二目标服务实例处理所述服务请求；

以及，在所述第一目标服务实例处理完未处理的服务请求时，将所述第一执行节点内的所述第一目标服务实例关闭。

在另一种可能的实现方式中，所述根据所述每个执行节点的运行数据，从所述多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点，包括：

根据所述每个执行节点的运行数据，确定所述每个执行节点的负载；

根据所述每个执行节点的负载，从所述多个执行节点中确定负载大于第一负载阈值的第一执行节点和负载小于第二负载阈值的第二执行节点。

在另一种可能的实现方式中，所述运行数据包括中央处理器CPU占用率和内存使用率，所述根据所述每个执行节点的运行数据，确定所述每个执行节点的负载，包括：

对于每个执行节点，将所述执行节点的CPU占用率和内存使用率进行加权求和，得到所述执行节点的负载。

根据本申请实施例的另一方面，提供了一种执行节点的负载调节装置，所述装置包括：

获取模块，用于对于云服务架构中的多个执行节点，获取每个执行节点的运行数据；

确定模块，用于根据所述每个执行节点的运行数据，从所述多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；

选择模块，用于从所述第一执行节点中选择待迁移的第一目标服务实例；

迁移模块，用于将所述第一执行节点内的所述第一目标服务实例迁移到所述第二执行节点内。

在一种可能的实现方式中，所述选择模块，还用于确定所述第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量；根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择所述第一目标服务实例。

在另一种可能的实现方式中，所述选择模块，还用于根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择第一数量最小的第一目标服务实例。

在另一种可能的实现方式中，所述选择模块，还用于根据所述每个服务实例对应的未处理的服务请求的第一数量，以及每个服务实例的类型，确定所述第一执行节点内每个类型对应的未处理的服务请求的第二数量；根据所述每个类型对应的未处理的服务请求的第二数量，从所述第一执行节点内选择第二数量最小的目标类型；从所述第一执行节点中选择所述目标类型的第一目标服务实例。

在另一种可能的实现方式中，所述迁移模块，还用于根据所述第一目标服务实例的目标类型，在所述第二执行节点内创建所述目标类型的第二目标服务实例；当接收到所述目标类型的服务请求时，通过所述第二目标服务实例处理所述服务请求；

以及，在所述第一目标服务实例处理完未处理的服务请求时，将所述第一执行节点内的所述第一目标服务实例关闭。

在另一种可能的实现方式中，所述确定模块，还用于根据所述每个执行节点的运行数据，确定所述每个执行节点的负载；根据所述每个执行节点的负载，从所述多个执行节点中确定负载大于第一负载阈值的第一执行节点和负载小于第二负载阈值的第二执行节点。

在另一种可能的实现方式中，所述运行数据包括中央处理器CPU占用率和内存使用率，所述确定模块，还用于对于每个执行节点，将所述执行节点的CPU占用率和内存使用率进行加权求和，得到所述执行节点的负载。

根据本申请实施例的另一方面，提供了一种服务器，所述服务器包括：处理器和存储器，所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行以实现上述任一可能实现方式所述的负载调节方法中的操作。

根据本申请实施例的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一条指令，所述至少一条指令由处理器加载并具有以实现如所述负载调节方法中所执行的操作。

在本申请实施例中，对于云服务架构中的多个执行节点，获取每个执行节点的运行数据；根据每个执行节点的运行数据，从多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；从第一执行节点中选择待迁移的第一目标服务实例；将第一执行节点内的第一目标服务实例迁移到第二执行节点内。这样，当云服务架构中内存在负载过大的第一执行节点时，可以将第一执行节点内的第一目标服务实例迁移到第二执行节点内，降低第一执行节点的负载，提高第一执行节点处理网络服务请求的速度。所以，该负载调节方法可以实现云服务架构中的多个执行节点的负载均衡，提高多个执行节点处理网络服务请求的速度。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的一种实施环境的示意图；

图2是本申请实施例提供的一种执行节点的负载调节方法的示意图；

图3是本申请实施例提供的一种执行节点的负载调节方法的流程图；

图4是本申请实施例提供的一种执行节点的负载调节装置的流程图；

图5是本申请实施例提供的一种服务器的结构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施方式作进一步地详细描述。

图1是本申请实施例提供的一种实施环境的示意图。参见图1，该实施环境中包括终端101和云服务架构102。其中，云服务架构102可以是Node serverless(Nodeserverless，节点云服务)。

终端101和云服务架构102之间通过无线或者有线网络连接。并且，终端101上可以安装有云服务架构102提供服务的客户端，终端101对应的用户可以通过该客户端与云服务架构102之间实现例如数据传输、消息交互等功能。客户端可以为终端101上安装的包括上网功能的客户端。例如，该客户端可以为浏览器、社交应用、游戏应用或者外卖应用等。

终端101可以为电脑、手机、平板电脑或者其他电子设备。云服务架构102可以是一台服务器，或者由若干台服务器组成的服务器集群，或者是一个云计算服务中心。

在本申请实施例中，该云服务架构102是Node serverless。Node serverless包括服务器和多个执行节点；服务器可以对多个执行节点控制。其中，服务器可以是中心控制节点，中心控制节点可以对多个执行节点控制。每个执行节点内包括多种类型的服务实例，每个类型的服务实例处理与该类型的服务实例对应的服务请求，其中，每个类型的服务实例对应的服务请求的数量不同。

参见图2，中心控制节点包括API(Application Programming Interface，应用程序编程接口)网关、节点控制器和巡查节点。

其中，API用于接收服务请求，该服务请求携带服务类型；根据该服务类型，将该服务请求分配给执行节点中用于处理该服务类型的服务实例。

巡查节点用于获取每个执行节点的运行数据，根据每个执行节点的运行数据，确定每个执行节点的负载，将每个执行节点的负载发送给节点控制器。

节点控制器用于接收每个执行节点的负载，根据每个执行节点的负载，选出负载大于第一负载阈值的第一执行节点A和负载小于第二负载阈值的第二执行节点B。

当存在负载大于第一负载阈值的第一执行节点A时，节点控制器根据第一执行节点A内每个服务实例对应的未处理的服务请求的数量确定待迁移的服务实例D。节点控制器通过API网关修改流量分发策略，对第一执行节点A内的待迁移的服务实例D不再分发对应的服务请求。当第一执行节点A内的待迁移的服务实例D处理完对应的服务请求时，节点控制器将第一执行节点A内的待迁移的服务实例D关闭。节点控制器在负载小于第二负载阈值的第二执行节点B上创建待迁移的服务实例D。节点控制器通过API网关向第二执行节点B分发服务实例D对应的服务请求，第二执行节点B上创建的服务实例D对服务请求进行处理。

图3是本申请实施例提供的一种执行节点的负载调节方法的流程图。参见图3，该方法包括以下步骤：

301、对于云服务架构中的多个执行节点，服务器获取每个执行节点的运行数据。

其中，运行数据可以包括CPU(Central Processing Unit，中央处理器)占用率和内存使用率中的至少一项。

需要说明的一点是，CPU占用率可以是当前时间点的CPU占用率，也可以是第一特定时间段内的CPU占用率的平均值。内存使用率可以是当前时间点的内存使用率，也可以是第二特定时间段内的内存使用率的平均值。其中，第一特定时间段和第二特定时间段可以相同，也可以不同。

在一种可能的实现方式中，执行节点内包含多个服务实例。服务器可以通过每个服务实例，获取该执行节点的运行数据。相应的，服务器获取每个执行节点的运行数据的步骤可以为：

对于每个执行节点，服务器获取该执行节点内的每个服务实例的运行数据；根据每个服务实例的运行数据，确定该执行节点的运行数据。

当运行数据包括CPU占用率时，服务器根据每个服务实例的运行数据，确定该执行节点的运行数据的步骤可以为：服务器将每个服务实例的CPU占用率之和，确定为该执行节点的CPU占用率。

例如，该执行节点A内有四个服务实例：第一服务实例A，第二服务实例A、第一服务实例B和第二服务实例B。其中，服务器获取第一服务实例A的CUP占用率为1％，第二服务实例A的CUP占用率为1.1％，第一服务实例B的CUP占用率为2％，第二服务实例B的CUP占用率为1.9％，则执行节点A的CUP占用率为6％。

当运行数据包括内存使用率时，服务器根据每个服务实例的运行数据，确定该执行节点的运行数据的步骤可以为：服务器将每个服务实例的内存使用率之和，确定为该执行节点的内存使用率。

当运行数据包括CPU占用率和内存使用率时，服务器根据每个服务实例的运行数据，确定该执行节点的运行数据的步骤可以为：服务器将每个服务实例的CPU占用率之和，确定为该执行节点的CPU占用率；将每个服务实例的内存使用率之和，确定为该执行节点的内存使用率。

在本申请实施例中，服务器通过每个服务实例的运行数据，获取该执行节点的运行数据，提高了该执行节点运行数据的准确性。

在另一种可能的实现方式中，每个执行节点内包含多个类型的服务实例。服务器可以通过该执行节点内每个类型的服务实例的运行数据以及每个类型的服务实例的运行数据对应的权重，获取该执行节点的运行数据。相应的，服务器根据每个服务实例的运行数据，确定该执行节点的运行数据的步骤可以为：服务器获取每个类型的服务实例的运行数据。服务器通过每个类型的服务实例的运行数据以及每个类型的服务实例的运行数据对应的权重；将每个类型的服务实例的运行数据进行加权求和，获取该执行节点的运行数据。其中，服务器可以根据每个类型服务实例处理服务请求的时间，确定每个类型的服务实例的运行数据对应的权重。

需要说明的一点是，服务器可以实时获取对每个执行节点的运行数据，也可以每隔第一预设时长获取一次每个执行节点的运行数据。其中，第一预设时长可以是10分钟、30分钟或50分钟等。

在另一种可能的实现方式中，每个执行节点可以每隔第二预设时长向服务器发送该执行节点的运行数据。服务器接收每个执行节点发送的运行数据。其中，第二预设时长可以是10分钟、30分钟或50分钟等。

在另一种可能的实现方式中，每个执行节点可以根据该执行节点的运行数据的情况，向服务器发送该执行节点的运行数据。

当运行数据包括CPU占用率时，当CPU占用率大于第一CPU占用率阈值或者CPU占用率小于第二CPU占用率阈值时，该执行节点向服务器发送该执行节点的CPU占用率。

当运行数据包括内存使用率时，当内存使用率大于第一内存使用率阈值或者内存使用率小于第二内存使用率阈值时，该执行节点向服务器发送该执行节点的内存使用率。

当运行数据包括CPU占用率和内存使用率时，当CPU占用率大于第一CPU占用率阈值且内存使用率大于第一内存使用率阈值或者CPU占用率小于第二CPU占用率阈值且内存使用率小于第二内存使用率阈值时，该执行节点向服务器发送该执行节点的CPU占用率和内存使用率。

302、服务器根据每个执行节点的运行数据，从多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点。

在本申请实施例中，为了均衡多个执行节点的负载，需确定每个执行节点的负载。其中，第一执行节点为多个执行节点中负载大于第一阈值的节点，第二执行节点为多个执行节点中负载小于第二阈值的节点。

在一种可能的实现方式中，该执行节点的运行数据与该执行节点的负载有关。相应的，服务器根据每个执行节点的运行数据，从多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点可以通过以下步骤(1)至(2)实现：

(1)服务器根据每个执行节点的运行数据，确定每个执行节点的负载。

当运行数据包括CPU占用率时，相应的，服务器根据每个执行节点的运行数据，确定每个执行节点的负载的步骤为：对于每个执行节点，服务器将该执行节点的CPU占用率作为该执行节点的负载。

当运行数据包括内存使用率时，相应的，服务器根据每个执行节点的运行数据，确定每个执行节点的负载的步骤为：对于每个执行节点，服务器将该执行节点的内存使用率作为该执行节点的负载。

当运行数据包括CPU占用率和内存使用率时。相应的，服务器根据每个执行节点的运行数据，确定每个执行节点的负载的步骤可以为：对于每个执行节点，服务器将该执行节点的CPU占用率和内存使用率进行加权求和，得到该执行节点的负载。

在一种可能的实现方式中，服务器内存储有CPU占用率的权重和内存使用率的权重。例如，服务器内存储的CPU占用率的权重和内存使用率的权重都为0.5。当该执行节点的CPU占用率为60％，该执行节点的内存使用率为80％时，该执行节点的负载为0.5*60％+0.5*80％，即70％。

在另一种可能的实现方式中，服务器可以根据该执行节点CPU占用率、内存使用率和该执行节点处理服务请求的时间的对应关系，确定CPU占用率的权重和内存使用率的权重。

该执行节点CPU占用率越大，该执行节点处理服务请求的时间越长；该执行节点内存使用率越大，该执行节点处理服务请求的时间越长。服务器可以获取CPU占用率与处理服务请求的时间之间的第一正相关性；获取内存使用率与处理服务请求的时间之间的第二正相关性。服务器根据第一正相关性和第二正相关性，确定CPU占用率的权重和内存使用率的权重。

在另一种可能的实现方式中，当执行节点对应的未处理的服务请求的数量多时，执行节点的负载大；当执行节点对应的未处理的服务请求的数量少时，执行节点的负载小。相应的，服务器根据每个执行节点的运行数据，确定每个执行节点的负载的步骤可以为：对于每个执行节点，服务器将该执行节点的运行数据和未处理的服务请求的数量进行加权求和，得到该执行节点的负载。

在一种可能的实现方式中，服务器内存储有运行数据的权重和未处理的服务请求的数量的权重。

在另一种可能的实现方式中，服务器内存储有运行数据和未处理的服务请求的数量的比例与运行数据的权重和未处理的服务请求的数量的权重之间的对应关系。相应的，服务器根据运行数据、未处理的服务请求的数量，从已存储的运行数据和未处理的服务请求的数量的比例与运行数据的权重和未处理的服务请求的数量的权重之间的对应关系中，确定运行数据的权重和未处理的服务请求的数量的权重。

在本申请实施例中，服务器通过对该执行节点的运行数据和未处理的服务请求的数量加权求和，综合了该执行节点的运行数据和未处理的服务请求的数量，提高了该执行节点负载的准确性。

(2)服务器根据每个执行节点的负载，从多个执行节点中确定负载大于第一负载阈值的第一执行节点和负载小于第二负载阈值的第二执行节点。

其中，第一负载阈值可以是60％至100％之间的任一数值，例如，60％、70％或者80％等。第二负载阈值可以是0％至60％之间的任一数值，例如，10％、20％或者30％等。在本申请实施例中，对第一负载阈值和第二负载阈值不作具体限定，可以根据需要进行设置并更改。

其中，第一负载阈值越低，第一执行节点的个数越多，第一负载阈值越高，第一执行节点的个数越少。在一种可能的实现方式中，服务器可以根据第一执行节点的个数与第一负载阈值的对应关系，确定第一负载阈值。相应的，服务器确定第一执行节点的目标个数；服务器根据目标个数从第一执行节点的个数与第一负载阈值的对应关系中，确定与目标个数对应的第一负载阈值。

例如，服务器确定第一执行节点的目标个数为10个，当第一执行节点的个数为10时，对应的第一负载阈值为80％。则服务器确定与目标个数为10对应的第一负载阈值为80％。

需要说明的一点是，第一执行节点的数量可以是0个、1个、2个或者多个。相应的，第二执行节点的数量可以是0个、1个、2个或者多个。当第一执行节点的数量为0时，服务器对执行节点的负载不进行调节，第二执行节点的数量为0个。其中，第二执行节点的数量与第一执行节点的数量可以形同，也可以不同。例如，当第一执行节点的数量为2个时，第二执行节点的数量可以是2个或者3个等。

需要说明的另一点是，当第一执行节点的数量为多个时，在一种可能的实现方式中，服务器可以对多个第一执行节点的负载一起调节。在另一种可能的实现方式中，服务器可以根据每个第一执行节点对应的服务请求数量，对于多个第一执行节点，根据每个第一执行节点对应的服务请求数量分别进行调节。相应的，服务器获取每个第一执行节点对应的服务请求数量。服务器根据每个执行节点的服务请求数量，确定多个第一执行节点的调节顺序。服务器将服务请求数量少的第一执行节点排在调节顺序的前面。

303、服务器从第一执行节点中选择待迁移的第一目标服务实例。

在本申请实施例中，第一执行节点内包含多个服务实例，服务器可以通过迁移服务实例来减少第一执行节点内服务实例的个数，进而降低第一执行节点的负载。

在一种可能的实现方式中，服务器可以根据每个服务实例对应的未处理的服务请求的数量，确定待迁移的目标服务实例。相应的，服务器从第一执行节点中选择待迁移的第一目标服务实例，包括：服务器确定第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量。服务器根据每个服务实例对应的未处理的服务请求的第一数量，从第一执行节点内选择第一目标服务实例。

在一种可能的实现方式中，服务器选择第一数量最小的服务实例为第一目标服务实例。相应的，服务器确定第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量。服务器从第一执行节点内选择第一数量最小的服务实例为第一目标服务实例。

在另一种可能的实现方式中，服务器选择未处理的服务请求小于一定数量的服务实例为第一目标服务实例。相应的，服务器确定第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量，从第一执行节点内选择第一数量小于第一数量阈值的服务实例为第一目标服务实例。其中，第一数量阈值可以是10、20或者30等。在本申请实施例中，对第一数量阈值不作具体限定，可以根据需要进行设置并更改。

需要说明的一点是，由于服务器需要在第一目标服务实例处理完该执行节点内未处理的服务请求时，对第一目标服务实例进行迁移。所以第一目标服务实例对应的第一数量越小，服务器迁移该第一目标服务实例的时间越短，调节该执行节点的效率越高。

在本申请实施例中，服务器确定第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量，选择第一数量小于第一数量阈值的服务实例为第一目标服务实例，减少了迁移的第一目标服务实例的时间，从而提高了服务器对该执行节点负载的调节效率。

在另一种可能的实现方式中，服务器可以根据每个服务实例对应的负载，确定待迁移的目标服务实例。相应的，服务器从第一执行节点中选择待迁移的第一目标服务实例，包括：服务器根据第一执行节点内的每个服务实例对应的负载，从第一执行节点内选择负载大于第三负载阈值的服务实例为第一目标服务实例。其中，第三负载阈值可以是1％至10％之间的任一数值，例如，1％、2％或者3％等。

在本申请实施例中，服务器确定第一执行节点内的每个服务实例对应的负载，通过选择负载大于第三负载阈值的服务实例为第一目标服务实例，在降低该执行节点相同的负载时，减少了迁移的第一目标服务实例的数量，从而提高了服务器对该执行节点负载的调节效率。

在另一种可能的实现方式中，第一执行节点内包含多个类型的服务实例，服务器可以通过迁移任一类型的服务实例来减少第一执行节点内服务实例的类型，进而降低第一执行节点的负载。相应的，服务器根据每个服务实例对应的未处理的服务请求的第一数量，以及每个服务实例的类型，确定第一执行节点内每个类型对应的未处理的服务请求的第二数量；根据每个类型对应的未处理的服务请求的第二数量，从第一执行节点内选择第二数量最小的目标类型；从第一执行节点中选择目标类型的第一目标服务实例。

需要说明的一点是，服务器需要在目标类型的第一目标服务实例处理完执行节点内该类型服务实例对应的所有未处理的服务请求时，才对该类型的第一目标服务实例进行迁移。所以该类型第一目标服务实例对应的服务请求的第二数量越小，服务器迁移该类型第一目标服务实例的时间越短。需要说明的另一点是，当第一执行节点内服务实例的类型减少时，该第一执行节点对应接收的服务请求的类型减少，接收的服务请求的数量也随之减少。

在本申请实施例中，服务器通过减少第一执行节点内服务实例的类型，降低该执行节点的负载；并且由于该执行节点不在接收该类型的服务请求，从而降低了该执行节点接收服务请求的类型，从而可以防止该执行节点的负载再次升高，提高了该执行节点负载的稳定性。

304、服务器将第一执行节点内的第一目标服务实例迁移到第二执行节点内。

在本申请实施例中，服务器将第一执行节点内的第一目标服务实例关闭；在第二执行节点内创建与第一目标服务实例的类型相同的第二目标服务实例。实现了将第一执行节点内的第一目标服务实例迁移到第二执行节点内。

需要说明的一点是，在第一目标服务实例处理完未处理的服务请求时，服务器将第一执行节点内的第一目标服务实例关闭。

在一种可能的实现方式中，当第一执行节点内有多个第一目标服务实例时。对于第一执行节点内的多个第一目标服务实例，第一执行节点的第一目标服务实例在处理完该目标服务实例对应的未处理的服务请求时，分别关闭。相应的，服务器获取第一目标服务实例对应的未处理的服务请求的第五数量。当获取的第五数量的为零时，对该第一目标服务实例关闭。

在另一种可能的实现方式中，当第一执行节点内有多个第一目标服务实例时。对于第一执行节点内的多个第一目标服务实例，当多个第一目标服务实例在处理完该服务实例对应的全部未处理的服务请求时，一起关闭。相应的，服务器获取目标类型的第一目标服务实例对应的全部未处理的服务请求的第六数量。当获取的第六数量的为零时，对该目标类型的第一目标服务实例关闭。

在另一种可能的实现方式中，当第一执行节点内有多个第一目标服务实例，每个第一目标服务实例对应的未处理的服务请求的数量不同时，服务器可以将未处理的服务请求进行重新分配。其中，服务器可以根据第一目标服务实例的数量和多个第一目标服务实例对应的未处理的服务请求的数量，将未处理的服务请求平均分配给每个第一目标服务实例。

对于每个第一执行节点内，当多个第一目标服务实例在处理完该第一执行节点中多个第一目标服务实例对应的未处理的服务请求时，一起关闭。

在另一种可能的实现方式中，对于每个第一执行节点内，当多个第一目标服务实例在处理完该第一执行节点中多个第一目标服务实例对应的未处理的服务请求时，该第一执行节点只接收特定业务方发送的该类型的服务请求。

在一种可能的实现方式中，在第二执行节点内创建目标类型的第二目标服务实例的目标类型和数量可以与第一执行节点内第一目标服务实例的目标类型和数量相同。相应的，服务器获取第一执行节点内第一目标服务实例的目标类型和第三数量。服务器根据目标类型和第三数量，在第二执行节点内创建第三数量的该目标类型的第二目标服务实例。

在另一种可能的实现方式中，在第二执行节点内创建目标类型的第二目标服务实例的目标类型和与第一执行节点内第一目标服务实例的目标类型相同。第二目标服务实例的数量与第一执行节点内第一目标服务实例对应的服务请求的数量成比例。其中，第二目标服务实例的数量和第一执行节点内第一目标服务实例对应的服务请求的数量的比例关系可以是1:1、5:1、10:1等。相应的，在第二执行节点内创建与第一目标服务实例的类型相同的第二目标服务实例，包括：服务器根据第一执行节点内第一目标服务实例的目标类型，确定第二目标服务实例的目标类型。服务器获取第一执行节点内第一目标服务实例对应的服务请求的第三数量；根据第三数量，从第二目标服务实例的数量与第一执行节点内第一目标服务实例对应的服务请求的数量的比例关系中，确定第二目标服务实例的数量。

在本申请实施例中，对于云服务架构中的多个执行节点，服务器获取每个执行节点的运行数据；服务器根据每个执行节点的运行数据，从多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；服务器从第一执行节点中选择待迁移的第一目标服务实例；将第一执行节点内的第一目标服务实例迁移到第二执行节点内。这样，当云服务架构中内存在负载过大的第一执行节点时，服务器可以将第一执行节点内的第一目标服务实例迁移到第二执行节点内，降低第一执行节点的负载，提高第一执行节点处理网络服务请求的速度。所以，该负载调节方法可以实现云服务架构中的多个执行节点的负载均衡，提高多个执行节点处理网络服务请求的速度。

图4是本申请实施例提供的一种执行节点的负载调节装置的结构示意图。参见图4，该装置包括：

获取模块401，用于对于云服务架构中的多个执行节点，获取每个执行节点的运行数据；

确定模块402，用于根据每个执行节点的运行数据，从多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；

选择模块403，用于从第一执行节点中选择待迁移的第一目标服务实例；

迁移模块404，用于将第一执行节点内的第一目标服务实例迁移到第二执行节点内。

在另一种可能的实现方式中，选择模块403，还用于确定第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量；根据每个服务实例对应的未处理的服务请求的第一数量，从第一执行节点内选择第一目标服务实例。

在另一种可能的实现方式中，选择模块403，还用于根据每个服务实例对应的未处理的服务请求的第一数量，从第一执行节点内选择第一数量最小的第一目标服务实例。

在另一种可能的实现方式中，选择模块403，还用于根据每个服务实例对应的未处理的服务请求的第一数量，以及每个服务实例的类型，确定第一执行节点内每个类型对应的未处理的服务请求的第二数量；根据每个类型对应的未处理的服务请求的第二数量，从第一执行节点内选择第二数量最小的目标类型；从第一执行节点中选择目标类型的第一目标服务实例。

在另一种可能的实现方式中，迁移模块404，还用于根据第一目标服务实例的目标类型，在第二执行节点内创建目标类型的第二目标服务实例；当接收到目标类型的服务请求时，通过第二目标服务实例处理服务请求；

以及，在第一目标服务实例处理完未处理的服务请求时，将第一执行节点内的第一目标服务实例关闭。

在另一种可能的实现方式中，确定模块402，还用于根据每个执行节点的运行数据，确定每个执行节点的负载；根据每个执行节点的负载，从多个执行节点中确定负载大于第一负载阈值的第一执行节点和负载小于第二负载阈值的第二执行节点。

在另一种可能的实现方式中，运行数据包括中央处理器CPU占用率和内存使用率，确定模块402，还用于对于每个执行节点，将执行节点的CPU占用率和内存使用率进行加权求和，得到执行节点的负载。

在本申请实施例中，对于云服务架构中的多个执行节点，服务器获取每个执行节点的运行数据；服务器根据每个执行节点的运行数据，从多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；服务器从第一执行节点中选择待迁移的第一目标服务实例；将第一执行节点内的第一目标服务实例迁移到第二执行节点内。这样，当云服务架构中内存在负载过大的第一执行节点时，服务器可以将第一执行节点内的第一目标服务实例迁移到第二执行节点内，降低第一执行节点的负载，提高第一执行节点处理网络服务请求的速度。所以，该负载调节方法可以实现云服务架构中的多个执行节点的负载均衡，提高多个执行节点处理网络服务请求的速度。

需要说明的是：上述实施例提供的负载调节装置在对执行节点的负载进行调节时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将服务器的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的负载调节装置与负载调节方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。

图5是本申请实施例提供的一种服务器的结构示意图，该服务器500可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上处理器(central processingunits，CPU)501和一个或一个以上的存储器502，其中，存储器502中存储有至少一条指令，至少一条指令由处理器501加载并执行以实现上述各个方法实施例提供的负载调节方法。当然，该服务器还可以具有有线或无线网络接口、键盘以及输入输出接口等部件，以便进行输入输出，该服务器还可以包括其他用于实现设备功能的部件，在此不做赘述。

本申请实施例还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有至少一条指令，该至少一条指令由处理器加载并具有以实现上述实施例的负载调节方法中所具有的操作。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

以上所述仅为本申请实施例的可选实施例，并不用以限制本申请实施例，凡在本申请实施例的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims (16)

1.一种执行节点的负载调节方法，其特征在于，所述方法包括：

对于云服务架构中的多个执行节点，获取每个执行节点的运行数据；

根据所述每个执行节点的运行数据，从所述多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；

从所述第一执行节点中选择待迁移的第一目标服务实例；

将所述第一执行节点内的所述第一目标服务实例迁移到所述第二执行节点内。

2.根据权利要求1所述的方法，其特征在于，所述从所述第一执行节点中选择待迁移的第一目标服务实例，包括：

确定所述第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量；

根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择所述第一目标服务实例。

3.根据权利要求2所述的方法，其特征在于，所述根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择所述第一目标服务实例，包括：

根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择第一数量最小的第一目标服务实例。

4.根据权利要求3所述的方法，其特征在于，所述根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择所述第一目标服务实例，包括：

根据所述每个服务实例对应的未处理的服务请求的第一数量，以及每个服务实例的类型，确定所述第一执行节点内每个类型对应的未处理的服务请求的第二数量；

根据所述每个类型对应的未处理的服务请求的第二数量，从所述第一执行节点内选择第二数量最小的目标类型；

从所述第一执行节点中选择所述目标类型的第一目标服务实例。

5.根据权利要求1所述的方法，其特征在于，所述将所述第一执行节点内的所述第一目标服务实例迁移到所述第二执行节点内，包括：

根据所述第一目标服务实例的目标类型，在所述第二执行节点内创建所述目标类型的第二目标服务实例；当接收到所述目标类型的服务请求时，通过所述第二目标服务实例处理所述服务请求；

以及，在所述第一目标服务实例处理完未处理的服务请求时，将所述第一执行节点内的所述第一目标服务实例关闭。

6.根据权利要求1所述的方法，其特征在于，所述根据所述每个执行节点的运行数据，从所述多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点，包括：

根据所述每个执行节点的运行数据，确定所述每个执行节点的负载；

根据所述每个执行节点的负载，从所述多个执行节点中确定负载大于第一负载阈值的第一执行节点和负载小于第二负载阈值的第二执行节点。

7.根据权利要求6所述的方法，其特征在于，所述运行数据包括中央处理器CPU占用率和内存使用率，所述根据所述每个执行节点的运行数据，确定所述每个执行节点的负载，包括：

对于每个执行节点，将所述执行节点的CPU占用率和内存使用率进行加权求和，得到所述执行节点的负载。

8.一种执行节点的负载调节装置，其特征在于，所述装置包括：

获取模块，用于对于云服务架构中的多个执行节点，获取每个执行节点的运行数据；

确定模块，用于根据所述每个执行节点的运行数据，从所述多个执行节点中确定待迁移服务实例的第一执行节点和待接收服务实例的第二执行节点；

选择模块，用于从所述第一执行节点中选择待迁移的第一目标服务实例；

迁移模块，用于将所述第一执行节点内的所述第一目标服务实例迁移到所述第二执行节点内。

9.根据权利要求8所述的装置，其特征在于，所述选择模块，还用于确定所述第一执行节点内的每个服务实例对应的未处理的服务请求的第一数量；根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择所述第一目标服务实例。

10.根据权利要求9所述的装置，其特征在于，所述选择模块，还用于根据所述每个服务实例对应的未处理的服务请求的第一数量，从所述第一执行节点内选择第一数量最小的第一目标服务实例。

11.根据权利要求10所述的装置，其特征在于，所述选择模块，还用于根据所述每个服务实例对应的未处理的服务请求的第一数量，以及每个服务实例的类型，确定所述第一执行节点内每个类型对应的未处理的服务请求的第二数量；根据所述每个类型对应的未处理的服务请求的第二数量，从所述第一执行节点内选择第二数量最小的目标类型；从所述第一执行节点中选择所述目标类型的第一目标服务实例。

12.根据权利要求8所述的装置，其特征在于，所述迁移模块，还用于根据所述第一目标服务实例的目标类型，在所述第二执行节点内创建所述目标类型的第二目标服务实例；当接收到所述目标类型的服务请求时，通过所述第二目标服务实例处理所述服务请求；

以及，在所述第一目标服务实例处理完未处理的服务请求时，将所述第一执行节点内的所述第一目标服务实例关闭。

13.根据权利要求8所述的装置，其特征在于，所述确定模块，还用于根据所述每个执行节点的运行数据，确定所述每个执行节点的负载；根据所述每个执行节点的负载，从所述多个执行节点中确定负载大于第一负载阈值的第一执行节点和负载小于第二负载阈值的第二执行节点。

14.根据权利要求13所述的装置，其特征在于，所述运行数据包括中央处理器CPU占用率和内存使用率，所述确定模块，还用于对于每个执行节点，将所述执行节点的CPU占用率和内存使用率进行加权求和，得到所述执行节点的负载。

15.一种服务器，其特征在于，所述服务器包括：

处理器和存储器，所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行以实现权利要求1至7任一项所述的负载调节方法中的操作。

16.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有至少一条指令，所述至少一条指令由处理器加载并执行以实现如权利要求1至7任一权利要求所述的负载调节方法中所执行的操作。

Images