CN111966502B - 用于调整实例数的方法、装置、电子设备及可读存储介质 - Google Patents

Abstract

本申请实施例公开了用于调整实例数的方法、装置、电子设备及计算机可读存储介质，涉及边缘计算、业务实例调整、计算节点协同技术领域。该方法的一具体实施方式包括：获取当前时间窗口的实际性能指标；确定与该实际性能指标对应的理论实例数；响应于该理论实例数大于与自身实际性能对应的实例开设上限时，请求具有实例增开能力的其它边缘计算节点共同开设总数为该理论实例数的实例。该实施方式针对自身不具有足够的实例增开能力的情况，提供了一种通过请求其它具有实例增开能力的其它边缘计算节点来协同开设的方案，充分利用存在实例增开能力的边缘计算节点来满足当前边缘计算节点超负荷的业务负载，从而更快、更高效的完成相应业务负载的处理。

Description

用于调整实例数的方法、装置、电子设备及可读存储介质

技术领域

本申请涉及多设备协同处理技术领域，具体涉及边缘计算、业务实例调整、计算节点协同技术领域，尤其涉及用于调整实例数的方法、装置、电子设备及计算机可读存储介质。

背景技术

随着电子信息化、智能化的发展，距用户终端最近的边缘计算设备发挥越来越大的作用，由众多边缘计算节点构成的边缘计算网络成为研究的重点。

发明内容

本申请实施例提出了一种用于调整实例数的方法、装置、电子设备及计算机可读存储介质。

第一方面，本申请实施例提出了一种用于调整实例数的方法，包括：获取当前时间窗口的实际性能指标；确定与实际性能指标对应的理论实例数；响应于理论实例数大于当前边缘计算节点的实例开设上限时，请求具有实例增开能力的其它边缘计算节点共同开设总数为理论实例数的实例；其中，不同的边缘计算节点因性能差异具有不同的实例开设上限。

第二方面，本申请实施例提出了一种用于调整实例数的装置，包括：实际性能指标获取单元，被配置成获取当前时间窗口的实际性能指标；理论实例数确定单元，被配置成确定与实际性能指标对应的理论实例数；实例增开协同单元，被配置成响应于理论实例数大于当前边缘计算节点的实例开设上限时，请求具有实例增开能力的其它边缘计算节点共同开设总数为理论实例数的实例；其中，不同的边缘计算节点因性能差异具有不同的实例开设上限。

第三方面，本申请实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的用于调整实例数的方法。

第四方面，本申请实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的用于调整实例数的方法。

第五方面，本申请实施例提供了一种包括计算机程序的计算机程序产品，该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的用于调整实例数的方法。

本申请实施例提供的用于调整实例数的方法、装置、电子设备及计算机可读存储介质，首先，当前边缘节点获取当前时间窗口的实际性能指标；然后，当前边缘节点确定与该实际性能指标对应的理论实例数；接着，响应于该理论实例数大于与自身实际性能对应的实例开设上限时(不同的边缘计算节点因性能差异具有不同的实例开设上限)，请求具有实例增开能力的其它边缘计算节点共同开设总数为该理论实例数的实例。

为满足开设理论实例数的实例来处理对应的业务负载，本申请针对自身不具有足够的实例增开能力的情况，提供了一种通过请求其它具有实例增开能力的其它边缘计算节点来协同开设的方案，充分利用存在实例增开能力的边缘计算节点来满足当前边缘计算节点超负荷的业务负载，从而更快、更高效的完成相应业务负载的处理。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请可以应用于其中的示例性***架构；

图2为本申请实施例提供的一种用于调整实例数的方法的流程图；

图3为本申请实施例提供的另一种用于调整实例数的方法的流程图；

图4为本申请实施例提供的又一种用于调整实例数的方法的流程图；

图5为本申请实施例提供的在一应用场景下的用户终端与边缘计算节点间的连接关系示意图；

图6为针对图5中的边缘计算节点提供的一种内部功能模块之间的连接关系示意图；

图7为本申请实施例提供的一种用于调整实例数的装置的结构框图；

图8为本申请实施例提供的一种适用于执行用于调整实例数的方法的电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的用于调整实例数的方法、装置、电子设备及计算机可读存储介质的实施例的示例性***架构100。

如图1所示，***架构100可以包括终端设备101、102、103，网络104、当前边缘计算节点105和其它边缘计算节点106、107。网络104用以在终端设备101、102、103和当前边缘计算节点105之间提供通信链路的介质，当前边缘计算节点105与其它边缘计算节点106、107之间也可以采用网络104进行连接(未示出)。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103和服务器105上可以安装有各种用于实现两者之间进行信息通讯的应用，例如即时通信类应用、数据查询应用等，当前边缘计算节点105和其它边缘计算节点106、107上也可以安装有用于实现两者之间进行信息通信的应用，例如实例协同增开类应用、数据转发类应用等。

终端设备101、102、103、当前边缘计算节点105和其它边缘计算节点106、107可以是硬件也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等；当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中，其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。当边缘计算节点(包括当前边缘计算节点105和其它边缘计算节点106、107)为硬件时，通常为单个具有计算能力的电子设备，例如工作站、服务器等；当边缘计算节点为软件时，可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。

边缘计算节点通过内置的各种应用可以提供各种服务，以在当前边缘计算节点短时间内面临超出其处理能力的业务负荷时提供业务实例协同增开服务的实例协同增开类应用为例，当前边缘计算节点105在运行该实例协同增开类应用时可实现如下效果：首先，通过网络104接收到当前时间窗口内终端设备101、102、103发来的待处理流量，并根据待处理流量的大小确定实际性能指标；然后，确定与该实际性能指标对应的理论实例数；接着，在该理论实例数大于与自身实际性能对应的实例开设上限时，请求具有实例增开能力的其它边缘计算节点(例如其它边缘节点计算106、107)共同开设总数为该理论实例数的实例。从而在其它边缘计算节点的协同下利用总数为理论实例数的业务实例来处理接收到的待处理流量，并实现待处理流量的高效、快速处理。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

请参考图2，图2为本申请实施例提供的一种用于调整实例数的方法的流程图，其中流程200包括以下步骤：

步骤201：获取当前时间窗口的实际性能指标；

本步骤旨在由用于调整实例数的方法的执行主体(例如图1所示的当前边缘计算节点105)获取当前时间窗口的实际性能指标。

其中，每个时间窗口可以是不限起始时刻的预设时长的一段时间，或者是从第一预设时间点开始计时、至第二预设时间点计时结束之间的一段时长，例如可以设置每5分钟为1个时间窗口，也可以设置每1个小时为1个时间窗口，还可以具体设置每个时间窗口的时长为1个小时，但这1个小时必须要从每个自然计时时刻的31分开始、至下个自然计时时刻的30分结束，等等，此处不做具体限定。

其中，实际性能指标通常可基于流量大小、等待队列长度、CPU使用率、内存使用率、实例并发数中的至少一项来计算或换算得到，该实际性能指标反映了当前边缘计算节点要完成处理任务应调动的性能，即需要调动多少资源才能满足在预设条件下完成当前时间窗口接收到的待处理任务。因此，本步骤所描述的实际性能指标也可以换用实际业务负载量来表示，即借助业务负载量与性能指标之间的正比关系来进行简单的换算，例如在5分钟内接收到10GB的待处理流量，其实际业务负载量就是10GB，若当前边缘计算节点全性能工作时5分钟最多处理12GB的流量，因此可以简单的直接将10GB作为该实际性能指标，也可以将10GB/12GB＝5/6作为实际性能指标，该指标反映了在当前时间窗口内当前边缘计算设备需要调用自身全性能的5/6才能处理完接收到的待处理流量。

步骤202：确定与实际性能指标对应的理论实例数；

在步骤201的基础上，本步骤旨在由上述执行主体确定与实际性能指标对应的理论实例数。

具体的，可在预先记录有各性能指标与各实例数之间对应关系的对应表中，查询与该实际性能指标对应的理论实例数。应当理解的是，由于性能指标(或业务负载量)可通过多种方式进行表示，其余理论实例数之间的关系也需要根据所采用的表示参数来进行调整。假定仍以待处理流量的大小作为性能指标，该对应关系可以表述为2GB→1业务实例、4GB→2业务实例、6GB→3业务实例、8GB→4业务实例等，即每增加2GB的待处理流量，上述执行主体就应增开一个业务实例来并行处理；假定以内存占用率作为性能指标，该对应关系可以表述为20％→1业务实例、30％→2业务实例、40％→3业务实例、50％→4业务实例等，即在内存占用20％的基础上，内存每被额外占用10％，上述执行主体就应增开一个业务实例来并行处理。采用其它参数表示性能指标的情况可参照上述示例进行适应性调整。

进一步的，该对应关系除能够以表的形式进行记录之外，还可以采用其它诸如键值对、哈希表等方式进行记录，也可以仅记录用于根据实际性能指标计算得到理论实例数的计算规则来实时计算得到理论实例数。

步骤203：响应于理论实例数大于当前边缘计算节点的实例开设上限时，请求具有实例增开能力的其它边缘计算节点共同开设总数为理论实例数的实例。

在步骤202的基础上，本步骤旨在由上述执行主体在该理论实例数大于自身的实例开设上限的情况下，请求具有实例增开能力的其它边缘计算节点共同开设总数为理论实例数的实例。

之所以会出现理论实例数大于当前边缘节点的实例开设上限的情况，是因为并非所有充当边缘计算节点的边缘计算设备都具有相同的运算资源，当某些边缘计算节点自身拥有的运算资源偏少时，其本身的运算资源就不足以支持其开设数量较多的业务实例来并行处理较多的业务负载。例如一个边缘计算节点仅有1GB内存，其最多支持开设3个业务实例，但由于特殊情况该边缘计算节点在当前时间窗口内收到了10GB的待处理流量，按照步骤202确定出的理论实例数为5，那么此时就会出现理论实例数大于该边缘计算节点的实例开设上限的情况。

由于边缘计算节点的优势就是就近处理用户终端发来的请求，因此如何充分发挥距用户终端距离最近的当前边缘计算节点的业务处理能力是本申请的研究重点。

针对理论实例数大于上述执行主体(当前边缘计算节点)的实例开设上限，本申请提出了由上述执行主体以请求的方式，向其它具有实例增开能力的其它边缘计算节点发起实例增开协同请求，以通过该实例增开协同请求在其它边缘计算节点的协同下共同开设总数为理论实例数的业务实例。

为满足开设理论实例数的实例来处理对应的业务负载，本申请提供的用于调整实例数的方法针对自身不具有足够的实例增开能力的情况，提供了一种通过请求其它具有实例增开能力的多边缘计算节点协同方案，以充分利用其它存在实例增开能力的边缘计算节点来满足当前边缘计算节点超负荷的业务负载，从而更快、更高效的完成相应业务负载的处理。

请参考图3，图3为本申请实施例提供的另一种用于调整实例数的方法的流程图，其中流程300包括以下步骤：

步骤301：获取当前时间窗口的实际性能指标；

步骤302：确定与实际性能指标对应的理论实例数；

以上步骤301-302与如图2所示的步骤201-202一致，相同部分内容请参见上一实施例的相应部分，此处不再进行赘述。

步骤303：根据理论实例数和实例开设上限，计算得到第一差值；

本步骤旨在由上述执行主体计算得到该理论实例数与该实例开设上限之间的实例数差值。

步骤304：广播包含第一差值的实例增开协同请求，以使接收到实例增开协同请求的其它边缘计算节点在确认自身具有与第一差值对应的实例增开能力时返回同意增开响应；

针对边缘计算节点中不记录其它边缘计算节点的地址信息的情况，本实施例通过本步骤提供了一种由上述执行主体以广播的形式发送包含第一差值的实例增开协同请求的方式，以使得所有在广播接收范围内的其它边缘计算节点均能够接收到该实例增开协同请求，并使得确认自身具有与第一差值对应的实例增开能力的部分其它边缘计算节点通过请求中包含的上述执行主体的地址向上述执行主体返回同意增开响应。

步骤305：根据接收到的同意增开响应，将与第一差值对应的实例数所处理的流量转发给发来同意增开响应的边缘计算节点；

在步骤304的基础上，本步骤旨在由上述执行主体根据接收到的同意增开响应确认有其它边缘计算节点可以帮助进行实例增开，因此将自身接收到的与第一差值对应的实例数所处理的流量转发给发来同意增开响应的边缘计算节点，流量转发的目的地址可从同意增开响应中提取到。

步骤306：接收发来同意增开响应的边缘计算节点返回的流量处理结果。

在步骤305的基础上，本步骤旨在由上述执行主体接收发来同意增开响应的边缘计算节点返回的流量处理结果。之所以接收流量处理结果，是因为帮助上述执行主体增开实例的其它边缘节点无法直接将流量处理结果返回给用户，在用户端来看用户是将流量发给了上述执行主体，拿到处理结果时也理应认为原路返回的结果才是合法的结果。

区别于上一实施例，本实施例通过步骤302-步骤306提供了一种如何通过请求的方式实现实例增开协同的具体实现方式，由上述执行主体以广播的方式发送包含第一差值的实例增开协同请求，并在接收到具有相应实例增开能力的部分其它边缘计算节点返回的同意增开响应时，建立与其之间的数据连接以实现待处理流量和流量处理结果的发送和接收，从而达成由至少两个边缘计算节点共同开设总数为理论实例数的业务实例来处理上述执行主体接收到的待处理流量的目的。

请参考图4，图4为本申请实施例提供的另一种用于调整实例数的方法的流程图，其中流程400包括以下步骤：

步骤401：获取当前时间窗口的实际性能指标；

步骤402：确定与实际性能指标对应的理论实例数；

以上步骤401-402与如图2所示的步骤201-202一致，相同部分内容请参见上一实施例的相应部分，此处不再进行赘述。

步骤403：根据理论实例数和实例开设上限，计算得到第二差值；

本步骤旨在由上述执行主体计算得到该理论实例数与该实例开设上限之间的实例数差值。

步骤404：响应于第二差值大于预设差值且存在拥有大于理论实例数的实例开设能力的高性能边缘计算节点，将发送给当前边缘计算节点的流量全部转发给高性能边缘计算节点，以使高性能边缘节点通过开设数量为理论实例数的实例对接收到的流量进行处理；

在步骤403的基础上，本步骤旨在针对第二差值大于预设差值且存在拥有大于理论实例数的实例开设能力的高性能边缘计算节点的情况下，由上述执行主体将发送给当前边缘计算节点的流量全部转发给高性能边缘计算节点，以使高性能边缘节点通过开设数量为理论实例数的实例对接收到的流量进行处理。

其中，第二差值大于预设差值所表征的场景为即使上述执行主体开设了自身实例开设上限的业务实例后，距理论实例数的差值仍然较多的情况，例如理论实例数为15，但上述执行主体的实例开设上限为6，当前仅开设了3个业务实例，那么即使上述执行增开了3个业务实例，仍然还差距9个业务实例，如由上述执行主体请求多个均剩余不多实例增开能力的其它边缘计算节点来共同凑够15个业务实例，待处理流量的分发和接收就显得较为混乱，很容易出错。

因此，本实施例选择在此种情况下查询是否存在拥有大于理论实例数的实例开设能力的高性能边缘计算节点，即该高性能边缘计算节点的实例开设上限大于15，若存在，则直接将由上述执行主体将发送给当前边缘计算节点的流量全部转发给高性能边缘计算节点，以使高性能边缘节点通过开设数量为理论实例数的实例对接收到的流量进行处理。其中，全部交由高性能边缘计算节点来处理流量的好处是不用上述执行主体再将自身有限的运算资源倾注在流量的处理上，能够更好的响应一些突发的请求。

步骤405：接收高性能边缘计算节点返回的流量处理结果。

在步骤305的基础上，本步骤旨在由上述执行主体接收发来同意增开响应的边缘计算节点返回的流量处理结果。

进一步的，若上述执行主体(当前边缘计算节点)掉线，还可以将发送给当前边缘计算节点的流量的目的地址修改为高性能边缘计算节点，以使高性能边缘计算节点直接返回流量处理结果。即通过更换目的的方式将高性能边缘计算节点重新确定为这些待处理流量的直接处理节点，就不再需要原先的边缘计算节点的中转。

区别上一实施例，本实施例针对第二差值大于预设差值且存在拥有大于理论实例数的实例开设能力的高性能边缘计算节点的特殊情况，提供了一种借助该高性能边缘计算节点来处理待处理流量的具体实现方式，充分发挥了边缘计算网络中某些性能较高的边缘计算节点的性能优势。

为加深理解，本申请还结合一个具体应用场景，给出了一种具体的实现方案，请参见图5、图6，其中图5为本申请实施例提供的在一应用场景下的用户终端与边缘计算节点间的连接关系示意图，图6为针对图5中的边缘计算节点提供的一种内部功能模块之间的连接关系示意图。

如5图所示，多个用户终端(用户终端A、B、C)基于发布/订阅模式与边缘计算网络中的边缘计算节点进行数据交互，发布/订阅的主体记录在消息中心中。假定距用户终端A、B、C最近的边缘计算节点为边缘计算节点K。

如图6所示，边缘计算节点K内部拥有用于与消息中心进行消息交互的交互模块，用于根据交互模块中接收到的待处理消息数量确定当前时间窗口内的性能指标以及下发控制指令的监控模块，用于根据监控模块下发的控制指令控制业务实例数量增加或减少的引擎模块，以及根据当前的业务实例数与记录在引擎模块中的当前节点的实例开设上限确定是否发送以及如何发送实例增开协同请求的协同请求模块。

其中，用户终端A、B、C将消息发送到消息中心的约定主题，交互模块订阅约定主题的消息，该消息交互模块依赖的协议包括且不限于标准MQTT(Message Queuing TelemetryTransport，消息队列遥测传输)协议、标准COAP(Constrained Application Protocol，受限应用协议)协议；监控模块基于事先设定的一个时间窗口，统计这个时间窗口内的指标平均值并记录下来。支持的指标包括且不限于实例CPU使用率、实例内存使用率、实例并发量；监控模块是否下发控制指令基于实际指标与预设指标之间的大小比较结果；引擎模块接收来自监控模块的控制指令，并按照控制指令动态扩/缩容消息处理程序实例的数量，支持扩容到事先设置的最大实例数以及缩容到最小实例数，其中最小实例数支持设置为0，以最大程序降低***资源消耗。

其中，协同请求模块则用于在判定控制指令下发的实例扩容数大于实例开设上限时向其它边缘计算节点(例如边缘计算节点M、N)发送包含实例数至少为实例数差值的实例增开协同请求，以在边缘计算节点M、N的帮助下共同开设总数为理论实例数的消息处理实例。

进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种用于调整实例数的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例的用于调整实例数的装置500可以包括：实际性能指标获取单元501、理论实例数确定单元502、实例增开协同单元503。其中，实际性能指标获取单元501，被配置成获取当前时间窗口的实际性能指标；理论实例数确定单元502，被配置成确定与实际性能指标对应的理论实例数；实例增开协同单元503，被配置成响应于理论实例数大于当前边缘计算节点的实例开设上限时，请求具有实例增开能力的其它边缘计算节点共同开设总数为理论实例数的实例；其中，不同的边缘计算节点因性能差异具有不同的实例开设上限。

在本实施例中，用于调整实例数的装置500中：实际性能指标获取单元501、理论实例数确定单元502、实例增开协同单元503的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-203的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，实例增开协同单元503可以进一步被配置成：

根据理论实例数和实例开设上限，计算得到第一差值；

广播包含第一差值的实例增开协同请求，以使接收到实例增开协同请求的其它边缘计算节点在确认自身具有与第一差值对应的实例增开能力时返回同意开响应；

根据接收到的同意增开响应，将与第一差值对应的实例数所处理的流量转发给发来同意增开响应的边缘计算节点；

接收发来同意增开响应的边缘计算节点返回的流量处理结果。

在本实施例的一些可选的实现方式中，实例增开协同单元503可以进一步被配置成：

根据理论实例数和可开设上限，计算得到第二差值；

响应于第二差值大于预设差值且存在拥有大于理论实例数的实例开设能力的高性能边缘计算节点，将发送给当前边缘计算节点的流量全部转发给高性能边缘计算节点，以使高性能边缘节点通过开设数量为理论实例数的实例对接收到的流量进行处理；

接收高性能边缘计算节点返回的流量处理结果。

在本实施例的一些可选的实现方式中，用于调整实例数的装置500还可以包括：

掉线处理单元，被配置成响应于当前边缘计算节点掉线，将发送给当前边缘计算节点的流量的目的地址修改为高性能边缘计算节点，以使高性能边缘计算节点直接返回流量处理结果。

在本实施例的一些可选的实现方式中，理论实例数确定单元502可以进一步被配置成：

在预先记录有各性能指标与各实例数之间对应关系的对应表中，查询与实际性能指标对应的理论实例数。

在本实施例的一些可选的实现方式中，该实际性能指标包括以下至少一项：流量大小、等待队列长度、CPU使用率、内存使用率、实例并发数。

本实施例作为对应于上述方法实施例的装置实施例存在，为满足开设理论实例数的实例来处理对应的业务负载，本申请提供的用于调整实例数的装置针对自身不具有足够的实例增开能力的情况，提供了一种通过请求其它具有实例增开能力的其它边缘计算节点来协同开设的方案，充分利用存在实例增开能力的边缘计算节点来满足当前边缘计算节点超负荷的业务负载，从而更快、更高效的完成相应业务负载的处理。

根据本申请的实施例，本申请还提供了一种电子设备和一种计算机可读存储介质。

图6示出了一种适于用来实现本申请实施例的用于调整实例数的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图6所示，该电子设备包括：一个或多个处理器601、存储器602，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器***)。图6中以一个处理器601为例。

存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中，存储器存储有可由至少一个处理器执行的指令，以使至少一个处理器执行本申请所提供的用于调整实例数的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的用于调整实例数的方法。

存储器602作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的用于调整实例数的方法对应的程序指令/模块(例如，附图5所示的实际性能指标获取单元501、理论实例数确定单元502、实例增开协同单元503)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的用于调整实例数的方法。

存储器602可以包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需要的应用程序；存储数据区可存储该电子设备在执行用于调整实例数的方法所创建的各类数据等。此外，存储器602可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器602可选包括相对于处理器601远程设置的存储器，这些远程存储器可以通过网络连接至适用于执行用于调整实例数的方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

适用于执行用于调整实例数的方法的电子设备还可以包括：输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接，图6中以通过总线连接为例。

输入装置603可接收输入的数字或字符信息，以及产生适用于执行用于调整实例数的方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

此处描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的***和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大，业务扩展性弱的缺陷

为满足开设理论实例数的实例来处理对应的业务负载，本申请针对自身不具有足够的实例增开能力的情况，提供了一种通过请求其它具有实例增开能力的其它边缘计算节点来协同开设的方案，充分利用存在实例增开能力的边缘计算节点来满足当前边缘计算节点超负荷的业务负载，从而更快、更高效的完成相应业务负载的处理。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (11)

1.一种用于调整实例数的方法，包括：

获取当前时间窗口的包括流量大小、等待队列长度、CPU使用率、内存使用率以及实例并发数中至少一项在内的实际性能指标；

在预先记录有各性能指标与各实例数之间对应关系的对应表中，查询与所述实际性能指标对应的理论实例数；

响应于所述理论实例数大于当前边缘计算节点的实例开设上限时，请求具有实例增开能力的其它边缘计算节点共同开设总数为所述理论实例数的实例；其中，不同的边缘计算节点因性能差异具有不同的实例开设上限。

2.根据权利要求1所述的方法，其中，所述请求具有实例增开能力的其它边缘计算节点共同开设总数为所述理论实例数的实例，包括：

根据所述理论实例数和所述实例开设上限，计算得到第一差值；

广播包含所述第一差值的实例增开协同请求，以使接收到所述实例增开协同请求的其它边缘计算节点在确认自身具有与所述第一差值对应的实例增开能力时返回同意开响应；

根据接收到的同意增开响应，将与所述第一差值对应的实例数所处理的流量转发给发来所述同意增开响应的边缘计算节点；

接收发来所述同意增开响应的边缘计算节点返回的流量处理结果。

3.根据权利要求1所述的方法，其中，所述请求具有实例增开能力的其它边缘计算节点共同开设总数为所述理论实例数的实例，包括：

根据所述理论实例数和所述实例开设上限，计算得到第二差值；

响应于所述第二差值大于预设差值且存在拥有大于所述理论实例数的实例开设能力的高性能边缘计算节点，将发送给所述当前边缘计算节点的流量全部转发给所述高性能边缘计算节点，以使所述高性能边缘节点通过开设数量为所述理论实例数的实例对接收到的流量进行处理；

接收所述高性能边缘计算节点返回的流量处理结果。

4.根据权利要求3所述的方法，还包括：

响应于所述当前边缘计算节点掉线，将发送给所述当前边缘计算节点的流量的目的地址修改为所述高性能边缘计算节点，以使所述高性能边缘计算节点直接返回所述流量处理结果。

5.一种用于调整实例数的装置，包括：

实际性能指标获取单元，被配置成获取当前时间窗口的包括流量大小、等待队列长度、CPU使用率、内存使用率以及实例并发数中至少一项在内的实际性能指标；

理论实例数确定单元，被配置成在预先记录有各性能指标与各实例数之间对应关系的对应表中，查询与所述实际性能指标对应的理论实例数；

实例增开协同单元，被配置成响应于所述理论实例数大于当前边缘计算节点的实例开设上限时，请求具有实例增开能力的其它边缘计算节点共同开设总数为所述理论实例数的实例；其中，不同的边缘计算节点因性能差异具有不同的实例开设上限。

6.根据权利要求5所述的装置，其中，所述实例增开协同单元进一步被配置成：

根据所述理论实例数和所述实例开设上限，计算得到第一差值；

广播包含所述第一差值的实例增开协同请求，以使接收到所述实例增开协同请求的其它边缘计算节点在确认自身具有与所述第一差值对应的实例增开能力时返回同意开响应；

根据接收到的同意增开响应，将与所述第一差值对应的实例数所处理的流量转发给发来所述同意增开响应的边缘计算节点；

接收发来所述同意增开响应的边缘计算节点返回的流量处理结果。

7.根据权利要求5所述的装置，其中，所述实例增开协同单元进一步被配置成：

根据所述理论实例数和所述实例开设上限，计算得到第二差值；

响应于所述第二差值大于预设差值且存在拥有大于所述理论实例数的实例开设能力的高性能边缘计算节点，将发送给所述当前边缘计算节点的流量全部转发给所述高性能边缘计算节点，以使所述高性能边缘节点通过开设数量为所述理论实例数的实例对接收到的流量进行处理；

接收所述高性能边缘计算节点返回的流量处理结果。

8.根据权利要求7所述的装置，还包括：

掉线处理单元，被配置成响应于所述当前边缘计算节点掉线，将发送给所述当前边缘计算节点的流量的目的地址修改为所述高性能边缘计算节点，以使所述高性能边缘计算节点直接返回所述流量处理结果。

9.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-4中任一项所述的用于调整实例数的方法。

10.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-4中任一项所述的用于调整实例数的方法。

11.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-4中任一项所述的用于调整实例数的方法。