CN115052033B - 一种智能工厂基于资源共享的微服务有效容器化部署方法 - Google Patents

Abstract

本发明公开了一种智能工厂基于资源共享的微服务有效容器化部署方法，涉及智能制造领域，本发明基于微服务的分层结构和微服务链建立***的镜像拉取延迟模型和通讯开销模型，将优化问题建模为整数二次规划问题并可以通过商业求解器进行求解。本发明通过基于资源共享的微服务部署方案，可以达到降低镜像拉取延迟和通讯开销从而提高微服务响应效率的目的。

Description

一种智能工厂基于资源共享的微服务有效容器化部署方法

技术领域

本发明涉及智能制造领域，尤其涉及一种智能工厂基于资源共享的微服务有效容器化部署方法。

背景技术

随着智能制造和柔性生产的高速发展，工业生产的灵活性大大增强。这就要求工业软件能够根据订单的变化迅速进行生产工序的重新分配与调整，对工业软件的灵活性、扩展性提出了更高的要求。传统的工业软件采用单体式服务架构，服务内部的高耦合性和高占用率使得整个***具有较高的复杂度，其扩展性、稳定性和容错性都难以满足智能制造的要求，因此基于微服务的工业软件架构被人们广泛关注。通过微服务架构，一个完整的服务可以按照业务和功能需求拆分成多个松散耦合的微服务，相互协作完成生产任务。不同微服务之间逻辑独立，具备高度的灵活性、可扩展性和容错性，可以很好地适应智能制造的要求，满足生产定制化的需要。

智能制造中存在大量计算密集型生产任务，为了满足计算密集型生产任务对实时性和服务效率的高要求，面向边缘计算的微服务平台正在兴起。边缘计算是一种新型计算范式，通过部署在设备近端的小型边缘服务器提供低延迟的计算服务，可以充分利用终端设备、边缘节点和云服务器的计算资源。目前，以Docker为代表的容器技术以及谷歌开发的容器编排工具Kubernetes正在成为边缘平台上微服务部署和维护的主流解决方案。通过容器编排工具，每一个微服务都可以被打包成一个Docker镜像，根据服务请求和部署策略部署到边缘服务器。

在微服务容器化部署的过程中，如何提高服务效率使得部署的微服务能够迅速启动、运行并得出计算结果是至关重要的问题。服务效率主要受两个方面影响，一是微服务的启动时间，太长的微服务启动时间会使服务响应的速度变得缓慢；二是微服务间的通讯开销，输入数据、计算结果的传输会导致传输时延从而影响服务效率。

微服务的启动时间主要取决于Docker镜像的拉取延迟。Docker镜像一般包括运行时工具、***工具和***依赖项，通过不同的镜像层存储在云中。在本地需要提供服务时，边缘服务器首先从云端拉取包含所有必需层的非本地容器镜像，并将其部署在边缘服务器上。由于网络带宽有限，因此镜像拉取会产生相应的下行链路延迟，延迟取决于拉取的镜像大小和链路带宽。一项针对微服务镜像的综合研究表明，带宽为100Mbps时，单个镜像的平均启动时间约为20.7秒，而平均镜像拉取延迟约为15.8秒，占平均启动时间的76.6％。镜像拉取延迟已经成为影响容器启动时间的不可忽视的因素，进而影响服务响应的效率。

另一方面，微服务的通讯开销则取决于微服务间的通讯数据量。由于生产的连续性，工业应用程序可能由多个部署在一台或多台边缘服务器上的微服务先后配合共同完成。例如，半导体制造的设备故障检测(Equipment Failure Detection,EFD)功能可以由六个输入输出相互连接的微服务进行实现，包括源数据访问、特征提取、基于k近邻(k-Nearest Neighbor,kNN)聚类的学习服务、XGBoost、支持向量机和结果聚合服务。这些微服务可以称为微服务链，位于同一条微服务链上的微服务之间会进行频繁的信息交互。例如，在设备故障检测中，获取的源数据需要传输到特征提取微服务进行数据处理、处理完成的特征向量文件需要发送到下一个微服务进行聚类。微服务之间的大量数据传输会导致高传输时延，进而影响服务响应效率。

优化服务效率的一个有效方法是资源共享。虽然微服务的功能各不相同，但是微服务之间也存在着共性。通过对共性资源的重复利用，可以提升微服务的响应效率与服务质量。

资源共享的一个策略是层共享。尽管生产设备(机械臂、AGV、摄像头等)多种多样，但是同类型的微服务可以基于相同的基础层进行实现。例如，故障检测、人脸识别、质量检测的微服务镜像都可以通过Python公共基础层进行实现；生产数据保存、查询相关的微服务镜像都可以通过MySQL公共基础层进行实现。Docker原生支持层的共享，若部署在同一台边缘服务器上的微服务使用了相同的基础层，那么在进行镜像拉取时该层只会拉取一次而不会重复拉取，该层可以被所有微服务共享。通过共享相同的基础层，可以有效减少镜像拉取的延迟，从而提升微服务的启动速度和服务响应效率。

资源共享的另一个策略是链共享。在微服务链中，相邻的两个微服务之间存在频繁的信息传递，若两个微服务部署于不同的边缘服务器，那么信息需要通过多跳传输；若两个微服务部署于同一台服务器，那么通过共享同一片内存地址，需传递的信息可以直接由下一个微服务进行访问，不需要进行数据的多跳传输，进而减少由于数据传输产生的延迟、丢包等问题。

在以上两种资源共享方案中，层共享会将不同微服务链上的同类型微服务部署在一起以便于重复利用相同的基础层，链共享则倾向于将同一条微服务链上的微服务部署在一起，通过共享内存减少数据传输。然而，由于边缘服务器的资源受限，微服务不可能都部署在同一台边缘服务器。

针对微服务间的资源共享问题，微服务的部署主要面临以下两个困难。1)如何对微服务镜像的分层结构进行建模从而准确描述出微服务镜像和容器层之间的关系。2)如何描述微服务的链式结构和微服务间的通讯数据量。3)如何同时考虑层共享和链共享建立优化问题，并基于相应的求解方法实现最佳的资源共享权衡，从而提高服务响应的效率。

因此，本领域的技术人员致力于开发一种最佳的微服务部署策略来进行层共享和链共享之间的权衡。

发明内容

有鉴于现有技术的上述缺陷，本发明所要解决的技术问题是如何提高生产过程中的服务响应速率。为实现上述目的，本发明提供了一种智能工厂基于资源共享的微服务有效容器化部署方法，其特征在于，基于微服务的分层结构和微服务链建立***的镜像拉取延迟模型和通讯开销模型，将优化问题构建为整数二次规划问题并通过商业求解器进行求解。

进一步地，所述方法包括以下步骤：

步骤1、***建模，针对智能制造***，进行详细的***建模以描述镜像层、所述微服务链与服务响应效率之间的关系；

步骤2、构建整数二次规划问题进行镜像拉取延迟和通讯开销的优化；

步骤3、使用求解器进行求解得出最优的部署策略；

步骤4、使用求得的部署策略进行微服务部署。

进一步地，所述步骤1还包括以下步骤：

步骤1.1、边缘服务器的建模；

步骤1.2、微服务镜像及镜像层的建模；

步骤1.3、数据传输和多跳模型的建模；

步骤1.4、所述微服务链的建模。

进一步地，所述步骤1.1中，智能制造***中包含

台所述边缘服务器，以及一台部署在远端的云服务器用于储存微服务镜像；每台所述边缘服务器上都有有限的计算、存储资源，可以部署一定数量的微服务；所述边缘服务器n的计算和存储资源分别表示为

和

所述云服务器和所述边缘服务器n之间的带宽是

进一步地，所述步骤1.2中，所有所述微服务镜像都存储在云服务器的微服务镜像注册表中，由所述边缘服务器根据部署的微服务进行拉取；每个完整的所述微服务镜像都由可共享的基础层和不可共享的层组成；将所有的层用L＝{1,2,···L}来表示，

表示第

层的大小；这样，每一个微服务都可以由

中的一层或多层组成，可以用E^kil∈{0,1}表示ms^ki是否包含第l层。

进一步地，所述步骤1.3中，每台服务器会接收到不同的服务请求与数据，若此时服务器上部署有预期的微服务，服务请求就可以直接被处理，若服务器上没有部署预期的微服务，那么请求和数据就需要通过多跳传输到具有预期微服务的另一台边缘服务器；由于服务器之间地理位置不同，不同服务器之间通讯的多跳次数也存在差异，定义D_nn′为将请求或数据从服务器n传输到服务器n′的多跳次数，用一个矩阵D来表示所有服务器之间的多跳连接；

其中，

进一步地，所述步骤1.4中，将所述微服务链建模为有向加权无环图；每两个微服务ms^ki和ms^kj之间都用交互权重

来表示两个微服务之间的通讯流量的大小；将交互图写为矩阵的形式，对于应用程序k，其交互矩阵定义为

其中，只有位于所述微服务链上的

有具体的数值，对于不位于所述微服务链上的

基于所述交互图，就可以进行通信开销的计算；如果一条所述微服务链上相邻的两个微服务部署在同一台所述边缘服务器上，由于它们可以共享硬件资源，需要交互的数据可以通过内存直接访问，不需要进行服务器之间的多跳数据传输；如果两个微服务部署在不同的服务器上，那么就需要通过服务器之间的通信链路进行多跳传输。

进一步地，所述步骤2还包括以下步骤：

步骤2.1、定义优化变量；为了表示微服务的部署，定义

表示ms^ki的部署情况，

代表该微服务被部署在了所述边缘服务器n；由于微服务的分层结构，一旦一个微服务被部署在所述边缘服务器n，该所述微服务镜像所包含的所有层都需要存在于服务器n；用变量

来表示微服务层的下载情况，

表示第l层需被下载到所述边缘服务器n；

步骤2.2、构建目标函数

其中

S＝[S¹,…,S^L]^T，

x＝[(x¹)^T,…,(x^K)^T]^T，

⊙定义为两个矩阵的哈达玛积；Md为微服务的镜像拉取延迟，x^TWx为微服务间的通讯开销，θ为权重因子，用于下载延迟和通信数据量之间的权衡；

步骤2.3、构建微服务部署约束Qx＝b，该约束保证每个微服务只能被部署在一台服务器且必须被部署，其中

q＝[1,1,...,1]_1×N，

步骤2.4、构建两个优化变量之间的约束；由于层共享的存在，如果在同一台服务器上部署的微服务可以共享相同的基础层，那么该基础层只需要下载一次；因此，

和

需要满足以下约束：

其中Z是一个大于1的任意大的常数，Y＝[Y₁,…,Y_N]^T，

其中

其第n位为1

其第l位为1

E^ki＝[E^ki1,…,E^kiL]^T；

步骤2.5、构建资源约束；所有所述微服务镜像层占用的存储空间不能超过服务器的最大存储，约束构建为

Fd≤C^S，其中

S＝[S¹,…,S^L]^T，

所有微服务请求的计算资源不能超过服务器的最大计算能力，约束构建为

Gx≤C^C，其中G＝[G₁,…,G_N]^T，

步骤2.6、构建变量约束，优化变量都为二元变量，约束构建为

进一步地，在步骤3中，经过所述步骤2得出优化问题的表达为

s.t.Qx＝b

Fd≤C^S

Gx≤C^C

该问题为整数二次规划问题，直接输入到商用求解器Gurobi里求得数值解。

进一步地，在所述步骤4中，使用所述步骤3求得的x,d的数值解即为最优的平衡镜像拉取延迟与通讯开销的微服务部署策略，下一步，进行工程部署。

本发明具有以下技术效果：

1.本发明同时考虑了微服务镜像的分层结构和微服务间的链式结构，建立了最小化镜像拉取延迟和通讯开销的整数二次规划问题，从而可以得出最优的微服务部署方案以提高服务响应效率

2.相近的技术要么是使用迭代近似的算法，需要求解多次优化问题，要么是使用神经网络、强化学习之类的算法，结构复杂，本发明只需要获得***结构相关的参数，构建出参数矩阵求解一个整数二次规划问题即可得到部署方案，简单高效。

以下将结合附图对本发明的构思、具体结构及产生的技术效果作进一步说明，以充分地了解本发明的目的、特征和效果。

附图说明

图1是本发明的一个较佳实施例的算法流程图。

具体实施方式

以下参考说明书附图介绍本发明的多个优选实施例，使其技术内容更加清楚和便于理解。本发明可以通过许多不同形式的实施例来得以体现，本发明的保护范围并非仅限于文中提到的实施例。

在附图中，结构相同的部件以相同数字标号表示，各处结构或功能相似的组件以相似数字标号表示。附图所示的每一组件的尺寸和厚度是任意示出的，本发明并没有限定每个组件的尺寸和厚度。为了使图示更清晰，附图中有些地方适当夸大了部件的厚度。

如图1所示，为了优化生产过程中的服务响应效率，本发明尝试提出一种面向边缘计算场景的资源共享微服务部署方案。基于微服务的分层结构和微服务链建立***的镜像拉取延迟模型和通讯开销模型，通过模型重构将优化问题转化为整数二次规划问题并通过商业求解器进行求解。最终的微服务部署方案可以达到降低镜像拉取延迟和通讯开销从而提高微服务响应效率的目的。

面向边缘计算场景的资源共享微服务部署方案包括以下步骤：

步骤一：***建模，针对智能制造***，进行详细的***建模以描述镜像层、微服务链与服务响应效率之间的关系。主要包括如下步骤：

S1：边缘服务器的建模。智能制造***中包含

台边缘服务器，以及一台部署在远端的云服务器用于储存微服务镜像。每台边缘服务器上都有有限的计算、存储资源，可以部署一定数量的微服务。边缘服务器n的计算和存储资源分别表示为

和

云服务器和边缘服务器n之间的带宽是

S2：微服务镜像及镜像层的建模。所有微服务镜像都存储在云服务器的微服务镜像注册表中，由边缘服务器根据部署的微服务进行拉取。每个完整的微服务镜像都由一些可共享的基础层和一些不可共享的层组成。不同的层的大小是不同的，我们将所有的层用

来表示，

表示第

层的大小。这样，每一个微服务都可以由

中的一层或多层组成，可以用E^kil∈{0,1}表示ms^ki是否包含第l层。

S3：数据传输和多跳模型的建模。每台服务器会接收到不同的服务请求与数据，若此时服务器上部署有预期的微服务，服务请求就可以直接被处理，若服务器上没有部署预期的微服务，那么请求和数据就需要通过多跳传输到具有预期微服务的另一台边缘服务器。由于服务器之间地理位置不同，不同服务器之间通讯的多跳次数也存在差异，我们定义D_nn′为将请求或数据从服务器n传输到服务器n′的多跳次数，该多跳次数可以通过这两台服务器之间的最短通讯路径得到。显然D_nn′＝D_n′n,D_nn＝0，我们可以用一个矩阵D来表示所有服务器之间的多跳连接。

S4:微服务链的建模。通常，微服务链可以被建模为有向无环图。然而，由于微服务之间存在通讯交互，为了更加清晰地表示出通讯数据对微服务部署的影响，可以将微服务链建模为有向加权无环图。每两个微服务ms^ki和ms^kj之间都用交互权重

来表示两个微服务之间的通讯流量的大小。为了便于理解，交互图可以写为矩阵的形式，对于应用程序k，其交互矩阵定义为

其中，只有位于微服务链上的

有具体的数值，对于不位于微服务链上的

基于交互图，就可以进行通信开销的计算。如果一条微服务链上相邻的两个微服务部署在同一台边缘服务器上，由于它们可以共享硬件资源，需要交互的数据可以通过内存直接访问，不需要进行服务器之间的多跳数据传输。如果两个微服务部署在不同的服务器上，那么就需要通过服务器之间的通信链路进行多跳传输。

步骤二：构建整数二次规划问题进行镜像拉取延迟和通讯开销的优化。本发明针对步骤一中完成的***建模进行整数二次规划问题的构造并给出相应的约束条件。主要包括如下步骤：

S1：定义优化变量。为了表示微服务的部署，我们定义

表示ms^ki的部署情况，

代表该微服务被部署在了边缘服务器n。由于微服务的分层结构，一旦一个微服务被部署在边缘服务器n，该微服务镜像所包含的所有层都需要存在于服务器n。我们用变量

来表示微服务层的下载情况，

表示第l层需被下载到边缘服务器n。

S2：构建目标函数

其中

S＝[S¹,…,S^L]^T，

x＝[(x¹)^T,…,(x^K)^T]^T，

⊙定义为两个矩阵的哈达玛积。Md为微服务的镜像拉取延迟，x^TWx为微服务间的通讯开销，θ为权重因子，用于下载延迟和通信数据量之间的权衡。

S3：构建微服务部署约束Qx＝b，该约束保证每个微服务只能被部署在一台服务器且必须被部署，其中

q＝[1,1,...,1]_1×N，

S4：构建两个优化变量之间的约束。由于层共享的存在，如果在同一台服务器上部署的微服务可以共享相同的基础层，那么该基础层只需要下载一次。因此，

和

需要满足以下约束：

其中Z是一个大于1的任意大的常数，Y＝[Y₁,…,Y_N]^T，

其中

其第n位为1

其第l位为1

E^ki＝[E^ki1,…,E^kiL]^T

S5：构建资源约束。所有微服务镜像层占用的存储空间不能超过服务器的最大存储，约束构建为

Fd≤C^S，其中

S＝[S¹,…,S^L]^T，

所有微服务请求的计算资源不能超过服务器的最大计算能力，约束构建为Gx≤C^C，其中G＝[G₁,…,G_N]^T，

S6:构建变量约束，优化变量都为二元变量，约束构建为

步骤三：使用求解器进行求解得出最优的部署策略。经过步骤二可以得出优化问题的表达为

s.t.Qx＝b

Fd≤C^S

Gx≤C^C

该问题为整数二次规划问题，可以直接输入到商用求解器Gurobi里面得到数值解。

步骤四：使用求得的部署策略进行微服务部署。使用步骤三求得的x,d的数值解即为最优的平衡镜像拉取延迟与通讯开销的微服务部署策略，可以进行工程部署。

以上详细描述了本发明的较佳具体实施例。应当理解，本领域的普通技术无需创造性劳动就可以根据本发明的构思作出诸多修改和变化。因此，凡本技术领域中技术人员依本发明的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (2)

1.一种智能工厂基于资源共享的微服务有效容器化部署方法，其特征在于，基于微服务的分层结构和微服务链建立***的镜像拉取延迟模型和通讯开销模型，将优化问题建模为整数二次规划问题并通过商业求解器进行求解；

所述方法包括以下步骤：

步骤1、***建模，针对智能制造***，进行详细的***建模以描述镜像层、所述微服务链与服务响应效率之间的关系；

步骤2、构建整数二次规划问题进行镜像拉取延迟和通讯开销的优化；

步骤3、使用求解器进行求解得出最优的部署策略；

步骤4、使用求得的部署策略进行微服务部署；

其中，所述步骤1还包括以下步骤：

步骤1.1、边缘服务器的建模；

步骤1.2、微服务镜像及镜像层的建模；

步骤1.3、数据传输和多跳模型的建模；

步骤1.4、所述微服务链的建模；

所述步骤1.1中，智能制造***中包含

台所述边缘服务器，以及一台部署在远端的云服务器用于储存微服务镜像；每台所述边缘服务器上都有有限的计算、存储资源，部署一定数量的微服务；所述边缘服务器n的计算和存储资源分别表示为

和

所述云服务器和所述边缘服务器n之间的带宽是

所述步骤1.2中，所有所述微服务镜像都存储在云服务器的微服务镜像注册表中，由所述边缘服务器根据部署的微服务进行拉取；每个完整的所述微服务镜像都由可共享的基础层和不可共享的层组成；将所有的层用

来表示，

表示第l∈L层的大小；这样，每一个微服务都由

中的一层或多层组成，用E^kil∈{0,1}表示ms^ki是否包含第l层；

所述步骤1.3中，每台服务器会接收到不同的服务请求与数据，若此时服务器上部署有预期的微服务，服务请求直接被处理，若服务器上没有部署预期的微服务，那么请求和数据就需要通过多跳传输到具有预期微服务的另一台边缘服务器；由于服务器之间地理位置不同，不同服务器之间通讯的多跳次数也存在差异，定义D_nn′为将请求或数据从服务器n传输到服务器n'的多跳次数，用一个矩阵D来表示所有服务器之间的多跳连接；

其中，

所述步骤1.4中，将所述微服务链建模为有向加权无环图；每两个微服务ms^ki和ms^kj之间都用交互权重

来表示两个微服务之间的通讯流量的大小；将交互图写为矩阵的形式，对于应用程序k，其交互矩阵定义为

其中，只有位于所述微服务链上的

有具体的数值，对于不位于所述微服务链上的

基于所述交互图，进行通信开销的计算；如果一条所述微服务链上相邻的两个微服务部署在同一台所述边缘服务器上，由于它们共享硬件资源，需要交互的数据通过内存直接访问，不需要进行服务器之间的多跳数据传输；如果两个微服务部署在不同的服务器上，那么就需要通过服务器之间的通信链路进行多跳传输；

所述步骤2还包括以下步骤：

步骤2.1、定义优化变量；为了表示微服务的部署，定义

表示ms^ki的部署情况，

代表该微服务被部署在了所述边缘服务器n；由于微服务的分层结构，一旦一个微服务被部署在所述边缘服务器n，该所述微服务镜像所包含的所有层都需要存在于服务器n；用变量

来表示微服务层的下载情况，

表示第l层需被下载到所述边缘服务器n；

步骤2.2、构建目标函数

其中

S＝[S¹,…,S^L]^T，

x＝[(x¹)^T,…,(x^K)^T]^T，

⊙定义为两个矩阵的哈达玛积；Md为微服务的镜像拉取延迟，x^TWx为微服务间的通讯开销，θ为权重因子，用于下载延迟和通信数据量之间的权衡；

步骤2.3、构建微服务部署约束Qx＝b，该约束保证每个微服务只能被部署在一台服务器且必须被部署，其中

步骤2.4、构建两个优化变量之间的约束；由于层共享的存在，如果在同一台服务器上部署的微服务共享相同的基础层，那么该基础层只需要下载一次；因此，

和

需要满足以下约束：

其中Z是一个大于1的任意大的常数，Y＝[Y₁,…,Y_N]^T，

其中

其第n位为1

其第l位为1

E^ki＝[E^ki1,...,E^kiL]^T；

步骤2.5、构建资源约束；所有所述微服务镜像层占用的存储空间不能超过服务器的最大存储，约束构建为

Fd≤C^S，其中

S＝[S¹,…,S^L]^T，

所有微服务请求的计算资源不能超过服务器的最大计算能力，约束构建为

Gx≤C^C，其中G＝[G₁,…,G_N]^T，

步骤2.6、构建变量约束，优化变量都为二元变量，约束构建为

在所述步骤3中，经过所述步骤2得出优化问题的表达为

s.t.Qx＝b

Fd≤C^S

Gx≤C^C

该问题为整数二次规划问题，直接输入到商用求解器Gurobi里求得数值解。

2.如权利要求1所述的智能工厂基于资源共享的微服务有效容器化部署方法，其特征在于，在所述步骤4中，使用所述步骤3求得的x,d的数值解即为最优的平衡镜像拉取延迟与通讯开销的微服务部署策略，下一步，进行工程部署。

Images