CN107995039B - 面向云软件服务的资源自学习与自适应分配方法 - Google Patents

Abstract

本发明公开了一种面向云软件服务的资源自学***上维护QoS值，提高资源利用率并有较好的性价比。

Description

面向云软件服务的资源自学习与自适应分配方法

技术领域

本发明涉及软件工程云计算技术领域，具体涉及一种面向云软件服务的资源自学习与自适应分配方法。

背景技术

云计算正在蓬勃发展，大量基于云的软件服务显而易见。为了在不断变化的工作负载下提供可扩展性和弹性，云服务提供商通常能够在共享基础架构中提供配置软硬件资源的能力。云的弹性导致了我们管理基于云的软件服务方式的转变。然而，在设计初期，软件工程师和云工程师难以预测这些基于云的软件服务的工作负载动态变化和运行时需求。事实意味着工程师为软件服务分配适当的资源来保证良好的服务质量以及低资源成本变得越来越复杂。

软件自适应应运而生，以此来应对当今软件***的复杂性。这样的自适应***可以配置和重新配置自己，增强其功能，不断优化自身，保护自己并恢复自身，同时保持大部分复杂性隐藏于用户和管理员身上。在基于云的软件服务的资源分配中需要自适应能力，因为工程师的干预是困难的，甚至是不可能的。传统的自适应资源分配方法是策略驱动的，由专家设计。然而，软件服务在工作负载类型和资源偏好上具有不同的特征。因此，云工程师通常必须为每个***制定单独的规则集，以便有效地分配资源，从而导致高管理成本和实施复杂性。

机器学习,可以让计算机在没有明确程序拥有自我学习的能力,意味着它能让***从数据中学习,并在许多领域取得了巨大成就所需的自主学习能力是自适应资源分配,因为自适应管理是基于知识、经验和规则,这是很难获得的。然而，仍然有两个问题需要处理:首先，资源配置有大量的指标和参数。要在机器学习的基础上，很难界定资源配置的专家知识，从庞大的历史数据中训练合适的模型；第二，在为软件服务配置资源时，服务质量和资源成本低都需要得到保证。基于专家知识，很难在线上对资源调度做出决策。

当运行时环境发生变化时，软件服务有不同的QoS值。根据起始代理的性质，环境更改可分为外部或内部变化。外部变化由外部元素发起，而内部变化则由管理***应用。

表1

如表1所示，在这个问题领域中有三个主要元素，包括外部变化、内部变化和对象。外部变化是指具有不同数量和类型的工作负载。内部变化是指分配的资源，它们由几个在计算能力和价格上有差异的虚拟机组成。对象是指由适应度函数计算的评估值，它在QoS值和资源成本之间进行权衡。QoS可以包括响应时间、数据吞吐量等目标，其值可以通过SLA契约来计算。资源成本(成本)主要来自于租赁成本(CostL)和虚拟机的停止成本(CostD)，Cost＝Cost_L+Cost_D。因此，自适应***的目标是自动为软件服务分配适当的资源，保证服务质量和资源的低成本。

发明内容

针对上述现有技术的不足，本发明提出一种面向云软件服务的资源自学***上维护QoS值，提高资源利用率并有较好的性价比。为实现上述目的，本发明的技术方案是：一种面向云软件服务的资源自学习与自适应分配方法，包括：

步骤1：建立软件服务的QoS模型，使用历史数据的数据集作为学习数据通过机器学习算法训练QoS模型：

Y＝Q(X) (1)

其中，输入矩阵X包括工作负载的数量x_i,0，不同类型的任务工作量的比例(x_i,1,x_i,2,…,x_i,m)，分配的资源(x_i,m+1,x_i,m+2,…,x_i,m+n)，其中x_i,1+x_i,2+…+x_i,m＝1，x_i,m+s表示第s类虚拟机的数量，s＝1,2,...，n，输出矩阵Y是QoS的预测值y_i；

步骤2：构造软件服务资源分配计划的适应度函数：

其中,fit是适应度值，Cost_L是虚拟机的租赁成本，Cost_D是虚拟机的停止成本，r₁、r₂是权重，根据不同***的需求设置；

步骤3：基于遗传算法搜索最优的资源分配计划，进行资源的在线自动分配决策。进一步地，所述机器学习算法是非线性回归、支持向量机或分类回归树方法。进一步地，所述步骤3具体包括：

步骤31：对资源分配计划进行二进制编码，每条染色体代表一种资源分配计划，初始化参数值，包括种群大小、最大迭代次数和染色体数量；

假设虚拟机有n种类型,每种类型虚拟机数量的编码长度为v，则每种类型虚拟机的数量范围是[0,2^V-1]，第t次迭代中的第i个染色体定义如下：

染色体中第s个基因代表第s类虚拟机的数量，s＝1,2,…,n,使用二进制编码方法描述如下：

步骤32：根据公式(2)计算每条染色体的适应度值；

步骤33：根据相对概率选择适应度值低的染色体，并对其进行随机突变和交叉操作来更新种群，相对概率定义如下：

步骤34：计算新种群每个染色体的适应度值；

步骤35：重复步骤33-34，直到满足结束循环条件；

步骤36：将最终得到的新种群中适应度值最低的染色体作为最优解，并且针对该染色体进行解码操作得到虚拟机的类型和对应的数量，该染色体即为最优的资源分配计划。

进一步地，所述随机突变指在染色体中随机选择一个基因位置，然后将其属性变异为一个新值，即0变1，或1变0。

进一步地，所述交叉操作指对两条母染色体交换一段基因来产生子染色体。

与现有技术相比，本发明具有有益效果：

(1)本发明在训练Qos预测模型时大大减少了搜索空间；

(2)本发明可以在大多数资源分配情况下使用，因为QoS模型和适应度函数可以根据不同的需求进行调整；

(3)本发明可以独立于工作负载变化，即预测工作负载和独立分配资源，因此，本发明能够与工作负载预测模型进行交互；

(4)本发明在运行环境变化的情况下能够在合理的水平上维护Qos值的稳定，能够提高资源利用率，得到更高的性价比。

附图说明

图1是自学习和自适应的资源配置框架；

图2是本发明一种染色体的编码方案；

图3是本发明基因突变操作示意图；

图4是本发明基因交叉操作示意图；

图5是本发明实施例中QoS映射公式；

图6是本发明实施例中平均工作负载的变化示意图；

图7(a)是本发明实施例中Swing＝200时工作负载变化示意图；

图7(b)是本发明实施例中Swing＝500时工作负载变化示意图；

图8(a)是本发明实施例中Swing＝200时软件服务的响应时间图；

图8(b)是本发明实施例中Swing＝200时软件服务的Qos值图；

图9(a)是本发明实施例中Swing＝500时软件服务的响应时间图；

图9(b)是本发明实施例中Swing＝500时软件服务的Qos值图；

图10(a)是本发明实施例中Swing＝200时CPU的消耗和使用率；

图10(b)是本发明实施例中Swing＝200时内存的消耗和使用率；

图11(a)是本发明实施例中Swing＝500时CPU的消耗和使用率；

图11(b)是本发明实施例中Swing＝500时内存的消耗和使用率。

具体实施方式

下面结合附图及实施例对本发明做进一步说明。

图1显示了自我学习和自适应资源配置的框架。主要有云资源模块、离线输入模块、在线自学模块、自适应管理模块四个模块。云资源模块提供了用于监视和控制云资源的api。离线输入模块描述了关于工作负载、虚拟机和适应度函数的基本信息。基于离线输入模块的信息，在线自学模块从历史数据中训练QoS模型。根据QoS模型，自适应管理模块使用遗传算法自动分配适当的软件服务资源。

本发明的一种面向云软件服务的资源自学习与自适应分配方法，包括：

步骤1：建立软件服务的QoS模型，使用历史数据的数据集作为学习数据通过机器学习算法训练QoS模型：

Y＝Q(X) (1)

其中，输入矩阵X包括工作负载的数量x_i,0，不同类型的任务工作量的比例(x_i,1,x_i,2,…,x_i,m)，分配的资源(x_i,m+1,x_i,m+2,…,x_i,m+n)，其中x_i,1+x_i,2+…+x_i,m＝1，x_i,m+s表示第s类虚拟机的数量，s＝1,2,...，n，输出矩阵Y是QoS的预测值y_i；历史数据的数据集如表2所示：

表2

所述机器学习算法是非线性回归、支持向量机或分类回归树方法。

对于非线性回归方法，建立回归方程如下所示：

平均平方误差被用作损失函数，通过最小二乘方法参数估计求解出上式中的矩阵W和参数b。

对于支持向量机(SVM)方法，设置超平面方程如下所示：

参数(u^T,v)通过高斯核进行特征空间的映射，其函数如下所示：

对于分类回归树(CART)方法，计算数据集D＝(X,Y)的纯度如下：

其中，p_k是数据集中第k个类别的比例，其中数据集可以分为r类；

在输入矩阵X的属性列中，属性att的Gini值计算函数如下：

基尼系数最小的一种被认为是最优的配分属性。

步骤2：构造软件服务资源分配计划的适应度函数：

其中,fit是适应度值，Cost_L是虚拟机的租赁成本，Cost_D是虚拟机的停止成本，r₁、r₂是权重，根据不同***的需求设置；y_i的值可以由QoS模型计算，虚拟机的成本可以通过合同来计算。因此，对于给定工作负载和分配的虚拟机，可以计算适应度函数值。

步骤3：基于遗传算法搜索最优的资源分配计划，进行资源的在线自动分配决策。所述步骤3具体包括：

步骤31：对资源分配计划进行二进制编码，每条染色体代表一种资源分配计划，初始化参数值，包括种群大小、最大迭代次数和染色体数量；

假设虚拟机有n种类型,每种类型虚拟机数量的编码长度为v，则每种类型虚拟机的数量范围是[0,2^V-1],，第t次迭代中的第i个染色体定义如下：

染色体中第s个基因代表第s类虚拟机的数量，s＝1,2,…,n,使用二进制编码方法描述如下：

染色体中每个基因的值可以从0到2^v-1不等。例如，图2显示了一个在云环境中使用六个VM类型的资源分配计划编码的染色体，假设每种类型的虚拟机的最大数量为7(即v＝3)，因此每个基因的值在[0,7]的范围内，该染色体描述了分配的资源包括3个vm1、5个vm2、5个vm3、5个vm4、6个vm5和7vm7。

步骤32：根据公式(7)计算每条染色体的适应度值；

步骤33：根据相对概率选择适应度值低的染色体，并对其进行随机突变和交叉操作来更新种群，相对概率定义如下：

步骤34：计算新种群每个染色体的适应度值；

步骤35：重复步骤33-34，直到满足结束循环条件；

步骤36：将最终得到的新种群中适应度值最低的染色体作为最优解，并且针对该染色体进行解码操作得到虚拟机的类型和对应的数量，该染色体即为最优的资源分配计划。

所述随机突变指在染色体中随机选择一个基因位置，然后将其属性变异为一个新值，即0变1，或1变0。如图3所示，基因“101”突变为“010”。

所述交叉操作指对两条母染色体交换一段基因来产生子染色体。如图4所示，“P1”和“P2”是两个父染色体。“s1”和“s2”代表两个子染色体,在图4中，基因的“010,101,101”与基因“P2”中的“011,100,110”交换。

通过RUBiS基准测试进行实验评估。RUBiS是一个仿照eBay.com的拍卖站点原型，通常用于评估应用服务器的性能可伸缩性。它提供了一个客户机，它可以模拟不同工作负载模式的用户行为。客户机的数量表示工作负载的数量。假设工作负载的数量通常在[0,3000]范围内，工作负载中有两种类型的任务。实验是在私有云中进行的，有三种类型的虚拟机，如表3所示。

表3

Property	Small	Medium	Large
				CPU	1core	1core	1core
内存	1G	2G	4G
				价钱	1.761RMB/hour	1.885RMB/hour	2.084RMB/hour

在本实施例中，QoS值主要由响应时间RT决定，它被映射到[0,1]的范围，如图5所示。

在本实施例中，定义适应度函数的权重如下：

收集两个星期的运行数据，并分别基于三种机器学***P，如下所示：

P＝P_r(QoS_actual-E≤QoS_predict≤QoS_actual+E) (12)

进行60组测试，结果显示在表4中，

表4

P	E＝0.1	E＝0.15
			NonlinearRegression	83.30％	86.70％
SVM	90.00％	96.70％
			CART	91.70％	95.00％

当QoS的允许误差设置为0.1时，基于支持向量机和决策树的QoS模型的置信水平均超过90％，当QoS的允许误差设置为0.15时，基于支持向量机和决策树的QoS模型的置信水平均超过95％。从***管理的角度来看，QoS模型的准确性是可以接受的。对于QoS模型，基于原始数据集进行模型训练，然后选择其中准确率高的模型作为适应度函数的因子。

为了评估基于遗传算法的在线决策方法，本发明方法与基于规则的方法进行了比较，表5描述了基于规则的方案。

表5

条件	操作
		Ucpu_ave<30％	关闭任意的虚拟机
Ucpu_ave>60％	启动任意类型的新VM

执行两个测试，模拟三个小时的工作量变化，如图6所示，工作负载平均和两个任务的比例分别每半小时变化一次，对于本发明方法的每个30分钟的时间段，在两个测试中的工作负载将会以一个带有不同swing值的正弦式的方式进行变化，如图7(a)图7(b)所示。

然后，根据工作负载变化，本发明方法和基于规则的方法被用于以自动化的方式为软件服务分配资源。Swing＝200时的资源分配方案如表6所示，Swing＝500时的资源分配方案如表7所示。图8(a)图8(b)和图9(a)图9(b)中描述了软件服务的响应时间和QoS值。图10(a)图10(b)和图11(a)图11(b)详细描述了CPU和内存的消耗和利用率。

表6

表7

如图8所示，当工作负载变化为带有swing值200的正弦样式时，本发明所选解决方案中的QoS值略低于基于规则的解决方案中的QoS值，本发明解决方案中QoS值的平均值大约是0.7，而基于规则的解决方案的值大约是0.78。然而，如图9所示，当工作负载变化为一个带有swing值500的正弦样式时，基于本发明解决方案中的QoS值略高于基于规则的解决方案，本发明解决方案中QoS值的平均值约为0.75，基于规则的解决方案的平均值约为0.71。因此，本发明解决方案和基于规则的QoS值之间没有太大的差异，而且本发明解决方案比基于规则的解决方案更加稳定。可以看到，本发明解决方案能够在合理的水平上维护QoS值。

如表6和表7所示，在保证QoS前提的条件下，本发明解决方案的资源成本远远低于基于规则的资源成本。有两个主要原因：一方面，尽管本发明解决方案的分配资源几乎少于基于规则的资源，但实际上使用两个解决方案的资源或多或少相同，如图10和图11所示。这意味着本发明解决方案的资源利用率几乎高于基于规则的解决方案。另一方面，三种类型的虚拟机具有不同的性价比，大的类型在这个实验中是最好的，如表3所示。本发明的方法倾向于使用大型的虚拟机，但基于规则的解决方案使用虚拟机是从三种类型中随机使用。可以看到，本发明的方法能够以更好的性能/价格比率提供合理的解决方案。

本发明虽然已以较佳实施例公开如上，但其并不是用来限定本发明，任何本领域技术人员在不脱离本发明的精神和范围内，都可以利用上述揭示的方法和技术内容对本发明技术方案做出可能的变动和修改，因此，凡是未脱离本发明技术方案的内容，依据本发明的技术实质对以上实施例所做的任何简单修改、等同变化及修饰，均属于本发明技术方案的保护范围。以上所述仅为本发明的较佳实施例，凡依本发明申请专利范围所做的均等变化与修饰，皆应属本发明的涵盖范围。

Claims (4)

1.一种面向云软件服务的资源自学习与自适应分配方法，其特征在于，包括：

步骤1：建立软件服务的QoS模型，使用历史数据的数据集作为学习数据通过机器学习算法训练QoS模型：

Y＝Q(X) (1)

其中，输入矩阵X包括工作负载的数量x_i,0，不同类型的任务工作量的比例(x_i,1,x_i,2,…,x_i,m)，分配的资源(x_i,m+1,x_i,m+2,…,x_i,m+n)，其中x_i,1+x_i,2+…+x_i,m＝1，x_i,m+s表示第s类虚拟机的数量，s＝1,2,...，n，输出矩阵Y是QoS的预测值y_i；

步骤2：构造软件服务资源分配计划的适应度函数：

其中,fit是适应度值，Cost_L是虚拟机的租赁成本，Cost_D是虚拟机的停止成本，r₁、r₂是权重，根据不同***的需求设置；

步骤3：基于遗传算法搜索最优的资源分配计划，进行资源的在线自动分配决策；其中，所述步骤3具体包括：

步骤31：对资源分配计划进行二进制编码，每条染色体代表一种资源分配计划，初始化参数值，包括种群大小、最大迭代次数和染色体数量；

假设虚拟机有n种类型，每种类型虚拟机数量的编码长度为v，则每种类型虚拟机的数量范围是[0,2^V-1]，第t次迭代中的第i个染色体定义如下：

染色体中第s个基因代表第s类虚拟机的数量，s＝1,2,…,n,使用二进制编码方法描述如下：

步骤32：根据公式(2)计算每条染色体的适应度值；

步骤33：根据相对概率选择适应度值低的染色体，并对其进行随机突变和交叉操作来更新种群，相对概率定义如下：

步骤34：计算新种群每个染色体的适应度值；

步骤35：重复步骤33-34，直到满足结束循环条件；

步骤36：将最终得到的新种群中适应度值最低的染色体作为最优解，并且针对该染色体进行解码操作得到虚拟机的类型和对应的数量，该染色体即为最优的资源分配计划。

2.根据权利要求1所述的资源自学习与自适应分配方法，其特征在于，所述机器学习算法是非线性回归、支持向量机或分类回归树方法。

3.根据权利要求1所述的资源自学习与自适应分配方法，其特征在于，所述随机突变指在染色体中随机选择一个基因位置，然后将其属性变异为一个新值，即0变1，或1变0。

4.根据权利要求1所述的资源自学习与自适应分配方法，其特征在于，所述交叉操作指对两条母染色体交换一段基因来产生子染色体。

Images