CN115248734B - 一种私有云多租户的资源配额自适应调节方法及装置 - Google Patents

Abstract

本发明公开了一种私有云多租户的资源配额自适应调节方法及装置。该装置主要包含资源使用率监控模块和资源配额管控模块，其中资源配额管控模块用于自适应调节资源配额，基于定时任务周期化地执行调节流程。该方法通过资源使用率监控数据计算各租户在上一周期内资源实际使用率结果，并基于预设的预期使用率调节阈值，对资源配额不合理的租户进行资源配额调节，相较于集群管理平台提供的资源配额设置功能，该方法能适应于租户群体规模、使用习惯、时间等因素的动态变化，避免不必要的集群扩容，轻量级地有效提升集群资源使用率。

Description

一种私有云多租户的资源配额自适应调节方法及装置

技术领域

本发明涉及计算机技术领域，尤其涉及一种私有云多租户的资源限额自适应调节装置。

背景技术

传统私有云通常采用阶段性部署的方式，扩缩容不如公有云弹性便捷，在扩容过程中，操作步骤复杂的工作项较多，通过人工编写脚本，执行命令等操作，效率低、风险大、缺乏审核机制。由此实现私有云平台当前资源利用率的最大化，避免不必要的扩缩容以及资源浪费是亟待解决的问题。当多个用户或团队共享具有固定节点数目的私有云集群时，避免有租户恶意占用过多资源，基于公平原则进行资源分配是管理员需要承担的职责。K8S(Kubernetes)、Yarn等应用容器化部署及管理平台都提供了相应的机制来支持多租户的资源分配，例如k8s提供了资源配额，通过 ResourceQuota 对象来定义，对每个命名空间的资源消耗总量提供限制。 它可以限制命名空间中某种类型的对象的总数目上限，也可以限制命令空间中的 Pod 可以使用的计算资源的总上限。但这类机制都通过人为设定阈值与参数的方式进行。而平台资源的需求随租户群体规模、使用习惯、时间等因素的变动发生着动态变化。该方式不仅依赖管理人员对租户下资源的观察经验进行调控、灵活度低，且作为对资源使用变化的被动响应，该方式并不具备主动调节的敏捷性，易造成资源浪费和业务过忙两种极端现象。

因此，目前亟需一种私有云多租户的资源限额自适应调节的方案。

发明内容

针对现有技术的不足，本发明提供了一种私有云多租户的资源限额自适应调节装置，解决了上述背景技术中存在的问题。

为实现以上目的，本发明通过以下技术方案予以实现：一种私有云多租户的资源配额自适应调节方法，包含以下步骤：

S1：资源配额管控模块基于私有云集群资源总额和按需分配的原则，设置各租户的初始化资源配额；

S2：资源使用率监控模块持续监控并按时间分片收集各租户的资源使用率数据，上报到资源配额管控模块；

S3：资源配额管控模块根据上一个周期内资源使用率数据和预期使用率的调节阈值周期性的对各租户资源配额进行自适应调节；

S4：进入下一个资源配额调节周期或者超出免扩容阈值后进行集群扩容；

S5：由定时任务控制，进入下一个资源配额调节周期，重复步骤S1到步骤S4。

作为优选，所述步骤S1中设置各租户的初始化资源配额，包括以下步骤：

S1.1：租户管理模块共享私有云资源池的所有租户管理，包括租户生命周期的管理；资源配额管控模块设定免扩容阈值、预期使用率、预期使用率的调节阈值；

S1.2：当私有云新增租户时，资源配额管控模块根据用户当前的资源需求在配额资源池中预划分该租户的配额池；若预划分该租户的配额池后，闲置配额池中资源配额仍大于免扩容阈值，则通过集群的资源配额设置接口完成资源分配；若闲置配额池中资源配额小于免扩容阈值，则触发一次整体的资源配额调节流程；在资源配额调节完成之后，重新进行上述的预划分计算；

作为优选，所述免扩容阈值包括正值和负值，若设置成正值，则允许集群中资源处于预留状态，预留状态即集群已分配的资源配额始终小于实际的资源总额；若设置成负值，则集群中资源处于超配状态，超配状态即集群已分配的资源配额可超出实际的资源总额。

作为优选，所述免扩容阈值按照资源类别做细粒度区分，针对不同的资源类型设置不同的免扩容阈值，任何一种资源类型的配额总额超出免扩容阈值，均触发集群扩容。

作为优选，所述步骤S2中资源使用率数据具有有效性和无效性，对于当前周期内新增的用户，其不具备一个调节周期内完整的采集数据，该数据是无效性的，针对无效性的监控数据，在后续调节流程中排除所对应的租户，不改变其资源配额。

作为优选，所述步骤S3中对各租户资源配额进行自适应调节，包含以下步骤：

S3.1：资源配额管控模块对上报的资源使用率数据进行分析和处理，得到各租户一个周期内的资源使用率结果，该结果作为资源配额调节算法的输入；

S3.2：向资源配额调节算法输入单个周期内各租户的所有类别资源的使用率结果、闲置配额池数据、预先设定的免扩容阈值以及预期使用率的调节阈值，经过计算输出得到各租户单个周期内的待调节资源配额；

S3.3：比较各租户的预期资源配额和实际资源配额，在差异超出调节阈值时，通过资源配额设置接口对集群资源池重新进行配额池划分。

作为优选，所述步骤S3.1中资源配额管控模块对上报的资源使用率数据进行分析和处理，包括比较设定的预期使用率和实际资源使用率的大小，在超出预期使用率的调节阈值时以预期使用率为基准重新计算合理的资源配额。

作为优选，所述步骤S4的超出免扩容阈值后进行集群扩容过程包括比较资源配额总值与预先设定的免扩容阈值，若存在某个资源类型的当前资源配额总值超出集群资源总额的部分大于免扩容阈值，则触发集群扩容。

本发明还提供了一种私有云多租户的资源配额自适应调节装置，包括租户管理模块、资源配额管控模块、资源使用率监控模块、集群扩缩容模块，所述租户管理模块共享私有云资源池的租户信息给资源配额管控模块，所述的私有云资源池包括资源配额池和资源使用池，所述资源配额管控模块对资源配额池进行管理，资源配额池对资源使用池进行分配，资源使用率监控模块采集资源使用池的数据并上报给资源配额管控模块，当资源配额总额超出免扩容阈值时，触发集群扩缩容模块对资源配额池执行集群扩容。

作为优选，所述的资源配额管控模块包括监控数据处理、配额调节算法、配额设置接口以及定时任务控制，所述监控数据处理对资源使用率监控模块的数据进行分析和处理，并将结果输出给配额调节算法，配额调节算法对资源配额进行自适应调节，当预期资源配额和实际资源配额的差异超出调节阈值时，通过配额设置接口对资源配额池重新进行划分，定时任务控制管理装置的运行；所述的资源配额池包括租户配额数据和闲置配额池，资源使用池包括租户使用数据。

本发明基于定时任务周期化地执行调节流程，通过资源使用率监控数据计算各租户在上一周期内资源实际使用率结果，并基于预设的预期使用率调节阈值，对私有云资源池中资源配额不合理的租户进行自适应调节，相较于集群管理平台提供的资源配额设置功能，该方法能适应于租户群体规模、使用习惯、时间等因素的动态变化，避免不必要的集群扩容，轻量级地有效提升集群资源使用率。

附图说明

图1为本发明的资源配额自适应调节方法的总体流程图；

图2为本发明的资源配额自适应调节装置的结构示意图；

图3为本发明实施例1的资源配额调节流程图；

图4为本发明实施例1的资源配额调节结果示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。

如图1所示，一种私有云多租户的资源配额自适应调节方法，其实施步骤如下：

S1：资源配额管控模块基于私有云集群资源总额和按需分配的原则，设置各租户的初始化资源配额；

该步骤S1操作如下：

S1.1：租户管理模块共享私有云资源池的所有租户管理，包括租户生命周期的管理；资源配额管控模块设定免扩容阈值、预期使用率、预期使用率的调节阈值；

S1.2：当私有云新增租户时，资源配额管控模块根据用户当前的资源需求在配额资源池中预划分该租户的配额池；若预划分该租户的配额池后，闲置配额池中资源配额仍大于免扩容阈值，则通过集群的资源配额设置接口完成资源分配；若闲置配额池中资源配额小于免扩容阈值，则触发一次整体的资源配额调节流程；在资源配额调节完成之后，重新进行上述的预划分计算；

其中，所述免扩容阈值包括正值和负值，若设置成正值，则允许集群中资源处于预留状态，预留状态即集群已分配的资源配额始终小于实际的资源总额，能够为应用提供更高的稳定性；若设置成负值，则集群中资源处于超配状态，超配状态即集群已分配的资源配额可超出实际的资源总额，资源利用率较高。

其中，所述免扩容阈值按照资源类别做细粒度区分，针对不同的资源类型设置不同的免扩容阈值，任何一种资源类型的配额总额超出免扩容阈值，均触发集群扩容。

S2：资源使用率监控模块持续监控并按时间分片采集各租户的资源使用率数据，上报到资源配额管控模块，其数据格式特征：租户

的

种资源类型

在

时刻的用额为

。

其中，所述步骤S2中资源使用率数据具有有效性和无效性，对于当前周期内新增的用户，其不具备一个调节周期内完整的采集数据，该数据是无效性的，针对无效性的监控数据，在后续调节流程中排除所对应的租户，不改变其资源配额。

S3：资源配额管控模块根据上一个周期内资源使用率数据和预期使用率的调节阈值周期性的对各租户资源配额进行自适应调节；

该步骤S3操作如下：

S3.1：资源配额管控模块对上报的资源使用率数据进行分析和处理，得到各租户一个周期内的资源使用率结果：获取租户

的

种资源类型的当前配额

，假设在一个调节周期T内有

个采集数据在相临近的

的时域上积分后取平均值得到一个周期内的实际平均使用率。租户

各资源的实际使用率采用如下平均值算法：

该结果作为资源配额调节算法的输入；

S3.2：向资源配额调节算法输入单个周期内各租户的所有类别资源的使用率结果、闲置配额池数据、预先设定的免扩容阈值以及预期使用率的调节阈值，经过计算输出得到各租户单个周期内的待调节资源配额；

S3.3：比较各租户的预期资源配额和实际资源配额，在差异超出预期使用率的调节阈值时，通过资源配额设置接口以预期使用率为基准对集群资源池重新进行配额池划分。预期使用率的调节阈值包括预期使用率的上调阈值和预期使用率的下调阈值，超出预期使用率的调节阈值即大于预期使用率的上调阈值或小于预期使用率的下调阈值。

预期使用率是针对每个资源类型预先设定的一个期望值，代表期望集群中该资源类型能达到的使用率基准，包含下调阈值

和上调阈值

。若

,即租户在当前周期内该资源的使用率小于下调阈值，则降低租户该资源类型的资源配额以符合使用率基准，避免资源空闲造成浪费；若

，即租户在当前周期内该资源的使用率大于上调阈值，则增大其相应的资源配额，避免业务过忙；若

，则无需对租户的资源配额进行调节。

S4：进入下一个资源配额调节周期或者超出免扩容阈值后进行集群扩容；

其中，所述步骤S4的超出免扩容阈值后进行集群扩容过程包括比较资源配额总值与预先设定的免扩容阈值，若存在某个资源类型的当前资源配额总值超出集群资源总额的部分大于免扩容阈值，则说明资源配额调节不足以满足当前的租户需求，进一步触发集群扩缩容模块对资源配额池执行集群扩容。

S5：由定时任务控制，进入下一个资源配额调节周期，重复步骤S1到步骤S4。

如图2所示，一种私有云多租户的资源配额自适应调节装置，包括租户管理模块、资源配额管控模块、资源使用率监控模块、集群扩缩容模块，所述租户管理模块共享私有云资源池的租户信息给资源配额管控模块，所述的私有云资源池包括资源配额池和资源使用池，所述资源配额管控模块对资源配额池进行管理，资源配额池对资源使用池进行分配，资源使用率监控模块采集资源使用池的数据并上报给资源配额管控模块，当资源配额总额超出免扩容阈值时，触发集群扩缩容模块对资源配额池执行集群扩容。

所述的资源配额管控模块包括监控数据处理、配额调节算法、配额设置接口以及定时任务控制，所述监控数据处理对资源使用率监控模块的数据进行分析和处理，并将结果输出给配额调节算法，配额调节算法对资源配额进行自适应调节，当预期资源配额和实际资源配额的差异超出调节阈值时，通过配额设置接口对资源配额池重新进行划分，定时任务控制管理装置的运行；所述的资源配额池包括租户配额数据和闲置配额池，资源使用池包括租户使用数据。

实施例1

首先，对本说明书实施例1涉及的名词术语进行解释。

K8s：Kubernetes，常简称为K8s，是用于自动部署、扩展和管理“容器化应用程序”的开源***。该***由Google设计并捐赠给Cloud Native Computing Foundation（今属Linux基金会）来使用。它旨在提供“跨主机集群的自动部署、扩展以及运行应用程序容器的平台。

命名空间: 这里特指k8s中命名空间，它提供一种机制，将同一集群中的资源划分为相互隔离的组，同一命名空间内的资源名称要唯一。

资源配额:这里特指k8s中的资源配额，通过资源配额对象来定义，对每个命名空间的资源消耗总量提供限制。它可以限制命名空间中某种类型的对象的总数目上限，也可以限制命令空间中的容器组可以使用的计算资源的总上限。

Promethus: 是一个开放性的监控解决方案，其灵感来自于Google的Borgmon，于2016年5月继k8s后加入CNCF基金会。Prometheus具备易于管理，高效，可扩展，易集成的特点。

如图3所示，为一种基于k8s实现的多租户资源配额调节流程图，首先多租户资源配额调节流程由两种情况触发：（1）创建新租户；（2）定时任务。第一种方式相对简单，在k8s集群中创建新的命名空间，并与新创建的租户身份标识映射；再直接根据租户需求设置命名空间下的待初始化的各类型资源配额。第二种方式首先要获取各个命名空间下容器组等其他对象资源使用率的监控数据，监控数据的获取不仅限于实施例中说明的PromethusAPI；根据命名空间和租户身份标识的映射关系即可计算得到各租户各个资源类型的实际使用率。进一步地，判断第n个租户的资源使用情况，|实际使用率 - 预期使用率| > 阈值时即重新计算该租户某类资源的资源配额，同样地方式适用于第n+1个用户。以上两种方式在计算得到各租户各类型待设置的资源配额后，进一步地，判断总资源配额和资源总额差值是否大于免扩容阈值，若大于免扩容阈值则触发k8s集群扩容机制；否则直接新建或设置命名空间下资源配额对象的属性。

图4展示了一次上述基本k8s实现的资源分配池自适应调节结果图，假设k8s集群的总资源分别为98核CPU，内存6T以及88卡GPU。在 T₁周期内，集群有2个租户，分别为之分配了命名空间a和命名空间b；根据用户初始需求及前置周期内的资源配额调节结果，当前资源配额池的分布如下：属于租户1的命名空间a中，k8s的资源配额对象属性包含，CPU配额为64，内存配额为2T，GPU的配额32；同样地，属于租户2的命名空间b中，资源配额对象属性包含，CPU配额为32，内存配额为2T，以及GPU配额为64。此外闲置配额池大小包括，2核CPU，2T内存以及-8卡GPU。在T2周期内，云平台新增租户3，其初始配额需求为2核CPU，内存2T以及8卡GPU。因为闲置配额池的GPU配额已经小于等于免扩容阈值，由此触发一次自适应资源配额调节流程。这里假设T₁ 周期内资源使用池的使用率均值如图所示，基于预设的预期使用率下调阈值75%和上调阈值90%进行资源配额调节，租户1的使用率低于下调阈值，因此将其所对应的命名空间a下各类型资源配额值下调，调节后的CPU配额为3，内存配额为170G，GPU配额为3。而租户2的资源使用率处于75%~90%之间，因此维持现状不做调节。在完成资源配额调节后，再对租户3的资源配额进行设置，CPU配额为2，内存配额为2T，以及GPU配额为8。经计算闲置配额池在上述调节后的配置为61核CPU，1878G内存以及13卡GPU，GPU闲置配额大于免扩容阈值，即当前资源配额的分配已满足需求，集群可维持现状，避免扩容资源的浪费。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。

Claims (7)

1.一种私有云多租户的资源配额自适应调节方法，其特征在于，包含以下步骤：

S1：资源配额管控模块基于私有云集群资源总额和按需分配的原则，设置各租户的初始化资源配额；

S2：资源使用率监控模块持续监控并按时间分片收集各租户的资源使用率数据，上报到资源配额管控模块；

S3：资源配额管控模块根据上一个周期内资源使用率数据和预期使用率的调节阈值周期性的对各租户资源配额进行自适应调节；

S4：进入下一个资源配额调节周期或者超出免扩容阈值后进行集群扩容；

S5：由定时任务控制，进入下一个资源配额调节周期，重复步骤S1到步骤S4；

所述步骤S1中设置各租户的初始化资源配额，包括以下步骤：

S1.1：租户管理模块共享私有云资源池的所有租户管理，包括租户生命周期的管理；资源配额管控模块设定免扩容阈值、预期使用率、预期使用率的调节阈值；

S1.2：当私有云新增租户时，资源配额管控模块根据用户当前的资源需求在配额资源池中预划分该租户的配额池；若预划分该租户的配额池后，闲置配额池中资源配额仍大于免扩容阈值，则通过集群的资源配额设置接口完成资源分配；若闲置配额池中资源配额小于免扩容阈值，则触发一次整体的资源配额调节流程；在资源配额调节完成之后，重新进行上述的预划分计算；

所述步骤S3中对各租户资源配额进行自适应调节，包含以下步骤：

S3.1：资源配额管控模块对上报的资源使用率数据进行分析和处理，得到各租户一个周期内的资源使用率结果，该结果作为资源配额调节算法的输入；

S3.2：向资源配额调节算法输入单个周期内各租户的所有类别资源的使用率结果、闲置配额池数据、预先设定的免扩容阈值以及预期使用率的调节阈值，经过计算输出得到各租户单个周期内的待调节资源配额；

S3.3：比较各租户的预期资源配额和实际资源配额，在差异超出调节阈值时，通过资源配额设置接口对集群资源池重新进行配额池划分。

2.根据权利要求1所述的一种私有云多租户的资源配额自适应调节方法，其特征在于：所述免扩容阈值包括正值和负值，若设置成正值，则允许集群中资源处于预留状态；若设置成负值，则集群中资源处于超配状态。

3.根据权利要求2所述的一种私有云多租户的资源配额自适应调节方法，其特征在于：所述免扩容阈值按照资源类别做细粒度区分，针对不同的资源类型设置不同的免扩容阈值，任何一种资源类型的配额总额超出免扩容阈值，均触发集群扩容。

4.根据权利要求1所述的一种私有云多租户的资源配额自适应调节方法，其特征在于：所述步骤S2中资源使用率数据具有有效性和无效性，对于当前周期内新增的用户，其不具备一个调节周期内完整的采集数据，该数据是无效性的，针对无效性的监控数据，在后续调节流程中排除所对应的租户，不改变其资源配额。

5.根据权利要求1所述的一种私有云多租户的资源配额自适应调节方法，其特征在于：所述步骤S3.1中资源配额管控模块对上报的资源使用率数据进行分析和处理，包括比较设定的预期使用率和实际资源使用率的大小，在超出预期使用率的调节阈值时以预期使用率为基准重新计算合理的资源配额。

6.根据权利要求1所述的一种私有云多租户的资源配额自适应调节方法，其特征在于：所述步骤S4的超出免扩容阈值后进行集群扩容过程包括比较资源配额总值与预先设定的免扩容阈值，若存在某个资源类型的当前资源配额总值超出集群资源总额的部分大于免扩容阈值，则触发集群扩容。

7.一种私有云多租户的资源配额自适应调节装置，其特征在于：包括租户管理模块、资源配额管控模块、资源使用率监控模块、集群扩缩容模块，所述租户管理模块共享私有云资源池的租户信息给资源配额管控模块，所述的私有云资源池包括资源配额池和资源使用池，所述资源配额管控模块对资源配额池进行管理，资源配额池对资源使用池进行分配，资源使用率监控模块采集资源使用池的数据并上报给资源配额管控模块，当资源配额总额超出免扩容阈值时，触发集群扩缩容模块对资源配额池执行集群扩容；

所述的资源配额管控模块包括监控数据处理、配额调节算法、配额设置接口以及定时任务控制，所述监控数据处理对资源使用率监控模块的数据进行分析和处理，并将结果输出给配额调节算法，配额调节算法对资源配额进行自适应调节，当预期资源配额和实际资源配额的差异超出调节阈值时，通过配额设置接口对资源配额池重新进行划分，定时任务控制管理装置的运行；所述的资源配额池包括租户配额数据和闲置配额池，资源使用池包括租户使用数据。

Images