CN112685151A - 一种基于优化的权重模型的资源调度*** - Google Patents

Abstract

本发明公开了一种基于优化的权重模型的资源调度***，包括：基础配置模块，被配置成实现对基础数据的配置管理；加权算法模块，被配置成以权重配置为基础的资源的调用管理以及状态节点的全生命周期的管理；调用轨迹模块，被配置成记录每次资源调用的调用日志轨迹；阈值控制模块，被配置成实现当资源调用请求超过最大阈值次数频率时的处理；异步延迟处理模块，被配置成以队列中间件为基础支持针对服务调用的异步延迟处理；插件支撑模块，被配置成超过阈值时的自定义开发插件处理。本发明增加了全局资源阈值控制、超越权重的调用阈值公式、超过权重时的错误处理及支持通过插件灵活实现超越权重时的处理，满足在资源有限情况下的调度适配。

Description

一种基于优化的权重模型的资源调度***

技术领域

本发明涉及计算机技术领域，具体的说，是一种基于优化的权重模型的资源调度***。

背景技术

现在的微服务调用大多都专注于权限安全校验及负载调度的实现，业界中的Sentinel实现了一定的网关限流规则的控制，但控制得还是较为简单，无法匹配较为复杂灵活的调度配置。存在的问题有：1)只能简单适配各渠道的调用频率，无法满足复杂场景的调度适配；2)不能支持开发者建立相关权重、影响因子、因子公式及代码方式(主要支持drool的代码配置方式)的灵活配置；3)现有业界框架未抽象定义有限资源的访问限制整个生命周期管理，导致当开发者需要实现此种场景时，往往只能通过大量的硬编码进行实现，开发及实现效率都很低。

发明内容

本发明的目的在于提供一种基于优化的权重模型的资源调度***，用于解决现有技术中微服务调用无法满足在资源有限情况下的调度适配的问题。

本发明通过下述技术方案解决上述问题：

一种基于优化的权重模型的资源调度***，包括基础配置模块、加权算法模块、调用轨迹模块、阈值控制模块、异步延迟处理模块和插件支撑模块，其中：

基础配置模块，被配置成实现对基础数据的配置管理，包括全局资源阈值配置、各个渠道调用资源的权重配置、超过权重调用的延迟处理公式配置、超过权重后触发阈值全局空闲判断、各渠道的调用频率以及最大阈值次数频率配置、渠道相关插件的配置管理以及超过权重的错误处理方式配置；

加权算法模块，被配置成以权重配置为基础，当资源未超过全局配置的阈值，则表示资源较为空余，支持超越权重的调用阈值公式，基于基础配置模块中各渠道的最大阈值次数频率配置；若未超过阈值次数频率配置参数，则可以进行超越权重配置进行资源的调用；以及针对框架中处理的各个状态节点进行了全生命周期的管理；

调用轨迹模块，被配置成记录每次资源调用的调用日志轨迹并存储，以及提供数据获取入口，用于为后续分析提供历史调用数据；

阈值控制模块，被配置成当渠道达到阈值时，根据配置选择拒绝服务或延迟服务以及延迟多久的处理，实现当资源调用请求超过最大阈值次数频率时的处理；

异步延迟处理模块，被配置成以队列中间件为基础支持针对服务调用的异步延迟处理；

插件支撑模块，被配置成超过阈值时的自定义开发插件处理；插件用于实现基于当前全局资源阈值情况及当前渠道的实际调用频率情况进行灵活实现处理。

超过权重调用的延迟处理公式配置包括延迟的次数以及每次延迟的时长。如第一次延迟1分钟，第二次延迟3分钟。

本发明与现有技术相比，具有以下优点及有益效果：

本发明以权重配置为核心，在此基础上，增加了全局资源阈值控制、超越权重的调用阈值公式、超过权重时的错误处理(拒绝或延迟调用)及支持通过插件灵活实现超越权重时的处理，满足在资源有限情况下的调度适配；***中各个渠道对资源的调用轨迹均会做详尽的记录，并针对历史轨迹暴露相关数据获取入口，便于进行插件开发时实现更为灵活的阈值处理。

附图说明

图1为本发明的***框图。

具体实施方式

下面结合实施例对本发明作进一步地详细说明，但本发明的实施方式不限于此。

实施例：

结合附图1所示，一种基于优化的权重模型的资源调度***，为保证最大程度的灵活性，分别抽象为以下模块：基础配置模块、加权算法模块、调用轨迹模块、阈值控制模块、异步延迟处理模块、插件支撑模块。下面针对各个模块层进行详细阐述：

1、基础配置模块：实现对基础数据的配置管理，包括资源有限请求数、各个渠道调用的权重配置、超过权重调用的延迟处理公式配置(比如第一次延迟1分钟，第二次延迟3分钟等)、超过权重后触发阈值全局空闲判断、各渠道的最大阈值次数频率配置、渠道相关的插件的配置管理(主要针对超过权重时***可根据此时配置的插件回调针对各个渠道进行更加灵活的处理机制)以及对超过权重的错误处理方式配置(拒绝、延迟处理以及延迟处理最高次数等)。

2、加权算法模块：此模块为框架的核心，基于加权模型的同时，为了保证***的最大程度灵活性，该模型只是以权重为基础，当资源未超过全局配置的阈值，则表示资源较为空余，可以支持超越权重的调用阈值公式，基于基础配置中各渠道的最大阈值次数频率配置，若未超过阈值次数频率配置参数，则可以进行超越权重配置进行资源的调用，另外针对框架中处理的各个状态节点进行了全生命周期的管理，主要提供了各渠道当超越权重，整体资源有允许的情况下，除了上述使用的阈值次数频率配置，还可以基于插件进行灵活实现以满足各渠道的实际复杂处理。

3、调用轨迹模块：针对每一次资源调用，进行详细的调用日志轨迹记录，存储详尽的调用轨迹的目的是为了后续统计分析、阈值控制及为ai学习模型提供基础的历史调用数据，并提供相应的api查询接口，各渠道在实现插件时可以灵活调用查询历史数据，还可支持ai模型进行轨迹的深入分析，以满足更加灵活的阈值频率配置控制，比如可根据分析情况，灵活调整各时间段差异性的权重配置。

4、阈值控制模块：当渠道到达阈值时，可根据配置进行拒绝服务或延迟服务以及延迟多久的处理，此模块实现当超过调用阈值频率时，如何进行超过部分的资源调用请求的处理。

5、异步延迟处理模块：本模块主要以队列中间件为基础支持针对服务调用的异步延迟处理，资源的实际处理是通过队列中间件的方式进行。

6、插件支撑模块：主要针对***中超过阈值时的自定义开发插件处理，插件实现可基于当前全局资源阈值情况及当前渠道的实际调用频率情况进行灵活实现处理。

调用流程如图1所示：

1)、第三方渠道发起资源调用请求；

2)、触发本***框架调用处理，并触发以权重为基础的加权算法模块开始处理；

3)、从基础配置模块查询总的资源阈值、当前渠道配置的权重信息、超过权重调用的延迟处理公式配置、阈值处理的插件、拒绝处理的情况等相关配置；

4)、根据步骤3)的获取的基础配置信息进行后续流程处理：

首先根据当下资源实际已请求次数与全局资源限制数进行比较，根据比较结果会有以下几种情况的处理：

已请求次数大于或等于全局资源限制数，按照该渠道配置的拒绝处理配置进行处理；

已请求次数小于全局资源限制数，根据渠道配置的权重，若该渠道的已请求次数小于权重比例占比，则直接进行资源调用处理，并做好调用轨迹记录数据；

已请求次数小于全局资源限制数，根据渠道配置的权重，若该渠道的已请求次数大于或等于权重比例占比，根据此渠道的阈值配置来决定进行正常的调用处理还是拒绝处理。特别说明的是，此时若该渠道配置了相关阈值处理插件，会调用配置的插件进行判断处理。

尽管这里参照本发明的解释性实施例对本发明进行了描述，上述实施例仅为本发明较佳的实施方式，本发明的实施方式并不受上述实施例的限制，应该理解，本领域技术人员可以设计出很多其他的修改和实施方式，这些修改和实施方式将落在本申请公开的原则范围和精神之内。

Claims (2)

1.一种基于优化的权重模型的资源调度***，其特征在于，包括基础配置模块、加权算法模块、调用轨迹模块、阈值控制模块、异步延迟处理模块和插件支撑模块，其中：

基础配置模块，被配置成实现对基础数据的配置管理，包括全局资源阈值配置、各个渠道调用资源的权重配置、超过权重调用的延迟处理公式配置、超过权重后触发阈值全局空闲判断、各渠道的调用频率以及最大阈值次数频率配置、渠道相关插件的配置管理以及超过权重的错误处理方式配置；

加权算法模块，被配置成以权重配置为基础，当资源未超过全局配置的阈值，则表示资源较为空余，支持超越权重的调用阈值公式，基于基础配置模块中各渠道的最大阈值次数频率配置；若未超过阈值次数频率配置参数，则可以进行超越权重配置进行资源的调用；以及针对框架中处理的各个状态节点进行了全生命周期的管理；

调用轨迹模块，被配置成记录每次资源调用的调用日志轨迹并存储，以及提供数据获取入口，用于为后续分析提供历史调用数据；

阈值控制模块，被配置成当渠道达到阈值时，根据配置选择拒绝服务或延迟服务以及延迟多久的处理，实现当资源调用请求超过最大阈值次数频率时的处理；

异步延迟处理模块，被配置成以队列中间件为基础支持针对服务调用的异步延迟处理；

插件支撑模块，被配置成超过阈值时的自定义开发插件处理；插件用于实现基于当前全局资源阈值情况及当前渠道的实际调用频率情况进行灵活实现处理。

2.根据权利要求1所述的一种基于优化的权重模型的资源调度***，其特征在于，超过权重调用的延迟处理公式配置包括延迟的次数以及每次延迟的时长。

Images