CN115102958A - 一种服务器节点调度方法、装置、设备及存储介质 - Google Patents
一种服务器节点调度方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN115102958A CN115102958A CN202210687927.1A CN202210687927A CN115102958A CN 115102958 A CN115102958 A CN 115102958A CN 202210687927 A CN202210687927 A CN 202210687927A CN 115102958 A CN115102958 A CN 115102958A
- Authority
- CN
- China
- Prior art keywords
- node
- target
- preset
- weight
- target node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 230000003827 upregulation Effects 0.000 claims description 27
- 238000004590 computer program Methods 0.000 claims description 15
- 230000006583 body weight regulation Effects 0.000 claims description 5
- 230000003828 downregulation Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000001105 regulatory effect Effects 0.000 description 3
- 230000033228 biological regulation Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000013585 weight reducing agent Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000002222 downregulating effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请公开了一种服务器节点调度方法、装置、设备及存储介质,涉及节点调度领域。该方法包括:根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;若所述目标节点没有达到分配上限,则将所述用户访问请求分配给所述目标节点进行处理。可以使节点利用率均衡化,并避免服务总量超过节点可负荷量,实现对节点调度的精准控制,并且保证服务的质量。
Description
技术领域
本发明涉及节点调度领域,特别涉及一种服务器节点调度方法、装置、设备及存储介质。
背景技术
目前,针对服务器节点调度,通常根据cdn(Content Delivery Network,内容分发网络)节点的服务带宽进行调度,无法实现对节点调度的精准控制,降低了服务能力。
发明内容
有鉴于此,本发明的目的在于提供一种服务器节点调度方法、装置、设备及介质,能够实现对节点调度的精准控制,保证节点服务质量。其具体方案如下:
第一方面,本申请公开了一种服务器节点调度方法,包括:
根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;
根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;
基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;
若所述目标节点没有达到分配上限,则将所述用户访问请求分配给所述目标节点进行处理。
可选的,所述根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重,包括:
获取所述服务器集群内每个节点对应的初始配置带宽,并将所述初始配置带宽作为所述节点的初始权重;
获取所述服务器集群内每个节点对应的实时性能参数,并确定所述实时性能参数包含的每种指标类型对应的参数值,以及所述指标类型对应的预设指标阈值;
根据所述参数值与所述预设指标阈值的数值大小关系以及预设条件判断规则,判断所述节点是否符合权重调节条件;
若符合,则确定所述节点对应的权重调节类型,并根据所述权重调节类型对应的权重调节规则对所述初始权重进行调整,以得到所述节点的权重。
可选的,所述根据所述参数值与所述预设指标阈值的数值大小关系以及预设条件判断规则,判断所述节点是否符合权重调节条件,包括:
若第一预设时长内所述参数值均大于所述预设指标阈值,或者,第一预设时长内所述参数值均小于所述预设指标阈值,且距离最近一次权重调节的时间间隔大于第二预设时长,则判定所述节点符合权重调节条件;
相应的,所述确定所述节点对应的权重调节类型,并根据所述权重调节类型对应的权重调节规则对所述初始权重进行调整,包括:
若第一预设时长内所述参数值均大于所述预设指标阈值,则确定所述节点对应的权重调节类型为上调,然后根据预设上调规则对所述初始权重进行调整;所述上调规则包括上调幅度和上调频率;
若第一预设时长内所述参数值均小于所述预设指标阈值,且距离最近一次权重调节的时间间隔大于第二预设时长,则确定所述节点对应的权重调节类型为下调,然后根据预设下调规则对所述初始权重进行调整;所述下调规则包括下调幅度和下调频率。
可选的,所述将所述用户访问请求分配给所述目标节点进行处理之后,还包括:
获取所述目标节点的实际跑量;
根据所述实际跑量调整所述目标节点对应的初始配置带宽。
可选的,所述将所述用户访问请求分配给所述目标节点进行处理之后,还包括:
判断所述目标节点的所有线路是否均达到带宽上限;
若否,则获取每个未达到带宽上限的线路的跑满率,并将跑满率最低的线路作为目标线路执行所述访问请求;
若是,则执行所述根据所述分配概率为用户访问请求预分配对应的目标节点的步骤。
可选的,所述基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限,包括:
按照预设间隔周期性采集所述目标节点对应的实际已服务带宽和最大服务带宽,并根据所述目标节点服务的业务特点预估单个用户使用服务时产生的实际使用带宽,以得到所述目标节点当前的带宽数据;
计算所述最大服务带宽与所述实际已服务带宽的差值,以及所述实时带宽数据与所述目标因子的乘积,并根据所述差值与所述乘积的比值预测得到当前周期内所述目标节点的最大分配次数;
获取当前周期内所述目标节点的已分配次数,并根据所述已分配次数和所述最大分配次数之间的数值大小关系,判断所述目标节点是否达到分配上限。
可选的,所述目标因子的确定过程,包括:
获取最近一次确定的所述目标节点对应的历史目标因子;其中,若所述最近一次确定为初次确定,则所述历史目标因子的数值为针对所述目标节点预设初始值;
获取预设时间段内所述目标节点对应的平均跑满率;
若所述平均跑满率大于第一预设阈值,且在所述预设时间段内跑满率递增,则在预设调整范围内按照第一预设幅度对所述历史目标因子的数值进行上调,以确定所述目标节点当前对应的目标因子;
若所述平均跑满率小于第二预设阈值,且在所述预设时间段内存在达到分配上限的情况,则在预设调整范围内按照第二预设幅度对所述历史目标因子的数值进行下调,以确定所述目标节点当前对应的目标因子。
第二方面,本申请公开了一种服务器节点调度装置,包括:
权重确定模块,用于根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;
分配模块,用于根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;
判断模块,用于基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;
调度模块,用于若所述目标节点没有达到分配上限,则利用所述目标节点接收所述用户访问请求。
第三方面,本申请公开了一种电子设备,包括:
存储器,用于保存计算机程序;
处理器,用于执行所述计算机程序,以实现前述的服务器节点调度方法。
第四方面,本申请公开了一种计算机可读存储介质,用于存储计算机程序;其中计算机程序被处理器执行时实现前述的服务器节点调度方法。
本申请中,根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;若所述目标节点没有达到分配上限,则将所述用户访问请求分配给所述目标节点进行处理。可见,首先,以节点的初始配置带宽为权重,进行一次概率权重分配,可以使节点利用率均衡化,避免单一节点高负载,然后,在基于带宽数据和目标因子所述节点是否达到分配上限,即是否还可以被分配,若可以分配则利用该节点接收用户访问请求,可以避免服务总量过高超过节点可负荷量,实现对节点调度的精准控制,并且保证服务的质量,使节点利用率最大化。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请提供的一种服务器节点调度方法流程图;
图2为本申请提供的一种具体的节点调度***结构图;
图3为本申请提供的一种具体的服务器节点线路调度方法流程图;
图4为本申请提供的一种具体的节点权重确定方法流程图;
图5为本申请提供的一种服务器节点调度装置结构示意图;
图6为本申请提供的一种电子设备结构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
现有技术中,针对服务器节点调度,通常根据cdn节点的服务带宽进行调度,无法实现对节点调度的精准控制,降低了服务能力。为克服上述技术问题,本申请提出一种服务器节点调度方法,能够实现对节点调度的精准控制,保证节点服务质量。
本申请实施例公开了一种服务器节点调度方法,参见图1所示,该方法可以包括以下步骤:
步骤S11:根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重。
本实施例中,首先根据服务器集群内每个节点对应的初始配置带宽,确定出每个节点的权重,即以节点的初始带宽为权重。
步骤S12:根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点。
本实施例中,权重确定后,根据权重得到每个节点对应的分配概率,然后根据分配概率为当前用户访问请求预分配对应的目标节点。由此相当于根据节点的初始带宽进行分配,节点被分配的次数和初始带宽成正相关关系,即初始带宽越高,节点被分配的概率越大,依次可以达到初步的节点使用率大致一致,避免单个节点使用率过高,导致节点质量下降。
本实施例中,所述根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点,可以包括:基于每个所述节点对应的权重,利用一致性哈希算法构建节点环;所述节点环表征每个节点对应的分配概率;利用所述节点环为获取的用户访问请求分配对应的目标节点。即基于一致性hash算法,以初始带宽为权重构建用于分配概率的节点环,构建之后,进行节点预分配。
步骤S13:基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数。
本实施例中,先根据权重概率预分配出目标节点,即此时并不确定最终利用该目标节点接收请求,此时还需要判断该节点是否还能支持响应,可以理解的是,由于用户请求存在突发情况,且不可预知,所以如果在节点请求量超过节点池的最大负载能力时,还对每个用户都进行响应,那则会导致所有节点出现高负荷状态,进而导致节点服务能力下降,服务质量变差,因此需要判断目标节点是否达到分配上限。
本实施例中,所述基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限,可以包括:按照预设间隔周期性采集所述目标节点对应的实际已服务带宽和最大服务带宽,并根据所述目标节点服务的业务特点预估单个用户使用服务时产生的实际使用带宽,以得到所述目标节点当前的带宽数据;计算所述最大服务带宽与所述实际已服务带宽的差值,以及所述实时带宽数据与所述目标因子的乘积,并根据所述差值与所述乘积的比值预测得到当前周期内所述目标节点的最大分配次数;获取当前周期内所述目标节点的已分配次数,并根据所述已分配次数和所述最大分配次数之间的数值大小关系,判断所述目标节点是否达到分配上限。
即根据预设间隔周期性采集节点数据,获取当前节点实际已服务带宽(cur_band),以及节点所能服务最大带宽(max_band);并根据服务业务的特点,评估出单个用户所能产生的实际带宽(band_per_req),该带宽由于用户差异,并不是一个完全恒定的常值。统计当前采集周期内节点已经被分配次数(alloc_cnt),该次数每个周期重新计数,记录该节点被分配次数。然后,预测节点当前周期内的最大分配次数(predict_cnt),predict_cnt=(max_band-cur_band)/(band_per_req*factor),factor为目标因子,目标因子为基于目标节点的分配量和跑满率确定的实时自动可调节参数,即该值可以根据当前分配量及跑满率自动上下调整,简要的说如果评估可分配次数过少,导致跑满率无法达标,则下调factor,由此提升最大分配次数;如果评估可分配次数过多,导致跑满率高负荷,则上调factor,由此降低最大分配次数,最终达成一个相对平滑的跑量曲线。最后判断分配次数是否已达上限,如果alloc_cnt>predict_cnt,表明该节点分配次数已达上限,则该节点不可再继续分配,否则该节点可以继续分配。
本实施例中,所述目标因子的确定过程,可以包括:获取最近一次确定的所述目标节点对应的历史目标因子;其中,若所述最近一次确定为初次确定,则所述历史目标因子的数值为针对所述目标节点预设初始值;获取预设时间段内所述目标节点对应的平均跑满率;若所述平均跑满率大于第一预设阈值,且在所述预设时间段内跑满率递增,则在预设调整范围内按照第一预设幅度对所述历史目标因子的数值进行上调,以确定所述目标节点当前对应的目标因子;若所述平均跑满率小于第二预设阈值,且在所述预设时间段内存在达到分配上限的情况,则在预设调整范围内按照第二预设幅度对所述历史目标因子的数值进行下调,以确定所述目标节点当前对应的目标因子。
可以理解的是,factor为各个节点自行维护,并不是共用参数,每个节点都预先设定有factor的初始值,所有节点的初始值可以相同,同时会设定factor的变动区间[min,max],factor会在该区间进行调整。本实施例中,factor的调整周期可以为节点数据采集的周期,如5s,5s也为数据采集的周期,即每5s会定期更新节点的跑满率数据,其中跑满率为当前实际跑量带宽/带宽上限。每个周期会判断factor是上调,下调或维持。其中,上调条件为预设时间段内目标节点对应的平均跑满率大于第一预设阈值,且在预设时间段内跑满率递增,上述预设时间段可以为连续三个数据采集周期,第一预设阈值可以为最大跑量带宽的90%,即如果连续三个周期跑量带宽大于最大跑量带宽的90%,且跑量带宽持续处于上涨状态,代表分配量过多,则增大factor,变更幅度为一个配置固定步长。factor上调代表当前factor值过小,跑量过高,需要减少分配量。下调条件为预设时间段内目标节点对应的平均跑满率小于第二预设阈值,且在预设时间段内存在达到分配上限的情况,即如果连续三个周期跑量带宽低于最大跑量带宽的90%,且这三个周期都出现被禁止分配的情况,且距离上次上调周期超过预设配置值,上述预设配置值可以为5分钟,配置值主要为了避免刚上调就下调,因为刚上调后会有一些波动,此时减小factor,变更幅度也为一个配置固定步长。也就是说,在几个周期内跑量都较低,但是由于最大分配次数的限制,不能进一步分配提高跑量,因此下调factor,代表当前factor值过大,控制太严格,跑量过低。
例如图2所示,服务器节点注册后可被调度分配,上述调度方法应用于质量调度中心,适用于租用服务节点的场景,为了实现租用的服务节点在负载能够支撑的情况下实现最大化利用,首先基于初始配置带宽的概率分配,预分配得到目标节点,尽量让租户收入平均,在此基础上为了让服务稳定高效,利用目标因子判断目标节点的运行能力,即基于节点的带宽数据、分配量、跑满率再判断节点是否能够处理请求。
步骤S14:若所述目标节点没有达到分配上限,则将所述用户访问请求分配给所述目标节点进行处理。
本实施例中,若目标节点没有达到分配上限,即负载能够支持接收请求,则将用户访问请求分配给该目标节点进行处理。
本实施例中,所述将所述用户访问请求分配给所述目标节点进行处理之后,还可以包括:判断所述目标节点的所有线路是否均达到带宽上限;若否,则获取每个未达到带宽上限的线路的跑满率,并将跑满率最低的线路作为目标线路执行所述访问请求;若是,则执行所述根据所述分配概率为用户访问请求预分配对应的目标节点的步骤。可以理解的是,由于节点都有相应的出口带宽,比如说A节点限制上行带宽为1G,那需要控制该节点实际跑量带宽不能超过1G,另外,A节点可能存在有多条线路的情况,每条线路都有对应的上行带宽上限,如A节点拥有10条线路,则每条线路上限带宽为100M,那对应的每条线路带宽实际跑量不能超过100M。因此,例如图3所示,一个节点在有多个线路的情况下,判断节点是否达到带宽上限,即判断是否达到分配上限后,还需要判断节点的线路是否达到带宽上限,并且,为保证各条线路跑量基本持平,在分配上,会根据采集到的实时跑满率情况,实现跑满率低的分配量高,跑满率高的分配量少,从而达到各线路跑量均匀的情况。
本实施例中,所述将所述用户访问请求分配给所述目标节点进行处理之后,还可以包括:获取所述目标节点的实际跑量;根据所述实际跑量调整所述目标节点对应的初始配置带宽。可以理解的是,可以根据节点实际跑量情况,以及客户反馈的节点服务情况,对初始配置带宽进行调整,如初始配置带宽为1G,但实际跑量在600M,则可以根据实际跑量下调初始配置带宽,同样,若实际跑量逼近或等于初始配置带宽,则可以上调初始配置带宽。
由上可见,本实施例中根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;若所述目标节点没有达到分配上限,则将所述用户访问请求分配给所述目标节点进行处理。可见,首先,以节点的初始配置带宽为权重,进行一次概率权重分配,可以使节点利用率均衡化,避免单一节点高负载,然后,在基于带宽数据和目标因子所述节点是否达到分配上限,即是否还可以被分配,若可以分配则利用该节点接收用户访问请求,可以避免服务总量过高超过节点可负荷量,实现对节点调度的精准控制,并且保证服务的质量,使节点利用率最大化。
在上述实施例的基础上,针对上述步骤S11,本申请实施例公开了一种具体的节点权重确定方法,参见图4所示,该方法可以包括以下步骤:
步骤S21:获取所述服务器集群内每个节点对应的初始配置带宽,并将所述初始配置带宽作为所述节点的初始权重。
本实施例中,将每个节点对应的初始配置带宽,作为该节点的初始权重。
步骤S22:获取所述服务器集群内每个节点对应的实时性能参数,并确定所述实时性能参数包含的每种指标类型对应的参数值,以及所述指标类型对应的预设指标阈值。
本实施例中,还实时获取服务器集群内每个节点对应的实时性能参数,上述实时性能参数包括节点基础数据和业务数据,节点基础数据包括但不限于cpu load(cpu负载)、重传率、磁盘IO,业务数据包括但不限于用户响应状态码,即基于上述几种指标在初始权重的基础上进行权重调整。
步骤S23:根据所述参数值与所述预设指标阈值的数值大小关系以及预设条件判断规则,判断所述节点是否符合权重调节条件。
即对每项指标数据,根据对应的预设指标阈值,若超过该阈值认为节点有问题,需要降权。预设指标阈值可以根据历史数据设定。并且,上述基础数据及业务数据的每一项值,可以将最近10个周期的均值数据,作为判断指标。
本实施例中,所述根据所述参数值与所述预设指标阈值的数值大小关系以及预设条件判断规则,判断所述节点是否符合权重调节条件,可以包括:若第一预设时长内所述参数值均大于所述预设指标阈值,或者,第一预设时长内所述参数值均小于所述预设指标阈值,且距离最近一次权重调节的时间间隔大于第二预设时长,则判定所述节点符合权重调节条件。例如,若某个指标连续三次触发达到阈值上限,则判定需要下调权重,若连续三次触发小于阈值上限,同时间隔上次上调时间一定时间,则判定需要上调权重。
步骤S24:若符合,则确定所述节点对应的权重调节类型,并根据所述权重调节类型对应的权重调节规则对所述初始权重进行调整,以得到所述节点的权重。
即通过采集节点的基础服务数据,以及对客户的实际服务情况,对节点实时评估节点权重,实时调整,同样,当采用节点环进行预分配时,会根据实时反馈的权重更新节点环。
本实施例中,所述确定所述节点对应的权重调节类型,并根据所述权重调节类型对应的权重调节规则对所述初始权重进行调整,可以包括:若第一预设时长内所述参数值均大于所述预设指标阈值,则确定所述节点对应的权重调节类型为上调,然后根据预设上调规则对所述初始权重进行调整;所述上调规则包括上调幅度和上调频率;若第一预设时长内所述参数值均小于所述预设指标阈值,且距离最近一次权重调节的时间间隔大于第二预设时长,则确定所述节点对应的权重调节类型为下调,然后根据预设下调规则对所述初始权重进行调整;所述下调规则包括下调幅度和下调频率。其中,上述上调规则和下调规则可以按照快速降、缓慢升的权重调整原则设置。如若为下调,则以每次下调幅度为5%,在预设权重的变动区间内连续下调。可以理解的是,如果数据不达标,权重逐步减小,最终降低到一个最低阈值,等同于拉黑节点,不再使用;如果节点指标正常,则回升节点权重。通过上下调整,最终达到一个均衡值,及节点跑量及质量的均衡值。由此,可以使服务质量最优化,充分利用质量较高节点,对质量较差节点进行降权或拉黑处理,以达到对用户服务最优的效果。
由上可见,本实施例中获取所述服务器集群内每个节点对应的初始配置带宽,并将所述初始配置带宽作为所述节点的初始权重。获取所述服务器集群内每个节点对应的实时性能参数,并确定所述实时性能参数包含的每种指标类型对应的参数值,以及所述指标类型对应的预设指标阈值;根据所述参数值与所述预设指标阈值的数值大小关系以及预设条件判断规则,判断所述节点是否符合权重调节条件;若符合,则确定所述节点对应的权重调节类型,并根据所述权重调节类型对应的权重调节规则对所述初始权重进行调整,以得到所述节点的权重。由此,通过采集节点的实时性能参数,实时评估节点权重,可以使服务质量最优化,充分利用质量较高节点,对质量较差节点进行降权拉黑,以达到对用户服务最优的效果。
相应的,本申请实施例还公开了一种服务器节点调度装置,参见图5所示,该装置包括:
权重确定模块11,用于根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;
分配模块12,用于根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;
判断模块13,用于基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;
调度模块14,用于若所述目标节点没有达到分配上限,则利用所述目标节点接收所述用户访问请求。
由上可见,本实施例中根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;若所述目标节点没有达到分配上限,则将所述用户访问请求分配给所述目标节点进行处理。可见,首先,以节点的初始配置带宽为权重,进行一次概率权重分配,可以使节点利用率均衡化,避免单一节点高负载,然后,在基于带宽数据和目标因子所述节点是否达到分配上限,即是否还可以被分配,若可以分配则利用该节点接收用户访问请求,可以避免服务总量过高超过节点可负荷量,实现对节点调度的精准控制,并且保证服务的质量,使节点利用率最大化。
在一些具体实施例中,所述权重确定模块11具体可以包括:
初始权重确定单元,用于获取所述服务器集群内每个节点对应的初始配置带宽,并将所述初始配置带宽作为所述节点的初始权重;
实时性能参数获取单元,用于获取所述服务器集群内每个节点对应的实时性能参数,并确定所述实时性能参数包含的每种指标类型对应的参数值,以及所述指标类型对应的预设指标阈值;
权重调节条件判断单元,用于根据所述参数值与所述预设指标阈值的数值大小关系以及预设条件判断规则,判断所述节点是否符合权重调节条件;
权重调整单元,用于若符合,则确定所述节点对应的权重调节类型,并根据所述权重调节类型对应的权重调节规则对所述初始权重进行调整,以得到所述节点的权重。
在一些具体实施例中,所述权重调节条件判断单元具体可以用于若第一预设时长内所述参数值均大于所述预设指标阈值,或者,第一预设时长内所述参数值均小于所述预设指标阈值,且距离最近一次权重调节的时间间隔大于第二预设时长,则判定所述节点符合权重调节条件;
相应的,所述权重调整单元,包括:
第一调整单元,用于若第一预设时长内所述参数值均大于所述预设指标阈值,则确定所述节点对应的权重调节类型为上调,然后根据预设上调规则对所述初始权重进行调整;所述上调规则包括上调幅度和上调频率;
第二调整单元,用于若第一预设时长内所述参数值均小于所述预设指标阈值,且距离最近一次权重调节的时间间隔大于第二预设时长,则确定所述节点对应的权重调节类型为下调,然后根据预设下调规则对所述初始权重进行调整;所述下调规则包括下调幅度和下调频率。
在一些具体实施例中,所述服务器节点调度装置具体可以包括:
实际跑量获取单元,用于获取所述目标节点的实际跑量;
初始配置带宽调整单元,用于根据所述实际跑量调整所述目标节点对应的初始配置带宽。
在一些具体实施例中,所述服务器节点调度装置具体可以包括:
线路带宽判断单元,用于判断所述目标节点的所有线路是否均达到带宽上限;
目标线路确定单元,用于若线路带宽判断单元的判断结果为否,则获取每个未达到带宽上限的线路的跑满率,并将跑满率最低的线路作为目标线路执行所述访问请求;
目标节点分配启动单元,用于若线路带宽判断单元的判断结果为是,则执行所述根据所述分配概率为用户访问请求预分配对应的目标节点的步骤。
在一些具体实施例中,所述判断模块13具体可以包括:
带宽数据获取单元,用于按照预设间隔周期性采集所述目标节点对应的实际已服务带宽和最大服务带宽,并根据所述目标节点服务的业务特点预估单个用户使用服务时产生的实际使用带宽,以得到所述目标节点当前的带宽数据;
最大分配次数预测单元,用于计算所述最大服务带宽与所述实际已服务带宽的差值,以及所述实时带宽数据与所述目标因子的乘积,并根据所述差值与所述乘积的比值预测得到当前周期内所述目标节点的最大分配次数;
分配上限判断单元,用于获取当前周期内所述目标节点的已分配次数,并根据所述已分配次数和所述最大分配次数之间的数值大小关系,判断所述目标节点是否达到分配上限。
在一些具体实施例中,所述服务器节点调度装置具体可以包括:
历史目标因子获取单元,用于获取最近一次确定的所述目标节点对应的历史目标因子;其中,若所述最近一次确定为初次确定,则所述历史目标因子的数值为针对所述目标节点预设初始值;
平均跑满率获取单元,用于获取预设时间段内所述目标节点对应的平均跑满率;
上调单元,用于若所述平均跑满率大于第一预设阈值,且在所述预设时间段内跑满率递增,则在预设调整范围内按照第一预设幅度对所述历史目标因子的数值进行上调,以确定所述目标节点当前对应的目标因子;
下调单元,用于若所述平均跑满率小于第二预设阈值,且在所述预设时间段内存在达到分配上限的情况,则在预设调整范围内按照第二预设幅度对所述历史目标因子的数值进行下调,以确定所述目标节点当前对应的目标因子。
进一步的,本申请实施例还公开了一种电子设备,参见图6所示,图中的内容不能被认为是对本申请的使用范围的任何限制。
图6为本申请实施例提供的一种电子设备20的结构示意图。该电子设备20,具体可以包括:至少一个处理器21、至少一个存储器22、电源23、通信接口24、输入输出接口25和通信总线26。其中,所述存储器22用于存储计算机程序,所述计算机程序由所述处理器21加载并执行,以实现前述任一实施例公开的服务器节点调度方法中的相关步骤。
本实施例中,电源23用于为电子设备20上的各硬件设备提供工作电压;通信接口24能够为电子设备20创建与外界设备之间的数据传输通道,其所遵循的通信协议是能够适用于本申请技术方案的任意通信协议,在此不对其进行具体限定;输入输出接口25,用于获取外界输入数据或向外界输出数据,其具体的接口类型可以根据具体应用需要进行选取,在此不进行具体限定。
另外,存储器22作为资源存储的载体,可以是只读存储器、随机存储器、磁盘或者光盘等,其上所存储的资源包括操作***221、计算机程序222及包括分配概率在内的数据223等,存储方式可以是短暂存储或者永久存储。
其中,操作***221用于管理与控制电子设备20上的各硬件设备以及计算机程序222,以实现处理器21对存储器22中海量数据223的运算与处理,其可以是Windows Server、Netware、Unix、Linux等。计算机程序222除了包括能够用于完成前述任一实施例公开的由电子设备20执行的服务器节点调度方法的计算机程序之外,还可以进一步包括能够用于完成其他特定工作的计算机程序。
进一步的,本申请实施例还公开了一种计算机存储介质,所述计算机存储介质中存储有计算机可执行指令,所述计算机可执行指令被处理器加载并执行时,实现前述任一实施例公开的服务器节点调度方法步骤。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的一种服务器节点调度方法、装置、设备及介质进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种服务器节点调度方法,其特征在于,包括:
根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;
根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;
基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;
若所述目标节点没有达到分配上限,则将所述用户访问请求分配给所述目标节点进行处理。
2.根据权利要求1所述的服务器节点调度方法,其特征在于,所述根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重,包括:
获取所述服务器集群内每个节点对应的初始配置带宽,并将所述初始配置带宽作为所述节点的初始权重;
获取所述服务器集群内每个节点对应的实时性能参数,并确定所述实时性能参数包含的每种指标类型对应的参数值,以及所述指标类型对应的预设指标阈值;
根据所述参数值与所述预设指标阈值的数值大小关系以及预设条件判断规则,判断所述节点是否符合权重调节条件;
若符合,则确定所述节点对应的权重调节类型,并根据所述权重调节类型对应的权重调节规则对所述初始权重进行调整,以得到所述节点的权重。
3.根据权利要求2所述的服务器节点调度方法,其特征在于,所述根据所述参数值与所述预设指标阈值的数值大小关系以及预设条件判断规则,判断所述节点是否符合权重调节条件,包括:
若第一预设时长内所述参数值均大于所述预设指标阈值,或者,第一预设时长内所述参数值均小于所述预设指标阈值,且距离最近一次权重调节的时间间隔大于第二预设时长,则判定所述节点符合权重调节条件;
相应的,所述确定所述节点对应的权重调节类型,并根据所述权重调节类型对应的权重调节规则对所述初始权重进行调整,包括:
若第一预设时长内所述参数值均大于所述预设指标阈值,则确定所述节点对应的权重调节类型为上调,然后根据预设上调规则对所述初始权重进行调整;所述上调规则包括上调幅度和上调频率;
若第一预设时长内所述参数值均小于所述预设指标阈值,且距离最近一次权重调节的时间间隔大于第二预设时长,则确定所述节点对应的权重调节类型为下调,然后根据预设下调规则对所述初始权重进行调整;所述下调规则包括下调幅度和下调频率。
4.根据权利要求1所述的服务器节点调度方法,其特征在于,所述将所述用户访问请求分配给所述目标节点进行处理之后,还包括:
获取所述目标节点的实际跑量;
根据所述实际跑量调整所述目标节点对应的初始配置带宽。
5.根据权利要求1所述的服务器节点调度方法,其特征在于,所述将所述用户访问请求分配给所述目标节点进行处理之后,还包括:
判断所述目标节点的所有线路是否均达到带宽上限;
若否,则获取每个未达到带宽上限的线路的跑满率,并将跑满率最低的线路作为目标线路执行所述访问请求;
若是,则执行所述根据所述分配概率为用户访问请求预分配对应的目标节点的步骤。
6.根据权利要求1所述的服务器节点调度方法,其特征在于,所述基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限,包括:
按照预设间隔周期性采集所述目标节点对应的实际已服务带宽和最大服务带宽,并根据所述目标节点服务的业务特点预估单个用户使用服务时产生的实际使用带宽,以得到所述目标节点当前的带宽数据;
计算所述最大服务带宽与所述实际已服务带宽的差值,以及所述实时带宽数据与所述目标因子的乘积,并根据所述差值与所述乘积的比值预测得到当前周期内所述目标节点的最大分配次数;
获取当前周期内所述目标节点的已分配次数,并根据所述已分配次数和所述最大分配次数之间的数值大小关系,判断所述目标节点是否达到分配上限。
7.根据权利要求1至6任一项所述的服务器节点调度方法,其特征在于,所述目标因子的确定过程,包括:
获取最近一次确定的所述目标节点对应的历史目标因子;其中,若所述最近一次确定为初次确定,则所述历史目标因子的数值为针对所述目标节点预设初始值;
获取预设时间段内所述目标节点对应的平均跑满率;
若所述平均跑满率大于第一预设阈值,且在所述预设时间段内跑满率递增,则在预设调整范围内按照第一预设幅度对所述历史目标因子的数值进行上调,以确定所述目标节点当前对应的目标因子;
若所述平均跑满率小于第二预设阈值,且在所述预设时间段内存在达到分配上限的情况,则在预设调整范围内按照第二预设幅度对所述历史目标因子的数值进行下调,以确定所述目标节点当前对应的目标因子。
8.一种服务器节点调度装置,其特征在于,包括:
权重确定模块,用于根据服务器集群内每个节点对应的初始配置带宽,确定出每个所述节点的权重;
分配模块,用于根据所述权重得到每个节点对应的分配概率,并根据所述分配概率为用户访问请求预分配对应的目标节点;
判断模块,用于基于所述目标节点当前的带宽数据和目标因子,判断所述目标节点是否达到分配上限;所述目标因子为基于所述目标节点的分配量和跑满率确定的可调节参数;
调度模块,用于若所述目标节点没有达到分配上限,则利用所述目标节点接收所述用户访问请求。
9.一种电子设备,其特征在于,包括:
存储器,用于保存计算机程序;
处理器,用于执行所述计算机程序,以实现如权利要求1至7任一项所述的服务器节点调度方法。
10.一种计算机可读存储介质,其特征在于,用于存储计算机程序;其中计算机程序被处理器执行时实现如权利要求1至7任一项所述的服务器节点调度方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210687927.1A CN115102958A (zh) | 2022-06-17 | 2022-06-17 | 一种服务器节点调度方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210687927.1A CN115102958A (zh) | 2022-06-17 | 2022-06-17 | 一种服务器节点调度方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115102958A true CN115102958A (zh) | 2022-09-23 |
Family
ID=83291291
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210687927.1A Pending CN115102958A (zh) | 2022-06-17 | 2022-06-17 | 一种服务器节点调度方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115102958A (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160036924A1 (en) * | 2014-08-04 | 2016-02-04 | Microsoft Technology Licensing, Llc. | Providing Higher Workload Resiliency in Clustered Systems Based on Health Heuristics |
CN109032801A (zh) * | 2018-07-26 | 2018-12-18 | 郑州云海信息技术有限公司 | 一种请求调度方法、***及电子设备和存储介质 |
CN110290009A (zh) * | 2019-07-02 | 2019-09-27 | 深圳市网心科技有限公司 | 一种数据调度方法、装置及计算机可读存储介质 |
CN110769272A (zh) * | 2019-11-19 | 2020-02-07 | 深圳市网心科技有限公司 | 节点调整方法及其相关设备 |
CN112422610A (zh) * | 2020-09-11 | 2021-02-26 | 深圳市证通电子股份有限公司 | 一种基于分布式对象存储的智能网关方法和*** |
CN113504974A (zh) * | 2021-07-28 | 2021-10-15 | 中国工商银行股份有限公司 | 一种服务数据负载均衡方法及装置 |
CN114157673A (zh) * | 2021-11-30 | 2022-03-08 | 北京知道创宇信息技术股份有限公司 | Cdn***节点管理方法、装置、存储介质及电子设备 |
-
2022
- 2022-06-17 CN CN202210687927.1A patent/CN115102958A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160036924A1 (en) * | 2014-08-04 | 2016-02-04 | Microsoft Technology Licensing, Llc. | Providing Higher Workload Resiliency in Clustered Systems Based on Health Heuristics |
CN109032801A (zh) * | 2018-07-26 | 2018-12-18 | 郑州云海信息技术有限公司 | 一种请求调度方法、***及电子设备和存储介质 |
CN110290009A (zh) * | 2019-07-02 | 2019-09-27 | 深圳市网心科技有限公司 | 一种数据调度方法、装置及计算机可读存储介质 |
CN110769272A (zh) * | 2019-11-19 | 2020-02-07 | 深圳市网心科技有限公司 | 节点调整方法及其相关设备 |
CN112422610A (zh) * | 2020-09-11 | 2021-02-26 | 深圳市证通电子股份有限公司 | 一种基于分布式对象存储的智能网关方法和*** |
CN113504974A (zh) * | 2021-07-28 | 2021-10-15 | 中国工商银行股份有限公司 | 一种服务数据负载均衡方法及装置 |
CN114157673A (zh) * | 2021-11-30 | 2022-03-08 | 北京知道创宇信息技术股份有限公司 | Cdn***节点管理方法、装置、存储介质及电子设备 |
Non-Patent Citations (1)
Title |
---|
卫星;杨坚;奚宏生;: "一种基于访问概率预分配的流媒体集群动态副本更新算法", 中国科学技术大学学报, no. 09 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US4974256A (en) | Load balancing and overload control in a distributed processing telecommunications system | |
EP3547625B1 (en) | Method and system for sending request for acquiring data resource | |
WO2014139448A1 (en) | Systems and methods for quality of experience aware joint scheduling of buffered video on demand and best effort flows | |
US20090055835A1 (en) | System and Method for Managing License Capacity in a Telecommunication Network | |
CN106851747B (zh) | 一种移动通信***内动态资源分配方法和装置 | |
CN110858161A (zh) | 资源分配方法、装置、***、设备和介质 | |
US9405588B2 (en) | Cloud resource allocation system and method | |
CN112714029B (zh) | 一种内容分发网络带宽调度的方法、装置及设备 | |
CN105591795B (zh) | 一种带宽分配方法和装置 | |
CN109710412A (zh) | 一种基于动态反馈的Nginx负载均衡方法 | |
CN105897484A (zh) | 一种流量管理装置、服务器和方法 | |
CA2409904A1 (en) | Allocating access across shared communications medium | |
CN108449232B (zh) | 一种网速自适应控制的方法 | |
CN111614473A (zh) | 最高带宽可用idc确定方法、装置、***及电子设备 | |
CN109150756B (zh) | 一种基于sdn电力通信网的队列调度权值量化方法 | |
JP4990279B2 (ja) | 端末の送信電力を減少させるための無線資源の割り当て | |
CN114205316A (zh) | 一种基于电力业务的网络切片资源分配方法及装置 | |
EP1538790A2 (en) | Packet scheduling method using cumulative distribution function | |
KR20160111723A (ko) | 데이터 전송률 향상을 위한 다중 연결 제어 방법 및 장치 | |
CN110221917B (zh) | 用于分配流式数据的方法及装置 | |
CN111078386A (zh) | 一种分布式调度***的控制方法及控制装置 | |
CN112003790B (zh) | 智能学校使用网络流量的分配方法 | |
CN117608806A (zh) | 智能电网云边协同机制下计算任务雾-雾-云优化方法 | |
CN115102958A (zh) | 一种服务器节点调度方法、装置、设备及存储介质 | |
CN112948104B (zh) | 负载均衡的数据采集方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |