CN116886619A - 一种基于线性回归算法的负载均衡方法及装置 - Google Patents

一种基于线性回归算法的负载均衡方法及装置 Download PDF

Info

Publication number
CN116886619A
CN116886619A CN202310989595.7A CN202310989595A CN116886619A CN 116886619 A CN116886619 A CN 116886619A CN 202310989595 A CN202310989595 A CN 202310989595A CN 116886619 A CN116886619 A CN 116886619A
Authority
CN
China
Prior art keywords
data
server
weight
load
instance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310989595.7A
Other languages
English (en)
Inventor
赵冬媛
单强
李丽勤
尹政清
李思岩
赵婉
水治禹
宋涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Big Data Center
Original Assignee
Beijing Big Data Center
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Big Data Center filed Critical Beijing Big Data Center
Priority to CN202310989595.7A priority Critical patent/CN116886619A/zh
Publication of CN116886619A publication Critical patent/CN116886619A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1425—Traffic logging, e.g. anomaly detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明涉及一种基于线性回归算法的负载均衡方法及装置，包括如下步骤：在每台实例服务器上部署服务器负载数据采集模块，数据采集模块定时采集服务器的负载数据及服务调用日志数据，通过网络通信手段将负载数据传送给数据收集模块；数据收集模块将收集到的负载数据进行整理，以文本日志的形式存储到指定目录，每行记录分别包含服务器编号、CPU使用率、内存使用率、请求开始时间戳、接口响应时间，数据之间用逗号进行分隔；权重预测模块负责对收集到的数据进行统计整理，并使用线性回归算法进行负载权重预测，并将计算出的每一个实例服务器的权重值传送至策略转发模块；策略转发模块将服务请求根据负载权重转发到后端实例服务器。

Description

一种基于线性回归算法的负载均衡方法及装置
技术领域
本发明涉及网络化控制技术领域，特别涉及一种基于线性回归算法的负载均衡方法及装置。
背景技术
伴随着互联网飞速发展的势头，网络应用已涉及人们日常生活的方方面面，网络流量呈指数级增长，传统的单体Web服务器架构难以应付当前多网络环境下的高并发请求，服务器负载压力持续增加。与此同时，随着JavaScript、CSS、JSON以及其他多媒体技术的发展，如今的互联网数据传输类型已不再是简单的文本数据，图片和视频数据正处于快速增长阶段，其所占网络总流量百分比逐年快速上升，导致了骨干网带宽紧张和用户访问时延增加。
负载均衡是指通过特定的算法将流量分摊到多个操作单元上进行执行，提供了一种廉价有效透明的方法扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性，随着高并发***架构尤其是微信小程序的兴起，使得越来越多的应用程序需要将服务拆分为多个独立的子服务，以提高应用程序的可伸缩性和可用性。
传统的负载均衡算法主要分为静态和动态两类，然而在处理高并发***架构下的负载均衡时存在一些问题，例如无法根据实际需求动态分配资源、无法适应高并发***架构的需求等，负载均衡技术主要依赖于虚拟机或服务器端的硬件资源，无法根据实际需求动态分配资源，因此无法适应高并发***架构的需求。动态负载均衡和静态负载均衡都有自身的优缺点，静态算法稳定、快速，但过于死板，不能针对服务器负载情况进行合理的调整，不利于服务器资源的最大化利用；虽然动态负载均衡算法在一定程度上弥补了静态算法的不足，但仅仅关注连接数等参数，这些参数并不能直接地反映服务器的负载情况，由此导致忽略了后端服务器的负载响应，无法知悉所有服务器的真实性能，导致负载分配往往不够合理。
发明内容
本发明的目的在于克服现有技术的缺陷，提供一种基于线性回归算法的负载均衡方法及装置。
为达到上述目的，本发明的技术方案是这样实现的：
第一方面，本发明提供了一种基于线性回归算法的负载均衡方法，包括如下步骤：
S1、在每台实例服务器上部署服务器负载数据采集模块，数据采集模块定时采集服务器的负载数据及服务调用日志数据，通过网络通信手段将负载数据传送给数据收集模块。
S2、数据收集模块将收集到的负载数据进行整理，以文本日志的形式存储到指定目录，每行记录分别包含服务器编号、CPU使用率、内存使用率、请求开始时间戳、接口响应时间，数据之间用逗号进行分隔。
S3、权重预测模块负责对收集到的数据进行统计整理，并使用线性回归算法进行负载权重预测，并将计算出的每一个实例服务器的权重值传送至策略转发模块。
S4、策略转发模块将服务请求根据负载权重转发到后端实例服务器。
第二方面，本发明提供了一种基于线性回归算法的负载均衡装置，包括：
数据采集模块：负责定时采集服务器的负载数据及服务调用日志数据，通过网络通信手段将负载数据传送给数据收集模块；
数据收集模块：负责将收集到的服务端数据进行整理，以日志的形式进行存储，每行记录分别包含服务器编号、CPU使用率、内存使用率、请求开始时间戳、接口响应时间；
权重预测模块：负责对收集到的数据进行统计整理，并使用线性回归算法进行负载权重预测；
策略转发模块：负责将服务请求根据负载权重转发到后端服务器。
本发明具有以下有益效果：本发明提供的一种基于线性回归算法的智能动态负载均衡方法，将传统负载均衡策略与机器学习算法相结合，预测服务器的负载情况从而合理有效地自动配置负载均衡参数，提高负载均衡的性能，充分压榨实例服务器的性能；使用线性回归算法准实时预测调整权重，重构了负载均衡策略。使得负载均衡的配置大大降低了人为的干预，参数更加合理，充分挖掘后端服务器的最大性能，提高了整个***的吞吐量。计算过程成熟稳定，且是定时触发，对服务器资源消耗较小。
附图说明
图1是本发明的基于线性回归算法的负载均衡方法的流程图。
图2是本发明的基于线性回归算法的负载均衡方法中步骤S3的流程图。
图3是本发明的基于线性回归算法的负载均衡方法中步骤S4的流程图。
图4是本发明数据传递示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
本技术领域技术人员可以理解，除非另外定义，这里使用的所有术语(包括技术术语和科学术语)，具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是，诸如通用字典中定义的那些术语，应该被理解为具有与现有技术的上下文中的意义一致的意义，并且除非被特定定义，否则不会用理想化或过于正式的含义来解释。
图1-4示意性示出了本发明一个实施例的基于线性回归算法的负载均衡方法的流程图。参照图1，本发明实施例提出的基于线性回归算法的负载均衡方法，包括如下步骤：
S1、在每台实例服务器上部署服务器负载数据采集模块，数据采集模块定时采集服务器的负载数据及服务调用日志数据，通过网络通信手段将负载数据传送给数据收集模块；
S2、数据收集模块将收集到的负载数据进行整理，以文本日志的形式存储到指定目录，每行记录分别包含服务器编号、CPU使用率、内存使用率、请求开始时间戳、接口响应时间，数据之间用逗号进行分隔，例如：“sever1,0.82,0.70,1681880513,250”表示某请求在server1主机上的响应时间为250ms，CPU使用率82％，内存使用率70％。每个数据文件记录小于8000条，达到最大值时则关闭当前文件并创建新的文件。
S3、权重预测模块负责对收集到的数据进行统计整理，并使用线性回归算法进行负载权重预测，并将计算出的每一个实例服务器的权重值传送至策略转发模块。如图2所示，具体包括如下步骤：
S31、初始化计时器，使其以初始采样周期T触发。
S32、计时器到达初始采样周期时，扫描并分析实例服务器的日志数据，利用线性回归模型预测其响应时间。
S321、对样本集数据按服务器编号进行分类，然后计算出每一时刻t请求所耗费的时间。
S322、对样本数据进行整理，计算出每台服务器从t1至tn时刻每个时间点的响应时长，采用典型的线性回归模型进行预测，其训练模型y＝wx+b，x∈t(1≤t≤n)为模型自变量，y为模型因变量，w为权重值，b为偏置值。现需要通过样本数据的训练来获取w和b的值。为了找到最佳的直线来拟合这些数据，通常引入一个代价函数作为衡量标准，其数学表达式为：
损失函数Loss为n个样本的预测值(wxi+b)与实际值yi之间的欧式距离。欧式距离最小的直线是拟合最好的直线，所以求取w和b值的问题转变为w和b取何值时损失函数Loss最小的问题。由于损失函数是一个凸函数，因而采用梯度下降法进行求解，其求解步骤如下：
S3221、加载训练数据集，以及设置算法运行超参数，设置如下：
训练数据集x＝{x1，x2，xi，…，xn}；
x对应的目标值y＝{y1，y2，yi，…，yn}；
权重值w＝随机数(例如0.1)；
偏置值b＝随机数(例如0.1)；
学习速率η＝0.00002(经验值)；
迭代次数its＝80(经验值)。
S3222、执行迭代：计算第i个训练数据的权重值w和偏置值b相对于损失函数的梯度，参考下列公式。
计算得到梯度，更新每个样本的权重值和偏置值，参考式以下公式。
将得到的w和b代入以下公式，用集合运算方法算出每个样本的预测值。
pred＝w*x+b
计算损失函数，当损失函数值满足精度要求或达到最大迭代次数时，记录w和b，并退出循环。
S3223、退出算法并返回w和b。
S323、将已确定的w和b代入y＝wx+b计算出tn+1起至下一个采样周期内该实例服务器的响应时间。
S33、根据步骤S32预测出的响应时间计算每个服务器的权重值。
计算出的响应时间越短说明实例服务器负载能力越强，权重越大。可采用最大公倍数法计算每一个实例服务器的计算权重值，计算方式参考以下公式，结果保留一位小数。
S34、将计算出的每一个实例服务器的计算权重值传送至策略转发模块。
S35、计算下一次采样触发周期。
计算出来的权重值jwi与上一周期的权重值jwi′绝对差值越小，说明预测得越准，则距离下一次的预测时间越长，使用下面公式计算下一个采样触发周期的时长。
S4、策略转发模块将服务请求根据负载权重转发到后端实例服务器。如图3所示，具体包括如下步骤：
S41、策略转发模块变量初始化，由于无法准确知道后端每个实例服务器的负载能力，可简单地根据硬件配置情况配置初始权重值，以硬件配置最低的实例为参考基准，设置为1。
设有N台服务器S＝{S1，S2，Si，...，Sn}，现作如下变量设置：
根据硬件配置每台服务器的初始权重值：W＝{W1，W2，Wi，...，Wn}；
有效权重：CW＝{CW1，CW2，CWi，...，CWn}。
以上为每个实例服务器Si除了存在一个初始权重值Wi外，还存在一个当前有效权重CWi，且令CWi初始化为Wi，即CWi＝Wi。
指示变量currentPos＝-1，表示当前选择的实例id初始化为-1。
初始权重和：ws＝W1+W2+W3+...+Wn.
S42、选出当前有效权重最大的实例服务器，将当前有效权重CWi减去所有实例服务器的初始权重和ws，且变量currentPos指向此位置。
i＝MAX(CW)
CW＝{CWi-ws}
currentPos＝index(i)
S43、将每个实例服务器Si的当前有效权重CWi都加上初始权重值Wi；
CWi＝CWi+Wi。
S44、向变量currentPos指向的实例服务器转发服务请求。
S45、判断是否满足转发条件，即当前有效权重CW是否为{0，0，…，0}，且是否已经进行(2n-1)次有效转发，n为后端实例服务器数量。
S451、满足转发条件则进一步检查是否有权重预测模块传过来的权重值。如果有，则用每台实例服务器的计算权重值替换对应的初始权重值，重复步骤S41-S44，否则继续执行；
S452、不满足转发条件则继续执行。
S46、每次调度即计时器到达采样周期时，重复上述步骤S42-S45。
另一实施例公开了与上述公开的一种基于线性回归算法的负载均衡方法对应的装置，为该方法对应的虚拟装置结构，包括：
数据采集模块：负责定时采集服务器的负载数据及服务调用日志数据，通过网络通信手段将负载数据传送给数据收集模块；
数据收集模块：负责将收集到的服务端数据进行整理，以日志的形式进行存储，每行记录分别包含服务器编号、CPU使用率、内存使用率、请求开始时间戳、接口响应时间；
权重预测模块：负责对收集到的数据进行统计整理，并使用线性回归算法进行负载权重预测；
策略转发模块：负责将服务请求根据负载权重转发到后端服务器。
通过以上关于实施方式的描述，所属领域的技术人员可以清楚地了解到，本发明可借助软件及必需的通用硬件来实现，当然也可以通过硬件实现，但很多情况下前者是更佳的实施方式。这样的理解，本发明的技术方案本质上或者说对现有技术作出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如计算机的软盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random AccessMemory，RAM)、闪存(FLASH)、硬盘或光盘等，包括若干指令用以使得一台电子设备(可以是手机，个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
值得注意的是，上述一种基于线性回归算法的负载均衡装置实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。
本领域的技术人员能够理解，尽管在此的一些实施例包括其他实施例中所包括的某些特征而不是其他特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以任意的组合方式来使用。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (9)

1.一种基于线性回归算法的负载均衡方法，其特征在于，包括如下步骤：
S1、在每台实例服务器上部署负载数据采集模块，数据采集模块定时采集服务器的负载数据及服务调用日志数据，通过网络通讯手段将负载数据传送给数据收集模块；
S2、数据收集模块将收集到的负载数据进行整理，以文本日志的形式存储到指定目录，每行记录分别包含服务器编号、CPU使用率、内存使用率、请求开始时间戳、接口响应时间，数据之间用逗号进行分隔；
S3、权重预测模块负责对收集到的数据进行统计整理，并使用线性回归算法进行负载权重预测，并将计算出的每一个实例服务器的权重值传送至策略转发模块；
S4、策略转发模块将服务请求根据负载权重转发到后端实例服务器。
2.根据权利要求1所述的一种基于线性回归算法的负载均衡方法，其特征在于：在步骤S3中，权重预测模块的具体调度步骤如下：
S31、初始化计时器，使其以固定采样周期触发，假设触发周期为T；
S32、计时器到达采样周期时，扫描并分析实例服务器的日志数据，从而预测其响应时间；
S33、根据步骤S32预测出的响应时间调整每个服务器的权重值；
S34、将计算出的每一个实例服务器的权重值传送至策略转发模块；
S35、计算下一次触发时间。
3.根据权利要求2所述的一种基于线性回归算法的负载均衡方法，其特征在于：在步骤S32中，预测响应时间的具体步骤如下：
S321、对样本集数据按服务器编号进行分类，然后计算出每一时刻t请求所耗费的时间；
S322、对样本数据进行整理，计算出每台服务器从t1至tn时刻每个时间点的响应时长，采用典型的线性回归模型进行预测，其训练模型y＝wx+b，x∈t(1≤t≤n)x为模型自变量，y为模型因变量，w为权重，b为偏置量；
通过样本数据的训练来获取w和b的值，引入一个代价函数作为衡量标准，其数学表达式为：
损失函数Loss为n个样本的预测值(wxi+b)与实际值yi之间的欧式距离；欧式距离最小的直线是拟合最好的直线，因此损失函数Loss最小时，求取w和b值；
S323、将已确定的w和b代入y＝wx+b计算出tn+1起至下一个采样周期内该实例服务器的响应时间。
4.根据权利要求3所述的一种基于线性回归算法的负载均衡方法，其特征在于：所述损失函数是一个凸函数，采用梯度下降法进行求解。
5.根据权利要求4所述的一种基于线性回归算法的负载均衡方法，其特征在于：其具体求解步骤如下：
S3221、加载训练数据集，以及设置算法运行超参数，设置如下：
训练数据集x＝{x1，x2，xi，…，xn}；
x对应的目标值y＝{y1，y2，yi，…，yn}；
权重值w＝随机数；
偏置值b＝随机数；
学习速率η＝0.00002；
迭代次数its＝80；
S3222、执行迭代：计算第i个训练数据的权重w和偏置b相对于损失函数的梯度，使用下列公式：
计算得到梯度，更新每个样本的权重值和偏置值，使用下列公式：
将得到的w和b代入以下公式，用集合运算方法算出每个样本的预测值：
pred＝w*x+b
计算损失函数，当损失函数值满足精度要求或达到最大迭代次数时，记录w和b，并退出循环；
S3223、退出算法并返回w和b。
6.根据权利要求2所述的一种基于线性回归算法的负载均衡方法，其特征在于：在步骤S33中，用最大公倍数法计算每一个实例服务器的权重，计算方式如下，结果保留一位小数：
jwi为计算权重。
7.根据权利要求6所述的一种基于线性回归算法的负载均衡方法，其特征在于：在步骤S35中，使用下面公式计算下一个触发周期的时长：
8.根据权利要求1所述的一种基于线性回归算法的负载均衡方法，其特征在于：在步骤S4中，策略转发模块的具体调度步骤如下：
S41、策略转发模块变量初始化，根据硬件配置情况配置初始权重值，以硬件配置最低的实例为参考基准，设置为1；
设有N台实例服务器S＝{S1，S2，Si，...，Sn}，现作如下变量设置：
根据硬件配置每台实例服务器的初始权重值：W＝{W1，W2，Wi，...，Wn}；
有效权重：CW＝{CW1，CW2，CWi，...，CWn}；
以上为每个实例服务器Si除了存在一个初始权重值Wi外，还存在一个当前有效权重CWi，且令CWi初始化为Wi，即CWi＝Wi；
指示变量currentPos＝－1，表示当前选择的实例id初始化为-1；
初始权重和：ws＝W1+W2+W3+…+Wn；
S42、选出当前有效权重最大的实例服务器，将当前有效权重CWi减去所有实例服务器的初始权重和ws，且变量currentPos指向此位置；
i＝MAX(CW)
CW＝{CWi-ws}
currentPos＝index(i)
S43、将每个实例服务器Si的当前有效权重CWi都加上初始权重值Wi；
CWi＝CWi+Wi；
S44、向变量currentPos指向的实例服务器转发服务请求；
S45、判断是否满足转发条件，即当前有效权重CW是否为{0，0，…，0}，且是否已经进行(2n-1)次有效转发，n为后端实例服务器数量；
S451、满足转发条件则进一步检查是否有权重预测模块传过来的计算权重值，如果有，则用每台实例服务器的计算权重值替换对应的初始权重值，重复步骤S41-S44，否则继续；
S452、不满足转发条件则继续执行；
S46、每次调度即计时器到达采样周期时，重复上述步骤S42-S45。
9.一种基于线性回归算法的负载均衡装置，其特征在于，包括：
数据采集模块：负责定时采集服务器的负载数据及服务调用日志数据，通过网络通信手段将负载数据传送给数据收集模块；
数据收集模块：负责将收集到的服务端数据进行整理，以日志的形式进行存储，每行记录分别包含服务器编号、CPU使用率、内存使用率、请求开始时间戳、接口响应时间；
权重预测模块：负责对收集到的数据进行统计整理，并使用线性回归算法进行负载权重预测；
策略转发模块：负责将服务请求根据负载权重转发到后端服务器。
CN202310989595.7A 2023-08-08 2023-08-08 一种基于线性回归算法的负载均衡方法及装置 Pending CN116886619A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310989595.7A CN116886619A (zh) 2023-08-08 2023-08-08 一种基于线性回归算法的负载均衡方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310989595.7A CN116886619A (zh) 2023-08-08 2023-08-08 一种基于线性回归算法的负载均衡方法及装置

Publications (1)

Publication Number Publication Date
CN116886619A true CN116886619A (zh) 2023-10-13

Family

ID=88268174

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310989595.7A Pending CN116886619A (zh) 2023-08-08 2023-08-08 一种基于线性回归算法的负载均衡方法及装置

Country Status (1)

Country Link
CN (1) CN116886619A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117130870A (zh) * 2023-10-26 2023-11-28 成都乐超人科技有限公司 面向Java架构微服务***的透明请求追踪及采样方法和装置
CN117149099A (zh) * 2023-10-31 2023-12-01 江苏华鲲振宇智能科技有限责任公司 一种计算存储分体式服务器***及控制方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117130870A (zh) * 2023-10-26 2023-11-28 成都乐超人科技有限公司 面向Java架构微服务***的透明请求追踪及采样方法和装置
CN117130870B (zh) * 2023-10-26 2024-01-26 成都乐超人科技有限公司 面向Java架构微服务***的透明请求追踪及采样方法和装置
CN117149099A (zh) * 2023-10-31 2023-12-01 江苏华鲲振宇智能科技有限责任公司 一种计算存储分体式服务器***及控制方法
CN117149099B (zh) * 2023-10-31 2024-03-12 江苏华鲲振宇智能科技有限责任公司 一种计算存储分体式服务器***及控制方法

Similar Documents

Publication Publication Date Title
CN116886619A (zh) 一种基于线性回归算法的负载均衡方法及装置
CN107592345B (zh) 交易限流装置、方法及交易***
CN109978177B (zh) 模型训练方法、业务处理方法、装置及相关设备
US11341097B2 (en) Prefetching based on historical use and real-time signals
CN115118602B (zh) 一种基于使用量预测的容器资源动态调度方法及***
WO2017152734A1 (zh) 一种数据处理方法及相关设备、***
CN113938488A (zh) 一种基于动静态加权轮询的负载均衡方法
CN111629052B (zh) 基于mec的内容缓存方法、节点、设备及存储介质
Lai et al. Oort: Informed participant selection for scalable federated learning
CN112398700B (zh) 一种服务降级方法及装置、存储介质、计算机设备
Li et al. Method of resource estimation based on QoS in edge computing
CN108647329A (zh) 用户行为数据的处理方法、装置及计算机可读存储介质
Xu et al. Modeling buffer starvations of video streaming in cellular networks with large-scale measurement of user behavior
CN113705981A (zh) 一种基于大数据的异常监测的方法及装置
CN113902116A (zh) 一种面向深度学习模型推理批处理优化方法与***
Zhang et al. Optimizing video caching at the edge: A hybrid multi-point process approach
Zhou et al. Cushion: A proactive resource provisioning method to mitigate SLO violations for containerized microservices
US20220067569A1 (en) Data Management Forecasting from Distributed Tracing
Aguilar-Armijo et al. ECAS-ML: Edge computing assisted adaptation scheme with machine learning for HTTP adaptive streaming
Ran et al. SSR: Joint optimization of recommendation and adaptive bitrate streaming for short-form video feed
Al Muktadir et al. Prediction and dynamic adjustment of resources for latency-sensitive virtual network functions
CN112003900B (zh) 实现分布式***中高负载场景下服务高可用的方法、***
CN114297099A (zh) 数据缓存优化方法及装置、非易失性存储介质、电子设备
Cong et al. Impact of prediction uncertainty of popularity distribution on proactive caching
Jehangiri et al. Distributed predictive performance anomaly detection for virtualised platforms

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination