CN113485825A - 一种服务器负载均衡方法及相关设备 - Google Patents
一种服务器负载均衡方法及相关设备 Download PDFInfo
- Publication number
- CN113485825A CN113485825A CN202110570918.XA CN202110570918A CN113485825A CN 113485825 A CN113485825 A CN 113485825A CN 202110570918 A CN202110570918 A CN 202110570918A CN 113485825 A CN113485825 A CN 113485825A
- Authority
- CN
- China
- Prior art keywords
- server
- score
- weight
- throughput
- performance data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 230000004044 response Effects 0.000 claims abstract description 85
- 238000004590 computer program Methods 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims 1
- 238000012795 verification Methods 0.000 claims 1
- 230000001052 transient effect Effects 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本申请实施例提供了一种服务器负载均衡方法及相关设备，属于车辆充电的技术领域，解决了现有方案中车辆进行充电时，服务器性能指标不全面，未考虑短暂极限场景而带来服务器负载偏移的问题。所述方法包括：获取服务器的服务器性能数据，其中，所述服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；设置所述服务器性能数据中每一项数据的权重；计算所述服务器性能数据中每一项数据的评分；根据所述权重与所述评分得到所述服务器的总分值；根据不同服务器的总分值生成调度规则。
Description
技术领域
本申请实施例涉及车辆充电技术领域，尤其是涉及一种服务器负载均衡方法及相关设备。
背景技术
现有技术中，在实现负载均衡时，服务治理控件或组件都提供有常用的负载算法，上述负载算法是基于常规场景进行提取而来的，因此各个客户端对于服务器来说都是黑盒，只能根据吞吐量、响应时长、失败次数、处理事务数、硬件资源，根据业务场景制定算法规则，最后按照规则选择一个最优者进行调用。由于黑盒原因，性能指标不全面，短暂极限场景等，都可能造成服务负载偏移的情况。所以需要调用端实时了解各个客户端的全面性能指标，根据服务提供者的性能指标来进行服务提供者的选择，实现正真的负载均衡。
发明内容
本申请实施例的目的在于提供一种服务器负载均衡方法，解决了现有技术中服务负载偏移的技术问题。
第一方面，本申请实施例提供一种服务器负载均衡方法，包括：
获取每个服务器的实时服务器性能数据，其中，上述实时服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；
根据阈值设置上述实时服务器性能数据中每一项数据的权重；
根据上述实时服务器性能数据与预设性能评分列表计算上述实时服务器性能数据中每一项数据的评分；
根据上述权重与上述评分得到每个上述服务器的总分值；
根据每个服务器的总分值生成调度规则。
可选的，上述根据阈值设置上述服务器性能数据中每一项数据的权重的步骤，包括：
根据阈值设置上述吞吐量的权重，其中，上述吞吐量包括：平均吞吐量、极限吞吐量和吞吐量中位数；
根据阈值设置上述响应时长的权重，其中，上述响应时长包括：平均响应时长、极限响应时长和响应时长中位数；
根据阈值设置上述硬件资源数据的权重，其中，上述硬件资源数据包括：处理器占用率、内存占用率、磁盘输入输出占用率和网络占用率。
可选的，上述根据阈值设置上述服务器性能数据中每一项数据的权重的步骤，包括：
根据第一阈值设置上述吞吐量的权重；
根据第二阈值分别设置上述平均吞吐量、上述极限吞吐量和上述吞吐量中位数的权重；
根据上述第一阈值设置上述响应时长的权重；
根据上述第三阈值分别设置上述平均响应时长、上述极限响应时长和上述响应时长中位数的权重；
根据上述第一阈值设置上述硬件资源数据的权重；
根据上述第四阈值分别设置上述处理器占用率、上述内存占用率、上述磁盘输入输出占用率和上述网络占用率的权重。
可选的，上述根据上述实时服务器性能数据与预设性能评分列表计算上述服务器性能数据中每一项数据的评分的步骤，包括：
根据上述服务器性能数据与上述预设性能评分列表分别计算上述平均吞吐量、上述极限吞吐量和上述吞吐量中位数的评分；
根据上述服务器性能数据与上述预设性能评分列表分别计算上述平均响应时长、上述极限响应时长和上述响应时长中位数的评分；
根据上述服务器性能数据与上述预设性能评分列表分别计算上述处理器占用率、上述内存占用率、上述磁盘输入输出占用率和上述网络占用率的评分。
可选的，在上述根据上述权重与上述评分得到每个上述服务器的总分值的步骤之前，还包括：
对上述吞吐量、上述响应时长和上述硬件资源数据的一致性进行校验；
若上述吞吐量、上述响应时长和上述硬件资源数据的一致性校验通过，则计算上述服务器的总分值。
可选的，上述根据每个服务器的总分值生成调度规则的步骤，包括：
根据每个服务器的总分值确定上述每个服务器的权重；
根据每个服务器的权重生成上述调度规则。
可选的，还包括：
获取调用请求信息；
根据上述调用请求信息获取服务器列表；
根据上述服务器列表与上述调度规则获取待调用服务器；
根据上述调用请求信息调用上述待调用服务器。
第二方面，本申请实施例提供了一种服务器负载均衡装置，包括：
数据采集模块，用于获取每个服务器的服务器性能数据，其中，上述服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；
权重模块，用于根据阈值设置上述服务器性能数据中每一项数据的权重；
评分模块，用于根据上述服务器性能数据计算上述服务器性能数据中每一项数据的评分；
计算模块，用于根据上述权重与上述评分得到每个上述服务器的总分值；
规则生成模块，用于根据每个服务器的总分值生成调度规则。
第三方面，本申请实施例提供了一种电子设备，包括：储存器、处理器以及存储在上述存储器中并可在上述处理器上运行的计算机程序，其特征在于，上述处理器用于执行存储器中存储的计算机程序时实现如上述的服务器负载均衡方法的步骤。
第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，其特征在于：上述计算机程序被处理器执行时实现如上述的服务器负载均衡方法的步骤。
本申请实施例提供的一种服务器负载均衡方法，通过获取每个服务器的实时服务器性能数据，其中，上述实时服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；根据阈值设置上述实时服务器性能数据中每一项数据的权重；根据上述实时服务器性能数据与预设性能评分列表计算上述实时服务器性能数据中每一项数据的评分；根据上述权重与上述评分得到每个上述服务器的总分值；根据每个服务器的总分值生成调度规则。实时了解各个客户端的全面性能指标，根据各个客户端的实时状态制定负载算法，避免了极限状态下，采用常规负载算法带来的负载均衡不准确的问题。同时，可以避免了升级时中断充电服务的问题，可以为用户提供7×24小时不间断服务，提升了用户充电体验，提高了服务的资源利用率，减少了企业购买服务器的成本。
附图说明
为了更清楚地说明本申请实施例具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请实施例的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的服务器负载均衡方法流程图；
图2为本申请实施例提供的服务器性能指标分类示意图；
图3为本申请实施例提供的服务器负载均衡装置的示意图；
图4为本申请实施例提供的一种存储电子设备结构示意图；
图5为本申请实施例提供的一种计算机可读存储介质结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施例的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请实施例一部分实施例，而不是全部的实施例。基于本申请实施例中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请实施例保护的范围。
本申请实施例中所提到的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、***、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括其他没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
本申请实施例提供一种服务器负载均衡方法，如图1所示，包括：
S101：获取每个服务器的实时服务器性能数据，其中，上述实时服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；
在一种可能的实施方式中，如图2所示，上述根据阈值设置上述服务器性能数据中每一项数据的权重的步骤，包括：
根据阈值设置上述吞吐量的权重，其中，上述吞吐量包括：平均吞吐量、极限吞吐量和吞吐量中位数；
根据阈值设置上述响应时长的权重，其中，上述响应时长包括：平均响应时长、极限响应时长和响应时长中位数；
根据阈值设置上述硬件资源数据的权重，其中，上述硬件资源数据包括：处理器占用率、内存占用率、磁盘输入输出占用率和网络占用率。
示例性的，根据上述平均吞吐量、上述极限吞吐量和上述吞吐量中位数计算得出上述吞吐量，避免了采用单一数据的偶然性，使得最优服务提供者的选择更加准确。
同理的，根据上述平均响应时长、上述极限响应时长和上述响应时长中位数计算上述响应时长，避免了采用单一数据的偶然性，使得最优服务提供者的选择更加准确。根据上述处理器CPU占用率、上述内存占用率、上述磁盘输入输出IO占用率和上述网络占用率计算得到上述硬件资源数据，避免了采用单一数据的偶然性，使得最优服务提供者的选择更加准确。
S102：根据阈值设置上述实时服务器性能数据中每一项数据的权重；
在一种可能的实施方式中，上述根据阈值设置上述服务器性能数据中每一项数据的权重的步骤，包括：
根据第一阈值设置上述吞吐量的权重；
根据第二阈值分别设置上述平均吞吐量、上述极限吞吐量和上述吞吐量中位数的权重；
根据上述第一阈值设置上述响应时长的权重；
根据上述第三阈值分别设置上述平均响应时长、上述极限响应时长和上述响应时长中位数的权重；
根据上述第一阈值设置上述硬件资源数据的权重；
根据上述第四阈值分别设置上述处理器占用率、上述内存占用率、上述磁盘输入输出占用率和上述网络占用率的权重。
示例性的，如图3所示，根据第一阈值设置上述吞吐量的权重为60；
根据第二阈值分别设置上述平均吞吐量的权重为40、上述极限吞吐量的权重为30和上述吞吐量中位数的权重为30；
根据上述第一阈值设置上述响应时长的权重为20；
根据上述第三阈值分别设置上述平均响应时长的权重为40、上述极限响应时长的权重为30和上述响应时长中位数的权重为30；
根据上述第一阈值设置上述硬件资源数据的权重为20；
根据上述第四阈值分别设置上述处理器CPU占用率的权重为30、上述内存占用率的权重为30、上述磁盘输入输出io占用率的权重为20和上述网络占用率的权重为20。
通过不同的阈值设置，获取上述服务器的综合性能，便于后续为服务器评分更准确，更合理。
S103：根据上述实时服务器性能数据与预设性能评分列表计算上述实时服务器性能数据中每一项数据的评分；
在一种可能的实施方式中，上述根据上述实时服务器性能数据与预设性能评分列表计算上述服务器性能数据中每一项数据的评分的步骤，包括：
根据上述服务器性能数据与上述预设性能评分列表分别计算上述平均吞吐量、上述极限吞吐量和上述吞吐量中位数的评分；
根据上述服务器性能数据与上述预设性能评分列表分别计算上述平均响应时长、上述极限响应时长和上述响应时长中位数的评分；
根据上述服务器性能数据与上述预设性能评分列表分别计算上述处理器占用率、上述内存占用率、上述磁盘输入输出占用率和上述网络占用率的评分。
示例性的，根据上述服务器性能数据与上述预设性能评分列表分别计算上述平均吞吐量、上述极限吞吐量和上述吞吐量中位数的评分，其中，上述平均吞吐量为0-30时，上述平均吞吐量的评分为10分；上述平均吞吐量为30-60时，上述平均吞吐量的评分为50分；上述平均吞吐量为60-200时，上述平均吞吐量的评分为100分；上述极限吞吐量小于30时，上述极限吞吐量的评分为10分；上述极限吞吐量为30到60时，上述极限吞吐量的评分为50分；上述极限吞吐量在60以上时，上述极限吞吐量的评分为100分；上述吞吐量中位数为0-30时，上述吞吐量中位数的评分为10分；上述吞吐量中位数为30-60时，上述吞吐量中位数的评分为50分；上述吞吐量中位数为60-200时，上述吞吐量中位数的评分为100分；
根据上述服务器性能数据与上述预设性能评分列表分别计算上述平均响应时长、上述极限响应时长和上述响应时长中位数的评分；上述平均响应时长小于20毫秒时，上述平均响应时长的评分为100分；上述平均响应时长在20-50毫秒时，上述平均响应时长的评分为50分；上述平均响应时长在50毫秒以上时，上述平均响应时长的评分为10分；上述极限响应时长超过100毫秒小于1％时，上述极限响应时长的评分为100分；上述极限响应时长超过100毫秒小于5％时，上述极限响应时长的评分为50分；上述极限响应时长超过100毫秒大于5％时，上述极限响应时长的评分为10分；上述响应时长中位数在0-20时，上述响应时长中位数的评分为100分；上述响应时长中位数在20-50时，上述响应时长中位数的评分为50分；上述响应时长中位数在大于50时，上述响应时长中位数的评分为10分；
根据上述服务器性能数据与上述预设性能评分列表分别计算上述处理器占用率、上述内存占用率、上述磁盘输入输出占用率和上述网络占用率的评分；上述处理器占用率小于60％时，上述处理器占用率评分为100分；上述处理器占用率为60％-80％时，上述处理器占用率评分为50分；上述处理器占用率超过80％时，上述处理器占用率评分为10分；上述内存占用率60％以下时，上述内存占用率评分为100分；上述内存占用率为60％-80％时，上述内存占用率评分为50分；上述内存占用率超过80％时，上述内存占用率评分为10分；上述磁盘io，相当于上述磁盘输入输出占用率在60％以下时，上述磁盘io的评分为100分；上述磁盘输入输出占用率在60％-80％时，上述磁盘io的评分为50分；上述磁盘输入输出占用率在超过80％时，上述磁盘io的评分为10分；上述网络占用率在60％以下时，上述网络占用率的评分为100分；上述网络占用率在60％-80％时，上述网络占用率的评分为50分；上述网络占用率在超过80％时，上述网络占用率的评分为10分。
S104：根据上述权重与上述评分得到每个上述服务器的总分值；
示例性的，通过上述预设性能评分列表与权重阈值，得到上述服务器的综合评分。
S105：根据每个服务器的总分值生成调度规则。
通过获取每个服务器的实时服务器性能数据，其中，上述实时服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；根据阈值设置上述实时服务器性能数据中每一项数据的权重；根据上述实时服务器性能数据与预设性能评分列表计算上述实时服务器性能数据中每一项数据的评分；根据上述权重与上述评分得到每个上述服务器的总分值；根据每个服务器的总分值生成调度规则。实时了解各个客户端的全面性能指标，根据各个客户端的实时状态制定负载算法，避免了极限状态下，采用常规负载算法带来的负载均衡不准确的问题。同时，可以避免了升级时中断充电服务的问题，可以为用户提供7×24小时不间断服务，提升了用户充电体验，提高了服务的资源利用率，减少了企业购买服务器的成本。
在一种可能的实施方式中，在上述根据上述权重与上述评分得到每个上述服务器的总分值的步骤之前，还包括：
对上述吞吐量、上述响应时长和上述硬件资源数据的一致性进行校验；
若上述吞吐量、上述响应时长和上述硬件资源数据的一致性校验通过，则计算上述服务器的总分值。
示例性的，如表1所示的一致性校验表：
| 吞吐量 | 响应时长 | 硬件资源 | |
| 吞吐量 | 1 | 3 | 3 |
| 响应时长 | 1/3 | 1 | 3 |
| 硬件资源 | 1/3 | 1/3 | 1 |
表1一致性校验表
通过一致性校验公式：
若CR<0.1，则该矩阵通过一致性检验，避免了偶然性数据对服务器评分造成影响。
在一种可能的实施方式中，上述根据每个服务器的总分值生成调度规则的步骤，包括：
根据每个服务器的总分值确定上述每个服务器的权重；
根据每个服务器的权重生成上述调度规则。
示例性的，例如3个服务器根据上报的指标，得出分值20，40，80。根据加权权重可以得出3个服务器的权重，20/(20+40+80)，40/(20+40+80)，80/(20+40+80)得出3个服务器的权重分别为1，2，4，根据上述3个服务器的权重生成上述调度规则。实现了根据服务器实时性能指标分配负载，避免了现有技术中由于黑盒效果，造成负载分配不合理的情况。
示例性的，经过加权权重结果
server a weight＝1；
server b weight＝2；
server c weight＝4；
在一种可能的实施方式中，还包括：
获取调用请求信息；
根据上述调用请求信息获取服务器列表；
根据上述服务器列表与上述调度规则获取待调用服务器；
根据上述调用请求信息调用上述待调用服务器。
示例性的，每收到7个请求，会把其中的1个转发给后端a，把其中的2个转发给后端b，把其中的4个转发给后端c。收到的第8个请求，重新从该序列的头部开始轮询。每隔一段时间会再次进行重新计算。
在一种可能的实施方式中，如图3所示，本申请实施例提供了一种服务器负载均衡装置，包括：
数据采集模块201，用于获取每个服务器的服务器性能数据，其中，上述服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；
权重模块202，用于根据阈值设置上述服务器性能数据中每一项数据的权重；
评分模块203，用于根据上述服务器性能数据计算上述服务器性能数据中每一项数据的评分；
计算模块204，用于根据上述权重与上述评分得到每个上述服务器的总分值；
规则生成模块205，用于根据每个服务器的总分值生成调度规则。
在一种可能的实时方式中，如图4所示，本发明实施例提供了一种电子设备，包括存储器310、处理器320及存储在存储器320上并可在处理器320上运行的计算机程序311，处理器320执行计算机程序311时实现：获取每个服务器的实时服务器性能数据，其中，上述实时服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；根据阈值设置上述实时服务器性能数据中每一项数据的权重；根据上述实时服务器性能数据与预设性能评分列表计算上述实时服务器性能数据中每一项数据的评分；根据上述权重与上述评分得到每个上述服务器的总分值；根据每个服务器的总分值生成调度规则。
在一种可能的实时方式中，如图5所示，本实施例提供了一种计算机可读存储介质400，其上存储有计算机程序411，该计算机程序411被处理器执行时实现：获取每个服务器的实时服务器性能数据，其中，上述实时服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；根据阈值设置上述实时服务器性能数据中每一项数据的权重；根据上述实时服务器性能数据与预设性能评分列表计算上述实时服务器性能数据中每一项数据的评分；根据上述权重与上述评分得到每个上述服务器的总分值；根据每个服务器的总分值生成调度规则。
在本申请实施例所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请实施例的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，上述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
又例如，上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，再例如，多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请实施例提供的实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
上述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请实施例各个实施例上述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释，此外，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
最后应说明的是：以上上述实施例，仅为本申请实施例的具体实施方式，用以说明本申请实施例的技术方案，而非对其限制，本申请实施例的保护范围并不局限于此，尽管参照前述实施例对本申请实施例进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本申请实施例揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本申请实施例技术方案的范围。都应涵盖在本申请实施例的保护范围之内。因此，本申请实施例的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种服务器负载均衡方法，其特征在于，包括：
获取每个服务器的实时服务器性能数据，其中，所述实时服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；
根据阈值设置所述实时服务器性能数据中每一项数据的权重；
根据所述实时服务器性能数据与预设性能评分列表计算所述实时服务器性能数据中每一项数据的评分；
根据所述权重与所述评分得到每个所述服务器的总分值；
根据每个服务器的总分值生成调度规则。
2.根据权利要求1所述的服务器负载均衡方法，其特征在于，所述根据阈值设置所述服务器性能数据中每一项数据的权重的步骤，包括：
根据阈值设置所述吞吐量的权重，其中，所述吞吐量包括：平均吞吐量、极限吞吐量和吞吐量中位数；
根据阈值设置所述响应时长的权重，其中，所述响应时长包括：平均响应时长、极限响应时长和响应时长中位数；
根据阈值设置所述硬件资源数据的权重，其中，所述硬件资源数据包括：处理器占用率、内存占用率、磁盘输入输出占用率和网络占用率。
3.根据权利要求2所述的服务器负载均衡方法，其特征在于，所述根据阈值设置所述服务器性能数据中每一项数据的权重的步骤，包括：
根据第一阈值设置所述吞吐量的权重；
根据第二阈值分别设置所述平均吞吐量、所述极限吞吐量和所述吞吐量中位数的权重；
根据所述第一阈值设置所述响应时长的权重；
根据所述第三阈值分别设置所述平均响应时长、所述极限响应时长和所述响应时长中位数的权重；
根据所述第一阈值设置所述硬件资源数据的权重；
根据所述第四阈值分别设置所述处理器占用率、所述内存占用率、所述磁盘输入输出占用率和所述网络占用率的权重。
4.根据权利要求2所述的服务器负载均衡方法，其特征在于，所述根据所述实时服务器性能数据与预设性能评分列表计算所述服务器性能数据中每一项数据的评分的步骤，包括：
根据所述服务器性能数据与所述预设性能评分列表分别计算所述平均吞吐量、所述极限吞吐量和所述吞吐量中位数的评分；
根据所述服务器性能数据与所述预设性能评分列表分别计算所述平均响应时长、所述极限响应时长和所述响应时长中位数的评分；
根据所述服务器性能数据与所述预设性能评分列表分别计算所述处理器占用率、所述内存占用率、所述磁盘输入输出占用率和所述网络占用率的评分。
5.根据权利要求1所述的服务器负载均衡方法，其特征在于，在所述根据所述权重与所述评分得到每个所述服务器的总分值的步骤之前，还包括：
对所述吞吐量、所述响应时长和所述硬件资源数据的一致性进行校验；
若所述吞吐量、所述响应时长和所述硬件资源数据的一致性校验通过，则计算所述服务器的总分值。
6.根据权利要求5所述的服务器负载均衡方法，其特征在于，所述根据每个服务器的总分值生成调度规则的步骤，包括：
根据每个服务器的总分值确定所述每个服务器的权重；
根据每个服务器的权重生成所述调度规则。
7.根据权利要求1所述的服务器负载均衡方法，其特征在于，还包括：
获取调用请求信息；
根据所述调用请求信息获取服务器列表；
根据所述服务器列表与所述调度规则获取待调用服务器；
根据所述调用请求信息调用所述待调用服务器。
8.一种服务器负载均衡装置，其特征在于，包括：
数据采集模块，用于获取每个服务器的服务器性能数据，其中，所述服务器性能数据包括：吞吐量、响应时长和硬件资源数据中的至少一项；
权重模块，用于根据阈值设置所述服务器性能数据中每一项数据的权重；
评分模块，用于根据所述服务器性能数据计算所述服务器性能数据中每一项数据的评分；
计算模块，用于根据所述权重与所述评分得到每个所述服务器的总分值；
规则生成模块，用于根据每个服务器的总分值生成调度规则。
9.一种电子设备，包括：储存器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1至7中任一项所述的服务器负载均衡方法的步骤。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于：所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的服务器负载均衡方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110570918.XA CN113485825A (zh) | 2021-05-25 | 2021-05-25 | 一种服务器负载均衡方法及相关设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110570918.XA CN113485825A (zh) | 2021-05-25 | 2021-05-25 | 一种服务器负载均衡方法及相关设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113485825A true CN113485825A (zh) | 2021-10-08 |
Family
ID=77933491
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110570918.XA Pending CN113485825A (zh) | 2021-05-25 | 2021-05-25 | 一种服务器负载均衡方法及相关设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113485825A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114567637A (zh) * | 2022-03-01 | 2022-05-31 | 浪潮云信息技术股份公司 | 一种智能设置负载均衡后端服务器权重的方法及*** |
| US20220417276A1 (en) * | 2021-06-24 | 2022-12-29 | Hitachi, Ltd. | Storage system, coupling priority determination method, and recording medium |
| CN115766737A (zh) * | 2023-01-09 | 2023-03-07 | 北京微吼时代科技有限公司 | 负载均衡方法和装置、电子设备 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6557035B1 (en) * | 1999-03-30 | 2003-04-29 | International Business Machines Corporation | Rules-based method of and system for optimizing server hardware capacity and performance |
| US20150249615A1 (en) * | 2014-03-03 | 2015-09-03 | Quanta Computer Inc. | Resource adjustment methods and systems for virtual machines |
| CN106941508A (zh) * | 2016-01-05 | 2017-07-11 | 阿里巴巴集团控股有限公司 | 服务调用方法、装置和*** |
| CN107436813A (zh) * | 2017-08-03 | 2017-12-05 | 郑州云海信息技术有限公司 | 一种元数据服务器动态负载均衡的方法及*** |
| CN108111567A (zh) * | 2016-11-25 | 2018-06-01 | 广东亿迅科技有限公司 | 实现服务器负载均匀的方法及*** |
-
2021
- 2021-05-25 CN CN202110570918.XA patent/CN113485825A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6557035B1 (en) * | 1999-03-30 | 2003-04-29 | International Business Machines Corporation | Rules-based method of and system for optimizing server hardware capacity and performance |
| US20150249615A1 (en) * | 2014-03-03 | 2015-09-03 | Quanta Computer Inc. | Resource adjustment methods and systems for virtual machines |
| CN106941508A (zh) * | 2016-01-05 | 2017-07-11 | 阿里巴巴集团控股有限公司 | 服务调用方法、装置和*** |
| CN108111567A (zh) * | 2016-11-25 | 2018-06-01 | 广东亿迅科技有限公司 | 实现服务器负载均匀的方法及*** |
| CN107436813A (zh) * | 2017-08-03 | 2017-12-05 | 郑州云海信息技术有限公司 | 一种元数据服务器动态负载均衡的方法及*** |
Non-Patent Citations (1)
| Title |
|---|
| 何龙 等: "一种基于CPU负载平均的负载均衡算法", 计算机与数字工程, vol. 40, no. 08, pages 22 - 24 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20220417276A1 (en) * | 2021-06-24 | 2022-12-29 | Hitachi, Ltd. | Storage system, coupling priority determination method, and recording medium |
| CN114567637A (zh) * | 2022-03-01 | 2022-05-31 | 浪潮云信息技术股份公司 | 一种智能设置负载均衡后端服务器权重的方法及*** |
| CN115766737A (zh) * | 2023-01-09 | 2023-03-07 | 北京微吼时代科技有限公司 | 负载均衡方法和装置、电子设备 |
| CN115766737B (zh) * | 2023-01-09 | 2023-05-16 | 北京微吼时代科技有限公司 | 负载均衡方法和装置、电子设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113485825A (zh) | 一种服务器负载均衡方法及相关设备 | |
| CN110766269A (zh) | 一种任务分配方法、装置、可读存储介质及终端设备 | |
| US9588813B1 (en) | Determining cost of service call | |
| CN110582064B (zh) | 一种短信分发方法、装置、设备、介质 | |
| CN108124271B (zh) | 一种基于用户感知的网络质量评估方法及装置 | |
| CN109032800A (zh) | 一种负载均衡调度方法、负载均衡器、服务器及*** | |
| CN111260382A (zh) | 一种流失概率的预测处理方法及装置 | |
| EP3541048A1 (en) | Method and apparatus for determining main scheduler from cloud computing system | |
| CN110866698A (zh) | 用于评定服务提供方的服务分值的装置 | |
| CN113360898A (zh) | 指标的权重确定方法、网络攻击评估方法及电子设备 | |
| US9501321B1 (en) | Weighted service requests throttling | |
| CN115470512A (zh) | 针对隐私计算进行多方算法协商的方法、装置及*** | |
| CN111311310B (zh) | 广告订单推送方法及装置、存储介质及电子装置 | |
| WO2015095290A2 (en) | Application evaluation | |
| CN112148880A (zh) | 一种客服对话语料聚类方法、***、设备及存储介质 | |
| CN116546028A (zh) | 服务请求的处理方法、装置、存储介质及电子设备 | |
| CN115983836A (zh) | 一种数据处理方法及相关设备 | |
| CN111291957A (zh) | 生成客服调度信息的方法及装置、电子设备、存储介质 | |
| CN111198986B (zh) | 信息发送方法、装置、电子设备及存储介质 | |
| CN114493132A (zh) | 资源分配方法、装置和电子设备 | |
| CN114064105A (zh) | 一种应用程序更新的推送方法、装置、***及存储介质 | |
| CN113434560A (zh) | 排序方法、电子设备及相关产品 | |
| CN113177613A (zh) | ***资源数据分配方法及装置 | |
| CN108650121B (zh) | 一种多属性Web服务需求与提供者综合评分与分配方法 | |
| CN112836971A (zh) | 配额资源的确定方法和装置、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB03 | Change of inventor or designer information |
Inventor after: Wang Haoming Inventor after: Wang Haoyue Inventor after: Han Guangying Inventor after: Wang Liang Inventor after: Zhang Hailiang Inventor before: Han Guangying Inventor before: Wang Liang Inventor before: Zhang Hailiang Inventor before: Wang Haoming Inventor before: Wang Haoyue |
|
| CB03 | Change of inventor or designer information |