CN111625355A - 一种服务器上的服务均衡控制方法及*** - Google Patents

一种服务器上的服务均衡控制方法及*** Download PDF

Info

Publication number
CN111625355A
CN111625355A CN202010438922.6A CN202010438922A CN111625355A CN 111625355 A CN111625355 A CN 111625355A CN 202010438922 A CN202010438922 A CN 202010438922A CN 111625355 A CN111625355 A CN 111625355A
Authority
CN
China
Prior art keywords
service instance
value
service
server
load
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010438922.6A
Other languages
English (en)
Inventor
王争儿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huizhong Xingzhi Technology Beijing Co ltd
Ningxia Jingui Information Technology Co ltd
Original Assignee
Huizhongxingzhi Technology Beijing Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huizhongxingzhi Technology Beijing Co ltd filed Critical Huizhongxingzhi Technology Beijing Co ltd
Priority to CN202010438922.6A priority Critical patent/CN111625355A/zh
Publication of CN111625355A publication Critical patent/CN111625355A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明公开了一种服务器上的服务均衡控制方法，该方法包括：获取数据收集模块上报的统计在服务器上运行的多个服务实例的运行状态参数，根据每个服务实例对应的运行状态参数，确定出每个服务实例对应的负载权重值，根据每个服务实例的负载权重值，确定出综合负载值，判定综合负载值是否大于第一预设阈值，若是，则重新创建一服务实例。通过本发明所提供的方法，可以根据***中服务实例的负载权重值确定每个负载实例对应的负载状态，从而在***中增加相同类型的服务实例，这样不仅可以提升服务实例运行效率，并且也可以提升***资源的利用率。

Description

一种服务器上的服务均衡控制方法及***
技术领域
本申请涉及计算机处理技术领域，尤其涉及一种服务器上的服务均衡控制方法及***。
背景技术
近年来，随着软件***越来越大，服务数量的迅速增加，尤其是近两年的微服务理念的提出，更是导致了服务数量以几何倍增的数量递增，随着服务数量的增加，***运维人员的压力无限增大，即要监视服务的运行状态，同时也要监视服务器的负载状态，当服务器负载达到一定时横向增加服务，除服务器运行负载可通过如ELK等软件进行监视收集外，服务的横向扩展运行状态等都必须由开发和运维人员共同参与，同时部署服务时需要保证服务在高负荷运行时的硬件资源，因而给企业带来及大的部署难度，服务器资源分配多了浪费。
另外，服务在服务器上部署完成之后，在服务被频繁调用，并且在服务已经占用自身使用资源的上线时，服务的响应时间以及响应速度都将下降，这样就导致了服务的调用效率较低。
发明内容
本发明提供了一种服务器上的服务均衡控制方法及***，用以解决现有技术中在服务被频繁调用，并且在服务已经占用自身使用资源的上线时，服务的响应时间以及响应速度都将下降，这样就导致了服务的调用效率较低的问题。
其具体的技术方案如下：
一种服务器上的服务均衡控制方法，所述方法包括：
获取数据收集模块上报的统计在服务器上运行的多个服务实例的运行状态参数，其中，所述运行状态参数至少包含服务实例的响应时间以及响应速度；
根据每个服务实例对应的运行状态参数，确定出每个服务实例对应的负载权重值；
根据每个服务实例的负载权重值，确定出综合负载值；
判定所述综合负载值是否大于第一预设阈值；
若是，则重新创建一服务实例。
可选的，根据每个服务实例的负载权重值，确定出综合负载值，具体为：根据每个服务实例的负载权重值求平均值，并将所述平均值作为所述综合负载值。
可选的，所述方法还包括：确定当前服务器上的空闲资源是否符合重
新创建服务实例的条件；
若符合，则在所述当前服务器上重新创建一服务实例；
若不符合，则在***中确定出符合重新创建服务实例的服务器，并在所述服务器上重新创建服务实例。
可选的，所述方法还包括：
在所述综合负载值小于第二预设阈值时，在所述每个服务实例的负载权重值中确定出最小值；
删除所述最小值对应的服务实例。
一种服务器上的服务均衡控制***，所述***包括：
获取模块，用于获取数据收集模块上报的统计在服务器上运行的多个服务实例的运行状态参数，其中，所述运行状态参数至少包含服务实例的响应时间以及响应速度；
处理模块，用于根据每个服务实例对应的运行状态参数，确定出每个服务实例对应的负载权重值；根据每个服务实例的负载权重值，确定出综合负载值；判定所述综合负载值是否大于第一预设阈值；若是，则重新创建一服务实例。
可选的，所述处理模块，具体用于根据每个服务实例的负载权重值求平均值，并将所述平均值作为所述综合负载值。
可选的，所述处理模块，具体用于确定当前服务器上的空闲资源是否符合重新创建服务实例的条件；若符合，则在所述当前服务器上重新创建一服务实例；若不符合，则在***中确定出符合重新创建服务实例的服务器，并在所述服务器上重新创建服务实例。
可选的，所述处理模块，具体用于在所述综合负载值小于第二预设阈值时，在所述每个服务实例的负载权重值中确定出最小值；删除所述最小值对应的服务实例。
通过本发明实施例所提供的方法，可以根据***中服务实例的负载权重值确定每个负载实例对应的负载状态，从而在***中增加相同类型的服务实例，或者是在***删除空闲服务实例，这样不仅可以提升服务实例运行效率，并且也可以提升***资源的利用率。
附图说明
图1为本发明实施例中一种服务器上的服务均衡控制方法的流程图二
图2为本发明实施例中一种服务器上的服务均衡控制***的结构示意图。
具体实施方式
下面通过附图以及具体实施例对本发明技术方案做详细的说明，应当理解，本发明实施例以及实施例中的具体技术特征只是对本发明技术方案的说明，而不是限定，在不冲突的情况下，本发明实施例以及实施例中的具体技术特征可以相互组合。
如图1所示为本发明实施例中一种服务器上的服务均衡控制方法的流程图，该方法包括：
S101，获取数据收集模块上报的统计在服务器上运行的多个服务实例的运行状态参数；
首先，在本发明实施例中，该方法应用到服务自动部署***中，在该***中包含托管中心、前端以及服务器，托管中心与前端进行通信，该托管中心管理各个服务器。每个服务器用于部署服务，同一个服务横向部署多个服务，每一个服务称为一个服务实例。
在将各个服务部署到服务器上运行之后，服务器上的数据收集模块将实时的收集各个服务实例的运行状态参数，该运行状态参数至少包含了服务实例的响应时间以及响应速度，CPU、内存、网络、GPU卡资源占用信息。
在数据收集模块收集到各个服务实例的运行状态参数之后，服务实例将统计的各个服务实例的运行状态参数上报至托管中心。
S102，根据每个服务实例对应的运行状态参数，确定每个服务实例对应的负载权重值；
在托管中心在得到每个服务实例对应的运行状态参数之后，托管中心将根据该运行状态参数来确定每个服务实例对应负载权重值，该负载权重值表征了服务实例在服务器上运行的综合情况，比如说服务实例的响应速度、服务实例的响应时间、服务实例调用频率等等。
S103，根据每个服务实例的负载权重值，确定出综合负载值；
在得到每个服务实例对应的负载权重值之后，托管中心将根据该负载权重值，计算出一个综合负载值，该综合负载值反应了服务器上的服务实例的总体运行状态。
具体在本发明实施例中，可以根据每个服务实例对应的负载权重值计算出一个平均值，该平均值就作为最终的综合负载值。当然，也可以使用其他计算方式来确定出一个总体反映服务实例运行状态的参数，此处就不再一一举例说明。
S104，判定综合负载值是否大于第一预设阈值；
在本发明实施例中，***中可以预先设置一个默认的预设阈值，因此在得到综合负载值之后，将该综合负载值与预设阈值进行比较，若是该综合负载值大于第一预设阈值，则执行S105，若是该综合负载值小于第一预设阈值时，则执行S106。
S105，重新创建服务实例；
在本发明实施例中，在综合负载值大于第一预设阈值时，则说明当前的服务实例处于负载较大的运行状态，因此***将重新创建一个该类型的服务实例，从而降低服务实例的负载压力。
在创建服务实例时，首先确定当前服务器上的空闲资源是否符合重新创建服务实例的条件，比如CPU空闲资源是否足够、内存空闲资源是否足够等等，若是当前服务器上的空闲资源符合重新创建服务实例的条件，则在当前服务器上重新创建服务实例，该服务实例与上述的服务实例为相同类型的服务实例。
当然，若是当前服务器上的空闲资源不满足重新创建服务实例的条件，则在***中确定出符合重新创建服务实例的服务器，并且在该服务器上重新创建服务实例。
S106，判定综合负载值是否小于第二预设阈值；
在综合负载值小于第一预设阈值的情况下，说明服务器上的服务实例的负载处于正常或者是空闲状态，所以***将进一步的确定该综合负载值是否小于第二预设阈值，若是该综合负载值小于第二预设阈值时，则执行S107，若是该综合负载值大于第二预设阈值时，则执行S108。
S107，每个服务实例的负载权重值中确定出最小值，并删除该最小值对应的服务实例；
在综合负载值小于第二预设阈值时，则说明服务实例处于空闲状态，所以为了避免空闲服务实例占用服务器资源，所以在所有服务实例中确定出负载权重值最小的服务实例，并在服务器上删除该服务实例。
S108，维持服务实例当前的运行状态。
通过本发明实施例所提供的方法，可以根据***中服务实例的负载权重值确定每个负载实例对应的负载状态，从而在***中增加相同类型的服务实例，或者是在***删除空闲服务实例，这样不仅可以提升服务实例运行效率，并且也可以提升***资源的利用率。
对应的本发明实施例中一种服务器上的服务均衡控制方法，本发明实施例中还提供了一种服务器上的服务均衡控制***，如图2所示为本发明实施例中一种服务器上的服务均衡控制***的结构示意图，该***包括：
获取模块201，用于获取数据收集模块上报的统计在服务器上的多个服务实例运行的运行状态参数，其中，所述运行状态参数至少包含服务实例的响应时间以及响应速度；
处理模块202，用于根据每个服务实例对应的运行状态参数，确定出每个服务实例对应的负载权重值；根据每个服务实例的负载权重值，确定出综合负载值；判定所述综合负载值是否大于第一预设阈值；若是，则重新创建一服务实例。
进一步，在本发明实施例中，所述处理模块202，具体用于根据每个服务实例的负载权重值求平均值，并将所述平均值作为所述综合负载值。
进一步，在本发明实施例中，所述处理模块202，具体用于确定当前服务器上的空闲资源是否符合重新创建服务实例的条件；若符合，则在所述当前服务器上重新创建一服务实例；若不符合，则在***中确定出符合重新创建服务实例的服务器，并在所述服务器上重新创建服务实例。
进一步，在本发明实施例中，所述处理模块202，具体用于在所述综合负载值小于第二预设阈值时，在所述每个服务实例的负载权重值中确定出最小值；删除所述最小值对应的服务实例。
尽管已描述了本申请的优选实施例，但本领域内的普通技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改，包括采用特定符号、标记确定顶点等变更方式。
显然，本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样，倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内，则本申请也意图包含这些改动和变型在内。

Claims (8)

1.一种服务器上的服务均衡控制方法，其特征在于，所述方法包括：
获取数据收集模块上报的统计在服务器上运行的多个服务实例的运行状态参数，其中，所述运行状态参数至少包含服务实例的响应时间以及响应速度；
根据每个服务实例对应的运行状态参数，确定出每个服务实例对应的负载权重值；
根据每个服务实例的负载权重值，确定出综合负载值；
判定所述综合负载值是否大于第一预设阈值；
若是，则重新创建一服务实例。
2.如权利要求1所述的方法，其特征在于，根据每个服务实例的负载权重值，确定出综合负载值，具体为：根据每个服务实例的负载权重值求平均值，并将所述平均值作为所述综合负载值。
3.如权利要求1所述的方法，其特征在于，重新创建一服务实例，包括：
确定当前服务器上的空闲资源是否符合重新创建服务实例的条件；
若符合，则在所述当前服务器上重新创建一服务实例；
若不符合，则在***中确定出符合重新创建服务实例的服务器，并在所述服务器上重新创建服务实例。
4.如权利要求1所述的方法，其特征在于，所述方法还包括：
在所述综合负载值小于第二预设阈值时，在所述每个服务实例的负载权重值中确定出最小值；
删除所述最小值对应的服务实例。
5.一种服务器上的服务均衡控制***，其特征在于，所述***包括：
获取模块，用于获取数据收集模块上报的统计在服务器上运行的多个服务实例运行的状态参数，其中，所述运行状态参数至少包含服务实例的响应时间以及响应速度；
处理模块，用于根据每个服务实例对应的运行状态参数，确定出每个服务实例对应的负载权重值；根据每个服务实例的负载权重值，确定出综合负载值；判定所述综合负载值是否大于第一预设阈值；若是，则重新创建一服务实例。
6.如权利要求5所述的***，其特征在于，所述处理模块，具体用于根据每个服务实例的负载权重值求平均值，并将所述平均值作为所述综合负载值。
7.如权利要求5所述的***，其特征在于，所述处理模块，具体用于确定当前服务器上的空闲资源是否符合重新创建服务实例的条件；若符合，则在所述当前服务器上重新创建一服务实例；若不符合，则在***中确定出符合重新创建服务实例的服务器，并在所述服务器上重新创建服务实例。
8.如权利要求5所述的***，其特征在于，所述处理模块，具体用于在所述综合负载值小于第二预设阈值时，在所述每个服务实例的负载权重值中确定出最小值；删除所述最小值对应的服务实例。
CN202010438922.6A 2020-05-21 2020-05-21 一种服务器上的服务均衡控制方法及*** Pending CN111625355A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010438922.6A CN111625355A (zh) 2020-05-21 2020-05-21 一种服务器上的服务均衡控制方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010438922.6A CN111625355A (zh) 2020-05-21 2020-05-21 一种服务器上的服务均衡控制方法及***

Publications (1)

Publication Number Publication Date
CN111625355A true CN111625355A (zh) 2020-09-04

Family

ID=72272362

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010438922.6A Pending CN111625355A (zh) 2020-05-21 2020-05-21 一种服务器上的服务均衡控制方法及***

Country Status (1)

Country Link
CN (1) CN111625355A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114510003A (zh) * 2021-12-28 2022-05-17 浙江中控技术股份有限公司 一种工业控制***的控制器负载均衡检测方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104902001A (zh) * 2015-04-07 2015-09-09 杭州电子科技大学 基于操作***虚拟化的Web请求负载均衡方法
CN106656533A (zh) * 2015-10-29 2017-05-10 大唐移动通信设备有限公司 一种集群***的负荷处理监控方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104902001A (zh) * 2015-04-07 2015-09-09 杭州电子科技大学 基于操作***虚拟化的Web请求负载均衡方法
CN106656533A (zh) * 2015-10-29 2017-05-10 大唐移动通信设备有限公司 一种集群***的负荷处理监控方法及装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114510003A (zh) * 2021-12-28 2022-05-17 浙江中控技术股份有限公司 一种工业控制***的控制器负载均衡检测方法

Similar Documents

Publication Publication Date Title
CN107145393A (zh) 一种负载调整方法、设备及计算机可读存储介质
CN105471671A (zh) 一种云平台资源自定义监控规则的方法
CN104468407A (zh) 实现业务平台资源弹性分配的方法与装置
CN112261120B (zh) 一种配电物联网云边协同任务卸载方法及装置
CN106656533A (zh) 一种集群***的负荷处理监控方法及装置
CN111045808A (zh) 一种分布式网络任务调度方法及装置
CN111930493A (zh) 集群中NodeManager状态管理方法、装置及计算设备
CN114448989B (zh) 调整消息分发的方法、装置、电子设备、存储介质及产品
CN113364697A (zh) 流量控制方法、装置、设备及计算机可读存储介质
CN111625355A (zh) 一种服务器上的服务均衡控制方法及***
CN104301241B (zh) 一种soa动态负载分发方法与***
CN109445931A (zh) 一种大数据资源调度***及方法
CN1988684A (zh) 网络进程管理方法及装置
CN106790610A (zh) 一种云***消息分发方法，装置和***
CN111625334A (zh) 一种服务迁移方法及***
CN116032932A (zh) 针对边缘服务器的集群管理方法、***、设备及介质
CN112685261B (zh) 一种基于观察者模式的微服务运行状态监控方法
CN115328612A (zh) 资源分配方法、装置、设备以及存储介质
CN110138985B (zh) 客户的动态分配方法及装置、电子设备、存储介质
CN113190347A (zh) 一种边缘云***及任务管理方法
CN112636959A (zh) 一种基于vnf的区分业务类型的网络切片隐私号业务保障***及其方法
CN114500558A (zh) 一种任务分层上报***及其控制方法
CN114924799A (zh) 一种航空电子***的去中心化***管理方法
CN111541620A (zh) 一种微服务运行管控方法和装置
CN111459674A (zh) 分布式服务管理方法及***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information
CB03 Change of inventor or designer information

Inventor after: Wang Zhenger

Inventor after: Cao Yunjian

Inventor before: Wang Zhenger

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20210508

Address after: 100088 No.209, building 1, East District, yard 10, xibeiwangdong Road, Haidian District, Beijing

Applicant after: HUIZHONG XINGZHI TECHNOLOGY (BEIJING) CO.,LTD.

Applicant after: NINGXIA JINGUI INFORMATION TECHNOLOGY Co.,Ltd.

Address before: 100193209, building 1, East District, yard 10, northwest Wangdong Road, Haidian District, Beijing

Applicant before: HUIZHONG XINGZHI TECHNOLOGY (BEIJING) CO.,LTD.

CB02 Change of applicant information
CB02 Change of applicant information

Address after: 09 / F, 13 / F, building 683, zone 2, No. 5, Zhongguancun South Street, Haidian District, Beijing 100081

Applicant after: HUIZHONG XINGZHI TECHNOLOGY (BEIJING) CO.,LTD.

Applicant after: NINGXIA JINGUI INFORMATION TECHNOLOGY Co.,Ltd.

Address before: 100088 No.209, building 1, East District, yard 10, xibeiwangdong Road, Haidian District, Beijing

Applicant before: HUIZHONG XINGZHI TECHNOLOGY (BEIJING) CO.,LTD.

Applicant before: NINGXIA JINGUI INFORMATION TECHNOLOGY Co.,Ltd.

WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20200904