CN105516325A - 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 - Google Patents

一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 Download PDF

Info

Publication number
CN105516325A
CN105516325A CN201510944462.3A CN201510944462A CN105516325A CN 105516325 A CN105516325 A CN 105516325A CN 201510944462 A CN201510944462 A CN 201510944462A CN 105516325 A CN105516325 A CN 105516325A
Authority
CN
China
Prior art keywords
resource
load
server
application
dilatation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510944462.3A
Other languages
English (en)
Inventor
高静
李超
杨东东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inner Mongolia Agricultural University
Original Assignee
Inner Mongolia Agricultural University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inner Mongolia Agricultural University filed Critical Inner Mongolia Agricultural University
Priority to CN201510944462.3A priority Critical patent/CN105516325A/zh
Publication of CN105516325A publication Critical patent/CN105516325A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/50Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明涉及物联网技术领域,特别是一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段及方法,该***包括两级负载平衡模块:集群负载平衡模块和服务节点平衡模块;其中,集群负载平衡模块负责集群之间的负载平衡,处理潮汐效应和高峰负荷等重应用负载的情况;服务节点平衡模块负载集群内部各个服务器的负载平衡,处理一般应用负载的情况。本发明能够同时处理一般情况和高负荷的情景,有效的实现负载迁移,提高资源的利用率,减少资源消耗。

Description

一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段
技术领域
本发明涉及云计算技术领域,特别是一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段。
背景技术
云是一个包含有大量可用虚拟资源的资源池,实现资源按需分配。所谓资源按需分配就是根据应用需求进行动态资源分配,当应用负载较大时,增加服务资源;当应用负载较小时,减少服务资源。
为了实现资源按需分配,需要采用弹性扩容的方法,当增加存储资源或计算资源等服务资源时,能够将新增加的资源添加到已有资源中,形成一个整体对外提供服务,实现弹性扩容。另外,还需要采用流量分发的方式,将原本在老处理节点上处理的任务分流一部分到新节点上。
因为任务的类型不同,服务器的处理能力不同等,随机选择资源会造成负载不均衡等问题。为了合理的把负载分配给不同的服务器,需要应用响应能够正确反映各个服务器能力及网络状态的负载均衡算法。当服务器处于低负载状态或过载时,通过负载重分配和迁移,动态关闭和重启物理机,实现负载均衡,获得更高的***效率。通过这种根据不同的负载动态地重新配置虚拟资源的方法,可以实现资源的有效利用。
中国发明专利申请CN104394224A公开了一种负载均衡***,包括对云节点提供负载均衡服务的负载均衡模块,若干用于对云节点的负载进行均衡计算与对后端模块进行动态健康检查的监听模块,若干用于设置与云节点所对应服务权重的后端模块,能够动态地对后端模块进行监控,进行网络请求的转发,从而提高了云节点的可靠性。但该发明基于OpenStack架构,主要解决的是云计算平台中网络访问的并发性问题,只是对计算机集群中的虚拟机的负载进行简单采集,并没有考虑负载的动态变化,从而影响了用户体验,甚至无法满足部分用户的请求。
发明内容
本发明针对现有技术的上述缺陷,提出了一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段。本***包括两级负载平衡模块:集群负载平衡模块和服务节点平衡模块;其中,集群负载平衡模块负责集群之间的负载平衡,处理潮汐效应和高峰负荷等重应用负载的情况;服务节点平衡模块负载集群内部各个服务器的负载平衡,处理一般应用负载的情况。
进一步的,当有新任务到达时,负载平衡模块工作;如果当前的资源无法满足需求,则进行资源弹性扩容,对扩容的资源重新进行负载平衡和流量分发:当发现有空闲资源或低效率资源时,进行资源回收,对回收后的资源重新进行负载平衡。
进一步的,当资源需求增加时,先在已有集群内开启新的服务器,当已有的集群剩余资源无法满足新到达应用的资源需求时,开启新的集群进行服务。
本发明还提出一种负载平衡方法:
4)当无资源弹性扩容和资源回收时,有新任务到达时,将应用负载分配
给如下的服务器:
s ′ = min s ∈ { 1 , 2 , S } { U max , s - U n o w , s - U r e q } , U max , s - U n o w , s - U r e q ≥ 0
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占
用的服务器s资源;Ureq表示新到应用的资源请求。
5)当有资源弹性扩容时,将服务器s′上的部分负载迁移到新服务器上
s ′ = max s ∈ { 1 , 2 , S } ( U n o w , s - U max , s + U r e q ) , U n o w , s - U max , s > 0
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源;Ureq表示新到应用的资源请求。迁移的资源为Uadd=Unow,s′-Umax,s′+Ureq
6)当有资源回收时,将服务器s1上的部分负载迁移到服务器s2
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源。迁移的资源为:
采用上述的集群负载平衡和服务节点平衡两级负载平衡手段后,能够同时处理一般情况和高负荷的情景,有效的实现负载迁移,提高资源的利用率,减少资源消耗。
附图说明
下面结合附图和具体实施方式对本发明作进一步详细的说明。
图1为本发明的***框图。
图2为本发明负载均衡的流程图。
图中:1为集群间负载平衡模块,2为集群,3为集群内负载平衡模块,4为服务器节点。
具体实施方式
如图1所示,本发明的物联网检测***包括两级负载平衡模块:集群间负载平衡模块1和集群内平衡模块3;其中,所述集群间负载平衡模块1负责集群2之间的负载平衡,处理潮汐效应和高峰负荷等重应用负载的情况;所述集群内平衡模块3负载集群内部各个服务器节点4的负载平衡,处理一般应用负载的情况。
进一步的,当有新任务到达时,负载平衡模块工作;如果当前的资源无法满足需求,则进行资源弹性扩容,对扩容的资源重新进行负载平衡和流量分发;当发现有空闲资源或低效率资源时,进行资源回收,对回收后的资源重新进行负载平衡。
进一步的,当资源需求增加时,先在已有集群内开启新的服务器,当已有集群的剩余资源无法满足新到达应用的资源需求时,开启新的集群进行服务。
本发明提出的负载平衡方法如下:
1)当无资源弹性扩容和资源回收时,有新任务到达时,将应用负载分配给如下的服务器:
s ′ = min s ∈ { 1 , 2 , S } { U max , s - U n o w , s - U r e q } , U max , s - U n o w , s - U r e q ≥ 0
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源;Ureq表示新到应用的资源请求。
2)当有资源弹性扩容时,将服务器s′上的部分负载迁移到新服务器上
s ′ = max s ∈ { 1 , 2 , S } ( U n o w , s - U max , s + U r e q ) , U n o w , s - U max , s > 0
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源;Ureq表示新到应用的资源请求。迁移的资源为Uadd=Unow,s′-Umax,s′+Ureq
3)当有资源回收时,将服务器s1上的部分负载迁移到服务器s2
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源。迁移的资源为:
虽然以上描述了本发明的具体实施方式,但是本领域熟练技术人员应当理解,这些仅是举例说明,可以对本实施方式作出多种变更或修改,而不背离本发明的原理和实质,本发明的保护范围仅由所附权利要求书限定。

Claims (4)

1.一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段,其特征在于:所述***包括两级负载平衡模块:集群负载平衡模块和服务节点平衡模块;其中,集群负载平衡模块负责集群之间的负载平衡,处理潮汐效应和高峰负荷等重应用负载的情况;服务节点平衡模块负载集群内部各个服务器的负载平衡,处理一般应用负载的情况。
2.根据权利要求1所述的根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段,其特征在于:当有新任务到达时,负载平衡模块开始工作;如果当前的资源无法满足需求,则进行资源弹性扩容,对扩容的资源重新进行负载平衡和流量分发;当发现有空闲资源或低效率资源时,进行资源回收,对回收后的资源重新进行负载平衡。
3.根据权利要求2所述的根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段,其特征在于:当资源需求增加时,先在已有集群内开启新的服务器,当已有的集群的剩余资源都无法满足新到达应用的资源需求时,开启新的集群进行服务。
4.一种负载平衡方法,其特征在于:
1)当无资源弹性扩容和资源回收时,有新任务到达时,将应用负载分配给如下的服务器:
其中,表示服务器s最大能够提供的资源;表示当前任务已占用的服务器s资源;表示新到应用的资源请求。
2)当有资源弹性扩容时,将服务器s′上的部分负载迁移到新服务器上
其中,表示服务器s最大能够提供的资源;表示当前任务已占用的服务器s资源;表示新到应用的资源请求。迁移的资源为
3)当有资源回收时,将服务器s1上的部分负载迁移到服务器s2
其中,表示服务器s最大能够提供的资源;表示当前任务已占用的服务器s资源。迁移的资源为:
CN201510944462.3A 2015-12-18 2015-12-18 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 Pending CN105516325A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510944462.3A CN105516325A (zh) 2015-12-18 2015-12-18 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510944462.3A CN105516325A (zh) 2015-12-18 2015-12-18 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段

Publications (1)

Publication Number Publication Date
CN105516325A true CN105516325A (zh) 2016-04-20

Family

ID=55723955

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510944462.3A Pending CN105516325A (zh) 2015-12-18 2015-12-18 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段

Country Status (1)

Country Link
CN (1) CN105516325A (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106911501A (zh) * 2017-02-22 2017-06-30 广东网金控股股份有限公司 一种自动化的减容方法及其装置
CN106970839A (zh) * 2017-02-22 2017-07-21 广东网金控股股份有限公司 一种自动化的扩容方法及其装置
CN109739627A (zh) * 2018-12-26 2019-05-10 上海连尚网络科技有限公司 任务的调度方法、电子设备及介质
CN110198356A (zh) * 2019-06-10 2019-09-03 莫毓昌 一种基于混合云的用户请求调度机制
CN111049745A (zh) * 2019-12-23 2020-04-21 厦门亿联网络技术股份有限公司 一种基于大数据分析的网络规划方法及装置
CN111405583A (zh) * 2019-01-02 2020-07-10 ***通信有限公司研究院 一种潮汐效应规避方法、装置和计算机可读存储介质
CN112118275A (zh) * 2019-06-20 2020-12-22 北京车和家信息技术有限公司 过载处理方法、物联网平台及计算机可读存储介质
CN112738220A (zh) * 2020-12-28 2021-04-30 杭州迪普科技股份有限公司 服务器集群的管理方法、负载均衡方法和负载均衡设备
CN112965817A (zh) * 2021-02-22 2021-06-15 网易(杭州)网络有限公司 资源管理方法、装置和电子设备
CN113672396A (zh) * 2021-10-25 2021-11-19 中电云数智科技有限公司 一种流式计算作业处理方法以及装置
CN115643180A (zh) * 2022-12-26 2023-01-24 北京数原数字化城市研究中心 一种弹性扩容方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102495857A (zh) * 2011-11-21 2012-06-13 北京新媒传信科技有限公司 一种分布式数据库的负载均衡方法
CN102833355A (zh) * 2012-09-22 2012-12-19 广东电子工业研究院有限公司 一种面向云计算的负载均衡***及机制
CN103226467A (zh) * 2013-05-23 2013-07-31 中国人民解放军国防科学技术大学 数据并行处理方法、***及负载均衡调度器
CN103391299A (zh) * 2012-05-08 2013-11-13 深圳市腾讯计算机***有限公司 负载均衡方法和负载均衡***

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102495857A (zh) * 2011-11-21 2012-06-13 北京新媒传信科技有限公司 一种分布式数据库的负载均衡方法
CN103391299A (zh) * 2012-05-08 2013-11-13 深圳市腾讯计算机***有限公司 负载均衡方法和负载均衡***
CN102833355A (zh) * 2012-09-22 2012-12-19 广东电子工业研究院有限公司 一种面向云计算的负载均衡***及机制
CN103226467A (zh) * 2013-05-23 2013-07-31 中国人民解放军国防科学技术大学 数据并行处理方法、***及负载均衡调度器

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106970839A (zh) * 2017-02-22 2017-07-21 广东网金控股股份有限公司 一种自动化的扩容方法及其装置
CN106911501A (zh) * 2017-02-22 2017-06-30 广东网金控股股份有限公司 一种自动化的减容方法及其装置
CN109739627A (zh) * 2018-12-26 2019-05-10 上海连尚网络科技有限公司 任务的调度方法、电子设备及介质
CN111405583A (zh) * 2019-01-02 2020-07-10 ***通信有限公司研究院 一种潮汐效应规避方法、装置和计算机可读存储介质
CN110198356A (zh) * 2019-06-10 2019-09-03 莫毓昌 一种基于混合云的用户请求调度机制
CN112118275A (zh) * 2019-06-20 2020-12-22 北京车和家信息技术有限公司 过载处理方法、物联网平台及计算机可读存储介质
CN111049745A (zh) * 2019-12-23 2020-04-21 厦门亿联网络技术股份有限公司 一种基于大数据分析的网络规划方法及装置
CN111049745B (zh) * 2019-12-23 2021-08-24 厦门亿联网络技术股份有限公司 一种基于大数据分析的网络规划方法及装置
CN112738220A (zh) * 2020-12-28 2021-04-30 杭州迪普科技股份有限公司 服务器集群的管理方法、负载均衡方法和负载均衡设备
CN112738220B (zh) * 2020-12-28 2023-02-28 杭州迪普科技股份有限公司 服务器集群的管理方法、负载均衡方法和负载均衡设备
CN112965817A (zh) * 2021-02-22 2021-06-15 网易(杭州)网络有限公司 资源管理方法、装置和电子设备
CN112965817B (zh) * 2021-02-22 2023-08-11 网易(杭州)网络有限公司 资源管理方法、装置和电子设备
CN113672396A (zh) * 2021-10-25 2021-11-19 中电云数智科技有限公司 一种流式计算作业处理方法以及装置
CN113672396B (zh) * 2021-10-25 2021-12-28 中电云数智科技有限公司 一种流式计算作业处理方法以及装置
CN115643180A (zh) * 2022-12-26 2023-01-24 北京数原数字化城市研究中心 一种弹性扩容方法及装置

Similar Documents

Publication Publication Date Title
CN105516325A (zh) 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段
CN103227838B (zh) 一种多重负载均衡处理装置与方法
CN105391797B (zh) 基于sdn的云服务器负载均衡方法及装置
CN103051564B (zh) 资源动态调配的方法和装置
US8984526B2 (en) Dynamic processor mapping for virtual machine network traffic queues
CN102902587B (zh) 分布式任务调度方法、***和装置
CN105426245A (zh) 包括分散的部件的动态地组成的计算节点
CN104836819A (zh) 动态负载均衡的方法、***及监控调度设备
CN106850834A (zh) 一种业务请求方法和装置及负载均衡器
CN104158911A (zh) 一种面向服务器集群的控制方法及***
CN105007337A (zh) 集群***负载均衡的方法和***
CN102314336B (zh) 一种数据处理方法和***
CN105589750A (zh) 一种cpu资源调度方法和服务器
CN102622275A (zh) 一种云计算环境下负载均衡实现方法
US20120233313A1 (en) Shared scaling server system
CN104917805A (zh) 一种负载分担的方法和设备
CN104598316A (zh) 一种存储资源分配方法及装置
CN104639645A (zh) 网络负载均衡方法、装置及集群服务***
CN111083189B (zh) 用于在运行时处理数据倾斜的***和方法
CN104283963A (zh) 一种分布合作式的cdn负载均衡方法
CN111352726B (zh) 一种基于容器化微服务的流数据处理方法及装置
CN103677993A (zh) 虚拟机资源负载平衡***及方法
Khetan et al. A novel survey on load balancing in cloud computing
CN105487928A (zh) 一种控制方法、装置及Hadoop***
CN112685167A (zh) 资源使用方法、电子设备和计算机程序产品

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20160420

RJ01 Rejection of invention patent application after publication