CN112543150A - 基于服务端控制的动态负载均衡方法 - Google Patents

基于服务端控制的动态负载均衡方法 Download PDF

Info

Publication number
CN112543150A
CN112543150A CN202011178608.5A CN202011178608A CN112543150A CN 112543150 A CN112543150 A CN 112543150A CN 202011178608 A CN202011178608 A CN 202011178608A CN 112543150 A CN112543150 A CN 112543150A
Authority
CN
China
Prior art keywords
service
load balancing
server
client
dynamic load
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011178608.5A
Other languages
English (en)
Other versions
CN112543150B (zh
Inventor
莫海江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guizhou Xinzhi Pratt & Whitney Information Technology Co ltd
Original Assignee
Guizhou Xinzhi Pratt & Whitney Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guizhou Xinzhi Pratt & Whitney Information Technology Co ltd filed Critical Guizhou Xinzhi Pratt & Whitney Information Technology Co ltd
Priority to CN202011178608.5A priority Critical patent/CN112543150B/zh
Publication of CN112543150A publication Critical patent/CN112543150A/zh
Application granted granted Critical
Publication of CN112543150B publication Critical patent/CN112543150B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00—Network arrangements, protocols or services for addressing or naming
    • H04L61/45—Network directories; Name-to-address mapping
    • H04L61/4505—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols
    • H04L61/4511—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols using domain name system [DNS]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明提供了一种基于服务端控制的动态负载均衡方法，包括以下步骤：客户端声明需求的服务类型，向负载均衡服务器申请获取对应该服务的连接地址；负载均衡服务器接收客户端的请求后，执行一次权重计算；负载均衡服务器根据服务列表顺序执行权重计算，计算完成后，根据权重值执行排序，将排序后的结果返回给客户端；客户端收到服务列表后，选择权重值最大的服务执行连接；以及当客户端检测到连接的应用服务中断，无法提供服务时，根据服务列表尝试重新连接到权重值为次大的服务，其中当所有服务都不能够连接时，客户端重新向负载均衡服务器获取一份最新的服务列表。

Description

基于服务端控制的动态负载均衡方法
技术领域
本发明涉及计算机领域，尤其涉及一种基于服务端控制的动态负载均衡方法。
背景技术
计算机服务中，负载均衡技术是平台***架构高可用保证的关键一步。其负载将多个相同服务的入口，通过统一的入口进行访问，并提供一定策略化的负载。常见架构如图1所示。
用户请求经过Internet的DNS***解析,最终访问到一个公网IP地址上,其服务端口一般是负载均衡器。负载均衡器将用户请求根据不同策略，分发到不同的业务服务上。
常见的负载均衡策略有轮循均衡(Round Robin)，权重轮循均衡(Weighted RoundRobin)，随机均衡(Random)，权重随机均衡(Weighted Random)，响应速度均衡(ResponseTime)，最少连接数均衡(Least Connection)等。
现在的技术方案的负载均衡策略不能很好的结合服务端的真实业务情况。举例来说：
例1:一个集群下的某个服务正则进行高CPU消耗的运算业务，此时期望减少或停止负载均衡器过来的请求。由于应用服务是正常的，计划内的工作，端口也有响应，此时服务完全正常，但是有高消耗。针对此种场景，传统的负载均衡无法感知这个情况，仍然会按照原先的策略，将互联网请求分配到这台高压力服务器上。产生的后果，轻则分配到这台服务的请求响应慢，重则分配到这台服务的请求响应失败。极端情况下可能导致这台服务因为高压力而服务崩溃。
例2:一些业务场景期望按照一些规则，能更为主动的进行负载均衡的访问分配。比如负载均衡后的服务是按照不同机房，不同地理位置部署的。业务方期望用户可以就近访问服务。例如服务A部署在上海的IDC机房，业务方期望所有上海本地用户都使用上海机房的服务进行业务操作，保障更好的用户体验。此时负载均衡器需要对请求的IP进行地址分析，筛选出属于上海的IP地址，然后分配到上海的机房进行后续业务流程。
可以看出以上两种情况，传统的负载均衡器都不能进行对应。传统负载均衡器无法感知服务端真实状况。
发明内容
本发明的目的之一在于提供一种基于服务端控制的动态负载均衡方法，能够在服务端对不同客户端的连接进行控制，尤其适合手机客户端或多机房环境微服务客户端。
本发明的另一目的在于提供一种基于服务端控制的动态负载均衡方法，根据权重算法，优化客户端连接，提升连接效率。
本发明的另一目的在于提供一种基于服务端控制的动态负载均衡方法，具有很高的扩展性，可以根据实际需求需要调整权重算法设计，达成不同的效果。
本发明的另一目的在于提供一种基于服务端控制的动态负载均衡方法，能够通过开发对应的网页服务，进行在线的调整算法的权重参数，实现不重启服务情况下，对客户端连接的分流进行控制。
本发明的另一目的在于提供一种基于服务端控制的动态负载均衡方法，服务端设置有客户端的状态数据和负载数据，能够进行服务状态监控，提供报警的服务。
本发明的另一目的在于提供一种基于服务端控制的动态负载均衡方法，在数据统计方面能够在服务端记录客户端的请求记录和返回结果记录，进行数据汇总统计，分析客户端的连接倾向。
为了实现上述至少一个发明目的，本发明提供了一种基于服务端控制的动态负载均衡方法，包括以下步骤：
客户端声明需求的服务类型，向负载均衡服务器申请获取对应该服务的连接地址；
负载均衡服务器接收客户端的请求后，执行一次权重计算；
负载均衡服务器根据服务列表顺序执行权重计算，计算完成后，根据权重值执行排序，将排序后的结果返回给客户端；
客户端收到服务列表后，选择权重值最大的服务执行连接；
以及
当客户端检测到连接的应用服务中断，无法提供服务时，根据服务列表尝试重新连接到权重值为次大的服务，其中当所有服务都不能够连接时，客户端重新向负载均衡服务器获取一份最新的服务列表。
在一些实施例中，其中所述基于服务端控制的动态负载均衡方法还包括步骤：客户端被传入规划的参数有客户端IP地址、客户端所属服务类型、用户地址业务数据、用户所属地区业务数据以及组织架构业务数据。
在一些实施例中，其中所述基于服务端控制的动态负载均衡方法还包括步骤：根据服务状态、服务负载率、网络流量以及客户端IP地址与应用服务是否就近的干预因子执行权重值的计算。
在一些实施例中，其中所述基于服务端控制的动态负载均衡方法还包括步骤：对每个服务的权重值按照以下公式执行计算处理：每个服务的权重值＝服务状态×{(1-服务负载率)×服务压力+(网络流量上限-当前网络流量)×网络流量+IP地址是否就近的干预因子×客户端IP与服务端是否就近值+服务端干预权重}。
在一些实施例中，其中所述基于服务端控制的动态负载均衡方法还包括步骤：客户端对返回的服务列表执行附加的权重计算，对返回的IP地址发起连接测试，获取响应时间，并对响应时间做权重化，加入到服务端返回的权重值上，再选择权重值最大的服务执行连接。
在一些实施例中，其中服务端控制动态负载均衡服务管理器的服务列表是单个主机节点的服务列表。
在一些实施例中，其中服务端控制动态负载均衡服务管理器的服务列表是客户端通过公网DNS服务连接的所有机房对外可访问的服务列表。
在一些实施例中，其中所述基于服务端控制的动态负载均衡方法包括以下步骤：
客户端连接采用公网DNS服务域名解析服务，将用户第一个获取服务地址的请求转到其中的一个机房，此请求经过机房的防火墙，由负载均衡服务器负载到服务端控制动态负载均衡服务器上，其中服务端控制动态负载均衡服务器根据客户端参数，执行权重计算后，返回对应该服务的应用的外部访问服务列表；
客户端获取从服务端返回的排序后的服务列表后，连接相应机房服务的对外访问地址；
设置Agent服务节点，对机房内所有服务执行代理收集，并对收集的应用状态数据执行数据汇总，并定期推送到其中一个服务端控制动态负载均衡服务器上；
以及
对所有的服务端控制动态负载均衡服务器执行一致化同步，服务端控制动态负载均衡服务器本身被设置为无中心化设计，服务端控制动态负载均衡服务器采用无中心化Gossip协议执行数据同步。
在一些实施例中，其中Gossip协议执行过程包括以下步骤：
种子节点周期性地散播消息；
被感染节点随机选择多个邻接节点散播消息；
节点只接收消息不反馈结果；
每次散播消息都选择尚未发送过的节点执行散播；
以及
收到消息的节点不再往发送节点散播。
在一些实施例中，其中种子节点散播消息的周期为1秒，其中每次最多往6个节点散播。
附图说明
图1是传统负载均衡技术的常见架构图。
图2是根据本发明的一个优选实施例的一种基于服务端控制的动态负载均衡方法的流程示意图。
图3是根据本发明的另一个实施例的所述基于服务端控制的动态负载均衡方法的架构图。
具体实施方式
以下描述用于揭露本发明以使本领域技术人员能够实现本发明。以下描述中的优选实施例只作为举例，本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
本领域技术人员应理解的是，在本发明的揭露中，术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系是基于附图所示的方位或位置关系，其仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此上述术语不能理解为对本发明的限制。
可以理解的是，术语“一”应理解为“至少一”或“一个或多个”，即在一个实施例中，一个元件的数量可以为一个，而在另外的实施例中，该元件的数量可以为多个，术语“一”不能理解为对数量的限制。
本发明提供了一种基于服务端控制的动态负载均衡方法，应用了本发明的所述基于服务端控制的动态负载均衡方法的***能够克服传统负载均衡算法感知性,个性化的不足。能够在服务端对不同客户端的连接进行控制，尤其适合手机客户端或多机房环境微服务客户端。根据权重算法，优化客户端连接，提升连接效率。应用了本发明的所述基于服务端控制的动态负载均衡方法的***具有很高的扩展性，可以根据实际需求需要调整权重算法设计，达成不同的效果。可以通过开发对应的网页服务，进行在线的调整算法的权重参数，实现不重启服务情况下，对客户端连接的分流进行控制。同时，由于服务端拥有客户端的状态数据和负载数据，可进行一定的服务状态监控，提供报警的服务。在数据统计方面可以在服务端记录客户端的请求记录和返回结果记录，进行数据汇总统计，分析客户端的连接倾向。
如图2所示为基于本发明的优选实施例的所述基于服务端控制的动态负载均衡方法的流程图，能够解决传统负载均衡器无法感知服务端真实状况的问题，定制结合真实业务需求的***。
具体地，如图2所示，所述基于服务端控制的动态负载均衡方法包括以下步骤：
步骤1：客户端向负载均衡服务器获取请求地址；
步骤2：收到服务列表后排序；
步骤3：发起连接请求；当与应用服务01连接失败时，自动连接应用服务02；
步骤4：应用服务器01或者应用服务器02将应用状态反馈给服务端控制动态负载均衡服务。
在本发明的所述基于服务端控制的动态负载均衡方法的实施中，服务端控制动态负载均衡服务并不是为用户流量的请求做直接的负载，而是作为一个流量旁路的观察者，并指示客户端最优的连接服务地址，后续由客户端进行对应用服务的直接连接。
具体地，在这个优选实施例中，所述基于服务端控制的动态负载均衡方法包括以下步骤：
步骤A:客户端声明需求的服务类型，向负载均衡服务器申请对应该服务的最优连接地址。
其中，此时客户端可以被传入规划的参数，如客户端IP地址，客户端所属服务类型，各种业务数据，如用户ID，所属地区，组织架构等。
步骤B：负载均衡服务器收到客户端请求后，进行一次权重计算。
其中，根据所述步骤A中客户端传入的参数，如用户ID，客户端所在的IP地址，申请的服务类型等，并根据对应应用服务的实际服务状态，例如压力，网络流量情况，返回一份有序的，带权重值的服务列表。
优选地，在具体的实施例中，权重计算典型维度有服务状态、服务负载率、网络流量、客户端IP地址与应用服务是否就近(同网段或同地区)以及服务端干预权重。
其中，在优选实施例中，计算服务端干预权重时，设置权重为W,设置服务状态为T，取值范围为[0,1],服务负载率为P，取值范围为(0,1),网络流量上限为S,当前网络流量为S1,客户端IP与服务端是否就近为N，取值范围为[0.25,1],服务端干预权重为O。则对每个服务的计算公式为：
W＝T×((1-P)×K+(S-S1)×V+U×N+O)
其中K，V，U分别为服务压力，网络流量，IP地址是否就近的干预因子，能够根据实际需要达到的效果进行配置。
步骤C：负载均衡服务器根据服务列表,顺序进行权重计算。计算完成后，根据权重值进行排序。将排序后的结果返回给客户端。
步骤D：客户端收到服务列表后，选择最优先(即权重值最大)的服务进行连接。
值得一提的是，此时客户端能够进行对返回的服务列表进行附加的权重计算，例如对返回的IP发起PING(Packet Internet Groper，因特网包探索器)连接测试，获取响应时间。并对这些响应时间做权重化，加入到服务端返回的权重值上。再选择权重值最大的服务进行连接。
步骤E：当客户端检测都连接的应用服务中断，无法提供服务时，可根据服务列表尝试重连到次优的服务。当所有服务都不可连接时，重新向负载均衡服务器获取一份最新的服务列表。所述步骤E能够重复执行。
如图2所示为应用了本发明的所述基于服务端控制的动态负载均衡方法的单节点原理性方案。在应用了本发明的所述基于服务端控制的动态负载均衡方法的另一实施例中，实际多机房环境下，为保证所有服务高可用，使用如图3所示的***。此方案与图2方案的最大区别是服务端控制动态负载均衡服务管理的服务列表不是单个主机节点的服务列表，而是所有机房对外可访问的服务列表。
具体地，如图3所示，客户端连接采用公网DNS服务域名解析服务，将用户第一个获取A服务地址的请求转到某一个机房。此请求经过机房的防火墙，由传统的负载均衡服务负载到服务端控制动态负载均衡服务上。服务端控制动态负载均衡服务根据客户端参数，进行权重计算后，返回A应用的外部访问服务列表。值得一提的是，此时返回的不是机房内单个服务的IP地址，而是整个机房A应用服务的对外访问地址。有N个机房，就返回N个地址。
客户端收到服务端返回排序后的服务列表后直接连接某个机房A服务的对外访问地址。
由于不同机房对A服务都进行了集群化部署，对外提供服务的也是集群访问地址，所以在进行A服务状态收集时，不能直接通过查询某一应用服务节点的状态，而需要由一个Agent服务节点，对机房内所有A服务进行一个代理收集，并对收集的应用状态数据进行数据汇总。并定期推送到某一个服务端控制动态负载均衡服务上。
服务端控制动态负载均衡服务存储了应用服务的服务列表和对应的状态数据。由于Agent服务只会推送到某一个服务端控制动态负载均衡服务，所以此时各个服务的服务列表数据和状态数据不一致。需要对所有服务端控制动态负载均衡服务进行一致化同步。服务端控制动态负载均衡服务本身进行无中心化设计，保证其不会因为存在单点故障。服务端控制动态负载均衡服务采用无中心化Gossip协议进行数据同步。服务端控制动态负载均衡服务数据状态为弱一致。
值得一提的是，本发明的所述基于服务端控制的动态负载均衡方法采用无中心化Gossip协议进行数据同步。其中，Gossip协议(Gossip protocol)也被称为流行病协议(Epidemic Protocol)。原本用于分布式数据库中节点同步数据使用，后被广泛用于数据库复制、信息扩散、集群成员身份确认、故障探测等。在本发明的这个实施例中，Gossip协议执行过程为：
种子节点周期性的散播消息，其中，在一个实施例中，把周期限定为1秒；
被感染节点随机选择N个邻接节点散播消息，其中，在一个实施例中，fan-out(扇出)设置为6，每次最多往6个节点散播；
节点只接收消息不反馈结果；
每次散播消息都选择尚未发送过的节点进行散播；
收到消息的节点不再往发送节点散播：A->B，那么B进行散播的时候，不再发给A。
Goosip协议的信息传播和扩散通常需要由种子节点发起。整个传播过程可能需要一定的时间，由于不能保证某个时刻所有节点都收到消息，但是理论上最终所有节点都会收到消息，因此它是一个最终一致性协议。
Gossip协议是一个多主协议，所有写操作可以由不同节点发起，并且同步给其他副本。Gossip内组成的网络节点都是对等节点，是非结构化网络。
本领域的技术人员应理解，上述描述及附图中所示的本发明的实施例只作为举例而并不限制本发明。本发明的目的已经完整并有效地实现。本发明的功能及结构原理已在实施例中展示和说明，在没有背离所述原理下，本发明的实施方式可以有任何变形或修改。

Claims (10)

1.一种基于服务端控制的动态负载均衡方法，其特征在于，所述基于服务端控制的动态负载均衡方法包括以下步骤：
客户端声明需求的服务类型，向负载均衡服务器申请获取对应该服务的连接地址；
负载均衡服务器接收客户端的请求后，执行一次权重计算；
负载均衡服务器根据服务列表顺序执行权重计算，计算完成后，根据权重值执行排序，将排序后的结果返回给客户端；
客户端收到服务列表后，选择权重值最大的服务执行连接；
以及
当客户端检测到连接的应用服务中断，无法提供服务时，根据服务列表尝试重新连接到权重值为次大的服务，其中当所有服务都不能够连接时，客户端重新向负载均衡服务器获取一份最新的服务列表。
2.如权利要求1所述的基于服务端控制的动态负载均衡方法，其中所述基于服务端控制的动态负载均衡方法还包括步骤：客户端被传入规划的参数有客户端IP地址、客户端所属服务类型、用户地址业务数据、用户所属地区业务数据以及组织架构业务数据。
3.如权利要求2所述的基于服务端控制的动态负载均衡方法，其中所述基于服务端控制的动态负载均衡方法还包括步骤：根据服务状态、服务负载率、网络流量以及客户端IP地址与应用服务是否就近的干预因子执行权重值的计算。
4.如权利要求2所述的基于服务端控制的动态负载均衡方法，其中所述基于服务端控制的动态负载均衡方法还包括步骤：对每个服务的权重值按照以下公式执行计算处理：每个服务的权重值＝服务状态×{(1-服务负载率)×服务压力+(网络流量上限-当前网络流量)×网络流量+IP地址是否就近的干预因子×客户端IP与服务端是否就近值+服务端干预权重}。
5.如权利要求2所述的基于服务端控制的动态负载均衡方法，其中所述基于服务端控制的动态负载均衡方法还包括步骤：客户端对返回的服务列表执行附加的权重计算，对返回的IP地址发起连接测试，获取响应时间，并对响应时间做权重化，加入到服务端返回的权重值上，再选择权重值最大的服务执行连接。
6.如权利要求1至5中任一所述的基于服务端控制的动态负载均衡方法，其中服务端控制动态负载均衡服务管理器的服务列表是单个主机节点的服务列表。
7.如权利要求1至5中任一所述的基于服务端控制的动态负载均衡方法，其中服务端控制动态负载均衡服务管理器的服务列表是客户端通过公网DNS服务连接的所有机房对外可访问的服务列表。
8.如权利要求7所述的基于服务端控制的动态负载均衡方法，其中所述基于服务端控制的动态负载均衡方法包括以下步骤：
客户端连接采用公网DNS服务域名解析服务，将用户第一个获取服务地址的请求转到其中的一个机房，此请求经过机房的防火墙，由负载均衡服务器负载到服务端控制动态负载均衡服务器上，其中服务端控制动态负载均衡服务器根据客户端参数，执行权重计算后，返回对应该服务的应用的外部访问服务列表；
客户端获取从服务端返回的排序后的服务列表后，连接相应机房服务的对外访问地址；
设置Agent服务节点，对机房内所有服务执行代理收集，并对收集的应用状态数据执行数据汇总，并定期推送到其中一个服务端控制动态负载均衡服务器上；
以及
对所有的服务端控制动态负载均衡服务器执行一致化同步，服务端控制动态负载均衡服务器本身被设置为无中心化设计，服务端控制动态负载均衡服务器采用无中心化Gossip协议执行数据同步。
9.如权利要求8所述的基于服务端控制的动态负载均衡方法，其中Gossip协议执行过程包括以下步骤：
种子节点周期性地散播消息；
被感染节点随机选择多个邻接节点散播消息；
节点只接收消息不反馈结果；
每次散播消息都选择尚未发送过的节点执行散播；
以及
收到消息的节点不再往发送节点散播。
10.如权利要求9所述的基于服务端控制的动态负载均衡方法，其中种子节点散播消息的周期为1秒，其中每次最多往6个节点散播。
CN202011178608.5A 2020-10-29 2020-10-29 基于服务端控制的动态负载均衡方法 Active CN112543150B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011178608.5A CN112543150B (zh) 2020-10-29 2020-10-29 基于服务端控制的动态负载均衡方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011178608.5A CN112543150B (zh) 2020-10-29 2020-10-29 基于服务端控制的动态负载均衡方法

Publications (2)

Publication Number Publication Date
CN112543150A true CN112543150A (zh) 2021-03-23
CN112543150B CN112543150B (zh) 2022-11-04

Family

ID=75013613

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011178608.5A Active CN112543150B (zh) 2020-10-29 2020-10-29 基于服务端控制的动态负载均衡方法

Country Status (1)

Country Link
CN (1) CN112543150B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114900524A (zh) * 2022-05-11 2022-08-12 福建科融世纪信息科技有限公司 一种mqtt服务的负载均衡和节点降低延时方法
CN116800473A (zh) * 2023-05-10 2023-09-22 广州市玄武无线科技股份有限公司 一种客户端与云服务通信方法、装置、存储介质以及***

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1207668A2 (en) * 2000-11-16 2002-05-22 Microsoft Corporation System and method for performing client-centric load balancing of multiple globally-dispersed servers
CN101207550A (zh) * 2007-03-16 2008-06-25 中国科学技术大学 负载均衡***及多种业务实现负载均衡的方法
CN101534244A (zh) * 2009-02-09 2009-09-16 华为技术有限公司 负载分发方法、装置和***
CN102457440A (zh) * 2012-01-13 2012-05-16 华为软件技术有限公司 实现负载均衡的方法、dns服务器和客户端
CN103442030A (zh) * 2013-07-31 2013-12-11 北京京东尚科信息技术有限公司 发送和处理业务请求信息的方法和***以及客户端装置
CN105050139A (zh) * 2015-07-27 2015-11-11 中国科学院信息工程研究所 一种基于全局负载均衡的服务网关选择方法及***
CN107241418A (zh) * 2017-06-13 2017-10-10 腾讯科技（深圳）有限公司 一种负载均衡方法、装置、设备和计算机可读存储介质
CN107579924A (zh) * 2017-09-29 2018-01-12 阿里巴巴集团控股有限公司 一种流量调拨方法和装置
CN108199909A (zh) * 2018-03-30 2018-06-22 浙江网新恒天软件有限公司 一种基于一致性哈希的高可用负载均衡***

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1207668A2 (en) * 2000-11-16 2002-05-22 Microsoft Corporation System and method for performing client-centric load balancing of multiple globally-dispersed servers
CN101207550A (zh) * 2007-03-16 2008-06-25 中国科学技术大学 负载均衡***及多种业务实现负载均衡的方法
CN101534244A (zh) * 2009-02-09 2009-09-16 华为技术有限公司 负载分发方法、装置和***
CN102457440A (zh) * 2012-01-13 2012-05-16 华为软件技术有限公司 实现负载均衡的方法、dns服务器和客户端
CN103442030A (zh) * 2013-07-31 2013-12-11 北京京东尚科信息技术有限公司 发送和处理业务请求信息的方法和***以及客户端装置
CN105050139A (zh) * 2015-07-27 2015-11-11 中国科学院信息工程研究所 一种基于全局负载均衡的服务网关选择方法及***
CN107241418A (zh) * 2017-06-13 2017-10-10 腾讯科技（深圳）有限公司 一种负载均衡方法、装置、设备和计算机可读存储介质
CN107579924A (zh) * 2017-09-29 2018-01-12 阿里巴巴集团控股有限公司 一种流量调拨方法和装置
CN108199909A (zh) * 2018-03-30 2018-06-22 浙江网新恒天软件有限公司 一种基于一致性哈希的高可用负载均衡***

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MAURO FRANCESCHELLI: "Load Balancing over heterogeneous networks with gossip-based algorithms", 《2009 AMERICAN CONTROL CONFERENCE》 *
李亚非: "高并发web服务器集群负载均衡器的设计与实现", 《中国优秀硕士学位论文全文数据库》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114900524A (zh) * 2022-05-11 2022-08-12 福建科融世纪信息科技有限公司 一种mqtt服务的负载均衡和节点降低延时方法
CN116800473A (zh) * 2023-05-10 2023-09-22 广州市玄武无线科技股份有限公司 一种客户端与云服务通信方法、装置、存储介质以及***

Also Published As

Publication number Publication date
CN112543150B (zh) 2022-11-04

Similar Documents

Publication Publication Date Title
US9426116B1 (en) Multiple-master DNS system
CN109274707B (zh) 一种负载调度方法及装置
CN102164116B (zh) 均衡负载的方法、***及相应设备
CN103581276B (zh) 集群管理装置、***、业务客户端及相应方法
US7548945B2 (en) System, network device, method, and computer program product for active load balancing using clustered nodes as authoritative domain name servers
US6675199B1 (en) Identification of active server cluster controller
US9191439B2 (en) Method and system for data synchronization in content delivery network
US7373394B1 (en) Method and apparatus for multicast cloud with integrated multicast and unicast channel routing in a content distribution network
CN107947960A (zh) 配置信息的推送方法及***、配置信息的接收方法及***
US20070088703A1 (en) Peer-to-peer auction based data distribution
CN112543150B (zh) 基于服务端控制的动态负载均衡方法
US6763372B1 (en) Load balancing of chat servers based on gradients
KR20090069312A (ko) 리소스 공급을 위한 방법, 시스템, 및 에지 서버
CN111615066A (zh) 一种基于广播的分布式微服务注册及调用方法
JPH10307783A (ja) サイトアクセス制御システム及び記録媒体
CN106790758A (zh) 一种访问nat网络内部的网络对象的方法及装置
US6675217B1 (en) Recovery of cluster consistency following failover
USRE44104E1 (en) Cross-layer architecture for a network device
CN114036236A (zh) 多网关集群***
CN113326100A (zh) 一种集群管理方法、装置、设备及计算机存储介质
CN111193778B (zh) 一种web服务负载均衡的方法及装置
CN107438098B (zh) 一种动态内容分发方法及其***
CN113485821A (zh) 一种高可靠视频会议***及其控制方法、存储介质
WO2012000455A1 (zh) 一种客户端及负载均衡的方法
Moreno et al. On content delivery network implementation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant