CN115665049A - 一种云平台针对多活负载均衡分配权重的方法 - Google Patents
一种云平台针对多活负载均衡分配权重的方法 Download PDFInfo
- Publication number
- CN115665049A CN115665049A CN202211238168.7A CN202211238168A CN115665049A CN 115665049 A CN115665049 A CN 115665049A CN 202211238168 A CN202211238168 A CN 202211238168A CN 115665049 A CN115665049 A CN 115665049A
- Authority
- CN
- China
- Prior art keywords
- load balancing
- weight
- affinity group
- network
- vip
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 20
- 238000009826 distribution Methods 0.000 claims description 5
- 238000007667 floating Methods 0.000 claims description 5
- 238000012360 testing method Methods 0.000 claims description 4
- 101150071927 AANAT gene Proteins 0.000 claims description 3
- 230000003247 decreasing effect Effects 0.000 claims 1
- 238000004891 communication Methods 0.000 abstract description 8
- 101100513046 Neurospora crassa (strain ATCC 24698 / 74-OR23-1A / CBS 708.71 / DSM 1257 / FGSC 987) eth-1 gene Proteins 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 235000012054 meals Nutrition 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
Abstract
本发明提供一种云平台针对多活负载均衡分配权重的方法，属于云计算领域，本发明包括：1)对负载均衡集群进行分组；指按照与后端服务器所处的物理机的位置关系进行分组，设置亲和组和反亲和组；2)配置每个分组的权重；亲和组设置权重为N(N>1)，反亲和组权重设置为K(K>1)，连接数按照N比K的比例分配。在负载均衡节点与后端服务器通信的时候，能够减小跨宿主机之前的虚机通信，可以有效提升负载均衡整体的每秒查询数qps性能。
Description
技术领域
本发明涉及云计算领域，尤其涉及一种云平台针对多活负载均衡分配权重的方法。
背景技术
云计算是近年来IT基础设施领域最热门的话题之一，其对计算、网络、存储等各种资源的虚拟化抽象，为用户提供了极为方便的资源使用方式和灵活的资源扩展能力。同时计算机通信网络等技术的快速发展，使得网络超载与超负荷已经是家常便饭。为解决网络负荷问题，就要利用负载均衡技术提供更加灵活、方便、快捷、高效的云计算服务能力。负载均衡建立在现有网络结构之上，它提供了一种廉价、有效、透明的方法，来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。
目前有许多不同的负载均衡技术用以满足不同的应用需求，如软/硬件负载均衡、本地/全局负载均衡、更高网络层负载均衡，以及链路聚合技术等。
现在的多活负载均衡，依赖于等价路由(linux里依靠多径路由实现)，哈希策略有基于三层(源IP哈希)和四层(基于源IP、目的IP、源端口、目的端口、传输协议哈希)，等价路由的每个下一跳完全平等，不能根据每个负载均衡节点的具体情况做灵活的调整。
传统的利用等价路由实现的多活负载均衡，虽然可以通过增加虚机数量的方式进行横向扩展，但是资源使用率也会成倍增加，并且负载均衡节点和后端服务器随机分布在物理机上，会增加很多不同物理机上的虚拟机之间的网络通信，增大物理网络的负载和通信压力。
发明内容
为了解决以上技术问题，本发明提供了一种云平台针对多活负载均衡分配权重的方法。通过灵活配置多径路由的权重，更合理的分配访问流量和连接数，增强了依赖多径路由实现的多活负载均衡的每秒查询数qps性能。
本发明的技术方案是：
一种多活负载均衡分配权重的方法，包括：
1)对负载均衡集群进行分组；
2)灵活配置每个分组的权重。
对负载均衡进行分组，是指按照与后端服务器所处的物理机的位置关系进行分组，包括亲和组和反亲和组。
灵活配置每个分组的权重，亲和组设置权重为N(N>1)，反亲和组权重设置为K(K>1)，连接数按照N比K的比例分配；也可以自定义权重，但是亲和组权重要大于反亲和组权重。
进一步的，
首先利用linux***内核支持的多径路由，在虚拟路由器vrouter上下发目的地址为负载均衡vip的等价路由，即可实现同一目的地址在该网络环境下同时使用多条链路，下一跳为各个负载均衡节点的业务网ip地址。
在此基础上，在虚拟路由器vrouter上下发目的地址为负载均衡vip的路由时，根据负载均衡节点与后端服务器的是否亲和等关系，调整权重，如果亲和的话，权重设置的要高一点，反之，权重设置的低一点。这样，在负载均衡节点与后端服务器通信的时候，能够减小跨宿主机之前的虚机通信，可以有效提升负载均衡整体的每秒查询数qps性能。
亲和组是和后端服务器位于同一个物理机上的负载均衡集群，负载一半以上的网络流量，起到一个主服务器的作用；反亲和组是和后端服务器位于不同物理机上的负载均衡集群，负责一半以下的网络流量，起到一个备用服务器的作用。
再进一步的，
负载均衡节点和虚拟路由器vrouter都配置完成之后，再进行外网访问nat 的配置。
首先需要将vip绑定一个floating ip，然后在出口防火墙上，使用公网ip 和该floating ip配置nat；访问公网ip的流量，首先到达出口防火墙，在出口防火墙上做一个dnat，目的ip转化成负载均衡的vip绑定的fip，然后经由网络节点的snat ns，到达虚拟路由器vrouter，根据目的ip为vip的这条等价路由，在将流量转发至负载均衡节点，负载均衡节点再根据nginx的配置，将流量转发至最终的应用服务器server。
再进一步的，
使用公网的客户端访问公网ip来验证公网的可访问性，使用内网的client1 和client2访问vip，验证内网的可访问性；并且做新建连接数的测试，查看连接数的分配与设置的比例是否一致。
本发明的有益效果是
1)减少了跨宿主机之前的虚机通信，减轻物理网络压力；
2)虚拟路由器vrouter将更多地连接数和网络流量分发给同后端服务器亲和的负载均衡节点，能够提升负载均衡整体的每秒查询数qps性能。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例，基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明提供了一种应用在云平台针对多活负载均衡分配权重的方法，首先利用linux***内核支持的多径路由，在虚拟路由器vrouter上下发目的地址为负载均衡vip的等价路由，即可实现同一目的地址在该网络环境下同时使用多条链路，下一跳为各个负载均衡节点的业务网ip地址。在此基础上，在虚拟路由器 vrouter上下发目的地址为负载均衡vip的路由时，根据负载均衡节点与后端服务器的是否亲和等关系，调整权重，如果亲和的话，权重设置的要高一点，反之，权重设置的低一点。这样，在负载均衡节点与后端服务器通信的时候，能够减小跨宿主机之前的虚机通信，可以有效提升负载均衡整体的每秒查询数qps性能。
负载均衡集群分为两个组，一个是亲和组，一个是反亲和组。亲和组是和后端服务器位于同一个物理机上的负载均衡集群，负载大部分的网络流量，起到一个主服务器的作用。反亲和组是和后端服务器位于不同物理机上的负载均衡集群，负责小部分网络流量，起到一个备用服务器的作用。
具体环境搭建过程如下：
1、环境准备，需要两个网络，一是服务管理网，控制台通过该网络对负载均衡节点进行相关配置，例如负载均衡器的配置和负载均衡节点虚机***的配置等，主要用来做管理用，业务流量不会经过这张网卡；二是租户业务网，后端服务器所在的私有虚拟网络，用来提供对外服务的vip，以及与后端服务器通信等。
2、后端服务器两台，server1和server2，server端部署一个简单的web业务，用来测试负载均衡的转发效果。
3、在租户业务网下申请一个vip，负载均衡节点创建两组虚机，一组虚机作为亲和组，创建在与后端服务器相同的物理机上，作为承载主要流量的集群，另一组虚机作为反亲和组，创建在与后端服务器不同的物理机上，作为备用服务器组，承载一小部分流量。在所有的负载均衡节点上配置好该vip以及负载均衡器， vip用ip addr add vip/32dev lo的方式配置在lo网卡上。除了负载均衡器的配置之外，还需要关闭负载均衡节点上的针对vip的arp应答，使用如下命令：
echo 1>/proc/sys/net/ipv4/conf/eth1/arp_ignore
echo 1>/proc/sys/net/ipv4/conf/all/arp_ignore
echo 1>/proc/sys/net/ipv4/conf/lo/arp_ignore
echo 2>/proc/sys/net/ipv4/conf/eth1/arp_announce
echo 2>/proc/sys/net/ipv4/conf/all/arp_announce
echo 2>/proc/sys/net/ipv4/conf/lo/arp_announce
用来关闭网卡上的arp应答，在虚拟交换机上开启arp代答，这样不管是内网还是外网访问vip的流量，首先会经过虚拟路由器vrouter，由虚拟路由器 vrouter进行流量分发，避免了两台负载均衡节点抢答arp响应，造成脑裂的情况。
4、在虚拟路由器vrouter里下发等价路由，将亲和组的权重设置为3，反亲和组的权重设置为1，流量分配按照三比一的策略进行配置，这样，访问流量到达虚拟路由器vrouter之后，建立tcp连接时，会按照五比一的比例，例如有400 个新建连接数，300个会分配给亲和组，100个分配给反亲和组。以172.16.122.1 为vip，172.16.122.2和172.16.122.3为亲和组的租户业务网ip，172.16.122.4 和172.16.122.5位反亲和组的租户业务网ip，网关网卡名qr-2b749a55-20为例，在虚拟路由器vrouter里执行如下命令：
ip route add 172.16.122.1 nexthop via 172.16.122.2 dev qr-2b749a55-20weight 1nexthop via 172.16.122.3dev qr-2b749a55-20 weight 1nexthop via172.16.122.4dev qr-2b749a55-20 weight 5nexthop via 172.16.122.5dev qr-2b749a55-20 weight 5
并且使用如下命令在虚拟路由器vrouter里开启arp代答：
echo 1>/proc/sys/net/ipv4/conf/qr-2b749a55-20/proxy_arp
echo 1>/proc/sys/net/ipv4/conf/qr-2b749a55-20/proxy_arp_pvlan
这样不管是内网还是外网访问vip的流量，首先会经过虚拟路由器vrouter，由虚拟路由器vrouter进行流量分发，避免了两台负载均衡节点抢答arp响应，造成脑裂的情况。
5、负载均衡节点和虚拟路由器vrouter都配置完成之后，再进行外网访问nat 的配置。首先需要将vip绑定一个floating ip，然后在出口防火墙上，使用公网 ip和该floating ip配置nat(前提是floating网与出口防火墙互通)。访问公网ip的流量，首先到达出口防火墙，在出口防火墙上做一个dnat，目的ip转化成负载均衡的vip绑定的fip，然后经由网络节点的snat ns，到达虚拟路由器 vrouter，根据目的ip为vip的这条等价路由，在将流量转发至负载均衡节点，负载均衡节点再根据nginx的配置，将流量转发至最终的应用服务器server。
6、使用公网的客户端访问公网ip来验证公网的可访问性，使用内网的client1 和client2访问vip，验证内网的可访问性。并且做新建连接数的测试，看看连接数的分配与设置的五比一的策略是否一致。
本文中的部分名词解释：vrouter，即虚机路由器；负载均衡vip，即负载均衡的虚拟地址；qps，query per second，每秒查询数，是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。
以上所述仅为本发明的较佳实施例，仅用于说明本发明的技术方案，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等，均包含在本发明的保护范围内。
Claims (8)
1.一种云平台针对多活负载均衡分配权重的方法，其特征在于，
1)对负载均衡集群进行分组；指按照与后端服务器所处的物理机的位置关系进行分组，设置亲和组和反亲和组；
2)配置每个分组的权重；亲和组设置权重为N(N>1)，反亲和组权重设置为K(K>1)，连接数按照N比K的比例分配。
2.根据权利要求1所述的方法，其特征在于，
可自定义权重，亲和组权重大于反亲和组权重。
3.根据权利要求2所述的方法，其特征在于，
利用linux***内核支持的多径路由，在虚拟路由器vrouter上下发目的地址为负载均衡vip的等价路由，即可实现同一目的地址在该网络环境下同时使用数条链路，下一跳为各个负载均衡节点的业务网ip地址。
4.根据权利要求3所述的方法，其特征在于，
在此基础上，在虚拟路由器vrouter上下发目的地址为负载均衡vip的路由时，根据负载均衡节点与后端服务器的是否亲和关系，调整权重，如果亲和，权重设置值增加，反之，权重设置值降低。
5.根据权利要求1所述的方法，其特征在于，
亲和组是和后端服务器位于同一个物理机上的负载均衡集群，负载一半以上的网络流量，起到一个主服务器的作用；
反亲和组是和后端服务器位于不同物理机上的负载均衡集群，负责一半以下的网络流量，起到一个备用服务器的作用。
6.根据权利要求4所述的方法，其特征在于，
负载均衡节点和虚拟路由器vrouter都配置完成之后，再进行外网访问nat的配置。
7.根据权利要求6所述的方法，其特征在于，
首先需要将vip绑定一个floating ip，然后在出口防火墙上，使用公网ip和该floating ip配置nat；
访问公网ip的流量，首先到达出口防火墙，在出口防火墙上做一个dnat，目的ip转化成负载均衡的vip绑定的fip，然后经由网络节点的snat ns，到达虚拟路由器vrouter，根据目的ip为vip的这条等价路由，在将流量转发至负载均衡节点，负载均衡节点再根据nginx的配置，将流量转发至最终的应用服务器server。
8.根据权利要求7所述的方法，其特征在于，
使用公网的客户端访问公网ip来验证公网的可访问性，使用内网的client1和client2访问vip，验证内网的可访问性；并且做新建连接数的测试，查看连接数的分配与设置的比例是否一致。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211238168.7A CN115665049A (zh) | 2022-10-11 | 2022-10-11 | 一种云平台针对多活负载均衡分配权重的方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211238168.7A CN115665049A (zh) | 2022-10-11 | 2022-10-11 | 一种云平台针对多活负载均衡分配权重的方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN115665049A true CN115665049A (zh) | 2023-01-31 |
Family
ID=84987131
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211238168.7A Pending CN115665049A (zh) | 2022-10-11 | 2022-10-11 | 一种云平台针对多活负载均衡分配权重的方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115665049A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117544424A (zh) * | 2024-01-09 | 2024-02-09 | 万洲嘉智信息科技有限公司 | 基于泛在联接的多协议智慧园区管控平台 |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140310391A1 (en) * | 2013-04-16 | 2014-10-16 | Amazon Technologies, Inc. | Multipath routing in a distributed load balancer |
| CN107547394A (zh) * | 2017-08-14 | 2018-01-05 | 新华三信息安全技术有限公司 | 一种负载均衡设备多活部署方法和装置 |
| CN107566440A (zh) * | 2016-06-30 | 2018-01-09 | 丛林网络公司 | 软件定义的网络环境中服务的自动发现和自动扩缩 |
| CN111641719A (zh) * | 2020-06-02 | 2020-09-08 | 山东汇贸电子口岸有限公司 | 基于Openstack的内网型负载均衡实现方法、存储介质 |
| CN111756830A (zh) * | 2020-06-22 | 2020-10-09 | 浪潮云信息技术股份公司 | 公有云网络的内网负载均衡实现方法 |
| CN111835745A (zh) * | 2020-07-06 | 2020-10-27 | 北京亿中邮信息技术有限公司 | 一种跨区域的就近访问邮件服务节点的多活方法 |
| CN112839081A (zh) * | 2020-12-31 | 2021-05-25 | 深圳市赛宇景观设计工程有限公司 | 一种云集群的负载均衡方法 |
| CN114020466A (zh) * | 2021-11-08 | 2022-02-08 | 江苏安超云软件有限公司 | 双活负载均衡的方法及装置、电子设备和存储介质 |
-
2022
- 2022-10-11 CN CN202211238168.7A patent/CN115665049A/zh active Pending
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140310391A1 (en) * | 2013-04-16 | 2014-10-16 | Amazon Technologies, Inc. | Multipath routing in a distributed load balancer |
| CN107566440A (zh) * | 2016-06-30 | 2018-01-09 | 丛林网络公司 | 软件定义的网络环境中服务的自动发现和自动扩缩 |
| CN107547394A (zh) * | 2017-08-14 | 2018-01-05 | 新华三信息安全技术有限公司 | 一种负载均衡设备多活部署方法和装置 |
| CN111641719A (zh) * | 2020-06-02 | 2020-09-08 | 山东汇贸电子口岸有限公司 | 基于Openstack的内网型负载均衡实现方法、存储介质 |
| CN111756830A (zh) * | 2020-06-22 | 2020-10-09 | 浪潮云信息技术股份公司 | 公有云网络的内网负载均衡实现方法 |
| CN111835745A (zh) * | 2020-07-06 | 2020-10-27 | 北京亿中邮信息技术有限公司 | 一种跨区域的就近访问邮件服务节点的多活方法 |
| CN112839081A (zh) * | 2020-12-31 | 2021-05-25 | 深圳市赛宇景观设计工程有限公司 | 一种云集群的负载均衡方法 |
| CN114020466A (zh) * | 2021-11-08 | 2022-02-08 | 江苏安超云软件有限公司 | 双活负载均衡的方法及装置、电子设备和存储介质 |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117544424A (zh) * | 2024-01-09 | 2024-02-09 | 万洲嘉智信息科技有限公司 | 基于泛在联接的多协议智慧园区管控平台 |
| CN117544424B (zh) * | 2024-01-09 | 2024-03-15 | 万洲嘉智信息科技有限公司 | 基于泛在联接的多协议智慧园区管控平台 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111600806B (zh) | 负载均衡方法、装置、前端调度服务器、存储介质及设备 | |
| CN107026890B (zh) | 一种基于服务器集群的报文生成方法和负载均衡器 | |
| CN102726021B (zh) | 灵活的数据中心网络体系结构 | |
| US6470389B1 (en) | Hosting a network service on a cluster of servers using a single-address image | |
| US7055173B1 (en) | Firewall pooling in a network flowswitch | |
| Mustafa | LOAD BALANCING ALGORITHMS ROUND-ROBIN (RR), LEASTCONNECTION, AND LEAST LOADED EFFICIENCY. | |
| US20140280911A1 (en) | Firewall for a Virtual Network and Related Techniques | |
| US8031632B2 (en) | Method and system of implementing virtual local area networks (VLANS) with teamed communication ports | |
| CA2319436A1 (en) | Cross-platform server clustering using a network flow switch | |
| WO2011143652A2 (en) | Methods, systems, and computer readable media for stateless load balancing of network traffic flows | |
| EP2695337A1 (en) | A method for traffic load balancing | |
| WO1999030460A3 (en) | Highly-distributed servers for network applications | |
| CN1312889C (zh) | 集群网络的单一地址流量分发器 | |
| CN105577723A (zh) | 虚拟化网络中实现负载分担的方法和装置 | |
| CN104486402A (zh) | 一种基于大型网站组合均衡的方法 | |
| CN101217508A (zh) | 一种基于即时通信平台的网络代理***及其实现方法 | |
| CN111641719A (zh) | 基于Openstack的内网型负载均衡实现方法、存储介质 | |
| CN115665049A (zh) | 一种云平台针对多活负载均衡分配权重的方法 | |
| CN115296848B (zh) | 一种基于多局域网环境的堡垒机***及堡垒机访问方法 | |
| Chen et al. | A scalable multi-datacenter layer-2 network architecture | |
| CN102594668A (zh) | 报文转发方法、装置和交换设备 | |
| US9491098B1 (en) | Transparent network multipath utilization through encapsulation | |
| CN106790502B (zh) | 一种基于NAT64前缀的IPv4终端、IPv6服务互通业务的负载均衡*** | |
| Ke et al. | Load balancing using P4 in software-defined networks | |
| Omer et al. | Load balance in cloud computing using software defined networking |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |