CN113783919A - 访问请求分流方法、***、设备及存储介质 - Google Patents
访问请求分流方法、***、设备及存储介质 Download PDFInfo
- Publication number
- CN113783919A CN113783919A CN202011357295.XA CN202011357295A CN113783919A CN 113783919 A CN113783919 A CN 113783919A CN 202011357295 A CN202011357295 A CN 202011357295A CN 113783919 A CN113783919 A CN 113783919A
- Authority
- CN
- China
- Prior art keywords
- access
- request
- access object
- proportion
- distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 230000005484 gravity Effects 0.000 claims description 29
- 238000012795 verification Methods 0.000 claims description 19
- 238000009825 accumulation Methods 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1023—Server selection for load balancing based on a hash applied to IP addresses or costs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明提供了一种访问请求分流方法、***、设备及存储介质,该方法包括:接收到请求端的访问请求;获取访问对象负载配置比例,所述访问对象负载配置比例包括各个访问对象的分配比重;调用负载均衡算法,确定所述访问请求所对应的匹配访问对象;将所述访问请求分配至所述匹配访问对象。本发明基于访问对象负载配置比例和负载均衡算法进行访问对象分配,实现访问请求分流,具有高可用性,并且适用于各种场景。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种访问请求分流方法、***、设备及存储介质。
背景技术
随着互联网技术的发展,各个平台的数据访问量日益增长,因此,往往提供多个机房来提供访问服务。如何在多个机房之间很好地进行用户访问请求的分流也成为了十分受关注的问题。现有技术中的分流方式一般基于IP地址进行分流,通过IP分流利用了客户登录IP的散列性,但IP分流存在不确定性,具体数量难以估算,可能会造成某些服务因某些IP客户数量较大导致分配不均衡问题。
此外,现有的负载均衡策略分配方式具有顺次性,例如ABC三个机房的配置比例为3:2:1,需要先按照配比分发3次访问A机房才会访问B机房,C机房访问同理。
配置比例需要谨慎,如果配置比例数过大且不能进行最简比化简将导致某个机房当前访问过高,假如当前10000000客户访问,三机房最大承载访问上限为A=5000000、B=5000000、C=100000,例如配比A:B:C为10000000:9999999:1000000,将导致前一千万用户访问只分配到A机房,而B、C机房访问为0,导致A机房压力过高。如果采用ABC三个机房轮询的方式,当满足配置比例进行跳过的实现方式进行均衡的分发访问,同样会导致配置比例较低的服务机房优先达到最大访问量,导致高负载运行。
因此,现有技术中的分流方法存在如下问题:
(1)实际总访问量小于全部机房总负载量的情况下由于配置比例问题会导致某台机房压力超负载。
(2)无法平衡访问分配,导致压力不均衡问题。
(3)支持场景单一,如不支持用户绑定服务器等定制化场景,扩展性低。
发明内容
针对现有技术中的问题,本发明的目的在于提供一种访问请求分流方法、***、设备及存储介质,基于访问对象负载配置比例和负载均衡算法进行访问对象分配,实现访问请求分流,适用于各种场景。
本发明实施例提供一种访问请求分流方法,包括如下步骤:
接收到请求端的访问请求;
获取访问对象负载配置比例,所述访问对象负载配置比例包括各个访问对象的分配比重;
调用负载均衡算法,确定所述访问请求所对应的匹配访问对象;
将所述访问请求分配至所述匹配访问对象。
在一些实施例中,所述访问对象包括服务集群、服务器或服务机房。
在一些实施例中,所述调用负载均衡算法,确定所述访问请求所对应的匹配访问对象,包括如下步骤:
从所述访问对象负载配置比例中选择分配比重最高的访问对象,作为匹配访问对象。
在一些实施例中,从所述访问对象负载配置比例中选择分配比重最高的访问对象,作为匹配访问对象之后,还包括如下步骤:
将所述匹配的访问对象的分配比重减去预设的比重调整值,与其他访问对象的分配比重组合得到访问对象负载配置比例的比例调整值,在分配开始时的访问对象负载配置比例的基础上累加所述比例调整值,更新所述访问对象负载配置比例,所述累加为所述访问对象负载配置比例中各个分配比重与所述比例调整值中各个对应的分配比重相加。
在一些实施例中,所述获取访问对象负载配置比例,包括如下步骤:
判断当前访问请求是否为当前分配循环中第一个待分配的访问请求;
如果是,则获取预设的初始访问对象负载配置比例;
否则,获取前一个访问请求分配完成后,更新的访问对象负载配置比例。
在一些实施例中,所述预设的比重调整值等于各个所述访问对象的分配比重之和。
在一些实施例中,所述判断当前访问请求是否为当前分配循环中第一个待分配的访问请求,包括如下步骤:
判断前一个访问请求分配完成后,所述比例调整值中每个访问对象的分配比重是否均为零。
在一些实施例中,所述接收到请求端的访问请求之后,还包括如下步骤:
获取所述请求端的标识信息;
获取预设的分流配置规则,所述分流配置规则包括预设的标识信息与访问对象的映射关系;
根据所述分流配置规则判断是否有与所述请求端的标识信息匹配的匹配访问对象;
如果是,则根据所述分流配置规则选择匹配访问对象;
否则,调用负载均衡算法,确定所述访问请求所对应的匹配访问对象。
在一些实施例中,所述请求端的标识信息包括请求端对应的手机号、IP地址、Mac地址、注册ID、用户名和访问顺序ID中的至少一种。
在一些实施例中,所述接收到请求端的访问请求之后,还包括如下步骤:
获取预设的校验规则,判断所述校验规则的类型;
如果所述校验规则为先分流后登录,则调用负载均衡算法,确定所述访问请求所对应的匹配访问对象,将所述访问请求分配至所述匹配访问对象后,由所述匹配访问对象对所述请求端进行登录校验;
如果所述校验规则为先登录后登录,则由默认访问对象对所述请求端进行登录校验并且校验通过后,调用负载均衡算法,确定所述访问请求所对应的匹配访问对象,将所述访问请求分配至所述匹配访问对象。
本发明实施例还提供一种访问请求分流***,用于实现所述的访问请求分流方法,所述***包括:
请求接收模块,用于接收请求端的访问请求;
配比获取模块,用于获取访问对象负载配置比例,所述访问对象负载配置比例包括各个访问对象的分配比重;
对象匹配模块,用于调用负载均衡算法,确定所述访问请求所对应的匹配访问对象;
请求分配模块,用于将所述访问请求分配至所述匹配访问对象。
在一些实施例中,所述对象匹配模块调用负载均衡算法,确定所述访问请求所对应的匹配访问对象包括从所述访问对象负载配置比例中选择分配比重最高的访问对象,作为匹配访问对象,并将所述匹配的访问对象的分配比重减去预设的比重调整值,与其他访问对象的分配比重组合得到访问对象负载配置比例的比例调整值,在分配开始时的访问对象负载配置比例的基础上累加所述比例调整值,更新所述访问对象负载配置比例,所述累加为所述访问对象负载配置比例中各个分配比重与所述比例调整值中各个对应的分配比重相加。
本发明实施例还提供一种访问请求分流设备,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行所述的访问请求分流方法的步骤。
本发明实施例还提供一种计算机可读存储介质,用于存储程序,所述程序被处理器执行时实现所述的访问请求分流方法的步骤。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
本发明的访问请求分流方法、***、设备及存储介质具有如下有益效果:
本发明提供了一种为访问请求分配访问对象的方法,在有多个可选的访问对象时,基于访问对象负载配置比例和负载均衡算法进行访问对象分配,综合考虑预设的负载配比和动态的平滑负载分配,实现访问请求分流,具有高可用性,并且适用于各种场景。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显。
图1是本发明一实施例的访问请求分流方法的流程图;
图2是本发明一实施例的访问请求分流***的结构示意图;
图3是本发明一实施例的访问请求分流设备的结构示意图;
图4是本发明一实施例的计算机可读存储介质的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的步骤。例如,有的步骤还可以分解,而有的步骤可以合并或部分合并,因此,实际执行的顺序有可能根据实际情况改变。
如图1所示,本发明实施例提供一种访问请求分流方法,包括如下步骤:
S100:接收到请求端的访问请求;
S200:获取访问对象负载配置比例,所述访问对象负载配置比例包括各个访问对象的分配比重;
S300:调用负载均衡算法,确定所述访问请求所对应的匹配访问对象;
S400:将所述访问请求分配至所述匹配访问对象。
本发明提供了一种为访问请求分配访问对象的方法,在有多个可选的访问对象时,通过步骤S200获取访问对象负载配置比例,在步骤S300中,基于访问对象负载配置比例和负载均衡算法进行访问对象分配,综合考虑预设的负载配比和动态的平滑负载分配,实现访问请求分流,具有高可用性,并且适用于各种场景。
在该实施例中,所述访问对象包括服务集群、服务器或服务机房。因此,本发明的访问请求分流方法可以用于多个服务集群之间的负载均衡,或用于多个服务器之间的负载均衡,或用于多个服务机房之间的负载均衡。所述请求端可以包括用户使用的客户端或者浏览器端等。
所述访问请求分流方法可以应用于多个访问对象的访问管理服务器,用于对多个访问对象的访问请求进行分配,访问请求首先发送至该访问管理服务器中,由该访问管理服务器对该访问请求进行分配。所述访问请求分流方法也可以应用于一个默认的访问对象中,访问请求默认首先发送至该默认的访问对象中,由该默认的访问对象对该访问请求进行分配。
在该实施例中,所述步骤S200:获取访问对象负载配置比例,包括如下步骤:
判断当前访问请求是否为当前分配循环中第一个待分配的访问请求;
如果是,则获取预设的初始访问对象负载配置比例;
否则,获取前一个访问请求分配完成后,更新的访问对象负载配置比例。
在该实施例中,所述步骤S300:调用负载均衡算法,确定所述访问请求所对应的匹配访问对象,包括如下步骤:
从所述访问对象负载配置比例中选择分配比重最高的访问对象,作为匹配访问对象;
将所述匹配的访问对象的分配比重减去预设的比重调整值,与其他访问对象的分配比重组合得到访问对象负载配置比例的比例调整值,在分配开始时的访问对象负载配置比例的基础上累加所述比例调整值,更新所述访问对象负载配置比例,所述累加为所述访问对象负载配置比例中各个分配比重与所述比例调整值中各个对应的分配比重相加。
因此,在本发明中,所述步骤S200中获取的访问对象负载配置比例为随着访问请求的分流过程而不断更新的一个动态的访问对象负载配置比例,而并非一直采用初始的访问对象负载配置比例,可以更好地适用于每个访问请求的分配,而不会因为一直访问同一个访问对象,而导致某一个访问对象过载,而其他的访问对象仍然请求量较少的情况。在每一次访问请求分配完成后,将所述匹配的访问对象的分配比重减去预设的比重调整值,由此,使得该刚刚分配到访问请求的访问对象的分配比重减小,而在后续分配时优先选择其他分配比重更大的访问对象,避免访问请求分配过于集中。
在该实施例中,所述预设的比重调整值等于各个所述访问对象的分配比重之和。例如,有三个可选的访问对象A、B、C,初始的访问对象负载配置比例为a:b:c,即三个访问对象的分配比重分别为a、b、c,则预设的比重调整值为a+b+c。假设a>b>c,在一个分配循环的开始时,接收到的第一个访问请求分配给比重最大的访问对象A,然后将访问对象A的分配比重设置为A-a,与其他访问对象B、C的分配比重组合得到访问对象负载配置比例的比例调整值为(A-a-b-c):b:c,然后将该比例调整值与分配开始时的访问对象负载配置比例累加,得到(A-b-c):b+b:c+c,得到更新后的访问对象负载配置比例。此处累加是指:开始时的访问对象负载配置比例中各个分配比重与比例调整值中各个分配比重进行累加。
再接收到下一个访问请求时,如果b+b>A-b-c,并且b+b>c+c,则分配给比重最大的访问对象B。
在该实施例中,所述判断当前访问请求是否为当前分配循环中第一个待分配的访问请求,包括如下步骤:
判断前一个访问请求分配完成后,所述比例调整值中每个访问对象的分配比重是否均为零。
下面以一个具体实例来介绍上述步骤S300中更新访问对象负载配置比例的过程。在该具体实例中,有三个访问对象A、B、C,其预设的初始访问对象负载配置比例为3:2:1。预设的比重调整值为3+2+1=6,随着访问请求分配,该比例更新过程如下表1所示:
表1访问对象负载配置比例更新表
表1中左边第一列的序号表示当前分配循环中请求的顺序号。第一个访问请求所对应的配置比例为初始配置比例。分配完成后,比例调整值为-3:2:1,将其与分配开始时的配置比例3:2:1累加,得到更新的配置比例0:4:2,并且作为下一个访问请求的分配开始时的配置比例。在第六个访问请求分配完成后,所述比例调整值中每个访问对象的分配比重均为零,则确定当前分配循环结束,从下一个访问请求开始,重新开始新的分配循环。从上表可以看出,一个分配循环中的分配结果是ABACBA,其中,分配到各个访问对象的访问请求的比例即为3:2:1,符合预设的初始访问对象负载配置比例。
该负载均衡算法为一种基于平滑分配策略的均衡算法。由于该负载均衡算法具有自研特性,其具有很强的业务延展性,可以根据后续业务场景进行进一步研发扩展,并且为后续更多可能性业务场景提供技术支持的可能性。访问请求分流的策略为预发布验证、灰度上线阶段发现问题提供了技术上的支持,增强了产品上线前的验证,减少了线上出现问题的可能性,同时预发布和灰度环境也可以进行线上问题复现。
在该实施例中,所述步骤S100:接收到请求端的访问请求之后,还包括如下步骤:
获取预设的校验规则,判断所述校验规则的类型;
如果所述校验规则为先分流后登录,则先进行访问对象匹配,得到匹配访问对象,将所述访问请求分配至所述匹配访问对象后,继续步骤所述匹配访问对象对所述请求端进行登录校验;
如果所述校验规则为先登录后登录,则由默认访问对象对所述请求端进行登录校验并且校验通过后,继续将所述访问请求分配至所述匹配访问对象,将所述访问请求分配至所述匹配访问对象。
此处校验指的是请求端在登录时,对请求端进行的校验,例如对请求端的用户名和密码的校验,对用户的生物特征(指纹、面部等)的校验,对一定时间内同一个IP地址或用户名的登录次数的校验等等。校验规则的类型是先分流后登录还是先登录后分流可以预先进行设定。如果先登录后分流,由于还没有分配匹配访问对象,则由默认访问对象先对其进行登录校验,校验成功后再进行分流。
此处先分流后登录和先登录后分流中的分流可以采用上述步骤S200~S400中基于负载均衡算法和负载配置比例的请求分配。
在另一种实施方式中,所述步骤S100:接收到请求端的访问请求之后,在分流时,还可以首先包括如下步骤:
获取所述请求端的标识信息;
获取预设的分流配置规则,所述分流配置规则包括预设的标识信息与访问对象的映射关系;
根据所述分流配置规则判断是否有与所述请求端的标识信息匹配的匹配访问对象;
如果是,则根据所述分流配置规则选择匹配访问对象;
否则,继续步骤S200~S400,调用负载均衡算法,确定所述访问请求所对应的匹配访问对象。
所述请求端的标识信息可以包括请求端对应的手机号、IP地址、Mac地址、注册ID、用户名和访问顺序ID中的至少一种。例如,所述请求端的标识信息为手机号时,所述分流配置规则为不同手机号区段与不同的访问对象的映射关系。所述请求端的标识信息为IP地址时,可以设置各个访问对象的IP地址白名单和/或IP地址黑名单等。
例如,用户登录时首先使用APP端默认配置文件(xxx1.jd.com通过域名访问)进行服务访问。
通过默认访问域名访问到服务之后获取校验规则,根据读取到的校验规则进行先登录后分流或先分流后登录。
如果是先分流后登录,则支持根据配置中的手机号区间划分、ip、访问顺序、名单配置列表(可直接拒绝或指定分发到某具体访问对象)等配置规则获取到指定机房的域名(xxx2.jd.com),然后进行登录校验。
如果是先登录后分流,则首先进行登录校验,校验通过,根据xxx1.jd.com进行访问登录,依然可以参照配置中的手机号区间划分、ip、访问顺序、名单配置列表(可直接拒绝或指定分发到某具体访问对象)等配置规则获取到指定机房的域名(xxx3.jd.com)。
(3)返回到客户端进行指定域名访问。
在该实施例中,不同访问对象间的数据同步、缓存使用了JIMDB,规则配置使用了ducc等技术作为支撑。
因此,本发明的基于负载均衡算法的分流方法也可以与其他的配置规则结合起来应用,从而可以适用于各种不同的场景。通过分为登录前分流和登录后分流不同的校验规则类型,保证了在某个访问对象故障时,可以通过配置校验规则以及配置具体的分流配置规则来进行访问请求转移,进一步增强了该访问请求分流方法的高可用性。通过配置分流配置规则还可以屏蔽或者定制化处理请求端访问。
如图2所示,本发明实施例还提供一种访问请求分流***,用于实现所述的访问请求分流方法,所述***包括:
请求接收模块M100,用于接收请求端的访问请求;
配比获取模块M200,用于获取访问对象负载配置比例,所述访问对象负载配置比例包括各个访问对象的分配比重;
对象匹配模块M300,用于调用负载均衡算法,确定所述访问请求所对应的匹配访问对象;
请求分配模块M400,用于将所述访问请求分配至所述匹配访问对象。
本发明提供了一种为访问请求分配访问对象的***,在有多个可选的访问对象时,通过配比获取模块M200获取访问对象负载配置比例,在对象匹配模块M300中,基于访问对象负载配置比例和负载均衡算法进行访问对象分配,综合考虑预设的负载配比和动态的平滑负载分配,实现访问请求分流,具有高可用性,并且适用于各种场景。
在该实施例中,所述访问对象包括服务集群、服务器或服务机房。因此,本发明的访问请求分流方法可以用于多个服务集群之间的负载均衡,或用于多个服务器之间的负载均衡,或用于多个服务机房之间的负载均衡。所述请求端可以包括用户使用的客户端或者浏览器端等。
所述访问请求分流***可以部署于多个访问对象的访问管理服务器,用于对多个访问对象的访问请求进行分配,访问请求首先发送至该访问管理服务器中,由该访问管理服务器对该访问请求进行分配。所述访问请求分流***也可以部署于一个默认的访问对象中,访问请求默认首先发送至该默认的访问对象中,由该默认的访问对象对该访问请求进行分配。
在该实施例中,所述对象匹配模块M300调用负载均衡算法,确定所述访问请求所对应的匹配访问对象包括从所述访问对象负载配置比例中选择分配比重最高的访问对象,作为匹配访问对象,并将所述匹配的访问对象的分配比重减去预设的比重调整值,与其他访问对象的分配比重组合得到访问对象负载配置比例的比例调整值,在分配开始时的访问对象负载配置比例的基础上累加所述比例调整值,更新所述访问对象负载配置比例,所述累加为所述访问对象负载配置比例中各个分配比重与所述比例调整值中各个对应的分配比重相加。
在该实施例中,所述配比获取模块M200获取访问对象负载配置比例,包括:判断当前访问请求是否为当前分配循环中第一个待分配的访问请求;如果是,则获取预设的初始访问对象负载配置比例;否则,获取前一个访问请求分配完成后,更新的访问对象负载配置比例。
在该实施例中,所述预设的比重调整值等于各个所述访问对象的分配比重之和。所述配比获取模块M200判断当前访问请求是否为当前分配循环中第一个待分配的访问请求,包括判断前一个访问请求分配完成后,所述比例调整值中每个访问对象的分配比重是否均为零。
本发明实施例还提供一种访问请求分流设备,包括处理器;存储器,其中存储有所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行所述的访问请求分流方法的步骤。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为***、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“平台”。
下面参照图3来描述根据本发明的这种实施方式的电子设备600。图3显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图3所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同***组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元610执行,使得所述处理单元610执行本说明书上述访问请求分流方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元610可以执行如图1中所示的步骤。
所述存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。
所述访问请求分流设备中,所述存储器中的程序被处理器执行时实现所述的访问请求分流方法的步骤,因此,所述计算机存储介质也可以获得上述访问请求分流方法的技术效果。
本发明实施例还提供一种计算机可读存储介质,用于存储程序,所述程序被处理器执行时实现所述的访问请求分流方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上执行时,所述程序代码用于使所述终端设备执行本说明书上述访问请求分流方法部分中描述的根据本发明各种示例性实施方式的步骤。
参考图4所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上执行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
所述计算机存储介质中的程序被处理器执行时实现所述的访问请求分流方法的步骤,因此,所述计算机存储介质也可以获得上述访问请求分流方法的技术效果。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (14)
1.一种访问请求分流方法,其特征在于,包括如下步骤:
接收到请求端的访问请求;
获取访问对象负载配置比例,所述访问对象负载配置比例包括各个访问对象的分配比重;
调用负载均衡算法,确定所述访问请求所对应的匹配访问对象;
将所述访问请求分配至所述匹配访问对象。
2.根据权利要求1所述的访问请求分流方法,其特征在于,所述访问对象包括服务集群、服务器或服务机房。
3.根据权利要求1所述的访问请求分流方法,其特征在于,所述调用负载均衡算法,确定所述访问请求所对应的匹配访问对象,包括如下步骤:
从所述访问对象负载配置比例中选择分配比重最高的访问对象,作为匹配访问对象。
4.根据权利要求3所述的访问请求分流方法,其特征在于,从所述访问对象负载配置比例中选择分配比重最高的访问对象,作为匹配访问对象之后,还包括如下步骤:
将所述匹配的访问对象的分配比重减去预设的比重调整值,与其他访问对象的分配比重组合得到访问对象负载配置比例的比例调整值,在分配开始时的访问对象负载配置比例的基础上累加所述比例调整值,更新所述访问对象负载配置比例,所述累加为所述访问对象负载配置比例中各个分配比重与所述比例调整值中各个对应的分配比重相加。
5.根据权利要求4所述的访问请求分流方法,其特征在于,所述获取访问对象负载配置比例,包括如下步骤:
判断当前访问请求是否为当前分配循环中第一个待分配的访问请求;
如果是,则获取预设的初始访问对象负载配置比例;
否则,获取前一个访问请求分配完成后,更新的访问对象负载配置比例。
6.根据权利要求4所述的访问请求分流方法,其特征在于,所述预设的比重调整值等于各个所述访问对象的分配比重之和。
7.根据权利要求6所述的访问请求分流方法,其特征在于,所述判断当前访问请求是否为当前分配循环中第一个待分配的访问请求,包括如下步骤:
判断前一个访问请求分配完成后,所述比例调整值中每个访问对象的分配比重是否均为零。
8.根据权利要求1所述的访问请求分流方法,其特征在于,所述接收到请求端的访问请求之后,还包括如下步骤:
获取所述请求端的标识信息;
获取预设的分流配置规则,所述分流配置规则包括预设的标识信息与访问对象的映射关系;
根据所述分流配置规则判断是否有与所述请求端的标识信息匹配的匹配访问对象;
如果是,则根据所述分流配置规则选择匹配访问对象;
否则,调用负载均衡算法,确定所述访问请求所对应的匹配访问对象。
9.根据权利要求8所述的访问请求分流方法,其特征在于,所述请求端的标识信息包括请求端对应的手机号、IP地址、Mac地址、注册ID、用户名和访问顺序ID中的至少一种。
10.根据权利要求1所述的访问请求分流方法,其特征在于,所述接收到请求端的访问请求之后,还包括如下步骤:
获取预设的校验规则,判断所述校验规则的类型;
如果所述校验规则为先分流后登录,则调用负载均衡算法,确定所述访问请求所对应的匹配访问对象,将所述访问请求分配至所述匹配访问对象后,由所述匹配访问对象对所述请求端进行登录校验;
如果所述校验规则为先登录后登录,则由默认访问对象对所述请求端进行登录校验并且校验通过后,调用负载均衡算法,确定所述访问请求所对应的匹配访问对象,将所述访问请求分配至所述匹配访问对象。
11.一种访问请求分流***,用于实现权利要求1至10中任一项所述的访问请求分流方法,其特征在于,所述***包括:
请求接收模块,用于接收请求端的访问请求;
配比获取模块,用于获取访问对象负载配置比例,所述访问对象负载配置比例包括各个访问对象的分配比重;
对象匹配模块,用于调用负载均衡算法,确定所述访问请求所对应的匹配访问对象;
请求分配模块,用于将所述访问请求分配至所述匹配访问对象。
12.根据权利要求11所述的访问请求分流***,其特征在于,所述对象匹配模块调用负载均衡算法,确定所述访问请求所对应的匹配访问对象包括从所述访问对象负载配置比例中选择分配比重最高的访问对象,作为匹配访问对象,并将所述匹配的访问对象的分配比重减去预设的比重调整值,与其他访问对象的分配比重组合得到访问对象负载配置比例的比例调整值,在分配开始时的访问对象负载配置比例的基础上累加所述比例调整值,更新所述访问对象负载配置比例,所述累加为所述访问对象负载配置比例中各个分配比重与所述比例调整值中各个对应的分配比重相加。
13.一种访问请求分流设备,其特征在于,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至10中任一项所述的访问请求分流方法的步骤。
14.一种计算机可读存储介质,用于存储程序,其特征在于,所述程序被处理器执行时实现权利要求1至10中任一项所述的访问请求分流方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011357295.XA CN113783919B (zh) | 2020-11-26 | 2020-11-26 | 访问请求分流方法、***、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011357295.XA CN113783919B (zh) | 2020-11-26 | 2020-11-26 | 访问请求分流方法、***、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113783919A true CN113783919A (zh) | 2021-12-10 |
CN113783919B CN113783919B (zh) | 2024-05-21 |
Family
ID=78835227
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011357295.XA Active CN113783919B (zh) | 2020-11-26 | 2020-11-26 | 访问请求分流方法、***、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113783919B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114785794A (zh) * | 2022-03-29 | 2022-07-22 | 北京字节跳动网络技术有限公司 | 资源分配方法、装置、设备、介质、程序产品和*** |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060067503A1 (en) * | 2004-09-10 | 2006-03-30 | Tekelec | Methods, systems, and computer program products for dynamically adjusting load sharing distributions in response to changes in network conditions |
CN109274707A (zh) * | 2017-07-18 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 一种负载调度方法及装置 |
CN109743303A (zh) * | 2018-12-25 | 2019-05-10 | ***通信集团江苏有限公司 | 应用保护方法、装置、***和存储介质 |
CN110233866A (zh) * | 2018-03-06 | 2019-09-13 | ***通信集团广东有限公司 | 一种负载均衡方法及负载均衡器 |
CN111866773A (zh) * | 2019-04-29 | 2020-10-30 | 大唐移动通信设备有限公司 | 一种数据的获取方法和装置 |
-
2020
- 2020-11-26 CN CN202011357295.XA patent/CN113783919B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060067503A1 (en) * | 2004-09-10 | 2006-03-30 | Tekelec | Methods, systems, and computer program products for dynamically adjusting load sharing distributions in response to changes in network conditions |
CN109274707A (zh) * | 2017-07-18 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 一种负载调度方法及装置 |
CN110233866A (zh) * | 2018-03-06 | 2019-09-13 | ***通信集团广东有限公司 | 一种负载均衡方法及负载均衡器 |
CN109743303A (zh) * | 2018-12-25 | 2019-05-10 | ***通信集团江苏有限公司 | 应用保护方法、装置、***和存储介质 |
CN111866773A (zh) * | 2019-04-29 | 2020-10-30 | 大唐移动通信设备有限公司 | 一种数据的获取方法和装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114785794A (zh) * | 2022-03-29 | 2022-07-22 | 北京字节跳动网络技术有限公司 | 资源分配方法、装置、设备、介质、程序产品和*** |
Also Published As
Publication number | Publication date |
---|---|
CN113783919B (zh) | 2024-05-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106899680B (zh) | 多区块链的分片处理方法和装置 | |
US10079879B2 (en) | Weighted rendezvous hashing | |
CN109995881B (zh) | 缓存服务器的负载均衡方法和装置 | |
US10129332B2 (en) | Load balancing of distributed services | |
CN108933829A (zh) | 一种负载均衡方法及装置 | |
US20170171304A1 (en) | Service updating method and system for server cluster | |
US20120297067A1 (en) | Load Balancing System for Workload Groups | |
CN110233866B (zh) | 一种负载均衡方法及负载均衡器 | |
CN110650209B (zh) | 实现负载均衡的方法和装置 | |
CN113014611B (zh) | 一种负载均衡方法及相关设备 | |
CN116431282A (zh) | 一种云虚拟主机服务器管理方法、装置、设备及存储介质 | |
CN114564313A (zh) | 负载调整方法、装置、电子设备及存储介质 | |
CN113783919B (zh) | 访问请求分流方法、***、设备及存储介质 | |
CN105872082B (zh) | 基于容器集群负载均衡算法的细粒度资源响应*** | |
US20170104683A1 (en) | Dynamically segmenting traffic for a/b testing in a distributed computing environment | |
CN107395708A (zh) | 一种处理下载请求的方法和装置 | |
CN110245014B (zh) | 数据处理方法和装置 | |
CN111930505B (zh) | 大数据平台的数据资源管理方法及***、服务器及介质 | |
CN111737000A (zh) | 一种实现负载均衡的方法 | |
AU2016267247B2 (en) | Systems and methods for server failover and load balancing | |
CN113835875A (zh) | 负载均衡方法、装置、电子设备及*** | |
CN113377866A (zh) | 一种虚拟化数据库代理服务的负载均衡方法及装置 | |
CN112799849A (zh) | 一种数据处理方法、装置、设备及存储介质 | |
CN112491066A (zh) | 负载均衡方法、装置、***、目标负载均衡设备及介质 | |
CN111182011A (zh) | 一种服务集分配方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |