CN115225579A - 流量限制方法、***、应用服务器及可读存储介质 - Google Patents
流量限制方法、***、应用服务器及可读存储介质 Download PDFInfo
- Publication number
- CN115225579A CN115225579A CN202210648580.XA CN202210648580A CN115225579A CN 115225579 A CN115225579 A CN 115225579A CN 202210648580 A CN202210648580 A CN 202210648580A CN 115225579 A CN115225579 A CN 115225579A
- Authority
- CN
- China
- Prior art keywords
- limiting
- current limiting
- server
- application server
- rule
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/20—Traffic policing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/2866—Architectures; Arrangements
- H04L67/30—Profiles
- H04L67/306—User profiles
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明公开了一种流量限制方法、***、应用服务器及可读存储介质,其中,所述方法应用于应用服务器,所述方法包括:获取所述应用服务器关联的负载策略和限流规则;根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量;对在所述限制时间内,所述应用服务器接收到的超过所述限制数量和符合所述限制内容的服务请求进行限制,本发明旨在提高对服务请求应用流量的限制效率。
Description
技术领域
本发明涉及互联网金融领域,尤其涉及一种流量限制方法、***、应用服务器及可读存储介质。
背景技术
随着互联网行业和金融行业的融合,互联网金融服务在实现安全、移动等网络水平上,逐渐被大众接受和认可。
针对面向互联网或商家的金融服务接口,由于核心***处理资源有限,但是外部的访问流量(服务请求)通常是不可预见的,因而需要控制并发流量。
在相关技术中,应用服务器在接收或发起服务请求后,服务请求会经过一个集中限流服务器,这个服务器针对指定资源每秒生成定量票数,需要执行该资源时前往限流服务领票、获取许可即可,如果领取成功,则可以通过该服务请求,执行该资源,否则拒绝,但是,由于应用服务器的所有相关请求都会经过限流服务器,当限流服务器负载较高出现响应慢的情况时,对***影响较大,导致对服务请求应用流量的限制效率变低。
上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提供一种流量限制方法、***、应用服务器及可读存储介质,旨在达成提高对服务请求应用流量的限制效率的效果。
为实现上述目的,本发明提供一种流量限制方法,应用于应用服务器,所述流量限制方法包括:
获取所述应用服务器关联的负载策略和限流规则;
根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量;
对在所述限制时间内,所述应用服务器接收到的超过所述限制数量和符合所述限制内容的服务请求进行限制。
可选地,所述根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量的步骤包括:
根据所述限流规则确定总限制数、所述限制内容和所述限制时间;
根据所述负载策略和所述总限制数确定所述限制数量。
可选地,所述根据所述负载策略和所述总限制数确定所述限制数量的步骤包括:
当所述负载策略是轮询或者随机时,获取所述限制规则对应的服务器点数,根据所述总限制数和所述服务器点数确定所述限制数量;
当所述负载策略是指定权重时,根据所述负载策略确定所述应用服务器的权重,根据所述总限制数和所述权重确定所述限制数量。
可选地,所述获取所述应用服务器关联的负载策略和限流规则的步骤之前,还包括:
向限流服务器发送许可申请;
当前所述许可申请对应的反馈信息的等待时长,大于或等于所述应用服务器的最大限流等待时间时,执行所述获取所述应用服务器关联的负载策略和限流规则的步骤。
可选地,所述获取所述应用服务器关联的负载策略和限流规则的步骤之前,还包括:
向限流服务器发送许可申请;
当前所述许可申请对应的反馈信息的等待时长,大于或等于所述应用服务器的最大限流等待时间时,确定是否存在其他可用限流服务器;
若存在其他可用限流服务器,则向所述可用限流服务器发送许可申请;
若不存在其他可用限流服务器,执行所述获取所述应用服务器关联的负载策略和限流规则的步骤。
可选地,所述根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量的步骤包括:
根据所述限流规则确定所述限制级别和作用范围;
根据所述限制级别确定所述限制时间,以及根据所述作用范围确定限制内容;
根据所述限流规则和所述负载策略确定所述应用服务器的限制数量。
可选地,所述获取所述应用服务器关联的负载策略和限流规则的步骤之前,还包括:
与配置服务器建立通信连接;
接收所述配置服务器发送的所述负载策略和/或所述限流规则,保存所述负载策略和/或所述限流规则。
此外,为实现上述目的,本发明还提供一种流量限制***,所述流量限制***包括应用服务器、配置服务器、限流服务器集群;
所述应用服务器执行如上所述的流量限制方法;
所述配置服务器向所述应用服务器发送负载策略和限流规则,向所述限流服务器集群发送所述限流规则;
所述限流服务器集群包括多个限流服务器,所述限流服务器向所述配置服务器发送集群信息和所述限流服务器集群的负载策略。
此外,为实现上述目的,本发明还提供一种应用服务器,所述应用服务器包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的流量限制程序,所述流量限制程序被所述处理器执行时实现如上所述的流量限制方法的步骤。
此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有流量限制程序,所述流量限制程序被处理器执行时实现如上所述的流量限制方法的步骤。
本发明实施例提出的一种流量限制方法、***、应用服务器及可读存储介质,先获取所述应用服务器关联的负载策略和限流规则;根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量;对在所述限制时间内,所述应用服务器接收到的超过所述限制数量和符合所述限制内容的服务请求进行限制。这样应用服务器可以根据负载策略和限流规则对接收到的服务请求进行限制,实现了应用服务器的本地限流,无需向限流服务器获取许可,防止限流服务器失效造成限流异常,因此可以提高对服务请求应用流量的限制效率。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的终端结构示意图;
图2为本发明流量限制方法的一实施例的流程示意图;
图3为本发明流量限制方法的另一实施例的流程示意图;
图4为本发明流量限制***的结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
由于在相关技术中,应用服务器在接收或发起服务请求后,服务请求会经过一个集中限流服务器,这个服务器针对指定资源每秒生成定量票数,需要执行该资源时前往限流服务领票、获取许可,由于应用服务器的所有相关请求都会经过限流服务器,若限流服务器负载较高出现响应慢的情况时,会导致对服务请求应用流量的限制效率变低。
为了提高对服务请求应用流量的限制效率,本发明实施例提出一种流量限制方法、***、应用服务器及可读存储介质,其中,所述方法的主要步骤包括:
获取所述应用服务器关联的负载策略和限流规则;
根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量;
对在所述限制时间内,所述应用服务器接收到的超过所述限制数量和符合所述限制内容的服务请求进行限制。
这样应用服务器可以根据负载策略和限流规则对接收到的服务请求进行限制,实现了应用服务器的本地限流,无需向限流服务器获取许可,防止限流服务器失效造成的限流异常,因此可以提高对服务请求应用流量的限制效率。
以下结合附图对本发明权利要求要求保护的内容进行详细说明。
如图1所示,图1是本发明实施例方案涉及的硬件运行环境的终端结构示意图。
本发明实施例终端可以是应用服务器。
如图1所示,该终端可以包括:处理器1001,例如CPU,存储器1003,通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。存储器1003可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1003可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解,图1中示出的终端结构并不构成对终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机存储介质的存储器1003中可以包括操作***以及流量限制程序。
在图1所示的终端中,处理器1001可以用于调用存储器1003中存储的流量限制程序,并执行以下操作:
获取所述应用服务器关联的负载策略和限流规则;
根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量;
对在所述限制时间内,所述应用服务器接收到的超过所述限制数量和符合所述限制内容的服务请求进行限制。
进一步地,处理器1001可以调用存储器1003中存储的流量限制程序,还执行以下操作:
根据所述限流规则确定总限制数、所述限制内容和所述限制时间;
根据所述负载策略和所述总限制数确定所述限制数量。
进一步地,处理器1001可以调用存储器1003中存储的流量限制程序,还执行以下操作:
当所述负载策略是轮询或者随机时,获取所述限制规则对应的服务器点数,根据所述总限制数和所述服务器点数确定所述限制数量;
当所述负载策略是指定权重时,根据所述负载策略确定所述应用服务器的权重,根据所述总限制数和所述权重确定所述限制数量。
进一步地,处理器1001可以调用存储器1003中存储的流量限制程序,还执行以下操作:
向限流服务器发送许可申请;
当前所述许可申请对应的反馈信息的等待时长,大于或等于所述应用服务器的最大限流等待时间时,执行所述获取所述应用服务器关联的负载策略和限流规则的步骤。
进一步地,处理器1001可以调用存储器1003中存储的流量限制程序,还执行以下操作:
向限流服务器发送许可申请;
当前所述许可申请对应的反馈信息的等待时长,大于或等于所述应用服务器的最大限流等待时间时,确定是否存在其他可用限流服务器;
若存在其他可用限流服务器,则向所述可用限流服务器发送许可申请;
若不存在其他可用限流服务器,执行所述获取所述应用服务器关联的负载策略和限流规则的步骤。
进一步地,处理器1001可以调用存储器1003中存储的流量限制程序,还执行以下操作:
根据所述限流规则确定所述限制级别和作用范围;
根据所述限制级别确定所述限制时间,以及根据所述作用范围确定限制内容;
根据所述限流规则和所述负载策略确定所述应用服务器的限制数量。
进一步地,处理器1001可以调用存储器1003中存储的流量限制程序,还执行以下操作:
与配置服务器建立通信连接;
接收所述配置服务器发送的所述负载策略和/或所述限流规则,保存所述负载策略和/或所述限流规则。
在互联网金融服务中,针对面向互联网或商家的金融服务接口,由于核心***处理资源有限,但是外部的访问流量(服务请求)通常是不可预见的,因而需要控制并发流量。
在相关技术中,应用服务器在接收或发起服务请求后,服务请求会经过一个集中限流服务器,这个服务器针对指定资源每秒生成定量票数,需要执行该资源时前往限流服务领票、获取许可即可,如果领取成功,则可以通过该服务请求,执行该资源,否则拒绝,但是,由于应用服务器的所有相关请求都会经过限流服务器,当限流服务器负载较高出现响应慢的情况时,对***影响较大,限流服务器还存在单点问题,且对业务场景定制化程度较低,一般支持针对某个资源的QPS(每秒请求数)或并发线程数来控制,缺乏针对不同应用场景、不同业务维度、不同时间间隔的流量控制,导致对服务请求应用流量的限制效率不高。
由此可见,在相关的流量限制方法中,存在上述缺陷。本发明实施例为解决上述缺陷,提出一种应用于应用服务器的流量限制方法,旨在达成应用服务器根据负载策略和限流规则对服务请求进行限制,实现应用服务器的本地限流,提高对服务请求应用流量的限制效率的效果。
以下,通过具体示例性方案对本发明权利要求要求保护的内容,进行解释说明,以便本领域技术人员更好地理解本发明权利要求的保护范围。可以理解的是,以下示例性方案不对本发明的保护范围进行限定,仅用于解释本发明。
示例性地,参照图2,在本发明流量限制方法的一实施例中,所述流量限制方法包括以下步骤:
步骤S10、获取所述应用服务器关联的负载策略和限流规则;
在本实施例中,流量限制方法的执行主体是应用服务器。
应用服务器是用于接收、发送或处理服务请求的服务器,应用服务器可以是金融服务***中的服务器,在金融服务***中有多个应用服务器,应用服务器内可设有本地限流模块,用于执行流量限制方法。
可选地,与配置服务器建立通信连接;接收所述配置服务器发送的所述负载策略和/或所述限流规则,保存所述负载策略和/或所述限流规则。
配置服务器中有注册中心和配置中心,应用服务器与配置服务器建立通信连接,应用服务器的本地限流模块从配置服务器的配置中心中读取并订阅限流规则,从配置服务器的注册中心获取应用服务器关联的负载策略,与应用服务器关联的限流规则是该应用服务器所在的金融服务***的限流规则,限流规则由***中的管理端进行配置,管理端可动态配置限流规则,变更限流规则时通过配置服务器通知应用服务器集群及限流服务器集群,本地限流模块和限流服务均更新本地规则。与应用服务器关联的负载策略是该应用服务器所在的金融服务***中,包括该应用服务器在内的多个应用服务器的负载策略,配置服务器按预定订阅条件向应用服务器发送负载策略和限流规则,例如按照一定的预设时间更新所述限流规则,在更新后将限流规则发送给应用服务器,或者在接收到管理端修改的限流规则时,向应用服务器发送限流规则,也可以基于实际请求,应用服务器向配置服务器发起申请限流规则的请求,配置服务器接收到请求后,判断应用服务器有无本地限流模块,若有,则向应用服务器发送限流规则。
步骤S20、根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量;
在本实施中,限流规则中包括对服务请求的限制要求,对服务请求进行限制时,须知限制时间、限制内容和限制数量,即在一段限制时间内对满足限制内容的服务请求进行限制,根据与应用服务器关联的负载策略和限流规则确定的应用服务器的限制时间、限制内容和限制数量,以确定本地限流的标准。
在本实施例的一可选实施方案中,根据所述限流规则确定总限制数、所述限制内容和所述限制时间;根据所述负载策略和所述总限制数确定所述限制数量。
限流规则是对金融服务***中的服务请求的限制规则,限流规则具有整体性,根据限流规则可以确定金融服务***中的总限制数、限制内容和限制时间,应用服务器可以根据金融服务***的限制内容和限制时间进行限制,但是金融服务器中还包括其他应用服务器,负载策略对应金融服务***中多个应用服务器的限制数量的均衡方法,因而可以根据负载策略和总限制数确定当前应用服务器的限制数量。
进一步地,当所述负载策略是轮询或者随机时,获取所述限制规则对应的服务器点数,根据所述总限制数和所述服务器点数确定所述限制数量;当所述负载策略是指定权重时,根据所述负载策略确定所述应用服务器的权重,根据所述总限制数和所述权重确定所述限制数量。
负载策略可以是轮询、随机、或者指定权重,轮询是金融服务器中的应用服务器按顺序对服务请求进行拦截,随机是随机选择金融服务器中的应用服务器对服务请求进行拦截,轮询和随机在选中应用服务器进行限制时,每次限制的数量相同,因此,若负载策略是轮询或随机,则获取限制规则中总限制数对应的服务器点数,当前应用服务器的限制数=总限制数/服务器点数;指定权重是指定当前应用服务器负载的限制数量在总限制数量中的占比,因此,若负载策略是指定权重,则根据负载策略确定应用服务器的权重,根据总限制数和权重确定限制数量,当前应用服务器的限制数=总限制数×权重。
在一可选实施方案中,根据所述限流规则确定所述限制级别和作用范围;根据所述限制级别确定所述限制时间,以及根据所述作用范围确定限制内容;根据所述限流规则和所述负载策略确定所述应用服务器的限制数量。限制规则支持多种维度的配置,包括限制级别、作用范围等,限制级别支持:秒级、分级、小时级,限制级别是通过滑动时间窗口的分段组合来实现,因此根据限制级别可以确定应用服务器的限制时间;作用范围支持:全局、指定发起方、指定业务类型、指定资源,作用范围除全局外,还支持自由组合,如制定某一发起方的某种业务类型,用范围的自由组合生成了一个固定的Key值,计数器作为Value值存入限流服务器和本地限流模块中,从而针对该作用范围进行限制,因此可以根据作用范围确定限制内容,这样可以支持业务场景的定制化限流,提供了支持针对不同应用场景、不同业务维度、不同时间间隔的应用流量限制。
步骤S30、对在所述限制时间内,所述应用服务器接收到的超过所述限制数量和符合所述限制内容的服务请求进行限制。
在本实施例中,应用服务器转发服务请求,将服务请求发送至下一节点,应用服务器基于限制时间、限制内容和限制数量对接收到的服务请求进行限制,应用服务器在确定了限制时间、限制内容和限制数量后,应用服务器接收到限制请求,根据限制时间配置时间间隔,将时间窗口分段,每个分段原子性维护一个计数器,计数器对应用服务器接收到并转发的满足限制内容的服务请求进行确定计数,在限制时间内,当计数器的计数数量等于限制数量时,再接收到的满足限制内容的服务请求,属于超过限制数量和符合限制内容的服务请求,对该服务请求进行限制,不再发送此服务请求或者将此服务请求延迟到限制时间结束后,在下一限制时间内进行发送,有下一限制时间对应的计算器进行计数。
在本实施例公开的技术方案中,先获取所述应用服务器关联的负载策略和限流规则;根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量;对在所述限制时间内,所述应用服务器接收到的超过所述限制数量和符合所述限制内容的服务请求进行限制。这样应用服务器可以根据负载策略和限流规则对接收到的服务请求进行限制,实现了应用服务器的本地限流,无需向限流服务器获取许可,可以避免限流服务器的单点问题,防止限流服务器失效造成限流异常,因此可以提高对服务请求应用流量的限制效率。
可选地,参照图3,基于上述任一实施例,在本发明流量限制方法的另一实施例中,所述流量限制还方法包括:
步骤S40、向限流服务器发送许可申请;
步骤S50、当前所述许可申请对应的反馈信息的等待时长,大于或等于所述应用服务器的最大限流等待时间时,执行所述获取所述应用服务器关联的负载策略和限流规则的步骤。
在本实施例中,应用服务器还可以与限流服务器集群建立通信连接,应用服务器可以由限流服务器集群进行限流,也可以由本地限流模块进行限流,限流服务集群分布式部署,将集群信息及限流服务集群的负载策略注册至配置服务器的注册中心,同样从配置服务器的配置中心订阅限流规则。应用服务器基于限制请求向限流服务器集群获取许可,在应用服务器发送服务请求前,向限流服务器发送许可申请,以使限流服务器根据许可申请向应用服务器发送反馈信息,反馈信息包括运行应用服务器发送服务请求的许可。
限流服务器集群根据限流规则配置的时间间隔,将时间窗口分段,每个分段维护一个计数器,该计算器存储在分布式存储集群,对该计数器的操作是原子性的,接收到许可申请的限流服务器集群中的限流服务器根据限流规则和计数器的统计实现限流拦截,即流量限制。
配置服务器的配置中心维护了一个变量,即最大限流等待时间,应用服务器基于与配置服务器建立的通信连接,接收配置服务器发送的最大限流等待时间,应用服务器基于最大限流等待时间,在向限流服务器获取许可时计时,若超过该配置变量,立即切换为本地限流模式,即由应用服务器的本地限流模块对服务请求应用流量进行限制,实现本地限流。
可选地,根据预设时间轮询所述应用服务器的应用状态;根据所述应用状态确定限制所述应用服务器的服务请求的执行主体;若所述执行主体是所述应用服务器,且所述应用服务器能在所述最大限流等待时间内从所述限流服务器处获取所述反馈信息时,变更所述执行主体为所述限流服务器,执行所述向限流服务器发送许可申请的步骤。应用服务器定时轮询自身的应用状态,若发现当前启用了本地限流模块且远程的限流服务器可用,即应用服务器能在所述最大限流等待时间内从所述限流服务器处获取所述反馈信息,则切换回远程限流服务,变更执行主体为限流服务器,执行向限流服务器发送许可申请的步骤。
在本实施例的一可选替代方案中,向限流服务器发送许可申请;当前许可申请对应的反馈信息的等待时长,大于或等于所述应用服务器的最大限流等待时间时,确定是否存在其他可用限流服务器;若存在其他可用限流服务器,则向可用限流服务器发送许可申请;若不存在其他可用限流服务器,执行步骤S10,这样限流服务器集群有多个限流服务器,在其中一个服务器不可用时,优先选择其他可以限流服务器,可以保证限流服务的准确性。
在本实施例公开的技术方案中,在远程的限流服务器响应慢或无法提高限流服务时,再通过应用服务器进行本地限流。集中的限流服务器提高的限流服务更加准确,但集中限流服务器负载较高,出现限流服务响应慢的情况,这样通过集中限流服务器提供准确性高的限流服务,并且在集中限流服务无法正常提供限流服务时,应用服务器进行本地限流,这样可以提高对服务请求应用流量整体上的限制效率。
此外,本发明实施例还提出一种流量限制***,如图4所示,流量限制***包括应用服务器、配置服务器、限流服务器集群、分布式存储器、管理端,所述应用服务器执行如上所述的流量限制方法;所述配置服务器向所述应用服务器发送负载策略和限流规则,向所述限流服务器集群发送所述限流规则;所述限流服务器集群包括多个限流服务器,所述限流服务器向所述配置服务器发送集群信息和限流服务器集群的负载策略,以及基于应用服务器发送的许可请求,向应用服务器发送反馈信息。
此外,本发明实施例还提出一种应用服务器,所述应用服务器包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的流量限制程序,所述流量限制程序被所述处理器执行时实现如上各个实施例所述的流量限制方法的步骤。
此外,本发明实施例还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有流量限制程序,所述流量限制程序被处理器执行时实现如上各个实施例所述的流量限制方法的步骤。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者***不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者***所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者***中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得应用服务器执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种流量限制方法,其特征在于,应用于应用服务器,所述流量限制方法包括:
获取所述应用服务器关联的负载策略和限流规则;
根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量;
对在所述限制时间内,所述应用服务器接收到的超过所述限制数量和符合所述限制内容的服务请求进行限制。
2.如权利要求1所述的流量限制方法,其特征在于,所述根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量的步骤包括:
根据所述限流规则确定总限制数、所述限制内容和所述限制时间;
根据所述负载策略和所述总限制数确定所述限制数量。
3.如权利要求2所述的流量限制方法,其特征在于,所述根据所述负载策略和所述总限制数确定所述限制数量的步骤包括:
当所述负载策略是轮询或者随机时,获取所述限制规则对应的服务器点数,根据所述总限制数和所述服务器点数确定所述限制数量;
当所述负载策略是指定权重时,根据所述负载策略确定所述应用服务器的权重,根据所述总限制数和所述权重确定所述限制数量。
4.如权利要求1所述的流量限制方法,其特征在于,所述获取所述应用服务器关联的负载策略和限流规则的步骤之前,还包括:
向限流服务器发送许可申请;
当前所述许可申请对应的反馈信息的等待时长,大于或等于所述应用服务器的最大限流等待时间时,执行所述获取所述应用服务器关联的负载策略和限流规则的步骤。
5.如权利要求1所述的流量限制方法,其特征在于,所述获取所述应用服务器关联的负载策略和限流规则的步骤之前,还包括:
向限流服务器发送许可申请;
当前所述许可申请对应的反馈信息的等待时长,大于或等于所述应用服务器的最大限流等待时间时,确定是否存在其他可用限流服务器;
若存在其他可用限流服务器,则向所述可用限流服务器发送许可申请;
若不存在其他可用限流服务器,执行所述获取所述应用服务器关联的负载策略和限流规则的步骤。
6.如权利要求1所述的流量限制方法,其特征在于,所述根据所述限流规则和所述负载策略确定所述应用服务器的限制时间、限制内容和限制数量的步骤包括:
根据所述限流规则确定所述限制级别和作用范围;
根据所述限制级别确定所述限制时间,以及根据所述作用范围确定限制内容;
根据所述限流规则和所述负载策略确定所述应用服务器的限制数量。
7.如权利要求1所述的流量限制方法,其特征在于,所述获取所述应用服务器关联的负载策略和限流规则的步骤之前,还包括:
与配置服务器建立通信连接;
接收所述配置服务器发送的所述负载策略和/或所述限流规则,保存所述负载策略和/或所述限流规则。
8.一种流量限制***,其特征在于,所述流量限制***包括应用服务器、配置服务器、限流服务器集群;
所述应用服务器执行如权利要求1至7任意一项所述的流量限制方法;
所述配置服务器向所述应用服务器发送负载策略和限流规则,向所述限流服务器集群发送所述限流规则;
所述限流服务器集群包括多个限流服务器,所述限流服务器向所述配置服务器发送集群信息和所述限流服务器集群的负载策略。
9.一种应用服务器,其特征在于,所述应用服务器包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的流量限制程序,所述流量限制程序被所述处理器执行时实现如权利要求1至7中任一项所述的流量限制方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有流量限制程序,所述流量限制程序被处理器执行时实现如权利要求1至7中任一项所述的流量限制方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210648580.XA CN115225579A (zh) | 2022-06-09 | 2022-06-09 | 流量限制方法、***、应用服务器及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210648580.XA CN115225579A (zh) | 2022-06-09 | 2022-06-09 | 流量限制方法、***、应用服务器及可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115225579A true CN115225579A (zh) | 2022-10-21 |
Family
ID=83607168
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210648580.XA Pending CN115225579A (zh) | 2022-06-09 | 2022-06-09 | 流量限制方法、***、应用服务器及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115225579A (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110351357A (zh) * | 2019-07-08 | 2019-10-18 | 中国平安人寿保险股份有限公司 | 服务器限流方法、装置、计算机设备以及存储介质 |
CN111625859A (zh) * | 2020-05-20 | 2020-09-04 | 北京百度网讯科技有限公司 | 一种资源的访问控制方法、装置、电子设备和存储介质 |
CN113242245A (zh) * | 2021-05-12 | 2021-08-10 | 上海绚显科技有限公司 | 一种tcp消息限流方法、装置、服务器及存储介质 |
CN113285883A (zh) * | 2021-05-25 | 2021-08-20 | 挂号网(杭州)科技有限公司 | 一种访问请求的限流方法及装置、电子设备、存储介质 |
CN113742066A (zh) * | 2021-08-09 | 2021-12-03 | 联通沃悦读科技文化有限公司 | 一种用于服务器集群的负载均衡***和方法 |
-
2022
- 2022-06-09 CN CN202210648580.XA patent/CN115225579A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110351357A (zh) * | 2019-07-08 | 2019-10-18 | 中国平安人寿保险股份有限公司 | 服务器限流方法、装置、计算机设备以及存储介质 |
CN111625859A (zh) * | 2020-05-20 | 2020-09-04 | 北京百度网讯科技有限公司 | 一种资源的访问控制方法、装置、电子设备和存储介质 |
CN113242245A (zh) * | 2021-05-12 | 2021-08-10 | 上海绚显科技有限公司 | 一种tcp消息限流方法、装置、服务器及存储介质 |
CN113285883A (zh) * | 2021-05-25 | 2021-08-20 | 挂号网(杭州)科技有限公司 | 一种访问请求的限流方法及装置、电子设备、存储介质 |
CN113742066A (zh) * | 2021-08-09 | 2021-12-03 | 联通沃悦读科技文化有限公司 | 一种用于服务器集群的负载均衡***和方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7568218B2 (en) | Selective cross-realm authentication | |
US20070118653A1 (en) | System, method, and computer program product for throttling client traffic | |
US10542124B2 (en) | Systems and methods of rate limiting for a representational state transfer (REST) application programming interface (API) | |
US7426737B2 (en) | Method and apparatus for operating an open API network having a proxy | |
US20030110381A1 (en) | One-time logon method for distributed computing systems | |
US8015243B2 (en) | Authenticating a requestor without providing a key | |
US8150977B1 (en) | Resource scheduler within a network device | |
CN108696364B (zh) | 请求消息处理方法、聊天室消息服务器及聊天室*** | |
US11438271B2 (en) | Method, electronic device and computer program product of load balancing | |
CN110838987B (zh) | 队列限流方法、存储介质 | |
US20200359220A1 (en) | Network Access Control Method, Apparatus, and Device | |
CN110868323A (zh) | 一种带宽控制方法、装置、设备及介质 | |
CN113177179A (zh) | 数据请求连接管理方法、装置、设备及存储介质 | |
CN112671945A (zh) | 管理ip代理池的方法、装置、计算机设备及存储介质 | |
CN115225579A (zh) | 流量限制方法、***、应用服务器及可读存储介质 | |
KR100872435B1 (ko) | 가치 기반 평가에 의한 네트워크 관리 시스템 및 방법 | |
US20230353572A1 (en) | Managing access requests for policy-based access control systems in computer networks | |
US8380850B1 (en) | System and method for damping overload state oscillations | |
CN114422530A (zh) | 流量控制方法、装置和计算机设备和存储介质 | |
CN109460654B (zh) | 业务控制方法、业务控制***、服务器及计算机存储介质 | |
CN110417615B (zh) | 校验开关控制方法、装置、设备及计算机可读存储介质 | |
CN112698927A (zh) | 双向通信方法、装置、电子设备及机器可读存储介质 | |
CN113765986B (zh) | 一种开放平台的流量控制方法和服务器 | |
US11849040B2 (en) | Adaptive rate limiting of API calls | |
CN114979273B (zh) | 请求的限流方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |