CN112615790A - 多服务端的限流、流量监测***及方法 - Google Patents
多服务端的限流、流量监测***及方法 Download PDFInfo
- Publication number
- CN112615790A CN112615790A CN202011533088.5A CN202011533088A CN112615790A CN 112615790 A CN112615790 A CN 112615790A CN 202011533088 A CN202011533088 A CN 202011533088A CN 112615790 A CN112615790 A CN 112615790A
- Authority
- CN
- China
- Prior art keywords
- service
- current
- data
- configuration center
- qps
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0631—Management of faults, events, alarms or notifications using root cause analysis; using analysis of correlation between notifications, alarms or events based on decision criteria, e.g. hierarchy, tree or time analysis
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0876—Network utilisation, e.g. volume of load or congestion level
- H04L43/0894—Packet rate
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
多服务端的限流***包括:多个服务端、一个配置中心、一个异步队列、一个服务监控单元和一个数据处理单元。服务监控单元配置于配置中心且能够将设定qps限流阈值配置到配置中心。服务监控单元能够获取服务接口的数据流量。配置中心根据服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到异步队列分流或发送到数据处理单元处理。从而本发明适用于快速响应的***核心服务使用及实施,在服务触发限流降级时,确保***稳定性和高可用性,同时也能保证数据不丢失和最终一致性。后期甚至可使用多队列来保证数据同步,扩展性大。同时,本发明还提供了一种多服务端的流量监测***及一种多服务端的限流、流量监测方法。
Description
技术领域
本发明涉及分布式***的优化及应用领域。本发明具体涉及一种多服务端的限流、流量监测***及方法。
背景技术
分布式***服务间存在许多依赖项,每个依赖项都不可避免地会失败。如果核心服务没有与其他服务故障隔离,那么很有可能被他们拖垮,整体***崩溃。现有技术中Sentinel分布式***的流量防卫兵主要以流量为切入点,从流量控制、熔断降级、***负载保护、热点防护等多个维度来保障服务的稳定性。
现有技术中Hystrix分布式***的延迟和容错库对通过第三方客户端库(通常是通过网络)访问的依赖项,提供保护并控制延迟和失败,停止复杂的级联故障。能够快速失败,迅速恢复。回退并在可能的情况下正常降级。
上述现有技术都提供了相似的限流、熔断、降级策略来保障***服务的稳定性和可用性。现有技术主要是以维护***主体稳定为主,在必要时丢弃流量或者牺牲非核心服务等方式,来保证核心服务的可用性和稳定性。但是对于核心服务来说,数据不可丢失、不可降级,在发生类似流量激增等情况时,这些方案并不能完全适用。
上述这些缺陷主要是由于限流,即拒绝服务,把多余的请求拒绝掉;熔断,即不再请求发生异常的依赖服务,当服务恢复时再请求;降级,即放弃一些非重要功能,弃车保帅等机制导致的。
发明内容
本发明实施方式提供一种多服务端的限流、流量监测***及方法,用于至少解决上述技术问题之一。
第一方面,本发明实施方式中提供一种多服务端的限流***,其包括:多个服务端、一个配置中心、一个异步队列、一个服务监控单元和一个数据处理单元。其中,
多个服务端,其每个服务具有一个服务接口;
配置中心,其能够配置多个服务端的服务接口且连接一个数据处理单元;
异步队列,其配置于所述配置中心;
服务监控单元,其配置于所述配置中心且能够将设定qps限流阈值配置到所述配置中心;所述服务监控单元能够获取所述服务接口的数据流量;
其中,所述配置中心根据所述服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到所述异步队列分流或发送到所述数据处理单元处理;
所述数据处理单元处理所述配置中心所发送的当前数据;或所述数据处理单元处理所述配置中心及异步队列所发送的当前数据。
第二方面,本发明实施方式中提供一种多服务端的流量监测***,其包括本发明中的多服务端的限流***和一个告警***;
所述告警***配置于所述配置中心,若当前数据流量超过所述设定qps限流阈值,则向所述告警***发送告警输出日志。
第三方面,本发明实施方式中提供一种多服务端的限流方法,该限流方法通过一个多服务端的限流***实现,所述多服务端的限流***包括:
多个服务端,其每个服务具有一个服务接口;
一个配置中心,其能够配置多个服务端的服务接口且连接一个数据处理单元;
一个异步队列,其配置于所述配置中心;
一个服务监控单元,其配置于所述配置中心且能够将设定qps限流阈值配置到所述配置中心;所述服务监控单元能够获取所述服务接口的数据流量;和
一个数据处理单元。
所述多服务端的限流方法包括:
步骤S101,所述配置中心根据所述服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到所述异步队列分流或发送到所述数据处理单元处理;
步骤S102,所述数据处理单元处理所述配置中心所发送的当前数据;或所述数据处理单元处理所述配置中心及异步队列所发送的当前数据。
第四方面,本发明实施方式中提供一种多服务端的监测方法,其包括:如本发明中的一种多服务端的限流方法且还包括:
若当前数据流量超过所述设定qps限流阈值,则向外发送告警输出日志;所述告警输出日志包括:应用服务名称、接口所属类名、接口方法名称、接口路由地址、限流发生时间。
第五方面,提供一种高效的离线语义解析的电子设备,其包括:至少一个处理器,以及与至少一个处理器通信连接的存储器,其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本发明任一实施方式的方法的步骤。
第六方面,本发明实施方式还提供一种计算机程序产品,计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序,计算机程序包括程序指令,当程序指令被计算机执行时,使计算机执行本发明任一实施方式的方法的步骤。
本发明通过设定服务监控单元实施监控各服务接口的qps限流阈值,当qps限流阈值超过预设值时,及时对超出的部分分流到异步队列,从而本发明适用于快速响应的***核心服务使用及实施,在服务触发限流降级时,确保***稳定性和高可用性,同时也能保证数据不丢失和最终一致性。减少人工介入和盲目堆硬件等带来的成本消耗。后期甚至可使用多队列来保证数据同步,扩展性大。
附图说明
为了更清楚地说明本发明实施方式的技术方案,下面将对实施方式描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一实施方式提供的多服务端的限流***的组成图;
图2为本发明另一实施方式提供的多服务端的限流***的组成图;
图3为本发明又一实施方式提供的多服务端的限流***的组成图;
图4为本发明一实施方式提供的多服务端的限流方法的流程示意图;
图5是本发明另一实施方式提供的多服务端的限流方法的流程示意图
图6为本发明一实施方式的提供的配置流程示意图;
图7为本发明一实施方式的限流异步队列处理的流程示意图;
图8为本发明一实施方式的告警输出流程示意图;
图9为本发明一实施方式中提供的电子设备的结构示意图。
具体实施方式
为使本发明实施方式的目的、技术方案和优点更加清楚,下面将结合本发明实施方式中的附图,对本发明实施方式中的技术方案进行清楚、完整地描述,显然,所描述的实施方式是本发明一部分实施方式,而不是全部的实施方式。基于本发明中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。
发明人在实现本申请的过程中发现,通常会采取堆硬件方式,增加服务节点,以数量确保核心服务可用性和稳定性,但相应会增加成本;增加监控力度,以人为方式介入,处理相对滞后,缺少***自适应性。因为结合***框架、不同业务的使用场景,需要***服务能够异步处理、快速返回,并且有相对的补偿措施时,才能更好地适用此方案。
本发明通过通过分析服务的qps值,给重点接口预设qps告警阈值。当发生类似流量激增等异常状况,接口达到性能瓶颈时,通过限流措施,将拒绝的流量导入队列(本方案采用RocketMQ)中,以RocketMQ的事务一致性及高可用性,异步消费导入的流量,在确保数据不丢失情况下并且能够及时处理。同时出发告警信息,通过人为介入,视情况增加服务节点,并可动态实时调节qps告警阈值,恢复***性能。
第一方面,如图1所示,本发明实施方式中提供多服务端的限流***101,其包括:多个服务端10、11、12、13、一个配置中心20、一个异步队列30、一个服务监控单元40和数据处理单元50。其中:
多个服务端10、11、12、13,其每个服务具有一个服务接口。
配置中心20,其能够配置多个服务端10、11、12、13的服务接口且连接一个数据处理单元50。
异步队列30,其配置于配置中心20。
服务监控单元40,其配置于配置中心20且能够将设定qps限流阈值配置到配置中心20。服务监控单元40能够获取服务接口的数据流量。
其中,配置中心20根据服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到异步队列30分流或发送到数据处理单元50处理。
数据处理单元50处理配置中心20所发送的当前数据,或数据处理单元50处理配置中心20及异步队列30所发送的当前数据。
在本发明中多服务端的限流***的一种优选的实施方式中,配置中心20具体配置为:
如图2所示,配置中心20若判断服务接口的当前数据流量超过设定qps限流阈值,则将当前数据流量超出qps限流阈值的超出流量数据,发送到异步队列30处理。异步队列30分流超出流量数据后发送到数据处理单元50。配置中心20将与qps限流阈值等值的服务接口的当前数据发送到数据处理单元50。
数据处理单元50配置为:处理从配置中心20和异步队列30所发送的服务接口数据。
在本发明中多服务端的限流***的另一种优选的实施方式中,配置中心20具体配置为:
配置中心20若判断服务接口的当前数据流量未超过设定qps限流阈值,则将当前数据发送到数据处理单元50。
数据处理单元50配置为:数据处理单元50处理从配置中心20所发送的数据。
在本发明中多服务端的限流***的另一种优选的实施方式中,服务监控单元40通过qps服务监控工具获取服务接口的数据流量。
服务监控单元40,具体配置为:通过qps服务监控工具,获取服务接口峰时期的qps均值。根据qps均值乘以设定突增系数获取qps限流阈值。
在本发明中多服务端的限流***的另一种优选的实施方式中,设定突增系数通过平峰期设定个数qps峰值的平均值除以qps均值后,再加浮动系数获得。浮动系数为设定的多个层级的递增的固定值。
本发明通过设定服务监控单元实施监控各服务接口的qps限流阈值,当qps限流阈值超过预设值时,及时对超出的部分分流到异步队列,从而本发明适用于快速响应的***核心服务使用及实施,在服务触发限流降级时,确保***稳定性和高可用性,同时也能保证数据不丢失和最终一致性。减少人工介入和盲目堆硬件等带来的成本消耗。后期甚至可使用多队列来保证数据同步,扩展性大。
第二方面,如图3所示,本发明实施方式中提供多服务端的流量监测***,其包括本发明任一实施方式中的多服务端的限流***101和一个告警***201。
告警***201配置于配置中心20,若当前数据流量超过设定qps限流阈值,则向告警***201发送告警输出日志。
在本发明中流量监测***的一种优选的实施方式中,告警输出日志包括:应用服务名称、接口所属类名、接口方法名称、接口路由地址、限流发生时间。
第三方面,本发明实施方式中提供一种多服务端的限流方法,该限流方法通过一个多服务端的限流***实现,如图1所示,多服务端的限流***包括:
多个服务端10、11、12、13,其每个服务具有一个服务接口。
一个配置中心20,其能够配置多个服务端10、11、12、13的服务接口且连接一个数据处理单元50。
一个异步队列30,其配置于配置中心20。
一个服务监控单元40,其配置于配置中心20且能够将设定qps限流阈值配置到配置中心20。服务监控单元40能够获取服务接口的数据流量。
和
一个数据处理单元50。
如图4所示,多服务端的限流方法包括:
步骤S101,判断当前数据流量。
本步骤中,配置中心20根据服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到异步队列30分流或发送到数据处理单元50处理。
步骤S102,数据处理单元处理当前数据。
本步骤中,数据处理单元50处理配置中心20所发送的当前数据。或数据处理单元50处理配置中心20及异步队列30所发送的当前数据。
在本发明中服务的限流方的另一种优选的实施方式中,如图5所示,步骤S101中包括:
S1011,通过qps限流阈值判断。
本步骤中,配置中心20若判断服务接口的当前数据流量超过设定qps限流阈值,则将当前数据流量超出qps限流阈值的超出流量数据,发送到异步队列30处理。异步队列30分流超出流量数据后发送到数据处理单元50。配置中心20将与qps限流阈值等值的服务接口的当前数据发送到数据处理单元50。
步骤S102中包括:
步骤S1021,数据处理单元处理服务接口数据。
本步骤中,数据处理单元50处理从配置中心20和异步队列30所发送的服务接口数据。
在本发明服务的限流方的另一种优选的实施方式中,步骤S101中包括:
步骤S1012,配置中心20若判断服务接口的当前数据流量未超过设定qps限流阈值,则将当前数据发送到数据处理单元50。
步骤S102中包括:步骤S1022,数据处理单元50处理从配置中心20所发送的数据。
第四方面,本发明实施方式中提供一种多服务端的监测方法,其包括:本发明中任一实施方式中的多服务端的限流方法且还包括:
若当前数据流量超过设定qps限流阈值,则向外发送告警输出日志。告警输出日志包括:应用服务名称、接口所属类名、接口方法名称、接口路由地址、限流发生时间。
在本发明另一种实施方式中提供的多服务端的限流方法中,
本发明由配置qps阈值、限流异步队列处理、告警输出构成三个环节构成。
配置qps阈值:分析服务接口的正常情况下qps值及通过压测等方式得到的最大qps值,
预设接口限流告警阈值。
限流异步队列处理:当发生限流时,流量突增的那部分数据输出到队列中,起到削峰作用,延时处理数据。
告警输出:异常发生时,通知相关人员,及时监控***,进一步保证***高可用性和稳定性。
以下对各环节进行详细说明:
一、配置qps阈值
如图6所示,配置流程如下:
1.1、通过grafana等服务监控工具分析服务qps阈值,并配置到配置中心;
阈值分析方式为:以单个服务单个接口为例,通过实时运维监控工具,获得接口平峰时期qps均值,再乘以突增系数,得到阈值。达到或超过该值,即认为接口流量有突增趋势。
突增系数为:平峰期n个qps峰值的平均值,除以qps均值,再加浮动系数;浮动系数:预先设定的多个层级的递增的固定值。根据接口压测获得的最大qps值与平峰期qps峰值平均值之比,选定对应层级的对应系数。
1.2、配置中心的qps阈值可实时修改,修改后同步到应用服务对应接口的限流阈值,从而达到动态调整限流策略的效果。
二、限流异步队列处理
如图7所示,限流异步队列处理如下:
2.1、正常情况,即未到达qps限流阈值,对请求数据直接处理。
2.2、触发限流时,即超过配置的qps限流阈值,超出部分数据将进入异步队列中,利用队列消息分发、高吞吐量等特性,实现分流;
2.3、(同服务或其他服务的)数据处理方将读取并处理异步队列中的数据,实现数据不丢失及最终一致性。
三、告警输出
如图8所示,告警输出流程如下:
3.1、服务发生限流时,输出日志到告警***。日志内容包括应用服务名称、接口所属类名、接口方法名称、接口路由地址、限流发生时间。
3.2、告警***发出告警通知,人为介入处理。
本专利中的名词解释为:
qps:Queries-per-second,对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。
在另一些实施方式中,本发明实施方式还提供了一种非易失性计算机存储介质,计算机存储介质存储有计算机可执行指令,该计算机可执行指令可执行上述任意方法实施方式中的多服务端的限流方法;
作为一种实施方式,本发明的非易失性计算机存储介质存储有计算机可执行指令,计算机可执行的方法设置为:
步骤S101,根据服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到异步队列分流或发送到所述数据处理单元处理。
步骤S102,数据处理单元处理配置中心所发送的当前数据。或数据处理单元处理所述配置中心及异步队列所发送的当前数据。
本发明通过设定服务监控单元实施监控各服务接口的qps限流阈值,当qps限流阈值超过预设值时,及时对超出的部分分流到异步队列,从而本发明适用于快速响应的***核心服务使用及实施,在服务触发限流降级时,确保***稳定性和高可用性,同时也能保证数据不丢失和最终一致性。减少人工介入和盲目堆硬件等带来的成本消耗。后期甚至可使用多队列来保证数据同步,扩展性大。
非易失性计算机可读存储介质可以包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需要的应用程序;存储数据区可存储根据多服务端的限流处理装置的使用所创建的数据等。此外,非易失性计算机可读存储介质可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施方式中,非易失性计算机可读存储介质可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至多服务端的限流处理装置。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本发明实施方式还提供一种计算机程序产品,计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序,计算机程序包括程序指令,当程序指令被计算机执行时,使计算机执行上述任一项多服务端的限流方法。
图9是本发明实施方式提供的电子设备的结构示意图,如图9所示,该设备包括:一个或多个处理器910以及存储器920,图9中以一个处理器910为例。多服务端的限流方法的设备还可以包括:输入装置930和输出装置940。处理器910、存储器920、输入装置930和输出装置940可以通过总线或者其他方式连接,图9中以通过总线连接为例。存储器920为上述的非易失性计算机可读存储介质。处理器910通过运行存储在存储器920中的非易失性软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施方式多服务端的限流方法。输入装置930可接收输入的数字或字符信息,以及产生与信息投放装置的用户设置以及功能控制有关的键信号输入。输出装置940可包括显示屏等显示设备。
上述产品可执行本发明实施方式所提供的方法,具备执行方法相应的功能模块和有益效果。未在本实施方式中详尽描述的技术细节,可参见本发明实施方式所提供的方法。
作为一种实施方式,上述电子设备可以应用于加密、解密平台中,包括:至少一个处理器;以及,与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个配置中心能够:
步骤S101,所述配置中心根据所述服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到所述异步队列分流或发送到所述数据处理单元处理。
步骤S102,所述数据处理单元处理所述配置中心所发送的当前数据;或所述数据处理单元处理所述配置中心及异步队列所发送的当前数据。
本申请实施方式的电子设备以多种形式存在,包括但不限于:
(1)移动通信设备:这类设备的特点是具备移动通信功能,并且以提供话音、数据通信为主要目标。这类终端包括:智能手机、多媒体手机、功能性手机,以及低端手机等。
(2)超移动个人计算机设备:这类设备属于个人计算机的范畴,有计算和处理功能,一般也具备移动上网特性。这类终端包括:PDA、MID和UMPC设备等。
(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器,掌上游戏机,电子书,以及智能玩具和便携式车载导航设备。
(4)服务器:提供计算服务的设备,服务器的构成包括处理器、硬盘、内存、***总线等,服务器和通用的计算机架构类似,但是由于需要提供高可靠的服务,因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。
(5)其他具有数据交互功能的电子装置。
以上所描述的装置实施方式仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施方式方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施方式或者实施方式的某些部分的方法。
最后应说明的是:以上实施方式仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施方式对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施方式技术方案的精神和范围。
Claims (10)
1.一种多服务端的限流***,其包括:
多个服务端,其每个服务具有一个服务接口;
一个配置中心,其能够配置多个服务端的服务接口且连接一个数据处理单元;
一个异步队列,其配置于所述配置中心;
一个服务监控单元,其配置于所述配置中心且能够将设定qps限流阈值配置到所述配置中心;所述服务监控单元能够获取所述服务接口的数据流量;
其中,所述配置中心根据所述服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到所述异步队列分流或发送到所述数据处理单元处理;
所述数据处理单元处理所述配置中心所发送的当前数据;或所述数据处理单元处理所述配置中心及异步队列所发送的当前数据。
2.根据权利要求1所述的限流***,其中,所述配置中心具体配置为:
所述配置中心若判断所述服务接口的当前数据流量超过设定qps限流阈值,则将当前数据流量超出所述qps限流阈值的超出流量数据,发送到异步队列处理;所述异步队列分流所述超出流量数据后发送到所述数据处理单元;所述配置中心将与所述qps限流阈值等值的服务接口的当前数据发送到数据处理单元;
所述数据处理单元配置为:处理从所述配置中心和所述异步队列所发送的服务接口数据。
3.根据权利要求1所述的限流***,其中,所述配置中心具体配置为:
所述配置中心若判断所述服务接口的当前数据流量未超过设定qps限流阈值,则将当前数据发送到所述数据处理单元;
所述数据处理单元配置为:所述数据处理单元处理从所述配置中心所发送的数据。
4.根据权利要求1所述的限流***,其中,
所述服务监控单元通过qps服务监控工具获取所述服务接口的数据流量;
所述服务监控单元,具体配置为:通过所述qps服务监控工具,获取所述服务接口峰时期的qps均值;根据所述qps均值乘以设定突增系数获取qps限流阈值。
5.根据权利要求4所述的限流***,其中,所述设定突增系数通过平峰期设定个数qps峰值的平均值除以qps均值后,再加浮动系数获得;所述浮动系数为设定的多个层级的递增的固定值。
6.一种多服务端的流量监测***,其包括如权利要求1~5中任一项多服务端的限流***和一个告警***;
所述告警***配置于所述配置中心,若当前数据流量超过所述设定qps限流阈值,则向所述告警***发送告警输出日志。
7.根据权利要求6所述的监测***,其中,所述告警输出日志包括:应用服务名称、接口所属类名、接口方法名称、接口路由地址、限流发生时间。
8.一种多服务端的限流方法,该限流方法通过一个多服务端的限流***实现,所述多服务端的限流***包括:
多个服务端,其每个服务具有一个服务接口;
一个配置中心,其能够配置多个服务端的服务接口且连接一个数据处理单元;
一个异步队列,其配置于所述配置中心;
一个服务监控单元,其配置于所述配置中心且能够将设定qps限流阈值配置到所述配置中心;所述服务监控单元能够获取所述服务接口的数据流量;和
一个数据处理单元;
所述多服务端的限流方法包括:
步骤S101,所述配置中心根据所述服务接口的当前数据流量及设定qps限流阈值,判断是否将当前服务接口的数据发送到所述异步队列分流或发送到所述数据处理单元处理;
步骤S102,所述数据处理单元处理所述配置中心所发送的当前数据;或所述数据处理单元处理所述配置中心及异步队列所发送的当前数据。
9.根据权利要求8所述的限流方法,其中,所述步骤S101中包括:
S1011,所述配置中心若判断所述服务接口的当前数据流量超过设定qps限流阈值,则将当前数据流量超出所述qps限流阈值的超出流量数据,发送到异步队列处理;所述异步队列分流所述超出流量数据后发送到所述数据处理单元;所述配置中心将与所述qps限流阈值等值的服务接口的当前数据发送到数据处理单元;
所述步骤S102中包括:
步骤S1021,所述数据处理单元处理从所述配置中心和所述异步队列所发送的服务接口数据;
所述步骤S101中包括:
步骤S1012,所述配置中心若判断所述服务接口的当前数据流量未超过设定qps限流阈值,则将当前数据发送到所述数据处理单元;
所述步骤S102中包括:
步骤S1022,所述数据处理单元处理从所述配置中心所发送的数据。
10.一种多服务端的监测方法,其包括:如权利要求8~9中任一种多服务端的限流方法且还包括:
若当前数据流量超过所述设定qps限流阈值,则向外发送告警输出日志;所述告警输出日志包括:应用服务名称、接口所属类名、接口方法名称、接口路由地址、限流发生时间。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011533088.5A CN112615790A (zh) | 2020-12-22 | 2020-12-22 | 多服务端的限流、流量监测***及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011533088.5A CN112615790A (zh) | 2020-12-22 | 2020-12-22 | 多服务端的限流、流量监测***及方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112615790A true CN112615790A (zh) | 2021-04-06 |
Family
ID=75244186
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011533088.5A Pending CN112615790A (zh) | 2020-12-22 | 2020-12-22 | 多服务端的限流、流量监测***及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112615790A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113328906A (zh) * | 2021-04-22 | 2021-08-31 | 成都欧珀通信科技有限公司 | 一种流量实时监控方法、装置、存储介质及电子设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108920283A (zh) * | 2018-08-06 | 2018-11-30 | 成都知道创宇信息技术有限公司 | 基于Prometheus性能监控***的服务器保护方法 |
CN109067597A (zh) * | 2018-09-21 | 2018-12-21 | 杭州安恒信息技术股份有限公司 | 一种分布式***动态智能服务治理方法 |
-
2020
- 2020-12-22 CN CN202011533088.5A patent/CN112615790A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108920283A (zh) * | 2018-08-06 | 2018-11-30 | 成都知道创宇信息技术有限公司 | 基于Prometheus性能监控***的服务器保护方法 |
CN109067597A (zh) * | 2018-09-21 | 2018-12-21 | 杭州安恒信息技术股份有限公司 | 一种分布式***动态智能服务治理方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113328906A (zh) * | 2021-04-22 | 2021-08-31 | 成都欧珀通信科技有限公司 | 一种流量实时监控方法、装置、存储介质及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3075126B1 (en) | Method and system for adjusting heavy traffic loads between personal electronic devices and external services | |
US9621465B2 (en) | Wired data-connection aggregation | |
US7287082B1 (en) | System using idle connection metric indicating a value based on connection characteristic for performing connection drop sequence | |
EP3264723B1 (en) | Method, related apparatus and system for processing service request | |
CN108712309A (zh) | 一种微服务架构下的微服务节点防护方法和*** | |
JP7442466B2 (ja) | データ検証の方法および装置、ならびに記憶媒体 | |
CN112671928B (zh) | 设备集中管理架构、负载均衡方法、电子设备及存储介质 | |
US10560371B2 (en) | Method, apparatus, terminal device, and system for adjusting working status of aggregated link | |
WO2020199686A1 (zh) | 一种提供边缘服务的方法、***及计算设备 | |
CN105847377A (zh) | 集群网络的请求拥塞过载处理方法及*** | |
CN111641563A (zh) | 基于分布式场景的流量自适应方法与*** | |
CN112615790A (zh) | 多服务端的限流、流量监测***及方法 | |
CN108551571B (zh) | 一种监控视频分发方法、装置、***以及分发服务器 | |
CN113645233B (zh) | 流量数据的风控智能决策方法、装置、电子设备和介质 | |
CN106878117B (zh) | 一种数据处理方法及装置 | |
CN113225265A (zh) | 流量控制方法、装置、设备和计算机存储介质 | |
CN100370770C (zh) | 实现网络长连接倒换的方法 | |
CN114615337A (zh) | 设备调度方法、***、服务器及存储介质 | |
CN112910799A (zh) | 一种网络数据处理方法、***、介质及设备 | |
CN100583845C (zh) | 将数量为m的布置在用户侧的数据连接分配给数量为n的布置在传输侧的数据连接的方法 | |
CN114448987B (zh) | 基于云服务的负荷分散管理方法、装置、设备及介质 | |
CN114070803B (zh) | 一种数据流的传输方法、装置、存储介质及电子装置 | |
CN116886553A (zh) | 一种数据传输监控方法、装置、电子设备及可读存储介质 | |
CN113835621B (zh) | Ip仲裁进程数量管控方法、***、终端及存储介质 | |
CN112261076B (zh) | 下载服务分离方法、装置、电子设备和可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: 215123 building 14, Tengfei Innovation Park, 388 Xinping street, Suzhou Industrial Park, Suzhou City, Jiangsu Province Applicant after: Sipic Technology Co.,Ltd. Address before: 215123 building 14, Tengfei Innovation Park, 388 Xinping street, Suzhou Industrial Park, Suzhou City, Jiangsu Province Applicant before: AI SPEECH Co.,Ltd. |
|
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210406 |