CN112631928A - 基于令牌桶的性能测试方法、装置及设备 - Google Patents

Abstract

本发明涉及一种基于令牌桶的性能测试方法、装置及设备，属于性能测试技术领域，该方法利用了令牌桶，其中，令牌桶根据预设生成速率，生成请求令牌；在令牌桶中的请求令牌数超过令牌桶的容量阈值时，则丢弃新产生的请求令牌。该方法，通过基于预设接口，获取请求信息；在令牌桶中获取请求令牌，并将请求令牌与请求信息相匹配，获取具有请求令牌的请求信息，以使具有请求令牌的请求信息被传递；当令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息，如，丢弃没有请求令牌的请求。其中，令牌桶的容量阈值可以调，接口可调，从而实现针对不同的接口，不同的时间点设置不同的流量控制策略来模拟真实环境中的请求流量波动，更灵活且实时。

Description

基于令牌桶的性能测试方法、装置及设备

技术领域

本发明属于性能测试技术领域，具体涉及一种基于令牌桶的性能测试方法。

背景技术

为了保证产品的性能，通常在产品开发后，需要对其进行性能测试。在性能测试中，通常采用性能测试工具，模拟用户的使用情况，从而实现对产品运行性能的测试。

例如，性能测试工具中的jmeter的stepping thread group，以及Loadrunner中也有类似scenario setting的功能等，都可以实现模拟用户的逐渐增加，运行和递减功能。但是，目前的性能测试工具配置用户递增递减和运行的策略相对比较单一，当面对多次复杂场景多接口的测试时，则难以实现其测试功能。例如，图1为本发明实施例中提供的一种现有技术中的流量波动示意图，在一定时间内QPS(Queries Per Second，每秒查询率)不断的上下震荡波动，最后长时间维持较低QPS，此时，现有技术中的性能测试工具则无法对其进行测试，也无法实时调整策略。

发明内容

为了至少解决现有技术存在的上述问题，本发明提供了一种基于令牌桶的性能测试方法、装置及设备，以实现针对不同的接口，不同的时间点设置不同的流量控制策略来模拟真实环境中的请求流量波动，更灵活且实时。

本发明提供的技术方案如下：

一方面，一种基于令牌桶的性能测试方法，所述令牌桶根据预设生成速率，生成请求令牌；在所述令牌桶中的请求令牌数超过所述令牌桶的容量阈值时，则丢弃新产生的请求令牌；所述方法，包括：

基于预设接口，获取请求信息；

在所述令牌桶中获取请求令牌，并将所述请求令牌与所述请求信息相匹配，获取具有请求令牌的请求信息，以使所述具有请求令牌的请求信息被传递；

当所述令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息。

可选的，还包括：

接收设置指令；

根据所述设置指令，设置所述令牌桶的容量阈值。

可选的，在所述基于预设接口，获取请求信息，之前，还包括：

接收接口设置指令；

根据所述接口设置指令，设置所述预设接口。

可选的，还包括：

接收速率设置指令；

根据所述速率设置指令，设置所述令牌桶生成令牌的预设生成速率。

可选的，所述令牌桶包括：token bucket令牌桶。

又一方面，一种基于令牌桶的性能测试装置，所述令牌桶根据预设生成速率，生成请求令牌；在所述令牌桶中的请求令牌数超过所述令牌桶的容量阈值时，则丢弃新产生的请求令牌；所述装置，包括：获取模块、匹配模块和判断处理模块；

所述获取模块，用于基于预设接口，获取请求信息；

所述匹配模块，用于在所述令牌桶中获取请求令牌，并将所述请求令牌与所述请求信息相匹配，获取具有请求令牌的请求信息，以使所述具有请求令牌的请求信息被传递；

所述判断处理模块，用于当所述令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息。

可选的，还包括：容量设置模块；所述获取模块，用于接收设置指令；所述容量设置模块，用于根据所述设置指令，设置所述令牌桶的容量阈值。

可选的，还包括：接口设置模块；所述获取模块，用于接收接口设置指令；所述接口设置模块，用于根据所述接口设置指令，设置所述预设接口。

可选的，还包括：速率设置模块；所述获取模块，用于接收速率设置指令；所述速率设置模块，用于根据所述速率设置指令，设置所述令牌桶生成令牌的预设生成速率。

又一方面，一种基于令牌桶的性能测试设备，包括：处理器，以及与所述处理器相连接的存储器；

所述存储器用于存储计算机程序，所述计算机程序至少用于执行上述任一项所述的基于令牌桶的性能测试方法；

所述处理器用于调用并执行所述存储器中的所述计算机程序。

本发明的有益效果为：

本发明实施例提供的基于令牌桶的性能测试方法、装置及设备，利用了令牌桶，其中，令牌桶根据预设生成速率，生成请求令牌；在令牌桶中的请求令牌数超过令牌桶的容量阈值时，则丢弃新产生的请求令牌。该方法，通过基于预设接口，获取请求信息；在令牌桶中获取请求令牌，并将请求令牌与请求信息相匹配，获取具有请求令牌的请求信息，以使具有请求令牌的请求信息被传递；当令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息，如，丢弃没有请求令牌的请求。其中，令牌桶的容量阈值可以调，接口可调，从而实现针对不同的接口，不同的时间点设置不同的流量控制策略来模拟真实环境中的请求流量波动，更灵活且实时。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例中提供的一种现有技术中的流量波动示意图；

图2为本发明实施例提供的一种基于令牌桶的性能测试方法的方法流程图；

图3为本发明实施例提供的一种基于令牌桶的性能测试装置的结构示意图；

图4为本发明实施例提供的又一种基于令牌桶的性能测试装置的结构示意图；

图5为本发明实施例提供的一种基于令牌桶的性能测试设备结构示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将对本发明的技术方案进行详细的描述。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所得到的所有其它实施方式，都属于本发明所保护的范围。

现有技术中的测试工具，通常都是针对ramp up，running，tear down设计，场景比较简单单一，无法灵活的自定义配置。不便于完全模拟请求的抖动，流量的不规则变化。

基于此，本发明实施例提供一种基于令牌桶的性能测试方法。

图2为本发明实施例提供的一种基于令牌桶的性能测试方法流程示意图，请参阅图2，本发明实施例提供的方法中应用的令牌桶根据预设生成速率，生成请求令牌；在令牌桶中的请求令牌数超过令牌桶的容量阈值时，则丢弃新产生的请求令牌，可以包括以下步骤：

S21、基于预设接口，获取请求信息。

S22、在令牌桶中获取请求令牌，并将请求令牌与请求信息相匹配，获取具有请求令牌的请求信息，以使具有请求令牌的请求信息被传递。

S23、当令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息。

例如，在本实施例中，可以采用token bucket令牌桶作为本发明实施例中的令牌桶，来对本申请的技术方案进行说明。其原理可以看作是一个存放令牌的容器，设定有容量阈值。按设定的速度向桶中放置令牌，当桶中令牌满时，多余的令牌溢出。发送的请求进入后，只有获得请求令牌后，才可以被发送出去，而其余没有获得请求令牌的请求全部被丢弃，从而来达到限流。

在一些实施例中，可选的，还包括：接收设置指令；根据设置指令，设置令牌桶的容量阈值。

例如，在本实施例中，令牌桶的大小是可以根据需求进行设定的，即令牌桶的容量阈值是可以进行设定的，可以通过设置令牌桶的容量阈值，来实现对流量的控制。

可选的，还包括：接收速率设置指令；根据速率设置指令，设置令牌桶生成令牌的预设生成速率。

例如，在本实施例中，令牌桶中令牌的预设生成速率是可以根据需求进行设定的，可以通过令牌桶中令牌的预设生成速率的设置和控制，来实现对流量的控制。

可选的，在基于预设接口，获取请求信息，之前，还包括：接收接口设置指令；根据接口设置指令，设置预设接口。

例如，在本实施例中，流量控制不在业务层实现，因为这样需要修改不同业务接口的逻辑，成本较大。流量控制可以置在性能测试流量工具的生产方，例如在jmeter中发送请求之前先通过令牌桶的流量控制策略逻辑，需要对性能工具做一定的二次开发。并且能够通过特定的接口(Application Programming Interface，API)或者配置，去针对不同的接口设置速度和容量阈值。流量的控制可以针对特定的***。例如流量设置接口入参是令牌桶的速率，容量阈值，针对的***appid(App和Id)，限流的API，时间点等等参数。还可以不指定API，对***所有接口进行无差别限流来控制流量。

本实施例中，产生令牌的速度是可控的，桶的大小是可控的，这样就可以不断调整产生令牌的速度rate和桶的大小capacity来控制流量，支持可变QPS控制。目前各种的编程语言都有对应的令牌桶的实现，并结合测试的压测工具，制定更灵活实时的流量控制模拟性能测试。例如，可以结合目前很多的限流工具类例如Guava的RateLimiter，golang的juju/ratelimit等等可以方便的实现限流功能。在本实施例中，可以通过配置和调用API调整不同接口的流量，模拟真实请求的趋势变化，流量抖动，不规则的流量变化等等。

本发明实施例提供的基于令牌桶的性能测试方法，利用了令牌桶，其中，令牌桶根据预设生成速率，生成请求令牌；在令牌桶中的请求令牌数超过令牌桶的容量阈值时，则丢弃新产生的请求令牌。该方法，通过基于预设接口，获取请求信息；在令牌桶中获取请求令牌，并将请求令牌与请求信息相匹配，获取具有请求令牌的请求信息，以使具有请求令牌的请求信息被传递；当令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息，如，丢弃没有请求令牌的请求。其中，令牌桶的容量阈值可以调，接口可调，从而实现针对不同的接口，不同的时间点设置不同的流量控制策略来模拟真实环境中的请求流量波动，更灵活且实时。本发明通过自己实现令牌桶限流策略与压测工具相结合，可以随心所欲的定制流量策略，可以制定复杂的流程。通过模拟抖动来检验被测***的健壮性，性能等等。

基于一个总的发明构思，本发明实施例还提供一种基于令牌桶的性能测试装置。

图3为本发明实施例提供的一种基于令牌桶的性能测试装置的结构示意图，请参阅图3，本发明实施例提供的装置，其中，令牌桶根据预设生成速率，生成请求令牌；在令牌桶中的请求令牌数超过令牌桶的容量阈值时，则丢弃新产生的请求令牌；装置可以包括以下结构：获取模块31、匹配模块32和判断处理模块33。

获取模块31，用于基于预设接口，获取请求信息；

匹配模块32，用于在令牌桶中获取请求令牌，并将请求令牌与请求信息相匹配，获取具有请求令牌的请求信息，以使具有请求令牌的请求信息被传递；

判断处理模块33，用于当令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息。

可选的，还包括：容量设置模块；获取模块，用于接收设置指令；容量设置模块，用于根据设置指令，设置令牌桶的容量阈值。

可选的，还包括：接口设置模块；获取模块，用于接收接口设置指令；接口设置模块，用于根据接口设置指令，设置预设接口。

可选的，还包括：速率设置模块；获取模块，用于接收速率设置指令；速率设置模块，用于根据速率设置指令，设置令牌桶生成令牌的预设生成速率。

关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

图4为本发明实施例提供的又一种基于令牌桶的性能测试装置的结构示意图，参阅图4，在图4中，测试工具可以对不同接口，通过不同的令牌生成速率进行测试，从而实现令牌桶限流策略与压测工具相结合，可以随心所欲的定制流量策略，可以制定复杂的流程。通过模拟抖动来检验被测***的健壮性，性能等等。

本发明实施例提供的基于令牌桶的性能测试装置，利用了令牌桶，其中，令牌桶根据预设生成速率，生成请求令牌；在令牌桶中的请求令牌数超过令牌桶的容量阈值时，则丢弃新产生的请求令牌。该方法，通过基于预设接口，获取请求信息；在令牌桶中获取请求令牌，并将请求令牌与请求信息相匹配，获取具有请求令牌的请求信息，以使具有请求令牌的请求信息被传递；当令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息，如，丢弃没有请求令牌的请求。其中，令牌桶的容量阈值可以调，接口可调，从而实现针对不同的接口，不同的时间点设置不同的流量控制策略来模拟真实环境中的请求流量波动，更灵活且实时。本发明通过自己实现令牌桶限流策略与压测工具相结合，可以随心所欲的定制流量策略，可以制定复杂的流程。通过模拟抖动来检验被测***的健壮性，性能等等。

基于一个总的发明构思，本发明实施例还提供一种基于令牌桶的性能测试设备。

图5为本发明实施例提供的一种基于令牌桶的性能测试设备结构示意图，请参阅图5，本发明实施例提供的一种基于令牌桶的性能测试设备，包括：处理器51，以及与处理器相连接的存储器52。

存储器52用于存储计算机程序，计算机程序至少用于上述任一实施例记载的基于令牌桶的性能测试方法；

处理器51用于调用并执行存储器中的计算机程序。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。

可以理解的是，上述各实施例中相同或相似部分可以相互参考，在一些实施例中未详细说明的内容可以参见其他实施例中相同或相似的内容。

需要说明的是，在本发明的描述中，术语“第一”、“第二”等仅用于描述目的，而不能理解为指示或暗示相对重要性。此外，在本发明的描述中，除非另有说明，“多个”的含义是指至少两个。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行***执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种基于令牌桶的性能测试方法，其特征在于，所述令牌桶根据预设生成速率，生成请求令牌；在所述令牌桶中的请求令牌数超过所述令牌桶的容量阈值时，则丢弃新产生的请求令牌；所述方法，包括：

基于预设接口，获取请求信息；

在所述令牌桶中获取请求令牌，并将所述请求令牌与所述请求信息相匹配，获取具有请求令牌的请求信息，以使所述具有请求令牌的请求信息被传递；

当所述令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息。

2.根据权利要求1所述的方法，其特征在于，还包括：

接收设置指令；

根据所述设置指令，设置所述令牌桶的容量阈值。

3.根据权利要求1所述的方法，其特征在于，在所述基于预设接口，获取请求信息，之前，还包括：

接收接口设置指令；

根据所述接口设置指令，设置所述预设接口。

4.根据权利要求1所述的方法，其特征在于，还包括：

接收速率设置指令；

根据所述速率设置指令，设置所述令牌桶生成令牌的预设生成速率。

5.根据权利要求1-4任一所述的方法，其特征在于，所述令牌桶包括：token bucket令牌桶。

6.一种基于令牌桶的性能测试装置，其特征在于，所述令牌桶根据预设生成速率，生成请求令牌；在所述令牌桶中的请求令牌数超过所述令牌桶的容量阈值时，则丢弃新产生的请求令牌；所述装置，包括：获取模块、匹配模块和判断处理模块；

所述获取模块，用于基于预设接口，获取请求信息；

所述匹配模块，用于在所述令牌桶中获取请求令牌，并将所述请求令牌与所述请求信息相匹配，获取具有请求令牌的请求信息，以使所述具有请求令牌的请求信息被传递；

所述判断处理模块，用于当所述令牌桶中的请求令牌的个数为零时，则停止生产具有令牌的请求信息。

7.根据权利要求6所述的装置，其特征在于，还包括：容量设置模块；所述获取模块，用于接收设置指令；所述容量设置模块，用于根据所述设置指令，设置所述令牌桶的容量阈值。

8.根据权利要求6所述的装置，其特征在于，还包括：接口设置模块；所述获取模块，用于接收接口设置指令；所述接口设置模块，用于根据所述接口设置指令，设置所述预设接口。

9.根据权利要求6所述的装置，其特征在于，还包括：速率设置模块；所述获取模块，用于接收速率设置指令；所述速率设置模块，用于根据所述速率设置指令，设置所述令牌桶生成令牌的预设生成速率。

10.一种基于令牌桶的性能测试设备，其特征在于，包括：处理器，以及与所述处理器相连接的存储器；

所述存储器用于存储计算机程序，所述计算机程序至少用于执行权利要求1～5任一项所述的基于令牌桶的性能测试方法；

所述处理器用于调用并执行所述存储器中的所述计算机程序。

Images