CN108667740A - 流量控制的方法、装置及*** - Google Patents

Abstract

本发明实施例公开了一种流量控制的方法，包括：接收数据读取请求，数据读取请求用于获取目标缓存单元中已存储的待处理数据，目标缓存单元包含第一缓冲区以及第二缓冲区；若目标缓存单元中包含待处理数据，则根据数据读取请求检测第一缓冲区是否处于被写入状态，若是，则获取第二缓冲区中已写入的待处理数据；按照预设流量控制条件，发送第二缓冲区中已写入的待处理数据。本发明还提供一种流控服务器以及流量控制***。本发明实施例在一段时间内，可将不稳定的待处理数据存储于目标缓存单元中的缓冲区，并以可控的方式按照一定的流量发送待处理数据，消除了现网流量变化所产生的影响，增强方案的稳定性，从而提升测试效率，并且节省了测试时间。

Description

流量控制的方法、装置及***

技术领域

本发明涉及互联网技术领域，尤其涉及流量控制的方法、装置及***。

背景技术

现如今，互联网已广泛地应用于人们的日常生活，为了保证***可以在大规模用户访问的情况下，仍然保持良好的表现，对于***进行性能测试也就成为了一项重中之重的工作。其中，性能测试主要包括如下三个步骤。首先通过各种手段构造符合要求的恒定性能流量发往被测***，使得被测***处于某一负载状态。然后在持续恒定性能测试过程中，收集***各项性能指标数据。最后通过对性能指标数据进行人工分析，得到***性能评估报告。

目前，可以采用现网引流的方式进行性能测试。现网引流即通过设定引入流量的百分配比，将现网流量的部分或全部引入到被测***，以达到使用真实数据进行性能测试的目的。

然而，现网中真实数据的流量具有不稳定性，仅仅通过百分比控制无法得到恒定性能流量，例如，一般测试得到一组性能指标数据至少需要十分钟以上，往往等调整到正确的性能流量时，此时现网的流量已经发生变化，只能重新去修改百分比用以重新限制真实数据的流量，导致测试效率较低，花费时间较长。

发明内容

本发明实施例提供了流量控制的方法、装置及***，可以在一段时间内将不稳定的待处理数据集中存储于目标缓存单元中的缓冲区，并以可控的方式按照一定的流量发送待处理数据，消除了现网流量变化所产生的影响，增强方案的稳定性，从而提升测试效率，并且节省了测试时间。

有鉴于此，本发明第一方面提供了一种流量控制的方法，包括：

接收数据读取请求，所述数据读取请求用于获取目标缓存单元中已存储的待处理数据，所述目标缓存单元包含第一缓冲区以及第二缓冲区；

若所述目标缓存单元中包含所述待处理数据，则根据所述数据读取请求检测所述第一缓冲区是否处于被写入状态，若是，则获取所述第二缓冲区中已写入的所述待处理数据；

按照预设流量控制条件，发送所述第二缓冲区中已写入的所述待处理数据。

本发明第二方面提供了一种流控服务器，包括：

第一接收模块，用于接收数据读取请求，所述数据读取请求用于获取目标缓存单元中已存储的待处理数据，所述目标缓存单元包含第一缓冲区以及第二缓冲区；

检测模块，用于若所述目标缓存单元中包含所述待处理数据，则根据所述第一接收模块接收的所述数据读取请求检测所述第一缓冲区是否处于被写入状态，若是，则获取所述第二缓冲区中已写入的所述待处理数据；

发送模块，用于按照预设流量控制条件，发送所述检测模块检测后获取到的所述第二缓冲区中已写入的所述待处理数据。

本发明第三方面提供了一种流量控制***，包括：中转服务器、流控服务器、数据库服务器以及后台服务器；

所述中转服务器，用于获取待处理数据；

所述流控服务器上述权利要求8至14中任一项所述的流控服务器；

所述数据库服务器，用于存储所述流控服务器发送的所述待处理数据；

所述后台控制服务器，用于控制所述中转服务器、所述流控服务器以及所述数据库服务器。

从以上技术方案可以看出，本发明实施例具有以下优点：

本发明实施例中，提供了一种流量控制的方法，流控服务器接收数据读取请求，其中，数据读取请求用于获取目标缓存单元中已存储的待处理数据，目标缓存单元包含第一缓冲区以及第二缓冲区，若目标缓存单元中包含待处理数据，则流控服务器根据数据读取请求检测第一缓冲区中是否处于被写入状态，若是，则获取第二缓冲区中已写入的待处理数据，按照预设流量控制条件发送待处理数据。通过上述方式，在一段时间内，可以将不稳定的待处理数据集中存储于目标缓存单元中的缓冲区，并以可控的方式按照一定的流量发送待处理数据，消除了现网流量变化所产生的影响，增强方案的稳定性，从而提升测试效率，并且节省了测试时间。

附图说明

图1为本发明实施例中实现流量控制的***架构图；

图2为本发明实施例中用户配置测试任务的界面示意图；

图3为本发明实施例中流量控制的方法一个实施例示意图；

图4为本发明实施例中现网数据分流的实施例示意图；

图5为本发明实施例中实现乒乓缓存的实施例示意图；

图6为本发明实施例中下发缓存数据的实施例示意图；

图7为本发明实施例中流控服务器一个实施例示意图；

图8为本发明实施例中流控服务器另一个实施例示意图；

图9为本发明实施例中流控服务器另一个实施例示意图；

图10为本发明实施例中流控服务器另一个实施例示意图；

图11为本发明实施例中流控服务器另一个实施例示意图；

图12为本发明实施例中流控服务器另一个实施例示意图；

图13为本发明实施例中流控服务器另一个实施例示意图；

图14为本发明实施例中流控服务器另一个实施例示意图；

图15为本发明实施例中流控服务器一个结构示意图；

图16为本发明实施例中流量控制的***一个实施例示意图。

具体实施方式

本发明实施例提供了流量控制的方法、装置及***，可以在一段时间内将不稳定的待处理数据集中存储于目标缓存单元中的缓冲区，并以可控的方式按照一定的流量发送待处理数据，消除了现网流量变化所产生的影响，增强方案的稳定性，从而提升测试效率，并且节省了测试时间。

本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

应理解，本发明应用于流量控制的***，请参阅图1，图1为本发明实施例中实现流量控制的***架构图，利用图1所示的框架能够实现恒定压力的性能测试，可以理解的是，本发明可以用于测试广告推荐***，广告推荐***根据互联网用户的特征、用户历史行为以及实时行为等信息，使用特定的算法为用户推荐合适的广告。在实际应用中，本发明并不仅限于测试广告推荐***，此处仅为一个例子。

图1中的中转服务器可以将现网流量引入测试***，即实现现网引流，其中，现网表示生产环境中正式部署的硬件和软件的集合，即生产环境，比如“QQ空间”及其对应的服务器，“朋友圈”及其对应的服务器等。而现网引流是一种复制现网的请求，并等量实时转发到测试***。然后由流控服务器采用基于乒乓模式的流量控制，所谓乒乓模式就是先将数据按照任务和算法等***指标将其分流到流控服务器，流控服务器通过乒乓缓存机制缓存现网数据，最后通过压力控制***将缓存数据匀速发送到被测***。

被测***就是需要被测试的***，例如可以是广告推荐***。由模型自动推送服务器定时地向被测***自动推送其计算过程中所需要的数据模型，然后数据库服务器将存储性能数据等中间结果。控制后台服务器可以接收用户下发的指令，并且承载了管理功能，用于控制流控服务器、数据库服务器和模型自动推送服务器的工作。

流量控制***的工作依赖于用户对其的设置，用户通过终端下发测试任务并且查看测试情况。通过可视化前端的界面配置，实现性能测试，有了以上的测试平台，性能测试就可以精简为如下三个步骤：

首先，用户通过前端配置性能测试任务，配置任务参考图2，图2为本发明实施例中用户配置测试任务的界面示意图，用户可以添加任务名称，然后选择数据来源以及业务类型。用户预先采用一个算法，并且计算每秒事务处理量(英文全称：Transaction PerSecond，英文缩写：TPS)，再设定运行环境以及执行服务器的各项指标，包括服务器的网际互连协议(英文全称：Internet Protocol，英文缩写：IP)地址，端口号以及接受率。

然后用户触发“提交”指令，从而下发任务并运行。

最后可以检查和分析测试结果。

需要说明的是，上述图2所述的测试任务显示界面仅为一个示意，在实际应用中，还可以有其他内容的设置，此处不作限定。

下面将从流控服务器的角度，对本发明中流量控制的方法进行介绍，请参阅图3，本发明实施例中流量控制的方法一个实施例包括：

101、接收数据读取请求，数据读取请求用于获取目标缓存单元中已存储的待处理数据，目标缓存单元包含第一缓冲区以及第二缓冲区；

本实施例中，流控服务器首先会接收用户通过测试前端下发的数据读取请求，该数据读取请求指示流控服务器获取目标缓存单元中已经存储的待处理数据，其中，待处理数据可以认为是现网中的数据，目标缓存单元与当前现网中的数据具有一定的对应关系，且目标缓存单元包括了第一缓冲区和第二缓冲区，第一缓冲区和第二缓冲区也可以理解为是队列。

需要说明的是，第一缓冲区和第二缓冲区仅用于区别两个缓冲区，并不限定其时序，也不固定其排列方式。

102、若目标缓存单元中包含待处理数据，则根据数据读取请求检测第一缓冲区是否处于被写入状态，若是，则获取第二缓冲区中已写入的待处理数据；

本实施例中，如果流控服务器检测到目标缓存单元中包含了待处理数据，则会根据接收到的数据读取请求来进一步检测第一缓冲区当前是否处于写入的状态，写入状态即为往第一缓冲区中加载数据的状态。

如果当前第一缓冲区正处于被写入状态，则流控服务器需要获取另一个缓冲区中的待处理数据，即获取第二缓冲区中已写入的待处理数据。也就相当于可以在一个缓冲区处于写入状态时，读取另一个缓冲区的数据，从而实现乒乓读取的效果。

103、按照预设流量控制条件，发送第二缓冲区中已写入的待处理数据。

本实施例中，最后流控服务器再按照预设流量控制条件，将第二缓冲区中已写入的待处理数据发送出去，预设流量控制条件主要用于限制待处理数据的发送速率。

本发明实施例中，提供了一种流量控制的方法，流控服务器接收数据读取请求，其中，数据读取请求用于获取目标缓存单元中已存储的待处理数据，目标缓存单元包含第一缓冲区以及第二缓冲区，若目标缓存单元中包含待处理数据，则流控服务器根据数据读取请求检测第一缓冲区中是否处于被写入状态，若是，则获取第二缓冲区中已写入的待处理数据，按照预设流量控制条件发送待处理数据。通过上述方式，在一段时间内，可以将不稳定的待处理数据集中存储于目标缓存单元中的缓冲区，并以可控的方式按照一定的流量发送待处理数据，消除了现网流量变化所产生的影响，增强方案的稳定性，从而提升测试效率，并且节省了测试时间。

可选地，在上述图3对应的实施例的基础上，本发明实施例提供的流量控制的方法第一个可选实施例中，接收数据读取请求之后，还可以包括：

获取待处理数据对应的目标标识信息；

根据目标标识信息从缓存单元集合中确定待处理数据所对应的目标缓存单元，其中，缓存单元集合包含至少一个缓存单元，且每个缓存单元与每个标识信息一一对应。

本实施例中，流控服务器在接收数据读取请求之后，还可以从缓存单元集合中的某个缓存单元中找到相应的待处理数据。

具体为，请参阅图4，图4为本发明实施例中现网数据分流的实施例示意图，如图所示，首先网络接收模块从现网中接收数据，然后由业务处理模块解析该数据，并按照数据的标识信息对其进行分类，标识信息包括但不仅限于算法标识号(英文全称：Identity，英文缩写：ID)。网络发送模块将分类好的数据发送到流控服务器各个独立的监听端口，流控服务器通过独立的监听端口接收已经分类好的数据并存储，其中，一个监听端口对应一个缓存单元，一个缓存单元又对应一个标识信息。

于是，流控服务器在提取待处理数据时，需要先获取待处理数据对应的目标标识信息，然后从缓存单元集合中查找相应的目标标识信息，包含目标标识信息的缓存单元即为目标缓存单元。

其次，本发明实施例中，流控服务器接收数据读取请求之后，需要先获取待处理数据对应的目标标识信息，然后根据目标标识信息从缓存单元集合中确定待处理数据所对应的目标缓存单元。通过上述方式，采用标识信息与缓存单元之间的对应关系来决定本次进行测试的数据应该取自于哪个缓存单元，从而实现数据分流的目的，同时以防止不同类型的数据相互干扰。

可选地，在上述图3对应的实施例的基础上，本发明实施例提供的流量控制的方法第二个可选实施例中，根据数据读取请求检测第一缓冲区是否处于被写入状态之后，还可以包括：

若第一缓冲区未处于被写入状态，则获取第一缓冲区中已写入的待处理数据。

本实施例中，将数据分类引流到流控服务器之后，需要分类存储后供后续发送使用，为了避免读写之间相互干扰，还提供了如下的解决方式。

具体为，假设目标缓存单元中存储有待处理数据，流控服务器会先检测第一缓冲区是否处于被写入状态，如果是，则读取第二缓冲区中已写入的待处理数据，反之，如果检测到第一缓冲区未处于被写入状态，则自动选择读取第一缓冲区中已存储的待处理数据即可，无需再检测第二缓冲区是否处于被写入状态，但是前提是，需要保证当前第一缓冲区中具有待处理数据。否则，即使第一缓冲区未处于被写入状态，也无法从中获取待处理数据。

其次，本发明实施例中，流控服务器检测第一缓冲区是否处于被写入状态之后，如果检测到第一缓冲区未处于被写入状态，则可以获取第一缓冲区中已写入的待处理数据。通过上述方式，可以避免第一缓冲区同时进行读取和写入，也就是说，在第一缓冲区处于被写入状态时，读取第二缓冲区内的数据，而第一缓冲区未处于被写入状态时，则优先读取第一缓冲区中已写入的待处理数据，从而实现了乒乓缓存，以此既可以解决流量小的数据在线缓冲问题，又可以解决流量大的数据溢出问题。

可选地，在上述图3对应的实施例的基础上，本发明实施例提供的流量控制的方法第三个可选实施例中，接收数据读取请求之后，还可以包括：

若目标缓存单元中不包含待处理数据，则确定待处理数据获取失败。

本实施例中，流控服务器在收到数据读取请求之后，如果检测到目标缓存单元中并没有存储待处理数据，说明本次获取待处理数据的请求失败，可以由流控服务器向前端设备反馈请求失败通知，使得用户得知结果，并且能够及时选择进行新一轮的数据选择和***测试。

其次，本发明实施例中，提供了一种较为特殊的场景，即流控服务器在接收到数据读取请求之后，如果发现与该请求对应的目标缓存单元中不包含待处理数据，则确定数据获取失败。通过上述方式，说明当目标缓存单元没有按照要求存储相应的数据时，可以认为测试无效，需要重新获取其他的数据用于进行测试，从而提升方案的灵活性的可操作性。

可选地，在上述图3对应的实施例的基础上，本发明实施例提供的流量控制的方法第四个可选实施例中，根据数据读取请求检测第一缓冲区中是否处于被写入状态之后，还可以包括：

若第一缓冲区处于被写入状态，则判断第二缓冲区中是否包含已写入的待处理数据；

若第二缓冲区中不包含已写入的待处理数据，则获取第一缓冲区中已写入的待处理数据，并按照预设流量控制条件发送第一缓冲区中已写入的待处理数据。

本实施例中，如果流控服务器检测第一缓冲区中正在处于被写入状态，理论上就应该读取第二缓冲区中的待处理数据，但是并不能保证第二缓冲区中当前一定存储了待处理数据，于是还需要进一步判断第二缓冲区中是否包含已写入的待处理数据，如果包含了已经写入的待处理数据，那么就可以直接读取相应的内容，反之，如果第二缓冲区并没有包含已写入的待处理数据，这就需要在第一缓冲区中进行“读写并行”的方案。

具体为，在一个缓冲区进行读写并行即采用单缓存的方式，可以通过给缓冲区中的各个缓存子单元增加读写锁来实现，读写锁实际是一种特殊的自旋锁，它把对共享资源的访问者划分成读者和写者，读者只对共享资源进行读访问，写者则需要对共享资源进行写操作。这种锁相对于自旋锁而言，能提高并发性，因为在多处理器***中，它允许同时有多个读者来访问共享资源，最大可能的读者数为实际的逻辑处理器数。如果读写锁当前没有读者，也没有写者，那么写者可以立刻获得读写锁，否则它必须自旋在那里，直到没有任何写者或读者。如果读写锁没有写者，那么读者可以立即获得该读写锁，否则读者必须自旋在那里，直到写者释放该读写锁。

其次，本发明实施例中，还提供了一种数据读取的方式，当某一个缓冲区正在处于被写入的状态，但另一个缓冲区中却没有所需的待处理数据，这时候也可以采用单缓存机制，进行读写并行处理。通过上述方式，在某些特殊的情况下仍可以读取待处理数据，从而增加方案的应用范围，同时提升方案的灵活性和实用性。

可选地，在上述图3对应的实施例的基础上，本发明实施例提供的流量控制的方法第五个可选实施例中，接收数据读取请求之前，还可以包括：

接收待处理数据；

若目标缓存单元中的第一缓冲区以及第二缓冲区均为空，则将待处理数据写入第一缓冲区，或将待处理数据写入第二缓冲区。

本实施例中，在读取待处理数据之前，还需写入待处理数据。首先流控服务器接收待处理数据，然后检测目标缓存单元中的第一缓冲区以及第二缓冲区的具体存储情况，如果第一缓冲区与第二缓冲区都没有存储任何数据，那么也就可以任意选择其中一个缓冲区进行待处理数据的写入。

其次，本发明实施例中，流控服务器在接收数据读取请求之前，还需要将待处理数据写入目标缓存单元，如果目标缓存单元中的第一缓冲区以及第二缓冲区均为空，则将待处理数据写入第一缓冲区或将待处理数据写入第二缓冲区。通过上述方式，说明如何写入待处理数据的方式，在第一缓冲区和第二缓冲区均为空的情况下，可以任意写入其中一个缓冲区，以此满足方案的实用性和可靠性。

可选地，在上述图3对应的第五个实施例的基础上，本发明实施例提供的流量控制的方法第六个可选实施例中，将待处理数据写入第一缓冲区之后，还可以包括：

若目标缓存单元中的第一缓冲区已写满，则将待处理数据写入第二缓冲区；

将待处理数据写入所述第二缓冲区之后，还可以包括：

若目标缓存单元中的第二缓冲区已写满，则将待处理数据写入第一缓冲区。

本实施例中，介绍了如何采用乒乓模式写入待处理数据。简单地说，当有待处理数据写入请求时，先向其中一个缓冲区写入，当该缓冲区写满后，进行缓冲区切换，开始向另一个缓冲区写入该待处理数据。

为便于理解，下面可以以一个具体应用场景对本发明中实现乒乓缓存的过程进行详细描述，请参阅图5，图5为本发明实施例中实现乒乓缓存的实施例示意图，具体为：

假设目标缓存单元为缓存单元2，第一缓冲区为缓冲区A，第二缓冲区为缓冲区B，此时，获取到待处理数据，并将其写入到某个缓冲区。可以分为两种情况，第一种情况为先将待处理数据写入到第一缓冲区，在第一缓冲区写满后，继续将待处理数据写入到第二缓冲区；第二种情况为先将待处理数据写入到第二缓冲区，在第二缓冲区写满后，继续将待处理处理写入到第一缓冲区。如此，便可反复进行读写交替。

再次，本发明实施例中，如果目标缓存单元中的第一缓冲区已写满，则将待处理数据写入第二缓冲区，反之，如果目标缓存单元中的第二缓冲区已写满，则将待处理数据写入第一缓冲区。通过上述方式，使得待处理数据在写入目标缓存单元的过程中也遵循乒乓写入的原则，并非采用单缓存的方式储存数据，无需频繁增加读写锁，从而提升方案的性能。

可选地，在上述图3对应的实施例的基础上，本发明实施例提供的流量控制的方法第七个可选实施例中，按照预设流量控制条件，发送第二缓冲区中已写入的待处理数据，可以包括：

按照预置数据发送次数在第一时间段内发送第二缓冲区中已写入的待处理数据；

当在第一时间段内的发送次数达到预置数据发送次数时，按照预置数据发送次数在第二时间段内发送第二缓冲区中已写入的待处理数据，其中，第二时间段为第一时间段之后的一段时间。

本实施例中，流控控制即从乒乓模式缓冲区中持续不断地读取数据，并将读出的数据均匀的发送到被测***。具体如图6所示，图6为本发明实施例中下发缓存数据的实施例示意图，每个被测***的每类数据对应一个发送模块，发送模块从乒乓模式缓冲区中读取待处理数据，传递至限流模块。

在流控服务器中的限流模块通过预设流量控制条件限制发送待处理数据的速度，使得数据量能够均匀地发送到被测***。预设流量控制条件为，先按照预置数据发送次数在第一时间段内发送第二缓冲区中已写入的待处理数据，然后在同样时长的第二时间段内，按照预置数据发送次数在第二时间段内发送第二缓冲区中已写入的待处理数据。

具体地，假设第一时间段为1毫秒，且限制每1毫秒发送3笔待处理数据，那么当1毫秒内发送的数据量没有达到3笔时，还会继续发送，如果1毫秒内发送的数据量达到了3笔，那么就会进入休眠状态，直到这1毫秒的时间节结束后，采用继续发送。

采用上述的方式就能保证一段时间内待处理数据的发送是相对均匀的，也比较符合现网流量的特点。

其次，本发明实施例中，流控服务器可以按照预置数据发送次数在第一时间段内发送第二缓冲区中已写入的待处理数据，当在第一时间段内的发送次数达到预置数据发送次数时，就按照预置数据发送次数在第二时间段内发送第二缓冲区中已写入的待处理数据。通过上述方式，可以有效地控制待处理数据发送的速率，将读出的待处理数据均匀地发往被测***，从而避免被测***由于流量压力过大导致无法正常处理的情况，以此提升方案的实用性和可行性。

下面对本发明中的流控服务器进行详细描述，请参阅图7，所述流控服务器20包括：

第一接收模块201，用于接收数据读取请求，所述数据读取请求用于获取目标缓存单元中已存储的待处理数据，所述目标缓存单元包含第一缓冲区以及第二缓冲区；

检测模块202，用于若所述目标缓存单元中包含所述待处理数据，则根据所述第一接收模块201接收的所述数据读取请求检测所述第一缓冲区是否处于被写入状态，若是，则获取所述第二缓冲区中已写入的所述待处理数据；

发送模块203，用于按照预设流量控制条件，发送所述检测模块202检测后获取到的所述第二缓冲区中已写入的所述待处理数据。

本实施例中，第一接收模块201接收数据读取请求，所述数据读取请求用于获取目标缓存单元中已存储的待处理数据，所述目标缓存单元包含第一缓冲区以及第二缓冲区，若所述目标缓存单元中包含所述待处理数据，则检测模块202根据所述第一接收模块201接收的所述数据读取请求检测所述第一缓冲区是否处于被写入状态，若是，则获取所述第二缓冲区中已写入的所述待处理数据，发送模块203按照预设流量控制条件，发送所述检测模块202检测后获取到的所述第二缓冲区中已写入的所述待处理数据。

本发明实施例中，提供了一种流控服务器，流控服务器接收数据读取请求，其中，数据读取请求用于获取目标缓存单元中已存储的待处理数据，目标缓存单元包含第一缓冲区以及第二缓冲区，若目标缓存单元中包含待处理数据，则流控服务器根据数据读取请求检测第一缓冲区中是否处于被写入状态，若是，则获取第二缓冲区中已写入的待处理数据，按照预设流量控制条件发送待处理数据。通过上述方式，在一段时间内，可以将不稳定的待处理数据集中存储于目标缓存单元中的缓冲区，并以可控的方式按照一定的流量发送待处理数据，消除了现网流量变化所产生的影响，增强方案的稳定性，从而提升测试效率，并且节省了测试时间。

可选地，在上述图7所对应的实施例的基础上，请参阅图8，本发明实施例提供的流控服务器的另一实施例中，

所述流控服务器20还包括：

第一获取模块204A，用于所述第一接收模块201接收数据读取请求之后，获取所述待处理数据对应的目标标识信息；

第一确定模块204B，用于根据所述第一获取模块204A获取的所述目标标识信息从缓存单元集合中确定所述待处理数据所对应的目标缓存单元，其中，所述缓存单元集合包含至少一个缓存单元，且每个缓存单元与每个标识信息一一对应。

其次，本发明实施例中，流控服务器接收数据读取请求之后，需要先获取待处理数据对应的目标标识信息，然后根据目标标识信息从缓存单元集合中确定待处理数据所对应的目标缓存单元。通过上述方式，采用标识信息与缓存单元之间的对应关系来决定本次进行测试的数据应该取自于哪个缓存单元，从而实现数据分流的目的，同时以防止不同类型的数据相互干扰。

可选地，在上述图7所对应的实施例的基础上，请参阅图9，本发明实施例提供的流控服务器的另一实施例中，

所述流控服务器20还包括：

第二获取模块205，用于所述检测模块202根据所述数据读取请求检测所述第一缓冲区是否处于被写入状态之后，若所述第一缓冲区未处于被写入状态，则获取所述第一缓冲区中已写入的所述待处理数据。

其次，本发明实施例中，流控服务器检测第一缓冲区是否处于被写入状态之后，如果检测到第一缓冲区未处于被写入状态，则可以获取第一缓冲区中已写入的待处理数据。通过上述方式，可以避免第一缓冲区同时进行读取和写入，也就是说，在第一缓冲区处于被写入状态时，读取第二缓冲区内的数据，而第一缓冲区未处于被写入状态时，则优先读取第一缓冲区中已写入的待处理数据，从而实现了乒乓缓存，以此既可以解决流量小的数据在线缓冲问题，又可以解决流量大的数据溢出问题。

可选地，在上述图7所对应的实施例的基础上，请参阅图10，本发明实施例提供的流控服务器的另一实施例中，

所述流控服务器20还包括：

第二确定模块206，用于所述第一接收模块201接收数据读取请求之后，若所述目标缓存单元中不包含所述待处理数据，则确定所述待处理数据获取失败。

其次，本发明实施例中，提供了一种较为特殊的场景，即流控服务器在接收到数据读取请求之后，如果发现与该请求对应的目标缓存单元中不包含待处理数据，则确定数据获取失败。通过上述方式，说明当目标缓存单元没有按照要求存储相应的数据时，可以认为测试无效，需要重新获取其他的数据用于进行测试，从而提升方案的灵活性的可操作性。

可选地，在上述图7所对应的实施例的基础上，请参阅图11，本发明实施例提供的流控服务器的另一实施例中，

所述流控服务器20还包括：

判断模块207A，用于所述检测模块202根据所述数据读取请求检测所述第一缓冲区中是否处于被写入状态之后，若所述第一缓冲区处于被写入状态，则判断所述第二缓冲区中是否包含已写入的所述待处理数据；

第三获取模块207B，用于若所述判断模块207A判断得到所述第二缓冲区中不包含已写入的所述待处理数据，则获取所述第一缓冲区中已写入的所述待处理数据，并按照预设流量控制条件发送所述第一缓冲区中已写入的所述待处理数据。

其次，本发明实施例中，还提供了一种数据读取的方式，当某一个缓冲区正在处于被写入的状态，但另一个缓冲区中却没有所需的待处理数据，这时候也可以采用单缓存机制，进行读写并行处理。通过上述方式，在某些特殊的情况下仍可以读取待处理数据，从而增加方案的应用范围，同时提升方案的灵活性和实用性。

可选地，在上述图7所对应的实施例的基础上，请参阅图12，本发明实施例提供的流控服务器的另一实施例中，

所述流控服务器20还包括：

第二接收模块208A，用于所述第一接收模块201接收数据读取请求之前，接收所述待处理数据；

第一写入模块208B，用于若所述目标缓存单元中的所述第一缓冲区以及所述第二缓冲区均为空，则将所述第二接收模块208A接收的所述待处理数据写入所述第一缓冲区，或将所述待处理数据写入所述第二缓冲区。

其次，本发明实施例中，流控服务器在接收数据读取请求之前，还需要将待处理数据写入目标缓存单元，如果目标缓存单元中的第一缓冲区以及第二缓冲区均为空，则将待处理数据写入第一缓冲区或将待处理数据写入第二缓冲区。通过上述方式，说明如何写入待处理数据的方式，在第一缓冲区和第二缓冲区均为空的情况下，可以任意写入其中一个缓冲区，以此满足方案的实用性和可靠性。

可选地，在上述图7所对应的实施例的基础上，请参阅图13，本发明实施例提供的流控服务器的另一实施例中，

所述流控服务器20还包括：

第二写入模块209，用于所述第一写入模块208B将所述待处理数据写入所述第一缓冲区之后，若所述目标缓存单元中的所述第一缓冲区已写满，则将所述待处理数据写入所述第二缓冲区，或，

所述第一写入模块208B将所述待处理数据写入所述第二缓冲区之后，若所述目标缓存单元中的所述第二缓冲区已写满，则将所述待处理数据写入所述第一缓冲区。

再次，本发明实施例中，如果目标缓存单元中的第一缓冲区已写满，则将待处理数据写入第二缓冲区，反之，如果目标缓存单元中的第二缓冲区已写满，则将待处理数据写入第一缓冲区。通过上述方式，使得待处理数据在写入目标缓存单元的过程中也遵循乒乓写入的原则，并非采用单缓存的方式储存数据，无需频繁增加读写锁，从而提升方案的性能。

可选地，在上述图7至图13中任一项所对应的实施例的基础上，请参阅图14，本发明实施例提供的流控服务器的另一实施例中，

所述发送模块203包括：

第一发送单元2031，用于按照预置数据发送次数在第一时间段内发送所述第二缓冲区中已写入的所述待处理数据；

第二发送单元2032，用于当所述第一发送单元在所述第一时间段内的发送次数达到所述预置数据发送次数时，按照预置数据发送次数在第二时间段内发送所述第二缓冲区中已写入的所述待处理数据，其中，所述第二时间段为所述第一时间段之后的一段时间。

其次，本发明实施例中，流控服务器可以按照预置数据发送次数在第一时间段内发送第二缓冲区中已写入的待处理数据，当在第一时间段内的发送次数达到预置数据发送次数时，就按照预置数据发送次数在第二时间段内发送第二缓冲区中已写入的待处理数据。通过上述方式，可以有效地控制待处理数据发送的速率，将读出的待处理数据均匀地发往被测***，从而避免被测***由于流量压力过大导致无法正常处理的情况，以此提升方案的实用性和可行性。

图15是本发明实施例提供的一种服务器结构示意图，该服务器300可因配置或性能不同而产生比较大的差异，可以包括一个或一个以***处理器(central processingunits，CPU)322(例如，一个或一个以上处理器)和存储器332，一个或一个以上存储应用程序342或数据344的存储介质330(例如一个或一个以上海量存储设备)。其中，存储器332和存储介质330可以是短暂存储或持久存储。存储在存储介质330的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器322可以设置为与存储介质330通信，在服务器300上执行存储介质330中的一系列指令操作。

服务器300还可以包括一个或一个以上电源326，一个或一个以上有线或无线网络接口350，一个或一个以上输入输出接口358，和/或，一个或一个以上操作***341，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等等。

上述实施例中由服务器所执行的步骤可以基于该图15所示的服务器结构。

其中，CPU 322用于，

接收数据读取请求，所述数据读取请求用于获取目标缓存单元中已存储的待处理数据，所述目标缓存单元包含第一缓冲区以及第二缓冲区；

若所述目标缓存单元中包含所述待处理数据，则根据所述数据读取请求检测所述第一缓冲区是否处于被写入状态，若是，则获取所述第二缓冲区中已写入的所述待处理数据；

按照预设流量控制条件，发送所述第二缓冲区中已写入的所述待处理数据。

请参阅图16，图16为本发明实施例中流量控制***一个实施例示意图，所述***包括中转服务器401、流控服务器402、数据库服务器403以及后台服务器404；

中转服务器401，用于获取待处理数据；

流控服务器402，用于接收数据读取请求，数据读取请求用于获取目标缓存单元中已存储的待处理数据，目标缓存单元包含第一缓冲区以及第二缓冲区，若目标缓存单元中包含待处理数据，则根据数据读取请求检测第一缓冲区是否处于被写入状态，若是，则获取第二缓冲区中已写入的待处理数据，按照预设流量控制条件，发送第二缓冲区中已写入的待处理数据；

数据库服务器403，用于存储所述流控服务器402发送的所述待处理数据；

后台控制服务器404，用于控制中转服务器401、流控服务器402以及数据库服务器403。

本发明实施例中，提供了一种流量控制的***，流控服务器接收数据读取请求，其中，数据读取请求用于获取目标缓存单元中已存储的待处理数据，目标缓存单元包含第一缓冲区以及第二缓冲区，若目标缓存单元中包含待处理数据，则流控服务器根据数据读取请求检测第一缓冲区中是否处于被写入状态，若是，则获取第二缓冲区中已写入的待处理数据，按照预设流量控制条件发送待处理数据。通过上述方式，在一段时间内，可以将不稳定的待处理数据集中存储于目标缓存单元中的缓冲区，并以可控的方式按照一定的流量发送待处理数据，消除了现网流量变化所产生的影响，增强方案的稳定性，从而提升测试效率，并且节省了测试时间。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的***，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的***，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(英文全称：Read-OnlyMemory，英文缩写：ROM)、随机存取存储器(英文全称：Random Access Memory，英文缩写：RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (15)

1.一种流量控制的方法，其特征在于，包括：

接收数据读取请求，所述数据读取请求用于获取目标缓存单元中已存储的待处理数据，所述目标缓存单元包含第一缓冲区以及第二缓冲区；

若所述目标缓存单元中包含所述待处理数据，则根据所述数据读取请求检测所述第一缓冲区是否处于被写入状态，若是，则获取所述第二缓冲区中已写入的所述待处理数据；

按照预设流量控制条件，发送所述第二缓冲区中已写入的所述待处理数据。

2.根据权利要求1所述的方法，其特征在于，所述接收数据读取请求之后，所述方法还包括：

获取所述待处理数据对应的目标标识信息；

根据所述目标标识信息从缓存单元集合中确定所述待处理数据所对应的目标缓存单元，其中，所述缓存单元集合包含至少一个缓存单元，且每个缓存单元与一个标识信息一一对应。

3.根据权利要求1所述的方法，其特征在于，所述根据所述数据读取请求检测所述第一缓冲区是否处于被写入状态之后，所述方法还包括：

若所述第一缓冲区未处于被写入状态，则获取所述第一缓冲区中已写入的所述待处理数据。

4.根据权利要求1所述的方法，其特征在于，所述根据所述数据读取请求检测所述第一缓冲区是否处于被写入状态之后，所述方法还包括：

若所述第一缓冲区处于被写入状态，则判断所述第二缓冲区中是否包含已写入的所述待处理数据；

若所述第二缓冲区中不包含已写入的所述待处理数据，则获取所述第一缓冲区中已写入的所述待处理数据，并按照预设流量控制条件发送所述第一缓冲区中已写入的所述待处理数据。

5.根据权利要求1所述的方法，其特征在于，所述接收数据读取请求之前，所述方法还包括：

接收所述待处理数据；

若所述目标缓存单元中的所述第一缓冲区以及所述第二缓冲区均为空，则将所述待处理数据写入所述第一缓冲区，或将所述待处理数据写入所述第二缓冲区。

6.根据权利要求5所述的方法，其特征在于，所述将所述待处理数据写入所述第一缓冲区之后，所述方法还包括：

若所述目标缓存单元中的所述第一缓冲区已写满，则将所述待处理数据写入所述第二缓冲区；

所述将所述待处理数据写入所述第二缓冲区之后，所述方法还包括：

若所述目标缓存单元中的所述第二缓冲区已写满，则将所述待处理数据写入所述第一缓冲区。

7.根据权利要求1至6中任一项所述的方法，其特征在于，所述按照预设流量控制条件，发送所述第二缓冲区中已写入的所述待处理数据，包括：

按照预置数据发送次数在第一时间段内发送所述第二缓冲区中已写入的所述待处理数据；

当在所述第一时间段内的发送次数达到所述预置数据发送次数时，按照预置数据发送次数在第二时间段内发送所述第二缓冲区中已写入的所述待处理数据，其中，所述第二时间段为所述第一时间段之后的一段时间。

8.一种流控服务器，其特征在于，包括：

第一接收模块，用于接收数据读取请求，所述数据读取请求用于获取目标缓存单元中已存储的待处理数据，所述目标缓存单元包含第一缓冲区以及第二缓冲区；

检测模块，用于若所述目标缓存单元中包含所述待处理数据，则根据所述第一接收模块接收的所述数据读取请求检测所述第一缓冲区是否处于被写入状态，若是，则获取所述第二缓冲区中已写入的所述待处理数据；

发送模块，用于按照预设流量控制条件，发送所述检测模块检测后获取到的所述第二缓冲区中已写入的所述待处理数据。

9.根据权利要求8所述的流控服务器，其特征在于，所述流控服务器还包括：

第一获取模块，用于所述第一接收模块接收数据读取请求之后，获取所述待处理数据对应的目标标识信息；

第一确定模块，用于根据所述第一获取模块获取的所述目标标识信息从缓存单元集合中确定所述待处理数据所对应的目标缓存单元，其中，所述缓存单元集合包含至少一个缓存单元，且每个缓存单元与一个标识信息一一对应。

10.根据权利要求8所述的流控服务器，其特征在于，所述流控服务器还包括：

第二获取模块，用于所述检测模块根据所述数据读取请求检测所述第一缓冲区是否处于被写入状态之后，若所述第一缓冲区未处于被写入状态，则获取所述第一缓冲区中已写入的所述待处理数据。

11.根据权利要求8所述的流控服务器，其特征在于，所述流控服务器还包括：

判断模块，用于所述检测模块根据所述数据读取请求检测所述第一缓冲区中是否处于被写入状态之后，若所述第一缓冲区处于被写入状态，则判断所述第二缓冲区中是否包含已写入的所述待处理数据；

第三获取模块，用于若所述判断模块判断得到所述第二缓冲区中不包含已写入的所述待处理数据，则获取所述第一缓冲区中已写入的所述待处理数据，并按照预设流量控制条件发送所述第一缓冲区中已写入的所述待处理数据。

12.根据权利要求8所述的流控服务器，其特征在于，所述流控服务器还包括：

第二接收模块，用于所述第一接收模块接收数据读取请求之前，接收所述待处理数据；

第一写入模块，用于若所述目标缓存单元中的所述第一缓冲区以及所述第二缓冲区均为空，则将所述第二接收模块接收的所述待处理数据写入所述第一缓冲区，或将所述待处理数据写入所述第二缓冲区。

13.根据权利要求8所述的流控服务器，其特征在于，所述流控服务器还包括：

第二写入模块，用于所述第一写入模块将所述待处理数据写入所述第一缓冲区之后，若所述目标缓存单元中的所述第一缓冲区已写满，则将所述待处理数据写入所述第二缓冲区，或，

所述第一写入模块将所述待处理数据写入所述第二缓冲区之后，若所述目标缓存单元中的所述第二缓冲区已写满，则将所述待处理数据写入所述第一缓冲区。

14.根据权利要求8至13中任一项所述的流控服务器，其特征在于，所述发送模块包括：

第一发送单元，用于按照预置数据发送次数在第一时间段内发送所述第二缓冲区中已写入的所述待处理数据；

第二发送单元，用于当所述第一发送单元在所述第一时间段内的发送次数达到所述预置数据发送次数时，按照预置数据发送次数在第二时间段内发送所述第二缓冲区中已写入的所述待处理数据，其中，所述第二时间段为所述第一时间段之后的一段时间。

15.一种流量控制***，其特征在于，包括：中转服务器、流控服务器、数据库服务器以及后台服务器；

所述中转服务器，用于获取待处理数据；

所述流控服务器上述权利要求8至14中任一项所述的流控服务器；

所述数据库服务器，用于存储所述流控服务器发送的所述待处理数据；

所述后台控制服务器，用于控制所述中转服务器、所述流控服务器以及所述数据库服务器。