CN110430142B - 用于控制流量的方法和装置 - Google Patents

Abstract

本公开的实施例公开了用于控制流量的方法和装置。该方法应用于多级服务中的入口服务的服务实例，该方法的一具体实施方式包括：响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值；响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。该实施方式中，可以实现从流量的源头对流量进行控制，既可以保障入口服务的各服务实例的流量负荷保持在相对稳定的范围内，又可以确保入口服务之后的各服务的流量负荷保持在相对稳定的范围内，有助于提高***的稳定性。

Description

用于控制流量的方法和装置

技术领域

本公开的实施例涉及计算机技术领域，具体涉及用于控制流量的方法和装置。

背景技术

在分布式***中，通常部署着多个服务，且每个服务可以具有很多个服务实例。***在接收到用户请求时，通常需要多级服务中的各服务按照预先设定的处理顺序与处理规则响应所接收到的用户请求。

相关技术中，在服务流量陡增时，服务之间的调用频率、资源占用、服务延迟都会相应增大，严重时会引起***崩溃，导致***稳定性不高。

发明内容

本公开的实施例提出了用于控制流量的方法和装置。

第一方面，本公开的实施例提供了一种用于控制流量的方法，应用于多级服务中的入口服务的服务实例，该方法包括：响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值；响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。

在一些实施例中，当前流量消耗包括：终端在上一计数周期的全局流量消耗，终端在当前计数周期的本地流量消耗；其中，全局流量消耗为终端在上一计数周期向入口服务提交的用户请求数据的流量消耗，本地流量消耗为终端在当前计数周期向服务实例提交的用户请求数据的流量消耗。

在一些实施例中，获取终端的当前流量消耗包括：向计数服务节点发送异步查询请求，以获取计数服务节点基于异步查询请求发送的终端在上一计数周期的全局流量消耗；从预设存储位置获取终端在当前计数周期的本地流量消耗。

在一些实施例中，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据，包括：响应于确定全局流量消耗为空，且本地流量消耗大于签约流量，确定丢弃用户请求数据；响应于确定全局流量消耗为非空，且全局流量消耗大于签约流量，确定丢弃用户请求数据。

在一些实施例中，负载阈值包括第一阈值、第二阈值和第三阈值，当前流量消耗还包括多个备份流量消耗，多个备份流量消耗为终端分别在除上一计数周期外的多个历史计数周期向入口服务提交的用户请求数据的流量消耗；以及响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据，包括：响应于确定当前负载量大于第一阈值且小于第二阈值，且当前流量消耗中的全局流量消耗和/或本地流量消耗大于签约流量，丢弃用户请求数据；响应于确定当前负载量大于第二阈值且小于第三阈值，且当前流量消耗中的多个备份流量消耗中存在备份流量消耗大于签约流量或全局流量消耗大于签约流量，丢弃用户请求数据。

在一些实施例中，方法还包括：响应于确定当前负载量未超过负载阈值，确定不丢弃用户请求数据。

在一些实施例中，方法还包括：响应于确定不丢弃用户请求数据，执行以下步骤：更新当前负载量；确定用户请求数据中所请求内容所需的需求流量，根据需求流量更新当前计数周期的本地流量消耗；基于终端的终端身份标识和需求流量，编码得到计数信息，将所得到的计数信息存入计数信息队列，计数信息队列为具有定长内存的无锁队列，将计数信息队列中的计数信息发送给计数服务节点进行计数，以得到当前计数周期的全局流量消耗。

在一些实施例中，将计数信息队列中的计数信息发送给计数服务节点进行计数包括：基于预先设定的处理周期，将计数信息队列中对应终端身份标识的各计数信息进行合并，得到对应终端的计数信息，以及将终端的计数信息发送至计数服务节点。

在一些实施例中，当前计数周期的全局流量消耗经由计数服务节点通过如下步骤进行计数得到：接收计数信息，以及以终端为粒度，将所接收到的计数信息存储至预先设定的第一数据存储结构，第一数据存储结构为无锁数据结构；响应于确定当前时刻为计数周期的末端，统计第一数据存储结构中终端的总流量，将总流量作为当前计数周期的全局流量消耗，以及将第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构，并删除第一数据存储结构中所存储的数据，第二数据存储结构组中的第二数据存储结构为无锁数据结构。

在一些实施例中，在将第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构之前，还包括：响应于确定第二数据存储结构组中被占用的第二数据存储结构的数目超过预设数目阈值，删除第二数据存储结构组中当前被占用时长最长的第二数据存储结构中所存储的数据。

第二方面，本公开的实施例提供了一种用于控制流量的装置，应用于服务节点的任一服务实例处理单元，服务实例处理单元用于运行多级服务中的入口服务的服务实例，其中，该装置包括：第一确定单元，被配置成响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值；第二确定单元，被配置成响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。

在一些实施例中，当前流量消耗包括：终端在上一计数周期的全局流量消耗，终端在当前计数周期的本地流量消耗；其中，全局流量消耗为终端在上一计数周期向入口服务提交的用户请求数据的流量消耗，本地流量消耗为终端在当前计数周期向服务实例提交的用户请求数据的流量消耗。

在一些实施例中，第二确定单元中，获取终端的当前流量消耗包括：向计数服务节点发送异步查询请求，以获取计数服务节点基于异步查询请求发送的终端在上一计数周期的全局流量消耗；从预设存储位置获取终端在当前计数周期的本地流量消耗。

在一些实施例中，第二确定单元中，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据，包括：响应于确定全局流量消耗为空，且本地流量消耗大于签约流量，确定丢弃用户请求数据；响应于确定全局流量消耗为非空，且全局流量消耗大于签约流量，确定丢弃用户请求数据。

在一些实施例中，负载阈值包括第一阈值、第二阈值和第三阈值，当前流量消耗还包括多个备份流量消耗，多个备份流量消耗为终端分别在除上一计数周期外的多个历史计数周期向入口服务提交的用户请求数据的流量消耗；以及第二确定单元被进一步配置成：响应于确定当前负载量大于第一阈值且小于第二阈值，且当前流量消耗中的全局流量消耗和/或本地流量消耗大于签约流量，丢弃用户请求数据；响应于确定当前负载量大于第二阈值且小于第三阈值，且当前流量消耗中的多个备份流量消耗中存在备份流量消耗大于签约流量或全局流量消耗大于签约流量，丢弃用户请求数据。

在一些实施例中，该装置还包括：第三确定单元，被配置成响应于确定当前负载量未超过负载阈值，确定不丢弃用户请求数据。

在一些实施例中，该装置还包括：步骤执行单元，被配置成响应于确定不丢弃用户请求数据，执行以下步骤：更新当前负载量；确定用户请求数据中所请求内容所需的需求流量，根据需求流量更新当前计数周期的本地流量消耗；基于终端的终端身份标识和需求流量，编码得到计数信息，将所得到的计数信息存入计数信息队列，计数信息队列为具有定长内存的无锁队列，将计数信息队列中的计数信息发送给计数服务节点进行计数，以得到当前计数周期的全局流量消耗。

在一些实施例中，步骤执行单元中，将计数信息队列中的计数信息发送给计数服务节点进行计数包括：基于预先设定的处理周期，将计数信息队列中对应终端身份标识的各计数信息进行合并，得到对应终端的计数信息，以及将终端的计数信息发送至计数服务节点。

在一些实施例中，当前计数周期的全局流量消耗经由计数服务节点通过如下步骤进行计数得到：接收计数信息，以及以终端为粒度，将所接收到的计数信息存储至预先设定的第一数据存储结构，第一数据存储结构为无锁数据结构；响应于确定当前时刻为计数周期的末端，统计第一数据存储结构中终端的总流量，将总流量作为当前计数周期的全局流量消耗，以及将第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构，并删除第一数据存储结构中所存储的数据，第二数据存储结构组中的第二数据存储结构为无锁数据结构。

在一些实施例中，在将第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构之前，还包括：响应于确定第二数据存储结构组中被占用的第二数据存储结构的数目超过预设数目阈值，删除第二数据存储结构组中当前被占用时长最长的第二数据存储结构中所存储的数据。

第三方面，本公开的实施例提供了一种电子设备，该电子设备包括：一个或多个处理器；存储装置，其上存储有一个或多个程序；当该一个或多个程序被该一个或多个处理器执行，使得该一个或多个处理器实现如第一方面中任一实现方式描述的方法。

第四方面，本公开的实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

本公开的实施例提供的用于控制流量的方法和装置，可以响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值。然后，响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。本公开的实施例提供的方法和装置，由于入口服务是多级服务中最先响应用户请求数据的服务，由多级服务的入口服务的各服务实例确定是否丢弃用户请求数据，可以实现从流量的源头对流量进行控制，既可以保障入口服务的各服务实例的流量负荷保持在相对稳定的范围内，又可以确保入口服务之后的各服务的流量负荷保持在相对稳定的范围内，有助于提高***的稳定性。另外，入口服务的各服务实例通过同时结合自身的当前负载量和终端的当前流量消耗两个因素来确定是否丢弃用户请求数据，在服务实例的处理能力范围内尽量保障用户的签约流量的使用，可以实现对用户请求数据的公平合理丢弃，有助于实现对数据处理资源的有效利用。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开的一个实施例可以应用于其中的示例性***架构图；

图2是根据本公开的用于控制流量的方法的一个实施例的流程图；

图3是根据本公开的实施例的用于控制流量的方法的一个应用场景的示意图；

图4是根据本公开的用于控制流量的方法的又一个实施例的流程图；

图5是根据本公开的用于控制流量的装置的一个实施例的结构示意图；

图6是适于用来实现本公开的实施例的电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了可以应用本公开的实施例的用于控制流量的方法或用于控制流量的装置的示例性***架构100。

如图1所示，***架构100可以包括用户终端101，网络102和服务节点103。网络102用以在用户终端101和服务节点103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户终端101可以通过网络102与服务节点103交互，以接收或发送消息等。用户终端101上可以安装有各种应用，例如搜索类应用、查错类应用、购物类应用等。

用户终端101可以是硬件，也可以是软件。当用户终端101为硬件时，可以是支持用户请求数据输入的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当用户终端101为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务节点103可以是运行多级服务中的入口服务的服务实例的服务器。服务节点103上所运行的服务实例可以在接收到用户终端101发送的用户请求数据时，确定当前负载量是否超过负载阈值，响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本公开的实施例所提供的用于控制流量的方法一般由服务节点103上所运行的服务实例执行，相应地，用于控制流量的装置一般设置于服务节点103中用于运行入口服务的服务实例的服务实例处理单元中。

应该理解，图1中的用户终端、网络和服务节点的数目仅仅是示意性的。根据实现需要，可以具有任意数目的用户终端、网络和服务节点。

继续参考图2，示出了根据本公开的用于控制流量的方法的一个实施例的流程200。该用于控制流量的方法应用于多级服务中的入口服务的服务实例，包括以下步骤：

步骤201，响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值。

其中，上述多级服务中的入口服务通常是指多级服务中最先响应用户请求数据的服务。作为示例，若多级服务中包括A服务和B服务，且用户请求数据需要先经过A服务的处理，再经过B服务的处理，则上述多级服务响应上述用户请求数据的过程可以为：终端到A服务，A服务到B服务，B服务到A服务，A服务到终端。此时，由于A服务是最先响应用户请求数据的服务(或者说，A服务是直接与终端交互的服务)，故A服务即为多级服务中的入口服务。需要指出的是，多级服务中的各服务的服务实例通常为进程。

上述用户请求数据可以是终端发送的用于请求服务的数据。作为示例，上述用户请求数据可以是终端发送的用于请求读数据的服务的数据，也可以是终端发送的用于请求写数据的服务的数据。

上述当前负载量通常是指上述执行主体当前所处理的请求的数目。上述负载阈值可以是预先设定的数据值。

在本实施例中，用于控制流量的方法的执行主体可以在接收到终端发送的用户请求数据时，确定当前负载量是否超过负载阈值。这里，上述执行主体可以采用当前负载量与负载阈值进行比较，实现确定当前负载量是否超过负载阈值。

步骤202，响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。

其中，上述终端的当前流量消耗通常是指当前所记录的终端的流量消耗。作为示例，上述终端的当前流量消耗可以包括但不限于终端在当前计数周期的流量消耗、终端在上一计数周期的流量消耗，终端在上两个计数周期的流量消耗等。其中，上述计数周期可以是预先设定的数据值，如10秒。上述签约流量通常是指终端预先选定的流量消耗。

在本实施例中，在确定当前负载量超过负载阈值时，上述执行主体可以获取终端的当前流量消耗。这里，作为示例，上述执行主体可以直接从预先设定的用于存储终端的当前流量消耗的存储地址获取终端的当前流量消耗。

在本实施例中，在得到终端的当前流量消耗后，上述执行主体可以将当前流量消耗与签约流量进行比较，从而基于二者的大小关系，确定是否丢弃用户请求数据。作为示例，可以在当前流量消耗大于签约流量时，确定丢弃用户请求数据。

本公开的实施例提供的方法，由于入口服务是多级服务中最先响应用户请求数据的服务，由多级服务的入口服务的各服务实例确定是否丢弃用户请求数据，可以实现从流量的源头对流量进行控制，既可以保障入口服务的各服务实例的流量负荷保持在相对稳定的范围内，又可以确保入口服务之后的各服务的流量负荷保持在相对稳定的范围内，有助于提高***的稳定性。另外，入口服务的各服务实例通过同时结合自身的当前负载量和终端的当前流量消耗两个因素来确定是否丢弃用户请求数据，在服务实例的处理能力范围内尽量保障用户的签约流量的使用，可以实现对用户请求数据的公平合理丢弃，有助于实现对数据处理资源的有效利用。

在本公开的各个实施例的可选的实现方式中，上述当前流量消耗可以包括：终端在上一计数周期的全局流量消耗，终端在当前计数周期的本地流量消耗。其中，全局流量消耗为终端在上一计数周期向入口服务提交的用户请求数据的流量消耗，本地流量消耗为终端在当前计数周期向服务实例提交的用户请求数据的流量消耗。

本实现方式中，全局流量消耗能够从整个服务的角度反映终端最近的流量消耗情况，对当前的整体流量消耗情况具有较强的参考价值，另外，本地流量消耗能够从当前服务实例的角度反映终端当前的局部流量消耗情况，同时从全局流量消耗和本地流量消耗两个方面进行考虑，可以实现更好地保障对用户请求数据的公平合理丢弃，以及进一步提高对数据处理资源的有效利用。

在上述实现方式中，上述获取终端的当前流量消耗可以包括：

获取全局流量消耗：向计数服务节点发送异步查询请求，以获取计数服务节点基于异步查询请求发送的终端在上一计数周期的全局流量消耗。

其中，上述计数服务节点通常用于统计终端在计数周期向入口服务提交的用户请求数据的流量消耗。上述计数服务节点可以是一个进程也可以是一***立的服务器。上述异步查询请求通常是用于请求异步查询的请求信息。

这里，上述执行主体可以向计数服务节点发送异步查询请求。这样，计数服务节点可以在接收到异步查询请求时将终端在上一计数周期的全局流量消耗发送给上述执行主体。

另外，作为另一种实现方式，上述执行主体也可以通过向入口服务中除执行主体外的其它服务实例分别发送异步查询请求，以获得终端在各服务实例的本地流量消耗，从而将所获得的各服务实例的本地流量消耗的和值作为全局流量消耗，以实现获取到终端的全局流量消耗。

获取本地流量消耗：从预设存储位置获取终端在当前计数周期的本地流量消耗。

其中，上述预设存储位置可以是上述执行主体中预先设定的用于存储终端在当前计数周期的本地流量消耗的存储地址。

这里，上述执行主体可以直接从预设存储位置获取到终端在当前计数周期的本地流量消耗。

本实现方式中，通过异步查询的方式获取全局流量消耗，可以实现在不影响执行主体的其他操作的同时及时获取全局流量消耗，有助于提高数据处理效率。

在上述实现方式中，上述根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据，包括：

响应于确定全局流量消耗为空，且本地流量消耗大于签约流量，确定丢弃用户请求数据。响应于确定全局流量消耗为非空，且全局流量消耗大于签约流量，确定丢弃用户请求数据。

本实现方式中，由于上述计数服务节点响应上述异步查询请求的需要一定的时间，因此，通常需要等待一段时间才能得到全局流量消耗。这里，为了提高数据处理速度，上述执行主体可以在尚未得到全局流量消耗，即全局流量消耗为空时，将本地流量消耗与签约流量进行比较，以及在本地流量消耗大于签约流量时，确定丢弃用户请求数据。反之，在本地流量消耗小于签约流量时，确定不丢弃用户请求数据。

另外，在得到全局流量消耗之后，上述执行主体可以采用全局流量消耗与签约流量进行比较，以及在全局流量消耗大于签约流量时，确定丢弃用户请求数据。反之，在全局流量消耗小于签约流量时，确定不丢弃用户请求数据。

需要指出的是，由于本地流量消耗为执行主体自行统计的终端在当前计数周期的流量消耗，执行主体总是可以获取到本地流量消耗，即便是执行主体与计数服务节点之间的通信出现了故障，依旧可以保障***稳定运行，有助于提高***稳定性。

在本实施例的一些可选的实现方式中，负载阈值包括第一阈值、第二阈值和第三阈值，当前流量消耗包括全局流量消耗、本地流量消耗、多个备份流量消耗。多个备份流量消耗为终端分别在除上一计数周期外的多个历史计数周期向入口服务提交的用户请求数据的流量消耗。其中，上述第一阈值、第二阈值和第三阈值可以是预先设定的负载的取值，且第一阈值小于第二阈值，第二阈值小于第三阈值。

此时，上述响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据，包括：首先，响应于确定当前负载量大于第一阈值且小于第二阈值，且当前流量消耗中的全局流量消耗和/或本地流量消耗大于签约流量，丢弃用户请求数据。然后，响应于确定当前负载量大于第二阈值且小于第三阈值，且当前流量消耗中的多个备份流量消耗中存在备份流量消耗大于签约流量或全局流量消耗大于签约流量，丢弃用户请求数据。响应于确定当前负载量大于第三阈值，丢弃用户请求数据。

这里，举例来说，若上述执行主体所能够处理的最大请求量为100，第一阈值为80，第二阈值为90，第三阈值为100。在上述执行主体接收到当前用户请求数据时，若当前负载量为60，则上述执行主体可以不用考虑是否丢弃当前用户请求数据。若当前负载为85，则上述执行主体可以在确定全局流量消耗和/或本地流量消耗大于签约流量时，丢弃当前用户请求数据。若当前负载量为96，则上述执行主体可以在多个备份流量消耗中存在备份流量消耗大于签约流量或全局流量消耗大于签约流量时，丢弃当前用户请求数据。若当前负载量为100，则上述执行主体可以直接丢弃当前用户请求数据。

本实现方式中，上述执行主体可以结合自身的请求处理能力，分等级地对用户请求数据进行丢弃。可以实现更好地保障对用户请求数据的公平合理丢弃，以及进一步提高对数据处理资源的有效利用。

继续参考图3，图3是根据本实施例的用于控制流量的方法的应用场景300的一个示意图。在图3的应用场景中，入口服务301的服务实例3011接收到终端302发送的用户请求数据，以及执行如下步骤：

首先，服务实例3011可以将当前负载量X1与负载阈值T1进行比较，以确定当前负载量X1是否超过负载阈值T1。

然后，在确定当前负载量X1超过负载阈值T1时，服务实例3011可以获取终端302的当前流量消耗X2。

最后，服务实例3011可以将当前流量消耗X2与签约流量T2进行比较，以确定当前流量消耗X2与签约流量T2的大小关系，从而确定是否丢弃用户请求数据。

本公开的上述实施例提供的用于控制流量的方法，由于入口服务是多级服务中最先响应用户请求数据的服务，由多级服务的入口服务的各服务实例确定是否丢弃用户请求数据，可以实现从流量的源头对流量进行控制，既可以保障入口服务的各服务实例的流量负荷保持在相对稳定的范围内，又可以确保入口服务之后的各服务的流量负荷保持在相对稳定的范围内，有助于提高***的稳定性。另外，入口服务的各服务实例通过同时结合自身的当前负载量和终端的当前流量消耗两个因素来确定是否丢弃用户请求数据，在服务实例的处理能力范围内尽量保障用户的签约流量的使用，可以实现对用户请求数据的公平合理丢弃，有助于实现对数据处理资源的有效利用。

进一步参考图4，其示出了用于控制流量的方法的又一个实施例的流程400。该用于控制流量的方法的流程400，包括以下步骤：

步骤401，响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值。

步骤402，响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。

在本实施例中，步骤401-402的具体操作与图2所示的实施例中步骤201-202的操作基本相同，在此不再赘述。

步骤403，响应于确定当前负载量未超过负载阈值，确定不丢弃用户请求数据。

在本实施例中，在当前负载量未超过负载阈值时，不丢弃用户请求数据。这样，可以在执行主体的处理能力范围内保障终端的服务需求，可以实现更好地保障对用户请求数据的公平合理丢弃，以及进一步提高对数据处理资源的有效利用。

步骤404，响应于确定不丢弃用户请求数据，上述执行主体可以执行步骤4041-步骤4043：

步骤4041，更新当前负载量。

在本实施例中，上述执行主体可以将当前负载量加上预先设定的增量值，以实现更新当前负载量，以及得到更新后的当前负载量。其中，上述预先设定的增量值可以是预先设定的数值。作为示例，上述预先设定的增量值可以为1，也可以为2。

步骤4042，确定用户请求数据中所请求内容所需的需求流量，根据需求流量更新当前计数周期的本地流量消耗。

在本实施例中，上述执行主体可以对用户请求数据进行解析，得到用户请求数据所请求的内容，以及得到所请求内容所需的流量，即需求流量。在得到上述需求流量后，上述执行主体可以通过将本地流量消耗加上上述需求流量，实现将本地流量消耗与上述需求流量的和值作为更新后的本地流量消耗。

步骤4043，基于终端的终端身份标识和需求流量，编码得到计数信息，将所得到的计数信息存入计数信息队列，计数信息队列为具有定长内存的无锁队列，将计数信息队列中的计数信息发送给计数服务节点进行计数，以得到当前计数周期的全局流量消耗。

在本实施例中，上述执行主体可以采用终端的终端身份标识和上述需求流量编码得到计数信息。此时，所得到的计数信息包括终端身份标识和需求流量。在得到计数信息后，上述执行主体可以将所得到的计数信息存入计数信息队列。这样，可以将计数信息队列中的计数信息发送给计数服务节点进行计数，以得到当前计数周期的全局流量消耗。

需要指出的是，由于无锁队列可以实现数据的无锁存入以及无锁读取，因此，计数信息队列为具有定长内存的无锁队列，有助于提高数据读写速度。另外，由于定长内存中的各存储单元通常只存储相同大小的元素，且采用定长内存可以在数据被读取完之后直接删除已被读取的数据，不用将存储单元释放，可以减少存储单元的创建与释放的时间，又由于计数信息通常具有固定的格式且大小一致，因此，本实施例中的计数信息队列为具有定长内存的无锁队列，有助于提高数据处理效率。

在本实施例中，在确定不丢弃用户请求数据时，上述执行主体可以响应上述用户请求数据，及时更新当前负载量和本地流量消耗，以及及时统计当前计数周期的全局流量消耗，有助于保障***稳定运行。

在本实施例的一些可选的实现方式中，上述将计数信息队列中的计数信息发送给计数服务节点进行计数可以包括：基于预先设定的处理周期，将计数信息队列中对应终端身份标识的各计数信息进行合并，得到对应终端的计数信息，以及将终端的计数信息发送至计数服务节点。

其中，上述预先设定的处理周期可以是预先设定的时间长度值。作为示例，上述处理周期可以为2秒、5秒等。需要指出的是，上述处理周期通常小于或等于上述计数周期。上述将计数信息队列中对应终端身份标识的各计数信息进行合并，通常是指将对应一个终端身份标识的各计数信息中的需求流量进行叠加，合并得到一条针对终端身份标识的总计数信息。作为示例，若针对终端身份标识001具有2条计数信息，分别为计数信息A和计数信息B。其中，计数信息A为：001，20，计数信息B为：001，50，A中的20以及B中的50均为需求流量。此时，将计数信息A和计数信息B进行合并，可以得到总计数信息为：001，70。

本实现方式中，上述执行主体按照预先设定的处理周期向计数服务节点发送计数信息，比及一有计数信息就发送，可以减少执行主体与计数服务节点之间的通信次数，有助于节约二者之间通信所耗费的处理资源，有助于提高对数据处理资源的利用率，同时提高执行主体的数据处理效率。

另外，上述执行主体将来自同一终端的计数信息合并后才发送给计数服务节点，可以减小执行主体与计数服务节点之间的通信内容的大小，有助于加快通信速度，提高数据处理效率。

在上述实现方式中，上述当前计数周期的全局流量消耗经由计数服务节点通过如下步骤进行计数得到：

第一步，接收计数信息，以及以终端为粒度，将所接收到的计数信息存储至预先设定的第一数据存储结构，第一数据存储结构为无锁数据结构。

这里，计数服务节点在接收到计数信息后，可以将所接收到的计数信息存入第一数据存储结构中与该计数信息的终端对应的位置处。需要指出的是，第一数据存储结构可以存储多个终端的计数信息。

第二步，响应于确定当前时刻为计数周期的末端，统计第一数据存储结构中终端的总流量，将总流量作为当前计数周期的全局流量消耗，以及将第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构，并删除第一数据存储结构中所存储的数据，第二数据存储结构组中的第二数据存储结构为无锁数据结构。

其中，上述的第一数据存储结构通常用于存储终端在当前计数周期的计数信息，以及上述的第二数据存储结构通常用于存储终端在历史计数周期的流量消耗。

这里，在计数周期的末端，计数服务节点可以统计各终端在当前计数周期的全局流量消耗。这样，可以在下一计数周期时，上述执行主体可以将当前计数周期所得到的全局流量消耗作为其在上一计数周期的全局流量消耗。

本实现方式中，第一数据存储结构和第二数据存储结构均为无锁数据结构，可以实现对数据的无锁读取和无锁写入，有助于提高数据读写速度，从而提高数据处理效率。

另外，第一数据存储结构的形式可以包括但不限于以下之一：跳表、哈希表、树。第二数据存储结构可以包括但不限于以下之一：跳表、哈希表、树。需要指出的是，由于跳表结构有助于提高对数据的存取效率，第一数据存储结构和/或第二数据存储结构为跳表时，有助于提高数据的存取效率，从而有助于提高数据处理速度。

在上述的实现方式中，在上述将第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构之前，还包括：响应于确定第二数据存储结构组中被占用的第二数据存储结构的数目超过预设数目阈值，删除第二数据存储结构组中当前被占用时长最长的第二数据存储结构中所存储的数据。

其中，上述预设数目阈值可以是预先设定的数据值。作为示例，上述预设数目阈值可以为5、6、7等。

在这里，由于第二数据存储结构组中第二数据存储结构通常用于存储终端在历史计数周期的流量消耗。又由于且间隔太久的历史计数周期的流量消耗对终端在当前计数周期的流量消耗情况的参考价值很小。因此，在第二数据存储结构组中被占用的第二数据存储结构的数目超过预设数目阈值时，将被占用时长最长的第二数据存储结构删除，可以节约存储空间。

进一步参考图5，作为对上述各图所示方法的实现，本公开提供了一种用于控制流量的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例的用于控制流量的装置500包括：第一确定单元501，被配置成响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值；第二确定单元502，被配置成响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。

在本实施例的一些可选的实现方式中，当前流量消耗包括：终端在上一计数周期的全局流量消耗，终端在当前计数周期的本地流量消耗。其中，全局流量消耗为终端在上一计数周期向入口服务提交的用户请求数据的流量消耗，本地流量消耗为终端在当前计数周期向服务实例提交的用户请求数据的流量消耗。

在本实施例的一些可选的实现方式中，第二确定单元502中，获取终端的当前流量消耗包括：向计数服务节点发送异步查询请求，以获取计数服务节点基于异步查询请求发送的终端在上一计数周期的全局流量消耗。从预设存储位置获取终端在当前计数周期的本地流量消耗。

在本实施例的一些可选的实现方式中，第二确定单元502中，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据，包括：响应于确定全局流量消耗为空，且本地流量消耗大于签约流量，确定丢弃用户请求数据。响应于确定全局流量消耗为非空，且全局流量消耗大于签约流量，确定丢弃用户请求数据。

在本实施例的一些可选的实现方式中，负载阈值包括第一阈值、第二阈值和第三阈值，当前流量消耗还包括多个备份流量消耗，多个备份流量消耗为终端分别在除上一计数周期外的多个历史计数周期向入口服务提交的用户请求数据的流量消耗。以及第二确定单元502被进一步配置成：响应于确定当前负载量大于第一阈值且小于第二阈值，且当前流量消耗中的全局流量消耗和/或本地流量消耗大于签约流量，丢弃用户请求数据。响应于确定当前负载量大于第二阈值且小于第三阈值，且当前流量消耗中的多个备份流量消耗中存在备份流量消耗大于签约流量或全局流量消耗大于签约流量，丢弃用户请求数据。

在本实施例的一些可选的实现方式中，装置还可以包括第三确定单元(图中未示出)。第三确定单元可以被配置成响应于确定当前负载量未超过负载阈值，确定不丢弃用户请求数据。

在本实施例的一些可选的实现方式中，装置还可以包括步骤执行单元(图中未示出)。步骤执行单元可以被配置成响应于确定不丢弃用户请求数据，执行以下步骤：首先，更新当前负载量。然后，确定用户请求数据中所请求内容所需的需求流量，根据需求流量更新当前计数周期的本地流量消耗。最后，基于终端的终端身份标识和需求流量，编码得到计数信息，将所得到的计数信息存入计数信息队列，计数信息队列为具有定长内存的无锁队列，将计数信息队列中的计数信息发送给计数服务节点进行计数，以得到当前计数周期的全局流量消耗。

在本实施例的一些可选的实现方式中，步骤执行单元中，将计数信息队列中的计数信息发送给计数服务节点进行计数包括：基于预先设定的处理周期，将计数信息队列中对应终端身份标识的各计数信息进行合并，得到对应终端的计数信息，以及将终端的计数信息发送至计数服务节点。

在本实施例的一些可选的实现方式中，当前计数周期的全局流量消耗经由计数服务节点通过如下步骤进行计数得到：接收计数信息，以及以终端为粒度，将所接收到的计数信息存储至预先设定的第一数据存储结构，第一数据存储结构为无锁数据结构。响应于确定当前时刻为计数周期的末端，统计第一数据存储结构中终端的总流量，将总流量作为当前计数周期的全局流量消耗，以及将第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构，并删除第一数据存储结构中所存储的数据，第二数据存储结构组中的第二数据存储结构为无锁数据结构。

在本实施例的一些可选的实现方式中，在将第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构之前，还包括：响应于确定第二数据存储结构组中被占用的第二数据存储结构的数目超过预设数目阈值，删除第二数据存储结构组中当前被占用时长最长的第二数据存储结构中所存储的数据。

本公开的上述实施例提供的装置，第一确定单元501响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值。第二确定单元502响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。本实施例的装置，由于入口服务是多级服务中最先响应用户请求数据的服务，由多级服务的入口服务的各服务实例确定是否丢弃用户请求数据，可以实现从流量的源头对流量进行控制，既可以保障入口服务的各服务实例的流量负荷保持在相对稳定的范围内，又可以确保入口服务之后的各服务的流量负荷保持在相对稳定的范围内，有助于提高***的稳定性。另外，入口服务的各服务实例通过同时结合自身的当前负载量和终端的当前流量消耗两个因素来确定是否丢弃用户请求数据，在服务实例的处理能力范围内尽量保障用户的签约流量的使用，可以实现对用户请求数据的公平合理丢弃，有助于实现对数据处理资源的有效利用。

下面参考图6，其示出了适于用来实现本公开的实施例的电子设备(例如图1中的服务节点)600的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600可以包括处理装置(例如中央处理单元(CPU)、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开的实施例的方法中限定的上述功能。需要说明的是，本公开的实施例的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开的实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值；响应于确定当前负载量超过负载阈值，获取终端的当前流量消耗，根据终端的当前流量消耗与签约流量的大小关系，确定是否丢弃用户请求数据。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括第一确定单元和第二确定单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一确定单元还可以被描述为“响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值的单元”。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (18)

1.一种用于控制流量的方法，应用于多级服务中的入口服务的服务实例，其中，所述方法包括：

响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值；

响应于确定当前负载量超过负载阈值，获取所述终端的当前流量消耗，根据所述终端的当前流量消耗与签约流量的大小关系，确定是否丢弃所述用户请求数据；

其中，所述获取所述终端的当前流量消耗包括：向计数服务节点发送异步查询请求，以获取计数服务节点基于所述异步查询请求发送的所述终端在上一计数周期的全局流量消耗；从预设存储位置获取所述终端在当前计数周期的本地流量消耗，其中，所述全局流量消耗为所述终端在上一计数周期向入口服务提交的用户请求数据的流量消耗，所述本地流量消耗为所述终端在当前计数周期向所述服务实例提交的用户请求数据的流量消耗。

2.根据权利要求1所述的方法，其中，所述根据所述终端的当前流量消耗与签约流量的大小关系，确定是否丢弃所述用户请求数据，包括：

响应于确定全局流量消耗为空，且本地流量消耗大于所述签约流量，确定丢弃所述用户请求数据；

响应于确定全局流量消耗为非空，且全局流量消耗大于所述签约流量，确定丢弃所述用户请求数据。

3.根据权利要求1所述的方法，其中，所述负载阈值包括第一阈值、第二阈值和第三阈值，所述当前流量消耗还包括多个备份流量消耗，所述多个备份流量消耗为所述终端分别在除上一计数周期外的多个历史计数周期向入口服务提交的用户请求数据的流量消耗；以及

所述响应于确定当前负载量超过负载阈值，获取所述终端的当前流量消耗，根据所述终端的当前流量消耗与签约流量的大小关系，确定是否丢弃所述用户请求数据，包括：

响应于确定所述当前负载量大于第一阈值且小于第二阈值，且所述当前流量消耗中的所述全局流量消耗和/或所述本地流量消耗大于所述签约流量，丢弃所述用户请求数据；

响应于确定所述当前负载量大于第二阈值且小于第三阈值，且所述当前流量消耗中的所述多个备份流量消耗中存在备份流量消耗大于所述签约流量或所述全局流量消耗大于所述签约流量，丢弃所述用户请求数据。

4.根据权利要求1所述的方法，其中，所述方法还包括：响应于确定当前负载量未超过负载阈值，确定不丢弃所述用户请求数据。

5.根据权利要求4所述的方法，其中，所述方法还包括：

响应于确定不丢弃所述用户请求数据，执行以下步骤：

更新所述当前负载量；

确定所述用户请求数据中所请求内容所需的需求流量，根据所述需求流量更新当前计数周期的本地流量消耗；

基于所述终端的终端身份标识和所述需求流量，编码得到计数信息，将所得到的计数信息存入计数信息队列，所述计数信息队列为具有定长内存的无锁队列，将所述计数信息队列中的计数信息发送给计数服务节点进行计数，以得到当前计数周期的全局流量消耗。

6.根据权利要求5所述的方法，其中，所述将所述计数信息队列中的计数信息发送给计数服务节点进行计数包括：

基于预先设定的处理周期，将计数信息队列中对应所述终端身份标识的各计数信息进行合并，得到对应所述终端的计数信息，以及将所述终端的计数信息发送至所述计数服务节点。

7.根据权利要求5-6之一所述的方法，其中，所述当前计数周期的全局流量消耗经由计数服务节点通过如下步骤进行计数得到：

接收计数信息，以及以终端为粒度，将所接收到的计数信息存储至预先设定的第一数据存储结构，所述第一数据存储结构为无锁数据结构；

响应于确定当前时刻为计数周期的末端，统计所述第一数据存储结构中所述终端的总流量，将所述总流量作为所述当前计数周期的全局流量消耗，以及将所述第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构，并删除所述第一数据存储结构中所存储的数据，所述第二数据存储结构组中的第二数据存储结构为无锁数据结构。

8.根据权利要求7所述的方法，其中，在所述将所述第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构之前，还包括：

响应于确定所述第二数据存储结构组中被占用的第二数据存储结构的数目超过预设数目阈值，删除所述第二数据存储结构组中当前被占用时长最长的第二数据存储结构中所存储的数据。

9.一种用于控制流量的装置，应用于服务节点的任一服务实例处理单元，所述服务实例处理单元用于运行多级服务中的入口服务的服务实例，其中，所述装置包括：

第一确定单元，被配置成响应于接收到终端发送的用户请求数据，确定当前负载量是否超过负载阈值；

第二确定单元，被配置成响应于确定当前负载量超过负载阈值，获取所述终端的当前流量消耗，根据所述终端的当前流量消耗与签约流量的大小关系，确定是否丢弃所述用户请求数据；

所述第二确定单元中，所述获取所述终端的当前流量消耗包括：向计数服务节点发送异步查询请求，以获取计数服务节点基于所述异步查询请求发送的所述终端在上一计数周期的全局流量消耗；从预设存储位置获取所述终端在当前计数周期的本地流量消耗，其中，

所述全局流量消耗为所述终端在上一计数周期向入口服务提交的用户请求数据的流量消耗，所述本地流量消耗为所述终端在当前计数周期向所述服务实例提交的用户请求数据的流量消耗。

10.根据权利要求9所述的装置，其中，所述第二确定单元中，所述根据所述终端的当前流量消耗与签约流量的大小关系，确定是否丢弃所述用户请求数据，包括：

响应于确定全局流量消耗为空，且本地流量消耗大于所述签约流量，确定丢弃所述用户请求数据；

响应于确定全局流量消耗为非空，且全局流量消耗大于所述签约流量，确定丢弃所述用户请求数据。

11.根据权利要求9所述的装置，其中，所述负载阈值包括第一阈值、第二阈值和第三阈值，所述当前流量消耗还包括多个备份流量消耗，所述多个备份流量消耗为所述终端分别在除上一计数周期外的多个历史计数周期向入口服务提交的用户请求数据的流量消耗；以及

所述第二确定单元被进一步配置成：

响应于确定所述当前负载量大于第一阈值且小于第二阈值，且所述当前流量消耗中的所述全局流量消耗和/或所述本地流量消耗大于所述签约流量，丢弃所述用户请求数据；

响应于确定所述当前负载量大于第二阈值且小于第三阈值，且所述当前流量消耗中的所述多个备份流量消耗中存在备份流量消耗大于所述签约流量或所述全局流量消耗大于所述签约流量，丢弃所述用户请求数据。

12.根据权利要求9所述的装置，其中，所述装置还包括：

第三确定单元，被配置成响应于确定当前负载量未超过负载阈值，确定不丢弃所述用户请求数据。

13.根据权利要求12所述的装置，其中，所述装置还包括：

步骤执行单元，被配置成响应于确定不丢弃所述用户请求数据，执行以下步骤：

更新所述当前负载量；

确定所述用户请求数据中所请求内容所需的需求流量，根据所述需求流量更新当前计数周期的本地流量消耗；

基于所述终端的终端身份标识和所述需求流量，编码得到计数信息，将所得到的计数信息存入计数信息队列，所述计数信息队列为具有定长内存的无锁队列，将所述计数信息队列中的计数信息发送给计数服务节点进行计数，以得到当前计数周期的全局流量消耗。

14.根据权利要求13所述的装置，其中，所述步骤执行单元中，所述将所述计数信息队列中的计数信息发送给计数服务节点进行计数包括：

基于预先设定的处理周期，将计数信息队列中对应所述终端身份标识的各计数信息进行合并，得到对应所述终端的计数信息，以及将所述终端的计数信息发送至所述计数服务节点。

15.根据权利要求13-14之一所述的装置，其中，所述当前计数周期的全局流量消耗经由计数服务节点通过如下步骤进行计数得到：

接收计数信息，以及以终端为粒度，将所接收到的计数信息存储至预先设定的第一数据存储结构，所述第一数据存储结构为无锁数据结构；

响应于确定当前时刻为计数周期的末端，统计所述第一数据存储结构中所述终端的总流量，将所述总流量作为所述当前计数周期的全局流量消耗，以及将所述第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构，并删除所述第一数据存储结构中所存储的数据，所述第二数据存储结构组中的第二数据存储结构为无锁数据结构。

16.根据权利要求15所述的装置，其中，在所述将所述第一数据存储结构所存储的数据存入预先设定的第二数据存储结构组中的第二数据存储结构之前，还包括：

响应于确定所述第二数据存储结构组中被占用的第二数据存储结构的数目超过预设数目阈值，删除所述第二数据存储结构组中当前被占用时长最长的第二数据存储结构中所存储的数据。

17.一种电子设备，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。

18.一种计算机可读介质，其上存储有计算机程序，其中，该程序被处理器执行时实现如权利要求1-8中任一所述的方法。