CN110830384B - 业务流量的限流方法、装置及*** - Google Patents

Abstract

本申请公开了一种业务流量的限流方法、装置及***，涉及流量控制技术领域，可实现集群智能限流，提高业务流量限流的效率和准确性。其中方法包括：发送携带有用户业务操作数据和操作环境数据的业务请求，以使得在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述服务器各自处理的业务流量；接收所述业务请求对应的业务服务。本申请适用于业务流量的限流。

Description

业务流量的限流方法、装置及***

技术领域

本申请涉及流量控制技术领域，尤其是涉及到一种业务流量的限流方法、装置及***。

背景技术

为了保证业务服务线上***高可用，目前可采用人工配置的传统限流方式。具体可预先人工编写代码配置固定的限流参数，例如通过服务器的CPU性能、服务器磁盘阵列等信息配置一个固定的最大流量。当接收到大量并发的业务请求后，根据该限流参数进行业务流量限流，以减少服务器处理大量并发请求的情况。

然而，针对某些业务服务的业务流量变化存在着明显的区域性和时间性特点，并且服务器可承受的流量是动态的。因此需要人工根据实际情况经常更改限流参数，使得传统限流方式不够灵活，不能充分利用服务器资源，且每次更改都需要人工重新编码，影响业务流量限流的效率，以及会增加人工成本。

发明内容

有鉴于此，本申请提供了一种业务流量的限流方法、装置及***，主要目的在于解决目前传统的限流方式会影响业务流量限流的效率，以及会增加人工成本的技术问题。

依据本申请的一个方面，提供了一种业务流量的限流方法，可应用于客户端侧，该方法包括：

发送携带有用户业务操作数据和操作环境数据的业务请求，以使得在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述服务器各自处理的业务流量；

接收所述业务请求对应的业务服务。

可选的，所述最大业务流量是通过对抗神经网络模型计算得到的，所述方法还包括：

采集用户历史的业务操作数据和操作环境数据并上传，以便创建所述对抗神经网络模型对应的训练集和测试集。

可选的，若在发送所述业务请求之后的预设时长未接收到返回的业务服务，则所述方法还包括：

查询同样能够获取到所述业务服务的其他集群服务器信息；

依据所述其他集群服务器信息，重新发送所述业务请求。

可选的，在接收所述业务请求对应的业务服务之后，所述方法还包括：

输出接收到的业务服务。

依据本申请的另一方面，提供了另一种业务流量的限流方法，可应用于服务端侧，该方法包括：

接收并发的业务请求，所述业务请求中携带有用户业务操作数据和操作环境数据；

在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述集群中服务器各自处理的业务流量。

可选的，参照所述最大业务流量，限制所述集群中服务器各自处理的业务流量，具体包括：

向所述集群中服务器转发所述并发的业务请求，并使得所述集群中服务器处理的业务流量小于或等于各自对应的所述最大业务流量。

可选的，所述方法还包括：

接收各个客户端上传的各个用户的历史业务操作数据和历史操作环境数据；

按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集；

基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器，若生成器通过所述判决器的校验，则将通过校验的生成器确定为对抗神经网络模型，所述对抗神经网络模型用于计算得到所述最大业务流量。

可选的，所述按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集，具体包括：

查询携带有所述历史业务操作数据和历史操作环境数据的历史并发业务请求被集中处理时集群中服务器的负载信息；

依据所述负载信息，分析集群中服务器在集中处理所述历史并发业务请求时，各自对应所能承受的历史最大业务流量；

将所述历史业务操作数据和历史操作环境数据作为样本特征数据，及将所述历史最大业务流量作为与所述样本特征数据对应的样本标签数据，创建所述训练集和所述测试集。

可选的，用于限制集群中服务器业务流量处理的所述最大业务流量的计算过程，具体包括：

将所述各个用户业务操作数据和操作环境数据输入到所述对抗神经网络模型，获取集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量。

可选的，在所述基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器之前，所述方法还包括：

对所述训练集和所述测试集进行稀疏矩阵处理；

所述基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器，具体包括：

基于对抗神经网络算法利用稀疏矩阵处理后的训练集训练生成器，并利用稀疏矩阵处理后的测试集训练判决器。

可选的，若生成器未通过所述判决器的校验，则所述方法还包括：

继续对生成器和判决器进行训练，每次训练后利用新判决器校验新生成器，直至新生成器通过新判决器的校验，并将通过校验的新生成器确定为所述对抗神经网络模型。

可选的，在所述按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集之前，所述方法还包括：

对所述历史业务操作数据和历史操作环境数据进行去重和去脏的无效数据过滤；

所述按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集，具体包括：

按照过滤后的历史业务操作数据和历史操作环境数据，创建训练集和测试集。

依据本申请的又一方面，提供了一种业务流量的限流装置，可应用于客户端侧，该装置包括：

发送模块，用于发送携带有用户业务操作数据和操作环境数据的业务请求，以使得在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述服务器各自处理的业务流量；

接收模块，用于接收所述业务请求对应的业务服务。

可选的，所述最大业务流量是通过对抗神经网络模型计算得到的，所述装置还包括：

采集模块，用于采集用户历史的业务操作数据和操作环境数据；

所述发送模块，还用于上传所述采集模块采集到的用户历史的业务操作数据和操作环境数据，以便创建所述对抗神经网络模型对应的训练集和测试集。

可选的，所述装置还包括：查询模块；

所述查询模块，用于若在发送所述业务请求之后的预设时长未接收到返回的业务服务，则查询同样能够获取到所述业务服务的其他集群服务器信息；

所述发送模块，还用于依据所述其他集群服务器信息，重新发送所述业务请求。

可选的，所述装置还包括：输出模块，用于输出接收到的业务服务。

依据本申请的再一方面，提供了一种业务流量的限流装置，可应用于服务端侧，该装置包括：

接收模块，用于接收并发的业务请求，所述业务请求中携带有用户业务操作数据和操作环境数据；

限制模块，用于在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述集群中服务器各自处理的业务流量。

可选的，所述限制模块，具体用于向所述集群中服务器转发所述并发的业务请求，并使得所述集群中服务器处理的业务流量小于或等于各自对应的所述最大业务流量。

可选的，所述装置还包括：创建模块和训练模块；

接收模块，还用于接收各个客户端上传的各个用户的历史业务操作数据和历史操作环境数据；

所述创建模块，用于按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集；

所述训练模块，用于基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器，若生成器通过所述判决器的校验，则将通过校验的生成器确定为对抗神经网络模型，所述对抗神经网络模型用于计算得到所述最大业务流量。

可选的，所述创建模块，具体用于查询携带有所述历史业务操作数据和历史操作环境数据的历史并发业务请求被集中处理时集群中服务器的负载信息；

依据所述负载信息，分析集群中服务器在集中处理所述历史并发业务请求时，各自对应所能承受的历史最大业务流量；

将所述历史业务操作数据和历史操作环境数据作为样本特征数据，及将所述历史最大业务流量作为与所述样本特征数据对应的样本标签数据，创建所述训练集和所述测试集。

可选的，所述装置还包括：计算模块，用于将所述各个用户业务操作数据和操作环境数据输入到所述对抗神经网络模型，获取集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量。

可选的，所述创建模块，还用于对所述训练集和所述测试集进行稀疏矩阵处理；

所述训练模块，具体用于基于对抗神经网络算法利用稀疏矩阵处理后的训练集训练生成器，并利用稀疏矩阵处理后的测试集训练判决器。

可选的，所述训练模块，还用于若生成器未通过所述判决器的校验，则继续对生成器和判决器进行训练，每次训练后利用新判决器校验新生成器，直至新生成器通过新判决器的校验，并将通过校验的新生成器确定为所述对抗神经网络模型。

可选的，所述装置还包括：

过滤模块，用于对所述历史业务操作数据和历史操作环境数据进行去重和去脏的无效数据过滤；

所述创建模块，具体用于按照过滤后的历史业务操作数据和历史操作环境数据，创建训练集和测试集。

依据本申请再一个方面，提供了一种存储介质，其上存储有计算机程序，所述程序被处理器执行时实现上述可应用于客户端侧的业务流量的限流方法。

依据本申请再一个方面，提供了一种客户端设备，包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述可应用于客户端侧的业务流量的限流方法。

依据本申请再一个方面，提供了一种存储介质，其上存储有计算机程序，所述程序被处理器执行时实现上述可应用于服务端侧的业务流量的限流方法。

依据本申请再一个方面，提供了一种服务器设备，包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述可应用于服务端侧的业务流量的限流方法。

依据本申请再一个方面，提供了一种业务流量的限流***，包括：上述客户端设备和上述服务器设备。

借由上述技术方案，本申请提供的一种业务流量的限流方法、装置及***，与目前传统的限流方式相比，本申请可在集群需要集中处理高并发的业务请求时，根据请求中携带的各个用户业务操作数据和操作环境数据，参照集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制集群中服务器各自处理的业务流量，进而实现集群智能限流的方案。在保证不超过最大业务流量的前提下转发这些高并发的业务请求给服务器进行处理。无需人工根据实际情况经常重新编码设置限流值，而是每次自动化的给出适合的限流值，因此可提高业务流量限流的效率，减少人工成本。并且由于限流更加及时准确，所以进一步减少了服务器出现宕机现象，避免服务器性能不受到大量并发请求的影响，有利于集群处理能力的提升。

上述说明仅是本申请技术方案的概述，为了能够更清楚了解本申请的技术手段，而可依照说明书的内容予以实施，并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂，以下特举本申请的具体实施方式。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1示出了本申请实施例提供的一种业务流量的限流方法的流程示意图；

图2示出了本申请实施例提供的另一种业务流量的限流方法的流程示意图；

图3示出了本申请实施例提供的又一种业务流量的限流方法的流程示意图；

图4示出了本申请实施例提供的一种应用场景的实例结构示意图；

图5示出了本申请实施例提供的一种业务流量的限流装置的结构示意图；

图6示出了本申请实施例提供的另一种业务流量的限流装置的结构示意图；

图7示出了本申请实施例提供的又一种业务流量的限流装置的结构示意图；

图8示出了本申请实施例提供的再一种业务流量的限流装置的结构示意图；

图9示出了本申请实施例提供的一种业务流量的限流***的结构示意图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本申请。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。

针对目前传统的限流方式会影响业务流量限流的效率，以及会增加人工成本的技术问题。本实施例提供了一种业务流量的限流方法，如图1所示，可应用于客户端侧，该方法包括：

101、客户端向服务端发送携带有用户业务操作数据和操作环境数据的业务请求。

进一步的，以使得在集群需要集中处理并发的业务请求时，服务端可根据各个用户业务操作数据和操作环境数据，参照集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制这些服务器各自处理的业务流量。在本实施例中服务端可为用于请求转发的限流装置或设备，具体可为网关设备、集群对应的管理服务器或其他网络前置设备等。在本实施例中，发送的业务请求用于请求业务服务，例如，业务服务可为点餐预订、酒店预订、婚纱照预订、火车票/机票预订等本地生活类的服务。

业务操作数据中可包括用户为了获取业务服务而在应用页面进行的页面点击数据(如点击类目、点击服务、点击路径等)、应用登录数据等。操作环境数据中可包括操作的应用标识、应用版本、操作***版本、支付环境数据等。集群中服务器对应所能承受的最大业务流量可以为该服务器的限流值，即使得该服务器处理的业务流量不超过这个限流值，进而保证该服务器安全运行，减少由于负载过大造成出现宕机的可能性。

例如，在服务端接收到大量并发的业务请求时，为了用户的请求需要，相应的，集群则需要集中处理这些高并发的业务请求，此时为了避免过大的流量压力影响集群服务的处理性能，可根据这些请求携带的各个用户业务操作数据和操作环境数据，实时计算集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，进而利用这些参考值实时调整集群中每个服务器限流值的大小。从而通过服务器各自对应的限流值智能实现限流。

102、接收业务请求对应的业务服务。

需要说明的是，本实施例方法提供的集群智能限流方案，可应用到多种业务流量的限流场景，用于解决多种场景下大量并发请求的优化处理问题。

本实施例方法与目前现有技术相比，可在集群需要集中处理高并发的业务请求时，根据请求中携带的各个用户业务操作数据和操作环境数据，参照集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制集群中服务器各自处理的业务流量，进而实现集群智能限流的方案。在保证不超过最大业务流量的前提下转发这些高并发的业务请求给服务器进行处理。无需人工根据实际情况经常重新编码设置限流值，而是每次自动化的给出适合的限流值，因此可提高业务流量限流的效率，减少人工成本。并且由于限流更加及时准确，所以进一步减少了服务器出现宕机现象，避免服务器性能不受到大量并发请求的影响，有利于集群处理能力的提升。

进一步的，作为上述实施例具体实施方式的细化和扩展，在步骤102之后还可包括：客户端输出接收到的业务服务。例如，如果业务请求处理成功，将请求的本地生活服务进行展示、播放等；如果业务请求为异常请求，那么会得到请求失败的响应信息，然后以文字、图片、视频、音频、灯光、振动等形式输出。

为了保证用于限制集群中服务器业务流量处理的最大业务流量的计算准确性，可选的，该最大业务流量可以是通过对抗神经网络模型计算得到的。并且该对抗神经网络模型在前期创建时需要数据质量相对较好的训练集和测试集，这样才能保证训练得到的该模型计算准确性。因此为了得到包含相对真实数据的训练集和测试集，可选的，可通过各个客户端收集用户历史的业务操作数据和操作环境数据然后上传给服务端，相应的，本实施例方法还可包括：客户端采集用户历史的业务操作数据和操作环境数据并上传，以便创建对抗神经网络模型对应的训练集和测试集。除了这种方式以外，客户端后续还可持续采集用户的业务操作数据和操作环境数据然后上传，进而更新训练集和测试集，以便更新训练对抗神经网络模型，从而进一步提高该模型的计算准确性。

有时由于业务流量限流、网络延迟、服务器宕机等原因，造成发送业务请求之后，长时间没有响应，无法返回相应的本地生活服务。因此为了提高业务请求响应速度，作为一种可选方式，若客户端在发送业务请求之后的预设时长未接收到返回的业务服务，则本实施例方法还可包括：查询同样能够获取到该业务服务的其他集群服务器信息；然后依据其他集群服务器信息，重新发送该业务服务的业务请求。

其中，预设时长可根据实际需求预先配置，目的是为了避免过长的无响应等待时长。对于本实施例，如果当前集群服务器在一定时长没有反馈请求结果，可向其他同样可获取该业务服务的其他集群服务器发送请求，以便快速获取到相应的业务服务，减少不必要的等待时长，可实现请求快速响应，提升用户的使用体验。

上述实施例内容为在客户端侧描述的业务流量的限流过程，进一步的，为了完整说明本实施例的实施方式，本实施例还提供了另一种业务流量的限流方法，可应用于服务端侧，如图2所示，该方法包括：

201、服务端接收并发的业务请求。

其中，业务请求中携带有用户业务操作数据和操作环境数据。

202、在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制集群中服务器各自处理的业务流量。

在服务端接收各个客户端并发的各个业务请求(特别是请求数量相对庞大的情况)之后，为了保证集群***高可用，可根据请求中的各个用户业务操作数据和操作环境数据，计算集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，进而智能化计算出限流值，从而保证集群***的整体性能。

例如，依据集群中各服务器所对应的最大业务流量，向这些服务器转发业务请求，并控制服务器处理的业务流量小于各自对应的最大业务流量。而被限流阻止的业务请求，可暂时保存在缓存队列中等待服务器处理。在转发请求时可优先发送给处理能力较强(如根据当前处理流量和其对应的最大业务流量之间的差值绝对值确定)的服务器进行处理。

通过上述可应用于服务端侧的业务流量的限流方法，与目前现有技术相比，无需人工根据实际情况经常重新编码设置限流值，而是每次自动化的给出适合的限流值，因此可提高业务流量限流的效率，减少人工成本。并且由于限流更加及时准确，所以进一步减少了服务器出现宕机现象，避免服务器性能不受到大量并发请求的影响，有利于集群处理能力的提升。

进一步的，作为上述实施例具体实施方式的细化和扩展，为了完整说明本实施例的具体实施过程，本实施例提供了又一种业务流量的限流方法，如图3所示，该方法包括：

301、服务端接收各个客户端上传的各个用户的历史业务操作数据和历史操作环境数据。

其中，历史业务操作数据可包括在多个端口的业务应用页面的用户点击数据(如在本地生活应用页面中点击预订餐品、旅行团、照相、酒店服务等信息)；历史操作环境数据可包括点击操作环境数据(如点击获取服务时所连接的网络(如wifi、移动网络等)、用户流量、所在位置等数据)、支付环境数据(如支付所连接的网络、所在位置等数据)等。这些历史业务操作数据和历史操作环境数据相当于用户历史获取业务服务时对应的请求数据。

在本实施例中，为了创建得到限流模型，首先需要进行业务回流，具体由各个客户端(如APP页面)采集各个用户的历史业务操作数据和历史操作环境数据然后上传至服务端，进而回流到相应的算法数据模型。

302、对接收到的历史业务操作数据和历史操作环境数据进行去重和去脏的无效数据过滤。

通过这种无效数据过滤方式可保证后续数据的质量，避免利用无效数据训练模型，可保证模型计算的准确性。

303、按照过滤后的历史业务操作数据和历史操作环境数据，创建训练集和测试集。

在本实施例中可根据实际需求按照一定比例，从过滤后的历史历史业务操作数据和历史操作环境数据中提取数据创建训练集和测试集，例如，将过滤后的历史本地生活数据等分成两份，然后一份用来创建训练集，另一份用来创建测试集。

作为一种可选方式，步骤303具体可包括：首先查询携带有该历史业务操作数据和历史操作环境数据的历史并发业务请求被集中处理时集群中服务器的负载信息；然后依据查询到的负载信息(如连接数、CPU负载、I/O负载、硬盘使用情况等)，分析集群中服务器在集中处理这些历史并发业务请求时，各自对应所能承受的历史最大业务流量，例如服务器处理这些类型的业务请求其相应的负载达到一定最大负载阈值(超过该阈值则服务器将会很可能出现异常)时，获取该服务器对应所能承受的历史最大业务流量；最后将该历史业务操作数据和历史操作环境数据作为样本特征数据，及将分析得到的历史最大业务流量作为与该样本特征数据对应的样本标签数据，创建训练集和测试集。通过这种方式可保证创建得到的训练集和测试集中的数据质量，进而可训练得到计算精确度较高的模型。

其中，创建得到的训练集和测试集中相当于保存了样本特征数据与样本标签数据之间的映射关系。

304、基于对抗神经网络算法利用训练集训练生成器，并利用测试集训练判决器，若生成器通过判决器的校验，则将通过校验的生成器确定为对抗神经网络模型。

其中，对抗神经网络模型用于计算得到最大业务流量。

在本实施例中，判决器用于校验生成器，若通过校验，则说明生成器符合计算标准，可作为对抗神经网络模型。

由于本地生活数据中可能会存在空余值的情况，因此进一步的，为了提高数据的准确度，作为一种可选方式，在基于对抗神经网络算法利用训练集训练生成器，并利用测试集训练判决器之前，本实施例方法还包括：对训练集和测试集进行稀疏矩阵处理；相应的，步骤304中模型训练过程具体可包括：基于对抗神经网络算法利用稀疏矩阵处理后的训练集训练生成器，并利用稀疏矩阵处理后的测试集训练判决器。通过这种方式补充训练集和测试集中数据的空余值，得到更多有效的训练数据。

进一步的，若生成器未通过判决器的校验，则本实施例方法还可包括：继续对生成器和判决器进行训练，每次训练后利用新判决器校验新生成器，直至新生成器通过新判决器的校验，并将通过校验的新生成器确定为对抗神经网络模型。通过这种递归训练直至训练得到符合要求的模型方式，可提高模型的计算准确性。在得到对抗神经网络模型之后，针对训练结果，工程化处理，接入业务工程***，以便实现智能流量控制。

305、在集群需要集中处理并发的业务请求时，将请求携带的各个用户业务操作数据和操作环境数据输入到对抗神经网络模型，获取集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量。

306、向集群中服务器转发这些并发的业务请求，并使得集群中服务器处理的业务流量小于或等于各自对应的最大业务流量。

通过上述这种限流方式，可减少服务器出现宕机现象，避免服务器性能不受到大量并发请求的影响，有利于集群处理能力的提升。如果确定转发业务请求后集群中服务器处理的业务流量不能保证都小于或等于各自对应的最大业务流量，则先转发部分业务请求，以此来保证这些服务器处理的业务流量都小于或等于各自对应的最大业务流量，在这部分业务请求处理完毕后，再接着转发其他请求，在转发请求过程中一直保证小于各自对应的限流值。

为了进一步说明本实施例方法的实施过程，以本地生活类的业务请求为例，给出如下应用场景，但不限于此：

例如，如图4所示，首先利用本地生活业务数据中心进行数据回流，采集在本地生活应用页面的用户点击数据和支付环境数据等，再对回流的数据进行清洗和分析，然后通过特征匹配创建模型的训练集和测试集，以便通过训练集和测试集基于对抗神经网络算法训练得到符合要求的模型，其中在训练过程中会递归经历参数校验、参数调整和模型校准等过程。在训练得到合格的对抗神经网络模型以后，针对训练结果，工程化处理，接入业务工程***，以便实现对业务***的业务流量的智能流量控制。如在中午点餐时间段，用户集中点餐，会发送大量并发请求，这些请求中携带用户流量、点餐环境、地区信息等数据，将这些数据输入到训练好的对抗神经网络模型中，该限流模型会根据过往相似数据特征得出数据分布，然后输出集群中每台服务器能承受的最大流量，进而根据当前流量数据实时调整限流值的大小，通过这种方式达到集群智能限流的目的，减少大量并发请求集中处理造成的服务器出现宕机现象。最后为了保证请求处理成功率，可将客户端发送的点餐请求优先发送给当前能承受最大流量的服务器进行处理。

本实施例提供一种基于对抗神经网络的智能限流方案来保证业务，***的可用性。针对本地生活服务的业务流量特点，使用对抗神经网络训练业务数据得到人工智能模型，以此智能的对线上***的限流过程智能调节。可满足本地生活业务流量处理的需求，与传统的限流方案相比，本方案更加灵活，能够提高业务流量限流的效率和准确性。

进一步的，作为图1所示方法的具体实现，本申请实施例提供了一种可应用于客户端侧的业务流量的限流装置，如图5所示，该装置包括：发送模块41、接收模块42。

发送模块41，可用于发送携带有用户业务操作数据和操作环境数据的业务请求。

进一步的，以使得在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述服务器各自处理的业务流量。

接收模块42，可用于接收所述业务请求对应的业务服务。

在具体的应用场景中，可选的，所述最大业务流量是通过对抗神经网络模型计算得到的；相应的，如图6所示，本装置还包括：采集模块43；

采集模块43，可用于采集用户历史的业务操作数据和操作环境数据；

所述发送模块41，还可用于上传所述采集模块采集到的用户历史的业务操作数据和操作环境数据，以便创建所述对抗神经网络模型对应的训练集和测试集。

在具体的应用场景中，如图6所示，本装置还包括：查询模块44；

查询模块44，可用于若在发送所述业务请求之后的预设时长未接收到返回的业务服务，则查询同样能够获取到所述业务服务的其他集群服务器信息；

所述发送模块41，还可用于依据所述其他集群服务器信息，重新发送所述业务请求。

在具体的应用场景中，如图6所示，本装置还包括：输出模块45；该输出模块45，可用于输出接收到的业务服务。

需要说明的是，本实施例提供的一种可应用于用户客户端侧的业务流量的限流装置所涉及各功能单元的其它相应描述，可以参考图1中的对应描述，在此不再赘述。

进一步的，作为图2和图3所示方法的具体实现，本申请实施例提供了一种可应用于服务端侧的业务流量的限流装置，如图7所示，该装置包括：接收模块51、限制模块52。

接收模块51，可用于接收并发的业务请求，所述业务请求中携带有用户业务操作数据和操作环境数据；

限制模块52，可用于在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述集群中服务器各自处理的业务流量。

在具体的应用场景中，所述限制模块52，具体可用于向所述集群中服务器转发所述并发的业务请求，并使得所述集群中服务器处理的业务流量小于或等于各自对应的所述最大业务流量。

在具体的应用场景中，如图8所示，本装置还包括：创建模块54和训练模块55；

接收模块51，还可用于接收各个客户端上传的各个用户的历史业务操作数据和历史操作环境数据；

所述创建模块54，可用于按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集；

所述训练模块55，可用于基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器，若生成器通过所述判决器的校验，则将通过校验的生成器确定为对抗神经网络模型，所述对抗神经网络模型用于计算得到所述最大业务流量。

在具体的应用场景中，所述创建模块54，具体可用于查询携带有所述历史业务操作数据和历史操作环境数据的历史并发业务请求被集中处理时集群中服务器的负载信息；依据所述负载信息，分析集群中服务器在集中处理所述历史并发业务请求时，各自对应所能承受的历史最大业务流量；将所述历史业务操作数据和历史操作环境数据作为样本特征数据，及将所述历史最大业务流量作为与所述样本特征数据对应的样本标签数据，创建所述训练集和所述测试集。

在具体的应用场景中，如图8所示，本装置还包括：计算模块56；

计算模块56，可用于将所述各个用户业务操作数据和操作环境数据输入到所述对抗神经网络模型，获取集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量。

在具体的应用场景中，所述创建模块54，还可用于对所述训练集和所述测试集进行稀疏矩阵处理；

所述训练模块55，具体可用于基于对抗神经网络算法利用稀疏矩阵处理后的训练集训练生成器，并利用稀疏矩阵处理后的测试集训练判决器。

在具体的应用场景中，所述训练模块56，还可用于若生成器未通过所述判决器的校验，则继续对生成器和判决器进行训练，每次训练后利用新判决器校验新生成器，直至新生成器通过新判决器的校验，并将通过校验的新生成器确定为所述对抗神经网络模型。

在具体的应用场景中，如图8所示，本装置还包括：过滤模块57；

所述过滤模块57，可用于对所述历史业务操作数据和历史操作环境数据进行去重和去脏的无效数据过滤。

所述创建模块54，具体可用于按照过滤后的历史业务操作数据和历史操作环境数据，创建训练集和测试集。

需要说明的是，本实施例提供的一种可应用于服务端侧的业务流量的限流装置所涉及各功能单元的其它相应描述，可以参考图2和图3中的对应描述，在此不再赘述。

基于上述如图1所示方法，相应的，本申请实施例还提供了一种存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述如图1所示的可应用于用户客户端侧的业务流量的限流方法。基于上述如图2和图3所示方法，本申请实施例还提供了另一种存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述如图2和图3所示的可应用于服务端侧的业务流量的限流方法。

基于这样的理解，本申请的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施场景的方法。

基于上述如图1所示的方法，以及图5和图6所示的虚拟装置实施例，为了实现上述目的，本申请实施例还提供了一种客户端设备，具体可以为个人计算机、平板电脑、智能手机、智能手表、智能手环、或其他网络设备等，该客户端设备包括存储介质和处理器；存储介质，用于存储计算机程序；处理器，用于执行计算机程序以实现上述如图1所示的可应用于用户客户端侧的业务流量的限流方法。

基于上述如图2和图3所示的方法，以及图7和图8所示的虚拟装置实施例，为了实现上述目的，本申请实施例还提供了一种服务器设备，具体可以为网关设备、服务器、或其他网络设备等。该设备包括存储介质和处理器；存储介质，用于存储计算机程序；处理器，用于执行计算机程序以实现上述如图2和图3所示的可应用于服务端侧的业务流量的限流方法。

可选的，上述两种实体设备都还可以包括用户接口、网络接口、摄像头、射频(Radio Frequency，RF)电路，传感器、音频电路、WI-FI模块等等。用户接口可以包括显示屏(Display)、输入单元比如键盘(Keyboard)等，可选用户接口还可以包括USB接口、读卡器接口等。网络接口可选的可以包括标准的有线接口、无线接口(如WI-FI接口)等。

本领域技术人员可以理解，本实施例提供的一种客户端设备和服务器设备的实体设备结构并不构成对这两种实体设备的限定，可以包括更多或更少的部件，或者组合某些部件，或者不同的部件布置。

存储介质中还可以包括操作***、网络通信模块。操作***是管理上述两个实体设备硬件和软件资源的程序，支持信息处理程序以及其它软件和/或程序的运行。网络通信模块用于实现存储介质内部各组件之间的通信，以及与信息处理实体设备中其它硬件和软件之间通信。

基于上述内容，进一步的，本申请实施例还提供了一种业务流量的限流***，如图9所示，该***包括服务器设备61、客户端设备62；

其中，客户端设备62可用于执行如图1所示的方法，服务器设备61可用于执行如图2和图3所示的方法。

客户端设备62，可用于向服务器设备61发送业务请求，业务请求中携带有用户业务操作数据和操作环境数据；

服务器设备61，可用于接收各个客户端设备62并发的业务请求；在集群需要集中处理并发的业务请求时，根据这些业务请求中携带的各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述集群中服务器各自处理的业务流量。

客户端设备62，还可用于接收返回的与业务请求对应的业务服务。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到本申请可以借助软件加必要的通用硬件平台的方式来实现，也可以通过硬件实现。通过应用本申请的技术方案，提供一种基于对抗神经网络的智能限流方案来保证业务，***的可用性。针对业务服务的业务流量特点，使用对抗神经网络训练业务数据得到人工智能模型，以此智能的对线上***的限流过程智能调节。可满足业务流量处理的需求，与传统的限流方案相比，本方案更加灵活，能够提高业务流量限流的效率和准确性。

本领域技术人员可以理解附图只是一个优选实施场景的示意图，附图中的模块或流程并不一定是实施本申请所必须的。本领域技术人员可以理解实施场景中的装置中的模块可以按照实施场景描述进行分布于实施场景的装置中，也可以进行相应变化位于不同于本实施场景的一个或多个装置中。上述实施场景的模块可以合并为一个模块，也可以进一步拆分成多个子模块。

上述本申请序号仅仅为了描述，不代表实施场景的优劣。以上公开的仅为本申请的几个具体实施场景，但是，本申请并非局限于此，任何本领域的技术人员能思之的变化都应落入本申请的保护范围。

Claims (29)

1.一种业务流量的限流方法，其特征在于，包括：

发送携带有用户业务操作数据和操作环境数据的业务请求，以使得在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述服务器各自处理的业务流量，所述操作环境数据中包括用户的所在位置；

接收所述业务请求对应的业务服务。

2.根据权利要求1所述的方法，其特征在于，所述最大业务流量是通过对抗神经网络模型计算得到的，所述方法还包括：

采集用户历史的业务操作数据和操作环境数据并上传，以便创建所述对抗神经网络模型对应的训练集和测试集。

3.根据权利要求1所述的方法，其特征在于，若在发送所述业务请求之后的预设时长未接收到返回的业务服务，则所述方法还包括：

查询同样能够获取到所述业务服务的其他集群服务器信息；

依据所述其他集群服务器信息，重新发送所述业务请求。

4.根据权利要求1所述的方法，其特征在于，在接收所述业务请求对应的业务服务之后，所述方法还包括：

输出接收到的业务服务。

5.一种业务流量的限流方法，其特征在于，包括：

接收并发的业务请求，所述业务请求中携带有用户业务操作数据和操作环境数据，所述操作环境数据中包括用户的所在位置；

在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述集群中服务器各自处理的业务流量。

6.根据权利要求5所述的方法，其特征在于，参照所述最大业务流量，限制所述集群中服务器各自处理的业务流量，具体包括：

向所述集群中服务器转发所述并发的业务请求，并使得所述集群中服务器处理的业务流量小于或等于各自对应的所述最大业务流量。

7.根据权利要求5所述的方法，其特征在于，所述方法还包括：

接收各个客户端上传的各个用户的历史业务操作数据和历史操作环境数据；

按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集；

基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器，若生成器通过所述判决器的校验，则将通过校验的生成器确定为对抗神经网络模型，所述对抗神经网络模型用于计算得到所述最大业务流量。

8.根据权利要求7所述的方法，其特征在于，所述按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集，具体包括：

查询携带有所述历史业务操作数据和历史操作环境数据的历史并发业务请求被集中处理时集群中服务器的负载信息；

依据所述负载信息，分析集群中服务器在集中处理所述历史并发业务请求时，各自对应所能承受的历史最大业务流量；

将所述历史业务操作数据和历史操作环境数据作为样本特征数据，及将所述历史最大业务流量作为与所述样本特征数据对应的样本标签数据，创建所述训练集和所述测试集。

9.根据权利要求8所述的方法，其特征在于，用于限制集群中服务器业务流量处理的所述最大业务流量的计算过程，具体包括：

将所述各个用户业务操作数据和操作环境数据输入到所述对抗神经网络模型，获取集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量。

10.根据权利要求7所述的方法，其特征在于，在所述基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器之前，所述方法还包括：

对所述训练集和所述测试集进行稀疏矩阵处理；

所述基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器，具体包括：

基于对抗神经网络算法利用稀疏矩阵处理后的训练集训练生成器，并利用稀疏矩阵处理后的测试集训练判决器。

11.根据权利要求7所述的方法，其特征在于，若生成器未通过所述判决器的校验，则所述方法还包括：

继续对生成器和判决器进行训练，每次训练后利用新判决器校验新生成器，直至新生成器通过新判决器的校验，并将通过校验的新生成器确定为所述对抗神经网络模型。

12.根据权利要求7所述的方法，其特征在于，在所述按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集之前，所述方法还包括：

对所述历史业务操作数据和历史操作环境数据进行去重和去脏的无效数据过滤；

所述按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集，具体包括：

按照过滤后的历史业务操作数据和历史操作环境数据，创建训练集和测试集。

13.一种业务流量的限流装置，其特征在于，包括：

发送模块，用于发送携带有用户业务操作数据和操作环境数据的业务请求，以使得在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述服务器各自处理的业务流量，所述操作环境数据中包括用户的所在位置；

接收模块，用于接收所述业务请求对应的业务服务。

14.根据权利要求13所述的装置，其特征在于，所述最大业务流量是通过对抗神经网络模型计算得到的，所述装置还包括：

采集模块，用于采集用户历史的业务操作数据和操作环境数据；

所述发送模块，还用于上传所述采集模块采集到的用户历史的业务操作数据和操作环境数据，以便创建所述对抗神经网络模型对应的训练集和测试集。

15.根据权利要求13所述的装置，其特征在于，所述装置还包括：查询模块；

所述查询模块，用于若在发送所述业务请求之后的预设时长未接收到返回的业务服务，则查询同样能够获取到所述业务服务的其他集群服务器信息；

所述发送模块，还用于依据所述其他集群服务器信息，重新发送所述业务请求。

16.根据权利要求13所述的装置，其特征在于，所述装置还包括：

输出模块，用于输出接收到的业务服务。

17.一种业务流量的限流装置，其特征在于，包括：

接收模块，用于接收并发的业务请求，所述业务请求中携带有用户业务操作数据和操作环境数据；

限制模块，用于在集群需要集中处理并发的业务请求时，根据各个用户业务操作数据和操作环境数据，参照所述集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量，限制所述集群中服务器各自处理的业务流量，所述操作环境数据中包括用户的所在位置。

18.根据权利要求17所述的装置，其特征在于，

所述限制模块，具体用于向所述集群中服务器转发所述并发的业务请求，并使得所述集群中服务器处理的业务流量小于或等于各自对应的所述最大业务流量。

19.根据权利要求17所述的装置，其特征在于，所述装置还包括：创建模块和训练模块；

接收模块，还用于接收各个客户端上传的各个用户的历史业务操作数据和历史操作环境数据；

所述创建模块，用于按照所述历史业务操作数据和历史操作环境数据，创建训练集和测试集；

所述训练模块，用于基于对抗神经网络算法利用所述训练集训练生成器，并利用所述测试集训练判决器，若生成器通过所述判决器的校验，则将通过校验的生成器确定为对抗神经网络模型，所述对抗神经网络模型用于计算得到所述最大业务流量。

20.根据权利要求19所述的装置，其特征在于，

所述创建模块，具体用于查询携带有所述历史业务操作数据和历史操作环境数据的历史并发业务请求被集中处理时集群中服务器的负载信息；

依据所述负载信息，分析集群中服务器在集中处理所述历史并发业务请求时，各自对应所能承受的历史最大业务流量；

将所述历史业务操作数据和历史操作环境数据作为样本特征数据，及将所述历史最大业务流量作为与所述样本特征数据对应的样本标签数据，创建所述训练集和所述测试集。

21.根据权利要求20所述的装置，其特征在于，所述装置还包括：

计算模块，用于将所述各个用户业务操作数据和操作环境数据输入到所述对抗神经网络模型，获取集群中服务器处理历史相似数据时各自对应所能承受的最大业务流量。

22.根据权利要求19所述的装置，其特征在于，

所述创建模块，还用于对所述训练集和所述测试集进行稀疏矩阵处理；

所述训练模块，具体用于基于对抗神经网络算法利用稀疏矩阵处理后的训练集训练生成器，并利用稀疏矩阵处理后的测试集训练判决器。

23.根据权利要求19所述的装置，其特征在于，

所述训练模块，还用于若生成器未通过所述判决器的校验，则继续对生成器和判决器进行训练，每次训练后利用新判决器校验新生成器，直至新生成器通过新判决器的校验，并将通过校验的新生成器确定为所述对抗神经网络模型。

24.根据权利要求19所述的装置，其特征在于，所述装置还包括：

过滤模块，用于对所述历史业务操作数据和历史操作环境数据进行去重和去脏的无效数据过滤；

所述创建模块，具体用于按照过滤后的历史业务操作数据和历史操作环境数据，创建训练集和测试集。

25.一种存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1至4中任一项所述的业务流量的限流方法。

26.一种客户端设备，包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至4中任一项所述的业务流量的限流方法。

27.一种存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求5至12中任一项所述的业务流量的限流方法。

28.一种服务器设备，包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求5至12中任一项所述的业务流量的限流方法。

29.一种业务流量的限流***，其特征在于，包括：如权利要求26所述的客户端设备和如权利要求28所述的服务器设备。

Images