CN110971470A - 支持权重的私有云服务集群的限流方法及*** - Google Patents

Abstract

本发明公开一种支持权重的私有云服务集群限流方法及***，该方法包括：客户端向应用服务器发送语音服务请求。应用服务器在收到语音服务请求后，向语音服务私有云端发送流量授权请求。语音服务私有云端获取流量授权响应信息。语音服务私有云端将流量授权响应信息发送到应用服务器。应用服务器向客户端返回语音服务响应。客户端获得流量授权。本发明从***架构层面规范了服务限流及其他私有云授权的流程和标准。于现在流行的微服务架构是有利的，业务的横向扩展并不会导致限流或其他授权的复杂化。可方便的对限流或其他授权方案进行拓展。在限流或鉴权的同时保证服务。

Description

支持权重的私有云服务集群的限流方法及***

技术领域

本发明属于互联网技术领域，尤其涉及支持权重的私有云服务集群限流方法及***。

背景技术

限流是对***按照预设的规则进行流量限制的一种机制，它确保接收的流量不会超过***所能承载的上限，以保证***的可用性，即限流的主要目的是保证***的高可用。而本专利的限流方案，是为私有云服务提供商，提供一种根据收费不同而提供不同质量(QoS)的服务的方案，即本技术方案的目标是实现对服务质量的控制。

目前市面上已有的、与本专利最相似的技术，包括以下几种：1)限制服务部署数量的技术。即限制服务部署的服务器数量，对每一台服务器进行单独授权，从而限制部署数量，并利用硬件必然存在的性能上限来实现对服务质量的限制。2)限制服务并发数量的技术。即通过限制服务同一时间能够处理的服务请求数量，实现对服务质量的限制。3)限制服务事务数量的技术。即通过限制服务单位时间内能够处理的业务逻辑的数量，实现对服务质量的限制。

限制服务部署数量的技术该类技术一般通过将服务器的硬件信息与授权信息进行绑定来实现。例如，授权前，获取服务器的网卡MAC地址、硬盘的序列号等理论上可以构成服务器唯一标识的信息。授权时，基于服务器的唯一标识信息生成授权证书文件。授权后，由业务服务启动时对服务器硬件信息与授权证书文件进行鉴权，如果鉴权通过则正常运行，否则将异常退出。

单台服务器的硬件性能必然有其上限，例如硬盘的读写速度、网卡的吞吐量、处理器的运算速度等。如果要提供更高质量的服务，如更快的响应速度、更高的并发量，就必然需要增加服务器和服务的部署数量。因此，限制服务部署数量，也就间接的限制了服务质量。

限制服务并发数量的技术中限制服务并发数量，就是通过限制服务同一时间能够处理的请求数量来限制服务质量。例如，用户向私有云服务提供商购买了并发数为50的授权，当服务的并发数超过50时，服务可拒绝访问，或者将超过的请求进行排队处理，以保持服务的并发数不超过50。具体的可以通过限制web服务器的连接数、服务线程池大小等方法实现。

限制服务事务数量(TPS)的技术中限制服务事务数量，就是通过限制服务单位时间内能够处理的业务逻辑的数量来限制服务质量。例如，用户向私有云服务提供商购买了事务数为50的授权，则表示用户可以在1秒内最多向服务发起50次请求。限制服务事务数量的技术，比较有代表性的具体技术包括漏桶、令牌桶等。

限制服务部署数量的技术缺陷在于，其可行性依赖服务部署的服务器硬件信息的唯一性。其缺陷主要有以下几点：首先，硬件不能更换。一旦有提供了唯一标识信息的硬件损坏或更换，授权就会失效，需要重新授权。其次，很难兼容虚拟化技术。以Docker为代表的容器技术蓬勃发展，应用服务逐渐被部署在虚拟化的容器中进行管理，应用服务很难直接获取或绑定宿主机的硬件信息。特别的，如果使用的是云服务提供商提供的服务器，其本身就是虚拟化的，通过绑定硬件信息进行限制的方案就无计可施了。最后，无法实现精细化的服务质量控制。服务质量的控制依赖于服务器本身的性能，服务器硬件本身的优劣对服务质量的影响很大。

限制服务并发数量的技术的缺陷在于，限制服务并发数量的技术在实现上比较简单，但是在分布式服务集群中使用该类技术会导致整体架构变得复杂，且很难得到一个可以充分利用服务器性能和购买的授权的方案。

具体的，如用户购买了1000的并发量，需要部署在处在不同地域的5台性能良莠不齐的服务器上。此时，如何合理的将这1000的并发量分配给这五台服务器就是一个需要考虑的问题了。例如，需要根据不同服务器的请求量、不同服务器的所能承受的并发量等，这些因素都会导致能难得到一个最佳的方案。同时，例如请求量是一个变化的值，如果某台服务器接收到了超过其授权并发数的请求，而此时其他服务器又处于有空闲授权时，就会导致购买的授权并发数使用不充分的问题。综述，即限制服务并发数量的技术，可以很好地实现单节点服务的限流，但不适合分布式集群服务的限流。

限制服务事务数量的技术与限制服务并发数量的技术存在同样的问题，即不适合目前被广泛应用的分布式集群服务的限流。另外，限制服务事务数量的技术还存在无法区分事务类型的问题。例如，有的事务简单而高效，而有的需要消耗大量资源。有的基础事务会被大量频繁执行，而有的则很少被执行却非常重要。不区分事务类型，同样会导致服务器资源和授权使用不充分的问题。

由此可知，限制服务部署数量的技术中现必须与物理硬件绑定。限制服务并发数量的技术中限制服务并发数量，其限制最终依赖个体服务的限制，即服务只知道单节点服务的并发数。当需要应用到集群中时，因各节点之间这部分信息并不互通，所以无法实现灵活的并发限制。限制服务事务数量的技术中除和限制服务并发数量的技术相同的原因外，无法对不用类型的事务区分处理，是导致该技术缺陷的主要原因。

针对上述问题，通常会使用以下几种方法来解决：1)对于限制服务部署数量的技术，一般通过使用外部加密设备的方法来解决，例如使用“加密狗”等比较成熟的商业解决方案。2)对于限制服务并发数量的技术和限制服务事务数量的技术，可以通过增加一个服务，专门用于动态计算和分配授权数量，以解决其不适合分布式集群服务的问题。该方案要求私有云服务支持动态调整并发或事务数。

现有技术中心认为的业务逻辑片段或组件，传统的限流技术在无需精细化的控制的场景下仍能够很好的满足业务，且其实现简单。微服务架构技术的流行时间并不算久，许多技术还处在由集中式服务架构向分布式微服务架构的过渡期。同时，私有云服务往往提供的是单纯的某项服务，或多项服务需要整套才能正常运行，而不是可以根据需求进行动态组合的多项服务。

发明内容

本发明实施例提供一种支持权重的私有云服务集群限流方法及***，用于至少解决上述技术问题之一。

第一方面，本发明实施例提供一种支持权重的私有云服务集群的限流方法，该方法实现在具有应用客户端、应用服务器及语音服务私有云端的架构中。客户端与应用服务器能够双向通讯、应用服务器与语音服务私有云端能够双向通讯。客户端配置业务服务、应用服务器配置语音服务、语音服务私有云端配置授权服务。

支持权重的私有云服务集群限流方法包括：

步骤S101，客户端向应用服务器发送语音服务请求。

步骤S102，应用服务器在收到语音服务请求后，应用服务器向语音服务私有云端发送流量授权请求。

步骤S103，语音服务私有云端通过本地的可分配流量及令牌桶算法获取流量授权响应信息。语音服务私有云端将流量授权响应信息发送到应用服务器。

步骤S104，应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应。应用服务器向客户端返回语音服务响应。

步骤S105，客户端接收语音服务响应后，获得流量授权。

基于步骤S101中包括：客户端收到语音业务服务请求后，若在本地对语音业务服务请求逻辑处理后获取语音服务信息，则向应用服务器发送语音服务请求。

基于步骤S102中的流量授权请求中包括：语音服务名称、请求消耗的授权流量及随机暗号。

基于步骤S103中包括，判断语音服务私有云端通过本地的可分配流量、令牌桶算法及流量授权请求中的请求消耗的授权流量是否能获取流量授权响应信息。若是，则语音服务私有云端将流量授权响应信息发送到应用服务器。若否，则生气且返回异常相应信息。

基于步骤S103中流量授权响应信息中包括：设定约定算法及密钥信息。步骤S104中还包括，应用服务器根据流量授权响应中的设定约定算法及密钥信息响应验证流量授权响应。若验证通过，则应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应，若未验证通过，则生成验证不通过信息。

第二方面，本发明实施例提供一种支持权重的私有云服务集群的限流***，该***实现在具有应用客户端、应用服务器及语音服务私有云端的架构中。客户端与应用服务器能够双向通讯、应用服务器与语音服务私有云端能够双向通讯。客户端配置业务服务、应用服务器配置语音服务、语音服务私有云端配置授权服务。

支持权重的私有云服务集群的限流***包括：

客户端，配置为向应用服务器发送语音服务请求。

应用服务器，配置为在收到语音服务请求后，应用服务器向语音服务私有云端发送流量授权请求。

语音服务私有云端，配置为通过本地的可分配流量及令牌桶算法获取流量授权响应信息。语音服务私有云端将流量授权响应信息发送到应用服务器。

应用服务器，配置为根据流量授权响应及语音服务请求的信息生成语音服务响应。应用服务器向客户端返回语音服务响应。

客户端，配置为接收语音服务响应后，获得流量授权。

在一种优选的实施方式中，客户端还配置为收到语音业务服务请求后，若在本地对语音业务服务请求逻辑处理后获取语音服务信息，则向应用服务器发送语音服务请求。

在一种优选的实施方式中，流量授权请求中包括：语音服务名称、请求消耗的授权流量及随机暗号。

在一种优选的实施方式中，语音服务私有云端还配置为，判断语音服务私有云端通过本地的可分配流量、令牌桶算法及流量授权请求中的请求消耗的授权流量是否能获取流量授权响应信息。若是，则语音服务私有云端将流量授权响应信息发送到应用服务器。若否，则生气且返回异常相应信息。

在一种优选的实施方式中，流量授权响应信息中包括：设定约定算法及密钥信息。应用服务器，还配置为根据流量授权响应中的设定约定算法及密钥信息响应验证流量授权响应。若验证通过，则应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应，若未验证通过，则生成验证不通过信息。

第三方面，提供一种电子设备，其包括：至少一个处理器，以及与至少一个处理器通信连接的存储器，其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行本发明任一实施例的方法的步骤。

第四方面，本发明实施例还提供一种计算机程序产品，计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序，计算机程序包括程序指令，当程序指令被计算机执行时，使计算机执行本发明任一实施例的方法的步骤。

本发明底层依赖并发限制和事务限制的方式来实现，并不依赖硬件，所以避开了限制服务部署数量的技术具有缺陷。本发明将限流的计算和执行分离，有单独的授权服务计算授权数量，再由各个服务节点去执行限制，解决了限制服务并发数量的技术和限制服务事务数量的技术不适合分布式服务集群的缺陷。

同时，本发明中将授权的并发数量或事务数量抽象为授权的资源量，通过支持为不同的服务或业务指定其所需授权量(权重)，来区分不同的请求。以解决因不同请求对资源的消耗不同导致的不能精细化限制的缺陷。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明一实施例提供的一种支持权重的私有云服务集群限流方法的流程图；

图2为本发明一实施例提供的一种支持权重的私有云服务集群限流方法的架构图；

图3为本发明一实施例提供的一种支持权重的私有云服务集群限流方法的时序图；

图4为本发明一实施例提供的一种支持权重的私有云服务集群限流方法的数据校验流程图；

图5为本发明一实施例提供的一种支持权重的私有云服务集群限流***的组成图；

图6为本发明一实施例提供的电子设备的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

下面，先介绍本申请的实施方式，之后将用实验数据证实本申请的方案与现有技术相比有什么不同，能实现什么有益效果。

请参考图1，其示出了本申请的支持权重的私有云服务集群限流方法一实施例的流程图

如图1所示，本发明中的一种支持权重的私有云服务集群的限流方法，该方法实现在具有应用客户端、应用服务器及语音服务私有云端的架构中。客户端与应用服务器能够双向通讯、应用服务器与语音服务私有云端能够双向通讯。客户端配置业务服务、应用服务器配置语音服务、语音服务私有云端配置授权服务。

支持权重的私有云服务集群限流方法包括：

步骤S101，向应用服务器发送语音服务请求。

本步骤中，客户端向应用服务器发送语音服务请求。

步骤S102，向语音服务私有云端发送流量授权请求，

本步骤中，应用服务器在收到语音服务请求后，应用服务器向语音服务私有云端发送流量授权请求。

步骤S103，发送流量相应。

本步骤中，语音服务私有云端通过本地的可分配流量及令牌桶算法获取流量授权响应信息。语音服务私有云端将流量授权响应信息发送到应用服务器。

步骤S104，返回语音服务响应。

本步骤中，应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应。应用服务器向客户端返回语音服务响应。

步骤S105，获得流量授权。

本步骤中，客户端接收语音服务响应后，获得流量授权。

在一种优选的实施方式中，步骤S101中包括：客户端收到语音业务服务请求后，若在本地对语音业务服务请求逻辑处理后获取语音服务信息，则向应用服务器发送语音服务请求。

在一种优选的实施方式中，步骤S102中的流量授权请求中包括：语音服务名称、请求消耗的授权流量及随机暗号。

在一种优选的实施方式中，步骤S103中包括，判断语音服务私有云端通过本地的可分配流量、令牌桶算法及流量授权请求中的请求消耗的授权流量是否能获取流量授权响应信息。若是，则语音服务私有云端将流量授权响应信息发送到应用服务器。若否，则生气且返回异常相应信息。

在一种优选的实施方式中，步骤S103中流量授权响应信息中包括：设定约定算法及密钥信息。步骤S104中还包括，应用服务器根据流量授权响应中的设定约定算法及密钥信息响应验证流量授权响应。若验证通过，则应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应，若未验证通过，则生成验证不通过信息。

在本发明的一种实施方式中，为更详细的解释本发明，本部分从架构、时序和流程三个方面对本发明进行说明。

3.1架构

本方案时序流程如图2所示，以下依据架构图进行解释：

为方便说明，本部分采用较具体的案例对本发明进行说明。本部分的背景为某开发办公软件的公司A，想在其开发的办公软件中集成语音服务。因为业务和技术原因其并不具备单独研发和部署语音服务的能力，且其不希望将数据上传到公有语音服务上，所以向具有提供语音服务的公司B购买了语音私有云服务。通过沟通和谈判，双方在合同中确定根据支撑的流量来确定收费，此时公司B就需要实现私有云服务集群限流方案。

在本发明的方案中，整体结构由3部分组成，包括应用客户端、应用服务器及语音服务私有云(或其他私有云服务)。这三部分都部署在公司A的工作环境中，其中应用客户端、应用服务器有公司A自己开发和维护，当其业务请求中需要使用到语音服务时，则向公司B提供的语音私有云服务发起请求。

公司B的语音服务私有云中包括两类服务，一种是业务服务，如提供语音识别服务的服务、提供语音合成服务的服务等；另一种是授权服务，该服务负责向各业务服务进行授权。

3.2时序

本方案时序流程如图3所示，以下依据时序图进行解释：

1)业务服务发起语音服务请求。业务服务在收到请求时，进行自己的业务逻辑处理，当需要语音服务时，向云因服务发起请求；

2)语音服务发起流量授权请求。语音服务接收到语音服务请求后并不会立即进行响应，而是向授权服务发起流量授权请求。请求时的数据格式如下：

请求中的参数说明如下：

serviceName：服务名。即需要使用的语音服务的名称，如asr、tts等；

weight：权重。即该请求需要消耗的授权量；

challenge：随机暗号。该字段为随机字符串，语音服务在接收到授权服务的响应后将基于该字段进行检查，以确认授权服务不是伪造的。

3)授权服务进行流量授权处理。授权服务根据购买的授权量维护一个“令牌桶”的数据结构，当接收到流量授权请求后，就从“桶”中获取weight字段指定数量的令牌数，然后得出获取结果。

4)授权服务进行流量授权响应。如果获取失败则返回异常信息；如果获取成功则返回如下格式的响应信息：

code为校验结果编号，当为0时则表示校验通过。message为校验结果信息，当校验出现异常，该字段会包含相关异常信息。data字段为对请求中的challenge字段和weight字段的处理结果。data的值由私有云服务内部约定算法和密钥信息，如按如下定义：

data＝md5(weight+secretSalt+challenge)

在该定义中，使用md5作为随机暗号的处理算法，同时约定了一个需要保密的secretSalt字段，用于混淆。

5)语音服务进行授权响应验证。接收到授权服务返回的流量授权响应后，语音服务对响应进行验证，以防止响应是伪造的。其校验过程就是使用与授权服务使用相同的算法计算得到data，并与授权服务返回的data进行比较，检查是否一致，如果一致则表示校验通过，否则不通过。

6)语音服务进行语音服务响应。语音服务根据授权响应以及授权响应校验结果，进行语音服务响应。无异常响应且校验通过则向业务服务提供语音服务，否则返回异常信息。

3.3流程

本发明涉及的流程如图4所示，下面将对流程进行描述：

1)业务服务发起语音服务请求；

2)语音服务发起流量授权请求；

3)授权服务进行流量授权处理。如果授权失败则抛出异常，并结束。如果授权成功则继续；

4)授权服务进行流量授权响应；

5)语音服务进行授权响应验证；如果验证失败则抛出异常，并结束。如果验证成功则继续；

6)语音服务进行语音服务响应。

上述方案中的英文的释义如下：

英文缩写

QoS：Quality of Service，服务质量

MAC：Media Access Control Address,物理地址

TPS：Transaction Per Second，每秒事务处理量

ASR:Automatic Speech Recognition，自动语音识别技术

TTS：Text To Speech，语音合成技术

NLU：Natural Language Understanding，自然语言理解

各具体的业务服务的外层，增加一个特殊的网关，该网关单节点部署，所有的请求均需要先通过该网关。此时限制该网关的并发数或业务数就可以达到限流的目的。具体的业务服务不需要任何修改。具体服务节点可以灵活的缩容或者扩容，而不会对限流产生影响。本方案的效果包括以下几个方面：

从***架构层面规范了服务限流及其他私有云授权的流程和标准。有了规范和标准，将有利于增加新的业务，这对于现在流行的微服务架构是有利的，业务的横向扩展并不会导致限流或其他授权的复杂化；

可方便的对限流或其他授权方案进行拓展。如果需要调整限流算法，或者需要增加其他的授权方案，一般都只需要对限流授权服务进行调整即可。

在限流或鉴权的同时保证服务。因为进行限流的鉴权服务处在具体的业务服务之后，所以一旦鉴权服务发生异常，业务服务可以临时做降级处理，不再依赖鉴权服务。此时可以发出警告，提醒服务管理员恢复服务，或在超期后停止服务。

请参考图5，其示出了本发明一实施例提供的一种支持权重的私有云服务集群的限流***，该***实现在具有应用客户端101、应用服务器102及语音服务私有云端103的架构中。客户端与应用服务器能够双向通讯、应用服务器与语音服务私有云端能够双向通讯。客户端配置业务服务、应用服务器配置语音服务、语音服务私有云端配置授权服务。

支持权重的私有云服务集群的限流***包括：

客户端101，配置为向应用服务器发送语音服务请求。

应用服务器102，配置为在收到语音服务请求后，应用服务器向语音服务私有云端发送流量授权请求。

语音服务私有云端103，配置为通过本地的可分配流量及令牌桶算法获取流量授权响应信息。语音服务私有云端将流量授权响应信息发送到应用服务器。

应用服务器，配置为根据流量授权响应及语音服务请求的信息生成语音服务响应。应用服务器向客户端返回语音服务响应。

客户端，配置为接收语音服务响应后，获得流量授权。

在一种优选的实施方式中，客户端还配置为收到语音业务服务请求后，若在本地对语音业务服务请求逻辑处理后获取语音服务信息，则向应用服务器发送语音服务请求。

在一种优选的实施方式中，流量授权请求中包括：语音服务名称、请求消耗的授权流量及随机暗号。

在一种优选的实施方式中，语音服务私有云端还配置为，判断语音服务私有云端通过本地的可分配流量、令牌桶算法及流量授权请求中的请求消耗的授权流量是否能获取流量授权响应信息。若是，则语音服务私有云端将流量授权响应信息发送到应用服务器。若否，则生气且返回异常相应信息。

在一种优选的实施方式中，流量授权响应信息中包括：设定约定算法及密钥信息。应用服务器，还配置为根据流量授权响应中的设定约定算法及密钥信息响应验证流量授权响应。若验证通过，则应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应，若未验证通过，则生成验证不通过信息。。

在另一些实施例中，本发明实施例还提供了一种非易失性计算机存储介质，计算机存储介质存储有计算机可执行指令，该计算机可执行指令可执行上述任意方法实施例中的语音信号处理和使用方法；

作为一种实施方式，本发明的非易失性计算机存储介质存储有计算机可执行指令，计算机可执行指令设置为：

客户端向应用服务器发送语音服务请求。

应用服务器在收到语音服务请求后，应用服务器向语音服务私有云端发送流量授权请求。

语音服务私有云端通过本地的可分配流量及令牌桶算法获取流量授权响应信息。语音服务私有云端将流量授权响应信息发送到应用服务器。

应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应。应用服务器向客户端返回语音服务响应。

客户端接收语音服务响应后，获得流量授权。

基于客户端收到语音业务服务请求后，若在本地对语音业务服务请求逻辑处理后获取语音服务信息，则向应用服务器发送语音服务请求。

基于流量授权请求中包括：语音服务名称、请求消耗的授权流量及随机暗号。

基于判断语音服务私有云端通过本地的可分配流量、令牌桶算法及流量授权请求中的请求消耗的授权流量是否能获取流量授权响应信息。若是，则语音服务私有云端将流量授权响应信息发送到应用服务器。若否，则生气且返回异常相应信息。

基于流量授权响应信息中包括：设定约定算法及密钥信息。步骤S104中还包括，应用服务器根据流量授权响应中的设定约定算法及密钥信息响应验证流量授权响应。若验证通过，则应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应，若未验证通过，则生成验证不通过信息。

作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块，如本发明实施例中的支持权重的私有云服务集群限流方法对应的程序指令/模块。一个或者多个程序指令存储在非易失性计算机可读存储介质中，当被处理器执行时，执行上述任意方法实施例中的支持权重的私有云服务集群限流方法。

非易失性计算机可读存储介质可以包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需要的应用程序；存储数据区可存储根据支持权重的私有云服务集群限流***的使用所创建的数据等。此外，非易失性计算机可读存储介质可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，非易失性计算机可读存储介质可选包括相对于处理器远程设置的存储器，这些远程存储器可以通过网络连接至支持权重的私有云服务集群限流***。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

本发明实施例还提供一种计算机程序产品，计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序，计算机程序包括程序指令，当程序指令被计算机执行时，使计算机执行上述任一项支持权重的私有云服务集群限流方法。

图6是本发明实施例提供的电子设备的结构示意图，如图6所示，该设备包括：一个或多个处理器610以及存储器620，图6中以一个处理器610为例。支持权重的私有云服务集群限流方法的设备还可以包括：输入装置630和输出装置640。处理器610、存储器620、输入装置630和输出装置640可以通过总线或者其他方式连接，图6中以通过总线连接为例。存储器620为上述的非易失性计算机可读存储介质。处理器610通过运行存储在存储器620中的非易失性软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例支持权重的私有云服务集群限流方法。输入装置630可接收输入的数字或字符信息，以及产生与支持权重的私有云服务集群限流***的用户设置以及功能控制有关的键信号输入。输出装置640可包括显示屏等显示设备。

上述产品可执行本发明实施例所提供的方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明实施例所提供的方法。

作为一种实施方式，上述电子设备可以应用于智能语音对话平台中，包括：至少一个处理器；以及，与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够：

客户端向应用服务器发送语音服务请求。

应用服务器在收到语音服务请求后，应用服务器向语音服务私有云端发送流量授权请求。

语音服务私有云端通过本地的可分配流量及令牌桶算法获取流量授权响应信息。语音服务私有云端将流量授权响应信息发送到应用服务器。

应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应。应用服务器向客户端返回语音服务响应。

客户端接收语音服务响应后，获得流量授权。

基于客户端收到语音业务服务请求后，若在本地对语音业务服务请求逻辑处理后获取语音服务信息，则向应用服务器发送语音服务请求。

基于流量授权请求中包括：语音服务名称、请求消耗的授权流量及随机暗号。

基于判断语音服务私有云端通过本地的可分配流量、令牌桶算法及流量授权请求中的请求消耗的授权流量是否能获取流量授权响应信息。若是，则语音服务私有云端将流量授权响应信息发送到应用服务器。若否，则生气且返回异常相应信息。

基于流量授权响应信息中包括：设定约定算法及密钥信息。步骤S104中还包括，应用服务器根据流量授权响应中的设定约定算法及密钥信息响应验证流量授权响应。若验证通过，则应用服务器根据流量授权响应及语音服务请求的信息生成语音服务响应，若未验证通过，则生成验证不通过信息。

本申请实施例的电子设备以多种形式存在，包括但不限于：

(1)移动通信设备：这类设备的特点是具备移动通信功能，并且以提供话音、数据通信为主要目标。这类终端包括:智能手机(例如iPhone)、多媒体手机、功能性手机，以及低端手机等。

(2)超移动个人计算机设备：这类设备属于个人计算机的范畴，有计算和处理功能，一般也具备移动上网特性。这类终端包括：PDA、MID和UMPC设备等，例如iPad。

(3)便携式娱乐设备：这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器(例如iPod)，掌上游戏机，电子书，以及智能玩具和便携式车载导航设备。

(4)服务器:提供计算服务的设备，服务器的构成包括处理器、硬盘、内存、***总线等，服务器和通用的计算机架构类似，但是由于需要提供高可靠的服务，因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。

(5)其他具有数据交互功能的电子装置。

以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分的方法。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种支持权重的私有云服务集群的限流方法，该方法实现在具有应用客户端、应用服务器及语音服务私有云端的架构中；所述客户端与所述应用服务器能够双向通讯、所述应用服务器与所述语音服务私有云端能够双向通讯；所述客户端配置业务服务、所述应用服务器配置语音服务、所述语音服务私有云端配置授权服务；

所述支持权重的私有云服务集群限流方法包括：

步骤S101，所述客户端向所述应用服务器发送语音服务请求；

步骤S102，所述应用服务器在收到所述语音服务请求后，所述应用服务器向所述语音服务私有云端发送流量授权请求；

步骤S103，所述语音服务私有云端通过本地的可分配流量及令牌桶算法获取流量授权响应信息；所述语音服务私有云端将所述流量授权响应信息发送到所述应用服务器；

步骤S104，所述应用服务器根据所述流量授权响应及所述语音服务请求的信息生成语音服务响应；所述应用服务器向所述客户端返回所述语音服务响应；

步骤S105，所述客户端接收所述语音服务响应后，获得流量授权。

2.根据权利要求1所述的限流方法，其中，所述步骤S101中包括：客户端收到语音业务服务请求后，若在本地对所述语音业务服务请求逻辑处理后获取语音服务信息，则向所述应用服务器发送语音服务请求。

3.根据权利要求1所述的限流方法，其中，所述步骤S102中的所述流量授权请求中包括：语音服务名称、请求消耗的授权流量及随机暗号。

4.根据权利要求3所述的限流方法，其中，所述步骤S103中包括，判断所述语音服务私有云端通过本地的可分配流量、令牌桶算法及所述流量授权请求中的请求消耗的授权流量是否能获取流量授权响应信息；若是，则所述语音服务私有云端将所述流量授权响应信息发送到所述应用服务器；若否，则生气且返回异常相应信息。

5.根据权利要求3所述的限流方法，其中，所述步骤S103中流量授权响应信息中包括：设定约定算法及密钥信息；

所述步骤S104中还包括，所述应用服务器根据所述流量授权响应中的所述设定约定算法及密钥信息响应验证所述流量授权响应；若验证通过，则所述应用服务器根据所述流量授权响应及所述语音服务请求的信息生成语音服务响应，若未验证通过，则生成验证不通过信息。

6.一种支持权重的私有云服务集群的限流***，该***实现在具有应用客户端、应用服务器及语音服务私有云端的架构中；所述客户端与所述应用服务器能够双向通讯、所述应用服务器与所述语音服务私有云端能够双向通讯；所述客户端配置业务服务、所述应用服务器配置语音服务、所述语音服务私有云端配置授权服务；

所述支持权重的私有云服务集群的限流***包括：

所述客户端，配置为向所述应用服务器发送语音服务请求；

所述应用服务器，配置为在收到所述语音服务请求后，所述应用服务器向所述语音服务私有云端发送流量授权请求；

所述语音服务私有云端，配置为通过本地的可分配流量及令牌桶算法获取流量授权响应信息；所述语音服务私有云端将所述流量授权响应信息发送到所述应用服务器；

所述应用服务器，配置为根据所述流量授权响应及所述语音服务请求的信息生成语音服务响应；所述应用服务器向所述客户端返回所述语音服务响应；

所述客户端，配置为接收所述语音服务响应后，获得流量授权。

7.根据权利要求6所述的限流***，其中，客户端还配置为收到语音业务服务请求后，若在本地对所述语音业务服务请求逻辑处理后获取语音服务信息，则向所述应用服务器发送语音服务请求。

8.根据权利要求6所述的限流***，其中，所述流量授权请求中包括：语音服务名称、请求消耗的授权流量及随机暗号。

9.根据权利要求8所述的限流***，其中，所述语音服务私有云端还配置为，判断所述语音服务私有云端通过本地的可分配流量、令牌桶算法及所述流量授权请求中的请求消耗的授权流量是否能获取流量授权响应信息；若是，则所述语音服务私有云端将所述流量授权响应信息发送到所述应用服务器；若否，则生气且返回异常相应信息。

10.根据权利要求8所述的限流***，其中，所述流量授权响应信息中包括：设定约定算法及密钥信息；

所述应用服务器，还配置为根据所述流量授权响应中的所述设定约定算法及密钥信息响应验证所述流量授权响应；若验证通过，则所述应用服务器根据所述流量授权响应及所述语音服务请求的信息生成语音服务响应，若未验证通过，则生成验证不通过信息。

Images