CN111314434B - 请求处理方法及服务端 - Google Patents

Abstract

本发明提供了请求处理方法及服务端，该方法包括：接收至少一个客户端的至少一个用户请求；针对所接收到的每一个用户请求，获取该用户请求对应的请求路径，并将该用户请求与请求路径组合为用户请求数据；分别将各个用户请求数据存储到预设的缓冲空间；依次从缓冲空间读取至少两个用户请求数据，并根据其包括的请求路径确定至少一个数据分组；针对每一个数据分组，根据该数据分组中各个用户请求数据携带的目标请求路径，将该数据分组所包括的各个用户请求数据分发给处理器组；针对每一个处理器组，利用该处理器组所包括的至少一个处理器对分发给该处理器组的数据分组所包括的各个用户请求数据进行处理。本方案可减小对高并发请求进行处理的成本。

Description

请求处理方法及服务端

技术领域

本发明涉及计算机技术领域，特别涉及请求处理方法及服务端。

背景技术

当代互联网技术日新月异，互联网应用在各方面都给我们的生活带来了方便。同时，人们对互联网应用的依赖，也给互联网应用带来了巨大的挑战。随着互联网数据的***式增长，互联网应用高并发请求场景下的处理，作为一个重点与难点，常常是开发者与设计者所关心的瓶颈。

目前，对于高并发请求的处理，一般采用组件与服务分布式结合的方式实现，这就要求服务在部署过程中往往需要部署各式各样的组件，通过反向代理服务器，对请求进行分流处理，分发到不同的节点，并采用微服务的方式，将服务应用进行分解，从而实现对请求的分流，减小请求对应用的压力。

通过上述描述可见，现有技术通过组件与服务分布式结合的方式处理高并发请求，需要大规模部署组件，导致对高并发请求进行处理的成本较高。

发明内容

本发明实施例提供了请求处理方法及服务端，可以减小对高并发请求进行处理的成本。

第一方面，本发明提供了请求处理方法，应用于服务端，包括：

接收来自至少一个客户端的至少一个用户请求；

针对所接收到的每一个所述用户请求，获取该用户请求对应的请求路径，并将该用户请求与所述请求路径进行组合，获得用户请求数据；

分别将各个所述用户请求数据存储到预先设定的缓冲空间；

依次从所述缓冲空间读取至少两个所述用户请求数据，并根据所述用户请求数据所包括的所述请求路径确定至少一个数据分组，其中，同一所述数据分组中包括有至少两个携带相同所述请求路径的所述用户请求数据，且不同所述数据分组中所述用户请求数据携带的所述请求路径不同；

针对每一个所述数据分组，根据该数据分组中各个所述用户请求数据携带的目标请求路径，将该数据分组所包括的各个所述用户请求数据分发给订阅该目标请求路径的处理器组；

针对每一个所述处理器组，利用该处理器组所包括的至少一个处理器对分发给该处理器组的所述数据分组所包括的各个所述用户请求数据进行处理。

优选地，

所述分别将各个所述用户请求数据存储到预先设定的缓冲空间，包括：

S0：将每一个所述用户请求数据存储到缓冲区内，其中，所述缓冲空间包括所述缓冲区和所述存储器；

S1：判断距离上一次对所述缓冲区进行备份的时长是否达到预先设定的备份周期，如果是，执行S2，否则S3；

S2：将所述缓存区内所存储的至少一个所述用户请求数据备份到所述存储器上，形成一个包括有至少一个所述用户请求数据的备份文件，并执行S1；

S3：检测所述缓存区内存储的所述用户请求数据的数据容量是否达到预先设定的容量阈值，如果是，执行S2，否则执行S1。

优选地，

所述依次从所述缓冲空间读取至少两个所述用户请求数据，包括：

当所述存储器上存储有至少一个所述备份文件时，按照所述备份文件的生成时间，读取最先生成的一个所述备份文件。

优选地，

在所述S0之后，进一步包括：

确定至少两个分区标记；

分别为每一个所述用户请求数据添加一个所述分区标记，使得添加有不同所述分区标记的所述用户请求数据的数量之差小于预设的数量阈值；

所述针对每一个所述处理器组，利用该处理器组所包括的至少一个处理器对分发给该处理器组的所述数据分组所包括的各个所述用户请求数据进行处理，包括：

针对每一个所述处理器组中的每一个所述用户请求数据，根据该用户请求数据对应的所述分区标记，将各个该用户请求数据分发给负责相应分区的所述处理器进行处理。

优选地，

在所述S0之后，进一步包括：

针对每一个所述用户请求数据，为该用户请求数据添加位置标记，其中，不同所述用户数据的所述位置标记不同；

检测是否已停止对所述用户请求数据进行处理；

如果已停止对所述用户请求数据进行处理，则记录最后一个被处理的所述用户请求数据的所述位置标记，以在下一次开始对所述用户请求数据进行处理时，将所记录的所述位置标记的下一个所述用户请求数据作为起始位置进行处理。

第二方面，本发明提供了服务端，包括：

接收模块，用于接收来自至少一个客户端的至少一个用户请求；

第一处理模块，用于针对所述接收模块所接收到的每一个所述用户请求，获取该用户请求对应的请求路径，并将该用户请求与所述请求路径进行组合，获得用户请求数据；

存储模块，用于分别将所述第一处理模块获取的各个所述用户请求数据存储到预先设定的缓冲空间；

第一确定模块，用于依次从所述缓冲空间中读取至少两个由所述存储模块所存储的所述用户请求数据，并根据所述用户请求数据所包括的所述请求路径确定至少一个数据分组，其中，同一所述数据分组中包括有至少两个携带相同所述请求路径的所述用户请求数据，且不同所述数据分组中所述用户请求数据携带的所述请求路径不同；

分发模块，用于针对所述第一确定模块确定的每一个所述数据分组，根据该数据分组中各个所述用户请求数据携带的目标请求路径，将该数据分组所包括的各个所述用户请求数据分发给订阅该目标请求路径的处理器组；

第二处理模块，用于针对每一个所述处理器组，利用该处理器组所包括的至少一个处理器对所述分发模块分发给该处理器组的所述数据分组所包括的各个所述用户请求数据进行处理。

优选地，

所述存储模块，用于执行：

S0：将每一个所述用户请求数据存储到缓冲区内，其中，所述缓冲空间包括所述缓冲区和所述存储器；

S1：判断距离上一次对所述缓冲区进行备份的时长是否达到预先设定的备份周期，如果是，执行S2，否则S3；

S2：将所述缓存区内所存储的至少一个所述用户请求数据备份到所述存储器上，形成一个包括有至少一个所述用户请求数据的备份文件，并执行S1；

S3：检测所述缓存区内存储的所述用户请求数据的数据容量是否达到预先设定的容量阈值，如果是，执行S2，否则执行S1。

优选地，

所述第一确定模块，在执行依次从所述缓冲空间中读取至少两个由所述存储模块所存储的所述用户请求数据时，用于：

当所述存储器上存储有至少一个所述备份文件时，按照所述备份文件的生成时间，读取最先生成的一个所述备份文件。

优选地，

进一步包括：

第二确定模块，用于确定至少两个分区标记；

分区标记模块，用于分别为每一个所述用户请求数据添加一个所述第二确定模块确定的所述分区标记，使得添加有不同所述分区标记的所述用户请求数据的数量之差小于预设的数量阈值；

所述第二处理模块，用于执行：

针对每一个所述处理器组中的每一个所述用户请求数据，根据该用户请求数据对应的所述分区标记，将各个该用户请求数据分发给负责相应分区的所述处理器进行处理。

优选地，

进一步包括：

位置标记模块，用于针对所述存储模块存储到所述缓冲空间中的每一个所述用户请求数据，为该用户请求数据添加位置标记，其中，不同所述用户数据的所述位置标记不同；

检测模块，用于检测是否已停止对所述用户请求数据进行处理；

记录模块，用于如果所述检测模块检测到已停止对所述用户请求数据进行处理，则记录最后一个被处理的所述用户请求数据的所述位置标记，以在下一次开始对所述用户请求数据进行处理时，将所记录的所述位置标记的下一个所述用户请求数据作为起始位置进行处理。

本发明实施例提供了请求处理方法及服务端，为了应对高并发的应用请求，需要将获取到的用户请求数据先存储到预先设定的缓冲空间内，然后再依次从缓冲空间内读取用户请求数据。每一个处理器组都包括有多个处理器，而每一个处理器是根据用户请求数据的请求路径分组进行对应请求处理的，且服务端接收到客户端发来的各个用户请求均携带有对应的请求路径，故可以将用户请求与其对应的请求路径组合成用户请求数据，并根据组合后的各个用户请求数据其对应的请求路径进行数据分组，使同一数据分组中包括有至少两个携带相同请求路径的用户请求数据，之后处理器可以根据其负责的对应分组对各个用户请求数据进行分组处理。通过这种方式可以避免用户请求高并发时，服务端的负载过大，不需部署大量的应用组件，进而可以减小请求高并发时由于大量部署应用组件，造成对高并发请求进行处理的成本浪费。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明一实施例提供的一种请求处理方法的流程图；

图2是本发明一实施例提供的另一种请求处理方法的流程图

图3是本发明一实施例提供的一种服务端的示意图；

图4是本发明一实施例提供的另一种服务端的示意图；

图5是本发明一实施例提供的又一种服务端的示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例，基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1所示，本发明实施例提供了请求处理方法，该方法可以包括以下步骤：

步骤101：接收来自至少一个客户端的至少一个用户请求；

步骤102：针对所接收到的每一个用户请求，获取该用户请求对应的请求路径，并将该用户请求与请求路径进行组合，获得用户请求数据；

步骤103：分别将各个用户请求数据存储到预先设定的缓冲空间；

步骤104：依次从缓冲空间读取至少两个用户请求数据，并根据用户请求数据所包括的请求路径确定至少一个数据分组，其中，同一数据分组中包括有至少两个携带相同请求路径的用户请求数据，且不同数据分组中用户请求数据携带的请求路径不同；

步骤105：针对每一个数据分组，根据该数据分组中各个用户请求数据携带的目标请求路径，将该数据分组所包括的各个用户请求数据分发给订阅该目标请求路径的处理器组；

步骤106：针对每一个处理器组，利用该处理器组所包括的至少一个处理器对分发给该处理器组的数据分组所包括的各个用户请求数据进行处理。

在本发明实施例中，为了应对高并发的应用请求，需要将获取到的用户请求数据先存储到预先设定的缓冲空间内，然后再依次从缓冲空间内读取用户请求数据。每一个处理器组都包括有多个处理器，而每一个处理器是根据用户请求数据的请求路径分组进行对应请求处理的，且服务端接收到客户端发来的各个用户请求均携带有对应的请求路径，故可以将用户请求与其对应的请求路径组合成用户请求数据，并根据组合后的各个用户请求数据其对应的请求路径进行数据分组，使同一数据分组中包括有至少两个携带相同请求路径的用户请求数据，之后处理器可以根据其负责的对应分组对各个用户请求数据进行分组处理。通过这种方式可以避免用户请求高并发时，服务端的负载过大，不需部署大量的应用组件，进而可以减小请求高并发时由于大量部署应用组件，造成对高并发请求进行处理的成本浪费。

为了检测缓存区的状态以判断是否需要进行用户请求数据的备份操作，在本发明一实施例中，上述实施例中分别将各个用户请求数据存储到预先设定的缓冲空间的步骤，具体可以通过以下方式实现：

S0：将每一个用户请求数据存储到缓冲区内，其中，缓冲空间包括缓冲区和存储器；

S1：判断距离上一次对缓冲区进行备份的时长是否达到预先设定的备份周期，如果是，执行S2，否则S3；

S2：将缓存区内所存储的至少一个用户请求数据备份到存储器上，形成一个包括有至少一个用户请求数据的备份文件，并执行S1；

S3：检测缓存区内存储的用户请求数据的数据容量是否达到预先设定的容量阈值，如果是，执行S2，否则执行S1。

在本发明实施例中，为了应对高并发的应用请求，获取到的用户请求数据需要先存储在缓冲空间的缓冲区内，当缓冲区内存储的用户请求数据的数据容量达到预先设定的容量阈值时，需要将缓存区内所存储的用户请求数据备份到存储器上，形成一个包括有至少一个用户请求数据的备份文件，以便在用户请求高并发时，可以对用户请求进行及时处理。或者当达到缓冲区的备份周期时，服务端也会将缓冲区的用户请求数据备份至存储器上，故可以根据缓冲区的备份周期或者缓存区内存储的用户请求数据的数据容量，判断是否需要对用户请求数据进行备份。

为了读取用户请求数据以便及时对用户请求进行处理，在本发明一实施例中，上述实施例中依次从缓冲空间读取至少两个用户请求数据的步骤，具体可以通过以下方式实现：

当存储器上存储有至少一个备份文件时，按照备份文件的生成时间，读取最先生成的一个备份文件。

在本发明实施例中，由于用户请求数据只能通过缓存区备份至存储器，并在存储器上进行用户请求数据的读取，故当存储器上存储有至少一个备份文件时，可以进行备份文件的读取操作，并按照备份文件的生成时间，最先生成的备份文件将被最先读取，以便对高并发请求进行及时的处理。

为了方便处理器对不同的用户请求数据进行处理并对用户请求进行分流，在本发明一实施例中，上述实施例中在步骤S0之后，进一步可以包括以下步骤：

确定至少两个分区标记；

分别为每一个用户请求数据添加一个分区标记，使得添加有不同分区标记的用户请求数据的数量之差小于预设的数量阈值；

所述针对每一个处理器组，利用该处理器组所包括的至少一个处理器对分发给该处理器组的数据分组所包括的各个用户请求数据进行处理，包括：

针对每一个处理器组中的每一个用户请求数据，根据该用户请求数据对应的分区标记，将各个该用户请求数据分发给负责相应分区的处理器进行处理。

在本发明实施例中，在高并发应用请求下，需要对缓存区内的同组用户请求数据进行分区，以对用户请求进行分流，减少高并发用户请求对服务端的压力，并确定至少两个分区标记，为每一个用户请求数据添加一个分区标记，使得添加有不同分区标记的用户请求数据的数量之差小于预设的数量阈值，即将用户请求数据均匀划分至各个分区中，对用户请求进行分流。

为了避免对用户请求进行重复处理或者遗漏处理，在本发明一实施例中，上述实施例中，在步骤S0之后，进一步可以包括以下步骤：

针对每一个用户请求数据，为该用户请求数据添加位置标记，其中，不同用户数据的位置标记不同；

检测是否已停止对用户请求数据进行处理；

如果已停止对用户请求数据进行处理，则记录最后一个被处理的用户请求数据的位置标记，以在下一次开始对用户请求数据进行处理时，将所记录的位置标记的下一个用户请求数据作为起始位置进行处理。

在本发明实施例中，通过检测对用户请求数据是否已停止处理，可以确定能否执行下一次的用户请求数据处理，为各个用户请求数据添加位置标记，并通过记录最后一个被处理的用户请求数据的位置标记，可以在下一次开始对用户请求数据进行处理时，将所记录的位置标记的下一个用户请求数据作为起始位置进行处理，从而避免对用户请求进行重复处理或者遗漏处理。

目前，对于高并发用户请求的处理，一般采用组件与服务分布式结合的方式实现。这就要求服务在部署过程中往往需要部署各式各样的组件，通过类似Nginx的反向代理服务器，对用户请求进行分流处理，分发到不同的节点，采用微服务的方式，将服务应用进行分解，或者采用类似Kubernetes的虚拟化技术，将应用放入容器，这些措施都采用大规模部署组件与应用的方式，实现对用户请求的分流，从而减小用户请求对应用的压力。对于一部分的高并发请求，这样的方案是设计合理且硬件资源利用高效的。这种部署方式对于一些特殊的高并发场景，例如电商秒杀活动，春运抢票等，有很好的效果。这些场景往往都是需要应用对用户请求的结果进行及时反应的，用户是否秒杀到了商品或者抢到了票，都需要应用第一时间反应出来。但是，对于另外一些场景，例如商家用户预定货物或者发起一项审核流程，这些不需要及时反馈的场景，在高并发的情况下，采用大规模部署组件的方式运作，对于资源来说存在一定的浪费。

针对这样的场景，我们可以通过用户请求发布订阅的方式来处理高负载的请求，将用户请求数据放入一个缓冲区，缓冲后的用户请求数据分发给处理器组来完成处理。这样的应用程序软件设计方式，可以大大的降低应用对负载均衡组件的依赖。通过这样的方式，应用的单个节点就具备了承担高并发请求的能力，有效减少了应用对集群节点的数量要求，提高了单节点的资源利用率，不必再部署大规模的集群对用户请求进行分流，减少了部署运维成本。

如图2所示，为了更加清楚地说明本发明的技术方案及优点，下面对本发明提供了请求处理方法进行详细说明，具体可以包括以下步骤：

步骤201：接收来自至少一个客户端的至少一个用户请求；

步骤202：针对所接收到的每一个用户请求，获取该用户请求对应的请求路径，并将该用户请求与请求路径进行组合，获得用户请求数据；

具体地，服务端在接收到至少一个客户端发来的至少一个用户请求之后，可以通过请求***拦截所有的请求，请求拦截后，由于各个用户请求均携带有对应的请求路径，故可以根据各个用户请求对应的请求路径进行分组生成用户请求数据，然后将用户请求数据转换成统一格式并压缩，压缩后的用户请求数据携带着其分组信息，可以通过消息队列分批次发布入缓冲区，以对高并发用户请求进行分流。

步骤203：将每一个用户请求数据存储到缓冲区内，其中，缓冲空间包括缓冲区和存储器；

步骤204：确定至少两个分区标记；

步骤205：分别为每一个用户请求数据添加一个分区标记，使得添加有不同分区标记的用户请求数据的数量之差小于预设的数量阈值；

步骤206：针对每一个用户请求数据，为该用户请求数据添加位置标记，其中，不同用户数据的位置标记不同；

步骤207：检测是否已停止对用户请求数据进行处理；

步骤208：如果已停止对用户请求数据进行处理，则记录最后一个被处理的用户请求数据的位置标记，以在下一次开始对用户请求数据进行处理时，将所记录的位置标记的下一个用户请求数据作为起始位置进行处理。

具体地，可以通过协调器监听缓冲区的用户请求数据添加操作，对缓冲区中同组用户请求数据进行分区，同组用户请求数据可以分成n个分区，并分别进行分区标记。同时，可为各个用户请求数据进行位置标记，协调器作为一个独立线程，还可以负责记录最后处理的用户请求数据的最后标记位置。

步骤209：判断距离上一次对缓冲区进行备份的时长是否达到预先设定的备份周期，如果是，执行步骤210，否则执行步骤211。

步骤210：将缓存区内所存储的至少一个用户请求数据备份到存储器上，形成一个包括有至少一个用户请求数据的备份文件，并执行步骤209。

步骤211：检测缓存区内存储的用户请求数据的数据容量是否达到预先设定的容量阈值，如果是，执行步骤210，否则执行步骤209。

具体地，缓冲区主要负责用户请求数据的缓存，该组件是内存中的一块区域，大小可设置，如果用户请求数据的数据容量达到预先设置的容量阈值，比如，容量阈值为100条，此时会触发备份器，将用户请求数据存储到存储器上，比如：硬盘。每间隔一定的备份周期，缓冲区会进行一次回收，将该区域的所有用户请求数据存储到到硬盘上。

步骤212：当存储器上存储有至少一个备份文件时，按照备份文件的生成时间，读取最先生成的一个备份文件，并根据用户请求数据所包括的请求路径确定至少一个数据分组，其中，同一数据分组中包括有至少两个携带相同请求路径的用户请求数据，且不同数据分组中用户请求数据携带的请求路径不同；

具体地，可以通过恢复器对备份文件进行读取，该组件按照协调器的要求从硬盘上恢复用户请求数据，并将用户请求数据按照请求路径进行分组，最后将用户请求数据交给分发器，并将用户请求数据处理完成反馈给协调器，以便记录最后一个被处理的用户请求数据的位置标记，在下一次开始对用户请求数据进行处理时，将所记录的位置标记的下一个用户请求数据作为起始位置进行处理。

步骤213：针对每一个数据分组，根据该数据分组中各个用户请求数据携带的目标请求路径，将该数据分组所包括的各个用户请求数据分发给订阅该目标请求路径的处理器组；

具体地，可以通过分发器将用户请求数据按照处理器组订阅的分组分发给处理器。

步骤214：针对每一个处理器组中的每一个用户请求数据，根据该用户请求数据对应的分区标记，将各个该用户请求数据分发给负责相应分区的处理器进行处理。

具体地，每一个处理器组由若干个处理器组成，处理器组负责根据请求分组订阅***发布的用户请求数据。处理器组接受到订阅分组的数据后，根据分区标记，将分区数据分发给不同的处理器。此处，处理器组中处理器的数量应小于等于分区数量n。

在应用关闭的时候，协调器会将当前进行处理的用户请求数据的最后位置存到硬盘上，等下次启动的时候，协调器会继续使用这个标记位置标记，从这个位置开始处理用户请求数据。

在本发明的一个实施例中，客户端发送用户请求request0，请求***拦截request0，并根据request0的请求路径url1分入请求分组url1。请求***将用户请求按照规定格式转化为formatReq0，并将formatReq0压缩为用户请求compressReq0，然后，用户请求compressReq0携带着分组信息url1构成用户请求数据reqData0发布到缓冲区。

缓冲区接收到用户请求数据reqData0后，协调器监听到了缓冲区添加新用户请求数据reqData0的事件，协调器得到用户请求数据reqData0，并对此用户请求数据标记分区partition2，同时标记该用户请求数据所在位置offset-1000。

在缓冲区存储的用户请求数据达到数据容量预先设定的容量阈值(比如，100条)或者到达缓冲区备份周期(比如，30分钟)的情况下，触发备份器的备份动作，将用户请求数据reqData0存储到硬盘上，存入block-100。

协调器从恢复器接受到上一次对用户请求数据的处理结束的反馈后，开始对用户请求数据reqData0所在的块block-100进行数据读取。协调器发出处理指令给恢复器，恢复器读取block-100的数据，从指定的offset开始解析数据，当解析到reqData0后，获取用户请求数据reqData0的分组url1，将用户请求数据reqData0放入数据分组url1，发送url1给分发器。

分发器得到数据分组url1。由于handlerGroup1订阅了数据分组url1，将数据分组url1分发给handlerGroup1。

处理器组handlerGroup1得到一组数据分组url1之后，对组内的数据按照分区不同，交给不同的处理器处理。用户请求数据reqData0根据其分区partition2交给处理器handler2进行处理，handler2接收到用户请求数据reqData0，取出compressReq0解压缩并根据业务内容进行处理。

如图3所示，本发明实施例提供了服务端，包括：

接收模块301，用于接收来自至少一个客户端的至少一个用户请求；

第一处理模块302，用于针对接收模块301所接收到的每一个用户请求，获取该用户请求对应的请求路径，并将该用户请求与请求路径进行组合，获得用户请求数据；

存储模块303，用于分别将第一处理模块302获取的各个用户请求数据存储到预先设定的缓冲空间；

第一确定模块304，用于依次从缓冲空间中读取至少两个由存储模块所存储的用户请求数据，并根据用户请求数据所包括的请求路径确定至少一个数据分组，其中，同一数据分组中包括有至少两个携带相同请求路径的用户请求数据，且不同数据分组中用户请求数据携带的请求路径不同；

分发模块305，用于针对第一确定模块304确定的每一个数据分组，根据该数据分组中各个用户请求数据携带的目标请求路径，将该数据分组所包括的各个用户请求数据分发给订阅该目标请求路径的处理器组；

第二处理模块306，用于针对每一个处理器组，利用该处理器组所包括的至少一个处理器对分发模块305分发给该处理器组的数据分组所包括的各个用户请求数据进行处理。

在本发明实施例中，为了应对高并发的应用请求，需要通过存储模块将获取到的用户请求数据先存储到预先设定的缓冲空间内，然后再通过第一确定模块依次从缓冲空间内读取用户请求数据。每一个处理器组都包括有多个处理器，而每一个处理器是根据用户请求数据的请求路径分组进行对应请求处理的，且服务端通过接收模块接收到客户端发来的各个用户请求均携带有对应的请求路径，故可以通过第一处理模块将用户请求与其对应的请求路径组合成用户请求数据，并根据组合后的各个用户请求数据其对应的请求路径进行数据分组，使同一数据分组中包括有至少两个携带相同请求路径的用户请求数据，之后可以通过分发模块将各个用户请求数据分发给订阅该目标请求路径的处理器组，并通过第二处理模块根据其负责的对应分组对各个用户请求数据进行分组处理。通过这种方式可以避免用户请求高并发时，服务端的负载过大，不需部署大量的应用组件，进而可以减小请求高并发时由于大量部署应用组件，造成对高并发请求进行处理的成本浪费。

在本发明一实施例中，存储模块303，用于执行：

S0：将每一个用户请求数据存储到缓冲区内，其中，缓冲空间包括缓冲区和存储器；

S1：判断距离上一次对缓冲区进行备份的时长是否达到预先设定的备份周期，如果是，执行S2，否则S3；

S2：将缓存区内所存储的至少一个用户请求数据备份到存储器上，形成一个包括有至少一个用户请求数据的备份文件，并执行S1；

S3：检测缓存区内存储的用户请求数据的数据容量是否达到预先设定的容量阈值，如果是，执行S2，否则执行S1。

在本发明一实施例中，第一确定模块304，在执行依次从缓冲空间中读取至少两个由存储模块所存储的用户请求数据时，用于：

当存储器上存储有至少一个备份文件时，按照备份文件的生成时间，读取最先生成的一个备份文件。

基于图3所示的服务端，如图4所示，在本发明一实施例中，进一步包括：

第二确定模块307，用于确定至少两个分区标记；

分区标记模块308，用于分别为每一个用户请求数据添加一个第二确定模块307确定的分区标记，使得添加有不同分区标记的用户请求数据的数量之差小于预设的数量阈值；

第二处理模块306，用于执行：

针对每一个处理器组中的每一个用户请求数据，根据该用户请求数据对应的分区标记，将各个该用户请求数据分发给负责相应分区的处理器进行处理。

基于图3所示的服务端，如图5所示，在本发明一实施例中，进一步包括：

位置标记模块309，用于针对所述存储模块存储到所述缓冲空间中的每一个所述用户请求数据，为该用户请求数据添加位置标记，其中，不同用户数据的位置标记不同；

检测模块310，用于检测是否已停止对用户请求数据进行处理；

记录模块311，用于如果检测模块检测到已停止对用户请求数据进行处理，则记录最后一个被处理的用户请求数据的位置标记，以在下一次开始对用户请求数据进行处理时，将所记录的位置标记的下一个用户请求数据作为起始位置进行处理。

可以理解的是，本发明实施例示意的结构并不构成对服务端的具体限定。在本发明的另一些实施例中，服务端可以包括比图示更多或者更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件、软件或者软件和硬件的组合来实现。

上述装置内的各单元之间的信息交互、执行过程等内容，由于与本发明方法实施例基于同一构思，具体内容可参见本发明方法实施例中的叙述，此处不再赘述。

本发明实施例还提供了服务端，包括：至少一个存储器和至少一个处理器；

所述至少一个存储器，用于存储机器可读程序；

所述至少一个处理器，用于调用所述机器可读程序，执行本发明任一实施例中的请求处理方法。

本发明实施例还提供了一种计算机可读介质，所述计算机可读介质上存储有计算机指令，所述计算机指令在被处理器执行时，使所述处理器执行本发明任一实施例中的请求处理方法。具体地，可以提供配有存储介质的***或者装置，在该存储介质上存储着实现上述实施例中任一实施例的功能的软件程序代码，且使该***或者装置的计算机(或CPU或MPU)读出并执行存储在存储介质中的程序代码。

在这种情况下，从存储介质读取的程序代码本身可实现上述实施例中任何一项实施例的功能，因此程序代码和存储程序代码的存储介质构成了本发明的一部分。

用于提供程序代码的存储介质实施例包括软盘、硬盘、磁光盘、光盘(如CD-ROM、CD-R、CD-RW、DVD-ROM、DVD-RAM、DVD-RW、DVD+RW)、磁带、非易失性存储卡和ROM。可选择地，可以由通信网络从服务器计算机上下载程序代码。

此外，应该清楚的是，不仅可以通过执行计算机所读出的程序代码，而且可以通过基于程序代码的指令使计算机上操作的操作***等来完成部分或者全部的实际操作，从而实现上述实施例中任意一项实施例的功能。

此外，可以理解的是，将由存储介质读出的程序代码写到***计算机内的扩展板中所设置的存储器中或者写到与计算机相连接的扩展单元中设置的存储器中，随后基于程序代码的指令使安装在扩展板或者扩展单元上的CPU等来执行部分和全部实际操作，从而实现上述实施例中任一实施例的功能。

本发明各个实施例至少具有如下有益效果：

1、在本发明一实施例中，为了应对高并发的应用请求，需要将获取到的用户请求数据先存储到预先设定的缓冲空间内，然后再依次从缓冲空间内读取用户请求数据。每一个处理器组都包括有多个处理器，而每一个处理器是根据用户请求数据的请求路径分组进行对应请求处理的，且服务端接收到客户端发来的各个用户请求均携带有对应的请求路径，故可以将用户请求与其对应的请求路径组合成用户请求数据，并根据组合后的各个用户请求数据其对应的请求路径进行数据分组，使同一数据分组中包括有至少两个携带相同请求路径的用户请求数据，之后处理器可以根据其负责的对应分组对各个用户请求数据进行分组处理。通过这种方式可以避免用户请求高并发时，服务端的负载过大，不需部署大量的应用组件，进而可以减小请求高并发时由于大量部署应用组件，造成对高并发请求进行处理的成本浪费。

2、在本发明一实施例中，为了应对高并发的应用请求，获取到的用户请求数据需要先存储在缓冲空间的缓冲区内，当缓冲区内存储的用户请求数据的数据容量达到预先设定的容量阈值时，需要将缓存区内所存储的用户请求数据备份到存储器上，形成一个包括有至少一个用户请求数据的备份文件，以便在用户请求高并发时，可以对用户请求进行及时处理。或者当达到缓冲区的备份周期时，服务端也会将缓冲区的用户请求数据备份至存储器上，故可以根据缓冲区的备份周期或者缓存区内存储的用户请求数据的数据容量，判断是否需要对用户请求数据进行备份。

3、在本发明实施例中，由于用户请求数据只能通过缓存区备份至存储器，并在存储器上进行用户请求数据的读取，故当存储器上存储有至少一个备份文件时，可以进行备份文件的读取操作，并按照备份文件的生成时间，最先生成的备份文件将被最先读取，以便对高并发请求进行及时的处理。

需要说明的是，上述各流程和各***结构图中不是所有的步骤和模块都是必须的，可以根据实际的需要忽略某些步骤或模块。各步骤的执行顺序不是固定的，可以根据需要进行调整。上述各实施例中描述的***结构可以是物理结构，也可以是逻辑结构，即，有些模块可能由同一物理实体实现，或者，有些模块可能分由多个物理实体实现，或者，可以由多个独立设备中的某些部件共同实现。

以上各实施例中，硬件单元可以通过机械方式或电气方式实现。例如，一个硬件单元可以包括永久性专用的电路或逻辑(如专门的处理器，FPGA或ASIC)来完成相应操作。硬件单元还可以包括可编程逻辑或电路(如通用处理器或其它可编程处理器)，可以由软件进行临时的设置以完成相应操作。具体的实现方式(机械方式、或专用的永久性电路、或者临时设置的电路)可以基于成本和时间上的考虑来确定。

上文通过附图和优选实施例对本发明进行了详细展示和说明，然而本发明不限于这些已揭示的实施例，基与上述多个实施例本领域技术人员可以知晓，可以组合上述不同实施例中的代码审核手段得到本发明更多的实施例，这些实施例也在本发明的保护范围之内。

Claims (10)

1.请求处理方法，其特征在于，应用于服务端，包括：

接收来自至少一个客户端的至少一个用户请求；

针对所接收到的每一个所述用户请求，获取该用户请求对应的请求路径，并将该用户请求与所述请求路径进行组合，获得用户请求数据；

分别将各个所述用户请求数据存储到预先设定的缓冲空间；

依次从所述缓冲空间读取至少两个所述用户请求数据，并根据所述用户请求数据所包括的所述请求路径确定至少一个数据分组，其中，同一所述数据分组中包括有至少两个携带相同所述请求路径的所述用户请求数据，且不同所述数据分组中所述用户请求数据携带的所述请求路径不同；

针对每一个所述数据分组，根据该数据分组中各个所述用户请求数据携带的目标请求路径，将该数据分组所包括的各个所述用户请求数据分发给订阅该目标请求路径的处理器组；

针对每一个所述处理器组，利用该处理器组所包括的至少一个处理器对分发给该处理器组的所述数据分组所包括的各个所述用户请求数据进行处理。

2.根据权利要求1所述的方法，其特征在于，所述分别将各个所述用户请求数据存储到预先设定的缓冲空间，包括：

S0：将每一个所述用户请求数据存储到缓冲区内，其中，所述缓冲空间包括所述缓冲区和存储器；

S1：判断距离上一次对所述缓冲区进行备份的时长是否达到预先设定的备份周期，如果是，执行S2，否则S3；

S2：将所述缓冲区内所存储的至少一个所述用户请求数据备份到所述存储器上，形成一个包括有至少一个所述用户请求数据的备份文件，并执行S1；

S3：检测所述缓冲区内存储的所述用户请求数据的数据容量是否达到预先设定的容量阈值，如果是，执行S2，否则执行S1。

3.根据权利要求2所述的方法，其特征在于，所述依次从所述缓冲空间读取至少两个所述用户请求数据，包括：

当所述存储器上存储有至少一个所述备份文件时，按照所述备份文件的生成时间，读取最先生成的一个所述备份文件。

4.根据权利要求2所述的方法，其特征在于，

在所述S0之后，进一步包括：

确定至少两个分区标记；

分别为每一个所述用户请求数据添加一个所述分区标记，使得添加有不同所述分区标记的所述用户请求数据的数量之差小于预设的数量阈值；

所述针对每一个所述处理器组，利用该处理器组所包括的至少一个处理器对分发给该处理器组的所述数据分组所包括的各个所述用户请求数据进行处理，包括：

针对每一个所述处理器组中的每一个所述用户请求数据，根据该用户请求数据对应的所述分区标记，将各个该用户请求数据分发给负责相应分区的所述处理器进行处理。

5.根据权利要求2至4中任一所述的方法，其特征在于，在所述S0之后，进一步包括：

针对每一个所述用户请求数据，为该用户请求数据添加位置标记，其中，不同所述用户请求数据的所述位置标记不同；

检测是否已停止对所述用户请求数据进行处理；

如果已停止对所述用户请求数据进行处理，则记录最后一个被处理的所述用户请求数据的所述位置标记，以在下一次开始对所述用户请求数据进行处理时，将所记录的所述位置标记的下一个所述用户请求数据作为起始位置进行处理。

6.服务端，其特征在于，包括：

接收模块，用于接收来自至少一个客户端的至少一个用户请求；

第一处理模块，用于针对所述接收模块所接收到的每一个所述用户请求，获取该用户请求对应的请求路径，并将该用户请求与所述请求路径进行组合，获得用户请求数据；

存储模块，用于分别将所述第一处理模块获取的各个所述用户请求数据存储到预先设定的缓冲空间；

第一确定模块，用于依次从所述缓冲空间中读取至少两个由所述存储模块所存储的所述用户请求数据，并根据所述用户请求数据所包括的所述请求路径确定至少一个数据分组，其中，同一所述数据分组中包括有至少两个携带相同所述请求路径的所述用户请求数据，且不同所述数据分组中所述用户请求数据携带的所述请求路径不同；

分发模块，用于针对所述第一确定模块确定的每一个所述数据分组，根据该数据分组中各个所述用户请求数据携带的目标请求路径，将该数据分组所包括的各个所述用户请求数据分发给订阅该目标请求路径的处理器组；

第二处理模块，用于针对每一个所述处理器组，利用该处理器组所包括的至少一个处理器对所述分发模块分发给该处理器组的所述数据分组所包括的各个所述用户请求数据进行处理。

7.根据权利要求6所述的服务端，其特征在于，

所述存储模块，用于执行：

S0：将每一个所述用户请求数据存储到缓冲区内，其中，所述缓冲空间包括所述缓冲区和存储器；

S1：判断距离上一次对所述缓冲区进行备份的时长是否达到预先设定的备份周期，如果是，执行S2，否则S3；

S2：将所述缓冲区内所存储的至少一个所述用户请求数据备份到所述存储器上，形成一个包括有至少一个所述用户请求数据的备份文件，并执行S1；

S3：检测所述缓冲区内存储的所述用户请求数据的数据容量是否达到预先设定的容量阈值，如果是，执行S2，否则执行S1。

8.根据权利要求7所述的服务端，其特征在于，

所述第一确定模块，在执行依次从所述缓冲空间中读取至少两个由所述存储模块所存储的所述用户请求数据时，用于：

当所述存储器上存储有至少一个所述备份文件时，按照所述备份文件的生成时间，读取最先生成的一个所述备份文件。

9.根据权利要求7所述的服务端，其特征在于，进一步包括：

第二确定模块，用于确定至少两个分区标记；

分区标记模块，用于分别为每一个所述用户请求数据添加一个所述第二确定模块确定的所述分区标记，使得添加有不同所述分区标记的所述用户请求数据的数量之差小于预设的数量阈值；

所述第二处理模块，用于执行：

针对每一个所述处理器组中的每一个所述用户请求数据，根据该用户请求数据对应的所述分区标记，将各个该用户请求数据分发给负责相应分区的所述处理器进行处理。

10.根据权利要求6至9中任一所述的服务端，其特征在于，

进一步包括：

位置标记模块，用于针对所述存储模块存储到所述缓冲空间中的每一个所述用户请求数据，为该用户请求数据添加位置标记，其中，不同所述用户请求数据的所述位置标记不同；

检测模块，用于检测是否已停止对所述用户请求数据进行处理；

记录模块，用于如果所述检测模块检测到已停止对所述用户请求数据进行处理，则记录最后一个被处理的所述用户请求数据的所述位置标记，以在下一次开始对所述用户请求数据进行处理时，将所记录的所述位置标记的下一个所述用户请求数据作为起始位置进行处理。

Images