CN103685336A - 过载保护方法、装置及服务器 - Google Patents

Abstract

本发明公开了一种过载保护方法、装置及服务器，属于互联网通信领域。所述方法包括：分别累计连续的m个时间间隔中各自接收到的请求数；从所述m个时间间隔中抽取n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔包含当前时间所属的时间间隔；若累计的所述请求数的总和超过预定阈值，则拒绝在所述当前时间所属的时间间隔中，超过所述预定阈值之后接收到的请求；其中，m和n为大于等于2的整数，且m大于等于n。本发明解决了现有的过载保护方法不能有效缓解高峰期时的服务器过载的问题；达到了对多个时间间隔中的累计数综合累计来实现过载保护，从而有效地缓解高峰期时的服务器过载的效果。

Description

过载保护方法、装置及服务器

技术领域

本发明涉及互联网通信领域，特别涉及一种过载保护方法、装置及服务器。

背景技术

客户端/服务器网是应用非常广泛的一种网络模式。其中，客户端通过请求与服务器通信，来完成各种数据交互。

为了解决服务器接收到太多请求时无法有效处理的情况，现有技术中常应用于服务器中的一种过载保护方法为：第一，服务器累计一段时间间隔内接收到的由一个或者多个客户端发送的请求数；第二，服务器判断当前时间间隔内已经累计的请求数是否超过了预定阈值，如果是，则拒绝在当前时间间隔中，超过预定阈值之后接收到的请求。比如，时间间隔为1秒，预定阈值为1000个，在第1秒内，服务器累计接收到的由客户端发送的请求数，在累计的请求数超过1000个时，拒绝后续再接收到的请求；在第2秒内，服务器从0开始重新累计接收到的请求，如果服务器在第2秒内累计接收到的请求数一直没有超过1000个，则一直接收并处理客户端发送的请求，依次类推。

在实现本发明的过程中，发明人发现现有技术至少存在以下问题：现有的过载保护方法仅关注当前时间间隔的累计数，在前一个时间间隔中服务器已经过载的情况下，接下来的一个时间间隔里仍然会继续接收不超过预定阈值个数的请求来处理，不能有效缓解高峰期时的服务器过载现象，比如，在前一秒内服务器已经接收1000多个请求的情况下，在下一秒服务器仍然重新开始接收大量的请求直到该秒内累计的请求数超过1000个，使得连续n秒内，服务器每秒都接收1000个请求，导致服务器一直都处于负载非常重的运行状态。

发明内容

为了解决现有的过载保护方法仅关注当前时间间隔的累计数，而不能有效缓解高峰期时的服务器过载的问题，本发明实施例提供了一种过载保护方法、装置及服务器。所述技术方案如下：

一方面，提供了一种过载保护方法，所述方法包括：

分别累计连续的m个时间间隔中各自接收到的请求数；

从所述m个时间间隔中抽取n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔包含当前时间所属的时间间隔；

若累计的所述请求数的总和超过预定阈值，则拒绝在当前时间所属的时间间隔中，超过所述预定阈值之后接收到的请求；

其中，m和n为大于等于2的整数，且m大于等于n。

进一步地，所述从所述m个时间间隔中抽取n个时间间隔，包括：

从所述m个时间间隔中抽取连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

进一步地，所述从所述m个时间间隔中抽取n个时间间隔，包括：

从所述m个时间间隔中按照预定顺序抽取不连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

进一步地，所述方法，还包括：

将所述m个时间间隔中各自接收到的请求数依次存储入循环队列中，所述循环队列包含至少m个存储位置，在所述循环队列的存储位置存储满之后，将最新一个时间间隔所对应的请求数覆盖存储在所述循环队列中最早一个时间间隔所对应的存储位置中。

另一方面，提供了一种过载保护装置，所述装置包括：

请求累计模块，用于分别累计连续的m个时间间隔中各自接收到的请求数；

窗口累计模块，用于从所述m个时间间隔中抽取n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔包含当前时间所属的时间间隔；

请求拒绝模块，用于若累计的所述请求数的总和超过预定阈值，则拒绝在当前时间所属的时间间隔中，超过所述预定阈值之后接收到的请求；

其中，m和n为大于等于2的整数，且m大于等于n。

进一步地，所述窗口累计模块，具体用于从所述m个时间间隔中抽取连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

进一步地，所述窗口累计模块，具体用于从所述m个时间间隔中按照预定顺序抽取不连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

进一步地，所述装置，还包括：队列存储模块；

所述队列存储模块，用于将所述m个时间间隔中各自接收到的请求数依次存储入循环队列中，所述循环队列包含至少m个存储位置，在所述循环队列的存储位置存储满之后，将最新一个时间间隔所对应的请求数覆盖存储在所述循环队列中最早一个时间间隔所对应的存储位置中。

再一方面，还提供了一种服务器，所述服务器包括如上另一方面所述的过载保护装置。

本发明实施例提供的技术方案带来的有益效果是：

通过在m个时间间隔中抽取n个时间间隔来累计这n个时间间隔中接收到的请求数的总数，进而在请求数的总数达到预定阈值时，拒绝当前时间所属时间间隔中后续接收到的请求，解决了现有的过载保护方法仅关注当前时间间隔的累计数，而不能有效缓解高峰期时的服务器过载的问题；达到了对多个相邻或者相近的时间间隔中的累计数综合累计来实现过载保护，从而有效地缓解高峰期时的服务器过载的效果。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例一提供的过载保护方法的方法流程图；

图2是本发明实施例二提供的过载保护方法的方法流程图；

图3A至图3C是本发明实施例二提供的过载保护方法的实施示意图；

图4是本发明实施例二提供的循环队列的实施示意图；

图5是本发明实施例三提供的过载保护装置的结构示意图；

图6是本发明实施例四提供的过载保护装置的结构示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方式作进一步地详细描述。

实施例一

请参考图1，其示出了本发明实施例一提供的过载保护方法的方法流程图。本实施例主要以该过载保护方法应用于服务器中来举例说明。该过载保护方法包括：

步骤102，分别累计连续的m个时间间隔中各自接收到的请求数；

服务器分别累计连续的m个时间间隔中各自接收到的请求数。该m个时间间隔可以为相同间隔长度或者不同间隔长度的连续的m个时间间隔，通常为相同间隔长度。对于每个时间间隔，服务器单独累计该时间间隔内接收到的客户端发送的请求数。该连续的m个时间间隔包含当前时间所属的时间间隔。

步骤104，从m个时间间隔中抽取n个时间间隔，并累计n个时间间隔中各自接收到的请求数的总和，该n个时间间隔包含当前时间所属的时间间隔；

服务器从分别累计的m个时间间隔中抽取连续或者不连续的n个时间间隔，并累计n个时间间隔中各自接收到的请求数的总和，该n个时间间隔也包含当前时间所属的时间间隔。

步骤106，若累计的请求数的总和超过预定阈值，则拒绝在当前时间所属的时间间隔中，超过预定阈值之后接收到的请求；其中，m和n为大于等于2的整数，且m大于等于n。

若累计的n个时间间隔的请求数的总和超过了预定阈值，则服务器拒绝在当前时间所属的时间间隔中，超过预定阈值之后接收到的请求。

综上所述，本实施例提供的过载保护方法，通过在m个时间间隔中抽取n个时间间隔来累计这n个时间间隔中接收到的请求数的总数，进而在请求数的总数达到预定阈值时，拒绝当前时间所属时间间隔中后续接收到的请求，解决了现有的过载保护方法仅关注当前时间间隔的累计数，而不能有效缓解高峰期时的服务器过载的问题；达到了对多个相邻或者相近的时间间隔中的累计数综合累计来实现过载保护，从而有效地缓解高峰期时的服务器过载的效果。

实施例二

请参考图2，其示出了本发明实施例二提供的过载保护方法的方法流程图。本实施例主要以该过载保护方法应用于服务器中来举例说明。该过载保护方法包括：

步骤202，分别累计连续的m个时间间隔中各自接收到的请求数；

服务器分别累计连续的m个时间间隔中各自接收到的请求数。该m个时间间隔可以为相同间隔长度或者不同间隔长度的连续的m个时间间隔，优选为相同间隔长度。对于每个时间间隔，服务器单独累计该时间间隔内接收到的客户端发送的请求数。该连续的m个时间间隔包含当前时间所属的时间间隔。

在图3A所示的一个具体示例中，服务器分别累计16个时间间隔中各自接收到的请求数，每一个时间间隔的间隔长度都是1/6秒。对于每个时间间隔，服务器都累计该时间间隔内接收到的客户端发送的请求数。

步骤204，从m个时间间隔中抽取n个时间间隔，并累计n个时间间隔中各自接收到的请求数的总和，该n个时间间隔包含当前时间所属的时间间隔；

具体地讲，本步骤存在两类实现方式：

第一，服务器从m个时间间隔中抽取连续的n个时间间隔，并累计该n个时间间隔中各自接收到的请求数的总和，该n个时间间隔中的最后一个时间间隔为当前时间所属的时间间隔；

该实现方式也可以称之为“滑动窗口实现方式”，继续结合参考图3A，服务器可以从16个时间间隔中抽取连续的6个时间间隔，比如，这6个时间间隔可以为这16个时间间隔中的第3到9个时间间隔，然后服务器累计这6个时间间隔中各自接收到的请求数的总和，也即一秒内服务器接收到的请求数的总和。这6个时间间隔中的最后一个时间间隔为当前时间所属的时间间隔。

显然，如果当前时间进入到下一个1/6秒，则服务器可以抽取第4到10个时间间隔作为n个时间间隔。在此种实现方式中，m可以等于n，也即服务器可以分别且仅累计6个时间间隔各自接收到的请求书的总和，在当前时间进入下一个1/6秒时，服务器丢弃上次6个时间间隔中对第1个时间间隔累计的请求数，然后新增加对下1个时间间隔中接收到的请求数的累计。

需要说明的是，图3A中同时示出了当前时间之后的，处于未来的时间间隔以及对应的请求数，这仅是为了示意性地说明，在具体实现时，未来的时间间隔对应的请求数均为0。

第二，服务器从m个时间间隔中按照预定顺序抽取不连续的n个时间间隔，并累计n个时间间隔中各自接收到的请求数的总和，该n个时间间隔中的最后一个时间间隔为当前时间所属的时间间隔。

当然，服务器也可以从m个时间间隔中按照预定顺序抽取不连续的n个时间间隔。该预定顺序可以是抽取n个时间间隔，每两个时间间隔之间相间相同个数的时间间隔，比如图3B所示，服务器可以抽取6个时间间隔，每两个时间间隔之间相间1个时间间隔；也可以是抽取n个时间间隔，每两个时间间隔之间相间不同个数的时间间隔，比如图3C所示，服务器可以抽取6个时间间隔，分别是第1个、第6个、第10个、第13个、第15个和第16个时间间隔，其中，第16个时间间隔为当前时间所属的时间间隔。

总之，以该n个时间间隔能够代表一段时间内服务器接收到的请求数的总体趋势即可。具体按照何种预定顺序来抽取不连续的n个时间间隔，本文不做具体限定。在此种实现方式中，m通常都大于n。也即服务器可以分别累计16个时间间隔各自接收到的请求书的总和，然后按照预定顺序从中选出包含当前时间所属的时间间隔的6个时间间隔，在当前时间进入下一个1/6秒时，服务器丢弃上次16个时间间隔中对第1个时间间隔累计的请求数，然后新增加对下1个时间间隔中接收到的请求数的累计，并重新按照预定顺序从16个时间间隔中选出包含当前时间所属的时间间隔的6个时间间隔。

步骤206，若累计的请求数的总和超过预定阈值，则拒绝在当前时间所属的时间间隔中，超过预定阈值之后接收到的请求；

在服务器累计n个时间间隔中各自接收到的请求数的总和的过程中，服务器可以实时监测累计的请求数的总和是否超过了预定阈值，若累计的请求数的总和超过预定阈值，则拒绝在当前时间所属的时间间隔中，超过预定阈值之后接收到的请求。

步骤208，若累计的请求数的总和未超过预定阈值，则处理接收到的请求。

另外，如果服务器实时监测累计的请求数的总和未超过了预定阈值，则服务器可以一直接收并处理接收到的请求。

仍然结合图3A来说明步骤206和步骤208，假设预定阈值为365，以5次抽取过程为例，在第一次抽取的6个时间间隔中，服务器累计的请求数的总和为：45+46+98+54+76+24=343个，未超过预定阈值，服务器一直接收并处理接收到的请求；在第二次抽取的6个时间间隔中，服务器累计的请求数的总和为：46+98+54+76+24+57=355个，未超过预定阈值，服务器一直接收并处理接收到的请求；在第三次抽取的6个时间间隔中，服务器累计的请求数的总和为：98+54+76+24+57+68=377个，超过预定阈值365，服务器在接收到365个请求之后，拒绝处理之后接收到第366到377个请求；在第四次抽取的6个时间间隔中，服务器累计的请求数的总和为：54+76+24+57+68+83=362个，未超过预定阈值365，服务器一直接收并处理接收到的请求；在第五次抽取的6个时间间隔中服务器累计的请求数的总和为：76+24+57+68+83+28=336个，未超过预定阈值35，服务器一直接收并处理接收到的请求。

需要补充说明的是，由于时间是在不断的推进，在步骤202中，服务器将m个时间间隔中各自接收到的请求数依次存储入循环队列中，该循环队列包含至少m个存储位置，在循环队列的存储位置存储满之后，服务器会将最新一个时间间隔所对应的请求数覆盖存储在循环队列中最早一个时间间隔所对应的存储位置中。结合参考图4，仍然假设服务器分别累计16个时间间隔各自接收到的请求数，同时设置包含16个存储位置的循环队列来存储该16个时间间隔各自接收到的请求数。具体地讲，该16个时间间隔各自接收到的请求数会依次存储到循环队列的各个存储位置中，此时，循环队列所有的存储位置都被存储满；在此之后，当服务器再次对第17个时间间隔开始累计请求数时，可以将第17个时间间隔对应的请求数覆盖在循环队列中最早一个时间间隔所对应的存储位置进行存储，依次类推，周而复始地对各个时间间隔中的请求数进行存储。

综上所述，本实施例提供的过载保护方法，通过在m个时间间隔中抽取n个时间间隔来累计这n个时间间隔中接收到的请求数的总数，进而在请求数的总数达到预定阈值时，拒绝当前时间所属时间间隔中后续接收到的请求，解决了现有的过载保护方法仅关注当前时间间隔的累计数，而不能有效缓解高峰期时的服务器过载的问题；达到了对多个相邻或者相近的时间间隔中的累计数综合累计来实现过载保护，从而有效地缓解高峰期时的服务器过载的效果。同时，还通过采用循环队列来存储m个时间间隔各自接收到的累计数，可以达到避免数据溢出，节省存储空间的效果。

实施例三

请参考图5，其示出了本发明实施例三提供的过载保护装置的结构方框图。该过载保护装置可以实现成为服务器或者服务器中的一部分。该过载保护装置包括请求累计模块520、窗口累计模块540和请求拒绝模块560。

请求累计模块520，用于分别累计连续的m个时间间隔中各自接收到的请求数；

窗口累计模块540，用于从所述请求累计模块520分别累计的m个时间间隔中抽取n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔包含当前时间所属的时间间隔；

请求拒绝模块560，用于若所述窗口累计模块540累计的所述请求数的总和超过预定阈值，则拒绝在当前时间所属的时间间隔中，超过所述预定阈值之后接收到的请求；

其中，m和n为大于等于2的整数，且m大于等于n。

综上所述，本实施例提供的过载保护装置，通过在m个时间间隔中抽取n个时间间隔来累计这n个时间间隔中接收到的请求数的总数，进而在请求数的总数达到预定阈值时，拒绝当前时间所属时间间隔中后续接收到的请求，解决了现有的过载保护方法仅关注当前时间间隔的累计数，而不能有效缓解高峰期时的服务器过载的问题；达到了对多个相邻或者相近的时间间隔中的累计数综合累计来实现过载保护，从而有效地缓解高峰期时的服务器过载的效果。

实施例四

请参考图6，其示出了本发明实施例三提供的过载保护装置的结构方框图。该过载保护装置可以实现成为服务器或者服务器中的一部分。该过载保护装置包括请求累计模块520、队列存储模块530、窗口累计模块540、请求拒绝模块560和请求处理模块580。

请求累计模块520，用于分别累计连续的m个时间间隔中各自接收到的请求数；

窗口累计模块540，用于从所述请求累计模块520分别累计的m个时间间隔中抽取n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔包含当前时间所属的时间间隔；

请求拒绝模块560，用于若所述窗口累计模块540累计的所述请求数的总和超过预定阈值，则拒绝在当前时间所属的时间间隔中，超过所述预定阈值之后接收到的请求；

请求处理模块580，用于若所述窗口累计模块540累计的所述请求数的总和未超过预定阈值，则处理接收到的请求；

其中，m和n为大于等于2的整数，且m大于等于n。

具体地讲，所述窗口累计模块540，可以具体用于从所述请求累计模块520分别累计的m个时间间隔中抽取连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。所述窗口累计模块540，还可以具体用于从所述m个时间间隔中按照预定顺序抽取不连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

优选地，所述队列存储模块530，用于将所述请求累计模块520分别累计的m个时间间隔中各自接收到的请求数依次存储入循环队列中，所述循环队列包含至少m个存储位置，在所述循环队列的存储位置存储满之后，将最新一个时间间隔所对应的请求数覆盖存储在所述循环队列中最早一个时间间隔所对应的存储位置中。

综上所述，本实施例提供的过载保护装置，通过在m个时间间隔中抽取n个时间间隔来累计这n个时间间隔中接收到的请求数的总数，进而在请求数的总数达到预定阈值时，拒绝当前时间所属时间间隔中后续接收到的请求，解决了现有的过载保护方法仅关注当前时间间隔的累计数，而不能有效缓解高峰期时的服务器过载的问题；达到了对多个相邻或者相近的时间间隔中的累计数综合累计来实现过载保护，从而有效地缓解高峰期时的服务器过载的效果。同时，还通过采用循环队列来存储m个时间间隔各自接收到的累计数，可以达到避免数据溢出，节省存储空间的效果。

需要说明的是：上述实施例提供的过载保护装置在保护服务器过载时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将设备的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的过载保护装置与过载保护方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种过载保护方法，其特征在于，所述方法包括：

分别累计连续的m个时间间隔中各自接收到的请求数；

从所述m个时间间隔中抽取n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔包含当前时间所属的时间间隔；

若累计的所述请求数的总和超过预定阈值，则拒绝在所述当前时间所属的时间间隔中，超过所述预定阈值之后接收到的请求；

其中，m和n为大于等于2的整数，且m大于等于n。

2.根据权利要求1所述的过载保护方法，其特征在于，所述从所述m个时间间隔中抽取n个时间间隔，包括：

从所述m个时间间隔中抽取连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

3.根据权利要求1所述的过载保护方法，其特征在于，所述从所述m个时间间隔中抽取n个时间间隔，包括：

从所述m个时间间隔中按照预定顺序抽取不连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

4.根据权利要求1至3任一所述的过载保护方法，其特征在于，所述方法，还包括：

将所述m个时间间隔中各自接收到的请求数依次存储入循环队列中，所述循环队列包含至少m个存储位置，在所述循环队列的存储位置存储满之后，将最新一个时间间隔所对应的请求数覆盖存储在所述循环队列中最早一个时间间隔所对应的存储位置中。

5.一种过载保护装置，其特征在于，所述装置包括：

请求累计模块，用于分别累计连续的m个时间间隔中各自接收到的请求数；

窗口累计模块，用于从所述m个时间间隔中抽取n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔包含当前时间所属的时间间隔；

请求拒绝模块，用于若累计的所述请求数的总和超过预定阈值，则拒绝在所述当前时间所属的时间间隔中，超过所述预定阈值之后接收到的请求；

其中，m和n为大于等于2的整数，且m大于等于n。

6.根据权利要求5所述的过载保护装置，其特征在于，所述窗口累计模块，具体用于从所述m个时间间隔中抽取连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

7.根据权利要求5所述的过载保护装置，其特征在于，所述窗口累计模块，具体用于从所述m个时间间隔中按照预定顺序抽取不连续的n个时间间隔，并累计所述n个时间间隔中各自接收到的请求数的总和，所述n个时间间隔中的最后一个时间间隔为所述当前时间所属的时间间隔。

8.根据权利要求5至7任一所述的过载保护装置，其特征在于，所述装置，还包括：队列存储模块；

所述队列存储模块，用于将所述m个时间间隔中各自接收到的请求数依次存储入循环队列中，所述循环队列包含至少m个存储位置，在所述循环队列的存储位置存储满之后，将最新一个时间间隔所对应的请求数覆盖存储在所述循环队列中最早一个时间间隔所对应的存储位置中。

9.一种服务器，其特征在于，所述服务器包括如权利要求5至8任一所述的过载保护装置。

Images