CN110769040A - 一种访问请求的处理方法、装置、设备及存储介质 - Google Patents
一种访问请求的处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN110769040A CN110769040A CN201910958254.7A CN201910958254A CN110769040A CN 110769040 A CN110769040 A CN 110769040A CN 201910958254 A CN201910958254 A CN 201910958254A CN 110769040 A CN110769040 A CN 110769040A
- Authority
- CN
- China
- Prior art keywords
- server
- access request
- access
- transferred
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1014—Server selection for load balancing based on the content of a request
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
- Information Transfer Between Computers (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本公开提供一种访问请求的处理方法、装置、设备及存储介质,涉及通信技术领域,用于解决超过服务器负载值的访问请求被丢弃导致该部分访问失败的问题。该方法包括:第一服务器从接收的访问请求中确定出需要由其他服务器处理的转移的访问请求,并将转移的访问请求发送给第三服务器;第三服务器确定用于响应第一服务器转移的访问请求的第二服务器,并指示第二服务区器对上述第一服务器转移的访问请求进行处理;第二服务器根据第三服务器的指示时,对上述第一服务器转移的访问请求进行处理。该方案中,超过第一服务器负载值的访问请求器被转移到第二服务器进行处理,提高了访问的成功率,同时降低了第一服务器崩溃的可能性。
Description
技术领域
本公开涉及通信技术领域,尤其涉及一种访问请求的处理方法、装置、设备及存储介质。
背景技术
在内容分发网络(Content Delivery Network,CDN)等高流量需求的场景下,由于域名劫持、客户端与服务器保持长连接、客户端不遵守网络的调度、网络流量突然增加等不可控因素,常出现某些服务器的负载值超过负载设定值的情况,在这种情况下,为了保护不发生服务器雪崩现象,服务器常拒绝超过自身处理能力的访问请求,部分客户端发送的访问请求将被丢弃不被处理,导致部分访问失败。
发明内容
本公开实施例提供一种访问请求的处理方法、装置、设备及存储介质,用于解决超过服务器负载值的访问请求被丢弃导致该部分访问失败的问题。
本公开第一方面,提供一种访问请求的处理方法,应用于第三服务器,包括:
接收第一服务器转移的访问请求,所述第一服务器转移的访问请求为发送至所述第一服务器且需要由其他服务器处理的访问请求;
确定第二服务器,所述第二服务器用于响应所述第一服务器转移的访问请求;
指示确定的第二服务器对所述第一服务器转移的访问请求进行处理。
在一种可能的实现方式中,所述指示确定的第二服务器对所述第一服务器转移的访问请求进行处理的步骤,包括:
向确定的第二服务器发送所述第一服务器转移的访问请求,指示所述第二服务器响应于所述第一服务器转移的访问请求,返回访问结果。
在一种可能的实现方式中,通过如下一种或多种方式,向确定的第二服务器发送所述第一服务器转移的访问请求:
直接向确定的第二服务器发送所述第一服务器转移的访问请求;
通过所述第一服务器向确定的第二服务器发送所述第一服务器转移的访问请求;
通过所述第一服务器通知第一服务器转移的访问请求对应的客户端,指示所述客户端向确定的第二服务器发送所述第一服务器转移的访问请求。
在一种可能的实现方式中,在所述通过所述第一服务器向确定的第二服务器发送所述第一服务器转移的访问请求的步骤之前,还包括:
向所述第一服务器发送携带第二服务器身份标识的访问转移指示,所述访问转移指示用于指示所述第一服务器向具有所述第二服务器身份标识的第二服务器发送所述第一服务器转移的访问请求。
在一种可能的实现方式中,所述第一服务器转移的访问请求是所述第一服务器在满足请求转移条件后,从接收的至少一个客户端发送的访问请求中确定出的待转移的访问请求,所述请求转移条件包括预设时间周期内,所述第一服务器的负载值超过设定负载值。
在一种可能的实现方式中,所述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
在一种可能的实现方式中,所述确定所述第二服务器的步骤,还包括:
从满足预设访问条件的服务器中选择部分或全部服务器作为用于处理第一服务器转移的访问请求的第二服务器;
其中,所述预设访问条件包括如下一种或多种:
负载值不超过预设负载值;
访问请求服务质量不低于预设服务质量标准值。
在一种可能的实现方式中,所述从满足预设访问条件的服务器中选择部分或全部服务器作为所述第二服务器的步骤,包括:
满足预设访问条件的服务器包括多个时,随机从所述多个服务器中选择部分或全部服务器作为所述第二服务器;或者
满足预设访问条件的服务器包括多个时,随机从所述多个服务器中选择访问请求服务质量排序在指定序位的服务器确定为所述第二服务器。
本公开第二方面,提供一种访问请求的处理方法,应用于第一服务器,包括:
接收至少一个客户端发送的访问请求;
从所述至少一个客户端发送的访问请求中确定出转移的访问请求,并将所述转移的访问请求发送给第三服务器,所述转移的访问请求为需要由其他服务器处理的访问请求。
在一种可能的实现方式中,所述转移的访问请求是在满足请求转移条件后,从所述至少一个客户端发送的访问请求中确定出的待转移的访问请求,所述请求转移条件包括预设时间周期内的负载值超过设定负载值。
在一种可能的实现方式中,所述预设时间周期内的负载值超过设定负载值包括如下一种或多种:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
在一种可能的实现方式中,所述将所述转移的访问请求发送给第三服务器的步骤之后,还包括:
若接收到所述第三服务器发送的携带第二服务器身份标识的访问转移指示,则将所述转移的访问请求发送给具有所述第二服务器身份标识的第二服务器,或通知所述转移的访问请求对应的客户端向具有所述第二服务器身份标识的第二服务器发送所述转移的访问请求。
在一种可能的实现方式中,所述从所述至少一个客户端发送的访问请求中确定出转移的访问请求的步骤,包括:
从所述至少一个客户端发送的访问请求中确定出m个访问请求作为所述转移的访问请求,其中,所述m是根据当前时间周期内的负载值确定的,所述m为不小于零的整数。
本公开第三方面,提供一种访问请求的处理方法,应用于客户端,包括:
向第一服务器发送访问请求;
若接收到所述第一服务器发送的携带第二服务器身份标识的访问转移指示,则将所述访问请求发送给具有所述第二服务器身份标识的第二服务器进行处理,所述访问转移指示用于指示发送至所述第一服务器的访问请求需要由其他服务器进行处理。
在一种可能的实现方式中,所述访问转移指示是第三服务器接收所述访问请求后发送给所述第一服务器的,其中,所述访问请求是所述第一服务器在满足请求转移条件后发送的,所述请求转移条件包括预设时间周期内,所述第一服务器的负载值超过设定负载值。
在一种可能的实现方式中,所述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
本公开第四方面,提供一种访问请求的处理方法,应用于第二服务器,包括:
根据第三服务器的指示对第一服务器转移的访问请求进行处理,其中,所述第一服务器转移的访问请求为发送至所述第一服务器且需要由其他服务器处理的访问请求。
在一种可能的实现方式中,所述根据第三服务器的指示对第一服务器转移的访问请求进行处理的步骤,包括:
接收通过第三服务器的指示发送的所述第一服务器转移的访问请求;
响应于接收的所述第一服务器转移的访问请求,返回访问结果。
在一种可能的实现方式中,通过如下一种或多种方式,接收通过第三服务器的指示发送的所述第一服务器转移的访问请求,包括:
接收第三服务器直接发送的所述第一服务器转移的访问请求,其中,所述第一服务器转移的访问请求是所述第一服务器发送给所述第三服务器的;
接收第一服务器根据访问转移指示发送的访问请求,其中,所述访问转移指示是所述第三服务器接收到所述第一服务器转移的访问请求后发送给所述第一服务器的;
接收所述至少一个客户端根据访问转移指示发送的所述第一服务器转移的访问请求,其中,所述访问转移指示是所述第三服务器接收到所述第一服务器发送的所述第一服务器转移的访问请求后,通过所述第一服务器发送给所述至少一个客户端的。
在一种可能的实现方式中,所述第一服务器转移的访问请求是所述第一服务器在满足请求转移条件后,从接收的至少一个客户端发送的访问请求中确定出的待转移的访问请求,所述请求转移条件包括预设时间周期内,所述第一服务器的负载值超过设定负载值。
在一种可能的实现方式中,所述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
本公开第五方面,提供一种访问请求的第三处理装置,包括访问请求接收单元、第二服务器确定单元、处理指示单元,其中:
所述访问请求接收单元被配置为执行接收第一服务器转移的访问请求,所述第一服务器转移的访问请求为发送至所述第一服务器且需要由其他服务器处理的访问请求;
所述第二服务器确定单元被配置为执行确定第二服务器,所述第二服务器用于响应所述第一服务器转移的访问请求;
所述处理指示单元被配置为执行指示确定的第二服务器对所述第一服务器转移的访问请求进行处理。
在一种可能的实现方式中,所述处理指示单元具体被配置为执行:
向确定的第二服务器发送所述第一服务器转移的访问请求,指示所述第二服务器响应于所述第一服务器转移的访问请求,返回访问结果。
在一种可能的实现方式中,所述处理指示单元具体被配置为执行通过如下一种或多种方式,向确定的第二服务器发送所述第一服务器转移的访问请求:
直接向确定的第二服务器发送所述第一服务器转移的访问请求;
通过所述第一服务器向确定的第二服务器发送所述第一服务器转移的访问请求;
通过所述第一服务器通知所述第一服务器转移的访问请求对应的客户端,指示所述客户端向确定的第二服务器发送所述第一服务器转移的访问请求。
在一种可能的实现方式中,所述处理指示单元还被配置为执行:
通过所述第一服务器向确定的第二服务器发送所述第一服务器转移的访问请求之前,向所述第一服务器发送携带第二服务器身份标识的访问转移指示,所述访问转移指示用于指示所述第一服务器向具有所述第二服务器身份标识的第二服务器发送所述第一服务器转移的访问请求。
在一种可能的实现方式中,所述第一服务器转移的访问请求是所述第一服务器在满足请求转移条件后,从接收的至少一个客户端发送的访问请求中确定出的待转移的访问请求,所述请求转移条件包括预设时间周期内,所述第一服务器的负载值超过设定负载值。
在一种可能的实现方式中,所述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
在一种可能的实现方式中,所述第二服务器确定单元还被配置为执行:
从满足预设访问条件的服务器中选择部分或全部服务器作为所述的第二服务器;
其中,所述预设访问条件包括如下一种或多种:
负载值不超过预设负载值;
访问请求服务质量不低于预设服务质量标准值。
在一种可能的实现方式中,所述第二服务器确定单元具体被配置为执行:
满足预设访问条件的服务器包括多个时,随机从所述多个服务器中选择部分或全部服务器作为所述第二服务器;或者
满足预设访问条件的服务器包括多个时,随机从所述多个服务器中选择访问请求服务质量排序在指定序位的服务器确定为所述第二服务器。
本公开第六方面,提供一种访问请求的第一处理装置,包括访问请求接收单元、访问请求转移单元,其中:
所述访问请求接收单元被配置为执行接收至少一个客户端发送的访问请求;
所述访问请求转移单元被配置为执行从所述至少一个客户端发送的访问请求中确定出转移的访问请求,并将所述转移的访问请求发送给第三服务器,所述转移的访问请求为需要由其他服务器处理的访问请求。
在一种可能的实现方式中,所述转移的访问请求是在满足请求转移条件后,从所述至少一个客户端发送的访问请求中确定出的待转移的访问请求,所述请求转移条件包括预设时间周期内的负载值超过设定负载值。
在一种可能的实现方式中,所述预设时间周期内的负载值超过设定负载值包括如下一种或多种:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
在一种可能的实现方式中,所述访问请求转移单元还被配置为执行:
将所述转移的访问请求发送给第三服务器后,若接收到所述第三服务器发送的携带第二服务器身份标识的访问转移指示,则将所述转移的访问请求发送给具有所述第二服务器身份标识的第二服务器,或通知所述转移的访问请求对应的客户端向具有所述第二服务器身份标识的第二服务器发送所述转移的访问请求。
在一种可能的实现方式中,所述访问请求转移单元具体被配置为执行:
从所述至少一个客户端发送的访问请求中确定出m个访问请求作为所述转移的访问请求,其中,所述m是根据当前时间周期内的负载值确定的,所述m为不小于零的整数。
本公开第七方面,提供一种访问请求的客户端装置,包括访问请求发送单元、访问转移单元,其中:
所述访问请求发送单元被配置为执行向第一服务器发送访问请求;
所述访问转移单元被配置为执行若接收到所述第一服务器发送的携带第二服务器身份标识的访问转移指示,则将所述访问请求发送给具有所述第二服务器身份标识的第二服务器进行处理,所述访问转移指示用于指示发送至所述第一服务器的访问请求需要由其他服务器进行处理。
在一种可能的实现方式中,所述访问转移指示是第三服务器接收所述访问请求后发送给所述第一服务器的,其中,所述访问请求是所述第一服务器在满足请求转移条件后发送的,所述请求转移条件包括预设时间周期内,所述第一服务器的负载值超过设定负载值。
在一种可能的实现方式中,所述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
本公开第八方面,提供一种访问请求的第二处理装置,包括转移访问请求处理单元,其中:
所述转移访问请求处理单元被配置为执行根据第三服务器的指示对第一服务器转移的访问请求进行处理,其中,所述第一服务器转移的访问请求为发送至所述第一服务器且需要由其他服务器处理的访问请求。
在一种可能的实现方式中,所述转移访问请求处理单元具体被配置为执行:
接收通过第三服务器的指示发送的所述第一服务器转移的访问请求;
响应于接收的所述第一服务器转移的访问请求,返回访问结果。
在一种可能的实现方式中,所述转移访问请求处理单元具体被配置为执行通过如下一种或多种方式,接收通过第三服务器的指示发送的所述第一服务器转移的访问请求:
接收第三服务器直接发送的所述第一服务器转移的访问请求,其中,所述第一服务器转移的访问请求是所述第一服务器发送给所述第三服务器的;
接收第一服务器根据访问转移指示发送的访问请求,其中,所述访问转移指示是所述第三服务器接收到所述第一服务器转移的访问请求后发送给所述第一服务器的;
接收所述至少一个客户端根据访问转移指示发送的访问请求,其中,所述访问转移指示是所述第三服务器接收到所述第一服务器发送的所述第一服务器转移的访问请求后,通过所述第一服务器发送给所述至少一个客户端的。
在一种可能的实现方式中,所述第一服务器转移的访问请求是所述第一服务器在满足请求转移条件后,从接收的至少一个客户端发送的访问请求中确定出的待转移的访问请求,所述请求转移条件包括预设时间周期内,所述第一服务器的负载值超过设定负载值。
在一种可能的实现方式中,所述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
本公开第九方面,提供一种电子设备,包括处理器、用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为本公开第一方面或第二方面或第三方面或第四方面所述访问请求的处理方法的步骤。
在一种可能的实现方式中,所述电子设备包括第一电子设备,包括处理器、用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行本公开第一方面所述访问请求的处理方法的步骤。
在一种可能的实现方式中,所述电子设备包括第二电子设备,包括处理器、用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行本公开第二方面所述访问请求的处理方法的步骤。
在一种可能的实现方式中,所述电子设备包括第三电子设备,包括处理器、用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行本公开第三方面所述访问请求的处理方法的步骤。
在一种可能的实现方式中,所述电子设备包括第四电子设备,包括处理器、用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行本公开第四方面所述访问请求的处理方法的步骤。
本公开第十方面,提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在计算机上运行时,使得计算机执行如本公开第一方面或第二方面或第三方面或第四方面任一所述的方法。
本公开实施例至少带来以下有益效果:
本公开的方案中,第一服务器在发现自身过载时,能通过第三服务将超过负载值的访问请求器转移到空闲的第二服务器进行处理,提高了访问请求的访问的成功率,同时降低了第一服务器崩溃的可能性。
附图说明
图1为本公开实施例提供的一种访问请求的处理***的应用场景示意图;
图2为本公开实施例提供的一种访问请求的处理过程示意图;
图3为本公开实施例提供的一种第一服务器确定出转移的访问请求的示意图;
图4为本公开实施例提供的第一种访问请求的处理方法的流程示意图;
图5为本公开实施例提供的第二种访问请求的处理方法的流程示意图;
图6为本公开实施例提供的第三种访问请求的处理方法的过程示意图;
图7为本公开实施例提供的一种访问请求的第三处理装置的结构示意图;
图8为本公开实施例提供的一种第一电子设备的结构图;
图9为本公开实施例提供的一种访问请求的第一处理装置的结构示意图;
图10为本公开实施例提供的一种第二电子设备的结构图;
图11为本公开实施例提供的一种访问请求的客户端装置的结构示意图;
图12为本公开实施例提供的一种第三电子设备的结构图;
图13为本公开实施例提供的一种访问请求的第二处理装置的结构示意图;
图14为本公开实施例提供的一种第四电子设备的结构图。
具体实施方式
为了更好的理解本公开实施例提供的技术方案,下面将结合说明书附图以及具体的实施方式进行详细的说明。
为了便于本领域技术人员更好地理解本公开的技术方案,下面对本公开涉及的专有名词进行说明。
域名劫持:互联网攻击的一种方式,通过攻击域名解析服务器,或伪造域名解析服务器的方法,域名劫持就是在劫持的网络范围内拦截域名解析的请求,分析请求的域名,把审查范围以外的请求放行,否则直接返回假的网络协议IP地址或者什么也不做使得请求失去响应,把目标网站域名解析到错误的地址从而实现用户无法访问目标网站的目的。
服务器雪崩现象:一般指需要调用服务的主要主业务不依赖的某些辅助类业务变得不可靠,而导致主业务所调用的核心服务受牵连,直至各个上游依赖服务连同崩溃的现象。
下面对本公开的设计思想进行说明:
在内容分发网络(Content Delivery Network,CDN)等高流量需求的场景下,由于域名劫持、客户端与服务器保持长连接、客户端不遵守网络的调度、网络流量突然增加等不可控因素,常出现某些服务器的负载值超过负载设定值的情况;
在上述情况中,常通过监控数据是否发生异常变化来判断服务器的负载值是否超过设定负载值,即判断服务器是否过载,若服务器过载,则拒绝掉部分发送给该服务器的访问请求,或者通过一定的调度手段,由该服务器将过载的访问请求引导到其它空闲的服务器上去。
但是上述方案中,若过载的服务器粗暴地拒绝掉过载的访问请求,则导致这些访问请求对应的访问失败,严重降低访问的成功率;另一方面,若由该过载的服务器通过调度手段将过载的访问请求引导向其它空闲的服务器,则调度生效具有一定的时间延迟,在时间延迟内的访问请求都会受到影响。
鉴于此,本公开提供了一种访问请求的处理方法,该方法中,在第一服务器发生过载时,将过载的访问请求转移给充当中心调度服务器的第三服务器,由第三服务器选择资源相对空闲的服务器作为第二服务器,并由第三服务器指示上述第二服务器对第一服务器转移的访问请求进行处理,上述第一服务器转移的访问请求为发送至第一服务器且需要由其他服务器处理的访问请求,其中,上述第一服务器的负载值超过设定负载值时,成为第一服务器发生过载。
进一步地,第三服务器可以通过向确定的第二服务器发上述第一服务器转移的访问请求,指示上述第二服务器响应于上述第一服务器转移的访问请求,返回访问结果。
进一步地,第三服务器可以直接向确定的第二服务器发送上述第一服务器转移的访问请求,或者,第三服务器通过第一服务器向第二服务器发送上述第一服务器转移的访问请求,或者,第三服务器通过第一服务器通知上述第一服务器转移的访问请求对应的客户端,指示上述客户端向第二服务器发送上述第一服务器转移的访问请求。
以下结合附图对本公开的方案进行详述:
如图1所示,本公开实施例提供一种访问请求的处理***,该***中包括至少一个第一服务器11、至少一个客户端、至少一个第二服务器12、以及充当中心调度服务器的第三服务器13。
如图1所示,上述客户端可以但不局限于为智能手机141、笔记本电脑142、智能空调143。
可选地,上述第一服务器和第二服务器可以是不同的服务器,也可以是一个服务器在不同状态下的不同身份,如针对一个服务器而言,其在负载值超过设定负载值时可以称为第一服务器,在负载值未超过设定负载值时可以称为第二服务器。
考虑到整个处理***的正常运行以及预防因第三服务器异常导致的***瘫痪,本公开在一个处理***中,可以设置一个第三服务器,也可以设置多个第三服务器;当一个处理***中有多个第三服务器时,可以设置在同一时期仅一个第三服务器生效,或者在生效的第三服务器异常时,启动其他的第三服务器生效等,本领域的技术人员可根据实际需求设置。
如图2所示,以客户端、第一服务器和第三服务器的交互为例,对本公开提供的一种访问请求的处理方法进行详细说明,具体包括如下步骤:
步骤S200,客户端检测到用户的访问指示,向第一服务器发送访问请求。
本公开中,向第一服务器发送访问请求的客户端可以是一个或多个,同一个客户端可以向第一服务器发送一个或多个访问请求,即图2中的访问请求1至访问请求n可以是来自于同一个客户端,也可以是来自于客户端1至客户端N中的不同客户端;其中,上述n为访问请求的标号,n为大于2的正整数,本公开中的n仅是便于表述不同的访问请求设定,本领域的技术人员可灵活设置;上述N为客户端的标号,N为大于2的正整数,上述客户端1至客户端N可以包括智能手机141、笔记本电脑142、智能空调143中的一个或多个,本公开中的N仅是便于表述不同的客户端设定,本领域的技术人员可灵活设置。
上述访问请求可以是请求获取指定资源如音频资源、视频资源、文档资源等,上述访问请求还可以是指示第一服务器做出指定响应等,此处对访问请求的内容及形式均不做限定,本领域的技术人员可根据实际需求获取。
步骤S201,第一服务器接收至少一个客户端发送的访问请求,并在确定满足请求转移条件时,从接收的访问请求中确定出第一服务器转移的访问请求,并将转移的访问请求发送给第三服务器。
应当说明的是,由于第一服务器不满足访问转移条件时,直接对接收的访问请求进行处理,如接收到请求获取指定资源的访问请求时,将客户端请求的指定资源发送给客户端,本公开以下内容中仅以第一服务器判断出满足转移条件后的执行情况进行说明。
为了实现第一服务器在发生过载时,将过载的访问请求转移的目的,上述请求转移条件可以设置为预设时间周期内的负载值超过设定负载值,即第一服务器确定接收的访问请求超过自身的负载值或处理能力时,确定满足请求转移条件,上述负载值可以包括带宽占用率、处理器CPU占用率、磁盘占用率、内存占用率、访问请求的数量等。
其中,为了整个网络***中的访问请求能被正常处理,且考虑到降低第一服务器的负载值,第一服务器在满足请求转移条件时,可以从接收的访问请求中选择一部分访问请求作为待转移的访问请求,并将上述待转移的访问请求作为第一服务器转移的访问请求发送给第三服务器。
步骤S202,第三服务器接收第一服务器转移的访问请求。
步骤S203,第三服务器确定第二服务器,上述第二服务器用于响应上述第一服务器转移的访问请求。
在本步骤中,第三服务器可以将满足预设访问条件的服务器作为第二服务器,当满足预设访问条件的服务器有多个时,第三服务器可以从上述多个服务器中选择部分服务器作为第二服务器,或将上述多个服务中的全部服务器作为第二服务器。
为了便于第三服务器选择第二服务器,本公开中提供一种用于判断服务器资源占用情况的预设访问条件,该预设访问条件可以包括如下一种或多种:
第一种访问条件:负载值不超过预设负载值。
上述负载值可以但不局限于包括预设时间周期内的带宽占用率、平均处理器CPU占用率、磁盘占用率、内存占用率、访问请求的总数量、访问请求的平均数量等。
第二种访问条件:访问请求服务质量不低于预设服务质量标准值。
上述访问请求服务质量可以为预设时间内,为客户端的访问请求提供服务的服务质量。
步骤S204,第三服务器指示第二服务器对第一服务器转移的访问请求进行处理。
在本步骤中,第三服务器可以通过向第二服务器发送上述第一服务器转移的访问请求,指示第二服务器响应上述第一服务器转移的访问请求,返回访问结果。
其中,第三服务器可以通过如下一种或多种方式,向第二服务器发送上述第一服务器转移的访问请求:
第一种发送方式:
第三服务器直接向确定的第二服务器发送上述第一服务器转移的访问请求。
第二种发送方式:
通过第一服务器向确定的第二服务器发送上述第一服务器转移的访问请求。
第三种发送方式:
通过第一服务器通知上述第一服务器转移的访问请求对应的客户端,指示上述客户端向确定的第二服务器发送上述第一服务器转移的访问请求。
在上述步骤S204之后,第二服务器根据第三服务器的指示,对第一服务器转移的访问请求进行处理,其中,第二服务器可以接收通过上述第一种发送方式至第三种发送方式中的发送的第一服务器转移的访问请求,并响应于接收的第一服务器转移的访问请求,返回访问结果。
如上述步骤S201上述,本公开中的负载值可以包括带宽占用率、处理器CPU占用率、磁盘占用率、内存占用率、访问请求的数量等,基于此,本公开中的请求转移条件包括如下一种或多种:
第一种请求转移条件:预设时间周期内的带宽占用率超过预设带宽占用率。
当网络中的带宽占用过高时,会影响网络中数据的收发,即会影响第一服务器接收访问请求发送访问请求的响应数据,因此当第一服务器确定带宽占用率过高时,可以将部分访问请求转移到带宽占用不高的服务器进行处理。
第二种请求转移条件:预设时间周期内的平均处理器CPU占用率超过预设CPU占用率。
当第一服务器的CPU占用率过高,如CPU占用率达到了80%,则该第一服务器的计算处理能力会严重下降,会极大地影响该第一服务器对接收的访问请求的处理,因此当第一服务器的CPU占用率过高时,可以接收的部分访问请求转移到CPU相对空闲的服务器进行处理,这样即保证了第一服务器的CPU的计算处理能力,又能提高对访问请求的有效处理,进而提升对发送访问请求的客户端的服务质量。
第三种请求转移条件:预设时间周期内的平均磁盘占用率超过预设磁盘占用率。
服务器的磁盘占用率过高如磁盘占用率达到90%以上,会经常读取磁盘和写入磁盘,对磁盘造成损伤,且磁盘占用率过高时,会严重影响服务器运行,因此第一服务器确定自身的磁盘占用率过高时,可以转移部分访问请求,以提升第一服务器的运行效率以及减少对磁盘的损伤。
第四种请求转移条件:预设时间周期内的平均内存占用率超过预设内存占用率。
服务器的内存占用率过高如内存占用率达80%以上时,会导致处理***的严重卡顿,影响服务器的运行,因此第一服务器确定自身的内存占用率过高时,可以转移部分访问请求,以减少处理***的卡顿以及提升服务器的运行效率。
第五种请求转移条件:预设时间周期内的访问请求的总数量超过第一访问请求数量。
预设时间周期内的访问请求总数量过多时,会严重占用第一服务器的各种处理资源如CPU、磁盘、内存等,此时会严重影响第一服务器的运行以及处理访问请求的效率,因此,当同一个第一服务器接收的访问请求过多时,可将一部分访问请求转移到处理资源相对空闲的服务器进行处理。
第六种请求转移条件:预设时间周期内的访问请求的平均数量超过第二访问请求数量。
预设时间周期内的访问请求的平均数量过多时,会严重占用第一服务器的各种处理资源如CPU、磁盘、内存等,此时会严重影响第一服务器的运行以及处理访问请求的效率,因此,当同一个第一服务器在预设时间段内接收的访问请求的平均数量过多时,可将一部分访问请求转移到处理资源相对空闲的服务器进行处理。
在上述步骤S201中,第一服务器转移的访问请求在传输的过程中会受到传输通道或网络状况的影响而发生折损,为了降低访问请求在传输的过程中的折损,本公开中第一服务器可以通过透传控制算法发送上述转移的访问请求,第一服务器也可以通过其他能保证访问请求的传输质量的方法,将其转移的访问请求发送给第三服务器。
以下提供一种通过透传控制算法发送第一服务器转移的访问请求的过程示意:
若第一服务器在当前预设时间周期内满足请求转移条件,则从接收的至少一个客户端发送的访问请求中,确定出一定数量如m个的访问请求作为转移的访问请求并发送,上述m是根据当前时间周期内的负载值确定的,上述m为不小于零的整数。
如第一服务器在当前预设时间周期内根据负载值确定出了m个转移的访问请求,并将m个转移的访问请求发送给第三服务器,若第一服务器在之后的预设时间周期内的负载值小于当前预设时间周期的负载值,则第一服务器可以根据负载值,逐步减小发送给第三服务器的转移的访问请求的个数即逐步减小m的数值。
具体而言,第一服务器可以根据负载值与设定负载值的负载差值,确定上述m的值。
基于上述内容,第一服务器根据负载值确定转移的访问请求的个数m后,可以通过如下一种或多种方法,从接收的至少一个客户端的访问请求中确定出待转移的访问请求作为第一服务器转移的访问请求:
第一种转移的访问请求选择方法:
从接收的至少一个客户端发送的访问请求中随机选择部分访问请求,作为待转移的访问请求。
如图3所示,第一服务器11接收至少一个客户端发送的访问请求,第一服务器11在确定出转移的访问请求个数m后,可以从上述访问请求1至访问请求M中随机选择m个访问请求作为转移的访问请求,上述至少一个客户端用智能手机141、笔记本电脑142、智能空调143进行示例性说明,且每个客户端可以向第一服务器11发送一个或多个访问请求,上述访问请求1至访问请求M表示来自不同客户端的访问请求的示例,智能手机141、笔记本电脑142、智能空调143发送的访问请求可以多余或少于图3中示意出的访问请求,其中,上述M为访问请求的标号,图3所示的场景中M的值为大于4的正整数,本公开中的M仅是便于表述不同的访问请求设定,本领域的技术人员可灵活设置。
第二种转移的访问请求选择方法:
确定满足指定条件的客户端,优先从满足指定条件的客户端发送的访问请求中,选择m个访问请求作为待转移的访问请求,其中,上述指定条件可以但不局限于为发送的访问请求的数量大于预设数值。
上述满足指定条件的客户端可以为需要比较好的访问请求服务质量的客户端,如当笔记本电脑142需要较好的请求访问服务质量时,第一服务器11可以从笔记本电脑142发送的访问请求中选择m个待转移的访问请求;其中:
若m等于1,则可以从访问请求3和访问请求4中选择一个作为待转移的访问请求;
若m等于2,则将访问请求3和访问请求4作为待转移的访问请求;
若m大于2,则将访问请求3和访问请求4作为待转移的访问请求,以及从其他客户端发送的访问请求中再选择(m-2)个访问请求作为待转移的访问请求。
在不考虑m的情况下,第一服务器还可以通过如下方式选择第一服务器转移的访问请求:
第三种转移的访问请求选择方法:
确定满足指定条件的客户端,将满足指定条件的客户端发送的访问请求全部作为待转移的访问请求,其中,上述指定条件可以但不局限于为发送的访问请求的数量大于预设数值。
上述满足指定条件的客户端可以参照上述第二种转移的访问请求选择方法中的描述。
第四种转移的访问请求选择方法:
将在负载值超过设定负载值后接收的访问请求,确定为待转移的访问请求。
如图3所示,若第一访问请求在接收访问请求M-i时,判断出了自身的负载值超过设定负载值,则第一服务器可以将访问请求M-i以及访问请求M-i之后接收的访问请求M作为转移的访问请求,图3所示的场景中i的值可以为大于等于0且小于等于M。
可选地,在上述步骤S203中,第三服务器可以按照如下原则确定第二服务器:
第一种确定第二服务器的原则:分针对每个访问请求确定对应的第二服务器。
可以针对一个访问请求确定一个第二服务器,也可以针对一个访问请求确定多个第二服务器。
第二种确定第二服务器的原则:根据第一服务器转移的访问请求对应的客户端,确定对应的第二服务器。
如可以确定第一服务器转移的访问请求对应的客户端,针对一个客户端确定一个第二服务器,或针对一个客户端确定多个第二服务器。
在步骤S203中,第三服务器可以依次选择服务器,在每次选择一个服务器后,判断选择的服务器是否满足预设访问条件,若满足,则直接将这个服务器作为第二服务器;
第三服务器也可以一次选择多个服务器,在每次同时选择多个服务器后,同时判断选择的多个服务器是否满足预设访问条件,若仅有一个服务器满足预设访问条件,则将满足预设访问条件的这一个服务器作为第二服务器,若有多个服务器满足预设访问条件,第三服务器可以从满足预设访问条件的服务器中选择部分或全部服务器作为第二服务器,以处理第三服务器接收的第一服务器转移的访问请求。
其中,若满足预设访问条件的服务器包括多个时,则第三服务器可以按照如下一种或多种选择第二服务器方法,从多个满足预设访问条件的服务器中确定第二服务器:
第一种选择第二服务器方法:
随机从上述多个服务器中选择部分或全部服务器作为第二服务器。
如当满足预设访问条件的服务器有10个时,可以从这10个服务器中随机选择一定数量的服务器作为第二服务器,如随机从里面选择出3个服务器作为第二服务器。
第二种选择第二服务器方法:
将上述多个服务器按照访问请求服务质量进行排序,选择在指定序位的服务器作为第二服务器。
上述指定序位可以为访问请求服务质量最高的排序位置,且该排序位置上可能有一个或多个服务器,则将该排序位置上的一个或多个服务器作为第二服务器。
在上述步骤S204中,提供了第三服务器可以向第二服务器发送上述第一服务器转移的访问请求的多种方式,以下针对第三服务器发送第一服务转移的访问请求的不同发送方式,进行示例性的说明:
示例1:对应上述第一种发送方式
如图4所示,对本公开提供的一种访问请求的处理方法中,客户端、第一服务器、第二服务器以及第三服务器的交互具体包括如下步骤:
在上述步骤S200至步骤S203之后,还包括如下步骤:
步骤S404,第三服务器将接收的第一服务器转移的访问请求发送给确定的第二服务器。
步骤S405,第二服务器接收第一服务器转移的访问请求并进行处理。
可选地,第二服务器响应于接收的第一服务器转移的访问请求,返回访问结果。
示例2:对应上述第二种发送方式
如图5所示,对本公开提供的一种访问请求的处理方法中,客户端、第一服务器、第二服务器以及第三服务器的交互具体包括如下步骤:
在上述步骤S200至步骤S203之后,还包括如下步骤:
步骤S504,第三服务器向第一服务器发送访问转移指示,该访问转移指示中携带确定的第二服务器的第二服务器身份标识。
可选地,第三服务器可以按照如下一种或多种原则,确定访问转移指示:
第一种访问转移指示确定原则:针对第一服务器转移的每个访问请求,分别确定访问转移指示。
可以针对一个第一服务器转移的访问请求,确定一个对应的访问转移指示,上述确定的访问转移指示中包括对应的访问请求的指示信息,上述指示信息可以为上述访问请求或上述访问请求的请求标识。
第二种访问转移指示确定方法:针对第一服务器转移的访问请求对应的每个客户端,分别确定访问转移指示。
确定第一服务器转移的访问请求对应的客户端,针对每个确定的客户端确定一个对应的访问转移指示,上述确定的访问转移指示中包括第一服务器转移的访问请求对应的客户端的客户端标识。
步骤S505,第一服务器接收第三服务器发送的访问转移指示,并根据接收的访问转移指示中的第二服务器身份标识,确定用于响应第一服务器转移的访问请求的第二服务器。
步骤S506,第一服务器将接收的访问转移指示对应的访问请求,发送给根据上述第二服务器身份标识确定的第二服务器。
应当说明的是,若上述访问转移指示中包括访问请求的指示信息时,第一服务器则可以根据上述指示信息,确定上述访问转移指示对应的访问请求;若上述访问转移指示中包括客户端标识,则第一服务器可以根据上述客户端标识确定对应的客户端,将上述对应的客户端发送的访问请求确定为上述访问转移指示对应的访问请求。
步骤S507,第二服务器接收第一服务器根据访问转移指示发送的访问请求并处理。
可选地,第二服务器响应于接收的第一服务器转移的访问请求,返回访问结果。
示例3:对应上述第三种发送方式
如图6所示,对本公开提供的一种访问请求的处理方法中,客户端、第一服务器、第二服务器以及第三服务器的交互具体包括如下步骤:
在上述步骤S200至步骤S203之后,还包括如下步骤:
步骤S604,与上述步骤S504相同,此时不再重复叙述。
步骤S605,第一服务器接收第三服务器发送的访问转移指示,并确定接收的访问转移指示对应的客户端。
应当说明的是,若上述访问转移指示中包括访问请求的指示信息时,第一服务器则可以根据上述指示信息,确定接收的访问转移指示对应的访问请求,进而根据上述对应的访问请求确定该访问转移指示对应的客户端;若上述访问转移指示中包括客户端标识,则第一服务器根据上述客户端标识,确定上述访问转移指示对应的客户端。
步骤S606,第一服务器将接收的访问转移指示发送给上述确定的客户端。
应当说明的是,图6中仅以客户端X作为第一服务器接收的访问转移指示对应的客户端为例,进行示例性说明,其中,客户端X为客户端1至客户端N中的一个或多个客户端,X为客户端的标号,X的值为大于0小于等于N的正整数。
步骤S607,客户端X接收第一服务器转发的访问转移指示,并根据接收的访问转移指示中的第二服务器身份标识,确定用于响应访问请求的第二服务器。
步骤S608,客户端X向确定的第二服务器发送访问请求。
步骤S609,第二服务器接收客户端X发送的访问请求并处理。
可选地,本申请中的访问转移指示可以为http302信令。
如图7所示,基于同一技术构思,本公开实施例还提供一种访问请求的第三处理装置700,包括访问请求接收单元701、第二服务器确定单元702、处理指示单元703,其中:
上述访问请求接收单元被配置为执行接收第一服务器转移的访问请求,上述第一服务器转移的访问请求为发送至上述第一服务器且需要由其他服务器处理的访问请求;
上述第二服务器确定单元被配置为执行确定第二服务器,上述第二服务器用于响应上述第一服务器转移的访问请求;
上述处理指示单元被配置为执行指示确定的第二服务器对上述第一服务器转移的访问请求进行处理。
可选地,上述处理指示单元具体被配置为执行:
向确定的第二服务器发送上述第一服务器转移的访问请求,指示上述第二服务器响应于上述第一服务器转移的访问请求,返回访问结果。
可选地,上述处理指示单元具体被配置为执行通过如下一种或多种方式,向确定的第二服务器发送上述第一服务器转移的访问请求:
直接向确定的第二服务器发送上述第一服务器转移的访问请求;
通过上述第一服务器向确定的第二服务器发送上述第一服务器转移的访问请求;
通过上述第一服务器通知上述第一服务器转移的访问请求对应的客户端,指示上述客户端向确定的第二服务器发送上述第一服务器转移的访问请求。
可选地,上述处理指示单元还被配置为执行:
通过上述第一服务器向确定的第二服务器发送上述第一服务器转移的访问请求之前,向上述第一服务器发送携带第二服务器身份标识的访问转移指示,上述访问转移指示用于指示上述第一服务器向具有上述第二服务器身份标识的第二服务器发送上述第一服务器转移的访问请求。
可选地,上述第一服务器转移的访问请求是上述第一服务器在满足请求转移条件后,从接收的至少一个客户端发送的访问请求中确定出的待转移的访问请求,上述请求转移条件包括预设时间周期内,上述第一服务器的负载值超过设定负载值。
可选地,上述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
可选地,上述第二服务器确定单元还被配置为执行:
从满足预设访问条件的服务器中选择部分或全部服务器作为上述的第二服务器;
其中,上述预设访问条件包括如下一种或多种:
负载值不超过预设负载值;
访问请求服务质量不低于预设服务质量标注值。
可选地,上述第二服务器确定单元具体被配置为执行:
满足预设访问条件的服务器包括多个时,随机从上述多个服务器中选择部分或全部服务器作为上述第二服务器;或者
满足预设访问条件的服务器包括多个时,随机从上述多个服务器中选择访问请求服务质量排序在指定序位的服务器确定为上述第二服务器。
如图8所示,基于同一技术构思,本公开实施例还提供一种第一电子设备800,该电子设备包括处理器801和存储器802,其中:
存储器802中存储有计算机程序;
处理器801执行该计算机程序时实现前文论述的访问请求的处理方法。
图8中是以一个处理器801为例,但是实际上不限制处理器801的数量。
其中,存储器802可以是易失性存储器(volatile memory),例如随机存取存储器(random-access memory,RAM);存储器也可以是非易失性存储器(non-volatile memory),例如只读存储器,快闪存储器(flash memory),硬盘(hard disk drive,HDD)或固态硬盘(solid-state drive,SSD)、或者存储器是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。存储器802可以是上述存储器的组合。
作为一种实施例,图7中的第三处理装置700的各个模块的功能可以通过图8中的处理器801来实现。
如图9所示,基于同一技术构思,本公开实施例还提供一种访问请求的第一处理装置900,包括访问请求接收单元901、访问请求转移单元902,其中:
上述访问请求接收单元被配置为执行接收至少一个客户端发送的访问请求;
上述访问请求转移单元被配置为执行从上述至少一个客户端发送的访问请求中确定出转移的访问请求,并将上述转移的访问请求发送给第三服务器,上述转移的访问请求为需要由其他服务器处理的访问请求。
可选地,上述转移的访问请求是在满足请求转移条件后,从上述至少一个客户端发送的访问请求中确定出的待转移的访问请求,上述请求转移条件包括预设时间周期内的负载值超过设定负载值。
可选地,上述预设时间周期内的负载值超过设定负载值包括如下一种或多种:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
可选地,上述访问请求转移单元还被配置为执行:
将上述转移的访问请求发送给第三服务器后,若接收到上述第三服务器发送的携带第二服务器身份标识的访问转移指示,则将上述转移的访问请求发送给具有上述第二服务器身份标识的第二服务器,或通知上述转移的访问请求对应的客户端向具有上述第二服务器身份标识的第二服务器发送上述转移的访问请求。
可选地,上述访问请求转移单元具体被配置为执行:
从上述至少一个客户端发送的访问请求中确定出m个访问请求作为上述转移的访问请求,其中,上述m是根据当前时间周期内的负载值确定的,上述m为不小于零的整数。
如图10所示,基于同一技术构思,本公开实施例还提供一种第二电子设备900,该电子设备包括处理器1001和存储器1002,其中:
存储器1002中存储有计算机程序;
处理器1001执行该计算机程序时实现前文论述的访问请求的处理方法。
图10中是以一个处理器1001为例,但是实际上不限制处理器1001的数量。
其中,存储器1002可以是易失性存储器(volatile memory),例如随机存取存储器(random-access memory,RAM);存储器也可以是非易失性存储器(non-volatile memory),例如只读存储器,快闪存储器(flash memory),硬盘(hard disk drive,HDD)或固态硬盘(solid-state drive,SSD)、或者存储器是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。存储器1002可以是上述存储器的组合。
作为一种实施例,图9中的第一处理装置900的各个模块的功能可以通过图10中的处理器1001来实现。
如图11所示,基于同一技术构思,本公开实施例还提供一种访问请求的客户端装置1100,包括访问请求发送单元1101、访问转移单元1102,其中:
上述访问请求发送单元被配置为执行向第一服务器发送访问请求;
上述访问转移单元被配置为执行若接收到上述第一服务器发送的携带第二服务器身份标识的访问转移指示,则将上述访问请求发送给具有上述第二服务器身份标识的第二服务器进行处理,上述访问转移指示用于指示发送至上述第一服务器的访问请求需要由其他服务器进行处理。
可选地,上述访问转移指示是第三服务器接收上述访问请求后发送给上述第一服务器的,其中,上述访问请求是上述第一服务器在满足请求转移条件后发送的,上述请求转移条件包括预设时间周期内,上述第一服务器的负载值超过设定负载值。
可选地,上述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
如图12所示,基于同一技术构思,本公开实施例还提供一种第三电子设备1100,该电子设备包括处理器1201和存储器1202,其中:
存储器1202中存储有计算机程序;
处理器1201执行该计算机程序时实现前文论述的访问请求的处理方法。
图12中是以一个处理器1201为例,但是实际上不限制处理器1201的数量。
其中,存储器1202可以是易失性存储器(volatile memory),例如随机存取存储器(random-access memory,RAM);存储器也可以是非易失性存储器(non-volatile memory),例如只读存储器,快闪存储器(flash memory),硬盘(hard disk drive,HDD)或固态硬盘(solid-state drive,SSD)、或者存储器是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。存储器1202可以是上述存储器的组合。
作为一种实施例,图11中的客户端装置1100的各个模块的功能可以通过图12中的处理器1201来实现。
如图13所示,基于同一技术构思,本公开实施例还提供一种访问请求的第二处理装置1300,包括转移访问请求处理单元1301,其中:
上述转移访问请求处理单元被配置为执行根据第三服务器的指示对第一服务器转移的访问请求进行处理,其中,上述第一服务器转移的访问请求为发送至上述第一服务器且需要由其他服务器处理的访问请求。
可选地,上述转移访问请求处理单元具体被配置为执行:
接收通过第三服务器的指示发送的上述第一服务器转移的访问请求;
响应于接收的上述第一服务器转移的访问请求,返回访问结果。
可选地,上述转移访问请求处理单元具体被配置为执行通过如下一种或多种方式,接收通过第三服务器的指示发送的上述第一服务器转移的访问请求:
接收第三服务器直接发送的上述第一服务器转移的访问请求,其中,上述第一服务器转移的访问请求是上述第一服务器发送给上述第三服务器的;
接收第一服务器根据访问转移指示发送的访问请求,其中,上述访问转移指示是上述第三服务器接收到上述第一服务器转移的访问请求后发送给上述第一服务器的;
接收上述至少一个客户端根据访问转移指示发送的访问请求,其中,上述访问转移指示是上述第三服务器接收到上述第一服务器发送的上述第一服务器转移的访问请求后,通过上述第一服务器发送给上述至少一个客户端的。
可选地,上述第一服务器转移的访问请求是上述第一服务器在满足请求转移条件后,从接收的至少一个客户端发送的访问请求中确定出的待转移的访问请求,上述请求转移条件包括预设时间周期内,上述第一服务器的负载值超过设定负载值。
可选地,上述第一服务器的负载值超过设定负载值包括如下一种或多种情况:
预设时间周期内的带宽占用率超过预设带宽占用率;
预设时间周期内的平均处理器CPU占用率超过预设CPU占用率;
预设时间周期内的平均磁盘占用率超过预设磁盘占用率;
预设时间周期内的平均内存占用率超过预设内存占用率;
预设时间周期内的访问请求的总数量超过第一访问请求数量;
预设时间周期内的访问请求的平均数量超过第二访问请求数量。
如图14所示,基于同一技术构思,本公开实施例还提供一种第四电子设备1400,该电子设备包括处理器1401和存储器1402,其中:
存储器1402中存储有计算机程序;
处理器1401执行该计算机程序时实现前文论述的访问请求的处理方法。
图14中是以一个处理器1401为例,但是实际上不限制处理器1401的数量。
其中,存储器1402可以是易失性存储器(volatile memory),例如随机存取存储器(random-access memory,RAM);存储器也可以是非易失性存储器(non-volatile memory),例如只读存储器,快闪存储器(flash memory),硬盘(hard disk drive,HDD)或固态硬盘(solid-state drive,SSD)、或者存储器是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。存储器1402可以是上述存储器的组合。
作为一种实施例,图13中的第二处理装置1300的各个模块的功能可以通过图14中的处理器1401来实现。
基于同一技术构思,本公开实施例还一种计算机可读存储介质,该计算机可读存储介质存储有计算机指令,当上述计算机指令在计算机上运行时,使得计算机执行如前文论述的访问请求的处理方法。
本领域内的技术人员应明白,本公开的实施例可提供为方法、***、或计算机程序产品。因此,本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本公开是参照根据本公开实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本公开的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本公开范围的所有变更和修改。
显然,本领域的技术人员可以对本公开进行各种改动和变型而不脱离本公开的精神和范围。这样,倘若本公开的这些修改和变型属于本公开权利要求及其等同技术的范围之内,则本公开也意图包含这些改动和变型在内。
Claims (10)
1.一种访问请求的处理方法,其特征在于,应用于第三服务器,包括:
接收第一服务器转移的访问请求,所述第一服务器转移的访问请求为发送至所述第一服务器且需要由其他服务器处理的访问请求;
确定第二服务器,所述第二服务器用于响应所述第一服务器转移的访问请求;
指示确定的第二服务器对所述第一服务器转移的访问请求进行处理。
2.一种访问请求的处理方法,其特征在于,应用于第一服务器,包括:
接收至少一个客户端发送的访问请求;
从所述至少一个客户端发送的访问请求中确定出转移的访问请求,并将所述转移的访问请求发送给第三服务器,所述转移的访问请求为需要由其他服务器处理的访问请求。
3.一种访问请求的处理方法,其特征在于,应用于客户端,包括:
向第一服务器发送访问请求;
若接收到所述第一服务器发送的携带第二服务器身份标识的访问转移指示,则将所述访问请求发送给具有所述第二服务器身份标识的第二服务器进行处理,所述访问转移指示用于指示发送至所述第一服务器的访问请求需要由其他服务器进行处理。
4.一种访问请求的处理方法,其特征在于,应用于第二服务器,包括:
根据第三服务器的指示对第一服务器转移的访问请求进行处理,其中,所述第一服务器转移的访问请求为发送至所述第一服务器且需要由其他服务器处理的访问请求。
5.一种访问请求的第三处理装置,其特征在于,包括访问请求接收单元、第二服务器确定单元、处理指示单元,其中:
所述访问请求接收单元被配置为执行接收第一服务器转移的访问请求,所述第一服务器转移的访问请求为发送至所述第一服务器且需要由其他服务器处理的访问请求;
所述第二服务器确定单元被配置为执行确定第二服务器,所述第二服务器用于响应所述第一服务器转移的访问请求;
所述处理指示单元被配置为执行指示确定的第二服务器对所述第一服务器转移的访问请求进行处理。
6.一种访问请求的第一处理装置,其特征在于,包括访问请求接收单元、访问请求转移单元,其中:
所述访问请求接收单元被配置为执行接收至少一个客户端发送的访问请求;
所述访问请求转移单元被配置为执行从所述至少一个客户端发送的访问请求中确定出转移的访问请求,并将所述转移的访问请求发送给第三服务器,所述转移的访问请求为需要由其他服务器处理的访问请求。
7.一种访问请求的客户端装置,其特征在于,包括访问请求发送单元、访问转移单元,其中:
所述访问请求发送单元被配置为执行向第一服务器发送访问请求;
所述访问转移单元被配置为执行若接收到所述第一服务器发送的携带第二服务器身份标识的访问转移指示,则将所述访问请求发送给具有所述第二服务器身份标识的第二服务器进行处理,所述访问转移指示用于指示发送至所述第一服务器的访问请求需要由其他服务器进行处理。
8.一种访问请求的第二处理装置,其特征在于,包括转移访问请求处理单元,其中:
所述转移访问请求处理单元被配置为执行根据第三服务器的指示对第一服务器转移的访问请求进行处理,其中,所述第一服务器转移的访问请求为发送至所述第一服务器且需要由其他服务器处理的访问请求。
9.一种电子设备,其特征在于,包括处理器、用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行权利要求1或权利要求2或权利要求3或权利要求4所述访问请求的处理方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在计算机上运行时,使得计算机执行权利要求1或权利要求2或权利要求3或权利要求4中任一项所述访问请求的处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910958254.7A CN110769040B (zh) | 2019-10-10 | 2019-10-10 | 一种访问请求的处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910958254.7A CN110769040B (zh) | 2019-10-10 | 2019-10-10 | 一种访问请求的处理方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110769040A true CN110769040A (zh) | 2020-02-07 |
CN110769040B CN110769040B (zh) | 2022-07-29 |
Family
ID=69331687
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910958254.7A Active CN110769040B (zh) | 2019-10-10 | 2019-10-10 | 一种访问请求的处理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110769040B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111371866A (zh) * | 2020-02-26 | 2020-07-03 | 厦门网宿有限公司 | 一种处理业务请求的方法和装置 |
CN113301592A (zh) * | 2021-05-28 | 2021-08-24 | 深圳市吉祥腾达科技有限公司 | 一种路由器优化苹果手机上网体验的网络检测方法 |
CN114095759A (zh) * | 2020-08-03 | 2022-02-25 | 海能达通信股份有限公司 | 一种流媒体重定向方法及相关装置 |
CN115150422A (zh) * | 2021-03-31 | 2022-10-04 | 北京轻舟智航智能技术有限公司 | 数据处理装置和数据处理方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100138540A1 (en) * | 2008-12-02 | 2010-06-03 | Hitachi, Ltd. | Method of managing organization of a computer system, computer system, and program for managing organization |
US20130198388A1 (en) * | 2012-01-26 | 2013-08-01 | Lokahi Solutions, Llc | Distributed information |
CN103841185A (zh) * | 2014-02-24 | 2014-06-04 | 北京二六三企业通信有限公司 | 负载均衡方法和装置 |
CN106060009A (zh) * | 2016-05-12 | 2016-10-26 | 桂林电子科技大学 | 对等网络流媒体点播节点请求转移与缓存替换方法 |
CN108494876A (zh) * | 2018-04-12 | 2018-09-04 | 北京达佳互联信息技术有限公司 | 实现服务灰度发布的方法、装置、插件设备和代理服务器 |
CN109213507A (zh) * | 2018-08-27 | 2019-01-15 | 郑州云海信息技术有限公司 | 一种升级方法及服务器 |
CN109348250A (zh) * | 2018-10-31 | 2019-02-15 | 武汉雨滴科技有限公司 | 一种流媒体数据管理方法 |
CN110247778A (zh) * | 2019-06-17 | 2019-09-17 | 北京达佳互联信息技术有限公司 | 操作***安装方法、装置、电子设备及存储介质 |
-
2019
- 2019-10-10 CN CN201910958254.7A patent/CN110769040B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100138540A1 (en) * | 2008-12-02 | 2010-06-03 | Hitachi, Ltd. | Method of managing organization of a computer system, computer system, and program for managing organization |
US20130198388A1 (en) * | 2012-01-26 | 2013-08-01 | Lokahi Solutions, Llc | Distributed information |
CN103841185A (zh) * | 2014-02-24 | 2014-06-04 | 北京二六三企业通信有限公司 | 负载均衡方法和装置 |
CN106060009A (zh) * | 2016-05-12 | 2016-10-26 | 桂林电子科技大学 | 对等网络流媒体点播节点请求转移与缓存替换方法 |
CN108494876A (zh) * | 2018-04-12 | 2018-09-04 | 北京达佳互联信息技术有限公司 | 实现服务灰度发布的方法、装置、插件设备和代理服务器 |
CN109213507A (zh) * | 2018-08-27 | 2019-01-15 | 郑州云海信息技术有限公司 | 一种升级方法及服务器 |
CN109348250A (zh) * | 2018-10-31 | 2019-02-15 | 武汉雨滴科技有限公司 | 一种流媒体数据管理方法 |
CN110247778A (zh) * | 2019-06-17 | 2019-09-17 | 北京达佳互联信息技术有限公司 | 操作***安装方法、装置、电子设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
彭剑等: "《汽车远程监控诊断***的功能设计和应用研究》", 《万方数据知识服务平台》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111371866A (zh) * | 2020-02-26 | 2020-07-03 | 厦门网宿有限公司 | 一种处理业务请求的方法和装置 |
CN114095759A (zh) * | 2020-08-03 | 2022-02-25 | 海能达通信股份有限公司 | 一种流媒体重定向方法及相关装置 |
CN114095759B (zh) * | 2020-08-03 | 2024-01-12 | 海能达通信股份有限公司 | 一种流媒体重定向方法及相关装置 |
CN115150422A (zh) * | 2021-03-31 | 2022-10-04 | 北京轻舟智航智能技术有限公司 | 数据处理装置和数据处理方法 |
CN113301592A (zh) * | 2021-05-28 | 2021-08-24 | 深圳市吉祥腾达科技有限公司 | 一种路由器优化苹果手机上网体验的网络检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110769040B (zh) | 2022-07-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110769040B (zh) | 一种访问请求的处理方法、装置、设备及存储介质 | |
CN107800768B (zh) | 开放平台控制方法和*** | |
CN110795244B (zh) | 一种任务分配方法、装置、设备及介质 | |
US20180285151A1 (en) | Dynamic load balancing in network interface cards for optimal system level performance | |
CN101815033B (zh) | 负载均衡的方法、设备及*** | |
CN109672711B (zh) | 一种基于反向代理服务器Nginx的http请求处理方法及*** | |
EP3264723B1 (en) | Method, related apparatus and system for processing service request | |
CN107819797B (zh) | 访问请求处理方法和装置 | |
CN113810304A (zh) | 一种负载均衡方法、装置、设备和计算机存储介质 | |
CN109491788B (zh) | 一种虚拟化平台负载均衡实现方法及装置 | |
US10645183B2 (en) | Redirection of client requests to multiple endpoints | |
WO2019144778A1 (zh) | 带宽调整方法、装置、电子设备及计算机可读存储介质 | |
CN107979539A (zh) | 报文处理方法及装置 | |
CN110858986A (zh) | 带宽调整方法、装置、通信设备及计算机可读存储介质 | |
CN111356181A (zh) | 流量转发方法、装置、网络设备和计算机可读存储介质 | |
CN110838987B (zh) | 队列限流方法、存储介质 | |
CN113794650B (zh) | 并发请求的处理方法、计算机设备和计算机可读存储介质 | |
CN111385328B (zh) | 业务请求的处理方法、***及电子设备 | |
WO2020252724A1 (zh) | 日志处理方法、设备及计算机可读存储介质 | |
KR20230073315A (ko) | 리소스 스케줄링 방법 및 시스템, 전자 디바이스, 그리고 컴퓨터 판독 가능 저장 매체 | |
CN109769020B (zh) | Cdn集群加速服务资源管理方法及装置、电子设备和存储介质 | |
CN112260962A (zh) | 一种带宽控制方法及装置 | |
CN108804152B (zh) | 配置参数的调节方法及装置 | |
WO2018164610A1 (en) | Method and control node for managing cloud resources in a communications network | |
CN114422530A (zh) | 流量控制方法、装置和计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |