CN105897836A - 一种回源请求处理方法及装置 - Google Patents
一种回源请求处理方法及装置 Download PDFInfo
- Publication number
- CN105897836A CN105897836A CN201510890400.9A CN201510890400A CN105897836A CN 105897836 A CN105897836 A CN 105897836A CN 201510890400 A CN201510890400 A CN 201510890400A CN 105897836 A CN105897836 A CN 105897836A
- Authority
- CN
- China
- Prior art keywords
- source
- response time
- server
- request
- source server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例提供一种回源请求处理方法及装置,包括:监听节点服务器当前发起的回源请求;根据所述节点服务器获取的各源服务器响应历史回源请求的历史响应时间,预测各源服务器对当前回源请求的趋势响应时间;根据各源服务器对当前回源请求的趋势响应时间,选择用于接收当前回源请求的目标源服务器;将当前回源请求发送至所述目标源服务器。本发明实施例提供的回源请求处理方法及装置,在充分考虑源服务器当前处理能力的情况下,进行回源服务器的选择,从而可保证节点服务器的回源请求响应速度,进而保证用户的使用体验。
Description
技术领域
本发明实施例涉及网络通信技术领域,尤其涉及一种回源请求处理方法及装置。
背景技术
CDN(全称是CONTENT DELIVERY NETWORK,即内容分发网络)是通过在现有的Internet中增加一层新的网络架构,将数据内容发布到最接近用户的网络"边缘"(节点服务器),使用户客户端可以就近取得所需的内容,缩短用户获取数据的响应时间,CDN(全称是CONTENT DELIVERYNETWORK,即内容分发网络)网络架构中包含多个源服务器和多个节点服务器,客户端向一个节点服务器发起数据获取请求,由节点服务器将从源服务器中获取的数据反馈给客户端。
而由于节点服务器不可能获取源服务器中的所有数据,当节点服务器中未缓存用户所需的数据或者缓存数据已经到期时,现有技术中,节点服务器会向最接近的或者经常连接的源服务器发起回源请求,以从选中的源服务器中获取相应的数据并下发给用户客户端。但是当节点服务器选中的源服务器的处理能力较差时,将导致节点服务器回源请求的响应时间过长,进而影响用户体验。
发明内容
本发明实施例提供一种回源请求处理方法及装置,用以解决现有技术中的回源请求处理方式导致回源请求的响应时间过长的技术问题。
本发明实施例提供一种回源请求处理方法,包括:
监听节点服务器当前发起的回源请求;
根据所述节点服务器获取的各源服务器响应历史回源请求的历史响应时间,预测各源服务器对当前回源请求的趋势响应时间;
根据各源服务器对当前回源请求的趋势响应时间,选择用于接收当前回源请求的目标源服务器;
将当前回源请求发送至所述目标源服务器。
本发明实施例提供一种回源请求处理方法,包括:
监听节点服务器向第一源服务器发起的当前回源请求;
根据所述节点服务器获取的所述第一源服务器响应历史回源请求的历史响应时间,预测所述第一源服务器对当前回源请求的趋势响应时间;
如果所述第一源服务器对当前回源请求的趋势响应时间超出预设的响应时间阈值,根据所述节点服务器获取的第二源服务器响应历史回源请求的历史响应时间,预测所述第二源服务器对当前回源请求的趋势响应时间;
如果所述第二源服务器对当前回源请求的趋势响应时间低于所述预设的响应时间阈值,将当前回源请求发送至所述第二源服务器。
本发明实施例提供一种回源请求处理装置,包括:
监听模块,用于监听节点服务器当前发起的回源请求;
数据处理模块,用于根据所述节点服务器获取的各源服务器响应历史回源请求的历史响应时间,预测各源服务器对当前回源请求的趋势响应时间;
调配模块,用于根据各源服务器对当前回源请求的趋势响应时间,选择用于接收当前回源请求的目标源服务器;以及,将当前回源请求发送至所述目标源服务器。
本发明实施例提供一种回源请求处理装置,包括:
监听模块,用于监听节点服务器向第一源服务器发起的当前回源请求;
数据处理模块,用于根据所述节点服务器获取的所述第一源服务器响应历史回源请求的历史响应时间,预测所述第一源服务器对当前回源请求的趋势响应时间;以及,
如果所述第一源服务器对当前回源请求的趋势响应时间超出预设的响应时间阈值,根据所述节点服务器获取的第二源服务器响应历史回源请求的历史响应时间,预测所述第二源服务器对当前回源请求的趋势响应时间;
调配模块,用于如果所述第二源服务器对当前回源请求的趋势响应时间低于所述预设的响应时间阈值,将当前回源请求发送至所述第二源服务器。
本发明实施例提供的回源请求处理方法及装置,根据源服务器对历史回源请求的历史响应时间,预测出源服务器对当前回源请求的趋势响应时间,参考所述趋势响应时间,确定出用于响应当前回源请求的目标源服务器。在充分考虑源服务器当前处理能力的情况下,进行回源服务器的选择,从而可保证节点服务器的回源请求响应速度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明回源请求处理方法流程图;
图2为本发明实施例中预测趋势响应时间的实施例流程图;
图3为本发明实施例中选择目标源服务器的实施例流程图;
图4为本发明回源请求处理方法流程图;
图5为本发明回源请求处理装置结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供的回源请求处理方法及装置,可应用于CDN(全称是CONTENT DELIVERY NETWORK,即内容分发网络)架构中。节点服务器作为CDN(全称是CONTENT DELIVERY NETWORK,即内容分发网络)分发的载体,当其内未缓存用户所需的数据或者缓存数据已经到期时,需要向源服务器发起回源请求。现有技术中,节点服务器的回源请求将发送至由CDN(全称是CONTENT DELIVERY NETWORK,即内容分发网络)网管中心按就近原则调配的源服务器中,回源请求发送后,节点服务器需等待源服务器的响应,而源服务器的响应时间会受到网路状况、负载状况等多方面的影响,如果源服务器的响应时间较长,节点服务器的等待时间也会相应地延长,这势必会影响用户获取数据的速度,例如用户观看视频时将造成视频卡顿,查看网页时将造成加载时间过长等,影响了用户体验。
本发明实施例提供的回源请求处理方法及装置,正是要改变现有的由CDN(全称是CONTENT DELIVERY NETWORK,即内容分发网络)网管中心进行源服务器调配的回源请求处理方式,而由节点服务器侧根据源服务器当前的处理能力,选择最适宜执行回源请求的源服务器,从而节省回源请求的响应时间,进而保证用户体验。
另外,本发明实施例提供的回源请求处理方法及装置,除了可应用于CDN(全称是CONTENT DELIVERY NETWORK,即内容分发网络)架构场景中,还可应用于其它回源请求处理场景中,在此不做限定。
参考图1,本发明实施例提供一种回源请求处理方法,包括:
S101,监听节点服务器当前发起的回源请求;
S102,根据所述节点服务器获取的各源服务器响应历史回源请求的历史响应时间,预测各源服务器对当前回源请求的趋势响应时间;
S103,根据各源服务器对当前回源请求的趋势响应时间,选择用于接收当前回源请求的目标源服务器;
S104,将当前回源请求发送至所述目标源服务器。
其中,步骤S101中节点服务器当前发起的回源请求是指:用户向节点服务器请求获取数据而节点服务器中当前并不存在用户所需的数据时,节点服务器主动发起的回源请求,此时,回源请求的发送对象暂未确定。
在监听到节点服务器发起的回源请求时,步骤S102执行对各源服务器趋势响应时间的预测。所述回源请求的响应时间可定义为:从节点服务器发起回源请求至回源数据完全下发至节点服务器所花费的时间,当然也可以是其它能够反映出源服务器对回源请求处理能力的统计时间,在此不作具体限定。所述历史响应时间、趋势响应时间均可参考此处的定义。
节点服务器对应有至少一个源服务器,为了获得更好的回源请求响应,步骤S103以各源服务器的趋势响应时间作为选择的参考,从而可选择出适合执行回源请求的目标源服务器。至此,可确定出步骤S101中当前回源请求的发送对象,即为目标源服务器。
本实施例提供的回源请求处理方法,在监听到节点服务器发起的回源请求时,根据节点服务器对应的各源服务器的历史响应时间预测出个源服务器的趋势响应时间,并以预测出的各源服务器的趋势响应时间作为依据,确定出适合执行回源请求的目标源服务器,并将节点服务器发起的回源请求发送至目标源服务器。通过预测各源服务器的服务能力,可由节点服务器侧确定更适合执行回源请求的源服务器,从而节省节点服务器的回源请求的响应时间,实现以更快的速度将回源获取的数据下发给用户。
需要说明的是,本实施例中,对各源服务器的趋势响应时间的预测过程并不局限于图1中示出的位于监听节点服务器当前发起的回源请求之后,预测过程还设置在监听节点服务器当前发起的回源请求之前的方案也属于本发明实施例的保护范围。另外,本实施例中的其它步骤也可根据实际需要进行执行顺序的调整,由此衍变所得的技术方案也属于本发明实施例的保护范围。
步骤S102中的预测各源服务器对当前回源请求的趋势响应时间的方式多种多样,以下以若干实施例对各种预测方式进行详细说明。
一个实施例中,所述预测各源服务器对当前回源请求的趋势响应时间,进一步包括:
依据各源服务器对应的历史响应时间分别绘制响应时间拟合曲线,并根据所述响应时间拟合曲线预测各源服务器对当前回源请求的趋势响应时间。
以一个源服务器为例,源服务器执行节点服务器历史发送的多次回源请求的历史响应时间可能为离散的多个数据,通过拟合曲线可将离散的多个数据近似地拟合到反应离线数据规律的一条曲线上,而根据曲线的走向趋势可预测出下一次回源请求的趋势响应时间。本实施例为每个源服务器分别绘制拟合曲线,并根据各源服务器的拟合曲线分别预测各源服务器的趋势响应时间。
本实施例中,拟合曲线可通过执行相关的多种算法获得,本发明对此并不做具体限定。为了获得更准确的趋势响应时间,优选地,可采用卡尔曼滤波算法过滤源服务器对应的历史响应时间中的突发响应时间,将过滤后的历史响应时间拟合生成响应时间拟合曲线;其中,所述突发响应时间为:与在前或在后的响应时间的差值超过预定值的响应时间。
如上文所述,源服务器的历史响应时间为离散的多个数据,这其中可能会存在与其他数据差值明显过大的突发数据,这些突发数据可能是由于源服务器遭遇意外或网络链路遭遇意外而造成的,而这些意外情况都是暂时的,并不是源服务器的正常工作状态,因此,这些突发数据不应作为预测源服务器的趋势响应时间的参考。本实施例中,将源服务器对应的历史响应时间中的突发响应时间进行过滤,从而将上述意外情况进行了排除,以避免上述意外情况影响趋势响应时间的预测结果。
另一个实施例中,参考图2,预测各源服务器对当前回源请求的趋势响应时间的过程,进一步包括:
S1021,根据获取到的各源服务器的连接参数,将所述连接参数转换为延时响应时间;
S1022,根据所述各源服务器对应的历史响应时间和延时响应时间,预测各源服务器对当前回源请求的趋势响应时间;
其中,所述节点服务器的连接参数包括:连接失败率、连接稳定性、负载数量中的一种或多种。
本实施例中,各源服务器的连接参数可与其历史响应时间进行同步获取,也即是在节点服务器向源服务器发起回源请求后,在获取源服务器执行回源请求的响应时间的同时,获取源服务器执行该次回源请求期间的连接参数,例如是否连接失败、回源过程中是否发生过中断、回源过程中源服务器的负载数量等。并将连接参数转换为延时响应时间,转换的策略可根据实际需要进行设定,例如可设定如果该次回源过程中发生过中断,则将该中断转换为5s的延时响应时间;或者该次回源过程中源服务器的负载数量已经超过5个,则将超出的每个负载转换为1s的延时响应时间。
源服务器的延时响应时间和历史响应时间之和将作为单次回源请求的响应数据,并作为预测趋势响应时间的参考。例如,在上文实施例中,以拟合曲线的方式预测趋势响应时间时,可将源服务器的延时响应时间和历史响应时间之和作为用于绘制拟合曲线的数据。因此,本实施例在考虑源服务器对回源请求的实际响应时间的基础上,还综合考虑了影响源服务器对回源请求的响应时间的各种连接参数,并将所述连接参数转换为延时响应时间后,将所述源服务器的延时响应时间和历史响应时间共同作为预测源服务器趋势响应时间的依据,从而可实现更精准的趋势响应时间的预测。
参考图3,以下再以一实施例对步骤S103进行详细说明。
步骤S103中,选择用于接收当前回源请求的目标源服务器的过程,进一步包括:
S1031,筛选获得趋势响应时间未超出预设响应时间阈值的源服务器;
S1032,比较筛选出的所述源服务器的趋势响应时间,并将趋势响应时间最短的源服务器确定为目标源服务器。
其中,所述预设响应时间阈值可根据实际情况进行设定,例如晚间高峰期可将预设响应时间阈值设定为稍高值,以避免由于节点服务器对应的各源服务器的处理量都较大而造成趋势响应时间都超出预设响应时间阈值,进而导致节点服务器无法获得回源请求的有效响应的情况出现。当符合趋势响应时间未超出预设响应时间阈值条件的源服务器有多个时,进一步从符合条件的多个源服务器中挑选出趋势响应时间最短的源服务器作为执行当前回源请求的目标源服务器。
另外,本实施例中趋势响应时间的预测方式可采用上文所述的任一实施例提供的预测方式,依据趋势响应时间从节点服务器对应的多个源服务器中选出最优的源服务器执行回源请求,从而,节点服务器可在最短时间内从目标源服务器中获取数据,并将数据下发给用户,对用户来说,将享受到以最快的速度从节点服务器中获取数据的使用体验。
以下以CDN(全称是CONTENT DELIVERY NETWORK,即内容分发网络)架构作为应用场景对本发明的实施例进行详细地解释。
位于北京的用户A向距离最近的设置在北京的节点服务器请求一部电影数据时,北京的节点服务器中并未缓存该部电影数据,这种情况下,节点服务器会对与其相关的3个源服务器A、B、C的当前处理能力进行预测评估,根据3个源服务器A、B、C的对该节点服务器的历史回源请求的历史响应时间分别预测出3个源服务器A、B、C的趋势响应时间,例如,预测出3个源服务器A、B、C的趋势响应时间分别为5s、3s和8s,其中源服务器C的趋势响应时间超出了预设的响应时间阈值6s,因此,源服务器C将被舍弃,节点服务器可将当前回源请求发送至趋势响应时间最短的源服务器B,或者也可发送至与其地理上最近的源服务器A。通过这种择优连接的方式,可选出最适合执行节点服务器回源请求的源服务器,节点服务器可快速地从源服务器中获取回源数据,并下发给用户A,用户A在观看该部电影时可享受流畅的观影体验。
参考图4,本发明实施例还提供回源请求处理方法,包括:
S201,监听节点服务器向第一源服务器发起的当前回源请求;
S202,根据所述节点服务器获取的所述第一源服务器响应历史回源请求的历史响应时间,预测所述第一源服务器对当前回源请求的趋势响应时间;
S203,如果所述第一源服务器对当前回源请求的趋势响应时间超出预设的响应时间阈值,根据所述节点服务器获取的第二源服务器响应历史回源请求的历史响应时间,预测所述第二源服务器对当前回源请求的趋势响应时间;
S204,如果所述第二源服务器对当前回源请求的趋势响应时间低于所述预设的响应时间阈值,将当前回源请求发送至所述第二源服务器。
其中,步骤S201中,第一源服务器可由节点服务器随机选择,也可基于就近或最经常连接的原则,由CDN(全称是CONTENT DELIVERYNETWORK,即内容分发网络)网络中心进行调配或由节点服务器进行主动选择,还可采用其它策略进行选择,只要能够初步确定出节点服务器发起的当前回源请求的首选源服务器即可,在此不作具体限定。
在节点服务器向第一源服务器发起当前回源请求的同时,步骤S202执行第一源服务器对当前回源请求的趋势响应时间的预测。如果预测的所述第一源服务器的趋势响应时间符合预设的响应时间阈值的要求,则保持节点服务器与所述第一源服务器的回源请求连接,并继续执行回源数据的传输;如果预测的所述第一源服务器的趋势响应时间不符合预设的响应时间阈值的要求,节点服务器将断开与所述第一源服务器的回源请求连接,从与节点服务器相关的其它源服务器中选择第二源服务器进行趋势响应时间的预测,如果第二源服务器的趋势响应时间符合预设的响应时间阈值的要求,则将第二源服务器作为执行回源请求的目标源服务器,如果第二源服务器的趋势响应时间不符合预设的响应时间阈值的要求,则继续从与节点服务器相关的其它源服务器中选择另一源服务器进行趋势响应时间的预测,直至匹配到趋势响应时间符合预设的响应时间阈值的源服务器,并将匹配到的源服务器作为执行回源请求的目标源服务器。
需要说明的是,本实施例中,趋势响应时间的预测方式可采用上述任一实施例中提供的预测各源服务器对当前回源请求的趋势响应时间的预测方案。
参考图5,本发明实施例提供一种回源请求处理装置,包括:
监听模块11,用于监听节点服务器当前发起的回源请求;
数据处理模块12,用于根据所述节点服务器获取的各源服务器响应历史回源请求的历史响应时间,预测各源服务器对当前回源请求的趋势响应时间;
调配模块13,用于根据各源服务器对当前回源请求的趋势响应时间,选择用于接收当前回源请求的目标源服务器;以及,将当前回源请求发送至所述目标源服务器。
其中,监听模块11中节点服务器当前发起的回源请求是指:用户向节点服务器请求获取数据而节点服务器中当前并不存在用户所需的数据时,节点服务器主动发起的回源请求,此时,回源请求的发送对象暂未确定。
在监听到节点服务器发起的回源请求时,数据处理模块12执行对各源服务器趋势响应时间的预测。所述回源请求的响应时间可定义为:从节点服务器发起回源请求至回源数据完全下发至节点服务器所花费的时间,当然也可以是其它能够反映出源服务器对回源请求处理能力的统计时间,在此不作具体限定。所述历史响应时间、趋势响应时间均可参考此处的定义。
节点服务器对应有至少一个源服务器,为了获得更好的回源请求响应,调配模块13以各源服务器的趋势响应时间作为选择的参考,从而可选择出适合执行回源请求的目标源服务器。至此,可确定出监听模块11中当前回源请求的发送对象,即为目标源服务器。
本实施例提供的回源请求处理装置,在监听到节点服务器发起的回源请求时,根据节点服务器对应的各源服务器的历史响应时间预测出个源服务器的趋势响应时间,并以预测出的各源服务器的趋势响应时间作为依据,确定出适合执行回源请求的目标源服务器,并将节点服务器发起的回源请求发送至目标源服务器。通过预测各源服务器的服务能力,可由节点服务器侧确定更适合执行回源请求的源服务器,从而节省节点服务器的回源请求的响应时间,实现以更快的速度将回源获取的数据下发给用户。
数据处理模块12中的预测各源服务器对当前回源请求的趋势响应时间的方式多种多样,以下以若干实施例对各种预测方式进行详细说明。
一个实施例中,所述数据处理模块,进一步用于:
依据各源服务器对应的历史响应时间分别绘制响应时间拟合曲线,并根据所述响应时间拟合曲线预测各源服务器对当前回源请求的趋势响应时间。
以一个源服务器为例,源服务器执行节点服务器历史发送的多次回源请求的历史响应时间可能为离散的多个数据,通过拟合曲线可将离散的多个数据近似地拟合到反应离线数据规律的一条曲线上,而根据曲线的走向趋势可预测出下一次回源请求的趋势响应时间。本实施例为每个源服务器分别绘制拟合曲线,并根据各源服务器的拟合曲线分别预测各源服务器的趋势响应时间。
本实施例中,拟合曲线可通过执行相关的多种算法获得,本发明对此并不做具体限定。为了获得更准确的趋势响应时间,优选地,所述数据处理模块12还用于,采用卡尔曼滤波算法过滤源服务器对应的历史响应时间中的突发响应时间,将过滤后的历史响应时间拟合生成响应时间拟合曲线;其中,所述突发响应时间为:与在前或在后的响应时间的差值超过预定值的响应时间。
如上文所述,源服务器的历史响应时间为离散的多个数据,这其中可能会存在与其他数据差值明显过大的突发数据,这些突发数据可能是由于源服务器遭遇意外或网络链路遭遇意外而造成的,而这些意外情况都是暂时的,并不是源服务器的正常工作状态,因此,这些突发数据不应作为预测源服务器的趋势响应时间的参考。本实施例中,将源服务器对应的历史响应时间中的突发响应时间进行过滤,从而将上述意外情况进行了排除,以避免上述意外情况影响趋势响应时间的预测结果。
另一个实施例中,所述数据处理模块,进一步用于:
根据获取到的各源服务器的连接参数,将所述连接参数转换为延时响应时间;
根据所述各源服务器对应的历史响应时间和延时响应时间,预测各源服务器对当前回源请求的趋势响应时间;
其中,所述节点服务器的连接参数包括:连接失败率、连接稳定性、负载数量中的一种或多种。
本实施例中,各源服务器的连接参数可与其历史响应时间进行由监听模块11进行同步获取,也即是在节点服务器向源服务器发起回源请求后,在获取源服务器执行回源请求的响应时间的同时,获取源服务器执行该次回源请求期间的连接参数,例如是否连接失败、回源过程中是否发生过中断、回源过程中源服务器的负载数量等。并将连接参数转换为延时响应时间,转换的策略可根据实际需要进行设定,例如可设定如果该次回源过程中发生过中断,则将该中断转换为5s的延时响应时间;或者该次回源过程中源服务器的负载数量已经超过5个,则将超出的每个负载转换为1s的延时响应时间。
源服务器的延时响应时间和历史响应时间之和将作为单次回源请求的响应数据,并作为预测趋势响应时间的参考。例如,在上文实施例中,数据处理模块12以拟合曲线的方式预测趋势响应时间时,可将源服务器的延时响应时间和历史响应时间之和作为用于绘制拟合曲线的数据。因此,本实施例在考虑源服务器对回源请求的实际响应时间的基础上,还综合考虑了影响源服务器对回源请求的响应时间的各种连接参数,并将所述连接参数转换为延时响应时间后,将所述源服务器的延时响应时间和历史响应时间共同作为预测源服务器趋势响应时间的依据,从而可实现更精准的趋势响应时间的预测。
以下再以一实施例对调配模块13进行详细说明。
调配模块13,进一步用于:
筛选获得趋势响应时间未超出预设响应时间阈值的源服务器;
比较筛选出的所述源服务器的趋势响应时间,并将趋势响应时间最短的源服务器确定为目标源服务器。
其中,所述预设响应时间阈值可根据实际情况进行设定,例如晚间高峰期可将预设响应时间阈值设定为稍高值,以避免由于节点服务器对应的各源服务器的处理量都较大而造成趋势响应时间都超出预设响应时间阈值,进而导致节点服务器无法获得回源请求的有效响应的情况出现。当符合趋势响应时间未超出预设响应时间阈值条件的源服务器有多个时,进一步从符合条件的多个源服务器中挑选出趋势响应时间最短的源服务器作为执行当前回源请求的目标源服务器。
另外,本实施例中趋势响应时间的预测方式可采用上文所述的任一实施例提供的预测方式,依据趋势响应时间从节点服务器对应的多个源服务器中选出最优的源服务器执行回源请求,从而,节点服务器可在最短时间内从目标源服务器中获取数据,并将数据下发给用户,对用户来说,将享受到以最快的速度从节点服务器中获取数据的使用体验。
本发明实施例还提供一种回源请求处理装置,包括:
监听模块11,用于监听节点服务器向第一源服务器发起的当前回源请求;
数据处理模块12,用于根据所述节点服务器获取的所述第一源服务器响应历史回源请求的历史响应时间,预测所述第一源服务器对当前回源请求的趋势响应时间;以及,
如果所述第一源服务器对当前回源请求的趋势响应时间超出预设的响应时间阈值,根据所述节点服务器获取的第二源服务器响应历史回源请求的历史响应时间,预测所述第二源服务器对当前回源请求的趋势响应时间;
调配模块13,用于如果所述第二源服务器对当前回源请求的趋势响应时间低于所述预设的响应时间阈值,将当前回源请求发送至所述第二源服务器。
其中,监听模块11中,第一源服务器可由节点服务器随机选择,也可基于就近或最经常连接的原则,由CDN(全称是CONTENT DELIVERYNETWORK,即内容分发网络)网络中心进行调配或由节点服务器进行主动选择,还可采用其它策略进行选择,只要能够初步确定出节点服务器发起的当前回源请求的首选源服务器即可,在此不作具体限定。
在节点服务器向第一源服务器发起当前回源请求的同时,数据处理模块12执行第一源服务器对当前回源请求的趋势响应时间的预测。如果预测的所述第一源服务器的趋势响应时间符合预设的响应时间阈值的要求,则调配模块13将保持节点服务器与所述第一源服务器的回源请求连接,并继续执行回源数据的传输;如果预测的所述第一源服务器的趋势响应时间不符合预设的响应时间阈值的要求,调配模块13将控制节点服务器断开与所述第一源服务器的回源请求连接,数据处理模块12则从与节点服务器相关的其它源服务器中选择第二源服务器进行趋势响应时间的预测,如果第二源服务器的趋势响应时间符合预设的响应时间阈值的要求,则调配模块13将第二源服务器作为执行回源请求的目标源服务器,如果第二源服务器的趋势响应时间不符合预设的响应时间阈值的要求,则继续从与节点服务器相关的其它源服务器中选择另一源服务器进行趋势响应时间的预测,直至匹配到趋势响应时间符合预设的响应时间阈值的源服务器,并将匹配到的源服务器作为执行回源请求的目标源服务器。
需要说明的是,本实施例中,趋势响应时间的预测方式可采用上述任一实施例中提供的预测各源服务器对当前回源请求的趋势响应时间的预测方案。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (12)
1.一种回源请求处理方法,其特征在于,包括:
监听节点服务器当前发起的回源请求;
根据所述节点服务器获取的各源服务器响应历史回源请求的历史响应时间,预测各源服务器对当前回源请求的趋势响应时间;
根据各源服务器对当前回源请求的趋势响应时间,选择用于接收当前回源请求的目标源服务器;
将当前回源请求发送至所述目标源服务器。
2.根据权利要求1所述的方法,其特征在于,所述预测各源服务器对当前回源请求的趋势响应时间,进一步包括:
根据获取到的各源服务器的连接参数,将所述连接参数转换为延时响应时间;
根据所述各源服务器对应的历史响应时间和延时响应时间,预测各源服务器对当前回源请求的趋势响应时间;
其中,所述节点服务器的连接参数包括:连接失败率、连接稳定性、负载数量中的一种或多种。
3.根据权利要求1所述的方法,其特征在于,所述预测各源服务器对当前回源请求的趋势响应时间,进一步包括:
依据各源服务器对应的历史响应时间分别绘制响应时间拟合曲线,并根据所述响应时间拟合曲线预测各源服务器对当前回源请求的趋势响应时间。
4.根据权利要求3所述的方法,其特征在于,依据各源服务器对应的历史响应时间分别绘制响应时间拟合曲线,进一步包括:
采用卡尔曼滤波算法过滤源服务器对应的历史响应时间中的突发响应时间,将过滤后的历史响应时间拟合生成响应时间拟合曲线;
其中,所述突发响应时间为:与在前或在后的响应时间的差值超过预定值的响应时间。
5.根据权利要求1所述的方法,其特征在于,根据各源服务器对当前回源请求的趋势响应时间,选择用于接收当前回源请求的目标源服务器,进一步包括:
筛选获得趋势响应时间未超出预设响应时间阈值的源服务器;
比较筛选出的所述源服务器的趋势响应时间,并将趋势响应时间最短的源服务器确定为目标源服务器。
6.一种回源请求处理方法,其特征在于,包括:
监听节点服务器向第一源服务器发起的当前回源请求;
根据所述节点服务器获取的所述第一源服务器响应历史回源请求的历史响应时间,预测所述第一源服务器对当前回源请求的趋势响应时间;
如果所述第一源服务器对当前回源请求的趋势响应时间超出预设的响应时间阈值,根据所述节点服务器获取的第二源服务器响应历史回源请求的历史响应时间,预测所述第二源服务器对当前回源请求的趋势响应时间;
如果所述第二源服务器对当前回源请求的趋势响应时间低于所述预设的响应时间阈值,将当前回源请求发送至所述第二源服务器。
7.一种回源请求处理装置,其特征在于,包括:
监听模块,用于监听节点服务器当前发起的回源请求;
数据处理模块,用于根据所述节点服务器获取的各源服务器响应历史回源请求的历史响应时间,预测各源服务器对当前回源请求的趋势响应时间;
调配模块,用于根据各源服务器对当前回源请求的趋势响应时间,选择用于接收当前回源请求的目标源服务器;以及,将当前回源请求发送至所述目标源服务器。
8.根据权利要求7所述的装置,其特征在于,所述数据处理模块,进一步用于:
根据获取到的各源服务器的连接参数,将所述连接参数转换为延时响应时间;
根据所述各源服务器对应的历史响应时间和延时响应时间,预测各源服务器对当前回源请求的趋势响应时间;
其中,所述节点服务器的连接参数包括:连接失败率、连接稳定性、负载数量中的一种或多种。
9.根据权利要求7所述的装置,其特征在于,所述数据处理模块,进一步用于:
依据各源服务器对应的历史响应时间分别绘制响应时间拟合曲线,并根据所述响应时间拟合曲线预测各源服务器对当前回源请求的趋势响应时间。
10.根据权利要求9所述的装置,其特征在于,所述数据处理模块,进一步用于:
采用卡尔曼滤波算法过滤源服务器对应的历史响应时间中的突发响应时间,将过滤后的历史响应时间拟合生成响应时间拟合曲线;
其中,所述突发响应时间为:与在前或在后的响应时间的差值超过预定值的响应时间。
11.根据权利要求7所述的装置,其特征在于,所述调配模块,进一步用于:
筛选获得趋势响应时间未超出预设响应时间阈值的源服务器;
比较筛选出的所述源服务器的趋势响应时间,并将趋势响应时间最短的源服务器确定为目标源服务器。
12.一种回源请求处理装置,其特征在于,包括:
监听模块,用于监听节点服务器向第一源服务器发起的当前回源请求;
数据处理模块,用于根据所述节点服务器获取的所述第一源服务器响应历史回源请求的历史响应时间,预测所述第一源服务器对当前回源请求的趋势响应时间;以及,
如果所述第一源服务器对当前回源请求的趋势响应时间超出预设的响应时间阈值,根据所述节点服务器获取的第二源服务器响应历史回源请求的历史响应时间,预测所述第二源服务器对当前回源请求的趋势响应时间;
调配模块,用于如果所述第二源服务器对当前回源请求的趋势响应时间低于所述预设的响应时间阈值,将当前回源请求发送至所述第二源服务器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510890400.9A CN105897836A (zh) | 2015-12-07 | 2015-12-07 | 一种回源请求处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510890400.9A CN105897836A (zh) | 2015-12-07 | 2015-12-07 | 一种回源请求处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105897836A true CN105897836A (zh) | 2016-08-24 |
Family
ID=57002915
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510890400.9A Pending CN105897836A (zh) | 2015-12-07 | 2015-12-07 | 一种回源请求处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105897836A (zh) |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106357783A (zh) * | 2016-09-29 | 2017-01-25 | 北京奇艺世纪科技有限公司 | 一种边缘节点分配方法及装置 |
CN106375471A (zh) * | 2016-09-29 | 2017-02-01 | 北京奇艺世纪科技有限公司 | 一种边缘节点确定方法及装置 |
CN106550019A (zh) * | 2016-10-20 | 2017-03-29 | 福建天泉教育科技有限公司 | 浏览器请求处理方法及*** |
CN106656674A (zh) * | 2016-12-29 | 2017-05-10 | 北京爱奇艺科技有限公司 | 一种数据回源的调度方法及装置 |
CN107317879A (zh) * | 2017-08-02 | 2017-11-03 | 网宿科技股份有限公司 | 一种用户请求的分发方法及*** |
CN107613025A (zh) * | 2017-10-31 | 2018-01-19 | 武汉光迅科技股份有限公司 | 一种基于消息队列顺序回复的实现方法和装置 |
CN107707938A (zh) * | 2017-10-11 | 2018-02-16 | 湖南机友科技有限公司 | 降低直播视频播放延迟的方法及装置 |
CN108390955A (zh) * | 2018-05-09 | 2018-08-10 | 网宿科技股份有限公司 | 域名获取方法、网站访问方法及服务器 |
CN108810052A (zh) * | 2017-05-03 | 2018-11-13 | 华为技术有限公司 | 直播服务器的选择方法及装置 |
CN109600415A (zh) * | 2018-10-23 | 2019-04-09 | 平安科技(深圳)有限公司 | 从多个源服务器获取目标数据的方法、装置和计算机设备 |
CN110099134A (zh) * | 2018-09-26 | 2019-08-06 | 深圳市网心科技有限公司 | 视频文件下载方法、装置、电子设备及存储介质 |
CN110311987A (zh) * | 2019-07-24 | 2019-10-08 | 中南民族大学 | 微服务器的节点调度方法、装置、设备及存储介质 |
CN110636104A (zh) * | 2019-08-07 | 2019-12-31 | 咪咕视讯科技有限公司 | 一种资源请求方法、电子设备及存储介质 |
CN110719273A (zh) * | 2019-09-29 | 2020-01-21 | 咪咕视讯科技有限公司 | 回源节点的确定方法、服务器及计算机可读存储介质 |
CN110825525A (zh) * | 2019-11-06 | 2020-02-21 | 湖南快乐阳光互动娱乐传媒有限公司 | 数据资源回源方法及装置 |
CN111052104A (zh) * | 2017-08-25 | 2020-04-21 | 国际商业机器公司 | 服务器请求管理 |
CN112653736A (zh) * | 2020-12-10 | 2021-04-13 | 北京金山云网络技术有限公司 | 一种并行回源方法、装置及电子设备 |
CN112866060A (zh) * | 2021-01-25 | 2021-05-28 | 湖南快乐阳光互动娱乐传媒有限公司 | 服务器响应时长获取方法及装置 |
CN113132133A (zh) * | 2019-12-31 | 2021-07-16 | ***通信集团陕西有限公司 | 分发用户配置数据的方法、装置、计算设备及存储介质 |
CN117555309A (zh) * | 2024-01-12 | 2024-02-13 | 北京中航泰瑞电子技术有限公司 | 多路开关控制优化方法及*** |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102368776A (zh) * | 2011-11-25 | 2012-03-07 | 中国科学技术大学 | 一种内容分发网络中节点列表的优化功能模块 |
CN102868935A (zh) * | 2012-08-24 | 2013-01-09 | 乐视网信息技术(北京)股份有限公司 | 在内容分发网络中响应多源的调度方法 |
CN102970381A (zh) * | 2012-12-21 | 2013-03-13 | 网宿科技股份有限公司 | 基于内容分发网络按比重轮询的多源负载均衡方法和*** |
CN103546590A (zh) * | 2013-10-18 | 2014-01-29 | 北京奇虎科技有限公司 | 一种dns服务器的选择方法与装置 |
US20150089352A1 (en) * | 2013-09-25 | 2015-03-26 | Akamai Technologies, Inc. | Key Resource Prefetching Using Front-End Optimization (FEO) Configuration |
-
2015
- 2015-12-07 CN CN201510890400.9A patent/CN105897836A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102368776A (zh) * | 2011-11-25 | 2012-03-07 | 中国科学技术大学 | 一种内容分发网络中节点列表的优化功能模块 |
CN102868935A (zh) * | 2012-08-24 | 2013-01-09 | 乐视网信息技术(北京)股份有限公司 | 在内容分发网络中响应多源的调度方法 |
CN102970381A (zh) * | 2012-12-21 | 2013-03-13 | 网宿科技股份有限公司 | 基于内容分发网络按比重轮询的多源负载均衡方法和*** |
US20150089352A1 (en) * | 2013-09-25 | 2015-03-26 | Akamai Technologies, Inc. | Key Resource Prefetching Using Front-End Optimization (FEO) Configuration |
CN103546590A (zh) * | 2013-10-18 | 2014-01-29 | 北京奇虎科技有限公司 | 一种dns服务器的选择方法与装置 |
Cited By (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106375471A (zh) * | 2016-09-29 | 2017-02-01 | 北京奇艺世纪科技有限公司 | 一种边缘节点确定方法及装置 |
CN106357783A (zh) * | 2016-09-29 | 2017-01-25 | 北京奇艺世纪科技有限公司 | 一种边缘节点分配方法及装置 |
CN106357783B (zh) * | 2016-09-29 | 2019-06-14 | 北京奇艺世纪科技有限公司 | 一种边缘节点分配方法及装置 |
CN106550019A (zh) * | 2016-10-20 | 2017-03-29 | 福建天泉教育科技有限公司 | 浏览器请求处理方法及*** |
CN106656674A (zh) * | 2016-12-29 | 2017-05-10 | 北京爱奇艺科技有限公司 | 一种数据回源的调度方法及装置 |
CN108810052A (zh) * | 2017-05-03 | 2018-11-13 | 华为技术有限公司 | 直播服务器的选择方法及装置 |
CN108810052B (zh) * | 2017-05-03 | 2020-09-04 | 华为技术有限公司 | 直播服务器的选择方法及装置 |
CN107317879A (zh) * | 2017-08-02 | 2017-11-03 | 网宿科技股份有限公司 | 一种用户请求的分发方法及*** |
CN107317879B (zh) * | 2017-08-02 | 2019-07-05 | 网宿科技股份有限公司 | 一种用户请求的分发方法及*** |
CN111052104B (zh) * | 2017-08-25 | 2023-12-19 | 国际商业机器公司 | 服务器请求管理 |
CN111052104A (zh) * | 2017-08-25 | 2020-04-21 | 国际商业机器公司 | 服务器请求管理 |
CN107707938A (zh) * | 2017-10-11 | 2018-02-16 | 湖南机友科技有限公司 | 降低直播视频播放延迟的方法及装置 |
CN107707938B (zh) * | 2017-10-11 | 2020-12-08 | 湖南机友科技有限公司 | 降低直播视频播放延迟的方法及装置 |
CN107613025A (zh) * | 2017-10-31 | 2018-01-19 | 武汉光迅科技股份有限公司 | 一种基于消息队列顺序回复的实现方法和装置 |
CN108390955A (zh) * | 2018-05-09 | 2018-08-10 | 网宿科技股份有限公司 | 域名获取方法、网站访问方法及服务器 |
CN110099134A (zh) * | 2018-09-26 | 2019-08-06 | 深圳市网心科技有限公司 | 视频文件下载方法、装置、电子设备及存储介质 |
CN110099134B (zh) * | 2018-09-26 | 2022-04-01 | 深圳市网心科技有限公司 | 视频文件下载方法、装置、电子设备及存储介质 |
CN109600415A (zh) * | 2018-10-23 | 2019-04-09 | 平安科技(深圳)有限公司 | 从多个源服务器获取目标数据的方法、装置和计算机设备 |
CN110311987A (zh) * | 2019-07-24 | 2019-10-08 | 中南民族大学 | 微服务器的节点调度方法、装置、设备及存储介质 |
CN110636104A (zh) * | 2019-08-07 | 2019-12-31 | 咪咕视讯科技有限公司 | 一种资源请求方法、电子设备及存储介质 |
CN110719273A (zh) * | 2019-09-29 | 2020-01-21 | 咪咕视讯科技有限公司 | 回源节点的确定方法、服务器及计算机可读存储介质 |
CN110825525A (zh) * | 2019-11-06 | 2020-02-21 | 湖南快乐阳光互动娱乐传媒有限公司 | 数据资源回源方法及装置 |
CN110825525B (zh) * | 2019-11-06 | 2022-06-07 | 湖南快乐阳光互动娱乐传媒有限公司 | 数据资源回源方法及装置 |
CN113132133A (zh) * | 2019-12-31 | 2021-07-16 | ***通信集团陕西有限公司 | 分发用户配置数据的方法、装置、计算设备及存储介质 |
CN113132133B (zh) * | 2019-12-31 | 2023-08-15 | ***通信集团陕西有限公司 | 分发用户配置数据的方法、装置、计算设备及存储介质 |
CN112653736A (zh) * | 2020-12-10 | 2021-04-13 | 北京金山云网络技术有限公司 | 一种并行回源方法、装置及电子设备 |
CN112866060A (zh) * | 2021-01-25 | 2021-05-28 | 湖南快乐阳光互动娱乐传媒有限公司 | 服务器响应时长获取方法及装置 |
CN112866060B (zh) * | 2021-01-25 | 2022-05-17 | 湖南快乐阳光互动娱乐传媒有限公司 | 服务器响应时长获取方法及装置 |
CN117555309A (zh) * | 2024-01-12 | 2024-02-13 | 北京中航泰瑞电子技术有限公司 | 多路开关控制优化方法及*** |
CN117555309B (zh) * | 2024-01-12 | 2024-03-29 | 北京中航泰瑞电子技术有限公司 | 多路开关控制优化方法及*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105897836A (zh) | 一种回源请求处理方法及装置 | |
CN105052080B (zh) | 用于提供思考直径网络架构的方法、***和计算机可读介质 | |
CN106452958B (zh) | 一种流量控制方法、***及集中控制器 | |
EP2913978A1 (en) | Business scheduling method and apparatus and convergence device | |
CN110505155B (zh) | 请求降级处理方法、装置、电子设备及存储介质 | |
US10993127B2 (en) | Network slice instance management method, apparatus, and system | |
EP3547625B1 (en) | Method and system for sending request for acquiring data resource | |
CN112269641B (zh) | 一种调度方法、装置、电子设备及存储介质 | |
CN109672711B (zh) | 一种基于反向代理服务器Nginx的http请求处理方法及*** | |
CN110166524B (zh) | 数据中心的切换方法、装置、设备及存储介质 | |
EP3465985B1 (en) | A method and system for distributed control of large photonic switched networks | |
US10476746B2 (en) | Network management method, device, and system | |
CN106034153A (zh) | 带宽资源分配方法、数据传输方法、装置及*** | |
CN103905337A (zh) | 一种网络资源的处理装置、方法和*** | |
KR20170126408A (ko) | 네트워크를 자동적으로 관리하는 방법 및 장치 | |
CN114844912B (zh) | 数据链路分配方法、装置及分布式块存储*** | |
CN103124436B (zh) | 一种无线通讯***、云虚拟基站和资源调度方法 | |
WO2011024930A1 (ja) | コンテンツ配信システム、コンテンツ配信方法及びコンテンツ配信用プログラム | |
US9363199B1 (en) | Bandwidth management for data services operating on a local network | |
EP2849389A2 (en) | Method and apparatus for allocating bandwidth resources | |
CN114168312A (zh) | 一种分布式集群负载均衡方法、装置及存储介质 | |
CN103905341B (zh) | 资源调度方法、装置及*** | |
CN110995802A (zh) | 任务的处理方法和装置、存储介质及电子装置 | |
JP5829230B2 (ja) | 管理システム及び管理方法 | |
EP3435615B1 (en) | Network service implementation method, service controller, and communication system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20160824 |