CN102439934A

CN102439934A - 一种cdn中边缘服务器的多级缓存管理方法与***

Info

Publication number: CN102439934A
Application number: CN2011800004914A
Authority: CN
Inventors: 陆海翔; 万华林
Original assignee: Huawei Technologies Co Ltd
Current assignee: Huawei Technologies Co Ltd
Priority date: 2011-01-24
Filing date: 2011-01-24
Publication date: 2012-05-02
Also published as: WO2011143946A1

Abstract

一种内容传送网络CDN中边缘服务器的多级缓存管理方法与***，所述方法包括：从中心服务器获取待存储的内容；根据预设策略为待存储的内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中。该方案基于边缘服务的多级缓存，对缓存内容的部署进行集中控制管理，使内容的初始部署和内容的迁移更加灵活，充分发挥了多级缓存的性能。

Description

一种 CDN中边缘服务器的多级缓存管理方法与*** 技术领域

本发明涉及通信技术领域，特别涉及一种 CDN ( Content Delivery Network, 内容传送网络）中边缘服务器的多级缓存管理方法与***。

背景技术

CD 技术

目前互联网的网络拥塞程度日益严重，如何缓解网络拥塞，提高用户获取信息的速度，成为困扰众多企业和服务商的一大难题。依靠增加带宽来解决这一问题是一个方面，另外它还受到传输途中的路由阻塞和延迟、网站服务器的处理能力等因素的影响，这些和访问者与网站服务器之间的距离有密切的关系。因此，即使各个 ISP将网络带宽加大后，如果访问者和网站之间的距离较远，它们之间的通信一样需要经过重重的路由转发和处理，网络延误不可避免。而用户对网络***性能的要求越来越高（如对访问的响应时间、网站内容和服务提供的可靠性等的要求），因此， CDN ( Content Delivery Network, 内容传送网络）技术应运而生。

CDN也称为 MDN (Media Delivery Network, 媒体传送网络），是建立在现有 IP 网络基础结构之上的一种增值网络，是在应用层部署的一种网络架构。提供 CDN技术产品的厂商有各自的解决方案， CDN运营商的实现方式也不同，但 CDN技术实现的功能是相同的，那就是将多点负载均衡、路由或缓存技术结合起来，利用智能分配技术，将内容根据来访用户的地点，按照就近访问的原则分配到多个节点。

在传统的 IP 网络中，用户请求直接指向基于网络地址的原始服务器，而 CDN业务提供了一个服务层，补充和延伸了 Internet网络，把频繁访问的内容尽可能向用户推进，提供了基于内容进行流量转发的新能力，把路由导引到最佳服务器上。

在 CDN技术出现的最初阶段，主要是用于传统的 Web静态内容访问加速，随着互联网技术和多媒体技术的不断发展，图形、音频、视频服务所占的比重越来越大。流媒体业务的出现使得在互联网中传播多媒体信息成为可能。由于传输流媒体占用的带宽大、持续时间长，而服务器端的可利用的网络带宽有限，所以即使是使用高档服务器，其***容量也不过几百个客户，根本就不具有经济规模性。另外，如果客户机距服务器较远，则流媒体传输过程中的延迟、抖动、带宽、丢包率等指标也将更加不确定，不能保证 QOSo CDN技术成为一种有效传输流媒体的解决方案。

图 1为 CDN网络架构图，如图 1所示，中心服务器 10通过连接多个边缘服务器 20，每个边缘服务器下面连接多个终端设备 30; 通过将用户经常访问的内容存储于离用户较近的边缘服务器 20，从而提高用户的内容访问速度。

Cache技术

Cache技术，即缓存技术，最早来自处理器的设计，即采用一种高速缓冲存储器，来解决 CPU和主存之间速度不匹配的一项技术。为了减少网络通信量、服务器负载和用户延迟， Cache技术被引入了 World Wide Web 中，在 Web应用中， Cache通过缓存页面的输出结果，可以很显著的改善 ***运行性能。同样， CDN ( Content Delivery Network ) 的关键技术也是 Cache, 通过把热点内容，包括网页、图片、音视频等，缓存到离用户比较近的边缘服务器上，这样，一方面可以减轻中心服务器的负载，减少骨干网带宽占用，同时加速对用户的响应，提升用户体验。

Cache 的关键问题是如何提高 Cache 的命中率问题，即如何让有限的 Cache空间满足更多的用户访问请求的问题。影响 Cache命中率的因素很多，包括用户访问模式、 Cache替换算法、 Cache 的空间大小、缓存的对象的大小等等。用户访问模式即用户访问行为的规律研究，如：用户 web对象的访问比较符合时间局部特性，即当前访问的对象在不久的将来很可能再次被访问到，再如： IPTV的访问可能比较符合 2/8原则，即 20%的用户访问 80%的内容等。 Cache替换算法是当 Cache空间满的时候根据什么样的原则进行内容替换，所以 cache替换算法同用户访问模式是紧密相关的。另夕卜， Cache 的空间大小、缓存的对象的大小也会影响 Cache命中率， Cache 越大命中率相对越高，缓存对象越大命中率相对下降。 Cache的另一个问题是如何保证一致性的问题，即 Cache中缓存的对象如果在源服务器发生了改变，这时 Cache中的对象就是无效的，对于用户的访问请求需要重新从源服务器获取。

Cache对于所缓存对象的管理，通常是使用对象的 URI (统一资源标志符： Uniform Resource Identifier) 或者是对该 URI经过一定的运算后得到的值（如 MD5码）作为标志符来进行管理的，即收到用户对象请求的 URI, 直接或间接（运算后）的在 Cache管理结构中进行匹配，匹配上说明该对象已经缓存，如果缓存对象有效，可以直接通过缓存响应用户请求，否则，需要从源服务器获取该对象响应用户，同时缓存该对象。

固态硬盘技术

固态硬盘（Solid State Disk或 Solid State Drive) ，也称作电子硬盘或者固态电子盘，是由控制单元和固态存储单元（DRAM或 FLASH芯片）组成的硬盘。由于固态硬盘没有普通硬盘的旋转介质，因而抗震性极佳。固态硬盘的存储介质分为两种，一种是采用闪存（FLASH芯片）作为存储介质，另外一种是采用 DRAM作为存储介质。固态硬盘相比传统机械硬盘有以下优势：

存取速度方面： SSD 固态硬盘采用闪存作为存储介质，读取速度相对机械硬盘更快，而且寻道时间几乎为 0，这样的特质在作为***盘时候，可以明显加快操作***启动速度和软件启动速度。

抗震性能方面： SSD 固态硬盘由于完全没有机械结构，所以不怎么怕震动和冲击，不用担心因为震动造成无可避免的数据损失。

发热功耗方面： SSD 固态硬盘不同于传统硬盘，不存在盘片的高速旋转，所以发热也明显低于机械硬盘，而且 FLASH芯片的功耗极低，这对于笔记本用户来说，意味着电池续航时间的增加。

使用噪音方面： SSD 固态硬盘没有盘体机构，不存在磁头臂寻道的声音和高速旋转时候的噪音，所以 SSD工作时候完全不会产生噪音。

不过，虽然固态硬盘性能非常诱人、优点也极多，但价格、容量以及有限的数据读取擦写次数限制等缺点也同样不容小视：

写入速度问题：写入速度是目前大多数 SSD固态硬盘产品的瓶颈，尤其是对于小文件的写入速度还远远不足，这和闪存芯片本身的特质有关。

使用寿命问题：闪存芯片是有寿命的，其平均工作寿命要远远低于机械硬盘，这给固态硬盘作为存储介质带来了一定的风险。

性价比问题：目前固态硬盘的价格还是较为昂贵，折合到每 G单价要几十倍于传统硬盘，并不是普通消费者能够承受的。

边缘存储技术

缓存内容存储于边缘服务器上（Edge Server) ，边缘服务器的存储容量通常小于中心服务器（Center Server) 。边缘服务器的存储介质可以使用各种性质和接口速率的存储介质，例如内存， SSD, HDD。内存、 SSD存储介质相对 HDD硬盘来说存取速度快，性能高，但是价格昂贵； HDD硬盘性能相对较低，但是价格便宜。 CDN服务商出于成本和性能的均衡考虑，可能会选用多种不同的存储介质混合使用。

边缘服务器使用多级存储作为中心服务器的缓存，就涉及到多级缓存之间的协作和对缓存内容的控制。一般的方法是使用大量便宜的存储介质作为主存储介质，使用高性能存储介质作为主存储介质的高速缓存，提升***整体性能。多级缓存的内容通过多个逻辑控制器进行管理，对于缓存内容的查询和请求是尝试性的，对于内容的查询先询问一级，如果没有再询问二级。示意流程见图 2所示。

多级缓存之间的内容可以是互斥的（一级缓存和二级缓存上的内容不同），也可以是包含的（一级缓存内容是二级缓存内容的一部分）。多级缓存之间的协作，是通过多个逻辑控制器之间的信令交互完成的。当缓存内容从一级缓存移动到二级缓存时，由一级缓存控制器发送命令给二级缓存控制器通知其缓存内容，同时将内容从一级缓存上删除。

现有技术的缺点：目前使用混合存储介质作为边缘服务器的缓存方案一般管理策略单调，对于内容的初始部署和内容的迁移都不灵活，不能充分发挥多级缓存的性能。

发明内容

本发明实施例提供了一种 CDN中边缘服务器的多级缓存管理方法与系统，通过灵活的策略管理多级缓存***，充分发挥多级缓存***的性能。

为实现上述发明目的，本发明实施例提供一种内容传送网络 CDN中边缘服务器的多级缓存管理方法，所述方法包括：从中心服务器获取待存储的内容；根据预设策略为待存储的内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中。

本发明实施例还提供一种 CDN中边缘服务器的多级缓存管理方法，所述方法包括：接收用户的内容请求，所述请求中包含用户需要获取的内容信息；判断所述内容是否存在于所述多级缓存中；如果不存在，则从中心服务器获取所述内容，根据预设策略为所述内容分配对应级别的缓存，并将所述内容存入对应级别的缓存中；将存储的所述内容传输给所述用户。

本发明实施例还提供一种 CDN中边缘服务器的多级缓存管理***，所述***包括：控制器以及与所述控制器连接的多级缓存；所述控制器包括：接收单元，用于接收用户的内容请求，所述请求中包含用户需要获取的内容信息；处理单元，用于判断所述内容是否存在于所述多级缓存中；如果不存在，则从中心服务器获取所述内容，根据预设策略为所述内容分配对应级别的缓存，并将所述内容存入对应级别的缓存中；发送单元，用于将存储的所述内容传输给所述用户。本发明实施例还提供一种 CDN中边缘服务器的多级缓存管理***，所述***包括：控制器以及与所述控制器连接的多级缓存；所述控制器包括：获取单元，用于从中心服务器获取待存储的内容；分配单元，用于根据预设策略为待存储的内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中。

本发明实施例提出的一种 CDN中边缘服务器的多级缓存管理方法与系统，对多级缓存内容的部署进行集中控制管理，使内容的初始部署和内容的迁移更加灵活，充分发挥了多级缓存的性能。

附图说明

图 1为现有技术的 CDN网络架构图；

图 2为现有技术的多级缓存管理流程图；

图 3为本发明实施例的***功能架构图；

图 4为本发明实施例中 CDN边缘服务器的多级缓存管理方法流程图之图 5为本发明实施例中 CDN边缘服务器的多级缓存管理方法流程图之图 6为本发明实施例在***运行过程中的新内容部署流程图；图 7为本发明实施例多级缓存介质上的内容位置调整流程图；图 8为本发明实施例在***运行过程中缓存管理的整体流程图；图 9为本发明实施例分配视频被观看概率的柱状对比图；

图 10为本发明实施例分配视频被观看概率的计算原理示意图；图 11为本发明实施例控制器 201的功能框图之一；

图 12为本发明实施例控制器 201的功能框图之二。

具体实施方式

本发明实施例提供一种 CDN中边缘服务器（Edge Server) 的多级缓存管理方法与***，该方法与***通过控制器统一管理多级缓存，以提升*** 整体性能。具体地，边缘服务器的缓存***包括多级缓存以及控制器，数据从中心服务器进入各级缓存以及数据在各级缓存介质之间的流动由控制器控制；用户直接向控制器进行一次查询请求就可以确定内容是否存在于多级缓存***中，以及具体存在的位置；当用户请求的内容不存在时，由控制器从中心服务器获取请求的内容，并依据预设的策略将该内容分配给相应级别的缓存进行存储。整个***功能架构图如图 3所示（粗线条表示数据流，细线条表示信令流）。

本发明实施例的内容包括文本、图像、音乐、视频等等，视频内容一般会分成多个片段来存储，而其他内容一般可以完整的进行存储，因此本发明实施例将对这两种类型的内容分别介绍其缓存原理。本发明实施例的多级缓存管理方法包括以下一些具体的方法： ***启动时的内容初始部署方法；系统在动态运行过程中，内容进入缓存***、以及在多级缓存之间流动的方法。

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。实施例 1 :

本本实实施施例例提提供供了了一一种种 CCDDNN中中边边缘缘服服务务器器的的多多级级缓缓存存管管理理方方法法，，该该方方法法针针对对的的是是除除视视频频分分片片内内容容之之外外的的其其他他内内容容的的缓缓存存管管理理方方法法。。

图图 44为为本本实实施施例例 CCDDNN中中边边缘缘服服务务器器的的多多级级缓缓存存管管理理方方法法流流程程图图之之一一，，该该方方法法的的执执行行主主体体为为图图 33所所示示的的控控制制器器 220011，，该该方方法法所所体体现现的的是是由由控控制制器器 220011主主动动进进行行多多级级缓缓存存内内容容的的管管理理。。如如图图 44所所示示，，该该方方法法包包括括：：

* S402、根据预设策略为待存储的内容分配对应级别的缓存，并将所述待存储的内容存储入对应级别的缓存中。

可选地， S402包括：生成所述待存储内容的价值；按照所述待存储内容价值的高低顺序为所述待存储内容分配对应级别的缓存，并将所述待存储的内容存储入对应级别的缓存中。

可选地，本实施例生成所述待存储内容的价值包括：根据所述待存储内容的大小 S、优先级 PR 以及资源消耗程度 R，生成所述待存储内容的价值。

具体地，如果是在初始化部署的阶段，即多级缓存中尚未存储内容的情况下，本实施例的缓存管理方法包括：将所述待存储内容按照价值高低的顺序依次存入各级缓存中；前一级缓存空间存满之后，进入后一级缓存存储。

具体地，如果是在***在动态运行阶段，即各级缓存中已经存储了内容的情况下，本实施例的缓存管理方法包括：将所述待存储内容的价值和各级缓存中已存储内容的价值最低值进行逐级比较；如果待存储内容价值高于第 m级缓存中已存储内容的价值最低值，低于第 m-1 级缓存中已存储内容的价值最低值，且第 m级缓存有剩余空间，则将待存储内容存储到第 m级缓存，如果第 m级缓存没有剩余空间，则将第 m级缓存中价值最低的内容移动到第 m+1级缓存后，将待存储内容存入第 m级缓存。

可选地，在本实施例的***动态运行阶段，还包括一个内容在各级缓存之间流动的过程，该过程具体包括：更新所述多级缓存中已存储内容的价值；当第 L+1级缓存中所存储的内容价值高于第 L级缓存中内容价值的最低值时，将第 L+1级缓存中相应的内容与第 L级缓存中价值最低的内容进行交换。

可选地，本实施例中更新所述多级缓存中已存储内容的价值包括：根据所述已存储内容的大小 S、优先级 PR、资源消耗程度 R以及被访问次数 C 更新所述已存储内容的价值。图 5为本实施例 CDN中边缘服务器的多级缓存管理方法流程图之二，该方法的执行主体为图 3所示的控制器 201，该方法所体现的是控制器 201 根据终端 30 的内容请求而触发的对多级缓存内容进行管理的方法。如图 5 所示，该方法包括：

S501、接收用户的内容请求，所述请求中包含用户需要获取的内容信息；

5502、判断所述内容是否存在于所述多级缓存中；

5503、如果不存在，则从中心服务器获取所述内容，根据预设策略为所述内容分配对应级别的缓存，并将所述内容存储入对应级别的缓存中； S504、将存储的所述内容传输给所述用户。

可选地， S503 中，根据预设策略为所述内容分配对应级别的缓存包括：生成所述内容的价值；按照所述内容价值的高低顺序为所述内容分配对应级别的缓存。

由于本实施例的方法处于***的动态运行阶段，各级缓存中已经存储了内容，可选地， S503 具体包括：将所述待存储内容的价值和各级缓存中已存储内容的价值最低值进行逐级比较；如果待存储内容价值高于第 m级缓存中已存储内容的价值最低值，低于第 m-1 级缓存中已存储内容的价值最低值，且第 m级缓存有剩余空间，则将待存储内容存储到第 m级缓存，如果第 m级缓存没有剩余空间，则将第 m级缓存中价值最低的内容移动到第 m+1级缓存后，将待存储内容存入第 m级缓存。

可选地，在***的动态运行阶段，本实施例的方法还包括一个内容在各级缓存之间流动的过程，具体包括：更新所述多级缓存中已存储内容的价值；当第 L+1级缓存中所存储的内容价值高于第 L级缓存中内容价值的最低值时，将第 L+1级缓存中相应的内容与第 L级缓存中价值最低的内容进行交换。下面举一个实际的例子对本实施例的多级缓存管理方法进行详细描述：本实施例边缘服务器上的所有存储介质根据其性能设置成不同的缓存级另 |J，分级的规则可以预先设定或者根据用户配置来决定。例如：对于存在内存、固态硬盘 SSD、普通硬盘 HDD 的边缘服务器，将内存设置为一级缓存， SSD设为二级缓存， HDD设为三级缓存。一级缓存上存放价值最高的内容，二级缓存上存放价值稍低的内容，三级缓存上存放价值最低的内容。

控制器可以是单个逻辑控制器件，也可以是多个逻辑控制器件的集群

(cluster：)。控制器维护各级缓存中所缓存内容的管理信息，包括但不限于内容的索引和位置信息，以及用于判断其价值的相关信息（内容的价值反映该内容未来被访问的概率）。内容的索引可以用 URI ( Uniform Resource

Identifier, 统一资源标志符）标识。表 1为本实施例中控制器所存储的多级缓存管理信息。

表 1

在***运行的初始阶段，控制器随机或者根据一定的策略将缓存内容部署到不同的存储介质上。例如：根据内容的大小部署，将小文件存储在 SSD上，大文件存储在 HDD上；或者根据设定的内容价值部署，价值较高的存储在 SSD上，价值较低的存储在 HDD上，价值的设定可以由内容提供商设定或者由 CDN运营商设定；或者根据产生内容对于资源的消耗程度决定，消耗资源较大的存在 SSD, 消耗资源较少的存在 HDD, 资源的消耗程度可以包括多种，例如网络带宽，对于大文件如果没有命中，那么会消耗相对小文件更多的网络带宽；或者按照顺序逐级对各级缓存介质进行填充；或者根据多个因素综合决定。

对于待存储的内容，假设本实施例的内容的大小为 S , 内容优先级为 PR, 内容对于资源的消耗程度为 R，待存储内容的价值公式可以表示为： H = R*PR/S。

对于***中已缓存内容的价值需要在内容被访问后进行实时维护，假设内容的大小为 S，内容提供商指定的内容优先级为 PR, 内容对于资源的消耗程度为 R，内容累积被访问次数为。。已存储内容的价值公式可以是： H = C*PR*R/S。

为了提高初始部署效率，可以事先将中心服务器上的所有内容的价值计算出来，然后进行排序，根据排好的顺序直接部署到多级缓存中，减少反复替换的过程。

图 6给出在***运行过程中的新内容部署流程图。假设该缓存***是将 SSD设为一级缓存， HDD设为二级缓存的两级缓存***，所有内容在各级缓存介质上按照价值高低顺序分布。

如图 6所示，对于终端请求没有命中的内容，由控制器通知中心服务器要下载新内容，并且由控制器根据一定的策略决定所请求的没有命中的内容是否应该被缓存（如果新内容的价值比最低级缓存上价值最低的内容还要低，在流化到终端之后不缓存到***中，直接丢弃），以及应该缓存在哪一级缓存介质上。

本实施例中在运行过程中，对于用户请求的命中内容需要由中心控制器控制其根据***运行情况进行位置迁移。以充分发挥***整体性能。图 7给出***中将 SSD设为一级缓存，将 HDD设为二级缓存的两级缓存***情况下内容命中时在多级缓存介质上的位置调整流程。图 8给出***中将 SSD 设为一级缓存，将 HDD设为二级缓存的两级缓存***情况下运行过程中的整体流程，该流程中 "决定是否要被缓存，以及缓存在哪个位置" 的歩骤对应于图 6的详细流程； "决定缓存内容是否要进行位置迁移" 以及 "进行位置迁移，更改索引"这两个歩骤对应于图 7的详细流程。

本实施例采用集中控制的方式对多级缓存中的非视频分片内容进行管理，具体包括：在***启动之初对内容进行初始部署的方法，在***运行过程中对新内容进入的部署方法，以及在各级缓存间进行内容迁移的方法。由于采用了集中控制方式，使内容管理更加灵活便捷，提高了多级缓存的性能。

实施例 2: 本实施例提供了一种 CDN中边缘服务器的多级缓存管理方法，该方法针对的是视频分片内容的多级缓存管理。在视频缓存应用中，一般将一个完整的视频分成多个片段进行缓存，由于每个片段被访问的几率不一样，所以每个片段的价值也不一样，需要分别对待。该方法的具体流程参见图 4-图 8，所不同的是，视频分片内容的价值生成方法和普通内容不一样。

本实施例中，生成所述待存储视频片段的价值包括：根据所述待存储视频片段在完整视频文件中所处的时间段，生成所述待存储视频片段被观看的概率 P; 根据所述待存储视频片段的大小 S、优先级 PR、资源消耗程度 R 以及被观看的概率 P, 生成所述待存储视频片段的价值。

本实施例中，更新所述多级缓存中已存储内容的价值包括：根据所述已存储视频片段在完整视频文件中所处的时间段，生成所述已存储视频片段被观看的概率 P; 根据所述已存储内容的大小 S、优先级 P、资源消耗程度 R、被访问次数 C以及被观看的概率 P，更新所述已存储视频片段的价值。下面举一个实际的例子来详细说明如何对 CDN边缘服务器的多级缓存中的视频片段进行缓存管理。

边缘服务器上的所有存储介质根据其性能设置成不同的缓存级别。分级的规则可以预先设定或者根据用户配置来决定。例如对于存在内存，固态硬盘 SSD, 普通硬盘 HDD的边缘服务器，可以将内存设置为一级缓存， SSD 设为二级缓存， HDD设为三级缓存。

控制器可以是单个逻辑控制器件，也可以是多个逻辑控制器件的集群 (cluster：)。控制器维护所有缓存介质中所缓存内容的管理信息（这里的缓存内容即切分的视频片段），主要包括内容的索引和位置信息，以及用于判断其价值的相关信息（内容的价值反应该内容未来被访问的概率）。内容的索引用 URI标识（统一资源标志符： Uniform Resource Identifier) 。表 2为本实施例控制器中所存储的管理信息。

表 2

视频节目按一定的规则进行分片，分片规则有多种，可以均匀分片，例如将总共 2小时时长的视频节目分成 20个片段，每一个片段大约 6分钟。因为对于视频节目很多用户倾向于观看前面部分，对于同一影片，其各个部分的用户观看比例随着时间推移而递减，因此可以不均匀分片，使前面内容的分片大小要小于后面内容，即越往后分片越大，从而对前面部分进行更准确的管理。

表 3为一种实际的分片示例:

分段序号分段起始时间

1 0-6

2 6-12

3 12-24

4 24-48

5 48-120 表 3

在***运行的初始阶段，控制器随机或者根据一定的策略将缓存内容部署到不同的存储介质上。例如根据内容的大小部署，将小文件存储在 SSD 上，大文件存储在 HDD上；或者根据设定的内容价值部署，价值较高的存储在 SSD上，价值较低的存储在 HDD上，价值的设定可以由内容提供商设定或者由 CDN运营商设定；或者根据产生内容对于资源的消耗程度决定，消耗资源较大的存在 SSD, 消耗资源较少的存在 HDD, 资源的消耗程度可以包括多种，例如网络带宽，对于大文件如果没有命中，那么会消耗相对小文件更多的网络带宽；或者按照顺序逐级对各级缓存介质进行填充；或者根据多个因素综合决定。

如果将一部影片进行分片存储，那么不同的分片片段按照其在整个影片中的位置被观看的概率不同，（大部分影片前面部分被观看的概率要高于后面，因为很多用户没有耐心），各分片的被观看概率如图 9所示。可以根据分片在整个影片中所属的位置获得其观看概率函数（概率体现了某种价值），该函数类似于指数函数，简单处理的话，就是一个反比例函数，假设要计算总时长为 τ的影片中任意一时刻 t的观看概率 P1为：

Pl=l- t/T

那么根据分片的位置，假设从 tl时刻到 t2时刻，该片段累计被观看的概率 P为函数 P1从 tl到 t2这一段曲线和横轴 t所包围的面积，如图 10所示，

P= ( ( 1-tl/T) +(l -t2/T》* (t2-tl ) /2 = (1— (tl+t2) /(2*T) )*(t2-tl) 例如对于待存储的某一个视频片段大小为 S，内容提供商指定的内容优先级为 PR, 产生内容对于资源的消耗程度为 R，视频片段对应的时间偏移是 t= t2- tl，则该片段的价值公式可以是：

H = (1 - (tl+t2 ) 12 )*(t2-tl)*PR*R/S。

对于***中已经缓存的视频片段的内容价值需要在内容被访问后进行实时维护，例如设视频片段大小为 S，内容提供商指定的内容优先级为 PR, 产生内容对于资源的消耗程度为 R，内容累积被访问次数为 C，视频片段对应的时间偏移是 t= t2- tl。则该片段的价值公式可以是：

H = (1 - (tl+t2) 12 )*(t2-tl)*C*PR*R/S。

在运行过程中由控制器根据一定的策略决定所请求的没有命中的内容是否应该被缓存，以及应该缓存在哪一级缓存介质上，例如可以根据内容的价值，内容的大小，产生内容对于资源的消耗程度，各级缓存的资源使用状况。由此决定将新的适合缓存的内容存到合适的位置，不再使用的内容被替换出去。具体流程可再次参考图 6。

在运行过程中对于用户请求的命中内容需要由中心控制器控制其根据系统运行情况进行位置迁移，以充分发挥***整体性能，具体流程可再次参考图 7。本实施例的完整流程可再次参考图 8。

本实施例采用集中控制的方式对多级缓存中的非视频分片内容进行管理，具体包括：在***启动之初对内容进行初始部署的方法，在***运行过程中对新内容进入的部署方法，以及在各级缓存间进行内容迁移的方法。由于采用了集中控制方式，使内容管理更加灵活便捷，提高了多级缓存的性能。并且，考虑到用户在观看视频片段时的一般习惯，本实施例还设计了视频片段的价值评价方法，以为缓存管理提供更加符合实际情况的依据，使缓存管理更加有效。

实施例 3 : 本实施例提供一种 CDN中边缘服务器的多级缓存管理***，该***架构图请再次参考图 3。所述***包括：控制器 201以及与所述控制器连接的多级缓存 202。图 11为本实施例控制器 201的功能框图，如图 11所示，所述控制器包括：接收单元 1101，用于接收用户的内容请求，所述请求中包含用户需要获取的内容信息；处理单元 1102，用于判断所述内容是否存在于所述多级缓存中；如果不存在，则从中心服务器获取所述内容，根据预设策略为所述内容分配对应级别的缓存，并将所述内容存储入对应级别的缓存中；发送单元 1103，用于将存储的所述内容传输给所述用户。

该处理单元 1102包括：价值生成单元，用于生成所述内容的价值；存储控制单元，用于按照所述内容价值的高低顺序为所述待存储内容分配对应级别的缓存，并将所述待存储的内容存储入对应级别的缓存中。

可选地，所述价值生成单元，还用于更新所述多级缓存中已存储内容的价值；所述存储控制单元，还用于当第 L+1 级缓存中所存储的内容价值高于第 L级缓存中内容价值的最低值时，将第 L+1级缓存中相应的内容与第

L级缓存中价值最低的内容进行交换。

该控制器所执行的具体的缓存管理方法在实施例 1和 2中已经进行了详细阐述，此处不再赘述。实施例 4: 本实施例提供一种 CDN中边缘服务器的多级缓存管理***，该***架构图请再次参考图 3。所述***包括：控制器 201以及与所述控制器连接的多级缓存 202。图 12为本实施例控制器 201的功能框图，如图 12所示，控制器 201包括：获取单元 1201，用于从中心服务器获取待存储的内容；分配单元 1202，用于根据预设策略为待存储的内容分配对应级别的缓存，并将所述待存储的内容存储入对应级别的缓存中。

所述控制器的分配单元 1202包括：价值生成单元，用于生成所述待存储内容的价值；存储控制单元，用于按照所述待存储内容价值的高低顺序为所述待存储内容分配对应级别的缓存，并将所述待存储的内容存储入对应级别的缓存中。

可选地，所述价值生成单元，还用于更新所述多级缓存中已存储内容的价值；所述存储控制单元，还用于当第 L+1 级缓存中所存储的内容价值高于第 L级缓存中内容价值的最低值时，将第 L+1级缓存中相应的内容与第 L级缓存中价值最低的内容进行交换。

本发明实施例提出的一种 CDN中边缘服务器的多级缓存管理方法与系统，对多级缓存内容的部署进行集中控制管理，使内容的初始部署和内容的迁移更加灵活，充分发挥了多级缓存的性能。该方案兼顾了存储成本和*** 性能，保护了原有硬件投资。本发明实施例的***还可以对控制器进行主备备份，以提高***的可靠性。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体 ( Read-Only Memory， ROM ) 或随机存储记忆体 ( Random Access Memory, RAM) 等。

以上实施例仅用以说明本发明实施例的技术方案，而非对其限制；尽管参照前述实施例对本发明实施例进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明实施例各实施例技术方案的精神和范围。

Claims

权利要求书

1、一种内容传送网络 CDN中边缘服务器的多级缓存管理方法，其特征在于，所述方法包括：

从中心服务器获取待存储的内容；

根据预设策略为待存储的内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中。
2、根据权利要求 1 所述的方法，其特征在于，所述根据预设策略为待存储的内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中包括：

生成所述待存储内容的价值；

按照所述待存储内容价值的高低顺序为所述待存储内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中。
3、根据权利要求 2所述的方法，其特征在于，当所述多级缓存初始化时，按照所述待存储内容价值的高低顺序为所述待存储内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中包括：

将所述待存储内容按照价值高低的顺序依次存入各级缓存中；前一级缓存空间存满之后，进入后一级缓存存储。
4、根据权利要求 2所述的方法，其特征在于，当所述多级缓存中已存储有内容时，按照所述待存储内容价值的高低顺序为所述待存储内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中包括：

将所述待存储内容的价值和各级缓存中已存储内容的价值最低值进行逐级比较；

如果待存储内容价值高于第 m级缓存中已存储内容的价值最低值，低于第 m-1级缓存中已存储内容的价值最低值，且第 m级缓存有剩余空间，则将待存储内容存储到第 m级缓存，如果第 m级缓存没有剩余空间，则将第 m级缓存中价值最低的内容移动到第 m+1级缓存后，将待存储内容存入第 m级缓存。
5、根据权利要求 1所述的方法，其特征在于，所述方法还包括：更新所述多级缓存中已存储内容的价值；

当第 L+1级缓存中所存储的内容价值高于第 L级缓存中内容价值的最低值时，将第 L+1级缓存中相应的内容与第 L级缓存中价值最低的内容进行交换。
6、根据权利要求 2所述的方法，其特征在于，生成所述待存储内容的价值包括：

根据所述待存储内容的大小 S、优先级 PR以及资源消耗程度 R，生成所述待存储内容的价值。
7、根据权利要求 5所述的方法，其特征在于，更新所述多级缓存中已存储内容的价值包括：

根据所述已存储内容的大小 S、优先级 PR、资源消耗程度 R以及被访问次数 C更新所述已存储内容的价值。
8、根据权利要求 2所述的方法，其特征在于，当所述待存储内容为视频片段时，生成所述待存储视频片段的价值包括：

根据所述待存储视频片段在完整视频文件中所处的时间段，生成所述待存储视频片段被观看的概率 P;

根据所述待存储视频片段的大小 S、优先级 PR、资源消耗程度 R以及被观看的概率 P, 生成所述待存储视频片段的价值。
9、根据权利要求 5所述的方法，其特征在于，当所述已存储内容为视频片段时，更新所述多级缓存中已存储内容的价值包括：

根据所述已存储视频片段在完整视频文件中所处的时间段，生成所述已存储视频片段被观看的概率 P;

根据所述已存储内容的大小 S、优先级 PR、资源消耗程度 R、被访问次数 c以及被观看的概率 P, 更新所述已存储视频片段的价值。 10、一种 CDN中边缘服务器的多级缓存管理方法，其特征在于，所述方法包括：

接收用户的内容请求，所述请求中包含用户需要获取的内容信息；判断所述内容是否存在于所述多级缓存中；

如果不存在，则从中心服务器获取所述内容，根据预设策略为所述内容分配对应级别的缓存，并将所述内容存入对应级别的缓存中；

将存储的所述内容传输给所述用户。
11、根据权利要求 10所述的方法，其特征在于，所述根据预设策略为所述内容分配对应级别的缓存包括：

生成所述内容的价值；

按照所述内容价值的高低顺序为所述内容分配对应级别的缓存。
12、根据权利要求 10所述的方法，其特征在于，所述方法还包括：更新所述多级缓存中已存储内容的价值；

当第 L+1级缓存中所存储的内容价值高于第 L级缓存中内容价值的最低值时，将第 L+1级缓存中相应的内容与第 L级缓存中价值最低的内容进行交换。
13、一种 CDN中边缘服务器的多级缓存管理***，其特征在于，所述 ***包括：控制器以及与所述控制器连接的多级缓存；所述控制器包括：接收单元，用于接收用户的内容请求，所述请求中包含用户需要获取的内容信息；

处理单元，用于判断所述内容是否存在于所述多级缓存中；如果不存在，则从中心服务器获取所述内容，根据预设策略为所述内容分配对应级别的缓存，并将所述内容存入对应级别的缓存中；

发送单元，用于将存储的所述内容传输给所述用户。
14、根据权利要求 13所述的***，其特征在于，所述处理单元包括：价值生成单元，用于生成所述内容的价值；存储控制单元，用于按照所述内容价值的高低顺序为所述待存储内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中。
15、根据权利要求 14所述的***，其特征在于，

所述价值生成单元，还用于更新所述多级缓存中已存储内容的价值；所述存储控制单元，还用于当第 L+1 级缓存中所存储的内容价值高于第 L级缓存中内容价值的最低值时，将第 L+1级缓存中相应的内容与第 L 级缓存中价值最低的内容进行交换。
16、一种 CDN中边缘服务器的多级缓存管理***，其特征在于，所述 ***包括：控制器以及与所述控制器连接的多级缓存；所述控制器包括：获取单元，用于从中心服务器获取待存储的内容；

分配单元，用于根据预设策略为待存储的内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中。
17、根据权利要求 16所述的***，其特征在于，所述分配单元包括：价值生成单元，用于生成所述待存储内容的价值；

存储控制单元，用于按照所述待存储内容价值的高低顺序为所述待存储内容分配对应级别的缓存，并将所述待存储的内容存入对应级别的缓存中。
18、根据权利要求 17所述的***，其特征在于，

所述价值生成单元，还用于更新所述多级缓存中已存储内容的价值；所述存储控制单元，当第 L+1级缓存中所存储的内容价值高于第 L级缓存中内容价值的最低值时，将第 L+1级缓存中相应的内容与第 L级缓存中价值最低的内容进行交换。