CN103106153A

CN103106153A - 基于访问密度的web缓存替换方法

Info

Publication number: CN103106153A
Application number: CN2013100545545A
Authority: CN
Inventors: 何慧; 李乔; 张伟哲; 刘亚维; 王健; 王冬
Original assignee: Harbin Institute of Technology
Current assignee: Beijing Topsec Technology Co Ltd; Beijing Topsec Network Security Technology Co Ltd; Beijing Topsec Software Co Ltd
Priority date: 2013-02-20
Filing date: 2013-02-20
Publication date: 2013-05-15
Anticipated expiration: 2033-02-20
Also published as: CN103106153B

Abstract

基于访问密度的web缓存替换方法，本发明涉及web缓存替换方法。本发明是要解决目前的LRU存在局部性与LFU存在缓存污染，命中率低的问题，而提供了基于访问密度的web缓存替换方法。方法：缓存对象是否已经存在于缓存池；缓存池是否已满；若干初始化；删除密度值最低的缓存对象，将新增缓存对象加入缓存池；计算当前访问间隔；是否为第二次访问；计算访问密度；根据公式计算访问密度，更新平均访问间隔；更新相关值；退出。本发明应用于互联网络存储领域。

Description

基于访问密度的web缓存替换方法

技术领域

本发明涉及web缓存替换方法。

背景技术

随着Web数据的多元化发展，网页内容的分发逐步成为影响Web服务性能的关键因素。当前主流的数据分发机制是采用内容分发网络技术，将用户的请求重定向至离其最近的服务器，从而减少访问延时与源服务端负载压力。为了有效提升服务质量，内容分发网络供应商在多个网络边界部署内容代理服务器。例如Akamai公司在70多个国家与地区的1,000多个网络内部署超过25,000个内容服务器。当前，内容分发网络通常关注代理服务器部署位置选择以及内容的路由机制，然而缓存的效率是影响内容分发的性能一个关键因素。本文针对Web内容管理中的缓存机制，提出一种密度与内容大小混合的缓存替换策略，以此降低内容分发过程中流量的压力以及用户的访问时延。

缓存替换机制主要依赖于以下两个原则：1)频繁访问的信息应该被缓存；2)信息的热度变化意味着访问间隔时间的变化。至今已有多种缓存替换策略基于重引用时间，当前的缓存替换策略主要采用基于频度与本地局部性作为替换基准，但均未考虑整个访问历史，而且目前的LRU存在局部性与LFU存在缓存污染，命中率低的问题。

发明内容

本发明是要目前的LRU存在局部性与LFU存在缓存污染，命中率低的问题，而提供了基于访问密度的web缓存替换方法。

(1)缓存对象是否已经存在于缓存池，否则跳入步骤(2)，是则跳入步骤(5)；

(2)缓存池是否已满，已满则跳入步骤(3)，不满则跳入步骤(4)；

(3)删除访问密度值最低的缓存对象，将新增缓存对象加入缓存池，初始化缓存对象的访问密度、上次访问位置、被访问频度、平均访问间隔，跳入步骤(10)；

(4)将新增缓存对象加入缓存池，初始化缓存对象的访问密度、上次访问位置、被访问频度、平均访问间隔，跳入步骤(10)；

(5)已经存在于缓存池，计算当前访问间隔；

(6)是否为第二次访问，是第二次访问则跳入步骤(7)，不是则跳入步骤(8)；

(7)令平均访问间隔等于当前访问间隔，访问频度+1，计算访问密度，跳入步骤(10)；

(8)不是第二次访问，根据公式计算访问密度，更新平均访问间隔；

(9)更新上次访问位置，缓存对象访问频度+1；

(10)缓存访问总次数+1，退出。

发明原理：

一、假设缓存空间最多可容纳M个缓存对象，若缓存空间未满，则替换过程与其他缓存替换策略一致；

二、当缓存空间已满时，对于新到达缓存对象i，首先计算缓存对象i的当前访问间隔now_accintvl_i：

若当前访问间隔now_accintvl_i低于i的平均访问间隔avg_accintvl_i，意味缓存对象i的热度呈下降趋势，因此降低缓存对象i的密度值ad_value_i；

若当前访问间隔now_accintvl_i高于i的平均访问间隔avg_accintvl_i，意味缓存对象i的热度呈上升趋势，因此增加缓存对象i的密度值ad_value_i。

发明效果：

通过对实际Web数据访问情况进行分析，发现访问间隔的变化率对于命中率的影响具有更高的准确性；

本发明首先在校园网网关上提取实际网络的URLs(Uniform Resource Locator)并分析用户的访问行为，发现在LRU(最近最少使用)的缓存中，高流行度的URL常被一些低流行度的替换；其次为了避免这种命中损失，采用访问间隔变化率作为对象的权值因子，并结合对象所占空间大小进行缓存替换；

通过实施例将该策略分别与LRU(最近最少使用)，LFU(最近频繁使用)和GDSF(空间与频度混合贪心)进行对比，结果表明单纯基于访问间隔变化的替换算法能够提升3％～5％的命中率，而混合的替换算法比GDSF(空间与频度混合贪心)提升5％～8％的字节命中率。

本发明采用的基于访问密度的替换策略CPBAD(cache policy based on access density)算法为每个缓存对象都设置失效时间以此避免彻底的缓存污染。同时为了解决计数器的存储开销，在周期维护的同时进行计数器重置。

附图说明

图1是本发明的模块框架图；

图2是具实施例中的数据集中URL分布图；(a)、(b)和(c)分别是连续三天的校园网关的网络日志中提取了427,936个用户请求的普通坐标下的URL访问频度与热度的关系图，(d)、(e)和(f)分别是连续三天的校园网关的网络日志中提取了427,936个用户请求的双对数坐标下的URL访问频度与URL热度的关系图；

图3是实施例中的热门URL的访问序列图；

图4是实施例中的不同zipf分布下λ对算法的影响；

图5是实施例中的缓存替换算法命中率比较；(a)表示在Dataset1下的不同算法下的命中率，(b)表示在Dataset2下的不同算法下的命中率，(c)表示在Dataset3下的不同算法下的命中率，(d)表示在总数据集下的不同算法下的命中率，

表示LFU，

表示LRU，

表示CPBAD；

图6是实施例中的多种替换算法的字节命中率对比图；，

表示LRU，表示LFU，表示GDSF，

表示CPBADS。

具体实施方式

具体实施方式一：本实施方式的基于访问密度的web缓存替换方法按以下步骤实现：

(5)已经存在于缓存池，计算当前访问间隔；

(9)更新上次访问位置，缓存对象访问频度+1；

(10)缓存访问总次数+1，退出。

本实施方式效果：

本实施方式首先在校园网网关上提取实际网络的URLs(Uniform Resource Locator)并分析用户的访问行为，发现在LRU(最近最少使用)的缓存中，高流行度的URL常被一些低流行度的替换；其次为了避免这种命中损失，采用访问间隔变化率作为对象的权值因子，并结合对象所占空间大小进行缓存替换；

本发实施方式采用的基于访问密度的替换策略CPBAD(cache policy based on accessdensity)算法为每个缓存对象都设置失效时间以此避免彻底的缓存污染。同时为了解决计数器的存储开销，在周期维护的同时进行计数器重置。

具体实施方式二：本实施方式与具体实施方式一不同的是：步骤(3)中所述访问间隔为本次命中缓存对象与上次命中该缓存对象之间相差的缓存访问次数。其它步骤及参数与具体实施方式一相同。

具体实施方式三：本实施方式与具体实施方式一或二不同的是：步骤(3)中所述访问密度为在一段时间内缓存对象被访问次数与缓存总访问次数的比值。其它步骤及参数与具体实施方式一或二相同。

通过以下实施例验证本发明有益效果：

一、首先分析缓存对象在缓存空间中的生命周期；

二、其次分析web访问的行为以及URL的分布情况：研究web请求的分布特征，在连续三天的校园网关的网络日志中提取了427,936个用户请求，包括167,981个不同的URL；

三、最后根据缓存对象的热度变化趋势，发现采用密度的替换算法具备更好的预测能力：由于LRU的局部性与LFU的缓存污染性质，本实施例提出基于访问密度的替换策略CPBAD(cache policy based on access density)在更长的时段内观察缓存对象的变化趋势，并通过减少热度降低对象的权值有效避免缓存污染从而提高缓存命中率。

基于访问密度的web缓存替换方法按以下步骤实现：

(5)已经存在于缓存池，计算当前访问间隔；

(9)更新上次访问位置，缓存对象访问频度+1；

(10)缓存访问总次数+1，退出。

本实施例中步骤一中的缓存对象的生命周期，每个缓存对象在缓存空间中都具有自身的生命周期，缓存中的对象A的生存周期可分为两个部分：1活跃期：从进入缓存直至最后一次被访问；2僵死期：从最后一次被访问直至被替换出缓存；缓存对象的活跃期越长，缓存性能越高，尽管不能精确预测缓存对象未来行为，然而尽量延长其活跃期或者减少长僵死期对象在缓存中的时间是提升缓存效率的有效方法；

图2是本实施例中步骤二中的URL的分布情况图，(a)、(b)和(c)分别是连续三天的校园网关的网络日志中提取了427,936个用户请求的普通坐标下的URL访问频度与热度的关系图，(d)、(e)和(f)分别是连续三天的校园网关的网络日志中提取了427,936个用户请求的双对数坐标下的URL访问频度与URL热度的关系图，图中的蓝色直线是对红黑曲线的zipf拟合，该数据集符合典型的zipf_a分布，其中0.6＜α＜0.8，热门对象意味着在相对短时间内被访问多次，因此延长这些热门对象在缓存中的时间是提升缓存效率的有效方法，访问间隔是客观描述对象热度的关键度量；

图3展示了步骤二中在数据集中最热的8个URL的访问序列，y轴表示这8个URL，x轴表示在这三天内每个URL出现的次序，从图3中可知，热门的URL在某段时间内都具有间隔极低的特性，同时一些热门URL的访问间隔是逐渐变小的，如url-2和url-5，同时一些热门URL的访问间隔较为均匀，如url-8，该类URL在各类缓存替换策略中一般都不会被替换；而对于类似url-1这类URL，由于其访问间隔具有明显的周期性，但周期间隔较长，在LRU的缓存策略下，将被替换多次，从而降低缓存性能；对于类似url-7这类URL，虽然具有一定的周期性，但其周期间隔不断增长，这类URL在LFU策略下，其权值始终上升，然而其热度呈现下降趋势，从而导致缓存污染；

从以上分析可得热门URL的访问行为可分为以下3类情形：

1)均匀且具有周期性，如url-8，url-4；

2)访问间隔从稀疏到稠密，如url-5；

3)突发性增长，如url-3，url-6；

鉴于LRU算法的本地局部性与LFU算法的权值单调性，本实施例提出基于访问间隔变化的缓存替换算法，以提升缓存性能；

为了有效验证CPBAD算法，

ad_{value}_{i}^{n} = \{\begin{matrix} INITIAL_VALUE, & if {obj}_{i} is a new object \\ ad_{value}_{i}^{n - 1} \cdot λ \cdot \frac{avg_{accintvl}_{i}}{avg_{accintvl}_{i} + {now_accintvl}_{i}}, & if avg_{accintvl}_{i} < now_{accintvl}_{i} & 0 < λ < 1 \\ ad_{value}_{i}^{n - 1} \cdot (1 + λ \cdot \frac{now_accintvl}{avg_{accintvl}_{i} + {now_accintvl}_{i}}), & if avg_{accintvl}_{i} > now_{accintvl}_{i} \end{matrix} - - - (1)

其中，所述C_total表示某段时间内缓存被访问的总次数，last_i表示对象i上次被访问时在总访问序列上的位置，now_i对象i上次被访问时在总访问序列上的位置，ad_value_i表示对象i的密度值，freq_i表示对象i被访问的总频，avg_accintvl_i表示对象i的平均访问间隔，now_accintvl_i表示对象i当前的访问间隔，n为缓存对象的个数；

在实际网络数据集上与LRU和LFU算法进行比较，该数据集通过日期被分割为三个子数据集，如表1所示：

表1网关日志数据集

为了确定公式(1)中的λ值，需要确定λ对算法的影响，因此本实施例首先生成10,000个URL，并且设置缓存可容纳500个URL对象，通过改变λ观察算法在不同的

分布下的性能，如图4所示为不同zipf分布下λ对算法的影响图，

表示

表示α＝0.7，

表示α＝0.8，

表示α＝0.9，表示α＝1.0，；

从图4中可明显看出λ在[0.6，0.8]区间时，命中率较高，在之后的实验中，本实施例选择λ＝0.8作为实验数值；

为了更好的对替换策略进行比较，本实施例在3个子数据集和总数据集上进行测试：图5显示了不同算法下的命中率，(a)表示在Dataset1下的不同算法下的命中率，(b)表示在Dataset2下的不同算法下的命中率，(c)表示在Dataset3下的不同算法下的命中率，(d)表示在总数据集下的不同算法下的命中率，表示LFU，

表示LRU，

表示CPBAD；

可观察到CPBAD算法优于LRU和LFU算法，从图5(c)中可知当缓存大小为500时，LFU算法明显优于LRU；而且在图2中可知，数据集dataset3的α值大于另外2个数据集，这意味当α值越大，LFU的命中率越高；同时当缓存大小为2000时，三种算法的命中率几乎一致，因为当缓存大小增加到一定时，即热门URL的数目与缓存大小相接近，增大缓存空间已无法提升命中率；对于图5(d)，虽然缓存空间增长到8000，但是LRU算法依然低于其他，这是由于缓存中存储了大量热度较低的URL；CPBAD算法的优势在于当热门数据逐渐变冷时能够降低其在缓存空间中的权值，从而提升命中率；虽然图5(c)中缓存空间为2000时，CPBAD与LFU接近，甚至在缓存空间为500时，LFU高于CPBAD，这是由于持续热门数据的数量接近缓存空间，因此LFU中的缓存一直保持高命中状态，而对于CPBAD而言，由于密度值的变化弱于LFU以及保持缓存的新鲜度，从而将一些热门数据替换出缓存，进而导致命中率下降；但总体而言，CPBAD算法在多数情况下优于LFU和LRU；

对于实际部署该替换算法时，缓存空间大小不能单纯使用URL个数作为参考而是存储空间大小，因此字节命中率对于实际***具有更高价值；考虑到web内容大小的多样性，本实施例假设URL页面的大小在(1KB，1MB)之间符合均匀分布；并针对公式(1)进行修改，增加文件大小参数，如公式(2)所示，使用

作为缓存对象的权值进行计算。

size_ad_{value}_{i}^{n} = ad_{value}_{i}^{n} + \log (obj_size / cachesize) - - - (2)

在实验中假定缓存空间上限为2GB，URL分布使用总数据集dataset。图6显示了每种缓存替换算法在不同缓存空间上的字节命中率，zipfa＝0.645，

表示LRU，表示LFU，

表示GDSF，

表示CPBADS，从图6中可见当缓存较低时，GDSF(GreedyDual Size Frequency)优于CPBAD，然而当缓存空间逐渐增大，本实施例提出的算法明显优于GDSF。这是由于在对象权值计算中，当空间足够时，一些呈现由热到冷的大文件并不能在GDSF中很快被替换，而CPBAD能够很快降低ad_value值，从而降低

以达到更有效的空间利用率。

总而言之，采用基于密度的缓存替换算法对于web内容分发具有比GDSF更高的字节命中率，进而降低web服务器的性能损耗。同时更高的字节命中率也意味着在分布式web机群中的同步带宽消耗降低。通过试验将该策略分别与LRU(最近最少使用)，LFU(最近频繁使用)和GDSF(空间与频度混合贪心)进行对比，结果表明单纯基于访问间隔变化的替换算法能够提升3％～5％的命中率，而混合的替换算法比GDSF(空间与频度混合贪心)提升5％～8％的字节命中率。

Claims

1.基于访问密度的web缓存替换方法，其特征在于基于访问密度的web缓存替换方法按以下步骤实现：

(5)已经存在于缓存池，计算当前访问间隔；

(9)更新上次访问位置，缓存对象访问频度+1；

(10)缓存访问总次数+1，退出。

2.根据权利要求1所述的基于访问密度的web缓存替换方法，其特征在于步骤(3)中所述访问间隔为本次命中缓存对象与上次命中该缓存对象之间相差的缓存访问次数。

3.根据权利要求1所述的基于访问密度的web缓存替换方法，其特征在于步骤(3)中所述访问密度为在一段时间内缓存对象被访问次数与缓存总访问次数的比值。