CN104111900B - 一种缓存中数据替换方法及装置 - Google Patents

Abstract

本发明提供一种缓存中数据替换方法及装置，其中，方法包括：获取对访问内容在一预设时间段内的访问次数；根据所述访问次数，获取所述访问内容的热度值；根据所述热度值对所述缓存中的存储的数据进行替换。本发明的方案可以更精确的预测访问内容的热度，提高缓存的命中率。

Description

一种缓存中数据替换方法及装置

技术领域

本发明涉及通信领域，特别是指一种缓存中数据替换方法及装置。

背景技术

随着因特网(Internet)的飞速发展，越来越多的人通过因特网来获取丰富的信息资源。然而，用户数量的剧增不可避免地带来网络服务器负载加重、客户端响应延迟变大以及主干网络拥塞等问题。尤其是近年来视频点播、远程教育和电子商务等因特网流媒体应用的日益广泛，使得这些问题变得更加严重。

解决这些问题的传统方法是不断升级网络服务器和提高网络接入带宽。然而，这种传统方法并不能从根本上解决问题，这是因为，通常情况下，服务器的升级速度要低于用户数量的增长速度；仅仅提高网络接入带宽也并不能缓解主干网络的拥塞问题，而对主干网络进行升级则耗资巨大。

代理缓存技术能够有效解决上述传统方法遇到的问题。代理缓存又称代理服务器，是位于浏览器与服务器或客户端与服务器之间的一台服务器，能够提供较大的存储空间。当用户访问数据时，首先检查代理缓存中有没有用户需要访问的数据，若有，则直接发送给用户，否则，从服务器中获取相应的数据发送给客户。

代理缓存的这种访问机制可以减少用户访问远程服务器的次数，在直接提高客户端响应速度的同时，间接地减轻远程服务器负载和主干网络拥塞。此外，由于在代理缓存中保存了数据拷贝，即使远程服务器在一段时间内暂时无法提供服务，也不会影响用户从代理缓存获取信息资源，这些能够明显提高客户端服务质量。

然而，代理缓存的存储容量有限；一旦存储区满，则必须按照事先约定的某种策略，将一部分当前不再具有存储价值的数据替换出去，从而为后续客户服务。替换策略的好坏直接影响代理缓存的性能，因此，缓存替换策略是影响代理缓存性能的一个重要因素。

通常衡量一个缓存替换策略优劣的性能指标主要有缓存命中率，也简称为命中率，所谓缓存命中率，是指缓存页数命中的次数与用户总的请求数之比；传统的缓存替换算法均没有考虑数据长期的访问特性，没有很好地均衡长期访问特性和猝发访问特性，并且没有考虑到内容的变化趋势，致使缓存命中率低。

发明内容

本发明要解决的技术问题是提供一种缓存中数据替换方法及装置，可以更精确的预测访问内容的热度，提高缓存的命中率。

为解决上述技术问题，本发明的实施例提供一种缓存中数据替换方法，包括：

获取对访问内容在一预设时间段内的访问次数；

根据所述访问次数，获取所述访问内容的热度值；

根据所述热度值对所述缓存中的存储的数据进行替换。

其中，获取对访问内容在一预设时间段内的访问次数的步骤包括：

获取对访问内容在最近三个周期内的访问次数；其中，将所述当前周期内的访问次数设置为C_now，且预测的当前周期内的总访问次数为C_total，所述当前周期之前的第二周期内的访问次数设置为C₂，所述第二周期之前的第一周期内的访问次数设置为C₁。

其中，所述C_total＝C_now×（t-t_start）/T；其中，t为当前时间，t_start为当前周期的开始时间，T为当前周期的周期时长，且所述第一周期和所述第二周期的周期时长也为T。

其中，根据所述访问次数，获取所述访问内容的热度值的步骤包括：

如果所述访问内容在所述缓存中不存在，则根据所述当前周期内的访问次数，获取所述访问内容的热度值Key＝C_now；

如果所述访问内容在所述缓存中存在，则根据所述预测的当前周期内的总访问次数、所述第一周期内的访问次数和所述第二周期内的访问次数，获取所述访问内容的热度值。

其中，如果所述访问内容在所述缓存中存在，则根据所述预测的当前周期内的总访问次数、所述第一周期内的访问次数和所述第二周期内的访问次数，获取所述访问内容的热度值的步骤包括：

如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁不为0，则根据所述第一周期内的访问次数以及所述第二周期内的访问次数，获取所述访问内容的热冷趋势因子a，并根据所述预测的当前周期的总访问次数C_total以及所述访问内容的热冷趋势因子a，获得所述访问内容的热度值；

如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁为0，则所述访问内容的热度值Key＝C_total。

其中，所述a=N*C₂/C₁，其中，N为常数，所述访问内容的热度值Key＝(C_total)^a。

其中，如果所述访问内容在所述缓存中不存在，上述方法还包括：

对所述访问内容进行设置不可删除的标志位；

在所述访问内容在所述缓存中存储的时间超过一预设时间长度，清除所述标志位。

其中，如果t<=t_start+T，若所述访问内容又被访问，则C_now＝C_now＋＋，且当前周期已流逝的时间＝t－t_start；

如果t>t_start+T，若所述访问内容又被访问，则t_start＝t_start＋T，所述第一周期的访问次数C₁=C₂，所述第二周期的访问次数C₂=C_now。

本发明的实施例还提供一种缓存中数据替换装置，包括：

第一获取模块，用于获取对访问内容在一预设时间段内的访问次数；

第二获取模块，用于根据所述访问次数，获取所述访问内容的热度值；

替换模块，用于根据所述热度值对所述缓存中的存储的数据进行替换。

其中，第一获取模块具体用于：获取对访问内容在最近三个周期内的访问次数；其中，将所述当前周期内的访问次数设置为C_now，且预测的当前周期内的总访问次数为C_total，所述当前周期之前的第二周期内的访问次数设置为C₂，所述第二周期之前的第一周期内的访问次数设置为C₁。

其中，所述C_total＝C_now×（t-t_start）/T；其中，t为当前时间，t_start为当前周期的开始时间，T为当前周期的周期时长，且所述第一周期和所述第二周期的周期时长也为T。

其中，所述第二获取模块包括：

第一获取子模块，用于判断如果所述访问内容在所述缓存中不存在，则根据所述当前周期内的访问次数，获取所述访问内容的热度值Key＝C_now；

第二获取子模块，用于判断如果所述访问内容在所述缓存中存在，则根据所述预测的当前周期内的总访问次数、所述第一周期内的访问次数和所述第二周期内的访问次数，获取所述访问内容的热度值。

其中，所述第二获取子模块具体用于：

判断如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁不为0，则所述根据所述第一周期内的访问次数以及所述第二周期内的访问次数，获取所述访问内容的热冷趋势因子a，并根据所述预测的当前周期的总访问次数C_total以及所述访问内容的热冷趋势因子a，获得所述访问内容的热度值；

判断如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁为0，则所述访问内容的热度值Key＝C_total。

其中，所述a=N*C₂/C₁，其中，N为常数，所述访问内容的热度值Key＝(C_total)^a。

其中，如果所述访问内容在所述缓存中不存在，上述装置还包括：

设置模块，用于对所述访问内容进行设置不可删除的标志位；在所述访问内容在所述缓存中存储的时间超过一预设时间长度，清除所述标志位。

其中，上述装置还包括：

更新模块，用于判断如果t<=t_start+T，若所述访问内容又被访问，则C_now＝C_now＋＋，且当前周期已流逝的时间＝t－t_start；

如果t>t_start+T，若所述访问内容又被访问，则t_start＝t_start＋T，所述第一周期的访问次数C₁=C₂，所述第二周期的访问次数C₂=C_now。

本发明的上述技术方案的有益效果如下：

上述方案中，通过获取对访问内容在一预设时间段内的访问次数；根据所述访问次数，获取所述访问内容的热度值；根据所述热度值对所述缓存中的存储的数据进行替换；以该热度值作为内容替换的依据，全方位的考虑访问内容相关的因数，能更精确的预测访问内容的热度，提高缓存的命中率。

附图说明

图1为本发明的缓存中数据替换方法的流程示意图；

图2为图1所示方法的一具体实现流程示意图；

图3为本发明的缓存中数据替换装置的结构示意图。

具体实施方式

为使本发明要解决的技术问题、技术方案和优点更加清楚，下面将结合附图及具体实施例进行详细描述。

如图1所示，本发明的实施例提供一种缓存中数据替换方法，包括：

步骤11，获取对访问内容在一预设时间段内的访问次数；

步骤12，根据所述访问次数，获取所述访问内容的热度值；

步骤13，根据所述热度值对所述缓存中的存储的数据进行替换。

该实施例，通过获取对访问内容在一预设时间段内的访问次数；根据所述访问次数，获取所述访问内容的热度值；根据所述热度值对所述缓存中的存储的数据进行替换；以该热度值作为内容替换的依据，全方位的考虑访问内容相关的因数，能更精确的预测访问内容的热度，提高缓存的命中率。

其中，在上述实施例中，步骤11包括：

获取对访问内容在最近三个周期内的访问次数；其中，将所述当前周期内的访问次数设置为C_now，且预测的当前周期内的总访问次数为C_total，所述当前周期之前的第二周期内的访问次数设置为C₂，所述第二周期之前的第一周期内的访问次数设置为C₁。

其中，所述C_total＝C_now×（t-t_start）/T；其中，t为当前时间，t_start为当前周期的开始时间，T为当前周期的周期时长，且所述第一周期和所述第二周期的周期时长也为T。

其中，上述实施例中，步骤12包括：

步骤121，如果所述访问内容在所述缓存中不存在（即访问内容是新内容），则根据所述当前周期内的访问次数，获取所述访问内容的热度值Key＝C_now；进一步的，如果所述访问内容在所述缓存中不存在，此时，还包括：对所述访问内容进行设置不可删除的标志位；在所述访问内容在所述缓存中存储的时间超过一预设时间长度，清除所述标志位。这是因为：如果用户访问的是新内容，设置该访问内容的标志位为不可被删除，只有新内容待在缓存中的时间超过一预设时间长度，如预设时间长度为N，才可以被删除。如此做的原因是：如果不设置标志位，因新内容刚进缓存，相关信息收集还不够全面，仅仅按照当前的访问次数很容易就成为缓存中热度最低的内容，但是该热度并不真正反映内容的冷热程度，为了避免频繁内容进入和删除，只有让内容在缓存待一定时间，才能获得出内容的真实热度值。

步骤122，如果所述访问内容在所述缓存中存在，则根据所述预测的当前周期内的总访问次数、所述第一周期内的访问次数和所述第二周期内的访问次数，获取所述访问内容的热度值Key。

其中，步骤122可以包括：

步骤1221，如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C1不为0，则所述根据所述第一周期内的访问次数以及所述第二周期内的访问次数，获取所述访问内容的热冷趋势因子a，并根据所述预测的当前周期的总访问次数C_total以及所述访问内容的热冷趋势因子a，获得所述访问内容的热度值；其中，访问内容热冷趋势因子a=N*C₂/C₁，N为常数，如可以为1，所述访问内容的热度值Key＝(C_total)^a；

步骤1222，如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁为0，则所述访问内容的热度值Key＝C_total。

进一步，上述方法中，如果t<=t_start+T，即还在当前周期内，若所述访问内容又被访问，则需要更新C_now＝C_now＋＋，且当前周期已流逝的时间＝t－t_start，即当前最新的访问时间，此时，预测当前周期总的访问次数依然依据公式C_total＝C_now×（t-t_start）/T得到，内容热冷趋势因子a保持不变；

如果t>t_start+T，若所述访问内容又被访问，则t_start＝t_start＋T，所述第一周期的访问次数C₁=C₂，所述第二周期的访问次数C₂=C_now，当前周期的访问次数C_now=1，内容热冷趋势因子a=N*C₂/C₁。

如图2所示，为上述方法的一具体实现过程流程图，具体的缓存方法包括：

步骤21，用户请求一个访问内容k；

步骤22，如果代理服务器命中，转步骤23，否则转步骤24；

步骤23，更新访问内容k的点击次数、最后访问时间等信息，更新其热度值，转步骤28；

步骤24，如果代理服务器的缓存有空间，转步骤26；

步骤25，如果代理服务器的缓存没有空间，依次将key最小的且可以删除的内容踢出代理服务器的缓存，直到缓存可以存储内容k；

步骤26，将访问内容从源服务器拽到并保存在代理服务器的缓存中；

步骤27，更新访问内容k的访问次数、最后访问时间等信息，更新其热度值，设置标志位不可删除，只有等新内容在缓存中待得时间超过一定要求才可以按照要求删除，转步骤28。

步骤28，直接将访问内容返给用户。

本发明的上述实施例通过对访问内容最近一段时间（如上述最近三个周期内）访问次数的统计，分析出访问内容变热或变冷的趋势，根据访问次数和冷热趋势计算得出访问内容的热度值，以该热度值作为内容替换的依据。其中，访问次数根据当前周期内容已经被访问的次数推测本周期总的访问次数，冷热趋势因子通过前两个周期内容访问次数的比值获得。本发明的上述方法不仅考虑到访问内容的访问频率、内容的最近访问情况，还将访问内容变冷变热的趋势考虑进去，这样全方位的考虑内容相关的因数，能更精确的预测内容的热度，提高缓存的命中率。

另外，本发明的上述方法，只考虑最近几个周期的点击次数，即考虑到了内容最近访问信息，所以可以很好的应对突发情况，具有时间局部性。舍弃了陈旧的历史信息，避免了LFU的缓存污染。而且不仅仅考虑最近一次的情况，而是考虑最近几个周期的点击次数，故具有一定的长期性。不仅如此，还将内容变冷热的趋势因子考虑到热度计算中，可以更好地权衡内容的冷热程度，提高缓存的命中率。

如图3所示，本发明的实施例还提供一种缓存中数据替换装置，包括：

第一获取模块31，用于获取对访问内容在一预设时间段内的访问次数；

第二获取模块32，用于根据所述访问次数，获取所述访问内容的热度值；

替换模块33，用于根据所述热度值对所述缓存中的存储的数据进行替换。

其中，第一获取模块具体用于：获取对访问内容在最近三个周期内的访问次数；其中，将所述当前周期内的访问次数设置为C_now，且预测的当前周期内的总访问次数为C_total，所述当前周期之前的第二周期内的访问次数设置为C₂，所述第二周期之前的第一周期内的访问次数设置为C₁。

其中，所述C_total＝C_now×（t-t_start）/T；其中，t为当前时间，t_start为当前周期的开始时间，T为当前周期的周期时长，且所述第一周期和所述第二周期的周期时长也为T。

其中，所述第二获取模块包括：

第一获取子模块，用于判断如果所述访问内容在所述缓存中不存在，则根据所述当前周期内的访问次数，获取所述访问内容的热度值为：Key＝C_now；

第二获取子模块，用于判断如果所述访问内容在所述缓存中存在，则根据所述预测的当前周期内的总访问次数、所述第一周期内的访问次数和所述第二周期内的访问次数，获取所述访问内容的热度值。

其中，所述第二获取子模块具体用于：

判断如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁不为0，则根据所述第一周期内的访问次数以及所述第二周期内的访问次数，获取所述访问内容的热冷趋势因子a，并根据所述预测的当前周期的总访问次数C_total以及所述访问内容的热冷趋势因子a，获得所述访问内容的热度值，其中，a=N*C₂/C₁，N为常数，如可以为1，所述访问内容的热度值Key＝(C_total)^a；

判断如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁为0，则所述访问内容的热度值Key＝C_total。

其中，如果所述访问内容在所述缓存中不存在，上述装置还包括：

设置模块，用于对所述访问内容进行设置不可删除的标志位；在所述访问内容在所述缓存中存储的时间超过一预设时间长度，清除所述标志位。

其中，上述装置还包括：

更新模块，用于判断如果t<=t_start+T，若所述访问内容又被访问，则C_now＝C_now＋＋，且当前周期已流逝的时间＝t－t_start；

如果t>t_start+T，若所述访问内容又被访问，则t_start＝t_start＋T，所述第一周期的访问次数C₁=C₂，所述第二周期的访问次数C₂=C_now。

该装置实施例同样通过对访问内容最近一段时间（如上述最近三个周期内）访问次数的统计，分析出访问内容变热或变冷的趋势，根据访问次数和冷热趋势计算得出访问内容的热度值，以该热度值作为内容替换的依据。不仅考虑到访问内容的访问频率、内容的最近访问情况，还将访问内容变冷变热的趋势考虑进去，这样全方位的考虑内容相关的因数，能更精确的预测内容的热度，提高缓存的命中率。

最后需要说明的是：该装置实施例是与上述方法对应的装置，上述方法实施例中所有实现方式均适用于该装置实施例中，也能达到相同的技术效果。

以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明所述原理的前提下，还可以作出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种缓存中数据替换方法，其特征在于，包括：

获取对访问内容在一预设时间段内的访问次数；

根据所述访问次数，获取所述访问内容的热度值；

根据所述热度值对所述缓存中的存储的数据进行替换；获取对访问内容在一预设时间段内的访问次数的步骤包括：

获取对访问内容在最近三个周期内的访问次数；其中，将当前周期内的访问次数设置为C_now，且预测的当前周期内的总访问次数为C_total，所述当前周期之前的第二周期内的访问次数设置为C₂，所述第二周期之前的第一周期内的访问次数设置为C₁；

根据所述访问次数，获取所述访问内容的热度值的步骤包括：

如果所述访问内容在所述缓存中不存在，则根据所述当前周期内的访问次数，获取所述访问内容的热度值Key＝C_now；

如果所述访问内容在所述缓存中存在，则根据所述预测的当前周期内的总访问次数、所述第一周期内的访问次数和所述第二周期内的访问次数，获取所述访问内容的热度值；

如果所述访问内容在所述缓存中存在，则根据所述预测的当前周期内的总访问次数、所述第一周期内的访问次数和所述第二周期内的访问次数，获取所述访问内容的热度值的步骤包括：

如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁不为0，则根据所述第一周期内的访问次数以及所述第二周期内的访问次数，获取所述访问内容的热冷趋势因子a，并根据所述预测的当前周期的总访问次数C_total以及所述访问内容的热冷趋势因子a，获得所述访问内容的热度值；如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁为0，则所述访问内容的热度值Key＝C_total。

2.根据权利要求1所述的缓存中数据替换方法，其特征在于，所述C_total＝C_now×(t-t_start)/T；其中，t为当前时间，t_start为当前周期的开始时间，T为当前周期的周期时长，且所述第一周期和所述第二周期的周期时长也为T。

3.根据权利要求1所述的缓存中数据替换方法，其特征在于，如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁不为0时，所述a＝N*C₂/C₁，其中，N为常数，所述访问内容的热度值Key＝(C_total)^a。

4.根据权利要求1所述的缓存中数据替换方法，其特征在于，如果所述访问内容在所述缓存中不存在，还包括：

对所述访问内容进行设置不可删除的标志位；

在所述访问内容在所述缓存中存储的时间超过一预设时间长度时，清除所述标志位。

5.根据权利要求2所述的缓存中数据替换方法，其特征在于，如果t<＝t_start+T，若所述访问内容又被访问，则C_now＝C_now++，且当前周期已流逝的时间＝t－t_start；

如果t>t_start+T，若所述访问内容又被访问，则t_start＝t_start+T，所述第一周期的访问次数C₁＝C₂，所述第二周期的访问次数C₂＝C_now。

6.一种缓存中数据替换装置，其特征在于，包括：

第一获取模块，用于获取对访问内容在一预设时间段内的访问次数；

第二获取模块，用于根据所述访问次数，获取所述访问内容的热度值；

替换模块，用于根据所述热度值对所述缓存中的存储的数据进行替换；

第一获取模块具体用于：获取对访问内容在最近三个周期内的访问次数；其中，将当前周期内的访问次数设置为C_now，且预测的当前周期内的总访问次数为C_total，所述当前周期之前的第二周期内的访问次数设置为C₂，所述第二周期之前的第一周期内的访问次数设置为C₁；

所述第二获取模块包括：

第一获取子模块，用于判断如果所述访问内容在所述缓存中不存在，则根据所述当前周期内的访问次数，获取所述访问内容的热度值Key＝C_now；

第二获取子模块，用于判断如果所述访问内容在所述缓存中存在，则根据所述预测的当前周期内的总访问次数、所述第一周期内的访问次数和所述第二周期内的访问次数，获取所述访问内容的热度值；

所述第二获取子模块具体用于：

判断如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁不为0，则根据所述第一周期内的访问次数以及所述第二周期内的访问次数，获取所述访问内容的热冷趋势因子a，并根据所述预测的当前周期的总访问次数C_total以及所述访问内容的热冷趋势因子a，获得所述访问内容的热度值；

判断如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁为0，则所述访问内容的热度值Key＝C_total。

7.根据权利要求6所述的缓存中数据替换装置，其特征在于，所述C_total＝C_now×(t-t_start)/T；其中，t为当前时间，t_start为当前周期的开始时间，T为当前周期的周期时长，且所述第一周期和所述第二周期的周期时长也为T。

8.根据权利要求6所述的缓存中数据替换装置，其特征在于，如果所述访问内容在所述缓存中存在，且所述第一周期内的访问次数C₁不为0时，所述a＝N*C₂/C₁，其中，N为常数，所述访问内容的热度值Key＝(C_total)^a。

9.根据权利要求6所述的缓存中数据替换装置，其特征在于，如果所述访问内容在所述缓存中不存在，还包括：

设置模块，用于对所述访问内容进行设置不可删除的标志位；在所述访问内容在所述缓存中存储的时间超过一预设时间长度，清除所述标志位。

10.根据权利要求7所述的缓存中数据替换装置，其特征在于，还包括：

更新模块，用于判断如果t<＝t_start+T，若所述访问内容又被访问，则C_now＝C_now++，且当前周期已流逝的时间＝t－t_start；

如果t>t_start+T，若所述访问内容又被访问，则t_start＝t_start+T，所述第一周期的访问次数C₁＝C₂，所述第二周期的访问次数C₂＝C_now。