[发明专利]一种基于访问频率的缓存优化方法及系统

说明书

本发明公开了一种基于访问频率的缓存优化方法及系统，涉及服务器运维管理技术领域。方法包括：采用频率近似统计方法削减维护缓存频次所需的空间；然后基于时间变化更新缓存的访问频次。本方法通过采用频率近似统计方法削减维护缓存频次所需的空间，解决了维护高频次的访问元数据存在的消耗大量计算和存储资源的问题，然后使用一种随访问频次更新的统计方式，基于时间变化更新缓存的访问频次，减少了频率保存的空间占用，解决了现有LRU缓存设计中存在的高负载下的空间消耗及部分数据不准确的问题。本发明基于访问频率淘汰策略，采用低占用、高命中率的缓存机制，降低了资源消耗，提高了缓存命中率。

技术领域

本发明实施例涉及服务器运维管理技术领域，具体来说涉及一种基于访问频率的缓存优化方法及系统。

背景技术

缓存是提高系统性能最基本、最有效的方法之一。它是通过将一小部分数据项保留在内存中，达到快速访问的目的。缓存工作产生的直观原因是计算机科学中许多领域的数据访问都表现出相当程度的位置性，捕捉这种局部性的一个更正式的方法就是通过概率分布来描述所有可能的数据项的访问频率，并注意到在真实系统中概率分布是高度倾斜的，这意味着少数对象比其他对象的访问频率更高。当访问到来时，若请求的数据在缓存中，称为缓存命中，命中的次数和访问总次数的比值就是缓存命中率，显然，命中率是缓存的重要指标之一。通常情况下，缓存的容量有限，因此选择将哪些数据保留在缓存中，以及在缓存满了的情况下，如何淘汰缓存里的旧数据以提高命中率，是缓存设计中的核心问题。

现有技术中，一种经典的缓存设计思路叫LFU(Least Frequency Used，最小使用频率)，即最少被访问到的缓存会被淘汰。这种缓存在实现中存在两个问题：一是需要维护数据访问次数，这部分数据也会占用内存空间，且实现繁琐；二是部分场景不适用，比如说缓存的电视剧，在刚推出时点击率非常高，但时间一过就明显降低，这样的高频数据也不应该留在缓存中。LFU的一种改进形式是LRU(Least Recently Used，最近最少算法)，其在LFU的基础上，维护一个时间滑动窗口，只统计时间窗口内的频次数据，从而在应对突发流量上获得比LFU更好的效果。然而，在高负载下情况下，LRU依然需要很多空间才能达成和LFU一致的缓存命中率。

发明内容

本发明实施例提供一种基于访问频率的缓存优化方法及系统，基于访问频率淘汰策略，采用低占用、高命中率的缓存机制，降低了资源消耗，提高了缓存命中率。

为实现上述目的，本发明公开了如下技术方案：

一方面，本发明提供一种基于访问频率的缓存优化方法，所述方法包括以下步骤：

首先采用频率近似统计方法削减维护缓存频次所需的空间；

然后基于时间变化更新缓存的访问频次。

基于上述方案，本方法做如下优化：

进一步的，所述采用频率近似统计方法削减维护缓存频次所需的空间，包括下述步骤：

采用n个两两独立的哈希算法为缓存中的每个键值计算出n个哈希值h1，h2，…，hn，将这些哈希值分布在二维空间上，当请求到来时，取min(h1，h2，…，hn)并加1，然后将上述min(h1，h2，…，hn)加1后的值作为该键值的近似统计。

进一步的，所述基于时间变化更新缓存的访问频次，包括下述步骤：

使用计数器记录缓存访问频次，每次访问后将计数器的值加1，当计数值达到访问阈值后，所有的访问统计更新统一做右移一位处理，将实际频率以2为底的对数作为最终频率统计。

进一步的，所述方法还包括如下步骤：

将访问频次为1的数据及主缓存区淘汰的数据放置于小缓存中暂存。

另一方面，本发明提供一种基于访问频率的缓存优化系统，所述系统包括：