[发明专利]用于高速缓存的最佳接纳控制

说明书

本公开涉及用于高速缓存的最佳接纳控制。一个或多个处理器可以将对高速缓存存储中的数据项的访问请求分类为多个类别并且收集关于随时间推移的访问请求的信息。基于所收集的信息，可以确定用于缓存多个类别中的每个类别中的数据项的效用值。新请求的数据项可以根据它们的相应类别的对应效用值按顺序被接纳到高速缓存存储中。

技术领域

本公开涉及用于高速缓存的最佳接纳控制。

背景技术

通常在系统中提供高速缓存来存储数据项以供以比在不存在高速缓存的情况下低的“成本”访问。例如，系统可以被构造为使得处理器或其它组件能够比其它存储器更快地获得存储在一个存储器中的数据。这个较快的存储器可以被用作高速缓存，并且可以将包含在其它存储器中的频繁地访问的信息项拷贝到高速缓存中并从高速缓存访问。与从其它较慢的存储器访问数据项的情况相比，高速缓存可以提供对数据项的更快的访问。高速缓存常常太小而无法存储所有数据项。因此，当涉及确定哪些信息项将被存储在高速缓存中时，基于高速缓存的系统通常需要是选择性的。

通常，高速缓存接纳已被访问的数据项以加速后面的访问。随着时间的推移，高速缓存保留继续被访问的数据项，同时驱逐正在被访问的数据项以为更常访问的数据项腾出空间。然而，即使并非所有接纳的数据项都被保留，数据项的初始接纳仍用尽高速缓存中的空间，并且在诸如基于闪存的高速缓存系统的情况下，将数据项写入到高速缓存中也引发成本。因此，可能优选的是起初不将某些数据项接纳到高速缓存中。例如，惰性自适应替换高速缓存(LARC)在第一次访问时不接纳数据项，而是相反在数据项的第二次访问时接纳它们。由于被重复地访问的大多数数据项将被访问超过两次，因此LARC消除仅被访问一次的数据项而不接纳到高速缓存中。然而，LARC错过在第一次访问时缓存数据项的机会，因此不能够为数据项的第二次访问提供时间节省。

发明内容

技术总体上涉及高速缓存接纳控制。根据一个方面，一种用于高速缓存接纳控制的方法包括一个或多个处理器，该一个或多个处理器：将对高速缓存存储中的数据项的访问请求分类为多个类别；收集关于随时间推移的访问请求的信息；基于所收集的信息确定多个类别中的每个类别的效用值；基于所确定的每个类别的效用值从多个类别中标识类别集；接收对新数据项的访问请求；确定与对新数据项的访问请求相关联的类别；以及当与对新数据项的访问请求相关联的类别与类别集中的类别中的至少一个类别匹配时，将新数据项接纳到高速缓存存储中。

在一些实例中，多个类别是基于服务的用户账户和分布式数据库的表中的至少一个确定的。

在一些方面中，信息是针对历史时间段收集的。在一些示例中，信息是针对预先确定的移动窗口实时地收集的。在一些示例中，所收集的信息可以包括在驱逐之前是否已接收到对每个类别中的数据项的访问请求、每个类别中的数据项在驱逐之前已被访问的次数中的至少一个。

在一些方面中，将数据项作为块存储在高速缓存存储中并且针对每个块收集关于访问请求的信息。在一些示例中，每个类别中的数据项被存储在多个块中，并且通过对多个块的相应效用值进行求和来确定每个类别的效用值。

在一些方面中，效用值是通过以下各项中的一个或多个来确定的：磁盘访问时间节省、写到闪存的字节和所使用的高速缓存字节时间中的至少一项来确定的。在一些示例中，通过多个缓存保留时间确定效用值。

在一些方面中，新请求的数据项根据它们相应的效用值被以降序接纳到高速缓存存储中，直到高速缓存存储满了或当下一个类别提供负效用值时为止。

本公开的另一方面涉及一种系统，该系统包括一个或多个处理器，该一个或多个处理器被配置成：将对高速缓存存储中的数据项的访问请求分类为多个类别；收集关于随时间推移的访问请求的信息；基于所收集的信息确定多个类别中的每个类别的效用值；基于所确定的每个类别的效用值从多个类别中标识类别集；接收对新数据项的访问请求；确定与对新数据项的访问请求相关联的类别；以及当与对新数据项的访问请求相关联的类别与类别集中的类别中的至少一个类别匹配时，将新数据项接纳到高速缓存存储中。