[发明专利]一种基于反馈和公平队列的服务质量感知的缓存调度方法

说明书

本发明提供一种基于反馈和公平队列的服务质量感知的缓存调度方法，采用服务质量衡量策略将不同类似的应用的服务质量指标化，使用开始时间公平列队设置不同的开始服务时间来控制不同应用请求的服务顺序，利用基于反馈的缓存分区管理模块将所有逻辑分区划分为两种类型：提供分区和接收分区，并且调整两种类型逻辑分区之间的缓存分配，通过缓存块分配管理模块平衡整体性能和保证服务质量，以及缓存淘汰策略监控模块监控每个逻辑分区的当前缓存淘汰策略效率，并根据应用的负载特征变化进行动态调整，使用缓存压缩监控模块捕获局部性较差的应用，即存在缓存命中率长尾现象的应用。本发明能够兼顾缓存整体效率和应用之间的服务质量保证。

技术领域

本发明属于计算机系统结构缓存调度领域，涉及一种基于反馈和公平队列的服务质量感知的缓存调度方法。

背景技术

近几年传统缓存算法主要关注如何提高缓存命中率，其基本方法是根据存储访问局部性原理缓存最有可能被访问的缓存块。当前存储系统越来越趋向融合，不仅应用数量不断增加，而且应用种类也越来越复杂，不同应用在负载特征和访问规律中往往存在着较大的差异，比如电子邮件服务器随机性访问较多以及重复访问较少、网站服务器虽然随机访问较多但是某些热点网页重复性访问较多、而视频类服务器顺序性访问较多等等。这些应用的异构性给传统缓存算法带来新的问题，一方面，传统缓存算法缺乏有效的性能隔离机制。因此，无法提供有效的服务质量保证；另一方面，因为多个应用并发访问，所以一个应用访问序列可能随时插入其他应用的访问请求，但是不同应用之间的数据相关性较弱，这使得负载的整体局部性降低，特别是数据请求达到率较低的应用受到的影响更大。

发明内容

为了解决现有技术中存在的上述技术问题，本发明提出了一种基于反馈和公平队列的服务质量感知的缓存调度方法，其具体技术方案如下：

一种基于反馈和公平队列的服务质量感知的缓存调度方法，采用服务质量衡量策略将不同类似的应用的服务质量指标化，使用开始时间公平列队设置不同的开始服务时间来控制不同应用请求的服务顺序，利用基于反馈的缓存分区管理模块将所有逻辑分区划分为两种类型：提供分区和接收分区，并且调整两种类型逻辑分区之间的缓存分配，通过缓存块分配管理模块平衡整体性能和保证服务质量，以及缓存淘汰策略监控模块监控每个逻辑分区的当前缓存淘汰策略效率，并根据应用的负载特征变化进行动态调整，使用缓存压缩监控模块捕获局部性较差的应用，即存在缓存命中率长尾现象的应用。

优选的，所述服务质量衡量策略，具体包括以下步骤：

步骤1，根据用户指定应用类型或者根据其负载特征推测出具体的应用类型，用不同的服务质量计算方法计算其服务目标值，如果是低延迟应用，则进入步骤2，如果是高带宽应用，则进入步骤4；

步骤2，低延迟应用的数据请求的访问延迟由等待时间和服务时间两个部分组成，采用经典的M/G/1模型对数据请求的等待队列进行建模，将数据请求的平均服务时间设置为T_u，则一个数据请求的平均等待时间表示为，其中λ为请求到达率，E表示平均值；

步骤3，再加上请求的平均服务时间，保证该应用的延迟服务质量目标必须满足公式；

步骤4，带宽型应用的性能受缓存命中率的影响，一个数据请求的平均服务时间T_u可以用公式表示，其中h为缓存命中率，T_cache是缓存命中时的服务时间，T_disk是缓存没有命中需要访问磁盘的服务时间；

步骤5，再根据请求大小Rlen，获得保证应用的带宽服务质量目标必须满足公式。

优选的，所述开始时间公平列队，工作流程具体包括以下步骤：