[发明专利]一种多核处理器共享缓存分配方法

说明书

技术领域

本发明属于计算机软件领域，具体涉及到一种多核CPU共享缓存分配方法。

背景技术

随着处理器频率逐渐逼近瓶颈，体系结构研究者与工业界都转向了多核领域，利用多个处理器核来提升计算机系统的整体性能，从而缓解了计算机系统对高频率的需求。位于处理器核与内存之间有一层高速缓存结构，它的读写速度要比内存快。数据被缓存到CPU缓存中，当CPU读写数据时，可避免从较慢的内存中存取数据，而直接从高速缓存中操作数据，从而提升了计算机系统的性能。

当前市场的计算机体系结构有两种缓存设计方式，共享缓存和私有缓存。私有缓存是每个处理器核拥有自己的一块私有的缓存，这种结构不利于核之间的通信，并且因为存在数据副本而降低了缓存利用率。共享缓存结构是多个核共享一块缓存，这种架构提升了缓存利用率并降低了核之间的通信开销。因此，许多处理器厂商选择了共享最后一级缓存的体系结构，比如Intel Core，IBM Power5和Sun Niagara等等。

但是，共享的缓存结构带来了缓存竞争的问题。一般处理器缓存采用最近最少使用LRU替换算法，LRU替换算法平等对待并行执行的多个应用，当一个应用的缓存失效时，可能替换另外一个应用在缓存中的数据，反之亦然，最终导致双方性能下降。因此共享缓存的管理问题成为当前研究热点。

当前，共享缓存分配方法主要有：

(1)静态的缓存分配方法，这种方法在程序运行之前就确定缓存管理的策略。或者是通过编译时的信息，标记它的数据的局部性、访存类型等特征，对标记的数据区域实施特定的管理策略；或者是由用户自己定制；或者由操作系统为应用制定缓存管理计划，赋予应用不同的优先级，优先级高的应用获取较多缓存且不易被替换。

(2)基于反馈信息的动态缓存分配方法，这是一种利用运行时信息动态管理缓存的方法。根据程序运行时的反馈信息，比如缓存缺失率，动态分配应用缓存大小，以达到要求的性能指标。这种方法需要添加额外的性能监控硬件。

这些方法都是需要改变现有的硬件结构，添加额外的硬件才能达到管理缓存的目标。现在还仅仅在学术界被用来研究，还没有在真实机器上实现。

发明内容

本发明提供一种多核处理器体系结构下的共享缓存分配方法，该方法不需要添加额外的硬件资源，能很好的应用在真实机器上。

一种多核处理器共享缓存分配方法，涉及两个共享CPU缓存的应用程序a和b，该方法具体为：

(1)缺失率曲线预测：

(11)收集应用程序i的采样点的缺失间距数据，i＝a，b；

(12)依据缺失间距数据获取累计缺失次数-累计访问次数曲线；

(13)对累计缺失次数-累计访问次数曲线作线性拟合，拟合得到的曲线的斜率记为分维θ_i，拟合得到的曲线的截距记为截距A_i；

(14)计算缺失率曲线其中C为缓存大小；

(2)分配缓存：

程序a的缓存Alloc_a＝min{MRC_a(x)+MRC_b(C-x)，x∈[1，C-1]}

程序b的缓存Alloc_b＝c-Alloc_a，

其中，C为CPU的总缓存。

本发明方法主要应用在两个程序竞争使用缓存的场景中。共享缓存的处理器体系结构中，两程序会竞争地使用缓存，互相驱逐对方的数据，最终导致双方的性能都下降。本发明隔离程序对缓存的使用，分配给不同的程序不同的缓存区域，运行时分析程序对缓存大小的需求，制定缓存划分策略。

本发明的特点主要有个方面：

(1)实用性：这种缓存管理方法不需要添加硬件，利用真实机器上普遍存在的硬件计数器部件，就可以在真实机器上实现。

(2)透明性：不需要修改程序源代码或者可执行文件，也不需要对可执行文件进行插桩。

(3)开销小：利用硬件计数器实现对程序的监控，最小化了缓存管理单元对程序性能的影响。并通过分形预测模型预测程序对缓存的需求，只需要运行一次程序就能得到程序的缓存缺失率曲线。

附图说明

图1为本发明的总体框架图；

图2为获取累计缺失次数-累计访问次数数据的方法。

具体实施方式

下面结合附图和实例对本发明作进一步详细的说明。