[发明专利]一种改进的多核共享cache替换方法

说明书

技术领域

本发明属于计算机体系结构领域，具体涉及一种改进的多核共享cache替换方法。 

背景技术

随着片上多核逐渐成为高性能微处理器的主流设计，多核处理器所面临的一系列问题成为了人们研究的重点。而替换方法的优劣是处理器性能的一个重要指标，传统的LRU替换方法在单核处理器中得到广泛应用，而多核环境大都采用多核共享最后一级cache（LLC），应用的工作集越来越大，L2cache容量不断增加，cache相联度不断提高，存储墙以及线程干扰等问题都使得多核处理器性能受到严重影响，多核环境的这一系列变化都使得LRU替换方法和理论最优替换方法之间的差距越来越大。因此，如何有效的管理片上L2cache，尽可能的降低缺失率、提高性能已成为多核领域研究的重点。 

然而，目前多核领域cache的替换方法都还是基于传统的单核情况下的LRU替换方法，部分研究考虑到cache的访问频率，以及在cache的插入推举策略上进行改进，但也并没有考虑到多核情况下的大工作集、线程干扰和当前多核共享L2cache所采用的chche列划分的现状。 

发明内容

本发明在cache划分的基础上，考虑到cache列的访问频率以及LRU信息，利用cache列的插入推举策略，尽可能将部分当前使用的工作集保留在cache内，从而提高cache的命中率。同时方法还考虑到各个核的利用率不同的问题，提出了cache列窃取方案，使得多核之间更加有效的利用cache资源。本发明采用缺失率和系统IPC作为评价系统性能的指标，IPC是每个时钟执行的指令数（Instruction Per Cycle）。 

本发明提供技术方案如下： 

本发明，所述的cache替换策略主要分成三个阶段：初始化，替换策略，回溯。初始化是指平均划分cache列，保证每个核拥有属于自己的cache列；替换方法又细分为选择逐出单元，插入访问单元，提升优先级。其中选择逐出单元表示根据一定的原则，尽可能选择效益最小的单元替换出去；插入访问单元是将从内存取出的cache单元放置到cache组的合适位置；优先级提升，则是当cache单元命中时，提高cache单元的优先级，以利于下次利用局部性原理访问。Cache替换方法中，每个cache单元通过计数器记录该单元的访问频率信息，同时有两个基本的参数：LRU候选范围M和时间片t。M一般取值在3-5，t取值在100000～5000000个时钟周期之间。方法的主要过程如下： 

假设当前访问核core_i，划分给该核的列π_i＝（L_i1,L_i2…，L_ik），要访问的cache组为s，M个LRU候选列分别为（C₁，C₂…，C_m），候选列由组s中访问频率最低的M个列组成，MRU列为最近访问的列。每一组的候选列跟核划分信息无关，得出候选列后，根据当前访问核的列划分信息表，cache列的访问频率以及核窃取信息表，选择相应的替换策略。 

一种改进的多核共享cache替换方法，其特征在于包含以下步骤： 

1、初始化： 

1.1）初始化cache列划分信息表和路窃取信息表，以核为单位将cache列平均划分，保证每个核拥有自己的cache列，列划分信息表为矩阵I_A×B，A表示核的个数，B表示能访问的所有cache列的个数，其中I_ij为矩阵I_A×B中第i行第j列的元素，I_ij表示cache的第j列是否属于第i个核core_i； 

路窃取信息表为矩阵L_A×A，A表示核的个数，L_ij为矩阵L_A×A中第i行第j列的元素，L_ij包含两类信息，其一为核core_i是否窃取了核core_j对应的cache的存储单元，其二为被窃取的核core_j的存储单元对应的组号集合； 

1.2）当处理器核core_i发出一个L2Cache的访问请求时，根据所要访问的地址确定地址所映射的Cache组q和core_i的列划分信息表确定属于core_i的cache存储单元集合，并在存储单元集合中判断是否命中，