[发明专利]缓存数据替换方法、装置、设备和存储介质

说明书

本申请提供一种缓存数据替换方法、装置、设备和存储介质，该方法包括：在处理器访问缓存数据未命中任一存储路时，检测缓存中所有存储路是否均已被使用，其中，缓存包括多个存储组，每个存储组包括多个存储路；若缓存中所有的存储路均已被使用，获取每个存储路的历史使用信息；根据历史使用信息对多个存储路做最近最少使用计算，以从多个存储路中选出最近最少使用的第一存储路；从主存中取出处理器访问的目标数据，将第一存储路中的数据替换为目标数据，并根据第一存储路更新各个存储路的历史使用信息。本申请通过位比较对各存储路数据访问先后进行排序、对有效位与比较位进行复用，提高缓存的有效利用率，节省了面积和功耗。

技术领域

本申请涉及存储器技术领域，具体而言，涉及一种缓存数据替换方法、装置、设备和存储介质。

背景技术

Cache存储器，在电脑中为高速缓冲存储器，是一种根据程序局部性原则，通过小容量速度快的存储器缓存部分数据，以减少处理器对慢速大容量存储器的访问次数，从而提升处理器取指效率的机制。处理器进行数据读取时，通常先在读取速度更快的高速缓存(Cache)中进行读取，以缩短数据获取的周期，从而加快处理器运行速度。作为内存数据的备份场所，高速缓存和内存之间的映射通常可以分为全相联映射，直接相联映射和组相联映射。相较于全相联映射和直接相联映射，组相联映射在大多数应用场合尤其多处理器架构中可以提供更加好的性能，因此一般被用作现代处理器高速缓存和内存之间的映射方式。据一个组(set)中所含有存储路(way)的数量N的不同，可以将高速缓存称作N路组联映射高速缓存，简称N路组相联高速缓存。通常而言，N是2的k次方(k大于或等于1，且k是整数)。例如，N等于2、4、8、16等等。

当处理器访问高速缓存时，如果发生数据未命中，此时如果高速缓存还拥有未被使用的可使用单元，则将新数据从内存中取出放入高速缓存：此时如果高速缓存内的可使用单元都被占用，则必须选择一条数据并将其从高速缓存中拿出，从而释放存储单元来存储从内存中拿出的未命中数据。对于后一种情况，高速缓存数据替换部件需要按照一定方式来决定拿出哪条数据，也就是高速缓存的数据替换方法。

Cache替换算法是指当Cache缺失发生后，Cache按某种机制选中高速缓存中的某个地址进行数据更新。Cache替换算法对Cache的命中率有较大的影响。目前主流的Cache替换算法有随机数法、先进先出法、最不经常使用法和最近最少使用法(Least RecentlyUsed，最近最少使用，简称“LRU”)等。在这几种替换策略中，由于CPU执行命令具有局限性(即当前执行的程序代码，在不久后会再次访问该代码段)的特点，LRU法替代策略的缺失率比较低，效果好。

但是，LRU法的原理是在每个行中设置一个计数器，哪一行被CPU访问，则这行置0，其他行增1。在一段时间内，如此循环，待到要替换时，把计数值最大的行替换出去。在组相联高速缓存设计中，其硬件开销比较大。

发明内容

本申请实施例的目的在于提供一种缓存数据替换方法、装置、设备和存储介质，实现了通过位比较对各存储路数据访问先后进行排序、对有效位与比较位进行复用，提高缓存的有效利用率，节省了面积和功耗。

本申请实施例第一方面提供了一种缓存数据替换方法，包括：在处理器访问缓存数据未命中任一存储路时，检测所述缓存中所有存储路是否均已被使用，其中，所述缓存包括多个存储组，每个所述存储组包括多个所述存储路；若所述缓存中所有的所述存储路均已被使用，获取每个所述存储路的历史使用信息；根据所述历史使用信息对多个所述存储路做最近最少使用计算，以从多个所述存储路中选出最近最少使用的第一存储路；从主存中取出所述处理器访问的目标数据，将所述第一存储路中的数据替换为所述目标数据，并根据所述第一存储路更新各个所述存储路的历史使用信息。

于一实施例中，还包括：若所述缓存中存在未被使用的无效存储路，从所述主存中取出所述处理器访问的目标数据，将所述目标数据存储至所述无效存储路，并根据所述无效存储路更新各个所述存储组的历史使用信息。