[发明专利]用于专用最末级高速缓存器的旁路预测器

说明书

一种用于将数据分配到第一高速缓存器的系统和方法：如果用于数据的重用指示符指示数据有可能被重用，则将第一计数器递增；如果用于数据的重用指示符指示所述数据有可能不被重用，则将计数器递减。在数据被从第二高速缓存器逐出时，将第二计数器递增，第二高速缓存器作为比第一高速缓存器更高级的高速缓存器。如果第一计数器的值等于或大于第一预定阈值或者第二计数器的值等于零，则将数据分配到第一高速缓存器；以及，如果第一计数器的值小于第一预定阈值且第二计数器的值不等于零，则将数据从第一高速缓存器旁路。

技术领域

这里公开的主题总体上涉及处理系统。更具体地说，这里公开的主题涉及一种用于在专用最末级(exclusive last-level)高速缓存器中选择性旁路逐出(evicted)数据块的分配的高速缓存器系统和方法。

背景技术

最末级高速缓存器(Last-Level cache，LLC)通常被设计为专用高速缓存器，通过存储已经被从更上级高速缓存器驱逐的数据来保留更高级替换牺牲(victim)，以用于可能的未来参考。并非来自更上级高速缓存器的所有被驱逐(cast-out)数据在LLC中被高速缓存都是有用的。例如，被驱逐数据会包含无用块，诸如非时态数据和/或死代码和数据。对于这种无用的驱逐项旁路LLC并将有用的驱逐项分配给LLC可以节省互连带宽和功率，并可以提高高速缓存器性能。然而，从专用最末级高速缓存器(LLC)旁路可能很有挑战，这是因为由于高级逐出项不携带程序行为信息，所以当通过更高级高速缓存器过滤出高速缓存器访问时，LLC意识不到程序行为。此外，在专用高速缓存器中缺少本地信息(localityinformation)，这是因为重用高速缓存器线可以被调回更上级高速缓存器，而没有留下近期信息(recency information)来跟踪。

有些专用高速缓存器管理技术可以在专用LLC中保持跟踪数据重用距离，并将数据分别分配在最近最少使用(LRU)栈的不同位置。为了避免将随后填充上的线逐出到相同的高速缓存器集，栈中的插入位置需要高于最低LRU位置，诸如LRU+1或MRU位置。然而，当工作负载包含流传输模式或非时态模式时，这种高速缓存器管理技术将抖动(thrash)专用高速缓存器。例如，如果对于请求的数据块的重用距离大于更上级高速缓存器和LLC的容量，则从DRAM获得的数据块将被插入LLC中，并最终在任何重用之前被逐出。如果流传输数据块被分配在LLC的LRU+1或更高位置，则分配的流传输数据替换如果被保存在LLC中则会被重新引用的其他数据块。

发明内容

示例实施例提供一种用于将从第一高速缓存器逐出的数据分配到第二高速缓存器的方法，所述方法可以包括：在数据块被从第一高速缓存器逐出时确定用于所述数据块的重用指示符是否指示所述数据块有可能被重用，第一高速缓存器是比第二高速缓存器更高级的高速缓存器；如果用于所述数据块的重用指示符指示所述数据块有可能被重用，则将第一计数器递增；如果用于所述数据块的重用指示符指示所述数据块有可能不被重用，则将第一计数器递减；在所述数据块被从第一高速缓存器逐出时，将第二计数器递增；将第一计数器的值与第一预定阈值进行比较；确定第二计数器的值是否等于零；如果第一计数器的值等于或大于第一预定阈值，或者，第二计数器的值等于零，则将所述数据块存储到第二高速缓存器；以及如果第一计数器的值小于第一预定阈值，并且，第二计数器的值不等于零，则在旁路第二高速缓存器的同时将所述数据块写入系统存储器。