[发明专利]用以加速高速缓冲存储器存取的高速缓冲存储器填充的关键词优先排序以及相关基于处理器的系统及方法

说明书

优先权主张

本申请案主张2013年3月7日申请且标题为“用以加速关键词优先高速缓存存取的高速缓冲存储器中的关键词优先排序以及相关基于处理器的系统及方法(CRITICAL-WORD-FIRST ORDERING IN CACHE MEMORIES TO ACCELERATE CRITICAL-WORD-FIRST CACHE ACCESSES,AND RELATED PROCESSOR-BASED SYSTEMS AND METHODS)”的第61/773,951号美国临时专利申请案的优先权，所述申请案以全文引用的方式并入本文中。

本申请案还主张2013年6月25日申请且标题为“用以加速高速缓冲存储器存取的高速缓冲存储器填充的关键词优先排序以及相关基于处理器的系统及方法(CRITICAL-WORD-FIRST ORDERING OF CACHE MEMORY FILLS TO ACCELERATE CACHE MEMORY ACCESSES,AND RELATED PROCESSOR-BASED SYSTEMS AND METHODS)”的第13/925,874号美国专利申请案的优先权，所述申请案以全文引用的方式并入本文中。

技术领域

本发明的领域涉及存取基于处理器的系统中的高速缓冲存储器。

背景技术

高速缓冲存储器可由例如中央处理单元(CPU)等计算机处理器使用，通过存储来自频繁使用的主存储器位置的数据复本来减少平均存储器存取时间。高速缓冲存储器通常具有比计算机的主存储器小得多的存储容量。然而，高速缓冲存储器还具有比主存储器低得多的时延(即，高速缓冲存储器可由CPU快得多地存取)。因此，只要是对先前高速缓存的存储器位置进行CPU的大部分存储器请求，高速缓冲存储器的使用便将导致相比主存储器的时延更接近于高速缓冲存储器的时延的平均存储器存取时延。高速缓冲存储器可集成到与CPU自身相同的计算机芯片中(即，“片上”高速缓冲存储器)，充当CPU与片外存储器之间的接口。高速缓冲存储器可经组织成多个高速缓存级别的分级结构(例如，L1、L2或L3高速缓存)，其中高速缓存分级结构中的较高级别包括比较低级别更小且更快的存储器。

虽然较大的片上高速缓冲存储器可减小对片外存储器存取的需求，但片上高速缓冲存储器大小的增加也导致片上高速缓冲存储器的互连时延的增加。互连时延是指归因于构成高速缓冲存储器的存储器阵列的物理结构在检索高速缓冲存储器的内容时的延迟。举例来说，大的片上高速缓冲存储器可包括经划分成提供较低互连时延的“快速分区”子阵列及需要较高互连时延的“缓慢分区”子阵列的存储器阵列。由于高速缓冲存储器的物理特性，因此缓慢分区子阵列中高速缓存的数据项的检索可需要比快速分区子阵列中存储的数据项的检索更多的处理器时钟脉冲。因此，如果从高速缓冲存储器请求的数据项(即，“关键词”)位于缓慢分区子阵列中，那么会招致额外互连时延，这对CPU的性能具有负面影响。

发明内容

本文中所揭示的实施例包含用以加速高速缓冲存储器存取的高速缓冲存储器填充的关键词优先排序。还揭示了相关基于处理器的系统及方法。在本文中所揭示的实施例中，排序多个数据项以使得多个数据项当中的关键词在高速缓存填充期间占据高速缓存线的第一数据项块。存储与高速缓存线相关联的高速缓存线排序索引以基于高速缓存线的第一数据项块中排序的关键词指示高速缓存线中的多个数据项的排序。以此方式，在存取高速缓冲存储器中的高速缓存线时，咨询高速缓存线排序索引以基于高速缓存填充已进行关键词优先排序来确定存储于高速缓存线中的数据项的排序。作为非限制性实例，本文中提供的关键词优先排序可增加缓慢分区存储器子阵列中的数据项块命中率，从而降低有效高速缓存存取时延且改进处理器性能。

就此而言，在一个实施例中，提供一种高速缓冲存储器。高速缓冲存储器包括数据阵列，所述数据阵列包括高速缓存线，所述高速缓存线包括经配置以存储多个数据项的多个数据项块。高速缓冲存储器还包括高速缓存线排序逻辑。高速缓存线排序逻辑经配置以在高速缓存填充期间将多个数据项关键词优先排序到高速缓存线中。高速缓存线排序逻辑还经配置以存储与高速缓存线相关联的高速缓存线排序索引，所述高速缓存线排序索引指示高速缓存线中的多个数据项的关键词优先排序。高速缓冲存储器进一步包括经配置以基于用于高速缓存线的高速缓存线排序索引存取高速缓存线中的多个数据项中的每一者的高速缓存存取逻辑。