[发明专利]在基于处理器的设备中跟踪重复读取以指导高速缓存一致性协议的动态选择

说明书

公开了在基于处理器的设备中跟踪重复读取以指导高速缓存一致性协议的动态选择。在这方面，基于处理器的设备包括处理元件(PE)和中央排序点电路(COP)。COP在逐个存储的基础上动态地选择写入无效协议或写入更新协议来作为高速缓存一致性协议，以用于维护存储器存储操作的高速缓存一致性。COP的选择是基于由PE使用重复读取指示符生成的协议偏好指示符，每一个PE维护该重复读取指示符以跟踪一致性颗粒是否被PE重复读取(例如，作为轮询读取的结果，或者作为在一致性颗粒由于无效窥探而从高速缓存中被逐出后重新读取一致性颗粒的结果)。在选择高速缓存一致性协议之后，COP向PE发送指示所选择的高速缓存一致协议的响应消息。

技术领域

本公开的技术涉及基于处理器的设备中的高速缓存一致性协议，并且更具体地，涉及高速缓存一致协议的动态选择。

背景技术

基于处理器的设备可以包括多个处理元件(PE)(例如，作为非限制性示例，处理器核)，其每一个处理元件提供用于存储被频繁访问的数据的一个或多个本地高速缓存。因为基于处理器的设备的多个PE可以共享诸如系统存储器的存储器资源，所以从给定存储器地址读取的共享数据的多个副本可以同时存在于系统存储器内和PE的本地高速缓存内。因此，为了确保所有PE具有共享数据的一致的视图，基于处理器的设备提供对高速缓存一致性协议的支持，以使得对一个PE内的共享数据的本地更改能够传播到其他PE。以此方式，能够避免由于共享数据的本地副本之间的不一致而在PE之间可能出现的冲突。

传统的高速缓存一致性协议包括写入无效协议和写入更新协议。在写入无效协议下，当一个PE向一致性颗粒(granule，表示管理高速缓存一致性的以字节为单位的对齐大小的系统存储器的分区)写入时，存储在其他PE的本地高速缓存中的一致性颗粒的所有副本都被无效，其中一致性颗粒的脏(即，修改的)副本在被无效之前被写入系统存储器。以这种方式丢失一致性颗粒的高速缓存副本的PE可以随后在触发无效的存储器存储操作完成之后，经由存储器加载操作来重新获得一致性颗粒副本。相反，在写入更新协议下，当一个PE向一致性颗粒写入新数据时，所有其他PE接收新数据的副本，并使用新数据的一致性颗粒更新它们各自的本地副本。因此，写入更新协议不要求一致性颗粒的任何本地高速缓存的副本无效，因此不需要额外的内存加载操作来重新获得丢失的一致性颗粒。

写入无效协议和写入更新协议的相对效率可以取决于每一个PE正在操作的环境。通常，在由PE执行对同一一致性颗粒的许多后续存储器存储操作、并且更新的一致性颗粒在短期内不太可能被另一个PE读取的情况下，写入无效协议比写入更新协议更有效率。例如，当软件线程从第一PE迁移到第二PE时，来自第二PE的存储器存储操作使得第一PE中的一致性颗粒的本地高速缓存副本无效，这将比更新第一PE中一致性颗粒的本地高速缓存副本的值更有效率。然而，当对一致性颗粒的存储器存储操作之后跟随有由多个PE对同一一致性颗粒进行的存储器加载操作时，写入更新协议比写入无效协议更有效率。在这种情况下，写入更新协议确保：持有一致性颗粒的本地高速缓存副本的所有PE接收更新的副本，而在同一情况下，写入无效协议将要求持有一致性颗粒的本地高速缓存副本的PE将其现在过时的副本无效，然后通过向中央排序点电路(COP)发送单独的读取总线命令以读取更新的值，来执行存储器加载操作。

因此，虽然写入无效协议和写入更新协议在特定情况下各自具有优点，但在任何一个并不是在所有情况下都同样地有效率。此外，用于确定在给定场景中哪个高速缓存一致性协议最有效率的信息可能无法由诸如COP的单个实体访问，而是可以分布在主(master)PE、窥探者PE和COP中的一个或多个之间。因此，期望提供一种机制，通过该机制可以根据执行存储器存储操作时的现有情况来使用适当的高速缓存一致性协议。

发明内容