[发明专利]用于管理高速缓存利用率的计算机实现方法

说明书

用于管理高速缓存利用率的计算机实现方法。用于管理至少第一处理器在与另外的处理器共享高速缓存时的高速缓存利用率的计算机实现方法包括：在第一调节间隔期间在第一处理器(22，C1)上执行(12)第一应用，第一应用根据与第一应用相关联的高速缓存利用率策略(28)使得至少一个块从外部存储器(32，MEM)映射到共享高速缓存(26，L2)，监视(14)在第一调节间隔期间第一处理器对共享高速缓存的利用率，将第一处理器对共享高速缓存的利用率跟与第一处理器相关联的高速缓存利用率条件进行比较(16)，如果第一处理器对共享高速缓存的利用率超过与第一处理器相关联的高速缓存利用率条件，则调整(18)与第一应用相关联的高速缓存利用率策略(28)。

技术领域

本说明书涉及一种用于管理至少第一处理器在与另外的处理器共享高速缓存时的高速缓存利用率的计算机实现方法、以及相关联的数据处理系统、计算机程序元件和计算机可读介质。

背景技术

在嵌入式计算系统中，主存储器通常距处理器是最远的，接着是末级高速缓存，并且然后接着是其他高速缓存级别。当处理器在高速缓存中找到所请求的数据时，发生高速缓存命中。当处理器在高速缓存中没有找到它所请求的数据时，发生高速缓存未命中。与高速缓存未命中相关的数据从主存储器被加载到高速缓存中。典型地，加载到高速缓存中的主存储器的比例被称为高速缓存块，或者替代地被称为高速缓存行。数据以高速缓存块的形式被转移到高速缓存。归因于计算机程序的时间和空间局部性，很可能将需要对高速缓存块的更多引用，并且因此从主存储器加载的高速缓存块保留在高速缓存中，直到它被覆写。

被实现为片上系统的嵌入式处理系统频繁地执行至少两个具有不同级别的关键性(诸如安全关键性)的应用。可以进一步改进用于执行至少两个具有不同级别的关键性的应用的嵌入式处理系统中的高速缓存组成的方法。

发明内容

根据第一方面，提供了一种用于管理至少第一处理器在与另外的处理器共享高速缓存时的高速缓存利用率的计算机实现方法，包括：

-在第一调节间隔期间，在第一处理器上执行第一应用，其中第一应用根据与第一应用相关联的高速缓存利用率策略使得至少一个块从外部存储器映射到共享高速缓存；

-监视在第一调节间隔期间第一处理器对共享高速缓存的利用率；

-将第一处理器对共享高速缓存的利用率跟与第一处理器相关联的高速缓存利用率条件进行比较；以及

-如果第一处理器对共享高速缓存的利用率超过与第一处理器相关联的高速缓存利用率条件，则调整与第一应用相关联的高速缓存利用率策略。

有利地，根据本说明书的方法不涉及将固定的高速缓存区域专用于某些应用或处理器。高速缓存可以被用作时延隐藏机制，该机制允许将数据存储得更靠近数据被访问之处。这使得能够更好地利用高速缓存。此外，所提出的方法不涉及对操作系统的存储器转化机制的修改(与高速缓存着色形成对照)。因此，与高速缓存着色相比，本技术具有低运行时开销。此外，本说明书的高速缓存管理技术也可以处理动态工作负载。例如，该方法适用于应用的静态混合，但是也可以应用于从该系统动态加载或卸载的应用。由此，减少了高速缓存竞争。通过选择针对每个处理器的适当的高速缓存占用预算以及适当的调节间隔，每个处理器可能引入的干扰量是可控的，这意味着可以根据服务质量目标来管理工作负载。例如，高速缓存分发策略是从应用要求导出的，但是由中央实体来决定，该中央实体决定每个应用可以占用多少高速缓存空间。

因此，该技术对诸如静态分区和高速缓存着色之类的方法进行了改进，因为未使用的高速缓存分区(如在静态分区和高速缓存着色的情况下可能发生的那样)导致低效的高速缓存使用。此外，高速缓存着色和静态分区意味着应用必须利用专用的但减少的高速缓存而工作。这导致了两个应用的性能退化。最后，高速缓存着色和静态分区适用于部署在系统上的固定工作负载，并且在动态到达不同关键性(重要性)的工作负载的情境下遭受性能退化。