[发明专利]系统级缓存

说明书

用于系统级缓存通过路分区过程分配缓存资源的方法、系统和装置，包括在计算机存储介质上编码的计算机程序。所述方法中的一种方法包括维持分区与优先级级别之间的映射，以及按照与指派给启用分区的相应优先级级别相对应的顺序将主路分配给相应的启用分区。

背景技术

本说明书涉及具有集成电路设备的系统。

系统级缓存(SLC)是缓存从存储器取回的数据或要存储至系统中的多个不同硬件设备的存储器的数据的设备。换言之，SLC的不同缓存行可以存储属于不同硬件设备的数据。

通常，多个不同的硬件设备是集成到片上系统(SOC)中的不同组件。在本说明书中，通过SLC提供读取请求和写入请求的设备将被称为客户端设备。

缓存可以用于通过减少主存储器的使用来减少功耗。换言之，只要客户端设备可以在缓存中访问它们需要的数据，主存储器以及通往主存储器的路径就可以置于低功率状态。

缓存通常被组织为具有多个路(way)的多个集合。请求的存储器地址用于标识放置缓存行的特定集合，并且如果必须替换现有的缓存行，则特定的缓存策略确定应该替换集合内的哪些路。例如，缓存可以实施缓存策略，通过该缓存策略首先替换集合内最近最少使用的缓存行。

一些SLC可以被配置为实施将专用路指派给系统的不同客户端设备的路分区策略。这种分区的主要目的是针对任何客户端或共享SLC的客户端的组使缓存抖动(thrashing)最小化，并实现可预测的性能或节能。因此，例如缓存策略可以指定来自一个或多个客户端设备的请求总是存储在四个路中，并且无法针对任何其他客户端设备分配这四个路中的缓存行。

发明内容

本说明书描述了用于在系统级缓存中实施路分区策略的技术。路分区策略允许系统级缓存向缓存分区分配路。在本说明书中，系统级缓存的分区是缓存资源的一部分，其被分配用于缓存对特定存储器区域的请求。因此，通常在缓存分区和特定存储器区域——例如存储器缓冲器——之间存在直接的对应。因此，访问存储器区域的一个或多个客户端设备可以共享并可能竞争分配给对应分区的缓存资源。

本说明书中描述的路分区策略描述了系统级缓存如何将主路指派给分区，这具有将物理缓存资源专用于由一个或多个客户端设备访问的特定存储器缓冲器的作用。路分区策略还允许系统级缓存将辅路分配给分区，这可以增加分配给该分区的路数目。然而，辅路也可以与一个或多个其他分区共享。换言之，辅路可以用于服务来自客户端设备的针对多个不同存储器缓冲器的存储器请求，每个所述存储器缓冲器对应于不同的相应缓存分区。

可以实施本说明书中描述的主题的特定实施例，以便实现一个或多个以下优点。本说明书中描述的路分区策略允许系统级缓存提高实施系统级缓存的硬件设备的效率。具体地，可以定制缓存性能以适合不同的执行场境，这减少对存储器的功率密集且高时延的请求的数量。换言之，系统级缓存可以实施分区，这些分区的大小会动态变化，并随着时间的推移适应不断变化的用例。通过减少在所有执行场境中的到存储器的行程，这提高了设备的功率效率，并且使设备本身更快。另外，当特定执行场境可以仅依赖于系统级缓存而不是主存储器时，可以使通往高功率存储器设备的路径掉电或完全关闭，这进一步改进了设备的功耗。路分区策略也比其他方法更灵活，因为它允许有效地计算缓存配置，而无需对在不同执行场境中可能或可能不活动的客户端设备的每种可能组合进行预编程。因此，如果添加了新的客户端设备或执行场境，则分区表的预配置且优先的配置允许重新计算任何给定客户端或客户端的组的路指派。这些技术还减少了切换执行场境的时延，这使设备本身对不断变化的用例更具响应性。实际添加或移除客户端和/或执行场境可以通过硬件或软件方法触发。另外，分区策略使得能够在所有潜在的执行场境中最大化缓存的使用。

在下面的附图和描述中陈述了本说明书的主题的一个或多个实施例的细节。主题的其他特征、方面和优点将通过描述、附图和权利要求而变得显而易见。

附图说明

图1A是示例系统的图。