[发明专利]一种用于减少存储器系统的存储器访问等待时间的方法和装置

权利要求书

1.一种用于减少存储器系统的存储器访问等待时间的方法，其包括：

监测从倒数第二级高速缓存到主存储器的推测性存储器读取请求的请求率，所述推测性存储器读取请求对应于所述倒数第二级高速缓存中未命中的数据读取请求，所述推测性存储器读取请求中的每一个是核心需求推测性存储器读取请求或预取推测性存储器读取请求，并且所述数据读取请求中的每一个是核心需求数据读取请求或预取数据读取请求；

监测针对由所述数据读取请求所请求的数据搜索末级高速缓存的命中率，所述推测性存储器读取请求中的每一个与针对对应数据搜索所述末级高速缓存并行地发出；

基于所述请求率和所述命中率，与针对对应的核心需求数据读取请求的数据搜索所述末级高速缓存并行地选择性地启用到所述主存储器的核心需求推测性存储器读取请求；以及

基于所述请求率和所述命中率，与针对对应的预取数据读取请求的数据搜索所述末级高速缓存并行地选择性地启用到所述主存储器的预取推测性存储器读取请求。

2.如权利要求1所述的方法，

其中响应于启用所述核心需求推测性存储器读取请求，启用所述预取推测性存储器读取请求，并且所述请求率大于预定请求率阈值或所述命中率大于预定命中率阈值，所述选择性地启用所述核心需求推测性存储器读取请求包括启用所述核心需求推测性存储器读取请求，并且所述选择性地启用所述预取推测性存储器读取请求包括禁用所述预取推测性存储器读取请求。

3.如权利要求1所述的方法，

其中响应于启用所述核心需求推测性存储器读取请求，禁用所述预取推测性存储器读取请求，所述请求率小于预定请求率阈值，并且所述命中率小于预定命中率阈值，所述选择性地启用所述核心需求推测性存储器读取请求包括启用所述核心需求推测性存储器读取请求，并且所述选择性地启用所述预取推测性存储器读取请求包括启用所述预取推测性存储器读取请求。

4.如权利要求1所述的方法，

其中响应于所述核心需求推测性存储器读取请求被启用并且所述预取推测性存储器读取请求被禁用，并且所述请求率大于预定请求率阈值或所述命中率大于预定命中率阈值，所述选择性地启用所述核心需求推测性存储器读取请求包括禁用所述核心需求推测性存储器读取请求，并且所述选择性地启用所述预取推测性存储器读取请求包括禁用所述预取推测性存储器读取请求。

5.如权利要求1所述的方法，

其中响应于禁用所述核心需求推测性存储器读取请求并且禁用所述预取推测性存储器读取请求，所述请求率小于预定请求率阈值，并且所述命中率小于预定命中率阈值，所述选择性地启用所述核心需求推测性存储器读取请求包括启用所述核心需求推测性存储器读取请求，并且所述选择性地启用所述预取推测性存储器读取请求包括禁用所述预取推测性存储器读取请求。

6.如权利要求1所述的方法，

其中响应于启用所述核心需求推测性存储器读取请求，启用所述预取推测性存储器读取请求并且所述请求率小于预定请求率阈值，并且所述命中率小于预定命中率阈值，所述选择性地启用所述核心需求推测性存储器读取请求包括启用所述核心需求推测性存储器读取请求，并且所述选择性地启用所述预取推测性存储器读取请求包括启用所述预取推测性存储器读取请求。

7.如权利要求1所述的方法，

其中响应于所述核心需求推测性存储器读取请求被启用并且所述预取推测性存储器读取请求被禁用，所述请求率小于预定请求率阈值，并且所述命中率小于预定命中率阈值，所述选择性地启用所述核心需求推测性存储器读取请求包括启用所述核心需求推测性存储器读取请求，并且所述选择性地启用所述预取推测性存储器读取请求包括禁用所述预取推测性存储器读取请求。