[发明专利]数据处理装置和数据处理方法

说明书

本发明涉及数据处理装置中的自适应预取，公开了数据处理装置和数据处理的方法。指令执行单元执行一系列程序指令，其中对程序指令中的至少一些程序指令的执行发起从存储器读取数据值的存储器访问请求。预取单元在数据值被指令执行单元请求之前，从存储器预取数据值用于存储在缓存单元中。预取单元被配置为处理错过响应，包括增加它在存储器访问请求指定已经经历预取但还未被存储在缓存单元中的等待数据值时预取的将来数据值的数量。预取单元还被配置为响应于禁止条件被满足在禁止期暂时禁止错过响应。

技术领域

本发明涉及数据处理装置。更特别地，本发明涉及数据处理装置中对数据值的预取。

背景技术

执行一系列程序指令的数据处理装置具有预取器是公知的，该预取器力图在那些数据值被数据处理装置的指令执行单元请求之前，从存储器读取数据值用于存储在指令执行单元本地的缓存中。在这种数据处理装置中与从存储器中读取数据值相关联的存储器延迟可能是显著的，如果不提供这种预取能力，数据处理装置的操作将存在严重的性能障碍。

这种预取器对它提前预取到缓存中的数据值的数量进行动态调整也是公知的。一方面，如果在处理器(指令执行单元)的行动之前预取器不预取足够远，处理器将赶上预取器，并将力图在数据值被从存储器读取之前访问缓存中的数据值，要求处理器在相应的存储器访问完成的同时进行等待。另一方面，如果预取器提前预取数据值过远，在被要求之前数据值将被长时间地存储在缓存中，存在被其间的其它存储器访问请求从缓存中驱逐的风险。取决于所实现的数据处理的本质，这些相互竞争的约束之间的合适的平衡可能不同，因此预取器被配置为动态(即在数据处理装置的操作过程中)调整其预取距离(即在它操作的处理器之前多远)。

发明内容

从第一方面看，本发明提供一种数据处理装置，包括：

指令执行单元，该指令执行单元被配置为执行一系列程序指令，其中对程序指令中的至少一些程序指令的执行发起从存储器读取数据值的存储器访问请求；

缓存单元，该缓存单元被配置为存储从存储器中读取的数据值的副本；以及

预取单元，该预取单元被配置为在数据值被指令执行单元请求之前，通过推断存储器访问请求的当前数据值访问模式以预测将被指令执行单元请求的将来的数据值并预取该将来的数据值，来从存储器预取数据值用于存储在缓存单元中，

其中预取单元被配置为处理错过响应，这包括增加它在存储器访问请求指定等待(pending)数据值(即已经经历预取但还未被存储在缓存单元中的数据值)时预取的将来数据值的数量，

其中预取单元被配置为：响应于禁止条件被满足，而在禁止期暂时禁止错过响应。

根据本技术的预取单元被配置为动态调整其预取距离，即，在那些数据值被由指令执行单元发出的存储器访问实际请求之前，它对其发起预取的那些将来数据值的数量。应当理解本文中术语“数据值”应当被解释为概括地覆盖指令和数据。通过监视从指令执行单元接收到的存储器访问请求以及判定它们是否被已经被预取并被存储在缓存单元中的数据值成功地预期，这种动态调整得以实现。特别地，预取单元被配置为通过处理错过响应来调整预取距离，其中当接收到的存储器访问请求指定已经是预取对象但还未被存储在缓存单元中的数据值时预取单元预取的数据值的数量被增加。也就是说，通常在这种情况下的解释是预取器已经正确地预测该数据值将被由指令执行单元发起的存储器访问请求需要，但还未提前发起对该数据值的足够远的预取使得其到从指令执行单元接收到存储器访问的时候在缓存单元中已经可用。因此，根据该解释，预取单元可以通过增加它预取的数据值的数量来减小将来发生这种情况的可能性，即，增加它的预取距离，使得对预测将被指令执行单元要求的给定数据值的预取在它实际上被指令执行单元要求之前更早被发起。