[发明专利]偏移预取方法、执行偏移预取的装置、计算设备和介质

说明书

本公开提供了一种偏移预取方法、执行偏移预取的装置、计算设备和介质。该偏移预取方法包括：利用偏移预取器从预置偏移值表格中选择用于生成预取请求的K个偏移预取值，其中，预置偏移值表格包括预先设置的N个偏移值，K个偏移预取值为偏移预取器从预置偏移值表格中在时间上最新选择的偏移预取值，其中，N和K为正整数，N大于K；记录K个偏移预取值，用于形成包括K个偏移预取值的近期偏移值表格；以及利用偏移预取器从近期偏移值表格中选择第一偏移预取值，用于基于第一偏移预取值进行数据预取。

技术领域

本公开的实施例涉及一种偏移预取方法、执行偏移预取的装置、计算设备和介质。

背景技术

在中央处理器(Central Processing Unit，CPU)架构中，程序指令与数据一般存储在诸如动态随机存取存储器(Dynamic Random Access Memory，DRAM)的内存中。通常，CPU核心(Core)的运行频率远远高于内存的运行频率，因此，CPU从内存直接获取程序指令与数据需要CPU等待上百个CPU时钟周期，这将会造成CPU由于无法继续运行相关指令而产生空转，造成性能损失。因此，现代高性能CPU设置有多级缓存架构，以存储最近被访问的数据。同时，针对多级缓存架构，还利用数据预取器来识别CPU访问数据的规律，以提前地将可能被访问的数据预取到缓存中，以便于CPU能快速地从缓存中读取数据。

发明内容

本公开的一些实施例提供了一种偏移预取方法、执行偏移预取的装置、计算设备和介质，用于通过降低偏移预取器生成偏移预取值所需的时间来提高偏移预取器的效率，从而能够快速地响应CPU对于数据预取的需求，进一步提升CPU系统的运行效率。

根据本公开的一方面，提供了一种偏移预取方法，该方法包括：利用偏移预取器从预置偏移值表格中选择用于生成预取请求的K个偏移预取值，其中，预置偏移值表格包括预先设置的N个偏移值，K个偏移预取值为偏移预取器从预置偏移值表格中在时间上最新选择的偏移预取值，其中，N和K为正整数，N大于K；记录K个偏移预取值，用于形成包括K个偏移预取值的近期偏移值表格；以及利用偏移预取器从近期偏移值表格中选择第一偏移预取值，用于基于第一偏移预取值进行数据预取。

根据本公开的一些实施例，将选择第一偏移预取值的过程表示为第一训练阶段，该方法还包括：对于选择第二偏移预取值的第二训练阶段，基于规则确定是采用预置偏移值表格还是采用近期偏移值表格来选择第二偏移预取值，其中，第二偏移预取值用于进行数据预取。

根据本公开的一些实施例，规则包括：确定第一偏移预取值的训练分数是否大于分数阈值，在训练分数大于分数阈值的情况下，确定采用近期偏移值表格来选择第二偏移预取值。

根据本公开的一些实施例，规则包括：按照交替方式来采用预置偏移值表格和近期偏移值表格来选择第二偏移预取值，其中，交替方式表示在第一训练阶段采用近期偏移值表格的情况下，在第二训练阶段采用预置偏移值表格来选择第二偏移预取值。

根据本公开的一些实施例，该方法还包括：在确定采用预置偏移值表格来选择第二偏移预取值的情况下，利用偏移预取器来从预置偏移值表格中选择第二偏移预取值，并基于第二偏移预取值来进行数据预取；或者在确定采用近期偏移值表格来选择第二偏移预取值的情况下，利用偏移预取器来从近期偏移值表格中选择第二偏移预取值，并基于第二偏移预取值来进行数据预取。

根据本公开的一些实施例，该方法还包括：利用第二偏移预取值来更新近期偏移值表格。

根据本公开的一些实施例，更新近期偏移值表格包括：确定第二偏移预取值是否存在于近期偏移值表格之中；以及在确定第二偏移预取值不存在于近期偏移值表格之中的情况下，按照先入先出算法、最近最少使用算法或伪最近最少使用算法中的其中一种来更新近期偏移值表格。

根据本公开的一些实施例，偏移预取器为最佳偏移预取器，K个偏移预取值为K个最佳偏移预取值。