[发明专利]一种基于指令流和访存模式学习的缓存替换系统及方法

说明书

本发明提供一种基于指令流和访存模式学习的缓存替换系统，包括分支预测模块，其对指令流进行预测并写入取指地址队列；访存指令记录模块，其依次记录已经提交的访存指令的信息并写入到其访存指令缓冲中；同时查询得到访存指令序列；访存模式学习模块，其将访存指令序列记录在其访存历史缓冲中，据此对访存模式进行学习，随后预测访存指令的访存物理地址并写入访存地址队列；缓存替换决策模块，其接收缓存替换候选项的物理地址并用其检索取指地址队列或访存地址队列，根据得到的重用距离选择一个缓存替换候选项作为踢出项反馈给一级缓存。本发明还提供相应的方法。本发明的缓存替换系统能避免乱序执行和缓存预取的干扰，提高访存序列预测的准确性。

技术领域

本发明涉及计算机体系结构技术领域，尤其涉及一种基于指令流和访存模式学习的缓存替换系统及方法。

背景技术

缓存是现代处理器中的一种重要机制，将常用数据从内存拷贝到缓存中，后续数据访问可以直接从缓存读取，从而减少慢速DRAM内存的访问次数，提升处理器性能。缓存的容量是有限的，在实际使用中发生缓存内容的替换是不可避免的，缓存的性能受缓存替换策略的影响很大。

缓存访问行为是复杂的，处理器中缓存系统接收到的访存序列会受到处理器乱序执行和缓存预取机制的干扰，这进一步增大了在缓存系统中预测访存行为的难度。

具体来说，传统的缓存替换方法依据缓存系统接收到的访存序列学习访存行为模式。但是在缓存系统中接收到的访存序列是若干条访存指令交织在一起的组合结果，不同指令间的执行次序以及每条指令的行为模式都将对缓存系统最终接收到的访存序列产生影响。在这样复杂多变的访存序列基础上学习访存行为模式是困难的，要面对很大的不确定性。

现有的缓存替换方法均不能有效的减少这些不确定性。

发明内容

本发明提供了一种基于指令流和访存模式学习的缓存替换系统及方法，以降低访存行为模式的学习难度，提高缓存替换策略的性能。

为了实现上述目的，本发明提供一种基于指令流和访存模式学习的缓存替换系统，包括分支预测模块、取指地址队列、访存指令记录模块、访存模式学习模块、访存地址队列和缓存替换决策模块；

所述分支预测模块设置为采用提前预测技术，对目标程序的指令流进行预测并将预测结果写入取指地址队列中；

所述访存指令记录模块设置为依次记录已经提交的访存指令的信息，将这些访存指令的信息写入到其访存指令缓冲中；同时，每当取指地址队列写入新的条目项时，用该条目项所对应的指令块的起始地址查询所述访存指令缓冲，以通过查询尝试得到访存指令序列并将其输出至访存指令学习模块和访存地址队列；

所述访存模式学习模块设置为将访存指令序列记录在其访存历史缓冲中，根据访存历史缓冲中保存的历史信息对访存指令的访存模式进行学习，并根据学习到的访存模式来预测访存指令序列中每条访存指令的访存物理地址并写入访存地址队列；

所述缓存替换决策模块设置为接收一级缓存发出的所有缓存替换候选项的物理地址，使用这些物理地址检索所述取指地址队列或访存地址队列，得到每个缓存替换候选项的重用距离，根据重用距离选择一个缓存替换候选项作为踢出项反馈给一级缓存。

所述分支预测模块设置为将预测结果以指令块为粒度写入取指地址队列中；所述分支预测模块设置为执行：

A1：在每个周期，将当前预测地址所在的指令块作为当前指令块，将当前预测地址作为当前指令块的预测起始地址；根据当前指令块的预测起始地址确定从当前指令块开始的固定预测窗口；

A2：在获得当前指令块的预测起始地址后，在当前指令块中对分支指令进行检索和预测，以判断当前指令块是否命中跳转的分支指令；