[发明专利]基于机器学习的预取能效优化自适应装置及方法

说明书

技术领域

本发明涉及计算机存储系统的性能优化领域，结合机器学习方法优化预取的能效。

背景技术

硬件数据预取是提升系统性能的有效方法之一。当前处理器系统多采用一种或多种数据预取的方法来优化存储系统。由于预取效果与应用程序及处理器结构密切相关，而且同一应用程序在运行时的不同阶段的运行特性表现不同，因此单一的预取引擎很难适合所有的应用程序。另外，激进的过度预取会污染高速缓存、增加带宽需求，从而导致性能降低与功耗增加。为了应对上述问题，很多研究人员采用多种预取方式，如多模式自调预取^[1]，能够识别流模式和链式模式数据流，提升不同应用运行时的性能。但是当存在多种预取配置时，如何选择合适的预取是存在的挑战之一。当前主要是通过经验来调整，预取的准确率并不是很高，而且实验发现很多预取配置性能接近，不需要激进的预取。如何设计中折中预取精度与硬件开销，提高预取能效是未来处理器系统亟需解决的核心技术。

机器学习系统自动地从数据中学习程序，挖掘出数据中的映射关系，能够很好的对目标预测分析，解决非线性问题，已经被广泛地应用于计算机科学等领域。在体系结构的研究中，很多研究人员借助机器学习的方法来加快设计空间的探索、资源分配、调度、负载平衡、分支预测，以及根据程序的特性预测预取配置和缩小预取引擎的设计空间。研究人员针对IBM POWER8处理器^[2](25比特配置表示)的大型预取配置空间结合线性判别分析的方法缩小预取搜索空间(从2²⁵缩小到5种)，并实现动态预测预取的配置。主要考虑的问题是搜索空间的缩小，但是未考虑到功耗问题，实际上有很多种预取配置的性能接近但是功耗不一样，在性能优势接近时应优先选择功耗较低的配置。针对IntelCore2Quad Q6600中的多种预取配置，研究人员提出结合机器学习方法最大化预取效率的方法^[3]，主要对程序的特征详细分析，提取与预取性能最相关的特征，并量化表示不同程序间的特征，从而提高预测的准确性，分析三种不同的机器学习方法(决策树、logistic回归和欧氏距离)来预测预取的性能提升，离线分析，未实现动态调整，也未考虑能效问题。

上文中涉及的文献如下：

[1]、多模式数据预取装置及其管理方法。发明人：刘鹏，刘勇，辛愿，专利号ZL201310134803.1申请日：2013-04-18，授权公告日：2016-03-02。

[2]、Li Minghua,Chen Guancheng,Wang Qijun,Lin Yonghua,Peter Hofsee,Per Stenstrom,Dian Zhou,PATer:A Hardware Prefetching Automatic Tuner on IBM POWER8Processor.IEEE Computer Architecture Letters,2015：DOI 10.1109/LCA.2015.2442972(Li Minghua,Chen Guancheng,Wang Qijun,Lin Yonghua,Peter Hofsee,Per Stenstrom,Dian Zhou.PATer:IBM POWER8处理器上的一种硬件预取自调，IEEE Computer Architecture Letters期刊，2015)。

[3]、Saami Rahmana,Martin Burtscher,Ziliang Zong,Apa Qasem.Maximizing Hardware Prefetch Effectiveness with Machine Learning.IEEE 17^th International Conference on High Performance Computing and Communications(HPCC),2015(Saami Rahmana,Martin Burtscher,Ziliang Zong,Apa Qasem,基于机器学习的最大化硬件预取效率，第十七届IEEE高性能计算和通信国际会议，2015)。

发明内容

本发明要解决的技术问题是提供一种基于机器学习的预取能效优化自适应装置及相应的适应法，本发明处理器系统能够根据应用的特征，自动优化预取与结构的适应性，实现能效的优化。

为了解决上述技术问题，本发明提供一种基于机器学习的预取能效优化自适应装置，包括学习模块部分和基本处理器这两大组件；