[发明专利]异构多核环境下基于程序行为在线分析的负载均衡方法

说明书

技术领域

本发明公开了一种异构多核环境下基于程序行为在线分析的负载均衡方法，涉及计算机操作系统领域。属于计算机技术领域。

背景技术

随着处理器性能和速度的不断提高，功耗和散热成为未来高性能系统设计的重要挑战。功耗的增加和热量不仅带来更高的热封装及散热成本，而且增加了出现故障的可能性。指令级并行已经力不从心，结构设计人员开始转向线程级并行(TLP)的研究，多核处理器就是这一研究的产物。随着研究的深入，研究人员发现，同样一个并行程序，在功耗与面积相同的前提下，在数量较多的简单核上运行比在数量较少的复杂核上运行效率要高。同时也发现，程序的行为具有多样性，表现在两个方面，一是TLP的多样性，二是微体系结构特征的多样性。所谓TLP的多样性是指既有串行程序，又有并行程序，并行程序中串行部分所占比例也有多有少。所谓微体系结构特征的多样性是指程序大致可分为三类，cpu-bound、memory-bound、I/O-bound。cpu-bound指程序具有很高指令级并行度和数据局部性，这类程序CPU利用率很高，而memory-bound和I/O-bound程序(为叙述方便，下文只提及memory-bound)却存在访存延迟和I/O延迟，使得CPU利用率不高，如果在快核上运行，性能提升不明显却浪费了功耗，如果在慢核上运行，性能不降或下降很少但节省了功耗。于是，研究人员认为，如果在多核处理器中引入不对称性，分别迎合不同属性的应用程序，将是降低功耗、提高功效的有效方法，这种引入了不对称性的多核处理器，称之为异构多核处理器(Heterogeneous CMP)或非对称多核处理器(Asymmetric CMP)。

由于现有的操作系统不支持异构，因而还看不到单指令集的异构多核处理器，但HP、Intel以及部分大学都在积极进行异构感知的操作系统研究。

研究的核心在于如何将线程合理的分配到最佳的核上运行。但实现这种合理的映射除了知道核的属性外，还要清楚线程的属性，传统调度器丝毫没有考虑到程序行为的差异，而如何将程序行为分析与操作系统调度有机结合是另一个必须解决的关键问题，信息是否准确、运行时开销、对程序员是否透明是考虑的重点。最后就是负载均衡调度策略，由于频率的差异，CPU的负载需要重新折算，在迁移时，还要考虑目标core的属性与待迁移线程是否符合前面叙述的规则。

美国加州大学圣迭戈分校的R.Kumar博士[1]提出的动态分析算法是把程序在每个核上试探性运行一小段时间，根据试探运行期间采样的数据找出最优的核，从而把线程调度上去。显然，这种试探运行的方法引入了大量开销，可扩展性差。来自Intel的Tong li博士通过修改Linux操作系统中与负载均衡相关的函数[2]来实现异构感知，但没有考虑线程迁移时程序行为的差异，同时，完全改变了Linux内核现有的调度机制，调度域的作用也无法体现出来。

来自Intel的Koufaty等人提出用内部和外部延迟来估算bias，作为调度依据。但作者使用了四个性能计数器来进行事件采样计数，包括提交的指令数、片外请求、微操作延迟周期数和资源延迟。对于性能计数器少于四个的处理器核无法运行该调度算法。

Fedorova的研究小组给出了一个综合的调度算法[3]。算法的核心在于将程序的微体系结构差异和程序的线程级并行性同时加以考虑。这种方法看似完美，但增加了调度算法的复杂性。在内核中，线程是最小的调度单位，操作系统很难识别出正在调度执行的代码是程序的串行部分还是并行部分。更为重要的是，这不符合调度器应该简单而高效的原则。

[1]R.Kumar，D.M.Tullsen，and N.P.Jouppi，“面向异构多核处理器的核心体系结构优化”，第15届并行体系结构与编译技术国际学术会议论文集，2006，32页

[2]T.Li，D.Baumberger，D.A.Koufaty，and S.Hahn，“面向性能不对称多核体系结构的有效操作系统调度”，2007年ACM/IEEE超级计算国际学术会议论文集，2007.

[3]J.C.Saez，M.Prieto，A.Fedorova，and S.Blagodurov，“一种面向不对称多核系统的综合调度器”，第15届计算机系统欧洲国际会议论文集，2010，139页-152页.

Linux2.6内核引入了调度域模型，这种层次化的结构模型最显著的优势在于它可以根据不同级别的调度域，以微小开销保证域内所有调度组负载的平衡，即负载均衡。该负载均衡的不足之处在于：