[发明专利]一种基于微架构感知的虚拟机调度多策略选择方法

说明书

技术领域

本发明涉及虚拟计算机技术领域，尤其涉及一种基于微架构感知的虚拟机调度多策略选择方法。

背景技术

云计算数据中心部署的服务器普遍采用多核处理器、非一致内存访问(Non-Uniform Memory Access，NUMA)架构，每台服务器上拥有多个NUMA节点。

NUMA多核体系结构中，存在多种硬件资源的共享利用以及内存访问的非一致性等特点。

每个NUMA节点拥有多个处理核心(core或CPU，以下称CPU)，多个CPU共享最后一级缓存(L3共享缓存)，内存控制器等微架构。NUMA架构的引入，使得系统中硬件资源的拓扑结构相对一致内存访问(Uniform Memory Access，UMA)架构更加复杂，导致不同NUMA节点上的CPU访问内存的延迟不一致，CPU访问非本地NUMA节点内存的延迟大于访问本地NUMA节点的内存。同时，不同的CPU分别共享各自NUMA节点上的最后一级缓存，导致任务运行在不同CPU上时，任务运行的性能表现会因共享缓存的使用情况、内存带宽的使用情况、以及内存访问远近等的不同而出现较大的性能差异。

例如在Intel的NUMA多核结构中，通过高速互联技术(QuickPath Interconnect，QPI)将系统中的各个NUMA节点连接成一个统一地址空间的计算机系统。每个NUMA节点上拥有自己的L3共享缓存、内存控制器、以及相应的内存单元。如图1所示的结构中，存在的共享微架构主要包括L3共享缓存、QPI互连设备、内存控制器。这些微架构是否能够被系统合理高效地使用，对于系统整体性能有很大的影响。

目前，在多核NUMA架构中，主要存在以下几种微架构资源使用问题：

(1)L3共享缓存的数据共享问题；

(2)L3共享缓存的资源竞争问题；

(3)互连设备的带宽竞争问题；

(4)内存控制器及内存带宽的竞争问题；

(5)内存的非一致访问问题；

其中内存的非一致访问问题是除了以上微架构的资源使用问题之外，还存在NUMA架构最普遍的问题。

针对以上问题，现有的虚拟机传统调度算法主要根据系统中CPU的负载情况调度相应的虚拟机，具体的解决方案主要可分为如下三种：

(1)内存感知的调度及内存分配管理等方法；

(2)共享缓存资源竞争消除调度方法；

(3)NUMA结构逻辑划分的方法。

以上的调度算法没有考虑共享缓存、核间互连网络(interconnect)和内存控制器等共享物理资源微架构(micro-architecture)的在线运行使用情况。而在同一个NUMA多核系统中，以上几个问题对总体性能互相影响，其相互之间的作用关系错综复杂。依靠单一的解决方案不能完全解决所有问题。

因此，在现有的虚拟化系统中，还没有完全有效利用NUMA多核硬件结构所能提供的性能优势，导致虚拟化系统的硬件资源、能耗资源的浪费。

发明内容

针对现有技术的不足，本发明提供了一种基于微架构感知的虚拟机调度多策略选择方法。

一种基于微架构感知的虚拟机调度多策略选择方法，所述的虚拟机调度多策略选择方法应用于NUMA多核体系结构，包括：

(1)采集所述的NUMA多核体系结构中各个虚拟机性能特征信息；

所述的性能特征信息包括虚拟机缓存行共享状态比例、虚拟机内存带宽占用率和虚拟机缓存失效率；

(2)根据虚拟机的性能特征信息，按照设定的性能特征优先级从高至低依次为各个虚拟机设定调度算法，并根据调度算法将各个虚拟机划分至相应的队列中；

所述的队列分别为缓存数据共享策略队列、内存带宽均衡策略队列、资源竞争消除策略队列和默认本地运行策略队列；

(3)循环进行虚拟机调度，每次循环过程如下：

按照设定的队列优先级从高至低依次检测各个队列中的虚拟机是否发生变化，若发生变化，则调用并执行该队列对应的调度算法进行虚拟机调度；若不发生变化，则继续判断下一个队列是否变化，直至最后一个队列：

若最后一个队列发生变化，则调用并执行相应的调度算法后休眠设定的时间周期后进入下一次循环；

若最后一个队列不发生变化，则休眠设定的时间周期后进入下一次循环。

本发明中各个队列设定的调度算法如下：

所述的缓存数据共享策略队列对应的调度算法为缓存数据共享调度算法；