[发明专利]一种基于资源共享自适应配置的GPU虚拟化QoS控制系统及方法

说明书

本发明提供了一种基于资源共享自适应配置的GPU虚拟化QoS控制系统及方法。本发明通过监控模块、控制模块和调度模块实现在QoS约束下在所有虚拟化云计算工作负载之间进行GPU资源容量共享和分配。本发明显著提升基于虚拟化GPU资源的虚拟化云系统平台中并发运行图形负载的QoS稳定性，相比其余传统QoS控制方法，负载帧率稳定程度明显提升。同时，本发明在维持所有并发工作负载稳定流畅运行的前提下，GPU计算资源占用率明显下降，使得系统平台明显能够支持更多工作负载维持可接受的服务质量水平。

技术领域

本发明云系统架构的虚拟化技术领域，尤其涉及到一种基于资源共享自适应配置的GPU虚拟化QoS控制系统及方法。

背景技术

目前，基于虚拟化技术的云系统架构已经广泛应用于商业，科研和教育等各个领域。这种实际应用领域中的广泛适用性基本建立在云平台架构的固有特性之上，这些特性包括任务处理方面的高度并发性和资源共享方面的灵活性。很明显，上述所有特性都基于虚拟化技术中包含的资源调度，共享和隔离功能。但是，目前可以成熟地应用上述这些功能，并且避免性能下降和硬件限制的计算资源种类仍然非常有限，而大量针对特定应用程序或用途的工作负载除了它们之外往往还具有特定类型的额外资源需求。例如，对于涉及图形计算或大规模浮点数计算的工作负载，需要将GPU资源用于其实现需求，因为GPU可以利用其高并行浮点数计算能力大大加快这些工作负载的计算速度。

然而，如果目标是对虚拟化GPU进行资源共享，那么就会出现这样的挑战：如果不修改设备驱动程序，大部分困难都无法解决，但大多数实用的GPU产品不提供开源驱动程序、硬件规格或通信协议，这使得在GPU操作模块中添加或改变功能实际上是不可能的。而另一个挑战是如何实现GPU资源共享中的服务质量(QoS)保证。当多个并发工作负载共享计算资源时，通常会出现性能振荡，并且原生调度策略会导致不同工作负载具有不同的QoS水平，同时产生不必要的高资源占用。因此，本发明需要这样一种策略，该策略应该能够根据需求为每个工作负载分配准确的资源量，并且能够流畅地调度所有资源以达到相同的预定义QoS水平。

目前，已经有一些实用的GPU虚拟化解决方案，可以通过仿真指令但直传数据访问来实现具有可接受性能的全虚拟化架构。但是，这样的架构仍然存在重大问题，尤其是在资源共享和隔离之上。例如，在原生配置中，英特尔GPU虚拟化解决方案采用了一个基于定时器的调度器，负责上下文切换调度。在这种机制中，所有的虚拟GPU上下文都作为一个环形队列链接在一起，并且调度信号每隔一个固定的时间间隔被触发一次，调用相应功能。在调度过程中，环形队列中所有挂起的上下文都以循环方式进行遍历和选择。也就是说，调度过程总是选择当前上下文之后的下一个上下文对象。然后，上下文切换信号被触发，内核驱动程序接收信号将当前上下文切换到选定对象。

在大多数原生调度器的通用设计中，存在的一个问题是：所有虚拟机，无论是繁忙还是空闲，都以相同的机会轮流转为活动状态，而没有稳定的资源分配或隔离。也就是说，静态配置虚拟机的资源份额或将冗余资源移交给重量级的工作负载是不可能的，更不用说根据不同的资源需求动态调整资源占用以保持稳定的QoS水平。因此，当同时运行多个工作负载时，总是会有轻量级的工作负载浪费资源，而较重量级的工作负载性能不佳。另外，原生系统的另一个问题是无法实现自适应。毕竟，即使调度程序可配置为适应不同的工作负载资源需求，持续监视运行时状态并不断手动操作修改配置也是不可能的。因此，这样的系统无法应对资源需求变化导致的QoS波动。但在当前的系统设计中，对于应对类似问题的自适应功能，并不存在能够实现其的系统设计。

发明内容

本发明的目的在于针对现有技术中存在的不足和缺陷，本发明提供一种基于资源共享自适应配置的GPU虚拟化QoS控制系统及方法。

本发明是根据以下技术方案实现的：