[发明专利]硬件加速器虚拟化

说明书

一般提供了虚拟化硬件加速的技术。在一些示例中，协同监管器组件可被配置为多路复用多个域的请求以在半虚拟化环境中访问诸如现场可编程门阵列(FPGA)、专用集成电路(ASIC)或相当的加速器的硬件加速器。超请求可用于硬件加速虚拟化，其中硬件加速模块同时加载对第一加速器应用的请求的数据的一部分和对第二加速器应用的另一请求的数据的一部分并且同时处理两个部分的数据。直接位于设备驱动器层上，协同监管器可以通过直接存储器访问(DMA)上下文切换来安排同时对硬件加速器的访问请求的部分。

技术领域

本公开涉及硬件加速器的虚拟化。

背景技术

除非在此处进行说明，否则此处所描述的材料不是本申请权利要求的现有技术并且不因包含在该部分中而承认是现有技术。

云计算可以指作为服务在因特网上输送的应用以及在提供那些服务的数据中心中的硬件连同系统软件，云计算近年来已经在信息技术占据了中心地位。通过虚拟化技术(云计算的组成部分)底层硬件资源可以由每个均运行其自己的操作系统(OS)的多个虚拟机或域所共享。共享硬件资源可以产生较高的硬件利用率和较低的功耗。虚拟机监控器(VMM)(有时还称为管理程序)通常负责将OS的每个运行实例与底层物理机隔离。VMM可以转换或仿真客体OS的特殊指令。

基于图形处理单元(GPU)的和基于现场可编程门阵列(FPGA)的硬件加速器也正在服务器行业变得普及。加速器加速应用的计算密集部分。将硬件加速器成功地且高效地添加到虚拟化服务器中可以使得云客户端对于各种应用得到明显加速。GPU通常较廉价且利用高级语言和应用编程接口(API)编程，这不考虑硬件细节。FGPA在许多具体应用上超越GPU。而且，执行部分运行时重构(run-time reconfiguration)的能力可以是FPGA的显著区别。

一些FPGA虚拟化解决方案会导致在单个OS上停留在多任务级。普遍的GPU虚拟化方法主要是截获API调用且将API调用重引导至主机或特权域的用户空间，导致效率降低且开销较高。另外，在一些FPGA虚拟化或GPU虚拟化解决方案中，加速器通常可以每次仅服务一个请求。

发明内容

本公开一般描述了虚拟化硬件加速技术。

根据一些示例，提供了各种访问虚拟化的硬件加速模块的方法。示例的方法可以包括：识别来自第一虚拟机(VM)的对能够在硬件加速模块上执行的第一加速器应用的的第一访问请求；以及识别来自第二VM的对能够在硬件加速模块上执行的第二加速器应用的第二访问请求。该方法还可以包括：利用协同监管器来安排第一访问请求和第二访问请求。该方法可以进一步包括：通过将对所述第一加速器应用的所述第一访问请求的至少一部分和对所述第二加速器应用的所述第二访问请求的一部分加载且同时处理所述访问请求的第一部分和第二部分来使所述硬件加速模块处理至少所述第一访问请求的所述一部分和所述第二访问请求的所述一部分。

根据其它示例，描述了虚拟化硬件加速模块的各种协同监管器。示例的协同监管器可以包括能够在处理器上执行的请求插入模块。该请求插入模块可被配置为识别来自第一虚拟机(VM)的对能够在硬件加速模块上执行的第一加速器应用的的第一访问请求；以及识别来自第二VM的对能够在硬件加速模块上执行的第二加速器应用的第二访问请求。示例的协同监管器还可以包括能够在同一处理器上执行的排程模块。该排程模块可被配置为安排第一访问请求和第二访问请求。协同监管器可被配置为：通过将对所述第一加速器应用的所述第一访问请求的至少一部分和对所述第二加速器应用的所述第二访问请求的一部分加载且同时处理所述访问请求的第一部分和第二部分来使所述硬件加速模块处理至少所述第一访问请求的所述一部分和所述第二访问请求的所述一部分。