[发明专利]动态输入/输出相干性

说明书

各方面包括用于在计算设备上实现动态输入/输出(I/O)相干工作负荷处理的计算设备、装置、以及由该装置实现的方法。方面方法可以包括：由处理设备将工作负荷卸载到硬件加速器以使用I/O相干模式来执行；当工作负荷由硬件加速器执行时，检测用于从I/O相干模式切换到非I/O相干模式的动态触发；以及当工作负荷由硬件加速器执行时，从I/O相干模式切换到非I/O相干模式。

背景技术

硬件加速器可以用于帮助中央处理单元(CPU)处理工作负荷。工作负荷通常需要使用来自CPU高速缓存的数据。为了向加速器提供来自CPU高速缓存的数据，需要实现高速缓存维护操作。但是，高速缓存维护操作可能会对处理卸载到加速器的工作负荷的性能产生负面影响。手动高速缓存维护操作的执行通常需要很长时间才能将工作卸载到加速器。必须在加速器运行之前实施高速缓存清除维护操作，并且必须在加速器运行后实施高速缓存无效化维护操作。少量的工作负荷卸载到加速器对于提高处理性能越来越重要。这些少量的工作负荷卸载可能会因高速缓存维护代价而遭遇最大的性能降级。

可以在不必实施代价高的高速缓存维护过程的情况下，使用输入/输出(I/O)相干性将工作卸载到加速器。然而，用于卸载工作负荷的I/O相干路径由于较低性能的信号传输(例如，较低带宽)而引入了开销。由于I/O相干路径的各种因素，I/O相干性代价可能对处理卸载的工作负荷产生负面的影响。

发明内容

各个方面可以包括用于在计算设备上实现动态输入/输出(I/O)相干性工作负荷处理的装置和方法。各个方面可以包括：处理设备将工作负荷卸载到硬件加速器以使用I/O相干模式来执行；当所述工作负荷由硬件加速器执行时，检测用于从所述I/O相干模式切换到非I/O相干模式的动态触发；响应于检测到所述动态触发，当所述工作负荷由硬件加速器执行时，从所述I/O相干模式切换到所述非I/O相干模式。

一些方面还可以包括：判断由所述硬件加速器对所述工作负荷的执行是否完成，其中，当所述工作负荷由硬件加速器执行时检测用于从所述I/O相干模式切换到非I/O相干模式的动态触发可以包括：响应于确定由硬件加速器对所述工作负荷的执行未完成，检测用于从所述I/O相干模式切换到所述非I/O相干模式的所述动态触发。

一些方面还可以包括：响应于检测到用于从所述I/O相干模式切换到所述非I/O相干模式的所述动态触发，当所述工作负荷由硬件加速器执行时，执行对所述处理设备的高速缓存的高速缓存清除维护操作；在所述I/O相干模式下，由共享存储器从所述硬件加速器接收所卸载的工作负荷的结果；判断由所述硬件加速器对所述工作负荷的执行是否完成；响应于确定所述硬件加速器完成了所述工作负荷的执行，在不实现对所述处理设备的高速缓存的高速缓存无效化维护操作的情况下，接收所卸载的工作负荷的所述结果。

一些方面还可以包括：判断由硬件加速器对所述工作负荷的执行是否完成，其中，当所述工作负荷由硬件加速器执行时，从所述I/O相干模式切换到非I/O相干模式可以包括：响应于确定由所述硬件加速器对所述工作负荷的执行未完成，从所述I/O相干模式切换到所述非I/O相干模式；在所述非I/O相干模式下，由共享存储器从硬件加速器接收所卸载的工作负荷的结果；响应于确定所述硬件加速器完成了所述工作负荷的执行，执行对所述处理设备的高速缓存的高速缓存无效化维护操作；接收所卸载的工作负荷的所述结果。这些方面还可以包括：响应于确定由所述硬件加速器对所述工作负荷的执行未完成，由硬件加速器执行所卸载的工作负荷的剩余部分。

在一些方面，检测用于从所述I/O相干模式切换到非I/O相干模式的动态触发可以包括执行以下各项中的至少一项：检测经过的时间、检测所述处理设备处于空闲状态、以及检测所卸载的工作负荷的执行的不良情况。在一些方面，检测所卸载的工作负荷的执行的不良情况可以包括以下各项中的至少一项：从增加的工作负荷接收针对驱动器的性能的通知、基于工作负荷类别来使用静态分配或方法、针对指示不良情况的数据来轮询硬件性能寄存器、测量接近最大值的互连操作水平、测量加速器存储器延时、测量加速器存储器背压、以及检测硬件加速器空闲状态。