[发明专利]一种任务调度方法、装置以及相关设备

说明书

本申请提供了一种任务调度方法，应用于包括多节点的异构系统，待执行的任务包括至少一个异构API调用，该方法包括：根据异构API调用的参数规模值，确定异构API调用的调度参考信息。该调度参考信息用于描述异构系统中多种处理引擎的执行效率。然后，根据调度参考信息，从异构系统可用的处理引擎中确定执行效率满足预设条件的目标处理引擎，将异构API调用调度到对应的目标处理引擎。该方法支持根据异构API调用的参数规模值选择合适的处理引擎，将异构API调用调度到上述合适的处理引擎上执行，提高了异构API调用的执行效率，进而提高了任务的执行效率。

技术领域

本申请涉及计算技术领域，尤其涉及一种任务调度方法、装置、设备以及计算机可读存储介质。

背景技术

随着计算机等智能设备在不同应用领域的深入推广，越来越多的领域特定架构(domain specific architecture，DSA)在不断涌现。基于这些领域特定架构，产生了新的处理引擎。其中，处理引擎是指处理数据的处理器。

例如在图像处理领域，基于领域特定架构的处理引擎包括图形处理器(graphicalprocessing unit，GPU)、图像处理器(image processor，IP)等。在数字信号处理领域，基于领域特定架构的处理引擎包括数字信号处理器(digital signal processor，DSP)。在人工智能领域，基于领域特定架构的处理引擎包括神经网络处理器(neural-networkprocessing unit，NPU)等。

其中，包括两种或两种以上的处理引擎的数据处理系统称之为异构系统。针对该异构系统开发的应用为异构应用。异构应用通常包括至少一个异构应用程序编程接口(application programming interface，API)调用。其中，异构API具体是接口统一，但在不同处理引擎上有不同的优化实现的API。

目前，异构系统在执行包括异构API调用的任务时的效率较低。业界亟需提供一种高效的任务调度方法。

发明内容

本申请提供了一种任务调度方法，该方法支持根据任务中异构API调用的参数规模值，选择合适的处理引擎，将异构API调用调度到合适的处理引擎，从而提高异构API调用的执行效率，进而提高异构应用的执行效率。本申请还提供了上述方法对应的装置、设备、计算机可读存储介质以及计算机程序产品。

第一方面，本申请提供了一种任务调度方法。该方法应用于包括多节点的异构系统。其中，异构系统是指包括多种处理引擎的数据处理系统。处理引擎是能够进行数据处理操作的单元。处理引擎包括中央处理器(central processing unit，CPU)以及基于基于领域特定架构(domain specific architecture，DSA)的处理单元。其中，基于DSA架构的处理单元包括图形处理器(graphical processing unit，GPU)、图像处理器(image processor，IP)、数字信号处理器(digital signal processor，DSP)、神经网络处理器(neural-network processing unit，NPU)和现场可编程逻辑门阵列(field programmable gatearray，FPGA)等等。

针对异构系统开发的应用为异构应用。异构应用通常包括至少一个异构应用程序编程接口(application programming interface，API)调用。其中，异构API具体是接口统一，但在不同处理引擎上有不同的优化实现的API。提交到异构系统上的任务包括至少一个异构API调用。

异构系统在执行异构API调用时，根据该异构API调用的参数规模值，确定异构API调用的调度参考信息。其中，调度参考信息用于描述异构系统中多种处理引擎的执行效率。异构系统根据调度参考信息，从异构系统可用的处理引擎中确定执行效率满足预设条件的目标处理引擎，将异构API调用调度到对应的目标处理引擎。