[发明专利]一种任务调度方法、装置、设备及介质

说明书

本申请提供了一种任务调度方法，包括：获取目标任务，该目标任务包括至少一个异构API调用，然后根据任务与处理引擎的关系，确定与目标任务对应的目标处理引擎，然后将目标任务调度到包括上述目标处理引擎的第一从节点。一方面，任务与处理引擎的关系能够反映任务与各种处理引擎的亲和性高低，因此，主节点可以根据任务与处理引擎的关系，将目标任务合理地调度至亲和性较高的从节点执行，提高目标任务整体的执行效率。并且，该方法可以避免目标任务被调度至不合适的从节点，导致从节点的资源被长期占用，提高了异构系统中资源的利用率。此外，该方法可以减少跨节点调度异构API调用的次数，降低了调度开销。

技术领域

本申请涉及计算技术领域，尤其涉及一种任务调度方法、装置、设备以及计算机可读存储介质。

背景技术

随着计算机等智能设备在不同应用领域的深入推广，越来越多的领域特定架构(domain specific architecture，DSA)在不断涌现。基于这些领域特定架构，产生了新的处理引擎。其中，处理引擎是指处理数据的处理器。

例如在图像处理领域，基于领域特定架构的处理引擎包括图形处理器(graphicalprocessing unit，GPU)、图像处理器(image processor，IP)等。在数字信号处理领域，基于领域特定架构的处理引擎包括数字信号处理器(digital signal processor，DSP)。在人工智能领域，基于领域特定架构的处理引擎包括神经网络处理器(neural-networkprocessing unit，NPU)等。

其中，包括两种或两种以上的处理引擎的数据处理系统称之为异构系统。针对该异构系统开发的应用为异构应用。异构应用通常包括至少一个异构应用程序编程接口(application programming interface，API)。异构API具体是接口统一，但在不同处理引擎上有不同的优化实现的API。

目前，异构系统在执行异构应用的任务时效率较低。业界亟需提供一种任务调度方法，以提高异构应用的任务的执行效率。

发明内容

本申请提供了一种任务调度方法，该方法根据任务和处理引擎的关系，确定与待执行的目标任务对应的目标处理引擎，将目标任务调度到包括上述目标处理引擎的第一从节点，一方面可以提供任务整体的执行效率，另一方面可以减少跨节点调度的次数，降低调度开销。本申请还提供了上述方法对应的装置、设备、计算机可读存储介质以及计算机程序产品。

第一方面，本申请提供了一种任务调度方法。具体地，异构系统的主节点获取目标任务，该目标任务包括至少一个异构应用程序编程接口(application programminginterface，API)调用，然后主节点可以根据任务与处理引擎的关系，确定与目标任务对应的目标处理引擎，将目标任务调度到包括上述目标处理引擎的第一从节点。

一方面，任务与处理引擎的关系能够反映任务与各种处理引擎的亲和性高低，因此，主节点可以根据任务与处理引擎的关系，将目标任务合理地调度至亲和性较高的从节点执行，提高目标任务整体的执行效率。并且，该方法可以避免异构应用的任务被调度至不合适的从节点，导致从节点的资源被长期占用，提高了异构系统中资源的利用率。此外，该方法可以减少跨节点调度异构API调用的次数，降低了调度开销。

在一些可能的实现方式中，主节点可以从异构系统中确定多个第二从节点，该第二从节点是指包括目标处理引擎的从节点，然后主节点可以根据负载均衡策略，从多个第二从节点中确定第一从节点。例如，主节点可以从多个第二从节点中确定负载率小于预设负载率的第二从节点为第一从节点。如此，可以避免任务在某一从节点堆积，导致其他从节点的资源被闲置，一方面提高任务的执行效率，另一方面提高资源的利用率。