[发明专利]调度方案生成方法及装置

说明书

本发明公开了一种调度方案生成方法及装置，应用于数据处理技术领域。该方法包括：终端获取用户输入的初始操作信息。根据初始操作信息建立有向无环图模型，有向无环图模型的多个任务节点与多个初始操作一一对应，各任务节点之间的数据依赖关系与各初始操作之间的传输数据的数据依赖关系相同，各任务节点的执行时间与对应的初始操作的执行时间相等。将有向无环图模型重复执行不同次数作为不同的周期，并将各周期内的多个任务节点根据执行时间的长短进行排序，依次分配给终端的多个处理单元中完成时间最小的处理单元，得到对应各周期的调度方案，并从多个调度方案中确定初始调度方案。该方法可提高利用率和计算效率。

技术领域

本发明涉及数据处理技术领域，尤其涉及调度方案生成方法及装置。

背景技术

随着我国计算机技术的快速发展，为了提高计算效率，利用并行处理单元进行数据处理的方法已被广泛应用开来，如多核处理器。其中，深度学习的推理过程具有高度的并行性，不同样本之间的计算过程没有相互依赖，在利用并行处理单元的基础上，通过合理的调度可以起到极大地加速其深度学习的推理过程。

在目前的调度方案生成方法中，通常将多个不同样本的相同任务安排在该任务与其他任务的传输数据的等待时间内，以提高并行处理单元的利用率和计算效率。但是，若该任务的执行时间远远大于其他的任务的执行时间，达到稳定状态前的前序时间较长，这就会存在利用率和计算效率较低的问题。

发明内容

本发明实施例的主要目的在于提供调度方案生成方法及装置，可提高利用率和计算效率。

本发明实施例第一方面提供了一种调度方案生成方法，所述方法包括：终端获取用户输入的初始操作信息，所述初始操作信息包括多个初始操作、各初始操作之间的传输数据和各初始操作的执行时间；根据所述初始操作信息建立有向无环图模型，所述有向无环图模型的多个任务节点与多个所述初始操作一一对应，各所述任务节点之间的数据依赖关系与各所述初始操作之间的传输数据的数据依赖关系相同，各所述任务节点的执行时间与对应的初始操作的执行时间相等；将所述有向无环图模型重复执行不同次数作为不同的周期，并将各所述周期内的多个任务节点根据执行时间的长短进行排序，依次分配给所述终端的多个处理单元中完成时间最小的处理单元，得到对应各所述周期的调度方案，并从多个所述调度方案中确定初始调度方案，所述初始调度方案包括所述初始调度方案内的各任务节点与分配的处理单元的分配关系以及所述初始调度方案内的各任务节点的开始处理时间。

本发明实施例第二方面提供了一种调度方案生成装置，所述装置包括：获取单元，用于终端获取用户输入的初始操作信息，所述初始操作信息包括多个初始操作、各初始操作之间的传输数据和各初始操作的执行时间；建立单元，用于根据所述初始操作信息建立有向无环图模型，所述有向无环图模型的多个任务节点与多个所述初始操作一一对应，各所述任务节点之间的数据依赖关系与各所述初始操作之间的传输数据的数据依赖关系相同，各所述任务节点的执行时间与对应的初始操作的执行时间相等；处理单元，用于将所述有向无环图模型重复执行不同次数作为不同的周期，并将各所述周期内的多个任务节点根据执行时间的长短进行排序，依次分配给所述终端的多个处理单元中完成时间最小的处理单元，得到对应各所述周期的调度方案，并从多个所述调度方案中确定初始调度方案，所述初始调度方案包括所述初始调度方案内的各任务节点与分配的处理单元的分配关系以及所述初始调度方案内的各任务节点的开始处理时间。

从上述实施例可知，通过将所述有向无环图模型重复执行不同次数作为不同的周期，将各周期内的任务节点按照执行时间的长短依次分配给完成时间最小的处理单元，以将执行时间较长的任务节点和执行时间较短的任务节点分开处理，极大地提高了利用率和计算效率。

附图说明

图1是本发明提供的第一实施例中的调度方案生成方法的实现流程示意图；

图2是本发明提供的第二实施例中的调度方案生成方法的实现流程示意图；

图3是本发明提供的第二实施例中的步骤203的细化步骤的流程示意图；