[发明专利]一种多服务器作业的优化调度方法

权利要求书

1.一种多服务器作业的优化调度方法，其特征在于，包括以下步骤：

1）提出一种通用的、基于二分图的群组调度模型，优化目标为Asw最大化，MSJ包括并行深度学习训练任务组成和并行深度学习训练的工作流程；

2）基于该模型，提出一种通过历史奖励数据来学习MSJ在不同服务器上运行时间的期望和方差的框架，针对MSJ的调度称为群组调度吗，按照输入数据的不同，调度问题可以划分为如下两大类：批处理作业的调度和流式作业的调度；

3）基于该学习框架，提出一种基于遗传算法的Asw最大化策略，能够在保证多种类型的约束成立的条件下使得社会整体收益最大。

2.根据权利要求1所述的一种多服务器作业的优化调度方法，其特征在于：所述并行深度学习训练任务组成为：一个参数服务器（Parameter Server，是一个运行在某台物理机或虚拟机的进程，以下简称PS），多个工作节点（Worker，是执行反向传播的进程）。

3.根据权利要求1所述的一种多服务器作业的优化调度方法，其特征在于：所述并行深度学习训练的工作流程为：在每一轮迭代中，每一个Worker根据自己分得的局部数据集通过反向传播算法更新自己的局部梯度，然后各自将局部梯度通过网络传送给PS。

4.根据权利要求3所述的一种多服务器作业的优化调度方法，其特征在于：所述PS收集到全部的局部梯度后，通过取平均值的操作得到本轮的全局梯度，PS将全局梯度通过网络再传送给每一个Worker，进入下一轮迭代。

5.根据权利要求1所述的一种多服务器作业的优化调度方法，其特征在于：所述批处理作业：指“只需要单次输入、运行结束后自动释放资源”的任务，这些任务在不同时间抵达之后，调度器需要为每个任务指定一台可以运行它的服务器并为该任务分配计算资源（如一个CPU核心、500Mi的内存），调度器在指定服务器时，只能选择能满足资源需求的服务器，考虑到作业运行完毕后主动释放占用的资源，因此调度策略通常以最小化全体作业的完成时间（从第一个作业抵达到最后一个作业运行完毕所花费时间）为目标。

6.根据权利要求1所述的一种多服务器作业的优化调度方法，其特征在于：所述流式作业：指任务在不同的时间窗口会被输入不同数据，从而执行相应计算的作业，典型的流式作业是实时大数据分析，这些作业必须一直处于运行状态，并需要对实时输入的数据进行处理，此时，需要调度的是输入数据流，调度策略需要决定输入的数据流分发给后台多个可以处理本数据流的任务中的一个，被称为负载均衡。