[发明专利]一种用于分布式训练计算阶段的自动优化方法

权利要求书

1.一种用于分布式训练计算阶段的自动优化方法，所述方法包括在分布式训练的每个回合执行如下步骤：

S1、以预设的最小单位负载为粒度，计算当前回合中参与分布式训练的所有节点的计算性能；

S2、以计算性能最差的节点计算其对应的最大允许负载数的完成时间为限制时间，分别计算每个节点在限制时间内能够完成计算的最大负载数，以所有节点在限制时间内对应的能够完成计算的最大负载数组成负载分配策略；

S3、以步骤S2中负载分配策略，分配下一回合每个计算节点的负载。

2.根据权利要求1所述的方法，其特征在于，节点的计算性能是该节点完成预设最小单位负载计算的时间。

3.根据权利要求2所述的方法，其特征在于，计算性能最差的节点是所有参与分布式训练的节点中、完成最小单位负载计算所需时间最长的节点。

4.根据权利要求3所述的方法，其特征在于，每个计算节点在限制时间内能够完成计算的最大负载数＝限制时间/该节点完成最小单位负载计算的时间。

5.根据权利要求4所述的方法，其特征在于，所述步骤S2包括：

S21、根据所有节点的计算性能，确定计算性能最差的节点；

S22、根据计算性能最差的节点的计算性能，获取最大限制时间，其中，最大限制时间＝节点对应的最大允许负载数*计算性能最差的节点完成最小单位负载计算所需的时间；

S23、基于预设的时间划分粒度，在小于或等于最大限制时间的范围内设置多个限制时间，计算每个限制时间内每个节点能够完成计算的最大负载数，以所有节点在每个限制时间内能够完成计算的最大负载数组成每个限制时间对应的负载分配策略；

S24、计算每个限制时间对应的负载分配策略的系统效率，并选出效率最高的负载分配策略。

6.根据权利要求5所述的方法，其特征在于，每个策略对应的系统效率＝该负载分配策略对应的所有节点的负载数/该负载分配策略对应的计算总时间。

7.根据权利要求6所述的方法，其特征在于，负载分配策略对应的计算总时间包括在该负载分配策略对应的负载分配下，所有节点完成分布式训练计算阶段和同步阶段的总时间。

8.一种分布式训练方法，用于对深度神经网络进行多回合训练，所述分布式训练的每个回合包括深度神经网络在分布式训练系统中的计算阶段和同步阶段，其特征在于，所述方法包括在每个回合的计算阶段采用如权利要求1-7任一所述的方法分配下一回合每个计算节点的负载以进行下一回合的分布式训练。

9.一种计算机可读存储介质，其特征在于，其上存储有计算机程序，所述计算机程序可被处理器执行以实现权利要求1至7任一所述方法的步骤。

10.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述电子设备实现如权利要求1至7中任一项所述方法的步骤。