[发明专利]深度学习框架的训练方法、装置及存储介质

说明书

本公开公开了一种深度学习框架的训练方法、装置及存储介质，涉及深度学习、大数据处理等人工智能领域。具体实现方案为：在目标任务满足训练开始条件时，获取当前任务节点集群中满足预设开启条件的至少一个任务节点；判断至少一个任务节点的节点数量是否大于等于预设数量；若节点数量大于预设数量，则至少一个任务节点根据样本数据，同步训练目标任务的深度学习框架；在目标任务满足训练完成条件时，获取同步训练的目标深度学习框架。由此，实现了深度学习框架的自动弹性训练，在保证训练效果的前提下，提高了训练效率，降低了人力成本。

技术领域

本公开涉及深度学习、大数据处理等技术领域，尤其涉及一种深度学习框架的训练方法、装置及存储介质。

背景技术

随着计算机技术的应用，深度学习技术在有监督学习领域取得了巨大的成功，其中，在深度学习的模型框架训练时，为了解决获取大规模有标签数据代价昂贵的问题，无监督技术开始逐渐被人们重视起来。在众多的无监督学习技术中，对比学习在近一年内展现了非凡的潜力，甚至在很多任务上的指标已经可以逼近有监督学习的效果。具体到视觉领域，对深度模型框架的训练期望通过某些预训练任务学习到一种对图像的表示，然后将学习到的表示直接应用到具体的任务上。

然而，实际的训练中，任务都是提交集群作业运行的，多人共享一批机器资源。如果预训练任务长期占用集群资源，将会导致其他用户的调研任务、或者一些高优先级的任务无法执行。而且，即便我们的任务提交成功了，还要频繁的观察是否执行失败，如果发现失败，需要手动重提任务，训练的效率十分低下。

发明内容

本公开提供了一种用于降低集群中任务训练的人力投入，以及提高训练效率的深度学习框架的训练方法、装置及存储介质。

根据本公开的一方面，提供了一种深度学习框架的训练方法，包括：在目标任务满足训练开始条件时，获取当前任务节点集群中满足预设开启条件的至少一个任务节点；判断所述至少一个任务节点的节点数量是否大于预设数量；若所述节点数量大于所述预设数量，则所述至少一个任务节点根据样本数据，同步训练所述目标任务的深度学习框架；在所述目标任务满足训练完成条件时，获取同步训练的目标深度学习框架。

根据本公开的另一方面，提供了一种深度学习框架的训练装置，包括：第一获取模块，用于在目标任务满足训练开始条件时，获取当前任务节点集群中满足预设开启条件的至少一个任务节点；判断模块，用于判断所述至少一个任务节点的节点数量是否大于预设数量；训练模块，用于在所述节点数量大于所述预设数量时，所述至少一个任务节点根据样本数据，同步训练所述目标任务的深度学习框架；第二获取模块，用于在所述目标任务满足训练完成条件时，获取同步训练的目标深度学习框架

根据本公开的又一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行第一方面实施例的深度学习框架的训练方法。

根据本公开的再一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行第一方面实施例的深度学习框架的训练方法。

根据本公开的还一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现第一方面实施例的深度学习框架的训练方法。

本公开的实施例，至少具有如下技术效果：

在目标任务满足训练开始条件时，获取当前任务节点集群中满足预设开启条件的至少一个任务节点，进而，判断至少一个任务节点的节点数量是否大于预设数量，若大于预设数量，则根据至少一个任务节点根据样本数据同步训练目标任务的深度学习框架，最后，在目标任务满足训练完成条件时，获取同步训练的目标深度学习框架。由此，实现了深度学习框架的自动弹性训练，在保证训练效果的前提下，提高了训练效率，降低了人力成本。