[发明专利]一种深度学习框架的调度方法及系统

说明书

本发明涉及一种深度学习框架的调度方法及系统，其中，系统包括全局资源管理器ResourceManager、多个节点管理器NodeManager、应用程序管理器ApplicationMaster和资源容器Container；在所述YARN调度系统的配置选项中增加图像处理器GPU选项以及是否使用图像处理器GPU，并在所述全局资源管理器ResourceManager中增加图像处理器GPU的资源类型、添加图像处理器GPU的权重设置、增加可深度优先搜索GPU通用接口；对每种应用设计单独的客户端并修改部分应用程序管理器，使更改配置后的YARN调度系统与其他系统软件相结合。采用本发明的系统和方法，结合传统的大数据集群框架HadoopYARN，能够在Hadoop平台上实现GPU资源的管理与调度，在本发明的系统中深度学习框架作为一个普通程序被使用的调度，极大提高GPU的被使用能力。

技术领域

本发明涉及人工智能深度学习技术领域，尤其涉及一种深度学习框架的调度方法及系统。

背景技术

近年来，深度学习已经广泛地应用于语音识别，机器翻译，计算机视觉等领域，都取得了很好的效果。随着深度学习理论的兴起，多种深度学习的编程框架不断涌现。TensorFlow、Caffe、PyTorch等深度学习框架在架构、性能、模型构建等许多方面都差异甚大。每种框架都有其特别适用的领域，而统一管理调度这些框架的平台却非常缺乏，极少数支持的平台，例如腾讯的DI-平台，非开源，对自身的业务支持性很好，但是可扩展性不足。

另一方面，深度学习理论的发展离不开GPU硬件的进步。GPU(GraphicsProcessing Unit，图形处理器)是一种专门的图像运算处理器，主要工作于个人计算机、高性能服务器或移动设备之上，为它们加速各种3D图像和特效的处理。对于很多科学计算而言，性能主要取决于GPU的浮点计算能力，特别是对深度学习任务来说。但是，由于涉及GPU的计算很多本身就需要巨大的计算量，单机通常无法在短时间内完成，因此GPU的集群化管理和使用成为一种必然的趋势。

深度学习的模型训练需要海量数据，海量数据的预处理需要用大数据技术进行处理。大数据处理框架中最为流行的当属Hadoop和Spark。Hadoop和Spark均支持Hadoop YARN(Yet Another Resource Negotiator)作为资源管理器。Hadoop YARN的出现使得资源的管理和调度更加简单，大大简化了集群结构，并且使其具备了多种任务类型的可扩展性。

综上所述，结合传统的大数据集群框架HadoopYARN，对在Hadoop平台上实现GPU资源的管理与调度并使其具备执行深度学习框架是我们要解决的首要问题。

发明内容

为解决上述问题，第一方面，本发明提供一种深度学习框架的调度系统，包括全局资源管理器ResourceManager、多个节点管理器NodeManager、应用程序管理器ApplicationMaster和资源容器Container；在YARN调度系统的配置选项中增加图像处理器GPU选项以及是否使用图像处理器GPU，并在所述全局资源管理器ResourceManager中增加图像处理器GPU的资源类型、添加图像处理器GPU的权重设置、增加可深度优先搜索GPU通用接口；

对每种应用设计单独的客户端并修改部分应用程序管理器，使更改配置后的YARN调度系统与其他系统软件相结合。

优选地，YARN调度系统具体通过以下步骤进行配置：

在ResourceManager中的ResourceType.java文件里增加GPU的资源类型，使GPU成为调度器的一种资源类型；

在ResourceManager中的ResourceWeight.java文件里增加GPU的权重设置；

在hadoop-yarn-common里的GpuResourceCalculator.java中增加可深度优先搜索GPU的通用接口；