[发明专利]模型训练方法、装置、服务器及存储介质

说明书

本发明实施例提供了一种模型训练方法、装置、服务器及存储介质，该方法包括：接收客户端发送的训练请求；分配目标数量个图形处理器，创建客户端对应的容器；利用客户端对应的分布式存储卷获取从分布式存储系统获取模型的训练参考信息，将模型的训练参考信息加载到客户端对应的容器中；基于模型的训练参考信息，生成训练环境数据；利用生成的训练环境数据和目标数量个图形处理器，对模型进行训练，利用客户端对应的分布式存储卷将生成的训练环境数据存储在分布式存储系统中。快速地生成模型的训练所需的训练环境数据，提升配置模型的训练所需的数据的效率，节省配置模型的训练所需的数据的时长，进而可以快速地开始模型的训练。

技术领域

本发明涉及分布式技术领域，特别是涉及模型训练方法、装置、服务器及存储介质。

背景技术

在对诸如深度学习模型的模型进行训练时，需要分配图形处理器以及配置模型的训练所需的数据。目前，通常采用的方式为：在每一次训练过程中，针对模型的训练所需的每一个类型的数据，由参与模型的训练的工程师以人工方式逐一通过诸如输入数据、选择数据的方式进行配置。

然而，在每一次对模型进行训练时，通常本次训练与上一次训练具有较强的关联性，在当前对模型训练时采用的诸如操作系统、训练框架的数据依然采用与上一次对模型进行训练时采用的数据，对于这些类型的数据，在每一次对模型进行训练时，依然需要由参与模型的训练的工程师以人工方式逐一重新进行配置，导致配置模型的训练所需的数据较为繁琐，配置模型的训练所需的数据的效率较低，配置模型的训练所需的数据的时长较长，进而导致在每一次对模型进行训练时，需要等待较长时间才能开始模型的训练。

发明内容

本发明实施例的目的在于提供一种模型训练方法、装置、服务器及存储介质，以实现提升配置模型的训练所需的数据的效率，节省配置模型的训练所需的数据的时长。具体技术方案如下：

在本发明实施的第一方面，首先提供了一种模型训练方法，包括：

接收客户端发送的训练请求，所述训练请求包括：用于对模型进行训练的图形处理器的目标数量、所述客户端对应的分布式存储卷的名称；

分配所述目标数量个图形处理器，以及创建所述客户端对应的容器；

利用所述客户端对应的分布式存储卷获取存储在分布式存储系统中的所述模型的训练参考信息，以及将所述模型的训练参考信息加载到所述客户端对应的容器中，所述模型的训练参考信息为上一次对所述模型进行训练时采用的训练环境数据或预设训练环境数据；

基于所述模型的训练参考信息，生成加载在所述客户端对应的容器中的本次对所述模型进行训练时采用的训练环境数据；

利用本次对所述模型进行训练时采用的训练环境数据和所述目标数量个图形处理器，对所述模型进行训练，以及利用所述客户端对应的分布式存储卷将所述本次对所述模型进行训练时采用的训练环境数据存储在分布式存储系统中。

在本发明实施的第二方面，还提供了一种模型训练装置，包括：

接收单元，被配置为接收客户端发送的训练请求，所述训练请求包括：用于对模型进行训练的图形处理器的目标数量、所述客户端对应的分布式存储卷的名称；

第一处理单元，被配置为分配所述目标数量个图形处理器，以及创建所述客户端对应的容器；

第二处理单元，被配置为利用所述客户端对应的分布式存储卷获取存储在分布式存储系统中的所述模型的训练参考信息，以及将所述模型的训练参考信息加载到所述客户端对应的容器中，所述模型的训练参考信息为上一次对所述模型进行训练时采用的训练环境数据或预设训练环境数据；

生成单元，被配置为基于所述模型的训练参考信息，生成加载在所述客户端对应的容器中的本次对所述模型进行训练时采用的训练环境数据；