[发明专利]模型训练方法、装置、服务器及存储介质在审
| 申请号: | 201911416544.5 | 申请日: | 2019-12-31 |
| 公开(公告)号: | CN111126604A | 公开(公告)日: | 2020-05-08 |
| 发明(设计)人: | 张俊钦;周海维 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08;G06F9/50;G06F3/06 |
| 代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
| 地址: | 100080 北京市海淀*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 模型 训练 方法 装置 服务器 存储 介质 | ||
1.一种模型训练方法,其特征在于,所述方法包括:
接收客户端发送的训练请求,所述训练请求包括:用于对模型进行训练的图形处理器的目标数量、所述客户端对应的分布式存储卷的名称;
分配所述目标数量个图形处理器,以及创建所述客户端对应的容器;
利用所述客户端对应的分布式存储卷获取存储在分布式存储系统中的所述模型的训练参考信息,以及将所述模型的训练参考信息加载到所述客户端对应的容器中,所述模型的训练参考信息为上一次对所述模型进行训练时采用的训练环境数据或预设训练环境数据;
基于所述模型的训练参考信息,生成加载在所述客户端对应的容器中的本次对所述模型进行训练时采用的训练环境数据;
利用本次对所述模型进行训练时采用的训练环境数据和所述目标数量个图形处理器,对所述模型进行训练,以及利用所述客户端对应的分布式存储卷将所述本次对所述模型进行训练时采用的训练环境数据存储在分布式存储系统中。
2.根据权利要求1所述的方法,其特征在于,在接收所述客户端发送的训练请求之前,所述方法还包括:
接收所述客户端发送的分布式存储卷申请请求,所述分布式存储卷申请请求包括:待分配的所述客户端对应的分布式存储卷的名称;
向分布式存储系统发送包括所述名称的分布式存储卷分配请求;
接收分布式存储系统发送的分配指示信息,其中,分配指示信息指示所述分布式存储系统已经分配具有所述名称的所述客户端对应的分布式存储卷;
将所述分配指示信息发送至所述客户端。
3.根据权利要求2所述的方法,其特征在于,基于所述模型的训练参考信息,生成加载在所述客户端对应的容器中的本次对所述模型进行训练时采用的训练环境数据包括:
接收所述客户端发送的配置请求,配置请求指示执行针对所述模型的训练参考信息中的至少一项的配置操作;
执行针对所述模型的训练参考信息中的至少一项的配置操作,以生成加载在所述客户端对应的容器中的本次对所述模型进行训练时采用的训练环境数据。
4.根据权利要求3所述的方法,其特征在于,在接收到所述客户端发送的配置请求之前,所述方法还包括:
接收所述客户端发送的连接建立请求,所述连接建立请求包括:安全外壳协议密钥;
判断所述安全外壳协议密钥是否与加载在所述客户端对应的容器中的所述客户端的预设安全外壳协议密钥匹配;
若是,建立与所述客户端的安全外壳协议连接,以使得所述客户端利用所述安全外壳协议连接发送所述配置请求。
5.根据权利要求1-4之一所述的方法,其特征在于,所述方法还包括:
将所述客户端对应的容器的根目录的路径切换到所述客户端对应的分布式存储卷中的目标目录的路径,所述目标目录为用于写入和读取训练环境数据的目录。
6.一种模型训练装置,其特征在于,所述装置包括:
接收单元,被配置为接收客户端发送的训练请求,所述训练请求包括:用于对模型进行训练的图形处理器的目标数量、所述客户端对应的分布式存储卷的名称;
第一处理单元,被配置为分配所述目标数量个图形处理器,以及创建所述客户端对应的容器;
第二处理单元,被配置为利用所述客户端对应的分布式存储卷获取存储在分布式存储系统中的所述模型的训练参考信息,以及将所述模型的训练参考信息加载到所述客户端对应的容器中,所述模型的训练参考信息为上一次对所述模型进行训练时采用的训练环境数据或预设训练环境数据;
生成单元,被配置为基于所述模型的训练参考信息,生成加载在所述客户端对应的容器中的本次对所述模型进行训练时采用的训练环境数据;
训练单元,被配置为利用本次对所述模型进行训练时采用的训练环境数据和所述目标数量个图形处理器,对所述模型进行训练,以及利用所述客户端对应的分布式存储卷将所述本次对所述模型进行训练时采用的训练环境数据存储在分布式存储系统中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911416544.5/1.html,转载请声明来源钻瓜专利网。





