[发明专利]模型的分布式训练方法、装置和系统在审
| 申请号： | 202010018911.2 | 申请日： | 2020-01-08 |
| 公开（公告）号： | CN113094168A | 公开（公告）日： | 2021-07-09 |
| 发明（设计）人： | 蒋丰泽;李传勇;王兴达 | 申请（专利权）人： | 北京奇虎科技有限公司 |
| 主分类号： | G06F9/50 | 分类号： | G06F9/50;G06F9/54;G06N20/00 |
| 代理公司： | 北京恒博知识产权代理有限公司 11528 | 代理人： | 范胜祥 |
| 地址： | 100088 北京市西城区新*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了模型的分布式训练方法、装置和系统。所述方法包括：由本节点上的参数服务器角色存储模型的至少部分参数，以使所述对等网络中的全部参数服务器角色共同存储所述模型的全部参数；在每轮训练开始时，由本节点上的工作者角色从各节点上的参数服务器角色拉取模型的最新参数，根据本轮训练的训练数据以及根据所述最新参数计算梯度更新，并在该轮训练结束后，将计算得到的梯度更新发送给各节点上的参数服务器角色。该技术方案通过在对等网络的各节点中分别部署参数服务器角色和工作者角色，使各参数服务器角色可只保存部分模型参数，兼顾了通信和存储，极大地缓解了通信压力和存储压力。 | ||
| 搜索关键词： | 模型 分布式 训练 方法 装置 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司，未经北京奇虎科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010018911.2/，转载请声明来源钻瓜专利网。
