[发明专利]一种基于版本差异的流水线并行训练节点权重分配方法在审
| 申请号： | 202110766607.0 | 申请日： | 2021-07-07 |
| 公开（公告）号： | CN113469341A | 公开（公告）日： | 2021-10-01 |
| 发明（设计）人： | 毛莺池;屠子健;聂华;黄建新;徐淑芳;吴俊;戚荣志 | 申请（专利权）人： | 河海大学;中科可控信息产业有限公司 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/063;G06N3/08;G06F9/38 |
| 代理公司： | 南京乐羽知行专利代理事务所(普通合伙) 32326 | 代理人： | 李玉平 |
| 地址： | 211100 江苏*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开一种基于版本差异的流水线并行训练节点权重分配方法，载入初始化深度学习模型；构建流水线并行训练方案，采用异步参数更新方法，并发执行不同批次的训练，记录训练批次在单位流水线执行时间内完成前向和后向传递过程。利用最新的训练节点权重版本，预测出未来训练过程的节点权重，根据节点权重预测进行该批次版本差异计算。待该节点完成所有批次的版本差异计算，则完成该节点的预测权重更新。计算了所有节点的版本差异，即完成流水线并行训练节点权重分配；并将其部署到异构计算节点中，得到针对拟训练目标网络的流水线并行训练节点权重分配方案。本发明方法使节点权重预测更加准确。 | ||
| 搜索关键词： | 一种 基于 版本 差异 流水线 并行 训练 节点 权重 分配 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于河海大学;中科可控信息产业有限公司，未经河海大学;中科可控信息产业有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110766607.0/，转载请声明来源钻瓜专利网。
