[发明专利]分布式系统中的神经网络训练在审
| 申请号: | 202080066533.3 | 申请日: | 2020-09-21 |
| 公开(公告)号: | CN114514536A | 公开(公告)日: | 2022-05-17 |
| 发明(设计)人: | V·维韦克拉亚;T·K·哈;R·R·黄;R·戴尔蒙特;R·J·希顿 | 申请(专利权)人: | 亚马逊技术股份有限公司 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063;G06N3/08 |
| 代理公司: | 上海专利商标事务所有限公司 31100 | 代理人: | 钱慰民;张鑫 |
| 地址: | 美国华*** | 国省代码: | 暂无信息 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 提供用于执行神经网络的训练操作的方法和系统。在一个实例中,一种方法包括:执行用于神经网络的第二层的向后传播计算以产生第二权重梯度;将所述第二权重梯度分裂为若干部分;致使硬件接口与第二计算机系统交换所述第二权重梯度的第一部分;当所述第二权重梯度的所述第一部分的所述交换在进行中时执行用于所述神经网络的第一层的向后传播计算以产生第一权重梯度,所述第一层在所述神经网络中是比所述第二层低的层;致使所述硬件接口将所述第一权重梯度传输到所述第二计算机系统;以及致使所述硬件接口将所述第二权重梯度的剩余部分传输到所述第二计算机系统。 | ||
| 搜索关键词: | 分布式 系统 中的 神经网络 训练 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于亚马逊技术股份有限公司,未经亚马逊技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202080066533.3/,转载请声明来源钻瓜专利网。





