[发明专利]用于训练卷积神经网络的方法和装置在审
申请号: | 201710859122.X | 申请日: | 2017-09-21 |
公开(公告)号: | CN107609645A | 公开(公告)日: | 2018-01-19 |
发明(设计)人: | 刘文献 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司11204 | 代理人: | 王达佐,马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了用于训练卷积神经网络的方法和装置。该方法的一具体实施方式包括对于初始化卷积神经网络的各层中的每层,利用至少一块显卡存储该层的输入信息集合;计算至少一块显卡中的每块显卡所存储的至少部分该层的输入信息集合的均值和方差;将至少一块显卡中的每块显卡所存储的至少部分该层的输入信息集合的均值和方差发送至其他显卡,以计算该层的输入信息集合的均值和方差;利用该层的输入信息集合的均值和方差对该层的输入信息集合进行归一化处理,得到该层的归一化的输入信息集合;利用各层的归一化的输入信息集合对初始化卷积神经网络进行训练,得到训练完成的卷积神经网络。该实施方式提高了卷积神经网络的稳定性。 | ||
搜索关键词: | 用于 训练 卷积 神经网络 方法 装置 | ||
【主权项】:
一种用于训练卷积神经网络的方法,其特征在于,所述方法包括:对于初始化卷积神经网络的各层中的每层,利用至少一块显卡存储该层的输入信息集合,其中,所述至少一块显卡中的每块显卡存储至少部分该层的输入信息集合;计算所述至少一块显卡中的每块显卡所存储的至少部分该层的输入信息集合的均值和方差;将所述至少一块显卡中的每块显卡所存储的至少部分该层的输入信息集合的均值和方差发送至其他显卡,以计算该层的输入信息集合的均值和方差;利用该层的输入信息集合的均值和方差对该层的输入信息集合进行归一化处理,得到该层的归一化的输入信息集合;利用各层的归一化的输入信息集合对所述初始化卷积神经网络进行训练,得到训练完成的卷积神经网络。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710859122.X/,转载请声明来源钻瓜专利网。