[发明专利]一种深度神经网络的量化方法及装置在审
申请号: | 201910478915.6 | 申请日: | 2019-06-03 |
公开(公告)号: | CN110188880A | 公开(公告)日: | 2019-08-30 |
发明(设计)人: | 刘明华;赵建仁 | 申请(专利权)人: | 四川长虹电器股份有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 四川省成都市天策商标专利事务所 51213 | 代理人: | 郭会 |
地址: | 621000 四*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种深度神经网络的量化方法,包括:针对深度神经网络待量化的网络层,进行量化初始化;根据量化模式,对待量化网络层的权值进行量化操作;根据量化后的权值进行网络的迭代训练,并更新权值直到深度神经网络收敛。本发明的方法,包括二值化、三值化等可选模式,以一种机制来对权值进行量化,然后,在迭代训练过程中,不断更新量化权值,直至满足目标任务准确度的要求,最后得到的模型可用于多个平台,相对于原始模型,在准确率相当的前提下,速度更快,模型更小。本发明的方法克服了深度网络对于计算资源、存储的巨大消耗,在针对目标任务性能的同时,提高深度神经网络的加速比与压缩率。 | ||
搜索关键词: | 量化 神经网络 迭代训练 网络层 准确度 计算资源 原始模型 初始化 二值化 压缩率 准确率 更新 可选 可用 收敛 存储 网络 消耗 | ||
【主权项】:
1.一种深度神经网络的量化方法,其特征在于,包括:针对深度神经网络待量化的网络层,进行量化初始化;根据量化模式,对待量化网络层的权值进行量化操作;根据量化后的权值进行网络的迭代训练,并更新权值直到深度神经网络收敛。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川长虹电器股份有限公司,未经四川长虹电器股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910478915.6/,转载请声明来源钻瓜专利网。