[发明专利]深度神经网络计算加速的方法和装置有效
申请号: | 201810694240.4 | 申请日: | 2018-06-29 |
公开(公告)号: | CN108846478B | 公开(公告)日: | 2021-01-29 |
发明(设计)人: | 朱志凡;冯仕堃;陈徐屹;朱丹翔;曹宇慧;何径舟 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F9/28 |
代理公司: | 北京市铸成律师事务所 11313 | 代理人: | 张臻贤;江宇 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例提出一种深度神经网络计算加速的方法、装置、终端和计算机可读存储介质,方法包括:对需要输入到矩阵模型中的各输入向量进行采样,获得多个采样向量;根据预设的量化参数对各采样向量进行乘积量化,获得多个量化点;根据量化参数将矩阵模型切分为多个矩阵块;各量化点与各矩阵块计算得到多个预计算表;通过各预计算表对各输入向量进行计算,得到矩阵模型的计算结果。本发明实施例中同一个矩阵模型的预计算表只需要建立一次,所有需要通过该矩阵模型进行计算的输入向量均可使用该预计算表进行查表计算,有效节省了输入向量与矩阵模型的计算过程,同时还能够保持矩阵模型原有的计算效果。 | ||
搜索关键词: | 深度 神经网络 计算 加速 方法 装置 | ||
【主权项】:
1.一种深度神经网络计算加速的方法,其特征在于,包括:对需要输入到矩阵模型中的各输入向量进行采样,获得多个采样向量;根据预设的量化参数对各所述采样向量进行乘积量化,获得多个量化点;根据所述量化参数将所述矩阵模型切分为多个矩阵块;各所述量化点与各所述矩阵块计算得到多个预计算表;通过各所述预计算表对各所述输入向量进行计算,得到所述矩阵模型的计算结果。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810694240.4/,转载请声明来源钻瓜专利网。