[发明专利]存储方法、装置、系统及介质有效
申请号: | 201810107864.1 | 申请日: | 2018-02-02 |
公开(公告)号: | CN108875922B | 公开(公告)日: | 2022-06-10 |
发明(设计)人: | 周舒畅;郭嘉丞 | 申请(专利权)人: | 北京旷视科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06N3/08 |
代理公司: | 北京睿邦知识产权代理事务所(普通合伙) 11481 | 代理人: | 徐丁峰;张玮 |
地址: | 100190 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储 方法 装置 系统 介质 | ||
本发明的实施例提供了一种存储方法、装置、系统及介质。该方法包括:确定与神经网络中的M个整数权重分别一一对应的M个n位二进制数,其中所述M个n位二进制数表示的取值范围以0为中心,并以特定间隔在数轴上对称分布,n为正整数;将所述神经网络的N个第一响应值映射到所述取值范围内,以获得与所述N个第一响应值分别一一对应的N个第二响应值;确定与所述N个第二响应值分别一一对应的N个n位二进制数,所述N个n位二进制数表示的取值范围以0为中心,并以所述特定间隔在数轴上对称分布;以及存储所述M个n位二进制数和所述N个n位二进制数。上述技术方案在保证神经网络的计算性能的前提下,显著减少神经网络的相关数据的存储空间。
技术领域
本发明涉及人工智能技术领域,更具体地涉及一种存储方法、装置、系统及介质。
背景技术
人工神经网络是一种基于模仿生物神经网络的结构和功能的数学模型,可以对某一类或者一些问题进行函数的模拟和近似。由于大数据的发展,神经网络目前在图像、语音以及自然语言处理等具有海量数据库的方向上有着非常广泛的应用。
目前,由于对神经网络的准确度的要求,网络的复杂度在不断地增加并且网络的空间结构也在持续拓展。由此,造成了网络模型的计算数据所需的存储空间不断攀升。这极大地浪费了系统的存储资源。
发明内容
考虑到上述问题而提出了本发明。本发明提供了一种存储方法、装置、系统及介质。
根据本发明一方面,提供了一种存储方法,包括:
确定与神经网络中的M个整数权重分别一一对应的M个n位二进制数,其中所述M个n位二进制数表示的取值范围以0为中心,并以特定间隔在数轴上对称分布,n为正整数;
将所述神经网络的N个第一响应值映射到所述取值范围内,以获得与所述N个第一响应值分别一一对应的N个第二响应值;
确定与所述N个第二响应值分别一一对应的N个n位二进制数,所述N个n位二进制数表示的取值范围以0为中心,并以所述特定间隔在数轴上对称分布;以及
存储所述M个n位二进制数和所述N个n位二进制数。
示例性地,所述确定与神经网络中的M个整数权重分别一一对应的M个n位二进制数包括:
根据如下公式计算与所述神经网络中的M个整数权重分别一一对应的M个n位二进制数:
其中,x表示所述整数权重,K表示所述特定间隔,(anan-1...a1)2表示所述n位二进制数。
示例性地,所述将所述神经网络的N个第一响应值映射到所述取值范围内,以获得与所述N个第一响应值分别一一对应的N个第二响应值,包括:
根据如下公式将所述神经网络的N个第一响应值映射到所述取值范围内:
其中,z表示所述第二响应值,K表示所述特定间隔,y表示所述第一响应值,b和t为预设常数,符号表示向下取整。
示例性地,所述存储方法还包括:
将所述神经网络的浮点权重进行定点化,以获得所述整数权重,所述浮点权重是用浮点数表示的。
示例性地,所述将所述人工神经网络的浮点权重进行定点化,以获得所述整数权重,包括:
在所述神经网络的训练过程中,将所述神经网络的浮点权重进行定点化,以获得所述整数权重。
示例性地,所述将所述神经网络的浮点权重进行定点化,以获得所述整数权重,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京旷视科技有限公司,未经北京旷视科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810107864.1/2.html,转载请声明来源钻瓜专利网。