[发明专利]基于神经网络的数据处理方法、装置、系统及存储介质在审
申请号: | 201810134878.2 | 申请日: | 2018-02-09 |
公开(公告)号: | CN108875924A | 公开(公告)日: | 2018-11-23 |
发明(设计)人: | 周舒畅;胡晨;梁喆 | 申请(专利权)人: | 北京旷视科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京睿邦知识产权代理事务所(普通合伙) 11481 | 代理人: | 徐丁峰;张玮 |
地址: | 100190 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 数据处理 神经网络处理 存储介质 乘法运算 存储空间 计算逻辑 计算能力 结果矩阵 系统功耗 性能方面 乘法器 次矩阵 逻辑门 散热 保证 | ||
本发明的实施例提供了一种基于神经网络的数据处理方法、装置、系统及存储介质。该方法包括:获取待处理的数据;利用神经网络处理所述数据,得到最终处理结果;其中,在利用所述神经网络处理所述数据的过程中,将至少一次矩阵乘法运算得到的结果矩阵中、与设定值的差值的绝对值小于或等于阈值的元素置为所述设定值。上述技术方案能够在保证数据处理精度的前提下,显著简化神经网络的计算逻辑,相应地减少神经网络的乘法器中的逻辑门。由此,能够降低对平台计算能力和存储空间方面的要求,进而降低对系统功耗、散热等性能方面的要求。
技术领域
本发明涉及人工智能领域,更具体地涉及一种基于神经网络的数据处理方法、装置、系统及存储介质。
背景技术
人工神经网络是一种基于模仿生物神经网络的结构和功能的数学模型,可以对某一类或者一些问题进行函数的模拟和近似。由于大数据的发展,神经网络目前在图像、语音以及自然语言处理等具有海量数据库的方向上有着非常广泛的应用。
目前,由于神经网络的准确度的要求,不断地增加网络的复杂度并且拓展网络的空间结构。由此,造成了网络模型的计算量以及尺寸的不断攀升。在开发板,手机等嵌入式平台上,计算能力以及存储空间等方面的限制会对功耗、面积、散热等问题带来非常大的挑战。
因此,迫切需要减少利用神经网络进行数据处理时的计算量,以解决上述问题。
发明内容
考虑到上述问题而提出了本发明。本发明提供了一种基于神经网络的数据处理方法、装置、系统及存储介质。
根据本发明一方面,提供了一种基于神经网络的数据处理方法,包括:
获取待处理的数据;
利用神经网络处理所述数据,得到最终处理结果;
其中,在利用所述神经网络处理所述数据的过程中,将至少一次矩阵乘法运算得到的结果矩阵中、与设定值的差值的绝对值小于或等于阈值的元素置为所述设定值。
示例性地,在所述将至少一次矩阵乘法运算得到的结果矩阵中的、与设定值的差值的绝对值小于或等于阈值的元素置为所述设定值,所述方法还包括:
计算所述结果矩阵中元素的均值并确定所述设定值为所述均值;或者
确定所述设定值为0。
示例性地,所述方法还包括:利用训练样本对所述神经网络进行训练,以确定所述阈值。
示例性地,所述利用训练样本对所述神经网络进行训练还包括:在训练过程中,量化所述神经网络的权重参数。
示例性地,所述矩阵乘法运算是所述神经网络的网络层的权重参数和所述网络层的输入数据之间的矩阵乘法运算。
示例性地,所述矩阵乘法运算为所述神经网络的卷积层的矩阵乘法运算。
根据本发明另一方面,还提供了一种基于神经网络的数据处理装置,包括:
获取模块,用于获取待处理的数据;
处理模块,用于利用神经网络处理所述数据,得到最终处理结果;
其中,在利用所述神经网络处理所述数据的过程中,将至少一次矩阵乘法运算得到的结果矩阵中、与设定值的差值的绝对值小于或等于阈值的元素置为所述设定值。
根据本发明又一方面,还提供了一种基于神经网络的数据处理系统,包括处理器和存储器,其中,所述存储器中存储有计算机程序指令,所述计算机程序指令被所述处理器运行时用于执行上述基于神经网络的数据处理方法。
根据本发明再一方面,还提供了一种存储介质,在所述存储介质上存储了程序指令,所述程序指令在运行时用于执行上述基于神经网络的数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京旷视科技有限公司,未经北京旷视科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810134878.2/2.html,转载请声明来源钻瓜专利网。