[发明专利]神经网络批标准化层硬件实现方法、装置、设备及介质在审
申请号: | 202111616640.1 | 申请日: | 2021-12-27 |
公开(公告)号: | CN114462585A | 公开(公告)日: | 2022-05-10 |
发明(设计)人: | 高滨;周颖;唐建石;张清天;钱鹤;吴华强 | 申请(专利权)人: | 北京超弦存储器研究院;清华大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06F7/52;G06F7/50 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 黄德海 |
地址: | 100176 北京市大兴区经济技*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 标准化 硬件 实现 方法 装置 设备 介质 | ||
1.一种神经网络批标准化层硬件实现方法,其特征在在于,包括以下步骤:
在神经网络中,确定所述神经网络的当前卷积结果;
基于所述当前卷积结果生成K矩阵,并得到与所述K矩阵呈映射关系的忆阻器阵列,其中,所述忆阻器阵列的电导差值与所述K矩阵的参数相对应;以及
利用所述忆阻器阵列进行所述神经网络的BN层计算,得到所述BN层的计算结果。
2.根据权利要求1所述的方法,其特征在于,所述得到与所述K矩阵呈映射关系的忆阻器阵列,包括:
将所述忆阻器阵列中任意两忆阻器单元构成2T2R单元,得到所述忆阻器阵列。
3.根据权利要求2所述的方法,其特征在于,所述任意两忆阻器单元的源线相连,且位线上施加相同幅值、极性相反的电压脉冲信号。
4.根据权利要求1所述的方法,其特征在于,还包括:
检测流经源线的实际电流;
根据所述实际电流计算实际电压和上下电导的至少一个电导差值。
5.根据权利要求4所述的方法,其特征在于,所述利用所述忆阻器阵列进行所述神经网络的BN层计算,包括:
将所述K矩阵中的参数转换为所述至少一个电导差值。
6.一种神经网络批标准化层硬件实现装置,其特征在在于,包括:
确定模块,用于在神经网络中,确定所述神经网络的当前卷积结果;
获取模块,用于基于所述当前卷积结果生成K矩阵,并得到与所述K矩阵呈映射关系的忆阻器阵列,其中,所述忆阻器阵列的电导差值与所述K矩阵的参数相对应;以及
第一计算模块,用于利用所述忆阻器阵列进行所述神经网络的BN层计算,得到所述BN层的计算结果。
7.根据权利要求6所述的装置,其特征在于,所述获取模块,具体用于:
将所述忆阻器阵列中任意两忆阻器单元构成2T2R单元,得到所述忆阻器阵列。
8.根据权利要求7所述的装置,其特征在于,所述任意两忆阻器单元的源线相连,且位线上施加相同幅值、极性相反的电压脉冲信号。
9.根据权利要求6所述的装置,其特征在于,还包括:
检测模块,用于检测流经源线的实际电流;
第二计算模块,用于根据所述实际电流计算实际电压和上下电导的至少一个电导差值。
10.根据权利要求9所述的装置,其特征在于,所述第一计算模块,具体用于:
将所述K矩阵中的参数转换为所述至少一个电导差值。
11.一种电子设备,其特征在于,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序,以实现如权利要求1-5任一项所述的神经网络批标准化层硬件实现方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行,以用于实现如权利要求1-5任一项所述的神经网络批标准化层硬件实现方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京超弦存储器研究院;清华大学,未经北京超弦存储器研究院;清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111616640.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种新型密封深沟球轴承
- 下一篇:一种文旅行业服务方法及系统