[发明专利]数据处理装置及数据处理方法在审
申请号: | 202110918726.3 | 申请日: | 2021-08-11 |
公开(公告)号: | CN113592081A | 公开(公告)日: | 2021-11-02 |
发明(设计)人: | 吴华强;周颖;高滨;唐建石;钱鹤 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/06 | 分类号: | G06N3/06;G06N3/063 |
代理公司: | 北京市柳沈律师事务所 11105 | 代理人: | 彭久云 |
地址: | 10008*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 装置 方法 | ||
1.一种数据处理装置,用于神经网络的数据处理,所述神经网络包括至少一个第一处理层和至少一个第二处理层,所述至少一个第一处理层相对于所述至少一个第二处理层更靠近所述神经网络的输入端,
所述数据处理装置包括:
第一忆阻器阵列,包括阵列排布的多个第一忆阻器单元,且被配置为存储对应于所述至少一个第一处理层的权重值矩阵;
第二忆阻器阵列,包括阵列排布的多个第二忆阻器单元,且被配置为存储对应于所述至少一个第二处理层的权重值矩阵;
其中,所述多个第一忆阻器单元的数据保持性优于所述多个第二忆阻器单元的数据保持性,和/或,
所述多个第二忆阻器单元的耐久性优于所述多个第一忆阻器单元的耐久性。
2.根据权利要求1所述的数据处理装置,其中,所述多个第一忆阻器单元和/或所述多个第二忆阻器单元为阻变式存储器(RRAM)。
3.根据权利要求1所述的数据处理装置,其中,所述多个第一忆阻器单元和所述多个第二忆阻器单元制备在同一半导体衬底上。
4.根据权利要求2所述的数据处理装置,其中,所述第一忆阻器单元中的阻变式存储器器件具有TiN/Ta2O5/TaOx/TiN的材料结构;和/或,所述第二忆阻器单元中的阻变式存储器器件具有TiN/HfO2/Ti/TiN的材料结构。
5.根据权利要求1所述的数据处理装置,还包括控制驱动电路,其中,所述控制驱动电路配置为,对所述多个第一忆阻器单元存储的权值数据和/或所述多个第二忆阻器单元的权值数据分别进行设置。
6.根据权利要求1所述的数据处理装置,其中,所述至少一个第二处理层包括所述神经网络的最后一个处理层。
7.一种数据处理方法,应用于如权利要求1-6任一项所述的数据处理装置,所述数据处理方法包括:
将对应于所述至少一个第一处理层中的权重值矩阵映射到所述第一忆阻器阵列中;
将对应于所述至少一个第二处理层中的权重值矩阵映射到所述第二忆阻器阵列中。
8.根据权利要求7所述的数据处理方法,还包括:
对所述至少一个第二处理层中至少一个权重值进行修正,将修正后的所述至少一个第二处理层中的权重值映射到所述第二忆阻器阵列中。
9.根据权利要求8所述的数据处理方法,其中,对所述至少一个第二处理层中至少一个权重值进行修正,将修正后的所述至少一个第二处理层中的权重值映射到所述第二忆阻器阵列中,包括:
获取待训练图像和所述待训练图像对应的标准输出值;
利用所述神经网络对所述待训练图像进行处理,以得到训练结果;
基于所述训练结果和所述标准输出值,计算所述神经网络的损失值;以及
基于所述损失值对所述至少一个第二处理层中至少一个权重值进行修正,将修正后的所述至少一个第二处理层中的权重值映射到所述第二忆阻器阵列中。
10.根据权利要求9所述的数据处理方法,其中,在对所述至少一个第二处理层中的权重值进行修正的过程中,所述第一忆阻器单元的忆阻器的阻值保持不变。
11.根据权利要求7-10中的任一项所述的数据处理方法,还包括:
对目标神经网络进行预训练,以得到训练后或训练中的所述神经网络,由此获得用于所述至少一个第一处理层的权重值矩阵和所述至少一个第二处理层中的权重值矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110918726.3/1.html,转载请声明来源钻瓜专利网。