[发明专利]数据处理装置及数据处理方法在审
申请号: | 202110918726.3 | 申请日: | 2021-08-11 |
公开(公告)号: | CN113592081A | 公开(公告)日: | 2021-11-02 |
发明(设计)人: | 吴华强;周颖;高滨;唐建石;钱鹤 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/06 | 分类号: | G06N3/06;G06N3/063 |
代理公司: | 北京市柳沈律师事务所 11105 | 代理人: | 彭久云 |
地址: | 10008*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 装置 方法 | ||
一种数据处理装置及数据处理方法。该数据处理装置用于神经网络的数据处理,神经网络包括至少一个第一处理层和至少一个第二处理层,数据处理装置包括:第一忆阻器阵列,包括阵列排布的多个第一忆阻器单元,且被配置为存储对应于至少一个第一处理层的权重值矩阵;第二忆阻器阵列,包括阵列排布的多个第二忆阻器单元,且被配置为存储对应于至少一个第二处理层的权重值矩阵;其中,多个第一忆阻器单元的数据保持性优于多个第二忆阻器单元的数据保持性,和/或多个第二忆阻器单元的耐久性优于多个第一忆阻器单元的耐久性。该数据处理装置采用两种具有不同的耐久性及数据保持性的忆阻器单元,便于对忆阻器单元有不同需求的神经网络权重层的灵活实现。
技术领域
本公开的实施例涉及一种数据处理装置及数据处理方法。
背景技术
神经网络给智慧出行、智能医疗等众多领域带来了众多变化。目前神经网络的主要硬件实现平台仍旧是基于传统的冯诺依曼架构的CPU和GPU,基于忆阻器的存算一体技术有望突破经典计算系统的冯诺依曼架构瓶颈,带来硬件算力、能效的爆发式增长,进一步促进人工智能的发展和落地,是最具潜力的下一代硬件芯片技术之一。
发明内容
本公开至少一实施例提供一种数据处理装置,用于神经网络的数据处理,神经网络包括至少一个第一处理层和至少一个第二处理层,至少一个第一处理层相对于至少一个第二处理层更靠近神经网络的输入端,数据处理装置包括:第一忆阻器阵列,包括阵列排布的多个第一忆阻器单元,且被配置为存储对应于至少一个第一处理层的权重值矩阵;第二忆阻器阵列,包括阵列排布的多个第二忆阻器单元,且被配置为存储对应于至少一个第二处理层的权重值矩阵;其中,多个第一忆阻器单元的数据保持性优于多个第二忆阻器单元的数据保持性,和/或,多个第二忆阻器单元的耐久性优于多个第一忆阻器单元的耐久性。
例如,在本公开至少一实施例提供的数据处理装置中,多个第一忆阻器单元和/或多个第二忆阻器单元为阻变式存储器(RRAM)。
例如,在本公开至少一实施例提供的数据处理装置中,多个第一忆阻器单元和多个第二忆阻器单元制备在同一半导体衬底上。
例如,在本公开至少一实施例提供的数据处理装置中,第一忆阻器单元中的阻变式存储器器件具有TiN/Ta2O5/TaOx/TiN的材料结构;和/或,第二忆阻器单元中的阻变式存储器器件具有TiN/HfO2/Ti/TiN的材料结构。
例如,本公开至少一实施例提供的数据处理装置还包括控制驱动电路,其中,控制驱动电路配置为,对多个第一忆阻器单元存储的权值数据和/或多个第二忆阻器单元的权值数据分别进行设置。
例如,在本公开至少一实施例提供的数据处理装置中,至少一个第二处理层包括神经网络的最后一个处理层。
本公开至少一实施例提供一种数据处理方法,应用于本公开至少一实施例提供的数据处理装置,数据处理方法包括:将对应于至少一个第一处理层中的权重值矩阵映射到第一忆阻器阵列中;将对应于至少一个第二处理层中的权重值矩阵映射到第二忆阻器阵列中。
例如,本公开至少一实施例提供的数据处理方法还包括:对至少一个第二处理层中至少一个权重值进行修正,将修正后的至少一个第二处理层中的权重值映射到第二忆阻器阵列中。
例如,在本公开至少一实施例提供的数据处理方法中,对至少一个第二处理层中至少一个权重值进行修正,将修正后的至少一个第二处理层中的权重值映射到第二忆阻器阵列中,包括:获取待训练图像和待训练图像对应的标准输出值;利用神经网络对待训练图像进行处理,以得到训练结果;基于训练结果和标准输出值,计算神经网络的损失值;以及基于损失值对至少一个第二处理层中至少一个权重值进行修正,将修正后的至少一个第二处理层中的权重值映射到第二忆阻器阵列中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110918726.3/2.html,转载请声明来源钻瓜专利网。