[发明专利]一种片上学习神经形态芯片及训练方法在审
申请号: | 202110953844.8 | 申请日: | 2021-08-19 |
公开(公告)号: | CN113672552A | 公开(公告)日: | 2021-11-19 |
发明(设计)人: | 陈虹;张吉霖 | 申请(专利权)人: | 清华大学 |
主分类号: | G06F15/78 | 分类号: | G06F15/78;G06N3/063 |
代理公司: | 北京德琦知识产权代理有限公司 11018 | 代理人: | 谢安昆;宋志强 |
地址: | 100084*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 学习 神经 形态 芯片 训练 方法 | ||
本发明提供了一种片上学习神经形态芯片及训练方法,技术方案为:数据缓存器输出训练样本到神经网络;神经网络对输入的训练样本进行训练,将训练过程中产生的中间脉冲输入到脉冲缓存器,使得脉冲缓存器在训练状态机控制片上学习神经形态芯片进出训练窗口后保存神经网络输入的中间脉冲,且在离开训练窗口时停止保存所述神经网络输入的中间脉冲,并将保存的中间脉冲输入到权重更新模块;同时神经网络还将训练得到的结果脉冲输出到误差计算模块,以使误差计算模块根据所述结果脉冲计算误差并输出误差计算结果到权重更新模块;从而权重更新模块根据所述中间脉冲和所述误差计算结果计算权重变化量,并据此对神经网络进行权重更新。本发明能够降低训练能耗。
技术领域
本发明涉及集成电路设计技术领域,特别涉及一种片上学习神经形态芯片及训练方法。
背景技术
随着神经网络的发展,越来越多的神经形态芯片被用在了日常生活之中。与只进行识别的神经形态芯片相比,具有片上学习功能的神经形态芯片(即片上学习神经形态芯片)具有以下显著特点:
高精度:片上学习神经形态芯片可以根据实际的使用环境对神经网络权重进行调整,从而得到更高的准确率;
高灵活性:用户可以在片上学习神经形态芯片上进行自定义,创建新的识别类别,因此具有和等显著特点。
然而,由于片上学习神经形态芯片需要付出额外的能耗进行训练,因此能耗较高。
发明内容
有鉴于此,本发明的目的在于提供了一种片上学习神经形态芯片及训练方法,能够降低训练能耗。
为了达到上述目的,本发明提供了如下技术方案:
一种片上学习神经形态芯片,包括:数据缓存器、训练状态机、神经网络、脉冲缓存器、误差计算模块、和权重更新模块;
所述数据缓存器,用于缓存训练样本,输出缓存的训练样本到神经网络;
所述神经网络,用于对从数据缓存器输入的训练样本进行训练,将训练过程中产生的中间脉冲输出到脉冲缓存器,将训练得到的结果脉冲输出到误差计算模块;
所述训练状态机,用于控制片上学习神经形态芯片进入和离开训练窗口;
所述脉冲缓存器,用于在片上学习神经形态芯片进入训练窗口后,保存所述神经网络输入的中间脉冲;在片上学习神经形态芯片离开训练窗口时,停止保存所述神经网络输入的中间脉冲,并将保存的中间脉冲输出到权重更新模块;
所述误差计算模块,用于根据所述神经网络输入的结果脉冲计算误差,将误差计算结果输出到权重更新模块;
所述权重更新模块,用于根据所述脉冲缓存器输出的中间脉冲和所述误差计算模块输入的误差计算结果计算权重变化量,根据权重变化量对所述神经网络进行权重更新。
一种片上学习神经形态芯片的训练方法,所述片上学习神经形态芯片包括:数据缓存器、训练状态机、神经网络、脉冲缓存器、误差计算模块、和权重更新模块;该方法包括:
数据缓存器将缓存的训练样本输入到神经网络;
神经网络对输入的训练样本进行训练,将训练过程中产生的中间脉冲输出到脉冲缓存器,以使脉冲缓存器在训练状态机控制片上学习神经形态芯片进入训练窗口后,保存神经网络输入的中间脉冲,并在训练状态机控制片上学习神经形态芯片离开训练窗口时,停止保存所述神经网络输入的中间脉冲,并将保存的中间脉冲输出到权重更新模块;同时神经网络还将训练得到的结果脉冲输出到误差计算模块,以使误差计算模块根据所述神经网络输入的结果脉冲计算误差,将误差计算结果输出到权重更新模块;
权重更新模块根据所述脉冲缓存器输出的中间脉冲和所述误差计算模块输入的误差计算结果计算权重变化量,根据权重变化量对所述神经网络进行权重更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110953844.8/2.html,转载请声明来源钻瓜专利网。