[发明专利]一种片上学习神经形态芯片及训练方法在审
| 申请号: | 202110953844.8 | 申请日: | 2021-08-19 | 
| 公开(公告)号: | CN113672552A | 公开(公告)日: | 2021-11-19 | 
| 发明(设计)人: | 陈虹;张吉霖 | 申请(专利权)人: | 清华大学 | 
| 主分类号: | G06F15/78 | 分类号: | G06F15/78;G06N3/063 | 
| 代理公司: | 北京德琦知识产权代理有限公司 11018 | 代理人: | 谢安昆;宋志强 | 
| 地址: | 100084*** | 国省代码: | 北京;11 | 
| 权利要求书: | 查看更多 | 说明书: | 查看更多 | 
| 摘要: | |||
| 搜索关键词: | 一种 学习 神经 形态 芯片 训练 方法 | ||
1.一种片上学习神经形态芯片,其特征在于,所述片上学习神经形态芯片包括:数据缓存器、训练状态机、神经网络、脉冲缓存器、误差计算模块、和权重更新模块;
所述数据缓存器,用于缓存训练样本,输出缓存的训练样本到神经网络;
所述神经网络,用于对从数据缓存器输入的训练样本进行训练,将训练过程中产生的中间脉冲输出到脉冲缓存器,将训练得到的结果脉冲输出到误差计算模块;
所述训练状态机,用于控制片上学习神经形态芯片进入和离开训练窗口;
所述脉冲缓存器,用于在片上学习神经形态芯片进入训练窗口后,保存所述神经网络输入的中间脉冲;在片上学习神经形态芯片离开训练窗口时,停止保存所述神经网络输入的中间脉冲,并将保存的中间脉冲输出到权重更新模块;
所述误差计算模块,用于根据所述神经网络输入的结果脉冲计算误差,将误差计算结果输出到权重更新模块;
所述权重更新模块,用于根据所述脉冲缓存器输出的中间脉冲和所述误差计算模块输入的误差计算结果计算权重变化量,根据权重变化量对所述神经网络进行权重更新。
2.根据权利要求1所述的片上学习神经形态芯片,其特征在于,所述片上学习神经形态芯片还包括跳过训练模块;
所述脉冲缓存器,将保存的中间脉冲输出到权重更新模块时,进一步将保存的中间脉冲输出到跳过训练模块;
所述误差计算模块,将误差计算结果输出到权重更新模块时,进一步将误差计算结果输出到跳过训练模块;
所述跳过训练模块,用于根据所述脉冲缓存器输出的中间脉冲和所述误差计算模块输入的误差计算结果判断是否跳过本次权重更新,如果是,则输出跳过指示到权重更新模块,否则,输出更新指示到权重更新模块;
所述权重更新模块,用于接收到所述跳过训练模块的更新指示时,根据所述脉冲缓存器输出的中间脉冲和所述误差计算模块输入的误差计算结果计算权重变化量,根据权重变化量对所述神经网络进行权重更新;接收到所述跳过训练模块的跳过指示时,禁止执行根据所述脉冲缓存器输出的中间脉冲和所述误差计算模块输入的误差计算结果计算权重变化量,根据权重变化量对所述神经网络进行权重更新的操作。
3.根据权利要求1或2所述的片上学习神经形态芯片,其特征在于,
所述训练状态机,控制片上学习神经形态芯片进入和离开训练窗口,包括:
接收到指示进入训练窗口的外部信号时,控制片上学习神经形态芯片进入训练窗口;
接收到指示离开训练窗口的外部信号时,控制片上学习神经形态芯片离开训练窗口;
或者,
所述数据缓存器,输出缓存的训练样本到神经网络之前,进一步包括:如果检测出该训练样本携带有进入训练窗口的标识,则输出进入训练窗口指示到所述训练状态机,如果检测出该训练样本携带有离开入训练窗口的标识,则输出离开训练窗口指示到所述训练状态机;
所述训练状态机,控制片上学习神经形态芯片进入和离开训练窗口,包括:
接收到所述数据缓存器输入的进入训练窗口指示时,控制片上学习神经形态芯片进入训练窗口;
接收到所述数据缓存器输入的离开训练窗口指示时,控制片上学习神经形态芯片离开训练窗口。
4.根据权利要求1或2所述的片上学习神经形态芯片,其特征在于,
所述神经网络包括输出层,所述输出层包括多个输出神经元;所述结果脉冲包括所述神经网络的每个输出神经元在片上学习神经形态芯片的训练窗口内输出的结果脉冲;
所述误差计算模块,根据所述神经网络输入的结果脉冲计算误差,包括:
针对所述神经网络的每一输出神经元,执行以下操作:
当确定该输出神经元是目标神经元时,如果该输出神经元在片上学习神经形态芯片的训练窗口内输出的结果脉冲数目为0,则确定该输出神经元产生的误差是1,否则,确定该输出神经元产生的误差是0;
当确定该输出神经元不是目标神经元时,如果该输出神经元在片上学习神经形态芯片的训练窗口内输出的结果脉冲数目为0,则确定该输出神经元产生的误差是0,否则,确定该输出神经元产生的误差是-1。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110953844.8/1.html,转载请声明来源钻瓜专利网。





