[发明专利]一种概率计算神经元计算单元和构造方法有效
申请号: | 202110326276.9 | 申请日: | 2021-03-26 |
公开(公告)号: | CN112949833B | 公开(公告)日: | 2022-09-06 |
发明(设计)人: | 李洪革;陈宇昊;陈则非 | 申请(专利权)人: | 北京航空航天大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063 |
代理公司: | 北京康盛知识产权代理有限公司 11331 | 代理人: | 董娣 |
地址: | 100083*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 概率 计算 神经元 单元 构造 方法 | ||
本申请公开了一种概率计算神经元构造方法,在每一个计算周期,对输入概率脉冲串中的脉冲进行计数,并以上一计算周期膜电位值的衰减值作为基础值累加脉冲数量值,产生当前计算周期的膜电位值;比较当前计算周期的膜电位值和门限值,产生激活信号;比较权值和随机数,进行概率脉冲编码,生成原始概率脉冲串;所述原始概率脉冲串与当前计算周期的激活信号值相乘,产生输出概率脉冲串。本申请还提出实现以上方法的脉冲神经元计算单元及一种双神经元计算单元,解决电路复杂性的问题。
技术领域
本申请涉及集成电路及其AI芯片技术领域,尤其涉及一种概率计算的脉冲神经元的构造方法及由其构成的计算单元。
背景技术
现代深度学习神经网络,主要是基于卷积运算的神经网络系统,即卷积神经网络(CNN)。通过多层神经网络处理,逐渐将初始的“低层”特征表示转化为“高层”特征表示,用简单模型即可完成复杂的分类、识别等学习任务。近年来,虽然计算机计算能力有所提升,但随着问题复杂度的提高,卷积神经网络需要更多层数的网络才能解决问题,这导致硬件开销与功耗大幅增加。为降低网络运行对功耗和硬件资源的需求,研究人员提出了脉冲神经网络(SNN)这一概念。
脉冲神经网络模仿人脑神经元的工作方式,利用神经元基于时间/空间的峰电位串传递信息,而非二进制编码的数据。然而目前脉冲神经网络主要通过软件的实现方式实现,难以在硬件层面上通过数字电路的方式实现,限制了应用场景。因此,脉冲神经网络的设计需要考虑高效简单的硬件实现方案。
脉冲神经元间传递的脉冲可用概率计算的方式进行计算,但将二进制数字转化为脉冲的步骤依然需要大量硬件资源。
发明内容
为解决脉冲神经网络硬件电路难以实现的问题,本申请提出一种概率计算神经元计算单元和构造方法。
本申请实施例提出一种概率计算神经元构造方法,包括以下步骤:
在每一个计算周期,对输入概率脉冲串中的脉冲进行计数,并以上一计算周期膜电位值的衰减值作为基础值累加脉冲数量值,产生当前计算周期的膜电位值;
计算当前计算周期的膜电位值的衰减值,用于下一计算周期的基础值;
比较当前计算周期的膜电位值和门限值,当膜电位值大于门限值时,产生的激活信号1,当膜电位值小于门限值时,产生的激活信号为0;
在相同位宽条件下,比较权值和随机数,进行概率脉冲编码,生成原始概率脉冲串;
所述原始概率脉冲串与当前计算周期的激活信号值相乘,产生输出概率脉冲串。
优选地,所述衰减值为1/2。
优选地,所述膜电位值用二进制数表示。将当前周期的所述膜电位值的二进制信号向右移位,作为下一周期膜电位值的基础。
本申请实施例还提出一种概率计算神经元计算单元,用于实现本申请任意一项实施例所述方法,包括脉冲计数器、移位寄存器、输入比较器、脉冲生成器。
所述脉冲计数器,用于在每一个计算周期,对输入概率脉冲串中的脉冲进行计数,并以上一计算周期膜电位值的衰减值作为基础值累加脉冲数量值,产生当前计算周期的膜电位值。
所述移位寄存器,用于对当前计算周期的膜电位值的二进制数向右移位输出,产生用于下一计算周期的基础值。
所述输入比较器,用于比较所述当前计算周期的膜电位值和门限值,生成所述激活信号。
所述脉冲生成器,用于根据权值和激活信号,生成所述输出概率脉冲串。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学,未经北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110326276.9/2.html,转载请声明来源钻瓜专利网。