[发明专利]一种数模混合神经元电路有效

专利信息
申请号: 202010137218.7 申请日: 2020-03-02
公开(公告)号: CN111327317B 公开(公告)日: 2023-03-28
发明(设计)人: 张峰;李淼;赵婷;马春宇 申请(专利权)人: 天津智模科技有限公司
主分类号: H03M1/06 分类号: H03M1/06;H03M1/66
代理公司: 北京轻创知识产权代理有限公司 11212 代理人: 陈振玉
地址: 300450 天津市滨海新区经济技术*** 国省代码: 天津;12
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数模 混合 神经元 电路
【说明书】:

发明涉及神经网络领域,尤其涉及一种数模混合神经元电路,旨在解决现有技术中提高精度时所需电容数量大,占用芯片面积大,芯片成本较高的问题。本发明包括:数据存储器,用于存储激活值;权重存储器,用于存储与激活值一一对应的二值权重值;数据选择电路,用于选择mbit目标激活值的其中4bit;开关电容神经元电路,用于对每一次选择的4bit激活值和mbit目标激活值对应的二值权重值进行卷积操作,得到相应的模拟电压值;锁存电路,用于锁定并存储经加法电路得到的模拟电压值;加法电路,用于对锁存电路中锁存的模拟电压值和当次卷积操作得到的模拟电压值进行加法计算。本发明通过开关电容神经元复用技术,降低了开关电容个数,减小芯片面积,降低成本。

技术领域

本发明涉及神经网络领域,尤其涉及一种数模混合神经元电路。

背景技术

现在神经网络一般采用浮点计算,需要较大的存储空间和计算量,严重阻碍了神经网络在移动端的应用。神经网络量化算法,无需改变网络结构,且对内存需求大大降低,为实现网络终端提供了便利。然而,权重和激活值都进行1bit量化会使得精度损失较大,所以为了提高精度,将权重进行1bit量化,激活值进行定点量化(如4bit、8bit、16bit等)。但是,在对激活值进行定点量化时,由于针对激活值的每一bit位,采用相同的电路结构和不同容值的开关电容,实现N个维度数据的激活值的卷积操作。即:高比特位的容值是次高比特位的双倍,若最低比特位开关电容的容值为Cu,那么第二、三、四比特位的容值分别为:2Cu、4Cu、8Cu,若同时实现N个维度4bit的激活值的卷积操作则需要N*15个容值为Cu的电容。因此,激活值的精度越高,所需要的电容数量越大,这将占用大量芯片面积,使得芯片成本较高。

发明内容

本发明所要解决的技术问题是针对现有技术的不足,提供一种数模混合神经元电路,当权重1bit量化,激活值8bit、16bit或更高精度mbit量化时,采用开关电容神经元复用技术进行卷积操作,从而降低神经元电路中的电容个数,减小芯片面积,降低成本。

本发明解决上述技术问题的技术方案如下:

一种数模混合神经元电路,包括:数据存储器、数据选择电路、权重存储器、开关电容神经元电路、锁存电路和加法电路,其中,

所述数据存储器,用于存储激活值;

所述权重存储器,用于存储与所述激活值一一对应的二值权重值;

所述数据选择电路,用于选择mbit目标激活值的其中4bit,所述mbit目标激活值为所述数据存储器中存储的任一激活值,其中,m=2n,且n≥3;

所述开关电容神经元电路,用于对每一次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作,得到相应的模拟电压值;

所述锁存电路,用于锁定并存储经所述加法电路得到的模拟电压值;

所述加法电路,用于对所述锁存电路中锁存的模拟电压值和当次卷积操作得到的模拟电压值进行加法计算。

在一些优先的实施例中,所述开关电容神经元电路,用于对第1次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作,得到模拟电压值;

所述加法电路,用于对所述模拟电压值和初始模拟电压值进行加法计算得到第一模拟电压值;

所述锁存电路,用于锁定并存储所述第一模拟电压值;

复用所述开关电容神经元电路对第k次选择的4bit激活值和所述mbit目标激活值对应的二值权重值进行卷积操作,得到模拟电压值Vk,其中,k=2,…m/4;

所述加法电路对所述模拟电压值Vk和第k-1次锁存的模拟电压值进行加法计算得到第二模拟电压值,直至k=m/4时输出所述第二模拟电压值;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津智模科技有限公司,未经天津智模科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010137218.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top