[发明专利]一种面向卷积神经网络的可重构近似张量乘加单元及方法在审
| 申请号: | 202110034058.8 | 申请日: | 2021-01-12 |
| 公开(公告)号: | CN112732224A | 公开(公告)日: | 2021-04-30 |
| 发明(设计)人: | 刘波;张子龙;张人元;蔡浩;龚宇;杨军 | 申请(专利权)人: | 东南大学 |
| 主分类号: | G06F7/544 | 分类号: | G06F7/544;G06N3/063 |
| 代理公司: | 南京瑞弘专利商标事务所(普通合伙) 32249 | 代理人: | 徐激波 |
| 地址: | 211189 江*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 面向 卷积 神经网络 可重构 近似 张量 单元 方法 | ||
1.一种面向卷积神经网络的可重构近似张量乘加单元,其特征在于,包括依次连接的编码及生成部分积电路、部分积重组电路、部分积阵列加法电路和最终累加电路;
输入n×n张量数据和权重到所述编码及生成部分积电路,编码及生成部分积电路对权重进行编码,并对输入的n×n张量数据每一位进行混合布斯编码操作后生成部分积矩阵,生成的部分积矩阵将被顺序输出到部分积重组电路当中;
所述部分积重组电路将部分积矩阵的相同行放在一起,对部分积矩阵进行重新排列,并生成m个n×n重组部分积阵列,所生成的n×n重组部分积阵列的数量由权重的位数决定,每个n×n行重组部分积阵列依次输出到部分积阵列加法电路当中;
所述部分积阵列加法电路将输入的每个n×n行重组部分积阵列累加,形成m个累加结果,将m个累加结果分别经过移位后形成m个最终部分积向量,所述m个最终部分积向量均为一行部分积向量,m个最终部分积向量经最终累加电路后,最终累加电路的输出即为乘加单元最终的输出结果。
2.根据权利要求1所述的一种面向卷积神经网络的可重构近似张量乘加单元,其特征在于,编码及生成部分积电路通过基-4和基-8混合布斯编码的方式对输入的权重进行编码,对于高位权重,用基-4编码,对于低位权重,用近似的基-8编码,将基-8布斯编码中×3操作修改为×4,在编码电路中引入近似操作;输入的权重经混合编码后生成编码后权重部分积。
3.根据权利要求1所述的一种面向卷积神经网络的可重构近似张量乘加单元,其特征在于,部分积阵列加法电路包括加法树累加电路,加法树累加电路包括加法器。
4.根据权利要求3所述的一种面向卷积神经网络的可重构近似张量乘加单元,其特征在于,还包括似线配置模块,所述加法器为近似加法器,近似加法器用于通过近似线配置模块设置每个n×n重组部分积阵列近似线的位置k,并将每个n×n重组部分积阵列近似相加。
5.根据权利要求4所述的一种面向卷积神经网络的可重构近似张量乘加单元,其特征在于,在近似加法器中,每个n×n重组部分积阵列的部分积均采用扩展符号位后不移位相加的方式,每个n×n重组部分积阵列中,位于近似线后的k位部分积采用或门代替精确全加器的方式,而位于近似线前的17-k位依然采用精确全加器相加,第17-k位部分积的进位来自于近似线后1位的两个部分积通过与门生成。
6.一种利用权利要求5所述面向卷积神经网络的可重构近似张量乘加单元的乘加方法,其特征在于,具体包括如下步骤:
步骤1:一组的n×n张量数据和权重首先经过编码并生成部分积电路,经过权重编码和生成部分积操作后生成n×n的部分积阵列;
步骤2:n×n的部分积阵列经过部分积重组电路,在部分积重组电路中将部分积阵列中同样位于第一行的部分积排列在一起构成一行重组部分积阵列,重组后的部分积将形成m个n×n的部分积阵列,n×n的部分积阵列的数量由权重的位数决定;
步骤3:m个n×n重组部分积阵列依次输入到部分积阵列加法电路中,部分积阵列加法电路包括加法树累加电路,加法树累加电路包括加法器,所述加法器为近似加法器,近似加法器通过近似线配置模块配置每个部分积阵列近似线的位置K;
步骤4:在部分积阵列加法电路中,每个n×n重组部分积阵列中的数据进行不移位相加,对于每个n×n重组部分积阵列中的两行部分积,先扩展符号位,然后通过已配置的近似线进行近似相加;对于每行重组部分积阵列部分积阵列之间,使用树形结构将所有部分积近似累加起来,形成m个累加结果,将m个累加结果分别经过移位后形成m个最终部分积向量;
步骤5:m个最终部分积向量经过最终累加电路,生成最后的乘加结果,该乘加结果即为一组数据和权重对应乘加后的结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东南大学,未经东南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110034058.8/1.html,转载请声明来源钻瓜专利网。





