[发明专利]假定张量处理在审
| 申请号: | 202110324382.3 | 申请日: | 2021-03-26 |
| 公开(公告)号: | CN113495716A | 公开(公告)日: | 2021-10-12 |
| 发明(设计)人: | V·S·拉梅什 | 申请(专利权)人: | 美光科技公司 |
| 主分类号: | G06F7/527 | 分类号: | G06F7/527;G06F7/544 |
| 代理公司: | 北京律盟知识产权代理有限责任公司 11287 | 代理人: | 王龙 |
| 地址: | 美国爱*** | 国省代码: | 暂无信息 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 假定 张量 处理 | ||
1.一种用于假定张量处理的方法,其包括:
至少部分地基于与彼此耦合的多个乘累加器MAC单元(226-1,226-2,226-3,226-N)的递归运算相关联的阈值带宽比或阈值时延或这两者,以矩阵组织多个通用数字unum或假定位串(331,431);
通过所述MAC单元(226-1,226-2,226-3,226-N)接收组织成所述矩阵的所述多个unum或假定位串(331,431);
使用所述MAC单元(226-1,226-2,226-3,226-N)执行多个相应递归运算,其中所述相应递归运算的迭代使用至少一个位串执行,所述至少一个位串与用于所述相应递归运算的先前迭代的位串相同;以及
在耦合到所述多个MAC单元(226-1,226-2,226-3,226-N)当中的相应MAC单元(226-1,226-2,226-3,226-N)的相应寄存器(227-1,227-2,227-3,227-N)中存储所述多个相应递归运算的迭代结果。
2.根据权利要求1所述的方法,其进一步包括同时执行所述多个递归运算的至少一部分。
3.根据权利要求1所述的方法,其中所述多个MAC单元(226-1,226-2,226-3,226-N)包括配置成执行所述多个相应递归运算的电路系统,并且驻存在专用集成电路或现场可编程门阵列上。
4.根据权利要求1至3中任一权利要求所述的方法,其中通过耦合到所述多个MAC单元当中的相应MAC单元的相应数据仲裁器执行所述组织所述多个unum或假定位串(331,431)的操作。
5.根据权利要求1至3中任一权利要求所述的方法,其中所述多个MAC单元(226-1,226-2,226-3,226-N)相对于彼此以网格构造组织。
6.根据权利要求1至3中任一权利要求所述的方法,其进一步包括:
通过所述多个MAC单元(226-1,226-2,226-3,226-N)接收断言到所述相应MAC单元(226-1,226-2,226-3,226-N)的沿着所述多个MAC单元的第一横向尺寸驻存的第一物理部分的命令;以及
通过所述相应MAC单元(226-1,226-2,226-3,226-N)的沿着所述多个MAC单元(226-1,226-2,226-3,226-N)的第二横向尺寸驻存的第二物理部分接收所述多个unum或假定位串(331,431),其中所述第一横向尺寸和所述第二横向尺寸彼此正交。
7.根据权利要求1至3中任一权利要求所述的方法,其进一步包括通过由所述多个MAC单元(226-1,226-2,226-3,226-N)当中的不同MAC单元(226-1,226-2,226-3,226-N)执行与所述多个相应递归运算相关联的子运算来执行所述多个相应递归运算。
8.根据权利要求1至3中任一权利要求所述的方法,其进一步包括使用至少一个相同unum或假定位串(331,431)作为所述多个相应递归运算的多个递归的操作数。
9.一种用于假定张量处理的设备,其包括:
假定乘累加器MAC块(124,224),其包括多个MAC单元(226-1,226-2,226-3,226-N),所述多个MAC单元以网格构造组织且配置成:
经由沿着所述假定MAC块(124,224)的第一横向尺寸驻存的接口(216-1,216-M)接收命令,所述命令是使用组织成矩阵的通用数字或假定位串(331,431)执行相应递归运算;
沿着所述假定MAC块(124,224)的第二横向尺寸接收所述通用数字或假定位串(331,431),所述第二横向尺寸大体上正交于所述第一横向尺寸;以及
使用接收到的通用数字或假定位串(331,431)执行所述相应递归运算,其中所述相应递归运算的迭代使用至少一个位串执行,所述至少一个位串与用于所述相应递归运算的先前迭代的位串相同。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于美光科技公司,未经美光科技公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110324382.3/1.html,转载请声明来源钻瓜专利网。





