[发明专利]神经网络加速器

权利要求书

1.一种用于利用输入稀疏性的神经网络加速器瓦片，所述瓦片限定权重通道集合和激活通道集合，每个权重通道对应于激活通道，所述瓦片包括：

权重存储器，所述权重存储器用于为所述权重通道集合中的每个权重通道供应权重和权重选择元数据；

激活选择单元，所述激活选择单元用于接收输入激活值集合并重排所述输入激活值集合以向每个激活通道供应重排的激活值集合；

多路复用器集合，所述多路复用器集合包括每对激活通道和权重通道至少一个多路复用器，每个多路复用器被配置为基于所述权重通道权重选择元数据针对所述激活通道从重排的激活值的激活通道集合选择组合激活值；以及

组合单元集合，所述组合单元集合包括每个多路复用器至少一个组合单元，每个组合单元被配置为将所述激活通道组合值与所述权重通道权重组合以输出权重通道乘积。

2.根据权利要求1所述的瓦片，所述瓦片还包括激活存储器，所述激活存储器用于将所述输入激活值集合供应给所述激活选择单元。

3.根据权利要求1所述的瓦片，其中所述多路复用器集合中的每个多路复用器被配置为从所述对应的重排的激活值集合和从附加的通道激活值集合中选择所述组合激活，所述附加的通道激活值集合由至少一个附加激活通道的至少一个重排的激活值形成。

4.根据权利要求1所述的瓦片，所述瓦片还包括加法器树，所述加法器树用于接收至少两个八通道乘积。

5.根据权利要求1所述的瓦片，其中所述权重通道集合的所述权重通道权重限定至少一个神经网络过滤器。

6.根据权利要求1所述的瓦片，其中所述组合单元是乘法器、加法器和移位器中的一者。

7.一种神经网络加速器，所述神经网络加速器包括根据权利要求1所述的至少两个瓦片。

8.根据权利要求1所述的瓦片，其中每个重排的激活值集合包括标准权重激活值和至少一个先行激活值。

9.根据权利要求1所述的瓦片，所述瓦片在激活效率利用加速器结构上实现。

10.根据权利要求1所述的瓦片，其中初始激活值集合是激活位。

11.根据权利要求1所述的瓦片，其中所述初始激活值集合是2的有符号幂。

12.根据权利要求3所述的瓦片，其中所述多路复用器集合是具有统一大小的多路复用器集合。

13.根据权利要求12所述的瓦片，其中所述统一大小是2的幂。

14.根据权利要求13所述的瓦片，其中所述重排的激活值集合的大小大于所述附加通道激活值集合的大小。

15.根据权利要求12所述的瓦片，其中所述重排的激活值集合和所述附加的通道激活值集合用于激活值的组合集合，并且所述激活值的组合集合包含8个激活。

16.根据权利要求3所述的瓦片，其中所述附加的通道激活值集合由来自至少两个附加的激活通道中的每一者的至少一个重排的激活值形成。

17.根据权利要求16所述的瓦片，其中所述至少两个附加的激活通道是非连续的激活通道。

18.根据权利要求1所述的瓦片，其中所述瓦片被配置为接收作为至少一个打包的激活值集合的所述输入激活值集合，所述至少一个打包的激活值集合逐位存储至由精度值限定的所需精度，所述瓦片被配置为解开所述至少一个打包的激活值集合。