[发明专利]处理单元、相关装置和张量运算方法

权利要求书

1.一种处理单元，包括：

多个计算单元，构成n行m列的计算矩阵，n和m是非零的自然数；

计算单元控制器，用于在所述处理单元所处的外部环境带宽满足预定带宽要求的情况下，控制所述计算矩阵以组播数据输入模式工作，数据按列广播到对应列的所有计算单元，按行广播到对应行的所有计算单元，在所述外部环境带宽不满足预定带宽要求的情况下，控制所述计算矩阵以脉动数据输入模式工作，计算单元从前一列同一行的计算单元以及同一列前一行的计算单元接收数据，以支持张量运算。

2.根据权利要求1所述的处理单元，其中，所述预定带宽要求包括：

所述外部环境带宽大于预定环境带宽阈值，所述预定环境带宽阈值是在所述组播数据输入模式下，在一个时钟周期需要输入所述计算矩阵的最大数据总量。

3.根据权利要求1或2所述的处理单元，其中，所述处理单元位于加速单元内，所述加速单元与调度单元共同位于计算装置内，所述加速单元接收所述调度单元的调度执行张量运算，所述外部环境带宽是从所述调度单元接收的指令获得的。

4.根据权利要求1或2所述的处理单元，还包括：监测单元，用于监测所述处理单元所处的外部环境带宽。

5.根据权利要求4所述的处理单元，其中，所述监测单元实时监测所述外部环境带宽，所述计算单元控制器根据实时监测的所述外部环境带宽，使所述计算矩阵在所述脉动数据输入模式和所述组播数据输入模式之间切换。

6.根据权利要求1所述的处理单元，其中，所述计算单元包括：

第一寄存器，用于存储从前一列同一行的计算单元传递的数据；

第二寄存器，用于存储从同一列前一行的计算单元传递的数据；

乘法器，用于对接收的列序号和行序号相同的元素进行相乘；

累加器，用于将乘法器相乘的结果累加到之前的累加结果中；

第三寄存器，用于存储所述累加结果。

7.根据权利要求1或2所述的处理单元，其中，在所述脉动数据输入模式中，所述计算矩阵中的计算单元通过第一输入线从前一列同一行的计算单元接收数据，通过第二输入线从同一列前一行的计算单元接收数据。

8.根据权利要求1或2所述的处理单元，其中，在所述组播数据输入模式中，所述计算矩阵中同一列的计算单元共同连接到第一列总线，同一列的各计算单元通过所述第一列总线分别接收数据；所述计算矩阵中同一行的计算单元共同连接到第一行总线，同一行的各计算单元通过所述第一行总线分别接收数据。

9.一种加速单元核，包括根据权利要求1-8中任一个所述的处理单元。

10.一种加速单元，包括：

根据权利要求9所述的加速单元核；

向所述加速单元核分配张量计算任务的命令处理器。

11.一种物联网装置，包括：

根据权利要求10所述的加速单元；

调度单元，用于向所述加速单元分配张量计算任务。

12.一种片上系统，包括根据权利要求1-8中任一个所述的处理单元。

13.一种张量运算方法，包括：

获取多个计算单元所处的外部环境带宽，所述多个计算单元构成n行m列的计算矩阵，n和m是非零的自然数；

基于所述外部环境带宽，在所述计算矩阵所处的外部环境带宽满足预定带宽要求的情况下，控制所述计算矩阵以组播数据输入模式工作，数据按列广播到对应列的所有计算单元，按行广播到对应行的所有计算单元，在所述外部环境带宽不满足预定带宽要求的情况下，控制所述计算矩阵以脉动数据输入模式工作，计算单元从前一列同一行的计算单元以及同一列前一行的计算单元接收数据，以支持张量运算。