[发明专利]计算神经网络的计算装置、板卡、方法及可读存储介质

权利要求书

1.一种根据模板融合单元计算神经网络的计算装置，所述模板融合单元融合所述神经网络的多层，所述计算装置包括多个集群，每个集群包括：

共享存储单元，用以自片外内存载入片上单元图；以及

多个处理器核，每个处理器核包括：

神经元存储单元，用以自所述共享存储单元载入子图，所述子图为所述片上单元图的一部分；以及

运算模块，用以计算所述子图并产生中间结果；

其中，所述中间结果在所述多个处理器核间归约，以产生对应所述片上单元图的计算结果，所述共享存储单元将所述计算结果存回至所述片外内存。

2.根据权利要求1所述的计算装置，其中所述片外内存存储特征图，当所述特征图所需存储空间大于所述共享存储单元的可用空间时，所述片上单元图为所述特征图的一部分。

3.根据权利要求2所述的计算装置，其中所述特征图包括N、H、W、C维度，所述片上单元图是所述特征图在所述N、H、W维度至少其中之一进行特定粒度的拆分。

4.根据权利要求1所述的计算装置，其中所述片外内存存储多个特征图，当所述多个特征图所需存储空间不大于所述共享存储单元的可用空间时，所述片上单元图包括所述多个特征图。

5.根据权利要求4所述的计算装置，其中所述子图为所述多个特征图其中之一。

6.根据权利要求1所述的计算装置，其中所述片上单元图包括N、H、W、C维度，所述子图是所述片上单元图在所述N、H、W维度至少其中之一进行特定粒度的拆分。

7.根据权利要求1所述的计算装置，其中每个集群还包括广播总线，所述多个处理器核其中之一根据所述多个处理器核的数量拆分所述片上单元图，所述广播总线传送每个处理器核的中间结果至下一个处理器核，所述处理器核将前一个处理器核的中间结果与所存储相对应的中间结果进行计算，以产生所述计算结果。

8.一种根据模板融合单元计算神经网络的集成电路装置，包括：

片外内存，用以存储所述神经网络的特征图；

处理装置，用以根据融合策略融合所述神经网络的多层，以产生所述模板融合单元，并拆分所述特征图成片上单元图；以及

计算装置，包括多个集群，每个集群包括：

共享存储单元，用以载入所述片上单元图；

多个处理器核，每个处理器核包括：

神经元存储单元，用以自所述共享存储单元载入子图，所述子图为所述片上单元图的一部分；

运算模块，用以计算所述子图并产生中间结果；

其中，所述中间结果在所述多个处理器核间归约，以产生对应所述片上单元图的计算结果，所述共享存储单元将所述计算结果存回至所述片外内存。

9.根据权利要8所述的集成电路装置，其中当所述处理装置判断所述特征图所需存储空间大于所述共享存储单元的可用空间时，将所述特征图拆分为所述片上单元图。

10.根据权利要求9所述的集成电路装置，其中所述特征图包括N、H、W、C维度，所述处理装置将所述特征图在所述N、H、W维度至少其中之一进行特定粒度的拆分。

11.根据权利要求8所述的集成电路装置，其中当处理装置判断所述特征图所需存储空间不大于所述共享存储单元的可用空间时，所述片上单元图包括多个特征图。

12.根据权利要求11所述的集成电路装置，其中所述子图为所述多个片上单元图其中之一。

13.根据权利要求9所述的集成电路装置，其中所述片上单元图包括N、H、W、C维度，所述多个处理器核其中之一将所述片上单元图在所述N、H、W维度至少其中之一进行特定粒度的拆分成所述子图。