[发明专利]执行卷积神经网络中的运算的方法和装置

权利要求书

1.一种执行卷积神经网络中的运算的方法，包括：

在深度和核的数量之中的至少一个维度上拆分所述卷积神经网络中的选定层的权重参数以获得包含多个运算参数的运算参数阵列，所述运算参数阵列的每行的所有运算参数来自所述权重参数的核的集合的同一子集并且没有相同的通道，并且每列的每个运算参数分别来自所述权重参数的核的集合的不同子集并且具有相同的一个或多个通道；

分别使用所述运算参数阵列中的每个运算参数，对所述选定层的输入数据中的与所使用的运算参数的通道相对应的通道上的数据执行所述选定层的运算，以获得包括多个部分运算结果的部分运算结果阵列；以及

基于所述部分运算结果阵列，生成所述选定层的一个或多个输出数据；

其中，拆分权重参数包括：

在所述权重参数的核的数量大于或等于第一预定数量的情况下拆分所述权重参数，使得所获得的运算参数阵列的行数等于第一预定数量的倍数，所述第一预定数量由用于处理卷积神经网络中的运算的处理器的数量来确定。

2.根据权利要求1所述的方法，其中，拆分权重参数包括：

在所述权重参数的大小超出第一阈值的情况下拆分所述权重参数，使得所获得的运算参数阵列中的每个运算参数的大小均小于或等于所述第一阈值。

3.根据权利要求1所述的方法，其中，拆分权重参数包括：

在所述权重参数的核的数量超出第二阈值的情况下拆分所述权重参数，使得所获得的运算参数阵列中的每个运算参数的核的数量均小于或等于所述第二阈值。

4.根据权利要求1所述的方法，其中，拆分权重参数包括：

在所述权重参数的通道的数量超出第三阈值的情况下拆分所述权重参数，使得所获得的运算参数阵列中的每个运算参数的通道的数量均小于或等于所述第三阈值。

5.根据权利要求1所述的方法，其中，拆分权重参数包括：

在所述权重参数的通道的数量大于或等于第二预定数量的情况下拆分所述权重参数，使得所获得的运算参数阵列的列数等于所述第二预定数量的倍数。

6.根据权利要求1所述的方法，其中，拆分权重参数包括：

如果所述选定层接收到多个部分输入数据，任何两个部分输入数据均不具有相同的通道，并且所述多个部分输入数据的集合对应于所述选定层的完整的输入数据，则根据每个部分输入数据拆分所述权重参数，使得所获得的运算参数阵列的列数等于所述多个部分输入数据的数量，并且每列的所有运算参数与所述多个部分输入数据中的一个对应于相同的一个或多个通道。

7.根据权利要求1所述的方法，其中，拆分权重参数还包括：

在所获得的运算参数阵列包括大小超出第一阈值的运算参数的情况下，至少对所述运算参数所在的行和/或列在深度和核的数量之中的至少一个维度上进行细分，使得经细分后的运算参数阵列中的每个运算参数的大小均小于或等于第一阈值。

8.根据权利要求1所述的方法，生成输出数据包括：

所述部分运算结果阵列中的每个部分运算结果对应于所述选定层的一个输出数据。

9.根据权利要求1所述的方法，其中，生成输出数据包括：

如果所述部分运算结果阵列包含多个列，则通过对所述部分运算结果阵列的每个行中的所有部分运算结果进行逐点加运算，将所述部分运算结果阵列压缩成一列，压缩后的部分运算结果阵列中的每个部分运算结果对应于所述选定层的一个输出数据。

10.根据权利要求1所述的方法，其中，生成输出数据包括：

如果所述部分运算结果阵列包含多个行，则通过将所述部分运算结果阵列的每个列中的所有部分运算结果在深度方向上拼接在一起，将所述部分运算结果阵列压缩成一行，压缩后的部分运算结果阵列中的每个部分运算结果对应于所述选定层的一个输出数据。