[发明专利]神经网络中的权重存储方法以及基于该方法的处理器

权利要求书

1.一种神经网络处理器，包括：

输入数据存储单元、输出数据存储单元、权重存储单元、输入神经元缓存单元、权重缓存单元、计算阵列、输出缓存单元、三维权重索引缓存单元、三维权重压缩单元、神经元索引单元以及控制单元，其中，

所述输入数据存储单元与所述输入神经元缓存单元相连，用于存储神经网络各层需处理的目标数据；

所述权重存储单元与所述三维权重压缩单元、所述三维权重索引缓存单元以及所述权重缓存单元相连，用于为所述三维权重压缩单元提供压缩存储的权重，为所述三维权重索引缓存单元提供三维权重索引，以及为所述权重缓存单元提供原权重数据；

所述输出数据存储单元与所述输出缓存单元相连，用于存储所述计算阵列计算得到的输出神经元及中间结果；

所述输入神经元缓存单元与所述输入数据存储单元以及所述神经元索引单元相连，用于暂存输入的批量神经元以及提供所述神经元索引单元的输入数据；

所述权重缓存单元与所述计算阵列相连，用于向计算阵列提供压缩权重；

所述计算阵列包括多个计算单元，并与所述神经元索引单元相连，用于接收有效神经元数据并进行卷积运算，将结果输出至所述输出缓存单元；

所述三维权重索引缓存单元与所述神经元索引单元相连，用于向所述神经元索引单元提供用于锁定匹配神经元的三维权重索引；

所述三维权重压缩单元与所述权重存储单元相连，用于对权重进行压缩以及三维索引建立，将其结果存于所述权重存储单元，包括：

所述三维权重压缩单元从所述权重存储单元接收训练好的权重数据；

根据所述神经网络各层权重的尺寸和规模将所述权重构建三维空间矩阵；

根据权重存储方法获得权重索引和压缩权重；以及

将所述权重索引和所述压缩权重回存至所述权重存储单元；

所述神经元索引单元与所述输入神经元缓存、所述三维权重索引缓存单元以及所述计算阵列相连，用于接收所述三维权重索引以及输入神经元，根据所述三维权重索引将神经元进行过滤后传输至所述计算单元；

所述输出缓存单元与所述计算单元以及所述输出数据存储单元相连，用于暂存卷积以及其他运算的中间结果及最终计算结果，当数据达到容量边界时，将数据输出至所述输出数据存储单元；以及

所述控制单元分别与所述输入数据存储单元、所述权重存储单元、所述输出数据存储单元、所述输入神经元缓存单元、所述权重缓存单元、所述计算单元、所述三维权重索引缓存单元、所述三维权重压缩单元以及所述神经元索引单元相连，用于控制各存储单元数据的载入及缓存数据的排列顺序。

2.一种利用如权利要求1所述神经网络处理器的权重存储方法，包括以下步骤：

步骤1：将原二维权重卷积核构建为三维空间矩阵，包括：

步骤21：将所述三维空间矩阵规整化为正方体形式的三维空间矩阵，其中，正方体的边长满足K^m，K为大于等于2的整数，m为大于等于2的整数；

步骤2：查找所述三维空间矩阵中的有效权重并建立有效权重索引，其中，所述有效权重是非零权重，所述有效权重索引用于标记所述有效权重在所述三维空间矩阵的位置，包括：

步骤22：将所述三维空间矩阵等分为K³个子空间，其中，K为大于等于2的整数；

步骤23：对于所述K³个子空间中包含有效权重的子空间进一步递归式K³等分，直到子空间仅包含一个权重，从而获得多级子空间；

步骤24：对于所述多级子空间中包含有效权重的子空间，标记有效分支，并通过组合各级有效分支获得所述有效权重索引；

步骤3：存储所述有效权重以及所述有效权重索引。

3.根据权利要求2所述的方法，其中，在步骤24中，对于所述多级子空间中包含有效权重的子空间，标记该子空间对应的分支为比特值1，当该子空间中不包含有效权重时，标记该子空间对应的分支为比特值0。

4.根据权利要求2所述的权重存储方法，其中，在步骤21中，对于存在满足条件的多个正方体边长，选择与所述原权重卷积核尺寸最接近的正方体边长。