[发明专利]利用存算一体芯片实现递进式CNN运算的方法

权利要求书

1.一种利用存算一体芯片实现递进式CNN运算的方法，其特征在于，用于对一输入特征图进行CNN运算，所述CNN包括多个卷积层，所述输入特征图包括阵列排布的多个特征单元，所述存算一体芯片包括：用于进行矩阵乘加运算的闪存单元阵列以及用于缓存所述输入特征图的部分特征单元的片上存储器；

所述利用存算一体芯片实现递进式CNN的方法包括：

根据当前卷积层的卷积核判断所述片上存储器中缓存的特征单元是否包含当前待运算的特征单元；

若是，根据所述当前待运算的特征单元获得一输入特征数列；

将所述输入特征数列输入预存有权重数列的闪存单元列，以在所述闪存单元列的输出端得到所述权重数列和所述输入特征数列的矩阵乘加运算结果；

其中，所述输入特征数列的元素数量等于所述权重数列的元素数量；

若否，控制读取电路从外部存储设备读取输入特征图的特征单元并缓存至片上存储器；

其中，不需要将所有输入特征图都读到片上存储器后再进行运算，边输入边运算，当片上存储器中的特征单元已经包含了当前待运算的特征单元，即可开始运算；而后从片外存储器按顺序读取下一特征单元，存储于片上存储器，用于后续运算；

当片上存储器中的特征单元等于(W*(h-1)+w)*k时，则片上存储器中缓存的特征单元包含当前待运算的特征单元，即可开始当前卷积层的当前次卷积运算；并且，当待运算的特征单元所对应的输入特征数列已经输入闪存单元列后，删除最开始存储于片上存储器的特征单元；

另外，所述利用存算一体芯片实现递进式CNN运算的方法还包括：从片外存储器按顺序读取下一特征单元，存储于片上存储器，使得片上存储器中已经包含了下一次卷积时待运算的特征单元，即可开始下一次卷积运算；

其中，输入特征图尺寸为(W,H,K)，所述卷积核尺寸为(w,h,k)。

2.根据权利要求1所述的利用存算一体芯片实现递进式CNN运算的方法，其特征在于，所述存算一体芯片还包括：用于从外部存储设备读取所述输入特征图的特征单元的读取电路，

所述利用存算一体芯片实现递进式CNN的方法还包括：

控制所述读取电路从外部存储设备读取所述输入特征图的特征单元并缓存至所述片上存储器。

3.根据权利要求1所述的利用存算一体芯片实现递进式CNN运算的方法，其特征在于，所述存算一体芯片还包括：用于控制所述闪存单元阵列中每个闪存单元的权重的编程电路，所述利用存算一体芯片实现递进式CNN的方法还包括：

根据所述卷积核获得所述权重数列；

控制所述编程电路将所述权重数列写入所述闪存单元列。

4.根据权利要求1所述的利用存算一体芯片实现递进式CNN运算的方法，其特征在于，所述将所述输入特征数列输入预存有权重数列的闪存单元列之后，还包括：

删除该片上存储器中缓存的特征单元中被运算过的垃圾特征单元。

5.根据权利要求1所述的利用存算一体芯片实现递进式CNN运算的方法，其特征在于，还包括：

将所述矩阵乘加运算结果作为下一卷积层的特征单元缓存至所述片上存储器。

6.根据权利要求1所述的利用存算一体芯片实现递进式CNN运算的方法，其特征在于，所述输入特征图尺寸为(W,H,K)，所述卷积核尺寸为(w,h,k)，个数为C；

所述根据所述CNN运算的卷积核判断所述片上存储器中缓存的特征单元是否包含当前待运算特征单元，包括：

判断所述片上存储器中缓存的特征单元的数量是否大于p；

p＝[W×(h-1)+w]×k。

7.根据权利要求3所述的利用存算一体芯片实现递进式CNN运算的方法，其特征在于，所述根据所述卷积核获得所述权重数列，包括：

按照预设顺序获取所述卷积核的元素，得到所述权重数列。