[发明专利]卷积神经网络的数据重用与高效处理方法

权利要求书

1.一种用于执行卷积神经网络操作的装置，包括：

第一内存；

包含多个处理字符串的处理阵列；以及

控制器，被配置为：

将一个或多个批次的数据提取到所述第一内存中；

将所述一个或多个批次的数据重新分组为多个工作项，其中，第一工作项部分地重叠于所述多个工作项中的一个或多个工作项；以及

将所述多个工作项广播到所述处理阵列，其中，将所述第一工作项传送到所述处理阵列的两个或多个处理字符串。

2.如权利要求1所述的装置，其中，将所述多个处理字符串分类为多个子集，并且将所述第一工作项传送到所述多个子集中的每个子集的第一处理字符串。

3.如权利要求2所述的装置，进一步包括第二存储器，所述第二存储器存储多个滤波器，所述多个滤波器的数目对应于所述子集的数目。

4.如权利要求1所述的装置，其中，每个所述处理字符串包括一个乘法器和一个累加器。

5.如权利要求3所述的装置，其中，每个所述处理字符串包括一个乘法器和一个累加器，以及

其中，所述处理阵列在所述多个子集中的每一个子集中包括逐元素操作处理器。

6.如权利要求1所述的装置，其中，将所述控制器进一步配置为：

遍历所述第一内存中的一个或多个批次的数据，以确定所述一个或多个批次的数据的尺寸覆盖对应于所述多个工作项中的每个工作项的尺寸的预定数据尺寸。

7.如权利要求6所述的装置，其中，将所述控制器进一步配置为：

当确定所述一个或多个批次的数据的尺寸不覆盖对应于所述多个工作项中的每个工作项的尺寸的预定数据尺寸时，将另一批次的数据提取到所述第一内存中。

8.如权利要求1所述的装置，其中，将所述控制器进一步配置为：

当确定所述一个或多个批次的数据中的部分数据在预定时间段内不使用时，释放所述一个或多个批次的数据中的部分数据。

9.如权利要求1所述的装置，其中，所述多个工作项中的每一个工作项具有第一数据尺寸，所述一个或多个批次的数据具有多个信道，并且每个信道具有覆盖所述第一数据尺寸的第二数据尺寸。

10.一种用于执行卷积神经网络操作的方法，包括：

将一个或多个批次的数据提取到第一内存中；

将所述一个或多个批次的数据重新分组为多个工作项，其中，第一工作项部分地重叠于所述多个工作项中的一个或多个工作项；以及

将所述多个工作项广播到所述处理阵列，其中，将所述第一工作项传送到所述处理阵列的两个或多个处理字符串。

11.如权利要求10所述的方法，其中，将所述多个处理字符串分类为多个子集，并且将所述第一工作项传送到所述多个子集中的每个子集的第一处理字符串。

12.如权利要求11所述的方法，还包括：

将多个滤波器传送到所述处理阵列，

其中，所述多个滤波器的数目对应于所述多个子集的数目，并且将所述多个滤波器中的每一个滤波器传送到所述多个子集中的对应子集。

13.如权利要求10所述的方法，还包括：

对所述两个或多个处理字符串中的第一工作项并行执行乘法运算。

14.如权利要求13所述的方法，还包括：

对所述两个或多个处理字符串中的乘法结果并行执行加法运算。

15.如权利要求10所述的方法，还包括：

遍历所述第一内存中的所述一个或多个批次的数据，以确定所述一个或多个批次的数据的尺寸覆盖对应于所述多个工作项中的每个工作项的尺寸的预定数据尺寸。