[发明专利]卷积神经网络的数据重用与高效处理方法

说明书

本发明涉及一种用于执行卷积神经网络操作的装置。该装置包括第一内存；包含多个处理字符串的处理阵列、以及控制器，该控制器能被配置为：将一个或多个批次的数据提取到所述第一内存中，将所述一个或多个批次的数据重新分组为多个工作项，其中，第一工作项部分地重叠于所述多个工作项中的一个或多个工作项，以及将所述多个工作项广播到所述处理阵列，其中，将所述第一工作项传送到所述处理阵列的两个或多个处理字符串。

背景技术

机器学习已广泛应用于各个领域。卷积神经网络(CNN)是一种广泛应用于机器学习的神经网络。CNNs在图像处理、语音识别、游戏、机器人等领域有着广泛的应用，提高CNNs的处理效率对于提高神经网络的整体执行性能具有重要意义。

发明内容

本发明的实施例提供了一种用于执行卷积神经网络操作的装置。所述装置包括第一内存、包含多个处理字符串的处理阵列和控制器。所述控制器可以被配置为将一个或多个批次的数据提取到所述第一内存中，将所述一个或多个批次的数据重新分组为多个工作项，其中，第一工作项部分地重叠于所述多个工作项中的一个或多个工作项，并且将所述多个工作项广播到所述处理阵列，其中，所述第一工作项被传送至所述处理阵列的两个或多个处理字符串。

本发明的实施例还提供了一种用于执行卷积神经网络操作的方法。所述方法包括将一个或多个批次的数据提取到第一内存中，将所述一个或多个批次的数据重新分组为多个工作项，其中，第一工作项部分地重叠于所述多个工作项中的一个或多个工作项，并且将所述多个工作项广播到包含多个处理字符串的处理阵列，其中，所述第一工作项被传送至所述处理阵列的两个或多个处理字符串。

本发明的实施例还提供了一种非暂时性计算机可读存储介质，所述存储介质存储有一组可由计算装置的至少一个处理器执行的指令，以使所述计算装置执行用于执行卷积神经网络操作的方法。所述方法包括将一个或多个批次的数据提取到第一内存中，将所述一个或多个批次的数据重新分组为多个工作项，其中，第一工作项部分地重叠于所述多个工作项中的一个或多个工作项，并且将所述多个工作项广播到包含多个处理字符串的处理阵列，其中，所述第一工作项被传送至所述处理阵列的两个或多个处理字符串。

本发明的实施例还提供了一种终端，包括宿主单元和用于执行与所述宿主单元通信耦合的卷积神经网络操作的装置。所述装置包括第一内存、包含多个处理字符串的处理阵列以及控制器。所述控制器可以被配置为将一个或多个批次的数据提取到所述第一内存中，将所述一个或多个批次的数据重新分组为多个工作项，其中，第一工作项部分地重叠于所述多个工作项中的一个或多个工作项，并且将所述多个工作项广播到所述处理阵列，其中，所述第一工作项被传送至所述处理阵列的两个或多个处理字符串。

所公开的实施例的附加特征和优点将在以下描述中部分地阐述，并且部分可以从所述描述中明显看出，或者可以通过实施例的实践而获知。所公开的实施例的特征和优点可以通过权利要求中阐述的要素和组合来实现和获得。

需要理解的是，上述一般性描述和下面的详细描述都仅是示例性和说明性的，并且所公开的实施例不作为对所要求保护的内容的限定。

附图说明

图1示出了示例性卷积神经网络(CNN)操作。

图2A示出了与本发明的实施例相符的示例性神经网络加速器架构。

图2B示出了与本发明的实施例相符的示例性神经网络加速器核心架构。

图2C示出了与本发明的实施例相符的、包含神经网络加速器的示例性云系统的示意图，。

图3示出了与本发明的实施例相符的示例性操作单元配置。

图4示出了与本发明的实施例相符的示例性控制器的框图。

图5示出了用于CNN操作的输入数据的示例。

图6A示出了与本发明的实施例相符的在第一时间周期内提取数据的示例。