[发明专利]基于脉动阵列的神经网络处理装置

说明书

提供一种神经网络处理装置，该装置包括：脉动阵列；控制单元，用于发送指示卷积操作、平均池化操作或最大化操作的控制信号；脉动阵列中各个计算单元用于，接收控制信号、输入特征数据、权重以及来自沿脉动阵列的第二维度的上一级计算单元的第一中间处理结果；根据控制信号，对输入特征数据、权重以及第一中间处理结果进行相关操作，获得第二中间处理结果；向沿着第二维度的下一级计算单元发送第二中间处理结果；向沿着第一维度的下一级计算单元发送输入特征数据；处理单元，用于接收控制信号以及脉动阵列输出端的计算单元输出的第二中间处理结果，根据控制信号对第二中间处理结果进行相关操作，获得神经网络输出结果。可以降低硬件开销。

版权申明

本专利文件披露的内容包含受版权保护的材料。该版权为版权所有人所有。版权所有人不反对任何人复制专利与商标局的官方记录和档案中所存在的该专利文件或者该专利披露。

技术领域

本申请涉及神经网络领域，并且更为具体地，涉及一种基于脉动阵列的神经网络处理装置。

背景技术

随着神经网络复杂度的不断提高，神经网络技术在实际应用过程中存在占用资源多、运算速度慢、能量消耗大等问题。采用硬件加速器替代传统软件计算的方法成为提高神经网络计算效率的行之有效的方式，例如利用通用图形处理器、专用处理器芯片和现场可编程逻辑阵列实现的神经网络处理器。

当前技术，针对神经网络中的卷积操作设计一套独立的硬件装置，针对池化操作设计一套独立的硬件装置，或者，分别针对平均池化操作与最大池化操作，设计一套独立的硬件装置。

现有方案，在一定程度上增加了神经网络的硬件开销与功耗。

发明内容

本申请提供一种基于脉动阵列的神经网络处理装置，可以有效降低神经网络的硬件开销与功耗。

第一方面，提供一种神经网络处理装置，该装置包括：脉动阵列，包括多个计算单元；控制单元，用于发送控制信号，该控制信号指示如下神经网络操作中的任一种：卷积操作、平均池化操作以及最大化操作；该脉动阵列中的各个计算单元用于，接收该控制信号、输入特征数据、权重以及来自沿该脉动阵列的第二维度的上一级计算单元的第一中间处理结果；根据该控制信号，对该输入特征数据、该权重以及该第一中间处理结果进行神经网络相关操作，获得第二中间处理结果；向沿着该脉动阵列的该第二维度的下一级计算单元发送该第二中间处理结果；向沿着该脉动阵列的第一维度的下一级计算单元发送该输入特征数据；处理单元，与该脉动阵列输出端的计算单元连接，该处理单元用于接收该控制信号以及该脉动阵列输出端的计算单元输出的第二中间处理结果，根据该控制信号对该第二中间处理结果进行神经网络相关操作，获得神经网络输出结果。

第二方面，提供一种池化处理装置，该装置包括：脉动阵列，包括多个计算单元；控制单元，用于发送控制信号，该控制信号指示平均池化操作或最大化操作；该脉动阵列中的各个计算单元用于，接收该控制信号、输入特征数据以及来自沿该脉动阵列的第二维度的上一级计算单元的第一中间处理结果；根据该控制信号，对该输入特征数据以及该第一中间处理结果进行池化相关操作，获得第二中间处理结果；向沿着该脉动阵列的该第二维度的下一级计算单元发送该第二中间处理结果；向沿着该脉动阵列的第一维度的下一级计算单元发送该输入特征数据；处理单元，与该脉动阵列输出端的计算单元连接，该处理单元用于接收该控制信号以及该脉动阵列输出端的计算单元输出的第二中间处理结果，根据该控制信号对该第二中间处理结果进行池化相关操作，获得池化输出结果。

第三方面，提供一种芯片，该芯片上集成第一方面提供的装置或集成第二方面提供的装置。

第四方面，提供一种控制方法，该控制方法由第一方面提供的装置中的控制单元执行，该方法包括第一方面中的控制单元执行的相关流程。