[发明专利]基于Winograd算法的卷积神经网络硬件加速器及计算方法

说明书

本发明公开了一种基于Winograd算法的卷积神经网络硬件加速器及计算方法，该加速器包括：输入缓冲模块、PE阵列、后处理模块，数据分配器、控制模块、配置模块、输出缓冲模块、存储层；配置模块将指令译码成配置信息；控制模块用于控制PE阵列、数据分配器等模块完成不同计算；数据分配器采用不同的地址映射方式和数据分配方式从存储层中读取数据，并将数据分配到输入缓冲中；输入缓冲模块将缓冲的计算数据发送到PE阵列进行计算；PE阵列根据配置信息进行计算通路重构并对数据进行计算；后处理模块将计算结果进行多通道累加、激活函数处理等操作。本发明能提高卷积计算速度，减少数据搬移损耗，从而提高整个加速器的性能。

技术领域

本发明涉及深度卷积神经网络计算领域，尤其是一种基于Winograd算法的卷积流水线并行加速计算方法和装置。

背景技术

当前的神经网络结构的愈加复杂使得神经网络的计算量和数据搬移量剧增，而CPU其串行计算的特性和较少的核心数使得其计算效率较低，而GPU能耗比较低，因此需要设计高效的硬件神经网络加速器来提升神经网络计算效率。

卷积计算是神经网络的基本计算，传统上一般通过滑窗卷积进行，该计算方法给整个神经网络带来了巨大的计算量和数据搬移量。Winograd算法源自一种小波变换算法，Lavin,Andrew等人将其移植到了卷积计算中。其基本思想是将输入特征图和卷积核变换到Winograd域进行卷积计算，以减少乘法数目，提高计算速度。

Winograd算法中含有连续的矩阵乘，会增加中间结果的访存时间，降低计算速度，同时Winograd算法需要进行较长的计算流程来得到计算结果，且会占用大量的硬件资源。

发明内容

为了解决上述不足之处，本发明提出了一种基于Winograd算法的可重构神经网络加速器及计算方法，以期能提高卷积计算速度，减少数据搬移损耗，从而提高整个加速器的性能。

本发明为达到上述发明目的，采用如下技术方案：

本发明一种基于Winograd算法的卷积神经网络硬件加速器的特点包括：存储层、计算层、控制层、数据分配器、输入缓冲、输出缓冲；

所述存储层包括：片外的DDR存储器和片上存储；

所述控制层包括：配置模块和控制模块；

所述计算层包括：多路PE阵列和后处理模块；

所述后处理模块包含：激活函数模块和卷积通道累加模块；

所述DDR存储器接收外部发送的卷积核、输入特征图并完成存储后，触发所述控制模块，使得所述配置模块在所述控制模块的控制下，从自身RAM中读取计算指令，用于获取计算任务并将其译码成配置信息；

所述数据分配器根据所述配置信息中的当前计算模式，判断当前计算模式是否为卷积计算模式，若是，则从DDR存储器中读取所需的输入特征图、所需的卷积核并分配到输入缓冲中；否则，将当前计算模式所需的数据发送给输入缓冲中；

在卷积计算模式下，多路PE阵列从输入缓冲中获取所述卷积核、输入特征图并进行计算，得到输出特征图并传递给所述后处理模块；

在其他计算模式下，多路PE阵列从输入缓冲中获取当前计算模式所需的数据并进行计算，得到当前计算结果并传递给所述后处理模块；

在卷积计算模式下，所述卷积通道累加模块对所述输出特征图进行多通道累加处理后，再利用激活函数模块进行计算，得到当前卷积块并传递给所述输出缓冲；

在其他计算模式下，所述卷积通道累加模块根据配置信息，选择是否对所述当前计算结果进行通道累加计算，以及是否利用激活函数模块对所述当前计算结果进行计算，从而得到当前处理结果并传输到所述输出缓冲中；