[发明专利]一种基于混合并行的卷积计算装置

说明书

本申请公开了一种基于混合并行的卷积计算装置，包括输入单元，仿真单元，片上处理器包括多个并行的处理单元，分组控制单元和映射单元。本方案的混合并行卷积计算装置在运行中可以实现计算块大小的可调整，以及通道并行度的可调整，并且，本申请提供的装置可以针对网络形状设计适合的通道并行度，还可以成功应用到硬件上进行加速。按照本方案提出的基于混合并行的卷积计算装置，硬件加速平台可以更好的利用融合数据流，提升加速器整体的计算速度以及能效。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种基于混合并行的卷积计算装置。

背景技术

现今，深度卷积神经网络(deep convolutional neural networks,DCNN)被广泛应用在计算机视觉领域，例如图像分类及目标识别等任务。为了达到更好的性能，卷积计算模型倾向于变得更宽、更深，因此需要大量增加引入的参数数量，同时也带来加速过程中计算复杂度急剧增加的问题，因此势必要在加速过程中进行合适的分块操作。

卷积计算中包含有多个维度(输出维度、输入维度、高度、宽度)的计算，这些维度之间存在有多种数据计算复用情况，例如1)输入数据对不同输出通道的复用；2)输出数据在输入通道方向的累加；3)卷积计算在单个计算平面上对参数的复用。如何在加速过程中对卷积进行计算分块，对应安排合适的串行以及并行处理的计算维度成为加速器实现过程中的问题，这些分配会大幅影响加速器整体的计算效率。

为了解决上述问题，现有技术广泛应用的CNN加速器数据流为逐层(layer-by-layer)计算，这种计算方式倾向遍历一层中所有的计算块直到完成所有一个卷积层，完成后再从头开始重复该过程，进行下一层卷积的计算。在特征图(feature map)大的情况下会为相同数据多次访问片外存储，增加整体计算功耗以及计算延时。此外，在进行一些低计算强度(operational intensity)计算如深度分离卷积(depth-wise convolution)、快捷连接(shortcut connection)甚至说高强度稀疏后的计算时，会出现因为带宽受限造成的性能损失，不能达到硬件规模下的最佳性能。

为此开发了融合(fusion)数据流，将连续几层的卷积计算都放在片上完成，可以避免中间对片外存储的重复访问。这个过程中为了保证计算的正确性，所有通道的特征图都需要放在片上进行存储。因此，特征图被分割为小块，依次循环完成整体的计算。

然而，该融合数据流把连续几层的计算都放在包含计算核心的片上，使得卷积计算中参数无法得到高效复用，从而增加了参数对外部存储的访问，增加了整体计算延时以及功耗。因此，如何更好地利用融合数据流，提升加速器整体计算速度及能效成为当前亟待解决的技术问题。

发明内容

本申请提供了一种基于混合并行的卷积计算装置，以解决现有技术中因参数无法得到高效复用导致的加速效率较低的问题。

本申请提供了一种基于混合并行的卷积计算装置，包括：

输入单元，被配置为获取输入卷积数据及对应的参数，根据输入卷积数据判断卷积形状，并提取所述输入卷积数据的特征图大小、卷积核大小以及通道数目；

仿真单元，被配置为根据输入单元提取到的数据特征得到所述输入卷积数据对应的并行度；所述数据特征包括卷积形状及参数；

片上处理器，包括多个并行的处理单元；

分组控制单元，与每个处理单元分别连接，被配置为根据所述并行度，将片上处理器上的所有处理单元分为G个分组，G等于并行度，且每个分组中处理单元的数量相等；

映射单元，与每个处理单元分别连接，被配置为根据所述并行度、输入卷积数据以及对应的参数控制输入到每个处理单元中的数据及参数；其中，同一分组中的处理单元输入相同的参数、不同的数据；不同分组的处理单元输入不同的参数；