[发明专利]基于脉冲阵列的卷积神经网络优化方法及装置

说明书

本发明提供基于脉冲阵列的卷积神经网络优化方法及装置，以提高参与计算的所有PE中最低的最高运行频率。上述卷积神经网络包括至少一层卷积层；卷积层包括至少一组过滤器；任一卷积层执行的卷积操作包括：使用过滤器在输入激活矩阵上进行扫描；脉冲阵列用于执行每一卷积层所涉及的卷积计算，脉冲阵列包括N行M列处理单元PE；其中，参与卷积计算的任一PE的寄存器，用于存储相应过滤器的权重值；方法包括：确定处理本层卷积层的卷积操作的初始PE运算阵列；初始PE运算阵列包括行数n和列数m；其中，n小于等于N，m小于等于M；将初始PE运算阵列中最高运行频率最低的PE进行替换，以得到优化后的PE运算阵列。

技术领域

本发明涉及计算机领域，特别涉及基于脉冲阵列的卷积神经网络优化方法及装置。

背景技术

CNN(卷积神经网络，ConvolutionNeuralNetwork)是现阶段最受欢迎的图像处理方式之一。CNN计算过程中占比最大、耗时最长的操作即为卷积(Convolution)。

脉冲阵列可以高效地计算大量矩阵点乘，而矩阵点乘是卷积操作的主要计算模式。脉冲阵列由大量处理单元(ProcessingElement，PE)组成，所有PE必须工作在相同频率下。

然而受工艺技术的限制，众多PE的物理参数无法保证严格一致，而是呈正态分布，这使得脉冲阵列内各PE的最高工作频率无法严格一致。因此，为保证计算结果的正确性，脉冲阵列的整体运行频率将受限于所有PE中最低的最高运行频率，以避免部分PE无法在时钟周期内完成工作进而输出错误结果。

发明内容

有鉴于此，本发明提供基于脉冲阵列的卷积神经网络优化方法及装置，以提高参与计算的所有PE中最低的最高运行频率。

为了实现上述发明目的，本发明提供以下技术方案：

一种基于脉冲阵列的卷积神经网络优化方法，所述卷积神经网络包括至少一层卷积层；所述卷积层包括至少一组过滤器；任一卷积层执行的卷积操作包括：使用过滤器在输入激活矩阵上进行扫描，其中，所述过滤器每扫描到所述输入激活矩阵的一个位置就使用所述过滤器的权重进行一次矩阵点乘计算，得到输出激活矩阵中的一个元素；

所述脉冲阵列用于执行每一卷积层所涉及的矩阵点乘计算，所述脉冲阵列包括N行M列处理单元PE；其中，参与矩阵点乘计算的任一PE的寄存器，用于存储相应过滤器的权重值；

所述方法包括：

确定处理本层卷积层的卷积操作的初始PE运算阵列；所述初始PE运算阵列包括行数n和列数m；其中，n小于等于N，m小于等于M；

将所述初始PE运算阵列中最高运行频率最低的PE进行替换，以得到优化后的PE运算阵列。

可选的，所述将所述初始PE运算阵列中最高运行频率最低的PE进行替换包括：确定所述脉冲阵列中的冗余PE行和冗余PE列；对所述初始PE执行冗余替换，得到冗余优化后的PE运算阵列；其中，所述执行冗余替换包括：执行至少一次的冗余行替换操作，以及，执行至少一次的冗余列替换操作中的至少一种。

可选的，所述将所述初始PE运算阵列中最高运行频率最低的PE进行替换包括：确定用于替换目标替换PE的至少一个PE；所述目标替换PE为所述初始PE运算阵列或者所述冗余优化后的PE运算阵列中最高运行频率最低的PE；对所述目标替换PE对应的权重进行权重转移；禁用所述目标替换PE，以令所述目标替换PE不执行乘加运算。