[发明专利]通道注意力引导的卷积神经网络动态通道剪枝方法和装置

说明书

本发明提供一种通道注意力引导的卷积神经网络动态通道剪枝方法和装置。所述方法包括：在卷积神经网络卷积层下添加通道注意力模块；输入图片，前向传播计算每层卷积层生成的特征图；根据裁剪率确定全局阈值；计算每层卷积层中每个激活通道网络损失的梯度值；计算通道的贡献度，筛选贡献度大于全局阈值的通道并赋其对应的掩码值为1，否则赋掩码值为0；通道输出与对应的掩码值相乘；根据网络任务选择继续迭代训练或进入下一步剪枝阶段；训练结束后，剪枝贡献度小于全局阈值的通道所对应的卷积核；拷贝保留的参数。该方法可实现卷积神经网络在训练过程中同步完成剪枝工作，节省大量时间，并可自动获取每个通道的重要程度，提高训练和剪枝效率。

技术领域

本发明涉及信息技术领域，具体地，涉及一种通道注意力引导的卷积神经网络动态通道剪枝方法和装置。

背景技术

卷积神经网络作为深度学习中的经典模型，已经在计算机视觉领域取得了长足的进步。虽然业界普遍认为网络模型深度越深效果越好，但越深层的卷积神经网络其参数也越大，计算卷积层需要大量的浮点矩阵乘法，导致计算开销增大，从而无法直接应用于存储空间和计算能力受限的手机等嵌入式设备中。通过对网络模型进行压缩剪枝，减小网络模型的复杂度和计算量，可方便其在资源受限的嵌入式设备上高效应用。

现有技术中，专利2020101779121导入训练后的权重并针对BN层进行稀疏化训练，将小于阈值的Gamma参数全部置零，将BN层置零的Gamma关联的卷积通道删除，保存剪枝后的网络结构和参数。专利2020103881001稀疏化训练模型，对剪枝结束后的模型进行量化，动态量化训练模型直至收敛得到剪枝与量化后的模型。专利2019107881794通过最小化feature map的重构误差局部调整网络连接权重。专利2019104821221基于深度神经网络中连续两个网络层的关联关系，定义输出输入通道离散正则化项和优化目标函数，训练结束获得结构化稀疏的深度神经网络，进再行循环迭代通道剪枝。

上述的方法在剪枝的通道选择、结合量化方法、最小化重构误差等方面进行了创新，但是在流程上都是采用传统的三步剪枝方法，即训练完整网络、剪枝和微调，普遍存在流程冗长，且剪枝后网络模型性能严重依赖训练后的网络模型质量的问题。

发明内容

针对现有技术存在的问题，本发明提出一种基于通道注意力引导的动态通道剪枝方法。通过使用通道注意力模块进行引导，把卷积神经网络模型的卷积层的通道进行显著性表达，在每次训练迭代中仅选择一组有效通道来激活参与计算，并且当训练结束时，通过直接复制相应的有效卷积层来获得更紧凑的网络，无需额外的微调。

所述方法包括：

在卷积神经网络的卷积层下添加通道注意力模块；

输入图片；

前向传播计算每层卷积层生成的特征图；

根据裁剪率确定全局阈值；

计算每层卷积层每个参与计算的通道网络损失的梯度值并对其进行归一化处理；

计算通道的贡献度；

筛选所述特征图的所有通道中贡献度大于所述全局阈值的通道，并赋其对应的掩码值为1，反之赋掩码值为0；通道输出与对应的掩码值相乘；

判断是否达到预定迭代次数和/或达到正确率阈值以确定是否结束训练？若否，继续迭代进入特征图生成阶段，反之，进入下一步剪枝阶段；

剪枝贡献度小于所述全局阈值的通道所对应的卷积核；

拷贝保留的参数，形成剪枝后的网络。

在其中一个实施例中，所述通道注意力模块包括依次连接的全局平均池化层、Sigmoid激活层和逐通道乘积模块；具体工作流程为：

所述全局平均池化层获取所述卷积神经网络卷积层的特征图在通道维度的数值分布情况：