[发明专利]卷积神经网络的修剪方法、装置及存储介质

权利要求书

1.一种卷积神经网络的修剪方法，所述卷积神经网络包括多个层，所述多个层包括一个或多个卷积层，其特征在于，所述方法包括：

获取所述卷积神经网络的第n卷积层输出的特征图集合，所述特征图集合包括多个特征图，所述第n卷积层为所述一个或多个卷积层中的任一个，n为正整数；

确定所述特征图集合中的重要特征图和非重要特征图，所述重要特征图对所述卷积神经网络的输出结果的影响大于所述非重要特征图；

基于所述非重要特征图修剪所述卷积神经网络，得到所述第n卷积层的下一层的输入，所述第n卷积层的下一层的输入包括所述重要特征图。

2.根据权利要求1所述的方法，其特征在于，所述确定所述特征图集合中的重要特征图和非重要特征图，包括：

计算所述第n卷积层的每个特征图的L2范数；

若第一特征图的L2范数小于所述第n卷积层的第一阈值，则确定所述第一特征图为所述非重要特征图；若第一特征图的L2范数大于或等于所述第一阈值，则确定所述第一特征图为所述重要特征图，所述第一特征图为所述特征图集合中的任一特征图。

3.根据权利要求2所述的方法，其特征在于，所述第n卷积层的第一阈值为所述第n卷积层的范数均值与阈值系数的乘积，所述范数均值为所述第n卷积层的所有特征图的L2范数的均值。

4.根据权利要求2或3所述的方法，其特征在于，在所述确定所述特征图集合中的重要特征图和非重要特征图之前，所述方法还包括：

确定所述第n卷积层是否为可修剪卷积层；

若所述第n卷积层为可修剪卷积层，则确定所述特征图集合中的重要特征图和非重要特征图。

5.根据权利要求4所述的方法，其特征在于，所述确定所述第n卷积层是否为可修剪卷积层，包括：

计算所述第n卷积层的所有特征图的L2范数的变异系数；

若所述第n卷积层的所有特征图的L2范数的变异系数大于第二阈值，则确定所述第n卷积层为所述可修剪卷积层。

6.根据权利要求1至5任一项所述的方法，其特征在于，所述基于所述非重要特征图修剪所述卷积神经网络，得到所述第n卷积层的下一层的输入，包括：

将所述非重要特征图的特征全部置为0；将置0后的所述非重要特征图和所述重要特征图作为所述第n卷积层的下一层的输入。

7.根据权利要求1至5任一项所述的方法，其特征在于，所述基于所述非重要特征图修剪所述卷积神经网络，得到所述第n卷积层的下一层的输入，包括：

从所述特征图集合中筛选掉非重要特征图，将所述重要特征图作为所述第n卷积层的下一层的输入。

8.根据权利要求1至7任一项所述的方法，其特征在于，所述方法还包括：

训练所述卷积神经网络，在训练所述卷积神经网络的过程中使用的损失函数包括L2,1范数的正则化项，所述正则化项用于学习样本的稀疏特征。

9.根据权利要求8所述的方法，其特征在于，所述L2,1范数的正则化项包括L2,1范数与正则化系数的乘积，所述L2,1范数为各个样本的L2,1范数之和，其中，第一样本的L2,1范数为输入所述第一样本后所述卷积神经网络的所有卷积层的特征图的L2范数之和，所述第一样本为所有样本中的任一个样本。

10.一种卷积神经网络的修剪装置，所述卷积神经网络包括多个层，所述多个层包括一个或多个卷积层，其特征在于，所述装置包括：

计算单元，被配置为获取所述卷积神经网络的第n卷积层输出的特征图集合，所述特征图集合包括多个特征图，所述第n卷积层为所述一个或多个卷积层中的任一个，n为正整数；

确定单元，被配置为确定所述特征图集合中的重要特征图和非重要特征图，所述重要特征图对所述卷积神经网络的输出结果的影响大于所述非重要特征图；

处理单元，被配置为基于所述非重要特征图修剪所述卷积神经网络，得到所述第n卷积层的下一层的输入，所述第n卷积层的下一层的输入包括所述重要特征图。