[发明专利]一种基于类别的滤波器剪枝方法

权利要求书

1.一种基于类别的滤波器剪枝方法，包括下列步骤：

(1)数据准备，方法如下：

第一步：划分数据集，划分为训练集和测试集。

(2)网络结构搭建，方法如下：

第一步：基于原始VGG-16进行重新搭建，把预测部分的三个全连接层变为两个，交互神经元个数由原来的4096减少到512，得到需要剪枝的原始网络；之后加入激活值生成模块，得到新的网络模型,其中激活值生成模块由一个平均池化层和两个全连接层组成；

第二步：利用数据集中的训练集训练加入激活值生成模块的网络模型，使模型在测试集上的测试准确率达到最高，此时获得一个最优模型；

第三步：再次把训练集输入最优模型，在不改变网络中的任何参数的情况下，利用激活值生成模块和输入图片，得到每个滤波器的激活值,网络中不同层中不同滤波器的权重向量w_i通过公式(1)得到

其中i代表第i层，Sigmoid代表规一化函数，H和W为输入特征的空间分辨率，I_i为原始网络层输出特征，δ表示激活函数ReLU，W₁和W₂分别表示模块中第1个和第2个全连接层的权值；

第四步：计算所有通道重要性剪枝部分的滤波器的激活值方差，将其中所有滤波器的激活值方差进行排序，按照预设定的剪枝比率乘以其中所有滤波器的总数得到索引，排序结果索引对应位置的方差即阈值，将方差大于阈值的滤波器保留即得到浅层网络的剪枝结果；对于后面两层深层网络，根据类别分别计算每个滤波器对应的类别的方差，根据各个方差的大小，选择需要保留的滤波器，即得到深层网络的剪枝结果；

第五步：根据第四步得到的剪枝结果即可得到全局的不同层的剪枝结果，然后计算每一层剪枝之后剩余的通道数，改变原始网络每一层通道数，将裁剪后的原始网络使用数据集重新训练，恢复精度；

(3)模型训练，方法如下：

第一步：设置学习率；衰减间隔，训练次数；

第二步：采用交叉熵函数作为损失函数；

第三步：采用SGD优化方法进行模型训练；

(4)效果检测，方法如下：

输入待分类图像，加载好训练好的模型，输出输入图像的分类结果。