[发明专利]基于深度学习的双支路滤波器剪枝方法有效
申请号: | 202111128830.9 | 申请日: | 2021-09-26 |
公开(公告)号: | CN113837284B | 公开(公告)日: | 2023-09-15 |
发明(设计)人: | 褚晶辉;李梦;吕卫 | 申请(专利权)人: | 天津大学 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/82;G06N3/08;G06N3/0464;G06V10/764;G06T7/00 |
代理公司: | 天津市北洋有限责任专利代理事务所 12201 | 代理人: | 程毓英 |
地址: | 300072*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 深度 学习 支路 滤波器 剪枝 方法 | ||
1.一种基于深度学习的双支路滤波器剪枝方法,包括下列步骤:
第一步:划分数据集,划分为训练集和测试集;
第二步:基于原始VGG-16进行重新搭建,把预测部分的三个全连接层变为两个,交互神经元个数由原来的4096减少到512,得到需要剪枝的原始网络,之后加入双支路模块,得到新的网络模型;
第三步:利用数据集中的训练集训练加入双支路模块的网络模型,使模型在测试集上的测试准确率达到最高,此时获得一个最优模型;
第四步:再次把训练集输入最优模型,在不改变网络中的任何参数的情况下,利用双支路模块和输入图片,得到每个滤波器的激活值,网络不同层中不同滤波器的权重向量wi通过下列公式得到:
其中i代表第i层,Sigmoid代表规一化函数,H和W为输入特征的空间分辨率,Ii-1为输入特征,Ii为原始模块输出特征,W1表示支路中全连接层的权值;
第五步:计算网络中所有滤波器对于所有输入训练集图片的权值的方差,将单网络层滤波器的权重方差进行排序,获得每层滤波器的重要程度排序;按照预设定的每层的剪枝比率获得阈值,将大于阈值的数保留然后返回对应滤波器即得到网络的剪枝结果;
第六步:将裁剪后的原始网络使用数据集重新训练,恢复精度,经过训练收敛后的网络模型为最终得到轻量化的最优模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111128830.9/1.html,转载请声明来源钻瓜专利网。