[发明专利]一种应用于图像目标检测的模型压缩方法及终端有效

专利信息
申请号: 202110300622.6 申请日: 2021-03-22
公开(公告)号: CN112802141B 公开(公告)日: 2021-08-24
发明(设计)人: 潘成龙;张宇;刘东剑;杨伟强 申请(专利权)人: 深圳金三立视频科技股份有限公司
主分类号: G06T9/00 分类号: G06T9/00;G06N3/04;G06N3/08
代理公司: 深圳市博锐专利事务所 44275 代理人: 欧阳燕明
地址: 518000 广东省深圳市龙华区龙华街道*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 应用于 图像 目标 检测 模型 压缩 方法 终端
【说明书】:

发明公开了一种应用于图像目标检测的模型压缩方法及终端,在预设的目标检测算法中需要剪枝的卷积层后添加独立于原卷积网络的重要性因子层,并对每一重要性因子层的重要性因子向量稀疏化,能够初步去除对算法模型没有重要贡献的特征;根据预设的剪枝率确定重要性因子参数的门限值,根据门限值判断卷积层通道的重要性,并删除低于门限值的重要性因子参数对应的卷积层通道,能够在不依赖特定层结构的情况下,对算法模型进行剪枝,并且在目标检测算法中使用该压缩方法能够极大地减少模型体积,降低精度损失;将剪枝后的模型微调训练至预设精度,能够在压缩模型的同时确保模型精度和准确性,不需要大量的计算时间资源的同时容易实现和部署。

技术领域

本发明涉及计算机图像处理领域,特别涉及一种应用于图像目标检测的模型压缩方法及终端。

背景技术

在卷积神经网络模型压缩时,通常利用卷积层中层与层之间的特征关系,使用上一层卷积神经网络中的特定子集通道就能够计算出通道一致或者类似的下一层卷积神经网络结果,因此可以删除上一层卷积神经网络中除特定子集通道之外的所有通道,从而达到删减通道、压缩模型的效果。但是实际使用时需要使用最小二乘法来最小化地重构完整模型和剪枝模型间的误差,难以应用到工业界。

另一种常用的方法是利用卷积神经网络中已知的参数或已有网络层的参数作为通道重要性准则,例如用来加速算法收敛和防止过拟合的BatchNorm层中的γ参数作为通道重要性的准则,剪枝前对BatchNorm层中的γ参数进行稀疏化,当稀疏到稳定的时候,此时BatchNorm层中的γ参数越大,则认为当前BatchNorm层包含该γ参数的通道越重要,与之对应的卷积层通道也更重要,反之,BatchNorm层中的γ参数越小,则认为当前BatchNorm层包含该γ参数的通道越不重要,将与之对应的卷积层通道删除。但是这种方法需要深层神经网络中必须包含BatchNorm层,一旦遇到不包含BatchNorm层的情况,该方法无法使用,并且该方法后期会耗费大量时间和资源进行训练和微调。

另一种常用的方法是,权重本身则代表网络通道的重要性,通过使用L1正则化的权重之和作为通道重要性的判断依据,当通道的L1正则化权重之和小时,则代表该通道不重要可以删除,但是在实际应用时,该判断方法太过简单,尤其在目标检测领域精度损失严重。

发明内容

本发明所要解决的技术问题是:提供了一种应用于图像目标检测的模型压缩方法及终端,在压缩过程中不依赖特定的层结构,并保证压缩后的精度。

为了解决上述技术问题,本发明采用的技术方案为:

一种应用于图像目标检测的模型压缩方法,包括步骤:

基于预设数据集训练预设目标检测算法,得到收敛后的目标检测算法模型;

在所述目标检测算法模型中需要剪枝的卷积层之后添加独立于原卷积网络的重要性因子层,并对每一所述重要性因子层的重要性因子向量稀疏化;

根据预设剪枝率计算所述重要性因子向量中重要性因子参数的门限值;

判断每一所述重要性因子层的每一重要性因子参数是否小于所述门限值,若是,则将所述重要性因子参数对应的卷积层通道剪除;

基于所述预设数据集对剪枝后的目标检测算法模型进行训练,得到微调模型,判断所述微调模型是否达到预设精度,若是,则停止训练,若否,则继续训练所述微调模型直至达到预设精度。

为了解决上述技术问题,本发明采用的另一种技术方案为:

一种应用于图像目标检测的模型压缩终端,包括存储器、处理器以及存储在所述存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现以下步骤:

基于预设数据集训练预设目标检测算法,得到收敛后的目标检测算法模型;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳金三立视频科技股份有限公司,未经深圳金三立视频科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110300622.6/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top