[发明专利]一种基于线性无关的结构化剪枝方法在审
申请号: | 202110877016.0 | 申请日: | 2021-07-31 |
公开(公告)号: | CN113516241A | 公开(公告)日: | 2021-10-19 |
发明(设计)人: | 曹俊亮;卢康;杨赟;任鹏飞;杨彧;张龙涛;孙光泽;王刚;丁军峰;刘伟;刘慷;康媛 | 申请(专利权)人: | 西安烽火软件科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 南京经纬专利商标代理有限公司 32200 | 代理人: | 陆志斌 |
地址: | 710065 陕西省西*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于线性无关的结构化剪枝方法,包括:根据不同的计算机视觉任务,在数据集上训练一个深度网络模型;计算某个卷积层卷积核之间的冗余性,并对每个卷积层的卷积核进行FM变换,对变换后的矩阵计算极大线性无关组;对剪枝网络所有的卷积层重复步骤二,计算每个卷积层的极大线性无关组,得到剪枝之后的模型;使用训练数据对步骤三生成的剪枝之后的模型进行微调训练,获得剪枝之后模型的权重。本发明解决了计算冗余卷积核复杂度过高的问题,即插即用,计算复杂度小;不依赖相关假设证明,适用于所有结构的网络模型,普适性更好;且能够大幅度提升模型的前向推理时间,减少模型的参数量。 | ||
搜索关键词: | 一种 基于 线性 无关 结构 剪枝 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安烽火软件科技有限公司,未经西安烽火软件科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110877016.0/,转载请声明来源钻瓜专利网。
- 上一篇:一种语言教学系统及方法
- 下一篇:一种车载双膜陶瓷净化水系统