[发明专利]一种针对图像复原卷积神经网络的压缩方法及装置在审
申请号: | 202011207721.1 | 申请日: | 2020-11-03 |
公开(公告)号: | CN112288829A | 公开(公告)日: | 2021-01-29 |
发明(设计)人: | 金枝;肖洁;庞雨贤 | 申请(专利权)人: | 中山大学 |
主分类号: | G06T9/00 | 分类号: | G06T9/00 |
代理公司: | 深圳市创富知识产权代理有限公司 44367 | 代理人: | 李思坪 |
地址: | 510275 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 针对 图像 复原 卷积 神经网络 压缩 方法 装置 | ||
1.一种针对图像复原卷积神经网络的压缩方法,其特征在于,包括以下步骤:
获取待压缩的图像复原卷积神经网络并以非正方形卷积核的侧窗核代替正方形卷积核,得到侧窗核替换后的卷积神经网络;
将侧窗核替换后的卷积神经网络的卷积层分解为通道方向空间卷积和线性投影卷积,得到卷积层分解后的卷积神经网络;
基于对称扩张卷积和注意力机制对卷积层分解后的卷积神经网络进行性能补偿,得到压缩后的图像复原卷积神经网络。
2.根据权利要求1所述一种针对图像复原卷积神经网络的压缩方法,其特征在于,所述侧窗核包括上侧窗核、下侧窗核、左侧窗核和右侧窗核。
3.根据权利要求2所述一种针对图像复原卷积神经网络的压缩方法,其特征在于,侧窗核替换后的卷积神经网络使用侧窗核卷积的压缩率计算公式如下:
所述CR1表示使用侧窗核卷积的压缩率,所述Nin表示为输入通道数,所述Nout表示为输出通道数,所述k×k表示为原始卷积核尺寸,所述表示为侧窗核尺寸。
4.根据权利要求3所述一种针对图像复原卷积神经网络的压缩方法,其特征在于,所述基于对称扩张卷积和注意力机制对卷积层分解后的卷积神经网络进行性能补偿,得到压缩后的图像复原卷积神经网络这一步骤,其具体包括:
获取卷积层分解后的卷积神经网络并按预设规则对卷积层分解后的卷积神经网络中的卷积层设置不同的扩张率;
在卷积层分解后的卷积神经网络网络末端添加注意力块,得到压缩后的图像复原卷积神经网络。
5.根据权利要求4所述一种针对图像复原卷积神经网络的压缩方法,其特征在于,所述预设规则具体包括扩张卷积的扩张率为对称且顺序为先增加后减少,扩张卷积中每隔一段插入扩张率为1的卷积层。
6.根据权利要求5所述一种针对图像复原卷积神经网络的压缩方法,其特征在于,所述注意力块中的注意力机制包括加权步骤和缩放步骤。
7.根据权利要求6所述一种针对图像复原卷积神经网络的压缩方法,其特征在于,所述加权步骤采用核大小为预设值的卷积层学习注意力图,所述缩放步骤为对输入特征图和注意力图之间进行矩阵点乘,生成输出特征图。
8.根据权利要求7所述一种针对图像复原卷积神经网络的压缩方法,其特征在于,所述卷积层分解后的卷积神经网络的压缩率计算公式如下:
所述CR2表示为卷积层分解后的卷积神经网络的压缩率,所述Nin表示为输入通道数,所述Nout表示为输出通道数,所述k×k表示为原始卷积核尺寸,所述表示为侧窗核尺寸。
9.一种针对图像复原卷积神经网络的压缩装置,其特征在于,包括:
至少一个处理器;
至少一个存储器,用于存储至少一个程序;
当所述至少一个程序被所述至少一个处理器执行,使得所述至少一个处理器实现如权利要求1-8任一项所述一种针对图像复原卷积神经网络的压缩方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中山大学,未经中山大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011207721.1/1.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序