[发明专利]神经网络模型剪枝方法、装置、计算机设备和存储介质在审
| 申请号: | 202011064520.0 | 申请日: | 2020-09-30 |
| 公开(公告)号: | CN112215354A | 公开(公告)日: | 2021-01-12 |
| 发明(设计)人: | 潘浩;钱江;庄伯金;王少军 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
| 主分类号: | G06N3/08 | 分类号: | G06N3/08 |
| 代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 黄恕 |
| 地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 神经网络 模型 剪枝 方法 装置 计算机 设备 存储 介质 | ||
本申请涉及人工智能领域,提供了一种神经网络模型剪枝方法、装置、计算机设备和存储介质。所述方法包括:获取待处理数据,将待处理数据输入至初始神经网络模型中,分别获取初始神经网络模型每一层输出的特征图;对每一层输出的特征图进行分解处理,获得特征图对应的冗余度数据和通道索引数据;基于冗余度数据以及通道索引数据,确定每一层的剪枝通道数据;基于剪枝通道数据对初始神经网络模型进行剪枝处理。通过对特征图进行处理,同时得到冗余度数据和通道索引数据,为剪枝通道数据的确定提供依据,无需添加其它约束,可以有效进行剪枝操作,操作简单且便于控制。
技术领域
本申请涉及人工智能技术领域,特别是涉及一种神经网络模型剪枝方法、装置、计算机设备和存储介质。
背景技术
随着计算机技术的发展与进步,深度学习在各个领域得到了迅速发展,其中,神经网络模型在图像分类、目标检测、语义分割、实例分割等众多任务中得到了广泛应用。随着应用的不断发展,神经网络模型的参数量和计算量也在不断增加,这限制了神经网络模型应用在移动端等计算资源有限的设备上。
因此,如何得到体积更小的神经网络模型,对于计算资源有限的应用场景具有重要意义。剪枝是指删除神经网络中的某些连接和权重参数,由此减少神经网络模型的大小,同时在一定程度上缩短推理时间,但又不明显降低神经网络的性能。而传统的神经网络模型剪枝方法存在繁琐、难以有效控制的问题。
发明内容
基于此,有必要针对上述技术问题,提供一种操作简单、便于控制的神经网络模型剪枝方法、装置、计算机设备和存储介质。
第一方面,本申请提供了一种神经网络模型剪枝方法,所述方法包括:
获取待处理数据,将所述待处理数据输入至初始神经网络模型中,分别获取所述初始神经网络模型每一层输出的特征图;
对所述每一层输出的特征图进行分解处理,获得所述特征图对应的冗余度数据和通道索引数据;
基于所述冗余度数据以及所述通道索引数据,确定每一层的剪枝通道数据;
基于所述剪枝通道数据对所述初始神经网络模型进行剪枝处理。
在一个实施例中,所述对所述每一层输出的特征图进行分解处理,获得所述特征图对应的冗余度数据和通道索引数据,包括:
对所述每一层输出的特征图进行矩阵分解,获得所述特征图对应的上三角矩阵和通道索引数据;
当所述上三角矩阵中对角线元素个数等于所述通道索引数据中的元素个数时,基于所述上三角矩阵中对角线元素,确定所述特征图对应的冗余度数据;
当所述上三角矩阵中对角线元素个数小于所述通道索引数据中的元素个数时,通过预设值补充所述对角线元素,以使所述对角线元素个数等于所述通道索引数据中的元素个数。
在一个实施例中,所述基于所述冗余度数据以及所述通道索引数据,确定每一层的剪枝通道数据,包括:
基于所述通道索引数据,获取不同的待处理数据在同一通道的冗余度数据;
根据不同的待处理数据在同一通道的冗余度数据,得到各个通道对应的通道处理数据;
基于所述各个通道对应的通道处理数据以及预设剪枝阈值,确定每一层的剪枝通道数据。
在一个实施例中,所述根据不同的待处理数据在同一通道的冗余度数据,得到各个通道对应的通道处理数据,包括:
基于不同的待处理数据在同一通道的冗余度数据进行叠加处理,获得叠加结果;
对所述叠加结果进行归一化处理,获得通道对应的通道处理数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011064520.0/2.html,转载请声明来源钻瓜专利网。





