[发明专利]一种模型压缩方法、装置、设备及存储介质

说明书

本申请公开了一种模型压缩方法、装置、设备及存储介质，涉及模型压缩技术领域，包括：获取待进行模型压缩的神经网络模型，得到待压缩神经网络模型；在所述待压缩神经网络模型的每个卷积层后添加通道注意力模块，得到改进后的神经网络模型；利用所述改进后的神经网络模型对预先创建的数据集进行特征提取，得到每个特征通道的权重；利用预设权重阈值对每个所述特征通道的权重进行筛选得到筛选后的权重，并利用所述筛选后的权重对所述改进后的神经网络模型进行剪枝操作，得到压缩后的神经网络模型。本申请通过在模型的每个卷积层后添加通道注意力模块，能够在保持模型速度和精度的同时减少模型参数，压缩模型体积，使得大规模模型实现在边端部署。

技术领域

本申请涉及模型压缩技术领域，特别涉及一种模型压缩方法、装置、设备及存储介质。

背景技术

当前，大规模的神经网络模型，如应用于智慧安防领域的目标追踪模型通常部署于内存大、计算力强的云端服务器中，具备推理精度高、计算速度快的优势。然而，当模型部署在云端时，需要先将待处理的数据传输至云端再进行处理，从而带来了较大的延迟。并且，大规模的神经网络模型多通过堆砌不同的架构来扩展网络的深度和宽度，在提高精度的同时不可避免的造成参数和特征的冗余。而将大规模模型由云转移到边端，可以很好的解决延迟问题，但考虑到边端内存、算力等硬件因素受限，因此要求模型本身具备体积小、计算快等特点，故不适用于部署大规模模型。

目前，为了在边端部署大规模模型，会对大规模神经网络模型进行模型压缩处理，通过随机的减少一定倍数的卷积核来对大规模模型进行剪枝，从而实现对模型的压缩，但上述随机剪除不同通道的卷积核的方式会剪切掉对推理结果贡献度大的卷积核，容易损失掉对最终结果有效的特征。

综上，如何对大规模神经网络模型进行模型压缩是本领域目前还有待进一步解决的问题。

发明内容

有鉴于此，本申请的目的在于提供一种模型压缩方法、装置、设备及存储介质，能够在保持模型速度和精度的同时减少模型参数，压缩模型体积，使得大规模模型实现在边端部署，并保证与压缩前的神经网络模型效能一致。其具体方案如下：

第一方面，本申请公开了一种模型压缩方法，包括：

获取待进行模型压缩的神经网络模型，得到待压缩神经网络模型；

在所述待压缩神经网络模型的每个卷积层后添加通道注意力模块，得到改进后的神经网络模型；

利用所述改进后的神经网络模型对预先创建的数据集进行特征提取，得到每个特征通道的权重；

利用预设权重阈值对每个所述特征通道的权重进行筛选，得到筛选后的权重，并利用所述筛选后的权重对所述改进后的神经网络模型进行剪枝操作，得到压缩后的神经网络模型。

可选的，所述获取待进行模型压缩的神经网络模型，得到待压缩神经网络模型，包括：

获取待进行模型压缩的目标检测模型，得到待压缩目标检测模型。

可选的，所述获取待进行模型压缩的目标检测模型，得到待压缩目标检测模型，包括：

获取待进行模型压缩的mobilenet-v1-ssd模型，得到待压缩mobilenet-v1-ssd模型。

可选的，所述利用预设权重阈值对每个所述特征通道的权重进行筛选，得到筛选后的权重，包括：

对每个所述特征通道的权重进行排序得到排序后的权重，并筛除所述排序后的权重中小于预设权重阈值的权重，得到筛选后的权重。

可选的，所述利用所述筛选后的权重对所述改进后的神经网络模型进行剪枝操作，得到压缩后的神经网络模型，包括：

确定出与所述筛选后的权重对应的特征，得到目标特征；