[发明专利]用于深度网络压缩的智能剪枝方法和系统

说明书

本发明涉及一种用于深度网络压缩的智能剪枝方法和系统，该方法包括：获取训练样本集以及未经训练的待压缩卷积神经网络；根据神经元的睡眠与清醒机制，利用训练样本集对卷积神经网络进行训练，在训练过程中同时更新卷积神经网络中每一层卷积层中每一个滤波器的信息熵，得到训练完成的卷积神经网络；根据训练完成的卷积神经网络中每一层卷积层的滤波器的信息熵大小排序，以及预设的剪枝比例对每一层卷积层的滤波器进行剪枝处理，得到训练完成且压缩好的压缩卷积神经网络。本发明的方法得到的压缩卷积神经网络，可以避免安检图像分类过程中的运算冗余，节约运算时间，而且压缩后的卷积神经网络能运行于计算资源受限的平台上。

技术领域

本发明属于人工智能技术领域，具体涉及一种用于深度网络压缩的智能剪枝方法和系统。

背景技术

随着经济社会的快速发展，当前我国人口流动性大大增强，为了维护公共安全，在机场、火车站、汽车站、地铁入口等公共场所需要进行安检，以保证人们的出行安全。

目前常见的安检仪器为X射线安检机，X射线安检机在使用过程中，需要工作人员认真仔细地查看X射线行李图像来判别是否含有危险物品，装置智能化程度低，人工检查所需的成本较高，同时也可能会出现误判漏判情况。

随着人工智能技术的飞速发展，神经网络方法在图像处理领域的广泛应用，基于卷积神经网络算法的安检系统也开始出现，卷积神经网络是深度学习技术领域具有代表性的神经网络，融入深度学习算法和卷积神经网络的智能化安检机系统大大提高了安检装置的智能化程序，提高了危险物品识别的准确率，同时有效减轻安检工作人员的压力。

但是，卷积神经网络的网络结构复杂，不能满足快速、实时应用的需求，会导致安检过程中存在安检通道拥堵的情况，另外，卷积神经网络一般需要较高的计算资源，而在图像分类识别的实际应用场景中，由于空间、成本限制导致计算资源受限，无法将其大规模的应用于实际生活中。

发明内容

为了解决现有技术中存在的上述问题，本发明提供了一种用于深度网络压缩的智能剪枝方法和系统。本发明要解决的技术问题通过以下技术方案实现：

本发明提供了一种用于深度网络压缩的智能剪枝方法，包括：

获取训练样本集以及未经训练的待压缩卷积神经网络；

根据神经元的睡眠与清醒机制，利用所述训练样本集对所述卷积神经网络进行训练，在训练过程中同时更新所述卷积神经网络中每一层卷积层中每一个滤波器的信息熵，得到训练完成的卷积神经网络；

根据所述训练完成的卷积神经网络中每一层卷积层的滤波器的信息熵大小排序，以及预设的剪枝比例对每一层卷积层的滤波器进行剪枝处理，得到训练完成且压缩好的压缩卷积神经网络，以利用该压缩卷积神经网络对安检图像数据进行分类。

在本发明的一个实施例中，根据神经元的睡眠与清醒机制，利用所述训练样本集对所述卷积神经网络进行训练，在训练过程中同时更新所述卷积神经网络中每一层卷积层中每一个滤波器的信息熵，得到训练完成的卷积神经网络，包括：

将所述训练样本集输入所述卷积神经网络中，按照睡眠阶段与清醒阶段轮次交替对所述卷积神经网络进行训练，更新所述卷积神经网络的参数，并在每一轮次训练后计算所述卷积神经网络中每一层卷积层中每一个滤波器的信息熵；

达到预设的网络收敛条件后，得到所述训练完成的卷积神经网络。

在本发明的一个实施例中，在睡眠阶段对所述卷积神经网络进行训练，更新所述卷积神经网络的参数，包括：

根据上一轮次清醒阶段训练后得到的所述卷积神经网络中每一层卷积层中每一个滤波器的信息熵，得到每一层卷积层的滤波器的信息熵大小排序；

对每一层卷积层的滤波器，按照其信息熵从小到大的顺序，确定所述剪枝比例对应数量的滤波器，作为所述卷积层对应的候选待剪枝滤波器；