[发明专利]一种自适应区域精修的目标检测知识蒸馏方法

说明书

本发明提供一种自适应区域精修的目标检测知识蒸馏方法，包括下列步骤：数据准备；网络结构搭建，方法如下：第一步：将输入的训练集图像分别送入教师网络和学生网络，提取出由学生网络得到的全部预测锚框，以及经过教师网络的骨干网络后输出的特征图F_T，图像经过学生网络的骨干网络后输出的特征图F_s′以及与其相邻卷积层输出的特征图F_s″；第二步：将所得到的预测锚框以及教师网络和学生网络所得到的特征图F_T与F_s′送入自适应精修模块，在真实标签Label和教师网络的共同监督下得到特征图中与被检测目标关联度极大的细粒度区域M；第三步：可得到特征图中不同通道的权重；第四步：经过不断的反馈优化最终得到轻量化的目标检测最优模型；模型训练。

技术领域

本发明涉及图像处理领域，特别是用于算力较低的移动设备的目标检测中。

背景技术

由于广泛的实用价值与理论价值，基于神经网络的目标检测成为计算机视觉与图像处理领域的一个研究热点，基于神经网络的目标检测是指利用神经网络模型，运用相关的算法在通用日常图像上检测出各种类型的目标。基于神经网络的目标检测以其检测精度高，计算速度快的特点，被广泛地应用在自动驾驶、视频监控、航天航空等领域中。

尽管使用更新、更复杂、更深度的网络获得了更好的检测效果，但是随着性能的提升速度逐渐变缓，例如Faster-RCNN等神经网络的模型参数和计算量巨大，其模型难以部署在存储与计算量极小的车载设备中^[1]。因此如何将已有的神经网络部署到车载设备等算力较低的移动设备上成为了当前亟待解决的问题。如果我们可以精简神经网络，降低其模型参数量和运算量的同时尽量保持其检测性能，我们就可以得到适用于低算力设备的目标检测网络模型。我们要平衡模型检测精度和模型参数大小，这两个因素是相互影响的。一般地，更深度的神经网络可以得到精度更高的模型，但是通常会伴随着大量的参数和复杂的运算；而浅层的神经网络虽然参数量少运算速度快，但是检测精度较低。

一种简单的方法是通道剪枝，它通过剪除复杂网络模型中不重要的通道，来尽可能降低模型的参数量，加快模型的推理速度^[2]。通道剪枝的方法快速易行，对模型参数量的减少显著，但因为无法十分精准地剪除冗余的通道，对精度的影响十分明显，剪枝后的模型往往精度严重降低。另外一种方法是知识蒸馏，它让一个轻量的学生网络模仿复杂高性能的教师网络的行为以得到性能的提升^[3]。这种知识蒸馏的方法可以将复杂网络的精度较好地传递给简单网络，使得即便是简单的模型也可推理出较高的精度。关于神经网络轻量化的研究，近年来利用知识蒸馏的方法来进行深层网络的提示学习(FITNETS:Hints ForThin Deep Nets)表现出很优异的效果，因为其对简单神经网络模型检测精度的提升十分明显而备受关注^[4]。

这些以前的神经网络轻量化方法仍然有局限性。现在许多通道剪枝的方法在减少模型参数量的同时伴随着检测精度的急剧降低，而知识蒸馏的方法虽然易于实现且精度保留程度高，但是大部分致力于分类等简单任务，很少关注复杂的检测任务。相比于分类任务，目标检测在它的基础上增加了检测任务，这部分是分类的先验工作，不可靠的定位将使得后续的分类没有意义。而将教师网络在定位准确的空间域和频率域的知识传递给学生网络，可以很好的解决上述的问题。

参考文献：

[1]Ren S,He K,Girshick R,et al.Faster R-CNN:Towards Real-Time ObjectDetection with Region Proposal Networks[J].IEEE Transactions on PatternAnalysisMachine Intelligence,2017,39(6):1137-1149.