[发明专利]一种基于知识蒸馏的少样本目标检测方法

权利要求书

1.一种基于知识蒸馏的少样本目标检测方法，其特征在于，该方法实现的具体操作步骤如下：

第一步：构建带有标注和标签的图片数据库，使其满足少样本目标检测的条件，并进行一定的数据增强扩充样本的多样性，分为联合训练数据D_joint和微调训练数据D_ft。

第二步：选择目标检测框架和backbone网络，构建网络模型，使用联合训练数据训练网络模型，得到权重模型；方法如下：

选择Faster-RCNN作为目标检测框架，采用拥有13个卷积层、3个全连接层和5个池化层的VGG16作为backbone网络，选择优化器为SGD，在ROI池化阶段选择Align方法，使用联合训练数据D_joint训练以上模型，最终得到联合训练模型权重，称为第一权重模型；

第三步：使用微调训练数据微调步骤二得到的第一权重模型，得到新权重模型，称为第二权重模型，方法如下：

使用微调训练数据D_ft训练第一权重模型，设置初始学习率，不设衰减轮次；设置训练轮次为5轮，选择优化器为SGD，在ROI池化阶段选择Align方法；冻结VGG16的所有特征层，只调整分类层；最终得到微调训练模型权重，称为第二权重模型；

第四步：将第二步得到的第一权重模型作为学生网络，第三步得到的第二权重模型作为教师网络，再次使用微调训练数据，根据教师网络对于该微调训练数据的测试结果来进行知识蒸馏，实现微调学生网络权重，得到最终第三权重模型，通过第三模型得到检测结果输出。

2.根据权利要求1所述的方法，其特征在于，第四步具体如下：

使用微调训练数据D_ft和教师网络的先验知识，对学生网络进行知识蒸馏训练，设置初始学习率，不设衰减轮次；设置训练轮次为8轮，选择优化器为SGD，在ROI池化阶段选择Align方法；冻结VGG16的前10个特征层，调整其后3个特征层和分类器，以改善高层过拟合；结合教师网络的先验知识和真实数据标签知识，根据以下公式计算对学生网络进行知识蒸馏时的总损失函数：

是教师网络和学生网络间的分类差异；不仅包括与教师网络的分布差异，还包括与真实标签的差异，随着蒸馏训练的进行，与教师网络的分布差异占比由高到低，与真实标签的差异占比由低到高；

是教师网络和学生网络间预测框的差异，通过回归学生网络预测框与真值的距离来提高其定位能力；

是针对少样本类的特征间差异；它通过生成有关少样本类的注意力分布图对教师和学生网络模型输出的特征差异做加权，以让学生网络更偏向的去学习少样本数据的特征；

λ、γ为超参数用于平衡不同的损失函数项；

得到最终第三权重模型。