[发明专利]目标检测网络的训练方法、目标检测方法及装置

说明书

本公开提供了一种目标检测网络的训练方法、目标检测方法及装置，所述目标检测网络的训练方法，包括：基于初始检测网络确定第一检测网络和第二检测网络，其中，所述第二检测网络的网络规模高于所述第一检测网络；基于样本数据分别对所述第一检测网络和所述第二检测网络进行训练；基于训练好的所述第一检测网络的输出值，和训练好的所述第二检测网络的输出值，对所述第一检测网络进行蒸馏训练，得到目标检测网络。

技术领域

本公开涉及神经网络技术领域，具体而言，涉及一种目标检测网络的训练方法、目标检测方法及装置。

背景技术

目标检测是计算机视觉领域的重要问题。现有的目标检测方法常常借助于深度学习技术，可以运用在缺陷检测、工业检测、智慧城市等诸多领域。

现有的目标检测模型，检测精度较高的模型，模型规模较大，难以应用在低算力的设备上；而模型规模较小的目标检测模型，检测精度又比较低，因此如何均衡检测精度和模型规模成为亟待解决的问题。

发明内容

本公开实施例至少提供一种目标检测网络的训练方法、目标检测方法及装置。

第一方面，本公开实施例提供了一种目标检测网络的训练方法，包括：

基于初始检测网络确定第一检测网络和第二检测网络，其中，所述第二检测网络的网络规模高于所述第一检测网络；

基于样本数据分别对所述第一检测网络和所述第二检测网络进行训练；

基于训练好的所述第一检测网络的输出值，和训练好的所述第二检测网络的输出值，对所述第一检测网络进行蒸馏训练，得到目标检测网络。

上述方法中，在基于初始检测网络确定第一检测网络和第二检测网络，并训练完成之后，可以基于检测精度较高的第二检测网络对第一检测网络进行蒸馏训练，进而提升第一检测网络的检测精度；这样就可以得到检测精度较高的小规模的目标检测网络。

一种可能的实施方式中，所述基于初始检测网络确定第一检测网络和第二检测网络，包括：

通过对所述初始检测网络进行规模调整，或者通过对所述初始检测网络进行规模调整和网络结构调整，确定所述第一检测网络和所述第二检测网络；

所述规模调整包括对所述初始检测网络的网络宽度按照第一预设比例进行调整和/或对所述初始检测网络的网络深度按照第二预设比例进行调整。

一种可能的实施方式中，所述基于样本数据分别对所述第一检测网络和所述第二检测网络进行训练，包括：

基于第一样本数据集对所述第一检测网络进行预训练，基于第二样本数据集对预训练后的第一检测网络进行微调训练；以及，

基于所述第二样本数据集对所述第二检测网络进行训练；

其中，所述第一样本数据集的样本数量多于所述第二样本数据集；所述第二样本数据集与所述目标检测网络的测试集之间的相似度，高于所述第一数据集与所述测试集之间的相似度。

通过第一样本数据集对第一检测网络进行预训练，可以提高第一检测网络的泛化能力，通过第二样本数据集对第一检测网络进行微调训练，可以提高第一检测网络的精度；

一种可能的实施方式中，所述基于训练好的所述第一检测网络的输出值，和训练好的所述第二检测网络的输出值，对所述第一检测网络进行蒸馏训练，包括：

基于所述第一检测网络的第一融合模块的输出值和所述第二检测网络的第二融合模块的输出值，确定损失值，其中，所述损失值用于表征所述第一融合模块的输出值和所述第二融合模块的输出值之间的差异；

基于所述损失值和所述第二检测网络对所述第一检测网络进行蒸馏训练。