[发明专利]知识蒸馏和图像处理方法、装置、电子设备和存储介质

说明书

本申请提出一种知识蒸馏和图像处理方法、装置、电子设备和存储介质。其中，上述方法可以包括，分别利用学生模型与教师模型对图像数据集进行图像处理得到第一输出特征与第二输出特征，确定上述第一输出特征包括的各通道的特征图与上述第二输出特征包括的各通道的特征图之间匹配的特征图对所处的通道数之间的对应关系。对上述学生模型进行训练。其中，在每一轮训练中，利用确定的上述对应关系对上述学生模型与上述教师模型的输出特征进行特征对齐操作，并根据特征对齐后的输出特征进行知识蒸馏。

技术领域

本申请涉及计算机技术，具体涉及知识蒸馏和图像处理方法、装置、电子设备和存储介质。

背景技术

目前，神经网络模型得到了迅速的发展。例如，在图像处理任务中，可以利用诸如RCNN(Region Convolutional Neural Networks，区域卷积神经网络)，FAST-RCNN(FastRegion Convolutional Neural Networks，快速区域卷积神经网络)等深度卷积神经网络模型，实现诸如图像分类、物体检测、语义分割等操作。

然而，随着任务越来越复杂，对处理结果的要求越来越高，神经网络模型的结构会变的越来越复杂，占用空间也越来越大。这将可能占用很大计算资源和存储空间，甚至导致神经网络模型无法利用在类似手机这样的设备中。

由此，需要一种模型压缩方法，可以使结构简单的学生模型向结构复杂的教师模型进行学习，让学生模型的结果尽可能接近教师模型，从而完成模型压缩。

发明内容

有鉴于此，本申请至少公开一种知识蒸馏方法，上述方法包括：

分别利用学生模型与教师模型，对图像数据集进行图像处理，得到第一输出特征与第二输出特征；

基于上述第一输出特征与上述第二输出特征，确定上述第一输出特征包括的各通道的特征图与上述第二输出特征包括的各通道的特征图之间匹配的特征图对所处的通道数之间的对应关系；

对上述学生模型进行训练；其中，在每一轮训练中，分别利用上述学生模型与上述教师模型，对输入的样本图像进行图像处理，得到第三输出特征与第四输出特征；确定上述第三输出特征与上述样本图像对应的真实特征之间的误差；利用确定的上述对应关系进行特征对齐操作以使上述第三输出特征包括的各通道的特征图与上述第四输出特征包括的各通道的特征图中，处于相同通道数的特征图之间匹配；进一步确定特征对齐后的上述第三输出特征与上述第四输出特征之间的差距；基于上述误差与上述差距更新上述学生模型的模型参数。

本申请还公开一种图像处理方法，上述方法包括：

获取目标图像；

利用图像处理模型对上述目标图像进行图像处理，得到图像处理结果；

其中，上述图像处理模型包括根据前述任一实施例示出的知识蒸馏方法训练得到的模型。

本申请还公开一种知识蒸馏装置，上述装置包括：

图像处理模块，用于分别利用学生模型与教师模型，对图像数据集进行图像处理，得到第一输出特征与第二输出特征；

对应关系确定模块，用于基于上述第一输出特征与上述第二输出特征，确定上述第一输出特征包括的各通道的特征图与上述第二输出特征包括的各通道的特征图之间匹配的特征图对所处的通道数之间的对应关系；