[发明专利]模型训练方法、装置、设备和存储介质

权利要求书

1.一种模型训练方法，包括：

基于教师模型输出的第一原始特征图，获取第一分块特征图，所述第一分块特征图包括所述第一原始特征图的多个图像块；

基于初始的学生模型输出的第二原始特征图，获取第二分块特征图，所述第二分块特征图包括所述第二原始特征图的多个图像块，其中，所述第一原始特征图和所述第二原始特征图的维度相同，且，所述第一原始特征图的多个图像块与所述第二原始特征图的多个图像块的个数相同；

基于所述第一分块特征图和所述第二分块特征图，构建总损失函数；

基于所述总损失函数，调整所述初始的学生模型的参数，以生成最终的学生模型。

2.根据权利要求1所述的方法，其中，所述基于所述第一分块特征图和所述第二分块特征图，构建总损失函数，包括：

基于所述第一原始特征图的多个图像块之间的相似度，对所述第一分块特征图进行加权处理，以获取第一加权特征图；

基于所述第二原始特征图的多个图像块之间的相似度，对所述第二分块特征图进行加权处理，以获取第二加权特征图；

基于所述第一加权特征图和所述第二加权特征图，构建所述总损失函数。

3.根据权利要求1所述的方法，其中，所述基于所述第一分块特征图和所述第二分块特征图，构建总损失函数，包括：

基于所述第一分块特征图和所述第二分块特征图，构建第一损失函数；

基于所述第一原始特征图的多个图像块之间的相似度，对所述第一分块特征图进行加权处理，以获取第一加权特征图；

基于所述第二原始特征图的多个图像块之间的相似度，对所述第二分块特征图进行加权处理，以获取第二加权特征图；

基于所述第一加权特征图和所述第二加权特征图，构建第二损失函数；

基于所述第一损失函数和所述第二损失函数，构建所述总损失函数。

4.根据权利要求2或3所述的方法，其中，所述基于所述第一原始特征图的多个图像块之间的相似度，对所述第一分块特征图进行加权处理，以获取第一加权特征图，包括：

基于所述第一分块特征图，获取第一相似度矩阵，所述第一相似度矩阵用于表明所述第一原始特征图的多个图像块之间的相似度；

基于所述第一相似度矩阵和所述第一分块特征图，获取所述第一加权特征图。

5.根据权利要求4所述的方法，其中，所述基于所述第一分块特征图，获取第一相似度矩阵，包括：

对所述第一分块特征图进行第一形状转换处理，以获取第一矩阵；

对所述第一分块特征图进行第二形状转换处理，以获取第二矩阵；

将所述第一矩阵和所述第二矩阵的乘积，作为所述第一相似度矩阵；

其中，所述第一矩阵的行数和所述第二矩阵的列数均为所述多个图像块的个数。

6.根据权利要求4所述的方法，其中，所述基于所述第一相似度矩阵和所述第一分块特征图，获取所述第一加权特征图，包括：

对所述第一相似度矩阵进行归一化处理，以获取归一化处理后的第一相似度矩阵；

基于所述归一化处理后的第一相似度矩阵，以及所述第一分块特征图的乘积，获取所述第一加权特征图。

7.根据权利要求2或3所述的方法，其中，所述基于所述第二原始特征图的多个图像块之间的相似度，对所述第二分块特征图进行加权处理，以获取第二加权特征图，包括：

基于所述第二分块特征图，获取第二相似度矩阵，所述第二相似度矩阵用于表明所述第二原始特征图的多个图像块之间的相似度；

基于所述第二相似度矩阵和所述第二分块特征图，获取所述第二加权特征图。

8.根据权利要求7所述的方法，其中，所述基于所述第二分块特征图，获取第二相似度矩阵，包括：

对所述第二分块特征图进行第三形状转换处理，以获取第三矩阵；

对所述第二分块特征图进行第四形状转换处理，以获取第四矩阵；

将所述第三矩阵和所述第四矩阵的乘积，作为所述第二相似度矩阵；

其中，所述第三矩阵的行数和所述第四矩阵的列表均为所述多个图像块的个数。