[发明专利]一种模型优化方法和装置

说明书

本发明公开了一种模型优化方法和装置，用以解决由于半监督学习的监督信息不足而导致图像分类模型训练效果差的问题。包括：获取图像分类模型的训练样本，训练样本包括有标签样本和无标签样本，无标签样本包括有伪标签样本；将有标签样本和有伪标签样本作为伪监督对比学习样本输入图像分类模型，以确定伪监督对比学习损失，伪监督对比学习损失根据图像分类模型的特征提取网络对有标签样本和有伪标签样本提取的特征确定；根据伪监督对比学习损失优化图像分类模型。本方案利用伪标签进行对比表示学习，能从特征提取网络提取的特征维度优化损失函数，使损失函数更准确地表达模型损失，从而有效丰富监督信号，优化模型训练效果。

技术领域

本发明涉及机器学习领域，尤其涉及一种模型优化方法和装置。

背景技术

在机器学习领域，往往需要利用样本对模型进行训练与优化。当样本中包含无标签样本时，可以应用半监督学习、无监督学习等方式进行模型训练。但是，半监督学习算法能获得的信息全部来自有标签数据的监督信息和无标签数据的一致性信息。仅使用少量标签数据的有监督训练和低密度假设所能提供的监督信息是不足的。而在无监督表示学习中，对比学习由于不能充分利用关键且有价值的有标签数据，导致对比学习在半监督任务中表现效果不理想。

如何优化图像分类模型训练效果，是本申请所要解决的技术问题。

发明内容

本申请实施例的目的是提供一种模型优化方法和装置，用以解决由于半监督学习的监督信息不足而导致图像分类模型训练效果差的问题。

第一方面，提供了一种模型优化方法，包括：

获取图像分类模型的训练样本，所述训练样本包括有标签样本和无标签样本，所述无标签样本包括有伪标签样本；

将所述有标签样本和所述有伪标签样本作为伪监督对比学习样本输入所述图像分类模型，以确定伪监督对比学习损失，所述伪监督对比学习损失根据所述图像分类模型的特征提取网络对所述有标签样本和所述有伪标签样本提取的特征确定；

根据所述伪监督对比学习损失优化所述图像分类模型

第二方面，提供了一种模型优化装置，包括：

获取模块，获取图像分类模型的训练样本，所述样本包括有标签样本和无标签样本，所述无标签样本包括有伪标签样本；

确定模块，将所述有标签样本和所述有伪标签样本作为伪监督对比学习样本输入所述图像分类模型，以确定伪监督对比学习损失，所述伪监督对比学习损失根据所述图像分类模型的特征提取网络对所述有标签样本和所述有伪标签样本提取的特征确定；

优化模块，根据所述伪监督对比学习损失优化所述图像分类模型。

第三方面，提供了一种电子设备，该电子设备包括处理器、存储器及存储在该存储器上并可在该处理器上运行的计算机程序，该计算机程序被该处理器执行时实现如第一方面的方法的步骤。

第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质上存储计算机程序，该计算机程序被处理器执行时实现如第一方面的方法的步骤。

在本申请实施例中，获取图像分类模型的训练样本，训练样本包括有标签样本和无标签样本，无标签样本包括有伪标签样本；将有标签样本和有伪标签样本作为伪监督对比学习样本输入图像分类模型，以确定伪监督对比学习损失，伪监督对比学习损失根据图像分类模型的特征提取网络对有标签样本和有伪标签样本提取的特征确定；根据伪监督对比学习损失优化图像分类模型。本方案利用伪标签进行对比表示学习，能从特征提取网络提取的特征维度优化损失函数，使损失函数更准确地表达模型损失，从而有效丰富监督信号，提高模型优化训练的效果。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：