[发明专利]一种基于转换网络与自监督的小样本分类方法

说明书

本发明公开了一种基于转换网络与自监督的小样本分类方法，在通用的分类模型基础上增加一个转换网络模块，加入不同噪声进行特征增强，合成具有区分性与多样性的特征嵌入，使训练出来的模型可以更好的适用于小样本下游任务。具体包括如下步骤：获取用于训练特征提取器与转换网络模块的图像数据集；将图像数据集送入网络，使用特征增强方法获得具有区分性和多样性的特征嵌入，并结合自监督学习训练特征提取器与转换网络模块，优化目标是几个交叉熵损失与KL散度的和；获得训练好的特征提取器和转换网络模块，并将它应用于小样本分类任务。本发明在4个小样本分类任务基准(miniImageNet，tieredImageNet，CIFAR‑FS和Caltech‑UCSD)上均有很好的表现，证明了其在性能上的有效性与优越性。

技术领域

本发明属于计算机视觉领域，特别地涉及一种加入转换网络与自监督的小样本分类方法。

背景技术

小样本学习旨在每个类别只需要学习少量样本就可以识别目标类别。为了完成这个任务，现存的很多方法都用基类来训练模型，每个基类都包含大量的带标签样本，然后把训练好的模型应用于测试任务。根据从基类迁移的数据，现存的的小样本学习方法可以被粗略分为三类：基于元学习的方法；基于度量学习的方法；基于数据增强的方法。

基于元学习的方法试图去学习一个能调整优化算法的元学习者，以便元学习者能够快速适应小样本任务；

基于度量学习的方法是指学习一个可迁移的距离度量函数，来评估样本间的相似性；

基于数据增强的方法是指通过使用通用的图像变换技术或者生成对抗网络来增强数据。但是此方法因为缺少小样本任务需要的特性，因此性能总是不尽如人意。

小样本学习中的分类问题主要指C-way K-shot问题，它是指：在训练阶段，在训练集中随机抽取C个类别，每个类别K个样本(共C×K个数据)作为模型的支持集输入，再从这C个类别中剩余的数据抽取Q个样本作为模型的查询集，即要求模型从C×K个数据中学会如何区分这C个类别。

发明内容

本发明提出了一种加入转换网络与自监督的小样本分类方法，来更好地适应于小样本下游任务。本方法通过加入转换网络模块，它由一对编码器与解码器组成，输出是合成的特征嵌入。本方法使用一种简单的特征合成技术去扰动特征空间，合成具有区分性和多样性的特征嵌入，这通过让合成的特征嵌入被正确分类到原始特征嵌入所在的种类，同时根据加入干扰的不同而分到不同的子类实现。另外在保证多样性的过程中，利用了自监督学习。这正是小样本任务所需要的特性。

为实现上述目的，本发明的技术方案为：

一种加入转换网络与自监督的小样本分类方法，包括以下步骤：

S1、获取用于训练特征提取器与转换网络模块的图像数据集；

S2、将图像数据集送入网络，使用特征增强方法获得具有区分性和多样性的特征嵌入，并结合自监督学习训练特征提取器与转换网络模块；

S3、将训练后的模型用于小样本分类任务。

进一步的，步骤S1中，给定基类其中n为数据集中的图像总数，x_i和y_i分别表示第i张图像及其对应的类标签，y_i∈{1，...，C}，C表示类别总数，每一类都包含多张图像。

进一步的，步骤S2具体包括：

S21、在训练深度神经网络时采用批量处理的方式，首先从图像数据集中随机采样一个批量的图像样本其中批量大小N_bs预先给定；

S22、将B中的批量图像样本送入由骨干网络和分类器组成的模型，得到它们的预测概率。使用交叉熵(cross-entropy，简称CE)损失的模型的优化目标是