[发明专利]基于一致性训练的自监督领域自适应深度学习方法

说明书

本发明公开了一种基于一致性训练的自监督领域自适应深度学习方法。该方法首先构建一个数据增强变换集合，对每一个变换定义一个标签。针对源域样本和其对应的类别标签，构建分类任务；对源域和目标域样本应用所述数据增强变换，通过最小化预测该变换类别的误差，构建自监督学习任务；针对源域和目标域样本，通过最小化变换后的样本和原始样本在分类任务上的输出的KL散度(Kullback‑Leibler Divergence)，构建一致性训练任务；构建一个多任务学习网络，将所述的分类、自监督学习和一致性训练任务进行联合训练。该方法无需对目标域样本进行标注，能有效地学习目标域特征表示，提升目标域上样本分类和识别的性能。本申请还公开了一种领域自适应深度学习可读存储介质，同样具有上述有益效果。

技术领域

本发明属于新一代信息技术领域，具体涉及领域自适应深度学习图像分类方法及可读存储介质。

背景技术

机器学习特别是深度学习模型通常需要大量的标注样本来进行监督学习，比如图像、文本等的分类和识别需要收集大量的样本，同时还需要标注每一个样本的对应的类别。当模型在标注数据上训练完成之后，将其应用到测试数据上。当测试数据与训练数据具有相同的分布时，监督学习是一种非常有效的方法。然而实际应用中通常会出现测试数据与训练数据分布不同的情况，从而使得模型在测试数据集上的性能急剧下降。

领域自适应(domain adaptation)是解决上述由于训练和测试数据分布差异引起模型性能下降问题的一类技术方法。通常将训练数据集称为源领域，测试数据集称为目标领域。源领域的数据是带有标注信息的，而目标领域的数据通常是没有标注信息的。领域自适应技术旨在将源领域的监督信息迁移到目标领域，提升目标领域上任务的性能。目前基于深度神经网络的领域自适应学习大多数是通过领域对抗训练来学习跨领域不变的特征表示，从而提升目标领域上的任务的性能的。然而领域对抗训练需要优化一对相互对抗的目标函数，训练过程的收敛比较困难，很难得到最优的模型。

发明内容

本发明要解决的技术问题是领域对抗训练时优化一对相互对抗的目标函数，训练过程的收敛困难，难以获取适合的模型。

本发明为解决上述技术问题，提供基于一致性训练的自监督领域自适应深度学习图像分类方法，该方法提供一种非对抗式的训练方法，以提高目标领域上任务的性能，具体的技术方案如下：

S1：构建一个多任务学习深度神经网络，包含一个参数为θ_e的特征提取网E，参数为θ_m主分类网M，以及参数为θ_p的图像增强变换预测网P；

S2：将源域图像x^s和其类别标签y组成分类任务训练集D^s＝{(x^s,y)|y∈[0,C]}，其中C是类别数；

S3：构建一组图像增强变换集合G＝{g(x,r)|r∈[0,R)}，每一个图像增强变换g(x,r)对应一个变换类别标签r；

S31：对源域图像x^s应用图像增强变换得到源域自监督训练集以及源域一致性训练集

S32：对目标域图像x^t应用图像增强变换得到目标域自监督训练集以及目标域一致性训练集

S4：将步骤S31中的源域自监督训练集和步骤S32中的目标域自监督训练集合并得到总的自监督训练集

S5：将步骤S31中的源域一致性训练集和步骤S32中的目标域一致性训练集合并得到总的一致性训练集D^c＝D^cs∪D^ct；

S6：针对步骤S2中分类任务训练集D^s以及步骤S1中的特征提取网E和主分类网M，构建有监督学习任务，其训练损失函数为：