[发明专利]基于对抗融合多源迁移学习的图像分类方法有效
申请号: | 202010521228.0 | 申请日: | 2020-06-10 |
公开(公告)号: | CN111738315B | 公开(公告)日: | 2022-08-12 |
发明(设计)人: | 方敏;徐筱;杜辉;胡心钰;李海翔;郭龙飞 | 申请(专利权)人: | 西安电子科技大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/40;G06V10/82;G06N3/04;G06N3/08 |
代理公司: | 陕西电子工业专利中心 61205 | 代理人: | 王品华;黎汉华 |
地址: | 710071*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 对抗 融合 迁移 学习 图像 分类 方法 | ||
本发明公开了一种基于对抗融合多源迁移学习的图像分类方法,主要解决现有技术图像分类准确率低的问题。其实现方案是:1)建立特征提取网络,从原始图像文件中提取图像特征;2)将图像特征输入特定的域判别器及分类器,计算得到域判别损失及目标域数据的伪标记、源域数据的分类损失;3)利用目标域样本伪标记与源域样本标记,计算得到源域与目标域中所有类别的MMD距离之和;4)利用域判别损失、分类损失及MMD距离之和对特征提取网络、域判别器及分类器进行训练;5)将待测样本依次输入到训练后的特征提取网络、域判别器及分类器,输出待测样本的类别标记。本发明能有效提高各类图像的分类准确率,可用于训练数据标记缺失下的图像分类。
技术领域
本发明属于图像识别领域,特别涉及一种图像分类方法,可用于训练数据标记缺失下的图像分类。
背景技术
迁移学习是把在一个领域中学习到的知识、经验“迁移”到另外一个不同但相关的领域,以提高模型的学习效率,而不用重新开始学。一般把待分类或待预测的领域称为“目标域”;把有大量标记数据的辅助域称为“源域”,二者是存在域差异的。利用迁移学习研究图像分类问题在国内外已取得了显著的成效。现有的迁移学习方法可分为基于样本、基于特征和基于模型的方法。
受到博弈论中二人零和博弈的启发,有学者提出生成式对抗网络GAN,其包含一对互相对抗的模块,分别是生成式模型和判别式模型,可简称为生成器和判别器。生成器可以生成数据,其原始输入是随机噪声数据,目的是尽可能逼近真实数据;判别器的目的是尽可能的区分出生成数据和真实数据。
受GAN中对抗思想的启发,有研究人员提出基于对抗思想进行迁移学习。在基于对抗思想的迁移学习方法中,生成器与GAN中生成样本这一目标不同,其不再真正生成数据,而是对原始数据进行特征提取,使得判别器无法对两个领域进行分辨,此时生成器可以称为特征提取器。基于对抗的迁移学习核心思想是训练两个神经网络:一个试图区分源域和目标域特征的判别网络,一个试图迷惑判别网络使其无法区分源域和目标域特征的特征提取网络,基于这样的领域对抗思想,特征提取器最终能够提取到判别器无法区分的域不变特征,即可迁移特征,因此基于这种可迁移特征训练的分类器可以直接用来分类目标域的数据。
多源迁移方法,是利用基分类器加权来进行多个源域的迁移,利用多个源域训练得到的多个分类器对目标域数据进行预测,结果加权得到目标域数据的最终标记。如A-SVM方法提出了一个自适应的支持向量机模型,其利用多个源域分类器集成得到一个目标域的支持向量机分类模型,但是该方法认为所有源域分类器对目标域的贡献相同,并未考虑到不同源域之间的差异。MultiSourceTrAdaBoost方法利用样本加权的方式来对多个源域进行迁移,该方法在每个源域和目标域组合上学习一个分类器,然后计算多个弱分类器的分类误差并进行权值更新。MultiSourceTrAdaBoost方法中源域样本的权值更新策略类似于TrAdaBoost算法,目标域样本的权值更新策略类似于AdaBoost算法,最终利用训练好的加权分类器对目标域样本预测。Sun等人提出两级多源迁移学习方法,分别基于边缘分布和条件分布进行加权,使得源域和目标域分布更相近。
随着深度神经网络和生成对抗网络的发展,基于深度网络的多源域适应方法近两年也得到了国内外学者们的关注,如多源域对抗网络MDAN,该方法使用对抗策略学习多个源域的具有域不变性和任务判别性的特征;Xu R等人提出把所有的源域和目标域数据映射到一个公共的特征空间,以学习可迁移的域不变特征。
上述方法虽能实现目标域数据标记缺失下的图像分类工作,但其由于使用同一网络对源域数据进行特征提取,导致源域数据丧失部分有效特征,影响最终分类效果。
发明内容
本发明的目的在于针对上述现有技术的不足,提出一种基于对抗融合多源迁移学习的图像分类方法,以提高训练数据标记缺失下的图像分类准确率。
为实现上述目的,本发明的技术方案包括如下步骤:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安电子科技大学,未经西安电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010521228.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种废气催化燃烧装置
- 下一篇:一种餐厨垃圾制备腐殖土的方法