[发明专利]一种基于分布对抗的无监督深度领域适应方法在审
| 申请号: | 202110401067.6 | 申请日: | 2021-04-14 |
| 公开(公告)号: | CN113011523A | 公开(公告)日: | 2021-06-22 |
| 发明(设计)人: | 潘杰;黄霄汉;陈宁宁;邹筱瑜 | 申请(专利权)人: | 中国矿业大学 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
| 代理公司: | 南京瑞弘专利商标事务所(普通合伙) 32249 | 代理人: | 马玉雯 |
| 地址: | 221116 江苏省*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 分布 对抗 监督 深度 领域 适应 方法 | ||
1.一种基于分布对抗的无监督深度领域适应方法,其特征在于,该方法包括以下步骤:
(1)获取待分析数据:选取图片数据,图片数据x输入网络产生分类标签y∈Y和领域标签d∈D,Y为标签集,D={0,1},图片数据分为源域数据和目标域数据,源域数据定义为目标域数据定义为
(2)建立深度网络模型:所述模型基于深度卷积神经网络建立,包括卷积层构成的特征提取器Gf、全连接层构成的标签分类器Gy和领域判别器Gd;
(3)数据的前向传播:特征提取器Gf对源域和目标域分别提取特征f,之后分两路将各自领域特征向网络更高层传播:一路传给标签分类器Gy,另一路传给领域判别器Gd;
(4)构造损失函数:建立对深度网络模型参数进行更新的损失函数;
(4.1)计算标签分类器的损失Ly;
(4.2)计算领域判别器的损失Ld;
(4.3)计算多核最大均值差异;
(4.4)计算全局损失函数L;
(5)模型训练过程:使用mini-batch随机梯度下降法进行参数更新;通过反向传播训练模型的特征提取器、标签分类器与领域判别器。
2.根据权利要求1所述一种基于分布对抗的无监督深度领域适应方法,其特征在于,步骤(2)中所述特征提取器Gf负责提取特征f,f=Gf(x,θf);
所述标签分类器Gy的预测值设为y′,y′=Gy(f,θy)
所述领域判别器Gd预测标签设为d′,d′=Gd(f,θd);
其中,θf、θy与θd分别表示特征提取器、标签分类器与领域判别器的网络权值。
3.根据权利要求1所述一种基于分布对抗的无监督深度领域适应方法,其特征在于,步骤(3)中所述标签分类器Gy由两路全连接网络组成,即源域与目标域全连接网络,两路网络权重共享,结构相同;源域的全连接网络通过源域标签数据进行训练,使其能够进行标签分类;
所述领域判别器Gd采用两层全连接结构,作用为二分类器,能够区分特征提取器Gf所提取的特征f所属的领域。
4.根据权利要求1所述一种基于分布对抗的无监督深度领域适应方法,其特征在于,所述步骤(4.1)中标签分类器损失的表达式为:
其中,ns为源域数据总个数,和分别表示源域第i个样本和第i个样本的类别标签;LC(·,·)为交叉熵损失函数即表示最后一层分类层输出的特征对应于所有类别的概率分布,表示源域第i个样本属于第e类的概率,C为类别总数。
5.根据权利要求1所述一种基于分布对抗的无监督深度领域适应方法,其特征在于,所述步骤(4.2)中领域判别器损失的表达式为:
其中,LD表示领域判别器交叉熵,xi和di分别表示第i个样本和第i个样本的域标签,n表示样本总数;
由此得到领域对抗网络的目标函数表达式:
其中,ns,nt分别为源域与目标域数据个数,且ns+nt=n;λ为平衡系数,用来平衡分类损失和领域判别损失所占比例;Ds为源域数据,Dt为目标域数据;xi和di分别表示源域和目标域并集中的第i个样本和第i个样本的域标签,和分别表示源域第i个样本和第i个样本的类别标签。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国矿业大学,未经中国矿业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110401067.6/1.html,转载请声明来源钻瓜专利网。





