[发明专利]基于对比对抗学习的领域自适应方法及装置在审

专利信息
申请号: 202111363731.9 申请日: 2021-11-17
公开(公告)号: CN114065861A 公开(公告)日: 2022-02-18
发明(设计)人: 孙艳丰;陈亮;王少帆 申请(专利权)人: 北京工业大学
主分类号: G06K9/62 分类号: G06K9/62;G06N3/08
代理公司: 北京市中闻律师事务所 11388 代理人: 冯梦洪
地址: 100124 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 对比 对抗 学习 领域 自适应 方法 装置
【权利要求书】:

1.基于对比对抗学习的领域自适应方法,其特征在于:该方法包括以下步骤:

(1)在源域数据上使用损失函数Lcls(xs,ys)训练整个网络模型,优化过程定义为公式(1):

其中,Lce(·,·)是交叉熵损失,θg,θc1θc2分别是特征网络G,C1,C2中的参数;

(2)固定特征提取器中参数,仅更新分类器C1和C2,最小化分类器分类损失以及最大化分类器对目标域样本判别差异,损失函数为公式(2):

其中,Ldis(·,·)表示双分类器对目标域样本判别差异仅更新分类器中的参数,同时模型加入分布对齐损失并最小化特征相似度,定义为公式(7):

其中,θc1,θc2分别代表了分类器C1和C2中的参数,λ和η分别代表损失函数中的平衡参数;

(3)固定分类器C1和C2中的参数,使用Ldis更新特征提取器中的参数,在这一步骤中保留了自适应损失项,定义为公式(8):

2.根据权利要求1所述的基于对比对抗学习的领域自适应方法,其特征在于:所述步骤(1)中,首先采用随机数据增强的方式将xi增强两次分别获得和然后两个视角的数据同时送入特征提取器,经过分类器中的隐藏层映射后获得不同视角的特征和

3.根据权利要求2所述的基于对比对抗学习的领域自适应方法,其特征在于:所述步骤(2)中,使用余弦相似度度量不同视角特征之间的差异,为公式(4):

其中,表示和之间的余弦相似度,两个分类器期望最小化和之间的余弦相似度,而特征提取器期望最大化两者的相似度。

4.根据权利要求3所述的基于对比对抗学习的领域自适应方法,其特征在于:所述步骤(2)中,使用MLP以及梯度停止技巧防止模式崩塌,带有对称关系分类器差异损失为公式(5):

其中,模块M的输入和输出维度一致以满足向量余弦相似度计算的需要。

5.根据权利要求4所述的基于对比对抗学习的领域自适应方法,其特征在于:所述步骤(3)中,使用Sliced Wasserstein距离减小源域和目标域数据标签分布的差异,使得目标域数据向着正确的方向移动,自适应损失为公式(6):

其中,fs和ft分别表示源域和目标域特征。

6.根据权利要求5所述的基于对比对抗学习的领域自适应方法,其特征在于:该方法应用到Image-CLEF-DA数据集,该数据集由三个子域构成,分别是Caltech-256(C),ImageNetILSVRC 2012(I)以及Pascalvoc 2012(P),整个数据集中含有1800张图片样本,每一个子域中分别含有600张图片样本并包含有12个类别。

7.基于对比对抗学习的领域自适应装置,其特征在于:该装置包括:训练模块,其配置来在源域数据上使用损失函数Lcls(xs,ys)训练整个网络模型,优化过程定义为公式(1):

其中,Lce(·,·)是交叉熵损失,θg,θc1θc2分别是特征网络G,C1,C2中的参数;分类器更新模块,其配置来固定特征提取器中参数,仅更新分类器C1和C2,最小化分类器分类损失以及最大化分类器对目标域样本判别差异,损失函数为公式(2):

其中,Ldis(·,·)表示双分类器对目标域样本判别差异仅更新分类器中的参数,同时模型加入分布对齐损失并最小化特征相似度,定义为公式(7):

其中,θc1,θc2分别代表了分类器C1和C2中的参数,λ和η分别代表损失函数中的平衡参数;

特征提取器更新模块,其配置来固定分类器C1和C2中的参数,使用Ldis更新特征提取器中的参数,在这一步骤中保留了自适应损失项,定义为公式(8):

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工业大学,未经北京工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111363731.9/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top