[发明专利]基于对比对抗学习的领域自适应方法及装置在审
| 申请号: | 202111363731.9 | 申请日: | 2021-11-17 |
| 公开(公告)号: | CN114065861A | 公开(公告)日: | 2022-02-18 |
| 发明(设计)人: | 孙艳丰;陈亮;王少帆 | 申请(专利权)人: | 北京工业大学 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/08 |
| 代理公司: | 北京市中闻律师事务所 11388 | 代理人: | 冯梦洪 |
| 地址: | 100124 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 对比 对抗 学习 领域 自适应 方法 装置 | ||
1.基于对比对抗学习的领域自适应方法,其特征在于:该方法包括以下步骤:
(1)在源域数据上使用损失函数Lcls(xs,ys)训练整个网络模型,优化过程定义为公式(1):
其中,Lce(·,·)是交叉熵损失,θg,θc1θc2分别是特征网络G,C1,C2中的参数;
(2)固定特征提取器中参数,仅更新分类器C1和C2,最小化分类器分类损失以及最大化分类器对目标域样本判别差异,损失函数为公式(2):
其中,Ldis(·,·)表示双分类器对目标域样本判别差异仅更新分类器中的参数,同时模型加入分布对齐损失并最小化特征相似度,定义为公式(7):
其中,θc1,θc2分别代表了分类器C1和C2中的参数,λ和η分别代表损失函数中的平衡参数;
(3)固定分类器C1和C2中的参数,使用Ldis更新特征提取器中的参数,在这一步骤中保留了自适应损失项,定义为公式(8):
2.根据权利要求1所述的基于对比对抗学习的领域自适应方法,其特征在于:所述步骤(1)中,首先采用随机数据增强的方式将xi增强两次分别获得和然后两个视角的数据同时送入特征提取器,经过分类器中的隐藏层映射后获得不同视角的特征和
3.根据权利要求2所述的基于对比对抗学习的领域自适应方法,其特征在于:所述步骤(2)中,使用余弦相似度度量不同视角特征之间的差异,为公式(4):
其中,表示和之间的余弦相似度,两个分类器期望最小化和之间的余弦相似度,而特征提取器期望最大化两者的相似度。
4.根据权利要求3所述的基于对比对抗学习的领域自适应方法,其特征在于:所述步骤(2)中,使用MLP以及梯度停止技巧防止模式崩塌,带有对称关系分类器差异损失为公式(5):
其中,模块M的输入和输出维度一致以满足向量余弦相似度计算的需要。
5.根据权利要求4所述的基于对比对抗学习的领域自适应方法,其特征在于:所述步骤(3)中,使用Sliced Wasserstein距离减小源域和目标域数据标签分布的差异,使得目标域数据向着正确的方向移动,自适应损失为公式(6):
其中,fs和ft分别表示源域和目标域特征。
6.根据权利要求5所述的基于对比对抗学习的领域自适应方法,其特征在于:该方法应用到Image-CLEF-DA数据集,该数据集由三个子域构成,分别是Caltech-256(C),ImageNetILSVRC 2012(I)以及Pascalvoc 2012(P),整个数据集中含有1800张图片样本,每一个子域中分别含有600张图片样本并包含有12个类别。
7.基于对比对抗学习的领域自适应装置,其特征在于:该装置包括:训练模块,其配置来在源域数据上使用损失函数Lcls(xs,ys)训练整个网络模型,优化过程定义为公式(1):
其中,Lce(·,·)是交叉熵损失,θg,θc1θc2分别是特征网络G,C1,C2中的参数;分类器更新模块,其配置来固定特征提取器中参数,仅更新分类器C1和C2,最小化分类器分类损失以及最大化分类器对目标域样本判别差异,损失函数为公式(2):
其中,Ldis(·,·)表示双分类器对目标域样本判别差异仅更新分类器中的参数,同时模型加入分布对齐损失并最小化特征相似度,定义为公式(7):
其中,θc1,θc2分别代表了分类器C1和C2中的参数,λ和η分别代表损失函数中的平衡参数;
特征提取器更新模块,其配置来固定分类器C1和C2中的参数,使用Ldis更新特征提取器中的参数,在这一步骤中保留了自适应损失项,定义为公式(8):
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工业大学,未经北京工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111363731.9/1.html,转载请声明来源钻瓜专利网。





