[发明专利]一种基于全局特征和内在特征关联的迁移学习方法在审
申请号: | 202111408367.3 | 申请日: | 2021-11-19 |
公开(公告)号: | CN114067151A | 公开(公告)日: | 2022-02-18 |
发明(设计)人: | 易长安;陈浩天;谭海曙 | 申请(专利权)人: | 佛山科学技术学院 |
主分类号: | G06V10/762 | 分类号: | G06V10/762;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 佛山市禾才知识产权代理有限公司 44379 | 代理人: | 刘羽波;陈嘉琦 |
地址: | 528000 *** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 全局 特征 内在 关联 迁移 学习方法 | ||
一种基于全局特征和内在特征关联的迁移学习方法,包括通过深度神经网络来提取样本的深度特征;从目标域里选择一定比例的样本作为带标签的目标域样本,其余样本属于无标签的目标域样本;采用半监督的对抗迁移学习方法,学习出目标域的基模型;根据深度特征分别对源域的全部样本、目标域的无标签样本分别进行无监督聚类,每个聚类称为一个组件;对源域、目标域的组件进行匹配,每一个匹配称为一个配对;针对每一个配对,都以基模型为基础进行微调,使之更符合该配对里的目标域成分。同时考虑了特征的整体分布、特征之间的内在关联,可以更好地实现知识迁移,从而更好地解决了物体识别等领域里的人工标注费时、费力等问题,提高迁移效率。
技术领域
本发明涉及人工智能迁移学习技术领域,尤其涉及一种基于全局特征和内在特征关联的迁移学习方法。
背景技术
深度学习在图像分类领域已经取得了非常大的成功,但是,其成功的前提是模型需要学习大量的参数,并且要有大量的带标签的数据做支撑。但是,一旦到了新的场景(或者任务稍微发生变化),原来学习到的模型往往不能够直接应用,这时,常常需要为新场景训练新的模型。在实际分类问题中,很难得到构建模型所需的大规模的数据,人工标注数据的效率其实很低。用人工标记的大量数据训练出来的模型,很难在真实数据中取得理想的效果。因此,利用迁移学习来解决此类问题。
现有的图像分类迁移方法都是基于全局的类别信息进行迁移,没有考虑样本的内在细微特征的相似之处、不同之处,这样大大降低了模型的性能,导致出现迁移效率低的问题。
发明内容
本发明的目的在于针对背景技术中的缺陷,提出一种基于全局特征和内在特征关联的迁移学习方法,本技术方案应用于图像分类学习领域,首先通过深度神经网络来提取样本的深度特征;从目标域里选择一定比例的样本并且把这些样本作为带标签的目标域样本,其余的样本属于无标签的目标域样本;采用半监督的对抗迁移学习方法,学习出目标域的基模型;根据深度特征分别对源域的全部样本、目标域的无标签样本进行无监督聚类,从而将内在特征相似的样本聚在一起,每个聚类称为一个组件;对源域、目标域的组件进行匹配,每一个匹配称为一个配对;针对每一个配对,都以基模型为基础进行微调,使之更符合该配对里的目标域成分。同时考虑了特征的整体分布、特征之间的内在关联,可以更好地实现知识迁移,从而更好地解决了物体识别等领域里的人工标注费时、费力等问题,提高迁移效率。
为了解决上述问题,本发明提出一种基于全局特征和内在特征关联的迁移学习方法,包括如下步骤:
步骤A:准备样本,将当前场景的带有标签的图片数据划分为源域,将新场景的无标签的图片数据划分为目标域;
步骤B:提取深度特征,通过深度神经网络提取样本的深度特征;
步骤C:样本选择,从目标域中随机选择预设数量的样本,获取所选择的样本的标签;
步骤D:训练基模型,基于步骤A中的源域、步骤C中被选择的带有标签的样本和步骤C中未被选择的未带标签的样本,来为目标域训练基模型;
步骤E:提取组件,对源域和步骤C中未被选择的未带标签的样本分别进行无监督聚类,所得到的每个聚类即为组件;
步骤F:组件匹配,将目标域中的组件匹配对应的源域组件,目标域中每个组件均与对应的源域组件形成一个配对;
步骤G:微调基模型,基于每个配对对基模型进行微调。
优选的,在所述步骤C中,包括将所述源域标记为DS,将所述目标域标记为DT;
将所述目标域DT划分为DT={DTL∪DTU},其中,DTL表示随机选择的样本,随机选择的样本的标签为已知,DTU表示未被选择的样本,未被选择的样本的标签为未知;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于佛山科学技术学院,未经佛山科学技术学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111408367.3/2.html,转载请声明来源钻瓜专利网。