[发明专利]基于异构迁移学习的特征增强方法、装置及存储介质在审
申请号: | 202111320801.2 | 申请日: | 2021-11-09 |
公开(公告)号: | CN114154642A | 公开(公告)日: | 2022-03-08 |
发明(设计)人: | 张忠平;王永斌;肖益珊;季文翀;丛煜华;郑涛 | 申请(专利权)人: | 宜通世纪科技股份有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 余凯欢 |
地址: | 510630 广东省广州*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 迁移 学习 特征 增强 方法 装置 存储 介质 | ||
本发明公开了基于异构迁移学习的特征增强方法、装置及存储介质,方法包括:从多个源域进行第一特征提取,得到第一特征集合;从目标域进行第二特征提取,得到第二特征集合;根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间;其中,所述基于迁移学习的异构特征空间用于进行特征提取。本发明将原始特征与源域和目标域中提取的特征进行结合,能够在提高迁移学习性能的基础上解决负迁移的问题,可广泛应用于人工智能技术领域。
技术领域
本发明涉及人工智能技术领域,尤其是基于异构迁移学习的特征增强方法、装置及存储介质。
背景技术
随着中国社会经济的飞速发展,科学技术日新月异。深度学习技术在越来越多的应用场景中发挥着重要的作用。无论是大家所熟悉的面部识别还是近些年比较流行的无人驾驶和比较前沿的基于图片的意图推理等等,这些成果都离不开深度学习技术。比如计算机视觉中的图像识别技术已经超越了人类,越来越多的优秀的算法和模型在逐渐的崭露头角。这些技术的是现实需要依靠比较昂贵的成本,且技术的自适应性比较差。这就导致了训练好的模型只能在单一的任务或者特定的数据集上表现良好。目前需要解决的问题是怎么样将这些已经训练好了的模型或者算法应用到其他领域。这样不仅可以节省计算资源,而且可以减少用户的使用等待时间,这是一项非常必要的且具有很大的价值。
从相关的背景技术介绍可以得知,目前的迁移学习主要有以下几种:基于样本的迁移学习方法,基于特征的迁移学习方法,基于关系的迁移学习方法以及基于模型的迁移学习方法。基于样本的迁移学习主要是从样本的角度出发,迁移数据之间的特性,从而在目标任务中取得比较好的成果。基于特征的迁移学习方法主要是从样本数据的内在特征出发,将样本特征的共性和差异性表示出来,从而实现更好的泛化性能。基于关系的迁移学习方法更多的是站在整体的角度出发,对于多个数据集之间的关系进行很好的评估,从而找到相似之处。基于模型的迁移学习方法,主要是对于那些已经训练好了的模型,在另外的数据集上的应用已经是达到了比较好的效果,在相似的数据集上只需要进行一定的参数调整即可获得比较好的效果。
基于增强特征映射的异构迁移学习中仍然面临着负迁移的风险,尤其是在异构域相关程度不高的情况下。
现有的很多方法包含很多的基于隐空间的特征学习方法,根据给定的源域和目标域观察到的特征表示,提取源域和目标域可迁移的隐变量,这种方法通过将目标域映射到可迁移的隐变量张成的隐空间中,利用这些隐变量对一个或者多个源域的知识进行编码,通过这种方法丰富目标域的特征表示,进而提高各种任务中的性能。但是这种单纯的依赖映射的做法会导致负迁移问题,从而影响最终的结果。
发明内容
有鉴于此,本发明实施例提供基于异构迁移学习的特征增强方法、装置及存储介质,以解决负迁移的问题。
本发明的一方面提供了一种基于异构迁移学习的特征增强方法,包括:
从多个源域进行第一特征提取,得到第一特征集合;
从目标域进行第二特征提取,得到第二特征集合;
根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间;
其中,所述基于迁移学习的异构特征空间用于进行特征提取。
可选地,所述根据预设的原始特征、所述第一特征集合和所述第二特征集合,在异构特征空间进行所述源域和所述目标域之间的迁移学习,构建得到基于迁移学习的异构特征空间,包括:
将所述源域和所述目标域的隐空间映射到一个共享隐空间中,所述共享隐空间中还包括所述原始特征。
可选地,所述将所述源域和所述目标域的隐空间映射到一个共享隐空间中,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于宜通世纪科技股份有限公司,未经宜通世纪科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111320801.2/2.html,转载请声明来源钻瓜专利网。