[发明专利]一种基于多尺度度量学习的小样本学习方法有效

专利信息
申请号: 202010384767.4 申请日: 2020-05-09
公开(公告)号: CN111639679B 公开(公告)日: 2022-03-04
发明(设计)人: 蒋雯;黄凯;耿杰;邓鑫洋 申请(专利权)人: 西北工业大学
主分类号: G06V10/774 分类号: G06V10/774;G06V10/74;G06V10/764;G06V10/77;G06V10/82;G06K9/62;G06N20/00;G06N3/04
代理公司: 北京科亿知识产权代理事务所(普通合伙) 11350 代理人: 刘强强
地址: 710072 *** 国省代码: 陕西;61
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 尺度 度量 学习 样本 学习方法
【说明书】:

发明公开了一种基于多尺度度量学习的小样本学习方法,包括以下步骤:步骤一、建立数据集;步骤二、生成多尺度特征映射层;步骤三、迁移学习:转化模块对样本多尺度特征进行二次映射;步骤四、生成多尺度特征映射对;步骤五、计算多尺度特征映射对在多尺度关系生成网络中的关系得分;步骤六、采用多尺度度量学习模型对样本相似度进行度量。本发明结构简单、设计合理,通过迁移学习获得多尺度特征映射对,使得训练出来的模型具有迁移性,在均方差损失函数的基础上添加了样本间距给整体模型所带来的损失项构成新的损失函数,实现度量学习,以适应小样本学习的训练。

技术领域

本发明属于图像处理识别技术领域,具体涉及一种基于多尺度度量学习的小样本学习方法。

背景技术

人类非常擅长通过极少量的样本识别一个新物体,比如小孩子只需要书中的一些图片就可以认识什么是“斑马”,什么是“犀牛”。在人类的快速学习能力的启发下,研究人员希望机器学习模型在学习了一定类别的大量数据后,对于新的类别,只需要少量的样本就能快速学习,这就是Few-shot Learning要解决的问题。

对于机器学习来说,虽然在图像识别任务上深度学习凭借深而复杂的网络模型、庞大的训练数据支持以及强大的硬件支持使得其在某些场景上可以得到令人十分满意的结果,但在某些少见的任务场景中由于无法获得足够的训练样本而将使得一般的模型训练变得十分困难。而相反,人类可以仅通过几张参考样本便可以学习一个新的类别。因此,为了使得模型也具有同样的能力,基于快速从少量样本中学习的小样本学习成为最近在图像识别领域中一个较为热门的研究方向。

小样本学习旨在通过少量的训练样本便可以具有识别未知类别的能力,这正是人类大脑基于先验知识对未知事物进行联系及推理的过程。小样本学习的核心便是识别出新的类别,这就是把源知识迁移到目标知识的领域,而这正是迁移学习的范畴。但凭借迁移学习的常用算法是无法很好解决小样本学习任务的,其中最主要的区别便是小样本学习需要获得识别未知类别的能力,这意味着其原则上是具有识别出大量未经过训练的类别目标的,而显然迁移学习无法做到这点。

目前小样本学习主要分为三大类:基于迁移学习、基于度量学习和基于元学习。基于迁移学习已被广泛应用于许多领域,其是在一个经过预训练的基础网络上通过一定量的自己标注数据进行微调。基于度量学习的方法主要是对样本间的距离进行建模,使得同类样本靠近异类样本远离。基于元学习方法旨在创建一个模型使得其可以适应多任务学习的场景,而对于小样本学习任务,由于每次的训练输入类别都不一样,因此可以将每次的训练任务当成不同的学习任务,因此便可以使用元学习的方法进行训练模型。

发明内容

本发明所要解决的技术问题在于针对上述现有技术中的不足,提供一种基于多尺度度量学习的小样本学习方法,其结构简单、设计合理,通过迁移学习获得多尺度特征映射对,通过构建一个分级的关系学习网络以学习多尺度关系对,从而挖掘支持集和询问集之间的特征关联,在均方差损失函数的基础上添加了样本间距给整体模型所带来的损失项构成新的损失函数,以适应小样本学习的训练。

为解决上述技术问题,本发明采用的技术方案是:一种基于多尺度度量学习的小样本学习方法,其特征在于,包括以下步骤:

步骤一、建立数据集:建立支持集Ssu和询问集Squ,其中xi表示支持集Ssu中的第i个样本,yi表示样本xi的标签,xj表示询问集Squ中的第j个样本,yj表示样本xj的标签,i和j均为正整数,C×K表示支持集Ssu的样本数量,C×N表示询问集Squ的样本数量;

步骤二、生成多尺度特征映射层:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西北工业大学,未经西北工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010384767.4/2.html,转载请声明来源钻瓜专利网。

同类专利
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top