[发明专利]基于自训练的小样本图像集成分类方法及装置有效
申请号: | 202210487571.7 | 申请日: | 2022-05-06 |
公开(公告)号: | CN114782752B | 公开(公告)日: | 2023-09-05 |
发明(设计)人: | 李晓旭;郭晓伟;刘俊;金志宇;汤卓和;曾俊瑀;李睿凡;马占宇;陶剑 | 申请(专利权)人: | 兰州理工大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/774;G06V10/82;G06N3/0895;G06N3/096 |
代理公司: | 北京挺立专利事务所(普通合伙) 11265 | 代理人: | 高福勇 |
地址: | 730050 甘肃*** | 国省代码: | 甘肃;62 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 训练 样本 图像 集成 分类 方法 装置 | ||
1.一种基于自训练的小样本图像集成分类方法,其特征在于,包括以下步骤:
S1、对数据进行预处理,其中数据包括训练集和测试集;预处理方法为:
S11,将数据分为训练集和测试集两部分,且这两部分的类别空间互斥,将Dtrain作为基类数据用于训练模型,Dtest作为新类数据用于测评模型性能;
S12、对于C-way K-shot分类任务,从Dtrain中随机选出C个类别,每个类别中随机选出M个样本,M个样本中K个样本作为支持集Sc,其余M-K个样本作为查询集Qc,Sc和Qc构成一个任务Ti;同样地,对于Dtest有任务
S2、构建基于自训练的小样本图像集成分类的模型:使用Baseline++网络结构构建基分类器,使用查询样本进行基分类器的自训练,不断地将伪标签集加到支持集扩充支持集,自训练过程中产生的基分类器,不断通过模型平均得到集成分类器,经过多次迭代自训练和分类器集成过程,得到最终的集成分类器;
在使用Baseline++网络结构构建基分类器阶段,建立特征提取模块、关系网络模块和基分类器模块;其中,特征提取模块基于卷积特征提取支持集的特征,特征提取模块的公式如下:
该公式为最大似然估计公式的变形,公式中,是特征提取模块;为分类器,当k=0时,由支持集直接训练得到;
关系网络模块基于特征提取模块输出的支持集特征和表示每个类的学习权重向量之间的余弦距离进行预测,关系网络模块的公式如下:
该公式为最大似然估计公式的变形,公式中,fψ为关系模块,用于获取两个参数之间的距离,在中,第一个参数为提取的无标签支持集特征,第二个参数Ac表示当前无标签支持集到所有支持集之间的距离总和求平均;
基分类器模块由前两个模块参与构建,每次更新得到当前层次的分类器、集成分类器和伪标签预测集,其中,基分类器由有标签的支持集Sc和无标签的支持集U更新,基分类器模块的公式如下:
该公式为最大似然估计公式的变形,公式中,为分类器,当k=0时,由支持集直接训练得到,为特征提取模块,fψ为关系网络模块,C为任务个数;
对于每次任务抽Ti取三个数据集:有标签的支持集无标签的支持集和查询集步骤包括:
S21,在支持集上,训练得到基分类器0,同时将基分类器0赋给集成分类器0;
S22,使用基分类器0对查询集样本进行预测,得到预测较为准确的样本伪标签预测集1,将其加入支持集进行训练得到基分类器1;
S23,将集成分类器0和基分类器1通过模型平均进行集成,得到集成分类器1;
S24,上述步骤S21-S23迭代多次,得到最终的集成分类器;
S3、使用测试集数据对基于自训练的小样本图像集成分类的模型进行训练,优化模型参数;
具体包括:
S31,对于每一个任务抽取三个数据集:有标签的支持集无标签的支持集和查询集
S32,通过有标签支持集和无标签支持集U*进一步微调训练过的分类,更新公式如下:
其中,表示整个支持集,即包括有标签支持集和无标签支持集两部分,为度量在支持集下当前迭代下生成的分类器和上一次迭代过程中生成的集成分类器两个参数的概率分布之间的差异;
S33,集成分类器参数更新如下:
γk=ω1θk+ω2γk-1 (5)
公式中,γk-1为集成分类器k-1的参数,θk为基分类器k的参数,ω1和ω2为集成分类器k-1和基分类器k的权重,当k=0时,γ0=θ0;
S34、查询集的标签更新如下:
公式中,为查询集的标签,为第m个集成分类器的参数,提取特征模块,为查询集的样本,其中属于有理数集;
S4、通过新类数据上所有任务中查询集标签的预测值和真实值,评估模型的最终性能。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于兰州理工大学,未经兰州理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210487571.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种水流检测用超值预警装置及其预警方法
- 下一篇:一种用于电解箱固液分离结构
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序