[发明专利]基于双重注意力机制的图像分类方法、系统及电子设备有效
申请号: | 202110886325.4 | 申请日: | 2021-08-03 |
公开(公告)号: | CN113344146B | 公开(公告)日: | 2021-11-02 |
发明(设计)人: | 何政;叶刚;傅佑铭;王中元;邹勤 | 申请(专利权)人: | 武汉大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 武汉科皓知识产权代理事务所(特殊普通合伙) 42222 | 代理人: | 肖明洲 |
地址: | 430072 湖*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 双重 注意力 机制 图像 分类 方法 系统 电子设备 | ||
1.一种基于双重注意力机制的图像分类方法,其特征在于,包括以下步骤:
步骤1:构建基于Transformer的空间维度自注意力网络和基于Transformer的特征图channel维度自注意力网络;
所述基于Transformer的空间维度自注意力网络,第一层是3个平行的卷积核是1×1步长为1的卷积操作,第二层是利用softmax+向量乘积,第三层是权重矩阵与特征图的乘积,第四层是权重特征图与原特征图相加,最后输出空间维度特征图;
所述基于Transformer的特征图channel维度自注意力网络,第一层是2个平行的卷积核是1×1步长为1的卷积操作,第二层是利用softmax+向量乘积,第三层是权重矩阵与特征图的乘积,第四层是权重特征图与原特征图相加,最后输出通道维度特征图;
步骤2:将输入图像Fm预处理后输入基于Transformer的空间维度自注意力网络,生成基于图像空间维度的注意力特征图;
对输入图像Fm进行预处理,获得浅层特征图Fm1;采用自底向上和自顶向下相结合的方式,对浅层特征图Fm1进行处理,生成中层特征图FA;将中层特征图FA输入至空间维度自注意力网络,生成基于图像空间维度的注意力特征图FEP;
步骤3:将中层特征图FA输入基于Transformer的特征图channel维度自注意力网络,生成基于特征图通道维度的注意力特征图FEc;
步骤4:将步骤2得到的特征图FEP和步骤3得到的特征图FEc进行对应维度上的元素相加,得到最后的输出特征图FMap;将特征图FMap放入全连接层进行线性映射,生成维度为nmu×1的向量,其中nmu为图像类别的个数,选取向量维度中数值最大的维度对应的类别作为该图像的最终分类结果。
2.根据权利要求1所述的基于双重注意力机制的图像分类方法,其特征在于,步骤2中所述对输入图像Fm进行预处理,获得浅层特征图Fm1;其具体实现包括以下子步骤:
步骤2.1:对于任意输入图像Fm,定义并进行残差块操作res();
res(Fm)=Fm+conv(Fm) (1);
其中conv(Fm)是步长为1,卷积核是3×3,维持输出特征图维度不变的卷积操作,res(Fm)即是残差块的输出;
步骤2.2:针对已知的训练样本集Train={Si}Nti=1,Si=(imgi,li),其中Si表示第i个训练样本,imgi是该样本的图像,li是该样本的分类标签,Nt是样本总数目;将{imgi}输入至步骤1中残差块,将输出的特征图再次输入至残差块,输出浅层特征图Fm1。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉大学,未经武汉大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110886325.4/1.html,转载请声明来源钻瓜专利网。