[发明专利]一种基于边Transformer图神经网络的小样本图像分类方法及系统有效
申请号: | 202110657352.4 | 申请日: | 2021-06-11 |
公开(公告)号: | CN113378938B | 公开(公告)日: | 2022-12-13 |
发明(设计)人: | 刘芳;张瀚;马文萍;李玲玲;李鹏芳;杨苗苗;刘洋;刘旭 | 申请(专利权)人: | 西安电子科技大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/774;G06N3/04;G06N3/08 |
代理公司: | 西安通大专利代理有限责任公司 61200 | 代理人: | 高博 |
地址: | 710071 陕*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 transformer 神经网络 样本 图像 分类 方法 系统 | ||
1.一种基于边Transformer图神经网络的小样本图像分类方法,其特征在于,包括以下步骤:
S1、采样小样本学习任务T;
S2、将步骤S1得到的小样本学习任务T中的每一个样本xi送入构建的嵌入网络Femb中,得到每一个样本的特征图fi;
S3、构建一个全连接图GT,将步骤S2中每一个样本的特征图fi作为初始的结点特征并根据查询样本的标签初始化边特征
S4、将步骤S3构建的全连接图GT输入到由L层边Transformer图神经网络构成的ETGNN中迭代进行结点特征更新,利用Transformer图神经网络的边transformer模块进行边特征更新,得到每一层的边特征具体为:
S401、输入步骤S3中得到的全连接图GT到边transformer图神经网络ETGNN进行3层图更新,对于边transformer图神经网络ETGNN中的每一层,根据边特征更新结点特征;
S402、将每一层更新后的结点特征输入到边Transformer模块更新边特征,通过边Transformer模块计算相邻结点特征间的差值特征图然后将差值特征图进行拆分,得到w*h个差值特征块组成的序列pl,引入可学习的位置编码然后将序列pl和位置编码进行级联得到序列最后将序列送入到边Transformer模块得到更新后的边特征
边Transformer模块包含两个子层,每一个子层后接一个LN层进行标准化,第一个子层为自注意力层,第二个子层为前馈网络层;
第一个子层中,首先得到序列的每个位置的查询向量键向量以及值向量然后计算自注意力将输入序列和自注意力做一个残差连接
第二个子层中,输出的边特征维度为:
其中,MLP为一个包含两个全连接层的多层感知机;
S5、对步骤S4得到的L层的边特征进行级联,然后输入到构建的边特征融合网络Fyus中,得到最终边并根据最终边以及支持样本的类别yj得到查询结点vi的类别概率分布
S6、根据步骤S5得到的查询结点的类别概率分布以及查询结点的标签yi计算小样本分类损失Lfl,端到端地训练嵌入网络Femb以及边Transformer图神经网络ETGNN,测试时利用类别概率分布对查询样本进行类别预测以实现小样本分类。
2.根据权利要求1所述的方法,其特征在于,步骤S2中,嵌入网络Femb的输入为每次从步骤S1中采样的B个小样本学习任务T,B为每批次的大小,输出为任务T中每个样本xi的特征图
3.根据权利要求2所述的方法,其特征在于,嵌入网络Femb包括依次相连接的输入层、第一卷积层、第二卷积层、第三卷积层、第四卷积层以及输出层。
4.根据权利要求1所述的方法,其特征在于,步骤S3中,全连接图GT=(V,E),V={v1,…,vN*K+r}表示图中的结点,E={eij;vi,vj∈V}表示图中的边,且表示图中相邻结点vi和vj之间每一对应像素位置即vid∈R1*c与vjd∈R1*c之间的相似性;将步骤S2得到的特征图作为图GT=(V,E)的初始结点特征然后进行边特征初始化。
5.根据权利要求4所述的方法,其特征在于,边特征初始化具体为:
其中,yi和yj分别表示结点vi和vj的类别标签。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安电子科技大学,未经西安电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110657352.4/1.html,转载请声明来源钻瓜专利网。
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法