[发明专利]一种基于U型嵌套网络的图分类方法在审
申请号: | 202110503473.3 | 申请日: | 2021-05-10 |
公开(公告)号: | CN113297427A | 公开(公告)日: | 2021-08-24 |
发明(设计)人: | 欧阳凯;鲁鸣鸣 | 申请(专利权)人: | 中南大学 |
主分类号: | G06F16/901 | 分类号: | G06F16/901;G06F16/906;G06N3/04 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 410083 湖南*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 嵌套 网络 分类 方法 | ||
本发明公开了一种基于U型嵌套网络的图分类方法。本发明方法从提取更加复杂的多尺度目标出发,通过对Graph U‑Nets进行嵌套,使其能够捕获整体数据的结构信息,同时能够兼顾局部信息和全局信息。本发明提供了一种改进的用于图分类任务的图神经网络,能够提取数据中的复杂结构特征,从而提升预测的准确率。
技术领域
本发明属于深度学习中的图神经网络领域,主要用于图分类相关的任务。
背景技术
随着近年来深度学习的快速发展,深度学习在图像、视频、自然语言处理和语音等领域取得了巨大的成功。但是这些任务处理的数据通常是欧式数据,在实际生活中有许多天然以图形式存在的复杂的不规则的数据(比如社交网络、分子结构等),图像上经典的CNN等算法并不能简单的迁移应用于图数据。面对这些挑战,许多研究人员开始寻求新的深度学习方法来解决图相关的问题。
近年来,图神经网络在图表示学习中取得了巨大的成功。当前GNN的本质是消息传递,但是,以迭代方式汇聚邻居节点的消息是平坦的,并且缺乏以分层方式聚合节点信息的能力[1]。图结构数据当中存在着一定的模式,比如在化学分子中,多个原子组合在一起可以充当官能团,所以加入这种合理的归纳偏置对于模型性能提升有一定的影响。
对于图分类任务来说,局部特征和全局特征的作用都不可忽视。为了获得全局信息,普通GNN的做法是迭代多次,但是迭代多次后性能会大幅下降,最近的一些工作将其称为过平滑[2],认为随着迭代次数的增加,同一连通分量内的节点的特征会变得越来越不可区分。为了解决这个问题,一种方法是在不同层的特征之间加入跳跃连接,让网络自行调节局部特征和全局特征的影响。另一种方法是全局池化,全局池化考虑整个图的特征,主要使用求和或者神经网络来池化每一层的所有节点特征。但是全局池化不能得到图的结构信息。最近的一些工作表明对于图分类任务来说,分层池化是一种非常有效的方法。分层池化的主要思想是在每层学习一个节点的分配矩阵,用于确定下一层的图结构。分层池化的方法能够获取多尺度的特征并且学习图的结构信息。
U-Net[3]是一种U型结构的编码解码结构,模型进行多次下采样和上采样,在同一水平层之间增加了跳跃连接,这样的分层结构使得其不至于损失太多的低层结构信息,并且拥有分层池化的所有优点。Graph U-Nets[4]在图上构建了类似U-Net的编码解码结构。然而,Graph U-Nets的深度只有简单的2到3层,每层只进行一次卷积操作,这限制了其提取复杂特征的能力。
发明内容
发明目的:本发明提供了一种基于U型嵌套网络的图分类方法(Graph U2-Nets),通过将Graph U-Nets进行嵌套,使得其能够提取更加丰富的多尺度特征,从而提高预测的准确性。
技术方案:为实现上述目的,本发明采用的技术方案为:
为实现上述目的,本发明采用的技术方案为:
步骤1)把Graph U-Nets的U型结构作为我们提出的基于U型嵌套网络的图分类方法一个整体块,称之为Graph U-Block。
步骤2)用Graph U-Block替换Graph U-Nets中的图卷积神经网络,构成新的嵌套的U型网络。
步骤3)把U型网络右端各层Graph U-Block的输出送入Readout模块,然后把各层Readout的结果拼接在一起,最后送入多层全连接网络得到预测结果。
步骤4)把图结构的数据输入模型,训练整个模型,并评估模型性能。
有益效果:
1)本发明提供了一种基于U型嵌套网络的图分类方法。该网络结构相比于GraphU-Nets和图上的池化方法,能够提取更加丰富的多尺度特征。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中南大学,未经中南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110503473.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种湿铝粉生产设备及方法
- 下一篇:一种可分隔式全降解购物袋