[发明专利]建模邻居交互的双线性图神经网络模型的实现及分类方法有效
申请号: | 201911107007.2 | 申请日: | 2019-11-13 |
公开(公告)号: | CN110826700B | 公开(公告)日: | 2021-04-23 |
发明(设计)人: | 何向南;朱宏民;张勇东 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06F16/55 |
代理公司: | 北京凯特来知识产权代理有限公司 11260 | 代理人: | 郑立明;郑哲 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 建模 邻居 交互 双线 神经网络 模型 实现 分类 方法 | ||
本发明公开了一种建模邻居交互的双线性图神经网络模型的实现及分类方法,利用线性聚合器对邻居节点特征信息进行加权平均;利用双线性聚合器建模邻居节点之间、或者目标节点和每一邻居节点之间、或者所有节点之间两两交互,并将交互后的信息求平均;采用线性组合的方式将前两个步骤得到的结果相结合,从而构建双线性图神经网络模型,并得到目标节点的特征表示向量。该方法可以得到更加有效的节点表示,从而提高图节点分类准确率。
技术领域
本发明涉及机器学习和图数据挖掘领域技术领域,尤其涉及一种建模邻居交互的双线性图神经网络模型的实现方法及分类方法。
背景技术
图神经网络通过对以图结构为基础的数据进行卷积操作,从而学习到图中节点的表示,进而应用于社交科学、自然语言处理、计算机视觉、推荐系统等众多领域。
频域(Spectral)图神经网络在傅里叶域对节点的表示进行卷积操作,通常需要把图拉普拉斯矩阵的特征向量定义为傅里叶基。这一过程需要对矩阵进行特征分解,计算复杂度非常高。为了提高效率,K次切比雪夫多项式被用来近似代替特征分解,除此之外,小波变换技术可以直接学习到节点的频域表示,从而不用对矩阵进行分解。然而,频域图神经网络需要在整个图上进行卷积操作,所以很难直接应用在现实世界规模较大的图数据上。
空域(Spatial)图神经网络通过聚合节点的特征来进行卷积操作,不同的空域图神经网络有不同的聚合特征的方法。线性聚合器通过对节点特征进行加权平均来学习节点表示。为了提高节点表示的有效性,使用注意力机制可以自动学习到加权因子。此外,最大池化、胶囊网络、长短期记忆网络这些非线性聚合器也被设计出来学习节点表示。
然而,大部分的图神经网络都是通过聚合图中目标节点和其邻居节点的特征,从而得到新的目标节点特征表示。这一过程默认图中邻居节点之间是相互独立的,同时忽略了图中邻居节点之间的交互。因此,传统的图神经网络会因为这两个原因而导致聚合到的节点信息不充分,从而不能有效地学习到节点表示,会降低分类准确率。
发明内容
本发明的目的是提供一种建模邻居交互的双线性图神经网络模型的实现方法,可以得到更加有效的节点表示,从而提高图节点分类准确率。
本发明的目的是通过以下技术方案实现的:
一种建模邻居交互的双线性图神经网络模型的实现方法,包括:
利用线性聚合器对邻居节点特征信息进行加权平均;
利用双线性聚合器建模邻居节点之间、或者目标节点和每一邻居节点之间、或者所有节点之间两两交互,并将交互后的信息求平均;
采用线性组合的方式将前两个步骤得到的结果相结合,从而构建双线性图神经网络模型,并得到目标节点的特征表示向量;
其中,节点表示被引用的文档,节点特征信息由文档的词袋模型表示的元素组成。
由上述本发明提供的技术方案可以看出,通过上述方法构建的双线性图神经网络模型能端到端的训练,通过建模图中节点之间的两两交互,可以捕捉到图中局部结构中节点的共性,从而可以学习到更加有效的节点表示向量,最终提高图节点分类的准确率。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他附图。
图1为本发明实施例提供的一种建模邻居交互的双线性图神经网络模型的实现方法的流程图;
图2为本发明实施例提供的线性聚合器的示意图;
图3为本发明实施例提供的双线性聚合器的示意图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911107007.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种闭合特质的歌唱音色检测装置
- 下一篇:雪胆甲素衍生物及其制备方法和应用