[发明专利]一种异构多关系图表示学习方法在审

专利信息
申请号: 202111317573.3 申请日: 2021-11-09
公开(公告)号: CN114218850A 公开(公告)日: 2022-03-22
发明(设计)人: 刘宇;王恺;单世民;盛夏;刘熠 申请(专利权)人: 大连理工大学
主分类号: G06F30/27 分类号: G06F30/27;G06N3/04;G06N3/08
代理公司: 大连格智知识产权代理有限公司 21238 代理人: 刘琦
地址: 116024 辽*** 国省代码: 辽宁;21
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 异构多 关系 图表 学习方法
【说明书】:

发明属于知识表示技术领域,涉及一种异构多关系图表示学习方法。为了降低参数数量和计算复杂度。本发明将节点和关系在低维度欧式空间中进行向量嵌入,给定头节点和关系,通过双层栈式“旋转‑平移”变换模块,利用关系向量对头节点向量进行空间变换,经过关系自适应的向量聚合运算,计算变换后的头节点向量和尾节点向量的空间距离,该距离作为三元组评分,用于评估三元组的真实性概率。本发明可以应用于各领域异构多关系图的自动补全任务,大大降低了链接预测计算的时间复杂度和空间复杂度,使得基于图表示学习的异构图补全方法更好地应用于实际大规模异构多关系图的业务场景。

技术领域

本发明属于知识表示技术领域,适用于通用领域异构多关系图的表示学习和链接预测,特别涉及对大规模异构多关系图中“节点-边-节点”三元组进行自动补全,具体为一种高效的异构多关系图表示学习方法。

背景技术

为了在语义向量空间中表示异构多关系图的节点和关系,研究人员提出了各种图表示嵌入模型,也叫做图表示学习模型。这些模型通过将异构图中的节点和关系,表示成一个个连续实值稠密向量,使得机器学习模型可以更好的处理异构图数据。因此图表示学习模型在图数据驱动的人工智能应用方面显示出巨大的潜力。通常对于一个由(头节点,关系,尾节点)构成的三元组,图表示学习模型会首先将节点和关系转化为对应的向量,然后通过三个向量之间的计算得到这个三元组的可信度得分。得分越高的三元组,更可能被预测为正确三元组。

近年来,国际顶级会议论文种有多种异构图表示学习模型被陆续提出。然而,为了获得更高的预测精度,它们通常使用高达200甚至500维的高维嵌入向量。当面对百万级别的大规模异构多关系图时,高维度的分布式节点向量将需要高昂的训练成本和庞大的存储空间。它阻碍了异构图表示学习模型的实际应用,尤其是当部署在移动智能设备中。为了解决这一问题,最新论文成果提出了一些基于低维非欧双曲空间的异构图表示学习模型。但是双曲空间上的向量计算要远远复杂于欧式空间计算,在预测精度提升的同时也导致计算复杂度增大。

发明内容

为了克服上述现有技术的缺点,本发明的目的在于提出了一种新的高效的异构多关系图表示学习方法,一方面避免使用高维向量,另一方面减小计算复杂度。与以往低维双曲空间的表示学习模型不同,本发明通过分析双曲空间计算中的有效模块,设计了一种新的关系自适应的向量聚合运算来替代双曲空间中的莫比乌斯加法运算。同时为了进一步提高低维空间下的预测精度,该模型采用了欧几里得空间中的双层栈式“旋转-平移”变换,来计算三元组评分。得益于特殊设计的参数化策略,该模型相比以往模型需要更少的参数和计算量。

本发明采用的技术方案是:

基于低维欧式空间的异构多关系图表示学习方法,其包括步骤:

(1)低维欧式空间向量初始化

不同于低维条件下的最优模型将节点和关系定义在双曲空间中,本发明消除原本的双曲空间假设,直接将节点和关系在欧式空间中初始化。同时为了降低参数数量和计算复杂度,该模型限制向量维度为32维或64维。在远低于常规200维的低维空间下,该模型能够达到媲美高维模型的预测精度。

(2)双层栈式“旋转-平移”变换

给定头节点和关系来预测尾节点的任务中,需要首先根据关系向量对头节点向量进行变换。为此,本发明采用一种双层栈式结构作为变换模块,每一层采用的变换操作相同,均为“旋转-平移变换”。具体的,分别定义旋转关系向量和平移关系向量。头节点向量首先围绕旋转关系向量进行旋转,然后与另一个平移向量作向量平移操作。

(3)关系自适应的向量聚合运算

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于大连理工大学,未经大连理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111317573.3/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top