[发明专利]基于对抗式注意力机制的一样本知识图谱关系学习方法及系统有效

专利信息
申请号: 201911105384.2 申请日: 2019-11-13
公开(公告)号: CN111046187B 公开(公告)日: 2023-04-18
发明(设计)人: 张春云;崔超然;林培光;吕鹏 申请(专利权)人: 山东财经大学
主分类号: G06F16/36 分类号: G06F16/36;G06F16/35;G06N3/0475;G06N3/09;G06N3/094
代理公司: 济南圣达知识产权代理有限公司 37221 代理人: 董雪
地址: 250014 山东*** 国省代码: 山东;37
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 对抗 注意力 机制 样本 知识 图谱 关系 学习方法 系统
【说明书】:

发明公开了一种基于对抗式注意力机制的一样本知识图谱关系学习方法及系统,包括:获取目标知识图谱中关系三元组及其对应的自然文本描述;对目标知识图谱进行表示学习获得三元组的向量表示;对三元组相应的文本描行表示学习获得文本中词向量表示;构建带去噪注意力模块和混淆注意力模块的条件对抗式生成网络;对条件对抗式生成网络进行优化训练,基于训练好的条件对抗式生成网络,预测未见关系类型rsubgt;u/subgt;的关系查询所对应的目标实体。本发明将传统的关系预测的关系类别从可见关系扩大到未见关系类别,增大了预测关系类别的范围。并将训练数据的规模从传统的大数据规模降低到只需少量样本甚至一个样本即可实现对未见关系的学习和预测。

技术领域

本发明涉及面向知识图谱的关系抽取技术领域,尤其涉及一种基于对抗式注意力机制的一样本知识图谱关系学习方法及系统。

背景技术

本部分的陈述仅仅是提供了与本发明相关的背景技术信息,不必然构成在先技术。

大规模知识图谱将片段化的知识表示成实体间二进制关系,通常表示成三元组的形式:(主语,谓语,宾语)。这种结构化的知识对很多下游的应用,如,自动问答,推荐系统,语义网络搜索等任务都起到重要的支撑作用。然而,虽然目前的知识图谱规模都很宏大,但是这些知识图谱还远远不够完善,难以应对智能系统日益增长的需求。为了实现知识图谱的自动完善,大量的知识图谱领域的研究者致力于通过构建关系学习模型从现有的知识图谱中预测缺失的三元组,如给定关系三元组的一个实体,预测与其具有某种关系的另一实体。其中具有代表性的关系学习模型有基于表示学习的关系学习方法和基于少样本(或一样本)的关系学习方法。

基于表示学习的关系学习模型主要是通过对大量标注样本进行训练,采用深度神经网络通过对关系和实体的语义进行编码,从而实现从符号空间到向量空间的映射,基于关系和实体的向量表示最终实现对缺失关系的预测。然而,基于表示学习的缺点是该方法假设所有关系和实体都具有足够多的训练样本,难以处理只有少量训练样本的关系类型。同时,该方法无法实现对训练集中没有的关系类型(未见关系)的预测。

基于少样本(或一样本)的关系学习方法主要是在有限样本(或只有一个样本)的条件下,实现对未见关系的预测和分类。该类方法的关键是如何通过可见关系(训练集中包含的关系)和有限(或一个样本)的未见关系类别的训练样本,学习到一个能够实现可见和未见关系之间知识共享和归纳传递的中间语义表示。目前,基于少样本或零样本的方法大都集中在图像和模仿领域,应用到知识图谱的关系抽取领域的很少。同时,现有方法大都需要构建领域信息,并且很难真正实现自动的类别间的知识共享和归纳传递。

发明内容

为了解决上述问题,本发明提出了一种基于对抗式注意力机制的一样本知识图谱关系学习方法及系统,可以利用基于表示学习的关系学习方法的优势,并使用对抗式一样本的关系学习方法只采用一个训练样本即可获得对该关系的语义表示,从而实现从对该类关系的查询或预测。弥补了表示学习方法需要大量训练样本和难以处理未见关系类别的不足,实现对知识图谱中缺失关系的预测。

在一些实施方式中,采用如下技术方案:

一种基于对抗式注意力机制的一样本知识图谱关系学习方法,包括:

获取目标知识图谱中关系三元组及其对应的自然文本描述;

对目标知识图谱进行表示学习获得三元组的向量表示;

对三元组相应的文本描述进行表示学习获得文本中词向量表示;

构建带去噪注意力模块和混淆注意力模块的条件对抗式生成网络;

对条件对抗式生成网络进行优化训练,基于训练好的条件对抗式生成网络,预测未见关系类型ru的关系查询(eq,ru,?)所对应的目标实体。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东财经大学,未经山东财经大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911105384.2/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top