[发明专利]一种基于实体联合嵌入和概率模型的知识图谱补全方法

说明书

本发明公开了一种基于实体联合嵌入和概率模型的知识图谱补全方法，该方法利用图卷积网络强大的特征聚合能力，将知识图谱作为图数据的拓扑结构和节点特征融入实体的表示学习；利用实体的动态嵌入，学习实体在不同时间下会表现出不同状态的特点，将实体特征分为两部分学习，一部分特征随时间动态变化，一部分特征保留静态属性；概率模型利用卷积神经网络对三元组进行语义信息的深层提取，在向量空间内对三元组进行重建，并度量其有效性，输出概率向量对缺失的实体进行预测。实体联合嵌入的输出作为概率模型的输入，有效解决了动态变化的知识图谱中缺失实体的补全问题。

技术领域

本发明涉及知识工程技术领域，具体涉及一种基于实体联合嵌入和概率模型的知识图谱补全方法。

背景技术

知识图谱以一种直观清晰的方式将互联网中无结构、无组织的数据组织成规范的知识资源，使得知识可被进一步推理和学习。但是，由于人工构建方式和关系抽取技术的不足，现存的大规模知识图谱往往是不完整的。知识图谱一般表示为三元组(头实体、关系、尾实体)的形式，利用知识图谱中已经存在的知识来预测或者推理出新的事实关系，此类研究便被称为知识图谱补全。目前，大多数方法都是基于知识图谱表示，将实体和关系映射到低维稠密的向量空间中，并对三元组设计一种打分函数用来衡量三元组的有效性。在此基础上，对实体和关系进行预测和推理。具体方法分为两种：第一种是基于分布式表示的方法，该类方法利用简单的向量或者矩阵操作来构建打分函数，例如向量内积或者矩阵乘法。这类快速、浅层的方法简单易实现，但是只能学习到较少的特征表达。第二种是基于深度学习的方法。这类方法利用深层网络架构对实体和关系进行深层特征提取，例如卷积神经网络、图卷积网络等等，可以学习到更多的特征表达。但这些方法中大多数只关注静态的知识图谱补全，忽略了时间在知识图谱中的重要组成，对动态变化的知识图谱补全效果还有待提升。

知识图谱中的三元组关系都是在特定时间下才成立的，因此事实关系是在不断变化的。为了对带有时间戳的知识图谱进行补全，我们需要设计一种能面向时间推理的知识图谱补全方法，对实体进行多角度建模，以此提高对知识图谱中缺失实体的补全效果。

发明内容

为了实现对动态的知识图谱补全，提高实体预测的准确率，本发明提供一种基于实体联合嵌入和概率模型的知识图谱补全方法，该方法将时间因素引入对实体的建模，并联合图卷积网络(Graph Convolutional Network，GCN)共同学习实体的嵌入向量表示。在对三元组的建模上，利用概率模型作为打分函数来评估三元组的正确与否。概率模型利用卷积神经网络这种深层网络架构对三元组的语义特征进行提取，并输出对实体的预测。传统的打分函数需要通过随机替换三元组中正确的实体来构造负样本(错误三元组)，随机替换的方式不能对负样本进行很好地学习，容易增加模型的不确定性。而概率模型通过将计算得到的向量与所有实体进行匹配，输出概率向量实现对实体的预测，避免了负样本的构造。该方法能够从多个层面对实体建模，学习到知识图谱更多的特征表达，从而能够对动态的知识图谱进行更好地补全。

为实现上述目的，本发明采用以下技术方案：首先利用图卷积网络，将知识图谱看作无向图，实体看作节点，关系看作节点之间的边，通过聚合邻居节点信息来更新每个节点的特征表示。接着利用实体的动态嵌入，将每个三元组发生的时间融入实体的表示学习，将实体的特征向量分为静态特征和时间特征，时间特征随时间而动态变化，静态特征保留在时间中不变的特征。之后联合上述两个模块的结果，对其进行均值运算，作为实体的联合嵌入学习结果。最后，将实体的联合嵌入学习作为输入，送入概率模型，概率模型利用卷积神经网络对关系建模，并对三元组进行重构，输出概率向量用来预测缺失实体。

一种基于实体联合嵌入和概率模型的知识图谱补全方法，包括以下步骤：

步骤1，输入三元组集合，对实体和关系向量进行初始化。

步骤2，利用GCN学习知识图谱作为图结构的特征信息。

步骤3，利用实体的动态嵌入，学习实体在时间维度下动态变化的语义特征。