[发明专利]一种基于周围信息的知识图谱嵌入及回复生成方法

说明书

本发明公开一种基于周围信息的知识图谱嵌入及回复生成方法，使用非对称周围信息编码机制引入知识图谱节点周围信息，基于卷积操作和残差网络的主编码结构计算得分函数，生成知识图谱嵌入，再应用在基于知识图谱的回复生成模型中。本发明创新：(1)提出一种基于卷积操作和残差网络的主编码结构，充分考虑输入的交互信息；(2)提出一种非对称周围信息编码机制，充分考虑三元组内部节点的时序关系和知识图谱的拓扑结构，增强知识图谱中节点嵌入的语义信息关联性，使得回复生成模型能够更好地筛选符合语义信息的三元组；(3)将知识图谱及其嵌入应用到中文和英文回复生成模型。本发明提升了生成知识图谱嵌入的效果和基于知识图谱的回复生成效果。

技术领域

本发明属于自然语言处理领域，涉及一种基于周围信息的知识图谱嵌入及回复生成方法。

背景技术

在众多NLP(自然语言处理)任务中，知识图谱正在发挥着越来越重要的作用。知识图谱(Knowledge Graph)，也称为知识库，是一种特殊的网络结构，它以结构化的形式描述客观世界中概念、实体及其之间的关系，将互联网的信息表达成更接近人类认知世界的形式。知识图谱的应用广泛，包括自然语言理解、问答系统和推荐系统等。作为一种应用技术，知识图谱还支持在许多行业上的具体应用。例如，在医学领域，知识图谱可以为药物分析和疾病诊断提供视觉知识表示。然而，在知识图谱的应用中，随着网络容量的爆炸式增长，传统的图结构通常使得知识图谱难以操作。为了更好的使用知识图谱，将知识图谱中的实体和关系嵌入到连续向量空间的知识图谱嵌入(Knowledge Graph Embedding)技术也得到了很大的关注，它可以高效地计算低维空间中实体之间的语义关系，有效地解决了计算复杂性和数据稀疏性的问题。知识图谱嵌入更是将外部知识图谱引入到回复生成模型的桥梁，知识图谱嵌入的效果与回复生成模型的效果直接相关。

目前，知识图谱嵌入技术分为基于平移的学习模型、基于张量分解的学习模型和基于神经网络的学习模型。近年来，随着深度学习的发展，基于神经网络的学习模型得到了越来越多的关注。

当前大部分知识图谱嵌入技术往往忽视了知识图谱内部丰富的结构性信息，将三元组当作是相互独立的，而一些引入三元组相互关系的模型结构通常会使用大量的参数，导致模型效率较低。此外，一些基于深度学习的知识图谱嵌入模型由于本身的可解释性比较差，导致对于知识图谱内部节点之间的偏序关系没有明显的限制。

发明内容

本发明要解决的技术问题为：克服现有技术的不足，提供一种基于周围信息的知识图谱嵌入及回复生成方法，引入知识图谱中的拓扑结构信息，提高三元组之间的交互性，保留周围三元组中的序列信息，从而提升生成知识图谱嵌入的效果和基于知识图谱的回复生成效果。

本发明解决上述技术问题的技术方案之一为：

一种基于周围信息的知识图谱嵌入生成方法，包括以下步骤：

步骤1：提取知识图谱中的头节点周围三元组N(h)，使用非对称周围信息编码机制对 N(h)进行编码，得到头节点周围三元组的编码；

具体步骤如下：

(11)提取头节点周围三元组N(h)＝{(h_n，r_n)|(h_n，r_n，h)∈G}∪{(t_n，r′_n)|(h，r_n，t_n)∈G} 表示头节点h的周围三元组情况，其中r′_n是为了保证周围三元组的时序关系而基于周围三元组关系节点r_n新建立的关系节点，与周围三元组关系节点r_n对应；G表示知识图谱的三元组集合，h_n表示周围三元组头节点；n表示周围三元组序号；

(12)非对称周围信息编码机制包括LSTM序列编码和线性门控机制；