[发明专利]一种基于规则推理与GRU神经网络推理的混合推理方法

说明书

本发明公开了一种基于规则推理与GRU神经网络推理的混合推理方法，包括步骤：生成知识图谱并给定的问题查询q，利用GRU网络生成逻辑规则；基于生成的逻辑规则，构建马尔可夫逻辑网络进行知识图谱推理，对逻辑规则进行价值打分；将生成的高质量逻辑规则给到GRU网络用于优化网络参数；利用价值函数计算推理结果的得分并输出可能的结果，量化表示推理结果的可信度。本发明通过对价值函数的设计，结合规则推理和GRU神经网络推理，能够快速有效地找到知识推理的结果，并计算推理结果的可信度。

技术领域

本发明涉及信息与网络的技术领域，具体是涉及一种基于规则推理与GRU神经网络推理的混合推理方法。

背景技术

知识图谱(Knowledge Graph)本质是一种语义网络，通常用(头实体h，关系r，尾实体t)这样的三元组来表达事物属性以及事物之间的语义关系。自知识图谱概念以来，知识图谱已经为智能问答、对话生成、个性化推荐等多个NLP任务领域提供了有力支撑。知识图谱推理是指利用现有知识图谱中的知识三元组，得到新的实体间的关系或者实体的属性三元组，主要用于知识图谱中的知识补全、知识纠错和知识问答。知识图谱能够从海量数据中挖掘、组织和有效管理知识，提高信息服务质量，为用户提供更智能的服务，所有这些方面都依赖于知识推理对知识图谱的支持。知识图谱上的关系推理是知识工程和人工智能领域的一个重要研究问题。

目前已经有多种从知识图谱中学习逻辑规则的方法。大多数传统方法，例如路径排序算法、马尔科夫逻辑网络，通过枚举图上的关系路径作为候选逻辑规则，进而根据算法学习每个候选逻辑规则的权重评估规则质量。最近也有研究者提出了一些基于神经逻辑编程的方法，以可微的方式同时学习逻辑规则及其权重。虽然这些方法在经验上对预测是有效的，但它们的搜索空间是指数级的，因此很难识别高质量的逻辑规则。此外，还有一些研究将逻辑规则学习问题描述为一个连续的决策过程，并使用强化学习来搜索逻辑规则，这大大降低了搜索的复杂性。然而，由于学习过程中的动作空间大、奖励少，这些方法的逻辑规则提取效果仍不尽人意。

发明内容

发明目的：针对以上缺点，本发明提供一种基于规则推理与GRU神经网络推理的混合推理方法，能够生成高质量的逻辑规则，快速有效地找到知识推理的结果，并计算推理结果的可信度。

技术方案：为解决上述问题，本发明提供一种基于规则推理与GRU神经网络推理的混合推理方法，包括以下步骤：

(1)从知识数据库加载数据生成知识图谱，设定一个查询q(h,r,？)，h为头实体，r为规则，？为待查询结果；利用GRU网络根据查询q(h,r,？)生成规则集合R；(2)设定候选答案，根据生成规则集合R在知识图谱上构建马尔可夫逻辑网络进行知识图谱推理，获得规则集合R中每个规则对候选答案的贡献进行评价打分；

(3)取分数最高的K个规则组成的最大化规则集合R_K，通过最大化规则集合R_K的对数似然来更新GRU网络参数θ；

(4)重复步骤(1)至步骤(3)N′次得到训练好的GRU网络；利用训练好的GRU网络再次根据给定的查询q(h,r,？)生成规则集合，并将新生成的规则集合在知识图谱上构建马尔可夫逻辑网络进行知识图谱推理；利用价值函数计算每个规则价值得分，选取得分最高的规则推理的实体作为推理结果输出。

进一步的，步骤(1)中利用GRU网络根据查询q(h,r,？)生成规则集合R具体为：

(1.1)设定一组规则rule＝[r_q,r₁,r₂,……r_l,r_e]用于推理，r_q表示查询关系，r_e表示规则结束，r_i表示规则体，i∈(1……l)；

(1.2)利用GRU网络根据当前给定的规则生成下一组规则；所述GRU网络定义公式如下：