[发明专利]一种基于规则推理与GRU神经网络推理的混合推理方法有效
| 申请号: | 202210597265.9 | 申请日: | 2022-05-30 |
| 公开(公告)号: | CN114925190B | 公开(公告)日: | 2023-08-04 |
| 发明(设计)人: | 杨文清;胡江溢;张楠;商莹楠;滕家雨;刘爱华;王光林;潘健;苏婧仪;张文强;朱佳 | 申请(专利权)人: | 南瑞集团有限公司;国电南瑞科技股份有限公司 |
| 主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/36;G06N3/0442;G06N3/08;G06N5/02;G06N5/04 |
| 代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 张弛 |
| 地址: | 211106 江苏省南*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 规则 推理 gru 神经网络 混合 方法 | ||
1.一种基于规则推理与GRU神经网络推理的混合推理方法,其特征在于,包括步骤:
(1)从知识数据库加载数据生成知识图谱,设定一个查询q(h,r,?),h为头实体,r为规则,?为待查询结果;利用GRU网络根据查询q(h,r,?)生成规则集合R;所述利用GRU网络根据查询q(h,r,?)生成规则集合R具体为:
(1.1)设定一组规则rule=[rq,r1,r2,……rl,re]用于推理,rq表示查询关系,re表示规则结束,ri表示规则,i∈(1……l);
(1.2)利用GRU网络根据当前给定的规则生成下一组规则;所述GRU网络定义公式如下:
h0=f1(vr)
ht=GRU(ht′-1,f2[vr,vrt′])
式中,h0为GRU网络的初始状态隐藏层,ht为t′状态的隐藏层,ht′-1为t′状态的前一状态的隐藏层;f1和f2是线性变换函数,vr是查询q的头关系嵌入向量,vrt′是与vr关联关系的嵌入向量,[vr,vrt′]为向量串联操作;
(1.3)将生成的下一组规则作为当前给定的规则重复步骤(1.2)N-1次,获得N组规则形成规则集合R;获取概率分布pθ(R|q)为:
pθ(R|q)=MD(R|D,GRUθ(q))
式中,MD代表多项式分布;D为集合R大小的超参数;GRUθ(q)定义了查询为q的组合规则上的分布;
(2)设定候选答案,根据生成规则集合R在知识图谱上构建马尔可夫逻辑网络进行知识图谱推理,获得规则集合R中每个规则对候选答案的贡献进行评价打分;具体步骤为:
(2.1)假设待查询结果?的候选答案集合为A,A为集合R中的所有规则推理得到候选答案构成的集合,候选答案a∈A;
(2.2)根据生成规则集合R在知识图谱上构建马尔可夫逻辑网络进行知识图谱推理,构建的马尔可夫逻辑网络概率计算公式为:
式中,t为查询结果;z为配分函数;wrule为权重;nrule(t)是获得候选答案a=t的推理过程中规则rule满足的次数,即一阶逻辑谓词F所有取真值的规则rule的数量;
(2.3)针对规则集合R中每个规则对候选答案的贡献进行评价打分,打分函数为:
H(rule)=pθ(rule|q)nrule(t))
式中,H(rule)表示规则集合R中每个规则对候选答案的贡献获取的分数;pθ(rule|q)为GRU网络根据给定的查询q生成规则rule的先验概率
(3)取分数最高的K个规则组成的最大化规则集合RK,通过最大化规则集合RK的对数似然来更新GRU网络参数θ;所述通过最大化规则集合RK的对数似然来更新GRU网络参数θ公式为:
(4)重复步骤(1)至步骤(3)多次得到训练好的GRU网络;利用训练好的GRU网络再次根据给定的查询q(h,r,?)生成规则集合,并将新生成的规则集合在知识图谱上构建马尔可夫逻辑网络进行知识图谱推理;利用价值函数计算每个规则价值得分,选取得分最高的规则推理的实体作为推理结果输出;
所述利用价值函数计算价值得分具体是:将新生成的规则集合中每个新生成的规则对应的马尔可夫逻辑网络概率作为价值得分,公式为:
式中,b为候选答案,b∈B,B为新生成的规则集合中的所有规则推理得到候选答案构成的集合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南瑞集团有限公司;国电南瑞科技股份有限公司,未经南瑞集团有限公司;国电南瑞科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210597265.9/1.html,转载请声明来源钻瓜专利网。





