[发明专利]一种融合实体类型约束的神经网络关系抽取方法及系统有效

专利信息
申请号: 201910149696.7 申请日: 2019-02-28
公开(公告)号: CN109992629B 公开(公告)日: 2021-08-06
发明(设计)人: 靳小龙;程学旗;席鹏弼;郭嘉丰;白龙 申请(专利权)人: 中国科学院计算技术研究所
主分类号: G06F16/28 分类号: G06F16/28
代理公司: 北京律诚同业知识产权代理有限公司 11006 代理人: 祁建国;梁挥
地址: 100080 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 融合 实体 类型 约束 神经网络 关系 抽取 方法 系统
【权利要求书】:

1.一种融合实体类型约束的神经网络关系抽取方法,其特征在于,包括:

预测步骤,获取训练句袋,该训练句袋包括实体对共现的多个句子,每个训练句袋对应一个表示实体间关系的三元组,将该训练句袋中句子编码为句子向量,并通过注意力机制将该句子向量聚合为句袋向量,将该句袋向量输入至预测模型得到训练句袋对应各关系类型的概率;

约束步骤,为该训练句袋中涉及的实体标记实体类型,并将该实体类型向量化,得到类型向量,根据实体间关系的注意力向量得到每个该类型向量的权重,根据该权重使用注意力机制将该类型向量聚合,以曼哈顿距离表示该实体类型对词向量的约束;

更新步骤,根据该曼哈顿距离和该关系类型计算损失函数,并对该预测模型进行更新,直到该损失函数收敛,将当前预测模型作为最终模型;

抽取步骤,依次将具有不同关系注意力的待抽取句袋输入该最终模型,得到多个该待抽取句袋的预测结果,将每个关系注意力下的预测结果聚合为最终预测结果。

2.如权利要求1所述的融合实体类型约束的神经网络关系抽取方法,其特征在于,该约束步骤具体包括:

为该训练句袋中涉及的实体e标记实体类型ve,1,ve,2,…,并将该实体类型转换为实体类型向量te,1,te,2,…;

根据该三元组中关系的向量rj,得到关系的注意力向量T为矩阵转置,代表将关系向量rj投影到实体类型向量空间Rt

根据该关系的注意力向量,得到每种类型的分数te,i代表实体e的第i种实体类型对应的实体类型向量;

根据每种类型的分数,得到每个该类型向量的权重k为实体类型种类总数,βi代表第i个该类型向量的权重,exp代表指数函数;

通过注意力机制将该类型向量聚合te=∑iβite,i

得到以该曼哈顿距离表示的距离损失Lt(e)=|we-te|1,其中we为实体e的词向量。

3.如权利要求2所述的融合实体类型约束的神经网络关系抽取方法,其特征在于,该更新步骤包括:

构建关系概率预测损失函数LB=-logP(rj|B),其中P(rj|B)为句袋B对应关系rj类型的概率;

构建实体距离损失函数LC=Lt(e1)+Lt(e2);

根据该实体距离损失函数和关系概率预测损失函数,构建整体损失函数L=LB+λLC,使用该整体损失函数对该预测模型进行更新,直到该损失函数收敛,其中λ代表超参数。

4.如权利要求1-3中所述的任一种融合实体类型约束的神经网络关系抽取方法,其特征在于,该约束步骤包括:通过实体类型识别,得到该实体类型。

5.如权利要求1-3中所述的任一种融合实体类型约束的神经网络关系抽取方法,其特征在于,该约束步骤包括:通过查找知识库,得到该实体类型。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910149696.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top