[发明专利]一种融合实体类型约束的神经网络关系抽取方法及系统有效
| 申请号: | 201910149696.7 | 申请日: | 2019-02-28 |
| 公开(公告)号: | CN109992629B | 公开(公告)日: | 2021-08-06 |
| 发明(设计)人: | 靳小龙;程学旗;席鹏弼;郭嘉丰;白龙 | 申请(专利权)人: | 中国科学院计算技术研究所 |
| 主分类号: | G06F16/28 | 分类号: | G06F16/28 |
| 代理公司: | 北京律诚同业知识产权代理有限公司 11006 | 代理人: | 祁建国;梁挥 |
| 地址: | 100080 北*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 融合 实体 类型 约束 神经网络 关系 抽取 方法 系统 | ||
1.一种融合实体类型约束的神经网络关系抽取方法,其特征在于,包括:
预测步骤,获取训练句袋,该训练句袋包括实体对共现的多个句子,每个训练句袋对应一个表示实体间关系的三元组,将该训练句袋中句子编码为句子向量,并通过注意力机制将该句子向量聚合为句袋向量,将该句袋向量输入至预测模型得到训练句袋对应各关系类型的概率;
约束步骤,为该训练句袋中涉及的实体标记实体类型,并将该实体类型向量化,得到类型向量,根据实体间关系的注意力向量得到每个该类型向量的权重,根据该权重使用注意力机制将该类型向量聚合,以曼哈顿距离表示该实体类型对词向量的约束;
更新步骤,根据该曼哈顿距离和该关系类型计算损失函数,并对该预测模型进行更新,直到该损失函数收敛,将当前预测模型作为最终模型;
抽取步骤,依次将具有不同关系注意力的待抽取句袋输入该最终模型,得到多个该待抽取句袋的预测结果,将每个关系注意力下的预测结果聚合为最终预测结果。
2.如权利要求1所述的融合实体类型约束的神经网络关系抽取方法,其特征在于,该约束步骤具体包括:
为该训练句袋中涉及的实体e标记实体类型ve,1,ve,2,…,并将该实体类型转换为实体类型向量te,1,te,2,…;
根据该三元组中关系的向量rj,得到关系的注意力向量T为矩阵转置,代表将关系向量rj投影到实体类型向量空间Rt;
根据该关系的注意力向量,得到每种类型的分数te,i代表实体e的第i种实体类型对应的实体类型向量;
根据每种类型的分数,得到每个该类型向量的权重k为实体类型种类总数,βi代表第i个该类型向量的权重,exp代表指数函数;
通过注意力机制将该类型向量聚合te=∑iβite,i;
得到以该曼哈顿距离表示的距离损失Lt(e)=|we-te|1,其中we为实体e的词向量。
3.如权利要求2所述的融合实体类型约束的神经网络关系抽取方法,其特征在于,该更新步骤包括:
构建关系概率预测损失函数LB=-logP(rj|B),其中P(rj|B)为句袋B对应关系rj类型的概率;
构建实体距离损失函数LC=Lt(e1)+Lt(e2);
根据该实体距离损失函数和关系概率预测损失函数,构建整体损失函数L=LB+λLC,使用该整体损失函数对该预测模型进行更新,直到该损失函数收敛,其中λ代表超参数。
4.如权利要求1-3中所述的任一种融合实体类型约束的神经网络关系抽取方法,其特征在于,该约束步骤包括:通过实体类型识别,得到该实体类型。
5.如权利要求1-3中所述的任一种融合实体类型约束的神经网络关系抽取方法,其特征在于,该约束步骤包括:通过查找知识库,得到该实体类型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910149696.7/1.html,转载请声明来源钻瓜专利网。





