[发明专利]一种基于神经网络模型的文本实体间关系预测方法在审
申请号: | 202011506008.7 | 申请日: | 2020-12-18 |
公开(公告)号: | CN112417871A | 公开(公告)日: | 2021-02-26 |
发明(设计)人: | 苏华权;周昉昉;廖鹏;蔡雄;易仕敏;彭泽武;杨秋勇 | 申请(专利权)人: | 广东电网有限责任公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06N3/04;G06N3/08 |
代理公司: | 北京世誉鑫诚专利代理有限公司 11368 | 代理人: | 任欣生 |
地址: | 510000 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 神经网络 模型 文本 实体 关系 预测 方法 | ||
本发明公开的基于神经网络模型的文本实体间关系预测方法,涉及文本处理技术领域,通过将文本输入双向长短期记忆BI‑LSTM模型,得到文本中的多个实体,将多个实体分别输入卷积神经网络CNN模型,得到各个实体对应的特征向量,将处于两个实体左边的词及右边的词分别输入BI‑LSTM模型,得到处于两个实体左边词的特征向量fleft和处于两个实体右边词的特征向量fright,将处于两个实体之间的词输入CNN模型,得到两个实体之间词的特征向量fmid,将fe1、fe2、fmid、fleft、fright、fdist拼接为一个向量输入前馈神经网络模型,将概率值最大的标签作为文本中两个实体之间的关系,提高了文本实体间关系预测的准确性及适用性。
技术领域
本发明涉及文本处理技术领域,具体涉及一种基于神经网络模型的文本实体间关系预测方法。
背景技术
在中文的自然语言处理中,实体关系抽取是指针对一段随机的文本,识别出文本中的实体并抽取出命名实体之间的关系。所谓实体,就是指文本中出现的时间,地点等;所谓关系就是指实体之间存在的语义联系。
目前的实体关系预测方法大部分都是采用流水线的方式进行,如输入一个句子,先进行实体识别,然后将实体两两组合,再进行关系抽取。这种方法存在以下缺点:
(1)实体识别模块的错误选择会影响到关系抽取的性能,导致错误率较高;
(2)不能提取两个子任务之间的关系,如针对文本“任正非受雇于华为”,任正非和华为存在雇佣关系,可以知道一个实体属于组织类型,后一个实体属于人物类型,但流水线无法利用这种信息,适用性不强;
(3)会产生冗余信息,对实体识别出来的实体两两配对,再进行关系抽取,没有关系的实体对会带来多余的信息,错误率较高。
发明内容
为解决现有技术的不足,本发明实施例提供了一种基于神经网络模型的文本实体间关系预测方法,该方法包括以下步骤:
将文本输入双向长短期记忆BI-LSTM模型,得到所述文本中的多个实体;
将所述多个实体分别输入卷积神经网络CNN模型,得到各个实体对应的特征向量;
将处于两个实体左边的词及右边的词分别输入BI-LSTM模型,得到处于所述两个实体左边词的特征向量fleft和处于所述两个实体右边词的特征向量fright,以独热编码one-hot特征向量fdist表示两个实体间的距离信息;
将处于所述两个实体之间的词输入CNN模型,得到两个实体之间词的特征向量fmid;
将fe1、fe2、fmid、fleft、fright、fdist拼接为一个向量输入前馈神经网络模型,得到所述两个实体之间关系的多个标签及各个标签对应的概率值,其中,fe1、fe2分别为所述两个实体对应的特征向量;
将概率值最大的标签作为文本中两个实体之间的关系。
优选地,将文本输入双向长短期记忆BI-LSTM模型,得到所述文本中的多个实体包括:
将所述文本中的各个词输入Bi-LSTM模型的隐含层,得到的向量与所述向量的标签对应的独热编码one-hot特征向量拼接起来,得到所述文本中的多个实体。
优选地,所述方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东电网有限责任公司,未经广东电网有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011506008.7/2.html,转载请声明来源钻瓜专利网。