[发明专利]一种基于神经网络模型的文本实体间关系预测方法在审
申请号: | 202011506008.7 | 申请日: | 2020-12-18 |
公开(公告)号: | CN112417871A | 公开(公告)日: | 2021-02-26 |
发明(设计)人: | 苏华权;周昉昉;廖鹏;蔡雄;易仕敏;彭泽武;杨秋勇 | 申请(专利权)人: | 广东电网有限责任公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06N3/04;G06N3/08 |
代理公司: | 北京世誉鑫诚专利代理有限公司 11368 | 代理人: | 任欣生 |
地址: | 510000 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 神经网络 模型 文本 实体 关系 预测 方法 | ||
1.一种基于神经网络模型的文本实体间关系预测方法,其特征在于,包括:
将文本输入双向长短期记忆BI-LSTM模型,得到所述文本中的多个实体;
将所述多个实体分别输入卷积神经网络CNN模型,得到各个实体对应的特征向量;
将处于两个实体左边的词及右边的词分别输入BI-LSTM模型,得到处于所述两个实体左边词的特征向量fleft和处于所述两个实体右边词的特征向量fright,以独热编码one-hot特征向量fdist表示两个实体间的距离信息;
将处于所述两个实体之间的词输入CNN模型,得到两个实体之间词的特征向量fmid;
将fe1、fe2、fmid、fleft、fright、fdist拼接为一个向量输入前馈神经网络模型,得到所述两个实体之间关系的多个标签及各个标签对应的概率值,其中,fe1、fe2分别为所述两个实体对应的特征向量;
将概率值最大的标签作为文本中两个实体之间的关系。
2.根据权利要求1所述的基于神经网络模型的文本实体间关系预测方法,其特征在于,将文本输入双向长短期记忆BI-LSTM模型,得到所述文本中的多个实体包括:
将所述文本中的各个词输入Bi-LSTM模型的隐含层,得到的向量与所述向量的标签对应的独热编码one-hot特征向量拼接起来,得到所述文本中的多个实体。
3.根据权利要求1所述的基于神经网络模型的文本实体间关系预测方法,其特征在于,所述方法还包括:
使用dropout算法对BI-LSTM模型进行正则化并利用Adadelta优化器,优化BI-LSTM模型的损失函数。
4.根据权利要求1所述的基于神经网络模型的文本实体间关系预测方法,其特征在于,所述方法还包括:
使用dropout算法对前馈神经网络模型进行正则化并利用Adadelta算法,优化前馈神经网络模型的损失函数。
5.根据权利要求1所述的基于神经网络模型的文本实体间关系预测方法,其特征在于,所述前馈神经网络模型为多层感知机。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东电网有限责任公司,未经广东电网有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011506008.7/1.html,转载请声明来源钻瓜专利网。