[发明专利]基于复合神经网络的语义关系推断系统和方法

说明书

本发明实施例提供一种基于复合神经网络的语义关系推断系统和方法。所述系统包括特征提取单元、训练单元以及决策单元，所述训练单元包括双生长短期记忆神经网络模型、分解焦距模型以及增强序列推断模型，特征提取单元，用于提取输入文本的词向量输出至所述训练单元；训练单元，用于接收所述词向量，将需要匹配的两个文本的词向量分别进行双生长短期记忆神经网络模型、分解焦距模型以及增强序列推断模型的训练，将各模型输出的结果向量输出至决策单元；决策单元，用于接收训练单元输入的结果向量，通过梯度增强决策树进行整合后输出需要匹配的两个文本的语义关系。本发明实施例能够提高同义词语义关系检测的精准度。

技术领域

本发明实施例涉及自然语言处理技术领域，尤其涉及一种基于复合神经网络的语义关系推断系统和方法。

背景技术

随着深度学习的兴起，基于神经网络的语义分析成为研究热点，同义词、近义词语义关系的检测成为推断短文本上下文关系的关键。

目前，提高语义关系推断的方法精准性的方式主要是通过大量的人工特征提取。通常是基于业务情况、数据状况进行的针对性提取。例如，对常见的业务同义词进行统一化等。但是该方法的精准性提升通常很难迁移到另外的数据集上。同时，人工特征提取将占用系统构建的大部分时间。

发明内容

本发明实施例提供一种基于复合神经网络的语义关系推断系统和方法，用以解决现有技术中语义关系推断精准度低的问题。

第一方面，本发明实施例提供一种基于复合神经网络的语义关系推断系统，所述系统包括特征提取单元、训练单元以及决策单元，所述训练单元包括双生长短期记忆神经网络模型、分解焦距模型以及增强序列推断模型，其中：

所述特征提取单元，用于提取输入文本的词向量输出至所述训练单元；

所述训练单元，用于接收所述词向量，将需要匹配的两个文本的词向量分别进行双生长短期记忆神经网络模型、分解焦距模型以及增强序列推断模型的训练，将各模型输出的结果向量输出至所述决策单元；

所述决策单元，用于接收所述训练单元输入的结果向量，通过梯度增强决策树进行整合后输出需要匹配的两个文本的语义关系。

第二方面，本发明实施例提供一种复合神经网络的语义关系推断方法，所述方法包括：

提取输入文本的词向量；

对所述词向量分别进行双生长短期记忆神经网络模型、分解焦距模型以及增强序列推断模型的训练；

将各模型输出的结果向量进行整合后输出需要匹配的两个文本的语义关系。

第三方面，本发明实施例还提供一种电子设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述第二方面提供的方法。

第四方面，本发明实施例还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述第二方面提供的方法。

本发明实施例通过将词向量分别进行双生长短期记忆神经网络模型、分解焦距模型以及增强序列推断模型的训练，再通过梯度增强决策评判出词向量的语义关系，能够提高同义词语义关系检测的精准度。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明一实施例提供的基于复合神经网络的语义关系推断系统的结构示意图；

图2为本发明一实施例提供的双生长短期记忆神经网络模型的网络结构示意图；