[发明专利]一种面向知识图谱构建的实体关系抽取方法及系统

说明书

本发明公开了一种面向知识图谱构建的实体关系抽取方法及系统，方法包括：数据预处理：对用户提交的数据文件进行预处理，并转换成实体关系抽取系统可以识别和处理的数据格式；上下文编码：对预处理之后的数据利用预先设计好的多头自注意力网络模型进行前向传播，计算序列的阶段性输出；实体关系分类：利用基于实体感知的注意力网络模型对所述编码后的阶段性输出进行新的预测，以得到所有实体关系分类的输出概率，并从中选出概率最大的关系分类作为结果输出。本发明可以根据用户输入的文本抽取其中实体对的关系分类，充分利用文本中给出的实体对和它们的潜在类型，无需用户手动输入数据特征，能很方便的抽取出文本中实体对之间的语义关系。

技术领域

本发明涉及一种面向知识图谱构建的实体关系抽取方法及系统，属于自然语言处理和数据挖掘的技术领域。

背景技术

知识图谱揭示了实体之间关系的语义网络，归纳和总结了世界的客观规律，可以大幅提升搜索引擎的搜索质量和用户体验。而实体关系抽取是一种利用人工智能领域的自然语言处理技术实现自动分析、内容挖掘和关系分类的技术，能够从非结构化文本中轻松的提取出关键的信息，为知识图谱的构建提供技术支持，是解决当前信息严重过剩问题的一种有效的辅助手段，能帮助人类更加快速、准确、全面的获取关键信息，在工业和商业方面都具有重要的实用意义。但是，当前应用在关系抽取领域的主流方法都基于神经网络模型，由于神经网络模型的不可解释性和黑盒等特性，最终得到的实体关系分类模型开始出现问题，例如：分类的准确性达不到工业要求或对源数据缺乏更有效的利用等问题。

如何解决实体关系分类过程中出现的准确性问题已经成为研究的焦点。目前采用的方法大多建立在基于递归神经网络和注意力机制的神经网络模型上，但是，注意力机制仍存在部分缺陷，在处理长文本时注意力会逐渐减弱，以及不能利用实体对的潜在类型特征。

针对如何对文本进行编码的问题，目前的处理方法大多是采用词嵌入技术，将文本映射到一个低维空间，但当同一个单词出现在不同的句子中时，它们所具有的含义却是不相同的。也就是说，仅仅通过词嵌入不能表示基于上下文的单词的隐性特征。

有鉴于此，确有必要提出一种面向知识图谱构建的实体关系抽取方法及系统，以解决上述问题。

发明内容

本发明所要解决的技术问题在于克服现有技术的不足，提供一种面向知识图谱构建的实体关系抽取方法及系统，基于该系统能够进行对文本中实体对之间的关系进行抽取和对结果的准确性进行验证。

为实现上述目的，本发明提供了一种面向知识图谱构建的实体关系抽取方法，主要包括以下步骤：

步骤A，数据预处理：对用户提交的数据文件进行预处理，并转换成实体关系抽取系统可以识别和处理的数据格式；

步骤B，上下文编码：对预处理之后的数据利用预先设计好的多头自注意力网络模型进行前向传播，计算序列的阶段性输出；

步骤C，实体关系分类：利用基于实体感知的注意力网络模型对所述编码后的阶段性输出进行新的预测，以得到所有实体关系分类的输出概率，并从中选出概率最大的关系分类作为结果输出。

作为本发明的进一步改进，所述步骤A包括如下步骤：

步骤A01，将文本w中的每个单词w_i作为系统的主要输入，采用词嵌入的方式对用户提交的数据文件进行编码，得到文本序列的词嵌入矩阵x，即x_i表示序列中第i个单词的词嵌入向量；

步骤A02，将词嵌入矩阵x作为下一步步骤B中多头自注意力网络的输入。

作为本发明的进一步改进，所述步骤B包括如下步骤：

步骤B01，通过多头自注意力机制，从不同单词之间抽取出它们的相关性，从文本中学习到更丰富的语义信息和结构信息，用语义向量head表示，即head_i表示序列中第i个单词的语义向量；