[发明专利]基于知识映射的事件关系抽取、语篇关系分析方法及装置

说明书

本发明公开一种基于知识映射的事件关系抽取、语篇关系分析方法及装置，包括基于语言模型，挖掘事件文本中存在相似的词法与句法结构，得到特殊字词[CLS]的嵌入表示hsubgt;[CLS]/subgt;；基于变分自编码的语义表示编码器，获取事件文本中可类推的语义关系表示hsubgt;z/subgt;；根据嵌入表示hsubgt;[CLS]/subgt;与语义关系表示hsubgt;z/subgt;进行粗粒度关系分类，并获得粗粒度类别嵌入表示利用嵌入表示hsubgt;[CLS]/subgt;、语义关系表示hsubgt;z/subgt;及粗粒度类别嵌入表示对事件文本中事件对的关系类别进行分类，得到事件关系抽取结果。本发明降低训练事件关系抽取数据要求，发现大量有价值的隐式事件关系，提升事件抽取及语篇分析的准确率，丰富了大量有价值的隐式事件关系后的事件知识图谱，能够更有效地提升下游自然语言理解任务性能。

技术领域

本发明涉及一种事件关系抽取方法，特别是涉及一种基于知识映射的事件关系抽取、语篇关系分析方法及装置，属于自然语言处理技术领域。

背景技术

以事件为核心的知识图谱结构化地存储事件以及事件之间的关系，是机器智能理解的关键技术，并广泛应用在诸如自动问答，阅读理解，常识知识获取等下游任务中。

近年来，半自动构建的以事件为核心的知识图谱受到了研究人员的广泛关注。这类方法能够在少量或者没有人为干预的情况下从海量的自然语言文本中构建出大规模的事件知识图谱。通常，知识图谱中的每一个节点表示一个结构化的事件，每一条连边表示一个事件对存在的关系，并且事件关系的抽取十分依赖显式的连接词。例如，如图1所示，事件E²：“PER orders two hamburgers”与事件E³：“PER is so hungry”之间由于存在连接词“because”才能抽取出事件关系Reason。

然而，基于连接词的事件关系抽取方法面临着覆盖率过低的问题。大量有价值的事件关系因为没有显式的连接词而没有被抽取。本发明将其称为“隐式事件关系”。如图1所示，事件E¹：“PER goes to the restaurant”与事件E³：“PER is so hungry”之间的隐式事件关系Reason由于缺少显式连接词而被遗漏。同时，由于高质量的事件关系抽取数据的缺少，很难利用监督学习从零开始训练一个有效的事件关系分类器。

发明内容

为解决上述问题，本发明公开了一种基于知识映射的事件关系抽取、语篇关系分析方法及装置，利用字词表示级别的知识映射模块、语义表示级别的知识映射模块及粗粒度分类级别的知识映射模块，发现大量有价值的隐式事件关系，有效地提升下游自然语言理解任务性能。

为达到上述目的，本发明采用具体技术方案是：

一种基于知识映射的事件关系抽取方法，其步骤包括：

1)基于语言模型，挖掘事件文本中存在相似的词法与句法结构，得到特殊字词[CLS]的嵌入表示h_[CLS]；

2)基于变分自编码的语义表示编码器，获取事件文本中可类推的语义关系表示h_z；

3)根据嵌入表示h_[CLS]与语义关系表示h_z进行粗粒度关系分类，并获得粗粒度类别嵌入表示

4)利用嵌入表示h_[CLS]、语义关系表示h_z及粗粒度类别嵌入表示对事件文本中事件对的关系类别进行分类，得到事件关系抽取结果。

进一步地，所述语言模型包括：BERT模型。

进一步地，通过以下步骤得到事件对中特殊字词[CLS]的嵌入表示h_[CLS]：