[发明专利]事件提取模型生成方法和装置、文本事件提取方法和装置

说明书

本申请实施例公开了事件提取模型生成方法和装置、文本事件提取方法和装置。该事件提取模型生成方法的一具体实施方式包括：获取训练样本集合；对训练样本集合中的训练样本包括的样本文本进行分词，得到样本文本对应的样本词语序列；将样本词语序列输入初始模型包括的编码模块，得到编码序列；将编码序列作为初始模型的输入，将输入的编码序列对应的标注触发词、标注事件论元和标注论元角色分别作为初始模型包括的触发词识别模块、论元识别模块和论元角色分类模块的期望输出，对初始模型进行训练，得到事件提取模型。该实施方式采用分任务共享网络结构实现了端到端识别，提高了事件提取的准确性和效率。

技术领域

本申请实施例涉及计算机技术领域，具体涉及事件提取模型生成方法和装置、文本事件提取方法和装置。

背景技术

事件是一种重要的信息表示形式，是发生在某个特定的时间点或时间段、某个特定的地域范围内，由一个或者多个角色参与的一个或多个动作组成的事情或状态改变。事件抽取技术是从自然叙述文本中提取事件要素并将其以结构化形式呈现。事件抽取的主要研究方法有模式匹配和机器学习两大类。模式匹配方法是在一些模式的指导下进行事件的识别和抽取。机器学习的方法识别事件，是借鉴文本分类的思想，将事件类别及事件元素的识别转化成为分类问题，其核心在于分类器的构造和特征的选择。

模式匹配在特定领域内能取得较高的性能，但移植性较差。机器学习与领域无关，无需太多领域专家的指导，系统移植性较好。随着相关语料库的建设和互联网上各种文本资源的不断丰富，语料的获取越来越方便。目前，机器学习已成为事件抽取的主流研究方法。但是目前的研究方法还是主要集中于英文数据集，对于中文数据的构建与抽取方法研究较少，而且大部分事件抽取研究是基于已知实体后对事件角色的判断，还有很多是基于流水线的方法对于性能的影响很大。

发明内容

本申请实施例的目的在于提出了一种改进的事件提取模型生成方法和装置、文本事件提取方法和装置，来解决以上背景技术部分提到的技术问题。

第一方面，本申请实施例提供了一种事件提取模型生成方法，该方法包括：获取训练样本集合，其中，训练样本集合中的训练样本包括样本文本和对应的标注触发词、标注事件论元、每个标注事件论元对应的标注论元角色；对训练样本集合中的训练样本包括的样本文本进行分词，得到样本文本对应的样本词语序列；将样本词语序列输入初始模型包括的编码模块，得到编码序列；将编码序列作为初始模型的输入，将输入的编码序列对应的标注触发词、标注事件论元和标注论元角色分别作为初始模型包括的触发词识别模块、论元识别模块和论元角色分类模块的期望输出，对初始模型进行训练，得到事件提取模型。

在一些实施例中，对初始模型进行训练，包括：确定触发词识别模块、论元识别模块和论元角色分类模块分别对应的触发词损失、事件论元损失和论元角色损失；基于触发词损失、事件论元损失和论元角色损失，对初始模型的参数进行优化；响应于确定优化后的初始模型符合预设条件，确定优化后的初始模型为事件提取模型。

在一些实施例中，基于触发词损失、事件论元损失和论元角色损失，对初始模型的参数进行优化，包括：获取触发词损失、事件论元损失和论元角色损失分别对应的第一权重、第二权重、第三权重，其中，第一权重、第二权重、第三权重通过训练过程中自动学习得到；基于第一权重、第二权重、第三权重，确定初始模型的总损失；基于总损失，对初始模型的参数进行优化。

在一些实施例中，第一权重、第二权重、第三权重通过在训练时设置在初始模型中的自注意力层自动学习得到。