[发明专利]事件检测模型的构建方法、装置、电子设备及存储介质

说明书

本发明实施例提供了一种基于开放域知识增强的事件检测深度学习模型的构建方法、装置、电子设备及存储介质，方法包括：获取标注数据和未标注数据；将标注数据输入到第一事件分类模型中，进行训练；根据外部语义库采用义原映射算法，对未标注数据中的第一数据子集进行处理，得到开放域触发词识别结果；根据开放域触发词识别结果和第二数据子集，采用知识蒸馏的方式，对第二事件分类模型进行训练；对训练后的第一事件分类模型和训练后的第二事件分类模型进行联合训练，得到基于开放域知识增强的事件检测深度学习模型。本发明实施例得到的基于开放域知识增强的事件检测深度学习模型可以有效解决各类标注分布不均匀的长尾难题。

技术领域

本发明涉及计算机技术领域，尤其涉及一种基于开放域知识增强的事件检测深度学习模型的构建方法、装置、电子设备及存储介质。

背景技术

事件检测旨在从非结构化新闻报道中发现事件，目前，事件检测已经作为人工智能领域的一项基础核心技术，被广泛引入到阅读理解以及文本摘要任务。

事件检测任务分为两步，第一步检测句子中的触发词，第二步将触发词分类为预定义的事件类型。现有的工作大都专注于第二步事件类型分类，例如提出了动态卷积网络、层级注意力机制等模型。然而，触发词识别同样非常的关键。触发词识别存在长尾问题，即训练样例只集中于少数类型上，剩余的大量的类只有极少的训练样例。以基准数据集ACE2005为例，频率小于5的触发词达到总数的78％以上。针对长尾问题，若采用有监督方法仅依赖标注语料进行训练，则容易过度拟合，在未出现/标注稀疏的触发器上表现不佳；若采用自迭代方法根据伪标签拓展训练实例，则会由于种子集数据本身分布不均，拓展数据集同样集中在多标注的触发词上，无法缓解长尾问题；若采用远程监督方法是依赖外部知识库扩展更多的数据，受限于知识库本身的领域局限以及覆盖率低的问题，无法缓解长尾问题。

发明内容

针对现有技术中存在的问题，本发明实施例提供一种基于开放域知识增强的事件检测深度学习模型的构建方法、装置、电子设备及存储介质。

第一方面，本发明实施例提供一种基于开放域知识增强的事件检测深度学习模型的构建方法，包括：

获取标注数据和未标注数据；其中，所述标注数据指标记有触发词的句子数据；所述未标注数据指未标记有触发词的句子数据；所述未标注数据包括第一数据子集和第二数据子集；

将所述标注数据输入到第一事件分类模型中，以对所述第一事件分类模型进行训练；

根据外部语义库采用义原映射算法，对所述未标注数据中的第一数据子集进行语义分析处理，以识别所述第一数据子集中的触发词，得到开放域触发词识别结果；

根据所述开放域触发词识别结果和所述第二数据子集，采用知识蒸馏的方式，对第二事件分类模型进行训练；

对训练后的第一事件分类模型和训练后的第二事件分类模型进行联合训练，得到基于开放域知识增强的事件检测深度学习模型。

进一步地，根据外部语义库采用义原映射算法，对所述未标注数据中的第一数据子集进行语义分析处理，以识别所述第一数据子集中的触发词，得到开放域触发词识别结果，包括：

基于外部语义库WordNet对第一数据子集进行词语消歧，将第一数据子集中的词对应到WordNet中单一语义的义原集中；

根据第一数据子集中每个词所属的义原集是否触发事件识别所述第一数据子集每个词是否为触发词，以得到开放域触发词识别结果。

进一步地，所述第二事件分类模型包括学生模型和教师模型；

相应地，根据所述开放域触发词识别结果和所述第二数据子集，采用知识蒸馏的方式，对第二事件分类模型进行训练，包括：