[发明专利]事件提取模型生成方法和装置、文本事件提取方法和装置在审
申请号: | 202010988657.9 | 申请日: | 2020-09-18 |
公开(公告)号: | CN112116075A | 公开(公告)日: | 2020-12-22 |
发明(设计)人: | 纪长进;许光锋;郑汉军;刘树锋;宋琦;周剑宇 | 申请(专利权)人: | 厦门安胜网络科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06F16/35;G06F40/289;G06K9/62 |
代理公司: | 厦门福贝知识产权代理事务所(普通合伙) 35235 | 代理人: | 陈远洋 |
地址: | 361008 福建省厦门市集美*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 事件 提取 模型 生成 方法 装置 文本 | ||
1.一种事件提取模型生成方法,其特征在于,所述方法包括:
获取训练样本集合,其中,所述训练样本集合中的训练样本包括样本文本和对应的标注触发词、标注事件论元、每个标注事件论元对应的标注论元角色;
对所述训练样本集合中的训练样本包括的样本文本进行分词,得到样本文本对应的样本词语序列;
将所述样本词语序列输入初始模型包括的编码模块,得到编码序列;
将所述编码序列作为所述初始模型的输入,将输入的编码序列对应的标注触发词、标注事件论元和标注论元角色分别作为所述初始模型包括的触发词识别模块、论元识别模块和论元角色分类模块的期望输出,对所述初始模型进行训练,得到事件提取模型。
2.根据权利要求1所述的方法,其特征在于,所述对所述初始模型进行训练,包括:
确定所述触发词识别模块、论元识别模块和论元角色分类模块分别对应的触发词损失、事件论元损失和论元角色损失;
基于所述触发词损失、事件论元损失和论元角色损失,对所述初始模型的参数进行优化;
响应于确定优化后的初始模型符合预设条件,确定优化后的初始模型为所述事件提取模型。
3.根据权利要求2所述的方法,其特征在于,所述基于所述触发词损失、事件论元损失和论元角色损失,对所述初始模型的参数进行优化,包括:
获取所述触发词损失、事件论元损失和论元角色损失分别对应的第一权重、第二权重、第三权重,其中,所述第一权重、第二权重、第三权重通过训练过程中自动学习得到;
基于所述第一权重、第二权重、第三权重,确定所述初始模型的总损失;
基于所述总损失,对所述初始模型的参数进行优化。
4.根据权利要求1所述的方法,其特征在于,所述第一权重、第二权重、第三权重通过在训练时设置在所述初始模型中的自注意力层自动学习得到。
5.一种文本事件提取方法,其特征在于,所述方法包括:
获取待识别文本,并对待识别文本分词,得到词语序列;
将所述词语序列输入预先训练的事件提取模型包括的编码模块,得到编码序列,其中,所述事件提取模型预先按照权利要求1-4之一所述的方法训练得到;
将所述编码序列输入所述事件提取模型包括的触发词识别模块和论元识别模块,得到事件触发词和至少一个事件论元;
利用所述事件提取模型包括的论元角色分类模块,对所述触发词和所述至少一个事件论元进行分类,得到所述至少一个事件论元中的事件论元对应的论元角色。
6.根据权利要求1所述的方法,其特征在于,所述利用所述事件提取模型包括的论元角色分类模块,对所述触发词和所述至少一个事件论元进行分类,得到所述至少一个事件论元中的事件论元对应的论元角色,包括:
将所述编码序列输入所述事件提取模型包括的自注意力模块,得到长度为目标长度的编码向量;
从所述编码序列中提取所述触发词对应的触发词子序列;
将所述触发词子序列转换为长度为所述目标长度的转换后向量;
将所述编码向量和所述转换后向量进行拼接,得到拼接后向量;
从所述拼接后向量中提取所述至少一个事件论元中的每个事件论元对应的事件论元子序列;
将所得到的各个事件论元子序列与所述触发词子序列拼接后输入所述论元角色分类模块,得到所述至少一个事件论元中的事件论元对应的论元角色。
7.根据权利要求1所述的方法,其特征在于,所述将所述触发词子序列转换为长度为所述目标长度的转换后向量,包括:
将所述触发词子序列输入所述事件提取模型包括的双向LSTM中,得到所述目标长度的转换后向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门安胜网络科技有限公司,未经厦门安胜网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010988657.9/1.html,转载请声明来源钻瓜专利网。