[发明专利]命名实体识别模型的训练方法、命名实体识别方法及装置有效

专利信息
申请号: 202310865106.7 申请日: 2023-07-14
公开(公告)号: CN116579345B 公开(公告)日: 2023-10-24
发明(设计)人: 宋勇;严志伟;秦玉坤;周广哲;叶晓舟;欧阳晔 申请(专利权)人: 亚信科技(中国)有限公司
主分类号: G06F40/295 分类号: G06F40/295;G06F40/205;G06F16/35;G06F18/214
代理公司: 北京市立方律师事务所 11330 代理人: 崔梓珊
地址: 100193 北京市海淀区*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 命名 实体 识别 模型 训练 方法 装置
【说明书】:

本申请实施例提供了一种命名实体识别模型的训练方法、命名实体识别方法、装置、电子设备及计算机可读存储介质。该方法包括:获取多个文本训练样本;利用多个文本训练样本对预设识别模型进行训练,直至满足预设训练条件,得到第一命名实体识别模型;其中,在利用多个文本训练样本中的当前文本训练样本对预设识别模型进行当前次训练的过程中,预设识别模型执行以下步骤:基于当前文本训练样本进行边界检测处理,以得到当前文本训练样本中的各单词对应的第一预测标签;基于当前文本训练样本进行跨度分类处理,以得到当前文本训练样本中的各当前候选命名实体对应的第二预测标签。本申请实施例能够提高嵌套实体的识别准确率。

技术领域

本申请涉及自然语言处理技术领域,具体而言,本申请涉及一种命名实体识别模型的训练方法、命名实体识别方法、装置、电子设备及计算机可读存储介质。

背景技术

命名实体(Name Entity Recognition,NER)识别是自然语言处理的一项非常重要的基础任务,旨在自动检测文本中的命名实体,例如人名、地名、组织机构名等,是人机对话系统、机器翻译、关系抽取等的前置任务。

在相关技术中,命名实体识别主要是利用基于跨度(span)的方法来训练命名实体识别模型。

然而,经实践发现,基于跨度的方法来训练得到的命名实体识别模型,对于嵌套实体的识别准确率有待进一步提高。

发明内容

本申请实施例提供了一种命名实体识别模型的训练方法、命名实体识别方法、装置、电子设备及计算机可读存储介质,用于解决嵌套实体的识别准确率不足的技术问题,进而达到了提高嵌套实体的识别准确率的技术效果。

根据本申请实施例的一个方面,提供了一种命名实体识别模型的训练方法,该方法包括:

获取多个文本训练样本;

利用多个文本训练样本对预设识别模型进行训练,直至满足预设训练条件,得到第一命名实体识别模型,第一命名实体识别模型用于对输入的待识别文本进行边界检测处理以及跨度分类处理得到目标识别结果,目标识别结果用于指示待识别文本中的目标命名实体;

其中,在利用多个文本训练样本中的当前文本训练样本对预设识别模型进行当前次训练的过程中,预设识别模型执行以下步骤:

基于当前文本训练样本进行边界检测处理,以得到当前文本训练样本中的各单词对应的第一预测标签,第一预测标签用于指示单词为文本训练样本中的真实命名实体的边界的预测概率;

基于当前文本训练样本进行跨度分类处理,以得到当前文本训练样本中的各当前候选命名实体对应的第二预测标签,第二预测标签用于指示候选命名实体为文本训练样本中的真实命名实体的预测概率。

在一种可能的实现方式中,预设训练条件包括:

训练次数达到预设的次数阈值;和/或,

预设识别模型的当前目标损失值满足预设的损失条件,预设识别模型的当前目标损失值是通过当前文本训练样本中的各单词对应的第一预测标签和各当前候选命名实体对应的第二预测标签确定的;

损失条件包括当前目标损失值小于预设的损失值阈值和/或当前目标损失值与上一目标损失值之间的损失差值小于预设的差值阈值,上一目标损失值为预设识别模型上一次训练得到的目标损失值。

在一种可能的实现方式中,通过当前文本训练样本中的各单词对应的第一预测标签和各当前候选命名实体对应的第二预测标签确定预设识别模型的当前目标损失值,包括:

基于当前文本训练样本中的各单词对应的第一预测标签确定边界检测处理的当前第一损失值,以及基于各当前候选命名实体对应的第二预测标签确定跨度分类处理的当前第二损失值;

基于当前第一损失值和当前第二损失值确定预设识别模型的当前目标损失值。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于亚信科技(中国)有限公司,未经亚信科技(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310865106.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top