[发明专利]命名实体识别方法及装置有效

专利信息
申请号: 202010130305.X 申请日: 2020-02-28
公开(公告)号: CN111368544B 公开(公告)日: 2023-09-19
发明(设计)人: 卢健;范奇峰;崔月皎 申请(专利权)人: 中国工商银行股份有限公司
主分类号: G06F40/295 分类号: G06F40/295;G06F40/211
代理公司: 北京三友知识产权代理有限公司 11127 代理人: 王涛;孙乳笋
地址: 100140 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 命名 实体 识别 方法 装置
【权利要求书】:

1.一种命名实体识别方法,其特征在于,包括:

获取用于模型训练的句子序列以及所述句子序列对应的标注标签序列;

将所述句子序列转化为句子的向量表示,得到所述句子序列中每个字的向量;

根据所述句子序列中的第i个字的向量以及第i-1个字的预测标签生成预测向量,并根据所述预测向量确定第i个字的预测标签,以此生成所述句子序列对应的预测标签序列,其中,针对所述句子序列中的第一个字,将该第一个字的向量和预设的初始预测向量拼接,再乘以预设的参数矩阵,得到第一个字的预测向量;

将所述预测标签序列和所述标注标签序列输入交叉熵损失函数;

使用梯度下降算法优化所述交叉熵损失函数进行命名实体识别模型训练,以根据训练好的命名实体识别模型进行命名实体识别;

获取待识别的句子序列;

将所述待识别的句子序列输入到训练好的命名实体识别模型中,得到所述待识别的句子序列中的命名实体;

所述根据所述句子序列中的第i个字的向量以及第i-1个字的预测标签生成预测向量,包括:

将所述句子序列中的第i个字的向量以及第i-1个字的预测标签进行拼接;

将拼接生成的向量与预设的参数矩阵相乘,得到预测向量。

2.根据权利要求1所述的命名实体识别方法,其特征在于,所述训练好的命名实体识别模型将所述待识别的句子序列转化为句子的向量表示,生成所述待识别的句子序列对应的预测标签序列,并根据预测标签序列提取出所述待识别的句子序列中的命名实体。

3.根据权利要求1所述的命名实体识别方法,其特征在于,所述将所述句子序列转化为句子的向量表示,包括:

使用深度学习算法对所述句子序列进行语义提取得到句子的向量表示。

4.根据权利要求1所述的命名实体识别方法,其特征在于,所述根据所述预测向量确定第i个字的预测标签,包括:

确定所述预测向量中最大元素的位置,并根据所述位置确定第i个字的预测标签。

5.根据权利要求1所述的命名实体识别方法,其特征在于,所述根据所述预测向量确定第i个字的预测标签,包括:

将所述预测向量输入到预设的全连接层,得到第i个字的预测标签。

6.一种命名实体识别装置,其特征在于,包括:

训练数据获取单元,用于获取用于模型训练的句子序列以及所述句子序列对应的标注标签序列;

向量表示转化单元,用于将所述句子序列转化为句子的向量表示,得到所述句子序列中每个字的向量;

预测标签序列生成单元,用于根据所述句子序列中的第i个字的向量以及第i-1个字的预测标签生成预测向量,并根据所述预测向量确定第i个字的预测标签,以此生成所述句子序列对应的预测标签序列,其中,针对所述句子序列中的第一个字,将该第一个字的向量和预设的初始预测向量拼接,再乘以预设的参数矩阵,得到第一个字的预测向量;

交叉熵损失函数单元,用于将所述预测标签序列和所述标注标签序列输入交叉熵损失函数;

损失函数优化单元,用于使用梯度下降算法优化所述交叉熵损失函数进行命名实体识别模型训练,以根据训练好的命名实体识别模型进行命名实体识别;

待识别句子获取单元,用于获取待识别的句子序列;

命名实体识别单元,用于将所述待识别的句子序列输入到训练好的命名实体识别模型中,得到所述待识别的句子序列中的命名实体;

所述预测标签序列生成单元,包括:

向量拼接模块,用于将所述句子序列中的第i个字的向量以及第i-1个字的预测标签进行拼接;

计算模块,用于将拼接生成的向量与预设的参数矩阵相乘,得到预测向量。

7.根据权利要求6所述的命名实体识别装置,其特征在于,所述训练好的命名实体识别模型将所述待识别的句子序列转化为句子的向量表示,生成所述待识别的句子序列对应的预测标签序列,并根据预测标签序列提取出所述待识别的句子序列中的命名实体。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国工商银行股份有限公司,未经中国工商银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010130305.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top