[发明专利]训练命名实体识别模型的方法、命名实体识别方法及装置在审
申请号: | 201510082318.3 | 申请日: | 2015-02-15 |
公开(公告)号: | CN104615589A | 公开(公告)日: | 2015-05-13 |
发明(设计)人: | 张军 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F17/30 |
代理公司: | 北京金律言科知识产权代理事务所(普通合伙) 11461 | 代理人: | 罗延红;杨移 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 训练 命名 实体 识别 模型 方法 装置 | ||
1.一种用于训练循环神经网络(RNN)命名实体识别模型的方法,所述RNN命名实体识别模型用于识别文本中的命名实体,其特征在于,所述方法包括:
获取多个标注的样本数据,每个所述样本数据包括文本串及其多个分词标注数据,所述分词标注数据包括从所述文本串中分出的分词及其在所述文本串中的命名实体属性标志;
将所述多个标注的样本数据中的分词映射为词向量,以所述样本数据作为训练样本,对RNN命名实体识别模型进行训练,以学习所述RNN命名实体识别模型的参数。
2.根据权利要求1所述的方法,其特征在于,所述分词在所述文本串中的命名实体属性标志包括所述分词是否属于命名实体的信息。
3.根据权利要求2所述的方法,其特征在于,所述分词在所述文本串中的命名实体属性标志还包括所述分词在其所属命名实体中的位置标注。
4.根据权利要求1所述的方法,其特征在于,所述分词在所述文本串中的命名实体属性标志包括:命名实体的起始标志、命名实体的延续标志和非命名实体标志。
5.根据权利要求1~4中任一项所述的方法,其特征在于,所述分词在所述文本串中的命名实体属性标志还包括所述分词所属的命名实体的类型。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
根据启发式规则从自然语言文本中获取多个标注的样本数据,其中,
如果所述自然语言文本中含有成对的书名号,则将含有所述成对的书名号的文本串作为样本数据,并标注所述文本串中每个分词对应的命名实体属性标志,或者
如果所述自然语言文本中某个文本串含有与预定名称完全匹配上的分词,则将含有所述分词的文本串作为样本数据,并标注所述文本串中每个分词对应的命名实体属性标志。
7.根据权利要求5所述的方法,其特征在于,所述以所述样本数据作为训练样本,对RNN命名实体识别模型进行训练,以学习所述RNN命名实体识别模型的参数的处理包括:
由所述训练样本中文本串的分词生成所述RNN命名实体识别模型的输入层,
从预先定义的词表中查找所述输入层中每个分词对应的词向量,由所述词向量生成所述RNN命名实体识别模型的词向量层,
对所述词向量层进行矩阵映射,得到所述RNN命名实体识别模型的隐藏层,
以每个所述分词的词向量作为条件,在所述条件下分别计算与每个所述分词对应的多个命名实体属性标志的概率,作为所述RNN命名实体识别模型的输出层,
利用所述多个标注的样本数据对所述RNN命名实体识别模型进行训练,得到所述RNN命名实体识别模型的参数。
8.根据权利要求7所述的方法,其特征在于,所述利用所述多个标注的样本数据对所述RNN命名实体识别模型进行训练,得到所述RNN命名实体识别模型的参数的处理包括:
获取每个所述分词对应的多个命名实体属性标志的条件概率,
根据所述多个命名实体属性标志的条件概率建立损失函数,
利用所述多个标注的样本数据对所述损失函数进行训练,获取使得所述损失函数最小的所述RNN命名实体识别模型的参数集合,其中,所述参数集合包括词向量和变换矩阵参数。
9.一种命名实体的识别方法,其特征在于,所述识别方法包括:
获取文本串;
对所述文本串进行分词处理得到多个分词;
通过根据权利要求5所述的方法训练得到的RNN命名实体识别模型分别获取所述分词对应的概率最大的命名实体属性标志;
根据所述分词对应的概率最大的命名实体属性标志对所述文本串进行识别得到命名实体。
10.根据权利要求9所述的方法,其特征在于,所述方法还包括:根据所述分词对应的概率最大的命名实体属性标志获取所述命名实体的类型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510082318.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:海量数据管理方法和设备
- 下一篇:实时协同编辑系统