[发明专利]实体消歧方法、装置、可读存储介质及电子设备在审
申请号: | 201910952886.2 | 申请日: | 2019-10-09 |
公开(公告)号: | CN110674304A | 公开(公告)日: | 2020-01-10 |
发明(设计)人: | 陈栋;齐云飞;付骁弈 | 申请(专利权)人: | 北京明略软件系统有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35 |
代理公司: | 11646 北京超成律师事务所 | 代理人: | 许书音 |
地址: | 100000 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 向量 消歧 文本 实体提取 词向量 相似度 可读存储介质 电子设备 双向语言 向量计算 向量序列 语言模型 聚类 申请 | ||
1.一种实体消歧方法,其特征在于,所述方法包括:
将包括至少两个实体的待处理文本输入预先训练好的实体提取语言模型进行实体提取,获得待处理文本中所包括的实体;
将所述待处理文本输入预先训练好的双向语言模型中进行处理,获得所述待处理文本的字向量序列,其中,所述字向量序列由所述待处理文本中各个字的字向量按照该各个字在所述待处理文本中的先后顺序排列而成,所述字向量通过所述字的上下文关系计算得来;
针对所述待处理文本中任意一实体,根据该任意一实体以及该任意一实体中的每个字在文本中的位置,从所述字向量序列中获取该任意一实体中的每个字的字向量;
根据该任意一实体中每个字的字向量计算获得该任意一实体的词向量;
根据各个实体的词向量计算每两个所述实体之间的相似度;
根据所述待处理文本中,每两个实体之间的相似度对实体进行聚类,以实现实体消歧。
2.根据权利要求1所述的方法,其特征在于,所述针对所述待处理文本中任意一实体,根据该任意一实体以及该任意一实体中的每个字在文本中的位置,从所述字向量序列中获取该任意一实体中的每个字的字向量的步骤包括:
基于所述待处理文本获得标识序列,其中,所述待处理文本中每个实体中的字所在位置采用第一标识符表示,除实体外的其他字采用第二标识符表示;
针对该任意一实体,根据该任意一实体中的每个字的第一标识符在所述标识序列中的位置获取字向量序列中对应位置的字向量,从而获得该任意一实体中每个字的字向量。
3.根据权利要求1所述的方法,其特征在于,所述根据该任意一实体中每个字的字向量计算获得该任意一实体的词向量的步骤包括,计算该实体中所有字的字向量的平均向量,将所述平均向量作为该实体的词向量。
4.根据权利要求1所述的方法,其特征在于,所述根据各个实体的词向量计算每两个实体之间的相似度的步骤包括,采用余弦相似度算法计算每两个实体之间的相似度。
5.根据权利要求1所述的方法,其特征在于,在将包括至少两个实体的待处理文本输入预先训练好的实体提取语言模型进行实体提取,获得待处理文本中所包括的实体的步骤前,所述方法还包括:
将多个标注好实体的训练文本作为训练样本输入实体提取语言模型进行训练;
将输出的实体标注与标注好实体进行对比,计算得到本次训练的损失函数值;
若损失函数值小于预设损失值,判定所述实体提取语言模型训练完成,若损失函数值不小于预设损失值,对所述实体提取语言模型中的参数进行调整,将多个标注好实体的训练文本作为训练样本输入参数调整后的实体提取语言模型中进行训练,重复上述步骤直到损失函数值小于预设损失值。
6.一种实体消歧装置,其特征在于,所述装置包括:
实体提取模块,用于将包括至少两个实体的待处理文本输入预先训练好的实体提取语言模型进行实体提取,获得待处理文本中所包括的实体;
字向量获取模块,用于将所述待处理文本输入预先训练好的双向语言模型中进行处理,获得所述待处理文本的字向量序列,其中,所述字向量序列由所述待处理文本中各个字的字向量按照该各个字在所述待处理文本中的先后顺序排列而成,所述字向量通过所述字的上下文关系计算得来;
字向量对应模块,用于针对所述待处理文本中任意一实体,根据该任意一实体以及该任意一实体中的每个字在文本中的位置,从所述字向量序列中获取该任意一实体中的每个字的字向量;
词向量计算模块,用于根据该任意一实体中每个字的字向量计算获得该任意一实体的词向量;
相似度计算模块,用于根据各个实体的词向量计算每两个所述实体之间的相似度;
实体消歧模块,用于根据所述待处理文本中,每两个实体之间的相似度对实体进行聚类,以实现实体消歧。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司,未经北京明略软件系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910952886.2/1.html,转载请声明来源钻瓜专利网。