[发明专利]一种命名实体确定方法及装置在审
申请号: | 201810298209.9 | 申请日: | 2018-03-30 |
公开(公告)号: | CN110321547A | 公开(公告)日: | 2019-10-11 |
发明(设计)人: | 于严;李世峰;朱宏波;李中男;王鹏;俞鸿魁 | 申请(专利权)人: | 北京四维图新科技股份有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06N3/08 |
代理公司: | 北京三聚阳光知识产权代理有限公司 11250 | 代理人: | 李博洋 |
地址: | 100083 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 输入向量 向量 合并 命名实体 前向信息 后向 分类标签 概率计算 神经网络 索引 自然语言 单向传递 结果生成 输出结果 双向传递 信息生成 准确度 预设 整合 文本 应用 | ||
1.一种命名实体确定方法,其特征在于,包括:
接收表征待识别命名实体的输入向量;
使用LSTM神经网络对所述输入向量进行双向传递计算,分别确定所述输入向量的前向信息及后向信息,并根据所述输入向量及其前向信息、后向信息生成第一合并向量;
使用RNN神经网络对所述第一合并向量进行单向传递计算,将所述第一合并向量中的输入向量及其前向信息、后向信息进行整合,生成第二合并向量;
根据预设分类标签索引号对所述第二合并向量进行概率计算;
根据概率计算结果生成带有分类标签索引号的输出结果。
2.根据权利要求1所述的命名实体确定方法,其特征在于,根据预设分类标签索引号对所述第二合并向量进行概率计算,包括:
分别计算所述第二合并向量属于各所述预设分类标签索引号的概率;所述预设分类标签索引号表示分类标签对应的序号。
3.根据权利要求1所述的命名实体确定方法,其特征在于,根据概率计算结果生成带有分类标签索引号的输出结果,包括:
比较所述第二合并向量属于各所述预设分类标签索引号的概率的大小;
将所述输入向量定义为概率最大的预设分类标签索引号,进行输出。
4.根据权利要求1所述的命名实体确定方法,其特征在于,在接收表征待识别命名实体的输入向量之前,所述方法还包括:
接收多个表征用于训练的命名实体的训练数据;
使用LSTM神经网络根据第一初始权重参数对所述训练数据进行双向传递计算,分别确定所述训练数据的前向信息及后向信息,根据所述训练数据及其前向信息、后向信息生成第一训练向量;
使用RNN神经网络根据第二初始权重参数对所述第一训练向量进行单向传递计算,将所述第一训练向量中的训练数据及其前向信息、后向信息进行整合,生成第二训练向量;
根据预设分类标签索引号对所述第二训练向量进行概率计算,生成带有分类标签索引号的训练输出结果;
根据所述训练数据对应的实际结果与所述训练输出结果计算交叉熵损失;
判断所述交叉熵损失是否小于预设阈值;
当所述交叉熵损失小于预设阈值时,将所述第一初始权重参数及第二初始权重参数确定为用于命名实体确定的神经网络的权重参数。
5.根据权利要求4所述的命名实体确定方法,其特征在于,
当所述交叉熵损失大于或等于预设阈值时,调整所述第一初始权重参数及第二初始权重参数,并用调整后的权重参数替换所述第一初始权重参数及第二初始权重参数,返回所述使用LSTM神经网络根据第一初始权重参数对所述输入向量进行双向传递计算,生成第一训练向量的步骤。
6.一种命名实体确定装置,其特征在于,包括:
输入向量接收模块,用于接收表征待识别命名实体的输入向量;
第一合并向量生成模块,用于使用LSTM神经网络对所述输入向量进行双向传递计算,分别确定所述输入向量的前向信息及后向信息,根据所述输入向量及其前向信息、后向信息生成第一合并向量;
第二合并向量生成模块,用于使用RNN神经网络对所述第一合并向量进行单向传递计算,将所述第一合并向量中的输入向量及其前向信息、后向信息进行整合,生成第二合并向量;
概率计算模块,用于根据预设分类标签索引号对所述第二合并向量进行概率计算;
输出结果生成模块,用于根据概率计算结果生成带有分类标签索引号的输出结果。
7.根据权利要求6所述的命名实体确定装置,其特征在于,所述概率计算模块具体用于:
分别计算所述第二合并向量属于各所述预设分类标签索引号的概率;所述预设分类标签索引号表示分类标签对应的序号。
8.根据权利要求6所述的命名实体确定装置,其特征在于,所述输出结果生成模块包括:
比较子模块,用于比较所述第二合并向量属于各所述预设分类标签索引号的概率的大小;
结果输出子模块,用于将所述输入向量定义为概率最大的预设分类标签索引号,进行输出。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京四维图新科技股份有限公司,未经北京四维图新科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810298209.9/1.html,转载请声明来源钻瓜专利网。