[发明专利]自然语言处理中的序列标注方法、装置、设备及存储介质在审
| 申请号: | 201910146893.3 | 申请日: | 2019-02-27 |
| 公开(公告)号: | CN109885702A | 公开(公告)日: | 2019-06-14 |
| 发明(设计)人: | 林浚玮;邵轶男;陈伟 | 申请(专利权)人: | 哈尔滨工业大学(深圳);腾讯科技(深圳)有限公司 |
| 主分类号: | G06F16/43 | 分类号: | G06F16/43;G06K9/62 |
| 代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 张所明 |
| 地址: | 518055 广东*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本序列 序列标注 目标路径 标签 标注 自然语言处理 编码模式 预设 存储介质 单个编码 输入序列 序列模型 样本编码 普适性 申请 局限 输出 | ||
1.一种自然语言处理中的序列标注方法,其特征在于,所述方法包括:
获取文本序列,所述文本序列中包含n个文本元素,n为大于或者等于2的整数;
将所述文本序列输入序列标注模型,获得所述序列标注模型输出的目标路径,所述序列标注模型是根据文本序列样本和标注序列样本进行训练获得的,所述标注序列样本是所述文本序列样本按照m种编码模式进行编码获得的标注序列,m为大于或者等于2的整数;所述目标路径中的每一个节点是预设标签集中的一个标签,所述预设标签集中包含所述m种编码模式对应的各个标签;
将所述目标路径中的各个节点按照在所述目标路径中从先到后的顺序排列,获得所述文本序列对应的标注序列。
2.根据权利要求1所述的方法,其特征在于,所述将所述文本序列输入序列标注模型,获得所述序列标注模型输出的目标路径,包括:
将所述文本序列输入序列标注模型,获得所述序列标注模型输出的各个备选标签路径的概率值,所述概率值表示所述文本序列的实际标签路径是对应的备选标签路径的概率;
将所述各个备选标签路径中概率值最大的路径获取为所述目标路径。
3.根据权利要求2所述的方法,其特征在于,
所述各个备选标签路径中的任一路径是从第一标签矩阵的第一列中的一个标签开始,依次经过所述第一标签矩阵的每一列标签中的一个标签的路径;所述第一标签矩阵包含n列标签,且所述n列标签中的每一列标签包含所述m种编码模式对应的各个标签。
4.根据权利要求3所述的方法,其特征在于,在将所述文本序列输入序列标注模型,获得所述序列标注模型输出的目标路径之前,所述方法还包括:
获取所述标注序列样本的各个第一子序列样本,所述第一子序列样本中的第一标签是第一文本元素对应的m个标签中的任意标签;所述第一标签是所述第一子序列样本中的任意标签,所述第一文本元素是所述第一标签对应在所述文本序列样本中的文本元素,所述第一文本元素对应的m个标签是所述第一文本元素分别按照所述m种编码模式进行编码时对应的标签;
根据所述文本序列样本以及所述各个第一子序列样本进行训练,获得所述序列标注模型。
5.根据权利要求2所述的方法,其特征在于,
所述各个备选标签路径中的任一路径是从第二标签矩阵的第一列中的一个标签开始,依次经过所述第二标签矩阵的每一列标签中的一个标签的路径;所述第二标签矩阵是与所述m种编码模式一一对应的m个标签子矩阵中的一个,所述标签子矩阵中包含n列标签,且所述n列标签中的每一列标签包含对应的一种编码模式的各个标签。
6.根据权利要求5所述的方法,其特征在于,在将所述文本序列输入序列标注模型,获得所述序列标注模型输出的目标路径之前,所述方法还包括:
获取所述标注序列样本的m个第二子序列样本,每个所述第二子序列样本是所述文本序列样本按照所述m种编码模式中的一种编码模式进行编码获得的标注序列;
根据所述文本序列样本以及所述m个第二子序列样本进行训练,获得所述序列标注模型。
7.根据权利要求1至6任一所述的方法,其特征在于,所述m种编码模式包括BIO编码模式、BILOU编码模式、BIEOS编码模式、BIEO编码模式以及SBME编码模式中的至少两种。
8.根据权利要求1至6任一所述的方法,其特征在于,所述序列标注模型是隐变量条件随机场模型。
9.一种序列标注模型训练方法,其特征在于,所述方法包括:
获取文本序列样本;
按照m种编码模式对所述文本序列样本进行编码,获得标注序列样本,m为大于或者等于2的整数;
根据所述文本序列样本和所述标注序列样本进行训练,获得序列标注模型,所述序列标注模型用于根据输入的文本序列输出目标路径,所述目标路径中的每一个节点是预设标签集中的一个标签,所述预设标签集中包含所述m种编码模式对应的各个标签。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哈尔滨工业大学(深圳);腾讯科技(深圳)有限公司,未经哈尔滨工业大学(深圳);腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910146893.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:多媒体数据处理方法、系统、终端和计算机可读存储介质
- 下一篇:倾听平台





