[发明专利]序列标注方法及装置有效
| 申请号: | 202010334370.4 | 申请日: | 2020-04-24 |
| 公开(公告)号: | CN111666734B | 公开(公告)日: | 2021-08-10 |
| 发明(设计)人: | 叶蔚;张世琨;盛中昊;刘学洋;胡文蕙 | 申请(专利权)人: | 北京大学 |
| 主分类号: | G06F40/117 | 分类号: | G06F40/117;G06F40/289;G06F40/205;G06N3/04;G06N3/08 |
| 代理公司: | 北京华创智道知识产权代理事务所(普通合伙) 11888 | 代理人: | 彭随丽 |
| 地址: | 100871*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 序列 标注 方法 装置 | ||
1.一种序列标注方法,其特征在于,包括:
获取待分析的句子;
将待分析的句子输入至序列标注模型,输出所述句子的分词结果及每个词的标注结果;其中,所述序列标注模型是基于样本句子及所述样本句子对应的分词和标注数据进行基于强化学习的训练获得的,所述序列标注模型包括判别子模型和策略网络;所述判别子模型包括嵌入层、上层长短期记忆网络、下层长短期记忆网络和条件随机场,所述条件随机场以所述上层长短期记忆网络每个词的输出作为输入,得到序列的标注结果,并以负对数似然作为判别子模型损失;
所述将待分析的句子输入至序列标注模型,输出所述句子的分词结果及每个词的标注结果的具体步骤包括:所述将待分析的句子中的当前字输入至所述判别子模型,输出所述当前字的上下文表征;将所述当前字的上下文表征输入至所述策略网络,输出是否在当前字分词的决策结果;根据是否在待分析的句子中每个字分词的决策结果及每个字的上下文表征,获取所述句子的分词结果及每个词的标注结果。
2.根据权利要求1所述的序列标注方法,其特征在于,所述将待分析的句子输入至序列标注模型,输出所述句子的分词结果及每个词的标注结果之前,还包括:根据所述样本句子及所述样本句子对应的分词和标注数据,对序列标注模型进行基于强化学习的训练,获得训练好的序列标注模型。
3.根据权利要求2所述的序列标注方法,其特征在于,所述根据所述样本句子及所述样本句子对应的分词和标注数据,对序列标注模型进行基于强化学习的训练,获得训练好的序列标注模型的具体步骤包括:根据所述样本句子及所述样本句子对应的分词和标注数据,分别对所述判别子模型和所述策略网络进行预训练;根据所述样本句子及所述样本句子对应的分词和标注数据,对预训练后的所述判别子模型和所述策略网络进行联合训练,获取所述训练好的序列标注模型。
4.根据权利要求2所述的序列标注方法,其特征在于,所述根据所述样本句子及所述样本句子对应的分词和标注数据,对序列标注模型进行基于强化学习的训练,获得训练好的序列标注模型之前,还包括:对中文序列标注的语料和标注数据进行预处理,获取所述样本句子及所述样本句子对应的分词和标注数据。
5.根据权利要求2至4任一所述的序列标注方法,其特征在于,所述策略网络为多层全连接神经网络。
6.一种序列标注装置,其特征在于,包括:获取模块,用于获取待分析的句子;预测模块,用于将待分析的句子输入至序列标注模型,输出所述句子的分词结果及每个词的标注结果;其中,所述序列标注模型是基于样本句子及所述样本句子对应的分词和标注数据进行基于强化学习的训练获得的;
所述序列标注模型包括判别子模型和策略网络;所述判别子模型包括嵌入层、上层长短期记忆网络、下层长短期记忆网络和条件随机场,所述条件随机场以所述上层长短期记忆网络每个词的输出作为输入,得到序列的标注结果,并以负对数似然作为判别子模型损失;
所述将待分析的句子输入至序列标注模型,输出所述句子的分词结果及每个词的标注结果的具体步骤包括:所述将待分析的句子中的当前字输入至所述判别子模型,输出所述当前字的上下文表征;将所述当前字的上下文表征输入至所述策略网络,输出是否在当前字分词的决策结果;根据是否在待分析的句子中每个字分词的决策结果及每个字的上下文表征,获取所述句子的分词结果及每个词的标注结果。
7.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至5任一项所述的序列标注方法的步骤。
8.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至5任一项所述的序列标注方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学,未经北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010334370.4/1.html,转载请声明来源钻瓜专利网。





