[发明专利]基于人工智能的分词模型的修正方法、装置、设备和介质有效
申请号: | 201710449945.5 | 申请日: | 2017-06-14 |
公开(公告)号: | CN107273357B | 公开(公告)日: | 2020-11-10 |
发明(设计)人: | 郑利群;詹金波;肖求根;付志宏;何径舟;周古月 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06N3/02 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 人工智能 分词 模型 修正 方法 装置 设备 介质 | ||
1.一种基于人工智能的分词模型的修正方法,其特征在于,包括:
获取分词模型的模型参数,同时,通过神经网络对第一训练语料的设定泛化特征对应的特征向量进行训练得到所述设定泛化特征的模型参数;
根据所述分词模型的模型参数和所述设定泛化特征的模型参数对所述第一训练语料进行分词处理,得到分词结果;
根据设定规则比较所述分词结果与所述第一训练语料,依据比较结果修正所述分词模型的模型参数和神经网络参数;
其中,所述根据所述分词模型的模型参数和所述设定泛化特征的模型参数对所述第一训练语料进行分词处理,得到分词结果,包括:
根据所述分词模型的模型参数和所述第一训练语料,获得第一发射矩阵和第一转移矩阵,根据所述设定泛化特征的模型参数和所述第一训练语料,获得第二发射矩阵和第二转移矩阵;
根据所述第一发射矩阵和所述第二发射矩阵,生成第三发射矩阵;
根据所述第三发射矩阵和所述第二转移矩阵对所述第一训练语料进行分词处理,得到分词结果。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一发射矩阵和所述第二发射矩阵,生成第三发射矩阵,包括:
将所述第一发射矩阵和所述第二发射矩阵相加,生成第三发射矩阵。
3.根据权利要求1所述的方法,其特征在于,所述获取分词模型的模型参数,包括:
通过结构化感知机对第二训练语料进行训练,得到一字词向量、两字词向量和第三转移矩阵;
根据所述一字词向量、所述两字词向量和所述第三转移矩阵生成分词模型的模型参数。
4.根据权利要求3所述的方法,其特征在于,在所述通过结构化感知机对第二训练语料进行训练,得到一字词向量、两字词向量和第三转移矩阵之前,包括:
获取基于统计的无监督分词模型;
使用所述无监督分词模型对大量语料进行分词处理,得到所述第二训练语料。
5.根据权利要求1所述的方法,其特征在于,所述根据设定规则比较所述分词结果与所述第一训练语料,依据比较结果修正所述分词模型的模型参数和神经网络参数,包括:
根据设定规则比较所述分词结果与所述第一训练语料,得到比较结果;
降低所述分词模型的学习率;
依据比较结果修正降低学习率后的所述分词模型的模型参数和所述神经网络参数。
6.根据权利要求1所述的方法,其特征在于,所述设定泛化特征包括下述至少一项:
词向量特征、两字统计特征、三字统计特征和词典特征。
7.一种基于人工智能的分词模型的修正装置,其特征在于,包括:
模型参数获取模块,用于获取分词模型的模型参数,同时,通过神经网络对第一训练语料的设定泛化特征对应的特征向量进行训练得到所述设定泛化特征的模型参数;
分词处理模块,用于根据所述分词模型的模型参数和所述设定泛化特征的模型参数对所述第一训练语料进行分词处理,得到分词结果;
模型参数修正模块,用于根据设定规则比较所述分词结果与所述第一训练语料,依据比较结果修正所述分词模型的模型参数和神经网络参数;
其中,分词处理模块,具体用于:
根据所述分词模型的模型参数和所述第一训练语料,获得第一发射矩阵和第一转移矩阵,根据所述设定泛化特征的模型参数和所述第一训练语料,获得第二发射矩阵和第二转移矩阵;
根据所述第一发射矩阵和所述第二发射矩阵,生成第三发射矩阵;
根据所述第三发射矩阵和所述第二转移矩阵对所述第一训练语料进行分词处理,得到分词结果。
8.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的基于人工智能的分词模型的修正方法。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-6中任一项所述的基于人工智能的分词模型的修正方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710449945.5/1.html,转载请声明来源钻瓜专利网。