[发明专利]一种用于HMM的分词训练语料标注方法在审
申请号: | 201510448878.6 | 申请日: | 2015-07-28 |
公开(公告)号: | CN105045888A | 公开(公告)日: | 2015-11-11 |
发明(设计)人: | 范莹;刘福明;于治楼 | 申请(专利权)人: | 浪潮集团有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 姜明 |
地址: | 250101 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开一种用于HMM的分词训练语料标注方法,属于大数据语言处理领域;利用trie将已有实体词词典的内容构建成字典树:构建trie字典树函数,标注字典文件全路径及文件名,将字典文件中每个词加入Set,利用开源org.ahocorasick.trie将输入的词加入trie树,从字符串中识别出trie树包含的词函数,读取特定文档,判断是否有文本行,若有则取出文本行与字典树匹配,匹配成功的词加入tagList中,遍历tagList,在待识别实体词的特定文档中识别出的词的一部分,按HMM构建模型时的需求将实体词按词首和词中进行标注状态的语料标注。 | ||
搜索关键词: | 一种 用于 hmm 分词 训练 语料 标注 方法 | ||
【主权项】:
一种用于HMM的分词训练语料标注方法,其特征是:利用trie将已有实体词词典的内容构建成字典树:构建trie字典树函数,标注字典文件全路径及文件名,将字典文件中每个词加入Set,利用开源org.ahocorasick.trie将输入的词加入trie树,从字符串中识别出trie树包含的词函数,读取特定文档,判断是否有文本行,若有则取出文本行与字典树匹配,匹配成功的词加入tagList中,遍历tagList,在待识别实体词的特定文档中识别出的词的一部分,按HMM构建模型时的需求将实体词按词首和词中进行标注状态的语料标注。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮集团有限公司,未经浪潮集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510448878.6/,转载请声明来源钻瓜专利网。