[发明专利]中文文本的分词方法及装置在审
| 申请号： | 201710580701.0 | 申请日： | 2017-07-17 |
| 公开（公告）号： | CN107402916A | 公开（公告）日： | 2017-11-28 |
| 发明（设计）人： | 晋彤 | 申请（专利权）人： | 广州特道信息科技有限公司 |
| 主分类号： | G06F17/27 | 分类号： | G06F17/27 |
| 代理公司： | 广州三环专利商标代理有限公司44202 | 代理人： | 梁顺宜,郝传鑫 |
| 地址： | 510000 广东省广州市越秀*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 中文 文本 分词 方法 装置 | ||
1.一种中文文本的分词方法，其特征在于，包括步骤：
采集具有多元语义的网络词库，根据不同领域对所述网络词库进行训练；
接收待分词文本，根据所述网络词库进行匹配处理后对所述待分词文本进行初始分词；
对所述待分词文本进行初始分词后，对所述待分词文本进行特征提取，从而获得所述待分词文本的领域特征；
根据所述待分词文本的领域特征，对所述待分词文本的词条进行权重调整从而获得第一分词结果；
将所述第一分词结果中的长词通过缩写模型进行简化处理获得缩写词，将所述缩写词与所述多元语义的网络词库进行匹配校验。
2.如权利要求1所述的中文文本的分词方法，其特征在于，还包括步骤：
通过CRF模型，识别所述待分词文本的场景，根据所述待分词文本的场景对所述第一分词结果进行歧义识别，从而生成第二分词结果；
将所述第二分词结果中的长词通过缩写模型进行简化处理获得缩写词，将所述缩写词与所述多元语义的网络词库进行匹配校验。
3.如权利要求1所述的中文文本的分词方法，其特征在于，采集具有多元语义的网络词库具体为：
收集通用词库、实体词库和领域预料进行融合后生成多元语义的网络词库。
4.一种中文文本的分词装置，其特征在于，包括：
采集模块，用于采集具有多元语义的网络词库，根据不同领域对所述网络词库进行训练；
初始分词模块，用于接收待分词文本，根据所述网络词库进行匹配处理后对所述待分词文本进行初始分词；
特征提取模块，用于对所述待分词文本进行初始分词后，对所述待分词文本进行特征提取，从而获得所述待分词文本的领域特征；
第一分词模块，用于根据所述待分词文本的领域特征，对所述待分词文本的词条进行权重调整从而获得第一分词结果；
第一缩写模块，用于将所述第一分词结果中的长词通过缩写模型进行简化处理获得缩写词，将所述缩写词与所述多元语义的网络词库进行匹配校验。
5.如权利要求4所述的中文文本的分词装置，其特征在于，还包括：
第二分词模块，用于通过CRF模型，识别所述待分词文本的场景，根据所述待分词文本的场景对所述第一分词结果进行歧义识别，从而生成第二分词结果；
第二缩写模块，用于将所述第二分词结果中的长词通过缩写模型进行简化处理获得缩写词，将所述缩写词与所述多元语义的网络词库进行匹配校验。
6.如权利要求4所述的中文文本的分词装置，其特征在于，所述采集模块具体用于收集通用词库、实体词库和领域预料进行融合后生成多元语义的网络词库。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于广州特道信息科技有限公司，未经广州特道信息科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201710580701.0/1.html，转载请声明来源钻瓜专利网。
- 上一篇：多层语义的网络词库的生成方法及装置
- 下一篇：藏文短文本情感分析方法及装置
