[发明专利]英文文本的分词方法及装置在审
| 申请号： | 201710580401.2 | 申请日： | 2017-07-17 |
| 公开（公告）号： | CN107463550A | 公开（公告）日： | 2017-12-12 |
| 发明（设计）人： | 晋彤 | 申请（专利权）人： | 广州特道信息科技有限公司 |
| 主分类号： | G06F17/27 | 分类号： | G06F17/27 |
| 代理公司： | 广州三环专利商标代理有限公司44202 | 代理人： | 梁顺宜,郝传鑫 |
| 地址： | 510000 广东省广州市越秀*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 英文 文本 分词 方法 装置 | ||
1.一种英文文本的分词方法，其特征在于，包括步骤：
采集具有多元语义的网络词库，根据不同领域对所述网络词库进行训练；
接收待分词文本，根据所述网络词库对所述待分词文本进行初始分词；
对所述待分词文本进行初始分词后，对所述待分词文本进行特征提取，从而获得所述待分词文本的领域特征；
根据所述待分词文本的领域特征，对所述待分词文本的词条进行权重调整从而获得第一分词结果。
2.如权利要求1所述的英文文本的分词方法，其特征在于，还包括步骤：
通过CRF模型，识别所述待分词文本的场景，根据所述待分词文本的场景对所述第一分词结果进行歧义识别，从而生成第二分词结果。
3.如权利要求1所述的英文文本的分词方法，其特征在于，采集具有多元语义的网络词库具体为：
收集通用词库、实体词库和领域预料进行融合后生成多元语义的网络词库。
4.如权利要求1所述的英文文本的分词方法，其特征在于，所述根据所述网络词库对所述待分词文本进行初始分词前还包括步骤：
对所述多元语义的网络词库进行多种时态和复数形式的训练；
根据所述多元语义的网络词库，对所述待分词文本进行时态和复数的还原处理。
5.一种英文文本的分词装置，其特征在于，包括：
采集模块，用于采集具有多元语义的网络词库，根据不同领域对所述网络词库进行训练；
初始分词模块，用于接收待分词文本，根据所述网络词库对所述待分词文本进行初始分词；
特征提取模块，用于对所述待分词文本进行初始分词后，对所述待分词文本进行特征提取，从而获得所述待分词文本的领域特征；
第一分词模块，用于根据所述待分词文本的领域特征，对所述待分词文本的词条进行权重调整从而获得第一分词结果。
6.如权利要求5所述的英文文本的分词装置，其特征在于，还包括：
第二分词模块，用于通过CRF模型，识别所述待分词文本的场景，根据所述待分词文本的场景对所述第一分词结果进行歧义识别，从而生成第二分词结果。
7.如权利要求5所述的英文文本的分词装置，其特征在于，采集模块具体用于收集通用词库、实体词库和领域预料进行融合后生成多元语义的网络词库。
8.如权利要求5所述的英文文本的分词装置，其特征在于，所述初始分词模块还用于对所述多元语义的网络词库进行多种时态和复数形式的训练；根据所述多元语义的网络词库，对所述待分词文本进行时态和复数的还原处理。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于广州特道信息科技有限公司，未经广州特道信息科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201710580401.2/1.html，转载请声明来源钻瓜专利网。
