[发明专利]英文文本的分词方法及装置在审
| 申请号： | 201710580373.4 | 申请日： | 2017-07-17 |
| 公开（公告）号： | CN107451117A | 公开（公告）日： | 2017-12-08 |
| 发明（设计）人： | 晋彤;李永康 | 申请（专利权）人： | 广州特道信息科技有限公司 |
| 主分类号： | G06F17/27 | 分类号： | G06F17/27 |
| 代理公司： | 广州三环专利商标代理有限公司44202 | 代理人： | 梁顺宜,郝传鑫 |
| 地址： | 510000 广东省广州市越秀*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 英文 文本 分词 方法 装置 | ||
1.一种英文文本的分词方法，其特征在于，包括步骤：
通过大量文章对标准词库中的预料进行若干时态、语态和复数形式的训练；
根据已完成训练的所述标准词库，对所述待分词文本进行时态和复数的还原处理获得标准词条；
接收待分词文本，对所述待分词文本进行特征提取，根据提取的特征识别所述待分词文本所属的领域；
根据所述待分词文本所属的领域对所述标准词条进行分词处理。
2.如权利要求1所述的英文文本的分词方法，其特征在于，还包括步骤：
通过CRF模型，识别所述待分词文本的场景，根据所述待分词文本的场景对所述待分词文本进行歧义识别。
3.如权利要求1所述的英文文本的分词方法，其特征在于，所述标准词库包括采集通用词库、实体词库和领域预料中的一种或多种内容。
4.如权利要求1所述的英文文本的分词方法，其特征在于，通过大量文章对标准词库中的预料进行若干时态的训练包括对所述标准词库中的预料进行现在时、过去式、进行时、完成时和将来时的训练。
5.如权利要求1所述的英文文本的分词方法，其特征在于，通过大量文章对标准词库中的预料进行语态的训练包括对所述标准词库中的预料进行主动语态和被动语态的训练。
6.一种英文文本的分词装置，其特征在于，包括：
训练模块，用于通过大量文章对标准词库中的预料进行若干时态、语态和复数形式的训练；
标准词条获取模块，用于根据已完成训练的所述标准词库，对所述待分词文本进行时态和复数的还原处理获得标准词条；
特征提取模块，用于接收待分词文本，对所述待分词文本进行特征提取，根据提取的特征识别所述待分词文本所属的领域；
分词模块，用于根据所述待分词文本所属的领域对所述标准词条进行分词处理。
7.如权利要求6所述的英文文本的分词装置，其特征在于，所述分词装置还包括歧义识别模块，用于通过CRF模型，识别所述待分词文本的场景，根据所述待分词文本的场景对所述待分词文本进行歧义识别。
8.如权利要求6所述的英文文本的分词装置，其特征在于，所述标准词库包括采集通用词库、实体词库和领域预料中的一种或多种内容。
9.如权利要求6所述的英文文本的分词装置，其特征在于，所述训练模块通过大量文章对标准词库中的预料进行若干时态的训练包括对所述标准词库中的预料进行现在时、过去式、进行时、完成时和将来时的训练。
10.如权利要求6所述的英文文本的分词装置，其特征在于，所述训练模块通过大量文章对标准词库中的预料进行语态的训练包括对所述标准词库中的预料进行主动语态和被动语态的训练。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于广州特道信息科技有限公司，未经广州特道信息科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201710580373.4/1.html，转载请声明来源钻瓜专利网。
