[发明专利]一种文本分类方法和装置有效
申请号: | 201010292461.2 | 申请日: | 2010-09-21 |
公开(公告)号: | CN102411592A | 公开(公告)日: | 2012-04-11 |
发明(设计)人: | 孙翔 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F17/27 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 逯长明;王宝筠 |
地址: | 英属开曼群岛大开曼*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分类 方法 装置 | ||
1.一种文本分类方法,其特征在于,包括:
将待分类文档进行分词,对分词得到的各词汇进行组合,得到待分类文档词汇组集合,其中,待分类文档词汇组集合中的各词汇组包括至少两个词汇;
统计所述待分类文档词汇组集合中各词汇组的词频;
从预先获得的词汇组向量中提取所述待分类文档词汇组集合中的各词汇组的向量,其中,所述预先获得词汇组向量是预先将具有确定类别的样本文档进行分词,对分词得到的各词汇进行组合,得到样本文档词汇组集合,统计所述样本文档词汇组集合中各词汇组的词频,将同一词汇组在各样本文档类别中的词频组成词频向量,对所述词频向量进行归一化处理,得到词汇组向量,其中,样本文档词汇组集合中各词汇组包括至少两个词汇;
将待分类文档中各词汇组的词频作为词汇组的向量数,对上述提取的各词汇组的所有向量求和,得到总分类向量;
对所述总分类向量进行预置分类算法的处理,得到待分类文档的分类结果。
2.根据权利要求1所述的文本分类方法,其特征在于,所述将具有确定类别的样本文档进行分词,对分词得到的各词汇进行组合,得到样本文档词汇组集合包括:
将样本文档进行分词,得到样本文档中的所有词汇;
将得到的词汇进行两两组合,得到样本文档词汇组集合,其中,各样本文档词汇组都包括两个词汇。
3.根据权利要求1所述的文本分类方法,其特征在于,所述统计样本文档词汇组集合中各词汇组的词频包括:
统计样本文档中单个词汇的词频;
根据所述样本文档词汇组集合的各词汇组中单个词汇的词频,计算得到所述样本文档词汇组集合的各词汇组的词频。
4.根据权利要求1所述的文本分类方法,其特征在于,所述将待分类文档进行分词,对分词得到的各词汇进行组合,得到待分类文档词汇组集合包括:
将待分类文档进行分词,得到待分类文档中的所有词汇;
将得到的词汇进行两两组合,得到待分类文档词汇组集合,其中,各待分类文档词汇组都包括两个词汇。
5.根据权利要求1所述的文本分类方法,其特征在于,所述统计待分类文档词汇组集合中各词汇组的词频包括:
统计待分类文档中单个词汇的词频;
根据所述待分类文档词汇组集合的各词汇组中单个词汇的词频,计算得到所述待分类文档词汇组集合的各词汇组的词频。
6.根据权利要求1-5中的任意一项所述的文本分类方法,其特征在于,在得到待分类文档词汇组集合后,对所述待分类文档词汇组集合中的词汇组进行筛选,
则所述统计待分类文档词汇组集合中各词汇组的词频,从预先获得的词汇组向量中提取所述待分类文档词汇组集合中的各词汇组的向量包括:统计经筛选后得到的词汇组的词频,从预先获得的词汇组向量中提取所述待分类文档词汇组集合中经筛选后得到的词汇组的向量。
7.一种文本分类装置,其特征在于,包括:
词汇组合模块,用于将待分类文档进行分词,对分词得到的各词汇进行组合,得到待分类文档词汇组集合,其中,待分类文档词汇组集合中的各词汇组包括至少两个词汇;
词频统计模块,用于统计所述待分类文档词汇组集合中各词汇组的词频;
向量提取模块,用于从预先获得的词汇组向量中提取所述待分类文档词汇组集合中的各词汇组的向量,其中,所述预先获得词汇组向量是预先将具有确定类别的样本文档进行分词,对分词得到的各词汇进行组合,得到样本文档词汇组集合,统计所述样本文档词汇组集合中各词汇组的词频,将同一词汇组在各样本文档类别中的词频组成词频向量,对所述词频向量进行归一化处理,得到词汇组向量,其中,样本文档词汇组集合中各词汇组包括至少两个词汇;
向量求和模块,用于将待分类文档中各词汇组的词频作为词汇组的向量数,对上述提取的各词汇组的所有向量求和,得到总分类向量;
分类模块,用于对所述总分类向量进行预置分类算法的处理,得到待分类文档的分类结果。
8.根据权利要求7所述的文本分类装置,其特征在于,所述词汇组合模块包括:
分词子模块,用于将待分类文档进行分词,得到待分类文档中的所有词汇;
词汇组组合子模块,用于将得到的词汇进行两两组合,得到待分类文档词汇组集合,其中,各待分类文档词汇组都包括两个词汇。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201010292461.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:秧苗移栽防晒罩
- 下一篇:一种网页分类方法和装置