[发明专利]一种基于改进的TF-IDF的文章分类方法在审
| 申请号: | 201811393043.5 | 申请日: | 2018-11-21 |
| 公开(公告)号: | CN109543037A | 公开(公告)日: | 2019-03-29 |
| 发明(设计)人: | 唐杰 | 申请(专利权)人: | 南京安讯科技有限责任公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62 |
| 代理公司: | 大连至诚专利代理事务所(特殊普通合伙) 21242 | 代理人: | 杨威;涂文诗 |
| 地址: | 210012 江苏省南京市雨*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文本 分类标准 特征词 分类 预处理 权值计算公式 文本特征项 改进 分类过程 权值计算 特征选择 修正因子 中文分词 特征项 统计量 分词 去除 集合 引入 学习 | ||
1.一种基于改进的TF-IDF的文章分类方法,其特征在于包括以下步骤:
S1:采用中文分词系统对文本进行预处理,去除文本中的分词;
S2:通过文本特征项对文本进行特征选择,使用改进的TF-IDF权值计算方法计算特征项权值;
S3:使用SVM分类器对训练集中的已知类别文本进行学习获得满足分类标准的SVM分类器;
S4:采用满足分类标准的SVM分类器对集合文本进行分类。
2.根据权利要求1所述的一种基于改进的TF-IDF的文章分类方法,其特征还在于:所述改进的TF-IDF权值计算方法计算特征项权值具体采用如下方式:
S21:计算文档频率TF、逆文档频率IDF和卡方统计量CHI;
S22:查找文本标题的特征词位置因子λ;
S23:对修正后的TF-IDF进行归一化处理,获得改进后的TF-IDF特征权重公式为:
其中λ(tj)为位置因子,logCHI为对数花处理后的CHI,tfi(tj)为特征词tj在文档中的词频,N代表在文本中特征词的个数,nj表示包含特征词tj的文本数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京安讯科技有限责任公司,未经南京安讯科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811393043.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:基于语义相似度的文本聚类方法
- 下一篇:一种应用于文本数据的情感分析方法





