[发明专利]一种改良的文本分类特征选择方法有效
申请号: | 201410795989.X | 申请日: | 2014-12-11 |
公开(公告)号: | CN105893380B | 公开(公告)日: | 2019-08-23 |
发明(设计)人: | 朱永强;黄筱聪 | 申请(专利权)人: | 成都网安科技发展有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F17/27 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 李静文 |
地址: | 610092 四川*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种改良的文本分类特征选择方法,其中,所述一种改良的文本分类特征选择方法包括:获取训练集文本;对获取的训练集文本分词、去除停用词;改良特征选择方法,使用特征词的文本频率对全体词集进行划分,使用信息增益值对低频词集进行特征选择,再通过改进的χ2统计法对高频词集进行特征选择;合并两部分特征词形成最终分类特征词集。采用本发明,可以通过两次特征选择过程,选择出更具类别代表性的特征词,提高分类效率和准确度。 | ||
搜索关键词: | 一种 改良 文本 分类 特征 选择 方法 | ||
【主权项】:
1.一种改良的分类文本特征选择方法,其特征在于,具体包括以下步骤:步骤1:获取不同类别的一定数量文本,将其赋予类别标签,作为文本分类的训练样本集;步骤2:对训练样本集的文本进行预处理,包括中文分词,去停用词处理;步骤3:使用改良的特征选择方法对文本进行特征选择,其中,包括:结合特征词的文本频率(Document Frequency,DF)对全体词集进行划分;具体为:将预处理后各词按照文档频率进行排序,将词集T划分成两个集合:一个是文档频率小于某阈值的低频特征词集TA,一个是文档频率大于或等于某阈值的高频特征词集TB;使用信息增益值(Information Gain,IG)对低频特征词集进行特征选择;使用基于改进的χ2统计法对高频特征词集进行特征选择;整合两部分特征词,形成文本分类特征词集。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都网安科技发展有限公司,未经成都网安科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201410795989.X/,转载请声明来源钻瓜专利网。