[发明专利]一种不平衡网络文本分类优化系统在审
申请号: | 201710596521.1 | 申请日: | 2017-07-20 |
公开(公告)号: | CN110019654A | 公开(公告)日: | 2019-07-16 |
发明(设计)人: | 陈清明;王定波;张亚琴 | 申请(专利权)人: | 南方电网传媒有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 510000 广东省*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 网络文本 小类 分类 特征提取 优化系统 中文分词 语料 投票 朴素贝叶斯分类器 计算机数据挖掘 结果输出单元 数据输入单元 特征提取单元 处理单元 分类结果 模型分类 输入文本 优化集成 最小特征 识别率 文本 优化 学习 | ||
1.一种不平衡网络文本分类优化系统,其特征在于,所述系统包括:。
数据输入单元,用于输入文本语料:TX={t1,t2,t3,…,tn};输入投票级别:N;输入最小特征数:min;输入最大特征数:max;
中文分词处理单元,用于对TX进行中文分词,去掉没有意义的连词、介词和感叹词,得到CX={c1,c2,c3,…,cn};
特征提取单元,用于进行特征提取;
模型分类单元,用于采用训练好的SVM分类器、朴素贝叶斯分类器和KNN分类器对特征提取的结果进行分类;根据投票级别:N,对分类后的结果进行判别;
结果输出单元,用于得到每条文本语料的分类结果TC={m1,m2,m3,…,mn}。
2.如权利要求1所述的不平衡网络文本分类优化系统,其特征在于,所述特征提取单元包括:
不均衡文本统计单元,用于对CX={c1,c2,c3,…,cn}中所有分词进行不均衡文本统计,得到每个分词统计后的对应的不均衡文本统计量:Xn1、Xn2、Yn1和Yn2;
特征概率处理单元,用于计算每个分词对应的特征概率值;
分类训练单元,用于从min值开始,获取前N个特征词,对文本语料进行N个特征词向量表示进行分类训练;
比较判断单元,用于对所有语料进行交叉验证,得出平均召回率,判断N值大小,直到N值大于max值,将结果发送给特征输出单元;
特征输出单元,比较所有分类效果,选择召回率最大时对应的N值作为结果进行输出。
3.如权利要求2所述的不平衡网络文本分类优化系统,其特征在于,所述分类训练单元包含:
特征词提取单元,用于从min值开始,获取前N个特征词;
SVM分类器,用于对特征词进行SVM分类;
朴素贝叶斯分类器,用于对特征词进行朴素贝叶斯分类;
KNN分类器,用于对特征词进行KNN分类。
4.如权利要求3所述的不平衡网络文本分类优化系统,其特征在于,所述比较判断单元包括:
交叉验证单元,用于对所有文本语料进行交叉验证,得到平均召回率;
判断单元,用于判断N值释放后大于max值。
5.一种不平衡网络文本分类优化方法,其特征在于,所述方法包括:
步骤S1:输入文本语料:TX={t1,t2,t3,…,tn};输入投票级别:N;输入最小特征数:min;输入最大特征数:max;
步骤S2:对TX进行中文分词,去掉没有意义的连词、介词和感叹词,得到CX={c1,c2,c3,…,cn};
步骤S3:进行特征提取;
步骤S4:采用训练好的SVM分类器、朴素贝叶斯分类器和KNN分类器对特征提取的结果进行分类;
步骤S5:根据投票级别:N,对分类后的结果进行判别;
步骤S6:得到每条文本语料的分类结果TC={m1,m2,m3,…,mn}。
6.如权利要求5所述的不平衡网络文本分类优化方法,其特征在于,所述步骤S3中进行特征提取的方法包括:
步骤S3.1:对CX={c1,c2,c3,…,cn}中所有分词进行不均衡文本统计,得到每个分词统计后的对应的不均衡文本统计量:Xn1、Xn2、Yn1和Yn2;
步骤S3.2:按照如下公式,计算每个分词对应的特征概率值为:
步骤S3.3:从min值开始,获取前N个特征词;
步骤S3.4:对文本语料进行N个特征词向量表示进行分类训练;
步骤S3.5:对所有语料进行交叉验证,得出平均召回率;
步骤S3.6:重复执行步骤S3.2-步骤S3.5,直到N值大于max值;
步骤S3.7:比较所有分类效果,选择召回率最大时对应的N值作为结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南方电网传媒有限公司,未经南方电网传媒有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710596521.1/1.html,转载请声明来源钻瓜专利网。