[发明专利]一种基于MapReduce的KNN文本分类方法在审
申请号: | 201510012387.7 | 申请日: | 2015-01-09 |
公开(公告)号: | CN104536830A | 公开(公告)日: | 2015-04-22 |
发明(设计)人: | 赵靖;王延斌;韩财兴;杨武;张立国 | 申请(专利权)人: | 哈尔滨工程大学 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06K9/62 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 150001 黑龙江省哈尔滨市南岗区*** | 国省代码: | 黑龙江;23 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明属于数据挖掘和云计算领域,具体涉及一种在Hadoop集群上,依据KNN算法和MapReduce编程模型特点,并行化的实现文本分类的基于MapReduce的KNN文本分类方法。本发明包括:数据预处理:其中包括分词、去停用词、词根还原三个过程;特征提取:对训练数据集进行处理,筛选出区分能力最强的特征项;运用KNN算法对测试数据集进行分类。本发明在Hadoop平台上实现的KNN算法具有较好的加速比和良好的扩展性,在数据量相同的情况下,算法的执行效率与集群节点数有关,一般节点越多处理数据的效率就越高。本发明在适当的节点上高效的完成了文本分类任务。 | ||
搜索关键词: | 一种 基于 mapreduce knn 文本 分类 方法 | ||
【主权项】:
一种基于MapReduce的KNN文本分类方法,其特征在于:(1)数据预处理:其中包括分词、去停用词、词根还原三个过程;(2)特征提取:对训练数据集进行处理,筛选出区分能力最强的特征项;(3)运用KNN算法对测试数据集进行分类。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哈尔滨工程大学,未经哈尔滨工程大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510012387.7/,转载请声明来源钻瓜专利网。