[发明专利]基于词频的文章相似度识别方法有效
| 申请号： | 201610653494.2 | 申请日： | 2016-08-10 |
| 公开（公告）号： | CN106294295B | 公开（公告）日： | 2019-08-16 |
| 发明（设计）人： | 张俤 | 申请（专利权）人： | 成都轻车快马网络科技有限公司 |
| 主分类号： | G06F17/22 | 分类号： | G06F17/22;G06F17/27;G06F16/953 |
| 代理公司： | 北京天奇智新知识产权代理有限公司 11340 | 代理人： | 杨春 |
| 地址： | 610000 四川省成都市高新区天*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种基于词频的文章相似度识别方法，该方法包括：将网页特征向量进行降维和映射，得到以散列值表示的相似度；基于每个词条在网页中的词频计算词条的区别度；根据所述区别度得到网页权值；通过候选推荐相似度与网页权值乘积进行相似网页的推荐。本发明提出了一种基于词频的文章相似度识别方法，针对大规模数据集，快速、高效地检查出相似数据，快速挖掘到有价值的信息，提升搜索引擎的用户体验。 | ||
| 搜索关键词： | 基于 词频 文章 相似 识别 方法 | ||
【主权项】：
1.一种基于词频的文章相似度识别方法，其特征在于，包括：将网页X和Y的特征向量进行降维和映射，得到以散列值表示的相似度sim(X,Y)；基于每个词条w在网页中的词频计算词条w的区别度WD(w)；根据所述区别度WD(w)得到网页X和Y的网页权值；通过相似度sim(X,Y)与网页X和Y两者的网页权值乘积进行相似网页的推荐；所述将网页X和Y的特征向量进行降维和映射，得到以散列值表示的相似度sim(X,Y)，进一步包括：以网页中的整句为单位来获取和计算整句特征值，然后采用编辑距离计算相似度；将一个多维特征向量映射到一个降维向量空间，并根据该降维后的向量产生一个x维特征值，其中x>1，每一维的值是1或‑1，将每个特征项在x维向量空间进行加权处理，最后将这个x维向量中每一维的权值按照预定规则映射为0或1，再将这些二进制数字连接起来，得到网页向量的x位散列值；所述基于每个词条w在网页中的词频计算词条w的区别度WD(w)，表示为：![]()
其中P为采集过程中爬取的所有网页集合，T为所有词条的集合，FP(p,w)表示词条w在网页p中出现的词频；所述根据所述区别度WD(w)得到网页X和Y的网页权值，具体为：![]()
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于成都轻车快马网络科技有限公司，未经成都轻车快马网络科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201610653494.2/，转载请声明来源钻瓜专利网。
