[发明专利]文本内容快速去重方法、装置、计算机设备及存储介质在审
| 申请号： | 201910344414.9 | 申请日： | 2019-04-26 |
| 公开（公告）号： | CN110309446A | 公开（公告）日： | 2019-10-08 |
| 发明（设计）人： | 耿伟;王英明;周起如;谷国栋 | 申请（专利权）人： | 深圳市赛为智能股份有限公司;安徽工业大学工商学院 |
| 主分类号： | G06F16/955 | 分类号： | G06F16/955;G06F16/951;G06F16/953 |
| 代理公司： | 深圳市精英专利事务所 44242 | 代理人： | 冯筠 |
| 地址： | 518000 广东省深圳市*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及文本内容快速去重方法、装置、计算机设备及存储介质，该方法包括抓取需要去重的若干个网页文本内容；对若干个网页文本内容进行预处理，以得到待去重文本内容；对待去重文本内容进行提取特征关键词，以得到目标特征关键词；对目标特征关键词进行权重计算，以得到权重值；对目标特征关键词进行签名，以得到特征签名；根据特征签名形成网页文本内容指纹；对网页文本内容指纹进行倒排索引存储；根据网页文本内容指纹计算相似度，以得到网页文本内容的相似性；输出网页文本内容的相似性。本发明有效满足海量大规模数据实时去重处理性能需求，实现提高准确率和去重性能。 | ||
| 搜索关键词： | 网页文本 去重 文本内容 目标特征 内容指纹 计算机设备 存储介质 预处理 抓取 大规模数据 计算相似度 倒排索引 权重计算 提取特征 准确率 权重 存储 输出 | ||
【主权项】：
1.文本内容快速去重方法，其特征在于，包括：抓取需要去重的若干个网页文本内容；对若干个所述网页文本内容进行预处理，以得到待去重文本内容；对待去重文本内容进行提取特征关键词，以得到目标特征关键词；对所述目标特征关键词进行权重计算，以得到权重值；对所述目标特征关键词进行签名，以得到特征签名；根据特征签名形成网页文本内容指纹；对网页文本内容指纹进行倒排索引存储；根据所述网页文本内容指纹计算相似度，以得到网页文本内容的相似性；输出网页文本内容的相似性。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于深圳市赛为智能股份有限公司;安徽工业大学工商学院，未经深圳市赛为智能股份有限公司;安徽工业大学工商学院许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910344414.9/，转载请声明来源钻瓜专利网。
