[发明专利]一种资讯去重的方法、系统、存储介质及电子设备

说明书

本发明涉及计算机技术领域，尤其涉及一种资讯去重的方法、系统、存储介质及电子设备，方法包括：对目标资讯的标题与去重库中资讯的标题进行重复判断；若资讯的标题重复，则对标题重复的资讯进行去重处理；若资讯的标题不重复，则对目标资讯的内容与去重库中资讯的内容进行重复判断：获取目标资讯内容的simhash码及去重库中各资讯内容的simhash码，并将各simhash码分为N段M位长度的子码，N、M为大于1的自然数；基于各子码建立去重库中对应资讯的索引；对目标资讯的内容与去重库中相同子码对应的资讯的内容进行重复判断，若资讯的内容重复，则对内容重复的资讯进行去重处理。通过使用本发明，可以快速、准确的实现资讯重复的判断。

技术领域

本发明涉及计算机技术领域，尤其涉及一种资讯去重的方法、系统、存储介质及电子设备。

背景技术

在当下资讯传播迅速、信息广泛的时代，如何准确有效的获取资讯将是十分重要的。资讯的产生有很多来源，自媒体、地方媒体、公众号、微博、官媒等等，相对于一个热点事件，可能会有千千万万的报道和描述，如果对这些资讯不加以筛选剔除，无论对于存储的经济性来说还是对于资讯推送到前台重复展示给用户的效果，都是不合理的。

针对上述情况，资讯的去重系统应运而生，目前市场上的去重系统普遍存在效率和效果不能共存的问题。有采用相似度的去重系统，效率普遍低下，而采用其他方式的去重系统，例如hash值比较的，效率相对提升，但是效果没有相似度好。

发明内容

为解决上述问题，本发明提出一种资讯去重的方法，目的在于快速、准确的实现资讯去重。本申请还提供了相应的系统、存储介质及电子设备。

一种资讯去重的方法，包括：

对目标资讯的标题与去重库中资讯的标题进行重复判断；

若资讯的标题重复，则对标题重复的资讯进行去重处理；若资讯的标题不重复，则对目标资讯的内容与去重库中资讯的内容进行重复判断：

获取目标资讯内容的simhash码及去重库中各资讯内容的simhash码，并将各simhash码分为N段M位长度的子码，N、M为大于1的自然数；

基于各子码建立去重库中对应资讯的索引；

对目标资讯的内容与去重库中相同子码对应的资讯的内容进行重复判断，若资讯的内容重复，则对内容重复的资讯进行去重处理。

优选的，所述对目标资讯的标题与去重库中资讯的标题进行重复判断包括：

对目标资讯的标题与去重库中资讯的标题进行最短编辑距离计算：若最短编辑距离大于设定阈值，则判断目标资讯的标题与去重库中资讯的标题不重复；

若最短编辑距离小于等于设定阈值，则对目标资讯的标题与去重库中符合最短编辑距离要求的资讯的标题进行向量相似度计算：若向量相似度小于设定阈值，则判断目标资讯的标题与去重库中资讯的标题不重复；若向量相似度大于等于设定阈值，则判断目标资讯的标题与去重库中资讯的标题重复。

优选的，所述对目标资讯的内容与去重库中相同子码对应的资讯的内容进行重复判断包括：

基于获取的目标资讯内容的simhash码及去重库中各资讯内容的simhash码，计算目标资讯内容的simhash码与去重库中相同子码对应的资讯的内容的simhash码的汉明距离，若汉明距离大于设定的汉明距离阈值，则判断资讯内容不重复；

若汉明距离小于或等于设定的汉明距离阈值，则对目标资讯的内容与去重库中相同子码对应的资讯的内容进行余弦相似度检测，若余弦相似度小于设定的余弦相似度阈值，则判断资讯的内容不重复，若余弦相似度大于或等于设定的余弦相似度阈值，则判断资讯的内容重复。

优选的，所述对标题重复的资讯进行去重处理之前还包括：