[发明专利]一种基于布隆过滤器的大数据量密钥去重方法及系统有效
申请号: | 202111133541.8 | 申请日: | 2021-09-27 |
公开(公告)号: | CN113590606B | 公开(公告)日: | 2021-12-31 |
发明(设计)人: | 丁胜建;封连重 | 申请(专利权)人: | 浙江九州量子信息技术股份有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/22;H04L9/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 311201 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种基于布隆过滤器的大数据量密钥去重方法,包括以下步骤:待去重数据的获取;去重系统初始化;数据的分治存储;数据的布隆去重;阳性数据的遍历统计;数据的精准去重;完成大数据量密钥数据的精准去重,本发明还提供了一种基于布隆过滤器的大数据量密钥去重系统。与现有技术相比,本发明针对大数据量密钥去重提出分治存储方法与基于阳性数据的精准去重方法,将大数据量密钥根据散列取余均匀引导存储至不同存储单元,不仅保证了重复密钥在同一个数据集合,减小单个布隆过滤器所需的BitSet空间占用、去重运算消耗,即提高去重运算时布隆过滤器的空间、时间效率,而且基于阳性数据HashSet集合遍历统计实现密钥数据的精准去重,提高去重准确性和密钥质量。 | ||
搜索关键词: | 一种 基于 过滤器 数据量 密钥 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江九州量子信息技术股份有限公司,未经浙江九州量子信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111133541.8/,转载请声明来源钻瓜专利网。