[发明专利]一种数据处理方法、装置、服务器及存储介质在审
申请号: | 202110127431.4 | 申请日: | 2021-01-29 |
公开(公告)号: | CN114816228A | 公开(公告)日: | 2022-07-29 |
发明(设计)人: | 关海燕 | 申请(专利权)人: | 中移(苏州)软件技术有限公司;中国移动通信集团有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 姚璐;张颖玲 |
地址: | 215163 江苏省苏州*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 服务器 存储 介质 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
确定至少一个数据块中的每个数据块的第一参数;所述第一参数通过计算数据块的第一指纹值中至少两个字符的ASCII值之和得到;所述第一指纹值通过第一哈希算法得到;
根据对应的第一参数,以及根据预先创建的至少两个第一索引表的第一数量,为所述至少一个数据块中的每个数据块分配一个第一索引表;所述第一索引表用于记录第一服务器中存储的数据块对应的第一索引和对应的第一指纹值;
根据所述至少一个数据块中的每个数据块的第一指纹值和对应分配的第一索引表,在数据块的第一指纹值在对应分配的第一索引表中不存在的情况下,将数据块存入所述第一服务器。
2.根据权利要求1所述的数据处理方法,其特征在于,所述方法还包括:
在数据块的第一指纹值在对应分配的第一索引表中已存在的情况下,基于布隆过滤器判断所述第一服务器中是否存储有对应的数据块,得到对应的判断结果;
在对应的判断结果表征所述第一服务器中未备份有对应的数据块的情况下,将数据块存入所述第一服务器。
3.根据权利要求2所述的数据处理方法,其特征在于,所述方法还包括:
在对应的判断结果不能表征所述第一服务器中未备份有对应的数据块的情况下,根据对应的数据块的第二指纹值和第二索引表,在数据块的第二指纹值在第二索引表中不存在的情况下,将数据块存入所述第一服务器;其中,
所述第二指纹值通过第二哈希算法得到;所述第二索引表用于记录所述第一服务器中存储的数据块对应的第二索引和对应的第二指纹值。
4.根据权利要求3所述的数据处理方法,其特征在于,所述第一哈希算法表征弱哈希算法;所述第二哈希算法表征强哈希算法。
5.根据权利要求3所述的数据处理方法,其特征在于,所述方法还包括:
在数据块的第二指纹值在第二索引表中已存在的情况下,放弃将数据块存入所述第一服务器。
6.根据权利要求1所述的数据处理方法,其特征在于,所述确定至少一个数据块中的每个数据块的第一参数时,所述方法包括:
通过计算数据块的第一指纹值的首位字符和末位字符的ASCII值之和,得到数据块的第一参数。
7.根据权利要求1所述的数据处理方法,其特征在于,所述方法还包括:
对存入所述第一服务器的数据块进行备份。
8.根据权利要求1所述的数据处理方法,其特征在于,所述确定至少一个数据块中的每个数据块的第一参数之前,所述方法还包括:
根据存储在第一服务器的数据,对所述至少一个数据块进行重删处理。
9.根据权利要求1所述的数据处理方法,其特征在于,所述确定至少一个数据块中的每个数据块的第一参数之前,所述方法还包括:
为所述至少一个数据块中的每个数据块分配线程;
在分配的线程的第二数量大于所述第一数量的情况下,对所述至少两个第一索引表分配同步锁。
10.一种数据处理装置,其特征在于,包括:
第一确定单元,用于确定至少一个数据块中的每个数据块的第一参数;所述第一参数通过计算数据块的第一指纹值中至少两个字符的ASCII值之和得到;所述第一指纹值通过第一哈希算法得到;
第一分配单元,用于根据对应的第一参数,以及根据预先创建的至少两个第一索引表的第一数量,为所述至少一个数据块中的每个数据块分配一个第一索引表;所述第一索引表用于记录第一服务器中存储的数据块对应的第一索引和对应的第一指纹值;
第一存储单元,用于根据所述至少一个数据块中的每个数据块的第一指纹值和对应分配的第一索引表,在数据块的第一指纹值在对应分配的第一索引表中不存在的情况下,将数据块存入所述第一服务器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中移(苏州)软件技术有限公司;中国移动通信集团有限公司,未经中移(苏州)软件技术有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110127431.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种气动式反操纵负载模拟器及其模拟方法
- 下一篇:一种搁架组件及洗碗机