[发明专利]数据压缩方法及装置有效
申请号: | 202110810348.7 | 申请日: | 2021-07-16 |
公开(公告)号: | CN113270120B | 公开(公告)日: | 2022-02-18 |
发明(设计)人: | 张丞 | 申请(专利权)人: | 北京金山云网络技术有限公司 |
主分类号: | G06F12/1072 | 分类号: | G06F12/1072;H03M7/30 |
代理公司: | 北京法胜知识产权代理有限公司 11922 | 代理人: | 白雪静 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据压缩 方法 装置 | ||
1.一种数据压缩方法,其特征在于,包括:
获取数据节点的磁盘中的第一纠删块;
将单块所述磁盘中的所述第一纠删块排入一个队列,以生成纠删块队列;
对所述纠删块队列中的所述第一纠删块依次进行数据压缩操作;
其中,根据所述数据节点的磁盘数量发起对应数量的常驻线程对每个磁盘中的所述第一纠删块进行所述数据压缩步骤;
将所述第一纠删块中的全部对象直接或压缩后写入第二纠删块,并将所述第一纠删块替换为所述第二纠删块,以所述第二纠删块作为新的第一纠删块加载入所述数据节点的磁盘中;其中,第二纠删块为相对于第一纠删块建立的临时的新的纠删块。
2.根据权利要求1所述的数据压缩方法,其特征在于,对所述第一纠删块进行数据压缩操作,包括:
将所述第一纠删块中压缩率等于或小于预设的压缩率阈值的对象写入第二纠删块中;
对所述第一纠删块中压缩率大于所述压缩率阈值的所述对象进行压缩;
将压缩后的所述对象写入所述第二纠删块中;
所述第一纠删块中压缩率大于所述压缩率阈值的所述对象全部压缩完成后,将所述磁盘中的所述第一纠删块替换为所述第二纠删块。
3.根据权利要求2所述的数据压缩方法,其特征在于,所述压缩后的所述对象中包括已压缩标志位,所述对所述第一纠删块中压缩率大于预设的压缩率阈值的所述对象进行压缩,包括:
检测所述第一纠删块中是否存在包括所述已压缩标志位的所述对象;
若所述第一纠删块中不存在包括所述已压缩标志位的所述对象,则对所述第一纠删块中压缩率大于所述压缩率阈值的所述对象进行压缩。
4.根据权利要求3所述的数据压缩方法,其特征在于,还包括:
若所述第一纠删块中存在包括所述已压缩标志位的所述对象,则不对所述第一纠删块进行压缩。
5.根据权利要求2或3所述的数据压缩方法,其特征在于,所述压缩率阈值的取值范围为3%-7%。
6.一种数据压缩装置,其特征在于,包括:
获取模块,用于获取数据节点的磁盘中的第一纠删块;
生成模块,用于将单块所述磁盘中的所述第一纠删块排入一个队列,以生成纠删块队列;
压缩模块,用于对所述纠删块队列中的所述第一纠删块依次进行数据压缩操作;其中,根据所述数据节点的磁盘数量发起对应数量的常驻线程对每个磁盘中的所述第一纠删块进行所述数据压缩步骤;
其中,所述压缩模块包括替换子模块,用于将所述第一纠删块中的全部对象直接或压缩后写入第二纠删块,并将所述第一纠删块替换为所述第二纠删块,以所述第二纠删块作为新的第一纠删块加载入所述数据节点的磁盘中;其中,第二纠删块为相对于第一纠删块建立的临时的新的纠删块。
7.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1-5中任一项所述的数据压缩方法。
8.一种存储有计算机指令的计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行如权利要求1-5中任一项所述的数据压缩方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司,未经北京金山云网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110810348.7/1.html,转载请声明来源钻瓜专利网。