[发明专利]一种数据存储方法及装置有效
申请号: | 201611159962.7 | 申请日: | 2016-12-15 |
公开(公告)号: | CN108234552B | 公开(公告)日: | 2021-11-05 |
发明(设计)人: | 潘晓东;胡林红;莫衍 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 存储 方法 装置 | ||
1.一种数据存储方法,其特征在于,所述方法包括:
对当前需要存储的数据进行数据分块,得到至少一个数据块;
获取各个所述数据块的数据标识;
根据预置消息摘要算法对各个所述数据块的数据标识进行处理,得到各个所述数据块所属的置放群组;
根据所述预置消息摘要算法对所述置放群组的群组标识进行处理,得到所述置放群组所包含的数据块关联的对象存储器;
确定所述置放群组所包含的所有数据块的数据量总和;
当所述数据量总和位于预置数据量范围内时,将所述预置数据量范围对应的压缩算法作为与所述置放群组所包含的数据块关联的对象存储器匹配的压缩算法,其中,所述预置数据量范围和压缩算法的对应关系为预先建立;
通过若干个第一线程,根据与所述对象存储器匹配的压缩算法,对所述对象存储器关联的数据块进行压缩,得到所述对象存储器关联的压缩数据;
通过若干个第二线程,将所述压缩数据存储到所述压缩数据关联的对象存储器中。
2.如权利要求1所述的方法,其特征在于,所述对当前需要存储的数据进行数据分块,得到至少一个数据块,包括:
根据预置数据量对所述数据进行数据分块,得到至少一个数据块,其中所述至少一个数据块中的最后一个数据块的数据量小于或者等于所述预置数据量,所述至少一个数据块中除所述最后一个数据块以外的其他数据块的数据量均等于所述预置数据量。
3.如权利要求1所述的方法,其特征在于,所述通过若干个第一线程,根据与所述对象存储器匹配的压缩算法,对所述对象存储器关联的数据块进行压缩,得到所述对象存储器关联的压缩数据之后,还包括:
生成所述数据的索引信息,所述索引信息包括各个所述数据块的偏移,以及各个所述数据块对应的压缩数据所采用的压缩算法。
4.如权利要求3所述的方法,其特征在于,所述方法还包括:
接收数据获取请求,所述数据获取请求携带数据标识;
获取所述数据标识所对应数据的索引信息;
根据所述索引信息所包含的各个所述数据块对应的压缩数据所采用的压缩算法,确定各个所述压缩数据所需的解压缩算法;
根据各个所述压缩数据所需的解压缩算法对所述压缩数据进行解压缩,得到各个所述压缩数据对应的数据块;
根据各个所述数据块的偏移,对各个所述数据块进行组装得到所述数据。
5.一种数据存储装置,其特征在于,所述装置包括:
数据分块单元,用于对当前需要存储的数据进行数据分块,得到至少一个数据块;
确定单元,用于获取各个所述数据块的数据标识;根据预置消息摘要算法对各个所述数据块的数据标识进行处理,得到各个所述数据块所属的置放群组;根据所述预置消息摘要算法对所述置放群组的群组标识进行处理,得到所述置放群组所包含的数据块关联的对象存储器;确定所述置放群组所包含的所有数据块的数据量总和;当所述数据量总和位于预置数据量范围内时,将所述预置数据量范围对应的压缩算法作为与所述置放群组所包含的数据块关联的对象存储器匹配的压缩算法,其中,所述预置数据量范围和压缩算法的对应关系为预先建立;
压缩单元,用于通过若干个第一线程,根据与所述对象存储器匹配的压缩算法,对所述对象存储器关联的数据块进行压缩,得到所述对象存储器关联的压缩数据;
存储单元,用于通过若干个第二线程,将所述压缩数据存储到所述压缩数据关联的对象存储器中。
6.如权利要求5所述的装置,其特征在于,所述数据分块单元,具体用于:
根据预置数据量对所述数据进行数据分块,得到至少一个数据块,其中所述至少一个数据块中的最后一个数据块的数据量小于或者等于所述预置数据量,所述至少一个数据块中除所述最后一个数据块以外的其他数据块的数据量均等于所述预置数据量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611159962.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据处理方法及装置
- 下一篇:数据中心的控制方法、装置和系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置