[发明专利]基于纠删码的分布式数据存储方法及系统有效
申请号: | 201410814840.1 | 申请日: | 2014-12-23 |
公开(公告)号: | CN105791353B | 公开(公告)日: | 2020-03-17 |
发明(设计)人: | 王炎 | 申请(专利权)人: | 深圳市腾讯计算机系统有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L1/00 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 蒋雅洁;张颖玲 |
地址: | 518000 广东省深圳市南*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 纠删码 分布式 数据 存储 方法 系统 | ||
1.一种基于纠删码的分布式数据存储方法,其特征在于,包括:
客户端将待存储数据写入缓存服务器中;
所述缓存服务器对所述待存储数据进行缓存;
当达到预定条件时,中转服务器向所述缓存服务器拉取预定大小的缓存数据,对所述缓存数据使用纠删码编码方式进行编码并生成校验数据;以及
所述中转服务器将所述缓存数据写入存储服务器的多个数据块中,将所述校验数据写入所述存储服务器的至少一个校验块中。
2.如权利要求1所述的方法,其特征在于,所述预定条件包括:
所述缓存服务器中所缓存的数据的大小达到所述预定大小;或
所述客户端写入数据的操作超过预定时长;或者
所述缓存服务器出现故障。
3.如权利要求1所述的方法,其特征在于,所述方法还包括:
所述客户端向所述缓存服务器发送数据获取请求;
所述缓存服务器根据所述数据获取请求查找本地是否存储有所述待获取数据,如果有,则直接将所述待获取数据返回所述客户端,否则,将所述数据获取请求发送给所述存储服务器;以及
当所述存储服务器接收到所述数据获取请求时,查找所述待获取数据,并将所述待获取数据通过所述缓存服务器返回所述客户端,所述客户端对所述存储服务器返回的数据进行解码。
4.如权利要求1所述的方法,其特征在于,所述每个数据块或每个校验块均分别单独对应于所述存储服务器的多个设备中的一个设备,在对应于所述多个数据块的多个设备中各自存储有自身的数据索引信息,在对应于至少一个校验块的至少一个设备中各自存储有所述多个数据块的所有数据索引信息。
5.一种基于纠删码的分布式数据存储系统,其特征在于,包括:客户端、缓存服务器、中转服务器以及存储服务器,
所述客户端用于将待存储数据写入所述缓存服务器中;
所述缓存服务器用于对所述待存储数据进行缓存;
当达到预定条件时,所述中转服务器向所述缓存服务器拉取预定大小的缓存数据,对所述缓存数据使用纠删码编码方式进行编码并生成校验数据;以及
所述中转服务器还用于将所述缓存数据写入存储服务器的多个数据块中,将所述校验数据写入所述存储服务器的至少一个校验块中。
6.如权利要求5所述的系统,其特征在于,所述预定条件包括:
所述缓存服务器中所缓存的数据的大小达到所述预定大小;或者
所述客户端写入数据的操作超过预定时长;或者
所述缓存服务器出现故障。
7.如权利要求5所述的系统,其特征在于,
所述客户端还用于向所述缓存服务器发送数据获取请求;
所述缓存服务器还用于根据所述数据获取请求查找本地是否存储有所述待获取数据,如果有,则直接将所述待获取数据返回所述客户端,否则,将所述数据获取请求发送给所述存储服务器;
当所述存储服务器接收到所述数据获取请求时,所述存储服务器还用于查找所述待获取数据,并将所述待获取数据通过所述缓存服务器返回所述客户端,所述客户端还用于对所述存储服务器返回的数据进行解码。
8.如权利要求5所述的系统,其特征在于,所述每个数据块或每个校验块均分别单独对应于所述存储服务器的多个设备中的一个设备,在对应于所述多个数据块的多个设备中各自存储有自身的数据索引信息,在对应于至少一个校验块的至少一个设备中各自存储有所述多个数据块的所有数据索引信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市腾讯计算机系统有限公司,未经深圳市腾讯计算机系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410814840.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:物联网系统和数据交互方法
- 下一篇:项目数据处理方法和系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置