[发明专利]数据分块存储至分布式服务器的系统及方法在审
申请号: | 201210533979.X | 申请日: | 2012-12-12 |
公开(公告)号: | CN103873504A | 公开(公告)日: | 2014-06-18 |
发明(设计)人: | 柴智权;李大鹏;林海洪;李忠一 | 申请(专利权)人: | 鸿富锦精密工业(深圳)有限公司;鸿海精密工业股份有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518109 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 分块 存储 分布式 服务器 系统 方法 | ||
1.一种数据分块存储至分布式服务器的方法,应用于一台分配服务器中,该分配服务器通过网络连接多个客户端和多台存储服务器,其特征在于,该方法包括:
接收步骤,接收客户端上传的文件信息和文件的哈希列表,存储到哈希数据库中,该哈希列表中记录了文件的多个数据块的名称、各数据块的哈希值及数据块的分割顺序;
计算步骤,计算所述多台存储服务器的传输进程占用率,及各存储服务器中每个存储区的存储空间;
确定步骤,根据上述计算得到的数值,确定传输进程占用率低于预设值的存储服务器为空闲存储服务器,及确定该空闲存储服务器中有剩余存储空间的存储区;
去重步骤,当哈希数据库中有哈希值与所述存储服务器中已存储的数据块的哈希值相同时,确定哈希数据库中该哈希值对应的数据块为重复数据块,通知相应客户端无需再上传该数据块,并返回该重复数据块的存储指针给相应客户端;及
分配步骤,将空闲存储服务器中有剩余存储空间的存储区分配给去重后的各数据块。
2.如权利要求1所述的数据分块存储至分布式服务器的方法,其特征在于,该方法还包括:
所述客户端将需要上传至存储服务器的文件分割成多个数据块,并按照分割顺序将该多个数据块的名称、各数据块的哈希值及数据块的分割顺序存入一张哈希列表中;及
上传该哈希列表至分配服务器。
3.如权利要求1所述的数据分块存储至分布式服务器的方法,其特征在于,该方法还包括:
存储服务器接收客户端通过分配服务器上传的数据块;
将各数据块写入相应的存储区;
校验各数据块的哈希值与哈希数据库中相应数据块的哈希值是否相同;
当校验结果为相同时,返回通过校验的各数据块的存储指针给相应客户端;
当校验结果为不相同时,通知客户端重新上传文件,以更新该未通过校验的数据块;及
当校验次数达到预设次数且校验结果仍为不相同时,通知客户端存储失败。
4.如权利要求1所述的数据分块存储至分布式服务器的方法,其特征在于,所述文件信息包括文件的名称、文件的属性。
5.如权利要求1所述的数据分块存储至分布式服务器的方法,其特征在于,当用户需要通过客户端从存储服务器下载文件时,所述客户端执行以下步骤:
从哈希数据库中获取各数据块的哈希值;
根据各数据块的存储指针从相应的存储区下载各数据块;
校验各数据块的哈希值与从哈希数据库中获取的相应数据块的哈希值是否相同;
当校验结果为相同时,将通过校验的数据块写入临时存储区中;
按照所述数据块的分割顺序将上述通过校验的数据块进行排序组合,生成文件;及
校验组合后文件的哈希值与客户端上传的文件的哈希值是否相同,当校验结果为相同时,将通过校验的文件返回给客户端的用户。
6.一种数据分块存储至分布式服务器的系统,运行于一台分配服务器中,该分配服务器通过网络连接多个客户端和多台存储服务器,其特征在于,该系统包括:
接收模块,用于接收客户端上传的文件信息和文件的哈希列表,存储到哈希数据库中,该哈希列表中记录了文件的多个数据块的名称、各数据块的哈希值及数据块的分割顺序;
计算模块,用于计算所述多台存储服务器的传输进程占用率,及各存储服务器中每个存储区的存储空间;
确定模块,用于根据上述计算得到的数值,确定传输进程占用率低于预设值的存储服务器为空闲存储服务器,及确定该存储服务器中有剩余存储空间的存储区;
去重模块,用于当哈希数据库中有哈希值与所述存储服务器中已存储的数据块的哈希值相同时,确定该哈希数据库中该哈希值对应的数据块为重复数据块,通知相应客户端所述存储服务器中已存储该数据块而无需再上传该数据块,并返回该重复数据块的存储指针给相应客户端;及
分配模块,用于将空闲存储服务器中有剩余存储空间的存储区分配给去重后的各数据块。
7.如权利要求6所述的数据分块存储至分布式服务器的系统,其特征在于,所述客户端用于:
将需要上传至存储服务器的文件分割成多个数据块,并按照分割顺序将该多个数据块的名称、各数据块的哈希值及数据块的分割顺序存入一张哈希列表中;及
上传该哈希列表至分配服务器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于鸿富锦精密工业(深圳)有限公司;鸿海精密工业股份有限公司,未经鸿富锦精密工业(深圳)有限公司;鸿海精密工业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210533979.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置