[发明专利]将编码数据文件存储在多个文件服务器上有效
申请号: | 201280075352.2 | 申请日: | 2012-08-16 |
公开(公告)号: | CN104583965B | 公开(公告)日: | 2017-08-11 |
发明(设计)人: | 张磊;宋学锋 | 申请(专利权)人: | 英派尔科技开发有限公司 |
主分类号: | G06F11/10 | 分类号: | G06F11/10 |
代理公司: | 北京三友知识产权代理有限公司11127 | 代理人: | 吕俊刚,刘久亮 |
地址: | 美国特*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 编码 数据文件 存储 文件服务器 | ||
1.一种对数据文件的数据块进行编码并且将数据文件的数据块存储在多个文件服务器上的方法,所述方法包括以下步骤:
选择数据剪辑大小S;
选择要包括在各个数据块中的数据剪辑的数量N;
将所述数据文件划分成各自具有数据大小S×N的数据块;以及
对于各个数据块,将所述数据块划分成N个数据剪辑,生成随机数R,其中1≤R≤N,选择冗余数据剪辑的数量K,其中N≤K≤2^N,使用随机线性编码通过异或R个数据剪辑K次来对K个数据剪辑进行编码,并且将K个编码的数据剪辑存储在所述多个文件服务器上。
2.根据权利要求1所述的方法,其中,所述数据剪辑大小S被选择为与所述多个文件服务器的系统页面大小匹配。
3.根据权利要求2所述的方法,其中,所述系统页面大小是4kB。
4.根据权利要求2所述的方法,其中,所述系统页面大小是16kB。
5.根据权利要求1所述的方法,其中,数据剪辑的所述数量N被选择为随机数。
6.根据权利要求1所述的方法,其中,数据剪辑的所述数量N被选择为素数。
7.根据权利要求1所述的方法,其中,数据剪辑的所述数量N被选择为9973。
8.根据权利要求1所述的方法,其中,在所述数据大小S×N没有被均匀地划分成所述数据文件的大小的情况下,用零填补最后的数据块。
9.根据权利要求1所述的方法,其中,所述多个文件服务器被配置为执行Hadoop分布式文件系统HDFS。
10.一种从多个文件服务器中获取数据文件的编码数据块并且对数据文件的编码数据块进行解码的方法,其中,所述编码数据块由权利要求1-9中的任一项所述的方法产生,所述方法包括以下步骤:
获取数据剪辑大小S和包括在各个数据块中的数据剪辑的数量N;
对于各个编码数据块,从所述多个文件服务器中获取与所述数据块对应的N个线性地独立编码的数据剪辑,使用一个或更多个线性方程来对所述N个线性地独立编码的数据剪辑进行解码,并且将各自具有所述数据剪辑大小S的所述N个线性地独立编码的数据剪辑组装成所述数据块;以及
将所述数据块组装成所述数据文件。
11.根据权利要求10所述的方法,其中,所述数据剪辑大小S被选择为与所述多个文件服务器的系统页面大小匹配。
12.根据权利要求11所述的方法,其中,所述系统页面大小是4kB或16kB。
13.根据权利要求10所述的方法,其中,数据剪辑的所述数量N被选择为随机素数。
14.根据权利要求10所述的方法,其中,数据剪辑的所述数量N被选择为9973。
15.根据权利要求10所述的方法,该方法还包括以下步骤:在将所述数据块组装成所述数据文件之前,如果所述数据大小S×N没有被均匀地划分成所述数据文件的大小,则去除在最后的数据块上填补的零。
16.根据权利要求10所述的方法,其中,所述多个文件服务器被配置为执行Hadoop分布式文件系统HDFS。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于英派尔科技开发有限公司,未经英派尔科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201280075352.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:缝纫机及缝纫机的控制方法
- 下一篇:一种双重张力夹线器