[发明专利]磁盘容错方法、装置及系统有效
申请号: | 201310027284.9 | 申请日: | 2013-01-22 |
公开(公告)号: | CN103942112B | 公开(公告)日: | 2018-06-15 |
发明(设计)人: | 娄继冰 | 申请(专利权)人: | 深圳市腾讯计算机系统有限公司 |
主分类号: | G06F11/07 | 分类号: | G06F11/07;G06F3/06 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 江崇玉 |
地址: | 518000 广东省深圳市南*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种磁盘容错方法、装置及系统,属于计算机领域。所述方法包括:接收访问文件请求;获取文件对应的多个节点列表,每个节点列表包括至少两个节点,每个节点中包括的相互对应的磁盘存储相同的内容;从获取的每个节点列表中分别选择一个节点中访问文件包括的数据块;当从某个节点中访问失败,则在节点所在的节点列表中选择其他的一个节点,根据文件的标识从选择的节点中访问文件包括的数据块。本发明通过结合双机双工的优势提出结对存储技术,将完全独立的多台机器从节点到磁盘进行对等互备,解决了大规模分布式存储系统中的数据读写故障、磁盘故障及单节点故障等问题,保证在任何场景下的数据可靠性,提高了磁盘利用率及读写性能。 1 | ||
搜索关键词: | 访问文件 磁盘 装置及系统 数据块 分布式存储系统 磁盘利用率 单节点故障 计算机领域 数据可靠性 磁盘存储 磁盘故障 存储技术 读写性能 获取文件 数据读写 双机双 场景 失败 访问 保证 | ||
接收访问文件请求,所述访问文件请求中携带文件的标识,所述文件被划分成多个数据块,且划分的数据块与节点列表一一对应;
根据预存的文件的标识与节点列表的对应关系和所述文件的标识,获取所述文件对应的多个节点列表,每个节点列表包括至少两个节点,每个节点包括多个磁盘,所述每个节点包括的磁盘一一对应,在所述每个节点中相互对应的磁盘中存储相同的数据块,在所述每个节点中相互对应的磁盘包括的相同的数据块的偏移量相同;
从所述获取的每个节点列表中分别选择一个节点,根据所述文件的标识从所述每个节点列表选择的一个节点中访问所述文件包括的数据块;
当从某个节点中访问失败,则在所述节点所在的节点列表中选择其他的一个节点,根据所述文件的标识从所述选择的节点中访问所述文件包括的数据块。
2.如权利要求1所述的方法,其特征在于,所述根据所述文件的标识从所述每个节点列表选择的一个节点中访问所述文件包括的数据块,包括:获取节点列表对应的文件的标识与磁盘的标识的对应关系;
根据所述文件的标识,从所述节点列表对应的文件的标识与磁盘的标识的对应关系中获取存储所述文件的磁盘的标识;
根据所述文件的标识和存储所述文件的磁盘的标识,从所述节点列表选择的一个节点中访问所述文件包括的数据块。
3.如权利要求1所述的方法,其特征在于,所述根据所述文件的标识从所述每个节点列表选择的一个节点中访问所述文件包括的数据块,包括:获取节点列表对应的文件的标识、磁盘的标识与数据块的偏移量的对应关系;
根据所述文件的标识,从所述节点列表对应的文件的标识、磁盘的标识与数据块的偏移量的对应关系中获取存储所述文件的磁盘的标识以及所述文件包括的数据块在所述磁盘中存储的偏移量;
根据存储所述文件的磁盘的标识和所述文件包括的数据块在所述磁盘中存储的偏移量,从所述节点列表选择的一个节点中访问所述文件包括的数据块。
4.如权利要求1所述的方法,其特征在于,所述方法还包括:接收写文件请求,所述写文件请求中携带待写入的文件;
根据待写入的文件的标识,从存储的文件的标识与节点列表的对应关系中获取所述待写入的文件对应的多个节点列表;
根据所述获取的多个节点列表,将所述待写入的文件划分成多个数据块,且划分的数据块与所述节点列表一一对应;
在每个节点列表包括的每个节点中,确定出用于存储所述文件包括的数据块的磁盘的标识,将所述文件包括的数据块写入所述磁盘的标识对应的磁盘中。
5.如权利要求4所述的方法,其特征在于,所述确定出用于存储所述文件包括的数据块的磁盘的标识之后,还包括:根据所述待写入的文件的标识和所述存储所述文件包括的数据块的磁盘的标识,生成文件的标识与磁盘的标识的对应关系;
将所述文件的标识与磁盘的标识的对应关系存储。
6.如权利要求4所述的方法,其特征在于,所述确定出用于存储所述文件包括的数据块的磁盘的标识之后,还包括:根据存储所述文件包括的数据块的磁盘的标识,确定出所述磁盘中存储所述文件包括的数据块的偏移量;
所述将所述文件包括的数据块存入所述磁盘的标识对应的磁盘中,包括:
根据存储所述文件包括的数据块的偏移量,将所述文件包括的数据块存储在所述磁盘的标识对应的磁盘的数据块中。
7.如权利要求6所述的方法,其特征在于,所述确定出所述磁盘中存储所述文件包括的数据块的偏移量之后,还包括:根据所述待写入的文件的标识、所述存储所述文件包括的数据块的磁盘的标识和存储所述文件包括的数据块的偏移量,生成文件的标识、磁盘的标识和数据块的偏移量的对应关系;
将所述文件的标识、磁盘的标识和数据块的偏移量的对应关系存储。
8.一种磁盘容错装置,其特征在于,所述装置包括:接收模块,用于接收访问文件请求,所述访问文件请求中携带文件的标识,所述文件被划分成多个数据块,且划分的数据块与节点列表一一对应;
第一获取模块,用于根据预存的文件的标识与节点列表的对应关系和所述文件的标识,获取所述文件对应的多个节点列表,每个节点列表包括至少两个节点,每个节点包括多个磁盘,所述每个节点包括的磁盘一一对应,在所述每个节点中相互对应的磁盘中存储相同的数据块,在所述每个节点中相互对应的磁盘包括的相同的数据块的偏移量相同;
访问模块,用于从所述获取的每个节点列表中分别选择一个节点,根据所述文件的标识从所述每个节点列表选择的一个节点中访问所述文件包括的数据块;
容错模块,用于当从某个节点中访问失败,则在所述节点所在的节点列表中选择其他的一个节点,根据所述文件的标识从所述选择的节点中访问所述文件包括的数据块。
9.如权利要求8所述的装置,其特征在于,所述访问模块,包括:选择单元,用于从所述获取的每个节点列表中分别选择一个节点;
访问单元,包括:
第一获取子单元,用于获取节点列表对应的文件的标识与磁盘的标识的对应关系;
第二获取子单元,用于根据所述文件的标识,从所述节点列表对应的文件的标识与磁盘的标识的对应关系中获取存储所述文件的磁盘的标识;
访问子单元,用于根据所述文件的标识和存储所述文件的磁盘的标识,从所述选择单元选择的一个节点中访问所述文件包括的数据块。
10.如权利要求8所述的装置,其特征在于,所述访问模块包括:选择单元,用于从所述获取的每个节点列表中分别选择一个节点;
访问单元包括:
第一获取子单元,用于获取节点列表对应的文件的标识、磁盘的标识与数据块的偏移量的对应关系;
第二获取子单元,用于根据所述文件的标识,从所述节点列表对应的文件的标识、磁盘的标识与数据块的偏移量的对应关系中获取存储所述文件的磁盘的标识以及所述文件包括的数据块在所述磁盘中存储的偏移量;
访问子单元,用于根据存储所述文件的磁盘的标识和所述文件包括的数据块在所述磁盘中存储的偏移量,从所述选择单元选择的一个节点中访问所述文件包括的数据块。
11.如权利要求9所述的装置,其特征在于,所述装置还包括:接收模块,用于接收写文件请求,所述写文件请求中携带待写入的文件;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市腾讯计算机系统有限公司,未经深圳市腾讯计算机系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201310027284.9/,转载请声明来源钻瓜专利网。
- 上一篇:烘干电熔锆用回转式烘干机
- 下一篇:一种复位灯装配装置