[发明专利]分布式文件系统中小文件的修复方法和装置有效
申请号: | 201510897346.0 | 申请日: | 2015-12-08 |
公开(公告)号: | CN105573861B | 公开(公告)日: | 2019-01-25 |
发明(设计)人: | 康撼宇;郭照斌;姜国梁;季旻;苗艳超;杨鹏 | 申请(专利权)人: | 曙光信息产业股份有限公司 |
主分类号: | G06F11/14 | 分类号: | G06F11/14;G06F16/182 |
代理公司: | 北京新知远方知识产权代理事务所(普通合伙) 11397 | 代理人: | 艾凤英 |
地址: | 300384 天津市西青区华*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 文件系统 中小 文件 修复 方法 装置 | ||
本发明提供了一种分布式文件系统中小文件的修复方法和装置,属于计算机技术领域。所述方法包括:确定出现故障的第一逻辑盘,第一逻辑盘中包含待修复的第一小文件;确定包含第一逻辑盘的第一逻辑盘组,第一逻辑盘组包含的逻辑盘中存储与第一小文件相关的第二小文件;批量读取第一逻辑盘组上所有第二小文件;根据第二小文件修复第一小文件。本发明确定出现故障的逻辑盘,该逻辑盘包含待修复的第一小文件;批量读取包含该逻辑盘的逻辑盘组上所有与第一小文件相关的第二小文件;根据第二小文件修复第一小文件,使逻辑盘组中不同逻辑盘的相关小文件被批量读取、修复,避免逐个修复小文件带来的频繁小块读写操作,提高小文件的修复速度,提升修复性能。
技术领域
本发明涉及计算机技术领域,尤其涉及分布式文件系统中小文件的修复方法和装置。
背景技术
对于分布式文件系统,每块磁盘上可以存储大量文件。对于小文件而言,每块磁盘上存储的数据量更加可观。当磁盘出现故障时,会造成大量小文件出现部分数据不可用的情况。分布式文件系统会对存在故障的小文件进行修复。
分布式文件系统对磁盘故障的容忍能力有限,为了避免修复完成前,由于系统中产生新的故障造成某些小文件的完全损坏,需要在尽可能短的时间内,对存在故障的小文件进行修复。
目前,分布式文件系统中小文件的修复方法为:对每个小文件,进行读取、修复。当修复的小文件个数较多时,目前的方法会造成磁盘上大量小块随机读取,由于分布式文件系统采用的存储介质在进行小块随机读取时性能较低,会导致修复性能偏低。
发明内容
为解决上述问题,本发明实施例提出了一种分布式文件系统中小文件的修复方法和装置。
一方面,本发明实施例提供了一种分布式文件系统中小文件的修复方法,包括:
确定出现故障的第一逻辑盘,所述第一逻辑盘中包含待修复的第一小文件;
确定包含所述第一逻辑盘的第一逻辑盘组,所述第一逻辑盘组包含的逻辑盘中存储与所述第一小文件相关的第二小文件;
批量读取所述第一逻辑盘组上所有第二小文件;
根据所述第二小文件修复所述第一小文件。
可选地,所述第二小文件为所述第一小文件和所述第一小文件的备份小文件,或所述第一小文件和与所述第一小文件为同一文件的部分数据形成的小文件,或所述第一小文件、所述第一小文件的备份小文件和与所述第一小文件为同一文件的部分数据形成的小文件。
可选地,所述确定出现故障的第一逻辑盘之前,还包括:
将磁盘切分为至少一个第二逻辑盘;
将存储第三小文件的第二逻辑盘组成第二逻辑盘组;
所述第二逻辑盘组中存储的第三小文件互为相关。
可选地,所述第二逻辑盘组中存储的第三小文件互为相关,包括:所述第二逻辑盘组中存储的所有第三小文件互为备份,或所述第二逻辑盘组中存储的所有第三小文件为同一文件的部分数据形成的小文件,或所述第二逻辑盘组中存储的第三小文件中一部分互为备份,另一部分为同一文件的部分数据形成的小文件。
可选地,若组成第二逻辑盘组的第二逻辑盘为多个,则组成所述第二逻辑盘组的第二逻辑盘位于不同节点上。
可选地,节点出现故障,所述确定出现故障的第一逻辑盘,包括:
确定出现故障的节点上的各磁盘;
确定各磁盘切分出的第三逻辑盘;
将所有第三逻辑盘均作为第一逻辑磁盘。
可选地,磁盘出现故障,所述确定出现故障的第一逻辑盘,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于曙光信息产业股份有限公司,未经曙光信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510897346.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种测试资源动态申请的方法和装置
- 下一篇:数据处理方法及装置