[发明专利]一种客舱分布式文件存储系统及实现方法有效
申请号: | 202110348576.7 | 申请日: | 2021-03-31 |
公开(公告)号: | CN113032356B | 公开(公告)日: | 2023-05-26 |
发明(设计)人: | 宋光璠;杨勋;刘毅;李震东;任远 | 申请(专利权)人: | 中电科航空电子有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/188;G06F16/172;G06F16/13 |
代理公司: | 成都行之专利代理事务所(普通合伙) 51220 | 代理人: | 喻英 |
地址: | 610000 *** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 客舱 分布式 文件 存储系统 实现 方法 | ||
1.一种客舱分布式文件存储系统的实现方法,其特征是,该客舱分布式文件存储系统配置有至少一个客户端、客舱网络以及多个存储服务器,客户端与存储服务器通过客舱网络通信连接,存储服务器配置有接口模块和缓存模块,具体实现方法包括以下步骤:
客户端根据输入的目标文件信息生成文件列表信息访问请求;
客户端采用一致性哈希算法确定目标文件在存储服务器中的位置,得到待访问目标文件的定位信息;
通过客舱网络将文件列表信息访问请求传输至与定位信息匹配的存储服务器;
缓存模块接收到文件列表信息访问请求后通过存储服务进程访问预构建的目录结构信息,并在目标文件访问成功后向客户端发出访问成功反馈信息;内存目录结构保存于存储服务器,目录元数据信息保存到kv存储LevelDB中;
客户端依据访问成功反馈信息生成操作目标文件的读/写执行命令,并将读/写执行命令传输至相应的存储服务器;
接口模块接收到读/写执行命令后,以调用存储服务进程进行通信的方式在本地文件系统中对目标文件执行读/写操作;
所述文件列表信息访问请求经虚拟文件系统解析成大小为4K的多次连续的在读目录请求,并将多次的在读目录请求分别传输至定位信息中定位的存储服务器,解析后的在读目录请求次数与定位的存储服务器数量相同。
2.根据权利要求1所述的一种客舱分布式文件存储系统的实现方法,其特征是,该客舱分布式文件存储系统以全局统一命名空间将磁盘和内存资源聚集成一个单一的虚拟存储池,虚拟存储池对上层用户和应用屏蔽底层的物理硬件,存储资源根据需要和哈希值定位在虚拟存储池中进行弹性扩展。
3.根据权利要求1所述的一种客舱分布式文件存储系统的实现方法,其特征是,所述目标文件在存储服务器中的定位过程具体为:
获取目标文件的父目录信息;
采用一致性哈希算法分别计算出目标文件的文件哈希值和对应父目录信息的父目录哈希值;
将父目录哈希值与所有存储服务器的哈希值范围对比分析,确定包含父目录信息的所有存储服务器;
将文件哈希值与父目录信息、确定的存储服务器进行匹配分析,得到待访问目标文件在所有存储服务器中的定位信息。
4.根据权利要求1所述的一种客舱分布式文件存储系统的实现方法,其特征是,所述定位信息包括文件哈希值、父目录哈希值、逻辑卷到存储服务器的映射关系、存储服务器的ip地址和端口号、目标文件在存储服务器中本地文件系统的元数据信息、目标文件在存储服务器中本地文件系统的绝对路径。
5.根据权利要求1所述的一种客舱分布式文件存储系统的实现方法,其特征是,所述缓存模块配置有预加载单元、任务处理单元、目录处理单元;
预加载单元在存储服务器启动时加载存储服务器已有的目录项、对应的目录元数据信息分别到内存目录结构、kv存储LevelDB中,并采用深度优先算法DFS从内存目录结构的根目录开始遍历所有目录项完成目录结构信息的构建;
任务处理单元采用同步处理方式处理与目录项增删相关的ops操作,以及采用异步聚合处理机制处理与目录元数据信息增删改相关的ops操作;
目录处理单元以建立游标结构方式处理开发目录、访问目录、关闭目录的执行逻辑。
6.根据权利要求1-5任意一项所述的一种客舱分布式文件存储系统的实现方法,其特征是,该客舱分布式文件存储系统还配置有对逻辑卷进行弹性和自动化管理的存储网关,客户端对存储服务器进行直接访问或通过存储网关以NFS/CIFS标准协议进行代理访问。
7.根据权利要求6所述的一种客舱分布式文件存储系统的实现方法,其特征是,所述逻辑卷为EC逻辑卷,EC逻辑卷采用RS类纠删码进行数据删除或恢复操作以实现最小化冗余存储开销。
8.根据权利要求7所述的一种客舱分布式文件存储系统的实现方法,其特征是,所述EC逻辑卷的冗余度范围具体为:
1≤R≤(B-1)/2
其中,R表示逻辑卷提供容错机制的冗余度;B表示存储服务器的数量。
9.一种客舱分布式文件存储系统,其特征是,包括至少一个客户端、客舱网络以及多个存储服务器,客户端与存储服务器通过客舱网络通信连接,存储服务器配置有接口模块和缓存模块;
客户端,用于根据输入的目标文件信息生成文件列表信息访问请求,并采用一致性哈希算法确定目标文件在存储服务器中的位置,得到待访问目标文件的定位信息,以及通过客舱网络将文件列表信息访问请求传输至与定位信息匹配的存储服务器;且依据访问成功反馈信息生成操作目标文件的读/写执行命令,并将读/写执行命令传输至相应的存储服务器;
缓存模块,用于接收到文件列表信息访问请求后通过存储服务进程访问预构建的目录结构信息,并在目标文件访问成功后向客户端发出访问成功反馈信息;内存目录结构保存于存储服务器,目录元数据信息保存到kv存储LevelDB中;
接口模块,用于接收到读/写执行命令后,以调用存储服务进程进行通信的方式在本地文件系统中对目标文件执行读/写操作;
所述文件列表信息访问请求经虚拟文件系统解析成大小为4K的多次连续的在读目录请求,并将多次的在读目录请求分别传输至定位信息中定位的存储服务器,解析后的在读目录请求次数与定位的存储服务器数量相同。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中电科航空电子有限公司,未经中电科航空电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110348576.7/1.html,转载请声明来源钻瓜专利网。