[发明专利]一种基于多客户端协同的分布式文件系统、方法和客户端有效
申请号: | 202110375083.2 | 申请日: | 2021-04-08 |
公开(公告)号: | CN113190523B | 公开(公告)日: | 2022-09-13 |
发明(设计)人: | 程永红;许锡顺;庄世勇;林宝栋 | 申请(专利权)人: | 金钱猫科技股份有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/172;G06F3/06;G06F16/28 |
代理公司: | 福州市景弘专利代理事务所(普通合伙) 35219 | 代理人: | 魏小霞;林祥翔 |
地址: | 350009 福建省福州*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 客户端 协同 分布式 文件系统 方法 | ||
1.一种基于多客户端协同的分布式文件系统,其特征在于,包括:服务器端、客户端和内存数据库;
所述服务器端包括:元数据服务器集群和数据服务器集群,所述元数据服务器集群和数据服务器集群分别单独提供独立的卷给客户端挂载使用;
所述客户端包括:用户接口模块、缓存模块和通信模块,所述客户端的文件为分块写入;
所述内存数据库用于:记录上传数据服务器的文件的数据块分块信息和分布信息;
所述元数据服务器集群基于gluster分布式文件系统建立一个metadata卷;
所述数据服务器集群基于gluster分布式文件系统建立一个realdata卷;
所述客户端的缓存模块采用LRU算法;
所述用户接口模块用于,发送写入请求至所述元数据服务器集群;
所述元数据服务器集群用于,接收所述写入请求,记录对应文件的元数据信息,并返回确认信息至客户端;
所述客户端用于,接收所述确认信息后,开始将数据按分块的方式写入至本地缓存模块,待写入至预设大小时,进行数据块上传,在数据上传过程中访问所述内存数据库中是否存在此数据块的指纹信息记录,若不存在对应数据块,则将此条数据块信息插入至内存数据中,并上传所述数据块至数据服务器中,若存在对应数据块,则在内存数据库中更新记录,将数据库引用计数增加1,且不再进行上传数据;
所述客户端包括:第一客户端和第二客户端;
当所述第二客户端访问的文件为第一客户端上传,且所述文件第一客户端已经写入本地缓存模块,但未上传到数据服务器时,所述第二客户端先从全局的元数据服务器获取对应文件上传完成状态,及创建此文件的第一客户端信息,若所述文件上传完成状态为未完成上传,则所述第二客户端直接跟所述第一客户端建立链接,直接访问对应文件。
2.根据权利要求1所述的一种基于多客户端协同的分布式文件系统,其特征在于,
所述元数据服务器为SSD磁盘;
所述数据服务器为SATA磁盘;
所述内存数据库采用key-value技术。
3.一种基于多客户端协同的分布式文件方法,其特征在于,包括步骤:
通过客户端的用户接口模块将写入请求发送给元数据服务器集群;
所述元数据服务器集群接收所述写入请求,记录对应文件的元数据信息,并返回确认信息至客户端;
客户端接收所述确认信息,并开始响应数据写入指令;
客户端响应数据写入指令,按预设规则对数据进行分块;
将分块后的数据写入至缓存层;
当客户端本地缓存使用空间超过定义的阈 值,客户端后台将自动启动文件数据上传数据服务器进程,当客户端响应分块后的数据上传至数据服务器的指令时,判断内存数据库中是否存在所述分块后的数据的指纹记录,若不存在所述分块后的数据的指纹记录,则将所述分块后的数据信息插入至内存数据库中,并上传所述分块后的数据至数据服务器;
若存在所述分块后的数据的指纹记录,则在内存数据库中更新记录,将所述分块后的数据引用计数增1,并不上传所述分块后的数据至数据服务器;
客户端响应文件读取指令,通过元数据服务器获取文件的元数据信息、文件上传数据服务器完成状态和创建该文件所在的客户端信息;
若所述文件上传数据服务器完成状态为未完成,则根据所述创建该文件所在的客户端信息与所述创建该文件所在的客户端建立连接,获取所述创建该文件所在的客户端上的最新文件内容;
若所述文件上传数据服务器完成状态为完成,则根据所述文件的标识信息查询内存数据库,获取文件当前的分块信息及数据块所在数据服务器信息;
客户端与所述数据块所在数据服务器建立连接,获取所有数据块;
所述客户端包括:第一客户端和第二客户端;
当所述第二客户端访问的文件为第一客户端上传,且所述文件第一客户端已经写入本地缓存模块,但未上传到数据服务器时,所述第二客户端先从全局的元数据服务器获取对应文件上传完成状态,及创建此文件的第一客户端信息,若所述文件上传完成状态为未完成上传,则所述第二客户端直接跟所述第一客户端建立链接,直接访问对应文件;
所述元数据服务器集群基于gluster分布式文件系统建立一个metadata卷;
所述数据服务器组成数据服务器集群,所述数据服务器集群基于gluster分布式文件系统建立一个realdata卷;
所述元数据服务器集群和数据服务器集群分别单独提供独立的卷给客户端挂载使用;
所述客户端的缓存层采用LRU算法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于金钱猫科技股份有限公司,未经金钱猫科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110375083.2/1.html,转载请声明来源钻瓜专利网。