[发明专利]一种分布式存储的纠删码实现方法及装置有效

专利信息
申请号: 201510808175.X 申请日: 2015-11-19
公开(公告)号: CN105404561B 公开(公告)日: 2019-04-12
发明(设计)人: 丁强 申请(专利权)人: 浙江宇视科技有限公司
主分类号: G06F11/10 分类号: G06F11/10;G06F3/06
代理公司: 北京博思佳知识产权代理有限公司 11415 代理人: 林祥
地址: 310051 浙江省杭州市滨江*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 分布式 存储 纠删码 实现 方法 装置
【说明书】:

发明提供一种分布式存储系统纠删码实现方法及装置,所述方法包括:接收目标客户端发送的针对目标目录的目录创建指令,目录创建指令中包括目标目录对应的纠删策略;根据纠删策略确定目标目录对应的多个目标子目录,以及各目标子目录关联的目标存储服务节点;其中,同一目标目录对应的多个目标子目录关联的目标存储服务节点不同;存储目标目录、目标子目录以及目标存储服务节点三者的对应关系,以使客户端根据目标目录、目标子目录以及目标存储服务节点三者的对应关系对目标目录进行文件创建和/或数据读写。应用本发明实施例可以降低元数据服务器的负荷,提高存储节点空间的纠删策略设定的灵活性。

技术领域

本发明涉及数据处理技术领域,尤其涉及一种分布式存储的纠删码实现方法及装置。

背景技术

分布式存储系统,是将数据分散存储在多台独立的设备上。传统的网络存储系统采用集中的存储服务器存放所有数据,存储服务器成为系统性能的瓶颈,也是可靠性和安全性的焦点,不能满足大规模存储应用的需要。分布式网络存储系统采用可扩展的系统结构,利用多台存储服务器分担存储负荷,利用位置服务器定位存储信息,它不但提高了系统的可靠性、可用性和存取效率,还易于扩展。

监控系统中读写流量相比普通应用来说要大很多,因此,监控系统中的分布式存储系统基本采用对象存储的scaleout(横向扩展)模型,其核心是将数据通路(数据读或写)和控制通路(元数据)分离,通过元数据管理服务器、存储服务节点、客户端三个部分协调工作来构建存储系统,每个对象存储设备具有一定的智能,能够自动管理其上的数据分布。

元数据管理服务器(Meta Data Server,简称MDS)控制客户端与存储节点的交互,为客户端提供元数据,主要是文件的逻辑视图,包括文件与目录的组织关系、每个文件所对应的存储节点等,即在存储系统上构建一个文件系统结构,包括限额控制、目录和文件的创建和删除、访问控制等。

然而实践发现,上述采用对象存储的scaleout模型的分布式存储系统中,元数据服务器需要维护系统中存储的每一个文件与该文件在存储服务节点中每一个chunk(数据块)的对应关系,元数据负载过大;此外,存储节点组成纠删模式后,这几个存储节点就绑定了某一种纠删策略,如6+3、6+2等,纠删策略的设定的灵活性较差。

发明内容

本发明提供一种分布式存储的纠删码实现方法及装置,以解决现有分布式存储系统中元数据服务器负荷过大,且纠删策略设定灵活性较差的问题。

根据本发明实施例的第一方面,提供一种分布式存储系统纠删码实现方法,包括:

接收目标客户端发送的针对目标目录的目录创建指令,所述目录创建指令中包括所述目标目录对应的纠删策略;

根据所述纠删策略确定所述目标目录对应的多个目标子目录,以及各目标子目录关联的目标存储服务节点;其中,同一目标目录对应的多个目标子目录关联的目标存储服务节点不同;

存储所述目标目录、所述目标子目录以及所述目标存储服务节点三者的对应关系,以使客户端根据所述目标目录、所述目标子目录以及所述目标存储服务节点三者的对应关系对所述目标目录进行文件创建和/或数据读写。

根据本发明实施例的第二方面,提供一种分布式存储系统纠删码实现方法,包括:

向元数据服务器发送针对目标目录的目录创建指令,所述目录创建指令中包括所述目标目录对应的纠删策略,以使所述元数据服务器根据所述纠删策略确定所述目标目录对应的多个目标子目录,以及各目标子目录关联的目标存储服务节点;

根据所述目标目录、所述目标子目录以及所述目标存储服务节点三者的对应关系,对所述目标目录进行文件创建和/或数据读写。

根据本发明实施例的第三方面,提供一种分布式存储系统纠删码实现装置,包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江宇视科技有限公司,未经浙江宇视科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201510808175.X/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top