[发明专利]一种数据存储方法装置在审
申请号: | 201210575445.3 | 申请日: | 2012-12-26 |
公开(公告)号: | CN103077197A | 公开(公告)日: | 2013-05-01 |
发明(设计)人: | 马军;王少华 | 申请(专利权)人: | 北京思特奇信息技术股份有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;H04L29/08 |
代理公司: | 北京轻创知识产权代理有限公司 11212 | 代理人: | 杨立 |
地址: | 100086 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 存储 方法 装置 | ||
技术领域
本发明涉及计算机领域,尤其涉及一种应用于云计算平台的数据存储方法及装置。
背景技术
分布式文件系统由元数据服务器、存储数据服务器、客户端、管理工具组成。元数据服务器用于管理文件系统的元数据(包括文件目录树组织、属性维护、文件操作日志记录、授权访问等),管理整个存储系统的命名空间,对外提供单一的系统映像,并负责整个存储集群的管理监控。存储服务器用于存储用户的实际数据,是整个分布式文件系统存储资源提供者。当应用服务器进行数据访问时,存储服务器集群提供实际的数据IO(Input/Outpu,输入/输出)服务,客户端同应用对接,应用通过客户端访问分布式文件系统。
存储服务器是文件系统的物理存储设备,是整个分布式文件系统的存储资源提供者。当应用服务器进行数据访问时,存储服务器集群提供实际的数据IO服务,数据压力分布在存储服务器集群中的各存储服务器之间。
当前,分布式文件系统存储服务器设定有一个限额值。分布式文件系统按照操作顺序,轮流的把该次操作的数据存储到已占用存储空间未超过限额值的存储服务器的存储空间中。如果所有的存储服务器的已占用存储空间都超过限额值,则限额值翻倍。
图1为传统分布式存储流程示意图。如图1所示,传统分布式存储流程包括如下步骤:
步骤S101,准备存储数据;
步骤S102,判断当前存储服务器已占用的存储空间是否小于限额值,若是执行步骤S106,否则执行步骤S103;
步骤S103,判断所有存储服务器的已占用存储空间是否都超过限额值,若是执行步骤S105,否则执行步骤S104;
步骤S104,修改限额值变大;
步骤S105,查看下一个存储服务器的已占用存储空间;
步骤S106,将数据存储到当前存储服务器的存储空间,存储完成。
传统分布式存储方式存在如下问题:
(1)存储服务器负载不均衡:现有方案轮流依次存储数据到存储服务器,因为每次操作的数据大小不一,虽然轮流操作均衡了每个存储服务器的操作次数。但长久时间后,每个存储服务器负载差异较大。存储服务器负载差异大后,IO不均衡,读写文件性能降低。
(2)存储服务器没有分组:存储服务器不分组,处于同一环境中,比如同一机房,如果机房掉电,那么该机房中存储服务器都不能访问。尽管其他机房的存储服务器可以正常访问。此场景下,分布式文件系统中会出现部分文件不能访问的情况。
(3)跨网络段存储,按照整个存储集群进行存储,多个副本存储在各个存储节点,当跨网段部署时,存储效率低。一个应用请求的计算,离它操作的数据越近就越高效,在数据达到海量级别的时候更是如此。因为这样就能降低网络阻塞的影响,提高系统数据的吞吐量。
发明内容
本发明所要解决的技术问题是提供一种数据存储方法装置,提高文件系统的读写性能。
为解决上述技术问题,本发明提出了一种数据存储方法,应用于分布式文件系统,包括:
接收待存储的数据;
根据分布式文件系统中各存储服务器的负载值将所述数据存储到对应的存储服务器中,所述负载值等于存储服务器的已占用容量与总容量的比值。
进一步地,上述数据存储方法还可具有以下特点,所述根据分布式文件系统中各存储服务器的负载值将所述数据存储到对应的存储服务器中,包括:
计算分布式文件系统中各存储服务器的负载值;
将各存储服务器按照所述负载值进行排序;
选择负载值最小的存储服务器来存储所述数据。
进一步地,上述数据存储方法还可具有以下特点,在所述选择负载值最小的存储服务器来存储所述数据之后,还包括:
将所述数据的副本存储到与所选择存储服务器不在同一组的存储服务器中。
进一步地,上述数据存储方法还可具有以下特点,所述将所述数据的副本存储到与所选择存储服务器不在同一组的存储服务器中,包括:
对所有存储服务器进行分组,将处于同一环境中的存储服务器分在同一组中;
选择与所选择存储服务器不在同一组、且负载值最小的一个或多个存储服务器来存储所述数据的副本。
进一步地,上述数据存储方法还可具有以下特点,所述同一环境指场地相同、场景相同。
为解决上述技术问题,本发明提出了一种数据存储系统,应用于分布式文件系统,包括:
接收模块,用于接收待存储的数据;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京思特奇信息技术股份有限公司,未经北京思特奇信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210575445.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种生产三氯化磷的新型装置
- 下一篇:一种生产盐酸的新型装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置