[发明专利]基于纠删码的细粒度云存储调度方法在审
申请号: | 201611180700.9 | 申请日: | 2016-12-19 |
公开(公告)号: | CN106603673A | 公开(公告)日: | 2017-04-26 |
发明(设计)人: | 薛广涛;钱诗友;李明禄;廖辉 | 申请(专利权)人: | 上海交通大学 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;G06F11/07;G06F11/10 |
代理公司: | 上海汉声知识产权代理有限公司31236 | 代理人: | 郭国中 |
地址: | 200240 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 纠删码 细粒度 存储 调度 方法 | ||
1.一种基于纠删码的细粒度云存储调度方法,其特征在于,包括如下步骤:
步骤1:对云存储系统中的存储节点的负载信息进行分析,确定影响数据下载时延的性能指标;
步骤2:根据步骤1的性能指标和负载信息制定基于纠删码的云存储调方法,即利用存储节点的负载信息反向指导代理节点进行线程调度;
步骤3:通过多种不同的纠删码对云存储系统中文件进行编码存储。
2.根据权利要求1所述的基于纠删码的细粒度云存储调度方法,其特征在于,利用开源项目OpenStack搭建云计算平台,根据实际用户请求数据在云平台上进行部署和验证。
3.根据权利要求1所述的基于纠删码的细粒度云存储调度方法,其特征在于,所述的步骤1中的云存储系统是指:一个数据存储模型,数据在逻辑层面被存储在一个逻辑存储池中,实际的物理存储则由多台物理服务器完成。
4.根据权利要求1所述的基于纠删码的细粒度云存储调度方法,其特征在于,所述步骤1中的性能指标包括:内存利用率、CPU利用率、每秒收/发字节数、磁盘利用率、磁盘每秒读/写次数、RTT,即代理节点到存储节点之间的往返延时。
5.根据权利要求1所述的基于纠删码的细粒度云存储调度方法,其特征在于,所述步骤2中的代理节点是指:用户与云存储系统进行直接交互的节点;代理节点根据用户的需求进行文件下载任务,对代理节点线程池中线程进行调度,与存储节点建立TCP连接进行数据获取,从存储节点中下载对应的文件后返回给用户。
6.根据权利要求1所述的基于纠删码的细粒度云存储调度方法,其特征在于,所述步骤2中的存储节点是指:文件或数据在云平台中实际存储的物理节点。
7.根据权利要求1所述的基于纠删码的细粒度云存储调度方法,其特征在于,所述步骤3中的通过多种不同的纠删码对海量文件进行编码是指:将原始文件数据进行编码后分成若干个大小相等的数据块并保存在多个不同的存储节点中;对于一个(n,k)纠删码是指将原始数据等分成k个大小相同的数据块,再将k个数据块经过编码后生成n个数据块并分别保存在n个不同的存储节点中,其中n>k;
更进一步地,每次只需从n个数据块中任意获取k个数据块并进行解码后即能够恢复原始数据。
8.根据权利要求1所述的基于纠删码的细粒度云存储调度方法,其特征在于,所述步骤2中的基于纠删码的云存储调度算法包括如下步骤:
步骤2.1:同时接收多个用户请求文件;
步骤2.2:将请求文件的下载请求映射到对数据块的下载请求,每个请求文件通过(n,k)纠删码,将已编码的数据块保存到n个存储节点中,只需从n个存储节点中下载k个数据块即能够恢复原始数据,完成请求文件的下载;
步骤2.3:获取保存数据块的存储节点负载信息,并根据负载信息指导代理节点进行线程的调度;
步骤2.4:假设有足够多的线程能够同时下载所有请求文件对应的数据块,当下载所述数据块时,对应的存储节点负载信息会发生相应变化;
步骤2.5:更新存储节点的负载信息用于进行调度安排;
步骤2.6:选择负载最大的存储节点,并消耗代理节点中的一个线程用于数据块下载,选择最大的数据块进行下载;
步骤2.7:判断一个文件所需的k个数据块是否下载完毕,若下载完毕,则进行文件恢复并结束操作;若未下载完毕,则返回执行步骤2.5。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611180700.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据推荐方法、服务器及终端
- 下一篇:无线播放设备的通信方法、系统及移动终端