[发明专利]一种基于SSD和HDD混合存储系统的RDD持久化方法有效
| 申请号: | 201710358093.9 | 申请日: | 2017-05-19 |
| 公开(公告)号: | CN107193494B | 公开(公告)日: | 2020-05-12 |
| 发明(设计)人: | 陆克中;黄泽成;毛睿;廖好;朱金彬;隋秀峰 | 申请(专利权)人: | 深圳大学 |
| 主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F16/182;G06F11/30;G06F11/32 |
| 代理公司: | 深圳市恒申知识产权事务所(普通合伙) 44312 | 代理人: | 王利彬 |
| 地址: | 518000 广东*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 ssd hdd 混合 存储系统 rdd 持久 方法 | ||
1.一种基于SSD和HDD混合存储系统的RDD持久化方法,其特征在于:所述方法包括以下步骤:
RDD模块将RDD模块中的块标识和RDD模块中数据的预设持久化级别传递给块管理器,所述预设持久化级别为SSD_ONLY或HDD_ONLY;
所述块管理器将所述块标识和预设持久化级别传递给磁盘块管理器;
所述磁盘块管理器将所述预设持久化级别传递给设备适配器;
所述设备适配器接收数据的预设持久化级别和读取配置文件中两个目录管理变量,所述两个目录管理变量包括SSD目录管理变量和HDD目录管理变量,根据数据的预设持久化级别进行预设持久化级别和对应目录管理变量中临时文件目录匹配,并将匹配得到的临时文件目录返回给所述磁盘块管理器;
所述磁盘块管理器根据所述块标识得到文件名,并根据匹配得到的临时文件目录和所述文件名得到数据存储地址,并将所述数据存储地址返回至所述块管理器;
所述块管理器根据所述数据存储地址对RDD模块中的数据在SSD或HDD中进行存储。
2.如权利要求1所述的RDD持久化方法,其特征在于:所述RDD模块将RDD模块中的块标识和RDD模块中数据的预设持久化级别传递给块管理器的步骤,具体为:
所述RDD模块通过Iterator方法调用块管理器的doPutIterator方法将RDD模块中的块标识和RDD模块中数据的预设持久化级别传递给块管理器。
3.如权利要求1所述的RDD持久化方法,其特征在于:所述块管理器将所述块标识和预设持久化级别传递给磁盘块管理器的步骤,具体为:
所述块管理器调用磁盘块管理器的getFile方法,将RDD模块中的块标识和RDD模块中数据的预设持久化级别传递给所述磁盘块管理器。
4.如权利要求1所述的RDD持久化方法,其特征在于:所述磁盘块管理器根据所述块标识得到文件名,并将所述预设持久化级别传递给设备适配器的步骤,具体为:
所述磁盘块管理器通过getFile方法根据所述块标识得到文件名;
所述磁盘块管理器调用设备适配器的getAccurateDir方法将所述预设持久化级别传递给设备适配器。
5.如权利要求1所述的RDD持久化方法,其特征在于:所述设备适配器接收数据的预设持久化级别和读取配置文件中两个目录管理变量,根据数据的预设持久化级别进行预设持久化级别和对应目录管理变量中临时文件目录匹配,并将匹配得到的临时文件目录返回给所述磁盘块管理器的步骤,具体为:
所述设备适配器通过getAccurateDir方法根据数据的预设持久化级别进行预设持久化级别和对应目录管理变量中临时文件目录匹配;
所述设备适配器通过getAccurateDir方法将匹配得到的临时文件目录返回给所述磁盘块管理器。
6.如权利要求5所述的RDD持久化方法,其特征在于:两个目录管理变量包括SSD目录管理变量和HDD目录管理变量。
7.如权利要求6所述的RDD持久化方法,其特征在于:所述设备适配器通过getAccurateDir方法根据数据的预设持久化级别进行预设持久化级别和对应目录管理变量中临时文件目录匹配的步骤,具体为:
当数据的预设持久化级别为SSD_ONLY时,执行数据的预设持久化级别与SSD目录管理变量中临时文件目录的映射匹配;
当数据的预设持久化级别为HDD_ONLY时,执行数据的预设持久化级别与HDD目录管理变量中临时文件目录的映射匹配。
8.如权利要求1所述的RDD持久化方法,其特征在于,所述块管理器根据所述数据存储地址对RDD模块中的数据在SSD或HDD中进行存储的步骤,包括:
所述块管理器获得RDD的数据存储地址后,调用块存储模块的writeFunc方法对RDD模块中的数据在SSD或HDD中进行存储。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳大学,未经深圳大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710358093.9/1.html,转载请声明来源钻瓜专利网。





