[发明专利]基于ARC替换算法的HDFS小文件缓存管理方法在审
| 申请号： | 201710664858.1 | 申请日： | 2017-08-07 |
| 公开（公告）号： | CN107368608A | 公开（公告）日： | 2017-11-21 |
| 发明（设计）人： | 姚英彪;陈功;许晓荣;刘兆霆;冯维 | 申请（专利权）人： | 杭州电子科技大学 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30;G06F12/0813 |
| 代理公司： | 杭州千克知识产权代理有限公司33246 | 代理人： | 周希良 |
| 地址： | 310018 浙江省杭州市*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于ARC替换算法的HDFS小文件缓存管理方法，首先在数据节点上使用tmpfs构建数据缓存区，其中，tmpfs是Linux/Unix系统上的一种基于内存的文件系统。在Namenode端集成两个模块判断模块和决策模块，在Datanode集成一个执行模块。其次，将判断模块、决策模块和执行模块作为三个阶段对小文件进行缓存替换操作。最后，当需要缓存小文件数据块时，Namenode将与数据块存储的Datanode进行通信，并发出指令将数据块缓存在数据节点的高速缓存中。本发明提出的缓存替换管理方法解决了HDFS中小文件被各应用频繁访问时效率低下的问题，应用前景广阔，适合当HDFS系统中小文件较多且小文件经常被频繁访问的场景，本发明能大大减少HDFS反复读取硬盘所带来的时间消耗，提高任务的运行效率。 | ||
| 搜索关键词： | 基于 arc 替换 算法 hdfs 文件 缓存 管理 方法 | ||
【主权项】：
基于ARC替换算法的HDFS小文件缓存管理方法，其特征在于：首先在数据节点上使用tmpfs构建数据缓存区，在Namenode端集成两个模块：判断模块和决策模块，在Datanode集成一个执行模块，当需要缓存小文件数据块时，Namenode将与数据块存储的Datanode进行通信，并发出指令将数据块缓存在数据节点的高速缓存中，将判断模块、决策模块和执行模块作为三个阶段对小文件进行缓存替换操作。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于杭州电子科技大学，未经杭州电子科技大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201710664858.1/，转载请声明来源钻瓜专利网。
