[发明专利]一种大规模存储系统元数据分布式管理方法与系统

说明书

本发明公开了一种大规模存储系统元数据分布式管理方法与系统。本发明将HDFS存储于NameNode内存中的元数据抽象成二维表的结构，以二维表的形式存储在分布式数据库中；抽象后的各二维表之间通过inode_id相互关联。Namenode成为客户端存取元数据的桥梁，客户端首先连接Namenode，Namenode来操作分布式数据库中的元数据，并将元数据返回给客户端。本发明解决了HDFS的单点故障问题。

技术领域

本发明属于分布式数据存储技术领域，具体涉及一种大规模存储系统的元数据分布式管理与组织方法。

背景技术

随着大数据技术与应用、物联网以及云计算的迅猛发展，集中存储的数据量通常可以达到PB甚至EB级别。分布式文件系统是存储和管理大规模数据文件常用的解决方法。分布式文件系统利用多台机器搭建存储集群，数据的存储容量也随着机器数量线性增长。要支持大规模数据的存储，除了需要硬件支持外，元数据的管理技术也是必不可少的关键技术之一。HDFS(Hadoop Distributed File System)是最常见的分布式文件系统，但是HDFS将元数据存储在Namenode单台机器的内存上，限制了元数据存储空间的大小，也成为系统性能的瓶颈。Ceph是一款高性能、高可用、高扩展的分布式文件系统，提出了根据负载情况来动态划分元数据的动态子树划分法，动态地将负载较高节点上的元数据迁移到负载较低的节点上，实现了动态地负载均衡，但是当小文件数目较多时，Ceph扩展多个元数据服务节点还并不稳定，无法提供在线平滑扩容服务。GlusterFS利用弹性哈希算法取代了元数据管理服务，利用文件路径和文件名来计算文件的存储位置，从根本上解决了由于元数据服务导致的系统瓶颈问题，并且遍历效率低，当某个目录下的文件较多时，运行文件扫描、统计、遍历等操作会非常的缓慢。

基于分布式NewSQL数据库开展分布式元数据管理方面，也已经出现相关的研究成果。HopsFS是一款开源的分布式文件系统，它是在HDFS的基础上，将元数据存储在MysqlCluster分布式内存数据库中，以此来扩大元数据的存储容量。但是Mysql Cluster依然对机器的内存要求比较高，并且Mysql Cluster在数据表规模较大时，对数据表与数据分片管理灵活性差，一般是通过数据表分区的方式把每个表数据分布在所有的数据节点上，同时Mysql Cluster采用GPLv2开源协议，而本发明用的Postgres-XL采用BSD协议，更适合商业化的二次开发。

发明内容

针对现有技术中存在的技术问题，本发明的目的在于提供一种基于NewSQL的大规模存储系统元数据分布式管理方法与系统。

本发明提出基于Postgres-XL分布式数据库来存储分布式文件系统的元数据。Postgres-XL分布式关系型数据库既保持了ACID特性，又具有海量数据的存储能力。本发明利用Postgres-XL分布式关系型数据库，设计一种高可扩展性的元数据服务，将HDFS存储于单台机器的元数据抽象成二维表的形式，存储于分布式数据库中。相比于HDFS和HopsFS依赖于内存的大小的弊端，本发明的元数据存储空间更大。Postgres-XL是可扩展的、高可用的分布式数据库，数据分布在多台数据节点中，每台都可以设置相应的备用机器或者以多副本的形式存储，具备高可用性。因此利用Postgres-XL搭建的元数据服务集群也具有可扩展性和高可用性。

本发明将元数据全部存储在分布式数据库中，Namenode不再存储元数据。Namenode成为客户端存取元数据的桥梁，客户端首先连接Namenode，Namenode来操作分布式数据库中的元数据，并将元数据返回给客户端。由于Namenode不再存储元数据，因此本发明利用一组Namenode集群管理客户端会话，并与分布式数据库交互存取元数据，解决了HDFS的单点故障问题。