[发明专利]分布式存储系统、集群节点及其区间管理方法

说明书

一种分布式存储系统、集群节点及其区间管理方法，包括：集群节点按照配置参数将本地路由表中的第一路由表项对应的区间切分为至少两个子区间，其中第一路由表项是指副本信息中记录有表示该集群节点的信息的路由表项；集群节点为每个子区间分别创建一个日志队列；以及集群节点根据来自客户端的数据操作请求的关键字段确定对应的子区间，针对确定的子区间执行相应的数据读写操作，并据此更新与对应的日志队列。通过在集群节点上将一段连续的数据存储区间切分为至少两个子区间、并针对每个子区间创建并维护一个日志队列，使得集群节点上原来针对整段区间的串行操作变成分别针对至少两个子区间的并行操作，可以有效提高系统整体的吞吐量。

技术领域

本发明涉及分布式存储系统，尤其涉及分布式存储系统中的集群节点及其区间管理方法。

背景技术

分布式存储系统的组网拓扑可如图1所示，主要包括客户端(client)、一个管理(manager)节点和若干个集群(cluster)节点(node)。一般来说，一个节点就是一个物理机，集群节点是主(master)节点和备(slave)节点的统称，每个主节点对应有一个或多个备节点，并且各个节点之间通过网络进行通信。

对于图1所示的分布式存储系统，为了提高数据处理的吞吐量和整体性能，一般对数据进行分片存储和分片查询。其中，常用的分片是进行区间切分(range partition)，即将一个大的数据存储区间分成几个小区间，每个节点(node)负责一段连续的区间。其中，所谓“某个节点负责某个区间”，是指由该节点管理、控制和/或执行针对该区间的数据读写操作。在进行读写操作时，客户端会基于数据操作的关键字段遍历路由表的表项，根据表项内的区间找到负责该区间的节点(主节点)上去执行该读写操作。以下将主节点负责的区间称为路由区间(routing range)，以表示客户端能够通过路由表找到负责该区间的主节点并执行相应的数据操作的意思。

另一方面，为了可靠性的考虑，在分布式存储系统中一般会为每个节点做至少一个数据备份，并且备份数据通常分布在不同的节点上(备节点)。在进行主备间数据同步时，主节点会向备节点发送包含数据操作记录等信息的同步请求，备节点会响应于该同步请求，基于数据操作记录的关键字段遍历路由表的表项，针对表项内的区间进行相应的备份数据同步操作。以下将主节点和备节点进行数据操作的区间称为同步区间(sync range)，以表示备节点能够通过路由表找到该区间并执行相应的备份数据同步操作的意思。

在现有技术中，路由区间和同步区间的大小是一致的。例如，假设节点A作为主节点负责区间[0,100]，并且节点B作为节点A在区间[0,100]上的备节点，则相对于客户端来说，区间[0,100]是用于找到节点A的路由区间，而相对于节点A和节点B来说，区间[0,100]是两者进行数据操作的同步区间。

这使得，在集群节点个数一定的情况下，如果一个节点上维护的区间个数较少，例如基于主键进行区间切分的数据库Spinnake，则有可能出现多个线程竞争对同一个区间进行数据操作的权限的情况，尤其对于一些热点分区，容易造成串行执行现象。这势必会导致访问时间的延长以及数据读写效率和备份效率的降低，从而影响系统的数据处理吞吐量。

另一方面，在集群节点个数一定的情况下，如果一个节点上维护的区间个数较多，例如基于主键和非主键均进行区间切分的分布式键值数据库HyperDex，则由于路由区间的个数比较多，从而会增加客户端的路由开销。

发明内容

有鉴于此，本发明实施例要解决的技术问题是，如何进行分布式存储系统中的集群节点上的区间管理，以在不增加客户端的路由开销的前提下有效提高系统的数据处理吞吐量。