[发明专利]一种网络编码集群存储系统中基于锁机制的数据重建策略

说明书

本发明公开了一种网络编码集群存储系统中基于锁机制的数据重建策略，应用于采用AOE网络通信协议的NCFS网络编码分布式文件系统的节点失效场景中。该场景包括了数据重建和用户访问进程。本发明基于AOE协议中读性能优于写性能、网络编码系统中重建产生数倍网络带宽以及热区重建策略中用户流与重建数据流的I/O争用问题，设计了综合考虑用户访问特征和替换节点I/O性能的数据重建策略，实现了重建数据流持排它锁对替换节点进行写操作，写操作结束后释放排它锁由用户持有读锁对替换节点中已重建数据进行访问，避免了重建数据流在替换节点发生读写I/O争用，优化了热区重建策略中的数据重建性能和系统响应性能。

技术领域

本发明涉及存储系统技术领域，具体涉及一种网络编码集群存储系统中基于锁机制的数据重建策略。

背景技术

在数据规模与日俱增的背景下，为了减少数据储存的成本，网络编码成为了替代传统三副本的数据冗余机制。网络编码通过计算原始数据块的校验块来减少存储成本，然而当发生节点失效系统进行数据重建时，网络编码的文件系统需要牺牲数倍于副本机制的网络带宽。这既大大增加了数据重建时间，又增加了节点失效时的系统响应时间。缩小重建窗口对于保障系统数据可靠性和可用性很有必要。基于热区的分布式文件系统重建策略根据用户I/O负载优先重建热数据，一定程度地使数据重建性能和系统响应性能得到了优化。在热区重建策略中，替换磁盘同时服务于重建数据流和用户访问数据流，因此写和读操作在替换磁盘中交替进行。由于分布式存储系统中的I/O性能跟本地文件系统的I/O性能存在差异，如本发明实施阶段采用了ATA Over Ethernet(AOE)这种相对于iSCSI协议更加轻量、更加安全且性能更优越的网络通信协议来连接分布式的物理磁盘，在AOE中系统的写性能比读性能差。因此上述热区重建策略将导致以下问题：

(1)在发生磁盘失效的存储系统中，数据重建进程从存活磁盘中读取相关数据进行解码，计算出失效数据，再降失效数据写入替换磁盘，因此替换磁盘的I/O负载特征呈现为写密集型，加之写性能比读性能差，所以它同时服务于用户访问将因为较长的I/O等待队列和较长的I/O等待时间导致读性能降低；

(2)因为替换磁盘提供用户访问所以使替换磁盘中的I/O等待队列变长，这会导致磁盘的写性能降低；

(3)替换磁盘的写性能降低，意味着重建性能下降，也就是说系统的重建窗口变大，这会导致系统发生磁盘二次失效可能性的增加。

当分布式存储系统发生节点失效，仍要同时服务于重建数据流和用户访问数据流时，如何在系统处于退化模式下仍保证较好的访问性能，如何缩小数据重建窗口以保障系统的可靠性和可用性是亟待解决的问题。这个问题中磁盘I/O仍然是影响系统响应性能和重建性能的瓶颈。

因此亟须设计一种综合考虑磁盘I/O性能以及用户访问特征的数据重建策略来应对AOE中较差的写性能，避免替换节点中的磁盘读写争用导致的重建性能和响应性能的双重下降。

发明内容

本发明的目的是为了解决现有技术中的上述缺陷，公开了一种网络编码集群存储系统中基于锁机制的数据重建策略。

本发明的目的可以通过采取如下技术方案达到：

一种网络编码集群存储系统中基于锁机制的数据重建策略，所述的数据重建策略包括以下步骤：

S1、初始化网络编码集群存储系统参数，所述的系统参数包括节点数目、节点大小、所应用的网络编码类型、默认数据块大小；

S2、初始化数据重建进程，包括指定失效节点数目和替换设备名称，初始化后的数据重建进程等待跟踪进程发送当前访问最热区域；

S3、启动跟踪进程跟踪用户访问特征情况，对不同访问区域的访问次数进行统计；