[发明专利]一种分布式持久性内存文件系统保持数据一致性的方法

说明书

本发明公开了一种分布式持久性内存文件系统保持数据一致性的方法；包括：步骤一，将非易失存储器作为影子内存来储存检查点与数据，系统故障或崩溃后，恢复最近一次的检查点的数据，保证系统的一致性；步骤二，通过基于非易失存储器的直接存储器访问技术，将非易失存储器中的数据预拷贝到远程节点。在系统崩溃后，会通过最近一次的检查点来恢复数据，保障了系统的数据一致性；然后，实现了一种基于远程检查点的预拷贝机制，既能保证服务端数据的一致性，又能减少系统的开销。

技术领域

本发明涉及保持数据一致性的技术领域，尤其涉及一种分布式持久性内存文件系统保持数据一致性的方法。

背景技术

近年来，新兴的非易失性存储器(NVM)具有字节可寻址、非易失性、存储密度高以及访问延迟低的特性，其经由内存总线与CPU连接的非易失性存储器也被称为持久性内存(PM)。另一方面，由于高速、超低延迟、零拷贝、内核旁路的网络传输特性，远程内存直接访问(RDMA)逐渐应用于数据中心等领域。RDDMA可以实现应用点对点的通信，以避免诸如上下文切换、冗余内存拷贝、内核网络协议栈等开销。持久性内存和RDMA的出现为构建新的存储系统提供了新的机会。

持久性内存和RDMA的新特性对于存储系统的一致性设计提出了两个挑战。1)现代处理器利用多核和内部缓存来提高整体运转速度，通常采用乱序执行技术，最终写入存储器的数据不是预期的结果，针对持久性内存会出现数据一致性的问题。在这种情况下，为了将数据顺序写入持久性内存，CPU需要有效地执行数据刷写入命令，但是该处理开销高，使CPU的处理能力降低，影响持久性内存和RDDMA的性能优越性。2)RDMA的通信过程需要注册内存，单向的原语可以绕过服务器端CPU直接读写注册的内存。为了考虑性能，RDMA会将数据先写入至末级高速缓存，由于CPU不能及时将数据刷写至持久性内存。因此，系统崩溃后，原始数据将无法有效恢复。

在面向RDMA的分布式持久性内存系统下，有以下两种现有的技术方案。1)该方案结合RDMA和持久性内存的特性在HDFS基础上实现了分布式文件系统NVFS，它利用RDMA的高性能特性设计并实现了一套高效的网络通信接口，利用字节寻址的持久性内存构建缓冲池，将写前日志和计算的中间结果保存在持久性内存中，这极大提高了系统整体性能；2)第二种方案设计并实现了分布式持久性内存文件系统Octopus，它将文件系统的读写操作与RDMA读写原语相结合起来，实现了一套高性能的远程过程调用和读写接口。同时，利用RDMA的读写和原子操作实现了分布式事务机制，充分发挥RDMA的性能优势，减少了传统事务操作中网络通信和CPU处理所带来的开销。

现有技术方案要么完全不考虑数据一致性，要么使用常见的Redo/Undo日志机制保障操作的原子性。然而，使用Redo/Undo日志会导致数据重复写问题，在加重数据持久化开销的同时，还会浪费带宽和加速持久性内存磨损；而影子分页技术采用异地更新数据块的方法，将原有指向旧数据块的指针更新指向新的数据块，但这将有可能导致所有的数据更新蔓延到根节点。针对服务器端无法感知客户端写入数据的问题，一种可行的方案是采用客户端执行RDMA send原语发送数据给服务器端，服务器端将数据写到指定的地址，然后执行数据持久化操作，但此方式引入了冗余拷贝。

发明内容

本发明的目的就是为了解决上述问题，提供一种分布式持久性内存文件系统保持数据一致性的方法，可以保障系统的数据一致性，保证服务端数据的一致性，能减少系统的开销。

为了实现上述目的，本发明采用如下技术方案：

一种分布式持久性内存文件系统保持数据一致性的方法，包括：

步骤一，将非易失存储器(NVM)作为影子内存来储存检查点与数据，系统故障或崩溃后，恢复最近一次的检查点的数据，保证系统的一致性；

步骤二，通过基于非易失存储器(NVM)的直接存储器(DMA)访问技术，将非易失存储器(NVM)中的数据预拷贝到远程节点。