[发明专利]计算节点数据容灾回放的方法、终端设备及存储介质有效
申请号: | 201710695300.X | 申请日: | 2017-08-15 |
公开(公告)号: | CN110019063B | 公开(公告)日: | 2022-07-05 |
发明(设计)人: | 游锋锋;陈福林;曾夺;杨俊辉 | 申请(专利权)人: | 厦门雅迅网络股份有限公司 |
主分类号: | G06F16/18 | 分类号: | G06F16/18;G06F16/13;G06F11/14 |
代理公司: | 厦门市精诚新创知识产权代理有限公司 35218 | 代理人: | 何家富 |
地址: | 361000 福建省厦门市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算 节点 数据 回放 方法 终端设备 存储 介质 | ||
1.一种计算节点数据容灾回放的方法,其特征在于:包括如下过程:
设置磁盘目录的过程:设置WAL日志文件和检查点文件所存储的磁盘目录,使得能够利用多线程并行操作的方式进行WAL日志文件的读写和提升检查点文件的可用性,其中检查点文件用于数据回放时WAL日志文件的定位;
设置检查点文件备份的频率的过程:根据计算节点的数据处理速度设置检查点文件备份的频率;
数据进入计算节点的过程:先将数据的数据体插入计算节点内存的主队列的尾部,然后将该数据的入队信息,记录到设置磁盘目录的过程中设置的WAL日志文件的磁盘目录下的对应WAL日志文件中,再将WAL日志文件对应的文件ID和在磁盘的偏移位置记录到计算节点内存的从队列中,作为从队列数据,最后按照设置检查点文件备份的频率的过程中设置的检查点文件备份的频率,定期将计算节点内存的从队列中的从队列数据直接复制,该从队列数据作为检查点文件存储到设置磁盘目录的过程中设置的磁盘目录下,并删除原检查点文件中的数据,进行检查点文件备份;
数据被计算节点处理的过程:先从计算节点内存的主队列头部删除数据体,再往WAL日志文件中写入一条处理删除记录,并删除掉计算节点内存的从队列头部的该条数据体对应的从队列数据,若数据处理过程失败,需将删除的该条数据体 恢复,则按照数据进入计算节点的过程对数据进行恢复;
计算节点异常时的数据回放的过程:当计算节点异常时,根据检查点文件对WAL日志文件进行定位,进行数据的恢复。
2.如权利要求1所述的计算节点数据容灾回放的方法,其特征在于:设置磁盘目录的过程中,WAL日志文件所存储的磁盘目录为多个本地磁盘目录或分布式文件系统的目录,检查点文件所存储的磁盘目录为本地磁盘目录或分布式文件系统的目录。
3.如权利要求2所述的计算节点数据容灾回放的方法,其特征在于:数据进入计算节点的过程和数据被计算节点处理的过程中,对WAL日志文件的读写为多线程并行操作的方式。
4.如权利要求1所述的计算节点数据容灾回放的方法,其特征在于:计算节点异常时的数据回放的过程中,当计算节点异常时,根据检查点文件对WAL日志文件进行定位,进行数据的恢复,具体为:
将检查点文件中的检查点文件数据加载到从队列中,然后根据加载的从队列数据的信息,定位到对应的WAL日志文件,从WAL日志文件中加载需恢复的数据体到主队列中,直至数据全部恢复完毕。
5.如权利要求1所述的计算节点数据容灾回放的方法,其特征在于:WAL日志文件的文件ID命名方式为:目录级别数字-目录1-目录2...目录n-当前时间戳,使得能够根据文件ID得到WAL日志文件的存储目录,进而能够进行读写访问。
6.一种计算节点数据容灾回放的终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于:所述处理器执行所述计算机程序时实现如权利要求1-5所述方法的过程。
7.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1-5所述方法的过程。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门雅迅网络股份有限公司,未经厦门雅迅网络股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710695300.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据同步方法和系统
- 下一篇:消除重复日志记录的过滤方法及装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置