[发明专利]数据库流复制方法及装置在审
申请号: | 202111407042.3 | 申请日: | 2021-11-24 |
公开(公告)号: | CN114090339A | 公开(公告)日: | 2022-02-25 |
发明(设计)人: | 张兰坤 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F11/14 | 分类号: | G06F11/14;G06F9/455 |
代理公司: | 北京三聚阳光知识产权代理有限公司 11250 | 代理人: | 陈刚 |
地址: | 450000 河南省郑州市高新技*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据库 复制 方法 装置 | ||
本申请是关于一种数据库流复制方法及装置,具体涉及网络通信技术领域。所述方法包括:生成预写式日志;该主节点数据库中加载有基于数据平面开发套件的加速网络协议栈DPDK‑ANS的接口函数;通过DPDK‑ANS的接口函数,调用该DPDK‑ANS将该预写式日志传输至备份节点设备,以便备份节点数据库进行数据更新;该备份节点设备上加载有备份节点数据库;该备份节点数据库中加载有DPDK‑ANS的接口函数。上述方案通过DPDK‑ANS将预写式日志发送到备份节点数据库上,不需要通过Linux复杂的内核网络进行报文处理,降低了流复制过程的延时,从而尽可能减小了由于数据不同步导致的集群故障的发生的可能性。
技术领域
本发明涉及网络通信技术领域,具体涉及数据库流复制方法及装置。
背景技术
分布式数据库系统中由各个计算机构成,每台计算机可单独放在一个地方,每台计算机中都具有自己局部的数据库,位于不同地点的许多计算机通过网络互相连接,共同组成一个完整的、全局的逻辑上集中、物理上分布的大型数据库。
以MPP架构的数据库集群为例,MPP数据库集群主要由Master,Standby,Segment三部分组成,其中Master节点一方面要负责处理客户端的请求,分发执行计划到各Segment节点并汇总结果,另一方面还要将Master的所有xlog日志通过流复制同步到Standby节点,以保证Standby的数据与Master的数据同步。
但上述方案中,当进行大数据量插入查询或者大量客户端连接时,网络性能就会成为瓶颈,过高的延迟会造成Master/Standby之间流复制失败,导致数据不同步,进而引发集群故障。
发明内容
本申请提供了一种数据库流复制方法及装置,减小了由于数据不同步导致的集群故障的发生的可能性,该技术方案如下。
一方面,提供了一种数据库流复制方法,所述方法用于主节点设备,所述包括:
生成预写式日志;所述预写式日志用于指示所述主节点设备上的主节点数据库的更新情况;所述主节点数据库中加载有基于数据平面开发套件的加速网络协议栈DPDK-ANS的接口函数;
通过所述DPDK-ANS的接口函数,调用所述DPDK-ANS将所述预写式日志传输至备份节点设备,以便所述备份节点数据库进行数据更新;所述备份节点设备上加载有备份节点数据库;所述备份节点数据库中加载有所述DPDK-ANS的接口函数。
又一方面,提供了一种数据库流复制方法,所述方法用于备份节点设备,所述备份节点设备上加载有备份节点数据库;所述方法包括:
通过基于数据平面开发套件的加速网络协议栈DPDK-ANS接收主节点设备发送的预写式日志;所述预写式日志用于指示所述主节点数据库的更新情况;所述主节点数据库中加载有所述DPDK-ANS的接口函数;
将预写式日志导入备份节点数据库;所述备份节点数据库中加载有所述DPDK-ANS的接口函数。
又一方面,提供了一种数据库流复制装置,所述装置应用于主节点设备,所述装置包括:
日志生成模块,用于生成预写式日志;所述预写式日志用于指示所述主节点设备上的主节点数据库的更新情况;所述主节点数据库中加载有基于数据平面开发套件的加速网络协议栈DPDK-ANS的接口函数;
日志传输模块,用于通过所述DPDK-ANS的接口函数,调用所述DPDK-ANS将所述预写式日志传输至备份节点设备,以便所述备份节点数据库进行数据更新;所述备份节点设备上加载有备份节点数据库;所述备份节点数据库中加载有所述DPDK-ANS的接口函数。
在一种可能的实现方式中,所述装置还包括:
第一文件获取模块,获取第一源代码文件;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111407042.3/2.html,转载请声明来源钻瓜专利网。