[发明专利]数据同步的方法、装置和终端设备有效
| 申请号: | 201910840696.1 | 申请日: | 2019-09-06 |
| 公开(公告)号: | CN110750592B | 公开(公告)日: | 2023-10-20 |
| 发明(设计)人: | 丁永;郑泽宏 | 申请(专利权)人: | 中国平安财产保险股份有限公司 |
| 主分类号: | G06F16/27 | 分类号: | G06F16/27 |
| 代理公司: | 深圳中一专利商标事务所 44237 | 代理人: | 郭鸿 |
| 地址: | 518000 广东省深圳市*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 同步 方法 装置 终端设备 | ||
1.一种数据同步的方法,其特征在于,包括:
采用预置的OGG工具,构建源数据库与目标数据库之间的数据链路;
基于所述数据链路,生成所述源数据库与所述目标数据库之间的多个数据传输通道;
当检测到针对所述源数据库中任一数据的操作行为时,将所述操作行为解析为字节流,所述字节流中携带有所述操作行为的时间信息;
通过所述多个数据传输通道,将所述字节流传输至所述目标数据库,所述目标数据库用于将所述字节流编译为所述操作行为,并基于所述时间信息在所述目标数据库中重演所述操作行为,以实现数据同步。
2.根据权利要求1所述的方法,其特征在于,所述基于所述数据链路,生成所述源数据库与所述目标数据库之间的多个数据传输通道的步骤包括:
采用预置的Docker组件和Kubernetes组件,分别在所述源数据库和所述目标数据库建立多个应用容器;
基于预置的Zookeeper组件,分别在各个应用容器中创建配置文件,生成Zookeeper实例;
通过将所述各个应用容器中配置文件的参数设置为相同,建立所述各个应用容器中的Zookeeper实例之间的通信连接,以构建出Zookeeper消息集群;
将预置的Kafka组件注册至所述Zookeeper消息集群中,获得所述源数据库与所述目标数据库之间的多个数据传输通道。
3.根据权利要求1所述的方法,其特征在于,所述当检测到针对所述源数据库中任一数据的操作行为时,将所述操作行为解析为字节流的步骤包括:
获取所述源数据库的日志文件,所述日志文件用于记录针对所述源数据库的各种操作行为,所述各种操作行为分别具有相应的类型标识信息;
提取所述日志文件中所述类型标识信息为目标类型的目标信息,所述目标类型包括数据插入、数据更新及数据删除;
将所述目标信息解析为字节流。
4.根据权利要求1所述的方法,其特征在于,所述通过所述多个数据传输通道,将所述字节流传输至所述目标数据库的步骤包括:
确定所述多个数据传输通道中的主传输通道;
通过所述主传输通道,将所述字节流传输至所述目标数据库;
复制所述字节流,得到所述字节流的多个备份文件,并将所述字节流的多个备份文件分别传输至多个非主传输通道进行存储。
5.根据权利要求4所述的方法,其特征在于,还包括:
当所述主传输通道阻塞时,从所述多个非主传输通道中确定新的主传输通道,通过所述新的主传输通道,将所述字节流的备份文件传输至所述目标数据库;
在预设时间到达时,删除存储于所述多个非主传输通道中的所述字节流的多个备份文件。
6.一种数据同步的装置,其特征在于,包括:
构建模块,用于采用预置的OGG工具,构建源数据库与目标数据库之间的数据链路;
生成模块,用于基于所述数据链路,生成所述源数据库与所述目标数据库之间的多个数据传输通道;
解析模块,用于当检测到针对所述源数据库中任一数据的操作行为时,将所述操作行为解析为字节流,所述字节流中携带有所述操作行为的时间信息;
同步模块,用于通过所述多个数据传输通道,将所述字节流传输至所述目标数据库,所述目标数据库用于将所述字节流编译为所述操作行为,并基于所述时间信息在所述目标数据库中重演所述操作行为,以实现数据同步。
7.根据权利要求6所述的装置,其特征在于,所述解析模块包括:
日志文件获取子模块,用于获取所述源数据库的日志文件,所述日志文件用于记录针对所述源数据库的各种操作行为,所述各种操作行为分别具有相应的类型标识信息;
目标信息提取子模块,用于提取所述日志文件中所述类型标识信息为目标类型的目标信息,所述目标类型包括数据插入、数据更新及数据删除;
目标信息解析子模块,用于将所述目标信息解析为字节流。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安财产保险股份有限公司,未经中国平安财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910840696.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





