[发明专利]一种基于日志解析的数据同步方法和数据同步系统在审
| 申请号: | 202010472463.3 | 申请日: | 2020-05-29 |
| 公开(公告)号: | CN111930828A | 公开(公告)日: | 2020-11-13 |
| 发明(设计)人: | 孙峰;付铨;彭青松;刘启春 | 申请(专利权)人: | 武汉达梦数据库有限公司 |
| 主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/23;G06F16/17;G06F9/46 |
| 代理公司: | 深圳市六加知识产权代理有限公司 44372 | 代理人: | 向彬 |
| 地址: | 430000 湖北省武汉市东湖新技术开*** | 国省代码: | 湖北;42 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 日志 解析 数据 同步 方法 系统 | ||
1.一种基于日志解析的数据同步方法,其特征在于,所述数据同步方法包括:
日志分析线程在解析到DDL操作后,判断所述DDL操作的操作类型;
当所述DDL操作为创建操作时,为新创建的目标对象建立包含对象定义信息的离线字典文件;
获取针对所述目标对象的目标操作,根据所述目标操作管理所述离线字典文件;
从目的端获取检查点的日志序列号LSN1,根据所述日志序列号LSN1清理所述离线字典文件。
2.根据权利要求1所述的数据同步方法,其特征在于,所述当所述DDL操作为创建操作时,为新创建的目标对象建立包含对象定义信息的离线字典文件包括:
当所述DDL操作为创建操作时,获取所述创建操作的日志序列号和新创建的目标对象的定义信息;
将所述创建操作的日志序列号和所述目标对象的定义信息整合成第一版本定义信息,将所述第一版本定义信息存储于所述目标对象的离线字典文件中。
3.根据权利要求2所述的数据同步方法,其特征在于,所述获取针对所述目标对象的目标操作,根据所述目标操作的操作类型管理所述离线字典文件包括:
获取针对所述目标对象的目标操作;
判断所述目标操作的操作类型;
若所述目标操作为DDL操作,则判断DDL操作的操作类型;
当DDL操作为ALTER操作时,执行所述从目的端获取检查点的日志序列号LSN1,根据所述日志序列号LSN1清理所述离线字典文件的步骤,以管理所述离线字典文件。
4.根据权利要求3所述的数据同步方法,其特征在于,所述从目的端获取检查点的日志序列号LSN1,根据所述日志序列号LSN1清理所述离线字典文件包括:
根据检查点的日志序列号LSN1确定无效的定义版本在所述离线字典文件中的占比情况;
当无效的定义版本在所述离线字典文件中的占比大于设定的占比值时,基于有效的定义版本为所述目标对象创建新的离线字典文件,以清理离线字典文件中无效的定义版本;
将基于所述ALTER操作修改后的定义信息和所述ALTER操作的日志序列号整合为下一版本定义信息;
将所述下一版本定义信息追加在新的离线字典文件的尾部。
5.根据权利要求4所述的数据同步方法,其特征在于,所述根据检查点的日志序列号LSN1确定无效的定义版本在所述离线字典文件中的占比情况包括:
基于检查点的日志序列号LSN1从前往后遍历离线字典文件的各个定义版本;
当本次检查的定义版本的日志序列号小于日志序列号LSN1,且本次检查的定义版本不是最后一个定义版本,则本次检查的定义版本为无效版本,继续获取下一次检查的定义版本,直至定义版本的日志序列号大于日志序列号LSN1,以确定无效的定义版本。
6.根据权利3所述的数据同步方法,其特征在于,所述获取针对所述目标对象的目标操作,根据所述目标操作的操作类型管理所述离线字典文件还包括:
当所述目标操作为DROP操作时,在所述离线字典文件的尾部添加删除标记,并将所述DROP操作的日志序列号与所述删除标记建立关联。
7.根据权利要求6所述数据同步方法,其特征在于,所述从目的端获取检查点的日志序列号LSN1,根据所述日志序列号LSN1清理所述离线字典文件包括:
判断所述DROP操作的日志序列号是否小于所述日志序列号LSN1;
若小于,则删除所述离线字典文件;
若不小于,则继续获取最新的检查点的日志序列号LSN1,直至所述DROP操作的日志序列号小于日志序列号LSN1时,才删除所述离线字典文件。
8.根据权利要求2所述的数据同步方法,其特征在于,所述当所述DDL操作为创建操作时,为新创建的目标对象建立包含对象定义信息的离线字典文件包括:
当所述DDL操作为创建操作时,获取新创建的目标对象的对象ID;
基于所述目标对象的对象ID为所述目标对象的离线字典文件命名。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉达梦数据库有限公司,未经武汉达梦数据库有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010472463.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:电压互感器线圈一次绕组绕制方法
- 下一篇:一种电线缠绕装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





