[发明专利]数据迁移方法及装置有效
| 申请号: | 201710556354.8 | 申请日: | 2017-06-30 |
| 公开(公告)号: | CN107391634B | 公开(公告)日: | 2021-04-09 |
| 发明(设计)人: | 刘畅;李丹 | 申请(专利权)人: | 北京奇虎科技有限公司 |
| 主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/27 |
| 代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国 |
| 地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据 迁移 方法 装置 | ||
1.一种数据迁移方法,包括:
获取与待迁移的数据表相对应的全量数据,并根据所述待迁移的数据表对应的日志文件确定与所述全量数据相对应的日志点位信息;
从所述日志文件中获取在所述日志点位信息之后产生的日志记录,确定与所述日志记录相对应的数据操作;
针对所述全量数据执行所述数据操作,得到与待迁移的数据表相对应的迁移数据;其中,所述获取与待迁移的数据表相对应的全量数据,并根据所述待迁移的数据表对应的日志文件确定与所述全量数据相对应的日志点位信息的步骤具体包括:针对所述待迁移的数据表执行加锁操作,开启用于针对所述待迁移的数据表执行快照处理的事务;当所述事务开启完毕后,针对所述待迁移的数据表执行解锁操作,并根据与所述待迁移的数据表相对应的快照数据获取所述全量数据;其中,将执行加锁操作后对应的日志点位信息确定为与所述全量数据相对应的日志点位信息;
其中,所述获取与待迁移的数据表相对应的全量数据,并根据所述待迁移的数据表对应的日志文件确定与所述全量数据相对应的日志点位信息,包括:
获取与待迁移的数据表对应的备份数据,并创建与所述备份数据对应的全量数据;
根据所述待迁移的数据表对应的日志文件确定与所述备份数据的备份时间点相对应的日志点位信息,并将所述备份时间点相对应的日志点位信息作为与全量数据相对应的日志点位信息。
2.根据权利要求1所述的方法,其中,当所述待迁移的数据表为多个时,所述开启用于针对所述待迁移的数据表执行快照处理的事务的步骤和/或所述根据与所述待迁移的数据表相对应的快照数据获取所述全量数据的步骤由多个线程并行处理。
3.根据权利要求1所述的方法,其中,所述根据与所述待迁移的数据表相对应的快照数据获取所述全量数据的步骤具体包括:
将当前已获取的数据记录在所述快照数据中对应的位置信息记录在预设的第一进度表中;
当获取所述全量数据的过程中断后再次执行时,根据所述第一进度表中记录的位置信息从所述快照数据中获取数据记录。
4.根据权利要求1-3任一所述的方法,其中,当所述与所述全量数据相对应的日志点位信息对应于多条日志记录时,所述从所述日志文件中获取在所述日志点位信息之后产生的日志记录的步骤具体包括:
确定与所述全量数据相对应的日志点位信息所对应的多条日志记录中产生时间最早的日志记录;
获取所述产生时间最早的日志记录以及在所述产生时间最早的日志记录之后产生的各条日志记录;
且所述针对所述全量数据执行所述数据操作的步骤具体包括:
当所述数据操作的操作类型为插入类型时,获取所述数据操作对应的主键信息;
判断所述全量数据中是否包含与所述主键信息相同的数据记录,若是,则根据所述数据操作对所述与所述主键信息相同的数据记录进行替换。
5.根据权利要求4所述的方法,其中,所述日志文件中包括多个日志点位信息;其中,各个日志点位信息根据预设的时间间隔进行设置,或者根据预设的日志记录条数进行设置。
6.根据权利要求1-3任一所述的方法,其中,所述从所述日志文件中获取在所述日志点位信息之后产生的日志记录的步骤具体包括:
将当前已获取的日志记录在所述日志文件中对应的日志点位信息记录在预设的第二进度表中;
当获取在所述日志点位信息之后产生的日志记录的过程中断后再次执行时,根据所述第二进度表中记录的日志点位信息从所述日志文件中获取日志记录。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司,未经北京奇虎科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710556354.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据库集群自动优化处理方法、装置及服务器
- 下一篇:数据同步系统及方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





