[发明专利]数据迁移方法、装置、存储介质及数据迁移设备有效
申请号: | 202110585631.4 | 申请日: | 2021-05-27 |
公开(公告)号: | CN113438275B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 李其霖;胡威;徐小龙;毛铁中 | 申请(专利权)人: | 众安在线财产保险股份有限公司 |
主分类号: | H04L67/1095 | 分类号: | H04L67/1095;H04L67/1031;H04L67/563 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 刘梦晴 |
地址: | 200002 上海市黄*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 迁移 方法 装置 存储 介质 设备 | ||
1.一种数据迁移方法,其特征在于,应用于数据迁移系统,所述数据迁移系统包括源集群、目标集群和消息队列,所述数据迁移方法包括:
获取迁移指令,并根据所述迁移指令将存量数据由所述源集群同步至所述目标集群,以及将增量数据写入所述源集群和所述目标集群,其中,所述将增量数据写入所述源集群和所述目标集群,具体包括:将所述增量数据写入所述源集群,并获取写入结果;若所述写入结果指示所述增量数据写入所述源集群成功,则根据所述增量数据的第二数据标识、第三数据版本和操作类型,将所述增量数据写入所述目标集群;
当所述增量数据写入所述目标集群发生异常时,将所述增量数据中写入所述目标集群发生异常的数据确定为目标数据,并将目标数据写入所述消息队列,其中,所述将目标数据写入消息队列,具体包括:根据所述目标数据生成事务日志,所述事务日志包括所述目标数据以及所述目标数据的第一数据标识和第一数据版本;将所述事务日志写入所述消息队列;
获取合并指令,并根据所述合并指令和所述目标数据的数据版本将所述目标数据合并至所述目标集群,所述合并指令是通过检测所述消息队列中是否存在事务日志,并检测到所述消息队列中存在事务日志后生成的。
2.根据权利要求1所述的数据迁移方法,其特征在于,所述根据所述合并指令和所述目标数据的数据版本将所述目标数据合并至所述目标集群,包括:
根据所述第一数据标识确定所述目标集群中与所述目标数据对应的第一数据;
根据所述目标数据、所述第一数据版本和所述第一数据的第二数据版本,将所述目标数据合并至所述目标集群。
3.根据权利要求2所述的数据迁移方法,其特征在于,所述根据所述目标数据、所述第一数据版本和所述第一数据的第二数据版本,将所述目标数据合并至所述目标集群,具体包括:
若所述第一数据版本不高于所述第二数据版本,则将所述目标数据舍弃,并将所述事务日志从所述消息队列中删除;
若所述第一数据版本高于所述第二数据版本,则使用所述目标数据覆盖所述第一数据。
4.根据权利要求1所述的数据迁移方法,其特征在于,所述事务日志中还记录有所述目标数据的写入时间,所述数据迁移方法还包括:
根据所述写入时间确定所述目标数据的生存时长;
若所述生存时长大于阈值,则将所述事务日志从所述消息队列中删除。
5.根据权利要求1所述的数据迁移方法,其特征在于,所述根据所述增量数据的第二数据标识、第三数据版本和操作类型,将所述增量数据写入所述目标集群,具体包括:
若所述增量数据的操作类型为新增操作,且所述目标集群中不存在第三数据标识与所述第二数据标识一致的第二数据,则将所述增量数据写入所述目标集群;
若所述增量数据的操作类型为更新操作,且所述目标集群中不存在第三数据标识与所述第二数据标识一致的第二数据,则确定所述增量数据写入所述目标集群异常,并将所述增量数据确定为所述目标数据;
若所述增量数据的操作类型为更新操作,且所述目标集群中存在第三数据标识与所述第二数据标识一致的第二数据,且所述第二数据的数据版本小于所述第三数据版本,则使用所述增量数据覆盖所述第二数据;
若所述增量数据的操作类型为更新操作,且所述目标集群中存在第三数据标识与所述第二数据标识一致的第二数据,且所述第二数据的数据版本不小于所述增量数据的数据版本,则确定所述增量数据写入所述目标集群异常,并将所述增量数据确定为所述目标数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于众安在线财产保险股份有限公司,未经众安在线财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110585631.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种滤筒反转清灰粉尘处理装置
- 下一篇:一种多智能体通信协作方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置