[发明专利]一种数据同步方法和装置在审
申请号: | 201910294109.3 | 申请日: | 2019-04-12 |
公开(公告)号: | CN110059135A | 公开(公告)日: | 2019-07-26 |
发明(设计)人: | 杨舒雅 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 许振新;朱文杰 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据记录 全量数据 目标数据 方法和装置 目标标识 数据同步 唯一标识 同步的 申请 成功 | ||
1.一种数据同步方法,包括:
接收待同步的全量数据,所述全量数据中包括多条数据记录;
获取所述全量数据中多条数据记录对应的多个第一标识值,一个第一标识值用于唯一标识所述全量数据中的一条数据记录;
将所述多个第一标识值依次插入幂等表中,确定成功插入的至少一个目标标识值,所述幂等表中包括目标数据中多条数据记录对应的多个第二标识值,一个第二标识值用于唯一标识所述目标数据中的一条数据记录,所述多个第二标识值和所述多个第一标识值基于相同的方法确定得到,所述幂等表不允许与第二标识值相同的第一标识值插入;
将所述全量数据中与所述至少一个目标标识值对应的数据记录同步至所述目标数据中。
2.如权利要求1所述的数据同步方法,
所述全量数据的多条数据记录中均包括标识字段,所述标识字段用于标识所述全量数据中的多条数据记录;
其中,获取所述全量数据中多条数据记录对应的多个第一标识值,包括:
获取所述全量数据中多条数据记录的标识字段值。
3.如权利要求1所述的数据同步方法,
所述全量数据的至少一条数据记录中不包括标识字段,所述标识字段用于标识所述全量数据中的多条数据记录;
其中,在获取所述全量数据中多条数据记录对应的多个第一标识值之前,所述数据同步方法还包括:
基于所述全量数据中每条数据记录的关键属性信息,按照预设算法确定所述多个第一标识值,一条数据记录的关键属性信息用于确定是否与其他数据记录相同。
4.如权利要求3所述的数据同步方法,基于所述全量数据中每条数据记录的关键属性信息,按照预设算法确定所述多个第一标识值,包括:
基于所述全量数据中每条数据记录的关键属性信息,按照MD5算法确定所述全量数据中每条数据记录的MD5值;
基于所述全量数据中每条数据记录的MD5值,确定所述全量数据中每条数据记录的第一标识值。
5.如权利要求4所述的数据同步方法,基于所述全量数据中每条数据记录的MD5值,确定所述全量数据中每条数据记录的第一标识值,包括:
针对所述全量数据中的一条第一数据记录,执行以下操作:
判断所述全量数据中是否存在第二数据记录,所述第二数据记录的MD5值与所述第一数据记录的MD5值相同;
若是,则对所述第一数据记录以及所述第二数据记录各自的MD5值进行预设处理,得到互不相同的处理结果;将所述第一数据记录的MD5值对应的处理结果确定为所述第一数据记录对应的第一标识值;
若否,则将所述第一数据记录的MD5值确定为所述第一数据记录对应的第一标识值。
6.如权利要求5所述的数据同步方法,对所述第一数据记录以及所述第二数据记录各自的MD5值进行预设处理,包括:
在所述第一数据记录以及所述第二数据记录各自的MD5值中拼接不同的预设字符。
7.如权利要求1所述的数据同步方法,
所述目标数据中的多条数据记录按照所述多个第二标识值对应存储在业务表中;
其中,将所述全量数据中与所述至少一个目标标识值对应的数据记录同步至所述目标数据中,包括:
将所述全量数据中与所述至少一个目标标标识值对应的数据记录,按照所述至少一个目标标识值对应存储在所述业务表中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910294109.3/1.html,转载请声明来源钻瓜专利网。