[发明专利]一种同步数据的方法和装置在审
| 申请号: | 201811442486.9 | 申请日: | 2018-11-29 | 
| 公开(公告)号: | CN111241189A | 公开(公告)日: | 2020-06-05 | 
| 发明(设计)人: | 佀庆乾;谭杨 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 | 
| 主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/23 | 
| 代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;李阳 | 
| 地址: | 100086 *** | 国省代码: | 北京;11 | 
| 权利要求书: | 查看更多 | 说明书: | 查看更多 | 
| 摘要: | |||
| 搜索关键词: | 一种 同步 数据 方法 装置 | ||
本发明公开了一种同步数据的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:将待更新的业务数据存储到缓存中;将所述缓存中发生过变更的业务数据存入当前滑动窗口;创建新的滑动窗口,将其作为当前滑动窗口,并将原滑动窗口中的业务数据同步到数据库中。该实施方式能够解决使用成本高、数据会丢失的问题。
技术领域
本发明涉及计算机技术领域,尤其涉及一种同步数据的方法和装置。
背景技术
当前,经常需要对大量实时数据进行监控统计,生成实时报表,比如对某分拣中心在某个时间段发货单量的实时统计。如果每发出一个订单就去更新数据库中的相关记录,由于分拣中心操作非常频繁,为了统计大量指标,就会对数据库相关表做频繁更新,从而对数据库造成非常大的压力,导致数据库CPU过高、主从延迟大等问题。
针对上述问题,目前有两种解决方案:第一,数据库分库分表,即使用多个数据库存储数据,减少单个数据库的压力;第二,在redis中存储数据库快照,每次对数据进行更新时,直接更新redis中的数据快照,然后通过定时任务把redis中存储的数据快照,同步到数据库中。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
1)使用分库分表的方式进行数据存储,会浪费大量的数据库资源,使成本过高;并且有些实时报表数据量比较小,只是数据更新次数非常多,使用分库分表不太合适;
2)使用redis缓存数据快照,可以减少对数据库资源的使用,降低了成本,但是该种方式不灵活,如果redis或定时任务出现异常,不能快速切换到数据库,会导致数据丢失。
发明内容
有鉴于此,本发明实施例提供一种同步数据的方法和装置,能够解决使用成本高、数据会丢失的问题。
为实现上述目的,根据本发明实施例的一个方面,提供了一种同步数据的方法,包括:
将待更新的业务数据存储到缓存中;
将所述缓存中发生过变更的业务数据存入当前滑动窗口;
创建新的滑动窗口,将其作为当前滑动窗口,并将原滑动窗口中的业务数据同步到数据库中。
可选地,将待更新的业务数据存储到缓存中,包括:
获取指针指向的当前滑动窗口的标识,将业务数据的业务主键和滑动窗口的标识拼装成字符串,以所述字符串作为key,以所述业务数据的属性和属性值作为value,存储到缓存中。
可选地,将所述缓存中发生过变更的业务数据存入当前滑动窗口,包括:
将存储在缓存中的属性值发生过变更的业务数据对应的key存入指针指向的当前滑动窗口。
可选地,创建新的滑动窗口,将其作为当前滑动窗口,并将原滑动窗口中的业务数据同步到数据库中,包括:
从任务列表中查询出未同步的滑动窗口的标识;
创建新的滑动窗口,生成新的滑动窗口的标识,将指针指向该滑动窗口,并将该滑动窗口的标识存入任务列表;
对查询出的未同步的滑动窗口加锁,将该滑动窗口中的业务数据同步到数据库中;
从缓存中删除该滑动窗口,并将任务列表中该滑动窗口的状态置为无效。
可选地,将该滑动窗口中的业务数据同步到数据库中,包括:
从该滑动窗口中取出key,将该key对应的业务数据转成java对象,并将其同步到数据库中;
删除该滑动窗口中的key。
可选地,所述方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811442486.9/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
 - 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
 - 数据发送方法、数据发送系统、数据发送装置以及数据结构
 - 数据显示系统、数据中继设备、数据中继方法及数据系统
 - 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
 - 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
 - 数据发送和数据接收设备、数据发送和数据接收方法
 - 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
 - 数据发送方法、数据再现方法、数据发送装置及数据再现装置
 - 数据发送方法、数据再现方法、数据发送装置及数据再现装置
 





