[发明专利]一种数据拼接方法、装置、介质及电子设备在审

专利信息
申请号: 201810975664.8 申请日: 2018-08-24
公开(公告)号: CN110895534A 公开(公告)日: 2020-03-20
发明(设计)人: 张学刚 申请(专利权)人: 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司
主分类号: G06F16/23 分类号: G06F16/23;G06F16/27;G06F16/2453;G06F16/22
代理公司: 北京律智知识产权代理有限公司 11438 代理人: 袁礼君;阚梓瑄
地址: 100195 北京市海淀区杏石口路6*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据 拼接 方法 装置 介质 电子设备
【权利要求书】:

1.一种数据拼接方法,其特征在于,包括:

从源数据库中确定出日志文件的变更数据,将所述变更数据加入至消息队列;

对所述消息队列中的变更数据进行预处理,确定出所述变更数据中的待拼接数据;

根据预设数据库表的外键对各个所述待拼接数据进行拼接,将拼接后所获得的拼接数据同步至目标数据库。

2.根据权利要求1所述的数据拼接方法,其特征在于,所述从源数据库中确定出日志文件的变更数据包括:

对所述关系型数据库中的日志文件进行实时检测,确定出所述日志文件中更改数据库表以及更改内容的变更数据。

3.根据权利要求1所述的数据拼接方法,其特征在于,所述对所述变更数据进行预处理,确定出所述变更数据中的待拼接数据包括:

预设的Strom集群获取所述消息队列中的变更数据后,分发所述变更数据;

根据预设的目标字段对所分发的变更数据进行识别,获得符合所述目标字段的变更数据;

将所述符合所述目标字段的变更数据确定为所述待拼接数据,并将所述待拼接数据进行map封装。

4.根据权利要求1所述的数据拼接方法,其特征在于,所述根据预设数据库表的外键对各个所述待拼接数据进行拼接,将拼接后所获得的拼接数据同步至目标数据库包括:

根据所述预设的业务表外键判断各个所述待拼接数据之间的关联关系;

将所确定出有关联关系的待拼接数据进行拼接,获得拼接数据;

将所述拼接数据同步至目标数据库。

5.根据权利要求4所述的数据拼接方法,其特征在于,所述方法还包括:

判断所述拼接数据是否需要继续拼接;

当确定所述拼接数据需要继续拼接后,将所述拼接数据导入至中转数据库中,并检测是否获取需要继续拼接的待拼接数据;

当获取需要继续拼接的待拼接数据后,将所述中转数据库中的拼接数据取出与所述需要继续拼接的待拼接数据进行拼接,获得第二次拼接后的拼接数据;

将所述第二次拼接后的拼接数据同步至目标数据库。

6.一种数据拼接装置,没其特征在于,包括:

确定模块,用于从源数据库中确定出日志文件的变更数据,将所述变更数据加入至消息队列;

预处理模块,用于对所述消息队列中的变更数据进行预处理,确定出所述变更数据中的待拼接数据;

拼接模块,用于根据预设数据库表的外键对各个所述待拼接数据进行拼接,将拼接后所获得的拼接数据同步至目标数据库。

7.根据权利要求6所述的数据拼接装置,没其特征在于,所述确定模块具体用于:

对所述关系型数据库中的日志文件进行实时检测,确定出所述日志文件中更改数据库表以及更改内容的变更数据。

8.根据权利要求6所述的数据拼接装置,没其特征在于,所述预处理模块具体用于:

预设的Strom集群获取所述消息队列中的变更数据后,分发所述变更数据;

根据预设的目标字段对所分发的变更数据进行识别,获得符合所述目标字段的变更数据;

将所述符合所述目标字段的变更数据确定为所述待拼接数据,并将所述待拼接数据进行map封装。

9.根据权利要求6所述的数据拼接装置,没其特征在于,所述拼接模块具体用于:

根据所述预设的业务表外键判断各个所述待拼接数据之间的关联关系;

将所确定出有关联关系的待拼接数据进行拼接,获得拼接数据;

将所述拼接数据同步至目标数据库。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810975664.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top