[发明专利]用于合并数据表的方法和装置在审
| 申请号: | 201911069525.X | 申请日: | 2019-11-05 |
| 公开(公告)号: | CN112765152A | 公开(公告)日: | 2021-05-07 |
| 发明(设计)人: | 韩松 | 申请(专利权)人: | 北京京东振世信息技术有限公司 |
| 主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2455 |
| 代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
| 地址: | 100086 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 用于 合并 数据表 方法 装置 | ||
1.一种用于合并数据表的方法,所述方法包括:
获取合并任务的配置信息,其中,所述配置信息包括合并模式,字段映射关系以及至少两个待合并数据表的标识、主键、外键;
根据所述合并模式以及所述至少两个待合并数据表的标识、主键、外键,确定首表,所述首表为所述至少两个待合并数据表中首先被采集数据的待合并数据表;
将所述首表作为目标数据表,并执行以下合并步骤:采集所述目标数据表中的数据;判断所述目标数据表是否为尾表,所述尾表为所述至少两个待合并数据表中最后被采集数据的待合并数据表;响应于确定所述目标数据表为尾表,根据所述字段映射关系,将采集得到的数据存储在宽表中,所述宽表为存储在所述至少两个待合并数据表中采集的数据的数据表;
响应于确定所述目标数据表不是尾表,根据所述目标数据表的标识、主键、外键以及未采集数据表的标识、主键和外键,确定新的目标数据表,继续执行所述合并步骤。
2.根据权利要求1所述的方法,其中,所述合并步骤还包括:
响应于确定所述目标数据表不是尾表,根据所采集的数据以及所述目标数据表的主键,生成第一任务消息;
将所述第一任务消息发送至消息队列。
3.根据权利要求2所述的方法,其中,在继续执行所述合并步骤时,所述采集所述目标数据表中的数据,包括:
从所述消息队列中获取所述第一任务消息;
确定所述第一任务消息中的主键以及所述目标数据表的外键和主键,采集所述目标数据表中的数据。
4.根据权利要求1所述的方法,其中,所述合并步骤还包括:
响应于确定所述目标数据表为尾表,根据至少两个待合并数据表的主键、所采集的数据以及所述字段映射对应关系,生成第二任务消息;
将所述第二任务消息发送至消息队列。
5.根据权利要求1所述的方法,其中,所述根据所述字段映射关系,将所采集的至少两个待合并数据表的数据存储在宽表中,包括:
确定所述宽表中是否存在所述首表的主键;
响应于确定存在,根据所采集的至少两个待合并数据表的数据更新所述宽表;
响应于确定不存在,在所述宽表中插入所采集的至少两个待合并数据表的数据。
6.一种用于合并数据表的装置,包括:
获取单元,被配置成获取合并任务的配置信息,其中,所述配置信息包括合并模式,字段映射关系以及至少两个待合并数据表的标识、主键、外键;
确定单元,被配置成根据所述合并模式以及所述至少两个待合并数据表的标识、主键、外键,确定首表,所述首表为所述至少两个待合并数据表中首先被采集数据的待合并数据表;
合并单元,被配置成将所述首表作为目标数据表,并执行以下合并步骤:采集所述目标数据表中的数据;判断所述目标数据表是否为尾表,所述尾表为所述至少两个待合并数据表中最后被采集数据的待合并数据表;响应于确定所述目标数据表为尾表,根据所述字段映射关系,将采集得到的数据存储在宽表中,所述宽表为存储在所述至少两个待合并数据表中采集的数据的数据表;
反馈单元,被配置成响应于确定所述目标数据表不是尾表,根据所述目标数据表的标识、主键、外键以及未读取数据表的标识、主键和外键,确定新的目标数据表,继续执行所述合并步骤。
7.根据权利要求6所述的装置,其中,所述合并单元进一步被配置成:
响应于确定所述目标数据表不是尾表,根据所采集的数据以及所述目标数据表的主键,生成第一任务消息;
将所述第一任务消息发送至消息队列。
8.根据权利要求7所述的装置,其中,在反馈单元执行后,所述合并单元进一步被配置成:
从所述消息队列中获取所述第一任务消息;
确定所述第一任务消息中的主键以及所述目标数据表的外键和主键,采集所述目标数据表中的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东振世信息技术有限公司,未经北京京东振世信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911069525.X/1.html,转载请声明来源钻瓜专利网。





