[发明专利]数据表连接方法及装置有效
| 申请号: | 201610118167.7 | 申请日: | 2016-03-02 |
| 公开(公告)号: | CN107153643B | 公开(公告)日: | 2021-02-19 |
| 发明(设计)人: | 吴炜 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
| 主分类号: | G06F16/22 | 分类号: | G06F16/22 |
| 代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 孟繁琦 |
| 地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据表 连接 方法 装置 | ||
1.一种分布式系统的数据表连接方法,其特征在于,包括:
在分布式数据库的查询过程中,接收数据表连接任务,所述数据表连接任务指示按照连接条件对第一数据表和第二数据表进行连接操作;
根据所述连接条件,将所述第二数据表中的数据记录加载到分布式系统中至少两个节点上以实现分布式存储;
读取所述第一数据表中的数据记录作为当前数据记录,根据所述当前数据记录对应的连接条件,从所述至少两个节点中确定目标节点,并读取所述目标节点上存储的所述第二数据表中的数据记录作为目标数据记录;
对所述当前数据记录和所述目标数据记录进行连接操作。
2.根据权利要求1所述的方法,其特征在于,所述根据所述连接条件,将所述第二数据表中的数据记录加载到分布式系统中至少两个节点上之前,包括:
判断所述第二数据表的数据量是否大于单个节点的内存限制;
若判断结果为是,则执行根据所述连接条件,将所述第二数据表中的数据记录加载到分布式系统中至少两个节点上的操作。
3.根据权利要求1所述的方法,其特征在于,所述根据所述当前数据记录对应的连接条件,从所述至少两个节点中确定目标节点,并读取所述目标节点上存储的所述第二数据表中的数据记录作为目标数据记录之前,包括:
根据所述当前数据记录对应的连接条件,判断本地缓存中是否存在所述目标数据记录;
若判断结果为否,则执行根据所述当前数据记录对应的连接条件,从所述至少两个节点中确定目标节点,并读取所述目标节点上存储的所述第二数据表中的数据记录作为目标数据记录的操作。
4.根据权利要求1所述的方法,其特征在于,所述连接条件包括连接所需的至少一个目标键;
所述根据所述连接条件,将所述第二数据表中的数据记录加载到分布式系统中至少两个节点上,包括:
分别对所述至少一个目标键中的各目标键进行哈希运算,以获取各目标键的哈希值;
根据各目标键的哈希值和所述至少两个节点的数量,确定各目标键对应的节点;
将所述第二数据表中对应于各目标键的数据记录分别加载到各目标键对应的节点上。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述根据所述连接条件,将所述第二数据表中的数据记录加载到分布式系统中至少两个节点上,包括:
根据所述连接条件,将所述第二数据表中的数据记录加载到所述至少两个节点的内存中。
6.一种分布式系统的数据表连接装置,其特征在于,包括:
接收模块,用于在分布式数据库的查询过程中,接收数据表连接任务,所述数据表连接任务指示按照连接条件对第一数据表和第二数据表进行连接操作;
加载模块,用于根据所述连接条件,将所述第二数据表中的数据记录加载到分布式系统中至少两个节点上以实现分布式存储;
读取模块,用于读取所述第一数据表中的数据记录作为当前数据记录,根据所述当前数据记录对应的连接条件,从所述至少两个节点中确定目标节点,并读取所述目标节点上存储的所述第二数据表中的数据记录作为目标数据记录;
连接模块,用于对所述当前数据记录和所述目标数据记录进行连接操作。
7.根据权利要求6所述的装置,其特征在于,还包括:
第一判断模块,用于判断所述第二数据表的数据量是否大于单个节点的内存限制,以及在判断结果为是时触发所述加载模块执行根据所述连接条件,将所述第二数据表中的数据记录加载到分布式系统中至少两个节点上的操作。
8.根据权利要求6所述的装置,其特征在于,还包括:
第二判断模块,用于根据所述当前数据记录对应的连接条件,判断本地缓存中是否存在所述目标数据记录,以及在判断结果为否时触发所述读取模块执行根据所述当前数据记录对应的连接条件,从所述至少两个节点中确定目标节点,并读取所述目标节点上存储的所述第二数据表中的数据记录作为目标数据记录的操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610118167.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:智能问答方法及系统
- 下一篇:一种数据同步方法及装置





