[发明专利]一种用于分布式执行关系型计算指令的方法与设备有效
申请号: | 201410778654.7 | 申请日: | 2014-12-15 |
公开(公告)号: | CN105786808B | 公开(公告)日: | 2019-06-18 |
发明(设计)人: | 冯骁;王鹏飞;谢德军;柴永锋;徐常亮 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/28;G06F9/44 |
代理公司: | 上海百一领御专利代理事务所(普通合伙) 31243 | 代理人: | 陈贞健 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 分布式 执行 关系 计算 指令 方法 设备 | ||
1.一种用于分布式执行关系型计算指令的方法,其中,该方法包括:
获取待执行的、基于关系型逻辑的关系型计算语句;
将所述关系型计算语句映射为由若干个分布式关系型计算算子构成的关系型计算指令;
根据所述关系型计算指令生成对应的逻辑查询树,其中,所述逻辑查询树包括与所述分布式关系型计算算子相对应的节点;
分布式执行所述逻辑查询树以获得所述关系型计算指令所对应的查询结果。
2.根据权利要求1所述的方法,其中,所述分布式执行所述逻辑查询树以获得所述关系型计算指令所对应的查询结果包括:
生成所述逻辑查询树所对应的物理查询树;
分布式执行所述物理查询树。
3.根据权利要求2所述的方法,其中,所述生成所述逻辑查询树所对应的物理查询树包括:
通过对所述逻辑查询树中的相关节点执行优化操作,生成所述逻辑查询树所对应的物理查询树。
4.根据权利要求1所述的方法,其中,所述分布式执行所述逻辑查询树以获得所述关系型计算指令所对应的查询结果包括:
按有向无环图的方式分布式执行所述逻辑查询树以获得所述关系型计算指令所对应的查询结果。
5.根据权利要求1所述的方法,其中,所述关系型计算指令是基于HIVE、SQL或PIG的。
6.根据权利要求1所述的方法,其中,所述分布式关系型计算算子是基于ProtoBuf、XML或JSON来描述的。
7.根据权利要求1所述的方法,其中,所述分布式关系型计算算子包括以下至少任一项:
数据分片算子、过滤算子、聚合算子、联接算子、投影算子、排序算子、输出算子、限制输出行数算子、合并结果算子、窗口函数算子、计算表值函数算子或读取数据源算子。
8.根据权利要求1至7中任一项所述的方法,其中,所述根据所述关系型计算指令生成对应的逻辑查询树包括:
根据所述关系型计算指令生成对应的逻辑查询树,其中,所述逻辑查询树包括与所述分布式关系型计算算子相对应的节点,所述分布式关系型计算算子间的数据传递关系映射为对应所述节点间的父子关系。
9.一种用于分布式执行关系型计算指令的设备,其中,该设备包括:
第一装置,包括:第一一单元,用于获取待执行的、基于关系型逻辑的关系型计算语句;第一二单元,用于将所述关系型计算语句映射为由若干个分布式关系型计算算子构成的关系型计算指令;
第二装置,用于根据所述关系型计算指令生成对应的逻辑查询树,其中,所述逻辑查询树包括与所述分布式关系型计算算子相对应的节点;
第三装置,用于分布式执行所述逻辑查询树以获得所述关系型计算指令所对应的查询结果。
10.根据权利要求9所述的设备,其中,所述第三装置包括:
第三一单元,用于生成所述逻辑查询树所对应的物理查询树;
第三二单元,用于分布式执行所述物理查询树。
11.根据权利要求10所述的设备,其中,所述第三一单元用于:
通过对所述逻辑查询树中的相关节点执行优化操作,生成所述逻辑查询树所对应的物理查询树。
12.根据权利要求9所述的设备,其中,所述第三装置用于:
按有向无环图的方式分布式执行所述逻辑查询树以获得所述关系型计算指令所对应的查询结果。
13.根据权利要求9所述的设备,其中,所述关系型计算指令是基于HIVE、SQL或PIG的。
14.根据权利要求9所述的设备,其中,所述分布式关系型计算算子是基于ProtoBuf、XML或JSON来描述的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410778654.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种社交类网页结构化摘要的生成方法和系统
- 下一篇:一种翻译方法及移动终端