[发明专利]一种分布式数据仓库中实现计算均衡的方法及装置有效
| 申请号: | 201010566142.6 | 申请日: | 2010-11-23 |
| 公开(公告)号: | CN102479217A | 公开(公告)日: | 2012-05-30 |
| 发明(设计)人: | 李均;王有为;郭玮;洪坤乾;赵伟 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F9/50 |
| 代理公司: | 北京派特恩知识产权代理事务所(普通合伙) 11270 | 代理人: | 程立民;张颖玲 |
| 地址: | 518044 广东省深圳*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明公开了一种分布式数据仓库中实现计算均衡的方法及装置,用于解决分布式数据仓库在执行Map/Reduce计算过程中由于数据自身的不均衡分布导致在执行SQL查询时,集群计算资源使用不均衡的技术问题。本发明在分布式数据仓库中,将对字段分布情况的感知功能与查询引擎结合,对查询引擎翻译的MR任务进行调整,根据字段值分布情况,进行查询语句的翻译,通过添加一个或者多个MR任务对数据进行打散操作,使得数据分散更加合理均衡,从而达到计算均衡,提高了集群内部计算资源的平均利用,加快了MR任务的执行速度。 | ||
| 搜索关键词: | 一种 分布式 数据仓库 实现 计算 均衡 方法 装置 | ||
【主权项】:
一种分布式数据仓库中实现计算均衡的方法,其特征在于,该方法包括:在查询语句入口插入计算均衡性入口检测代码,通过该计算均衡性入口检测代码获得执行聚集操作的字段值分布情况;若执行聚集操作的字段值分布不均衡,则对查询引擎翻译的映射缩减(MR)任务进行优化,增加一个或多个MR任务,对数据进行打散操作。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201010566142.6/,转载请声明来源钻瓜专利网。





