[发明专利]一种基于分布式的任务调度方法及系统在审
申请号: | 201410323841.6 | 申请日: | 2014-07-08 |
公开(公告)号: | CN105335219A | 公开(公告)日: | 2016-02-17 |
发明(设计)人: | 武鹏;王森茂;李世伟;邹巍;郑灏;张颖杰;张磊;刘拴林 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F9/46 | 分类号: | G06F9/46;G06F3/06;G06F11/16 |
代理公司: | 上海百一领御专利代理事务所(普通合伙) 31243 | 代理人: | 陈贞健 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 分布式 任务 调度 方法 系统 | ||
1.一种基于分布式的任务调度方法,其特征在于,所述方法包括:
设置分布式集群内每个机架的被访问的任务计算节点阈值;
获取各机架中被访问的任务计算节点数量,并判断机架中当前被访问的任务计算节点数量是否超出所述阈值;
若所述机架中当前被访问的任务计算节点数量超过所述阈值,则将分配的新任务分配到其它机架中或将所述新任务调度至任务队列等待。
2.根据权利要求1所述的任务调度,其特征在于,所述方法还包括:
若机架中当前被访问的任务计算节点数量超过所述阈值,已经分配至该机架的任务等待该机架被访问的任务计算节点数量低于所述阈值一预设比例后再继续执行。
3.根据权利要求1所述的任务调度方法,其特征在于,设置分布式集群内每个机架的被访问的任务计算节点阈值的步骤包括:
根据所述机架的预设功耗以及每个任务计算节点的预设功耗,计算机架内能同时工作的任务计算节点数量的阈值。
4.根据权利要求3所述的任务调度方法,其特征在于,所述方法还包括:
根据所述任务计算节点的预设功耗以及所述任务计算节点中每个硬盘的功耗计算能同时工作的硬盘数量的阈值。
5.根据权利要求4所述的任务调度方法,其特征在于,所述方法还包括:
读取任务队列中待分配任务,并计算所述待分配任务需要激活的硬盘数量;
获取所述任务计算节点内正在工作的硬盘数量;
判断所述任务计算节点内正在工作的硬盘数量与所述待分配任务需要激活的硬盘数量之和是否小于或等于所述计算节点内能同时工作的硬盘数量;
若是则将所述待分配任务出列并分配至该任务计算节点中执行,若否则所述待分配任务在所述任务队列中休眠预设时间。
6.根据权利要求5所述的任务调度方法,其特征在于,所述待分配任务在所述任务队列中休眠预设时间的步骤之后还包括:当所述任务计算节点内正在工作的硬盘数量小于所述任务计算节点内能同时工作的硬盘数量时再次从所述任务队列中读取待分配任务。
7.根据权利要求5所述的任务调度方法,其特征在于,所述读取任务队列中待分配任务的步骤之前还包括:
获取用户提交的任务,并将所述任务合并至所述任务队列。
8.一种基于分布式的任务调度系统,其特征在于,所述系统包括:
配置模块,用于设置分布式集群内每个机架的被访问的任务计算节点阈值;
采集模块,用于获取各机架中被访问的任务计算节点数量,
分析模块,用于判断所述机架中当前被访问的任务计算节点数量是否超出所述阈值;
分配模块,用于当机架中当前被访问的任务计算节点数量超出所述阈值时,则将分配的新任务分配到其它机架中或将所述新任务调度至任务队列等待。
9.根据权利要求8所述的任务调度系统,其特征在于,所述分配模块还用于若机架中当前被访问的任务计算节点数量超出所述阈值,使已经分配至该机架的任务等待该机架被访问的任务计算节点数量低于所述阈值一预设比例后再继续执行。
10.根据权利要求8所述的任务调度系统,其特征在于,所述配置模块还用于根据所述机架的预设功耗以及每个任务计算节点的预设功耗,计算机架内能同时工作的任务计算节点数量的阈值。
11.根据权利要求10所述的任务调度系统,其特征在于,所述配置模块还用于根据所述任务计算节点的预设功耗以及所述任务计算节点中每个硬盘的功耗计算能同时工作的硬盘数量的阈值。
12.根据权利要求11所述的任务调度系统,其特征在于,所述采集模块还用于读取任务队列中待分配任务,并计算所述待分配任务需要激活的硬盘数量,以及获取所述任务计算节点内正在工作的硬盘数量;
所述分析模块还用于判断所述任务计算节点内正在工作的硬盘数量与所述待分配任务需要激活的硬盘数量之和是否小于或等于所述计算节点内能同时工作的硬盘数量;
所述分配模块用于所述任务计算节点内正在工作的硬盘数量与所述待分配任务需要激活的硬盘数量之和小于或等于所述计算节点内能同时工作的硬盘数量时将所述待分配任务出列并分配至该任务计算节点中执行,否则所述待分配任务在所述任务队列中休眠预设时间。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410323841.6/1.html,转载请声明来源钻瓜专利网。