[发明专利]一种计算机集群作业调度方法及其装置在审
申请号: | 201611169592.5 | 申请日: | 2016-12-16 |
公开(公告)号: | CN106776025A | 公开(公告)日: | 2017-05-31 |
发明(设计)人: | 辛永欣 | 申请(专利权)人: | 郑州云海信息技术有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京集佳知识产权代理有限公司11227 | 代理人: | 罗满 |
地址: | 450018 河南省郑州市*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 计算机 集群 作业 调度 方法 及其 装置 | ||
1.一种计算机集群作业调度方法,其特征在于,包括:
步骤s101:依据各个未处理任务的任务类型以及预设的每种任务类型的平均资源占用率确定各个所述未处理任务的资源占用率;
步骤s102:按照所述资源占用率的大小,分别为各个所述未处理任务分配相应大小的container进程进行任务处理。
2.根据权利要求1所述的方法,其特征在于,步骤s101与步骤s102之间还包括:
依据各个所述未处理任务的任务类型、预设的每种任务类型单位数据量的平均占用时间以及对应的资源占用率确定各个所述未处理任务的资源占用量;
周期性检测所述集群的空闲资源占用率;
从当前的各个所述未处理任务中,筛选出资源占用率未超出所述空闲资源占用率的未处理任务作为候选任务,并将各个所述候选任务按照资源占用量从小到大的顺序加入候选任务列表;其中,所述候选任务列表中的任务处理顺序为任务排列顺序。
3.根据权利要求2所述的方法,其特征在于,所述依据各个所述未处理任务的任务类型、预设的每种任务类型单位数据量的平均占用时间以及对应的资源占用率确定各个所述未处理任务的资源占用量的过程具体为:
依据各个所述未处理任务的任务类型以及预设的每种任务类型单位数据量的平均占用时间,确定每个所述未处理任务的单位数据量的平均占用时间;
确定每个所述未处理任务的输入数据量;
分别将每个所述未处理任务的所述输入数据量与自身的单位数据量的平均占用时间相乘,得到每个所述未处理任务的占用时间;
将每个所述未处理任务的占用时间与自身的资源占用率相乘,得到每个所述未处理任务的资源占用量。
4.根据权利要求2所述的方法,其特征在于,将各个所述候选任务加入所述候选任务列表后,还包括:
将筛选出的资源占用率超出所述空闲资源占用率的若干个未处理任务按照预设顺序添加至所述候选任务列表中最后一个候选任务的后面。
5.一种计算机集群作业调度装置,其特征在于,包括:
资源占用率计算模块,用于依据各个未处理任务的任务类型以及预设的每种任务类型的平均资源占用率确定各个所述未处理任务的资源占用率;
调度模块,用于按照所述资源占用率的大小,分别为各个所述未处理任务分配相应大小的container进程进行任务处理。
6.根据权利要求5所述的装置,其特征在于,还包括:
资源占用量计算模块,用于依据各个所述未处理任务的任务类型、预设的每种任务类型单位数据量的平均占用时间以及对应的资源占用率确定各个所述未处理任务的资源占用量;
空闲检测模块,用于周期性检测所述集群的空闲资源占用率;
排序模块,用于从当前的各个所述未处理任务中,筛选出资源占用率未超出所述空闲资源占用率的未处理任务作为候选任务,并将各个所述候选任务按照资源占用量从小到大的顺序加入候选任务列表;其中,所述候选任务列表中的任务处理顺序为任务排列顺序。
7.根据权利要求6所述的装置,其特征在于,所述资源占用量计算模块具体用于:
依据各个所述未处理任务的任务类型以及预设的每种任务类型单位数据量的平均占用时间,确定每个所述未处理任务的单位数据量的平均占用时间;确定每个所述未处理任务的输入数据量;分别将每个所述未处理任务的所述输入数据量与自身的单位数据量的平均占用时间相乘,得到每个所述未处理任务的占用时间;将每个所述未处理任务的占用时间与自身的资源占用率相乘,得到每个所述未处理任务的资源占用量。
8.根据权利要求6所述的装置,其特征在于,所述排序模块还用于:
将筛选出的资源占用率超出所述空闲资源占用率的若干个未处理任务按照预设顺序添加至所述候选任务列表中最后一个候选任务的后面。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于郑州云海信息技术有限公司,未经郑州云海信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611169592.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种资源调度装置、系统和方法
- 下一篇:一种分布式数据处理方法及装置