[发明专利]任务调度的方法、装置、处理器与电子设备有效
| 申请号: | 202011589305.2 | 申请日: | 2020-12-28 |
| 公开(公告)号: | CN112540841B | 公开(公告)日: | 2021-11-12 |
| 发明(设计)人: | 张炎红;张宁博 | 申请(专利权)人: | 智慧神州(北京)科技有限公司 |
| 主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
| 代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 霍文娟 |
| 地址: | 100085 北京*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 任务 调度 方法 装置 处理器 电子设备 | ||
1.一种任务调度的方法,其特征在于,包括:
接收目标任务相关信息,所述目标任务相关信息包括目标任务信息以及表征所述目标任务紧急程度的信息;
确定SPARK集群的当前资源利用率,所述当前资源利用率为所述SPARK集群中当前已被占用资源的数量的占比;
根据所述目标任务相关信息和所述当前资源利用率,对所述目标任务信息进行拆分,得到至少一个目标子任务信息;
将各所述目标子任务信息发送至所述SPARK集群进行计算,接收各计算结果并将各所述计算结果发出;
根据所述目标任务相关信息和所述当前资源利用率,对所述目标任务信息进行拆分,包括:
根据所述表征所述目标任务紧急程度的信息和所述当前资源利用率,确定所述SPARK集群中的可用资源的数量,所述可用资源为所述SPARK集群中除所述当前已被占用资源之外的其他资源;
根据所述可用资源的数量,确定所述目标任务信息的拆分数量;
按照所述拆分数量对所述目标任务进行拆分,得到至少一个所述目标子任务信息。
在根据所述表征所述目标任务紧急程度的信息和所述当前资源利用率,确定所述SPARK集群中的可用资源的数量之后,在根据所述可用资源的数量,确定所述目标任务信息的拆分数量之前,所述方法还包括:
获取需求资源数量,所述需求资源数量为计算所述目标任务信息需要的资源数量;
确定所述需求资源数量是否大于所述可用资源的数量,在所述需求资源数量大于所述可用资源的数量的情况下,暂停非紧急任务信息的计算,所述非紧急任务为所述紧急程度低于所述目标任务的其他任务,以使得所述需求资源数量小于或者等于所述可用资源的数量;
在所述需求资源数量大于所述可用资源的数量的情况下,获取所述其他任务的所述紧急程度,确定所述非紧急任务;
将所述非紧急任务按照所述紧急程度从小到大的顺序依次暂停,直到所述需求资源数量小于或者等于所述可用资源的数量;
在暂停所有的所述非紧急任务信息后,所述需求资源数量仍大于所述可用资源的数量的情况下,所述方法还包括:
控制所述目标任务进入等待模式,直到所述需求资源数量小于或者等于所述可用资源的数量;
所述紧急程度分为0至9级,共10个优先级,1至9级中数字越高,表示任务紧急程度越高,0级为超紧急的任务;当目标任务的紧急程度为0级时,不进行可用资源的数量的计算,所述SPARK集群中的全部资源均可以被利用。
2.根据权利要求1所述的方法,其特征在于,确定SPARK集群的当前资源利用率,包括:
获取所述SPARK集群中的资源总量;
获取所述当前已被占用资源的数量,所述当前已被占用资源为当前所述SPARK集群中被其他任务占用的资源;
根据所述资源总量和所述当前已被占用资源的数量,确定所述当前资源利用率。
3.根据权利要求2所述的方法,其特征在于,根据所述表征所述目标任务紧急程度的信息和所述当前资源利用率,确定所述SPARK集群中的可用资源的数量,包括:
根据所述表征所述目标任务紧急程度的信息,确定所述目标任务信息的资源需求率;
将所述资源需求率和所述当前资源利用率作差后与所述资源总量相乘,得到所述可用资源的数量。
4.根据权利要求1所述的方法,其特征在于,根据所述可用资源的数量,确定所述目标任务信息的拆分数量,包括:
获取所述SPARK集群中节点的数量,所述节点用于对所述目标子任务信息进行计算;
将所述可用资源的数量与所述节点的数量相除,得到所述拆分数量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于智慧神州(北京)科技有限公司,未经智慧神州(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011589305.2/1.html,转载请声明来源钻瓜专利网。





