[发明专利]电商平台作业调度方法及系统有效
申请号: | 201810749182.0 | 申请日: | 2018-07-10 |
公开(公告)号: | CN108960641B | 公开(公告)日: | 2021-07-02 |
发明(设计)人: | 王俊杰;刘超;卢春洋;文燕军;吴文钧;彭海钊;祝诗恩;肖俊晶;常佩佩 | 申请(专利权)人: | 康成投资(中国)有限公司 |
主分类号: | G06Q10/06 | 分类号: | G06Q10/06;G06Q30/06 |
代理公司: | 上海盈盛知识产权代理事务所(普通合伙) 31294 | 代理人: | 孙佳胤;陈丽丽 |
地址: | 200436*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 平台 作业 调度 方法 系统 | ||
1.一种电商平台作业调度方法,其特征在于,包括如下步骤:
提供一待执行作业;
获取执行所述待执行作业所需的资源空间评估值;
设置多个资源组,多个所述资源组与多个作业类型一一对应,每一所述资源组用于执行相应作业类型的作业,多个作业类型包括Vertica、Hive、Spark、MapReduce中的多个;
选择与所述待执行作业匹配的资源组作为目标资源组;
判断所述目标资源组的剩余资源空间是否大于所述资源空间评估值,若是,则将所述待执行作业分配至所述目标资源组,并进行资源调度,以开始执行所述待执行作业,若否,则将所述待执行作业按照预先设定的优先级顺序加入到所述目标资源组的作业等待队列中。
2.根据权利要求1所述的电商平台作业调度方法,其特征在于,选择与所述待执行作业匹配的资源组作为目标资源组之前还包括如下步骤:
判断所述待执行作业是否满足触发条件,若是,则选择与所述待执行作业匹配的资源组作为目标资源组。
3.根据权利要求2所述的电商平台作业调度方法,其特征在于,所述触发条件为待执行作业的全部上游作业执行成功、预设数量的上游作业执行成功、全部上游作业执行失败中的一种;所述上游作业为与所述待执行作业具有先后依赖关系的作业。
4.根据权利要求1所述的电商平台作业调度方法,其特征在于,还包括如下步骤:
判断所述待执行作业是否执行失败,若是,则统计所述待执行作业执行失败次数;
判断所述待执行作业的剩余重试次数是否为0,若否,则再次执行所述待执行作业。
5.一种电商平台作业调度系统,其特征在于,包括:
获取模块,用于获取执行待执行作业所需的资源空间评估值;
设置模块,用于设置多个资源组,多个所述资源组与多个作业类型一一对应,每一所述资源组用于执行相应作业类型的作业,多个作业类型包括Vertica、Hive、Spark、MapReduce中的多个;
选择模块,连接所述获取模块和所述设置模块,用于选择与所述待执行作业匹配的资源组作为目标资源组;
控制模块,连接所述选择模块,用于判断所述目标资源组的剩余资源空间是否大于所述资源空间评估值,若是,则将所述待执行作业分配至所述目标资源组,并进行资源调度,以开始执行所述待执行作业;所述控制模块还用于判断所述目标资源组的剩余资源空间是否大于所述资源空间评估值,若否,则将所述待执行作业按照预先设定的优先级顺序加入到所述目标资源组的作业等待队列中。
6.根据权利要求5所述的电商平台作业调度系统,其特征在于,所述选择模块包括判断单元和选择单元;所述判断单元,连接所述选择单元,用于判断所述待执行作业是否满足触发条件;所述选择单元,用于在所述判断单元的判断结果为所述待执行作业满足触发条件时,选择与所述待执行作业匹配的资源组作为目标资源组。
7.根据权利要求6所述的电商平台作业调度系统,其特征在于,所述触发条件为待执行作业的全部上游作业执行成功、预设数量的上游作业执行成功、全部上游作业执行失败中的一种;所述上游作业为与所述待执行作业具有先后依赖关系的作业。
8.根据权利要求5所述的电商平台作业调度系统,其特征在于,还包括重试模块;所述控制模块还用于判断所述待执行作业是否执行失败,若是,则统计所述待执行作业执行失败次数;所述重试模块,连接所述控制模块,用于判断所述待执行作业的剩余重试次数是否为0,若否,则向所述控制模块发出再次执行所述待执行作业的指令。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于康成投资(中国)有限公司,未经康成投资(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810749182.0/1.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理