[发明专利]作业提交执行方法、装置、设备及计算机存储介质有效
| 申请号: | 201910659732.4 | 申请日: | 2019-07-19 |
| 公开(公告)号: | CN110381143B | 公开(公告)日: | 2023-09-12 |
| 发明(设计)人: | 杨峙岳;尹强;刘有;王和平;黄山;邸帅;卢道和 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
| 主分类号: | H04L67/10 | 分类号: | H04L67/10;G06F9/50;G06F9/54 |
| 代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 李欣 |
| 地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 作业 提交 执行 方法 装置 设备 计算机 存储 介质 | ||
1.一种作业提交执行方法,其特征在于,所述作业提交执行方法应用于作业提交执行系统,所述作业提交执行系统包括网关、资源管理器、入口和引擎管理器,
所述作业提交执行方法包括如下步骤:
所述网关获取用户账号对应的大数据作业,并将所述大数据作业提交到所述入口;
所述入口基于所述大数据作业检测所述用户账号对应的服务器是否存在第一引擎;
若不存在所述第一引擎,则所述入口向所述引擎管理器发送引擎请求信息,所述引擎管理器根据所述引擎请求信息向所述资源管理器发送申请所述用户账号对应的资源信息的申请信息;
所述资源管理器根据所述申请信息检测所述用户账号对应的剩余资源是否大于预设资源;
若大于,则所述资源管理器向所述引擎管理器发送所述剩余资源充足的资源信息;
所述引擎管理器根据所述资源管理器返回的资源信息启动新引擎,并将所述新引擎作为第二引擎;
所述入口将所述大数据作业提交到所述第二引擎,所述第二引擎对所述大数据作业进行执行,生成所述大数据作业的结果集。
2.如权利要求1所述的作业提交执行方法,其特征在于,所述入口将所述大数据作业提交到所述第二引擎的步骤之前,包括:
所述引擎管理器获取所述第二引擎的标识信息,并将所述标识信息和所述第二引擎已启动成功的通知信息发送到所述入口;
所述入口将所述大数据作业提交到所述第二引擎的步骤,包括:
所述入口根据所述标识信息和所述通知信息,通过进程间通信方式RPC将所述大数据作业提交到所述第二引擎。
3.如权利要求2所述的作业提交执行方法,其特征在于,所述第二引擎对所述大数据作业进行执行的步骤,包括:
在对所述大数据作业的执行过程中,所述第二引擎根据所述大数据作业的执行进度获取所述大数据作业对应的执行信息,并将所述执行信息通过所述RPC发送到所述入口,以供所述入口将所述执行信息发送到网关,通过所述网关将所述执行信息发送到所述用户账号。
4.如权利要求1所述的作业提交执行方法,其特征在于,所述第二引擎对所述大数据作业进行执行,并将所述大数据作业执行完成后产生的结果集发送到所述入口进行保存的步骤之后,包括:
将所述第二引擎的状态由繁忙状态变为空闲状态,并检测所述网关是否接收到所述用户账号对应的新的大数据作业;
若所述网关接收到所述新的大数据作业,则所述网关将所述新的大数据作业提交到所述第二引擎进行执行。
5.如权利要求1-4任一项所述的作业提交执行方法,其特征在于,所述网关获取用户账号对应的大数据作业,并将所述大数据作业提交到所述入口的步骤,包括:
所述网关获取用户账号对应的大数据作业,并检测所述入口是否存在故障;
若所述入口存在故障,则获取备用入口,并将所述大数据作业提交到所述备用入口。
6.一种作业提交执行装置,其特征在于,所述作业提交执行装置包括:
获取模块,用于网关获取用户账号对应的大数据作业,并将所述大数据作业提交到入口;
检测模块,用于所述入口基于所述大数据作业检测所述用户账号对应的服务器是否存在第一引擎;
发送模块,用于若不存在所述第一引擎,则所述入口向引擎管理器发送引擎请求信息,所述引擎管理器根据所述引擎请求信息向资源管理器发送申请所述用户账号对应的资源信息的申请信息;所述资源管理器根据所述申请信息检测所述用户账号对应的剩余资源是否大于预设资源;若大于,则所述资源管理器向所述引擎管理器发送所述剩余资源充足的资源信息;所述引擎管理器根据所述资源管理器返回的资源信息启动新引擎,并将所述新引擎作为第二引擎;
执行模块,用于所述入口将所述大数据作业提交到所述第二引擎,所述第二引擎对所述大数据作业进行执行,生成所述大数据作业的结果集。
7.一种作业提交执行设备,其特征在于,所述作业提交执行设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的作业提交执行程序,所述作业提交执行程序被所述处理器执行时实现如权利要求1至5中任一项所述的作业提交执行方法的步骤。
8.一种计算机存储介质,其特征在于,所述计算机存储介质上存储有作业提交执行程序,所述作业提交执行程序被处理器执行时实现如权利要求1至5中任一项所述的作业提交执行方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910659732.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据实时上传更新装置
- 下一篇:基于合法用户充电习惯的充电认证方法及移动终端





