[发明专利]分布式文件架构的任务处理方法和装置有效
申请号: | 201710262891.1 | 申请日: | 2017-04-20 |
公开(公告)号: | CN107402806B | 公开(公告)日: | 2020-08-18 |
发明(设计)人: | 丁彬;武严严;杨富平;谢黎文 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥;王剑 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 文件 架构 任务 处理 方法 装置 | ||
1.一种分布式文件架构的任务处理方法,所述分布式文件架构包括任务框架以及若干任务处理器,所述任务处理方法应用于任务框架,包括:
提取待处理的任务;
确定所述任务所属的任务处理器;
调用所述任务处理器对所述任务进行处理,并基于所述任务处理器返回的处理结果更新所述任务的处理状态信息;所述处理状态信息用于指示所述任务已完成的处理阶段;
当所述任务处理器返回处理异常的处理结果时,将所述任务和所述任务的处理状态信息记录到异常任务表中;
基于预设的策略提取所述异常任务表中的异常任务;
根据所述异常任务的处理状态信息,调用所述异常任务所属的任务处理器继续对所述异常任务进行处理;
所述根据所述异常任务的处理状态信息,调用所述异常任务所属的任务处理器继续对所述异常任务进行处理,包括:
确定所述处理状态信息对应的下一处理阶段;
调用所述异常任务所属的任务服务器对所述异常任务进行所述下一处理阶段的处理。
2.根据权利要求1所述的方法,所述任务的处理状态信息包括:
Pending状态,用于表示所述任务已被创建;
SplitUp状态,用于表示所述任务已被拆分为多个子任务;
Merging状态,用于表示所述子任务均已处理完毕;
Merged状态,用于表示所述子任务已合并完毕;
Finalize状态,用于表示所述任务已完成扫尾处理。
3.根据权利要求1所述的方法,所述方法还包括:
接收任务处理器发送的待处理任务的元数据;
根据所述元数据创建对应的任务;
其中,所述元数据由所述任务处理器在根据所述待处理任务的幂等字段确定所述任务未被创建时获取。
4.根据权利要求3所述的方法,
所述幂等字段包括能够唯一确定一个任务的信息。
5.一种分布式文件架构的任务处理装置,所述分布式文件架构包括任务框架以及若干任务处理器,所述任务处理装置应用于任务框架,包括:
任务提取单元,提取待处理的任务;
处理器确定单元,确定所述任务所属的任务处理器;
处理器调用单元,调用所述任务处理器对所述任务进行处理,并基于所述任务处理器返回的处理结果更新所述任务的处理状态信息;所述处理状态信息用于指示所述任务已完成的处理阶段;
异常记录单元,当所述任务处理器返回处理异常的处理结果时,将所述任务和所述任务的处理状态信息记录到异常任务表中;
异常提取单元,基于预设的策略提取所述异常任务表中的异常任务;
异常处理单元,根据所述异常任务的处理状态信息,调用所述异常任务所属的任务处理器继续对所述异常任务进行处理;
所述异常处理单元,确定所述处理状态信息对应的下一处理阶段,并调用所述异常任务所属的任务服务器对所述异常任务进行所述下一处理阶段的处理。
6.根据权利要求5所述的装置,所述任务的处理状态信息包括:
Pending状态,用于表示所述任务已被创建;
SplitUp状态,用于表示所述任务已被拆分为多个子任务;
Merging状态,用于表示所述子任务均已处理完毕;
Merged状态,用于表示所述子任务已合并完毕;
Finalize状态,用于表示所述任务已完成扫尾处理。
7.根据权利要求5所述的装置,所述装置还包括:
任务创建单元,接收任务处理器发送的待处理任务的元数据,并根据所述元数据创建对应的任务;其中,所述元数据由所述任务处理器在根据所述待处理任务的幂等字段确定所述任务未被创建时获取。
8.根据权利要求7所述的装置,
所述幂等字段包括能够唯一确定一个任务的信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710262891.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种多级流水线并行计算的缓冲方法及系统
- 下一篇:线程分配方法及装置