[发明专利]数据处理方法、装置、电子设备及存储介质在审
申请号: | 202010202488.1 | 申请日: | 2020-03-20 |
公开(公告)号: | CN111414264A | 公开(公告)日: | 2020-07-14 |
发明(设计)人: | 康林;段效晨;秦占明;赵艳杰;罗廷方 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54 |
代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 丁芸;马敬 |
地址: | 100080 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
获取各数据任务和各所述数据任务的依赖关系,其中,各所述数据任务分别在相应的数据处理平台进行处理;
根据各所述数据任务的依赖关系,基于十字链表数据结构将所述各数据任务进行存储,得到数据任务十字链表;
建立各所述数据任务对应的数据处理平台的接口调用进程;
根据所述数据任务十字链表,利用各所述接口调用进程调用各所述数据处理平台,以处理各所述数据任务。
2.根据权利要求1所述的方法,其特征在于,所述根据所述数据任务十字链表,利用各所述接口调用进程调用各所述数据处理平台,以处理各所述数据任务,包括:
根据所述数据任务十字链表中记录的各所述数据任务的依赖关系,从所述数据任务十字链表中获取当前待处理任务;
获取所述当前待处理任务相应的数据处理平台的接口调用进程,根据所述接口调用进程调用所述处理当前待处理任务相应的数据处理平台,以使所述当前待处理任务相应的数据处理平台处理所述当前待处理任务。
3.根据权利要求2所述的方法,其特征在于,在所述当前待处理任务在相应的数据处理平台处理后,所述方法还包括:
生成完成文件;
根据所述完成文件,从所述数据任务十字链表中获取下一待处理任务,所述下一待处理任务为所述当前待处理任务的下游任务;
获取所述下一待处理任务相应的数据处理平台的接口调用进程,根据所述接口调用进程调用所述处理下一待处理任务相应的数据处理平台,以使所述下一待处理任务相应的数据处理平台处理所述下一待处理任务。
4.根据权利要求1所述的方法,其特征在于,所述根据所述各数据任务的依赖关系,基于十字链表数据结构将所述各数据任务进行存储,得到数据任务十字链表,包括:
根据各所述数据任务的依赖关系将各所述数据任务作为节点顺序存储;
根据所述各数据任务的依赖关系,将各所述数据任务使用弧连接,使得各所述数据任务进行链式存储。
5.一种数据处理装置,其特征在于,所述装置包括:
第一获取模块,用于获取各数据任务和各所述数据任务的依赖关系,其中,各所述数据任务分别在相应的数据处理平台进行处理;
存储模块,用于根据各所述数据任务的依赖关系,基于十字链表数据结构将所述各数据任务进行存储,得到数据任务十字链表;
建立模块,用于建立各所述数据任务对应的数据处理平台的接口调用进程;
处理模块,用于根据所述数据任务十字链表,利用各所述接口调用进程调用各所述数据处理平台,以处理各所述数据任务。
6.根据权利要求5所述的装置,其特征在于,所述处理模块具体用于:
根据所述数据任务十字链表中记录的各所述数据任务的依赖关系,从所述数据任务十字链表中获取当前待处理任务;
获取所述当前待处理任务相应的数据处理平台的接口调用进程,根据所述接口调用进程调用所述处理当前待处理任务相应的数据处理平台,以使所述当前待处理任务相应的数据处理平台处理所述当前待处理任务。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
生成模块,用于生成完成文件;
第二获取模块,用于根据所述完成文件,从所述数据任务十字链表中获取下一待处理任务,所述下一待处理任务为所述当前待处理任务的下游任务;
第三获取模块,用于获取所述下一待处理任务相应的数据处理平台的接口调用进程,根据所述接口调用进程调用所述处理下一待处理任务相应的数据处理平台,以使所述下一待处理任务相应的数据处理平台处理所述下一待处理任务。
8.根据权利要求5所述的装置,其特征在于,所述存储模块具体用于:
根据各所述数据任务的依赖关系将各所述数据任务作为节点顺序存储;
根据所述各数据任务的依赖关系,将各所述数据任务使用弧连接,使得各所述数据任务进行弧链式存储。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010202488.1/1.html,转载请声明来源钻瓜专利网。