[发明专利]数据处理的方法、装置、设备、存储介质及程序产品在审
申请号: | 202110217521.2 | 申请日: | 2021-02-26 |
公开(公告)号: | CN112925811A | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 彭阳;封磊;杨浩;贺铭;杨宏生 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/2458;G06F16/23;G06F9/445 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 刘丹;臧建明 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 设备 存储 介质 程序 产品 | ||
本申请提供的数据处理的方法、装置、设备、存储介质及程序产品,涉及大数据技术,方案包括:响应于数据处理任务的配置信息更改的操作,在配置中心存储更改后的配置信息;在当前基于任务执行流程执行的数据处理任务执行完毕后,从配置中心获取更改后的配置信息;任务执行流程包括执行数据处理任务的数据处理过程;根据更改后的配置信息更新任务执行流程,并根据更新后的任务执行流程获取并处理与数据处理任务对应的待处理数据。本申请提供的方案中,当配置中心中的配置信息被更改后,可以从配置中心获取更改后的配置信息并更新任务执行流程,从而可以根据更新后的任务执行流程执行任务,能够保证挖掘有效信息的实时性。
技术领域
本申请涉及计算机技术中的大数据技术,尤其涉及一种数据处理的方法、装置、设备、存储介质及程序产品。
背景技术
目前,在很多应用场景中都有对数据进行整合处理的需求。比如,一些应用场景中需要对海量的数据进行挖掘,得到有价值的信息。
现有技术中,数据挖掘平台可以接收数据源提供的数据,并基于固定的流程对数据进行挖掘处理。
但是,当需求发生变更时,整个数据处理流程也需要调整,这种情况下,就需要重启数据处理的任务。重启数据处理的任务会导致任务中断时间较长,进而导致数据源提供的数据发生堆积情况。当任务重新启动后,需要处理这些堆积数据,无法保证数据处理结果的实时性。
发明内容
本申请提供了一种数据处理的方法、装置、设备、存储介质及程序产品,以解决现有技术中对数据处理任务的处理流程进行调整时,无法保证处理结果实时性的问题。
根据本申请的第一方面,提供了一种数据处理的方法,包括:
响应于数据处理任务的配置信息更改的操作,在配置中心存储更改后的配置信息;
在当前基于任务执行流程执行的所述数据处理任务执行完毕后,从所述配置中心获取所述更改后的配置信息;所述任务执行流程包括执行所述数据处理任务的数据处理过程;
根据所述更改后的配置信息更新所述任务执行流程,并根据更新后的任务执行流程获取并处理与所述数据处理任务对应的待处理数据。
根据本申请的第二方面,提供了一种数据处理的装置,包括:
信息更改单元,用于响应于数据处理任务的配置信息更改的操作,在配置中心存储更改后的配置信息;
信息获取单元,用于在当前基于任务执行流程执行的所述数据处理任务执行完毕后,从所述配置中心获取所述更改后的配置信息;所述任务执行流程包括执行所述数据处理任务的数据处理过程;
流程更新单元,用于根据所述更改后的配置信息更新所述任务执行流程;
执行单元,用于根据更新后的任务执行流程获取并处理与所述数据处理任务对应的待处理数据。
根据本申请的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如第一方面所述的数据处理的方法。
根据本申请的第四方面,提供了一种计算机程序产品,所述计算机程序产品包括:计算机程序,所述计算机程序存储在可读存储介质中,电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序,所述至少一个处理器执行所述计算机程序使得电子设备执行第一方面所述的数据处理的方法。
根据本申请的第五方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如第一方面所述的数据处理的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110217521.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种多只包装机
- 下一篇:一种车间焊接烟尘与废气处理系统及处理方法