[发明专利]数据生产加工方法、装置、电子设备及存储介质有效
申请号: | 201911355357.0 | 申请日: | 2019-12-25 |
公开(公告)号: | CN111125451B | 公开(公告)日: | 2023-07-21 |
发明(设计)人: | 江涛;王冠朝;严晖 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/901 | 分类号: | G06F16/901 |
代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 曹娜 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 生产 加工 方法 装置 电子设备 存储 介质 | ||
1.一种数据生产加工方法,其特征在于,包括:
根据多个数据处理流程的信息及各个所述数据处理流程的依赖关系,生成包含多个数据处理流程的数据生产流;
将所述数据生产流转换为对应的数据生产代码,所述数据生产代码用于对数据进行生产加工;
所述数据生产流采用有向无环图的形式表示;其中,
所述有向无环图中的各个节点表示所述数据处理流程;
所述有向无环图中的各个有向边表示所述有向边的后一个节点所对应的数据处理流程对前一个节点所对应的数据处理流程的依赖关系;
所述根据多个数据处理流程的信息及各个所述数据处理流程的依赖关系,生成包含多个数据处理流程的数据生产流之前,还包括:
接收数据处理流程所对应的脚本的地址信息;
根据所述地址信息提取所述数据处理流程所对应的脚本;
根据所述脚本,确定对应的数据处理流程;
所述有向无环图的显示界面上显示数据生产流的操作控件,包括运行、断点重启、修改例行周期和编辑DAG图。
2.根据权利要求1所述的方法,其特征在于,所述依赖关系包括时间依赖和数据依赖中的至少一项。
3.根据权利要求1所述的方法,其特征在于,所述根据多个数据处理流程的信息及各个所述数据处理流程的依赖关系,生成包含多个数据处理流程的数据生产流之前,还包括:
提供预先设置的数据处理策略;
响应于对所述数据处理策略的选择请求及对所述数据处理策略的参数设置,确定对应的数据处理流程。
4.根据权利要求1或3所述的方法,其特征在于,所述确定对应的数据处理流程之后,还包括:
显示确定出的数据处理流程所对应的组件;
响应于对所述组件的拖拽操作、以及对各组件之间连接关系的输入操作,生成所述组件对应的数据处理流程所对应的节点,以及与所述节点连接的有向边。
5.根据权利要求2至3任一所述的方法,其特征在于,还包括:运行所述数据生产代码,以对数据进行生产加工。
6.根据权利要求5所述的方法,其特征在于,还包括:显示所述有向无环图;
在所述数据生产代码的运行过程中,在所述有向无环图上显示各所述数据处理流程的运行阶段。
7.根据权利要求1至3任一所述的方法,其特征在于,还包括:
响应于对所述数据处理流程的信息和/或所述依赖关系的修改指令,对所述数据处理流程和/或所述依赖关系进行更新;
根据更新后的所述数据处理流程和/或所述依赖关系,对所述数据生产流进行迭代。
8.根据权利要求6所述的方法,其特征在于,还包括:
记录所述数据生产流所对应的数据生产代码的运行数据;
分析所述运行数据;
将分析结果采用图表的形式显示。
9.一种数据生产加工装置,其特征在于,包括:
生成模块,用于根据多个数据处理流程的信息及各个所述数据处理流程对的依赖关系,生成包含多个数据处理流程的数据生产流;
转换模块,用于将所述数据生产流转换为对应的数据生产代码,所述数据生产代码用于对数据进行生产加工;
所述数据生产流采用有向无环图的形式表示;其中,
所述有向无环图中的各个节点表示一个所述数据处理流程;
所述有向无环图中的各个有向边表示所述有向边的后一个节点所对应的数据处理流程对前一个节点所对应的数据处理流程的依赖关系;
第二数据处理流程确定模块,用于接收数据处理流程所对应的脚本的地址信息;根据所述地址信息提取所述数据处理流程所对应的脚本;根据所述脚本,确定对应的数据处理流程;
所述有向无环图的显示界面上显示数据生产流的操作控件,包括运行、断点重启、修改例行周期和编辑DAG图。
10.根据权利要求9所述的装置,其特征在于,所述依赖关系包括时间依赖和数据依赖中的至少一项。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911355357.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于FPGA的图像缩小方法
- 下一篇:一种直观反映情绪的输入法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置