[发明专利]大数据实时计算方法及平台在审
申请号: | 202110206555.1 | 申请日: | 2021-02-24 |
公开(公告)号: | CN112925619A | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 李鹏 | 申请(专利权)人: | 深圳依时货拉拉科技有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 深圳瑞天谨诚知识产权代理有限公司 44340 | 代理人: | 温青玲 |
地址: | 518000 广东省深圳市福田区梅*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 实时 计算方法 平台 | ||
1.一种大数据实时计算方法,其特征在于,包括以下步骤:
创建实时计算任务,并配置实时计算任务的任务信息,所述任务信息包括集群信息、数据源信息和数据存储信息;
根据所述集群信息分配所述实时计算任务到对应的计算集群;
将所述实时计算任务解析生成有向无环DAG图,并根据所述有向无环图生成计算程序;
所述计算集群申请资源并根据所述计算程序从所述数据源信息获取数据执行计算分析所述实时计算任务,并建立实时数据模型;
根据所述存储信息保存计算分析结果,并且所述分析结果可多次复用。
2.根据权利要求1所述的大数据实时计算方法,其特征在于,所述创建实时计算任务,并配置实时计算任务的任务信息的步骤,包括:
所创建的所述实时计算任务可跨集群提交任务。
3.根据权利要求2所述的大数据实时计算方法,其特征在于,所创建的所述实时计算任务是基于结构化查询语言SQL创建的。
4.根据权利要求1所述的大数据实时计算方法,其特征在于,所述计算集群为多计算集群,每个所述计算集群根据按照业务逻辑分成独立的集群。
5.根据权利要求1所述的大数据实时计算方法,其特征在于,所述数据源信息和数据存储信息包括至少一个数据源及至少一个存储端信息。
6.根据权利要求1所述的大数据实时计算方法,其特征在于,根据所述实时数据模型,对所述实时计算任务进行指向性恢复。
7.根据权利要求1所述的大数据实时计算方法,其特征在于,所述方法还包括:
采集并分析所述实时计算任务日志,提前预警任务异常状态。
8.一种大数据实时计算平台,其特征在于,包括:任务创建模块、计算集群、任务管理器、语法解析模块、程序生成模块和数据仓库,所述实时计算平台中各模块间通信连接,其中
所述任务创建模块,用于创建实时计算任务,并配置实时计算任务的任务信息,所述任务信息包括集群信息、数据源信息和数据存储信息;
所述任务管理器,用于根据所述集群信息分配所述实时计算任务到对应的计算集群;
所述语法解析模块解析生成所述实时计算任务的有向无环DAG图,所述程序生成模块根据所述有向无环图生成计算程序;
所述计算集群申请资源并根据所述计算程序从所述数据源信息获取数据执行计算分析所述实时计算任务,并建立实时数据模型;
所述数据仓库,用于根据所述存储信息保存计算分析结果,并且所述分析结果可多次复用。
9.根据权利要求8所述的大数据实时计算平台,其特征在于,所述计算集群为多集群管理系统。
10.根据权利要求8或9所述的大数据实时计算平台,其特征在于,所述实时计算平台还包括日志管理模块和预警模块,所述日志管理模块和预警模块通信连接,所述日志管理模块实时采集并挖掘分析所述实时计算平台的各类日志,所述预警模块对所述实时计算平台的各类异常状态提前预警。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳依时货拉拉科技有限公司,未经深圳依时货拉拉科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110206555.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种便于部件安装检修的通信塔
- 下一篇:企业信贷评估方法及系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置