[发明专利]一种基于混合引擎的大数据处理方法及系统在审
| 申请号: | 201910261094.0 | 申请日: | 2019-04-02 |
| 公开(公告)号: | CN109960701A | 公开(公告)日: | 2019-07-02 |
| 发明(设计)人: | 刘家祥 | 申请(专利权)人: | 福建奇点时空数字科技有限公司 |
| 主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/248 |
| 代理公司: | 北京劲创知识产权代理事务所(普通合伙) 11589 | 代理人: | 陆滢炎 |
| 地址: | 361000 福建省厦门市软件园*** | 国省代码: | 福建;35 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理模块 动态数据 混合引擎 静态数据 判断模块 数据处理 批处理 数据采集模块 数据反馈模块 处理数据 计算引擎 用户界面 查询 流式 引擎 查询请求数据 数据查询请求 数据处理系统 数据类别选择 查询结果 类别数据 类别选择 数据查询 数据结果 用户反馈 采集 反馈 | ||
1.一种基于混合引擎的大数据处理方法,其特征在于,包括:
采集用户在综合查询用户界面提交的静态数据或动态数据的查询请求数据;
判断用户在综合查询用户界面提交的数据查询请求为静态数据或动态数据;
根据数据查询类别选择MapReduce批处理引擎或Storm流式计算引擎处理数据;
向用户反馈静态数据或动态数据的查询结果。
2.根据权利要求1所述的一种基于混合引擎的大数据处理方法,其特征在于,对于用户提交的具有批量大规模特征的静态数据的查询请求,选择MapReduce批处理引擎处理数据。
3.根据权利要求1所述的一种基于混合引擎的大数据处理方法,其特征在于,对于用户提交的具有流数据特征的动态数据的查询请求,选择Storm流式计算引擎处理数据。
4.一种基于混合引擎的大数据处理系统,其特征在于,包括数据采集模块、判断模块、数据处理模块和数据反馈模块;
数据采集模块与判断模块连接;判断模块与数据处理模块连接;数据处理模块与数据反馈模块连接;
数据采集模块被配置为采集用户在综合查询用户界面提交的静态数据或动态数据的查询请求数据;
判断模块被配置为判断用户在综合查询用户界面提交的数据查询请求为静态数据或动态数据;
数据处理模块被配置为根据数据查询类别选择MapReduce批处理引擎或Storm流式计算引擎处理数据;
数据反馈模块被配置为向用户反馈静态数据或动态数据的查询结果。
5.根据权利要求4所述的一种基于混合引擎的大数据处理系统,其特征在于,还包括数据存储模块;数据存储模块与数据处理模块连接;数据存储模块被配置为存储用户的历史查询记录和数据查询结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福建奇点时空数字科技有限公司,未经福建奇点时空数字科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910261094.0/1.html,转载请声明来源钻瓜专利网。





