[发明专利]一种实时计算方法、计算机存储介质及电子设备有效
申请号: | 201910846430.8 | 申请日: | 2019-09-09 |
公开(公告)号: | CN110704206B | 公开(公告)日: | 2022-09-27 |
发明(设计)人: | 龚伟松;韦松松;高敏 | 申请(专利权)人: | 上海斑马来拉物流科技有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54;G06F16/25 |
代理公司: | 北京新知远方知识产权代理事务所(普通合伙) 11397 | 代理人: | 马军芳;刘玲 |
地址: | 200333 上海市普*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种实时计算方法、计算机存储介质及电子设备,包括:spark拉起消息中间件中的消息;spark对所述消息进行处理,并将spark处理后的数据投递到kafka进行缓冲;flume对kafka中的数据进行处理,并将flume处理后的数据存入数据库。本申请中的方案spark对所述消息进行处理之后并非直接存入数据库,而是先投递到kafka进行缓冲就,再由flume对kafka中的数据进行处理,然后将flume处理后的数据存入数据库,通过spark‑kafka‑flume的组合处理,可以有效平衡spark计算速度和拉取消息的速度,进而防止消息在内存堆积出现问题导致程序挂掉。 | ||
搜索关键词: | 一种 实时 计算方法 计算机 存储 介质 电子设备 | ||
【主权项】:
1.一种实时计算方法,其特征在于,包括:/nspark拉起消息中间件中的消息;/nspark对所述消息进行处理,并将spark处理后的数据投递到kafka进行缓冲;/nflume对kafka中的数据进行处理,并将flume处理后的数据存入数据库。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海斑马来拉物流科技有限公司,未经上海斑马来拉物流科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910846430.8/,转载请声明来源钻瓜专利网。