[发明专利]实时数据统计装置和方法以及计算机可读存储介质在审

专利信息
申请号: 201810434471.1 申请日: 2018-05-09
公开(公告)号: CN110471943A 公开(公告)日: 2019-11-19
发明(设计)人: 支海邦;李猛;喻海林;周龙亭 申请(专利权)人: 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司
主分类号: G06F16/2458 分类号: G06F16/2458
代理公司: 11038 中国国际贸易促进委员会专利商标事务所 代理人: 李昊;许蓓<国际申请>=<国际公布>=<
地址: 100195 北京市海淀区杏石口路6*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 统计数据 二级缓存单元 实时数据 统计模块 统计装置 一级缓存 原始数据 统计项 配置 写入 计算机可读存储介质 读取 实时数据处理 持久化存储 多点分布 多级处理 时间粒度 统计结果 统计 预设 字段
【权利要求书】:

1.一种实时数据统计装置,包括:

一级统计模块,被配置为采用预设的时间粒度对获取的原始数据进行统计,生成包括原始数据中的统计项和统计结果字段的中间统计数据,将中间统计数据写入一级缓存单元中;

二级统计模块,被配置为读取多个一级缓存单元中的中间统计数据,将所述统计项的值相同的中间统计数据写入同一个二级缓存单元中;

三级统计模块,被配置为对每个二级缓存单元中的数据进行统计,生成最终统计数据,并将每个二级缓存单元生成的最终统计数据进行持久化存储。

2.根据权利要求1所述的实时数据统计装置,其中,一级统计模块、二级统计模块、三级统计模块并行执行。

3.根据权利要求1所述的实时数据统计装置,其中,

所述一级统计模块包括多个一级统计进程,每个一级统计进程被配置为从与所述一级统计进程预先关联的数据源中获取原始数据;或者,

所述二级统计模块包括多个二级统计进程,每个二级统计进程被配置为从所述二级统计进程预先关联的一级缓存单元中读取中间统计数据;或者,

所述三级统计模块包括多个三级统计进程,每个三级统计进程分别被配置为统计所述三级统计进程预先关联的每个二级缓存单元中的数据,所述三级统计进程的数量等于所述二级缓存单元的数量。

4.根据权利要求3所述的实时数据统计装置,还包括:

位于一级统计模块、二级统计模块、三级统计模块中的一个或多个中的主进程单元,被配置为读取配置中心的配置信息,并根据配置信息创建、监控、重建、或销毁一级统计模块的一级统计进程、二级统计模块的二级统计进程、三级统计模块的三级统计进程中的一个或多个。

5.根据权利要求1所述的实时数据统计装置,其中,

所述一级缓存单元为队列类型;或者,

所述二级缓存单元为有序集合类型;所述二级统计模块进一步被配置为向中间统计数据添加通用唯一识别码字段和值。

6.根据权利要求1所述的实时数据统计装置,其中,所述一级统计模块进一步被配置为采用随机轮询的方式将每条中间统计数据写入多个一级缓存单元中的一个。

7.根据权利要求1所述的实时数据统计装置,其中,所述二级统计模块进一步被配置为计算每条中间统计数据的统计项的值的哈希值,将计算出的哈希值相同的中间统计数据写入同一个二级缓存单元中。

8.根据权利要求1所述的实时数据统计装置,还包括一级缓存单元、二级缓存单元、配置中心中的一种或多种;

其中,所述配置中心被配置为存储一级统计模块、二级统计模块、三级统计模块的配置信息。

9.根据权利要求8所述的实时数据统计装置,其中,一级缓存单元和二级缓存单元为内存数据库Redis的节点。

10.一种实时数据统计方法,包括:

一级统计模块采用预设的时间粒度对获取的原始数据进行统计,生成包括原始数据中的统计项和统计结果字段的中间统计数据,将中间统计数据写入一级缓存单元中;

二级统计模块读取多个一级缓存单元中的中间统计数据,将所述统计项的值相同的中间统计数据写入同一个二级缓存单元中;

三级统计模块对每个二级缓存单元中的数据进行统计,生成最终统计数据,并将每个二级缓存单元生成的最终统计数据进行持久化存储。

11.根据权利要求10所述的实时数据统计方法,其中,一级统计模块、二级统计模块、三级统计模块并行执行。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810434471.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top