[发明专利]一种基于流式计算的数据连通率实时计算方法及装置在审
申请号: | 201710272570.X | 申请日: | 2017-04-24 |
公开(公告)号: | CN108737483A | 公开(公告)日: | 2018-11-02 |
发明(设计)人: | 蒋能学;马跃;李金;胡子旭;李永浩 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京汉昊知识产权代理事务所(普通合伙) 11370 | 代理人: | 罗朋 |
地址: | 100085 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 预定数据 关键信息 数据连通 行为数据信息 数据流 批量数据 实时计算 流式 解析 存储 分布式方式 快速计算 数据转换 投放系统 预定规则 低延迟 时效性 转换 拉取 吞吐量 敏感 | ||
1.一种基于流式计算的数据连通率实时计算方法,包括:
获取预定数据的行为数据信息并存储;
拉取所述存储的行为数据信息,并将所述预定数据转换成离散的数据流;
通过预定规则对所述离散的数据流进行解析并提取关键信息;
根据所述关键信息确定所述预定数据的数据连通率。
2.根据权利要求1所述的方法,所述行为数据信息包括:数据身份信息和对所述预定数据的操作行为。
3.根据权利要求1所述的方法,所述存储行为数据信息的步骤包括:
以预定的周期和分区规则对所述数据信息进行数据持久化处理。
4.根据权利要求1所述的方法,所述拉取所述存储的行为数据信息的步骤包括:
以预定的秒级时间周期拉取所述存储的行为数据信息。
5.根据权利要求4所述的方法,将所述预定数据转换成离散的数据流的步骤包括:
将所述预定数据转换成离散的数据流;
将所述离散的数据流以分布式的方式进行存储。
6.根据权利要求1所述的方法,所述通过预定规则对所述离散的数据流进行解析并提取关键信息的步骤包括:
解析获得所述离散的数据流中的操作行为和连通状态;
将所述操作行为和连通状态汇总为离散的聚合数据流。
7.根据权利要求6所述的方法,所述确定所述预定数据的数据连通率的步骤包括:
根据所述离散的聚合数据流计算获得所述预定数据的数据连通率。
8.根据权利要求1所述的方法,其中该方法还包括:
根据所述预定数据的数据连通率对所述预定数据在行为数据库中的排名进行实时调整。
9.一种基于流式计算的数据连通率实时计算装置,包括:
用于获取预定数据的行为数据信息并存储的装置;
用于拉取所述存储的行为数据信息,并将所述预定数据转换成离散的数据流的装置;
用于通过预定规则对所述离散的数据流进行解析并提取关键信息的装置;
用于根据所述关键信息确定所述预定数据的数据连通率的装置。
10.根据权利要求9所述的装置,在所述用于获取预定数据的行为数据信息并存储的装置中,所述行为数据信息包括:数据身份信息和对所述预定数据的操作行为。
11.根据权利要求9所述的装置,所述用于获取预定数据的行为数据信息并存储的装置包括:
用于以预定的周期和分区规则对所述数据信息进行数据持久化处理的装置。
12.根据权利要求9所述的装置,所述用于拉取所述存储的行为数据信息,并将所述预定数据转换成离散的数据流的装置包括:
用于以预定的秒级时间周期拉取所述存储的行为数据信息的装置。
13.根据权利要求12所述的装置,所述用于拉取所述存储的行为数据信息,并将所述预定数据转换成离散的数据流的装置还包括:
用于将所述预定数据转换成离散的数据流的装置;
用于将所述离散的数据流以分布式的方式进行存储的装置。
14.根据权利要求9所述的装置,所述用于通过预定规则对所述离散的数据流进行解析并提取关键信息的装置包括:
用于解析获得所述离散的数据流中的操作行为和连通状态的装置;
用于将所述操作行为和连通状态汇总为离散的聚合数据流的装置。
15.根据权利要求14所述的装置,所述用于根据所述关键信息确定所述预定数据的数据连通率的装置包括:
用于根据所述离散的聚合数据流计算获得所述预定数据的数据连通率的装置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710272570.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:文档分享方法、装置和系统
- 下一篇:媒体数据存储方法及系统