[发明专利]一种多数据源的数据分析系统、方法及设备有效
申请号: | 201910994900.5 | 申请日: | 2019-10-18 |
公开(公告)号: | CN110704402B | 公开(公告)日: | 2022-11-29 |
发明(设计)人: | 吴丁;李金凤;蔡炳炎;陈光尧;谢睿 | 申请(专利权)人: | 广州趣丸网络科技有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 沈闯 |
地址: | 510000 广东省广州市天河区黄埔大道西122号之二1701房*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 多数 数据 分析 系统 方法 设备 | ||
本申请实施例公开了一种多数据源的数据分析系统、方法及设备,包括:数据拆分单元,用于将从产品中获取的数据拆分成用户数据和用户行为数据;数据存储单元,用于存储所述用户数据和所述用户行为数据;所述数据存储单元包括低速写入存储单元和高速写入存储单元,所述低速写入存储单元用于存储所述用户数据,所述高速写入存储单元用于存储所述用户行为数据;查询引擎单元,用于访问所述低速写入存储单元和所述高速写入存储单元,获取所述用户数据和所述用户行为数据,并将获取到的所述用户数据和所述用户行为数据传输至OLAP系统或者离线分析系统。本申请解决了现有技术中数据存储及使用的成本过高,维护性差的问题。
技术领域
本申请涉及数据分析技术领域,尤其涉及一种多数据源的数据分析系统、方法及设备。
背景技术
对一个产品的用户行为数据的数据分析大都需要经历两个阶段:其第一阶段:当新功能刚上线时,为了对新功能进行快速验证,需要进行实时地行为分析,进而更快的调整产品,通常分析时延要求在分钟甚至秒级。第二阶段:在功能上线一段时间后,用户数据稳定,此时需要根据前期发掘出的数据分析报表进行数据分析,此类分析对实时性要求不高,通常在按天统计即可,此类分析通常是第一阶段分析的总结归纳。
对于第一阶段,时延性要求高通常需要使用联机分析处理OLAP来完成,其中OLAP对实时性要求高,稳定性相对较弱;第二阶段因为时延性要求不高通常使用离线分析的方式。
在现有技术中,通常是将用户行为数据复制两份,分别送往OLAP系统和离线分析系统。这样在数据存储空间以及维护成本上都比较高,因为是完全不同的两套数据处理路径,在保持数据一致性上也需要大量成本。对于使用数据分析系统的分析人员,也需要同时在两套系统中切换,增加了使用成本。
发明内容
本申请实施例提供了一种多数据源的数据分析系统、方法及设备,解决现有技术中数据存储及使用成本过高,维护性差的问题。
有鉴于此,本申请第一方面提供了一种多数据源的数据分析系统,所述系统包括:
数据拆分单元,用于将从产品中获取的数据拆分成用户数据和用户行为数据;
数据存储单元,用于存储所述用户数据和所述用户行为数据;
所述数据存储单元包括低速写入存储单元和高速写入存储单元,所述低速写入存储单元用于存储所述用户数据,所述高速写入存储单元用于存储所述用户行为数据;
查询引擎单元,用于访问所述低速写入存储单元和所述高速写入存储单元,获取所述用户数据和所述用户行为数据,并将获取到的所述用户数据和所述用户行为数据传输至OLAP系统或者离线分析系统。
优选地,可视化操作单元,用于为操作人员提供可操作界面,并显示OLAP系统或者离线分析系统的分析结果。
优选地,所述查询引擎单元还用于获取可视化操作单元的操作指令,根据操作指令从所述数据存储单元中获取所述用户数据和/或所述用户行为数据,并将所述用户数据和/或所述用户行为数据传输至OLAP系统或者离线分析系统。
优选地,所述查询引擎单元包括指令生成单元;
所述指令生成单元用于根据所述操作指令生成统一数据访问指令,所述统一数据访问指令为OLAP系统或者离线分析系统调用所述用户数据和/或所述用户行为数据的指令。
优选地,所述用户数据包括用户的身份信息,标签信息,所述用户行为数据包括用户的行为数据。
本申请第二方面提供一种多数据源的数据分析方法,所述方法包括:
获取分析产品功能的操作指令;
根据所述操作指令选用所需的OLAP系统或者离线分析系统;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州趣丸网络科技有限公司,未经广州趣丸网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910994900.5/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置