[发明专利]一种数据分析方法、装置、设备及存储介质在审
| 申请号: | 202011150360.1 | 申请日: | 2020-10-23 |
| 公开(公告)号: | CN114491158A | 公开(公告)日: | 2022-05-13 |
| 发明(设计)人: | 李聪聪 | 申请(专利权)人: | 中移(苏州)软件技术有限公司;中国移动通信集团有限公司 |
| 主分类号: | G06F16/901 | 分类号: | G06F16/901;G06F16/903;G06Q30/02 |
| 代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 侯艳华;张颖玲 |
| 地址: | 215163 江苏*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 数据 分析 方法 装置 设备 存储 介质 | ||
本申请公开了一种数据分析方法,该方法包括:确定目标智能分析过程中使用的至少一个待分析数据源;基于至少一个待分析数据源,生成至少一个待分析数据源对应的目标有向无环图;从目标有向无环图中的目标路径的路径起点节点开始,按照目标路径的路径方向,基于属于同一数据源且路径节点相邻的关系,对目标路径中的路径节点进行分组,得到目标路径的至少一组路径节点;从目标路径的每一组路径节点对应的目标数据源中,按照目标路径的路径方向获取对应的每一组路径节点的节点数据并进行分析,确定目标路径的执行结果,从而降低了网络IO的开销,有效提高了BI分析的分析效率。本申请还公开了一种数据分析装置、设备及存储介质。
技术领域
本申请涉及数据统计领域,尤其涉及一种数据分析方法、装置、设备及存储介质。
背景技术
对交易过程中的交易数据进行分析的过程可以称为商业智能(BusinessIntelligence)分析。在传统的交易过程中,数据源的类型相对比较单一,但是随着大数据技术的普及,数据源的类型也越来越多样化,传统的BI分析工具也需逐渐适应多种不同类型数据源情况下的大数据查询与分析。目前,常用统一结构化查询语言(Structured QueryLanguage,SQL)查询引擎,来实现相同或不同类型数据源之间的跨数据源查询及分析,具体实现过程可以是对跨数据源进行SQL的代理与解析,生成抽象语法树(Abstract SyntaxTree,AST),并将AST转换成逻辑执行计划后生成物理执行计划,根据物理执行计划执行每个子SQL,最终将每个子SQL的查询结果聚合,返回得到最终结果。
但是,在目前上述实现过程中针对某一个SQL时,需对同一数据源进行多次访问,这样,严重增加了网络输入输出(Input/Output,IO)的开销,亟需对这种缺陷进行优化。
申请内容
为解决上述技术问题,本申请期望提供一种数据分析方法、装置、设备及存储介质,解决了目前网络IO开销较大的问题,降低了网络IO的开销,有效提高了BI分析的分析效率。
本申请的技术方案是这样实现的:
第一方面,一种数据分析方法,所述方法包括:
确定目标智能分析过程中使用的至少一个待分析数据源;
基于所述至少一个待分析数据源,生成所述至少一个待分析数据源对应的目标有向无环图;其中,所述目标有向无环图包括k条路径,k为大于或等于1的整数;
从所述目标有向无环图中的目标路径的路径起点节点开始,按照所述目标路径的路径方向,基于属于同一数据源且路径节点相邻的关系,对所述目标路径中的路径节点进行分组,得到所述目标路径的至少一组路径节点;其中,所述目标路径用于表示所述k条路径中的每一条路径;
从所述目标路径的每一组路径节点对应的目标数据源中,按照所述目标路径的路径方向获取对应的每一组路径节点的节点数据并进行分析,确定所述目标路径的执行结果;其中,所述目标路径的每一组路径节点对应的目标数据源属于所述至少一个待分析数据源;
汇总所述k条路径的执行结果,得到针对目标智能分析的目标分析结果。
第二方面,一种数据分析装置,所述装置包括:确定单元、生成单元、处理单元和汇总单元;其中:
所述确定单元,用于确定目标智能分析过程中使用的至少一个待分析数据源;
所述生成单元,用于基于所述至少一个待分析数据源,生成所述至少一个待分析数据源对应的目标有向无环图;其中,所述目标有向无环图包括k条路径,k为大于或等于1的整数;
所述处理单元,用于从所述目标有向无环图中的目标路径的路径起点节点开始,按照所述目标路径的路径方向,基于属于同一数据源且路径节点相邻的关系,对所述目标路径中的路径节点进行分组,得到所述目标路径的至少一组路径节点;其中,所述目标路径用于表示所述k条路径中的每一条路径;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中移(苏州)软件技术有限公司;中国移动通信集团有限公司,未经中移(苏州)软件技术有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011150360.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种高品质丙烯酰胺水溶液的制造方法
- 下一篇:胃管组件
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





