[发明专利]基于车联网的数据分析平台和方法在审
申请号: | 201710698950.X | 申请日: | 2017-08-15 |
公开(公告)号: | CN107704487A | 公开(公告)日: | 2018-02-16 |
发明(设计)人: | 郑楠;尹颖;张友焕;冯鹏 | 申请(专利权)人: | 北京新能源汽车股份有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙)11201 | 代理人: | 张润 |
地址: | 102606 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 联网 数据 分析 平台 方法 | ||
1.一种基于车联网的数据分析平台,其特征在于,包括依次连接的数据来源层、数据存储层、数据计算分析层和交互界面;
其中,所述数据来源层,包括车联网数据池的通信接口和/或存储车辆相关信息的关系型数据库的通信接口,用于通过所述通信接口抽取所需数据;
所述数据存储层,用于对抽取到的数据进行存储;
所述数据计算分析层,基于分布式架构,用于根据任务,调度所需分析资源读取并处理所述数据存储层中存储的数据,得到分析结果;
所述数据存储层,还用于存储所述分析结果;
所述交互界面,用于展示所述分析结果。
2.根据权利要求1所述的基于车联网的数据分析平台,其特征在于,所述数据计算分析层基于Spark云计算架构和/或基于MapReduce计算架构;所述数据计算分析层,包括:
YARN模块,用于调度各任务所占用的分析资源;
Azkaban模块,用于调度各任务的执行顺序。
3.根据权利要求1所述的基于车联网的数据分析平台,其特征在于,所述数据存储层,包括:HIVE数据仓库和HBase分布式存储架构;
所述HBase分布式存储架构,用于以列存储格式存储数据,以及用于将列存储格式转化为表格式存储格式;
所述HIVE数据仓库,用于存储转化后的表格式存储格式的数据,以及用于存储所述分析结果。
4.根据权利要求3所述的基于车联网的数据分析平台,其特征在于,所述HBase分布式存储架构包括用于存储的HBase模块,以及用于对需存储的数据进行管理的HDFS模块。
5.根据权利要求4所述的基于车联网的数据分析平台,其特征在于,
所述数据计算分析层中的YARN模块,具体用于当所述HDFS模块获取到需存储的数据之后,根据各任务所需处理的数据量,调度各任务所占用的分析资源。
6.根据权利要求5所述的基于车联网的数据分析平台,其特征在于,
所述数据计算分析层中的YARN模块,还具体用于将各任务所需处理的数据提供至所述HBase模块进行存储。
7.根据权利要求1所述的基于车联网的数据分析平台,其特征在于,所述数据来源层,包括:DataX组件;
所述DataX组件,用于通过所述车联网数据池的通信接口抽取数据。
8.根据权利要求1所述的基于车联网的数据分析平台,其特征在于,所述数据来源层,包括:Sqoop组件;
所述Sqoop组件,用于通过所述存储车辆相关信息的关系型数据库的通信接口抽取数据。
9.根据权利要求1-6任一项所述的基于车联网的数据分析平台,其特征在于,所述交互界面,还用于获取用户以拖拽方式,设定的执行逻辑,根据所述执行逻辑生成所述任务;
所述数据来源层,具体用于根据所述任务,通过所述通信接口抽取所需数据。
10.根据权利要求9所述的基于车联网的数据分析平台,其特征在于,所述交互界面为Web界面。
11.一种基于车联网的数据分析方法,其特征在于,包括以下步骤:
数据来源层通过车联网数据池的通信接口和/或存储车辆相关信息的关系型数据库的通信接口抽取所需数据;
数据存储层对抽取到的数据进行存储;
数据计算分析层根据任务,调度分布式架构中所需分析资源读取并处理所述数据存储层中存储的数据,得到分析结果;
数据存储层存储所述分析结果,并由交互界面展示所述分析结果。
12.根据权利要求11所述的基于车联网的数据分析方法,其特征在于,所述数据计算分析层基于Spark云计算架构和/或基于MapReduce计算架构;所述数据计算分析层根据任务,调度分布式架构中所需分析资源读取并处理所述数据存储层中存储的数据,包括:
所述数据计算分析层的YARN模块度各任务所占用的分析资源;
和/或,所述数据计算分析层的Azkaban模块调度各任务的执行顺序。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京新能源汽车股份有限公司,未经北京新能源汽车股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710698950.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置