[发明专利]一种基于大数据技术提升数据交换效率的构建方法在审
申请号: | 201810563153.5 | 申请日: | 2018-06-04 |
公开(公告)号: | CN108763562A | 公开(公告)日: | 2018-11-06 |
发明(设计)人: | 王济平;黎刚;周健雄;汤克云 | 申请(专利权)人: | 广东京信软件科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;H04L29/08 |
代理公司: | 中山市铭洋专利商标事务所(普通合伙) 44286 | 代理人: | 邹常友 |
地址: | 528400 广东省中山*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提出一种基于大数据技术提升数据交换效率的构建方法,其特征在于,包括:1)中心端的构建步骤;建立中心数据库,其中包括基于RDBMS的基础信息库和基于HDFS的交换数据库;建立桥接接口,其中包括基于Flume和Kafka系统的采集服务程序、分发服务程序,Flume用于收集各种来源、形式的数据,并把数据传给Kafka集群,由Kafka集群统一分发给大数据集群进行处理;2)数据提供方或数据使用方的构建步骤;建立业务系统、业务库和桥接接口;3)数据使用方的构建步骤;建立业务系统、业务库和桥接接口。本发明可有效扩展可存储的数据类型,同时分布式的技术可大大提升数据读取与写入的效率,使平台得到较高的吞吐量和可靠性,从而可处理海量的数据及数据交换任。 | ||
搜索关键词: | 构建 桥接接口 大数据 集群 数据交换效率 数据使用方 业务系统 业务库 基础信息库 数据提供方 中心数据库 采集服务 分发服务 数据读取 数据交换 数据类型 可存储 吞吐量 写入 分发 数据库 交换 统一 | ||
【主权项】:
1.一种基于大数据技术提升数据交换效率的构建方法,其特征在于,包括:1)中心端的构建步骤建立中心数据库,其中包括基于RDBMS的基础信息库和基于HDFS的交换数据库;建立桥接接口,其中包括基于Flume和Kafka系统的采集服务程序、分发服务程序,Flume用于收集各种来源、形式的数据,并把数据传给Kafka集群,由Kafka集群统一分发给大数据集群进行处理;2)数据提供方或数据使用方的构建步骤建立业务系统、业务库和桥接接口;3)数据使用方的构建步骤建立业务系统、业务库和桥接接口。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东京信软件科技有限公司,未经广东京信软件科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810563153.5/,转载请声明来源钻瓜专利网。