[发明专利]获取数据的方法、装置及计算机可读存储介质有效
| 申请号: | 201810822678.6 | 申请日: | 2018-07-25 |
| 公开(公告)号: | CN109325200B | 公开(公告)日: | 2021-05-25 |
| 发明(设计)人: | 马跃;曹东阳;孙爱林;乔超 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
| 主分类号: | G06F16/958 | 分类号: | G06F16/958;G06F11/14 |
| 代理公司: | 中国贸促会专利商标事务所有限公司 11038 | 代理人: | 姜雍;许蓓 |
| 地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 获取 数据 方法 装置 计算机 可读 存储 介质 | ||
1.一种获取数据的方法,包括:
接收用户发送的主题数据获取请求,所述主题数据获取请求包含主题数据的标识;
利用所述主题数据的标识查询预先创建的kafka集群主题数据信息表,在kafka集群中确定所述主题数据所在的集群,所述kafka集群主题数据信息表包含kafka集群中各个主题数据与所在的集群之间的映射关系;
向用户发送所述主题数据所在的集群的配置参数和消费密钥,以便用户从所述主题数据所在的集群获取所述主题数据。
2.如权利要求1所述的方法,其中,所述在kafka集群中确定所述主题数据所在的集群包括:
若kafka集群中存在存储所述主题数据的读集群,从中选择负载最小的读集群作为所述主题数据所在的集群。
3.如权利要求1所述的方法,其中,所述在kafka集群中确定所述主题数据所在的集群包括:
若kafka集群中不存在存储所述主题数据的读集群、存在存储所述主题数据的读写集群,将所述读写集群确定为所述主题数据所在的集群。
4.如权利要求1所述的方法,其中,所述在kafka集群中确定所述主题数据所在的读集群包括:
若在kafka集群中不存在存储所述主题数据的读集群、不存在存储所述主题数据的读写集群、存在存储所述主题数据的写集群,从预先创建的存储集群拓扑图中查询所述写集群相关联的读集群;
将所述写集群同步至相关联的读集群,并根据同步得到的读集群确定所述主题数据所在的集群。
5.如权利要求4所述的方法,其中,所述将所述写集群同步至相关联的读集群,并根据同步得到的读集群确定所述主题数据所在的集群包括:
若所述写集群为单同步类型,则将所述写集群同步至相关联的负载最小的读集群;
若所述写集群为多同步类型,则将所述写集群同步至相关联的所有读集群,并从中选择负载最小的读集群作为所述主题数据所在的集群。
6.如权利要求4所述的方法,其中,所述将所述写集群同步至相关联的读集群包括:
通过多个同步任务将所述写集群同步至每个相关联的读集群,每个同步任务所同步的数据量不超过预设值;
根据所述预设值以及各个同步任务所同步的各个主题数据的数据量,分别确定各个同步任务所同步的主题数据的数量。
7.如权利要求1所述的方法,其中,所述主题数据获取请求还包含用户的业务等级;
所述方法还包括:
将所述业务等级与所述主题数据所在的集群相关联;
根据各个集群关联的业务等级,确定各个集群的综合评估等级;
根据各个集群的综合评估等级,对各个集群进行集群隔离。
8.一种获取数据的装置,包括:
消息接收模块,被配置为接收用户发送的主题数据获取请求,所述主题数据获取请求包含主题数据的标识;
集群确定模块,被配置为利用所述主题数据的标识查询预先创建的kafka集群主题数据信息表,在kafka集群中确定所述主题数据所在的集群,所述kafka集群主题数据信息表包含kafka集群中各个主题数据与所在的集群之间的映射关系;
消息发送模块,被配置为向用户发送所述主题数据所在的集群的配置参数和消费密钥,以便用户从所述主题数据所在的集群获取所述主题数据。
9.如权利要求8所述的装置,其中,所述集群确定模块被配置为:
若kafka集群中存在存储所述主题数据的读集群,从中选择负载最小的读集群作为所述主题数据所在的集群。
10.如权利要求8所述的装置,其中,所述集群确定模块被配置为:
若kafka集群中不存在存储所述主题数据的读集群、存在存储所述主题数据的读写集群,将所述读写集群确定为所述主题数据所在的集群。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810822678.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





