[发明专利]获取数据的方法、装置及计算机可读存储介质有效

专利信息
申请号: 201810822678.6 申请日: 2018-07-25
公开(公告)号: CN109325200B 公开(公告)日: 2021-05-25
发明(设计)人: 马跃;曹东阳;孙爱林;乔超 申请(专利权)人: 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司
主分类号: G06F16/958 分类号: G06F16/958;G06F11/14
代理公司: 中国贸促会专利商标事务所有限公司 11038 代理人: 姜雍;许蓓
地址: 100195 北京市海淀区杏石口路6*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 获取 数据 方法 装置 计算机 可读 存储 介质
【权利要求书】:

1.一种获取数据的方法,包括:

接收用户发送的主题数据获取请求,所述主题数据获取请求包含主题数据的标识;

利用所述主题数据的标识查询预先创建的kafka集群主题数据信息表,在kafka集群中确定所述主题数据所在的集群,所述kafka集群主题数据信息表包含kafka集群中各个主题数据与所在的集群之间的映射关系;

向用户发送所述主题数据所在的集群的配置参数和消费密钥,以便用户从所述主题数据所在的集群获取所述主题数据。

2.如权利要求1所述的方法,其中,所述在kafka集群中确定所述主题数据所在的集群包括:

若kafka集群中存在存储所述主题数据的读集群,从中选择负载最小的读集群作为所述主题数据所在的集群。

3.如权利要求1所述的方法,其中,所述在kafka集群中确定所述主题数据所在的集群包括:

若kafka集群中不存在存储所述主题数据的读集群、存在存储所述主题数据的读写集群,将所述读写集群确定为所述主题数据所在的集群。

4.如权利要求1所述的方法,其中,所述在kafka集群中确定所述主题数据所在的读集群包括:

若在kafka集群中不存在存储所述主题数据的读集群、不存在存储所述主题数据的读写集群、存在存储所述主题数据的写集群,从预先创建的存储集群拓扑图中查询所述写集群相关联的读集群;

将所述写集群同步至相关联的读集群,并根据同步得到的读集群确定所述主题数据所在的集群。

5.如权利要求4所述的方法,其中,所述将所述写集群同步至相关联的读集群,并根据同步得到的读集群确定所述主题数据所在的集群包括:

若所述写集群为单同步类型,则将所述写集群同步至相关联的负载最小的读集群;

若所述写集群为多同步类型,则将所述写集群同步至相关联的所有读集群,并从中选择负载最小的读集群作为所述主题数据所在的集群。

6.如权利要求4所述的方法,其中,所述将所述写集群同步至相关联的读集群包括:

通过多个同步任务将所述写集群同步至每个相关联的读集群,每个同步任务所同步的数据量不超过预设值;

根据所述预设值以及各个同步任务所同步的各个主题数据的数据量,分别确定各个同步任务所同步的主题数据的数量。

7.如权利要求1所述的方法,其中,所述主题数据获取请求还包含用户的业务等级;

所述方法还包括:

将所述业务等级与所述主题数据所在的集群相关联;

根据各个集群关联的业务等级,确定各个集群的综合评估等级;

根据各个集群的综合评估等级,对各个集群进行集群隔离。

8.一种获取数据的装置,包括:

消息接收模块,被配置为接收用户发送的主题数据获取请求,所述主题数据获取请求包含主题数据的标识;

集群确定模块,被配置为利用所述主题数据的标识查询预先创建的kafka集群主题数据信息表,在kafka集群中确定所述主题数据所在的集群,所述kafka集群主题数据信息表包含kafka集群中各个主题数据与所在的集群之间的映射关系;

消息发送模块,被配置为向用户发送所述主题数据所在的集群的配置参数和消费密钥,以便用户从所述主题数据所在的集群获取所述主题数据。

9.如权利要求8所述的装置,其中,所述集群确定模块被配置为:

若kafka集群中存在存储所述主题数据的读集群,从中选择负载最小的读集群作为所述主题数据所在的集群。

10.如权利要求8所述的装置,其中,所述集群确定模块被配置为:

若kafka集群中不存在存储所述主题数据的读集群、存在存储所述主题数据的读写集群,将所述读写集群确定为所述主题数据所在的集群。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810822678.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top