[发明专利]数据发送方法、装置、电子设备及中间件系统有效
申请号: | 201711362818.8 | 申请日: | 2017-12-15 |
公开(公告)号: | CN108093047B | 公开(公告)日: | 2021-07-27 |
发明(设计)人: | 匡才亮 | 申请(专利权)人: | 北京星选科技有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京睿派知识产权代理事务所(普通合伙) 11597 | 代理人: | 刘锋;刘熔 |
地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 发送 方法 装置 电子设备 中间件 系统 | ||
1.一种数据发送方法,其特征在于,应用于与Kafka集群连接的电子设备,所述Kafka集群包括至少一个Kafka服务器,所述方法包括:
从所述Kafka服务器的一个分区内以拉模式同时获取需要向第一接收对象发送的第一待发送数据和需要向第二接收对象发送的第二待发送数据;
将所述第一待发送数据通过第一路径向所述第一接收对象发送;
将所述第二待发送数据通过第二路径向所述第二接收对象发送;
其中,所述第一路径为预先配置的与所述第一接收对象存在对应关系的路径,所述第二路径为预先配置的与所述第二接收对象存在对应关系的路径,所述第一接收对象和所述第二接收对象是不同的数据消费对象。
2.根据权利要求1所述的数据发送方法,其特征在于,所述将所述第一待发送数据通过第一路径向所述第一接收对象发送的步骤包括:
根据所述第一待发送数据所对应的特征标识,确定多个所述第一路径中的一个作为第一目标路径;
将所述第一待发送数据通过所述第一目标路径向所述第一接收对象发送。
3.根据权利要求2所述的数据发送方法,其特征在于,所述根据所述第一待发送数据所对应的特征标识,确定多个所述第一路径中的一个作为第一目标路径的步骤包括:
若所述特征标识符合预设的第一要求,从多个所述第一路径中选择与所述特征标识相对应的一个路径作为所述第一目标路径。
4.根据权利要求2所述的数据发送方法,其特征在于,所述根据所述第一待发送数据所对应的特征标识,确定多个所述第一路径中的一个作为第一目标路径的步骤包括:
若所述特征标识符合预设的第二要求,则按照预定的选择策略,从多个所述第一路径中确定出所述第一目标路径。
5.根据权利要求4所述的数据发送方法,其特征在于,所述按照预定的选择策略,从多个所述第一路径中确定出所述第一目标路径的步骤包括:
获取每条所述第一路径的负载状态值;
根据所述负载状态值,从多个所述第一路径中确定出所述第一目标路径。
6.根据权利要求5所述的数据发送方法,其特征在于,所述根据所述负载状态值,从多个所述第一路径中确定出所述第一目标路径的步骤包括:
以每条所述第一路径的负载状态值作为对应的权重值,从多个所述第一路径中通过加权随机的方式确定出所述第一目标路径。
7.根据权利要求2-6任一项所述的数据发送方法,其特征在于,所述将所述第一待发送数据通过所述第一目标路径向所述第一接收对象发送的步骤包括:
将所述第一待发送数据缓存于所述第一目标路径对应的发送队列中,以便向所述第一接收对象发送。
8.根据权利要求7所述的数据发送方法,其特征在于,所述将所述第一待发送数据缓存于所述第一目标路径对应的发送队列中的步骤包括:
将所述第一目标路径的负载状态值与预设的阻塞阈值进行比较;
响应于所述第一目标路径的负载状态值超过所述阻塞阈值,对所述第一目标路径对应的发送队列进行阻塞处理,以便对所述第一待发送数据缓存。
9.根据权利要求1所述的数据发送方法,其特征在于,所述数据发送方法还包括:
响应于达到预定的触发条件,从offset标记队列中查找目标offset标记,所述offset标记队列由至少两个offset标记组成,所述offset标记包括被成功发送的第一待发送数据对应的offset标记及被成功发送的第二待发送数据对应的offset标记,所述目标offset标记是最大连续组中序号最大的offset标记,所述最大连续组由所述offset标记队列中序号连续的多个offset标记组成,且最大连续组中包括有所述offset标记队列中序号最小的offset标记;
将所述目标offset标记发送至所述Kafka集群;
将所述最大连续组从所述offset标记队列中删除。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京星选科技有限公司,未经北京星选科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711362818.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置