[发明专利]一种超大消息传输方法及装置在审
申请号: | 202210256891.1 | 申请日: | 2022-03-16 |
公开(公告)号: | CN114697376A | 公开(公告)日: | 2022-07-01 |
发明(设计)人: | 刘勇;张明;邓光超 | 申请(专利权)人: | 浪潮云信息技术股份公司 |
主分类号: | H04L67/141 | 分类号: | H04L67/141;H04L67/568;H04L69/22;H04L67/1097;H04L41/0894 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 姜丽洁 |
地址: | 250100 山东省济南市高*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 超大 消息 传输 方法 装置 | ||
1.一种超大消息传输方法,其特征在于,包括发送客户端、服务端和接收客户端,所述发送客户端进行消息元数据、切片元数据和切片数据的组织和发送、以及建立连接通道和创建请求的发送;
所述服务端进行所述消息元数据、切片元数据和切片数据的管理,以及通道的创建和管理、提供超大消息缓存和断点续传的能力;
所述接收客户端进行从所述服务端拉取数据并按照规则校验和还原大消息,将拉取的数据进行缓存,提供数据重传能力。
2.根据权利要求1所述的一种超大消息传输方法,其特征在于,首先将发送客户端、服务端和接收客户端建立连接并创建通道,所述发送客户端和接收客户端使用grpc发送NATS连接信息到服务器,所述服务器使用所述NATS信息连接NATS服务器;
同时所述服务端分配clientID给所述发送客户端和接收客户端,所述发送客户端使用grpc进行队列模型的创建、删除、更新,所述接收客户端获取队列模型信息、队列列表和判断队列是否存在。
3.根据权利要求2所述的一种超大消息传输方法,其特征在于,发送客户端发送任务描述信息到服务端,所述服务端根据消息管理逻辑进行处理,如果是新消息,则初始化对应新消息的数据Stream和数据存储桶,并向ack-inbox回复临时数据存储桶,同时向消息事件Stream中发送一条任务消息格式的编码数据。
4.根据权利要求3所述的一种超大消息传输方法,其特征在于,所述发送客户端获取数据存储桶信息后,发送数据存储桶中的切片元信息到服务端,所述服务端将所述切片元信息与数据存储中存储的切片元信息对比,判断对应数据段是否需要发送,若需要发送,则标记切片元信息中的标记位,将标记后的切片元信息返回给发送客户端。
5.根据权利要求4所述的一种超大消息传输方法,其特征在于,将标记后的切片元信息返回给发送客户端,所述发送客户端根据返回结果决定是否需要向对应数据存储桶中发送相关切片数据,数据存储桶中key为切片索引,value为对应数据段;
切片数据存储成功后发送切片事件到服务端,所述服务端根据接收到的切片事件,如果对应数据存储桶中含有对应数据切片,将切片事件写入数据Stream中。
6.根据权利要求5所述的一种超大消息传输方法,其特征在于,将切片事件写入数据Stream中之后,所述发送客户端向所述服务端发送结束任务消息,所述服务端根据任务元信息验证服务端存储数据是否完备,不完备则返回相关重传逻辑信息;
如果完备,则返回任务结束回复信息同时向数据Stream中写入任务结束事件。
7.根据权利要求6所述的一种超大消息传输方法,其特征在于,所述接收客户端向所述服务端发送拉取队列名的消息,所述服务端进行创建消息Stream对应的Consumer,并且使用pull模式,将创建的Consumer返回到所述接收客户端。
8.根据权利要求7所述的一种超大消息传输方法,其特征在于,所述接收客户端解析获得消息Stream对应的Conusumer后,从消息Stream中解析并获取数据切片Stream,所述接收客户端创建数据切片Stream对应的Consumer,并拉取获得切片事件。
9.根据权利要求8所述的一种超大消息传输方法,其特征在于,解析所述拉取获得的切片事件,得到对应的数据存储桶信息和对应数据的校验值,并根据本地缓存区情况决定是否去目标桶中获取相关数据,当读取到对应任务结束事件后,此大消息结束,删除对应的数据切片Consumer,接收客户端提交对消息事件Consumer的确认。
10.一种超大消息传输装置,其特征在于,包括:至少一个存储器和至少一个处理器;
所述至少一个存储器,用于存储机器可读程序;
所述至少一个处理器,用于调用所述机器可读程序,执行权利要求1至9中任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮云信息技术股份公司,未经浪潮云信息技术股份公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210256891.1/1.html,转载请声明来源钻瓜专利网。