[发明专利]一种超大消息传输方法及装置

说明书

本发明涉及消息中间件领域，具体提供了一种超大消息传输方法，包括发送客户端、服务端和接收客户端，所述发送客户端进行消息元数据、切片元数据和切片数据的组织和发送、以及建立连接通道和创建请求的发送；服务端进行所述消息元数据、切片元数据和切片数据的管理，以及通道的创建和管理、提供超大消息缓存和断点续传的能力；接收客户端进行从所述服务端拉取数据并按照规则校验和还原大消息，将拉取的数据进行缓存，提供数据重传能力。与现有技术相比，本发明能够在资源受限的条件下提供传输超大消息的能力。同时服务端和接收端提供本地缓存能力，能够实现超大消息的断点续传能力。

技术领域

本发明涉及消息中间件领域，具体提供一种超大消息传输方法及装置。

背景技术

NATS是一种简单、安全、高性能的数字、服务和设备通信系统，为现代企业提供了良好的消息传输系统。同时NATS是一个开源、轻量级、高性能的分布式消息中间件，实现了高可伸缩性和优雅的Publish/Subscribe模型。

现有技术下大消息在弱网环境下传输异常，经常存在安全问题，如何避免这种情况的产生是本领域技术人员亟待解决的事情。

发明内容

本发明是针对上述现有技术的不足，提供一种实用性强的超大消息传输方法。

本发明进一步的技术任务是提供一种设计合理，安全适用的超大消息传输装置。

本发明解决其技术问题所采用的技术方案是：

一种超大消息传输方法，包括发送客户端、服务端和接收客户端，所述发送客户端进行消息元数据、切片元数据和切片数据的组织和发送、以及建立连接通道和创建请求的发送；

所述服务端进行所述消息元数据、切片元数据和切片数据的管理，以及通道的创建和管理、提供超大消息缓存和断点续传的能力；

所述接收客户端进行从所述服务端拉取数据并按照规则校验和还原大消息，将拉取的数据进行缓存，提供数据重传能力。

进一步的，首先将发送客户端、服务端和接收客户端建立连接并创建通道，所述发送客户端和接收客户端使用grpc发送NATS连接信息到服务器，所述服务器使用所述NATS信息连接NATS服务器；

同时所述服务端分配clientID给所述发送客户端和接收客户端，所述发送客户端使用grpc进行队列模型的创建、删除、更新，所述接收客户端获取队列模型信息、队列列表和判断队列是否存在。

进一步的，发送客户端发送任务描述信息到服务端，所述服务端根据消息管理逻辑进行处理，如果是新消息，则初始化对应消息的数据Stream和数据存储桶，并向ack-inbox回复临时数据存储桶，同时向消息事件Stream中发送一条任务消息格式的编码数据。

进一步的，所述发送客户端获取数据存储桶信息后，发送数据存储桶中的切片元信息到服务端，所述服务端将所述切片元信息与数据存储中存储的切片元信息对比，判断对应数据段是否需要发送，若需要发送，则标记切片元信息中的标记位，将标记后的切片元信息返回给发送客户端。

进一步的，将标记后的切片元信息返回给发送客户端，所述发送客户端根据返回结果决定是否需要向对应数据存储桶中发送相关切片数据，数据存储桶中key为切片索引，value为对应数据段；

切片数据存储成功后发送切片事件到服务端，所述服务端根据接收到的切片事件，如果对应数据存储桶中含有对应数据切片，将切片事件写入数据Stream中。

进一步的，将切片事件写入数据Stream中之后，所述发送客户端向所述服务端发送结束任务消息，所述服务端根据任务元信息验证服务端存储数据是否完备，不完备则返回相关重传逻辑信息；

如果完备，则返回任务结束回复信息同时向数据Stream中写入任务结束事件。