[发明专利]数据传输方法、装置及存储介质有效

专利信息
申请号: 201811582779.7 申请日: 2018-12-24
公开(公告)号: CN109688214B 公开(公告)日: 2021-11-23
发明(设计)人: 林鹏程 申请(专利权)人: 杭州数梦工场科技有限公司
主分类号: H04L29/08 分类号: H04L29/08
代理公司: 北京清亦华知识产权代理事务所(普通合伙) 11201 代理人: 张润
地址: 310024 浙江省杭州*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据传输 方法 装置 存储 介质
【说明书】:

发明提出一种数据传输方法及装置,其中方法包括:获取待传输的数据包,以及数据包对应的目的数据节点的虚拟地址信息和真实地址信息;将携带数据包以及虚拟地址信息的数据报文发送至网络设备,以使网络设备根据虚拟地址信息查询端口列表,获取虚拟地址信息对应的各个端口,并对数据报文进行多份复制,分别通过各个端口发送出去,直至到达目的数据节点;在获取到所有目的数据节点返回的携带真实地址信息的确认报文时,确定数据包传输完成,获取下一个待传输的数据包进行传输,从而能够通过对待传输的数据包的一次传输,实现各个目的数据节点都能接收到数据包,且各个目的数据节点并行进行确认,确认时间短,提高了数据写入效率。

技术领域

本发明涉及数据处理技术领域,尤其涉及一种数据传输方法、装置及存储介质。

背景技术

目前,分布式文件系统,常用的有HDFS(Hadoop Distributed File System,Hadoop分布式文件系统),Swift,Ceph等。在HDFS中,对文件的数据写入过程为,客户端调用分布式文件系统创建文件,并获取分布式文件系统返回的文件输出节点;采用文件输出节点获取客户端写入的数据,生成多个数据包,并将多个数据包依次发送给文件对应的各个数据节点进行存储。然而,上述方案中,需要依次将数据包发送给各个数据节点,流量占用大,且数据包的写入和确认时间被拉长,导致数据写入时间长,写入效率差。

发明内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此,本发明的第一个目的在于提出一种数据传输方法,用于解决现有技术中数据写入时间长,写入效率差的问题。

本发明的第二个目的在于提出一种数据传输装置。

本发明的第三个目的在于提出另一种数据传输装置。

本发明的第四个目的在于提出一种非临时性计算机可读存储介质。

本发明的第五个目的在于提出一种计算机程序产品。

为达上述目的,本发明第一方面实施例提出了一种数据传输方法,包括:

获取待传输的数据包,以及所述数据包对应的目的数据节点的虚拟地址信息和真实地址信息;

将携带所述数据包以及所述虚拟地址信息的数据报文发送至网络设备,以使所述网络设备根据所述虚拟地址信息查询端口列表,获取所述虚拟地址信息对应的各个端口,并对所述数据报文进行多份复制,分别通过所述各个端口发送出去,直至到达所述目的数据节点;

判断是否获取到所有所述目的数据节点返回的携带真实地址信息的确认报文;

若获取到所有所述目的数据节点返回的确认报文,则确定所述数据包传输完成,获取下一个待传输的数据包进行传输。

进一步的,所述获取待传输的数据包,包括:

获取待写入的数据,以及对应的待写入文件节点;

对所述数据进行拆分,生成至少一个待传输的数据包;

获取所述待写入文件节点对应的数据节点,将所述待写入文件节点对应的数据节点确定为所述目的数据节点;

获取所述目的数据节点的虚拟地址信息和真实地址信息。

进一步的,所述获取待传输的数据包之前,还包括:

获取数据写入请求;

根据所述数据写入请求,创建文件节点以及对应的数据节点;

为所述文件节点对应的数据节点分配相同的虚拟地址信息,以使所述数据节点通过网络设备返回应答报文,以使所述网络设备在接收到所述应答报文时,将所述应答报文发送出去,并获取接收所述应答报文时的端口,根据所述虚拟地址信息和所述端口生成端口列表;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州数梦工场科技有限公司,未经杭州数梦工场科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201811582779.7/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top