[发明专利]用于并行传输数据的方法、设备和计算机程序产品在审
申请号: | 201910657308.6 | 申请日: | 2019-07-19 |
公开(公告)号: | CN112241240A | 公开(公告)日: | 2021-01-19 |
发明(设计)人: | 张宇霆;林超;彭飞 | 申请(专利权)人: | 伊姆西IP控股有限责任公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F11/14;G06N20/00;G06K9/62;H04L29/08 |
代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 赵林琳;丁君军 |
地址: | 美国马*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 并行 传输 数据 方法 设备 计算机 程序 产品 | ||
1.一种用于并行传输数据的方法,包括:
获得要从第一存储设备传输到第二存储设备的数据的属性以及所述第一存储设备与所述第二存储设备之间的网络状况;
基于所述数据的所述属性和所述网络状况,确定在并行传输所述数据中使用的并发数目和数据切片大小;以及
基于所述并发数目和所述数据切片大小,在所述第一存储设备与所述第二存储设备之间并行传输所述数据。
2.根据权利要求1所述的方法,其中获得所述数据的所述属性包括:
获得所述数据的大小、所述数据中的文件数目、所述数据中的增量数据比例以及所述增量数据的离散性,所述离散性包括所述增量数据的平均区域大小、最小区域大小、最大区域大小以及总区域数目。
3.根据权利要求1所述的方法,其中获得所述网络状况包括:
获得所述第一存储设备与所述第二存储设备之间的网络带宽和网络时延。
4.根据权利要求1所述的方法,所述并发数目和所述数据切片大小的确定由机器学习模型执行,所述方法还包括:
在第三存储设备与第四存储设备之间使用不同的数据属性和网络状况来执行并行数据传输,所述第三存储设备和所述第四存储设备为测试设备;
基于所述第三存储设备与所述第四存储设备之间的并行数据传输,生成测试数据集;以及
使用所生成的测试数据集来训练所述机器学习模型。
5.根据权利要求4所述的方法,其中生成所述测试数据包括:
针对给定数据属性和给定网络状况,使用多对并发数目-数据切片大小来分别执行多次并行数据传输;
记录使用所述多对并发数目-数据切片中的每对并发数目-数据切片大小完成所述并行数据传输所使用的执行时间;
将所述多对并发数目-数据切片大小中执行时间最少的一对并发数目-数据切片大小确定为最优并发数目和数据切片大小;以及
将所述最优并发数目和数据切片大小与所述给定数据属性和所述给定网络状况相关联地存储在所述测试数据集中。
6.根据权利要求5所述的方法,其中使用所生成的测试数据集来训练所述机器学习模型包括:
使用所生成的测试数据集来训练用于确定并行传输数据中的并发数目和数据切片的决策树模型。
7.根据权利要求6所述的方法,还包括:
将经训练的所述决策树模型部署在存储系统中;
收集比所述决策树模型的推荐方案更优的用户选择方案作为新的训练数据;以及
使用所述新的训练数据来增量训练所述决策树模型。
8.根据权利要求1所述的方法,其中在所述第一存储设备与所述第二存储设备之间并行传输所述数据包括:
基于所述数据切片大小,将所述数据切分成多个数据切片;以及
基于所述并发数目,从所述第一存储设备向所述第二存储设备备份所述多个数据切片。
9.一种用于并行传输数据的设备,包括:
处理单元;以及
存储器,其耦合至所述处理单元并且存储有指令,所述指令在由所述处理单元执行时执行以下动作:
获得要从第一存储设备传输到第二存储设备的数据的属性以及所述第一存储设备与所述第二存储设备之间的网络状况;
基于所述数据的所述属性和所述网络状况,确定在并行传输所述数据中使用的并发数目和数据切片大小;以及
基于所述并发数目和所述数据切片大小,在所述第一存储设备与所述第二存储设备之间并行传输所述数据。
10.根据权利要求9所述的设备,其中获得所述数据的所述属性包括:
获得所述数据的大小、所述数据中的文件数目、所述数据中的增量数据比例以及所述增量数据的离散性,所述离散性包括所述增量数据的平均区域大小、最小区域大小、最大区域大小以及总区域数目。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于伊姆西IP控股有限责任公司,未经伊姆西IP控股有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910657308.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种特征提取方法及装置
- 下一篇:一种数字资产认证处理平台及方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置