[发明专利]用于并行传输数据的方法、设备和计算机程序产品在审

专利信息
申请号: 201910657308.6 申请日: 2019-07-19
公开(公告)号: CN112241240A 公开(公告)日: 2021-01-19
发明(设计)人: 张宇霆;林超;彭飞 申请(专利权)人: 伊姆西IP控股有限责任公司
主分类号: G06F3/06 分类号: G06F3/06;G06F11/14;G06N20/00;G06K9/62;H04L29/08
代理公司: 北京市金杜律师事务所 11256 代理人: 赵林琳;丁君军
地址: 美国马*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 用于 并行 传输 数据 方法 设备 计算机 程序 产品
【权利要求书】:

1.一种用于并行传输数据的方法,包括:

获得要从第一存储设备传输到第二存储设备的数据的属性以及所述第一存储设备与所述第二存储设备之间的网络状况;

基于所述数据的所述属性和所述网络状况,确定在并行传输所述数据中使用的并发数目和数据切片大小;以及

基于所述并发数目和所述数据切片大小,在所述第一存储设备与所述第二存储设备之间并行传输所述数据。

2.根据权利要求1所述的方法,其中获得所述数据的所述属性包括:

获得所述数据的大小、所述数据中的文件数目、所述数据中的增量数据比例以及所述增量数据的离散性,所述离散性包括所述增量数据的平均区域大小、最小区域大小、最大区域大小以及总区域数目。

3.根据权利要求1所述的方法,其中获得所述网络状况包括:

获得所述第一存储设备与所述第二存储设备之间的网络带宽和网络时延。

4.根据权利要求1所述的方法,所述并发数目和所述数据切片大小的确定由机器学习模型执行,所述方法还包括:

在第三存储设备与第四存储设备之间使用不同的数据属性和网络状况来执行并行数据传输,所述第三存储设备和所述第四存储设备为测试设备;

基于所述第三存储设备与所述第四存储设备之间的并行数据传输,生成测试数据集;以及

使用所生成的测试数据集来训练所述机器学习模型。

5.根据权利要求4所述的方法,其中生成所述测试数据包括:

针对给定数据属性和给定网络状况,使用多对并发数目-数据切片大小来分别执行多次并行数据传输;

记录使用所述多对并发数目-数据切片中的每对并发数目-数据切片大小完成所述并行数据传输所使用的执行时间;

将所述多对并发数目-数据切片大小中执行时间最少的一对并发数目-数据切片大小确定为最优并发数目和数据切片大小;以及

将所述最优并发数目和数据切片大小与所述给定数据属性和所述给定网络状况相关联地存储在所述测试数据集中。

6.根据权利要求5所述的方法,其中使用所生成的测试数据集来训练所述机器学习模型包括:

使用所生成的测试数据集来训练用于确定并行传输数据中的并发数目和数据切片的决策树模型。

7.根据权利要求6所述的方法,还包括:

将经训练的所述决策树模型部署在存储系统中;

收集比所述决策树模型的推荐方案更优的用户选择方案作为新的训练数据;以及

使用所述新的训练数据来增量训练所述决策树模型。

8.根据权利要求1所述的方法,其中在所述第一存储设备与所述第二存储设备之间并行传输所述数据包括:

基于所述数据切片大小,将所述数据切分成多个数据切片;以及

基于所述并发数目,从所述第一存储设备向所述第二存储设备备份所述多个数据切片。

9.一种用于并行传输数据的设备,包括:

处理单元;以及

存储器,其耦合至所述处理单元并且存储有指令,所述指令在由所述处理单元执行时执行以下动作:

获得要从第一存储设备传输到第二存储设备的数据的属性以及所述第一存储设备与所述第二存储设备之间的网络状况;

基于所述数据的所述属性和所述网络状况,确定在并行传输所述数据中使用的并发数目和数据切片大小;以及

基于所述并发数目和所述数据切片大小,在所述第一存储设备与所述第二存储设备之间并行传输所述数据。

10.根据权利要求9所述的设备,其中获得所述数据的所述属性包括:

获得所述数据的大小、所述数据中的文件数目、所述数据中的增量数据比例以及所述增量数据的离散性,所述离散性包括所述增量数据的平均区域大小、最小区域大小、最大区域大小以及总区域数目。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于伊姆西IP控股有限责任公司,未经伊姆西IP控股有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910657308.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top