[发明专利]一种基于SDN的分布式机器学习训练加速方法有效

专利信息
申请号: 201911371620.5 申请日: 2019-12-27
公开(公告)号: CN111079948B 公开(公告)日: 2023-02-24
发明(设计)人: 贺元林;丁奔程;武浩;章小宁;李自华 申请(专利权)人: 电子科技大学
主分类号: G06N20/00 分类号: G06N20/00;H04L67/1095;H04L67/1097;H04L69/163
代理公司: 北京正华智诚专利代理事务所(普通合伙) 11870 代理人: 李梦蝶
地址: 611731 四川省成*** 国省代码: 四川;51
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 sdn 分布式 机器 学习 训练 加速 方法
【权利要求书】:

1.一种基于SDN的分布式机器学习训练加速方法,其特征在于,包括以下步骤:

S1、采集分布式机器学习训练中当前迭代过程的参数同步通信过程所产生的所有RTT值;

S2、获取当前RTT值和上一次RTT值,并通过当前RTT值和上一次RTT值对下一次RTT值进行预测;

S3、根据预测的下一次RTT值,开启定时器,开始参数同步通信;

S4、通过SDN控制器获取SDN交换器的缓存占用数据;

S5、判断缓存占用数据是否超过设定的阈值β,若是,则进入步骤S6,否则返回步骤S2;

S6、获取第i个发送端在当前SDN交换机占用的缓存不超过阈值,且不发生TCP Incast问题时的发送窗口大小Wi_swnd

S7、根据发送窗口大小Wi_swnd,通过SDN控制器改写ACKi包中的rwnd字段,并将改写后的ACKi包传输至其对应的第i个发送端;

S8、通过第i个发送端接收对应的ACKi包,并根据ACKi包调整预测的下一次RTT值对应的发送窗口大小;

S9、当预测的下一次RTT值对应通信过程结束后,判断当前迭代过程的参数同步通信是否结束,若是,则结束,否则令预测的下一次RTT值为当前RTT值,并返回步骤S2。

2.根据权利要求1所述的基于SDN的分布式机器学习训练加速方法,其特征在于,所述步骤S2的分步骤包括:

S1、根据采集的RTT值,获取当前RTT值和上一次RTT值,所述当前RTT值rtt_current为:

rtt_current=t2+ts-t1

S2、根据当前RTT值和上一次RTT值,采用一次指数平滑算法获取预测的下一次RTT值rtt_next为:

rtt_next=rtt_pre+α*(rtt_current-rtt_pre)

其中,t1表示TCP数据包中的Timestamp字段,t2表示当前RTT值对应TCP的ACK包离开SDN交换器的时间,ts表示ACK包从SDN交换器到发送端的传输延迟,rtt_pre表示上一次的RTT值,α表示预测RTT值计算系数,α=0.125。

3.根据权利要求1所述的基于SDN的分布式机器学习训练加速方法,其特征在于,所述步骤S5中阈值β设定为0.8。

4.根据权利要求3所述的基于SDN的分布式机器学习训练加速方法,其特征在于,所述步骤S6中发送窗口大小Wi_swnd为:

其中,N表示发送端总数,i表示第i个发送端,i=1,2,...,N,C表示链路宽带,Buffer_size表示缓存区大小。

5.根据权利要求4所述的基于SDN的分布式机器学习训练加速方法,其特征在于,所述步骤S7中根据发送窗口大小Wi_swnd,通过SDN控制器改写ACK包中的rwnd字段的具体方法为:

rwnd_new=Wi_swnd

其中,rwnd_new表示rwnd字段的改写值。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911371620.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top