[发明专利]一种基于SDN的分布式机器学习训练加速方法有效
申请号: | 201911371620.5 | 申请日: | 2019-12-27 |
公开(公告)号: | CN111079948B | 公开(公告)日: | 2023-02-24 |
发明(设计)人: | 贺元林;丁奔程;武浩;章小宁;李自华 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;H04L67/1095;H04L67/1097;H04L69/163 |
代理公司: | 北京正华智诚专利代理事务所(普通合伙) 11870 | 代理人: | 李梦蝶 |
地址: | 611731 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 sdn 分布式 机器 学习 训练 加速 方法 | ||
1.一种基于SDN的分布式机器学习训练加速方法,其特征在于,包括以下步骤:
S1、采集分布式机器学习训练中当前迭代过程的参数同步通信过程所产生的所有RTT值;
S2、获取当前RTT值和上一次RTT值,并通过当前RTT值和上一次RTT值对下一次RTT值进行预测;
S3、根据预测的下一次RTT值,开启定时器,开始参数同步通信;
S4、通过SDN控制器获取SDN交换器的缓存占用数据;
S5、判断缓存占用数据是否超过设定的阈值β,若是,则进入步骤S6,否则返回步骤S2;
S6、获取第i个发送端在当前SDN交换机占用的缓存不超过阈值,且不发生TCP Incast问题时的发送窗口大小Wi_swnd;
S7、根据发送窗口大小Wi_swnd,通过SDN控制器改写ACKi包中的rwnd字段,并将改写后的ACKi包传输至其对应的第i个发送端;
S8、通过第i个发送端接收对应的ACKi包,并根据ACKi包调整预测的下一次RTT值对应的发送窗口大小;
S9、当预测的下一次RTT值对应通信过程结束后,判断当前迭代过程的参数同步通信是否结束,若是,则结束,否则令预测的下一次RTT值为当前RTT值,并返回步骤S2。
2.根据权利要求1所述的基于SDN的分布式机器学习训练加速方法,其特征在于,所述步骤S2的分步骤包括:
S1、根据采集的RTT值,获取当前RTT值和上一次RTT值,所述当前RTT值rtt_current为:
rtt_current=t2+ts-t1
S2、根据当前RTT值和上一次RTT值,采用一次指数平滑算法获取预测的下一次RTT值rtt_next为:
rtt_next=rtt_pre+α*(rtt_current-rtt_pre)
其中,t1表示TCP数据包中的Timestamp字段,t2表示当前RTT值对应TCP的ACK包离开SDN交换器的时间,ts表示ACK包从SDN交换器到发送端的传输延迟,rtt_pre表示上一次的RTT值,α表示预测RTT值计算系数,α=0.125。
3.根据权利要求1所述的基于SDN的分布式机器学习训练加速方法,其特征在于,所述步骤S5中阈值β设定为0.8。
4.根据权利要求3所述的基于SDN的分布式机器学习训练加速方法,其特征在于,所述步骤S6中发送窗口大小Wi_swnd为:
其中,N表示发送端总数,i表示第i个发送端,i=1,2,...,N,C表示链路宽带,Buffer_size表示缓存区大小。
5.根据权利要求4所述的基于SDN的分布式机器学习训练加速方法,其特征在于,所述步骤S7中根据发送窗口大小Wi_swnd,通过SDN控制器改写ACK包中的rwnd字段的具体方法为:
rwnd_new=Wi_swnd
其中,rwnd_new表示rwnd字段的改写值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911371620.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种抗碱水润滑脂及其制备方法
- 下一篇:一种适应空心螺柱的自旋式电动螺柱焊枪