[发明专利]一种联邦学习下边端协同的信道适应性梯度压缩方法有效
申请号: | 202110409148.0 | 申请日: | 2021-04-16 |
公开(公告)号: | CN113098806B | 公开(公告)日: | 2022-03-29 |
发明(设计)人: | 陈芳炯;林晓涵;刘元;余华;季飞 | 申请(专利权)人: | 华南理工大学 |
主分类号: | H04L25/02 | 分类号: | H04L25/02;G06N20/20 |
代理公司: | 广州市华学知识产权代理有限公司 44245 | 代理人: | 李斌 |
地址: | 510640 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 联邦 学习 下边 协同 信道 适应性 梯度 压缩 方法 | ||
1.一种联邦学习下边端协同的信道适应性梯度压缩方法,其特征在于,基于联邦学习系统,包括以下步骤:
S1、每个终端利用自己的上行信道向边缘服务器发送已知的训练序列;
S2、边缘服务器根据每个终端发送的训练序列通过信道后受到的劣化程度估计各个终端的上行信道状况,存储各个上行信道的信道信息;
S3、边缘服务器利用终端的信道状况和设定的总量化比特数,求解优化问题,进行量化比特数分配;
S4、边缘服务器向参与联邦学习的终端广播所有终端各自可以使用的量化比特数信息;
S5、终端在广播的信息中找到自己可以使用的量化比特数,对本地更新梯度进行量化;
所述边缘服务器和所述终端在系统中协作完成联邦学习任务,联邦学习具体包括以下步骤:
边缘服务器选择参加本次参与联邦学习迭代的终端;
终端上传训练序列,边缘服务器估计终端信道,分配终端分别可以使用的量化比特数,广播量化比特数分配情况;
若此次全局迭代为初次全局迭代,则边缘服务器进行模型初始化,并将初始化的全局模型广播至本次参与训练的终端;否则,将上次全局迭代后得到的更新的全局模型广播至本次参与训练的终端;
终端利用接收到的全局模型和本地存储的数据进行一次或若干次本地训练,得到更新的本地梯度信息;
终端利用分配的量化比特数,量化更新的本地梯度信息,得到用于上传的量化的本地更新梯度;
终端将所述量化的本地更新梯度通过独立不相干的用户信道上传到边缘服务器;
所述边缘服务器接收到经过终端信道扰动的实际更新梯度,将所述实际更新梯度进行聚合,聚合后的梯度用于更新边缘服务器上的全局模型,若全局模型收敛,则本次联邦学习结束;否则,从头开始执行联邦学习的各步骤,直至全局模型收敛。
2.根据权利要求1所述的一种联邦学习下边端协同的信道适应性梯度压缩方法,其特征在于,所述联邦学习系统,包括边缘服务器以及若干个终端;
所述边缘服务器布设在基站中,所述边缘服务器包括计算单元、存储单元、训练单元以及发送单元;
所述终端包括量化单元、存储单元、训练单元以及发送单元;
所述边缘服务器和所述终端用于协作完成指定任务,任务需要使用的原始数据分布于终端中,边缘服务器无法接触到原始数据;
所述边缘服务器和所述终端还用于完成本地模型更新和全局模型更新的交换,终端利用本地原始数据和边缘服务器广播的全局模型更新本地模型,边缘服务器利用终端更新的本地模型更新全局模型。
3.根据权利要求2所述的一种联邦学习下边端协同的信道适应性梯度压缩方法,其特征在于,步骤S1具体为:
参与联邦学习的终端向边缘服务器发送存储于存储单元中的训练序列,所述训练序列存储于边缘服务器模块的存储单元中,为终端和边缘服务器均已知的信息,并在所述训练序列前端加上包含终端模块编号的信息块,形成待估计训练序列块。
4.根据权利要求3所述的一种联邦学习下边端协同的信道适应性梯度压缩方法,其特征在于,步骤S2具体为:
所述边缘服务器接收所述终端发送的待估计训练序列块,待估计训练序列块通过终端上行信道后受到一定程度的劣化,边缘服务器在存储单元中以队列的形式依次存储受到信道劣化的待估计训练序列块;
边缘服务器每次调用队列中的一个受到信道劣化的待估计训练序列块,利用待估计训练序列块中受到信道劣化的训练序列,和存储单元中的已知训练序列,利用判决准则,在计算单元中进行信道估计;
复制已经完成信道估计的待估计训练序列块前端的终端编号,所述终端编号采用重复发送的方式确保传输无误,在所述终端编号后端加上信道估计后得到的信道增益信息,得到每个终端的信道增益单元,通过将信道增益单元首尾相接后,得到信道增益信息块,存储于存储单元中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110409148.0/1.html,转载请声明来源钻瓜专利网。