[发明专利]一种面向大规模物联网协同智能的无线联邦学习方法在审
| 申请号: | 202310197549.3 | 申请日: | 2023-03-03 |
| 公开(公告)号: | CN116306915A | 公开(公告)日: | 2023-06-23 |
| 发明(设计)人: | 田辉;刘珂妍;郑景桁;倪万里;聂高峰 | 申请(专利权)人: | 北京邮电大学 |
| 主分类号: | G06N3/098 | 分类号: | G06N3/098;G06N3/082;G06N20/00;G06F9/50 |
| 代理公司: | 北京挺立专利事务所(普通合伙) 11265 | 代理人: | 高福勇 |
| 地址: | 100876 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 面向 大规模 联网 协同 智能 无线 联邦 学习方法 | ||
1.一种面向大规模物联网协同智能的无线联邦学习方法,其特征在于,包括如下步骤:
S1:边缘平台请求所有设备报告其信息,信息包括数据量及数据分布、信道状态和计算资源;设备将所需信息报告给边缘平台;边缘平台根据接收到的信息生成学习策略,并将结果通知所有设备;所述的学习策略包括设备分类、样本选择、模型剪枝和设备调度;
S2:根据学习策略,在计算受限的集中式学习用户中,选择前N'个拥有最佳信道条件的用户,并使其基于样本重要性选择部分数据样本上传到边缘平台进行集中式训练;计算能力较强的联邦学习用户进行网络剪枝和本地训练后获取本地梯度并上传梯度范数,边缘平台依据梯度范数判断模型重要性,并选择前K'个拥有最佳模型的联邦学习用户,使其上传本地梯度;
S3:边缘平台聚合集中式学习梯度和联邦学习梯度以获得全局梯度,并使用全局梯度更新全局模型,随后将更新后的全局模型分发给所有设备以开启下一轮次的模型训练;
S4:重复上述步骤S1至步骤S3,直至全局模型收敛或达到最大通信轮次限制。
2.根据权利要求1所述的面向大规模物联网协同智能的无线联邦学习方法,其特征在于,步骤S1中,边缘平台根据本地设备不同的硬件性能,将整个异构用户集合划分为计算受限的集中式学习用户集合和计算能力较强的联邦学习用户集合
3.根据权利要求1所述的面向大规模物联网协同智能的无线联邦学习方法,其特征在于,步骤S1中,边缘平台利用设备上传的信息决定联邦学习用户的剪枝率,使联邦学习用户能够在保持学习性能的前提下进行模型剪枝,关于联邦学习用户剪枝率的第一优化问题为:
其中,[ρ1,ρ2,...,ρK]T是模型剪枝率向量,m是收敛性分析相关常数,是联邦学习用户k所允许的最大剪枝率,是FL用户k的数据集,是本地训练时延,是本地梯度的上行传输时延,是最大允许时延;
求解上述关于联邦学习用户剪枝率的第一优化问题,获得各个联邦学习用户剪枝率的最优值,各个联邦学习用户的剪枝率的最优值为:
其中,DM是全局模型的大小,是联邦学习用户k的数据集,是联邦学习用户k本地更新使用的样本数,是用户的上行传输速率,pk是用户的最大传输功率,是上行链路增益,Bk是用户的上行传输带宽,dc表示的是在本地设备上计算一个样本所需的CPU周期,fk是CPU每秒的转速。
4.根据权利要求1所述的面向大规模物联网协同智能的无线联邦学习方法,其特征在于,步骤S1中,边缘平台利用设备上传的信息生成集中式学习用户的设备调度策略的过程如下:
边缘平台使用集中式学习用户上传的信道状态信息,计算集中式学习用户n的信道增益为:
其中,Λn为边缘平台和集中式学习用户n之间的链路距离,为链路参考距离为1m时的路径损耗,α为路径损耗指数,κ是莱斯因子,是确定性视距信道分量,为瑞利衰落信道分量;
然后,边缘平台将集中式学习用户信道增益的l2范数进行降序排列,并选择其中前N'个信道增益最大的用户参与本轮的全局训练过程,集中式学习用户信道增益的l2范数降序排序为:
其中,||r(n)||2为集中式学习用户(n)的信道增益的l2范数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京邮电大学,未经北京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310197549.3/1.html,转载请声明来源钻瓜专利网。





