[发明专利]一种无线网络中异步联邦学习方法在审

专利信息
申请号: 202310460800.0 申请日: 2023-04-26
公开(公告)号: CN116484976A 公开(公告)日: 2023-07-25
发明(设计)人: 胡封晔;郑嘉宁;刘小兰;凌壮;那顺乌力吉;陈明晖;马军 申请(专利权)人: 吉林大学
主分类号: G06N20/00 分类号: G06N20/00
代理公司: 北京慕达星云知识产权代理事务所(特殊普通合伙) 11465 代理人: 李冉
地址: 130012 吉林*** 国省代码: 吉林;22
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 无线网络 异步 联邦 学习方法
【说明书】:

发明涉及联邦学习技术领域,具体涉及一种无线网络中异步联邦学习方法,包括:构建包括N个用户和一个基站的基于联邦学习的无线网络系统架构;在每轮训练开始时,基站对用户进行分组,并选择每组通信链路状态最好的用户作为“header”,将全局模型发送给每组的“header”;每组的“header”将全局模型发送给给定用户,进行本地模型的训练;各“header”按预设规则对训练完成的组内用户进行调度,接收被调度用户上传的本地模型进行聚合,生成组模型;各“header”将生成的组模型同步上传到基站,基站再对各个组模型进行聚合,生成全局模型。本发明考虑无线网络中复杂的信道环境,提高模型的训练精度。

技术领域

本发明涉及联邦学习技术领域,更具体的说是涉及一种无线网络中异步联邦学习方法。

背景技术

近年来,联邦学习(FL,Federated Learning)能够以分布式方式进行机器学习模型训练,越来越多地应用于无线通信领域,用于通信网络系统操作、监控、优化等,能够有效地分析用户收集的大量数据,以进行推断、预测和决策。联邦学习利用每个用户的分布式计算资源,使用其本地数据进行本地机器学习模型训练,只与基站共享模型参数,也有效保护了数据隐私。

联邦学习已应用于各种无线通信场景,如车载通信,本地化,语义通信。在无线网络中联邦学习的实现是由用户和基站协同完成的。在每一轮全局通信中,用户从基站接收全局模型,并使用他们的本地数据集执行进一步的训练。然后基站聚合来自用户的局部模型,以更新全局模型。现有的大多数研究假设,只有当每个用户完成其本地模型更新时,基站才能聚合,也就是同步联邦学习(SynFL,Synchronous Federated Learning),但最慢的用户会显著降低学习性能。因此,异步联邦学习(AsynFL,Asynchronous FederatedLearning)被提出,其中服务器一旦从每个用户接收到本地模型更新就执行模型聚合,而不需要等到接收到所有本地更新。然而,频繁的与基站通信给用户造成了巨大的通信资源浪费。

在无线网络中,每个用户总是在不同的路径上移动或在不同的目标区域移动,以收集整个环境的数据,这导致每个用户将获得不同类型和数量的数据集。有前途的应用程序,特别是元宇宙(Metaverse)场景创建需要分析所有用户生成的数据,因此,在训练机器学习模型时应考虑数据的全面性。

这意味着在整个训练过程中,任何用户的本地模型更新都不应该被丢弃。但由于通信资源有限,信道环境随机衰落,在每轮通信中只能有有限数量的用户上传其本地模型更新,部分用户可能由于计算能力有限而无法及时上传。因此,设计适当的用户调度策略以包括来自尽可能多用户的本地更新是非常重要的。近年来,已有的大部分工作研究了基于本地模型更新显著性、信道条件和数据不确定性、更新传输成功概率和用户的模型更新年龄(AoU,Age-of-Update)信息的用户调度策略设计。然而,在无线网络中,通信性能对机器学习模型的训练性能有显著影响,因此在设计用户调度策略时应考虑这一点。

因此,如何在无线网络中设计一种高效的联邦学习策略,既要考虑无线网络中复杂的信道环境、用户数据异构性以及有限的通信资源,又要提高模型训练精度与效率是本领域技术人员亟需解决的问题。

发明内容

有鉴于此,本发明提供了一种无线网络中异步联邦学习方法,考虑无线网络中复杂的信道环境,提高模型的训练精度。

为了实现上述目的,本发明采用如下技术方案:

一种无线网络中异步联邦学习方法,包括以下步骤:

构建基于联邦学习的无线网络系统架构,所述系统架构包括N个用户和一个基站,每个用户以不同的移动路径在给定的目标区域内移动,并不断收集数据;所有用户收集到的数据集用于协同训练一个机器学习模型;

在每轮训练开始时,基站按照每个用户本地模型更新的重要度对用户进行分组,并选择每组通信链路状态最好的用户作为“header”,将全局模型发送给每组的“header”;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于吉林大学,未经吉林大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310460800.0/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top