[发明专利]无线边缘网络中有效联邦学习的最小-最大代价优化方法

说明书

本发明属于通信技术领域，公开了一种无线边缘网络中有效联邦学习的最小‑最大代价优化方法，通过局部精度、子载波分配、发射功率分配和计算资源分配的联合优化，以达到无线边缘网络中有效联邦学习的最佳性能；其中，子载波分配和功率分配采用拉格朗日对偶分解法，CPU周期频率采用启发式算法，通过迭代算法获得局部精度。为了降低直接求解问题的计算复杂度，本发明将原问题分解为若干个子问题进行求解并设计了高效的算法。仿真结果表明，本发明所提出的算法具有良好的收敛性能，能够在能量消耗和学习时间之间实现折衷，并且在成本方面能够为所有智能设备提供公平性，并通过与现有方案的比较，本发明能够在能量消耗和学习时间之间实现折衷。

技术领域

本发明属于通信技术领域，尤其涉及一种无线边缘网络中有效联邦学习的最小-最大代价优化方法。

背景技术

目前，随着智能设备的空前快速发展，它们已经成为人们日常生活中不可缺少的一部分，每天都会产生大量的数据。丰富的数据可以为基于机器学习的应用提供支持，例如训练用户活动模型和预测健康事件模型。在传统的集中式机器学习技术中，智能设备用户直接将数据上传到云服务器上进行模型训练。然而由于数据上传到中心服务器，用户的私人信息可能会被泄露。

联邦学习(FL)被认为是解决此问题的一种有效方法，其在云服务器上训练一个优秀的全局模型。FL本质上是一种分布式机器学习，它允许用户在本地训练数据，而无需将数据直接上传到云服务器。在FL中，云服务器首先将当前的全局模型发送给每个本地用户，然后使用本地数据更新共享模型，最后将更新后的模型发送回服务器。FL技术避免了集中训练，有效地保护了用户的隐私。联邦学习是一种能够保护用户数据隐私的分布式机器学习技术，因此越来越受到业界和学术界的重视。

除了隐私问题，资源优化是联邦学习的一个挑战。因为本地用户需要更新共享模型并将模型参数上传到服务器，所以联邦学习需要大量的计算和无线资源。虽然已有一些研究对联邦学习的资源优化进行了研究，但也存在一些新的挑战。一方面，联邦学习的时间由两部分决定：本地计算时间和通信时间。在已知准确度的前提下，学习时间是联邦学习的重要性能指标之一。由于所有参与者的模型参数只有在同时上传到服务器时才能进行聚合，因此每个参与者更新模型参数的时间会影响联邦学习的收敛速度。因此，需要考虑单个智能设备的学习时间。另一方面，由于智能设备的能源有限，如何实现计算资源和无线资源的最优分配以达到能源消耗的最小化是一个主要问题。同时，现有的研究大多侧重于整个过程的成本优化，而不能考虑单个参与者的成本。

通过上述分析，现有技术存在的问题及缺陷为：

(1)在传统的集中式机器学习技术中，智能设备用户直接将数据上传到云服务器上进行模型训练。然而由于数据上传到中心服务器，用户的私人信息可能会被泄露。

(2)由于所有参与者的模型参数只有在同时上传到服务器时才能进行聚合，因此每个参与者更新模型参数的时间会影响联邦学习的收敛速度。

(3)由于智能设备的能源有限，如何实现计算资源和无线资源的最优分配以达到能源消耗的最小化是一个主要问题。

(4)现有的针对联邦学习的研究大多侧重于整个过程的成本优化，而不能考虑单个参与者的成本。

解决以上问题及缺陷的难度为：

(1)智能设备与云之间的数据传输是不可避免的，且传统的云学习架构本质上是中心式的，很难保证用户的隐私，避免用户收到分布式拒绝服务或断电的影响。

(2)由于海量的用户终端设备的接入和大量的移动计算的存在，数据流量呈现爆发式地增长，网络负载急速加剧，很难在应对这些需求的同时实现网络的计算资源与无线资源的合理分配。

解决以上问题及缺陷的意义为：

(1)处理和存储数据分布在边缘设备上，用户数据与模型参数在本地进行处理，减少了处于安全与隐私暴露风险中的数据量，保护用户隐私不泄露，加快联邦学习的收敛速度。