[发明专利]一种基于无线联邦学习的学习模型训练方法

说明书

本发明公开了一种基于无线联邦学习的学习模型训练方法，该方法按以下步骤进行：1)以任务发布者发出的奖励R和移动用户n的本地迭代精度ε_n作为变量，采用主从博弈法，确定最佳奖励和移动用户n的最佳本地精度值2)系统根据所得奖励值和本地精度值初始化相关参数完成模型训练。本发明中任务发布者通过设定合理的奖励鼓励移动用户参与训练提升模型精度，同时移动用户能够根据自身的资源状态确定本地精度，最终实现任务发布者和移动用户最大化各自的效益。

技术领域

本发明属于图像识别技术领域。

背景技术

针对图像识别，现有的大多数采用学习模型，基于机器学习技术，这些数据可以快捷方便准确的提供图像识别服务。现有的机器学习方法大多是集中式训练，这就要求移动用户将数据集中发给中心服务器，但是由于频谱资源的稀缺性以及数据的隐私性，移动用户直接传输数据至中心服务器进行训练会产生较大的传输时延以及隐私泄露问题。为了解决这个困境，一种被称为联邦学习的分布式机器学习方法被提出。虽然联邦学习是一项极富前景的机器学习方法，但是移动用户参与到联邦学习的过程中将会消耗大量的私有资源，比如计算能力、带宽和珍贵数据等等，造成移动用户私有资源在某些情况下的不必要浪费，且在某些场景下移动用户或许不会牺牲自己私有的资源来协助联邦学习，这使得联邦学习在移动网络和移动边缘计算等场景中受到限制。

发明内容

发明目的：为了解决上述现有技术存在的问题，本发明提供了一种基于无线联邦学习的学习模型训练方法。

技术方案：本发明提供了一种基于无线联邦学习的学习模型训练方法，应用于图像识别模型，联邦学习系统包括一个任务发布者和一组移动用户，移动设备的集合表示为其中N为移动用户的总个数；表示移动用户n，n＝1,2,…,N；采用联邦学习对学习模型进行训练的方法包括如下步骤：

步骤1：以任务发布者发出的奖励R和移动用户n的本地迭代精度ε_n作为变量，采用主从博弈法，确定最佳奖励和移动用户n的最佳本地精度值

步骤2：根据得到的确定移动用户n的本地迭代次数以及全局迭代次数其中η为全局迭代精度，max表示取最大值，θ_n为常数系数，且θ_n＞0；

步骤3：第一次全局迭代时任务发布者将学习模型的初始参数分发给每个移动用户设备，移动用户n基于本地数据集训练该学习模型，执行π_n次本地迭代后，将训练后的模型参数上传至任务发布者，任务发布者对收到的所有的模型参数进行全局聚合；然后进行下一次全局迭代：任务发布者将上一次全局迭代聚合后的模型参数发送给移动用户移动用户n再次执行π_n次本地迭代；当全局迭代次数达到δ次后，得到训练好的图像识别模型。

进一步的，所述步骤1中建立如下目标函数：

s.t.0＜ε_n≤1

其中，为移动用户n所得的效益，ε_m为移动用户m的本地迭代精度,β为移动用户为消耗单位能量的支出；代表移动用户n执行一次本地迭代耗费的能量，表示移动用户n参与一次全局迭代需要耗费的通信能量，和的表达式分别如下所示：

α是移动用户的计算芯片组的有效电容参数，c_n表示移动用户n使用单个数据样本执行本地模型训练需要的CPU周期数，D_n为移动用户n的本地数据集的大小，用f_n表示移动用户n为本地模型训练贡献的计算资源；p_n是移动用户n的发射功率，h_n是任务发布者和移动用户n的信道增益，N₀是背景噪声，σ表示用户n上传的学习模型的参数大小；