[发明专利]一种联邦学习中基于局部模型梯度的用户筛选方法、系统、设备及存储介质

权利要求书

1.一种联邦学习中基于局部模型梯度的用户筛选方法，其特征在于，联邦学习中包括服务器和N个用户，该用户筛选方法的具体步骤包括：

(1)服务器初始化全局模型参数，并将全局模型参数广播给所有参与到联邦学习过程的N个用户；

(2)用户接收到全局模型参数后，利用用户持有的数据集更新局部模型参数，然后将用户的局部模型梯度传输给服务器；

(3)服务器将N个局部模型梯度i＝1，2……N，均按行或按列展开成为向量形式，向量的维数与局部模型的参数中的元素个数相同；

(4)服务器利用PCA算法对步骤(3)得到的展开的局部模型梯度的向量形式进行降维；

(5)服务器利用DBSCAN聚类方法对步骤(4)得到的N个降维局部模型梯度进行聚类，然后求聚类结果中数量最多的一类降维局部模型梯度的平均值，即降维局部模型梯度中心

(6)计算每个用户的降维局部模型梯度到降维局部模型梯度中心的欧式距离；

(7)根据步骤(6)计算得到的欧式距离，选取距离最近的M个用户；

(8)利用选取的M个用户的局部模型梯度j＝1，2……M，更新本代联邦学习训练过程的全局模型并将更新的全局模型广播给用户，全局模型满足：

式(I)中，表示第t-1代联邦学习的全局模型，表示第t代联邦学习的全局模型；

(9)重复执行步骤(2)-步骤(8)，直至模型收敛。

2.根据权利要求1所述的一种联邦学习中基于局部模型梯度的用户筛选方法，其特征在于，步骤(2)中，利用用户持有的数据集，使用随机梯度下降法得到用户的局部模型梯度。

3.根据权利要求1所述的一种联邦学习中基于局部模型梯度的用户筛选方法，其特征在于，步骤(4)中，服务器利用PCA算法对步骤(3)得到的展开的局部模型梯度的向量形式进行降维，具体过程包括：

4-1、输入数据集X＝{x₁，x₂，x₃…x_N}，x_i表示第i个用户的局部模型梯度对应的展开的向量，i＝1，2，3，...N；

4-2、去中心化：计算数据集X的均值X_mean，然后将X的每个元素减去X_mean得到去中心化数据集X_new；

4-3、求去中心化数据集X_new的协方差矩阵C_ov；

4-4、计算协方差矩阵C_ov的特征值及特征值对应的特征向量；

4-5、选取从大到小的k个特征值对应的特征向量分别作为列向量组成特征向量矩阵W，k表示维度数；

4-6、计算X_newW，即把去中心化数据集X_new投影到所选取的特征向量上，得到的X_newW即为降为k维特征的数据集。

4.根据权利要求3述的一种联邦学习中基于局部模型梯度的用户筛选方法，其特征在于，步骤(4)中，利用PCA算法将步骤(3)得到的展开的局部模型梯度的向量形式降维到二维或者三维，即k的取值为2或3。