[发明专利]一种基于元学习的不平衡数据联邦学习方法和系统

权利要求书

1.一种基于元学习的不平衡数据联邦学习方法，其特征在于，所述方法应用于包含多个客户端和服务端的系统，所述客户端拥有本地数据，所述服务端拥有数据量少且数据分布平衡的元数据，所述方法包括以下步骤：

所述客户端接收服务端下发的赋权模型参数和全局模型参数，利用本地数据和赋权模型参数得到用作校正数据不平衡的权重，基于权重、本地数据以及全局模型参数更新本地模型参数，其中，赋权模型参数包括类赋权模型参数、样本赋权模型参数，对应的权重包括类权重和样本权重；

所述服务端接收客户端上传的本地模型参数并聚合得到全局模型参数，利用元数据、赋权模型参数以及聚合的全局模型参数得到元全局模型参数，利用元全局模型参数和元数据来更新赋权模型参数，更新的赋权模型参数和聚合的全局模型参数下发至客户端进行下一轮联邦学习。

2.根据权利要求1所述的基于元学习的不平衡数据联邦学习方法，其特征在于，所述利用本地数据和赋权模型参数得到用作校正数据不平衡的权重，包括：

针对类权重，将本地数据的每个类标签在类赋权模型参数下经过两次激活得到类权重；

针对样本权重，计算本地数据在全局模型参数下的训练损失，并将训练损失在样本赋权模型参数下经过两次激活得到样本权重。

3.根据权利要求1所述的基于元学习的不平衡数据联邦学习方法，其特征在于，所述基于权重、本地数据以及全局模型参数更新本地模型参数，包括：

计算本地数据在全局模型参数下的训练损失后，计算训练损失与类权重和样本权重的加权训练损失，利用加权训练损失更新本地模型参数。

4.根据权利要求1所述的基于元学习的不平衡数据联邦学习方法，其特征在于，所述服务端采用平均加权的方式聚合所有本地模型参数得到全局模型参数。

5.根据权利要求1所述的基于元学习的不平衡数据联邦学习方法，其特征在于，所述利用元数据、赋权模型参数以及聚合的全局模型参数得到元全局模型参数，包括；

将元数据的每个类标签在类赋权模型参数下经过两次激活得到元类权重；

计算元数据在聚合的全局模型参数下的元训练损失，并将元训练损失在样本赋权模型参数下经过两次激活得到元样本权重；

计算元训练损失与元类权重和元样本权重的加权元训练损失，利用加权元训练损失和聚合的全局模型参数计算元全局模型参数。

6.根据权利要求1所述的基于元学习的不平衡数据联邦学习方法，其特征在于，所述利用元全局模型参数和元数据来更新赋权模型参数，包括：

计算计算元数据在元全局模型参数下的第一训练损失，利用第一训练损失相对于类赋权模型参数的偏导来更新类赋权模型参数，利用第一训练损失相对于样本赋权模型参数的偏导来更新样本赋权模型参数。

7.一种基于元学习的不平衡数据联邦学习系统，其特征在于，包括服务端和与所述服务端通信连接的多个客户端，

所述客户端拥有本地数据，用于接收服务端下发的赋权模型参数和全局模型参数，利用本地数据和赋权模型参数得到用作校正数据不平衡的权重，基于权重、本地数据以及全局模型参数更新本地模型参数，其中，赋权模型参数包括类赋权模型参数、样本赋权模型参数，对应的权重包括类权重和样本权重；

所述服务端拥有数据量少且数据分布平衡的元数据，用于接收客户端上传的本地模型参数并聚合得到全局模型参数，利用元数据、赋权模型参数以及聚合的全局模型参数得到元全局模型参数，利用元全局模型参数和元数据来更新赋权模型参数，更新的赋权模型参数和聚合的全局模型参数下发至客户端进行下一轮联邦学习。

8.根据权利要求7所述的基于元学习的不平衡数据联邦学习系统，其特征在于，在客户端，利用本地数据和赋权模型参数得到用作校正数据不平衡的权重，包括：

针对类权重，将本地数据的每个类标签在类赋权模型参数下经过两次激活得到类权重；

针对样本权重，计算本地数据在全局模型参数下的训练损失，并将训练损失在样本赋权模型参数下经过两次激活得到样本权重。