[发明专利]基于联邦迁移学习的参数处理方法、设备及存储介质

权利要求书

1.一种基于联邦迁移学习的标签预测方法，其特征在于，应用于联邦迁移学习系统的第一终端，所述联邦迁移学习系统还包括第二终端，所述第一终端和所述第二终端之间进行数据通讯，所述第一终端与所述第二终端分别设置于不同类型的机构中，所述第一终端中的用户数据与所述第二终端中的用户数据是异构的，所述基于联邦迁移学习的标签预测方法包括以下步骤：

第一终端调用第一特征转换函数对第一终端内的第一标注样本和第一重叠样本分别进行特征转换，得到第一标注样本特征和第一重叠样本特征，其中，所述第一标注样本是第一终端中具有标签的用户数据，所述第一重叠样本是第一终端中与第二终端中的用户数据携带有相同标签的用户数据；

所述第一终端根据由样本特征距离函数和标注预测模型误差函数组成的损失函数，基于所述第一重叠样本特征、第一标注样本特征和第一标注样本标签，生成第一私有损失值、第一私有参数梯度和第一秘密共享计算中间结果；

所述第一终端通过秘密共享机制对第一秘密共享计算中间结果进行分解得到第一秘密共享计算中间结果的第一份额和第一秘密共享计算中间结果的第二份额，并将第一秘密共享计算中间结果的第二份额发送给第二终端，以供第二终端生成第二参数梯度，并根据第二参数梯度更新第二参数，其中第二参数包括第二特征转换函数全部参数，以及样本特征距离函数的待更新参数和联邦标注预测模型的待更新参数；所述第一终端接收所述第二终端发送的第二秘密共享计算中间结果的第一份额，根据第一秘密共享计算中间结果的第一份额，第二秘密共享计算中间结果的第一份额，第一私有损失值和第一私有参数梯度，生成总损失值和第一参数梯度，并根据所述总损失值和第一参数梯度更新第一参数，其中第一参数包括第一特征转换函数的全部参数，以及样本特征距离函数的待更新参数和联邦标注预测模型的待更新参数；第一份额和第二份额用于使得第一参数和第二参数的更新与第一终端和第二终端中的重叠样本和各自的标注样本相关；

通过训练好的联邦标注预测模型，结合第一终端和第二终端中的各项样本数据，对第二终端中的未标注样本进行标签预测。

2.如权利要求1所述的基于联邦迁移学习的标签预测方法，其特征在于，所述第一终端根据第一秘密共享计算中间结果的第一份额，第二秘密共享计算中间结果的第一份额， 第一私有损失值和第一私有参数梯度， 生成总损失值和第一参数梯度的步骤包括：

所述第一终端根据第一秘密共享计算中间结果的第一份额和第二秘密共享计算中间结果的第一份额，基于秘密共享机制，生成秘密共享损失值的第一份额，第一秘密共享参数梯度的第一份额，第二秘密共享参数梯度的第一份额，并将所述第二秘密共享参数梯度的第一份额发送给第二终端，以供第二终端生成第二参数梯度；

所述第一终端接收第二终端发送的秘密共享损失值的第二份额、第一秘密共享参数梯度的第二份额和第二私有损失值，根据第一私有损失值，第二私有损失值， 秘密共享损失值的第一份额和秘密共享损失值的第二份额生成总损失值，并根据第一私有参数梯度，第一秘密共享参数梯度的第一份额，和第一秘密共享参数梯度的第二份额，生成第一参数梯度。

3.如权利要求1-2任一项所述的基于联邦迁移学习的标签预测方法，其特征在于，所述根据所述总损失值和第一参数梯度更新第一参数的步骤包括：

所述第一终端判断所述总损失值是否小于预设阈值；

若所述总损失值小于预设阈值，则判定对联邦训练结束，所述第一终端停止训练，并发送训练停止信号到第二终端；

若所述总损失值不小于预设阈值，则通过第一参数梯度对第一参数进行更新，并发送训练继续信号到第二终端。