[发明专利]一种基于联邦学习的模型训练方法

权利要求书

1.一种基于联邦学习的模型训练方法，应用于包括服务端与N个节点的联邦学习系统，N＞1，所述方法包括：

在模型训练的第i次迭代中，执行：

所述服务端将模型参数集合下发给M_i个节点；其中，M_i≤N，所述M_i个节点中存在Q_i个目标类型节点；

第j个目标类型节点根据所述模型参数集合与本地训练样本执行梯度计算以及差分隐私保护操作，得到w_ij；其中，j＝(1,2，…，Q_i)，w_ij＝w_ij^*+k_ij，w_ij^*表征第j个目标类型节点在未执行差分隐私操作的情况下得到的梯度，k_ij是第j个目标类型节点通过差分隐私保护操作确定的数据干扰项，用于保护所述Q_i个目标类型节点的本地训练样本的差分隐私；

所述服务端获取并基于更新模型参数集合；

所述服务端获取包括：

第j个目标类型节点使用公钥pk_i对w_ij进行加密，得到E(w_ij)并上传给所述服务端；其中，所述M_i个节点基于门限同态加密协议，约定pk_i以及所述M_i个节点中每个节点的子私钥集合；

所述服务端计算并获取其中，是使用至少T_i个目标类型节点的子私钥集合对进行解密得到的，T_i是第i次迭代中，门限同态加密协议指定的门限值。

2.如权利要求1所述的方法，针对所述M_i个节点中的任一节点，若该节点在接收到模型参数集合之后，继续处于在线状态直至第i次迭代结束，则该节点属于目标类型节点。

3.如权利要求1所述的方法，第j个目标类型节点根据所述模型参数集合与本地训练样本执行梯度计算以及差分隐私保护操作，得到w_ij，具体包括：

第j个目标类型节点根据所述模型参数集合与本地训练样本执行梯度计算，得到梯度w_ij^*，并通过差分隐私保护操作，向w_ij^*中加入数据干扰项k_ij，得到得到w_ij；

或者，第j个目标类型节点通过差分隐私保护操作，向所述模型参数集合加入干扰，并根据干扰后的所述模型参数集合与本地训练样本执行梯度计算，得到w_ij；

或者，第j个目标类型节点通过差分隐私保护操作，向本地训练样本加入干扰，并根据干扰后的本地训练样本与所述模型参数集合执行梯度计算，得到w_ij。

4.如权利要求1所述的方法，所述服务端获取具体包括：

所述服务端将下发给至少T_i个目标类型节点；

针对所述至少T_i个目标类型节点中的每个目标类型节点，该目标类型节点使用自身的子私钥集合解密得到解密结果并上传给所述服务端；

所述服务端对所述至少T_i个目标类型节点分别上传的解密结果进行汇总，得到

5.如权利要求1所述的方法，所述服务端获取具体包括：

所述服务端若确定Q_i≥T_i，则获取

所述方法还包括：

所述服务端若确定Q_i＜T_i，则停止本次迭代，并进入下一次迭代。

6.如权利要求1～5任一项所述的方法，所述模型对应的输入数据包括：图像或文本或语音。

7.如权利要求6所述的方法，所述文本包含实体对象信息。