[发明专利]模型训练方法、装置、设备及存储介质

权利要求书

1.一种模型训练方法，其特征在于，应用于第一设备，所述方法包括：

获取所述第一设备对第一模型进行训练的第一参数信息；

基于所述第一参数信息以及所述第一设备的本地样本数据，对所述第一模型进行模型训练，在所述第一模型训练结束后，对训练后的第一模型的模型参数进行两次加密处理，得到第二参数信息；

向第二设备发送所述第二参数信息，所述第二参数信息用于所述第二设备更新共享模型的模型参数，所述共享模型的模型参数是所述第二设备通过对来自不同第一设备的模型参数进行聚合处理得到的，所述共享模型与所述第一模型的模型结构相同。

2.根据权利要求1所述的方法，其特征在于，

所述第一设备为联邦学习系统的第一参与方设备，所述第二设备为所述联邦学习系统的第二参与方设备；或者

所述第一设备为所述联邦学习系统的任意一个参与方设备，所述第二设备为所述联邦学习系统的第三方设备。

3.根据权利要求1所述的方法，其特征在于，所述第一参数信息包括所述共享模型的模型参数以及所述共享模型训练的控制参数，所述控制参数包括预设聚合次数、当前聚合次数以及所述第一模型的权重值的至少一项。

4.根据权利要求1所述的方法，其特征在于，所述获取所述第一设备对第一模型进行训练的第一参数信息，包括：

从所述第二设备获取所述第一设备对所述第一模型进行训练的第一参数信息。

5.根据权利要求1所述的方法，其特征在于，所述第一参数信息是经过第一加密算法加密的信息，所述第一加密算法包括多方安全计算SMPC加密算法或同态加密算法。

6.根据权利要求5所述的方法，其特征在于，所述基于所述第一参数信息以及所述第一设备的本地样本数据，对所述第一模型进行模型训练，包括：

采用第一解密算法对所述第一参数信息进行解密，获取解密后的模型参数；所述第一解密算法包括多方安全计算SMPC解密算法或同态解密算法；

基于解密后的模型参数以及所述第一设备的本地样本数据，对所述第一模型进行模型训练。

7.根据权利要求1-6中任一项所述的方法，其特征在于，所述对训练后的第一模型的模型参数进行两次加密处理，包括：

根据所述第一参数信息中所述共享模型训练的控制参数，确定对训练后的第一模型进行两次加密处理；

采用第二加密算法对训练后的第一模型的模型参数进行加密处理，再采用第一加密算法对经过加密处理后的模型参数进行二次加密处理；

其中所述第二加密算法包括差分隐私加密算法，所述第一加密算法包括SMPC加密算法或同态加密算法。

8.根据权利要求7所述的方法，其特征在于，所述根据所述第一参数信息中所述共享模型训练的控制参数，确定对训练后的第一模型进行两次加密处理，包括：

若所述共享模型训练的控制参数中的当前聚合次数未达到预设聚合次数，确定对训练后的第一模型进行两次加密处理。

9.根据权利要求1-6中任一项所述的方法，其特征在于，所述第一模型的权重值是根据所述第一设备的本地样本数据的数量和/或重要程度确定的。

10.一种模型训练装置，其特征在于，包括：

获取模块，用于获取第一设备对第一模型进行训练的第一参数信息；

处理模块，用于基于所述第一参数信息以及所述第一设备的本地样本数据，对所述第一模型进行模型训练，在所述第一模型训练结束后，对训练后的第一模型的模型参数进行两次加密处理，得到第二参数信息；

发送模块，用于向第二设备发送所述第二参数信息，所述第二参数信息用于所述第二设备更新共享模型的模型参数，所述共享模型的模型参数是所述第二设备通过对来自不同第一设备的模型参数进行聚合处理得到的，所述共享模型与所述第一模型的模型结构相同。