[发明专利]纵向联邦学习模型的训练方法、装置、设备及存储介质

说明书

本申请涉及一种纵向联邦学习模型的训练方法、装置、计算机设备及存储介质，方法包括：生成用于对模型的数据和参数进行加密的加密公钥和对模型的加密损失值进行解密的解密私钥；获取模型的承诺数据进行零知识证明，承诺数据为参与模型训练的各第二设备对源数据集进行数据承诺得到的。获取模型的加密损失初始化参数进行零知识证明，加密损失初始化参数是各第二设备基于加密数据计算得到的。获取模型的加密损失值进行零知识证明，加密损失值是各第二设备基于加密损失初始化参数和加密损失计算权重计算得到的。基于解密私钥对加密损失值进行解密，得到模型的损失值，当损失值小于预设阈值时，得到训练好的纵向联邦学习模型。

技术领域

本申请涉及互联网技术领域，尤其涉及一种纵向联邦学习模型的训练方法、装置、计算机设备及存储介质。

背景技术

现有的联邦学习大多假设参与方为半诚实的，即只按照协议流程进行模型训练而不会进行任何破坏行为。但这一假设在实际应用过程中显得过于理想。事实上，联邦学习的参与方可能存在恶意节点，在这种情况下，参与方需要证明自己的训练过程是准确、合法且一致的，即拥有完整性用于安全审计的需求；同时由于联邦学习的初衷就是保护参与方用于训练的数据的隐私，因此在验证过程中不能暴露参与方的数据和梯度信息。

发明内容

本申请提供了一种纵向联邦学习模型的训练方法、装置、计算机设备及存储介质，以实现对纵向联邦学习模型训练过程中的加密损失计算进行零知识证明，并根据通过零知识证明的加密损失值来确定模型的结束训练条件，避免模型的过拟合。

第一方面，本申请提供了一种纵向联邦学习模型的训练方法，所述方法包括：

生成加密公钥和解密私钥；其中，所述加密公钥用于发送给参与模型训练的各第二设备对所述模型的数据和参数进行加密，所述解密私钥用于对所述模型的加密损失值进行解密得到损失值；

获取所述模型的承诺数据进行零知识证明，得到所述承诺数据的零知识证明结果，其中，所述承诺数据为所述各第二设备对源数据集进行数据承诺的得到的；

获取所述模型的加密损失初始化参数进行零知识证明，得到所述加密损失初始化参数的零知识证明结果，其中，所述加密损失初始化参数是所述各第二设备基于所述源数据集通过加密损失初始化计算得到的；

获取所述模型的加密损失值进行零知识证明，得到所述加密损失值的零知识证明结果，其中，所述加密损失值是所述各第二设备基于所述加密损失初始化参数和加密损失计算权重计算得到的；

基于所述解密私钥对所述加密损失值进行解密，得到所述纵向联邦学习模型训练过程中的损失值，当所述损失值小于预设阈值时，得到训练好的纵向联邦学习模型。

第二方面，本申请还提供了一种纵向联邦学习模型的训练装置，所述装置包括：

秘钥生成模块，用于生成加密公钥和解密私钥；其中，所述加密公钥发送给参与模型训练的各第二设备用于对所述模型的数据和参数进行加密，所述解密私钥用于对所述模型的加密损失值进行解密；

数据证明模块，获取所述模型的承诺数据进行零知识证明，得到所述承诺数据的零知识证明结果，其中，所述承诺数据为所述各第二设备对源数据集进行数据承诺得到的；

加密损失初始化证明模块，用于获取所述模型的加密损失初始化参数进行零知识证明，得到所述加密损失初始化参数的零知识证明结果，其中，所述加密损失初始化参数是所述各第二设备基于所述源数据集通过加密损失初始化计算得到的；

加密损失计算证明模块，用于获取所述模型的加密损失值进行零知识证明，得到所述加密损失值的零知识证明结果，其中，所述加密损失值是所述各第二设备基于所述加密损失初始化参数和加密损失计算权重计算得到的；