[发明专利]基于同态加密的模型训练方法、装置、设备以及存储介质

权利要求书

1.一种基于同态加密的模型训练方法，包括：

在模型训练的过程中，获取同态加密数据；

根据模型训练过程中出现的状态数据，确定模型逼近函数的超参数；其中，所述模型逼近函数用于替换所述模型训练过程中涉及的模型原函数；所述超参数是与模型逼近函数相关联的能够控制模型训练行为的参数；

将所述同态加密数据输入所述模型逼近函数进行计算，并根据计算结果执行模型训练；

其中，根据模型训练过程中出现的状态数据，确定模型逼近函数的超参数包括：

将所述同态加密数据输入采用当前超参数的模型逼近函数进行计算；

根据计算结果落入的取值范围，获取与所述取值范围对应的超参数，确定为当前超参数。

2.根据权利要求1所述的方法，其中，所述模型原函数包括下述至少一种：损失函数、梯度计算函数、以及神经网络的神经元激活函数。

3.根据权利要求1所述的方法，其中，所述模型原函数包括下述至少一种：Log函数、幂函数、三角函数以及分段函数。

4.根据权利要求1所述的方法，其中，所述模型逼近函数包括多项式。

5.根据权利要求4所述的方法，其中，所述模型逼近函数的超参数包括下述至少一种：多项式的展开次数、变量系数、多项式组合中的多项式个数。

6.根据权利要求1-5任一所述的方法，其中，所述模型为线性模型或神经网络模型。

7.根据权利要求1所述的方法，在模型训练过程之前，还包括超参数与函数计算结果之间匹配关系的确定过程，所述确定过程包括：

采用至少两组同态加密数据测试样本，分别输入模型进行测试训练；每组测试训练所采用的模型逼近函数的超参数不同；

根据各组测试训练结果，选择符合训练要求的模型逼近函数的超参数。

8.根据权利要求1所述的方法，其中，所述状态数据包括当前轮计算的计算时长、和/或计算迭代次数。

9.根据权利要求8所述的方法，其中，根据模型训练过程中出现的状态数据，确定模型逼近函数的超参数包括：

如果模型训练过程中当前轮计算的计算时长满足时长条件，则确定精度优先级低于当前超参数的候选超参数代替当前超参数。

10.根据权利要求8所述的方法，其中，根据模型训练过程中出现的状态数据，确定模型逼近函数的超参数包括：

如果模型训练过程中的计算迭代次数满足次数条件，则确定精度优先级高于当前超参数的候选超参数代替当前超参数。

11.根据权利要求1所述的方法，其中，所述模型为分布式模型，所述同态加密数据为模型训练过程中多个模型参与方之间交互的同态加密中间参数。

12.一种基于同态加密的模型训练装置，包括：

数据获取模块，用于在模型训练的过程中，获取同态加密数据；

超参数确定模块，用于根据模型训练过程中出现的状态数据，确定模型逼近函数的超参数；其中，所述模型逼近函数用于替换所述模型训练过程中涉及的模型原函数；所述超参数是与模型逼近函数相关联的能够控制模型训练行为的参数；

模型训练模块，用于将所述同态加密数据输入所述模型逼近函数进行计算，并根据计算结果执行模型训练；

其中，所述超参数确定模块，包括：

数据计算单元，用于将所述同态加密数据输入采用当前超参数的模型逼近函数进行计算；

超参数确定单元，用于根据计算结果落入的取值范围，获取与所述取值范围对应的超参数，确定为当前超参数。