[发明专利]基于隐私保护更新业务模型的方法、装置及系统

权利要求书

1.一种基于隐私保护更新业务模型的方法，其中，所述业务模型用于对相关业务数据进行处理，以确定相应的业务处理结果，并由服务方辅助多个业务方共同训练，所述方法包括：

所述多个业务方协商确定多个模型基，其中单个模型基为包含若干基准参数的参数单元；

各个业务方分别基于各个模型基在预定方式下的组合，构建本地业务模型；

各个业务方分别利用本地的业务模型处理本地训练样本，从而确定各个模型基分别对应的各条梯度数据，并分别发送至服务方；

服务方响应于单个模型基满足梯度更新条件，融合该单个模型基的各条梯度数据，得到该单个模型基对应的全局梯度数据，并将所述全局梯度数据反馈至各个业务方；

各个业务方根据融合后的全局梯度数据更新本地的相应模型基中的基准参数，以迭代训练本地业务模型。

2.根据权利要求1所述的方法，其中，所述梯度更新条件包括以下中的至少一项：

所接收到的模型基的梯度数据条数达到预定数量；

更新周期到达。

3.根据权利要求1所述的方法，其中，服务方通过以下中的一项融合接收到的单个模型基的各条梯度数据：求均值、加权平均、通过预先训练的长短期记忆模型处理按照时间顺序排列的各条梯度数据。

4.根据权利要求1所述的方法，其中，所述业务模型为图神经网络，各个业务方分别持有依赖于本地数据构建的各个图数据，各个图数据为异构图。

5.根据权利要求1所述的方法，其中，单个模型基的单条梯度数据包括，该单个模型基中各个基准参数分别对应的各个梯度。

6.根据权利要求1所述的方法，其中，所述预定方式为线性组合方式。

7.一种基于隐私保护更新业务模型的方法，其中，所述业务模型用于对相关业务数据进行处理，以确定相应的业务处理结果，并由服务方辅助多个业务方共同训练，所述方法由所述多个业务方中的第一方执行，包括：

利用基于若干模型基在预定方式下的组合而构建的本地业务模型，处理本地训练样本，从而确定各个模型基分别对应的各条梯度数据，并发送至服务方，以供服务方按照单个模型基对应的梯度更新条件，利用所接收到的多条梯度数据更新该单个模型基的全局梯度数据，其中，所述若干模型基由所述多个业务方协商确定，单个模型基为包含若干基准参数的参数单元；

响应于从服务方接收到第一模型基的全局梯度数据，根据所述第一模型基的全局梯度数据更新所述第一模型基的本地梯度数据；

根据更新后的本地梯度数据，更新所述第一模型基包含的各个基准参数。

8.根据权利要求7所述的方法，其中，所述根据所述全局梯度数据更新所述第一模型基的本地梯度数据包括，利用所述全局梯度数据替换所述第一模型基的本地梯度数据。

9.根据权利要求7所述的方法，其中，所述根据所述全局梯度数据更新所述第一模型基的本地梯度数据包括：

对所述全局梯度数据和所述第一模型基的本地梯度数据加权平均，得到加权梯度数据；

根据所述加权梯度数据更新所述第一模型基对应的若干基准参数的本地梯度数据。

10.根据权利要求7所述的方法，其中，所述预定方式为线性组合方式。

11.根据权利要求7或10所述的方法，其中，所述业务模型为多层神经网络，单层神经网络的模型参数为所述若干模型基的预定方式组合。

12.根据权利要求11所述的方法，其中，所述利用基于若干模型基在预定方式下的组合而构建的本地业务模型，处理本地训练样本，从而确定各个模型基分别对应的各条梯度数据包括：

利用业务模型针对当前训练样本的输出结果与样本标签的对比，确定所述业务模型的损失；

以最小化所述损失为目标，从最后一层神经网络逐层确定单层神经网络对应的各个模型基分别对应的各条梯度数据。