[发明专利]多分类梯度提升树的构建方法、装置及电子设备

说明书

本申请提供一种多分类梯度提升树的构建方法、装置，包括：协作方设备获取各参与方设备的训练样本集合中各训练样本对应的梯度；其中，各参与方设备的训练样本集合构成样本总集；依据梯度大小，对样本总集中的训练样本进行排序，得到样本序列；确定样本序列的样本分位点，并基于样本分位点确定样本总集中的多个关键样本；确定多个关键样本中归属于各参与方设备的关键样本，并确定各参与方设备对应的目标非关键样本的数量；发送关键样本及目标非关键样本的数量至相应的参与方设备，以使各参与方设备基于关键样本及目标非关键样本的数量，协同协作方设备构建多分类梯度提升树。如此，通过横向梯度排序采样进行模型构建，从而减少多分类任务中的开销。

技术领域

本申请涉及人工智能技术，尤其涉及一种多分类梯度提升树的构建方法、装置、电子设备、存储介质及计算机程序产品。

背景技术

在人工智能的联邦学习领域，是通过数据提供方和数据使用方共同训练一个模型，然后各数据使用方基于各自的模型来进行相应的预测，在目前各行各业逐渐加强数据隐私保护的大趋势下，联邦学习，一种可以在保护数据隐私的情况下协同多方数据建立机器学习的技术，成为了各企业/行业间合作的关键之一。如今，联邦梯树模型：多分类梯度提升树，随机森林，分类多分类梯度提升树，已经广泛地在纵向联邦场景下，成为了金融、风控领域的常用且强力的算法之一，在该领域，分类任务使用最为频繁。然而，在构建横向联邦多分类梯度提升树时，对于数据量大，标签数量多的横向联邦场景，难以在合适的时间内，或者无法以低廉的机器成本来完成横向联邦多分类梯度提升树的构建，横向联邦多分类梯度提升树的构建过程中庞大的计算/通信开销，给横向联邦多分类梯度提升树的构建带来了许多困难。

发明内容

本申请实施例提供一种多分类梯度提升树的构建方法、装置、电子设备、计算机可读存储介质及计算机程序产品，能够通过横向梯度排序采样进行模型构建，从而减少多分类任务中的开销。

本申请实施例的技术方案是这样实现的：

本申请实施例提供一种多分类梯度提升树的构建方法，

基于联邦学习系统，所述联邦学习系统包括协作方设备及至少两个参与方设备，所述方法包括：

协作方设备获取各参与方设备的训练样本集合中各训练样本对应的梯度；其中，各所述参与方设备的训练样本集合构成样本总集；

依据梯度大小，对所述样本总集中的训练样本进行排序，得到样本序列；

确定所述样本序列的样本分位点，并基于所述样本分位点确定所述样本总集中的多个关键样本；

确定所述多个关键样本中归属于各所述参与方设备的关键样本，并确定各所述参与方设备对应的目标非关键样本的数量；

发送所述关键样本及目标非关键样本的数量至相应的所述参与方设备，以使各所述参与方设备基于所述关键样本及目标非关键样本的数量，协同所述协作方设备构建所述多分类梯度提升树。

本申请实施例提供一种多分类梯度提升树的构建装置，包括：

获取模块，用于协作方设备获取各参与方设备的训练样本集合中各训练样本对应的梯度；其中，各所述参与方设备的训练样本集合构成样本总集；

排序模块，用于依据梯度大小，对所述样本总集中的训练样本进行排序，得到样本序列；

第一确定模块，用于确定所述样本序列的样本分位点，并基于所述样本分位点确定所述样本总集中的多个关键样本；

第二确定模块，用于确定所述多个关键样本中归属于各所述参与方设备的关键样本，并确定各所述参与方设备对应的目标非关键样本的数量；

构建模块，用于发送所述关键样本及目标非关键样本的数量至相应的所述参与方设备，以使各所述参与方设备基于所述关键样本及目标非关键样本的数量，协同所述协作方设备构建所述多分类梯度提升树。