[发明专利]业务预测模型的训练方法及装置

说明书

本说明书实施例提供一种业务预测模型的训练方法，该方法包括多轮迭代，其中第i轮迭代包括：获取当前训练样本集，其初始包括标注样本，且其中各个训练样本具有对应的类别标签和当前样本权重；利用从当前训练样本集中获取的多个训练样本训练业务预测模型，得到本轮训练后的业务预测模型；利用本轮训练后的业务预测模型，对从非标注样本集中获取的多个非标注样本进行处理，得到多个非标预测结果；基于多个非标预测结果，确定多个非标注样本中至少一部分样本的类别标签，从而形成新的训练样本，并将其添加到当前训练样本集；基于当前训练样本集中训练样本的类别标签分布，以及标注样本和非标注样本的统计分布，确定各个训练样本的当前样本权重。

技术领域

本说明书一个或多个实施例涉及机器学习技术领域，尤其涉及一种业务预测模型的训练方法及装置。

背景技术

机器学习技术已成为当下的研究热点，多个领域争相利用业务数据构建机器学习模型，以辅助进行业务处理。通常，优质模型的产出依赖庞大数量的高质量标注样本。然而在实际应用场景中，高质量标注样本的获得难度较大，实际获取数量十分有限。并且，在某些场景下，标注样本还存在类别不均衡的情况，例如，在风控场景中，欺诈样本的数量较少，大部分都是白样本。这无疑给模型性能的提高带来巨大挑战。

因此，迫切需要一种方案，在标注数据的数量有限，和/或类别不均衡的场景下，也能够训练出具有较佳预测性能的机器学习模型。

发明内容

本说明书一个或多个实施例描述了一种业务预测模型的训练方法，通过利用非标注样本扩充训练样本，并自适应调整各个训练样本的权重，从而训练出性能优良的机器学习模型，同时，还能产出可迁移用于其他模型训练的增强样本集。

根据第一方面，提供一种业务预测模型的训练方法，所述业务预测模型用于执行针对业务对象的预测任务，所述方法包括多轮迭代，其中第i轮迭代包括：获取当前训练样本集，其初始包括标注样本集中的标注样本，并且，其中各个训练样本具有对应的类别标签和当前样本权重；利用从当前训练样本集中获取的多个训练样本和对应的多个当前样本权重，训练所述业务预测模型，得到本轮训练后的业务预测模型；利用所述本轮训练后的业务预测模型，对从非标注样本集中获取的多个非标注样本进行处理，得到多个非标预测结果；基于所述多个非标预测结果，确定所述多个非标注样本中至少一部分非标注样本的类别标签，从而形成新的训练样本；将该新的训练样本并入所述当前训练样本集；基于所述当前训练样本集中训练样本的类别标签分布，确定各种类别标签的当前类别权重；基于所述训练样本对应标注样本和非标注样本的统计分布，确定当前标注权重和当前非标注权重；基于所述当前类别权重、当前标注权重和当前非标注权重，确定所述训练样本的当前样本权重。

在一个实施例中，所述标注样本集包括第一数量的具有第一类别标签的标注样本，还包括第二数量的具有第二类别标签的标注样本，所述第一数量与第二数量之间的比值小于预设数值。

在一个实施例中，所述业务对象包括文本、图片、音频、用户、商品、商户、事件，所述业务预测对象用于预测所述业务对象的分类或回归值。

在一个实施例中，所述第i轮为第1轮；其中，获取当前训练样本集，包括：获取所述标注样本集；基于所述标注样本集中标注样本的类别标签分布，确定所述各种类别标签的类别权重，作为对应标注样本的当前样本权重；基于所述标注样本集和标注样本的当前样本权重，构建所述当前训练样本集。

在一个实施例中，利用从当前训练样本集中获取的多个训练样本和其对应的多个当前样本权重，训练所述业务预测模型，得到本轮训练后的业务预测模型，包括：利用所述业务预测模型处理所述多个训练样本，得到多个训练预测结果；基于所述多个训练预测结果和多个当前样本权重，确定训练损失；利用所述训练损失训练所述业务预测模型，得到所述本轮训练后的业务预测模型。