[发明专利]一种模型训练以及推荐概率预测方法及装置

说明书

本说明书公开了一种模型训练以及推荐概率预测方法及装置，通过各待推荐信息的特征和用户特征，确定对应各用户的各训练样本，针对每个用户，根据各训练样本的预测结果，确定预测排序，针对每个分支任务，根据各训练样本的标签，确定标准排序，并根据该预测排序和标准排序，确定该分支任务的损失，进而根据各分支任务的损失确定梯度，根据各分支任务的梯度及其损失确定多任务学习模型的损失函数，对模型进行训练。本方法通过确定各分支任务对应的梯度和损失确定总损失，使得对梯度贡献大的分支任务首先被优化，对梯度贡献小的分支任务辅助优化，提高了各任务推荐概率预测的准确性。

技术领域

本说明书涉及计算机技术领域，尤其涉及一种模型训练以及推荐概率预测方法及装置。

背景技术

目前，随着计算机技术的发展，如何从海量信息中选择出有价值的信息，从而为用户推荐合适的内容，已经成为服务提供方需要解决的问题之一，而推荐概率预测方法因为能够基于用户信息以及内容的特性为用户推荐合适的内容的特点，被广泛应用于服务提供方为用户提供服务的场景中。

在现有技术中，一种常见的推荐概率预测方法是基于多任务学习模型确定的，具体的，将用户的用户信息、内容的内容信息以及内容被点击、收藏次数等信息进行特征提取，并将提取出的特征输入到预先训练好的多任务学习模型中，得到多任务学习模型输出的针对于不同任务的预测概率。

但是，现有技术在训练多任务学习模型时，通常会采用预设不同任务对应的损失权重，将不同任务的交叉熵损失及其损失权重进行加权求和的方法确定总损失，导致训练出的模型在实际使用中，可能存在某任务优化，但其他任务预测的准确率下降的问题。

发明内容

本说明书提供一种模型训练以及推荐概率预测方法及装置，以部分的解决现有技术存在的上述问题。

本说明书采用下述技术方案：

本说明书提供一种多任务学习模型的训练方法，包括：

根据各待推荐信息的特征和用户特征，确定对应各用户的各训练样本，并针对每个训练样本，根据对应用户的历史行为数据，确定该训练样本对应待训练的多任务学习模型中各分支任务的标签；

将该训练样本输入到所述待训练的多任务学习模型中，得到所述多任务学习模型输出的各分支任务对应的预测结果，根据各分支任务对应的预测结果，确定该训练样本的综合预测结果；

针对每个用户，根据该用户对应的各训练样本的综合预测结果，确定预测排序，针对每个分支任务，根据该分支任务下各训练样本的标签，确定标准排序，并根据所述预测排序和所述标准排序，确定该分支任务对应的损失；

根据各分支任务对应的损失，分别确定各分支任务对应的梯度，根据各分支任务对应的梯度，确定各分支任务对应的损失的权重，根据各分支任务及其权重确定损失函数，并以损失函数最小为优化目标，调整所述多任务学习模型的模型参数，其中，所述多任务学习模型用于预测各待推荐信息的推荐概率。

可选地，根据各待推荐信息的特征和用户特征，确定对应各用户的各训练样本，具体包括：

获取搜索操作日志，根据搜索操作日志，确定历史上各用户执行的搜索操作；

针对每次搜索操作，获取该次搜索操作对应的用户信息、搜索结果对应的各待推荐信息的内容、各待推荐信息的全局转化率和搜索关键词；

根据所述用户信息，确定用户特征；

针对每个待推荐信息，根据该待推荐信息的内容和该待推荐信息的全局转化率，确定该待推荐信息的特征；

根据该待推荐信息的特征、用户特征以及搜索关键词，确定训练样本。

可选地，根据对应用户的历史行为数据，确定该训练样本的针对于各分支任务的标签，具体包括：