[发明专利]通过计算机训练预测模型的方法及装置

权利要求书

1.一种通过计算机训练预测模型的方法，所述预测模型用于对业务数据进行处理，确定所述业务数据对应到预先确定的各个信息类别上的概率，以对所述业务数据进行分类操作，所述业务数据包括基于设备确定的历史操作数据；所述预测模型训练过程包括多个训练周期，各个训练周期对所有训练样本按照随机顺序进行遍历，其中，针对当前训练周期中的当前样本，所述方法包括：

将所述当前样本的特征数据输入所述预测模型，得到所述预测模型对所述当前样本预测的当前概率分布，所述当前概率分布描述所述当前样本在各个信息类别上分别对应的各个当前预测概率，所述特征数据基于所述历史操作数据确定；

根据所述当前样本对应的样本标签，以及各个当前预测概率，向损失函数的值减小的方向，确定对模型参数的第一调节指标，所述样本标签描述出用户偏好的信息类别；

获取所述当前训练周期之前的若干训练周期中，所述当前样本的历史概率分布，所述历史概率分布用于描述针对所述当前样本在所述若干训练周期中各个信息类别上分别对应的各个历史预测概率；

利用所述历史概率分布与所述当前概率分布的对比，确定对模型参数的第二调节指标；

基于所述第一调节指标和所述第二调节指标，调整模型参数，以训练所述预测模型，用于对用户的信息偏好进行预测。

2.根据权利要求1所述的方法，所述当前样本包括预定数量的训练样本，所述模型参数包括第一模型参数，所述第一模型参数在所述第一调节指标中对应第一调节量值；所述根据所述当前样本对应的样本标签，以及各个当前预测概率，向损失函数的值减小的方向，确定对模型参数的第一调节指标包括：

针对所述预定数量的训练样本中的各个训练样本，向损失函数的值减小的方向，分别确定对所述第一模型参数的各个调节量值；

将各个调节量值的平均值作为所述第一调节量值。

3.根据权利要求1所述的方法，其中，所述获取所述当前训练周期之前的若干训练周期中，所述当前样本的历史概率分布包括：

对所述若干训练周期中，所述当前样本分别对应的各个概率分布取平均，得到的概率分布作为所述历史概率分布。

4.根据权利要求1所述的方法，其中，所述利用所述历史概率分布与所述当前概率分布的对比，确定对模型参数的第二调节指标包括：

确定所述历史概率分布与所述当前概率分布的差异参数，所述差异参数包括以下中的一种：KL散度、交叉熵、JS散度、方差；

利用所述差异参数确定所述第二调节指标。

5.根据权利要求4所述的方法，其中，所述当前样本包括预定数量的训练样本，所述确定所述历史概率分布与所述当前概率分布的差异参数包括：

针对所述预定数量的训练样本中的各个训练样本，分别确定相应历史概率分布与相应当前概率分布的各个差异参数；

将各个差异参数的平均值作为所述历史概率分布与所述当前概率分布的差异参数。

6.根据权利要求4所述的方法，其中，所述当前样本包括预定数量的训练样本，所述预定数量的训练样本中的各个训练样本，分别对应各个差异参数，所述利用所述差异参数确定所述第二调节指标包括：

利用各个差异参数，分别确定对所述模型参数的各个调节指标；

将各个调节指标的平均值作为所述第二调节指标。

7.根据权利要求1所述的方法，其中，所述基于所述第一调节指标和所述第二调节指标，调整模型参数包括：

利用以下中的一项调整模型参数：

所述第一调节指标与所述第二调节指标的和；

所述第一调节指标与所述第二调节指标的加权和。