[发明专利]利用变分的正则化流实现的项目推荐方法及模型训练方法

权利要求书

1.一种利用变分的正则化流实现的项目推荐模型训练方法，其特征在于包括以下步骤：

S1，构建训练集：利用同一用户的基于会话的序列构建训练集；

S2，数据的预处理：将基于会话的序列划分为输入数据和标签项目，并将输入数据中的每一个项目进行嵌入，表示成嵌入向量；

S3，获取隐含变量，将表示成嵌入向量的输入数据输入循环神经网络，并引入正则化流学习算法和注意力机制，分别构建第一隐含变量和第二隐含变量，并将两个隐含变量拼接在一起获取最终的隐含变量；

首先将表示成嵌入向量的输入数据输入循环神经网络，得到隐藏状态，并构建第一隐含变量，通过正则化流学习算法对第一隐含变量优化得到的优化后的第一隐含变量；同时依据得到的隐藏状态，利用注意力机制获取第二隐含变量，并将优化后的第一隐含变量和第二隐含变量拼接在一起得到最终的隐含变量；具体实现方式包括以下分步骤：

S31，利用循环神经网络对表示成嵌入向量的输入数据进行编码，得到隐藏状态h_t，并构建第一隐含变化量z₀；

式中，为潜在空间中会话分布的均值，为潜在空间中会话分布的方差，隐藏状态其中h_t表示循神经网络每一层的第t个项目对应的隐藏状态，更新门z_t＝σ(W_zx_t+U_zh_t-1)，候选的激活函数重置门r_t＝σ(W_rx_t+U_rh_t-1)，以上的σ表示为sigmoid激活函数，tanh也是一种激活函数，x_t表示每一层输入的第t个项目，W_z、W_t、W_u、W_σ、U_z、U_t、U_r、b_μ、b_σ均表示模型的训练参数，ε表示一个用于随机采样的标准正态分布的变量；

S32，定义一组可逆函数f＝[f₁，…，f_K]，将步骤S31得到的第一隐含变量z₀放进输入到这一组可逆函数中进行变换，学习到得到优化的第一隐含变量z_k，z_k＝f_K(f_K-1(z_K-2))＝f_K(f_K-1(…f₁(z₀)))；

S33，基于变分注意力机制，首先按照以下公式计算得到会话序列中不同项目点对循环轨迹编码器当前对应输出值的概率分布α_it，

式中，h_i表示循环神经网络每一层的第i个项目的隐藏状态，i＝1，2，…，t；h_t表示第t个项目的隐藏状态，由步骤S31得到，W^T为该会话序列需要学习的参数矩阵W的转置；

然后，通过加权输入求和计算得到注意力向量c，并将其作为第二隐含变量：

S34，将步骤S32得到的优化后的第一隐含变量和步骤S33得到的第二隐含变量拼接在一起，得到最终的隐含变量m；

S4，获取第一损失，将最终的隐含变量输入到分类器中，输出得到预测项目，利用预测项目和该会话序列的标签项目计算交叉熵损失，并将其作为第一损失；

S5，获取第二损失，将基于正则化流构建的第一隐含变量输入到解码器中得到第二损失；

S6，将第一损失与第二损失相加生成最后的总损失；

S7，重复步骤S2-S6，最小化总损失，即得到所述项目推荐模型。

2.根据权利要求1所述利用变分的正则化流实现的项目推荐模型训练方法，其特征在于步骤S1中，训练集内基于会话的所有会话序列的长度均不小于5。

3.根据权利要求1或2所述利用变分的正则化流实现的项目推荐模型训练方法，其特征在于将每一个会话序列划分为若干子序列，并将这些子序列补充到原有训练集中。