[发明专利]一种基于多任务深度学习的混合推荐系统及其方法

权利要求书

1.一种基于多任务深度学习的混合推荐系统，其特征在于，依次包括三个阶段，分别为第一阶段、第二阶段和第三阶段，所述第一阶段为混合推荐模型构造，所述第二阶段为训练样本集生成，所述第三阶段为混合推荐模型训练，依次经过三个阶段的演算最后得出结果，所述混合推荐模型构造包括卷积神经网络和度量学习的混合推荐模型；所述混合推荐模型构造包括卷积神经网络和度量学习的混合推荐模型；所述混合推荐模型构造阶段首先构造三个平行的卷积神经网络来抽取用户和一对物品的深层特征；三个特征提取卷积神经网络的网络结构相同，由信息嵌入层、卷积层、池化层和全连接层组成；在此基础上，再利用度量学习进行评分预测，同时对三个网络的参数进行训练；训练目标为：使得用户与正样本间的距离小于用户与负样本间的距离，同时同类样本间的距离小于不同类别样本间的距离；

所述训练样本集生成将生成三种不同类别的用户-物品三元组作为训练样本，三个训练样本包括正样本，用户，负样本，正样本，用户，正样本，负样本，用户，负样本，所述混合推荐模型训练将三个训练样本作模型训练，将得到的三组模型参数值，并将这三组参数值按权重进行加权作为的最终参数。

2.一种基于多任务深度学习的混合推荐方法，其特征在于，具体包括以下步骤：

S1.信息嵌入层：将原始用户和物品信息进行初步处理，并得到用户和物品的词嵌入向量e，以便更好地进行接下来的特征提取操作，词嵌入向量e如下式所示：

e＝f(W_e×s+b)，

其中，s表示输入的原始用户或物品的信息；W_e为本层的运算权重矩阵；b为本层的运算偏置值；f表示本层使用的激活函数；

S2.卷积层：采用卷积操作进行用户和物品的深层特征提取，在第t个卷积核所对应的特征h_t计算如下：

其中，k_t表示卷积操作过程中的第t个卷积核，表示卷积操作，b_t表示第t个卷积核运算的偏置值，f表示本层使用的激活函数；

S3.池化层：采用最大池化操作来进一步选取用户和物品的深层特征，只保留特征值最高的一项，最高项为m_t，m_t＝MAX{h₁，h₂，...，h_(n-c+1)}，

其中，n表示词嵌入向量e的长度，c表示池化操作的步长；

S4.全连接层：将每个卷积核抽取的特征进行连接，得到的中间特征向量m，所述中间特征向量m为：

m＝{m₁，m₂，...，m_l}，

其中，l表示卷积核的个数，然后，将中间特征向量m输入到全连接层中得到最终的用户或物品的深度特征向量，可表示为：

其中，W_fc为本层的运算权重矩阵，w为本层的运算偏置值，f表示本层使用的激活函数，同时得到的用户和一对物品的深层特征向量和

S5.使用度量学习的欧式距离来分别计算用户u_i和一对物品v_j⁽¹⁾，v_j⁽²⁾间的距离，以及物品和物品v_j⁽¹⁾，v_j⁽²⁾间的距离，计算公式如下：

其中，和分别表示u_i，v_j⁽¹⁾和v_j⁽²⁾经过步骤S4中全连接层后的深层特征向量；

S6.分别从用户购买行为事务数据库用户-物品评分数据库以及用户点击日志数据库这三个大型数据库中抽取并生成三种不同类型的训练样本，即正样本，用户，负样本，正样本，用户，正样本以及负样本，用户，负样本，分别记为I⁺，U，I^-，I⁺，U，I⁺，I^-，U，I^-，得出A1、A2和A3三种不同类型的训练样本；

A1.若对于用户购买行为事务数据库如果用户u_i∈U购买了物品v_j，那么标记v_j为正样本，即v_j∈I⁺，反之，如果用户u_i∈U没有购买物品v_j，那么标记v_j为负样本，即v_j∈I^-；

A2.若对于用户-物品评分数据库如果用户u_i∈U对物品v_j的评分超过了用户偏好阈值ζ，那么标记v_j为正样本，即v_j∈I⁺，反之，如果用户u_i∈U对物品v_j的评分低于用户偏好阈值ζ，那么标记v_j为负样本，即v_j∈I^-；

A3.若对于用户点击日志数据库如果用户u_i∈U点击浏览了物品v_j，那么标记v_j为正样本，即v_j∈I⁺，反之，如果用户u_i∈U没有点击浏览物品v_j，那么标记v_j为负样本，即v_j∈I^-；

S7.对步骤S6中的A1、A2、A3三种不同类型的训练样本分别构造出三种符合自身特点的损失函数

S8.同时训练步骤S7的三种训练样本，构造出三任务联合目标函数，如下式所示：

S9.等到参数收敛，训练过程停止，得到三组不同的模型参数值W₁，W₂，W₃，将这三组模型参数值进行加权后作为混合推荐模型最终的参数值W_f，如下式所示：

W_f＝η₁W₁+η₂W₂+η₃W₃；

S10.得出结果，进行在线推荐，结束算法。