[发明专利]一种基于异构建模的深层神经网络Top-N推荐方法

权利要求书

1.一种基于异构建模的深层神经网络Top-N推荐方法，其特征在于，包括如下步骤：

S1、数据获取构建，得到用户与物品的交互信息；

S2、将原始推荐用的异构信息网络,即用户物品评分网络通过构造元路径生成增强的显示和隐式反馈矩阵；

S3、MFDNN模型进行信息分析，即将所得到的显示反馈信息和隐式反馈信息输入MFDNN模型进行信息分析预测缺失的用户-项目交互评分值，S3包括如下步骤：

S3.1、将得到的用户-物品交互矩阵也就是隐式反馈信息矩阵作为MFDNN模型的输入通过MFDNN模型的训练预测出隐式反馈信息预测值；

步骤S3.1包括如下步骤：

S3.1.1、将输入层的系数表示映射为稠密的特征向量中作为嵌入层，即嵌入层采用全连接的方式；

其中,为MF的用户嵌入，为MF的物品嵌入，为DNN模型的用户嵌入，为DNN模型的物品嵌入；

S3.1.2、和分别用于MF模型和DNN模型训练；

步骤S3.1.2包括如下步骤：

S3.1.2.1、MF模型计算显式信息用户u对物品i的预测值填充用户-物品矩阵的缺失值；

步骤S3.1.2.1包括如下步骤：

S3.1.2.1.1、通过MF来学习用户和物品的潜在特征的线性组合；

S3.1.2.1.2、计算和的内积作为预测值，公式如下：

其中,K表示潜在空间的维度，我们设置为10；

S3.1.2.1.3、在低维潜在空间中使用简单内积来估计复杂的用户-物品交互会限制MF的表达，并影响模型的泛化能力,我们把第一层MF的映射函数定义为：

其中,表示向量的元素乘积；

S3.1.2.1.4、然后使用相同的权重将特征向量线性组合，计算预测信息公式如下：

其中,α_out是激活函数,考虑到收敛速度，我们使用ReLU(线性整流)函数作为激活函数，定义为max(0，x)；h^T是权重向量；

S3.1.2.2、DNN模型计算隐式反馈预测信息填充用户-物品矩阵的缺失值；

其中,是用户u对物品i通过DNN模型训练预测的预测值；

步骤S3.1.2.2包括如下步骤：

S3.1.2.2.1、计算和的内积来计算嵌入层的数据来获得第一层的数据，公式如下：

S3.1.2.2.2、以同样的方式，计算第二层的结果，公式如下：

其中,和b₂分别是权重矩阵和偏置向量，α₂是激活函数，将ReLU函数作为激活函数；

S3.1.2.2.3、计算第N层的结果，公式如下：

S3.1.2.2.4、对于DNN的每一层的连接权重和偏置向量使用Adam算法更新,计算最终DNN模型的显式预测结果公式如下：

其中,α为激活函数，H为隐藏层数，W^|H|+1和b^|H|+1分别为权重矩阵和偏置向量，我们选择了ReLU函数作为激活函数；

S3.1.2.3、将MF模型和DNN模型得到的预测结果和通过sigmoid激活函数将其求和，计算公式如下：

其中,σ为激活函数；

S3.2、将得到的用户-物品评分矩阵也就是显式式反馈信息矩阵作为MFDNN模型的输入通过MFDNN模型的训练预测出显式反馈信息预测值；

步骤S3.2包括如下步骤：

S3.2.1、将输入层的系数表示映射为稠密的特征向量中作为嵌入层，即嵌入层采用全连接的方式；

其中,为MF的用户嵌入，为MF的物品嵌入，为DNN模型的用户嵌入，为DNN模型的物品嵌入；

S3.2.2、和分别用于MF模型和DNN模型训练；

步骤S3.2.2包括如下步骤：

S3.2.2.1、MF模型计算显式信息用户u对物品i的预测值填充用户-物品矩阵的缺失值；

步骤S3.2.2.1包括如下步骤：

S3.2.2.1.1、通过MF来学习用户和物品的潜在特征的线性组合；

S3.2.2.1.2、计算和的内积作为预测值，公式如下：

其中,K表示潜在空间的维度，我们设置为10；

S3.2.2.1.3、在低维潜在空间中使用简单内积来估计复杂的用户-物品交互会限制MF的表达，并影响模型的泛化能力,我们把第一层MF的映射函数定义为：

其中,表示向量的元素乘积；

S3.2.2.1.4、然后使用相同的权重将特征向量线性组合，计算预测信息公式如下：

其中,α_out是激活函数，考虑到收敛速度，我们使用ReLU(线性整流)函数作为激活函数，定义为max(0，x)；h^T是权重向量；

S3.2.2.2、DNN模型计算隐式反馈预测信息填充用户-物品矩阵的缺失值；

其中,是用户u对物品i通过DNN模型训练预测的预测值；

步骤S3.1.2.2包括如下步骤：

S3.2.2.2.1、计算和的内积来计算嵌入层的数据来获得第一层的数据，公式如下：

S3.2.2.2.2、以同样的方式，计算第二层的结果，公式如下：

其中,和b₂分别是权重矩阵和偏置向量，α₂是激活函数，将ReLU函数作为激活函数；

S3.2.2.2.3、计算第N层的结果，公式如下：

S3.2.2.2.4、对于DNN的每一层的连接权重和偏置向量使用Adam算法更新,计算最终DNN模型的显式预测结果公式如下：

其中,α为激活函数，H为隐藏层数，W^|H|+1和b^|H|+1分别为权重矩阵和偏置向量，我们选择了ReLU函数作为激活函数；

S3.2.2.3、将MF模型和DNN模型得到的预测结果和通过sigmoid激活函数将其求和，计算公式如下：

其中,σ为激活函数；

S3.3、计算最终的用户物品预测结果；

步骤S3.3包括如下步骤：

S3.3.1、计算最终用户项目预测结果，公式如下：

其中，ω₁+ω₂＝1，ω₁是隐式反馈的权重，ω₂是显式反馈的权重，是隐式预测结果，是显式预测结果；

S4、将MFDNN模型最终训练得到的用户物品向量嵌入到MFDNN模型，得到评分，进行排序输出；

S5、将MFDNN模型最终预测的用户对物品的评分与真实的用户评分进行对比，得出模型的效果。