[发明专利]融合注意力模型的卷积神经网络协同过滤推荐方法及系统

权利要求书

1.一种融合注意力模型的卷积神经网络协同过滤推荐方法，其特征在于，包括：

步骤S1：将用户特征向量和物品特征向量拼接融合为一个新向量；

步骤S2：将新向量作为输入向量送入多层感知器中学习，预测评分；

其中，将注意力模型融合到物品特征向量、获得物品特征向量的卷积神经网络和多层感知器的隐藏层中；

其中，物品特征向量的获取方法包括：

步骤a1：选取Glove方法对物品的原始数据进行预训练，使物品文本信息中的词形成词向量矩阵D∈R^a*I，其中，a是向量的维度，I是文本信息的长度；

步骤a2：利用卷积神经网络从词向量矩阵中提取文本特征，形成物品特征向量；

其中，将二维已知的实际评分矩阵降维成一维的用户矩阵和一维的物品矩阵，物品矩阵的文本信息作为物品的原始数据。

2.根据权利要求1所述的融合注意力模型的卷积神经网络协同过滤推荐方法，其特征在于，其中，在卷积层中利用一维卷积核w∈R^a*h对词向量矩阵D进行特征提取，获取特征值C_n，其中a表示向量的维度，h表示一维卷积核窗口的大小；

在卷积层中提取特征的方法为：

其中，n表示卷积运算的次数，m表示卷积核的个数，h表示一维卷积核的窗口大小，n:n+h-1表示n到n+h-1，f表示非线性激活函数，·表示卷积核的共享权重和词向量的对应运算，x表示词向量矩阵的输入值，w表示权重，b表示偏差值。

3.根据权利要求2所述的融合注意力模型的卷积神经网络协同过滤推荐方法，其特征在于，在池化层中用如下公式提取特征值：

p_v＝max[C_n] (公式2)

其中n表示卷积运算的次数。

4.根据权利要求1所述的融合注意力模型的卷积神经网络协同过滤推荐方法，其特征在于，根据注意力模型的原理生成注意力权重矩阵，并将注意力权重矩阵与对应的物品特征向量点乘获得新的物品特征向量，表示公式为：

v′＝z_att⊙v (公式3)

其中，z_att表示注意力权重矩阵，v表示物品特征向量，v′表示获得注意后的物品特征向量。

5.根据权利要求1所述的融合注意力模型的卷积神经网络协同过滤推荐方法，其特征在于，在步骤S2中，预测评分的公式为：

其中，w_ir表示权重，w₀表示偏差值，U_i表示用户特征向量，I_r表示物品特征向量，i表示用户，r表示物品。

6.根据权利要求5所述的融合注意力模型的卷积神经网络协同过滤推荐方法，其特征在于，所述多层感知器是包括多个隐藏层的深度神经网络，隐藏层定义为：

L_j＝σ_j(w_jL_j-1+b_j) (公式5)

其中，j表示多层感知器中隐藏层的个数，σ_j、w_j和b_j分别表示对应隐藏层的激活函数、权重和偏差值。

7.根据权利要求6所述的融合注意力模型的卷积神经网络协同过滤推荐方法，其特征在于，利用损失函数更新权重的值，损失函数的计算公式为：

其中，m表示训练集记录条数，表示预测评分，表示实际评分，t表示第几个评分，

利用公式6所得的损失值进行随机梯度下降来更新模型的权重，计算公式为：

其中，α代表学习率，表示每次向着函数J(w)最陡峭的方向迈步的大小，w_j表示权重，w_j：表示更新后的权重，表示梯度。