[发明专利]一种基于用户空间的多GRU层神经网络的隐含反馈推荐方法及系统

说明书

技术领域

本发明涉及系统推荐技术领域，具体涉及一种基于用户空间的多GRU层神经网络的隐含反馈推荐方法及系统。

背景技术

当前，网络服务商为用户提供了诸如新闻、商品、图片、视频、音频、文档等(以下统一简称为物品)的在线推荐服务，为了更好的为用户提供服务，服务提供商会记录用户访问过的所有物品，这种历史访问记录仅能说明用户对访问过的物品有一定的兴趣，并不能说明用户对未访问的物品不感兴趣，这是由于相对于用户所了解的物品数量，服务商提供的物品数量非常巨大，用户未访问某个物品可能是因为用户并不了解该物品，而不是不喜欢该物品，这种含义模糊的用户反馈给推荐带来了困难，该问题被称为隐含反馈推荐问题，是目前推荐系统中普遍存在而并不能很好解决的问题。

发明内容

有鉴于此，需要提供一种利用用户历史访问记录为用户提供准确推荐的方法及系统，此种推荐场景是基于隐含反馈的推荐，为了解决隐含反馈推荐问题，本发明提供一种基于用户空间的多GRU层神经网络的隐含反馈推荐方法及系统。

所述基于用户空间的多GRU层神经网络的隐含反馈推荐方法，所述方法的步骤如下：1)收集用户访问物品的历史行为信息，根据每一位用户访问物品的记录，按照行为发生时间的先后排序，为每一位用户生成训练样本；2)将物品映射到用户空间；3)根据训练样本，对多GRU(Gated Recurrent Unit)神经网络结构进行训练；

4)根据训练后的神经网络结构为用户生成推荐列表。

在上述技术方案中，所述步骤1)，网络服务供应商记录了用户访问过的物品信息，该记录为一个三元组集合，包括用户、物品以及访问时间。

在上述技术方案中，所述步骤2)包括以下分步骤：

2a)每个物品用向量v表示，初始时为随机生成；

2b)每个用户有一个代表其偏好的矩阵u，初始时为随机生成；

2c)在进入神经网络之前，做变换v_u＝u×v，其含义是将物品的向量v经过由用户偏好矩阵u表示的线性变换，变换到用户空间，该空间和特定用户的偏好相关。

在上述技术方案中，所述步骤3)包括以下分步骤:

3a)多GRU层神经网络是一个含有多个GRU层的递归神经网络，其t时刻的输入层为v_u(t)，输出层为o(t),s(t)为t时刻隐藏层的输出，s(t-1)为t-1时刻隐藏层的输出；

3b)根据多GRU层神经网络，计算出该神经网络的隐藏层、输出层、重置门、更新门、替代隐藏层以及利用训练样本进行训练得到权重矩阵；

3c)检查收敛条件，迭代次数达到上限或者目标函数的值不再减小，目标函数为其中||·||_F是F范数，θ代表所有的多GRU层神经网络中的连接权重矩阵，β是正规化参数，β的取值为1e-6，迭代次数上限K≤100，满足此条件时结束，否则进行步骤3d)；

3d)对步骤3c)中排序后的每一个训练样本，按照BP或BPTT算法，更新权重矩阵，其中用于BP或BPTT算法的学习率α的取值为0.001。

在上述技术方案中，所述步骤3b)多GRU层神经网络结构计算方法如下：

3b1)所述多GRU层神经网络中，GRU₀、GRU₁、…、GRU_L分别表示第0、1、…、L个GRU层，第t时刻，GRU₀、GRU₁、…、GRU_L的输出分别表示为s₀(t)、s₁(t)、…、s_L(t)；

3b2)所述输出层o(t)的第k个元素表示t+1时刻用户喜欢第k个物品的概率，其o(t)计算方法为：o(t)＝g(Ys_L(t))，其中Y是第L个GRU层GRU_L连接到输出层的权重矩阵，g是softmax函数，

3b3)所述多GRU层神经网络的第0个GRU层GRU₀的结构中，r₀表示GRU₀中的重置门，其计算方法为：

其中，分别表示输入层v_u(t)、s₀(t-1)连接到GRU₀中的重置门r₀的权重矩阵；σ是sigmoid函数,σ(x)＝1/(1+e^-x)；