[发明专利]基于片段和自注意力机制的序列推荐方法及系统

权利要求书

1.一种基于片段和自注意力机制的序列推荐方法，其特征在于，包括：

将输入的物品序列重组为片段序列，包括：

获取物品序列：

式中，表示序列中的第t个物品，t表示时间戳；

获取物品序列的子序列：

式中，{,}表示向量的拼接，r表示片段的长度；x_t＝v_t+p_t，v_t、p_t分别表示物品的d维嵌入向量、位置向量；

重组子序列，得到片段序列：

式中，a表示片段的步长，n_u表示原物品序列的长度；

将片段序列表示为矩阵形式：

利用神经网络模型对所述片段序列进行特征提取；所述神经网络模型为transformer网络，包括：自注意力层，用于对所述片段序列进行特征提取；输出层，用于输出提取结果；

将部分提取结果输入至softmax函数，利用所述softmax函数预测每个物品为下一推荐物品的概率；

根据所述概率建立神经网络模型的损失函数，当所述损失函数未满足预设条件时，将剩余提取结果输入至神经网络模型进行模型训练，直至所述损失函数满足预设条件时，将对应的神经网络模型作为目标模型，用于物品的序列推荐。

2.根据权利要求1所述的基于片段和自注意力机制的序列推荐方法，其特征在于，利用梯度下降法进行模型训练。

3.一种基于片段和自注意力机制的序列推荐系统，其特征在于，包括：

序列重组单元，用于将输入的物品序列重组为片段序列，包括：

获取物品序列：

式中，表示序列中的第t个物品，t表示时间戳；

获取物品序列的子序列：

式中，{,}表示向量的拼接，r表示片段的长度；x_t＝v_t+p_t，v_t、p_t分别表示物品的d维嵌入向量、位置向量；

重组子序列，得到片段序列：

式中，a表示片段的步长，n_u表示原物品序列的长度；

将片段序列表示为矩阵形式：

特征提取单元，用于利用神经网络模型对所述片段序列进行特征提取，所述神经网络模型为transformer网络，包括：自注意力层，用于对所述片段序列进行特征提取；输出层，用于输出提取结果；

预测单元，用于将部分提取结果输入至softmax函数，利用所述softmax函数预测每个物品为下一推荐物品的概率；

训练单元，用于根据所述概率建立神经网络模型的损失函数，当所述损失函数未满足预设条件时，将剩余提取结果输入至神经网络模型进行模型训练，直至所述损失函数满足预设条件时，将对应的神经网络模型作为目标模型，用于物品的序列推荐。

4.根据权利要求3所述的基于片段和自注意力机制的序列推荐系统，其特征在于，所述训练单元，还用于利用梯度下降法进行模型训练。

5.一种终端设备，其特征在于，包括：处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至2中任一项所述的基于片段和自注意力机制的序列推荐方法。

6.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行实现如权利要求1至2任一项所述的基于片段和自注意力机制的序列推荐方法。