[发明专利]一种基于多任务学习的序列化推荐方法

说明书

本发明涉及物品推荐领域，其公开了一种基于多任务学习的序列化推荐方法，提高系统推荐结果的准确率和多样性。该方法包括：S1、计算用户的意图向量表征信息，并与用户上下文信息、用户画像信息的Embedding表征进行特征拼接输入至双塔模型的用户侧，获取物品Embedding矩阵并输入至双塔模型的物品侧，生成初步的物品推荐列表；S2、采用基于卷积神经网络CNN和长短期记忆网络LSTM捕捉用户历史行为轨迹，并利用注意力机制从用户历史行为轨迹中捕捉与当前意图最相关的信息，结合初步物品推荐列表中的物品信息，通过滑动推理计算生成细粒度的有序推荐列表；S3、以细粒度的有序推荐列表作为输入，通过预训练的多任务学习神经网络模型调整序列的全局有序性，生成最终的推荐列表。

技术领域

本发明涉及物品推荐领域，具体涉及一种基于多任务学习的序列化推荐方法。

背景技术

随着移动互联网时代的到来，信息的规模增长迅猛，广大用户的信息需求在大数据时代得到了极大的满足。但是，这些信息大多数是碎片化的，而且随着硬件的发展，越来越多的人对信息的获取渠道从传统的PC端转向移动端的设备(如：手机)无时无刻的在收集着大量的信息，用户面对这样大量的信息通常会无从下手，从而造成无法对信息进行有效的选择，即存在信息过载问题。因此，如何从大规模数据中挖掘出有价值的信息成为众多企业和研究机构需要思考的问题。

信息过载问题在目前还是非常严重的，针对这个问题，对信息的高效分发可以有效的缓解这个问题。推荐系统可以有效的解决人与物之间的匹配关系，其本质是一个高效的信息分发系统，为每个用户匹配到最适合的信息。推荐系统与搜索引擎不同的是，它侧重于探究用户的隐性反馈，引入个性化信息进行计算，根据计算获得的用户兴趣爱好点，有针对性的对用户进行定向引导，使用户找到其自身需求。

随着信息的种类增加，用户的兴趣越来越多样化，传统的推荐系统已经不能满足用户对信息需求的多样性，很难根据用户的历史行为轨迹为其预估未来可能感兴趣的信息。因此，序列化推荐系统的研究和使用变得日益广泛，它可以从动态的视角对用户进行建模，来拟合用户的兴趣演进趋势，从而准确的预估出用户接下来感兴趣的信息。

随着深度学习时代的到来，已经有许多企业和研究机构提出了基于深度学习的方法并根据用户行为轨迹来建模序列化推荐系统，这些方法相比传统机器学习模型(如逻辑回归，因子分解机算法等)可以获得更好的预测结果。2016年，加利福尼亚大学圣迭戈分校提出了基于马尔可夫链的序列化推荐算法，旨在解决用户行为轨迹信息高阶依赖的问题，开启了序列化推荐算法的大门。2018年，阿里巴巴提出了DIN(Deep InterestNetwork forClick-Through Rate Prediction)模型，其利用用户行为轨迹数据，极大地增强了模型的预估效果，至此，基于用户行为轨迹信息的序列化推荐算法成为了研究的热点。此外，对于推荐系统，用户能提供的信息越丰富，系统为其匹配的信息就会越准确。知识图谱丰富的结构化信息，可以极大的丰富用户的信息，在2012年，Google提出了知识图谱(KnowledgeGraph)项目，并在其搜索页面上更新了这个功能。作为结构化信息的代表，知识图谱以全新的面貌出现在大众视野，也逐渐推动了工业界和学术界对其的研究。推荐系统的多样性、精准性和可解释性可以得到有效提升。

对于深度学习时代的推荐系统，往往采用的是有监督学习方式，面对海量的数据，推荐系统通常以用户是否会点击为目标进行建模，而实际上决定用户点击一个信息的原因是复杂的，如果能对用户点击某个信息的深层次原因进行建模，会更好的刻画用户对信息的兴趣方向。在2020年的NIPS会议上，JeffDean认为多任务学习会是人工智能的下一个里程碑，因此，将多任务学习应用在推荐系统上，也将会对推荐系统有一定的促进作用。

由此可见，如今的推荐系统，既需要对海量的信息进行高效的挖掘，也需要对用户的兴趣发展趋势做出正确的预估和引导。在对推荐系统的研究中，用户兴趣建模、匹配算法优化、推荐结果多样性等诸多问题亟待解决。序列化推荐方法可以捕捉用户与信息的动态变化，而以目标用户的历史行为轨迹为基础，流程化的为其预估未来的兴趣趋势，是最难解决的问题。