[发明专利]一种基于统一用户行为建模的搜索和推荐融合系统

说明书

本发明通过人工智能处理领域的方法，实现了一种基于统一用户行为建模的搜索和推荐融合系统。通过四个组成模块构成的统一的搜索推荐模型，解决搜索和推荐两个独立的任务；所述四个组成模块包括：文本编码器，用于学习文档和查询的表示向量；会话编码器，用于建模当前会话中的用户行为序列来明确用户的信息需求；历史编码器，从长期历史中挖掘信息来增强用户意图的表示；统一任务框架，以统一的方式完成个性化搜索和推荐任务，最终得到对于候选文档的个性化得分。本发明同时关注了个性化搜索和推荐两个任务，合并了用户的搜索行为和推荐中的浏览行为，并设计了一个统一的搜索和推荐模型基于合并的数据来同时解决这两个问题，从而提升两个任务的效果。

技术领域

本发明涉及人工智能领域，尤其涉及一种基于统一用户行为建模的搜索和推荐融合系统。

背景技术

搜索和推荐是用户获取信息的两种主要途径，为了提升用户对搜索结果和推荐列表的满意度，很多个性化搜索模型和推荐模型陆续被提出。这些模型旨在于从用户的历史行为中挖掘用户兴趣从而推断用户当前的个性化意图。

根据是否使用深度学习，现有的个性化搜索模型可以分为两大类：传统的个性化搜索模型和基于深度学习的个性化搜索模型。传统的个性化搜索模型主要依靠特征或启发式算法来分析用户兴趣。一部分工作认为用户的点击行为充分体现了用户兴趣，使用点击特征来帮助个性化排序；一部分工作则利用话题模型(Topic Model)从用户历史点击过的文档中抽取话题，并根据这些话题在话题空间中建立用户的兴趣画像；还有一部分工作采用特征工程，从用户的查询历史中抽取一系列与用户兴趣相关的特征来构成用户兴趣的表示。然而，这些传统方法基于经验对用户兴趣进行分析建模，对特征合理性和有效性的要求极高，而且得到的兴趣向量涵盖范围也很有限。为了解决这些问题以更好地挖掘用户兴趣，一系列基于深度学习的个性化搜索模型被提出。其中一部分模型不显式地设计特征来表示用户兴趣，而是直接从用户的查询日志中学习得到用户兴趣的分布式表示向量；另一部分模型则是直接利用单个用户的查询日志作为训练数据来训练满足个性化搜索的个人排序模型；还有一部分模型从直接消除查询歧义的角度出发来提升个性化效果。

传统的推荐模型主要依赖于协同过滤CF(Collaborative Filtering)和分解机FM(Factorization Machine)。随着深度学习的兴起，很多模型还融入了低阶和高阶的特征交互。对于新闻文章的推荐，由于其包含丰富的文本信息，很多基于表示的模型被提出。这些模型主要由两个模块构成：文本编码器和用户编码器。文本编码器用于获得新闻文章的表示向量，用户编码器则基于用户的浏览历史来建模用户表示。然后，我们依据新闻和用户的相关性来对待推荐的新闻文章进行排序。很多网络结构被用于学习文本和用户的表示向量，包括RNN，自编码器，多头自注意力机制等。新闻的各个部分，包括标题、正文、话题类别都被使用了。此外，为了丰富新闻的语义表示向量，实体信息和知识图谱也被使用。图神经网络也被用于捕捉新闻文章和用户之间更高阶的关联。

有少量方法简单地结合了推荐和搜索两个任务。在电商领域，一个早期的搜索推荐联合系统合并了两者的特征；Zamani等人提出了一个联合训练框架——通过优化两个任务的联合损失来同时训练两个任务模型；搜索历史也被用于增强推荐任务的效果。