[发明专利]一种基于结构化用户属性描述的个性化任务型对话系统

说明书

本发明是一种基于结构化用户属性描述的个性化任务型对话系统，通过结构化三元组的形式来描述用户的个性，然后再使用与对话上下文紧密相关的动态编码方法捕获用户个性知识，最后再使用端到端的对话检索模型融合动态个性编码来选择最合适贴切的回复，从而避免生成大量通用、千篇一律的答复，达到千人千面的效果，提高用户在对话过程中的融入感。

技术领域

本发明涉及一种基于结构化用户属性描述的个性化任务型对话系统，属于人机交互领域。

背景技术

NLP技术的发展极大促进了任务型对话系统的研究，但是现有的任务型对话系统往往存在以下两个缺陷：

一、现有的任务型对话系统是纯数据驱动的，系统只能根据已有的对话数据来学习对话模式，这样会导致生成的答复趋向于通用、千篇一律，即针对于所有用户生成的回复是一致的，缺乏人类对话时的灵活性。

二、目前针对于用户个性的描述大部分是自然语言，包含很多的噪声，在编码的时候往往缺乏与对话内容之间的交互，即用户个性编码是纯静态的，不能随着对话内容的改变而变化。

发明内容

本发明技术解决问题：本发明提供了一种基于结构化用户属性描述的个性化任务型对话系统，应用于餐厅预订领域，其目的在于，不仅可以生成正常策略的对话回复，还可以使得生成的回复更加贴切于特定的用户，提高用户在对话过程中的融入感。

本发明技术解决方案：一种基于结构化用户属性描述和自适应动态编码的个性化任务型对话系统，主要包括以下两个模块：用户个性动态编码模块，个性化匹配模块。用户个性动态编码模块负责将输入的结构化用户属性描述编码为一个特征向量，在编码的过程中，用户个性动态编码模块使用对话的上下文来自动选择用户结构化用户属性描述中最重要和相关的属性，然后再结合一个分布式的静态全局个性编码，最终得到一个多粒度的内容相关的用户个性编码；个性化匹配模块负责融合用户个性编码和对话内容，来从候选回复集中选择最合适贴切的对话回复。

用户个性动态编码模块：用户个性编码分为两部分，一是细粒度的对话上下文相关的动态编码，二是粗粒度的全局静态个性编码。这两种编码方式相互结合，最终得到一个多粒度的、对话上下文相关的用户个性编码。

本发明中的用户个性描述是结构化三元组的形式，区别于传统的自然语言描述，这种描述方式的优点是结构简单，容易从真实的实际场景中收集，相对于自然语言形式这种三元组的噪音更少，有利于简洁高效地获取用户个性编码。

细粒度的对话上下文相关的动态编码，首先编码当前轮次的对话上下文，获得对话历史的编码向量；然后使用得到的对话历史编码向量自适应地对结构化用户个性描述做注意力计算，以自动捕获与当前对话上下文最相关、最重要的用户属性知识，最终可以得到细粒度的对话上下文相关的动态编码。

粗粒度的全局静态个性编码，本发明除了使用细粒度的对话上下文相关的动态编码，还对全局的用户个性进行建模。首先分别对用户个性描述中的所有属性分别进行one-hot编码(01编码)，然后乘以一个用户个性编码矩阵，这个矩阵在训练初始阶段是随机初始化得到的，就得到粗粒度的全局静态个性编码。

个性化匹配模块，获得用户个性编码之后，还需要将用户个性编码融合到对话上下文与候选答复的匹配过程中，本发明采用增强自然语言推理模型(ESIM)作为匹配模型，然后在ESIM模型的聚合层中融入用户个性编码向量，同时在ESIM的输出层增加一个与用户实体偏好相关的偏置参数。通过个性化匹配模块，本发明可以选择最合适贴切的回复，从而避免生成大量通用、千篇一律的答复，达到千人千面和推荐的效果，提高用户在对话过程中的融入感。

本发明是一种基于结构化用户属性描述的个性化任务型对话系统，可以得到以下有益效果：