[发明专利]基于个性化信息的回复生成方法、设备和计算机可读介质

说明书

本公开提供了一种回复生成方法，所述回复生成方法通过以下中的至少一种方式进行优化：方式一、将用户个性化信息的至少两种属性信息组合转换为用户个性化隐向量；方式二、在根据词向量来生成编码器隐向量之前，采用所述用户个性化隐向量对所述词向量进行处理；方式三、将用户个性化隐向量拆分为第一用户个性化隐向量以及第二用户个性化隐向量，采用所述第一用户个性化隐向量对解码器的输入隐向量进行处理，采用所述第二用户个性化隐向量对解码器的输出隐向量进行处理。本公开还提供了回复生成设备、对对话模型的训练方法以及计算机可读介质。

技术领域

本公开涉及自然语言处理领域，更具体地，涉及一种基于个性化信息的回复生成方法、设备和计算机可读介质。

背景技术

如何与机器使用自然语言展开对话，是人工智能领域的一个重要研究课题。事实上，人机对话技术被视为人工智能领域最富挑战性的任务。一个机器是否能模仿人类与其他人展开对话甚至被当作判断这个机器是否有“智能”的标准。

人机对话技术的主要挑战集中在于如何解决交互过程中的语义性、一致性和交互性。语义性涉及自然语言理解的根本问题，需要在交互过程中理解用户输入内容、上下文、对话背景(对话者身份、角色)与情境(情感、情绪)，还常常涉及到利用常识、世界知识、背景知识进行逻辑推理等。一致性对于“类人水平”的对话机器人非常重要，常常体现为身份、个性化、性格等因素上的一致性。而这些因素如何体现在语言交互上，是非常前沿和具有挑战性的问题。交互性是对话系统的终极目标：通过有效的交互，满足用户的信息需求或情感需要，或实现特定的任务目标。

人机对话技术从对话交互目标的类型上可大致分为三类。

第一类是以闲聊为主的人机对话。这类对话系统不以完成某个具体任务为目标，纯粹是为了与用户进行情感交流和沟通。这种人机对话技术通常应用于娱乐、情感陪护或者护理型机器人上。微软小冰就是其典型代表。她可以陪用户聊天解闷，甚至引导用户的情绪。这类对话系统所产生的回复不限定于某个特定领域，属于开放域的对话系统。

第二类人机对话技术主要用于任务导向的对话系统。这类系统具有明确的任务目标，通常是为了解决某一个具体的任务，如订餐馆，订票等。通过这样的系统，可以极大地减少人力成本。因此这项技术受到了商业公司的广泛关注。这类对话系统所能处理的问题与回复通常只限定于某个特定领域或者某些内容范围。但受限于当前技术，使用任务型对话系统完全替代人工还不现实，因此人机协作式的对话系统是值得深入研究和探索的课题。

任务导向对话系统还有一类比较特殊的分支，那就是知识问答系统。不同于常规的任务导向对话系统，知识问答系统主要关注于使用准确、简洁的自然语言回答用户用自然语言所提出的问题，从而可以快速、准确地帮助人们获取信息。事实上，我们也可以将“获取信息”当作是某种“任务”。随着技术的进步，这类系统也在传统的单轮次问答模式上引入了多轮次的对话交互(如交互式的商品推荐)，以应对复杂的信息获取需求。

但是，现有技术在生成回复的过程中并没有考虑到不同的回复风格。事实上，不同性格的用户在相同的上下文中所产生的回复风格是不同的。

如何在生成回复的过程中考虑用户个性化信息是亟待解决的技术问题。

发明内容

根据本公开提出的方案，就可以在生成回复的过程中考虑用户个性化信息。

根据本公开的第一方面，提供了一种回复生成方法，包括：

在编码器侧，将输入文本转换为词向量，根据所述词向量来生成编码器隐向量；

在解码器侧，根据编码器隐向量生成解码器隐向量，根据解码器隐向量生成回复；以及

生成用户个性化隐向量，将所述个性化隐向量用于所述编码器侧和/或解码器侧；

所述方法通过以下中的至少一种方式进行优化：