[发明专利]一种基于多回复解码器的对话系统

说明书

本发明涉及一种基于多回复解码器的对话系统。数据预处理模块对系统回复和用户对话进行去词化操作；对话编码器模块负责编码历史对话信息，将对话文本序列映射为对应时间步的隐藏状态表征向量；对话状态解码器模块负责根据对话编码器的输出和上一轮对话状态，解码出本轮对话状态；外部数据库模块，负责根据对话状态解码器的输出查询满足用户要求的所有实体，以三元组（领域，槽，槽值）的形式存储；系统动作解码器模块，负责根据对话状态解码器的输出、数据库的返回结果和本轮用户对话解码出本轮系统动作；系统回复生成模块，由全局回复解码器、专业子解码器及通道选择网络组成。本发明能够提高系统回复的准确性，提高用户和系统的交互效率。

技术领域

本发明涉及人机对话领域，具体涉及一种基于多回复解码器的对话系统。

背景技术

对话系统的研究旨在让机器理解人类语言，并且赋予机器人和人类一样的语言表达能力，并且帮助人类完成各类任务。对对话系统在任务的要求是，给定一句话或者几句话，机器能够根据这几句话以及自身的知识系统，给出一个合理的回复(或是生成简单的操作指令)。对话系统的发展改变了人机交互的方式，具有广泛的实际应用价值，现已有很多典型应用，如苹果智能语音助手——Siri，小米智能家居的大脑——小爱以及微软强大的面向交互全程的人工智能交互主体框架——小冰。任务型对话系统的研究主要有两种方法：管道型方法和基于端到端的对话模型。下面将对着两种建模方法做简要介绍。

管道模型主要有四个核心组件：1)自然语言理解(Natural LanguageUnderstanding,NLU)：对用户的文本输入进行识别解析，得到槽值对(slot-valuepairs)和意图等计算机可理解的语义标签；2)对话状态跟踪(Dialog State Tracking,DST)：根据对话历史，维护当前对话状态，对话状态是对整个对话历史的累积语义表示，一般就是槽值对(slot-value pairs)；3)对话策略(Dialogue Policy)：根据当前对话状态输出下一步系统动作。一般对话状态跟踪模块和对话策略模块统称为对话管理模块(Dialogue manager,DM)；4)自然语言生成(Natural Language Generation,NLG)：将系统动作转换成自然语言输出。这种模型的缺点是不够灵活，各个模块之间相对独立，难以联合调优，适应变化的应用场景。并且由于模块之间的误差会层层累积，单一模块的升级也可能需要整个系统一起调整。

任务型对话系统的另一种实现是端到端系统，这类结构受到开放域对话系统研究的启发，开放域对话系统使用神经模型以端到端方式构建系统，不进行模块化设计，希望训练一个从用户端自然语言输入到机器端自然语言输出的整体映射关系，具有灵活性强、可拓展性高的特点，减少了设计过程中的人工成本，打破了传统模块之间的隔离。面向任务的对话系统的端到端方法大多采用Seq2seq神经网络作为基础结构框架。然而，端到端模型对数据的数量和质量要求很高，并且对于填槽、API调用等过程的建模不够明确，最终导致用户与系统之间交互周期长、系统回复不准确、缺乏多样性以及易生成无用回复等问题。

发明内容

本发明的目的在于提供一种基于多回复解码器的对话系统，系统能够在每一轮对话中生成多个候选回复，并能够选择出其中最符合用户需求的一个候选回复，最终实现提高系统回复的准确性，提高用户和系统的交互效率。

为实现上述目的，本发明的技术方案是：一种基于多回复解码器的对话系统，包括：

数据预处理模块，对系统回复和用户对话进行去词化操作，降低由于语言表达的多样性给对话系统带来的干扰；

对话编码器模块，负责编码历史对话信息，将对话文本序列映射为对应时间步的隐藏状态表征向量；

对话状态解码器模块，负责根据对话编码器模块的输出和上一轮对话状态，解码出本轮对话状态；本轮对话状态包含四类信息，分别是：1)用户对话中涉及的对话领域信息、2)用户动作信息、3)确信状态、4)数据库查询结果；