[发明专利]基于对话逻辑的多轮口语理解方法、系统、装置

说明书

本发明属于人机对话技术领域，具体涉及一种基于对话逻辑的多轮口语理解方法、系统、装置，旨在解决现有多轮口语理解方法对历史对话数据利用率低的问题。本系统方法包括获取当前对话数据、历史对话数据；通过双向门控循环神经网络，分别将当前对话数据和历史对话数据编码成输入向量和记忆向量；根据所述输入向量、所述记忆向量，通过基于注意力机制的记忆检索方法生成语境知识向量；基于所述语境知识向量和所述当前对话数据，通过多轮口语理解模型获取当前对话数据的意图分类信息和语义槽填充信息。本发明可以在多轮口语理解中对历史对话数据高效的利用，提升语言理解在多轮场景下的性能。

技术领域

本发明属于人机对话技术领域，具体涉及一种基于对话逻辑的多轮口语理解方法、系统、装置。

背景技术

任务型对话系统是在某一特定领域(餐馆、酒店或机票等领域)，通过自然语言交互的形式，辅助用户完成任务的人机交互系统。任务型对话系统需要具有如下四个基本功能：口语理解、对话状态跟踪、对话策略和对话生成。其中，口语理解(Spoken LanguageUnderstanding，SLU)作为整个系统的入口，是非常重要的技术模块，主要任务是在人机交互的对话系统限定的语境中理解话语的含义，它通常包括领域分类、用户意图检测和语义槽填充三个子任务，也有一些系统把领域分类和意图检测合并处理。

传统的SLU通常是给定当前用户输入，进行解析，即为单轮语言理解。但实际中，用户通常需要与对话系统进行多轮交互才能完成一个完整的对话任务，虽然多轮对话可以拆分成多个单轮对话，然后分别解析，但这样没有考虑语境关系，即上下文，而这种语境信息对于解决一些对话内的共指、歧义、话题跳转等问题尤为重要。因此，多轮语言理解的研究具有很高的研究价值。

如何从模型层面对给定数据进行更高效的利用，提升语言理解模块在多轮场景下的性能，是一个非常具有挑战性的任务。目前的已有的方法主要是采用记忆网络来对对话历史进行建模，提高多轮口语理解，但这些研究关于对话语境的建模还很初步，只是利用SLU训练目标来优化记忆网络的语境记忆，没有充分挖掘对话历史信息的价值。

发明内容

为了解决现有技术中的上述问题，即为了解决现有多轮口语理解方法对历史对话数据利用率低的问题，本发明第一方面，提出了一种基于对话逻辑的多轮口语理解的方法，该方法包括：

步骤S10，获取口语理解数据集；所述口语理解数据集包括当前对话数据、历史对话数据；

步骤S20，通过双向门控循环神经网络，分别将所述当前对话数据和所述历史对话数据编码成输入向量和记忆向量；

步骤S30，根据所述输入向量、所述记忆向量，通过基于注意力机制的记忆检索方法生成语境知识向量；

步骤S40，基于所述语境知识向量和所述当前对话数据，通过多轮口语理解模型获取当前对话数据的意图分类信息和语义槽填充信息；

其中，

所述基于注意力机制的记忆检索方法为基于注意力机制得到输入向量的权重对记忆向量进行加权求和，生成语境知识向量的方法；

所述多轮口语理解模型基于层叠式的双向循环神经网络构建，用于基于当前对话数据及其对应的语境知识向量获取当前对话数据的意图分类信息和语义槽填充信息。

在一些优选的实施方式中，步所述多轮口语理解模型在训练过程中基于对话逻辑进行优化，其优化具体步骤为：

获取口语理解数据集中每条数据对应的对话逻辑推理数据；

根据多轮口语理解模型中的语境知识向量、预设维度变换的权重矩阵，采用softmax函数构建对话逻辑推理模型；

基于多轮口语理解模型的意图分类和语义槽填充、所述对话逻辑推理数据，根据联合优化损失函数对多轮口语理解模型、对话逻辑推理模型进行优化训练；

其中，