[发明专利]一种基于多任务学习的对话意图识别方法及识别系统

说明书

本发明提供了一种基于多任务学习的对话意图识别方法，包括以下步骤：S1：采集对话语料，构造Complete数据集；S2：选取部分对话，标注每个语句的意图，构造Intent数据集；S3：划分Intent数据集为训练集、验证集和测试集；S4：输入Intent训练集和Complete数据集，训练多任务学习模型；S5：每完成一次训练迭代，计算Intent验证集的损失值；S6：选择验证集损失值最小时的模型作为训练得到的最终模型；S7：利用Intent测试集评估模型性能，计算样本准确率等评价指标；S8：将新的对话语句输入已训练好的模型，识别其意图。本发明充分利用对话语句之外的辅助信息学习丰富的语句表征，以此提升意图识别性能。

技术领域

本发明涉及自然语言处理技术领域，尤其涉及对话意图识别方法及识别系统。

背景技术

近年来，以对话系统为基础的虚拟语音助手、智能音箱和智能服务机器人获得了极大关注，逐渐发展为新的人机交互手段，也在促进大众生活方式的变革。正确识别对话中每个语句的意图是实现对话系统的关键一步，影响着对话理解的准确性以及后续处理流程。

作为一个分类问题，意图识别方法主要有基于规则的、基于传统机器学习、基于深度学习的等类型。基于规则的意图识别需要专家设计匹配模板，只适合小规模、特定领域的对话系统。基于传统机器学习的意图识别有最大熵、隐马尔可夫、条件随机场、支持向量机、深度置信网络等模型。如今，基于卷积神经网络、循环神经网络等深度学习模型的意图识别成为研究的主流。

上述模型大多关注语句本身的词法、句法和语义特征，忽视了语句之外的轮次、发言者等辅助信息，这些信息往往与意图有着很强的关联性。例如，提问相关的意图多由用户发出且位于对话开头，回答相关的意图则由系统发出且位于对话结尾。有效利用这些强关联的辅助信息，势必可以进一步提升对话意图识别性能。

发明内容

本发明的目的是提供一种基于多任务学习的对话意图识别方法，以有效利用与意图有强关联的轮次、发言者等辅助信息，充分性训练模型，习得丰富的语句表征，从而提升意图识别性能。

为实现上述目的，本发明提供如下技术方案：

首先，是构造Complete和Intent两个数据集。Complete数据集主要提供辅助信息相关的训练样本，Intent数据集则提供意图分类样本。具体地，采集对话语料，构造Complete数据集；选取部分对话语料，标注每个语句的意图，构造Intent数据集；将Intent数据集按8:1:1的比例随机划分为训练集、验证集和测试集三个部分。Complete数据集中每个对话包含多轮交互，每轮交互由轮次、发言者、语句等部分组成。语句意图可以是初始提问、重复提问、澄清提问、后续提问、信息补充、答案回复、积极反馈、消极反馈、问候、感谢、其他中的一个或多个。初始提问指对话开始时提出的第一个问题；重复提问指重复之前的问题；后续提问指与初始提问相关的其他问题；澄清提问指请求问题相关的更多细节；信息补充指提供问题相关的更多细节；答案回复指潜在答案或解决方案；积极反馈指解决方案可行；消息反馈指解决方案不可行；问候指礼貌地问候对方；感谢指向对方表达感谢；其他指不属于以上任何一类的意图。Intent训练集和验证集用于模型训练，训练集则用来评估模型性能。