[发明专利]一种基于自我评论序列学习的对话回复生成方法及系统

说明书

本发明公开了一种基于自我评论序列学习的对话回复生成方法及系统，其中，对话回复生成方法包括以下步骤：(1)对当前对话的上下文语境进行建模，获得上下文语义向量；(2)根据上下文语义向量，建立基于自我评论序列学习的对话模型；(3)对对话模型进行训练和测试，分别得到训练奖励值和测试奖励值；(4)计算两个奖励值之间的差，通过计算策略梯度，优化对话模型；(5)对话模型训练完毕，输出对话回复。利用本发明，可以使得对话生成模型在训练过程中，能够朝着优化评判指标的方向生成更加有实质意义的回复，大幅度降低生成对话的不稳定性。

技术领域

本发明涉及自然语言处理对话系统领域，尤其是涉及一种基于自我评论序列学习的对话回复生成方法及系统。

背景技术

近年来，对话系统作为人机交互一项重要的技术支持，受到广大来自工业界和学术界研究者的关注。而对话回复生成，一直以来都是对话系统中最为热门和棘手的任务之一。对话回复生成技术，即给定具体上下文语境，以及当前对方给出的聊天对话，机器能够通过语义理解和语义生成技术，生成符合语境，且有实质性回复内容的回复。这个技术已经广泛用于诸多人机交互系统中，例如智能客服系统，聊天机器人，个人智能助理，智能音箱等产品。

传统的对话生成技术，严重依赖基于规则的模板匹配方法，需要大量的劳力和专家经验。这种方法无法支撑大规模的对话场景，只能用于某些具体领域的小规模对话语境，具有不可扩展性。同时，由于人工标注信息不能达到百分百地覆盖所有对话场景，导致某些回复因为模板不匹配而出现词不达意，答非所问现象。而目前主流的对话生成技术，主要采取由Bahdanau等人在2014年在Computer Science杂志上发表的文章《Neural MachineTranslation by Jointly Learning to Align and Translate》中提出的编码器-解码器生成框架,即seq2seq。该框架原理为：输入一句对话，框架对这句对话进行编码，得到整句话的向量表示，再通过解码器对这句话向量的解读，解码生成跟这句话向量相关的文字回复。然而，该技术也依然存在一些天生的缺陷：一是生成分布偏差，即在训练集和测试集上对话生成分布很有可能是不一样的。二是目标函数不匹配问题，无法做到训练过程直接对评价指标进行优化。