[发明专利]神经网络的训练、对话生成方法及装置、存储介质

说明书

本公开提供了一种神经网络的训练、对话生成方法及装置、存储介质，其中，神经网络包括生成器模块以及多个判别器模块，其中，多个判别器模块对应不同优化目标，该方法包括：将样本查询语句输入所述生成器模块，得到第一回复语句；在所述多个判别器模块中，确定第一轮对抗训练采用的第一判别器模块；获取与所述样本查询语句对应的样本回复语句，并根据所述样本回复语句和所述第一回复语句，确定所述第一判别器模块在对应的第一优化目标上产生的第一奖励信号；在所述第一轮对抗训练中，根据所述样本回复语句、所述第一回复语句、所述第一奖励信号，对所述神经网络进行训练。

技术领域

本公开涉及语言处理领域，尤其涉及一种神经网络的训练、对话生成方法及装置、存储介质。

背景技术

对话生成是对话系统领域中的重要问题。对话生成模型可以在很多领域有重要应用，如智能聊天机器人回复生成，人机交互等。

实现对话生成的过程是很复杂的，人类的对话语句往往会受到多个方面的影响，比如生成的对话语句是否流畅，是否符合语法规则，是否具有信息含量等多个语言学方面。目前的对话生成模型通过改进细粒度的优化目标，通常只能关注到其中一个方面。

发明内容

本公开提供了一种神经网络的训练、对话生成方法及装置、存储介质。

根据本公开实施例的第一方面，提供一种神经网络的训练方法，所述神经网络包括生成器模块以及多个判别器模块，其中，多个判别器模块对应不同优化目标，所述方法包括：将样本查询语句输入所述生成器模块，得到第一回复语句；在所述多个判别器模块中，确定第一轮对抗训练采用的第一判别器模块；获取与所述样本查询语句对应的样本回复语句，并根据所述样本回复语句和所述第一回复语句，确定所述第一判别器模块在对应的第一优化目标上产生的第一奖励信号；在所述第一轮对抗训练中，根据所述样本回复语句、所述第一回复语句、所述第一奖励信号，对所述神经网络进行训练。

在一些可选实施例中，所述在所述第一轮对抗训练中，根据所述样本回复语句、所述第一回复语句、所述第一奖励信号，对所述神经网络进行训练，包括如下至少一项：在所述第一轮对抗训练中，根据所述第一奖励信号，对所述生成器模块进行训练；在所述第一轮对抗训练中，根据所述样本回复语句和所述第一回复语句，对所述第一判别器模块进行训练。

在一些可选实施例中，所述将样本查询语句输入所述生成器模块，得到第一回复语句，包括：通过叠加的多层长短期记忆网络对输入的所述样本查询语句进行编码，得到与所述样本查询语句对应的至少一个隐状态向量；再通过叠加的多层长短期记忆网络对与所述样本查询语句对应的至少一个隐状态向量进行解码后，得到所述第一回复语句。

在一些可选实施例中，所述多个判别器模块对应的采样概率值满足采样分布函数；所述在所述多个判别器模块中，确定第一轮对抗训练采用的第一判别器模块，包括：根据所述采样分布函数，将所述多个判别器模块中所述采样概率值最大的判别器模块作为所述第一判别器模块。

在一些可选实施例中，所述根据所述样本回复语句和所述第一回复语句，确定所述第一判别器模块在对应的第一优化目标上产生的第一奖励信号，包括：通过第一判别器模块从所述样本回复语句和所述第一回复语句中提取与所述第一优化目标对应的特征信息；根据与所述第一优化目标对应的所述特征信息，确定所述第一回复语句在所述第一优化目标上取得的第一分值；在所述第一轮对抗训练中，将所述第一分值相对于第二分值的差值作为所述第一奖励信号对应的数值；其中，所述第二分值是上一轮对抗训练中生成器模块生成的回复语句在所述第一优化目标上取得的分值。