[发明专利]神经网络的训练、对话生成方法及装置、存储介质

权利要求书

1.一种神经网络的训练方法，其特征在于，所述神经网络包括生成器模块以及多个判别器模块，其中，多个判别器模块对应不同优化目标，所述方法包括：

将样本查询语句输入所述生成器模块，得到第一回复语句；

在所述多个判别器模块中，确定第一轮对抗训练采用的第一判别器模块；

获取与所述样本查询语句对应的样本回复语句，并根据所述样本回复语句和所述第一回复语句，确定所述第一判别器模块在对应的第一优化目标上产生的第一奖励信号；

在所述第一轮对抗训练中，根据所述样本回复语句、所述第一回复语句、所述第一奖励信号，对所述神经网络进行训练。

2.根据权利要求1所述的方法，其特征在于，所述在所述第一轮对抗训练中，根据所述样本回复语句、所述第一回复语句、所述第一奖励信号，对所述神经网络进行训练，包括如下至少一项：

在所述第一轮对抗训练中，根据所述第一奖励信号，对所述生成器模块进行训练；

在所述第一轮对抗训练中，根据所述样本回复语句和所述第一回复语句，对所述第一判别器模块进行训练。

3.根据权利要求1或2所述的方法，其特征在于，所述将样本查询语句输入所述生成器模块，得到第一回复语句，包括：

通过叠加的多层长短期记忆网络对输入的所述样本查询语句进行编码，得到与所述样本查询语句对应的至少一个隐状态向量；

再通过叠加的多层长短期记忆网络对与所述样本查询语句对应的至少一个隐状态向量进行解码后，得到所述第一回复语句。

4.根据权利要求1-3任一项所述的方法，其特征在于，所述多个判别器模块对应的采样概率值满足采样分布函数；

所述在所述多个判别器模块中，确定第一轮对抗训练采用的第一判别器模块，包括：

根据所述采样分布函数，将所述多个判别器模块中所述采样概率值最大的判别器模块作为所述第一判别器模块。

5.根据权利要求1-4任一项所述的方法，其特征在于，所述根据所述样本回复语句和所述第一回复语句，确定所述第一判别器模块在对应的第一优化目标上产生的第一奖励信号，包括：

通过第一判别器模块从所述样本回复语句和所述第一回复语句中提取与所述第一优化目标对应的特征信息；

根据与所述第一优化目标对应的所述特征信息，确定所述第一回复语句在所述第一优化目标上取得的第一分值；

在所述第一轮对抗训练中，将所述第一分值的变化量作为所述第一奖励信号对应的数值。

6.根据权利要求5所述的方法，其特征在于，所述第一优化目标包括语言优化目标；

所述通过第一判别器模块从所述样本回复语句和所述第一回复语句中提取与所述第一优化目标对应的特征信息，包括：

通过叠加的多层长短期记忆网络从所述样本回复语句和所述第一回复语句中提取与所述语言优化目标对应的语言特征信息；

所述根据与所述第一优化目标对应的所述特征信息，确定所述第一回复语句在所述第一优化目标上取得的第一分值，包括：

通过二分类判别器对从所述样本回复语句和所述第一回复语句中提取的所述语言特征信息进行分类，得到分类结果；

将所述分类结果为真值的所述语言特征信息的概率值作为所述第一回复语句在所述语言优化目标上取得的所述第一分值。

7.根据权利要求5所述的方法，其特征在于，所述第一优化目标包括语法优化目标；

所述通过第一判别器模块从所述样本回复语句和所述第一回复语句中提取与所述第一优化目标对应的特征信息，包括：

通过预先训练好的语法图卷积神经网络，从所述样本回复语句和所述第一回复语句中提取与所述语法优化目标对应的语法特征信息；

所述根据与所述第一优化目标对应的所述特征信息，确定所述第一回复语句在所述第一优化目标上取得的第一分值，包括：

对从所述样本回复语句和所述第一回复语句中提取的所述语法特征信息依次进行批正则化处理和线性回归处理，确定所述第一回复语句在所述语法优化目标上取得的所述第一分值。