[发明专利]对话模型训练方法及装置、对话生成方法及装置

权利要求书

1.一种对话模型训练方法，其特征在于，包括：

将第一语句、第二语句及第一语句的预设知识语句输入对话模型；所述第二语句为所述第一语句的参考答复语句；

根据所述第一语句及所述第一语句的预设知识语句，利用所述对话模型确定所述第一语句的预设知识语句与所述第一语句的预估相关概率；根据所述第一语句、所述第二语句及所述第一语句的预设知识语句，利用所述对话模型确定所述第一语句的预设知识语句与所述第一语句的参考相关概率；

根据所述预估相关概率和所述参考相关概率的偏差，获得第一优化方案；

根据所述第一优化方案，优化所述对话模型。

2.根据权利要求1所述的方法，其特征在于，所述将第一语句、第二语句及第一语句的预设知识语句输入对话模型之后，还包括：

利用对话模型分别对第一语句、第二语句及第一语句的预设知识语句进行编码，得到第一语句的语句向量、第二语句的语句向量、预设知识语句的语句向量；

所述根据所述第一语句、预设知识语句，利用所述对话模型确定所述预设知识语句与所述第一语句的预估相关概率，包括：根据所述第一语句的语句向量和所述预设知识语句的语句向量，确定所述预估相关概率；

根据所述第一语句、所述第二语句及所述预设知识语句，利用所述对话模型确定所述预设知识语句与所述第一语句的参考相关概率，包括：根据所述第一语句的语句向量、第二语句的语句向量，获得所述第一语句和所述第二语句的结合向量；根据所述结合向量和所述预设知识语句的语句向量，确定所述参考相关概率。

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

根据第一语句获得第一语句的加权向量；根据所述参考相关概率在所述预设知识语句中确定与所述第一语句相关的所述预设知识语句；

根据所述加权向量和所述与所述第一语句相关的所述预设知识语句，确定参考输出语句；根据所述参考输出语句和所述第二语句，获得第二优化方案；根据所述第二优化方案，优化所述对话模型；

和/或，根据所述与所述第一语句相关的所述预设知识语句，获得答案中的预估词；根据所述预估词和所述第二语句，获得第三优化方案；根据所述第三优化方案，优化所述对话模型。

4.根据权利要求3所述的方法，其特征在于，所述对话模型包括：上文编码器、知识编码器、知识管理器及解码器；

所述上文编码器用于对输入的第一语句进行编码，得到所述第一语句的语句向量和加权语句向量；

所述知识编码器用于对输入的预设知识语句进行编码，得到所述预设知识语句的语句向量；还用于对所述第二语句进行编码，得到所述第二语句的语句向量；

所述知识管理器用于根据所述预设知识语句的语句向量、第一语句的语句向量，确定所述预估相关概率；还用于根据所述预设知识语句的语句向量、所述第一语句的语句向量和所述第二语句的语句向量，确定所述参考相关概率；以及用于根据所述参考相关概率确定与所述第一语句相关的所述预设知识语句；

所述解码器用于根据所述加权语句向量和所述第一语句相关的预设知识语句的语句向量，生成所述参考输出语句。

5.一种对话生成方法，其特征在于，包括：

将第三语句和第三语句的预设知识语句输入对话模型；

获得第三语句的参考答复语句，所述第三语句的参考答复语句为所述对话模型根据所述第三语句及所述第三语句的预设知识语句确定的；

所述对话模型为采用权利要求1至4中任意一种方法优化后的对话模型。

6.根据权利要求5所述的方法，其特征在于，所述对话模型包括：上文编码器、知识编码器、知识管理器及解码器；

所述上文编码器用于对输入的第三语句进行编码，得到所述第三语句的语句向量和加权语句向量；

所述知识编码器用于对输入的预设知识语句进行编码，得到所述预设知识语句的语句向量；

所述知识管理器用于根据所述预设知识语句的语句向量、第一语句的语句向量和第二语句的语句向量，确定与所述第三语句相关的预估知识语句；

所述解码器用于根据所述加权语句向量和所述预估知识语句，生成所述参考答复语句。