[发明专利]对话语句补全及模型训练方法、装置、设备和存储介质

说明书

本公开公开了一种对话语句补全及模型训练方法、装置、设备和存储介质，涉及人工智能技术领域，尤其涉及自然语言处理、人机对话等技术领域。对话语句补全模型的训练方法包括：采用编码器，对多轮对话语句样本进行编码处理，以生成语义特征，其中，所述多轮对话语句样本包括：待补全语句样本；基于所述语义特征，生成预测概率值；采用解码器，对所述语义特征进行解码处理，以生成所述待补全语句样本对应的预测完整语句；基于所述预测概率值，以及所述预测完整语句，构建总损失函数；基于所述总损失函数，调整所述编码器和所述解码器中至少一项的模型参数。本公开可以提高对话语句补全模型的准确度。

技术领域

本公开涉及计算机技术领域，具体涉及自然语言处理、人机对话等技术领域，尤其涉及对话语句补全及模型训练方法、装置、设备和存储介质。

背景技术

为了让机器像人一样自由的对话，对话机器人必然要具备连续对话的能力，即多轮对话。多轮对话中存在对话语句(query)缺失的现象，query缺失可能是由于指代或省略等引起的。

为了更好地理解query，一般会进行query补全。

发明内容

本公开提供了一种对话语句补全及模型训练方法、装置、设备和存储介质。

根据本公开的一方面，提供了一种对话语句补全模型的训练方法，所述对话模型包括：编码器和解码器，所述方法包括：采用所述编码器，对多轮对话语句样本进行编码处理，以生成语义特征，其中，所述多轮对话语句样本包括：待补全语句样本；基于所述语义特征，生成预测概率值；采用所述解码器，对所述语义特征进行解码处理，以生成所述待补全语句样本对应的预测完整语句；基于所述预测概率值，以及所述预测完整语句，构建总损失函数；基于所述总损失函数，调整所述编码器和所述解码器中至少一项的模型参数。

根据本公开的另一方面，提供了一种对话语句补全方法，包括：获取多轮对话语句，所述多轮对话语句包括：待补全语句；采用编码器，提取所述对轮对话语句的语义特征；采用解码器，基于所述语义特征，生成所述待补全语句对应的补全后的对话语句；其中，所述编码器和所述解码器是采用上述任一方面的任一项所述的训练方法训练的。

根据本公开的另一方面，提供了一种对话语句补全模型的训练装置，所述对话语句补全模型包括：编码器和解码器，所述装置包括：编码模块，用于采用所述编码器，对多轮对话语句样本进行编码处理，以生成语义特征，其中，所述多轮对话语句样本包括：待补全语句样本；选择模块，用于基于所述语义特征，生成预测概率值；解码模块，用于采用所述解码器，对所述语义特征进行解码处理，以生成所述待补全语句样本对应的预测完整语句；构建模块，用于基于所述预测概率值，以及所述预测完整语句，构建总损失函数；调整模块，用于基于所述总损失函数，调整所述编码器和所述解码器中至少一项的模型参数。

根据本公开的另一方面，提供了一种对话语句补全装置，包括：获取模块，用于获取多轮对话语句，所述多轮对话语句包括：待补全语句；编码模块，用于采用编码器，提取所述对轮对话语句的语义特征；解码模块，用于采用解码器，基于所述语义特征，生成所述待补全语句对应的补全后的对话语句；其中，所述编码器和所述解码器是采用上述任一方面的任一项所述的训练方法训练的。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上述任一方面的任一项所述的方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如上述任一方面的任一项所述的方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据上述任一方面的任一项所述的方法。

根据本公开的技术方案，可以提高对话语句补全模型的准确度。