[发明专利]用于处理文本的方法和装置

权利要求书

1.一种用于处理文本的方法，包括：

从用户与客服的当前对话数据中获取当前用户问句文本的上文信息；

基于所述当前用户问句文本和所述上文信息，获取预先确定的至少一个候选回复文本，其中，每个候选回复文本包括与所述当前用户问句文本相对应的标准问句文本以及针对所述标准问句文本的答案文本；

利用候选回复文本评分模型对所述当前用户问句文本、所述上文信息和所述至少一个候选回复文本进行处理，得到所述至少一个候选回复文本的评分结果，其中：

所述候选回复文本评分模型具有第一输入、第二输入和第三输入，其中，所述当前用户问句文本和所述上文信息作为所述第一输入，所述标准问句文本作为所述第二输入，所述答案文本作为所述第三输入；

所述候选回复文本评分模型包括文本编码单元和交互操作单元，其中，所述文本编码单元对所述第一输入、所述第二输入和所述第三输入进行文本时序编码，所述交互操作单元至少基于交互运算对所述文本编码单元的输出结果进行交互表示；

所述文本编码单元包括第一编码器、第二编码器和第三编码器：所述第一编码器对第一词向量进行处理，得到第一输出序列，其中，所述第一词向量是对所述当前用户问句文本和所述上文信息转换得到的；所述第二编码器对第二词向量进行处理，得到第二输出序列，其中，所述第二词向量是对所述标准问句文本进行转换得到的；所述第三编码器对第三词向量进行处理，得到第三输出序列，其中，所述第三词向量是对所述答案文本进行转换得到的；

所述交互操作单元包括第一交互模块和第二交互模块：所述第一交互模块对所述第一输出序列和所述第二输出序列进行交互操作，得到第一交互表示结果；所述第二交互模块对所述第一输出序列和所述第三输出序列进行交互操作，得到第二交互表示结果；其中，所述至少一个候选回复文本的评分结果是基于所述第一交互表示结果和所述第二交互表示结果得到的；

每个候选回复文本的评分结果表示该候选回复文本与所述当前用户问句文本的匹配程度；

基于所述至少一个候选回复文本的评分结果，从所述至少一个候选回复文本中选择m个候选回复文本，作为要向所述客服呈现的目标回复文本，m为正整数。

2.根据权利要求1所述的方法，其中，所述第一编码器、所述第二编码器和所述第三编码器中的每一者为以下各项中的一项：Transformer编码器、长短期记忆LSTM模型编码器、卷积神经网络CNN编码器。

3.根据权利要求1所述的方法，其中，所述候选回复文本评分模型还包括第四编码器、第五编码器、第一转换模块、第二转换模块和评分模块，

所述第四编码器对所述第一交互表示结果进行处理，得到第四输出序列；

所述第五编码器对所述第二交互表示结果进行处理，得到第五输出序列；

所述第一转换模块对所述第四输出序列进行转换，得到第一输出向量；

所述第二转换模块对所述第五输出序列进行转换，得到第二输出向量；

所述评分模块基于所述第一输出向量和所述第二输出向量，确定所述至少一个候选回复文本的评分结果。

4.根据权利要求1所述的方法，其中，所述候选回复文本评分模型是基于第一类训练样本来训练得到的，所述第一类训练样本是从用户与客服的历史对话数据中获取的；

所述第一类训练样本包括n条样本数据，其中，每条样本数据包括历史用户问句文本、该历史用户问句文本的历史上文信息、针对该历史用户问句文本的客服答复文本以及与该历史用户问句文本相对应的标准问句信息，n为正整数；

在利用每条样本数据对所述候选回复文本评分模型进行训练时，该样本数据中的历史用户问句文本和历史上文信息作为所述第一输入，该样本数据中的标准问句信息作为所述第二输入，该样本数据中的客服答复文本作为所述第三输入。

5.根据权利要求4所述的方法，其中，

如果在预先确定的问答集合中存在与所述客服答复文本相对应的答案文本，则所述标准问句信息包括与该答案文本相对应的标准问句文本，其中，所述问答集合用于表示k个标准问句文本与k个答案文本之间的对应关系，k为正整数；

如果在所述问答集合中不存在与所述客服答复文本相对应的答案文本，则所述标准问句信息被设置为空。