[发明专利]基于排序学习的深度文本匹配方法及装置

权利要求书

1.一种基于排序学习的深度文本匹配方法，应用于深度匹配模型，其特征在于，所述方法包括：

获取由假设语句、推理语句组成的句子对，其中，所述推理语句包括正推理语句和多个负推理语句，所述假设语句与正推理语句的语义相关、与负推理语句的语义不相关；

将所述句子对中的语句分别用词向量表示，得到所述句子对中各语句的词向量矩阵；

利用各所述词向量矩阵得到所述句子对的相似度矩阵，结合所述句子对中的语句生成彼此相似性加权后的语句向量；

分别计算所述假设语句与正推理语句、以及所述假设语句与各负推理语句所对应的语句向量之间的匹配程度值；

利用Pointwise损失函数和Listwise损失函数组成的联合损失函数，计算各所述语句向量匹配程度值与标准值之间的损失值；其中，所述联合损失函数loss的计算公式为：loss＝L_p+L_l+L₂Regularization，L_p为Pointwise损失函数，L_p＝max(0,m-s(r^h；r^p+)+s(r^h；r^p-))；L_l为Listwise损失函数，L₂Regularization为L₂正则函数；r^h为假设语句的语句向量表示，r^p+和r^p-是分别为正推理语句和负推理语句的语句向量表示，s(r^h；r^p+)为假设语句和正推理语句所对应的语句向量的余弦相似度，s(r^h；r^p-)为假设语句和负推理语句所对应的语句向量的余弦相似度，m为预设的判定正负推理语句的阈值，n为由正推理语句和负推理语句组成的样本个数；

根据所述损失值，调整所述深度匹配模型的参数；

利用所述参数调整所得到的深度匹配模型，对输入的语句进行文本匹配。

2.根据权利要求1所述的方法，其特征在于，获取由假设语句、推理语句组成的句子对，包括：

选取被作为假设语句和正推理语句、且语义相关的两个正例语句；

选取被作为负推理语句的、且与所述正例语句的语义不相关的多个负例语句；

将两个所述正例语句以及各所述负例语句组成句子对。

3.根据权利要求1所述的方法，其特征在于，将所述句子对中的语句分别用词向量表示，得到所述句子对中各语句的词向量矩阵，包括：

将所述句子对中的语句分别进行分词并用词向量表示，得到初始词向量矩阵；

将词性、共现信息和位置编码向量添加至所述初始词向量矩阵，得到所述句子对中各语句的词向量矩阵。

4.根据权利要求1所述的方法，其特征在于，结合所述句子对中的语句生成彼此相似性加权后的语句向量之后，所述方法还包括：

将所述假设语句分别与正推理语句、各负推理语句彼此相似性加权后所得到的各语句向量，进行归一化处理。

5.根据权利要求1所述的方法，其特征在于，利用各所述词向量矩阵得到所述句子对的相似度矩阵，结合所述句子对中的语句生成彼此相似性加权后的语句向量，包括：

利用各所述词向量矩阵所对应的相似度矩阵，生成所述句子对中的语句彼此相似性加权后的初始语句向量；

根据各所述初始语句向量所对应的语句的语境，重新对各所述初始语句向量进行编码，得到所述句子对中各语句的语句向量。

6.根据权利要求1所述的方法，其特征在于，根据所述损失值，调整所述深度匹配模型的参数，包括：

以最小化所述损失值为目标，调整所述深度匹配模型的参数。

7.一种基于排序学习的深度文本匹配装置，应用于深度匹配模型，其特征在于，所述装置包括：

句子对获取模块：用于获取由假设语句、推理语句组成的句子对，其中，所述推理语句包括正推理语句和多个负推理语句，所述假设语句与正推理语句的语义相关、与负推理语句的语义不相关；

词向量表示模块：用于将所述句子对中的语句分别用词向量表示，得到所述句子对中的语句的词向量矩阵；

相似加权模块：用于利用各所述词向量矩阵得到所述句子对的相似度矩阵，结合所述句子对中的语句生成彼此相似性加权后的语句向量；

损失值计算模块：用于分别计算所述假设语句与正推理语句、以及所述假设语句与各负推理语句所对应的语句向量之间的匹配程度值，利用Pointwise损失函数和Listwise损失函数组成的联合损失函数，计算各所述语句向量匹配程度值与标准值之间的损失值；其中，所述联合损失函数loss的计算公式为：loss＝L_p+L_l+L₂Regularization，L_p为Pointwise损失函数，L_p＝max(0,m-s(r^h；r^p+)+s(r^h；r^p-))；L_l为Listwise损失函数，L₂Regularization为L₂正则函数；r^h为假设语句的语句向量表示，r^p+和r^p-是分别为正推理语句和负推理语句的语句向量表示，s(r^h；r^p+)为假设语句和正推理语句所对应的语句向量的余弦相似度，s(r^h；r^p-)为假设语句和负推理语句所对应的语句向量的余弦相似度，m为预设的判定正负推理语句的阈值，n为由正推理语句和负推理语句组成的样本个数；

模型参数调整模块：用于根据所述损失值，调整所述深度匹配模型的参数；

文本匹配模块：用于利用所述参数调整所得到的深度匹配模型，对输入的语句进行文本匹配。