[发明专利]建模对话轮次信息的检索式闲聊对话打分方法

权利要求书

1.一种建模对话轮次信息的检索式闲聊打分方法，使用局部注意力机制建模对话轮次信息，所述方法包含以下结构和步骤：

(1)基于开放领域的闲聊数据集，中文数据集将句子进行分词处理，英文数据集将数据去大小写，做英文的预处理，将词典按照出现的词频排序，取前百分之九十构建词表；

(2)将问句和候选回复集中的句子每个词映射为对应的词向量，将输入部分映射为一个词向量的矩阵；

(3)编码阶段，使用注意力机制，使用自注意力机制进行编码，使用多头注意力提取不同表示子空间里的信息；

(4)使用交互注意力作为另外一种编码方式，将问句和候选回复作为输入，获取问句和候选回复之间的语义联系；

(5)将多轮对话多层的自注意力和交互注意力的编码组合成为3D的立方体矩阵，再使用引入句间轮次信息注意力，根据对话的语境发展，每句对应不同的权重，需要引入注意力信息，对于候选回复做局部注意力，局部注意力的窗口大小是沿着对话轮次方向的卷积深度；

(6)使用三维卷积提取匹配特征后经过激活函数计算匹配分数。

2.如权利要求1所述的方法，其特征在于，所述步骤(2)具体包括：

(2.1)历史对话和候选回复集分别向量化，建立词语到词向量编号的映射字典，将文本中各个词语映射为相应的词语编号；

(2.2)对于输入文本，每个词编码为一个词向量，将该句中的所有词的词向量拼接，获得编码器的输入矩阵。

3.如权利要求1所述的方法，其特征在于，所述步骤(3)具体包括：

(3.1)使用自注意力机制编码句子输入；

(3.2)将输入句子进行评分，通过问句和键值点积，将得分做多分类，表示当前单词在对应句子中每个单词位置的表示程度；

(3.3)使用多头注意力机制，获得不同子空间的表示方式。

4.如权利要求1所述的方法，其特征在于，所述步骤(4)具体包括：

(4.1)使用交互注意力机制编码；

(4.2)对于历史对话中的每句进行编码，目的是获得两句话之间的语义匹配性。

5.如权利要求1所述的方法，其特征在于，所述步骤(6)具体包括：

(6.1)使用三维卷积层提取特征；

(6.2)使用局部注意力机制提取上下文轮次关系；

(6.3)使用了池化层提取匹配结构中的句子间关系信息；

(6.4)通过非线性函数得到匹配分数。