[发明专利]用于特定领域的人机对话理解方法与系统及相关设备

权利要求书

1.一种用于特定领域的人机对话理解方法，其特征在于，包括以下步骤：

步骤S1，获取用户在当前时刻输入的一个词，通过训练好的人机对话理解模型，计算该词对应的意图类别；

步骤S2，判断当前语句是否结束，若是，则以最后时刻的意图类别作为当前语句的意图类别；否则，转至步骤S1；

其中，

所述人机对话理解模型，包括：词向量层、语义表示层、语义标注层和意图识别层；

所述人机对话理解模型的训练方法为：

步骤A1，从训练数据集中读取一条训练语句；

步骤A2，按先后顺序从当前的训练语句中读取一个词，通过所述人机对话理解模型，得到该词对应的语义表示、语义标注信息和意图类别；

步骤A3，根据该词对应的语义表示、语义标注信息和意图类别，通过词性预测层，预测当前训练语句中下一个词的词性；

步骤A4，判断当前训练语句是否结束，若是，则以最后时刻的意图类别作为当前训练语句的意图类别，转至步骤A5；否则，转至步骤A2；

步骤A5，计算语义标注、意图识别和词性预测三个任务的联合损失函数，并判断所述联合损失函数是否收敛到最小值；若是，则训练结束；否则，调整所述词向量层、所述语义表示层、所述语义标注层、所述意图识别层，以及所述词性预测层的参数，并转至步骤A1。

2.根据权利要求1所述的人机对话理解方法，其特征在于，步骤S1中“获取用户在当前时刻输入的一个词，通过训练好的人机对话理解模型，计算该词对应的意图类别”，具体包括：

步骤S11，获取用户在当前时刻输入的一个词，通过词向量层将该词映射到向量空间，得到当前时刻的词向量；

步骤S12，将所述当前时刻的词向量，以及上一时刻的语义表示、语义标注信息和意图类别输入语义表示层，得到当前时刻的语义表示；

步骤S13，将所述当前时刻的语义表示输入语义标注层，得到当前时刻的语义标注信息；将所述当前时刻的语义表示输入意图识别层，得到当前时刻的意图类别。

3.根据权利要求1所述的人机对话理解方法，其特征在于，步骤A2中“按先后顺序从当前的训练语句中读取一个词，通过所述人机对话理解模型，得到该词对应的语义表示、语义标注信息和意图类别”，具体包括：

步骤A21，按先后顺序从当前的训练语句中读取一个词，通过所述词向量层将该词映射到向量空间，得到当前时刻的词向量；

步骤A22，将所述当前时刻的词向量，以及上一时刻的语义表示、语义标注信息和意图类别输入所述语义表示层，得到当前时刻的语义表示；

步骤A23，将所述当前时刻的语义表示输入所述语义标注层，得到当前时刻的语义标注信息；将所述当前时刻的语义表示输入所述意图识别层，得到当前时刻的意图类别。

4.根据权利要求1所述的人机对话理解方法，其特征在于，所述联合损失函数为：

L＝(L^slot+L^intent+L^pos)-λR(θ)

其中，

L^slot＝-P(y^slot)logP(z^slot)

L^intent＝-P(y^intent)logP(z^intent)

L^pos＝-P(y^pos)logP(z^pos)

L^slot、L^intent和L^pos分别为语义标注、意图识别和词性预测任务的损失函数；P(y^slot)、P(y^intent)和P(y^pos)分别为语义标注、意图识别和词性预测任务的预测概率分布；P(z^slot)、P(z^intent)和logP(z^pos)分别为语义标注、意图识别、词性预测任务的真实概率分布；θ为神经网络中需要训练的参数集合；R(θ)为使用在参数集合θ上的正则项；λ为根据经验值设定的参数。