[发明专利]对话篇章解析方法

权利要求书

1.一种对话篇章解析方法，其特征在于，包括以下步骤：

获取历史对话信息，并对所述历史对话信息进行预处理，以生成初始训练样本，其中，所述初始训练样本包括每轮对话文本信息、每轮对话对话者身份信息和对话篇章结构标签；

根据所述初始训练样本生成第一训练样本和第二训练样本，其中，所述第一训练样本包括每轮对话文本信息、每轮对话对话者身份信息和除当前待预测结构关系的其他结构关系，所述第二训练样本包括每轮对话文本信息和每轮对话对话者身份信息；

根据所述第一训练样本进行模型训练，以得到结构自感知教师模型，其中，所述结构自感知教师模型的损失函数包括第一对话篇章解析损失函数；

根据所述第二训练样本进行模型训练，以得到结构自感知学生模型，并通过所述结构自感知学生模型中的结构蒸馏损失函数拉近所述结构自感知教师模型的结构关系和所述结构自感知学生模型的结构关系，以得到最终结构自感知学生模型，其中，所述结构自感知学生模型的损失函数包括第二对话篇章解析损失函数、关系标签识别损失函数和结构蒸馏损失函数；

获取待解析对话信息，并将所述待解析对话信息输入到所述最终结构自感知学生模型，以通过所述结构自感知学生模型对所述待解析对话信息进行自动解析，生成对应所述待解析对话信息的对话轮次间篇章关系；

其中，所述第一对话篇章解析损失函数通过以下公式表述：

其中，d表示对话实例，θ表示模型参数，|d|表示对话轮次数，P(*)表示预测概率，表示结构关系关联预测损失，表示篇章解析树中第i个节点的父节点，表示最终对话篇章结构隐状态表示，表示结构关系标签分类损失，表示(i,j)对话对的结构关系标签；

其中，所述关系标签识别损失函数和所述结构蒸馏损失函数通过以下公式表述：

其中，表示关系标签识别损失，表示结构蒸馏损失，d表示对话实例，|d|表示对话轮次数，l_ij表示第i轮与第j轮对话的篇章关系标签，表示结构自感知学生模型中第t层对应的第i轮与第j轮对话的篇章关系隐状态表示，表示所述结构自感知教师模型中第t层对应的第i轮与第j轮对话的篇章关系隐状态表示，W^t表示可学习的参数，MSE(*)表示均方误差损失函数。

2.如权利要求1所述的对话篇章解析方法，其特征在于，所述历史对话信息包括每轮对话内容和相关对话者身份信息，其中，对所述历史对话信息进行预处理，包括：

对所述每轮对话内容进行分词，并对所述每轮对话内容进行大小写统一，以及根据所述相关对话者身份信息生成对话者身份矩阵，以完成对所述历史对话信息的预处理。

3.如权利要求2所述的对话篇章解析方法，其特征在于，所述结构自感知教师模型和所述结构自感知学生模型均包括对话层次编码模型、结构自感知图网络模型和篇章关系分类器；

其中，所述对话层次编码模型包括子词级别的序列处理模型和对话级别的序列处理模型，所述子词级别的序列处理模型和所述对话级别的序列处理模型采用双向GRU模型；

所述子词级别的序列处理模型和所述对话级别的序列处理模型以所述每轮对话文本信息作为输入，并根据所述每轮对话文本信息输出每轮对话隐状态表示；

所述结构自感知图网络模型根据所述对话者身份矩阵及每轮对话隐状态表示生成篇章关系隐状态表示，并根据所述篇章关系隐状态表示输出最终对话篇章结构隐状态表示。

4.如权利要求3所述的对话篇章解析方法，其特征在于，所述每轮对话隐状态表示、所述篇章关系隐状态表示和所述最终对话篇章结构隐状态表示通过以下公式表述：

U^(t)＝SASA(U^(t-1)，R^(t-1))

R^t＝GRU(U^(t)，R^(t-1))

1≤t≤T

其中，U^(t)表示第t层的每轮对话隐状态表示，SASA表示结构感知自监督注意力机制，GRU(*)表示门控循环神经网络，R^t表示第t层的篇章关系隐状态表示，表示最终对话篇章结构隐状态表示，T为模型总层数，表示拼接操作，T表示转置操作。