[发明专利]基于Bert的篇章的多意图识别方法、设备及可读存储介质

权利要求书

1.一种基于Bert的篇章的多意图识别方法，应用于电子设备，其特征在于，所述方法包括：

根据用户交互内容获取待识别篇章，其中，并按照预设规则将所述待识别篇章切分为至少两个识别单元；

对所述识别单元进行要素拼接预处理；

将预处理后的识别单元输入到Bert模型进行训练，获取每个识别单元的语义向量；

将所述每个识别单元的语义向量输入到融合分类识别模型中，获取所述待识别篇章的意图信息。

2.如权利要求1所述的基于Bert的篇章的多意图识别方法，其特征在于，所述根据用户交互内容获取待识别篇章，包括如下步骤：

获取用户与智能客服在多轮交互中产生的问题和表述性文字；

将所述问题和所述表述性文字相互联合，形成待识别篇章。

3.如权利要求1所述的基于Bert的篇章的多意图识别方法，其特征在于，所述按照预设规则将所述待识别篇章切分为至少两个识别单元，包括如下步骤：

通过句子切分符号对所述待识别篇章进行切分处理；其中，所述预设规则包括句子切分符号，所述句子切分符号包括句号、分号、感叹号以及问号；

将所述待识别篇章切分形成的句子或者问题确定为识别单元。

4.如权利要求1所述的基于Bert的篇章的多意图识别方法，其特征在于，所述对所述识别单元进行要素拼接预处理，包括如下步骤：

在所述每个识别单元的起始位置拼接本识别单元的至少两个意图信息；

在所述每个识别单元的末端位置拼接一个超参；

根据所述意图信息和所述超参，确定所述识别单元的语义符号序列。

5.如权利要求1所述的基于Bert的篇章的多意图识别方法，其特征在于，所述将预处理的识别单元输入到Bert模型进行训练，获取每个识别单元的语义向量，包括如下步骤：

将所述语义符号序列输入所述Bert模型中，获取所述语义符号序列中每个语义符号的位置所对应的语义表示向量；

根据所获取的语义表示向量，确定所述待识别篇章的整体语义向量；其中，通过如下公式获取所述待识别篇章的整体语义向量：

hidden_output_i＝dropout(pooled_output_i),i＝(1,2,…,n)

其中，hidden_output_i表示：每个句子经过dropout层过滤处理后的深层语意信息；

dropout表示：dropout层，对输入的神经网络单元按照一定的概率将其暂时从网络中丢弃；

pooled_output_i表示：当前句子输入Bert模型后的输出。

6.如权利要求1所述的基于Bert的篇章的多意图识别方法，其特征在于，所述将所述每个识别单元的语义向量输入到融合分类识别模型中，获取所述待识别篇章的识别单元中包含的所有意图信息，包括如下步骤：

将所述每个识别单元的语义向量输入lstm模型进行训练，获取所述待识别篇章的语义信息，其中，所述语义信息包括每个识别单元的意图汇总信息；

将所述意图汇总信息进行一次线性变换处理，获取所述待识别篇章的每个识别单元中包含的所有意图信息。

7.如权利要求1所述的基于Bert的篇章的多意图识别方法，其特征在于，采用如下公式对所述意图汇总信息进行一次线性变换处理：

h＝w_i*lstm_output+b_i

其中，h表示：对待识别篇章做抽取式摘要前的文本理解；

w_i表示：lstm模型在训练过程中优化的参数；

lstm_output表示：对待识别篇章序列理解后的意图汇总信息；

b_i表示：lstm模型模型在训练过程中优化的参数。