[发明专利]问询信息分类方法、模型训练方法、装置和电子设备

权利要求书

1.一种问询信息分类方法，其特征在于，所述问询信息基于预先训练的分类模型进行分类，所述分类模型包括预先训练的语义提取模型层和预先训练的分类器模型层，所述分类方法包括：

获取问询信息；

基于所述语义提取模型层提取所述问询信息的语义向量以及所述问询信息中每个字在主题语境下的主题潜在类型向量和意图语境下的意图潜在类型向量；

将所述语义向量以及所述主题潜在类型向量和和所述意图潜在类型向量输入到所述分类器层得到主题分类结果和意图分类结果。

2.如权利要求1所述的问询信息分类方法，其特征在于，所述向量提取模型层包括注意力模型和卷积网络模型；

所述基于所述语义提取模型层提取所述问询信息的语义向量以及所述问询信息中每个字在主题语境下的主题潜在类型向量和意图语境下的意图潜在类型向量包括：

提取所述问询信息中的所有字的语境向量，所述语境向量包括主题语境下的字向量、意图语境下的字向量和问询信息语境下的字向量；

分别将所有字在主题语境下的字向量和意图语境下的字向量输入注意力模型层提取主题潜在类型向量和语义潜在类型向量；

将所有字在问询信息语境下的字向量输入卷积网络模型提取所述语义向量。

3.如权利要求2所述的问询信息分类方法，其特征在于，所述提取所述问询信息中的所有字的语境向量包括：

提取所述问询信息中的主题关键字序列和意图关键字序列；

基于问询信息字序列、所述主题关键字序列和意图关键字序列分别提取问询信息字向量序列、主题关键字向量序列和意图关键字向量序列；

分别将所述问询信息字向量序列、所述主题关键字向量序列和所述意图关键字向量序列分别与所述问询信息字向量序列进行拼接，得到问询信息拼接向量、主题拼接向量和意图拼接向量；

基于多头注意力机制计算每个字分别在主题语境、问询信息语境和意图语境下的语境向量。

4.如权利要求3所述的问询信息分类方法，其特征在于，所述提取所述问询信息中的主题关键字序列和意图关键字序列包括：

获取预设标签数据，所述预设标签数据包括主题标签文本数据和意图标签文本数据；

基于所述预设标签数据中每个字分别在主题类别和意图类别的关键值构建主题关键字集合和意图关键字集合；

将问询信息分别与所述主题关键字集合和所述意图关键字集合进行匹配提取所述主题关键字序列和所述意图关键字序列。

5.如权利要求1所述的问询信息分类方法，其特征在于，所述分别将所有字的所述主题语义信息和所述意图语义信息输入注意力模型层提取主题潜在类型向量和语义潜在类型向量包括：

获取多个初始潜在类型向量，所述初始潜在类型向量与问询信息中的字的数量对应；

通过所述初始潜在类型向量与所述主题语义信息计算每个字的主题注意力权重；

通过所述初始潜在类型向量与所述意图语义信息计算每个字的意图注意力权重；

分别基于主题注意力权重和意图注意力权重对所有所述初始潜在类型向量进行加权求和得到主题潜在类型向量和注意力潜在类型向量。

6.如权利要求1所述的问询信息分类方法，其特征在于，所述将所述语义向量以及所述主题潜在类型向量和和所述意图潜在类型向量输入到所述分类器层得到主题分类结果和意图分类结果包括：

将所述主题潜在类型向量、所述意图潜在类型向量和所述语义向量进行拼接，得到拼接向量；

将所述拼接向量输入所述分类模型进行主题分类和意图分类，得到分类结果。