[发明专利]一种搜索序列的理解方法、装置、设备和存储介质

权利要求书

1.一种搜索序列的理解方法，其特征在于，包括：

确定已标注搜索序列中包含的各词的词向量；

将预先依据各URL站点名以及各URL站点名的有点击搜索序列和无点击搜索序列训练得到的搜索序列CNN模型中的隐藏层参数、卷积层参数和池化层参数作为初始领域识别模型中的隐藏层参数、卷积层参数和池化层参数；

依据所述已标注搜索序列的领域标注，以及所述已标注搜索序列中包含的各词的词向量，对所述初始领域识别模型进行训练确定所述初始领域识别模型中的全连通层参数，以得到领域识别模型。

2.根据权利要求1所述的方法，其特征在于，所述依据各URL站点名以及各URL站点名的有点击搜索序列和无点击搜索序列训练得到搜索序列CNN模型包括：

获取各URL站点名以及各URL站点名的有点击搜索序列和无点击搜索序列；

确定所述有点击搜索序列中包含的各词的词向量，所述无点击搜索序列中包含的各词的词向量，以及所述URL站点名中包含的各词的词向量；

采用第一CNN模型依据所述有点击搜索序列中包含的各词的词向量确定有点击搜索向量，采用第一CNN模型依据所述无点击搜索序列中包含的各词的词向量确定无点击搜索向量，采用第二CNN模型依据所述URL站点名中包含的各词的词向量确定站点名向量；

依据有点击搜索向量与站点名向量之间的第一相似度，以及无点击搜索向量与站点名向量之间的第二相似度，对所述第一CNN模型和所述第二CNN模型进行优化，将优化后的第一CNN模型作为所述搜索序列CNN模型。

3.根据权利要求1所述的方法，其特征在于，所述确定已标注搜索序列中包含的各词的词向量之后，还包括：

将预先依据搜索序列训练得到的双向RNN语言模型中的隐藏层参数作为初始意图识别模型和初始槽位识别模型中的隐藏层参数；

依据所述已标注搜索序列的意图标注对所述初始意图识别模型进行训练确定所述初始意图识别模型中的全连通层参数，以得到意图识别模型；或者，依据所述已标注搜索序列的槽位标注对所述初始槽位识别模型进行训练确定所述初始槽位识别模型中的全连通层参数和条件随机场层参数，以得到槽位识别模型。

4.根据权利要求3所述的方法，其特征在于，所述依据搜索序列训练得到的双向RNN语言模型包括：

确定搜索序列中包含的各词的词向量；

将搜索序列中包含的各词的词向量作为双向RNN语言模型的输入，通过所述双向RNN语言模型中的前向循环神经网络预测下一个词，反向循环神经网络预测前一个词，并依据预测结果调整所述双向RNN语言模型中的前向循环神经网络的隐藏层参数和反向循环神经网络的隐藏层参数。

5.根据权利要求2或权利要求4所述的方法，其特征在于，所述确定搜索序列或URL站点名中包含的各词的词向量，包括：

对所述搜索序列或所述URL站点名进行分词，得到所述搜索序列或所述URL站点名中包含的各词；

对所述搜索序列或所述URL站点名中包含的各词进行词、词性、命名实体识别得到搜索序列或URL站点名中包含的各词的词向量。

6.根据权利要求1所述的方法，其特征在于，所述依据所述已标注搜索序列的领域标注，以及所述已标注搜索序列中包含的各词的词向量，对所述初始领域识别模型进行训练确定所述初始领域识别模型中的全连通层参数，以得到领域识别模型，包括：

依据已标注搜索序列的领域标注，已标注搜索序列中包含的各词的词向量，以及未标注搜索序列中包含的各词的词向量对所述初始领域识别模型进行虚拟监督训练确定所述初始领域识别模型中的全连通层参数，以得到领域识别模型。

7.根据权利要求4所述的方法，其特征在于，所述依据所述已标注搜索序列的意图标注对所述初始意图识别模型进行训练确定所述初始意图识别模型中的全连通层参数，以得到意图识别模型，包括：

依据已标注搜索序列的意图标注，已标注搜索序列中包含的各词的词向量，以及未标注搜索序列中包含的各词的词向量对所述初始意图识别模型进行虚拟监督训练确定所述初始意图识别模型中的全连通层参数，以得到意图识别模型。