[发明专利]客服对话内容的语义检索方法、系统、设备及存储介质

权利要求书

1.一种客服对话内容的语义检索方法，其特征在于，包括训练阶段和预测使用阶段；

所述训练阶段包括以下步骤：

S110、预训练语言模型，通过Bert模型进行预训练；

S120、挖掘OTA客服质检领域的关键词；

S130、进行新词发现挖掘OTA质检专属词汇，并加入到OTA质检分词词典，替换ElasticSearch搜索服务器自带的分词器；

S140、预训练语言模型，通过Word2Vec词向量模型进行预训练；

S150、基于数据库内全量文本的向量索引构建及增量更新；以及

S160、构建正负样本进行查询与文本的排序模型；

所述预测使用阶段包括以下步骤：

S210、查询理解，检索使用阶段；

S220、查询文本召回，使用Elastic Search搜索服务器进行检索；

S230、查询向量检索召回；

S240、对于所述召回结果取并集，反馈给用户；以及

S250、按Elastic Search搜索服务器中的BM25模型进行打分。

2.根据权利要求1所述的客服对话内容的语义检索方法，其特征在于，所述步骤S120中包括以下步骤：根据用户查询的埋点进行搜集，统计词频；

所述步骤S130中包括以下步骤：将高于预设词频的关键词加入到OTA质检分词词典。

3.根据权利要求1所述的客服对话内容的语义检索方法，其特征在于，所述步骤S140中包括：收集OTA场景的语料，使用Word2Vec词向量模型预训练。

4.根据权利要求1所述的客服对话内容的语义检索方法，其特征在于，所述步骤S150中包括以下步骤：

S151、使用所述Bert预训练语言模型获得文本的语义句向量表示；

S152、使用Faiss工具对向量建立索引，并通过压缩算法对向量进行降维压缩；

S153、将向量索引进行序列化为文本形式存储；

S154、对于增量的文本，设置定时任务进行索引的更新。

5.根据权利要求1所述的客服对话内容的语义检索方法，其特征在于，所述步骤S160中包括以下步骤：

S161、收集并标注数据

S162、文本预处理，过滤纯数字、标准化处理：比如全角转半角、繁体转简体、大小写转化；

S163、对话用户语句文本向量化；对于前一步骤得到的文本，使用前述预训练Bert语言模型的结果，作为模型输入；

S164、使用神经网络对句子进行向量编码，将标有正负样本的文本使用Bert排序模型进行微调，捕捉文本的语义信息，通过softmax层获取文本属于的句式类型；

S165、训练神经网络参数，得到排序模型，多次迭代后得到深度学习模型。

6.根据权利要求1所述的客服对话内容的语义检索方法，其特征在于，所述步骤S210中包括以下步骤：

S211、文本预处理：对用户输入的文本进行规范处理；

S212、使用分词器，结合所述OTA质检分词词典，对用户查询进行分词以及基于多个同义词词林、语义网络以及词向量模型进行扩展；

S213、根据所述查询扩展，获得查询组合，对所述查询组合进行打分排序，将最前的n个作为查询列表。

7.根据权利要求6所述的客服对话内容的语义检索方法，其特征在于，所述步骤S212中，使用hanlp分词器，结合前述OTA质检领域专属词典，对用户查询进行分词；对查询的每个词，依次使用同义词词林进行扩展；对查询的每个词，依次使用Hownet语义网扩展；对查询的每个词，依次使用前述预训练好的词向量模型word2vec进行扩展。

8.根据权利要求1所述的客服对话内容的语义检索方法，其特征在于，所述步骤S220中，根据所述查询列表，使用Elastic Search进行检索。