[发明专利]一种文本匹配优化方法及装置有效
| 申请号: | 202110611429.4 | 申请日: | 2021-06-02 |
| 公开(公告)号: | CN113051374B | 公开(公告)日: | 2021-08-31 |
| 发明(设计)人: | 李伟 | 申请(专利权)人: | 北京沃丰时代数据科技有限公司 |
| 主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F16/35;G06F16/36;G06N3/04;G06N3/08 |
| 代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 郭亮 |
| 地址: | 100160 北京市丰台区*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 文本 匹配 优化 方法 装置 | ||
1.一种文本匹配优化方法,其特征在于,包括:
获取待匹配的问题文本内容;
将所述问题文本内容输入到训练好的文本匹配模型,得到所述问题文本内容的相似问句文本,所述训练好的文本匹配模型是由客服领域的样本语料数据和所述样本语料数据对应的样本知识图谱,对预训练的语言模型进行训练得到的;
所述训练好的文本匹配模型通过以下步骤得到:
根据客服领域的样本语料数据,获取客服与客户之间历史对话记录产生的客户样本问句;
根据所述客户样本问句和预设文本语料知识库,构建训练样本集;
根据所述训练样本集中的样本数据,生成客服领域的样本知识图谱,其中,所述样本知识图谱是根据实体类型、实体关系以及问句意图类型生成的;
根据所述训练样本集和所述样本知识图谱,对预训练的语言模型进行训练,得到训练好的文本匹配模型。
2.根据权利要求1所述的文本匹配优化方法,其特征在于,所述根据所述客户样本问句和预设文本语料知识库,构建训练样本集,包括:
根据预设文本语料知识库的知识库样本问句和所述客户样本问句,构建样本问句对,并为所述样本问句对标记匹配类型和实体关系,得到第一训练样本;
根据所述知识库样本问句,从所述预设文本语料知识库中获取对应的样本相似问句,并根据所述知识库样本问句和所述样本相似问句,得到第二训练样本;
根据客户历史问答反馈数据,对所述样本问句对标注正负样本标签,得到第三训练样本;
根据所述第一训练样本、所述第二训练样本和所述第三训练样本,构建训练样本集。
3.根据权利要求2所述的文本匹配优化方法,其特征在于,所述根据所述训练样本集中的样本数据,生成客服领域的样本知识图谱,包括:
根据所述第一训练样本,获取所述样本问句对中的实体类型、实体关系和问句意图类型;
根据所述实体类型、所述实体关系和所述问句意图类型,生成客服领域的样本知识图谱。
4.根据权利要求1所述的文本匹配优化方法,其特征在于,在所述根据所述训练样本集和所述样本知识图谱,对预训练的语言模型进行训练,得到训练好的文本匹配模型之前,所述方法还包括:
在预训练的语言模型的词嵌入层中添加词边界信息和知识图谱嵌入信息,得到改进后的语言模型;
其中,所述词边界信息是对分词处理后的中文语句进行编码得到的,所述知识图谱嵌入信息是根据样本知识图谱中的意图实体生成的。
5.根据权利要求1所述的文本匹配优化方法,其特征在于,所述预训练的语言模型的输出层依次连接1个卷积层和1个全连接层。
6.一种文本匹配优化装置,其特征在于,包括:
问题获取模块,用于获取待匹配的问题文本内容;
相似问句匹配模块,用于将所述问题文本内容输入到训练好的文本匹配模型,得到所述问题文本内容的相似问句文本,所述训练好的文本匹配模型是由客服领域的样本语料数据和所述样本语料数据对应的样本知识图谱,对预训练的语言模型进行训练得到的;
所述装置还包括:
样本问句获取模块,用于根据客服领域的样本语料数据,获取客服与客户之间历史对话记录产生的客户样本问句;
训练集构建模块,用于根据所述客户样本问句和预设文本语料知识库,构建训练样本集;
图谱生成模块,用于根据所述训练样本集中的样本数据,生成客服领域的样本知识图谱,其中,所述样本知识图谱是根据实体类型、实体关系以及问句意图类型生成的;
训练模块,用于根据所述训练样本集和所述样本知识图谱,对预训练的语言模型进行训练,得到训练好的文本匹配模型。
7.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述文本匹配优化方法的步骤。
8.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述文本匹配优化方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京沃丰时代数据科技有限公司,未经北京沃丰时代数据科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110611429.4/1.html,转载请声明来源钻瓜专利网。





