[发明专利]基于深度学习的文本机器人训练方法、系统、设备及介质在审
申请号: | 202310538987.1 | 申请日: | 2023-05-12 |
公开(公告)号: | CN116468050A | 公开(公告)日: | 2023-07-21 |
发明(设计)人: | 吴强;田凤占;江世林;周光杰;陈钰枫;徐金安 | 申请(专利权)人: | 北京天润融通科技股份有限公司;北京交通大学 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/194;G06F16/35;G06F16/332;G06F40/289;G06N3/08 |
代理公司: | 北京方韬法业专利代理事务所(普通合伙) 11303 | 代理人: | 马丽莲 |
地址: | 102600 北京市大兴区亦庄经*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 深度 学习 文本 机器人 训练 方法 系统 设备 介质 | ||
1.一种基于深度学习的文本机器人训练方法,其特征在于,所述方法包括以下步骤:
基于原始意图整理预设数量的种子语料,将所述种子语料导入到文本机器人知识库中;
识别所有意图中的问题数据,并对所述问题数据进行修正;其中,所有意图包括所述原始意图和所述种子语料;
对所述所有意图进行批量扩写,得到扩写后的意图;
识别所述扩写后的意图中是否包含混淆语料;当包含混淆语料时,对所述混淆语料进行修正,得到扩写后的修正意图;
通过所述原始意图、所述种子语料和所述扩写后的修正意图训练文本机器人模型;
验证所述文本机器人模型是否符合预期;其中,当所述文本机器人模型不符合预期时,通过对单个意图进行扩写或对单个语料做调整或扩写,再次训练文本机器人模型,直至所述文本机器人模型符合预期。
2.根据权利要求1所述的基于深度学习的文本机器人训练方法,其特征在于,所述方法还包括:
将所述符合预期所述文本机器人模型发布上线;
筛选所述文本机器人模型不能识别的用户提问问题,通过层次聚类功能,对用户提问问题进行聚类分析,得到聚类分析结果;
根据所述聚类分析结果提供建议;所述建议包括基于所述聚类分析结果创建新意图或将所述聚类分析结果添加到现有意图的语料中;
每当对所述意图进行创建或修改后,识别所有意图中的问题数据,并对所述问题数据进行修正。
3.根据权利要求1或2所述的基于深度学习的文本机器人训练方法,其特征在于,所述所有意图中的问题数据包括:FAQ答案相似数据、混淆意图数据和混淆语料数据中的至少一项。
4.根据权利要求1或2所述的基于深度学习的文本机器人训练方法,其特征在于,所述对所述所有意图进行批量扩写,包括:
对原始数据进行清洗、聚类以及重新采样,构造出训练数据;所述原始数据为从业务上收集的数据;
通过所述训练数据、标准的自回归交叉熵损失函数和标签平滑策略训练扩写模型,并生成句子;
通过计算句子之间的BLEU值对生成的句子进行过滤;
通过预设的排序指标对所述过滤后的句子进行排序。
5.根据权利要求4所述的基于深度学习的文本机器人训练方法,其特征在于,所述方法还包括:
通过将预设的专有名词表与原始训练数据混合共同训练模型,得到专有名词保留的语料扩写模型。
6.根据权利要求1所述的基于深度学习的文本机器人训练方法,其特征在于,所述预设数量的种子语料为3-5条。
7.一种基于深度学习的文本机器人训练系统,其特征在于,所述系统包括:
数据处理模块,被配置用于基于原始意图整理预设数量的种子语料,将所述种子语料导入到机器人知识库中;识别所有意图中的问题数据,并对所述问题数据进行修正;其中,所有意图包括所述原始意图和所述种子语料;
扩写模块,被配置用于对所述所有意图进行批量扩写,得到扩写后的意图;识别所述扩写后的意图中是否包含混淆语料;当包含混淆语料时,对所述混淆语料进行修正,得到扩写后的修正意图;
验证模块,被配置用于通过所述原始意图、所述种子语料和所述扩写后的修正意图训练文本机器人模型;验证所述机器人模型是否符合预期;其中,当所述机器人模型不符合预期时,通过对单个意图进行扩写或对单个语料做调整或扩写,再次训练机器人模型,直至所述机器人模型符合预期。
8.根据权利要求7所述的基于深度学习的文本机器人训练系统,其特征在于,所述系统还包括:
扩写模型训练模块,被配置用于对原始数据进行清洗、聚类以及重新采样,构造出训练数据;所述原始数据为从业务上收集的数据;通过所述训练数据、标准的自回归交叉熵损失函数和标签平滑策略训练扩写模型,并生成句子;通过计算句子之间的BLEU值对生成的句子进行过滤;通过预设的排序指标对所述过滤后的句子进行排序。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京天润融通科技股份有限公司;北京交通大学,未经北京天润融通科技股份有限公司;北京交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310538987.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种超临界发泡材料的制备工艺及超临界发泡材料
- 下一篇:线控器及空调系统