[发明专利]基于深度学习的文本机器人训练方法、系统、设备及介质在审

专利信息
申请号: 202310538987.1 申请日: 2023-05-12
公开(公告)号: CN116468050A 公开(公告)日: 2023-07-21
发明(设计)人: 吴强;田凤占;江世林;周光杰;陈钰枫;徐金安 申请(专利权)人: 北京天润融通科技股份有限公司;北京交通大学
主分类号: G06F40/30 分类号: G06F40/30;G06F40/194;G06F16/35;G06F16/332;G06F40/289;G06N3/08
代理公司: 北京方韬法业专利代理事务所(普通合伙) 11303 代理人: 马丽莲
地址: 102600 北京市大兴区亦庄经*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 深度 学习 文本 机器人 训练 方法 系统 设备 介质
【权利要求书】:

1.一种基于深度学习的文本机器人训练方法,其特征在于,所述方法包括以下步骤:

基于原始意图整理预设数量的种子语料,将所述种子语料导入到文本机器人知识库中;

识别所有意图中的问题数据,并对所述问题数据进行修正;其中,所有意图包括所述原始意图和所述种子语料;

对所述所有意图进行批量扩写,得到扩写后的意图;

识别所述扩写后的意图中是否包含混淆语料;当包含混淆语料时,对所述混淆语料进行修正,得到扩写后的修正意图;

通过所述原始意图、所述种子语料和所述扩写后的修正意图训练文本机器人模型;

验证所述文本机器人模型是否符合预期;其中,当所述文本机器人模型不符合预期时,通过对单个意图进行扩写或对单个语料做调整或扩写,再次训练文本机器人模型,直至所述文本机器人模型符合预期。

2.根据权利要求1所述的基于深度学习的文本机器人训练方法,其特征在于,所述方法还包括:

将所述符合预期所述文本机器人模型发布上线;

筛选所述文本机器人模型不能识别的用户提问问题,通过层次聚类功能,对用户提问问题进行聚类分析,得到聚类分析结果;

根据所述聚类分析结果提供建议;所述建议包括基于所述聚类分析结果创建新意图或将所述聚类分析结果添加到现有意图的语料中;

每当对所述意图进行创建或修改后,识别所有意图中的问题数据,并对所述问题数据进行修正。

3.根据权利要求1或2所述的基于深度学习的文本机器人训练方法,其特征在于,所述所有意图中的问题数据包括:FAQ答案相似数据、混淆意图数据和混淆语料数据中的至少一项

4.根据权利要求1或2所述的基于深度学习的文本机器人训练方法,其特征在于,所述对所述所有意图进行批量扩写,包括:

对原始数据进行清洗、聚类以及重新采样,构造出训练数据;所述原始数据为从业务上收集的数据;

通过所述训练数据、标准的自回归交叉熵损失函数和标签平滑策略训练扩写模型,并生成句子;

通过计算句子之间的BLEU值对生成的句子进行过滤;

通过预设的排序指标对所述过滤后的句子进行排序。

5.根据权利要求4所述的基于深度学习的文本机器人训练方法,其特征在于,所述方法还包括:

通过将预设的专有名词表与原始训练数据混合共同训练模型,得到专有名词保留的语料扩写模型。

6.根据权利要求1所述的基于深度学习的文本机器人训练方法,其特征在于,所述预设数量的种子语料为3-5条。

7.一种基于深度学习的文本机器人训练系统,其特征在于,所述系统包括:

数据处理模块,被配置用于基于原始意图整理预设数量的种子语料,将所述种子语料导入到机器人知识库中;识别所有意图中的问题数据,并对所述问题数据进行修正;其中,所有意图包括所述原始意图和所述种子语料;

扩写模块,被配置用于对所述所有意图进行批量扩写,得到扩写后的意图;识别所述扩写后的意图中是否包含混淆语料;当包含混淆语料时,对所述混淆语料进行修正,得到扩写后的修正意图;

验证模块,被配置用于通过所述原始意图、所述种子语料和所述扩写后的修正意图训练文本机器人模型;验证所述机器人模型是否符合预期;其中,当所述机器人模型不符合预期时,通过对单个意图进行扩写或对单个语料做调整或扩写,再次训练机器人模型,直至所述机器人模型符合预期。

8.根据权利要求7所述的基于深度学习的文本机器人训练系统,其特征在于,所述系统还包括:

扩写模型训练模块,被配置用于对原始数据进行清洗、聚类以及重新采样,构造出训练数据;所述原始数据为从业务上收集的数据;通过所述训练数据、标准的自回归交叉熵损失函数和标签平滑策略训练扩写模型,并生成句子;通过计算句子之间的BLEU值对生成的句子进行过滤;通过预设的排序指标对所述过滤后的句子进行排序。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京天润融通科技股份有限公司;北京交通大学,未经北京天润融通科技股份有限公司;北京交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310538987.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top