[发明专利]训练文本的处理方法、装置、电子设备及可读存储介质在审
申请号: | 202010407585.4 | 申请日: | 2020-05-14 |
公开(公告)号: | CN111597336A | 公开(公告)日: | 2020-08-28 |
发明(设计)人: | 张忱;张雨辰 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06K9/62 |
代理公司: | 北京市立方律师事务所 11330 | 代理人: | 张筱宁;张海秀 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 训练 文本 处理 方法 装置 电子设备 可读 存储 介质 | ||
本申请实施例提供了一种训练文本的处理方法、装置、电子设备及可读存储介质。该方法包括:获取各训练文本;确定各训练文本之间的文本相似度;将各文本相似度中大于设定阈值的相似度所对应的各训练文本作为待聚类文本,对各待聚类文本进行聚类,得到聚类结果;基于聚类结果对各待聚类文本进行处理。基于本申请实施例所提供的方案,在数据计算时可以基于训练文本所对应的聚类结果,实现对训练文本的批量处理,从而可以有效提升文本的处理效率。
技术领域
本申请涉及计算机技术领域,具体而言,本申请涉及一种训练文本的处理方法、装置、电子设备及可读存储介质。
背景技术
在人工智能技术领域中,无论涉及哪个技术领域,均需要大量且准确的样本作为训练集来实现模型准确的识别,现有技术中在对训练集进处理时,大多数的方法依然是传统的人工方式单条处理。例如,采用人工的方式单条标注训练标签,对此时不仅会存在人工标注效率低下的问题,还会影响需求该样本集的技术模型的上线周期。
发明内容
本申请的目的旨在至少能解决上述的技术缺陷之一,特别是现有的症状识别方法的识别准确性较差的技术缺陷。
第一方面,本申请实施例提供了一种训练文本的处理方法,该方法包括:
获取各训练文本;
确定各训练文本之间的文本相似度;
将各文本相似度中大于设定阈值的相似度所对应的各训练文本作为待聚类文本,对各待聚类文本进行聚类,得到聚类结果;
基于聚类结果对各待聚类文本进行处理。
第二方面,本申请实施例提供了一种训练文本的处理装置,该装置包括:
文本获取模块,用于获取各训练文本;
文本相似度确定模块,用于确定各训练文本之间的文本相似度;
聚类结果确定模块,用于将各文本相似度中大于设定阈值的相似度所对应的各训练文本作为待聚类文本,对各待聚类文本进行聚类,得到聚类结果;
文本处理模块,用于基于聚类结果对各待聚类文本进行处理。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括:
处理器;以及存储器,该存储器配置用于存储计算机程序,该计算机程序在由该处理器执行时,使得该处理器执行第一方面中的任一项方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,计算机可读存储介质用于存储计算机程序,当计算机程序在计算机上运行时,使得计算机可以执行上述第一方面中的任一项方法。
本申请实施例提供的技术方案带来的有益效果是:
在本申请实施例中,在获取到各训练文本后,可以先确定各训练文本之间的文本相似度,然后基于各文本相似度与设定阈值的关系过滤部分训练文本,然后将保留的训练文本作为待聚类文本,并对各待聚类文本进行聚类,得到聚类结果,进一步的,基于本申请实施例所提供的方案,可以基于训练文本所对应的聚类结果,实现对训练文本的批量处理,从而可以有效提升文本的处理效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对本申请实施例描述中所需要使用的附图作简单地介绍。
图1为本申请实施例提供的一种训练文本的处理方法的流程示意图;
图2为本申请实施例提供的一种显示的聚类类别的示意图;
图3为本申请实施例提供的一种显示界面的示意图;
图4为本申请实施例提供的一种得到目标训练集的流程示意图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010407585.4/2.html,转载请声明来源钻瓜专利网。