[发明专利]模型训练数据筛选方法、装置、设备及存储介质有效
申请号: | 202110132778.8 | 申请日: | 2021-02-01 |
公开(公告)号: | CN112446441B | 公开(公告)日: | 2021-08-20 |
发明(设计)人: | 赵明;田科;吴中勤 | 申请(专利权)人: | 北京世纪好未来教育科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 北京市铸成律师事务所 11313 | 代理人: | 邓海鸿;杨瑾瑾 |
地址: | 100086 北京市海淀区中*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 数据 筛选 方法 装置 设备 存储 介质 | ||
本申请提出一种模型训练数据筛选方法、装置、电子设备及存储介质。具体实现方案为:获取业务模型产生的多个坏例数据;利用分类模型对多个坏例数据进行分类,得到多个坏例数据各自所属的分类的类别;根据分类的类别,利用分类模型对业务模型处理的业务数据进行筛选,得到业务模型的第一训练数据。本申请实施例在对坏例数据进行分类的基础上,根据业务模型在不同类别数据上的不同表现效果对线上业务数据进行高效过滤,为业务模型推荐更有价值的训练数据,可达到以最少的数据最大程度提升业务模型的准确度的目的。
技术领域
本申请涉及人工智能技术领域,尤其涉及一种模型训练数据筛选方法、装置、设备及存储介质。
背景技术
Bad Case(坏例)是指在进行算法模型识别预测时,不能够准确给出结果的样本。在算法模型训练的过程中,可通过大量训练Bad Case等丰富多样的样本,使得样本空间取得较大的提升,并且使得训练后的算法模型更具有泛化性和鲁棒性。因此,算法模型产生的Bad Case对模型训练更有价值。如何从样本数据集中寻找Bad Case成为了一个关键性的问题。但是通常情况下现有环境中业务系统的回流数据过多,难以发现何种数据对模型训练更有价值。
发明内容
本申请实施例提供一种模型训练数据筛选方法、装置、电子设备及存储介质,以解决相关技术存在的问题,技术方案如下:
第一方面,本申请实施例提供了一种模型训练数据筛选方法,包括:
获取业务模型产生的多个坏例数据;
利用分类模型对多个坏例数据进行分类,得到多个坏例数据各自所属的分类的类别;
根据分类的类别,利用分类模型对业务模型处理的业务数据进行筛选,得到业务模型的第一训练数据。
在一种实施方式中,获取业务模型产生的多个坏例数据,包括:
获取业务模型处理的业务数据;
将业务模型对业务数据的处理结果与业务数据对应的标注数据相比对,根据比对结果得到业务模型产生的多个坏例数据。
在一种实施方式中,根据分类的类别,利用分类模型对业务模型处理的业务数据进行筛选,得到业务模型的第一训练数据,包括:
利用分类模型对业务模型处理的业务数据进行分类,得到分类数据;
获取预设占比值,预设占比值包括分类的类别对应的数据在第一训练数据中的占比值;
按照预设占比值从分类数据中抽取得到第一训练数据。
在一种实施方式中,上述方法还包括:
根据数据内容和/或数据属性对第一训练数据进行筛选,得到第二训练数据。
在一种实施方式中,上述方法还包括:
对业务模型处理的业务数据进行标注,得到第一标注数据;
基于第一标注数据利用贝叶斯决策训练分类模型。
在一种实施方式中,上述方法还包括:
在分类模型对坏例数据无法分类的情况下,对无法分类的坏例数据进行标注,得到第二标注数据;
基于第二标注数据优化分类模型。
第二方面,本申请实施例提供了一种模型训练数据筛选装置,包括:
获取单元,用于获取业务模型产生的多个坏例数据;
分类单元,用于利用分类模型对多个坏例数据进行分类,得到多个坏例数据各自所属的分类的类别;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京世纪好未来教育科技有限公司,未经北京世纪好未来教育科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110132778.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种用于瓶子传送的保护装置
- 下一篇:环形线锯及其制作方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置