[发明专利]样本数据生成方法及装置、训练模型的方法及装置有效
| 申请号: | 201810289135.2 | 申请日: | 2018-03-30 |
| 公开(公告)号: | CN108717547B | 公开(公告)日: | 2020-12-22 |
| 发明(设计)人: | 刘萌;夏珺峥;李长升;孙源良 | 申请(专利权)人: | 国信优易数据股份有限公司 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06T7/11 |
| 代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 吴迪 |
| 地址: | 100000 北京市丰台区南四环*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 样本 数据 生成 方法 装置 训练 模型 | ||
本申请提供了一种样本数据生成方法及装置、训练模型的方法及装置,其中,该样本数据生成方法包括:获取样本图片,样本图片中包含多个目标类别;确定样本图片中分布占比小于第一预设占比的第一目标类别,和/或分布占比大于第二预设占比的第二目标类别;按照预设窗口大小对样本图片进行遍历,生成待分析切片;按照预设筛选条件从待分析切片中确定样本数据,使得得到的样本数据符合如下条件:针对以第一目标类别为筛选依据的情况,样本数据中包含第一目标类别的样本数据比例增多;针对以第二目标类别为筛选依据的情况,样本数据中包含第二目标类别的样本数据比例减少。本申请避免了数据不平衡的问题,且通过构建的平衡数据来提高模型训练的精度。
技术领域
本申请涉及数据处理技术领域,具体而言,涉及一种样本数据生成方法及装置、训练模型的方法及装置。
背景技术
对于机器学习,尤其是深度学习而言,大多数算法的运行均需要以大量的样本数据为基础。样本数据的丰富程度及准确性对于机器学习具有非常重要的意义。
例如,基于深度学习实现的语义分割需要使用大量的样本数据对神经网络模型进行训练,才能使训练后的神经网络模型能够获得较好的语义分割结果。其中,上述样本数据可以包括:大量的样本图片以及对样本图片内的物体按照物体类别进行精确语义分割后的图片。
尽管上述样本图片的数据量特别的大,但是,某类样本数据数量明显少于其他类样本数据数量,这种不平衡数据在研究工作中往往难以避免。上述数据不平衡现象与数据获取方式有着必然的联系,在相关技术中,不同的应用场景将获取到不同的原始图片集,且该原始图片集中的原始图片的尺寸通常非常大而无法匹配神经网络模型的尺寸,一般会对上述原始图片按照预设窗口大小进行遍历,以切片得到对应于原始图片集的样本数据。
然而,相关技术中由于无目的地进行图片切分以进行数据的获取,数据不平衡问题严重,从而导致小类别信息(很可能是有用的信息)在样本结构和特征维度两个层面被大类别信息掩盖,使得之后的语义分割往往难以学习到小类别信息而导致模型训练的精度较差。
发明内容
有鉴于此,本申请实施例的目的在于提供一种样本数据生成方法及装置、训练模型的方法及装置,一定程度上避免数据不平衡的问题,通过构建平衡数据来提高模型训练的精度。
第一方面,本申请实施例提供了一种样本数据生成方法,所述方法包括:
获取样本图片,所述样本图片中包含多个目标类别;
确定所述样本图片中分布占比小于第一预设占比的第一目标类别,和/或分布占比大于第二预设占比的第二目标类别;
按照预设窗口大小对所述样本图片进行遍历,生成待分析切片;
按照预设筛选条件从待分析切片中确定样本数据,使得得到的样本数据符合如下条件:
针对以第一目标类别为筛选依据的情况,样本数据中包含第一目标类别的样本数据比例增多;针对以第二目标类别为筛选依据的情况,样本数据中包含第二目标类别的样本数据比例减少。
结合第一方面,本申请实施例提供了第一方面的第一种可能的实施方式,其中,针对以第一目标类别为筛选依据的情况,按照预设筛选条件从待分析切片中确定样本数据,包括:
确定待分析切片中所包含的第一目标类别在该待分析切片中的分布占比;
若确定的分布占比大于第一预设切片占比,则将该待分析切片确定为样本数据。
结合第一方面,本申请实施例提供了第一方面的第二种可能的实施方式,其中,针对以第二目标类别为筛选依据的情况,按照预设筛选条件从待分析切片中确定样本数据,包括:
确定待分析切片中所包含的第二目标类别在该待分析切片中的分布占比;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国信优易数据股份有限公司,未经国信优易数据股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810289135.2/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





