[发明专利]一种数据分布平衡的确定方法及系统在审
| 申请号: | 201810775491.5 | 申请日: | 2018-07-16 |
| 公开(公告)号: | CN109214413A | 公开(公告)日: | 2019-01-15 |
| 发明(设计)人: | 周永龙 | 申请(专利权)人: | 上海斐讯数据通信技术有限公司 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62 |
| 代理公司: | 杭州千克知识产权代理有限公司 33246 | 代理人: | 周希良;吴辉辉 |
| 地址: | 201616 *** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 样本 准确率 数据分布 数组 预设 训练集 预测 训练数据集 分布调整 模型分类 效果选择 验证集 平衡 分析 验证 | ||
1.一种数据分布平衡的确定方法,其特征在于,包括步骤:
设定预设数组最丰富样本和稀有样本的不同比值;
根据所述不同比值对预训练数据集进行分布调整,获得预设数组的对应比值下的训练集;
分别对所述预设数组的各个训练集进行训练;
采用同一验证集分别对所述各个训练集训练出来的模型进行验证,获得各个模型的预测准确率;
分析各个模型的预测准确率和不同比值之间的关系,根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。
2.如权利要求1所述的一种数据分布平衡的确定方法,其特征在于,所述分别对所述预设数组的各个训练集进行训练具体包括步骤:
选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。
3.如权利要求1所述的一种数据分布平衡的确定方法,其特征在于,还包括步骤:
对所述预训练数据集进行预处理,其中,所述预处理包括去重以及格式检查。
4.如权利要求1所述的一种数据分布平衡的确定方法,其特征在于,还包括步骤:
结合所述预训练数据集的数据分布,对所述预训练数据集进行不同程度的数据增广。
5.如权利要求1所述的一种数据分布平衡的确定方法,其特征在于,还包括步骤:
采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。
6.一种数据分布平衡的确定系统,其特征在于,包括:
设定比值模块,用于设定预设数组最丰富样本和稀有样本的不同比值;
训练集获得模块,用于根据所述不同比值对预训练数据集进行分布调整,获得预设数组的对应比值下的训练集;
训练模块,用于分别对所述预设数组的各个训练集进行训练;
验证模块,用于采用同一验证集分别对所述各个训练集训练出来的模型进行验证,获得各个模型的预测准确率;
分析选择模块,用于分析各个模型的预测准确率和不同比值之间的关系,根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。
7.如权利要求6所述的一种数据分布平衡的确定系统,其特征在于,所述训练模块包括:
选择训练单元,用于选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。
8.如权利要求6所述的一种数据分布平衡的确定系统,其特征在于,还包括:
预处理模块,用于对所述预训练数据集进行预处理,其中,所述预处理包括去重以及格式检查。
9.如权利要求6所述的一种数据分布平衡的确定系统,其特征在于,还包括:
数据增广模块,用于结合所述预训练数据集的数据分布,对所述预训练数据集进行不同程度的数据增广。
10.如权利要求6所述的一种数据分布平衡的确定系统,其特征在于,还包括:
分类集成模块,用于采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海斐讯数据通信技术有限公司,未经上海斐讯数据通信技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810775491.5/1.html,转载请声明来源钻瓜专利网。





