[发明专利]数据处理方法、风险识别方法、计算机设备、存储介质在审
申请号: | 201910464550.1 | 申请日: | 2019-05-30 |
公开(公告)号: | CN112016579A | 公开(公告)日: | 2020-12-01 |
发明(设计)人: | 俞飞江;王榕;朱成生;高阳;姜喆 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06Q10/06 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 钱秀茹 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 风险 识别 计算机 设备 存储 介质 | ||
本申请实施例公开了一种数据处理方法。所述方法包括:获取用于训练第一识别模型的第一样本集合,以及至少一个第二样本集合,其中,所述至少一个第二样本集合用于训练第二识别模型;确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求;合并所述第一样本集合和至少一个第二样本集合,得到代替所述第一样本集合的第三样本集合,作为训练所述第一识别模型的输入,从而补充了用于训练第一识别模型的样本,避免了因第一样本集合中样本数量过少导致第一识别模型的过拟合问题,继而提高了第一识别模型识别的覆盖率,提升识别效果。
技术领域
本申请涉及数据处理技术领域,具体涉及一种数据处理方法、一种风险识别方法、一种计算机设备、一种计算机可读存储介质。
背景技术
随着计算机技术的发展,人工智能以及机器学习等技术越来越多地被实际应用。机器学习方法是计算机利用已有的数据,通过训练得出某种模型,并利用模型推测新的实例的方法。因此,训练过程需要历史已有的样本数据,并且样本数据对于最终得到的模型的预测效果将产生很大的影响。
实践中,对于某些业务,历史已有的样本是比较稀缺的,例如,电子商务平台中,为了实现对假货、违禁品、欺诈等风险的防控,保障业务安全,通常会收集历史已有的黑白样本,训练风险识别模型来防控风险。但是有的平台中历史已有的黑样本是较少的。
申请人经研究发现,如果样本过少,为了得到一致假设会使得假设变得过度严格,也就是说,一个假设在训练数据上能够获得比其他假设更好的拟合,但是在训练数据外的数据集上却不能很好地拟合数据,即出现了过拟合的现象。总之,在模型的训练过程中,样本过少会导致模型出现过拟合的现象,继而导致用模型进行推测的覆盖率不高。
发明内容
鉴于上述问题,提出了本申请以便提供一种克服上述问题或者至少部分地解决上述问题的数据处理方法、风险识别方法以及计算机设备、计算机可读存储介质。
依据本申请的一个方面,提供了一种数据处理方法,包括:
获取用于训练第一识别模型的第一样本集合,以及至少一个第二样本集合,其中,所述至少一个第二样本集合用于训练第二识别模型;
确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求;
合并所述第一样本集合和至少一个第二样本集合,得到代替所述第一样本集合的第三样本集合,作为训练所述第一识别模型的输入。
可选地,所述确定所述第一样本集合和至少一个第二样本集合之间的相似性数据符合预设要求包括:
对所述第一样本集合中的第一样本和第二样本集合中的第二样本进行聚类;
根据所述聚类结果,确定所述第一样本集合和第二样本集合之间的相似性数据;
确定所述相似性数据符合预设要求。
可选地,所述根据所述聚类结果,确定所述第一样本集合和第二样本集合之间的相似性数据包括:
计算所述聚类结果中与所述第二样本归于同一类的第一样本的数量和所述第一样本的总数量的比值,作为所述相似性数据。
可选地,在所述对所述第一样本集合中的第一样本和第二样本集合中的第二样本进行聚类之前,所述方法还包括:
合并所述第一样本集合和第二样本集合;
对所述第一样本和第二样本进行归一化处理和/或向量化处理。
可选地,所述获取用于训练第一识别模型的第一样本集合,以及至少一个第二样本集合包括:
从第一数据系统获取所述第一样本集合;
从第二数据系统获取所述第二样本集合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910464550.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种安装稳固的假牙
- 下一篇:一种基于物联网的景区智能综合服务可穿戴系统