[发明专利]用于模型训练的污染样本数据的检测方法及装置在审
| 申请号: | 202111041760.3 | 申请日: | 2021-09-07 |
| 公开(公告)号: | CN113495886A | 公开(公告)日: | 2021-10-12 |
| 发明(设计)人: | 刘胜;魏国富;夏玉明;周晓勇;马影;殷钱安;梁淑云;余贤喆;陶景龙;王启凡;徐明 | 申请(专利权)人: | 上海观安信息技术股份有限公司 |
| 主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/22;G06F16/2458 |
| 代理公司: | 北京中强智尚知识产权代理有限公司 11448 | 代理人: | 黄耀威 |
| 地址: | 200000 上海市浦东新*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 用于 模型 训练 污染 样本 数据 检测 方法 装置 | ||
1.一种用于模型训练的污染样本数据的检测方法,其特征在于,包括:
获取待检测的各个平台用户对应的样本属性数据,所述样本属性数据至少包括所述各个平台用户对应的设备属性数据、风控数据和业务数据,所述设备属性数据包括设备标识和应用程序标识,所述风控数据包括所述平台用户的请求信息和个人信息,所述业务数据包括所述平台用户的订单信息和退单信息;
利用预设局部敏感哈希算法,分别将各个样本属性数据哈希到不同哈希表中相应的哈希桶内,其中,任意一个哈希表中均包括多个哈希桶;
将所述不同哈希表中与所述各个样本属性数据位于同一个哈希桶中的数据确定为第一样本属性数据;
从所述第一样本属性数据中筛选出与所述各个样本属性数据相似的第二样本属性数据;
基于所述第二样本属性数据对应的样本数据量,分别判定所述各个样本属性数据是否为污染样本数据。
2.根据权利要求1所述的方法,其特征在于,所述利用预设局部敏感哈希算法,分别将各个样本属性数据哈希到不同哈希表中相应的哈希桶内,包括:
利用预设局部敏感哈希算法,分别计算所述各个样本属性数据在所述不同哈希表中的哈希值;
基于所述哈希值,将所述各个样本属性数据哈希到所述不同哈希表中相应的哈希桶内。
3.根据权利要求2所述的方法,其特征在于,所述利用预设局部敏感哈希算法,分别计算所述各个样本属性数据在所述不同哈希表中的哈希值,包括:
确定所述各个样本属性数据对应的数据维度和坐标值;
基于所述数据维度和所述坐标值,确定所述各个样本属性数据对应的汉明编码;
利用所述不同哈希表对应的哈希函数,提取所述汉明编码中相应位置处的编码,并将提取的编码确定为所述各个样本属性数据在所述不同哈希表中的哈希值。
4.根据权利要求3所述的方法,其特征在于,所述从所述第一样本属性数据中筛选出与所述各个样本属性数据相似的第二样本属性数据,包括:
分别计算所述各个样本属性数据和与其对应的第一样本属性数据之间的样本距离;
将所述样本距离小于预设距离的第一样本属性数据确定为与所述各个样本属性数据相似的第二样本属性数据。
5.根据权利要求4所述的方法,其特征在于,所述样本距离为汉明距离,所述分别计算所述各个样本属性数据和与其对应的第一样本属性数据之间的样本距离,包括:
分别将所述各个样本属性数据对应的汉明编码与所述第一样本属性数据对应的汉明编码进行对比,确定所述各个样本属性数据与所述第一样本属性数据具有不同编码的位数;
将所述位数确定为所述各个样本属性数据和与其对应的第一样本属性数据之间的汉明距离。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述基于所述第二样本属性数据对应的样本数据量,分别判定所述各个样本属性数据是否为污染样本数据,包括:
统计所述各个平台用户对应的样本数据量,并从各个样本数据量中筛选出最大样本数据量;
根据所述最大样本数据量和所述第二样本属性数据对应的样本数据量,判定所述各个样本属性数据是否为污染样本数据。
7.根据权利要求6所述的方法,其特征在于,所述根据所述最大样本数据量和所述第二样本属性数据对应的样本数据量,判定所述各个样本属性数据是否为污染样本数据,包括:
将所述第二样本属性数据对应的样本数据量与所述最大样本数据量相减,得到所述各个样本属性数据对应的样本数量差;
若所述各个样本属性数据中的目标样本属性数据对应的样本数量差大于预设样本数量差,则判定所述目标样本属性数据及其对应的第二样本属性数据为污染样本数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海观安信息技术股份有限公司,未经上海观安信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111041760.3/1.html,转载请声明来源钻瓜专利网。





