[发明专利]一种异构数据集特征质量可视化方法在审
申请号: | 201610130663.4 | 申请日: | 2016-03-08 |
公开(公告)号: | CN105718600A | 公开(公告)日: | 2016-06-29 |
发明(设计)人: | 汤奇峰;薛守辉 | 申请(专利权)人: | 上海晶赞科技发展有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F17/24;G06N99/00;G06Q30/02 |
代理公司: | 上海翰信知识产权代理事务所(普通合伙) 31270 | 代理人: | 张维东 |
地址: | 200072 上海市闸*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 特征 质量 可视化 方法 | ||
1.一种异构数据集特征质量可视化方法,其特征在于,至少包括以下步骤:
步骤1,给定二分类有标签异构数据集D(A)和D(B),给定某特征f,构建特征的类 别值集合V={v1,v2,。。。vN};
步骤2,在异构数据集D(d)中,d为A、B,分别计算整体正样本发生率r(A)和r(B), 计算公式为r(d)=pos(d)/ins(d),pos(d)为异构数据集D(d)中的正样本总数、 ins(d)为异构数据集D(d)的样本总数;
步骤3,在异构数据集D(d)中,d为A、B,对V中的每个类别值v,计算其的正样本发 生率r(v,d),计算公式为r(v,d)=pos(v,d)/ins(v,d),其中pos(v,d)、 ins(v,d)分别为D(d)中包含v的正样本数量和样本总数;
步骤4,在异构数据集D(d)中,d为A、B,对V中的每个类别值v,计算其的规范化发 生率sr(v,d),计算公式为:sr(v,d)=r(v,d)/r(d);
步骤5,对类别值集合V中的每个类别值v,计算其综合发生率t(v)、漂移比s(v), 计算公式为:t(v)=sr(v,A)+sr(v,B),即类别值v在D(A)和D(B)上的规范化 发生率求和;s(v)=sr(v,B)/sr(v,A),即v在D(A)和D(B)上的规范化发生率 求比率;
步骤6,对V中的每个类别值v,以综合发生率t(v)为偏角、以漂移比s(v)为半径, 将特征类别值绘制于极坐标系中,极坐标p(v)=(t(v),s(v));
步骤7,在极坐标系中构造辅助圆,辅助圆半径为1,圆心为原点,构成特征f在同构 数据集D上的特征质量图。
2.根据权利要求1所述的一种异构数据集特征质量可视化方法,其特征在于,所述步骤1中, “构建特征的类别值集合”的方法为:
步骤1.1,判断特征f是否为数值特征,若是,则将特征f采用公式int(log2(c))离散 化成类别值,其中c为特征f的特征值,int表示取整,log2表示以2为底取对数,进而在 给定数据集上可以得到类别值集合为V0;若不是,则执行步骤1.2;
步骤1.2,设置一阀值,将样本数量少于此阀值的类别值归为一个类别值中,将类别值集 合为V0转化为特征类别值集合V。
3.根据权利要求1所述的一种异构数据集特征质量可视化方法,其特征在于,其特征评估流 程至少包括以下步骤:
步骤1,对异构数据集D,给定特征集合F,需要选择的特征数量N。
步骤2,计算特征集合F中每个特征在可视化过程中的各项指标数据,包括发生率、规范 化发生率、漂移比、综合发生率,构成指标集M;并绘制特征集合F中的每个特征的特征质量 图,构成图形集G。
步骤3,根据指标集M和图形集G,对特征集合F中的特征的稳定性和相关度进行评估, 得到特征评估结论。
步骤4,根据指标集M和图形集G,判断预测模型的效果瓶颈是特征稳定度还是特征相 关度,得到特征归因结论。
步骤5,根据指标集M和图形集G,从特征集合F中选择出来前N个质量好的特征,构 成特征选择结果集。
步骤6,根据指标集M和图形集G,对特征集合中部分相关度好、类别值多但稳定性差的 特征进行特征改进,采用将具有相近综合发生率的类别值进行聚类,使整体类别数量减少的 同时,提高特征整体稳定性,形成特征改建议。
步骤7,综合特征评估结论、特征归因结论、特征选择结果集、特征改建议构成特征评估 报告。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海晶赞科技发展有限公司,未经上海晶赞科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610130663.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种复杂产品的复杂模型的建立方法
- 下一篇:助推式鲜木薯原料浮选清杂装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置