[发明专利]一种基于散点图的数据质量检测方法及系统在审
申请号: | 201310443454.1 | 申请日: | 2013-09-26 |
公开(公告)号: | CN103473473A | 公开(公告)日: | 2013-12-25 |
发明(设计)人: | 王明兴;樊文飞;贾西贝 | 申请(专利权)人: | 深圳市华傲数据技术有限公司 |
主分类号: | G06F19/00 | 分类号: | G06F19/00 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518057 广东省深圳市南山区高新区中*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 散点图 数据 质量 检测 方法 系统 | ||
1.一种基于散点图的数据质量检测方法,其特征在于,所述方法包括以下步骤:
定义数据格Gxy,并对多种趋势线进行拟合;
采用散点图展示数据,根据数据的实际趋势选择趋势线进行展示;
根据确定好的趋势线类型和参数生成数据质量规则;
选取适当的数据质量规则,根据阀值进行数据质量检测。
2.根据权利要求1所述的方法,其特征在于,所述定义数据格Gxy,并对多种趋势线进行拟合包括以下步骤:
定义数据格Gxy,对数据源进行扫描;
对数据源进行读取,并分析存储的数据,修正X轴展示刻度;
对每个有效展示刻度的每个有效数据格Gxy,依据总记录数和总和计算出X、Y平均值;
对每个有效展示刻度的每个Gx,计算X的总平均值和所有Gy总的平均值,并根据总平均值对每种趋势线进行拟合。
3.根据权利要求1或2所述的方法,其特征在于,所述趋势线包括:直线、对数曲线、指数曲线、二次曲线、龚柏兹曲线、逻辑曲线、周期曲线等。
4.根据权利要求1所述的方法,其特征在于,所述采用散点图展示数据信息至少包括:数据散点信息、所有Gx均值线和拟合出的趋势线等。
5.根据权利要求1所述的方法,其特征在于,所述根据数据的实际趋势选择趋势线包括:
在散点图上显示趋势线的种类,根据数据实际趋势进行选择;
当拟合出的趋势线参数不满足当前数据显示时,可进行手工调整趋势线的参数;其中,
调整方式可在散点图中直接修改趋势线公式或者对每个参数支持鼠标拖动修改,可在散点图中实时展示鼠标拖动修改时趋势线变化情况。
6.根据权利要求1所述的方法,其特征在于,所述生成数据质量规则包括:
假设趋势线为y=f(x),即对某个x值,根据趋势线可计算出目标值y;
给目标值设定一个阀值生成数据质量规则。
7.根据权利要求6所述的方法,其特征在于,所述阀值的设定为绝对值。
8.根据权利要求6所述的方法,其特征在于,所述阀值的设定为百分比方式。
9.根据权利要求1所述的方法,其特征在于,所述数据质量检测包括:
根据散点图中数据展示的实际情况选取数据质量规则,针对每个输入数据(x,y),根据所述规则的趋势线技术计算出x对应的目标值y’;
设定阀值的大小或者百分比,计算出目标值的合理区间进行判断实际值y的数据质量情况。
10.一种基于散点图的数据质量检测系统,其特征在于,所述系统包括:
趋势线拟合单元,用于根据定义数据格Gxy,并获取对多种趋势线进行拟合的信息;
数据展示单元,用于采用散点图展示数据,根据数据的实际趋势选择趋势线进行展示;
数据质量规则生成单元,用于根据确定好的趋势线类型和参数生成数据质量规则,并获取数据质量规则信息;
数据质量检测单元,用于选取适当的数据质量规则,根据阀值进行数据质量检测,并获取数据质量检测结果。
11.根据权利要求10所述的系统,其特征在于,所述数据展示单元选择趋势线种类包括:直线、对数曲线、指数曲线、二次曲线、龚柏兹曲线、逻辑曲线、周期曲线等。
12.根据权利要求10或11所述的系统,其特征在于,所述数据展示单元根据数据的实际趋势选择趋势线进行展示包括:
在散点图上显示趋势线的种类,根据数据实际趋势进行选择;
当拟合出的趋势线参数不满足当前数据显示时,可进行手工调整趋势线的参数;其中,
调整方式可在散点图中直接修改趋势线公式或者对每个参数支持鼠标拖动修改,可在散点图中实时展示鼠标拖动修改时趋势线变化情况。
13.根据权利要求10所述的系统,其特征在于,所述数据质量规则生成单元生成数据质量规则包括:
假设趋势线为y=f(x),即对某个x值,根据趋势线可计算出目标值y;
给目标值设定一个阀值生成数据质量规则。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市华傲数据技术有限公司,未经深圳市华傲数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310443454.1/1.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06F 电数字数据处理
G06F19-00 专门适用于特定应用的数字计算或数据处理的设备或方法
G06F19-10 .生物信息学,即计算分子生物学中的遗传或蛋白质相关的数据处理方法或系统
G06F19-12 ..用于系统生物学的建模或仿真,例如:概率模型或动态模型,遗传基因管理网络,蛋白质交互作用网络或新陈代谢作用网络
G06F19-14 ..用于发展或进化的,例如:进化的保存区域决定或进化树结构
G06F19-16 ..用于分子结构的,例如:结构排序,结构或功能关系,蛋白质折叠,结构域拓扑,用结构数据的药靶,涉及二维或三维结构的
G06F19-18 ..用于功能性基因组学或蛋白质组学的,例如:基因型–表型关联,不均衡连接,种群遗传学,结合位置鉴定,变异发生,基因型或染色体组的注释,蛋白质相互作用或蛋白质核酸的相互作用
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置