[发明专利]一种物联网数据清洗方法有效
申请号: | 201310081635.4 | 申请日: | 2013-03-14 |
公开(公告)号: | CN103177094B | 公开(公告)日: | 2017-02-22 |
发明(设计)人: | 唐雪飞;陈科;石砾;韩春梅 | 申请(专利权)人: | 成都康赛信息技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 成都宏顺专利代理事务所(普通合伙)51227 | 代理人: | 周永宏 |
地址: | 610054 四川省成都市*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 联网 数据 清洗 方法 | ||
1.一种物联网数据清洗方法,其特征在于:包括以下步骤:
第一步:实施人员通过Web Service获取物联网原始数据;
第二步:实施人员将原始数据重构后,将其存储在内存中;
第三步:实施人员将重构后的原始数据重组为UDB树;
第四步:读取预先设定的规则,进行数据清洗。
2.根据权利要求1所述的一种物联网数据清洗方法,其特征在于:第一步的详细过程包括如下步骤:利用Web Service的方式,对外提供数据服务接口,将数据统一传输至中心数据库,中心数据库采用传统的关系型数据库,为每种类型的设备创建各自的数据表,设备编号作为唯一识别号,所有采集的原始数据将存储在各自的数据表中。
3.根据权利要求1或2所述的一种物联网数据清洗方法,其特征在于:第二步的详细过程包括如下步骤:从中心数据库获得所有数据后,实施人员将这些原始数据组装成为数据块;在完成数据重构后,再将这些数据块加载至内存中。
4.根据权利要求1或2所述的一种物联网数据清洗方法,其特征在于:第三步的详细过程包括如下步骤:利用UDB查询算法,将第二步中的数据块按照关键字开始索引,在找到相应的位置后,再按照UDB插入算法将数据块插入相应的节点。
5.根据权利要求1或2所述的一种物联网数据清洗方法,其特征在于:第四步的详细过程包括如下步骤:在数据清洗时,操作人员可以通过软件配置,或者利用配置文件,对清洗规则进行定义,在整个数据清洗过程中,将在清洗规则约定的条件下进行清洗,且清洗时,可以分为一个及以上个步骤,每个步骤都可以制定不同清洗规则。
6.根据权利要求3所述的一种物联网数据清洗方法,其特征在于:第二步中所述内存为计算机集群组成的内存。
7.根据权利要求6所述的一种物联网数据清洗方法,其特征在于:当内存不足以容纳所有的数据时,原始数据将保留在磁盘中,每次只将部分的数据组装为数据块并加载至内存,内存中的数据块完成处理后,再从磁盘中加载剩余的数据。
8.根据权利要求5所述的一种物联网数据清洗方法,其特征在于:所述的清洗规则可以使用数据库查询语言或者脚本语言进行创建和编辑。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都康赛信息技术有限公司,未经成都康赛信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310081635.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:阀针式注塑模具薄壁气缸
- 下一篇:一种用于带水塑料薄膜造粒的进料装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置