[发明专利]一种不动产数据整合系统及方法在审
申请号: | 201711486568.9 | 申请日: | 2017-12-29 |
公开(公告)号: | CN108228815A | 公开(公告)日: | 2018-06-29 |
发明(设计)人: | 许庆刚;朱继远;王莉;冯帅;赵琼琼;钱亮亮;卢书奎 | 申请(专利权)人: | 安徽迈普德康信息科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06Q50/16 |
代理公司: | 上海精晟知识产权代理有限公司 31253 | 代理人: | 冯子玲 |
地址: | 230000 安徽省合肥市高新区*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据整合 数据库 数据整合系统 有效数据 采集 加载 匹配 抽取 清洗 数据采集模块 数据抽取模块 数据处理领域 数据加载模块 数据整合单元 数据转换模块 数据库信息 数字化处理 存储数据 发送信息 数据清洗 通信模块 智能终端 转换规则 转换 整合 服务器 | ||
1.一种不动产数据整合系统,包括不动产单元、不动产数据整合单元、服务器和智能终端,其特征在于:
所述不动产数据整合单元分别与不动产单元和服务器连接;所述服务器与智能终端无线连接;
所述不动产单元包括若干种数据库;
所述不动产数据整合单元包括:用于采集不动产单元中多种数据库信息并进行数字化处理的数据采集模块;用于对采集到的数据进行抽取的数据抽取模块;用于根据清洗规则清洗出有效数据的数据清洗模块;用于根据转换规则将有效数据进行转换的数据转换模块;用于根据定义规则进行匹配的规则匹配模块;用于将匹配完成的数据进行加载的数据加载模块;
所述服务器包括用于将加载完成的数据存储到不动产正式数据库和向智能终端发送信息的通信模块。
2.根据权利要求1所述的一种不动产数据整合系统,其特征在于,所述智能终端包括智能手机、PC机和平板电脑。
3.一种不动产数据整合方法,其特征在于,包括如下步骤:
其中,数据抽取包括如下步骤:
S101采集的数据进行字段映射;
S102对映射的字段进行关联得到原始中转数据;
S103判断原始数据是否需要增量;
若是,则执行步骤S104;
若否,则执行步骤S105;
S104对元数据进行增量抽取,得到待清洗数据;
S105对元数据进行全量抽取,到的待清洗数据;
其中,数据清洗包括如下步骤:
S201设置清洗规则,将元数据进行规范化处理;
S202根据清洗规则对需要的数据进行替换得到干净的中转数据;
S203根据清洗规则对缺失的数据进行补缺得到干净的中转数据;
其中,数据转换包括如下步骤:
S301对清洗后的有效数据进行表或数据的拆分;
S302对拆分完成的数据或表进行数据计算;
S303根据关联规则,对多表进行关联查询、匹配,得到与目标匹配的明细数据;
其中,数据加载包括如下步骤:
S401设置加载方式对元数据进行增量加载;
S402设置加载方式对元数据进行全量加载;
S403将加载数据与明细数据进行数据比对得到文件数据。
4.根据权利要求2所述的一种不动产数据整合方法,其特征在于,所述数据抽取包括全量抽取和增量抽取,其中,抽取过程中将数据拆分成几个部分并行抽取。
5.根据权利要求2所述的一种不动产数据整合方法,其特征在于,所述加载方式包括时间戳方式、日志表方式、全表对比方式和全表删除插入的方式。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽迈普德康信息科技有限公司,未经安徽迈普德康信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711486568.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据同步方法及装置
- 下一篇:一种瀑布流图片的加载方法和装置