[发明专利]数据融合平台在审
申请号: | 202310046188.2 | 申请日: | 2023-01-31 |
公开(公告)号: | CN116089902A | 公开(公告)日: | 2023-05-09 |
发明(设计)人: | 张力 | 申请(专利权)人: | 张力;首科软创(北京)软件有限公司 |
主分类号: | G06F18/25 | 分类号: | G06F18/25;G06F16/242;G06F16/25 |
代理公司: | 北京东灵通专利代理事务所(普通合伙) 61242 | 代理人: | 王荣 |
地址: | 053513 河北省衡*** | 国省代码: | 河北;13 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 融合 平台 | ||
1.一种数据融合平台,其特征在于,包括:
数据发布模块,所述数据发布模块与数据源连接,用于获取数据;
数据加工模块,所述数据加工模块与所述数据发布模块连接,用于对获取数据进行数据加工包含数据清洗、过滤、加密、编排、拆表、和表等;
策略分配模块,所述策略分配模块与所述数据加工模块连接,用于对加工后的数据进行追加更新策略,定义数据流向;
数据订阅模块,所述数据订阅模块与目标终端连接,用于输出数据。
2.根据权利要求1所述的数据融合平台,其特征在于,平台架构包括:
数据接入层,所述数据接入层包括数据库、数据接口、消息队列、文件、SQL、ZCBUSSDK、第三方插件;
容器服务层,所述容器服务层包括:数据发布服务、ETL服务、数据对比服务、数据订阅服务、自检服务、系统解耦服务;
数据基础层,所述数据基础层包括:MYSQL、KAFKA缓存数据存储层。
3.根据权利要求2所述的数据融合平台,其特征在于:所述数据接入层中的数据库数据捕获,DDL语句转换,包括创建表、修改表、删除表,以及表上约束、索引。
4.根据权利要求3所述的数据融合平台,其特征在于:所述数据加工模块包括对获取数据进行字符串转换、字段赋值、时间类转换、数据比对与翻译、数学运算、身份证格式转换。
5.根据权利要求4所述的数据融合平台,其特征在于:交换过程中的数据质量检查,根据数据逻辑判断规则,将干净的数据装载到目标中,将判断有问题的数据路由到数据库表或者数据文件中。
6.根据权利要求5所述的数据融合平台,其特征在于:所述数据逻辑判断包括:格式匹配检查、字符串逻辑检查、内容为空检查、重复记录检查、范围内检查、表表外键关联检查、逻辑检查、复合逻辑检查、自定义逻辑检查。
7.根据权利要求6所述的数据融合平台,其特征在于:SQL语句验证在任何数据库,任何节点中执行。
8.根据权利要求7所述的数据融合平台,其特征在于:数据共享模型溯源;针对每个共享出去的表,ETL转换模型,以及应用的目的地,进行表应用流程溯源,保证每个表从任何一个节点,均能找到其来源以及预计输送目标;
实现数据多对一,一对多,多对多的数据复制,消息合并,数据合并,增加辅助消息功能。
9.根据权利要求8所述的数据融合平台,其特征在于:在数据溯源的过程中,根据设置条件,找到数据信息的变化轨迹;在缓存中,检索某些具体数据变化轨迹,以及变化轨迹的数据以及存放到那些目标对象中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于张力;首科软创(北京)软件有限公司,未经张力;首科软创(北京)软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310046188.2/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置