[发明专利]数据仓库的血缘图生成方法、装置、设备及存储介质在审
| 申请号: | 202111431150.4 | 申请日: | 2021-11-29 |
| 公开(公告)号: | CN114138912A | 公开(公告)日: | 2022-03-04 |
| 发明(设计)人: | 徐淑华 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
| 主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/215;G06F16/2455;G06F16/23 |
| 代理公司: | 北京市京大律师事务所 11321 | 代理人: | 胡安 |
| 地址: | 518033 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据仓库 血缘 生成 方法 装置 设备 存储 介质 | ||
1.一种数据仓库的血缘图生成方法,其特征在于,所述数据仓库的血缘图生成方法包括:
获取数据仓库的元数据,并对所述元数据进行去冗余处理,得到目标数据,所述目标数据包括多个节点对象,每个节点对象包括数据库名称、数据表名称和字段名称;
根据所述数据仓库的库关系信息和表关系信息,生成所有节点对象对应的血缘对象,所述血缘对象包括节点集合和路径集合;
通过所述血缘对象中的节点集合和路径集合,生成数据血缘图,并通过预设图分片策略,对所述数据血缘图进行分片切割,得到每个节点对象对应的切片图;
通过预设缓存算法,将每个节点对象对应的切片图缓存至预设缓存空间;
当接收到血缘图生成请求时,从所述预设缓存空间中获取与所述血缘查询请求对应的目标节点对象对应的目标切片图,并根据所述目标切片图生成目标血缘图。
2.根据权利要求1所述的数据仓库的血缘图生成方法,其特征在于,所述获取数据仓库的元数据,并对所述元数据进行去冗余处理,得到目标数据,所述目标数据包括多个节点对象,每个节点对象包括数据库名称、数据表名称和字段名称,包括:
获取数据仓库的元数据,并通过预置的数据清洗算法,对所述元数据进行清洗,得到清洁数据,所述清洁数据包括数据库信息、数据表信息、字段信息;
对每个字段信息对应的数据库信息、数据表信息、字段信息进行对象封装,得到目标数据,所述目标数据包括多个节点对象,每个节点对象包括数据库名称、数据表名称和字段名称。
3.根据权利要求1所述的数据仓库的血缘图生成方法,其特征在于,所述根据所述数据仓库的库关系信息和表关系信息,生成所有节点对象对应的血缘对象,所述血缘对象包括节点集合和路径集合,包括:
通过预设的编码算法,对每个节点对象进行编码,得到每个节点对象对应的节点标识符;
根据所述数据仓库的库关系信息和表关系信息,对每个节点对象进行关联关系生成,得到各关联关系对应的路径对象,每个路径对象包括入节点对象的第一节点标识符和出节点对象的第二节点标识符;
合并多个路径对象得到路径集合,以及合并多个节点对象得到节点集合;
组合所述节点集合和所述路径集合,得到血缘对象。
4.根据权利要求1所述的数据仓库的血缘图生成方法,其特征在于,所述通过所述血缘对象中的节点集合和路径集合,生成数据血缘图,并通过预设图分片策略,对所述数据血缘图进行分片切割,得到每个节点对象对应的切片图,包括:
通过预设的分布式图计算接口,对所述血缘对象中的节点集合和路径集合进行图像绘制,得到数据血缘图;
通过预设图分片策略中的标准分片策略,对所述数据血缘图进行分片切割,得到每个节点对象对应的切片图,所述标准分片策略包括分片键和分片算法。
5.根据权利要求1所述的数据仓库的血缘图生成方法,其特征在于,所述通过预设缓存算法,将每个节点对象对应的切片图缓存至预设缓存空间,包括:
将每个节点对象对应的切片图缓存至预设缓存空间,并判断所述预设缓存空间中的可用缓存空间是否小于预设缓存阈值;
若所述预设缓存空间中的可用缓存空间小于预设缓存阈值,则通过预设缓存算法中的最不经常使用缓存算法,对每个切片图进行访问频率计算,得到每个切片图对应的访问频率,并将访问频率低于预设频率阈值的切片图从所述预设缓存空间中删除。
6.根据权利要求1所述的数据仓库的血缘图生成方法,其特征在于,所述当接收到血缘图生成请求时,从所述预设缓存空间中获取与所述血缘查询请求对应的目标节点对象对应的目标切片图,并根据所述目标切片图生成目标血缘图,包括:
当接收到血缘图生成请求时,提取所述血缘查询请求中的查询对象信息,所述查询对象信息用于指示查询字段信息;
获取与所述查询字段信息对应的目标节点对象,并通过所述血缘对象获取与所述目标节点对象关联的关联节点对象;
从所述预设缓存空间中查找所述目标节点对象和所述关联节点对象对应的目标切片图,并通过预设的图计算算法对所述目标切片图进行图片合成,得到目标血缘图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111431150.4/1.html,转载请声明来源钻瓜专利网。





