[发明专利]一种元数据采集方法、装置、服务器和计算机可读介质在审
申请号: | 201810681381.2 | 申请日: | 2018-06-27 |
公开(公告)号: | CN109033188A | 公开(公告)日: | 2018-12-18 |
发明(设计)人: | 曾伟;姚玉兰 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 梁香美 |
地址: | 450000 河南省郑州市郑州高新*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 元数据 采集 目标元数据 采集器 变更 计算机可读介质 元数据类型 变更信息 服务器 采集指令 快速采集 监听器 数据源 发送 计算机 申请 | ||
本申请提供了一种元数据采集方法、装置、服务器和计算机可读介质,涉及计算机的技术领域,该方法包括:获取元数据监听器监听到的发生变更的元数据的变更信息;基于变更信息确定发生变更的元数据所属的元数据类型;确定与元数据类型相对应的目标元数据采集器,向目标元数据采集器发送采集指令,以使目标元数据采集器对发生变更的元数据进行采集,在本实施例中,在监听到数据源部分元数据发生变更时,针对该部分元数据进行采集的方式,避免了重复性的元数据采集操作,提高了元数据采集的效率,从而实现了元数据的快速采集。
技术领域
本申请涉及计算机的技术领域,尤其是涉及一种元数据采集方法、装置、服务器和计算机可读介质。
背景技术
元数据管理系统是提升共享、重新获取和理解企业信息资产水平的重要工具,是企业信息管理的润滑剂。如果企业不对元数据进行管理或管理不得当,信息将被丢失或处于隐匿状态而难以被用户使用,数据集成将十分昂贵,不能对业务进行有效支撑。其中,元数据采集是元数据管理系统的核心,亦是整个系统的基础。
当前的元数据采集主要分为手动采集和定时采集两种。手动采集是根据数据源信息,利用对应采集器去采集指定数据源中库,表,字段等属性信息。定时采集是按照指定时间去采集上述信息。
不论是手动采集还是定时采集,其技术方案如下:配置数据源:配置将要采集的数据源信息,如数据源的IP,端口,用户名,密码等。选择采集器:根据不同的数据源选择不同的采集器进行采集,比如采集Oracle数据源信息,则需要选择Oracle采集器进行元数据的采集。采集元数据:按照事先约定的规则按顺序采集对应元数据信息,比如先采集库相关元数据,然后采集表相关元数据,最后采集字段相关元数据等。
上述元数据采集方案具有以下缺点:数据量很大时,采集元数据信息很费时;重复工作很多,比如指定数据源上次采集的信息和这次采集的信息是相同的,那么这次的工作毫无意义。还有当库信息发生变更时,利用上述方法,还会采集表,字段这些没有变化的属性,这些实际没有必要,因为上一次采集已经都有这些属性了。
发明内容
有鉴于此,本申请的目的在于提供一种元数据采集方法、装置、服务器和计算机可读介质,以实现元数据的快速采集。
第一方面,本申请实施例提供了一种元数据采集方法,包括:获取元数据监听器监听到的发生变更的元数据的变更信息;基于所述变更信息确定发生变更的元数据所属的元数据类型;确定与所述元数据类型相对应的目标元数据采集器,向所述目标元数据采集器发送采集指令,以使所述目标元数据采集器对所述发生变更的元数据进行采集。
进一步地,所述元数据类型包括以下至少之一:数据源中的库信息,数据源中的表信息,数据源中的字段信息;所述元数据采集器组中包括以下至少一种元数据采集器:用于采集数据源中库信息的元数据采集器,用于采集数据源中表信息的元数据采集器,用于采集数据源中字段信息的元数据采集器。
进一步地,所述方法还包括:在所述元数据采集器组中的每个元数据采集器首次采集所述数据源的元数据时,关闭所述元数据监听器;在所述元数据采集器组中的所有元数据采集器首次采集所述数据源的元数据之后,开启所述元数据监听器。
进一步地,在向所述目标元数据采集器发送采集指令之前,所述目标元数据采集器处于关闭状态。
进一步地,一个数据源对应一个数据监听器和一个元数据采集器组。
第二方面,本申请实施例提供了一种元数据采集装置,包括:获取单元,用于获取元数据监听器监听到的发生变更的元数据的变更信息;第一确定单元,用于基于所述变更信息确定发生变更的元数据所属的元数据类型;第二确定单元,用于确定与所述元数据类型相对应的目标元数据采集器,向所述目标元数据采集器发送采集指令,以使所述目标元数据采集器对所述发生变更的元数据进行采集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810681381.2/2.html,转载请声明来源钻瓜专利网。