[发明专利]一种应用于搜索服务的全量同步方法有效
申请号: | 201910343332.2 | 申请日: | 2019-04-26 |
公开(公告)号: | CN110263028B | 公开(公告)日: | 2021-06-15 |
发明(设计)人: | 陈海龙;王建新 | 申请(专利权)人: | 石化盈科信息技术有限责任公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/242;G06F16/27 |
代理公司: | 北京聿宏知识产权代理有限公司 11372 | 代理人: | 吴大建;张杰 |
地址: | 100007 北京市东城区东*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 应用于 搜索 服务 同步 方法 | ||
1.一种应用于搜索服务的全量同步方法,其特征在于,包括:
获取需要进行全量同步操作的搜索引擎索引名称;
根据所述搜索引擎索引名称,查询与所述搜索引擎索引名称对应的索引配置信息和数据源配置信息,其中,与所述搜索引擎索引名称对应的索引配置信息包括:利用所述搜索引擎索引名称配置的多个表的数目、所述多个表中的每个表的名称、所述多个表中的每两个表之间的关联关系和关联键、所述多个表中的每个表配置的字段、以及与所述多个表中的每个表对应的数据源配置名称;
通过JDBC与数据库进行连接,并查询所述多个表中的每个表在数据库中存储的数据条数;
根据所述多个表中的每两个表之间的关联关系和关联键,为所述多个表创建表树形结构,其中,所述表树形结构包括多个层级,第一层级上具有一个表,除第一层级之外的其他层级上具有至少一个表;
针对所述表树形结构的每个层级,从最低层级开始到第二层级为止,依次执行以下操作:
利用预设规则,依次将与各层级上的表及其上游表对应的索引配置信息和数据源配置信息、该上游表的名称、以及所述表树形结构中的所有表之间的关联关系存储到堆栈中;
按照存储顺序,依次从堆栈中取出与各层级上的表及其上游表对应的索引配置信息和数据源配置信息,并对各层级上的表及其上游表在数据库中存储的数据进行处理,形成各层级上的表与各层级上的表的上游表的关联表,其中,所述关联表包括:各层级上的表的上游表配置的所有字段,以及分别对各层级上的各表配置的所有字段进行格式转换后形成的JSON格式的数据;
将通过上述操作形成的第一层级上的表与第二层级上的表的关联表中的数据转换为JSON格式的数据,并调用搜索引擎的接口将所述JSON格式的数据写入到搜索引擎中,从而实现了从数据库到搜索引擎的全量同步。
2.根据权利要求1所述的应用于搜索服务的全量同步方法,其特征在于,根据所述搜索引擎索引名称,查询与所述搜索引擎索引名称对应的索引配置信息和数据源配置信息,包括:
根据所述搜索引擎索引名称,查询与所述搜索引擎索引名称对应的索引配置信息;
根据与所述搜索引擎索引名称对应的索引配置信息,查询与所述多个表中的每个表对应的数据源配置信息。
3.根据权利要求2所述的应用于搜索服务的全量同步方法,其特征在于,根据所述搜索引擎索引名称,查询与所述搜索引擎索引名称对应的索引配置信息,包括:
根据所述搜索引擎索引名称,通过调用搜索引擎的配置库的查询接口,从所述配置库的索引配置表中查询与所述搜索引擎索引名称对应的索引配置信息。
4.根据权利要求2所述的应用于搜索服务的全量同步方法,其特征在于,根据与所述搜索引擎索引名称对应的索引配置信息,查询与所述多个表中的每个表对应的数据源配置信息,包括:
根据与所述多个表中的每个表对应的数据源配置名称,通过调用搜索引擎的配置库的查询接口,从所述配置库的数据源配置表中查询与所述多个表中的每个表对应的数据源配置信息。
5.根据权利要求4所述的应用于搜索服务的全量同步方法,其特征在于,与所述多个表中的每个表对应的数据源配置信息包括:与所述多个表中的每个表对应的数据源所属的数据库的类型、地址、端口、库名、用户名、以及密码。
6.根据权利要求5所述的应用于搜索服务的全量同步方法,其特征在于,与所述多个表中的每个表对应的数据源所属的数据库的类型包括:SQL Server数据库、MYSQL数据库和ORACLE数据库。
7.根据权利要求1至6中任一项所述的应用于搜索服务的全量同步方法,其特征在于,在查询所述多个表中的每个表在数据库中存储的数据条数之后,且在根据所述多个表中的每两个表之间的关联关系和关联键,为所述多个表创建表树形结构之前,还包括:
判断所述多个表中的每个表在数据库中存储的数据条数是否为0;
若该表在数据库中存储的数据条数为0,则从与所述搜索引擎索引名称对应的索引配置信息中去除该表。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于石化盈科信息技术有限责任公司,未经石化盈科信息技术有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910343332.2/1.html,转载请声明来源钻瓜专利网。