[发明专利]一种基于elasticsearch的数据检索优化方法及系统有效

专利信息
申请号: 202010977565.0 申请日: 2020-09-17
公开(公告)号: CN112115361B 公开(公告)日: 2022-07-05
发明(设计)人: 张帆;宋设;王勇庆 申请(专利权)人: 浪潮卓数大数据产业发展有限公司
主分类号: G06F16/9535 分类号: G06F16/9535;G06F40/289;G06F40/253;G06F16/951;G06F16/9538
代理公司: 济南信达专利事务所有限公司 37100 代理人: 姜明
地址: 214029 江苏省无锡市滨*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 elasticsearch 数据 检索 优化 方法 系统
【权利要求书】:

1.一种基于elasticsearch的数据检索优化方法,其特征是所述的方法具体步骤如下:

S1根据检索目的选择字段数据生成索引:

S101将索引文件经过语法分析和语言处理形成一系列词Term;

S102经过索引创建形成词典和反向索引表;

S103通过索引存储将索引写入硬盘;

S2对输入的查询语句经过语法分析和语言分析得到一系列词Term;

S3通过语法分析得到一个查询树;

S4通过索引存储将索引读入到内存;

S5利用查询树搜索索引,得到每个词Term的文档链表,对文档链表进行交差,并得到结果文档:

S501基于elasticsearch做搜索,将原始文件存入hbase中;

S502根据搜索需求,将文档存入elasticsearch中进行索引,在存入的时候使用hbase中的文档id作为elasticsearch的id,同时设置不保存原始文件;

S503搜索时通过elasticsearch搜索到文档id,然后利用这一id去hbase中快速得到文件;

S6将搜索到的结果文档对查询的相关性进行排序;

S7返回查询结果给用户,将elasticsearch的内存设置为系统可用内存的一半,另一半留给系统做缓存使用。

2.根据权利要求1所述的方法,其特征是所述S103通过索引存储选择性的将索引写入硬盘。

3.一种基于elasticsearch的数据检索优化系统,其特征是所述的系统具体包括分词模块、过滤模块、分析模块、存储模块、查询模块、排序模块和反馈模块:

分词模块:根据检索目的选择字段数据生成索引;

所述分词模块具体包括处理模块、建立模块和保存模块:

处理模块:将索引文件经过语法分析和语言处理形成一系列词Term;

建立模块:经过索引创建形成词典和反向索引表;

保存模块:通过索引存储将索引写入硬盘;

过滤模块:对输入的查询语句经过语法分析和语言分析得到一系列词Term;

分析模块:通过语法分析得到一个查询树;

存储模块:通过索引存储将索引读入到内存;

查询模块:利用查询树搜索索引,得到每个词Term的文档链表,对文档链表进行交差,并得到结果文档:基于elasticsearch做搜索,将原始文件存入hbase中;

根据搜索需求,将文档存入elasticsearch中进行索引,在存入的时候使用hbase中的文档id作为elasticsearch的id,同时设置不保存原始文件;

搜索时通过elasticsearch搜索到文档id,然后利用这一id去hbase中快速得到文件;

排序模块:将搜索到的结果文档对查询的相关性进行排序;

反馈模块:返回查询结果给用户,将elasticsearch的内存设置为系统可用内存的一半,另一半留给系统做缓存使用。

4.根据权利要求3所述的系统,其特征是所述保存模块通过索引存储选择性的将索引写入硬盘。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮卓数大数据产业发展有限公司,未经浪潮卓数大数据产业发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010977565.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top