[发明专利]数据查询方法及装置有效
申请号: | 201810501501.6 | 申请日: | 2018-05-23 |
公开(公告)号: | CN108874897B | 公开(公告)日: | 2019-09-13 |
发明(设计)人: | 杜威科;史宁宁 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/174;G06F16/14 |
代理公司: | 北京超成律师事务所 11646 | 代理人: | 王小梅 |
地址: | 450000 河南省郑州市郑州高新*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开涉及一种数据查询方法及装置,包括:获取目标数据对应的第一行偏移量和第一长度;根据所述第一行偏移量和第一长度及所述各个数据块的行数,确定所述目标数据对应的目标数据块;根据所述第一行偏移量和第一长度及所述各个数据块的行数,确定所述目标数据在所述目标数据块中对应的第二行偏移量和第二长度;向所述目标数据块所对应的执行器Executor发送目标数据获取指令,所述目标数据获取指令包括所述目标数据块的标识信息,及所述目标数据块对应的所述第二行偏移量及所述第二长度。本公开实施例提供的数据查询方法及装置能够根据用户需求直接从目标HDFS文件中获取指定的数据,实现分页查询,并可以提高数据查询效率,减少对内存的消耗。 | ||
搜索关键词: | 目标数据块 行偏移量 目标数据 数据查询 数据块 行数 数据查询效率 数据获取指令 标识信息 发送目标 获取目标 获取指令 数据对应 用户需求 分页 消耗 查询 | ||
【主权项】:
1.一种数据查询方法,其特征在于,应用于驱动器Driver,所述方法包括:获取目标数据对应的第一行偏移量和第一长度,其中,所述第一行偏移量指示所述目标数据在目标HDFS文件中的起始行,所述第一长度为所述目标数据的行数;获取所述目标HDFS文件中各个数据块的行数;根据所述第一行偏移量和第一长度及所述各个数据块的行数,确定所述目标数据对应的目标数据块;根据所述第一行偏移量和第一长度及所述各个数据块的行数,确定所述目标数据在所述目标数据块中对应的第二行偏移量和第二长度;向所述目标数据块所对应的执行器Executor发送目标数据获取指令,所述目标数据获取指令包括所述目标数据块的标识信息,及所述目标数据块对应的所述第二行偏移量及所述第二长度。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810501501.6/,转载请声明来源钻瓜专利网。