[发明专利]基于众核处理器的数据并行处理方法及装置有效

专利信息
申请号: 202011229048.1 申请日: 2020-11-06
公开(公告)号: CN112035578B 公开(公告)日: 2021-03-30
发明(设计)人: 杨刚;郑磊;李鸿伟 申请(专利权)人: 北京谷数科技股份有限公司
主分类号: G06F16/27 分类号: G06F16/27;G06F16/25;G06F16/22;G06F9/50;G06F9/48;G06F9/38
代理公司: 北京路浩知识产权代理有限公司 11002 代理人: 马瑞
地址: 100094 北京市海淀区西*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 处理器 数据 并行 处理 方法 装置
【权利要求书】:

1.一种基于众核处理器的数据并行处理方法,其特征在于,应用于单机数据库,包括:

每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务;其中,所述待运算数据表包括:数据库中的原始数据表、根据数据库中的原始数据表运算生成的键值对表;

所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,包括:通过遍历用户指令查询树的节点,获取数据库中所述查询树的节点指定的原始数据表,作为第一待运算数据表;根据所述原始数据表的索引和过滤条件,划分所述第一待运算数据表,并将划分出的每一第一数据表单元作为一个第一运算任务;其中,所述过滤条件至少包括如下一种:空闲状态的从核数量、所述原始数据表的统计信息;

将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务;

所述将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务,包括:

将所述第一运算任务分发到不同的空闲状态的从核上,以通过不同的所述空闲状态的从核并行处理所述第一运算任务,得到与所述原始数据表的每行内容对应的键值对;其中,与所述原始数据表的任一行内容对应的键值对包括根据所述任一行内容的运算结果确定的键值,以及所述任一行内容;

所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,还包括:

获取由与所述原始数据表的每行内容对应的键值对组成的键值对表,根据所述键值对表的索引,对键值对表中的键值进行排序,得到第二待运算数据表;

划分所述第二待运算数据表,将划分出的每一第二数据表单元作为一个第二运算任务;其中,任一第二数据表单元中的每行内容具有相同的键值;

所述将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务,还包括:

通过任务分发线程,将划分出的第二运算任务分发至空闲状态的从核进行处理;

其中,所述任务分发线程监控从核对任务的处理进度;若从核完成第二运算任务,将所述从核标记为空闲状态,并向空闲状态的从核分发新的第二运算任务;若从核完成第二运算任务且无新的待处理的第二运算任务,向完成第二运算任务的空闲从核发送退出指令;

通过任务监控线程,循环监控从核是否接收到所述退出指令;若所有从核都接到退出指令,所述任务监控线程退出执行,以确保所有从核同步退出对运算任务的并行处理流程。

2.根据权利要求1所述的基于众核处理器的数据并行处理方法,其特征在于,还包括:

获取从核对所述第二运算任务的处理结果,将所述处理结果保存在同一个内存空间中,根据第二运算任务中的键值,排序并组合所述处理结果,生成完整的用户指令处理结果。

3.根据权利要求1所述的基于众核处理器的数据并行处理方法,其特征在于,所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,包括:

若所述待运算数据表为数据库中的原始数据表,获取所述原始数据表的索引;其中,所述原始数据表存在索引,直接获取;所述原始数据包无索引,根据原始数据表内容,新建原始数据表的索引;

若所述待运算数据表为键值对表,根据所述键值对表中的键值,新建键值对表的索引。

4.根据权利要求1所述的基于众核处理器的数据并行处理方法,其特征在于,还包括:

若从核处理运算任务的处理时间超过处理时间阈值,判定所述从核处理所述运算任务失败,将所述运算任务分发至所述从核之外的空闲状态的从核重新处理。

5.一种基于众核处理器的数据并行处理装置,其特征在于,应用于单机数据库,包括:

任务划分单元,用于每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务;其中,所述待运算数据表包括:数据库中的原始数据表、根据数据库中的原始数据表处理生成的键值对表;

所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,包括:通过遍历用户指令查询树的节点,获取数据库中所述查询树的节点指定的原始数据表,作为第一待运算数据表;根据所述原始数据表的索引和过滤条件,划分所述第一待运算数据表,并将划分出的每一第一数据表单元作为一个第一运算任务;其中,所述过滤条件至少包括如下一种:空闲状态的从核数量、所述原始数据表的统计信息;

任务分发单元,用于将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务;

所述将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务,包括:

将所述第一运算任务分发到不同的空闲状态的从核上,以通过不同的所述空闲状态的从核并行处理所述第一运算任务,得到与所述原始数据表的每行内容对应的键值对;其中,与所述原始数据表的任一行内容对应的键值对包括根据所述任一行内容的运算结果确定的键值,以及所述任一行内容;

所述每次确定待运算数据表后,对所述待运算数据表进行划分得到多个运算任务,还包括:

获取由与所述原始数据表的每行内容对应的键值对组成的键值对表,根据所述键值对表的索引,对键值对表中的键值进行排序,得到第二待运算数据表;

划分所述第二待运算数据表,将划分出的每一第二数据表单元作为一个第二运算任务;其中,任一第二数据表单元中的每行内容具有相同的键值;

所述将划分的运算任务分发至众核处理器的从核中,以通过不同从核并行处理运算任务,还包括:

通过任务分发线程,将划分出的第二运算任务分发至空闲状态的从核进行处理;

其中,所述任务分发线程监控从核对任务的处理进度;若从核完成第二运算任务,将所述从核标记为空闲状态,并向空闲状态的从核分发新的第二运算任务;若从核完成第二运算任务且无新的待处理的第二运算任务,向完成第二运算任务的空闲从核发送退出指令;

通过任务监控线程,循环监控从核是否接收到所述退出指令;若所有从核都接到退出指令,所述任务监控线程退出执行,以确保所有从核同步退出对运算任务的并行处理流程。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京谷数科技股份有限公司,未经北京谷数科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011229048.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top