[发明专利]一种计算任务调度方法、装置、电子设备及可读存储介质有效
申请号: | 202210413206.1 | 申请日: | 2022-04-20 |
公开(公告)号: | CN114510339B | 公开(公告)日: | 2022-07-29 |
发明(设计)人: | 贾兆荣 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06N3/04;G06N3/063;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 张艺 |
地址: | 215100 江苏省苏州*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 计算 任务 调度 方法 装置 电子设备 可读 存储 介质 | ||
1.一种计算任务调度方法,其特征在于,应用于任务调度器,所述方法包括:
获取网络描述数据;所述网络描述数据用于描述目标神经网络中各个网络层分别对应的网络层任务;基于所述网络描述数据,确定各个所述网络层任务之间的依赖关系;
检测人工智能加速计算部件上的空闲寄存器组;所述人工智能加速计算部件上各个功能模块分别对应于至少两个寄存器组;其中,所述人工智能加速计算部件是专门为深度学习算法设计的加速计算部件;
基于所述依赖关系、所述网络描述数据和空闲寄存器组类型,生成目标寄存器配置,并将所述目标寄存器配置写入到所述空闲寄存器组;
若检测到目标网络层任务完成通知,则基于所述依赖关系确定所述目标网络层任务完成通知对应的目标网络层任务的下一任务,并将所述下一任务在所述人工智能加速计算部件上对应的第一功能模块启动,以便执行所述下一任务;
所述网络描述数据的生成过程,包括:
确定所述人工智能加速计算部件的硬件架构;
基于所述硬件架构,生成对应的硬件架构描述数据;
获取所述目标神经网络,并基于所述目标神经网络和所述硬件架构描述数据,生成所述网络描述数据;
所述基于所述网络描述数据,确定各个所述网络层任务之间的依赖关系,包括:
从所述网络描述数据中确定各个所述网络层任务分别对应的网络描述子数据;
从各个所述网络描述子数据中解析得到对应的下一网络层指针;
基于各个所述下一网络层指针,得到所述依赖关系;
所述检测人工智能加速计算部件上的空闲寄存器组,包括:
若处于初始化阶段,则将所述人工智能加速计算部件上的所有寄存器组确定为所述空闲寄存器组;
若不处于所述初始化阶段,且检测到目标网络层任务完成通知,则确定所述目标网络层任务对应的第二功能模块;
基于所述第二功能模块的类型,更新所述网络描述数据中与所述类型对应的空闲寄存器组标识;
根据更新后的所述空闲寄存器组标识,确定所述第二功能模块对应的所述空闲寄存器组;其中,所述空闲寄存器组为所述第二功能模块对应的两组乒乓寄存器组中的一个;
所述基于所述依赖关系、所述网络描述数据和空闲寄存器组类型,生成目标寄存器配置,包括:
基于所述依赖关系,确定与所述空闲寄存器组类型匹配的候选网络层任务;
在所述网络描述数据中确定与所述候选网络层任务对应的候选描述子数据;
利用所述候选描述子数据和所述人工智能加速计算部件对应的硬件架构描述数据,生成所述目标寄存器配置。
2.根据权利要求1所述的计算任务调度方法,其特征在于,所述基于所述目标神经网络和所述硬件架构描述数据,生成所述网络描述数据,包括:
对所述目标神经网络进行模型解析,得到中间图;
基于所述硬件架构描述数据,对所述中间图进行图优化处理,得到优化图;
对所述优化图进行编译处理,得到所述网络描述数据。
3.根据权利要求1所述的计算任务调度方法,其特征在于,所述基于所述目标神经网络和所述硬件架构描述数据,生成所述网络描述数据,包括:
确定所述目标神经网络中的各个网络层,以及所述网络层之间的所述依赖关系;
获取各个网络层分别对应的预设网络层描述数据;
利用所述预设网络层描述数据,基于所述依赖关系,生成所述网络描述数据。
4.根据权利要求1所述的计算任务调度方法,其特征在于,所述基于所述依赖关系确定所述目标网络层任务完成通知对应的目标网络层任务的下一任务,包括:
解析所述目标网络层任务完成通知,得到所述目标网络层任务对应的任务标识;
基于所述依赖关系,利用所述任务标识确定所述目标网络层任务对应的后续任务;
将各个所述后续任务对应的执行等待计数减一;
将所述执行等待减一后为零的目标后续任务确定为所述下一任务。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210413206.1/1.html,转载请声明来源钻瓜专利网。