[发明专利]一种深度学习模型分布式运算的方法及装置在审
| 申请号： | 201911140560.6 | 申请日： | 2019-11-20 |
| 公开（公告）号： | CN110866610A | 公开（公告）日： | 2020-03-06 |
| 发明（设计）人： | 赵谦谦;仝培霖;赵红博 | 申请（专利权）人： | 苏州浪潮智能科技有限公司 |
| 主分类号： | G06N20/00 | 分类号： | G06N20/00;G06F9/50 |
| 代理公司： | 北京连和连知识产权代理有限公司 11278 | 代理人： | 张涛 |
| 地址： | 215100 江苏省苏州市吴*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 一种 深度 学习 模型 分布式 运算 方法 装置 | ||
1.一种深度学习模型分布式运算的方法，其特征在于，所述方法包括以下步骤：
在设备管理列表中注册虚拟处理器；
注册并编写所述虚拟处理器支持的算子；
检测所述虚拟处理器相关联的硬件资源，并根据所述相关联的各硬件资源的算力确定硬件资源各自的分配比例；
基于所述虚拟处理器支持的算子配置深度学习模型，并为所述深度学习模型中使用的算子指定虚拟处理器；
所述虚拟处理器根据所述分配比例为所述虚拟处理器相关联的硬件资源分配相应算子的输入数据以进行运算，并将所述各硬件资源的运算结果合并为所述相应算子的输出。
2.根据权利要求1所述的方法，其特征在于，所述虚拟处理器相关联的硬件资源包括CPU、GPU和FPGA中的一种或多种。
3.根据权利要求2所述的方法，其特征在于，所述注册并编写所述虚拟处理器支持的算子进一步包括：
在同一算子中编写用于CPU、GPU和FPGA的运算指令及相应的适配指令。
4.根据权利要求1所述的方法，其特征在于，所述基于所述虚拟处理器支持的算子配置深度学习模型，并为所述深度学习模型中使用的算子指定虚拟处理器进一步包括：
基于TensorFlow框架构建所述深度学习模型，并为所述深度学习模型中各层选择相应的虚拟处理器支持的算子。
5.根据权利要求1所述的方法，其特征在于，所述虚拟处理器支持的算子包括前向算子和与所述前向算子相关的后向算子。
6.一种深度学习模型分布式运算的装置，其特征在于，所述装置包括：
至少一个处理器；和
存储器，所述存储器存储有处理器可运行的程序指令，所述程序指令在被处理器运行时执行以下步骤：
在设备管理列表中注册虚拟处理器；
注册并编写所述虚拟处理器支持的算子；
检测所述虚拟处理器相关联的硬件资源，并根据所述相关联的各硬件资源的算力确定硬件资源各自的分配比例；
基于所述虚拟处理器支持的算子配置深度学习模型，并为所述深度学习模型中使用的算子指定虚拟处理器；
所述虚拟处理器根据所述分配比例为所述虚拟处理器相关联的硬件资源分配相应算子的输入数据以进行运算，并将所述各硬件资源的运算结果合并为所述相应算子的输出。
7.根据权利要求6所述的装置，其特征在于，所述虚拟处理器相关联的硬件资源包括CPU、GPU和FPGA中的一种或多种。
8.根据权利要求7所述的装置，其特征在于，所述注册并编写所述虚拟处理器支持的算子进一步包括：
在同一算子中编写用于CPU、GPU和FPGA的运算指令及相应的适配指令。
9.根据权利要求6所述的装置，其特征在于，所述基于所述虚拟处理器支持的算子配置深度学习模型，并为所述深度学习模型中使用的算子指定虚拟处理器进一步包括：
基于TensorFlow框架构建所述深度学习模型，并为所述深度学习模型中各层选择相应的虚拟处理器支持的算子。
10.根据权利要求6所述的装置，其特征在于，所述虚拟处理器支持的算子包括前向算子和与所述前向算子相关的后向算子。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司，未经苏州浪潮智能科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201911140560.6/1.html，转载请声明来源钻瓜专利网。
- 上一篇：一种彩色高净耐指纹板
- 下一篇：一种显示面板和显示装置
