[发明专利]一种基于混合并行的卷积计算装置在审
| 申请号: | 202110461840.8 | 申请日: | 2021-04-27 |
| 公开(公告)号: | CN112989270A | 公开(公告)日: | 2021-06-18 |
| 发明(设计)人: | 谢逍如;秦子迪;林军 | 申请(专利权)人: | 南京风兴科技有限公司 |
| 主分类号: | G06F17/15 | 分类号: | G06F17/15;G06N3/04;G06N3/063 |
| 代理公司: | 北京弘权知识产权代理有限公司 11363 | 代理人: | 逯长明;许伟群 |
| 地址: | 210032 江苏省南京市*** | 国省代码: | 江苏;32 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 混合 并行 卷积 计算 装置 | ||
1.一种基于混合并行的卷积计算装置,其特征在于,所述装置包括:
输入单元(10),被配置为获取输入卷积数据及对应的参数,根据输入卷积数据判断卷积形状,并提取所述输入卷积数据的特征图大小、卷积核大小以及通道数目;
仿真单元(20),被配置为根据输入单元(10)提取到的数据特征得到所述输入卷积数据对应的并行度;所述数据特征包括卷积形状及参数;
片上处理器(30),包括多个并行的处理单元(31);
分组控制单元(40),与每个处理单元(31)分别连接,被配置为根据所述并行度,将片上处理器(30)上的所有处理单元(31)分为G个分组,G等于并行度,且每个分组中处理单元(31)的数量相等;
映射单元(50),与每个处理单元(31)分别连接,被配置为根据所述并行度、输入卷积数据以及对应的参数控制输入到每个处理单元(31)中的数据及参数;其中,同一分组中的处理单元(31)输入相同的参数、不同的数据;不同分组的处理单元(31)输入不同的参数;
所述处理单元(31)用于根据输入的数据及参数完成卷积加速行为并输出结果。
2.根据权利要求1所述的一种基于混合并行的卷积计算装置,其特征在于,所述处理单元(31)被配置为根据分组控制单元(40)发送的分组命令,相应调节硬件参数配置,以用于处理来自不同通道的参数。
3.根据权利要求1所述的一种基于混合并行的卷积计算装置,其特征在于,所述映射单元(50)还被配置为将剩余通道映射到串行序列上。
4.根据权利要求1所述的一种基于混合并行的卷积计算装置,其特征在于,所述仿真单元(20)被进一步配置为:
采用预设神经网络开发性能模拟器进行模拟仿真;
输入历史卷积形状及参数,根据计算效率生成评估表;
采用所述评估表对当前输入单元(10)提取到的数据特征进行评估,得到数据特征对应的并行度。
5.根据权利要求1所述的一种基于混合并行的卷积计算装置,其特征在于,所述不同的数据是指对每个特征图采用Ph×Pw切块,得到不同大小的子特征图作为输入到处理单元(31)的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京风兴科技有限公司,未经南京风兴科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110461840.8/1.html,转载请声明来源钻瓜专利网。





