[发明专利]卷积神经网络数据流设计空间分析工具的构建方法和装置在审
申请号: | 202111171756.9 | 申请日: | 2021-10-08 |
公开(公告)号: | CN113821981A | 公开(公告)日: | 2021-12-21 |
发明(设计)人: | 景乃锋;胡令矿;霍洋洋;张子涵;蒋剑飞;王琴;绳伟光;毛志刚 | 申请(专利权)人: | 上海交通大学 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06F9/48;G06F9/50;G06F8/30;G06N3/04;G06N3/08 |
代理公司: | 上海思微知识产权代理事务所(普通合伙) 31237 | 代理人: | 田婷 |
地址: | 200240 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积 神经网络 数据流 设计 空间 分析 工具 构建 方法 装置 | ||
1.一种卷积神经网络数据流设计空间分析工具的构建方法,其特征在于,所述构建方法包括:
针对阵列结构加速器进行硬件建模,获取所述阵列结构加速器的硬件参数;
对卷积七层循环结构的数据流调度方式进行分析,通过建立数据流与循环顺序的映射关系,获取描述循环交换的优化策略;
基于所述硬件参数和所述优化策略进行卷积延时的量化计算,在设计空间内获取卷积延时最低的优化参数,构建设计空间分析工具。
2.如权利要求1所述的卷积神经网络数据流设计空间分析工具的构建方法,其特征在于,所述构建方法还包括:
接入TVM图编译器Relay,以支持基于不同深度学习框架的不同神经网络结构。
3.如权利要求1所述的卷积神经网络数据流设计空间分析工具的构建方法,其特征在于,所述硬件参数包括计算资源参数以及存储资源参数。
4.如权利要求3所述的卷积神经网络数据流设计空间分析工具的构建方法,其特征在于,所述计算资源参数包括可独立的物理Slice数量、Slice连通粒度、单个Slice上用于核心计算的乘加单元数量、单个Slice上的LSE数量。
5.如权利要求3所述的卷积神经网络数据流设计空间分析工具的构建方法,其特征在于,所述存储资源参数包括DRAM带宽、每个独立Slice的SRAM总容量、SRAM带宽、SRAM的划分粒度。
6.如权利要求1所述的卷积神经网络数据流设计空间分析工具的构建方法,其特征在于,所述对卷积七层循环结构的数据流调度方式进行分析,通过建立数据流与循环顺序的映射关系,获取描述循环交换的优化策略,包括:
基于分块参数描述循环的分块优化策略,基于展开参数描述循环的展开优化策略,通过建立数据流与循环顺序的映射关系,获取循环交换的优化策略。
7.如权利要求1所述的卷积神经网络数据流设计空间分析工具的构建方法,其特征在于,所述硬件模型包括阵列切片、存储模块和控制模块。
8.如权利要求1所述的卷积神经网络数据流设计空间分析工具的构建方法,其特征在于,所述在设计空间内获取卷积延时最低的优化参数,包括:
通过遍历Slice的连通数量、内外层次的数据流、循环展开参数、循环分块参数计算所有的延时,并获取延时最低的参数组合作为所述优化参数。
9.一种卷积神经网络数据流设计空间分析工具的构建装置,其特征在于,所述构建装置包括:
硬件参数获取模块,其被配置为针对阵列结构加速器进行硬件建模,获取所述阵列结构加速器的硬件参数;
优化策略获取模块,其被配置为对卷积七层循环结构的数据流调度方式进行分析,通过建立数据流与循环顺序的映射关系,获取描述循环交换的优化策略;
分析工具构建模块,其被配置为基于所述硬件参数和所述优化策略进行卷积延时的量化计算,在设计空间内获取卷积延时最低的优化参数,构建设计空间分析工具。
10.一种可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被一处理器执行时能实现权利要求1至8中任一项所述的卷积神经网络数据流设计空间分析工具的构建方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111171756.9/1.html,转载请声明来源钻瓜专利网。