[发明专利]一种卷积神经网络加速装置和方法有效
| 申请号: | 201810181302.1 | 申请日: | 2018-03-06 |
| 公开(公告)号: | CN108388537B | 公开(公告)日: | 2020-06-16 |
| 发明(设计)人: | 刘明润;陈亮;李晓鹏 | 申请(专利权)人: | 上海熠知电子科技有限公司 |
| 主分类号: | G06F15/78 | 分类号: | G06F15/78;G06N3/063 |
| 代理公司: | 上海智晟知识产权代理事务所(特殊普通合伙) 31313 | 代理人: | 张东梅;李镝的 |
| 地址: | 200063 上海市普陀区*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 卷积 神经网络 加速 装置 方法 | ||
1.一种输入数据转换装置,包括:
调度单元,所述调度单元根据输入数据的尺寸/维度及滤波器的尺寸/步长产生控制命令,控制数据搬移单元和行数据扩展单元的行为;
数据搬移单元,根据所述调度单元的命令,主动从系统存储空间中读取原始输入数据;
行数据缓存单元,所述行数据缓存单元用于存储读入的原始输入数据;以及
行数据扩展单元,所述行数据扩展单元每次从所述行数据缓存单元中读出一行原始数据,然后按照滤波窗口的尺寸将行数据扩展为不同滤波窗口中的一行数据,
其中所述行数据扩展单元从行缓存单元读入N行输入数据中的第一行数据,并扩展出全部滤波器窗口的该行数据;所述行数据扩展单元再从行缓存单元读入下一行数据,并扩展出全部滤波器窗口的该行数据;所述行数据扩展单元重复进行从行缓存单元读入下一行数据,并扩展出全部滤波器窗口的该行数据,直至扩展完成滤波器窗口里的所有N行数据;
所述行数据缓存单元存储读入所述N行数据的下一行输入数据替换所述N行输入数据中的第一行数据,作为更新的N行输入数据;
所述行数据扩展单元针对更新的N行输入数据,仅读入被替换的一行数据,并扩展出全部滤波器窗口的该行数据,并将其存储在被替换前的该行数据所在的空间,扩展完成滤波器窗口里的更新的N行数据。
2.如权利要求1所述的输入数据转换装置,其特征在于,还包括位宽转换单元,所述位宽转换单元将所述行数据扩展单元的扩展数据转换为统一的位宽,并输出到运算单元。
3.如权利要求1所述的输入数据转换装置,其特征在于,所述行数据扩展单元是多路行数据扩展单元,多路行数据扩展单元同时扩展出多路滤波器窗口行数据。
4.如权利要求1所述的输入数据转换装置,其特征在于,所述行数据缓存单元存储滤波窗口所需要的N行输入数据。
5.一种卷积神经网络异构计算系统,包括:
主控单元,主控单元将需要加速器进行处理的原始数据存储在系统存储器中;
加速器,所述加速器包括如权利要求1-4中任一项所述的输入数据转换装置以及运算单元。
6.一种卷积神经网络异构计算方法,包括:
A)读入滤波窗口所需要的N行输入数据,并存入行数据缓存单元;
B)通过行数据扩展单元从行缓存单元读入所述N行数据中的第一行数据,并扩展出全部滤波器窗口的该行数据;
C)通过行数据扩展单元从行缓存单元读入下一行数据,并扩展出使用该行数据的全部滤波器窗口,重复步骤C)直至扩展完成滤波器窗口里的所有N行数据;
D)将所述N行数据的下一行输入数据读入行数据缓存单元并替换所述N行输入数据中的第一行数据,作为更新的N行输入数据;
E)针对更新的N行输入数据,读入被替换的一行数据,并扩展出全部滤波器窗口的该行数据,并将其存储在被替换前的该行数据所在的空间,以便针对更新的N行输入数据,扩展出滤波器窗口里的所有N行数据。
7.如权利要求6所述的方法,其特征在于,通过位宽转换单元将滤波器窗口里的所有N行数据转换成统一的位宽,并输出至运算单元。
8.如权利要求6所述的方法,其特征在于,所述输入数据具有多个维度,对于每一个维度,在步骤D)之前,重复步骤A)至步骤C),并产生滤波窗口所需的数据。
9.如权利要求6所述的方法,其特征在于,重复步骤D)和步骤E),以便扩展出输入数据中所有行的滤波器窗口数据。
10.如权利要求6所述的方法,其特征在于,在步骤A)之前,在输入数据的第一行之前补入一行或多行零,并在输入数据的最后一行之后补入一行或多行零。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海熠知电子科技有限公司,未经上海熠知电子科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810181302.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种现代物流查询系统
- 下一篇:一种生成书包减重建议的系统及方法





