[发明专利]实现神经网络卷积转置层的方法和系统在审
| 申请号: | 202010199348.3 | 申请日: | 2020-03-20 |
| 公开(公告)号: | CN111723904A | 公开(公告)日: | 2020-09-29 |
| 发明(设计)人: | 卡加泰·迪基奇;克利福德·吉布森;詹姆斯·伊伯 | 申请(专利权)人: | 畅想科技有限公司 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04 |
| 代理公司: | 北京东方亿思知识产权代理有限责任公司 11258 | 代理人: | 林强 |
| 地址: | 英国赫*** | 国省代码: | 暂无信息 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 实现 神经网络 卷积 转置层 方法 系统 | ||
1.一种在包括多个输入元素的输入张量和包括多个滤波器权重的滤波器之间执行卷积转置运算的系统(2200),所述系统(2200)包括:
一个或多个卷积引擎(2202),其被配置为在所述输入张量和多个子滤波器中的每一个之间执行直接卷积,以生成包括多个输出元素的多个子输出张量,每个子滤波器都包括所述滤波器的所述滤波器权重的子集;以及
交错引擎(2212),其被配置为交错所述多个子输出张量的所述输出元素,以生成用于所述卷积转置的最终输出张量。
2.如权利要求1所述的系统(2200),其中:
所述输入张量是多维的;
所述卷积转置在所述输入张量的第一维度以第一步幅执行,并在所述输入张量的第二维度以第二步幅执行;以及
所述多个子滤波器包括q子滤波器,其中q等于所述第一步幅和所述第二步幅的乘积。
3.如权利要求1所述的系统(2200),其中所述多个子滤波器包括所述滤波器的所述滤波器权重的非重叠子集。
4.如权利要求1所述的系统(2200),其中子滤波器的所述滤波器权重在所述子滤波器中相对于所述滤波器顺序相反。
5.如权利要求1所述的系统(2200),其中根据第一步幅在第一维度执行所述卷积转置,并且所述交错引擎(2212)被配置为,对于所述最终输出张量的每一行,通过以循环方式从一组k子输出张量中选择输出元素,交错所述多个子输出张量的所述输出元素以形成用于所述卷积转置的所述最终输出张量,其中k等于所述第一步幅。
6.如权利要求5所述的系统(2200),其中还根据第二步幅在第二维度执行所述卷积转置,并且所述交错引擎(2212)还被配置为,对于所述最终输出张量的每j行,通过从相同k子输出张量集合中选择输出元素,交错所述多个子输出张量的所述输出元素以形成用于所述卷积转置的所述最终输出张量,其中j等于所述第二步幅。
7.如权利要求1至6中任一项所述的系统(2200),其中交错所述多个子输出张量的所述输出元素以形成用于所述卷积转置的所述最终输出张量包括:将所述多个子输出张量中的每一个的所述输出元素存储在存储单元(2214)中,并且以预定顺序从所述存储单元(2214)读取所述多个子输出张量的所述输出元素,以形成所述最终输出张量。
8.如权利要求1至6中任一项所述的系统(2200),其中所述系统(2200)被配置为在所述系统(2200)的多个硬件遍次中执行卷积转置。
9.如权利要求8所述的系统(2200),其中所述一个或多个卷积引擎(2202)被配置为在所述多个硬件遍次中的每一个中生成所述多个子输出张量的不同子集。
10.如权利要求9所述的系统(2200),其中所述多个子输出张量的每个子集都包括子输出张量,所述子输出张量包括所述最终输出张量的同一行中的输出元素。
11.如权利要求9所述的系统(2200),其中在所述系统(2200)的第一硬件遍次中,所述一个或多个卷积引擎(2202)被配置为从所述多个子滤波器的第一子集生成所述子输出张量的第一子集,并且所述交错引擎(2212)被配置为通过交错所述子输出张量的所述第一子集的所述输出元素来生成所述最终输出张量的第一组块;并且在所述系统(2200)的第二硬件遍次中,所述一个或多个卷积引擎(2202)被配置为从所述多个子滤波器的第二子集生成所述子输出张量的第二子集,并且所述交错引擎(2212)被配置为通过交错所述子输出张量的所述第二子集的所述输出元素来生成所述最终输出张量的第二组块。
12.如权利要求11所述的系统(2200),其中所述交错引擎(2212)还被配置为将所述第一组块和第二组块写入存储器,使得所述第一组块和第二组块一起形成所述最终输出张量的至少一部分。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于畅想科技有限公司,未经畅想科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010199348.3/1.html,转载请声明来源钻瓜专利网。





