[发明专利]一种神经网络加速系统和方法有效
申请号: | 201911304163.8 | 申请日: | 2019-12-17 |
公开(公告)号: | CN111091183B | 公开(公告)日: | 2023-06-13 |
发明(设计)人: | 李远超;蔡权雄;牛昕宇 | 申请(专利权)人: | 深圳鲲云信息科技有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/063 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 518048 广东省深圳市福田区福保*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 神经网络 加速 系统 方法 | ||
1.一种神经网络加速系统,其特征在于,包括:
数据处理模块,用于将卷积神经网络计算的输入数据从浮点数转为定点数;
特征图拆分模块,用于根据第一预设规则将输入数据拆分为多个计算特征图qdj;
第一计算模块,用于根据第二预设规则对每个计算特征图qdj进行计算得到多个第一输出特征图qoi;
累加模块,用于依次对所有第一输出特征图qoi进行累加得到第二输出特征图;
第二计算模块,用于根据第三预设规则对所述第二输出特征图进行处理得到输出数据,所述输出数据为定点数;
其中,所述第一计算模块包括:
权值存储器,用于存储权值qw;
卷积计算单元,用于根据所述计算特征图qdj和所述权值qw进行卷积计算得到第一输出特征图的第一部分
支路加法树单元,用于根据第四预设规则对将所述计算特征图qdj进行计算得到第一输出特征图的第二部分
第一输出特征图计算单元,用于将所述第一输出特征图的第一部分和所述第一输出特征图的第二部分相减得到所述第一输出特征图qoi;
其中,所述数据处理模块还用于将所述权值存储器内存储的权值qw转化为定点数;
所述第二计算模块包括:
偏置模块,用于将所述第二输出特征图加上预设偏置参数,得到输出偏置特征图;
量化模块,用于将所述输出偏置特征图与预设量化参数进行计算,得到输出数据;
其中,所述根据第四预设规则对将所述计算特征图qdj进行计算得到第一输出特征图的第二部分包括:
对所述计算特征图qdj的所有数据累加,并乘以量化参数Zw得到支路输出特征图,作为第一输出特征图的第二部分
2.如权利要求1所述的系统,其特征在于,所述特征图拆分模块具体用于:
根据预设步长将输入数据拆分为多个包括3*3矩阵数据结构的计算特征图qdj。
3.如权利要求1所述的系统,其特征在于,所述数据处理模块包括:
第一数据处理单元,用于将卷积神经网络计算的输入数据从浮点数转为带符号定点数;
第二数据处理单元,用于将带符号定点数转化为无符号定点数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳鲲云信息科技有限公司,未经深圳鲲云信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911304163.8/1.html,转载请声明来源钻瓜专利网。