[发明专利]一种矢量处理单元、神经网络处理器及深度相机在审
申请号: | 202310598167.1 | 申请日: | 2023-05-24 |
公开(公告)号: | CN116611488A | 公开(公告)日: | 2023-08-18 |
发明(设计)人: | 支元祥 | 申请(专利权)人: | 奥比中光科技集团股份有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F7/483 |
代理公司: | 深圳汉世知识产权代理事务所(特殊普通合伙) 44578 | 代理人: | 冷仔 |
地址: | 518063 广东省深圳市南山区粤*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 矢量 处理 单元 神经网络 处理器 深度 相机 | ||
1.一种用于神经网络处理器的矢量处理单元,其特征在于,包括:
升精度模块,用于将输入的第一整型数据升精度为第一浮点型数据;
反量化模块,用于对所述第一浮点型数据进行反量化,得到反量化数据,所述反量化数据为浮点型数据;
运算模块,用于对所述反量化数据进行运算,得到第二浮点型数据;
量化模块,用于对所述第二浮点型数据进行量化,得到量化数据,所述量化数据为浮点型数据;
降精度模块,用于对所述量化数据进行降精度,得到第二整型数据。
2.如权利要求1所述的矢量处理单元,其特征在于,所述运算模块包括比较运算器、乘法运算器和加法运算器,所述运算模块通过所述比较运算器、所述乘法运算器和所述加法运算器,实现激活函数算子运算、Eltwise算子运算、Resize算子运算、池化算子运算、全局池化算子运算、双目算子运算中的至少一种运算。
3.如权利要求2所述的矢量处理单元,其特征在于,所述激活函数算子中的激活函数通过分段多项式拟合得到。
4.如权利要求3所述的矢量处理单元,其特征在于,所述激活函数具有指数函数形状,所述激活函数的表达式为:
其中,x为激活函数sigmoid(x)的输入数据,a和b通过x所在的分段区间查表得到。
5.如权利要求2所述的矢量处理单元,其特征在于,所述激活函数算子、所述Eltwise算子、所述Resize算子、所述池化算子、所述全局池化算子及所述双目算子进行运算时所使用的所述比较运算器、所述乘法运算器和所述加法运算器至少部分相同。
6.如权利要求1所述的矢量处理单元,其特征在于,当所述第一整型数据非预设类型时,所述升精度模块用于对所述第一整型数据进行位扩展,再升精度为所述第一浮点型数据。
7.如权利要求1至6任一项所述的矢量处理单元,其特征在于,所述矢量处理单元还包括片上存储模块,所述片上存储模块用于存储所述第二整型数据,并将所述第二整型数据,按照所述神经网络处理器中与所述矢量处理单元连接的下一处理单元所需的数据排布格式写入片外存储器。
8.如权利要求7所述的矢量处理单元,其特征在于,所述片上存储模块用于根据所述第二整型数据的数据类型、所述下一处理单元所需的数据排布格式及数据类型、和对应选择的工作模式对进行读地址和写地址空间分配,以将所述第二整型数据写入片外存储器;其中,所述数据排布格式包括NC4HW、NC8HW及NC16HW;所述工作模式包括全输出通道模式、二倍分辨率并行模式及四倍分辨率并行模式。
9.一种神经网络处理器,其特征在于,所述神经网络处理器包括权利要求1至8任一项所述的矢量处理单元、第一输入缓冲单元、卷积单元及第二输入缓冲单元,所述卷积单元用于对输入数据进行卷积处理;
所述第一输入缓冲单元通过第一路径或第二路径将所述输入数据输入所述矢量处理单元;
所述第一路径为将缓存在所述第一输入缓冲单元的输入数据传输至所述卷积单元,经所述卷积单元卷积后,输出至所述第二输入缓冲单元,由所述第二输入缓冲单元输入所述矢量处理单元,其中,所述第一整型数据为经所述卷积单元卷积后得到的数据;
所述第二路径为所述第一输入缓冲单元直接将所述输入数据传输所述矢量处理单元,所述第一整型数据为所述输入数据。
10.如权利要求9所述的神经网络处理器,其特征在于,
在所述第一路径下,所述反量化模块的反量化参数为所述输入数据所需的反量化参数与所述卷积单元权值的反量化参数的乘积;
在所述第二路径下,所述反量化模块的反量化参数为所述输入数据所需的反量化参数。
11.一种深度相机,其特征在于,包括权利要求9-10任一所述的神经网络处理器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于奥比中光科技集团股份有限公司,未经奥比中光科技集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310598167.1/1.html,转载请声明来源钻瓜专利网。