[发明专利]一种矢量处理单元、神经网络处理器及深度相机

说明书

本申请适用于芯片技术领域，涉及一种用于神经网络处理器的矢量处理单元、神经网络处理器及深度相机，矢量处理单元包括升精度模块、反量化模块、运算模块、量化模块及降精度模块。升精度模块用于将输入的第一整型数据升精度为第一浮点型数据；反量化模块用于对第一浮点型数据进行反量化，得到反量化数据，反量化数据为浮点型数据；运算模块用于对反量化数据进行运算，得到第二浮点型数据；量化模块用于对第二浮点型数据进行量化得到量化数据，量化数据为浮点型数据；降精度模块用于对量化数据进行降精度，得到第二整型数据。本申请的矢量处理单元内的运算均以浮点型数据进行，保证了神经网络处理器的算法精度。

技术领域

本申请属于芯片技术领域，尤其涉及一种矢量处理单元(Vector ProcessingUnit，VPU)、神经网络处理器及深度相机。

背景技术

卷积神经网络是基于生物神经网络产生的计算系统，作为生物科学和计算机科学的共同产物，在机器学习和模式识别等领域有着广泛的应用。为了解决更加复杂抽象的学习问题，卷积神经网络的规模越来越大，某些大型神经网络，例如Google Cat系统网络，就有大约10亿个神经元连接，数据量和计算的复杂程度也随之剧增。因此，如何在有限的面积下设计出高性能低功耗的卷积神经网络前向推理硬件加速架构，例如神经网络处理器(Neural-Network Processing Unit，NPU)等，成为当今的研究热点。

目前，许多神经网络处理器为了大幅度减少面积和功耗的开销，其内部计算单元所用到的数据均为整型数据或者自定义浮点数据，这样做在很大程度上会损失算法的精度。

发明内容

有鉴于此，本申请实施例提供了一种矢量处理单元、神经网络处理器及深度相机，能够解决相关技术中神经网络处理器的算法精度受到损失的技术问题。

第一方面，本申请一实施例提供了一种用于神经网络处理器的矢量处理单元，矢量处理单元包括升精度模块、反量化模块、运算模块、量化模块、降精度模块。升精度模块用于将输入的第一整型数据升精度为第一浮点型数据；反量化模块用于对第一浮点型数据进行反量化，得到反量化数据，反量化数据为浮点型数据；运算模块用于对反量化数据进行运算，得到第二浮点型数据；量化模块用于对第二浮点型数据进行量化得到量化数据；降精度模块用于对量化数据进行降精度，得到第二整型数据。

第二方面，本申请一实施例提供了一种神经网络处理器，包括如第一方面实施例所述的矢量处理单元、第一输入缓冲单元、卷积单元及第二输入缓冲单元，卷积单元用于对输入数据进行卷积处理；第一输入缓冲单元通过第一路径或第二路径将输入数据传输至矢量处理单元；第一路径为第一输入缓冲单元传输输入数据至卷积单元，经卷积单元卷积后，输出至第二输入缓冲单元，由第二输入缓冲单元输入矢量处理单元，其中，第一整型数据为经卷积单元卷积后得到的数据；第二路径为第一输入缓冲单元直接将输入数据传输至矢量处理单元，第一整型数据为输入数据。

第三方面，本申请一实施例提供了一种深度相机，包括如第二方面实施例所述的神经网络处理器。

本申请实施例的矢量处理单元通过将第一整型数据升精度为第一浮点型数据，然后依次对第一浮点型数据进行反量化、运算、量化及降精度处理得到第二整型数据，如此，在矢量处理单元内部均采用浮点型数据运算，保证了算法精度，进而保证了神经网络处理器的精度。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的神经网络处理器架构示意图；

图2是本申请实施例提供的矢量处理单元的整体架构示意图；

图3是本申请实施例提供的神经网络处理器中第一路径进入矢量处理单元的数据通路示意图；