[发明专利]用于卷积神经网络的运算装置和方法

说明书

本申请提供了一种用于卷积神经网络的运算装置和方法，其中运算装置包括：特征读取单元，用于依次读取输入特征组，并存入内存，在将所述输入特征组存入所述内存时，覆盖上一次读取的输入特征组，所述输入特征组为对卷积神经网络中的任意一层全部输入特征进行分解得到；卷积单元，用于依次对存入到内存中的输入特征组进行卷积计算得到与所述输入特征组对应的临时输出特征；累加单元，用于依次对所述临时输出特征进行累加得到输出特征。因此，无需在对网络中不同层的输入特征先进行缓存，再进行卷积计算，在卷积计算时所需内存容量会大大减少。降低电路成本。

技术领域

本申请涉及计算机技术领域，尤其涉及一种用于卷积神经网络的运算装置和方法。

背景技术

卷积神经网络(convolution neural network)特有的非线性适应性信息处理能力，克服了传统人工智能方法对于图像识别、语音识别、非结构化信息处理等方面的缺陷，使之在模式识别、智能控制、优化组合、预测等领域得到成功应用。

卷积神经网络包含多层隐含层(hidden layer)，每个隐含层会产生多个特征图(feature map)输出到下一级隐含层；卷积神经网络在计算过程中需要对卷积神经网络中不同网络层的特征先进行缓存然后再计算，每层都会产生大量的特征图，对内存容量的要求越来越大。

因此，如何卷积神经网络运算时如何减小内存容量为亟待解决的技术问题。

发明内容

为了解决上述如何卷积神经网络运算时如何减小内存容量的技术问题，本申请提供了一种用于卷积神经网络的运算装置和方法。

根据第一方面，本发明实施例提供了一种用于卷积神经网络的运算装置，包括：特征读取单元，用于依次读取输入特征组，并存入内存，在将所述输入特征组存入所述内存时，覆盖上一次读取的输入特征组，所述输入特征组为对卷积神经网络中的任意一层全部输入特征进行分解得到；卷积单元，用于依次对存入到内存中的输入特征组进行卷积计算得到与所述输入特征组对应的临时输出特征；累加单元，用于依次对所述临时输出特征进行累加得到输出特征。

可选地，所述卷积单元得到第N个临时输出特征时，所述累加单元将所述第N个临时输出特征与第N-1个临时输出特征进行累加，得到累加结果，直至对所有输入特征组完成卷积计算，其中，N为大于或等于1的正整数。

可选地，在得到所述输出特征后，所述累加单元将所述累加结果写入所述内存得到所述输出特征。

可选地，所述卷积神经网络中包括第M网络层和第M+X网络层，其中，第M网络层为分支网络层，第M+X网络层为再融合网络层，所述运算装置还包括：特征写出单元，用于将第M网络层的输出特征写出至外存；在得到第M+X-1网络层的输出特征之后，所述特征读取单元在所述外存中读取所述第M网络层的输出特征至所述内存，与第M+X-1网络层的输出特征进行融合得到第M+X网络层的输入特征，其中，M和X为大于或等于1的正整数。

可选地，所述特征读取单元将所述第M网络层的输出特征按照第M+X-1网络层的输出特征在所述内存中的存储方式进行邻接存储。

可选地，所述卷积神经网络包括第K网络层和第K+Y网络层，所述第K网络层和第K+Y网络层进行残差运算；所述特征写出单元将第K网络层的输出特征写出至所述外存；在得到第K+Y-1网络层的输出特征之后，所述特征读取单元从所述外存中读取所述第K网络层的输出特征，并发送至累加单元，所述累加单元将所述第K+Y-1网络层的输出特征与所述第K网络层的输出特征进行累加，并将累加结果写入所述内存，其中，K和Y为大于或等于1的正整数。