[发明专利]一种神经网络处理器和采用其执行的卷积运算方法

说明书

本发明提供了一种卷积运算方法和基于该方法的神经网络处理器。该卷积运算方法包括：获取卷积域内待执行卷积运算的权重向量和神经元向量，其中所述权重向量和所述神经元向量具有相同的维度；从所述权重向量查找有效权重并从所述神经元向量查找有效神经元，匹配获得有效元素子组，其中，每一个有效元素子组包括一个有效权重以及与该有效权重对应的一个有效神经元，所述有效权重是非零权重，所述有效神经元是非零神经元；针对所述有效元素子组执行卷积运算。利用本发明的方法和神经网络处理器能够降低卷积计算量，从而提高计算效率。

技术领域

本发明涉及深度学习技术领域，尤其涉及一种卷积计算方法以及基于该方法的神经网络处理器。

背景技术

近年来，深度学习技术得到了飞速的发展，在解决高级抽象认知问题，例如图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐和智能机器人等领域得到了广泛应用，成为学术界和工业界的研究热点。

深度神经网络是人工智能领域具有最高发展水平的感知模型之一，该类网络通过建立模型模拟人类大脑的神经连接结构，通过多个变换阶段分层对数据特征进行描述，为图像、视频和音频等大规模数据处理任务带来突破性进展。深度神经网络模型结构是一种运算模型，由大量节点通过网状互连结构构成，这些节点被称为神经元。每两个节点间连接强度都代表通过该连接信号在两个节点间的加权重，即权重，与人类神经网络中的记忆相对应。

然而，实现深度学习技术依赖于极大的计算量。在训练阶段，需要在海量数据中通过反复迭代计算得到神经网络中的权重数据；在推理阶段，同样需要神经网络在极短的响应时间(通常为毫秒级)内完成对输入数据的运算处理。神经网络中涉及的计算主要包括卷积操作、激活处理和池化操作等，例如，卷积操作是将输入的神经元或称像素与相应卷积核的权重进行乘累加处理，卷积操作占用了神经网络处理的大部分时间，提高卷积操作的计算效率，能够有效降低神经网络的处理时间和运行功耗。

因此，为了将神经网络推向更广泛应用，例如，智能穿戴、智能机器人、自动驾驶以及模式识别等领域，需要对现有技术中卷积运算进行改进，以实现数据处理的实时性、低功耗以及计算效率和资源利用率的提升。

发明内容

本发明的目的在于克服上述现有技术的缺陷，提供一种卷积计算方法和基于该方法的神经网络处理器，。

根据本发明的第一方面，提供了一种卷积运算方法。该方法包括：

步骤1：获取卷积域内待执行卷积运算的权重向量和神经元向量，其中所述权重向量和所述神经元向量具有相同的维度；

步骤2：从所述权重向量查找有效权重并从所述神经元向量查找有效神经元，匹配获得有效元素子组，其中，每一个有效元素子组包括一个有效权重以及与该有效权重对应的一个有效神经元，所述有效权重是非零权重，所述有效神经元是非零神经元；

步骤3：针对所述有效元素子组执行卷积运算。

在一个实施例中，步骤2包括：

步骤21：生成反映所述权重向量中各元素是否为零值的权重有效性标识编码并生成反映所述神经元向量中各元素是否为零值的神经元有效性标识编码；

步骤22：根据所述权重有效性标识编码和所述神经元有效性标识编码匹配获得用于查找所述有效元素子组的有效性匹配编码。

在一个实施例中，通过将非零权重和非零神经元标记为1，将零值权重和零值神经元标记为0获得所述权重有效性标识编码和所述神经元有效性标识编码；将所述权重有效性标识编码和所述神经元有效性标识编码进行逻辑与操作获得所述有效性匹配编码。

根据本发明的第二方面，提供了一种神经网络处理器。该神经网络处理器包括：

用于获取卷积域内待执行卷积运算的权重向量和神经元向量的向量获取单元，其中，所述权重向量和所述神经元向量具有相同的维度；