[发明专利]一种用于处理神经网络中的卷积运算的装置和方法

说明书

本发明公开了一种用于处理神经网络中的卷积运算的装置和方法，包括存储器、取数控制单元、卷积乘加运算单元、激活运算单元、计算单元和归一化单元，还包括两个通路选择单元，一个通路选择单元与第一单元连接，另一个通路选择单元与第二单元连接，第一单元和第二单元为取数控制单元、卷积乘加运算单元、激活运算单元、计算单元和归一化单元中任意的两个单元，每个通路选择单元都连接有两个配置寄存器。本发明通过在神经网络单元内设置独立双寄存器配置结构，当神经网络单个子单元完成自身的运算后，自动切换为下一层的网络配置进行工作，从而实现了网络层运算的完全流水工作，提升了神经网络的工作效率。

技术领域

本发明属于神经网络单元架构设计技术领域，特别是涉及一种用于处理神经网络中的卷积运算的方法。

背景技术

目前，卷积神经网络(英文全称：Convolutional Neural Networks，缩写：CNN)广泛运用在图像类应用中。卷积神经网络是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一。通常CNN模型是由输入层、卷积层、池化层、全连接层和分类层组合而构成的，在CNN中卷积层和不同的卷积核进行局部连接，从而产生输入数据的多个特征输出，将输出经过池化层降维后通过全连接层和分类层获取与输出目标的误差，再利用反向传播算法反复地更新CNN中相邻层神经元之间的连接权值，缩小与输出目标的误差，最终完成整个模型参数的训练。

在神经网络技术中，正在积极地进行在各种类型的电子系统中使用神经网络来分析输入数据并提取有效信息的研究。处理神经网络的装置需要针对复杂输入数据的大量运算。因此，需要用于高效处理神经网络的运算的技术，以便使用神经网络来实时分析大量输入数据并提取所需信息。当对神经网络进行训练时，通过仅使用少量的比特可以保持均匀的准确度或者可以提高准确度，并且在运算期间由处理神经网络的运算器使用的比特数可以进行各种改变。如果将这种神经网络的特性和在神经网络中执行的运算的并行性一起使用，则可以高效地处理神经网络中的各种运算。

发明内容

本发明主要解决的技术问题是提供一种用于处理神经网络中的卷积运算的装置和方法，通过在神经网络单元内设置独立双寄存器配置结构，当神经网络单个子单元完成自身的运算后，自动切换为下一层的网络配置进行工作，从而实现了网络层运算的完全流水工作，提升了神经网络的工作效率。

为解决上述技术问题，本发明采用的一个技术方案是：一种用于处理神经网络中的卷积运算的方法，包括存储器、取数控制单元、卷积乘加运算单元、激活运算单元、计算单元和归一化单元，还包括两个通路选择单元，一个通路选择单元与第一单元连接，另一个通路选择单元与第二单元连接，第一单元和第二单元为取数控制单元、卷积乘加运算单元、激活运算单元、计算单元和归一化单元中任意的两个单元，每个通路选择单元都连接有两个配置寄存器；

配置寄存器用于存储运算指令，所述运算指令包括操作码和操作域，所述操作码用于指示所述运算指令对应的运算方式；所述操作域包括所述参与运算的数据的首地址和所述参与运算的数据中部分数据或者全部数据的索引的地址；

通路选择单元用于获取与之连接的单元工作完成的信号后，从当前选择的寄存器切换到另一个寄存器；

存储器用于存储参与运算的数据和卷积核数据；

取数控制单元用于根据寄存器信息对存储器进行数据读取操作，并把读取数据送往卷积乘加单元；

卷积乘加运算单元用于进行神经网络的卷积运算，并将运算结果送往激活运算单元；

激活运算单元用于进行神经网络的激活函数运算，并将运算结果送往计算单元；

计算单元用于进行神经网络的池化运算，并将池化运算结果送往归一化单元；

归一化单元用于将池化运算结果回写到存储器。