[发明专利]一种神经元计算模块

说明书

一种神经元计算模块，用于图像的卷积或全连接计算，模块包括：多个缓存单元(100)，用于缓存图像数据和卷积核计算的权值数据，并将图像数据和权值数据按预设规则依次发送至MAC单元(200)；多个MAC单元(200)，其与多个缓存单元(100)一一对应，用于依次对权值数据和图像数据进行乘累加计算，得到多个乘累加结果；缓存控制单元(300)，用于控制缓存单元(100)调用寄存器的数量，并控制缓存单元(100)每次向MAC单元(200)发送的图像数据和权值数据的数量；求和树单元(400)，用于对多个乘累加结果进行求和计算，得到图像的卷积计算结果。提供了一种多粒度、高并行、可扩展，用于不同尺寸卷积运算和全连接运算的神经元计算单元。

技术领域

本发明涉及集成电路设计技术领域，尤其涉及一种神经元计算模块。

背景技术

在现代应用中，尤其是图像识别、目标跟踪、自然语言识别及处理、视频监控等领域，卷积神经网络(CNN)作为一种机器学习特别是深度学习的架构被广泛应用，其具有计算规模大、数据密集等特点，相对应的其硬件载体不仅需要满足海量计算的要求，还要满足实时性要求。超大规模集成电路以其高密度、高并行、低功耗的优势，成为大规模计算的优选载体，随着网络的复杂度越来越高、网络的数据量和计算量急剧增加，神经网络中的卷积运算和全连接计算都是实时的，对运算性能的数据吞吐量都有着很高的要求。神经元作为神经网络中的基本组成单元和运算核心，其计算原理如下表达式所示：

其中，x₁～x_n是神经元传入的输入信号，他们对应的连接权值分别为w₁，w₂，…，w_n。所有的输入及对应的连接权值分别构成输入向量X和连接权向量W，b为偏置(bias)，偏置的设置是为了正确对样本进行分类，是模型中一个重要的参数。F(·)为激活函数，激活函数的主要作用是加入非线性因素，解决线性模型的表达、分类不足的问题，y为当前神经元的输出。由上表达式可以看出，神经元计算的核心是乘累加计算，神经元作为人工神经网络的基本组成单元和运算核心，也是神经网络芯片功耗的主要贡献者，它的设计的可靠性直接决定整个神经网络芯片的性能，因此，一个多粒度、并行性高、可用于不同尺寸卷积运算和全连接运算的高性能神经元计算单元对神经网络芯片实时处理海量数据有着非常重要的意义。

发明内容

(一)要解决的技术问题

本发明提供了一种神经元计算模块，采用资源复用的方式，提供了一种多粒度、高并行、可扩展，用于不同尺寸卷积运算和全连接运算的神经元计算单元。

(二)技术方案

本发明提供了一种神经元计算模块，用于图像的卷积或全连接计算，模块包括多个缓存单元100、多个MAC单元200、缓存控制单元300以及求和树单元400，其中：多个缓存单元100，每一缓存单元100包括多个寄存器，用于缓存图像数据和卷积核计算的权值数据，并将图像数据和权值数据按预设时间依次发送至MAC单元200；多个MAC单元200，其与多个缓存单元100一一对应，用于依次对权值数据和图像数据进行乘累加计算或直接接收外部输入图像的数据并对数据进行乘累加计算，得到多个乘累加结果；缓存控制单元300，用于控制缓存单元100调用寄存器的数量，并控制缓存单元100每次向MAC单元200发送的图像数据和权值数据的数量；求和树单元400，用于对多个乘累加结果进行求和计算，得到图像的卷积计算结果。

可选地，缓存控制单元300还包括用于定义单位计算周期所包含的时钟周期数，并控制缓存单元100每次向MAC单元发送的图像数据和权值数据的数量，具体为：根据单位计算周期所述包含的时钟周期的个数确定缓存单元100每次向MAC单元发送的图像数据和权值数据的个数，以使图像数据和权值数据的个数分别与时钟周期数相同。

可选地，预设时间为单位计算周期。