[发明专利]支持稀疏神经网络计算加速器的稀疏数据选择逻辑模块

权利要求书

1.一种支持稀疏神经网络计算加速器的稀疏数据选择逻辑装置，其中，一个加速器由多个PU组成,并且共享同一组输入数据；PU代表一个神经元计算单元,每个PU可以接受N个输入数据并与预先存储的N个权重进行点积计算；其特征在于，对应于稀疏度最大为r的神经网络加速器，稀疏数据选择逻辑装置由r组选择模块组成；每个选择模块包括一个FIFO，一个N输入MUX及一个缓存REG；

其计算过程为：分r个时钟节拍读入r×N个数据至FIFO，同时每个节拍从FIFO输出的N个数中选出对应非零权重的有效数N/r个至输出REG中；r个时钟节拍共生成N个有效数据完成选择计算；

由于PU的点积计算在一个时钟节拍完成，为了使选择计算与点积计算同步，使用r个MUX，同时对r个网络输出通道的权重选择r组对应的数据；这样，在r个节拍选出r组数据，再用r个节拍完成对应的r个点积计算，实现数据输入、选择与点积计算的同步；

计算与数据调度的具体流程为：

(1)每一个时钟节拍从片上内存读入N个数据并写入FIFO中；

(2)每一个时钟节拍从FIFO中读出N个数据传给MUX，并根据非零权重的坐标选出N/r个数据写入缓存REG中；

(3)r个时钟节拍在缓存REG中写入N个数据；r个REG中存入r个输出通道的N个数据；

(4)分r个时钟节拍把r个REG的数据传给点积计算单元。

2.根据权利要求1所述的稀疏数据选择逻辑装置，其特征在于，权重数据编码采用直接地址编码方式，每一个非零权重需要log₂N数据位表达。

3.一种具有如权利要求1或2所述稀疏数据选择逻辑装置的稀疏神经网络计算加速器。