[发明专利]稀疏性利用的系统和方法

权利要求书

1.一种神经形态集成电路，包括：

设置在多个二象限乘法器的模拟乘法器阵列中的多层神经网络，所述多个二象限乘法器布置在所述神经形态集成电路的存储扇区中，

其中当去往乘法器的晶体管的输入信号的输入信号值近似为零、乘法器的晶体管的权重值近似为零或其组合时，乘法器中的每个乘法器线接到地并且汲取可忽略的电流量，并且

其中与线接到地的多个乘法器相组合的神经网络中的稀疏性最小化所述神经形态集成电路的功耗。

2.根据权利要求1所述的神经形态集成电路，其中当去往乘法器的晶体管的输入信号的输入信号值为零、乘法器的晶体管的权重值为零或其组合时，乘法器中的每个乘法器不汲取电流。

3.根据权利要求1所述的神经形态集成电路，其中权重值对应于设置在所述神经形态集成电路中的神经网络中的神经节点之间的突触权重值。

4.根据权利要求3所述的神经形态集成电路，其中输入信号值乘以权重值提供输出信号值，所述输出信号值被组合以得出神经网络的决策。

5.根据权利要求1所述的神经形态集成电路，其中二象限乘法器的晶体管包括金属氧化物半导体场效应晶体管（“MOSFET”）。

6.根据权利要求1所述的神经形态集成电路，其中二象限乘法器中的每个二象限乘法器具有差分结构，所述差分结构被配置成如果两个单元中的任何一个被设置为具有比目标高的权重值，则允许对于过冲进行编程化补偿。

7.根据权利要求1所述的神经形态集成电路，其中所述神经形态集成电路被配置用于一个或多个专用标准产品（“ASSP”），所述一个或多个专用标准产品（“ASSP”）选自关键词定位、说话者标识、一个或多个音频过滤器、姿势识别、图像识别、视频对象分类和分割以及包括无人机的自主交通工具。

8.根据权利要求1所述的神经形态集成电路，其中所述神经形态集成电路被配置成靠电池功率操作。

9.一种神经形态集成电路的方法，包括：

训练被设置在所述神经形态集成电路的存储扇区中的多个二象限乘法器的模拟乘法器阵列中的多层神经网络；

其中当去往乘法器的晶体管的输入信号的输入信号值近似为零、乘法器的晶体管的权重值近似为零或其组合时，乘法器中的每个乘法器线接到地并且汲取可忽略的电流量；以及

通过利用被配置成针对乘法器将大量的输入信号值、权重值或其组合朝向零驱动的训练算法进行训练来鼓励神经网络中的稀疏性，从而使能实现所述神经形态集成电路的最小功耗。

10.根据权利要求9所述的方法，其中当去往乘法器的晶体管的输入信号的输入信号值为零、乘法器的晶体管的权重值为零或其组合时，乘法器中的每个乘法器不汲取电流。

11.根据权利要求9所述的方法，进一步包括：

在训练期间跟踪乘法器中的每个乘法器的权重值的改变率；以及

确定某些权重值是否正在趋向于零、以及那些特定权重值正在多么快地趋向于零。

12.根据权利要求9所述的方法，进一步包括：

作为鼓励神经网络中的稀疏性的部分，对于在训练期间正在趋向于零的那些权重值，将权重值朝向零驱动。

13.根据权利要求9所述的方法，其中权重值对应于所述神经形态集成电路的神经网络中的神经节点之间的突触权重值。