[发明专利]带有使用模拟学习的突触权重的神经形态-突触器脉冲神经网络

说明书

本发明在政府支持之下，使用美国国防部先进研究项目局(DARPA)奖励的HR0011-09-C-0002创作。政府对本发明拥有一定权利。

背景技术

本发明涉及神经形态(neuromorphic)和突触器(synapatronic)系统，更具体地说，本发明涉及实现脉冲神经网络的低功率、超高密度神经形态-突触器电路芯片。

神经形态-突触器系统——也称为人工神经网络——是允许电子系统基本上以类似于生物大脑的方式工作的计算系统。神经形态-突触器系统一般不使用处理0和1的传统数字模型。相反，神经形态-突触器系统创建处理元件之间的连接，这些处理元件的功能基本等同于生物大脑中的神经元。神经形态-突触器系统可以由各种关于生物神经元和突触建模的电子电路组成。

在生物系统中，一个神经元轴突和另一神经元上的树突之间的触点被称为突触，相对于突触而言，两个神经元分别被称为前突触和后突触，我们的个人经验本质存储在突触的传导中。

发明内容

本发明的实施例提供神经形态-突触器系统，其中包括神经形态-突触器电路，其实现带有使用模拟学习的突触权重的脉冲神经网络。一个实施例提供一种方法，包括模拟脉冲神经网络以产生通过模拟学习的突触权重。所学习的突触权重被加载到实现脉冲神经网络的神经形态-突触器电路芯片中。

在所述芯片与所述模拟之间保持一一对应。所述一一对应通过以下方式实现：使用数字集成-发射神经元，以及位于互连所述数字神经元的互连网络的交叉接头上的离散值突触器件实现所述脉冲神经网络，将所述芯片的物理和逻辑互连性约束集成到所述模拟中，以及消除所述芯片上的所有随机性或非确定性源。所述芯片的架构实现低功率并具有小型化规格。

在另一实施例中，一种设备包括：实现带有使用模拟学习的突触权重的脉冲神经网络的神经形态-突触器电路芯片。所述脉冲神经网络包括位于互连所述数字电子神经元的互连网络的交叉接头上的突触。通过互连性保持所述模拟与所述芯片之间的一一对应，其中所学习的突触权重被加载到所述芯片中。

通过参考下面的描述，所附权利要求和附图，可以理解本发明的这些和其它特征、方面和优点。

附图说明

图1A示出根据本发明的实施例包括实现带有使用模拟学习的突触权重的脉冲神经网络的数字电子神经元的神经形态-突触器系统的图表；

图1B示出根据本发明的实施例的模拟与神经形态-突触器电路芯片之间的相互关系对应；

图2示出根据本发明的实施例在交叉体(crossbar)互连网络中包括多个神经形态-突触器电路芯片构建模块的神经形态-突触器网络的图表；

图3A示出根据本发明的实施例在第一配置中包括多个神经形态-突触器电路芯片构建模块的神经形态-突触器网络的图表；

图3B示出根据本发明的实施例在第二配置中包括多个神经形态-突触器电路芯片构建模块的神经形态-突触器网络的图表；

图3C示出根据本发明的实施例在第三配置中包括多个神经形态-突触器电路芯片构建模块的神经形态-突触器网络的图表；

图4示出根据本发明的实施例在交叉绗缝(cross-quilt)互连网络中包括多个神经形态-突触器电路芯片构建模块的神经形态-突触器网络的图表；

图5示出根据本发明的实施例模拟脉冲神经网络以产生通过模拟学习的信息，以及将所学习的信息加载到包括数字电子电路的数字芯片中的过程的流程图；

图6示出根据本发明的实施例模拟脉冲神经网络以产生通过模拟学习的信息，以及将所学习的信息加载到包括数字电子电路的数字芯片中的系统的图表；以及

图7示出用于实现本发明的一个实施例的信息处理系统的高级框图。

具体实施方式

本发明的实施例提供神经形态-突触器(neuromorphic-synaptronic)系统，其中包括实现带有使用模拟学习的突触权重的脉冲神经网络(spiking neural network)的神经形态-突触器电路。

一个实施例包括模拟脉冲神经网络以产生通过模拟学习的突触权重。所学习的突触权重被加载(编码)到实现脉冲神经网络的神经形态-突触器电路芯片中。在一个实施例中，电路芯片的架构提供可减小电源消耗以及形状因子的脉冲神经网络。