[发明专利]类神经网络系统

说明书

一种类神经网络系统，执行积项和操作，包括存储器元件及控制器，存储器元件包括：立体存储单元阵列，具有多个存储单元具有多个可写入电导；栅极驱动器耦接至栅极线，施加多个控制栅极电压结合可写入电导，对应多个乘积项的多个权重；输入驱动器对存储单元施加多个电压，以对应多个输入变量；多条输入线将存储单元本体线连接至输入驱动器；感测电路连接至存储单元本体线，以感测通过每一条存储单元本体线的电流，对应其中一个乘积项；和缓冲电路，耦接至感测电路，以储存对应的乘积项。控制器耦接至存储器元件，用来控制存储器元件，将乘积项加总以计算积项和。

技术领域

本发明涉及一种可以用于执行积项和(sum-of-products)操作的电路，特别是一种应用此电路的类神经网络(Neural Network，NN)系统。

背景技术

在神经形态工程学(neuromorphic computing systems)、机器学习系统(machinelearning systems)以及用于某一些以线性代数为基础式运算的电路中，积项和函数可能是一个重要的组成部分。此函数可以用算式表示如下：

此算式中，每一个乘积项是一个输入变量X_i与一个权重W_i二者的乘积。其中，权重W_i在这些乘积项(terms)中是可变化的，例如权重W_i可以对应输入变量X_i的系数改变而产生变化。

积项和函数可以被理解为一种使用交叉点阵列架构(cross-point arrayarchitectures)的电路操作。其中阵列架构中多个存储单元的电子特性(electricalcharacteristics)可以实现此函数。

在高速运算中实施，需要有一个非常大的阵列，以使多个操作可以被平行地执行，或者可以对非常大的积项和级数(sum-of-products series)进行运算。

因此有需要提供一种适用于在大型阵列中实施积项和操作的结构。

发明内容

一种类神经网络(Neural Network，NN)系统，用于执行积项和(sum-of-products)操作，包括存储器元件以及控制器。存储器元件包括：立体存储单元阵列、栅极驱动器(gatedriver)、输入驱动器(input driver)、多条输入线、感测电路(sensing circuit)、缓冲电路。立体存储单元阵列具有多个存储单元，设置在多条存储单元本体线(cell body lines)与多条栅极线的多个交叉点(cross-points)上，其中这些存储单元具有多个可写入电导(programmable conductances)。栅极驱动器耦接至这些栅极线，用来施加多个控制栅极电压(control gate voltages)，其中这些控制栅极电压结合这些存储单元的可写入电导，用以对应积项和操作中多个乘积项(terms)的多个权重。输入驱动器用来对立体存储单元阵列中的存储单元施加多个电压，以对应多个输入变量。输入线存储单元本体线连接至输入驱动器，用以输入这些输入变量；感测电路连接至存储单元本体线，用来感测通过存储单元本体线之一者的一电流，以对应这些乘积项中的一个对应乘积项。缓冲电路耦接至感测电路，以储存此一对应乘积项。控制器用来控制存储器元件，将这些乘积项进行加总，以计算积项和。

根据上述实施例，提供一种具有垂直通道结构的立体存储器元件的类神经网络系统。利用立体存储器元件既有的感测读取特性来进行积项和操作。其中，输入变量系经由多条输入线(位线)输入立体存储器结构，并通过栅极线来选取存储单元，并通过存储器内建的感测电路读取通过所选存储单元的电流，并将其储存于内建的缓冲电路中。通过所选存储单元的电流即为积项和操作的乘积项，而被选取存储单元的电导值即为每一乘积项的权重。这些乘积项可以在感测电路或缓冲电路中直接加总，或者通过外部的逻辑电路进行加总，而计算出积项和。