[发明专利]用于神经网络中的信号处理的动态突触

说明书

本申请要求于1997年6月11日申请的美国临时申请No.60/049,754的利益，该申请在这里作为参考。

发明领域

本发明涉及由处理连接相连的信号处理器进行的信息处理，特别涉及模拟和扩展生物神经网络的神经网络模型。

发明背景

生物神经系统包括一个接收和处理外部刺激以产生、交换和存储信息的复杂的神经元网络。神经元以其最简形式作为神经网络的基本单位，可以被描述成一个被称为soma的细胞体，具有一个或多个作为用于接收信号的输入端的树突(dendrite)以及一个或多个作为用于输出信号的输出端的轴突(axons)。一个神经元的soma细胞体处理从树突接收的信号，以产生至少一个动作信号，通过轴突向其他神经元传输。一些神经元只具有一个轴突，该轴突重复地分叉，从而允许一个神经元与多个其他神经元进行通信。

一个神经元的一个树突(或轴突)与另一个神经元的轴突(或树突)通过一个被称为突触(Synapse)的生物结构相连。因此，神经网络包括由突触互连的多个神经元。信号在这样一个网络内进行交换和处理。

神经元还通过另一种类型的被称为神经效应连接的生物连接与各种效应细胞、例如肌肉、腺或感觉细胞进行组织和功能连接。神经元可以响应于一个作用信号而发射一特定神经递质，以控制所连接的效应细胞，使得该效应细胞因此以所希望的方式作出反应，例如收缩肌肉组织。

生物神经网络的结构和操作是极其复杂的。涉及许多物理、生物和化学过程。已经根据生物神经系统的某些方面开发出各种简化的神经模型。参见Bose和Liang的“神经网络基础：图形、算法和应用”McGraw-Hill(1996)。例如，大脑是一个复杂的系统，可以被模拟为一个以神经元活动的空间和时间模式处理信息的神经网络。

下面描述一般的神经网络的操作。由一个突触前神经元引起的动作电位在突触后神经元中产生突触电位。突触后神经元的soma细胞体膜将这些突触电位集中起来，产生一个总和电位。如果总和电位超过一个阈值电位，则突触后神经元的soma细胞体产生另一个动作电位。这个动作电位然后作为突触前电位通过一个或多个轴突传播到相连的其他神经元。上述过程形成了许多神经网络模型中的信息处理、存储和交换的基础。

动作电位和突触电位可以将某些时间模式或序列形成为冲动列。在神经网络中，在电位冲动之间的时间间隔携带了相当大的信息的一部分。

神经网络中的信息的另一个相当大的部分是神经元激活的空间模式。这是由网络中的神经元激活的空间分布确定的。希望既刺激神经网络模型中的时间模式，又刺激空间模式。例如，参看Deadwyler等的“Hippocampal ensemble activity during spatialdelayed-nonmatch-to-sample performance in rats，”Journal ofNeuroscience，Vol.16，pp.354-372(1996)以及Thiels等的“Excitatory stimulation during postsynaptic inhibitioninduces long-term depression in hippocampus in-vivo，”Journalof Neuroscience，Vol.72，pp.3009-3016(1994)以及“NMDAreceptor-dependent LTD in different subfields of hippocampusin vivo and in vitro，”Hippocampus，Vol.6，pp.43-51(1996)。

许多神经网络模型是基于下面两个假设的。首先，假设突触强度、即突触产生突触电位的功效在一个典型的用于在神经元内产生动作电位的时标期间是不变的。一个突触的功效实质上在一个信号列期间是一个常数。某些模型修改了这个假设，允许在处理许多信号列的时期内有缓慢的变化。在第二个假设中，每个发送神经元向其以突触相连的所有其他神经元提供同一信号。

本发明的一个方面提供了一种改进的神经网络模型，去除了上述两个假设。

发明概述

本发明包含于被构造为扩展生物神经网络的某些方面的信息处理系统和方法中。信号处理器的功能和连接信号处理器的处理连接分别对应于生物神经元和突触。每个信号处理器和处理连接可以包括光学元件、电子器件、生物单元或化学材料中的任何一个或其组合。处理系统和方法还可以用一个或多个计算机程序来模拟。