[发明专利]脉冲神经网络中的并行处理

说明书

本公开是针对于脉冲神经网络中的并行处理。所公开的实施例涉及将关键数据存储于例如快闪或DRAM存储器装置的存储器装置中。在一个实施例中，公开包括多个并行处理器的装置，所述多个并行处理器被配置成：执行搜索和匹配操作，所述搜索和匹配操作是加载多个突触标识符位串和多个脉冲标识符位串，所述搜索和匹配操作另外产生多个位掩码；执行突触整合阶段，所述突触整合阶段基于所述多个位掩码产生多个突触电流向量，所述突触电流向量与相应合成神经元相关联；解算用于所述合成神经元中的每一个的神经膜方程式；和更新与所述合成神经元相关联的膜电势，所述膜电势存储于存储器装置中。

技术领域

本文中所公开的至少一些实施例大体上涉及神经网络，且特定来说，涉及脉冲神经网络。

背景技术

脉冲神经网络(SNN)是生物神经网络(BNN)的数学模型。BNN是由使用脉冲彼此通信的互连神经元组成。神经元基于从连接的神经元输入到其中的其它脉冲产生脉冲。神经元到神经元连接被称为突触，其强度不同。流入脉冲取决于相应突触的强度或权重而对所产生的(即，突触后)脉冲具有不同贡献。

BNN通过使用从神经元行进到神经元的脉冲来处理信息。BNN通过添加新突触连接、移除突触连接、改变突触连接的强度，或通过改变突触连接中的延迟(例如，电导性质)来进行学习。举例来说，个人学习演奏新乐器可能会随着时间的推移改变与运动技能相关的突触连接。

SNN通过模拟神经元、突触和BNN的其它元素，以及将脉冲引入到数学神经网络中来模拟BNN。SNN可经译码以在数个处理器上执行以模拟在神经网络中发射的脉冲。果蝇约有25万个神经元，每个神经元约有80个突触，而人脑约有860亿个神经元，每个神经元约有1700个突触。因此，快速处理脉冲的计算资源的需求量相当大，所以扩展SNN具有挑战性。

发明内容

在一个方面中，本公开是针对于一种装置，其包括：多个并行处理器，所述多个并行处理器被配置成：执行搜索和匹配操作，所述搜索和匹配操作是加载多个突触标识符位串和多个脉冲标识符位串，所述搜索和匹配操作另外产生多个位掩码；执行突触整合阶段，所述突触整合阶段基于所述多个位掩码产生多个突触电流向量，所述突触电流向量与相应合成神经元相关联；解算用于所述合成神经元中的每一个的神经膜方程式；更新与所述合成神经元相关联的一或多个状态变量；和将指示所述一或多个状态变量的数据值写入到存储器装置。

在另一个方面中，本公开是针对于一种方法，其包括：通过并行处理器执行搜索和匹配操作，所述搜索和匹配操作是加载多个突触标识符位串和多个脉冲标识符位串，所述搜索和匹配操作另外产生多个位掩码；通过所述并行处理器执行突触整合阶段，所述突触整合阶段基于所述多个位掩码产生多个突触电流向量，所述突触电流向量与相应合成神经元相关联；通过所述并行处理器解算用于所述合成神经元中的每一个的神经膜方程式；和通过所述并行处理器更新与所述合成神经元相关联的状态变量，所述状态变量存储于存储器装置中。

在另一个方面中，本公开是针对于一种用于有形地存储能够由并行处理器执行的计算机程序指令的非暂时性计算机可读存储媒体，所述计算机程序指令定义以下步骤：执行搜索和匹配操作，所述搜索和匹配操作是加载多个突触标识符位串和多个脉冲标识符位串，所述搜索和匹配操作另外产生多个位掩码；通过所述并行处理器执行突触整合阶段，所述突触整合阶段基于所述多个位掩码产生多个突触电流向量，所述突触电流向量与相应合成神经元相关联；通过所述并行处理器解算用于所述合成神经元中的每一个的神经膜方程式；和通过所述并行处理器更新与所述合成神经元相关联的状态变量，所述状态变量存储于存储器装置中。

附图说明

参考附图可更好地理解本公开的许多方面。图式中的组件不一定按比例绘制，而是将重点放在清楚地说明本公开的原理上。此外，在图式中，类似参考标号在若干视图中表示对应的部分。

图1是描绘根据本公开的一些实施例的SNN系统的架构的实例。

图2是说明根据本公开的一些实施例的在SNN系统内传送的脉冲消息的框图。