[发明专利]事件驱动脉冲卷积神经网络

说明书

本发明公开了一种事件驱动脉冲卷积神经网络，其包括：内核模块，被配置为以事件驱动的方式存储和处理至少一个卷积核的内核值；神经元模块，被配置为以事件驱动的方式存储并更新所述脉冲卷积神经网络中神经元的神经元状态，并输出由更新的神经元产生的输出脉冲事件；内存映射器，被配置为通过与至少一个卷积核的卷积来确定来自源层的输入脉冲事件所投射的神经元，并且其中所确定神经元的神经元状态将用至少一个卷积核的适用内核值更新，其中，内存映射器被配置为以事件驱动的方式处理输入的脉冲事件。本发明公开的技术方案能以高效、快速的方式执行脉冲卷积神经网络sCNN，且在神经拟态硬件中消耗的能量极低。

技术领域

本发明涉及一种事件驱动脉冲卷积神经网络，并具体涉及事件驱动的脉冲卷积神经网络、用于事件驱动的卷积神经网络的内存映射器、以及电子电路。

背景技术

用于有效执行CNN任务的卷积神经网络(CNNs)和相应的芯片体系结构在本领域中是已知的。

一种特定类型的CNN为脉冲卷积神经网络(sCNN，spiking Convolutional NeuralNetwork)，它们模拟生物神经元的功能，即在达到神经元一定膜电位时，产生电脉冲形式的不连续的信号。相比之下，传统的CNN在任何输入上提供连续输出，因此具有比sCNN更低的能源效率。

继而，尽管在数学上sCNN可以被很好地描述，但尚不知道在专用硬件中如何实现。在通用处理器上实现的sCNN失去了数据处理特定模式的优势，因此速度相对较慢或具有特别高的内存需求。

然而，到目前为止，还没有专门设计用于操作sCNN的专用电子电路。

通用的(不一定是卷积的)神经网络是基于IBM的“True North”芯片架构(US2014/0032465 A1)，基于所谓的交叉架构，该架构提供了可以将每个神经元几乎以任何方式连接到其它神经元的一种神经网络网络。然而，这是以极大的存储需求为代价的，因为神经元之间的每个连接都具有相关的权重。因此，由于每个神经元都与所有其它神经元互连，包含所有权重的权重矩阵的存储需求大约与神经元的平方数成正比，速度难以很快。

此外，除了“True North”芯片架构之外，已知的CNN处理器以基于帧的方式运行，这与处理sCNN时有利的信号处理模式(基于帧和事件)不同。到目前为止，还没有专门为高效快速执行sCNN设计的电子电路架构。

发明内容

本发明的目的是提供一种执行脉冲卷积网络的系统和方法，该系统和方法能够有效节省能耗和存储资源。

在下文中，如果没有另外说明或建议，则术语“脉冲卷积神经网络”和类似术语是指被配置和布置用于操作脉冲卷积神经网络的至少一种电子设备。

基于事件驱动的脉冲卷积神经网络，包括多个层，其中每个层包括如下特征：

内核模块(kernel module或convolution kernel，在本文中也称为：内核，卷积核或卷积内核)，被配置为以事件驱动的方式存储和处理至少一个卷积内核的内核值；

神经元模块(neuron module)，被配置为以事件驱动方式存储和更新网络中神经元的神经元状态，并输出由被处理，例如被更新的神经元，产生的离去脉冲事件；

内存映射器(memory mapper)，被配置为通过与至少一个卷积核的卷积来确定来自源层的输入脉冲事件投射到的神经元，并且其中所述确定的神经元的神经元状态将用至少一个卷积核的适用核值更新，其中内存映射器被配置为以事件驱动的方式处理输入的脉冲事件。

事件驱动的sCNN，尤其是包括诸如内存映射器，神经元模块和内核模块之类的组件的电子电路和/或至少一个计算机芯片，其每个部件或模块在电子电路或至少一个计算机芯片中具有硬连线的对应关系。