[发明专利]数据处理模块、数据处理系统及数据处理方法

说明书

一种用于时分复用地执行脉冲神经网络的神经形态处理模块(1)，其中，脉冲神经网络设置为包括多个神经单元。每个神经单元能够呈现神经状态，并且在神经元状态存储单元(11)中具有相应可寻址存储条目，其中，神经元状态存储单元(11)用于存储指定其神经状态的状态信息。每个神经单元的状态信息由处理模块中的处理设施(10，神经控制器)根据发往所述神经单元的事件消息以时分复用的方式计算和更新。当处理设施计算更新的神经单元呈现发射状态时，其将更新的神经单元重置到初始状态，访问更新的神经单元在输出突触切片存储单元中的相应条目，并且从所述相应条目检索突触索引的相应范围的指示，其中，用于相应范围内的每个突触索引的处理设施访问突触存储单元中的相应条目，从突触存储单元检索突触属性数据，并将发射事件消息传输到与所述突触属性数据相关联的每个神经单元。

背景技术

认知计算的出现已经提出了作为基于人脑操作的替代计算范例的神经计算。神经计算设备由于它们固有的并行架构，能够缓解冯诺依曼存储器的瓶颈。在生物学原理的启发下，神经计算设备被设计为通过突触连接彼此交互的神经单元。与人工神经计算设备的类似地操作的生物对应物相反，这些人工神经计算设备的IC实现通常是数字性质的。

这一方面协助人工神经计算设备的IC在硅上实现，另一方面提供了利用在数字集成电路设计的几十年中已经实现的巨大技术进步的机会。与当前可用的数字处理元件相反，生物神经元以几十到几百Hz的非常低的频率工作。因此，这将不会对它们的实现施加大的负担。然而，以现有技术设计具有与生物系统兼容的特性的硅上处理模块仍然非常不现实，因为典型的生物系统通常平均包含数十亿个神经元，这些神经元中的每个都具有多个突触。一种方法是用时分复用设计来模拟这种复杂系统，其中多个神经单元共享处理设施。由于数字硬件可以以比生物神经元工作的速度快几个数量级的速度运行，因此共享处理设施可真实地模仿神经元行为，同时这种方法节省空间以实现较高密度的虚拟神经元及其突触。

脉冲神经网络的特征在于，神经单元之间的信息作为发射事件消息进行交换。发射事件消息(脉冲)的发射指示数据可用，以及自先前发射事件消息的发射以来经过的时间间隔指示数据值。时间间隔的长度指示要进行交换的数据值。在一些设计中，发射频率指示数据值。在其它设计中，时间间隔的长度可指示数据值。在这两种情况下，约定俗成的是，在超过阈值时间间隔的时间间隔期间没有事件指示没有数据。这对于阵列处理特别重要(特别是当稀疏填充时)，例如，对于处理来自监视相机的数据特别重要。传统的数据处理系统将要求以预定的刷新频率扫描每个图像元素。于是，扫描产生与扫描图像阵列中的像素数量和刷新频率成比例的数据流。假如脉冲神经网络联接到图像阵列，只有检测到图像内容变化的神经单元将向次级神经单元传输数据。反过来，只有由传输的数据触发的次级神经单元本身将传输数据。这样，大大降低了计算的负荷以及数据传输信道的负荷。

一种神经形态数据处理系统(即，模拟神经网络的数据处理系统)可包括多个时分复用处理模块，该时分复用处理模块在2D网格中分组在一起并经由片上包交换网络(NoC)彼此通信。每个时分复用处理模块也可被认为是神经计算核心。Filipp Akpyan等人在“TrueNorth:Design and Tool Flow of a 65mW 1Million Neural unit ProgrammableNeurosynaptic Chip”，IEEE，集成电路与系统计算机辅助设计学报(第34卷，第10期，2015年10月)|https://ieeexplore.ieee.org/document/7229264/中描述了这种方法的示例。

这种已知的数据处理系统的缺点是其限制了神经单元及其突触的映射比。每个神经单元具有固定数量的输入突触和一个输出突触。这导致在神经网络要求发射(脉冲)神经单元必须向比该固定数量更多数量的神经单元传输发射事件消息的应用的情况下效率低下。为了实现这一功能，用户将不得不复制神经单元或制作中继神经单元。在任一情况下，这都将导致资源浪费和功耗增加。

发明内容

本发明的第一个目标是提供这样一种神经形态数据处理模块，其能够在不需要额外的神经单元的情况下更灵活地修改神经单元的输入突触和输出突触的数量。