[发明专利]基于时间编码的低功耗脉冲神经网络片上学习系统

说明书

本发明公开了一种基于时间编码的低功耗脉冲神经网络片上学习系统，包括排序模块和计算模块，排序模块用于接收已进行时间编码的若干组输入数据，并将所述输入数据升序或降序排列；计算模块用于接收所述输入数据和预存储的与输入数据匹配的权重数据；基于预定规则将所述输入数据量化为预设常数，获得量化输入数据；基于权重数据判断神经元是否会激发，若激发，则采用所述量化输入数据和权重数据计算输出脉冲时间，并采用线性化规则更新权重数据。通过将输入数据量化降低硬件运算难度，采用优化的权重更新规则以便于硬件设计，减少运算量，具有功耗低、面积小速度快的优点；提升了脉冲经网络运算速度，且能够在硬件上实现片上学习。

技术领域

本发明属于人工智能算法硬件加速领域，尤其涉及一种基于时间编码的低功耗脉冲神经网络片上学习系统。

背景技术

近些年来很多用于手写数字图片的识别的神经网络在硬件上实现。其中卷积神经网络为代表的网络被大规模地使用。然而卷积池化等操作需要大量的运算，这样一来需要消耗大量的硬件资源，也不利于低功耗的设计。针对以上的问题，近些年来脉冲神经网络(Spiking Neural Networks,SNNs)应运而生。

脉冲神经网络的出现是受到生物大脑结构的启发，生物学上的大脑可以以无监督的形式高效、低功率地处理信息。因此出现了模拟人类大脑的脉冲神经网络，该网络也被广泛认为是第三代神经网络。SNN在具有离散脉冲的神经元之间传播信息，相应的神经形态硬件可以在低功率下实现，这对电池受限的设备非常重要。

训练SNNs的方法主要有三种：从人工神经网络(ANNs)进行的转换、有监督学习方法和无监督学习方法。尽管由转换的SNNs和使用反向传播等监督学习方法转换的SNNs已经取得了一定的效果，但他们复杂的算法，让用硬件实现在线学习这些方法非常困难。

如何实现片上学习，降低系统功耗和减少硬件开销，是目前需要解决的问题。

发明内容

本发明的目的在于：

克服普遍神经网络硬件实现的不足之处，提供一种基于时间编码的低功耗脉冲神经网络片上学习系统，能够有效地降低功耗，减少硬件开销，并且还可以实现片上学习。

具体由以下技术方案实现：

一种基于时间编码的低功耗脉冲神经网络片上学习系统，包括：

排序模块，用于接收已进行时间编码的若干组输入数据，并将所述输入数据升序或降序排列；

计算模块，用于接收所述输入数据和预存储的与输入数据匹配的权重数据；基于预定规则将所述输入数据量化为预设常数，获得量化输入数据；基于权重数据判断神经元是否会激发，若激发，则采用所述量化输入数据和权重数据计算输出脉冲时间，并采用线性化规则更新权重数据。

发明的优点如下：在硬件上实现了使用时间编码的脉冲神经网络，并且具备在线学习的功能；经过设计和改进，该硬件系统具有计算复杂度低、面积小、功耗低等特性。

附图说明

图1为本发明的总体硬件架构示意图。

图2为本发明的改进九输入排序树结构示意图。

图3为本发明的运算单元架构示意图。

图4为本发明的CU结构示意图。

图5为本发明的权重更新架构示意图。

图6是本发明的排序过程示意图。

具体实施方式

基于上述问题，提出一种基于时间编码的低功耗脉冲神经网络片上学习系统，主要包括排序模块和计算模块。

其中，排序模块用于接收已进行时间编码的若干组输入数据，并将所述输入数据升序或降序排列；