[发明专利]支持亿级神经元的类脑计算机

说明书

本发明公开了一种支持亿级神经元的类脑计算机，包括层级拓展的体系架构和体系架构内部演算过程控制；所述体系架构包括层级化组织管理的多个用于实现计算任务的类脑计算芯片，每个类脑计算芯片包含计算神经元和突触资源并形成神经网络，体系架构内计算神经元之间的脉冲事件通过层级化传输模式实现传输；所述演算过程控制包括控制体系架构内计算任务的并行处理，控制体系架构内同步时间的管理，控制体系架构内神经网络的重构来实现计算神经元与突触资源的容错性和鲁棒性管理。该类脑计算机能够支持神经元规模上亿的脉冲神经网络推理计算。

技术领域

本发明属于人工神经网络技术领域，具体涉及一种支持亿级神经元的类脑计算机。

背景技术

自1945年提出冯诺依曼架构以来，基于该架构的计算机沿用至今，其基本特征是内存与计算单元分离。存算分离的优点是软件可编程，即同一硬件平台可以通过存储不同的软件来执行不同功能，缺点就是存储单元与计算单元之间的通信会成为性能瓶颈。得益于半导体产业按照摩尔定律的快速发展，冯诺依曼体系架构的计算性能指数增长了数十年，近年来“内存墙”与“功耗墙”效应日趋严重，摩尔定律已经逐步趋于失效，靠工艺进步获得的性能红利逐渐减弱。在后摩尔时代，半导体行业迫切需要寻求新的架构与方法以满足电子产业对不断提高的计算性能和极低功耗的需求。随着脑科学的发展，人们逐渐了解到人脑是一部极高能效的计算机，类脑计算应运而生。内存与计算单元合二为一，从根本上去除了经典冯诺依曼体系架构的“内存墙”问题。类脑计算的基本思路是将生物神经网络的概念应用于计算机系统设计，针对智能信息处理的特定应用来提高性能与降低功耗。由于在真实世界学习的任务中展现出独特优势，迅速成为业界研究热点。

2004年，斯坦福大学教授Kwabena Boahen研制出基于模拟电路的类脑芯片Neurogrid。2005年，英国Manchester大学开始研制基于ARM的多核超级计算机SpiNNaker，主要是用ARM来模拟神经元，于2018年达到100万核规模，但是功耗较大。2014年，IBM在DARPA的SyNapse项目支持下发布神经芯片TrueNorth，支持百万个脉冲神经元和上亿神经突触。2015年，瑞士联邦苏黎士理工学院发布了一款基于数模混合电路极低功耗神经芯片。同年，浙江大学联合杭州电子科技大学发布了Dawin 1代。2018年，芯片巨头英特尔展示了其首款自学习芯片Loihi。2019，清华大学发布了ANN混合SNN的Tianjic。

虽然类脑芯片发展迅速，但是因为单个神经元的功能有限，只有数以百万计的神经元协同工作才能在特定智能信息处理方面表现出独特优势，因此通过类脑芯片的集成实现神经元的大规模化一直是热门方向，对大规模类脑计算机的研究也在蓬勃发展。2015年欧盟脑计划推出了BrainScaleS，用20个wafer组装成计算系统，达到400万神经元规模；2017，IBM基于TrueNorth芯片，发布了Blue Raven类脑计算机，达到6400万神经元规模，而功耗只有60W；2020年，Intel基于Loihi芯片，发布了Pohiki Springs类脑计算机，达到了1亿神经元规模；同年，浙江大学联合之江实验室发布了Darwin Mouse，达到1.2亿神经元规模，处于国际领先水平。类脑计算机的规模正越来越大，但具体实施绝对不是简单的堆叠类脑芯片，会面临脉冲数据传输瓶颈、各任务间算法时间同步、大规模计算资源故障率提升等一系列问题，有很重要的研究意义。

发明内容

本发明的目的提供一种支持亿级神经元的类脑计算机，使其能够支持神经元规模上亿的脉冲神经网络推理计算。

为实现上述发明目的，本发明提供的技术方案为：

一种支持亿级神经元的类脑计算机，包括层级拓展的体系架构和体系架构内部演算过程控制；

所述体系架构包括层级化组织管理的多个用于实现计算任务的类脑计算芯片，每个类脑计算芯片包含计算神经元和突触资源并形成神经网络，体系架构内计算神经元之间的脉冲事件通过层级化传输模式实现传输；