[发明专利]可用于人工智能物联网的高能效二值神经网络加速器

说明书

本发明提供了一种可用于人工智能物联网的高能效二值神经网络加速器，本发明提供了带有串联电容的0.3‑0.6V亚/近阈值10T1C乘法位单元，用于电荷域二进制卷积；一个抗工艺偏差，位线与DAC间差分电压放大阵列，用于在0.3V的批标准化操作中稳健的预放大；惰性位线重置方案，进一步降低能量，推断精度损失可忽略不计。这样，本发明提供的基于存内计算的二值神经网络加速器芯片达到了18.5POPS/W和6.06POPS/W的峰值能效，比之前的宏和系统工作[9,11]分别提高了21×和135×。

技术领域

本发明涉及一种0.3V高能效二值神经网络加速器。

背景技术

人工智能物联网(AIoT)是人工智能技术(AI)和物联网(IoT)在实际应用中的融合。人工智能物联网以其强大的应用场景，成为人工智能领域最有可能性和可塑性的发展方向，也是传统产业智能化升级的最佳途径。人工智能物联网将人工智能能力应用于无处不在的数据分析的物联网基础设施。因此，由于分布式物联网平台的资源稀缺和能源预算有限，高能效AI解决方案非常受欢迎。为此，量化卷积神经网络(QCNN)被广泛认为是一种很有前途的技术，用于AIoT应用[1,2]与简化模型大小、计算和能量。特别地，[3]已经提出了二值化卷积神经网络(BCNN)，其中预先训练的权值被积极量化为1位，这可以节省大量硬件和能源，同时为AIoT推理任务提供令人满意的计算精度[4]。尽管BCNN[5-7]具有固有的算法优势，但具有模拟域计算的近内存计算(NMC)和内存内计算(IMC)等优化硬件架构也在积极寻求来自片上存储器[8,9]的数据移动能量的最小化。就使用的内存类型而言，最近的eDRAM设计已经实现了更高的宏计算密度，但其复杂的比特单元刷新模块限制了其可达到的峰值能源效率[10,11]。与最近的多比特SRAM工作[12,13]相比，目前最先进的(SOTA)[9]电荷域内存计算(CIM)的BNN加速器实现了迄今为止最好的能源效率。

然而，现有的电荷域存内计算的二值神经网络加速器在提高能效方面仍存在以下挑战：

(1)位线连接了大量并联电容器，耗费了大量的卷积能量；

(2)在亚阈/近阈电压下工作可以提高二值神经网络加速器的能量效率，但会造成严重的精度损失；

(3)位线的最先进的结构在每次卷积后不可避免地要求位线的不断复位，这阻碍了位线能耗的进一步降低。

参考文献：

[1]Z.Liu,E.Ren,F.Qiao,Q.Wei,X.Liu,L.Luo,H.Zhao,and H.Yang,“NS-CIM:ACurrent-Mode Computation-in-Memory Architecture Enabling Near-SensorProcessing for Intelligent IoT Vision Nodes,”IEEE Trans.Circuits Syst.I,vol.67,no.9,pp.2909–2922,2020.

[2]A.Di Mauro,F.Conti,P.D.Schiavone,D.Rossi,and L.Benini,“Always-On674μW@4GOP/s Error Resilient Binary Neural Networks With Aggressive SRAMVoltage Scaling on a 22-nm IoT End-Node,”IEEE Trans.Circuits Syst.I,vol.67,no.11,pp.3905–3918,2020.

[3]M.Courbariaux,I.Hubara,D.Soudry,R.El-Yaniv,and Y.Bengio,“Binarizedneural networks:Training deep neural networks with weights and activationsconstrained to+1 or-1,”arXiv preprint arXiv:1602.02830,2016.