[发明专利]一种光学神经网络处理器及其计算方法

说明书

本发明提供一种光学神经网络处理器及其计算方法。所述处理器包括：数值映射装置、正值光学计算装置、负值光学计算装置、光电转换器、减法器、非线性激活装置。在计算时，将神经网络模型中网络层的权值和输入值映射到可由光神经元表示的整数域内，并分为正负两个光路进行网络层的计算，通过减法器将两路计算结果合并为一路。

技术领域

本发明涉及对神经网络计算的加速，尤其涉及基于光学原理的神经网络处理器及其计算方法。

背景技术

自从计算机诞生以来，人类就试图利用计算的方式构建出一种新的、能以人类智能相似的方式做出反应的智能机器。经过半个多世纪的起起伏伏，人工智能成为计算机科学的一个重要分支。基于大数据的深度学习算法作为人工智能领域的主流方法，越来越受到广泛的关注，在自然语言处理、无人机、信息安全等领域发挥了基础性的作用，为社会创造了巨大的经济价值。

人工神经网络由大量的神经元组成。所述神经元是能够模仿生物神经元功能的装置结构，神经元利用输入信号和输出信号来模拟生物突触的输入和输出。在神经元的各个输入突触上具有相应的权值，输入信号分别与对应突触的权值相乘、求和，所得到的结果被输入到位于神经元输出端的非线性激活函数中，经过激活函数的处理产生神经元的输出信号。在人工神经网络中，每个神经元对应于神经网络中的一个网络层，各个神经元通过层次化的连接方式来构成神经网络模型。例如，在一个神经网络模型中通常包含一个输入层、多个隐藏层和一个输出层。其中，与输入层对应的神经元在接收输入信号的刺激后执行相应的计算，在计算结果超过一定阈值时激活并将产生的信号输出到与其连接的下一个网络层以作为其输入，以此类推。信号在人工神经网络的各个网络层之间传递，以模拟在生物的神经元之间的信息传递。

在使用人工神经网络之前，为了使其能够产生与人类似的反应，会首先采用已知样本来训练与神经元的各个输入突触所对应的权值，使得基于该权重能够基于相应的输入产生令人满意的输出。在使用时，基于训练得到的权重对输入信号进行相应的计算，得到人工智能的输出。

现有的绝大多数神经网络器件都是基于CMOS工艺的电路，例如CPU、FPGA等。然而，随着摩尔定律的失效，上述基于电域的计算方式面临着功耗、频率、并行度等若干方面的挑战。目前有少数的研究提出可以基于光学工艺生产神经网络器件，例如在中国专利文献CN103178901A中提出基于光纤中受激拉曼散射效应的光神经元。相较于传统的电域技术，光在并行度、速度等方面有先天的优势。

尽管已有技术提供了光神经元的物理实现方式，然而目前尚不存在能够提供一种完整的光学神经网络处理器的技术。这是由于，传统的计算技术的原理是将电域器件与布尔逻辑理论结合，以半导体设计的方式得到相应的逻辑门电路，从而使得电域器件能够与计算理论相匹配。然而现有的光学器件很难与传统的基于布尔逻辑的计算理论向匹配。直接将光神经元应用到传统的处理器结构中，所获得的光学神经网络处理器的性能受限，使得采用这样的硬件进行训练和迭代时容易出现收敛速度慢或所输出的结果准确率不高的情况。因而，需要提供一种能够利用光的上述优势的神经网络装置，并提供与其结构匹配的训练方法和计算方法。

发明内容

因此，本发明的目的在于克服上述现有技术的缺陷，提供一种光学神经网络处理器，包括：

数值映射装置，用于实现一个数值与可由光神经元表示的整数域内的数值之间的映射；

正值光学计算装置，用于根据由光神经元表示的整数域内的输入值与权值执行神经网络模型的网络层的相应计算，以得到第一计算结果的光信号；

负值光学计算装置，用于根据由光神经元表示的整数域内的输入值与权值执行神经网络模型的网络层的相应计算，以得到第二计算结果的光信号；

光电转换器，用于将所述第一计算结果和所述第二计算结果的光信号转换为电信号；

减法器，用于提供与所述第一计算结果的电信号和所述第二计算结果的电信号之间的电位差，以作为相应的网络层的计算结果；