[发明专利]加速非线性数学计算的系统及方法

说明书

系统包括加速器来加速非线性数学函数的计算。所述加速器包括一组第一评估器以及一组第二评估器。每一所述多个第一评估器以及所述多个第二评估器是为评估一各自的非线性函数指定的一固定功能硬件电路。所述系统进一步包括一处理器，其解码一指令集中的一数学指令，发送识别一非线性函数的一信号到加速器，所述非线性函数对应于所述数学指令，以及从所述加速器接收所述非线性函数的一输出。根据所述信号，所述加速器使用一个第一评估器评估所述非线性函数。当所述信号识别所述非线性函数为一复合函数时，所述加速器对所述一个第一评估器的一输出额外地使用一个第二评估器。

相关应用

本申请要求于2019年1月16日递交的，美国临时专利申请号为62/792,985的优先权，其整体内容在此藉由参考纳入其中。

技术领域

本发明的实施例涉及用于人工智能(artificial intelligence，AI)计算的处理器以及加速器(accelerator)。

背景技术

深度学习(deep learning)由于其在计算机视觉(computer vision)、语义识别(speech recognition)、自然语言处理(natural language)、生物信息学(bioinformatics)等等领域中的优越性能而得到广泛认可。深度学习是机器学习(machinelearning)的分支，其使用包括超过一个隐藏层(hidden layer)的人工神经网络(artificial neural network)。神经网络计算的负载是密集的以及通常涉及非线性函数的评估(evaluation)，也即计算所述非线性函数。

例如，在特征提取中、神经网络计算可以包括用一组滤波器的输入数据的卷积(convolution)，紧接着是非线性计算、下采样计算以及类分数计算(class scorescomputation)。非线性计算已经被示出为高度资源需求，以及会造成长延迟以及高功率消耗。因此，需要在神经网络计算中的改善以增加系统性能。

发明内容

在一个实施例中，系统被提供来加速非线性数学计算。所述系统包括加速器与处理器。所述加速器包括一组第一评估器以及一组第二评估器。每一所述多个第一评估器与所述多个第二评估器是为评估各自的非线性函数指定的固定功能硬件电路。所述处理器用于解码指令集中数学指令，发送识别非线性函数的信号到所述加速器，所述非线性函数对应于所述数学指令，以及从所述加速器接收所述非线性函数的输出。所述加速器根据所述信号用于使用一个第一评估器评估所述非线性函数。当所述信号识别所述非线性函数为复合函数时，所述加速器对所述一个第一加速器的输出额外地使用一个第二加速器。

在另一个实施例中，由加速器执行的方法被提供用于加速非线性数学计算。所述方法包括：从处理器接收识别非线性函数的信号，所述非线性函数对应于所述处理器的指令集中的数学指令。由根据所述信号使用一个第一评估器评估所述非线性函数，以及，当所述信号识别所述非线性函数为复合函数时，对一个第一评估器的输出额外地使用一个第二评估器，其中每一所述多个第一评估器以及所述多个第二评估器是为评估各自的非线性函数指定的固定功能硬件电路。所述方法进一步包括发送所述非线性函数的输出到所述处理器。

藉由本发明之方面可以有效改善非线性计算中纯软件方案造成的大延迟以及高功率效率的问题。

在结合附图阅读具体实施例的下文描述后，其他方面以及特征对本领域习知技术者将是显而易见的。

附图说明

在后续附图的图示中以示例的方式而不是限制的方式示出本发明，其中相似的附图标记表示相同的元件。注意到的是，本公开中对“一(an)”或者“一个(one)”实施例的不同引用不一定指相同的实施例，以及这种引用意指至少一个。此外，当结合一实施例描述特定特征、结构或者特性时，认为无论是否明确描述，结合其他实施例实施这样的特征、结构或特性在本领域习知技术者的知识范围内。