[发明专利]基于贡献估计的处理核心操作抑制

说明书

公开了具有基于对操作的贡献估计来抑制那些操作的能力以提高核心的整体性能的处理核心。还公开了可以由这样的处理核心实施的相关方法。一种这样的方法包括生成用于复合计算的参考值。复合计算的完整执行生成精确的输出并且需要执行分量计算集合。该方法还包括生成分量计算近似值。该方法还包括利用参考值评估分量计算近似值。该方法还包括使用分量计算近似值执行复合计算的部分执行以产生估计的输出。该方法还包括基于利用参考值对分量计算近似值的评估，在执行部分执行的同时抑制分量计算。

相关申请的交叉引用

本申请要求于2017年5月12日提交的美国临时专利申请No.62/505,775和于2018年5月10日提交的美国专利申请No.15/975,930的权益。

背景技术

如果将一张纸对折仅五十次，则所得到的纸叠将与从地球到太阳的距离一样厚。尽管每次折叠都是将堆叠的厚度增加两倍的简单操作，但总任务却一点也不简单。同样，由现代计算系统实施的许多计算都是由多个简单分量部分组成的复合计算。执行每次分量运算可能微不足道，但是分量的数量可能是天文数字般大，导致复合计算绝非微不足道。事实上，从计算之初就可轻松处理的基本计算可以综合起来产生对于给定的应用而言相当棘手的复合计算。

机器学习算法领域，特别是人工神经网络(ANN)领域受到阻碍很大程度上是由于实现用于实例化ANN的传统算法所包含的计算复杂性。假设执行用于从声音文件中识别字词的给定ANN需要进行100亿次计算，即使这些分量计算中的每一个都可以在一微秒内执行，执行复合任务仍将花费超过150个小时。以这种速度操作语音识别技术实质上与完全不进行语音识别技术相同。机器智能应用如此耗费资源的原因是，要操作的数据结构通常非常大，并且必须在数据结构中的每一个上执行的离散原始计算的数量同样是巨大的。传统的ANN引入输入矢量，使用输入矢量和权重矢量的集合实施运算，然后产生输出矢量。权重矢量的集合中的每个权重矢量常常被称为网络的层，并且每一层的输出用作下一层的输入。在传统网络中，各层是完全连接的，这要求输入矢量的每个元素都与权重矢量中的每个元素一起参与运算。因此，所包含的运算的数量与每一层的大小呈幂律关系而增加。

最近对机器学习算法的兴趣激增最主要归因于对用来实施用于执行ANN的复合运算的硬件和软件上的改进，而不是新算法的开发。硬件和软件上的改进有各种形式。例如，传统上用来处理用于渲染计算机图形多边形的矢量的图形处理单元已经以有效方式重新利用于操纵机器智能处理中使用的数据元素。作为另一示例，已经从头开始设计了某些类别的硬件，以通过使用诸如脉动阵列(systolic array)的专用处理元件来实现机器智能算法。进一步的进展集中在使用晶体管和存储元件的集合直接在硬件中模仿传统ANN中神经元的行为。毫无疑问，机器智能领域从这些改进中受益匪浅。然而，尽管浓厚兴趣被投注于这些方法之上，但是机器智能系统仍然代表着现时代中计算量和能量密集度最高的计算应用之一，并且呈现出有待进一步发展的领域。

发明内容

公开了具有基于对操作的贡献估计来抑制那些操作的能力以提高核心的整体性能的处理核心。还公开了可以由这样的处理核心实施的相关方法。一种这样的方法包括生成用于复合计算的参考值。复合计算的完整执行生成精确的输出并且需要执行分量计算集合。该方法还包括针对分量计算集合中的分量计算生成分量计算近似值。该方法还包括利用参考值评估分量计算近似值。该方法还包括执行复合计算的部分执行以产生估计的输出。复合计算的部分执行使用分量计算近似值。该方法还包括基于利用参考值对分量计算近似值的评估，在执行部分执行的同时抑制分量计算。

根据本公开的处理核心可以实施的另一种方法包括将用于复合计算的参考值存储在存储器中。复合计算的完整执行生成精确的输出并且需要执行分量计算集合。该方法还包括针对分量计算集合中的分量计算生成分量计算近似值。该方法还包括利用参考值评估分量计算近似值。该方法还包括执行复合计算的部分执行以产生估计的输出。复合计算的部分执行使用分量计算近似值。该方法还包括基于利用参考值对分量计算近似值的评估，在执行部分执行的同时抑制分量计算。