[发明专利]可重新配置专用计算机加速器

说明书

用于计算机的可重新配置硬件加速器将高速数据流处理器与流处理器相结合，高速数据流处理器具有在可编程开关的网络中快速重新配置的可编程功能单元，流处理器可以在接收简单的流指令之后以预定义访问模式自主访问存储器。结果是可以利用与易被加速的许多专用程序相关联的并行性的紧凑高速的处理器。

关于联邦政府资助研究或开发的声明

相关申请的交叉引用

本申请要求于2017年1月26日提交的美国非临时申请15/416,670的权益，并且通过引用将其并入本文。

背景技术

本发明涉及电子计算机架构，并且特别地涉及可以针对不同应用重新配置的专用计算机加速器。

对提高计算机处理速度和提高能量效率的需求推动了数据并行架构的发展，例如，对于许多应用而言可以取代通用冯诺依曼体系结构(VonNeuman)型处理器的通用图形处理单元(GPGPU)机器以及单指令多数据(SIMD)机器。对于要求甚至更高的应用例如机器学习和计算机视觉，可以用专用加速器(例如，用于数据中心的微软弹射器FPGA加速器，以及用于分布式机器学习的谷歌张量处理单元)取代这些通用数据并行架构。这些专用加速器通常与通用高性能冯诺依曼体系结构处理器配合使用，例如，以实现包括乱序执行和推测执行的高级架构特征。

在这些专用加速器中使用的专用硬件不利地影响新处理算法的实现。这是因为在加速器的专用硬件上执行的新算法通常需要对新架构进行昂贵的重新设计和验证。另外，专用加速器的狭窄功能限制了专用加速器在必须实现多种应用的计算机系统中的价值。最后，就这样的专用加速器针对利基市场而言，专用加速器可能不会引起诸如促进这些架构的分析和改进的学术兴趣。

发明内容

本发明人已认识到，尽管专用加速器多种多样，但是专用加速器执行的软件存在某些共同特征。具体地，由专用加速器执行的软件往往具有简单的存储器和重用模式以及长阶段的高计算强度。这又表明，通过将可以自动处理简单存储器访问模式的流处理器与用于处理计算强度的快速有效的处理器结合，可以构造“通用”专用加速器。该后一处理要求可以通过适于快速重新配置的数据流处理器来满足。其结果是与专用加速器一样好同时避免了与专用硬件相关联的缺点的通用加速器。

因此，在一个实施方式中，本发明提供了一种可重新配置加速器架构，包括：(1)微控制器，其适于接收指令和数据以控制加速器的其他部件；(2)流处理器，其从微控制器接收指令，以根据选择的一组预定义存储器访问模式自主读取存储在存储器中的多个输入值，并且根据选择的一组预定义存储器访问模式将多个输出值从加速器自主写入存储器；以及(3)可重新配置数据流处理器，其由微控制器配置以接收多个输入值以基于该配置提供输出值。

因此，本发明的至少一个实施方式的特征是在可以实现许多专用加速器的功能的可重新配置加速器中实现固定专用加速器的公共功能。当前模拟表明，本发明的架构可以匹配专用加速器的性能，在功耗和电路面积可容许地小幅增加的情况下提供通用性的优点。

可重新配置数据流处理器可以在接收输入值的输入端口与提供输出值的输出端口之间的网格中提供与功能单元互连的一组可编程开关，功能单元提供可选择的多个算术功能，网格提供由开关编程确定的从输入端口通过功能单元到输出端口的路径。

因此，本发明的至少一个实施方式的特征是提供高速数据流处理器，其速度与固定用途加速器的速度相当，并且还可以例如通过使用设置开关和配置功能单元的映像文件快速地重新再编程。

网格可以提供开关与功能单元之间的直接互连以及开关之间的直接互连。

因此，本发明的至少一个实施方式的特征是提供通用网格，其可以与功能单元互连以及绕过功能单元。

网格可以在开关之间以及开关与功能单元之间提供至少32个并行数据线，例如多达64个并行数据线。