[发明专利]用于加速操作的方法和加速器装置

说明书

本公开涉及由加速器装置访问和处理数据的方法。所述方法包括：检索要由所述加速器装置处理的输入数据的至少一部分；将所述输入数据分割为多个相邻输入块，所述输入块具有预定大小；将所述多个相邻输入块中的至少一个输入块存储在所述加速器装置的数据缓冲器中；通过将输入窗口定位于存储在所述数据缓冲器中的多个相邻输入块中的所述至少一个输入块的数据元素上方，访问存储在所述数据缓冲器中的数据元素，以生成多个输入区域，其中，所述输入窗口能够根据一组参数进行调整；以及顺序地处理所述多个输入区域中的至少一个输入区域，以由所述加速器装置至少部分地处理所述多个相邻输入块中的所述至少一个输入块。加速器装置和相应的系统被公开。

技术领域

本发明涉及由加速器装置访问和处理数据的方法、加速器装置和系统。特别地，本发明可以涉及使用可调整输入窗口对相邻输入块进行操作的方法。

背景技术

由于计算技术的最新发展，大多数设备、机器或基础设施的操作完全依赖于基于计算机的各种输入数据处理和/或基于计算机的处理状态评估，以便生成适合于控制设备、机器或基础设施的信息。通常，这种处理和相应的决策制定需要大量复杂的计算任务或操作，但是，这些计算任务或操作通常属于相似的类型。虽然可以由诸如处理设备的CPU或核之类的通用处理单元执行所述任务或操作，各种用于加速此类任务或操作的专用硬件仍被提出。这种专用硬件通常称为加速器。

例如，已经提出了各种数学协处理器来加速数学运算，诸如对浮点数的运算等等。作为加速器的另一示例，已经提出了视频或图形加速器来加速图形或视频对象的处理和渲染。加速器通常包括专用于所需任务或操作以及相应的数据格式的专用硬件。

在图像处理、计算机视觉和人工智能的领域，已经提出了用于卷积操作的加速器。在许多人工智能方法中都需要卷积操作来对输入数据进行分析和分类以实现决策过程。由于这种处理通常响应于所拍摄的传感器数据而在相应设备上本地执行，因此卷积操作的实时处理已成为例如脸部识别、交通标志检测以及与监视、安全应用、自动驾驶等相关的其他任务中的关键问题。卷积神经网络(CNN)是应用在计算机视觉和人工智能中的使用卷积操作的一种技术示例。CNN将特征提取和分类组合在一个灵活的模型中，该模型可以通过更新处理参数来适应各种场景。

已经提出了几种CNN加速器，例如，由S.Chakradhar等人于2010年在ISCA中发表的“A Dynamically Configurable Coprocessor for Convolutional Neural Networks(用于卷积神经网络的动态可配置协处理器)”，以及C.Farabet等人于2011年在EmbeddedComputer Vision Workshop(嵌入式计算机视觉研讨会)中发表的“NeuFlow:A RuntimeReconfigurable Data Flow Processor for Vision(NeuFlow：面向视觉的运行时可重配置数据流处理器)”中提出的。这些CNN加速器将CNN的操作映射到专用硬件。但是，在大多数方法中，困难在于如何进行仲裁和路由以共享输入并将CNN的输出连接到其他资源。在各种应用场景中，加速器的处理效率可能因过多的数据传输和有限的带宽而大大降低，这可能会降低加速器的效率。M.Peemen等人于2013年在ICCD中发表的“Memory-centricAccelerator Design for Convolutional Neural Networks(用于卷积神经网络的以存储器为中心的加速器设计)”公开了一种用于卷积神经网络的以存储器为中心的加速器设计，该加速器具有可通过利用数据重用和存储器访问模式来解决带宽问题的存储器子系统。加速器经由快速单工链路(Fast Simplex Link)连接而耦接到外部存储器，所述连接被主机处理器用来使数据流入和流出加速器。