[发明专利]用于数据加速处理的系统、板卡和电子设备

说明书

本公开涉及一种用于数据加速处理的系统、计算装置、板卡和电子设备，其中计算装置可以包括在组合处理装置中，该组合处理装置还可以包括通用互联接口和其他处理装置。所述计算装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与计算装置和其他处理装置连接，用于计算装置和其他处理装置的数据。本公开的方案能够适用于各种电子设备。

技术领域

本公开涉及数据处理领域，更具体地，涉及数据处理的系统架构。

背景技术

传统服务器主要以CPU作为算力提供者。而CPU为通用型处理器，采用串行架构，擅长逻辑计算，负责不同类型的数据处理及存取，同时逻辑判断又需要引入大量分支跳转中断处理，这使得CPU的内部结构复杂。由此，CPU算力的提升主要靠提高内核的数量来实现。

随着云计算、大数据、人工智能(AI)、物联网等技术应用，数据在近几年呈指数型增长，IDC统计显示全球90％数据均在近几年产生，这就对CPU的处理能力提出考验。而目前CPU的物理工艺、核心数已接近极限，数据量却不会停止，服务器的处理能力必须提升。因此，在AI时代下，仅由CPU做算力提供者的传统服务器并不能满足需求。

不同于CPU，GPU/TPU/ASIC等采用并行计算模式，单卡核心数达到上千个，擅长处理密集型运算应用，如图形渲染、计算视觉和机器学习。因此，为了解决CPU算力不足的问题，一种常见的做法是在CPU的扩展PCIE卡槽上插入专用的加速卡，将大量的数据运算工作交给加速卡去处理，减轻了CPU的负担，从而显著提高传统服务器的性能。

上述做法可以提升传统服务器的计算性能，但受限于CPU扩展出的PCIE槽位数，在数据处理量暴增的情况下可能无法支持插入足够数量的加速卡来满足算力的要求。而且多张加速卡都是挂在同一个CPU的PCIE总线上，资源无法灵活配置。

发明内容

本公开的目的在于克服现有技术中加速卡无法被灵活调度的缺陷，提供一种能够对计算资源进行灵活配置的技术方案。

根据本公开的第一方面，提供一种用于数据加速处理的系统，包括：数据交换单元100和加速处理单元200，其中，所述数据交换单元100配置为与外部主机可通信地连接；所述加速处理单元200配置为与所述数据交换单元100可通信地连接，以对来自所述数据交换单元100的数据进行处理，其中，所述加速处理单元200能够被调度以满足不同处理能力的需要。

根据本公开的第二方面，提供一种板卡，包括如上所述的系统。

根据本公开第三方面，提供一种电子设备，包括如上所述的系统或者如上所述的板卡。

本公开的技术方案可以保证有足够的计算资源来满足算力的要求。而且只需要占用传统服务器一个PCIE卡槽，克服了传统服务器PCIE槽位受限的问题。

附图说明

通过参考附图阅读下文的详细描述，本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本公开的若干实施方式，并且相同或对应的标号表示相同或对应的部分其中：

图1示出了根据本公开的一个实施方式的用于数据加速处理的系统的示意性框图；

图2示出了根据本发明一个实施方式的用于数据加速处理的系统的示意性框图；

图3示出了根据本发明一个实施方式的用于数据加速处理的系统的示意性框图；

图4示出了根据本发明一个实施方式的用于数据加速处理的系统的示意性框图；

图5示出了根据本发明一个实施方式的用于数据加速处理的系统的示意性框图；

图6示出了根据本公开的一个实施方式的PCIE交换机以级联连接的示意图；