[发明专利]一种智能网卡及数据处理系统和方法

说明书

本发明公开了一种智能网卡及数据处理系统和方法，一种智能网卡，包括FPGA芯片，在智能网卡的FPGA芯片上增加一组NVLink接口，NVLink接口与设于智能网卡内的NVLink电缆接口连接器相连。一种数据处理系统，包括GPU和CPU，智能网卡的NVLink电缆接口连接器通过外部电缆与GPU的NVLink接口相连，GPU通过PCIE接口与CPU相连，CPU通过PCIE接口与智能网卡相连。本发明在智能网卡和GPU之间建立NVLink通道，实现网卡接收数据直接发往GPU运算，和GPU运算后的数据直接经网卡对外发送，在特定业务下减少了CPU的参与，增加了CPU的和服务器的利用效率。

技术领域

本发明涉及一种智能网卡及数据处理系统和方法。

背景技术

Smart NIC即智能网卡，其核心是通过FPGA(现场可编程门阵列)协助CPU处理网络负载，编程网络接口功能，具有以下特征：

通过FPGA本地化编程支持数据面和控制面功能定制，协助CPU处理网络负载；

支持快速转发数据并基于网络数据包、应用程序套接字等智能映射到到相关应用程序；

支持检测和管理网络流量。

GPU就是能够从硬件上支持几何处理的显示芯片。GPU具有如下特点：

1、提供了多核并行计算的基础结构，且核心数非常多，可以支撑大量数据的并行计算。

2、更高的浮点运算能力。浮点运算能力是关系到处理器的多媒体、3D图形处理的一个重要指标。

GPU加速计算是指同时利用图形处理器，加快科学、分析、工程、消费和企业应用程序的运行速度，将应用程序计算密集部分的工作负载转移到GPU。

NVLink，是英伟达(NVIDIA)开发并推出的一种总线及其通信协议。NVLink采用点对点结构、串列传输，用于中央处理器(CPU)与图形处理器(GPU)之间的连接，也可用于多个图形处理器之间的相互连接。

如图1所示，当前智能网卡和GPU之间没有直接相连的通道，各自通过PCIE接口与CPU相连。从智能网卡输入的数据需要经过CPU后才能转交至GPU处理。

发明内容

本发明要解决的技术问题是提出一种智能网卡及数据处理系统和方法，目的在于增加智能网卡至GPU之间的物理通道，将超出智能网卡处理能力的密集计算数据可以直接传递至GPU处理，例如网络上的视频处理等相关业务，或者把经GPU处理后可以直接发送至网络接口的数据绕过CPU，以便增强这些场景下的智能网卡+GPU的处理效率并减小延迟，减少CPU的资源消耗以及PCIE带宽的占用，提升服务器整体性能。

为了解决上述技术问题，本发明一方面提供了一种智能网卡，包括FPGA芯片，在智能网卡的FPGA芯片上增加一组NVLink接口，NVLink接口与设于智能网卡内的NVLink电缆接口连接器相连。

本发明另一发面还提供了一种数据处理系统，包括GPU和CPU，智能网卡的NVLink电缆接口连接器通过外部电缆与GPU的NVLink接口相连，GPU通过PCIE接口与CPU相连，CPU通过PCIE接口与智能网卡相连。

本发明另一发面还提供了一种数据处理方法，包括以下步骤：

数据首次从网络接口发送到智能网卡，智能网卡发送给CPU；

CPU对数据进行识别，若是数据需要先交由GPU处理，则转交GPU进行处理，GPU处理后数据返回CPU；

对该类数据进行备案，再有此类数据，则智能网卡直接转发到GPU处理。

进一步地，所述转交GPU进行处理具体包括：CPU将数据和处理规则通过GPU的PCIE接口转交GPU处理。