[发明专利]一种多通道数据传输方法、装置和存储介质

说明书

本发明涉及一种多通道数据传输方法、装置和存储介质，方法包括以下步骤：将需要传输的数据划分为数据块，并将数据块按传输通道的带宽比例分配到不同的传输通道中；通过不同的传输通道对需要传输的数据进行环形通信。本发明的多通道数据传输方法，基于环形通信方法，建立了不同的环形通信环路，包括PCIE环形通信环路、NVSWITCH环形通信环路和PCIE+QPI环形通信环路，在现有技术的NVSWITCH环形通信环路基础之上增加了PCIE环形通信环路或者PCIE+QPI环形通信环路，增加了传输带宽，提升了数据传输速率。

技术领域

本发明涉及通信技术领域，尤其是指一种多通道数据传输方法、装置和存储介质。

背景技术

在现有的深度学习框架中，Nccl(NVIDIA Collective Communication Library，NVIDIA集体通信库)通信库占有统治性的地位，Horovod底层通信也是由Nccl完成。Nccl中主要采用的是环形通信方法可以有效的采用 Pipeline技术(流水线技术)，使其具有良好的扩展性，在大数据量传输时应用较多。

深度学习的大规模数据并行训练带来了越来越大的时间开销，在高速传输网络，硬件成本高昂的情况下，如何合理高效的利用低速网络传输也是我们要解决的问题。低速网络的低传输效率，已经逐渐成为了神经网络大规模训练的瓶颈。

发明内容

为了解决上述技术问题，本发明提供了一种多通道数据传输方法、装置和存储介质，可以增加传输带宽，可以提高GPU间的数据传输效率。

为实现上述目的，本申请提出第一技术方案：

一种多通道数据传输方法，包括以下步骤：

将需要传输的数据划分为数据块，并将所述数据块按传输通道的带宽比例分配到不同的传输通道中；

通过不同的传输通道对需要传输的数据进行环形通信；

其中，所述传输通道包括PCIE传输通道、NVSWITCH传输通道和PCIE+QPI传输通道。PCIE(peripheral component interconnect express)是一种高速串行计算机扩展总线标准，端到端的高速数据传输通道，PCIESWITCH是PCIE的交换芯片，PCIE依赖于PCIESWITCH进行链路拓扑。NVSWITCH是GPU之间的高速互联技术，支持不同的GPU之间进行高速互联；PCIE+QPI则是PCIE传输通道和QPI传输通道的组合通道。其中QPI，即，Quick PathInterconnect，又名CSI，Common System Interface公共系统接口，QPI是一种基于包传输的串行式高速点对点连接协议，采用差分信号与专门的时钟进行传输。

在本发明的一个实施例中，所述将需要传输的数据划分为数据块前，还包括：

确定需要进行数据传输的GPU；

确定GPU之间需要传输的数据。

在本发明的一个实施例中，所述将所述数据块按传输通道的带宽比例分配到不同的传输通道前，还包括：

执行数据传输的GPU之间建立PCIE环形通信环路和NVSWITCH环形通信环路；

其中，所述PCIE环形通信环路中的相邻两个GPU之间形成所述PCIE传输通道，所述NVSWITCH环形通信环路中的相邻两个GPU之间形成所述NVSWITCH传输通道。

在本发明的一个实施例中，所述执行数据传输的GPU之间建立PCIE环形通信环路和NVSWITCH环形通信环路，具体包括：

获取GPU的拓扑信息；

根据GPU的拓扑信息按照约束条件建立所述NVSWITCH环形通信环路；

清除GPU的拓扑信息和约束条件并建立所述PCIE环形通信环路。

在本发明的一个实施例中，所述建立所述PCIE环形通信环路，还包括：