[发明专利]一种分布式异构加速平台通信方法、系统、设备及介质

说明书

本申请公开了一种分布式异构加速平台通信方法、系统、设备及介质。该方法包括：在启动协同加速任务后，分布式异构加速平台内的第一目标异构加速卡通过查询与所述协同加速任务对应的信息表，从所述分布式异构加速平台中确定出第二目标异构加速卡；通过所述第一目标异构加速卡根据预先定义的数据包格式生成目标数据包，并通过PCIE接口将所述目标数据包发送给所述第二目标异构加速卡；通过所述第二目标异构加速卡根据所述数据包格式解析所述目标数据包，并根据解析结果执行相应的读操作或写操作，以完成所述协同加速任务。能够实现多个异构加速卡之间自发的数据通信，提高分布式的异构加速计算的能力。

技术领域

本发明涉及计算机技术领域，特别涉及一种分布式异构加速平台通信方法、系统、设备及介质。

背景技术

目前，异构加速卡在数据中心被大量使用，例如，FPGA（Field Programmable GateArray，现场可编程逻辑门阵列）异构加速卡配有标准的PCIE（peripheral componentinterconnect express，是一种高速串行计算机扩展总线标准）接口、10G或者100G网络接口，用于构建分布式的异构加速平台。在诸如人工智能和高性能异构加速应用中，经常需要多块加速器板卡通过协作分工实现一个异构加速任务，因此，不同FPGA加速卡之间的通信与数据传输尤为重要。现有技术中，通常通过网络接口进行不同加速卡之间数据传输，但是使用网络接口存在诸如数据传输延迟大、网络丢包等问题，不能适应全部的场景。当前的各类加速卡的PCIE接口大多是用于与主机（Host）进行数据交互，而板卡之间使用物理上独立的高速自定义总线完成，对于在异构加速平台中如何利用PCIE接口进行不同的FPGA加速卡之间数据交互与通信，目前还停留在以CPU为主导中转的架构方案阶段，降低了异构加速卡间数据的传输效率。

发明内容

有鉴于此，本发明的目的在于提供一种分布式异构加速平台通信方法、系统、设备及介质，能够实现多个异构加速卡之间自发的数据通信，提高分布式的异构加速计算的能力。其具体方案如下：

第一方面，本申请公开了一种分布式异构加速平台通信方法，包括：

在启动协同加速任务后，分布式异构加速平台内的第一目标异构加速卡通过查询与所述协同加速任务对应的信息表，从所述分布式异构加速平台中确定出第二目标异构加速卡；

通过所述第一目标异构加速卡根据预先定义的数据包格式生成目标数据包，并通过PCIE接口将所述目标数据包发送给所述第二目标异构加速卡；

通过所述第二目标异构加速卡根据所述数据包格式解析所述目标数据包，并根据解析结果执行相应的读操作或写操作，以完成所述协同加速任务。

可选的，所述分布式异构加速平台内的第一目标异构加速卡通过查询与所述协同加速任务对应的信息表，从所述分布式异构加速平台中确定出第二目标异构加速卡之前，还包括：

根据所述协同加速任务对应的任务信息，为所述分布式异构加速平台内的每个异构加速卡配置各自的信息表；所述信息表包括板卡查找表和协同加速参数表；

在所述信息表配置完成后，向所述分布式异构加速平台发起协同加速任务启动命令。

可选的，为所述分布式异构加速平台内的每个异构加速卡配置板卡查找表，包括：

获取PCIE系统为每个所述异构加速卡分配的身份信息；所述身份信息包括总线号、设备号和功能号；

为所述分布式异构加速平台内的每个异构加速卡设置一个唯一标识号，基于所述身份信息和所述唯一标识号得到每个所述异构加速卡对应的参数信息；

基于所有所述异构加速卡对应的参数信息，为每个所述异构加速卡配置所述板卡查找表。

可选的，为所述分布式异构加速平台内的每个异构加速卡配置协同加速参数表，包括：