[发明专利]一种流式数据流图关键路径的加速方法、加速系统、装置及芯片

说明书

本发明公开一种流式数据流图关键路径的加速方法、加速系统、装置及芯片，其中所述方法包括以下步骤：确定数据流中的关键节点；在所述关键节点之前增加前驱节点，在所述关键节点之后增加后继节点；复制关键节点形成多个关键子节点；待传输数据经过所述前驱节点后，选择其中一个可用的关键子节点，并经由选定的所述关键子节点从所述后继节点中输出所述待传输数据。本发明只对数据流图当中单个操作数存储空间进行优化，使得单个操作数存储空间当中的关键路径中的关键操作可以并行执行，从而缩短了数据流图中关键路径的执行时间，执行效率较传统结构有明显优势。

技术领域

本发明涉及数据流体系结构技术领域，特别涉及一种流式数据流体系结构关键路径的加速方法、加速系统、装置及芯片。

背景技术

当前超级计算领域首功耗限制在推向E级计算这一节点时遇到了巨大的阻力，数据流体系结构以其优秀的并行特点和性能功耗比再次获得了广泛的关注。数据流体系结构计算大规模的科学计算，首先需要使用数据流语言编写可在数据流体系结构中执行的程序；之后需要将数据流语言编写的程序翻译成数据流图，表明程序中模块之间的依赖关系以及指令之间的依赖关系；得到数据流图之后，需要将数据流图映射到物理的数据流处理单元上；最后需要计算的数据，以流的方式源源不断地注入数据流处理器中执行。数据流体系中的数据可以直接在指令之间传递，缓解了传统冯诺依曼结构中存在的指令相关和数据相关问题带来的时延和功耗问题，提高了指令的并行度。

数据流内核部分需要支持数据流指令到数据流图的正确映射，传统的映射方式是将数据流图中的操作(这里的操作，既可以指单条指令，也可以指多条顺序指令构成的指令集，可以使指令、模块、任务等粒度)与数据流图中的节点一一映射(一条操作只对应数据流图中的一个节点)。在一个数据流图当中，不同的节点的执行效率是不同的，在数据流图中常常存在着有相同后继节点的不同节点，例如加法操作节点中的2个操作数来自于不同的2个前驱节点(前驱节点可能是访存节点，也可能是其他的计算几点等)。由于节点之间的执行速率不同，那么存在节点中需要执行的源数据不能同时到达，而节点需要所有源数据到达之后才能够执行。那么节点的执行的开始时间取决于最晚到达节点源数据的时间，而数据流动慢的相互间存在依赖的节点集称之为关键路径。如图1所示，如果节点3较节点2执行速率慢，那么将路径1-3-4称之为关键路径。关键路径会造成数据流图中的节点的功能部件利用率低，并且也直接决定单个数据流图中的数据流图执行效率。

为了能够缓解数据流图中关键操作(关键路径上的低效率的操作)给程序带来的长延迟的影响，提高数据流图中节点中功能部件的执行效率，通常采用的方法是将整个数据流图复制多份，形成多个操作数存储空间，给数据提供了多条通路，使得程序中不同的操作数存储空间能够并行的执行，掩盖掉关键路径中的关键操作带来的延迟影响，如图1所示。但是使用复制多套数据流图的方法存在着以下2个关键问题：

1、复制多个操作数存储空间的方法并不能解决操作数存储空间中关键操作执行慢的问题。采用上面的方法，是给数据提供了多条可走的通路，但是对于每条通路而言，数据通路执行效率还是没有改变的。

2、采用多个操作数存储空间的方法会导致存储空间爆炸。采用这个方法，当关键操作的执行效率足够慢时，必须要足够多的储存空间来掩盖关键操作带来的延迟影响。而一个操作数存储空间为整个数据流图的物理存储空间，并且会对数据流处理器之间传输数据带来压力。当需要足够多的操作数存储空间时，会导致存储空间爆炸。

基于以上存在的问题，传统的加速关键路径操作的方法对硬件的要求巨大，而且并没有从根本上缓解单个操作数存储空间的关键路径的执行效率，需要一种在可接受的存储空间的范围内，对数据流图关键路径的加速方法。

发明内容

针对现有技术的不足，本发明提出一种加速数据流图关键路径的方法，系统及其装置。

本发明首先提供一种流式数据流图关键路径的加速方法，包括以下步骤：

确定数据流中的关键节点；