[发明专利]一种数据流架构中网络数据流量不平衡的检测及调整方法

说明书

本发明公开了一种数据流架构中网络数据流量不平衡的检测及调整方法，用于对一片上网络的缓存资源进行动态重分配，片上网络中具有多个路由器，每一路由器至少具有一个路由器接口，每一路由器接口均对应一缓存空间Buffer，在每一路由器的内部均设置至少一组预测装置，每一组预测装置分别包括一个一级预测器和四个二级预测器，在一个时钟周期内，每一组预测装置分别统计其对应的两个路由器接口在第一方向的待处理数据包总量和在第二方向的待处理数据包总量，并控制一级预测器和四个二级预测器的状态进行跳转，根据一级预测器和四个二级预测器跳转后的状态，控制缓存空间Buffer在第一方向和第二方向上重分配。本发明通过上述技术手段提高片上网络的执行效率。

技术领域

本发明涉及片上网络的流量控制领域，具体而言，涉及一种数据流架构中网络数据流量不平衡的检测及调整方法。

背景技术

随着计算机体系结构的发展，领域专用的计算机体系结构成为主要发展趋势。在面向特定应用时，专用型结构利用应用特征对结构进行相应的优化，从而更好地发挥出硬件的计算性能。在高性能计算领域，数据流计算是领域专用计算结构的一个重要分支，数据流计算表现出了较好的性能和适用性。数据流阵列通常包括多个计算节点(计算节点称为processing element，简称PE)，每个计算节点都是运算能力较强但是控制能力较弱、复杂度较小的核心。节点与节点之间通过片上网络进行连接，常用的结构是网格或者环状。每个计算节点内设置N个指令槽，每个指令槽内保存指令执行所需的操作数信息，当指令对应的所有源操作数都已经准备好同时该指令的下游也准备好接收结果数据的话，该指令就可以被指令调度逻辑选择进入到计算节点的执行流水线当中执行。

在数据流架构当中，一般都是通过指令映射算法将指令静态地映射到数据流执行阵列的各个计算节点上。通常，指令经过映射算法的计算之后被放入到数据流阵列当中，在实际的计算和执行过程中，指令的位置不再发生改变。在常用的指令映射算法中，操作数的延迟、PE内部的资源竞争是两个对性能贡献最大的因素。操作数延迟也可以叫做网络延迟，表示操作数从上游指令通过片上网络从上游节点传递到下游节点所需的延迟。在指令映射算法模型当中，根据生产者指令与消费者指令之间的距离来模拟操作数延迟这个因素。距离的计算方式与路由策略有关，比如如果采用的是最简单的X-Y路由，那么操作数延迟就等于X方向的距离差加上Y方向的距离差。数据流阵列当中的每个PE最主要的功能就是提供计算资源，包括浮点运算部件和定点运算部件。通常都是通过浮点效率来衡量数据流架构的性能。所以，要提高整个数据流阵列的数据吞吐率和计算效率，需要充分发挥阵列当中每个节点的运算能力。即分配到每个计算节点上的浮点指令和定点指令如果符合如下两个要求，有助于最大化发挥计算节点的运算性能：(1)浮点指令和定点指令的比例在每个计算节点上尽量均匀；(2)相关的浮点指令和定点指令尽量放在靠近的节点上，以加快运算数据的传递。

通常指令映射算法会把各个计算节点的负载均衡以及上游指令和下游指令之间的通信距离作为计算每条指令坐标的核心要素。负载均衡要素表示分配到每个计算节点上的定点和浮点运算的比例和相应的计算节点内部实际部件比例相一致，这样可以充分利用阵列当中每个节点的计算资源。通信距离要素表示上游指令和下游指令之间的距离尽量选择路由距离较短的路径。但是指令映射算法在静态映射指令的时候，不会考虑到连接计算节点的片上网络在各个方向上的数据包传输数量的均衡问题。

一般而言，在片上网络的边缘，呈现出非常有规律和明显的数据包在不同传输方向上的不均衡；此外在片上网络的中心部分，不同的应用也呈现出随机分布的不均衡。如图1所示为一片上网络示意图，其中，位于西北角的Router117当中，向东方向的数据包数量远多于向西方向的数据包，向南方向的数据包数量远多于向北方向的数据包数量，四个角上的Router都具备类似的特征。另外，位于东、西、南、北四条边的Router，数据包的方向不平衡也具备类似的特点。如果存在片上网络流量不平衡的情况，并且片上网络的所有Router仍然还采用平均一致的路由策略的话，那么对于图1的Router117而言，一方面将会导致向东方向和向南方向的出口非常繁忙，另一方面这种情况也会成为网络的瓶颈。

发明内容