[发明专利]一种动态调整数据流架构的资源带宽的计算系统及其方法

说明书

本发明公开一种动态调整数据流架构的资源带宽计算方法及其系统，包括：数据流架构中的指令发射机制，在指令发射逻辑当中增加如下功能：定点运算计数器、浮点运算计数器、带宽调整计数器、带宽预测器，用于计算定点与浮点的指令数，计算带宽调整指令数，并发射相应的指令到运算单元。运算单元，采用组合运算单元，在数据通路上可以做到定点运算和浮点运算的共用，其调整的控制点为指令发射逻辑；可根据指令发射逻辑发射的指令增加定点流水量带宽、减少浮点流水线的带宽或减少定点流水量带宽、增加浮点流水线的带宽，调整带宽分配比例。统计周期，设定粒度N，N为自然数，以N个时钟周期为一个计算小周期。

技术领域

本发明涉及计算机应用技术领域，特别是涉及高性能计算的领域。

背景技术

随着计算机体系结构的发展，领域专用的计算机体系结构成为主要发展趋势。在面向特定应用时，专用型结构利用应用特征对结构进行相应的优化，从而更好地发挥出硬件的计算性能。在高性能计算领域，数据流计算是领域专用计算结构的一个重要分支，数据流计算表现出了较好的性能和适用性。

数据流架构通常都包括若干个或者十几个计算节点，每个计算节点都是运算能力较强但是控制能力较弱、复杂度较小的核心。每个核心当中设置固定个数的运算单元：X个定点运算单元和Y个浮点运算单元，每个定点运算单元对应一条定点运算流水线，每个浮点运算单元对应一条浮点运算流水线。在每个时钟周期，每条流水线都会从所有准备好的指令当中选择一条指令进入到对应的流水线执行。不同的负载应用当中的浮点指令和定点指令的比例都不尽相同，某些负载当中可能浮点指令的比例更大，那么这类负载对浮点运算的带宽需求将更大；而某些负载当中可能定点指令的比例更大，那么这种负载对定点运算的带宽需求将更大。

在传统数据流架构当中，任意一个节点内部的指令发射机制如图1所示。在数据流架构的任意一个节点内部，指令队列101用于保存指令的实时的执行信息，指令发射逻辑用于选择指令并且发射到对应的运算单元当中。在图1的例子中，设置了3个运算单元，分别是2个定点运算单元103、104和1个浮点运算单元105。指令发射逻102辑根据指令队列当中每条指令的状态是否准备好，以及每个运算单元是否能够接收并执行新的指令，把指令队列101当中的指令分配到执行单元去执行。定点运算单元103、104当中的执行流水线叫做定点流水线，浮点运算单元105当中的执行流水线叫做浮点流水线。通常定点流水线的长度是1-2个流水级，浮点流水线的长度是4-6个流水级(流水线的级数和具体的实现方式有关系)，该例子当中认为定点流水线都是1个流水级，浮点流水线是4个流水级。采用这种传统方式发射指令的话，如果一个应用当中的定点指令的比例较少反之浮点指令较多的话，那么会产生这样的情况:其中一个定点运算单元(比如103或者104)的计算流水线较为空闲,而浮点流水线105的带宽较为紧张。在这种结构下，相当于定点运算带宽和浮点运算带宽的硬件都是固定的，没有任何能够进行调整的余地，而带宽紧张的流水线，其执行效率将有可能成为执行效率的瓶颈。

发明内容

本发明针对传统设计不能根据实际负载特性调整计算带宽的问题，提出了能够根据负载的特性，动态调整定点和浮点运算的带宽以适应负载的特点，达到最佳的运算性能的方法和系统机制。具体技术方案如下：

一种动态调整数据流架构的资源带宽的计算系统，包括：

指令发射单元，包括定点运算计数器、浮点运算计数器、带宽统计器和带宽调整计数器；其中所述定点运算计数器用于计算在N个时钟周期中进入定点流水线的有效指令数；所述浮点运算计数器用于计算在N个时钟周期中进入浮点流水线的有效指令数；所述带宽统计器用于统计在过去的多组N个时钟周期内的的历史行为，是定点带宽需求更大还是浮点带宽需求更大；所述带宽调整计数器用于根据所述带宽统计器的数值调整运算单元当中定点计算和浮点计算的执行比例；