[发明专利]高效的多线程并行计算处理器数据缓存的设计方法和装置

权利要求书

1.一种高效的多线程并行计算处理器数据缓存的设计方法，其特征在于，包括以下步骤：

步骤1，线程的划分步骤；每个时钟周期把多个线程按数据地址划分到不同bank上，然后同时发送多个线程的LS指令及其线程ID到数据缓存处理步骤；

步骤2，数据缓存处理步骤；先进行TAG比对，看线程是否能命中，如果线程命中的话，缓存下个时钟周期同时返回多个线程的数据，如果线程不全命中的话，则将不命中的信号分别发送到线程的划分步骤和线程管理步骤进行处理，随后把没有命中的访问地址及其线程ID压入MISS FIFO中，处理MISS FIFO中的每个地址，处理完毕后唤醒对应的线程；

步骤3，线程管理步骤；根据步骤2的不命中信号对同时钟周期对应的线程进行切换，把时钟周期对应的线程都切换出硬件流水线，同时把满足执行条件的待处理线程切换到硬件执行。

2.根据权利要求1所述的设计方法，其特征在于，在所述步骤1中，如果各线程的访问地址不能划分到不同bank的话，则需要额外的时钟周期去处理bank conflict，该额外时钟周期对并行数据处理器不可见。

3.根据权利要求1所述的设计方法，其特征在于，在所述步骤2中，还包括：

步骤20，先进行TAG比对，看线程是否能命中，如果线程都命中的话，则同时钟周期写入线程的数据，或下一个时钟周期返回线程的所有访问数据；如果不全命中的话，则同时钟周期发送不命中信号到线程的划分步骤和线程管理步骤进行处理，随后会把没有命中的访问地址及其线程ID都压入MISS FIFO中去，等待并处理相应缓存请求；

步骤21，从MISS FIFO中读出相应的信息，然后从外部DDR中请求回相应的Cache line数据，如果数据缓存中有空闲entry的话，则直接更新数据缓存，若缓存都有有效数据的话，按照RoundRobin的规律找出下一个entry，如果数据需要回写，先执行回写操作，之后再更新数据缓存。

4.根据权利要求3所述的设计方法，其特征在于，在所述步骤20中，TAG的组织不进行bank划分，直接全相连设计，且最小容量不小于并行数据处理器支持的硬件多线程的总线程数。

5.根据权利要求3所述的设计方法，其特征在于，在所述步骤21中，当数据更新回缓存时或者MISS FIFO读出来的请求在之前其它线程的请求中刚好已处理，会发送信号到步骤3，告知其对应的线程所需要的数据已准备好，该线程可以重新切换回准备状态。

6.一种高效的多线程并行计算处理器数据缓存的设计装置，其特征在于，包括：

LS存储单元(1)：用于每个时钟周期把多个线程按数据地址划分到不同bank上，然后同时发送多个线程的LS指令及其线程ID给数据缓存单元(2)；

数据缓存单元(2)：用于进行TAG比对，看线程是否能命中；如果线程命中的话，缓存下个时钟周期同时返回多个线程的数据，如果线程不全命中的话，则将不命中的信号分别发送到LS存储单元(1)和线程管理单元(3)，随后把没有命中的访问地址及其线程ID压入MISSFIFO中，处理MISS FIFO中的每个地址，处理完毕后唤醒对应的线程；

线程管理单元(3)：用于根据数据缓存单元(2)的不命中信号对同时钟周期对应的线程进行切换，即把时钟周期对应的线程都切换出硬件流水线，同时把满足执行条件的待处理线程切换到硬件执行。

7.根据权利要求6所述的设计装置，其特征在于：在所述LS存储单元(1)中，如果各线程的访问地址不能划分到不同bank的话，则需要额外的时钟周期去处理bank conflict，该额外时钟周期对并行数据处理器不可见。