[发明专利]片上数据交换的滚轮仲裁方法及电路

说明书

本发明公开了一种片上数据交换的滚轮仲裁方法，基于N输入端口N输出端口的的NxN交叉网络，包括以下步骤：S1、确定优先仲裁排列；S2、判断排列中各预期传输对是否有传输需求，是则确定为实际传输对，确定的实际传输对立即进行数据传输；否则认定为非传输对；S3、进行顺序的行/列或列/行仲裁，选择优先级高的交换点作为实际传输对；S4、步骤S3轮询完毕后，优先仲裁排列滚动获得新的仲裁排列；S5、循环进行S2‑S4。此种方法可以提高片上数据交换效率和速度，特别适合人工智能和大数据处理芯片，尤其是SIMT架构的芯片。此种方法属于芯片设计、片上网络、片上系统、和计算机体系结构。

技术领域

本发明涉及芯片设计、片上网络、片上系统、和计算机体系结构领域，尤其是一种片上数据交换网络的滚轮调度方法和电路实现。此种方法可以提高片上数据交换效率和速度，特别适合人工智能和大数据处理芯片，尤其是SIMT架构的芯片。

背景技术

机器学习、科学计算和图形渲染需要巨大的计算能力，一般由大型芯片(如GPU、TPU、APU等)提供这样的算力，来实现高度复杂的机器学习任务和图形处理任务。用机器学习来做识别需要巨大的深度(Deep Learning)网络和海量的图像数据，训练过程非常耗时；一个三维应用或游戏场景中,若采用递归光追踪(Recursive Ray-Tracing)渲染,且场景复杂,则需要做海量运算，也需要传递海量数据。这就要求极高的计算性能，也因此需要极宽的数据交换带宽来支持这样的需求。高性能的片上交换器就成了AI和GPU芯片的重要组成部件。

对于AI和图形计算这类特定场景，片上缓存和数据交换的仲裁方法非常重要。效率低的仲裁(arbitration)方法和仲裁器(arbiter)设计会成为系统的瓶颈，极大影响系统的性能。因此，仲裁方法和仲裁器电路必须实现高性能和低复杂度。

网络交换器中的仲裁方法研究有悠久的历史，特别是在互联网快速发展阶段的研究成果众多。Jonathan Chao的著作《High Performance Switches and Routers》(Wiley-IEEE Press，2007)和George Varghese的著作《Network Algorithmics,:AnInterdisciplinary Approach to Designing Fast Networked Devices》(MorganKaufmann,2004)对这些做了综述和各种方法的叙述。虚拟输出排队(Virtual OutputQueue-VOQ)交换器是典型的数据交换方式，这方面的研究成果颇丰。

这方面的重要成果包括PIM、RRM、iSLIP、DRRM以及GA这几类方法。

其中，PIM由于每次选择是随机的，且需要三个步骤，存在公平性和复杂性的问题。

而RRM和iSLIP采用优先级轮询仲裁比随机仲裁逻辑更简单，iSLIP又对grant指针跳转条件做了改进，公平性有了改善，但还是需要三个步骤，使得同样存在复杂性问题，很难实现高速电路。

DRRM在输入和输出有两个独立的轮询仲裁机制执仲裁，比iSLIP方案的仲裁时间更短，同时实现了和iSLIP相当的性能；GA则在DRRM的基础上将输出端口的Grant信息给输入端口，虽然提高了仲裁效率但复杂性比DRRM增加了更多。由于复杂度随着端口增加而指数增长(N3logN)，DDRM和GA随着端口增加很难在高速电路上实现两次以上的迭代仲裁。

发明内容

本发明针对背景技术中存在的问题，提出了一种片上数据交换网络的滚轮调度方法和电路实现。

本发明首先公开了一种片上数据交换的滚轮仲裁方法，基于N输入端口N输出端口的的NxN交叉网络，1个输入端口对应的所有输出端口为一行，1个输出端口对应的所有输入端口为一列，每个输入输出交换点为一个传输对；它包括以下步骤：