[发明专利]用于神经网络处理器的片上通信系统

说明书

本公开提供了一种用于神经网络处理器的片上通信系统、处理设备以及用于在片上通信系统上进行操作的方法。该系统可以包括被配置为生成全局信号的集群管理器、以及与该集群管理器耦合的瓦片阵列中的多个瓦片单元，每个瓦片单元包括两个连接器以及在这两个连接器之间连接的节点。

相关申请的交叉引用

本申请基于2017年12月22日提交的美国临时申请No.62/610,127和2018年5月15日提交的美国专利申请No.15/980,685并要求其优先权，上述申请的全部内容通过引用合并于此。

背景技术

随着基于神经网络的深度学习应用(例如图像识别、语音/语言识别和机器翻译)呈指数增长，基于商品CPU/GPU的平台不再是合适计算基础来支持性能、功率效率和经济可扩展性方面不断增长的计算需求。开发神经网络处理器以加速基于神经网络的深度学习应用已在许多业务领域获得了重大关注，包括成熟的芯片制造商、初创公司以及大型互联网公司。

神经网络处理器的常规互连结构通常建立在路由器之上。路由器可以在给定的结构拓扑上支持任何类型的通信。例如，可以将路由器设计为包含用于所有类型的通信的功能模块，以及用于临时保存传入和传出分组的大量缓冲器。因此，用于所有类型的通信的功能模块和大量缓冲器会消耗大量片上资源，但是很大一部分功能模块和缓冲器无法用于神经网络处理。此外，常规的互连结构不支持有效的分区和隔离。

发明内容

本公开的实施例提供了一种用于人工神经网络处理器的片上通信系统。所述系统可包括：集群管理器，所述集群管理器被配置为生成全局信号；总线；以及经由所述总线与所述集群管理器通信地耦合的多个瓦片(tile)单元，其中，每个瓦片单元包括第一组连接器和至少一个节点，所述至少一个节点连接在所述第一组连接器的连接器之间，其中，所述至少一个节点被配置为获取所述全局信号。

本公开的实施例还提供了一种处理设备，所述处理设备经由第一端子通信地耦合到第一组连接器中的一个，并且经由第二端子通信地耦合到所述第一组连接器中的另一个。所述处理设备可包括：旁路总线，所述旁路总线连接在所述第一端子与所述第二端子之间，并被配置为在所述第一端子与所述第二端子之间传送数据信号；缓冲总线，所述缓冲总线连接在所述第一端子与所述第二端子之间，并被配置为缓冲所述数据信号；以及一个或多个多路复用器，所述一个或多个多路复用器被配置为根据模式信号启用所述旁路总线和所述缓冲总线之一。

本公开的实施例还提供了一种用于在片上通信系统上进行操作的方法。所述片上通信系统可包括集群管理器以及经由总线与所述集群管理器通信地耦合的瓦片阵列中的多个瓦片单元。所述方法可包括：接收任务；确定与所述集群管理器耦合的所述瓦片阵列的可用瓦片单元，其中，每个瓦片单元包括第一组连接器和连接在所述第一组连接器之间的至少一个节点；根据所述瓦片阵列的可用瓦片单元生成全局信号；以及基于所述全局信号将所述可用瓦片单元连接到环形拓扑中。

附图说明

在以下详细描述和附图中示出了本公开的实施例和各个方面。图中所示的各种特征未按比例绘制。

图1示出了根据本公开的实施例的示例性片上架构。

图2示出了根据本公开的实施例的示例性片上通信系统的框图。

图3A示出了根据本公开的实施例的示例性瓦片单元的框图。

图3B示出了根据本公开的实施例的片上通信系统的示例性节点的框图。

图3C示出了根据本公开的实施例的片上通信系统的示例性连接器的框图。

图4示出了根据本公开的实施例的示例性环形拓扑。

图5是根据本公开的实施例的示例性资源获取操作的流程图。

图6示出了根据本公开的实施例的示例性部分计算操作的流程图。