[发明专利]一种基于自动集群神经网络芯片组的运算方法和装置

说明书

本发明提供了一种基于自动集群神经网络芯片组的运算方法和装置，所述装置包括一个主芯片和多个从芯片，所述主芯片与每个从芯片连接。主芯片负责记录各个从芯片的运算资源信息，以及将接收到的任务请求对应的神经网络结构所需的资源运算总信息映射至各个从芯片上，确定执行神经网络运算的从芯片之间的运算顺序。而后将待运算的数据发送给第一从芯片进行运算，第一从芯片再将计算好的数据发送给下一顺序的从芯片进行运算，直至神经网络运算完成，主芯片从运算顺序排名最靠后的从芯片获取最终生成的运算结果并存储。上述方法采用集群化思想，将同一网络中不同设备整合起来应用于某一神经网络运算，有效提高了神经网络运算能力。

技术领域

本发明涉及神经网络芯片电路领域，特别涉及一种基于自动集群神经网络芯片组的运算方法和装置。

背景技术

随着人工智能产业的兴起,深度学习芯片也在快速发展。当前，深度学习芯片的性能依赖于运算硬件支持和众多神经元的输入。目前，受制于成本、技术等因素影响，大型专用加速服务器数量较少,训练原料通常只能是人工分类带标签的信息,这就造成人工智能电路的运算能力和信息获取受到极大限制。同时，散落在互联网上的联网设备极多且各具特色，如果能将这些设备汇总起来，一起完成神经网络运算，那么集群运算能力将是非常巨大的，信息源也会变得十分丰富。

发明内容

为此，需要提供一种基于自动集群神经网络芯片组的技术方案，用以解决现有的神经网络运算基于单一设备进行，算力有限的问题。

为实现上述目的，发明人提供了一种基于自动集群神经网络芯片组的运算装置，所述装置包括一个主芯片和多个从芯片，所述主芯片与每个从芯片连接；所述主芯片包括资源确定单元、网络参数确定单元、网络配置单元、第一处理单元、第一通信单元、结果获取单元；所述从芯片包括第二处理单元和第二通信单元；

所述资源确定单元用于获取所有从芯片的资源运算子信息，并将资源运算子信息与从芯片的标识信息对应存储；以及根据任务请求类型对应的神经网络结构参数，确定各个从芯片的资源运算子信息与神经网络运算之间的映射关系；

所述网络参数确定单元用于根据接收到的任务请求类型，确定任务请求类型对应的神经网络结构，并确定该神经网络结构所需的资源运算总信息；

所述网络配置单元用于根据神经网络结构将资源运算总信息划分为若干资源运算子信息，确定执行神经网络运算的从芯片之间的运算顺序，生成第一配置信息；从芯片之间的运算顺序基于神经网络子层的连接顺序，每一从芯片进行一个神经网络子层的运算；

所述第一处理单元用于通过第一通信单元将第一配置信息发送给所有从芯片，以及获取待运算的数据，并将待运算的数据发送给第一从芯片，所述第一从芯片为第一配置信息中运算顺序排名最靠前的从芯片；

第一从芯片的第二通信单元用于接收第一配置信息以及待运算的数据，第一从芯片的第二处理单元用于采用第一从芯片对应的资源运算子信息对待运算的数据进行运算，得到第一运算结果；

下一个运算顺序的从芯片的第二通信单元用于获取第一运算结果，下一个运算顺序的从芯片的第二处理单元用于对第一运算结果进行运算，得到第二运算结果；重复上述步骤，直至神经网络运算完成；

所述结果获取单元用于从运算顺序排名最靠后的从芯片获取最终生成的运算结果并存储。

进一步地，资源确定单元包括资源搜索单元、资源评估单元、资源定义单元、资源列表存储单元、资源定义存储单元；所述资源搜索单元与资源评估单元连接，所述资源评估单元与资源列表存储单元连接，所述资源列表存储单元与资源定义单元连接，所述资源定义单元与资源定义存储单元连接；

所述资源搜索单元用于搜索与主芯片相连接的各个从芯片的资源运算子信息；

所述资源评估单元用于将搜索得到的将资源运算子信息与从芯片的标识信息对应存储于资源列表存储单元中；