[发明专利]一种基于自动集群神经网络芯片组的运算方法和装置

权利要求书

1.一种基于自动集群神经网络芯片组的运算装置，其特征在于，所述装置包括一个主芯片和多个从芯片，所述主芯片与每个从芯片连接；所述主芯片包括资源确定单元、网络参数确定单元、网络配置单元、第一处理单元、第一通信单元、结果获取单元；所述从芯片包括第二处理单元和第二通信单元；

所述资源确定单元用于获取所有从芯片的资源运算子信息，并将资源运算子信息与从芯片的标识信息对应存储；以及根据任务请求类型对应的神经网络结构参数，确定各个从芯片的资源运算子信息与神经网络运算之间的映射关系；所述网络参数确定单元用于根据接收到的任务请求类型，确定任务请求类型对应的神经网络结构，并确定该神经网络结构所需的资源运算总信息；

所述网络配置单元用于根据神经网络结构将资源运算总信息划分为若干资源运算子信息，确定执行神经网络运算的从芯片之间的运算顺序，生成第一配置信息；从芯片之间的运算顺序基于神经网络子层的连接顺序，每一从芯片进行一个神经网络子层的运算；

所述第一处理单元用于通过第一通信单元将第一配置信息发送给所有从芯片，以及获取待运算的数据，并将待运算的数据发送给第一从芯片，所述第一从芯片为第一配置信息中运算顺序排名最靠前的从芯片；

第一从芯片的第二通信单元用于接收第一配置信息以及待运算的数据，第一从芯片的第二处理单元用于采用第一从芯片对应的资源运算子信息对待运算的数据进行运算，得到第一运算结果；

S1：下一个运算顺序的从芯片的第二通信单元用于获取第一运算结果，下一个运算顺序的从芯片的第二处理单元用于对第一运算结果进行运算，得到第二运算结果；重复步骤S1，直至神经网络运算完成；

所述结果获取单元用于从运算顺序排名最靠后的从芯片获取最终生成的运算结果并存储；

资源确定单元包括资源搜索单元、资源评估单元、资源定义单元、资源列表存储单元、资源定义存储单元；所述资源搜索单元与资源评估单元连接，所述资源评估单元与资源列表存储单元连接，所述资源列表存储单元与资源定义单元连接，所述资源定义单元与资源定义存储单元连接；

所述资源搜索单元用于搜索与主芯片相连接的各个从芯片的资源运算子信息；

所述资源评估单元用于将搜索得到的将资源运算子信息与从芯片的标识信息对应存储于资源列表存储单元中；

所述资源定义单元用于根据任务请求类型对应的神经网络结构参数，确定各个从芯片的资源运算子信息与神经网络运算之间的映射关系，并将映射关系和从芯片的标识信息对应存储于资源定义存储单元中；

所述装置还包括初始值存储单元、误差计算单元、反向回写单元、参数缓存单元；所述初始值存储单元用于存储任务请求对应的神经网络结构的各个参数元素的初始值；

所述第一处理单元用于获取测试数据，根据初始值存储单元中各个参数元素的配置初始值构建神经网络结构并进行神经网络计算，所述误差计算单元用于判断本次计算结果与真实信息的匹配度的误差是否小于预设误差，若是则判定为训练完成，第一处理单元用于将参数缓存单元中各个参数元素的参数值更新为当前的各个参数值；否则第一处理单元用于根据本次训练结果的匹配度相较于上一次训练结果的匹配度的差异，调整各个参数元素的配置参数值，并通过反向回写单元将调整后的参数值写入参数缓存单元中，以及根据调整后的参数值获取相应数量的各个参数元素，并再次进行神经网络计算，直至训练完成。

2.如权利要求1所述的自动集群神经网络芯片组的运算装置，其特征在于，从芯片之间的运算顺序根据以下规则确定：满足第一条件的从芯片的运算顺序越靠前，当满足第一条件的从芯片数量为多个，满足第二条件的从芯片的运算顺序越靠前；所述第一条件是指资源运算子信息满足当前神经网络子层的运算需求，所述第二条件是指与主芯片之间的网络延时最小。

3.如权利要求1所述的自动集群神经网络芯片组的运算装置，其特征在于，所述装置包括WIFI通信单元和初始值配置查询单元；所述初始值配置查询单元通过WIFI通信单元与互联网连接；

所述初始值配置查询单元用于在未从初始值存储单元中查询到任务请求对应的神经网络结构的各个参数元素的初始值时，通过WIFI通信单元从互联网中搜索任务请求所需的神经网络结构配置参数初始值，并在搜索到需要的神经网络结构配置参数初始值后，将其存储于初始值存储单元中。