[发明专利]一种基于芯粒的数据处理的方法、装置、介质及设备

权利要求书

1.一种基于芯粒的数据处理的方法，其特征在于，包括：

获取芯粒阵列的阵列尺寸以及神经网络模型对应的有向无环图，所述芯粒阵列是由各芯粒组成的，所述有向无环图用于表示所述神经网络模型中的各算子的运算顺序；

根据所述芯粒阵列的阵列尺寸，构建各类算子的划分策略集合以及芯粒分配策略集合，所述划分策略集合是将算子的运算任务划分为各维度的运算任务的划分策略的集合；

通过广度优先搜索算法遍历所述神经网络模型对应的有向无环图，并在遍历过程中，对各算子对应的深度进行标记，其中，针对所述神经网络模型中的每个算子，当遍历到该算子时，若前序算子未被标记，则遍历下一个算子，若前序算子被标记，则根据前序算子的深度，对该算子的深度进行标记；

根据所述芯粒阵列的阵列尺寸，确定芯粒阵列的芯粒数量，针对每个深度，根据确定出的所述神经网络模型中的各算子在所述有向无环图中的深度，若该深度对应的并行运算组中的各算子的数量未超过所述芯粒数量，则将当前遍历到的算子加入该深度对应的并行运算组，若该深度对应的并行运算组中的各算子的数量超过所述芯粒数量，则创建该深度对应的额外并行运算组，将当前遍历到的算子加入该深度对应的额外并行运算组；将该深度对应的并行运算组中的各算子、该深度对应的额外并行运算组中的各算子以及该深度的下一深度对应的并行运算组中的各算子加入该深度对应的调度搜索模块；

针对每个调度搜索模块，根据所述各类算子的划分策略集合以及所述芯粒分配策略集合，确定该调度搜索模块对应的满足预设条件的各策略组合，并通过该调度搜索模块，计算该调度搜索模块中对应的各策略组合所需的运算开销，确定目标策略组合；

根据各调度搜索模块对应的目标策略组合，执行所述神经网络模型的运算任务。

2.如权利要求1所述的方法，其特征在于，所述预设条件包括：每个并行运算组已分配的芯粒数量与待分配的芯粒数量之和不大于所述芯粒阵列的芯粒数量；

每个并行运算组已分配的芯粒阵列的行数与待分配的芯粒阵列的行数之和不大于所述芯粒阵列的行数；

每个并行运算组已分配的芯粒阵列的列数与待分配的芯粒阵列的列数之和不大于所述芯粒阵列的列数。

3.如权利要求1所述的方法，其特征在于，针对每个调度搜索模块，根据各类算子的划分策略集合以及芯粒分配策略集合，确定该调度搜索模块对应的满足预设条件的各策略组合，具体包括：

针对每个深度对应的调度搜索模块，从该深度的上一深度对应的调度搜索模块中，获取该深度对应的并行运算组中的各算子的目标策略组合；

根据各类算子的划分策略集合以及芯粒分配策略集合，确定该深度的下一深度对应的并行运算组中的各算子的满足预设条件的各策略组合；

根据该深度对应的并行运算组中的各算子的目标策略组合，以及该深度的下一深度对应的并行运算组中的各算子的满足预设条件的各策略组合，确定该深度对应的调度搜索模块的满足预设条件的各策略组合。

4.如权利要求1所述的方法，其特征在于，通过该调度搜索模块，计算该调度搜索模块中对应的各策略组合所需的运算开销，确定目标策略组合，具体包括：

通过该调度搜索模块，计算该调度搜索模块中对应的各策略组合所需的各算子的运算开销、芯粒阵列中的路由转发延迟以及数据传输时长，确定目标策略组合。