[发明专利]确定网络的性能参数值的方法、装置、设备及介质

权利要求书

1.一种确定网络的性能参数值的方法，其特征在于，所述方法包括：

将多个网络模块分别与原始网络进行组合，得到所述原始网络的多个子网络，其中，一个网络模块用于实现一种类型的数据处理操作；

对所述多个子网络交替训练多次，以完成对所述原始网络的训练，其中，包括同一个网络模块的各个子网络之间共享该个网络模块的参数；

针对所述多个子网络中的任一子网络，根据该子网络包括的各个网络模块各自在所述原始网络的训练过程中的累积梯度值，确定该子网络的性能参数值。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

在所述原始网络的训练过程中，对所述多个网络模块各自在所述原始网络的训练过程中的累积梯度值进行统计，得到所述多个网络模块各自对应的累积梯度值序列；

针对所述多个子网络中的任一子网络，确定该子网络的性能参数值，包括：

将该子网络包括的每个网络模块对应的累积梯度值序列作为一行，以得到该子网络的累积梯度值矩阵；

对该子网络的累积梯度值矩阵进行处理，得到该子网络的性能参数值。

3.根据权利要求2所述的方法，其特征在于，在所述原始网络的训练过程中，每一次训练针对的子网络为所述多个子网络中的任一子网络；所述方法还包括：

以每一次训练针对的子网络为目标子网络，执行以下步骤：

利用训练样本，对所述目标子网络进行训练，得到所述目标子网络包括的各个网络模块各自的梯度值；

利用所述目标子网络包括的各个网络模块各自的梯度值，对所述多个网络模块中属于所述目标子网络的各个网络模块各自的累积梯度值进行更新；

在所述原始网络的训练过程中，得到所述多个网络模块中任一网络模块对应的累积梯度值序列，包括：

在所述原始网络的训练过程中，将该网络模块每次更新后的累积梯度值按照更新时间的先后顺次排列，得到所述多个网络模块各自对应的累积梯度值序列。

4.根据权利要求1-3任一所述的方法，其特征在于，针对所述原始网络中至少一组相邻原始网络模块相连的边，执行以下步骤：

为所述边配置所述多个网络模块分别对应的候选操作数；

从所述多个网络模块分别对应的候选操作数中采样所述边的一个目标操作数；

在所述边所连接的一组相邻原始网络模块之间增加所述目标候选操作数对应的网络模块。

5.根据权利要求1-3任一所述的方法，其特征在于，在确定所述多个子网络各自的性能参数值之后，所述方法还包括：

根据所述多个子网络各自的性能参数值，将所述多个子网络中的至少部分子网络确定为搜索空间；

以最大性能参数值为搜索目标，对所述搜索空间进行搜索，得到下一次搜索的搜索空间；

在满足预设搜索结束条件时，将搜索出的网络确定为目标网络。

6.根据权利要求5所述的方法，其特征在于，根据所述多个子网络各自的性能参数值，将所述多个子网络中的至少部分子网络确定为搜索空间，包括：

将所述多个子网络中性能参数值排序靠前的第一预设数量个子网络确定为搜索空间；

以最大性能参数值为搜索目标，对所述搜索空间进行搜索，得到下一次搜索的搜索空间，包括：

从所述搜索空间中筛选性能参数值排序靠前的第二预设数量个子网络；

将所述第二预设数量个子网络确定为下一次搜索的搜索空间。

7.根据权利要求1-3任一所述的方法，其特征在于，在确定所述多个子网络各自的性能参数值之后，所述方法还包括：

将所述多个子网络中的至少部分子网络作为初始化种群，确定所述初始化种群中各个子网络各自的性能参数值；

从所述初始化种群中筛选性能参数值排序靠前的K个子网络；

对所述K个子网络进行交叉变异，得到新的种群，并确定新的种群中各个新网络各自的性能参数值；

执行以下步骤多次：从所述新的种群中筛选性能参数值排序靠前的K个新网络，对所述K个新网络进行交叉变异，得到新的种群，并确定新的种群中各个新网络各自的性能参数值，以得到目标网络。