[发明专利]一种基于半监督性能预测器的多目标神经架构搜索方法

权利要求书

1.一种基于半监督性能预测器的多目标神经架构搜索方法，其特征在于，包括以下步骤：

S1：对搜索空间进行编码，将搜索空间中的操作映射为整数，形成样本；

S2：在样本中随机采样N个神经网络结构并获取其精度以作为初始样本P，进入遗传算法例程前训练两个集成KNN回归模型作为初始半监督预测器；

S3：初始样本P产生候选种群P₁，并通过半监督预测器预测其精度及计算其置信度，将候选种群P₁作为真正的初始种群P₀，得到P₀训练性能预测器；

S4：将父代种群P_t交叉和变异，得到交叉变异子种群P”，P₀训练性能预测器将父代种群P_t和交叉变异子种群P”混合并非支配排序；

S5：根据非支配排序结果，将支配等级低的个体云涌多目标选择发优先选择置信度高的个体加入新一代种群P_t+1，直到新一代种群P_t+1的数量等于种群数量N，到此完成搜索。

2.根据权利要求1所述的一种基于半监督性能预测器的多目标神经架构搜索方法，其特征在于，在步骤S1中，所述搜索空间为所有编码后的架构组成的空间。

3.根据权利要求2所述的一种基于半监督性能预测器的多目标神经架构搜索方法，其特征在于，所述搜索空间包括五个功能层，为1×1卷积、3×3卷积、3×3平均池、跳过连接和零。

4.根据权利要求2所述的一种基于半监督性能预测器的多目标神经架构搜索方法，其特征在于，在步骤S2中，训练集成KNN回归模型包括以下步骤：

S21：设定训练数据大小为M，集成模型的子模型的总数量N，数据维度为D，同时设定基础模型参数：近邻数量k，距离计算参数分别为p₁、p₂；

S22：取m个数据mM,取d个维度dD，构成小训练样本，根据设定的KNN集成模型的近邻数量k和距离计算参数p₁，p₂训练子模型，最后训练得到N个子回归模型；

S23：N个子模型分别对无标记数据进行预测，并将预测结果取平均值，将此平均值作为集成模型的预测结果。

5.根据权利要求4所述的一种基于半监督性能预测器的多目标神经架构搜索方法，其特征在于，在步骤S3中，包括以下步骤：

S31：随机采样N个神经架构并对其进行编码，训练获得其精度；

S32：将N个编码后的神经架构作为训练样本训练EnKNN1和EnKNN2两个回归模型；

S33：产生N个候选样本，EnKNN1和EnKNN2预测候选样本的精度，并预测提升的精读：

S34：若EnKNN1预测样本的最大预测提升大于0，则将具有最大预测提升的样本及其预测精度作为EnKNN2的新训练样本；若EnKNN1预测样本的最大预测提升小于等于0，则没有训练样本被作为预测样本；EnKNN2执行同样的操作；同时将被预测样本从候选样本中删除；

S35：如果EnKNN1的训练样本有增加，则用新训练样本重新训练EnKNN1；如果EnKNN2的训练样本有增加，则用新训练样本重新训练EnKNN2；

S36：当EnKNN1的训练样本有增加时，用EnKNN2计算EnKNN1的新增训练样本的置信度，同时用EnKNN1计算EnKNN2的新增训练样本的置信度；

S37：循环S34、S35、S36，如果P个候选样本都被作为训练样本分别加入EnKNN1和ENKNN2，则P个样本都得到预测，此性能预测器被截断，不再进行预测；如果EnKNN1和ENKNN2的所有预测样本的预测提升都小于0，则这组样本的预测误差大，强制截断此性能预测器；

S38：输出EnKNN1和EnKNN2对候选样本的预测结果及步骤S36中预测结果的置信度；

S39：用原始采样得到的具有真实精度的神经网络训练被截断的EnKNN1和EnKNN2。