[发明专利]基于网络架构搜索的模型构建方法、装置及存储介质

说明书

本发明提供一种基于网络架构搜索的模型构建方法、装置及存储介质，所述方法的步骤包括，将节点数和操作数进行组合，得到第一数量个构建方案，将构建方案对应的多维向量构建为初始种群；交叉变异获得新种群；新种群和初始种群融合为融合种群；基于搭建目标数量在杨辉三角中确定第一范围，基于融合种群在第一范围中划分第二范围，计算第二范围中的参数之和，为参考点数量，将参考点表示为参考点向量；采用非支配排序对融合种群中多维向量进行等级划分，基于阈值等级建立第一向量集；计算阈值等级下一等级的多维向量与参考点向量之间的距离，输出较近的多维向量为第二向量集；合并为目标向量集，目标向量集中的多维向量对应的构建方案为目标方案。

技术领域

本发明涉及机器学习技术领域，尤其涉及一种基于网络架构搜索的模型构建方法、装置及存储介质。

背景技术

随着深度学习模型的广泛应用，现有的基于深度学习模型相较于机器学习模型有了很大的进步，但由于不同的模型构建者的目的不同，模型结构也有所不同，如何将大量的超参数与网络结构参数结合起来以达到理想的性能是值得研究的问题。

网络架构搜索(NAS)属于自动化的机器学习(AutoML)中的一个分支，AutoML为构建深度学习模型中大部分的步骤提供了自动化的方法，除了NAS还包括自动化的数据清洗、自动化的特征工程。NAS自动构建网络结构，实现NAS包括三个流程分别是定义搜索空间、确定搜索策略和评估候选模型，现有的方式中可以通过网络架构搜索的方式为使用者搭建适用于自身的模型。

而随着使用者对模型要求的提高，现有的模型搭建往往被预设了多个搭建目标，包括但不限于模型大小、参数数量每秒的浮点运算次数等，而现有的网络架构搜索方法目前还不能在多种搭建目标的前提下起到较高的效果。

发明内容

鉴于此，本发明的实施例提供了一种基于网络架构搜索的模型构建方法，以消除或改善现有技术中存在的一个或更多个缺陷。

本发明的一个方面提供了一种基于网络架构搜索的模型构建方法，所述方法的步骤包括，

将预设的节点数和操作数进行组合，得到第一数量个构建方案，将每个构建方案表示为一个多维向量，将第一数量个构建方案对应的多维向量构建为初始种群；

采用交叉变异的方法基于初始种群获得新种群，所述新种群中的多维向量的数量与初始种群中的多维向量的数量相等；

将新种群和初始种群中的多维向量进行融合，得到融合种群，所述融合种群中包括新种群和初始种群中任一个多维向量；

基于预设的搭建目标的数量在杨辉三角中确定第一范围，基于融合种群中的多维向量的数量在所述第一范围中划分第二范围，计算在杨辉三角中的第二范围中的参数之和，该参数之和即为参考点数量，基于采样参考点方法将每个参考点表示为参考点向量；

采用非支配排序的方式对融合种群中的多维向量进行等级划分，将多维向量所处的等级与阈值等级进行对比，建立第一向量集；

获取所述阈值等级下一等级的多维向量，分别计算该等级的每个多维向量与每个参考点向量之间的距离，输出距离较近的第二数量个多维向量，建立第二向量集；

将第一向量集和第二向量集合并为目标向量集，获取目标向量集中的多维向量所对应的构建方案为目标方案。

采用上述方案，本方法基于杨辉三角在超平面上生成很多参考点来表征帕累托集合，创建的参考点能够广泛并均匀的分布在帕累托最优前沿面，同时拓展了更深层次的空间，在其他超平面上形成与基群相类似的排列形状，达到尽可能延拓参考点分布的目的，这使得在保证参考点个数充足的同时也能够以最大限度降低计算的复杂度，保证了本方案能够更好的适用于多种搭建目标的前提下构建模型。

在本发明的一些实施方式中，所述方法的步骤还包括，基于模型预设的搭建目标对多个目标方案进行筛选，得到最终方案。