[发明专利]图像数据处理方法、装置、计算机可读介质及电子设备

说明书

本申请属于人工智能技术领域，具体涉及一种神经网络搜索方法、神经网络搜索装置、计算机可读介质以及电子设备。该方法包括：获取包括至少两种候选网络结构的神经网络搜索空间，并根据神经网络搜索空间构建包括至少两个网络节点的初始网络单元；获取当前训练轮次下各个网络节点之间的掩膜参数，并根据掩膜参数对初始网络单元进行剪枝处理以得到剪枝网络单元；对剪枝网络单元进行训练以更新各个网络节点之间的结构参数；根据更新后的结构参数选取各个网络节点之间的目标操作分支，以基于目标操作分支确定目标网络单元。该方法可以降低计算成本，而且可以加速产生网络单元内各种操作之间的差异性，进而提高网络搜索的效率和准确性。

技术领域

本申请涉及人工智能技术领域，并涉及机器学习技术。具体而言，本申请涉及一种神经网络搜索方法、神经网络搜索装置、计算机可读介质以及电子设备。

背景技术

人工神经网络是基于计算机技术模仿生物神经网络行为特征以进行分布式并行信息处理的算法数学模型。神经网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。

随着人工智能技术的发展，神经网络结构的设计，正在从手工设计转型为机器自动设计。神经网络结构搜索技术将网络结构和超参数的选择自动化，可以针对特定的数据集生成定制化的网络模型并达到超越专家模型的效果。然而，基于结构搜索的神经网络设计方案通常需要在数据量庞大的搜索空间中反复进行网络的筛选和训练，不仅需要耗费大量的计算资源，而且普遍存在搜索效率低、搜索结果不稳定等问题。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本申请的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本申请的目的在于提供一种神经网络搜索方法、神经网络搜索装置、计算机可读介质以及电子设备，至少在一定程度上克服相关技术中存在的计算成本高、搜索效率低及稳定性差等技术问题。

本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。

根据本申请实施例的一个方面，提供一种神经网络搜索方法，该方法包括：获取包括至少两种候选网络结构的神经网络搜索空间，并根据神经网络搜索空间构建包括至少两个网络节点的初始网络单元，其中任意两个网络节点之间包括至少两个对应于候选网络结构的操作分支，所述操作分支用于表示两个网络节点之间的数据映射关系；获取当前训练轮次下各个网络节点之间的掩膜参数，并根据所述掩膜参数对所述初始网络单元进行剪枝处理以得到剪枝网络单元；对所述剪枝网络单元进行训练以更新所述各个网络节点之间的结构参数，所述结构参数用于表示两个网络节点之间的各个操作分支的分支权重；根据更新后的结构参数选取各个网络节点之间的目标操作分支，以基于所述目标操作分支确定目标网络单元。

根据本申请实施例的一个方面，提供一种神经网络搜索装置，该装置包括：网络构建模块，被配置为构建包括至少两个网络节点的初始网络单元，其中任意两个网络节点之间包括至少两个操作分支，所述操作分支用于表示两个网络节点之间的数据映射关系；网络剪枝模块，被配置为获取当前训练轮次下各个网络节点之间的掩膜参数，并根据所述掩膜参数对所述网络单元进行剪枝处理以得到剪枝网络单元；参数更新模块，被配置为对所述剪枝网络单元进行训练以更新所述各个网络节点之间的结构参数，所述结构参数用于表示两个网络节点之间的各个操作分支的分支权重；网络确定模块，被配置为根据更新后的结构参数选取各个网络节点之间的目标操作分支，以基于所述目标操作分支确定目标网络单元。