[发明专利]神经网络的搜索方法、装置及电子设备

说明书

本申请公开了一种神经网络的搜索方法、装置及电子设备，涉及人工智能技术领域，尤其涉及深度学习与计算机视觉技术领域。具体实现方案为：从搜索空间中，获取神经网络对应的各个候选网络结构，其中，每个候选网络结构中包含各个层对应的算子编码；基于预设的各算子编码在各类设备中的运行耗时及各个层对应的算子编码，确定每个候选网络结构的总耗时；获取每个候选网络结构在测试集上的精度；根据每个候选网络结构在测试集上的精度及总耗时，确定神经网络对应的目标网络结构。由此，通过这种神经网络的搜索方法，不仅提升了神经网络结构的构建效率，而且可以充分利用异构设备的计算资源，提升了神经网络的计算效率和精度。

技术领域

本申请涉及人工智能技术领域，尤其涉及深度学习与计算机视觉技术领域，提出一种神经网络的搜索方法、装置及电子设备。

背景技术

深度学习目前广泛应用在图像处理、自然语言处理、推荐等计算机应用领域。由于深度学习模型通常需要较多的计算资源，因此对于计算资源受限的电子设备，通常需要轻量级的神经网络模型实现高效运算。

相关技术中，可以通过人工方式设计轻量级的神经网络模型，但是效率较低。

发明内容

本申请提供了一种用于神经网络的搜索方法、装置、电子设备、存储介质以及计算机程序产品。

根据本申请的一方面，提供了一种神经网络的搜索方法，包括：从搜索空间中，获取神经网络对应的各个候选网络结构，其中，每个所述候选网络结构中包含各个层对应的算子编码；基于预设的各算子编码在各类设备中的运行耗时及各个层对应的算子编码，确定每个所述候选网络结构的总耗时；获取每个所述候选网络结构在测试集上的精度；根据每个所述候选网络结构在测试集上的精度及总耗时，确定所述神经网络对应的目标网络结构。

根据本申请的另一方面，提供了一种神经网络的搜索装置，包括：第一获取模块，用于从搜索空间中，获取神经网络对应的各个候选网络结构，其中，每个所述候选网络结构中包含各个层对应的算子编码；第一确定模块，用于基于预设的各算子编码在各类设备中的运行耗时及各个层对应的算子编码，确定每个所述候选网络结构的总耗时；第二获取模块，用于获取每个所述候选网络结构在测试集上的精度；第二确定模块，用于根据每个所述候选网络结构在测试集上的精度及总耗时，确定所述神经网络对应的目标网络结构。

根据本申请的再一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如前所述的神经网络的搜索方法。

根据本申请的又一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如前所述的神经网络的搜索方法。

根据本申请的又一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如前所述的神经网络的搜索方法。

根据本申请的技术方案，解决了相关技术中，通过人工方式设计轻量级的神经网络模型，效率较低的问题。通过从搜索空间中，获取神经网络对应的各个候选网络结构，其中，每个候选网络结构中包含各个层对应的算子编码，并基于预设的各算子编码在各类设备中的运行耗时及各个层对应的算子编码，确定每个候选网络结构的总耗时，之后获取每个候选网络结构在测试集上的精度，进而根据每个候选网络结构在测试集上的精度及总耗时，确定神经网络对应的目标网络结构。由此，通过在搜索空间中进行神经网络搜索，并根据候选网络结构中的各算子编码在各类设备中的运行耗时与各候选网络结构的精度，确定适合于当前测试集的、且可在异构设备中运行的最佳网络结构，从而不仅提升了神经网络结构的构建效率，而且可以充分利用异构设备的计算资源，提升了神经网络的计算效率和精度。

应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。