[发明专利]超网络的搜索空间构建方法、装置以及电子设备

说明书

本申请公开了一种超网络的搜索空间构建方法、装置以及电子设备，涉及超网络搜索空间领域。具体实现方案为：对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，第L+1层特征图中包括多个尺寸的特征图；对第L层特征图中任意一个特征图，经过上采样得到第L‑1层特征图，第L+1层特征图中包括多个尺寸的特征图；根据第L层特征图、L+1层特征图以及第L‑1层特征图构建超网络的搜索空间，L大于或等于2。实现了多尺寸特征图的融合，有效扩大了超网络的搜索空间，能够搜索得到更多的模型结构。

技术领域

本申请涉及一种计算机视觉领域，尤其涉及一种神经网络搜索领域。

背景技术

深度学习技术在很多方向上都取得了巨大的成功，最近几年NAS技术(NeuralArchitecture Search，神经网络架构搜索)成为研究热点。NAS是用算法代替繁琐的人工操作，在海量的搜索空间中自动搜索出最佳的神经网络架构。超网络的核心思想是通过参数共享的方式，可以同时训练大量网络结构，无需对每一个网络结构进行训练。目前，在超网络的搜索空间中进行模型结构自动搜索的时候，由于两个特征图层之间只能选择一条链路，导致单路径的超网络搜索空间受到限制，最终搜索得到的模型结构的性能较差。

发明内容

本申请实施例提供一种超网络的搜索空间构建方法、装置以及电子设备，以解决现有技术中的一个或多个技术问题。

第一方面，本申请实施方式提供了一种超网络的搜索空间构建方法，包括：

对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，第L+1层特征图中包括多个尺寸的特征图；

对第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，第L+1层特征图中包括多个尺寸的特征图；

根据第L层特征图、L+1层特征图以及第L-1层特征图构建超网络的搜索空间，L大于或等于2。

在本实施方式中，多个尺寸的特征图的各个特征图层，构成了超网络的多路径搜索空间。在超网络的多路径搜索空间中，实现了多尺寸特征图的融合，有效扩大了超网络的搜索空间，能够搜索得到更多的模型结构。

在一种实施方式中，对深度神经网络的第L层特征图中任意一个特征图，经过下采样得到第L+1层特征图，包括：

对第L层特征图中任意一个特征图，经过下采样的第一卷积操作，L+1层特征图的尺寸是第L层特征图中任意一个特征图的尺寸的1/(2N)倍，N为正整数。

本实施方式中，能够缩小特征图的尺寸，使得每层特征图中包含多种尺寸的特征图，以便于供更多的模型结构。

在一种实施方式中，对第L层特征图中任意一个特征图，经过上采样得到第L-1层特征图，包括：

对第L层特征图中任意一个特征图，经过上采样的第二卷积操作，得到的L-1层中的特征图的尺寸是第L层特征图中任意一个特征图的尺寸的2N倍，N为正整数。

本实施方式中，能够扩大特征图的尺寸，使得每层特征图中包含多种尺寸的特征图，以便于供更多的模型结构。

在一种实施方式中，下采样的第一卷积操作包括最大池化操作或平均池化操作，上采样的第二卷积操作包括双线性插值操作。

在一种实施方式中，还包括：

第L-1层特征图中的任意一个特征图，经过第三卷积操作得到第L层特征图中的尺寸不变的特征图；

第L层特征图中的任意一个特征图，经过第四卷积操作得到第L+1层中的尺寸不变的特征图。

第二方面，本申请实施方式提供了一种超网络的搜索空间构建装置，包括：