[发明专利]为了元学习用于调整残差网络的方法及装置

说明书

本发明公开为了元学习用于调整残差网络的方法及装置。为了元学习，即为了对学习方法进行学习，提供一种利用包括对图像或与其对应的输入特征图进行卷积运算生成输出特征图的卷积层及迂回所述卷积层或与其对应的子卷积层，将所述图像或与其对应的输入特征图前馈到下一个卷积层的残差网络的学习装置的基于CNN的方法。所述基于CNN的方法包括：所述学习装置(a)从所述残差网络中选择将随机失活的特定残差网络的步骤；(b)所述特定残差网络将所述图像输入到随机失活的变形CNN生成CNN输出的步骤；以及(c)利用所述CNN输出及与其对应的GT算出损失，调整所述变形CNN的参数的步骤。并且所述基于CNN的方法可适用于按层随机失活、随机组合法及虚拟驾驶等。

技术领域

本发明涉及用于元学习(Meta Learning)，即，对学习方法进行学习的基于卷积神经网络(Convolutional Neural Network，CNN)的学习方法，更具体来讲，涉及学习方法，是利用包括(i)对输入图像或与其对应的一个以上的编码的输入特征图进行一个以上的卷积运算，依次生成一个以上的编码的输出特征图的一个以上的卷积层及(ii)迂回所述卷积层中的至少一个或包含于其中的子卷积层中的至少一个，将所述输入图像或与其对应的所述编码的输入特征图前馈(Feed Forward)到与其对应的下一个卷积层的一个以上的残差网络(Residual Network)的学习装置的所述基于CNN的学习方法，其特征在于，包括(a)获取到所述输入图像的情况下，执行从所述残差网络中任意选择将随机失活(Dropout)的特定残差网络的过程的步骤；(b)(i)对所述特定残差网络随机失活的至少一个变形CNN输入所述输入图像以生成经过调整的编码的输出特征图，(ii)利用所述经过调整的编码的输出特征图生成CNN输出的步骤；以及(c)利用所述CNN输出及与其对应的基础事实(GroundTruth，GT)计算一个以上的损失，并反向传播(Backpropagation)所述损失以调整所述变形CNN的至少一个参数的步骤，以及所述学习装置、利用其的测试方法及测试装置。

背景技术

深度学习是用于对事物或数据聚类或分类的技术。例如，计算机仅凭照片无法区分狗与猫。而人能够轻易地区分。为此研究出了所谓“机器学习(Machine Learning)”的方法。这是使计算机对输入的大量数据中将类似的分类出来的技术。是输入了与存储的狗照片近似的照片的情况下，计算机将此分类为狗照片的方法。

关于如何对数据分类，已经出现了很多机器学习算法。典型的有“决策树”、“贝叶斯网络”、“支持向量机(SVM)”、“人工神经网络”等。其中深度学习是人工神经网络的后裔。

深度卷积神经网络(Deep Convolution Neural Network；Deep CNN)是深度学习领域发生的惊人的发展核心。CNN为了解决文字识别问题而自90年代以来开始使用，而像目前广泛使用是则多亏近来的研究结果。这种深度CNN在2012年ImageNet图像分类比赛打败其他竞争者获胜。自那以后卷积神经网络在机器学习(Machine Learning)领域成为了非常有用的工具。

图像分割(Image Segmentation)是接收输入的图像并作为输出生成标签图像的方法。随着近来深度学习(Deep learning)技术受到关注，分割时也越来越多地利用深度学习。根据现有技术，所述图像分割通过(i)对输入图像进行一个以上的卷积运算生成特征向量，(ii)对所述特征向量进行一个以上的安全连接(Fully Connected，FC)运算生成标签图像来执行。根据其他现有技术，编码器-解码器(Encoder-Decoder)构成用于利用编码器从输入图像提取特征并利用解码器恢复标签图像。

图1示出利用一般的CNN执行分割的过程。

参见图1，根据现有的车道检测方法，学习装置接收输入图像，在多个卷积层对所述输入图像进行多个卷积运算及ReLU之类的非线性运算以获取多个特征图，在多个去卷积层对所述特征图进行多个去卷积运算及柔性最大值(Softmax)运算得到分割结果。