[发明专利]一种基于线性规划的卷积参数自动配置方法

说明书

一种基于线性规划的卷积神经网络自动配置方法，包括以下步骤：第一步、获取维度信息，即所需配置的卷积神经网络中各个网络层的输入及输出特征图的长、宽和通道数，如果是三维卷积神经网络则还需增加一个维度，此外为配合可能的网络结构优化算法，所获取的信息还包括其可能的参数；第二步、配合所获取的信息，求解针对不同卷积神经网络类别而设计的线性规划问题，即可获得目标卷积神经网络层的配置参数，包括已知的输入及输出通道数、卷积核维度、卷积操作的位移量和卷积填充尺寸。本发明只需给定特征图的维度即可生成有效的卷积神经网络配置，如配合遗传算法来优化神经网络结构，则可以降低遗传编码的维度，提高遗传算法的执行效率。

技术领域

本发明属于计算机应用技术领域，具体涉及卷积神经网络的自动配置方法，用于降低卷积神经网络配置时所需的必要参数，简化其配置过程。

背景技术

生成一系列各具特色的网络结构已经成为人工智能领域一条重要的分支。以无线传感器网络为例，部署一个合适的深度卷积神经网络就必须重点考虑模型计算开销而不是存储开销，这是因为在无线传感器网络中由计算带来的能量开销要远远大于参数的存储开销。如何有效地构造出适用于无线传感器网络等特殊应用场景下的卷积网络模型已经成为当前领域内一个迫切需要解决的问题。

目前在面向无线传感器网络等特殊应用场景下开展的深度卷积神经网络构建工作相对较少。本文通过收集、调研大量相关的研究资料，认为当前针对该问题主要存在以下2种解决方案：手工设计和神经演化。基于手工设计的思想是借鉴，吸收当前性能较优的小型网络的结构设计方案，通过额外增加或改进现有的设计方案来获得符合要求的神经网络。神经演化的核心是将模型结构的设计过程类比成自然界中物种的演化过程，利用物竞天择的自然法则，保留性能优秀的模型结构，淘汰性能较差的模型结构，最终在大量的试错实验之后，找到满足设计需求的模型结构。

相比手工设计，神经演化在计算资源越来越廉价的大背景下显得更加有效，更有可能设计出符合要求的模型结果。然而神经演化算法中最关键的一个环节，模型结构的基因编码过程，却长期得不到改进，从而制约的神经演化算法的效率。卷积神经网络演化算法表现的尤为突出。这是因为要讲一个卷积神经网络层编码为基因，通常需要如下信息，输入通道数、输出特征图的维度、卷积核维度、卷积核移动步长、卷积填充尺寸。对于二维卷积神经网络，这些信息可以构成一个10维的基因向量。

发明内容

为了克服现有技术的不足，本发明提供一套卷积神经网络的自动配置方法，只需提供输入及输出的特征图维度，本发明即可计算出卷积神经网络所需所有参数，包括输入通道数、输出特征图的维度、卷积核维度、卷积核移动步长、卷积填充尺寸等，通过使用本发明提供的方法，基因向量只需保留输入特征图的维度即可，共3维的基因向量，可以极大的降低基因长度，从而提高神经演化算法的效率。

本发明所采用的技术方案是：

一种基于线性规划的卷积参数自动配置方法，所述方法包括以下步骤：

第一步、获取维度信息，即所需配置的卷积神经网络中各个网络层的输入及输出特征图的长、宽和通道数；

第二步、配合所获取的信息，求解针对不同卷积神经网络类别而设计的线性规划问题，即可获得目标卷积神经网络层的配置参数，包括已知的输入及输出通道数、卷积核维度、卷积操作的位移量和特征图的外扩大小，过程如下：

步骤2.1：对获取的维度信息进行进行分类，将输入特征图尺寸大于或等于输出特征图尺寸的定义为c1类，输入特征图尺寸小于输出特征图尺寸的定义为c2类；

步骤2.2：根据步骤2.1中确定类别，如果是c1类别的，执行步骤2.3～2.4，如果是c2类别的，执行步骤2.5～2.6；