[发明专利]变长基因遗传算法的神经网络构建系统、方法及存储介质

说明书

本发明公开了一种基于变长基因遗传算法的神经网络构建系统及其方法，其中，构建系统包括依次连接的训练集生成模块、网络初始化模块、网络训练模块、网络更新模块、网络优化模块、网络选择模块、迭代次数更新模块和网络生成模块。本方案的构建方法大体思路为在初始化步骤中生成变长的染色体，并在每个染色体的特定基因上随机添加BN组件。通过在训练集上，训练得到每个染色体对应解码的神经网络结构表现，选择子代染色体。随后，在交叉步骤中，不固定交叉染色体的长度，利用增长和收缩策略以生成子代染色体。之后利用传统的变异和环境选择操作完成子代染色体选择，重复以上，将得到的最佳染色体解码为对应的神经网络架构。

技术领域

本发明涉及计算机在深度学习中的网络结构搜索技术领域，尤其涉及一种基于变长基因遗传算法的神经网络构建系统、方法及存储介质。

背景技术

随着深度学习的发展，卷积神经网络(CNN)被广泛应用于计算机视觉任务。与标准神经网络相比，CNN的特征共享机制帮助CNN减少了需要学习的权重和变量数量，从而降低了网络的复杂性，提高了图像泛化能力。得力于医学和数据工程专家的巨大努力和精心设计的CNN，用于自动分析CT图像并预测COVID-19是否呈阳性已取得了重大进展，减轻了医学专业人员分析CT图像的负担。

尽管深度学习技术已得到了很好的发展，但是将其应用于COVID-19检测任务还存在这许多问题：

首先，由于缺乏选择超参数的明确规则，针对不同任务和数据集的神经网络架构需要被精心设计。与传统的机器学习方法相比，深度学习方法可以通过隐藏层很好地表示数据。更深的网络结构可以轻松地从原始数据中学习模式，并通过逐层提取来抽象表示数据，从而提高了任务的性能。但是，这种改进很快达到了上限。所以，超参数的选择和设置是一项十分复杂且耗时的任务，这阻碍了深度学习方法的快速应用。

其次，目前公开的COVID-19数据集很少。基于这些数据集设计的神经网络架构会带来模型偏差，导致不能准确应用于其他数据集上。第三，批归一化(BatchNormalization,BN)操作作为深度深度神经网络的最重要的组件之一，被广泛应用于深度神经网络架构中。目前，BN操作被应用于所有的隐藏层之后。这个关于现有使用BN组件的规则是否能完全发挥其优势，还是一个需要深入研究的问题。

发明内容

针对现有技术中的上述不足，本发明提供的基于变长基因遗传算法的神经网络构建系统、方法及存储介质降低了神经网络构建过程对数据集的依赖性。

为了达到上述发明目的，本发明采用的技术方案为：

第一方面，提供一种基于变长基因遗传算法的神经网络构建系统，其包括：

训练集生成模块，用于收集正常和COVID-19阳性病例肺部CT图像，并划分成训练集和测试集；

网络初始化模块，用于初始化初代种群，初代种群中包含所有CNN模型对应编码的染色体，并初始化最佳染色体的性能指标及对应染色体基因；

网络训练模块，用于采用训练集训练CNN模型，并采用测试集进行阳性病例检测，将检测正确度作为对应染色体的适应度值，并在最佳适应度值对应染色体的性能指标优于最佳染色体的性能指标时，采用其更新最佳染色体；

网络更新模块，用于根据染色体的适应度值，选取两条染色体进行交叉变异，重复交叉变异步骤设定次数，染色体的头部和尾部变异策略不同；

网络优化模块，用于初始化每条染色体的变异概率，在染色体变异概率小于其超参数时，判断染色体的长度是否小于长度阈值，若是，则在最佳染色体中选取连续基因片段插入染色体，否则在染色体中收缩多个连续基因片段；

网络选择模块，用于获取网络训练模块当前次训练完成后的设定阈值个最佳染色体，并将其与网络优化模块优化后的染色体进行合并作为子代种群；