[发明专利]一种组卷积数目搜索方法和装置

说明书

本发明涉及神经网络技术领域，特别是涉及一种组卷积数目搜索方法和一种组卷积数目搜索装置，其方法包括：基于预设的超网结构中构建多个子网结构，获取各个子网结构的模型参数；采用交叉和/或变异的验证方法对多个所述子网结构的参数进行验证；确定包含满足预设精度条件的多个所述子网结构的种群；对所述种群中的多个所述子网结构进行模型训练，得到验证精度最高的最佳子网，可以在不同的部署情况下，选择其合适的子网，相较人工配置而言，本方法可以有效的减少了人工配置组卷积数目的时间，同时，通过修改子网的卷积核大小，重新训练子网，就可以进一步提高子网的精度，本方法实现简单，应用广泛，且精度更高。

技术领域

本发明涉及神经网络技术领域，特别是涉及一种组卷积数目搜索方法和一种组卷积数目搜索装置。

背景技术

随着深度学习方法的发展，卷积神经网络在计算机视觉、目标检测、语义分割等领域都取得了重大突破。为获取更高的准确率，卷积神经网络所涉及的参数量变得越来越庞大，则限制其在资源有限的平台上进行部署，例如，神经网络vgg16，参数量达到1.3亿个，需要300亿个乘加操作才能对单张尺寸为224x224的图片进行分类分析，导致绝大多数的平台无法对神经网络提供合理的计算空间和存储空间。

且目前依旧采用人工将卷积神经网络配置到应用场景中，在配置组卷积参数的时候，需要进行大量的尝试，且配置结果的准确率较低，当更换应用场景后则又需要重新对其参数进行配置，另外采用人工设定的方式在面对上千层卷积网络时就更显得低效，大大降低了卷积神经网络的部署效率。

发明内容

鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种组卷积数目搜索方法和相应的一种组卷积数目搜索装置。

为了解决上述问题，本发明实施例公开了一种组卷积数目搜索的方法，包括：

基于预设的超网结构中构建多个子网结构，获取各个子网结构的模型参数；

采用交叉和/或变异的验证方法对多个所述子网结构的参数进行验证；

确定包含满足预设精度条件的多个所述子网结构的种群；

对所述种群中的多个所述子网结构进行模型训练，得到验证精度最高的最佳子网。

进一步地，所述基于预设的超网结构中构建多个子网结构，获取各个子网结构的模型参数，包括：

确定所述超网结构的选择层，其中，每个选择层包含多个卷积层，对多个所述卷积层进行分组，形成多种可采样的分组数目；

将各个所述选择层中所采样的其中一种分组数目进行串联构成所述子网结构，其中，每个选择层中的任一分组数目可被重复采样，以构成多个不同的子网结构；

构建多个所述子网结构至所述超网结构收敛，得到各个所述子网结构的模型参数。

进一步地，采用伯努利采样方法对各个所述的分组数目进行采样，其中，各个所述选择层中的各个分组数目被采样的概率均等。

进一步地，所述采用交叉/或变异的验证方法对多个所述子网结构进行验证，包括：

集合多个所述子网结构为初始化种群；

将预设的交叉数、变异数以及变异概率同步所述初始化种群；

对所述初始化种群进行迭代生成下一代种群，以得到包含验证精度最高的最佳子网的最终种群；

进一步地，确定包含满足预设精度条件的多个所述子网结构的种群，包括：

基于初始化种群根据预设迭代次数不间断生成相对于上一代种群的下一代种群；

将所述上一代种群中的K个子网结构进行交叉得到M个子网结构、变异得到N个子网结构；