[发明专利]基于计算图进化的AI模型自动生成的方法

说明书

本发明提供一种基于计算图进化的AI模型自动生成的方法,主要包括如下步骤：预设数据；利用遗传算法算子生成第一代计算图模型并根据其计算图结构计算模型性能；去除无效用模型和重复模型，剩余模型作为备选模型并保留作为下一代种子；挑出若干数量最优模型；备选模型使用遗传算法算子产生一个计算图新模型；判断上一步产生的计算图新模型是否生成过；保存新模型为新一代计算图模型，判断其是否满足预设数据和进化结束条件；进化计算结果汇总，选择出最优模型。本发明可以同时做机器学习和深度学习；避免相同模型的被重复计算的次数，提升模型设计效率；跳出局部最优；防止搜索网络的性能的衰退；不需要通过实际数据进行训练就可直接评估。

技术领域

本发明涉及AI模型(AI模型即人工智能模型)相关技术领域，具体涉及一种基于计算图进化的AI模型自动生成的方法。

背景技术

AI模型自动生成是前沿的研究领域。自动模型生成可以根据数据的分布生成更加简单高效的神经网络。AI模型自动生成的搜索空间为fⁿ×2^n(n-1)/2，其中f是不同神经元算子个数，n为神经网络最大深度。可以看到在生成过程中，随着支持的神经网络算子的增加和网络的加深，问题的复杂度可能会变成趋近于无穷搜索空间的问题，从而导致无法求解。

目前主要的搜索方法有强化学习(即增强学习)、蒙特卡洛树搜索(随机抽样或统计实验方法)等方法。但是这些方法都需要先积累一定的统计信息，生成一个对模型设计有效的先验概率以后才可能在有限周期内，搜索到较好的神经网络模型结构。在传统算法拟合选出网络后，只能完整运行来寻找进一步的搜索方向。但是在深度学习领域，一次训练的实际时间会是数十分钟，甚至数十小时。而很多时候，当搜索朝向最优解逼近的时候，网络差异也在变小，而类似网络的训练结果会很相近，这样就导致整个模型搜索过程非常的长。目前深度学习的一次完整训练在数小时到数周不等，而自动神经网络设计需要大量的训练为基础才能找到最优解，随着网络的加深，在现有计算力的情况下，几乎会变成一个无解的问题。

发明内容

本发明的目的是：

针对上述现有技术的不足，提供了基于计算图进化的AI模型自动生成的方法，可以同时做机器学习和深度学习；避免相同模型的被重复计算的次数，提升模型设计效率；保证多样性和采样空间的均匀分布，实现在局域最优范围内的搜索，同时实现跳出局部最优；保证搜索的效率，防止搜索网络的性能的衰退；不需要通过实际数据进行训练就可以直接评估。

本发明的目的可通过以下的技术方案来实现：

一种基于计算图进化的AI模型自动生成的方法，包括以下步骤：

步骤(1)：根据用户预设的数据，进行数据准备，设置模型设计平台生产参数，开始模型自动设计；

步骤(2)：利用遗传算法算子生成第一代计算图模型；

步骤(3)：

a、根据第一代计算图结构计算模型性能；

b、根据计算图性能(比如其准确率)和复杂度，计算每一个计算图模型的适应度；

步骤(4)：根据模型适应度，去除无效用模型和重复模型，剩余模型作为备选模型，并保留作为下一代种子；

步骤(5)：根据步骤(4)保留的下一代种子，挑出若干数量最优模型；

步骤(6)：根据步骤(4)选择出的作为下一代种子的备选模型使用遗传算法算子产生一个计算图新模型；

步骤(7)：判断步骤(6)产生的计算图新模型是否为已经生成过的计算图模型，如否，进入步骤(8)；如是，返回步骤(6)；

步骤(8)：保存步骤(5)、(7)的计算图模型为新一代计算图模型；