[发明专利]基于计算图子图的AI模型自动生成的方法

说明书

本发明提供基于计算图子图的AI模型自动生成的方法，在计算图进化的AI模型中自动生成方法中，针对机器学习模型体系，根据计算图模型的子图结构，提取有效的子图模型，实现在一次独立计算模型过程中，同时计算每个图模型中节点的性能，实现一次计算即可计算多个不同的模型性能的特性。同时结合重复模型去除等功能，有利于加速模型设计的速度，降低机器学习模型设计计算的整体时间，同时又不会出现模型采样少，多样性下降的情况，从而实现机器学习模型自动化设计的效率和成功率的提升。

技术领域

本发明涉及AI模型(AI模型即人工智能模型)相关技术领域，具体涉及一种基于计算图子图的AI模型自动生成的方法——采用子图提取的方法提升基于计算图进化的AI模型自动生成效率。

背景技术

AI模型自动生成是前沿的研究领域。自动模型生成可以根据数据的分布生成更加简单高效的神经网络模型。AI模型自动生成的搜索空间为fⁿ×2^n(n-1)/2，其中f是不同神经元算子个数，n为神经网络最大深度。可以看到在生成过程中，随着支持的神经网络算子的增加和网络模型的加深，问题的复杂度可能会变成趋近于无穷搜索空间的问题，从而导致无法求解。

目前主要的搜索方法有强化学习(即增强学习)、蒙特卡洛树搜索(随机抽样或统计实验方法)等方法。但是这些方法都需要先积累一定的统计信息，生成一个对模型设计有效的先验概率以后才可能在有限周期内，搜索到较好的神经网络模型结构。在传统算法拟合选出网络后，只能完整运行来寻找进一步的搜索方向。但是在深度学习领域，一次训练的实际时间会是数十分钟，甚至数十小时。而很多时候，当搜索朝向最优解逼近的时候，网络差异也在变小，而类似网络的训练结果会很相近，这样就导致整个模型搜索过程非常的长。目前深度学习的一次完整训练在数小时到数周不等，而自动神经网络设计需要大量的训练为基础才能找到最优解，随着网络的加深，在现有计算力的情况下，几乎会变成一个无解的问题。

在网络模型搜索和设计过程中，模型性能的计算的过程耗时严重，往往占了整个AI模型设计的绝大部份时间。为了缩短模型自动生成时间，减少模型的数量会导致模型采样数量不足，进化算法过程中样本的多样性降低，导致整个进化算法搜索效率低下，搜索出的模型性能不佳等问题。如何有效的缩短AI模型整体时间流程，而又不降低模型设计的数量，不降低模型在整个空间的采样率，成为需要AI模型设计领域亟待解决的问题。

发明内容

本发明的目的是：

针对上述现有技术的不足，在计算图进化的AI模型中自动生成方法中，针对机器学习模型体系，根据计算图模型的子图结构，提取有效的子图模型，实现在一次独立计算模型过程中，同时计算每个图模型中节点的性能，实现一次计算即可计算多个不同的模型性能的特性。同时结合重复模型去除等功能，有利于加速模型设计的速度，降低机器学习模型设计计算的整体时间，同时又不会出现模型采样少，多样性下降的情况，从而实现机器学习模型自动化设计的效率和成功率的提升。

本发明的目的可通过以下的技术方案来实现：

基于计算图子图的AI模型自动生成的方法，其特征在于包括以下步骤：

步骤(1)：根据用户预设的数据，进行数据准备，设置模型设计平台生产参数，开始模型自动设计；

步骤(2)：利用遗传算法算子生成第一代计算图模型；

步骤(3)：判断上一步产生的所有计算图新模型相互之间是否有重复的计算图模型，如果判断有重复的模型，则去除重复的模型；

步骤(4)：根据步骤(3)保留下的模型，计算除了每个模型中除起始节点的以外的每个节点的性能，计算图模型最后一个节点的性能为该模型性能。