[发明专利]一种提高集成型自动机器学习运行性能的方法和系统

说明书

本发明公开了一种基于双层树的提高集成型自动机器学习运行性能的方法和系统，对于模型选择和超参数调优两个过程采用了双层树式的逻辑关系。通过极限区域上置信界算法对双层树式的上下两层进行迭代计算。根据机器学习模型库中各模型的初始化分数，自适应地将各模型分配到合适的线程上，有前景的模型将得到更多的初始线程分配。以不同模型和不同超参数配置下的评估指标的分数和运行时间为依据，选择其中若干个模型，基于选中的模型生成集成模型。本发明使自动机器学习方法可以在相同的计算资源下得到更好的最终效果。

技术领域

本发明涉及自动化机器学习技术领域，尤其涉及一种提高集成型自动机器学习运行性能的方法和系统。

背景技术

机器学习专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。随着各类机器学习模型的逐渐发展及完善和大数据时代的到来，机器学习正在大量解决各行各业的实际问题，产生可观的社会价值。然而机器学习模型众多，针对不同的问题、不同的数据，适宜的模型往往只有一种或少数几种；另外，每种机器学习模型包括众多超参数。在机器学习的传统应用中，需要人类选择适宜的机器学习模型并且手动调整超参数以使训练得到的模型有更好的泛化性能。

自动机器学习可以减少使用机器学习解决实际问题时的人类工作量，然而目前已有的自动机器学习方法没有妥善解决模型选择和超参数调优之间的关系。部分方法使用了联合空间的方式（即将各机器学习模型的超参数并联形成一个超参数空间），这造成了搜索空间的冗余和搜索过程的低效；另有一部分方法使用预先设置好的顺序和时长运行各个模型，这种方法对于模型选择过度简化，使得在用户给定的数据集下的适宜的模型和不适宜的模型得到的计算资源没有明显区别，造成了适宜的模型下的超参数探索不够彻底，从而导致最终模型的效果不理想。以上两种现有的对于模型选择和超参数调优的解决方案均无法有效利用计算资源，造成了大量计算资源的浪费。

发明内容

发明目的：针对现有自动机器学习技术中存在的计算资源浪费、最终效果不理想的问题，本发明提供一种基于双层树的提高集成型自动机器学习运行性能的方法和系统，通过双层树式模型选择和超参数调优，双层树的上层进行模型选择，下层进行超参数调优。目前其它的自动机器学习方法没有使用此结构的原因之一就是不便于求解，而本发明将这一结构抽象成为Multi-armedbandit（多摇臂老虎机），并使用极限区域上置信界算法进行求解。极限区域上置信界算法相对于用于解决多摇臂老虎机问题的传统算法，更关注于摇臂分布的极限区域。这个极限区域对应着机器学习算法表现分布中较好的部分。这一特点恰好符合自动机器学习任务的特性。通过双层树式结构和极限区域上置信界算法，本发明提出的方法和系统使自动机器学习方法可以在相同的计算资源下得到更好的最终效果。

自动机器学习的求解过程是计算密集型的过程，为了充分利用计算资源，需要有多线程计算的能力。除双层树结构外，本发明为多线程计算的初始线程分配提出了一种方法，使得线程分配合理、鲁棒。为了提高自动机器学习输出的模型的效果，本发明使用极限区域上置信界算法中对每个模型的探索次数作为权重生成一个集成模型，使得集成模型的效果优秀。

技术方案：一种提高集成型自动机器学习运行性能的方法，该方法为基于双层树的提高集成型自动机器学习运行性能的方法，对于模型选择和超参数调优两个过程采用了双层树式的逻辑关系。通过极限区域上置信界算法对双层树式的上下两层进行迭代计算。

根据机器学习模型库中各模型的初始化分数，自适应地将各模型分配到合适的线程上，有前景的模型将得到更多的初始线程分配。

以不同模型和不同超参数配置下的评估指标的分数和运行时间为依据，选择其中若干个模型，基于选中的模型生成集成模型。在新的数据上进行预测时，集成模型对各模型的预测进行加权平均。其中权重根据极限区域上置信界算法的决策值进行最大最小值标准化而得。

具体流程如下：