[发明专利]一种基于ELM和SVM的快速优化分类算法

说明书

本发明公开了一种基于ELM和SVM的快速优化分类算法，提出的基于ELM和SVM的快速优化分类算法将线性不可分问题转化为线性可分问题，训练得到两个SVM分类器作为算法核心；此算法能够极大地改善网络泛化性能，算法效率高，能够在短的时间内处理更多的数据，从而进一步促进ELM和SVM在模式识别、机器学习、大数据处理等领域得到更加广泛的应用。

技术领域

本发明涉及人工智能技术领域，尤其是一种基于ELM和SVM的快速优化分类算法。

背景技术

在机器学习领域，模式分类问题是最为热门的议题之一，是解决模式识别应用问题的关键基础议题。自上世纪五、六十年代以来，围绕模式分类议题，研究结果众多，其中比较有代表性的基础学习算法有：感知机学习算法、BP学习算法、SVM学习算法，以及ELM学习算法等等。然而，相对于应用需求而言，目前的学习算法无论在学习效果还是学习效率方面都离满足应用需求仍有相当的距离。

(1)超限学习机(ELM)是当下一种新兴的机器学习算法，随着人工智能的兴起，已成为当下的热门的学习算法。ELM是一种基于三层结构(分别为输入层、隐含层和输出层)的前馈网络模型的自适应学习算法，结构上与MLP(多层感知机)相似，但相比BP算法，ELM存在一些明显的优势，ELM中隐藏神经元输入权值和结点个数随机赋值且不参与迭代调整，仅仅通过学习来调整输出层的权值，达到训练网络的目的。

根据ELM学习理论可知，给定任何可分类目标，只要前馈神经的隐层节点是非线性阶段连续的，神经网络无需调整隐层节点就能对分类目标加以分类。然而，ELM随机化隐含层，虽极大地减少了待求参数，进而大幅提高了学习速度，但为了获得合适的隐层节点数，存在欠学习或过学习现象的隐患，尤其是因过学习而出现的过拟合问题，会严重削弱目标网络的泛化性能。

(2)支持向量机(SVM)是一基于小样本统计理论为基础，基于计算学习技术的有监督学习算法，有着完整而丰富的的理论基础。在应用领域，凭借良好的分类能力，SVM及其变体被广泛应用。SVM能够保证找到的极值解就是全局最优解而并非是局部最小值，这保证了SVM算法对未知样本有较好的泛化能力。相比经典的BP算法，能获得较好的泛化性能是SVM的显著特点和优势。

SVM的技术优势集中体现在解决线性可分的分类问题上，尤其是线性可分的二分类问题，在处理非线性分类问题时，SVM的性能很大程度上依赖于核函数的选择，但如何选择核函数，并没有一个通用的方案，从而使得SVM在工程应用中受到阻碍。另外，确定核函数以后，SVM在求解时，要求解函数的二次规划，这就需要大量的存储开销和时间开销，降低了其学习效率。

发明内容

本发明所要解决的技术问题在于，提供一种基于ELM和SVM的快速优化分类算法，能够极大地改善网络泛化性能，算法效率高，能够在短的时间内处理更多的数据。

为解决上述技术问题，本发明提供一种基于ELM和SVM的快速优化分类算法，包括如下步骤：

(1)对给定样本集S＝{(X_a,Y_c)|1≤a≤A,1≤c≤C}，通过ELM算法训练一随机初始化的单隐层前向人工神经网络，确立一个ELM分类器；