[发明专利]一种基于加权投影对支持向量机的样本分类方法

说明书

技术领域

本发明涉及一种非平行超平面分类器方法，具体地涉及一种基于加权投影对支持向量机的样本分类方法。

背景技术

对于二分类问题，传统支持向量机(supportvectormachine,SVM)依据大间隔原则生成分类超平面，存在的缺陷是计算复杂度高且没有充分考虑样本的分布。近年来，作为SVM的拓展方向之一，以对支持向量机(twinsupportvectormachine,TWSVM)为主要代表的非平行超平面分类器(nonparellelhyperplaneclassifiers,NHCs)正逐渐成为模式识别领域新的研究热点。TWSVM思想源于广义特征值近似支持向量机(generalizedeigenvalueproximalSVM,GEPSVM)，将GEPSVM问题转换为两个规模较小的形如SVM的二次规划问题，计算复杂度缩减为SVM的1/4。除了速度上的优势，TWSVM继承了GEPSVM的优势，即线性模式下能够较好地处理异或(XOR)问题。然而，当两类样本具有不同的散度分布时，TWSVM的泛化性能欠佳。

投影对支持向量机(projectiontwinsupportvectormachine,PTSVM)，一种新的非平行超平面分类器，与TWSVM不同的是：PTSVM优化目的是为每类样本寻找最佳投影轴，而且通过递归迭代算法，PTSVM能够生成多个正交投影轴。实验结果表明，PTSVM对复杂的XOR问题具有更好的分类能力。为解决非线性分类问题,也有提出PTSVM的非线性方法。

PTSVM算法如下：

给定两类n维的m个训练样本点,分别用m₁×n的矩阵A和m₂×n的矩阵B表示第1类(+1类)和第2类(-1类)，这里m₁和m₂分别是两类样本的数目，并令m＝m₁+m₂。PTSVM的目标也是在n维空间中寻找两个投影轴w₁和w₂，要求本类样本投影后尽可能聚集，同时他类样本尽可能分散。事实上，PTSVM优化目标也是在n维空间中寻找两个超平面：

x^Tw₁+b₁＝0,x^Tw₂+b₂＝0.(1)

需要注意的是，这里的偏置e₁和e₂是两个实体为1的列向量，A=[x1(1),...,xm1(1)]T,B=[x1(2),...,xm2(2)]T,]]>表示第i类的第j个样本。

第1类超平面的优化准则为