[发明专利]一种整合经典模型用于样本降维的流形学习系统

权利要求书

1.一种整合经典模型用于样本降维的流形学习系统，其特征在于：具体步骤是：

1)预处理：将采集的样本集转为适于后续处理的数据矩阵；

2)训练第一步：提出先计算并存储后续所需公式项的策略。

3)训练第二步：根据优化准则函数及公式项的不同组合得到现存模型及新模型，带入原创的目标方程进行优化。

4)训练第三步：提出并行验证生成模型，取最优秀者输出的策略，并得到最佳原创模型mNew5。

5)测试：将测试数据集代入选出的模型进行降维处理，将处理后样本代入后续分类器。

2.根据权利要求1所述的整合经典模型用于样本降维的流形学习系统，其特征在于：所述的训练第一步，提出先计算并存储后续所需公式项的策略，细节为：设计一种策略，归纳系统后续步骤并提取出模型共有公式项，集中在本阶段计算并记录，有利于提高整个系统的效率并节省计算开支。在设计流程中，参与计算的共有公式项包括但不限于：

各类样本质心，

各类样本质心均值，

类间散度矩阵，

类内散度矩阵，

关联矩阵，

以及拉普拉斯矩阵，

L＝D-A 。

3.根据权利要求1所述的整合经典模型用于样本降维的流形学习系统，其特征在于：所述的训练第二步，根据优化准则函数及公式项的不同组合得到现存模型及新模型，带入原创的目标方程进行优化，具体而言：所提系统可以任意组合流形模型的类间项与类内项，组合后生成的模型不仅包括现存多种经典流形学习模型，如线性判别分析(LDA)，局部保留投影(LPP)，最大边界准则(MMC)，判别局部保留投影(DLPP)，基于最大边界准则的判别局部保留投影(DLPP/MMC)，而且包括新构造的降维模型。本专利中，通过组合不同的类内与类间项，可以得到新模型及现存模型如下表所示：

同时，本专利在该步骤提出一种通用的目标方程，适用于设计出的各种流形学习模型的优化，该方程结构如下：

方程中，w即为目标投影向量。Opt表示选择的优化准则函数。Opt＝r表示使用广义瑞利商准则，Opt＝m表示使用最大边界准则。另外，Term1与Term2即为当前使用模型的类间与类内项，根据规则，提出项间组合方式见下表：

进一步，各模型在目标函数内的优化能够并行实现，从而提高整个训练过程的效率。

4.根根据权利要求1所述的整合经典模型用于样本降维的流形学习系统，其特征在于：所述的训练第三步，提出并行验证生成模型，取最优秀者输出的策略，并得到最佳原创模型mNew5，其细节为：所提策略首先将训练样本代入系统上一阶段实现的多个模型，根据目标函数优化后生成对应的降维后样本，再将这些样本代入后续分类器进行效果评估。评估出的最优降维模型即为系统在当前问题下构造的最优模型，被代入测试阶段。所提策略使系统能并行选择模型，并增大系统对问题的适应性。实践中，原创的mNew5模型在所提策略的验证中取得最佳效果，被当作系统代表，带入后续测试集。mNew5模型公式设计如下：

其中，β是一个控制比例缩放的系数，一般设为1。

5.根根据权利要求1所述的整合经典模型用于样本降维的流形学习系统，其特征在于：所述测试阶段，将测试数据集代入选出的模型进行降维处理，将处理后样本代入后续分类器，其具体操作为：当验证集与测试集出自同一任务，该操作选出对目标数据集具有针对性的模型，进而取得比经验地设计或选择模型更好的效果；当验证集为无限定范围的大量多种数据集，该操作在避免人工干涉的前提下，能够自动生成推广性较好的模型，进而增加了所提系统的鲁棒性。