[发明专利]一种基于信息熵的超高维数据降维算法

摘要

本发明提出了一种基于信息熵的高维数据降维算法。属于高维数据预处理领域。本发明旨在解决传统PCA算法在实际的应用中存在的问当数据维数(特征)足够高的时候，无法将所有数据特征读一次性入内存以进行分析计算，实验在不借助云平台、分布式计算平台的情况下，使用了分块处理的方法，但是此方法处理耗时太长，不能满足实际应用需求。在此基础上，引入信息熵的思想，对PCA算法进行了改进，使得改进后的算法能够用于处理超高维数据降维，实验结果表明在保证保留相同比例原始数据信息的情况下，后者运行耗时相较于分块处理算法缩减了60倍。

主权项

信息熵可以度量信息量大小，高维数据降维是解决直接处理高维数据面临的四大难题的有效方法，对超高维数据进行分析计算，更要进行降维处理，一种基于信息熵的超高维数据降维算法由以下特征构成：//Input(输入)需要降维的数据矩阵Un×m(或者非矩阵形式rdata)，信息熵阈值et，特征值贡献率f//Output(输出)原始数据降维后的结果Yk×m/*getMatrix函数，将原始数据rdata转换为矩阵形式，记录含有的属性置为1，没有的属性为0，输出n×m的0、1矩阵，某些原始数据非矩阵形式的时候使用*/Matrix＝getMatrix(rdata)/*getEntropy函数，计算属性αi的信息熵值*/H(i)＝getEntropy(αi)/*randomSplit函数，将转换为矩阵的数据Matrix按比随机抽取相应的记录作为训练集，剩下的为检验集*/[B,C]＝randomSplit(Matrix)/*eig函数，计算矩阵的特征值和特征向量*/[eigenVe,eigenVa]＝eig(Cov)/*变量f，计算特征值贡献率，表征主成分占原始数据信息的比例*/。