[发明专利]一种基于t-SNE算法的数据降维方法及装置

说明书

本发明提供一种基于t‑SNE算法的数据降维方法及装置。所述方法包括：计算任意两个高维数据间的欧氏距离d(x_i,x_j)；将所有d(x_i,x_j)按照从小到大的顺序排列后分组，并分别为每个组别设置一个从小到大的加权系数；对所述欧氏距离进行加权，利用加权后的欧氏距离计算高维空间数据的联合分布p_ij，得到低维空间数据的联合分布；基于KL散度构建目标函数，利用梯度下降法求解低维空间数据y_i、y_j的最优解。本发明基于改进的t‑SNE算法，通过对欧氏距离分组加权，使高相似程度的样本数据的相似程度变得更高，使低相似程度的样本数据的相似程度变得更低，降维后的低维样本能够更好地反映高维空间内样本的空间分布情况。

技术领域

本发明属于数据降维技术领域，具体涉及一种基于t-SNE算法的数据降维方法及装置。

背景技术

随着科学技术的发展进步，尤其是大数据时代的到来，数据规模和复杂性逐渐增加，数据维数通常可达到成百上千维，甚至更多。但通常所使用的高维数据中包含很多冗余数据和噪声数据，很难从数据中直接观察到数据的分布和特征。因此，对高维数据进行可视化降维，有利于提取出高维空间中数据的特征分布。

传统的降维方法主要采用线性方法对数据进行降维，如主成分分析法PCA、非负矩阵分解法NMF等。但是这些传统的线性降维方法很难准确地表示内部结构为非线性的数据。为此，在过去的几十年里，出现了很多非线性降维算法，如等度量映射法ISORRAP、局部线性嵌入法LLE和随机相邻嵌入法SNE等。t分布式相邻嵌入法t-SNE是SNE算法的一种改进算法，该算法是一种保持数据点之间距离的非线性映射方法，当将高维空间数据点维数降到低维空间时，保存内部结构和全局结构信息。t-SNE算法的不足是，在降维过程中对于相关性或相似程度不同的数据样本不加区别地一律相待，降维后的低维样本不能很好地反映高维空间内样本的空间分布情况。

发明内容

为了解决现有技术中存在的上述问题，本发明提供一种基于t-SNE算法的数据降维方法及装置。

为了实现上述目的，本发明采用以下技术方案。

第一方面，本发明提供一种基于t-SNE算法的数据降维方法，包括：

计算任意两个高维数据x_i、x_j间的欧氏距离d(x_i,x_j)；

将所有d(x_i,x_j)按照从小到大的顺序排列后分组，并分别为每个组别设置一个从小到大的加权系数；

对所述欧氏距离进行加权，利用加权后的欧氏距离计算高维空间数据x_i、x_j的联合分布p_ij，得到低维空间数据y_i、y_j的联合分布q_ij；

基于KL散度构建目标函数，利用梯度下降法求解低维空间数据y_i、y_j的最优解。

进一步地，所述两个高维数据x_i、x_j间的欧氏距离为：

式中，x_in、x_jn分别x_i、x_j的第n维分量，n＝1,2,…,N，N为高给数据的维度。

更进一步地，x_i、x_j的联合分布p_ij为：