[发明专利]广义多变量模糊c均值聚类算法

说明书

技术领域

本发明属于数据挖掘领域进行无监督数据分类的算法，具体涉及一种通过对样本分量赋 予模糊隶属度的广义多变量模糊c均值聚类算法。

背景技术

模糊聚类是非监督模式识别的一个重要研究内容，在机器学习、模式分类和数据挖掘等 领域中有着广泛的应用。

模糊C均值算法(fuzzy C-means clustering,FCM)是模糊聚类算法中最重要和应用最广泛 的方法之一。FCM算法存在很多优点，如模型表达形式直观便于理解、优化求解理论严谨、 易于计算机编程实现、聚类结果表现良好等。

关于FCM算法的应用和改进研究有很多，如在FCM算法中引入遗传算法(GA)和粒 子群(PSO)算法对聚类算法参数进行优化估计，从而提高FCM算法全局寻优能力。也有将 FCM算法与全变分正则化项相结合，并将其用于带噪和不完全数据图像的分割。多变量FCM (multivariable FCM，MFCM)算法对样本分量赋与模糊隶属度变量，以期提取更多的样本 分量间类别间隔信息，但MFCM算法无法处理样本分量与聚类中心分量重合的情况。

模糊指标m是FCM算法及其改进算法中的一个重要参数，它的提出直接导致Dunn的 J₂模型推广为更一般形式的Bezdek聚类函数簇Jm模型，并由此奠定了基于目标函数模糊聚 类算法的理论基础。模糊指标m又称之为加权指数、平滑参数，合适的m值具有抑制噪声、 平滑隶属函数等功能。

Bedek指出模糊指标m严重影响着FCM算法的表现，当m＝1时，FCM算法退化为硬聚 类HCM算法，当m趋向于正无穷时，FCM算法得到的各个类中心几乎都退化成数据的重心。 Bedek利用梯度法得到FCM算法模糊隶属度和聚类中心迭代公式，为了保证FCM算法的收 敛性，要求FCM算法目标函数对模糊隶属度的二阶海塞方阵正定，由此决定了模糊指标m 必须大于1。当利用生物进化算法估计模糊隶属度求解聚类目标函数时，则避开了梯度法二 阶海塞方阵正定的要求，从而可以将模糊指标m取值范围扩展到m大于0的情况。

发明内容

本发明为了克服MFCM算法存在的不足之处，保证聚类算法对样本分量与聚类中心分量 重合也有效，提出一种广义多变量模糊c均值聚类算法(general multivariable fuzzy c-means clustering algorithm)，以下简称GMFCM，目的在于通过引入粒子群生物进化算法对样本分量 模糊隶属度寻优，放弃了使得分母为零导致算法矛盾的梯度法迭代公式，从而使得算法完备 有效。同时又保留了MFCM算法对样本分量类别区分性能提取的功能，从而能够获取有效的 聚类分析性能，同时还可扩展模糊指标拓展为m>0的情况，从而提升聚类算法对模糊指标参 数的通用性。

为了实现上述发明目的，本发明采用如下技术方案：

本发明为一种广义多变量模糊c均值聚类算法，特点按如下步骤进行：

步骤1：令X＝{x₁,x₂,L,x_j,L,x_n}表示给定的样本集合，x_j表示第j个样本；1≤j≤n， n是样本的个数；对样本集合X进行最优化划分，使得目标函数值J_GMFCM最小，其中J_GMFCM由 式(1)所确定。

在式(1)中，c表示划分的类别数，1≤i≤c，第j个样本1≤j≤n 相应的聚类中心有x_jk、θ_ik分别表示x_j及θ_i的第k维分量，1≤k≤d， 模糊隶属度u_ijk表示样本x_j的第k维分量属于第i类的可能。0≤u_ijk≤1，且有表 示第j个样本x_j第k维分量归属于各类的模糊隶属度的和为1； U＝{u_ijk,i＝1,L,c；j＝1,L,n；k＝1,L,d}表示隶属度矩阵，m(m＞0)为模糊指标，为u_ijk的m 次；||x_jk-θ_ik||表示基于第j个样本x_j与第i类聚类中心θ_i的二者第k维分量的距离，一般情况 下取为|x_jk-θ_ik|。