[发明专利]基于自监督对比学习的图像深度聚类方法及系统

权利要求书

1.基于自监督对比学习的图像深度聚类方法，图像划分有样本集、训练集和测试集，其特征在于，包括以下步骤：

(1)对样本集中的每个样本赋予一个索引值，并将所述索引值作为对应样本的自监督标签；所述训练集包括样本、未知聚类标签及所述自监督标签；通过所述训练集训练对比混合专家系统；

(2)通过最大马氏距离分布初始化门控函数的簇嵌入，并随机初始化所述对比混合专家系统的簇嵌入；

(3)对于所述样本集中的每个样本，采用学生网络和教师网络进行样本嵌入提取；将所述学生网络提取的样本嵌入记为学生嵌入，将所述教师网络提取的样本嵌入记为教师嵌入，并将所述学生嵌入和教师嵌入的L2范数均约束为一；

(4)利用门控网络提取门控嵌入，将所述门控嵌入的L2范数均约束为一；

(5)预设一个维持队列，通过所述维持队列动态保存所述教师网络的输出；

(6)获取子专家模型的输出概率，并获取门控函数的输出概率；

(7)利用变分分布获取证据下界，将所述证据下界作为目标函数；

(8)以随机梯度上升更新所述学生网络和门控网络中的参数以及对比混合专家系统的簇嵌入；

(9)通过所述学生网络中参数的指数移动平均值对所述教师网络进行更新；

(10)获取所述样本集中的样本硬划分，所述硬划分中选取变分分布概率最大的维度作为样本的聚类预测，更新所述对比混合专家系统的簇嵌入；

(11)重复步骤(3)至步骤(10)直至所述对比混合专家系统收敛；在测试阶段，使用最后一轮步骤(10)的聚类标签当做最终预测；所述测试集包括样本和真实的类别标签；使用所述测试集验证所述对比混合专家系统的性能。

2.根据权利要求1所述的基于自监督对比学习的图像深度聚类方法，其特征在于，步骤(1)中，赋予索引值的所述样本集未进行标注，样本集包括来自K个类别的样本。

3.根据权利要求1所述的基于自监督对比学习的图像深度聚类方法，其特征在于，步骤(1)中，对样本集中的每个样本赋予的索引值之间互相不同。

4.根据权利要求1所述的基于自监督对比学习的图像深度聚类方法，其特征在于，步骤(3)中，对于所述样本集中的每个样本，采用学生网络和教师网络各提取K个d维的样本嵌入；将所述学生网络提取的K个d维的样本嵌入记为学生嵌入，将所述教师网络提取的K个d维的样本嵌入记为教师嵌入。

5.根据权利要求4所述的基于自监督对比学习的图像深度聚类方法，其特征在于，步骤(4)中，利用门控网络提取一个d维的门控嵌入，将所有d维嵌入的L2范数均约束为一。

6.根据权利要求5所述的基于自监督对比学习的图像深度聚类方法，其特征在于，步骤(3)中，所述门控网络和学生网络共享一个提取特征的深度神经网络，门控网络和学生网络各自有独立的输出层。

7.根据权利要求1所述的基于自监督对比学习的图像深度聚类方法，其特征在于，步骤(5)中，每当获取新的教师嵌入后，将新的教师嵌入放入所述维持队列，同时将最旧的教师嵌入删除。

8.根据权利要求1所述的基于自监督对比学习的图像深度聚类方法，其特征在于，步骤(6)中，将每个对比混合专家系统的输出概率定义为一个非参数化的softmax分类器，其中分子和分母分别为未归一化模型和一个归一化项；

所述未归一化模型为两组内积和的指数函数，分别为所述学生嵌入与教师嵌入间的内积，以及门控嵌入与教师嵌入间的内积；

所述归一化项利用所述维持队列中的教师嵌入来提供近似值，所述门控函数接受样本为输入，输出为一个非参数化的softmax分类器，softmax函数的输入为一个K维的向量，每一维为一个簇嵌入和门控嵌入的内积。

9.根据权利要求1所述的基于自监督对比学习的图像深度聚类方法，其特征在于，步骤(10)中，将所述子专家模型的簇嵌入更新为该簇分配到的教师嵌入和，并归一化簇嵌入的L2范数至一。