[发明专利]一种基于分组加权的多机构联合的图像识别模型训练方法

权利要求书

1.一种基于分组加权的多机构联合的图像识别模型训练方法，其特征在于，方法实现过程中涉及客户端和服务器；

客户端：参与联邦学习的医疗机构被称作是客户端；每个医疗机构拥有本地的医疗图像数据用于训练和测试；设共有n个客户端参与联邦学习；

服务器：联邦学习的中央协调者，负责聚合客户端上传的模型；第一阶段中服务器维护K组全局模型，第二阶段中服务器每轮通信时为每个客户端计算一组个性化模型；服务器拥有用于模型相似度计算的医疗图像辅助数据集D_aux；

所述图像识别模型训练方法，包括下列阶段：

初始化阶段：服务器初始化K组全局模型；将n个客户端随机分配至K个组中的一组；

客户端分组阶段：

11)服务器将客户端所在组别的全局模型发送给客户端；

12)客户端接收全局模型，将其作为本地模型，使用本地医疗图像数据集和随机梯度下降算法进行E轮本地模型参数更新；

13)完成本地训练后，客户端将更新后的本地模型上传至服务器；

14)服务器收集所有客户端的本地模型后，对每个分组使用其组内客户端的本地模型按样本个数的加权平均来更新该组的全局模型；

15)服务器使用n组客户端本地模型和K组全局模型分别在医疗图像辅助数据集上提取特征，并使用CKA计算每组客户端本地模型所提取特征和每组全局模型所提取特征之间的相似程度；

16)服务器重新将客户端分配至与其最相似的全局模型所对应的分组；

17)重复步骤11)-16)，直至到达指定通信轮数；

组内个性化阶段：

21)服务器将每个客户端的初始个性化模型设置为其所在分组的全局模型；

22)服务器向每个客户端发送其对应的个性化模型；

23)客户端接收个性化模型，将其作为新的本地模型，使用本地医疗图像数据集和随机梯度下降算法进行E轮本地模型参数更新；

24)完成本地训练后，客户端将更新后的本地模型上传至服务器；

25)服务器收集所有n组客户端的本地模型后，使用所有客户端的模型在医疗图像辅助数据集上提取特征，并使用CKA计算每个分组组内客户端模型所提取特征的两两相似度；

26)将步骤25)中得到的两两相似度归一化，并以此为加权系数，为每个客户端计算个性化加权模型；

27)重复步骤22)-26)，直至到达指定通信轮数；使得客户端得到个性化的医疗图像识别模型。

2.根据权利要求1所述的基于分组加权的多机构联合的图像识别模型训练方法，其特征在于，所述14)中，对每个分组使用其组内客户端的本地模型按样本个数的加权平均来更新该组的全局模型，加权系数为客户端拥有的样本的比例。

3.根据权利要求1或2所述的基于分组加权的多机构联合的图像识别模型训练方法，其特征在于，所述15)中，在医疗图像辅助数据集上使用CKA计算客户端上传的模型与服务器维护的K组全局模型所提取特征的相似度，具体过程为：

步骤106，服务器再使用每个客户端的本地模型w_i在大小为q的医疗图像辅助数据集D_aux上提取特征，得到特征矩阵Z_i；服务器使用每个分组的组内全局模型w_(k)在医疗图像辅助数据集D_aux上提取特征，得到特征矩阵Z_(k)；

步骤107，服务器使用CKA计算每个客户端本地模型和每个分组全局模型所提取特征之间的相似度，计算方法如下：

其中，L_i表示特征矩阵Z_i的核矩阵，L_(k)表示特征矩阵Z_(k)的核矩阵，本方法中使用的核为线性核。

4.根据权利要求3所述的基于分组加权的多机构联合的图像识别模型训练方法，其特征在于，所述16)中，为客户端重新分配组别，其过程为：

使用计算得到的相似度CKA(i,k)重新分配客户端的组别，将客户端分配给与其相似度最大的全局模型对应的分组，即

c_i＝argmax_k∈[K]CKA(i,k),i∈[n]。