[发明专利]一种抗标签翻转攻击的协同学习方法、装置、设备及介质

说明书

本申请公开了一种抗标签翻转攻击的协同学习方法、装置、设备及介质，包括：利用经验风险最小化方法构建协同机器学习的优化问题；选择有界超球体作为机器学习模型的候选集合，将弹性损失函数应用于优化问题的目标函数；利用交替方向乘数法迭代更新机器学习模型；根据l‑风险计算模型的误分类率，分析协同学习机制的抗标签翻转攻击性能；根据标签翻转概率、数据性质和弹性损失函数性质，计算模型的泛化误差。这样通过巧妙融合弹性损失函数与交替方向乘数法，保证基于翻转标签训练的模型实现与正确标签训练得到的模型相同的分类精度，并进一步揭示翻转标签与学习模型泛化误差间的内在联系，为大范围错误数据注入攻击下的协同机器学习研究奠定了基础。

技术领域

本发明涉及信息安全领域，特别是涉及一种抗标签翻转攻击的协同学习方法、装置、设备及介质。

背景技术

物联网中的感知和计算节点产生了丰富的高价值数据，云服务器可收集这些数据并对其进行深入挖掘和学习，进而为用户提供个性化推荐、健康监测和智能家居等服务，极大提升了人们日常生活的便利程度。随着节点规模的不断扩大，单机模式下的机器学习方法已无法有效应对海量数据的处理任务。协同机器学习技术通过合理调度多个服务器资源，实现了服务器间的协作计算，是解决上述问题的有效途径，具有重要的研究价值和实际应用意义。

然而，随着物联网的不断开放，层出不穷的安全威胁可能会破坏节点产生数据的质量，进而严重影响协同机器学习的性能。受限于体积和功耗，物联网节点仅具备有限的计算、存储和通信资源，使其难以配备复杂的安全防护手段。因此，在物联网的环境下，在服务器端部署弹性防御措施以应对恶意攻击产生的数据破坏成为协同机器学习亟需解决的问题之一。

在节点产生的数据中，标签直接决定机器学习模型的修正方向。若标签被攻击者恶意翻转，则据其训练得到的模型会产生较大的偏差，导致模型无法应用于物联网服务。此外，在一条数据记录中，标签仅占据较小的字段，特别在二分类机器学习问题中，标签只需一个二进制位即可表示，因而攻击者实施标签翻转攻击的代价很小。凭借攻击效果明显且代价小的特点，标签翻转攻击在安全机器学习领域获得了广泛关注，一系列针对该攻击的防御策略面世。然而，在协同机器学习的背景下，尚缺乏有效抵御标签翻转攻击的弹性防御方法。

发明内容

有鉴于此，本发明的目的在于提供一种抗标签翻转攻击的协同学习方法、装置、设备及介质，可以保障训练数据标签被恶意攻击者随机翻转时实现高性能机器学习模型的训练。其具体方案如下：

一种抗标签翻转攻击的协同学习方法，包括：

利用经验风险最小化方法构建协同机器学习的优化问题；

选择有界超球体作为机器学习模型的候选集合，将弹性损失函数应用于所述优化问题的目标函数；

利用交替方向乘数法迭代更新机器学习模型；

根据l-风险计算更新后的机器学习模型的误分类率，分析协同机器学习机制的抗标签翻转攻击性能；

根据标签翻转概率、数据性质和弹性损失函数性质，计算更新后的机器学习模型的泛化误差。

优选地，在本发明实施例提供的上述抗标签翻转攻击的协同学习方法中，构建的所述优化问题包括第一公式和第二公式；所述第一公式和所述第二公式依次为：

其中，w_i和w_k分别表示第i和第k个服务器训练得到的机器学习模型，N(w_i)为正则化函数，a为正则化系数，n为服务器总个数，m_i为第i个服务器收集节点数据时对应的节点个数，每个节点的数据为(x_i,j,y_i,j)，x_i,j表示维数为d的特征字段，y_i,j表示标签字段。