[发明专利]一种联邦学习中在黑盒场景下基于对抗样本的鲁棒水印遗忘验证方法

摘要

本发明公开了一种联邦学习中在黑盒场景下基于对抗样本的鲁棒水印遗忘验证方法，通过在遗忘用户本地数据集中随机筛选部分样本，进行数据增广，利用对抗样本生成方法在增广后的数据上微调生成对抗样本。将本地模型在这些对抗样本和原有的本地数据上进行对抗训练，生成更加鲁棒的嵌入水印后的本地模型上传给中心服务器聚合。遗忘用户通过黑盒访问接下来若干个周期的全局模型，根据全局模型在这些对抗样本上的输出提取水印，验证遗忘情况。本发明方法具有鲁棒性强，验证效果好，对于数据分布依赖小，黑盒访问全局模型避免公平性问题，对于遗忘验证结果提供理论保证等优点，可以有效鉴别遗忘与否，能够广泛应用和部署在各种需要进行遗忘验证的场景中。