[发明专利]联邦学习信息处理方法、系统、存储介质、程序、终端有效
申请号: | 202010282762.0 | 申请日: | 2020-04-12 |
公开(公告)号: | CN111611610B | 公开(公告)日: | 2023-05-30 |
发明(设计)人: | 樊凯;赵斌;金海;尤伟;李晖 | 申请(专利权)人: | 西安电子科技大学 |
主分类号: | G06F21/62 | 分类号: | G06F21/62;G06N3/045;G06N3/0464;G06N3/0499;G06N3/098 |
代理公司: | 西安长和专利代理有限公司 61227 | 代理人: | 肖志娟 |
地址: | 710071 陕西省*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 学习 信息处理 方法 系统 存储 介质 程序 终端 | ||
本发明属于无线通信网络技术领域,公开了一种联邦学习信息处理方法、系统、存储介质、程序、终端,参数服务器确认训练任务及初始参数,并初始化全局模型;参数服务器随机选择部分参与者下发模型参数,加密并通过代理服务器转发;参与者接受模型部分参数并覆盖本地模型,利用本地数据对模型进行优化;参与者根据优化结果计算模型梯度,选择其中部分上传,对上传梯度添加噪声实现差分隐私,加密并通过代理服务器转发;参数服务器接受所有参与者的梯度,整合并更新全局模型;重复进行模型的下发—训练—更新过程,直到达到预期损失函数。本发明实现数据隐私的保护;减少了参数服务器的通信开销,并且实现了参与者的匿名。
技术领域
本发明属于无线通信网络技术领域,尤其涉及一种联邦学习信息处理方法、系统、存储介质、程序、终端。
背景技术
目前,随着物联网,大数据和5G网络架构的快速发展和广泛应用,网络边缘设备生成的海量数据和实时服务需求已远远超过了传统云计算模型的能力,边缘计算将云服务扩展到网络边缘,具有低延迟,较小的带宽和隐私保护的优势。边缘计算充分利用了大量分布式边缘节点的计算能力,从而降低了云数据中心的计算压力,但是,边缘节点的管理也更加复杂,一些安全性较差的边缘节点可能会受到入侵者的恶意攻击,此外网络边缘的用户或设备生成的数据可能包含用户的隐私数据,例如位置信息,身体状况和活动记录。为了充分利用边缘数据,基于人工智能的方法挖掘数据信息,发现新的模式和知识,以提取新的和有价值的信息,但是,直接在多个边缘节点之间共享私有数据可能会导致很大的隐私泄露风险。
联邦学习(Federated Learning)是一种基于分布式数据训练模型的可行方法,该方法将私有数据保留在边缘节点中,通过共享参数训练模型,从而防止了原始数据的隐私泄露。但是,恶意参与者可能会通过共享参数推测他人的隐私,同时,好奇的服务器能够将参数与参与者链接起来。基于差分隐私的方法,可以为数据提供强隐私保护,通过在参数上添加噪声,减少模型隐私泄露的可能性。同时,同态加密和安全多方计算方法,通过隐藏原始数据,保证数据的隐私。
然而,现有的方案依旧没有完全解决如何平衡模型隐私与效率的问题。
通过上述分析,现有技术存在的问题及缺陷为:
(1)联邦学习分享参数泄露用户隐私,如何保证数据的隐私,防止参数隐私泄露是一个技术难题。
(2)在保证参数服务器与参与者通信的情况下,如何防止服务器将参与者与参数链接起来,实现参与者身份匿名是一个技术难题。
(3)大多数方法以降低模型性能或系统效率为代价提供隐私,如何平衡隐私与效率是一个技术难题。
解决以上问题及缺陷的难度为:(1)联邦学习分享参数泄露用户隐私,如何保证数据的隐私,防止参数隐私泄露是一个技术难题。
(2)在保证参数服务器与参与者通信的情况下,如何防止服务器将参与者与参数链接起来,实现参与者身份匿名是一个技术难题。
(3)大多数方法以降低模型性能或系统效率为代价提供隐私,如何平衡隐私与效率是一个技术难题。
解决以上问题及缺陷的意义为:联邦学习信息处理方法,实现参与者的匿名,同时防止模型参数泄露参与者隐私,适用性高,能够用于边缘计算等实际场景。
发明内容
针对现有技术存在的问题,本发明提供了一种联邦学习信息处理方法、系统、存储介质、程序、终端。
本发明是这样实现的,一种联邦学习信息处理方法,所述联邦学习信息处理方法包括:
第一步,参数服务器确认训练任务及初始参数,并初始化全局模型;
第二步,参数服务器随机选择部分参与者下发模型参数,加密并通过代理服务器转发;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安电子科技大学,未经西安电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010282762.0/2.html,转载请声明来源钻瓜专利网。