[发明专利]一种基于联邦学习的工业物联网隐私保护系统及方法在审
申请号: | 202210079619.0 | 申请日: | 2022-01-24 |
公开(公告)号: | CN114417417A | 公开(公告)日: | 2022-04-29 |
发明(设计)人: | 曹美;赵梦莹;张浩;申兆岩;蔡晓军;贾智平 | 申请(专利权)人: | 山东大学 |
主分类号: | G06F21/62 | 分类号: | G06F21/62;G06N20/00;G16Y10/75;G16Y40/50 |
代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 张庆骞 |
地址: | 266237 *** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 联邦 学习 工业 联网 隐私 保护 系统 方法 | ||
1.一种基于联邦学习的工业物联网隐私保护系统,其特征在于,包括服务器节点和若干相互通信的客户端节点;所述服务器节点内预存有初始全局模型,所述服务器节点用于:
根据不同客户端节点上传的自身拥有的数据类别,将工业物联网参与训练的客户端节点划分成不同的组;
基于数据类别感知的客户端选择算法,在每一轮通信中向选择不同组的客户端节点下发联邦学习的全局模型;
所述客户端节点用于:在本地利用自身数据对接收到的全局模型进行训练,并将训练完成的本地模型上传至服务器节点;
所述服务器节点,还用于:使用加权平均的策略对若干个本地模型进行聚合并形成新的全局模型,直至达到设定要求,结束全局模型下发、本地模型训练和聚合而形成全局模型这一过程的迭代。
2.如权利要求1所述的基于联邦学习的工业物联网隐私保护系统,其特征在于,在服务器节点中,基于数据类别感知的客户端选择算法在每一轮全局迭代开始之前,决定选择哪一组客户端节点进行本轮的训练,考虑两个原则:
原则一:整个联邦学习过程选择每个客户端节点的概率应该大致相等;
原则二:在连续的几轮通信中,所有选定客户端节点的数据都应该代表整个数据分布。
3.如权利要求1所述的基于联邦学习的工业物联网隐私保护系统,其特征在于,在第t轮的通信中,择价值最小的客户端节点组;使用下列公式计算每个客户端节点组的价值
其中,Ct-1[k]表示在过去的t-1轮客户端节点k被选中的次数,|Se|表示集合Se中客户端节点的数量,表示在集合Se中类别为l的样本总数,表示集合Se中的样本总数,Ht[l]表示在过去的t轮中被选中类别为l的样本的累计率,Ht-1[l]表示在过去的t-1轮中被选中类别为l的样本的累计率,St表示在第t轮通信中被选中的组。
4.如权利要求1所述的基于联邦学习的工业物联网隐私保护系统,其特征在于,在每一轮的全局迭代前,所有客户端节点向服务器节点上传自己拥有的数据类别。
5.如权利要求1所述的基于联邦学习的工业物联网隐私保护系统,其特征在于,服务器节点用于根据客户端节点的数据类别将所有的客户端分成若干组,同一组内的客户端节点拥有相同或相似的数据类别。
6.如权利要求1所述的基于联邦学习的工业物联网隐私保护系统,其特征在于,服务器节点用于根据客户端节点集合内数据类别的相似度进行合并。
7.如权利要求6所述的基于联邦学习的工业物联网隐私保护系统,其特征在于,在服务器节点中,当某两个客户端节点集合的数据类别最大相似度低于预定义的阈值时,表明不再存在相似集合,合并迭代结束。
8.如权利要求1所述的基于联邦学习的工业物联网隐私保护系统,其特征在于,服务器节点用于:如果客户端节点的数据标签集合发生变化,则重新进行客户端节点分组工作。
9.如权利要求1所述的基于联邦学习的工业物联网隐私保护系统,其特征在于,结束全局模型下发、本地模型训练和聚合而形成全局模型这一过程的迭代的设定要求为:全局模型的精度或联邦学习的通信轮数达到设定的阈值。
10.一种如权利要求1-9中任一项所述的基于联邦学习的工业物联网隐私保护系统的隐私保护方法,其特征在于,包括:
服务器节点根据不同客户端节点上传的自身拥有的数据类别,将工业物联网参与训练的客户端节点划分成不同的组;基于数据类别感知的客户端选择算法,在每一轮通信中向选择不同组的客户端节点下发联邦学习的全局模型;
客户端节点在本地利用自身数据对接收到的全局模型进行训练,并将训练完成的本地模型上传至服务器节点;
服务器节点使用加权平均的策略对若干个本地模型进行聚合并形成新的全局模型,直至达到设定要求,结束全局模型下发、本地模型训练和聚合而形成全局模型这一过程的迭代。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东大学,未经山东大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210079619.0/1.html,转载请声明来源钻瓜专利网。