[发明专利]一种基于联邦学习的隐私保护跨领域推荐系统在审
申请号: | 202210484040.2 | 申请日: | 2022-05-06 |
公开(公告)号: | CN115033780A | 公开(公告)日: | 2022-09-09 |
发明(设计)人: | 赵鑫;田长鑫 | 申请(专利权)人: | 中国人民大学 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F21/62;G06N20/00 |
代理公司: | 北京邦创至诚知识产权代理事务所(普通合伙) 11717 | 代理人: | 张宇锋 |
地址: | 100872 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 联邦 学习 隐私 保护 领域 推荐 系统 | ||
1.一种基于联邦学习的隐私保护跨领域推荐系统,其特征在于,包括如下步骤:
S1:单个域内的私有更新,即通过图迁移模块来融合用户全局和本地偏好,并基于域内数据用梯度下降算法局部更新全局和本地偏好;
S2:在私有更新后,采用联邦更新过程来协作学习基于多域数据的全局用户首选项,并通过个性化聚合使这些全局首选项适应异构域数据;
S3:使用周期同步机制降低通信成本。
2.根据权利要求1所述的基于联邦学习的隐私保护跨领域推荐系统,其特征在于,步骤S1中的所述图迁移模块具体为:
对于每一个域,根据该领域的用户交互数据,构建特定于域的用户-项目交互图,设置全局和本地用户节点来建模全局和局部用户偏好,并增加连接全局和本地用户节点的边;其中,用户u的全局用户节点与嵌入相关联,用户u的原始用户节点与嵌入eu相关联,eu和均为实数空间内维度为m的向量;图传输模块可以抽象为L-层转换;在l-th层,首先应用一个双向嵌入传输来在局部和全局用户偏好之间交换消息,其具体计算方式如下:
其中,fT(·,·|β)是迁移函数,β1和β2是在[0,1]范
围内控制传输中保留率的超参数,表示图中用户u的邻居集合;和分别表示用户u在传输前的本地和全局表示,其中本地用户表示在发送到l+1层之前,将在消息传播中进一步更新,其消息传播的具体操作如下:
其中,表示图中项目i在用户项目交互图上的邻居集合,项目表示通过可学习性嵌入ei∈Rm来初始化;在图传输模块中L-layer变换后,我们将所有L层产生的表示串接起来,得到最终的用户表示和项目表示如下所示:
式中Concat()表示连接操作;最终的用户表示形式hu已经编码了全局和本地用户首选项,以及用户项目图上的高阶信息。
3.根据权利要求2所述的基于联邦学习的隐私保护跨领域推荐系统,其特征在于,步骤S1中基于域内数据用梯度下降算法局部更新全局和本地偏好具体为:
给定用户和项目表示,采用内积操作来生成分数,以预测用户u与来自d域的项目i的交互可能性,具体计算方式如下:
其中为用户u和项目i的预测得分;然后采用贝叶斯个性化排序损失,基于单域交互数据更新局部和全局用户嵌入,其定义为:
其中,σ(·)是Sigmoid函数,λ控制L2正则化的强度,Θd是领域d的模型参数;通过负采样构造训练样本对,表示成对训练数据集合;通过这种方式,模型基于域内数据局部学习每个域的局部用户嵌入和域特定项嵌入。
4.根据权利要求1所述的基于联邦学习的隐私保护跨领域推荐系统,其特征在于,步骤S2中在私有更新后,采用联邦更新过程来协作学习基于多域数据的全局用户首选项具体为:
在私有更新过程中,每个域d为全局用户维护嵌入的全局用户,该用户使用域内数据进行本地更新;为了刻画更全面的用户偏好,需要学习跨领域的知识来增强本地用户偏好;为此,采用去中心化的联邦学习来基于多个域的数据协作地更新全局用户嵌入;这些全局用户嵌入将在多个域之间共享;然而,这些用户嵌入包含了用户行为的隐私信息,出于隐私考虑,不能在域外直接共享;在共享全局用户嵌入之前,对全局用户嵌入应用本地差异隐私技术;具体地说,对于每一个全球用户添加强度为λ3DP的拉普拉斯噪声,来获得被加密保护的嵌入然后,每个域d发送受保护嵌入给其他领域,与此同时从其他领域接受共享嵌入
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民大学,未经中国人民大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210484040.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种尿液检测装置及其检测方法
- 下一篇:一种门框吊装装置及其吊装方法