[发明专利]一种联邦学习系统

说明书

本发明公开了一种联邦学习系统，包括联盟构建单元、数据集市单元、模型训练单元、模型发布单元及报表统计单元，所述联盟构建单元包括联盟成员模块、平台搭建模块及联盟合作模块，所述数据集市单元包括数据上架模块、数据查找模块及订阅管理模块，所述模型训练单元包括可视化建模模块、训练任务模块及训练跟踪模块，所述模型发布单元包括发布模块、预测任务模块及预测跟踪模块，所述报表统计单元用于针对联盟成员各方进行模型训练次数统计、ID交集统计、模型预测次数统计及数据使用情况统计。

技术领域

本发明涉及机器学习技术领域，特别涉及一种联邦学习系统。

背景技术

现代机器学习系统可能容易遭受各种故障，这些故障包括非恶意故障，例如预处理管道中的错误，嘈杂的培训标签，不可靠的客户端以及针对培训和部署管道的显式攻击。联合学习的分布式性质、体系结构设计以及数据约束打开了新的故障模式和攻击面，在联邦学习中存在数据隐私保护的难题，存在数据泄露的风险，同时联邦学习中联合建模对专业人员配置算法流程的要求比较高，限制了联邦学习的应用。

发明内容

为解决上述问题，本发明提供了一种联邦学习系统。

本发明采用以下技术方案：

一种联邦学习系统，包括联盟构建单元、数据集市单元、模型训练单元、模型发布单元及报表统计单元，其中：

所述联盟构建单元包括联盟成员模块、平台搭建模块及联盟合作模块，所述联盟成员模块用于配置联盟成员角色、角色权限配置模块及维护联盟成员信息，所述联盟成员角色包括发起方、参与方及协作方，所述角色权限配置模块用于配置联盟成员角色的数据共享权限，所述数据共享权限具体为，协作方获得的数据仅是发起方和参与方的梯度值和损失值，发起方与参与方不获得对方数据的特征值，所述联盟成员信息包括联盟成员各方的基础信息和平台信息，所述平台搭建模块用于联盟成员各方线下搭建各自的联邦学习平台，所述联盟合作模块基于合作邀请机制建立多方合作联盟，其用于联盟合作的申请和验证；

所述数据集市单元包括数据上架模块、数据查找模块及订阅管理模块，所述数据上架模块用于联盟成员上架符合联邦学习建模要求的数据集，所述数据查找模块用于查找需要使用的数据并校验数据是否已授权订阅，所述订阅管理模块用于数据订阅的申请和授权；

所述模型训练单元包括可视化建模模块、训练任务模块及训练跟踪模块，所述可视化建模模块用于根据联邦学习任务实现算法流程的可视化配置，所述训练任务模块根据算法流程进行模型训练，所述训练跟踪模块用于实时查看模型训练状态并进行评估分析，所述模型训练具体为，基于所述算法流程提交训练任务，发起方、参与方及协作方分别执行训练任务，彼此之间通过API接口进行加密通信，所述执行训练任务包括ID匹配对齐、特征分箱、模型梯度传递及模型梯度聚合；

所述模型发布单元包括发布模块、预测任务模块及预测跟踪模块，所述发布模块用于提交预测任务，所述预测任务包括离线预测任务和在线预测任务，所述预测任务模块用于联盟成员各方执行模型预测任务，所述预测跟踪模块用于查看模型预测状态；

所述报表统计单元用于针对联盟成员各方进行模型训练次数统计、ID交集统计、模型预测次数统计及数据使用情况统计。

优选地，所述的联盟成员各方执行模型预测任务，彼此进行信息交互时进行加密通信。

优选地，所述加密通信采用非对称同态加密。

优选地，所述非对称同态加密采用RSA加密算法或Paillier加密算法。

优选地，所述非对称同态加密具体为：

协作者将公钥分发给发起者和参与者，用以对训练过程中需要交换的数据进行加密；

发起者和参与者以加密形式交互用于计算梯度值的中间结果；