[发明专利]一种应对攻击的方法及联邦学习装置

说明书

本发明公开了一种应对攻击的方法及联邦学习装置，该方法包括：按照预设动态监测机制监测联盟本回合训练各参与方反馈的模型参数；根据所述模型参数和预设攻击几率模型，确定各参与方对联邦学习模型进行攻击的攻击几率，并根据所述攻击几率从各参与方中识别出恶意攻击方；根据上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，并根据上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对恶意攻击方的惩罚力度；根据所述惩罚力度，确定恶意攻击方的惩罚损失并发送给恶意攻击方，用于威慑恶意攻击方，以达到防范恶意攻击方攻击联邦学习模型的目的，可以有效降低恶意攻击方攻击联邦学习模型的成功率。

技术领域

本发明涉及金融科技(Fintech)技术领域和人工智能技术领域，尤其涉及一种应对攻击的方法及联邦学习装置。

背景技术

联邦学习是一种新型的通过分布式训练及加密技术，确保用户隐私数据得到最大限度的保护的机器学习理念。在联邦学习机制下，各参与方把加密后的数据模型贡献给联盟，联合训练一个联邦学习模型，通过联邦学习模型再开放给各参与方使用。

然而，在这个过程中，恶意攻击方可以攻击联邦学习模型，以期望获取到某种特殊利益。但是，目前还未存在应对恶意攻击方攻击的方法，从而无法达到防范恶意攻击方攻击联邦学习模型的目的，使得恶意攻击方攻击联邦学习模型的成功率高。

因此，如何应对恶意攻击方的攻击，成为了当前亟需解决的问题。

发明内容

本发明提供一种应对攻击的方法及联邦学习装置，用以解决现有技中不存在应对恶意攻击方的攻击的方法的问题，从而可以达到防范恶意攻击方攻击联邦学习模型的目的，进而可以降低恶意攻击方攻击联邦学习模型的成功率。

为实现上述目的，第一方面，本发明提供一种应对攻击的方法，包括：

按照预设动态监测机制监测联盟本回合训练各参与方反馈的模型参数；

根据所述模型参数和预设攻击几率模型，确定所述各参与方对联邦学习模型进行攻击的攻击几率，并根据所述攻击几率从所述各参与方中识别出恶意攻击方；

根据所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，并根据所述上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度；

根据所述惩罚力度，确定所述恶意攻击方的惩罚损失并发送给所述恶意攻击方。

在一种可能的设计中，根据所述上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度，包括：

确定监测联盟本回合训练各参与方反馈的模型参数的时长；

基于所述时长，确定本回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度；

根据所述上一回合的目标监测力度，确定所述恶意攻击方本回合攻击所述联邦学习模型的成功率；

根据所述损失力度、所述成功率和所述预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度。

在一种可能的设计中，根据所述模型参数和预设攻击几率模型，确定所述各参与方对联邦学习模型进行攻击的攻击几率，包括：

根据所述模型参数，更新所述联邦学习模型的参数，并统计联盟训练各参与方的历史回合的次数；所述联邦学习模型的参数的更新次数与联盟训练各参与方的历史回合的次数相等；

获取记录的所述各参与方在各历史回合攻击所述联邦学习模型的次数；

根据联盟训练各参与方的历史回合的次数以及所述各参与方在各历史回合攻击所述联邦学习模型的次数，确定所述各参与方在所述各历史回合的历史攻击几率；